用于处理图像的方法、处理器、家用电器及存储介质
文献发布时间:2023-06-19 11:57:35
技术领域
本发明涉及家用电器领域,具体地涉及一种用于处理图像的方法、处理器、家用电器、机器可读存储介质及计算机程序产品。
背景技术
随着信息社会的发展,智能家电越来越多地出现在人们的生活之中,社会和经济水平的发展使得人们对家电品质的追求也越来越高,家居舒适化和智能化的需求越来越强烈。智能厨房是整个智能家居的重要一环,而智能烹饪和智能洗碗又是智能厨房的重中之重。
目前,油烟机在获取灶台的图像时,由于油烟对成像的影响,影响了图像分析。洗碗机在获取餐具的图像时,由于水印对成像的影响,影响了图像分析。这样,导致智能家电的图像处理效果较差。
发明内容
为了克服现有技术存在不足,本发明实施例提供了用于处理图像的方法、处理器、家用电器及存储介质。
为了实现上述目的,本发明第一方面提供一种用于处理图像的方法,应用于家用电器,方法包括:
在家用电器开始工作的情况下,获取与家用电器的工作场景相关联的图像;
确定图像中是否存在需要去除的干扰分量;
在确定图像中存在需要去除的干扰分量的情况下,将图像输入到生成式对抗网络(Generative Adversarial Networks,GAN)的生成器(Generator),以生成去除干扰分量的图像;
其中生成式对抗网络还包括判别器(Discriminator),生成器和判别器被交替训练。
在本发明实施例中,在家用电器开始工作时,获取并保存与家用电器的工作场景相关联的第一帧图像,第一帧图像与生成的去除干扰分量的图像用作为训练生成式对抗网络的样本对。
在本发明实施例中,获取图像训练样本集,图像训练样本集包括多个图像对,每个图像对包括无干扰分量图像和与无干扰分量图像对应的有干扰分量图像;
将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像;
将有干扰分量图像和去除干扰分量的图像输入到判别器,以输出结果;
计算生成式对抗网络的损失函数,损失函数与生成器和判别器相关联;
在损失函数满足期望值的情况下,结束对生成器和判别器的训练。
在本发明实施例中,干扰分量包括油烟或水印。
在本发明实施例中,将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像,包括:
将有干扰分量图像和无干扰分量图像输入到生成器;
对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图;
对特征图进行上采样,以生成去除干扰分量的图像。
在本发明实施例中,对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图,包括:
将有干扰分量图像和无干扰分量图像进行拼接;
对拼接的图像进行下采样,以提取特征图。
在本发明实施例中,对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图,包括:
对有干扰分量图像和无干扰分量图像分别进行下采样,以分别提取第一特征图和第二特征图;
对第一特征图和第二特征图进行拼接,以生成特征图。
在本发明实施例中,将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像,还包括:
对特征图进行卷积操作,以进行特征大小不变的非线性变换;
对特征图进行上采样,以生成去除干扰分量的图像包括:对经过非线性变换后的特征图进行上采样,以生成去除干扰分量的图像。
在本发明实施例中,下采样包括多层卷积操作。
在本发明实施例中,卷积操作的步长为2。
在本发明实施例中,上采样包括多层的双线性插值与卷积操作的结合。
在本发明实施例中,生成器采用U-Net结构模型。
本发明第二方面提供一种处理器,被配置成执行上述的用于处理图像的方法。
本发明第三方面提供一种家用电器,包括上述的处理器。
在本发明实施例中,家用电器包括油烟机或洗碗机。
本发明第四方面提供一种机器可读存储介质,该机器可读存储介质上存储有指令,该指令用于使得机器执行上述的用于处理图像的方法。
上述技术方案,获取家用电器的工作场景相关联的图像,基于生成式对抗网络来对图像进行处理,去除图像中的干扰分量。例如,当家用电器为油烟机时,上述技术方案可用于去除图像中的油烟;当家用电器为洗碗机时,上述技术方案可用于去除图像中的水印。上述技术方案中,利用生成式对抗网络的生成器去除图像中的干扰分量,利用生成式对抗网络的判别器对去除干扰分量的图像进行判断和识别,确保图像的干扰分量被去除,且满足预期效果,同时,生成器判别器被交替训练。这样,提高了家用电器的工作场景的图片成像质量,改善了智能家电的图像处理效果,提高了家电品质,提升了家电的智能化程度。
附图说明
附图是用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明实施例,但并不构成对本发明实施例的限制。在附图中:
图1示意性示出了根据本发明实施例的用于处理图像的方法的流程图;
图2示意性示出了根据本发明一实施例的油烟机的应用场景图;
图3示意性示出了根据本发明一实施例的洗碗机的应用场景图;
图4示意性示出了根据本发明一实施例的生成式对抗网络的整体设计图;
图5示意性示出了根据本发明一实施例的生成器的工作流程图;
图6示意性示出了根据本发明一实施例的生成器的输入方法图;
图7示意性示出了根据本发明一实施例的U-Net的结构模型图;
图8示意性示出了根据本发明一实施例的判别器的工作流程图;
图9示意性示出了根据本发明一实施例的用于处理图像的方法的控制流程图。
具体实施方式
以下结合附图对本发明实施例的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明实施例,并不用于限制本发明实施例。
需要说明,若本申请实施方式中有涉及方向性指示(诸如上、下、左、右、前、后……),则该方向性指示仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
另外,若本申请实施方式中有涉及“第一”、“第二”等的描述,则该“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施方式之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。
图1示意性示出了根据本发明实施例的用于处理图像的方法的流程示意图。如图1所示,在本发明一实施例中,提供了一种用于处理图像的方法,包括以下步骤:
步骤101,在家用电器开始工作的情况下,获取与家用电器的工作场景相关联的图像;
步骤102,确定图像中是否存在需要去除的干扰分量;
步骤103,在确定图像中存在需要去除的干扰分量的情况下,将图像输入到生成式对抗网络的生成器,以生成去除干扰分量的图像;其中所述生成式对抗网络还包括判别器,所述生成器和所述判别器被交替训练。
随着信息社会的发展,智能家电越来越多地出现在人们的生活之中,社会和经济水平的发展使得人们对家电品质的追求也越来越高,家居舒适化和智能化的需求越来越强烈。智能厨房是整个智能家居的重要一环,而智能烹饪和智能洗碗又是智能厨房的重中之重。在油烟机上部署摄像头来获取灶台的图像信息,或者在洗碗机上部署摄像头来获取餐具的图像信息,之后再利用人工智能技术对图像进行分析,图片的成像质量对于家电后续的图像分析至关重要。
本发明实施例的用于处理图像的方法应用于家用电器,具体地,家用电器可以为油烟机,也可以为洗碗机,还可以为其他类型的电器,对此本发明实施例不作限定。干扰分量可以为油烟或者水印,也可以为其他类型的干扰分量,对此本发明实施例不作限定。这里油烟作为干扰分量是指由于油烟的干扰导致摄像头拍摄图像的清晰度受到影响。水印作为干扰分量是指水溅到摄像头的镜头上导致摄像头拍摄的图像中包含附着在镜头上的水滴或水雾的像,也称为“水印”。
在一实施例中,如图2所示,图2示意性示出了根据本发明一实施例的油烟机的应用场景图。当家用电器为油烟机时,在油烟机1开始工作的情况下,油烟机1利用摄像头2拍摄与油烟机1的工作场景相关联的图像,例如,获取灶台3的图像信息,然后利用本发明实施例提供的方法去除图像中的油烟干扰。
在烹饪过程中难免产生大量油烟,即使利用油烟机也无法完全消除油烟对成像的影响,成像的质量较差,对家电后续的图像处理算法的精度带来了较大的困扰。应用本发明实施例提供的用于处理图像的方法,可以对有油烟的图像进行还原,消除油烟的干扰。优质的成像质量决定人工智能算法的准确度和精度,因此,本发明实施例提升了家电的品质和用户的交互体验。
在一实施例中,如图3所示,图3示意性示出了根据本发明一实施例的洗碗机的应用场景图。当家用电器为洗碗机4时,在洗碗机4开始工作的情况下,洗碗机4利用摄像头拍摄与洗碗机4的工作场景相关联的图像,例如获取餐具5的图像信息,然后利用本发明实施例提供的方法去除图像中的水印干扰。
类似地,在洗碗机洗碗的过程中,由于水流冲击餐具,不可避免会导致水花附着在洗碗机的摄像头上,水印会导致图像扭曲,对洗碗机后续的识别与检测任务带来较大的困扰。应用本发明提供的用于处理图像的方法,可以对有水印的图像进行还原,消除水印的干扰。
本发明实施例提供了一种基于生成式对抗网络的去除图像中的干扰分量的方法,该方法是一套端到端的算法流程,只需要输入图片,不需要额外的参数或者人为因素的辅助,就可以使得网络自动产出无干扰分量的图片,提升家电的成像质量,为家电提供高质量的图像输入保证,提高图像处理算法的识别精度,为用户提供更好的交互体验。
上述技术方案,获取家用电器的工作场景相关联的图像,基于生成式对抗网络来对图像进行处理,去除图像中的干扰分量。例如,当家用电器为油烟机时,上述技术方案可用于去除图像中的油烟;当家用电器为洗碗机时,上述技术方案可用于去除图像中的水印。上述技术方案中,利用生成式对抗网络的生成器去除图像中的干扰分量,利用生成式对抗网络的判别器对去除干扰分量的图像进行判断和识别,确保图像的干扰分量被去除,且满足预期效果。同时,生成器判别器被交替训练。这样,提高了家用电器的工作场景的图片成像质量,改善了智能家电的图像处理效果,提高了家电品质,提升了家电的智能化程度。
在一个实施例中,用于处理图像的方法还包括:
在家用电器开始工作时,获取并保存与家用电器的工作场景相关联的第一帧图像,第一帧图像与生成的去除干扰分量的图像用作为训练生成式对抗网络的样本对。
在一个实施例中,用于处理图像的方法还包括:
获取图像训练样本集,图像训练样本集包括多个图像对,每个图像对包括无干扰分量图像和与无干扰分量图像对应的有干扰分量图像;
将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像;
将有干扰分量图像和去除干扰分量的图像输入到判别器,以输出结果;
计算生成式对抗网络的损失函数,损失函数与生成器和判别器相关联;
在损失函数满足期望值的情况下,结束对生成器和判别器的训练。
在一个实施例中,干扰分量包括油烟或水印。
在一个实施例中,将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像,包括:
将有干扰分量图像和无干扰分量图像输入到生成器;
对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图;
对特征图进行上采样,以生成去除干扰分量的图像。
在一个实施例中,对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图,包括:
将有干扰分量图像和无干扰分量图像进行拼接;
对拼接的图像进行下采样,以提取特征图。
在一个实施例中,对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图,包括:
对有干扰分量图像和无干扰分量图像分别进行下采样,以分别提取第一特征图和第二特征图;
对第一特征图和第二特征图进行拼接,以生成特征图。
在一个实施例中,将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像,还包括:
对特征图进行卷积操作,以进行特征大小不变的非线性变换;
对特征图进行上采样,以生成去除干扰分量的图像包括:对经过非线性变换后的特征图进行上采样,以生成去除干扰分量的图像。
在一个实施例中,下采样包括多层卷积操作。
在一个实施例中,卷积操作的步长为2。
在一个实施例中,上采样包括多层的双线性插值与卷积操作的结合。
在一个实施例中,生成器采用U-Net结构模型。
下面以一个具体实施例来对本发明实施例提供的用于处理图像的方法进行示例说明。
根据不同的应用场景,可以在家用电器上灵活地部署摄像头。例如把摄像头部署在油烟机上,摄像头可以不断记录灶台上的烹饪过程。当用户点火后,油烟机便开始存储第一帧图像,然后不断地将视频或图像数据传给后端的系统进行分配处理。也可以把摄像头部署在洗碗机上,摄像头可以不断记录洗碗机内的餐具的信息,当洗碗机的门被关上后,初始化摄像头,洗碗机便开始存储第一帧图像,然后不断地将视频或图像数据传给后端的系统进行分配处理。
如图4所示,图4示意性示出了去除干扰分量的生成式对抗网络的整体设计图,包括一个生成器和判别器,生成器用来生成合成图像,判别器用来判断生成的去除干扰分量的图像和真实的无干扰图像的真伪,判别器用来指导生成器生成的去除干扰分量的图像和真实的无干扰分量图像越来越接近。在训练的过程中,生成器和判别器交替训练。
下面介绍本发明实施例中生成式对抗网络的生成器部分。
生成器是由一系列下采样卷积(encode)和上采样卷积(decode)的网络组成,将输入的有干扰分量图像生成无干扰分量的图像。如图5所示,图5示意性示出了根据本发明一实施例的生成器的工作流程图。详细步骤如下:
(1)将摄像头拍摄的图像画面可以经过usb(通用串行总线,Universal SerialBus)同时传输至处理芯片中,该处理芯片集成了图像的基本操作软件库和多线程处理库,以加快图像处理的过程。
(2)为了训练该生成式对抗网络,先构建可用于训练的图像样本数据。构建的方法是在家用电器开始工作前,获取并保存与家用电器的工作场景相关联的真实的无干扰分量图像,然后在家用电器开始工作后,获取有干扰分量图像。图像均可以设置为640*480像素的大小,但是其他像素大小也是可行的。这样,在家用电器每一次工作场景下,构建这样一组有干扰分量和无干扰分量的图像对,真实的无干扰分量图像也可以对应多组有干扰分量图像,这些有干扰分量图像的干扰分量的影响程度不同,这样就构成了训练生成式对抗网络所需要的样本。
(3)随机选取样本数据集的一组中的两张图片,其中一张是无干扰分量图像,另外一张是与之对应的有干扰分量图像。将有干扰分量图像输入到卷积神经网络中。该卷积神经网络由下采样卷积(encode)和上采样卷积(decode)两部分组成,且均为深度卷积神经网络。
(4)对于下采样卷积(encode)部分来说,首先将上述有干扰分量图像作为输入层(Input Layers)。图像大小为640x480x3像素,即彩色的3通道图片。在训练过程中,为了增加训练样本的多样性,可以对数据样本进行一定的数据增强(Data Augmentation),使得整个神经网络模型更加鲁棒,可以适应更多不同场景下的图片输入。针对特定的场景,在数据增强部分可以对图像进行随机亮度或饱和度的变换,然后将这些随机变换后得到的有干扰分量图像作为输入层输入至模型中。
(5)为了增加图像的判断精度,本发明实施例可以提供多种输入策略,例如,将第一帧的无干扰分量图像输入至模型中,让生成器能够更好地利用图像之间的比较来提升生成无干扰分量图像的质量,更精确地生成无干扰分量图像。如图6所示,图6示意性示出了根据本发明一实施例的生成器的输入方法示意图,图6示意了3种输入策略。策略A是直接将有干扰分量图像生成无干扰分量图像。策略B是将无干扰分量图像和有干扰分量图像拼接在一起,再生成无干扰分量图像。策略C是将无干扰分量图像和有干扰分量图像分别经过卷积,将两者产生的特征图拼接在一起,再生成无干扰分量图像。策略B和策略C都可以提升生成网络的准确度,从而使得网络生成的去除干扰分量的图像更接近真实的无干扰分量图像。
(6)下采样卷积(encode)部分是一个不断进行下采样的卷积过程,在经过不断的卷积提取特征的非线性变换以后,输出的最终的图像维度变成W*H*C。其中,C指的是输出的channel(通道),W指特征的宽度,H指特征的高度。根据不同的深度学习的开发框架,channel(通道)所排列的位置不一定相同,有些框架可能对应C*W*H,为了统一起见,可以将channel(通道)放在最后一个维度。其中,每一次卷积操作都是通过具有3*3大小的卷积核的卷积,然后经过批正则归一化操作(Batch Normalization),再经过Relu的非线性激活函数。需要说明的是,激活函数不一定局限于Relu函数,也可以使用Relu6,Swish或Mish等函数,对此不作限定,具体要依据训练的效果而定。
(7)下采样卷积(encode)部分,未采用通常的池化操作(Pooling),而是采用步长(stride)为2的卷积conv操作,使得特征的大小减半。这样经过多次下采样,将输入图像由640*480*3像素变成20*15*1024像素大小的特征图。
(8)对上述20*15*1024像素大小的特征图经过3x3的卷积,进行特征大小不变的非线性变换,用来抽象更多的语义信息,得到的大小依然是20*15*1024像素,这个将作为接下来的上采样卷积(decode)部分的输入。
(9)接下来为上采样卷积(decode)部分,decode也是一种不断进行卷积和上采样的过程。每一次卷积操作都是通过具有3x3大小的卷积核的卷积,然后经过批正则归一化操作(Batch Normalization),再经过非线性激活函数。
在本发明实施例中,上采样的方式可以有多种。
在第一种示例方案中:直接上采样,对于上采样(即扩大特征尺寸)的部分,可以再用反卷积(deconv)操作,或者双线性插值的上采样和卷积,对特征图进行不断的放大,每次放大一倍,则通道数减少一倍,最后得到640x480x3像素大小的图片。本发明中未采用通常的deconv的反卷积操作来扩大特征图,而是采用双线性插值的上采样和卷积的方式来扩大特征图,这种方式能保持更好的特征图细节,避免反卷积操作所带来的边缘锯齿化或堆叠效应。
在第二种示例方案中:为了增强更多的语义信息,可以采用U-Net的结构模型,即将encode的特征输出拼接到相对应的decode的输出上。图7示意性示出了根据本发明一实施例的U-Net的结构模型图。
(10)得到640x480x3像素大小的图像和原始的真实的无干扰分量图像的大小尺寸相同,将它们的像素差值构成整个网络的最终损失函数,用于在反向传播中指导网络进行训练,从而使得decode生成的图片和原始的图片趋于一致。
下面介绍本发明实施例中生成式对抗网络的判别器部分。
判别器也是由一系列卷积网络组成,最后通过sigmoid函数产生一个二分类器(类似于0-1分类器),来判断输入的图像样本是真或假,具体如图8所示,图8示意性示出了根据本发明一实施例的判别器的工作流程图。详细步骤如下。
(1)将最终生成的去除干扰分量的640x480x3像素大小的图像和原始的真实的无干扰分量图像分别输入到网络中。
(2)经过不断的卷积提取特征的非线性变换以后,输出的最终的维度变成1*1*C。在这里C指的是输出的chanel(通道)。其中,每一次卷积操作都是通过具有3x3大小的卷积核,步长(stride)为2的卷积,这样每次特征图大小减半,chanel(通道)增加一倍,然后经过批正则归一化操作(Batch Normalization),再经过Leaky Relu的非线性激活函数。
(3)最后经过一个1*1大小的卷积,将chanel(通道)变为1,然后再接一个sigmoid函数进行输出,最终的结果作为一个判断真假的二分分类器。
下面将介绍本发明中生成式对抗网络的损失函数。
上述损失函数公式中,D表示判别器,G表示生成器,x代表真实数据,也就是真正采集的全景图片,z代表有干扰分量图像由生成器合成后所生成的去除干扰分量图像,E代表期望。优化目标是V(D,G),目的是将G(z)判断为真的概率D(G(z))尽可能小,即1-D(G(z))尽可能大,且将真实数据x判断为真的概率D(x)尽可能大。
在生成式对抗网络的整个训练过程中,通过生成器和判别器交替训练,来使得整个网络达到一个纳什均衡点。最终只使用生成器网络来部署到系统中,用生成器来产生去除干扰分量图像。
本发明实施例提供一种去除干扰分量的图像处理的控制方法,可以利用多角度的摄像头,在用户使用家用电器的过程中,摄像头能够拍到家用电器工作场景中多个不同角度的图像,获取到足够多的不同角度不同维度的图片信息后,就能更准确的识别图像信息,图9示意性示出了根据本发明一实施例的用于处理图像的方法的控制流程图。详细的步骤如下。
(1)当检测到用户开始使用家用电器时,开启摄像头,保存第一帧图像,不断采集家用电器的工作场景的图像并将图像传给芯片处理。
(2)保存第一帧无干扰分量图像用于之后提升模型。
(3)判断每一帧的图片是否需要进行去除干扰分量。
(4)如果需要去除干扰分量,将有干扰分量图像输入至生成式对抗网路中。
(5)将生成的去除的无干扰分量图像发送至后端系统中,以供后续的智能算法进行分析和处理。
(6)如果家电工作没结束,则继续读取图片,返回到第三步继续循环。
(7)如果家电工作结束,自动结束拍摄。
在图9中,当家用电器为油烟机时,干扰分量为油烟时,人工交互可以包括:根据食材信息,检测火力匹配;根据锅具类型,检测火力匹配;监控火力输出,匹配烹饪任务;在灶火意外关闭或烹饪结束忘记关火时,开启提醒。
本发明实施例提供一种基于生成式对抗网络的去油烟的方案,解决了在烹饪过程中时由于油烟导致的图像干扰问题,整个流程不需要任何参数或者人为认定因素的辅助,是一套端到端的架构,让家电产品的适用性更强。同时也设计了针对油烟去除的整体控制流程,可以使得后续算法得到更准确的输出结果,提升家电产品的品质。
本发明实施例还提供了一种基于生成式对抗网络的去水印的方案,解决了洗碗机内部在洗涤餐具时由于水印导致的图像扭曲的问题,整个流程不需要任何参数或者人为认定因素的辅助,是一套端到端的架构,让家电产品的适用性更强。同时也设计了针对水印去除的控制流程,可以使得后续算法得到更准确的输出结果,提升家电产品的品质。
上述技术方案,获取家用电器的工作场景相关联的图像,基于生成式对抗网络来对图像进行处理,去除图像中的干扰分量。例如,当家用电器为油烟机时,上述技术方案可用于去除图像中的油烟;当家用电器为洗碗机时,上述技术方案可用于去除图像中的水印。上述技术方案中,利用生成式对抗网络的生成器去除图像中的干扰分量,利用生成式对抗网络的判别器对去除干扰分量的图像进行判断和识别,确保图像的干扰分量被去除,且满足预期效果,同时,生成器判别器被交替训练。这样,提高了家用电器的工作场景的图片成像质量,改善了智能家电的图像处理效果,提高了家电品质,提升了家电的智能化程度。
本发明实施例提供一种处理器,该处理器被配置成执行上述实施例中的任意一项用于处理图像的方法。
具体地,处理器可以配置成:
在家用电器开始工作的情况下,获取与家用电器的工作场景相关联的图像;
确定图像中是否存在需要去除的干扰分量;
在确定图像中存在需要去除的干扰分量的情况下,将图像输入到生成式对抗网络的生成器,以生成去除干扰分量的图像;
其中生成式对抗网络还包括判别器,生成器和判别器被交替训练。
在本发明实施例中,处理器被配置成:
在家用电器开始工作时,获取并保存与家用电器的工作场景相关联的第一帧图像,第一帧图像与生成的去除干扰分量的图像用作为训练生成式对抗网络的样本对。
在本发明实施例中,处理器被配置成:
获取图像训练样本集,图像训练样本集包括多个图像对,每个图像对包括无干扰分量图像和与无干扰分量图像对应的有干扰分量图像;
将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像;
将有干扰分量图像和去除干扰分量的图像输入到判别器,以输出结果;
计算生成式对抗网络的损失函数,损失函数与生成器和判别器相关联;
在损失函数满足期望值的情况下,结束对生成器和判别器的训练。
在本发明实施例中,处理器被配置成:
干扰分量包括油烟或水印。
在本发明实施例中,处理器被配置成:
将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像,包括:
将有干扰分量图像和无干扰分量图像输入到生成器;
对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图;
对特征图进行上采样,以生成去除干扰分量的图像。
在本发明实施例中,处理器被配置成:
对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图,包括:
将有干扰分量图像和无干扰分量图像进行拼接;
对拼接的图像进行下采样,以提取特征图。
在本发明实施例中,处理器被配置成:
对输入的有干扰分量图像和无干扰分量图像进行下采样,以提取特征图,包括:
对有干扰分量图像和无干扰分量图像分别进行下采样,以分别提取第一特征图和第二特征图;
对第一特征图和第二特征图进行拼接,以生成特征图。
在本发明实施例中,处理器被配置成:
将至少有干扰分量图像输入到生成器,以生成去除干扰分量的图像,还包括:
对特征图进行卷积操作,以进行特征大小不变的非线性变换;
对特征图进行上采样,以生成去除干扰分量的图像包括:对经过非线性变换后的特征图进行上采样,以生成去除干扰分量的图像。
在本发明实施例中,处理器被配置成:
下采样包括多层卷积操作。
在本发明实施例中,处理器被配置成:卷积操作的步长为2。
在本发明实施例中,处理器被配置成:上采样包括多层的双线性插值与卷积操作的结合。
在本发明实施例中,处理器被配置成:生成器采用U-Net结构模型。
本发明实施例提供一种家用电器,该家用电器包括上述的处理器。
在本发明实施例中,家用电器包括油烟机或洗碗机。
本发明实施例提供了机器可读存储介质,该机器可读存储介质上存储有指令,该指令用于使得机器执行上述的用于处理图像的方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
- 用于处理图像的方法、处理器、家用电器及存储介质
- 用于处理图像的方法、处理器、控制装置及家用电器