机器人及其手部图像分割方法和装置

技术领域

本申请属于机器人领域，尤其涉及机器人及其手部图像分割方法和装置。

背景技术

近年来，随着人工智能的快速发展，机器人端部署了许多人工智能的应用。机器人通过人工智能算法可以与人进行互动。在机器人与人交互过程中，手势是一种非常简单和方便的互动方式。机器人为了能够有效的进行手势互动，需要准确的分割出交互对象的手部区域，从而便于对交互对象的手势进行精确的识别。

目前的手部区域识别算法通常采用全卷积神经网络模型。在编码部分，使用连续的卷积来提取图像中的特征，同时使用池化操作减少提取到的特征的尺寸，以达到减少网络计算量的目的。这种连续的卷积和池化操作可以保证提取特征的平稳不变形，但会减少提取特征的尺寸，不利于对每个像素进行判断。虽然通过反卷积可以对特征进行尺寸还原，但从一个较小尺寸的特征图还原时，会丢失部分信息，而且手势种类多种多样，所处的环境容易变化，不利于提高手部图像的分割精度。

发明内容

有鉴于此，本申请实施例提供了一种机器人及其手部图像分割方法和装置，以解决现有技术中进行手部图像分割时，不利于提高手部图像的分割精度的问题。

本申请实施例的第一方面提供了一种手部图像分割方法，所述方法包括：

获取待分割图像；

根据已训练的第一神经网络模型对所述待分割图像进行特征提取，获得所述待分割图像对应的第一特征图像；

根据预设的空洞卷积核获取所述待分割图像对应的第二特征图像；

根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，确定所述待分割图像的手部图像。

结合第一方面，在第一方面的第一种可能实现方式中，在根据已训练的第一神经网络模型对所述待分割图像进行特征提取，获得所述待分割图像对应的第一特征图像之前，所述方法还包括：

对所述待分割图像进行归一化处理。

结合第一方面的第一种可能实现方式，在第一方面的第二种可能实现方式中，对所述待分割图像进行归一化处理，包括：

确定所述待分割图像中像素的像素值；

根据公式：(Ii-I

结合第一方面，在第一方面的第三种可能实现方式中，根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，确定所述待分割图像的手部图像，包括：

根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的人像分割结果和边缘检测结果；

根据所述人像分割结果和所述边缘检测结果确定所述待分割图像的手部图像。

结合第一方面的第三种可能实现方式，在第一方面的第四种可能实现方式中，根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的人像分割结果和边缘检测结果，包括：

根据已训练的第二神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的人像分割结果；

根据已训练的第三神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的边缘检测结果。

结合第一方面，在第一方面的第五种可能实现方式中，根据预设的空洞卷积核获取所述待分割图像对应的第二特征图像，包括以下方式中的一项或者两项：

根据预设的、不同空洞率的空洞卷积核对所述待分割图像进行空洞卷积，生成所述待分割图像对应的第二特征图像；

根据预设的、不同空洞率的空洞卷积核对所述第一特征图像进行空洞卷积，生成所述待分割图像对应的第二特征图像。

结合第一方面，在第一方面的第六种可能实现方式中，在根据已训练的第一神经网络模型对所述待分割图像进行特征提取，获得所述待分割图像对应的第一特征图像之前，所述方法还包括：

按照预定大小的正方形尺寸，对所述待分割图像进行裁剪。

本申请实施例的第二方面提供了一种手部图像分割装置，所述装置包括：

图像获取单元，用于获取待分割图像；

第一特征图像获取单元，用于根据已训练的第一神经网络模型对所述待分割图像进行特征提取，获得所述待分割图像对应的第一特征图像；

第二特征图像获取单元，用于根据预设的空洞卷积核获取所述待分割图像对应的第二特征图像；

解码单元，用于根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，确定所述待分割图像的手部图像。

本申请实施例的第三方面提供了一种机器人，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面任一项所述方法的步骤。

本申请实施例的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面任一项所述方法的步骤。

本申请实施例与现有技术相比存在的有益效果是：通过已训练的第一神经网络模型确定待分割图像对应的第一特征图像，通过空洞卷积获取待分割图像对应的第二特征图像，通过已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到手部图像的分割结果。由于本申请通过空洞卷积核可以学习到待分割图像中感受域更大的特征，能够为解码神经网络模型提供更为丰富的特征数据，在与多尺寸卷积分割操作方式的计算量基本相同的情况下，能够得到更为准确的分割结果，有利于提高手部图像的分割精度。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种手部图像分割方法的实现流程示意图；

图2是本申请实施例提供的一种3*3大小的空洞卷积核示意图；

图3是本申请实施例提供的手部图像分割流程模块示意图；

图4是本申请实施例提供的一种手部图像分割装置的示意图；

图5是本申请实施例提供的机器人的示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。

为了说明本申请所述的技术方案，下面通过具体实施例来进行说明。

目前的手部图像分割算法中，包括基于全卷积神经网络(英文全称为fullyconnected network，英文简称为FCN)的分割算法。在分割过程中，首先通过连续的卷积层获取待分割图像中的特征，在卷积层的中间穿插池化层，以通过池化操作降低特征图像的尺寸，从而减少网络的计算量。通过连续的卷积和池化操作，提取待分割图像中的高维特征图像(可以理解为包括不同大小的卷积核、不同方式的卷积操作所得到的特征图像)。根据所提取的高维特征图像，通过反卷积操作，将高维特征图像进行还原操作，得到与原始输入图像的尺寸相同的分割结果。并通过损失函数，包括如交叉熵损失函数来衡量网络的输出与真实的标签之间的差异。通过优化算法，包括如随机梯度下降等优化算法来优化网络中的参数，以减少算法的输出与标签之间的损失。通过多次迭代，得到一个较好的图像分割模型。

在上述的图像分割过程中，通过连续的卷积提取图像中的特征，并通过池化操作减少提取到的特征的尺寸时，可以减少网络计算量。并且，无论目标对象在什么位置，连续的卷积和池化操作能够提取待分割图像中的特征。但是，连续的卷积和池化操作会减少所提取的特征图像的尺寸。虽然通过反卷积操作可以对特征图像进行尺寸还原。但是，较小尺寸的特征图像在进行还原时，还原后的图像会丢失部分信息，不利于得到准确的手部轮廓。

而机器人与目标对象进行手势交互的过程中，所处的环境变化不一，同时手势的种类也多种多样，当手部和环境差异较小时，目前的分割算法也不能较好的分割出手部的轮廓，不利于更为准确的进行手势交互。

另外，虽然通过减少卷积和池化的次数可以使得特征图像的尺寸减小的幅度变小，但可能会使得网络学习不充分，没有充分提取待分割图像中的特征图像。

基于上述缺陷，本申请实施例提出了一种基于空洞卷积的手部图像分割方法，通过增加空洞卷积进行特征图像提取，得到第二特征图像，将第二特征图像与编码得到的第一特征图像输入至解码神经网络模型，通过更全面的特征数据的输入，提高手部图像的分割精度。

图1为本申请实施例提供的一种手部图像分割方法的实现流程示意图，详述如下：

在S101中，获取待分割图像。

本申请实施例中的待分割图像，可以为机器人在智能交互过程中实时获取的场景图像。所述待分割图像的获取，可以根据所述机器人的状态来确定。比如，当机器人处于智能交互模式时，机器人通过摄像头实时采集交互场景中的图像，得到待分割图像。

由于机器人处于智能交互状态时，机器人所采集的场景图像包括多个。在对待分割图像进行采集时，可以根据交互对象的手势的变化幅度大小，来确定待分割图像的采集频率。另外，为了能够有效的对精细手势进行分割识别，可以设定不同部位的变化速度与分割图像的采集频率的对应关系。比如，对于相同的移动幅度，如果移动部位为手指部位，则可以采用较高的采集频率进行采集；如果移动部位是手肘或手腕等部位，则可以采用较低的采集频率进行采集。

在S102中，根据已训练的第一神经网络模型对所述待分割图像进行特征提取，获得所述待分割图像对应的第一特征图像。

在获取第一特征图像的提取之前，还包括对第一神经网络模型的训练过程。

在训练所述第一神经网络模型时，可以获取多个预先标定的训练样本图像。将所述训练样本图像输入到待训练的第一神经网络模型，通过第一神经网络模型输出手部图像的预测结果(预测的特征图像)。将第一神经网络模型输出的手部图像的预测结果与该样本图像的标定结果进行比较。比如，可以采用交叉熵损失计算方法等，计算所述预测结果相对于所述标定结果的损失。根据比较所确定的差异或损失，可以通过优化算法，比如可以通过随机梯度下降等，对所述第一神经网络模型进行参数的优化。

通过优化后，重新输入训练样本图像进行计算，得到预测结果。将预测结果与训练样本图像的标定结果进行比较，根据比较结果对所述第一神经网络模型的参数进一步优化。经过多次迭代优化，当第一神经网络模型所输出的预测结果，与对应的标定结果之间的差异满足预定的要求时，则可以认为该第一神经网络模型已完成训练。

通过已训练的第一神经网络模型对所述待分割图像进行特征提取时，可以将所述待分割图像输入到所述第一神经网络模型，通过已进行参数优化的第一神经网络模型进行优化计算，输出待分割图像对应的第一特征图像。

为了进一步提高图像处理的便利性，在对所述待分割图像进行特征提取之前，还可以包括对待分割图像进行尺寸统一操作。比如，可以通过预先设定的标准尺寸，对待分割图像进行预分割操作。预定的标准尺寸可以为预定尺寸的正方形区域，截取待分割图像，实现对所述待分割图像进行预分割操作。

比如，待分割图像的尺寸可能是640*480，预定的尺寸为480*480，则可以将待分割图像经过预分割处理，得到相同尺寸的待分割图像。

为了提高图像处理的便捷性，在进行特征提取之前，还可以包括对待分割图像进行归一化处理的步骤。

在可能的实现方式中，归一化处理可以首先获取待分割图像中包括像素的像素值，确定待分割图像中的像素的最大像素值和最小像素值。可以使用公式(Ii-I

当然，归一化处理的方式不局限于此，也可以将公式中的最大像素值和最小像素值设置为固定值的方式。比如，最大像素值设置为255，最小像素值设置为0。

通过确定待分割图像中的最小像素值和最大像素值时，可以更为有效的确定像素的像素值在待分割图像中的像素值的大小位置，从而便于更为准确的对待分割图像进行特征提取操作。

在S103中，根据预设的空洞卷积核获取所述待分割图像对应的第二特征图像。

在获取第二特征图像时，可以根据预先设定的空洞卷积核，直接对待分割图像进行空洞卷积计算，确定待分割图像对应的第二特征图像。

其中，本申请实施例中的第一特征图像或第二特征图像，可以包括多个特征图像。比如，通过选用不同的空洞率的空洞卷积核，可以得到不同空洞率所对应的多个特征图像，或者，通过数值不同的空洞卷积核，计算得到多个不同的特征图像。所述空洞率是批空洞卷积核中有效数值之间的步长间隔。比如，图2所示的大小为3*3的空洞卷积核，所对应的卷积率分别为1、3和5。

在可能的实现方式中，所述空洞卷积核可以直接对所述第一特征图像进行空洞卷积计算，根据空洞卷积计算得到第二特征图像。

或者，在可能的实现方式中，第二特征图像，包括空洞卷积根据对第一特征图像进行空洞卷积计算得到的特征图像，以及，包括空洞卷积核对待分割图像进行空洞卷积计算得到的特征图像。

其中，所述空洞卷积操作后的第二特征图像，可以与待分割图像的尺寸相同，也可以与待分割图像的尺寸不同。

在S104中，根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，确定所述待分割图像的手部图像。

在可能的实现方式中，可以将第一特征图像和第二特征图像均为作已训练的解码神经网络模型的输入，根据预先已训练好的解码神经网络模型，输出待分割图像对应的手部图像的区域。

或者，在可能的实现方式中，如图3所示的手部图像分割流程模块示意图中，可以将第一特征图像输入到预先已训练的第二神经网络模型，输出待分割图像中的人像分割结果，得到待分割图像中的人像区域。将第二特征图像输入到已训练的第三神经网络模型，得到待分割图像中的边缘检测结果。根据所得到的人像区域和边缘检测结果，根据处于人像区域的边缘检测结果，确定待分类图像的手部区域。

或者，在可能的实现方式中，可以将第一特征图像输入到预先已训练的第二神经网络模型，输出待分割图像中的人像分割结果，得到待分割图像中的人像区域。将所述人像区域对应的特征信息，包括位于人像区域中的第一特征图像的特征信息，以及位于人像区域中的第二特征输错的特征信息，输入到第三神经网络模型，得到手部区域的分割结果。

其中，第二神经网络模型为用于检测图像中的人像区域的神经网络模型，第三神经网络模型为用于检测图像中的边缘的神经网络模型。

其中，第三神经网络模型的训练过程中，可以根据预先标定的训练样本图像，以及已完成训练的第一神经网络模型、空洞卷积核参数等，获取第三神经网络模型的输入，根据输出的预测结果与标定结果之间的差异，对所述第三神经网络模型进行参数优化，直到优化后的第三神经网络模型满足预设的要求。

本申请实施例通过基于神经网络模型的方式对待分割图像进行特征提取，得到第一特征图像，通过空洞卷积操作进一步提取视野更为开阔的全局特征，得到第二特征图像，使得解码神经网络模型可以根据更为丰富的特征信息进行手部区域的识别，有利于提升对待分割图像的分割精度，提升机器人交互的智能性。

应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。

图4为本申请实施例提供的一种手部图像分割装置的示意图，该装置与图1所示的方法对应，如图4所示，该装置包括：

图像获取单元401，用于获取待分割图像；

第一特征图像获取单元402，用于根据已训练的第一神经网络模型对所述待分割图像进行特征提取，获得所述待分割图像对应的第一特征图像；

第二特征图像获取单元403，用于根据预设的空洞卷积核获取所述待分割图像对应的第二特征图像；

解码单元404，用于根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，确定所述待分割图像的手部图像。

在可能的实现方式中，所述装置还包括归一化单元，用于对所述待分割图像进行归一化处理。

可能的实现方式中，归一化单元可以包括：

像素值确定子单元，用于确定所述待分割图像中像素的像素值；

计算子单元，用于根据公式：(Ii-I

在可能的实现方式中，所述解码单元可以包括：

解码子单元，用于根据已训练的解码神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的人像分割结果和边缘检测结果；

分割子单元，用于根据所述人像分割结果和所述边缘检测结果确定所述待分割图像的手部图像。

所述解码子单元可以包括：

第一检测模型，用于根据已训练的第二神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的人像分割结果；

第二检测模块，用于根据已训练的第三神经网络模型对所述第一特征图像和所述第二特征图像进行解码处理，得到所述待分割图像中的边缘检测结果。

在可能的实现方式中，所述第二特征图像获取单元可以包括以下子单元中的一项或两项：

第一卷积子单元，用于根据预设的、不同空洞率的空洞卷积核对所述待分割图像进行空洞卷积，生成所述待分割图像对应的第二特征图像；

第二卷积子单元，用于根据预设的、不同空洞率的空洞卷积核对所述第一特征图像进行空洞卷积，生成所述待分割图像对应的第二特征图像。

在可能的实现方式中，所述装置还包括裁剪单元，用于按照预定大小的正方形尺寸，对所述待分割图像进行裁剪。

图5是本申请一实施例提供的机器人的示意图。如图5所示，该实施例的机器人5包括：处理器50、存储器51以及存储在所述存储器51中并可在所述处理器50上运行的计算机程序52，例如手部图像分割程序。所述处理器50执行所述计算机程序52时实现上述各个手部图像分割方法实施例中的步骤。或者，所述处理器50执行所述计算机程序52时实现上述各装置实施例中各模块/单元的功能。

示例性的，所述计算机程序52可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器51中，并由所述处理器50执行，以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序52在所述机器人5中的执行过程。

所述机器人可包括，但不仅限于，处理器50、存储器51。本领域技术人员可以理解，图5仅仅是机器人5的示例，并不构成对机器人5的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述机器人还可以包括输入输出设备、网络接入设备、总线等。

所称处理器50可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

所述存储器51可以是所述机器人5的内部存储单元，例如机器人5的硬盘或内存。所述存储器51也可以是所述机器人5的外部存储设备，例如所述机器人5上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器51还可以既包括所述机器人5的内部存储单元也包括外部存储设备。所述存储器51用于存储所述计算机程序以及所述机器人所需的其他程序和数据。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

在本申请所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括是电载波信号和电信信号。

以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。