一种透明物体抓取控制方法、装置、终端及存储介质

技术领域

本申请涉及图像处理技术领域，尤其涉及一种透明物体抓取控制方法、装置、终端及存储介质。

背景技术

伴随着生产机器化、自动化的大趋势，深度相机作为机器视觉的基础，也伴随着自动化机器人的应用而得到广泛普及，然而，当面对透光物体时，如老花镜、塑料瓶以及透明材料等，其独特的视觉特性，使得深度相机拍摄到的透明物体的形状大体上呈平面或布满小孔的形状，从而导致深度信息的缺失，并使得现有技术对透明物体的抓取框预测的准确性低的技术问题。

发明内容

本申请提供了一种透明物体抓取控制方法、装置、终端及存储介质，用于解决现有技术对透明物体的抓取框预测的准确性低的技术问题。

本申请第一方面提供了一种透明物体抓取控制方法，包括：

获取第一图像和第二图像，其中所述第一图像为包含目标透明物体的彩色图像，所述第二图像为与所述第一图像配对的深度图像；

对所述第一图像进行特征提取，得到所述目标透明物体的表面法线、遮挡边界以及透明物体分割图；

将所述透明物体分割图与所述第二图像进行图像融合，获得第三图像；

将所述表面法线、所述遮挡边界以及所述第三图像作为图像深度补偿模型的输入参数，结合所述图像深度补偿模型中的全局优化目标函数，对所述第三图像进行图像深度补偿，获得第四图像，以便根据所述第四图像，计算所述目标透明物体的抓取姿势参数。

优选地，所述全局优化目标函数具体为：

式中，p、q为图像中任意两个相邻的像素点，λ

优选地，所述抓取姿势参数的获取过程具体包括：

根据所述第四图像，将所述第四图像与所述第一图像作为抓取质量评估模型的输入参数，以通过所述抓取质量评估模型的运算得到所述目标透明物体的各个抓取点的抓取质量，并根据最优抓取质量对应的抓取点，确定抓取姿势参数。

优选地，所述抓取质量评估模型具体为残差卷积神经网络模型。

本申请第二方面提供了一种透明物体抓取控制装置，包括：

图像获取单元，用于获取第一图像和第二图像，其中所述第一图像为包含目标透明物体的彩色图像，所述第二图像为与所述第一图像配对的深度图像；

特征提取单元，用于对所述第一图像进行特征提取，得到所述目标透明物体的表面法线、遮挡边界以及透明物体分割图；

图像融合单元，用于将所述透明物体分割图与所述第二图像进行图像融合，获得第三图像；

深度补偿单元，用于将所述表面法线、所述遮挡边界以及所述第三图像作为图像深度补偿模型的输入参数，结合所述图像深度补偿模型中的全局优化目标函数，对所述第三图像进行图像深度补偿，获得第四图像，以便根据所述第四图像，计算所述目标透明物体的抓取姿势参数。

优选地，所述全局优化目标函数具体为：

式中，p、q为图像中任意两个相邻的像素点，λ

优选地，还包括：

抓取姿势参数确定单元，用于根据所述第四图像，将所述第四图像与所述第一图像作为抓取质量评估模型的输入参数，以通过所述抓取质量评估模型的运算得到所述目标透明物体的各个抓取点的抓取质量，并根据最优抓取质量对应的抓取点，确定抓取姿势参数。

优选地，所述抓取质量评估模型具体为残差卷积神经网络模型。

本申请第三方面提供了一种透明物体抓取控制终端，包括：存储器和处理器；

所述存储器用于存储程序代码，其中，所述程序代码与如本申请第一方面提及的一种透明物体抓取控制方法相对应；

所述处理器用于执行所述程序代码。

本申请第四方面提供了一种存储介质，所述存储介质中保存有与如本申请第一方面提及的一种透明物体抓取控制方法相对应的程序代码。

从以上技术方案可以看出，本申请具有以下优点：

本申请提供的一种透明物体抓取控制方法，包括：获取第一图像和第二图像，其中所述第一图像为包含目标透明物体的彩色图像，所述第二图像为与所述第一图像配对的深度图像；对所述第一图像进行特征提取，得到所述目标透明物体的表面法线、遮挡边界以及透明物体分割图；将所述透明物体分割图与所述第二图像进行图像融合，获得第三图像；将所述表面法线、所述遮挡边界以及所述第三图像作为图像深度补偿模型的输入参数，结合所述图像深度补偿模型中的全局优化目标函数，对所述第三图像进行图像深度补偿，获得第四图像，以便根据所述第四图像，计算所述目标透明物体的抓取姿势参数。

本申请基于包含目标透明物体的彩色图像，结合全局优化算法，通过表面法线来填充缺失的深度区域，同时根据遮挡边界所显示的深度不连续性，进而对透明物体形状的补偿，对所述深度图像进行深度参数补偿，从而得到能完整地还原出透明物体的深度信息的图像，解决了因深度信息的缺失导致的现有技术对透明物体的抓取框预测的准确性低的技术问题。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。

图1为本申请提供的一种透明物体抓取控制方法的第一个实施例的流程示意图；

图2为本申请提供的一种透明物体抓取控制装置的第一个实施例的结构示意图；

图3为通过本申请提供的方法得到的抓取矩形与普通抓取矩形的公式转换过程示意图。

具体实施方式

本申请实施例提供了一种透明物体抓取控制方法、装置、终端及存储介质，用于解决现有技术对透明物体的抓取框预测的准确性低的技术问题。

为使得本申请的发明目的、特征、优点能够更加的明显和易懂，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本申请一部分实施例，而非全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本申请保护的范围。

请参阅图1，本申请第一个实施例提供了一种透明物体抓取控制方法，包括：

步骤101、获取第一图像和第二图像，其中所述第一图像为包含目标透明物体的彩色图像，所述第二图像为与所述第一图像配对的深度图像；

步骤102、对所述第一图像进行特征提取，得到所述目标透明物体的表面法线、遮挡边界以及透明物体分割图；

步骤103、将所述透明物体分割图与所述第二图像进行图像融合，获得第三图像；

步骤104、将所述表面法线、所述遮挡边界以及所述第三图像作为图像深度补偿模型的输入参数，结合所述图像深度补偿模型中的全局优化目标函数，对所述第三图像进行图像深度补偿，获得第四图像，以便根据所述第四图像，计算所述目标透明物体的抓取姿势参数。

需要说明的是，首先获取第一图像和第二图像，本实施例提及的第一图像和第二图像均可以通过深度相机捕获得到，其中第一图像为包含目标透明物体的彩色图像，所述第二图像为与所述第一图像配对的深度图像，然后，对第一图像进行图像特征提取，得到表面法线、遮挡边界和透明物体分割图，接着就是将原始深度图的特征和透明物体分割图的特征进行融合，得到融合后的包含分割物体的深度图像，即本实施例提及的第三图像，当获取到表面法线，遮挡边界和第三图像之后，将这三者一同输入到全局优化器(GlobalOptimization)中，利用全局优化算法重建透明物体的三维表面(缺失深度的区域)。优化算法利用预测的表面法线来填充缺失的深度区域，同时观察遮挡边界所显示的深度不连续性，进而实现透明物体形状的重构，获得对透明物体补全后的深度图像，即本实施例提及的第四图像，该第四图像能更完整地还原出透明物体的深度信息。解决了因深度信息的缺失导致的现有技术对透明物体的抓取框预测的准确性低的技术问题。

以上为本申请提供的一种透明物体抓取控制方法的第一个实施例的详细说明，下面为本申请提供的一种透明物体抓取控制方法的第二个实施例的详细说明。

在上述第一个实施例的基础上，本申请第二个实施例提供的一种透明物体抓取控制方法，包括：

进一步地，第一个实施例中提及的全局优化目标函数，其表达式具体为：

式中，p、q为图像中任意两个相邻的像素点，λ

进一步地，第一个实施例中提及的抓取姿势参数，其获取过程具体包括：

根据所述第四图像，将所述第四图像与所述第一图像作为抓取质量评估模型的输入参数，以通过所述抓取质量评估模型的运算得到所述目标透明物体的各个抓取点的抓取质量，并根据最优抓取质量对应的抓取点，确定抓取姿势参数。

进一步地，所述抓取质量评估模型具体为残差卷积神经网络模型。

需要说明的是，经过上一步骤后，可以获取到透明物体的深度补全后的第四图像，该图像能完整地还原出透明物体的深度信息。此时，再将该补全后的深度图结合原始输入的彩色图像一同输入到生成残差卷积神经网络中，进行透明物体抓取框的预测，最后机器人则可根据预测出的抓取框对透明物体实施有效且准确的抓取。

对于生成残差卷积神经网络中的工作流来说，首先是输入图像经过3个卷积层，分别经过了32，64，128个过滤器，卷积层从输入图像中提取特征。接着卷积层的输出被送入5个残差层。正如我们所知，随着网络层数的增加，准确率也会增加，但是当超过一定数量的层数时就会导致梯度消失和维度误差的问题，从而导致精度的下降和饱和。因此，使用残差层能够通过跳跃连接更好地学习目标函数。在将图像通过这些卷积层和残差层之后，图像的大小被减小到75x75。因此，为了便于解析和保留卷积操作后的图像的空间特征，我们采用卷积转置操作对图像进行上采样。使得输出图像与输入图像的大小相同。网络的最终输出为3张300x300(和输入图片的大小相同)的图片，分别为Quality(抓取质量分数图)，Angle(旋转角度图)，Width(抓取宽度图)。抓取质量分数图中每个像素点的值对应输入图像中每个点的抓取质量，表示为0到1之间的评分值，接近1的值表示抓取成功的机会较大；旋转角度图中每个像素点的值。

表示在每一点上抓住感兴趣物体所需的旋转角度，用[-90°,90°]范围内的值表示；抓取宽度图表示在每一点抓住感兴趣物体所需的机械手打开的宽度，表示为[0，W

同时，基于残差卷积神经网络的机制，由于残差卷积神经网络使用的是基于像素级别的方式来生成抓取姿势，这个抓取姿势跟常见的抓取矩形的表示形式是不一样的，抓取姿势不包含抓取矩形的高度。因此需要通过公式转换才能得到普通的抓取矩形。公式转换过程如图3所示：

其中，x,y是抓取姿势的中心点，θ

以上为本申请提供的一种透明物体抓取控制方法的第二个实施例的详细说明，下面为本申请提供的一种透明物体抓取控制装置的第一个实施例的详细说明。

请参阅图2，本申请第三个实施例提供了一种透明物体抓取控制装置，包括：

图像获取单元201，用于获取第一图像和第二图像，其中所述第一图像为包含目标透明物体的彩色图像，所述第二图像为与所述第一图像配对的深度图像；

特征提取单元202，用于对所述第一图像进行特征提取，得到所述目标透明物体的表面法线、遮挡边界以及透明物体分割图；

图像融合单元203，用于将所述透明物体分割图与所述第二图像进行图像融合，获得第三图像；

深度补偿单元204，用于将所述表面法线、所述遮挡边界以及所述第三图像作为图像深度补偿模型的输入参数，结合所述图像深度补偿模型中的全局优化目标函数，对所述第三图像进行图像深度补偿，获得第四图像，以便根据所述第四图像，计算所述目标透明物体的抓取姿势参数。

进一步地，所述全局优化目标函数具体为：

式中，p、q为图像中任意两个相邻的像素点，λ

进一步地，还包括：

抓取姿势参数确定单元205，用于根据所述第四图像，将所述第四图像与所述第一图像作为抓取质量评估模型的输入参数，以通过所述抓取质量评估模型的运算得到所述目标透明物体的各个抓取点的抓取质量，并根据最优抓取质量对应的抓取点，确定抓取姿势参数。

进一步地，抓取质量评估模型具体为残差卷积神经网络模型。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例，例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。