掌桥专利:专业的专利平台
掌桥专利
首页

摄像头配准方法、装置、通话设备及存储介质

文献发布时间:2023-06-19 19:07:35


摄像头配准方法、装置、通话设备及存储介质

技术领域

本公开涉及相机技术领域,尤其涉及摄像头配准方法、装置、通话设备及存储介质。

背景技术

在RGB摄像头和深度(Depth)摄像头配合使用的场景下,需要对RGB摄像头和深度摄像头的相对位置关系进行配准,以提高图像采集的准确度。相关场景中,通过分别对两个摄像头对应的左、右视图进行畸变消除和行对准实现配准,使得左、右视图的成像原点坐标一致、两摄像头光轴平行、左右成像平面共面、对极线行对齐。

发明内容

为克服相关技术中存在的问题,本公开提供一种摄像头配准方法、装置、通话设备及存储介质。

根据本公开实施例的第一方面,提供一种摄像头配准方法,应用于包括至少一个RGB摄像头和至少一个深度摄像头的电子设备,所述方法包括:

根据所述RGB摄像头与所述深度摄像头之间的单应性矩阵,对所述RGB摄像头采集到的RGB图像以及所述深度摄像头采集到的能量图进行矫正,得到RGB矫正图以及能量矫正图;

从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对,所述特征点对包括所述RGB矫正图上的第一特征点以及所述能量矫正图上的第二特征点,所述目标特征点对中的第一特征点的第一视差与所述目标特征点对中的第二特征点的第二视差的差值大于预设阈值;

基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整;

根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正。

可选地,所述从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对,包括:

针对任一所述特征点对,在所述特征点对中的所述第一特征点的第一视差与所述第二特征点的第二视差之间的差值大于所述预设阈值的情况下,将所述特征点对作为所述目标特征点对;或者,

从各所述特征点对中确定置信度大于预设置信度阈值的候选特征点对,并针对任一所述候选特征点对,在所述候选特征点对中的所述第一特征点的第一视差与所述第二特征点的第二视差之间的差值大于所述预设阈值的情况下,将所述候选特征点对作为所述目标特征点对。

可选地,所述基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整,包括:

根据所述基线距离以及所述预设调整比例,确定参数调整量大小;

在所述第一视差与所述第二视差的差值大于所述预设阈值且所述第一视差大于所述第二视差的情况下,将所述单应性矩阵增加所述参数调整量;或者,

在所述第一视差与所述第二视差的差值小于所述预设阈值且所述第一视差小于所述第二视差的情况下,将所述单应性矩阵减小所述参数调整量。

可选地,所述基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整,包括:

确定所述单应性矩阵中用于表征所述RGB摄像头与所述深度摄像头之间的平移和旋转关系的目标参量;

基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵中的目标参量进行调整。

可选地,所述方法包括:

在根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正后,返回执行所述从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对的步骤,直到新的RGB矫正图以及新的能量校正图上的各特征点对中不存在所述目标特征点对。

可选地,所述第一特征点的所述第一视差的确定包括:

确定所述第一特征点在所述RGB矫正图中的RGB坐标以及在所述能量矫正图中的能量坐标;

将所述RGB坐标与所述能量坐标之间的差值作为所述第一视差。

可选地,所述第二特征点的所述第二视差的确定包括:

确定所述第二特征点在所述深度摄像头中的第一成像坐标以及在所述RGB摄像头中的第二成像坐标;

将所述第一成像坐标与所述第二成像坐标之间的差值作为所述第二视差。

可选地,所述确定所述第二特征点在所述深度摄像头中的第一成像坐标,包括:

获取所述第二特征点的深度值,并确定所述第二特征点在世界坐标系下到所述深度摄像头的光轴的第一距离;

根据所述深度摄像头的焦距、所述深度值以及所述第一距离,确定所述第二特征点在所述深度摄像头中的第一成像坐标。

可选地,所述确定所述第二特征点在所述RGB摄像头中的第二成像坐标,包括:

根据所述RGB摄像头与所述深度摄像头之间的中心距离,确定所述第二特征点在世界坐标系下到所述RGB摄像头的光轴的第二距离;

根据所述RGB摄像头的焦距、所述深度值以及所述第二距离,确定所述第二特征点在所述RGB摄像头中的第二成像坐标。

根据本公开实施例的第二方面,提供一种摄像头配准装置,应用于包括至少一个RGB摄像头和至少一个深度摄像头的电子设备,所述装置包括:

第一矫正模块,被配置为用于根据所述RGB摄像头与所述深度摄像头之间的单应性矩阵,对所述RGB摄像头采集到的RGB图像以及所述深度摄像头采集到的能量图进行矫正,得到RGB矫正图以及能量矫正图;

确定模块,被配置为用于从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对,所述特征点对包括所述RGB矫正图上的第一特征点以及所述能量矫正图上的第二特征点,所述目标特征点对中的第一特征点的第一视差与所述目标特征点对中的第二特征点的第二视差的差值大于预设阈值;

调整模块,被配置为用于基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整;

第二矫正模块,被配置为用于根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正。

可选地,所述确定模块,被配置为用于:针对任一所述特征点对,在所述特征点对中的所述第一特征点的第一视差与所述第二特征点的第二视差之间的差值大于所述预设阈值的情况下,将所述特征点对作为所述目标特征点对;或者,

从各所述特征点对中确定置信度大于预设置信度阈值的候选特征点对,并针对任一所述候选特征点对,在所述候选特征点对中的所述第一特征点的第一视差与所述第二特征点的第二视差之间的差值大于所述预设阈值的情况下,将所述候选特征点对作为所述目标特征点对。

可选地,所述调整模块,被配置为用于根据所述基线距离以及所述预设调整比例,确定参数调整量大小;

在所述第一视差与所述第二视差的差值大于所述预设阈值且所述第一视差大于所述第二视差的情况下,将所述单应性矩阵增加所述参数调整量;或者,

在所述第一视差与所述第二视差的差值小于所述预设阈值且所述第一视差小于所述第二视差的情况下,将所述单应性矩阵减小所述参数调整量。

可选地,所述调整模块,被配置为用于确定所述单应性矩阵中用于表征所述RGB摄像头与所述深度摄像头之间的平移和旋转关系的目标参量;

基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵中的目标参量进行调整。

可选地,所述确定模块,还被配置为用于在根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正后,返回执行所述从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对的步骤,直到新的RGB矫正图以及新的能量校正图上的各特征点对中不存在所述目标特征点对。

可选地,所述确定模块,被配置为用于确定所述第一特征点在所述RGB矫正图中的RGB坐标以及在所述能量矫正图中的能量坐标;

将所述RGB坐标与所述能量坐标之间的差值作为所述第一视差。

可选地,所述确定模块,被配置为用于确定所述第二特征点在所述深度摄像头中的第一成像坐标以及在所述RGB摄像头中的第二成像坐标;

将所述第一成像坐标与所述第二成像坐标之间的差值作为所述第二视差。

可选地,所述确定模块,被配置为用于获取所述第二特征点的深度值,并确定所述第二特征点在世界坐标系下到所述深度摄像头的光轴的第一距离;

根据所述深度摄像头的焦距、所述深度值以及所述第一距离,确定所述第二特征点在所述深度摄像头中的第一成像坐标。

可选地,所述确定模块,被配置为用于根据所述RGB摄像头与所述深度摄像头之间的中心距离,确定所述第二特征点在世界坐标系下到所述RGB摄像头的光轴的第二距离;

根据所述RGB摄像头的焦距、所述深度值以及所述第二距离,确定所述第二特征点在所述RGB摄像头中的第二成像坐标。

根据本公开实施例的第三方面,提供一种电子设备,包括:

处理器;

用于存储处理器可执行指令的存储器;

其中,所述处理器被配置为:

根据所述RGB摄像头与所述深度摄像头之间的单应性矩阵,对所述RGB摄像头采集到的RGB图像以及所述深度摄像头采集到的能量图进行矫正,得到RGB矫正图以及能量矫正图;

从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对,所述特征点对包括所述RGB矫正图上的第一特征点以及所述能量矫正图上的第二特征点,所述目标特征点对中的第一特征点的第一视差与所述目标特征点对中的第二特征点的第二视差的差值大于预设阈值;

基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整;

根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正。

根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现第一方面中任一项所述方法的步骤。

本公开的实施例提供的技术方案可以包括以下有益效果:

通过单应性矩阵对RGB图像以及能量图进行矫正,并从得到的RGB矫正图与能量矫正图上相匹配的特征点对中确定目标特征点对,进而在目标特征点对中的第一特征点的第一视差与目标特征点对中的第二特征点的第二视差的差值大于预设阈值的情况下,基于该差值,根据RGB摄像头与深度摄像头之间的基线距离以及预设调整比例,对单应性矩阵进行调整,可以提高RGB摄像头与深度摄像头之间的配准精确度,进而可以在RGB摄像头与深度摄像头同时配置的场景下,提高相关应用的准确性。

应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。

图1是根据一示例性实施例示出的一种摄像头配准方法的流程图。

图2是根据一示例性实施例示出的一种通过能量图得到深度图的示意图。

图3是根据一示例性实施例示出的一种摄像头标定的示意图。

图4是根据一示例性实施例示出的一种确定第一特征点的第一视差的流程图。

图5是根据一示例性实施例示出的一种确定第二特征点的第二视差的流程图。

图6是根据一示例性实施例示出的一种像素点成像的示意图。

图7是根据一示例性实施例示出的一种实现图1中步骤S13的流程图。

图8是根据一示例性实施例示出的另一种摄像头配准方法的流程图。

图9是根据一示例性实施例示出的一种摄像头配准装置的框图。

图10是根据一示例性实施例示出的一种用于摄像头配准的装置的框图。

具体实施方式

这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

并且,值得说明的是,对于本公开所提供的方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本公开并不受所描述的动作顺序的限制。例如,术语“S131”、“S132”等是用于区别方法步骤,而不必理解为描述特定的执行顺序。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本公开所必须的。

发明人发现,通过对左、右视图进行畸变消除和行对准实现配准,受限于检测到的特征点集中特征点数量以及特征点分布,RGB摄像头与深度摄像头之间的配准精确度较低,因而造成相关应用场景下应用准确性较低。

为此,本公开提供一种摄像头配准方法,旨在提高RGB摄像头与深度摄像头之间的配准精确度,进而可以在RGB摄像头与深度摄像头同时配置的场景下,提高相关应用的准确性,例如在手势识别场景下,目标的边缘处或最佳特征点处RGB图像和深度图吻合度更高,可以提高手势识别准确性,或者可以在距离确定场景下提高距离确定准确性。

图1是根据一示例性实施例示出的一种摄像头配准方法的流程图,应用于包括至少一个RGB摄像头和至少一个深度摄像头的电子设备,其中,该方法用于确定RGB摄像头与深度摄像头之间的相对位置关系,示例地,若电子设备配置有两个RGB摄像头和一个深度摄像头,该方法可以分别确定两个RGB摄像头与深度摄像头的相对位置关系。如图1所示,包括以下步骤。

在步骤S11中,根据RGB摄像头与深度摄像头之间的单应性矩阵,对RGB摄像头采集到的RGB图像以及深度摄像头采集到的能量图进行矫正,得到RGB矫正图以及能量矫正图。

其中,通过RGB摄像头采集得到RGB图像以及通过深度摄像头采集得到能量图,并根据能量图得到针对各像素点的深度值和置信度值,进而根据各像素点的深度值得到深度图,根据各像素点的置信度值得到置信度图。能量图用于反映深度摄像头采集到的各像素点的能量大小,深度图用于反映深度摄像头采集到的各像素点的深度值,置信度图用于反映深度摄像头采集到的各像素点深度值预测的可靠程度。

其中,参见图2所示,能量图可以转换为灰度图,并基于深度摄像头对应的映射函数,根据该灰度图中各像素点的灰度值,计算得到针对采集到的能量图中各像素点的深度值,进而根据各像素点的深度值得到深度图。

可以理解的是,参见图3所示,单应性矩阵是根据工厂标定的摄像头内参和摄像头外参,结合实际应用场景,通过对RGB摄像头与深度摄像头之间的参数进行在线标定,得到的用于描述像素点在世界坐标系和像素坐标系之间的位置映射关系的矩阵。

其中,摄像头内参包括RGB摄像头以及深度摄像头的焦距、坐标轴倾斜参数、成像平面中的主点坐标和相对于成像平面的主点坐标;摄像头外参包括描述世界坐标系到相机坐标系的旋转变换的旋转矩阵,以及描述世界坐标系到相机坐标系的平移变换的平移矩阵。

在具体实施时,通过将单应性矩阵与RGB摄像头采集到的RGB图像进行相乘,从而对RGB图像中的像素点的RGB坐标进行矫正得到RGB矫正图;同理,通过将单应性矩阵与深度摄像头采集到的能量图进行相乘,从而对能量图中的像素点的能量坐标进行矫正得到能量矫正图。

在步骤S12中,从RGB矫正图与能量矫正图上相匹配的特征点对中确定目标特征点对。

其中,所述特征点对包括RGB矫正图上的第一特征点以及能量矫正图上的第二特征点,所述目标特征点对中的第一特征点的第一视差与目标特征点对中的第二特征点的第二视差的差值大于预设阈值。

其中,目标特征点对中的第一特征点的第一视差与目标特征点对中的第二特征点的第二视差的差值大于预设阈值,包括:第一视差减去第二视差的差值大于预设阈值,或者,第二视差减去第一视差的差值大于预设阈值。即第一视差与第二视差的差值的绝对值大于预设阈值。

在实施时,对RGB矫正图进行特征点检测得到第一特征点,并对能量矫正图进行特征点检测得到第二特征点,将RGB矫正图中的第一特征点与能量矫正图中的第二特征点进行特征点匹配,得到相匹配的特征点对,其中,相匹配的特征点对用于表征在世界坐标系中的同一像素点,在RGB矫正图中投影的RGB坐标和在能量矫正图中投影的能量坐标。

在此基础上,图4是根据一示例性实施例示出的一种确定第一特征点的第一视差的流程图,参见图4所示,包括以下步骤:

在步骤S41中,确定第一特征点在RGB矫正图中的RGB坐标以及在能量矫正图中的能量坐标。

确定特征匹配后的第一特征点在RGB矫正图中的RGB坐标以及在能量矫正图中的能量坐标。

在步骤S42中,将RGB坐标与能量坐标之间的差值作为第一视差。

在实施时,第一视差D

在上述实施例的基础上,图5是根据一示例性实施例示出的一种确定第二特征点的第二视差的流程图,参见图5所示,包括以下步骤:

在步骤S51中,确定第二特征点在深度摄像头中的第一成像坐标以及在RGB摄像头中的第二成像坐标。

在该步骤中,确定第二特征点在深度摄像头中的第一成像坐标,包括:

获取第二特征点的深度值,并确定第二特征点在世界坐标系下到深度摄像头的光轴的第一距离。其中,从深度图中获取第二特征点的深度值。

根据深度摄像头的焦距、深度值以及第一距离,确定第二特征点在深度摄像头中的第一成像坐标。

具体地,参见图6所示,在该实施例中,右目摄像头为深度摄像头,左目摄像头为RGB摄像头,通过如下公式计算第二特征点在深度摄像头中的第一成像坐标:

其中,f

在该步骤中,确定第二特征点在RGB摄像头中的第二成像坐标,包括:

根据RGB摄像头与深度摄像头之间的中心距离,确定第二特征点在世界坐标系下到RGB摄像头的光轴的第二距离。

参见图6所示,第二距离等于第一距离减去中心距离,其中,中心距离即为基线距离。以第二特征点p为深度摄像头与RGB摄像头之外的特征点为例进行计算,第二距离等于第一距离减去中心距离。

在上述实施例的基础上,若第二特征点为在深度摄像头与RGB摄像头之间的特征点,则第二距离为中心距离减去第一距离。

根据RGB摄像头的焦距、深度值以及第二距离,确定第二特征点在RGB摄像头中的第二成像坐标。

具体地,参见图6所示,通过如下公式计算第二特征点在RGB摄像头中的第二成像坐标:

其中,f

在步骤S52中,将第一成像坐标与第二成像坐标之间的差值作为第二视差。

在实施时,第二视差D

具体地,通过如下公式计算第二视差D

则D

在上述实施例的基础上,在步骤S12中,所述从RGB矫正图与能量矫正图上相匹配的特征点对中确定目标特征点对,包括:

针对任一特征点对,在特征点对中的第一特征点的第一视差与第二特征点的第二视差之间的差值大于预设阈值的情况下,将特征点对作为目标特征点对。

具体地,任一选择一个特征点对,计算特征点对中的第一特征点的第一视差与第二特征点的第二视差之间的差值,在该差值小于等于预设阈值的情况下,从未选择的特征点对,重新选择新的特征点对,直到特征点对对应的差值大于预设阈值,将特征点对作为目标特征点对,遍历计算的过程结束。

在一种实施方式中,从各特征点对中确定置信度大于预设置信度阈值的候选特征点对,并针对任一候选特征点对,在候选特征点对中的第一特征点的第一视差与第二特征点的第二视差之间的差值大于预设阈值的情况下,将候选特征点对作为目标特征点对。

在一种实施方式中,预设置信度阈值与应用环境类型一一对应,例如在应用环境类型为室内环境的情况下,对应第一预设置信度阈值,应用环境类型为室外环境的情况下,对应第二预设置信度阈值。通过置信度与预设置信度阈值之间的大小关系,能够筛选出候选特征点,进而提高特征点对的准确性,进而提高配准的准确性。

具体地,针对任一特征点对,根据置信度图确定该特征点对中第二特征点的置信度,并在该特征点的置信度小于等于预设置信度阈值的情况下,确定该特征点对为非候选特征点对,在该特征点的置信度大于预设置信度阈值的情况下,确定该特征点对为候选特征点对。针对候选特征点对中确定目标特征点对的方式与上述从特征点对中确定目标特征点对的方式相同,此处不再赘述。

在步骤S13中,基于该差值,根据RGB摄像头与深度摄像头之间的基线距离以及预设调整比例,对单应性矩阵进行调整。

在一种可能实现的方式中,预设阈值可以为0,即在第一视差与第二视差相等的情况下不做调整,在第一视差与第二视差不相等的情况下,均需要对单应性矩阵进行调整。

在上述实施例的基础上,图7是根据一示例性实施例示出的一种实现图1中步骤S13的流程图,参见图7所示,在步骤S13中,所述基于该差值,根据RGB摄像头与深度摄像头之间的基线距离以及预设调整比例,对单应性矩阵进行调整,包括:

在步骤S131中,根据基线距离以及预设调整比例,确定参数调整量大小。

具体地,将基线距离与预设调整比例之间的乘积作为参数调整量。例如,在基线距离为100mm且预设调整比例为百分之一的情况下,确定参数调整量大小为1mm。

在步骤S132中,在第一视差与第二视差的差值大于预设阈值且第一视差大于第二视差的情况下,将单应性矩阵增加参数调整量。

在第一视差与第二视差的差值大于所述预设阈值且第一视差大于第二视差的情况下,表示采集的深度值比真实值小,因而需要增大RGB摄像头与深度摄像头之间的外参。因此根据参数调整量大小将单应性矩阵增大。沿用上述实施例进行说明,将单应性矩阵增大1mm。

在步骤S133中,在第一视差与第二视差的差值小于预设阈值且第一视差小于第二视差的情况下,将单应性矩阵减小参数调整量。

同理,在第一视差与第二视差的差值小于所述预设阈值且第一视差小于第二视差的情况下,表示采集的深度值比真实值大,因而需要减小RGB摄像头与深度摄像头之间的外参。因此根据参数调整量大小将单应性矩阵减小。沿用上述实施例进行说明,将单应性矩阵减小1mm。

在上述实施例的基础上,在步骤S13中,所述基于该差值,根据RGB摄像头与深度摄像头之间的基线距离以及预设调整比例,对单应性矩阵进行调整,包括:

确定单应性矩阵中用于表征RGB摄像头与深度摄像头之间的平移和旋转关系的目标参量。

具体地,确定单应性矩阵中平移矩阵为目标参量和/或确定单应性矩阵中旋转矩阵为目标参量。

基于差值,根据RGB摄像头与深度摄像头之间的基线距离以及预设调整比例,对单应性矩阵中的目标参量进行调整。

具体地,在第一视差与第二视差的差值大于预设阈值且第一视差大于第二视差的情况下,表示采集的深度值比真实值小,因而需要增大RGB摄像头与深度摄像头之间的外参。因此根据参数调整量调大单应性矩阵中的目标参量。

在第一视差与第二视差的差值小于所述预设阈值且第一视差小于第二视差的情况下,表示采集的深度值比真实值大,因而需要减小RGB摄像头与深度摄像头之间的外参。因此根据参数调整量调小单应性矩阵中的目标参量。

在步骤S14中,根据调整后的单应性矩阵对RGB图像以及能量图进行再次矫正。

具体地,将调整后的单应性矩阵与RGB图像相乘得到新的RGB图像,并将调整后的单应性矩阵与能量图相乘得到新的能量图。

上述技术方案,通过单应性矩阵对RGB图像以及能量图进行矫正,并从得到的RGB矫正图与能量矫正图上相匹配的特征点对中确定目标特征点对,进而在目标特征点对中的第一特征点的第一视差与目标特征点对中的第二特征点的第二视差的差值大于预设阈值的情况下,基于该差值,根据RGB摄像头与深度摄像头之间的基线距离以及预设调整比例,对单应性矩阵进行调整,得到RGB摄像头和深度摄像头更准确的相对位置关系,可以提高RGB摄像头与深度摄像头之间的配准精确度,进而可以在RGB摄像头与深度摄像头同时配置的场景下,提高相关应用的准确性。

在上述实施例的基础上,所述方法包括:

在根据调整后的单应性矩阵对RGB图像以及能量图进行再次矫正后,返回执行从RGB矫正图与能量矫正图上相匹配的特征点对中确定目标特征点对的步骤,直到新的RGB矫正图以及新的能量校正图上的各特征点对中不存在目标特征点对。

具体地,根据深度摄像头的置信度图,确定新的第二特征点的置信度,在新的第二特征点的置信度小于等于预设置信度阈值的情况下,确定对应的特征点对为非候选目标特征点对,若所有新的特征点对的第二特征点的置信度均小于等于预设置信度阈值,则确定新的RGB矫正图以及新的能量校正图上的各特征点对中不存在目标特征点对。

在新的第二特征点的置信度大于预设置信度阈值的情况下,确定对应的特征点对为候选目标特征点对。针对候选目标特征点对,确定候选目标特征点对的第一特征点在新的RGB矫正图中的新的RGB坐标以及在新的能量矫正图中的新的能量坐标,进而计算新的RGB坐标与新的能量坐标之间的差值作为第一视差。

进一步地,针对候选目标特征点对,通过上述实施例相同的方式,计算新的第二特征点的第二视差。并计算第一视差与第二视差之间的差值,在任意候选目标特征点对对应的差值均小于预设阈值的情况下,确定新的RGB矫正图以及新的能量校正图上的各特征点对中不存在目标特征点对。

下面通过一具体实施例对本公开的技术方案进行说明,参见图8所示,该方法包括以下步骤:

在设备出厂前,通过工厂标定RGB摄像头的内参和深度摄像头的内参,进而根据RGB摄像头的内参和深度摄像头的内参完成双摄标定结果,即RGB摄像头与深度摄像头之间的外参,得到单应性矩阵。

通过RGB摄像头采集得到RGB图像以及通过深度摄像头采集得到对应的能量图、深度图和置信度图。并针对RGB图像和能量图,通过单应性矩阵进行像素点的立体矫正,得到RGB矫正图和能量矫正图。

针对RGB矫正图和能量矫正图进行特征点检测,从像素点中分别检测出第一特征点和第二特征点,并针对第一特征点和第二特征点进行特征匹配,得到特征点对。

针对特征点对中的第二特征点,根据深度图和置信度图对该第二特征点进行检测,再次确定特征点对是否匹配,在特征点对匹配的情况下,根据置信度图确定该第二特征点的置信度,并判断第二特征点的置信度是否大于预设置信度阈值。在该第二特征点的置信度小于等于预设置信度阈值的情况下,重新选择新的特征点对,直到所有特征点对的第二特征点的置信度均小于等于预设置信度阈值,即不存在目标特征点对结束摄像头配准。

在该第二特征点的置信度大于预设置信度阈值的情况下,确定该特征点对为候选特征点对。并根据深度摄像头以及RGB摄像头的基本信息计算第二视差,其中基本信息即为深度摄像头以及RGB摄像头的内参。

同时,针对特征点对中的第一特征点,根据RGB矫正图确定RGB坐标以及根据能量矫正图确定能量坐标,并根据RGB坐标和能量坐标计算第一视差。进而在第一视差与第二视差相等的情况下,重新选择特征点对,直到所有特征点对的第一视差与第二视差均相等,确定不需要对摄像头进行配准。在第一视差与第二视差不相等的情况下,根据中心距离和预设调整比例,确定单应性矩阵进行调整的参数调整量大小,并基于第一视差与第二视差之间的大小关系,根据参数调整量对单应性矩阵进行调整,并根据调整后的单应性矩阵对RGB图像以及能量图进行再次立体矫正,直到不存在目标特征点对结束摄像头配准。

基于相同的发明构思,本公开还提供一种摄像头配准装置,应用于包括至少一个RGB摄像头和至少一个深度摄像头的电子设备,该装置可以以软件、硬件或者两者相结合的方式实现摄像头配准方法的全部或部分步骤。图9是根据一示例性实施例示出的一种摄像头配准装置100的框图,如图9所示,所述装置100包括:第一矫正模块110、确定模块120、调整模块130和第二矫正模块140。

其中,第一矫正模块110被配置为用于根据所述RGB摄像头与所述深度摄像头之间的单应性矩阵,对所述RGB摄像头采集到的RGB图像以及所述深度摄像头采集到的能量图进行矫正,得到RGB矫正图以及能量矫正图;

确定模块120被配置为用于从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对,所述特征点对包括所述RGB矫正图上的第一特征点以及所述能量矫正图上的第二特征点,所述目标特征点对中的第一特征点的第一视差与所述目标特征点对中的第二特征点的第二视差的差值大于预设阈值;

调整模块130被配置为用于基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整;

第二矫正模块140被配置为用于根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正。

上述装置可以提高RGB摄像头与深度摄像头之间的配准精确度,进而可以在RGB摄像头与深度摄像头同时配置的场景下,提高相关应用的准确性。

可选地,所述确定模块120被配置为用于:针对任一所述特征点对,在所述特征点对中的所述第一特征点的第一视差与所述第二特征点的第二视差之间的差值大于所述预设阈值的情况下,将所述特征点对作为所述目标特征点对;或者,

从各所述特征点对中确定置信度大于预设置信度阈值的候选特征点对,并针对任一所述候选特征点对,在所述候选特征点对中的所述第一特征点的第一视差与所述第二特征点的第二视差之间的差值大于所述预设阈值的情况下,将所述候选特征点对作为所述目标特征点对。

可选地,所述调整模块130被配置为用于根据所述基线距离以及所述预设调整比例,确定参数调整量大小;

在所述第一视差与所述第二视差的差值大于所述预设阈值且所述第一视差大于所述第二视差的情况下,将所述单应性矩阵增加所述参数调整量;或者,

在所述第一视差与所述第二视差的差值小于所述预设阈值且所述第一视差小于所述第二视差的情况下,将所述单应性矩阵减小所述参数调整量。

可选地,所述调整模块130被配置为用于确定所述单应性矩阵中用于表征所述RGB摄像头与所述深度摄像头之间的平移和旋转关系的目标参量;

基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵中的目标参量进行调整。

可选地,所述确定模块120还被配置为用于在根据调整后的单应性矩阵对所述RGB图像以及所述能量图进行再次矫正后,返回执行所述从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对的步骤,直到新的RGB矫正图以及新的能量校正图上的各特征点对中不存在所述目标特征点对。

可选地,所述确定模块120被配置为用于确定所述第一特征点在所述RGB矫正图中的RGB坐标以及在所述能量矫正图中的能量坐标;

将所述RGB坐标与所述能量坐标之间的差值作为所述第一视差。

可选地,所述确定模块120被配置为用于确定所述第二特征点在所述深度摄像头中的第一成像坐标以及在所述RGB摄像头中的第二成像坐标;

将所述第一成像坐标与所述第二成像坐标之间的差值作为所述第二视差。

可选地,所述确定模块120被配置为用于获取所述第二特征点的深度值,并确定所述第二特征点在世界坐标系下到所述深度摄像头的光轴的第一距离;

根据所述深度摄像头的焦距、所述深度值以及所述第一距离,确定所述第二特征点在所述深度摄像头中的第一成像坐标。

可选地,所述确定模块120被配置为用于根据所述RGB摄像头与所述深度摄像头之间的中心距离,确定所述第二特征点在世界坐标系下到所述RGB摄像头的光轴的第二距离;

根据所述RGB摄像头的焦距、所述深度值以及所述第二距离,确定所述第二特征点在所述RGB摄像头中的第二成像坐标。

关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

此外,值得说明的是,上述实施例中的模块在具体实施时可以是相互独立的装置也可以是同一个装置,例如第一矫正模块110和第二矫正模块140,可以为同一模块也可以为两个模块,本公开对此不作限定。

本公开还提供一种电子设备,包括:

处理器;

用于存储处理器可执行指令的存储器;

其中,所述处理器被配置为:

根据所述RGB摄像头与所述深度摄像头之间的单应性矩阵,对所述RGB摄像头采集到的RGB图像以及所述深度摄像头采集到的能量图进行矫正,得到RGB矫正图以及能量矫正图;

从所述RGB矫正图与所述能量矫正图上相匹配的特征点对中确定目标特征点对,所述特征点对包括所述RGB矫正图上的第一特征点以及所述能量矫正图上的第二特征点,所述目标特征点对中的第一特征点的第一视差与所述目标特征点对中的第二特征点的第二视差的差值大于预设阈值;

基于所述差值,根据所述RGB摄像头与所述深度摄像头之间的基线距离以及预设调整比例,对所述单应性矩阵进行调整;

根据调整后的单应性矩阵对所述RGB图像以及能量图进行再次矫正。

本公开还提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开提供的所述摄像头配准方法的步骤。

图10是根据一示例性实施例示出的一种用于摄像头配准的装置800的框图。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。

参照图10,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电力组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。

处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机拍照操作和摄像头配准操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的摄像头配准方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。

存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。

电力组件806为装置800的各种组件提供电力。电力组件806可以包括电源管理系统,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。

多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。其中,前置摄像头和/或后置摄像头配置有至少一个RGB摄像头和至少一个深度摄像头,当装置800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810包括一个扬声器,用于输出音频信号。

I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到装置800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。

通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。

在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述摄像头配准方法。

在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述摄像头配准方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的摄像头配准方法的代码部分。

本领域技术人员在考虑说明书及实践本公开后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。

应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

相关技术
  • 摄像头标定方法、装置、计算机设备和存储介质
  • 一种摄像头污点检测方法、装置、设备及存储介质
  • 医学影像的二维与三维图像配准方法、系统、存储介质、配准器
  • 通话控制方法、装置、存储介质及穿戴式设备
  • 通话方法及装置、计算机可读存储介质、用户设备
  • 点云配准方法、骨头配准方法、装置、设备及存储介质
  • 摄像头的调整方法、装置、视频通话设备和存储介质
技术分类

06120115803037