掌桥专利:专业的专利平台
掌桥专利
首页

用于对多个相机进行标定的方法、电子设备和存储介质

文献发布时间:2023-06-19 12:19:35


用于对多个相机进行标定的方法、电子设备和存储介质

技术领域

本公开的实施例主要涉及计算机视觉领域,并且更具体地,涉及用于对大场地的多个相机进行标定的方法、电子设备和计算机可读存储介质。

背景技术

在计算机视觉领域,立体视觉是重要的组成部分,被广泛应用于导航、三维测量、三维建模等领域。计算机视觉研究的目的在于使得计算机能够通过二维图像,对三维空间环境信息进行认知,能够使机器感知三维环境中物体的几何信息,并且进行描述、存储、识别和理解。三维重建计算多采用多相机所采集的图像,对人眼的成像原理进行模拟,根据不同图像间的视差进行重建,而在三维重建前,需要对重建中用到的多个相机进行标定,确定单个相机固有的光电特性和几何结构相关的参数,即内参数,以及多个相机之间的相对位置关系,即外参数,外参数通过相机之间的旋转矩阵和平移向量来表示。相机标定结果的好坏直接决定三维重建结果的好坏。

在对双目相机进行标定时,根据张正友(棋盘格)标定方法,需要双目相机拍摄不同角度的标定板来完成标定公祖。根据大量数据表明,一般认为标定图片达到20-30张时,标定结果相对稳定。在标定过程中,利用棋盘格角点作为标志点,通过改变棋盘格的朝向,即变换世界坐标系,得到多个图像,依次对各个图片提取交点,然后计算双目相机的内参和外参。

在对两个以上的相机进行标定时,使用张正友标定法,需要每个相机都能够拍摄到棋盘格上的角点。想要获得多个相机之间的相对位置关系,要求所有相机至少共享某一世界坐标系下的图像,也就是说至少在棋盘格的一个姿态下,要求所有相机都能够看见该棋盘格。棋盘格存在朝向问题,也就是说棋盘格上的图像仅在一面上存在,如图6所示,棋盘格朝向8个相机中的0-3号相机,此时4-7号相机无法观测到棋盘格上的角点,也就是说此时只有0-3号相机共享了该棋盘格姿态下的角点,在进行计算时仅仅能计算0-3号相机中的每两个相机之间的空间位置关系,而无法计算4-7号相机中的每两个相机之间的空间位置关系,也无法计算4-7号相机与0-3号相机中的任意相机之间的位置关系。那么在棋盘格的该姿态下,就无法找到4-7号相机与0-3号相机之间的对应关系(或者匹配信息)。因此,处于棋盘格正面一侧的相机和处于棋盘格背面一侧的相机无法建立联系,也无法实现他们之间的相对位置的计算。这样也无法实现对于各个相机的外参的全局优化。

因此棋盘格标定法通常也只适用于双目相机的标定,或者适用于相机都摆在棋盘格的一侧的相机的标定,对于大场地的摆成圆形或凸多面体形状的多个相机而言,不适于使用棋盘格来进行标定。

现在的相机标定方法还包括利用辐射杆的标定方法,但是该方法需要在所采集的图像上对辐射杆上的标记点进行标注,这十分费时费力。

因此在用于三维重建的计算机视觉领域,存在对在大场地上部署的多个相机进行标定的方法,需要该方法能够简单且快速地对多个相机完成内参和外参的标定。

发明内容

本发明所要解决的技术问题在于克服现有多相机标定算法的缺陷,提供一种基于一维标定杆的用于大场地的多相机标定方法,该方法能够提高标定精度,简化标定流程,降低标定开销。

在本公开的第一方面中,提供了一种用于对多个相机进行标定的方法,包括:利用同步触发机制对多个相机进行同步触发,以进行图像采集;使得一维标定杆移动以遍布多个相机围成的区域,以获取一维标定杆的多个图像,所述一维标定杆具有固定的长度,且两端固定有第一标志物和第二标志物;对多个图像进行处理,以在每一帧所获取的每个图像中标注出所出现的第一标志物和第二标志物中的一者或两者的图像坐标;基于第一标志物和第二标志物的标注结果,针对每一帧图像,计算每两个相机之间的相关度,以得到相关度计数列表;遍历所述相关度计数列表,将最大相关度计数所对应的两个相机作为第一对目标相机;依次基于已获取的目标相机,获取新的一对目标相机,以获取多对目标相机,多个相机的总数量比多对目标相机的数量大1;基于第一标志物和第二标志物的图像坐标,计算每对目标相机之间的初始位置关系和每个目标相机的初始内参,所述初始位置关系通过两个相机之间的旋转矩阵和平移向量来表示;以及将多个相机中的一个相机作为基准相机,基于所计算的每对目标相机之间的初始位置关系,计算其他相机相对于基准相机的经标定位置关系和每个相机的经标定内参。

在一些实施例中,依次基于已获取的目标相机,获取新的一对目标相机包括:获取所有已获取目标相机与所有剩余相机所组成的多对相机组合,每对相机包括一个已获取目标相机和一个剩余相机;从相关度计数列表中,获取针对所述多对相机组合中的每对相机的相关度计数;以及从所获取的相关度计数中,选取相关度最高的一对相机作为新的一对目标相机。

在一些实施例中,基于第一标志物和第二标志物的标注结果,针对每一帧图像,计算每两个相机之间的相关度,以得到相关度计数列表包括:响应于在每两个相机所采集的某一帧图像中同时标注了一维标定杆的第一标志物和第二标志物,将这两个相机在该帧的相关度计数设定为1;以及响应于在每两个相机所采集的某一帧图像中仅标注了一维标定杆的第一标志物和第二标志物中的一者或者两者都未被标注,将这两个相机在该帧的相关度计数设定为0。

在一些实施例中,相关度计数列表中的针对两个相机的相关度计数表示:在所采集图像的所有帧中,这两个相机同时采集到第一标志物和第二标志物两者的总次数。

在一些实施例中,基于第一标志物和第二标志物的图像坐标,计算每对目标相机之间的初始位置关系和每个目标相机的初始内参包括:对每个目标相机的内参进行初始化;基于第一N对匹配图像坐标和第二N对匹配图像坐标,计算每对目标相机中的两个目标相机之间的初始旋转矩阵和初始平移向量,其中每对目标相机中的第一相机和第二相机在N个帧中都采集到第一标志物和第二标志物,第一N对匹配图像坐标包括N对匹配的第一标志物图像坐标,第二N对匹配图像坐标包括N对匹配的第二标志物图像坐标,其中第一N对匹配图像坐标中的一对匹配图像坐标包括每对目标相机中的第一相机在所述N个帧中的一帧所采集的图像中的第一标志物图像坐标与每对目标相机中的第二相机在该帧所采集的图像中的第一标志物图像坐标,第二N对匹配图像坐标中的一对匹配图像坐标包括每对目标相机中的第一相机在该帧所采集的图像中的第二标志物图像坐标与每对目标相机中的第二相机在该帧所采集的图像中的第二标志物图像坐标,N为大于等于1的自然数;以及通过LM最优化算法,利用如下的第一目标函数,对每对目标相机的初始化的内参和所计算的初始旋转矩阵和初始平移向量进行优化,以得到优化后的初始内参、初始旋转矩阵和初始平移向量:

其中,N表示第一标志物或第二标志物所构成的匹配对的数量,i表示匹配对的序号;

R为待优化的旋转矩阵,t为待优化的平移向量;

L为标定杆的长度。

在一些实施例中,基于所计算的每对目标相机之间的初始位置关系,计算其他相机相对于基准相机的经标定位置关系和每个相机的经标定内参包括:基于优化后的初始旋转矩阵和初始平移向量,计算其他相机中的每个相机相对于基准相机的旋转矩阵和平移向量;以及利用LM最优化算法,利用如下的第二目标函数,对所计算的相对于基准相机的旋转矩阵和平移向量以及每个相机的优化后的初始内参进行优化,以得到经标定位置关系和每个相机的经标定内参:

N

s表示匹配对的序号,i和j表示相机的序号,n表示相机的数量;

R

R

L为标定杆的长度。

在一些实施例中,第一标志物和第二标志物中的一者或两者的图像坐标是通过使用镜头模型而去除畸变之后的图像坐标。

在本公开的第二方面中,提供了一种电子设备,包括:处理器;以及与所述处理器耦合的存储器,所述存储器具有存储于其中的指令,所述指令在被处理器执行时使所述设备执行根据本公开的第一方面所描述的方法。

在本公开的第三方面中,提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本公开的第一方面所描述的方法。

应当理解,发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征,亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。

附图说明

结合附图并参考以下详细说明,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中,相同或相似的附图标注表示相同或相似的元素。

图1示出了根据本公开的一个实施例的相机和一维标定杆的布局的俯视图。

图2示出了根据本公开的一个实施例的表示两个相机之间的相关度的相关度计数列表。

图3示出了根据本公开的一个实施例的根据已获取的目标相机而获取后一对目标相机的树状图。

图4示出了根据本公开的一个实施例用于对大场地上的多个相机进行标定的方法的示例流程。

图5示出了能够实施本公开的多个实施例的计算设备的框图。

图6示出了传统技术中使用棋盘格标定方法的相机和标定板的布局的俯视图。

具体实施方式

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。

在本公开的实施例的描述中,术语“包括”及其类似用语应当理解为开放性包含,即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。下文还可能包括其他明确的和隐含的定义。

如前文所提及的,棋盘格等标定方法对场地的要求限制很多,不适用于大场地的标定。根据本公开的方法和系统能够适用于大场地中的多个相机的标定,且标定过程简单易行且能够节省计算资源。

以下将参照附图1至5来具体描述本公开的实施例。

图1示出了根据本公开的一个实施例的相机和一维标定杆的布局的俯视图。虽然在图1所示的实施例中,包括8个相机,它们分别被标号为0、1、2、3、4、5、6和7,但是该数量仅仅是一个示例性实施例中的相机的数量。本公开的相机的数量不限于8个,其可以是大于或等于2的任意自然数。

如图1所示,8个相机的镜头都朝向场地的中心,但是这些相机相距较远,如果用棋盘格标定的方法,在棋盘格平铺在地面上的情况下,由于棋盘格较小或者距离太远,相机可能无法看清楚棋盘格的角点等地方,那么就无法对相距较远的相机进行标定。所以现在棋盘格一般都在较小的场地对相机进行内参标定。还如背景技术中所描述的,棋盘格存在方向性,在手举着棋盘格进行标定时,棋盘格背面的相机总是无法观察到棋盘格上的角点。

如图1所示的8个相机被同步触发,从而对场地中的物体进行同步采集。进行标定的工作人员可以手持一维标定杆在场地中运动,工作人员可以在场地中心运动,使得基本上每个相机都可以观察到该一维标定杆。工作人员也可以移动到离某个相机比较近的地方,这样该相机附近的几个相机可能观察不到该一维标定杆。工作人员还可以挥动一维标定杆,使得一维标定杆与地面垂直,与地面平行或者与地面成一定角度,在图1中示出了一维标定杆的几种状态,例如状态1至4,但是这些状态仅仅是示意性的,一维标定杆在该场地内可以处于任意姿态。如图1所示,该一维标定杆10包括第一标志物11和第二标志物12,该一维标定杆的长度L是已知的。

采集到的图片被传输到处理器,从而对图片进行处理。对图片的处理可以包括标注在每张图片中所出现的第一标志物和第二标志物,并且给出这些标注物的图像坐标,该标注可以基于检测用神经网络实现,利用yolo-V5等检测用神经网络,给出标志物的预测框并且给出该预测框的中心坐标。在一个实施例中,第一标志物是蓝色的皮球,第二标志物是与蓝色不同的橙色的皮球。将图片输入到检测神经网络中,第一标志物和第二标志物被标注出来,这些标注物的图像坐标也被标注出来。

上述已经介绍了,一维标定杆在场地中随意移动,因此存在标志杆不能被一个或多个相机观察到的情况,因此不是每个图片中都会出现两个标志物。如果两个相机所采集的某一帧图像中存在两个标志物,则两个相机针对该帧的相关度就为1,如果两个相机所采集的某一帧图像中存在一个标志物或者两个标志物都不存在,则两个相机针对该帧的相关度就为0。例如,针对相机1和相机2,对这两个相机在每一帧所采集的图片进行处理,能够得到相机1和相机2的相关度计数。例如,一共采集了300帧图片,在其中97帧的图片中同时存在第一和第二标志物(例如篮球和橙球),则相机1和相机2的相关度计数就为97。8个相机可以组成8*7/2=28个组合,那么针对这28个组合,计算每个组合的相关度,从而可以得到如图2所示的相关度计数列表。

处理器对图2所示的列表进行遍历,找出计数最高的数值所对应的两个相机,从图2中可以看出,相机2和相机7之间的相关度计数为217,且是所有计数中值最大的,则选取作为相机2和相机7作为第一对目标相机。然后基于第一对目标相机,获取第二对目标相机。

在一个实施例中,为了使得相关度之间具有更大的关联性和延续性,优选地选择与第一对目标相机中的任意一个相机有关联的另外一个相机组成第二对目标相机,在图2所示的实施例中,与相机7相关度第二高的是相机1且相关度为212,与相机2相关度第二高的是相机1且相关度205,因此选择相机1和7作为第二对目标相机,如图3所示。如图3所示,然后获取相机0、3、4、5、6与相机1、2和7组成的每一对相机的相关度,选取相关度最高的相机作为第三对目标相机,从图2中可以看出,相机0、3、4、5、6与相机1最高的相关度是相机1和5之间的相关度165,相机0、3、4、5、6与相机2最高的相关度是相机2和5之间的相关度160,相机0、3、4、5、6与相机7最高的相关度是相机7和3之间的相关度179,因此,如图3所示,选取相机7和3作为第三对目标相机。

按照上述方法,获取相机0、4、5、6与相机1、2、3和7组成的每一对相机的相关度,选取相关度最高的相机作为第四对目标相机,从图2可以看出,这些相机中相机7和5组成的一对相机的相关度计数177是最高的,因此如图3所示,选择相机7和5作为第四对目标相机。按照上述的方法,获取相机0、4、6与相机1、2、3、5和7组成的每一对相机的相关度,选取相关度最高的相机作为第五对目标相机,从图2可以看出,这些相机中相机1和6组成的一对相机的相关度计数153是最高的,因此如图3所示,选择相机1和6作为第五对目标相机。按照上述的方法,获取相机0、4与相机1、2、3、5、6和7组成的每一对相机的相关度,选取相关度最高的相机作为第六对目标相机,从图2可以看出,这些相机中相机1和4组成的一对相机的相关度计数132是最高的,因此如图3所示,选择相机1和4作为第六对目标相机。按照上述的方法,获取相机0与相机1、2、3、4、5、6和7组成的每一对相机的相关度,如图3所示,选取相机0和5作为第七对目标相机,从图2可以看出,这些相机中相机0和5组成的一对相机的相关度计数132是最高的,因此选择相机0和5作为第七对目标相机。按照这种方法,如图3所示,可以选择相机2和7、7和1、7和3、7和5、1和6、1和4以及5和0作为7对目标相机。

针对如上的7对目标相机中的每对目标相机,计算两个相机之间的初始位置关系,该初始位置关系通过两个相机之间的旋转矩阵R和平移向量t来表示,因此需要计算7个旋转矩阵R和平移向量t。针对每对目标相机,还应当计算每个相机的初始内参。以下将详细介绍如何计算两个相机之间的旋转矩阵R和平移矩阵t。

相机外参包括旋转矩阵R,和平移向量t。在进行计算时,存在四个坐标系,分别是世界坐标系,其原点在用户所定义的一个空间点处;相机坐标系的原点位于相机光心,其横轴和竖轴与图像平面的横轴和竖轴相同;图像坐标系的原点成像传感器平面(成像平面)的中心;以及像素坐标系的原点在成像传感器平面的左上角。

一个点从世界坐标系到相机坐标系的转换可以由等式(1)来表示:

其中,(X

(X

以下将介绍相机内参的具体参数。鱼眼镜头模型,内参包括非线性(多项式映射)投影函数。下面的等式(2)描述图像坐标系下的点与相机坐标系下的对应点之间的对应关系:

其中,(X

(u,v)点是空间中的一个点在图像坐标系下的投影坐标;

λ表示尺度因子;

a

ρ是(u,v)的函数值,表示投影点到图像坐标系的原点(即图像中心)的距离:

下面的等式(3)描述图像坐标系下的点与像素坐标系下的对应点之间的对应关系:

其中,(u,v)表示空间中的一个点在图像坐标系下的坐标;

(u′,v′)表示空间中的一个点在像素坐标系下的坐标;

(c

c,d,h是拉伸矩阵参数,其与相机的畸变相关。

因此,相机的内参包括如下的参数:λ,a

在对相机内参进行初始化时,进行如下的设置:

下文将介绍如何基于第一标志物(如蓝球)和第二标志物(如橙球)的坐标以及杆的长度,计算两个目标相机之间的旋转矩阵和平移向量。在计算这些参数之间,首先要计算本质矩阵E。本质矩阵E是一个3*3的矩阵,具有9个未知数。旋转矩阵R也是一个3*3的矩阵,平移向量t0是一个1*3的一维向量。

本质矩阵E=t0^R,可由旋转矩阵R,和平移向量t0计算得到。

一对匹配点在第一个目标相机下的归一化的坐标为x

对极约束可以写成向量乘积形式,如等式(5)所示:

[u

其中,e=[e

利用2N对匹配点(包括N对第一标志物(例如N对蓝球),和N对第二标志物(例如N对橙球),通过如下的等式(6)计算e:

使用SVD方法解出本质矩阵E,通过本质矩阵E求出旋转矩阵R,和平移向量t0。

由于通过e计算出的本质矩阵E不同尺度下等价,所以计算出的平移向量t0还需要乘以一个尺度因子s以得到平移向量t=t0*s。

如下将介绍如何计算尺度因子s。第一和第二相机在同一帧采集到篮球和橙球,其中蓝球匹配对在第一和第二相机下的归一化坐标为

通过旋转矩阵R和平移向量t0与归一化坐标

通过上述的方法,能够针对每对目标相机,计算它们之间的旋转矩阵R和平移向量t。在对相机的内参进行了初始化,并且在求解出两个相机之间的平移矩阵R以及平移向量t之后,可以基于如下的目标优化函数(7),对平移矩阵R,平移向量t以及相机的内参进行优化:

其中,N表示第一标志物或第二标志物所构成的匹配对的数量,i表示匹配对的序号;

R为待优化的旋转矩阵,t为待优化的平移向量;

L为标定杆的长度。

由于ρ与像素坐标相关,像素坐标进一步与相机的畸变参数c,d,h等相关,因此在优化公式中的归一化图像坐标与相机内参相关,通过上述的目标函数(7)进行优化,相机的内参也一并被优化。

通过上述介绍的方法,得到每对目标相机的经过优化的初始内参,初始旋转矩阵R和初始平移向量t。然后,基于优化后的初始旋转矩阵和初始平移向量,计算其他相机中的每个相机相对于基准相机的旋转矩阵和平移向量。计算相对于基准相机的旋转矩阵和平移向量这里不做详细介绍,是本领域技术人员熟知的。

在如图1所示的实施例中,将相机0作为基准相机,该相机0的旋转矩阵R被设定为单位矩阵,平移向量t被设定为0。然后,利用优化后的初始旋转矩阵R和初始平移向量t,计算相机1相对于相机0的旋转矩阵和平移向量;相机2相对于相机0的旋转矩阵和平移向量;相机3相对于相机0的旋转矩阵和平移向量;相机4相对于相机0的旋转矩阵和平移向量;相机5相对于相机0的旋转矩阵和平移向量;相机6相对于相机0的旋转矩阵和平移向量;相机7相对于相机0的旋转矩阵和平移向量。

利用LM最优化算法,利用如下的目标函数(8),对所计算的相对于基准相机的旋转矩阵和平移向量,以及每个相机的优化后的初始内参进行优化,以得到每个相机相对于基准相机的经标定位置关系和每个相机的经标定内参:

其中,N

s表示匹配对的序号,i和j表示相机的序号,n表示相机的数量;

R

R

L为标定杆的长度。

图4示出了根据本公开的一个实施例的用于大场地的多个相机标定方法。该标定方法包括步骤401:利用同步触发机制对多个相机进行同步触发,以进行图像采集。同步触发机制触发相机使得相机能够在同一时刻开始采集,这样才能保证在同一帧观察到的视野是相同的,否则无法得到后续的各个匹配对。该方法还包括步骤402:使得一维标定杆移动以遍布多个相机围成的区域,以获取一维标定杆的多个图像。如上文所述,该过程可以由工作人员手举着一维标定杆在场地内行走来完成,一维标定杆的方向和姿态都可以发生变化。该一维标定杆具有固定的长度,且两端固定有第一标志物和第二标志物。第一标志物和第二标志物对于后续的计算非常重要,第一标志物和第二标志物需要明显地区分开。

该方法还包括步骤403:对多个图像进行处理,以在每一帧所获取的每个图像中标注出所出现的第一标志物和第二标志物中的一者或两者的图像坐标。在一个实施例中,第一标志物可以是篮球,第二标志物可以是橙球或者橙球。第一标志物和第二标志物要明显区分开。对图像进行处理的工具可以是yolo-v5等神经网络,其可以在每张图像中利用预测框将第一标志物和第二标志物标注出,并且给出预测框的中心点的图像坐标。该方法还包括步骤404:基于第一标志物和第二标志物的标注结果,针对每一帧图像,计算每两个相机之间的相关度,以得到相关度计数列表。在一个实施例中,采用相机0-7在某一帧同时对一维标定杆进行采集,但是在该帧并非每个相机都能够同时采集到两个标志物。如果两个相机都采集到两个标志物则它们在该帧的相关性计数可以记为1,否则记为0。依次方式,在每一帧中,针对每两个相机都计算一次相关度。

该方法还包括步骤405:遍历所述相关度计数列表,将最大相关度计数所对应的两个相机作为第一对目标相机。例如,在图2所示的实施例中,相机2和相机7被选定为第一对目标相机,因为它们之间的相关度计数最大。该方法还包括步骤406:依次基于已获取的目标相机,获取新的一对目标相机,以获取多对目标相机,多个相机的总数量比多对目标相机的数量大1。如何基于已获取的目标相机,获取新的一对目标相机在上文参考图2已经进行了说明,这里不再赘述。该方法还包括步骤407:基于第一标志物和第二标志物的图像坐标,计算每对目标相机之间的初始位置关系和每个目标相机的初始内参。这里需要基于多对匹配的第一标志物和第二标志物的图像坐标,匹配代表两个相机在该帧都看到第一标志物和第二标志物,两个相机中的第一标志物坐标作为该帧的一对匹配坐标,第二标志物坐标作为该帧的另一对匹配坐标。该方法还包括步骤408:将多个相机中的一个相机作为基准相机,基于所计算的每对目标相机之间的初始位置关系,计算其他相机相对于基准相机的经标定位置关系和每个相机的经标定内参。基准相机的旋转矩阵为单位矩阵,平移向量为0。基于所计算的每对目标相机之间的初始位置关系,能够计算出其他相机相对于基准相机的旋转矩阵和平移向量。然后利用优化目标函数,对所计算出的相对于基准相机的旋转矩阵和平移向量进行优化,并且同时对相机的初始内参进行优化,从而得到最终的经标定位置关系和每个相机的经标定内参。

根据本发明的方法采用数量大于2的相机,这些相机可以部署在大场地上,例如整个篮球场大小的场地,且标定工作人员可以在全场移动该一维标定杆,从而遍布场地的每个角落。在背景技术中已经讨论了,棋盘格式标定板存在正反面,因此位于标定板正面的相机和位于标定板反面的相机永远无法同时看到标定板上的角点,因此无法在它们之间建立联系,也就无法计算它们之间的位置关系。但是,在根据本发明的方法中,采用一维标定杆,由于一维标定杆的两个标志物不像标定板一样存在正反面,因此任意两个相机总是有机会同时看到一维标定杆上的两个标志物,也就是说总是可以在所采集的图像中找到任意两个相机都看到两个标志物的图片,可以在任意两个相机之间建立联系,那么就可以计算这两个相机之间的相互位置关系。因此,根据本公开的方法不要求每个相机在每时每刻都观察到一维标定杆,只要求任意两个相机能够在一些时间同时看见第一和第二标志物即可,这些相机的数量可以得到扩展,数量也可以越来越多。对于一维标定杆的约束较小,标定人员可以在全场移动。由于一维标定杆几乎遍布相机所围成的整个区域,因此也可以对整个场地进行标定,即使边缘区域也可以被准确标定。因此,根据本公开的标定方法,标定操作更加简单,一维标定杆采用一维结构,仅具有两个标志物,因此标志物比辐射杆形式的标定的计算量要小很多,也比计算棋盘格上的多个角点的坐标的计算量要小得多,本发明的方法能够标定大场地上的多个相机,多个相机的数量也是可扩展的。

在利用LM算法进行优化时,在做最优化计算时,都需要提供变量的初始值。这个初始值不能随意设置,否则LM算法所计算的梯度不会下降。非线性优化的所有迭代求解方案,需要提供一个良好的初始值。由于目标函数太复杂,导致在求解空间上的变化时难以预测,对问题提供不同的初始值往往导致不同的计算结果。通过本发明的标定方法,首先通过对各个图像进行处理以得到每两个相机之间的相关度计数列表,从而根据该相关度计数列表,可以得到那些相机中的联系较大的几对相机。对于最终得到的联系较大的几对相机,例如针对8个相机中的7对目标相机,计算它们之间的初始旋转矩阵和初始平移向量,以及初始的内参,将这些计算结果作为非线性优化的初始变量。根据本公开的标定方法,并没有计算每两个相机之间的相对位置关系(例如针对8个相机,如果每对相机都要计算的话,需要计算28对相机的相对位置关系),该标定方法仅仅是计算了相关性较高的几对目标相机的相关性,从而显著地简化了非线性优化的初始变量的设置,这样给出了针对非线性优化的非常有利的初始值,大大地简化了计算的难度和复杂度。因此,根据本公开的标定算法能够大大地节省计算资源,且更加快速地完成标定。

图5示出了可以用来实施本公开的实施例的示例设备500的示意性框图。设备500可以用于实现图1的计算设备102。如图所示,设备500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的计算机程序指令或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序指令,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理单元501执行上文所描述的各个方法和处理,例如过程200和600中的任一个。例如,在一些实施例中,过程200和600中的任一个可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由CPU 501执行时,可以执行上文描述的过程200和900中的任一个的一个或多个步骤。备选地,在其他实施例中,CPU 501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行过程200和600中的任一个。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)等等。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、橙外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

此外,虽然采用特定次序描绘了各操作,但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行,或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地,在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

相关技术
  • 用于对多个相机进行标定的方法、电子设备和存储介质
  • 多个相机进行目标跟踪的方法、电子设备及存储介质
技术分类

06120113254116