掌桥专利:专业的专利平台
掌桥专利
首页

一种纹理贴图的方法、装置、电子设备及存储介质

文献发布时间:2023-06-19 19:30:30


一种纹理贴图的方法、装置、电子设备及存储介质

技术领域

本公开涉及图像处理技术领域,尤其涉及三维重建等技术领域。

背景技术

三维重建在各个领域有着广泛应用,如构建高精地图、文物重建、场景重建等等。纹理贴图是三维重建中的一个重要步骤,指的是将二维图像的纹理信息投影至融合后的点云数据对应的三维场景或物体,得到该场景或物体的纹理图。

发明内容

本公开提供了一种纹理贴图的方法、装置、电子设备以及存储介质,用于提高纹理贴图准确性。

根据本公开的一方面,提供了一种纹理贴图的方法,包括:

基于融合后点云数据获取目标地面面片空间坐标,其中,地面面片为基于预设分辨率对所述融合后点云数据对应的地面进行划分得到的;

基于所述目标地面面片空间坐标,获取包括所述目标地面面片的图像;

获取所述图像的图像首行位姿,其中,所述图像首行位姿为相机采集所述图像时的位姿;

基于所述图像首行位姿预估所述目标地面面片在所述图像中的投影点所在行的目标位姿;

基于所述目标地面面片空间坐标以及所述目标位姿,确定所述目标地面面片在所述图像中的目标投影点;

基于所述目标地面面片在所述图像中的目标投影点对所述目标地面面片进行纹理贴图。

根据本公开的另一方面,提供了一种纹理贴图的装置,包括:

空间坐标获取模块,用于基于融合后点云数据获取目标地面面片空间坐标,其中,地面面片为基于预设分辨率对所述融合后点云数据对应的地面进行划分得到的;

图像获取模块,用于基于所述目标地面面片空间坐标,获取包括所述目标地面面片的图像;

首行位姿获取模块,用于获取所述图像的图像首行位姿,其中,所述图像首行位姿为相机采集所述图像时的位姿;

目标位姿预估模块,用于基于所述图像首行位姿预估所述目标地面面片在所述图像中的投影点所在行的目标位姿;

目标投影点确定模块,用于基于所述目标地面面片空间坐标以及所述目标位姿,确定所述目标地面面片在所述图像中的目标投影点;

纹理贴图模块,用于基于所述目标地面面片在所述图像中的目标投影点对所述目标地面面片进行纹理贴图。

根据本公开的一方面,提供了一种电子设备,包括:

至少一个处理器;以及

与所述至少一个处理器通信连接的存储器;其中,

所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述任一所述的纹理贴图的方法。

根据本公开的一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述任一所述的纹理贴图的方法。

根据本公开的一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述任一所述的纹理贴图的方法。

应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案,不构成对本公开的限定。其中:

图1是根据本公开提供的纹理贴图的装置的第一实施例的示意图;

图2是本公开提供的纹理贴图的方法中计算目标地面面片坐标的一种示意图;

图3a是本公开提供的纹理贴图的方法中构建目标点云高度网格的一种流程示意图;

图3b是三角网格的一种示意图;

图4是卷帘快门相机曝光机制示意图;

图5是本公开提供的纹理贴图的方法中获取目标地面面片对应的目标位姿的一种流程示意图;

图6是根据本公开提供的纹理贴图的方法的一种框架示意图;

图7是根据本公开提供的纹理贴图的装置的第一实施例的示意图;

图8是用来实现本公开实施例的纹理贴图的方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

三维重建的过程通常是对采集到的场景、物体点云数据进行融合,再从点云数据中提取纹理信息等来对点云数据对应的场景或物体进行贴图,进而得到最终的重建结果。以构建高精地图为例,构建高精地图的过程通常是对针对道路采集到的点云数据进行融合后,从点云数据中提取路面要素,如车道线、红绿灯以及路沿等等,构成道路纹理图来对融合后的道路进行贴图,进而得到高精地图。

从点云数据中提取路面要素时通常是利用点云反射值信息进行自动化标注路面要素或人工标注路面要素。但在某些情形或场景下点云反射值并不稳定,导致难以提取清晰的路面要素。示例性的,当车道线磨损时,车道线反射值与地面反射值差异很小,难以提取清晰车道线要素。而图像则能够采集到丰富的纹理信息,即使车道线有磨损,在图像上依然能够清晰可见。因此,相关技术中会通过纹理贴图的方法将图像纹理信息投影到融合后点云数据对应的道路纹理图中,以提高高精地图要素的标注精度。

采集图像时通常会使用全局快门(Global shutter)相机或卷帘快门(Rollingshutter)相机。由于卷帘快门相机在采集图像时是通过传感器逐行曝光的方式实现图像采集,这导致采集到的一张图像中不同行的像素的曝光时间不同,同一图像中的不同行像素对应的相机位姿(本文中称图像位姿)也不同。相关技术中在基于卷帘快门相机采集的图像进行纹理贴图时,通常会忽略由于卷帘快门曝光方式导致的图像位姿误差,从而将该误差传递至纹理图中,导致纹理贴图的地图要素产生漂移,纹理贴图精度较差,如纹理图上车道线与点云数据无法对齐,使得地图要素标注准确性差。

为了提高纹理贴图精度,本公开提供了一种纹理贴图的方法、装置、电子设备及存储介质。下面首先对本公开提供的纹理贴图的方法进行示例性说明:

本公开提供的纹理贴图方法可以应用于任意具有纹理贴图的电子设备中。上述电子设备可以是服务器、计算机以及移动终端等等。

如图1所示,图1为根据本公开提供的纹理贴图的方法的第一实施例的流程示意图,具体可以包括以下步骤:

步骤S101、基于融合后点云数据获取目标地面面片空间坐标,其中,地面面片为基于预设分辨率对所述融合后点云数据对应的地面进行划分得到的;

步骤S102、基于所述目标地面面片空间坐标,获取包括所述目标地面面片的图像;

步骤S103、获取所述图像的图像首行位姿,其中,所述图像首行位姿为相机采集所述图像时的位姿;

步骤S104、基于所述图像首行位姿预估所述目标地面面片在所述图像中的投影点所在行的目标位姿;

步骤S105、基于所述目标地面面片空间坐标以及所述目标位姿,确定所述目标地面面片在所述图像中的目标投影点;

步骤S106、基于所述目标地面面片在所述图像中的目标投影点对所述目标地面面片进行纹理贴图。

应用本公开实施例,通过获取包含目标地面面片的图像的图像首行位姿,基于图像首行位姿预估目标地面面片对应的投影点所在行的图像位姿,并基于目标地面面片对应的投影点所在行的图像位姿对目标地面面片进行投影,考虑到了由于卷帘快门逐行曝光导致的图像位姿误差,提高获取的目标地面面片对应的图像位姿的准确度,矫正由于卷帘快门逐行曝光以及曝光延迟导致的像素漂移,提高投影点计算精度,从而提高纹理贴图精度,进而提高地图要素标注准确性。

下面对上述步骤S101-S106进行示例性说明:

步骤S101中,可以按照预设分辨率对融合后点云数据对应的地面进行划分,得到各个地面面片。如上所述,纹理贴图指的是将图像的纹理信息投影至融合后的点云数据对应的三维场景或物体,得到该场景或物体的纹理图。上述预设分辨率可以表示纹理图中一个像素格表示的地面面积。

上述预设分辨率可以根据实际需要进行设置。示例性的,上述分辨率可以是0.03125m,即对地面进行纹理贴图后得到的纹理图中的每个像素格表示大小为0.03125m*0.03125m的地面面片。由于每个地面面片的面积较小,因此,本公开实施例中,可以将各地面面片看作点。

上述融合后点云数据具体可以是融合后地面点云数据。融合后点云数据对应的地面即融合后地面点云数据对应的实际道路。上述融合后地面点云数据为对地面点云数据进行融合后得到的。上述地面点云数据即代表地面的点云数据,示例性的,可以从点云数据中识别水平平面并将其标记为地面,从而得到地面点云数据。也可以使用主成分分析((Principal Component Analysis,PCA)的方法分割地面点云数据,本公开对此不做具体限定。

作为一种实施方式,在按照预设分辨率对融合后点云数据对应的地面进行划分时,可以按照上述预设分辨率划分将预设范围内的融合后地面点云数据对应的地面。示例性的,可以将16m*16m范围内的融合点云数据对应的地面,按照上述0.03125m的分辨率进行划分,得到512*512个像素格,每个像素格表示大小为0.03125m*0.03125m的地面面片。

之后可以将每个地面面片作为目标地面面片,执行上述步骤S101-S106,来对每个地面面片进行纹理贴图,从而得到上述各地面面片的纹理图。

当然,也可以预先按照上述预设分辨率对整个地面坐标进行划分,得到多个地面面片,上述整个地面大于融合后地面点云数据对应的地面。并将融合后点云数据中,被标记为地面的各点云数据对应的地面面片分别作为目标地面面片。

由于上述目标地面面片是基于预设分辨率对融合后点云数据对应的地面进行划分得到的,即是按照规则格网对融合后点云数据对应的地面进行划分得到的。因此,可以基于地面坐标以及上述预设分辨率计算上述目标地面面片的地面坐标,上述地面坐标为二维平面坐标。

高精地图构建场景中,融合后的点云数据中,各点云数据坐标与实际空间中的道路坐标一一对应。因此,作为一种具体实施方式,可以得到上述预设范围的任意点云数据对应的地面坐标,并基于地面坐标以及预设分辨率计算该预设范围内的各地面面片的坐标。示例性的,对于16m*16m范围的点云数据对应的地面,可以获取四个顶点处的点云数据对应的地面坐标。之后可以按照目标地面面片所在的位置,基于四个顶点地面坐标计算目标地面面片的坐标。如图2所示,在预先定义的坐标系中,若四个地面顶点坐标为(0m,0m)、(0m,16m)、(16m,0m)、(16m,16m),若目标地面面片在预设范围内地面纹理图的像素位置为(100pt,100pt),每个像素格表示0.03125m*0.03125m的地面,因此,目标地面面片的坐标为(3.125m,3.125m)。上述预先定义的坐标系即融合后点云数据使用的坐标系,如可以是ENU(东为X轴,北为Y轴,高为Z轴)坐标系,具体可以根据实际需要进行设置。

如上所述,纹理贴图中是将三维物体或场景中的点投影至二维图像中,以从图像中获取三维物体或场景的信息。因此步骤S101中得到的上述目标地面面片的空间坐标应为三维坐标。而通过上述过程可以得到目标地面面片的二维平面坐标。因此,之后可以基于上述目标地面面片的二维平面坐标,从融合后点云数据的高程信息中获取符合该二维坐标的道路位置的高程,与上述目标地面面片的二维平面坐标一起构成目标地面面片的空间坐标。

作为一种具体实施方式,如图3a所示,可以通过以下步骤获取上述融合后点云数据的高程信息:

步骤S301、针对各点云数据采集点,获取所述点云数据采集点预设范围内的点云数据构成的平面;

步骤S302、基于各所述点云数据采集点的高程以及各所述平面,得到初始点云高程网格;

步骤S303、按照平面约束函数以及平滑约束函数对所述初始点云高程网格进行优化,得到目标点云高程网格,其中,所述平面约束函数用于对准对应的点云数据采集点高程相差小于预设阈值的各所述平面,所述平滑约束用于使得各平面连接平滑。

下面对上述步骤S301-S303进行示例性说明:

实际应用中,采集到的点云数据中通常包括点云数据的三维坐标:横坐标X、纵坐标Y以及高度坐标Z、采集时间、采集位姿等信息。采集位姿指的是采集点云数据时点云数据采集设备,如雷达、双目相机等的位姿,包括点云数据采集设备的位置和姿态,上述点云数据采集设备的位置即点云数据的采集点。因此,步骤S301中,可以从各点云数据中得到各点云数据采集点信息,并对该采集点第二预设范围内的点云数据进行平面构建,得到多个平面。上述第二预设范围可以根据实际需要进行设置。如可以是距点云数据采集点1m、2m的范围。

得到上述多个平面后,可以根据各平面构建时对应的采集点高程对上述各平面进行合并与分层。示例性的,可以将高程相差小于预设阈值的平面合并为同一层,高程相差大于预设阈值的平面则可划分为不同层的平面,并对点云数据进行网格化,得到初始高程网格。上述初始高程网格可以是三角网格,也可以是四边形网格,本公开对此不做具体限定。上述预设阈值可以根据实际需要进行设置。

之后可以基于预设的平面约束函数以及平滑约束函数对上述初始点云高程网格进行优化,以得到更加准确的高度网格,从而提高后续高程获取的精度。上述平面约束函数用于对准对应的点云数据采集点高程相差小于上述预设阈值的各所述平面,上述平滑约束用于使得各平面连接平滑。

下面以三角网格为例,对上述优化过程进行示例性说明。三角网格即网格中的每个格子被格点和中心点分为4个三角面片,如图3b所示。每个三角面片都是一个网格优化单元。

上述平面约束函数以及平滑约束函数可以根据实际需要进行设置。示例性的,上述平面约束函数cost_plane以及平滑约束函数cost_smooth可以为:

平面约束函数中,k为三角面片内的点云数量,n为三角面片法向量,由当前高度网格三角面片三个顶点v1、v2、v3的坐标计算得到,x

按照上述平面约束函数以及平滑约束函数对初始点云高度网格进行优化后,即最小化上述平面约束函数以及平滑约束函数,即可得到目标点云高程网格。上述目标点云高度网格中可以存储各网格格点和中心点的高程,通过任意平面坐标(x,y),可以在高度网格中访问对应位置的高程。

因此,可以基于所述目标地面面片的二维坐标,从目标点云高度网格中获取所述目标地面面片高程数据,上述目标地面面片的二维坐标以及高程数据即构成目标地面面片空间坐标。

高精地图场景中,由于存在高架桥等多层结构建筑,因此,针对同一二维坐标可能获取多个高程数据,也就是说,上述目标地面面片的二维坐标可能标记多个道路位置。因此,可以分别将上述目标地面面片的二维坐标以及其对应的各个高程作为目标地面面片空间坐标进行后续计算。

当然,也可以针对融合后点云数据中的各高程,按照预设分辨率对该高程对应的路面进行划分,得到每一层路面的地面面片,并获取每个地面面片的三维坐标。

实际应用中,通常会通过同一无人机、采集车等搭载点云数据采集设备以及图像采集设备来同时进行点云数据采集以及图像采集。上述点云数据采集设备可以是激光雷达(Lidar)、双目相机等等。上述图像采集设备则是卷帘快门相机。上述点云数据采集设备和图像采集设备之间的位姿变换关系通常会提前确定。具体的,通过基于相机外参对点云数据采集设备的位姿进行位姿变换即可以得到同一时刻图像采集设备的位姿。上述相机外参通常在使用之前确定。

下面以点云数据采集设备为激光雷达,图像采集设备为机载卷帘快门相机为例,对本公开提供的纹理贴图方法进行示例性说明。

在确定待贴图的目标地面面片空间坐标后,可以确定包含该目标地面空间坐标的图像。上述包含目标地面面片的图像可以有一张,也可以有多张,本公开对此不做具体限定。

之后可以获取上述各图像的对应的图像位姿,即卷帘相机采集上述图像时的位姿。具体的,可以基于所述图像的采集时间,获取所述采集时间对应的点云数据采集设备位姿;并按照采集所述图像的相机外参对所述点云数据采集设备位姿进行位姿变换,得到所述图像的图像位姿。

示例性的,若图像的采集时间为t1,则可以获取采集上述点云数据的雷达在t1时刻的位姿,并按照相机外参矩阵对该位姿进行位姿变换,得到上述图像的图像位姿。

作为一种具体实施方式,还可以对雷达位姿进行校正,并获取上述采集时间对应的校正后雷达位姿,以进一步提高投影精度。

由于卷帘快门相机是通过逐行曝光的形式采集图像的,因此,在无人机或采集车搭载卷帘快门相机移动采集图像数据时,得到的一张图像中,每一行的相机位姿都不相同,如图4所示,图4示出了卷帘快门的曝光机制:

卷帘快门相机实际采集一帧图像的时间包括曝光时间以及图像输出时间。具体的,卷帘快门相机在采集一帧图像时按照逐行曝光的方式进行采集,图像中的每一行像素的曝光时间以及图像输出时间都不相同。

但卷帘快门相机记录的采集一帧图像的时间指的是上一帧图像的首行像素曝光结束到当前帧图像首行像素曝光结束之间的时间。上一帧图像的最后一行像素的图像输出时间到当前帧图像首行像素曝光结束时间之间的差值则为两帧图像之间的采集延迟时间。也就是说,卷帘快门相机中记录的图像采集时间实际是图像中首行像素的采集时间。

因此,利用相机外参对上述雷达的位姿进行外参变换后,得到的图像位姿是图像中第一行像素对应的图像位姿,因此,本公开中称图像的图像位姿为图像首行位姿。由于上述点云数据采集设备的位姿以及图像的采集时间均可从点云数据以及图像中直接获取,因此,通过上述步骤可以得到准确的图像首行位姿。但目标地面面片对应的投影点不一定落在图像首行,因此,可以基于图像首行位姿计算得到目标地面面片在图像中的投影点所在行位姿。

作为一种具体实施方式,可以针对各图像,通过迭代的方式预估上述目标地面面片在上述图像中的投影所在行的位姿。具体的,如图5所示,可以包括以下步骤:

步骤S501、基于所述目标地面面片空间坐标以及所述图像首行位姿,确定所述目标地面面片在所述图像中的初始投影点;

步骤S502、确定所述初始投影点对应的图像位姿,作为候选图像位姿;

步骤S503、基于所述目标地面面片空间坐标以及所述候选图像位姿,确定所述目标地面面片在所述图像中的当前投影点;

步骤S504、判断是否达到预设收敛条件。若未达到预设收敛条件,则执行步骤S505,若达到预设收敛条件,则执行步骤S506;

步骤S505、确定所述当前投影点对应的图像位姿作为新的候选图像位姿,返回步骤S503;

步骤S506、确定所述当前投影点对应的图像位姿为目标位姿。

下面对上述步骤S501-S506进行示例性说明:

作为一种具体实施方式,步骤S501中,可以按照以下公式获取上述初始投影点坐标:

x=π(K[R1 t1]X) 公式1

公式1中,X、x分别为目标地面面片空间坐标和目标地面面片对应的投影点坐标,K为相机内参矩阵,π为反映镜头畸变的参量,[R1 t1]为上述图像首行位姿,可以通过四元数法表示。上述投影点坐标为uv坐标。通过二维uv坐标可以定位图像上的任意一个像素。其中,u为水平方向上列坐标,v为竖直方向上的行坐标。

之后,可以计算上述初始投影点坐标对应的图像位姿。

作为一种实施方式,可以在图像中提取特征点坐标,并基于图像特征点坐标以及对应的目标地面面片空间坐标构建转换矩阵,并基于该转换矩阵获取上述投影点坐标对应的图像位姿。但这种方式受到特征点选择方式的影响,准确性较低,灵活性较差。

作为另一种具体实施方式,本公开中可以默认上述雷达以及卷帘快门相机在采集点云数据以及图像的过程中是匀速移动的。因此,若已知各图像开始采集时的图像位姿以及采集结束时的图像位姿,就可通过对上述图像首行位姿以及图像尾行位姿进行插值,来预估上述图像中任意像素对应的图像位姿,即可以预估卷帘快门相机在采集图像中的任意像素所在行的位姿,提高获取投影点对应坐标的准确性以及灵活性。

示例性地,可以通过以下步骤得到上述投影点坐标对应的候选图像位姿:

步骤S1、获取所述当前投影点的行坐标。

步骤S2、对所述图像首行位姿以及图像尾行位姿进行插值计算,得到所述当前投影点对应的图像位姿,作为新的候选图像位姿。

上述图像尾行位姿可以基于图像首行位姿计算得到。作为一种具体实施方式,上述步骤S2可以包括:

步骤S21、基于所述图像的采集时间以及相机曝光时间,获取图像尾行采集时间;

步骤S22、基于所述图像的采集时间以及所述相机的曝光时间,获取图像尾行采集时间;

步骤S23、基于所述图像尾行采集时间,获取图像尾行位姿。

上述相机曝光时间可以从相机参数中得到。上述图像尾行采集时间即为图像采集时间以及相机曝光时间的和t+△t。

之后即可基于图像尾行采集时间获取该时间的雷达位姿,并通过相机外参对该雷达位姿进行外参变换,得到图像尾行位姿。这样,通过基于可以准确获取的图像首行位姿以及相机曝光时间计算图像尾行位姿,可以准确获得尾行位姿,从而获得准确插值结果。

雷达以及卷帘快门相机的移动通常可以分解为旋转以及平移。因此,对图像首行位姿以及图像尾行位姿进行插值可以包括旋转方向上的插值以及平移方向上的插值,从而得到较为准确地投影点所在行位姿。

作为一种具体实施方式,可以通过以下公式对图像首行位姿以及图像尾行位姿进行插值。

该公式中,(q

得到上述候选图像位姿后,可以基于上述候选图像位姿以及目标地面面片的空间坐标,按照上述公式1对目标地面面片重新投影,得到新的当前投影点坐标,并基于该投影点坐标中的行坐标v,按照上述公式2重新计算当前投影点所在行位姿。

重复上述过程,直至达到预设收敛条件。上述预设收敛条件可以根据实际需要进行设置,例如,可以是两次获取的投影点行坐标v之间差值小于预设阈值,上述预设阈值可以根据实际需要进行设置,例如,可以是0.5个像素。上述收敛条件也可以是两次得到的图像位姿小于预设位姿阈值等等。本公开对此不做具体限定。

当达到预设收敛条件时,即可将当前投影点对应的图像位姿作为目标位姿。通过利用插值法基于对图像首行位姿、尾行位姿获取图像中目标地面面片的投影点坐标的图像位姿作为目标位姿,提高获取的目标地面面片对应的图像位姿的准确度,从而提高后续投影精度。

得到上述目标地面面片对应的投影点所在行的目标位姿后,可以针对各图像,通过上述公式1,基于目标地面面片的空间坐标以及上述目标位姿,计算目标地面面片在上述图像中对应的目标投影点坐标。

得到上述目标投影点坐标之后,即可按照该目标投影点坐标,将相应位姿的像素的纹理信息复制给目标地面面片。

由于卷帘快门相机采集的图像中可能存在车辆、行人等对地面要素的遮挡,因此,作为一种具体实施方式,可以通过以下步骤对目标地面面片进行贴图:

步骤S601、从各所述图像中确定所述目标投影点处为地面要素的目标图像。

示例性的,可以对上述各图像进行目标检测,来确定目标地面面片在各图像中的目标投影点是否存在车辆或行人等对地面要素的遮挡。之后可以选择任意不存在地面要素遮挡的图像作为目标图像。当然,也可以在此基础上选择清晰度高于预设清晰度阈值的图像作为目标图像,从而进一步提高纹理贴图精度。

步骤S602、将所述目标图像中所述目标投影点处的纹理信息投影至所述目标地面面片。

步骤S602中可以将目标地面面片在目标图像中的投影点处的RGB值赋给纹理图中目标地面面片所在的像素。对各地面面片均进行纹理贴图后,即可得到上述融合后地面点云数据对应的地面的纹理图。

如图6所示,图6为根据本公开提供的纹理贴图方法的一种执行框架图。主要可以包括三个部分,分别为高程网格构建、卷帘快门模型插值以及地面纹理投影。

高度网格构建具体包括:1、基于矫正后雷达位姿以及融合后地面点云数据进行轨迹平面构建。即按照各地面点云数据采集点高程构建平面2、对平面进行合并与分层得到初始点云高程网格。3、对初始点云高程网格进行优化,得到目标高程网格。

卷帘快门模型插值具体包括:基于矫正后雷达位姿、包括目标地面面片的各图像及各图像时间戳以及相机参数,获取图像首行位姿以及图像尾行位姿。上述相机参数包括曝光时间、相机外参矩阵以及相机内参矩阵等。对图像首行位姿以及图像尾行位姿进行插值,得到各图像中目标地面面片投影点所在行的图像位姿。

地面纹理投影部分包括:1、地面面片划分,即按照预设分别率划分地面面片。2、从目标高程网格中获取目标地面面片高程,得到目标地面面片空间坐标。3、将目标地面面片投影至图像,即基于目标地面面片空间坐标以及目标地面面片投影点所在行的图像位姿对目标地面面片进行投影,得到目标地面面片在各图像中的投影点。上述候选图像即包含目标地面面片的图像。4、过滤图像。即从各图像中筛选最佳图像,如地面未被车辆、行人等遮挡,且清晰度较高的图像。将最佳图像中投影点坐标对应的像素RGB值赋值给目标地面面片在纹理图中的像素位置。

应用本公开实施例,基于卷帘快门相机模型的地面纹理贴图框架构建卷帘快门成像模型,并利用该模型进行地面纹理贴图,有效校正了卷帘快门曝光引起的纹理贴图漂移。

本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。

根据本公开的实施例,本公开还提供了一种纹理贴图的装置,如图7所示,上述装置可以包括:

空间坐标获取模块701,用于基于融合后点云数据获取目标地面面片空间坐标,其中,地面面片为基于预设分辨率对所述融合后点云数据对应的地面进行划分得到的;

图像获取模块702,用于基于所述目标地面面片空间坐标,获取包括所述目标地面面片的图像;

首行位姿获取模块703,用于获取所述图像的图像首行位姿,其中,所述图像首行位姿为相机采集所述图像时的位姿;

目标位姿预估模块704,用于基于所述图像首行位姿预估所述目标地面面片在所述图像中的投影点所在行的目标位姿;

目标投影点确定模块705,用于基于所述目标地面面片空间坐标以及所述目标位姿,确定所述目标地面面片在所述图像中的目标投影点;

纹理贴图模块706,用于基于所述目标地面面片在所述图像中的目标投影点对所述目标地面面片进行纹理贴图。

在一种可能的实施例中,所述目标位姿预估模块,用于基于所述目标地面面片空间坐标以及所述图像首行位姿,确定所述目标地面面片在所述图像中的初始投影点;

确定所述初始投影点对应的图像位姿,作为候选图像位姿;

基于所述目标地面面片空间坐标以及所述候选图像位姿,确定所述目标地面面片在所述图像中的当前投影点;

确定所述当前投影点对应的图像位姿作为新的候选图像位姿,返回所述基于所述目标地面面片空间坐标以及所述候选图像位姿,确定所述目标地面面片在所述图像中的当前投影点的步骤,直至达到预设收敛条件;

确定所述当前投影点对应的图像位姿为目标位姿。

在一种可能的实施例中,所述确定所述当前投影点对应的图像位姿作为新的候选图像位姿,包括:

获取所述当前投影点的行坐标;

对所述图像首行位姿以及图像尾行位姿进行插值计算,得到所述当前投影点对应的图像位姿,作为新的候选图像位姿

在一种可能的实施例中,所述对所述图像首行位姿以及图像尾行位姿进行插值计算,得到所述当前投影点对应的图像位姿,包括:

对所述图像首行位姿以及图像尾行位姿进行旋转插值以及线性插值,得到所述当前投影点对应的图像位姿。

在一种可能的实施例中,所述目标位姿预估模块,用于基于所述图像的采集时间以及所述相机的曝光时间,获取图像尾行采集时间;

基于所述图像尾行采集时间,获取图像尾行位姿。

在一种可能的实施例中,所述获取所述图像的图像首行位姿,包括:

基于所述图像的采集时间,获取所述采集时间对应的点云数据采集设备位姿;

按照采集所述图像的相机外参对所述点云数据采集设备位姿进行位姿变换,得到所述图像的图像首行位姿。

在一种可能的实施例中,上述装置还可以包括:

点云数据融合模块,用于针对各点云数据采集点,获取所述点云数据采集点预设范围内的点云数据构成的平面;

基于各所述点云数据采集点的高程以及各所述平面,得到初始点云高程网格;

按照平面约束函数以及平滑约束函数对所述初始点云高程网格进行优化,得到目标点云高程网格,其中,所述平面约束函数用于对准对应的点云数据采集点高程相差小于预设阈值的各所述平面,所述平滑约束用于使得各所述平面连接平滑;

所述基于融合后点云数据获取目标地面面片空间坐标,包括:

获取目标地面面片平面坐标;

基于所述目标地面面片平面坐标,从所述目标点云高程网格中获取所述目标地面面片高程数据,得到目标地面面片空间坐标。

在一种可能的实施例中,所述包括所述目标地面面片的图像有多个;

所述基于所述目标地面面片在所述图像中的目标投影点对所述目标地面面片进行纹理贴图,包括:

从各所述图像中确定所述目标投影点处为地面要素的目标图像;

将所述目标图像中所述目标投影点处的纹理信息投影至所述目标地面面片。

根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如纹理贴图的方法。例如,在一些实施例中,纹理贴图的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的纹理贴图的方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行纹理贴图的方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。

应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。

上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

相关技术
  • 一种浴室加热装置和用于控制浴室加热装置的方法、设备、电子设备及计算机可读存储介质
  • 一种漆面识别方法、装置、存储介质及电子设备
  • 一种植物观赏方法、装置、电子设备和存储介质
  • 一种题目搜索、批改方法、装置、电子设备和存储介质
  • 一种虚拟形象视频播放方法、装置、电子设备及存储介质
  • 一种纹理贴图方法、装置、电子设备及存储介质
  • 纹理贴图的生成方法和装置、电子设备和存储介质
技术分类

06120115931628