掌桥专利:专业的专利平台
掌桥专利
首页

高精地图生成方法及装置、电子设备和介质

文献发布时间:2023-06-19 18:58:26


高精地图生成方法及装置、电子设备和介质

技术领域

本公开涉及计算机领域,尤其涉及高精地图、自动驾驶和智能交通技术领域,具体涉及一种高精地图生成方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术:人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

在整个自动驾驶流程中,高精地图是最重要的组成部分之一,尤其对于L4/L5级别的自动驾驶来说,高精地图描绘了整个场景中的静态先验信息。虽然高精地图在自动驾驶中意义重大,但是高精地图的生产在业内依然是个亟待解决的难点问题。

发明内容

本公开提供了一种高精地图生成方法、装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面,提供了获取目标场景的点云和图像、以及点云采集装置和图像采集装置相对应的位姿数据;基于所述点云采集装置的位姿数据对所述点云进行语义分割,获得语义分割后的点云;对所述语义分割后的点云进行特征提取,以获得地面要素所对应的第一地面要素特征,其中所述地面要素包括地面线要素和地面点要素中的至少一个,所述地面线要素对应于在二维水平面中呈现线性表达的实体目标,所述地面点要素对应于在二维水平面中呈现面状表达的实体目标;对所述图像进行语义分割,以获得语义分割后的图像;基于所述语义分割后的点云、所述点云采集装置和所述图像采集装置之间的相对位姿数据对所述语义分割后的图像进行特征提取,以获得地面要素所对应的第二地面要素特征,其中所述第二地面要素特征包括所述地面线要素特征和所述地面点要素特征中的至少一个;基于所述分割后的点云对所述图像进行特征提取,以获得立面要素所对应的立面要素特征,其中所述立面要素对应于在三维空间表达的实体目标;以及将所获得的相同要素所对应的特征进行特征融合,以基于融合后的要素特征生成高精地图。

根据本公开的另一方面,提供了一种高精地图生成装置,包括:获取单元,配置为获取目标场景的点云和图像、以及点云采集装置和图像采集装置相对应的位姿数据;第一语义分割单元,配置为基于所述点云采集装置的位姿数据对所述点云进行语义分割,获得语义分割后的点云;第一特征提取单元,配置为对所述语义分割后的点云进行特征提取,以获得地面要素所对应的第一地面要素特征,其中所述地面要素包括地面线要素和地面点要素中的至少一个,所述地面线要素对应于在二维水平面中呈现线性表达的实体目标,所述地面点要素对应于在二维水平面中呈现面状表达的实体目标;第二语义分割单元,配置为对所述图像进行语义分割,以获得语义分割后的图像;第二特征提取单元,配置为基于所述语义分割后的点云、所述点云采集装置和所述图像采集装置之间的相对位姿数据对所述语义分割后的图像进行特征提取,以获得地面要素所对应的第二地面要素特征,其中所述第二地面要素特征包括所述地面线要素特征和所述地面点要素特征中的至少一个;第三特征提取单元,配置为基于所述分割后的点云对所述图像进行特征提取,以获得立面要素所对应的立面要素特征,其中所述立面要素对应于在三维空间表达的实体目标;以及特征融合单元,配置为将所获得的相同要素所对应的特征进行特征融合,以基于融合后的要素特征生成高精地图。

根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器能够执行本公开所述的方法。

根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行本公开所述的方法。

根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序在被处理器执行时实现本公开所述的方法。

根据本公开的一个或多个实施例,结合点云和图像数据,实现了多类实体目标的识别,从而形成数据闭环,节省了地图生产中高昂的要素标注成本。

应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。

图1示出了根据本公开的实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图;

图2示出了根据本公开的实施例的高精地图生成方法的流程图;

图3示出了根据本公开的实施例的基于点云获取相应地图要素的流程图;

图4示出了根据本公开的实施例的基于图像获取地面要素特征的流程图;

图5示出了根据本公开的实施例的基于图像获取立面要素特征的流程图;

图6-8示出了根据本公开的相应实施例的对立面要素的立体检测框进行几何特征重提取的流程图;

图9示出了根据本公开的实施例的高精地图生成装置的结构框图;以及

图10示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个元件与另一元件区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。

在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。

下面将结合附图详细描述本公开的实施例。

图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性系统100的示意图。参考图1,该系统100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。

在本公开的实施例中,服务器120可以运行使得能够执行高精地图生成的方法的一个或多个服务或软件应用。

在某些实施例中,服务器120还可以提供其他服务或软件应用,这些服务或软件应用可以包括非虚拟环境和虚拟环境。在某些实施例中,这些服务可以作为基于web的服务或云服务提供,例如在软件即服务(SaaS)模型下提供给客户端设备101、102、103、104、105和/或106的用户。

在图1所示的配置中,服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解,各种不同的系统配置是可能的,其可以与系统100不同。因此,图1是用于实施本文所描述的各种方法的系统的一个示例,并且不旨在进行限制。

用户可以使用客户端设备101、102、103、104、105和/或106来获取或接收相应数据。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备,但是本领域技术人员将能够理解,本公开可以支持任何数量的客户端设备。

客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备,例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、智能屏设备、自助服务终端设备、服务机器人、游戏系统、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作系统,例如MICROSOFT Windows、APPLE iOS、类UNIX操作系统、Linux或类Linux操作系统(例如GOOGLE Chrome OS);或包括各种移动操作系统,例如MICROSOFT WindowsMobile OS、iOS、Windows Phone、Android。便携式手持设备可以包括蜂窝电话、智能电话、平板电脑、个人数字助理(PDA)等。可穿戴设备可以包括头戴式显示器(诸如智能眼镜)和其他设备。游戏系统可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序,例如各种与Internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(SMS)应用程序,并且可以使用各种通信协议。

网络110可以是本领域技术人员熟知的任何类型的网络,其可以使用多种可用协议中的任何一种(包括但不限于TCP/IP、SNA、IPX等)来支持数据通信。仅作为示例,一个或多个网络110可以是局域网(LAN)、基于以太网的网络、令牌环、广域网(WAN)、因特网、虚拟网络、虚拟专用网络(VPN)、内部网、外部网、区块链网络、公共交换电话网(PSTN)、红外网络、无线网络(例如蓝牙、WIFI)和/或这些和/或其他网络的任意组合。

服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如PC(个人计算机)服务器、UNIX服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作系统的一个或多个虚拟机,或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中,服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。

服务器120中的计算单元可以运行包括上述任何操作系统以及任何商业上可用的服务器操作系统的一个或多个操作系统。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个,包括HTTP服务器、FTP服务器、CGI服务器、JAVA服务器、数据库服务器等。

在一些实施方式中,服务器120可以包括一个或多个应用程序,以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序,以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。

在一些实施方式中,服务器120可以为分布式系统的服务器,或者是结合了区块链的服务器。服务器120也可以是云服务器,或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(VPS,Virtual Private Server)服务中存在的管理难度大、业务扩展性弱的缺陷。

系统100还可以包括一个或多个数据库130。在某些实施例中,这些数据库可以用于存储数据和其他信息。例如,数据库130中的一个或多个可用于存储诸如采集点云、图像等的信息。数据库130可以驻留在各种位置。例如,由服务器120使用的数据库可以在服务器120本地,或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据库130可以是不同的类型。在某些实施例中,由服务器120使用的数据库例如可以是关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。

在某些实施例中,数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库,例如键值存储库,对象存储库或由文件系统支持的常规存储库。

图1的系统100可以以各种方式配置和操作,以使得能够应用根据本公开所描述的各种方法和装置。

高精地图描绘了整个场景中的静态先验信息,包含了包括车道线几何/属性、红绿灯、人行道、停止线、交通杆、交通牌等在内的多种信息。自动驾驶车端的所有算法模版,包括定位、感知、决策模块,都对高精地图有所依赖,可以说高精地图是整个L4/L5级别自动驾驶的基础。

目前,高精地图的生产在业内依然是个亟待解决的难点问题,其核心困难主要包括两点:第一为高精准的三维地图建立;第二则是高效的高精地图元素标注流程。其中第二项直接影响了高精地图的生产效率,进一步影响高精地图的制作生产成本,从而影响整个自动驾驶的商业化量产进展。因此,对于所有目标在量产的自动驾驶公司而言,高精地图的生产效率至关重要。

在实际生产中,用于提升标注主要有两点:一是改善标注工具的作业方式;二则是通过自动化识别提供先验标注效果,再通过人工修复的方式提升标注效率。理论上来说,通过标注工具提效会有一定的瓶颈,毕竟无论如何改善工具的操作方式人工作业都无法避免。但是自动化识别却可以做到真正的无需人工作业,对于场景简单的路段,自动化识别提供的先验标注效果可以做到无需人工干预,这极大的提升了作业效率。

鉴于自动化标注在整个高精地图作业流程中的重要作用,几何所有的自动驾驶公司或者图商都会在自动化标注上有所涉及。但是,目前公开方法基本上都是针对某一种或者某一类目标进行识别,无法形成完整的产线产出所有目标要素;几乎所有的公开方法都是针对单一的传感器进行作业,但是单一的传感器无法构成足够的冗余,也无法保证对目标几何和属性全量的覆盖,多传感器之间无法构成合理的交互来保证目标的召回;目前公开方法均只关注目标的前期识别,以红绿灯检测为例,目前大部分方法只关注红绿灯在图像中的识别效果,但是在高精地图实际使用中更关注红绿灯的三维位置及其属性,这样以来识别后处理也同样重要;整体的设计方法没有考虑数据闭环,有昂贵的标注成本。

因此,根据本公开的实施例提供了一种高精地图生成方法。图2示出了根据本公开的实施例的高精地图生成方法的流程图,如图2所示,方法200包括:获取目标场景的点云和图像、以及点云采集装置和图像采集装置相对应的位姿数据(步骤210);基于所述点云采集装置的位姿数据对所述点云进行语义分割,获得语义分割后的点云(步骤220);对所述语义分割后的点云进行特征提取,以获得地面要素所对应的第一地面要素特征,其中所述地面要素包括地面线要素和地面点要素中的至少一个,所述地面线要素对应于在二维水平面中呈现线性表达的实体目标,所述地面点要素对应于在二维水平面中呈现面状表达的实体目标(步骤230);对所述图像进行语义分割,以获得语义分割后的图像(步骤240);基于所述语义分割后的点云、所述点云采集装置和所述图像采集装置之间的相对位姿数据对所述语义分割后的图像进行特征提取,以获得地面要素所对应的第二地面要素特征,其中所述第二地面要素特征包括所述地面线要素特征和所述地面点要素特征中的至少一个(步骤250);基于所述分割后的点云对所述图像进行特征提取,以获得立面要素所对应的立面要素特征,其中所述立面要素对应于在三维空间表达的实体目标(步骤260);以及将所获得的相同要素所对应的特征进行特征融合,以基于融合后的要素特征生成高精地图(步骤270)。

根据本公开的实施例,结合点云和图像数据,实现了多类实体目标的识别,从而形成数据闭环,节省了地图生产中高昂的要素标注成本。

在本公开中,目标场景可以是可供车辆行驶的道路及其周边环境。或者,还可以是可供机器人行进的建筑物内部、可供无人机低空飞行的航道及其周边环境等等,在此不作限制。该目标场景中包括对应于地图要素的至少一个目标实体,目标实体是真实存在于目标场景中的要素实体,而要素实体所对应的地图要素则是呈现于目标场景所匹配地图中的要素。

具体地,地图要素及其对应的要素实体根据应用场景的不同将有所区别,例如,在辅助车辆行驶场景中,地图要素包括:车道线、地面标志、路牙、栅栏、交通标志牌等要素。相应地,要素实体可以包括车道线、地面标志、路牙、栅栏、交通标志牌等真实存在于目标场景的实体。又或者,在辅助无人机低空飞行场景中,地图要素包括:路灯、植被、建筑物、交通标志牌等要素。相应地,要素实体可以包括指路灯、植被、建筑物、交通标志牌等真实存在于目标场景的实体。

在一些示例中,获取在数据采集过程中所采集到的原始点云以及图像,并获取图像采集装置、点云采集装置的位姿数据。示例地,该图像采集装置可以包括多种多样的设备,如视觉摄像头、红外摄像头、进行紫外或X光成像的相机,等等。点云采集装置也可以包括多种多样的设备,如激光雷达(LiDAR)、毫米波雷达、超声波传感器,等等。不同的设备可以提供不同的检测精度和范围。

根据一些实施例,用于数据采集的多种传感器可以位于至少一个采集车辆上或路侧设备上。示例地,采集车辆在行驶过程中,多种传感器可以安装在车辆的前方、后方或其他位置,以实现对周围路况进行采集。

本公开实施例中的地图要素包括地面线要素、地面点要素以及立面要素,地面线要素可以理解为能够在二维水平面上呈现线性表达的目标,例如线要素包括能够通过直线和曲线表示的道路要素,例如车道线和道路边界等。地面点要素可以理解为能够在二维水平面上呈现面状表达的目标,例如停止线、人行道、禁停区、安全岛等。立面要素可以理解为在三维空间表达的目标,例如红绿灯、杆状物、指示牌等。

根据一些实施例,基于相应的位姿数据对所述点云进行语义分割,获得语义分割后的点云可以包括:将所述点云以及点云采集装置的位姿数据输入相应的网络模型,以获得所述分割后的点云。在一些示例中,可以对点云进行语义分割,得到每个点分别对应的地面要素类别;基于各个点的地面要素类别,分别提取不同地面要素类别对应的分割点云数据。

具体地,可以将点云数据输入预先训练好的语义分割模型,得到每个点分别对应的地面要素类别,可以为每个点打上类别标签,该标签用于标示点的地面要素类别。例如,车道线要素视为地面要素的一种。在一些示例中,语义分割模型可以是SparseConv、DeepLabV3+、RandLANet等网络模型。其中,可以获取多个样本点云数据,针对每个样本点云数据,对样本点云数据中每个点进行标注,得到每个点的地面要素类别标签,该地面要素类别标签可以理解为类别真值,然后,将一个样本点云数据和该样本点云数据对应的类别真值作为一个样本对,基于多个样本对对神经网络模型进行训练,得到语义分割模型。

在一些实施例中,可以对所述语义分割后的点云直接进行特征提取,以获得地面要素所对应的第一地面要素特征。在一些示例中,在完成语义分割后可以对分割出来的地面线要素进行矢量化处理,以提取矢量线。矢量化处理可以方便地实现,在此不再赘述。

根据一些实施例,所述点云包括对所述目标场景进行多次采集所获得的点云。附加地或替换地,如图3所示,对所述语义分割后的点云直接进行特征提取,以获得地面要素所对应的第一地面要素特征可以包括:对所述语义分割后的点云进行特征提取,以获得预设的路面标志物所对应的特征(步骤310);基于所述预设的路面标志物所对应的特征对所述多次采集所获得的点云进行拼接,以获得拼接后的点云(步骤320);基于所述拼接后的点云生成反射值地图(步骤330);以及基于所述反射值地图获取第一地面要素特征(步骤340)。

在一些示例中,该预设的路面标志物可以包括车道线、路沿、护栏、杆状物、牌状物、树干等,所提取的路面标志物的特征信息例如可以包括该路面标志物的位置、尺寸等信息。从而,基于所提取的路面标志物的特征信息对点云进行拼接,以获得更为精准的点云数据。拼接后的点云数据可以用于生产地图资料,获得反射值地图。本领域技术人员基于点云数据可以方便地实现反射值地图,在此不再赘述。

具体地,根据一些实施例,所述第二地面要素特征和所述第一地面要素特征均包括所述地面线要素特征。基于所述反射值地图获取第一地面要素特征包括:将所述第二地面要素特征中的所述地面线要素特征和所述反射值地图输入经训练的第一网络模型,获得所述第一地面要素特征中的所述地面线要素特征。

具体地,在一些示例中,所述第一网络模型的输入为基于拼接点云所生成的反射值地图以及基于图像所识别到的地面线要素特征,输出为所识别的地面线要素几何,例如包含车道线、道路边界等。在反射值地图中对基于图像所识别出的地面线要素进行几何矫正,从而得到更为精确的地面线要素特征。

根据一些实施例,所述第二地面要素特征和所述第一地面要素特征均包括所述地面点要素特征。基于所述反射值地图获取第一地面要素特征包括:将所述第二地面要素特征中的所述地面点要素特征和所述反射值地图输入经训练的第二网络模型,获得所述第一地面要素特征中的所述地面点要素特征。

具体地,在一些示例中,所述第二网络模型的输入为基于拼接点云所生成的反射值地图以及基于图像所识别到的地面点要素特征,输出为所识别的地面点要素完整的几何特征。在反射值地图中对基于图像所识别出的地面点要素进行几何矫正,从而得到更为精确的地面点要素特征。

根据一些实施例,所述第二地面要素特征包括所述地面点要素特征。将所述第二地面要素特征中的所述地面点要素特征和所述反射值地图输入经训练的第二网络模型包括:对基于所述图像所确定的地面点要素对应的像素点进行聚类,获得聚类中心点;以及基于所述聚类中心点进行预设范围的扩大,以将扩大后范围作为待输入所述第二网络模型中的所述地面点要素特征。

考虑所提取目标要素的完整性需要在较大的范围内(例如涵盖完整的路口)提取才能尽量保证目标要素提取结果的完整性,并且考虑算力,可利用上游提取的先验地面点要素进行聚类并基于聚类中心点进行感受野的扩大,既减少了无关区域的计算,又通过反射值地图上的检测操作保证了目标要素的几何准确性。

可以理解的是,第一网络模型和第二网络模型可以为任意合适的网络模型,例如卷积神经网络模型、残差神经网络等,在此不作限制。

在一些示例中,基于像素的聚类可以包括超像素聚类、K-means聚类方式等等,在此不作限制。

根据一些实施例,如图4所示,基于所述语义分割后的点云和相应的所述位姿数据对所述语义分割后的图像进行特征提取以获得第二地面要素特征包括:将所述语义分割后的点云、所述点云采集装置和所述图像采集装置之间的相对位姿数据、所述语义分割后的图像输入经训练的第三网络模型,以获得鸟瞰图(步骤410);对所述鸟瞰图进行语义分割,以获取语义分割后的鸟瞰图(步骤420);以及对所述语义分割后的鸟瞰图进行特征提取,以获得所述第二地面要素特征(步骤430)。

在一些示例中,图像语义分割常用的网络模型可以包括但不限于ResNet、Deeplabv3p、MobileNet等等,在此不作限制。并且,可以理解的是,基于点云获取相应的鸟瞰图可以由本领域技术人员方便地实现。在此基础上,通过点云、相对位姿数据以及图像获得鸟瞰图可以经由训练后的网络模型方便地实现,在此不再赘述。

根据一些实施例,如图5所示,基于所述分割后的点云对所述图像进行特征提取以获得立面要素特征包括:基于所述图像进行所述立面要素的识别,以获得所述立面要素的检测框(步骤510);对所述立面要素的检测框进行3D重建,以获得所述立面要素的立体检测框(步骤520);将所述立面要素的立体检测框投影到相应点云上,以确定重叠面积(步骤530);以及响应于确定所述重叠面积大于第一预设阈值,将3D重建所获得的所述立面要素的立体检测框作为所获得的立面要素特征(步骤540)。

对于交通灯、交通牌、人工杆等立面要素,通过基于图像的特征重建以及点云几何验证的方式,保证了所提取的目标要素与车端的一致性(纹理丰富、召回高)以及准确性(几何准确性)。

根据一些实施例,基于所述分割后的点云对所述图像进行特征提取以获得立面要素特征包括:响应于确定所述重叠面积不大于所述第一预设阈值,基于所述分割后的点云对所述立面要素的立体检测框进行几何特征重提取,以获得修正后的所述立面要素的立体检测框,作为所获得的立面要素特征。

在基于图像所确定的立面要素与点云中的相应要素误差较大时,可以进一步基于该点云进行几何特征重提取,以保证所获得的立面要素的完整性和精确性。

根据一些实施例,所述立面要素包括杆状物。因此,如图6所示,基于所述分割后的点云对所述立面要素的立体检测框进行几何特征重提取可以包括:将所述立体检测框的至少一部分沿第一方向切分为多个子立体检测框(步骤610);对于所述多个子立体检测框中的每一个(步骤620):将该子立体检测框所对应的点云中的点向垂直于所述第一方向的平面进行投影,以确定包围投影区域的最小外接圆的半径(步骤6201);响应于确定所述半径在预设范围内,将该子立体检测框所对应的点确定为种子点(步骤6202);对所述多个子立体检测框所对应的种子点进行合并,以形成第一种子点集合,其中所述第一种子点集合中的任意两个种子点之间的欧式距离小于预设距离阈值(步骤630);以及基于所述第一种子点集合进行区域增长,以获得修正后的所述立面要素的立体检测框(步骤640)。

根据一些实施例,基于所述第一种子点集合进行区域增长包括:确定包围所述第一种子点集合中的至少一个种子点的第一检测框,以使得在区域增长过程中,满足处于所述第一检测框以内的点的数量与处于所述一检测框以外的点的数量高于第二预设阈值。从而,保证了通过区域增长后所获得的立面要素的几何精确度。

例如,基于图像所识别到的目标场景中的杆状物可能存在被树木、旗帜等遮挡的情况,以使得重建得到的立体检测框出现畸变,不能精确地还原场景中的目标实体。而通过基于所确定的种子点进行区域增长,可以自动还原所遮挡区域的杆状物几何结构。

根据一些实施例,所述立面要素包括牌状物。如图7所示,基于所述分割后的点云对所述立面要素的立体检测框进行几何特征重提取包括:确定所述立体检测框所对应点云的维度特征,以确定二维点的集合(步骤710);对所述二维点的集合中的点进行聚类,以获得聚类后的一个或多个点云簇(步骤720);基于预设的点云簇尺寸信息对所述一个或多个点云簇进行过滤,以获得过滤后的点云簇(步骤730);对所述过滤后的点云簇中的点进行平面拟合,以确定拟合所得到的平面的中心位置和法向方向(步骤740);以及基于所述中心位置和法向方向,确定修正后的所述立面要素的立体检测框(步骤750)。

根据一些实施例,所述点云簇尺寸信息包括点云簇的高度和宽度中的至少一个。通过基于预设的点云簇尺寸信息对所获得的点云簇进行过滤,可以过滤成掉明显不是待提取目标要素的点云,例如树木、垃圾桶等等所采集到的可能干扰识别效果的实体,从而在节省算力的同时提升了识别效果。

在一些示例中,可以对所获取的点云进行预处理,以获得点的维度特征,例如一维点、二维点、三维点。对于牌状物,对其中的二维点基于距离进行聚类,获得聚类后的点云簇。对聚类得到的点云簇进行平面拟合,可以采用任何合适的算法,包括但不限于SVD(奇异值分解)法等。

根据一些实施例,所述立面要素包括交通灯。如图8所示,基于所述分割后的点云对所述立面要素的立体检测框进行几何特征重提取包括:基于第一距离对所述分割后的点云中的点进行聚类,以确定第一聚类中心点和第一法向方向(步骤810);基于第二距离对类别相同且所述第一法向方向相同的点进行聚类,以确定第二聚类中心点和第二法向方向,其中所述第二距离大于所述第一距离,其中所述类别基于语义分割后确定(步骤820);基于所述第二聚类中心点和所述第二法向方向确定第一检测框(步骤830);以及基于所述第一聚类中心点和第一法向方向,确定位于所述第一检测框内的一个或多个第二检测框,以作为修正后的所述立面要素的立体检测框(步骤840)。

具体地,在第一次聚类中,可以大致得到每个交通灯的信息,但是此时由于可能存在的树叶遮挡等问题,聚类得到的交通灯的位置和范围并不精确,存在一定的误差。而在第二次聚类中,基于预先确定的类别信息和法向方向,将相同类别的点聚在一起,以生成大致包围各个交通灯的大检测框信息,从而在该检测框内确定各个交通灯所对应的小检测框。

在一些示例中,在进行几何特征重提取后还可以将重新提取到的立体检测框与点云中的相应要素的检测框进行比对,如上面所述的将重新提取到的立体检测框投影到相应点云上,以确定重叠面积,从而进一步对目标识别效果进行校验。

根据一些实施例,所述第一地面要素特征和所述第二地面要素特征均包括地面线要素。将所获得的所有要素特征进行特征融合包括以下项中的至少一项:确定距离第一地面线要素最近的预定个数的第二地面线要素,以基于预设的第一属性对所述预定个数的第二地面线要素进行投票,以基于投票结果将所述第二地面线要素中的相应地面线要素的所述第一属性附给所述第一地面要素;确定距离第二地面线要素最近的预定个数的第一地面线要素,以基于所述预定个数的第一地面线要素所对应的预设的第二属性调整所述第二地面线要素的所述第二属性。所述第一地面线要素为所述第一地面要素特征中的地面线要素特征所对应的地面线要素,所述第二地面线要素为所述第二地面要素特征中的地面线要素特征所对应的地面线要素。

在一些示例中,该第一属性可以为颜色(例如白色、黄色等)、虚线、单实线、双实线等等;第二属性可以为几何结构、位置等,在此不作限制。通过特征融合,充分利用各传感器的优势,以更精准地确定地图信息,从而提高了地图的精确度。

在一些示例中,在基于上面所述的两项操作进行地面线要素特征融合时,对其操作的顺序可以不作限制。

在具体应用场景中,高精度地图是实现辅助驾驶或自动驾驶不可或缺的重要环节。它能够真实还原目标场景,以此提高定位精度,有效地弥补了环境感知设备的不足。通过本发明各实施例所提供的方法,不仅充分地保证了高精度地图的精度,还有效地降低了高精度地图的生产成本,提高了高精度地图的生产效率,有利于实现高精度地图的大规模批量生产。

根据本公开的实施例,如图9所示,还提供了一种高精地图生成装置900,包括:获取单元910,配置为获取目标场景的点云和图像、以及点云采集装置和图像采集装置相对应的位姿数据;第一语义分割单元920,配置为基于所述点云采集装置的位姿数据对所述点云进行语义分割,获得语义分割后的点云;第一特征提取单元930,配置为对所述语义分割后的点云进行特征提取,以获得地面要素所对应的第一地面要素特征,其中所述地面要素包括地面线要素和地面点要素中的至少一个,所述地面线要素对应于在二维水平面中呈现线性表达的实体目标,所述地面点要素对应于在二维水平面中呈现面状表达的实体目标;第二语义分割单元940,配置为对所述图像进行语义分割,以获得语义分割后的图像;第二特征提取单元950,配置为基于所述语义分割后的点云、所述点云采集装置和所述图像采集装置之间的相对位姿数据对所述语义分割后的图像进行特征提取,以获得地面要素所对应的第二地面要素特征,其中所述第二地面要素特征包括所述地面线要素特征和所述地面点要素特征中的至少一个;第三特征提取单元960,配置为基于所述分割后的点云对所述图像进行特征提取,以获得立面要素所对应的立面要素特征,其中所述立面要素对应于在三维空间表达的实体目标;以及特征融合单元970,配置为将所获得的相同要素所对应的特征进行特征融合,以基于融合后的要素特征生成高精地图。

这里,高精地图生成装置900的上述各单元910~970的操作分别与前面描述的步骤210~270的操作类似,在此不再赘述。

本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。

根据本公开的实施例,还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

参考图10,现将描述可以作为本公开的服务器或客户端的电子设备1000的结构框图,其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图10所示,电子设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储电子设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。

电子设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006、输出单元1007、存储单元1008以及通信单元1009。输入单元1006可以是能向电子设备1000输入信息的任何类型的设备,输入单元1006可以接收输入的数字或字符信息,以及产生与电子设备的用户设置和/或功能控制有关的键信号输入,并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元1007可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元1008可以包括但不限于磁盘、光盘。通信单元1009允许电子设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组,例如蓝牙TM设备、802.11设备、WiFi设备、WiMax设备、蜂窝通信设备和/或类似物。

计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如方法200。例如,在一些实施例中,方法200可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到电子设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的方法200的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行方法200。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。

应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。

虽然已经参照附图描述了本公开的实施例或示例,但应理解,上述的方法、系统和设备仅仅是示例性的实施例或示例,本发明的范围并不由这些实施例或示例限制,而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外,可以通过不同于本公开中描述的次序来执行各步骤。进一步地,可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进,在此描述的很多要素可以由本公开之后出现的等同要素进行替换。

相关技术
  • 逻辑地图的数据处理方法、装置、电子设备及存储介质
  • 地图数据显示方法、装置、电子设备及计算机存储介质
  • 基于高精度地图的车道边线距离检测方法、装置及存储介质
  • 类文件生成方法、装置、电子设备及存储介质
  • 无人机迁移轨迹生成方法、装置、电子设备和存储介质
  • 高精地图生成方法、装置、电子设备和存储介质
  • 高精地图生成方法、装置、电子设备、介质及程序产品
技术分类

06120115758139