自动驾驶车辆定位方法及装置、电子设备、存储介质

技术领域

本申请涉及自动驾驶感知定位技术领域，尤其涉及一种自动驾驶车辆定位方法及装置、电子设备、存储介质。

背景技术

科技的发展以及安全驾驶需求的日益提高，自动驾驶出租车、小巴士等也越来越多的在城市中运营起来。

相对于开阔场景，在城市中的GNSS信号容易受到遮挡、干扰等引起定位不准确，特别是在树木多、城市峡谷、商业区等位置。针对于短时间的定位不准确，通常可采用卡方检测等技术对异常值进出剔除，保证自车定位不会被异常值带偏。而针对长时间定位不准确，可使用其他传感器进行辅助，其中大部分自动驾驶公司会采用基于GNSS/RTK、IMU以及激光雷达SLAM的多传感器融合技术，另一些少部分自动驾驶公司会采用基于GNSS/RTK、IMU以及视觉SLAM的多传感器融合技术。

如果使用基于激光雷达的SLAM技术方案，需要预先建立点云地图，可靠性高、精度高、没有累计误差。但是由于激光雷达价格昂贵，点云地图存储和读取会占用大量空间和资源。

如果使用基于视觉的SLAM技术方案，一种方案是基于特征的SLAM，此方法广泛用于封闭、低速场景，如：泊车、清扫车、牵引车，但是在速度或光照的影响下，很难进行特征点的跟踪，导致无法定位。

另一种方案是基于路面语义元素(比如，路面箭头、车道线)的SLAM，通过将上述语义元素与高精地图匹配，进一步计算出车辆的位置。其缺点在于高精地图成本高，覆盖范围有限，就很难大范围使用。

发明内容

本申请实施例提供了自动驾驶车辆定位方法及装置、电子设备、存储介质，以充分利用道路语义元素实现车辆精准定位。

本申请实施例采用下述技术方案：

第一方面，本申请实施例提供一种自动驾驶车辆定位方法，其中，所述方法包括：获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素；通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签；根据所述车辆定位结果，确定车辆当前位置。

第二方面，本申请实施例提供一种自动驾驶车辆定位装置，其中，所述装置包括：图像获取模块，用于获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素；模型处理模块，用于通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签；结果输出模块，用于根据所述车辆定位结果，确定车辆当前位置。

第三方面，本申请实施例还提供一种电子设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行上述方法。

第四方面，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的电子设备执行时，使得所述电子设备执行上述方法。

本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：

通过预先训练的道路语义地图模型，可以识别多帧图像信息中的道路语义元素，根据道路语义元素查找并计算对应的位置信息，在自动驾驶车辆进入GNSS信号受干扰导致的精度降低或不可用区域时，也可以获得车辆当前位置。从而提供自动驾驶车辆的准确的感知定位数据。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本申请实施例中一种自动驾驶车辆定位方法流程示意图；

图2为本申请实施例中一种自动驾驶车辆定位装置结构示意图；

图3为本申请实施例中一种电子设备的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

以下结合附图，详细说明本申请各实施例提供的技术方案。

本申请实施例提供了一种自动驾驶车辆定位方法，如图1所示，提供了本申请实施例自动驾驶车辆定位方法流程示意图，所述方法至少包括如下的步骤S110至步骤S130：

步骤S110，获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素。

在获取位于道路至少一侧的多帧图像信息时，需要保持持续采集。同时在每帧图像信息中包括了道路语义元素。这些道路语义元素可以是道路一侧或者两侧的店铺招牌，也可以是车站牌、地铁出入口信息牌等。

可以理解，为了采集得到上述图像信息，在目标车辆的两侧各设备一个摄像头，或者在目标车辆的顶部设置至少一个环视摄像头，并使用至少一个高精度定位装置计算目标车辆的实时位置，其中所述高精度定位装置包括RTK定位模块。所述的目标车辆可以是自动驾驶车辆，即可以是自动驾驶出租车、小巴士等车型的自动驾驶车辆。

通过在目标车辆的两侧设置的摄像头或者环视摄像头，可以顺利采集得到图像信息。使用侧视摄像头或者环视摄像头，提高了自动驾驶车辆的环境感知范围，保证自动驾驶车辆对当前位置周围的语义元素的充分使用。

在一些实施例中，可以通过建立采集车的方式来获取图像信息，即需要一套高精度定位设备获取当前时刻自车的位置，需要两个已经标定好的侧视相机或者一个环视相机获取当前时刻可视范围内的图像信息。这些图像信息可以是用于模型的训练或者测试。

步骤S120，通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签。

所述预先训练的道路语义地图模型中，首先需要建立道路语义地图的场景采集数据，利用已经训练好的模型对采集到的数据进行处理，包括但不限于线框、角点、文字以及位置的计算。并且在得到之后进行道路语义地图的编码得到道路语义地图词典。

其中，道路语义元素标签包括但不限于语义类型标签，用于区分文字、线框、角点等。此外对于位置计算并不涉及学习模型，而是采用坐标系转换后计算得到相对位置关系。

所述道路语义地图模型为使用多组数据通过机器学习训练得出的，包括但不限于道路语义元素中线框的识别、文字的识别、线框角点的识别以及线框角点的位置计算。

在训练阶段，采用的多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签。即通过道路语义地图模型识别出道路语义并建立道路语义地图模型，从而可以在GNSS信号异常的情况下，提供准确的定位信息。

步骤S130，根据所述车辆定位结果，确定车辆当前位置。

根据道路语义地图模型得到车辆定位结果，并将其确定为车辆当前位置。同时，在GNSS信号正常的情况下，借助高精度定位装置进行定位。

在本申请的一个实施例中，所述通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签，还包括：通过预先训练的道路语义地图模型识别出所述图像信息中的道路语义元素信息；根据所述道路语义元素信息中的边框信息、文字信息、角点信息以及角点位置信息，对所述道路语义元素信息编码得到道路语义地图字典。

具体而言，通过预先训练的道路语义地图模型以及道路语义地图字典结合，可以得到所述图像信息中当前帧的车辆定位结果。

预先训练的道路语义地图模型用于道路语义框的边框信息识别、文字信息识别、角点信息识别以及角点位置信息的计算以及，最后，需要对得到的道路语义元素信息编码得到道路语义地图字典。

比如，以道路语义元素为店铺招牌为例，招牌和文字可通过训练得到的识别模型进行识别，在本申请中并不进行具体限定。

招牌角点可根据训练得到的分割模型进行计算或使用传统算法利用图像梯度计算，在本申请中并不进行具体限定。

招牌角点位置可以通过SFM(Structure From Motion)计算得到，在本申请中并不进行具体限定。

即上述预先训练的道路语义地图模型可以包括但不限于上述识别模型、分割模型亦或者三维重建模型等，在本申请的实施例中并不进行具体限定。

编码时，每一个招牌可以定义为世界坐标系的四个点(依次为左上、右上、右下、左下)加上一个文字编码。

进一步，文字编码规则可以有不同的方式，可以将所有店铺名作为一个词典，按照0-9数字，英文字母a-z，汉字首字母缩写a-z结合笔画顺序的方式进行排列。

按照上述编码方式，得到A店铺在地图上可定义为：

[(10,100,16),(11,100,16),(11,101,14),(10,101,14),1010]。

其中(10,100,16),(11,100,16),(11,101,14),(10,101,14)为招牌的四个角点的经、纬、高度信息，1010为A店铺名称在词典中的编号。

在本申请的一个实施例中，得到所述图像信息中当前帧的车辆定位结果，包括：通过预先训练的道路语义地图模型识别出所述当前帧的边框信息以及文字信息；根据所述边框信息中的所述文字信息，在所述道路语义地图字典中进行检索；根据检索结果得到至少一个道路语义元素对应的角点信息集合；根据所述角点信息集合，确定车辆当前位置作为当前帧的车辆定位结果。

具体而言，需要基于道路语义元素地图模型进行定位。以道路元素为商铺招牌为例进行详细说明，自动驾驶车辆行驶时，获得车辆两侧相机的图像数据并通过已经训练好的机器学习模型识别出图像中的一个或多个商铺招牌角点位置集合S和文字，再根据招牌中的文字去上述建立好的字典中进行检索，得到识别到的一个或多个招牌的角点绝对位置集合P。

可选地，也可以不使用字典，直接通过先验知识获得商铺招牌在地图上的角点的位置信息。比如，城市场景固定路段、园区场景固定路线巡航等。

之后，根据招牌角点集合的绝对位置和此点集在图像中的位置的对应关系，通过下述误差函数公式，可以计算得到车辆(自车)当前的位置：

其中δ为世界坐标系转换到图像坐标系的函数，根据δ_best可以算出车辆当前位姿，i为角点个数，距离函数为欧氏距离，P为商铺招牌角点角点绝对位置集合，S为机器学习模型识别出商铺招牌角点的像素位置集合。

根据招牌的四个角点的经纬信息、高度信息，进行一系列坐标系的转换之后，得到相对距离即可确定车辆当前位置。

在本申请的一个实施例中，所述通过预先训练的道路语义地图模型识别出所述图像信息中的道路语义元素信息，还包括：对通过预先训练的道路语义地图模型识别出所述图像信息中的与第N个道路语义元素信息相同的第N+1个道路语义元素信息重复出现时，根据道路语义先验信息对所述第N个道路语义元素信息或第N+1个道路语义元素信息进行筛选，直到确定出唯一的道路语义元素信息。

具体而言，如果对于与第N个道路语义元素信息相同的第N+1个道路语义元素信息重复出现时，无法进行准确定位。此时，需要根据道路语义先验信息对所述第N个道路语义元素信息或第N+1个道路语义元素信息进行筛选，直到计算出唯一确定值。

比如，如果在当前位置只识别到一个店铺招牌，而此店铺招牌在地图中出现多次，则需要以根据自车的位置为先验信息进行多个位置的筛选，筛选后有固定唯一的值，可直接使用。否则，无法得到固定唯一解，需要在后续识别结果的辅助下进行定位。

在本申请的一个实施例中，所述通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签，包括：在自动驾驶车辆进入GNSS信号非正常区域时，通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果。

在自动驾驶车辆进入GNSS信号受干扰导致的精度降低或不可用区域时，基于道路语义地图模型进行定位。使用道路语义元素替代特征点进行建图，保证了地图的稀疏性。采集得到商铺招牌信息，根据所述通过预先训练的道路语义地图模型识别到商铺招牌以及对招牌中的进行文字识别，提取文字对招牌编码进行反向查找即可。

需要注意的是，通常可以通过GNSS的卫星数或者较短时间内GNSS的位置与预测位置的偏差，来判断当前自动驾驶车辆进入了GNSS信号非正常区域。

此外，使用路语义元文字对路语义元进行编码，保证了检索时的效率。

在本申请的一个实施例中，用于城市场景下的视觉语义定位，所述城市场景至少包括店铺招牌的道路语义元素；所述获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素，包括：获取位于道路至少一侧的多帧图像信息，且每帧图像信息至少包括店铺招牌；通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签，包括：根据所述样本图像以及所述样本图像中的店铺招牌标签作为多组数据，训练得到所述道路语义地图模型，用以通过识别店铺招牌得到所述图像信息中当前帧的车辆定位结果。

本申请实施例还提供了自动驾驶车辆定位装置200，如图2所示，提供了本申请实施例中自动驾驶车辆定位装置的结构示意图，所述装置200至少包括：图像获取模块210、模型处理模块220、结果输出模块230，其中：

图像获取模块210，用于获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素；

模型处理模块220，用于通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签；

结果输出模块230，用于根据所述车辆定位结果，确定车辆当前位置。

在本申请的一个实施例中，所述图像获取模块210具体用于：在获取位于道路至少一侧的多帧图像信息时，需要保持持续采集。同时在每帧图像信息中包括了道路语义元素。这些道路语义元素可以是道路一侧或者两侧的店铺招牌，也可以是车站牌、地铁出入口信息牌等。

可以理解，为了采集得到上述图像信息，在目标车辆的两侧各设备一个摄像头，或者在目标车辆的顶部设置至少一个环视摄像头，并使用至少一个高精度定位装置计算目标车辆的实时位置，其中所述高精度定位装置包括RTK定位模块。所述的目标车辆可以是自动驾驶车辆，即可以是自动驾驶出租车、小巴士等车型的自动驾驶车辆。

通过在目标车辆的两侧设置的摄像头或者环视摄像头，可以顺利采集得到图像信息。

在一些实施例中，可以通过建立采集车的方式来获取图像信息，即需要一套高精度定位设备获取当前时刻自车的位置，需要两个已经标定好的侧视相机或者一个环视相机获取当前时刻可视范围内的图像信息。这些图像信息可以是用于模型的训练或者测试。

在本申请的一个实施例中，所述模型处理模块220具体用于：所述预先训练的道路语义地图模型中，首先需要建立道路语义地图的场景采集数据，利用已经训练好的模型对采集到的数据进行处理，包括但不限于线框、角点、文字以及位置的计算。并且在得到之后进行道路语义地图的编码得到道路语义地图词典。

所述道路语义地图模型为使用多组数据通过机器学习训练得出的，包括但不限于道路语义元素中线框的识别、文字的识别、线框角点的识别以及线框角点的位置计算。

在训练阶段，采用的多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签。即通过道路语义地图模型识别出道路语义并建立道路语义地图模型，从而可以在GNSS信号异常的情况下，提供准确的定位信息。

在本申请的一个实施例中，所述结果输出模块230具体用于：根据道路语义地图模型得到车辆定位结果，并将其确定为车辆当前位置。同时，在GNSS信号正常的情况下，借助高精度定位装置进行定位。

能够理解，上述自动驾驶车辆定位装置，能够实现前述实施例中提供的自动驾驶车辆定位方法的各个步骤，关于自动驾驶车辆定位方法的相关阐释均适用于自动驾驶车辆定位装置，此处不再赘述。

图3是本申请的一个实施例电子设备的结构示意图。请参考图3，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图3中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成自动驾驶车辆定位装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素；

通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签；

根据所述车辆定位结果，确定车辆当前位置。

上述如本申请图1所示实施例揭示的自动驾驶车辆定位装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central ProcessingUnit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

该电子设备还可执行图1中自动驾驶车辆定位装置执行的方法，并实现自动驾驶车辆定位装置在图1所示实施例的功能，本申请实施例在此不再赘述。

本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的电子设备执行时，能够使该电子设备执行图1所示实施例中自动驾驶车辆定位执行的方法，并具体用于执行：

获取位于道路至少一侧的多帧图像信息，其中每帧图像信息至少包括道路语义元素；

通过预先训练的道路语义地图模型，得到所述图像信息中当前帧的车辆定位结果，其中，所述道路语义地图模型为使用多组数据通过机器学习训练得出的，多组数据中的每组数据均包括样本图像以及所述样本图像中的道路语义元素标签；

根据所述车辆定位结果，确定车辆当前位置。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。