掌桥专利:专业的专利平台
掌桥专利
首页

基于特征交互的障碍物行为预测方法及自动驾驶车辆

文献发布时间:2023-06-19 19:28:50


基于特征交互的障碍物行为预测方法及自动驾驶车辆

技术领域

本公开涉及人工智能技术领域,具体为深度学习、图像处理和计算机视觉技术领域,可应用于自动驾驶领域。

背景技术

准确地预测障碍物的未来行为状态对于自动驾驶车辆的安全、舒适和高效的运营至关重要。预测未来行为状态需要理解自动驾驶车辆周边多重静态和动态信息,包括但不限于道路拓扑、动态的交通信号灯信息,以及障碍物的历史运动信息等等。

目前,障碍物行为预测方式通常是利用深度学习模型对自动驾驶车辆周边多重静态和动态信息分别进行处理,再基于各自的处理结果预测障碍物的未来行为状态。

发明内容

本公开实施例提出了一种基于特征交互的障碍物行为预测方法、装置、设备、存储介质、程序产品及自动驾驶车辆。

第一方面,本公开实施例提出了一种基于特征交互的障碍物行为预测方法,包括:获取车辆周边的障碍物与驾驶环境信息;从障碍物与驾驶环境信息中提取障碍物特征和驾驶环境特征;对障碍物特征和驾驶环境特征进行特征交互,得到交互特征;将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态;其中,障碍物与驾驶环境信息包括车辆的周边感知信息和周边地图信息,驾驶环境特征包括停止线特征和道路特征;以及从障碍物与驾驶环境信息中提取障碍物特征和驾驶环境特征,包括:从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

第二方面,本公开实施例提出了一种基于特征交互的障碍物行为预测装置,包括:获取模块,被配置成获取车辆周边的障碍物与驾驶环境信息;提取模块,被配置成从障碍物与驾驶环境信息中提取障碍物特征和驾驶环境特征;交互模块,被配置成对障碍物特征和驾驶环境特征进行特征交互,得到交互特征;预测模块,被配置成将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态;其中,障碍物与驾驶环境信息包括车辆的周边感知信息和周边地图信息,驾驶环境特征包括停止线特征和道路特征;以及提取模块进一步被配置成:从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

第三方面,本公开实施例提出了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法。

第四方面,本公开实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法。

第五方面,本公开实施例提出了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现如第一方面中任一实现方式描述的方法。

第六方面,本公开实施例提出了一种自动驾驶车辆,包括如第三方面中任一实现方式描述的电子设备。

本公开实施例提供的基于特征交互的障碍物行为预测方法,先将障碍物特征与驾驶环境特征进行特征交互,再基于交互特征进行运动预测。通过特征交互,使得交互特征中包含障碍物与驾驶环境之间的关联,增强交互的表达能力,进而提升预测精度。

应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显。附图用于更好地理解本方案,不构成对本公开的限定。其中:

图1是根据本公开的基于特征交互的障碍物行为预测方法的一个实施例的流程图;

图2是根据本公开的基于特征交互的障碍物行为预测方法的又一个实施例的流程图;

图3是根据本公开的基于特征交互的障碍物行为预测方法的另一个实施例的流程图;

图4是根据本公开的基于特征交互的障碍物行为预测方法的再一个实施例的流程图;

图5是特征嵌入的网络结构图;

图6是多层级特征交互的网络结构图;

图7是根据本公开的基于特征交互的障碍物行为预测装置的一个实施例的结构示意图;

图8是用来实现本公开实施例的基于特征交互的障碍物行为预测方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了根据本公开的基于特征交互的障碍物行为预测方法的一个实施例的流程100。该基于特征交互的障碍物行为预测方法包括以下步骤:

步骤101,获取车辆周边的障碍物与驾驶环境信息。

在本实施例中,基于特征交互的障碍物行为预测方法的执行主体可以获取车辆周边的障碍物与驾驶环境信息。

通常,自动驾驶车辆安装有车载传感器。在车辆行驶过程中,通过车载传感器对车辆周围进行感知,得到障碍物与驾驶环境信息。其中,车载传感器可以包括但不限于与摄像头、毫米波雷达、激光雷达等。障碍物与驾驶环境信息可以包括但不限于图像数据、视频数据、点云数据等等。障碍物通常是指车辆周边的动态障碍物,如机动车、非机动车、行人等交通参与者。驾驶环境通常包含道路拓扑、交通信号灯、停止线等等。

步骤102,从障碍物与驾驶环境信息中提取障碍物特征和驾驶环境特征。

在本实施例中,上述执行主体可以从障碍物与驾驶环境信息中提取障碍物特征和驾驶环境特征。

通常,将障碍物与驾驶环境信息输入至CNN(Convolutional Neural Networks,卷积神经网络),可以提取得到障碍物特征和驾驶环境特征。其中,CNN的卷积核作为CNN的核心,使CNN能够通过融合每一层的局部感受野内的空间和通道信息来构建信息特征。卷积神经网络由一系列卷积层、非线性层和下采样层构成,这样能够从理论全局感受野上去捕获图像的特征来进行图像的描述。障碍物特征可以表达障碍物信息。驾驶环境特征可以表达驾驶环境信息。障碍物特征和驾驶环境特征通常以特征图的形式呈现。

步骤103,对障碍物特征和驾驶环境特征进行特征交互,得到交互特征。

在本实施例中,上述执行主体可以对障碍物特征和驾驶环境特征进行特征交互,得到交互特征。

通常,将障碍物特征和驾驶环境特征进行特征交互,使得交互特征中包含障碍物与驾驶环境之间的关联,增强交互的表达能力。

步骤104,将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

在本实施例中,上述执行主体可以将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

通常,利用解码器作为预测头对交互特征进行运动预测,可以得到障碍物的未来行为状态。交互特征可以适配多种解码器,这里不进行限定。

本公开实施例提供的基于特征交互的障碍物行为预测方法,先将障碍物特征与驾驶环境特征进行特征交互,再基于交互特征进行运动预测。通过特征交互,使得交互特征中包含障碍物与驾驶环境之间的关联,增强交互的表达能力,进而提升预测精度。

继续参考图2,其示出了根据本公开的基于特征交互的障碍物行为预测方法的又一个实施例的流程200。该基于特征交互的障碍物行为预测方法包括以下步骤:

步骤201,获取车辆的周边感知信息和周边地图信息。

在本实施例中,基于特征交互的障碍物行为预测方法的执行主体可以获取车辆的周边感知信息和周边地图信息。其中,障碍物与驾驶环境信息可以包括车辆的周边感知信息和周边地图信息。

通常,自动驾驶车辆安装有车载传感器和GPS(Global Positioning System,全球定位系统)。在车辆行驶过程中,通过车载传感器对车辆周围进行感知,得到周边感知信息;通过GPS对车辆进行定位,进而获取其周边地图信息。其中,车载传感器可以包括但不限于与摄像头、毫米波雷达、激光雷达等。周边感知信息可以包括但不限于图像数据、视频数据、点云数据等等。周边地图信息通常是高精地图。

步骤202,从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

在本实施例中,上述执行主体可以从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。其中,驾驶环境特征可以包括停止线特征和道路特征。

通常,将周边感知信息输入至CNN,可以提取得到障碍物特征和停止线特征。将周边地图信息输入至CNN,可以提取得到道路特征。障碍物特征可以表达障碍物信息。道路特征可以表达道路拓扑信息。停止线特征可以表达停止线和红绿灯信息。障碍物特征、道路特征和停止线特征可以是序列化特征。

以大小为16的障碍物特征为例,其详细信息可以如下表所示:

“end_point.x”为终点的横坐标,“end_point.y”为终点的纵坐标,“=5”为占位符字段,“dis_to_adc”为与自动驾驶车辆的距离,“heading”为方位,“length”为长度,“width”为宽度,“type”为类型,“sub_type”为子类型,“velocity_converged”为收敛速度,“tracking_time”为跟踪时间,“adc_theta”为自动驾驶车辆车头方向,“is_interpolayion_vec”为是否经过线性插值,“speed”为速度,“linear_acc”为加速度,“turn_signal”为转向信号。

以大小为16的道路特征为例,其详细信息可以如下表所示:

“end_point.x”为终点的横坐标,“end_point.y”为终点的纵坐标,“start_point.x”为起点的横坐标,“start_point.y”为起点的纵坐标,“0”为占位符,“lane_type”为道路类型,“lane_turn_type”为道路转向类型,“merge_fork_type”为合并分叉类型,“main_side_type”为主侧类型,“speed_limit”为速度限制,“heading”为方位,“width”为宽度,“lane_num”为道路数量,“is_virtual”为是否是虚拟道路,“road_form”为道路类型,“signal_state”为信号状态。

以大小为16的停止线特征为例,其详细信息可以如下表所示:

“end_point.x”为终点的横坐标,“end_point.y”为终点的纵坐标,“start_point.x”为起点的横坐标,“start_point.y”为起点的纵坐标,“4”为占位符,“color”为颜色,“source”为来源,“noturn_status”为无转向状态,“left_turn_status”为左转状态,“right_turn_status”为右转状态,“uturn_status”为转向状态。

步骤203,将障碍物特征和驾驶环境特征输入至编码器进行多层级特征交互,得到交互特征。

在本实施例中,上述执行主体可以将障碍物特征和驾驶环境特征输入至编码器进行多层级特征交互,得到交互特征。

通常,利用编码器将障碍物特征和驾驶环境特征进行多层级特征交互,经过障碍物特征和驾驶环境特征的多次交互,使得交互特征中的障碍物与驾驶环境之间的关联更加紧密,交互的表达能力更强。

步骤204,将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

在本实施例中,上述执行主体可以将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

通常,利用解码器作为预测头对交互特征进行运动预测,可以得到障碍物的未来行为状态。交互特征可以适配多种解码器,这里不进行限定。

从图2中可以看出,与图1对应的实施例相比,本实施例中的基于特征交互的障碍物行为预测方法的流程200突出了特征交互步骤。由此,本实施例描述的方案利用编码器将障碍物特征和驾驶环境特征进行多层级特征交互,经过障碍物特征和驾驶环境特征的多次交互,使得交互特征中的障碍物与驾驶环境之间的关联更加紧密,交互的表达能力更强,预测精度更高。

进一步参考图3,其示出了根据本公开的基于特征交互的障碍物行为预测方法的另一个实施例的流程300。该基于特征交互的障碍物行为预测方法包括以下步骤:

步骤301,获取车辆的周边感知信息和周边地图信息。

在本实施例中,基于特征交互的障碍物行为预测方法的执行主体可以获取车辆的周边感知信息和周边地图信息。其中,障碍物与驾驶环境信息可以包括车辆的周边感知信息和周边地图信息。

通常,自动驾驶车辆安装有车载传感器和GPS。在车辆行驶过程中,通过车载传感器对车辆周围进行感知,得到周边感知信息;通过GPS对车辆进行定位,进而获取其周边地图信息。其中,车载传感器可以包括但不限于与摄像头、毫米波雷达、激光雷达等。周边感知信息可以包括但不限于图像数据、视频数据、点云数据等等。周边地图信息通常是高精地图。

步骤302,从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

在本实施例中,上述执行主体可以从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。其中,驾驶环境特征可以包括停止线特征和道路特征。

通常,将周边感知信息输入至CNN,可以提取得到障碍物特征和停止线特征。将周边地图信息输入至CNN,可以提取得到道路特征。障碍物特征可以表达障碍物信息。道路特征可以表达道路拓扑信息。停止线特征可以表达停止线和红绿灯信息。障碍物特征、道路特征和停止线特征可以是序列化特征。

步骤303,对障碍物特征、停止线特征和道路特征进行特征嵌入,得到障碍物嵌入特征和道路嵌入特征。

在本实施例中,上述执行主体可以对障碍物特征、停止线特征和道路特征进行特征嵌入,得到障碍物嵌入特征和道路嵌入特征。通常,利用CNN可以做特征嵌入。

步骤304,采用注意力机制对障碍物嵌入特征和道路嵌入特征进行多层级特征交互,得到交互特征。

在本实施例中,上述执行主体可以采用注意力机制对障碍物嵌入特征和道路嵌入特征进行多层级特征交互,得到交互特征。通常,利用注意力机制可以做特征交互,反复学习交互关系。对于不同的特征,可以采用注意力机制进行特征交互;对于相同的特征,可以采用自注意力机制进行特征交互。经过多层级的特征交互,使得交互特征中的障碍物与驾驶环境之间的关联更加紧密,交互的表达能力更强。

步骤305,将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

在本实施例中,上述执行主体可以将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

通常,利用解码器作为预测头对交互特征进行运动预测,可以得到障碍物的未来行为状态。交互特征可以适配多种解码器,这里不进行限定。

从图3中可以看出,与图2对应的实施例相比,本实施例中的基于特征交互的障碍物行为预测方法的流程300突出了特征交互步骤。由此,本实施例描述的方案先利用CNN进行特征嵌入,再利用注意力机制进行多层级特征交互,反复学习交互关系,极大地增强交互特征中的障碍物与驾驶环境之间的关联,极大地增强交互的表达能力,进一步提高预测精度。

进一步参考图4,其示出了根据本公开的基于特征交互的障碍物行为预测方法的再一个实施例的流程400。该基于特征交互的障碍物行为预测方法包括以下步骤:

步骤401,获取车辆的周边感知信息和周边地图信息。

在本实施例中,基于特征交互的障碍物行为预测方法的执行主体可以获取车辆的周边感知信息和周边地图信息。其中,障碍物与驾驶环境信息可以包括车辆的周边感知信息和周边地图信息。

通常,自动驾驶车辆安装有车载传感器和GPS。在车辆行驶过程中,通过车载传感器对车辆周围进行感知,得到周边感知信息;通过GPS对车辆进行定位,进而获取其周边地图信息。其中,车载传感器可以包括但不限于与摄像头、毫米波雷达、激光雷达等。周边感知信息可以包括但不限于图像数据、视频数据、点云数据等等。周边地图信息通常是高精地图。

步骤402,从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

在本实施例中,上述执行主体可以从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。其中,驾驶环境特征可以包括停止线特征和道路特征。

通常,将周边感知信息输入至CNN,可以提取得到障碍物特征和停止线特征。将周边地图信息输入至CNN,可以提取得到道路特征。障碍物特征可以表达障碍物信息。道路特征可以表达道路拓扑信息。停止线特征可以表达停止线和红绿灯信息。障碍物特征、道路特征和停止线特征可以是序列化特征。

步骤403,将障碍物特征、停止线特征和道路特征分别输入至对应的卷积层,得到障碍物中间特征、停止线中间特征和道路中间特征。

在本实施例中,上述执行主体可以将障碍物特征、停止线特征和道路特征分别输入至对应的卷积层,将不同维度的输入特征降低到相同维度,得到障碍物中间特征、停止线中间特征和道路中间特征。

通常,卷积层的数量与卷积层的输入特征的维度成正比。也就是说,卷积层的输入特征的维度越高,其对应的卷积层的数量越多,从而能够将不同维度的输入特征降低到相同维度。在实际应用中,障碍物特征和道路特征的包含的信息较多,维度较大,停止线特征包含的信息较少,维度较小,因此,障碍物特征和道路特征对应的卷积层的数量通常多于停止线特征对应的卷积层的数量。例如,将障碍物特征和道路特征分别输入至对应的多个串联的卷积层,得到障碍物中间特征和道路中间特征;将停止线特征输入至一个卷积层,得到停止线中间特征。

步骤404,将障碍物中间特征与停止线中间特征进行拼接,得到障碍物嵌入特征,以及将道路中间特征作为道路嵌入特征。

在本实施例中,上述执行主体可以将障碍物中间特征与停止线中间特征进行拼接,得到障碍物嵌入特征,以及将道路中间特征作为道路嵌入特征。也就是说,障碍物中间特征与停止线中间特征聚合,道路中间特征单独处理。

为了便于理解,图5示出了特征嵌入的网络结构图。如图5所示,将障碍物特征obstacle feature[B,32,16,16]和道路特征lane feature[B,64,64,16]分别输入至对应的两个串联的卷积层Conv1D,得到障碍物中间特征[B,32,D]和道路中间特征[B,64,D];将停止线特征stopline feature[B,16,8,16]输入至一个Conv1D,得到停止线中间特征[B,16,D]。将障碍物中间特征[B,32,D]和停止线中间特征[B,16,D]进行拼接concat,得到障碍物嵌入特征obstacle,以及将道路中间特征[B,32,D]作为道路嵌入特征lane。其中,obstacle feature[B,32,16,16]中的“B”为每次训练所选取的样本数,“32”为障碍物数量,第一个“16”为时间维度,16帧,约1.6s,第二个“16”为特征维度。lane feature[B,64,64,16]中的“B”为每次训练所选取的样本数,第一个“64”为折线数量,第二个“64”为每个折线内线段数量,“16”为特征维度。stopline feature[B,16,8,16]中的“B”为每次训练所选取的样本数,第一个“16”为时间维度,“8”为折线数量,第二个“16”为特征维度。中间特征中的“B”为每次训练所选取的样本数,“D”为隐层特征维度。

步骤405,利用注意力机制对障碍物嵌入特征和道路嵌入特征进行特征交互,得到车辆对道路的第一交互特征。

在本实施例中,上述执行主体可以利用注意力机制对障碍物嵌入特征和道路嵌入特征进行特征交互,将实时交通信息引入车道节点,例如车道的阻塞或使用情况,得到车辆对道路的第一交互特征。

步骤406,利用自注意力机制对第一交互特征进行特征交互,得到道路对道路的第二交互特征。

在本实施例中,上述执行主体可以利用自注意力机制对第一交互特征进行特征交互,进一步进行交互编码,得到道路对道路的第二交互特征,通过在车道图上传播交通信息来更新车道节点特征。

步骤407,利用注意力机制对第二交互特征与障碍物嵌入特征进行特征交互,得到道路对车辆的第三交互特征。

在本实施例中,上述执行主体可以利用注意力机制对第二交互特征与障碍物嵌入特征进行特征交互,得到道路对车辆的第三交互特征,将更新的地图特征与实时交通信息融合回给参与者。

步骤408,利用自注意力机制对第三交互特征进行特征交互,得到车辆对车辆的第四交互特征。

在本实施例中,上述执行主体可以利用自注意力机制对第三交互特征进行特征交互,得到车辆对车辆的第四交互特征,处理障碍物之间的交互并产生输出的最终的障碍物与环境的交互特征。

为了便于理解,图6示出了多层级特征交互的网络结构图。如图6所示,第一步,利用注意力机制attention对于编码过的障碍物嵌入特征obstacle和道路嵌入特征lane做底层交互,将实时交通信息引入车道节点,例如车道的阻塞或使用情况,得到a2l(agent tolane,车辆对道路)的交互信息;第二步,使用a2l做自注意力机制self-attention,进一步进行交互编码得到l2l(lane to lane,道路对道路)的交互信息,通过在车道图上传播交通信息来更新车道节点特征;第三步,l2l与编码过的障碍物嵌入特征obstacle做attention,得到l2a(lane to agent,道路对车辆)的交互信息,将更新的地图特征与实时交通信息融合回给参与者;第四步,l2a做self-attention得到a2a(agent to agent,车辆对车辆)的交互信息,处理障碍物之间的交互并产生输出的最终的障碍物与环境的交互特征,然后由预测头用于运动预测。

步骤409,将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

在本实施例中,在本实施例中,上述执行主体可以将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态。

通常,利用解码器作为预测头对交互特征进行运动预测,可以得到障碍物的未来行为状态。交互特征可以适配多种解码器,这里不进行限定。

从图4中可以看出,与图3对应的实施例相比,本实施例中的基于特征交互的障碍物行为预测方法的流程400突出了特征嵌入和特征交互步骤。由此,本实施例描述的方案先利用卷积层进行特征嵌入,再利用注意力机制进行多层级特征交互,反复学习交互关系,极大地增强交互特征中的障碍物与驾驶环境之间的关联,极大地增强交互的表达能力,进一步提高预测精度。

进一步参考图7,作为对上述各图所示方法的实现,本公开提供了一种基于特征交互的障碍物行为预测装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。

如图7所示,本实施例的基于特征交互的障碍物行为预测装置700可以包括:获取模块701、提取模块702、交互模块703和预测模块704。其中,获取模块701,被配置成获取车辆周边的障碍物与驾驶环境信息;提取模块702,被配置成从障碍物与驾驶环境信息中提取障碍物特征和驾驶环境特征;交互模块703,被配置成对障碍物特征和驾驶环境特征进行特征交互,得到交互特征;预测模块704,被配置成将交互特征输入至解码器进行运动预测,得到车辆周边的障碍物的未来行为状态;其中,障碍物与驾驶环境信息包括车辆的周边感知信息和周边地图信息,驾驶环境特征包括停止线特征和道路特征;以及提取模块702进一步被配置成:从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

在本实施例中,基于特征交互的障碍物行为预测装置700中:获取模块701、提取模块702、交互模块703和预测模块704的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤101-104的相关说明,在此不再赘述。

在本实施例的一些可选的实现方式中,障碍物与驾驶环境信息包括车辆的周边感知信息和周边地图信息,驾驶环境特征包括停止线特征和道路特征。

在本实施例的一些可选的实现方式中,提取模块702进一步被配置成:从周边感知信息中提取障碍物特征和停止线特征,以及从周边地图信息中提取道路特征。

在本实施例的一些可选的实现方式中,交互模块703包括:交互子模块,被配置成将障碍物特征和驾驶环境特征输入至编码器进行多层级特征交互,得到交互特征。

在本实施例的一些可选的实现方式中,交互子模块包括:嵌入单元,被配置成对障碍物特征、停止线特征和道路特征进行特征嵌入,得到障碍物嵌入特征和道路嵌入特征;交互单元,被配置成采用注意力机制对障碍物嵌入特征和道路嵌入特征进行多层级特征交互,得到交互特征。

在本实施例的一些可选的实现方式中,交互单元包括:卷积子单元,被配置成将障碍物特征、停止线特征和道路特征分别输入至对应的卷积层,得到障碍物中间特征、停止线中间特征和道路中间特征;拼接子单元,被配置成将障碍物中间特征与停止线中间特征进行拼接,得到障碍物嵌入特征,以及将道路中间特征作为道路嵌入特征。

在本实施例的一些可选的实现方式中,卷积层的数量与卷积层的输入特征的维度成正比。

在本实施例的一些可选的实现方式中,卷积子单元进一步被配置成:将障碍物特征和道路特征分别输入至对应的多个串联的卷积层,得到障碍物中间特征和道路中间特征;将停止线特征输入至一个卷积层,得到停止线中间特征。

在本实施例的一些可选的实现方式中,交互单元进一步被配置成:利用注意力机制对障碍物嵌入特征和道路嵌入特征进行特征交互,得到车辆对道路的第一交互特征;利用自注意力机制对第一交互特征进行特征交互,得到道路对道路的第二交互特征;利用注意力机制对第二交互特征与障碍物嵌入特征进行特征交互,得到道路对车辆的第三交互特征;利用自注意力机制对第三交互特征进行特征交互,得到车辆对车辆的第四交互特征。

本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。

根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质、一种计算机程序产品和一种自动驾驶车辆。

图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示,设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM 803中,还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备800中的多个部件连接至I/O接口805,包括:输入单元806,例如键盘、鼠标等;输出单元807,例如各种类型的显示器、扬声器等;存储单元808,例如磁盘、光盘等;以及通信单元809,例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如基于特征交互的障碍物行为预测方法。例如,在一些实施例中,基于特征交互的障碍物行为预测方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的基于特征交互的障碍物行为预测方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行基于特征交互的障碍物行为预测方法。自动驾驶车辆包括电子设备800。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以是分布式系统的服务器,或者是结合了区块链的服务器。

应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开提供的技术方案所期望的结果,本文在此不进行限制。

上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

技术分类

06120115921334