目标检测方法、装置、设备以及存储介质

技术领域

本申请涉及计算机技术领域，具体涉及目标检测、深度学习技术领域，尤其涉及目标检测方法、装置、设备以及存储介质。

背景技术

随着无人驾驶、高精地图、智慧城市、增强现实等概念的提出，许多环境都需要进行三维环境感知和交互。例如在自动驾驶环境下，系统需要感知定位周围的行人和汽车，并了解他们的运动状态，将周围的环境进行分割，方便系统做出合理的控制决策。在许多三维场景理解问题中，都采用数据驱动的方法去完成特定的任务。

点云数据应用广泛在三维场景理解任务中，包括目标检测、目标跟踪、运动估计等。其中，目标检测是场景感知里最主要的任务之一，尤其在自动驾驶、AGV(AutomatedGuided Vehicle，自动导引运输车)巡航等场景应用中起至关重要的作用。3D目标检测比2D目标检测更具有挑战性，3D目标有着更加丰富的立体信息，这些丰富的信息可以为路径规划和决策系统提供更多的可靠性保障。

发明内容

提供了一种目标检测方法、装置、设备以及存储介质。

根据第一方面，提供了一种目标检测方法，包括：获取点云数据；根据点云数据中点云点的位置，将点云数据划分为多个点云点集合；分别提取各点云点集合中点云点的特征，确定点云数据的特征图；根据特征图以及预先训练的目标检测模型，确定点云数据中的对象。

根据第二方面，提供了一种目标检测装置，包括：点云获取单元，被配置成获取点云数据；点云划分单元，被配置成根据点云数据中点云点的位置，将点云数据划分为多个点云点集合；特征提取单元，被配置成分别提取各点云点集合中点云点的特征，确定点云数据的特征图；目标检测单元，被配置成根据特征图以及预先训练的目标检测模型，确定点云数据中的对象。

根据第三方面，提供了一种执行目标检测方法的电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，上述指令被至少一个处理器执行，以使至少一个处理器能够执行如第一方面所描述的方法。

根据第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，上述计算机指令用于使计算机执行如第一方面所描述的方法。

根据第五方面，一种计算机程序产品，包括计算机程序，上述计算机程序在被处理器执行时实现如第一方面所描述的方法。

根据本申请的技术提供了一种目标检测方法，可以快速准确地识别出点云数据中的目标。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是本申请的一个实施例可以应用于其中的示例性系统架构图；

图2是根据本申请的目标检测方法的一个实施例的流程图；

图3是根据本申请的目标检测方法的一个应用场景的示意图；

图4是根据本申请的目标检测方法的另一个实施例的流程图；

图5是根据本申请的目标检测装置的一个实施例的结构示意图；

图6是用来实现本申请实施例的执行目标检测方法的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请的目标检测方法或目标检测装置的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括行驶设备101、102，网络103和服务器104。网络103用以在行驶设备101、102和服务器104之间提供通信链路的介质。

行驶设备101、102可以包括AGV、车辆，其上可以安装有激光雷达，用于采集行驶环境中的点云数据。行驶设备101、102可以将上述点云数据发送给服务器104。并可以接收服务器104对点云数据处理后得到的目标检测结果，并根据目标检测结果制定行驶路线或确定行驶速度。

服务器104可以是提供各种服务的服务器，例如为行驶设备101、102提供目标检测结果的后台服务器。后台服务器可以接收行驶设备101、102发送的点云数据，并对点云数据进行处理，得到目标检测结果，并将目标检测结果反馈给行驶设备101、102。

需要说明的是，服务器104可以是硬件，也可以是软件。当服务器104为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器104为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。

需要说明的是，本申请实施例所提供的目标检测方法可以由行驶设备101、102执行，也可以由服务器104执行。相应地，目标检测装置可以设置于行驶设备101、102中，也可以设置于服务器104中。

应该理解，图1中的行驶设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的行驶设备、网络和服务器。

继续参考图2，示出了根据本申请的目标检测方法的一个实施例的流程200。本实施例的目标检测方法，包括以下步骤：

步骤201，获取点云数据。

本实施例中，目标检测方法的执行主体(例如图1所示的行驶设备101、102活服务器104)可以获取行驶设备上安装的点云采集设备采集的点云数据。上述点云数据中可以包括多个点云点，每个点云点的信息可以包括坐标、强度等信息。通过这些信息可以反映出行驶环境中障碍物的信息。

步骤202，根据点云数据中点云点的位置，将点云数据划分为多个点云点集合。

本实施例中，执行主体在获取到点云数据后，可以根据点云数据中点云点的位置，将点云数据划分为多个点云点集合。点云点的位置可以反映出点云点的空间分布。具体的，执行主体可以将点云数据中点云点按照横坐标、纵坐标或者竖坐标将各点云点进行划分。划分后，单个点云点集合中的点云点的横坐标、纵坐标或者竖坐标位于一个坐标范围内。

步骤203，分别提取各点云点集合中点云点的特征，确定点云数据的特征图。

本实施例中，执行主体在对点云数据中的各点云点进行划分后，可以利用各种算法对各点云点集合中的点云点进行特征提取，确定点云数据的特征图。上述算法例如可以是已训练的卷积神经网络、SIFT算法等等。上述特征图中可以为二维特征图，也可以是三维特征图。

步骤204，根据特征图以及预先训练的目标检测模型，确定点云数据中的对象。

执行主体在得到特征图后，可以将特征图输入预先训练的目标检测模型中。这里，目标检测模型用于表征特征图与对象的对应关系。目标检测模型的输出即为识别出的对象。可以理解的是，执行主体可以利用对象的空间信息来表示识别出的对象，空间信息包括长宽高、大小、偏航角度等。

继续参见图3，其示出了根据本申请的目标检测方法的一个应用场景的示意图。在图3的应用场景中，AGV小车301在搬运货物的过程中，利用其上安装的点云采集装置采集仓库中的点云数据，并将点云数据发送给服务器302。服务器302对上述点云数据进行步骤201～204的处理，检测出仓库中的障碍物对象。服务器302根据障碍物对象以及AGV小车301的位置，确定AGV小车301的行驶路线。并将行驶路线发送给AGV小车301，AGV小车301根据上述行驶路线搬运货物。

本申请的上述实施例提供的目标检测方法，可以快速准确地识别出点云数据中的目标。

继续参见图4，其示出了根据本申请的目标检测方法的另一个实施例的流程400。如图4所示，本实施例的方法可以包括以下步骤：

步骤401，获取点云数据。

步骤402，过滤点云数据中的低质量点云点。

由于三维扫描设备的精度、操作者的使用经验、环境亮度、障碍物遮挡等因素，点云数据中可能会包含一些离群点云点。本实施例中，执行主体可以首先将点云数据中的低质量点云点过滤掉。这里，低质量点云点可以理解为离群点云点。具体的，采用半径离群点移除滤波算法去除点云数据中的离群点云点，具体地，用户可自定义每个点云点的领域半径和在该领域空间内点云点的最小数量值，多余的点云点可以被认为是离群点云点。

在本实施例的一些可选的实现方式中，执行主体还可以对过滤后的点云数据进行降采样处理，这样可以减少冗余点云点。需要说明的是，在降采样时需要尽可能保证点云数据的形状特征。具体的，执行主体可以采用体素化网格降采样算法，通过控制网格边长所在的立方体，选择立方体重心附近的点云点代表该立方体内的所有点云点，进而减少冗余点云点。

步骤403，根据点云数据中点云点的位置，将位于预设空间内的点云点划分为多个点云点集合。

在执行完成上述处理后，执行主体可以选取出预设空间内的点云点。这里的预设空间可以理解为在行驶设备正前方的空间。在一些具体的应用中，执行主体可以首先定义点云数据所在的坐标系。具体的，执行主体可以将点云采集设备的正前方作为z轴，将正上方作为x轴，将正右方作为y轴。执行主体可以将x轴的[-40，40]、y轴的[0，70.4]以及z轴的[-3，1]所围成的空间作为预设空间。在划分点云点时，执行主体可以将预设空间划分为多个柱状体或者多个正方体。将每个柱状体或正方体内的点云点作为一个点云点集合。

在本实施例的一些可选的实现方式中，上述预设空间为长方体。上述长方体的边分别与各坐标轴平行或垂直。本实现方式中，执行主体可以通过图4中未示出的以下步骤对点云点进行划分：将预设空间划分为多个柱状体，将单个柱状体中的点云点作为单个点云点集合。

本实现方式中，执行主体可以将预设空间划分为多个柱状体，将单个柱状体中的点云点作为单个点云点集合。在划分时，可以将x轴方向的高度作为柱状体的高，也可以将y轴方向或z轴方向的高度作为柱状体的高

在本实施例的一些可选的实现方式中，点云数据由激光雷达采集得到，预设空间的底面平行于激光雷达坐标系的y-z平面。在划分点云点时，还可以通过图4中未示出的以下步骤实现：按至少一个预设尺寸将底面划分为多个单元格；将每个单元格作为柱状体的底面，将预设空间的高作为柱状体的高，划分得到多个柱状体。

本实现方式中，执行主体可以预先设置多个边长v

步骤404，对于每个点云点集合，提取该点云点集合中各点云点的特征，得到该点云点集合对应的特征子图；融合各特征子图，得到点云数据的特征图。

在划分得到多个点云点集合后，执行主体可以分别提取各点云点集合中各点云点的特征，得到每个点云点集合对应的特征子图。具体的，执行主体可以利用现有的特征提取算法来提取特征。例如，可以利用卷积神经网络提取特征。例如，执行主体可以首先将每个点云点集合中各点云点的信息输入多层感知器(Muti－Layer Perception，MLP)、最大池化层(Max Pooling)、批归一化层(BatchNorm)、激活函数层(ReLU)，最后经过全连接层(FullyConnected Network)输出一个子特征图。然后，将各子特征图按照柱状体在预设空间内的位置进行拼接融合，得到点云数据的特征图。

本实施例中，通过提取柱体内的点云点的特征，可以实现仅仅在列方向上进行特征处理，不用考虑不同方向的点云点的特征融合问题，通过学习列特征，将得到一张整体2D特征图。

本实施例中，目标检测模型为3D区域候选网络(3D Region Proposal Network)，是特征金字塔网络(Feature Pyramid Network，FPN)的一种3D维度衍生方法。3D区域候选网络中包括多个尺寸不同的卷积核。具体的，每一卷积层中的卷积核的尺寸都对应一种长宽比的目标对象，这样目标检测模型可以对小目标和不同长宽比的物体适应性更强。执行主体在提取点云数据中各点云点的特征时，具体可以通过步骤405来实现：

步骤405，利用卷积神经网络中多个尺寸不同的卷积核对特征图进行卷积运算，得到融合特征图；基于融合特征图，确定点云数据中的对象。

执行主体可以利用上述不同尺寸的卷积核对特征图进行卷积运算，得到融合特征图。然后，可以基于上述融合特征图，确定点云数据中的对象。具体的，执行主体可以将融合特征图输入检测头(Detection head)中，上述检测头可以用于实现对象的对象分类、边界回归或者旋转角预测等等。

步骤406，对检测出的对象进行可视化处理。

执行主体还可以对检测出的对象进行可视化处理。具体的，执行实体可以标注上述对象，或者以不同的颜色表示不同的对象。

在本实施例的一些可选的实现方式中，执行主体还可以预先训练上述目标检测模型。具体的，执行主体可以获取样本点云数据。上述样本点云数据可以为使用KITTI雷达点云检测基准数据集，该数据集由同时具有激光雷达点云和图像的样本组成。KITTI数据采集平台包括两个灰度摄像机，2个彩色摄像机，一个Vdlodyne64线3D激光雷达，4个光学镜头以及1个GPS导航系统。训练和测试用到的文件有相机参数文件夹calib(.txt文件)，左侧彩色相机标签文件夹labels_2(.txt格式)，64线雷达点云文件夹velodyne64(.bin格式)和用于可视化的左侧彩色相机图像文件夹image_2(.png格式)。另外，使用soft-NMS方法对3D包围框进行排序筛选。

样本可以分为7481个训练样本和7518个测试样本。在实验中，将训练集分为3712个训练样本和3769个验证样本。执行主体可以首先对样本点云数据进行去除离群点云点和降采样处理。并在预处理后，对预设空间中的点云点划分为多个柱状体。分别提取各柱状体的特征子图，融合后得到点云数据的特征图。

本发明考虑使用固定大小的锚框(anchor)，该锚框是根据KITTI训练集中所有实际标注的大小和中心位置确定的。对于车辆，锚框的大小为l×w×h＝1.6m×3.9m×1.56m，以z＝-1m为中心3D区域候选网络(3DRPN)输出为64×248×216，在特征图每个单位上定义两个角度相互垂直的锚框，因此锚框为248×216×2＝107136个。

设定锚框与真实值之间的IoU阈值，锚框与真实值的IoU>0.65，则将锚框分配给真实值，锚框与真实值的IoU<0.45，则将锚框分配给背景。IoU在0.45～0.65之间，则这些锚框在训练期间被忽略，属于样本难例(HardExample)。

每一个锚框都会被分配一个分类目标的one-hot向量、一个3D包围框回归目标的7维向量和一个方向角one-hot预测向量。one-hot向量指的是一个锚框只有一个物体类别被指定。真实值包围框和锚框都由一个7维向量(x,y，z，w，l，h，θ)来描述，其中(x,y,z)代表包围框中心位置坐标，(w,l,h)代表包围框的宽度、长度和高度，θ是沿z轴的偏航角(yaw)，且θ∈[0,90°]。

定义3D包围框与真实值包围框之间的偏差函数，其包括包围框中心坐标位置的偏差、宽长高的偏差和偏航角的偏差[34，35]。其中，包围框中心坐标位置的偏差被定义为：

宽长高的偏差被定义为：

偏航角的偏差被定义为：

θ

下标g、a代表真实值和锚框值，是锚框底部的对角线长度。

进一步地，根据偏差对3D目标检测模型进行修正，直至模型收敛完成。

本申请的上述实施例提供的目标检测方法，可以仅仅在列方向上进行特征处理，不用考虑不同方向的体素的特征融合问题。增强点云特征的表达能力，使网络泛化能力更强。通过设置不同尺寸的卷积核，使网络对小目标和不同长宽比的物体适应性更强。

进一步参考图5，作为对上述各图所示方法的实现，本申请提供了一种目标检测装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的目标检测装置500包括：点云获取单元501、点云划分单元502、特征提取单元503和目标检测单元504。

点云获取单元501，被配置成获取点云数据。

点云划分单元502，被配置成根据点云数据中点云点的位置，将点云数据划分为多个点云点集合。

特征提取单元503，被配置成分别提取各点云点集合中点云点的特征，确定点云数据的特征图。

目标检测单元504，被配置成根据特征图以及预先训练的目标检测模型，确定点云数据中的对象。

在本实施例的一些可选的实现方式中，点云划分单元502可以进一步被配置成：根据点云数据中点云点的位置，将位于预设空间内的点云点划分为多个点云点集合。

在本实施例的一些可选的实现方式中，预设空间为长方体。点云划分单元502可以进一步被配置成：将预设空间划分为多个柱状体，将单个柱状体中的点云点作为单个点云点集合。

在本实施例的一些可选的实现方式中，点云数据由激光雷达采集得到，预设空间的底面平行于激光雷达坐标系的y-z平面。点云划分单元502可以进一步被配置成：按至少一个预设尺寸将底面划分为多个单元格；将每个单元格作为柱状体的底面，将预设空间的高作为柱状体的高，划分得到多个柱状体。

在本实施例的一些可选的实现方式中，特征提取单元503可以进一步被配置成：对于每个点云点集合，提取该点云点集合中各点云点的特征，得到该点云点集合对应的特征子图；融合各特征子图，得到点云数据的特征图。

在本实施例的一些可选的实现方式中，目标检测模型为卷积神经网络，卷积神经网络包括多个尺寸不同的卷积核。目标检测单元504可以进一步被配置成：利用卷积神经网络中多个尺寸不同的卷积核对特征图进行卷积运算，得到融合特征图；基于融合特征图，确定点云数据中的对象。

在本实施例的一些可选的实现方式中，装置500还可以进一步包括图5中未示出的可视化单元，被配置成：对检测出的对象进行可视化处理。

在本实施例的一些可选的实现方式中，装置500还可以进一步包括图5中未示出的点云过滤单元，被配置成：过滤点云数据中的低质量点云点。

应当理解，目标检测装置500中记载的单元501至单元504分别与参考图2中描述的方法中的各个步骤相对应。由此，上文针对目标检测方法描述的操作和特征同样适用于装置500及其中包含的单元，在此不再赘述。

根据本申请的实施例，本申请还提供了还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图6示出了根据本申请实施例的执行目标检测方法的电子设备600的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图6所示，设备600包括处理器601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储器608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM 603中，还可存储设备600操作所需的各种程序和数据。处理器601、ROM 602以及RAM 603通过总线604彼此相连。I/O接口(输入/输出接口)605也连接至总线604。

设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储器608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器601可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器601执行上文所描述的各个方法和处理，例如目标检测方法。例如，在一些实施例中，目标检测方法可被实现为计算机软件程序，其被有形地包含于机器可读存储介质，例如存储器608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到电子设备600上。当计算机程序加载到RAM 603并由处理器601执行时，可以执行上文描述的目标检测方法的一个或多个步骤。备选地，在其他实施例中，处理器601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行目标检测方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本申请的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。上述程序代码可以封装成计算机程序产品。这些程序代码或计算机程序产品可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器601执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本申请的上下文中，机器可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读存储介质可以是机器可读信号存储介质或机器可读存储介质。机器可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学存储设备、磁存储设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(“Virtual Private Server”，或简称“VPS”)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以是分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请的保护范围之内。