掌桥专利:专业的专利平台
掌桥专利
首页

数据标注、对象跟踪方法、装置、设备和存储介质

文献发布时间:2023-06-19 10:58:46


数据标注、对象跟踪方法、装置、设备和存储介质

技术领域

本申请涉及计算机技术领域,特别是涉及一种数据标注方法和装置、一种对象跟踪方法和装置一种电子设备和一种存储介质。

背景技术

数据标注可应用于各种场景中,如对图像进行标注从而监控标注的目标对象,对文字进行标注从而进行分析处理等。

目前,数据标注通常都是每一个数据分别进行标记,例如分别对每一个图像、每一段文字进行标记等方式。但是,有时不同数据中的标记对象可能彼此关联,如在5000张图像中对相同的标记对象分别进行标记,以便对该标记对象进行跟踪,则在这5000张图像中任一张图像中修改了标记对象,其他4999张图像也需要进行修改,而此种情况下每张图像的标记数据都需要分别修改,效率较低,且会对系统造成较大影响。

发明内容

本申请实施例提供了一种数据标注方法,以提高处理效率。

相应的,本申请实施例还提供了一种数据标注装置、一种对象跟踪方法和装置、一种电子设备以及一种存储介质,用以保证上述方法的实现及应用。

为了解决上述问题,本申请实施例公开了一种数据标注方法,所述方法包括:提供标注界面;在所述标注界面显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联;接收标注操作,确定所述标注操作对应图像上的对象;在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息。

本申请实施例还公开了一种数据标注方法,所述方法包括:接收不同数据源上传的图像;将所述不同数据源的图像依据时间信息进行关联,并提供关联的图像给标注界面,以通过标注界面进行图像标注;获取所述图像中对象的标注信息并存储。

本申请实施例还公开了一种对象追踪方法,所述方法包括:提供标注界面;在所述标注界面显示至少一个摄像头采集的监控图像和雷达采集的点云图,所述监控图像和点云图通过时间信息关联对应帧;接收在指定帧点云图中的标注操作,并在所述点云图上通过设定图形标注对应的对象;在所述指定帧点云图关联的至少一帧监控图像中,通过设定图形标注所述对象,并显示所述对象的标注信息。

本申请实施例还公开了一种对象追踪方法,所述方法包括:接收至少一个摄像头采集的监控图像,并接收雷达采集的点云图;将所述监控图像和点云图通过时间信息关联对应帧,并存储关联的监控图像和点云图,以提供给标注界面进行标注;获取所述点云图和监控图像中对象的标注信息并进行存储。

本申请实施例还公开了一种数据标注装置,所述装置包括:界面提供模块,用于提供标注界面;图像显示模块,用于在所述标注界面显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联;标注模块,用于接收标注操作,确定所述标注操作对应图像上的对象;标注处理模块,用于在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息。

本申请实施例还公开了一种数据标注装置,所述装置包括:接收模块,用于接收不同数据源上传的图像;预处理模块,用于将所述不同数据源的图像依据时间信息进行关联,并提供关联的图像给标注界面,以通过标注界面进行图像标注;存储模块,用于获取所述图像中对象的标注信息并存储。

本申请实施例还公开了一种对象跟踪装置,所述装置包括:界面模块,用于提供标注界面;显示模块,用于在所述标注界面显示至少一个摄像头采集的监控图像和雷达采集的点云图,所述监控图像和点云图通过时间信息关联对应帧;处理模块,用于接收在指定帧点云图中的标注操作,并在所述点云图上通过设定图形标注对应的对象;在所述指定帧点云图关联的至少一帧监控图像中,通过设定图形标注所述对象,并显示所述对象的标注信息。

本申请实施例还公开了一种对象跟踪装置,所述装置包括:数据接收模块,用于接收至少一个摄像头采集的监控图像,并接收雷达采集的点云图;关联预处理模块,用于将所述监控图像和点云图通过时间信息关联对应帧,并存储关联的监控图像和点云图,以提供给标注界面进行标注;信息存储模块,用于获取所述点云图和监控图像中对象的标注信息并进行存储。

本申请实施例还公开了一种电子设备,包括:处理器;和存储器,其上存储有可执行代码,当所述可执行代码被执行时,使得所述处理器执行如本申请实施例中一个或多个所述的方法。

本申请实施例还公开了一个或多个机器可读介质,其上存储有可执行代码,当所述可执行代码被执行时,使得处理器执行如本申请实施例中一个或多个所述的方法。

本申请实施例还公开了一种电子设备,包括:处理器;和存储器,其上存储有可执行代码,当所述可执行代码被执行时,使得所述处理器执行如本申请实施例中一个或多个所述的方法。

本申请实施例还公开了一个或多个机器可读介质,其上存储有可执行代码,当所述可执行代码被执行时,使得处理器执行如本申请实施例中一个或多个所述的方法。

本申请实施例还公开了一种电子设备,包括:处理器;和存储器,其上存储有可执行代码,当所述可执行代码被执行时,使得所述处理器执行如本申请实施例中一个或多个所述的方法。

本申请实施例还公开了一个或多个机器可读介质,其上存储有可执行代码,当所述可执行代码被执行时,使得处理器执行如本申请实施例中一个或多个所述的方法。

本申请实施例还公开了一种电子设备,包括:处理器;和存储器,其上存储有可执行代码,当所述可执行代码被执行时,使得所述处理器执行如本申请实施例所述的方法。

本申请实施例还公开了一个或多个机器可读介质,其上存储有可执行代码,当所述可执行代码被执行时,使得处理器执行如本申请实施例所述的方法。

与现有技术相比,本申请实施例包括以下优点:

在本申请实施例中,可提供标注界面并在标注界面中显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联,从而能够直接在标注界面上进行标注,接收对应的标注操作,确定所述标注操作对应的对象,然后可在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息,通过可视化的标注界面标注更加直观,且在一帧图像中选择对象后即可在该帧图像及其关联帧图像中自动标注该对象,效率较高。

附图说明

图1是本申请实施例的标注界面示例中对象选择的处理示意图;

图2是本申请实施例中标注界面示例中对象标注的处理示意图;

图3是本申请实施例中标注界面示例中映射标注的处理示意图;

图4是本申请的一种数据标注方法实施例的步骤流程图;

图5是本申请实施例中标注界面示例中旋转图像的处理示意图;

图6是本申请实施例中标注界面示例中查看标注对象的处理示意图;

图7是本申请实施例中标注界面示例中切换图像帧的处理示意图;

图8是本申请实施例的一种数据标注场景示例的示意图;

图9是本申请的另一种数据标注方法实施例的步骤流程图;

图10是本申请实施例中确定分组标注信息的一种示例的步骤流程图;

图11是本申请实施例中依据添加分组标注信息的一种示例的步骤流程图;

图12是本申请实施例中依据修改分组标注信息的一种示例的步骤流程图;

图13是本申请实施例中依据查询分组标注信息的一种示例的步骤流程图;

图14是本申请的再一种数据标注方法实施例的步骤流程图;

图15是本申请的一种对象追踪方法实施例的步骤流程图;

图16是本申请的另一种对象追踪方法实施例的步骤流程图;

图17是本申请的一种数据标注装置实施例的结构框图;

图18是本申请的一种数据标注装置可选实施例的结构框图;

图19是本申请的另一种数据标注装置实施例的结构框图;

图20是本申请的一种对象追踪装置实施例的结构框图;

图21是本申请的另一种对象追踪装置实施例的结构框图;

图22是本申请一实施例提供的装置的结构示意图。

具体实施方式

为使本申请的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本申请作进一步详细的说明。

本申请实施例中,条目可以理解为单位数据,如一个条目可以为一段文本数据、一张图像数据,一段音频数据等。因此条目可包括以下至少一种:文本数据、图像数据、音频数据。可以对条目进行标注,标注方法可基于需求设定,如记录标注对象在条目中的位置,为标注对象添加标签等各种方式,从而可以基于条目标注信息对条目进行分析、跟踪等各种处理。其中,很多标注条目之间是彼此关联,且所标注的对象等条目标注信息是具有关联的,例如不同的条目中标注了同一个对象,又如不同的条目中关注了关联的对象,从而能够对关联的多个条目进行关联分析、跟踪等处理。为了便于标注条目的分析,可以建立条目的分组,为符合一定规则的条目创建分组,从而对于条目的标注,可基于分组进行组内条目对应条目标注信息的修改,提高处理效率。

本申请实施例可应用于各种标注场景中,如车辆追踪、视频中人脸识别等。以图像数据作为条目为例,应用于无人车的3D跟踪(tracking)标注场景中。其中,可对多种数据源的图像数据进行标注,如雷达采集的雷达点云图,摄像头采集的图像等。一个示例中,无人车的雷达可对一定时间范围内的对象进行连续跟踪,并采集跟踪的雷达数据,基于雷达数据可确定对应的雷达点云图,如2D点云图或3D点云图等。对于摄像头所采集的图像,可包括无人车的摄像头、道路的监控摄像头等均可进行图像的采集,或者包括行车记录仪等摄像头采集的图像。

其中,可将各数据源的图像按照一定的规则进行分组,例如将包含相同对象的图像划分为一组,将一定时间内采集数据对应的图像划分为一组等,从而可得到图像组。在一些示例中,一个图像组中可包括至少一种数据源的图像,对于不同数据源的图像可基于时间进行关联,其中,每帧图像对应采集时间,可基于采集时间将不同数据源的图像进行关联,如一秒可对应多帧图像,因此可将时间精确到毫秒级来进行图像的关联。从而一个图像组可包括不同种数据源、彼此关联的图像。其中,无人车对一定时间范围内的对象进行连续跟踪,则图像组中每一个3D点云图可为一个条目,在点云图中标注对象,能够描述这一段连续变化的对象。

从而可对图像组中图像进行标注,通过对其中一帧或多帧图像的标注,可自动标注关联的其他数据源的图像,以及自动标注该帧图像之前帧图像或之后帧图像等。

参照图1、图2、图3所示的图像标注处理示意图,可通过如下所述的步骤实现分组标注,如图4所示:

步骤402,提供标注界面。

本申请实施例可提供标注界面,该标注界面用于进行数据的标注,本实施例中,可在标注界面进行图像标注组中图像的标注,当然若标注条目为其他类型的数据如文本书、音频数据等,则该标注界面也可提供标注。

该标注界面提供图像显示区域,在图像显示区域中显示图像,该图像可为已经标注的图像或需要标注的图像,并且还提供标注信息显示区域,该标注信息显示区域可显示图像中标注对象的信息等。

如图1所示,区域102为第一图像显示区域,如图1-3显示为摄像头采集的监控图像;区域104为第二图像显示区域,如图1-3显示为无人车上雷达采集的雷达点云图;区域106为标注信息显示区域,每一帧图像可对应一个标注信息显示区域,如图中显示的两帧图像对应两个标注信息显示区域;区域108为控件区域,通过该控件可进行标注等各种处理,包括映射控件、帧调整控件,如图1中映射控件显示为映射下一帧,帧调整控件包括:前一帧、后一帧,以及帧选择框,其中,触发“映射下一帧”的映射控件,可将该图像中的标注信息映射到下一帧图像中,触发“前一帧”控件可调整为显示前一帧图像,触发“后一帧”控件可调整为显示后一帧图像,在“帧选择框”控件中输入帧数,可跳转到显示该帧对应图像。

步骤404,在所述标注界面显示多于一种数据源的图像。

其中,不同数据源的图像依据时间信息进行关联,可以理解为在标注界面中所显示的不同数据源的图像之间具有关联。其中,数据源包括摄像头和/或雷达,摄像头可包括车载摄像头和/或监控摄像头,所述车载摄像头包括无人车上采集数据的摄像头,也可包括行车记录仪的车载摄像头等,所述监控摄像头包括道路监控摄像头、道路两旁店铺的监控摄像头等各种摄像头,所述雷达包括无人车雷达。

一个可选实施例中,可获取摄像头采集的图像,如获取通过无人车的摄像头采集的图像,又如获取行车记录仪的车载摄像头采集的图像,获取城市道路的监控摄像头采集的图像等。其中,图像为摄像头所采集视频的图像,因此将连续的各帧图像组合可得到对应的视频。

另一个可选是实施例中,可获取雷达采集的点云图,如在无人车追踪的场景中,可获取无人车上雷达采集的点云图,包括雷达采集的二维点云图、雷达采集的三维点云图,这些点云图包括连续帧的点云图。

在获取不同数据源的图像后,可将不同数据源的图像进行关联,其中,由于1秒通常可采集多帧图像,因此可基于毫秒级的时间进行不同数据源的图像的关联。例如每帧图像对应时间戳,所述时间戳可精确到毫秒,基于时间戳将不同数据源的图像进行关联。

在启动该标注界面并确定对应的多于一个数据源后,可在标注界面上显示各数据源对应的图像。如图1-3中分别显示有摄像头采集的图像和无人车上雷达采集的雷达点云图;其中,在第一图像显示区域中显示有3个摄像头分别拍摄的监控图像。

步骤406,接收标注操作,确定所述标注操作对应的对象。

标注操作指的是在标注界面的图像上进行标注的操作,可通过各种操作方式实现,例如可在图像上点击、划定区域等方式进行标注。

一个可选实施例中,接收在所述图像上选择目标区域的标注操作,确定所述目标区域内的对象。可通过鼠标、触摸等方式选择目标区域,若确定该目标区域内具有对象,则表征接收到在所述图像上选择目标区域的标注操作,确定该目标区域内的对象。如图1中在雷达的点云图中通过白色的矩形框划定目标区域,可将白色的矩形框内的车辆确定为标注的对象,白色矩形框为该车辆标注的目标区域。

另外一些可选实施例中,可接收点击所述图像的标注操作,确定所述点击位置对应的对象。可在标注界面的图像上接收点击操作,确定该点击操作对应点击位置是否对应有对象,若有对象则表征接收点击所述图像的标注操作,可确定该点击位置对应的对象为标注的对象。如点击图1中的车辆进行标注,则可在点击位置对应对象上划定矩形框来标注对象的目标区域。

本申请另外一些可选实施例中,在确定出标注的对象后,还可选择该对象的标注类型,将所述标注类型添加到标注信息。其中,可在标注界面中通过子界面、悬浮窗等方式显示类型设置控件,通过该类型设置控件可接收对象的类型,如通过填写、选择等方式设置标注类型。如可显示可选择类型为“车辆”、“人”的类型设置控件,可选择类型为“车辆”。

本申请实施例在选择标注对象后,在标注界面中还可设置该对象的标注信息,包括对象名称、标识等,以及标注类型等属性信息。

步骤408,所述在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息。

确定出标注的对象之后,可在标注界面的图像上标注该对象,其中,可在该帧图像以及该帧图像关联的其他数据源的对应帧图像上显示该标注对象。一个实施例中,针对通过选择目标区域的方式标注的对象,其在选择目标区域时已经在该帧图像上标注出该对象,则可在该帧图像所关联的其他数据源的对应帧图像中查找该对象,并在该对应帧图像标注该对象。如图2中,对于雷达点云图中通过白色矩形框所标注的车辆,可在摄像头所拍摄的关联帧图像中标注出对应的车辆。在另外的一些实施例中,对于通过点击确定的对象,可在该帧图像以及该帧对象所关联的其他数据源的对应帧图像中均标注该对象。

并且可将该对象的标注显示在该帧图像所对应的标注信息显示区域中,如显示该标注对象的名称等,从而在一帧图像上标注出多个对象时,可通过名称等进行区域,并且能够通过针对不同对象的选择,在对应帧图像上显示对该对象的标注。

在一些可选实施例中,针对三维(3D)点云图,由于图像中各对象具有三维信息,因此还可在该点云图上设置对象的三维展示区域,在选择标注对象后,可在该三维展示区域中展示该对象的三维点云图。如图1中在初始选择对象时该三维展示区域中没有对象,而在确定出标注对象后,在图2中可显示出所标注车辆的顶部、后部和侧面的点云图,从而可查看该对象的多角度信息。

在本申请的一些可选实施例中,针对图像包括摄像头的全景监控图像、点云图等,还可旋转角度进行查看,从而更加准确的确定对象进行标注。如图5所示的标注界面中,旋转雷达的3D点云图,可看到图像中对象的三位点云,如旋转的过程中对象标注框显示立体矩形的样式。通过旋转可通过其他角度查看图像,并选择标注对象。

在完成一帧所对应各数据源的图像中对象的标注后,可将该帧图像之后的连续多帧图像中同一个对象进行自动标注。

一个示例中,可通过标注界面中的控件触发对之后连续多帧图像中同一个对象的自动标注,如在界面上设置“一键标注”控件,则触发“一键标注”控件后,可自动从该帧之后连续多帧图像中识别出标注的对象,并进行标注,从而在切换到显示相应帧图像时可显示对应标注的对象以及标注信息。

在另外一些示例中,标注界面可设置“映射下一帧”控件,则触发该控件后可从该帧的下一帧的各数据源的图像中识别出标注的对象,并在图像中标注出该对象以及显示该对象的标注信息。如在图2中触发“映射下一帧”控件,则接收到对该控件的触发后,可将下一帧的点云图和监控图像中通过白色框标注出该对象,并且在三维展示区域中显示出所标注车辆的顶部、后部和侧面的点云图,以及显示对象的标注信息,映射完成后标注界面如图3所示。

本申请实施例中,在完成一个对象的标注后,还可与上述相同的方式基于标注该帧图像中其他需要标注的对象,标注过程与上述各步骤相同,因此不再赘述,在完成其他对象的标注后,可通过选择不同的标注信息来切换显示不同的标注对象。如图6的示例中,该帧图像中标注的两个对象,选择展示对象2的标注,则各帧图像中可标注出对象2,且雷达点云图通过不同的角度展示该对象。并且可切换显示不同的图像帧,从而查看各图像中标注的对象,如在图6中触发“后一帧”控件,可切换到显示第2、3帧,如图7所示。

本申请实施例中,在采集数据后还可将采集的数据上传到服务端进行数据的预处理,以便给标注页面提供数据,并且可对标注对象的标注信息进行存储。当然在另外一些示例中,也可在客户端侧进行数据的预处理、存储等,本申请实施例对此不作限制。以在服务端进行数据的预处理以及存储等为例。参照图8所示的一种数据标注场景示意图中。道路的监控摄像头可采集监控图像上传到服务端,并且无人车也可通过雷达采集点云图上传到服务端,然后服务端可进行数据的预处理、分组等处理操作,并为标注界面提供图像,在图像标注完成后再返回给服务端进行存储。具体可包括如下步骤(如图9所示):

步骤902,接收不同数据源上传的图像。

可获取摄像头采集的图像,如获取通过无人车的摄像头采集的图像,又如获取行车记录仪的车载摄像头采集的图像,获取城市道路的监控摄像头采集的图像等。其中,图像为摄像头所采集视频的图像,因此将连续的各帧图像组合可得到对应的视频。也可获取雷达采集的点云图,如在无人车追踪的场景中,可获取无人车上雷达采集的点云图,包括雷达采集的二维点云图、雷达采集的三维点云图,这些点云图包括连续帧的点云图。

步骤904,将所述不同数据源的图像依据时间信息进行关联,并提供关联的图像给标注界面,以通过标注界面进行图像标注。

然后可对采集的数据对应图像进行预处理,可预先识别所述图像中至少一个对象,并记录所述对象的对象信息。其中,通过预处理可识别出图像中所包括的各种对象,如无人车采集的点云图中识别出车辆、人、建筑物等,以及监控、车载摄像头等图像中识别出车辆、人、建筑物等。其中,对于不同数据源中识别出的同一对象可采用相同的对象标识,从而便于确定不同数据源的关联帧图像中所包含的相同对象。在预处理中设置对象的对象标识后,后续标注过程可直接使用该标注。

也可将数据源采集的连续帧图像加入到一个图像组中,所述图像组对应至少一个数据源;并且确定所述图像组中不同数据源的关联图像中所包含的同一对象。其中,基于预处理可确定出图像对应的图像组,可将包含同一对象的连续帧图像加入到一个图像组,其中,针对不同数据源中包含同一对象的情况,也可将包含同一对象的不同数据源的连续帧图像放入到一个图像组。例如对于对象A,在雷达点云图中连续的1-100帧图像包含该对象A,且在监控图像J1中连续的1-50帧图像包含对象A,则可将雷达点云图中连续的1-100帧图像和监控图像J1中连续的1-50帧图像放到同一个图像组中。

在另外的一些示例中,可以以一个数据源的图像为主,作为主数据源,确定该数据源的图像中包含的一个或多个对象,然后将不同数据源的包含其中至少一个对象的连续帧图像加入到图像组中。则该图像组中不同数据源的图像中的对象与主数据源的图像中的对象部分或全部相同,而非主数据源的其他不同数据源的图像中包含的对象可相同或不同。如图1中雷达点云图关联了3个摄像头的监控图像,其中,标注对象1和标注对象2的过程中,分别关联了不同摄像头的监控图像。其中图3所显示的对象1的标注和图6所显示的对象2的标注中,其所对应的是不同摄像头的监控图像,也就对象1和对象2分别在不同摄像头的监控图像,而这些包含点云图中部分对象的不同摄像头的监控图像,在不同摄像头的监控图像中可能彼此包含的对象无关,但仍然可基于与点云图的关联放入到同一图像组中。

在一个图像组可包括多于一个数据源的图像,因此将所述图像组中不同数据源的图像按照图像的时间戳进行关联。在获取不同数据源的图像后,可将不同数据源的图像进行关联,其中,由于1秒通常可采集多帧图像,因此可基于毫秒级的时间进行不同数据源的图像的关联。例如每帧图像对应时间戳,所述时间戳可精确到毫秒,基于时间戳将不同数据源的图像进行关联。

在服务端获取采集的图像并通过识别出所包含的对象、分组等预处理后,可提供给标注界面进行标注。在标注界面可通过上述方式进行标注,在其中一帧图像中选择标注对象后,即可确定该帧图像所关联的其他数据源的图像中对该对象并进行标注,当然针对每个该对象的关联帧图像可忽略。

本申请实施例以无人车的3D跟踪标注场景为例,实际处理中还可应用到其他场景中,如通过道路监控等进行人脸/物体的识别、追踪,又如应用于视频的人脸/物体识别标注场景中,针对监控视频、影视作品的视频中,可将视频拆分为图像帧进行标注,每一个图像帧作为一个条目,在其中标注出相关对象。通过图像组中能够描述这种多帧的相关联物体标注,比如连续变化的手势,车辆,表情等,以及人的位置变化等。并且,本申请实施例不仅适用于物体识别,所有连续标注的场景均可适用,比如人脸,手势,姿势等等。

步骤906,获取所述图像中对象的标注信息并存储。

在标注界面中完成标注后,可将标注信息上传到服务端进行存储。其中,每个对象的标注信息中的是所标注对象的描述信息,如对象名称、标识,又如标注位置等属性信息。

其中,获取所述图像中对象的标注信息,包括:获取所述图像组中图像所标注对象的标注信息;整合所述图像组中所标注对象的标注信息,确定所述图像组的分组标注信息。对于每个图像组中标注的对象,还可通过分组标注信息进行描述,所述分组标注信息指的是该分组中标注的描述信息,该分组标注信息可以整合各帧图像中所标注的对象的标注信息,如将相同的标注信息进行合并、将同一对象的连续帧的标注信息进行合并等得到分组标注信息,并且可压缩数据量,减少对于存储空间和传输资源的占用。其中,为了对图像组中的图像进行区分,每个图像还可设置有图像标识来区分,该图像标识可为唯一标识,编号、或图像组中图像的序号等。所述分组标注信息包括标识字段、图像字段、属性字段,所述标识字段用于记录标注对象的对象标识、图像字段用于记录包含该标注对象的图像,属性字段用于记录该标注对象的属性信息。

其中,分组标注信息的一条分组元素信息对应一个标注对象,每个分组元素信息可包含标识字段、图像字段和属性字段,来记录一个标注对象对应的信息。因此可以依据标注对象来整理图像及其标注信息,确定所述图像组中分组标注信息的各条分组元素信息。

一个可选实施例中,以标注对象为基准,所述整合所述图像组中所标注对象的标注信息,确定所述图像组的分组标注信息,包括:将包含该标注对象的图像整合到分组标注信息的一条分组元素信息中,从而针对每个标注对象查询该分组元素信息,即可确定出所有包含该标注对象的条目,也便于对条目进行统一的更新。

一个可选实施例中,所述整合所述图像组中所标注对象的标注信息,确定所述图像组的分组标注信息,包括:按照标注对象的对象标识进行查询,确定包含所述对象标识的多个图像的图像标识;采用所述对象标识、多个图像标识和所述标注对象的属性信息,确定对应的分组标注信息。可确定一个图像中所标注对象的对象标识,如任选一个目标对象,又如从分组中第一帧图像中标注的对象开始遍历等,可为每个标注对象建立分组标注信息的一条分组元素信息,将该标注对象的对象标识添加到对象字段中。并且还可将该目标标注对象的属性信息添加到对应分组元素信息的属性字段中。然后可在所述图像组中查询各图像中标注对象的标注信息,其中可按照图像在该图像组中的帧顺序依次查询,将查询到该对象的图像的图像标识添加到对应分组元素信息的图像字段中,然后继续在其他图像中查询,直到图像组中条目均查询完毕后,可继续对下一条分组元素信息进行处理。其中,分组元素信息的属性字段可存储各图像中标注对象的公共属性,因此可在包含该标注对象的各图像均查询完毕后,再确定公共属性添加到属性字段中。

基于上述可选实施例,如图10,确定分组标注信息的一种示例可通过如下子步骤实现:

子步骤1002,从图像组中图像中,确定目标标注对象的对象标识;该目标标注对象指的是分组标注信息中未对应分组元素信息的标注对象。

子步骤1004,在分组标注信息中添加一条分组元素信息,将所述对象标识添加到所述分组元素信息的对象字段中。

子步骤1006,在所述图像组中查询给图像所标注对象的标注信息,将标注有该对象的帧图像的图像标识添加到所述分组元素信息的条目字段中。

子步骤1008,判断所述图像组中各帧图像是否查询完毕;若否,则返回子步骤1006继续查询;若是,则执行子步骤1010。

子步骤1010,确定图像字段中各图像的公共属性信息,将所述公共属性信息添加到所述分组元素信息的属性字段中。

子步骤1012,判断所述图像组中是否还有目标标注对象;若是,则返回子步骤1002;若否,则结束该流程。

一个示例中,分组元素信息(metaInfo)可为图像组中标注对象的记录,图像组的条目中每个标注对象均可对应分组元素信息,其中,分组元素信息(metaInfo)的schema格式的示例中每个对象包含了:

标识字段(id):该字段描述了标注对象的对象标识,该对象标识可为全局唯一id,用于标识某一个标注对象,如果这个标注对象在多个标注图像都存在,则多个图像中的标注对象共用一个id。

图像字段(contains):该字段描述了该图像组中包含有该标注对象的图像。

属性字段(commonLabels):该字段描述了该标注对象的属性信息,属性信息可为一种通用属性,如该标注对象在每个图像中的公共属性等。所述属性字段描述所述对象的属性和/或所述对象所属图像的公共属性

该分组标注信息还可包括时间戳等其他信息。

以一种JSON字符串为例,{"metaInfo":[{"id":"0000-0001","contains":[1,2,3,4,5,6],"commonLabels":{"color":"red","category":"car"}}],"timestamp":"13131231231"}

进一步的可选实施例中,当对象在连续帧图像中均已标注的情况下,在所述对象的分组元素信息的图像字段中通过压缩方式记录所述连续帧图像的图像标识。对于连续多帧图像均包括同一对象的情况,还可在图像字段中通过压缩方式进行表示,以压缩数据。如上述"contains":[1,2,3,4,5,6]可调整为"contains":[1-6],又如"contains":[1,2,3,4,5,6,10,11,12,13,14,56,57,58,59,60]可调整为"contains":[1-6,10-14,56-60]。

从而能够在图像组中将具有相同标注对象的图像,记录在一条所述分组元素信息的图像字段中,能够统一管理标注对象。该分组标注信息可记录在数据表、备忘录等各种数据记录中。

以上采集数据的存储、图像预处理、标注信息的存储等也可在标注界面对应的客户端出进行处理,本申请实施例对此不作限制。

本申请另外一些可选实施例中,还可以先对图像进行标注,然后再确定标注有对象的图像的图像组,。如在标注界面中提供不同数据源的连续帧图像,然后对图像中选定对象进行标注,确定该对象的标注位置数据,对象标识以及其他属性信息,得到对应的标注信息,并且在其他数据源的关联帧图像中对该对象进行标注,每个图像可对应一个或多个对象的标注信息,从而在完成各图像的标注后,可基于图像中所标注的对象创建图像组。

本申请实施例中,将关联且有序的图像划分到一个图像组后,对于图像中标注的编辑就可基于该图像组进行更新,能够有效的提高处理效率。其中,编辑操作通常可包括增加操作、删除操作、修改操作和查询操作等,对于图像组中图像的标注的更新,相应会更新分组标注信息。

一个可选实施例中,所述依据对所述图像组中图像的编辑操作,更新对应的分组标注信息,包括以下至少一种步骤:依据增加标注对象的图像,在所述分组标注信息的图像字段中增加所述图像的图像标识;依据删除标注对象的图像,在所述分组标注信息的图像字段中删除所述图像目的图像标识;依据修改标注对象的属性信息的图像,在所述分组标注信息中更新属性字段;依据查询的对象,提取所述对象对应的分组元素信息。

针对增加操作:图像组中各图像具有关联关系且是有序的,因此在一些情况下,在一个图像中增加标注的对象后,其后的图像中也会增加对该对象的标注。因此可基于具体的环境、需求、经验等设置规则,在图像组的某一个图像中增加了一个标注对象后,可基于该规则判断是否需要在其后的图像中增加该标注对象,从而基于增加了标注对象的图像更新分组标注信息的相应字段。

进一步的可选实施例中,所述依据增加标注对象的图像,在所述分组标注信息的图像字段中增加所述图像的图像标识,包括:确定增加标注对象的图像的图像标识;根据所述图像标识和设定规则,确定在所述图像的下一帧图像中增加所述标注对象,则获取所述下一帧图像的图像标识;在所述分组标注信息的图像字段中增加所述下一帧图像的图像标识。对于每帧图像的关联帧图像与此类似。需要在图像中增加标注对象时,可确定该图像的图像标识以及该标注对象的对象标识,添加图像标识到相应该标注对象的分组元素信息的图像字段中,若是在分组标注信息中每个该标注对象的分组元素信息,则创建该标注对象的分组元素信息,分组元素信息的确定步骤与上述实施例类似,在图像字段中添加该图像的图像标识。然后依据设定规则确定所述图像的下一帧图像是否也需要添加该标注对象,在确定需要添加的情况下,可将该下一帧图像的图像标识添加到该标注对象对应分组元素信息的图像字段中,然后可迭代上述过程,将下一帧图像作为目标图像,判断目标图像的下一帧图像是否需要添加该标注对象,直到判断出下一帧图像不需要添加标注对象或该分组中图像均查询完毕,可结束上述添加操作过程。

基于上述可选实施例,如图11,依据添加操作更新分组标注信息的一种示例可通过如下子步骤实现:

子步骤1102,确定增加的标注对象的对象标识,以及增加该标注对象的图像的图像目标识;如对象标识为0000-000X,图像标识为2000。

子步骤1104,确定所述标注对象对应分组元素信息,将所述图像标识添加到所述分组元素信息的图像字段中;则在0000-000X的所述分组元素信息的图像字段中添加2000。

子步骤1106,依据所述图像标识和设定规则,判断下一帧图像是否需要增加所述标注对象;若是,则执行子步骤1108,若否则结束该流程。如下一帧图像的图像标识为2001。

子步骤1108,将所述下一帧图像的图像标识,添加到所述分组元素信息的图像字段中。在0000-000X的所述分组元素信息的图像字段中添加2001。

从而能够基于对一帧图像中标注对象的添加操作,在该分组中便捷的添加后续要增加该标注对象的图像。

针对删除操作:图像组中各帧图像具有关联关系且是有序的,通常在某帧图像中删除某个标识对象后,其后的各帧图像中也会删除该标识对象,从而从该帧图像开始无需在标注该对象,则可该标注对象的分组元素信息中该帧图像及其后帧图像的图像标识。

进一步的可选实施例中,所述依据删除标注对象的图像,在所述分组标注信息的图像字段中删除所述图像的图像标识,包括:确定删除标注对象的图像的图像标识;在所述分组标注信息的图像字段中删除所述图像标识和所述图像标识之后的其他帧图像的图像标识。需要在图像中删除标注对象时,可确定该图像的图像标识以及该标注对象的对象标识,然后可在该标注对象的分组元素信息的图像字段中删除该图像标识以及该图像标识之后的其他帧图像的图像标识,则从该图像标识开始之后的各帧图像的图像标识均可删除。如确定删除的标注对象的对象标识,以及删除该标注对象的图像的图像标识;如对象标识为0000-000X,图像标识为2000。确定所述标注对象对应分组元素信息,在所述分组元素信息的图像字段中删除所述图像标识及其后的帧图像的图像标识;则在0000-000X的所述分组元素信息的图像字段中删除2000之后的图像标识。

从而能够基于对一个图像中标注对象的删除操作,在该分组中便捷的删除该图像及其后的图像中对该对象的标注。

针对修改操作:图像组中各帧图像具有关联关系且是有序的,图像组中某一个标注对象的分组元素信息的属性字段,通常是具有该标注对象的各图像对应的公共属性,因此在修改具有该标注对象的某一个图像的属性信息时,若所修改的属性信息属于公共属性,则该标注对象的分组元素信息的属性字段也要对应修改。

进一步的可选实施例中,所述依据修改标注对象的属性信息的图像,在所述分组标注信息中更新属性字段,包括:确定图像中所修改的标注对象的对象标识,以及修改的属性信息;查询所述对象标识对应的分组标注信息;依据所述修改的属性信息更新所述分组标注信息的属性字段。对某一个图像的某个标注对象进行修改时,可确定所修改的图像的图像标识、标注对象的对象标识以及所修改属性的属性信息,然后判断所修改的属性信息是否在该标注对象对应分组元素信息中属性字段中,若在该属性字段中,则可依据修改的属性信息修改该属性字段,如不在该属性字段中,则无需更新该属性字段。

基于上述可选实施例,如图12,依据修改操作更新分组标注信息的一种示例可通过如下子步骤实现:

子步骤1202,确定图像中所修改的标注对象的对象标识,以及修改的属性信息。

子步骤1204,查询所述对象标识对应的分组标注信息的属性字段。

子步骤1206,判断所述属性信息是否属于所述属性字段。若是,则执行子步骤1208;若否,则结束该流程。

子步骤1208,依据所述修改的属性信息更新所述分组标注信息的属性字段。

从而针对一个标注对象的修改,可以对该图像组中该标注对象对应的分组标注信息进行修改。

针对查询操作:有时基于各种场景需求,需要查询图像中所标注的对象、对象的标注信息等,如对该图像的标注对象进行回放等场景,则可从分组标注信息中提取该图像所具有的各标注对象对应的属性字段,从而确定该图像所标注的内容,还可基于具体的场景,结合与该图像的标注信息进行比对、合并等分析处理。

进一步的可选实施例中,所述依据查询的图像,提取所述图像对应的分组标注信息,包括:确定查询的图像的图像标识;查询图像字段包含所述图像标识的分组标注信息,读取所述分组标注信息的属性字段。可以确定待查询的图像的图像标识,然后查询该分组的组分标注信息,确定图像字段中包含该图像标识的分组元素信息,并读取该分组元素信息的属性字段以及对象字段,得到该图像中各标注对象及其属性信息。

以回放的场景为例,可以确定要回放的图像,确定该图像的标注信息以及图像标识,然后在分组信息中查询该图像所具有的各标注对象及其属性信息,可将查询到的各标注对象及其属性信息进行合并,并与该图像的标注信息进行比较、合并等处理,得到需要回放的数据。

基于上述可选实施例,如图13,依据查询操作更新分组标注信息的一种示例可通过如下子步骤实现:

子步骤1302,确定标注对象所在图像的图像标识。

子步骤1304,查询分组标注信息的图像字段是否具有按照图像标识。若是,则执行子步骤1306,若否,则执行子步骤1308。

子步骤1306,读取所述分组标注信息的属性字段。

子步骤1308,判断该分组的分组标注信息是否查询完毕。若是,则执行子步骤1310,若否,则返回子步骤1304继续查询。

子步骤1310,将查询结果进行合并处理。可以将查询到的各标注对象及其属性信息进行合并,得到该图像的标注内容,也可将标注信息与查询到的各标注对象及其属性信息进行合并,确定该图像的标注内容等,从而能够基于合并内容进行显示、回放等。其中,可确定回放对象;查询所述回放对象对应图像组的分组标注信息,确定标注所述回放对象的连续帧图像;将所述连续帧图像进行合成,并播放合成数据。合成数据可为视频、动图等。

本申请实施例中,可对图像组中图像的标注进行编辑如增、删、改、查等操作,可执行2次数据操作,其一是针对图像中标注对象,其二是修改分组标注信息,对于性能带来极大地改善。

在上述实施例的基础上,本申请实施例还提供了一种数据标注方法,能够对联系帧图像进行标注,效率较高。

参照图14,示出了本申请的另一种数据标注方法实施例的步骤流程图。

步骤1402,获取采集的图像并将采集的连续帧图像加入到一个图像组。

其中,可获取摄像头采集的图像,其中,所述摄像头包括以下至少一种:车载摄像头、监控摄像头。该摄像头也可包括红外摄像头、夜视摄像头等各种摄像头。获取雷达采集的点云图,其中,所述点云图包括:二维点云图和/或三维点云图。所述雷达包括无人车的车载雷达。

并且,将采集的连续帧图像加入到一个图像组,所述图像组为所述标注界面提供图像。其中,所述图像组对应至少一个数据源,每个数据源对应连续帧图像;还可将不同数据源的图像按照图像的时间戳进行关联。

其中,可预先识别所述图像中至少一个对象,并记录所述对象的对象信息。确定所述图像组中不同数据源的关联图像中所包含的同一对象。

其中,可提供所述图像组,并依据调整操作调整所述图像组中的连续帧图像。用户可依据需求调整图像组中的图像,使得图像组的划分更加灵活。

步骤1404,提供标注界面。

步骤1406,在所述标注界面显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联。

步骤1408,接收标注操作,确定所述标注操作对应的对象。其中,可接收在所述图像上选择目标区域的标注操作,确定所述目标区域内的对象。也可接收点击所述图像的标注操作,确定所述点击位置对应的对象。

可在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息。具体如下:

步骤1410,在所述图像关联的其他数据源的图像中标注所述对象,并且,可在点云图中显示所述对象的三维点云特征,通过设定图形进行标注。

步骤1412,确定所述对象的标注信息,在所述标注界面中显示所述对象的标注信息。

步骤1414,接收映射操作,对包含所述对象的其他帧图像进行标注。

本申请实施例中,所述对象的标注包括:在图像中通过设定图形标注所述对象的范围,所述设定图形依据对象确定。

步骤1416,整合所述图像组中所标注对象的标注信息,确定所述图像组的分组标注信息。其中,所述分组标注信息中每个对象对应一个分组元素信息,所述分组元素信息包括:属性字段,所述属性字段描述所述对象的属性和/或所述对象所属图像的公共属性。

在上述实施例的基础上,本申请实施例还提供了一种对象追踪方法,可基于标注界面标注对象,从而对该对象进行追踪。

参照图15,本申请的一种对象追踪方法实施例客户端的步骤流程图。

步骤1502,提供标注界面。

步骤1504,在所述标注界面显示至少一个摄像头采集的监控图像和雷达采集的点云图,所述监控图像和点云图通过时间信息关联对应帧。

步骤1506,接收在指定帧点云图中的标注操作,并将标注的对象通过设定图形进行标注。

步骤1508,在所述指定帧点云图关联的至少一帧监控图像中,通过设定图形标注所述对象,并显示所述对象的标注信息。其中,在所述点云图中显示所述对象的三维点云特征,并通过设定图形进行标注。

步骤1510,接收映射操作。

步骤1512,在所述指定帧的下一帧对应点云图和监控图中,通过设定图形标注所述对象。

步骤1514,在所述指定帧的之后连续多帧对应点云图和监控图中,通过设定图形标注所述对象。

参照图16,本申请的一种对象追踪方法实施例服务端的步骤流程图。

步骤1602,接收至少一个摄像头采集的监控图像,并接收雷达采集的点云图。

步骤1604,将所述监控图像和点云图通过时间信息关联对应帧,并存储关联的监控图像和点云图,以提供给标注界面进行标注。

步骤1608,获取所述点云图和监控图像中对象的标注信息并进行存储。

本实施例各步骤与上述实施例中对应步骤类似,因此不再赘述。

本申请实施例中,分组标注信息可存储到备忘录等文本中,从而能够大大降低网络传输数据量;并且可基于数据库操作,保障数据一致性;每次修改保存到数据库中,不会因为意外而使得分组标注数据丢失,提高了可用性;每个标注操作对分组中相应标注对象的分组元素信息进行修改即可,提高了可扩展性,便于分组中分组标注信息的更新;并且通过分组标注信息的属性字段提取公共属性进行存储,无需重复存储,能够精简数据存储量。

通过标注界面提供可视化的标注,用户只需在一帧图像上确定出要标记的对象,其他图像上同一对象可自动标注,无需用户每一帧图像分别标注,简化标注操作,提高标注效率。并且,对于不同数据源的图像也可自动识别标注对象并标注,效率较高。

需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请实施例并不受所描述的动作顺序的限制,因为依据本申请实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本申请实施例所必须的。

在上述实施例的基础上,本实施例还提供了一种数据标注装置,应用于终端设备的电子设备中。

参照图17,示出了本申请的一种数据标注装置实施例的结构框图,具体可以包括如下模块:

界面提供模块1702,用于提供标注界面。

图像显示模块1704,用于在所述标注界面显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联。

标注模块1706,用于接收标注操作,确定所述标注操作对应的对象。

标注处理模块1708,用于在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息。

综上,可提供标注界面并在标注界面中显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联,从而能够直接在标注界面上进行标注,接收对应的标注操作,确定所述标注操作对应的对象,然后可在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息,通过可视化的标注界面标注更加直观,且在一帧图像中选择对象后即可在该帧图像及其关联帧图像中自动标注该对象,效率较高。

参照图18,示出了本申请的一种数据标注装置可选实施例的结构框图,具体可以包括如下模块:

图像预处理模块1710,用于预先对采集的图像进行处理。

界面提供模块1702,用于提供标注界面。

图像显示模块1704,用于在所述标注界面显示多于一种数据源的图像,其中,不同数据源的图像依据时间信息进行关联。

标注模块1706,用于接收标注操作,确定所述标注操作对应的对象。

标注处理模块1708,用于在对应的图像上标注所述对象,并在所述标注界面中显示所述对象的标注信息。

回放模块1712,用于确定回放对象;查询所述回放对象对应图像组的分组标注信息,确定标注所述回放对象的连续帧图像;将所述连续帧图像进行合成,并播放合成数据。

其中,所述图像预处理模块1710包括:图像获取子模块17102,图像分组子模块17104和图像识别子模块17106,其中:

一个可选实施例中,所述图像获取子模块17102,用于获取摄像头采集的图像,其中,所述摄像头包括以下至少一种:车载摄像头、监控摄像头。

另一个可选实施例中,所述图像获取子模块17102,用于获取雷达采集的点云图,其中,所述点云图包括:二维点云图和/或三维点云图。所述雷达包括无人车的车载雷达。

所述图像分组子模块17104,用于将采集的连续帧图像加入到一个图像组,所述图像组为所述标注界面提供图像。

其中,所述图像组对应至少一个数据源,每个数据源对应连续帧图像;所述图像分组子模块17104,还用于将不同数据源的图像按照图像的时间戳进行关联。

所述图像分组子模块17104,还用于提供所述图像组,并依据调整操作调整所述图像组中的连续帧图像。

所述图像识别子模块17106,用于预先识别所述图像中至少一个对象,并记录所述对象的对象信息。

一个可选实施例中,所述标注模块1706,用于接收在所述图像上选择目标区域的标注操作,确定所述目标区域内的对象。

另一个可选实施例中,所述标注模块1706,用于接收点击所述图像的标注操作,确定所述点击位置对应的对象。

所述标注处理模块1708包括:图像标注子模块17082和标注信息确定子模块17084,其中:

所述图像标注子模块17082,用于在所述图像关联的其他数据源的图像中标注所述对象。

所述标注信息确定子模块17084,用于确定所述对象的标注信息,在所述标注界面中显示所述对象的标注信息。

所述图像标注子模块17082,还用于在点云图中显示所述对象的三维点云特征,并通过设定图形进行标注。

所述图像识别子模块17106,还用于确定所述图像组中不同数据源的关联图像中所包含的同一对象。

所述标注处理模块1708还包括:映射子模块17086。其中,所述标注模块1706,还用于接收映射操作;所述映射子模块17086,用于对包含所述对象的其他帧图像进行标注。

本申请实施例中,所述对象的标注包括:在图像中通过设定图形标注所述对象的范围,所述设定图形依据对象确定。

所述标注处理模块1708还包括:组标注整合子模块17088,其中:

所述组标注整合子模块17088,用于整合所述图像组中所标注对象的标注信息,确定所述图像组的分组标注信息。所述分组标注信息中每个对象对应一个分组元素信息,所述分组元素信息包括:属性字段,所述属性字段描述所述对象的属性和/或所述对象所属图像的公共属性。

在上述实施例的基础上,本实施例还提供了一种数据标注装置,应用于服务端的电子设备中。

参照图19,示出了本申请的另一种数据标注装置实施例的结构框图,具体可以包括如下模块:

接收模块1902,用于接收不同数据源上传的图像。

预处理模块1904,用于将所述不同数据源的图像依据时间信息进行关联,并提供关联的图像给标注界面,以通过标注界面进行图像标注。

存储模块1906,用于获取所述图像中对象的标注信息并存储。

一个可选实施例中,所述预处理模块1904,还用于将数据源采集的连续帧图像加入到一个图像组中,所述图像组对应至少一个数据源。

所述预处理模块1904,用于将所述图像组中不同数据源的图像按照图像的时间戳进行关联。

另一个可选实施例中,所述预处理模块1904,还用于预先识别所述图像中至少一个对象,并记录所述对象的对象信息。

一个可选实施例中,所述预处理模块1904,还用于确定所述图像组中不同数据源的关联图像中所包含的同一对象。

一个可选实施例中,存储模块1906,用于获取所述图像组中图像所标注对象的标注信息;整合所述图像组中所标注对象的标注信息,确定所述图像组的分组标注信息。

所述存储模块1906,用于按照标注对象的对象标识进行查询,确定包含所述对象标识的多个图像的图像标识;采用所述对象标识、多个图像标识和所述标注对象的属性信息,确定对应的分组标注信息。

其中,所述分组标注信息中每个对象对应一个分组元素信息,所述分组元素信息包括:属性字段,所述属性字段描述所述对象的属性和/或所述对象所属图像的公共属性。

所述分组元素信息还包括:图像字段;所述存储模块1906,还用于当对象在连续帧图像中均已标注的情况下,在所述对象的分组元素信息的图像字段中通过压缩方式记录所述连续帧图像的图像标识。

接收模块1902,用于接收摄像头采集的图像,所述摄像头包括以下至少一种:车载摄像头、监控摄像头;和/或,获取雷达采集的点云图,其中,所述点云图包括:二维点云图和/或三维点云图。所述雷达包括无人车的车载雷达。

在上述实施例的基础上,本申请实施例还提供了一种对象追踪装置,能够标注图像中对象来进行对象的追踪,可应用于客户端设备中。

参照图20,示出了本申请的一种对象追踪装置实施例的结构框图,具体可以包括如下模块:

界面模块2002,用于提供标注界面。

显示模块2004,用于在所述标注界面显示至少一个摄像头采集的监控图像和雷达采集的点云图,所述监控图像和点云图通过时间信息关联对应帧。

处理模块2006,用于接收在指定帧点云图中的标注操作,并将标注的对象通过设定图形进行标注;在所述指定帧点云图关联的至少一帧监控图像中,通过设定图形标注所述对象,并显示所述对象的标注信息。

其中,所述处理模块2006,还用于在所述点云图中显示所述对象的三维点云特征,并通过设定图形进行标注。

所述处理模块2006,还用于接收映射操作;在所述指定帧的下一帧对应点云图和监控图中,通过设定图形标注所述对象。

所述处理模块2006,还用于接收映射操作;在所述指定帧的之后连续多帧对应点云图和监控图中,通过设定图形标注所述对象。

在上述实施例的基础上,本申请实施例还提供了一种对象追踪方法,能够标注图像中对象来进行对象的追踪,可应用于服务端的电子设备中。

参照图21,示出了本申请的另一种对象追踪装置实施例的结构框图,具体可以包括如下模块:

数据接收模块2102,用于接收至少一个摄像头采集的监控图像,并接收雷达采集的点云图。

关联预处理模块2104,用于将所述监控图像和点云图通过时间信息关联对应帧,并存储关联的监控图像和点云图,以提供给标注界面进行标注。

信息存储模块2106,用于获取所述点云图和监控图像中对象的标注信息并进行存储。

本申请实施例中,分组标注信息可存储到备忘录等文本中,从而能够大大降低网络传输数据量;并且可基于数据库操作,保障数据一致性;每次修改保存到数据库中,不会因为意外而使得分组标注数据丢失,提高了可用性;每个标注操作对分组中相应标注对象的分组元素信息进行修改即可,提高了可扩展性,便于分组中分组标注信息的更新;并且通过分组标注信息的属性字段提取公共属性进行存储,无需重复存储,能够精简数据存储量。

通过标注界面提供可视化的标注,用户只需在一帧图像上确定出要标记的对象,其他图像上同一对象可自动标注,无需用户每一帧图像分别标注,简化标注操作,提高标注效率。并且,对于不同数据源的图像也可自动识别标注对象并标注,效率较高。

本申请实施例还提供了一种非易失性可读存储介质,该存储介质中存储有一个或多个模块(programs),该一个或多个模块被应用在设备时,可以使得该设备执行本申请实施例中各方法步骤的指令(instructions)。

本申请实施例提供了一个或多个机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得电子设备执行如上述实施例中一个或多个所述的方法。本申请实施例中,所述电子设备包括终端设备、服务器(集群)等各类型的设备。

本公开的实施例可被实现为使用任意适当的硬件,固件,软件,或及其任意组合进行想要的配置的装置,该装置可包括终端设备、服务器(集群)等电子设备。图22示意性地示出了可被用于实现本申请中所述的各个实施例的示例性装置2200。

对于一个实施例,图22示出了示例性装置2200,该装置具有一个或多个处理器2202、被耦合到(一个或多个)处理器2202中的至少一个的控制模块(芯片组)2204、被耦合到控制模块2204的存储器2206、被耦合到控制模块2204的非易失性存储器(NVM)/存储设备2208、被耦合到控制模块2204的一个或多个输入/输出设备2210,以及被耦合到控制模块2204的网络接口2212。

处理器2202可包括一个或多个单核或多核处理器,处理器2202可包括通用处理器或专用处理器(例如图形处理器、应用处理器、基频处理器等)的任意组合。在一些实施例中,装置2200能够作为本申请实施例中所述终端设备、服务器(集群)等设备。

在一些实施例中,装置2200可包括具有指令2214的一个或多个计算机可读介质(例如,存储器2206或NVM/存储设备2208)以及与该一个或多个计算机可读介质相合并被配置为执行指令2214以实现模块从而执行本公开中所述的动作的一个或多个处理器2202。

对于一个实施例,控制模块2204可包括任意适当的接口控制器,以向(一个或多个)处理器2202中的至少一个和/或与控制模块2204通信的任意适当的设备或组件提供任意适当的接口。

控制模块2204可包括存储器控制器模块,以向存储器2206提供接口。存储器控制器模块可以是硬件模块、软件模块和/或固件模块。

存储器2206可被用于例如为装置2200加载和存储数据和/或指令2214。对于一个实施例,存储器2206可包括任意适当的易失性存储器,例如,适当的DRAM。在一些实施例中,存储器2206可包括双倍数据速率类型四同步动态随机存取存储器(DDR4SDRAM)。

对于一个实施例,控制模块2204可包括一个或多个输入/输出控制器,以向NVM/存储设备2208及(一个或多个)输入/输出设备2210提供接口。

例如,NVM/存储设备2208可被用于存储数据和/或指令2214。NVM/存储设备2208可包括任意适当的非易失性存储器(例如,闪存)和/或可包括任意适当的(一个或多个)非易失性存储设备(例如,一个或多个硬盘驱动器(HDD)、一个或多个光盘(CD)驱动器和/或一个或多个数字通用光盘(DVD)驱动器)。

NVM/存储设备2208可包括在物理上作为装置2200被安装在其上的设备的一部分的存储资源,或者其可被该设备访问可不必作为该设备的一部分。例如,NVM/存储设备2208可通过网络经由(一个或多个)输入/输出设备2210进行访问。

(一个或多个)输入/输出设备2210可为装置2200提供接口以与任意其他适当的设备通信,输入/输出设备2210可以包括通信组件、音频组件、传感器组件等。网络接口2212可为装置2200提供接口以通过一个或多个网络通信,装置2200可根据一个或多个无线网络标准和/或协议中的任意标准和/或协议来与无线网络的一个或多个组件进行无线通信,例如接入基于通信标准的无线网络,如WiFi、2G、3G、4G、5G等,或它们的组合进行无线通信。

对于一个实施例,(一个或多个)处理器2202中的至少一个可与控制模块2204的一个或多个控制器(例如,存储器控制器模块)的逻辑封装在一起。对于一个实施例,(一个或多个)处理器2202中的至少一个可与控制模块2204的一个或多个控制器的逻辑封装在一起以形成系统级封装(SiP)。对于一个实施例,(一个或多个)处理器2202中的至少一个可与控制模块2204的一个或多个控制器的逻辑集成在同一模具上。对于一个实施例,(一个或多个)处理器2202中的至少一个可与控制模块2204的一个或多个控制器的逻辑集成在同一模具上以形成片上系统(SoC)。

在各个实施例中,装置2200可以但不限于是:服务器、台式计算设备或移动计算设备(例如,膝上型计算设备、手持计算设备、平板电脑、上网本等)等终端设备。在各个实施例中,装置2200可具有更多或更少的组件和/或不同的架构。例如,在一些实施例中,装置2200包括一个或多个摄像机、键盘、液晶显示器(LCD)屏幕(包括触屏显示器)、非易失性存储器端口、多个天线、图形芯片、专用集成电路(ASIC)和扬声器。

其中,检测装置中可采用主控芯片作为处理器或控制模块,传感器数据、位置信息等存储到存储器或NVM/存储设备中,传感器组可作为输入/输出设备,通信接口可包括包括网络接口。

对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。

本申请实施例是参照根据本申请实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本申请实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本申请实施例范围的所有变更和修改。

最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上对本申请所提供的一种数据标注方法和装置,一种对象跟踪方法和装置,一种电子设备和一种存储介质,进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

相关技术
  • 数据标注、对象跟踪方法、装置、设备和存储介质
  • 视频标注方法、跟踪方法、装置、计算机设备及存储介质
技术分类

06120112758424