掌桥专利:专业的专利平台
掌桥专利
首页

目标跟踪方法、装置、电子设备及存储介质

文献发布时间:2023-06-19 12:18:04


目标跟踪方法、装置、电子设备及存储介质

技术领域

本发明涉及人工智能领域,尤其涉及一种目标跟踪方法、装置、电子设备及存储介质。

背景技术

随着人口的不断增加和城市的急剧扩张,智能视频监控变得至关重要。所谓的智能视频监督,即前端摄像头可以执行一些检测和跟踪等任务,直接将我们需要的数据提取出来并保存。虽然当前已经有多目标跟踪模型,但是这些模型大多依赖于帧间IOU和匈牙利匹配来完成对目标轨迹的跟踪。在真实场景中,目标发生遮挡或者受到干扰的情况下,IOU变得不再可靠,可能出现多个检测框之间都具有类似的IOU值,尤其是在比较拥挤的场景中,检测错误率较高。除此之外,由于匈牙利匹配是一个最优匹配算法,在这种情况下它仍然会选择一个检测框作为最终的结果,即最优检测框是一个错误检测框时,仍然会选择该最优检测框,导致选择出的检测框为错误的检测框,会给后续的跟踪算法带来更大的误差。因此,现有的目标跟踪算法存在检测准确率的问题。

发明内容

本发明实施例提供一种目标跟踪方法,能够提高多目标跟踪的检测准确率。

第一方面,本发明实施例提供一种目标跟踪方法,所述方法包括:

提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息;

将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹;

若存在所述断开轨迹,则对所述断开轨迹进行重连,得到重连结果,并基于所述重连结果,得到对应的目标跟踪序列。

可选的,所述将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,包括:

计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度,并判断满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间是否一一对应,所述匹配条件为所述相关度大于等于第一预设相关度阈值;

若满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间是一一对应,则匹配为连续轨迹;

若满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间不是一一对应,则匹配为断开轨迹。

可选的,所述目标检测框信息包括检测框参数以及检测框图像,所述目标预测框信息包括预测框参数以及预测框图像,所述相关度包括框相关度与特征相关度,所述计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度,包括:

根据所述检测框参数与所述预测框参数,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度;

根据所述检测框图像与所述预测框图像,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的特征相关度;

根据所述框相关度与所述特征相关度,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度。

可选的,所述检测框参数包括检测框中心点坐标、检测框面积、检测框高宽比,所述预测框参数包括预测框中心点坐标、预测框面积、预测框高宽比,所述根据所述检测框参数与所述预测框参数,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度,包括:

根据所述检测框中心点坐标以及所述预测框中心点坐标,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的距离相关度;

根据所述检测框面积以及所述预测框面积,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的面积相关度;

根据所述检测框高宽比以及所述预测框高宽比,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的形状相关度;

基于所述距离相关度、所述面积相关度以及所述形状相关度,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度。

可选的,所述若存在所述断开轨迹,则对所述断开轨迹进行重连,包括:

分别提取第一断开轨迹与第二断开轨迹中的第一代表检测框信息与第二代表检测框信息;

根据所述第一代表检测框信息与所述第二代表检测框信息,计算得到所述第一断开轨迹与所述第二断开轨迹的相关度;

当所述第一断开轨迹与所述第二断开轨迹的相关度大于等于第二预设相关度阈值时,则对所述第一断开轨迹与所述第二断开轨迹进行重连。

可选的,所述方法还包括:

判断所述第一断开轨迹与所述第二断开轨迹中是否存在相同的图像帧标识;

若所述第一断开轨迹与所述第二断开轨迹中不存在相同的图像帧标识,则对所述第一断开轨迹与所述第二断开轨迹进行重连。

可选的,所述当所述第一断开轨迹与所述第二断开轨迹的相关度大于等于第二预设相关度阈值时,则对所述第一断开轨迹与所述第二断开轨迹进行重连,包括:

若当前目标的所述第一断开轨迹与所述第二断开轨迹的相关度大于等于所述第二预设相关度阈值时,则将所述当前目标的所述第一断开轨迹与所述第二断开轨迹进行重连,得到第一重连轨迹;

按预设的过滤规则,对所述当前目标的所述第一重连轨迹进行过滤,得到第二重连轨迹作为重连结果。

可选的,所述过滤规则包括:判断所述第一重连轨迹的长度是否达到预设长度、判断所述第一重连轨迹的图像质量是否达到预设图像质量、判断所述第一重连轨迹中的目标大小是否达到预设的目标大小中的至少一项。

第二方面,本发明实施例还提供一种目标跟踪装置,所述装置包括:

提取模块,用于提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息;

匹配模块,用于将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹;

重连模块,用于若存在所述断开轨迹,则对所述断开轨迹进行重连,得到重连结果,并基于所述重连结果,得到对应的目标跟踪序列。

第三方面,本发明实施例提供一种电子设备,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现本发明实施例提供的目标跟踪方法中的步骤。

第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现发明实施例提供的目标跟踪方法中的步骤。

本发明实施例中,提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息;将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹;若存在所述断开轨迹,则对所述断开轨迹进行重连,得到重连结果,并基于所述重连结果,得到对应的目标跟踪序列。通过预测框信息与检测框信息进行匹配,使得在轨迹跟踪过程中,检测框具有一个先验信息,提高检测框的准确度,可以将断开轨迹进行重连,提高目标跟踪的检测准确率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1是本发明实施例提供的一种目标跟踪方法的流程图;

图2是本发明实施例提供的一种框相关度计算方法的流程图;

图3是本发明实施例提供的一种轨迹重连方法的流程图;

图4是本发明实施例提供的一种目标跟踪装置的结构示意图;

图5是本发明实施例提供的一种匹配模块的结构示意图;

图6是本发明实施例提供的一种第一计算子模块的结构示意图;

图7是本发明实施例提供的一种第一计算单元的结构示意图;

图8是本发明实施例提供的一种重连模块的结构示意图;

图9是本发明实施例提供的另一种重连模块的结构示意图;

图10是本发明实施例提供的一种第一重连子模块的结构示意图;

图11是本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参见图1,图1是本发明实施例提供的一种目标跟踪方法的流程图,如图1所示,包括以下步骤:

101、提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息。

在本发明实施例中,上述待处理图像序列可以是摄像头实时抓拍的视频图像,比如通过安装在特定监控场景的摄像头实时抓拍该特定监控场景的视频图像,进一步的,摄像头可以设置在该特定监控场景的一定高度之处,对该特定监控场景中的目标进行实时抓拍。也可以是用户上传的视频图像,上述图像序列指的是按时序获取的帧图像。

上述待处理图像序列中包括待跟踪目标,上述待跟踪目标可以是运动目标,上述的运动目标可以是行人、车辆、动物等可以产生运动轨迹的目标。上述待跟踪目标可以是一个或多个。

上述的目标检测框信息可以通过目标检测网络来对待跟踪目标进行目标检测,上述目标检测网络为已经训练好的,上述目标检测网络可以为用户通过样本目标数据集进行训练得到,也可以是下载获取目标检测网络的网络结构与参数,通过样本目标数据集进行微调训练后得到。

在本发明实施例中,上述目标检测网络的输入为待处理图像序列中的帧图像,输出为对应帧图像中待跟踪目标的检测框信息,上述目标检测网络输出的检测框信息可以包括待跟踪目标在对应帧图像的位置信息和置信度信息。上述位置信息可以是det(x,y,w,h)格式的信息,其中,上述的x和y表示检测框在对应帧图像中的中心点坐标,上述w和h分别表示检测框在对应帧图像中的宽和高。上述的置信度信息用于表示检测框内的图像内容为待跟踪目标的可信程度,置信度越高,则检测框内的图像内容为待跟踪目标的可信程度越高。上述目标检测网络可以是基于CenterNet目标检测算法进行构建的网络。

在一种可能的实施例中,可以对上述摄像头抓拍的视频图像或用户上传的视频图像进行预设处理,上述预设处理可以是对帧图像进行抽取,在视频图像中,每隔预设帧数取一帧作为待处理图像中的帧图像,这样,可以减少相邻帧之间的冗余性,提高目标跟踪的计算速度。上述预设帧数可以是根据用户需要进行设定,本发明实施例中预设帧数为4帧,即每隔4帧取一帧作为待处理图像中的帧图像。

在本发明实施例中,上述的目标预测框信息可以通过目标预测网络来对待跟踪目标进行目标位置预测,上述目标预测网络为已经训练好的,具体可以是用户自行训练得到,也可以是下载获取目标检测网络的网络结构与参数,通过样本目标数据集进行微调训练后得到,上述目标预测网络可以是基于卡尔曼滤波算法进行构建的网络。

在本发明实施例中,上述目标预测网络的输入为待处理图像序列中的帧图像,输出为对应帧图像中待跟踪目标在下一帧中的预测框信息,上述目标预测网络输出的预测框信息可以包括待跟踪目标在下一帧图像的位置信息和置信度信息。上述位置信息可以是pre(x,y,w,h)格式的信息,其中,上述的x和y表示检测框在下一帧图像中的中心点坐标,上述w和h分别表示检测框在下一帧图像中的宽和高。

可以理解的是,通过目标检测网络和目标预测网络,对于第n帧图像作为输入的情况,会输出第n帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息;对于第n+1帧图像作为输入的情况,会输出第n+1帧图像对应的目标检测框信息与第n+1帧图像对应的目标预测框信息。其中,第n帧图像对应的目标预测框信息可以理解为是对第n+1帧图像对应的目标检测框信息的预测,第n+1帧图像对应的目标预测框信息可以理解为是对第n+2帧图像对应的目标检测框信息的预测。

102、将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹。

在本发明实施例中,第n帧图像对应的目标预测框信息可以理解为是对第n+1帧图像对应的目标检测框信息的预测,上述将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配的目的,可以理解为检测结果是否与预测结果相同或相近,进而判断是否发生误检。具体的,上述匹配结果包括连续轨迹与断开轨迹,当第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息匹配时,则说明没有发生误检,匹配结果为连续轨迹,即将第n+1帧图像对应的目标检测框信息加入之前轨迹中;当第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息不匹配时,则说明发生误检,匹配结果为断开轨迹,即断开第n+1帧图像对应的目标检测框信息与之前轨迹的连接,并以第n+1帧图像对应的目标检测框信息为新轨迹的起点,此时,第n帧图像对应的目标检测框信息作为之前轨迹的终点。

进一步的,可以计算第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的相关度,并判断满足匹配条件的第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间是否一一对应,匹配条件为相关度大于等于第一预设相关度阈值;若满足匹配条件的第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间是一一对应,则匹配为连续轨迹;若满足匹配条件的第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间不是一一对应,则匹配为断开轨迹。

可以理解的是,通过判断第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间是否一一对应,可以进一步判断是否存在误检,比如,一个第n+1帧图像对应的目标检测框信息与多个第n帧图像对应的目标预测框信息之间的相关度满足匹配条件,则可以说明一个第n+1帧图像对应的目标检测框信息匹配到多个第n帧图像对应的目标预测框信息情况。或者一个第n帧图像对应的目标预测框信息与多个第n+1帧图像对应的目标检测框信息之间的相关度满足匹配条件,则可以说明一个第n帧图像对应的目标预测框信息匹配到多个第n+1帧图像对应的目标检测框信息情况。上述两种情况即为误检情况,此时匹配为断开轨迹。只有在一个第n帧图像对应的目标预测框信息仅与一个第n+1帧图像对应的目标检测框信息之间的相关度满足匹配条件时(即一一对应),可以认为是不存在误检情况,并分配为同一个ID。

进一步的,上述目标检测框信息包括检测框参数以及检测框图像,上述目标预测框信息包括预测框参数以及预测框图像,上述相关度包括框相关度与特征相关度。上述检测框参数用于表示目标检测框在对应帧图像中位置、形状和大小,上述检测框图像用于表示目标检测框在对应帧图像中的检测框内容(也可以称为目标图像)。对应的,上述预测框参数用于表示目标预测框在对应帧图像中的位置、形状和大小,上述预测框图像用于表示目标预测框在对应帧图像中的预测框内容(也可以称为目标预测图像)。

具体的,可以根据上述检测框参数与上述预测框参数,计算上述第n+1帧图像对应的目标检测框信息与上述第n帧图像对应的目标预测框信息之间的框相关度;根据上述检测框图像与上述预测框图像,计算上述第n+1帧图像对应的目标检测框信息与上述第n帧图像对应的目标预测框信息之间的特征相关度;根据上述框相关度与上述特征相关度,计算上述第n+1帧图像对应的目标检测框信息与上述第n帧图像对应的目标预测框信息之间的相关度。

上述的检测框图像可以根据目标检测框信息在对应帧图像中进行获取,具体可以根据det(x,y,w,h)格式的位置信息在对应帧图像中获取检测框图像,比如第n帧的检测框图像可以根据det(x,y,w,h)格式的位置信息在第n帧图像中进行获取。类似的,上述的预测框图像可以根据目标预测框信息在对应帧图像中进行获取,具体可以根据pre(x,y,w,h)格式的位置信息在对应帧图像中获取预测框图像,比如第n帧的预测框图像可以根据pre(x,y,w,h)格式的位置信息在第n+1帧图像中进行获取。

可选的,在提取到检测框图像与预测框图像后,可以通过特征提取网络对检测框图像与预测框图像进行特征提取,得到检测框图像特征与预测框图像特征,计算检测框图像特征与预测框图像特征之间的相似度作为特征相关度。另外,在提取到检测框图像与预测框图像后,可以对检测框图像与预测框图像进行尺寸调整,将检测框图像与预测框图像调整到预测尺寸,比如调整到256×128的尺寸大小。上述的特征提取网络可以是基于Re-ID网络进行构建的,对Re-ID网络进行轻量化后得到本发明实施例的特征提取网络。分别将检测框图像与预测框图像输入到上述特征提取网络中来提取图像特征,上述特征提取网络的表达可如下所示:

f=F(θ

其中,上述f为图像特征,上述F为特征提取网络,上述θ

上述框相关度用于表示目标预测框与目标检测框的在形状和距离两个维度上的相关程度,相较于传统的IOU交并比计算而言,框相关度可以适应更长帧间距离的跟踪。传统的IOU交并比是对第n帧的检测框与第n+1帧的检测框进行计算,具体是计算第n帧的检测框与第n+1帧的检测框的相交面积,计算第n帧的检测框与第n+1帧的检测框的合并面积,通过相交面积与合并面积的比值来衡量是否为同一个目标,可以看出,当两个不同目标的检测框的距离很近且大小也相近时,也会符合同一个目标的判定,因此传统IOU交并比在多个目标的跟踪检测方面误差很大。同时,当帧间距离增大时,同一个目标在相邻两帧图像中的检测框可能存在位置发生变化和大小发生变化,此时的IOU交并比急剧变化,更容易发生误检。

在本发明实施例中,上述相关度可以是框相关度与特征相关度的相加和,在一些可能的实施例中,上述相关度还可以是框相关度与特征相关度的加权和,具体的加权系数可以根据实际需要进行确定。

可选的,上述检测框参数可以包括检测框中心点坐标、检测框面积、检测框高宽比,上述预测框参数可以包括预测框中心点坐标、预测框面积、预测框高宽比。上述检测框参数可以通过det(x,y,w,h)进行转换得到,上述预测框参数可以通过pre(x,y,w,h)进行转换得到,具体的,可以将det(x,y,w,h)转换为det(x,y,s,r),将pre(x,y,s,r)转换为,其中,s表示框的面积,r表示框的高宽比。具体的转换可以是s=w×h,r=w/h。可以通过第n帧图像对应的检测框参数det(x,y,s,r)与第n+1帧图像对应的预测框参数pre(x,y,s,r),来计算第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的框相关度。

具体的,请参见图2,图2是本发明实施例提供的一种框相关度计算方法的流程图,如图2所示,包括以下步骤:

201、根据检测框中心点坐标以及预测框中心点坐标,计算第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的距离相关度。

在本发明实施例中,上述距离相关度可以通过欧式距离进行计算,比如,假设检测框参数为det(x

dis=(x

上述式子中,dis表示检测框中心点坐标到预测框中心点坐标的欧式距离。

可以通过下述式子计算距离相关度:

上述式子中,dis_pos为第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的距离相关度,上述max_dis为一个预设的距离阈值,可以设置为0.2左右。

202、根据检测框面积以及预测框面积,计算第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的面积相关度。

在本发明实施例中,上述面积相关度可以通过面积比来进行计算,上述检测框面积为s

size=s

上述式子中,size表示检测框面积与预测框面积的面积比。

可以通过下述式子计算面积相关度:

dis_size=(size-1.0)/(max_size-1.0)

上述式子中,dis_size表示第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的面积相关度,上述max_size为一个预设的面积比阈值,可以设置为1.8左右。

203、根据检测框高宽比以及预测框高宽比,计算第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的形状相关度。

在本发明实施例中,上述形状相关度可以通过检测框高宽比以及预测框高宽比的形状比值进行计算,上述检测框高宽比为r

ratio=r

上述式子中,ratio表示检测框高宽比以及预测框高宽比的形状比值。

可以通过下述式子计算形状相关度:

dis_ratio=(ratio-1.0)/(max_ratio-1.0)

上述式子中,dis_ratio表示第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的形状相关度,上述max_ratio为一个预设的形状比阈值,可以设置为1.8左右。

204、基于距离相关度、面积相关度以及形状相关度,计算第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的框相关度。

在本发明实施例中,上述的框相似度可以是距离相关度、面积相关度以及形状相关度的相加和或加权和,具体的加权系数可以根据实际需要进行确定。

将框相关度与特征相关度进行求和,得到第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的相关度。具体可以如下述式子所示:

dis_all=dis_pos+dis_size+dis_ratio+dis_feat

上述式子中,dis_all表示第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息之间的相关度。

103、若存在断开轨迹,则对断开轨迹进行重连,得到重连结果,并基于重连结果,得到对应的目标跟踪序列。

在本发明实施例中,一个轨迹可以是由多个连续的目标检测框信息形成的,可以在当前轨迹结束后,遍历所有已经结束的断开轨迹来进行重连,具体可以根据各个轨迹中目标检测框信息来进行重连。

可选的,请参见图3,图3是本发明实施例提供的一种轨迹重连方法的流程图,如图3所示,包括以下步骤:

301、在多个断开轨迹中分别提取第一断开轨迹与第二断开轨迹中的第一代表检测框信息与第二代表检测框信息。

在本发明实施例中,可以对每个轨迹中的目标检测框信息进行质量评估,从而选取质量评分最高的目标检测框信息作为代表检测框信息。需要说明的是,上述第一代表检测框信息与第二代表检测框信息是用于区分该代表检测框信息属于第一断开轨迹或第二断开轨迹的。

302、根据第一代表检测框信息与第二代表检测框信息,计算得到第一断开轨迹与第二断开轨迹的相关度。

在本发明实施例中,上述第一代表检测框信息与第二代表检测框信息之间的相关度即为第一断开轨迹与第二断开轨迹的相关度。上述第一代表检测框信息与第二代表检测框信息之间的相关度具体可以参考步骤102。

303、当第一断开轨迹与第二断开轨迹的相关度大于等于第二预设相关度阈值时,则对第一断开轨迹与所述第二断开轨迹进行重连。

在本发明实施例中,当第一断开轨迹与第二断开轨迹的相关度大于等于第二预设相关度阈值时,则说明第一断开轨迹与第二断开轨迹为同一目标的轨迹,可以将第一断开轨迹与第二断开轨迹进行重连。

可选的,可以先判断第一断开轨迹与第二断开轨迹中是否存在相同的图像帧标识;若第一断开轨迹与第二断开轨迹中不存在相同的图像帧标识,则对第一断开轨迹与第二断开轨迹进行重连。上述图像帧标识可以是图像帧的帧号,如果具有相同的图像帧标识,则说明第一断开轨迹与第二断开轨迹重合,不属于同一个目标的断开轨迹。

可选的,若当前目标的上述第一断开轨迹与上述第二断开轨迹的相关度大于等于上述第二预设相关度阈值时,则将上述当前目标的上述第一断开轨迹与上述第二断开轨迹进行重连,得到第一重连轨迹;按预设的过滤规则,对上述当前目标的上述第一重连轨迹进行过滤,得到第二重连轨迹作为重连结果。

上述的过滤规则包括:判断第一重连轨迹的长度是否达到预设长度、判断第一重连轨迹的图像质量是否达到预设图像质量、判断第一重连轨迹中的目标大小是否达到预设的目标大小中的至少一项。

可选的,可以根据轨迹长度来过滤掉一些较短的第一重连轨迹,较短的第一重连轨迹对应的目标通常难以归类到其它的轨迹中,而且会极大的影响跟踪的效果。

可选的,可以将整体图像质量小于预设图像质量的第一重连轨迹过滤掉,这样会在一定程度上提升跟踪的精度。

可选的,可以将目标尺寸小于预设的目标大小的目标进行过滤,目标尺寸过小,容易产生误连,将目标尺寸较小的第一重边轨迹过小掉,可以进一步提升跟踪的精度。

在本发明实施例中,提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息;将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹;若存在所述断开轨迹,则对所述断开轨迹进行重连,得到重连结果,并基于所述重连结果,得到对应的目标跟踪序列。通过预测框信息与检测框信息进行匹配,使得在轨迹跟踪过程中,检测框具有一个先验信息,提高检测框的准确度,可以将断开轨迹进行重连,提高目标跟踪的检测准确率。

需要说明的是,本发明实施例提供的目标跟踪方法可以应用于可以进行目标跟踪的手机、监控器、计算机、服务器等设备。

请参见图4,图4是本发明实施例提供的一种目标跟踪装置的结构示意图,如图4所示,所述装置包括:

提取模块401,用于提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息;

匹配模块402,用于将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹;

重连模块403,用于若存在所述断开轨迹,则对所述断开轨迹进行重连,得到重连结果,并基于所述重连结果,得到对应的目标跟踪序列。

可选的,如图5所示,所述匹配模块402,包括:

第一计算子模块4021,用于计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度,并判断满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间是否一一对应,所述匹配条件为所述相关度大于等于第一预设相关度阈值;

第一匹配子模块4022,用于若满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间是一一对应,则匹配为连续轨迹;

第二匹配子模块4023,用于若满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间不是一一对应,则匹配为断开轨迹。

可选的,如图6所示,所述目标检测框信息包括检测框参数以及检测框图像,所述目标预测框信息包括预测框参数以及预测框图像,所述相关度包括框相关度与特征相关度,所述第一计算子模块4021,包括:

第一计算单元40211,用于根据所述检测框参数与所述预测框参数,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度;

第二计算单元40212,用于根据所述检测框图像与所述预测框图像,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的特征相关度;

第三计算单元40213,用于根据所述框相关度与所述特征相关度,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度。

可选的,如图7所示,所述检测框参数包括检测框中心点坐标、检测框面积、检测框高宽比,所述预测框参数包括预测框中心点坐标、预测框面积、预测框高宽比,所述第一计算单元40211,包括:

第一计算子单元402111,用于根据所述检测框中心点坐标以及所述预测框中心点坐标,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的距离相关度;

第二计算子单元402112,用于根据所述检测框面积以及所述预测框面积,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的面积相关度;

第三计算子单元402113,用于根据所述检测框高宽比以及所述预测框高宽比,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的形状相关度;

第四计算子单元402114,用于基于所述距离相关度、所述面积相关度以及所述形状相关度,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度。

可选的,如图8所示,所述重连模块403,包括:

提取子模块4031,用于分别提取第一断开轨迹与第二断开轨迹中的第一代表检测框信息与第二代表检测框信息;

第二计算子模块4032,用于根据所述第一代表检测框信息与所述第二代表检测框信息,计算得到所述第一断开轨迹与所述第二断开轨迹的相关度;

第一重连子模块4033,用于当所述第一断开轨迹与所述第二断开轨迹的相关度大于等于第二预设相关度阈值时,则对所述第一断开轨迹与所述第二断开轨迹进行重连。

可选的,如图9所示,所述重连模块403还包括:

判断子模块4034,用于判断所述第一断开轨迹与所述第二断开轨迹中是否存在相同的图像帧标识;

第二重连子模块4035,用于若所述第一断开轨迹与所述第二断开轨迹中不存在相同的图像帧标识,则对所述第一断开轨迹与所述第二断开轨迹进行重连。

可选的,如图10所示,所述第一重连子模块4033,包括:

重连单元40331,用于若当前目标的所述第一断开轨迹与所述第二断开轨迹的相关度大于等于所述第二预设相关度阈值时,则将所述当前目标的所述第一断开轨迹与所述第二断开轨迹进行重连,得到第一重连轨迹;

过滤单元40332,用于按预设的过滤规则,对所述当前目标的所述第一重连轨迹进行过滤,得到第二重连轨迹作为重连结果。

可选的,所述过滤规则包括:判断所述第一重连轨迹的长度是否达到预设长度、判断所述第一重连轨迹的图像质量是否达到预设图像质量、判断所述第一重连轨迹中的目标大小是否达到预设的目标大小中的至少一项。

需要说明的是,本发明实施例提供的目标跟踪装置可以应用于可以进行目标跟踪的手机、监控器、计算机、服务器等设备。

本发明实施例提供的目标跟踪装置能够实现上述方法实施例中目标跟踪方法实现的各个过程,且可以达到相同的有益效果。为避免重复,这里不再赘述。

参见图11,图11是本发明实施例提供的一种电子设备的结构示意图,如图11所示,包括:存储器1102、处理器1101及存储在所述存储器1102上并可在所述处理器1101上运行的计算机程序,其中:

处理器1101用于调用存储器1102存储的计算机程序,执行如下步骤:

提取待处理图像序列中每一帧图像的目标检测框信息与目标预测框信息;

将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,并判断匹配结果中是否包括断开轨迹;

若存在所述断开轨迹,则对所述断开轨迹进行重连,得到重连结果,并基于所述重连结果,得到对应的目标跟踪序列。

可选的,处理器1101执行的所述将第n+1帧图像对应的目标检测框信息与第n帧图像对应的目标预测框信息进行匹配,包括:

计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度,并判断满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间是否一一对应,所述匹配条件为所述相关度大于等于第一预设相关度阈值;

若满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间是一一对应,则匹配为连续轨迹;

若满足匹配条件的所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间不是一一对应,则匹配为断开轨迹。

可选的,所述目标检测框信息包括检测框参数以及检测框图像,所述目标预测框信息包括预测框参数以及预测框图像,处理器1101执行的所述相关度包括框相关度与特征相关度,所述计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度,包括:

根据所述检测框参数与所述预测框参数,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度;

根据所述检测框图像与所述预测框图像,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的特征相关度;

根据所述框相关度与所述特征相关度,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的相关度。

可选的,所述检测框参数包括检测框中心点坐标、检测框面积、检测框高宽比,所述预测框参数包括预测框中心点坐标、预测框面积、预测框高宽比,处理器1101执行的所述根据所述检测框参数与所述预测框参数,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度,包括:

根据所述检测框中心点坐标以及所述预测框中心点坐标,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的距离相关度;

根据所述检测框面积以及所述预测框面积,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的面积相关度;

根据所述检测框高宽比以及所述预测框高宽比,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的形状相关度;

基于所述距离相关度、所述面积相关度以及所述形状相关度,计算所述第n+1帧图像对应的目标检测框信息与所述第n帧图像对应的目标预测框信息之间的框相关度。

可选的,处理器1101执行的所述若存在所述断开轨迹,则对所述断开轨迹进行重连,包括:

分别提取第一断开轨迹与第二断开轨迹中的第一代表检测框信息与第二代表检测框信息;

根据所述第一代表检测框信息与所述第二代表检测框信息,计算得到所述第一断开轨迹与所述第二断开轨迹的相关度;

当所述第一断开轨迹与所述第二断开轨迹的相关度大于等于第二预设相关度阈值时,则对所述第一断开轨迹与所述第二断开轨迹进行重连。

可选的,处理器1101还执行包括:

判断所述第一断开轨迹与所述第二断开轨迹中是否存在相同的图像帧标识;

若所述第一断开轨迹与所述第二断开轨迹中不存在相同的图像帧标识,则对所述第一断开轨迹与所述第二断开轨迹进行重连。

可选的,处理器1101执行的所述当所述第一断开轨迹与所述第二断开轨迹的相关度大于等于第二预设相关度阈值时,则对所述第一断开轨迹与所述第二断开轨迹进行重连,包括:

若当前目标的所述第一断开轨迹与所述第二断开轨迹的相关度大于等于所述第二预设相关度阈值时,则将所述当前目标的所述第一断开轨迹与所述第二断开轨迹进行重连,得到第一重连轨迹;

按预设的过滤规则,对所述当前目标的所述第一重连轨迹进行过滤,得到第二重连轨迹作为重连结果。

可选的,所述过滤规则包括:判断所述第一重连轨迹的长度是否达到预设长度、判断所述第一重连轨迹的图像质量是否达到预设图像质量、判断所述第一重连轨迹中的目标大小是否达到预设的目标大小中的至少一项。

需要说明的是,上述电子设备可以是可以应用于可以进行目标跟踪的手机、监控器、计算机、服务器等设备。

本发明实施例提供的电子设备能够实现上述方法实施例中目标跟踪方法实现的各个过程,且可以达到相同的有益效果,为避免重复,这里不再赘述。

本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现本发明实施例提供的目标跟踪方法的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存取存储器(Random AccessMemory,简称RAM)等。

以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。

相关技术
  • 目标跟踪方法、目标跟踪装置、电子设备及存储介质
  • 目标跟踪方法及装置、电子设备和存储介质
技术分类

06120113239113