掌桥专利:专业的专利平台
掌桥专利
首页

多目标追踪方法、装置、设备及存储介质

文献发布时间:2023-06-19 11:45:49


多目标追踪方法、装置、设备及存储介质

技术领域

本申请涉及到计算机视觉技术领域,特别是涉及到一种多目标追踪方法、装置、设备及存储介质。

背景技术

在监控视频中,为了实现人体去重功能,一般采用多目标跟踪算法进行人体跟踪以实现去重。在安防摄像设备场景下,因为安防摄像设备安装高度较高,所以安防摄像设备视角内人体与人体之间不易发生遮挡和交叉,多目标跟踪算法进行人体跟踪的效果较好。在机器人场景下,因为机器人的高度较低,机器人的摄像设备内人体与人体之间极易发生遮挡和交叉,采用多目标跟踪算法进行人体跟踪时,在实时对人体的特征数据进行更新的过程中因人体与人体之间的遮挡和交叉使人体的特征数据被污染,从而导致在后续的匹配过程中出现人体标识的非正常交换,影响了人体跟踪的准确性。

发明内容

本申请的主要目的为提供一种多目标追踪方法、装置、设备及存储介质,旨在解决现有技术采用多目标跟踪算法进行人体跟踪时,在实时对人体的特征数据进行更新的过程中因人体与人体之间的遮挡和交叉使人体的特征数据被污染,从而导致在后续的匹配过程中出现人体标识的非正常交换,影响了人体跟踪的准确性的技术问题。

为了实现上述发明目的,本申请提出一种多目标追踪方法,所述方法包括:

获取目标摄像设备的人体检测框集合和待分析的跟踪器集合;

采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果;

根据所述人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,所述待分析的人体检测框是所述检测框匹配结果为匹配成功的任一个所述人体检测框;

获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新。

进一步的,所述根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新的步骤,包括:

判断所述被遮挡面积比例是否大于所述被遮挡面积阈值;

当所述被遮挡面积比例大于所述被遮挡面积阈值时,根据所述待分析的人体检测框更新与所述待分析的人体检测框成功匹配的所述待分析的跟踪器的卡尔曼滤波参数和跟丢计数参数;

当所述被遮挡面积比例小于或等于所述被遮挡面积阈值时,根据所述待分析的人体检测框更新与所述待分析的人体检测框成功匹配的所述待分析的跟踪器的跟踪器人体特征数据、所述卡尔曼滤波参数和所述跟丢计数参数。

进一步的,所述获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新的步骤之后,还包括:

分别根据所述检测框匹配结果为匹配失败的每个所述人体检测框进行跟踪器创建,得到待更新的跟踪器集合,将所述待更新的跟踪器集合更新到所述待分析的跟踪器集合中;

获取跟丢次数阈值;

对所述待分析的跟踪器集合中的所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器对应的跟丢计数参数加1;

从所述待分析的跟踪器集合中找出所述跟丢计数参数大于所述跟丢次数阈值的跟踪器,得到待丢弃的跟踪器集合;

将所述待丢弃的跟踪器集合从所述待分析的跟踪器集合中进行删除处理。

进一步的,所述对所述待分析的跟踪器集合中的所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器对应的所述跟丢计数参数加1的步骤,包括:

获取预设的消失边缘;

当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘交叉时,将所述待分析的跟踪器作为待删除的跟踪器;

当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘不交叉时,将所述待分析的跟踪器作为保留的跟踪器;

从所述待分析的跟踪器集合中,分别将每个所述待删除的跟踪器进行删除处理;

在所述待分析的跟踪器集合中,分别将每个所述保留的跟踪器对应的所述待分析的跟踪器的所述跟丢计数参数加1。

进一步的,所述采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果的步骤,包括:

分别将所述人体检测框集合中每个所述人体检测框输入预设的特征提取模块进行特征提取,得到所述人体检测框集合中各个所述人体检测框各自对应的检测框人体特征数据;

分别根据所述待分析的跟踪器集合中每个所述待分析的跟踪器对应的卡尔曼滤波参数进行位置预估,得到所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的位置预估结果;

采用Deep SORT算法,根据所有所述检测框人体特征数据、所有所述位置预估结果、所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果。

进一步的,所述采用Deep SORT算法,根据所有所述检测框人体特征数据、所有所述位置预估结果、所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果的步骤,包括:

分别对所述人体检测框集合中每个所述人体检测框与每个所述位置预估结果进行马氏距离计算,得到所述人体检测框集合中各个所述人体检测框各自对应的待分析的马氏距离集合;

分别对每个所述检测框人体特征数据与所述待分析的跟踪器集合中每个所述待分析的跟踪器对应的所述跟踪器人体特征数据进行最小余弦距离计算,得到所述人体检测框集合中各个所述人体检测框各自对应的待分析的最小余弦距离集合;

根据所有所述待分析的马氏距离集合和所有所述待分析的最小余弦距离集合进行距离融合处理,得到距离融合结果集合;

采用最小成本算法,根据所述距离融合结果集合,对所述人体检测框集合中的所述人体检测框和所述待分析的跟踪器集合中的所述待分析的跟踪器进行匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果。

进一步的,所述根据所有所述待分析的马氏距离集合和所有所述待分析的最小余弦距离集合进行距离融合处理,得到距离融合结果集合的步骤,包括:

获取第一距离阈值和第二距离阈值;

从所述人体检测框集合中获取一个所述人体检测框作为待融合的人体检测框;

从所述待分析的跟踪器集合中获取一个所述待分析的跟踪器作为待融合的跟踪器;

将所述待融合的人体检测框对应的所述待分析的马氏距离集合中的与所述待融合的跟踪器对应的马氏距离作为待融合的马氏距离;

将所述待融合的人体检测框对应的所述待分析的最小余弦距离集合中与所述待融合的跟踪器对应的最小余弦距离作为待融合的最小余弦距离;

当所述待融合的马氏距离小于或等于所述第一距离阈值,并且,所述待融合的最小余弦距离小于或等于所述第二距离阈值时,将所述待融合的马氏距离和所述待融合的最小余弦距离进行线性加权,得到所述待融合的人体检测框和所述待融合的跟踪器之间对应的距离融合结果;

重复执行所述从所述待分析的跟踪器集合中获取一个所述待分析的跟踪器作为待融合的跟踪器的步骤,直至完成所述待分析的跟踪器集合中所有所述待分析的跟踪器的提取;

重复执行所述从所述人体检测框集合中获取一个所述人体检测框作为待融合的人体检测框的步骤,直至完成所述人体检测框集合中所有所述人体检测框的提取;

根据所有所述距离融合结果确定距离融合结果集合。

本申请还提出了一种多目标追踪装置,所述装置包括:

数据获取模块,用于获取目标摄像设备的人体检测框集合和待分析的跟踪器集合;

级联匹配模块,用于采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果;

被遮挡面积比例确定模块,用于根据所述人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,所述待分析的人体检测框是所述检测框匹配结果为匹配成功的任一个所述人体检测框;

第一更新模块,用于获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新。

本申请还提出了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述方法的步骤。

本申请还提出了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法的步骤。

本申请的多目标追踪方法、装置、设备及存储介质,通过采用多目标跟踪算法,根据人体检测框集合和待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果,然后根据人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,待分析的人体检测框是检测框匹配结果为匹配成功的任一个人体检测框,最后根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例,对与待分析的人体检测框成功匹配的待分析的跟踪器进行数据更新,从而实现了根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例对遮挡和交叉的人体检测框对应的待分析的跟踪器采用不同的人体特征数据更新方式,避免在遮挡和交叉时始终更新与待分析的人体检测框成功匹配的待分析的跟踪器中的人体特征数据,提高了人体跟踪的准确性。

附图说明

图1为本申请一实施例的多目标追踪方法的流程示意图;

图2 为本申请一实施例的多目标追踪装置的结构示意框图;

图3 为本申请一实施例的计算机设备的结构示意框图。

本申请目的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。

为了解决现有技术采用多目标跟踪算法进行人体跟踪时,在实时对人体的特征数据进行更新的过程中因人体与人体之间的遮挡和交叉使人体的特征数据被污染,从而导致在后续的匹配过程中出现人体标识的非正常交换,影响了人体跟踪的准确性的技术问题,本申请提出了一种多目标追踪方法,所述方法应用于计算机视觉技术领域,所述方法也可以应用于机器人技术领域。

参照图1,本申请实施例中提供一种多目标追踪方法,所述方法包括:

S1:获取目标摄像设备的人体检测框集合和待分析的跟踪器集合;

S2:采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果;

S3:根据所述人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,所述待分析的人体检测框是所述检测框匹配结果为匹配成功的任一个所述人体检测框;

S4:获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新。

本实施例通过采用多目标跟踪算法,根据人体检测框集合和待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果,然后根据人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,待分析的人体检测框是检测框匹配结果为匹配成功的任一个人体检测框,最后根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例,对与待分析的人体检测框成功匹配的待分析的跟踪器进行数据更新,从而实现了根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例对遮挡和交叉的人体检测框对应的待分析的跟踪器采用不同的人体特征数据更新方式,避免在遮挡和交叉时始终更新与待分析的人体检测框成功匹配的待分析的跟踪器中的人体特征数据,提高了人体跟踪的准确性。

对于S1,获取目标摄像设备发送的一张图像作为待检测的图像。

目标摄像设备,也就是摄像设备。摄像设备可以拍照也可以拍摄视频。当摄像设备拍摄的是视频时,则获取目标摄像设备发送的一帧图像作为待检测的图像。

待检测的图像,也就是数字图像。

可以从数据库中获取所述目标摄像设备对应的待分析的跟踪器集合,也可以从第三方应用系统中获取所述目标摄像设备对应的待分析的跟踪器集合。

其中,所述目标摄像设备对应的待分析的跟踪器集合,也就是说,待分析的跟踪器集合中的待分析的跟踪器是根据所述目标摄像设备拍摄的图像得到的跟踪器。

待分析的跟踪器也就是跟踪器。

跟踪器包括:跟踪器人体特征数据、卡尔曼滤波参数、跟丢计数参数、更新时间。

跟踪器人体特征数据,是指图像中人体的形状特征、颜色特征、纹理特征。

将所述待检测的图像输入预设的人体检测模块,通过预设的人体检测模块对所述待检测的图像中的人体进行检测,并针对检测到的每个人体生成一个人体检测框,将所有所述人体检测框作为人体检测框集合。

预设的人体检测模块,是基于卷积神经网络训练得到的模型。

人体检测框对应的人体对应的图像区域位于人体检测框内。

对于S2,采用多目标跟踪算法,分别将所述人体检测框集合中每个人体检测框与所述待分析的跟踪器集合中每个待分析的跟踪器进行级联匹配;当存在人体检测框与待分析的跟踪器匹配成功时,将匹配成功的事实人体检测框对应的检测框匹配结果确定为匹配成功,并且,将匹配成功的事实待分析的跟踪器对应的跟踪器匹配结果确定为匹配成功;当存在人体检测框与待分析的跟踪器匹配失败时,将匹配失败的人体检测框对应的检测框匹配结果确定为匹配失败;当存在待分析的跟踪器与人体检测框匹配失败时,将该待分析的跟踪器对应的跟踪器匹配结果确定为匹配失败。也就是说,每个人体检测框对应一个检测框匹配结果,每个待分析的跟踪器对应一个跟踪器匹配结果。

其中,本申请中的多目标跟踪算法包括但不限于:SORT算法、Deep SORT算法。SORT算法,全称为Simple Online And Realtime Tracking。Deep SORT算法,是SORT算法的基础上加入了外观度量信息,而且应用了经过训练的卷积神经网络使Deepsort算法能更好处理遮挡问题。

对于S3,从所述检测框匹配结果为匹配成功的所有所述人体检测框中提取一个所述人体检测框作为待分析的人体检测框;对所述待分析的人体检测框进行被所述人体检测框集合中的所述待分析的人体检测框以外的所述人体检测框遮挡的面积占所述待分析的人体检测框的面积的比例的计算,将计算得到的数据作为所述待分析的人体检测框对应的被遮挡面积比例;重复执行所述从所述检测框匹配结果为匹配成功的所有所述人体检测框中提取一个所述人体检测框作为待分析的人体检测框的步骤,直至所述检测框匹配结果为匹配成功的所有所述人体检测框中的所述人体检测框被提取完。也就是说,所述检测框匹配结果为匹配成功的每个所述人体检测框对应一个被遮挡面积比例。

对于S4,可以从数据库中获取被遮挡面积阈值,也可以获取用户输入的被遮挡面积阈值,还可以获取第三方应用系统发送的被遮挡面积阈值,还可以将被遮挡面积阈值写入实现本申请的从程序文件中。

被遮挡面积阈值,是以0到1的数值,不包括0,也不包括1。

可选的,所述被遮挡面积阈值被设为0.5,从而避免被过度丢弃检测框人体特征数据。

其中,当所述被遮挡面积比例小于或等于所述被遮挡面积阈值时,意味着被遮挡面积比例没有达到污染的标准,此时的人体特征数据更新策略为根据所述待分析的人体检测框更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据,该更新在后续的匹配过程中不会导致人体标识的非正常交换。

检测框人体特征数据,是指图像中人体的形状特征、颜色特征、纹理特征。

其中,当所述被遮挡面积比例大于所述被遮挡面积阈值时,意味着所述被遮挡面积比例达到污染的阈值,此时的人体特征数据更新策略为不能更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据,从而防止了与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据被污染,从而避免遮挡和交叉带来的特征数据被污染在后续的匹配过程中出现人体标识的非正常交换的问题,提高了人体跟踪的准确性。

可选的,所述根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新的步骤之后,还包括:

S5:根据匹配失败的所述检测框匹配结果和所述跟踪器匹配结果,对所述待分析的跟踪器集合进行更新;

S6:重复执行上述步骤,直至获取到跟踪结束信号。

对于S5,分别根据所述检测框匹配结果为匹配失败的每个所述人体检测框进行跟踪器创建,得到待更新的跟踪器集合,将所述待更新的跟踪器集合更新到所述待分析的跟踪器集合中;根据所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器对所述待分析的跟踪器集合中的所述待分析的跟踪器的所述跟丢计数参数进行更新。

对于S6,在步骤S3、步骤S4、步骤S5均被执行完成后,重复执行步骤S1至步骤S6,直至获取到跟踪结束信号,从而实现了多目标跟踪。

跟踪结束信号,是指结束对目标摄像设备拍摄的图像进行人体跟踪的信号。

其中,跟踪结束信号可以是用户输入的,可以是实现本申请的程序文件触发的,还可以是第三方应用系统发送的。

在一个实施例中,上述根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新的步骤,包括:

S41:判断所述被遮挡面积比例是否大于所述被遮挡面积阈值;

S42:当所述被遮挡面积比例大于所述被遮挡面积阈值时,根据所述待分析的人体检测框更新与所述待分析的人体检测框成功匹配的所述待分析的跟踪器的卡尔曼滤波参数和跟丢计数参数;

S43:当所述被遮挡面积比例小于或等于所述被遮挡面积阈值时,根据所述待分析的人体检测框更新与所述待分析的人体检测框成功匹配的所述待分析的跟踪器的跟踪器人体特征数据、所述卡尔曼滤波参数和所述跟丢计数参数。

本实施例在所述被遮挡面积比例大于所述被遮挡面积阈值时,不更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据,从而实现了对遮挡和交叉的人体检测框对应的特征数据进行清洗,避免遮挡和交叉带来的特征数据被污染在后续的匹配过程中出现人体标识的非正常交换的问题,提高了人体跟踪的准确性。

对于S41,当所述被遮挡面积比例大于所述被遮挡面积阈值时,意味着所述被遮挡面积比例达到污染的阈值,此时不能更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据,因此根据所述待分析的人体检测框更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的所述卡尔曼滤波参数和所述跟丢计数参数,从而防止了与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据被污染,从而避免遮挡和交叉带来的特征数据被污染在后续的匹配过程中出现人体标识的非正常交换的问题,提高了人体跟踪的准确性。

可选的,所述当所述被遮挡面积比例大于所述被遮挡面积阈值时,根据所述待分析的人体检测框更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的所述卡尔曼滤波参数和所述跟丢计数参数的步骤,包括:所述当所述被遮挡面积比例大于所述被遮挡面积阈值时,根据所述待分析的人体检测框的位置数据更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的卡尔曼滤波参数,将与所述待分析的人体检测框匹配的所述待分析的跟踪器的所述跟丢计数参数初始化为0,根据所述待检测的图像的拍摄时间更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的更新时间。

对于S42,当所述被遮挡面积比例小于或等于所述被遮挡面积阈值时,意味着被遮挡面积比例没有达到污染的标准,此时可以根据所述待分析的人体检测框更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据、卡尔曼滤波参数和跟丢计数参数,该更新在后续的匹配过程中不会导致人体标识的非正常交换。

可选的,所述当所述被遮挡面积比例小于或等于所述被遮挡面积阈值时,根据所述待分析的人体检测框更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据、卡尔曼滤波参数和跟丢计数参数的步骤,包括:当所述被遮挡面积比例小于或等于所述被遮挡面积阈值时,根据所述待分析的人体检测框的检测框人体特征数据更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的跟踪器人体特征数据,根据所述待分析的人体检测框的位置数据更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的卡尔曼滤波参数,将与所述待分析的人体检测框匹配的所述待分析的跟踪器的所述跟丢计数参数初始化为0,根据所述待检测的图像的拍摄时间更新与所述待分析的人体检测框匹配的所述待分析的跟踪器的更新时间。

在一个实施例中,上述获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新的步骤之后,还包括:

S51:分别根据所述检测框匹配结果为匹配失败的每个所述人体检测框进行跟踪器创建,得到待更新的跟踪器集合,将所述待更新的跟踪器集合更新到所述待分析的跟踪器集合中;

S52:获取跟丢次数阈值;

S53:对所述待分析的跟踪器集合中的所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器对应的跟丢计数参数加1;

S54:从所述待分析的跟踪器集合中找出所述跟丢计数参数大于所述跟丢次数阈值的跟踪器,得到待丢弃的跟踪器集合;

S55:将所述待丢弃的跟踪器集合从所述待分析的跟踪器集合中进行删除处理。

本实施例实现了将跟丢计数参数大于跟丢次数阈值的跟踪器进行丢弃处理,从而减少了需要匹配的跟踪器的冗余数量,提高了多目标追踪的计算效率。

对于S51,从所述检测框匹配结果为匹配失败的所有所述人体检测框中提取一个所述人体检测框作为待创建跟踪器的检测框;创建一个跟踪器,作为待设置的跟踪器;根据所述待创建跟踪器的检测框的检测框人体特征数据更新所述待设置的跟踪器的跟踪器人体特征数据,根据所述待创建跟踪器的检测框的位置数据更新所述待设置的跟踪器的卡尔曼滤波参数,将所述待设置的跟踪器的所述跟丢计数参数初始化为0,根据所述待检测的图像的拍摄时间更新所述待设置的跟踪器的更新时间,将所述待设置的跟踪器作为待更新的跟踪器;重复执行从所述检测框匹配结果为匹配失败的所有所述人体检测框中提取一个所述人体检测框作为待创建跟踪器的检测框的步骤,直至完成所述检测框匹配结果为匹配失败的所有所述人体检测框中的所述人体检测框的提取;将所有所述待更新的跟踪器作为待更新的跟踪器集合。

对于S52,可以从数据库中获取跟丢次数阈值,也可以获取用户输入的跟丢次数阈值,还可以获取第三方应用系统发送的跟丢次数阈值,还可以将跟丢次数阈值写入实现本申请的从程序文件中。跟丢次数阈值,是一个具体数值。

对于S53,在所述待分析的跟踪器集合中,将所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器对应的所述跟丢计数参数的值加1。

对于S54,从步骤S52更新后的所述待分析的跟踪器集合中,找出所述跟丢计数参数大于所述跟丢次数阈值的所述待分析的跟踪器,将找出的每个所述待分析的跟踪器作为一个待丢弃的跟踪器;将所有所述待丢弃的跟踪器作为待丢弃的跟踪器集合。

对于S55,将所述待丢弃的跟踪器集合中每个待丢弃的跟踪器从所述待分析的跟踪器集合中进行删除处理,将完成删除处理后的所述待分析的跟踪器集合用于下一次迭代计算。

在一个实施例中,上述在所述待分析的跟踪器集合中,将所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器对应的所述跟丢计数参数加1的步骤,包括:

S531:获取预设的消失边缘;

S532:当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘交叉时,将所述待分析的跟踪器作为待删除的跟踪器;

S533:当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘不交叉时,将所述待分析的跟踪器作为保留的跟踪器;

S534:从所述待分析的跟踪器集合中,分别将每个所述待删除的跟踪器进行删除处理;

S535:在所述待分析的跟踪器集合中,分别将每个所述保留的跟踪器对应的所述待分析的跟踪器的所述跟丢计数参数加1。

Deep SORT算法是通过提前对多个人体信息的获取来实现避免人与人之间交叉后的人体标识的交换的,因对于待检测的图像外的人体信息无法获取,Deep SORT算法的匹配机制可能将新出现的人体被连接到已有的所述待分析的跟踪器,从而导致误报,本实施例实现了当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘交叉时,将所述待分析的跟踪器从所述待分析的跟踪器集合中进行删除处理,从而避免了将新出现的人体被连接到已有的所述待分析的跟踪器,防止误报,提高了人体跟踪的准确性。

对于S531,可以从数据库中获取预设的消失边缘,也可以获取用户输入的预设的消失边缘,还可以获取第三方应用系统发送的预设的消失边缘,还可以将预设的消失边缘写入实现本申请的从程序文件中。预设的消失边缘,可以是待检测的图像的边框的一条或多条线段。

对于S532,当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘交叉时,将与所述预设的消失边缘交叉以及所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器作为待删除的跟踪器。

对于S533,当存在所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器与所述预设的消失边缘不交叉时,将与所述预设的消失边缘不交叉以及所述跟踪器匹配结果为匹配失败的所述待分析的跟踪器作为保留的跟踪器。

对于S535,在步骤S524更新后的所述待分析的跟踪器集合中,分别将每个所述保留的跟踪器对应的所述待分析的跟踪器对应的所述跟丢计数参数加1。

在一个实施例中,上述采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果的步骤,包括:

S21:分别将所述人体检测框集合中每个所述人体检测框输入预设的特征提取模块进行特征提取,得到所述人体检测框集合中各个所述人体检测框各自对应的检测框人体特征数据;

S22:分别根据所述待分析的跟踪器集合中每个所述待分析的跟踪器对应的所述卡尔曼滤波参数进行位置预估,得到所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的位置预估结果;

S23:采用Deep SORT算法,根据所有所述检测框人体特征数据、所有所述位置预估结果、所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果。

本实施例实现了采用Deep SORT算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,Deep SORT算法是在SORT算法的基础上加入了外观度量信息,而且应用了经过训练的卷积神经网络,从而能更好处理遮挡问题,提高了匹配结果的准确性。

对于S21,从所述人体检测框集合中获取一个所述人体检测框作为待提取特征的人体检测框;将所述待提取特征的人体检测框对应的图像区域输入预设的特征提取模块进行特征提取,得到所述待提取特征的人体检测框对应的检测框人体特征数据;重复执行所述从所述人体检测框集合中获取一个所述人体检测框作为待提取特征的人体检测框的步骤,直至确定所述人体检测框集合中各个所述人体检测框各自对应的所述检测框人体特征数据。

预设的特征提取模块,是基于卷积神经网络训练得到的模型,用于提取图像中的人体的形状特征、颜色特征、纹理特征。

对于S22,从所述待分析的跟踪器集合中提取一个所述待分析的跟踪器作为待预测的跟踪器;根据所述待预测的跟踪器对应的所述卡尔曼滤波参数进行人体在所述待检测的图像中的位置预估,将预估的位置数据作为所述待预测的跟踪器对应的位置预估结果;重复执行所述从所述待分析的跟踪器集合中提取一个所述待分析的跟踪器作为待预测的跟踪器的步骤,直至确定所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述位置预估结果。

对于S23,采用Deep SORT算法,根据所有所述检测框人体特征数据、所有所述位置预估结果,分别将所述人体检测框集合中每个所述人体检测框与所述待分析的跟踪器集合中每个所述待分析的跟踪器进行级联匹配。

在一个实施例中,上述采用Deep SORT算法,根据所有所述检测框人体特征数据、所有所述位置预估结果、所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果的步骤,包括:

S231:分别对所述人体检测框集合中每个所述人体检测框与每个所述位置预估结果进行马氏距离计算,得到所述人体检测框集合中各个所述人体检测框各自对应的待分析的马氏距离集合;

S232:分别对每个所述检测框人体特征数据与所述待分析的跟踪器集合中每个所述待分析的跟踪器对应的所述跟踪器人体特征数据进行最小余弦距离计算,得到所述人体检测框集合中各个所述人体检测框各自对应的待分析的最小余弦距离集合;

S233:根据所有所述待分析的马氏距离集合和所有所述待分析的最小余弦距离集合进行距离融合处理,得到距离融合结果集合;

S234:采用最小成本算法,根据所述距离融合结果集合,对所述人体检测框集合中的所述人体检测框和所述待分析的跟踪器集合中的所述待分析的跟踪器进行匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果。

本实施例采用Deep SORT算法和最小成本算法进行级联匹配,从而进一步提高了匹配结果的准确性。

对于S231,分别对所述人体检测框集合中每个所述人体检测框与每个所述位置预估结果进行马氏距离计算,也就是说,待分析的马氏距离集合中马氏距离的数量与所述待分析的跟踪器集合中所述待分析的跟踪器的数量相同。

所述待分析的马氏距离集合中的马氏距离的计算公式

其中,

对于S232,分别对每个所述检测框人体特征数据与所述待分析的跟踪器集合中每个所述待分析的跟踪器对应的所述跟踪器人体特征数据进行最小余弦距离计算,也就是说,待分析的最小余弦距离集合中最小余弦距离的数量与所述待分析的跟踪器集合中所述待分析的跟踪器的数量相同。所述检测框人体特征数据与所述跟踪器人体特征数据之间的最小余弦距离也就是外观度量信息。

所述待分析的最小余弦距离集合中的最小余弦距离的计算公式

其中,

对于S233,基于对所述人体检测框和所述待分析的跟踪器对进行距离融合处理的方法,根据所有所述待分析的马氏距离集合和所有所述待分析的最小余弦距离集合进行距离融合处理,将计算得到的所有距离融合结果作为距离融合结果集合。

对于S234,根据所述距离融合结果集合中距离融合结果的数值,对所述人体检测框集合中的每个所述人体检测框和所述待分析的跟踪器集合中的每个所述待分析的跟踪器进行匹配,得到多个检测框跟踪器对集合;采用最小成本算法,从所述多个检测框跟踪器对集合中进行检测框跟踪器对集合选择,得到目标检测框跟踪器对集合,其中,检测框跟踪器对集合中每个检测框跟踪器对包括一个所述人体检测框和一个所述待分析的跟踪器,每个检测框跟踪器对对应一个距离融合结果。检测框跟踪器对集合中的所述人体检测框具有唯一性,并且,检测框跟踪器对集合中的所述待分析的跟踪器具有唯一性。

其中,所述目标检测框跟踪器对集合中的所述人体检测框对应的所述检测框匹配结果确定为匹配成功,所述目标检测框跟踪器对集合中的所述待分析的跟踪器对应的所述跟踪器匹配结果确定为匹配成功。当存在所述人体检测框不在所述目标检测框跟踪器对集合中时,将该所述人体检测框对应的所述检测框匹配结果确定为匹配失败;当存在所述待分析的跟踪器不在所述目标检测框跟踪器对集合中时,将该所述待分析的跟踪器对应的所述跟踪器匹配结果确定为匹配失败。

其中,所述采用最小成本算法,从所述多个检测框跟踪器对集合中进行检测框跟踪器对集合选择,得到目标检测框跟踪器对集合的步骤,包括:分别对所述多个检测框跟踪器对集合中每个检测框跟踪器对集合进行距离融合结果的求和计算,得到所述多个检测框跟踪器对集合中各个所述检测框跟踪器对集合各自对应的融合结果总值;从所有融合结果总值中找出最小值,得到目标融合结果总值;将所述目标融合结果总值对应的所述检测框跟踪器对集合作为所述目标检测框跟踪器对集合。

在一个实施例中,上述根据所有所述待分析的马氏距离集合和所有所述待分析的最小余弦距离集合进行距离融合处理,得到距离融合结果集合的步骤,包括:

S2331:获取第一距离阈值和第二距离阈值;

S2332:从所述人体检测框集合中获取一个所述人体检测框作为待融合的人体检测框;

S2333:从所述待分析的跟踪器集合中获取一个所述待分析的跟踪器作为待融合的跟踪器;

S2334:将所述待融合的人体检测框对应的所述待分析的马氏距离集合中的与所述待融合的跟踪器对应的马氏距离作为待融合的马氏距离;

S2335:将所述待融合的人体检测框对应的所述待分析的最小余弦距离集合中与所述待融合的跟踪器对应的最小余弦距离作为待融合的最小余弦距离;

S2336:当所述待融合的马氏距离小于或等于所述第一距离阈值,并且,所述待融合的最小余弦距离小于或等于所述第二距离阈值时,将所述待融合的马氏距离和所述待融合的最小余弦距离进行线性加权,得到所述待融合的人体检测框和所述待融合的跟踪器之间对应的距离融合结果;

S2337:重复执行所述从所述待分析的跟踪器集合中获取一个所述待分析的跟踪器作为待融合的跟踪器的步骤,直至完成所述待分析的跟踪器集合中所有所述待分析的跟踪器的提取;

S2338:重复执行所述从所述人体检测框集合中获取一个所述人体检测框作为待融合的人体检测框的步骤,直至完成所述人体检测框集合中所有所述人体检测框的提取;

S2339:根据所有所述距离融合结果确定距离融合结果集合。

本实施例实现了只在所述待融合的马氏距离小于或等于所述第一距离阈值,并且,所述待融合的最小余弦距离小于或等于所述第二距离阈值时,将所述待融合的马氏距离和所述待融合的最小余弦距离进行线性加权,从而提高了级联匹配的准确性,进一步提高了目标跟踪的准确性。

对于S2331,可以从数据库中获取第一距离阈值和第二距离阈值,也可以获取用户输入的第一距离阈值和第二距离阈值,还可以获取第三方应用系统发送的第一距离阈值和第二距离阈值,还可以将第一距离阈值和第二距离阈值写入实现本申请的从程序文件中。第一距离阈值,是一个具体数值。第二距离阈值,是一个具体数值。

对于S2336,当所述待融合的马氏距离小于或等于所述第一距离阈值,并且,所述待融合的最小余弦距离小于或等于所述第二距离阈值时,此时意味着所述待融合的马氏距离和所述待融合的最小余弦距离同时满足要求,此时将所述待融合的马氏距离和所述待融合的最小余弦距离进行线性加权,将线性加权得到的数据作为所述待融合的人体检测框和所述待融合的跟踪器之间对应的距离融合结果。

当所述待融合的马氏距离大于所述第一距离阈值,或者,所述待融合的最小余弦距离大于所述第二距离阈值时,此时意味着所述待融合的马氏距离和所述待融合的最小余弦距离中至少一个不满足要求,因此对所述待融合的马氏距离和所述待融合的最小余弦距离不进行线性加权。

对于S2337,重复执行步骤S2333至步骤S2337,直至完成所述待分析的跟踪器集合中所有所述待分析的跟踪器的提取。

对于S2338,重复执行步骤S2332至步骤S2338,直至完成所述人体检测框集合中所有所述人体检测框的提取。

对于S2339,将所有所述距离融合结果作为距离融合结果集合。

在一个实施例中,上述采用最小成本算法,根据所述距离融合结果集合,对所述人体检测框集合中的所述人体检测框和所述待分析的跟踪器集合中的所述待分析的跟踪器进行匹配,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果的步骤,包括:

S2341:采用按消失时长进行顺序排序的方法,将所述待分析的跟踪器集合中的所述待分析的跟踪器进行排序,得到排序后的跟踪器集合;

S2342:采用所述最小成本算法,根据距离融合结果集合,对所述人体检测框集合中的所述人体检测框和所述排序后的跟踪器集合中的所述待分析的跟踪器进行匹配计算,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果。

本实施例实现了按消失时长进行顺序排序的方法和所述最小成本算法进行级联匹配,从而进一步提高了级联匹配的准确性,进一步提高了目标跟踪的准确性。

对于S2341,采用按消失时长进行顺序排序的方法,也就是将消失时长短的所述待分析的跟踪器排在前面,将消失时长长的所述待分析的跟踪器排在后面。

对于S2342,采用所述最小成本算法,根据所述距离融合结果集合中距离融合结果的数值,对所述人体检测框集合中的每个所述人体检测框和所述排序后的跟踪器集合中的每个所述待分析的跟踪器进行匹配计算,得到所述人体检测框集合中各个所述人体检测框各自对应的所述检测框匹配结果和所述待分析的跟踪器集合中各个所述待分析的跟踪器各自对应的所述跟踪器匹配结果。

参照图2,本申请还提出了一种多目标追踪装置,所述装置包括:

数据获取模块100,用于获取目标摄像设备的人体检测框集合和待分析的跟踪器集合;

级联匹配模块200,用于采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果;

被遮挡面积比例确定模块300,用于根据所述人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,所述待分析的人体检测框是所述检测框匹配结果为匹配成功的任一个所述人体检测框;

第一更新模块400,用于获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新。

本实施例通过采用多目标跟踪算法,根据人体检测框集合和待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果,然后根据人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,待分析的人体检测框是检测框匹配结果为匹配成功的任一个人体检测框,最后根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例,对与待分析的人体检测框成功匹配的待分析的跟踪器进行数据更新,从而实现了根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例对遮挡和交叉的人体检测框对应的待分析的跟踪器采用不同的人体特征数据更新方式,避免在遮挡和交叉时始终更新与待分析的人体检测框成功匹配的待分析的跟踪器中的人体特征数据,提高了人体跟踪的准确性。

参照图3,本申请实施例中还提供一种计算机设备,该计算机设备可以是服务器,其内部结构可以如图3所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中,该计算机设计的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于储存多目标追踪方法等数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种多目标追踪方法。所述多目标追踪方法,包括:获取目标摄像设备的人体检测框集合和待分析的跟踪器集合;采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果;根据所述人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,所述待分析的人体检测框是所述检测框匹配结果为匹配成功的任一个所述人体检测框;获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新。

本实施例通过采用多目标跟踪算法,根据人体检测框集合和待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果,然后根据人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,待分析的人体检测框是检测框匹配结果为匹配成功的任一个人体检测框,最后根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例,对与待分析的人体检测框成功匹配的待分析的跟踪器进行数据更新,从而实现了根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例对遮挡和交叉的人体检测框对应的待分析的跟踪器采用不同的人体特征数据更新方式,避免在遮挡和交叉时始终更新与待分析的人体检测框成功匹配的待分析的跟踪器中的人体特征数据,提高了人体跟踪的准确性。

本申请一实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现一种多目标追踪方法,包括步骤:获取目标摄像设备的人体检测框集合和待分析的跟踪器集合;采用多目标跟踪算法,根据所述人体检测框集合和所述待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果;根据所述人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,所述待分析的人体检测框是所述检测框匹配结果为匹配成功的任一个所述人体检测框;获取被遮挡面积阈值,根据所述待分析的人体检测框、所述被遮挡面积阈值和所述被遮挡面积比例,对与所述待分析的人体检测框成功匹配的所述待分析的跟踪器进行数据更新。

上述执行的多目标追踪方法,通过采用多目标跟踪算法,根据人体检测框集合和待分析的跟踪器集合进行级联匹配,得到多个检测框匹配结果和多个跟踪器匹配结果,然后根据人体检测框集合,对待分析的人体检测框进行被遮挡的面积比例计算,得到被遮挡面积比例,其中,待分析的人体检测框是检测框匹配结果为匹配成功的任一个人体检测框,最后根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例,对与待分析的人体检测框成功匹配的待分析的跟踪器进行数据更新,从而实现了根据待分析的人体检测框、被遮挡面积阈值和被遮挡面积比例对遮挡和交叉的人体检测框对应的待分析的跟踪器采用不同的人体特征数据更新方式,避免在遮挡和交叉时始终更新与待分析的人体检测框成功匹配的待分析的跟踪器中的人体特征数据,提高了人体跟踪的准确性。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双速据率SDRAM(SSRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。

需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。

以上所述仅为本申请的优选实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。

相关技术
  • 多目标追踪方法、装置、设备及存储介质
  • 多目标无人机追踪识别方法、装置、电子设备及存储介质
技术分类

06120113045863