目标对象追踪方法、相关装置及计算机程序产品

技术领域

本公开涉及图像处理技术领域，具体涉及计算机视觉、智能交通、云端监控等人工智能技术领域，尤其涉及目标对象追踪方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术

无论能源、制造、教育、建筑、景区、驾驶等商业领域，都普遍存在各类针对性的巡检应用需求，包括着装、行为甄别、区域监控、人员识别等具体行为的识别。以往这些都由人去做相应的检查，但随着计算机视觉技术的发展，联合使用机器硬件和软件控制的方式来取代已经变得越来越普遍，并且提供了更稳定、更持久和更全面的服务能力。

现有技术中，采用的在源视频流中加入推理模型的生成的推理结果，以生成混合视频流实现目标追踪，但因为硬件成本和部署成本、用于追踪目标对象的推理模型部署在云端或者远程服务器和推理模型的推理能力参差不齐的原因，导致出现推理结果和视频流时间戳对应不上，推理位置显示不精确，有偏移，显示帧率不高等问题。

发明内容

本公开实施例提出了一种目标对象追踪方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

第一方面，本公开实施例提出了一种目标对象追踪方法，包括：接收依次传入的构成目标视频流的各目标图像帧；获取该目标视频流的类别信息，并确定传入该类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长；识别接收到的各图像帧中包含的目标对象的目标信息，生成目标信息流；将该目标信息流与缓冲该目标时长后的目标视频流叠加显示，以呈现通过该目标信息突出显示该目标对象。

第二方面，本公开实施例提出了一种目标对象追踪装置，包括：图像帧接收单元，被配置成接收依次传入的构成目标视频流的各目标图像帧；目标时长确定单元，被配置成获取该目标视频流的类别信息，并确定传入该类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长；对象识别单元，被配置成识别接收到的各图像帧中包含的目标对象的目标信息，生成目标信息流；叠加显示单元，被配置成将该目标信息流与缓冲该目标时长后的目标视频流叠加显示，以呈现通过该目标信息突出显示该目标对象。

第三方面，本公开实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的目标对象追踪方法。

第四方面，本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的目标对象追踪方法。

第五方面，本公开实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的目标对象追踪方法。

本公开实施例提供的目标对象追踪方法、装置、电子设备、计算机可读存储介质及计算机程序产品，接收依次传入的构成目标视频流的各目标图像帧后，获取该目标视频流的类别信息，并确定传入类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长，并识别接收到的各图像帧中包含的目标对象的目标信息，生成目标信息流，最终将该目标信息流与缓冲该目标时长后的目标视频流叠加显示，以呈现通过该目标信息突出显示该目标对象。

本公开在接收到传入构成目标视频流的目标图像帧后，可以根据该目标视频流的类别信息进行延时推算，以预测用于追踪该目标视频流中目标对象的目标时长，根据该目标时长对目标视频流的播放内用进行相应的延迟，以对齐包含推理结果的目标信息流和目标视频流，保证后续得到追踪结果与目标视频流中完全匹配的追踪视频，对齐目标对象和追踪结果、提高目标对象追踪的准确性。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开可以应用于其中的示例性系统架构；

图2为本公开实施例提供的一种目标对象追踪方法的流程图；

图3为本公开实施例提供的另一种目标对象追踪方法的流程图；

图4为本公开实施例提供的另一种目标对象追踪方法下对获取关键帧中第一目标信息的方式进行优化的流程图；

图5-1、5-2为本公开实施例提供的在一应用场景下的目标对象追踪方法的效果示意图；

图6为本公开实施例提供的一种目标对象追踪装置的结构框图；

图7为本公开实施例提供的一种适用于执行目标对象追踪方法的电子设备的结构示意图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。

此外，本公开涉及的技术方案中，所涉及的用户个人信息的获取(例如在目标对象为人体时，本公开后续可能涉及到的包含人脸信息的目标视频流、目标图像帧等)、存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

图1示出了可以应用本公开的目标对象追踪方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用，例如区域监控类应用、着装识别类应用、即时通讯类应用等。

终端设备101、102、103和服务器105可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等；当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器；服务器为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。

服务器105通过内置的各种应用可以提供各种服务，以可以提供用以识别特定区域内是否有人员进入的区域监控类应用为例，服务器105在运行该区域监控类应用时可实现如下效果：首先，通过网络104从终端设备101、102、103中接收依次传入的构成目标视频流的各目标图像帧；然后，服务器105获取该目标视频流的类别信息，并确定与该类别信息相同的历史视频流获取到识别结果所需的目标时长后；服务器105对接收到的各图像帧中包含的目标对象的目标信息进行识别，以生成目标信息流；最后，服务器105将该目标信息流与缓冲该目标时长后的目标视频流叠加显示，以呈现通过该目标信息突出显示该目标对象。

需要指出的是，构成目标视频流的各目标图像帧除可以从终端设备101、102、103通过网络104获取到之外，也可以通过各种方式预先存储在服务器105本地。因此，当服务器105检测到本地已经存储有这些数据时(例如开始处理之前留存的包括有目标对象的历史视频等)，可选择直接从本地获取这些数据，在此种情况下，示例性系统架构100也可以不包括终端设备101、102、103和网络104。

由于对各个图像帧中包含的目标对象的目标信息进行识别需要占用较多的运算资源和较强的运算能力，因此本公开后续各实施例所提供的目标对象追踪方法一般由拥有较强运算能力、较多运算资源的服务器105来执行，相应地，目标对象追踪装置一般也设置于服务器105中。但同时也需要指出的是，在终端设备101、102、103也具有满足要求的运算能力和运算资源时，终端设备101、102、103也可以通过其上安装的区域监控类应用完成上述本交由服务器105做的各项运算，进而输出与服务器105同样的结果。尤其是在同时存在多种具有不同运算能力的终端设备的情况下，但区域监控类应用判断所在的终端设备拥有较强的运算能力和剩余较多的运算资源时，可以让终端设备来执行上述运算，从而适当减轻服务器105的运算压力，相应的，目标对象追踪装置也可以设置于终端设备101、102、103中。在此种情况下，示例性系统架构100也可以不包括服务器105和网络104。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

请参考图2，图2为本公开实施例提供的一种目标对象追踪方法的流程图，其中流程200包括以下步骤：

步骤201，接收依次传入的构成目标视频流的各目标图像帧。

在本实施例中，由目标对象追踪方法的执行主体(例如图1所示的服务器105)接收依次传入的构成目标视频流的各目标图像帧。

需要指出的是，构成目标视频流的各目标图像帧可以由上述执行主体直接从本地的存储设备获取，也可以从非本地的存储设备(例如图1所示的终端设备101、102、103)中获取。本地的存储设备可以是设置在上述执行主体内的一个数据存储模块，例如服务器硬盘，在此种情况下，两张原始图片和其排序信息可以在本地快速读取到；非本地的存储设备还可以为其它任何被设置用于存储数据的电子设备，例如一些用户终端等，在此情况下，上述执行主体可以通过向该电子设备发送获取命令来获取所需的构成目标视频流的各目标图像帧。

步骤202，获取目标视频流的类别信息，并确定传入类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长。

在本实施例中，由上述执行主体对目标视频流的类型信息进行解析，按照目标视频中包括的场景信息、所期望进行追踪的目标对象的种类信息等内容对目标视频流进行类别分类，以得到相应的类型信息，在确定类别信息后，根据该类别信息确定传入网络环境与传入的构成目标视频流的各目标图像帧相近似的类别信息相同的历史视频流，解析该传入该历史视频流的设备最终获取到识别结果信息流所需的目标时长。

其中，传入类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长通常与识别图像帧中目标对象的目标信息的识别主体的处理速度和/或发送历史视频流至识别主体的终端设备与该识别主体之间的通信能力有关，可以基于历史视频流在上述环节的传输时间结合历史视频的类型进行相应记录，以分析得到上述目标时长。

进一步的，网络环境是否相似可以根据传入构成目标视频流的各目标图像帧和传入历史视频流的设备是否同处于相同的网络区域、历史网路波动率之间的差异是否低于预设的阈值进行相应判断，若传入构成目标视频流的各目标图像帧和传入历史视频流的设备处于相同的网络区域和/或传入历史视频流时的网络波动率与接收到个目标图像帧时的网络波动率之间的差异地域预设的阈值，可以对应的认为上述执行主体与传入构成目标视频流的各目标图像帧的设备的网络环境和上述执行主体与传入历史视频流的设备的网络环境相似。

应当理解的是，还可以根据历史数据中传入目标视频流的设备接收到上述执行主体发送的识别结果信息流的时间来确定对应的目标时长，以获取更加准确的目标时长。

步骤203，识别接收到的各图像帧中包含的目标对象的目标信息，生成目标信息流。

在本实施例中，上述执行主体对各图像帧中的内容进行解析、识别，以获取到目标对象的目标信息，该目标信息指的是用于标识目标对象位于图像帧中的像素位置的信息，示例性的可以为包围目标对象的矩形框、指向目标对象的箭头标识等内容，并基于获取到的多个信息生成目标信息流，目标信息流中的目标信息可以在目标信息流与目标视频流混流后叠加至对应的目标图像帧。

其中，可以利用卷积神经网络(ConvNets)、长短期记忆循环神经网络(LongShort-Term Memory，简称LSTM)等方式对各图像帧中的内容进行解析、识别的方式，以识别各图像帧中包括的目标对象，目标对象的设置可以根据用户的需求进行特定的内容设置，也可以设置为环境变化的情况等，示例性的，对场景安全信息进行监控时，可以设置在该场景下出现移动对象时，确定该移动对象为目标对象，监控进入该场景的移动对象，如人体、流浪动物等的移动轨迹，以实现对场景安全信息的监控，或对场景中的工作人员是否合格的佩戴安全装备进行监控，此时可以相应的设置目标对象为工作人员和安全装备(如安全帽、防护服)，并判断工作人员和安全装备是否可以同步进行移动，以判断工作人员是否合格的佩戴有安全装备进行作业。

步骤204，将目标信息流与缓冲目标时长后的目标视频流叠加显示，以呈现通过目标信息突出显示目标对象。

在本实施例中，根据上述步骤202中获取到的目标时长确定缓冲时长，并在目标视频流之前添加与缓冲时长对应的缓冲片段后，将经缓冲目标时长后的目标视频流与上述步骤203中确定的目标信息流进行叠加显示，叠加显示后的混合视频流中包含有目标信息，以便于利用该目标信息突出显示该目标视频流中的目标对象，完成对目标对象的追踪。

其中，为了实现本公开的目的，缓冲时长的长度大于或等于该目标时长，在实践中，为了进一步的提升用户的使用体验、避免用户等待过长时间，优选地，选用与目标时长相等的时间长度作为缓冲时长。

在实践中，为了提升用户体验，缓冲片段还可以设置为过度性的播放视频，以便于用户浏览该播放视频、等待缓冲。

应当理解的是，将经缓冲目标时长后的目标视频流与上述步骤203中确定的目标信息流进行叠加后得到混合视频流的过程，可以在上述执行主体完成叠加后，在上述显示执行主体本地呈现给用户或将该混合视频流发送给用户所使用的播放设备进行显示(示例性的如传入目标视频流的设备或其他用户指定的设备等)，也可以在得到目标信息流后将该目标信息流发送给用户所使用的播放设备以指示在用户所使用的播放设备中生成混合视频流，在此情况下，上述执行主体还可以通过指示该用户所使用的播放对目标视频流进行缓冲以实现上述目的。

本公开实施例提供的目标对象追踪方法，在接收到传入构成目标视频流的目标图像帧后，可以根据该目标视频流的类别信息进行延时推算，以预测用于追踪该目标视频流中目标对象的目标时长，根据该目标时长对目标视频流的播放内用进行相应的延迟，以对齐包含推理结果的目标信息流和目标视频流，保证后续得到追踪结果与目标视频流中完全匹配的追踪视频，对齐目标对象和追踪结果、提高目标对象追踪的准确性。

在本实施例的一些可选的实现方式中，确定传入类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长的步骤包括：确定生成该历史视频流中的识别结果信息流的平均时间，以及与传入该历史视频流的设备之间的历史网络波动率；获取接收该目标图像帧时的当前网络波动率，并根据该当前网络波动率和该历史网络波动率推算目标网络波动率；根据该平均时间和该目标网络波动率确定该目标时长。

具体的，在本实施例中选择将目标信息流(识别结果信息流)发送至传入目标视频流的设备进行混合、叠加显示以实现目标对象追踪方法时，获取上述执行识别历史视频流得到识别结果信息流的平均时间，并确定上述执行主体与传入该历史视频流的设备之间的历史网络波动率后，根据上述执行主体接收到各目标图像帧时的当前网络波动率和该历史网络波动率对后续发送目标信息流时的目标网络波动率进行推算，以根据该平均时间和该目标网络波动率确定目标时长，以获取更加贴近本次实际网络通信情况的目标时长，进一步的提升目标信息流的质量、减少因传输网络波动率延时等原因造成的识别结果与目标对象不同步的情况。

示例性的，在接收历史视频流中图像帧时对应的历史网络波动率为2％，当前网络波动率为1％时，获取历史视频流中后续接收到视频识别结果信息流对应的网络波动率为6％，则相应的预测后续的目标网络波动率为3％。

请参考图3，图3为本公开实施例提供的另一种目标对象追踪方法的流程图，其中流程300包括以下步骤：

步骤301，接收依次传入的构成目标视频流的各目标图像帧。

步骤302，获取目标视频流的类别信息，并确定传入类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长。

步骤303，获取接收到的各图像帧中存在的关键帧。

在本实施例中，关键帧指的是根据接收到用户指示或根据系统预设的识别要求开始进行识别的对应的图像帧，关键帧中包括的目标信息与上述执行主体识别出的目标信息严格对应。

在实践中，关键帧也可以是根据目标视频流确定的便于生成目标对象的目标信息、便于进行目标对象的目标信息识别的图像帧，以便于根据这些关键帧进行快速、高效的目标对象的目标对象信息的识别，得到识别结果。

步骤304，识别关键帧中包括的目标对象的第一目标信息。

在本实施例中，识别目标对象的第一目标信息的过程与上述图2对应实施例中的步骤203中采用的相关方式相同，此处不再赘述。

步骤305，基于关键帧中包含的第一目标信息预测与关键帧关联的非关键帧中包括的第二目标信息。

在本实施例中，在获取到相邻的两个关键帧中的第一目标信息后，将在前关键帧中的第一目标信息作为起始位置，在后关键帧中的第一目标位置信息作为终点位置，根据这两个关键帧中包括的非关键帧(视为与在前关键帧相关联的非关键帧)的数量确定目标信息每次平移的角度和距离，以对起始位置和终点位置的移动轨迹进行预测，生成上述两个相邻关键帧中各非关键帧中包括的第二目标信息。

示例性的，在先关键帧中确定的第一目标信息为：目标对象的追踪矩形框的顶点坐标分别为(10，20)、(10,40)、(20，20)和(20，40)，在后关键帧中确定的第一目标信息为：目标对象的追踪矩形框的顶点坐标分别为(40，20)、(40，40)、(50，20)和(50，40)，则这两个关键帧中间的2个非关键帧中确定的第一个非关键帧的第二目标对象信息为：目标对象的追踪矩形框的顶点坐标分别为(20，20)、(20，40)、(30，20)和(30，40)；第二个非关键帧的第二目标对象信息为：目标对象的追踪矩形框的顶点坐标分别为(30，20)、(30,40)、(40，20)和(40，40)。

进一步的，在根据相邻的两个关键帧中的第一目标信息来预测第二目标信息时，若相邻的两个关键帧中的第一目标信息之间的位置差异超过预先设定的可移动范围时，则认为这两个关键帧的识别的第一目标信息不来自于同一个目标对象，则相应逐帧对涉及的与关键帧关联的非关键帧进行目标对象的目标信息的识别，不再以该方式生成第二目标信息。

其中，该移动范围可根据两个关键帧的时间戳和帧图像的像素内容判断确定，即在将帧图像内容中涉及的实际场景距离转化为像素距离后，根据像素距离和时间戳确定移动速度、移动范围后，结合目标对象的具体类型确定。

步骤306，根据第一目标信息和第二目标信息生成目标信息流。

在本实施例中，根据目标对象的第一目标信息和第二目标信息生成目标信息流的过程与上述图2对应实施例中的步骤203中采用的相关方式相同，此处不再赘述。

步骤307，将目标信息流与缓冲目标时长后的目标视频流叠加显示，以呈现通过目标信息突出显示目标对象。

以上步骤301、302和307与如图2所示的步骤201、202和204相似，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述。

在上述图2所示实施例的基础上，本实施例进一步的将目标信息流中的各目标图像帧区分为关键帧和非关键帧的后，仅识别关键帧中包括的目标对象的目标信息，后续根据关键帧中的识别结果对与关键帧相关的非关键帧的结果进行推算，不仅保证了识别得到的目标信息准确，还可以减少需识别的图像帧数量以提升识别结果的生成效率。

在本实施例的一些可选的实现方式中，若存在有多个关键帧时，为防止后续关键帧识别时间过长，导致在生成该关键帧中的第一目标信息后影响了目标信息流中内容的时间序列，则生成关键帧对应的第一目标信息的时间进行预测，在生成速度无法满足要求时对此进行优化，进一步的请参考图4，图4为该实现方式的一种具体的流程图，在上述图3所示的实施例中的步骤303之后，步骤304之前还可以包括流程400中所示的步骤，具体为：

步骤401，响应于接收到各图像帧中存在的多个关键帧，根据该关键帧的时间顺序确定识别顺序。

具体的，在确定各图像帧中存在的关键帧后，若存在有多个关键帧，则根据关键帧在目标视频流的播放顺序确定识别关键帧的时间顺序，即对这些关键帧根据播放的时间先后顺序确定识别优先级。

步骤402，预测识别当前关键帧的第一目标信息所需要的识别时间。

具体的，当前关键帧指的是目标对象追踪方法根据上述步骤401中确定的识别顺序进行识别目标对象的目标信息过程中，当前顺位下正预备识别的关键帧，在确定该当前关键帧后对识别当前关键帧的第一目标信息所需要的识别时间进行预测。

其中，当前关键帧的识别时间可以根据该目标图像帧中包含的场景类型、数据量以及历史完成关键帧中第一目标信息所需的识别时间进行预测。

步骤403，判断缓冲目标时长后的目标视频由当前播放帧至当前关键帧的播放时间长度与该识别时间的长度关系，若该时间长度小于该识别时间则执行步骤404，否则执行步骤405。

步骤404，将当前关键帧调整为识别顺序中当前关键帧下一顺位的关键帧，并跳转至预测识别当前关键帧的第一目标信息所需要的识别时间。

具体的，在基于上述步骤402获取到识别当前关键帧的第一目标信息所需要的识别时间后，获取缓冲目标时长后的目标视频由当前播放帧至当前关键帧的播放时间长度，并判断该时间长度与识别时间的之间的大小关系，若该时间长度低于该识别时间，则认为无法完成当前关键帧的识别工作，因此，为保证目标信息流的质量以及不影响后续关键帧中内容的识别工作，则放弃识别当前关键帧中的第一目标信息，将当前待识别的关键帧调整为识别顺位上的该当前关键帧的下一顺位的关键帧，采用新的当前关键帧继续进行相应的识别时间预测操作。

步骤405，识别当前关键帧中包括的目标对象的第一目标信息。

具体的，可继续执行上述图3所示实施例中步骤304的步骤。

在本实施例的一些可选的实现方式中，因目标对象追踪方法的执行主体对图像帧中目标对象进行识别得到目标信息的速度相对较为固定，因此混流视频中目标视频流与目标信息流同步主要受到上述执行主体与

因此本实施例中涉及到的目标视频流接收到识别时间较大的受到上述执行主体与目标视频流的传入设备之间的网络通信状况所影响，进一步的，为了获取更为准确的识别时间，获取与目标视频流的传入设备之间的实时通信网络波动率；基于实时通信网络波动率预测识别时间，以得到更为准确的识别时间。

为加深理解，本公开还结合一个具体应用场景，给出了一种具体的实现方案，请参见如图5所示的流程500。

接收依次传入的构成目标视频流的各目标图像帧。

获取该目标视频流的类别信息后，确定传入该类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长，该历史视频流中获取到识别结果信息流的时长如图5-1所示，即在第一帧发送目标对象追踪请求后，获取到第一帧识别结果的时间为第6帧，因此确定目标时长为5帧。

识别接收到的各图像帧中包含的目标对象的目标信息，生成目标信息流；

将目标信息流与缓冲5帧后的目标视频流叠加显示，该叠加显示中的经缓冲后的目标视频流和目标信息流的如图5-2所示，以呈现通过该目标信息突出显示该目标对象。

在本应用场景下可以看出，在接收到传入构成目标视频流的目标图像帧后，可以根据该目标视频流的类别信息进行延时推算，以预测用于追踪该目标视频流中目标对象的目标时长，根据该目标时长对目标视频流的播放内用进行相应的延迟，以对齐包含推理结果的目标信息流和目标视频流，保证后续得到追踪结果与目标视频流中完全匹配的追踪视频，对齐目标对象和追踪结果、提高目标对象追踪的准确性。

进一步参考图6，作为对上述各图所示方法的实现，本公开提供了一种目标对象追踪装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图6所示，本实施例的目标对象追踪装置600可以包括：图像帧接收单元601、目标时长确定单元602、对象识别单元603和叠加显示单元604。其中，图像帧接收单元601，被配置成接收依次传入的构成目标视频流的各目标图像帧；目标时长确定单元602，被配置成获取该目标视频流的类别信息，并确定传入该类别信息相同的历史视频流的设备最终获取到识别结果信息流所需的目标时长；对象识别单元603，被配置成识别接收到的各图像帧中包含的目标对象的目标信息，生成目标信息流；叠加显示单元604，被配置成将该目标信息流与缓冲该目标时长后的目标视频流叠加显示，以呈现通过该目标信息突出显示该目标对象。

在本实施例中，目标对象追踪装置600中：图像帧接收单元601、目标时长确定单元602、对象识别单元603和叠加显示单元604的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-204的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，对象识别单元603包括：关键帧获取子单元，被配置成获取接收到的各图像帧中存在的关键帧；第一目标信息识别子单元，被配置成识别该关键帧中包括的目标对象的第一目标信息；第二目标信息预测子单元，被配置成基于该关键帧中包含的该第一目标信息预测与该关键帧关联的非关键帧中包括的第二目标信息；目标信息流生成子单元，被配置成根据该第一目标信息和该第二目标信息生成该目标信息流。

在本实施例的一些可选的实现方式中，该装置还包括：识别顺序确定单元，被配置成响应于接收到各图像帧中存在的多个关键帧，根据该关键帧的时间顺序确定识别顺序；识别时间预测单元，被配置成预测识别当前关键帧的该第一目标信息所需要的识别时间，该当前关键帧为当前识别的关键帧；识别顺序调整单元，被配置成响应于该缓冲该目标时长后的目标视频由当前播放帧至该当前关键帧的播放时间长度小于该识别时间，将该当前关键帧调整为该识别顺序中该当前关键帧下一顺位的该关键帧，并跳转至预测识别当前关键帧的该第一目标信息所需要的识别时间。

在本实施例的一些可选的实现方式中，该识别时间预测单元包括：网络波动率获取子单元，被配置成获取与该目标视频流的传入设备之间的实时通信网络波动率；识别预测生成子单元，被配置成基于该实时通信网络波动率预测该识别时间。

在本实施例的一些可选的实现方式中，该目标时长确定单元包括：历史参数获取子单元，被配置成确定生成该历史视频流中的识别结果信息流的平均时间，以及与传入该历史视频流的设备之间的历史网络波动率；目标网络波动率推算子单元，被配置成获取接收该目标图像帧时的当前网络波动率，并根据该当前网络波动率和该历史网络波动率推算目标网络波动率；目标时长确定子单元，被配置成根据该平均时间和该目标网络波动率确定该目标时长。

本实施例作为对应于上述方法实施例的装置实施例存在，本实施例提供的目标对象追踪装置在接收到传入构成目标视频流的目标图像帧后，可以根据该目标视频流的类别信息进行延时推算，以预测用于追踪该目标视频流中目标对象的目标时长，根据该目标时长对目标视频流的播放内用进行相应的延迟，以对齐包含推理结果的目标信息流和目标视频流，保证后续得到追踪结果与目标视频流中完全匹配的追踪视频，对齐目标对象和追踪结果、提高目标对象追踪的准确性。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。

设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如目标对象追踪方法。例如，在一些实施例中，目标对象追踪方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的目标对象追踪方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行目标对象追踪方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷。服务器也可以分为分布式系统的服务器，或者是结合了区块链的服务器。

根据本公开实施例的技术方案，在接收到传入构成目标视频流的目标图像帧后，可以根据该目标视频流的类别信息进行延时推算，以预测用于追踪该目标视频流中目标对象的目标时长，根据该目标时长对目标视频流的播放内用进行相应的延迟，以对齐包含推理结果的目标信息流和目标视频流，保证后续得到追踪结果与目标视频流中完全匹配的追踪视频，对齐目标对象和追踪结果、提高目标对象追踪的准确性。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开提供的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。