行人重识别方法和装置
文献发布时间:2023-06-19 09:46:20
技术领域
本公开涉及图像识别技术领域,具体涉及计算机视觉技术领域,尤其涉及一种行人重识别方法、装置、电子设备和计算机可读介质。
背景技术
行人重识别是通过计算机视觉技术对人物进行跨摄像头检索,现有行人重识别模型主要依赖行人衣服的颜色、样式等属性,针对无法辨别行人衣服的颜色、样式的场景,现有行人重识别模型的识别性能会严重下降。
发明内容
本公开的实施例提出了行人重识别方法、装置、电子设备和计算机可读介质。
第一方面,本公开的实施例提供了一种行人重识别方法,该方法包括:采集包括至少两个目标图像的目标图像集合,每个目标图像包括至少一个人物;提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征,其中,全局特征为外观整体特征,头肩特征为头部和肩部的特征;基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征;基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物。
在一些实施例中,上述基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征,包括:针对各个目标图像的每一个人物,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,针对各个目标图像的每一个人物,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征,包括:针对各个目标图像的每一个人物,若该人物的全局特征中存在参考识别特征,获取与该参考识别特征相对应的全局特征的权重值、头肩特征的权重值;连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,针对各个目标图像的每一个人物,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征,还包括:若该人物的全局特征中不存在参考识别特征,获取预设的全局特征的权重值、头肩特征的权重值;连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,参考识别特征包括人物图像的亮度小于预设亮度值或人物衣服的颜色为黑色。
在一些实施例中,基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征,包括:针对各个目标图像的每一个人物,将该人物的全局特征输入已训练的权重自适应模型,得到权重自适应模型输出该人物的全局特征的权重值;基于该人物的全局特征的权重值,计算该人物的头肩特征的权重值;连接该人物的头肩特征与该人物的全局特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物,包括:计算不同目标图像中任意两个人物的表征特征之间的距离,形成距离矩阵;基于距离矩阵,确定不同目标图像中的相同人物。
在一些实施例中,上述提取目标图像集合中各个目标图像的各个人物的全局特征,包括:将各个目标图像的各个人物的图像输入已训练的全局深度学习模型,得到已训练的全局深度学习模型输出的各个目标图像的各个人物的全局特征。
在一些实施例中,上述提取目标图像集合中各个目标图像的各个人物的头肩特征,包括:将各个目标图像的各个人物的图像输入已训练的头肩定位模型,得到已训练的头肩定位模块输出的各个目标图像的各个人物的图像中的头肩部区域图像;将各个目标图像的各个人物的图像中头肩部区域图像输入已训练的头肩深度学习模型,得到已训练的头肩深度学习模型输出的各个目标图像的各个人物的头肩特征。
第二方面,本公开的实施例提供了一种行人重识别装置,该装置包括:采集单元,被配置成采集包括至少两个目标图像的目标图像集合,每个目标图像包括至少一个人物;提取单元,被配置成提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征,其中,全局特征为外观整体特征,头肩特征为头部和肩部的特征;表征单元,被配置成基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征;确定单元,被配置成基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物。
在一些实施例中,上述表征单元包括:表征模块,被配置成针对各个目标图像的每一个人物,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述表征模块包括:第一获取子模块,被配置成针对各个目标图像的每一个人物,若该人物的全局特征中存在参考识别特征,获取与该参考识别特征相对应的全局特征的权重值、头肩特征的权重值;第一连接子模块,被配置成连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述表征模块还包括:第二获取子模块,被配置成针对各个目标图像的每一个人物,若该人物的全局特征中不存在参考识别特征,获取预设的全局特征的权重值、头肩特征的权重值;第二连接子模块,被配置成连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,参考识别特征包括人物图像的亮度小于预设亮度值或人物衣服的颜色为黑色。
在一些实施例中,上述表征单元包括:获取模块,被配置成针对各个目标图像的每一个人物,将该人物的全局特征输入已训练的权重自适应模型,得到权重自适应模型输出的该人物的全局特征的权重值;得到模块,被配置成基于该人物的全局特征的权重值,计算该人物的头肩特征的权重值;连接模块,被配置成连接该人物的头肩特征与该人物的全局特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述确定单元包括:计算模块,被配置成计算不同目标图像中任意两个人物的表征特征之间的距离,形成距离矩阵;确定模块,被配置成基于距离矩阵,确定不同目标图像中的相同人物。
在一些实施例中,上述提取单元包括:全局提取模块,被配置成将各个目标图像的各个人物的图像输入已训练的全局深度学习模型,得到已训练的全局深度学习模型输出的各个目标图像的各个人物的全局特征。
在一些实施例中,上述提取单元包括:图像提取模块,被配置成将各个目标图像的各个人物的图像输入已训练的头肩定位模型,得到已训练的头肩定位模块输出的各个目标图像的各个人物的图像中的头肩部区域图像;头肩提取模块,被配置成将各个目标图像的各个人物的图像中头肩部区域图像输入已训练的头肩深度学习模型,得到已训练的头肩深度学习模型输出的各个目标图像的各个人物的头肩特征。
第三方面,本公开的实施例提供了一种电子设备,该电子设备包括:一个或多个处理器;存储装置,其上存储有一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本公开的实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本公开的实施例提供的行人重识别方法和装置,首先采集包括至少两个目标图像的目标图像集合;其次提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征;然后基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征;最后基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物,由此在行人重识别过程中,通过人物全局特征和头肩特征确定不同目标图像中的相同人物,提高了人物识别效果。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开的一个实施例可以应用于其中的示例性系统架构图;
图2是根据本公开的行人重识别方法的一个实施例的流程图;
图3是根据本公开的得到人物的表征特征的方法的一个实施例的流程图;
图4是根据本公开的确定各个目标图像的各个人物的表征特征的方法的一个实施例的流程图;
图5是根据本公开的行人重识别方法的一个具体实施场景的示意图;
图6是根据本公开的确定不同目标图像中的相同人物的流程图;
图7是根据本公开的行人重识别装置的一个实施例的结构示意图;
图8是适于用来实现本公开的实施例的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开的行人重识别方法的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,通常可以包括无线通信链路等等。
终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如即时通信工具、邮箱客户端等。
终端设备101、102、103可以是硬件,也可以是软件;当终端设备101、102、103为硬件时,可以是具有通信和控制功能的用户设备,上述用户设置可与服务器105进行通信。当终端设备101、102、103为软件时,可以安装在上述用户设备中;终端设备101、102、103可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如为终端设备101、102、103上图像处理系统提供支持的图像服务器。图像服务器可以对网络中各目标图像的相关信息进行分析处理,并将处理结果(如行人重识别策略)反馈给终端设备。
需要说明的是,服务器可以是硬件,也可以是软件。当服务器为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本公开的实施例所提供的行人重识别方法一般由服务器105执行。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
如图2,示出了根据本公开的行人重识别方法的一个实施例的流程200,该行人重识别方法包括以下步骤:
步骤201,采集包括至少两个目标图像的目标图像集合。
其中,每个目标图像包括至少一个人物。
本实施例中,行人重识别方法运行于其上的执行主体(比如服务器、终端设备)可以通过实时获取或者通过内存读取的方式获取至少两个目标图像,并将获取到的目标图像组成目标图像集合。
目标图像中的人物可以是一个,也可以是多个,在不同目标图像中具有相同的人物时,如何从不同目标图像中确定相同的人物,是行人重识别方法运行于其上的执行主体的主要工作。
进一步地,目标图像还可以是从监控视频中获取到的图像,该目标图像由于相机分辨率和拍摄角度的缘故,通常无法得到质量非常高的人脸图片,因此执行主体需要通过人脸识别之外的手段确定不同目标图像中相同的人物。
更进一步地,目标图像还可以是在黑夜或者非正常天气(阴雨、雾、大风等)得到的图像,该目标图像由于人物周围环境或者均穿着黑衣的缘故,通常无法通过该目标图像中人物的衣服的颜色、样式等,辨别人物。
步骤202,提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征。
其中,全局特征为外观整体特征,头肩特征为头部和肩部的特征。
本实施例中,在提取目标图像集合中各个目标图像的各个人物的全局特征之前,可以提取各个目标图像的各个人物的图像,基于各个人物的图像在所在的目标图像中的特点,提取各个人物在各自的目标图像的外观整体特征—全局特征,该全局特征为人物在目标图像中所体现外观的特征,比如,全局特征包括:人物在目标图像中的衣着或/和鞋子的颜色、样式等。需要说明的是,对于目标图像是在黑夜或者非正常天气的到的目标图像,全局特征可以包括:人物在目标图像中的衣着或/和鞋子的样式等。
具体地,可以通过全局深度学习模型或行人重识别模型提取各个目标图像的各个人物的全局特征,其中,行人重识别模型为现有成熟的模型,具体可以包括:主轴网络(Spindle Net),多粒度网络(Multiple Granularity Network,简称MGN)等。
全局深度学习模型是为了实现全局特征提取而基于深度学习算法建立的模型。全局深度学习模型可以包括:一个ResNet50网络结构、一个全局平均池化层以及一个卷积层,如图5所示。各个目标图像的各个人物的图像首先经过ResNet50网络结构提取特征,然后依次通过全局平均池化层和卷积核为1*1的卷积层进行特征降维,最终得到全局特征f
在本实施例的一些可选实现方式中,提取目标图像集合中各个目标图像的各个人物的全局特征,包括:
将各个目标图像的各个人物的图像输入已训练的全局深度学习模型,得到已训练的全局深度学习模型输出的各个目标图像的各个人物的全局特征。
本可选实现方式中,已训练的全局深度学习模型是预先训练完成的深度学习模型。在训练全局深度学习模型时,首先收集多个人物图像作为训练样本,确定人物图像对应的预设的全局特征,根据全局深度学习模型对训练样本的全局特征检测结果与训练样本对应的预设的全局特征之间的差异确定全局深度学习模型的误差,利用误差反向传播的方式迭代调整全局深度学习模型的参数,使其误差逐步缩小。在全局深度学习模型的误差收敛至一定的范围内或迭代的次数达到预设的次数阈值时可以停止调整参数,得到训练完成的全局深度学习模型。
本可选实现方式实现的提取全局特征的方法,采用全局深度学习模型,对目标图像的各个人物的图像进行全局特征提取,提高了全局特征提取的效率,保证了全局特征提取的可靠性。
本实施例中,在上述提取全局特征的同时,执行主体可以提取各个目标图像的各个人物的图像,基于各个目标图像的各个人物的图像,确定各个人物的图像中的头肩区域图像;然后,基于各个人物的图像中的头肩区域图像,提取头部和肩部的特征—头肩特征,头肩特征为与人物的头部或肩部相关的人物的物质或属性特征,比如,头肩特征包括:性别、人脸、发型、眼镜、肩型、围巾、脖子粗细等等,需要说明的是,对于质量较低的目标图像,得到的人物的头肩特征可以包括:性别、发型、眼镜、肩型、围巾等。
具体地,可以通过头肩定位模型和头肩深度学习模型提取各个目标图像的各个人物的头肩特征。其中,头肩定位模型可以包括:一个ResNet18网络结构和一个全连接层。在头肩定位模型训练完成之后,将各个目标图像的各个人物的图像首先输入ResNet18网络结构提取特征,再通过全连接层输出各个目标图像的各个人物的图像中的头肩部区域矩形框的坐标。头肩部区域矩形框的坐标包括:矩形框的左上角和右下角顶点的坐标,通过头肩部区域矩形框的坐标可以得到各个目标图像的各个人物的图像中的头肩部区域图像。其中,ResNet18网络结构是具有18层的残差网络,残差网络是一种深度卷积网络,残差网络更容易优化,并且能够通过增加相当的深度来提高准确率。
头肩深度学习模型可以包括:一个ResNet50网络结构、三个注意力模块、三个广义平均池化层以及三个卷积层,如图5所示。在头肩深度学习模型训练完成之后,将头肩定位模型输出的各个目标图像的各个人物的图像中的头肩部区域图像经过ResNet50提取特征得到头肩原始特征,将得到的头肩原始特征水平分为三块;水平划分的三块特征中每块特征都通过各自对应的注意力模块对空间维度和通道维度中的高响应部分进行加权,然后每块特征都依次通过广义平均池化层和一个卷积核为1*1的卷积层进行特征降维,将降维后的三个特征在通道维度进行连接得到头肩特征f
在本实施例的一些可选实现方式中,提取目标图像集合中各个目标图像的各个人物的头肩特征,包括:将各个目标图像的各个人物的图像输入已训练的头肩定位模型,得到已训练的头肩定位模块输出的各个目标图像的各个人物的图像中的头肩部区域图像;将各个目标图像的各个人物的图像中头肩部区域图像输入已训练的头肩深度学习模型,得到已训练的头肩深度学习模型输出的各个目标图像的各个人物的头肩特征。
本可选实现方式中,已训练的头肩定位模型用于定位各个目标图像的各个人物的图像中的头肩部区域图像,其是预先训练完成的模型。在训练头肩定位模型时,首先收集多个人物图像作为训练样本,确定人物图像对应的预设的头肩部区域矩形框的坐标,根据头肩定位模型对训练样本的头肩部区域矩形框的坐标检测结果与训练样本对应的预设的头肩部区域矩形框的坐标之间的差异确定头肩定位模型的误差,利用误差反向传播的方式迭代调整头肩定位模型的参数,使其误差逐步缩小。在头肩定位模型的误差收敛至一定的范围内或迭代的次数达到预设的次数阈值时可以停止调整参数,得到训练完成的头肩定位模型。
本可选实现方式中,已训练的头肩深度学习模型是预先训练完成的深度学习模型。在训练头肩深度学习模型时,首先收集多个头肩部区域图像作为训练样本,确定头肩部区域图像对应的预设的头肩特征,根据头肩深度学习模型对训练样本的头肩特征检测结果与训练样本对应的预设的头肩特征之间的差异确定头肩深度学习模型的误差,利用误差反向传播的方式迭代调整头肩深度学习模型的参数,使其误差逐步缩小。在头肩深度学习模型的误差收敛至一定的范围内或迭代的次数达到预设的次数阈值时可以停止调整参数,得到训练完成的头肩深度学习模型。
本可选实现方式实现的提取头肩特征的方法,采用头肩定位模型对目标图像的各个人物的图像进行定位得到目标图像的各个人物的图像中的头肩部分区域图像;采用头肩深度学习模型,对头肩部分区域图像进行头肩特征的提取,提高了头肩特征的提取效率,保证了提取头肩特征的可靠性。
步骤203,基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征。
本实施例中,表征特征为表现各个人物实质性特点的特征,通过表征特征可以区别各个目标图像的每个人物。
针对目标图像的特点,确定表征特征的方式不同,比如在各个目标图像较清晰、可以识别到各个人物的全局特征时,基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征包括:将全局特征和头肩特征直接连接在一起,得到表征特征。
又如,在各个目标图像较模糊,或者目标图像中各个人物均穿着黑色衣服、或者目标图像无法辨别到各个人物的全局特征时,在本实施例的一些可选实现方式中,基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征包括:针对各个目标图像的每一个人物,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
本可选实现方式中,加权特征是特征分别与其对应的特征权重值相乘之后得到的特征。而各个特征对应的特征权重值可以通过多种渠道(例如,特征与特征权重值对应表或已训练的权重模型)获得。其中,特征与特征权重值对应表可以是由操作人员预先做出的特征与特征权重值一一对应的表。已训练的权重模型是预先训练的特征与特征权重值关系模型,其可以针对不同特征输出不同的特征权重值。
具体地,全局特征的加权特征是全局特征与全局特征的权重值相乘之后得到的特征;头肩特征的加权特征是头肩特征与头肩特征的权重值相乘之后得到的特征。
本可选实现方式中,通过连接目标图像中每个人物的全局特征和头肩特征的加权特征,可以快速、方便地得到每个人物的表征特征。并且得到的表征特征可以有效地表现人物的特征,提高了后续行人重识别的可靠性。
步骤204,基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物。
本实施例中,将目标图像集合中不同目标图像的各个人物的表征特征进行相似性比对,相似度为预设相似度以上的两个表征特征各自对应的人物确定为相同人物,比如,任意两个表征特征之间相似度为80%以上,确定该两个表征特征是相同的特征,则具有该两个表征特征的人物为相同的人物。
本公开的实施例提供的行人重识别方法,首先采集包括至少两个目标图像的目标图像集合;其次提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征;然后基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征;最后基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物,由此在行人重识别过程中,通过由人物全局特征和头肩特征确定不同目标图像中的相同人物,提高了人物识别效果。
在目标图像中具有参考识别特征(如低光照)无法很好区分目标图像中的人物时,为了得到更好的表征特征,在本实施例的一些可选实现方式中,进一步参考图3,其示出了本公开的得到人物的表征特征的方法一个实施例的流程300。该确定各个目标图像的各个人物的表征特征的方法,包括以下步骤:
步骤301,针对各个目标图像的每一个人物,判断该人物的全局特征中是否存在参考识别特征;若判断结果为是,之后执行步骤302。若判断结果为否,之后执行步骤305。
本实施例中,参考识别特征表征为无法区分目标图像中人物的特征,也叫全局特征的特征,比如,目标图像中各个人物均是黑衣人,或者目标图像中各个人物所在环境整体较暗,无法有效辨别各个人物的衣着的颜色、样式等。
本实施例中,头肩特征是包含很多头部或肩部可区分人物的信息,比如性别、人脸、发型、眼镜等,且在目标图像中各个人物均是黑衣人,或者目标图像中各个人物整体较暗的条件下头肩特征也可以采集到。
本实施例的一些可选实现方式中,参考识别特征包括:人物图像的亮度小于预设亮度值或人物衣服的颜色为黑色。
本可选实现方式中,预设亮度值为预先设置的亮度值,在各个目标图像中人物图像小于预设亮度值时,说明图像较暗,比如低光照图像,无法有效区分人物的全局特征。
本可选实现方式,将参考识别特征设置为人物图像的亮度小于预设亮度值或者人物衣服的颜色为黑色,可以为获取头肩特征和全局特征的权重值提供了有效地区分条件。
步骤302,获取与该参考识别特征相对应的全局特征的权重值、头肩特征的权重值,之后执行步骤303。
本实施例中,行人重识别方法运行于其上的执行主体可以通过查找参考识别特征与特征权重值对应表或已训练的权重模型获得参考识别特征相对应的全局特征的权重值、头肩特征的权重值。其中,参考识别特征与特征权重值对应表可以是由操作人员预先作出的参考识别特征分别与全局特征的权重值、头肩特征的权重值之间对应关系的表。通过查找参考识别特征与特征权重值对应表,可以得到在某一参考识别特征下的全局特征的权重值、头肩特征的权重值。
进一步地,由于全局特征中存在参考识别特征,此时全局特征无法有效识别人物,而头肩特征则可以有效识别人物,因此,参考识别特征相对应的全局特征的权重值小于参考识别特征对应的头肩特征的权重值,参考识别特征相对应的全局特征的权重值与头肩特征的权重值,可随全局特征的变化而变化。
本实施例中,由于目标图像中存在参考识别特征,确定人物衣服的颜色为黑色或目标图像中各个人物所在环境整体较暗,此时全局特征可能无法正常区分人物;由于参考识别特征存在对头肩特征的影响不大,将参考识别特征相对应的全局特征的权重值小于参考识别特征对应的头肩特征的权重值,可以有效突出头肩特征在人物的所有特征中的比例。
步骤303,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征,之后执行步骤304。
本实施例中,全局特征的加权特征是全局特征与全局特征的权重值相乘之后得到的特征;头肩特征的加权特征是头肩特征与头肩特征的权重值相乘之后得到的特征。通过连接目标图像中每个人物的全局特征和头肩特征的加权特征,可以在全局特征存在参考识别特征时,快速、方便地得到的每个人物的表征特征。
本实施例中,在全局特征中存在参考识别特征时,获取与该参考识别特征相对应的全局特征的权重值、头肩特征的权重值,并连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征,由此,可以突出头肩特征的显著性,将头肩特征作为重点对象,体现了人物的特征,保证了行人重识别的效果,提高了行人的辨识效率。
步骤304,结束。
步骤305,获取预设的全局特征的权重值、头肩特征的权重值,之后执行步骤306。
本实施例中,由于各个目标图像的每个人物的全局特征中不存在参考识别特征,说明各个目标图像的各个人物的全局特征与头肩特征均可以有效反映目标图像中各个人物可识别特征,并且全局特征可以有效保证人物在目标图像中全局效果,头肩特征可以有效保证人物在目标图像中的局部效果。因此,预设的全局特征的权重值、头肩特征的权重值此时为预设的两个固定值,比如,两者均为0.5。
步骤306,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征,之后执行步骤304。
本实施例中,在目标图像的每个人物的全局特征中不存在参考识别特征时,获取预设的全局特征的权重值、头肩特征的权重值,并连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征,由此,可以突出全局特征与头肩特征均衡性,使得到的表征特征可以有效表现人物的识别特征,提高了行人重识别的辨识效率。
综上,本实施例提供的得到人物的表征特征的方法,在全局特征中不存在参考识别特征时,获取与该参考识别特征相对应的全局特征的权重值、头肩特征的权重值,并连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征;在目标图像的每个人物的全局特征中不存在参考识别特征时,获取预设的全局特征的权重值、头肩特征的权重值,并连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征;由此,在具有参考识别特征时,可以突出头肩特征的显著性,将头肩特征作为重点对象;在不具有参考识别特征,合理均衡全局特征和头肩特征得到表征特征,保证了行人重识别的效果,提高了行人重识别的辨识效率。
在本实施例的一些可选实现方式中,进一步参考图4,其示出了本公开的确定各个目标图像的各个人物的表征特征的方法的一个实施例的流程400。该确定各个目标图像的各个人物的表征特征的方法,包括以下步骤:
步骤401,针对各个目标图像的每一个人物,将该人物的全局特征输入已训练的权重自适应模型,得到权重自适应模型输出的该人物的全局特征的权重值。
本实施例中,如图5所示,权重自适应模型的输入为全局特征f
具体地,权重自适应模型可以包括:依次连接的两个全连接层,第一全连接层可以基于全局特征判断是否具有参考识别特征;第二个全连接层接收第一个全连接层识别结果,输出全局特征的权重值。
本可选实现方式中,已训练的权重自适应模型可以是预先训练完成的深度学习模型。在训练权重自适应模型时,首先收集多个全局特征以及与各个全局特征相对应的头肩特征,将收集的多个全局特征作为训练样本(其中,多个全局特征可以是由前面实施例中全局深度学习模型训练过程中得到的全局特征,而与各个全局特征相对应的头肩特征可以是由前述实施例中头肩深度学习模型训练过程中得到的头肩特征),确定全局特征对应的预设的表征特征以及第一个全连接层的输出值对应的预设的判断结果,由根据权重自适应模型对训练样本的全局特征的权重值的预测结果以及与各个全局特征对应的头肩特征计算表征特征,由计算得到的表征特征与训练样本对应的预设的表征特征之间的差异以及第一个全连接层的判断结果与训练样本对应的预设的判断结果之间的差异,确定权重自适应模型的误差,利用误差反向传播的方式迭代调整权重自适应模型的参数,使其误差逐步缩小。在权重自适应模型的误差收敛至一定的范围内或迭代的次数达到预设的次数阈值时可以停止调整参数,得到训练完成的权重自适应模型。
本实施例中,权重自适应模块可以根据输入图片的全局特征分别赋给全局特征和头肩特征以不同的、最优的权重。比如,权重自适应模块首先通过全局特征判断输入的图片属不属于“低光照、人物均穿黑色衣服”,如果属于,那么权重自适应模块会给与头肩特征更大的权重值。
步骤402,基于该人物的全局特征的权重值,计算该人物的头肩特征的权重值。
本实施例中,头肩特征的权重值与全局特征的权重值之和为1,在得到全局特征的权重值之后,采用1减去全局特征的权重值,可以得到头肩特征的权重值。
步骤403,连接该人物的头肩特征与该人物的全局特征两者的加权特征,得到该人物的表征特征。
具体地,在图5中,人物的表征特征为f。通过权重自适应模块,全局特征f
本实施例提供的确定各个目标图像的各个人物的表征特征的方法,采用权重自适应模块为全局特征分配全局特征的权重值,由全局特征权重值得到头肩特征的权重值,连接该人物的头肩特征与全局特征两者的加权特征,得到该人物的表征特征。从而采用权重自适应模块实现了对头肩特征和全局特征权重值自适应分配,提高了表征特征的自适应性,提高了行人重识别的识别效果。
在本实施例的一些可选实现方式中,进一步参考图6,其示出了本公开的确定不同目标图像中的相同人物的流程600。该确定不同目标图像中的相同人物的方法,包括以下步骤:
步骤601,计算不同目标图像中任意两个人物的表征特征之间的距离,形成距离矩阵。
本实施例中,可以通过欧式计算公式计算任意两个人物的表征特征之间的欧式距离,或者通过余玄计算公式计算任意两个人物的表征特征之间的余玄距离。
为目标图像集合中各个目标图像的各个人物进行位置标注,基于各个人物的位置,形成距离矩阵。具体地,两个表征特征的距离在距离矩阵的具体表示形式为:d
步骤602,基于距离矩阵,确定不同目标图像中的相同人物。
本实施例中,不同目标图像中人物是否相同与人物之间的表征特征的距离有关,在距离矩阵中两个人物的表征特征之间的距离值为预设距离值之内时,可以确定两个人物为相同人物。可选地,还可以将距离矩阵中任意两个人物的表征特征之间的距离值由小到大进行排序,选取排名前预设位(例如,前5位)的距离值相对应的各个人物的表征特征作为相同人物的判断对象,在该对象中距离值越小代表人物相似度越高,认为是同一个人物的可能性就越大。
通过距离矩阵可以方便、快捷地的找到不同目标图像中的相同人物。
本实施例提供的确定不同目标图像中的相同人物的方法,计算不同目标图像中任意两个任务的表征特征之间的距离,形成距离矩阵;基于距离矩阵,确定不同目标图像中的相同人物,由此通过距离矩阵可以方便、快捷地确定各个人物表征特征之间的距离,确定目标图像中的相同人物,提高了行人重识别的效率。
进一步参考图7,作为对上述各图所示方法的实现,本公开提供了行人重识别装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图7所示,本公开的实施例提供了一种行人重识别装置700,该装置700包括:采集单元701、提取单元702、表征单元703和确定单元704。其中,采集单元701,可以被配置成采集包括至少两个目标图像的目标图像集合,每个目标图像包括至少一个人物。提取单元702,可以被配置成提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征,其中,全局特征为外观整体特征,头肩特征为头部和肩部的特征。表征单元703,可以被配置成基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征。确定单元704,可以被配置成基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物。
在本实施例中,行人重识别装置700中,采集单元701、提取单元702、表征单元703和确定单元704的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201、步骤202、步骤203、步骤204。
在一些实施例中,上述表征单元703包括:表征模块(图中未示出)。表征模块可以被配置成针对各个目标图像的每一个人物,连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述表征模块还包括:第一获取子模块(图中未示出)、第一连接子模块(图中未示出)。第一获取子模块,可以被配置成针对各个目标图像的每一个人物,若该人物的全局特征中存在参考识别特征,获取与该参考识别特征相对应的全局特征的权重值、头肩特征的权重值。第一连接子模块,可以被配置成连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述表征模块还包括:第二获取子模块(图中未示出)、第二连接子模块(图中未示出)。第二获取子模块,被配置成针对各个目标图像的每一个人物,若该人物的全局特征中不存在参考识别特征,获取预设的全局特征的权重值、头肩特征的权重值;第二连接子模块,被配置成连接该人物的全局特征和头肩特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述参考识别特征包括人物图像的亮度小于预设亮度值或人物衣服的颜色为黑色。
在一些实施例中,上述表征单元703包括:获取模块(图中未示出)、得到模块(图中未示出)、连接模块(图中未示出)。获取模块,可以被配置成针对各个目标图像的每一个人物,将该人物的全局特征输入已训练的权重自适应模型,得到权重自适应模型输出的该人物的全局特征的权重值。得到模块,可以被配置成基于该人物的全局特征的权重值,计算该人物的头肩特征的权重值。连接模块,被配置成连接该人物的头肩特征与该人物的全局特征两者的加权特征,得到该人物的表征特征。
在一些实施例中,上述确定单元704包括:计算模块(图中未示出)、确定模块(图中未示出)。计算模块,可以被配置成计算不同目标图像中任意两个人物的表征特征之间的距离,形成距离矩阵。确定模块,可以被配置成基于距离矩阵,确定不同目标图像中的相同人物。
在一些实施例中,上述提取单元702包括:全局提取模块(图中未示出)。全局提取模块,可以被配置成将各个目标图像的各个人物的图像输入已训练的全局深度学习模型,得到已训练的全局深度学习模型输出的各个目标图像的各个人物的全局特征。
在一些实施例中,上述提取单元702包括:图像提取模块(图中未示出)、头肩提取模块(图中未示出),图像提取模块,可以被配置成将各个目标图像的各个人物的图像输入已训练的头肩定位模型,得到已训练的头肩定位模块输出的各个目标图像的各个人物的图像中的头肩部区域图像。头肩提取模块,可以被配置成将各个目标图像的各个人物的图像中头肩部区域图像输入已训练的头肩深度学习模型,得到已训练的头肩深度学习模型输出的各个目标图像的各个人物的头肩特征。
本公开的实施例提供的行人重识别装置,首先,采集单元701采集包括至少两个目标图像的目标图像集合;其次,提取单元702提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征;然后,表征单元703基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征;最后,确定单元704基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物,由此在行人重识别过程中,通过由人物全局特征和头肩特征确定不同目标图像中的相同人物,提高了人物识别效果。
下面参考图8,其示出了适于用来实现本公开的实施例的电子设备800的结构示意图。
如图8所示,电子设备800可以包括处理装置(例如中央处理器、图形处理器等)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储装置808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有电子设备800操作所需的各种程序和数据。处理装置801、ROM 802以及RAM803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
通常,以下装置可以连接至I/O接口805:包括例如触摸屏、触摸板、键盘、鼠标、等的输入装置806;包括例如液晶显示器(LCD,Liquid Crystal Display)、扬声器、振动器等的输出装置807;包括例如磁带、硬盘等的存储装置808;以及通信装置809。通信装置809可以允许电子设备800与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备800,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图8中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置809从网络上被下载和安装,或者从存储装置808被安装,或者从ROM 802被安装。在该计算机程序被处理装置801执行时,执行本公开的实施例的方法中限定的上述功能。
需要说明的是,本公开的实施例的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(Radio Frequency,射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述服务器中所包含的;也可以是单独存在,而未装配入该服务器中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该服务器执行时,使得该服务器:采集包括至少两个目标图像的目标图像集合,每个目标图像包括至少一个人物;提取目标图像集合中各个目标图像的各个人物的全局特征以及头肩特征,其中,全局特征为外观整体特征,头肩特征为头部和肩部的特征;基于各个目标图像的各个人物的全局特征和头肩特征,确定各个目标图像的各个人物的表征特征;基于各个目标图像的各个人物的表征特征,确定不同目标图像中的相同人物。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开的各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器,包括采集单元、提取单元、表征单元和确定单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,采集单元还可以被描述为“被配置成采集包括至少两个目标图像的目标图像集合,每个目标图像包括至少一个人物”的单元。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
- 遮挡下行人重识别模型训练方法、装置及遮挡下行人重识别方法、装置
- 用于行人重识别的掩膜池化模型训练和行人重识别方法