掌桥专利:专业的专利平台
掌桥专利
首页

人体部位分割网络训练方法、人体部位分割方法及装置

文献发布时间:2023-06-19 11:21:00


人体部位分割网络训练方法、人体部位分割方法及装置

技术领域

本发明实施例涉及图像识别领域,尤其涉及一种人体部位分割网络训练方法、人体部位分割方法及装置。

背景技术

人体部位分割,属于语义分割任务的子任务,其目的主要是将包含有人体的图像进行细粒度分割,例如将人体图像分割为头部区域、躯干区域、四肢区域等各个部位的图像。

人体部位分割技术在诸多领域均有应用,如人体外观转移、行为识别、行人再识别、时装合成等等。因此,人体部位分割具有重要的研究意义和应用价值。

现有技术中的人体部位分割技术所得到的人体部位分割的准确性较差。

所以,如何提高人体部位分割的准确性,就成为本领域技术人员急需解决的技术问题。

发明内容

本发明实施例解决的技术问题是如何提高人体部位分割结果的质量。

为解决上述问题,本发明实施例提供了一种人体部位分割网络训练方法,包括:

获取训练人体图像数据,所述训练人体图像数据包括训练人体图像和所述训练人体图像的基准人体部位分割标记,所述基准人体部位分割标记包括所述训练人体图像的各个像素点的人体部位类别;

获取所述训练人体图像的训练人体特征;

利用待训练的人体部位分割网络,根据所述训练人体特征,获取训练人体部位分割标记;

至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数,其中,所述基准评价分数用于评价所述训练人体部位分割标记的分割结果;

利用待训练的评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数,其中,所述评价网络适于评价所述人体部位分割网络所得的所述训练人体部位分割标记;

根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络,直至所述全局损失满足全局损失阈值,得到训练完成的所述人体部位分割网络和所述评价网络。

为解决上述问题,本发明实施例还提供了一种人体部位分割方法,包括:

获取单人待分割图像;

获取所述单人待分割图像的人体特征;

利用所述人体部位分割网络训练方法训练得到的所述人体部位分割网络,根据所述人体特征,获取所述单人待分割图像对应的人体部位分割结果。

为解决上述问题,本发明实施例还提供了一种人体部位分割网络训练装置,包括:

训练人体图像数据获取单元,适于获取训练人体图像数据,所述训练人体图像数据包括训练人体图像和所述训练人体图像的基准人体部位分割标记,所述基准人体部位分割标记包括所述训练人体图像的各个像素点的人体部位类别;

训练人体特征获取单元,适于获取所述训练人体图像的训练人体特征;

训练人体部位分割标记获取单元,适于利用待训练的人体部位分割网络,根据所述训练人体特征,获取训练人体部位分割标记;

基准评价分数获取单元,适于至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数,其中,所述基准评价分数用于评价所述训练人体部位分割标记的分割结果;

训练评价分数获取单元,适于利用待训练的评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数,其中,所述评价网络适于评价所述人体部位分割网络所得的所述训练人体部位分割标记;

模型训练单元,适于根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络,直至所述全局损失满足全局损失阈值,得到训练完成的所述人体部位分割网络和所述评价网络。

为解决上述问题,本发明实施例还提供了一种人体部位分割装置,包括:

单人待分割图像获取单元,适于获取单人待分割图像;

人体特征获取单元,适于获取所述单人待分割图像的人体特征;

人体部位分割网络,利用如前述具体实施方式任一项所述的人体部位分割网络训练方法训练得到,适于根据所述人体特征,获取所述单人待分割图像对应的人体部位分割结果。

本发明实施例提供了一种存储介质,所述存储介质存储有适于训练人体部位分割网络的程序,以实现前述各具体实施方式所述人体部位分割网络训练方法,或者所述存储介质存储有适于进行人体部位分割的程序,以实现前述各具体实施方式所述人体部位分割方法。

本发明实施例提供了一种电子设备,包括至少一个存储器和至少一个处理器;所述存储器存储有程序,所述处理器调用所述程序,以执行所述人体部位分割网络训练方法或者所述人体部位分割方法。

与现有技术相比,本发明实施例的技术方案具有如下优点:

本发明实施例所提供的人体部位分割网络训练方法包括:首先获取训练人体图像数据,所述训练人体图像数据包括训练人体图像和所述训练人体图像的基准人体部位分割标记,所述基准人体部位分割标记包括所述训练人体图像的各个像素点的人体部位类别;然后,获取各个所述训练人体图像的训练人体特征,利用待训练的人体部位分割网络,根据所述训练人体特征,获取训练人体部位分割标记,并且至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数;还利用待训练的评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数,其中,所述评价网络适于评价所述人体部位分割网络所得的所述训练人体部位分割标记;根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络,直至所述全局损失满足全局损失阈值,得到训练完成的所述人体部位分割网络和所述评价网络。可以看出,本发明实施例所提供的人体部位分割网络训练方法中,不仅进行人体部位分割网络的训练,还对评价网络进行训练,且在训练过程中,根据结合了分割损失和评价损失的全局损失,优化待训练的所述人体部位分割网络和所述评价网络,同时考虑了分割结果的准确性和评价分数的准确性,所述评价网络的准确性的提升,可以提高所述人体部位分割网络的准确性,从而使得在实际进行人体部位分割时,利用训练完成的所述人体部位分割网络所得的人体部位分割结果的准确度较高。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本发明实施例所提供的人体部位分割网络训练方法的流程示意图;

图2为本发明实施例所提供的人体部位分割网络训练方法的获取训练人体图像数据步骤的流程示意图;

图3为本发明实施例所提供的人体部位分割网络训练方法的原始图像示意图;

图4为本发明实施例所提供的人体部位分割网络训练方法的分割前图像示意图;

图5为本发明实施例所提供的人体部位分割网络训练方法的训练人体分割后图像示意图;

图6为本发明实施例所提供的人体部位分割网络训练方法的获取基准像素评价分数的流程示意图;

图7为本发明实施例所提供的人体部位分割网络训练方法的获取基准交并比评价分数的流程示意图;

图8为本发明实施例所提供的人体部位分割网络训练方法的获取基准质量评价分数的流程示意图;

图9为本发明实施例所提供的人体部位分割方法的流程示意图;

图10为本发明实施例所提供的人体部位分割方法的又一流程示意图;

图11为本发明实施例所提供的人体部位分割网络训练装置的示意图;

图12为本发明实施例所提供的人体部位分割装置的示意图;

图13为本发明实施例所提供的电子设备的示意图。

具体实施方式

由现有技术可知,现有技术中的人体部位分割技术所得到的人体部位分割结果的准确度较差。

为解决前述问题,本发明实施例提供了一种人体部位分割网络训练方法包括:

获取训练人体图像数据,所述训练人体图像数据包括训练人体图像和所述训练人体图像的基准人体部位分割标记,所述基准人体部位分割标记包括所述训练人体图像的各个像素点的人体部位类别;

获取所述训练人体图像的训练人体特征;

利用待训练的人体部位分割网络,根据所述训练人体特征,获取训练人体部位分割标记,所述训练人体部位分割标记包括所述训练人体图像的各个像素点的分割概率值,所述分割概率值包括所述像素点为各个人体部位类别或非人体部位类别的概率值;

至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数,其中,所述基准评价分数用于评价所述训练人体部位分割标记的分割结果;

利用待训练的评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数,其中,所述评价网络适于评价所述人体部位分割网络所得的所述训练人体部位分割标记;

根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络,直至所述全局损失满足全局损失阈值,得到训练完成的所述人体部位分割网络和所述评价网络。

可以看出,本发明实施例所提供的人体部位分割网络训练方法中,不仅进行人体部位分割网络的训练,还对评价网络进行训练,且在训练过程中,根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络,同时考虑了分割结果的准确性和评价分数的准确性,所述评价网络的准确性的提升,可以提高所述人体部位分割网络的准确性。从而使得在实际进行人体部位分割时,利用训练完成的所述人体部位分割网络所得的人体部位分割结果的准确度较高。

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

请参考图1,图1为本发明实施例所提供的人体部位分割网络训练方法的流程示意图。

本发明实施例所提供了的人体部位分割网络训练方法,包括:

步骤S101:获取训练人体图像数据。

本发明实施例所提供的人体部位分割网络训练方法,用于实现对人体部位分割网络的训练,因此,在训练所述人体部位分割网络的训练前,需要获得训练所用的人体图像数据。

其中,所述训练人体图像数据包括训练人体图像和所述训练人体图像的基准人体部位分割标记,所述基准人体部位分割标记包括所述训练人体图像的各个像素点的人体部位类别。

其中,所述训练人体图像的获得方法可以根据需要选择。在一种具体实施方式中,请参考图2,图2为本发明实施例所提供的人体部位分割网络训练方法的部分流程示意图。

所述步骤S101:获取训练人体图像数据的步骤包括:

步骤S1011:将原始图像进行单人区分,得到每个人体的单人区分图像。

其中,所述原始图像请参考图3,图3为本发明实施例所提供的人体部位分割网络训练方法的原始图像示意图。

所述单人区分图像为直接从所述原始图像切割得到的部分,根据人体尺寸的不同,所述单人区分图像的大小也有可能不同。

步骤S1012:利用所述单人区分图像,得到分割前图像;

可以直接利用所述单人区分图像作为分割前图像,也可以进一步处理得到所述分割前图像。

在一种具体实施方式中,所述利用所述单人区分图像,得到分割前图像的步骤包括:

将所述单人区分图像置于标准尺寸的分割前图像内,将所述单人区分图像以外的部分填充为均值点,所述均值点的像素值为图像像素值取值范围的最小值与最大值的均值。

其中,当所述单人区分图像的长宽均小于标准尺寸的长宽时,可以直接将其置于标准尺寸的分割前图像内。当尺寸的长宽任意一中大于标准尺寸时,可以先采用将所述单人区分图像的大于标准尺寸的一边,与标准尺寸的对应长度对齐,然后再将其置于标准尺寸的分割前图像内。

其中,所述均值点的像素值为图像像素值取值范围的最小值与最大值的均值。例如,当图像像素值取值范围为(0-255,0-255,0-255)时,所述均值点的像素值可以取(127,127,127)。这样,所述均值点对人体图像的影响较小,不易影响所述人体部位分割网络进行人体部位分割。

当然,还可以采用将所述单人区分图像置于标准尺寸的分割前图像内,然后在扩展选取范围的方式,获取分割前图像。

所得到的分割前图像如图4所示。图4为本发明实施例所提供的人体部位分割网络训练方法的分割前图像示意图。

步骤S1013:对所述分割前图像进行人体部位分割,得到所述训练人体图像数据。

在进行人体部位分割后,所述训练人体图像数据的每个像素点都被标记为一种部位分类,例如头部区域、躯干区域、四肢区域或非人体部位等等。当然,所述头部区域、躯干区域、四肢区域也可以进一步细分。

即如图5所示,图5为本发明实施例所提供的人体部位分割网络训练方法的训练人体分割后图像示意图,在所述训练人体分割后图像中,每个像素点都被标记为一种部位分类。

其中,如上所述,在一种具体实施方式中,所述利用所述单人区分图像,得到分割前图像的方法采用将所述单人区分图像置于标准尺寸的分割前图像内,将所述单人区分图像以外的部分填充为均值点,所述均值点的像素值为图像像素值取值范围的最小值与最大值的均值的方法时,所述步骤S1013:对所述分割前图像进行人体部位分割,得到所述训练人体图像数据可以包括:对所述标准尺寸的分割前图像内进行人体部位分割,得到所述训练人体图像数据及所述训练人体图像数据各点的基准人体部位分割标记,其中,所述分割前图像中所述单人区分图像以外的部分的人体部位类别为非人体部位。

将所述分割前图像以外的部分的基准人体部位分割标记为非人体部位,也不会影响所述基准人体部位标记的其他部分,便于后续基准人体部位分割标记和根据所述标准尺寸的分割前图像所得到的训练人体部位分割标记的相互比较处理。

步骤S102:获取所述训练人体图像的训练人体特征。

可以在,得到训练人体图像后,进一步获取训练人体特征,所得到的人体特征可以是多维向量,也可以是矩阵等其他数据形式。

可以选用合适的特征提取网络获取所述训练人体图像的训练人体特征。

为了提升所得训练人体特征的质量,在一种具体实施方式中,所述获取所述训练人体图像的训练人体特征的步骤包括:

至少获取所述训练人体图像的第一尺寸训练人体特征和第二尺寸训练人体特征;

至少对第一尺寸训练人体特征和第二尺寸训练人体特征进行融合,得到所述训练人体特征。

通过对第一尺寸训练人体特征和第二尺寸训练人体特征进行融合,所得到的训练人体特征可以更好地反应所述人体图像数据的在各个尺度下的特征信息。

其中,适于至少获取所述训练人体图像的第一尺寸训练人体特征和第二尺寸训练人体特征的特征提取网络有多种,具体的,可以选用特征金字塔-残差网络(ResNet-FPN)获取所述训练人体图像的训练人体特征。

当然,在其他具体实施方式中,也可以获取三个、四个或更多尺寸的人体特征。

步骤S103:利用待训练的人体部位分割网络,根据所述训练人体特征,获取训练人体部位分割标记。

在一种具体实施方式中,训练人体部位分割标记可以包括所述训练人体图像的各个像素点的分割概率值,所述分割概率值包括所述像素点为各个人体部位类别或非人体部位类别的概率值;

例如点A(头部区域,0.5;躯干区域,0.2;四肢区域,0.2;非人体部位,0.1),或点B(头部区域,0.05;躯干区域,0.1;四肢区域,0.05;非人体部位,0.8)。

容易理解的是,所述训练人体部位分割标记中各个部位分类与所述训练人体图像数据中所述基准人体部位分割标记的各个部位分类相同。

当然,在其他实施例中,所述训练人体部位分割标记也可以为所述训练人体图像的各个像素点的预测人体部位类别,所述预测人体部位类别可以直接根据所述人体部位分割网络获得,也可以根据所述分割概率值中最大分割概率值所对应的人体部位类别,作为所述预测人体部位类别。

步骤S104:至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数。

为了提高人体部位分割的准确性,需要提高人体部位分割网络的训练准确性,而为了提高人体部位分割网络的训练准确性,还需要进一步提高用于对人体部位分割网络进行评价的评价网络的准确性,因此,也需要对评价网络进行训练。

容易理解的是,为了进行所述评价网络的训练,还需要获取基准评价分数和训练评价分数。

所述基准评价分数可以根据需要选用,所述基准评价分数可以评价所述训练人体部位分割标记的分割准确度。

其中,所述基准评价分数可以根据多种方法选择。

请参考图6,图6为本发明实施例所提供的人体部位分割网络训练方法的获取基准像素评价分数的流程示意图,在一种具体实施方式中,所述至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数的步骤包括:

步骤S10411:利用所述分割概率值,获取所述训练人体图像的各个像素点的最大分割概率值。

当训练人体部位分割标记为训练人体图像的各个像素点的分割概率值时,可以根据分割概率值获取最大分割概率值。

其中,所述最大分割概率值为所述像素点为各个人体部位的概率值中的最大值。

比如:对于像素点A,其各个人体部位的概率值分别为:

头部区域,0.5;躯干区域,0.2;四肢区域,0.2;非人体部位,0.1,那么最大分割概率值即为0.5。

步骤S10412:根据预定要求,选取基准像素点。

可以将所述像素点均作为所述基准像素点,这样可以减小基准像素点确定的复杂度,简化流程;当然,也可以根据需要,选取所述基准像素点,以提高评价准确性。

在一种具体实施方式中,所述根据预定要求,选取基准像素点的步骤包括:

获取最大分割概率值大于或等于预定概率值的像素点,作为基准像素点。

所述最大分割概率值,可以衡量所述人体部位分割网络所得结果的分类的显著程度,当所述最大分割概率值较小时,所述训练人体部位分割标记中各点的各种人体部位的分割概率比较相近,没有占比比较大的分割概率,那么可以认为该点的分割结果显著程度较差,参考意义较差;当所述最大分割概率值较大时,所述训练人体部位分割标记中各点的各种人体部位的分割概率差距较大,存在占比比较大的分割概率,那么可以认为该点的分割结果显著程度较好,该点为某个人体部位的可能性或者为非人体部位的可能较大。

因此,可以获取最大分割概率值大于或等于预定概率值的像素点,作为基准像素点。这样,选取分割结果显著程度较强,参考意义较大的像素点,计算像素评价分数,后续所得到的所述像素评价分数的代表性更好。

具体的,所述预定概率值可以根据需要选择。在一种具体实施方式中,所述预定概率值可以为0.2-0.4,比如可以为0.2,0.3,0.35,0.4等等,当所述预定概率值为0.2-0.4时,所选取的像素点分割结果显著程度较强,参考意义较大的同时,也不会去除大量有参考意义的像素点,能够更好地反应所得的训练人体部位分割标记的分割结果的显著性。

步骤S10413:获取各个所述基准像素点的所述最大分割概率值的均值,得到基准像素评价分数。

在确定好基准像素点后,可以利用所述基准像素点进一步获取基准像素评价分数。

例如,假设所述训练人体图像中C点的分割概率为(头部区域,0.7;躯干区域,0.17;四肢区域,0.05;非人体部位,0.09),预定概率值为0.3。

则C点最大分割概率值为头部的概率0.7,大于预定概率值,可以作为基准像素点。

然后对所述训练人体图像中所有基准像素点的最大分割概率值取均值,即为所得的所述训练人体部位分割标记的基准像素评价分数。这样获得的基准像素评价分数不仅计算方法比较简便,而且也可以考虑所有基准像素点。

请参考图7,图7为本发明实施例所提供的人体部位分割网络训练方法的获取基准交并比评价分数的流程示意图,在另一种具体实施方式中,为了使所述基准评价分数所得结果更具有代表性,所述至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数的步骤还可以包括:

步骤S10421:利用所述训练人体部位分割标记和所述基准人体部位分割标记获取各个所述人体部位类别的交并比分数。

所述交并比分数可以衡量各个所述人体部位类别在所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度,所述交并比分数较大时,证明该所述人体部位类别所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度较大,分割结果比较准确;当所述交并比分数较小时,证明该所述人体部位类别在所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度较小,分割结果准确程度较小,因此,可以利用交并比分数,实现对于训练人体部位分割标记的准确性的评价。

所述交并比的计算方法可以根据需要选择,在一种具体实施方式中,所述利用所述训练人体部位分割标记和所述基准人体部位分割标记获取各个所述人体部位类别的交并比分数的步骤包括:

获取所述训练人体图像的各个像素点的最大分割概率值所对应的人体部位类别,为所述预测人体部位类别;

将同一所述人体部位类别的像素点所占区域标记为该所述人体部位类别的训练分割区域;

利用所述训练人体图像的各个像素点的人体部位类别,得到各个所述人体部位类别的基准分割区域;

利用各个所述人体部位类别的训练分割区域和基准分割区域,得到各个所述人体部位类别的交并比分数。

例如,在所述基准人体部位分割标记中,头部的基准分割区域为A1,躯干的基准分割区域为B1,四肢的基准分割区域为C1;在所述训练基准人体部位分割标记中,头部的训练分割区域为A2,躯干的训练分割区域为B2,四肢的训练分割区域为C2,则头部分类的交并比分数为,躯干分类的交并比分数为,四肢分类的交并比分数为。这样,所得到所述交并比分数可以很好地衡量各个所述人体部位类别在所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度。

步骤S10422:获取各个所述人体部位类别的交并比分数的均值,得到基准交并比评价分数;

如上所述得到,得到头部分类的交并比分数为,躯干分类的交并比分数为,四肢分类的交并比分数为后,则所述基准交并比评价分数为三个不同分类的交并比分数的算数平均值。

所述基准交并比评价分数可以衡量所有所述人体部位类别在所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度,所述基准交并比评价分数较大时,证明所有所述人体部位类别的所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度较大,分割结果比较准确;当所述基准交并比评价分数较小时,证明所有所述人体部位类别在所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度较小,分割结果准确程度较小。

在另一种具体实施方式中,请参考图8,图8为本发明实施例所提供的人体部位分割网络训练方法的获取基准质量评价分数的流程示意图。本发明实施例所提供的人体部位分割网络训练方法,还可以同时结合基准交并比评价分数以及基准质量评价分数,实现对于训练人体部位分割标记的基准评价分数的获取。

具体地,所述至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数的步骤还包括:

步骤S10431:获取所述基准像素评价分数和所述基准交并比评价分数。

所述基准像素评价分数和所述基准交并比评价分数的获得方法如上所述,在此不再赘述。

步骤S10432:根据所述基准像素评价分数和所述基准交并比评价分数,获取所述训练人体部位分割标记的基准质量评价分数。

所述基准质量评价分数根据所述基准像素评价分数和所述基准交并比评价分数获取,可以综合衡量所述训练人体部位分割标记的显著程度及所述训练人体部位分割标记与所述基准人体部位分割标记的重合程度,评价效果更佳。

所述基准质量评价分数的计算方法可以根据需要选择,在一种具体实施方式中,所述根据所述基准像素评价分数和所述基准交并比评价分数,获取所述训练人体部位分割标记的基准质量评价分数的步骤包括:

根据预定的权重比,获取所述基准像素评价分数和所述基准交并比评价分数的加权几何平均数,得到所述基准质量评价分数。

例如,设定所述基准质量评价分数中,所述基准像素评价分数和所述基准交并比评价分数的权重比为1:2,所述基准像素评价分数为0.7,所述基准交并比评价分数为0.68,则所述基准质量评价分数。

所述基准质量评价分数,结合了所述基准像素评价分数和所述基准交并比评价分数,可以综合衡量所述人体部位分割网络所得人体部位分割结果的质量,当所述基准质量评价分数较大时,证明所述人体部位分割网络所得人体部位分割结果的质量较好;当所述基准质量评价分数较小时,证明所述人体部位分割网络所得人体部位分割结果的质量较差。

步骤S105:利用待训练的评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数。

为了对评价网络进行训练,还需要获取训练评价分数,为此,本发明所提供的人体部位分割网络训练方法,还利用待训练的评价网络,根据所述训练人体特征获取训练评价分数。

其中,所述评价网络适于评价所述人体部位分割网络所得的所述训练人体部位分割标记,所述评价网络可以预测所述训练人体部位分割标记与所述基准人体部位分割标记的相近程度,从而可以预测所述训练人体部位分割标记的分割质量。

类似的,训练评价分数也可以包括训练像素评价分数、训练交并比评价分数和训练质量评价分数。

当然,在另一种具体实施方式中,所述评价网络可以包括像素评价网络、交并比评价网络和质量评价网络中的任意两者或三者,对应的,所述基准评价分数也可以包括基准像素评价分数、基准交并比评价分数和基准质量评价分数,所述训练评价分数也可以包括训练像素评价分数、训练交并比评价分数和训练质量评价分数。

所述利用待训练的评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数的步骤包括:

利用待训练的像素评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练像素评价分数;

或利用待训练的交并比评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练交并比评价分数;

或利用待训练的质量评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练质量评价分数。

其中,各个评价网络的结构可以相同,也可以不同,可以根据需要选用。

具体的,所述评价网络的结构可以是所述人体特征的基础上通过连续多个的卷积操作提取细化的特征,然后使用平均池化操作来将所得结果降维,最后通过全连接操作回归得到一个分数,作为相应的训练评价分数。

其中,所述步骤S104和步骤S105顺序不做要求,可以同时进行,也可以按照其他顺序进行。

步骤S106:获取分割损失。

可以利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失,所述分割损失可以衡量所述人体部位分割网络的所得结果的准确程度。

步骤S107:获取评价损失。

所述评价损失可以包括利用所述训练评价分数和所述基准评价分数获取,可以衡量所述评价网络的所得结果的准确程度。

具体的,所述评价损失可以包括利用所述训练像素评价分数和所述基准像素评价分数获取的像素评价损失,或利用所述训练交并比评价分数和所述基准交并比评价分数获取的交并比评价损失,或利用所述训练质量评价分数和所述基准质量评价分数获取的质量评价损失。三者可以同时选用,也可以只选用其一或其二。

其中,所述步骤S103-步骤S107中不同路径的步骤的完成顺序没有要求,只需满足步骤S104在步骤S103后进行,步骤S106在步骤S103后进行,步骤S107在步骤S105后进行,步骤S107在步骤S104和步骤S105后进行即可。

步骤S108:获取全局损失。

所述全局损失,根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失获取。可以通过所述分割损失和所述评价损失加和得到,也可以通过其他处理方法获得所述全局损失。

步骤S109:判断所述全局损失是否满足全局损失阈值,如果是,进行步骤S111,如果否,进行所述步骤S110。

步骤S110: 根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络。

其中优化待训练的所述人体部位分割网络和所述评价网络时所用损失函数可以选用均方误差损失函数。

然后步骤S110进行完成之后,重新进行步骤S102-S108。

步骤S111:得到训练完成的所述人体部位分割网络和所述评价网络。

可以看出,本发明实施例所提供的人体部位分割网络训练方法中,不仅进行人体部位分割网络的训练,还对评价网络进行训练,且在训练过程中,根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络和所述评价网络,同时考虑了分割结果的准确性和评价分数的准确性,所述评价网络的准确性的提升,可以提高所述人体部位分割网络的准确性。从而使得在实际进行人体部位分割时,利用训练完成的所述人体部位分割网络所得的人体部位分割结果的准确度较高。

请参考图9,图9为本发明实施例所提供的人体部位分割方法的流程示意图,本发明实施例还提供了一种人体部位分割方法,包括:

步骤S201:获取单人待分割图像;

所述单人待分割图像为仅含一个人体,需要进行分割的图像。

所述获取单人待分割图像的获取步骤可以根据需要选择,请参考图10,图10为本发明实施例所提供的人体部位分割方法的又一流程示意图,在一种具体实施方式中,所述步骤S201:获取单人待分割图像的步骤可以包括:

步骤S2011:获取待处理图像。

所述待处理图像为可能含有多个人体,需要进行分割的原始图像。

步骤S2012:将所述待处理图像进行单人区分,得到各个的单人待分割图像及所述单人待分割图像在所述待处理图像中的图像位置。

利用可以进行单人区分的网络或处理模块,可将所述待处理图像进行单人区分,即可得到各个的单人待分割图像及所述单人待分割图像在所述待处理图像中的图像位置。

步骤S202:获取所述单人待分割图像的人体特征;

获取人体特征的方法与获取训练人体特征的方法可以相同,在此不再赘述。

步骤S203:利用所述人体部位分割网络训练方法训练得到的所述人体部位分割网络,根据所述人体特征,获取所述单人待分割图像对应的人体部位分割结果。

可以看出,本发明实施例所提供的人体部位分割方法中,所利用的人体部位分割网络在训练时,同时考虑了分割结果的准确性和评价分数的准确性,所述评价网络的准确性的提升,可以提高所述人体部位分割网络的准确性。从而使得在实际进行人体部位分割时,利用训练完成的所述人体部位分割网络所得的人体部位分割结果的准确度较高。

当然,还可以将所得到的所述单人待分割图像对应的人体部位分割结果进行组合,得到所述待处理图像对应的人体部位分割结果,所以,请继续参考图10,在一种具体实施方式中,所述人体部位分割方法还包括:

步骤S204:按照对应的单人待分割图像在所述待处理图像中的图像位置,对各个所述单人待分割图像对应的人体部位分割结果进行组合,得到所述待处理图像的人体部位分割结果。

通过利用对应的单人待分割图像在所述待处理图像中的图像位置,对各个所述单人待分割图像对应的人体部位分割结果进行组合,可以得到所述待处理图像的人体部位分割结果,整个过程可以贴合实际应用要求,比较方便。

下面对本发明实施例提供的人体部位分割网络训练装置和人体部位分割装置进行介绍,下文描述的人体部位分割网络训练装置和人体部位分割装置可以认为是,电子设备(如:PC)为分别实现本发明实施例提供的人体部位分割网络训练方法和人体部位分割方法所需设置的功能模块架构。下文描述的人体部位分割网络训练装置和人体部位分割装置的内容,可分别与上文描述的人体部位分割网络训练方法和人体部位分割方法的内容相互对应参照。

请参考图11,图11为本发明实施例所提供的人体部位分割网络训练装置的示意图,本发明实施例提供了一种人体部位分割网络训练装置,包括:

训练人体图像数据获取单元11,适于获取训练人体图像数据,所述训练人体图像数据包括训练人体图像和所述训练人体图像的基准人体部位分割标记,所述基准人体部位分割标记包括所述训练人体图像的各个像素点的人体部位类别;

训练人体特征获取单元12,适于获取所述训练人体图像的训练人体特征;

训练人体部位分割标记获取单元13,适于利用待训练的人体部位分割网络21,根据所述训练人体特征,获取训练人体部位分割标记;

基准评价分数获取单元14,适于至少利用所述训练人体部位分割标记,获取所述训练人体部位分割标记的基准评价分数,其中,所述基准评价分数用于评价所述训练人体部位分割标记的分割结果;

训练评价分数获取单元15,适于利用待训练的评价网络22,根据所述训练人体特征,得到所述训练人体特征对应的训练评价分数,其中,所述评价网络22适于评价所述人体部位分割网络21所得的所述训练人体部位分割标记;

模型训练单元16,适于根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络21和所述评价网络22,直至所述全局损失满足全局损失阈值,得到训练完成的所述人体部位分割网络21和所述评价网络22。

可以看出,本发明实施例所提供的人体部位分割网络训练装置中,不仅进行人体部位分割网络21的训练,还对评价网络22进行训练,且在训练过程中,根据利用所述基准人体部位分割标记和所述训练人体部位分割标记获取的分割损失以及利用所述训练评价分数和所述基准评价分数获取的评价损失,获取模型训练的全局损失,并根据所述全局损失,优化待训练的所述人体部位分割网络21和所述评价网络22,同时考虑了分割结果的准确性和评价分数的准确性,所述评价网络22的准确性的提升,可以提高所述人体部位分割网络21的准确性。从而使得在实际进行人体部位分割时,利用训练完成的所述人体部位分割网络21所得的人体部位分割结果的准确度较高。

可选的,所述训练人体部位分割标记包括所述训练人体图像的各个像素点的分割概率值,所述分割概率值包括所述像素点为各个人体部位类别或非人体部位类别的概率值,所述基准评价分数获取单元14包括基准像素评价分数获取单元,适于利用所述分割概率值,获取所述训练人体图像的各个像素点的最大分割概率值;根据预定要求,选取基准像素点;获取各个所述基准像素点的所述最大分割概率值的均值,得到基准像素评价分数;

所述训练评价分数获取单元15包括训练像素评价分数获取单元,适于利用待训练的像素评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练像素评价分数;

所述评价损失包括:

利用所述训练像素评价分数和所述基准像素评价分数获取的像素评价损失。

可选的,所述基准像素评价分数获取单元适于选取所有像素点,作为基准像素点。

可选的,所述基准像素评价分数获取单元适于获取最大分割概率值大于或等于预定概率值的像素点,作为基准像素点。

可选的,所述预定概率值的范围为0.2-0.4。

可选的,所述训练人体部位分割标记包括所述训练人体图像的各个像素点的预测人体部位类别;所述基准评价分数获取单元14包括基准交并比评价分数获取单元,适于利用所述训练人体部位分割标记和所述基准人体部位分割标记获取各个所述人体部位类别的交并比分数;获取各个所述人体部位类别的交并比分数的均值,得到基准交并比评价分数;

所述训练评价分数获取单元15包括训练交并比评价分数获取单元,适于利用待训练的交并比评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练交并比评价分数;

所述评价损失包括:利用所述训练交并比评价分数和所述基准交并比评价分数获取的交并比评价损失。

可选的,所述训练人体部位分割标记包括所述训练人体图像的各个像素点的分割概率值,所述分割概率值包括所述像素点为各个人体部位类别或非人体部位类别的概率值;所述基准交并比评价分数获取单元,适于获取所述训练人体图像的各个像素点的最大分割概率值所对应的人体部位类别,为所述预测人体部位类别;将同一所述人体部位类别的像素点所占区域标记为该所述人体部位类别的训练分割区域;利用所述训练人体图像的各个像素点的人体部位类别,得到各个所述人体部位类别的基准分割区域;利用各个所述人体部位类别的训练分割区域和基准分割区域,得到各个所述人体部位类别的交并比分数。

可选的,所述基准评价分数获取单元14包括基准质量评价分数获取单元,适于利用所述分割概率值,获取所述训练人体图像的各个像素点的最大分割概率值,根据预定要求,选取基准像素点,获取各个所述基准像素点的所述最大分割概率值的均值,得到基准像素评价分数;根据所述基准像素评价分数和所述基准交并比评价分数,获取所述训练人体部位分割标记的基准质量评价分数;

所述训练评价分数获取单元15包括训练质量评价分数获取单元,适于利用待训练的质量评价网络,根据所述训练人体特征,得到所述训练人体特征对应的训练质量评价分数;

所述评价损失包括:利用所述训练质量评价分数和所述基准质量评价分数获取的质量评价损失。

可选的,训练质量评价分数获取单元,适于根据预定的权重比,获取所述基准像素评价分数和所述基准交并比评价分数的加权几何平均数,得到所述基准质量评价分数。

可选的,所述质量评价分数中,所述像素评价分数和所述交并比评价分数的权重比的范围为1:2-1:4。

可选的,所述训练人体特征获取单元12适于至少获取所述训练人体图像的第一尺寸训练人体特征和第二尺寸训练人体特征;

至少对第一尺寸训练人体特征和第二尺寸训练人体特征进行融合,得到所述训练人体特征。

可选的,所述训练人体图像数据获取单元11,适于:

将原始图像进行单人区分,得到每个人体的单人区分图像;

利用所述单人区分图像,得到分割前图像;

对所述分割前图像进行人体部位分割,得到所述训练人体图像数据。

可选的,所述训练人体图像数据获取单元11,还适于:

将所述单人区分图像置于标准尺寸的分割前图像内,将所述单人区分图像以外的部分填充为均值点,所述均值点的像素值为图像像素值取值范围的最小值与最大值的均值;

对所述标准尺寸的分割前图像内进行人体部位分割,得到所述训练人体图像数据及所述训练人体图像数据各点的基准人体部位分割标记,其中,所述分割前图像中所述单人区分图像以外的部分的人体部位类别为非人体部位。

请参考图12,图12为本发明实施例所提供的人体部位分割装置的示意图,本发明实施例提供了一种人体部位分割装置,包括:

单人待分割图像获取单元31,适于获取单人待分割图像;

人体特征获取单元32,适于获取所述单人待分割图像的人体特征;

人体部位分割网络21,利用所述人体部位分割网络21训练方法训练得到,适于根据所述人体特征,获取所述单人待分割图像对应的人体部位分割结果。

可选的,所述单人待分割图像获取单元31包括:

待处理图像获取单元311,适于获取待处理图像;

单人区分单元312,适于将所述待处理图像进行单人区分,得到各个的单人待分割图像及所述单人待分割图像在所述待处理图像中的图像位置;

所述人体部位分割装置,还包括:分割结果组合单元33,适于按照对应的单人待分割图像在所述待处理图像中的图像位置,对各个所述单人待分割图像对应的人体部位分割结果进行组合,得到所述待处理图像的人体部位分割结果。

当然,本发明实施例还提供一种电子设备,本发明实施例提供的电子设备可以通过程序形式装载程序模块架构,以实现本发明实施例提供的人体部位分割网络训练方法和人体部位分割方法;该硬件设备可以应用于具体数据处理能力的电子设备,该电子设备可以为:例如终端设备或者服务器设备。

所以,请参照图13,图13为本发明实施例所提供的电子设备的示意图。

本发明实施例所提供的电子设备包括:至少一个存储器41和至少一个处理器42,所述存储器41存储一条或多条计算机可执行指令,所述处理器42调用所述一条或多条计算机可执行指令,以执行所述人体部位分割网络训练方法,或人体部位分割方法。

可以理解的是,所述设备还可以包括至少一个通信接口43和至少一个通信总线44;处理器42和存储器41可以位于同一电子设备,例如处理器42和存储器41可以位于服务器设备或者终端设备;处理器42和存储器41也可以位于不同的电子设备。

本发明实施例中,电子设备可以是能够进行人体部位分割网络训练方法或人体部位分割方法的平板电脑、笔记本电脑等设备。

在本发明实施例中,处理器42、通信接口43、存储器41、通信总线44的数量为至少一个,且处理器42、通信接口43、存储器41通过通信总线44完成相互间的通信;显然,图12所示的处理器42、通信接口43、存储器41和通信总线44的通信连接示意仅是可选的一种方式。

可选的,通信接口43可以为通信模块的接口,如GS10M模块的接口;处理器42可能是中央处理器CPU,或者是特定集成电路AS10IC,或者是被配置成实施本发明实施例的一个或多个集成电路;存储器41可以包含高速RAM存储器,也可以包括非易失性存储器,例如至少一个磁盘存储器。

需要说明的是,上述的设备还可以包括与本发明实施例公开内容可能并不是必需的其他器件(未示出);鉴于这些其他器件对于理解本发明实施例公开内容可能并不是必需,本发明实施例对此不进行逐一介绍。

本发明实施例还提供了一种存储介质,所述存储介质存储一条或多条计算机可执行指令,所述一条或多条计算机可执行指令用于执行所述人体部位分割网络训练方法,或所述人体部位分割方法。

上述本发明的实施方式是本发明的元件和特征的组合。除非另外提及,否则所述元件或特征可被视为选择性的。各个元件或特征可在不与其它元件或特征组合的情况下实践。另外,本发明的实施方式可通过组合部分元件和/或特征来构造。本发明的实施方式中所描述的操作顺序可重新排列。任一实施方式的一些构造可被包括在另一实施方式中,并且可用另一实施方式的对应构造代替。对于本领域技术人员而言明显的是,所附权利要求中彼此没有明确引用关系的权利要求可组合成本发明的实施方式,或者可在提交本申请之后的修改中作为新的权利要求包括。

本发明的实施方式可通过例如硬件、固件、软件或其组合的各种手段来实现。在硬件配置方式中,根据本发明示例性实施方式的方法可通过一个或更多个专用集成电路(AS10IC)、数字信号处理器DS10P)、数字信号处理器件(DS10PD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器等来实现。

在固件或软件配置方式中,本发明的实施方式可以模块、过程、功能等形式实现。软件代码可存储在存储器单元中并由处理器执行。存储器单元位于处理器的内部或外部,并可经由各种已知手段向处理器发送数据以及从处理器接收数据。

对所公开的实施例的上述说明,使本领域技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其他实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是符合与本文所公开的原理和新颖特点相一致的最宽的范围。

虽然本发明实施例披露如上,但本发明实施例并非限定于此。任何本领域技术人员,在不脱离本发明实施例的精神和范围内,均可作各种更动与修改,因此本发明实施例的保护范围应当以权利要求所限定的范围为准。

相关技术
  • 人体部位分割网络训练方法、人体部位分割方法及装置
  • 3D图像的分割学习网络的训练方法、分割方法、分割装置和介质
技术分类

06120112898977