掌桥专利:专业的专利平台
掌桥专利
首页

关键点的检测方法和装置

文献发布时间:2023-06-19 11:35:49


关键点的检测方法和装置

技术领域

本公开涉及计算机技术领域,具体涉及包括图像处理和深度学习的人工智能技术领域,尤其涉及关键点的检测方法和装置。

背景技术

关键点(landmark)检测,也被称为关键点定位或关键点对齐,其任务是指,在给定一张待检测的图像数据以后,定位出该图像数据中的关键特征点也即关键点。例如在人脸关键点检测中,关键特征点可以是眼睛、眉毛等部位的特征点。

在相关技术中,关键点的检测往往通过模型来进行,比如,模型可以是深度神经网络。

发明内容

提供了一种关键点的检测方法、装置、电子设备以及存储介质。

根据第一方面,提供了一种关键点的检测方法,包括:获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;对各个热力图进行合并,将合并结果作为多点热力图;将多点热力图和待测图像,输入训练后的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;确定修正后热力图指示的关键点坐标。

根据第二方面,提供了一种关键点修正模型的训练方法,方法包括:获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;对各个热力图进行合并,将合并结果作为多点热力图;将多点热力图和待测图像,输入待训练的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;确定修正后热力图指示的关键点坐标;基于关键点坐标确定关键点修正模型的损失值,通过损失值训练关键点修正模型,得到训练后的关键点修正模型。

根据第三方面,提供了一种关键点的检测装置,包括:获取单元,被配置成获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;合并单元,被配置成对各个热力图进行合并,将合并结果作为多点热力图;修正单元,被配置成将多点热力图和待测图像,输入训练后的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;确定单元,被配置成确定修正后热力图指示的关键点坐标。

根据第四方面,提供了一种关键点修正模型的训练装置,装置包括:检测单元,被配置成获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;热力图单元,被配置成对各个热力图进行合并,将合并结果作为多点热力图;修正后单元,被配置成将多点热力图和待测图像,输入待训练的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;坐标确定单元,被配置成确定修正后热力图指示的关键点坐标;训练单元,被配置成基于关键点坐标确定关键点修正模型的损失值,通过损失值训练关键点修正模型,得到训练后的关键点修正模型。

根据第五方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行关键点的检测方法中任一实施例的方法。

根据第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行根据关键点的检测方法中任一实施例的方法。

根据第五方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现根据关键点的检测方法中任一实施例的方法。

根据本公开的方案,可以利用关键点检测模型的输出,确定关键点修正模型的输入,从而对关键点检测模型预测的关键点进行修正,提高确定关键点的准确度。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:

图1是本公开一些实施例可以应用于其中的示例性系统架构图;

图2是根据本公开的关键点的检测方法的一个实施例的流程图;

图3是根据本公开的关键点的检测方法的一个应用场景的示意图;

图4a是根据本公开的关键点修正模型的训练方法的又一个实施例的流程图;

图4b是根据本公开的关键点修正模型的训练方法的又一个实施例的流程图;

图5a是根据本公开的关键点的检测装置的一个实施例的结构示意图;

图5b是根据本公开的关键点修正模型的训练装置的一个实施例的结构示意图;

图6是用来实现本公开的任一实施例的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。

需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。

图1示出了可以应用本公开的关键点的检测方法或关键点的检测装置的实施例的示例性系统架构100。

如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如视频类应用、直播应用、即时通信工具、邮箱客户端、社交平台软件等。

这里的终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103提供支持的后台服务器。后台服务器可以对接收到的待测图像等数据进行分析等处理,并将处理结果(例如待测图像中目标的关键点坐标)反馈给终端设备。

需要说明的是,本公开实施例所提供的关键点的检测方法可以由服务器105或者终端设备101、102、103执行,相应地,关键点的检测装置可以设置于服务器105或者终端设备101、102、103中。

应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。

继续参考图2,示出了根据本公开的关键点的检测方法的一个实施例的流程200。该关键点的检测方法,包括以下步骤:

步骤201,获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图。

在本实施例中,关键点的检测方法运行于其上的执行主体(例如图1所示的服务器或终端设备)可以获取待测图像和训练后的关键点检测模型,并且,可以将该待测图像输入该关键点检测模型,从而得到包含上述目标的关键点的热力图。这里的待测图像中可以包含目标,也即该待测图像可以呈现有目标。

在实践中,上述热力图可以是从关键点检测模型中输出的,热力图包含上述目标的关键点。每个热力图可以包含至少一个关键点。该热力图可以是高斯分布图。

步骤202,对各个热力图进行合并,将合并结果作为多点热力图。

在本实施例中,上述执行主体可以对各个热力图进行合并,并将合并得到的结果作为多点热力图。具体地,上述执行主体可以将各个热力图进行合并,这样,各个热力图中的关键点随即合并到一个图中,这个图即是多点热力图。多点热力图包含上述各个热力图中的关键点。

步骤203,将多点热力图和待测图像,输入训练后的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图。

在本实施例中,上述执行主体可以将多点热力图和待测图像两者,都输入训练后的关键点修正模型。得到从该关键点修正模型输出的热力图,也即修正后热力图。该修正后热力图包含上述目标的关键点。关键点修正模型的输入中存在关键点检测模型的输出,用于修正该输出,以得到更加准确的关键点。也即,经过修正之后,从该关键点修正模型输出的热力图,其中包含的关键点的坐标位置,比关键点检测模型输出的热力图中包含的关键点的坐标位置更加准确。

上述执行主体可以采用各种方式将多点热力图和待测图像输入关键点修正模型。举例来说,上述执行主体可以将多点热力图和待测图像进行融合,并将融合结果输入关键点修正模型。或者,上述执行主体可以将多点热力图和待测图像相乘,并将相乘的结果输入关键点修正模型。

在实践中,关键点检测模型和关键点修正模型,可以是各种输入为RGB图像、输出为热力图的模型,比如深度神经网络。关键点检测模型和关键点修正模型的待训练的初始模型可以是一致的,也可以是不同的。比如,在一致的情况下,初始的关键点检测模型和初始的关键点修正模型均可以是MobileNetV3。

步骤204,确定修正后热力图指示的关键点坐标。

在本实施例中,上述执行主体可以确定修正后热力图指示的关键点坐标,也即关键点的坐标位置。比如,上述关键点坐标也即关键点所在的像素点,可以是热力图和修正后热力图中像素值高(比如最高)的像素点。由关键点坐标,可以确定出目标(比如人体)的姿态。

在实践中,关键点坐标可以包括横坐标、纵坐标和置信度。具体地,如果关键点的数量为N,修正后热力图指示的坐标为(x

本公开的上述实施例提供的方法可以利用关键点检测模型的输出,确定关键点修正模型的输入,从而对关键点检测模型预测的关键点进行修正,提高确定关键点的准确度。

在本实施例的一些可选的实现方式中,关键点检测模型和关键点修正模型两者的参数数量小于预设数值。

在这些可选的实现方式中,上述关键点检测模型和关键点修正模型,这两者的参数的数量可以均小于预设数值。参数数量小于该预设数值的模型可以是轻量级的小模型。

这些实现方式可以通过两个轻量级的小模型,加快计算速度,更高效地确定出关键点。

可选地,上述步骤203中的将多点热力图和待测图像,输入训练后的关键点修正模型,可以包括:对多点热力图和待测图像进行拼接,得到拼接结果;将拼接结果输入训练后的关键点修正模型。

在这些可选的实现方式中,上述执行主体可以对多点热力图和待测图像进行拼接(concat),从而得到拼接结果。之后,上述执行主体可以将拼接结果输入训练后的关键点修正模型,从而实现将多点热力图和待测图像均输入关键点修正模型。

这些可选的实现方式可以通过拼接,更加高效地将多点热力图和待测图像输入关键点修正模型。此外,相比于相乘等方式,拼接能够更好地体现图像纹理和热力图中关键点的权重。

可选地,关键点检测模型输出的热力图指示目标的一个关键点;步骤202中的对各个热力图进行合并,将合并结果作为多点热力图,可以包括:将关键点检测模型输出的各个热力图进行合并,得到包含该各个热力图中关键点的多点热力图,其中,所述多点热力图中关键点的数量等于关键点检测模型输出的热力图的数量。

在这些可选的实现方式中,上述执行主体可以将各个热力图进行合并,从而让多点热力图中包含关键点检测模型输出的各个热力图(比如所有热力图)中的关键点。其中,关键点检测模型输出的热力图(比如每个热力图)可以包括上述目标的一个关键点。这样,多点热力图中关键点的数量,就等于关键点检测模型输出的热力图的数量。

这些可选的实现方式可以通过对针对每个关键点的热力图进行合并,以便于将体现不同关键点的热力图的特征输入到关键点修正模型中。

继续参见图3,图3是根据本实施例的关键点的检测方法的应用场景的一个示意图。在图3的应用场景中,执行主体301获取包含目标的待测图像302也即“人体”图像和训练后的关键点检测模型303,将待测图像302输入关键点检测模型303,得到包含“人体”的关键点的热力图304。执行主体301可以对各个热力图304进行合并,将合并结果作为多点热力图305。执行主体301可以将多点热力图305和待测图像302,输入训练后的关键点修正模型306,得到包含目标的关键点的热力图,将该热力图作为修正后热力图307。执行主体301可以确定修正后热力图307指示的关键点坐标308。

进一步参考图4a,其示出了关键点的检测方法的又一个实施例的流程400。该流程400,包括以下步骤:

步骤401,获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图。

在本实施例中,关键点的检测方法运行于其上的执行主体(例如图1所示的服务器或终端设备)可以获取待测图像和训练后的关键点检测模型,并且,可以将该待测图像输入该关键点检测模型,从而得到包含上述目标的关键点的热力图。这里的待测图像中可以包含目标,也即该待测图像可以呈现有目标。

在实践中,上述热力图可以是从关键点检测模型中输出的,热力图包含上述目标的关键点。每个热力图可以包含至少一个关键点。该热力图可以是高斯分布图。

步骤402,对各个热力图进行合并,将合并结果作为多点热力图。

在本实施例中,上述执行主体可以对各个热力图进行合并,并将合并得到的结果作为多点热力图。具体地,上述执行主体可以将各个热力图进行合并,这样,各个热力图中的关键点随即合并到一个图中,这个图即是多点热力图。多点热力图包含上述各个热力图中的关键点。

步骤403,将多点热力图和待测图像,输入训练后的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图。

在本实施例中,上述执行主体可以将多点热力图和待测图像两者,都输入训练后的关键点修正模型。得到从该关键点修正模型输出的热力图,也即修正后热力图,该修正后热力图包含上述目标的关键点。关键点修正模型的输入中存在关键点检测模型的输出,用于修正该输出,以得到更加准确的关键点。也即,经过修正之后,从该关键点修正模型输出的热力图,其中包含的关键点的坐标位置,比关键点检测模型输出的热力图中包含的关键点的坐标位置更加准确。

步骤404,确定修正后热力图指示的关键点坐标。

在本实施例中,上述执行主体可以确定修正后热力图指示的关键点坐标,也即关键点的坐标位置。比如,上述关键点坐标也即关键点所在的像素点,可以是热力图和修正后热力图中像素值高(比如最高或者高于指定阈值)的像素点。

步骤405,基于关键点坐标确定关键点修正模型的损失值,通过损失值训练关键点修正模型,得到训练后的关键点修正模型。

在本实施例中,上述执行主体可以基于上述关键点坐标确定关键点修正模型的损失值,并通过该损失值训练上述关键点修正模型。这样,就可以得到训练后的关键点修正模型。

在实践中,上述执行主体可以获取关键点坐标的真实值也即标注值(label),并且可以通过该标注值、所确定的关键点坐标和预设的损失函数,确定损失值。

这些实现方式可以利用关键点检测模型的输出,确定关键点修正模型的输入,提高了训练后的关键点修正模型的预测准确度。

如图4b所示,图中示出了一个人体图像(分辨率为3*192*144)从R、G、B三个通道输入到关键点检测模型,得到热力图(热力图大小为N*24*18,其中,N是关键点的数量,也是热力图的数量,比如可以是17)后合并,并将合并得到的多点热力图(大小为24*18)和上述人体图像输入到待训练的关键点修正模型,得到从关键点修正模型输出的修正后热力图(N*24*18)。上述执行主体可以得到修正后热力图指示的关键点坐标值(17*3)。该关键点坐标值可以用于计算损失值以训练该关键点修正模型。

在本实施例的一些可选的实现方式中,关键点检测模型和关键点修正模型两者的参数数量小于预设数值。

在本实施例的一些可选的实现方式中,将多点热力图和待测图像,输入训练后的关键点修正模型,包括:对多点热力图和待测图像进行拼接,得到拼接结果;将拼接结果输入训练后的关键点修正模型。

在本实施例的一些可选的实现方式中,关键点检测模型输出的热力图指示目标的一个关键点;对各个热力图进行合并,将合并结果作为多点热力图,包括:将关键点检测模型输出的各个热力图进行合并,得到包含该各个热力图中关键点的多点热力图,其中,多点热力图中关键点的数量等于关键点检测模型输出的热力图的数量。

进一步参考图5a,作为对上述图2所示方法的实现,本公开提供了一种关键点的检测装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图2所示的方法实施例相同或相应的特征或效果。该装置具体可以应用于各种电子设备中。

如图5a所示,本实施例的关键点的检测装置510包括:获取单元511、合并单元512、修正单元513和确定单元514。其中,获取单元511,被配置成获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;合并单元512,被配置成对各个热力图进行合并,将合并结果作为多点热力图;修正单元513,被配置成将多点热力图和待测图像,输入训练后的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;确定单元514,被配置成确定修正后热力图指示的关键点坐标。

在本实施例中,关键点的检测装置510的获取单元511、合并单元512、修正单元513和确定单元514的具体处理及其所带来的技术效果可分别参考图2对应实施例中步骤201、步骤202、步骤203和步骤204的相关说明,在此不再赘述。

在本实施例的一些可选的实现方式中,关键点检测模型和关键点修正模型两者的参数数量小于预设数值。

在本实施例的一些可选的实现方式中,修正单元,进一步被配置成按照如下方式执行将多点热力图和待测图像,输入训练后的关键点修正模型:对多点热力图和待测图像进行拼接,得到拼接结果;将拼接结果输入训练后的关键点修正模型。

在本实施例的一些可选的实现方式中,关键点检测模型输出的每个热力图指示目标的一个关键点;合并单元,进一步被配置成按照如下方式执行对各个热力图进行合并,将合并结果作为多点热力图:将关键点检测模型输出的各个热力图进行合并,得到包含该各个热力图中关键点的多点热力图,其中,多点热力图中关键点的数量等于关键点检测模型输出的热力图的数量。

进一步参考图5b,作为对上述图4所示方法的实现,本公开提供了一种关键点修正模型的训练装置的一个实施例,该装置实施例与图4所示的方法实施例相对应,除下面所记载的特征外,该装置实施例还可以包括与图4所示的方法实施例相同或相应的特征或效果。该装置具体可以应用于各种电子设备中。

如图5b所示,本实施例的关键点修正模型的训练装置520包括:检测单元521、热力图单元522、修正后单元523、坐标确定单元524和训练单元525。其中,检测单元521,被配置成获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;热力图单元522,被配置成对各个热力图进行合并,将合并结果作为多点热力图;修正后单元523,被配置成将多点热力图和待测图像,输入待训练的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;坐标确定单元524,被配置成确定修正后热力图指示的关键点坐标;训练单元525,被配置成基于关键点坐标确定关键点修正模型的损失值,通过损失值训练关键点修正模型,得到训练后的关键点修正模型。

在本实施例中,关键点修正模型的训练装置520的检测单元521、热力图单元522、修正后单元523、坐标确定单元524和训练单元525的具体处理及其所带来的技术效果可分别参考图4对应实施例中步骤401、步骤402、步骤403、步骤404和步骤405的相关说明,在此不再赘述。

在本实施例的一些可选的实现方式中,关键点检测模型和关键点修正模型两者的参数数量小于预设数值。

在本实施例的一些可选的实现方式中,修正后单元,进一步被配置成按照如下方式执行将多点热力图和待测图像,输入训练后的关键点修正模型,包括:对多点热力图和待测图像进行拼接,得到拼接结果;将拼接结果输入训练后的关键点修正模型。

在本实施例的一些可选的实现方式中,关键点检测模型输出的热力图指示目标的一个关键点;热力图单元,进一步被配置成按照如下方式执行对各个热力图进行合并,将合并结果作为多点热力图:将关键点检测模型输出的各个热力图进行合并,得到包含该各个热力图中关键点的多点热力图,其中,多点热力图中关键点的数量等于关键点检测模型输出的热力图的数量。

根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

如图6所示,是根据本公开实施例的关键点的检测方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。

存储器602即为本公开所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本公开所提供的关键点的检测方法。本公开的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本公开所提供的关键点的检测方法。

存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本公开实施例中的关键点的检测方法对应的程序指令/模块(例如,附图5a所示的获取单元511、合并单元512、修正单元513和确定单元514)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的关键点的检测方法。

存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据关键点的检测电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至关键点的检测电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

关键点的检测方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。

输入装置603可接收输入的数字或字符信息,以及产生与关键点的检测电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。

附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、合并单元、修正单元和确定单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,合并单元还可以被描述为“对各个热力图进行合并,将合并结果作为多点热力图的单元”。

作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;对各个热力图进行合并,将合并结果作为多点热力图;将多点热力图和待测图像,输入训练后的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;确定修正后热力图指示的关键点坐标。

作为另一方面,本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:获取包含目标的待测图像和训练后的关键点检测模型,将待测图像输入关键点检测模型,得到包含目标的关键点的热力图;对各个热力图进行合并,将合并结果作为多点热力图;将多点热力图和待测图像,输入待训练的关键点修正模型,得到包含目标的关键点的热力图,将该热力图作为修正后热力图;确定修正后热力图指示的关键点坐标;

基于关键点坐标确定关键点修正模型的损失值,通过损失值训练关键点修正模型,得到训练后的关键点修正模型。

以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

相关技术
  • 关键点检测模型训练方法和装置、关键点检测方法和装置
  • 关键点检测模型的优化及面部关键点的检测方法及装置
技术分类

06120112985244