掌桥专利:专业的专利平台
掌桥专利
首页

图像处理方法和相关产品

文献发布时间:2023-06-19 09:29:07


图像处理方法和相关产品

技术领域

本申请涉及图像处理领域,尤其涉及一种图像处理方法和相关产品。

背景技术

随着图像处理技术的发展,视频换背景以及图像换背景的应用越来越广泛。目前采用的视频换背景方案以及图像换背景方案中,用户需要手动调整前景图像相对于背景图像的位置和/或大小,操作复杂,且效果难以保证。

发明内容

本申请实施例公开了一种图像处理方法和相关产品,能够自动确定前景图像相对于背景图像的位置,确定的相对位置更加合理。

第一方面,本申请实施例提供了一种图像处理方法,该方法包括:获取待融合的第一图像和第二图像,其中,所述第二图像为从原始图像中获取的前景区域图像;通过对所述第一图像和所述第二图像进行处理,得到所述第二图像相对于所述第一图像的目标位置;基于所述目标位置,对所述第一图像和所述第二图像进行图像融合处理,得到目标图像。

本申请实施例中,执行主体为图像处理装置。所述图像处理装置可以是手机、平板电脑、台式电脑、笔记本电脑等终端设备,也可以是服务器。基于所述目标位置,对所述第一图像和所述第二图像进行图像融合处理可以是:将所述第二图像作为前景图像以及将所述第一图像作为背景图像进行图像融合处理,得到目标图像。

本申请实施例中,图像处理装置自动确定前景图像相对于背景图像的位置,确定的相对位置更加合理,以便于对前景图像和背景图像进行前背景融合得到融合效果更好的图像。

在一个可能的实现方式中,所述通过对所述第一图像和所述第二图像进行处理,得到所述第一图像相对于所述第二图像的目标位置,包括:对所述第一图像进行地面识别处理,得到所述第一图像中的地面区域的位置信息;基于所述地面区域的位置信息,确定所述第二图像相对于所述第一图像的所述目标位置。

在一个可能的实现方式中,所述目标位置的确定使得所述第二图像中的目标区域相对于所述第一图像位于所述地面区域内,所述目标区域包含在所述原始图像中与地面接触的区域。

在该实现方式中,可以使得原始图像中与地面接触的区域相对于第一图像位于地面区域内,符合真实场景。

在一个可能的实现方式中,所述基于所述地面区域的位置信息,确定所述第二图像相对于所述第一图像的所述目标位置包括:基于所述地面区域的位置信息和所述第二图像中的目标区域,确定所述第二图像相对于所述第一图像的所述目标位置;所述目标区域包含在所述原始图像中与地面接触的区域,所述目标区域相对于所述第一图像位于所述地面区域内。应理解,确定所述第二图像相对于所述第一图像的所述目标位置要达到的一个目标是:所述目标区域相对于所述第一图像位于所述地面区域内。

在一个可能的实现方式中,基于所述地面区域的位置信息和所述第二图像中的目标区域,确定所述第二图像相对于所述第一图像的所述目标位置包括:基于所述目标区域、所述地面区域的位置信息以及所述第一图像中的第一分界线,确定所述第二图像相对于所述第一图像的所述目标位置;所述第二图像中的第二分界线相对于所述第一图像中的目标直线与所述第一分界线之间的距离小于距离阈值,所述第二分界线为所述第二图像中的第一子部分和第二子部分的分界线,所述第一子部分中距离所述第二分界线最远的像素点至所述第二分界线的距离与所述第二子部分中距离所述第二分界线最远的像素点至所述第二分界线的距离的比值为第一值,所述第一分界线为所述第二图像中的第三子部分和第四子部分的分界线,所述第三子部分中距离所述第一分界线最远的像素点至所述第一分界线的距离与所述第四子部分中距离所述第一分界线最远的像素点至所述第一分界线的距离的比值为第二值,所述第一值和所述第二值的差值小于第一阈值。在一些实施例中,所述第一值和所述第二值相等(例如均为二分之一),所述第一阈值为0。在一些实施例中,所述第一值和所述第二值不相等,所述第一阈值不为0。

在该实现方式中,通过第二图像中的第二分界线和第一图像中的第一分界线,确定第二图像相对于与第一图像的位置,更加合理。

在一个可能的实现方式中,所述方法还包括:利用神经网络对所述第一图像进行平视线估计处理,得到所述第一图像中所述第一分界线的位置信息。

在一个可能的实现方式中,在基于所述目标区域、所述地面区域的位置信息以及所述第一图像中的第一分界线,确定所述第二图像相对于所述第一图像的所述目标位置之前,所述方法还包括:获得第一蒙版,所述第一蒙版为所述原始图像中所述第二图像的边界框所包含的参考区域的蒙版,所述参考区域中属于所述第二图像的像素点在所述第一蒙版对应第一值,所述参考区域中不属于所述第二图像的像素点在所述第一蒙版对应第二值;将所述第二蒙版中的无效区域中的值均调整为所述第二值,得到第二蒙版;所述无效区域未包括所述第二图像中与地面接触的区域对应的蒙版;基于所述第二蒙版中的第一像素点的横坐标和第二像素点的纵坐标得到第一左上角坐标,基于所述第二蒙版中的第三像素点的横坐标和第四像素点的纵坐标得到第一右下角坐标;所述第一像素点为所述第二蒙版中像素值为所述第一值的像素点中横坐标最小的像素点,所述第二像素点为所述第二蒙版中像素值为所述第一值的像素点中纵坐标最小的像素点,所述第三像素点为所述第二蒙版中像素值为所述第一值的像素点中横坐标最大的像素点,所述第四像素点为所述第二蒙版中像素值为所述第一值的像素点中纵坐标最大的像素点;基于所述第一左上角坐标和所述第一右下角坐标,确定所述目标区域。

在一个可能的实现方式中,所述获得第一蒙版包括:对所述原始图像进行图像处理,得到第三蒙版;所述第三蒙版为所述原始图像的二值蒙版;基于所述第三蒙版中的第五像素点的横坐标和第六像素点的纵坐标得到第二左上角坐标,基于所述第三蒙版中的第七像素点的横坐标和第八像素点的纵坐标得到第二右下角坐标;所述第五像素点为所述第三蒙版中像素值为所述第一值的像素点中横坐标最小的像素点,所述第六像素点为所述第三蒙版中像素值为所述第一值的像素点中纵坐标最小的像素点,所述第七像素点为所述第三蒙版中像素值为所述第一值的像素点中横坐标最大的像素点,所述第八像素点为所述第三蒙版中像素值为所述第一值的像素点中纵坐标最大的像素点;获取所述第三蒙版中所述第二左上角坐标和所述第二右下角坐标对应的矩形区域,得到所述第一蒙版。

在一个可能的实现方式中,所述目标区域相对于所述第一图像中的位置位于所述第一图像中的第三分界线的一侧,所述第三分界线为所述第一图像中的第五子部分和第六子部分的分界线,所述第五子部分中距离所述第一分界线最远的像素点至所述第三分界线的距离与所述第六子部分中距离所述第三分界线最远的像素点至所述第三分界线的距离的比值为三分之二,所述目标区域位于所述第六子部分。

在一个可能的实现方式中,所述方法还包括:基于所述地面区域的位置信息,确定所述地面区域的第一边界线和第二边界线的中线,所述第一边界线和所述第二边界线中的至少一个与所述第一分界线垂直;所述基于所述目标区域、所述地面区域的位置信息以及所述第一图像中的第一分界线,确定所述第二图像相对于所述第一图像的所述目标位置包括:基于所述目标区域、所述地面区域的位置信息、所述第一分界线以及所述中线,确定所述第二图像相对于所述第一图像的位置;所述目标区域中至少一个像素点至所述中线的距离小于第一阈值。

在该实现方式中,可以使得第二图像相对于第一图像的位置位于地面区域的中间。

在一个可能的实现方式中,所述目标区域为矩形区域,所述目标区域中的中心像素点至所述中线的距离小于第二阈值,所述中心像素点至所述目标区域的四个端点的距离相等。

在一个可能的实现方式中,所述通过对所述第一图像和所述第二图像进行处理,得到所述第一图像相对于所述第二图像的目标位置,包括:对所述第二图像进行处理,得到所述第二图像中的第一主体区域的位置信息;基于所述第一主体区域的位置信息,得到所述第一图像相对于所述第二图像的所述目标位置。

所述第一主体区域可以是所述第二图像中包括目标对象的矩形区域。所述第一主体区域可理解为所述第二图像中包括目标对象的边界框对应的一个矩形区域。

在一个可能的实现方式中,所述目标位置的确定使得所述第二图像的第一主体区域的特定位置位于所述第一图像的平视区域内;所述平视区域包括由多个消失点得到的消失线,所述多个消失点中任一个为在现实世界中平行的两条线在所述第一图像中相交的点。可选的,所述特定位置可以是所述第一主体区域中将所述第一主体区域(矩形区域)分为面积比为一比二的两个矩形区域的分界线(例如一条水平线)。

在一个可能的实现方式中,所述对所述第二图像进行处理,得到所述第二图像中的第一主体区域的位置信息,包括:基于所述第二图像的透明度通道,得到所述第二图像中所述第一主体区域的位置信息。

在一个可能的实现方式中,所述方法还包括:利用神经网络对所述第一图像进行平视区域估计处理,得到所述第一图像中所述平视区域的位置信息。

在一个可能的实现方式中,所述基于所述地面区域的位置信息,确定所述第二图像相对于所述第一图像的所述目标位置包括:基于所述地面区域的位置信息,确定所述地面区域在第一方向上的中间区域的位置信息;基于所述第二图像的所述目标区域和所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置。

在一个可能的实现方式中,所述基于所述第二图像的所述目标区域和所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置,包括:基于所述目标区域包括的多个像素点在透明度通道上的数值,确定所述目标区域中的第二主体区域的位置信息;基于所述第二主体区域的位置信息以及所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置。

可选的,所述目标位置的确定使得所述第二主体区域相对于所述第一图像位于所述中间区域内。

在一个可能的实现方式中,所述目标位置包括所述第二图像中的至少一个像素点在所述第一图像中的位置以及所述第二图像的目标大小;所述基于所述目标位置,对所述第一图像和所述第二图像进行图像融合处理,得到目标图像,包括:基于所述目标位置中包括的目标大小,对所述第二图像进行尺寸变换处理,得到变换处理后的所述第二图像;基于所述第二图像中的至少一个像素点在所述第一图像中的位置,对所述变换处理后的所述第二图像和所述第一图像进行图像融合,得到所述目标图像。

在一个可能的实现方式中,所述通过对所述第一图像和所述第二图像进行处理,得到所述第二图像相对于所述第一图像的目标位置包括:通过目标函数优化的方式,得到所述目标位置,其中,所述目标函数的输入参数包括下列中的至少一种:所述第二图像中的目标区域的位置信息、所述第一图像中的地面区域的位置信息、所述第二图像中的第一主体区域的位置信息、所述目标区域中第二主体区域的位置信息,所述目标区域包含在所述原始图像中与地面接触的区域。

第二方面,本申请实施例提供了一种图像处理装置,包括:获取单元,用于获取待融合的第一图像和第二图像,其中,所述第二图像为从原始图像中获取的前景区域图像;图像处理单元,用于通过对所述第一图像和所述第二图像进行处理,得到所述第二图像相对于所述第一图像的目标位置;图像融合单元,用于基于所述目标位置,对所述第一图像和所述第二图像进行图像融合处理,得到目标图像。

在一个可能的实现方式中,所述图像处理单元,具体用于对所述第一图像进行地面识别处理,得到所述第一图像中的地面区域的位置信息;基于所述地面区域的位置信息,确定所述第二图像相对于所述第一图像的所述目标位置。

在一个可能的实现方式中,所述目标位置的确定使得所述第二图像中的目标区域相对于所述第一图像位于所述地面区域内,所述目标区域包含在所述原始图像中与地面接触的区域。

在一个可能的实现方式中,所述图像处理单元,具体用于基于所述地面区域的位置信息和所述第二图像中的目标区域,确定所述第二图像相对于所述第一图像的所述目标位置;所述目标区域包含在所述原始图像中与地面接触的区域,所述目标区域相对于所述第一图像位于所述地面区域内。

在一个可能的实现方式中,所述图像处理单元,具体用于基于所述目标区域、所述地面区域的位置信息以及所述第一图像中的第一分界线,确定所述第二图像相对于所述第一图像的所述目标位置;所述第二图像中的第二分界线相对于所述第一图像中的目标直线与所述第一分界线之间的距离小于距离阈值,所述第二分界线为所述第二图像中的第一子部分和第二子部分的分界线,所述第一子部分中距离所述第二分界线最远的像素点至所述第二分界线的距离与所述第二子部分中距离所述第二分界线最远的像素点至所述第二分界线的距离的比值为第一值,所述第一分界线为所述第二图像中的第三子部分和第四子部分的分界线,所述第三子部分中距离所述第一分界线最远的像素点至所述第一分界线的距离与所述第四子部分中距离所述第一分界线最远的像素点至所述第一分界线的距离的比值为第二值,所述第一值和所述第二值的差值小于第一阈值。

在一个可能的实现方式中,所述图像处理单元,还用于利用神经网络对所述第一图像进行平视线估计处理,得到所述第一图像中所述第一分界线的位置信息。

在一个可能的实现方式中,所述获取单元,还用于获得第一蒙版,所述第一蒙版为所述原始图像中所述第二图像的边界框所包含的参考区域的蒙版,所述参考区域中属于所述第二图像的像素点在所述第一蒙版对应第一值,所述参考区域中不属于所述第二图像的像素点在所述第一蒙版对应第二值;所述图像处理单元,具体用于将所述第二蒙版中的无效区域中的值均调整为所述第二值,得到第二蒙版;所述无效区域未包括所述第二图像中与地面接触的区域对应的蒙版;基于所述第二蒙版中的第一像素点的横坐标和第二像素点的纵坐标得到第一左上角坐标,基于所述第二蒙版中的第三像素点的横坐标和第四像素点的纵坐标得到第一右下角坐标;所述第一像素点为所述第二蒙版中像素值为所述第一值的像素点中横坐标最小的像素点,所述第二像素点为所述第二蒙版中像素值为所述第一值的像素点中纵坐标最小的像素点,所述第三像素点为所述第二蒙版中像素值为所述第一值的像素点中横坐标最大的像素点,所述第四像素点为所述第二蒙版中像素值为所述第一值的像素点中纵坐标最大的像素点;基于所述第一左上角坐标和所述第一右下角坐标,确定所述目标区域。

在一个可能的实现方式中,所述获取单元,具体用于对所述原始图像进行图像处理,得到第三蒙版;所述第三蒙版为所述原始图像的二值蒙版;基于所述第三蒙版中的第五像素点的横坐标和第六像素点的纵坐标得到第二左上角坐标,基于所述第三蒙版中的第七像素点的横坐标和第八像素点的纵坐标得到第二右下角坐标;所述第五像素点为所述第三蒙版中像素值为所述第一值的像素点中横坐标最小的像素点,所述第六像素点为所述第三蒙版中像素值为所述第一值的像素点中纵坐标最小的像素点,所述第七像素点为所述第三蒙版中像素值为所述第一值的像素点中横坐标最大的像素点,所述第八像素点为所述第三蒙版中像素值为所述第一值的像素点中纵坐标最大的像素点;获取所述第三蒙版中所述第二左上角坐标和所述第二右下角坐标对应的矩形区域,得到所述第一蒙版。

在一个可能的实现方式中,所述目标区域相对于所述第一图像中的位置位于所述第一图像中的第三分界线的一侧,所述第三分界线为所述第一图像中的第五子部分和第六子部分的分界线,所述第五子部分中距离所述第一分界线最远的像素点至所述第三分界线的距离与所述第六子部分中距离所述第三分界线最远的像素点至所述第三分界线的距离的比值为三分之二,所述目标区域位于所述第六子部分。

在一个可能的实现方式中,所述图像处理单元,还用于基于所述地面区域的位置信息,确定所述地面区域的第一边界线和第二边界线的中线,所述第一边界线和所述第二边界线中的至少一个与所述第一分界线垂直;所述基于所述目标区域、所述地面区域的位置信息以及所述第一图像中的第一分界线,确定所述第二图像相对于所述第一图像的所述目标位置包括:基于所述目标区域、所述地面区域的位置信息、所述第一分界线以及所述中线,确定所述第二图像相对于所述第一图像的位置;所述目标区域中至少一个像素点至所述中线的距离小于第一阈值。

在一个可能的实现方式中,所述目标区域为矩形区域,所述目标区域中的中心像素点至所述中线的距离小于第二阈值,所述中心像素点至所述目标区域的四个端点的距离相等。

在一个可能的实现方式中,所述图像处理单元,具体用于对所述第二图像进行处理,得到所述第二图像中的第一主体区域的位置信息;基于所述第一主体区域的位置信息,得到所述第一图像相对于所述第二图像的所述目标位置。

在一个可能的实现方式中,所述目标位置的确定使得所述第二图像的第一主体区域的特定位置位于所述第一图像的平视区域内;所述平视区域包括由多个消失点得到的消失线,所述多个消失点中任一个为在现实世界中平行的两条线在所述第一图像中相交的点。

在一个可能的实现方式中,所述图像处理单元,具体用于基于所述第二图像的透明度通道,得到所述第二图像中所述第一主体区域的位置信息。

在一个可能的实现方式中,所述图像处理单元,还用于利用神经网络对所述第一图像进行平视区域估计处理,得到所述第一图像中所述平视区域的位置信息。

在一个可能的实现方式中,所述图像处理单元,具体用于基于所述地面区域的位置信息,确定所述地面区域在第一方向上的中间区域的位置信息;基于所述第二图像的所述目标区域和所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置。

在一个可能的实现方式中,所述图像处理单元,具体用于基于所述目标区域包括的多个像素点在透明度通道上的数值,确定所述目标区域中的第二主体区域的位置信息;基于所述第二主体区域的位置信息以及所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置。

在一个可能的实现方式中,所述目标位置包括所述第二图像中的至少一个像素点在所述第一图像中的位置以及所述第二图像的目标大小;所述图像融合单元,具体用于基于所述目标位置中包括的目标大小,对所述第二图像进行尺寸变换处理,得到变换处理后的所述第二图像;基于所述第二图像中的至少一个像素点在所述第一图像中的位置,对所述变换处理后的所述第二图像和所述第一图像进行图像融合,得到所述目标图像。

在一个可能的实现方式中,所述图像处理单元,具体用于通过目标函数优化的方式,得到所述目标位置,其中,目标函数的输入参数包括下列中的至少一种:所述第二图像中的目标区域的位置信息、所述第一图像中的地面区域的位置信息、所述第二图像中的第一主体区域的位置信息、所述目标区域中第二主体区域的位置信息,所述目标区域包含在所述原始图像中与地面接触的区域。

关于第二方面或各种可选的实施方式所带来的技术效果,可参考对于第一方面或相应的实现方式的技术效果的介绍。

第三方面,本申请实施例提供了一种电子设备,该电子设备包括:处理器和存储器,其中,所述存储器用于存储指令,所述处理器用于执行所述存储器存储的指令,使得所述处理器执行如上述第一方面以及任一种可能的实现方式的方法。

第四方面,本申请实施例提供了一种芯片,该芯片包括数据接口和处理器,其中,所述处理器用于执行第一方面或第一方面的任意可能实现方式中的方法。

第五方面,本申请实施例提供了一种计算机可读存储介质,该计算机存储介质存储有计算机程序,该计算机程序包括程序指令,该程序指令当被处理器执行时使该处理器执行上述第一方面以及任一种可选的实现方式的方法。

第六方面,本申请实施例提供了一种计算机程序产品,该计算机程序产品包括程序指令,所述程序指令当被处理器执行时使所述处理器执行上述第一方面以及任一种可选的实现方式的方法。

附图说明

为了更清楚地说明本申请实施例或背景技术中的技术方案,下面将对本申请实施例或背景技术中所需要使用的附图进行说明。

图1为本申请实施例提供的一种图像处理方法流程图;

图2为本申请实施例提供的一种原始图像和第二图像的示例的示意图;

图3为本申请实施例提供的一种图像对比示意图;

图4A为本申请实施例提供的一种第二图像和标定线的示例的示意图;

图4B为本申请实施例提供的一种第二图像和第一主体区域的示例的示意图;

图5为本申请实施例提供的一种第一图像的平视区域的示例的示意图;

图6为本申请实施例提供的一种第一图像的地面区域和中间区域的示例的示意图;

图7A为本申请实施例提供的一种第二图像的目标区域和第二主体区域的示例的示意图;

图7B为本申请实施例提供的一种第二主体区域和中间区域的示例的示意图;

图8为本申请实施例提供的另一种图像处理方法流程图;

图9A和图9B为本申请实施例提供的一种地面区域的边界的示例的示意图;

图10A为本申请实施例提供的一种原始图像、第一蒙版以及第二蒙版的示例的示意图;

图10B为本申请实施例提供的一种第三蒙版以及第一蒙版的示例的示意图;

图11为本申请实施例提供的一种图像对比示意图;

图12为本申请实施例提供的另一种图像处理方法流程图;

图13为本申请实施例提供的另一种图像处理方法流程图;

图14为本申请实施例提供的一种第一主体区域和第二图像的示例的示意图;

图15为本申请实施例提供的另一种图像处理方法流程图;

图16为本申请实施例提供的另一种图像处理方法流程图;

图17为本申请实施例提供的一种图像处理装置的结构示意图;

图18为本申请实施例提供的一种终端设备的结构示意图。

具体实施方式

本申请的说明书实施例和权利要求书及上述附图中的术语“第一”、“第二”、和“第三”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元。方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

如背景技术所述,需要研究高效的调整前景图像相对于背景图像的位置和/或大小的方案。本申请提供了能自动合理地确定前景图像相对于背景图像的位置的图像处理方法。下面分别对申请实施例提供的图像处理方法适用的场景进行简单的介绍。

场景1:用户通过终端设备(例如个人电脑)上运行的图像处理软件对前景图像和背景图像进行图像融合处理,其中,终端设备自动确定前景图像相对于背景图像的位置。

场景2:用户通过终端设备(例如个人电脑)上运行的图像处理软件对前景图像和视频中的各帧背景图像进行图像融合处理,终端设备自动确定前景图像相对于各帧背景图像的位置。

场景3:用户通过终端设备(例如个人电脑)将前景图像和背景图像通过网络上传至服务器,服务器对前景图像和背景图像进行图像融合处理,并图像融合处理得到的图像(对应于目标图像)发送给终端设备。

场景4:用户通过终端设备(例如个人电脑)将前景图像和视频通过网络上传至服务器,服务器对前景图像和视频中的各帧背景图像进行图像融合处理,并图像融合处理得到的视频发送给终端设备。

在上述场景中,通过实施本申请实施例提供的图像处理方法,可更合理的确定前景图像相对于背景图像的位置,进而融合得到品质更好的图像。

下面结合附图来介绍本申请实施例提供的图像处理方法。

请参见图1,图1为本申请实施例提供的一种图像处理方法流程图。如图1所示,该方法可包括:

101、图像处理装置获取待融合的第一图像和第二图像。

上述第二图像为从原始图像中获取的前景区域图像。上述第一图像作为图像融合处理的背景图像,上述第二图像作为图像融合处理的前景图像。在一些实施例中,图像处理装置在执行步骤101之前,可从原始图像中提取出上述第二图像,即前景区域图像。图2为本申请实施例提供的一种原始图像和第二图像的示例的示意图。图2中,左边的图为原始图像,右边虚线框中图为第二图像。

上述图像处理装置可以是手机、平板电脑、可穿戴设备、笔记本电脑、台式电脑等终端设备,也可以是服务器。在一些实施例中,图像处理装置为笔记本电脑等终端设备,该图像处理装置运行的图像处理软件执行图1的方法流程。举例来说,用户将原始图像和第一图像上传至图像处理装置运行的图像处理软件,或者上述图像处理软件基于用户的指示从网络或特定存储区域获取原始图像和第一图像,通过该图像处理软件执行图1的方法流程。在一些实施例中,上述图像处理装置为服务器,图像处理装置在执行步骤101之前,可接收来自终端设备(例如手机或者PC等)的原始图像和第一图像,并从该原始图像提取出第二图像。上述第一图像可以是静态图像,或者是从视频流中抽取出来的图像帧,本公开实施例对第一图像的类型不作限定。

102、图像处理装置通过对第一图像和第二图像进行处理,得到第二图像相对于第一图像的目标位置。

在一些实施例中,步骤102的实现方式如下:对上述第一图像进行地面识别处理,得到上述第一图像中的地面区域的位置信息;基于上述地面区域的位置信息,确定上述第二图像相对于上述第一图像的上述目标位置。上述目标位置的确定使得上述第二图像中的目标区域相对于上述第一图像位于上述地面区域内,上述目标区域包含在上述原始图像中与地面接触的区域。图3为本申请实施例提供的一种图像对比示意图。如图3所示,最左边的图表示原始图像,该原始图像中的虚线矩形框包围的区域表示目标区域,中间的图表示第一图像,最右边的图表示由第二图像和第一图像融合得到的目标图像。从图3最右边的图可以看出,第二图像中的目标区域相对于第一图像位于地面区域内。在该实施例中,第二图像在原始图像中与地面接触的区域相对于第一图像位于上述地面区域内,可以使得由第一图像和第二图像融合得到的目标图像符合真实场景。

在一些实施例中,步骤102的实现方式如下:对上述第二图像进行处理,得到上述第二图像中的标定线的位置信息;基于上述标定区域的位置信息,得到上述第一图像相对于上述第二图像的上述目标位置。上述目标位置的确定使得上述第二图像的标定线位于上述第一图像的平视区域内;上述平视区域包括由多个消失点得到的消失线,上述多个消失点中任一个为在现实世界中平行的两条线在上述第一图像中相交的点。上述第二图像中的标定线可以包括所述第二图像中的一条水平线(即分界线)。在一些实施例中,上述标定线可以包括上述第二图像中将第二图像分为高度比为一比二的两部分的分界线。应理解,第二图像中的标定线可根据实际需要进行选择,本申请不作限定。图4A为本申请实施例提供的一种第二图像和标定线的示例的示意图。如图4A所示,标定线将第二图像分为高度比为一比二的两部分,即第一高度与第二高度之比为一比二。

在一些实施例中,步骤102的实现方式如下:对上述第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息;基于上述第一主体区域的位置信息,得到上述第一图像相对于上述第二图像的上述目标位置。上述目标位置的确定使得上述第二图像的第一主体区域的特定位置位于上述第一图像的平视区域内;上述平视区域包括由多个消失点得到的消失线,上述多个消失点中任一个为在现实世界中平行的两条线在上述第一图像中相交的点。在一些实施例中,上述第一图像的平视区域可理解用户观看第一图像时上述第一图像中包含与用户的眼睛平行的水平线(例如视平线)的区域。在一些实施例中,第二图像包括目标对象(例如人物)和其他对象,第一主体区域为第二图像中包含目标对象的区域。在一些实施例中,对上述第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息可以:基于上述第二图像的透明度通道,得到上述第二图像中上述第一主体区域的位置信息。在一些实施例中,对上述第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息可以:对上述第二图像进行图像识别处理,得到上述第二图像中的目标对象(例如人物)所在的第一主体区域的位置信息。在一些实施例中,对上述第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息可以:对上述第二图像进行图像识别处理,得到上述第二图像中占用面积最大(或者最高)的目标对象所在的第一主体区域(即目标对象占用的区域)的位置信息。在一些实施例中,第一主体区域为一个矩形区域,特定位置可以是第一主体区域中将该第一主体区域分为两个矩形区域的分界线的位置,例如将第一主体区域分为两个面积之比为一比二的分界线的位置。图4B为本申请实施例提供的一种第二图像和第一主体区域的示例的示意图。如图4B所示,左边虚线矩形框中的图像为第二图像,右边虚线矩形框中的实线矩形框所包围的区域为第一主体区域。在一些实施例中,上述第一图像的平视区域为图像处理装置利用神经网络对上述第一图像进行平视区域估计处理得到的。上述神经网络可以是利用多个标注出平视区域的训练样本训练得到的网络。在一些实施例中,上述第一图像的平视区域为预设的一个区域,例如第一图像中两条直线之间的区域。图5为本申请实施例提供的一种第一图像的平视区域的示例的示意图。在一些实施例中,图像处理装置可将每张背景图像中的某个区域作为平视区域,参见图5。

在一些实施例中,基于上述地面区域的位置信息,确定上述第二图像相对于上述第一图像的上述目标位置可以是:基于上述地面区域的位置信息,确定上述地面区域在第一方向上的中间区域的位置信息;基于上述第二图像的上述目标区域和上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置。上述第一方向可以是上述地面区域的左右方向,即水平方向。示例性的,中间区域(一个矩形区域)的中心点至地面区域的左边界的距离和至地面区域的右边界的距离相等。图6为本申请实施例提供的一种第一图像的地面区域和中间区域的示例的示意图。如图6所示,虚线框所包围的区域为地面区域在第一方向上的中间区域。在一些实施例中,基于上述第二图像的上述目标区域和上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置可以是:基于上述目标区域包括的多个像素点在透明度通道上的数值,确定上述目标区域中的第二主体区域的位置信息;基于上述第二主体区域的位置信息以及上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置。在该实施例中,上述目标位置的确定可以使得上述第二主体区域位于上述中间区域。图7A为本申请实施例提供的一种第二图像的目标区域和第二主体区域的示例的示意图。如图7A所示,实线矩形框包围的区域表示第二主体区域,较小的虚线矩形框包围的区域表示目标区域。图7B为本申请实施例提供的一种第二主体区域和中间区域的示例的示意图。如图7B所示,右边的图中的虚线矩形框包围的区域为中间区域,该虚线矩形框中的实线矩形框包围的区域为第二主体区域,左边的图中实线矩形框包围的区域为第二主体区域,虚线矩形框包围的区域表示目标区域。在一些实施例中,基于上述第二图像的上述目标区域和上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置可以是:对上述目标区域进行图像识别处理,得到上述目标区域中目标对象(例如人物)所在的第二主体区域的位置信息;基于上述第二主体区域的位置信息以及上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置。在一些实施例中,基于上述第二图像的上述目标区域和上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置可以是:对上述目标区域进行图像识别处理,得到上述目标区域中占用面积最大的一个对象所在的第二主体区域的位置信息;基于上述第二主体区域的位置信息以及上述中间区域的位置信息,确定上述第一图像相对于上述第二图像的目标位置。

在一些实施例中,步骤102的实现方式如下:通过目标函数优化的方式,得到上述目标位置,其中,目标函数的输入参数包括下列中的至少一种:上述第二图像中的目标区域的位置信息、上述第一图像中的地面区域的位置信息、上述第二图像中的第一主体区域的位置信息、上述目标区域中第二主体区域的位置信息,上述目标区域包含在上述原始图像中与地面接触的区域。

103、基于上述目标位置,对上述第一图像和上述第二图像进行图像融合处理,得到目标图像。

在一些实施例中,上述目标位置包括上述第二图像中的至少一个像素点在上述第一图像中的位置以及上述第二图像的目标大小;上述基于上述目标位置,对上述第一图像和上述第二图像进行图像融合处理,得到目标图像,包括:基于上述目标位置中包括的目标大小,对上述第二图像进行尺寸变换处理,得到变换处理后的上述第二图像;基于上述第二图像中的至少一个像素点在上述第一图像中的位置,对上述变换处理后的上述第二图像和上述第一图像进行图像融合,得到上述目标图像。

本申请实施例中,图像处理装置自动确定前景图像相对于背景图像的位置,确定的相对位置更加合理,以便于对前景图像和背景图像进行前背景融合得到融合效果更好的图像。

图8为本申请实施例提供的另一种图像处理方法流程图。如图8所示,该方法包括:

801、图像处理装置从原始图像中获取前景区域图像,得到第二图像。

802、图像处理装置对第一图像进行地面识别处理,得到第一图像中的地面区域的位置信息。

在一些实施例中,地面区域的位置信息是指地面区域的边界,步骤802的实现方式如下:对上述第一图像中的地面进行二值分割,得到地面二值图;上述地面二值图的大小与上述第一图像相同且上述地面二值图中的值与第一图像中的像素点一一对应,上述第一图像中在上述地面二值图对应第一值的像素点属于地面,上述背景图像中在上述地面二值图对应第二值的像素点不属于地面;基于上述地面二值图,得到上述第一图像中多个地面边界点的坐标;基于上述多个地面边界点的坐标,得到上述背景图像中的地面区域的边界。基于上述多个地面边界点的坐标,得到上述背景图像中的地面区域的边界可以包括:在上述多个地面边界点与上述第一图像的任一边界上的边界点的重合度不小于某个阈值的情况下,将上述任一边界作为上述地面区域的一个边界;和/或,利用上述多个地面边界点的坐标做线性回归处理,得到上述地面区域的至少一个边界。举例来说,当地面边界点与第二图像的边界点重合程度大于一定阈值时就认为地面的左边界(或右边界)即为第一图像的左边界(或右边界)。例如,全部的地面边界点中四分之一的地面边界点与第二图像的右边界重合,将第二图像的右边界作为地面区域的右边界。若地面边界点与第二图像的边界点重合程度小于一定阈值,利用上述多个地面边界点的坐标做线性回归处理,得到上述地面区域的左边界和右边界。在一些实施例中,图像处理装置可将第一图像的下边界作为地面区域的下边界,并将经过上边界点的水平线作为第一图像的上边界,其中,在以第一图像的左下角的像素点为原点的图像坐标系中上边界点为纵坐标最大的边界点。图9A和图9B为本申请实施例提供的一种地面区域的边界的示例的示意图。如图9A所示,地面区域的左边界为第一图像的左边界,地面区域的右边界为第一图像的右边界,地面区域的下边界为第一图像的下边界,地面区域的上边界为经过上边界点的水平线。如图9B所示,地面区域的左边界为对左边界点做线性回归处理得到的边界,地面区域的右边界为第一图像的右边界,地面区域的下边界为第一图像的下边界,地面区域的上边界为经过上边界点的水平线。

803、图像处理装置确定第二图像中的目标区域。

上述目标区域包含在上述原始图像中与地面接触的区域。参阅图3,最左边的图中的虚线框所包围的区域为目标区域。

步骤803一种可能的实现方式如下:获得第一蒙版,上述第一蒙版为上述原始图像中上述第二图像的边界框所包含的参考区域的蒙版,上述参考区域中属于上述第二图像的像素点在上述第一蒙版对应第一值,上述参考区域中不属于上述第二图像的像素点在上述第一蒙版对应第二值;将上述第二蒙版中的无效区域中的值均调整为上述第二值,得到第二蒙版;上述无效区域未包括上述第二图像中与地面接触的区域对应的蒙版;基于上述第二蒙版中的第一像素点的横坐标和第二像素点的纵坐标得到第一左上角坐标,基于上述第二蒙版中的第三像素点的横坐标和第四像素点的纵坐标得到第一右下角坐标;上述第一像素点为上述第二蒙版中像素值为上述第一值的像素点中横坐标最小的像素点,上述第二像素点为上述第二蒙版中像素值为上述第一值的像素点中纵坐标最小的像素点,上述第三像素点为上述第二蒙版中像素值为上述第一值的像素点中横坐标最大的像素点,上述第四像素点为上述第二蒙版中像素值为上述第一值的像素点中纵坐标最大的像素点;基于上述第一左上角坐标和上述第一右下角坐标,确定上述目标区域。图10A为本申请实施例提供的一种原始图像、第一蒙版以及第二蒙版的示例的示意图。如图10A所示,最左边的图表示原始图像,中间的图表示第一蒙版,最右边的图表示第二蒙版。在一些实施例中,第二值为0,第一值非零,图像处理装置可利用opencv函数找到第二蒙版中所有第一值的二维坐标,将所有第一值的横坐标x以及纵坐标y分别排成一个数列,之后分别得到的x和y的最小值作为第一左上角坐标,再分别得到x和y的最大值作为第一右下角坐标,由这两个坐标确定目标区域(即矩形区域)。

在一个可能的实现方式中,上述获得第一蒙版包括:对上述原始图像进行图像处理,得到第三蒙版;上述第三蒙版为上述原始图像的二值蒙版;基于上述第三蒙版中的第五像素点的横坐标和第六像素点的纵坐标得到第二左上角坐标,基于上述第三蒙版中的第七像素点的横坐标和第八像素点的纵坐标得到第二右下角坐标;上述第五像素点为上述第三蒙版中像素值为上述第一值的像素点中横坐标最小的像素点,上述第六像素点为上述第三蒙版中像素值为上述第一值的像素点中纵坐标最小的像素点,上述第七像素点为上述第三蒙版中像素值为上述第一值的像素点中横坐标最大的像素点,上述第八像素点为上述第三蒙版中像素值为上述第一值的像素点中纵坐标最大的像素点;获取上述第三蒙版中上述第二左上角坐标和上述第二右下角坐标对应的矩形区域,得到上述第一蒙版。图10B为本申请实施例提供的一种第三蒙版以及第一蒙版的示例的示意图。如图10B所示,左边的图表示第三蒙版,右边的图表示第一蒙版。

804、基于第二图像中的目标区域、地面区域的位置信息以及第一图像中的第一分界线,确定第二图像相对于第一图像的目标位置。

上述目标位置的确定使得上述第二图像中的第二分界线相对于上述第二图像中的目标直线与上述第一分界线之间的距离小于距离阈值,上述第二分界线为上述第二图像中的第一子部分和第二子部分的分界线,上述第一子部分中距离上述第二分界线最远的像素点至上述第二分界线的距离与上述第二子部分中距离上述第二分界线最远的像素点至上述第二分界线的距离的比值为第一值,上述第一分界线为上述第一图像中的第三子部分和第四子部分的分界线,上述第三子部分中距离上述第一分界线最远的像素点至上述第一分界线的距离与上述第四子部分中距离上述第一分界线最远的像素点至上述第一分界线的距离的比值为第二值,上述第一值和上述第二值的差值小于第一阈值。上述目标直线与上述第一分界线平行。上述距离阈值可以是上述第一图像的高度的十分之一、八分之一等,本申请不作限定。上述第一阈值可以是二十分之一、十分之一等,本申请不作限定。另外,上述目标位置的确定使得上述第二图像中的目标区域相对于上述第一图像位于上述地面区域内,上述目标区域包含在上述原始图像中与地面接触的区域。图11为本申请实施例提供的一种图像对比示意图。如图11所示,最左边的图表示第二图像,中间的图表示第一图像,最右边的图中目标直线表示第二分界线相对于第一图像的直线。通过确定目标位置使得上述第二图像中的第二分界线相对于上述第二图像中的目标直线与上述第一分界线之间的距离小于距离阈值,能够较合理地调整第二图像的大小。

805、基于目标位置,对第一图像和第二图像进行图像融合处理,得到目标图像。

本申请实施例中,既能将前景图像中与地面接触的区域置于背景图像的地面区域内,又能较合理地调整第二图像的大小。

图12为本申请实施例提供的另一种图像处理方法流程图。如图12所示,该方法包括:

1201、图像处理装置从原始图像中获取前景区域图像,得到第二图像。

步骤1201的实现方式可与步骤801的实现方式相同。

1202、图像处理装置对第一图像进行地面识别处理,得到第一图像中的地面区域的位置信息。

步骤1202的实现方式可与步骤802的实现方式相同。

1203、图像处理装置确定第二图像中的目标区域。

步骤1203的实现方式可与步骤803的实现方式相同。

1204、图像处理装置基于第一图像中的地面区域的位置信息,确定地面区域的左边界和右边界的中线。

上述第一图像中的地面区域的位置信息可以是上述地面区域的边界。

1205、基于第二图像中的目标区域、地面区域的位置信息、第一图像中的第一分界线以及地面区域的左边界和右边界的中线,确定第二图像相对于第一图像的目标位置。

上述目标位置的确定使得上述第二图像中的第二分界线相对于上述第二图像中的目标直线与上述第一分界线之间的距离小于距离阈值。步骤1205相比于步骤804,目标位置的确定还能使得上述目标区域中至少一个像素点至上述中线的距离小于第二阈值。上述第一阈值可以是二十分之一、十分之一等,本申请不作限定。上述目标区域为矩形区域,上述目标区域中的中心像素点至上述中线的距离小于第三阈值,上述中心像素点至上述目标区域的四个端点的距离相等。示例性的,上述中线经过上述中心像素点。应理解,图像处理装置在执行步骤804的基础上,可进一步利用地面区域的左边界和右边界的中线使得第二图像相对于第一图像位于第一图像的中间区域。

在一些实施例中,步骤1205的实现方式如下:将第二图像中的目标区域、地面区域的位置信息、第一图像中的第一分界线以及地面区域的左边界和右边界的中线对应的参数代入目标函数进行求解,得到缩放系数以及上述第二图像中的至少两个像素点在以上述第一图像中的任一像素点为原点的坐标系中对应的目标坐标点;上述目标坐标点和上述缩放系数用于表征上述第二图像相对于上述第一图像的目标位置;上述目标函数的优化目标包括:上述第二图像中的上述第二分界线相对于上述第一图像的位置与上述第一分界线重合、上述目标区域相对于上述第一图像的位置位于上述地面区域的边界之内、上述目标区域中的中心像素点至上述中线的距离小于第三阈值,上述中心像素点至上述目标区域的四个端点的距离相等。

1206、基于目标位置,对第一图像和第二图像进行图像融合处理,得到目标图像。

本申请实施例中,既能将前景图像中与地面接触的区域置于背景图像的地面区域的中间区域内,又能较合理地调整第二图像的大小。

图13为本申请实施例提供的另一种图像处理方法流程图。如图13所示,该方法包括:

1301、图像处理装置获取待融合的第一图像和第二图像。

上述第二图像为从原始图像中获取的前景区域图像。

1302、对第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息。

在一些实施例中,对第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息可以是:基于上述第二图像的透明度通道,得到上述第二图像中上述第一主体区域的位置信息。第一主体区域可理解为图像处理装置确定的第二图像中最重要的对象所处的区域。一些实施例中,对第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息可以是:对上述第二图像进行图像识别处理,得到上述第二图像中的目标对象(例如人物)所在的第一主体区域的位置信息。在一些实施例中,对上述第二图像进行处理,得到上述第二图像中的第一主体区域的位置信息可以:对上述第二图像进行图像识别处理,得到上述第二图像中占用面积最大的目标对象所在的第一主体区域(即目标对象占用的区域)的位置信息。

1303、基于第一主体区域的位置信息,得到第一图像相对于第二图像的目标位置。

上述目标位置的确定使得上述第二图像的第一主体区域的特定位置位于上述第一图像的平视区域内;上述平视区域包括由多个消失点得到的消失线,上述多个消失点中任一个为在现实世界中平行的两条线在上述第一图像中相交的点。在一些实施例中,上述第一主体区域的特定位置可以是上述第一分界线。图14为本申请实施例提供的一种第一主体区域和第二图像的示例的示意图。如图14所示,最左边的图中两条直线之间的区域为特定位置,中间的图展示了平视区域,最右边的图展示了目标位置的确定使得特定位置位于平视区域。

在一些实施例中,图像处理装置在执行步骤1303之前,可利用神经网络对上述第一图像进行平视区域估计处理,得到上述第一图像中上述平视区域的位置信息。在一些实施例中,上述第一图像的平视区域为预设的一个区域,例如第一图像中两条直线之间的区域。

1304、基于目标位置,对第一图像和第二图像进行图像融合处理,得到目标图像。

基于目标位置,对第一图像和第二图像进行图像融合处理,得到目标图像。

本申请实施例中,将第二图像的第一主体区域置于第二图像中的平视区域,能够更合理地确定第二图像相对于第一图像的位置。

图15为本申请实施例提供的另一种图像处理方法流程图。如图15所示,该方法包括:

1501、图像处理装置从原始图像中获取前景区域图像,得到第二图像。

步骤1501的实现方式可与步骤801的实现方式相同。

1502、图像处理装置对第一图像进行地面识别处理,得到第一图像中的地面区域的位置信息。

步骤1502的实现方式可与步骤802的实现方式相同。

1503、图像处理装置确定第二图像中的目标区域。

步骤1503的实现方式可与步骤803的实现方式相同。

1504、图像处理装置确定目标区域中的第二主体区域的位置信息。

在一些实施例中,步骤1504的实现方式如下:基于上述目标区域包括的多个像素点在透明度通道上的数值,确定上述目标区域中的第二主体区域的位置信息。第二主体区域可理解为图像处理装置确定的目标区域中最重要的对象所处的区域。

在一些实施例中,步骤1504的实现方式如下:对上述目标区域进行图像识别处理,得到上述目标区域中占用面积最大的一个对象所在的第二主体区域的位置信息。

在一些实施例中,步骤1504的实现方式如下:对上述目标区域进行图像识别处理,得到上述目标区域中目标对象(例如人的脚部)所在的第二主体区域的位置信息。

1505、基于地面区域的位置信息,确定地面区域在第一方向上的中间区域的位置信息。

上述第一方向可以是上述地面区域的左右方向,即水平方向。示例性的,中间区域(一个矩形区域)的中心点至地面区域的左边界的距离和至地面区域的右边界的距离相等,地面区域的左边界和有边界的中线经过中心点。参阅图6,虚线框所包围的区域为地面区域在第一方向上的中间区域。

1506、基于第二主体区域的位置信息以及中间区域的位置信息,确定第一图像相对于第二图像的目标位置。

上述目标位置的确定使得第二主体区域相对于上述第一图像位于中间区域,以及使得第二图像中的目标区域相对于上述第一图像位于上述地面区域内。

1507、基于目标位置,对第一图像和第二图像进行图像融合处理,得到目标图像。

本申请实施例中,将第二图像的第二主体区域置于第二图像中的地面区域内的中间区域,能够更合理地确定第二图像相对于第一图像的位置。

图16为本申请实施例提供的另一种图像处理方法流程图。如图16所示,该方法包括:

1601、终端设备获取原始图像和第二图像。

上述终端设备可以是手机、台式电脑、笔记本电脑、平板电脑等具有数据传输和图像显示功能的设备。终端设备还可以通过多种方式获得原始图像和第二图像,本申请不作限定。

1602、终端设备将原始图像和第二图像发送给服务器。

1603、服务器对原始图像和第二图像进行处理,得到目标图像。

服务器(即图像处理装置)可执行图1、图8、图12、图13、图15以及图16中的方法流程。

1604、服务器将目标图像发送给终端设备。

1605、终端设备显示目标图像。

在一些实施例中,用户将原始图像和第二图像上传至终端设备运行的图像处理软件,通过该图像处理软件将原始图像和第二图像发送给服务器,该图像处理软件的界面显示接收的来自服务器的目标图像。应理解,服务器往往具备终端设备无法比拟的处理能力,因此服务器能更准确、快速地实现本申请实施例提供的图像处理方法。

本申请实施例中,终端设备借助服务器来实现原始图像和第二图像的前背景融合,不需要执行负责的图像处理操作,实现简单。

前面描述了本申请实施例提供的图像处理装置,下面介绍可本申请实施例提供的图像处理方法的图像处理装置的各部件的功能。图17为本申请实施例提供的一种图像处理装置的结构示意图。如图17所示,图像处理装置可包括:

获取单元1701,用于获取待融合的第一图像和第二图像,其中,所述第二图像为从原始图像中获取的前景区域图像;

图像处理单元1702,用于通过对所述第一图像和所述第二图像进行处理,得到所述第二图像相对于所述第一图像的目标位置;

图像融合单元1703,用于基于所述目标位置,对所述第一图像和所述第二图像进行图像融合处理,得到目标图像。

在一个可能的实现方式中,图像处理单元1702,具体用于对所述第一图像进行地面识别处理,得到所述第一图像中的地面区域的位置信息;

基于所述地面区域的位置信息,确定所述第二图像相对于所述第一图像的所述目标位置。

在一个可能的实现方式中,所述目标位置的确定使得所述第二图像中的目标区域相对于所述第一图像位于所述地面区域内,所述目标区域包含在所述原始图像中与地面接触的区域。

在一个可能的实现方式中,图像处理单元1702,具体用于对所述第二图像进行处理,得到所述第二图像中的第一主体区域的位置信息;基于所述第一主体区域的位置信息,得到所述第一图像相对于所述第二图像的所述目标位置。

在一个可能的实现方式中,所述目标位置的确定使得所述第二图像的第一主体区域的特定位置位于所述第一图像的平视区域内;所述平视区域包括由多个消失点得到的消失线,所述多个消失点中任一个为在现实世界中平行的两条线在所述第一图像中相交的点。

在一个可能的实现方式中,图像处理单元1702,具体用于基于所述第二图像的透明度通道,得到所述第二图像中所述第一主体区域的位置信息。

在一个可能的实现方式中,图像处理单元1702,还用于利用神经网络对所述第一图像进行平视区域估计处理,得到所述第一图像中所述平视区域的位置信息。

在一个可能的实现方式中,图像处理单元1702,具体用于基于所述地面区域的位置信息,确定所述地面区域在第一方向上的中间区域的位置信息;

基于所述第二图像的所述目标区域和所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置。

在一个可能的实现方式中,图像处理单元1702,具体用于基于所述目标区域包括的多个像素点在透明度通道上的数值,确定所述目标区域中的第二主体区域的位置信息;

基于所述第二主体区域的位置信息以及所述中间区域的位置信息,确定所述第一图像相对于所述第二图像的目标位置。

在一个可能的实现方式中,所述目标位置包括所述第二图像中的至少一个像素点在所述第一图像中的位置以及所述第二图像的目标大小;

图像融合单元1703,具体用于基于所述目标位置中包括的目标大小,对所述第二图像进行尺寸变换处理,得到变换处理后的所述第二图像;基于所述第二图像中的至少一个像素点在所述第一图像中的位置,对所述变换处理后的所述第二图像和所述第一图像进行图像融合,得到所述目标图像。

在一个可能的实现方式中,图像处理单元1702,具体用于通过目标函数优化的方式,得到所述目标位置,其中,目标函数的输入参数包括下列中的至少一种:所述第二图像中的目标区域的位置信息、所述第一图像中的地面区域的位置信息、所述第二图像中的第一主体区域的位置信息、所述目标区域中第二主体区域的位置信息,所述目标区域包含在所述原始图像中与地面接触的区域。

应理解以上图像处理装置的各个单元的划分仅仅是一种逻辑功能的划分,实际实现时可以全部或部分集成到一个物理实体上,也可以物理上分开。例如,以上各个单元可以为单独设立的处理元件,也可以集成同一个芯片中实现,此外,也可以以程序代码的形式存储于控制器的存储元件中,由处理器的某一个处理元件调用并执行以上各个单元的功能。此外各个单元可以集成在一起,也可以独立实现。这里的处理元件可以是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤或以上各个单元可以通过处理器元件中的硬件的集成逻辑电路或者软件形式的指令完成。该处理元件可以是通用处理器,例如中央处理器(英文:central processing unit,简称:CPU),还可以是被配置成实施以上方法的一个或多个集成电路,例如:一个或多个特定集成电路(英文:application-specific integrated circuit,简称:ASIC),或,一个或多个微处理器(英文:digitalsignal processor,简称:DSP),或,一个或者多个现场可编程门阵列(英文:field-programmable gate array,简称:FPGA)等。

图18为本申请实施例提供的一种终端设备的结构示意图。如图18所示,该终端设备180包括处理器1801、存储器1802、通信接口1803以及输入输出设备1804;该处理器1801、存储器1802和通信接口1803通过总线相互连接。图18中的终端设备可以为前述实施例中的图像处理装置。

存储器1802包括但不限于是随机存储记忆体(random access memory,RAM)、只读存储器(read-only memory,ROM)、可擦除可编程只读存储器(erasable programmablereadonly memory,EPROM)、或便携式只读存储器(compact disc read-only memory,CDROM),该存储器1802用于相关指令及数据。通信接口1803用于接收和发送数据。输入输出设备1804可包括键盘、鼠标、触摸屏等输入设备,以及显示器、屏幕等输出设备。用户可通过输入设备向终端设备输入指令,例如输入背景图像选择指令等。输出设备可显示图像处理软件的应用界面,以及其他内容。

处理器1801可以是一个或多个中央处理器(central processing unit,CPU),在处理器1801是一个CPU的情况下,该CPU可以是单核CPU,也可以是多核CPU。上述实施例中由图像处理装置所执行的步骤可以基于该图18所示的终端设备的结构。具体的,输入输出设备1804可实现获取单元1701的功能;处理器1801可实现图像处理单元1702、图像融合单元1703的功能。

在本申请的实施例中提供一种计算机可读存储介质,上述计算机可读存储介质存储有计算机程序,上述计算机程序被处理器执行时实现前述实施例所提供的图像处理方法。

本申请实施例提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行前述实施例所提供的图像处理方法。

以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。

相关技术
  • 图像处理装置、图像处理方法及相关产品
  • 图像处理方法及相关产品
技术分类

06120112188472