掌桥专利:专业的专利平台
掌桥专利
首页

本征图像分解方法、装置、可读存储介质及电子设备

文献发布时间:2023-06-19 11:19:16


本征图像分解方法、装置、可读存储介质及电子设备

技术领域

本公开涉及计算机技术领域,尤其是一种本征图像分解方法、装置、计算机可读存储介质及电子设备。

背景技术

本征图像分解是计算机图形学中从物体的几何、材质、光照等信息出发的正向渲染的逆向运算,即从最终得到的渲染结果来分析可能的几何、材质、光照等本征信息。目前,本征图像分解技术可应用于动态物体的重新着色(recoloring),重纹理(re-texturing)以及虚拟对象生成等方面,由此在三维重建、虚拟现实以及增强现实等领域都可有所应用。

目前对于本征图像分解的研究较多是基于经典的Retinex模型。在此模型中,假设一幅图像中像素值较大的变化是由于材质的改变产生,而较小的变化则是由于光照条件不同而引起的。除此之外,还有一部分研究是基于物体的几何结构、非局部纹理约束等来改善模型。本征图像分解方法的另一个大类是基于机器学习的本征图像提取,使用图像中对应像素点的颜色信息和邻域灰度信息来训练分类器,来区分图像上的梯度是由反射率变化造成还是由光照变化造成,以实现了对于真实场景图像的处理。

发明内容

本公开的实施例提供了一种本征图像分解方法、装置、计算机可读存储介质及电子设备。

本公开的实施例提供了一种本征图像分解方法,该方法包括:对待分解图像进行超像素分割;基于第一预设数量,从得到的超像素中确定主超像素集合和边缘像素集合;基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息;基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息;基于第一反照率信息、第一光照信息、第二反照率信息、第二光照信息,生成待分解图像对应的反照率本征图和亮度本征图。

在一些实施例中,对待分解图像进行超像素分割,包括:将待分解图像变换到预设色彩空间,得到第二预设数量个色彩通道数据;基于第二预设数量个色彩通道数据和待分解图像包括的像素点的坐标,生成像素的像素特征数据;基于像素特征数据,对待分解图像进行超像素分割。

在一些实施例中,基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息,包括:建立第一能量方程,并对第一能量方程进行最小化处理,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息,其中,第一能量方程用于确定主超像素集合中的主超像素的反照率信息,以及主超像素包括的像素点的光照信息。

在一些实施例中,

基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息,包括:建立包含对边缘像素集合的光照约束的第二能量方程,并对第二能量方程进行最小化处理,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息,其中,第二能量方程用于根据光照约束确定边缘像素集合中的像素点的反照率信息和光照信息,光照约束用于表征边缘像素集合中的像素点的光照信息和像素点对应的邻域像素点的光照信息之间的关系。

在一些实施例中,待分解图像为深度图;方法还包括:基于待分解图像中的像素的深度信息,确定待分解图像中的像素点的法向信息;基于待分解图像中的像素点的法向信息,确定待分解图像中的像素点的球谐光照基函数;对待分解图像进行本征图像分解,包括:基于球谐光照基函数,对待分解图像进行本征图像分解。

在一些实施例中,在对待分解图像进行超像素分割之前,方法还包括:获取初始图像;对初始图像进行去噪处理,得到待分解图像。

根据本公开实施例的另一个方面,提供了一种本征图像分解装置,该装置包括:分割模块,用于对待分解图像进行超像素分割;第一确定模块,用于基于第一预设数量,从得到的超像素中确定主超像素集合和边缘像素集合;第一分解模块,用于基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息;第二分解模块,用于基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息;生成模块,用于第一反照率信息、第一光照信息、第二反照率信息、第二光照信息,生成待分解图像对应的反照率本征图和亮度本征图。

在一些实施例中,分割模块包括:变换单元,用于将待分解图像变换到预设色彩空间,得到第二预设数量个色彩通道数据;生成单元,用于基于第二预设数量个色彩通道数据和待分解图像包括的像素点的坐标,生成像素的像素特征数据;分割单元,用于基于像素特征数据,对待分解图像进行超像素分割。

在一些实施例中,第一分解模块进一步用于:建立第一能量方程,并对第一能量方程进行最小化处理,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息,其中,第一能量方程用于确定主超像素集合中的主超像素的反照率信息,以及主超像素包括的像素点的光照信息。

在一些实施例中,第二分解模块进一步用于:建立包含对边缘像素集合的光照约束的第二能量方程,并对第二能量方程进行最小化处理,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息,其中,第二能量方程用于根据光照约束确定边缘像素集合中的像素点的反照率信息和光照信息,光照约束用于表征边缘像素集合中的像素点的光照信息和像素点对应的邻域像素点的光照信息之间的关系。

在一些实施例中,待分解图像为深度图;该装置还包括:第二确定模块,用于基于待分解图像中的像素的深度信息,确定待分解图像中的像素点的法向信息;第三确定模块,用于基于待分解图像中的像素点的法向信息,确定待分解图像中的像素点的球谐光照基函数;第一分解模块和第二分解模块进一步用于:基于球谐光照基函数,对待分解图像进行本征图像分解。

在一些实施例中,该装置还包括:获取模块,用于获取初始图像;去噪模块,用于对初始图像进行去噪处理,得到待分解图像。

根据本公开实施例的另一个方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序用于执行上述本征图像分解方法。

根据本公开实施例的另一个方面,提供了一种电子设备,电子设备包括:处理器;用于存储处理器可执行指令的存储器;处理器,用于从存储器中读取可执行指令,并执行指令以实现上述本征图像分解方法。

基于本公开上述实施例提供的本征图像分解方法、装置、计算机可读存储介质及电子设备,通过对待分解图像进行超像素分割,得到主超像素集合和边缘像素集合,然后分别基于主超像素集合和边缘像素集合对待分解图像进行本征图像分解,基于两次分解生成的反照率信息和光照信息,生成反照率本征图和亮度本征图,从而实现了将待分解图像划分为超像素的形式以降低运算量,并且对主超像素和边缘像素进行分别处理,可以降低边缘像素因分布不一致且不稳定对本征图像分解的准确性造成的影响,能更好的保证本征图像分解的质量和稳定性。

下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。

附图说明

通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。

图1是本公开所适用的系统图。

图2是本公开一示例性实施例提供的本征图像分解方法的流程示意图。

图3是本公开另一示例性实施例提供的本征图像分解方法的流程示意图。

图4是本公开一示例性实施例提供的本征图像分解装置的结构示意图。

图5是本公开另一示例性实施例提供的本征图像分解装置的结构示意图。

图6是本公开一示例性实施例提供的电子设备的结构图。

具体实施方式

下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。

应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。

还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。

还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。

另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。

还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。

同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。

应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备,其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境,等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

虽然现有的Retinex可在一定程度上解决本征图像分解问题,但是,现实场景中存在着物体间的相互遮挡以及阴影等一些并不符合传统Retinex假设的现象,在这种情况下基于Retinex模型的算法将出现较大的误差。而基于机器学习的分解方法容易在训练数据上过拟合,因此不具有较好的泛化能力。

图1示出了可以应用本公开的实施例的本征图像分解方法或本征图像分解装置的示例性系统架构100。

如图1所示,系统架构100可以包括终端设备101,网络102和服务器103。网络102用于在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101通过网络102与服务器103交互,以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用,例如图像处理应用、视频类应用、网页浏览器应用、即时通信工具等。

终端设备101可以是各种电子设备,包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。

服务器103可以是提供各种服务的服务器,例如对终端设备101上传的图像进行处理的后台图像处理服务器。后台图像处理服务器可以对接收到的图像进行本征图像分解,得到反照率本征图和亮度本征图。

需要说明的是,本公开的实施例所提供的本征图像分解方法可以由服务器103执行,也可以由终端设备101执行,相应地,本征图像分解装置可以设置于服务器103中,也可以设置于终端设备101中。

应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。在待分解图像不需要从远程获取的情况下,上述系统架构可以不包括网络,只包括服务器或终端设备。

图2是本公开一示例性实施例提供的本征图像分解方法的流程示意图。本实施例可应用在电子设备(如图1所示的终端设备101或服务器103)上,如图2所示,该方法包括如下步骤:

步骤201,对待分解图像进行超像素分割。

在本实施例中,电子设备可以对待分解图像进行超像素分割。其中,待分解图像可以是电子设备从本地或从远程获取的图像。待分解图像可以是各种类型的图像,例如彩色图像、灰度图像、深度图像等。

超像素通常由一系列位置相邻且颜色、亮度、纹理等特征相似的像素点组成的小区域。电子设备可以采用现有的超像素分割方法对待分解图像进行超像素分割。作为示例,超像素分割方法可以包括但不限于以下至少一种:均值漂移(Mean Shift)、SLIC(SimpleLinear Iterative Clustering)等。

在一些可选的实现方式中,如图3所示,步骤201可以包括如下步骤:

步骤2011,将待分解图像变换到预设色彩空间,得到第二预设数量个色彩通道数据。

其中,预设色彩空间可以是各种色彩空间,例如Lab色彩空间、CMY色彩空间等。

作为示例,预设色彩空间为Lab色彩空间,则第二预设数量可以为3,色彩通道可以包括L(亮度),a(颜色),b(颜色)三个通道。a取值范围为(-128~+127),表示从红色到绿色;b取值范围为(-128~+127),表示黄色到蓝色。在该颜色模型中,正值为暖色,负值为冷色,通过L(亮度)调整色调,取值范围为(0~100),表示纯黑到纯白。由于Lab色彩空间包括亮度信息,所以可以使用Lab色彩空间进行本征图像分解以提高确定亮度本征图和反照率本征图的准确性。

步骤2012,基于第二预设数量个色彩通道数据和待分解图像包括的像素点的坐标,生成像素的像素特征数据。

具体地,对于某个像素,可以将该像素对应的色彩通道数据和坐标合并为一个向量作为像素特征数据。例如,色彩通道数据包括L、a、b,坐标为(x,y),则像素特征数据为向量(x,y,L,a,b)。

步骤2013,基于像素特征数据,对待分解图像进行超像素分割。

作为示例,可以采用Mean Shift算法进行超像素分割。具体方法如下:

x表示一个像素点,在x点的Mean Shift向量的形式定义为:

其中,G(x)是一个单位核函数,w(x

1)初始化参数,设置带宽h,容许误差ε,并将所有未被访问的点标记为0;

2)对于所有像素点x

3)根据M

4)若在迭代漂移过程中遇到已标记的点,则停止该点的MeanShift,该数据的收敛点与已标记过的数据收敛点相同,直接将收敛值赋值给该点;

5)重复2)~4)的过程直到||M

6)合并同质区,将图像进行分类。由此,具有相似值的相邻像素将聚合为主超像素,孤立的或小于像素M的超像素包括的像素点被标记为边缘像素。

本实现方式提供的超像素分割过程,不仅仅是利用像素的位置信息,在图像分割为超像素的过程中加入了色彩信息,从而可以有助于更好地进行待分解图像的本征图像分解。

步骤202,基于第一预设数量,从得到的超像素中确定主超像素集合和边缘像素集合。

在本实施例中,电子设备可以基于第一预设数量,从得到的超像素中确定主超像素集合和边缘像素集合。其中,主超像素包括的像素点的数量大于等于第一预设数量(例如32)。通常,边缘像素可以是孤立的像素点,或者在分割时未被聚类到相邻的超像素中的小面积区域包括的像素点。

步骤203,基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息。

在本实施例中,电子设备可以基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息。其中,第一反照率信息和第一光照信息即包含于主超像素中的像素点的反照率信息和光照信息。

在一些可选的实现方式中,步骤203可以如下执行:

建立第一能量方程,并对第一能量方程进行最小化处理,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息,其中,第一能量方程用于确定主超像素集合中的每个主超像素的反照率信息,以及每个主超像素包括的像素点的光照信息。

作为示例,第一能量方程如下式所示:

其中,T表示主超像素集合,P代表的是一个主超像素,而x表示的是主超像素P中包含的像素点,l

通常,可以采用梯度下降法对上式进行最小化,常用的方法有高斯-牛顿法,莱文贝格-马夸特方法(Levenberg–Marquardt algorithm)等。从上式可以看出,R′(P)表示一个主超像素的反照率信息,S′(x)表示一个像素点的光照信息。

不同于目前基于诸如Retinex(Retinex理论是以色感一致性(颜色恒常性)为基础的)的现有方法,本实现方式通过采用如上式所示的方法进行本征图像分解,不需要基于色度的约束,从而能处理更多的图像分解场景,例如彩色照明环境或灰度纹理的场景,提高了本征图像分解方法的环境适应性。

步骤204,基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息。

在本实施例中,电子设备可以基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息。其中,第二反照率信息和第二光照信息即边缘像素集合包括的每个像素点的反照率信息和光照信息。

在一些可选的实现方式中,步骤204可以如下执行:

建立包含对边缘像素集合的光照约束的第二能量方程,并对第二能量方程进行最小化处理,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息。

其中,第二能量方程用于根据光照约束确定边缘像素集合中的像素点的反照率信息和光照信息,光照约束用于表征边缘像素集合中的像素点的光照信息和像素点对应的邻域像素点的光照信息之间的关系。

具体地,由于光照在物体的表面纹理上是平滑变化的,因此在本方案中,可以在能量方程中加入边缘像素的光照约束,由此,作为示例,第二能量方程如下式所示:

其中,εE

上式的计算过程是以单独的像素点来计算,不是超像素形式来计算,这是由于边缘像素是分布不一致且不稳定的,不能简单通过计算超像素的方式计算,而是需要基于已求解到的信息(邻域像素中包括位于主超像素中的像素点,即以求解到的信息)来约束边缘像素的光照信息。由于光照在物体的表面纹理上是平滑变化的,边缘像素与主超像素中的像素点也是连续分布的,所以边缘像素的光照信息可通过已求解到的主超像素的光照信息通过第二能量方程进行优化。

本实现方式通过设置第二能量方程,采用光照约束的方法对边缘像素进行优化,可以在本征图像分解过程中,降低因边缘像素分布不一致且不稳定造成的影响,在提高本征图像分解方法的环境适应性的基础上,可以进一步提高本征图像分解的质量和稳定性。

需要说明的是,上述步骤203和步骤204中描述的可选实现方式,仅仅是实现步骤203和步骤204所采用的一种方案。可选的,还可以采用其他现有的方案实现步骤203和步骤204中的本征图像分解,例如基于机器学习的方法等。

步骤205,基于第一反照率信息、第一光照信息、第二反照率信息、第二光照信息,生成待分解图像对应的反照率本征图和亮度本征图。

在本实施例中,电子设备可以基于第一反照率信息、第一光照信息、第二反照率信息、第二光照信息,生成待分解图像对应的反照率本征图和亮度本征图。具体地,由于第一反照率信息和第一光照信息对应于主超像素,第二反照率信息和第二光照信息对应于边缘像素,因此,可以将各个像素点的第一反照率信息和第二反照率信息合并,将第一光照信息和第二光照信息合并,得到完整的反照率本征图和亮度本征图。

在一些可选的实现方式中,上述待分解图像可以为深度图(例如RGB-D图)。深度图中的像素点具有对应的深度信息,深度信息用于表征像素点指示的实际空间的点与相机的距离。深度图可以通过使用激光雷达、双目立体相机等设备采集得到。

基于此,电子设备可以执行如下步骤:

首先,基于待分解图像中的像素的深度信息,确定待分解图像中的像素点的法向信息。具体地,可以利用深度信息将深度图转化为三维空间中的点云,然后利用现有的点云库(Point Cloud Library,PCL)计算法向信息。需要说明的是,将深度信息转换为点云,以及根据点云计算法向信息的方法是目前的现有技术,这里不再赘述。

然后,基于待分解图像中的像素点的法向信息,确定待分解图像中的像素点的球谐光照基函数。

具体地,在物体级别的本征图像分解问题中,通常假设光照是朗伯特的,且光源距离物体较远。基于这样的假设,3阶的球面谐波函数可以满足近似实际场景中的光照以及阴影效果。

对于任一像素x,利用该像素的深度信息计算出所有像素的法向,球谐基函数可由该点的单位法向n参数化,令Y

Y

Y

Y

Y

进一步地,在步骤203和步骤204中,可以基于球谐光照基函数,对待分解图像进行本征图像分解。

具体地,像素x的球谐光照值可表示为:

其中,l

本实现方式在待分解图像为深度图时,基于法向信息对待分解图像进行本征图分解,可以有效利用像素的深度信息确定球谐光照基函数,从而可以由球谐光照基函数准确地反映实际光照场景,提高本征图分解的准确性。

在一些可选的实现方式中,在步骤201之前,电子设备还可以执行如下步骤:

首先,获取初始图像。

其中,初始图像可以是各种图像采集设备采集的图像。例如,初始图像可以是深度相机采集的深度图像,也可以是普通相机采集的RGB图像。

然后,对初始图像进行去噪处理,得到待分解图像。

其中,去噪处理的方法可以为各种方法,例如,包括但不限于以下至少一种:双边滤波、高斯滤波、中值滤波等。

通过滤波处理得到待分解图像,可以有效去除噪声对本征图像分解的影响,提高本征图像分解的准确性。

本公开的上述实施例提供的方法,通过对待分解图像进行超像素分割,得到主超像素集合和边缘像素集合,然后分别基于主超像素集合和边缘像素集合对待分解图像进行本征图像分解,基于两次分解生成的反照率信息和光照信息,生成反照率本征图和亮度本征图,从而实现了将待分解图像划分为超像素的形式以降低运算量,并且对主超像素和边缘像素进行分别处理,可以降低边缘像素因分布不一致且不稳定对本征图像分解的准确性造成的影响,能更好的保证本征图像分解的质量和稳定性。

图4是本公开一示例性实施例提供的本征图像分解装置的结构示意图。本实施例可应用在电子设备上,如图4所示,本征图像分解装置包括:分割模块401,用于对待分解图像进行超像素分割;第一确定模块402,用于基于第一预设数量,从得到的超像素中确定主超像素集合和边缘像素集合;第一分解模块403,用于基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息;第二分解模块404,用于基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合中的边缘像素包括的像素点对应的第二反照率信息和第二光照信息;生成模块405,用于第一反照率信息、第一光照信息、第二反照率信息、第二光照信息,生成待分解图像对应的反照率本征图和亮度本征图。

在本实施例中,分割模块401可以对待分解图像进行超像素分割。其中,待分解图像可以是该装置从本地或从远程获取的图像。待分解图像可以是各种类型的图像,例如彩色图像、灰度图像、深度图像等。

超像素通常由一系列位置相邻且颜色、亮度、纹理等特征相似的像素点组成的小区域。分割模块401可以采用现有的超像素分割方法对待分解图像进行超像素分割。作为示例,超像素分割方法可以包括但不限于以下至少一种:均值漂移(Mean Shift)、SLIC(Simple Linear Iterative Clustering)等。

在本实施例中,第一确定模块402可以基于第一预设数量,从得到的超像素中确定主超像素集合和边缘像素集合。其中,主超像素包括的像素点的数量大于等于第一预设数量(例如32)。通常,边缘像素可以是孤立的像素点,或者在分割时未被聚类到相邻的超像素中的小面积区域包括的像素点。

在本实施例中,第一分解模块403可以基于主超像素集合,对待分解图像进行本征图像分解,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息。其中,第一反照率信息和第一光照信息即包含于主超像素中的像素点的反照率信息和光照信息。

在本实施例中,第二分解模块404可以基于边缘像素集合,对待分解图像进行本征图像分解,得到边缘像素集合中的边缘像素包括的像素点对应的第二反照率信息和第二光照信息。其中,第二反照率信息和第二光照信息即边缘像素集合包括的每个像素点的反照率信息和光照信息。

在本实施例中,生成模块405可以基于第一反照率信息、第一光照信息、第二反照率信息、第二光照信息,生成待分解图像对应的反照率本征图和亮度本征图。具体地,由于第一反照率信息和第一光照信息对应于主超像素,第二反照率信息和第二光照信息对应于边缘像素,因此,可以将各个像素点的第一反照率信息和第二反照率信息合并,将第一光照信息和第二光照信息合并,得到完整的反照率本征图和亮度本征图。

参照图5,图5是本公开另一示例性实施例提供的本征图像分解装置的结构示意图。

在一些可选的实现方式中,分割模块401可以包括:变换单元4011,用于将待分解图像变换到预设色彩空间,得到第二预设数量个色彩通道数据;生成单元4012,用于基于第二预设数量个色彩通道数据和待分解图像包括的像素点的坐标,生成像素的像素特征数据;分割单元4013,用于基于像素特征数据,对待分解图像进行超像素分割。

在一些可选的实现方式中,第一分解模块403可以进一步用于:建立第一能量方程,并对第一能量方程进行最小化处理,得到主超像素集合中的主超像素包括的像素点对应的第一反照率信息和第一光照信息,其中,第一能量方程用于确定主超像素集合中的主超像素的反照率信息,以及主超像素包括的像素点的光照信息。

在一些可选的实现方式中,第二分解模块404可以进一步用于:建立包含对边缘像素集合的光照约束的第二能量方程,并对第二能量方程进行最小化处理,得到边缘像素集合包括的像素点对应的第二反照率信息和第二光照信息,其中,第二能量方程用于根据光照约束确定边缘像素集合中的像素点的反照率信息和光照信息,光照约束用于表征边缘像素集合中的像素点的光照信息和像素点对应的邻域像素点的光照信息之间的关系。

在一些可选的实现方式中,待分解图像为深度图;该装置还可以包括:第二确定模块406,用于基于待分解图像中的像素的深度信息,确定待分解图像中的像素点的法向信息;第三确定模块407,用于基于待分解图像中的像素点的法向信息,确定待分解图像中的像素点的球谐光照基函数;第一分解模块403和第二分解模块404可以进一步用于:基于球谐光照基函数,对待分解图像进行本征图像分解。

在一些可选的实现方式中,该装置还可以包括:获取模块408,用于获取初始图像;去噪模块409,用于对初始图像进行去噪处理,得到待分解图像。

本公开上述实施例提供的本征图像分解装置,通过对待分解图像进行超像素分割,得到主超像素集合和边缘像素集合,然后分别基于主超像素集合和边缘像素集合对待分解图像进行本征图像分解,基于两次分解生成的反照率信息和光照信息,生成反照率本征图和亮度本征图,从而实现了将待分解图像划分为超像素的形式以降低运算量,并且对主超像素和边缘像素进行分别处理,可以降低边缘像素因分布不一致且不稳定对本征图像分解的准确性造成的影响,能更好的保证本征图像分解的质量和稳定性。

下面,参考图6来描述根据本公开实施例的电子设备。该电子设备可以是如图1所示的终端设备101和服务器103中的任一个或两者、或与它们独立的单机设备,该单机设备可以与终端设备101和服务器103进行通信,以从它们接收所采集到的输入信号。

图6图示了根据本公开实施例的电子设备的框图。

如图6所示,电子设备600包括一个或多个处理器601和存储器602。

处理器601可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备600中的其他组件以执行期望的功能。

存储器602可以包括一个或多个计算机程序产品,计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器601可以运行程序指令,以实现上文的本公开的各个实施例的本征图像分解方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如带分解图像、反照率本征图和亮度本征图等各种内容。

在一个示例中,电子设备600还可以包括:输入装置603和输出装置604,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

例如,在该电子设备是终端设备101或服务器103时,该输入装置603可以是摄像头、鼠标、键盘等设备,用于输入待分解图像。在该电子设备是单机设备时,该输入装置603可以是通信网络连接器,用于从终端设备101和服务器103接收所输入的待分解图像。

该输出装置604可以向外部输出各种信息,包括反照率本征图和亮度本征图。该输出设备604可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然,为了简化,图6中仅示出了该电子设备600中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备600还可以包括任何其他适当的组件。

除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的本征图像分解方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的本征图像分解方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

相关技术
  • 本征图像分解方法、装置、可读存储介质及电子设备
  • 本征图像分解方法、装置、设备及可读存储介质
技术分类

06120112879470