渲染图像超分辨率纹理增强方法、装置、设备及存储介质

技术领域

本申请涉及图像渲染领域，具体而言，涉及一种渲染图像超分辨率纹理增强方法、装置、设备及存储介质。

背景技术

渲染是把模型图转成效果图的技术，通过专业的渲染引擎可以渲染出效果逼真的效果图，但是现有的渲染技术耗时长，比如基于光线追踪的蒙特卡洛方法，通过概率统计的方式近似渲染方程，根据光源属性，计算每个像素点的光线采样，完成渲染，时间很长，导致服务器成本高一直是需要优化的问题，尤其，渲染图分辨率越高，耗时就越长。

发明内容

本申请实施例的目的在于提供一种渲染图像超分辨率纹理增强方法、装置、设备及存储介质，用以在保证将低分辨率的图像渲染成高分辨率的图像的同时，降低渲染耗时和计算量。

为此，本申请第一方面公开一种渲染图像超分辨率纹理增强方法，所述方法包括：

生成目标场景的第一分辨率的渲染效果图；

生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图、第二分辨率的渲染效果图，所述第二分辨率大于所述第一分辨率；

根据预设数据组合算法将所述第二分辨率的无光照纹理图、所述第二分辨率的无光照带凹凸纹理的法线图合成一合成图；

基于第二分辨率的渲染效果图，根据超分辨率重建算法和所述合成图将所述目标场景的第一分辨率的渲染效果图重建为所述目标场景在所述第二分辨率下的重建渲染效果图。

在本申请第一方面中，通过生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，进而能够基于生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将所述目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

在本申请第一方面中，作为一种可选的实施方式，所述根据超分辨率重建算法和所述合成图将所述目标场景的第一分辨率的渲染效果图重建为所述目标场景在所述第二分辨率下的渲染效果图，包括：

将所述合成图、所述目标场景的第一分辨率的渲染效果图作为对抗网络的输入，以使得所述对抗网络输出所述重建渲染效果图。

在本可选的实施方式中，通过对抗网络，能够输出第二分辨率的渲染效果图，即重建渲染效果图。

在本申请第一方面中，作为一种可选的实施方式，所述对抗网络包括生成器和鉴别器，所述生成器包括第一卷积网络和第二卷积网络，所述第一卷积网络用于提取所述目标场景的第一分辨率、合成图的渲染图的图像特征，所述第二卷积网络用于根据所述图像特征输出候选分辨率的渲染效果图；

所述鉴别器用于将所述候选分辨率的渲染效果图与第二分辨率的渲染效果图进行迭代比较计算，使得生成器学习第一分辨率与第二分辨率之间的重建映射关系。

在本可选的实施方式中，通过鉴别器和生成器能够将所述目标场景的第一分辨率的渲染效果图重建为所述第二分辨率的渲染效果图。

在本申请第一方面中，作为一种可选的实施方式，所述生成目标场景的第一分辨率的渲染效果图，包括：

根据光线追踪算法对目标场景进行渲染并得到所述目标场景的第一分辨率的渲染效果图。

在本可选的实施方式中，根据光线追踪算法能够本对目标场景进行渲染，进而得到所述目标场景的第一分辨率的渲染效果图。

在本申请第一方面中，作为一种可选的实施方式，所述根据预设数据组合算法将所述第二分辨率的无光照纹理图、所述第二分辨率的无光照带凹凸纹理的法线图合成一合成图，包括：

将所述第二分辨率的无光照纹理图与所述第二分辨率的无光照带凹凸纹理的法线图进行做差运算，并得到第一运算结果；

根据所述第一运算结果的绝对值得到所述合成图。

在本可选的实施方式中，通过将第二分辨率的无光照纹理图与第二分辨率的无光照带凹凸纹理的法线图进行做差运算，进而能够得到第一运算结果，进而能够根据第一运算结果的绝对值得到合成图。

本申请第二方面公开一种渲染图像超分辨率纹理增强装置，所述装置包括：

第一生成模块，用于生成目标场景的第一分辨率的渲染效果图；

第二生成模块，用于生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图、第二分辨率的渲染效果图，所述第二分辨率大于所述第一分辨率；

图案合成模块，用于根据预设数据组合算法将所述第二分辨率的无光照纹理图、所述第二分辨率的无光照带凹凸纹理的法线图合成一合成图；

重建模块，用于基于第二分辨率的渲染效果图，根据超分辨率重建算法和所述合成图将所述目标场景的第一分辨率的渲染效果图重建为所述目标场景在所述第二分辨率下的重建渲染效果图。

本申请第二方面的装置通过执行渲染图像超分辨率纹理增强方法，能够通过生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将所述目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

在本申请第二方面中，作为一种可选的实施方式，所述重建模块执行基于第二分辨率的渲染效果图，根据超分辨率重建算法和所述合成图将所述目标场景的第一分辨率的渲染效果图重建为所述目标场景在所述第二分辨率下的渲染效果图，包括：

将所述合成图、所述目标场景的第一分辨率的渲染效果图作为对抗网络的输入，以使得所述对抗网络输出所述第二分辨率的渲染效果图。

在本可选的实施方式中，通过对抗网络，能够输出所述重建渲染效果图。

在本申请第二方面中，作为一种可选的实施方式，所述对抗网络包括生成器和鉴别器，所述生成器包括第一卷积网络和第二卷积网络，所述第一卷积网络用于提取所述目标场景的第一分辨率的渲染效果图、合成图的图像特征，所述第二卷积网络用于根据所述图像特征输出候选分辨率的渲染效果图；

所述鉴别器用于将所述候选分辨率的渲染效果图与第二分辨率的渲染效果图进行迭代比较计算，使得所述生成器学习第一分辨率与第二分辨率之间的重建映射关系。

在本可选的实施方式中，通过鉴别器和生成器能够将所述目标场景的第一分辨率的渲染效果图重建为所述第二分辨率的渲染效果图，即重建渲染效果图。

本申请第三方面公开一种渲染图像超分辨率纹理增强设备，所设备包括：

处理器；以及

存储器，配置用于存储机器可读指令，所述指令在由所述处理器执行时，使得所述处理器执行本申请第一方面的渲染图像超分辨率纹理增强方法。

本申请第三方面的设备通过执行渲染图像超分辨率纹理增强方法，能够通过生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将所述目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

本申请第四方面公开一种存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行本申请第一方面公开的渲染图像超分辨率纹理增强方法。

本申请第四方面的存储介质通过执行渲染图像超分辨率纹理增强方法，能够通过生成所述目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将所述目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

附图说明

为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1是本申请实施例公开的一种渲染图像超分辨率纹理增强方法的流程示意图；

图2是本申请实施例公开的一种渲染图像超分辨率纹理增强装置的结构示意图；

图3是本申请实施例公开的一种渲染图像超分辨率纹理增强设备的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。

实施例一

请参阅图1，图1是本申请实施例公开的一种渲染图像超分辨率纹理增强方法的流程示意图。如图1所示，本申请实施例的渲染图像超分辨率纹理增强方法包括步骤：

101、生成目标场景的第一分辨率的渲染效果图；

102、生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图、第二分辨率的渲染效果图，第二分辨率大于第一分辨率；

103、根据预设数据组合算法将第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图合成一合成图；

104、基于第二分辨率的渲染效果图，根据超分辨率重建算法和合成图将目标场景的第一分辨率的渲染效果图重建为目标场景在第二分辨率下的渲染效果图。

在本申请实施例中，通过生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，进而能够基于生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

在本申请实施例中，目标场景是指用户想要渲染的场景。

在本申请实施例中，作为一种可选的实施方式，步骤104：基于第二分辨率的渲染效果图，根据超分辨率重建算法和合成图将目标场景的第一分辨率的渲染效果图重建为目标场景在第二分辨率下的重建渲染效果图，包括子步骤：

将合成图、目标场景的第一分辨率的渲染效果图作为对抗网络的输入，以使得对抗网络输出第二分辨率的渲染效果图。

在本可选的实施方式中，通过对抗网络，能够输出第二分辨率的渲染效果图，即重建渲染效果图。

在本申请实施例中，作为一种可选的实施方式，对抗网络包括生成器和鉴别器，生成器包括第一卷积网络和第二卷积网络，第一卷积网络用于提取目标场景的第一分辨率的渲染效果图、合成图的图像特征，第二卷积网络用于根据图像特征输出候选分辨率的渲染效果图；

鉴别器用于将候选分辨率的渲染效果图与所述第二分辨率的渲染效果图进行迭代比较计算，使得所述生成器学习第一分辨率与第二分辨率之间的重建映射关系。

在本可选的实施方式中，通过鉴别器和生成器能够将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。

在本申请实施例中，作为一种可选的实施方式，步骤101：生成目标场景的第一分辨率的渲染效果图，包括：

根据光线追踪算法对目标场景进行渲染并得到目标场景的第一分辨率的渲染效果图。

在本可选的实施方式中，根据光线追踪算法能够本对目标场景进行渲染，进而得到目标场景的第一分辨率的渲染效果图。

在本申请实施例中，作为一种可选的实施方式，步骤103：根据预设数据组合算法将第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图合成一合成图，包括子步骤：

将第二分辨率的无光照纹理图与第二分辨率的无光照带凹凸纹理的法线图进行做差运算，并得到第一运算结果；

根据第一运算结果的绝对值得到合成图。

在本可选的实施方式中，通过将第二分辨率的无光照纹理图与第二分辨率的无光照带凹凸纹理的法线图进行做差运算，进而能够得到第一运算结果，进而能够根据第一运算结果的绝对值得到合成图。

实施例二

请参阅图2，图2是本申请实施例公开的一种渲染图像超分辨率纹理增强装置的结构示意图。如图2所示，本申请实施例的渲染图像超分辨率纹理增强装置包括：

第一生成模块201，用于生成目标场景的第一分辨率的渲染效果图；

第二生成模块202，用于生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图、第二分辨率的渲染效果图，第二分辨率大于第一分辨率；

图案合成模块203，用于根据预设数据组合算法将第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图合成一合成图；

重建模块204，用于根据超分辨率重建算法和合成图将目标场景的第一分辨率的渲染效果图重建为目标场景在第二分辨率下的重建渲染效果图。

本申请实施例的装置通过执行渲染图像超分辨率纹理增强方法，能够通过生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

在本申请实施例中，作为一种可选的实施方式，重建模块执行基于第二分辨率的渲染效果图，根据超分辨率重建算法和合成图将目标场景的第一分辨率的渲染效果图重建为目标场景在第二分辨率下的重建渲染效果图，包括：

将合成图、目标场景的第一分辨率的渲染效果图作为对抗网络的输入，以使得对抗网络输出第二分辨率的渲染效果图。

在本可选的实施方式中，通过对抗网络，能够输出第二分辨率的渲染效果图。

在本申请实施例中，作为一种可选的实施方式，对抗网络包括生成器和鉴别器，生成器包括第一卷积网络和第二卷积网络，第一卷积网络用于提取目标场景的第一分辨率的渲染效果图、合成图的图像特征，第二卷积网络用于根据图像特征输出候选分辨率的渲染效果图；

鉴别器用于将候选分辨率的渲染效果图与第二分辨率的渲染效果图进行迭代比较计算，使得生成器学习第一分辨率与第二分辨率之间的重建映射关系。

在本可选的实施方式中，通过鉴别器和生成器能够将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。

需要说明的是，关于本申请实施例的其他说明请参考现本申请实施例一，在此不作赘述。

实施例三

请参阅图3，图3是本申请实施例公开的一种渲染图像超分辨率纹理增强设备的结构示意图。如图3所示，本申请实施例的渲染图像超分辨率纹理增强设备包括：

处理器301；以及

存储器302，配置用于存储机器可读指令，指令在由处理器301执行时，使得处理器301执行本申请实施例一的渲染图像超分辨率纹理增强方法。

本申请实施例的设备通过执行渲染图像超分辨率纹理增强方法，能够通过生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

实施例四

本申请实施例公开一种存储介质，存储介质存储有计算机程序，计算机程序被处理器执行本申请实施例公开的渲染图像超分辨率纹理增强方法。

本申请实施例的存储介质通过执行渲染图像超分辨率纹理增强方法，能够通过生成目标场景的第二分辨率的无光照纹理图、第二分辨率的无光照带凹凸纹理的法线图，将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图，其中，由于无光照纹理图保留纹理信息，而无光照带凹凸纹理的法线图能够保留图像中的反射信息及折射信息，这样一来就能够给超分辨率重建算法提供必要的参考信息，从而实现将目标场景的第一分辨率的渲染效果图重建为第二分辨率的渲染效果图。进一步地，通过将无光照带凹凸纹理的法线图和无光照纹理图合成，能够在提供反射信息、折射信息、纹理信息的前提下，减小超分辨率重建算法的输入信息大小，从而减少计算量。再一方面，由于本申请的带凹凸纹理的法线图和纹理图都是在无光照条件下生成的，因此与现有技术基于有光照实现渲染相比，能够进一步降低计算量、降低渲染耗时。

在本申请所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

另外，作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

再者，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

需要说明的是，功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。

以上所述仅为本申请的实施例而已，并不用于限制本申请的保护范围，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。