掌桥专利:专业的专利平台
掌桥专利
首页

一种对黑白动漫视频的着色方法、装置、存储介质及终端

文献发布时间:2023-06-19 11:29:13


一种对黑白动漫视频的着色方法、装置、存储介质及终端

技术领域

本发明涉及深度学习技术领域,特别涉及一种对黑白动漫视频的着色方法、装置、存储介质及终端。

背景技术

如今,动画片已经成为我们日常娱乐的一部分,成千上万的动画片在全球电视和网络视频平台的收视率中占据了很大的比例。然而,动画制作是一个复杂而耗时的过程,需要大量的工作者在不同的阶段进行协作。定义主要人物动作的关键帧草图由主要艺术家描绘,而中间的动作草图则由缺乏经验的艺术家完成。然后,工人们在艺术家先前设计的人物颜色表的基础上,对所有线条艺术进行重复着色。这种着色过程被认为是一项繁琐的劳动密集型工作,具有以下两点缺陷:非常依赖专业人员的专业技能,技术难度比较大;一部时长约为1.5小时的动画需要对数十万帧进行手工着色,效率低下,成本非常高。

随着深度学习的兴起,出现了一系列基于卷积神经网络、生成式对抗网络的图像对动画图像进行着色的方法。这类方法主要原理是通过收集大量彩色图像,把这些彩色图像灰度化后作为训练数据,再通过人工对这些黑白线框图像标记颜色线,通过训练神经网络建立从黑白到彩色的映射,以达到对黑白线框图像着色的目的。这种方式存在的缺点如下:制作数据集比较困难,现阶段公开数据集较少;在对动画视频着色时,对视频抽帧后,对单帧进行着色,帧与帧之间的差异很大,视觉上感到闪烁、不连贯。比如同一件衣服,上一帧恢复为深蓝色,下一帧可能恢复成深灰色,视觉体验难以让人满意。

综上,如何提升黑白动漫视频着色效率以及着色准确度是亟需解决的一个问题。

发明内容

本申请实施例提供了一种对黑白动漫视频的着色方法、装置、存储介质及终端。为了对披露的实施例的一些方面有一个基本的理解,下面给出了简单的概括。该概括部分不是泛泛评述,也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念,以此作为后面的详细说明的序言。

第一方面,本申请实施例提供了一种对黑白动漫视频的着色方法,该方法包括:

将原始黑白动漫视频拆分为黑白动漫图片集;

构建第一彩色动漫样例图;

将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式;

将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片;

对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集;

合并彩色动漫图片集,生成彩色动漫视频。

可选的,构建第一彩色动漫样例图,包括:

从黑白动漫图片集中获取第一张黑白动漫图片;

接收针对第一张黑白动漫图片的着色指令,基于着色指令将第一张黑白动漫图片着色为彩色图片;

将彩色图片确定为第一彩色动漫样例图;

或者,

获取与黑白动漫图片集中任一黑白动漫图片的内容相似度大于预设值的彩色图片;

将彩色图片确定为第一彩色动漫样例图。

可选的,将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片,包括:

将第一张黑白动漫图片的L通道与第一彩色动漫样例图的L通道输入颜色传递网络中,输出颜色传递矩阵;

将第一张黑白动漫图片输入编码器网络中进行卷积运算,输出编码特征图片;

将所述颜色传递矩阵输入所述颜色编码网络中,输出颜色编码特征;

将所述编码特征图片与所述颜色编码特征输入所述解码器网络中进行特征堆叠,输出第一彩色动漫图片。

可选的,将第一张黑白动漫图片的L通道与第一彩色动漫样例图的L通道输入颜色传递网络中,输出颜色传递矩阵,包括:

颜色传递网络针对第一张黑白动漫图片与第一彩色动漫样例图进行卷积运算,生成第一张黑白动漫图片与第一彩色动漫样例图的特征编码;

颜色传递网络计算第一张黑白动漫图片与第一彩色动漫样例图的特征编码的余弦相似度,生成相似度矩阵;

颜色传递网络将第一彩色动漫样例图的ab通道与相似度矩阵作积后生成颜色传递矩阵。

可选的,第一彩色动漫图片是通过计算第一张黑白动漫图片与第一彩色动漫样例图之间的颜色传递矩阵进行着色。

可选的,按照以下步骤生成预先训练的动漫图片着色模型,包括:

采用卷积神经网络创建编码器网络、颜色编码网络、解码器网络以及颜色传递网络;

将所述编码器网络、解码器网络、颜色编码网络以及颜色传递网络进行连接,生成第一动漫图片着色模型;

采集多个彩色动漫图片;

将多个彩色动漫图片中每个彩色图片转换为黑白动漫图片,生成多个黑白动漫图片;

将多个黑白动漫图片与多个彩色动漫图片输入第一动漫图片着色模型中进行训练;

当训练的迭代次数到达预设次数时,生成第二动漫图片着色模型;

从多个黑白动漫图片中选取任一黑白动漫图片,并将选取的任一黑白动漫图片输入第二动漫图片着色模型,输出目标彩色图片;

计算选取的任一黑白动漫图片对应的彩色图片与目标彩色图片之间的光流信息的差异百分比;

根据光流信息的差异百分比生成预先训练的动漫图片着色模型。

可选的,根据光流信息的差异百分比生成预先训练的动漫图片着色模型,包括:

当光流信息的差异百分比大于预设值时,调整第一动漫图片着色模型的参数;

继续执行将多个黑白动漫图片与多个彩色动漫图片输入第一动漫图片着色模型进行训练的步骤,直到光流信息的差异百分比小于预设值时,停止训练;

生成预先训练的动漫图片着色模型。

第二方面,本申请实施例提供了一种对黑白动漫视频的着色装置,该装置包括:

视频拆分模块,用于将原始黑白动漫视频拆分为黑白动漫图片集;

样例图构建模块,用于构建第一彩色动漫样例图;

模式转换模块,用于将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式;

图片输出模块,用于将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片;

彩色动漫图片集构建模块,用于对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集;

彩色动漫视频生成模块,用于合并彩色动漫图片集,生成彩色动漫视频。

第三方面,本申请实施例提供一种计算机存储介质,计算机存储介质存储有多条指令,指令适于由处理器加载并执行上述的方法步骤。

第四方面,本申请实施例提供一种终端,可包括:处理器和存储器;其中,存储器存储有计算机程序,计算机程序适于由处理器加载并执行上述的方法步骤。

本申请实施例提供的技术方案可以包括以下有益效果:

在本申请实施例中,对黑白动漫视频的着色装置首先将原始黑白动漫视频拆分为黑白动漫图片集,然后构建第一彩色动漫样例图,再将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式,并将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片,其次对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集,最后合并彩色动漫图片集,生成彩色动漫视频;其中,第一彩色动漫图片是通过计算第一张黑白动漫图片与第一彩色动漫样例图之间的颜色传递矩阵进行着色。由于通过计算样例图和黑白图像的颜色传递矩阵对黑白影片进行快速上色,从而提升了黑白动漫视频上色效率。

应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。

图1是本申请实施例提供的一种对黑白动漫视频的着色方法的流程示意图;

图2是本申请实施例提供的一种动漫图片着色模型训练方法的流程示意图;

图3是本申请实施例提供的一种动漫图片着色模型处理过程的过程示意框图;

图4是本申请实施例提供的一种动漫图片着色模型中的颜色传递网络处理过程的过程示意图;

图5是本申请实施例提供的一种对黑白动漫视频的着色过程的过程示意框图;

图6是本申请实施例提供的一种对黑白动漫视频的着色装置的装置示意图;

图7是本申请实施例提供的一种终端的结构示意图。

具体实施方式

以下描述和附图充分地示出本发明的具体实施方案,以使本领域的技术人员能够实践它们。

应当明确,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。

下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

在本发明的描述中,需要理解的是,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。此外,在本发明的描述中,除非另有说明,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。

本申请提供的技术方案中,由于本申请实施例通过计算样例图和黑白图像的颜色传递矩阵对黑白影片进行快速上色,从而提升了黑白动漫视频上色效率,下面采用示例性的实施例进行详细说明。

下面将结合附图1-附图5,对本申请实施例提供的对黑白动漫视频的着色方法进行详细介绍。该方法可依赖于计算机程序实现,可运行于基于冯诺依曼体系的对黑白动漫视频的着色装置上。该计算机程序可集成在应用中,也可作为独立的工具类应用运行。其中,本申请实施例中的对黑白动漫视频的着色装置可以为用户终端,包括但不限于:个人电脑、平板电脑、手持设备、车载设备、可穿戴设备、计算设备或连接到无线调制解调器的其它处理设备等。在不同的网络中用户终端可以叫做不同的名称,例如:用户设备、接入终端、用户单元、用户站、移动站、移动台、远方站、远程终端、移动设备、用户终端、终端、无线通信设备、用户代理或用户装置、蜂窝电话、无绳电话、个人数字处理(personal digitalassistant,PDA)、5G网络或未来演进网络中的终端设备等。

请参见图1,为本申请实施例提供了一种对黑白动漫视频的着色方法的流程示意图。如图1所示,本申请实施例的方法可以包括以下步骤:

S101,将原始黑白动漫视频拆分为黑白动漫图片集;

其中,原始黑白动漫视频为待着色的黑白动画视频,待着色的黑白视频中包括成千上万张的连续黑白动漫图片帧,黑白动漫图片也可以成为二值化图像,即图像中的色彩呈现非黑即白。

通常,原始黑白动漫视频可以为用户终端保存的黑白动画片,也可以是从云端下载的黑白动画片电影。

在本申请实施例中,当需要针对原始黑白动漫视频进行着色时,首先确定出待着色的原始黑白动漫视频后,再在本地电脑磁盘中创建文件夹,利用python的OpenCV模块按照时间的先后顺序读取原始黑白动漫视频中的每一张黑白动漫图片,然后以图片格式写入电脑磁盘的文件夹中。

例如,当用户针对本地保存的黑白动漫视频《谢谢小花猫》进行着色时,首先在本地磁盘创建文件夹,然后利用python的OpenCV模块按照时间的先后顺序读取《谢谢小花猫》中的每一帧黑白图像,最后将读取到的《谢谢小花猫》中的每一帧黑白图像保存至本地磁盘文件夹中。

S102,构建第一彩色动漫样例图;

其中,彩色动漫样例图为一张彩色图像。

在一种可能的实现方式中,在构建彩色动漫样例图时,首先从黑白动漫图片集中获取第一张黑白动漫图片,然后接收针对第一张黑白动漫图片的着色指令,基于着色指令将第一张黑白动漫图片着色为彩色动漫图片,最后将彩色动漫图片确定为第一彩色动漫样例图。

在另一种可能的实现方式中,首先获取与黑白动漫图片集中任一黑白动漫图片的内容相似度大于预设值的彩色图片,然后将彩色图片确定为第一彩色动漫样例图。

在本申请实施例中,用户使用专业软件(例如本申请中使用的PhotoShop)对黑白视频的某个帧进行手工着色作为动漫图片着色模型输入的样例图,或者从网络动漫图库中挑选和着色动漫视频内容类似以及符合着色预期的彩色动漫图像。

S103,将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式;

其中,Lab模式为工业界的一种颜色标准。

通常,原始黑白图像的颜色标准为RGB色彩模式,本申请中首选需要将原始黑白图像的RGB色彩模式转换为Lab色彩模式。

在一种可能的实现方式中,在将RGB转换为Lab色彩模式时,首先将第一黑白动漫图片与第一彩色动漫样例图划分为若干的块,分别计算每个块中的R通道、G通道、B通道平均值,最后根据每个块中的R通道、G通道、B通道平均值计算每个块的Lab值。

S104,将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片;

其中,预先训练的动漫图片着色模型是可以对黑白动漫图片进行着色的数学模型,预先训练的动漫图片着色模型包括编码器网络、解码器网络以及颜色传递网络。

通常,生成预先训练的动漫图片着色模型时的流程图例如图2所示,首先采用卷积神经网络创建编码器网络、颜色编码网络、解码器网络以及颜色传递网络,然后将所述编码器网络、解码器网络、颜色编码网络以及颜色传递网络进行连接,生成第一动漫图片着色模型,再采集多个彩色动漫图片,并将多个彩色动漫图片中每个彩色图片转换为黑白动漫图片,生成多个黑白动漫图片,其次将多个黑白动漫图片与多个彩色动漫图片输入第一动漫图片着色模型中进行训练,再当训练的迭代次数到达预设次数时,生成第二动漫图片着色模型,再从多个黑白动漫图片中选取任一黑白动漫图片,并将选取的任一黑白动漫图片输入第二动漫图片着色模型,输出目标彩色图片,并计算选取的任一黑白动漫图片对应的彩色图片与目标彩色图片之间的光流信息的差异百分比,最后根据光流信息的差异百分比生成预先训练的动漫图片着色模型。

具体的,在根据光流信息的差异百分比生成预先训练的动漫图片着色模型时,当光流信息的差异百分比大于预设值时,调整第一动漫图片着色模型的参数,并继续执行将多个黑白动漫图片与多个彩色动漫图片输入第一动漫图片着色模型进行训练的步骤,直到光流信息的差异百分比小于预设值时,停止训练,最后生成预先训练的动漫图片着色模型。

优选地,在将多个黑白动漫图片与多个彩色动漫图片输入第一动漫图片着色模型中的颜色传递网络之前,还需要调整多个黑白动漫图片与多个彩色动漫图片的尺寸大小,使得尺寸符合当前模型适应的尺寸大小。

需要说明的是,动漫图片着色模型训练时利用光流信息保持帧间着色一致性。使得模型应用时着色的动漫视频不会出现丢帧或错帧。

在一种可能的实现方式中,例如图3所示,图3是本申请提供的一种预先训练的着色模型进行处理的过程示意图,在将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中进行处理时,首先将第一张黑白动漫图片的L通道与第一彩色动漫样例图的L通道输入颜色传递网络中,输出颜色传递矩阵,然后将第一张黑白动漫图片输入编码器网络中进行卷积运算,输出编码特征图片,最后将颜色传递矩阵输入颜色编码网络中,输出颜色编码特征,并将编码特征图片与颜色编码特征输入所述解码器网络中进行特征堆叠,输出第一彩色动漫图片。

进一步地,例如图4所示,图4为本申请提供的一种预先训练的着色模型中的颜色传递网络处理流程示意图,首先颜色传递网络针对第一张黑白动漫图片与第一彩色动漫样例图进行卷积运算,生成第一张黑白动漫图片与第一彩色动漫样例图的特征编码,然后颜色传递网络计算第一张黑白动漫图片与第一彩色动漫样例图的特征编码的余弦相似度,生成相似度矩阵,最后颜色传递网络将第一彩色动漫样例图的ab通道与相似度矩阵作积后生成颜色传递矩阵。

S105,对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集;

通常,通过步骤S101至步骤S104可以得到一帧黑白图像的着色图片。

在本申请实施例中,每个黑白视频中包括成千上万张黑白动漫图片,因此需要循环将每个黑白动漫图片全部进行步骤S103至步骤S104的处理过程,使得每一张黑白动漫图片对应的彩色图片,最后构成彩色动漫图片集。

S106,合并彩色动漫图片集,生成彩色动漫视频。

其中,彩色图片是通过计算第一张黑白动漫图片与第一彩色动漫样例图之间的颜色传递矩阵进行着色。

在一种可能的实现方式中,在得到彩色动漫图片集后,利用Python的OpenCV模块读取着色后图像,并合并为彩色动漫视频。

本发明利用了样例图的颜色信息,通过将样例图的颜色传递到黑白视频图像上,提高着色的准确率,并利用光流损失约束视频的帧间一致性,减少了视频帧间跳色的情况,极大的减少了人工成本、提高了着色的效率和效果。

例如图5所示,图5是本申请黑白视频着色过程的过程示意图,首先把原始黑白动漫视频拆分为图片,得到黑白动漫图片集,用户再构建彩色动漫样例图,然后从黑白动漫图片集中获取一张黑白动漫图片,再将样例图与黑白动漫图片转换到Lab色彩空间,其次调用着色模型,计算颜色传递矩阵,对选取的黑白动漫图片着色,再从黑白动漫图片集中遍历从获取处理后生成彩色动漫图片集,最后合成彩色动漫视频。

在本申请实施例中,对黑白动漫视频的着色装置首先将原始黑白动漫视频拆分为黑白动漫图片集,然后构建第一彩色动漫样例图,再将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式,并将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片,其次对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集,最后合并彩色动漫图片集,生成彩色动漫视频;其中,第一彩色动漫图片是通过计算第一张黑白动漫图片与第一彩色动漫样例图之间的颜色传递矩阵进行着色。由于通过计算样例图和黑白图像的颜色传递矩阵对黑白影片进行快速上色,从而提升了黑白动漫视频上色效率。

下述为本发明装置实施例,可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节,请参照本发明方法实施例。

请参见图6,其示出了本发明一个示例性实施例提供的对黑白动漫视频的着色装置的结构示意图。该对黑白动漫视频的着色装置可以通过软件、硬件或者两者的结合实现成为终端的全部或一部分。该装置1包括视频拆分模块10、样例图构建模块20、模式转换模块30、图片输出模块40、彩色动漫图片集构建模块50、彩色动漫视频生成模块60。

视频拆分模块10,用于将原始黑白动漫视频拆分为黑白动漫图片集;

样例图构建模块20,用于构建第一彩色动漫样例图;

模式转换模块30,用于将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式;

图片输出模块40,用于将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片;

彩色动漫图片集构建模块50,用于对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集;

彩色动漫视频生成模块60,用于合并彩色动漫图片集,生成彩色动漫视频。

需要说明的是,上述实施例提供的对黑白动漫视频的着色装置在执行对黑白动漫视频的着色方法时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的对黑白动漫视频的着色装置与对黑白动漫视频的着色方法实施例属于同一构思,其体现实现过程详见方法实施例,这里不再赘述。

上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。

在本申请实施例中,对黑白动漫视频的着色装置首先将原始黑白动漫视频拆分为黑白动漫图片集,然后构建第一彩色动漫样例图,再将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式,并将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片,其次对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集,最后合并彩色动漫图片集,生成彩色动漫视频;其中,第一彩色动漫图片是通过计算第一张黑白动漫图片与第一彩色动漫样例图之间的颜色传递矩阵进行着色。由于通过计算样例图和黑白图像的颜色传递矩阵对黑白影片进行快速上色,从而提升了黑白动漫视频上色效率。

本发明还提供一种计算机可读介质,其上存储有程序指令,该程序指令被处理器执行时实现上述各个方法实施例提供的对黑白动漫视频的着色方法。

本发明还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述各个方法实施例的对黑白动漫视频的着色方法。

请参见图7,为本申请实施例提供了一种终端的结构示意图。如图7所示,终端1000可以包括:至少一个处理器1001,至少一个网络接口1004,用户接口1003,存储器1005,至少一个通信总线1002。

其中,通信总线1002用于实现这些组件之间的连接通信。

其中,用户接口1003可以包括显示屏(Display)、摄像头(Camera),可选用户接口1003还可以包括标准的有线接口、无线接口。

其中,网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。

其中,处理器1001可以包括一个或者多个处理核心。处理器1001利用各种借口和线路连接整个电子设备1000内的各个部分,通过运行或执行存储在存储器1005内的指令、程序、代码集或指令集,以及调用存储在存储器1005内的数据,执行电子设备1000的各种功能和处理数据。可选的,处理器1001可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。处理器1001可集成中央处理器(Central Processing Unit,CPU)、图片处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示屏所需要显示的内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器1001中,单独通过一块芯片进行实现。

其中,存储器1005可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。可选的,该存储器1005包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器1005可用于存储指令、程序、代码、代码集或指令集。存储器1005可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图片播放功能等)、用于实现上述各个方法实施例的指令等;存储数据区可存储上面各个方法实施例中涉及到的数据等。存储器1005可选的还可以是至少一个位于远离前述处理器1001的存储装置。如图7所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及对黑白动漫视频的着色应用程序。

在图7所示的终端1000中,用户接口1003主要用于为用户提供输入的接口,获取用户输入的数据;而处理器1001可以用于调用存储器1005中存储的对黑白动漫视频的着色应用程序,并具体执行以下操作:

将原始黑白动漫视频拆分为黑白动漫图片集;

构建第一彩色动漫样例图;

将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式;

将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片;

对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集;

合并彩色动漫图片集,生成彩色动漫视频。

在一个实施例中,处理器1001在执行构建第一彩色动漫样例图时,具体执行以下操作:

从黑白动漫图片集中获取第一张黑白动漫图片;

接收针对第一张黑白动漫图片的着色指令,基于着色指令将第一张黑白动漫图片着色为彩色图片;

将彩色图片确定为第一彩色动漫样例图;

或者,

获取与黑白动漫图片集中任一黑白动漫图片的内容相似度大于预设值的彩色图片;

将彩色图片确定为第一彩色动漫样例图。

在一个实施例中,处理器1001在执行将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片时,具体执行以下操作:

将第一张黑白动漫图片的L通道与第一彩色动漫样例图的L通道输入颜色传递网络中,输出颜色传递矩阵;

将第一张黑白动漫图片输入编码器网络中进行卷积运算,输出编码特征图片;

将所述颜色传递矩阵输入所述颜色编码网络中,输出颜色编码特征;将所述编码特征图片与所述颜色编码特征输入所述解码器网络中进行特征堆叠,输出第一彩色动漫图片。

在一个实施例中,处理器1001在执行将第一张黑白动漫图片的L通道与第一彩色动漫样例图的L通道输入颜色传递网络中,输出颜色传递矩阵时,具体执行以下操作:

颜色传递网络针对第一张黑白动漫图片与第一彩色动漫样例图进行卷积运算,生成第一张黑白动漫图片与第一彩色动漫样例图的特征编码;

颜色传递网络计算第一张黑白动漫图片与第一彩色动漫样例图的特征编码的余弦相似度,生成相似度矩阵;

颜色传递网络将第一彩色动漫样例图的ab通道与相似度矩阵作积后生成颜色传递矩阵。

在本申请实施例中,对黑白动漫视频的着色装置首先将原始黑白动漫视频拆分为黑白动漫图片集,然后构建第一彩色动漫样例图,再将黑白动漫图片集中的第一张黑白动漫图片和第一彩色动漫样例图转换为Lab模式,并将转换后的第一张黑白动漫图片和第一彩色动漫样例图输入预先训练的动漫图片着色模型中,输出第一彩色动漫图片,其次对于黑白动漫图片集中的每一张黑白动漫图片,重复转换为Lab模式并与所述转换后的第一彩色动漫样例图输入预先训练的动漫图片着色模型中,得到每一张黑白动漫图片对应的彩色图片,构成彩色动漫图片集,最后合并彩色动漫图片集,生成彩色动漫视频;其中,第一彩色动漫图片是通过计算第一张黑白动漫图片与第一彩色动漫样例图之间的颜色传递矩阵进行着色。由于通过计算样例图和黑白图像的颜色传递矩阵对黑白影片进行快速上色,从而提升了黑白动漫视频上色效率。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,对黑白动漫视频的着色程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,的存储介质可为磁碟、光盘、只读存储记忆体或随机存储记忆体等。

以上所揭露的仅为本申请较佳实施例而已,当然不能以此来限定本申请之权利范围,因此依本申请权利要求所作的等同变化,仍属本申请所涵盖的范围。

相关技术
  • 一种对黑白动漫视频的着色方法、装置、存储介质及终端
  • 一种对黑白视频的着色方法、装置、存储介质及终端
技术分类

06120112939052