虚拟形象处理方法及装置
文献发布时间:2023-06-19 19:28:50
技术领域
本文件涉及数据处理技术领域,尤其涉及一种虚拟形象处理方法及装置。
背景技术
虚拟世界提供了对真实世界的模拟,甚至能够提供在真实世界难以实现的场景,因此虚拟世界越来越多地应用在各种场景。在虚拟世界场景中,目标对象通过特定的身份ID登录三维虚拟世界,通过虚拟世界中虚拟的目标对象角色进行活动,通常,在根据目标对象的指令操控虚拟世界中的虚拟形象时,会产生延时,这降低了目标对象体验。
发明内容
本说明书一个或多个实施例提供了一种虚拟形象处理方法。所述虚拟形象处理方法,包括:将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征。将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征。将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征。将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征。基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
本说明书一个或多个实施例提供了一种虚拟形象处理装置,包括:像素特征预测模块,被配置为将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征。关键特征提取模块,被配置为将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征。偏移特征预测模块,被配置为将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征。特征融合模块,被配置为将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征。形象更新模块,被配置为基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
本说明书一个或多个实施例提供了一种虚拟形象处理设备,包括:处理器;以及,被配置为存储计算机可执行指令的存储器,所述计算机可执行指令在被执行时使所述处理器:将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征。将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征。将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征。将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征。基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
本说明书一个或多个实施例提供了一种存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程:将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征。将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征。将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征。将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征。基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
附图说明
为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图;
图1为本说明书一个或多个实施例提供的一种虚拟形象处理方法处理流程图;
图2为本说明书一个或多个实施例提供的一种应用于虚拟世界场景的虚拟形象处理方法处理流程图;
图3为本说明书一个或多个实施例提供的一种虚拟形象处理装置示意图;
图4为本说明书一个或多个实施例提供的一种虚拟形象处理设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案,下面将结合本说明书一个或多个实施例中的附图,对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书的一部分实施例,而不是全部的实施例。基于本说明书一个或多个实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本文件的保护范围。
本说明书提供的一种虚拟形象处理方法实施例:
本实施例提供的虚拟形象处理方法,首先将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征,然后将图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征,在获得第一像素特征和关键特征的基础上,将虚拟形象更新的延时时间、第一像素特征以及关键特征输入偏移特征预测模块进行偏移特征预测,获得偏移特征,将偏移特征和关键特征输入特征融合模块进行特征融合处理,获得融合特征,基于融合特征对目标对象在虚拟世界的虚拟形象进行更新,降低了对目标对象的虚拟形象进行更新时的延迟时间,提升了对虚拟形象的更新准确性,提升了目标对象体验。
参照图1,本实施例提供的虚拟形象处理方法,具体包括步骤S102至步骤S110。
步骤S102,将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征。
本实施例所述虚拟世界,是指基于去中心化协作实现并且具有开放经济系统的虚拟的拟真世界。具体的,物理世界(真实世界)中的用户可通过接入设备接入虚拟世界,以在虚拟世界中进行行为活动,比如用户通过接入设备进行游戏交互的游戏虚拟世界,再比如用户通过接入设备进行在线会议的会议虚拟世界;所述虚拟世界的接入设备,可以是连接虚拟世界的VR(Virtual Reality,虚拟现实)设备、AR(Augmented Reality,增强现实)设备等,比如连接虚拟世界的头戴式VR设备。所述物理世界,是指与虚拟世界对应的世界,即真实存在的世界,可选的,所述物理世界包括真实世界。
所述图像帧序列可以是目标对象在现实世界的视频流中选取连续的若干图像帧组成的序列,或者,还可以是对目标对象在现实世界的视频流进行采样获得非连续的序列;其中,帧的数目可以根据具体应用而变化。所述第一像素特征,包括根据图像帧序列中的相邻两帧图像进行相关性计算获得的能够表征目标对象的运动方向和强度的特征。所述第二像素特征,包括根据图像帧序列中的单帧图像获得能够表征目标对象的运动方向和强度的特征。
实际应用中,由于目标对象在现实世界中的动作变化,导致目标对象在现实世界中的真实形象发生变化;为了在目标对象的真实形象发生变化的同一时刻,使目标对象的虚拟形象也做出相应的变化,尽可能降低形象更新的延迟时间,从图像帧序列的第一像素特征出发预测未来帧图像的预测关键点,使虚拟形象基于预测关键点进行更新,实现目标对象的虚拟形象与目标对象在现实世界中的真实形象同步更新;
基于此,在具体执行过程中将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征;需要说明的是,对图像帧序列进行像素特征预测的过程中,为了使第一像素特征能准确表征目标对象在现实世界中的运动状态,首先针对图像帧序列进行特征图谱提取,获得特征图谱,再基于图像帧序列中每相邻两帧图像的特征图谱进行相关性计算,获得第一像素特征。
本实施例提供的一种可选实施方式中,所述像素特征预测,包括:
(1)将所述图像帧序列输入特征图谱提取子模型进行特征图谱提取,获得特征图谱。
所述特征图谱,包括将图像帧序列中每一帧图像的第二像素特征标记在图像中对应像素点的位置后获得的图谱。
在具体执行过程中,为了更加清晰更加准确地表示图像帧序列中每帧图像的特征图谱,利用特征图谱提取子模型包含的学生网络进行像素特征提取,获得第二像素特征,也即是单帧维度的像素特征,再基于第二像素特征对图像帧序列中的每帧图像进行特征图谱提取,获得各自的特征图谱,本实施例提供的一种可选实施方式中,所述特征图谱提取,包括:
将所述图像帧序列输入所述特征图谱提取子模型包含的学生网络进行像素特征提取,获得第二像素特征;
基于所述第二像素特征对所述图像帧序列进行特征图谱提取,获得所述特征图谱。
本实施例中,提供了特征图谱提取子模型,可选的,所述特征图谱提取子模型,包括下述至少一项:教师网络、学生网络以及像素融合模块,其中,所述学生网络用于对图像帧序列中的每一帧图像进行像素特征提取,在具体进行像素特征提取的过程中,将图像帧序列输入学生网络进行像素特征提取,获得第二像素特征。
具体执行过程中,特征图谱提取子模型可预先训练,比如在云服务器上进行特征图谱提取子模型的训练,具体在特征图谱提取子模型的训练过程中,为了提升特征图谱提取子模型的训练效率,同时也为了降低训练样本的收集难度、减少模型训练的工作量,本实施例提供的一种可选实施方式中,采用如下方式进行特征图谱提取子模型的训练:
将样本第一像素特征输入待训练像素融合模块进行像素特征融合,获得样本融合像素特征;
将所述第一帧序列样本输入待训练学生网络进行像素特征提取,获得样本第二像素特征;
根据所述样本第二像素特征和预设像素特征计算第一特征损失,以及,根据所述样本融合像素特征和所述样本第二像素特征计算第二特征损失;
根据所述第一特征损失与所述第二特征损失对所述待训练像素融合模块以及所述待训练学生网络进行参数调整。
可选的,所述样本第一像素特征通过将第一帧序列样本输入教师网络进行像素特征提取获得。
参见上述模型训练方式,重复上述训练过程对待训练特征图谱提取子模型进行训练,并在训练过程中根据第一特征损失与第二特征损失对待训练像素融合模块以及待训练学生网络进行调参,直至损失函数收敛,则在损失函数收敛之后获得所述特征图谱提取子模型。
可选的,所述教师网络包括至少一个像素特征维度的教师网络,所述教师网络用于提取不同维度的像素特征;所述像素融合模块用于对教师网络输出的不同维度的像素特征进行融合,以指导学生网络。
具体的,还可采用U-net(U-network,U型神经网络)作为所述学生网络,在模型训练过程中,一方面将第一帧序列样本输入至少一个像素特征维度的教师网络进行像素特征提取,获得至少一个样本第一像素特征,然后将所述至少一个样本第一像素特征输入待训练像素融合模块进行像素特征融合,获得样本融合像素特征,另一方面将第一帧序列样本输入待训练学生网络进行像素特征提取,获得样本第二像素特征,在获得样本融合像素特征以及样本第二像素特征的基础上,根据样本第二像素特征和预设像素特征计算第一特征损失,以及,根据样本融合像素特征和样本第二像素特征计算第二特征损失,根据第一特征损失与第二特征损失对待训练像素融合模块以及学生网络进行参数调整。
例如,在特征图谱提取子模型的训练过程中,损失函数可以是:
Loss
其中,Loss
在训练过程中,基于上述模型结构以及训练损失,利用SGD(Stochastic GradientDescent,随机梯度下降)法对待训练像素融合模块以及待训练学生网络进行参数调整,直至损失函数收敛后获得特征图谱提取子模型。
除上述提供的借助教师网络以及像素融合模块对学生网络进行训练,以此在损失函数收敛之后获得的特征图谱提取子模型的实现方式之外,还可将第一帧序列样本输入待训练学生网络进行像素特征提取,获得样本像素特征,根据样本像素特征和预设像素特征计算训练损失,根据训练损失对所述学生网络进行参数调整。
(2)将所述特征图谱输入相关性计算模块进行相关性计算,获得所述第一像素特征。
具体的,上述通过将图像帧序列输入特征图谱提取子模型进行特征图谱提取,获得每一帧图像的特征图谱后,再将每相邻两帧图像的特征图谱输入相关性计算模块进行相关性计算,获得包含相邻两帧图像相关性的第一像素特征。
具体实施时,为了使获得的像素特征更加符合目标对象的运动状态,基于图像帧序列中的相邻两帧图像进行相关性计算,本实施例提供的一种可选实施方式中,所述将所述特征图谱输入相关性计算模块进行相关性计算,获得所述第一像素特征,包括:
将所述特征图谱进行编码处理,获得特征向量;
根据所述特征向量计算特征矩阵,以及,将所述特征矩阵输入相关性计算模块的卷积网络进行相关性计算,获得所述第一像素特征。
具体的,将图像帧序列中每相邻两帧图像的特征图谱分别进行编码处理,获得对应的特征向量,根据对应的特征向量计算特征矩阵,再将特征矩阵输入相关性计算模块的卷积网络进行相关性计算,第一像素特征。
例如,将相邻两帧图像分别输入特征图谱提取子模型进行特征图谱提取,获得两张维度为50*50的特征图谱,再将特征图谱进行编码处理,获得两个2500维的像素特征向量,将两个2500维的像素特征向量相乘,获得一个2500*2500维的像素特征矩阵,将该矩阵输入卷积网络进行相关性计算,获得第一像素特征。
具体执行过程中,通过将目标对象的图像帧序列输入像素特征提取模型进行像素特征预测,获得第一像素特征,可选的,所述像素特征提取模型包括:所述特征图谱提取子模型以及相关性计算模块。
其中,像素特征预测模型可预先训练,比如在云服务器上进行像素特征预测模型的训练,具体在像素特征预测模型的训练过程中,为了提升像素特征预测模型的训练效率,同时也为了降低训练样本的收集难度、减少模型训练的工作量,本实施例提供的一种可选实施方式中,采用如下方式进行像素特征预测模型的训练:
将样本特征图谱输入待训练相关性计算模块进行相关性计算,获得样本第三像素特征;
根据所述样本第三像素特征和所述预设像素特征计算第三特征损失;
根据所述第三特征损失对所述待训练相关性计算模块进行参数调整。
可选的,样本特征图谱通过将第二帧序列样本输入所述特征图谱提取子模型进行特征图谱提取获得。
参见上述模型训练方式,重复上述训练过程对待训练像素特征预测模型进行训练,并在训练过程中根据第三特征损失对待训练像素特征预测模型进行调参,直至损失函数收敛,则在损失函数收敛之后获得所述像素特征预测模型。
具体的,在模型训练过程中,通过将第二帧序列样本输入上述训练完成的特征图谱提取子模型进行特征图谱提取,获得样本特征图谱,再将样本特征图谱输入待训练相关性计算模块进行相关性计算,获得样本第三像素特征,根据样本第三像素特征和预设像素特征计算第三特征损失,根据第三特征损失对待训练相关型计算模块进行参数调整。
例如,在像素特征预测模型的训练过程中,损失函数可以是:
Loss
其中,Loss
在训练过程中,基于上述模型结构以及训练损失,利用SGD(Stochastic GradientDescent,随机梯度下降)法对待训练像素融合模块以及待训练学生网络进行参数调整,直至损失函数收敛后获得像素特征预测模型。
步骤S104,将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征。
上述步骤中,获取到目标对象的图像帧序列的第一像素特征后,本步骤中,将图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征;可选的,所述关键特征,包括图像关键点。
具体执行过程中,通过将图像帧序列输入特征提取模型包含的关键特征提取器进行关键特征提取,获得关键特征,也即是图像关键点,以根据图像关键点预测获得预测关键点。
步骤S106,将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征。
上述获得第一像素特征以及关键特征的基础上,本步骤中,将第一像素特征、关键特征以及虚拟形象更新的延时时间输入特征提取模型包含的偏移特征预测模块进行偏移特征预测,获得偏移特征。
所述偏移特征,包括图像关键点的偏移量和/或偏移方向。例如,目标对象的单帧图像中的头的偏移量为在x方向上偏移a距离,在y方向上偏移b距离。
具体执行过程中,为了使虚拟形象更新的时效性更强,基于虚拟形象更新的延时时间预测偏移特征,本实施例提供的一种可选实施方式中,所述延时时间,采用如下方式获得:
对采集的对象样本进行虚拟形象更新的延时时间进行归一化处理,获得所述延时时间。
具体的,通过对采集的物理世界中对象样本各个部位的延时时间进行归一化处理,基于获得的归一化后的延时时间,进行偏移特征预测,获得偏移特征。
实际应用中,在对目标对象在虚拟世界的虚拟形象进行更新的过程中,目标对象各部位的延时时间可能不同,因此需要对不同部位的偏移特征进行修正,本实施例提供的一种可选实施方式中,所述偏移特征预测,包括:
根据所述关键特征和所述第一像素特征计算初始偏移特征;
基于所述延时时间对所述初始偏移特征进行修正,获得所述偏移特征。
具体的,首先根据目标对象的关键特征和像素特征计算初始偏移特征,再基于不同部位的延时时间对初始偏移特征进行修正,获得所述偏移特征。
步骤S108,将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征。
上述获得目标对象的关键特征和偏移特征之后,本步骤中,将关键特征和偏移特征输入特征融合模块进行特征融合处理,获得融合特征,以作为后续基于融合特征进行虚拟形象更新的依据;所述融合特征,包括预测关键点。
具体实施时,将上述步骤获得的关键特征以及偏移特征输入特征提取模型的特征融合模块进行特征融合处理,获得融合特征,也即是预测关键点,以基于预测关键点对目标对象在虚拟世界的虚拟形象进行更新。
需要说明的是,本实施例提供的一种可选实施方式中,所述关键特征提取器、所述偏移特征预测模块以及所述特征融合模块构成特征提取模型,可选的,所述特征提取模型的输入包括下述至少一项:所述图像帧序列、所述第一像素特征以及所述虚拟形象更新的延时时间;输出为所述融合特征。
具体执行过程中,特征提取模型可预先训练,比如在云服务器上进行特征提取模型的训练,具体在特征提取模型的训练过程中,为了提升特征提取模型的训练效率,同时也为了降低训练样本的收集难度、减少模型训练的工作量,本实施例提供的一种可选实施方式中,采用如下方式进行特征提取模型的训练:
将第三帧序列样本输入待训练关键特征提取器进行关键特征提取,获得样本关键特征;
将所述样本关键特征,样本第三像素特征,以及所述延时时间输入待训练偏移特征预测模块进行偏移特征预测,获得样本偏移特征;
将所述样本关键特征和所述样本偏移特征输入待训练特征融合模块进行特征融合处理,获得样本融合特征;
根据所述样本关键特征和预设关键特征计算第一回归损失,根据所述样本偏移特征和预设偏移特征计算偏移损失,以及根据所述样本融合特征和预设融合特征计算第二回归损失;
根据所述样本关键特征、所述预设关键特征、所述样本偏移量特征、所述预设偏移特征、所述样本融合特征以及所述预设融合特征计算训练损失;
根据所述训练损失对待训练关键特征提取器、待训练偏移特征预测模块和待训练特征融合模块进行参数调整。
参照上述模型训练方式,重复上述训练过程对特征提取模型进行训练,训练完成之后获得所述特征提取模型。进一步,为了提升模型训练效果,从样本关键特征、样本偏移量特征以及样本融合特征的维度引入损失计算,来对所述特征提取模型的训练过程进行约束,以此提升模型训练的准确率和效率。具体的,本实施例提供的一种可选实施方式中,所述根据所述样本关键特征、预设关键特征、所述样本偏移量特征、预设偏移特征、所述样本融合特征以及预设融合特征计算训练损失,包括:
根据所述样本关键特征和所述预设关键特征计算第一回归损失,以及,根据所述样本偏移特征和所述预设偏移特征计算偏移损失;
根据所述样本融合特征和所述预设融合特征计算第二回归损失;
根据所述第一回归损失、所述偏移损失以及所述第二回归损失计算所述训练损失。
例如,在特征提取模型的训练过程中,损失函数可以是:
Loss
其中,Loss
在训练过程中,基于上述模型结构以及训练损失,利用SGD(Stochastic GradientDescent,随机梯度下降)法对待训练像素融合模块以及待训练学生网络进行参数调整,直至损失函数收敛后获得像素特征预测模型。
步骤S110,基于所述融合特征对目标对象在虚拟世界的虚拟形象进行更新。
在具体执行过程中,在获得目标对象图像的融合特征之后,根据融合特征对目标对象在虚拟世界的虚拟形象进行更新。
综上所述,本实施例提供的虚拟形象处理方法,将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征,将图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征,在获得第一像素特征和关键特征的基础上,将虚拟形象更新的延时时间、第一像素特征以及关键特征输入偏移特征预测模块进行偏移特征预测,获得偏移特征,将偏移特征和关键特征输入特征融合模块进行特征融合处理,获得融合特征,基于融合特征对目标对象在虚拟世界的虚拟形象进行更新,使虚拟形象根据预测的关键点进行更新,有效缩短延迟时间,提升了虚拟形象更新的时效性,提升了目标对象的体验。
进一步,在像素特征预测的过程中,在将图像帧序列输入特征图谱提取子模型包含的学生网络进行像素特征提取,获得第二像素特征的基础上,基于第二像素特征对图像帧序列进行特征图谱提取,获得特征图谱,将特征图谱输入相关性计算模块进行相关性计算,预测得到第一像素特征,从双帧维度的像素特征出发,更好的预测融合特征,虚拟形象的更新更加准确。
下述以本实施例提供的一种虚拟形象处理方法在虚拟世界场景的应用为例,对本实施例提供的虚拟形象处理方法进行进一步说明,参见图2,应用于虚拟世界场景的虚拟形象处理方法,具体包括如下步骤。
步骤S202,将用户的图像帧序列输入特征图谱提取子模型进行特征图谱提取,获得特征图谱。
步骤S204,将当前特征图谱输入相关性计算模块进行相关性计算,获得第一像素特征。
步骤S206,将用户的图像帧序列输入关键特征提取器进行关键特征提取,获得图像关键点。
步骤S208,将第一像素特征、图像关键点以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征。
步骤S210,将图像关键点和偏移特征输入特征融合模块进行特征融合处理,获得预测关键点。
步骤S212,基于预测关键点对用户在虚拟世界的用户形象进行更新。
本说明书提供的一种虚拟形象处理装置实施例如下:
在上述的实施例中,提供了一种虚拟形象处理方法,与之相对应的,还提供了一种虚拟形象处理装置,下面结合附图进行说明。
参照图3,其示出了本实施例提供的一种虚拟形象处理装置示意图。
由于装置实施例对应于方法实施例,所以描述得比较简单,相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。
本实施例提供一种虚拟形象处理装置,包括:
像素特征预测模块302,被配置为将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征;
关键特征提取模块304,被配置为将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征;
偏移特征预测模块306,被配置为将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征;
特征融合模块308,被配置为将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征;
形象更新模块310,被配置为基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
本说明书提供的一种虚拟形象处理设备实施例如下:
对应上述描述的一种虚拟形象处理方法,基于相同的技术构思,本说明书一个或多个实施例还提供一种虚拟形象处理设备,该虚拟形象处理设备用于执行上述提供的虚拟形象处理方法,图4为本说明书一个或多个实施例提供的一种虚拟形象处理设备的结构示意图。
本实施例提供的一种虚拟形象处理设备,包括:
如图4所示,虚拟形象处理设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器401和存储器402,存储器402中可以存储有一个或一个以上存储应用程序或数据。其中,存储器402可以是短暂存储或持久存储。存储在存储器402的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括虚拟形象处理设备中的一系列计算机可执行指令。更进一步地,处理器401可以设置为与存储器402通信,在虚拟形象处理设备上执行存储器402中的一系列计算机可执行指令。虚拟形象处理设备还可以包括一个或一个以上电源403,一个或一个以上有线或无线网络接口404,一个或一个以上输入/输出接口405,一个或一个以上键盘406等。
在一个具体的实施例中,虚拟形象处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对虚拟形象处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征;
将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征;
将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征;
将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征;
基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
本说明书提供的一种存储介质实施例如下:
对应上述描述的一种虚拟形象处理方法,基于相同的技术构思,本说明书一个或多个实施例还提供一种存储介质。
本实施例提供的存储介质,用于存储计算机可执行指令,所述计算机可执行指令在被处理器执行时实现以下流程:
将目标对象的图像帧序列输入像素特征预测模型进行像素特征预测,获得第一像素特征;
将所述图像帧序列输入关键特征提取器进行关键特征提取,获得关键特征;
将所述第一像素特征、所述关键特征以及虚拟形象更新的延时时间输入偏移特征预测模块进行偏移特征预测,获得偏移特征;
将所述关键特征和所述偏移特征输入特征融合模块进行特征融合处理,获得融合特征;
基于所述融合特征对所述目标对象在虚拟世界的虚拟形象进行更新。
需要说明的是,本说明书中关于存储介质的实施例与本说明书中关于虚拟形象处理方法的实施例基于同一发明构思,因此该实施例的具体实施可以参见前述对应方法的实施,重复之处不再赘述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪30年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由目标对象对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书一个或多个实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书的一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本文件的实施例而已,并不用于限制本文件。对于本领域技术人员来说,本文件可以有各种更改和变化。凡在本文件的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本文件的权利要求范围之内。
- 虚拟乐器处理方法、装置、虚拟乐器设备及存储介质
- 一种虚拟现实数据处理方法、装置、系统及存储介质
- 虚拟资源数据处理方法、装置、计算机设备及存储介质
- 虚拟事件处理方法及装置、电子设备和存储介质
- 跨游戏的虚拟资产的处理方法、装置、处理器及服务器
- 基于真实形象改变虚拟形象的图像处理方法及相关产品
- 虚拟世界的虚拟形象处理方法及装置