掌桥专利:专业的专利平台
掌桥专利
首页

动捕数据的修复方法、装置、设备及存储介质

文献发布时间:2023-06-19 12:13:22


动捕数据的修复方法、装置、设备及存储介质

技术领域

本申请涉及人工智能技术领域,特别涉及一种动捕数据的修复方法、装置、设备及存储介质。

背景技术

动捕数据是指通过动作捕捉技术对人身体部位的各个标记点进行跟踪获取的数据。然后,由于人在运动过程中部分标记点会被躯干遮挡,因此原始动捕数据为带噪动捕数据,该原始动捕数据中的无效的位置数据可以看作噪声位置数据,通常情况下,在获取原始动捕数据之后,会对该原始动捕数据中的噪声数据进行修复,以此得到原始动捕数据对应的修复动捕数据。

在相关技术中,在获取原始动捕数据之后,基于原始动捕数据中包含的位置数据,分别绘制各个标记点的运动曲线,对于目标标记点,由于该目标标记点对应有噪声位置数据,因此,该目标标记点对应的运动曲线为非平滑曲线,在这种情况下,基于位置数据的时间戳,获取噪声位置数据对应的前一相邻位置数据,并将该前一相邻位置数据作为噪声位置数据对应的修复位置数据,采用该修复位置数据替换噪声位置数据,使得目标标记点的运动曲线趋于平滑。

然而,在上述相关技术中,由于噪声位置数据是以前一相邻位置数据进行修复的,若存在连续的噪声位置数据,以任一相邻的第一噪声位置数据和第二噪声位置数据为例,基于第一噪声位置数据对应的前一相邻位置数据对该第一噪声位置数据进行修复,进而基于第一噪声位置数据对应的修复位置数据对第二噪声位置数据进行修复,由于上述修复位置数据并不是准确的位置数据,对第二噪声位置数据的修复效果差。

发明内容

本申请实施例提供了一种动捕数据的修复方法、装置、设备及存储介质,能够提高针对连续的无效的位置数据的修复效果,进而提高针对原始动捕数据的整体修复效果。所述技术方案如下。

根据本申请实施例的一个方面,提供了一种动捕数据的修复方法,所述方法包括:

获取待修复的原始动捕数据,所述原始动捕数据包括多个标记点在时域上的位置数据序列,所述原始动捕数据中包括有效的位置数据和无效的位置数据;

分别获取所述原始动捕数据的时间特征和空间特征,所述时间特征用于反映同一标记点在时域上的位置变化特征,所述空间特征用于反映所述多个标记点在同一时间戳的位置关系特征;

基于所述时间特征和所述空间特征,生成所述原始动捕数据对应的初步修复动捕数据;

基于所述原始动捕数据中所述有效的位置数据,对所述初步修复动捕数据进行矫正处理,得到所述原始动捕数据对应的最终修复动捕数据。

根据本申请实施例的一个方面,提供了一种动捕数据修复模型的训练方法,所述方法包括:

获取训练样本,所述训练样本包括样本动捕数据,以及对所述样本动捕数据中的部分位置数据进行掩盖得到的带噪动捕数据;

通过所述动捕数据修复模型分别获取所述带噪动捕数据的时间特征和空间特征,所述时间特征用于反映同一标记点在时域上的位置变化特征,所述空间特征用于反映所述多个标记点在同一时间戳的位置关系特征;

基于所述时间特征和所述空间特征,生成所述带噪动捕数据对应的初步修复动捕数据;

根据所述初步修复动捕数据和所述样本动捕数据,计算所述动捕数据修复模型的训练损失,并基于所述训练损失对所述动捕数据修复模型的参数进行调整。

根据本申请实施例的一个方面,提供了一种动捕数据的修复装置,所述装置包括:

原始数据获取模块,用于获取待修复的原始动捕数据,所述原始动捕数据包括多个标记点在时域上的位置数据序列,所述原始动捕数据中包括有效的位置数据和无效的位置数据;

时空特征获取模块,用于分别获取所述原始动捕数据的时间特征和空间特征,所述时间特征用于反映同一标记点在时域上的位置变化特征,所述空间特征用于反映所述多个标记点在同一时间戳的位置关系特征;

初步数据生成模块,用于基于所述时间特征和所述空间特征,生成所述原始动捕数据对应的初步修复动捕数据;

最终数据获取模块,用于基于所述原始动捕数据中所述有效的位置数据,对所述初步修复动捕数据进行矫正处理,得到所述原始动捕数据对应的最终修复动捕数据。

根据本申请实施例的一个方面,提供了一种动捕数据修复模型的训练装置,所述装置包括:

训练样本获取模块,用于获取训练样本,所述训练样本包括样本动捕数据,以及对所述样本动捕数据中的部分位置数据进行掩盖得到的带噪动捕数据;

数据特征获取模块,用于通过所述动捕数据修复模型分别获取所述带噪动捕数据的时间特征和空间特征,所述时间特征用于反映同一标记点在时域上的位置变化特征,所述空间特征用于反映所述多个标记点在同一时间戳的位置关系特征;

修复数据获取模块,用于基于所述时间特征和所述空间特征,生成所述带噪动捕数据对应的初步修复动捕数据;

修复模型训练模块,用于根据所述初步修复动捕数据和所述样本动捕数据,计算所述动捕数据修复模型的训练损失,并基于所述训练损失对所述动捕数据修复模型的参数进行调整。

根据本申请实施例的一个方面,本申请实施例提供了一种计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现上述动捕数据的修复方法,或实现上述动捕数据修复模型的训练方法。

根据本申请实施例的一个方面,本申请实施例提供了一种计算机可读存储介质,所述可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现上述动捕数据的修复方法,或实现上述动捕数据修复模型的训练方法。

根据本申请实施例的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述动捕数据的修复方法,或实现上述动捕数据修复模型的训练方法。

本申请实施例提供的技术方案可以带来如下有益效果:

通过原始动捕数据的时间特征和空间特征对原始动捕数据进行修复,提供了一种针对原始动捕动捕数据的修复方式,而且,基于原始动捕数据的时间特征和空间特征统一对原始动捕数据中的无效的位置数据进行修复,减少在位置数据修复时,对相邻位置数据的依赖性,提高针对连续的无效的位置数据的修复效果,进而提高针对原始动捕数据的整体修复效果,增加标记点的运动轨迹获取的准确性。

附图说明

为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1示例性示出了一种针对目标对象的标记点的示意图;

图2示例性示出了一种原始动捕数据的修复方式的示意图;

图3是本申请一个实施例提供的动捕数据的修复方法的流程图;

图4示例性示出了一种标准动作的示意图;

图5示例性示出了一种原始动捕数据对应的数据矩阵的示意图;

图6示例性示出了一种初步修复动捕数据的矫正方式的示意图;

图7示例性示出了一种动捕数据修复模型的运动方式的示意图;

图8示例性示出了一种Transformer结构的示意图;

图9是本申请一个实施例提供的动捕数据修复模型的训练方法的流程图;

图10示例性示出了一种动捕数据的修复结果的示意图;

图11是本申请一个实施例提供的动捕数据的修复装置的框图;

图12是本申请另一个实施例提供的动捕数据的修复装置的框图;

图13是本申请一个实施例提供的动捕数据修复模型的训练装置的框图;

图14是本申请一个实施例提供的计算机设备的结构框图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。

本申请实施例提供的方案涉及人工智能的机器学习等技术,其中,机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、示教学习等技术。

在本申请实施例中,基于上述机器学习技术,采用训练样本对动捕数据修复模型进行训练,该动捕数据修复模型用于对具有噪声位置数据的原始动捕数据进行数据修复。其中,训练样本中包括样本动捕数据和带噪动捕数据,该带噪动捕数据是在样本动捕数据的基础上增加噪声获取的。示例性地,对样本动捕数据中的部分位置数据进行掩盖获取带噪动捕数据,其中,数据掩盖方式包括但不限于以下至少一项:去除样本动捕数据中原有的部分位置数据造成位置数据缺失、采用掩盖位置数据代替样本动捕数据中原有的部分位置数据造成位置数据对应的运动曲线不平滑、在样本动捕数据中原有的部分位置数据上增加噪声位置数据等。以三维坐标为例,上述掩盖位置数据可以是(0.5,0.5,0.5)、(1,1,1)、(0,0,0)等,本申请对此不作限定。需要说明的一点是,一个样本动捕数据可以对应有一个或多个掩盖位置数据。可选地,在样本动捕数据对应多个不同的掩盖位置数据的情况下,在对样本动捕数据中的部分位置数据进行掩盖时,针对不同的位置数据,可以采用不同的掩盖位置数据进行掩盖。可选地,在本申请实施例中,在上述动捕数据修复模型训练完成后,采用该动捕数据修复模型对原始动捕数据进行修复。其中,该原始动捕数据可以是通过动作捕捉技术获取的、具有无效的位置数据的动捕数据,该无效的位置数据可以称为噪声位置数据。

示例性地,如图1所示,在采用动作捕捉技术之前,在目标对象的各个部位的标记点贴上标识物,之后,通过摄像机捕捉这些标识物的位置,并将摄像机捕捉到的二维标记点数据进行数据重建,生成三维标记点数据11,进一步地,依据标记点所属的位置区域,确定各个三维标记点数据11的标签,并依据标签对三维标记点数据进行连接。例如,目标对象为人,以人的肢体部位位置区域进行划分,分为头部、手部、手臂、肩膀等,以头部为例,将属于头部位置区域的标记点按照次序标记为h1、h2、h3等,之后,按照标记次序,将h1连接h2、h2连接h3,依次类推,将头部位置区域的标记点进行连接。当然,在一些实施例中,上述目标对象可以根据实际情况进行调整,如目标对象还可以为猫、狗、树、桌子等,不同的目标对象可以对应有不同的位置区域划分方式。

然而,在通过动作捕捉技术获取目标对象的原始动捕数据的过程中,由于目标对象的不同姿态会对标记点形成遮挡,使得三维标记点数据11不完整,如图2中,在目标对象处于侧卧姿态时,部分标记点被遮挡,导致三维标记点数据11无法显示,在这种情况下,对于被遮挡的标记点21,该被遮挡标记点21对应的原始动捕数据中存在有效的位置数据和无效的位置数据,被遮挡的标记点21通过动作捕捉技术形成的运动曲线23存在位置数据丢失的情况,这时,由动捕数据修复模型24对被遮挡标记点21对应的原始动捕数据进行修复,生成被遮挡标记点21对应修复动捕数据,该修复动捕数据对应的运动曲线25消除了数据丢失的情况。

为了便于说明,在下述方法实施例中,仅以各步骤的执行主体为计算机设备为例进行介绍说明,计算机设备可以是任何具备计算和存储能力的电子设备。例如,该计算机设备可以是服务器,该服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content Delivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器,还可以是区块链的某个节点。示例性地,在模型训练的过程中,通过联邦学习,由不同的服务器采用不同的训练样本对上述动捕数据修复模型进行训练,之后,对不同的服务器训练得到的动捕数据修复模型进行整合,得到最终的动捕数据修复模型,其中,上述不同的服务器可组成一区块链,而服务器为区块链上的节点。再例如,该计算机设备也可以是终端,该终端可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。需要说明的一点是,在本申请实施例中,各步骤的执行主体可以是同一计算机设备,也可以由多个不同的计算机设备交互配合执行,此处不作限定。还需要说明的一点是,在本申请实施例中,下述动捕数据的修复方法的执行主体与下述动捕数据修复模型的训练方法的执行主体可以是相同的计算机设备,也可以是不同的计算机设备,本申请实施例对此不作限定。

下面,将结合几个实施例对本申请技术方案进行详细的介绍说明。

请参考图3,其示出了本申请一个实施例提供的动捕数据的修复方法的流程图。该方法可以包括以下几个步骤(301~304)。

步骤301,获取待修复的原始动捕数据。

原始动捕数据是指用于描述目标对象的运动过程的数据。可选地,该原始动捕数据包括目标对象在运动过程中的位置数据。示例性地,对目标对象的各个部位贴上标记点,通过动作捕捉技术对各个标记点进行跟踪,并以图像帧为单位,记录各个标记点在每帧图像帧中的位置数据,针对某个标记点,基于该标记点在连续图像帧中的位置数据变化情况,即可确定该标记点的运动轨迹(也可称为运动曲线)。需要说明的一点是,从同一图像帧中获取的位置数据具有相同的时间戳,可选地,该时间戳可以是根据位置数据的捕捉时刻生成的,也可以是根据位置数据所对应的图像帧的帧号生成的。其中,上述目标对象可以是任意可运动物体。例如,自身自动运动的人、动物、智能家具等,依靠外力进行运动的植物、普通家具等,本申请实施例对此不作限定。在本申请实施例中,上述原始动捕数据包括多个标记点在时域上的位置数据序列。

上述标记点的数量可以是任意数值,可选地,对于不同类型的目标对象,标记点的数量可以相同,也可以不同,本申请实施例对此不作限定。示例性地,上述标记点的数量可以为2、10、100、1000、10000等。可选地,基于目标对象的属性参数确定标记点的数量。其中,该属性参数包括但不限于以下至少一项:目标对象的体积、目标对象的表面积、目标对象的形状等。示例性地,标记点的数量与目标对象的体积呈正比。对于体积较大的目标对象,设置数量较多的标记点,保证获取的原始动捕数据所包含的数据量能够表示该目标对象的运动姿态;对于体积较小的目标对象,设置数量较少的标记点,减少原始动捕数据获取设备的计算量。

上述标记点的放置位置可以是目标对象的任意位置,可选地,对于不同类型的目标对象,标记点的放置位置可以相同,也可以不同,本申请实施例对此不作限定。可选地,基于目标对象的属性参数确定标记点的放置位置。其中,该属性参数包括但不限于以下至少一项:目标对象的形状、目标对象的体积、目标对象的表面积等。示例性地,标记点的放置位置与目标对象的形状有关。对于形状规则的目标对象(如正方体、球体等),将标记点放置在目标对象的非轮廓区域即可;对于形状不规则的目标物体,将标记点放置在目标对象的轮廓区域。

需要说明的一点是,在示例性实施例中,可以基于实际情况对标记点的数量和放置位置进行灵活调整。例如,在目标对象的重要区域放置数量较多的标记点,在目标对象的非重要区域放置数量较少的标记点。其中,上述重要区域可以包括但不限于以下至少一项:运动过程中容易被遮挡的区域、处于中心位置的区域、边缘轮廓区域等。

然而,由于目标对象在运动过程中会造成部分标记点被遮挡,原始动捕数据中包括有效的位置数据和无效的位置数据。其中,有效的位置数据是指在标记点未被遮挡的情况下获取的位置数据,无效的位置数据是指在标记点被遮挡的情况下获取的位置数据。

可选地,针对包含有上述无效的位置数据的原始动捕数据,计算机设备可以将该原始动捕数据确定为待修复的原始动捕数据,并对该原始动捕数据进行修复。在本申请实施例中,计算机设备获取待修复的原始动捕数据,并对该原始动捕数据进行修复。

步骤302,分别获取原始动捕数据的时间特征和空间特征。

在本申请实施例中,计算机设备在获取上述原始动捕数据之后,分别获取该原始动捕数据的时间特征和空间特征。其中,时间特征用于反映同一标记点在时域上的位置变化特征,空间特征用于反映多个标记点在同一时间戳的位置关系特征。

可选地,计算机设备在获取原始动捕数据之后,分别对该原始动捕数据进行时间特征提取处理和空间特征提取处理,进而分别获取时间特征和空间特征。示例性地,计算机设备以标记点为基准,通过同一标记点在不同时间戳上对应的位置数据来获取上述时间特征;以时间戳为基准,通过不同标记点在同一时间戳上对应的位置数据来获取上述空间特征。

可选地,在本申请实施例中,计算机设备在获取上述原始动捕数据之后,对该原始动捕数据进行预处理,其中,预处理后的动捕数据用于提取上述时间特征和上述空间特征。可选地,上述预处理包括但不限于以下至少一项:去中心处理、去转向处理、去高度处理等。

去中心处理用于消除目标对象所处的位置对位置数据的影响。其中,该去中心处理是以时间戳为单位进行的。可选地,针对多个标记点在目标时间戳的目标位置数据集合,基于目标位置数据集合包含的位置数据,获取中心位置数据。其中,中心位置数据是指多个标记点对应的中心位置的位置数据。在一种可能的实施方式中,将目标位置数据集合中的各个位置数据进行求平均处理,进而获取上述中心位置的位置数据。在另一种可能的实施方式中,将目标位置数据集合中的属于中心位置区域(如人的腰部区域)的至少一个标记点的位置数据进行求平均处理,进而获取上述中心位置的位置数据。之后,在获取上述中心位置的位置数据之后,将目标位置数据集合中包含的各个位置数据,分别减去该中心位置数据,得到目标时间戳对应的去中心位置数据。类似地,以时间戳为单位,对各个时间戳对应的位置数据集合执行上述操作,实现针对原始动捕数据的去中心处理。其中,上述目标时间戳可以是任意时间戳,本申请实施例对此不作限定。

去转向处理用于消除目标对象的转向动作对位置数据的影响。其中,该去转向处理是以时间戳为单位进行的。可选地,将原始动捕数据的来源对象上的目标点作为原点建立统一坐标系,如root坐标系。其中,上述来源对象即为上文中的目标对象,目标点可以是来源对象上的任意一点。需要说明的一点是,在root坐标系中,上述目标点为root骨架关节点或中心点,以人体为例,根据人体的拓扑结构,上下各一半的身体以盆骨为中心点运动,即上述中心点为盆骨关节点。在建立上述统一坐标系之后,针对多个标记点在目标时间戳的目标位置数据集合,基于该统一坐标系与世界坐标系之间的映射关系,以及目标位置数据集合中包括的各个位置数据,确定目标时间戳下的多个标记点在统一坐标系中的位置数据集合。类似地,以时间戳为单位,对各个时间戳对应的位置数据集合执行上述操作,实现针对原始动捕数据的去转向处理。其中,上述世界坐标系是指原始动捕数据中的位置数据所处的坐标系,上述目标时间戳可以是任意时间戳,本申请实施例对此不作限定。

去高度处理用于消除目标对象的高度对位置数据的影响。可选地,获取上述原始动捕数据的来源对象的高度数据,并将该原始动捕数据中的各个位置数据除以该高度数据,得到原始动捕数据对应的去高度动捕数据。在一种可能的实施方式中,上述高度数据是通过已有的记录数据获取的。可选地,在获取原始动捕数据时,对该原始动捕数据的来源对象的高度进行记录,进而在获取高度数据时,直接从已有记录中获取该高度数据。在另一种可能的实施方式中,上述高度数据是通过高度差计算获取的。可选地,在获取原始动捕数据时,目标对象需要做一个标准动作,进而在获取高度数据时,以该标准动作为急转,计算头顶与足底的高度差,并将该高度差作为上述高度数据。其中,上述标准动作是指能够直观完整反映目标对象的高度的动作,示例性地,若目标对象为人,则该标准动作为图4所示的动作,双腿41直立、两臂42平举。

步骤303,基于时间特征和空间特征,生成原始动捕数据对应的初步修复动捕数据。

在本申请实施例中,计算机设备在获取上述时间特征和空间特征之后,基于该时间特征和空间特征,生成原始动捕数据对应的初步修复动捕数据。可选地,计算机设备将时间特征与空间特征进行融合,确定原始动捕数据的时空特征,并基于具有时空特征的动捕数据,对原始动捕数据中的无效的位置数据进行修复,生成初步修复动捕数据。

步骤304,基于原始动捕数据中有效的位置数据,对初步修复动捕数据进行矫正处理,得到原始动捕数据对应的最终修复动捕数据。

可选地,在本申请实施例中,在针对无效的位置数据的修复过程中,可能对有效的位置数据产生影响,使得有效的位置数据在初步修复动捕数据中产生变化,因此,计算机设备在获取上述初步修复动捕数据之后,基于原始动捕数据中有效的位置数据,对初步修复动捕数据进行矫正处理,得到原始动捕数据对应的最终修复动捕数据。其中,该最终修复动捕数据中包括原始动捕数据中的有效的位置数据,以及经过矫正后的初步修复动捕数据中已修复的无效的位置数据对应的矫正数据。

综上所述,本申请实施例提供的技术方案中,通过原始动捕数据的时间特征和空间特征对原始动捕数据进行修复,提供了一种针对原始动捕动捕数据的修复方式,而且,基于原始动捕数据的时间特征和空间特征统一对原始动捕数据中的无效的位置数据进行修复,减少在位置数据修复时,对相邻位置数据的依赖性,提高针对连续的无效的位置数据的修复效果,进而提高针对原始动捕数据的整体修复效果,增加标记点的运动轨迹获取的准确性。

而且,相对于相关技术中的人工逐帧的原始动捕数据修复方式,本申请提供了一种计算机设备自动修复方式,减少人工开销,机器自动修复提高了原始动捕数据的修复效率。

下面,对时间特征和空间特征的获取方式进行介绍。

在示例性实施例中,上述步骤302包括以下几个步骤。

3021、构建原始动捕数据对应的数据矩阵。

在本申请实施例中,计算机设备在获取上述待修复的原始修复数据之后,构建该原始动捕数据对应的数据矩阵。其中,该数据矩阵中的每一行数据表示一个标记点在时域上的位置数据序列,该数据矩阵中的每一列数据表示多个标记点在同一时间戳的位置数据集合。示例性地,如图5所示,在原始动捕数据对应的数据矩阵中,每一行代表一个标记点在不同图像帧中的位置数据,每一列代表不同标记点在同一图像帧中的位置数据。

可选地,计算机设备在构建上述数据矩阵时,获取原始动捕数据中的每个位置数据的嵌入向量,并将每个位置数据的嵌入向量和每个位置数据的位置向量相加,得到每个位置数据的向量表示,进而基于各个位置数据的向量表示,构建原始动捕数据对应的数据矩阵。示例性地,图5中数据矩阵中的一个元素即为一个位置数据的向量表示。其中,上述位置数据的位置向量是基于位置数据对应的时间戳确定的,具有相同时间戳的位置数据对应相同的位置向量,具有不同时间戳的位置数据对应不同的位置向量;也就是说,来自于同一图像帧的位置数据具有相同的位置向量;来自于不同图像帧的位置数据具有不同的位置向量。

示例性地,上述位置向量的公式为:

其中,pos表示位置数据对应的嵌入位置,i表示位置数据维度,

3022、从数据矩阵的各行数据中分别提取时间特征向量,得到原始动捕数据的时间特征。

在本申请实施例中,计算机设备在获取上述数据矩阵之后,从该数据矩阵的各行数据中分别提取时间特征向量,得到原始动捕数据的时间特征。

可选地,计算机设备在获取时间特征时,针对数据矩阵的目标行数据,采用多头注意力机制,对目标行数据中的各个位置数据进行时间特征提取,得到该目标行数据对应的时间特征向量。其中,该目标行是指数据矩阵中的任意一行;多头注意力机制用于从多个维度对位置数据进行时间特征提取处理。类似地,按照上述方式,计算机设备获取各行数据分别对应的时间特征向量,并将数据矩阵的各行数据分别对应的时间特征向量进行拼接处理,生成用于表示原始动捕数据的时间特征的时间特征矩阵。

示例性地,假设原始动捕数据中包括来自T帧图像帧的N个标记点的位置数据,则该原始动捕数据对应的数据矩阵为T(行)*N(列)矩阵,若每行数据对应的时间特征向量的维度为D,则时间特征矩阵为D(行)*N(列)矩阵。其中,上述T、N、D均为正整数。

3023、从数据矩阵的各列数据中分别提取空间特征向量,得到原始动捕数据的空间特征。

在本申请实施例中,计算机设备在获取上述数据矩阵之后,从该数据矩阵的各列数据中分别提取空间特征向量,得到原始动捕数据的空间特征。

可选地,计算机设备在获取空间特征时,针对数据矩阵的目标列数据,采用多头注意力机制,对目标列数据中的各个位置数据进行空间特征提取,得到该目标列数据对应的空间特征向量。其中,该目标列是指数据矩阵中的任意一列。类似地,按照上述方式,计算机设备获取各列数据分别对应的空间特征向量,并将数据矩阵的各列数据分别对应的空间特征向量进行拼接处理,生成用于表示原始动捕数据的空间特征的空间特征矩阵。

示例性地,假设原始动捕数据中包括来自T帧图像帧的N个标记点的位置数据,则该原始动捕数据对应的数据矩阵为T(行)*N(列)矩阵,若每列数据对应的空间特征向量的维度为L,则空间特征矩阵为T(行)*L(列)矩阵。其中,上述T、N、L均为正整数。

下面,对上述初步修复动捕数据的获取方式进行介绍。

在示例性实施例中,上述步骤303包括以下几个步骤。

3031、基于原始动捕数据对时间特征进行叠加归一处理,得到第一动捕数据。

在本申请实施例中,计算机设备在获取上述时间特征之后,基于原始动捕数据对应的时间特征进行叠加归一处理,得到第一动捕数据。其中,该第一动捕数据是指具有时间特征的动捕数据。

可选地,计算机设备在获取上述第一动捕数据时,对上述时间特征和上述数据矩阵进行叠加处理,生成具有时间特征的数据矩阵,进而对该具有时间特征的数据矩阵进行归一化,生成上述第一动捕数据。示例性地,计算机设备通过Layer Normalization(层归一化)来对具有时间特征的数据矩阵进行归一化。

3032、基于原始动捕数据对空间特征进行叠加归一处理,得到第二动捕数据。

在本申请实施例中,计算机设备在获取上述空间特征之后,基于原始动捕数据对应的空间特征进行叠加归一处理,得到第二动捕数据。其中,该第二动捕数据是指具有空间特征的动捕数据。

可选地,计算机设备在获取上述第二动捕数据时,对上述空间特征和上述数据矩阵进行叠加处理,生成具有空间特征的数据矩阵,进而对该具有空间特征的数据矩阵进行归一化,生成上述第二捕数据。示例性地,计算机设备通过Layer Normalization来对具有空间特征的数据矩阵进行归一化。

需要说明的一点是,在本申请实施例中,具有时间特征的数据矩阵所对应的LayerNormalization,与具有空间特征的数据矩阵所对应的Layer Normalization不同。

3033、对第一动捕数据和第二动捕数据进行时空特征融合处理,得到第三动捕数据。

在本申请实施例中,计算机设备在获取上述第一动捕数据和上述第二动捕数据之后,对第一动捕数据和第二动捕数据进行时空特征融合处理,得到第三动捕数据。其中,该第三动捕数据中包括针对上述无效的位置数据初始修复后的位置数据。

可选地,计算机设备获取上述第三动捕数据时,将第一动捕数据所包含的时间特征与第二动捕数据所包含的空间特征进行融合,得到具有时空特征的动捕数据,进而基于该具有时空特征的动捕数据,对原始动捕数据中的无效的位置数据进行修复,进而得到上述第三动捕数据。

3034、对第三动捕数据和原始动捕数据进行融合处理,得到原始动捕数据对应的初步修复动捕数据。

在本申请实施例中,计算机设备在获取上述第三动捕数据之后,对该第三动捕数据和上述原始动捕数据进行融合处理,得到原始动捕数据对应的初步修复动捕数据。其中,该初步修复动捕数据中包括在上述初始修复后的位置数据的基础上再次修复后的位置数据。

可选地,计算机设备在获取上述初始修复动捕数据时,依据多个标记点在原始动捕数据的来源对象上所属的位置区域,对原始动捕数据进行分簇处理,得到多个分簇数据集合。其中,一个分簇数据集合中包括属于同一位置区域中的至少一个标记点的位置数据序列。可选地,针对不同的目标对象,位置区域的划分方式不同。

在一种可能的实施方式中,基于目标对象的部位进行位置区域的划分。示例性地,若目标对象为人,则位置区域可以包括头部位置区域、手部位置区域、手臂位置区域等。

在另一种可能的实施方式中,基于各个标记点之间的距离进行位置区域的划分。示例性地,随机获取多个标记点中的任一标记点作为第一标记点,以该第一标记点为基准,将与该第一标记点之间的距离小于目标值的标记点,以及该第一标记点确定为第一簇标记点;之后,从多个标记点中随机选取另一不属于任何簇的标记点作为第二标记点,以该第二标记点为基准,将与该第二标记点之间的距离小于目标值且不属于任何簇的标记点,以及该第二标记点作为第二簇标记点;以此类推,直至不存在不属于任何簇的标记点的情况下,确定位置区域划分完成。

可选地,计算机设备在获取上述多个分簇数据集合之后,若多个标记点中的目标标记点的位置数据序列中存在无效的位置数据,则基于该目标标记点所属的目标位置区域,从上述多个分簇数据集合中确定目标位置区域对应的目标分簇数据集合;进而基于该目标分簇数据集合对应的其它标记点的位置数据序列,对该目标标记点的位置数据序列进行推测处理,得到目标标记点的推测位置数据序列。其中,上述其它标记点是指目标分簇数据集合对应的多个标记点中除目标标记点之外的标记点。

在一种可能的实施方式中,上述推测位置数据序列中包括目标标记点在各个时间戳上的推测位置数据。可选地,计算机设备在获取上述目标分簇数据集合之后,依据上述其它标记点与上述目标标记点之间的相对位置关系,基于该其它标记点在各个时间戳上的位置数据,推测出目标标记点在各个时间戳上的位置数据,生成上述推测位置数据序列。

在另一种可能的实施方式中,上述推测位置数据序列中包括目标标记点在无效的位置数据对应的无效时间戳上的推测位置数据。可选地,计算机设备在获取上述目标分簇数据集合之后,依据上述其它标记点与上述目标标记点之间的相对位置关系,结合目标标记点的无效的位置数据对应的无效时间戳,基于该其它标记点在无效时间戳上的位置数据,推测出目标标记点在无效时间戳上的位置数据,生成上述推测位置数据序列。

需要说明的一点是,由于目标对象在运动过程中各个标记点之间的相对位置关系可能发生变化,因此,计算机设备在获取上述推测位置数据序列时,需要依据各个标记点对应的目标对象的所处姿态,对上述相对位置关系进行灵活调整。示例性地,针对手部位置区域的手指标记点,在通过手部位置区域的手掌标记点获取手指标记点的推测位置数据序列时,需要考虑手指舒展状态和手部握拳状态对手指标记点和手掌标记点之间的相对位置关系的影响。

可选地,计算机设备在获取上述推测位置序列之后,将第三动捕数据中的目标标记点的位置数据序列,与推测位置数据序列进行融合处理,得到目标标记点的初步修复位置序列。其中,上述初步修复动捕数据中包括初步修复位置序列。可选地,若上述推测位置数据序列中包括目标标记点在各个时间戳上的推测位置数据,则计算机设备可以仅仅采用上述无效时间戳对应的推测位置数据进行数据融合,也可以采用各个时间戳对应的推测位置数据进行数据融合,本申请实施例对此不作限定。

下面,对最终修复动捕数据的获取方式进行介绍。

在示例性实施例中,上述步骤304包括以下几个步骤。

3041、对于多个标记点中的目标标记点,若目标标记点在第一时间戳和第二时间戳之间存在无效的位置数据,则根据原始动捕数据和初步修复动捕数据中目标标记点在第一时间戳的位置数据,计算第一偏移量;以及,根据原始动捕数据和初步修复动捕数据中目标标记点在第二时间戳的位置数据,计算第二偏移量。

可选地,计算机设备将原始动捕数据和初步修复动捕数据中目标标记点在第一时间戳的位置数据之间的差值,作为上述第一偏移量;将原始动捕数据和初步修复动捕数据中目标标记点在第二时间戳的位置数据之间的差值,作为上述第二偏移量。

3042、根据第一偏移量和第二偏移量,确定目标标记点在从第一时间戳到第二时间戳的各个时间戳上的偏移量。

可选地,在本申请实施例中,对于在第一时间戳和第二时间戳之间的第三时间戳,按照如下公式计算目标标记点在第三时间戳上的偏移量

其中,n代表第三时间戳对应的帧号,n

3043、基于目标标记点在从第一时间戳到第二时间戳的各个时间戳上的偏移量,对初步修复动捕数据中目标标记点在从第一时间戳到第二时间戳的各个时间戳的位置数据进行平移校正处理,得到目标标记点在从第一时间戳到第二时间戳的各个时间戳的校正后位置数据。

3044、基于目标标记点在从第一时间戳到第二时间戳的各个时间戳的校正后位置数据,和原始动捕数据中目标标记点的有效的位置数据,确定目标标记点的最终动捕数据。

示例性地,如图6所示,以目标标记点为例,原始动捕数据中包括该目标标记点对应的有效的位置数据和无效的位置数据,基于该目标标记点的原始位置数据序列获取的运动曲线为曲线61,之后,对原始动捕数据进行修复,得到初步修复动捕数据,该初步修复动捕数据中包括目标标记点对应的初步修复位置数据序列,基于该目标标记点的初步修复位置数据序列获取的运动曲线为曲线62,进一步地,基于曲线61所对应的原始位置数据序列,对曲线62所对应的初步修复位置数据序列进行矫正,得到目标标记点的最终修复位置数据序列,该最终修复位置序列对应的运动曲线为曲线63。其中,上述曲线63是依据原始位置数据中的有效的位置数据,以及无效的位置数据对应的初步修复位置数据生成的。

可选地,在本申请中,由动捕数据修复模型对原始动捕数据进行修复。示例性地,如图7所示,计算机设备获取待修复的原始动捕数据,并对原始动捕数据进行分簇处理,得到多个分簇数据集合。之后,构建原始动捕数据对应的数据矩阵,获取原始动捕数据中的每个位置数据的嵌入向量,并将每个位置数据的嵌入向量和每个位置数据的位置向量相加,得到每个位置数据的向量表示,进而基于各个位置数据的向量表示,构建原始动捕数据对应的数据矩阵。之后,将该数据矩阵输入至动捕数据修复模型,在动捕数据修复模型中,由时间特征提取版块对数据矩阵进行时间特征提取,获取原始动捕数据对应的时间特征,由空间特征提取版块对数据矩阵进行空间特征提取,获取原始动捕数据对应的空间特征。示例性地,上述时间特征提取版块与上述空间特征提取版块与Transformer结构相同。之后,在动捕数据修复模型中,对上述时间特征和上述数据矩阵进行叠加(Add)处理,生成具有时间特征的数据矩阵,进而对该具有时间特征的数据矩阵进行归一化(Norm),生成第一动捕数据,对上述空间特征和上述数据矩阵进行叠加(Add)处理,生成具有空间特征的数据矩阵,进而对该具有空间特征的数据矩阵进行归一化(Norm),生成第二动捕数据,进而,对第一动捕数据和第二动捕数据进行时空特征融合处理,得到第三动捕数据。之后,在动捕数据修复模型中,基于第三动捕数据进行数据修复,在获取初始修复结果后,结合分簇动捕数据集合,对修复结果进行再次修复,生成并输出初始修复动捕数据。

示例性地,Transformer结构如图8所示,Transformer模型中包括编码器81和解码器82。以图7中的时间特征提取版块为例,Transformer模型中的编码器81包括多头注意力机制(multi-head attention)、Add&Norm、前馈神经网络(Feed Forward)。其中,multi-head attention由多个时间注意力机制组成。在编码器81中,多个时间注意力机制对原始动捕数据对应的数据矩阵进行处理,生成多个中间时间特征数据,进而将多个中间时间特征数据拼接到一起,再经过全连接网络对数据维度进行缩放,然后输入到接下来的FeedForward层。示例性地,对于某个位置数据的嵌入向量,在编码器81中的处理流程为:将嵌入向量分别经过三个层,即相当于分别乘以三个矩阵,记为W

请参考图9,其示出了本申请一个实施例提供的动捕数据修复模型的训练方法的流程图。该方法可以包括以下几个步骤(901~904)。

步骤901,获取训练样本。

训练样本用于对动捕数据修复模型进行训练。在本申请实施例中,计算机设备对动捕数据修复模型进行训练之前,获取训练样本。其中,该训练样本包括样本动捕数据,以及对样本动捕数据中的部分位置数据进行掩盖得到的带噪动捕数据。示例性地,若样本动捕数据中的位置数据是为三维坐标数据,则计算机设备可以采用(0.5,0.5,0.5)来掩盖样本动捕数据中的位置数据。

可选地,计算机设备在生成上述带噪动捕数据时,可以随机选取部分位置数据进行掩盖。其中,该部分位置数据的数量可以是随机确定的,也可以是设置的固定值,本申请实施例对此不作限定。需要说明的一点是,为了保证动捕数据修复模型在实际运用中的准确性,可以依据实际情况对上述部分位置数据的随机选取方式进行调整。例如,若目标对象上的某个标记点属于在运动过程中容易被遮挡的标记点,则针对该目标对象,在随机选取上述部位位置数据时,增加该标记点对应的位置数据的选取概率。

需要说明的一点是,在本申请实施例中,上述部分位置数据可以是在时序上连续的位置数据,也可以在时序上不连续的位置数据,本申请实施例对此不作限定。当然,由于在相关技术中,时序上连续数据丢失时,数据的修复难度较大,因为,在本申请实施例中,上述部分位置数据通常为时序上连续的一段或多段位置数据。

可选地,在本申请实施例中,由于动捕数据修复模型的训练数据中包括通过数据掩盖得到的带噪动捕数据,因此,在动捕数据修复模型的实际运用中,在对待修复的原始动捕数据进行数据预处理时,可以采用与训练动捕数据一致的数据掩盖方式,对原始动捕数据中的无效的位置数据进行掩盖。

步骤902,通过动捕数据修复模型分别获取带噪动捕数据的时间特征和空间特征。

在本申请实施例中,计算机设备在获取带噪动捕数据之后,通过动捕数据修复模型分别获取带噪动捕数据的时间特征和空间特征。其中,时间特征用于反映同一标记点在时域上的位置变化特征,空间特征用于反映多个标记点在同一时间戳的位置关系特征。

可选地,计算机设备在获取上述时间特征和空间特征时,对上述带噪动捕数据进行数据预处理。其中,该数据预处理包括但不限于以下至少一项:去中心处理、去转向处理、去高度处理等。之后,构建该带噪动捕数据对应的带噪数据矩阵,该带噪数据矩阵中的每一行数据表示一个标记点在时域上的位置数据序列,该带噪数据矩阵中的每一列数据表示多个标记点在同一时间戳的位置数据集合。进一步地,通过动捕数据修复模型,从带噪数据矩阵的各行数据中分别提取时间特征向量,得到带噪动捕数据的时间特征,从带噪数据矩阵的各列数据中分别提取空间特征向量,得到带噪动捕数据的空间特征。

步骤903,通过动捕数据修复模型,基于时间特征和空间特征,生成带噪动捕数据对应的初步修复动捕数据。

在本申请实施例中,计算机设备在获取上述时间特征和上述空间特征之后,基于该时间特征和空间特征,生成带噪动捕数据对应的初步修复动捕数据。

可选地,计算机设备在获取上述初步修复动捕数据时,计算机设备基于带噪动捕数据对时间特征进行叠加归一处理,得到第一带噪动捕数据,并基于带噪动捕数据对空间特征进行叠加归一处理,得到第二带噪动捕数据。进一步对,对第一带噪动捕数据与第二带噪动捕数据进行时空特征融合处理,得到第三带噪动捕数据,并对第三带噪动捕数据和带噪动捕数据进行融合处理,得到带噪动捕数据对应的初步修复动捕数据。其中,上述第一带噪动捕数据是指具有时间特征的带噪动捕数据,上述第二带噪动捕数据是指具有空间特征的带噪动捕数据,上述第三带噪动捕数据是指具有时空特征的带噪动捕数据。

步骤904,根据初步修复动捕数据和样本动捕数据,计算动捕数据修复模型的训练损失,并基于训练损失对动捕数据修复模型的参数进行调整。

在本申请实施例中,计算机设备获取上述初步修复动捕数据之后,根据该初步修复动捕数据和上述样本动捕数据,计算动捕数据修复模型的训练损失,并基于训练损失对动捕数据修复模型的参数进行调整。可选地,计算机设备基于训练损失对动捕数据修复模型的参数进行调整,直至训练损失收敛。

综上所述,本申请实施例提供的技术方案中,通过训练样本对动捕数据修复模型进行训练,在训练过程中,动捕数据修复模型依据带噪动捕数据的时间特征和空间特征对该带噪动捕数据进行数据修复,使得动捕数据修复模型在进行数据修复时,不依赖相邻位置即可进行数据修复,提高动捕数据修复模型针对带噪动捕数据的修复效果。

需要说明的一点是,在本申请实施例中,图9实施例中的动捕数据修复模型的训练过程和图3实施例中的动捕数据修复过程是互相对应关联的,对于其中一侧实施例中没详细说明的,可以参见另一侧实施例中的介绍说明。

还需要说明的一点是,本申请中的动捕数据修复方法优于现有的动捕数据修补方式,示例性地,采集动捕基地实际生产环境里包含23个演员的3万帧数据作为测试集,动捕数据修复结果的实验数据如表一所示:

表一 动捕数据修复结果的实验数据

另外,结合参考图10,对本申请中动捕数据的修复结果进行展示。对于左手抱胸的动作,由于手指被躯干遮挡,基于原始动捕数据的渲染结果中手指外翘,之后,在原始动捕数据被修复后,基于最终修复动捕数据的渲染结果中手指恢复正常姿态。对于脚尖标记点数据丢失的情况,基于原始动捕数据的渲染结果中脚部骨折,之后,在原始动捕数据修复后,基于最终修复动捕数据的渲染结果中脚部恢复正常姿态。

下述为本申请装置实施例,可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节,请参照本申请方法实施例。

请参考图11,其示出了本申请一个实施例提供的动捕数据的修复装置的框图。该装置具有实现上述动捕数据的修复方法的功能,所述功能可以由硬件实现,也可以由硬件执行相应的软件实现。该装置可以是计算机设备,也可以设置计算机设备中。该装置1100可以包括:原始数据获取模块1110、时空特征获取模块1120、初步数据生成模块1130和最终数据获取模块1140。

原始数据获取模块1110,用于获取待修复的原始动捕数据,所述原始动捕数据包括多个标记点在时域上的位置数据序列,所述原始动捕数据中包括有效的位置数据和无效的位置数据。

时空特征获取模块1120,用于分别获取所述原始动捕数据的时间特征和空间特征,所述时间特征用于反映同一标记点在时域上的位置变化特征,所述空间特征用于反映所述多个标记点在同一时间戳的位置关系特征。

初步数据生成模块1130,用于基于所述时间特征和所述空间特征,生成所述原始动捕数据对应的初步修复动捕数据。

最终数据获取模块1140,用于基于所述原始动捕数据中所述有效的位置数据,对所述初步修复动捕数据进行矫正处理,得到所述原始动捕数据对应的最终修复动捕数据。

在示例性实施例中,如图12所示,所述时空特征获取模块1120,包括:数据矩阵构建单元1121、时间特征获取单元1122和空间特征获取单元1123。

数据矩阵构建单元1121,用于构建所述原始动捕数据对应的数据矩阵,所述数据矩阵中的每一行数据表示一个标记点在时域上的位置数据序列,所述数据矩阵中的每一列数据表示所述多个标记点在同一时间戳的位置数据集合。

时间特征获取单元1122,用于从所述数据矩阵的各行数据中分别提取时间特征向量,得到所述原始动捕数据的时间特征。

空间特征获取单元1123,用于从所述数据矩阵的各列数据中分别提取空间特征向量,得到所述原始动捕数据的空间特征。

在示例性实施例中,所述时间特征获取单元1122,用于针对所述数据矩阵的目标行数据,采用多头注意力机制,对所述目标行数据中的各个位置数据进行时间特征提取,得到所述目标行数据对应的时间特征向量;将所述数据矩阵的各行数据分别对应的时间特征向量进行拼接处理,生成用于表示所述原始动捕数据的时间特征的时间特征矩阵。

在示例性实施例中,所述空间特征获取单元1123,用于针对所述数据矩阵的目标列数据,采用多头注意力机制,对所述目标列数据中的各个位置数据进行空间特征提取,得到所述目标列数据对应的空间特征向量;将所述数据矩阵的各列数据分别对应的空间特征向量进行拼接处理,生成用于表示所述原始动捕数据的空间特征的空间特征矩阵。

在示例性实施例中,所述数据矩阵构建单元1121,用于获取所述原始动捕数据中的每个位置数据的嵌入向量;将每个位置数据的嵌入向量和每个位置数据的位置向量相加,得到每个位置数据的向量表示;其中,所述位置数据的位置向量是基于所述位置数据对应的时间戳确定的;基于各个所述位置数据的向量表示,构建所述原始动捕数据对应的数据矩阵。

在示例性实施例中,如图12所示,所述初步数据生成模块1130,包括:第一数据获取单元1131、第二数据获取单元1132、第三数据获取单元1133和初步数据生成单元1134。

第一数据获取单元1131,用于基于所述原始动捕数据对所述时间特征进行叠加归一处理,得到第一动捕数据,所述第一动捕数据是指具有时间特征的动捕数据。

第二数据获取单元1132,用于基于所述原始动捕数据对所述空间特征进行叠加归一处理,得到第二动捕数据,所述第二动捕数据是指具有空间特征的动捕数据。

第三数据获取单元1133,用于对所述第一动捕数据和第二动捕数据进行时空特征融合处理,得到第三动捕数据。

初步数据生成单元1134,用于对所述第三动捕数据和所述原始动捕数据进行融合处理,得到所述原始动捕数据对应的初步修复动捕数据。

在示例性实施例中,所述初步数据生成单元1134,用于依据所述多个标记点在所述原始动捕数据的来源对象上所属的位置区域,对所述原始动捕数据进行分簇处理,得到多个分簇数据集合;其中,一个分簇数据集合中包括属于同一位置区域中的至少一个标记点的位置数据序列;若所述多个标记点中的目标标记点的位置数据序列中存在无效的位置数据,基于所述目标标记点所属的目标位置区域,从所述多个分簇数据集合中确定所述目标位置区域对应的目标分簇数据集合;基于所述目标分簇数据集合对应的其它标记点的位置数据序列,对所述目标标记点的位置数据序列进行推测处理,得到所述目标标记点的推测位置数据序列,所述其它标记点是指所述目标分簇数据集合对应的多个标记点中除所述目标标记点之外的标记点;将所述第三动捕数据中的所述目标标记点的位置数据序列,与所述推测位置数据序列进行融合处理,得到所述目标标记点的初步修复位置序列,所述初步修复动捕数据中包括所述初步修复位置序列。

在示例性实施例中,如图12所示,所述最终数据获取模块1140,包括:偏移量获取单元1141、位置数据校正单元1142和最终数据获取单元1143。

偏移量获取单元1141,用于对于所述多个标记点中的目标标记点,若所述目标标记点在第一时间戳和第二时间戳之间存在所述无效的位置数据,则根据所述原始动捕数据和所述初步修复动捕数据中所述目标标记点在所述第一时间戳的位置数据,计算第一偏移量;以及,根据所述原始动捕数据和所述初步修复动捕数据中所述目标标记点在所述第二时间戳的位置数据,计算第二偏移量;根据所述第一偏移量和所述第二偏移量,确定所述目标标记点在从所述第一时间戳到所述第二时间戳的各个时间戳上的偏移量。

位置数据校正单元1142,用于基于所述目标标记点在从所述第一时间戳到所述第二时间戳的各个时间戳上的偏移量,对所述初步修复动捕数据中所述目标标记点在从所述第一时间戳到所述第二时间戳的各个时间戳的位置数据进行平移校正处理,得到所述目标标记点在从所述第一时间戳到所述第二时间戳的各个时间戳的校正后位置数据。

最终数据获取单元1143,用于基于所述目标标记点在从所述第一时间戳到所述第二时间戳的各个时间戳的校正后位置数据,和所述原始动捕数据中所述目标标记点的有效的位置数据,确定所述目标标记点的最终动捕数据。

在示例性实施例中,所述偏移量获取单元1141,用于对于在所述第一时间戳和所述第二时间戳之间的第三时间戳,按照如下公式计算所述目标标记点在所述第三时间戳上的偏移量

其中,n代表所述第三时间戳对应的帧号,n

在示例性实施例中,如图12所示,所述装置1100包括:动捕数据处理模块1150。

动捕数据处理模块1150,用于对所述原始动捕数据进行预处理,所述预处理后的动捕数据用于提取所述时间特征和所述空间特征。

其中,所述预处理包括以下至少之一:针对所述多个标记点在目标时间戳的目标位置数据集合,基于所述目标位置数据集合包含的位置数据,获取中心位置数据,所述中心位置数据是指所述多个标记点对应的中心位置的位置数据;将所述目标位置数据集合中包含的各个位置数据,分别减去所述中心位置数据,得到所述目标时间戳对应的去中心位置数据;将所述原始动捕数据的来源对象上的目标点作为原点建立统一坐标系;针对所述多个标记点在目标时间戳的目标位置数据集合,基于所述统一坐标系与世界坐标系之间的映射关系,以及所述目标位置数据集合中包括的各个位置数据,确定所述目标时间戳下的所述多个标记点在所述统一坐标系中的位置数据集合;获取所述原始动捕数据的来源对象的高度数据,将所述原始动捕数据中的各个位置数据除以所述高度数据,得到所述原始动捕数据对应的去高度动捕数据。

综上所述,本申请实施例提供的技术方案中,通过原始动捕数据的时间特征和空间特征对原始动捕数据进行修复,提供了一种针对原始动捕动捕数据的修复方式,而且,基于原始动捕数据的时间特征和空间特征统一对原始动捕数据中的无效的位置数据进行修复,减少在位置数据修复时,对相邻位置数据的依赖性,提高针对连续的无效的位置数据的修复效果,进而提高针对原始动捕数据的整体修复效果,增加标记点的运动轨迹获取的准确性。

请参考图13,其示出了本申请一个实施例提供的动捕数据修复模型的训练装置的框图。该装置具有实现上述动捕数据修复模型的训练方法的功能,所述功能可以由硬件实现,也可以由硬件执行相应的软件实现。该装置可以是计算机设备,也可以设置计算机设备中。该装置1300可以包括:训练样本获取模块1310、数据特征获取模块1320、修复数据获取模块1330和修复模型训练模块1340。

训练样本获取模块1310,用于获取训练样本,所述训练样本包括样本动捕数据,以及对所述样本动捕数据中的部分位置数据进行掩盖得到的带噪动捕数据。

数据特征获取模块1320,用于通过所述动捕数据修复模型分别获取所述带噪动捕数据的时间特征和空间特征,所述时间特征用于反映同一标记点在时域上的位置变化特征,所述空间特征用于反映所述多个标记点在同一时间戳的位置关系特征。

修复数据获取模块1330,用于通过动捕数据修复模型,基于所述时间特征和所述空间特征,生成所述带噪动捕数据对应的初步修复动捕数据。

修复模型训练模块1340,用于根据所述初步修复动捕数据和所述样本动捕数据,计算所述动捕数据修复模型的训练损失,并基于所述训练损失对所述动捕数据修复模型的参数进行调整。

综上所述,本申请实施例提供的技术方案中,通过训练样本对动捕数据修复模型进行训练,在训练过程中,动捕数据修复模型依据带噪动捕数据的时间特征和空间特征对该带噪动捕数据进行数据修复,使得动捕数据修复模型在进行数据修复时,不依赖相邻位置即可进行数据修复,提高动捕数据修复模型针对带噪动捕数据的修复效果。

需要说明的是,上述实施例提供的装置,在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。

请参考图14,其示出了本申请一个实施例提供的计算机设备的结构框图。该计算机设备可用于实现上述动捕数据的修复方法或动捕数据修复模型的训练方法的功能。具体来讲:

计算机设备1400包括中央处理单元(Central Processing Unit,CPU)1401、包括随机存取存储器(Random Access Memory,RAM)1402和只读存储器(Read Only Memory,ROM)1403的系统存储器1404,以及连接系统存储器1404和中央处理单元1401的系统总线1405。计算机设备1400还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(Input/Output,I/O系统)1406,和用于存储操作系统1413、应用程序1414和其他程序模块1415的大容量存储设备1407。

基本输入/输出系统1406包括有用于显示信息的显示器1408和用于用户输入信息的诸如鼠标、键盘之类的输入设备1409。其中显示器1408和输入设备1409都通过连接到系统总线1405的输入输出控制器1410连接到中央处理单元1401。基本输入/输出系统1406还可以包括输入输出控制器1410以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地,输入输出控制器1410还提供输出到显示屏、打印机或其他类型的输出设备。

大容量存储设备1407通过连接到系统总线1405的大容量存储控制器(未示出)连接到中央处理单元1401。大容量存储设备1407及其相关联的计算机可读介质为计算机设备1400提供非易失性存储。也就是说,大容量存储设备1407可以包括诸如硬盘或者CD-ROM(Compact Disc Read-Only Memory,只读光盘)驱动器之类的计算机可读介质(未示出)。

不失一般性,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM(Erasable Programmable Read Only Memory,可擦除可编程只读存储器)、EEPROM(Electrically Erasable Programmable Read Only Memory,电可擦可编程只读存储器)、闪存或其他固态存储其技术,CD-ROM、DVD(Digital Video Disc,高密度数字视频光盘)或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知计算机存储介质不局限于上述几种。上述的系统存储器1404和大容量存储设备1407可以统称为存储器。

根据本申请的各种实施例,计算机设备1400还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即计算机设备1400可以通过连接在系统总线1405上的网络接口单元1411连接到网络1412,或者说,也可以使用网络接口单元1411来连接到其他类型的网络或远程计算机系统(未示出)。

所述存储器还包括计算机程序,该计算机程序存储于存储器中,且经配置以由一个或者一个以上处理器执行,以实现上述动捕数据的修复方法,或实现上述动捕数据修复模型的训练方法。

在示例性实施例中,还提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或所述指令集在被处理器执行时以实现上述动捕数据的修复方法,或实现上述动捕数据修复模型的训练方法。

可选地,该计算机可读存储介质可以包括:ROM(Read Only Memory,只读存储器)、RAM(Random Access Memory,随机存取记忆体)、SSD(Solid State Drives,固态硬盘)或光盘等。其中,随机存取记忆体可以包括ReRAM(Resistance Random Access Memory,电阻式随机存取记忆体)和DRAM(Dynamic Random Access Memory,动态随机存取存储器)。

在示例性实施例中,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述动捕数据的修复方法,或执行上述动捕数据修复模型的训练方法。

应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。另外,本文中描述的步骤编号,仅示例性示出了步骤间的一种可能的执行先后顺序,在一些其它实施例中,上述步骤也可以不按照编号顺序来执行,如两个不同编号的步骤同时执行,或者两个不同编号的步骤按照与图示相反的顺序执行,本申请实施例对此不作限定。

以上所述仅为本申请的示例性实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

相关技术
  • 动捕数据的修复方法、装置、设备及存储介质
  • 动捕数据处理方法、装置、电子设备及计算机存储介质
技术分类

06120113210446