虚拟形象的生成方法及装置
文献发布时间:2023-06-19 11:39:06
技术领域
本公开涉及虚拟现实领域,尤其涉及人工智能、物联网、语音技术、云计算等领域。具体地本公开涉及一种虚拟形象的生成方法、虚拟形象的生成装置、一种电子设备、一种存储有计算机指令的非瞬时计算机可读存储介质和一种计算机程序产品。
背景技术
在未来的增强现实系统中,虚拟形象将是人机交互的主要承载方式。
当前市面上的虚拟形象生成App,通常会要求用户上传一张照片,而后根据照片中的人像自动生成一个初级的虚拟形象。但要实现最终的虚拟形象,还需要用户使用App中的捏脸功能,手动对初级的虚拟形象进行捏脸操作。
发明内容
本公开提供了一种虚拟形象的生成方法、装置、设备、存储介质以及计算机程序产品。
根据本公开的一方面,提供了一种虚拟形象的生成方法,包括:获取用户针对目标虚拟形象的语言描述;基于所述语言描述,提取对应的语义特征;以及基于所述语义特征,生成所述目标虚拟形象。
根据本公开的另一方面,提供了一种虚拟形象的生成装置,包括:获取模块,用于获取用户针对目标虚拟形象的语言描述;提取模块,用于基于所述语言描述,提取对应的语义特征;以及虚拟形象生成模块,用于基于所述语义特征,生成所述目标虚拟形象。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例所述的方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据本公开实施例所述的方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据本公开实施例所述的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1A示例性示出了适于本公开实施例的虚拟形象的生成方法及装置的系统架构;
图1B示例性示出了可以实现本公开实施例的虚拟形象的生成方法及装置的场景图;
图2示例性示出了根据本公开实施例的虚拟形象的生成方法的流程图;
图3示例性示出了根据本公开实施例的语义变换的示意图;
图4A~图4D示例性示出了根据本公开实施例的虚拟形象滑块的示意图;
图5示例性示出了根据本公开实施例的已完成骨骼与蒙皮绑定的参考虚拟形象的示意图;
图6示例性示出了根据本公开实施例的生成虚拟形象滑块的原理图;
图7示例性示出了根据本公开实施例的生成虚拟形象的原理图;
图8示例性示出了根据本公开实施例的虚拟形象的生成装置的框图;以及
图9示例性示出了用来实现本公开实施例的虚拟形象的生成及装置的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
当前市面上的虚拟形象生成App,通常会要求用户上传一张照片,而后根据照片中的人像自动生成一个初级的虚拟形象。但要实现最终的虚拟形象,还需要用户使用App中的捏脸功能,手动对初级的虚拟形象进行捏脸操作。
这种先自动生成后手动定制的传统解决思路,虽然最终能够给出一个虚拟形象的结果,但是用户往往很难获取到令自己满意的理想虚拟形象。究其原因,通过这种传统的解决思路,用户无法进行高效的虚拟形象个性化定制。
示例性的,用户想要生成一个高鼻梁、大眼睛、瘦下巴的虚拟形象。按照上述传统方式,首先用户极有可能无法找到具有类似形象特征的真人照片。其次即使能够找到具有类似形象特征的真人照片,使用上述捏脸功能,用户需要逐个五官去寻找,比如需要在鼻型、眼型、脸型等的基底中逐一寻找。一般App对单一五官都会提供数十种形状供用户选择,因此仅仅挑选各个五官的形状就需要花费十几甚至几十分钟,很多用户很有可能没有耐心花时间去挑选令自己满意的五官形状。
此外,这种传统的虚拟形象定制方案,不便于用户使用,甚至会给用户造成极大的挫败感和体验伤害。
本公开提出的基于语言描述的虚拟形象智能生成方案可以解决上述技术问题,实现高效的虚拟形象个性化定制。以下将结合具体实施例详细阐述本公开。
适于本公开实施例的虚拟形象的生成方法和装置的系统架构介绍如下。
图1A示例性示出了适于本公开实施例的虚拟形象的生成方法和装置的系统架构。需要注意的是,图1A所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他环境或场景。
如图1A所示,系统架构100可以包括:终端设备101。需要说明的是,终端设备101可以是客户端或者服务器,本公开在此不做限定。
具体地,可以先通过终端设备101或者其他设备生成一个初始的虚拟形象作为参考虚拟形象。如果用户想要定制满足个性化需求的理想型虚拟形象,比如“高鼻梁、大眼睛、瘦下巴”是理想型,则用户可以通过语言描述该理想型虚拟形象。终端设备101获取到用户的语言描述后,可以基于该语言描述,提取对应的语义特征,进而基于提取的语义特征,生成该理想型虚拟形象。
在本公开实施例中,根据用户的语言描述,终端设备101能够准确识别到用户需要的虚拟形象的语义化特征信息,而后智能生成虚拟形象。该方案一方面能够提升个性化虚拟形象的生产效率,给用户更加便捷的使用体验;另一方面也能够提升虚拟形象定制的准确度,给用户输出理想型虚拟形象。
应该理解,图1A中的终端设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备。
适于本公开实施例的虚拟形象的生成方法和装置的应用场景介绍如下。
应该理解,目前,线下消费引导方式还是以博主们探店分享为主,但如果消费者不去主动翻阅博主们分享的内容,则很难做到有效推荐。
还应该理解,个性化的虚拟形象通常与真人有相似性,不同虚拟形象之间又有区分度,通过虚拟形象的卡通外观还能提升亲和力。这都能帮助提升用户对虚拟形象的主观认可度。因而创建虚拟形象、实现基于虚拟形象的人机交互、以及在基于虚拟形象进行人机交互的过程中由虚拟形象适时进行消费推荐和消费陪伴,可以有效提高消费推荐的转化率,同时可以提高用户体验度。
示例性的,在本公开实施例中,既可以基于虚拟形象在居家场景下对用户进行线下消费引导,又可以基于虚拟形象在线下消费场景下对用户进行消费陪伴。
如图1B所示,用户可以通过手机客户端创建自己的专属虚拟形象,并将其上传给云端,再由云端将其下发至与用户关联的智能设备、以及用户光顾的商超等公共场所中部署的交互设备(如商场交互设备、超市交互设备、餐馆交互设备等),以供用户进行人机交互时使用。
需要说明的是,在本公开实施例中,智能设备包括带有显示屏的物联网IOT设备,比如冰箱、电视机、智能镜面、智能玻璃,等等。虚拟形象被下发至IOT设备上之后,可以在IOT设备被触发时显示出来,作为智能语音对话系统的前端承载,绘声绘色地与用户进行功能化的或无意义的对话交流。在对话交流过程中,虚拟形象可以根据云端下发的营销推荐指令,适时地对用户进行线下消费推荐。
此外,在本公开实施例中,商场互动设备也包括带有显示屏的、部署在商场中的能与用户交互的电子设备。示例性的,当用户光顾商场时,可以通过人脸识别技术确定用户身份,并通知云端下发相应的虚拟形象。比如用户A在某品牌服装店铺试穿衣服时,可以从云端下载用户A的专属虚拟形象,并在用户A附近的试装镜边缘显示其专属虚拟形象,使其与用户互动,如推荐用户试衣。再比如用户B在某个火锅店吃单人火锅时,可以在用户B的火锅边上立起来一个小显示屏,并在上面显示用户B的专属虚拟形象,使其与用户B进行无意义互动或游戏。
在本公开的一个实施例中,用户可以上传一张照片,而后由虚拟形象生成App根据照片中的人像自动生成一个初级的虚拟形象,然后再使用App中的捏脸功能,由用户手动对初级的虚拟形象进行捏脸操作来生成自己的专属虚拟形象。
在本公开的另一个实施例中,用户还可以基于语言描述的虚拟形象智能生成方案,生成自己的专属虚拟形象。
此外,在本公开的另一个实施例中,云端除了接收手机客户端创建的虚拟形象并将其下发至与用户关联的智能设备、以及用户光顾的商超等公共场所中部署的交互设备之外,还可以通过分析用户大数据,适时给出营销策略,让智能家居设备上显示的虚拟形象去完成营销任务。比如某天下雨,天气很冷,用户好久没吃过火锅了,那么就可以让虚拟形象给用户深情地推荐一个火锅用餐地点。
通过本公开实施例,使用与真人相似的虚拟形象提供消费推荐和陪伴式服务,可以使用户产生认同感。通过虚拟形象推荐,还可以将用户消费引流到线下。并且在真实消费场景中,用户的专属虚拟形象还可以陪伴在用户身边,帮助用户推荐商品、陪用户吃饭、聊天。如此可以实现线上服务与线下服务的打通。
本公开提供了一种基于虚拟形象的人机交互方法。
该人机交互方法可以应用于居家场景,包括如下操作。
在智能设备上显示虚拟形象。
控制虚拟形象与用户进行交流互动。
在虚拟形象与用户交流互动的过程中,控制虚拟形象对用户进行消费推荐。
在本公开的一个实施例中,智能设备可以包括智能家居设备。示例性的,在居家场景下,可以在智能家居设备被触发后,在其显示屏上显示用户的专属虚拟形象。在本公开的其他实施例中,还可以在智能家居设备被触发后,在其显示屏上显示其他的不是用户专属的虚拟形象。
虚拟形象显示在智能家居设备上,可以作为智能语音对话系统的前端承载,绘声绘色地与用户进行功能化的或无意义的对话交流、游戏互动等。在对话交流或游戏互动过程中,虚拟形象可以根据云端下发的营销推荐指令(包含营销策略),适时地对用户进行线下消费推荐。比如某天下雨,天气很冷,用户好久没吃过火锅了,那么就可以让虚拟形象给用户深情地推荐一个火锅用餐地点。
在居家场景中,用户通过与智能家居设备上的虚拟形象进行交流互动,可以建立对虚拟形象的信任感和认可度。由此让个性化虚拟形象成为用户的养成陪伴对象。这样云端直接对虚拟形象下达营销推荐指令,由虚拟形象完成消费引导的可能性比较大。
在本公开实施例中,通过个性化虚拟形象的陪伴,可以建立用户对虚拟形象的信任感和认可度,从而实现以虚拟形象为交互载体的消费推荐,提升消费推荐的转化率。
作为一种可选的实施例,控制虚拟形象对用户进行消费推荐可以包括如下操作。
获取云端针对该用户下发的营销策略。
控制虚拟形象基于该营销策略,对该用户进行消费推荐。
在本公开的另一个实施例中,云端除了接收手机客户端创建的虚拟形象并将其下发至与用户关联的智能家居设备、以及用户光顾的商超等公共场所中部署的交互设备之外,还可以通过分析用户大数据,针对特定用户适时给出有针对性的营销策略,控制智能家居设备上显示的虚拟形象去完成营销任务。由此可以实现精准营销,为用户提供更合理、更精准、更满意的消费推荐。
作为一种可选的实施例,在智能设备上显示虚拟形象可以包括:在智能设备上显示用户的专属虚拟形象。其中,专属虚拟形象是由云端下发给智能设备的。
示例性的,用户可以通过手机客户端创建自己的专属虚拟形象,并将其上传至云端,然后在用户触发其智能设备时,由云端将其创建的专属虚拟形象下发至其智能设备进行显示。
在本公开实施例中,使用用户的专属虚拟形象,在虚拟形象陪伴养成中,更容易取得用户的信任和认可,进而更容易由虚拟形象完成消费推荐。
本公开还提供了一种基于虚拟形象的控制方法。
该基于虚拟形象的控制方法可以应用于云端等服务器端,包括如下操作。
远程控制显示在智能设备上的虚拟形象与用户进行交流互动。
在虚拟形象与用户交流互动的过程中,向智能设备下发针对用户的营销策略,以便虚拟形象基于营销策略,对用户进行消费推荐。
在本公开的一个实施例中,以家居场景为例,智能设备包括智能家居设备。在智能家居设备被触发后,云端可以远程控制智能家居设备,如在其显示屏上显示用户的专属虚拟形象。在本公开的其他实施例中,在智能家居设备被触发后,云端还可以远程控制智能家居设备,如在其显示屏上显示其他的不是用户专属的虚拟形象。
虚拟形象显示在智能家居设备上,可以作为智能语音对话系统的前端承载,绘声绘色地与用户进行功能化的或无意义的对话交流、游戏互动等。在对话交流或游戏互动过程中,虚拟形象可以根据云端下发的营销推荐指令(包含营销策略),适时地对用户进行线下消费推荐。比如某天下雨,天气很冷,用户好久没吃过火锅了,那么就可以让虚拟形象给用户深情地推荐一个火锅用餐地点。
在居家场景中,用户通过与智能家居设备上的虚拟形象进行交流互动,更容易建立对虚拟形象的信任,因而更容易认可虚拟形象给出的消费推荐,进而让容易让个性化虚拟形象成为用户的养成陪伴对象。这样云端直接对虚拟形象下达营销推荐指令,由虚拟形象完成消费引导的可能性比较大。
在本公开实施例中,通过个性化虚拟形象的陪伴,可以增加用户对虚拟形象的信任感和认可度,从而实现以虚拟形象为交互载体的消费推荐,提升消费推荐的转化率。
作为一种可选的实施例,该方法还可以包括如下操作。
获取用户提供的专属虚拟形象。
将专属虚拟形象下发给与该用户关联的智能设备,以便智能设备在面对用户时显示专属虚拟形象,并通过专属虚拟形象与用户进行人机交互。
示例性的,用户可以通过手机客户端创建自己的专属虚拟形象,并将其上传至云端,然后在用户触发其智能设备时,由云端将其创建的专属虚拟形象下发至与用户关联的智能设备进行显示,并由该虚拟形象与用户进行交流互动。
在本公开实施例中,使用用户的专属虚拟形象,在虚拟形象养成陪伴中,更容易取得用户的信任和认可,进而更容易由虚拟形象完成消费推荐。
作为一种可选的实施例,该方法还包括如下操作。
获取用户的消费数据。
基于消费数据,生成针对用户的营销策略,以下发给智能设备。
示例性的,云端可以获取由在商超等公共场所设置的交互设备、收银设备等上传的消费数据,并基于获取的消费数据进行大数据分析,从而生成针对用户个人或者某类用户群体的营销策略,并将生成的营销策略下发给与特定用户或者特定类别的用户关联的智能设备,以便由其上显示的虚拟形象适时对用户进行消费推荐。
通过本公开实施例,可以从用户的消费数据中学习到用户的消费习惯,然后制定符合用户本人消费习惯的营销策略,由此可以实现精准营销。
本公开还提供了另一种基于虚拟形象的控制方法。
该基于虚拟形象的人机交互方法可以应用于消费场景,包括如下操作。
在特定场所中设置的特定互动设备上显示虚拟形象。
在用户在特定场所活动的过程中,控制虚拟形象与用户进行交流互动。
需要说明的是,在本公开实施例中,特定场所可以包括商场、超市、餐馆、饭店等公共场所。特定互动设备可以包括带有显示屏的电子设备。
示例性的,当用户光顾商场时,可以通过人脸识别技术确定用户身份,并通知云端向用户附近的商场交互设备下发相应的虚拟形象,以便虚拟形象能够在用户消费过程中与用户交流互动,陪伴用户进行线下消费。
通过本公开实施例,在消费场景中,可以使用户的专属虚拟形象出现在用户附近的商场互动设备上,以便陪伴用户的整个线下消费过程,给用户提供更好的消费体验。
作为一种可选的实施例,在用户在特定场所活动的过程中,控制虚拟形象与用户进行交流互动,可以包括以下至少之一。
在用户在商场或超市购物的过程中,控制虚拟形象与用户进行交流互动,以陪伴用户购物。
在用户在饭店或餐馆吃饭的过程中,控制虚拟形象与用户聊天或进行互动游戏,以陪伴用户用餐。
在用户在休闲娱乐场所消费的过程中,控制虚拟形象与用户进行交流互动,以陪伴用户休闲娱乐。
示例性的,比如用户A在某品牌服装店铺试穿衣服时,可以从云端下载用户A的专属虚拟形象,并在用户A附近的试装镜边缘显示其专属虚拟形象,使其与用户交流互动,如推荐用户试衣。再比如用户B在某个火锅店吃单人火锅时,可以在用户B的火锅边上立起来一个小显示屏,并在上面显示用户B的专属虚拟形象,使其与用户B进行无意义互动或游戏。
通过本公开实施例,使用与真人具有一定相似度的虚拟形象提供陪伴式消费服务,可以使用户产生认同感。并且在真实消费场景中,用户的专属虚拟形象陪伴在用户身边,可以帮助用户购买到用户满意的商品、陪用户吃饭、聊天等。如此可以实现线上服务与线下服务的打通。
作为一种可选的实施例,该方法还可以包括如下操作。
获取用户的消费数据。
将消费数据发送至云端,以便云端基于消费数据生成针对用户的营销策略。
示例性的,在商超等公共场所设置的交互设备、收银设备等可以采集用户的消费数据并上传给云端,进而由云端基于获取的消费数据进行大数据分析,从而生成针对用户个人或者某类用户群体的营销策略,以便云端将这些营销策略下发给对应的智能家居设备,由智能家居设备上显示的虚拟形象适时对用户进行消费推荐。
通过本公开实施例,可以采集并上传用户的消费数据,使得云端能够从用户的消费数据中学习到用户的消费习惯,然后生成符合用户本人消费习惯的营销策略,由此可以实现精准营销。
作为一种可选的实施例,该方法还可以包括如下操作。
响应于用户进入特定场所,对用户进行人脸识别,以确定用户的身份。
基于用户的身份获取用户的专属虚拟形象。
其中,在特定场所中设置的特定互动设备上显示虚拟形象可以包括:在特定场所中设置的特定互动设备上显示专属虚拟形象。
应该理解,个性化的虚拟形象通常与真人有相似性,不同虚拟形象之间又有区分度,通过虚拟形象的卡通外观还能提升亲和力。这都能帮助提升用户对虚拟形象的主观认可度。因而创建虚拟形象、实现基于虚拟形象的人机交互、以及在基于虚拟形象进行人机交互的过程中由虚拟形象适时进行消费推荐和消费陪伴,可以有效提高消费推荐的转化率,同时可以提高用户体验度。
用户可以通过手机客户端创建自己的专属虚拟形象,并将其上传给云端,再由云端将其下发至与用户关联的智能家居设备、以及用户光顾的商超等公共场所中部署的交互设备(如商场交互设备、超市交互设备、餐馆交互设备等),以供用户进行人机交互时使用。
示例性的,当用户光顾商场时,可以通过人脸识别技术确定用户身份,并通知云端向用户附近的商场交互设备下发与用户身份关联的专属虚拟形象。比如用户A在某品牌服装店铺试穿衣服时,可以从云端下载用户A的专属虚拟形象,并在用户A附近的试装镜边缘显示其专属虚拟形象,使其与用户交流互动,如推荐用户试衣。再比如用户B在某个火锅店吃单人火锅时,可以在用户B的火锅边上立起来一个小显示屏,并在上面显示用户B的专属虚拟形象,使其与用户B进行无意义互动或游戏。
通过本公开实施例,基于智能家居设备、商场互动设备和云端服务,实现了基于个性化虚拟形象的居家场景线上营销和线下消费场景陪伴的居家/商场联动营销,因而可以提升消费引导方式(或营销方式),同时可以提高用户的消费体验度,比如能够使用户沉浸式接受个性化虚拟形象的陪伴式消费服务。
根据本公开的实施例,本公开还提供了一种虚拟形象的生成方法。
图2示例性示出了根据本公开实施例的虚拟形象的生成方法的流程图。
如图2所示,方法200可以包括:操作S210~S230。
操作S210,获取用户针对目标虚拟形象的语言描述。
操作S220,基于语言描述,提取对应的语义特征。
操作S230,基于语义特征,生成目标虚拟形象。
需要说明的是,在操作S210,语言描述可以包括语音形式或文本形式的语言描述,本公开实施例在此不做限定。其中,对于语音形式的语言描述,在操作S210,可以通过自动语音识别ASR技术来捕捉用户对目标虚拟形象的语义需求。
示例性的,如果用户想要创建一个“高鼻梁、大眼睛、瘦下巴”的目标虚拟形象,则用户可以针对该目标虚拟形象输入以下语言描述“高鼻梁、大眼睛、瘦下巴”。由此,通过方法200提供的上述操作,可以获取语言描述“高鼻梁、大眼睛、瘦下巴”,并提取其中的语义特征如“高鼻梁、大眼睛、瘦下巴”。此外,在本公开实施例中,还可以预先任意创建一个虚拟形象作为参考虚拟形象。然后每次针对目标虚拟形象提取到对应的语义特征后,可以基于提取的语义特征,控制该参考虚拟形象变形,从而最终得到用户想要的目标虚拟形象。
通过本公开实施例,只需要用户给出目标虚拟形象的语义描述,不需要用户额外执行手动定制操作,便可以基于用户的语义需求,对已有的参考虚拟形象进行语义化改造,从而实现高效率、高准确度的虚拟形象个性化定制。由此还可以提升用户体验度和对定制的虚拟形象的认可程度。
此外,在本公开实施例,由于只需要用户给出目标虚拟形象的语义描述即可,不需要用户额外执行手动定制操作,因而还可以方便用户使用。
作为一种可选的实施例,基于语义特征,生成目标虚拟形象,可以包括如下操作。
获取参考虚拟形象。
基于从用户的语义描述中提取的语义特征,控制参考虚拟形象形变,以生成目标虚拟形象。
在本公开实施例中,可以预先任意创建一个虚拟形象作为参考虚拟形象,在进行目标虚拟形象的个性化定制过程中,直接获取该参考虚拟形象,并利用从用户的语义描述中提取的语义特征,驱动该参考虚拟形象变形即可获得对应的目标虚拟形象。
示例性的,可以先创建参考虚拟形象的虚拟形象模型,再针对该虚拟形象模型创建骨骼树,然后对骨骼树中的各骨骼节点进行骨骼蒙皮,从而将骨骼节点和对应的骨骼蒙皮网格节点关联起来,得到对应的参考虚拟形象。
此外,基于从用户的语义描述中提取的语义特征控制参考虚拟形象形变可以包括:先获取带有该语义特征的虚拟形象滑块(以下简称滑块),然后利用该滑块驱动参考虚拟形象的骨骼节点形变,从而带动参考虚拟形象的蒙皮节点随之变形,最终获得用户想要的目标虚拟形象,即理想虚拟形象。
示例性的,如果用户想要创建一个“高鼻梁、大眼睛、瘦下巴”的目标虚拟形象,则可以基于该语义描述提取出如下语义特征“高鼻梁、大眼睛、瘦下巴”,然后获取“高鼻梁滑块”、“大眼睛滑块”、“瘦下巴滑块”3个滑块,并利用这3个滑块驱动预先创建的参考虚拟形象变形,从而最终获得满足“高鼻梁、大眼睛、瘦下巴”特征的理想虚拟形象。
通过本公开实施例,通过运用人工智能算法进行个性化虚拟形象的定制,一方面可以提升个性化虚拟形象的生产效率,让用户体验上更加便捷;另一方面也可以提升个性化虚拟形象定制的准确度。
作为一种可选的实施例,基于从用户的语义描述中提取的语义特征,控制预先创建的参考虚拟形象形变,以生成目标虚拟形象,可以包括如下操作。
将提取的语义特征转换为专业级语义特征。
基于转换得到的专业级语义特征,控制该参考虚拟形象变形。
应该理解,在实际使用中,不同的用户对相同或者类似形象的语言描述可能不尽相同。例如,对于“瘦下巴”,有的用户可能描述为“锥子脸”,有的用户可能描述为“瓜子脸”,甚至有的用户可能还有其他描述。并且,在实际应用中,用户很难给出“颧骨”、“下巴”级别的形状描述。更多地,用户会选择更加笼统的描述来刻画对虚拟形象的一种感觉,比如“像小姑娘”、“像老奶奶”、“阳光”、“帅气”等。
因此,本公开实施例提出,先将从用户的语义描述中提取的语义特征统一转换为专业级语义特征,再基于转换后的语义特征控制参考虚拟形象变形,以获得最终的目标虚拟形象。
示例性的,可以通过语义转换器提取的语义特征(即用户给出的笼统语义特征)转换为专业级语义特征。所谓专业级语义特征可以是从解剖学、生物学等角度进行语义描述中带有的语义特征。其中,在本公开实施例中,语义转换器可以是通过大量的数据收集和深度学习回归训练而实现的。
如图3所示,在本公开实施例中,以脸型为例,从用户的语言描述中提取的语义关键字“瓜子脸”可以转换为如下专业级语义特征“低颧骨”和“窄下巴”;从用户的语言描述中提取的语义关键字“国字脸”可以转换为如下专业级语义特征“高颧骨”和“宽下巴”;从用户的语言描述中提取的语义关键字“萌脸”可以转换为如下专业级语义特征“大眼睛”和“圆脸”。
此外,在本公开实施例中,由于用户的笼统语义描述可以被转换为对应的专业级语义描述,因此可以基于专业级语义创建驱动参考虚拟形象变形的滑块。如可以创建高颧骨滑块、低颧骨滑块、窄下巴滑块、大眼睛滑块、圆脸滑块,等等。如果用户输入的是“瓜子脸”,则可以将其转换为“低颧骨”和“窄下巴”两个专业级语义,后续直接利用“低颧骨滑块”和“窄下巴滑块”两个滑块驱动参考虚拟形象变形,最终实现“瓜子脸”的理想虚拟形象。
通过本公开实施例,即使实际应用中,用户输入笼统的语言描述,也可以通过语义转换获得对应的专业级的语言描述,进而精准地控制参考虚拟形象发生形变,从而最终得到用户想要的理想虚拟形象。
作为一种可选的实施例,基于专业级语义特征,控制参考虚拟形象变形,可以包括如下操作。
基于专业级语义特征,确定至少一个滑块,每个滑块关联于对应的特定语义标签。
基于至少一个滑块,驱动用于支撑参考虚拟形象的骨骼树中的多个对应骨骼节点变形。
基于多个对应骨骼节点的变形,驱动与多个对应骨骼节点关联的蒙皮网格节点变形。
具体地,在本公开实施例中,在将用户描述的笼统语义特征转换为专业级语义特征之后,可以提取转换得到的专业级语义特征中包含的至少一个关键词。然后找出包含该至少一个关键词的至少一个语义标签,然后再找出与该至少一个语义标签中的每个语义标签关联的滑块。最后利用找出的滑块驱动用于支撑参考虚拟形象的骨骼树中的多个对应骨骼节点变形,进而基于多个对应骨骼节点的变形,驱动与多个对应骨骼节点关联的蒙皮网格节点变形。
示例性的,如图4A~图4D依次表示“宽脸滑块”、“窄脸滑块”、“长脸滑块”和“短脸滑块”。如图5表示已完成骨骼与蒙皮绑定的参考虚拟形象。示例性的,在用户输入的笼统语言描述或者转换后的专业语言描述中包含“宽脸”特征的情况下,可以直接利用如图4A所示的“宽脸滑块”驱动如图5所示的参考虚拟形象变形,从而得到具有宽脸特征的目标虚拟形象。
通过本公开实施例,采用带有语义信息的滑块驱动参考虚拟形象变形,可以提高目标虚拟形象的产出效率,同时可以提高所得目标虚拟形象的准确度。
需要说明的是,为了实现虚拟形象的低成本变形,三维模型设计师通常会为人脸模型设计骨骼树,并在人脸蒙皮(骨骼蒙皮)的各蒙皮网格节点与骨骼树中的各个骨骼节点建立权重影响关系。之后,通过控制骨骼树中各骨骼节点的旋转、平移、缩放,就可以将各骨骼节点的变形传导到人脸蒙皮的各蒙皮网格节点上,实现各蒙皮网格节点的变形。
然而,这种骨骼树的设计是针对人脸的几何结构的,大部分骨骼节点并不具备如宽脸、高鼻梁等实际语义级意义。这使得设计师在完成骨骼蒙皮的设定工作后,还需要设计滑块,进而通过滑块来实现对骨骼树中各骨骼节点的批量操作,最终实现语义级表现能力。如通过宽脸滑块,就可以对左右太阳穴、左右颧骨、左右下颌角、左右额头等8个骨骼节点进行批量的联动调整设置。
但是,大量骨骼的联动设计不仅需要耗费设计师的人力成本,而且复杂的骨骼间关系常常导致设计出的语义级滑块的表现力并不好。
因此,本公开实施例提出了一种改进型的虚拟形象滑块设计方案。设计师在完成骨骼蒙皮设计后,即在完成骨骼与骨骼蒙皮绑定(又称骨骼与骨骼蒙皮关联)后,只需专注于设计与语义对应的形状模型即可,不需要继续设计对应的带有语义信息的虚拟形象滑块。这是因为,直接将设计师设计的由骨骼与骨骼蒙皮关联得到的参考虚拟形象和对应的形状模块输入“滑块设计系统”,即可自动输出带有语义信息的骨骼联动系数(也即滑块信息),从而可以保证滑块的高质量设计。
作为一种可选的实施例,可以通过以下操作生成滑块。
获取与目标语义标签关联的形状模型。其中,目标语义标签与和滑块关联的特定语义标签相同。
获取参考虚拟形象的骨骼蒙皮数据。
基于骨骼蒙皮数据,对形状模型进行拟合,以获得对应的骨骼联动系数。
基于骨骼联动系数,生成与目标语义标签关联的滑块。
其中,利用滑块驱动参考虚拟形象能够得到符合目标语义特征的虚拟形象,目标语义标签包含目标语义特征。
示例性的,以脸型为例,将“宽脸模型”(与宽脸标签关联)和已完成骨骼与蒙皮绑定的参考虚拟形象输入骨骼拟合系数解算器,可以输出“宽脸骨骼联动系数”(即“宽脸滑块信息”);将“窄脸模型”(与窄脸标签关联)和已完成骨骼与蒙皮绑定的参考虚拟形象输入骨骼拟合系数解算器,可以输出“窄脸骨骼联动系数”(即“窄脸滑块信息”);将“长脸模型”(与长脸标签关联)和已完成骨骼与蒙皮绑定的参考虚拟形象输入骨骼拟合系数解算器,可以输出“长脸骨骼联动系数”(即“长脸滑块信息”);将“短脸模型”(与短脸标签关联)和已完成骨骼与蒙皮绑定的参考虚拟形象输入骨骼拟合系数解算器,可以输出“短脸骨骼联动系数”(即“短脸滑块信息”)。其中,骨骼拟合系数解算器用于基于参考虚拟形象的骨骼蒙皮数据,对各形状模型进行拟合,从而得到对应的骨骼联动系数。在得到对应的骨骼联动系数后,将其与对应的语义标签关联,可以得到对应语义的滑块。例如,将“宽脸滑块信息”与“宽脸标签”关联,可以得到“宽脸滑块”。
需要说明的,在本公开的另一个实施例中,还可以将参考虚拟形象的骨骼蒙皮数据连同多个形状模型(每个形状模型对应于不同的语义标签)一同传入骨骼拟合系数解算器,从而自动获取到各语义标签对应的多个滑块,从而可以保证滑块的高效生产。
示例性的,如图6所示,以脸型为例,将“宽脸模型”、“窄脸模型”、“长脸模型”和“短脸模型”连通已完成骨骼与蒙皮绑定的参考虚拟形象一同输入骨骼拟合系数解算器,从而自动输出“宽脸滑块”、“窄脸滑块”、“长脸滑块”和“短脸滑块”。
应该理解,相关技术中,语义化的滑块设计是多个骨骼节点在设计师的设计下联动实现的。具体地,骨骼一般具有平移、旋转、缩放三个自由度的变换能力,设计师会为骨骼影响到的蒙皮网格节点设置权重,在实际形变中,蒙皮网格节点根据骨骼变换数据和设置的对应权重,进行加权变形。
但是,一个滑块通常能够影响多个骨骼节点,设计师通过设计滑块对多个骨骼节点的影响关系,使得滑块有了对应语义。如“低颧骨”滑块,“尖下巴”滑块等,但这些语义特征必须依靠多个骨骼节点的联动才能实现。
而通过本公开实施例,设计师只需要专注于与语义标签关联的形状模型设计即可,后续可以通过骨骼系数拟合解算器对形状模型进行拟合,来实现滑块设计。即,本公开实施例,整合骨骼系数拟合能力,重新定义了滑块的生成方式、生产流程,全面减轻了设计师对于滑块设计的负担,让设计师摆脱了繁琐的多骨骼联动设计,能够更加专注于语义对应的形状模型的设计,因而可以从复杂的多骨骼节点联动设计中将设计师解放出来,从而提升数字资产的生产效率。
作为一种可选的实施例,可以通过以下操作创建参考虚拟形象。
针对参考虚拟形象,创建对应的骨骼树。
基于骨骼树,将骨骼与骨骼蒙皮关联,以得到参考虚拟形象。
示例性的,以人脸模型为例,设计师可以为人脸模型设计骨骼树,并将人脸蒙皮(骨骼蒙皮)与该骨骼树中的各骨骼节点进行关联,实现人脸蒙皮与各骨骼节点的绑定,从而得到对应的参考虚拟形象。
作为一种可选的实施例,基于骨骼蒙皮数据,对形状模型进行拟合,以获得对应的骨骼联动系数,可以包括如下操作。
基于骨骼蒙皮数据,从骨骼树的根骨骼节点到叶骨骼节点,对形状模型进行逐一迭代求解,以获得骨骼联动系数。
其中,骨骼树是针对参考虚拟形象创建的。
通过本公开实施例,可以通过一次自底向上的迭代算法获得骨骼联动系数,因而拟合计算效率更高。
作为一种可选的实施例,从骨骼树的根骨骼节点到叶骨骼节点,对形状模型进行逐一迭代求解,可以包括:从骨骼树的根骨骼节点开始,逐级应用最小二乘法,分别对各骨骼节点的旋转、平移、缩放系数进行拟合,直到骨骼树中的所有叶骨骼节点的旋转、平移、缩放系数都解算完成为止。
需要说明的是,在本公开实施例中,骨骼系数拟合解算器可以采用自底向上的解算策略。即,从骨骼树的根节点开始,逐级应用最小二乘法,分别对形状模型的各骨骼节点的旋转、平移、缩放系数进行拟合,直到骨骼树中的所有叶节点解算完成为止。
作为一种可选的实施例,基于骨骼蒙皮数据,对形状模型进行拟合,以获得对应的骨骼联动系数,可以包括:基于骨骼蒙皮数据,从骨骼树的根骨骼节点到叶骨骼节点,对形状模型进行多伦逐一迭代求解,以获得骨骼联动系数。其中,骨骼树是针对参考虚拟形象创建的。
通过本公开实施例,也可以通过多伦自底向上的迭代算法获得骨骼联动系数,即,逐步将各级骨骼树节点的拟合系数解算出来,因而得到的拟合结果更加精确。
此外,本公开实施例也可以支持其他类型的骨骼系数拟合解算算法,本公开实施例在此不再限定。
本公开实施例通过对相关算法的整合,以及对滑块智能生成系统输入输出的语义化定义,实现了虚拟形象滑块的智能生成。
作为一种可选的实施例,基于骨骼蒙皮数据,对形状模型进行拟合,以获得对应的骨骼联动系数,可以包括:将骨骼蒙皮数据和形状模型输入预先设定的骨骼系数拟合解算器,以便通过骨骼系数拟合解算器,对形状模型进行拟合,从而获得骨骼联动系数。
通过本公开实施例,设计师只需要专注于与语义标签关联的形状模型设计即可,后续可以通过骨骼系数拟合解算器对形状模型进行拟合,来实现滑块设计。
作为一种可选的实施例,该方法还可以包括:将骨骼蒙皮数据和生成的滑块存储在同一文件中。
示例性的,在得到“宽脸滑块”后,如果将“宽脸滑块”和“参考虚拟形象”存储在同一文件中,则触发“宽脸虚拟形象”启动流程后,“宽脸滑块”可以自动驱动“参考虚拟形象”来生成“宽脸虚拟形象”。
通过本公开实施例,将虚拟形象滑块与参考虚拟形象存储在同一文件中,启动虚拟形象时可以直接利用滑块驱动参考虚拟形象来快速输出用户描述的目标虚拟形象。
作为一种可选的实施例,基于语义特征,生成目标虚拟形象,可以包括如下操作。
基于语义特征,确定至少一个语义标签。
基于语义标签,确定对应的至少一个配件模型和/或至少一个饰品模型。
在通过控制参考虚拟形象变形而得到的虚拟形象的基础上,增加至少一个配件模型和/或至少一个饰品模型,以得到目标虚拟形象。
示例性的,如果用户想要创建一个“高鼻梁、大眼睛、瘦下巴、长头发、学生装、白球鞋”的目标虚拟形象,则可以先基于该语义描述提取出如下语义特征“高鼻梁、大眼睛、瘦下巴”。然后获取“高鼻梁滑块”、“大眼睛滑块”、“瘦下巴滑块”3个滑块,并利用这3个滑块驱动预先创建的参考虚拟形象变形,从而获得满足“高鼻梁、大眼睛、瘦下巴”特征的虚拟形象。同时,还可以基于该语义描述提取出如下语义特征“长头发、学生装、白球鞋”,并从发型配件数字资产库中获取“长头发模型”等配件模型,以及从包含服装、鞋、帽等的服饰数字资产库中获取“女学生装模型”和“白球鞋模型”等饰品模型,最后将“长头发模型”、“女学生装模型”和“白球鞋模型”都添加在前面已创建的具有“高鼻梁、大眼睛、瘦下巴”特征的虚拟形象上,最后输出的虚拟形象即为用户想要的目标虚拟形象。
应该理解,在本公开实施例中,发型、胡须配件数字资产库中可以包含各类男士胡须模型和各类男士发型模型,以及各类女士发型模型。也应该理解,服饰数字资产库中可以包含各类男性、女性的眼镜、衣服、鞋子、手表、手套、头饰、围巾等饰品模型。数字资产库中的每个模型都关联有唯一的语义标签,以便自动根据语义标签获取到对应的模型。
示例性的,可以为数字资产库中每个模型定义不同的语义标签,如白球鞋、高跟鞋、小红裙、学生装、职业正装等。根据语义转换器输出的发型、服装等语义标签,可以在数字资产库中选出对应的模型,加入已生成的虚拟形象中。
如图7所示,个性化虚拟形象的定制过程可以如下:用户输入语音描述;通过ASR技术自动进行语音识别;提取语音描述中关键字;通过语义转换器对提取的关键字进行转换;从转换后的关键字中获取与滑块关联的滑块语义标签;基于滑块语义标签获取驱动骨骼变形的滑块;基于滑块获取对应的骨骼变形系数;基于骨骼变形系数驱动骨骼蒙皮联动变形;从转换后的关键字中获取与发型、服装等关联的模型语义标签;基于模型语义标签从数字资产库中获取对应的模型;将获取的模型添加在由骨骼蒙皮联动变形生成的虚拟形象,得到最终的目标虚拟形象。
通过本公开实施例,可以通过配饰美化和丰富目标虚拟形象,使得获得的目标虚拟形象更满足用户的理想型。
根据本公开的实施例,本公开还提供了一种虚拟形象的生成装置。
图8示例性示出了根据本公开实施例的虚拟形象的生成装置的框图。
如图8所示,虚拟形象的生成装置800包括:获取模块810、提取模块820和虚拟形象生成模块830。
获取模块810,用于获取用户针对目标虚拟形象的语言描述。
提取模块820,用于基于所述语言描述,提取对应的语义特征。
虚拟形象生成模块830,用于基于所述语义特征,生成所述目标虚拟形象。
作为一种可选的实施例,所述虚拟形象生成模块包括:获取单元,用于获取参考虚拟形象;以及控制单元,用于基于所述语义特征,控制所述参考虚拟形象形变,以生成所述目标虚拟形象。
作为一种可选的实施例,所述控制单元包括:转换子单元,用于将所述语义特征转换为专业级语义特征;以及控制子单元,用于基于所述专业级语义特征,控制所述参考虚拟形象变形。
作为一种可选的实施例,所述控制子单元还用于包括:基于所述专业级语义特征,确定至少一个滑块,每个滑块关联于对应的特定语义标签;基于所述至少一个滑块,驱动用于支撑所述参考虚拟形象的骨骼树中的多个对应骨骼节点变形;以及基于所述多个对应骨骼节点的变形,驱动与所述多个对应骨骼节点关联的蒙皮网格节点变形。
作为一种可选的实施例,该装置还包括:滑块生成模块,用于通过以下操作生成滑块:获取与目标语义标签关联的形状模型,其中,所述目标语义标签与和所述滑块关联的特定语义标签相同;获取所述参考虚拟形象的骨骼蒙皮数据;基于所述骨骼蒙皮数据,对所述形状模型进行拟合,以获得对应的骨骼联动系数;以及基于所述骨骼联动系数,生成与所述目标语义标签关联的滑块。其中,利用所述滑块驱动所述参考虚拟形象能够得到符合目标语义特征的虚拟形象,所述目标语义标签包含所述目标语义特征。
作为一种可选的实施例,所述虚拟形象生成模块包括:第一确定单元,用于基于所述语义特征,确定至少一个语义标签;第二确定单元,用于基于所述语义标签,确定对应的至少一个配件模型和/或至少一个饰品模型;以及配饰添加单元,用于在通过控制所述参考虚拟形象变形而得到的虚拟形象的基础上,增加所述至少一个配件模型和/或所述至少一个饰品模型,以得到所述目标虚拟形象。
应该理解,本公开装置部分的实施例与本公开方法部分的实施例对应相同或类似,所达到的技术效果也对应相同或类似,在此不再赘述。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,电子设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储电子设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
电子设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如虚拟形象的生成方法。例如,在一些实施例中,虚拟形象的生成方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的虚拟形象的生成方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行虚拟形象的生成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
- 虚拟形象生成模型的训练方法和虚拟形象生成方法
- 虚拟形象的生成方法、装置、设备和介质