掌桥专利:专业的专利平台
掌桥专利
首页

通过触摸与虚拟对象和数据的自然交互

文献发布时间:2023-06-19 09:57:26


通过触摸与虚拟对象和数据的自然交互

背景技术

本公开涉及计算机图形系统,并且更具体地,涉及虚拟环境。

与混合现实和/或虚拟现实环境中的虚拟对象的交互可能缺乏沉浸感。个人在自然世界中通过所有五感感知体验。这些体验中的大部分体验是被可视地引导,这导致在虚拟环境中交互时的感知分歧。例如,因为虚拟环境中的大部分交互是可视的,所以用户不得不仅仅依赖于可视线索以访问信息。此外,与虚拟环境的交互可能需要具有有限的交互能力的专用控制器。例如,复现交互性中的某种交互性的先前解决方案包括用户握在他们手中的虚拟环境手动控制器。这些控制器需要被握住,并且因此限制了允许手势和自然的交互的能力。

因此,本领域中存在针对与虚拟环境的交互的改善的需求。

发明内容

下文呈现了对本公开的一个或多个实现的简化的概括,以便提供对这样的实现的基础理解。本发明内容不是所有预期实现的广泛概述,并且既不旨在标识所有实现的关键元素或重要元素,也不旨在划分任何实现或所有实现的范围。其独特目的是以简化的形式呈现本公开的一个或多个实现的一些概念,作为稍后被呈现的更详细的描述的序言。

一个示例实现涉及计算机设备。该计算机设备可以包括存储数据和指令的存储器,与存储器通信的处理器,与存储器、处理器、以及提供虚拟环境的应用通信的操作系统。该应用可以可操作以至少基于触觉(haptic)反馈设备的移动来接收物理移动输入,该触觉反馈设备的移动对应于与虚拟环境中的虚拟对象的虚拟移动交互;访问与虚拟对象相关联的触觉签名;至少基于触觉签名来确定触觉响应,以通过触觉响应来标识虚拟对象;以及向触觉反馈设备传输触觉响应。

另一示例实现涉及用于向触觉反馈设备提供触觉响应的方法。该方法可以包括由提供在计算机设备上执行的虚拟环境的应用至少基于触觉反馈设备的移动来接收物理移动输入,该触觉反馈设备的移动对应于与虚拟环境中的虚拟对象的虚拟移动交互。该方法可以包括访问与虚拟对象相关联的触觉签名。该方法可以包括至少基于触觉签名来确定触觉响应,以通过触觉响应来标识虚拟对象。该方法可以包括向触觉反馈设备传输触觉响应。

另一示例实现涉及计算机可读介质,该计算机可读介质存储由计算机设备可执行的指令。该计算机可读介质可以包括至少一个指令,该至少一个指令用于使计算机设备至少基于触觉反馈设备的移动来接收物理移动输入,该触觉反馈设备的移动对应于与虚拟环境中的虚拟对象的虚拟移动交互。该计算机可读介质可以包括至少一个指令,该至少一个指令用于使计算机设备访问与虚拟对象相关联的触觉签名。该计算机可读介质可以包括至少一个指令,该至少一个指令用于使计算机设备至少基于触觉签名来确定触觉响应,以通过触觉响应来标识虚拟对象。该计算机可读介质可以包括至少一个指令,该至少一个指令用于使计算机设备向触觉反馈设备传输触觉响应。

与本公开的实现有关的附加优点和新颖特征部分地将在下面的描述中被阐述,并且部分地,随着对下文的审查或者随着通过对其实践的学习,这些附加优点和新颖特征对于本领域技术人员而言将变得更加明显。

附图说明

在附图中:

图1是根据本公开的实现的示例计算机设备的示意性框图;

图2是根据本公开的实现的与触觉反馈设备通信的多个计算机设备的示意图;

图3是根据本公开的实现的在虚拟环境中使用触觉手套的示意图;

图4是根据本公开的实现的在虚拟环境中使用触觉手套来复制内容的示意图;

图5是根据本公开的实现的使用触觉手套来操纵虚拟对象的示意图;

图6是根据本公开的实现的用于向触觉反馈设备提供触觉响应的示例方法流;以及

图7是根据本公开的实现的示例设备的示意性框图。

具体实施方式

本公开涉及用于使用触觉反馈设备来提供与虚拟环境的自然交互的设备和方法。例如,用户可以使用VR设备或者其他计算机设备与虚拟环境交互。如本文所使用的,VR设备可以包括生成和/或显示虚拟现实图像(例如,来自至少一个虚拟或数字环境输入)、增强现实(AR)图像(例如,来自至少一个虚拟或数字环境输入以及一个真实或物理环境输入)、和/或混合现实(MR)图像(或者混合现实,例如,真实或物理环境输入和VR输入的混合,并且包含AR以及虚拟地被增强)的设备。由于VR、AR和/或MR中的大多数交互可以是可视的,因此用户通常不得不依赖于可视线索来访问信息。通过使用触觉反馈设备,该设备和方法可以拓宽向与虚拟对象交互的用户传递信息的模式。

触觉反馈设备可以通过触觉反馈设备上的一个或多个触觉反馈单元来提供触感的(tactile)和/或其他感官的输出,以模拟触摸感并且提供当与虚拟对象交互时的各种感受的融合。例如,触觉反馈设备可以包括但不限于触觉手套、控制器、游戏手柄、操纵杆、键盘、鼠标或者其他输入设备。这样,当与虚拟现实和/或混合现实环境中的虚拟对象交互时,用户可以通过触觉反馈设备接收声音和/或触摸信号。

该设备和方法可以允许用户使用触觉反馈设备直接地操纵和/或触摸虚拟环境和/或混合现实环境中的数字对象。另外,该设备和方法还可以允许用户使用触觉反馈设备标识虚拟对象。例如,虚拟对象可以具有与该虚拟对象相关联的触觉签名。触觉签名可以是来自触觉致动器的任何清楚地可区分的信号,该信号使用户能够单独通过感觉来区分虚拟对象。触觉签名可以将独特的触感与虚拟对象相关联,其中独特的触感可以包括但不限于声音、一定量的压力或力、振动、纹理、气压、热效应、或前述各项的任何组合。这样,当用户使用触觉反馈设备触摸虚拟对象时,触觉签名可以被用于模拟虚拟对象的感觉,和/或以其他方式使得用户能够标识虚拟对象和/或虚拟对象的状态和/或属性。

例如,触觉签名可以使得用户能够在不必与该虚拟对象在视觉上互动的情况下,标识一个或多个虚拟对象。用户可以能够使用触觉签名来获悉数字对象的存在、位置、状态和/或动作,这导致由用户进行的更少的可视交互。这样,该设备和方法可以允许用户以更自然的方式与虚拟环境交互。

现在参考图1,用于与虚拟环境交互的示例系统100可以包括与一个或多个触觉反馈设备(诸如触觉手套106)通信的计算机设备102。计算机设备102可以执行至少一个应用10以运行虚拟环境12,其生成并且传送图像数据以用于在显示器设备108上显示定义虚拟环境12的一个或多个VR图像。显示器设备108可以位于计算机设备102上和/或可以与计算机设备102通信。显示器设备108可以包括但不限于头戴式显示器(HMD)设备、计算机设备102上的屏幕、和/或能够输出虚拟环境12的(多个)显示帧以用于由系统100的用户查看的任何其他设备。

虚拟环境12可以包括虚拟现实模拟(例如,虚拟现实游戏)、混合现实环境、和/或增强现实环境。另外,虚拟环境12可以包括一个或多个虚拟对象14,虚拟对象14可以被包括在虚拟环境12中。

用户可以使用经由网络104和/或通过有线或无线连接与计算机设备102通信的一个或多个触觉反馈设备(诸如但不限于触觉手套106)与虚拟环境12交互。触觉手套106可以通过触觉手套106上的一个或多个移动检测器29提供用户的检测物理移动21(例如,手的移动或者一根或多根手指的移动),并且可以向计算机设备102提供用户的物理移动21的量的输入。例如,移动检测器29可以包括检测手关节的挠曲传感器、相机、惯性测量单元(IMU)、和/或允许触觉手套106确定每个指尖位于何处和/或手关节的其他传感器。

当用户的物理移动21在由计算机设备102检测的区域内(诸如在头戴式显示器(HMD)的视场内)时,计算机设备102可以跟踪用户的物理移动21。例如,头戴式显示器可以具有光学跟踪系统,该光学跟踪系统可以确定在虚拟环境12中触觉手套106的手位置和/或物理移动21。另外,触觉手套106可以在触觉手套106上包括星座跟踪(constellationtracking),其可以使用头戴式显示器上的一个或多个相机,以在虚拟环境12中相对于头戴式显示器而定位触觉手套106。另一示例可以包括使用光学即时定位与地图构建(SLAM)跟踪或者LIDAR(光学雷达)和slam跟踪,以确定在虚拟环境12内的触觉手套106的位置和/或物理移动21。例如,触觉手套106上的小型相机可以被用于光学SLAM跟踪。另一示例可以包括计算机设备102使用磁性跟踪来确定在虚拟环境12内触觉手套106的物理移动21和/或位置。另一示例可以包括使用计算机设备102上的深度相机来确定触觉手套106的手关节和/或其他物理移动21。特别地,在一些情况下,物理移动21可以在由计算机设备102检测的区域之外,诸如可以由计算机设备102的一个实现体现的头戴式显示器(HMD)或近眼设备(NED)的视场之外。

用户的物理移动21可以对应于虚拟环境12中的虚拟移动20。这样,在虚拟环境12中所显示的虚拟移动20可以对应于从一个或多个触觉手套106所接收的物理移动21。触觉反馈设备可以不限于手套106,但是也可以包括但不限于控制器、游戏手柄、操纵杆、键盘、鼠标、或者可以提供可以对应于虚拟环境12中的虚拟移动20的物理移动21输入的其他输入设备。在一些情况下,诸如触觉手套106的触觉反馈设备可以包括处理器和存储器,该处理器和存储器执行指令以执行本文中所描述的位置感测动作和反馈生成动作,而在其他情况下,计算机设备102可以全部地或完全地控制触觉反馈设备。

触觉手套106可以允许用户直接操纵和/或触摸虚拟环境12中的对象14、指向虚拟环境12中的对象14、和/或选择虚拟环境12中的对象14。显示器设备108可以显示与触觉手套106在虚拟环境12内的位置相对应的手套位置22。例如,这样的当前手套位置22可以在与计算机设备102相关联的局部坐标系中、和/或在计算机设备102上的或与计算机设备102通信的位置跟踪系统中。在一些情况下,这样的局部坐标系可以对应于全局坐标系(诸如地理定位系统)或者与之相同。这样,用户可以在虚拟环境12内看见手套位置22,并且可以移动触觉手套106以直接操纵和/或触摸虚拟环境12中的对象14。

另外,触觉手套106可以通过触觉手套106上的一个或多个触觉反馈单元28来提供一个或多个触觉响应26,以模拟触摸感。每个触觉手套106可以具有一个或多个触觉反馈单元28,诸如在手套106上的位置中,在这些位置处感官的反馈可以帮助用户标识对象或者其状态或属性。例如,每个触觉手套106可以包括但不限于在手套106的手指和拇指区域上、以及可选地在手掌区域和/或手背区域上的触觉反馈单元28。触觉反馈单元28的示例可以包括但不限于以下一项或任何组合:偏心旋转质量致动器、线性谐振致动器、压电致动器、力反馈设备、扬声器、音圈致动器、空气涡流环、超声设备,或者适应于生成力反馈、振动触感反馈、或电触感反馈,超声触感反馈、和/或热反馈的任何设备,该设备然后可以在穿戴手套时被应用到用户的手或手指的至少一部分。例如,触觉响应26可以包括但不限于以下一项或任何组合:声音、触感、和/或在与虚拟对象14交互时可以提供一种或多种感受的融合的其他感官的输出。当用户将虚拟对象14握得更紧时,触觉响应26可以加强,并且当用户放松对虚拟对象14的抓握时,触觉响应26可以减轻。例如,如下面更详细地讨论的,一个或多个触觉响应26可以包括与对象相关联的独特的触觉签名18,该触觉签名18适应于使得用户能够标识对象和/或对象的状态和/或属性。这样,当与虚拟环境12中的虚拟对象14交互时,用户可以通过触觉手套106上的一个或多个触觉反馈单元28来接收声音和/或触摸信号。与虚拟对象14交互可以包括但不限于触摸虚拟对象14、选择虚拟对象14、和/或指向虚拟对象14。

在一个实现中,触觉手套106可以与多个计算机设备102通信。用户可以使用触觉手套106与在不同的计算机设备102上执行的虚拟环境12交互。例如,用户可以使用触觉手套106将虚拟对象14从在计算机设备102上执行的一个虚拟环境12移动到在不同的计算机设备102上执行的另一虚拟环境12。另外,多个触觉手套106可以与计算机设备102通信。例如,多个用户可以使用不同的触觉手套106与相同的虚拟环境12交互。

触觉手套106也可以由用户使用以标识虚拟环境12中的虚拟对象14。例如,每个虚拟对象14可以具有与虚拟对象14相关联的触觉签名18。触觉签名18可以将独特的触觉感受(例如,由用户可检测的感官的输出)与虚拟对象14相关联。例如,触觉签名18h可以包括但不限于对象发出的声音、当用户触摸对象时将作为反馈生成的力或者压力的量、对象的纹理、振动、温度、气压、或者前述各项的任何组合。换言之,触觉签名18可以由独特的皮肤受体模型定义,该独特的皮肤受体模型适应于生成可以由穿戴触觉手套106的用户感测的一个刺激或刺激的组合,并且在一些情况下使得用户能够标识虚拟对象和/或虚拟对象属性和/或虚拟对象状态。这样,当用户使用触觉手套106触摸虚拟对象14时,触觉签名18可以被用于确定要提供给触觉反馈单元28的对应的触觉响应26,以便模拟虚拟对象14的感觉。例如,触觉签名18可以在位于一只或两只触觉手套106内的多个触觉反馈单元28中的一个或多个触觉反馈单元中提供触觉反馈的某个组合、类型和/或强度。因此,在本解决方案的这一配置中,包括对触觉手套106的使用,该触觉手套106具有被放置在用户习惯于接收感官的反馈的区域中的触觉反馈单元28,与特定反馈响应组合,该特定反馈响应由在对应于给定对象的每个区域中的每个触觉反馈单元28提供,使得本解决方案能够在与虚拟对象交互时提供独特的物理反馈。

一个示例用例可以包括至少一只触觉手套106,该触觉手套106测量手指关节并且提供允许用户翻阅文件的触摸反馈,例如,如同用户正在翻阅物理世界中的物理文件柜中的物理文件。当用户正在翻阅虚拟环境12中的虚拟文件时,通过触觉手套106的触觉反馈单元28而被提供的触觉响应26可以模拟用户正在翻阅物理文件的感觉。

计算机设备102可以包括由处理器32和/或存储器34执行的操作系统110。计算机设备102的存储器34可以被配置用于存储数据和/或计算机可执行指令,该数据和/或计算机可执行指令定义操作系统110和/或与操作系统110相关联,并且处理器32可以执行这样的数据和/或指令以实例化操作系统110。存储器34的示例可以包括但不限于由计算机可使用的存储器类型,例如随机存取存储器(RAM)、只读存储器(ROM)、磁带、磁盘、光盘、易失性存储器、非易失性存储器以及前述各项的任何组合。处理器32的示例可以包括但不限于如本文所描述的专门地被编程的任何处理器,包括控制器、微控制器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、片上系统(SoC)、或者其他可编程逻辑或状态机。

计算机设备102可以包括任何移动或者固定计算机设备,其可以是可连接到网络的。例如,计算机设备102可以是诸如台式或膝上型或平板计算机的计算机设备、蜂窝电话、游戏设备、混合现实或虚拟现实设备、音乐设备、电视、导航系统、相机、个人数字助理(PDA)、或手持式设备、或者具有与一个或多个其他设备和/或通信网络的有线和/或无线连接能力的任何其他计算机设备。

应用10和/或操作系统110可以包括触觉反馈管理器24,触觉反馈管理器24可操作以确定当用户与虚拟环境12中的一个或多个虚拟对象14交互时要提供的一个或多个触觉响应26。当用户与一个或多个虚拟对象14交互时,触觉反馈管理器24可以访问与由用户使用触觉手套106触摸的虚拟对象14的对象ID 16相关联的触觉签名18。在一些情况下,触觉反馈管理器24位于计算机设备102上,在一些实例中作为操作系统110的一部分或者在其他实例中由处理器32和存储器34定义,而在其他的情况下,触觉反馈管理器24位于诸如触觉手套106的触觉反馈设备上。

触觉元数据数据存储库30可以将虚拟环境12中的各种虚拟对象14的对象ID 16与一个或多个触觉签名18相关联。通过使用触觉元数据数据存储库30,触觉反馈管理器24可以标识与虚拟对象14相关联的(多个)触觉签名18。触觉反馈管理器24可以使用触觉签名18以确定将提供给触觉手套106上的触觉反馈单元28的触觉响应26。触觉签名18可以标识虚拟对象14的纹理、当用户触摸虚拟对象14时将提供的压力的量、将应用的空气、将应用的温度、和/或当用户触摸虚拟对象14时将添加的任何声音。这样,触觉反馈管理器24可以使用触觉签名18中所提供的信息来确定将提供给用户的正确的触觉响应26。在一些实例中,触觉元数据数据存储库30被定义为操作系统110的一部分,而在其他实例中,触觉元数据数据存储库30由处理器32和存储器34定义。

例如,当用户使用虚拟手套106伸出并且触摸虚拟环境12中的草时,触觉反馈管理器24可以访问与草相关联的触觉签名18,并且可以使用触觉签名18来确定将提供给触觉手套106上的触觉反馈单元28的触觉响应26,以模拟草的纹理以及使用户感觉如同他们正在虚拟环境12中刷过草叶。

另外,触觉签名18可以被用于标识虚拟对象14。例如,当用户使用触觉手套106触摸虚拟对象14时,与虚拟对象14相关联的独特的触觉感受(例如,从触觉签名18确定的触觉响应26)可以标识虚拟对象14。例如,用户可以能够在不必与虚拟对象在视觉上互动的情况下,基于被提供给触觉手套106的触觉响应26标识虚拟对象14。这样,用户可以能够使用触觉签名18来获悉数字对象14的存在、位置、状态和/或动作,这导致由用户进行的更少的可视交互。

一个示例用例可以包括,通过使用触觉签名18,用户可以能够定位用户可以不能在视觉上看见的、位于虚拟钱包内部的一组虚拟钥匙。例如,当虚拟手套106触摸虚拟钥匙时,触摸反馈管理器24可以标识与虚拟钥匙相关联的触觉签名18,并且确定将提供给触觉手套106上的一个或多个触觉反馈单元28的触觉响应26。触觉响应26可以给用户模拟钥匙的感觉,使得用户可以基于触觉响应26从钱包拿起钥匙,而无需在视觉上在虚拟环境中定位钥匙。

另一示例用例可以包括用户将图书放置在虚拟环境12中其视场之外。为了再次拿起图书,用户可以伸出他们的视场外并且可以使用图书的触觉签名18标识图书,而无需使用可视信息。例如,触觉反馈管理器24可以确定将为图书提供的触觉响应26,该触觉响应26可以包括图书的形状以及在进行与图书的接触时将提供的声音。因此,当用户利用触觉手套106伸出他们的视场外并且使用触觉手套106触摸图书时,用户可以能够基于触觉响应26(例如,所模拟的图书的感觉、图书的形状、以及与图书接触的声音)标识图书并且使用触觉响应26以抓起正确的物品,而无需使用视觉信息。这样,所模拟的虚拟对象14的感觉可以通过触感响应以及音频响应两者来发出信号,以使得声音简档和触觉签名18可以一起工作以重新创建和/或模拟数字对象的感觉。

触觉签名18也可以通过任何数目文件的属性而被确定,包括但不限于文件名、文件类型、修改日期、和/或文件的内容。触觉签名18可以允许用户标识文档并且拿起文档,而无需可视地看向文档。此外,触觉签名18可以被用于至少基于不同的模式振动和/或压力改变来检测虚拟对象14之间的差异。另外,用户可以将触觉签名18分配给文件,以在用户与文件交互时,向用户传达含义。

例如,用户可能需要在混合现实虚拟环境12中标识文档。用户可以在虚拟环境12中使用触觉手套106向下伸出并且翻阅感觉像名片盒的事物。通过与文档相关联的触觉响应26的被模拟的触摸和感觉,用户可以至少基于文档的触觉签名18来标识用户想要访问的文档,而无需向下查找文档。

触觉签名18也可以被用于感测虚拟对象14的状态和/或动作。例如,触觉签名18可以被用于以信号通知虚拟对象14被锁定和/或对虚拟对象14的访问可能是受限制的。例如,被锁定的文件可以具有用于触觉签名18的警告蜂鸣(例如锯齿波)。例如,被解锁的文件可以使用用于触觉签名18的舒缓的正弦波,以显示被解锁的文件的相对可访问性。例如,音乐文件可以具有以与歌曲相同的波形振动的触觉签名18。例如,文本文档可以具有以摩斯码蜂鸣标题的触觉签名18。触觉签名18也可以采用文件的标题中的字母,将字母变成音符,并产生一组独特的不同频率的振动,其可以循环播放以指示文件名。另外,触觉签名18可以被用于指示虚拟对象14不可以被移动到另一位置。触觉签名18也可以被用于指示文件的重要性的级别。这样,触觉的用户交互可以被用于检测和/或感测文件的状态,诸如但不限于在虚拟现实和/或混合现实中的数字对象的被锁定、被解锁、最近被更新、未读和/或重要程度。

一个示例用例可以包括,当用户正在与虚拟环境12中的文件(例如,文档、视频、照片)交互时,触觉签名18可以指示文件不可以从一个文件夹移动到另一个文件夹。这样,被提供给触觉手套106上的触觉反馈单元28的触觉响应26可以使用户感觉他手中的压力的变化,这导致抵抗感,从而防止用户将文件从一个文件夹移动到另一个文件夹。

另一示例可以包括,当用户不具有对文件的访问时,用户可以通过触觉手套106接收警告振动。例如,与文件相关联的触觉签名18可以指示对文件的访问是受限制的。当用户试图使用触觉手套106访问该文件时,触觉反馈管理器24可以确定警告振动是将提供给触觉反馈单元28的触觉响应26。这样,当用户试图访问该文件时,用户可以通过触觉手套106上的触觉反馈单元28接收警告振动。

另一用例可以包括在虚拟环境12中位于用户周围的虚拟对象14(诸如,按钮和文件夹)。用户可以能够通过仅使用基于虚拟对象14的触觉签名18的触觉响应26,来感觉、定位、交互和/或确定虚拟对象14的状态(例如,被锁定/未被锁定)。结果,本解决方案可以允许用户更少依赖屏幕/显示器,以及在没有可视信息的情况下标识对象。

触觉签名18可以自动地从预定义的触觉感受的库被访问,以与虚拟对象14相关联。触觉感受的库可以包括但不限于声音、纹理、将提供的压力的量、温度、和/或其他感官的输出,以便各种感受的融合可以在与虚拟对象14交互时被提供给用户。通过使用预定义的触觉感受的库,内容提供方可以使触觉签名18自动地被创建,以便触觉响应26可以在内容提供方不必创建触觉签名18的情况下被提供给用户。例如,内容提供方可以从触觉感受的库访问用于按钮的触觉签名18,以便当用户触摸虚拟环境12中的按钮时,用于按钮的触觉签名18可以自动地被提供在触觉元数据数据存储库30中,并且由触觉反馈管理器24使用以确定将为按钮提供的触觉响应26。

另外,触觉签名18可以由内容提供方创建,以存储在触觉元数据数据存储库30中。例如,内容提供方可以想要按钮具有当用户触摸该按钮时用户可以感觉的徽标,以及当该按钮被按压时具有叮当声播放。内容提供方可以创建触觉签名18以包括用于按钮的徽标和叮当声。另一示例可以包括,内容供应方可以想要展示样本面料,以向客户提供对布料可能是什么感觉的感受。当面料被定制设计时,内容提供方可以创建触觉签名18。备选地,内容提供方可以使用触觉签名18的库来模拟通常被使用的面料。

触觉签名18也可以是用户定义的。用户输入可以被接收,该用户输入将一个或多个触觉响应特性分配给用于一个或多个虚拟对象14的触觉签名18。例如,用户输入可以将不同的触觉效应分配给虚拟对象的不同类别的触觉签名18,以标识针对虚拟对象14的优先级标签和/或分类。一个示例用例可以包括,分配一个或多个触觉响应作为用户标签文档和/或电子邮件,以便当用户在稍后的时间与被加标签的文档和/或电子邮件交互时,用户接收到被分配的触觉响应。用户也可以通过将组合对触觉的不同的波形和/或输入来创作触觉感觉,以包括在用于一个或多个虚拟对象14的触觉签名18中。

这样,被存储在触觉元数据数据存储库30的触觉签名18可以包括预定义的触觉签名18、用户定义的触觉签名18、由虚拟环境12的内容提供方创建的触觉签名18、和/或前述各项的组合。

在一个实现中,触觉反馈管理器24可以位于触觉手套106上。这样,触觉手套106可以从应用10和/或计算机设备102接收触觉签名18,并且可以至少基于所接收的触觉签名18而确定将通过触觉反馈单元28提供的触觉响应26。

因此,通过提供可以被用于在虚拟环境12中模仿真实世界的触觉响应26,触觉手套106可以允许用户以自然的方式与虚拟环境交互。此外,触觉手套106可以在与虚拟对象交互时提供各种感受的融合,从而提供到虚拟环境12中的更完全的沉浸感。

现在参考图2,示例系统200可以包括与触觉手套106交互的多个计算机设备102、202。用户204可以具有在计算机设备102上执行的虚拟环境12,虚拟环境12具有可以在虚拟环境12中被访问的多个虚拟对象14。例如,虚拟对象14可以是用户204可以访问的各种文件夹。

另外,用户204可以拥有另一计算机设备202,其具有在计算机设备202上执行的虚拟环境206。用户204可以使用触觉手套106将文件14从计算机设备102上的虚拟环境12复制到计算机设备202上的虚拟环境206。用户204可以使用触觉手套106执行与复制功能相关联的动作(例如,夹紧文件14)以复制文件14,以及执行与粘贴相关联的另一动作(例如,松开文件14的夹紧)以将文件14粘贴在计算机设备202上的虚拟环境206中。在另一示例中,与文件14相关联的触觉签名18(图1)可以指示文件14可以被复制和被粘贴,例如,被移动。这样,当用户204使用触觉手套106选择文件时,该文件可以被传递和/或被复制到计算机设备202上的虚拟环境206。

因此,触觉手套106可以被用于在与触觉手套106通信的不同的计算机设备102、202上执行的虚拟环境12、206之间传递虚拟对象14。此外,触觉手套106可以被用于与两个虚拟环境12、206中的虚拟对象14交互。

现在参考图3,在虚拟环境12中使用触觉手套106的一个示例可以包括虚拟计算机屏幕304和被投射到虚拟环境12中的虚拟键盘306。用户302可以使用触觉手套106在虚拟键盘306上打字。虚拟手套106可以向用户提供模拟在真实键盘上打字的触觉响应26。这样,用户302可以使用通过触觉响应26而被提供的压力来在虚拟环境12中的虚拟键盘306上打字。

现在参考图4,在虚拟环境12中使用触觉手套106的一个示例可以包括用户402阅读虚拟环境12中的虚拟图书406。用户402可以想要从虚拟图书406复制内容。这样,用户402可以使用触觉手套106高亮404用户402想要复制的内容的部分,例如,诸如通过沿着内容的区域或者在内容的区域之上移动手指(诸如被录入在虚拟图书406中的虚拟句子)。这样,触觉手套106可以允许用户402更自然地与虚拟环境12中的虚拟对象交互。

现在参考图5,在虚拟环境12中使用触觉手套106的一个示例可以包括用户使用触觉手套106操纵虚拟对象14。例如,用户可以抓起虚拟对象14并且可以将虚拟对象14旋转502到各种方向上。触觉响应26可以给用户提供与移动对象14相关联的外表面、重量以及惯性的感觉。因此,触觉手套106可以给用户提供以自然的方式抓起和/或移动虚拟环境12中的虚拟对象14的自由。

现在参考图6,结合图1的架构的描述讨论了用于向触觉反馈设备提供触觉响应26(图1)的方法流600,该触觉响应26用于和应用10(图1)一起由计算机设备102(图1)使用。

在602处,方法600可以包括至少基于触觉反馈设备的移动来接收物理移动输入,该触觉反馈设备的移动对应于与虚拟环境中的虚拟对象的虚拟移动交互。用户可以使用经由网络104和/或通过有线或无线连接与计算机设备102通信的一个或多个触觉反馈设备(诸如但不限于触觉手套106)与虚拟环境12交互。触觉手套106可以通过触觉手套106上的一个或多个移动检测器29提供检测用户的物理移动21(例如,手的移动或者一根或多根手指的移动),并且可以向计算机设备102提供用户的物理移动21的量的输入。例如,移动检测器29可以包括检测手关节的挠曲传感器、相机、惯性测量单元(IMU)、和/或允许触觉手套106跟踪手关节的其他传感器。用户的物理移动21可以对应于虚拟环境12中的虚拟移动20,以便当用户移动触觉手套106的某个部分以与虚拟对象14交互时,触觉反馈设备106可以在和虚拟对象14的部分相同的位置中。与虚拟对象14交互可以包括但不限于触摸虚拟对象14、选择虚拟对象14、和/或指向虚拟对象14。这样,在虚拟环境12中被显示的虚拟移动20可以对应于从一个或多个触觉手套106所接收的物理移动21。

当用户的物理移动21在由计算机设备102的检测的区域内(诸如在头戴式显示器(HMD)的视场内)时,计算机设备102可以使用一个或多个相机跟踪用户的物理移动21。例如,头戴式显示器可以具有光学跟踪系统,该光学跟踪系统可以确定在虚拟环境12中触觉手套106的手位置和/或物理移动21。另外,触觉手套106可以在触觉手套106上包括星座跟踪,其可以使用头戴式显示器上的一个或多个相机,以在虚拟环境12中相对于头戴式显示器而定位触觉手套106。另一示例可以包括使用光学即时定位与地图构建(SLAM)跟踪或者LIDAR(光学雷达)和SLAM跟踪,以确定在虚拟环境12内的触觉手套106的位置和/或物理移动21。例如,触觉手套106上的小型相机可以被用于光学SLAM跟踪。另一示例可以包括计算机设备102使用磁性跟踪以确定在虚拟环境12内触觉手套106的物理移动21和/或位置。另一示例可以包括使用计算机设备102上的深度相机来确定触觉手套106的手关节和/或其他物理移动21。特别地,在一些情况下,物理移动21可以在由计算机设备102检测的区域之外,诸如可以由计算机设备102的一个实现体现的头戴式显示器(HMD)或近眼设备(NED)的视场之外。

触觉反馈设备可以不限于手套106,但是也可以包括但不限于控制器、游戏手柄、操纵杆、键盘、鼠标、或者可以提供可以对应于虚拟环境12中的虚拟移动20的物理移动21输入的其他输入设备。在一些情况下,诸如触觉手套106的触觉反馈设备可以包括处理器和存储器,该处理器和存储器执行指令以执行本文中所描述的位置感测动作和反馈生成动作,而在其他的情况下,计算机设备102可以全部地或完全地控制触觉反馈设备。

触觉手套106可以允许用户直接操纵和/或触摸虚拟环境12中的对象14、指向虚拟环境12中的对象14、和/或选择虚拟环境12中的对象14。显示器设备108可以显示与触觉手套106在虚拟环境12内的位置相对应的手套位置22。这样,用户可以在虚拟环境12内看见手套位置22,并且可以移动触觉手套106以直接操纵和/或触摸虚拟环境12中的对象14。

在604处,方法600可以包括访问与对象相关联的触觉签名。触觉手套106也可以由用户使用以标识虚拟环境12中的虚拟对象14。例如,每个虚拟对象14可以具有与虚拟对象14相关联的触觉签名18。触觉签名18可以将独特的触觉感受(例如,由用户可检测的感官的输出)与虚拟对象14相关联。例如,触觉签名18可以包括但不限于对象发出的声音、当用户触摸对象时将作为反馈生成的力或者压力的量、对象的纹理、振动、温度、气压、或者前述各项的任何组合。换言之,触觉签名18可以由独特的皮肤受体模型定义,该独特的皮肤受体模型适应于生成可以由穿戴触觉手套106的用户感测的一个刺激或刺激的组合,并且在一些情况下使得用户能够标识虚拟对象和/或虚拟对象属性和/或虚拟对象状态。

这样,当用户使用触觉手套106触摸虚拟对象14时,触觉签名18可以被用于确定将提供给触觉反馈单元28的对应的触觉响应26,以便模拟虚拟对象14的感觉。例如,触觉签名18可以在位于一只或两只触觉手套106内的多个触觉反馈单元28中的一个或多个触觉反馈单元中提供触觉反馈的某个组合、类型和/或强度。因此,在本解决方案的这一配置中,包括对触觉手套106的使用,该触觉手套106具有被放置在用户习惯于接收感官的反馈的区域的触觉反馈单元28,与特定反馈响应组合,该特定的反馈响应由在对应于给定对象的每个区域中的每个触觉反馈单元28提供,使得本解决方案能够在与虚拟对象交互时提供独特的物理反馈。

应用10和/或操作系统110可以包括触觉反馈管理器24,触觉反馈管理器24可操作以确定当用户与虚拟环境12中的一个或多个虚拟对象14交互时将提供的一个或多个触觉响应26。当用户与一个或多个虚拟对象14交互时,触觉反馈管理器24可以访问与由用户使用触觉手套106触摸的虚拟对象14的对象ID 16相关联的触觉签名18。在一些情况下,触觉反馈管理器24位于计算机设备102上,在一些实例中作为操作系统110的一部分或者在其他实例中由处理器32和存储器34定义,而在其他的情况下,触觉反馈管理器24位于诸如触觉手套106的触觉反馈设备上。

触觉元数据数据存储库30可以将虚拟环境12中的各种虚拟对象14的对象ID 16与一个或多个触觉签名18相关联。通过使用触觉元数据数据存储库30,触觉反馈管理器24可以标识与虚拟对象14相关联的(多个)触觉签名18。在一些实例中,触觉元数据数据存储库30被定义为操作系统110的一部分,而在其他实例中,触觉元数据数据存储库30由处理器32和存储器34定义。

在606处,方法600可以包括至少基于触觉签名确定将提供给触觉反馈设备的触觉响应。触觉反馈管理器24可以使用触觉签名18来确定将提供给触觉手套106上的触觉反馈单元28的触觉响应26。触觉签名18可以标识虚拟对象14的纹理、当用户触摸虚拟对象14时将提供的压力的量、将应用的空气、将应用的温度、和/或当用户触摸虚拟对象14时将添加的任何声音。这样,触觉反馈管理器24可以使用触觉签名18中所提供的信息以确定将提供给用户的正确的触觉响应26,并且生成对应的电触觉响应信号来控制一个或多个触觉反馈单元28的操作,以生成输出来创建由触觉签名18定义的所期望的感官效应。

在608处,方法600可以包括向触觉反馈设备传输触觉响应。例如,触觉反馈管理器24可以向触觉手套106传输对应于触觉响应26的触觉响应信号。

在610处,方法600可以包括输出反馈响应。例如,触觉手套106可以通过触觉手套106上的一个或多个触觉反馈单元28提供触觉响应26,以模拟触摸感。例如,触觉反馈单元28可以输出对应于触觉响应信号的触觉响应26,并且触觉签名18可以提供对触觉反馈单元28的每个单元的特定反馈响应。另外,触觉签名18可以向触觉反馈单元28的不同单元提供不同的响应。触觉反馈单元28的示例可以包括但不限于以下一项或任何组合:偏心旋转质量致动器、线性谐振致动器、压电致动器、力反馈设备、扬声器、音圈致动器、空气涡流环、超声设备,或者适应于生成力反馈、振动触感反馈、或电触感反馈,超声触感反馈、和/或热反馈的任何设备,其然后可以在穿戴手套时被应用到用户的手的或手指的至少一部分。

触觉响应26可以包括但不限于以下的一项或任何组合:声音、触感、和/或在与虚拟对象14交互时可以提供一种或多种感受的融合的其他感官的输出。当用户将虚拟对象14握得更紧时,触觉响应26可以加强,并且当用户放松对虚拟对象14的抓握时,触觉响应26可以减轻。另外,一个或多个触觉响应26可以包括与对象相关联的独特的触觉签名18,该触觉签名18适应于使得用户能够标识对象和/或对象的状态和/或属性。这样,当与虚拟环境12中的虚拟对象14交互时,用户可以通过触觉手套106上的一个或多个触觉反馈单元28接收声音和/或触摸信号。

如此,通过提供可以被用于在虚拟环境中模仿真实世界的触觉响应,方法600可以允许用户以自然的方式与虚拟环境交互。此外,方法600可以在与虚拟对象交互时提供各种感受的融合,从而提供到虚拟环境中的更完全的沉浸感。

现在参考图7,所示出的是根据一个实现的示例计算机设备102,与图1相比,图7包括了附加的组件细节。在一个示例中,计算机设备102可以包括处理器32,处理器32用于执行与本文中所描述的组件和功能中的一个或多个组件和功能相关联的处理功能。处理器32可以包括单组或多组处理器或多核处理器。此外,处理器32可以被实现为集成处理系统和/或分布式处理系统。

计算机设备102还可以包括存储器34,诸如用于存储正由处理器32执行的应用的本地版本。存储器34可以包括由计算机可使用的存储器的类型,诸如随机存取存储器(RAM)、只读存储器(ROM)、磁带、磁盘、光盘、易失性存储器、非易失性存储器、以及前述各项的任何组合。另外,处理器32和存储器34可以包括并且执行操作系统110(图1)。

此外,计算机设备102可以包括通信组件36,通信组件36提供建立和维护与利用本文中所描述的硬件、软件以及服务的一方或多方的通信。通信组件36可以支持计算机设备102上的组件之间的通信、以及计算机设备102和外部设备(诸如跨通信网络定位的设备和/或串行地或本地地被连接到计算机设备102的设备)之间的通信。例如,通信组件36可以包括一个或多个总线,并且还可以包括分别与传输器和接收器相关联的传输链组件和接收链组件,其可操作以用于与外部设备接口连接。

附加地,计算机设备102可以包括数据存储库38,该数据存储库38可以是硬件和/或软件的任何合适的组合,其提供结合本文中所描述的实现而被采用的信息、数据库以及程序的大容量存储装置。例如,数据存储库38可以是用于应用10(图1)的数据储存库、触觉反馈管理器24(图1)、触觉元数据数据存储库30(图1)、和/或显示器设备108(图1)。

计算机设备102也可以包括用户界面组件40,该用户界面组件40可操作以从计算机设备102的用户接收输入,并且还可操作以生成用于呈现给用户的输出。用户界面组件40可以包括一个或多个输入设备,包括但不限于键盘、数字小键盘、鼠标、触敏显示器、导航键、功能键、麦克风、语音识别组件、能够从用户接收输入的任何其他机构、或者前述各项的任何组合。此外,用户界面组件40可以包括一个或多个输出设备,包括但不限于显示器、扬声器、触觉反馈机构、打印机、能够向用户呈现输出的任何其他机构、或者前述各项的任何组合。

在一种实现中,用户界面组件40可以传输和/或接收对应于应用10、触觉反馈管理器24、触觉元数据数据存储库30和/或显示器设备108的操作的消息。另外,处理器32执行应用10、触觉反馈管理器24、触觉元数据数据存储库30和/或显示器设备108,并且存储器34或数据存储库38可以存储它们。

如本申请中所使用的,术语“组件”、“系统”等旨在包括与计算机有关的实体,诸如但不限于硬件、固件、硬件和软件的组合、软件、或者执行中的软件。例如,组件可以是但不限于是,在处理器上运行的进程、处理器、对象、可执行文件、执行线程、程序和/或计算机。作为说明,在计算机设备上运行的应用和计算机设备都可以是组件。一个或多个组件可以驻留在执行的进程和/或线程内,并且一个组件可以位于一个计算机上和/或被分布在两个或更多个计算机之间。另外,这些组件可以从其上存储了各种数据结构的各种计算机可读介质执行。组件可以通过本地和/或远程进程通信(诸如根据具有一个或多个数据分组的信号,诸如来自一个组件的、与本地系统、分布式系统中的另一组件交互的数据),和/或跨网络(诸如因特网)以信号的方式与其他系统交互。

此外,术语“或”旨在表示包含性的“或”而不是排他性的“或”。即,除非另有指定,或者从上下文中很清楚,否则短语“X采用A或B”旨在表示自然的包含性排列中的任何自然的包含性排列。即,以下实例中的任何实例都满足短语“X采用A或B”:X采用A;X采用B;或者X使用A和B两者。另外,除非另有指定或上下文中清楚地指向单数形式,否则如本申请和所附权利要求书中所使用的冠词“一(a)”和“一个(an)”应当一般地被解释成表示“一个或多个”。

各种实现或特征可能已经以可以包括多个设备、组件、模块等的系统的形式而被呈现。应当理解和了解,各种系统可以包括附加的设备、组件、模块等,和/或可以不包括结合附图所讨论的设备、组件、模块等中的所有设备、组件、模块等。也可以使用这些方法的组合。

结合本文中所公开的实施例而被描述的方法的各种说明性的逻辑、逻辑块和动作可以利用以下各项中专门地被编程的一项而被实现或被执行:通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其他可编程逻辑设备、分立门或晶体管逻辑、分立硬件组件、或者被设计以执行本文中所描述的功能的前述各项的任何组合。通用处理器可以是微处理器,或者备选地,该处理器可以是任何常规处理器、控制器、微控制器或状态机。处理器也可以被实现为计算机设备的组合,例如,DSP和微处理器的组合、多个微处理器、与DSP核结合的一个或多个微处理器、或任何其他这样的配置。另外,至少一个处理器可以包括一个或多个组件,该一个或多个组件可操作以执行上述步骤和/或动作中的一个或多个步骤和/或动作。

此外,结合本文所公开的实现而被描述的方法或算法的步骤和/或动作可以直接被体现在硬件中、由处理器执行的软件模块中、或前述两者的组合中。软件模块可以驻留在RAM存储器、闪速存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移除磁盘、CD-ROM、或者本领域中已知的任何其他形式的存储介质中。示例性存储介质可以被耦合到处理器,以使得该处理器可以从该存储介质读取信息,以及向该存储介质写入信息。备选地,存储介质可以是与处理器一体的。此外,在一些实现中,处理器和存储介质可以驻留在ASIC中。另外,ASIC可以驻留在用户终端中。备选地,处理器和存储介质可以作为分立组件驻留在用户终端中。另外,在一些实现中,方法或算法的步骤和/或动作可以作为代码和/或指令中的一个或任何组合或者集合而驻留在机器可读介质和/或计算机可读介质上,该机器可读介质和/或计算机可读介质可被并入计算机程序产品。

在一个或多个实现中,所描述的功能可以被实现在硬件、软件、固件或前述各项的任何组合中。如果在软件中被实现,则该功能可以作为一个或多个指令或代码在计算机可读介质上被存储或被传输。计算机可读介质包括计算机存储介质和通信介质两者,通信介质包括支持计算机程序从一个地方到另一个地方的传递的任何介质。存储介质可以是能够由计算机访问的任何可用介质。通过示例而非限制,这样计算机可读介质可包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储装置、磁盘存储装置或其他磁性存储设备、或者可以被用于以指令或数据结构的形式存储所期望的程序代码并且可以由计算机访问的任何其他介质。如本文所使用的磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能光盘(DVD)、软盘和蓝光盘,其中磁盘通常以磁性方式复制数据,而光盘通常使用激光以光学方式复制数据。上述的组合也应当被包括在计算机可读介质的范围内。

尽管已经结合其示例描述了本公开的实现,但是本领域技术人员将理解,可以在不背离本发明范围的情况下,做出对上述实现的变化和修改。通过考虑说明书、或者通过根据本文中所公开的示例的实践,其他实现对于本领域技术人员将是明显的。

相关技术
  • 通过触摸与虚拟对象和数据的自然交互
  • 一种对象数据库实现方法和虚拟对象数据库
技术分类

06120112364433