掌桥专利:专业的专利平台
掌桥专利
首页

用于组织和共享目的地位置的界面

文献发布时间:2024-04-18 19:52:40


用于组织和共享目的地位置的界面

优先权要求

本申请要求2020年9月30日提交的美国临时专利申请第63/085,984号和2021年1月12日提交的美国专利申请序列号17/147,008的优先权的权益,这两个申请的全部内容出于所有目的在此通过引用并入本文中。

背景技术

随着数字图像使用的增加、便携式计算设备的可负担性、数字存储介质的增加的容量的可用性以及网络连接的增加的带宽和可访问性,数字图像已经成为越来越多人日常生活的一部分。

附图说明

为了容易地标识对任何特定要素或动作的讨论,附图标记中的一个最高有效数字或多个最高有效数字指代该要素被首次引入时的图号。

图1是根据一些示例实施方式的在其中可以部署本公开内容的联网环境的图形表示。

图2是根据一些示例实施方式的消息收发客户端应用的图形表示。

图3是根据一些示例实施方式的如在数据库中维护的数据结构的图形表示。

图4是根据一些示例实施方式的消息的图形表示。

图5是根据一些示例实施方式的访问限制过程的流程图。

图6是示出根据一些实施方式的包括与给定消息对应的附加信息的如图4中所述的消息注释的结构的示意图。

图7是示出根据某些示例实施方式的注释系统的各种模块的框图。

图8示出了增强现实(AR)内容生成器以及在消息收发客户端应用(或消息收发系统)中呈现由AR内容生成器生成的AR内容项的示例。

图9示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用(或消息收发系统)中呈现由AR内容生成器生成的AR内容项的示例。

图10示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用(或消息收发系统)中呈现由AR内容生成器生成的AR内容项的示例。

图11示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用(或消息收发系统)中呈现由AR内容生成器生成的AR内容项的示例。

图12示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用(或消息收发系统)中呈现由AR内容生成器生成的AR内容项的示例。

图13示出了根据一些实施方式的用户界面以及在消息收发客户端应用(或消息收发系统)中呈现由AR内容生成器生成的内容项的示例。

图14是示出根据某些示例实施方式的方法的流程图。

图15是示出根据某些示例实施方式的方法的流程图。

图16是示出根据某些示例实施方式的方法的流程图。

图17是示出根据某些示例实施方式的方法的流程图。

图18是示出根据一些示例实施方式的在其中可以实现本公开内容的软件架构的框图。

图19是根据一些示例实施方式的呈计算机系统形式的机器的图形表示,在该计算机系统中可以执行指令集以使机器执行讨论的方法中的任何一种或更多种方法。

具体实施方式

来自各种位置的兴趣广泛的用户可以捕获各种主题的数字图像,并且使其他人可经由网络(诸如因特网)获得所捕获的图像。为了增强用户对数字图像的体验并提供各种特征,从而使得计算设备能够对在各种变化条件(例如,图像尺度、噪声、照明、运动或几何失真的变化)下捕获的各种对象和/或特征执行图像处理操作可能是有挑战性的并且是计算密集的。

可以在本文的实施方式中所描述的消息收发客户端应用(或消息收发系统)中提供增强现实(AR)体验。然而,在一些情况下,这样的AR体验被隔离成单个用户体验,其中AR内容项被渲染以显示给与单个用户相对应的单个客户端设备。因此,为了增加由本主题技术提供的消息收发平台的活动和参与,本主题技术提供了共享(或组)体验,其中AR内容项连同用户组被提供。更具体地,本主题技术实现了涉及与旅行活动(例如,目的地地理位置、旅行计划、旅行活动等)相关的AR体验的共享组体验。

因此,本主题技术被理解为在呈现与一个或更多个地理位置相关的AR内容项方面有利地提供技术改进,所述一个或更多个地理位置可以不同于与用户组相关联的相应计算设备的当前地理位置。可以使用AR内容项渲染这样的地理位置以用于显示以实现用户组的交互,其中给定用户的每次交互可以由来自所述组的至少一个其他用户以以下方式观察:促进AR内容的自然且直观的呈现(例如,没有由于图形瓶颈和AR内容的低效处理而导致的滞后和丢帧),从而增加在包括(真实)物理项和AR内容项的混合的环境中的存在感。

在示例中,技术改进还涉及利用服务器或远程计算资源来处理和渲染AR内容,而在又一示例中,AR内容可以由给定计算设备渲染,并且然后利用点对点网络、本地网络或取决于与用户组相关联的每个相应设备之间的物理距离的短距离网络被传播到其他计算设备以用于呈现。通过本文描述的各种技术的组合和利用,与其他现有的实施方式相比,可以减少显示AR内容项的等待时间(例如,用于生成AR内容并且随后在来自用户组的每个设备的相应显示器上渲染AR内容的持续时间),以提供更加身临其境和引人入胜的用户体验。

如本文进一步讨论的,本主题基础设施支持在消息收发系统的全部各种组件中创建和共享包括3D内容或AR效果的交互式媒体,本文称为消息。在本文描述的示例实施方式中,消息可以从现场相机(live camera)或经由存储装置(例如,其中,包括3D内容和/或AR效果的消息被存储在存储器或数据库中)进入系统。本主题系统支持运动传感器输入以及外部效果和资产数据的加载。

如本文所描述,消息包括交互式图像。在示例实施方式中,除了传统的图像纹理之外,还使用本主题系统来渲染消息以使相机所看到的空间细节/几何形状可视化。当观看者通过移动客户端设备与该消息进行交互时,该移动会触发向观看者渲染图像和几何形状的视角的相应变化。

如本文所提及的,短语“增强现实体验”、“增强现实内容项”、“增强现实内容生成器”包括或指代与如本文进一步描述的图像修改、过滤、Lenses、媒体覆盖、变换等相对应的各种图像处理操作。

图1是示出用于通过网络交换数据(例如,消息和相关联的内容)的消息收发系统100的示例的框图。消息收发系统100包括客户端设备102的多个实例,每个实例托管包括消息收发客户端应用104的多个应用。每个消息收发客户端应用104经由网络106(例如,因特网)通信地耦接至消息收发客户端应用104的其他实例和消息收发服务器系统108。

消息收发客户端应用104能够经由网络106与另一消息收发客户端应用104和消息收发服务器系统108进行通信和交换数据。在消息收发客户端应用104之间以及在消息收发客户端应用104与消息收发服务器系统108之间交换的数据包括函数(例如,调用函数的命令)以及有效载荷数据(例如,文本、音频、视频或其他多媒体数据)。

消息收发服务器系统108经由网络106向特定消息收发客户端应用104提供服务器端功能。虽然消息收发系统100的某些功能在本文中被描述为由消息收发客户端应用104或由消息收发服务器系统108执行,但是在消息收发客户端应用104或消息收发服务器系统108内的某些功能的位置是设计选择。例如,在技术上可能优选的是最初在消息收发服务器系统108内部署某些技术和功能,但是稍后将该技术和功能迁移至其中客户端设备102具有足够处理能力的消息收发客户端应用104。

消息收发服务器系统108支持被提供给消息收发客户端应用104的各种服务和操作。这样的操作包括:向消息收发客户端应用104发送数据、从消息收发客户端应用104接收数据、以及处理由消息收发客户端应用104生成的数据。作为示例,该数据可以包括消息内容、客户端设备信息、地理位置信息、媒体注释和覆盖、消息内容持续条件、社交网络信息和现场事件信息。通过经由消息收发客户端应用104的用户界面(UI)可获得的功能来调用和控制消息收发系统100内的数据交换。

现在具体转到消息收发服务器系统108,应用程序接口(API)服务器110耦接至应用服务器112并且向应用服务器112提供编程接口。应用服务器112通信地耦接至数据库服务器118,这有助于访问其中存储有与由应用服务器112处理的消息相关联的数据的数据库120。

应用程序接口(API)服务器110在客户端设备102与应用服务器112之间接收和发送消息数据(例如,命令和消息有效载荷)。具体地,应用程序接口(API)服务器110提供接口(例如,例程和协议)的集合,所述接口的集合可以由消息收发客户端应用104调用或查询,以便调用应用服务器112的功能。应用程序接口(API)服务器110公开由应用服务器112支持的各种功能,包括帐户注册、登录功能、经由应用服务器112从特定的消息收发客户端应用104向另一消息收发客户端应用104发送消息、从消息收发客户端应用104向消息收发服务器应用114发送媒体文件(例如,图像或视频)、用于另一消息收发客户端应用104的可能访问、媒体数据的集合(例如,故事)的设置、客户端设备102的用户的好友列表的检索、这样的集合的检索、消息和内容的检索、向社交图添加和删除好友、社交图内好友的位置、以及打开应用事件(例如,涉及消息收发客户端应用104)。

应用服务器112托管多个应用和子系统,包括消息收发服务器应用114、图像处理系统116和社交网络系统122。消息收发服务器应用114实现许多消息处理技术和功能,尤其涉及包括在从消息收发客户端应用104的多个实例接收的消息中的内容(例如,文本和多媒体内容)的汇集和其他处理。如将更详细地描述的,来自多个源的文本和媒体内容可以被汇集成内容的集合(例如,被称为故事或库)。然后消息收发服务器应用114使这些集合可用于消息收发客户端应用104。鉴于用于这样的处理的硬件要求,消息收发服务器应用114还可以在服务器端执行其他处理器和存储器密集型的数据处理。

应用服务器112还包括专用于执行各种图像处理操作的图像处理系统116,所述各种图像处理操作通常针对在消息收发服务器应用114处的消息的有效载荷内接收的图像或视频。

社交网络系统122支持各种社交联网功能服务,并且使这些功能和服务可用于消息收发服务器应用114。为此,社交网络系统122维护并访问数据库120内的实体图304(如图3中所示)。社交网络系统122支持的功能和服务的示例包括特定用户与之有关系或“关注”其的消息收发系统100的其他用户的标识以及其他实体和感兴趣的特定用户的标识。

应用服务器112通信地耦接至数据库服务器118,这有助于访问其中存储有与由消息收发服务器应用114处理的消息相关联的数据的数据库120。

图2是示出根据示例实施方式的关于消息收发系统100的另外的细节的框图。具体地,消息收发系统100被示出为包括消息收发客户端应用104和应用服务器112,其又包含多个一些子系统,即短暂定时器系统202、集合管理系统204和注释系统206。

短暂定时器系统202负责实施对消息收发客户端应用104和消息收发服务器应用114所允许的内容的临时访问。为此,短暂定时器系统202包含多个定时器,这些定时器基于与消息或消息的集合(例如,故事)相关联的持续时间和显示参数,短暂定时器系统202选择性地显示消息和相关联的内容以及使得能够经由消息收发客户端应用104访问消息和相关联的内容。下面提供关于短暂定时器系统202的操作的另外的细节。

集合管理系统204负责管理媒体的集合(例如,文本、图像视频和音频数据的集合)。在一些示例中,内容(例如,消息,包括图像、视频、文本和音频)的集合可以被组织成‘事件库’或‘事件故事’。可以使这样的集合在指定的时间段(诸如内容所涉及的事件的持续时间)内可用。例如,可以使与音乐会有关的内容在该音乐会的持续期间内作为‘故事’可用。集合管理系统204还可以负责发布向消息收发客户端应用104的用户界面提供特定集合的存在性的通知的图标。

集合管理系统204还包括允许集合管理器管理和策展内容的特定集合的策展接口208。例如,策展接口208使得事件组织者能够策展与特定事件相关的内容的集合(例如,删除不合适的内容或冗余消息)。另外,集合管理系统204采用机器视觉(或图像识别技术)和内容规则来自动地策展内容集合。在某些实施方式中,可以向用户支付补偿以将用户生成的内容包括到集合中。在这样的情况下,策展接口208进行操作以自动向这样的用户支付费用以使用其内容。

注释系统206提供使得用户能够注释或以其他方式修改或编辑与消息相关联的媒体内容的各种功能。例如,注释系统206提供与生成和发布用于由消息收发系统100处理的消息的媒体覆盖相关的功能。注释系统206基于客户端设备102的地理位置可操作地向消息收发客户端应用104供应媒体覆盖或补充(例如,图像过滤器)。在另一示例中,注释系统206基于其他信息(诸如客户端设备102的用户的社交网络信息)可操作地向消息收发客户端应用104供应媒体覆盖。媒体覆盖可以包括音频和视觉内容以及视觉效果。音频和视觉内容的示例包括图片、文本、标志、动画和声音效果。视觉效果的示例包括颜色覆盖。音频和视觉内容或视觉效果可以应用于客户端设备102处的媒体内容项(例如,照片)。例如,媒体覆盖可以包括可以覆盖在由客户端设备102拍摄的照片之上的文本。在另一示例中,媒体覆盖包括位置标识(例如,威尼斯海滩)覆盖、现场事件的名称或商家名称(例如,海滩咖啡馆)覆盖。在另一示例中,注释系统206使用客户端设备102的地理位置来标识包括在客户端设备102的地理位置处的商家的名称的媒体覆盖。媒体覆盖可以包括与商家相关联的其他标记。媒体覆盖可以存储在数据库120中并通过数据库服务器118被访问。

在一个示例实施方式中,注释系统206提供基于用户的发布平台,该基于用户的发布平台使得用户能够选择地图上的地理位置并且上传与所选择的地理位置相关联的内容。用户还可以指定特定媒体覆盖应当被提供给其他用户的环境。注释系统206生成包括所上传的内容的媒体覆盖并且将所上传的内容与所选择的地理位置相关联。

在另一示例实施方式中,注释系统206提供基于商家的发布平台,该基于商家的发布平台使得商家能够经由竞价过程来选择与地理位置相关联的特定媒体覆盖。例如,注释系统206在预定义时间量内将出价最高的商家的媒体覆盖与对应的地理位置相关联。

图3是示出根据某些示例实施方式的可以存储在消息收发服务器系统108的数据库120中的数据结构300的示意图。虽然数据库120的内容被示出为包括多个表,但是应当理解,数据可以存储在其他类型的数据结构(例如,作为面向对象的数据库)中。

数据库120包括存储在消息表314内的消息数据。实体表302存储实体数据,实体数据包括实体图304。其记录在实体表302内被维护的实体可以包括个人、公司实体、组织、对象、地点、事件等。不管类型如何,关于消息收发服务器系统108存储数据的任何实体都可以是被识别的实体。每个实体设置有唯一标识符以及实体类型标识符(未示出)。

实体图304还存储关于实体之间的关系和关联的信息。仅作为示例,这样的关系可以是基于感兴趣的或基于活动的社交关系、职业关系(例如,在共同的公司或组织中工作)。

数据库120还以过滤器的示例形式将注释数据存储在注释表312中。其数据存储在注释表312内的过滤器与视频(其数据存储在视频表310中)和/或图像(其数据存储在图像表308中)相关联,并且应用于视频(其数据存储在视频表310中)和/或图像(其数据存储在图像表308中)。在一个示例中,过滤器是在呈现给接收者用户期间被显示为覆盖在图像或视频上的覆盖。过滤器可以是各种类型,包括当发送用户正在编写消息时由消息收发客户端应用104向发送用户呈现的来自过滤器的库中的用户选择的过滤器。其他类型的过滤器包括地理位置过滤器(也称为地理过滤器),其可以基于地理位置呈现给发送用户。例如,基于由客户端设备102的GPS单元确定的地理位置信息,消息收发客户端应用104可以在用户界面内呈现特定于邻域或特定位置的地理位置过滤器。另一类型的过滤器是数据过滤器,其可以由消息收发客户端应用104基于在消息创建过程期间由客户端设备102收集的其他输入或信息来选择性地呈现给发送用户。数据过滤器的示例包括特定位置处的当前温度、发送用户行进的当前速度、客户端设备102的电池寿命或当前时间。

可以存储在图像表308内的其他注释数据是增强现实内容生成器(例如,对应于应用Lenses、增强现实体验或增强现实内容项)。增强现实内容生成器可以是可以添加至图像或视频的实时特殊效果和声音。

如上所述,增强现实内容生成器、增强现实内容项、覆盖、图像变换、AR图像和类似术语是指可以对视频或图像进行的修改。这包括实时修改,该实时修改在使用设备传感器捕获图像时修改该图像并且然后在设备的屏幕上显示具有修改的图像。这还包括对所存储的内容的修改,诸如可以被修改的库中的视频剪辑。例如,在访问多个增强现实内容生成器的设备中,用户可以将单个视频剪辑与多个增强现实内容生成器一起使用来查看不同的增强现实内容生成器将如何修改所存储的剪辑。例如,通过针对内容选择不同的增强现实内容生成器,可以将应用不同伪随机运动模型的多个增强现实内容生成器应用于同一内容。类似地,实时视频捕获可以与所示出的修改一起使用,以示出当前由设备的传感器捕获的视频图像将如何修改所捕获的数据。这样的数据可以简单地被显示在屏幕上并且不被存储在存储器中,或者由设备传感器捕获的内容可以在有修改或没有修改(或两者)的情况下被记录并被存储在存储器中。在一些系统中,预览特征可以示出不同的增强现实内容生成器同时在显示器中的不同窗口内看起来如何。这可以例如使得能够同时在显示器上观看具有不同伪随机动画的多个窗口。

因此,数据以及使用增强现实内容生成器或其他这样的变换系统来使用该数据修改内容的各种系统可以涉及:对象(例如,面部、手、身体、猫、狗、表面、对象等)的检测;当这样的对象离开、进入视频帧中的视场以及在视场周围移动时对这样的对象进行跟踪;以及当跟踪这样的对象时对这样的对象进行修改或变换。在各种实施方式中,可以使用用于实现这样的变换的不同方法。例如,一些实施方式可以涉及生成一个或多个对象的三维网格模型,并且使用视频内的模型的变换和动画纹理来实现变换。在其他实施方式中,可以使用对对象上的点的跟踪来将图像或纹理(其可以是二维或三维的)放置在所跟踪的位置处。在又一实施方式中,视频帧的神经网络分析可以用于将图像、模型或纹理放置在内容(例如,视频的图像或帧)中。因此,增强现实内容生成器既涉及用于创建内容中的变换的图像、模型和纹理,又涉及实现用对象检测、跟踪和放置的这样的变换所需的附加建模和分析信息。

可以用保存在任何类型的计算机化系统的存储器中的任何类型的视频数据(例如,视频流、视频文件等)来执行实时视频处理。例如,用户可以加载视频文件并将它们保存在设备的存储器中,或者可以使用设备的传感器来生成视频流。另外,可以使用计算机动画模型来处理任何对象,诸如人的面部和人体的部分、动物或非生物(诸如椅子、汽车或其他对象)。

在一些实施方式中,当连同要变换的内容一起选择特定修改时,计算设备标识要变换的元素,并且然后如果所述元素存在于视频帧中,则检测并跟踪它们。根据针对修改的请求来修改对象的元素,从而变换视频流的帧。可以通过用于不同类型的变换的不同方法来执行视频流的帧的变换。例如,对于主要涉及改变对象元素的形式的帧的变换,计算针对对象的每个元素的特征点(例如,使用主动形状模型(ASM)或其他已知方法)。然后,针对对象的至少一个元素中的每个元素,生成基于特征点的网格。该网格用于跟踪视频流中的对象的元素的后续阶段。在跟踪过程中,所提及的针对每个元素的网格与每个元素的位置对准。然后,在网格上生成附加点。基于针对修改的请求来针对每个元素生成第一点的第一集合,并且基于第一点的集合和针对修改的请求来针对每个元素生成第二点的集合。然后,可以基于第一点的集合和第二点的集合以及网格通过修改对象的元素来对视频流的帧进行变换。在这样的方法中,也可以通过跟踪和修改背景来改变或扭曲被修改对象的背景。

在一个或更多个实施方式中,可以通过计算针对对象的每个元素的特征点并基于所计算的特征点生成网格,来执行使用对象的元素改变对象的一些区域的变换。在网格上生成点,并且然后生成基于这些点的各种区域。然后通过将针对每个元素的区域与针对至少一个元素中的每个元素的位置对准来跟踪对象的元素,并且可以基于针对修改的请求来修改区域的特性,从而变换视频流的帧。根据针对修改的特定请求,可以以不同的方式来对所提及的区域的特性进行变换。这样的修改可以涉及:改变区域的颜色;从视频流的帧中去除区域的至少一些部分;将一个或更多个新对象包括到基于针对修改的请求的区域中;以及修改或扭曲区域或对象的元素。在各种实施方式中,可以使用这样的修改或其他类似修改的任何组合。对于要被动画化的某些模型,可以选择一些特征点作为要用于确定针对模型动画的选项的整个状态空间的控制点。

在使用面部检测来变换图像数据的计算机动画模型的一些实施方式中,使用特定的面部检测算法(例如,Viola-Jones)在图像上检测面部。然后,将主动形状模型(ASM)算法应用于图像的面部区域以检测面部特征参考点。

在其他实施方式中,可以使用适合于面部检测的其他方法和算法。例如,在一些实施方式中,使用表示在所考虑的大多数图像中存在的可区分点的界标(landmark)来定位特征。例如,对于面部界标,可以使用左眼瞳孔的位置。在初始界标不可标识的情况下(例如,如果人具有眼罩),则可以使用次级界标。这样的界标标识过程可以用于任何这样的对象。在一些实施方式中,界标的集合形成形状。可以使用形状中的点的坐标将形状表示为向量。用使形状点之间的平均欧几里得距离最小化的相似性变换(允许平移、缩放和旋转)将一个形状与另一个形状对准。平均形状是对准的训练形状的平均。

在一些实施方式中,开始从与由全局面部检测器确定的面部的位置和大小对准的平均形状搜索界标。然后,这样的搜索重复以下步骤:通过对每个点周围的图像纹理进行模板匹配来调整形状点的位置来建议暂定形状,并且然后使暂定形状符合全局形状模型,直到出现收敛。在一些系统中,单独的模板匹配是不可靠的,并且形状模型汇集弱模板匹配器的结果以形成更强的整体分类器。在图像金字塔中的每一级处从粗分辨率到细分辨率重复整个搜索。

变换系统的实施方式可以在客户端设备(例如,客户端设备102)上捕获图像或视频流,并且在客户端设备102上本地执行复杂的图像操纵,同时保持适当的用户体验、计算时间和功耗。复杂的图像操纵可以包括大小和形状改变、情感变换(例如,将面部从皱眉改变为微笑)、状态变换(例如,使主体变老、减小外表年龄、改变性别)、风格变换、图形元素应用以及由已经被配置成在客户端设备102上有效执行的卷积神经网络实现的任何其他合适的图像或视频操纵。

在一些示例实施方式中,用于变换图像数据的计算机动画模型可以由如下系统使用,在该系统中,用户可以使用具有作为在客户端设备102上操作的消息收发客户端应用104的一部分而操作的神经网络的客户端设备102来捕获用户的图像或视频流(例如,自拍照)。在消息收发客户端应用104内操作的变换系统确定图像或视频流内面部的存在,并且提供与用于变换图像数据的计算机动画模型相关联的修改图标,或者计算机动画模型可以与本文描述的接口相关联地存在。修改图标包括可以是用于作为修改操作的一部分修改图像或视频流内的用户面部的基础的变化。一旦选择了修改图标,则变换系统发起转换用户的图像以反映所选择的修改图标的过程(例如,生成关于用户的微笑面部)。在一些实施方式中,一捕获图像或视频流并且选择了指定的修改,就可以在移动客户端设备上显示的图形用户界面中呈现修改后的图像或视频流。变换系统可以在图像或视频流的一部分上实现复杂的卷积神经网络,以生成和应用所选择的修改。也就是说,用户可以捕获图像或视频流,并且一旦选择了修改图标,就可以实时或接近实时地呈现修改后的结果。此外,在捕获视频流并且所选择的修改图标保持切换时,修改可以是持久的。机器教导的神经网络可以用于实现这样的修改。

在一些实施方式中,呈现由变换系统执行的修改的图形用户界面可以向用户提供附加的交互选项。这样的选项可以基于用于发起特定计算机动画模型的选择和内容捕获的界面(例如,从内容创建者用户界面发起)。在各种实施方式中,在初始选择修改图标之后,修改可以是持久的。用户可以通过轻敲或以其他方式选择正由变换系统修改的面部来切换修改的开或关,并对其进行存储以供稍后查看或浏览成像应用的其他区域。在变换系统修改多个面部的情况下,用户可以通过轻敲或选择在图形用户界面内修改和显示的单个面部来全局地切换修改的开或关。在一些实施方式中,可以分别修改多个面部的组中的各个面部,或者可以通过轻敲或选择图形用户界面内显示的各个面部或一系列各个面部来分别切换这样的修改。

在一些示例实施方式中,提供了图形处理流水线架构,其使得能够在对应的不同层中应用不同的增强现实体验(例如,AR内容生成器)。这样的图形处理流水线提供了可扩展渲染引擎,所述可扩展渲染引擎用于提供复合媒体(例如,图像或视频)中包括的多个增强现实体验,以由消息收发客户端应用104(或消息收发系统100)呈现。

如上面所提及的,视频表310存储视频数据,在一个实施方式中,视频数据与其记录在消息表314中被维护的消息相关联。类似地,图像表308存储与其消息数据存储在实体表302中的消息相关联的图像数据。实体表302可以将来自注释表312的各种注释与存储在图像表308和视频表310中的各种图像和视频相关联。

故事表306存储关于消息和相关联的图像、视频或音频数据的集合的数据,所述消息和相关联的图像、视频或音频数据被编译成集合(例如,故事或库)。特定集合的创建可以由特定用户(例如,其记录在实体表302中被维护的每个用户)发起。用户可以创建以已经由该用户创建和发送/广播的内容的集合的形式的“个人故事”。为此,消息收发客户端应用104的用户界面可以包括用户可选以使得发送用户能够将特定内容添加至他或她的个人故事的图标。

集合还可以构成“现场故事”,“现场故事”是手动地、自动地或使用手动技术和自动技术的组合来创建的来自多个用户的内容的集合。例如,“现场故事”可以构成来自不同位置和事件的用户提交的内容的策展流。其客户端设备具有启用的位置服务并且在特定时间处于共同位置事件的用户可以例如经由消息收发客户端应用104的用户界面被呈现有选项,以向特定现场故事贡献内容。可以由消息收发客户端应用104基于用户的位置向用户标识现场故事。最终结果是从社区角度讲述的“现场故事”。

另一类型的内容集合被称为“位置故事”,“位置故事”使得其客户端设备102位于特定地理位置(例如,在学院或大学校园)内的用户能够对特定集合做出贡献。在一些实施方式中,对位置故事的贡献可能需要第二程度的认证来验证终端用户属于特定组织或其他实体(例如,是大学校园中的学生)。

图4是示出根据一些实施方式的消息400的结构的示意图,该消息400由消息收发客户端应用104生成以传送至另一消息收发客户端应用104或消息收发服务器应用114。特定消息400的内容用于填充存储在消息收发服务器应用114可访问的数据库120内的消息表314。类似地,消息400的内容作为客户端设备102或应用服务器112的“运输中”或“飞行中”数据被存储在存储器中。消息400被示出为包括以下要素:

消息标识符402:标识消息400的唯一标识符。

消息文本有效载荷404:要由用户经由客户端设备102的用户界面生成并且包括在消息400中的文本。

消息图像有效载荷406:由客户端设备102的相机部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的图像数据。

消息视频有效载荷408:由相机部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的视频数据。

消息音频有效载荷410:由麦克风捕获或从客户端设备102的存储器部件检索并且包括在消息400中的音频数据。

消息注释412:表示要应用于消息400的消息图像有效载荷406、消息视频有效载荷408或消息音频有效载荷410的注释的注释数据(例如,过滤器、贴纸或其他增强)。

消息持续时间参数414:以秒为单位指示消息的内容(例如,消息图像有效载荷406、消息视频有效载荷408、消息音频有效载荷410)将被呈现或使得用户可经由消息收发客户端应用104访问的时间量的参数值。

消息地理位置参数416:与消息的内容有效载荷相关联的地理位置数据(例如,纬度坐标和经度坐标)。多个消息地理位置参数值416可以被包括在有效载荷中,这些参数值中的每个参数值与关于包括在内容中的内容项(例如,消息图像有效载荷406内的特定图像或消息视频有效载荷408中的特定视频)相关联。

消息故事标识符418:标识与消息400的消息图像有效载荷406中的特定内容项相关联的一个或更多个内容集合(例如,“故事”)的标识符值。例如,消息图像有效载荷406内的多个图像可以各自使用标识符值与多个内容集合相关联。

消息标签420:每个消息400可以用多个标签来标记,多个标签中的每个标签指示包括在消息有效载荷中的内容的主题。例如,在包括在消息图像有效载荷406中的特定图像描绘动物(例如,狮子)的情况下,标签值可以包括在指示相关动物的消息标签420内。标签值可以基于用户输入手动生成或者可以使用例如图像识别自动生成。

消息发送者标识符422:指示在其上生成消息400并且从其发送消息400的客户端设备102的用户的标识符(例如,消息收发系统标识符、电子邮件地址或设备标识符)。

消息接收者标识符424:指示消息400寻址到的客户端设备102的用户的标识符(例如,消息收发系统标识符、电子邮件地址或设备标识符)。

消息400的各个要素的内容(例如,值)可以是指向在其内存储内容数据值的表中的位置的指针。例如,消息图像有效载荷406中的图像值可以是指向图像表308内的位置(或地址)的指针。类似地,消息视频有效载荷408内的值可以指向存储在视频表310内的数据,存储在消息注释412内的值可以指向存储在注释表312中的数据,存储在消息故事标识符418内的值可以指向存储在故事表306中的数据,并且存储在消息发送者标识符422和消息接收者标识符424内的值可以指向存储在实体表302内的用户记录。

图5是示出访问限制过程500的示意图,根据该访问限制过程500,对内容(例如,短暂消息502和相关联的数据的多媒体有效载荷)或内容集合(例如,短暂消息组504)的访问可以是时间受限的(例如,短暂的)。

短暂消息502被示出为与消息持续时间参数506相关联,消息持续时间参数506的值确定消息收发客户端应用104将向短暂消息502的接收用户显示短暂消息502的时间量。在一个实施方式中,根据发送用户使用消息持续时间参数506指定的时间量,接收用户可查看短暂消息502达到最多10秒。

消息持续时间参数506和消息接收者标识符424被示出为消息定时器512的输入,消息定时器512负责确定向由消息接收者标识符424标识的特定接收用户示出短暂消息502的时间量。特别地,仅在由消息持续时间参数506的值确定的时间段内向相关接收用户示出短暂消息502。消息定时器512被示出为向更一般化的短暂定时器系统202提供输出,该短暂定时器系统202负责向接收用户显示内容(例如,短暂消息502)的总体定时。

图5中示出的短暂消息502被包括在短暂消息组504(例如,个人故事或事件故事中的消息的集合)内。短暂消息组504具有相关联的组持续时间参数508,组持续时间参数508的值确定短暂消息组504被呈现并可由消息收发系统100的用户访问的持续时间。例如,组持续时间参数508可以是音乐会的持续时间,其中,短暂消息组504是属于该音乐会的内容的集合。可替选地,当执行短暂消息组504的设置和创建时,用户(拥有用户或策展者用户)可以指定组持续时间参数508的值。

另外,短暂消息组504内的每个短暂消息502具有相关联的组参与参数510,组参与参数510的值确定在短暂消息组504的上下文内可访问短暂消息502的持续时间。因此,在短暂消息组504本身根据组持续时间参数508到期之前,特定的短暂消息组504可以“到期”并且在短暂消息组504的上下文中变得不可访问。组持续时间参数508、组参与参数510和消息接收者标识符424各自向组定时器514提供输入,组定时器514可操作地首先确定短暂消息组504的特定短暂消息502是否将被显示给特定接收用户,并且如果短暂消息组504的特定短暂消息502将被显示给特定接收用户,则确定显示多长时间。注意,由于消息接收者标识符424,短暂消息组504也知道特定接收用户的身份。

因此,组定时器514可操作地控制相关联的短暂消息组504以及包括在短暂消息组504中的单独的短暂消息502的总使用期限。在一个实施方式中,短暂消息组504内的每个短暂消息502在由组持续时间参数508指定的时间段内保持可查看和可访问。在另一实施方式中,在短暂消息组504的上下文内,某个短暂消息502可以基于组参与参数510而到期。注意,即使在短暂消息组504的上下文内,消息持续时间参数506也仍然可以确定向接收用户显示特定短暂消息502的持续时间。因此,消息持续时间参数506确定向接收用户显示特定短暂消息502的持续时间,而不管接收用户是在短暂消息组504的上下文之内还是之外查看该短暂消息502。

短暂定时器系统202还可以基于已经超过相关联的组参与参数510的确定而从短暂消息组504中可操作地移除特定的短暂消息502。例如,当发送用户已经建立了从发布起24小时的组参与参数510时,短暂定时器系统202将在指定的24小时之后从短暂消息组504中移除相关的短暂消息502。当针对短暂消息组504内的每个短暂消息502的组参与参数510已经到期时或者当短暂消息组504本身根据组持续时间参数508已经到期时,短暂定时器系统202还进行操作以移除短暂消息组504。

在某些使用情况下,特定短暂消息组504的创建者可以指定无期限的组持续时间参数508。在这种情况下,针对短暂消息组504内最后剩余的短暂消息502的组参与参数510的到期将确定短暂消息组504本身何时到期。在这种情况下,添加至短暂消息组504的具有新的组参与参数510的新的短暂消息502将短暂消息组504的寿命有效地延长到等于组参与参数510的值。

响应于短暂定时器系统202确定短暂消息组504已经到期(例如,不再是可访问的),短暂定时器系统202与消息收发系统100(并且例如特别是消息收发客户端应用104)进行通信,以使得与相关短暂消息组504相关联的标记(例如,图标)不再显示在消息收发客户端应用104的用户界面内。类似地,当短暂定时器系统202确定针对特定短暂消息502的消息持续时间参数506已经到期时,短暂定时器系统202使消息收发客户端应用104不再显示与短暂消息502相关联的标记(例如,图标或文本标识)。

如上所述,媒体覆盖诸如Lenses、覆盖、图像变换、AR图像和类似术语是指可以对视频或图像进行的修改。这包括实时修改,实时修改在使用设备传感器捕获图像时修改该图像,并且然后将具有修改的图像显示在设备的屏幕上。这还包括对所存储的内容诸如库中可以被修改的视频剪辑的修改。例如,在访问多个媒体覆盖(例如,Lenses)的设备中,用户可以使用具有多个Lenses的单个视频剪辑来查看不同的Lenses将如何修改所存储的剪辑。例如,通过针对同一内容选择不同的Lenses,可以将应用不同伪随机运动模型的多个Lenses应用于同一内容。类似地,实时视频捕获可以与示出的修改一起被使用,以显示当前由设备的传感器捕获的视频图像将如何修改所捕获的数据。这样的数据可以简单地被显示在屏幕上而不被存储在存储器中,或者由设备传感器捕获的内容可以在进行或不进行修改(或两者)的情况下被记录并被存储在存储器中。在一些系统中,预览特征可以同时在显示器的不同窗口中示出不同Lenses看起来如何。例如,这可以使得能够同时在显示器上查看具有不同伪随机动画的多个窗口。

因此,数据和使用Lenses或其他这样的变换系统来使用该数据来修改内容的各种系统可以涉及:对象(例如,面部、手、身体、猫、狗、表面、对象等)的检测;在这样的对象离开视频帧中的视场、进入视频帧中的视场以及在视频帧中的视场四处移动时对这样的对象的跟踪;以及在这样的对象被跟踪时对这样的对象的修改或变换。在各种实施方式中,可以使用用于实现这样的变换的不同方法。例如,一些实施方式可能涉及生成一个或多个对象的三维网格模型,并使用视频中模型的变换和动画纹理来实现变换。在其他实施方式中,对象上的点的跟踪可以用于将图像或纹理(其可以是二维或三维的)放置在所跟踪的位置处。在更进一步的实施方式中,可以使用视频帧的神经网络分析来将图像、模型或纹理放置在内容(例如,图像或视频帧)中。因此,镜头(lens)数据既涉及用于创建内容变换的图像、模型和纹理,也涉及通过对象检测、跟踪和放置实现这样的变换所需的附加建模和分析信息。

可以用保存在任何种类的计算机化系统的存储器中的任何种类的视频数据(例如,视频流、视频文件等)来执行实时视频处理。例如,用户可以加载视频文件并将其保存在设备的存储器中,或者可以使用设备的传感器生成视频流。此外,可以使用计算机动画模型来处理任何对象,诸如人的面部和人身体的各部分、动物或非生物(诸如椅子、汽车或其他对象)。

在一些实施方式中,当与要变换的内容一起选择特定修改时,由计算设备标识要变换的元素,并且然后在要变换的元素存在于视频的帧中的情况下对要变换的元素进行检测和跟踪。根据修改请求来修改对象的元素,因此变换视频流的帧。可以通过用于不同种类的变换的不同方法来执行视频流的帧的变换。例如,对于主要涉及改变对象元素形式的帧变换,计算对象的元素中的每一个的特征点(例如,使用主动形状模型(ASM)或其他已知方法)。然后,针对对象的至少一个元素中的每一个生成基于特征点的网格。该网格用于跟踪视频流中的对象的元素的后续阶段。在跟踪过程中,所提及的每个元素的网格与每个元素的位置对准。然后,在网格上生成附加点。基于对修改的请求针对每个元素生成第一点的第一集合,并且基于第一点的集合和对修改的请求针对每个元素生成第二点的集合。然后,可以通过基于第一点的集合和第二点的集合以及网格来修改对象的元素,对视频流的帧进行变换。在这样的方法中,也可以通过跟踪和修改背景来使经修改的对象的背景改变或变形。

在一个或更多个实施方式中,可以通过计算对象的每个元素的特征点并基于所计算的特征点生成网格,执行使用对象的元素来改变对象的一些区域的变换。在网格上生成点,并且然后生成基于点的各种区域。然后,通过将每个元素的区域与至少一个元素中的每一个的位置对准来跟踪对象的元素,并且可以基于对修改的请求来修改区域的属性,从而变换视频流的帧。根据具体的对修改的请求,可以以不同的方式变换所提及的区域的属性。这样的修改可能涉及:改变区域的颜色;从视频流的帧中去除区域的至少一些部分;将一个或更多个新对象包括在基于对修改的请求的区域中;以及修改区域或对象的元素或使区域或对象的元素变形。在各种实施方式中,可以使用这样的修改或其他类似修改的任何组合。对于要被动画化的某些模型,可以选择一些特征点作为控制点,以用于确定用于模型动画的选项的整个状态空间。

在使用面部检测来变换图像数据的计算机动画模型的一些实施方式中,使用特定的面部检测算法(例如,Viola-Jones)在图像上检测面部。然后,将主动形状模型(ASM)算法应用于图像的面部区域以检测面部特征参考点。

在其他实施方式中,可以使用适合面部检测的其他方法和算法。例如,在一些实施方式中,使用界标来定位特征,该界标表示存在于所考虑的大多数图像中的可区分点。例如,对于面部界标,可以使用左眼瞳孔的位置。在初始界标不可标识的情况下(例如,如果人有眼罩),可以使用次级界标。这样的界标标识过程可以用于任何这样的对象。在一些实施方式中,界标的集合形成形状。可以使用形状中的点的坐标将形状表示为矢量。一个形状用相似性变换(允许平移、缩放和旋转)与另一个形状对准,该相似性变换使形状点之间的平均欧几里德距离最小化。平均形状是对准的训练形状的均值。

在一些实施方式中,开始从与由全局面部检测器确定的面部的位置和尺寸对准的平均形状中搜索界标。然后,这样的搜索重复以下步骤:通过每个点周围的图像纹理的模板匹配来调整形状点的定位来建议暂定形状,并且然后使暂定形状符合全局形状模型,直到出现收敛。在一些系统中,单独的模板匹配是不可靠的,并且形状模型汇集弱模板匹配器的结果,以形成更强的整体分类器。在图像金字塔中的每一级处从粗分辨率到细分辨率重复整个搜索。

变换系统的实施方式可以在客户端设备上捕获图像或视频流,并且在客户端设备诸如客户端设备102上本地执行复杂的图像操纵,同时保持适当的用户体验、计算时间和功耗。复杂的图像操纵可以包括大小和形状改变、情绪变换(例如,将面部从皱眉改变为微笑)、状态变换(例如,使主体变老、减小外表年龄、改变性别)、风格变换、图形元素应用、以及由已经被配置成在客户端设备上有效执行的卷积神经网络实现的任何其他合适的图像或视频操纵。

在一些示例实施方式中,用于变换图像数据的计算机动画模型可以由如下系统使用,在该系统中,用户可以使用具有作为在客户端设备102上操作的消息收发客户端应用104的一部分而操作的神经网络的客户端设备102来捕获用户的图像或视频流(例如,自拍照)。在消息收发客户端应用104内操作的变换系统确定图像或视频流内面部的存在,并且提供与用于变换图像数据的计算机动画模型相关联的修改图标,或者计算机动画模型可以与本文描述的接口相关联地存在。修改图标包括可以是用于作为修改操作的一部分修改图像或视频流中的用户面部的基础的变化。一旦选择了修改图标,则变换系统就发起转换用户的图像以反映所选择的修改图标的过程(例如,生成关于用户的微笑面部)。在一些实施方式中,一捕获图像或视频流并且选择了指定的修改,就可以在移动客户端设备上显示的图形用户界面中呈现修改后的图像或视频流。变换系统可以在图像或视频流的一部分上实现复杂的卷积神经网络,以生成和应用所选择的修改。也就是说,用户可以捕获图像或视频流,并且一旦选择了修改图标,就可以实时或接近实时地呈现修改后的结果。此外,在捕获视频流并且所选择的修改图标保持切换时,修改可以是持久的。机器教导的神经网络可以用于实现这样的修改。

在一些实施方式中,呈现由变换系统执行的修改的图形用户界面可以向用户供应附加的交互选项。这样的选项可以基于用于发起特定计算机动画模型的选择和内容捕获的界面(例如,从内容创建者用户界面发起)。在各种实施方式中,在初始选择修改图标之后,修改可以是持久的。用户可以通过轻敲或以其他方式选择正由变换系统修改的面部来切换修改的开或关,并对其进行存储以供以后查看或浏览成像应用的其他区域。在变换系统修改多个面部的情况下,用户可以通过轻敲或选择在图形用户界面内修改和显示的单个面部来全局地切换修改的开或关。在一些实施方式中,可以分别修改多个面部的组中的各个面部,或者可以通过轻敲或选择图形用户界面内显示的各个面部或一系列各个面部来分别切换这样的修改。

在一些示例实施方式中,提供了图形处理流水线架构,该图形处理流水线架构使得能够在对应的不同层中应用不同的媒体覆盖。这样的图形处理流水线提供了可扩展渲染引擎,所述可扩展渲染引擎用于提供复合媒体(例如,图像或视频)中包括的多个增强现实内容生成器,以由消息收发客户端应用104(或消息收发系统100)呈现。

如本文所讨论的,本主题基础设施支持在消息收发系统100的全部各种组件中创建和共享具有交互式效果的交互式消息。在示例中,为了提供这样的交互式效果,给定的交互式消息可以包括图像数据以及2D数据或3D数据。如本文所描述的基础设施使得能够跨本主题系统提供其他形式的3D且交互式的媒体(例如,2D媒体内容),这允许跨消息收发系统100以及与照片和视频消息一起共享这样的交互式媒体。在本文描述的示例实施方式中,消息可以从现场相机或经由存储装置(例如,具有2D或3D内容或增强现实(AR)效果(例如,3D效果或其他交互式效果)的消息被存储在存储器或数据库中)进入系统。在具有3D数据的交互式消息的示例中,主题系统会支持运动传感器输入,并且管理3D数据的发送和存储以及外部效果和资产数据的加载。

如上所述,交互式消息包括与2D效果或3D效果和深度数据结合的图像。在示例实施方式中,除了传统的图像纹理之外,还使用本主题系统来渲染消息以使相机所看到的空间细节/几何形状可视化。当观看者通过移动客户端设备与该消息进行交互时,该移动会触发向观看者渲染图像和几何形状的视角的相应变化。

在实施方式中,本主题系统提供如下AR效果(其可以包括使用3D数据的3D效果或者不使用3D数据的交互式2D效果),该AR效果与系统的其他组件一起工作,以提供可以占据消息中的不同3D平面的粒子、着色器、2D资产和3D几何形状。在示例中,以实时方式向用户渲染本文描述的AR效果。

如本文所提及的,基于陀螺仪的交互是指其中给定客户端设备的旋转被用作输入以改变效果的方面(例如,沿x轴旋转电话以便改变场景中的光的颜色)的交互类型。

如本文所提及的,增强现实内容生成器是指可以添加至消息的实时特殊效果和/或声音,并且用AR效果和/或其他3D内容(诸如3D动画图形元素)、3D对象(例如,非动画的)等来修改图像和/或3D数据。

以下讨论涉及根据一些实施方式的结合这样的消息存储的示例数据。

图6是示出根据一些实施方式的由消息收发客户端应用104生成的包括与给定消息对应的附加信息的如上面在图4中所描述的消息注释412的结构的示意图。

在实施方式中,如图3中所示,包括图6所示的附加数据的特定消息400的内容用于填充存储在数据库120内的用于给定消息的消息表314,该数据库120然后可由消息收发客户端应用104访问。如在图6中所示的,消息注释412包括与各种数据对应的以下组件:

○增强现实(AR)内容标识符652:消息中使用的AR内容生成器的标识符

○消息标识符654:消息的标识符

○资产标识符656:消息中资产的标识符的集合。例如,可以针对由特定AR内容生成器确定的资产包括相应的资产标识符。在实施方式中,这样的资产由发送者侧客户端设备上的AR内容生成器创建,上传到消息收发服务器应用114,并且由接收者侧客户端设备上的AR内容生成器使用以便重新创建消息。典型资产的示例包括:

■由相机捕获的原始静态RGB图像

■具有应用于原始图像的AR内容生成器效果的后处理图像

○增强现实(AR)内容元数据658:与对应于AR标识符652的AR内容生成器相关联的附加元数据,诸如:

○AR内容生成器类别:对应于特定AR内容生成器的类型或分类

○AR内容生成器轮播索引

○轮播组:当合格的后捕获AR内容生成器被插入到轮播界面中时,轮播组可以被填充和利用。在实现方式中,新值“TRAVEL_AR_DEFAULT_GROUP”(例如,分配给与旅行有关的AR内容生成器的默认组可以被添加至有效组名的列表,并且与旅行有关的AR内容生成器可以被包括在该组中。

○捕获与附加元数据对应的元数据660,诸如:

○相机图像元数据

■相机固有数据

●焦距

●主点

■其他相机信息(例如,相机定位)

○传感器信息:

■陀螺仪传感器数据

■定位传感器数据

■加速度计传感器数据

■其他传感器数据

■位置传感器数据

○与附加元数据相对应的旅行元数据662,诸如:

■特定目的地地理位置的地理位置信息

■与旅行偏好和兴趣有关的用户简档信息

■与对旅行感兴趣的其他用户有关的社交图信息,或与被包括在(组)旅行计划中有关的社交图信息。

图7是示出根据某些示例实施方式的注释系统206的各种模块的框图700。注释系统206被示出为包括图像数据接收模块702、传感器数据接收模块704、图像数据处理模块706、增强现实(AR)效果模块708、渲染模块710和共享模块712。注释系统206的各个模块被配置成(例如,经由总线、共享存储器或交换机)彼此通信。这些模块中的任何一个或更多个模块可以使用一个或更多个计算机处理器720来实现(例如,通过将这样的一个或更多个计算机处理器配置成执行针对该模块描述的功能),因此可以包括计算机处理器720中的一个或更多个(例如,由客户端设备102提供的处理器的集合)。

所描述的模块中的任何一个或更多个模块可以单独使用硬件来实现(例如,机器(例如,机器1800)的计算机处理器720中的一个或更多个)或者可以使用硬件和软件的组合来实现。例如,注释系统206的任何所描述的模块可以物理地包括被配置成执行本文针对该模块所描述的操作的一个或更多个计算机处理器720(例如,机器(例如,机器1800)的一个或更多个计算机处理器的子集或机器(例如,机器1800)的一个或更多个计算机处理器之中的一个或更多个计算机处理器)的布置。作为另一示例,注释系统206的任何模块可以包括软件、硬件或软件和硬件两者,其将(例如,在机器(例如,机器1800)的一个或更多个计算机处理器之中的)一个或更多个计算机处理器720的布置配置成执行本文针对该模块描述的操作。因此,注释系统206的不同模块可以包括并配置这样的计算机处理器720的不同布置或这样的计算机处理器720在不同时间点处的单个布置。此外,注释系统206的任何两个或更多个模块可以被组合成单个模块,并且本文针对单个模块描述的功能可以在多个模块之间细分。此外,根据各种示例实施方式,本文中描述为在单个机器、数据库或设备中实现的模块可以跨多个机器、数据库或设备分布。

图像数据接收模块702接收由客户端设备102捕获的图像数据和深度数据。例如,图像是由客户端设备102的光学传感器(例如相机)捕获的照片。图像包括一个或更多个真实世界特征,诸如在图像中检测到的用户的面部或真实世界对象。在一些实施方式中,图像包括对图像进行描述的元数据。

传感器数据接收模块704从客户端设备102接收传感器数据。传感器数据是由客户端设备102的传感器捕获的任何类型的数据。在示例中,传感器数据可以包括:由陀螺仪收集的客户端设备102的运动;来自触摸传感器(例如,触摸屏)的触摸输入或手势输入;来自GPS或描述客户端设备102的当前地理位置和/或移动的客户端设备102的另一传感器的数据。作为另一示例,传感器数据可以包括指示如由客户端设备102的传感器检测到的当前温度的温度数据。作为另一示例,传感器数据可以包括指示客户端设备102处于暗环境还是亮环境的光传感器数据。

图像数据处理模块706对接收到的图像数据进行操作。例如,由图像数据处理模块706执行各种图像处理操作,这将在本文中进一步讨论。

AR效果模块708基于与动画和/或向所接收的图像数据提供视觉和/或听觉效果相对应的算法或技术来执行各种操作,这将在本文中进一步描述。在实施方式中,给定的增强现实内容生成器可以利用AR效果模块708来执行用于渲染AR效果(例如,包括2D效果或3D效果)等的操作。

渲染模块710基于由之前提及的模块中的至少一个模块提供的数据来执行消息的渲染,以由消息收发客户端应用104显示。在示例中,渲染模块710利用图形处理流水线来执行图形操作以渲染消息以供显示。在示例中,渲染模块710实现可扩展的渲染引擎,该可扩展的渲染引擎支持与各个增强现实内容生成器相对应的多个图像处理操作。

在一些实现方式中,渲染模块710提供将二维(2D)对象或来自三维(3D)世界(真实或虚构)的对象渲染到2D显示屏上的图形系统。在一些实现方式中,这样的图形系统(例如,包括在客户端设备102上的图形系统)包括图形处理单元(GPU),以用于执行图像处理操作和渲染图形元素以进行显示。

在实现方式中,GPU包括逻辑图形处理流水线,逻辑图形处理流水线可以接收2D或3D场景的表示并且提供表示2D图像的位图的输出以用于显示。现有的应用程序接口(API)已经实现了图形流水线模型。这样的API的示例包括开放图形库(OPENGL)API和METAL API。图形处理流水线包括将一组顶点、纹理、缓冲器和状态信息转换成屏幕上的图像帧的许多阶段。在实现方式中,图形处理流水线的阶段之一是着色器,着色器可以用作应用于输入帧(例如,图像或视频)的特定增强现实内容生成器的一部分。着色器可以被实现为在通常执行若干计算线程的专用处理单元(也称为着色器单元或着色器处理器)上运行的代码,所述代码被编程成针对正在被渲染的片段生成适当等级的颜色和/或特殊效果。例如,顶点着色器处理顶点的属性(定位、纹理坐标、颜色等),并且像素着色器处理像素的属性(纹理值、颜色、z深度和α值)。在一些实例中,像素着色器被称为片段着色器。

应当理解,可以提供其他类型的着色器处理。在示例中,在图形处理流水线内利用特定采样速率来渲染整个帧,以及/或者以特定每像素速率执行像素着色。以这种方式,给定电子设备(例如,客户端设备102)操作图形处理流水线,以将与对象对应的信息转换成可以由电子设备显示的位图。

共享模块712生成用于存储和/或发送至消息收发服务器系统108的消息。共享模块712使得能够向消息收发服务器系统108的其他用户和/或客户端设备共享消息。

在实施方式中,增强现实内容生成器模块714使可选图形项的显示以轮播布置被呈现。作为示例,用户可以利用各种输入来以与提供图形项的循环视图的轮播对应的方式将可选图形项旋转到显示屏幕上以及旋转离开显示屏幕。轮播布置允许多个图形项占据显示屏上的特定图形区域。在示例中,增强现实内容生成器可以被组织成相应的组以包括在轮播布置上,从而使得能够按组旋转通过增强现实内容生成器。

在本文描述的实施方式中,通过使用深度数据和图像数据,可以执行将Z轴维度(例如,深度维度)添加到传统2D照片(例如,X轴维度和Y轴维度)的3D面部和场景重构。该格式使得观看者能够与消息交互,改变由本主题系统渲染消息的角度/视角,并且影响在渲染消息中使用的粒子和着色器。

在示例中,观看者交互输入来自在观看消息时的移动(例如,来自向观看者显示消息的设备的移动传感器),该移动又被转化成内容、粒子和着色器如何被渲染的视角的改变。交互还可以来自屏幕上触摸手势和其他设备运动。

在这样的用户界面的实施方式中,可以以轮播布置来呈现可选图形项,在轮播布置中,可选图形项的一部分或子集在给定计算设备(例如,客户端设备102)的显示屏幕上可见。作为示例,用户可以利用各种输入来以与提供图形项的循环视图的轮播对应的方式将可选图形项旋转到显示屏幕上以及旋转离开显示屏幕。因此,在用户界面中提供的轮播布置允许多个图形项占据显示屏幕上的特定图形区域。

在示例中,与不同AR内容生成器对应的相应AR体验可以被组织成相应的组以包括在轮播布置上,从而使得能够按组旋转通过媒体覆盖。尽管提供了轮播界面作为示例,但是应当理解,也可以使用其他图形界面。例如,一组增强现实内容生成器可以包括图形列表、滚动列表、滚动图形或者使得能够通过各种图形项进行导航以进行选择的另一图形界面等。如本文所使用的,轮播界面是指以类似于环形列表的布置显示图形项,从而使得能够基于用户输入(例如,触摸或手势)通过环形列表进行导航以选择或滚动通过图形项。在示例中,可以在水平(或竖直)线或轴上呈现图形项的集合,其中,每个图形项被表示为特定缩略图像(或图标、化身等)。在任何一个时刻,轮播界面中的一些图形项可以被隐藏。在示例中,如果用户想要查看隐藏的图形项,则用户可以提供用户输入(例如,触摸、手势等)以在特定方向(例如,左、右、上或下等)上滚动通过图形项。之后,显示轮播界面的后续视图,其中,动画被提供或渲染以呈现用于包括在界面上的一个或更多个附加图形项,并且其中,先前呈现的图形项中的一些可以被隐藏在该后续视图中。在实施方式中,以这种方式,用户可以以环形方式来回导航通过图形项的集合。因此,可以理解,轮播界面可以通过在循环视图中只显示来自图形项的集合的图像的子集来优化屏幕空间。

如本文所描述的,增强现实内容生成器可以被包括在轮播布置(或如上所讨论的另一界面)上,从而使得能够旋转通过增强现实内容生成器。此外,可以基于包括例如时间、日期、地理位置、与媒体内容相关联的元数据等的各种信号来选择增强现实内容生成器以包括在内。在图8的用户界面示例的轮播布置中,从由本主题系统提供的可用增强现实内容生成器中选择相应的增强现实内容生成器。

图8示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用104(或消息收发系统100)中呈现由AR内容生成器生成的AR内容项的示例。

在图8的示例中,与可选图形项相对应的增强现实内容生成器810提供具有与相应旅行目的地对应的AR内容项(例如,在消息收发客户端应用104中被渲染以用于显示的3D对象或2D对象)的增强现实体验。在示例中,可以基于给定用户和其他用户(例如,与给定用户的社交图相关或包括在给定用户的社交图中的好友)已示出的兴趣(例如,基于用户活动或简档)的目的地,用特定AR内容项(例如,3D对象或2D对象)填充场景。此外,对与旅行目的地相对应的特定AR的选择(例如,目的地地理位置与客户端设备102的当前地理位置不同)使得显示3D场景,诸如目的地中的场景(例如,埃菲尔铁塔,或一些重要位置、纪念碑或地标等)的3D虚拟地图。

在以下讨论中,可选图形项的第一集合对应于相应增强现实内容生成器。如用户界面800中所示,与轮播布置相对应的可选图形项包括电子设备(例如,客户端设备102)的显示屏幕中与增强现实内容生成器810相对应的可选图形项。例如,经由客户端设备102的触摸屏接收滑动手势,并且响应于接收到滑动手势,启用通过可选图形项的导航,以促进对特定增强现实内容生成器的选择。经由用户的触摸输入(例如,轻敲或通过在手势结束时的触摸释放)选择与增强现实内容生成器810相对应的可选图形项。在该示例中,可选图形项对应于特定增强现实内容生成器,以用于提供与其他用户的AR体验,以浏览目的地地理位置(例如,用于潜在的旅行目的地或度假)。

在选择与增强现实内容生成器810相对应的可选图形项时,如用户界面800中进一步所示,与用户名(例如,“Ceci”、“Kaveh”和“Jean”)相对应的图形项被包括以指示要参与由与可选图形项相对应的增强现实内容生成器810提供的共享观看体验的用户。尽管在本示例中示出了三个用户,但应当理解的是,可以包括任何数目的其他用户。在本示例中,AR内容生成器生成可选AR内容项,可选AR内容项包括由客户端设备102提供的相机的当前视图中渲染的3D对象。在示例中,每个3D对象对应于特定目的地地理位置(例如,黄石、巴黎等)。为了选择一组目的地地理位置以用于渲染该组3D对象,可以处理来自用户简档的信息,其中,这样的信息可以指示期望的旅行目的地、兴趣等。此外,这样的用户简档信息可以基于历史地理位置信息,该历史地理位置信息包括给定用户可能还没有旅行到的地方或者用户已经明确指示有旅行兴趣的地理位置。在另一示例中,可以至少部分地基于消息收发客户端应用104内的用户活动——诸如用户之前已经使用或选择的那些AR内容生成器、用户已经购买或查看的产品、用户已经访问的链接、或用户在先前时间段内已经查看的内容(例如,视频或图像)——推断对特定地理位置的兴趣。

如用户界面800中所示,3D对象中的每一个可以在特定布置的相应定位中被渲染。这样的布置的示例可以包括每个3D对象的网格状定位,其中,每个对象与邻近的3D对象间隔相等距离,以使得第一组平行线将与3D对象的子集相交,并且第二组平行线将与第一组平行线垂直。考虑用于渲染3D对象的其他类型布置,诸如随机布置(例如,其中3D对象中的每一个之间的每个距离被随机确定)或基于多边形或形状(例如,星形、圆形、六角形等)的任何任意配置。

在图8的第二示例中,在选择与增强现实内容生成器820相对应的可选图形项时,包括在3D环境中与目的地地理位置相对应的3D场景被渲染,以用于在客户端设备102上的用户界面850中显示。作为共享的AR体验,上面讨论的三个用户(例如,“Ceci”、“Kaveh”和“Jean”)可以通过输入诸如各种手势输入、客户端设备102的移动(例如,来自陀螺仪传感器的运动数据)导航通过3D场景,这使得响应于可以改变正在被观看者观看的场景的视角的新接收的输入或移动数据而更新(例如,重新渲染)3D场景的视图。

在另一示例中,另一用户可以向接收客户端设备提供移动或输入,作为响应,该接收客户端设备启动3D环境的重新渲染,在该3D环境中,由观看者中的每一个正在观看的3D场景的视角基于所提供的移动或输入而改变。以这种方式,不同用户可以导航通过3D环境并且改变3D场景的视图,以及可以在针对旅行选择的目的地地理位置处提供共享的AR体验。例如,在接收到触摸输入时,3D场景的不同部分可以被渲染并被显示在客户端设备102上。

图9示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用104(或消息收发系统100)中呈现由AR内容生成器生成的AR内容项的示例。

在图9的示例中,与可选图形项相对应的增强现实内容生成器910提供具有AR内容项(例如,在消息收发客户端应用104中被渲染以用于显示的3D对象或2D对象)的增强现实体验,以用于确定关于平台上其他用户的旅行位置。经由用户的触摸输入(例如,轻敲或通过手势结束时的触摸释放)选择与增强现实内容生成器910相对应的可选图形项。

如用户界面900中所示,可以基于给定用户已经显示出兴趣的目的地(例如,基于用户活动或简档)渲染场景,以显示特定AR内容项(例如,3D对象或2D对象)。在另一实施方式中,可以使用其他信号——例如,这样的目的地地理位置的预定数目、基于与可用显示尺寸的量有关的函数的数目(例如,显示尺寸越大,可以选择更多的地理位置)、目的地地理位置的数目的随机选择、基于来自聚集用户活动(例如,好友或其他用户以及在社交图中彼此连接的用户)的聚集流行度的选择、或包括上述的任何组合的其他选择基础——来选择特定AR内容。

如所示,用户界面950被分割成不同的部分,每个部分中的不同AR内容项对应于相应旅行位置。在本示例中,用户界面950包括AR内容项960、AR内容项970、AR内容项980、AR内容项990,与四个不同目的地地理位置相对应的AR内容项中的每一个可以是用户可选的,与四个不同目的地地理位置相对应的AR内容项还可以包括描述AR内容项的特定目的地地理位置的文本信息。在实施方式中,使用客户端设备(例如,客户端设备102)的显示器的一部分中的相应AR内容生成器来生成AR内容项中的每一个,使得多个AR内容生成器可以在用户界面950中提供不同的AR内容项。如上所提及,可以使用不同信号选择目的地地理位置并在用户界面950中提供目的地地理位置以用于显示。用户输入可以被选择成AR内容项(诸如用户的触摸输入(例如,轻敲或通过手势结束时的触摸释放))中的一个。此外,用户界面950中的AR内容项中的每一个可以响应于来自客户端设备(例如,客户端设备102)的移动,使得响应于移动,针对该移动重新渲染并更新AR内容项。例如,响应于这样的移动,可以提供不同的AR效果和其他图形效果或听觉效果。

在实施方式中,在选择特定目的地地理位置的AR内容项时,提供第二用户界面(例如日历视图)以使得用户能够选择用户能够旅行的时间段,并且又一第三用户界面提供可选图形项(例如选项)以用于预订旅行相关的活动(例如来自第三方旅行网站或服务),这在下面的图10中进一步讨论。

图10示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用104(或消息收发系统100)中呈现由AR内容生成器生成的各种内容项的示例。

在图10的示例中,AR内容生成器(例如,如上所述,对应于增强现实内容生成器910)提供具有AR内容项(例如,在消息收发客户端应用104中被渲染以用于显示的3D对象或2D对象)的增强现实体验,以在消息收发系统100中选择用户能够与至少另一用户一起旅行的时间段。

如所示的,用户界面1000包括与日历相对应的AR内容项1010。使用触摸输入,用户可以基于日历中示出的日期来选择时间段。此外,用户可以使用AR内容项1010中的可选图形项(诸如滚动元素、按钮等)导航到不同的时间段(例如不同的月份)。

在本示例中,在选择特定时间段之后,提供用户界面1050以用于在客户端设备102上显示,该用户界面1050包括AR内容项1060、AR内容项1070和AR内容项1080。AR内容项1060对应于轮廓图像或数字化身示出的相应图形项,所述轮廓图像或数字化身包括旅行计划涉及的用户和至少一个其他用户。AR内容项1070示出了目的地地理位置的指示和选择的时间段的信息(例如,定价信息)。AR内容项1080包括与可以在选择的时间段内预订的酒店(或另一示例中的活动)有关的信息。在实施方式中,用户可以选择AR内容项1080,该AR内容项1080然后可以使3D场景(或其他附加AR内容)被显示在客户端设备102上,以使得用户能够进一步探索与AR内容项1080相关联的商业场所(例如,酒店房间、旅游景点、地标等)。这使得能够向用户提供额外的AR体验,并进一步增强预订的用户体验(UX)。与前面描述的示例类似,用户可以与该用户正计划与其一起旅行到目的地地理位置的其他用户分享探索商业场所的AR体验。

图11示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用104(或消息收发系统100)中呈现由AR内容生成器生成的AR内容项的示例。

在图11的示例中,AR内容生成器(例如,如上所述,对应于增强现实内容生成器910)提供具有AR内容项(例如,在消息收发客户端应用104中被渲染以用于显示的3D对象或2D对象)的增强现实体验,以在消息收发系统100中示出到用户已经计划与至少另一用户一起的给定目的地地理位置的旅行的行程(或活动或位置的集合)。

如所示的,用户界面1100包括与旅行行程相对应的AR内容项1110。使用触摸输入,用户可以选择AR内容项1110以进一步显示旅行行程的活动或位置。

在本示例中,在选择AR内容项1110之后,提供用户界面1150以用于在客户端设备102上显示,该用户界面1150包括AR内容项1160、AR内容项1170和AR内容项1180。AR内容项1160对应于目的地地理位置的地图,AR内容项1170是旅行行程的详细视图,AR内容项1180包括在旅行行程期间要访问的商业场所的信息。如上所述,旅行行程可以对应于已经由用户计划的旅行的所选择的时间段。

图12示出了根据一些实施方式的增强现实(AR)内容生成器以及在消息收发客户端应用104(或消息收发系统100)中呈现由AR内容生成器生成的AR内容项的示例。

在图12的示例中,AR内容生成器1210(例如,对应于可选图形项)提供具有AR内容项(例如,在消息收发客户端应用104中被渲染以用于显示的3D对象或2D对象)的增强现实体验,以示出与用户的未来旅行位置相对应的特定目的地地理位置的不同活动或位置的图像的动画(例如,在外观上类似于混洗图片幻灯片平台)。使用触摸输入,用户可以选择用户界面1200中与AR内容生成器1210相对应的可选图形项,以进一步显示目的地地理位置的活动或位置。

在实施方式中,AR内容生成器1210可以提供其他图形项(例如,文本输入字段或框、地图、或具有一组目的地地理位置的下拉列表等),以用于接收用户输入以选择特定目的地地理位置。在另一实施方式中,AR内容生成器1210可以基于诸如用户活动、用户简档信息、用户偏好等的信号来选择特定目的地地理位置。

如所示的,用户界面1200包括AR内容项1220,该AR内容项1220被包括在AR内容项的集合中。可以以随机化的方式选择与不同活动相对应的图像。用户输入可以选择暂停图像的动画以选择特定图像,并且在选择时,可以显示与活动相对应的位置的3D沉浸式视图(例如,3D场景)。

尽管在本示例中,提供AR内容项的集合以用于显示为可辨别的单独AR内容项(例如,堆叠的卡片),在另一示例中,可以一次示出仅一个AR内容项,同时AR内容项中的每一个被循环以用于快速(例如,类似于卡片或变化的闪光卡/标牌的动画混洗平台)显示。

在本示例中,在选择与AR内容生成器1210相对应的可选图形项之后,提供包括AR内容项1220的用户界面1200以用于在客户端设备102上显示。AR内容项1220对应于目的地地理位置的特定活动,该AR内容项1220可以被最初示出并且随后其他AR内容项被快速连续地显示,以模仿在一个AR内容项与第二AR内容项之间混洗的卡片的动画平台,并以这种类似的方式继续(或类似于循环通过的电影的不同帧)。在实施方式中,动画以每秒多个AR内容项(但远低于每秒30次(例如,每秒2至5次))循环通过各种AR内容项。

在示例中,可以接收长按触摸手势以选择给定的AR内容项(例如,AR内容项1220)。当长按触摸输入尚未被释放时,通过各种AR内容项的动画循环被暂时暂停并被保持到所选择的AR内容项。在实施方式中,在释放长按触摸输入时,第二AR内容项(例如,3D场景)被显示在客户端设备102上。可替选地,在随后接收到手势输入的情况下,其中,长按触摸输入的位置从所选择的AR内容项移开,并且然后移到所选择的AR内容项的外面,AR内容项可以以快速循环的方式被再次动画化。

在实施方式中,在长按触摸输入被释放之后,提供用户界面1250以用于在客户端设备102上显示。如所示的,用户界面1250包括作为与先前所选择的AR内容项相对应的活动的3D场景的AR内容项。在实施方式中,用户界面1250的3D场景可以基于由客户端设备102接收的用户输入被导航并四处移动。例如,在接收到触摸输入时,3D场景的不同部分可以被渲染并被显示在客户端设备102上。

图13示出了根据一些实施方式的用户界面以及在消息收发客户端应用104(或消息收发系统100)中呈现由AR内容生成器生成的内容项的示例。

在图13的示例中,AR内容生成器可以提供用户界面,以显示旅行位置或事件的“收藏夹”(例如,类似于书签或根据特定地理位置分组的活动、商业场所等的保存的集合),以及使得能够向其他用户分享收藏夹。在下面的讨论中,用户界面1300是保存的旅行位置的列表的第一界面。对于每个保存的旅行位置,与用户界面1350相对应的第二界面被提供有不同的活动或具有图像(例如,缩略图或小图像)的位置以供选择。

如所示的,用户界面1300包括内容项1330,该内容项1330对应于被包括在内容项的集合的列表中的可选图形项。列表包括与不同地理位置相对应的可选图形项,并且可以按创建日期、字母顺序、随机顺序或一些其他排序标准(例如,基于指示重要性度量的先前用户活动的相对得分)对列表进行排序。用户输入可以选择内容项1330(例如,巴黎)或用户界面1300中的其他内容项中的任一个,并且在选择时可以使另一组内容项被显示在客户端设备102上。如进一步所示,图像1320(例如,数字化身或简档照片)可以被包括在给定内容项邻近或附近,以指示对特定内容项有贡献或访问特定内容项的另一用户。用户界面1300还包括内容项1310,该内容项1310包括诸如用户已经包括在来自用户界面1300中的内容项的列表的各种内容项中的地点(例如,收藏夹)的总数的信息。

如进一步所示,用户界面1300还包括搜索界面和可选图形项,以用于创建与特定目的地地理位置相关联的内容项的新分组。

在本示例中,在选择内容项1330之后,提供用户界面1350以用于在客户端设备102上显示,该用户界面1350包括与上面讨论的所选择的内容项1330相对应的商业(或与特定目的地地理位置相关联的地点或活动等)的分组。在该示例中,用户界面1350包括与和特定地理位置(例如,“巴黎”)相关联的地理区域内的商业场所或活动对应的图像1370(或AR内容项)和信息1380,该信息1380包括对商业场所的描述以及此外其他信息(诸如地址和查看用户已经访问商业场所的次数)。如进一步所示,图像的集合1360(例如,数字化身或简档照片)被包括在用户界面1350中,以指示访问内容或对提供与上面讨论的内容项1330相对应的特定商业场所有贡献的各种用户。在实施方式中,可以通过选择可选图形项1365(“添加好友”)来添加额外的用户(例如,在社交图中彼此连接的用户),以允许访问用户界面1350中的商业的分组。如进一步所示,用户界面1350还包括用于搜索内容项的搜索界面。

在实施方式中,在接收到与活动的特定商业场所相对应的图像中的一个图像的选择时,提供信息的显示以用于基于地理区域内的活动或商业场所的第二地理位置进行显示。这样的选择可以是触摸输入,诸如轻敲触摸输入。

图14是示出根据某些示例实施方式的方法1400的流程图。方法1400可以包含在计算机可读指令中,所述计算机可读指令用于由一个或更多个计算机处理器执行,使得方法1400的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个组件)部分地或整体地执行;因此,下面参考其通过示例的方式来描述方法1400。然而,应当理解的是,方法1400的操作中的至少一些可以被部署在各种其他硬件配置上,并且方法1400不旨在限于消息收发客户端应用104。

在操作1402处,增强现实内容生成器模块714从多个可用增强现实内容生成器中选择增强现实内容生成器的集合,所选择的增强现实内容生成器的集合包括用于呈现至少部分地基于地理位置的三维(3D)场景的至少一个增强现实内容生成器。

在操作1404处,渲染模块710使得在客户端设备处显示包括多个可选图形项的图形界面,每个可选图形项对应于增强现实内容生成器的集合中的相应增强现实内容生成器。

在操作1406处,AR内容生成器模块714在客户端设备处接收从多个可选图形项中对第一可选图形项的选择,第一可选图形项包括与特定地理位置相对应的第一增强现实内容生成器。

在操作1408处,渲染模块710使得在客户端设备处显示由第一增强现实内容生成器生成的至少一个增强内容现实项,至少一个增强内容现实项包括至少部分地基于特定地理位置的3D场景。

在操作1410处,渲染模块710使得在第二客户端设备处显示由第一增强现实内容生成器生成的至少一个增强内容现实项,至少一个增强内容现实项包括至少部分地基于特定地理位置的3D场景。

图15是示出根据某些示例实施方式的方法1500的流程图。方法1500可以包含在计算机可读指令中,所述计算机可读指令用于由一个或更多个计算机处理器执行,使得方法1500的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个组件)部分地或全部地执行;因此,下面参考其通过示例的方式来描述方法1500。然而,应当理解的是,方法1500的操作中的至少一些可以被部署在各种其他硬件配置上,并且方法1500不旨在限于消息收发客户端应用104。

在操作1502处,增强现实内容生成器模块714在客户端设备处接收对第一可选图形项的选择,第一可选图形项包括第一增强现实内容生成器。

在操作1504处,渲染模块710使得在客户端设备处显示由第一增强现实内容生成器生成的增强现实内容项的集合,增强现实内容项的集合中的每一个包括与不同于当前地理位置的目的地地理位置相对应的特定增强现实内容项。

在操作1506处,增强现实内容生成器模块714在客户端设备处接收对与目的地地理位置相对应的特定增强现实内容项的第二选择。

在操作1508处,渲染模块710使得在客户端设备处显示由第一增强现实内容生成器生成的增强现实内容项的第二集合,增强现实内容项的第二集合包括调度工具,该调度工具包括在包括特定日期的时间段内组织的特定日期的视觉布置。

在操作1510处,增强现实内容生成器模块714在客户端设备处接收对增强现实内容项的第二集合的第二选择,第二选择与所选择的时间段相对应。

在操作1512处,渲染模块710使得在客户端设备处显示由第一增强现实内容生成器生成的增强现实内容项的第三集合,增强现实内容项的第三集合包括与目的地地理位置和所选择的时间段相关联的至少一个活动或位置。

图16是示出根据某些示例实施方式的方法1600的流程图。方法1600可以包含在计算机可读指令中,所述计算机可读指令用于由一个或更多个计算机处理器执行,使得方法1600的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个组件)部分地或全部地执行;因此,下面参考其通过示例的方式来描述方法1600。然而,应当理解的是,方法1600的操作中的至少一些可以被部署在各种其他硬件配置上,并且方法1600不旨在限于消息收发客户端应用104。

在操作1602处,增强现实内容生成器模块714在客户端设备处接收对第一可选图形项的选择,第一可选图形项包括与特定地理位置相对应的第一增强现实内容生成器。

在操作1604处,渲染模块710使得在客户端设备处显示包括多个可选增强现实内容项的图形界面,每个可选增强现实内容项对应于部分地基于特定地理位置的特定活动。

在操作1606处,增强现实内容生成器模块714在客户端设备处接收从多个可选增强现实内容项中对特定可选增强现实内容项的第二选择。

在操作1608处,渲染模块710使得在客户端设备处显示由第一增强现实内容生成器生成的至少一个第二增强现实内容项,至少一个第二增强内容项包括至少部分地基于特定地理位置的三维(3D)场景。

图17是示出根据某些示例实施方式的方法1700的流程图。方法1700可以包含在计算机可读指令中,所述计算机可读指令用于由一个或更多个计算机处理器执行,使得方法1700的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个组件)部分地或整体地执行;因此,下面参考其通过示例的方式来描述方法1700。然而,应当理解,方法1700的操作中的至少一些可以被部署在各种其他硬件配置上,并且方法1700并不旨在限于消息收发客户端应用104。

在操作1702处,渲染模块710使得在客户端设备处显示包括多个可选图形项的图形界面,每个可选图形项对应于与不同地理位置相关联的相应内容项。

在操作1704处,增强现实内容生成器模块714在客户端设备处接收从多个可选图形项中对第一可选图形项的选择,第一可选图形项对应于特定地理位置。

在操作1706处,渲染模块710使得在客户端设备处显示第二多个可选图形项,第二多个可选图形项中的每一个对应于与特定地理位置相关联的地理区域内的活动或商业场所的特定第二地理位置。

图18是示出示例软件架构1806的框图,该示例软件架构1806可以与本文中描述的各种硬件架构结合使用。图18是软件架构的非限制性示例,应当理解的是,可以实现许多其他架构以促进本文中描述的功能。软件架构1806可以在诸如图19的机器1900的硬件上执行,机器1900包括处理器1904、存储器1914和(输入/输出)I/O部件1918等。示出了代表性硬件层1852并且该代表性硬件层1852可以表示例如图19的机器1900。代表性硬件层1852包括具有相关联的可执行指令1804的处理单元1854。可执行指令1804表示软件架构1806的可执行指令,包括本文中描述的方法、组件等的实现方式。硬件层1852还包括也具有可执行指令1804的存储器和/或存储模块存储器/存储装置1856。硬件层1852还可以包括其他硬件1858。

在图18的示例架构中,软件架构1806可以被概念化为层的堆叠,在所述层的堆叠中,每个层提供特定功能。例如,软件架构1806可以包括诸如操作系统1802、库1820、框架/中间件1818、应用1816和表示层1814的层。在操作上,这些层内的应用1816和/或其他组件可以通过软件堆栈调用API调用1808,并且接收如在消息1812中的对API调用1808的响应。所示出的层在本质上是代表性的,并且不是所有软件架构都具有所有层。例如,一些移动操作系统或专用操作系统可能不提供框架/中间件1818,而其他操作系统可能提供这样的层。其他软件架构可以包括另外的层或不同的层。

操作系统1802可以管理硬件资源并且提供公共服务。操作系统1802可以包括例如核1822、服务1824和驱动器1826。核1822可以用作硬件层与其他软件层之间的抽象层。例如,核1822可以负责存储器管理、处理器管理(例如,调度)、组件管理、联网、安全设置等。服务1824可以为其他软件层提供其他公共服务。驱动器1826负责控制底层硬件或与底层硬件对接。例如,根据硬件配置,驱动器1826包括显示器驱动器、相机驱动器、

库1820提供由应用1816和/或其他组件和/或层使用的公共基础设施。库1820提供如下功能,该功能允许其他软件组件以比与底层操作系统1802的功能(例如,核1822、服务1824和/或驱动器1826)直接对接的方式更容易的方式来执行任务。库1820可以包括系统库1844(例如,C标准库),系统库1844可以提供函数,诸如存储器分配函数、字符串操纵函数、数学函数等。另外,库1820可以包括API库1846,诸如媒体库(例如,支持诸如MPREG4、H.264、MP3、AAC、AMR、JPG、PNG的各种媒体格式的呈现和操纵的库)、图形库(例如,可以用于在显示器上以图形内容渲染2D和3D的OpenGL框架)、数据库库(例如,可以提供各种关系数据库功能的SQLite)、网络库(例如,可以提供网络浏览功能的WebKit)等。库1820还可以包括各种其他库1848,以向应用1816和其他软件组件/模块提供许多其他API。

框架/中间件1818(有时也被称为中间件)提供可以由应用1816和/或其他软件组件/模块使用的较高级别的公共基础设施。例如,框架/中间件1818可以提供各种图形用户界面(GUI)功能、高级资源管理、高级位置服务等。框架/中间件1818可以提供可以由应用1816和/或其他软件组件/模块使用的广泛的其他API,其中一些可以专用于特定操作系统1802或平台。

应用1816包括内置应用1838和/或第三方应用1840。代表性内置应用1838的示例可以包括但不限于:联系人应用、浏览器应用、图书阅读器应用、位置应用、媒体应用、消息收发应用和/或游戏应用。第三方应用1840可以包括由除了特定平台的供应商之外的实体使用ANDROID

应用1816可以使用内置操作系统功能(例如,核1822、服务1824和/或驱动器1826)、库1820和框架/中间件1818来创建用户接口以与系统的用户进行交互。可替选地或另外地,在一些系统中,可以通过表示层诸如表示层1814来进行与用户的交互。在这些系统中,应用/组件“逻辑”可以与应用/组件的与用户交互的方面分开。

图19是示出根据一些示例实施方式的能够从机器可读介质(例如,机器可读存储介质)读取指令并执行本文所讨论的方法中的任何一种或更多种方法的机器1900的部件的框图。具体地,图19示出了呈计算机系统的示例形式的机器1900的图形表示,在该机器1900内可以执行用于使机器1900执行本文讨论的方法中的任何一种或更多种方法的指令1910(例如,软件、程序、应用、小程序、app或其他可执行代码)。同样地,指令1910可以被用来实现本文中描述的模块或组件。指令1910将通用的未编程的机器1900转换成被编程成以所描述的方式执行所描述和所示出的功能的特定机器1900。在替选实施方式中,机器1900作为独立装置进行操作或者可以耦接(例如,联网)至其他机器。在联网的部署中,机器1900可以在服务器-客户端网络环境中以服务器机器或客户端机器的身份进行操作,或者在对等(或分布式)网络环境中作为对等机器进行操作。机器1900可以包括但不限于:服务器计算机、客户端计算机、个人计算机(PC)、平板计算机、膝上型计算机、上网本、机顶盒(STB)、个人数字助理(PDA)、娱乐媒体系统、蜂窝电话、智能电话、移动设备、可穿戴设备(例如,智能手表)、智能家居设备(例如,智能电器)、其他智能设备、web装置、网络路由器、网络交换机、网络桥接器、或者能够顺序地或以其他方式执行指定要由机器1900采取的动作的指令1910的任何机器。此外,虽然仅示出了单个机器1900,但是术语“机器”还应该被视为包括单独或联合执行指令1910以执行本文中讨论的方法中的任何一个或更多个方法的机器的集合。

机器1900可以包括处理器1904(包括处理器1908至处理器1912)、存储器/存储装置1906和I/O部件1918,它们可以被配置成诸如经由总线1902彼此进行通信。存储器/存储装置1906可以包括存储器1914诸如主存储器或其他存储器存储装置以及存储单元1916,处理器1904诸如可经由总线1902访问存储器1914和存储单元1916两者。存储单元1916和存储器1914存储体现本文中描述的方法或功能中的任何一个或更多个方法或功能的指令1910。指令1910还可以在其被机器1900执行期间完全地或部分地驻留在存储器1914内、存储单元1916内、处理器1904中的至少一个内(例如,处理器的高速缓冲存储器内)或者它们的任何合适的组合内。因此,存储器1914、存储单元1916以及处理器1904的存储器是机器可读介质的示例。

I/O部件1918可以包括接收输入、提供输出、产生输出、传送信息、交换信息、捕获测量结果等的各种各样的部件。包括在特定机器1900中的具体I/O部件1918将取决于机器的类型。例如,诸如移动电话的便携式机器将很可能包括触摸输入装置或其他这样的输入机构,而无头服务器(headless server)机器将很可能不包括这样的触摸输入装置。将理解的是,I/O部件1918可以包括图19中未示出的许多其他部件。仅仅为了简化下面的讨论,I/O部件1918根据功能被分组,并且分组决不是限制性的。在各种示例实施方式中,I/O部件1918可以包括输出部件1926和输入部件1928。输出部件1926可以包括视觉部件(例如,诸如等离子显示面板(PDP)、发光二极管(LED)显示器、液晶显示器(LCD)、投影仪或阴极射线管(CRT)的显示器)、听觉部件(例如,扬声器)、触觉部件(例如,振动马达、阻力机构)、其他信号生成器等。输入部件1928可以包括字母数字输入部件(例如,键盘、被配置成接收字母数字输入的触摸屏、光电键盘或其他字母数字输入部件)、基于点的输入部件(例如,鼠标、触摸板、轨迹球、操纵杆、运动传感器或其他定点仪器)、触觉输入部件(例如,物理按钮、提供触摸或触摸手势的位置和/或力的触摸屏或其他触觉输入部件)、音频输入部件(例如,麦克风)等。

在其他示例实施方式中,I/O部件1918可以包括生物特征识别部件1930、运动部件1934、环境部件1936或定位部件1938以及各种其他部件。例如,生物特征识别部件1930可以包括用于检测表达(例如,手表达、面部表情、声音表达、身体姿势或眼睛跟踪)、测量生物信号(例如,血压、心率、体温、出汗或脑波)、识别人(例如,语音识别、视网膜识别、面部识别、指纹识别或基于脑电图的识别)等的部件。运动部件1934可以包括加速度传感器部件(例如,加速度计)、重力传感器部件、旋转传感器部件(例如,陀螺仪)等。环境部件1936可以包括例如照明传感器部件(例如,光度计)、温度传感器部件(例如,检测周围温度的一个或更多个温度计)、湿度传感器部件、压力传感器部件(例如,气压计)、听觉传感器部件(例如,检测背景噪声的一个或更多个麦克风)、接近传感器部件(例如,检测附近物体的红外传感器)、气体传感器(例如,出于安全考虑而检测危险气体的浓度或者测量大气中的污染物的气体检测传感器)或者可以提供与周围物理环境对应的指示、测量或信号的其他部件。定位部件1938可以包括位置传感器部件(例如,GPS接收器部件)、海拔高度传感器部件(例如,检测可以从其得出海拔高度的气压的高度计或气压计)、取向传感器部件(例如,磁力计)等。

可以使用各种各样的技术来实现通信。I/O部件1918可以包括通信部件1940,该通信部件1940能够操作成分别经由耦接1924和耦接1922将机器1900耦接至网络1932或设备1920。例如,通信部件1940可以包括网络接口部件或其他合适的设备以与网络1932对接。在其他示例中,通信部件1940可以包括有线通信部件、无线通信部件、蜂窝通信部件、近场通信(NFC)部件、

此外,通信部件1940可以检测标识符或包括可操作成检测标识符的部件。例如,通信部件1940可以包括射频识别(RFID)标签读取器部件、NFC智能标签检测部件、光学读取器部件(例如,用于检测下述项的光学传感器:一维条形码诸如通用产品代码(UPC)条形码;多维条形码,诸如快速响应(QR)代码、Aztec代码、数据矩阵、数据图示符(Dataglyph)、麦克斯码(MaxiCode)、PDF417、超代码、UCC RSS-2D条形码和其他光学代码)、或者声学检测部件(例如,用于标识标记的音频信号的麦克风)。另外,可以经由通信部件1940得到各种信息,诸如,经由因特网协议(IP)地理位置得到位置、经由

以下讨论涉及贯穿本主题公开内容提及的各种术语或短语。

“信号介质”是指能够存储、编码或携载由机器执行的指令的任何无形介质,并且包括数字或模拟通信信号或其他无形介质以促进软件或数据的通信。术语“信号介质”应当被视为包括任何形式的经调制的数据信号、载波等。术语“经调制的数据信号”意指使其特性中的一个或更多个特性以对信号中的信息进行编码的这样的方式来设置或改变的信号。术语“传输介质”和“信号介质”意指相同的事物,并且可以在本公开内容中互换使用。

“通信网络”是指网络的一个或更多个部分,该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、

“处理器”是指根据控制信号(例如,“命令”、“操作码”、“机器码”等)操纵数据值并且产生被应用以操作机器的对应输出信号的任何电路或虚拟电路(由在实际处理器上执行的逻辑模拟的物理电路)。例如,处理器可以是中央处理单元(CPU)、精简指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)或它们的任何组合。处理器还可以是具有可以同时执行指令的两个或更多个独立处理器(有时被称为“核”)的多核处理器。

“机器存储介质”指的是存储可执行指令、例程和/或数据的单个或多个存储设备和/或介质(例如,集中式或分布式数据库和/或相关联的高速缓冲存储器和服务器)。因此,上述术语应被视为包括但不限于固态存储器以及光学和磁性介质,包括处理器内部或外部的存储器。机器存储介质、计算机存储介质和/或设备存储介质的具体示例包括:非易失性存储器,包括例如半导体存储器设备,例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪速存储器设备;磁盘,诸如内部硬盘和可移动盘;磁光盘;以及CD-ROM和DVD-ROM盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物,并且在本公开内容中可以互换使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、经调制的数据信号和其他这样的介质,载波、经调制的数据信号和其他这样的介质中的至少一些被涵盖在术语“信号介质”中。

“组件”是指具有以下边界的设备、物理实体或逻辑,所述边界由函数或子例程调用、分支点、API或提供用于对特定处理或控制功能进行划分或模块化的其他技术来定义。组件可以经由它们的接口与其他组件组合以执行机器处理。组件可以是被设计用于与其他组件一起使用的经封装的功能硬件单元并且可以是通常执行相关功能中的特定功能的程序的一部分。组件可以构成软件组件(例如,体现在机器可读介质上的代码)或硬件组件。“硬件组件”是能够执行某些操作的有形单元,并且可以以某种物理方式来配置或布置。在各种示例实施方式中,一个或更多个计算机系统(例如,独立计算机系统、客户端计算机系统或服务器计算机系统)或计算机系统的一个或更多个硬件组件(例如,处理器或处理器组)可以通过软件(例如,应用或应用部分)被配置为操作成执行如本文中描述的某些操作的硬件组件。也可以机械地、电子地或其任何合适的组合来实现硬件组件。例如,硬件组件可以包括被永久地配置成执行某些操作的专用电路系统或逻辑。硬件组件可以是专用处理器,诸如现场可编程门阵列(FPGA)或专用集成电路(ASIC)。硬件组件还可以包括通过软件被短暂配置成执行某些操作的可编程逻辑或电路系统。例如,硬件组件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置,硬件组件就成为被唯一地定制成执行配置的功能的特定机器(或机器的特定组件),并且不再是通用处理器。将理解的是,可以出于成本和时间考虑来推动在专用且永久配置的电路系统中或在短暂配置(例如,通过软件配置)的电路系统中机械地实现硬件组件的决策。因此,短语“硬件组件”(或者“硬件实现的组件”)应当被理解成包含有形实体,即作为被物理构造、永久配置(例如,硬连线)或短暂配置(例如,编程)成以某种方式进行操作或者执行本文中描述的某些操作的实体。考虑硬件组件被短暂配置(例如,被编程)的实施方式,无需在任一时刻对硬件组件中的每个硬件组件进行配置或实例化。例如,在硬件组件包括通过软件被配置成专用处理器的通用处理器的情况下,该通用处理器可以在不同时间处分别被配置为不同的专用处理器(例如,包括不同的硬件组件)。软件相应地配置一个特定处理器或多个特定处理器,以例如在一个时刻处构成特定硬件组件并且在不同的时刻处构成不同的硬件组件。硬件组件可以向其他硬件组件提供信息并且从其他硬件组件接收信息。相应地,所描述的硬件组件可以被认为是通信上耦接的。在同时存在多个硬件组件的情况下,可以通过在两个或更多个硬件组件之间或之中的信号传输(例如,通过适当的电路和总线)来实现通信。在其中多个硬件组件在不同时间处被配置或被实例化的实施方式中,可以例如通过将信息存储在多个硬件组件可以访问的存储器结构中并且在该存储器结构中检索信息来实现这样的硬件组件之间的通信。例如,一个硬件组件可以执行操作,并且将该操作的输出存储在通信上耦接的存储器设备中。然后,另外的硬件组件可以在随后的时间处访问存储器设备,以检索和处理所存储的输出。硬件组件还可以发起与输入设备或输出设备的通信,并且可以对资源进行操作(例如,信息的收集)。本文中描述的示例方法的各种操作可以至少部分地由暂时被配置(例如,由软件)或永久地被配置成执行相关操作的一个或更多个处理器来执行。无论是短暂配置还是永久配置,这样的处理器可以构成进行操作以执行本文描述的一个或更多个操作或功能的处理器实现的组件。如本文中使用的,“处理器实现的组件”是指使用一个或更多个处理器实现的硬件组件。类似地,本文中描述的方法可以至少部分地由处理器实现,其中,特定的一个或多个处理器是硬件的示例。例如,方法的至少一些操作可以由一个或更多个处理器或处理器实现的组件来执行。此外,一个或更多个处理器还可以进行操作以支持“云计算”环境中的相关操作的执行或者操作为“软件即服务”(SaaS)。例如,操作中的至少一些操作可以由一组计算机(作为包括处理器的机器的示例)执行,其中,这些操作能够经由网络(例如,因特网)并且经由一个或更多个适当的接口(例如,API)被访问。某些操作的执行可以分布在处理器之间,不仅驻留在单个机器内,而且跨多个机器被部署。在一些示例实施方式中,处理器或处理器实现的组件可以位于单个地理位置中(例如,在家庭环境、办公室环境或服务器群内)。在其他示例实施方式中,处理器或处理器实现的组件可以跨多个地理位置分布。

“载波信号”是指能够存储、编码或携载由机器执行的指令的任何无形介质,并且包括数字或模拟通信信号或其他无形介质以促进这样的指令的通信。可以使用传输介质经由网络接口设备来通过网络发送或接收指令。

“计算机可读介质”是指机器存储介质和传输介质两者。因此,这些术语包括存储设备/介质和载波/经调制的数据信号两者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物,并且可以在本公开内容中可互换地使用。

“客户端设备”是指与通信网络对接以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超级本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。在本公开内容中,客户端设备也被称为“电子设备”。

“短暂消息”是指在时间有限的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。针对短暂消息的访问时间可以由消息发送者设置。可替选地,访问时间可以是默认设置或者由接收者指定的设置。无论设置技术如何,该消息都是暂时的。

“信号介质”是指能够存储、编码或携载由机器执行的指令的任何无形介质,并且包括数字或模拟通信信号或其他无形介质以促进软件或数据的通信。术语“信号介质”应当被视为包括任何形式的经调制的数据信号、载波等。术语“经调制的数据信号”意指使其特性中的一个或更多个特性以对信号中的信息进行编码的这样的方式来设置或改变的信号。术语“传输介质”和“信号介质”意指相同的事物,并且可以在本公开内容中互换使用。

“通信网络”是指网络的一个或更多个部分,该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、

“处理器”是指根据控制信号(例如,“命令”、“操作码”、“机器码”等)操纵数据值并且产生被应用以操作机器的对应输出信号的任何电路或虚拟电路(由在实际处理器上执行的逻辑模拟的物理电路)。例如,处理器可以是中央处理单元(CPU)、精简指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)或它们的任何组合。处理器还可以是具有可以同时执行指令的两个或更多个独立处理器(有时被称为“核”)的多核处理器。

“机器存储介质”指的是存储可执行指令、例程和/或数据的单个或多个存储设备和/或介质(例如,集中式或分布式数据库和/或相关联的高速缓冲存储器和服务器)。因此,上述术语应被视为包括但不限于固态存储器以及光学和磁性介质,包括处理器内部或外部的存储器。机器存储介质、计算机存储介质和/或设备存储介质的具体示例包括:非易失性存储器,包括例如半导体存储器设备,例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪速存储器设备;磁盘,诸如内部硬盘和可移动盘;磁光盘;以及CD-ROM和DVD-ROM盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物,并且在本公开内容中可以互换使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、经调制的数据信号和其他这样的介质,载波、经调制的数据信号和其他这样的介质中的至少一些被涵盖在术语“信号介质”中。

“组件”是指具有以下边界的设备、物理实体或逻辑,所述边界由函数或子例程调用、分支点、API或提供用于对特定处理或控制功能进行划分或模块化的其他技术来定义。组件可以经由它们的接口与其他组件组合以执行机器处理。组件可以是被设计用于与其他组件一起使用的经封装的功能硬件单元并且可以是通常执行相关功能中的特定功能的程序的一部分。组件可以构成软件组件(例如,体现在机器可读介质上的代码)或硬件组件。“硬件组件”是能够执行某些操作的有形单元,并且可以以某种物理方式来配置或布置。在各种示例实施方式中,一个或更多个计算机系统(例如,独立计算机系统、客户端计算机系统或服务器计算机系统)或计算机系统的一个或更多个硬件组件(例如,处理器或处理器组)可以通过软件(例如,应用或应用部分)被配置为进行操作以执行如本文中描述的某些操作的硬件组件。也可以机械地、电子地或其任何合适的组合来实现硬件组件。例如,硬件组件可以包括被永久地配置成执行某些操作的专用电路系统或逻辑。硬件组件可以是专用处理器,诸如现场可编程门阵列(FPGA)或专用集成电路(ASIC)。硬件组件还可以包括通过软件被短暂配置成执行某些操作的可编程逻辑或电路系统。例如,硬件组件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置,则硬件组件成为被唯一地定制成执行配置的功能的特定机器(或机器的特定组件),并且不再是通用处理器。将理解的是,可以出于成本和时间考虑来推动在专用且永久配置的电路系统中或在短暂配置(例如,通过软件配置)的电路系统中机械地实现硬件组件的决策。因此,短语“硬件组件”(或者“硬件实现的组件”)应当被理解成包含有形实体,即作为被物理构造、永久配置(例如,硬连线)或短暂配置(例如,被编程)成以某种方式进行操作或者执行本文中描述的某些操作的实体。考虑硬件组件被短暂配置(例如,被编程)的实施方式,无需在任一时刻对硬件组件中的每个硬件组件进行配置或实例化。例如,在硬件组件包括通过软件被配置成变为专用处理器的通用处理器的情况下,该通用处理器可以在不同时间处分别被配置为不同的专用处理器(例如,包括不同的硬件组件)。软件相应地配置一个特定处理器或多个特定处理器,以例如在一个时刻处构成特定硬件组件并且在不同时刻处构成不同的硬件组件。硬件组件可以向其他硬件组件提供信息并且从其他硬件组件接收信息。相应地,所描述的硬件组件可以被认为是通信上耦接的。在同时存在多个硬件组件的情况下,可以通过在两个或更多个硬件组件之间或之中的信号传输(例如,通过适当的电路和总线)来实现通信。在其中多个硬件组件在不同时间处被配置或被实例化的实施方式中,可以例如通过将信息存储在多个硬件组件可以访问的存储器结构中并且在该存储器结构中检索信息来实现这样的硬件组件之间的通信。例如,一个硬件组件可以执行操作,并且将该操作的输出存储在通信上耦接的存储器设备中。然后,另外的硬件组件可以在随后的时间处访问存储器设备,以检索和处理所存储的输出。硬件组件还可以发起与输入设备或输出设备的通信,并且可以对资源进行操作(例如,信息的收集)。本文中描述的示例方法的各种操作可以至少部分地由被短暂地配置(例如,由软件)或被永久地配置成执行相关操作的一个或更多个处理器来执行。无论是短暂配置还是永久配置,这样的处理器可以构成进行操作以执行本文描述的一个或更多个操作或功能的处理器实现的组件。如本文中使用的,“处理器实现的组件”是指使用一个或更多个处理器实现的硬件组件。类似地,本文中描述的方法可以至少部分地由处理器实现,其中,特定的一个或多个处理器是硬件的示例。例如,方法的至少一些操作可以由一个或更多个处理器或处理器实现的组件来执行。此外,一个或更多个处理器还可以进行操作以支持“云计算”环境中的相关操作的执行或者操作为“软件即服务”(SaaS)。例如,操作中的至少一些操作可以由一组计算机(作为包括处理器的机器的示例)执行,其中,这些操作能够经由网络(例如,因特网)并且经由一个或更多个适当的接口(例如,API)被访问。某些操作的执行可以分布在处理器之间,不仅驻留在单个机器内,而且跨多个机器被部署。在一些示例实施方式中,处理器或处理器实现的组件可以位于单个地理位置中(例如,在家庭环境、办公室环境或服务器群内)。在其他示例实施方式中,处理器或处理器实现的组件可以跨多个地理位置分布。

“载波信号”是指能够存储、编码或携载由机器执行的指令的任何无形介质,并且包括数字或模拟通信信号或其他无形介质以促进这样的指令的通信。可以使用传输介质经由网络接口设备来通过网络发送或接收指令。

“计算机可读介质”是指机器存储介质和传输介质两者。因此,这些术语包括存储设备/介质和载波/经调制的数据信号两者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物,并且可以在本公开内容中可互换地使用。

“客户端设备”是指与通信网络对接以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超级本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。

“短暂消息”是指在时间有限的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。针对短暂消息的访问时间可以由消息发送者设置。可替选地,访问时间可以是默认设置或者由接收者指定的设置。无论设置技术如何,该消息都是暂时的。

相关技术
  • 用于确定对机动车与固定的、作为目的地的充电装置之间的相对位置进行描述的位置信息的方法和包括机动车和固定的、作为目的地的充电装置的布置结构
  • 用于指定链接目的地的界面装置和计算机程序、用于观看者的界面装置和计算机程序
技术分类

06120116335147