虚拟助理连续性
文献发布时间:2023-06-19 09:41:38
本申请是国际申请日为2016年3月4日、于2017年8月23日进入中国国家阶段、中国国家申请号为201680011682.3、发明名称为“虚拟助理连续性”的发明专利申请的分案申请。
本专利申请要求于2015年3月8日提交的标题为“VIRTUAL ASSISTANTCONTINUITY”的美国临时专利申请序列号62/129,928和于2015年8月31日提交的标题为“VIRTUAL ASSISTANT CONTINUITY”的美国专利申请序列号14/841,455的优先权。本专利申请的内容据此全文以引用方式并入本文。
本专利申请与以下共同未决的临时专利申请相关:于2014年5 月30日提交的标题为“ACTIVITY CONTINUATION BETWEEN ELECTRONIC DEVICES”的美国专利申请序列号62/005,781;于2014 年5月30日提交的标题为“COMPANION APPLICATION FOR ACTIVITYCOOPERATION”的美国专利申请序列号62/005,793;于 2014年5月30日提交的标题为“PREDEFINED WIRELESS PAIRING”的美国专利申请序列号62/005,751;于2014年5月30日提交的标题为“OPERATING-MODE TRANSITIONS BASED ON ADVERTISING INFORMATION”的美国专利申请序列号62/005,755;于2014年5 月3日提交的标题为“CONTINUITY”的美国专利申请序列号 62/006,043;于2014年8月8日提交的标题为“CONTINUITY”的美国专利申请序列号62/035,348;以及于2011年1月10日提交的标题为“INTELLIGENT AUTOMATED ASSISTANT”的美国专利申请序列号12/987,982。这些专利申请的内容据此以引用方式并入本文。
背景技术
1.技术领域
本公开整体涉及计算机用户界面,并且更具体地涉及用于允许用户从使用一个设备无缝地转换到使用另一个设备的技术。
2.
现代电子设备可支持各种软件功能。例如,蜂窝电话、平板电脑、和膝上型计算机可各自支持允许用户使用自然语言以语音形式和/或文本形式与一个或多个设备进行交互的智能自动化助理(或虚拟助理)。考虑到不同设备之间的这些服务的可用性,拥有多个设备的用户可选择使用一个设备,该设备优于仅基于此时的设备的可用性的另一个设备。例如,当处于忙碌状态时,用户可从在最接近的最易于访问的设备上可用的虚拟助理入手。但是,所选择的设备提供响应的适用性可能会因要提供的信息类型而有所差异。当在高度可访问(但小型)的设备上进行的用户询问产生冗长的输出(例如,完整显示电影放映时间)时,用户可能更喜欢在较大的计算机上查看输出,使得可更容易地访问信息。通过使用常规技术,用户可激活例如平板电脑并重复请求。
发明内容
如果用户可在不需要重复已对设备中的一个设备提出过的请求的情况下以无缝地且认知连续的方式从使用一个设备转换到使用另一个设备,则这将很有帮助。
根据一些实施方案,一种方法包括:在具有显示器和麦克风的第一电子设备处:经由该麦克风来接收音频输入,其中该音频输入包括请求;将表示该请求的数据发送至服务;从该服务接收令牌,其中该令牌允许从该服务查找以下各项中的至少一者:请求、以及响应于该请求的结果;以及将令牌发送至第一电子设备外部的第二电子设备。
根据一些实施方案,一种方法包括:在第一电子设备处:接收包括请求的输入;将表示该请求的数据发送至服务;从识别资源的服务接收统一资源定位符(URL);以及将该URL的至少一部分发送至第一电子设备外部的第二电子设备。
根据一些实施方案,一种存储一个或多个程序的非暂态计算机可读存储介质,该一个或多个程序包括指令,该指令当由具有显示器和麦克风的第一电子设备执行时使得该第一电子设备:经由麦克风来接收音频输入,其中该音频输入包括请求;将表示该请求的数据发送至服务;从该服务接收令牌,其中该令牌允许从该服务查找以下各项中的至少一者:请求、以及响应于该请求的结果;以及将令牌发送至第一电子设备外部的第二电子设备。
根据一些实施方案,一种存储一个或多个程序的非暂态计算机可读存储介质,该一个或多个程序包括指令,该指令当由具有显示器的第一电子设备执行时使得该第一电子设备:接收包括请求的输入;将表示该请求的数据发送至服务;从识别资源的服务接收统一资源定位符(URL);并且将该URL的至少一部分发送至第一电子设备外部的第二电子设备。
根据一些实施方案,电子设备包括:显示器;一个或多个处理器;存储器;麦克风;以及一个或多个程序,其中该一个或多个程序被存储在存储器中并被配置为由一个或多个处理器执行,该一个或多个程序包括用于进行以下操作的指令:经由麦克风来接收音频输入,其中该音频输入包括请求;将表示该请求的数据发送至服务;从该服务接收令牌,其中该令牌允许从该服务查找以下各项中的至少一者:请求、以及响应于该请求的结果;以及将令牌发送至电子设备外部的第二电子设备。
根据一些实施方案,电子设备包括:显示器;一个或多个处理器;存储器;以及一个或多个程序,其中该一个或多个程序存储在存储器中并且被配置为由所述一个或多个处理器执行,该一个或多个程序包括用于进行以下操作的指令:接收包括请求的输入;将表示该请求的数据发送至服务;从识别资源的服务接收统一资源定位符(URL);以及将该URL的至少一部分发送至电子设备外部的第二电子设备。
根据一些实施方案,电子设备包括:用于经由麦克风来接收音频输入的装置,其中该音频输入包括请求;用于将表示该请求的数据发送至服务的装置;用于从该服务接收令牌的装置,其中该令牌允许从该服务查找以下各项中的至少一者:请求、以及响应于该请求的结果;以及用于将令牌发送至电子设备外部的第二电子设备的装置。
根据一些实施方案,电子设备包括:用于接收包括请求的输入的装置;用于将表示该请求的数据发送至服务的装置;用于从识别资源的服务接收统一资源定位符(URL)的装置;以及用于将该URL的至少一部分发送至电子设备外部的第二电子设备的装置。
根据一些实施方案,电子设备包括:显示器;麦克风;以及耦接至显示器、麦克风的处理单元,并且该处理单元被配置为:经由该麦克风来接收音频输入,其中该音频输入包括请求;将表示该请求的数据发送至服务;从该服务接收令牌,其中该令牌允许从该服务查找以下各项中的至少一者:请求、以及响应于该请求的结果;并且将令牌发送至电子设备外部的第二电子设备。
根据一些实施方案,电子设备包括:显示器;以及耦接至该显示器的处理单元,该处理单元被配置为:接收包括请求的输入;将表示该请求的数据发送至服务;从识别资源的服务接收统一资源定位符(URL);并且将该URL 的至少一部分发送至电子设备外部的第二电子设备。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1示出了根据一些实施方案的用于实现数字助理的系统和环境。
图2A是示出了根据一些实施方案的实现数字助理的客户端侧部分的便携式多功能设备的框图。
图2B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。
图3示出了根据一些实施方案的实现数字助理的客户端侧部分的便携式多功能设备。
图4是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图5A示出了根据一些实施方案的用于便携式多功能设备上的应用程序的菜单的示例性用户界面。
图5B示出了根据一些实施方案的具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图6A示出了根据一些实施方案的个人电子设备。
图6B是示出了根据一些实施方案的个人电子设备的框图。
图7A示出了根据一些实施方案的数字助理系统或其服务器部分。
图7B示出了根据一些实施方案的图7A所示的数字助理的功能。
图7C示出了根据一些实施方案的知识本体的一部分。
图8A至图8F示出了根据一些实施方案的用于在电子设备之间进行转换的示例性用户界面。
图9A至图9F示出了根据一些实施方案的用于在电子设备之间劲松转换的示例性用户界面。
图10A和图10B是示出了根据一些实施方案的用于在电子设备之间进行转换的过程的流程图。
图11A和图11B是示出了根据一些实施方案的用于在电子设备之间进行转换的过程的流程图。
图12是根据一些实施方案的电子设备的功能框图。
图13是根据一些实施方案的电子设备的功能框图。
具体实施方式
在以下对本公开和实施方案的描述中将引用附图,在附图中以例示的方式示出了可被实践的特定实施方案。应当理解,在不脱离本公开的范围的情况下,可实践其他实施方案和示例并且可作出变化。
期望的是,电子设备允许用户从使用一个设备转换到使用另一个设备,同时保持整体连续感。例如,如果用户正在第一设备上使用一个应用程序,则将有帮助的是用户正向其转换的第二设备自动启动相同的应用程序并且任选地显示相同的内容,使得用户可在不丢失进度的情况下继续。此类技术可减少本来浪费在冗余用户输入上的处理器功率和电池电力。此类技术还可减少用户在多个计算设备的使用之间切换时的认知负担,从而提高生产效率。
下面,图1、图2A、图7A至图7B、图12和图13描述了允许的设备之间的有效转换的示例性计算设备。图8A至图8F和图9A至图9F示出了用于在计算设备之间进行转换的示例性技术和用户界面。附图中的用户界面还用于示出下文描述的包括图10A至图10B和图11A至图11B中的过程的过程。
尽管以下描述使用术语“第一”、“第二”等来描述各种元素,但这些元素不应受术语的限制。这些术语只是用于将一个元素与另一元素区分开。例如,在不脱离各种所述示例的范围的情况下,第一输入可被称为第二输入,并且类似地,第二输入可被称为第一输入。第一输入和第二输入可都是输出,并且在一些情况下可为独立且不同的输入。
在本文中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。如在对各种所述示例的描述和所附权利要求书中所使用的那样,单数形式“一个(“a”、“an”)”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还应当理解,本文中所使用的术语“和/或”是指并且涵盖相关联地列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文,术语“如果”可被解释为意指“当...时”(“when”或“upon”) 或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定...”或“如果检测到[所陈述的条件或事件]”可被解释为意指“在确定... 时”或“响应于确定...”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
图1示出了根据各种示例的系统100的框图。在一些示例中,系统100 可实现数字助理。术语“数字助理”、“虚拟助理”、“智能自动化助理”或“自动数字助理”可指解译口头形式和/或文本形式的自然语言输入来推断用户意图,并基于推断出的用户意图来执行动作的任何信息处理系统。例如,为了根据推断出的用户意图采取行动,系统可执行以下内容中的一者或多者:通过设计以实现所推断出的用户意图的步骤和参数来识别任务流,将来自推断出的用户意图的具体要求输入到任务流中;通过调用程序、方法、服务、 API等来执行任务流;以及生成对用户的听觉(例如,语音)和/或视觉形式的输出响应。
具体地,数字助理可能够接受至少部分地为自然语言命令、请求、声明、讲述和/或询问的形式的用户请求。通常,用户请求可寻求数字助理作出信息性回答,或寻求数字助理执行任务。针对用户请求的令人满意的响应可以是提供所请求的信息性回答、执行所请求的任务、或这两者的组合。例如,用户可向数字助理提出问题,诸如“我现在在哪里?”基于用户的当前位置,数字助理可回答“您在中央公园西门附近。”用户还可请求执行任务,例如“请邀请我的朋友下周来参加我女朋友的生日聚会。”作为响应,数字助理可通过讲出“好的,马上”来确认请求,并且然后代表用户来将合适的日历邀请发送至用户的电子通讯录中列出的用户的朋友中的每个朋友。在执行所请求的任务期间,数字助理有时可在很长时间段内在涉及多次信息交换的持续对话中与用户进行交互。存在与数字助理进行交互以请求信息或执行各种任务的许多其他方法。除提供言语响应并采取经编程的动作之外,数字助理还可提供其他视觉形式或音频形式的响应,例如作为文本、警报、音乐、视频、动画等。
如图1中所示,在一些示例中,数字助理可根据客户端-服务器模型来实现。数字助理可包括在用户设备104上执行的客户端侧部分102(后文称作“DA客户端102”),以及在服务器系统108上执行的服务器侧部分106(后文称作“DA服务器106”)。DA客户端102可通过一个或多个网络110来与DA服务器106进行通信。DA客户端102可提供客户端侧功能,诸如面向用户的输入和输出处理,以及与DA服务器106的通信。DA服务器106可为任意数量的DA客户端102提供服务器侧功能,该任意数量的DA客户端102 各自位于相应的用户设备104上。
在一些示例中,DA服务器106可包括面向客户端的I/O接口112、一个或多个处理模块114、数据与模型116、以及至外部服务的I/O接口118。面向客户端的I/O接口112可促进针对DA服务器106的面向客户端的输入和输出处理。一个或多个处理模块114可利用数据与模型116来处理语音输入,并基于自然语言输入来确定用户意图。此外,一个或多个处理模块114基于推断出的用户意图来执行任务执行。在一些示例中,DA服务器106可通过一个或多个网络110来与外部服务120进行通信,以完成任务或采集信息。至外部服务的I/O接口118可促进此类通信。
用户设备104可以是任何合适的电子设备。例如,用户设备可以是便携式多功能设备(例如下面参考图2A描述的设备200)、多功能设备(例如下面参考图4描述的设备400)、或个人电子设备(例如下面参考图6A-B描述的设备600)。便携式多功能设备可以是例如还包含诸如PDA和/或音乐播放器功能的其他功能的移动电话。便携式多功能设备的特定示例可包括来自 Apple Inc.(Cupertino,California)的
一个或多个通信网络110的示例可包括局域网(LAN)和广域网(WAN),例如互联网。一个或多个通信网络110可使用任何已知的网络协议来实现,包括各种有线或无线协议,诸如例如以太网、通用串行总线(USB)、火线、全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、Wi-Fi、互联网协议语音(VoIP)、Wi-MAX、或任何其他合适的通信协议。
服务器系统108可在计算机的一个或多个独立式数据处理设备或分布式网络上实施。在一些示例中,服务器系统108还可采用第三方服务提供方(例如,第三方云服务提供方)的各种虚拟设备和/或服务来提供服务器系统108 的潜在计算资源和/或基础结构资源。
在一些示例中,用户设备104可经由第二用户设备122来与DA服务器 106进行通信。第二用户设备122可与用户设备104相似或相同。例如,第二用户设备122可分别类似于下文参考图2A、图4和图6A-B描述的设备 200,400或600中的任一个设备。用户设备104可被配置为经由直接通信连接诸如蓝牙、NFC、BTLE等或者经由有线或无线网络诸如局域Wi-Fi网络而被通信耦接到第二用户设备122。在一些示例中,第二用户设备122可被配置为充当用户设备104与DA服务器106之间的代理。例如,用户设备104的 DA客户端102可被配置为经由第二用户设备122来向DA服务器106传输信息(例如,在用户设备104处所接收的用户请求)。DA服务器106可处理该信息,并经由第二用户设备122来将相关的数据(例如,响应于用户请求的数据内容)返回到用户设备104。
在一些示例中,用户设备104可被配置为将针对数据的缩略请求发送至第二用户设备122,以减少从用户设备104传输的信息量。第二用户设备122 可被配置为确定添加到缩略请求的补充信息,以生成完整的请求,从而传输到DA服务器106。该系统架构可有利地通过使用具有较强通信能力和/或电池电力的第二用户设备122(例如,移动电话、膝上型计算机、平板电脑等) 作为至DA服务器106的代理而允许具有有限通信能力和/或有限电池电力的用户设备104(例如,手表或类似的紧凑型电子设备)访问由DA服务器106 所提供的服务。虽然图1中仅示出两个用户设备104和122,应当理解,系统100可包括在此代理配置中被配置为与DA服务器系统106进行通信的任意数量和类型的用户设备。
虽然图1中所示的数字助理可包括客户端侧部分(例如,DA客户端102) 和服务器侧部分(例如,DA服务器106)两者,但在一些示例中,数字助理的功能可被实现为被安装在用户设备上的独立式应用程序。此外,数字助理的客户端部分与服务器部分之间的功能划分在不同的具体实施中可变化。例如,在一些示例中,DA客户端可以是仅提供面向用户的输入和输出处理功能,并将数字助理的所有其他功能委派给后端服务器的瘦客户端。
现在将注意力转至用于实现数字助理的客户端侧部分的电子设备的实施方案。图2A是示出了根据一些实施方案的具有触敏显示器系统212的便携式多功能设备200的框图。触敏显示器212有时为了方便被叫做“触摸屏”,并且有时可被称为或被叫做“触敏显示器系统”。设备200包括存储器202 (其任选地包括一个或多个计算机可读存储介质)、存储器控制器222、一个或多个处理单元(CPU)220、外围设备接口218、RF电路208、音频电路210、扬声器211、麦克风213、输入/输出(I/O)子系统206、其他输入控制设备216、和外部端口224。设备200任选地包括一个或多个光学传感器264。设备200 任选地包括用于检测设备200(例如触敏表面,诸如设备200的触敏显示器系统212)上的接触的强度的一个或多个接触强度传感器265。设备200任选地包括用于在设备200上生成触觉输出的一个或多个触觉输出发生器267(例如,在触敏表面诸如设备200的触敏显示器系统212或设备400的触摸板455 上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线203 进行通信。
如在本说明书和权利要求书中所使用的,触敏表面上的接触的术语“强度”是指触敏表面上的接触(例如,手指接触)的力或压力(每单位面积的力),或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,来自多个力传感器的力测量被合并(例如,加权平均),以确定估计的接触力。类似地,触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地,在触敏表面上检测到的接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性,从而允许用户访问用户在尺寸更小的设备上可能本来不能访问的附加设备功能,该尺寸更小的设备具有有限的实地面积以用于(例如,在触敏显示器上)显示示能表示和/ 或接收用户输入(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。作为另一个示例,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然由用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是有许多触摸的感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备200仅是便携式多功能设备的一个示例,并且设备200 任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图2A中所示的各种部件以硬件、软件或硬件与软件两者的组合来实现,包括一个或多个信号处理电路和/或专用集成电路。
存储器202可包括一个或多个计算机可读存储介质。该计算机可读存储介质可以是有形的和非暂态的。存储器202可包括高速随机存取存储器并且还可包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器222可控制设备200的其他部件访问存储器202。
在一些示例中,存储器202的非暂态计算机可读存储介质可用于存储指令(例如,用于执行下文描述的方法1000和1100的各方面)以供指令执行系统、装置或设备诸如基于计算机的系统、包含处理器的系统或可从指令执行系统、装置或设备获取指令并执行指令的其他系统使用或与其结合使用。在其他示例中,指令(例如,用于执行下文描述的方法1000和1100的各个方面)可被存储在服务器系统108的非暂态计算机可读存储介质(未示出) 上,或者可在存储器202的非暂态计算机可读存储介质与服务器系统108的非暂态计算机可读存储介质之间划分。在本文档的上下文中,“非暂态计算机可读存储介质”可以是可包含或存储程序以供指令执行系统、装置和设备使用或与其结合的任何介质。
外围设备接口218可被用于将设备的输入外围设备和输出外围设备耦接到CPU220和存储器202。该一个或多个处理器220运行或执行被存储在存储器202中的各种软件程序和/或指令集,以执行设备200的各种功能并处理数据。在一些实施方案中,外围设备接口218、CPU 220和存储器控制器222 可在单个芯片诸如芯片204上实现。在一些其他实施方案中,它们可在单独的芯片上实现。
RF(射频)电路208接收和发送也被称作电磁信号的RF信号。RF电路 208将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络和其他通信设备进行通信。RF电路208任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、CODEC芯片组、用户身份模块(SIM)卡、存储器等。RF电路208任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网、和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。 RF电路208任选地包括用于检测近场通信(NFC)场的熟知的电路,诸如通过近程通信无线电部件来进行检测。无线通信任选地使用多种通信标准、协议和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强型数据GSM 环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双小区HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi) (例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE802.11n和/或IEEE 802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议 (SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS),或者包括在本文档提交日期时尚未开发出的通信协议的任何其他适当的通信协议。
音频电路210、扬声器211和麦克风213提供用户与设备200之间的音频接口。音频电路210从外围设备接口218接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器211。扬声器211将电信号转换为人类可听到的声波。音频电路210还接收由麦克风213从声波转换的电信号。音频电路210将电信号转换为音频数据,并且将音频数据传输到外围设备接口 218,以用于处理。音频数据可由外围设备接口218检索自和/或传输至存储器202和/或RF电路208。在一些实施方案中,音频电路210还包括耳麦插孔(例如,图3中的312)。耳麦插孔提供音频电路210和可移除的音频输入/输出外围设备之间的接口,该可移除的音频输入/输出外围设备诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风) 两者的耳麦。
I/O子系统206将设备200上的输入/输出外围设备诸如触摸屏212和其他输入控制设备216耦接至外围设备接口218。I/O子系统206任选地包括显示控制器256、光学传感器控制器258、强度传感器控制器259、触觉反馈控制器261、以及用于其他输入或控制设备的一个或多个输入控制器260。该一个或多个输入控制器260从其他输入控制设备216接收电信号/将电信号发送至其他输入控制设备216。其他输入控制设备216任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击轮等。在一些另选实施方案中,一个或多个输入控制器260任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者):键盘、红外线端口、USB端口以及指针设备诸如鼠标。一个或多个按钮(例如,图3中的308)任选地包括用于扬声器211和/或麦克风213的音量控制的增大/减小按钮。一个或多个按钮任选地包括下压按钮(例如,图3中的306)。
快速按下下压按钮可解除对触摸屏212的锁定或者开始使用触摸屏上的手势来对设备进行解锁的过程,如于2005年12月23日提交的名称为“Unlocking a Device byPerforming Gestures on an Unlock Image”的美国专利申请11/322,549以及美国专利No.7,657,849中所述的,上述美国专利申请据此全文以引用方式并入本文。更长地按下下压按钮(例如306)可使设备200 开机或关机。用户能够对一个或多个按钮的功能进行自定义。触摸屏212用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器212提供设备和用户之间的输入接口和输出接口。显示控制器256从触摸屏212接收电信号和/或将电信号发送至该触摸屏。触摸屏212 向用户显示视觉输出。该视觉输出可包括图形、文本、图标、视频及它们的任意组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出可对应于用户界面对象。
触摸屏212具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏212和显示控制器256(与存储器202 中的任何相关联的模块和/或指令集一起)检测触摸屏212上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏212 上的用户界面对象(例如一个或多个软键、图标、网页或图像)的交互。在一个示例性实施方案中,触摸屏212与用户之间的接触点对应于用户的手指。
触摸屏212可使用LCD(液晶显示器)技术、LPD(发光聚合物显示器) 技术或LED(发光二极管)技术,但是在其他实施方案中可使用其他显示技术。触摸屏212和显示控制器256可使用目前已知或以后将开发的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏212接触的一个或多个点的其他元件来检测接触及其任何移动或中断,所述多种触摸感测技术包括但不限于电容式、电阻式、红外和表面声波技术。在一个示例性实施方案中,使用投射式互电容感测技术,诸如在Apple Inc.(Cupertino,California)的
触摸屏212的一些实施方案中的触敏显示器可类似于以下美国专利中所述的多点触敏触摸板:6,323,846(Westerman等人)、6,570,557(Westerman 等人)和/或6,677,932(Westerman);和/或美国专利公开2002/0015024A1,这些专利申请中的每个专利申请据此全文以引用方式并入本文。然而,触摸屏 212显示来自设备200的视觉输出,而触敏触摸板不提供视觉输出。
触摸屏212的一些实施方案中的触敏显示器可如在以下专利申请中那样进行描述:(1)于2006年5月2日提交的标题为“Multipoint Touch Surface Controller”的美国专利申请No.11/381,313;(2)于2004年5月6日标题的名称为“Multipoint Touchscreen”的美国专利申请No.10/840,862;(3)于2004 年7月30日提交的标题为“Gestures For TouchSensitive Input Devices”的美国专利申请No.10/903,964;(4)于2005年1月31日提交的标题为“Gestures For Touch Sensitive Input Devices”的美国专利申请No.11/048,264;(5)于2005 年1月18日提交的标题为“Mode-Based Graphical User Interfaces ForTouch Sensitive Input Devices”的美国专利申请No.11/038,590;(6)于2005年9月 16日提交的标题为“Virtual Input Device Placement On A Touch Screen User Interface”的美国专利申请No.11/228,758;(7)于2005年9月16日提交的标题为“Operation Of AComputer With A Touch Screen Interface”的美国专利申请No.11/228,700;(8)于2005年9月16日提交的标题为“Activating Virtual Keys Of A Touch-Screen VirtualKeyboard”的美国专利申请No.11/228,737;以及(9)于2006年3月3日提交的标题为“Multi-Functional Hand-Held Device”的美国专利申请No.11/367,749。所有这些专利申请全文以引用方式并入本文。
触摸屏212可具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏具有约160dpi的视频分辨率。用户可使用任何合适的对象或附加物诸如触笔、手指等来与触摸屏212接触。在一些实施方案中,用户界面被设计用于主要与基于手指的接触和手势工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入翻译为精确的指针/光标位置或命令,以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备200还可包括用于激活或去激活特定功能的触摸板(未示出)。在一些实施方案中,触摸板是设备的触敏区域,该触敏区域与触摸屏不同,其不显示视觉输出。触摸板可以是与触摸屏212分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备200还包括用于为各种部件供电的电力系统262。电力系统262可包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率变换器或逆变器、电源状态指示器(例如,发光二极管(LED))、以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备200还可包括一个或多个光学传感器264。图2A示出耦接至I/O子系统206中的光学传感器控制器258的光学传感器。光学传感器264可包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器264从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块243(也叫做相机模块),光学传感器264可捕获静态图像或视频。在一些实施方案中,光学传感器位于设备200的与设备的前部上的触摸屏显示器212相背对的后部上,使得触摸屏显示器可被用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部,使得在用户在触摸屏显示器上查看其他视频会议参与者时可获取该用户的图像以用于视频会议。在一些实施方案中,光学传感器264的位置可由用户(例如,通过旋转设备外壳中的镜和传感器)改变,使得单个光学传感器264可与触摸屏显示器一起使用,以用于视频会议和静态图像和/或视频图像采集两者。
设备200任选地还包括一个或多个接触强度传感器265。图2A示出耦接到I/O子系统206中的强度传感器控制器259的接触强度传感器。接触强度传感器265任选地包括一个或多个压阻应变仪、电容式力传感器、电力传感器、压电力传感器、光学力传感器、电容式触敏表面、或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器265从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统212)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备200的与位于设备200的前部上的触摸屏显示器212相背对的后部上。
设备200还可包括一个或多个接近传感器266。图2A示出了耦接至外围设备接口218的接近传感器266。另选地,接近传感器266可耦接到I/O子系统206中的输入控制器260。接近传感器266可如以下美国专利申请中所述的那样执行:11/241,839,标题为“ProximityDetector In Handheld Device”; 11/240,788,标题为“Proximity Detector InHandheld Device”;11/620,702,标题为“Using Ambient Light Sensor To AugmentProximity Sensor Output”; 11/586,862,标题为“Automated Response To And SensingOf User Activity In Portable Devices”;以及11/638,251,标题为“Methods AndSystems For Automatic Configuration Of Peripherals”,这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵附近时 (例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏212。
设备200任选地还包括一个或多个触觉输出发生器267。图2A示出了耦接至I/O子系统206中的触觉反馈控制器261的触觉输出发生器。触觉输出发生器267任选地包括一个或多个电声设备,诸如扬声器或其他音频部件;和/或将能量转换成线性运动的机电设备,诸如马达、螺线管、电活性聚合器、压电致动器、静电致动器或其他触觉输出生成部件(例如,将电信号转换成设备上的触觉输出的部件)。接触强度传感器265从触觉反馈模块233接收触觉反馈生成指令,并且在设备200上生成能够由设备200的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统212)并置排列或邻近,并且任选地通过竖直地(例如,向设备200的表面内/外)或侧向地(例如,在与设备200的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备200的与位于设备200的前部上的触摸屏显示器212相背对的后部上。
设备200还可包括一个或多个加速度计268。图2A示出了耦接至外围设备接口218的加速度计268。另选地,加速度计268可耦接到I/O子系统206 中的输入控制器260。加速度计268可如标题为“Acceleration-based Theft Detection System for PortableElectronic Devices”的美国专利公开No. 20050190059和标题为“Methods AndApparatuses For Operating A Portable Device Based On An Accelerometer”的美国专利公开No.20060017692中所述的那样执行,这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从该一个或多个加速度计所接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。除了一个或多个加速度计268之外,设备200任选地还包括磁力仪(未示出)和GPS(或GLONASS或其他全球导航系统)接收器(未示出),以用于获取关于设备200的位置和取向(例如,纵向或横向)的信息。
在一些实施方案中,被存储在存储器202中的软件部件包括操作系统 226、通信模块(或指令集)228、接触/运动模块(或指令集)230、图形模块(或指令集)232、文本输入模块(或指令集)234、全球定位系统(GPS) 模块(或指令集)235、数字助理客户端模块229、以及应用程序(或指令集) 236。此外,存储器202可存储数据和模型,诸如用户数据和模型231。此外,在一些实施方案中,存储器202(图2A)或470(图4)存储设备/全局内部状态257,如图2A和图4中所示。设备/全局内部状态257包括以下各项中的一者或多者:活动应用程序状态,该活动应用程序状态用于指示哪些应用程序(如果有的话)当前是活动的;显示状态,该显示状态用于指示什么应用程序、视图或其他信息占据触摸屏显示器212的各个区域;传感器状态,该传感器状态包括从设备的各个传感器和输入控制设备216获取的信息;以及关于设备位置和/或姿态的位置信息。
操作系统226(例如Darwin、RTXC、LINUX、UNIX、OS X、iOS、 WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如存储器管理、存储设备控制、功率管理等)的各种软件部件和/ 或驱动程序,并且促进各种硬件部件和软件部件之间的通信。
通信模块228有利于通过一个或多个外部端口224来与其他设备进行通信,并且还包括用于处理由RF电路208和/或外部端口224所接收的数据的各种软件部件。外部端口224(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备或者间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与
接触/运动模块230任选地检测与触摸屏212(结合显示控制器256)和其他触敏设备(例如,触摸板或物理点击轮)的接触。接触/运动模块230包括各种软件部件以用于执行与接触检测相关的各种操作,诸如确定是否已发生接触(例如,检测手指按下事件)、确定接触的强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件)、以及确定接触是否已停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块230 从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率 (量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多个手指接触)。在一些实施方案中,接触/运动模块230和显示控制器256检测触摸板上的接触。
在一些实施方案中,接触/运动模块230使用一组一个或多个强度阈值来确定用户是否已执行操作(例如,确定用户是否已“点击”图标)。在一些实施方案中,根据软件参数来确定强度阈值的至少一个子集(例如,强度阈值不由特定物理致动器的激活阈值来确定,并且可在不改变设备200的物理硬件的情况下被调整)。例如,在不改变触控板或触摸屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块230任选地检测用户的手势输入。触敏表面上的不同手势具有不同的接触图案(例如,所检测到的接触的不同运动、定时和/或强度)。因此,任选地通过检测具体接触图案来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块232包括用于在触摸屏212或其他显示器上呈现和显示图形的各种已知的软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉特性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,其非限制性地包括文本、网页、图标 (诸如包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块232存储用于表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块232从应用程序等接收指定待显示的图形的一个或多个代码,在必要的情况下还接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据以输出至显示控制器256。
触觉反馈模块233包括用于生成指令的各种软件部件,该指令由一个或多个触觉输出发生器267使用,以便响应于用户与设备200的交互而在设备 200上的一个或多个位置处产生触觉输出。
可作为图形模块232的部件的文本输入模块234提供用于在各种应用程序(例如,联系人237、电子邮件240、即时消息241、浏览器247、和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块235确定设备的位置并提供这种信息以供在各种应用程序中使用(例如,提供至电话238以用于基于位置的拨号;提供至相机243作为图片/视频元数据;以及提供至提供基于位置的服务诸如天气桌面小程序、本地黄页桌面小程序和地图/导航桌面小程序的应用程序)。
数字助理客户端模块229可包括各种客户端侧数字助理指令,以提供数字助理的客户端侧功能。例如,数字助理客户端模块229可能够通过便携式多功能设备200的各种用户接口(例如,麦克风213、一个或多个加速度计 268、触敏显示器系统212、一个或多个光学传感器229、其他输入控制设备 216等)来接受声音输入(例如,语音输入)、文本输入、触摸输入、和/或手势输入。数字助理客户端模块229也可能够通过便携式多功能设备200的各种输出界面(例如,扬声器211、触敏显示器系统212、一个或多个触觉输出发生器267等)来提供音频形式输出(例如,语音输出)、视觉形式输出、和/或触觉形式输出。例如,输出可被提供作为语音、声音、提示、文本消息、菜单、图形、视频、动画、振动、和/或以上两者或更多者的组合。在操作期间,数字助理客户端模块229可使用RF电路208来与DA服务器106进行通信。
用户数据与模型231可包括与用户相关联的各种数据(例如,特定于用户的词汇数据、用户偏好数据、用户指定名称发音、来自用户电子通讯录的数据、待办事项、购物清单等),以提供数字助理的客户端侧功能。此外,用户数据与模型231可包括用于处理用户输入并确定用户意图的各种模型 (例如,语音识别模型、统计语言模型、自然语言处理模型、知识本体、任务流模型、服务模型等)。
在一些示例中,数字助理客户端模块229可利用便携式多功能设备200 的各种传感器、子系统和外围设备来从便携式多功能设备200的周围环境采集附加信息,以建立与用户、当前用户交互、和/或当前用户输入相关联的上下文。在一些示例中,数字助理客户端模块229可将上下文信息或其子集与用户输入一起提供至DA服务器106,以帮助推断用户意图。在一些示例中,数字助理还可使用上下文信息来确定如何准备输出并将其传送给用户。上下文信息可被称为上下文数据。
在一些示例中,伴随用户输入的上下文信息可包括传感器信息,例如照明、环境噪声、环境温度、周围环境的图像或视频等。在一些示例中,该上下文信息还可包括设备的物理状态,例如设备取向、设备位置、设备温度、功率电平、速度、加速度、运动模式、蜂窝信号强度等。在一些示例中,可将与DA服务器106的软件状态相关的信息例如便携式多功能设备200的运行过程、已安装程序、过去和当前的网络活动、后台服务、错误日志、资源使用等作为与用户输入相关联的上下文信息提供至DA服务器106。
在一些示例中,数字助理客户端模块229可响应于来自DA服务器106 的请求而选择性地提供被存储在便携式多功能设备200上的信息(例如,用户数据231)。在一些示例中,数字助理客户端模块229还可在DA服务器 106请求时经由自然语言对话或其他用户接口来引出来自用户的附加输入。数字助理客户端模块229可将该附加输入传送至DA服务器106,以帮助DA 服务器106进行意图推断和/或满足在用户请求中表达的用户意图。
下文参考图7A-C更详细地描述数字助理。应当认识到,数字助理客户端模块229可包括下文所述的数字助理模块726的任何数量的子模块。
应用程序236可包括以下模块(或指令集),或者其子集或超集:
·联系人模块237(有时叫做通讯录或联系人列表);
·电话模块238;
·视频会议模块239;
·电子邮件客户端模块240;
·即时消息(IM)模块241;
·健身支持模块242;
·用于静态图像和/或视频图像的相机模块243;
·图像管理模块244;
·视频播放器模块;
·音乐播放器模块;
·浏览器模块247;
·日历模块248;
·桌面小程序模块249,其可包括以下各项中的一者或多者:天气桌面小程序249-1、股市桌面小程序249-2、计算器桌面小程序249-3、闹钟桌面小程序249-4、词典桌面小程序249-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序249-6;
·用于形成用户创建的桌面小程序249-6的桌面小程序创建器模块 250;
·搜索模块251;
·视频和音乐播放器模块252,其合并视频播放器模块和音乐播放器模块;
·记事本模块253;
·地图模块254;和/或
·在线视频模块255。
可被存储在存储器202中的其他应用程序236的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA 的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232 和文本输入模块234,联系人模块237可用于管理地址簿或联系人列表(例如,被存储在存储器202或存储器470中的联系人模块237的应用程序内部状态292中),包括:将一个或多个名称添加到地址簿;从地址簿删除一个或多个名称;使一个或多个电话号码、一个或多个电子邮件地址、一个或多个物理地址或其他信息与名称相关联;使图像与名称相关联;对名称进行分类和排序;提供电话号码或电子邮件地址以发起和/或促进通过电话238、视频会议模块239、电子邮件240、或IM 241进行通信;等等。
结合RF电路208、音频电路210、扬声器211、麦克风213、触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234,电话模块238可用于输入与电话号码对应的字符序列、访问联系人模块237中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话、以及在会话完成时断开或挂断。如上所述,无线通信可使用多个通信标准、协议和技术中的任一者。
结合RF电路208、音频电路210、扬声器211、麦克风213、触摸屏212、显示控制器256、光学传感器264、光学传感器控制器258、接触/运动模块 230、图形模块232、文本输入模块234、联系人模块237和电话模块238,视频会议模块239包括根据用户指令来发起、进行和终止用户与一个或多个其他参与者之间的视频会议的可执行指令。
结合RF电路208、触摸屏212、显示控制器256、接触模块230、图形模块232和文本输入模块234,电子邮件客户端模块240包括用于响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块244,电子邮件客户端模块240使得非常容易创建和发送具有由相机模块 243拍摄的静态图像或视频图像的电子邮件。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234,即时消息模块241包括用于以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息,或者使用XMPP、SIMPLE或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,所传输的和/或所接收的即时消息可包括图形、照片、音频文件、视频文件、和/或在MMS和/或增强型消息服务(EMS)中支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS 传输的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE、或IMPS传输的消息)两者。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、GPS模块235、地图模块254和音乐播放器模块,健身支持模块242包括用于以下操作的可执行指令:创建健身(例如,具有时间、距离和/或卡路里燃烧目标);与健身传感器(移动设备)进行通信;接收健身传感器数据;校准用于监测健身的传感器;选择并播放健身音乐;以及显示、存储和传输健身数据。
结合触摸屏212、显示控制器256、一个或多个光学传感器264、光学传感器控制器258、接触/运动模块230、图形模块232和图像管理模块244,相机模块243包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器202中、修改静态图像或视频的特征,或从存储器202删除静态图像或视频。
结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234和相机模块243,图像管理模块244包括用于以下操作的可执行指令:排列、修改(例如,编辑)或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或相册中)以及存储静态图像和/或视频图像。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232和文本输入模块234,浏览器模块247包括根据用户指令来浏览互联网(包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件)的可执行指令。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、电子邮件客户端模块240和浏览器模块 247,日历模块248包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234和浏览器模块247,桌面小程序模块249 是可由用户下载并使用的微型应用程序(例如,天气桌面小程序249-1、股市桌面小程序249-2、计算器桌面小程序249-3、闹钟桌面小程序249-4和词典桌面小程序249-5)、或由用户创建的微型应用程序(例如,用户创建的桌面小程序249-6)。在一些实施方案中,桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,桌面小程序包括XML(可延伸标记语言)文件和JavaScript文件(例如,Yahoo!桌面小程序)。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234和浏览器模块247,桌面小程序创建器模块 250可被用户用于创建桌面小程序(例如,将网页的用户指定部分转到桌面小程序中)。
结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232 和文本输入模块234,搜索模块251包括根据用户指令来搜索存储器202中的匹配一个或多个搜索条件(例如,一个或多个用户指定的搜索词)的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、音频电路系统210、扬声器211、RF电路系统208和浏览器模块247,视频和音乐播放器模块252包括允许用户下载和回放以一种或多种文件格式(诸如MP3或AAC文件)存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏212上或在经由外部端口224连接的外部显示器上)的可执行指令。在一些实施方案中,设备200任选地包括MP3播放器,诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232 和文本输入模块234,记事本模块253包括根据用户指令来创建和管理记事本、待办事项等的可执行指令。
结合RF电路208、触摸屏212、显示控制器256、接触/运动模块230、图形模块232、文本输入模块234、GPS模块235和浏览器模块247,地图模块254可用于根据用户指令来接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
结合触摸屏212、显示控制器256、接触/运动模块230、图形模块232、音频电路210、扬声器211、RF电路208、文本输入模块234、电子邮件客户端模块240和浏览器模块247,在线视频模块255包括允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如,在触摸屏上或经由外部端口224在所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式(诸如,H.264)的在线视频的指令。在一些实施方案中,使用即时消息模块241而不是电子邮件客户端模块240来发送至特定在线视频的链接。在线视频应用程序的其他描述可在于2007年6月20日提交的标题为“Portable Multifunction Device,Method, and Graphical User Interface forPlaying Online Videos”的美国临时专利申请 60/936,562和于2007年12月31日提交的标题为“Portable Multifunction Device, Method,and Graphical User Interface forPlaying Online Videos”的美国专利申请11/968,067中找到,这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如,指令集)不必被实现为独立的软件程序、过程或模块,并且因此在各种实施方案中可组合或以其他方式重新布置这些模块的各种子集。例如,视频播放器模块可与音乐播放器模块组合成单个模块(例如,图2A中的视频和音乐播放器模块252)。在一些实施方案中,存储器202可存储上述模块和数据结构的子集。此外,存储器202 可存储上文没有描述的附加模块和数据结构。
在一些实施方案中,设备200是唯一地通过触摸屏和/或触摸板来执行设备上的预定义的一组功能的操作的设备。通过使用触摸屏和/或触摸板作为用于设备200的操作的主要输入控制设备,可减少设备200上的物理输入控制设备(诸如下压按钮、拨号盘等等)的数量。
唯一地通过触摸屏和/或触摸板执行的该预定义的一组功能任选地包括在用户界面之间进行导航。在一些实施方案中,触摸板在被用户触摸时将设备200从被显示在设备200上的任何用户界面导航到主菜单、home菜单、或根菜单。在此类实施方案中,使用触摸板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触摸板。
图2B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器202(图2A)或470(图4)包括事件分类器270 (例如,在操作系统226中)以及相应的应用程序236-1(例如,前述应用程序237-251、255、480-490中的任一个应用程序)。
事件分类器270接收事件信息并确定要将事件信息递送到的应用程序 236-1和应用程序236-1的应用程序视图291。事件分类器270包括事件监视器271和事件分配器模块274。在一些实施方案中,应用程序236-1包括应用程序内部状态292,该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器212上的一个或多个当前应用程序视图。在一些实施方案中,设备/全局内部状态257被事件分类器270用于确定哪个(哪些) 应用程序当前是活动的,并且应用程序内部状态292被事件分类器270用于确定要将事件信息递送到的应用程序视图291。
在一些实施方案中,应用程序内部状态292包括附加信息,诸如以下各项中的一者或多者:当应用程序236-1恢复执行时将被使用的恢复信息、指示正被应用程序236-1显示的信息或准备好用于被应用程序236-1显示的信息的用户界面状态信息、用于使得用户能够返回到应用程序236-1的前一状态或视图的状态队列、以及用户采取的先前动作的重复/撤销队列。
事件监视器271从外围设备接口218接收事件信息。事件信息包括关于子事件(例如,触敏显示器212上作为多点触摸手势的一部分的用户触摸) 的信息。外围设备接口218传输其从I/O子系统206或传感器(诸如接近传感器266、一个或多个加速度计268、和/或麦克风213(通过音频电路210)) 接收的信息。外围设备接口218从I/O子系统206接收的信息包括来自触敏显示器212或触敏表面的信息。
在一些实施方案中,事件监视器271以预先确定的间隔来将请求发送至外围设备接口218。作为响应,外围设备接口218传输事件信息。在其他实施方案中,外围设备接口218仅当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器270还包括命中视图确定模块272和/ 或活动事件识别器确定模块273。
当触敏显示器212显示多于一个视图时,命中视图确定模块272提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是在本文中有时也称为应用程序视图或用户界面窗口的一组视图,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图可对应于应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图可被叫做命中视图,并且被识别为正确输入的那组事件可至少部分地基于开始基于触摸的手势的初始触摸的命中视图来确定。
点击视图确定模块272接收与基于接触的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块272将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块272识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块273确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块273确定仅命中视图才应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块273确定包括子事件的物理位置的所有视图是活跃参与的视图,并且因此确定所有活跃参与的视图应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块274将事件信息分配到事件识别器(例如,事件识别器 280)。在包括活动事件识别器确定模块273的实施方案中,事件分配器模块 274将事件信息递送到由活动事件识别器确定模块273确定的事件识别器。在一些实施方案中,事件分配器模块274在事件队列中存储事件信息,该事件信息由相应事件接收器282进行检索。
在一些实施方案中,操作系统226包括事件分类器270。另选地,应用程序236-1包括事件分类器270。在又一个实施方案中,事件分类器270是独立模块,或者是半杯存储在存储器202中的另一个模块(诸如,接触/运动模块230)的一部分。
在一些实施方案中,应用程序236-1包括多个事件处理程序290和一个或多个应用程序视图291,其中每个应用程序视图包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序236-1的每个应用程序视图291包括一个或多个事件识别器280。通常,相应应用程序视图 291包括多个事件识别器280。在其他实施方案中,事件识别器280中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包 (未示出)或应用程序236-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处理程序290包括以下各项中的一者或多者:数据更新器276、对象更新器277、GUI更新器278,和/或从事件分类器270 接收的事件数据279。事件处理程序290可利用或调用数据更新器276、对象更新器277或GUI更新器278,以更新应用程序内部状态292。另选地,应用程序视图291中的一个或多个应用程序视图包括一个或多个相应事件处理程序290。另外,在一些实施方案中,数据更新器276、对象更新器277和 GUI更新器278中的一者或多者被包括在相应应用程序视图291中。
相应的事件识别器280从事件分类器270接收事件信息(例如,事件数据279),并且从事件信息识别事件。事件识别器280包括事件接收器282 和事件比较器284。在一些实施方案中,事件识别器280还至少包括以下各项的子集:元数据283和事件递送指令288(其可包括子事件递送指令)。
事件接收器282从事件分类器270接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息还可包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一个取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器284将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较,确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器284包括事件定义286。事件定义286包含对事件的定义(例如,预定义的子事件序列),例如事件1(287-1)、事件2 (287-2),以及其他事件。在一些实施方案中,事件(287)中的子事件包括例如触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(287-1)的定义是在被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一次触摸(触摸开始)、预先确定时长的第一次抬离(触摸结束)、被显示对象上的预先确定时长的第二次触摸(触摸开始)、以及预先确定时长的第二次抬离(触摸结束)。在另一个示例中,针对事件2(287-2) 的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器212上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序290的信息。
在一些实施方案中,事件定义287包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器284执行命中测试,以确定哪个用户界面对象与子事件相关联。例如,在应用程序视图(其中在触摸显示器212 上显示三个用户界面对象)中,当在触敏显示器212上检测到触摸时,事件比较器284执行命中测试,以确定这三个用户界面对象中的哪一个用户界面对象与触摸(子事件)相关联。如果每个被显示对象与相应事件处理程序290 相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序290 应当被激活。例如,事件比较器284选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,相应事件(287)的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列是否对应于或不对应于事件识别器的事件类型。
当相应事件识别器280确定子事件系列不与事件定义286中的任何事件匹配时,该相应事件识别器280进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器280包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记、和/ 或列表的元数据283。在一些实施方案中,元数据283包括用于指示事件识别器可彼此如何进行交互或如何被启用以彼此进行交互的可配置属性、标志、和/或列表。在一些实施方案中,元数据283包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器280激活与事件相关联的事件处理程序290。在一些实施方案中,相应事件识别器280将与该事件相关联的事件信息递送到事件处理程序290。激活事件处理程序290不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器280抛出与所识别的事件相关联的标记,并且与该标记相关联的事件处理程序290获取该标记并执行预定义的过程。
在一些实施方案中,事件递送指令288包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件系列相关联的事件处理程序或递送到活跃参与的视图。与子事件系列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中,数据更新器276创建并更新在应用程序236-1中使用的数据。例如,数据更新器276对联系人模块237中所使用的电话号码进行更新,或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器277创建和更新在应用程序236-1中使用的对象。例如,对象更新器277创建新用户界面对象或更新用户界面对象的位置。GUI更新器278更新GUI。例如,GUI更新器278准备显示信息并将其发送至图形模块232,以用于触敏显示器上的显示。
在一些实施方案中,一个或多个事件处理程序290包括数据更新器276、对象更新器277、和GUI更新器278或者具有对它们的访问权限。在一些实施方案中,数据更新器276、对象更新器277和GUI更新器278被包括在相应应用程序236-1或应用程序视图291的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备200的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按压或保持结合的鼠标移动和鼠标按钮按压;触摸板上的接触移动,诸如轻击、拖动、滚动等;触笔输入;设备的移动;口头指令;所检测到的眼睛移动;生物特征输入;和/或任选地被用作与用于限定要识别的事件的子事件对应的输入的它们的任意组合。
图3示出了根据一些实施方案的具有触摸屏212的便携式多功能设备 200。触摸屏任选地在用户界面(UI)300内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一个或多个手指 302(在图中未按比例绘制)或一个或多个触笔303(在图中未按比例绘制) 在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)、和/或已与设备200发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应应用程序。
设备200还可包括一个或多个物理按钮,诸如“home”按钮或菜单按钮 304。如前所述,菜单按钮304可用于导航到可在设备200上执行的一组应用程序中的任何应用程序236。另选地,在一些实施方案中,菜单按钮被实现为在触摸屏212上显示的GUI中的软键。
在一个实施方案中,设备200包括触摸屏212、菜单按钮304、用于使设备通电/断电和用于锁定设备的下压按钮306、一个或多个音量调节按钮 308、用户身份模块(SIM)卡槽310、耳麦插孔312、和对接/充电外部端口224。下压按钮306被任选地用于:通过按下按钮并使按钮在下压状态保持预定义的时间间隔来使设备通电/断电;通过按下按钮并在经过所述预定义的时间间隔之前释放按钮来锁定设备;和/或对设备解锁或发起解锁过程。在另选的实施方案中,设备200还通过麦克风213来接受用于激活或去激活一些功能的言语输入。设备200还任选地包括用于检测触摸屏212上的接触的强度的一个或多个接触强度传感器265、和/或用于为设备200的用户生成触觉输出的一个或多个触觉输出发生器267。
图4是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备400不必是便携式的。在一些实施方案中,设备400是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统、或控制设备(例如,家用控制器或工业用控制器)。设备400通常包括一个或多个处理单元(CPU)410、一个或多个网络或其他通信接口460、存储器470、和用于使这些部件互连的一个或多个通信总线420。通信总线420任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备400包括具有显示器440的输入/ 输出(I/O)接口430,该显示器通常是触摸屏显示器。I/O接口430还任选地包括键盘和/或鼠标(或其他指向设备)450和触摸板455、用于在设备400上生成触觉输出的触觉输出发生器457(例如,类似于以上参考图2A所述的一个或多个触觉输出发生器267)、传感器459(例如,光学传感器、加速度传感器、接近传感器、触敏传感器、和/或类似于以上参考图2A所述的一个或多个接触强度传感器265的接触强度传感器)。存储器470包括高速随机存取存储器诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储器设备,并且任选地包括非易失性存储器诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备、或其他非易失性固态存储设备。存储器470任选地包括远离一个或多个CPU 410定位的一个或多个存储设备。在一些实施方案中,存储器470存储与便携式多功能设备200(图2A)的存储器202中存储的程序、模块和数据结构类似的程序、模块和数据结构、或其子集。此外,存储器470任选地存储在便携式多功能设备200的存储器202中不存在的附加程序、模块和数据结构。例如,设备400的存储器470任选地存储绘图模块480、呈现模块482、文字处理模块484、网站创建模块486、盘编辑模块488、和/ 或电子表格模块490,而便携式多功能设备200(图2A)的存储器202任选地不存储这些模块。
图4中的上述元件中的每个元件可被存储在一个或多个前面提到的存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或程序(例如,指令集)不必被实现为单独的软件程序、过程或模块,并且因此这些模块的各种子集可在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器470可存储上述模块和数据结构的子集。此外,存储器470可存储上文没有描述的附加模块和数据结构。
现在将注意力转到可在例如便携式多功能设备200上实现的用户界面的实施方案。
图5A示出了根据一些实施方案的便携式多功能设备200上的应用程序的菜单的示例性用户界面。类似的用户界面可在设备400上实现。在一些实施方案中,用户界面500包括以下元素或者其子集或超集:
一种或多种无线通信(诸如蜂窝信号和Wi-Fi信号)的一个或多个信号强度指示符502;
·时间504;
·蓝牙指示符505;
·电池状态指示符506;
·具有常用应用程序的图标的托盘508,该图标为诸如:
ο电话模块238的被标记为“电话”的图标516,该图标516任选地包括未接来电或语音留言的数量的指示符514;
ο电子邮件客户端模块240的被标记为“邮件”的图标518,该图标任选地包括未读电子邮件的数量的指示符510;
ο浏览器模块247的被标记为“浏览器”的图标520;以及
ο视频和音乐播放器模块252(也称为iPod(Apple Inc.的商标)模块252)的被标记为“iPod”的图标522;以及
·其他应用程序的图标,诸如:
οIM模块241的被标记为“消息”的图标524;
ο日历模块248的被标记为“日历”的图标526;
ο图像管理模块244的被标记为“照片”的图标528;
ο相机模块243的被标记为“相机”的图标530;
ο在线视频模块255的被标记为“在线视频”的图标532;
ο股市桌面小程序249-2的被标记为“股市”的图标534;
ο地图模块254的被标记为“地图”的图标536;
ο天气桌面小程序249-1的被标记为“天气”的图标538;
ο闹钟桌面小程序249-4的被标记为“时钟”的图标540;
ο健身支持模块242的被标记为“健身支持”的图标542;
ο记事本模块253的被标记为“记事本”的图标544;以及
ο用于设置应用程序或模块的被标记为“设置”的图标546,该图标546提供对设备200及其各种应用程序236的设置的访问。
应当指出的是,图5A中示出的图标标签仅是示例性的。例如,视频和音乐播放器模块252的图标522可任选地被标记为“音乐”或“音乐播放器”。其他标签任选地用于各种应用程序图标。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图5B示出了具有与显示器550(例如,触摸屏显示器212)分开的触敏表面551(例如,图4的平板电脑或触摸板455)的设备(例如,图4的设备400)上的示例性用户界面。设备400还任选地包括用于检测触敏表面551 上的接触的强度的一个或多个接触强度传感器(例如,传感器457中的一个或多个传感器)、和/或用于为设备400的用户生成触觉输出的一个或多个触觉输出发生器459。
尽管将参考触摸屏显示器212(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图5B中所示。在一些实施方案中,触敏表面 (例如,图5B中的551)具有与显示器(例如,550)上的主轴(例如,图5B中的553)对应的主轴(例如,图5B中的552)。根据这些实施方案,设备检测在与显示器上的相应位置对应的位置(例如,在图5B中,560对应于 568并且562对应于570)处与触敏表面551的接触(例如,图5B中的560 和562)。这样,当触敏表面(例如,图5B中的551)与多功能设备的显示器(图5B中的550)分开时,设备在触敏表面上检测到的用户输入(例如,接触560和562以及它们的移动)被该设备用于操控显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触笔输入)替代。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。作为另一个示例,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,而不是对接触的检测及之后停止检测接触) 替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
图6A示出了示例性个人电子设备600。设备600包括主体602。在一些实施方案中,设备600可包括针对设备200和400(例如,图2A至图4)所述的特征中的一些或全部特征。在一些实施方案中,设备600具有在下文中被称为触摸屏604的触敏显示屏604。作为触摸屏604的替代或补充,设备 600具有显示器和触敏表面。与设备200和400的情况一样,在一些实施方案中,触摸屏604(或触敏表面)可具有用于检测所施加的接触(例如,触摸)的强度的一个或多个强度传感器。触摸屏604(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备600的用户界面可基于触摸强度来对触摸作出响应,这意味着不同强度的触摸可调用设备600 上的不同的用户界面操作。
例如,可在如下相关专利申请中找到用于检测和处理触摸强度的技术:于2013年5月8日提交的标题为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列号PCT/US2013/040061,以及于2013年11月11日提交的标题为“Device,Method,andGraphical User Interface for Transitioning Between Touch Input to DisplayOutput Relationships”的国际专利申请序列号PCT/US2013/069483,这两个专利申请中的每个专利申请据此全文以引用方式并入本文。
在一些实施方案中,设备600具有一个或多个输入机构606和608。输入机构606和608(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中,设备600具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备600与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构可允许用户穿戴该设备600。
图6B示出了示例性个人电子设备600。在一些实施方案中,设备600 可包括相对于图2A、图2B和图4所述的部件中的一些或全部部件。设备600 具有总线612,该总线将I/O部分614与一个或多个计算机处理器616和存储器618操作性地耦接。I/O部分614可连接到显示器604,该显示器可具有触敏部件622并且任选地还具有触摸强度敏感部件624。此外,I/O部分614可与通信单元630连接,以用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/ 或其他无线通信技术来接收应用程序和操作系统数据。设备600可包括输入机构606和/或608。例如,输入机构606可以是可旋转输入设备、或者可按压且可旋转输入设备。在一些示例中,输入机构608可以是按钮。
在一些示例中,输入机构608可以是麦克风。个人电子设备600可包括各种传感器,诸如GPS传感器632、加速度计634、定向传感器640(例如,罗盘)、陀螺仪636、运动传感器638、和/或其组合,所有这些设备均可操作地连接到I/O部分614。
个人电子设备600的存储器618可以是用于存储计算机可执行指令的非暂态计算机可读存储介质,该计算机可执行指令当由一个或多个计算机处理器616执行时例如可使得计算机处理器执行包括方法1000和1100(图10A-B 和图11A-B)的下文描述的技术。该计算机可执行指令也可在任何非暂态计算机可读存储介质内进行存储和/或传送,以供指令执行系统、装置或设备诸如基于计算机的系统、包含处理器的系统或可从指令执行系统、装置或设备取指令并执行指令的其他系统使用或与其结合。对于本文的目的而言,“非暂态计算机可读存储介质”可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或Blu-ray技术的光盘、以及持久性固态存储器(诸如闪存、固态驱动器)等。个人电子设备600不限于图6B的部件和配置,而是可包括多种配置中的其他部件或附加部件。
如本文所用,术语“示能表示”是指可在设备200,400和/或600(图2、图4和图6)的显示屏上显示的用户交互式图形用户界面对象。例如,图像 (例如,图标)、按钮和文本(例如,超链接)可各自构成示能表示。
如本文所用,术语“焦点选择器”是指用于指示用户正与其进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中,光标充当“焦点选择器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如,图4中的触摸板455或图5B中的触敏表面551)上检测到输入(例如,按压输入) 的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图2A中的触敏显示器系统212或图5A中的触摸屏212)的一些具体实施中,触摸屏上的所检测到的接触充当“焦点选择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器根据用户界面的不同区域之间的焦点移动而移动。不考虑焦点选择器所采取的具体形式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如,在触敏表面(例如,触摸板或触摸屏)上检测到按压输入时,焦点选择器(例如,光标、接触或选择框)在相应按钮上方的位置将指示用户意图激活相应的按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的,接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中,特性强度基于多个强度样本。特性强度任选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬起之前,在检测到接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1秒、 0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特性强度任选地基于以下各项中的一者或多者:接触强度的最大值、接触强度的均值、接触强度的平均值、接触强度的前10%处的值、接触强度的半最大值、接触强度的90%最大值等。在一些实施方案中,在确定特性强度时使用接触的持续时间(例如,在特性强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特性强度与一组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度阈值可包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作,并且特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特性强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是放弃执行相应操作),而不是用于确定执行第一操作还是第二操作。
在一些实施方案中,识别手势的一部分以用于确定特性强度。例如,触敏表面可接收连续的轻扫接触,该连续的轻扫接触从起始位置过渡并到达结束位置,在该结束位置处,接触的强度增加。在该示例中,接触在结束位置处的特征强度可仅基于连续轻扫接触的一部分,而不是整个轻扫接触(例如,仅结束位置处的轻扫接触部分)。在一些实施方案中,可在确定接触的特性强度之前向轻扫手势的强度应用平滑化算法。例如,该平滑化算法任选地包括以下各项中的一者或多者:不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法、和/或指数平滑化算法。在一些情况下,这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷,以用于确定特征强度。
可相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值、和/或一个或多个其他强度阈值来表征触敏表面上的接触的强度。在一些实施方案中,轻按压强度阈值对应于这样的强度:在该强度下设备将执行通常与点击物理鼠标的按钮或触控板相关联的操作。在一些实施方案中,深按压强度阈值对应于这样的强度:在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中,当检测到特征强度低于轻按压强度阈值(例如,并且高于标称接触检测强度阈值,比标称接触检测强度阈值低的接触不再被检测到)的接触时,设备将根据接触在触敏表面上的移动来移动焦点选择器,而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲,除非另有陈述,否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触的特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中,接触检测强度阈值为零。在一些实施方案中,接触检测强度阈值大于零。
在本文中所述的一些实施方案中,响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作,其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中,响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如,相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值,并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。
在一些实施方案中,设备采用强度滞后以避免有时被称为“抖动”的意外输入,其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如,滞后强度阈值比按压输入强度阈值低X个强度单位,或滞后强度阈值是按压输入强度阈值的75%、90%或某个合理比例)。因此,在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于与按压输入强度阈值对应的滞后强度阈值,并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。类似地,在一些实施方案中,仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入,并且响应于检测到按压输入(例如,根据环境,接触强度增大或接触强度减小)来执行相应操作。
为了便于解释,任选地,响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述:接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外,在将操作描述为响应于检测到接触强度减小到低于按压输入强度阈值而执行的示例中,任选地响应于检测到接触强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
图7A示出根据各种示例的数字助理系统700的框图。在一些示例中,数字助理系统700可在独立式计算机系统上实现。在一些示例中,数字助理系统700可跨多个计算机分布。在一些示例中,数字助理的模块和功能中的一些模块和功能可被划分成服务器部分和客户端部分,其中客户端部分位于一个或多个用户设备(例如,设备104,122,200,400或600)上并通过一个或多个网络与服务器部分(例如,服务器系统108)进行通信,例如如图1中所示的。在一些示例中,数字助理系统700可以是图1中所示的服务器系统 108(和/或DA服务器106)的具体实施。应当指出,数字助理系统700仅为数字助理系统的一个示例,并且该数字助理系统700可具有比所示更多或更少的部件、可组合两个或更多个部件、或者可具有部件的不同配置或布局。图7A中所示的各种部件可在硬件、用于由一个或多个处理器执行的软件指令、固件(包括一个或多个信号处理集成电路和/或专用集成电路)、或它们的组合中实现。
数字助理系统700可包括存储器702、一个或多个处理器704、输入/输出(I/O)接口706、以及网络通信接口708。这些部件可通过一个或多个通信总线或信号线710彼此进行通信。
在一些示例中,存储器702可包括非暂态计算机可读介质,诸如高速随机存取存储器和/或非易失性计算机可读存储介质(例如,一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备)。
在一些示例中,I/O接口706可将数字助理系统700的输入/输出设备716 诸如显示器、键盘、触摸屏和麦克风耦接至用户界面模块722。与用户界面模块722结合的I/O接口706可接收用户输入(例如,声音输入、键盘输入、触摸输入等)并相应地对这些输入进行处理。在一些示例中,例如当数字助理在独立式用户设备上实现时,数字助理系统700可包括分别相对于图2A、图4、图6A-B中的设备200,400或600所描述的部件和I/O通信接口中的任一者。在一些示例中,数字助理系统700可代表数字助理具体实施的服务器部分,并且可通过位于用户设备(例如,设备104、设备122,200,400或600) 上的客户端侧部分来与用户进行交互。
在一些示例中,网络通信接口708可包括一个或多个有线通信端口712、和/或无线传输和接收电路714。一个或多个有线通信端口可经由一个或多个有线接口例如以太网、通用串行总线(USB)、火线等来接收和发送通信信号。无线电路714可从通信网络及其他通信设备接收RF信号和/或光学信号,并且将RF信号和/或光学信号发送至通信网络及其他通信设备。无线通信可使用多种通信标准、协议和技术中的任一者,诸如GSM、EDGE、CDMA、TDMA、蓝牙、Wi-Fi、VoIP、Wi-MAX、或任何其他合适的通信协议。网络通信接口 708可使得具有网络诸如互联网、内联网、和/或无线网络(诸如蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))的数字助理系统700与其他设备之间的通信成为可能。
在一些示例中,存储器702或存储器702的计算机可读存储介质可存储程序、模块、指令和数据结构,包括以下各项中的全部或其子集:操作系统 718、通信模块720、用户界面模块722、一个或多个应用程序724、和数字助理模块726。具体地,存储器702或存储器702的计算机可读存储介质可存储用于执行下文描述的方法1000和1100的指令。一个或多个处理器704 可执行这些程序、模块和指令,并从数据结构读取数据或将数据写到数据结构。
操作系统718(例如,Darwin、RTXC、LINUX、UNIX、OS X、WINDOWS、或嵌入式操作系统诸如VxWorks)可包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、电源管理等)的各种软件部件和/或驱动器,并且促进各种硬件、固件和软件部件之间的通信。
通信模块720可促进数字助理系统700与其他设备之间的通过网络通信接口708进行的通信。例如,通信模块720可与电子设备(诸如,分别在图 2A、图4、图6A-B中示出的设备200,400和600)的RF电路208进行通信。通信模块720还可包括用于处理由无线电路714和/或有线通信端口712所接收的数据的各种部件。
用户界面模块722可经由I/O接口706来接收来自用户(例如,来自键盘、触摸屏、指向设备、控制器、和/或麦克风)的命令和/或输入,并在显示器上生成用户界面对象。用户界面模块722还可准备输出(例如,语音、声音、动画、文本、图标、振动、触觉反馈、光照等)并将其经由I/O接口706 (例如,通过显示器、音频通道、扬声器和触摸板等)传送至用户。
应用程序724可包括被配置为由一个或多个处理器704执行的程序和/ 或模块。例如,如果数字助理系统在独立式用户设备上实现,则应用程序724 可包括用户应用程序,诸如游戏、日历应用程序、导航应用程序、或邮件应用程序。如果数字助理系统700在服务器上实现,则应用程序724可包括例如资源管理应用程序、诊断应用程序、或调度应用程序。
存储器702还可存储数字助理模块726(或数字助理的服务器部分)。在一些示例中,数字助理模块726可包括以下子模块或者其子集或超集:输入/输出处理模块728、语音转文本(STT)处理模块730、自然语言处理模块732、对话流处理模块734、任务流处理模块736、服务处理模块738、和语音合成模块740。这些模块中的每个模块可具有对以下数字助理模块726的系统或数据与模型中的一者或多者或者其子集或超集的访问权限:知识本体760、词汇索引744、用户数据748、任务流模型754、服务模型756、和ASR系统。
在一些示例中,使用在数字助理模块726上实现的处理模块、数据和模型,数字助理可执行以下内容中的至少一些内容:将语音输入转换为文本;识别从用户接收的在自然语言输入中表达的用户的意图;主动引出并获取用于充分推断用户意图所需的信息(例如,通过消除字词、游戏、意向等的歧义);确定用于满足推断出的意图的任务流;以及执行任务流以满足推断出的意图。
在一些示例中,如图7B中所示,I/O处理模块728可通过图7A中的I/O 设备716与用户进行交互或通过图7A中的网络通信接口708与用户设备(例如,设备104、设备200、设备400或设备600)进行交互,以获取用户输入 (例如,语音输入)并提供对用户输入的响应(例如,作为语音输出)。I/O 处理模块728随同接收到用户输入一起或在接收到用户输入之后不久可任选地获取与来自用户设备的用户输入相关联的上下文信息。该上下文信息可包括特定于用户的数据、词汇、和/或与用户输入相关的偏好。在一些示例中,该上下文信息还包括在接收到用户请求时的用户设备的软件状态和硬件状态,和/或与在接收到用户请求时的用户的周围环境相关的信息。在一些示例中,I/O处理模块728还可将与用户请求有关的跟进问题发送至用户,并从用户接收回答。在用户请求被I/O处理模块728接收并且用户请求可包括语音输入时,I/O处理模块728可将语音输入转发至STT处理模块730(或语音识别器),以用于语音文本转换。
STT处理模块730可包括一个或多个ASR系统。该一个或多个ASR系统可处理通过I/O处理模块728接收到的语音输入,以产生识别结果。每个 ASR系统可包括前端语音预处理器。该前端语音预处理器可从语音输入提取代表性特征。例如,该前端语音预处理器可对语音输入执行傅里叶变换,以提取用于表征语音输入的光谱特征作为代表性多维向量的序列。此外,每个 ASR系统可包括一个或多个语音识别模型(例如,声音模型和/或语言模型),并且可实现一个或多个语音识别引擎。语音识别模型的示例可包括隐马尔可夫模型、高斯混合模型、深层神经网络模型、n元语言模型、以及其他统计模型。语音识别引擎的示例可包括基于动态时间规整的引擎和基于加权有限状态换能器(WFST)的引擎。一个或多个语音识别模型和一个或多个语音识别引擎可用于处理前端语音预处理器的所提取的代表性特征,以产生中间识别结果(例如,音素、音素串和子字),并且最终产生文本识别结果(例如,字词、字词串或符号的序列)。在一些示例中,语音输入可至少部分地由第三方服务处理或在用户的设备(例如,设备104,200,400或600)上处理,以产生识别结果。一旦STT处理模块730产生包含文本串(例如,字词、或字词的序列、或符号的序列)的识别结果,识别结果即可被传送至自然语言处理模块732以供意图推断。
有关语音转文本处理的更多细节在于2011年9月20日提交的标题为“Consolidating Speech Recognition Results”的美国实用新型专利申请序列号 13/236,942中有所描述,其全部公开内容以引用方式并入本文。
在一些示例中,STT处理模块730可包括可识别字词的词汇,和/或可经由语音字母转换模块731来访问该词汇。每个词汇字词可与以语音识别语音字母表来表示的字词的一个或多个候选发音相关联。具体地,可识别字词的词汇可包括与多个候选发音相关联的字词。例如,该词汇可包括与
在一些示例中,可基于候选发音的普遍性来对候选发音进行排名。例如,候选语音
当接收到语音输入时,STT处理模块730可被用于(例如,使用声音模型)确定与该语音输入对应的音素,并且然后尝试(例如,使用语言模型) 确定匹配该音素的字词。例如,如果STT处理模块730可首先识别与该语音输入的一部分的音素序列
在一些示例中,STT处理模块730可使用模糊匹配技术来确定话语中的字词。因此,例如,STT处理模块730可确定音素序列
数字助理的自然语言处理模块732(“自然语言处理器”)可取得由STT 处理模块730生成的字词或符号的序列(“符号序列”),并尝试使该符号序列与由数字助理所识别的一个或多个“可执行意图”相关联。“可执行意图”可表示可由数字助理执行并且可具有在任务流模型754中实现的相关联的任务流的任务。相关联任务流可以是数字助理为了执行任务而采取的一系列经编程的动作和步骤。数字助理的能力范围可取决于已在任务流模型754 中实施并存储的任务流的数量和种类,或换句话讲,取决于数字助理所识别的“可执行意图”的数量和种类。然而,数字助理的有效性还可取决于助理从以自然语言表达的用户请求中推断出正确的“一个或多个可执行意图”的能力。
在一些示例中,除从STT处理模块730获取的字词或符号的序列之外,自然语言处理模块732还可(例如,从I/O处理模块728)接收与用户请求相关联的上下文信息。自然语言处理模块732可任选地使用上下文信息来明确、补充和/或进一步限定被包含在从STT处理模块730接收的符号序列中的信息。上下文信息可包括例如用户偏好、用户设备的硬件和/或软件状态、在用户请求之前、期间或之后不久收集的传感器信息、数字助理与用户之间的先前交互(例如,对话)等等。如本文所述,上下文信息可以是动态的,并且可随对话的时间、位置、内容以及其他因素而变化。
在一些示例中,自然语言处理可基于例如知识本体760。知识本体760 可以是包含许多节点的分级结构,每个节点表示“可执行意图”或与“可执行意图”或其他“属性”中的一者或多者相关的“属性”。如上所述,“可执行意图”可表示数字助理能够执行的任务,即该任务为“可执行的”或可被进行的。“属性”可表示与可执行意图或另一属性的子方面相关联的参数。知识本体760中的可执行意图节点与属性节点之间的连接可定义由属性节点表示的参数如何与由可执行意图节点表示的任务相关。
在一些示例中,知识本体760可由可执行意图节点和属性节点组成。在知识本体760内,每个可执行意图节点可直接链接至或通过一个或多个中间属性节点链接至一个或多个属性节点。类似地,每个属性节点可直接链接至或通过一个或多个中间属性节点链接至一个或多个可执行意图节点。例如,如图7C所示,知识本体760可包括“餐厅预订”节点(即,可执行意图节点)。属性节点“餐厅”、“日期/时间”(针对预订)和“同行人数”各自可直接链接至可执行意图节点(即,“餐厅预订”节点)。
此外,属性节点“菜系”、“价格区间”、“电话号码”和“位置”可以是属性节点“餐厅”的子节点,并且各自可通过中间属性节点“餐厅”而被连接至“餐厅预订”节点(即,可执行意图节点)。又如,如图7C所示,知识本体760还可包括“设定提醒”节点(即,另一可执行意图节点)。属性节点“日期/时间”(针对设定提醒)和“主题”(针对提醒)各自可连接至“设定提醒”节点。由于属性“日期/时间”可与进行餐厅预订的任务和设定提醒的任务两者相关,因此属性节点“日期/时间”可连接至知识本体760 中的“餐厅预订”节点和“设定提醒”节点两者。
可执行意图节点连同其连接的概念节点一起可被描述为“域”。在本论述中,每个域可与相应的可执行意图相关联,并涉及与特定可执行意图相关联的一组节点(以及这些节点之间的关系)。例如,图7C中示出的知识本体760可包括知识本体760内的餐厅预订域762的示例、以及提醒域764的示例。餐厅预订域包括可执行意图节点“餐厅预订”、属性节点“餐厅”、“日期/时间”和“同行人数”以及子属性节点“菜系”、“价格范围”、“电话号码”、和“位置”。提醒域764可包括可执行意图节点“设置提醒”以及属性节点“主题”和“日期/时间”。在一些示例中,知识本体760可由多个域组成。每个域可与一个或多个其他域共享一个或多个属性节点。例如,除了餐厅预订域762和提醒域764之外,“日期/时间”属性节点还可与许多不同域(例如,行程安排域、旅行预订域、电影票域等)相关联。
尽管图7C示出了知识本体760内的两个示例域,但其他域可包括例如“查找电影”、“发起电话呼叫”、“查找方向”、“安排会议”、“发送消息”以及“提供问题的回答”、“阅读列表”、“提供导航指令”、“提供针对任务的指令”等。“发送消息”域可与“发送消息”可执行意图节点相关联,并且还可包括属性节点诸如“一个或多个接收人”、“消息类型”和“消息正文”。属性节点“接收人”可进一步例如由子属性节点诸如“接收人名称”和“消息地址”来限定。
在一些示例中,知识本体760可包括数字助理能够理解并对其起作用的所有域(以及因此可执行的意图)。在一些示例中,知识本体760可诸如通过添加或移除整个域或节点,或者通过修改知识本体760内的节点之间的关系来进行修改。
在一些示例中,可将与多个相关可执行意图相关联的节点群集在知识本体760中的“超级域”下。例如,“旅行”超级域可包括与旅行有关的属性节点和可执行意图节点的群集。与旅行有关的可执行意图节点可包括“航班预订”、“酒店预订”、“汽车租赁”、“路线规划”、“寻找兴趣点”,等等。同一超级域(例如,“旅行”超级域)下的可执行意图节点可具有多个共用的属性节点。例如,针对“机票预订”、“酒店预订”、“汽车租赁”、“路线规划”和“寻找兴趣点”的可执行意图节点可共享属性节点“起始位置”、“目的地”、“出发日期/时间”、“到达日期/时间”和“同行人数”中的一者或多者。
在一些示例中,知识本体760中的每个节点可与和由节点代表的属性或可执行意图有关的一组字词和/或短语相关联。与每个节点相关联的相应组的字词和/或短语可以是所谓的与节点相关联的“词汇”。可将与每个节点相关联的相应组的字词和/或短语存储在与由节点所表示的属性或可执行意图相关联的词汇索引744中。例如,返回图7B,与“餐厅”属性的节点相关联的词汇可包括字词诸如“美食”、“酒水”、“菜系”、“饥饿”、“吃”、“披萨”、“快餐”、“膳食”等。又如,与“发起电话呼叫”可执行意图的节点相关联的词汇可包括字词和短语,诸如“呼叫”、“打电话”、“拨打”、“与……通电话”、“呼叫该号码”、“打电话给”等。词汇索引744 可任选地包括不同语言的字词和短语。
自然语言处理模块732可从STT处理模块730接收符号序列(例如,文本串),并确定符号序列中的字词牵涉哪些节点。在一些示例中,如果发现符号序列中的字词或短语(经由词汇索引744)与知识本体760中的一个或多个节点相关联,则该字词或短语可“触发”或“激活”这些节点。基于已激活节点的数量和/或相对重要性,自然语言处理模块732可选择可执行意图中的一个可执行意图作为用户意图使数字助理执行的任务。在一些示例中,可选择具有最多“已触发”节点的域。在一些示例中,可选择具有最高置信度(例如,基于其各个已触发节点的相对重要性)的域。在一些示例中,可基于已触发节点的数量和重要性的组合来选择域。在一些示例中,在选择节点的过程中还考虑附加因素,诸如数字助理先前是否已正确解译来自用户的类似请求。
用户数据748可包括特定于用户的信息,诸如特定于用户的词汇、用户偏好、用户地址、用户的默认语言和第二语言、用户的联系人列表、以及每位用户的其他短期或长期信息。在一些示例中,自然语言处理模块732可使用特定于用户的信息来补充用户输入中所包含的信息,以进一步限定用户意图。例如,针对用户请求“邀请我的朋友参加我的生日聚会”,自然语言处理模块732可能够访问用户数据748以确定“朋友”是哪些人以及“生日聚会”将于何时何地举行,而无需用户在其请求中明确地提供此类信息。
基于符号串搜索知识本体的其他细节在于2008年12月22日提交的标题为“Methodand Apparatus for Searching Using An Active Ontology”的美国实用新型专利申请序列号12/341,743中有所描述,其全部公开内容以引用方式并入本文。
在一些示例中,一旦自然语言处理模块732基于用户请求而识别出可执行意图(或域),自然语言处理模块732便可生成结构化查询,以表示所识别的可执行意图。在一些示例中,结构化查询可包括针对可执行意图的域内的一个或多个节点的参数,并且该参数中的至少一些参数填充有在用户请求中指定的特定信息和要求。例如,用户可以说“帮我在寿司店预订晚上7点的座位。”在这种情况下,自然语言处理模块732可能够基于用户输入来将可执行意图正确地识别为“餐厅预订”。根据知识本体,“餐厅预订”域的结构化查询可包括参数诸如{菜系}、{时间}、{日期}、{同行人数}等。在一些示例中,基于语音输入和使用STT处理模块730从语音输入得出的文本,自然语言处理模块732可针对餐厅预订域来生成部分结构化查询,其中该部分结构化查询包括参数{菜系=“寿司类”}以及{时间=“晚上7点”}。然而,在该示例中,用户话语包含不足以完成与域相关联的结构化查询的信息。因此,基于当前可用的信息,在结构化查询中可能未指定其他必要的参数,诸如{同行人数}和{日期}。在一些示例中,自然语言处理模块732可用所接收的上下文信息来填充结构化查询的一些参数。例如,在一些示例中,如果请求“附近的”寿司店,自然语言处理模块732可用于自用户设备的GPS坐标来填充结构化查询中的{位置}参数。
在一些示例中,自然语言处理模块732可将所生成的结构化查询(包括任何已完成的参数)传送至任务流处理模块736(“任务流处理器”)。任务流处理模块736可被配置为接收来自自然语言处理模块732的结构化查询, (必要时)完成结构化查询,并且执行“完成”用户最终请求所需的动作。在一些示例中,完成这些任务所必需的各种过程可在任务流模型754中提供。在一些示例中,任务流模型754可包括用于获取来自用户的附加信息的过程,以及用于执行与可执行意图相关联的动作的任务流。
如上所述,为了完成结构化查询,任务流处理模块736可能需要发起与用户的附加对话,以便获取附加信息和/或弄清可能有歧义的话语。当有必要进行此类交互时,任务流处理模块736可调用对话流处理模块734,以参与同用户的对话。在一些示例中,对话流处理模块734可确定如何(和/或何时) 向用户请求附加信息,并且接收和处理用户响应。通过I/O处理模块728可将问题提供至用户并可从用户接收回答。在一些示例中,对话处理模块734可经由音频和/或视觉输出来向用户呈现对话输出,并接收经由口头或物理 (例如,点击)响应的来自用户的输入。继续上述示例,在任务流处理模块736调用对话流处理模块734以确定针对与域“餐厅预订”相关联的结构化查询的“同行人数”和“日期”信息时,对话流处理模块734可生成问题诸如“一行几位?”和“预订哪天?”,以传送至用户。一旦接收到来自用户的回答,对话流处理模块734便可利用缺失信息来填充结构化查询,或将信息传递给任务流处理模块736以根据结构化查询来完成缺失信息。
一旦任务流处理模块736已针对可执行意图完成结构化查询,任务流处理模块736便可着手执行与可执行意图相关联的最终任务。因此,任务流处理模块736可根据结构化查询中包含的特定参数来执行任务流模型中的步骤和指令。例如,针对可执行意图“餐厅预订”的任务流模型可包括用于联系餐厅并实际上请求在特定时间针对特定同行人数的预订的步骤和指令。例如,通过使用结构化查询诸如:{餐厅预订,餐厅=ABC咖啡馆,日期=2012/3/12,时间=下午7点,同行人数=5人},任务流处理模块736可执行以下步骤:(1) 登录到ABC咖啡馆的服务器或餐厅预订系统诸如
在一些示例中,任务流处理模块736可在服务处理模块738(“服务处理模块”)的辅助下完成在用户输入中所请求的任务或者提供在用户输入中所请求的信息性回答。例如,服务处理模块738可代表任务流处理模块736 来发起电话呼叫、设置日历条目、调用地图搜索、调用用户设备上安装的其他用户应用程序或与该其他应用程序进行交互、以及调用第三方服务(例如,餐厅预订门户网站、社交网站、银行门户网站等)、或与第三方服务进行交互。在一些示例中,可通过服务模型756中的相应服务模型来指定每项服务所需的协议和应用编程接口(API)。服务处理模块738可针对服务来访问适当的服务模型,并依据服务模型根据该服务所需的协议和API来生成针对该服务的请求。
例如,如果餐厅已启用在线预订服务,则餐厅可提交服务模型,该服务模型指定进行预订的必要参数以及将必要参数的值传送至在线预订服务的 API。在被任务流处理模块736请求时,服务处理模块738可使用被存储在服务模型中的web地址来建立与在线预订服务的网络连接,并将预订的必要参数(例如,时间、日期、同行人数)以符合在线预订服务的API的格式发送至在线预订接口。
在一些示例中,自然语言处理模块732、对话处理模块734、以及任务流处理模块736可被共同且反复地使用,以推断并限定用户的意图,获取信息,以进一步明确并细化用户意图并最终生成响应(即,输出至用户,或完成任务),从而满足用户的意图。所生成的响应可以是对语音输入的至少部分地满足用户的意图的对话响应。另外,在一些示例中,所生成的响应可被输出为语音输出。在这些示例中,所生成的响应可被发送至语音合成模块740(例如,语音合成器),在语音合成模块中,可处理所生成的响应以将对话响应以语音形式合成。在其他示例中,所生成的响应可以是与满足语音输入中的用户请求相关的数据内容。
语音合成模块740可被配置为合成语音输出,以呈现给用户。语音合成模块740基于数字助理提供的文本来合成语音输出。例如,所生成的对话响应可为文本串的形式。语音合成模块740可将文本串转换成可听语音输出。语音合成模块740可使用任何适当的语音合成技术以便从文本生成语音输出,该任何适当的语音合成技术包括但不限于:拼接合成、单位选择合成、双音素合成、特定于域的合成、共振峰合成、发音合成、基于隐马尔可夫模型(HMM)的合成、以及正弦波合成。在一些示例中,语音合成模块740可被配置为基于与这些字词对应的音素串来合成各个字词。例如,音素串可与所生成的对话响应中的字词相关联。音素串可被存储在与字词相关联的元数据中。语音合成模型740可被配置为直接处理元数据中的音素串,以合成语音形式的字词。
在一些示例中,替代使用语音合成模块740(或除此之外),可在远程设备(例如,服务器系统108)上执行语音合成,并且可将合成的语音发送至用户设备以输出给用户。例如,这可发生在一些具体实施中,其中在服务器系统处生成数字助理的输出。并且由于服务器系统通常比用户设备具有更强的处理能力或更多的资源,其有可能获取比客户端侧合成将实现的质量更高的语音输出。
有关数字助理的另外细节可见于于2011年1月10日提交的标题为“IntelligentAutomated Assistant”的美国实用新型专利申请号12/987,982和于2011年9月30日提交的标题为“Generating and Processing Task Items That Represent Tasks to Perform”的美国实用新型专利申请号13/251,088中,其全部公开内容以引用方式并入本文。
现在将注意力转到可在具有显示器和触敏表面的多功能设备诸如设备 104,122,200,400,600,1200和1300(图1、图2、图4、图6、图12和图13) 上实现以改善用户在电子设备之间转换时的体验的用户界面(“UI”)和相关联过程的实施方案。为了简洁起见,可将本文描述的功能称为“连续性”功能。
图8A至图8F展示了根据一些实施方案的两个电子设备的使用之间的示例性转换。这些附图还用于示出下文描述的包括图10A和图10B中的过程的过程。
图8A示出了用户802穿戴的示例性电子设备800。在一些实施方案中,设备800是设备104,122,200,400,600或1200(图1、图2、图4、图6或图 12)中的一个设备。设备800是可穿戴的,并且具有触摸屏804和用于接收音频输入的麦克风。设备800使用其麦克风来检测用户的口头(例如,音频) 输入。通过使用虚拟助理服务,设备800还提供响应于用户输入的输出。
如图8A所示,用户802提供用于请求电影放映时间的输入806。任选地,设备800通过在触摸屏804上显示用户界面(“UI”)屏幕808来确认传入的输入。此外,设备800查询智能助理服务以处理请求。在一些实施方案中,设备800查询外部数字助理服务器,诸如服务器106(图1)。在一些实施方案中,服务由本地数字助理过程诸如数字助理102(图1)来提供。
转到图8B,借助智能助理服务,设备800响应于用户的指令806而获取并显示包括电影信息的一组结果,该电影信息包括放映时间。但是,可穿戴设备800上的触摸屏804相对较小,并且仅能够显示该设备已获取的电影信息的一部分。在例示的示例中,设备800基本上仅能够显示一个代表电影的图像缩略图,并且除了可视方式的电影缩略图之外,没有足够的空间来呈现电影放映时间。
在该示例中,可用的电影信息更好地呈现在较大的显示屏上。图8C示出了在设备800附近的电子设备810,其为具有较大显示器的平板电脑。可穿戴设备800和平板设备810在一个或多个协议诸如蓝牙、蓝牙低功耗 (BTLE)、和/或WiFi的无线通信范围内。由于两个设备在范围内,因此设备 800可以无线方式来检测平板电脑810。在范围内,设备800将与用户对电影信息的请求相关的信息(例如,与图8A中的口头指令806相关联的数据) 传输到平板电脑810。
在接收到该信息之后,平板电脑810显示示能表示812。示能表示812 被称为连续性示能表示。连续性示能表示812包括向用户指示平板电脑810 可响应于用户先前发给可穿戴设备800的指令来提供信息的缩略图。在例示的示例中,在平板电脑810的用户界面锁屏814上提供了示能表示812从而允许用户在物理上检索平板电脑810时方便地解锁并访问所请求的信息(例如,电影放映时间)。此外,在例示的示例中,用户802通过向上轻扫(如箭头816所示)来激活连续性示能表示812,但也可设想其他激活示能表示的方法,诸如轻击、触摸示能表示并保持在示能表示上、利用高于预先确定的阈值的力进行按压等。
如图8D和图8E所示,当平板电脑810检测到用户激活连续性示能表示 812时,平板电脑解锁并提供用于呈现电影信息诸如放映时间的用户界面屏幕820。由于其屏幕尺寸较大,平板电脑810与设备800相比能够显示更多的信息。
激活连续性示能表示812的放置和输入不限于上面提供的示例。例如,示能表示812可驻留在设备的home屏幕上,而不是用户界面锁屏上。此外,可通过轻击或点击而不是轻扫来激活示能表示812。于2014年5月3日提交的标题为“CONTINUITY”的美国专利申请序列号62/006,043和于2014年8 月8日提交的标题为“CONTINUITY”的美国专利申请序列号62/035,348这两个相关的专利申请描述了提供对连续性特征的访问的其他用户界面。这些专利申请的内容以引用方式并入本文;为了简明起见,这里不再重复。
图8F示出了支持参考图8A和图8D所述的连续性技术的各种设备之间的示例性信息传输。示例性连续性系统850包括第一电子设备(例如,可穿戴设备800)、第二电子设备(例如,平板设备810)和虚拟助理服务830(例如,由图1的服务器系统108提供)。
在接收到输入诸如口头输入806(图8A)之后,如传输箭头832所指示的,设备800将表示指令的至少一部分的数据发送至服务830。服务830辅助设备800处理用户的输入并响应于用户的请求来提供输出(例如,电影放映时间)。
反过来,设备800从服务830接收两组信息。首先,设备800响应于用户的输入接收一个或多个结果,如传输箭头834所示的。例如,传输834包括电影信息。其次,设备800接收令牌838,如传输箭头836所示的。
在一些实施方案中,令牌838由服务830生成并且与用户的输入(例如,“嘿,Siri,给我电影的放映时间”)相关联。令牌838允许随后从服务830 查找用户的输入。令牌838还允许随后查找由服务830提供至用户输入(例如,电影放映时间)的结果。在一些实施方案中,服务830将令牌838、用户输入806和输出820之间的关联存储在数据库中,以允许稍后对关系的识别。
在接收到令牌838之后,设备800将令牌传输到平板电脑810,如传输箭头840所示的。在接收到令牌838之后,平板电脑810显示连续性功能可用的指示(例如,图8C中的连续性示能表示812)。当用户在平板电脑810 上调用连续性功能时,平板电脑810将令牌838传输到服务830(如传输箭头844所指示),以便基于用户先前给设备800的输入来获取相关结果以进行显示。在例示的示例中,传输箭头846指示由服务830向设备846提供的电影放映时间。
通过这些技术,用户802能够在不丢失进度的情况下从在可穿戴设备800 上查看电影信息切换到在平板电脑810上查看电影信息。在转换期间,用户 802不需要重复他的口头指令(例如,指令806)。此外,在转换期间,用户 802不需要手动搜索电影放映时间。相反,设备800的虚拟助理的输出通过使用令牌838和由服务器830提供的支持特征而被转换到平板电脑810上。
源设备800、目标设备810和联网服务器830之间的这种令牌传输技术减少了在设备800和810之间传输的信息量,以便支持连续性功能,特别是对于涉及自然语言请求的那些功能。可以理解,语音数据报的传输比令牌的传输更具有数据密集性。数据传输特别是无线传输的减少降低了设备的总体功率消耗,并且有利地延长了便携式设备诸如设备800和810的运行时间。
需注意的是,虽然图8A至图8F的示例性例示将设备800示出为可穿戴设备,将设备810示出为平板设备,但所述技术不限于此类设备。在一些示例中,设备800是电话、便携式音乐设备、平板电脑、膝上型电脑、或台式计算设备。在一些示例中,设备810是可穿戴设备、便携式音乐设备、平板电脑、膝上型电脑、或台式计算设备。
图9A至图9F展示了根据一些实施方案的两个电子设备的使用之间的示例性转换。这些附图还用于示出下文描述的包括图11中的过程的过程。
图9A示出了用户902穿戴的电子设备900。在一些实施方案中,设备 900是设备104,122,200,400,600和1300(图1、图2、图4、图6或图13)中的一个设备。设备900是可穿戴的,并且具有触摸屏904和任选地用于接收输入的输入机构。设备900使用触摸屏904和/或附加输入机构(诸如麦克风和/或虚拟键盘)来检测用户的输入。通过使用虚拟助理服务,设备900响应于用户输入来提供输出。
如图9A所示,用户902提供用于请求制造商的产品信息的口头输入906。响应于输入,设备900在触摸屏904上显示确认输入的用户界面(“UI”) 屏幕908。此外,设备900查询智能助理服务,以处理请求。在一些实施方案中,设备800查询外部数字助理服务器,诸如服务器106(图1)。在一些实施方案中,服务由本地数字助理过程诸如数字助理102(图1)来提供。
转到图9B,在一些实施方案中,设备900响应于用户的指令而在触摸屏 904上显示基于web的结果908。在一些实施方案中,结果908包含基于web 的结果(诸如网页),因为智能助理服务已确定用户输入906利用web搜索得到了最佳的响应。在一些实施方案中,结果908包含基于web的结果,因为智能助理服务已确定用户输入906包括对web搜索的请求。
由于设备900的触摸屏904具有相对较小的显示尺寸,因此仅能够显示结果908的一部分,该结果为产品制造商的网页。该网页在较大的显示屏上可更好地呈现。图9C示出了在设备900的无线通信范围内的电子设备910。设备910在例示的示例中是具有较大显示屏的平板电脑。当可穿戴设备900 和平板电脑910在彼此的通信范围内时,可穿戴设备900将可由平板电脑910 用于提供结果908的信息发送至平板电脑910。在一些实施方案中,该信息包括产品制造商的网站的URL。响应于接收到该信息,平板电脑910显示连续性示能表示912,从而向用户指示关于用户输入906(图9A)的连续性特征可用。
在一些实施方案(未示出)中,设备900避免显示基于web的结果908,而是显示用于通知用户可在附近设备上调用连续性特征以处理请求(例如, 906)和/或查看所得的信息的消息。
转到图9D和图9E,当平板电脑910检测到用户激活连续性示能表示912 (例如,如箭头916所示)时,平板电脑910解锁并显示web浏览器用户界面屏幕920,其响应于指令906(图9A)而呈现产品信息。具体地,web浏览器UI屏幕920呈现来自URL 922的信息,该信息也在设备900上呈现。然而,由于其屏幕尺寸较大,平板电脑910与设备900相比能够显示更多的信息。
图9E示出了支持参考图9A和图9D所述的连续性技术的各种设备之间的示例性信息传输。示例性连续性系统950包括第一电子设备(例如,可穿戴设备900)、第二电子设备(例如,平板设备910)、和虚拟助理服务930 (例如,由图1的服务器系统108提供)。
在接收到口头指令906(图9A)之后,如传输箭头932所指示的,设备 900将表示指令的至少一部分的数据发送至服务930。服务930辅助设备900 处理用户的输入并响应于用户的请求来提供输出(例如,网站)。反过来,响应于用户的指令,设备900从服务930接收由服务930识别的网站URL 938,如传输箭头936所指示的。
在接收URL 938之后,设备900将URL传输到平板电脑910,如传输箭头940所示的。在接收URL 936后,平板电脑910显示连续性功能可用的指示(例如,图9C中的连续性示能表示912)。当在平板电脑910上调用连续性功能时,设备的web浏览器应用程序检索由URL 938标识的信息并显示检索到的信息。例如,检索到的信息包括如先前由用户经由设备900请求的产品信息。
通过这些技术,用户902能够在不丢失进度的情况下从在可穿戴设备900 上浏览web结果切换到在平板电脑910上浏览web结果。在转换期间,用户 902不需要重复他的口头指令(例如,指令906)。此外,在转换期间,用户 802不需要手动使用web浏览器来搜索所请求的产品信息。相反,设备900 的虚拟助理的输出被自动地转换到平板电脑910上。可以理解,语音数据报的传输比URL信息的传输更具有数据密集性。数据传输特别是无线传输的减少降低了设备的总体功率消耗,并且有利地延长了便携式设备诸如设备900 和910的运行时间。
图10A和图10B是示出了根据一些实施方案的在电子设备上触发虚拟助理的方法1000的流程图。在一些实施方案中,方法1000在设备 104,122,200,400,600,800和1200(图1、图2、图8或图12)中的一个设备处执行。在一些实施方案中,方法1000在具有触摸屏的设备处执行。在一些实施方案中,方法1000在具有独立显示屏和触敏表面的设备处执行。方法1000 中的操作任选地被组合,和/或一些操作的顺序任选地被改变。
在框1002处,设备经由其麦克风来接收音频输入。所接收的音频输入包括请求(例如,如图8A所示的对电影放映时间的请求)。该请求是例如对信息的请求或执行任务的请求。在框1004处,设备将表示请求的至少一部分的数据发送至服务诸如服务830(图8F)。在框1006处,设备接收响应于请求的结果(例如,如图8B所示的电影放映时间)。在框1006处,设备还从服务接收令牌。在一些实施方案中,令牌由服务830(图8F)生成,并且已在服务的数据存储库中与用户的请求相关联。令牌允许随后从服务查找用户的请求和响应于请求的结果中的至少一者。在框1008处,设备将令牌发送至外部电子设备,诸如平板电脑810(图8C)。为了连续性目的,令牌可被该外部电子设备使用。在框1010处,响应于用户的指令,设备至少部分地显示从服务所接收的结果。
任选地,在框1004处,设备将表示设备上下文的数据发送至虚拟助理服务。如上所述,上下文信息可包括例如用户偏好、用户设备的硬件和/或软件状态、在用户请求之前、期间或之后不久收集的传感器信息、数字助理与用户之间的先前交互(例如,对话)等等。示例性先前交互历史包括活动的应用程序、请求历史、先前从结果进行的选择等等。示例性传感器上下文包括位置、时间、移动等等。示例性用户偏好信息包括名称、电子邮件地址、物理地址、电话号码、帐号等等。虚拟助理服务可使用上下文信息来帮助提供相关结果。
此外,虚拟助理服务可使上下文信息与令牌(与用户的指令一起)相关联,使得虚拟助理服务稍后可基于在指令的时间收集的上下文信息来重新运行用户较早的指令。例如,当用户设备稍后向虚拟助理提供令牌时,虚拟助理可识别用户指令和用户指令应在其中被操作化的上下文。此外,服务可允许经由相关联的令牌查找上下文信息。这样,虚拟助理服务可基于相同的用户指令而随时间向不同设备提供一致的输出。上下文信息的示例包括当前运行的一个或多个应用程序、当前焦点对准的应用程序、最近接收到的消息的指示、最近的用户请求、设备的位置等。应当理解,可使用上下文信息来对用户意图消歧—例如,在查看网页时,用户可能会向虚拟助理发出“将这个发送给我妈妈”。通过使用当前上下文(例如,焦点对准的网页),虚拟助理可对“this(这个)”消歧以表示当前网页并使用其来发送正确的信息。作为另一个示例,用户可能最近接收到了来自“Bob”的消息(例如,SMS或电子邮件)—可向虚拟助理发出“回复他,我会迟到5分钟”。通过使用上下文(例如,最近接收到的消息),虚拟助理利用此使“他”消除歧义来表示“Bob”,并采取正确的动作。普通技术人员将理解,上述示例是对上下文信息的示例性和非限制性使用以对用户意图消歧,并且将认识到,通过保持上下文信息并将其传递/传输到第二设备以继续虚拟助理会话来获取效率,从而可继续无缝地处理用户请求。
在一些实施方案中,在框1006处,设备从虚拟助理而不是令牌接收通用响应。虽然该通用响应响应于在框1002处被提供至虚拟助理的用户指令,但是响应是通用的,因为其内容不是特定于用户指令的。例如,该通用消息指示虚拟助理无法识别响应于用户请求的信息。作为另一个示例,该通用消息指示虚拟助理无法将用户的请求操作化为任务,如在用户请求不能由设备执行的任务的情况下那样。
任选地,在框1008处,设备在将令牌发送至外部设备之前确定虚拟助理会话是否在设备上活动地执行。如果虚拟助理是活动的,则设备将令牌发送至外部设备。如果虚拟助理是不活动的,则设备不将令牌发送至外部设备。例如,如果虚拟助理会话在设备的用户界面的前台,则认为其是活动的。作为另一个示例,如果设备的麦克风主动采样和处理音频输入,则虚拟助理会话被认为是活动的。作为另一个示例,如果设备的背光源打开,则虚拟助理被认为是活动的,这意味着例如每当用户与设备的显示器交互时助理均会运行。
在一些实施方案中,在框1008处,设备通过在电子通信信道诸如蓝牙、蓝牙低功耗、WiFi等上广播令牌来将令牌发送至外部设备。在一些实施方案中,在框1008处,设备诸如通过使用寻址到外部电子设备的网络分组来将令牌作为寻址到外部电子设备的传输的一部分发送至外部设备。
图11A和图11B是示出了根据一些实施方案的在电子设备上触发虚拟助理的方法1100的流程图。在一些实施方案中,方法1100在设备 104,122,200,400,600,900和1300(图1、图2、图4、图6、图9或图13)中的一个设备处执行。在一些实施方案中,方法1100在具有触摸屏的设备处执行。在一些实施方案中,方法1100在具有独立显示屏和触敏表面的设备处执行。方法1100中的操作任选地被组合,和/或一些操作的顺序任选地被改变。
在框1102处,设备从用户接收包含请求的输入。在一些实施方案中,设备从设备的麦克风接收包含自然语言指令(例如,图9A中的指令906)的音频输入。在一些实施方案中,设备经由键盘(诸如设备的虚拟键盘)来接收由用户提供的文本输入。
在框1104处,设备将表示请求的至少一部分的数据发送至服务诸如服务930(图9F)。在框1106处,设备从服务接收统一资源定位符(URL),诸如URL 938。URL识别资源,诸如网站、联网位置、或其他计算资源。在一些实施方案中,URL被服务930(图9F)识别为与在框1102处发送的用户指令相关。在框1108处,设备将URL发送至外部电子设备,诸如例如平板电脑910(图9C)。任选地,在框1110处,设备获取并且至少部分地显示使用URL定位的信息。任选地,在框1110处,设备显示用于指示响应于用户请求的信息可用于在外部电子设备处显示的指示。
任选地,在框1104处,在接收到用户指令时,设备确定web浏览应用程序是否正在活动地运行(例如,在设备用户界面的前台)。该上下文信息任选地被提供至智能助理服务。该指示用于确定服务是否应该返回URL(例如,图9F中的URL 938)而不是令牌(例如,图8F中的令牌838),因为基于web的搜索通常产生可使用URL而引用的结果。
在一些实施方案中,除了处理从设备接收的上下文信息之外,服务还确定在框1104处由设备发送的请求是否表示用于执行web搜索的用户指令。在一些实施方案中,如果用户指令包括执行web搜索的方向,则服务将URL (例如,URL 938)而不是令牌(例如,图8F中的令牌8)返回给设备。
在一些实施方案中,在框1106处,设备从虚拟助理而不是URL接收通用响应。虽然该通用响应响应于在框1102处提供至虚拟助理的用户指令,但是响应是通用的,因为其内容不是特定于用户指令的。例如,该通用消息指示虚拟助理无法识别响应于用户请求的信息。作为另一个示例,该通用消息指示虚拟助理无法将用户的请求操作化为任务,如在用户请求不能由设备执行的任务的情况下那样。
任选地,在框1108处,设备在将令牌发送至外部设备之前确定虚拟助理会话是否在设备上活动地执行。如果虚拟助理是活动的,则设备将令牌发送至外部设备。如果虚拟助理是不活动的,则设备不将URL发送至外部设备。例如,如果虚拟助理会话在设备的用户界面的前台,则认为其是活动的。作为另一个示例,如果设备的麦克风主动采样和处理音频输入,则虚拟助理会话被认为是活动的。作为另一个示例,如果设备的背光源打开,则虚拟助理被认为是活动的,这意味着例如每当用户与设备的显示器交互时助理均会运行。
在一些实施方案中,在框1108处,设备通过在电子通信信道诸如蓝牙、蓝牙低功耗、WiFi等上广播令牌来将令牌发送至外部设备。在一些实施方案中,在框1108处,设备诸如通过使用寻址到外部电子设备的网络分组来将令牌作为寻址到外部电子设备的传输的一部分发送至外部设备。
根据一些实施方案,图12示出根据各种所述实施方案(包括参考图8 和图10描述的那些)的原理配置的电子设备1200的功能框图。该设备的功能块任选地由执行各种所述实施方案的原理的硬件、软件或硬件和软件的组合来实现。本领域的技术人员应当理解,图12中所述的功能块任选地被组合或被分离为子块,以便实现各种所述实施方案的原理。因此,本文的描述任选地支持本文所述的功能块的任何可能的组合或分离或进一步限定。
如图12所示,电子设备1200包括:被配置为显示图形用户界面的显示单元1202;用于接收接触的可选触敏表面单元1204;用于检测音频输入的麦克风单元1206;使用一个或多个数据传输机构来提供发送信息和接收信息的通信单元1208;以及耦接至上述单元的处理单元1210。在一些实施方案中,该处理单元1210包括显示启用单元1212、音频接收单元1214、虚拟助理单元1216、和令牌管理单元1218。
在一些实施方案中,该处理单元1210被配置为:(例如,利用麦克风单元1206)经由麦克风来接收音频输入(例如,利用音频接收单元1214),其中该音频输入包括请求;将表示该请求的数据发送至服务,诸如以上参考图8F所述的虚拟助理服务830(例如,使用通信单元1208);从该服务接收令牌(例如,使用通信单元1208和令牌管理单元1218),其中该令牌允许从该服务查找以下各项中的至少一者:请求、以及响应于该请求的结果;并且将令牌发送至设备1200外部的第二电子设备(例如,使用通信单元1208 和令牌管理单元1218)。
在一些实施方案中,该处理单元1210被配置为:从服务接收响应于请求的结果(例如,使用通信单元1208);在显示单元1202上显示结果的至少一部分并且(例如,利用显示启用单元1212)。
在一些实施方案中,该处理单元1210被配置为:确定虚拟助理会话是否正在活动地运行(例如,利用虚拟助理单元1216);并且根据确定虚拟助理会话正在设备1200上活动地运行而将令牌发送至第二电子设备,并根据确定没有虚拟助理会话正在电子设备上活动地运行而放弃向第二电子设备发送令牌,(例如,利用令牌管理单元1218和通信单元1208)。
在一些实施方案中,该处理单元1210被配置为:根据将令牌发送至第二电子设备,在电子通信信道上广播令牌(例如,利用通信单元1208)。在一些实施方案中,该处理单元1210被配置为:根据将令牌发送至第二电子设备,将令牌作为寻址到第二电子设备的传输的一部分在电子通信信道上发送 (例如,利用通信单元1208)。
在一些实施方案中,该处理单元1210被配置为当设备1200正在对音频输入进行采样时将虚拟助理会话视为在设备1200上是活动的(例如,利用音频接收单元1214和麦克风单元1206)。
在一些实施方案中,该处理单元1210被配置为当设备的显示器(例如,显示单元1202)的背光源打开时将虚拟助理会话视为在设备1210上是活动的。
在一些实施方案中,该处理单元1210被配置为:根据接收到请求(例如,利用音频接收单元1214和麦克风单元1206),将与设备1200的上下文相关的上下文信息发送至服务(例如,利用虚拟助理单元1216)。需注意,从服务所接收的令牌允许随后从服务查找上下文信息。
在一些实施方案中,拥有令牌的外部设备被配置为:将令牌发送至服务;并且从服务接收以下各项中的至少一者:请求、以及响应于该请求的结果。在一些实施方案中,该外部设备使用与设备1200的单元1218和1208类似的对应令牌管理单元和通信单元来以这种方式获取结果。在一些实施方案中,该外部设备被配置为使用类似于单元1212和1202的显示启用单元和显示单元来显示接收到的结果。
在一些实施方案中,该处理单元1210被配置为将所接收的音频输入视为包括第一请求的第一音频输入,并且:经由麦克风(例如,麦克风单元1206) 来接收第二音频输入(例如,利用音频接收单元1214),该第二音频输入包括第二请求;将表示第二请求的数据发送至服务(例如,利用通信单元1208);并且从服务接收与第二请求对应的消息,但是没有接收与第二请求对应的令牌(例如,利用通信单元1208)。例如,消息是用于指示缺少由服务响应于第二请求而识别的可用信息的通用消息。例如,第二请求包括对设备1200 不支持的任务的请求。
上文相对于图10所述的操作任选地由图1、图2或图12中所描绘的部件来实现。例如,音频接收操作1002任选地由音频电路210实现,框1006 和1008处的令牌管理操作任选地由一个或多个处理器220实现。本领域的普通技术人员会清楚地知道可如何基于图1、图2或图12中描绘的部件来实现其他过程。
本领域的技术人员应当理解,图12中所述的功能块任选地被组合或被分离为子块,以便实现各种所述实施方案的原理。因此,本文的描述任选地支持本文所述的功能块的任何可能的组合或分离或进一步限定。例如,单元 1202-1208可具有操作性地与相应单元和处理单元1210耦接在一起以启用操作的相关联的“控制器”单元。这些控制器单元在图12中未单独示出,但应当理解,其在设计具有单元1202-1208的设备(诸如设备1200)的本领域普通技术人员的掌握中。因此,本文中的描述任选地支持本文所述功能块的组合、分离和/或进一步限定。
根据一些实施方案,图13示出根据各种所述实施方案(包括参考图9 和图11描述的那些)的原理配置的电子设备1300的功能框图。该设备的功能块任选地由执行各种所述实施方案的原理的硬件、软件或硬件和软件的组合来实现。本领域的技术人员应当理解,图13中所述的功能块任选地被组合或被分离为子块,以便实现各种所述实施方案的原理。因此,本文的描述任选地支持本文所述的功能块的任何可能的组合或分离或进一步限定。
如图13所示,电子设备1300包括:被配置为显示图形用户界面的显示单元1302;用于接收接触的可选触敏表面单元1304;用于检测用户输入的麦克风单元1306和输入设备单元1308中的至少一者;使用一个或多个数据传输机构来提供发送信息和接收信息的通信单元1310;以及耦接至上述单元的处理单元1312。在一些实施方案中,该处理单元1312包括显示启用单元1314、输入接收单元1316、虚拟助理单元1318、web浏览器单元1320、和URL管理单元1322。
在一些实施方案中,该处理单元1312被配置为:接收包括请求的输入 (例如,利用输入检测单元1116);将表示请求的数据发送至服务(例如,使用通信单元1310);从识别资源的服务接收统一资源定位符(URL)(例如,使用通信单元1310);并且将URL(例如,由URL管理单元1322管理)的至少一部分发送至设备1300外部的第二电子设备(例如,使用通信单元1310)。
在一些实施方案中,该处理单元1312被配置为:在电子设备的显示器 (例如,显示单元1302)上启用对用于指示响应于请求的信息在第二电子设备上的可用性的指示的显示(例如,利用显示启用单元1314)。
在一些实施方案中,该处理单元1312被配置为:经由URL的至少一部分来获取网页(例如,使用通信单元1310);并且在设备1300的显示器(例如,显示单元1302)上显示网页的至少一个子集(例如,利用显示启用单元 1314)。
在一些实施方案中,该处理单元1312被配置为:根据确定当web浏览器在设备1300上活动地运行时接收到包括请求的输入(例如,利用web浏览单元1320),将当web浏览器(例如,利用web浏览单元1320)在电子设备上活动地运行时接收到包括请求的输入的指示从设备1300发送至服务 (例如,利用通信单元1310);并且根据确定当web浏览器(例如,利用web浏览单元1320)在电子设备上活动地运行时未接收到包括请求的输入,放弃将指示从电子设备发送至服务。
在一些实施方案中,请求包括来自用户的用于执行web搜索的指令。在一些实施方案中,该处理单元1312被配置为:根据接收到包括请求的输入(例如,利用输入检测单元1316),从电子设备的麦克风(例如,麦克风单元1306) 接收音频输入。在一些实施方案中,该请求是经由输入设备单元1308所接收的文本输入的一部分。
在一些实施方案中,该处理单元1312被配置为:确定虚拟助理会话是否正在设备1300上活动地运行(例如,利用虚拟助理单元1318);并且根据确定虚拟助理会话正在设备1300上活动地运行(例如,利用虚拟助理单元 1318),将URL(例如,由URL管理单元1322维护)的至少一部分发送至第二电子设备(例如,利用通信单元1310),并根据确定没有虚拟助理会话正在电子设备上活动地运行(例如,利用虚拟助理单元1318),放弃将URL 发送至第二电子设备。
在一些实施方案中,该处理单元1312被配置为:根据将URL的至少一部分发送至第二电子设备(例如,利用通信单元1310),在电子通信信道上广播URL的至少一部分(例如,利用通信单元1310)。在一些实施方案中,该处理单元1312被配置为:根据将URL的至少一部分发送至第二电子设备 (例如,利用通信单元1310),将URL(例如,由URL管理单元1322维护)的至少一部分作为寻址到第二电子设备的传输的一部分在电子通信信道上发送(例如,利用通信单元1310)。
在一些实施方案中,该处理单元1312被配置为当电子设备正在对音频输入进行采样时将虚拟助理会话视为在设备1300上是活动的(例如,利用输入检测单元1316和麦克风1306)。在一些实施方案中,该处理单元1312被配置为当显示单元1302的背光源打开时将虚拟助理会话视为在设备1300上是活动的。
在一些实施方案中,高处理单元1312被配置为将所接收的音频输入视为包括第一请求的第一音频输入,并且:经由麦克风(例如,麦克风单元1206) 来接收第二音频输入(例如,利用输入检测单元1314),该第二音频输入包括第二请求;将表示第二请求的数据发送至服务(例如,利用通信单元1310);并且从服务接收与第二请求对应的URL,但是没有接收与第二请求对应的令牌(例如,利用通信单元1310)。例如,消息是用于指示缺少由服务响应于第二请求而识别的可用信息的通用消息。例如,第二请求包括对设备1300 不支持的任务的请求。
上文相对于图11所述的操作任选地由图1、图2或图13中所描绘的部件来实现。例如,音频接收操作1002任选地由音频电路210实现,框1106 和1108处的令牌管理操作任选地由一个或多个处理器220实现。本领域的普通技术人员会清楚地知道可如何基于图1、图2或图13中描绘的部件来实现其他过程。
本领域的技术人员应当理解,图13中所述的功能块任选地被组合或被分离为子块,以便实现各种所述实施方案的原理。因此,本文的描述任选地支持本文所述的功能块的任何可能的组合或分离或进一步限定。例如,单元 1302-1310可具有操作性地与相应单元和处理单元1312耦接在一起以启用操作的相关联的“控制器”单元。这些控制器单元在图13中未单独示出,但应当理解,其在设计具有单元1302-1310的设备(诸如设备1300)的本领域普通技术人员的掌握中。因此,本文中的描述任选地支持本文所述功能块的组合、分离和/或进一步限定。
虽然参照附图对本公开和示例进行了全面的描述,但应当注意,各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解,此类变化和修改被认为被包括在由所附权利要求所限定的本公开和示例的范围内。
- 虚拟助理连续性
- 虚拟助理连续性