掌桥专利:专业的专利平台
掌桥专利
首页

终端控制方法、装置、设备及存储介质

文献发布时间:2024-01-17 01:14:25


终端控制方法、装置、设备及存储介质

技术领域

本发明一般涉及终端技术领域,具体涉及一种终端控制方法、装置、设备及存储介质。

背景技术

随着终端技术的快速发展,诸如手机、平板电脑、笔记本电脑等终端设备已经被越来越多的应用在人们的日常生活中。例如,用户可以使用终端进行阅读、玩游戏、播放音视频文件等操作。为了满足用户的需求使其得到更好的用户体验,如何对终端进行控制显得尤为重要。

目前,相关的终端设备在使用过程中,用户通过触摸检测部件实现人机交互,使得终端检测到触摸位置获取触摸信息,并基于触摸信息实现控制操作。然而,当出现一些极端天气导致用户无法执行触摸操作,或者触摸屏失效等异常情况下,终端无法有效获取用户的操作参数,导致控制灵活性较差。

发明内容

鉴基于此,有必要针对上述技术问题,提供一种终端控制方法、装置、设备及存储介质,能够根据眼动特征参数对终端的显示界面进行自动控制,很大程度上提高了终端控制操作的便携性和有效性,进而提高了控制效率。

第一方面,本申请实施例提供了一种终端控制方法,包括:

当终端处于眼部追踪控制模式时,采集视景信息和用户的眼部特征信息;

对所述视景信息和所述眼部特征信息进行分析,确定所述用户在所述终端上的目标焦点位置;

根据所述目标焦点位置,确定所述用户在所述终端的显示界面上的眼动特征参数;所述眼动特征参数用于表征所述用户的眼部在所述显示界面上的运动状态信息;

根据所述眼动特征参数对所述终端的显示界面执行控制操作。

在其中一个实施例中,对所述视景信息和所述眼部特征信息进行分析,确定所述用户在所述终端上的目标焦点位置,包括:

将所述眼部特征信息与所述视景信息进行叠加处理,确定眼部空间位置信息;

根据所述眼部空间位置信息确定所述用户眼部注视所述显示界面上的注视坐标;

基于所述注视坐标确定所述用户在所述终端上的目标焦点位置。

在其中一个实施例中,根据所述目标焦点位置,确定所述用户在所述终端的显示界面上的眼动特征参数,包括:

根据所述目标焦点位置,追踪各个时刻所述用户的眼部在所述显示界面上的运动距离、运动方向和眨眼次数;

基于所述运动距离、运动方向和所述眨眼次数确定用户在所述终端的显示界面上的眼动特征参数;所述眼动特征参数包括以下至少一项:所述用户的眼动时间、注视点轨迹和眼动距离矢量。

在其中一个实施例中,根据所述眼动特征参数对所述终端的显示界面执行控制操作,包括:

当所述目标焦点位置在所述显示界面上的按钮控件时,判断眼动时间是否处于预设时间范围内;

若眼动时间处于预设时间范围内,确定对所述显示界面的按钮控件执行点击操作。

在其中一个实施例中,根据所述眼动特征参数对所述终端的显示界面执行控制操作,包括:

判断所述注视点轨迹是否满足预设翻页条件;

当注视点轨迹满足预设翻页条件时,根据所述预设翻页条件对所述终端的显示界面执行翻页操作。

在其中一个实施例中,根据所述眼动特征参数对所述终端的显示界面执行控制操作,包括:

检测所述眼动距离矢量在所述显示界面上的区间位置;

当所述眼动距离矢量位于第一区间时,生成上移操作指令并控制所述显示界面向上移动;当所述眼动距离矢量位于第二区间时,生成下移操作指令并控制所述显示界面向下移动;当所述眼动距离矢量位于第三区间时,生成左移操作指令并控制所述显示界面向左移动;当所述眼动距离矢量位于第四区间时,生成右移操作指令并控制所述显示界面向右移动。

在其中一个实施例中,所述方法还包括:

获取所述目标焦点位置与所述用户眼部之间的目标距离;

根据预设的距离与显示界面亮度值之间的映射关系,确定与所述目标距离对应的目标亮度值,控制所述终端的显示界面以所述目标亮度值进行显示。

第二方面,本申请实施例提供了一种终端控制装置,该装置包括:

采集模块,用于当终端处于眼部追踪控制模式时,采集视景信息和用户的眼部特征信息;

位置确定模块,用于对所述视景信息和所述眼部特征信息进行分析,确定所述用户在所述终端上的目标焦点位置;

参数确定模块,用于根据所述目标焦点位置,确定所述用户在所述终端的显示界面上的眼动特征参数;所述眼动特征参数用于表征所述用户的眼部在所述显示界面上的运动状态信息;

控制模块,用于根据所述眼动特征参数对所述终端的显示界面执行控制操作。

第三方面,本申请实施例提供一种终端设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现本申请任意实施例所提供的终端控制方法的步骤。

第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现本申请任意实施例所提供的终端控制方法的步骤。

本申请实施例提供的终端控制方法、装置、设备及存储介质,当终端处于眼部追踪控制模式时,通过采集视景信息和用户的眼部特征信息,并对视景信息和眼部特征信息进行分析,确定用户在终端上的目标焦点位置,然后根据目标焦点位置,确定用户在终端的显示界面上的眼动特征参数,该眼动特征参数用于表征用户的眼部在显示界面上的运动状态信息和时间信息,并根据眼动特征参数对终端的显示界面执行控制操作。与现有技术相比,该技术方案无需用户进行任何手动操作触摸屏,通过自动采集视景信息和用户的眼部特征信息,从而获取目标焦点位置并确定出眼动特征参数,进而有效获取用户的操作参数,能够根据眼动特征参数对终端的显示界面进行自动控制,很大程度上提高了终端控制操作的便携性和有效性,进而提高了控制效率。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:

图1为本申请实施例提供的终端控制方法的流程示意图;

图2为本申请实施例提供的终端控制方法的流程示意图;

图3为本申请实施例提供的对终端的显示界面的交互场景示意图;

图4为本申请实施例提供的终端控制方法的流程示意图;

图5为本申请实施例提供的显示界面的交互场景示意图;

图6为本申请实施例提供的终端内部的结构示意图;

图7为本申请实施例提供的终端内部的结构示意图;

图8为本申请实施例提供的终端控制装置的结构示意图;

图9为本申请实施例提供的终端控制装置的结构示意图;

图10为本申请实施例提供的一种终端设备的结构示意图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图和实施例,对本申请作进一步的详细说明。应当理解的是,此处所描述的具体实施例仅仅用于解释本申请,并不用于限定本申请。另外还需要说明的是,为了便于描述,附图中仅示出了与发明相关的部分。

需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

可以理解,随着科学技术的不断发展和进步,智能终端不断革新。当前,智能终端因其多功能性和便携性逐渐渗入到人们生活的方方面面。目前,用户在使用终端的过程中,可以通过触摸检测部件实现人机交互,使得终端检测到触摸位置获取触摸信息,并基于触摸信息实现控制操作。但是,当出现一些极端天气导致用户无法执行触摸操作,或者其他原因使得触摸屏失效等异常情况下,终端无法获取用户的操作参数,从而无法及时进行响应,导致控制灵活性较差。

基于上述缺陷,本申请提供了一种终端控制方法、装置、设备及存储介质,与现有技术相比,该技术方案无需用户进行任何手动操作,通过自动采集视景信息和用户的眼部特征信息,从而获取目标焦点位置并确定出眼动特征参数,进而有效获取用户的操作参数,能够根据眼动特征参数对终端的显示界面进行自动控制,很大程度上提高了终端控制操作的便携性和有效性,其适应范围广,进而提高了控制效率。

本申请实施例提供的终端控制方法可以应用于终端。可选的,该终端可以为手机、平板电脑、桌面型、膝上型、笔记本电脑、超级移动个人计算机(Ultra-mobile PersonalComputer,UMPC)、手持计算机、上网本、个人数字助理(Personal Digital Assistant,PDA)、可穿戴电子设备、虚拟现实设备、游戏机、车载终端等。其中,游戏机可以是PS5或者X-BOX等不同类型。本申请实施例中对终端的具体形式不做任何限定。

其中,上述终端可安装有操作系统,该操作系统可以包括安卓(Android)操作系统、窗口(Windows)操作系统以及苹果(ios)操作系统等。本申请实施例中对操作系统的类型不做限定。

为了进一步说明本申请实施例提供的技术方案,下面结合附图以及具体实施方式对此进行详细的说明,下面通过图1至图10详细阐述本申请实施例提供的终端控制方法、装置、设备及存储介质。虽然本申请实施例提供了如下实施例或附图所示的方法操作指令步骤,但基于常规或者无需创造性的劳动在所述方法中可以包括更多或者更少的操作指令步骤。在逻辑上不存在必要因果关系的步骤中,这些步骤的执行顺序不限于本申请实施例提供的执行顺序。所述方法在实际的处理过程中或者装置执行时,可按照实施例或者附图所示的方法顺序执行或者并行执行。

图1所示为本申请实施例提供的终端控制方法的流程示意图,该方法应用于终端,如图1所示,该方法包括:

S101、当终端处于眼部追踪控制模式时,采集视景信息和用户的眼部特征信息。

需要说明的是,终端可以存在多种模式,至少可以包括眼部追踪控制模式和普通工作模式。在普通工作模式下,用户在终端上浏览网页、浏览文字等内容时,用户执行触发操作,使得终端检测到用户的触发参数,根据触发参数对显示界面进行控制操作,其中,触发参数可以是用户触摸操作时生成的参数,也可以是用户对终端执行点按操作时生成的参数,还可以是用户对终端进行语音操作时生成的参数。在眼部追踪控制模式下,用户在终端上浏览网页、进行游戏等内容时终端可以根据用户的眼部运动状态信息对显示界面进行控制操作。

本申请实施例中,在采集视景信息和用户的眼部特征信息之前,需要预先开启终端的眼部追踪控制模式,用户可以触发眼部追踪控制模式的目标按键,从而生成眼部追踪控制模式开启指令,使得终端响应于眼部追踪控制模式开启指令,控制开启眼部追踪控制模式。

可选的,上述目标按键可以是一个,也可以是多个按键的组合。该目标按键可以是终端上的物理按键,也可以是终端上的虚拟按键。当目标按键为物理按键时,眼部追踪控制模式开启指令可以是用户短按或长按目标按键所触发的;当目标按键为虚拟按键时,眼部追踪控制模式开启指令可以是用户单击或双击虚拟按键所触发的。另外,终端也可以是接收用户输入的语音或手势等信息所触发的开启指令,本实施例对此不进行任何限定。

当控制终端开启眼部追踪控制模式时,可以通过图像采集模块采集视景信息和用户的眼部特征信息。其中,上述视景信息为用户的眼部所处的视景图像对应的特征信息。用户的眼部特征信息为用户的眼部图像对应的特征信息。

上述图像采集装置可以是一个或多个,该图像采集装置例如可以包括微型摄像头、类红外镜头等,其可以集成在终端的内部,也可以是独立于终端的外部设备,当为外部设备时,可以将采集到的视景信息和用户的眼部特征信息传输至终端中。

当图像采集装置为多个时,例如包括两个微型摄像头和一个类红外镜头。其中,一个用于拍摄视景信息,另外两个用于对准用户的左右两个眼球并向其发射光线,获取用户的两只眼球的反射光线。上述类红外镜头用于发射和接收红外光束。

其中,图像采集装置采集用户的眼部特征信息的基本原理是利用低功率的红外线光束照射用户的眼球,再通过感测器接收由眼部的瞳孔、虹膜、角膜等不同部位反射回来的光线,通过反射回的光线进行成像,从而得到用户的眼部特征信息。

S102、对视景信息和眼部特征信息进行分析,确定用户在终端上的目标焦点位置。

在采集到视景信息和用户的眼部特征信息之后,需要对眼部特征信息和视景信息进行分析、处理和识别,确定用户在终端上的目标焦点位置。需要说明的是,上述目标焦点位置为用户的视线在终端的显示界面上的交汇处。

作为一种可实现方式,可以将眼部特征信息与视景信息进行叠加处理,确定眼部空间位置信息,并根据眼部空间位置信息确定用户眼部注视显示界面上的注视坐标,并基于注视坐标确定用户在终端上的目标焦点位置。

具体地,在确定出眼部特征信息和视景信息后,可以通过瞳孔坐标提取装置将眼部特征信息和视景信息转换为数字信号,并将眼部特征信息与视景信息进行叠加处理,得到眼部空间位置信息,即从采集到的视景信息中提取面部特征信息,并利用面部特征信息确定用户眼部位置的初始区域,基于虹膜检测技术,从人眼位置的初始区域中搜索虹膜外边界,从而将虹膜外边界围成的区域作为眼部空间位置信息,并根据预设的空间坐标系与图像坐标系之间的映射关系,确定与眼部空间位置信息对应的显示界面上的注视坐标,从而基于注视坐标确定用户在终端上的目标焦点位置。

S103、根据目标焦点位置,确定用户在终端的显示界面上的眼动特征参数;眼动特征参数用于表征用户的眼部在显示界面上的运动状态信息。

需要说明的是,上述用户的眼部在显示界面上的运动状态信息是指用户的眼球的运动状态信息、虹膜的角度变化信息、眨眼的次数、时长等。

具体地,根据目标焦点位置,追踪各个时刻用户的眼部在显示界面上的运动距离、运动方向和眨眼次数,然后基于运动距离、运动方向和眨眼次数确定用户在终端的显示界面上的眼动特征参数。

其中,上述眼动特征参数包括以下至少一项:用户的眼动时间、注视点轨迹和眼动距离矢量。眼动时间是指在预设时间内用户的眼球运动的时间,例如2s;注视点轨迹是指用户的眼部在终端的显示界面上注视所形成的轨迹,例如呈“一”形;眼动距离矢量是指用户的眼部在终端的显示界面上移动的运动距离和运动方向,例如向左移动5cm或向上移动6cm。

一种可能的实现方式中,可以根据目标焦点位置,追踪各个时刻用户的眼部在显示界面上的运动距离和运动方向确定眼动距离矢量和注视点轨迹,并根据各个时刻用户的眼部在显示界面上的眨眼次数确定眼动时间。

其中,可以通过检测用户的眼部中各个部分反射的光线,确定眼部是否注视在显示界面是否发生运动,当检测到发生运动时确定对应的运动距离和运动方向。该各个部位可以包括眼球、虹膜、角膜等。可以通过检测用户的眼部中眼球形态是否发生变化,从而确定眨眼次数。例如检测到用户的眼球形态在第一时刻、第二时刻相同,在第三时刻眼球形态与第二时刻不同,则判断出用户的眼部中眼球形态在第三时刻发生变化,即用户的眼动时间为两个时刻,以一个时刻为1s为例,则用户的眼动时间为2s。

S104、根据眼动特征参数对终端的显示界面执行控制操作。

需要说明的是,终端中可以存储有预先设置的眼部追踪控制规则,该眼部追踪控制规则包括眼动特征参数与控制操作参数的映射关系,当确定出眼动特征参数时,可以根据该眼部追踪控制规则确定与眼动特征参数对应的控制操作参数,进而根据该控制操作参数对终端的显示界面执行控制操作。

其中,上述控制操作参数可以包括向上翻页、向下翻页、向左翻页、向右翻页、点击“确定”按钮、点击“返回”按钮等操作项。可以理解的是,终端实际应用中对显示界面进行控制操作的内容可以根据实际需求灵活设计,本申请实施例对此不进行任何限定。

本申请实施例提供的终端控制方法,当终端处于眼部追踪控制模式时,通过采集视景信息和用户的眼部特征信息,并对视景信息和眼部特征信息进行分析,确定用户在终端上的目标焦点位置,然后根据目标焦点位置,确定用户在终端的显示界面上的眼动特征参数,该眼动特征参数用于表征用户的眼部在显示界面上的运动状态信息和时间信息,并根据眼动特征参数对终端的显示界面执行控制操作。与现有技术相比,该技术方案无需用户进行任何手动操作,通过自动采集视景信息和用户的眼部特征信息,从而获取目标焦点位置并确定出眼动特征参数,进而有效获取用户的操作参数,能够根据眼动特征参数对终端的显示界面进行自动控制,很大程度上提高了终端控制操作的便携性和有效性,进而提高了控制效率。

在本申请的另一实施例中,还提供了根据眼动特征参数对终端进行控制的具体实现方式,图2为对终端进行控制方法的流程示意图,如图2所示,该方法包括:

S201、当目标焦点位置在显示界面上的按钮控件时,判断眼动时间是否处于预设时间范围内。

S202、若眼动时间处于预设时间范围内,确定对显示界面的按钮控件执行点击操作。

需要说明的是,在终端的显示界面上可以包括多个按钮控件,例如当用户在进行浏览网页时,可以包括“下一页”控件、“上一页”控件、“确定”控件、“返回”控件等。

一种可能的实现方式中,通过检测用户的目标焦点位置是否与显示界面上的按钮控件重合,当检测到目标焦点位置与显示界面上的按钮控件重合,则表征目标焦点位置在显示界面上的按钮控件,然后获取眼动时间,判断眼动时间是否处于预设时间范围内,若眼动时间处于预设时间范围内,确定对显示界面的按钮控件执行点击操作;若眼动时间不处于预设时间范围内,确定对显示界面的按钮控件不执行点击操作,例如可以记录该点的位置以生成注视点轨迹。其中,上述预设时间范围可以根据实际需求自定义设置,例如可以是0~3s。

示例性地,请参见图3所示,在终端的实际应用过程中,以终端为手机为例,当用户在浏览网页页面时,该网页页面上包括“返回”控件,检测到目标焦点位置与显示界面上的“返回”控件重合,则目标焦点位置在显示界面上的“返回”控件,然后获取用户在该“返回”控件上的眼动时间,判断眼动时间是否处于预设时间范围内(0~3s),当确定出眼动时间为2s,即处于预设时间范围内时,则控制对显示界面上的“返回”控件执行点击操作,从而完成界面返回操作。

另一种可能的实现方式中,图4为对终端进行控制方法的流程示意图,如图4所示,该方法包括:

S301、判断注视点轨迹是否满足预设翻页条件。

S302、当注视点轨迹满足预设翻页条件时,根据预设翻页条件对终端的显示界面执行翻页操作。

需要说明的是,终端中存储有预设翻页条件,该预设翻页条件包括注视点轨迹和翻页操作之间的映射关系。该注视点轨迹可以是预设一段时间内在显示界面上形成的轨迹,其中,预设一段时间是根据实际需求自定义设置的,例如10s。

例如注视点轨迹为从目标焦点位置向显示界面外围下方延伸呈“1”形时,则表征翻页操作为执行向下翻页;例如注视点轨迹为从目标焦点位置向显示界面外围右方延伸呈“一”形时,则表征翻页操作为执行向右翻页。

当获取注视点轨迹时,可以判断注视点轨迹是否满足预设翻页条件,通过查看注视点轨迹是否符合预设翻页条件中的轨迹格式,如果符合轨迹格式,则确定出注视点轨迹满足预设翻页条件;如果不符合轨迹格式,则确定出注视点轨迹不满足预设翻页条件。当注视点轨迹满足预设翻页条件时,根据预设翻页条件对终端的显示界面执行翻页操作。

示例性地,在终端的实际应用过程中,以终端为手机为例,当用户在浏览网页页面时,在10s时间内注视显示界面所形成的注视点轨迹是从目标焦点位置向显示界面外围右方延伸呈“一”形时,且判断出注视点轨迹符合预设翻页条件时,则表征翻页操作为执行向右翻页,进而控制显示界面执行向右翻页操作。

又一种可能的实现方式中,还可以根据眼动距离矢量对终端的显示界面执行控制操作。通过检测眼动距离矢量在显示界面上的区间位置;当眼动距离矢量位于第一区间时,生成上移操作指令并控制显示界面向上移动;当眼动距离矢量位于第二区间时,生成下移操作指令并控制显示界面向下移动;当眼动距离矢量位于第三区间时,生成左移操作指令并控制显示界面向左移动;当眼动距离矢量位于第四区间时,生成右移操作指令并控制显示界面向右移动。

需要说明的是,请参见图5所示,上述第一区间、第二区间、第三区间和第四区间等区间位置的划分是以目标焦点位置的起始位置为中心,例如起始位置在终端中心,平行于终端短边建立x轴,平行于终端短边建立y轴,第一区间为与y轴正半轴呈45°角的范围内,第二区间为y轴负半轴呈45°角的范围内,第三区间为与x轴负半轴呈45°角的范围内,第四区间为与x轴正半轴呈45°角的范围内。

示例性地,当用户使用终端进行游戏的过程中,通过眼动追踪获取到用户瞳孔的变化,终端自动根据用户眼球的眼动距离矢量而移动游戏画面,当眼动距离矢量位于第一区间,即位于与y轴正半轴呈45°角的范围内时,则控制显示界面向上移动,当眼动距离矢量位于第四区间,即位于与x轴正半轴呈45°角的范围内时,则控制显示界面向右移动。

作为又一种可实现方式,还可以获取目标焦点位置与用户眼部之间的目标距离,根据预设的距离与显示界面亮度值之间的映射关系,确定与目标距离对应的目标亮度值,控制终端的显示界面以目标亮度值进行显示。

其中,上述预设的距离与显示界面亮度值之间的映射关系是根据实际人眼对显示界面亮度的舒适度确定。目标焦点位置与用户眼部之间的距离越远,显示界面亮度值越大;标焦点位置与用户眼部之间的距离越近,显示界面亮度值越小。

例如,当获取到目标焦点位置与用户眼部之间的目标距离为40cm时,根据预设的距离与显示界面亮度值之间的映射关系,确定与目标距离对应的目标亮度值为60,控制终端的显示界面以目标亮度值60进行显示。

示例性地,请参见图6所示,以终端为手机为例,可以在手机主板上集成有眼动追踪芯片IC和处理器(cpu),该眼动追踪芯片可以包括图像采集装置、瞳孔坐标提取装置、视景与瞳孔叠加装置、图像与数据记录分析装置。还可以包括电池,用于为终端提供电源,以进行供电。

其中,上述图像采集装置用于采集视景信息和用户的眼部特征信息,例如可以包括微型摄像头、类红外镜头等。瞳孔坐标提取装置用于将图像采集装置采集到的视景信息和眼部特征信息转换为数字信号,并发送至视景与瞳孔叠加装置。视景与瞳孔叠加装置用于基于数字信号,将眼部特征信息与视景信息进行叠加处理,确定用户在终端上的目标焦点位置并发送至图像与数据记录分析装置,该目标焦点位置即用户眼部的瞳孔中心对准的视景中的中心点。图像与数据记录分析装置用于基于目标焦点位置,确定用户在终端的显示界面上的眼动特征参数并发送至处理器。处理器用于基于眼动特征参数对终端的显示界面执行控制操作。

可选的,上述对终端的显示界面执行控制操作可以应用于手机用户在浏览网页页面的场景时,通过眼动追踪捕捉到用户的眼动特征参数,从而根据眼动控制参数控制显示界面执行控制操作,例如:下翻浏览的画面、点击“确定”按键,点击“返回”按键等。

另外,也可以应用于用户在桌面游戏或进行体感游戏的场景中,通过眼动追踪捕捉到用户的眼动特征参数,从而根据眼动控制参数控制移动游戏画面。

示例性地,请参见图7所示,以终端为手机为例,例如用户在浏览网页页面的应用场景中,开启眼部追踪控制模式,图像采集装置开始进行工作,图像采集装置例如由两个微型摄像头和一个类红外镜头组成,一个用于拍摄视景信息,另外两个微型摄像头用于对准左右眼球,并接收左右眼球反射的光线。图像采集装置将捕捉到的光学信息发送至瞳孔坐标提取装置;瞳孔坐标提取装置将光学信号转换为数字信号并发送至视景与瞳孔叠加装置;视景与瞳孔叠加装置将眼部特征信息与视景信息进行叠加处理,确定用户在终端上的目标焦点位置并发送至图像与数据记录分析装置;图像与数据记录分析装置基于目标焦点位置,确定用户在终端的显示界面上的眼动特征参数并发送至处理器。

手机内部的处理器基于眼动特征参数对终端的显示界面执行控制操作,可以通过根据预先设置的眼部追踪控制规则确定在显示界面上所执行的下一步操作,例如下翻浏览的画面、点击“确定”按键,点击“返回”按键等。

本申请实施例提供的终端控制方法,无需双手来操作收集,能够自动采集视景信息和用户的眼部特征信息,从而获取目标焦点位置并确定出眼动特征参数,能够有效获取用户的操作参数实现了人机交互,根据眼动特征参数对终端的显示界面进行自动控制,很大程度上提高了终端控制操作的便携性和有效性,使得提高了用户的操作体验。

应该理解的是,虽然图1-4的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1-4中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

另一方面,图8为本申请实施例提供的一种终端控制装置的结构示意图。该装置可以为终端内的装置,如图8所示,该装置600包括:

采集模块610,用于当终端处于眼部追踪控制模式时,采集视景信息和用户的眼部特征信息;

位置确定模块620,用于对视景信息和眼部特征信息进行分析,确定用户在终端上的目标焦点位置;

参数确定模块630,用于根据目标焦点位置,确定用户在终端的显示界面上的眼动特征参数;眼动特征参数用于表征用户的眼部在显示界面上的运动状态信息;

控制模块640,用于根据眼动特征参数对终端的显示界面执行控制操作。

可选的,请参见图9所示,上述位置确定模块620,包括:

处理单元621,用于将眼部特征信息与视景信息进行叠加处理,确定眼部空间位置信息;

第一确定单元622,用于根据眼部空间位置信息确定用户眼部注视显示界面上的注视坐标;

第二确定单元623,用于基于注视坐标确定用户在终端上的目标焦点位置。

可选的,上述参数确定模块630,包括:

追踪单元631,用于根据目标焦点位置,追踪各个时刻用户的眼部在显示界面上的运动距离、运动方向和眨眼次数;

第三确定单元632,用于基于运动距离、运动方向和眨眼次数确定用户在终端的显示界面上的眼动特征参数;眼动特征参数包括以下至少一项:用户的眼动时间、注视点轨迹和眼动距离矢量。

可选的,上述控制模块640,具体用于:

当目标焦点位置在显示界面上的按钮控件时,判断眼动时间是否处于预设时间范围内;

若眼动时间处于预设时间范围内,确定对显示界面的按钮控件执行点击操作。

可选的,上述控制模块640,具体用于:

判断注视点轨迹是否满足预设翻页条件;

当注视点轨迹满足预设翻页条件时,根据预设翻页条件对终端的显示界面执行翻页操作。

可选的,上述控制模块640,具体用于:

检测眼动距离矢量在显示界面上的区间位置;

当眼动距离矢量位于第一区间时,生成上移操作指令并控制显示界面向上移动;当眼动距离矢量位于第二区间时,生成下移操作指令并控制显示界面向下移动;当眼动距离矢量位于第三区间时,生成左移操作指令并控制显示界面向左移动;当眼动距离矢量位于第四区间时,生成右移操作指令并控制显示界面向右移动。

可选的,上述控制模块640,具体用于:

获取目标焦点位置与用户眼部之间的目标距离;

根据预设的距离与显示界面亮度值之间的映射关系,确定与目标距离对应的目标亮度值,控制终端的显示界面以目标亮度值进行显示。

关于基于终端控制装置的具体限定可以参见上文中对于终端数据恢复方法的限定,在此不再赘述。上述终端数据恢复装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。

另一方面,本申请实施例提供的终端设备,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,该处理器执行该程序时实现如上述的终端控制方法。

下面参考图10,图10为本申请实施例的终端设备的计算机系统的结构示意图。

如图10所示,计算机系统300包括中央处理单元(CPU)301,其可以根据存储在只读存储器(ROM)302中的程序或者从存储部分303加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中,还存储有系统300操作所需的各种程序和数据。CPU 301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。

以下部件连接至I/O接口305:包括键盘、鼠标等的输入部分306;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分307;包括硬盘等的存储部分308;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分309。通信部分309经由诸如因特网的网络执行通信处理。驱动器310也根据需要连接至I/O接口305。可拆卸介质311,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器310上,以便于从其上读出的计算机程序根据需要被安装入存储部分308。

特别地,根据本申请的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在机器可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分303从网络上被下载和安装,和/或从可拆卸介质311被安装。在该计算机程序被中央处理单元(CPU)301执行时,执行本申请的系统中限定的上述功能。

需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。

附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元或模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中,例如,可以描述为:一种处理器,包括:采集模块、位置确定模块、参数确定模块及控制模块。其中,这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定,例如,采集模块还可以被描述为“用于当终端处于眼部追踪控制模式时,采集视景信息和用户的眼部特征信息”。

作为另一方面,本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中的。上述计算机可读存储介质存储有一个或者多个程序,当上述前述程序被一个或者一个以上的处理器用来执行描述于本申请的终端控制方法:

当终端处于眼部追踪控制模式时,采集视景信息和用户的眼部特征信息;

对所述视景信息和所述眼部特征信息进行分析,确定所述用户在所述终端上的目标焦点位置;

根据所述目标焦点位置,确定所述用户在所述终端的显示界面上的眼动特征参数;所述眼动特征参数用于表征所述用户的眼部在所述显示界面上的运动状态信息;

根据所述眼动特征参数对所述终端的显示界面执行控制操作。

综上所述,本申请实施例提供的终端控制方法、装置、设备及存储介质,当终端处于眼部追踪控制模式时,通过采集视景信息和用户的眼部特征信息,并对视景信息和眼部特征信息进行分析,确定用户在终端上的目标焦点位置,然后根据目标焦点位置,确定用户在终端的显示界面上的眼动特征参数,该眼动特征参数用于表征用户的眼部在显示界面上的运动状态信息和时间信息,并根据眼动特征参数对终端的显示界面执行控制操作。与现有技术相比,该技术方案无需用户进行任何手动操作,通过自动采集视景信息和用户的眼部特征信息,从而获取目标焦点位置并确定出眼动特征参数,进而有效获取用户的操作参数,能够根据眼动特征参数对终端的显示界面进行自动控制,很大程度上提高了终端控制操作的便携性和有效性,进而提高了控制效率。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离所述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

相关技术
  • 分体式终端设备的屏显控制方法、装置及存储介质
  • 硬件交换机控制流向的方法、装置、终端设备及存储介质
  • 控制移动终端上网的方法、装置、计算机设备、存储介质
  • 弹窗展示的控制方法、装置、终端设备和存储介质
  • 终端设备的控制方法及控制装置、存储介质、终端设备
  • 终端设备的控制方法及控制装置、存储介质、终端设备
技术分类

06120116079498