掌桥专利:专业的专利平台
掌桥专利
首页

一种注视点估计方法、系统、处理器及设备

文献发布时间:2023-06-19 10:19:37


一种注视点估计方法、系统、处理器及设备

技术领域

本发明涉及信息处理技术领域,特别是涉及一种注视点估计方法、系统、处理器及设备。

背景技术

随着人机交互技术的发展,眼球追踪技术得到了广泛的应用。眼球追踪也称为视线追踪,是通过测量眼睛运动情况来估计眼睛的视线和/或注视点的技术。

现有的视线追踪技术一般都是基于多光源单相机或者为多光源多相机的设定。光源一般分为两种:一种是光源与相机位置分离形成正常瞳孔脸图(也被称为暗瞳),这种光源被称为暗瞳光源;另一种是光源与相机同轴的虹膜反射光线导致相机瞳孔发亮的脸图(也被称为亮瞳),这种光源被称为亮瞳光源。使得现有技术达到视线追踪的目的,光源组合一般是多个暗瞳组合,或者多个暗瞳结合一个亮瞳,又或者一个暗瞳结合一个亮瞳。而两个光源之间的距离需要设置的相对较大,这就使得利用现有的视线追踪方法而产生的视线追踪设备的体积较大,无法满足用户需要的小型化和轻量化的目的。

发明内容

针对于上述问题,本发明提供一种注视点估计方法及系统,基于单光源的注视点估计,可以减少现有视线追踪设备的光源数量,实现了视线追踪设备的小型化和轻量化。

为了实现上述目的,本发明提供了如下技术方案:

一种注视点估计方法,该方法应用于具有设置有单相机和单同轴光源的视线追踪设备,包括:

获取从所述单相机捕捉的原始图像;

采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据;

基于所述瞳孔光斑中心数据,计算获得初始PCR向量,所述PCR向量表征光斑中心指向瞳孔中心的向量;

利用预设距离因子,对所述初始PCR向量进行归一化处理,获得目标PCR向量,所述预设距离因子表征对所述初始PCR向量进行归一化处理的归一化参数;

根据所述目标PCR向量,计算获得注视点信息。

可选地,所述两眼的瞳孔光斑中心数据包括瞳孔图像坐标和光斑图像坐标,所述采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据,包括:

采集所述原始图像的人眼特征信息;

根据所述人眼特征信息,获取两眼的瞳孔图像特征和光斑图像特征;

根据所述瞳孔图像特征,计算获得瞳孔图像坐标;

根据所述光斑图像特征,计算获得光斑图像坐标。

可选地,所述预设距离因子表征距离参数的函数,其中,所述距离参数包括两眼瞳孔的间距、两眼光斑间距或者两眼制定特征点之间的距离。

可选地,所述获取从所述单相机捕捉原始图像包括根据设定的曝光增益获取从所述单相机捕捉的原始图像,该方法还包括:

根据所述原始图像,计算瞳孔区域的平均灰度值;

依据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,是的获取的原始图像满足光斑查找条件。

可选地,所述根据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,包括:

判断所述平均灰度值是否超过预设灰度阈值,如果是,则调整所述设定的曝光增益。

可选地,该方法还包括:

调整所述设定的曝光增益,获得目标曝光增益;

根据所述目标曝光增益控制所述单相机进行图像采集,使得获取的原始图像满足所述目标曝光增益。

可选地,所述根据所述目标PCR向量,计算获得注视点信息,包括:

根据预设映射关系和所述目标PCR向量,计算获得注视点信息,其中,所述预设映射关系表征PCR向量与注视点和/或注视方向的映射关系。

一种注视点估计系统,该系统应用于具有设置有单相机和单同轴光源的视线追踪设备,包括:

获取单元,用于获取从所述单相机捕捉的原始图像;

第一计算单元,用于采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据;

第二计算单元,用于基于所述瞳孔光斑中心数据,计算获得初始PCR向量,所述PCR向量表征光斑中心指向瞳孔中心的向量;

归一化单元,用于利用预设距离因子,对所述初始PCR向量进行归一化处理,获得目标PCR向量,所述预设距离因子表征对所述初始PCR向量进行归一化处理的归一化参数;

第三计算单元,用于根据所述目标PCR向量,计算获得注视点信息。

可选地,所述第一计算单元包括:

采集子单元,用于采集所述原始图像的人眼特征信息;

获取子单元,用于根据所述人眼特征信息,获取两眼的瞳孔图像特征和光斑图像特征;

第一计算子单元,用于根据所述瞳孔图像特征,计算获得瞳孔图像坐标;

第二计算子单元,用于根据所述光斑图像特征,计算获得光斑图像坐标;所述两眼的瞳孔光斑中心数据包括瞳孔图像坐标和光斑图像坐标。

可选地,所述获取单元具体用于根据设定的曝光增益获取从所述单相机捕捉的原始图像,该系统还包括:

灰度值计算单元,用于根据所述原始图像,计算瞳孔区域的平均灰度值;

判断单元,用于依据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,是的获取的原始图像满足光斑查找条件;

其中,所述判断单元具体用于:

判断所述平均灰度值是否超过预设灰度阈值,如果是,则调整所述设定的曝光增益;

该系统还包括:

调整单元,用于调整所述设定的曝光增益,获得目标曝光增益;

重新采集单元,用于根据所述目标曝光增益控制所述单相机进行图像采集,使得获取的原始图像满足所述目标曝光增益。

所述第三计算单元具体用于;

根据预设映射关系和所述目标PCR向量,计算获得注视点信息,其中,所述预设映射关系表征PCR向量与注视点和/或注视方向的映射关系。

一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行如上述所述的注视点估计方法。

一种设备,所述设备包括处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的程序,所述处理器执行所述程序时至少实现:

获取从所述单相机捕捉的原始图像;

采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据;

基于所述瞳孔光斑中心数据,计算获得初始PCR向量,所述PCR向量表征光斑中心指向瞳孔中心的向量;

利用预设距离因子,对所述初始PCR向量进行归一化处理,获得目标PCR向量,所述预设距离因子表征对所述初始PCR向量进行归一化处理的归一化参数;

根据所述目标PCR向量,计算获得注视点信息。

相较于现有技术,本发明提供了一种注视点估计方法、系统、处理器及设备,在该注视点估计过程中通过获得瞳孔光斑中心数据,并基于瞳孔光斑中心数据计算和进行归一化处理后,获得目标PCR向量,通过该目标PCR向量计算获得注视点信息。该注视点估计方法在进行注视点估计的时候只应用了瞳孔光斑中心数据,即仅用一个光斑和瞳孔位置信息就能估计出人眼与相机的距离信息,无需使用一个眼睛中的两个光斑信息,因此解决了必须要两组光源才能做到注视点估计的问题,从而可以减少现有视线追踪设备的光源数量,实现了视线追踪设备的小型化和轻量化。

名词解释:

PCR(PupilCornealReflection)即瞳孔-角膜反射法,是光学记录法的一种。

方法步骤为:

首先获取带有光斑(也称为普尔钦斑)的眼部图像,获取光源在角膜上的反射点即光斑;随着眼球转动,瞳孔中心与光斑的相对位置关系随之发生变化,相应采集到的带有光斑的若干眼部图像反映出这样的位置变化关系;根据所述位置变化关系进行视线/注视点估计。

IPD(Inter Pupillary Distance)即两眼(左眼和右眼)瞳孔的间距。

IGD(Inter Glint Distance)即眼部图像中两个光斑之间的距离。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为现有技术中的一种光源组合示意图;

图2为本申请实施例提供的一种视线追踪设备的模组的结构示意图;

图3为本申请实施例一提供的一种注视点估计方法的流程示意图;

图4为本申请实施例中提供的一种PCR向量示意图;

图5为本申请实施例二提供的一种计算两眼的瞳孔光斑中心数据的方法的流程示意图;

图6为本申请实施例提供的一种曝光增益调整方法的流程示意图;

图7为本申请实施例提供的一种注视点估计系统的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

本发明的说明书和权利要求书及上述附图中的术语“第一”和“第二”等是用于区别不同的对象,而不是用于描述特定的顺序。此外术语“包括”和“具有”以及他们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有设定于已列出的步骤或单元,而是可包括没有列出的步骤或单元。

在本发明实施例中提供了一种注视点估计方法,可应用于眼球追踪领域,眼球追踪也可以称为视线追踪,是通过测量眼球运动情况来估计眼睛的视线和/或注视点的技术,眼球追踪技术需要用到专用设备,如眼球追踪设备。

其中,视线可以理解为是一个三维矢量,注视点可以理解为上述三维矢量投影在某个平面上的二维坐标。目前广泛应用的是光学记录法,用照相机或摄像机记录被试者的眼睛运动情况,即获得反映眼睛运动的眼部图像,依据获取到的眼部图像提取眼部特征用于建立视线/注视点估计的模型。其中,眼部特征可以包括:瞳孔位置、瞳孔形状、虹膜形状、虹膜位置、眼皮位置、眼角位置、光斑(也称为普尔钦斑)位置等。

眼动跟踪方法大体上可分为干扰式和非干扰式两种类型。目前视线跟踪系统中,大多采用非干扰式的眼动追踪方法,尤其以瞳孔角膜反射法应用最为广泛。其根据人眼的生理特性及视觉成像原理,利用图像处理技术对采集到的眼图进行处理,获得用于视线估计的人眼特征参数。以得到的人眼特征参数为基准点,采用相应的映射模型即可得到视线落点坐标,以实现视线的跟踪。这种方法精度较高,对用户无干扰,允许用户头部自由转动。其使用的硬件设备包括光源和图像采集设备,其中,光源一般为红外光源,因为红外光线不会影响眼睛的视觉,并且可以为多个红外光源,以预定的方式排列,例如品字形、一字形等;图像采集设备可以为红外摄像设备、红外图像传感器、照相机或摄像机等。在角膜反射方法中,由于要克服不对称光斑带来了误差,通常会采用多光源单相机或者多光源多相机,来实现具有自由头部运动的注视点估计。

例如,光源一般是以下两种:一是,光源与相机位置分离形成正常瞳孔脸图(也被称为暗瞳);二是,光源与相机同轴导致的虹膜反射光线,使得相机能够获得瞳孔发亮的脸图(也被称为亮瞳)。参见图1,其示出了现有技术中的一种光源组合示意图,可见,现有的技术光源组合一般是多个暗瞳组合,或者多个暗瞳结合一个亮瞳,或者一个暗瞳结合一个亮瞳。为了达成多光源的方案,通常两个光源之间的距离会大于150mm从而使得现有的视线追踪设备体积较大。

因此,在本申请的实施例中提供了一种注视点估计方法,其应用于设置有单相机和单同轴光源的视线追踪设备,由于该视线追踪设备中只设置有一个光源会是的该视线追踪设备的体积较小。

实施例一

参见图2,其示出了本申请实施例提供一种的视线追踪设备的模组的结构示意图,在该模组中只需一个红外光源和一个红外相机即可,其中,该红外光源作为了亮瞳光源,需要说明的是,要出现亮瞳,需要光源位于相机光轴附近或者与相机光轴在同一条直线上,这样由于瞳孔的镜面反射原理,瞳孔在图像上形成的像不是黑色,而是很亮的图。在视线追踪设备中使用该光源与相机的模组可以大大缩小模组的大小,达到视线追踪设备的小型化和轻量化的目的。图2中的红外光源表征了本申请实施例中的单光源,即本申请中的单光源可以是一个光源,也可以是如图2所示呈现的一组光源,但是该组光源中的每个光源位置点之间的距离较小,使得其整体上光的呈现类似于单个光源,区别于现有技术中两个光源之间的距离会大于150mm的场景。

为了实现该设置有单相机和单同轴光源的视线追踪设备的视线/注视点的估计,在本申请实施例一中还提供了一种注视点估计方法,参见图3,该方法可以包括以下步骤:

S101、获取从单相机捕捉的原始图像。

S102、采集原始图像的人眼特征信息,并基于人眼特征信息,计算两眼的瞳孔光斑中心数据。

利用视线追踪设备中的单光源对场景进行照明,并利用视线追踪设备中的单相机进行图像采集,其中,采集到的图像为包括人眼特征信息的图像,如,人眼图像、人脸图像等。具体的,人眼特征信息可以包括与瞳孔相关的信息,如瞳孔位置、瞳孔形状,还有一些虹膜相关信息,如虹膜位置、虹膜形状,还可以包括光源照射在眼中形成的光斑信息等。

在根据原始图像检测到人眼后,计算两眼的瞳孔光斑中心数据,即包括两眼的瞳孔图像的中心坐标数据和两眼的光斑图像的中心坐标数据。具体的,可以设置人眼图像的二维坐标系,根据该二维坐标系的原点位置和坐标刻度来确定上述的瞳孔光斑中心数据。

S103、基于瞳孔光斑中心数据,计算获得初始PCR向量;

S104、根据预设距离因子,对初始PCR向量进行归一化处理,获得目标PCR向量。

需要说明的是,PCR(Pupil Corneal Reflection)向量表征光斑中心指向瞳孔中心的向量,即瞳孔中心与光斑中心连线形成的向量,参见图4,其示出了PCR向量的示意图,箭头表示光斑中心到瞳孔中心形成的PCR向量。设瞳孔中心为(x1,y1),光斑中心为(x2,y2),则PCR向量为(x1-x2,y1-y2)。此时,计算获得的是一个初始的PCR向量。

在本申请实施例中为了降低PCR向量对人眼到镜头距离的敏感性,初始PCR向量需要利用距离因子进行归一化,具体的做法是通过将初始PCR向量的横纵坐标值除以所述距离因子,需要说明的是该距离因子并不是一个距离值,而是相关距离参数的函数。例如,以两眼瞳孔的间距IPD(Inter Pupillary Distance)为例,可以采用IPD

上述距离参数可以包括两眼的瞳孔间距、两眼的光斑间距,或者任何两眼特征点之间的距离均可,例如:两眼的内眼角距离,两眼的外眼角距离,上下眼皮距离、人脸大小、人脸关键点尺度等等。对应的,在一种可能的实现方式中距离因子表征两眼的光斑间距D的平方的函数表达式,即采用D

在不同的处理过程中,也可以采用其他的函数,例如三次方或者平方根,需要结合具体的用户的眼部特征进行确定,因此,本发明实施例并不限制表征归一化因子的距离参数的函数的具体形式。

例如,另一种可能的实现方式中距离因子表征两眼指定特征点之间的距离的函数,若两眼特征点之间的距离为d,则该距离因子=d

S105、根据目标PCR向量,计算获得注视点信息。

可以采用角膜反射法进行注视点信息估计,将目标PCR向量输入预设回归模型中计算获得注视点信息,或者可以将目标PCR向量和人眼参数输入视线计算模型,来计算用户的视线坐标,从而实现获得与用户相匹配的注视点信息。其中,预设回归模型和视线计算模型均可以采用包括PCR向量和注视点信息的训练样本对模型进行训练获得。

本发明提供了一种注视点估计方法,在该注视点估计过程中通过获得瞳孔光斑中心数据,并基于瞳孔光斑中心数据计算和进行归一化处理后,获得目标PCR向量,通过该目标PCR向量计算获得注视点信息。该注视点估计方法在进行注视点估计的时候只应用了瞳孔光斑中心数据,即仅用一个光斑和瞳孔位置信息就能估计出人眼与相机的距离信息,无需使用一个眼睛中的两个光斑信息,因此解决了必须要两组光源才能做到注视点估计的问题,从而可以减少现有视线追踪设备的光源数量,实现了视线追踪设备的小型化和轻量化。

实施例二

在本申请实施例二中提供了一种计算两眼的瞳孔光斑中心数据的方法,参见图5,该方法包括:

S201、采集所述原始图像的人眼特征信息;

S202、根据所述人眼特征信息,获取两眼的瞳孔图像特征和光斑图像特征;

S203、根据所述瞳孔图像特征,计算获得瞳孔图像坐标;

S204、根据所述光斑图像特征,计算获得光斑图像坐标。

在该实施例中两眼的瞳孔光斑中心数据包括瞳孔图像坐标和光斑图像坐标。

在原始图像中获得了人眼特征信息之后,可以根据光斑图像特征作为搜索条件,在原始图像中进行搜索,获得光斑图像。例如,可以根据光斑图像的灰度值进行搜索,需要将原始图像进行灰度转换,获得原始图像的各个像素点的灰度值,然后根据光斑图像的灰度值范围确定原始图像中的光斑图像。

在获得光斑图像后,可以将光斑图像的中心点的坐标作为光斑图像坐标。对应的,确定瞳孔图像坐标时也可以根据瞳孔图像特征,在原始图像中搜索获得瞳孔图像,以瞳孔图像的中心坐标确定为瞳孔图像坐标。

具体的实施方式,首先在原始图像中提取出瞳孔区域,方便视线特征参数的提取,由于瞳孔区域在人眼图像中较暗,具有非常低的灰度值,因此可以设置一个较低的灰度阈值,通过将图像中的灰度值与该阈值进行比较,确定瞳孔区域的候选区域,并且瞳孔区域是人眼图像中最深的部分,且瞳孔区域为一个类似圆形的形状,根据人眼图像中的眼部皮肤、巩膜、虹膜和瞳孔之间的灰度差值对人眼图像转换为二值化图像信息,进而可以提取瞳孔区域。在瞳孔区域图像中,包括角膜反射光斑区域、完整的瞳孔区域及部分虹膜区域。与其他区域相比,角膜反射光斑区域是灰度值最高的部分,面积较小,颜色较亮,且每个瞳孔区域包含的角膜反射光斑,呈现圆形水平方向分布。因此,根据角膜反射光斑的这种特征,首选对瞳孔区域进行二值化处理,设置灰度值阈值,将大于该灰度值阈值的区域作为候选区域,即提取瞳孔区域的亮点区域,然后,根据亮点面积、形状去除瞳孔区域噪声亮点,得到光斑区域对应的光斑图像。

在另一种可能的实现方式中,也可以将光斑中心作为中心,设置瞳孔搜索范围,根据灰度直方图计算获得的瞳孔灰度阈值,然后获得瞳孔中心坐标。

假设,瞳孔图像坐标为(P

x=norm(P

y=norm(P

其中,norm表示归一化计算,即为降低PCR对人眼到镜头距离的敏感性,PCR需利用距离因子进行归一化,距离因子可以是瞳孔间距、光斑间距以及任何两眼特征点的距离的相关函数。需要说明的是,在本申请实施例中光斑间距是指两眼中的光斑间距,这是由于现有技术中采用的归一化因子是图像中两个光斑之间的距离,通常用IGD(Inter GlintDistance)表示,但是对于本申请实施例中这种采用较少光源的情况下并不存在IGD,因此,对于一些注视点估计场景中,依赖较少光源数目,并能够达到理想归一化效果的新的归一化因子应该被考虑。在此用其他图像上的尺度信息作为归一化因子,以抵抗距离变化的影响。即归一化因子可以是瞳孔间距、两眼的内眼角距离,两眼的外眼角距离,上下眼皮距离、人脸大小、两眼中光斑间距,人脸关键点尺度等信息的相关函数。

实施例三

由于现有的视线追踪设备中光源较多,其为了实现有效的注视点估计对亮度的控制逻辑也较为复杂。在本申请实施例三中提供了一种曝光增益控制逻辑,只需要根据瞳孔部位的灰度值实现控制即可。

参见图6,其示出了一种曝光增益调整方法的流程示意图,该方法包括:

S301、根据所述原始图像,计算瞳孔区域的平均灰度值;

S302、依据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,使得获取的原始图像满足光斑查找条件。

根据瞳孔区域的图像特征,在原始图像中查找获得瞳孔区域,然后将该瞳孔区域对应的图像转换为灰度图像,从而可以获得该灰度图像中各个像素点的灰度值,然后计算获得瞳孔区域的平均灰度值。根据设定的灰度阈值,来判断瞳孔区域的平均灰度值是否超过了灰度阈值,如果是,则将判断结果反馈给视线追踪设备中的相机,使得相机能够对曝光增益进行调整。如果否,则相机可以根据当前曝光增益进行图像的拍摄。具体的调整方法为,可以先调整与曝光相关的参数,若曝光相关参数调整到极限值(即最大值)仍然不能满足光斑查找条件,则可以再调节增益相关的参数,直到增益调节到了极限值。需要说明的是,上述极限值均表示对应的参数的最大值。

具体的,相机不停获取图像,若对当前帧的瞳孔区域的灰度值进行计算获知需要调节曝光增益,则相机从当前帧开始调节,调节效果会根据相机的硬件实际情况决定,可能在下一帧就会有效果,也可能在五帧之后才有效果。所以实际操作中统计阈值会连续统计五帧到十帧的平均值,做到五帧或十帧一检测,防止出现调节不够等情况。一般调整结束的标志是根据图像具体情况来确定的,主要是瞳孔和光斑的边缘要清晰,易于通过图像算法提取轮廓,具体的就是瞳孔和虹膜区域的灰度差要足够,光斑和瞳孔的灰度差要足够。

当然也可以通过调整光源的亮度来实现,例如调整红外补光灯的亮度,防止过亮导致的光斑查找失败的问题。

在本申请实施例中还提供了一种计算注视点信息的方法,具体包括:

根据预设映射关系和所述目标PCR向量,计算获得注视点信息,其中,所述预设映射关系表征PCR向量与注视点和/或注视方向的映射关系。

输入两眼的PCR,根据建立的PCR向量与注视点/注释方向的映射关系,估计并输出注视点/注视方向。具体如下

X=a0+a1x+a2x2+a3y+a4y2+a5xy

Y=b0+b1x+b2x2+b3y+b4y2+b5xy

其中x,y为PCR向量在二维坐标系中的坐标;X,Y为注视点的在二维坐标系中的坐标,其中a0、a1、a2、a3、a4、a5、b0、b1、b2、b3、b4、b5等相关参数均能在校准的时候拟合出来。

在追踪获得了用户的注视点信息后,可以再显示器或者显示模块上显示相应的用户的注视点。

在本申请实施例在注视点估计上,由于只有左右眼的瞳孔和光斑信息。区别于传统方案的两个光源的光斑估计人眼-相机距离,本方案采用了瞳孔间距作为眼部距离的评估方案,解决了必须要两组光源才能做到视线估计的问题。

可以将本申请实施例中提供的单相机和单同轴光源的模组放在电脑显示器下方或者上方,即可以实现显示器的眼球追踪;也可以将模组置于手机模块中,即可实现手机的眼球追踪。除了显示器和手机,其他设备均可类似的视线以满足设备对眼球追踪的需求,本发明实施例中不做一一说明。

实施例四

在本申请实施例四中还提供了一种注视点估计系统,该系统应用于设置有单相机和单同轴光源的视线追踪设备,参见图7,包括:

获取单元10,用于获取从所述单相机捕捉的原始图像;

第一计算单元20,用于采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据;

第二计算单元30,用于基于所述瞳孔光斑中心数据,计算获得初始PCR向量,所述PCR向量表征光斑中心指向瞳孔中心的向量;

归一化单元40,用于利用预设距离因子,对所述初始PCR向量进行归一化处理,获得目标PCR向量,所述预设距离因子表征对所述初始PCR向量进行归一化处理的归一化参数;

第三计算单元50,用于根据所述目标PCR向量,计算获得注视点信息。

在上述实施例的基础上,所述第一计算单元包括:

采集子单元,用于采集所述原始图像的人眼特征信息;

获取子单元,用于根据所述人眼特征信息,获取两眼的瞳孔图像特征和光斑图像特征;

第一计算子单元,用于根据所述瞳孔图像特征,计算获得瞳孔图像坐标;

第二计算子单元,用于根据所述光斑图像特征,计算获得光斑图像坐标;所述两眼的瞳孔光斑中心数据包括瞳孔图像坐标和光斑图像坐标。

在上述实施例的基础上,所述预设距离因子表征距离参数的函数,其中,所述距离参数包括两眼瞳孔的间距、两眼光斑间距或者两眼特定特征点之间的距离。

在上述实施例的基础上,所述获取单元具体用于根据设定的曝光增益获取从所述单相机捕捉的原始图像,该系统还包括:

灰度值计算单元,用于根据所述原始图像,计算瞳孔区域的平均灰度值;

判断单元,用于依据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,使得获取的原始图像满足光斑查找条件;

其中,所述判断单元具体用于:

判断所述平均灰度值是否超过预设灰度阈值,如果是,则调整所述设定的曝光增益;

该系统还包括:

调整单元,用于调整所述设定的曝光增益,获得目标曝光增益;

重新采集单元,用于根据所述目标曝光增益控制所述单相机进行图像采集,使得获取的原始图像满足所述目标曝光增益。

在上述实施例的基础上,所述第三计算单元具体用于:

根据预设映射关系和所述目标PCR向量,计算获得注视点信息,其中,所述预设映射关系表征PCR向量与注视点和/或注视方向的映射关系。

本发明提供了一种注视点估计系统,在该注视点估计过程中通过获得瞳孔光斑中心数据,并基于瞳孔光斑中心数据计算和进行归一化处理后,获得目标PCR向量,通过该目标PCR向量计算获得注视点信息。该注视点估计方法在进行注视点估计的时候只应用了瞳孔光斑中心数据,即仅用一个光斑和瞳孔位置信息就能估计出人眼与相机的距离信息,无需使用一个眼睛中的两个光斑信息,因此解决了必须要两组光源才能做到注视点估计的问题,从而可以减少现有视线追踪设备的光源数量,实现了视线追踪设备的小型化和轻量化。

实施例五

本发明实施例五提供了一种处理器,所述处理器用于运行程序,其中,所述程序运行时执行实施例一至三中任一项所述的注视点估计方法。

实施例六

本发明实施例六提供了一种设备,该设备包括处理器、存储器以及存储在存储器上可在处理器上运行的程序,处理器执行程序时视线以下步骤:

获取从所述单相机捕捉的原始图像;

采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据;

基于所述瞳孔光斑中心数据,计算获得初始PCR向量,所述PCR向量表征光斑中心指向瞳孔中心的向量;

利用预设距离因子,对所述初始PCR向量进行归一化处理,获得目标PCR向量,所述预设距离因子表征对所述初始PCR向量进行归一化处理的归一化参数;

根据所述目标PCR向量,计算获得注视点信息。

进一步地,所述两眼的瞳孔光斑中心数据包括瞳孔图像坐标和光斑图像坐标,所述采集所述原始图像的人眼特征信息,并基于所述人眼特征信息,计算两眼的瞳孔光斑中心数据,包括:

采集所述原始图像的人眼特征信息;

根据所述人眼特征信息,获取两眼的瞳孔图像特征和光斑图像特征;

根据所述瞳孔图像特征,计算获得瞳孔图像坐标;

根据所述光斑图像特征,计算获得光斑图像坐标。

进一步地,所述预设距离因子表征距离参数的函数,其中,所述距离参数包括两眼瞳孔的间距、两眼光斑间距或者两眼制定特征点之间的距离。

进一步地,所述获取从所述单相机捕捉原始图像包括根据设定的曝光增益获取从所述单相机捕捉的原始图像,该方法还包括:

根据所述原始图像,计算瞳孔区域的平均灰度值;

依据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,是的获取的原始图像满足光斑查找条件。

进一步地,所述根据所述平均灰度值,判断是否对所述设定的曝光增益进行调整,包括:

判断所述平均灰度值是否超过预设灰度阈值,如果是,则调整所述设定的曝光增益。

进一步地,该方法还包括:

调整所述设定的曝光增益,获得目标曝光增益;

根据所述目标曝光增益控制所述单相机进行图像采集,使得获取的原始图像满足所述目标曝光增益。

进一步地,所述根据所述目标PCR向量,计算获得注视点信息,包括:

根据预设映射关系和所述目标PCR向量,计算获得注视点信息,其中,所述预设映射关系表征PCR向量与注视点和/或注视方向的映射关系。

本文中的设备可以是服务器、PC、PAD、手机等。

本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。

还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

相关技术
  • 一种注视点估计方法、系统、处理器及设备
  • 一种确定注视目标的方法、系统、设备及存储介质
技术分类

06120112501619