掌桥专利:专业的专利平台
掌桥专利
首页

飞行时间感测系统中的存在检测

文献发布时间:2023-06-19 11:55:48


飞行时间感测系统中的存在检测

技术领域

本公开涉及飞行时间系统,并且更具体地涉及飞行时间系统中的存在检测。

背景技术

三维(3D)图像使得能够捕获场景的深度表示。诸如飞行时间(time-of-flight,ToF)系统之类的3D感测系统采用例如红外照明源的照明源和传感器。3D感测系统的照明源可以是具有专用像素(诸如锁定像素或单光子雪崩二极管)的经调制的照明源。用于照明的调制频率或脉冲长度可以取决于以下因素,诸如距离范围和所得图像的期望精度,并且范围可以高达数百兆赫兹(对于调制频率),或者可以短至几皮秒(对于脉冲长度)。

发明内容

在一方面,一种用于操作3D传感器系统的方法包括:由3D传感器系统的成像传感器的像素阵列,生成代表来自环境的反射光的第一图像数据,该图像数据具有第一分辨率。该方法包括:由3D传感器系统的处理电路基于第一图像数据生成第二图像数据,第二图像数据具有小于第一分辨率的第二分辨率;以及由成像传感器的处理电路确定第二图像数据指示对象存在于环境中。该方法包括响应于该确定,将来自3D传感器系统的第一图像数据提供给一个或多个处理器,该一个或多个处理器被配置为基于第一图像数据来生成环境的三维图像。

实施例可以包括以下特征中的一个或多个。

由成像传感器的处理电路进行确定比由一个或多个处理器生成三维图像使用更少的功率。

确定第二图像数据指示对象存在于环境中包括确定从3D传感器系统到对象的距离以及将该距离与阈值进行比较。该方法包括,当距离不满足阈值时,使容纳3D传感器系统的移动设备进入睡眠模式。

基于第一图像数据生成第二图像数据包括对第一图像数据进行下采样。

生成第二图像数据包括将像素阵列中的像素分组到像素的至少一个集群中;以及为像素的至少一个集群中的每个集群生成集群数据,并且其中第二图像数据包括集群数据。确定第二图像数据指示对象存在于环境中包括使用来自像素的单个集群的集群数据执行单点检测。确定第二图像数据指示对象存在于环境中包括使用来自像素的多个集群的集群数据执行多点检测。执行多点检测包括执行非均匀多点检测。

该方法包括基于第二图像数据的强度来估计第二图像数据的信噪比;以及基于估计的信噪比来调节像素阵列对反射光的曝光时间。

该方法包括基于第二图像数据的强度来调节被配置为照亮环境的照明设备的功率。

确定第二图像数据指示对象存在于环境中包括识别对象所处的区域;并且包括向一个或多个处理器提供指示识别出的区域的信息。

在一个方面,3D传感器系统包括集成电路,该集成电路包括成像传感器,该成像传感器包括形成在半导体基板中的像素阵列,该像素阵列被配置为生成代表来自环境的反射光的第一图像数据,该第一图像数据具有第一分辨率;形成在半导体基板中的处理电路,该处理电路被配置为:基于第一图像数据生成第二图像数据,该第二图像数据具有小于第一分辨率的第二分辨率;以及确定第二图像数据指示对象存在于环境中;以及输出电路,被配置为将来自3D传感器系统的第一图像数据提供给一个或多个处理器,该一个或多个处理器被配置为基于第一图像数据生成环境的三维图像。

实施例可以包括以下特征中的一个或多个。

由处理电路进行确定比由一个或多个处理器产生三维图像使用更少的功率。

处理电路被配置为基于第二图像数据来确定从3D传感器系统到对象的距离以及将该距离与阈值进行比较。

处理电路被配置为当距离不满足阈值时使容纳3D传感器系统的移动计算设备进入睡眠模式。

处理电路被配置为对第一图像数据进行下采样以生成第二图像数据。

处理电路被配置为将像素阵列中的像素分组到像素的至少一个集群中,其中每个集群包括至少一个像素;以及为像素的至少一个集群中的每个集群生成集群数据,其中第二图像数据包括集群数据。

这里描述的方法可以具有以下优点中的一个或多个。这里描述的系统和方法提供了存在检测的方法,该方法消耗相对少量的功率并且易于实现,仅占用少量的处理区域,并且可以以相对低的成本制造。这些系统和方法可以增强功率节约,例如,增加系统在必须充电或更换电池或连接到电源之前可以操作的时间量。

在附图和以下描述中阐述了本发明的一个或多个实施例的细节。根据本描述和附图以及权利要求,本发明的其它特征、目的和优点将是显而易见的。

附图说明

图1是与移动计算设备集成的3D传感器系统的视图。

图2是3D传感器系统的处理电路的视图。

图3是用于存在检测和3D成像的方法的流程图。

图4是用于存在检测的方法的流程图。

图5A示出了用于3D传感器系统中的单点检测的图像数据分辨率降低的方法。

图5B和5C示出了用于3D传感器系统中的均匀多点检测的图像数据分辨率降低的方法。

图5D示出了用于3D传感器系统中的非均匀多点的图像数据分辨率降低的方法。

图6是流程图。

图7是3D传感器系统的视图。

图8是与汽车集成的3D传感器系统的视图。

各个附图中相似的附图标记指示相似的元件。

具体实施方式

有源(active)3D系统允许例如借助于结构化光、立体视觉或飞行时间技术来捕获场景的深度表示。这样的系统可以被用于捕获设备前面的对象(例如,人脸)的表示,以便例如解锁设备、跟踪面部姿态或启用安全操作。这里公开的基于飞行时间的3D传感器系统可以以低分辨率、低功率性能操作,以检测设备前面是否存在对象。当确定存在对象时,同一系统可以以高分辨率、高性能操作,例如,用于生成对象的深度表示,诸如对象的3D图像。具体而言,可以通过使用与3D传感器系统的成像传感器集成的处理电路对图像数据进行压缩和处理来实现低功率存在检测。当确定存在对象时,可以将高分辨率图像数据提供给外部处理器,用于生成对象的高分辨率深度表示。

参考图1,在一些示例中,采用飞行时间传感器(诸如这里所述的那些)的3D传感器系统150可以安装在或结合到移动计算设备152(诸如移动电话、平板电脑或可穿戴计算设备)的前侧中。移动设备152的前侧是包括屏幕153的设备的侧面。3D传感器系统150可以是包括照明设备154和成像组件(包括ToF成像传感器158)的前侧传感器系统。前侧3D传感器系统150可以被用于3D成像应用,例如,用于面部识别。例如,前侧3D传感器系统150可以被用于生成用户面部160的图像以例如用于例如由移动计算设备152的一个或多个处理器162(诸如专用集成电路(ASIC))进行的面部识别处理。3D传感器系统150包括处理电路180,该处理电路180具有对图像数据进行压缩和低分辨率处理的能力以例如用于检测3D传感器系统150的视场中对象的存在。处理电路180可以与传感器系统150的电路集成,例如,与成像传感器158的电路集成。例如,处理电路180可以与传感器系统形成在相同的集成电路芯片上,可以被用于执行压缩和存在检测处理。3D传感器系统150还连接到移动设备的一个或多个处理器162以用于图像数据的高分辨率处理,例如以用于生成用户面部160的3D表示。

3D传感器系统150的环境被来自照明设备154(诸如激光器)的经调制的照明光155照亮。例如,光可以是红外(IR)光。照明光155中的一些被环境中的对象(诸如用户的面部160)反射。反射光157被成像传感器158检测到。

成像传感器158包括解调像素的阵列(例如,二维(2D)阵列),该解调像素生成代表反射光157的第一图像数据。成像传感器158的每个解调像素能够解调接收到的光信号157。可以采用控制单元来调节成像传感器158的定时。成像传感器158的所有像素的相位值对应于环境中(例如,用户170身上)的对应点的距离信息R。来自像素的距离信息,与由成像传感器158获得的环境的2D图像组合,可以由一个或多个图像处理器(诸如移动计算设备152的一个或多个处理器162)转换成环境的3D图像。图像可以例如在诸如移动计算设备152之类的计算设备的显示器上显示给用户,或者可以被用作机器视觉输入。

每个像素的距离信息R可以被计算为:

其中c是光速,并且ToF是飞行时间,其是光155从照明设备154发射与成像传感器158检测到反射光157之间的经过时间。在每个解调像素能够并发地解调反射光的情况下,成像传感器158可以递送足以基本上实时地生成3D图像的图像数据,例如,高达30Hz或大于30Hz的帧速率。

在一些示例中,经调制的照明光可以是脉冲强度调制光,并且反射光的解调可以直接递送飞行时间值。在一些示例中,经调制的照明光可以是连续强度调制光,并且反射光的解调可以递送在发射光与反射光之间的相位延迟(P)。相位延迟与距离R对应,如下所示:

其中f

在这里描述的存在检测的方法中,由像素阵列生成的第一图像数据具有足以生成环境的高分辨率3D表示(例如,图像)的第一分辨率。但是,处理第一图像数据以生成环境的3D表示会消耗大量的功率。处理较低分辨率的第二图像数据是耗费较少功率的过程。与3D传感器系统150集成的处理电路180可以例如通过压缩第一、高分辨率图像数据来生成第二图像数据,并且可以执行初始的较低分辨率处理。如果该较低分辨率处理的结果指示环境中存在对象,那么可以将高分辨率的第一图像数据提供给能够执行与环境的3D表示的生成相关的高分辨率、功率密集的处理的处理器。否则,不执行高分辨率、功率密集的处理,从而节省了功率。

为了实现初始的低分辨率存在检测,飞行时间传感器系统150可以嵌入足够的处理能力以实现存在检测,例如,以压缩图像数据并执行距离计算以确定传感器与传感器视场中的对象之间的距离。这个嵌入的处理能力可以包括例如入射(incident)数据的子帧或周期的原始数据累积、距离计算、幅度计算、偏移计算、参考补偿、校准补偿、饱和或堆积检测和/或范围消歧。

参考图2,在一些示例中,3D传感器系统150的处理电路180(有时称为低分辨率处理电路)与成像传感器158的解调像素的阵列190集成。例如,低分辨率处理电路180和解调像素的阵列190可以形成为公共半导体基板中的集成电路。

如以上所讨论的,解调像素的阵列190接收并解调从环境反射的光信号,从而生成第一、高分辨率图像数据。例如,第一图像数据可以具有C x R的分辨率,其中C是像素阵列190中的像素的列数182,并且R是像素阵列190中的像素的行数184。第一、高分辨率图像数据被提供给帧存储器186。

从帧存储器186,第一、高分辨率图像数据被提供给3D传感器系统150的低分辨率处理电路180。低分辨率处理电路180包括将第一、高分辨率图像压缩成第二、较低分辨率图像数据的压缩电路188。例如,压缩元件188可以实现下采样过程以降低第一图像数据的分辨率,从而生成第二图像数据,其中第二图像数据包括比第一图像数据少的数据的像素。在一些实施例中,通过将像素分组到集群中来将第一图像数据压缩成第二图像数据,在图5A-D中详细示出。也可以采用其它数据压缩方法。

第二、较低分辨率图像数据由低分辨率处理电路180的一个或多个处理元件192处理。处理元件192可以被配置为实现图像处理技术,诸如用于ToF传感器系统的图像处理技术。例如,在一些示例中,第二图像数据的处理可以包括,对于第二图像数据的数据的每个像素,确定(例如,计算)成像传感器158与由数据的像素表示的环境的元素之间的距离。通过对较低分辨率的图像数据执行这个图像处理,与对高分辨率的第一图像数据执行相同的图像处理相比,图像处理的功耗可以大大降低。

低分辨率处理电路180的距离阈值电路194将为第二图像数据的每个像素确定的距离与存储在距离缓冲器196中的阈值距离进行比较。如果所确定的距离满足阈值距离,那么第二图像数据指示对象存在于环境中。在一些示例中,当所确定的距离超过阈值距离时,所确定的距离满足阈值距离。在一些示例中,当所确定的距离降至阈值距离以下时,所确定的距离满足阈值距离。在一些示例中,阈值距离包括多个阈值,诸如上限阈值和下限阈值,并且当所确定的距离落在上限阈值和下限阈值之间时,所确定的距离满足阈值距离。

在一些示例中,作为存在检测处理的一部分,可以代替距离或作为补充还可以使用第二图像数据的其它特征(诸如幅度)。处理元件可以确定(例如,计算)那些其它特征中的一个或多个(例如,幅度),并且其它阈值电路(例如,幅度阈值电路)可以执行比较以确定第二图像数据的那些特征中的一个或多个是否指示环境中对象的存在。

当低分辨率处理电路180确定第二图像数据指示对象存在于环境中时,将第一、高分辨率图像数据从3D传感器系统150提供给一个或多个处理器(诸如ASIC),用于生成环境的高分辨率的三维图像。例如,可以经由接口198将第一图像数据提供给一个或多个处理器。例如,接口198可以包括用于高分辨率图像或数据的高速接口(例如,移动处理器接口相机串行接口(Mobile Processor Interface Camera Serial Interface,MPI CSI)),以及用于低分辨率图像或数据的低速接口(例如,I2C接口)。

在一些情况下,当未检测到任何对象位于设备前面或对象不在最优操作范围之内、太近或太远时,由于最优操作范围之外的捕获可能不可靠,因此3D系统丢弃数据。

参考图3,在一些示例中,移动计算设备的3D传感器系统执行方法200。方法200被用于通过使用低分辨率图像数据在传感器系统的处理电路上初始地确定3D传感器系统的环境中对象的存在来减少图像处理期间的功耗。如果低分辨率图像数据指示对象存在,那么例如由移动计算设备的一个或多个处理器处理高分辨率图像数据,以生成环境的3D图像。用于生成3D图像的高分辨率图像数据的处理会消耗大量功率。通过具有消耗明显更少功率的第一、低分辨率存在检测步骤,可以以更功率高效的方式操作3D传感器系统。例如,仅当确定存在对象时,3D传感器系统才可以触发用于3D图像生成的功率密集处理。虽然关于移动计算设备描述了图3,但是结合3D传感器系统的其它类型的设备也可以执行图3的方法或类似的方法。

在方法200开始时,移动计算设备(例如,蜂窝电话、平板电脑或其它类型的移动计算设备)处于待机模式202,例如暂时锁定或睡眠。在图2的示例中,发生事件204,其中用户指示他/她期望解锁的移动计算设备。例如,用户可以摇动移动计算设备或按下移动计算设备上的按钮。在一些示例中,该方法可以继续进行而不发生这种事件。

响应于事件204的发生,移动计算设备的3D传感器系统在低功率存在检测模式206下是活动的(active)。在低功率存在检测模式206下,移动计算设备的3D传感器系统照亮移动计算设备的环境,并且3D传感器系统的飞行时间(ToF)传感器检测从环境反射的光。首先,基于反射光生成高分辨率图像数据。其次,例如通过降低第一图像数据的分辨率,基于第一图像数据生成较低分辨率的图像数据。由3D传感器系统的处理电路在低功率存在检测模式206下处理第二、较低分辨率图像数据,以确定较低分辨率图像数据是否指示环境中对象的存在(208)。

在一些系统中,对于第二图像数据是否指示对象存在于环境中的确定是基于由数据指示的对象与传感器之间的距离是否满足阈值。例如,如果第二数据指示在距传感器0.3m和1m之间的距离处存在对象(例如,用户的面部),那么系统可以确定对象存在。

在一些示例中,如果第二图像数据未指示对象的存在,那么低功率存在检测模式针对一次或多次附加迭代209重复存在检测过程206。在图3的示例中,低功率存在检测模式重复存在检测过程206达10次迭代209。在最后一次(例如,第十次)迭代中,如果在环境中未检测到对象,那么移动设备返回待机模式202。在一些示例中,如果仅在单次迭代之后第二图像数据未指示对象的存在,那么存在检测过程结束并且移动设备返回到待机模式202。

如果存在检测过程208确定第二图像数据指示对象存在于环境中,那么标准模式210是活动的。标准模式210涵盖第一、高分辨率图像数据的处理以生成环境的3D表示(例如,图像),并且与低功率存在检测模式相比一般消耗显著更多的功率。

在标准模式210下,第一、高分辨率图像数据被发送到一个或多个处理器(诸如移动计算设备的处理器,例如ASIC)。一个或多个处理器执行图像数据处理算法212,以基于第一、高分辨率图像数据生成环境的3D表示,例如图像。在图2的示例中,图像数据处理算法涵盖识别算法,其中对图像数据进行处理以确定环境中存在的对象是否是识别出的对象214。例如,识别算法可以尝试将环境中存在的对象识别为用户的面部,以使移动设备能够解锁。

在一些示例中,如果环境中没有对象被识别出,那么对于一次或多次附加迭代216重复识别算法。在图3的示例中,对5次迭代216重复识别算法。在最后一次(例如,第五次)迭代中,如果环境中没有对象被识别出,那么恢复低功率存在检测模式206(如图所示),或者移动设备返回到待机模式202。在一些示例中,识别算法仅对一次迭代进行,并且如果识别算法无法确定环境中存在的任何对象是识别出的对象,那么标准模式图像处理结束并且恢复低功率存在检测模式206或者移动设备返回到待机模式202。

如果识别算法能够确定环境中存在的对象是识别出的对象,那么移动设备被解锁218。

在一些实施例中,方法200可以包括:基于第二图像数据的强度来估计第二图像数据的信噪比,并且基于估计出的信噪比来调节像素阵列对反射光的曝光时间。信噪比的估计允许基于估计的信噪比来调整曝光时间、照明功率或这两者。

在一些实施例中,该方法可以包括基于第二图像数据的强度来调节照明设备的功率。

图4示出了包括在低功率存在检测模式之前和期间发生的步骤的方法300。在一些实施例中,在低功率存在检测之前和期间,方法300中的步骤也可以被使用或添加到方法200中的步骤。可以使用3D感测系统来执行图4中所示的步骤。

系统首先从待机模式上电220并加载配置222。然后提示启动命令224,如果该命令被拒绝,那么使系统返回待机模式226。在步骤226被确认之后,提示配置命令228。如果被接受,那么系统返回到加载配置222。如果被拒绝,那么系统返回到启动命令提示224。当系统接受启动命令提示224时,3D传感器系统开始曝光步骤230,随后是读出和饱和检测232。然后,系统提示是否流传输数据234。如果执行流传输数据,那么输出236数据。如果未指示流传输数据,那么数据将被累积在阵列(诸如6x 8阵列238)中。系统确定是否添加附加行240。如果添加更多行,那么方法重复读出和饱和检测232以添加附加数据。如果在步骤240处没有指示更多行,那么系统然后确定是否指示更多子帧242。如果指示更多子帧,那么方法返回到步骤230并提供更多读出和饱和检测232。如果不添加附加子帧,那么系统提示进行内部处理244。如果系统选择不进行内部处理244,那么系统提示是否返回睡眠模式246。如果系统返回到睡眠248,那么它唤醒250并返回到曝光步骤230。如果系统没有进入睡眠,那么系统进入待机模式226,其使方法返回到步骤228。如果系统选择进行内部处理,那么系统执行存在检测。

存在检测包括多个步骤,如方框208内所示。这些步骤全部由3D传感器系统的处理电路执行。有两种进行存在检测的途径。单点检测208a通过将tap_XX字符求和而开始252。确认单点检测254,将数据累积在1x1像素或1x1像素集群中256,并且将数据偏移258以提供用于检测的条件260。多点检测208b通过从tap_180中减去tap_0和从tap_270减去tap_90开始262。系统校准抽头(tap)264并确认多点检测266。数据累积在1x1像素或1x1像素集群中268。对相位进行测量280a、校准和参考280b,并且对距离进行测量280c以生成数据用于条件检测260。可替代地,系统可以测量多点数据的幅度272以用于条件检测260,或者可以测量数据的另一特征。最后,检测274环境中对象的存在。当检测到对象的存在时,数据输出276到一个或多个处理器以用于进一步处理,例如,用于处理在环境的3D表示(例如,图像)的生成中使用的较高分辨率的数据。可替代地,如果在环境中没有检测到对象,那么系统返回到睡眠模式246并且可以在用户提示时重复方法200。

图5A-5D示出了降低第一、高分辨率图像数据的分辨率以生成用于低功率存在检测处理的较低分辨率第二数据的方法的示例。

图5A示出了通过生成用于执行低分辨率单点检测的压缩像素图400来降低图像数据的分辨率的方法。来自传感器(例如,图1的TOF成像传感器158)的第一图像数据具有C xR像素的分辨率。可以通过将第一图像数据的像素分组到多个像素集群302中的每一个来降低第一图像数据的分辨率,每个像素集群包含a x b个像素,其中a是集群中像素的行数并且b是集群中像素的列数。多个像素集群302可以被进一步分组到超像素304中。可以使用以这种方式生成的像素集群或超像素通过单点检测方法来执行对象的存在的检测。

单点检测是基于仅来自单个像素、像素集群302或超像素304的图像数据来检测对象的存在。在单点检测中使用的像素、像素集群或超像素被称为活动像素、像素集群或超像素;单点检测中未使用的像素被称为禁用的像素。活动像素和禁用的像素都检测从环境反射的光。但是,来自禁用的像素的数据不用于存在检测,而来自活动像素的数据被用于存在检测。在这个示例中,超像素A x B 304是活动的,这意味着超像素304中的集群302是活动的,构成了像素图400的活动区域306。所有其它集群302被禁用。

为了根据图5A的压缩像素图方法生成第二、低分辨率图像数据,将每个集群302中的像素的数据求平均以生成该集群的平均值,称为ab数据。该ab数据例如以单步平均或以多步在活动区域中的所有集群302上求平均,以生成用于像素图的总平均值,称为AB数据。AB数据被用于单点存在检测,这意味着仅基于AB数据而不基于来自不包括在AB数据中的任何像素或集群的数据来检测对象的存在。例如,可以相对于距离阈值评估AB数据以例如确定AB数据是否指示环境中存在满足距离阈值的对象,例如,在距传感器0.3m和1m之间的距离处的对象。

在一些示例中,可以通过增加聚集到超像素304中的像素的数量并相应地降低光功率来实现超低功率操作。例如,可以禁用超像素中不包括的像素。在一些示例中,还可以禁用与禁用的像素对应的照明以进行进一步的功率节省,例如,与分段照明的使用或多个照明器的使用对应。例如,一个照明器可以在全照明视场下操作,而第二照明器可以在与超像素的范围对应的照明视场下操作。

图5B、5C和5D示出了通过分别生成用于执行低分辨率、多点检测的压缩像素图400、500、600来降低图像数据的分辨率的方法。多点检测是基于来自多个像素集群中的任何一个或多个的图像数据来检测对象的存在。多点检测可以包括均匀的多点检测(图5B和5C中示出)或非均匀多点检测(图5D中示出)。

在图5B中,像素图400被用于均匀多点检测,这是基于来自多个完全相同尺寸的像素集群中的一个或多个像素集群的图像数据的多点检测。在图5B的示例中,活动区域406中的像素被分组到完全相同尺寸的集群402中,其中每个集群包含a x b个像素。在图5B中,所有集群402都是活动的,这意味着整个图400构成了用于存在检测的活动区域406。为了根据图5B的像素图400生成第二、低分辨率图像数据,将每个集群402中的像素的数据求平均以生成该集群的平均值,称为ab数据。如果用于集群402中的任何一个或多个的ab数据指示对象的存在,例如,如果用于集群中的任何一个或多个的ab数据满足距离阈值,那么确定对象存在于环境中。

在一些示例中,由地图400实现的均匀多点检测方法不仅对于检测对象的存在,而且对于检测对象的位置(例如,在传感器的视场的角落或侧面)都是有用的。

在一些示例中,可以通过增加每个集群的像素数量并相应地降低光功率来实现较低功率操作。在一些示例中,更复杂的检测滤波可以通过增加集群的数量(例如,每个集群具有更少的像素)来实现,例如,作为对功耗的折衷。

在图5C中,像素图500被用于均匀多点检测,其中在存在检测过程中处于活动状态的像素少于所有像素。低分辨率的第二图像数据是通过将像素分组到集群中并通过对第一图像数据进行下采样来基于较高分辨率的第一图像数据而生成的。具体地,一些像素被分组到完全相同尺寸的集群502中,其中每个集群502包含a x b个像素。集群502中仅一些是活动的,被指示为活动区域506a-h。活动区域506a-h按列布置。

未分组到集群502中的其它像素被分组为包含a x R个像素的列510。列510可以被禁用,例如,不是活动区域的一部分,因此不被用于存在检测。像素图的体系架构通常被分为列,消耗的功率取决于像素的活动列的数量。通过禁用像素图500中的一些像素列,可以实现进一步的功率节省。

在一些示例中,像素的集群502中的一些不是活动区域。例如,禁用的集群可以位于像素图500的边缘周围。因为用户通常将感兴趣的对象放置在传感器的中心附近而不是边缘附近,所以禁用边缘附近的集群可以进一步节省功率,而不会显著影响存在检测过程的结果。

为了根据图5C的压缩像素图方法生成第二、低分辨率图像数据,将构成活动区域506a-h的集群502中的像素的数据求平均,以生成每个集群的平均值,被称为ab数据。如果用于活动区域506a-h中的集群502中的任何一个或多个的ab数据指示对象的存在,例如,如果用于活动区域中的集群中的任何一个或多个的ab数据满足距离阈值数据,那么确定对象存在于环境中。

在图5D中,像素图600被用于非均匀多点检测,该非均匀多点检测是基于来自多个像素集群中的任何像素集群的图像数据的多点检测,其中该多个像素集群中的至少一些像素集群具有不同的尺寸。在图5D的示例中,像素被分组到集群中,其中一些像素被分组到包含a x b个像素的集群中,包含2a x b个像素的其它集群中,以及包含3a x b个像素的另外的其它集群中。集群分组的其它配置也是可能的。将像素分组到非均匀尺寸的集群中可以增加图像传感器的某些区域中的光收集以例如增强那些区域中的存在检测的分辨率或准确性。集群602中仅一些是活动的,指示为活动区域606。在图5D的示例中,活动区域606中的集群602的尺寸随着集群602越靠近图600的中心而增大,这有助于在传感器的中心进行更准确的存在检测,感兴趣的对象更有可能位于传感器的中心。在一些示例中,例如,为了进一步的功率节省,像素的集群602中的一些不是活动区域。例如,因为用户通常将感兴趣的对象放置在传感器的中心附近而不是边缘附近,因此可以禁用位于像素图600的边缘周围的较大集群602,以节省功耗。

未分组到集群602中的其它像素被分组为列610,例如,尺寸可变的列,例如,包含ax R、2a x R或3a x R个像素的列。列610可以被禁用以实现进一步的功率节省。

为了根据图5D的压缩像素图方法生成第二、低分辨率图像数据,将构成活动区域506的集群602中的像素的数据求平均以生成每个集群的平均值,称为ab数据。因为集群的尺寸不均匀,所以求平均以生成ab数据的数据量因集群而异。如果用于活动区域606中集群602中的任何一个或多个的ab数据指示对象的存在,例如,如果用于活动区域中的集群602中的任何一个或多个的ab数据满足距离阈值,那么确定对象存在于环境中。

在一些实施例中,这里描述的方法,诸如图5B-5D的方法,可以包括基于哪个或哪些像素集群对应于指示对象存在于环境中的数据来识别对象所处的区域。飞行时间传感器的处理电路可以向执行3D图像生成的一个或多个处理器提供指示识别出的区域的信息,然后该处理器可以仅处理识别出的区域附近的第一图像数据,从而即使在生成对象的3D表示时也降低所使用的功率。

虽然已经描述了使用距离阈值的存在检测,但是一些实施例可以使用不同的阈值,诸如幅度阈值或另一种类型的阈值。例如,在一些实施例中,可以通过多个条件过滤低分辨率图像数据以执行存在检测。在一些实施例中,可以使用空间图案信息来过滤低分辨率图像数据以执行存在检测。

在一些实施例中,3D感测系统具有多个低功率模式,每个低功率模式实现不同的(例如,相继的)存在检测方法,例如,第一单点检测方法,接着是简单形状的检测,最后是基于环境的3D表示的存在检测或对象识别。

在一些示例中,飞行时间系统的功耗可以取决于诸如空间分辨率或距离准确性之类的性能。飞行时间传感器可以通过像素合并(pixel binning)来缩放空间分辨率,并通过智能地禁用耗电块(例如切换栅极驱动器)来降低功耗。而且,飞行时间传感器可以调整照明方案以降低功耗,以在任何给定的距离范围内实现给定的距离准确性。

图6是用于使用诸如飞行时间传感器系统之类的3D传感器系统来检测环境中对象的存在的方法的流程图。代表来自环境的反射光的第一图像数据是由3D传感器系统的成像传感器的像素阵列生成的(702)。图像数据具有第一分辨率。

由3D传感器系统的处理电路基于第一图像数据生成第二图像数据(704),例如,通过压缩或下采样第一图像数据。第二图像数据具有小于第一分辨率的第二分辨率。例如,3D传感器系统的处理电路可以与例如形成在同一集成电路芯片中的感测系统的电路集成在一起。

由3D传感器系统的处理电路确定第二图像数据指示对象存在于环境中(706)。例如,可以确定3D传感器系统与对象之间的距离,并将其与阈值进行比较。在一些示例中,距离不满足阈值,于是不执行进一步的处理,例如,容纳3D传感器系统的移动计算设备进入睡眠模式。

响应于该确定,将第一图像数据从飞行时间传感器系统提供给一个或多个处理器,该一个或多个处理器被配置为基于第一图像数据来生成环境的三维图像(708)。例如,一个或多个处理器可以是容纳3D传感器系统的移动计算设备的ASIC。

参考图7,在一些示例中,采用ToF传感器802的3D传感器系统800(诸如这里描述的那些)可以安装在移动计算设备804的背侧。背侧是设备的与前侧相对的一侧,诸如不包括屏幕的一侧。3D传感器系统800可以是背侧传感器系统,其包括照明设备806、包括ToF成像传感器802的成像组件以及用于低分辨率存在检测的处理电路808。背侧3D传感器系统800可以例如被用于例如由一个或多个处理器812进行的对象识别或用于环境映射(诸如房间810的映射)。

参考图8,在一些示例中,可以将采用ToF成像传感器的3D传感器系统900(诸如这里描述的那些)结合到交通工具902(诸如部分自主或完全自主的交通工具)中。交通工具可以是:陆基交通工具(如图所示),诸如汽车或卡车;飞行器,诸如无人驾驶飞行器;或水基交通工具,诸如船舶或潜艇。3D传感器系统900包括照明设备904、包括ToF成像传感器908的成像组件以及用于低分辨率存在检测的处理电路914。3D传感器系统900可以例如被用于交通工具902的环境的3D映射。例如,3D传感器系统900可以被用于生成对象910(例如,交通工具902在其上的道路中或该道路附近的对象)的3D图像。通过确定各种对象的3D形状,可以确定交通工具的环境的映射并将其用于例如由包括一个或多个处理器的计算设备912来控制交通工具902的部分或完全自主操作。

可以将采用ToF传感器的3D传感器系统(诸如这里描述的那些)结合到其它设备(包括游戏控制台、距离测量设备、监视设备和其它设备)中。

已经描述了本发明的多个实施例。但是,将理解的是,在不脱离本发明的精神和范围的情况下,可以进行各种修改。因而,其它实施例在所附权利要求的范围内。

相关技术
  • 飞行时间感测系统中的存在检测
  • 飞行时间感测单元及飞行时间感测系统
技术分类

06120113107081