掌桥专利:专业的专利平台
掌桥专利
首页

一种避障的方法以及装置

文献发布时间:2024-04-18 19:58:21


一种避障的方法以及装置

技术领域

本申请实施例涉及电子设备领域,并且更加具体地涉及一种避障的方法以及装置。

背景技术

对于视觉障碍的人群而言,在出行方面,具有巨大的障碍。避障是视障用户出行中普遍和高频的问题,视障用户目前可以通过被动式的盲杖触碰识别障碍和主动式的导盲犬提示障碍的方式以避免障碍,但是盲杖探测存在盲区,导盲犬并不是每个视障用户都能申请到,因此对于视障用户而言,避障问题是一个亟待解决的问题。

发明内容

本申请实施例提供一种避障的方法以及装置,电子设备可以实时输出视障用户前方的障碍物信息,保障了视障用户的出行安全。

第一方面,提供了一种避障的方法以及装置,该方法应用于电子设备,该电子设备用于获取视障用户前方视角的图像,该方法包括:

获取第一图像,该第一图像包括目标对象,该目标对象包括高于地面的物体和/或低于该地面的凹坑;确定该目标对象与该电子设备之间的位置关系;确定该视障用户的第一模拟路线,该第一模拟路线是根据该电子设备的成像视角确定的;根据该第一模拟路线和该电子设备与该目标对象的位置关系确定障碍物;确定存在该障碍物时,根据该障碍物与该电子设备的位置关系输出提示信息。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,从而可以向视障用户实时输出提示信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外。

结合第一方面,在第一方面的某些实现方式中,该确定存在该障碍物时,根据该障碍物与该电子设备的位置关系输出提示信息,包括:根据该障碍物与该电子设备的位置关系确定第一障碍物,其中,该第一障碍物与该电子设备之间的距离小于第一阈值;根据该第一障碍物与该电子设备的位置关系输出该提示信息。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,并根据障碍物的电子设备的位置关系,输出与电子设备距离较近的障碍物的信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外以及一次性输出过多障碍物信息对于视障用户的干扰。

结合第一方面,在第一方面的某些实现方式中,该确定存在该障碍物时,根据该障碍物与该电子设备的位置关系输出提示信息,包括:根据该障碍物与该电子设备的位置关系确定第一障碍物,其中,该第一障碍物为距离该电子设备最近的障碍物;根据该第一障碍物与该电子设备的位置关系输出该提示信息。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,并根据障碍物的电子设备的位置关系,输出与电子设备距离最近的障碍物的信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外以及一次性输出过多障碍物信息对于视障用户的干扰。

结合第一方面,在第一方面的某些实现方式中,该确定该目标对象与该电子设备之间的位置关系,包括;确定该目标对象与该电子设备之间的距离关系;根据该目标对象与该电子设备之间的距离关系,确定候选目标对象,其中,该候选目标对象与该电子设备之间的距离小于第二阈值;确定该候选目标对象与电子设备之间的方向关系;该根据该第一模拟路线和该电子设备与该目标对象的位置关系确定障碍物,包括:根据该第一模拟路线和该电子设备与该候选目标对象的位置关系确定该障碍物。

本申请实施例中,电子设备在确定目标对象与电子设备之间的位置关系时,可以先根据目标对象与电子设备的距离关系,确定小于第二阈值的候选目标对象,然后进一步确定候选目标对象与电子设备之间的方向关系,从而可以减少电子设备的计算量,有效提高电子设备的响应速度。

结合第一方面,在第一方面的某些实现方式中,该方法还包括:确定该目标对象与该地面的位置关系。

结合第一方面,在第一方面的某些实现方式中,该根据该第一模拟路线和该电子设备与该目标对象的位置关系确定障碍物,包括:根据该第一模拟路线、该电子设备与该目标对象的位置关系和该目标对象与该地面的位置关系确定障碍物。

本申请实施例中,若障碍物处于悬空状态,电子设备可以确定障碍物与地面之间的距离,在输出提示信息时,可以提示视障用户障碍物与地面之间的距离,从而可以帮助视障用户在行进过程中更加精确的躲避障碍物,保证视障用户的出行安全。

结合第一方面,在第一方面的某些实现方式中,该确定该目标对象与该电子设备之间的位置关系,包括;确定该目标对象与该电子设备之间的距离关系;根据该目标对象与该电子设备之间的距离关系和该目标对象与该地面的位置关系,确定候选目标对象,其中,该候选目标对象与该电子设备之间的距离小于第二阈值,与该地面之间的距离小于第四阈值;确定该候选目标对象与该电子设备之间的方向关系;该根据该第一模拟路线和该电子设备与该目标对象的位置关系确定障碍物,包括:根据该第一模拟路线和该电子设备与该候选目标对象的位置关系确定该障碍物。

本申请实施例中,若障碍物处于悬空状态,且悬空高度高于预设距离时(即安全距离)时,即使障碍物在模拟路线上,也不会阻碍视障用户的行进,则电子设备可以不向视障用户提示该障碍物的信息,从而可以减少对视障用户的干扰。

结合第一方面,在第一方面的某些实现方式中,该方法还包括:识别该目标对象的种类。

结合第一方面,在第一方面的某些实现方式中,该方法还包括:识别该目标对象的类型。

本申请实施例中,电子设备可以检测障碍物的种类,并在提示视障用户时可以语音提示视障用户障碍物的种类,使得视障用户可以更加清楚前方的障碍物,从而视障用户可以做好充分的准备以避开障碍物。

结合第一方面,在第一方面的某些实现方式中,该第一图像包括N个该目标对象,N≥1且为整数,在确定该目标对象与该电子设备之间的位置关系之前,该方法还包括:根据该第一图像和该视障用户的初始行进路线确定第二图像,其中,该第二图像包括M个该目标对象,M≤N且为整数。

结合第一方面,在第一方面的某些实现方式中,该确定该目标对象与该电子设备之间的位置关系,包括:确定该M个目标对象与该电子设备之间的位置关系;该根据该第一模拟路线和该电子设备与该目标对象的位置关系确定障碍物,包括:根据该第一模拟路线和该电子设备与该M个目标对象的位置关系确定障碍物。

本申请实施例中,电子设备在识别目标对象之前,可以根据视障用户的初始行进路线选取第一图像中的部分区域作为第二图像,然后识别第二图像中的目标对象,从而可以减少电子设备的计算量,有效提高电子设备的响应速度。

结合第一方面,在第一方面的某些实现方式中,确定该视障用户的第一模拟路线,该第一模拟路线是根据该电子设备的成像视角确定的,包括:确定该第一图像中线的方向为第一方向;根据该电子设备的成像视角的变化角度和该第一方向确定第二方向;根据该第二方向确定该第一模拟路线。

第二方面,提供了一种电子设备,该电子设备包括获取单元,检测单元,处理单元,提示单元,其中,该获取单元,用于获取第一图像,该第一图像包括目标对象,该目标对象包括高于地面的物体和/或低于该地面的凹坑;该检测单元,用于确定该目标对象与该电子设备之间的位置关系;该检测单元,还用于确定该视障用户的第一模拟路线,该第一模拟路线是根据该电子设备的成像视角确定的;该处理单元,用于根据该第一模拟路线和该电子设备与该目标对象的位置关系确定障碍物;该提示单元,用于确定存在该障碍物时,根据该障碍物与该电子设备的位置关系输出提示信息。

结合第二方面,在第二方面的某些实现方式中,该处理单元,具体用于:根据该障碍物与该电子设备的位置关系确定第一障碍物,其中,该第一障碍物与该电子设备之间的距离小于第一阈值;根据该第一障碍物与该电子设备的位置关系输出该提示信息。

结合第二方面,在第二方面的某些实现方式中,该处理单元,具体用于:根据该障碍物与该电子设备的位置关系确定第一障碍物,其中,该第一障碍物为距离该电子设备最近的障碍物;根据该第一障碍物与该电子设备的位置关系输出该提示信息。

结合第二方面,在第二方面的某些实现方式中,该检测单元,具体用于确定该目标对象与该电子设备之间的距离关系;该处理单元,具体用于根据该目标对象与该电子设备之间的距离关系,确定候选目标对象,其中,该候选目标对象与该电子设备之间的距离小于第二阈值;该检测单元,具体用于确定该候选目标对象与该电子设备之间的方向关系;该处理单元,具体用于根据该第一模拟路线和该电子设备与该候选目标对象的位置关系确定该障碍物。

结合第二方面,在第二方面的某些实现方式中,该检测单元,还用于确定该目标对象与该地面的位置关系。

结合第二方面,在第二方面的某些实现方式中,该处理单元,具体用于根据该第一模拟路线、该电子设备与该目标对象的位置关系和该目标对象与该地面的位置关系确定障碍物。

结合第二方面,在第二方面的某些实现方式中,该检测单元,具体用于确定该目标对象与该电子设备之间的距离关系;该处理单元,具体用于根据该目标对象与该电子设备之间的距离关系和该目标对象与该地面的位置关系,确定候选目标对象,其中,该候选目标对象与该电子设备之间的距离小于第二阈值,与该地面之间的距离小于第四阈值;该检测单元,具体用于确定该候选目标对象与该电子设备之间的方向关系;该处理单元,具体用于根据该第一模拟路线和该电子设备与该候选目标对象的位置关系确定该障碍物。

结合第二方面,在第二方面的某些实现方式中,该检测单元,还用于识别该目标对象的种类。

结合第二方面,在第二方面的某些实现方式中,该检测单元,还用于识别该目标对象的类型。

结合第二方面,在第二方面的某些实现方式中,该第一图像包括N个该目标对象,N≥1且为整数,该处理单元,还用于根据该第一图像和该视障用户的初始行进路线确定第二图像,其中,该第二图像包括M个该目标对象,M≤N且为整数。

结合第二方面,在第二方面的某些实现方式中,该检测单元,具体用于确定该M个目标对象与该电子设备之间的位置关系;该处理单元,具体用于根据该第一模拟路线和该电子设备与该M个目标对象的位置关系确定障碍物。

结合第二方面,在第二方面的某些实现方式中,该检测单元,具体用于:确定该第一图像中线的方向为第一方向;根据该电子设备的成像视角的变化角度和该第一方向确定第二方向;根据该第二方向确定该第一模拟路线。

第三方面,提供了一种电子设备,该电子设备包括执行上述第一方面或者第一方面的任意一种可能的设计的方法的模块/单元;这些模块/单元可以通过硬件实现,也可以通过硬件执行相应的软件实现。

第四方面,提供了一种芯片,该芯片与电子设备中的存储器耦合,用于调用存储器中存储的计算机程序并执行本申请实施例第一方面及其第一方面任一可能设计的技术方案;本申请实施例中“耦合”是指两个部件彼此直接或间接地结合。

第五方面,提供了一种计算机可读存储介质,该计算机可读存储介质包括计算机程序,当计算机程序在电子设备上运行时,使得该电子设备执行如上述第一方面及其第一方面任一可能设计的技术方案。

第六方面,提供了一种计算机程序,该计算机程序包括指令,当该指令在计算机上运行时,使得该计算机执行如上述第一方面及其第一方面任一可能设计的技术方案。

第七方面,提供了一种包含指令的计算机程序产品,当该计算机程序产品在计算机上运行时,使得该计算机执行如如上述第一方面及其第一方面任一可能设计的技术方案。

其中,第二方面至第七方面的有益效果,请参见第一方面的有益效果,不重复赘述。

附图说明

图1是本申请实施例提供的一种电子设备的结构示意图。

图2是本申请实施例提供的一种电子设备的软件结构框图。

图3是视障用户使用盲杖的示意图。

图4是本申请实施例提供的避障的方法的场景示意图。

图5是本申请实施例提供的避障的方法的示意性流程图。

图6是本申请实施例电子设备获取的第一图像的示意图。

图7是本申请实施例电子设备确定与目标对象的方向关系的示意图。

图8是本申请实施例提供第一图像划分为9个宫格的示意图。

图9是本申请实施例提供确定视障用户行进方向的示意图。

图10是本申请实施例提供电子设备根据模拟路线和目标对象与电子设备的位置关系确定障碍物的示意图。

图11是根据本申请实施提供的避障的方法的一例示意性流程图。

图12是根据本申请实施提供的避障的方法的一例示意性流程图。

图13是根据本申请实施提供的避障的方法的一例示意性流程图。

图14是本申请实施提供的确定障碍物是否悬空的示意图。

图15是本申请实施例提供的测量目标对象高度的示意图。

图16是根据本申请实施提供的避障的方法的一例示意性流程图。

图17是本申请实施提供的电子设备根据第一图像和视障用户的初始行进路线确定第二图像的示意图。

图18是本申请实施例提供的电子设备组成示意图。

具体实施方式

以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括例如“一个或多个”这种表达形式,除非其上下文中明确地有相反指示。还应当理解,在本申请以下各实施例中,“至少一个”、“一个或多个”是指一个、两个或两个以上。术语“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系;例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A、B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。

在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。

以下介绍电子设备和用于使用这样的电子设备的实施例。在一些实施例中,电子设备可以是还包含其它功能诸如个人数字助理和/或音乐播放器功能的便携式电子设备,诸如手机、平板电脑、具备无线通讯功能的可穿戴电子设备(如智能手表)等。便携式电子设备的示例性实施例包括但不限于搭载

示例性的,图1示出了电子设备100的结构示意图。电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,指南针190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。

可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。

其中,处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的部件,也可以集成在一个或多个处理器中。在一些实施例中,电子设备100也可以包括一个或多个处理器110。其中,控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。在其他一些实施例中,处理器110中还可以设置存储器,用于存储指令和数据。示例性地,处理器110中的存储器可以为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从该存储器中直接调用。这样就避免了重复存取,减少了处理器110的等待时间,因而提高了电子设备100处理数据或执行指令的效率。

在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路间(inter-integrated circuit,I2C)接口,集成电路间音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,SIM卡接口,和/或USB接口等。其中,USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。该USB接口130也可以用于连接耳机,通过耳机播放音频。

外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。

内部存储器121可以用于存储一个或多个计算机程序,该一个或多个计算机程序包括指令。处理器110可以通过运行存储在内部存储器121的上述指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统;该存储程序区还可以存储一个或多个应用(比如图库、联系人等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如照片,联系人等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如一个或多个磁盘存储部件,闪存部件,通用闪存存储器(universal flash storage,UFS)、嵌入式多媒体卡(Embedded Multi Media Card,eMMC)等。在一些实施例中,处理器110可以通过运行存储在内部存储器121的指令,和/或存储在设置于处理器110中的存储器的指令,来使得电子设备100执行本申请实施例中所提供的方法,以及其他应用及数据处理。电子设备100可以通过音频模块170、扬声器170A、受话器170B、麦克风170C、耳机接口170D、以及应用处理器等实现音频功能。例如音乐播放、录音等。

电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。

ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点、亮度、肤色进行算法优化。ISP还可以对拍摄场景的曝光、色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或多个摄像头193。

数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1、MPEG2、MPEG3、MPEG4等。

NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别、人脸识别、语音识别、文本理解、三维模型重建等。

显示屏194用于显示图像、视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emittingdiode,OLED)、有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED)、柔性发光二极管(flex light-emittingdiode,FLED)、Miniled、MicroLed、Micro-OLed、量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或多个显示屏194。

在本申请实施例中,上述图1中的显示屏194可以被弯折。这里,上述显示屏194可以被弯折是指显示屏可以在任意部位被弯折到任意角度,并可以在该角度保持,例如,显示屏194可以从中部左右对折。也可以从中部上下对折。

电子设备100的显示屏194可以是一种柔性屏,目前,柔性屏以其独特的特性和巨大的潜力而备受关注。柔性屏相对于传统屏幕而言,具有柔韧性强和可弯曲的特点,可以给用户提供基于可弯折特性的新交互方式,可以满足用户对于电子设备的更多需求。对于配置有可折叠显示屏的电子设备而言,电子设备上的可折叠显示屏可以随时在折叠形态下的小屏和展开形态下大屏之间切换。

传感器模块180可以包括压力传感器180A、陀螺仪传感器180B、气压传感器180C、磁传感器180D、加速度传感器180E、距离传感器180F、接近光传感器180G、指纹传感器180H、温度传感器180J、触摸传感器180K、环境光传感器180L、骨传导传感器180M等。

其中,陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即X、Y和Z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。

图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,以及内核层。应用程序层可以包括一系列应用程序包。

如图2所示,应用程序包可以包括相机、图库、日历、通话、地图、导航、WLAN、蓝牙、音乐、视频、短信息等应用程序。

应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架,应用程序框架层包括一些预先定义的函数。

如图2所示,应用程序框架层可以包括窗口管理器、内容提供器、视图系统、电话管理器、资源管理器、通知管理器等。

窗口管理器用于管理窗口程序,窗口管理器可以接收显示屏大小,判断是否有状态栏、锁定屏幕、截取屏幕等。

内容提供器用来存放和接收数据,并使这些数据可以被应用程序访问。所述数据可以包括视频、图像、音频、拨打和接听的电话、浏览历史和书签、电话簿等。

视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。

电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。

资源管理器为应用程序提供各种资源,比如本地化字符串、图标、图片、布局文件、视频文件等等。

通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息、发出提示音、电子设备振动、指示灯闪烁等。

系统库可以包括多个功能模块。例如:表面管理器(surface manager)、媒体库(media libraries)、三维图形处理库(例如:OpenGL ES)、2D图形引擎(例如:SGL)等。

表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。

媒体库支持多种常用的音频、视频格式回放和录制以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4、H.264、MP3、AAC、AMR、JPG和PNG等。

三维图形处理库用于实现三维图形绘图、图像渲染、合成和图层处理等。

2D图形引擎是2D绘图的绘图引擎。

内核层是硬件和软件之间的层。内核层至少包含显示驱动、摄像头驱动、音频驱动、传感器驱动。

目前对于视觉障碍的人群而言,在出行方面,具有巨大的障碍。避障是视障用户出行中普遍和高频的问题,视障用户目前可以通过被动式的盲杖触碰识别障碍和主动式的导盲犬提示障碍的方式以避免障碍,但是盲杖探测存在盲区,导盲犬并不是每个视障用户都能申请到,因此对于视障用户而言,避障问题是一个亟待解决的问题。例如,图3所示为视障用户使用盲杖的示意图,如图3所示,视障用户在使用盲杖时,无法探测到其上半身的区域,从而在行进过程中可能触碰到障碍物,发生危险。

综上所述,目前视障用户在出行时如何避障是一个亟待解决的问题。基于此,本申请提供了一种避障的方法以及装置,可以实时的提醒视障用户周围是否存在障碍物,从而保证了视障用户在行进过程中的安全,提高了视障用户的体验。

图4所示为本申请实施例提供的避障的方法的场景示意图。

如图4中的(a)所示,视障用户的正前方有花坛401、左前方有广告牌402,右前方有花坛403,则视障用户持有的电子设备可以获取视障用户前方的图像,并识别图像中包括的目标对象并根据模拟的视障用户的行进路线识别出障碍物,从而输出提示信息以提醒视障用户避开障碍物。例如,电子设备可以语音提示视障用户:“请注意,右前方1米处有障碍物,左前方2米处有障碍物和正前方3米处有障碍物”。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,从而可以向视障用户实时输出提示信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外。

可选的,在一些实施例中,电子设备可以识别障碍物的种类,如图4中的(b)所示,电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛,左前方2米处有广告牌和正前方3米处有花坛”。

本申请实施例中,电子设备可以检测障碍物的种类,并在提示视障用户时可以语音提示视障用户障碍物的种类,使得视障用户可以更加清楚前方的障碍物,从而视障用户可以做好充分的准备以避开障碍物。

可选的,在一些实施例中,电子设备可以根据障碍物与电子设备之间的距离关系,提示预设距离内的障碍物。例如,如图4中的(c)所示,假设预设距离为2米,则电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛,左前方2米处有广告牌”。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,并根据障碍物的电子设备的位置关系,输出与电子设备距离较近的障碍物的信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外以及一次性输出过多障碍物信息对于视障用户的干扰。

进一步的,在一些实施例中,电子设备可以提示距离最近的障碍物。例如,电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛”。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,并根据障碍物的电子设备的位置关系,输出与电子设备距离最近的障碍物的信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外以及一次性输出过多障碍物信息对于视障用户的干扰。

可选的,在一些实施例中,当障碍物悬空时,电子设备可以提示障碍物距离地面的距离。例如,如图4中的(d)所示,电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛,左前方2米处有广告牌,广告牌距离地面2米”。

本申请实施例中,若障碍物处于悬空状态,电子设备可以确定障碍物与地面之间的距离,在输出提示信息时,可以提示视障用户障碍物与地面之间的距离,从而可以帮助视障用户在行进过程中更加精确的躲避障碍物,保证视障用户的出行安全。

可选的,在一些实施例中,当悬空的障碍物与地面的距离超过预设距离时,电子设备可以不向视障用户提示该障碍物,其中该预设距离可以是预定义的,或者视障用户可以根据身高进行设置。例如,如图4中的(e)所示,假设广告牌距离地面3米,预设距离为2米,则电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛,正前方3米处有花坛”。

本申请实施例中,若障碍物处于悬空状态,且悬空高度高于预设距离时(即安全距离)时,即使障碍物在模拟的行进路线上,也不会阻碍视障用户的行进,则电子设备可以不向视障用户提示该障碍物的信息,从而可以减少对视障用户的干扰。

可选的,在一些实施例中,电子设备可以识别障碍物的类型。

示例性的,障碍物的类型可以包括小型障碍物、中型障碍物、大型障碍物。例如,如图4中的(f)所示,电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛,属于中型障碍物”。

应理解,上述障碍物的类型包括小型障碍物、中型障碍物、大型障碍物仅为示例但并不限定于此。例如,障碍物的类型还可以包括微型障碍物、小型障碍物、中型障碍物、大型障碍物。

上面介绍了本申请实施例提供的避障的方法的场景示意图,下面将结合图5-16介绍本申请实施例提供的避障的方法。

图5示出了本申请实施例提供的避障的方法500的示意性流程图,该方法应用于电子设备,该电子设备包括但不限于手机、平板电脑、智能眼镜,该电子设备用于获取视障用户前方视角的图像,如图5所示,该方法包括:

S501,获取第一图像。

具体的,电子设备可以通过摄像头获取第一图像,其中第一图像包括目标对象。第一图像可以理解为视障用户若在视觉正常的情况下能够看到的图像。换句话说,可以使用电子设备的摄像头替代视障用户的眼睛用以获取周边的障碍物信息。例如,如图5所示为电子设备获取的第一图像的示意图。

电子设备获取第一图像后,可以通过图像识别技术识别出该第一图像中包括的目标对象。目标对象可以包括石块、花坛、电线立柱等高于地面的物体,还可以包括水坑等低于地面的凹坑,即目标对象可以理解为会对视障用户在行进过程中造成阻碍的对象。

示例性的,可以将第一图像输入到预先训练好的神经网络中,确定第一图像中高于地面阈值距离的对象和/或低于地面阈值距离的对象为目标对象。例如,图6所示为电子设备获取的第一图像的示意图,如图6所示,第一图像包括5个高于地面的对象,可以将该5个对象确定为目标对象,分别为目标对象601、目标对象602、目标对象603、目标对象604和目标对象605。

可选的,在一些实施例中,还可以识别目标对象的种类。

例如,如图6所示,可以识别5个目标对象,分别为花坛601、花坛602、石块603、电线立柱604和斜拉电线605。

可以理解的是,为了使电子设备的摄像头的成像角度与视障用户的眼睛的成像角度相似,视障用户可以将该电子设备放置于身体中线对应的区域(例如眉心的区域或眼睛对应的区域),从而获得的第一图像的中线指示的方向是该视障用户行进的初始方向,也可以称为第一方向,第一图像的中线是视障用户的初始行进路线,即电子设备在第一方向获取的第一图像。电子设备在第一方向获取的第一图像可以理解为电子设备的成像角度为第一方向,在该成像角度下获取的第一图像。本申请实施例中将视障用户的眉心的位置或眼睛对应的区域称为标准位置。

本申请实施例中,并不限定电子设备的摄像头的类型。本申请实施例中的电子设备的摄像头可以是单目摄像头、深度摄像头等,其中深度摄像头可以包括结构光摄像头、双目摄像头和飞行时间(time of flight,TOF)摄像头。

S502,确定目标对象与该电子设备之间的位置关系。

具体的,可以检测目标对象与电子设备之间的位置关系。位置关系包括每一个目标对象与电子设备之间的距离,以及每一个目标对象相对电子设备的方向。

需要说明的是,本申请实施例中对于确定目标对象与电子设备之间的距离的方法并不限定。

一种可能的实现方式,电子设备的摄像头为单目摄像头,通过单目摄像头获取的第一图像,通过监督或无监督算法训练基于深度学习的单目深度估计算法,将第一图像送入到经过训练好的神经网络模型中得到第一图像的深度图,从而可以计算出中每一个像素点与电子设备之间的距离,进而可以确定该N个目标对象与电子设备之间的距离。

一种可能的实现方式,电子设备的摄像头为双目摄像头,双目摄像头的两个摄像头之间的距离是固定的,因此可以根据双目摄像头的两个摄像头分别获取的图像、以及双目摄像头的两个摄像头之间的距离计算出获取的图像中每一个像素点与电子设备之间的距离。,进而可以确定该N个目标对象与电子设备之间的距离。

一种可能的实现方式,电子设备的摄像头为飞行时间摄像头,该飞行时间摄像头包括TOF传感器,可以向障碍物发射光,然后TOF传感器接收从目标对象返回的光,通过检测光飞行的时间计算目标对象与电子设备之间的距离。

一种可能的实现方式,电子设备的摄像头为结构光摄像头,该结构光摄像头包括近红外激光器,该近红外激光器将具有一定结构特征的光线投射到目标对象上,再由红外摄像头进行拍摄,通过计算返回的编码图案的畸变确定目标对象与电子设备之间的距离。

一种可能的实现方式,电子设备获取多帧图像,然后利用即时定位与地图创建(simultaneous localization and mapping,SLAM)算法确定目标对象与电子设备之间的距离,其中第一图像可以是该多帧图像中的一帧图像。

一种可能的实现方式,电子设备包括毫米波雷达,毫米波雷达通过发射天线向外发出有指向性的毫米波,当毫米波遇到目标对象时后反射回来,通过接收天线接收发射回来的毫米波,根据毫米波的波段和时间可以确定目标对象与电子设备之间的距离。

一种可能的实现方式,电子设备包括超声波传感器,电子设备通过超声波传感器发送超声波信号,电子设备在超声波发出的时刻开始计时,当超声波碰到目标对象后会发生反射返回电子设备,电子设备接收到反射的超声波后停止计时,从而可以根据声音的传播速度和时间确定电子设备与目标对象之间的距离。

还需要说明的是,本申请实施例中对于确定目标对象与电子设备之间的方向的方法并不限定。

一种可能的实现方式,电子设备可以通过基于TDOA的超声波定位技术确定电子设备与目标对象之间的方向关系。基于TDOA的超声波定位技术可以分为两步,首先计算超声波信号到达麦克风阵列的时间差,然后通过麦克风阵列的几何形状建立声学定位模型并求解从而获得方向信息。如图6所示,电子设备包括3个麦克风,分别为第一麦克风、第二麦克风、第三麦克风,目标对象与第一麦克风、第二麦克风、第三麦克风的距离分别为r

其中,τ

同理的,该超声波信号到达第三麦克风和第一麦克风的时延可以根据公式(2)得到:

其中,τ

同理的,该超声波信号到达第三麦克风和第二麦克风的时延可以根据公式(3)得到:

根据第一麦克风、第二麦克风、第三麦克风之间的几何关系,可以得到公式(4)-公式(6):

其中,τ

应理解,本申请实施例中对时延估计的方法并不限定,可以是上述的3种方法,还可以是其他的时延估计的方法。

一种可能的实现方式,电子设备包括毫米波雷达,毫米波雷达通过发射天线向外发出有指向性的毫米波,当毫米波遇到目标对象时后反射回来,可以确定在该指向性的方向上有目标对象,即确定了障碍物与电子设备之间的方向关系。

一种可能的实现方式,电子设备可以根据第一图像确定每一个目标对象与电子设备之间的方向关系。

电子设备获取第一图像后,可以根据该每一个目标对象在第一图像中的位置确定每一个目标对象与电子设备之间的方向关系。例如,如图5所示,电子设备可以根据第一图像确定斜拉电线605从左至右横跨,且第一图像是视障用户前方对应的图像,可以确定斜拉电线605位于电子设备的正前方。类似的,电子设备可以确定电线立柱604位于电子设备的右前方,石块603和花坛601位于电子设备的正前方,花坛602位于电子设备的左前方。

一种可能的实现方式,电子设备可以将第一图像划分为M个宫格,根据每一个目标对象与该M个宫格的关系确定每一个目标对象与电子设备之间的方向关系。

为了进一步细化目标对象与电子设备之间的方向关系,可以将第一图像划分为M个宫格,M≥1且为正整数,再根据该每一个目标对象与该M个宫格的位置关系确定每一个目标对象与电子设备之间的方向关系。

例如,图8所示为将第一图像划分为9个宫格的示意图,如图8所示,该9个宫格中的每一个宫格可以表征落在该宫格的目标对象与电子设备之间的方向关系。以石块804为例,石块803位于宫格4和宫格5,宫格4位于电子设备的左前方,宫格5位于电子设备的正前方,则可以认为石块803位于电子设备的左前方和正前方。进一步的,还可以通过宫格表征不同目标对象与电子设备之间的相对距离。以花坛802和石块803为例,花坛802位于宫格4和宫格7,即位于电子设备的左前方,石块803位于宫格4和宫格5中,即位于电子设备的左前方和正前方,宫格5与电子设备之间的距离小于宫格7与电子设备之间的距离,则石块803与电子设备之间的距离小于花坛802与电子设备之间的距离。

可选的,在一些实施例中,该M个宫格的每一个宫格对应一个系数,根据每一个宫格的系数和每一个目标对象与每一个宫格的面积比确定每一个目标对象在每一个宫格中的归属值,然后根据每一个目标对象在每一个宫格中的归属值确定每一个目标对象与电子设备之间的方向关系。

具体的,成像视角越远的宫格与视障用户发生碰撞的概率越小,因此可以根据成像视角确定每一个宫格的系数,然后根据每一个宫格的系数以及每一个目标对象与每一个宫格的面积比确定每一个目标对象在每一个宫格中的归属值,确定归属值最大的宫格为目标对象的归属宫格,从而归属宫格方向就是障碍物的方向。

以M=9为例,每一个宫格的系数如表1所示。如图8所示,假设石块803位于宫格4和宫格5中,其中石块803在宫格4的面积与宫格4的总面积之比为18%,石块803在宫格5的面积与宫格5的总面积之比为13%,则石块803在宫格4的归属值为18×0.3=5.4,石块803在宫格5的归属值为13×0.7=9.1,则石块703的归属宫格为宫格5,宫格5位于电子设备的正前方,则可以确定石块803位于电子设备的正前方。

表1宫格系数

可选的,在一些实施例中,电子设备可以根据目标对象与第一图像的面积比和目标对象与电子设备之间的距离确定目标对象的类型。

具体的,根据公式(7)计算可得目标对象的加权面积a。以目标对象的种类包括小型目标对象、中型目标对象和大型目标对象为例,当a<a

a=s×d

其中,s为目标对象的面积与第一图像的面积比;

d为目标对象与电子设备之间的距离。

例如,目标对象与第一图像的面积比s=27%,目标对象与电子设备之间的距离d=3m,则a=2.43,假设a

S503,确定视障用户的第一模拟路线。

具体的,电子设备可以根据获取的第一图像的中线确定视障用户的初始行进方向,即第一方向,然后电子设备可以根据成像视角的变化确定第二方向,该第二方向对应的路线为第一模拟路线。第一模拟路线可以理解为电子设备确定的视障用户将要行进的路线。

例如,如图9所示,线段x

可以理解的是,当电子设备的成像视角未发生变化时,即成像视角的变化角度为0°,第一方向和第二方向相同,即视障用户的行进路线是第一图像的中线,则第一模拟路线与初始行进路线相同。换句话说,视障用户的行进路线是根据电子设备的成像视角确定的行进路线。

示例性的,电子设备可以通过陀螺仪传感器180B检测电子设备成像视角的变化。

进一步的,在一些实施例中,电子设备可以拓宽第一模拟路线。

由于视障用户在空间中占据了一定的体积,以及为了避免因电子设备偏移(例如电子设备未在标准位置)带来的误差,可以拓宽第一模拟路线。

一种可能的实现方式,根据视障用户的肩宽、身高等体型数据拓宽第一模拟路线。

S504,根据第一模拟路线和电子设备与目标对象的位置关系确定障碍物。

具体的,电子设备确定视障用户的第一模拟路线后,可以将第一模拟路线上的目标对象确定为障碍物。换句话说,电子设备可以模拟的视障用户的行进路线,然后将在该模拟路线上的会对视障用户造成阻碍的目标对象确定为障碍物。

例如,如图10中的(a)所示,第一模拟路线上的目标对象包括斜拉电线805、石块803和花坛801,则电子设备可以确定斜拉电线805、石块803和花坛801为障碍物。

替代性的,根据拓宽后的第一模拟路线和电子设备与N个目标对象的位置关系确定障碍物。

例如,如图10中的(b)所示,拓宽后的第一模拟路线上的目标对象包括斜拉电线805、石块803、花坛801和花坛802,则电子设备可以确定斜拉电线805、石块803、花坛801和花坛802为障碍物。

S505,确定存在障碍物时,根据障碍物与电子设备的位置关系输出提示信息。

具体的,当电子设备确定障碍物后,可以输出提示信息,该输出信息用于输出障碍物的信息。

例如,电子设备确定障碍物为石块和花坛,可以发出提示语音:“请注意,正前方1.5米处有障碍物、正前方3米处有障碍物”。

再例如,电子设备确定障碍物为石块和花坛,可以发出提示语音:“请注意,正前方1.5米处有石块,正前方3米处有花坛”。

再例如,电子设备确定障碍物为石块和花坛,可以发出提示语音:“请注意,正前方1.5米处有石块,为中型障碍物,正前方3米处有花坛,为大型障碍物”。

再例如,电子设备包括第一震动装置和第二震动装置,第一震动装置佩戴于视障用户的左手腕,第二震动装置佩戴于视障用户的右手腕。电子设备确定视障用户的左侧有障碍物时,第一震动装置可以震动告警;电子设备确定视障用户的右侧有障碍物时,第二震动装置可以震动告警;电子设备确定视障用户的前方有障碍物时,第一震动装置和第二震动装置可以同时震动告警。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,从而可以向视障用户实时输出提示信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外。

图11示出了根据本申请实施提供的避障的方法的一例示意性流程图,如图11所示,S505,确定存在障碍物时,根据障碍物与电子设备的位置关系输出提示信息,包括:

S5051,确定存在障碍物时,根据障碍物与电子设备的位置关系确定第一障碍物,第一障碍物与电子设备之间的距离小于第一阈值。

S5052,根据第一障碍物与电子设备的位置关系输出提示信息。

具体的,为了避免电子设备同时输出过多的障碍物的提示信息而对视障用户产生的干扰,电子设备可以根据与障碍物的位置关系确定与电子设备距离小于第一阈值的障碍物,然后输出障碍物的提示信息,从而可以减少电子设备输出的障碍物的提示信息。

例如,电子设备确定障碍物包括石块、花坛、斜拉电线,其中石块与电子设备之间的距离为1.5m,花坛与电子设备之间的距离为3m,斜拉电线与电子设备之间的距离为3.5m,假设第一阈值为3m,则电子设备可以发出提示语音:“请注意,前方1.5米处有障碍物、前方3米处有障碍物”。

替代性的,在一些实施例中,第一障碍物是与电子设备距离最近的障碍物。

具体的,为了避免电子设备同时输出多个障碍物的提示信息而对视障用户产生的干扰,电子设备可以根据与障碍物的位置关系确定与电子设备距离最近的第一障碍物,然后输出第一障碍物的提示信息,从而可以减少电子设备输出多个障碍物的提示信息。

例如,电子设备确定障碍物包括石块、花坛、斜拉电线,其中石块与电子设备之间的距离为1.5m,花坛与电子设备之间的距离为3m,斜拉电线与电子设备之间的距离为3.5m,则电子设备可以发出提示语音:“请注意,前方1.5米处有障碍物”。

本申请实施例中,电子设备可以根据检测视障用户前方的目标对象,并根据模拟的视障用户的行进路线确定障碍物,并根据障碍物的电子设备的位置关系,输出与电子设备距离较近的障碍物的信息,用以提示视障用户避开障碍物,避免了视障用户在行进过程中由于障碍物的存在而可能造成的意外以及一次性输出过多障碍物信息对于视障用户的干扰。

图12示出了根据本申请实施提供的避障的方法的一例示意性流程图,如图12所示,S502,确定目标对象与该电子设备之间的位置关系,包括:

S5021,确定目标对象与电子设备之间的距离关系。

应理解,针对电子设备确定目标对象与电子设备之间的距离关系的描述,可以参见上文,为了简洁,在此不再赘述。

S5022,根据目标对象与电子设备之间的距离关系,确定候选目标对象,该候选目标对象与电子设备之间的距离小于第二阈值。

具体的,电子设备确定每一个目标对象与电子设备之间的距离关系后,可以根据每一个目标对象与电子设备的距离关系,确定与电子设备距离小于第二阈值的目标对象为候选目标对象。

S5023,确定候选目标对象与电子设备之间的方向关系。

具体的,电子设备在确定候选目标对象与电子设备之间的距离小于第二阈值时,可以进一步的确定候选目标对象与电子设备之间的方向关系。

应理解,针对确定候选目标对象与电子设备之间的方向关系的描述,可以参见上文,为了简洁,在此不再赘述。

可选的,在一些实施例中,S504,根据第一模拟路线和电子设备与目标对象的位置关系确定障碍物,包括:

S5041,根据第一模拟路线和电子设备与候选目标对象的位置关系确定障碍物。

具体的,确定与电子设备之间的距离小于第二阈值的候选目标对象后,电子设备可以根据第一模拟路线和电子设备与候选目标对象的位置关系确定障碍物。

应理解,针对电子设备可以根据第一模拟路线和电子设备与候选目标对象的位置关系确定障碍物的描述,可以参见上文,为了简洁,在此不再赘述。

本申请实施例中,电子设备在确定目标对象与电子设备之间的位置关系时,可以先根据目标对象与电子设备的距离关系,确定小于第二阈值的候选目标对象,然后进一步确定候选目标对象与电子设备之间的方向关系,从而可以减少电子设备的计算量,有效提高电子设备的响应速度。

图13示出了根据本申请实施例提供的避障的方法的一例示意性流程图,如图13所示,方法500还包括:

S506,确定目标对象与地面的位置关系。

具体的,电子设备可以确定每一个目标对象与地面的位置关系,其中,电子设备确定目标对象与地面的位置关系可以理解为电子设备判断目标对象是否悬空。

例如,如图6所示,电子设备可以确定石块603在地面上,斜拉电线605有一部分呈悬空状态。

一种可能的实现方式,电子设备可以根据景深差值确定每一个目标对象与地面的位置关系。

具体的,电子设备可以根据图像识别技术识别出第一图像中的地面,从而可以确定地面的景深。类似的,电子设备可以识别出第一图像的中的目标对象以及每一个目标对象的景深。若目标对象处于悬空状态,该目标对象的景深与地面的景深的差值较大,若目标对象处于地面,该目标对象的景深与地面的景深的差值较小。因此,电子设备可以根据景深差值是否超过第三阈值确定第一图像中的每一个目标对象是否悬空。

一种可能的实现方式,电子设备可以根据电子设备的姿态角度和目标对象的距离,确定每一个目标对象与地面的位置关系。

具体的,电子设备可以根据陀螺仪传感器180B确定电子设备的姿态角度,通过姿态角度可以将地面上某点到电子设备的距离与第一图像中该点的纵向坐标建立函数关系。已知目标对象与电子设备之间的距离,则可以确定对应距离的地面纵向坐标,同时可以确定目标对象的下边缘的纵向坐标,两者的差值a即为目标对象在第一图像中与地面的高度,即当a大于0时,可以认为该目标对象处于悬空状态。

进一步的,将a与该目标对象和电子设备之间的距离相乘,则可以得到该目标对象与地面的实际高度。

一种可能的实现方式,电子设备可以根据第一图像中的每一个目标对象的第一边缘像素点与电子设备的距离以及每一个目标对象和地面的第一边界像素点与电子设备的距离确定每一个目标对象与地面的位置关系,其中,第一边缘像素点与第一边界像素点相邻,第一边缘像素点是目标对象的像素点,第一边界像素点是地面的像素点。

具体的,当目标对象悬空时,该目标对象的边缘像素点与电子设备之间的距离和与该边缘像素点相邻的边界像素点与电子设备之间的距离的差值会较大,其中边缘像素点是目标对象的像素点,边界像素点是地面的像素点。当目标对象在地面上时,该目标对象的边缘像素点与电子设备之间的距离和与该边缘像素点相邻的边界像素点与电子设备之间的距离的差值会较小或差值为0。电子设备可以通过SLAM算法、双目摄像头、结构光摄像头等确定第一图像中每一个像素点与电子设备之间的距离,则电子设备可以根据目标对象的边缘像素点以及与该边缘像素点相邻的边界像素点分别与电子设备之间的距离确定该目标对象是否悬空。

例如,如图14所示,斜拉电线805包括第一边缘像素点,地面包括第一边界像素点,第一边缘像素点与第一边界像素点相邻,石块803包括第二边缘像素点,地面包括第二边界像素点,第二边缘像素点与第二边界像素点相邻,电子设备测得与第一边缘像素点的距离为3.5m,与第一边界像素点的距离为3.2m,与第二边缘像素点的距离为3.8m,与第二边界像素点的距离为3.8m,则电子设备可以确定斜拉电线805处于悬空状态,石块803位于地面上。

一种可能的实现方式,电子设备可以根据每一个目标对象的种类确定每一个目标对象与地面的位置关系。

具体的,电子设备可以识别每一个目标对象的种类,则电子设备可以根据每一个目标对象的种类对应的位置关系确定每一个目标对象与地面的位置关系,其中目标对象的种类对应的位置关系可以是预定义的,或可以通过预先训练好的神经网络确定。

例如,电子设备可以将第一图像输入到预先训练好的神经网络中,识别出第一图像中的目标对象中的种类,然后可以根据目标对象的种类确定目标对象与地面的位置关系。

再例如,电子设备包括预定义的目标对象的种类对应的位置关系(例如,石块对应的位置关系为石块在地面上,斜拉电线对应的位置关系为斜拉电线处于悬空状态),则电子设备可以根据目标对象的种类确定该目标对象与地面的位置关系。

需要说明的是,S507与S503并没有实际的先后执行顺序。

进一步的,在一些实施例中,电子设备可以确定每一个目标对象与地面的距离。

需要说明的是,本申请实施例中对于电子设备测量每一个目标对象与地面距离的方法不作限定。

一种可能的实现方式,电子设备可以根据目标对象的边缘像素点与电子设备的距离以及与边缘像素点相邻的边界像素点与电子设备之间的确定目标对象与地面的距离。

例如,图15所示为本申请实施例提供的测量目标对象高度的示意图,如图15中的(a)所示,斜拉电线805包括第一边缘像素点,地面包括第一边界像素点,第一边缘像素点与第一边界像素点相邻,假设第一边缘像素点与电子设备之间的距离为r

可以理解的是,电子设备确定障碍物与地面之间的距离后,在输出提示信息时,可以提示视障用户障碍物与地面之间的距离。

例如,如图4中的(d)所示的场景,电子设备可以语音提示视障用户:“请注意,右前方1米处有花坛,左前方2米处有广告牌,广告牌距离地面2米”。

本申请实施例中,若障碍物处于悬空状态,电子设备可以确定障碍物与地面之间的距离,在输出提示信息时,可以提示视障用户障碍物与地面之间的距离,从而可以帮助视障用户在行进过程中更加精确的躲避障碍物,保证视障用户的出行安全。

可选的,在一些实施例中,S504,根据第一模拟路线和电子设备与目标对象的位置关系确定障碍物,包括:

S5042,根据第一模拟路线、电子设备与目标对象的位置关系和目标对象与地面的位置关系确定障碍物。

具体的,电子设备可以将在第一模拟路线上且与地面的距离小于第四阈值的目标对象确定为障碍物。第四阈值可以是预定义的,例如第四阈值为2.5m。第四阈值也可以视障用户根据身高进行设置,例如视障用户的身高为1.8m,则可以将第四阈值设置为2m。第四阈值可以理解为安全距离,即障碍物与地面保持该安全距离时,不会对视障用户的行进带来阻碍。

例如,第一模拟路线上包括目标对象#1和目标对象#2,其中目标对象#1在地面上,目标对象#2与地面的距离为2.5m大于第四阈值,则电子设备可以确定目标对象#1为障碍物,目标对象#2不是障碍物。

再例如,第一模拟路线上包括目标对象#1和目标对象#2,其中目标对象#1在地面上,目标对象#2与地面的距离为2m小于第四阈值,则电子设备可以确定目标对象#1和目标对象#2均为障碍物。

本申请实施例中,电子设备在确定障碍物时,可以根据目标对象与电子设备的位置关系以及目标对象与地面的距离关系确定障碍物,从而可以将距地面高度超过安全距离的目标对象排除在障碍物之外,从而可以减少无效提示以及避免一次性输出过多障碍物信息对于视障用户的干扰。

可选的,在一些实施例中,S5022,根据目标对象与电子设备之间的距离关系,确定候选目标对象,该候选目标对象与电子设备之间的距离小于第二阈值,包括:

根据目标对象与电子设备之间的距离关系和目标对象与地面的位置关系,确定候选目标对象,该候选目标对象与电子设备之间的距离小于第二阈值,与地面之间的距离小于第四阈值。

具体的,电子设备确定每一个目标对象与电子设备之间的距离关系后,可以根据每一个目标对象与电子设备的距离关系以及每一个目标对象与地面的距离关系,确定与电子设备距离小于第二阈值且与地面距离小于第四阈值的目标对象为候选目标对象。

本申请实施例中,电子设备在确定目标对象与电子设备之间的位置关系时,可以先根据目标对象与电子设备的距离关系以及目标对象与地面的距离关系,确定与电子设备的距离小于第二阈值且与地面的距离小于第四阈值的目标对象为候选目标对象,然后进一步确定候选目标对象与电子设备之间的方向关系,从而可以减少电子设备的计算量,有效提高电子设备的响应速度。

图16示出了根据本申请实施例提供的避障的方法的一例示意性流程图,如图16所示,在S502之前,方法500还包括:

S507,根据第一图像和视障用户的初始行进路线确定第二图像。

具体的,第一图像中包括N目标对象,N≥1且为整数,由于可能并不是所有目标对象都会对视障用户造成阻碍,因此在识别目标对象之前,电子设备可以根据视障用户的初始行进路线确定第一图像中的部分区域作为第二图像,其中第二图像包括M个目标对象,M≤N且为整数。可以理解的是,第二图像中的目标对象是视障用户按照初始行进路线行进时可能碰到的目标对象。

例如,图17所示为电子设备根据第一图像和视障用户的初始行进路线确定第二图像的示意图,如图17所示,电子设备可以选取第一图像中的部分区域作为第二图像,由图17可以看出,第一图像包括5个目标对象,第二图像中包括3个目标对象。

可选的,在一些实施例中,S502,确定目标对象与电子设备之间的位置关系,包括:

S5021,确定M个目标对象与电子设备之间的位置关系。

应理解,针对确定M个目标对象与电子设备之间的位置关系的描述,可以参见上文,为了简洁,在此不再赘述。

可选的,在一些实施例中,S504,根据第一模拟路线和电子设备与目标对象的位置关系确定障碍物,包括:

S5043,根据第一模拟路线和电子设备与M个目标对象的位置关系确定障碍物。

应理解,针对根据第一模拟路线和电子设备与M个目标对象的位置关系确定障碍物的描述,可以参见上文,为了简洁,在此不再赘述。

本申请实施例中,电子设备在识别目标对象之前,可以根据视障用户的初始行进路线选取第一图像中的部分区域作为第二图像,然后识别第二图像中的目标对象,从而可以减少电子设备的计算量,有效提高电子设备的响应速度。

上述主要从电子设备的角度对本申请实施例提供的一种避障的方法进行了介绍。可以理解的是,电子设备为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

本申请实施例可以根据上述方法示例对电子设备中的处理器进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。

在采用了对应各个功能的划分各个功能模块的情况下,图18示出了本申请实施例提供的一种电子设备1800组成示意图,如图18所示,该第二电子设备包括:获取单元1810、检测单元1820、处理单元1830、提示单元1840。

获取单元1810,用于获取第一图像。示例性的,获取单元1810可以用于执行图5中的S501。

检测单元1820,用于确定目标对象与电子设备之间的位置关系。示例性的,检测单元1820可以用于执行图5中的S502。

检测单元18200,还用于确定视障用户的第一模拟路线。示例性的,检测单元1820可以用于执行图5中的S503。

处理单元1830,用于根据第一模拟路线和电子设备与目标对象的位置关系确定障碍物。示例性的,处理单元1830可以用于执行图5中的S504。

提示单元1840,用于根据障碍物与电子设备的位置关系输出提示信息。示例性的,提示单元1840可以用于执行图5中的S505。

可选的,在一些实施例中,处理单元1830,还用于根据障碍物与电子设备的位置关系确定第一障碍物,其中第一障碍物与电子设备之间的距离小于第一阈值。

提示单元1840,具体用于根据第一障碍物与电子设备之间的位置关系输出提示信息。

可选的,在一些实施例中,检测单元1820,具体用于确定目标对象与电子设备之间的位置关系。

处理单元1830,还用于根据目标对象与电子设备之间的位置关系,确定候选目标对象,其中候选目标对象与电子设备之间的距离小于第二阈值。

检测单元1820,具体用于确定候选目标对象与电子设备之间的方向关系。

可选的,在一些实施例中,处理单元1830,具体用于根据第一模拟路线和电子设备与候选目标对象的位置关系确定障碍物。

可选的,在一些实施例中,检测单元1820,还用于确定目标对象与地面的位置关系。

可选的,在一些实施例中,处理单元1830,还用于根据第一模拟路线、电子设备与目标对象的位置关系和目标对象与地面的位置关系确定障碍物。

可选的,在一些实施例中,处理单元1830,还用于根据第一图像和视障用户的初始行进路线确定第二图像。

处理单元1830,具体用于识别第二图像中的目标对象。

需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。本申请实施例提供的电子设备,用于执行上述避障的方法,因此可以达到与上述相同的效果。

本申请实施例还提供了一种电子设备,包括:处理器、存储器、应用程序以及计算机程序。上述各器件可以通过一个或多个通信总线连接。其中,该一个或多个计算机程序被存储在上述存储器中并被配置为被该一个或多个处理器执行,该一个或多个计算机程序包括指令,上述指令可以用于使电子设备执行上述各实施例中电子设备的各个步骤。

示例性地,上述处理器具体可以为图1所示的处理器110,上述存储器具体可以为图1所示的内部存储器120和/或与电子设备连接的外部存储器。

本申请实施例还提供一种芯片,所述芯片包括处理器和通信接口,所述通信接口用于接收信号,并将所述信号传输至所述处理器,所述处理器处理所述信号,使得如前文中任一种可能的实现方式中所述的避障的方法被执行。

本实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机指令,当该计算机指令在电子设备上运行时,使得电子设备执行上述相关方法步骤实现上述实施例中的避障的方法。

本实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述相关步骤,以实现上述实施例中的避障的的方法。

以上实施例中所用,根据上下文,术语“当…时”或“当…后”可以被解释为意思是“如果…”或“在…后”或“响应于确定…”或“响应于检测到…”。类似地,根据上下文,短语“在确定…时”或“如果检测到(所陈述的条件或事件)”可以被解释为意思是“如果确定…”或“响应于确定…”或“在检测到(所陈述的条件或事件)时”或“响应于检测到(所陈述的条件或事件)”。

本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

相关技术
  • 一种无人机避障系统及避障方法
  • 一种无人艇高速状态下的二级自主避障系统及避障方法
  • 一种虚拟现实眼镜避障辅助装置、系统及控制方法
  • 一种机器人避障控制方法、装置、存储介质及机器人
  • 一种避障方法及装置
  • 一种车辆避障方法、车辆避障装置、车辆避障系统和车辆
  • 一种车辆避障方法、车辆避障装置、车辆避障系统和车辆
技术分类

06120116484264