掌桥专利:专业的专利平台
掌桥专利
首页

技术领域

本公开涉及导航定位技术领域,具体涉及一种目标设备定位方法、目标设备定位装置、地图构建方法、地图构建装置、计算机可读介质和电子设备。

背景技术

伴随着人们生活水平的不断提高,全球定位技术(Global Positioning System,GPS)以及无线网络(WiFi)被广泛应用到生活中的导航与定位方案中,用于室内或者室外的位置确定。

目前,在儿童防丢失的技术方案中,要么通过儿童佩戴的可穿戴设备传输采集的图像实现定位,但是,令家长通过传输过来的图像去确定儿童的位置,难度较高,且无法主动的获取儿童佩戴的可穿戴设备的位置信息;要么,在室内场景中,通过无线网络信号协助可穿戴设备进行定位,但是,在可穿戴设备处于没有无线网络信号的环境时,无法实现精确定位。

发明内容

本公开的目的在于提供一种目标设备定位方法、目标设备定位装置、计算机可读介质和电子设备,进而至少在一定程度上提高定位的适用场景,同时提高定位的精准度。

根据本公开的第一方面,提供一种目标设备定位方法,包括:

响应获取目标设备的位置信息的请求,控制所述目标设备采集当前环境对应的当前环境图像以及当前网络特征;

获取预构建的离线定位地图,所述离线定位地图包括重建图像以及所述重建图像关联的重建网络特征;

筛选与所述当前网络特征匹配的目标重建网络特征,并确定所述目标重建网络特征关联的目标重建图像;

在所述离线定位地图中获取所述目标重建图像对应的重建点云数据,并基于所述重建点云数据,计算所述当前环境图像对应的位姿信息;

根据所述位姿信息确定所述目标设备的位置信息,以实现对所述目标设备的定位。

根据本公开的第二方面,提供一种地图构建方法,包括:

获取重建环境对应的全景图像,以及获取采集所述全景图像时所述重建环境对应的重建网络特征;

确定所述全景图像对应的全局特征向量、局部特征向量以及特征点数据;

通过对所述全局特征向量、所述局部特征向量以及所述特征点数据进行三维重建处理,得到所述重建环境对应的重建点云数据;

根据所述全景图像、所述重建点云数据以及所述重建网络特征构建所述重建环境对应的离线定位地图。

根据本公开的第三方面,提供一种目标设备定位装置,包括:

定位数据获取模块,用于响应获取目标设备的位置信息的请求,控制所述目标设备采集当前环境对应的当前环境图像以及当前网络特征;

离线定位地图获取模块,用于获取预构建的离线定位地图,所述离线定位地图包括重建图像以及所述重建图像关联的重建网络特征;

重建图像确定模块,用于筛选与所述当前网络特征匹配的目标重建网络特征,并确定所述目标重建网络特征关联的目标重建图像;

位姿信息计算模块,用于在所述离线定位地图中获取所述目标重建图像对应的重建点云数据,并基于所述重建点云数据,计算所述当前环境图像对应的位姿信息;

目标设备定位模块,用于根据所述位姿信息确定所述目标设备的位置信息,以实现对所述目标设备的定位。

根据本公开的第四方面,提供一种地图构建装置,包括:

重建数据获取模块,用于获取重建环境对应的全景图像,以及获取采集所述全景图像时所述重建环境对应的重建网络特征;

特征向量确定模块,用于确定所述全景图像对应的全局特征向量、局部特征向量以及特征点数据;

点云数据重建模块,用于通过对所述全局特征向量、所述局部特征向量以及所述特征点数据进行三维重建处理,得到所述重建环境对应的重建点云数据;

离线定位地图构建模块,用于根据所述全景图像、所述重建点云数据以及所述重建网络特征构建所述重建环境对应的离线定位地图。

根据本公开的第五方面,提供一种计算机可读介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述的方法。

根据本公开的第六方面,提供一种电子设备,其特征在于,包括:

处理器;以及

存储器,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行时,使得一个或多个处理器实现上述的方法。

本公开的一种实施例所提供的目标设备定位方法,响应获取目标设备的位置信息的请求,控制目标设备采集当前环境对应的当前环境图像以及当前网络特征;获取预构建的离线定位地图,并在离线定位地图中筛选与当前网络特征匹配的目标重建网络特征,然后确定目标重建网络特征关联的目标重建图像;进而,在离线定位地图中获取目标重建图像对应的重建点云数据,并基于重建点云数据,计算当前环境图像对应的位姿信息,以便于根据位姿信息确定目标设备的位置信息,实现对目标设备的定位。一方面,可以主动控制目标设备采集当前环境对应的当前环境图像以及当前网络特征,进而可以根据当前环境图像以及当前网络特征确定目标设备的位置信息,实现对目标设备的定位信息的主动获取;另一方面,结合当前网络特征在离线定位地图中筛选目标重建图像,并通过目标重建图像最终实现对目标设备的定位,不强依赖于较好的网络信号,在网络较差的环境下,也可以实现目标设备的精准定位,提升定位的适用范围,保证定位的精准度;再一方面,通过当前网络特征进行粗定位,然后通过重建点云数据计算当前环境图像对应的位姿信息,进而根据位姿信息对目标设备进行定位,能够有效提升定位的精确度。

应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:

图1示出了可以应用本公开实施例的一种示例性系统架构的示意图;

图2示出了可以应用本公开实施例的一种电子设备的示意图;

图3示意性示出本公开示例性实施例中一种目标设备定位方法的流程图;

图4示意性示出本公开示例性实施例中一种根据索引区域获取目标重建图像的流程图;

图5示意性示出本公开示例性实施例中一种根据当前导航信号确定索引区域集合的流程图;

图6示意性示出本公开示例性实施例中一种筛选目标重建网络特征的流程图;

图7示意性示出本公开示例性实施例中一种筛选目标重建图像的流程图;

图8示意性示出本公开示例性实施例中一种确定目标环境图像的位姿信息的流程图;

图9示意性示出本公开示例性实施例中一种地图构建方法的流程图;

图10示意性示出本公开示例性实施例中目标设备定位装置的组成示意图;

图11示意性示出本公开示例性实施例中地图构建装置的组成示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。

此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

图1示出了可以应用本公开实施例的一种目标设备定位方法及装置、或者地图构建方法及装置的示例性应用环境的系统架构的示意图。

如图1所示,系统架构100可以包括终端设备101、102、103中的一个或多个,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。终端设备101、102、103可以是各种具有图像处理功能的电子设备,包括但不限于台式计算机、便携式计算机、智能手机和平板电脑等等。应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。

本公开实施例所提供的目标设备定位方法一般由服务器105执行,相应地,目标设备定位装置一般设置于服务器105中。但本领域技术人员容易理解的是,本公开实施例所提供的目标设备定位方法也可以由终端设备101、102、103执行,相应的,目标设备定位装置也可以设置于终端设备101、102、103中,本示例性实施例中对此不做特殊限定。举例而言,在一种示例性实施例中,可以是用户通过终端设备101、102、103向服务器105发送获取目标设备的位置信息的请求,服务器通过本公开实施例所提供的目标设备定位方法生成目标设备的位置信息后,将目标设备的位置信息传输给终端设备101、102、103等。

另一方面,本公开实施例所提供的地图构建方法一般由终端设备101、102、103执行,相应地,目标设备定位装置一般设置于终端设备101、102、103中。但本领域技术人员容易理解的是,本公开实施例所提供的地图构建方法也可以由服务器105执行,相应的,地图构建装置也可以设置于服务器105中,本示例性实施例中对此不做特殊限定。举例而言,在一种示例性实施例中,可以是用户通过终端设备101、102、103向服务器105发送重建环境对应的全景图像以及对应的重建网络特征,服务器105通过本公开实施例所提供的地图构建方法生成离线定位地图后,存储该离线定位地图,或者将该离线定位地图传输给终端设备101、102、103等。

本公开的示例性实施方式提供一种用于实现目标设备定位方法或者地图构建方法的电子设备,其可以是图1中的终端设备101、102、103或服务器105。该电子设备至少包括处理器和存储器,存储器用于存储处理器的可执行指令,处理器配置为经由执行可执行指令来执行目标设备定位方法或者地图构建方法。

下面以图2中的电子设备200为例,对电子设备的构造进行示例性说明。需要说明的是,图2示出的电子设备200仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。

如图2所示,电子设备200包括中央处理单元(CPU)201,其可以根据存储在只读存储器(ROM)202中的程序或者从存储部分208加载到随机访问存储器(RAM)203中的程序而执行各种适当的动作和处理。在RAM 203中,还存储有系统操作所需的各种程序和数据。CPU201、ROM 202以及RAM 203通过总线204彼此相连。输入/输出(I/O)接口205也连接至总线204。

以下部件连接至I/O接口205:包括键盘、鼠标等的输入部分206;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分207;包括硬盘等的存储部分208;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分209。通信部分209经由诸如因特网的网络执行通信处理。驱动器210也根据需要连接至I/O接口205。可拆卸介质211,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器210上,以便于从其上读出的计算机程序根据需要被安装入存储部分208。

特别地,根据本公开的实施例,下文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分209从网络上被下载和安装,和/或从可拆卸介质211被安装。在该计算机程序被中央处理单元(CPU)201执行时,执行本申请的方法和装置中限定的各种功能。

本公开的示例性实施方式还提供了一种计算机可读存储介质,其上存储有能够实现本说明书下文中方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤,例如可以执行图3至图9中任意一个或多个步骤。

需要说明的是,本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。

此外,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

下面以服务器执行该方法为例对本公开示例性实施方式的目标设备定位方法进行具体说明。

图3示出了本示例性实施方式中一种目标设备定位方法的流程图,可以包括以下步骤S310至步骤S350:

在步骤S310中,响应获取目标设备的位置信息的请求,控制所述目标设备采集当前环境对应的当前环境图像以及当前网络特征。

在一示例性实施例中,目标设备可以是指具备图像采集、无线通信等功能的、需要对其进行定位的设备,例如,目标设备可以是电脑、智能手机等电子设备,也可以是智能手环、智能眼镜等可穿戴设备,在防止儿童丢失的场景中,目标设备可以是儿童佩戴的带有图像采集单元的可通话智能手表,当然,目标设备还可以是其他具备图像采集、无线通信等功能的、需要对其进行定位的设备,本示例实施例对此不做特殊限定。

当前环境可以是目标设备当前位置所处的周围场景,当前环境图像可以是目标设备在接收到控制指令时采集的当前环境对应的图像或者视频,当前网络特征可以是目标设备在所处的当前环境中能够接收到的、可用于辅助定位的网络标识数据,例如,当前网络特征可以是目标设备接收到的GPS导航信号,也可以是WiFi指纹,还可以是其他无线访问接入点(WirelessAccessPoint,AP)信号,当然,还可以是其他能够被目标设备接收到的、可用于辅助定位的网络标识数据,本示例实施例对此不做特殊限定。

举例而言,在防止儿童丢失的场景中,儿童的监护人通过与儿童佩戴的可通话智能手表预先绑定的智能手机,向服务器发送获取可通话智能手表的位置信息的请求,服务器向已授权的可通话智能手表发送控制指令,控制可通话智能手表开始采集当前环境对应的当前环境图像以及当前网络特征,并返回给服务器,该服务器可以是可通话智能手表的生产商所运营的。

在步骤S320中,获取预构建的离线定位地图。

在一示例性实施例中,离线定位地图可以是预先绘制构建并存储在服务器中的、能够结合目标设备返回的当前环境图像以及当前网络特征对目标设备进行精确定位的离线地图,该离线定位地图可以包括重建图像、重建图像关联的重建网络特征以及通过重建图像生成的重建点云数据。重建图像可以是在绘制构建离线定位地图采集的重建环境中的图像,重建网络特征可以是在采集重建图像的同时采集的重建环境中的网络特征,重建点云数据(3D Point Cloud)是指重建图像中的特征点按照规则格网排列的数据集。

在步骤S330中,筛选与所述当前网络特征匹配的目标重建网络特征,并确定所述目标重建网络特征关联的目标重建图像。

在一示例性实施例中,目标重建网络特征可以是指在离线定位地图中筛选得到的、与当前网络特征的相似度符合条件的重建网络特征,目标重建图像可以是指在绘制构建离线定位地图时与目标重建网络特征关联的重建图像。通过目标设备采集的当前网络特征筛选得到目标重建网络特征,以实现粗定位,减少后续处理过程的计算量,提高定位效率。

在步骤S340中,在所述离线定位地图中获取所述目标重建图像对应的重建点云数据,并基于所述重建点云数据,计算所述当前环境图像对应的位姿信息。

在一示例性实施例中,位姿信息(Pose)可以是指在离线定位地图对应的建图坐标系中当前环境图像对应的相机位姿。可以根据粗定位筛选得到的目标重建图像在离线定位地图中获取对应的重建点云数据,进而根据匹配到的重建点云数据进行位姿求解,得到当前环境图像对应的位姿信息。

在步骤S350中,根据所述位姿信息确定所述目标设备的位置信息,以实现对所述目标设备的定位。

在一示例性实施例中,位置信息可以是指根据当前环境图像对应的位姿信息进行转换得到的位置坐标,通过将该位置坐标显示在对应的经纬度地图中,实现对目标设备的定位。

下面对图3中的步骤S310至步骤S350进行详细解释说明。

在一示例实施例中,离线定位地图还可以包括索引地图,索引地图可以是指基于多维空间点索引算法(Geohash)对经纬度地图进行分区域,并进行编码得到的地图,通过索引地图能够快速定位区域,例如,索引地图可以是将地图划分为四边形方格得到的地图,也可以是将地图按照Z阶曲线(Z-order curve)划分得到的地图,本示例实施例对此不做特殊限定。

具体的,可以通过图4中的步骤实现通过索引地图快速定位筛选目标重建图像的过程,参考图4所示,具体可以包括:

步骤S410,根据所述当前网络特征在所述索引地图中进行粗定位处理,得到索引区域集合,所述索引区域集合包括多个索引区域,每个所述索引区域包括多个重建网络特征;

步骤S420,在所述索引区域集合对应的重建网络特征中筛选与所述当前网络特征匹配的目标重建网络特征;

步骤S430,通过所述目标重建网络特征在所述索引区域集合中确定目标索引区域,并获取与所述目标索引区域关联的目标重建图像。

其中,索引区域集合可以是指根据当前网络特征在索引地图中筛选得到的多个索引区域构成的集合,该索引区域集合可以包括多个索引区域,每个索引区域可以包括多个重建图像以及多个重建图像对应的多个重建网络特征,例如,根据当前网络特征确定目标设备处于索引编码信息为(2,3)的索引区域,由于当前网络特征会根据环境的不同产生较大偏差,因此,可以将索引区域(2,3)邻近的索引区域(1,2)、(2,2)、(3,2)、(1,3)、(3,3)、(1,4)、(2,4)、(3,4)均作为当前网络特征对应的索引区域,将这些索引区域作为当前网络特征对应的索引区域集合,以便于后续进一步的定位处理。

通过当前网络特征在索引地图中进行粗定位处理,得到索引区域集合,然后进一步可以通过当前网络特征在该索引区域集合中匹配目标重建网络特征,进而可以通过目标重建网络特征确定目标重建图像,能够分层次进行筛选处理,避免筛选时需要处理大量的数据,提升筛选效率。

进一步的,可以通过图5中的步骤实现根据当前网络特征确定索引区域集合的过程,参考图5所示,具体可以包括:

步骤S510,根据所述当前导航信号在所述索引地图中确定第一索引区域;

步骤S520,确定所述索引地图中与所述第一索引区域在预设距离阈值之内的第二索引区域;

步骤S530,将所述第一索引区域和所述第二索引区域作为粗定位处理得到的索引区域集合。

其中,当前网络特征可以包括当前导航信号,当前导航信号可以是目标设备通过GPS导航模块获取得到的数据,第一索引区域可以是当前导航信号所在的索引区域,第二索引区域可以是第一索引区域邻近的索引区域,例如,可以根据当前导航信号确定目标设备处于索引编码信息为(2,3)的索引区域,索引区域(2,3)可以是第一索引区域,由于当前网络特征会根据环境的不同产生较大偏差,因此,可以将第一索引区域(2,3)邻近的索引区域(1,2)、(2,2)、(3,2)、(1,3)、(3,3)、(1,4)、(2,4)、(3,4)均作为第二索引区域,将第一索引区域和第二索引区域作为索引区域集合。

预设距离阈值可以是预先设置的、用于确定第一索引区域对应的第二索引区域范围的阈值,例如,预设距离阈值可以是1,则可以表示将第一索引区域邻近的一个索引区域作为第二索引区域,预设距离阈值可以是2,则可以表示将第一索引区域邻近的两个索引区域作为第二索引区域,即在确定第一索引区域(2,3)之后,将第一索引区域周围的8个索引区域以及这8个索引区域邻近的16个索引区域,总共24个索引区域共同作为第二索引区域,当然,预设距离阈值还可以是其他数值,具体可以根据实际网络环境,或者用户自定义的检测精度进行自定义设置,本示例实施例对此不做特殊限定。

在一示例实施例中,可以检测在离线定位地图中是否包含目标索引区域关联的目标重建图像;如果检测到在离线定位地图中包含目标索引区域关联的目标重建图像,则可以表示在构建离线定位地图时已在当前网络特征所处的目标索引区域进行了数据采集,因此可以进行后续的定位处理,此时,可以获取目标重建图像以便于进行后续的定位处理。

如果检测到在离线定位地图中不包含目标索引区域关联的目标重建图像,则可以表示在构建离线定位地图时还没有在当前网络特征所处的目标索引区域中进行数据采集,因此在没有采集目标索引区域对应的数据的前提下,无法进行后续的定位处理,此时可以将当前环境图像以及当前网络特征作为目标设备的位置信息返回给请求目标设备的终端。

在一示例实施例中,当前网络特征可以包括当前无线网络指纹,重建网络特征可以包括重建无线网络指纹,无线网络指纹是指一种用于辅助定位的网络标识数据,无线网络指纹可以是包括无线接入网点的网络地址、信号强度等数据,例如,无线网络指纹可以是WiFi指纹,也可以是超宽带通信(Ultra Wide Band,UWB)指纹,当然,还可以是其他用于辅助定位的标识数据,例如还可以是5G通信基站的标识数据,本示例实施例对此不做特殊限定。

具体的,可以通过图6中的步骤实现对筛选目标重建网络特征的过程,参考图6所示,具体可以包括:

步骤S610,确定所述当前无线网络指纹对应的第一特征向量;

步骤S620,对所述第一特征向量与所述索引区域集合对应的重建无线网络指纹的第二特征向量进行相似度计算,得到指纹相似度数据;

步骤S630,对所述指纹相似度数据进行排序,确定最大指纹相似度数据;

步骤S640,将所述最大指纹相似度数据对应的重建网络特征、以及与所述最大指纹相似度数据的差值小于指纹相似度阈值的指纹相似度数据对应的重建网络特征,作为与所述当前网络特征匹配的目标重建网络特征。

其中,第一特征向量可以是指当前无线网络指纹对应的特征向量,第二特征向量可以是指重建无线网络指纹对应的特征向量。指纹相似度数据可以是指用于衡量第一特征向量和第二特征向量的相似度(距离)的数据,例如,指纹相似度数据可以是第一特征向量和第二特征向量之间的欧氏距离(需要说明的是,欧氏距离越小,表示第一特征向量和第二特征向量越相似,即相似度数据越大),也可以是第一特征向量和第二特征向量之间的余弦相似度,当然,还可以是其他能够衡量第一特征向量和第二特征向量的相似度(距离)的数据,本示例实施例对此不做特殊限定。

指纹相似度阈值可以是指用于筛选与最大指纹相似度数据的重建网络特征最为接近的重建网络特征的阈值,通过对指纹相似度数据进行排序,确定最大指纹相似度数据。进而将最大指纹相似度数据对应的重建网络特征,以及与最大指纹相似度数据对应的重建网络特征较相似的重建网络特征,即与最大指纹相似度数据的差值小于指纹相似度阈值的指纹相似度数据对应的重建网络特征,作为与当前网络特征匹配的目标重建网络特征(该过程即最邻近节点算法,K-NearestNeighbor,KNN)。基于最邻近节点算法对重建网络特征进行进一步的筛选,有效减少了参与定位计算的数据量,提升系统性能,提升定位效率。

在一示例实施例中,可以通过图7中的步骤实现获取与目标索引区域关联的目标重建图像的过程,参考图7所示,具体可以包括:

步骤S710,确定所述当前环境图像对应的第一全局特征向量;

步骤S720,对所述第一全局特征向量与所述目标索引区域对应的重建图像的第二全局特征向量进行相似度计算,得到图像相似度数据;

步骤S730,将所述图像相似度数据大于图像相似度阈值的重建图像作为目标重建图像。

其中,第一全局特征向量可以是当前环境图像对应的全局描述子对应的向量,第二全局特征向量可以是重建图像对应的全局描述子对应的向量,例如,第一全局特征向量和第二全局特征向量可以包括但不限于当前环境图像的NetVLAD全局描述子,NetVLAD全局描述子可以是4096维的浮点型向量,当然,第一全局特征向量和第二全局特征向量还可以其他描述子,例如,还可以是方向梯度直方图(Histogram of Oriented Gradient,HOG)特征描述子,本示例实施例对此不做特殊限定。

图像相似度数据可以是指用于衡量第一全局特征向量和第二全局特征向量之间的相似度的数据,例如,图像相似度数据可以是第一全局特征向量和第二全局特征向量之间的欧式距离数据(需要说明的是,欧氏距离越小,表示第一特征向量和第二特征向量越相似,即相似度数据越大),也可以是第一全局特征向量和第二全局特征向量之间的余弦相似度数据,当然,图像相似度数据还可以是其他能够衡量第一全局特征向量和第二全局特征向量之间的相似度的数据,本示例实施例对此不作特殊限定。

在一示例实施例中,可以获取目标重建图像对应的特征点数据,然后根据特征点数据与离线定位地图中的重建点云数据的映射关系,获取目标重建图像对应的重建点云数据。

具体的,可以通过图8中的步骤实现根据重建点云数据确定当前环境图像的位姿信息的过程,参考图8所示,具体可以包括:

步骤S810,确定所述当前环境图像对应的局部特征向量;

步骤S820,根据所述局部特征向量和所述特征点数据,在所述重建点云数据中进行匹配,得到特征点对;

步骤S830,对所述特征点对进行位姿求解,得到所述当前环境图像在所述离线定位地图的坐标系中对应的位姿信息。

其中,局部特征向量可以是当前环境图像的局部描述子对应的向量,例如,当前环境图像对应的局部特征向量可以包括但不限于Superpoint特征描述子对应的特征向量,每个Superpoint特征描述子可以表示为一个256维的浮点型向量,当然,还可以是其他当前环境图像的局部描述子对应的向量,如还可以是尺度不变特征(Scale-invariant featuretransform,SIFT)描述子对应的向量,本示例实施例对此不作特殊限定。

可以根据局部特征向量和特征点数据在重建点云数据中进行匹配,进而可以根据匹配结果得到特征点对,例如,可以通过局部特征向量和特征点数据在重建点云数据中进行匹配得到2D-3D点对。进而可以对特征点对进行位姿求解,例如,可以基于PnP算法对得到的2D-3D点对进行位姿求解,也可以基于迭代最近点(Iterative Closest Point,ICP)位姿求解算法对得到的2D-3D点对进行位姿求解,本示例实施例对此不作特殊限定。

在一示例实施例中,可以获取位姿信息在离线定位地图中对应的全景图像,将位置信息、当前环境图像以及位姿信息对应的全景图像一起发送给请求的终端,作为对目标设备进行定位的数据,从多维度实现对目标设备的定位,进一步提升定位数据的精确度以及丰富程度,提升目标设备的位置确定的效率。

参考图9所示,本示例的实施方式中还提供一种地图构建方法,可以应用于包含全景相机的电子设备(如全景建图设备等),可以包括步骤S910至步骤S940:

在步骤S910中,获取重建环境对应的全景图像,以及获取采集所述全景图像时所述重建环境对应的重建网络特征。

在一示例实施例中,全景图像可以是通过全景相机(360°Panorama)拍摄得到的包含当前位置的周围360°的图像,通过全景相机可以采集得到包含重建环境各方面的视觉信息,尽可能保证数据的完整性,同时,通过全景相机也可以有效提升重建环境的数据采集效率。可以在采集全景图像的同时获取采集全景图像时重建环境对应的重建网络特征,并将重建网络特征与同一时刻的全景图像进行关联绑定。

在步骤S920中,确定所述全景图像对应的全局特征向量、局部特征向量以及特征点数据。

在一示例实施例中,全局特征向量可以是全景图像对应的全局描述子对应的向量,例如,全局特征向量可以包括但不限于全景图像的NetVLAD全局描述子,NetVLAD全局描述子可以是4096维的浮点型向量,当然,全局特征向量还可以是其他描述子,例如,还可以是HOG特征描述子,本示例实施例对此不做特殊限定。局部特征向量可以是全景图像的局部描述子对应的向量,例如,全景图像对应的局部特征向量可以包括但不限于Superpoint特征描述子对应的特征向量,每个Superpoint特征描述子可以表示为一个256维的浮点型向量,当然,还可以是其他当前环境图像的局部描述子对应的向量,如还可以是SIFT描述子对应的向量,本示例实施例对此不作特殊限定。特征点数据可以是从全景图像中提取的关键坐标点,例如,特征点数据可以是全景图像中的交点或者拐点等,每个特征点可以包括在全景图像中的(u,v)坐标,本示例实施例对此不做特殊限定。

在步骤S930中,通过对所述全局特征向量、所述局部特征向量以及所述特征点数据进行三维重建处理,得到所述重建环境对应的重建点云数据。

在一示例实施例中,三维重建处理可以是根据全局特征向量、局部特征向量以及特征点数据构建重建环境对应的三维点云结构的处理过程,例如,可以基于Colmap三维构建工具对全局特征向量、局部特征向量以及特征点数据进行三维处理,得到重建环境对应的重建点云数据,当然,还可以是其他三维点云构建处理技术,本示例实施例对此不做特殊限定。

在步骤S940中,根据所述全景图像、所述重建点云数据以及所述重建网络特征构建所述重建环境对应的离线定位地图。

在一示例实施例中,可以将全景图像、全景图像对应的重建网络特征以及全景图像对应的重建点云数据进行关联,共同作为重建环境对应的离线定位地图,以用于后续的目标设备定位过程。通过绘制构建离线定位地图,能够使目标设备在网络环境较差的情况下,实现对目标设备的精准定位,提升目标设备定位的适用范围,提高定位的精确度。

在一示例实施例中,由于目标设备是不一定具有全景相机,为了保证适用范围,可以对全景相机采集得到的全景图像进行切分,得到不同方向的重建图像,例如,可以通过全景SLAM(Simultaneous Localization And Mapping,即时定位与地图构建)算法,获取每帧全景图像的位姿,包括全景相机的位置,然后可以将全景图切分成前后左右上下六张重建图像,并根据全景图像的位置,可以推算出每张切分后的重建图像的位置,包括重建图像的位置和朝向。进而,可以确定不同方向的重建图像对应的全局特征向量、局部特征向量以及特征点数据,然后结合切分得到的重建图像的位置和朝向,以及重建图像对应的全局特征向量、局部特征向量以及特征点数据进行三维重建处理,得到重建环境对应的重建点云数据。

在一示例实施例中,重建网络特征可以包括重建导航信号,可以获取采集全景图像时的重建导航信号,并可以根据重建导航信号绘制索引地图,索引地图可以包括多个索引区域,每个索引区域可以包括采集全景图像时的经纬度坐标。

举例而言,将采集全景图像时的经纬度坐标,记录到索引地图(Geohash)中,Geohash是为了在对目标设备定位时,根据当前网络特征(当前导航信号)快速检索附近的索引区域的方法。例如,可以将索引地图划分成四边形网格,在某个位置采集的Geohash信息就是(2,2),在另一个位置采集的Geohash信息就是(3,2),给每一个索引区域一个这样的地图编码信息,同时也将采集的全景图像放到对应地图编码信息的索引区域中。当采集全景图像时进行移动,会导致GPS信号发生变化,即Geohash信息发生变化,优选的,在索引区域(2,2)之外的区域采集全景图像时,如果全景图像的数据有一部分在(2,2)的索引区域中,那么也可以将采集的全景图像放到(2,2)对应索引区域中,保证对一个完整的场景(例如一个超市)采集的数据划分到同一个索引区域中。

在一示例实施例中,重建网络特征可以包括重建无线网络指纹,可以获取采集全景图像时的重建无线网络指纹;以及确定重建无线网络指纹对应的指纹特征向量,指纹特征向量可以包括无线网络接入点的网络地址和信号强度。

举例而言,采集到的WiFi指纹可以表示成特征向量,该特征向量可以表示为关系式(1):

X

其中,I

S

其中,S

具体的,可以检测当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据是否小于相似度阈值;如果检测到当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据小于相似度阈值,则可以将当前采集的重建无线网络指纹作为全景图像对应的索引区域的重建网络特征;如果检测到当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据大于相似度阈值,则可以不记录当前采集的重建无线网络指纹。

举例而言,由于在采集全景图像时会不断进行移动,因此采集到的WiFi指纹也会不断发生变化。因此,对于一个索引区域,会对应多个WiFi指纹。如果检测到当前的WiFi指纹和上一时刻的的WiFi指纹之间的欧氏距离大于一定阈值(即当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据小于相似度阈值时),则可以说明当前的WiFi指纹是该地图的一个新的重建无线网络指纹。具体的,计算欧氏距离的关系式(3)如下:

其中,D

V

其中,V

综上所述,本示例性实施方式中,响应获取目标设备的位置信息的请求,控制目标设备采集当前环境对应的当前环境图像以及当前网络特征;获取预构建的离线定位地图,并在离线定位地图中筛选与当前网络特征匹配的目标重建网络特征,然后确定目标重建网络特征关联的目标重建图像;进而,在离线定位地图中获取目标重建图像对应的重建点云数据,并基于重建点云数据,计算当前环境图像对应的位姿信息,以便于根据位姿信息确定目标设备的位置信息,实现对目标设备的定位。一方面,可以主动控制目标设备采集当前环境对应的当前环境图像以及当前网络特征,进而可以根据当前环境图像以及当前网络特征确定目标设备的位置信息,实现对目标设备的定位信息的主动获取;另一方面,结合当前网络特征在离线定位地图中筛选目标重建图像,并通过目标重建图像最终实现对目标设备的定位,不强依赖于较好的网络信号,在网络较差的环境下,也可以实现目标设备的精准定位,提升定位的适用范围,保证定位的精准度;再一方面,通过当前网络特征进行粗定位,然后通过重建点云数据计算当前环境图像对应的位姿信息,进而根据位姿信息对目标设备进行定位,能够有效提升定位的精确度。

需要注意的是,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。

进一步的,参考图10所示,本示例的实施方式中还提供一种目标设备定位装置1000,可以包括定位数据获取模块1010、离线定位地图获取模块1020、重建图像确定模块1030、位姿信息计算模块1040以及目标设备定位模块1050。其中:

定位数据获取模块1010用于响应获取目标设备的位置信息的请求,控制所述目标设备采集当前环境对应的当前环境图像以及当前网络特征;

离线定位地图获取模块1020用于获取预构建的离线定位地图,所述离线定位地图包括重建图像以及所述重建图像关联的重建网络特征;

重建图像确定模块1030用于筛选与所述当前网络特征匹配的目标重建网络特征,并确定所述目标重建网络特征关联的目标重建图像;

位姿信息计算模块1040用于在所述离线定位地图中获取所述目标重建图像对应的重建点云数据,并基于所述重建点云数据,计算所述当前环境图像对应的位姿信息;

目标设备定位模块1050用于根据所述位姿信息确定所述目标设备的位置信息,以实现对所述目标设备的定位。

在一示例性实施例中,重建图像确定模块1030可以包括:

粗定位单元,用于根据所述当前网络特征在所述索引地图中进行粗定位处理,得到索引区域集合,所述索引区域集合包括多个索引区域,每个所述索引区域包括多个重建网络特征;

重建网络特征筛选单元,用于在所述索引区域集合对应的重建网络特征中筛选与所述当前网络特征匹配的目标重建网络特征;

目标重建图像获取单元,用于通过所述目标重建网络特征在所述索引区域集合中确定目标索引区域,并获取与所述目标索引区域关联的目标重建图像。

在一示例性实施例中,粗定位单元还可以用于:

根据所述当前导航信号在所述索引地图中确定第一索引区域;

确定所述索引地图中与所述第一索引区域在预设距离阈值之内的第二索引区域;

将所述第一索引区域和所述第二索引区域作为粗定位处理得到的索引区域集合。

在一示例性实施例中,目标重建图像获取单元还可以用于:

检测在所述离线定位地图中是否包含所述目标索引区域关联的目标重建图像;

如果检测到在所述离线定位地图中包含所述目标索引区域关联的目标重建图像,获取所述目标重建图像;

如果检测到在所述离线定位地图中不包含所述目标索引区域关联的目标重建图像,将所述当前环境图像以及所述当前网络特征作为所述目标设备的位置信息。

在一示例性实施例中,重建网络特征筛选单元还可以用于:

确定所述当前无线网络指纹对应的第一特征向量;

对所述第一特征向量与所述索引区域集合对应的重建无线网络指纹的第二特征向量进行相似度计算,得到指纹相似度数据;

对所述指纹相似度数据进行排序,确定最大指纹相似度数据;

将所述最大指纹相似度数据对应的重建网络特征、以及与所述最大指纹相似度数据的差值小于指纹相似度阈值的指纹相似度数据对应的重建网络特征,作为与所述当前网络特征匹配的目标重建网络特征。

在一示例性实施例中,目标重建图像获取单元还可以用于:

确定所述当前环境图像对应的第一全局特征向量;

对所述第一全局特征向量与所述目标索引区域对应的重建图像的第二全局特征向量进行相似度计算,得到图像相似度数据;

将所述图像相似度数据大于图像相似度阈值的重建图像作为目标重建图像。

在一示例性实施例中,目标设备定位模块1050还可以用于:

获取所述目标重建图像对应的特征点数据;

根据所述特征点数据与所述离线定位地图中的重建点云数据的映射关系,获取所述目标重建图像对应的重建点云数据。

在一示例性实施例中,位姿信息计算模块1040还可以用于:

确定所述当前环境图像对应的局部特征向量;

根据所述局部特征向量和所述特征点数据,在所述重建点云数据中进行匹配,得到特征点对;

对所述特征点对进行位姿求解,得到所述当前环境图像在所述离线定位地图的坐标系中对应的位姿信息。

在一示例性实施例中,目标设备定位装置1000还可以包括全景图像获取单元,全景图像获取单元可以用于:

获取所述位姿信息在所述离线定位地图中对应的全景图像;

通过所述全景图像实现对所述目标设备的定位。

上述装置中各模块的具体细节在方法部分实施方式中已经详细说明,未披露的细节内容可以参见方法部分的实施方式内容,因而不再赘述。

进一步的,参考图11所示,本示例的实施方式中还提供一种地图构建装置1100,可以包括重建数据获取模块1110、特征向量确定模块1120、点云数据重建模块1130以及离线定位地图构建模块1140。其中:

重建数据获取模块1110用于获取重建环境对应的全景图像,以及获取采集所述全景图像时所述重建环境对应的重建网络特征;

特征向量确定模块1120用于确定所述全景图像对应的全局特征向量、局部特征向量以及特征点数据;

点云数据重建模块1130用于通过对所述全局特征向量、所述局部特征向量以及所述特征点数据进行三维重建处理,得到所述重建环境对应的重建点云数据;

离线定位地图构建模块1140用于根据所述全景图像、所述重建点云数据以及所述重建网络特征构建所述重建环境对应的离线定位地图。

在一示例性实施例中,特征向量确定模块1120还可以用于:

对所述全景图像进行切分,得到不同方向的重建图像;

确定所述不同方向的重建图像对应的全局特征向量、局部特征向量以及特征点数据。

在一示例实施例中,重建数据获取模块1110还可以用于:

获取采集所述全景图像时的所述重建导航信号;以及

根据所述重建导航信号绘制索引地图,所述索引地图包括多个索引区域,所述索引区域包括采集所述全景图像时的经纬度坐标。

在一示例实施例中,重建数据获取模块1110还可以用于:

获取采集所述全景图像时的所述重建无线网络指纹;以及

确定所述重建无线网络指纹对应的指纹特征向量,所述指纹特征向量包括无线网络接入点的网络地址和信号强度。

在一示例实施例中,地图构建装置1100可以包括重建无线网络指纹记录单元,重建无线网络指纹记录单元可以用于:

检测当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据是否小于相似度阈值;

如果检测到当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据小于相似度阈值,则将所述当前采集的重建无线网络指纹作为所述全景图像对应的所述索引区域的重建网络特征;

如果检测到当前采集的重建无线网络指纹与上一时刻采集的重建无线网络指纹的相似度数据大于相似度阈值,则不记录所述当前采集的重建无线网络指纹。

上述装置中各模块的具体细节在方法部分实施方式中已经详细说明,未披露的细节内容可以参见方法部分的实施方式内容,因而不再赘述。

所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。

本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。

应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

相关技术
  • 目标设备定位方法、地图构建方法及装置、介质、设备
  • 地图构建方法、装置和机器人定位方法、装置、计算机设备和存储介质
技术分类

06120112552351