掌桥专利:专业的专利平台
掌桥专利
首页

定位方法、装置、非易失性存储介质及电子设备

文献发布时间:2023-06-19 19:38:38


定位方法、装置、非易失性存储介质及电子设备

技术领域

本申请涉及导航领域,具体而言,涉及一种定位方法、装置、非易失性存储介质及电子设备。

背景技术

相关技术中在实现对柔性器械的导航时,常用的方法是当柔性器械在生理通道中移动的过程中,不断采集生理通道的图像,并通过图像配准实现导航。然而这种方法虽然在生理通道的分岔口等特征明显的部位可以准确确定柔性器械末端的位置,但是在生理通道中间等特征不明显的部位无法准确确定柔性器械末端的位置。

针对上述的问题,目前尚未提出有效的解决方案。

发明内容

本申请实施例提供了一种定位方法、装置、非易失性存储介质及电子设备,以至少解决由于相关技术中在定位时需要采集的图像特征过多造成的在生理通道的特征不明显部位无法准确定位柔性器械末端的位置的技术问题。

根据本申请实施例的一个方面,提供了一种定位方法,包括:确定柔性器械在第一时刻的第一曲率峰值点,以及第一曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;确定柔性器械在第二时刻的第二曲率峰值点,以及第二曲率峰值点的第二位置信息;依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

可选地,在第二时刻,确定柔性器械的第二曲率峰值点的步骤包括:依据第一位置信息,在柔性器械中确定与第二曲率峰值点对应的检索范围,其中,检索范围包含柔性器械上与第一曲率峰值点之间的距离在预设距离范围内的点;在检索范围内确定曲率与第一曲率峰值点对应的曲率差值小于预设曲率差值的点为第二曲率峰值点。

可选地,依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息的步骤包括:在第一曲率峰值点的数量为一个的情况下,确定柔性器械的柔性器械末端的位移距离为第二位置信息和第一位置信息的距离差值;在第一曲率峰值点的数量为多个的情况下,将任一第一曲率峰值点和匹配于任一第一曲率峰值点的第二曲率峰值点划分到同一曲率峰值点组,确定各个曲率峰值点组对应的权重系数,并依据权重系数对各个曲率峰值点组的距离差值进行加权求和计算,得到位移信息,其中,任一曲率峰值点组的距离差值基于其所含的第二曲率峰值点的第二位置信息和第一曲率峰值点的第一位置信息计算得到。

可选地,第一曲率峰值点和第二曲率峰值点对应的目标生理通道的直径与柔性器械的直径之间的差值小于预设差值阈值。

可选地,第一时刻为柔性器械连接的设备采集目标生理通道的第一通道图像的时刻,第二时刻为柔性器械连接的设备采集目标生理通道的第二通道图像的时刻。依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息的步骤包括:确定第二时刻对应的指定虚拟图像和所述第二通道图像,其中,指定虚拟图像为通过与柔性器械对应的虚拟摄像头在目标生理通道的通道模型中采集得到的图像;依据第二通道图像和指定虚拟图像,确定柔性器械末端在第二时刻相对于第一时刻的角度变化信息;依据角度变化信息,位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

可选地,确定第二时刻对应的指定虚拟图像的步骤包括:确定第一时刻虚拟相机在通道模型中的第一相机位姿信息,其中,第一相机位姿信息和柔性器械末端在第一时刻的位姿信息相同;结合位移信息和第一相机位姿信息,确定第二时刻虚拟相机在通道模型中的第二相机位姿信息;获取虚拟相机在处于第二相机位姿信息时采集到的指定指定虚拟图像。

可选地,获取虚拟相机在处于第二相机位姿信息时采集到的指定虚拟图像包括:获取目标生理通道的电子计算机断层扫描信息,并依据电子计算机断层扫描信息生成通道模型;根据第二相机位姿信息和通道模型,获取第二时刻对应的指定虚拟图像。

根据本申请实施例的另一方面,还提供了一种定位装置,包括:第一定位模块,用于在第一时刻,确定柔性器械中的第一曲率峰值点,以及所述曲率峰值点的第一位置信息,其中,所述柔性器械为位于目标生理通道中的器械;第二定位模块,用于在第二时刻,确定所述柔性器械的第二曲率峰值点,以及所述曲率峰值点的第二位置信息;计算模块,用于依据所述第一位置信息和所述第二位置信息,确定所述柔性器械的柔性器械末端的位移信息;处理模块,用于依据所述位移信息和所述柔性器械末端在所述第一时刻的位姿信息,确定所述柔性器械末端在所述第二时刻的位姿信息。

根据本申请实施例的另一方面,还提供了一种非易失性存储介质,非易失性存储介质中存储有程序,其中,在程序运行时控制非易失性存储介质所在设备执行定位方法。

根据本申请实施例的另一方面,还提供了一种电子设备,包括:存储器和处理器,处理器用于运行存储在存储器中的程序,其中,程序运行时执行定位方法。

在本申请实施例中,采用确定柔性器械在第一时刻的第一曲率峰值点,以及第一曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;确定柔性器械在第二时刻的第二曲率峰值点,以及第二曲率峰值点的第二位置信息;依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息的方式,通过确定柔性器械在不同时刻的曲率峰值点的位置信息,达到了通过柔性器械的形状特征确定柔性器械的位姿信息的目的,从而实现了通过柔性器械的形状特征对柔性器械末端定位的技术效果,进而解决了由于相关技术中在定位时需要采集的图像特征过多造成的在生理通道的特征不明显部位无法准确定位柔性器械末端的位置技术问题。

附图说明

此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:

图1是根据本申请实施例的一种计算机终端的结构示意图;

图2是根据本申请实施例的一种定位方法的流程示意图;

图3是根据本申请实施例的一种生理通道模型的模型示意图;

图4是根据本申请实施例的冗余空间示意图;

图5是根据本申请实施例的柔性器械形状与对应曲率的示意图;

图6是根据本申请实施例的曲率峰值点位置信息变化情况的示意图;

图7是根据本申请实施例的多曲率峰值点示意图;

图8是根据本申请实施例的真实图像和虚拟图像的示意图;

图9是根据本申请实施例的位姿更新流程示意图;

图10是根据本申请实施例的定位装置的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。

需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

在相关技术中,常用的导航方法是通过采集目标生理通道中的图像并基于图像特征进行配准,从而确定柔性器械末端在生理通道中的位置。但是基于图像的导航需要依靠当前所见真实图像的特征数量,在柔性器械末端到达生理通道的分岔口时,采集到的生理通道图像中的图像特征比较明显(分叉的数量,形状等),然而在到达分岔口之前,即柔性器械末端在某一个通道的中间时或刚进入某个通道时,通常只能观察到两边的气道壁,此时图像的特征较少,不足以进行可识别结构的匹配计算,可能会导致错配,或者得到的位置信息不准确。另外,在计算可识别结构相似度之前,还会剔除不符合要求的生理通道图片,例如,有大量模糊、光斑的照片无法用于计算。这样在柔性器械末端前进过快时,可能因为相机帧数不够等原因,导致一系列连续帧的图片都无法进入结构相似度识别的计算,从而导致追踪断点或错误的衔接导致后续追踪到的位置与之际不符。

因此,相关技术中在实际使用过程中需要手术操作者频繁手动更正柔性器械末端所在的位置,导致手术过程繁琐。为了解决该问题,本申请实施例中提供了相关的解决方案,以下详细说明。

根据本申请实施例,提供了一种定位方法的方法实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

本申请实施例所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。图1示出了一种用于实现定位方法的计算机终端(或移动设备)的硬件结构框图。如图1所示,计算机终端10(或移动设备10)可以包括一个或多个(图中采用102a、102b,……,102n来示出)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器104、以及用于通信功能的传输模块106。除此以外,还可以包括:显示器、输入/输出接口(I/O接口)、通用串行总线(USB)端口(可以作为BUS总线的端口中的一个端口被包括)、网络接口、电源和/或相机。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述电子装置的结构造成限定。例如,计算机终端10还可包括比图1中所示更多或者更少的组件,或者具有与图1所示不同的配置。

应当注意到的是上述一个或多个处理器102和/或其他数据处理电路在本文中通常可以被称为“数据处理电路”。该数据处理电路可以全部或部分的体现为软件、硬件、固件或其他任意组合。此外,数据处理电路可为单个独立的处理模块,或全部或部分的结合到计算机终端10(或移动设备)中的其他元件中的任意一个内。如本申请实施例中所涉及到的,该数据处理电路作为一种处理器控制(例如与接口连接的可变电阻终端路径的选择)。

存储器104可用于存储应用软件的软件程序以及模块,如本申请实施例中的定位方法对应的程序指令/数据存储装置,处理器102通过运行存储在存储器104内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的应用程序的定位方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。

显示器可以例如触摸屏式的液晶显示器(LCD),该液晶显示器可使得用户能够与计算机终端10(或移动设备)的用户界面进行交互。

在上述运行环境下,本申请实施例提供了一种定位方法,如图2所示,该方法包括如下步骤:

步骤S202,确定柔性器械在第一时刻的第一曲率峰值点,以及第一曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;

在执行步骤S202所提供的技术方案之前,还需要获取目标生理通道的电子计算机断层扫描信息,并依据电子计算机断层扫描信息生成通道模型,以及柔性器械在目标生理通道的移动路径。

具体地,以目标生理通道为支气管道为例,在确定柔性器械在第一时刻的第一曲率峰值点之前,还需要获取支气管道的三维支气管树模型信息,并确定柔性器械在支气管道中的移动路径。在获取三维支气管树模型信息时,可以通过获取支气管道的CT数据,也就是电子计算机断层扫描信息,并依据CT数据构建如图3所示的三维支气管树模型。其中,图3的左侧模型为完整模型,右侧模型为将支气管的中心线代替支气管的支气管树简化模型。支气管树简化模型可用于确定移动路径,而完整模型可用于获取虚拟图像。在得到支气管树模型后,可以通过自动的病灶检测算法或者由目标用户手动在支气管树模型中标记病灶位置,然后便可以根据支气管树简化模型和病灶位置生成抵达病灶位置的路径,该路径可作为本实施例中后续定位及导航过程中的规划路径。在通过完整模型获取虚拟图像时,可通过渲染技术对三维模型内部进行渲染,并通过虚拟摄像机来采集三维模型内部渲染后的虚拟图像。

在步骤S202所提供的技术方案中,柔性器械可以为光纤器械。

步骤S204,确定柔性器械在第二时刻的第二曲率峰值点,以及第二曲率峰值点的第二位置信息;

在步骤S202和步骤S204所提供的技术方案中,第一时刻为柔性器械连接的设备采集目标生理通道的第一通道图像的时刻,第二时刻为柔性器械连接的设备采集目标生理通道的第二通道图像的时刻,其中,在不同的时刻所采集到的通道图像可用于确定柔性器械末端在该时刻的位姿信息。

在本申请的一些实施例中,第一通道图像和第二通道图像可以为设备连续采集的两张图像,即第一时刻和第二时刻为连续采集两张图像的时刻,在此情况下可以使得确定出的柔性器械末端的位姿信息更加准确。

作为一种可选地实施方式,第一通道图像和第二通道图像也可以是非连续采集的两张图像,例如,可以是间隔预设时长的采集到的两张图像的时刻,可以按照实际需求设置预设时长,以节省用于计算柔性器械末端的位姿信息的计算资源等。

作为一种可选地实施方式,在第二时刻,确定柔性器械的第二曲率峰值点的步骤包括:依据第一位置信息,在柔性器械中确定与第二曲率峰值点对应的检索范围,其中,检索范围包含柔性器械上与第一曲率峰值点之间的距离在预设距离范围内的点;在检索范围内确定曲率与第一曲率峰值点对应的曲率差值小于预设曲率差值的点为第二曲率峰值点。

具体地,在柔性器械移动的过程中,由于生理通道内的各种结构并不会发生变化,并且柔性器械的长度固定,因此随着柔性器械的移动,柔性器械上的曲率峰值点在柔性器械上的相对位置也会发生变化,具体变化形式如图6所示,为曲率峰值点会向着柔性器械移动的反方向移动。其中,图6中的虚线表示上一时刻的柔性器械形状及对应的曲率信息,实线表示当前时刻的柔性器械形状和曲率信息。

为了便于确定曲率峰值点的位置,可以在柔性器械上以柔性器械的一端的端点为基准建立一维坐标系,柔性器械上的各个点在坐标系中的坐标可用于体现该点与基准点和柔性器械末端的距离。例如在坐标系的度量衡为1mm的情况下,坐标为78的点说明该点到基准点的距离为78mm,假设光纤的总长度为100mm,则该点与柔性器械末端的距离为22mm。

在建立坐标系后,在确定第二曲率峰值点的位置时,可以采用时序预测的方式。由于柔性器械的采集频率较高,大于内窥镜的采集评率(内窥镜的采集频率为30HZ),目标用户操作柔性器械的速度也有一定的限制。因此可以认为第二曲率峰值点会在第一曲率峰之间的左右M个坐标差区间内。M为正整数,可基于历史数据确定。

需要说明的是,本实施例中所述的柔性器械末端指的是柔性器械深入到生理通道的一端。

在本申请的一些实施例中,第一曲率峰值点和第二曲率峰值点对应的目标生理通道的直径与柔性器械的直径之间的差值小于预设差值阈值。

具体地,如图4所示,光纤柔性器械在弯曲时,由于光纤柔性器械的直径和腔道的直径大小存在差异,存在一定的多余空间,称为冗余空间。在存在冗余空间时,尤其在弯曲处,容易形成不同的形状,这会对曲率峰值点的定位及检测等步骤产生干扰。如图当光纤深入支气管,会出现多个峰值并且追踪,曲率图像上越靠近左侧的波峰冗余空间越大,当轻微扭动或者用力F推送柔性器械前进时,由于力传递在弯曲处会产生分力,导致前进的同时,会左下侧贴近腔道内壁。

为了消除冗余空间对定位的影响,可以通过比较曲率峰值点对应的生理通道直径和光纤的直径,当两者差距小于阈值D-Threshold,则可以认为柔性器械在此处不存在冗余空间,该位置之后的波峰偏移表征光纤前进的距离,前面的波峰偏移量会被舍弃不用。

在确定生理通道直径时,可以通过比较各个曲率峰值点与生理通道中的一些生理特征点,如会厌等之间的距离来预估各个曲率峰值点对应的生理通道直径。具体地,在获取目标生理通道的CT数据时,可以获取目标生理通道中各处的距离相对于会厌等特征点的变化情况,这样可以根据各个曲率峰值点与会厌的距离来确定该曲率峰值点对应的目标生理通道的直径。

作为一种可选地实施方式,在以会厌为基准点来预估曲率峰值点对应的生理通道直径时,可以认为曲率峰值点与柔性器械在移动过程中最开始形成的初始曲率峰值点之间的距离为曲率峰值点与会厌之间的距离。

步骤S206,依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;

在步骤S206所提供的技术方案中,依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息的步骤包括:在第一曲率峰值点的数量为一个的情况下,确定柔性器械的柔性器械末端的位移距离为第二位置信息和第一位置信息的距离差值;在第一曲率峰值点的数量为多个的情况下,将任一第一曲率峰值点和匹配于任一第一曲率峰值点的第二曲率峰值点划分到同一曲率峰值点组,确定各个曲率峰值点组对应的权重系数,并依据权重系数对各个曲率峰值点组的距离差值进行加权求和计算,得到位移信息,其中,任一曲率峰值点组的距离差值基于其所含的第二曲率峰值点的第二位置信息和第一曲率峰值点的第一位置信息计算得到。

在存在多个第二曲率峰值点的情况下,可以通过以下方式来确定匹配于任一第一曲率峰值点的第二曲率峰值点:

1)确定任一第一曲率峰值点对应的检索范围;在检索范围内确定曲率与所述第一曲率峰值点对应的曲率差值小于预设曲率差值的点为匹配于任一第一曲率峰值点的第二曲率峰值点。

2)按照各个峰值点在柔性器械上的排列顺序,确定匹配于任一第一曲率峰值点的第二曲率峰值点。

具体地,如图7所示,随着柔性器械的继续深入,柔性器械的形状会产生多处弯曲,对应到曲率曲线上就是会出现多个峰值,其中,图7中上半部分的线条表示柔性器械的形状,下半分的线条表示柔性器械上各个点对应的曲率,曲率图线上的圆点表示曲率峰值点。并且随着进入生理通道的深度增加,生理通道直径也会变的越小,也就是对应的冗余空间越来越小,柔性器械的波峰偏移量更加贴近实际的柔性器械前进量。因此可以直接采用最后一个波峰的偏移值表示前进量,或者对多个峰值的偏移量通过加权和的方式进行计算。

在加权求和时,可以为每个曲率峰值点设置相同的权重,也可以根据各个曲率峰值点与柔性器械末端的距离来设定权重。具体地,距离柔性器械末端越近,权重越大。

步骤S208,依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

在确定位姿信息时,可以让虚拟摄像机在角度不变的情况下移动相同的上述确定出的位移信息,并采集指定虚拟图像,然后计算出第二通道图像(真实图像)和指定虚拟图像的旋转角度,从而得到柔性器械末端的角度变化量。

具体地,在步骤S208所提供的技术方案中,依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息的步骤包括:确定第二时刻对应的指定虚拟图像和第二通道图像,其中,指定虚拟图像为通过与柔性器械对应的虚拟摄像头在目标生理通道的通道模型中采集得到的图像;依据真实图像和指定虚拟图像,确定柔性器械末端在第二时刻相对于第一时刻的角度变化信息;依据角度变化信息,位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

在本申请的一些实施例中,真实图像和指定虚拟图像如图8所示。

作为一种可选地实施方式,确定第二时刻对应的指定虚拟图像的步骤包括:确定第一时刻虚拟相机在通道模型中的第一相机位姿信息,其中,第一相机位姿信息和柔性器械末端在第一时刻的位姿信息相同;结合位移信息和第一相机位姿信息,确定第二时刻虚拟相机在通道模型中的第二相机位姿信息,其中,第一相机位姿信息和第二相机位姿信息的角度信息相同;获取虚拟相机在处于第二相机位姿信息时采集到的指定虚拟图像。

在本申请的一些实施例中,获取虚拟相机在处于第二相机位姿信息时采集到的指定虚拟图像包括以下步骤:获取目标生理通道的电子计算机断层扫描信息,并依据电子计算机断层扫描信息生成通道模型;根据第二相机位姿信息和通道模型,获取第二时刻对应的指定虚拟图像。

以支气管树为例,可以先采集患者肺部的CT扫描图像,并根据CT扫描图像进行三维重建,得到患者所对应的虚拟三维支气管树,可以将上述得到的虚拟三维支气管树和位姿数据输入渲染器,获得由渲染器输出的各个位姿数据所对应的虚拟图像。例如,假设通道模型即为虚拟三维支气管树,可以将上述第二相机位姿信息和虚拟三维支气管树输入渲染器,获得由渲染器输出的指定虚拟图像。其中,渲染器是指用于对三维模型文件进行渲染处理的渲染引擎,包括但不限于:amold渲染器、vary渲染器等。

需要说明的是,由于在确定柔性器械末端时,需要使用真实图像和指定虚拟图像来确定柔性器械末端的角度变化情况,因此需要保证真实图像和指定虚拟图像为对应于生理通道中的同一位置的图像。采用本申请中所提供的定位方法,可以确保在真实图像和指定虚拟图像已对应同一位置的情况下不会在柔性器械移动的过程中发生真实图像和指定虚拟图像对应位置不同的问题。因此,为了保证定位结果的准确,在定位过程开始前,还需要目标对象手动对齐虚拟摄像机和真实的图像采集设备,从而保证虚拟摄像机采集的虚拟图像和图像采集设备采集的真实图像对应生理通道中的同一位置。

具体地,光纤再通过口/鼻到达主气道时,再大约会厌位置处存在较大的弯曲角度,通过对光纤反馈的器械形状进行数据处理获取其曲率,可以发现,弯曲角度以较大的曲率进行体现,即弯曲程度越大,曲率越大,越接近直线,曲率越小。如图5所示,当柔性器械到达生理通道的主通道时,图5上半部分线条为光纤反馈的器械弯曲形状,下半部分线条为依据形状计算的曲率大小,圆圈表示会厌位置。可以看到,曲率峰值对应的位置和弯曲最大存在对应关系。初始化是人为的去对齐虚拟摄像机的图像和真实内窥镜的图像,在对齐良好的情况下,图像配准算法会进行微调虚拟相机,以达到真实图像和虚拟图像完全一致,虚拟摄像机可以由渲染系统得到在CT重建的三维模型坐标系下的位置,从而得到此时柔性器械末端(柔性器械末端即为真实的内窥镜位置)在三维模型下的位置,完成导航的初始化。

在本申请实施例中,还提供了一种如图9所示的柔性器械末端的位姿信息更新流程的流程示意图。如图9所示,包括以下步骤:

步骤S302,初始化对齐虚拟摄像机和内窥镜;

对齐后可以保证虚拟摄像机和内窥镜所采集的图像是生理通道中同一位置处的图像。

步骤S304,在柔性器械移动的过程中,通过内窥镜采集真实图像;

步骤S306,确定柔性器械的形状特征,并根据形状特征对柔性器械的曲率峰值点进行追踪,从而确定柔性器械末端的位移量;

步骤S308,依据柔性器械末端的位移量确定当前时刻的指定虚拟图像;

步骤S310,依据当前时刻的真实图像和指定虚拟图像确定柔性器械末端的当前时刻位姿信息,并依据当前时刻位姿信息更新当前时刻的指定虚拟图像;

步骤S312,向目标对象展示更新后的指定虚拟图像以及在三维模型中展示柔性器械末端的位姿信息。

通过确定柔性器械在第一时刻的第一曲率峰值点,以及第一曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;确定柔性器械在第二时刻的第二曲率峰值点,以及第二曲率峰值点的第二位置信息;依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息的方式,通过确定柔性器械在不同时刻的曲率峰值点的位置信息,达到了通过柔性器械的形状特征确定柔性器械的位移信息的目的,从而实现了通过柔性器械的形状特征对柔性器械末端定位的技术效果,进而解决了由于相关技术中在定位时需要采集的图像特征过多造成的在生理通道的特征不明显部位无法准确定位柔性器械末端的位置技术问题。

本申请实施例提供了一种定位装置。图10是该定位装置的结构示意图,如图10所示,该装置包括:第一定位模块40,用于在第一时刻,确定柔性器械中的第一曲率峰值点,以及曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;第二定位模块42,用于在第二时刻,确定柔性器械的第二曲率峰值点,以及曲率峰值点的第二位置信息;计算模块44,用于依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;处理模块46,用于依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

在本申请的一些实施例中,第一时刻为柔性器械连接的设备采集目标生理通道的第一通道图像的时刻,第二时刻为柔性器械连接的设备采集目标生理通道的第二通道图像的时刻。

在本申请的一些实施例中,第一曲率峰值点和第二曲率峰值点对应的目标生理通道的直径与柔性器械的直径之间的差值小于预设差值阈值。

在本申请的一些实施例中,第二定位模块42在第二时刻,确定柔性器械的第二曲率峰值点的步骤包括:依据第一位置信息,在柔性器械中确定与第二曲率峰值点对应的检索范围,其中,检索范围包含柔性器械上与第一曲率峰值点之间的距离在预设距离范围内的点;在检索范围内确定曲率与第一曲率峰值点对应的曲率差值小于预设曲率差值的点为第二曲率峰值点。

在本申请的一些实施例中,计算模块44依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息的步骤包括:在第一曲率峰值点的数量为一个的情况下,确定柔性器械的柔性器械末端的位移距离为第二位置信息和第一位置信息的距离差值;在第一曲率峰值点的数量为多个的情况下,将任一第一曲率峰值点和匹配于任一第一曲率峰值点的第二曲率峰值点划分到同一曲率峰值点组,确定各个曲率峰值点组对应的权重系数,并依据权重系数对各个曲率峰值点组的距离差值进行加权求和计算,得到位移信息,其中,任一曲率峰值点组的距离差值基于其所含的第二曲率峰值点的第二位置信息和第一曲率峰值点的第一位置信息计算得到。

在本申请的一些实施例中,处理模块46依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息的步骤包括:确定第二时刻对应的指定虚拟图像和第二通道图像,其中,指定虚拟图像为通过与柔性器械对应的虚拟摄像头在目标生理通道的通道模型中采集得到的图像;依据真实图像和指定虚拟图像,确定柔性器械末端在第二时刻相对于第一时刻的角度变化信息;依据角度变化信息,位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

在本申请的一些实施例中,处理模块46确定第二时刻对应的指定虚拟图像的步骤包括:确定第一时刻虚拟相机在通道模型中的第一相机位姿信息,其中,第一相机位姿信息和柔性器械末端在第一时刻的位姿信息相同;结合位移信息和第一相机位姿信息,确定第二时刻虚拟相机在通道模型中的第二相机位姿信息;获取虚拟相机在处于第二相机位姿信息时采集到的指定虚拟图像。

需要说明的是,上述定位装置中的各个模块可以是程序模块(例如是实现某种特定功能的程序指令集合),也可以是硬件模块,对于后者,其可以表现为以下形式,但不限于此:上述各个模块的表现形式均为一个处理器,或者,上述各个模块的功能通过一个处理器实现。

本申请实施例提供了一种非易失性存储介质。非易失性存储介质中存储有程序,其中,在程序运行时控制非易失性存储介质所在设备执行如下定位方法:确定柔性器械在第一时刻的第一曲率峰值点,以及第一曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;确定柔性器械在第二时刻的第二曲率峰值点,以及第二曲率峰值点的第二位置信息;依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

本申请实施例提供了一种电子设备。电子设备包括存储器和处理器,处理器用于运行存储在存储器中的程序,其中,程序运行时执行如下定位方法:确定柔性器械在第一时刻的第一曲率峰值点,以及第一曲率峰值点的第一位置信息,其中,柔性器械为位于目标生理通道中的器械;确定柔性器械在第二时刻的第二曲率峰值点,以及第二曲率峰值点的第二位置信息;依据第一位置信息和第二位置信息,确定柔性器械的柔性器械末端的位移信息;依据位移信息和柔性器械末端在第一时刻的位姿信息,确定柔性器械末端在第二时刻的位姿信息。

上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。

在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,可以为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对相关技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。

技术分类

06120115986893