掌桥专利:专业的专利平台
掌桥专利
首页

探头位置预测及模型构建方法、系统、设备和介质

文献发布时间:2024-04-18 20:00:50


探头位置预测及模型构建方法、系统、设备和介质

技术领域

本公开涉及超声技术领域,尤其涉及一种探头位置预测及模型构建方法、系统、设备和介质。

背景技术

医学领域中,在对患者的身体部位进行检查时,通常借助于探测探头对患者进行检查。

随着技术的不断进步,超声技术在医疗领域得到了广泛应用,并且具有多个代表性的应用领域。其中包括A型超声检测、B型超声检测以及血管内超声检测等方面。A型超声检测可用于评估心脏和血流动力学状态,而B型超声检测则用于生物组织成像,如妇科和胎儿监测。此外,血管内超声检测也被广泛应用于导管介入手术中,以帮助医生观察血管狭窄或血栓形成等情况。除了医疗领域,超声技术还在其他众多领域发挥着重要作用,例如材料科学、机械工程以及食品安全等。因其非侵入性、实时性和可重复性等特点,超声技术将继续在各个领域展现广阔的应用前景。

现有的探测探头,特别是超声探头,在对患者的身体部位进行检查或治疗时,探头定位误差较大,无法实现准确且可靠定位,影响治疗效果。

发明内容

本公开要解决的技术问题是为了克服现有技术中无法对探测探头进行实时性和准确性的定位的缺陷,提供一种探头位置预测及模型构建方法、系统、设备和介质。

本公开是通过下述技术方案来解决上述技术问题:

第一方面,提供一种探头位置预测模型的构建方法,所述构建方法包括:

基于样本身体部位对应的样本探测数据,建立所述样本身体部位对应的三维身体部位模型;

根据所述三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据;

基于所述虚拟探头定位数据和所述虚拟探头扫描数据,获取所述样本身体部位对应的二维结构样本数据集;

根据所述二维结构样本数据集训练得到所述探头位置预测模型;

其中,所述探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据;

所述实际身体部位包括所述实际探测探头可探入的第一身体部位,或所述实际探测探头不可探入的第二身体部位。

较佳地,所述根据所述三维身体部位模型对应的三维数据,模拟虚拟探测探头对应的虚拟探头定位数据,及虚拟探头扫描数据的步骤包括:

根据所述三维身体部位模型对应的三维数据,模拟探测所述第一身体部位的所述虚拟探头对应的所述虚拟探头定位数据,及所述虚拟探头扫描数据;

其中,所述探头位置预测模型用于预测输入的所述实际探测数据对应的所述实际探测探头,探入所述第一身体部位内的所述实际定位数据;

或,根据所述三维身体部位模型对应的三维数据,模拟探测所述第二身体部位的所述虚拟探头对应的所述虚拟探头定位数据,及所述虚拟探头扫描数据;

其中,所述探头位置预测模型用于预测输入的所述实际探测数据对应的所述实际探测探头,探入身体内且在所述第二身体部位外的所述实际定位数据。

较佳地,所述基于样本身体部位对应的样本探测数据建立所述样本身体部位对应的三维身体部位模型的步骤包括:

基于样本探测探头对目标对象进行扫描,以采集所述目标对象的样本探测数据;

对所述样本探测数据进行三维重建处理,以建立得到所述三维身体部位模型。

较佳地,所述根据所述三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据步骤包括:

获取预设扫描数据;

模拟所述虚拟探头对应的所述虚拟探头定位数据;

基于所述虚拟探头定位数据和所述预设扫描数据,得到所述虚拟探头扫描数据。

较佳地,当所述第一身体部位包括心脏时,所述获取预设扫描数据步骤之前还包括:

获取所述虚拟探头在心脏区域内的预设位置范围;

其中,所述虚拟探头定位数据位于所述预设位置范围内。

较佳地,所述基于所述虚拟探头定位数据和所述虚拟探头扫描数据,获取所述样本身体部位对应的二维结构样本数据集的步骤包括:

对于所述虚拟探头在所述三维身体部位模型中的任一预设采样点,基于所述预设采样点对应的所述虚拟探头扫描数据与所述三维身体部位模型的交集,得到所述预设采样点对应的初始三维交点数据;

基于所述预设采样点对应的所述虚拟探头定位数据,及所述初始三维交点数据,得到所述预设采样点对应的初始二维结构数据;

获取所述预设采样点对应的随机变换矩阵;

基于若干个所述随机变换矩阵,及对应的所述初始二维结构数据得到所述二维结构样本数据集。

较佳地,所述获取所述预设采样点对应的随机变换矩阵的步骤包括:

获取所述预设采样点对应的随机旋转矩阵;

获取所述预设采样点对应的目标位置坐标;

基于所述随机旋转矩阵和所述目标位置坐标,得到所述随机变换矩阵。

较佳地,所述第一身体部位包括心脏或心血管;所述第二身体部位包括肝脏、肾脏、甲状腺、乳腺或前列腺;

和/或,所述探测探头包括超声探头。

较佳地,所述根据所述二维结构样本数据集训练得到所述探头位置预测模型的步骤包括:

基于所述二维结构样本数据集训练预设网络模型,以得到所述探头位置预测模型。

较佳地,所述预设网络模型基于Encoder(编码)结构模型和Decoder(解码)结构模型构建得到。

较佳地,所述预设网络模型基于UNet(一种分割模型)网络和PointNet++(一种深度学习模型)网络构建得到。

较佳地,所述探头位置预测模型包括输入层、下采样层、上采样层和输出层;

所述基于所述二维结构样本数据集训练预设网络模型,以得到所述探头位置预测模型的步骤包括:

将所述二维结构样本数据集输入至所述输入层进行采样操作,输出初始二维结构数据对应的初始实际点集数量;

若所述初始实际点集数量大于预设点集数量,则将所述初始二维结构数据输入至所述下采样层,输出目标二维结构数据;

若所述初始实际点集数量小于所述预设点集数量,则将所述初始二维结构数据输入至所述上采样层,输出所述目标二维结构数据;

其中,所述目标二维结构数据对应的目标实际点集数量等于所述预设点集数量;

将所述目标二维结构数据输入至所述输出层,输出所述实际探测探头探测所述实际身体部位时的所述实际定位数据。

较佳地,所述将所述初始二维结构数据输入至所述下采样层,输出目标二维结构数据的步骤包括:

采用多层感知机和最远点采样法,对所述初始二维结构数据进行处理,输出所述目标二维结构数据;

其中,所述目标二维结构数据包括层特征信息和图像位置信息;

和/或,

所述将所述初始二维结构数据输入至所述上采样层,输出所述目标二维结构数据的步骤包括:

采用多层感知机和等高线插值法,对所述初始二维结构数据进行处理,输出所述目标二维结构数据;

其中,所述目标二维结构数据包括层特征信息和图像位置信息。

第二方面,还提供一种探头位置预测方法,所述探头位置预测方法包括上述所述的探头位置预测模型的构建方法,所述探头位置预测方法包括:

基于实际探测探头采集的初始探测数据,得到实际身体部位对应的目标探测数据;

将所述目标探测数据输入至基于所述构建方法得到的探头位置预测模型,以输出所述实际探测探头探测所述实际身体部位时的实际定位数据。较佳地,所述基于实际探测探头采集的初始探测数据,得到目探测数据的步骤包括:

获取所述实际探测探头采集的所述初始探测数据;

对初始探测数据进行语义分割操作,得到若干分割掩码图像;

对若干所述分割掩码图像进行轮廓提取操作,得到所述目标探测数据。较佳地,所述对初始探测数据进行语义分割操作,得到若干分割掩码图像的步骤包括:

基于预设语义分割模型对所述初始探测数据进行语义分割操作,得到若干所述分割掩码图像;

和/或,

所述对若干所述分割掩码图像进行轮廓提取操作,得到所述目标探测数据的步骤包括:

遍历所述分割掩码图像中的全部前景像素点,获取初始边缘轮廓点;

遍历所述初始边缘轮廓点,判断所述初始边缘轮廓点中的每个目标边缘轮廓点是否为预设轮廓点;

若是,则从所述初始边缘轮廓点中去除所述目标边缘轮廓点,并将所述初始边缘轮廓点中去除所述目标边缘轮廓点后的剩余边缘轮廓点,作为所述目标探测数据。

第三方面,提供一种探头位置预测模型的构建系统,所述构建系统包括:

模型建立模块,用于基于样本身体部位对应的样本探测数据建立所述样本身体部位对应的三维身体部位模型;

虚拟探头模拟模块,用于根据所述三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据;

样本获取模块,用于基于所述虚拟探头定位数据和所述虚拟探头扫描数据,获取所述样本身体部位对应的二维结构样本数据集;

模型训练模块,用于根据所述二维结构样本数据集训练得到所述探头位置预测模型;

其中,所述探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据;

所述实际身体部位包括所述实际探测探头可探入的第一身体部位,或所述实际探测探头不可探入的第二身体部位。较佳地,所述虚拟探头模拟模块用于根据所述三维身体部位模型对应的三维数据,模拟探测所述第一身体部位的所述虚拟探头对应的所述虚拟探头定位数据,及所述虚拟探头扫描数据;

其中,所述探头位置预测模型用于预测输入的所述实际探测数据对应的所述实际探测探头,探入所述第一身体部位内的所述实际定位数据;

或,所述虚拟探头模拟模块用于根据所述三维身体部位模型对应的三维数据,模拟探测所述第二身体部位的所述虚拟探头对应的所述虚拟探头定位数据,及所述虚拟探头扫描数据;

其中,所述探头位置预测模型用于预测输入的所述实际探测数据对应的所述实际探测探头,探入身体内且在所述第二身体部位外的所述实际定位数据。

较佳地,所述模型建立模块包括:

数据采集单元,用于基于样本探测探头对目标对象进行扫描,以采集所述目标对象的样本探测数据;

模型建立单元,用于对所述样本探测数据进行三维重建处理,以建立得到所述三维身体部位模型。

较佳地,所述虚拟探头模拟模块包括:

预设数据获取单元,用于获取预设扫描数据;

定位数据获取单元,用于模拟所述虚拟探头对应的所述虚拟探头定位数据;

扫描数据获取单元,用于基于所述虚拟探头定位数据和所述预设扫描数据,得到所述虚拟探头扫描数据。

较佳地,当所述第一身体部位包括心脏时,所述虚拟探头模拟模块还包括:

位置范围获取单元,用于获取所述虚拟探头在心脏区域内的预设位置范围;

其中,所述虚拟探头定位数据位于所述预设位置范围内。

较佳地,所述样本获取模块包括:

三维交点获取单元,用于对于所述虚拟探头在所述三维身体部位模型中的任一预设采样点,基于所述预设采样点对应的所述虚拟探头扫描数据与所述三维身体部位模型的交集,得到所述预设采样点对应的初始三维交点数据;

初始数据获取单元,用于基于所述预设采样点对应的所述虚拟探头定位数据,及所述初始三维交点数据,得到所述预设采样点对应的初始二维结构数据;

变换矩阵获取单元,用于获取所述预设采样点对应的随机变换矩阵;

样本数据构建单元,用于基于若干个所述随机变换矩阵,及对应的所述初始二维结构数据得到所述二维结构样本数据集。

较佳地,所述变换矩阵获取单元还用于获取所述预设采样点对应的随机旋转矩阵;获取所述预设采样点对应的目标位置坐标;基于所述随机旋转矩阵和所述目标位置坐标,得到所述随机变换矩阵。

较佳地,所述第一身体部位包括心脏或心血管;所述第二身体部位包括肝脏、肾脏、甲状腺、乳腺或前列腺;

和/或,所述探测探头包括超声探头。

较佳地,所述模型训练模块用于基于所述二维结构样本数据集训练预设网络模型,以得到所述探头位置预测模型。

较佳地,所述预设网络模型基于Encoder结构模型和Decoder结构模型构建得到。

较佳地,所述预设网络模型基于UNet网络和PointNet++网络构建得到。

较佳地,所述探头位置预测模型包括输入层、下采样层、上采样层和输出层;所述模型训练模块用于将所述二维结构样本数据集输入至所述输入层进行采样操作,输出初始二维结构数据对应的初始实际点集数量;若所述初始实际点集数量大于预设点集数量,则将所述初始二维结构数据输入至所述下采样层,输出目标二维结构数据;若所述初始实际点集数量小于所述预设点集数量,则将所述初始二维结构数据输入至所述上采样层,输出所述目标二维结构数据;其中,所述目标二维结构数据对应的目标实际点集数量等于所述预设点集数量;将所述目标二维结构数据输入至所述输出层,输出所述实际探测探头探测所述实际身体部位时的所述实际定位数据。

较佳地,所述模型训练模块采用多层感知机和最远点采样法,对所述初始二维结构数据进行处理,输出所述目标二维结构数据;

其中,所述目标二维结构数据包括层特征信息和图像位置信息;

和/或,所述模型训练模块采用多层感知机和等高线插值法,对所述初始二维结构数据进行处理,输出所述目标二维结构数据;

其中,所述目标二维结构数据包括层特征信息和图像位置信息。

第四方面,还提供一种探头位置预测系统,所述探头位置预测系统包括上述所述的探头位置预测模型的构建系统,所述探头位置预测系统包括:

探测数据获取模块,用于基于实际探测探头采集的初始探测数据,得到实际身体部位对应的目标探测数据;

探头位置预测模块,用于将所述目标探测数据输入至基于所述构建系统得到的探头位置预测模型,以输出所述实际探测探头探测所述实际身体部位时的实际定位数据。

较佳地,所述探测数据获取模块包括:

初始数据采集单元,用于获取所述实际探测探头采集的所述初始探测数据;

语义分割单元,用于对所述初始探测数据进行语义分割操作,得到若干分割掩码图像;

轮廓提取单元,用于对若干所述分割掩码图像进行轮廓提取操作,得到所述目标探测数据。

较佳地,所述语义分割单元用于基于预设语义分割模型对所述初始探测数据进行语义分割操作,得到若干所述分割掩码图像;

和/或,所述轮廓提取单元用于遍历所述分割掩码图像中的全部前景像素点,获取初始边缘轮廓点;遍历所述初始边缘轮廓点,判断所述初始边缘轮廓点中的每个目标边缘轮廓点是否为预设轮廓点;若是,则从所述初始边缘轮廓点中去除所述目标边缘轮廓点,并将所述初始边缘轮廓点中去除所述目标边缘轮廓点后的剩余边缘轮廓点,作为所述目标探测数据。

第五方面,还提供一种探头装置,所述探头装置包括探测探头,及上述的探头位置预测系统。

第六方面,还提供一种电子设备,包括存储器、处理器及存储在存储器上并用于在处理器上运行的计算机程序,所述处理器执行计算机程序时实现上述的探头位置预测模型的构建方法,或上项所述的探头位置预测方法。

第七方面,还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述的探头位置预测模型的构建方法,或上述的探头位置预测方法。

在符合本领域常识的基础上,上述各优选条件,可任意组合,即得本公开各较佳实例。

本公开的积极进步效果在于:

本公开的探头位置预测及模型构建方法、系统、设备和介质,基于样本探测数据,建立样本身体部位对应的三维身体部位模型,根据三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据,并最终得到样本身体部位对应的二维结构样本数据集,训练得到探头位置预测模型,通过探头位置预测模型预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现对实际探测探头的准确且可靠定位。

附图说明

图1为本公开实施例1提供的探头位置预测模型的构建方法的第一流程示意图;

图2为本公开实施例1提供的探头位置预测模型的构建方法的第二流程示意图;

图3为本公开实施例1提供的探头位置预测模型的构建方法的第三流程示意图;

图4为本公开实施例1提供的探头位置预测模型的构建方法的第四流程示意图;

图5为本公开实施例1提供的探头位置预测模型的构建方法中建立三维身体部位模型的第一示意图;

图6为本公开实施例1提供的探头位置预测模型的构建方法中建立三维身体部位模型的第二示意图;

图7为本公开实施例1提供的探头位置预测模型的构建方法的第五流程示意图;

图8为本公开实施例1提供的探头位置预测模型的构建方法的第六流程示意图;

图9为本公开实施例1提供的探头位置预测模型的构建方法中初始二维结构数据对应的影像示意图;

图10为本公开实施例1提供的探头位置预测模型的构建方法中探头位置预测模型训练过程示意图;

图11为本公开实施例1提供的探头位置预测模型的构建方法中心内探头位置预测模型的模型结构图;

图12为本公开实施例2提供的探头位置预测方法的第一流程示意图;

图13为本公开实施例2提供的探头位置预测方法的第二流程示意图;

图14为本公开实施例2提供的探头位置预测方法的预测过程示意图;

图15为本公开实施例2提供的探头位置预测方法中初始心内二维超声影像的示意图;

图16为本公开实施例2提供的探头位置预测方法中分割掩码图像的示意图;

图17为本公开实施例2提供的探头位置预测方法中初始边缘轮廓点构成的轮廓图的示意图;

图18为本公开实施例2提供的探头位置预测方法中目标心内二维超声影像的示意图;

图19为本公开实施例3提供的探头位置预测模型的构建系统的结构示意图;

图20为本公开实施例4提供的探头位置预测系统的结构示意图;

图21为本公开实施例6提供的电子设备的结构示意图。

具体实施方式

下面通过实施例的方式进一步说明本公开,但并不因此将本公开限制在所述的实施例范围之中。

实施例1

为了进行心脏消融手术,需要通过血管将介入导管放置到心脏中,而关键在于准确确定导管探头的位置。目前,常用的导管定位方法有三维磁场定位法和三维电场定位法。磁场导管定位方法利用手术床下的3个线圈产生磁场,并通过导管附近的探测线圈感知这些磁场的强度,以确定导管在磁场中的位置。然而,该方法要求患者不能移动,否则会导致较大的定位误差。电场定位方法则使用贴在患者皮肤上的3对电极片产生3个正交电场,导管头部内嵌的电极用于测量这些电场的强度,从而确定导管头部在心脏中的位置。与磁场定位相比,由于电极位于皮肤表面,当患者改变体位时,定位误差较小。这两种方法都需要昂贵的设备,只有少数厂商能够生产。

本实施例解决了上述现有方案存在的问题,提供一种探头位置预测模型的构建方法,如图1所示,该构建方法包括:

S1、基于样本身体部位对应的样本探测数据,建立样本身体部位对应的三维身体部位模型。

S2、根据三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据。

S3、基于虚拟探头定位数据和虚拟探头扫描数据,获取样本身体部位对应的二维结构样本数据集。

S4、根据二维结构样本数据集训练得到探头位置预测模型。

其中,探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据;实际身体部位包括实际探测探头可探入的第一身体部位,或实际探测探头不可探入的第二身体部位。

本实施例的探头位置预测模型的构建方法,基于样本身体部位对应的样本探测数据,建立样本身体部位对应的三维身体部位模型,根据三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据,并最终得到样本身体部位对应的二维结构样本数据集,进而根据二维结构样本数据集训练得到探头位置预测模型,通过探头位置预测模型预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现对实际探测探头的准确且可靠定位。

在一可选的实施方式中,如图2所示,步骤S2包括:

S21、根据三维身体部位模型对应的三维数据,模拟探测第一身体部位的虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据。

其中,探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探入第一身体部位内的实际定位数据。

具体地,第一身体部位包括心脏或心血管,在探测过程中,实际探测探头可以探入第一身体部位内,即实际探测探头可以进入第一身体部位内部进行探测。

本实施方式的探头位置预测模型的构建方法,通过探头位置预测模型预测输入的实际探测数据对应的实际探测探头,探入第一身体部位内的实际定位数据,实现对实际探测探头的准确且可靠定位。

在一可选的实施方式中,如图3所示,步骤S2包括:

S22、根据三维身体部位模型对应的三维数据,模拟探测第二身体部位的虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据。

其中,探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探入身体内且在第二身体部位外的实际定位数据。

具体地,第二身体部位包括肝脏、肾脏、甲状腺、乳腺或前列腺,在探测过程中,实际探测探头可以探入身体内且在第二身体部位外,即实际探测探头可以与身体皮肤相接触,但在第二身体部位外进行探测。

本实施方式的探头位置预测模型的构建方法,通过探头位置预测模型预测输入的实际探测数据对应的实际探测探头,探入身体内且在第二身体部位外的实际定位数据,实现对实际探测探头的准确且可靠定位。

在一可选的实施方式中,如图4所示,步骤S1包括:

S11、基于样本探测探头对目标对象进行扫描,以采集目标对象的样本探测数据。

S12、对样本探测数据进行三维重建处理,以建立得到三维身体部位模型。

目标对象(也可称为患者)可以是人,也可以是动物。

样本探测数据可以是影像数据。

当影像数据为心脏的超声影像时,可以使用探测探头对患者进行体外超声扫描,具体地,在患者平躺时,探测探头垂直紧贴人体,自颈下至腰上采集人体心脏体外二维影像,通过心音图仪监测心音数据,使心外超声探头捕捉心脏等容舒张期的超声影像,即对心脏体外二维影像进行第三心音筛选,得到心脏第三心音处的超声影像,若干第三心音处的超声影像构成了前述的样本探测数据,且该样本探测数据是二维图像。

样本探测探头可以是2D(二维)探头,如图5所示,2D探头扫描获得2D图像,此时,样本探测数据是二维图像,使用像素最近邻法(Pixel Nearest Neighbor,一种基于像素的三维重建算法),对若干二维图像进行三维重建,建立得到三维身体部位模型(即3D模型)。

样本探测探头也可以是3D(三维)探头,如图6所示,3D探头扫描获得的3D数据包含若干2D图像,此时,样本探测数据是二维图像,可以基于体素重建、特征点配准、三维融合将部分三维身体部位模型(即3D模型)合并成一个完整的三维身体部位模型(即完整3D模型)。

在一可选的实施方式中,如图7所示,步骤S2包括:

S23、获取预设扫描数据。

S24、模拟虚拟探头对应的虚拟探头定位数据。

S25、基于虚拟探头定位数据和预设扫描数据,得到虚拟探头扫描数据。

在一可选的实施方式中,当第一身体部位包括心脏时,获取预设扫描数据之前还包括:

获取虚拟探头在心脏区域内的预设位置范围。

其中,虚拟探头定位数据位于预设位置范围内。

下面,以第一身体部位为心脏为例,进行具体说明。

心脏的三维身体部位模型的三维数据,包括心脏的三维身体部位模型的包围盒B=(X

其中,心脏的三维身体部位模型的源点坐标为O=(X,Y,Z),X

根据以下公式:

将心脏的三维身体部位模型的源点坐标O调整至世界坐标系下的新的源点坐标O′,使得心脏的三维身体部位模型的三维数据的几何中心与世界坐标下的源点坐标O′=(0,0,0)对齐。同时,三维数据中的所有坐标也会相应发生位移调整,其位移调整方式与源点坐标为O的移动方式相同。

世界坐标系是一种用于描述物体位置和方向的参考框架。它通常用于计算机图形学和三维模型领域,以确保对象在不同环境中的一致性渲染和定位。世界坐标系由三个相互垂直的轴(通常是X、Y和Z轴)组成,其中每个轴代表一个独立的空间方向。通过给定坐标值,可以准确地定位和定向物体相对于世界坐标系的位置。这样,不同的对象可以根据它们在世界坐标系中的位置进行精确的比较和交互操作。

此时,实际探测探头是心腔内超声探头,可以内置在ICE(心腔内超声)导管中,采集时将ICE导管经外周血管介入的方式插入心腔内,便可通过心腔内超声探头采集心内膜二维图像,ICE探头(即实际探测探头)在心脏中的位置主要有:

1)右心房,ICE探头从股静脉入路置入心脏,首先从下腔静脉进入到右心房中部,通过旋转ICE导管,可观察右心室、左心房、卵圆窝、肺静脉等心脏内部结构,可指导房间隔穿刺、卵圆孔封堵、排查心房血栓等手术。

2)左心房,ICE探头在右心房时,到过打A/P弯以及导管的递送,可沿卵圆窝进入到左心房,ICE导管在左心房中可指导左心耳封堵手术。

3)右心室:ICE探头在右心房时,到过打A/P弯以及导管的递送,沿三尖瓣方向可进入到右心室,ICE导管在右心室可通过构建左心室长轴、构建右心室短轴以及监测右心室底部心包积液等操作,指导心律失常中的消融过程。

根据ICE导管在心脏手术中的使用场景,定义集合I=I

例如,以点O(0,0,0)为源点,点A(400,400,0)与点B(400,-400,0)为半径端点构建空间初始虚拟扇面F,初始虚拟扇面F对应的数据即为预设扫描数据。点A与点B的实际取值可依据不同型号的心内超声探头的扫描范围进行设定。

虚拟探头是由探头模型(这里当作为一个点)和变换矩阵组成,虚拟探头的原点在成像装置上,同样的初始虚拟扇面是由扇面模型和变换矩阵组成;其中,虚拟探头的变换矩阵恒等于初始虚拟扇面的变换矩阵,都是M。虚拟探头为一个点,通过变换矩阵M(即虚拟探头定位数据)定义其位置和朝向,根据初始虚拟扇面F和虚拟探头定位数据M,得到虚拟探头在心脏的三维器官模型内扫描的截面数据F′(即虚拟探头扫描数据)。

通过变换矩阵M,对初始虚拟扇面F进行位置变换处理,位置变换处理包括但不限于旋转、移动操作,得到对初始虚拟扇面F进行位置变换后的虚拟探头扫描数据F′,F′=MF。

其中,虚拟探头定位数据

在一可选的实施方式中,如图8所示,步骤S3包括:

S31、对于虚拟探头在三维身体部位模型中的任一预设采样点,基于预设采样点对应的虚拟探头扫描数据与三维身体部位模型的交集,得到预设采样点对应的初始三维交点数据。

S32、基于预设采样点对应的虚拟探头定位数据,及初始三维交点数据,得到预设采样点对应的初始二维结构数据。

S33、获取预设采样点对应的随机变换矩阵。

S34、基于若干个随机变换矩阵,及对应的初始二维结构数据得到二维结构样本数据集。

在获取二维结构样本数据集的过程中,需要获取若干个预设采样点对应的随机变换矩阵和初始二维结构数据。

同样以心脏的三维身体部位模型为例,例如,对于预设采样点i,根据预设采样点i对应的虚拟探头扫描数据F

其中,R为转换矩阵,

根据若干个预设采样点i的随机变换矩阵,及对应的初始二维结构数据得到二维结构样本数据集。

通过前述的计算,得到虚拟探头在三维身体部位模型中初始二维结构数据,以模拟出实际探测探头采集的实际探测数据。

在一可选的实施方式中,获取预设采样点对应的随机变换矩阵的步骤包括:

获取预设采样点对应的随机旋转矩阵;

获取预设采样点对应的目标位置坐标;

基于随机旋转矩阵和目标位置坐标,得到随机变换矩阵。

虚拟探头的旋转与位移相互独立,可分别取值,虚拟探头的x轴、y轴、z轴的旋转顺序相互依赖,虚拟探头的位置坐标约束于前述的位置范围I,虚拟探头位置的x、y、z相互独立,可在约束下分别取值。

具体的,可依照以下步骤进行样本的随机采样:

1)对x轴、y轴、z轴三个旋转顺序进行随机排列,每种旋转方式θ在[0,2π)中随机取值,于是可得到随机旋转矩阵

2)随机选取虚拟探头在身体部位中的所在区域(即目标区域),使得目标区域D

3)分别对虚拟探头的目标位置坐标S

4)通过随机采样步骤1)~3)得到随机变换矩阵

根据全部预设采样点的随机变换矩阵,及对应的初始二维结构数据得到二维结构样本数据集,即全部的随机位置结构样本对(W

二维结构样本数据集也可以称为二维轮廓点集,如图10所示,若虚拟探头为虚拟2D探头,则虚拟2D探头对应的是2D截面,对应的是二维结构样本数据集(即轮廓点集)。若虚拟探头为虚拟3D探头,则虚拟3D探头对应的是3D数据包含若干2D截面,最终对应的也是二维结构样本数据集(即轮廓点集),进而训练得到探头位置预测模型。

实际身体部位包括实际探测探头可探入的第一身体部位,或实际探测探头不可探入的第二身体部位;第一身体部位包括心脏或心血管,第二身体部位包括肝脏、肾脏、甲状腺、乳腺或前列腺,前述以第一身体部位为心脏为例,详细介绍了获取心脏对应的二维结构样本数据集的过程,其他实际身体部位对应的二维结构样本数据集的获取过程与心脏对应的二维结构样本数据集的获取过程类似,此处就不再赘述。

具体地,探测探头包括超声探头,也可采用其他类型的探测探头进行对身体部位的探测,只要能实现对应的数据获取和功能即可。

在一可选的实施方式中,根据二维结构样本数据集训练得到探头位置预测模型的步骤包括:

基于二维结构样本数据集训练预设网络模型,以得到探头位置预测模型。

在一可选的实施方式中,预设网络模型基于Encoder结构模型和Decoder结构模型构建得到。

具体地,预设网络模型基于UNet网络和PointNet++网络构建得到。

使用UNet网络,通过上采样链接和下采样链接获取多尺度特征信息(层特征信息);同时,使用PointNet++网络对输入的样本数据集中的图像点云数据进行处理,得到图像位置信息。

在一可选的实施方式中,探头位置预测模型包括输入层、下采样层、上采样层和输出层;

基于二维结构样本数据集训练预设网络模型,以得到探头位置预测模型的步骤包括:

将二维结构样本数据集输入至输入层进行采样操作,输出初始二维结构数据对应的初始实际点集数量;

若初始实际点集数量大于预设点集数量,则将初始二维结构数据输入至下采样层,输出目标二维结构数据;

若初始实际点集数量小于预设点集数量,则将初始二维结构数据输入至上采样层,输出目标二维结构数据;

其中,目标二维结构数据对应的目标实际点集数量等于预设点集数量;

将目标二维结构数据输入至输出层,输出实际探测探头探测实际身体部位时的实际定位数据。

在输入层中,需要对二维结构样本数据集进行采样操作,使得每个预设采样点的初始二维结构数据中初始实际点集数量为预设点集数量。下采样层采用多层感知机和最远点采样法,对初始二维结构数据进行处理,输出目标二维结构数据,使得目标二维结构数据对应的目标实际点集数量等于预设点集数量;上采样层采用多层感知机和等高线插值法,对初始二维结构数据进行处理,输出目标二维结构数据,使得目标二维结构数据对应的目标实际点集数量等于预设点集数量。

例如,预设网络模型为LNN(Localization Neural Network,定位神经网络)模型,通过对LNN模型进行训练,得到探头位置预测模型。

例如,探头位置预测模型的模型结构图如图11所示,下采样层(down sampling)和上采样层(up sampling)的多层感知机均使用了三层结构。目标二维结构数据包括层特征信息和图像位置信息,实现了对样本数据集中的图像点云数据进行处理,和对层特征信息的提取,提高了模型的准确度。

例如,预设点集数量为1024,若预设采样点i的初始二维结构数据P′

实际定位数据对应探头的x,y,z位移信息和探头的a

预设网络模型使用的SmoothL1损失函数,其主要由两部分组成,一部分是由虚拟探头的位置坐标中的x,y,z位移信息组成,另一部分是由虚拟探头的a

其中

本实施方式的探头位置预测模型的构建方法,通过探头位置预测模型,可以准确的预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现对实际探测探头的准确且可靠定位。

实施例2

本实施例提供一种探头位置预测方法,探头位置预测方法包括实施例1中的探头位置预测模型的构建方法,如图12所示,探头位置预测方法包括:

S5、基于实际探测探头采集的初始探测数据,得到实际身体部位对应的目标探测数据。

S6、将目标探测数据输入至基于构建方法得到的探头位置预测模型,以输出实际探测探头探测实际身体部位时的实际定位数据。

在一可选的实施方式中,如图13所示,步骤S5包括:

S51、获取实际探测探头采集的初始探测数据。

S52、对初始探测数据进行语义分割操作,得到若干分割掩码图像。

S53、对若干分割掩码图像进行轮廓提取操作,得到目标探测数据。

实际探测探头可以是2D探头,也可以是3D探头;如图14所示,2D探头扫描获得的是2D图像,即对应的初始探测数据是二维图像;3D探头扫描获得的是3D数据包含若干2D图像,即对应的初始探测数据同样也是二维图像,经过语义分割操作和轮廓提取操作,即可得到轮廓点集(即目标探测数据),进而输入探头位置预测模型进行预测(推理)。

以实际身体部位为心脏为例,心脏对应的初始探测数据可以是初始心内二维超声影像,初始心内二维超声影像如图15所示。

在一可选的实施方式中,对初始探测数据进行语义分割操作,得到若干分割掩码图像的步骤包括:

基于预设语义分割模型对初始探测数据进行语义分割提取操作,得到若干分割掩码图像。

预设语义分割模型可以基于DeepLab V3 Plus(一种语义分割模型)模型训练得到的,以内脏器官为心脏为例,例如,使用5000张心内超声标签样本训练DeepLab V3 Plus模型得到预设语义分割模型,将初始心内二维超声影像输入至预设语义分割模型,得到初始心内二维超声影像的分割掩码图像。

预设语义分割模型的计算可以表示为:

其中,b表示图像像素点的序号,每个序号表示一个图像中的二维坐标位置,T表示图像的像素点个数,p(b)表示该像素点的标注类型,β表示预设语义分割模型中可训练的参数,p

通过预设语义分割模型的计算,可以得到心脏组织区域的分割掩码图像,分割掩码图像的示意图如图16所示。

在一可选的实施方式中,对若干分割掩码图像进行轮廓提取操作,得到目标探测数据的步骤包括:

遍历分割掩码图像中的全部前景像素点,获取初始边缘轮廓点;

遍历初始边缘轮廓点,判断初始边缘轮廓点中的每个目标边缘轮廓点是否为预设轮廓点;

若是,则从初始边缘轮廓点中去除目标边缘轮廓点,并将初始边缘轮廓点中去除目标边缘轮廓点后的剩余边缘轮廓点,作为目标探测数据。

当探测探头为超声探头时,预设轮廓点为预设扇面轮廓点。

通过遍历分割掩码图像中所有前景像素点Q

其中,分割掩码图像中所有前景像素点的像素值为1,背景像素点的像素值为0,v表示图像像素点的序号,每个序号对应一个分割掩码图像中的二维坐标位置,G

以身体部位为心脏且探测探头为超声探头为例,初始边缘轮廓点构成的轮廓图的示意图如图17所示,可以看出有的心脏组织区域由于在扇面的边缘,有一部分轮廓被扇面的轮廓取代,而扇面的轮廓并非该组织的真实轮廓,因此需要将这些来自扇面的轮廓去除掉。

相同型号超声机产生的超声影像对应相同的扇面区域,确定好扇面区域后可得到相应的扇面掩码图像,进而确定出预设扇面轮廓点。具体地,扇面掩码图像中扇面区域及内部为前景(像素值为1),扇面区域以外为背景(像素值为0),根据下述公式判断扇面区域中的点是否为预设轮廓点。

其中,扇面掩码图像中所有前景像素点的像素值为1,背景像素点的像素值为0,v表示图像像素点的序号,每个序号对应一个扇面掩码图像中的二维坐标位置,G

比较初始该轮廓点Q

本实施例的探头位置预测方法,基于实施例1中的探头位置预测模型,预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现了对实际探测探头准确且可靠的定位。

实施例3

本实施例提供一种探头位置预测模型的构建系统,如图19所示,该构建系统包括:

模型建立模块1,用于基于样本身体部位对应的样本探测数据建立样本身体部位对应的三维身体部位模型;

虚拟探头模拟模块2,用于根据三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据;

样本获取模块3,用于基于虚拟探头定位数据和虚拟探头扫描数据,获取样本身体部位对应的二维结构样本数据集;

模型训练模块4,用于根据二维结构样本数据集训练得到探头位置预测模型;

其中,探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据;实际身体部位包括实际探测探头可探入的第一身体部位,或实际探测探头不可探入的第二身体部位。

在一可选的实施方式中,虚拟探头模拟模块2用于根据三维身体部位模型对应的三维数据,模拟探测第一身体部位的虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据;

其中,探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探入第一身体部位内的实际定位数据。

在一可选的实施方式中,虚拟探头模拟模块2用于根据三维身体部位模型对应的三维数据,模拟探测第二身体部位的虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据;

其中,探头位置预测模型用于预测输入的实际探测数据对应的实际探测探头,探入身体内且在第二身体部位外的实际定位数据。

在一可选的实施方式中,模型建立模块1包括:

数据采集单元11,用于基于样本探测探头对目标对象进行扫描,以采集目标对象的样本探测数据;

模型建立单元12,用于对样本探测数据进行三维重建处理,以建立得到三维身体部位模型。

在一可选的实施方式中,虚拟探头模拟模块2包括:

预设数据获取单元21,用于获取预设扫描数据;

定位数据获取单元22,用于模拟虚拟探头对应的虚拟探头定位数据;

扫描数据获取单元23,用于基于虚拟探头定位数据和预设扫描数据,得到虚拟探头扫描数据。

在一可选的实施方式中,当第一身体部位包括心脏时,虚拟探头模拟模块2还包括:

位置范围获取单元20,用于获取虚拟探头在心脏区域内的预设位置范围;

其中,虚拟探头定位数据位于预设位置范围内。

在一可选的实施方式中,样本获取模块3包括:

三维交点获取单元31,用于对于虚拟探头在三维身体部位模型中的任一预设采样点,基于预设采样点对应的虚拟探头扫描数据与三维身体部位模型的交集,得到预设采样点对应的初始三维交点数据;

初始数据获取单元32,用于基于预设采样点对应的虚拟探头定位数据,及初始三维交点数据,得到预设采样点对应的初始二维结构数据;

变换矩阵获取单元33,用于获取预设采样点对应的随机变换矩阵;

样本数据构建单元34,用于基于若干个随机变换矩阵,及对应的初始二维结构数据得到二维结构样本数据集。

在一可选的实施方式中,变换矩阵获取单元33还用于获取预设采样点对应的随机旋转矩阵;获取预设采样点对应的目标位置坐标;基于随机旋转矩阵和目标位置坐标,得到随机变换矩阵。

在一可选的实施方式中,第一身体部位包括心脏或心血管,第二身体部位包括肝脏、肾脏、甲状腺、乳腺或前列腺。

在一可选的实施方式中,探测探头包括超声探头。

在一可选的实施方式中,模型训练模块4用于基于二维结构样本数据集训练预设网络模型,以得到探头位置预测模型。

在一可选的实施方式中,预设网络模型基于Encoder结构模型和Decoder结构模型构建得到。

在一可选的实施方式中,预设网络模型基于UNet网络和PointNet++网络构建得到。

在一可选的实施方式中,探头位置预测模型包括输入层、下采样层、上采样层和输出层;模型训练模块4用于将二维结构样本数据集输入至输入层进行采样操作,输出初始二维结构数据对应的初始实际点集数量;若初始实际点集数量大于预设点集数量,则将初始二维结构数据输入至下采样层,输出目标二维结构数据;若初始实际点集数量小于预设点集数量,则将初始二维结构数据输入至上采样层,输出目标二维结构数据;其中,目标二维结构数据对应的目标实际点集数量等于预设点集数量;将目标二维结构数据输入至输出层,输出实际探测探头探测实际身体部位时的实际定位数据。

在一可选的实施方式中,模型训练模块4采用多层感知机和最远点采样法,对初始二维结构数据进行处理,输出目标二维结构数据;

其中,目标二维结构数据包括层特征信息和图像位置信息。

在一可选的实施方式中,模型训练模块4采用多层感知机和等高线插值法,对初始二维结构数据进行处理,输出目标二维结构数据;

其中,目标二维结构数据包括层特征信息和图像位置信息。

本实施例的探头位置预测模型的构建系统与实施例1中的探头位置预测模型的构建方法相对应,构建系统与构建方法的工作原理相同,此处就不再赘述。

本实施例的探头位置预测模型的构建系统,基于样本身体部位对应的样本探测数据,建立样本身体部位对应的三维身体部位模型,根据三维身体部位模型对应的三维数据,模拟虚拟探头对应的虚拟探头定位数据,及虚拟探头扫描数据,并最终得到样本身体部位对应的二维结构样本数据集,进而根据二维结构样本数据集训练得到探头位置预测模型,通过探头位置预测模型预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现对实际探测探头的准确且可靠定位。

实施例4

本实施例提供一种探头位置预测系统,探头位置预测系统包括实施例3中的探头位置预测模型的构建系统,如图20所示,探头位置预测系统包括:

探测数据获取模块5,用于基于实际探测探头采集的初始探测数据,得到实际身体部位对应的目标探测数据;

探头位置预测模块6,用于将目标探测数据输入至基于构建系统得到的探头位置预测模型,以输出实际探测探头探测实际身体部位时的实际定位数据。

在一可选的实施方式中,探测数据获取模块5包括:

初始数据采集单元51,用于获取实际探测探头采集的初始探测数据;

语义分割单元52,用于对初始探测数据进行语义分割操作,得到若干分割掩码图像;

轮廓提取单元53,用于对若干分割掩码图像进行轮廓提取操作,得到目标探测数据。

在一可选的实施方式中,语义分割单元52用于基于预设语义分割模型对初始探测数据进行语义分割操作,得到若干分割掩码图像。

在一可选的实施方式中,轮廓提取单元53用于遍历分割掩码图像中的全部前景像素点,获取初始边缘轮廓点;遍历初始边缘轮廓点,判断初始边缘轮廓点中的每个目标边缘轮廓点是否为预设轮廓点;若是,则从初始边缘轮廓点中去除目标边缘轮廓点,并将初始边缘轮廓点中去除目标边缘轮廓点后的剩余边缘轮廓点,作为目标探测数据。

本实施例的探头位置预测系统与实施例2中的探头位置预测方法相对应,探头位置预测系统与探头位置预测方法的工作原理相同,此处就不再赘述。

本实施例的探头的位置预测系统,通过实施例3中的探头位置预测模型,可以准确的对预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现对实际探测探头的准确且可靠定位。

实施例5

本实施例提供一种探头装置,探头装置包括探测探头,及实施例4中的探头位置预测系统。

探头装置还可以包括其他部件。

本实施例的探头装置,通过实施例4中的探头位置预测系统,可以准确的预测输入的实际探测数据对应的实际探测探头,探测实际身体部位时的实际定位数据,实现对探测探头的准确且可靠定位。

实施例6

本实施例提供一种电子设备,图21为本实施例提供的电子设备的结构示意图,电子设备包括存储器、处理器及存储在存储器上并用于在处理器上运行的计算机程序,处理器执行计算机程序时实现上述实施例1中的探头位置预测模型的构建方法,或上述实施例2中的探头位置预测方法。图21显示的电子设备70仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图21所示,电子设备70可以以通用计算设备的形式表现,例如其可以为服务器设备。电子设备70的组件可以包括但不限于:上述至少一个处理器71、上述至少一个存储器72、连接不同系统组件(包括存储器72和处理器71)的总线73。

总线73包括数据总线、地址总线和控制总线。

存储器72可以包括易失性存储器,例如随机存取存储器(RAM)721和/或高速缓存存储器722,还可以进一步包括只读存储器(ROM)723。

存储器72还可以包括具有一组(至少一个)程序模块724的程序工具725(或实用工具),这样的程序模块724包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。

处理器71通过运行存储在存储器72中的计算机程序,从而执行各种功能应用以及数据处理,例如上述实施例1中的探头位置预测模型的构建方法,或上述实施例2中的探头位置预测方法。

电子设备70也可以与一个或多个外部设备74通信。这种通信可以通过输入/输出(I/O)接口75进行。并且,模型生成的电子设备70还可以通过网络适配器76与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图21所示,网络适配器76通过总线73与电子设备70的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备70使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、RAID(磁盘阵列)系统、磁带驱动器以及数据备份存储系统等。

应当注意,尽管在上文详细描述中提及了电子设备的若干单元/模块或子单元/模块,但是这种划分仅仅是示例性的并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多单元/模块的特征和功能可以在一个单元/模块中具体化。反之,上文描述的一个单元/模块的特征和功能可以进一步划分为由多个单元/模块来具体化。

实施例7

本实施例提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序在由处理器执行时实现上述实施例1中的探头位置预测模型的构建方法,或上述实施例2中的探头位置预测方法。

其中,可读存储介质可以采用的更具体可以包括但不限于:便携式盘、硬盘、随机存取存储器、只读存储器、可擦拭可编程只读存储器、光存储器件、磁存储器件或上述的任意合适的组合。

在可能的实施方式中,本公开还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行实现上述实施例1中的探头位置预测模型的构建方法中的步骤,或上述实施例2中的探头位置预测方法中的步骤。

其中,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开的程序代码,程序代码可以完全地在用户设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户设备上部分在远程设备上执行或完全在远程设备上执行。

虽然以上描述了本公开的具体实施方式,但是本领域的技术人员应当理解,这仅是举例说明,本公开的保护范围是由所附权利要求书限定的。本领域的技术人员在不背离本公开的原理和实质的前提下,可以对这些实施方式做出多种变更或修改,但这些变更和修改均落入本公开的保护范围。

技术分类

06120116541623