掌桥专利:专业的专利平台
掌桥专利
首页

一种胫骨平台后倾角测量方法及装置、存储介质

文献发布时间:2023-06-19 12:00:51


一种胫骨平台后倾角测量方法及装置、存储介质

技术领域

本文涉及图像处理技术,尤指一种胫骨平台后倾角测量方法及装置、存储介质。

背景技术

随着中国人口老龄化的加速,为了治疗膝关节骨关节炎,人工全膝关节置换术(Total Knee Arthroplasty,TKA)逐渐受到重视。这项技术原理成熟,但是对假体的设计和手术技术要求较高,其中胫骨平台后倾角的重要程度不可忽视。

胫骨的近端(即靠近膝盖位置的一端)的干骺端及关节面,骨科上称此解剖位置之为胫骨平台,其中靠近人体正中线的平台称为内侧平台,远离人体正中线的平台称为外侧平台。测量胫骨平台后倾角时,首先需要确定胫骨矢状面中心层面,该层面必须包括踝间嵴、后十字韧带胫骨止点,同时胫骨前后皮质呈“凸”字形。其次,在胫骨近端绘制一个圆,该圆与胫骨近端、前方及后方皮质均相切;在该圆的圆周上找到一点作为第二个圆的圆心,且第二个圆与胫骨前方皮质及后方皮质相切。最后,连接两圆圆心,该连线为胫骨近端轴。在内侧或外侧平台的中心层面上连接胫骨平台前后方最高点,该连线与胫骨近端轴的夹角即为内、外侧胫骨平台后倾角。

研究发现,内侧、外侧平台后倾角≥5°组的移植物失效率均较后倾角<3°组高。因此胫骨平台后倾角的测量可以为病人在TKA中选择最佳胫骨平台假体。

在现有的临床手术中,医生需从患者的一组胫骨图片中找到胫骨的中心层图片、内侧层图片、外侧层图片各一张,根据上述图片测量胫骨平台后倾角。一般的,胫骨平台后倾角的测量大多依靠临床医生的手工测量,或者依赖一些图片编辑软件识别出边界再由医生手动识别,该测量方式医生工作量比较大,效率比较低,且依赖医生个人经验,误差不定,有必要进行改进。

发明内容

本申请实施例提供了一种胫骨平台后倾角测量方法及装置、存储介质,提高测量效率。

本申请实施例提供了一种胫骨平台后倾角测量方法,包括:

将目标胫骨图片集使用预先训练好的基于卷积神经网络的分类器模型进行分类,获得中心层图片和待测胫骨平台图片;

根据所述中心层图片和待测胫骨平台图片确定胫骨平台后倾角。

在一示例性实施例中,所述目标胫骨图片集为对原始胫骨图片集进行预处理后的图片集,所述预处理包括以下至少之一:对所述原始胫骨图片集中的原始胫骨图片进行灰度化、将灰度化后的图片彩色化、统一分辨率、裁剪去除目标区域外的区域。

在一示例性实施例中,所述原始胫骨图片包括核磁共振成像图片。

在一示例性实施例中,所述卷积神经网络包括GoogleNet-V2神经网络模型。

在一示例性实施例中,所述根据所述中心层图片和待测胫骨平台图片确定胫骨平台后倾角包括:

确定所述中心层图片的第一胫骨边界和所述待测胫骨平台图片的第二胫骨边界;确定所述第一胫骨边界内面积最大的第一内切圆,以及确定圆心在所述第一内切圆的圆周上,且在所述第一胫骨边界内面积最大的第二内切圆,将所述第一内切圆的圆心和所述第二内切圆的圆心的连线作为胫骨近端轴,确定所述胫骨近端轴的垂线;

根据所述第二胫骨边界确定待测胫骨平台的平台线,根据所述待测胫骨平台的平台线和所述胫骨近端轴的垂线确定所述所述胫骨平台后倾角。

在一示例性实施例中,当生成的所述第二内切圆仅与所述第一胫骨边界的一侧相切时,确定所述第一胫骨边界行坐标最大的第一端点和第二端点,沿所述第一端点保持列坐标不变,沿行坐标增大的方向延长所述第一胫骨边界,沿所述第二端点保持列坐标不变,沿行坐标增大的方向延长所述第一胫骨边界,重新生成第二内切圆,所述待测胫骨平台图片的行坐标的方向为从胫骨近端至胫骨远端。

在一示例性实施例中,所述确定所述中心层图片的第一胫骨边界和所述待测胫骨平台图片的第二胫骨边界包括:

使用局部自适应阈值法对所述中心层图片和所述待测胫骨平台图片进行二值化,对二值化后的图像使用轮廓提取算法提取边界,对该边界进行粘连检测、粘连消除和凹陷检测处理,如果处理后未达到预设要求,则调整局部自适应阈值法的参数,重复执行上述过程,直到达到预设要求,得到所述中心层图片上的边界和所述待测胫骨平台图片上的边界,将所述中心层图片上面积最大的区域的边界作为所述第一胫骨边界,将所述待测胫骨平台图片上拥有凸点最多的边界作为所述第二胫骨边界;或者,利用预训练的U-net神经网络模型提取所述中心层图片的第一胫骨边界,以及,利用预训练的U-net神经网络模型提取所述待测胫骨平台图片的第二胫骨边界。

在一示例性实施例中,所述根据所述第二胫骨边界确定待测胫骨平台的平台线包括:

确定所述第二胫骨边界列坐标最大且行坐标最小的第一端点,将第一端点的行坐标和列坐标各加N得到第二端点,对所述第二胫骨边界进行凸包检测,获得所述第二胫骨边界的凸包,将构成所述凸包的线段中,起点和终点的行坐标均小于所述第二端点的行坐标,起点和终点的列坐标均小于所述第二端点的列坐标,且线段的长度小于预设值,且起点和终点的行坐标均值最小的线段,作为所述待测胫骨平台的平台线,其中,所述待测胫骨平台图片的行坐标的方向为从胫骨近端至胫骨远端,所述待测胫骨平台图片的列坐标的方向为从胫骨前方皮质到胫骨后方皮质的方向,所述N为10至30。

在一示例性实施例中,所述待测胫骨平台图片包括内侧层图片;或者,包括外侧层图片,或者,包括内侧层图片和外侧层图片。

本申请实施例提供一种胫骨平台后倾角测量装置,其特征在于,包括存储器和处理器,所述存储器存储有程序,所述程序在被所述处理器读取执行时,实现上述胫骨平台后倾角测量方法。

本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述胫骨平台后倾角测量方法。

本申请实施例包括一种胫骨平台后倾角测量方法,将目标胫骨图片集使用预训练好的基于卷积神经网络的分类器模型进行分类,获得中心层图片、待测胫骨平台图片;根据所述中心层图片、待测胫骨平台图片确定胫骨平台后倾角。本实施例提供的方案,能自动找出中心层图片、待测胫骨平台图片,提高了测量效率,减轻了医生工作量。

本申请的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请而了解。本申请的其他优点可通过在说明书、权利要求书以及附图中所描述的方案来实现和获得。

附图说明

附图用来提供对本申请技术方案的理解,并且构成说明书的一部分,与本申请的实施例一起用于解释本申请的技术方案,并不构成对本申请技术方案的限制。

图1为本申请实施例提供的胫骨平台后倾角测量方法流程图;

图2a为一实施例提供的胫骨图片的原始图片及使用局部自适应阈值法进行二值化后的示意图;

图2b为一实施例提供的轮廓提取后的示意图;

图2c为一实施例提供的角点检测示意图;

图2d为一实施例提供的内侧层图片或外侧层图片的边界提取示意图;

图3为一实施例提供的胫骨较短的示意图;

图4为一实施例提供的第二内切圆更新示意图;

图5为本申请实施例提供的胫骨平台后倾角测量装置框图;

图6为另一实施例提供的胫骨平台后倾角测量方法流程图;

图7为一实施例提供的卷积神经网络示意图;

图8为一实施例提供的中心层图片示意图;

图9为一实施例提供的内侧层图片示意图;

图10为一实施例提供的中心层图片中确定胫骨近端轴示意图;

图11为一实施例提供的U-net网络结构图;

图12为一实施例提供的内侧层图片中确定内侧胫骨平台角度示意图;

图13为本申请实施例提供的胫骨平台后倾角测量装置框图;

图14为本申请实施例提供的计算机可读存储介质框图。

具体实施方式

本申请描述了多个实施例,但是该描述是示例性的,而不是限制性的,并且对于本领域的普通技术人员来说显而易见的是,在本申请所描述的实施例包含的范围内可以有更多的实施例和实现方案。尽管在附图中示出了许多可能的特征组合,并在具体实施方式中进行了讨论,但是所公开的特征的许多其它组合方式也是可能的。除非特意加以限制的情况以外,任何实施例的任何特征或元件可以与任何其它实施例中的任何其他特征或元件结合使用,或可以替代任何其它实施例中的任何其他特征或元件。

本申请包括并设想了与本领域普通技术人员已知的特征和元件的组合。本申请已经公开的实施例、特征和元件也可以与任何常规特征或元件组合,以形成由权利要求限定的独特的发明方案。任何实施例的任何特征或元件也可以与来自其它发明方案的特征或元件组合,以形成另一个由权利要求限定的独特的发明方案。因此,应当理解,在本申请中示出和/或讨论的任何特征可以单独地或以任何适当的组合来实现。因此,除了根据所附权利要求及其等同替换所做的限制以外,实施例不受其它限制。此外,可以在所附权利要求的保护范围内进行各种修改和改变。

此外,在描述具有代表性的实施例时,说明书可能已经将方法和/或过程呈现为特定的步骤序列。然而,在该方法或过程不依赖于本文所述步骤的特定顺序的程度上,该方法或过程不应限于所述的特定顺序的步骤。如本领域普通技术人员将理解的,其它的步骤顺序也是可能的。因此,说明书中阐述的步骤的特定顺序不应被解释为对权利要求的限制。此外,针对该方法和/或过程的权利要求不应限于按照所写顺序执行它们的步骤,本领域技术人员可以容易地理解,这些顺序可以变化,并且仍然保持在本申请实施例的精神和范围内。

传统的由人工方式进行胫骨平台后倾角测量的方案,存在如下缺点:

首先,在选取中心层、内侧、外侧胫骨时,医生需要亲自选取,如果选择错误,将会给后面的后倾角测量带来一系列的误差。

另外,在胫骨平台后倾角测量中,主要由有经验的医生手动定点,画内切圆。这种方式不仅耗时(尤其是在画内切圆的过程中),延长了手术前期工作的时间,而且过程中存在的误差范围因不同医生而异且不可控、难以测量,对医生的资质要求极高,测量方法也难以快速广泛推广。

因此,继续沿用传统的人工筛选和测量的方式效率低下,人力成本高、机械化程度低,浪费医生时间,无法满足人工全膝关节置换术广泛使用的要求。

本申请实施例中,在测量胫骨后倾角时,应用卷积神经网络,可以快速挑选得到中心层图片、待测胫骨平台图片,根据所挑选出的图片计算胫骨平台后倾角。另一实施例中,可以自动找出胫骨边界,确定胫骨近端轴,以及内侧平台角度和外侧平台角度,进而确定胫骨平台后倾角,在简单却耗时的画图找点工作中代替医生,节省人力和时间。

另一实施例中,使用深度学习的卷积神经网络方法对预处理后的图像进行分类,根据分类结果里的中心层图片和待测胫骨平台图片,以及,依据像素值寻找胫骨边界,以此确定胫骨近端轴的垂线和胫骨平台角度,从而得到患者胫骨平台后倾角的值。

图1为本申请实施例提供的胫骨平台后倾角测量方法流程图。如图1所示,本申请实施例提供一种胫骨平台后倾角测量方法,包括:

步骤101,将目标胫骨图片集使用预先训练好的基于卷积神经网络的分类器模型进行分类,获得中心层图片和待测胫骨平台图片。

步骤102,根据所述中心层图片和待测胫骨平台图片确定胫骨平台后倾角。

本实施例提供的方案,通过使用卷积神经网络能自动找出中心层图片、待测胫骨平台图片,提高了效率,减轻了医生工作量。

在一示例性实施例中,待测胫骨平台可以是内侧平台,或者,外侧平台,或者,内侧平台和外侧平台,所述待测胫骨平台图片包括以下至少之一:内侧层图片、外侧层图片。如果需要测量内侧胫骨平台后倾角,可以只包括内侧层图片,如果需要测量外侧胫骨平台后倾角,可以只包括外侧层图片;如果需要测量内侧胫骨平台后倾角和外侧胫骨平台后倾角,可以包括内侧层图片和外侧层图片。所述内侧层图片和外侧层图片与传统人工测量胫骨平台后倾角所需的内侧层图片和外侧层图片含义一致。

在一示例性实施例中,所述胫骨图片集中的胫骨图片比如包括平行于人体正中线方向的切面图。

在一示例性实施例中,所述确定胫骨平台后倾角可以包括:确定内侧胫骨平台后倾角,或者,确定外侧胫骨平台后倾角,或者,确定内侧胫骨平台后倾角和外侧胫骨平台后倾角。

在一示例性实施例中,所述卷积神经网络比如包括GoogleNet-V2深度学习模型,但本申请实施例不限于此,可以使用其他深度学习模型,比如VGG、AlexNet、ResNet、Googlenet等等神经网络模型。

在一示例性实施例中,该分类器模型的训练过程如下:

建立带标签的训练集和测试集,将训练集输入预设的分类器模型,得到训练好的分类器模型,使用测试集对训练好的分类器模型进行测试。

在一实施例中,所述目标胫骨图片集可以是对患者进行医学影像扫描(比如MRI(核磁共振成像))所得的原始胫骨图片集,或者,可以是对原始胫骨图片集进行预处理后的图片集,所述预处理包括以下至少之一:对所述原始胫骨图片集中的原始胫骨图片进行灰度化、对灰度后的图片彩色化、统一分辨率、裁剪去除预设目标区域外的区域。所述原始胫骨图片集为同一患者的一组胫骨图片。所述原始胫骨图片集中的胫骨图片包括平行于人体正中线方向的切面图。

以下以MRI图像为例说明预处理过程。对于批量的MRI图像,为了方便后续处理以及减少不必要的计算时间,根据保留尽量多的必要特征、删减尽量多的不必要特征的原则,可以进行以下预处理:

(1)灰度化

由于原始胫骨图片是RGB格式,对于颜色主要是黑白的医学图片来说,完全可以采用灰度图的形式。所以,批量将RGB图转换为灰度图。

(2)彩色化

由于一些函数要求输入图片为3通道RGB图,且在图上画出彩色内切圆或平台线时也需要基于彩色RGB图,有时需要将灰度图转化为彩色图。

(3)统一分辨率

由于图像的分辨率存在几种格式(512*512,320*320等等),且用于建立数据集的图片可以适当缩小分辨率减少冗余信息,所以先批量调整图片分辨率。鉴于图片的分辨率有三种:520,320,256,因此可将图片分辨率统一到256。如果图片分辨率超过这个值,进行图片的等比例压缩。此处仅为示例,在其他实施例中,可以统一到其他分辨率。如果图片分辨率符合要求,可以不执行本步骤。

(4)裁剪

由于每幅原始胫骨图片中有意义的部分在于中下部分(胫骨平台所在位置),所以批量对所有图片进行简单的裁剪工作,裁剪到目标区域,所述目标区域根据需要设置。比如,将目标区域定为96:256,30:190。剪裁后的图片中,胫骨所占比例变大,MRI图像的其他部分对胫骨产生的干扰大大减小,便于后续的图像分类以及角度提取。

上述预处理的操作仅为示例,可以根据需要增加或减少预处理操作。

在一示例性实施例中,所述根据所述中心层图片和待测胫骨平台图片确定胫骨平台后倾角包括:

确定所述中心层图片的第一胫骨边界和所述待测胫骨平台图片的第二胫骨边界;所述第一胫骨边界为所述中心层图片的边界,所述第二胫骨边界为所述待测胫骨平台图片的边界;

确定所述第一胫骨边界内面积最大的第一内切圆,以及,确定圆心在所述第一内切圆的圆周上,且在所述第一胫骨边界内面积最大的第二内切圆,将所述第一内切圆的圆心和所述第二内切圆的圆心的连线作为胫骨近端轴,确定所述胫骨近端轴的垂线;所述胫骨近端端的垂线是指垂直于所述胫骨近端轴的直线,存在多条,任选一条即可。

根据所述第二胫骨边界确定待测胫骨平台的平台线,根据所述待测胫骨平台的平台线和所述胫骨近端轴的垂线确定所述胫骨内侧平台后倾角。

在一示例性实施例中,当生成的所述第二内切圆仅与所述第一胫骨边界的一侧相切时,确定所述第一胫骨边界行坐标最大的第一端点和第二端点,沿所述第一端点保持列坐标不变,沿行坐标增大的方向延长所述第一胫骨边界,沿所述第二端点保持列坐标不变,沿行坐标增大的方向延长所述第一胫骨边界,重新生成第二内切圆,所述待测胫骨平台图片的行坐标的方向为从胫骨近端至胫骨远端。

在一示例性实施例中,根据所述待测胫骨平台的平台线和所述胫骨近端轴垂线的确定所述胫骨内侧平台后倾角包括:

根据内侧层图片确定内侧层图片的胫骨边界,根据内侧层图片的胫骨边界确定内侧平台线(即内侧胫骨平台的平台线),根据所述内侧平台线任意两点的坐标,所述胫骨近端轴的垂线任意两点的坐标确定内侧胫骨平台后倾角。或者,根据外侧层图片确定外侧层图片的胫骨边界,根据外侧层图片的胫骨边界确定外侧平台线(即外侧胫骨平台的平台线),根据所述外侧平台线任意两点的坐标,所述胫骨近端轴的垂线任意两点的坐标确定外侧胫骨平台后倾角。

在一示例性实施例中,所述确定所述中心层图片的第一胫骨边界和所述待测胫骨平台图片的第二胫骨边界包括:

方法一,利用循环的方式自动调节函数参数得到所述中心层图片和待测胫骨平台图片的灰度图,检测所述灰度图的边界,配合边界粘连检测及粘连消除算法,将所述中心层图片上面积最大的区域的边界作为中心层图片的第一胫骨边界,将所述待测胫骨平台图片上拥有凸点最多的边界作为所述第二胫骨边界;具体的,使用局部自适应阈值法对所述中心层图片和所述待测胫骨平台图片进行二值化,对二值化后的图像使用轮廓提取算法提取边界,对该边界进行粘连检测、粘连消除和凹陷检测处理,如果处理后未达到预设要求,则调整局部自适应阈值法的参数,重复执行上述过程,直到达到预设要求,得到所述中心层图片上的边界和所述待测胫骨平台图片上的边界,将所述中心层图片上面积最大的区域的边界作为所述第一胫骨边界,将所述待测胫骨平台图片上拥有凸点最多的边界作为所述第二胫骨边界;预设要求比如为去粘连成功,且不存在尺寸超过预设阈值的凹陷等等。

方法二,利用预训练的神经网络模型提取第一胫骨边界和第二胫骨边界;比如,使用U-net,FCN、SegNet、deeplab v1&v2&v3&v3+、RefineNet、PSPNet、G-FRNet等神经网络模型。提取不同图片的胫骨边界可以使用不同的神经网络模型。

下面对方法一作进一步说明。

对中心层图片和内侧层图片、外侧层图片分别进行说明。

(1)中心层图片的胫骨轮廓边缘提取(即生成第一胫骨边界)

胫骨边界提取包括两步:第一步:边缘检测以获取图像的全部边缘特征;第二步,边缘处理,对第一步得到的边缘进行处理以消除粘连,裂缝等影响后续提取或作图测量的因素。事实上,这二者之间是一个交互过程,每一步骤都需要另一步骤的配合,第一步的边缘检测的参数根据第二步的边缘处理后的结果进行自动调整。

由于MRI图像上胫骨边缘的裂缝会影响画圆时的半径计算,可以使用滤波器对图像去噪平滑。可以使用能够保边去噪的非线性滤波——双边滤波进行图片初步去噪。

边缘检测是基于二值化进行的,由于MRI胫骨图像本身存在的伪影,粘连等问题,采用局部自适应阈值法进行二值化。

局部自适应阈值法(可以直接调用已有函数,当然,也可以自行编写算法)是将图像分为固定大小的块,为每一块图像根据现有的一些自适应阈值法单独计算阈值。也可以理解为该方法是通过邻域块像素值来计算每个像素所需的二值化阈值。该方法可以更好地适应不同亮度、对比度、纹理的局部图像。在保持胫骨边缘平滑完整的同时尽量的减少胫骨与周围组织的粘连问题,如图2a所示。图2a中从左至右三个图分别是原图、区域参数为41的二值化图、区域参数为141的二值化图。

然而,局部自适应阈值法的参数图像块大小会显著地影响到二值化后胫骨边缘保留的效果。当该参数较大,即图像被分成较大的块进行自动选取阈值时,二值化的结果会更加偏重整体,边缘会更加平滑,但是边缘的粘连问题得不到很好的解决。当该参数较小时,胫骨与周边组织的边缘区分变得十分明显,但更明显的是胫骨上存在的裂纹会导致边缘向内凹陷,严重影响后续作图测量。此外,图片不同的亮度、对比度对于该参数的要求迥然不同,该参数需要能够进行自我调节来适应具有不同特征的图像。因此,图像边缘检测需要根据边缘处理后提取到的结果的好坏来调整该参数。由于粘连比边缘缺陷更容易检测,所以,可以先选择一个较大的区域参数,然后,通过循环来自动降低该参数不断减少粘连,直到胫骨轮廓被提取出来,可以在去粘连的同时极大地保护边缘的完整性。但是,单纯的二值化可能不能完全去除粘连,可能存在很多图片的某些细小的边缘模糊区域无法被分开(图2a)。为了断开这些微小的粘连处而继续减小区域参数可能会导致边缘完整性受损,得不偿失。所以,如何在二值化后进行边缘处理进一步断开粘连变得至关重要。

边缘处理基于局部自适应二值化后的黑白图。首先可以利用轮廓提取函数比如cv2.findContours()函数得到所有轮廓。由于中心层图片中,胫骨在被截取后的图像上是面积最大的部分,所以可以根据面积大小提取出包含胫骨的轮廓(图2b)。

但有时候会出现粘连情况,即胫骨轮廓包含了周边组织。因为粘连处往往都是很细微的粘连,角点检测(直接调用已有函数)可以有效地探测到粘连位置并且将其切断。首先,通过修改角点检测的相关参数可以调整角点判定的标准以及将其在图上画出来的形状大小(图2c中(1));然后,把角点画为黑色来断开粘连处,再根据面积找出最大的胫骨边界(图2c中(2));最后,再次调整参数寻找因将角点画为黑色制造出来凹陷(图2c中(3));将角点画为白色弥补凹陷并进行双边滤波平滑边缘(图2c中(4))。由于粘连大部分发生在胫骨的左上方,只要检测胫骨上方预设范围内是否存在白色区域即可判断去粘连是否成功。除此之外,通过凸包检测(可以直接调用已有函数),还可以判断是否存在大的凹陷。若去粘连失败或者最终胫骨上存在大的凹陷,则会降低局部自适应阈值法的参数,减小局部阈值像素块的大小来提升边界分离效果。这样不断循环,自动判断,自动调整参数的方法可以实现大部分的胫骨轮廓提取。

(2)内侧层、外侧层图片(以下简称内外侧层图片)的胫骨轮廓边缘提取

内外侧层图片与中心层图片在边缘提取上最大的区别是内外侧层的胫骨面积并不是图片上最大的,在边缘检测后,无法直接根据轮廓的面积大小确定胫骨的轮廓。此外,胫骨图像大小并不统一,内外侧层的胫骨的位置也变化较大,不能大幅度裁剪图片去除不相关区域。因此,针对内外侧层上胫骨的特点,找凸点策略可以有效地挑出胫骨轮廓。凸点的定义是上方存在着一定大小的全黑区域的轮廓点。拥有最多凸点的轮廓则为胫骨部分,即拥有最多凸点的轮廓为第二胫骨边界。这是利用了胫骨与股骨之间存在了一定间隔的特点,如图2d所示。内外侧层图片的局部自适应阈值法以及去粘连等操作与中心层图片的处理类似,不再赘述。

在一实施例中,中心层图片和待测胫骨平台图片可以使用不同的方法提取边界,比如,中心层图片使用方法一提取胫骨边界,待测胫骨平台图片使用方法二提取胫骨边界;或者,中心层图片使用方法二提取胫骨边界,待测胫骨平台图片使用方法一提取胫骨边界。待测胫骨平台图片包括内侧层图片和外侧层图片时,内侧层图片和外侧层图片可以使用不同的方法提取胫骨边界,比如,内侧层图片使用方法一提取胫骨边界,外侧层图片使用方法二提取胫骨边界;又比如,内侧层图片使用方法二提取胫骨边界,外侧层图片使用方法一提取胫骨边界,等等。

在一实施例中,根据所述中心层图片确定胫骨近端轴的垂线包括:

对中心层图片,找到所有边界,根据每个边界所包围的面积的大小找到面积最大的边界,将该边界作为胫骨边界。

再遍历所有像素点,找到距离当前像素点最近的边界点(即胫骨边界上的点),确定边界点和像素点的距离,其中拥有最大距离的像素点作为圆心,该最大距离作为半径。根据圆心和半径画圆,该圆与胫骨近端、前方及后方皮质均相切,即为第一内切圆。

根据第一内切圆的圆心、半径得到圆周上点的坐标,遍历第一内切圆圆周上所有的点(称为圆周点),确定当前圆周点最近的边界点,确定该边界点与圆周点的距离,将拥有最大距离的圆周点作为圆心,将该最大距离作为半径,得到第二内切圆。第二内切圆的圆心在第一个内切圆上且与胫骨前方及后方皮质均相切。

连接第一内切圆的圆心和第二内切圆的圆心,该连线作为胫骨近端轴,胫骨近端端的位置和胫骨近端轴的垂线也随之可被确定。

在一实施例中,可能会存在胫骨图片上的胫骨太短影响画第二内切圆的情况,此时,可以对第二内切圆进行调整。如图3所示,胫骨图片上的胫骨太短影响画第二内切圆32,此时,第二内切圆32仅与所述第一胫骨边界的一侧相切。此时,可以对第二内切圆32进行修正。如图4所示,在第一胫骨边界上寻找行坐标最大的第一端点41和第二端点42,分别位于第一胫骨边界的左侧和右侧。从第一端点41开始,沿行坐标增大,列坐标不变的方向延长第一胫骨边界,从第二端点42开始,沿行坐标增大,列坐标不变的方向延长第二胫骨边界,确定新的第二内切圆33,根据第二内切圆33和第一内切圆31确定胫骨近端轴。本实施例中,之所以直接垂直延长胫骨轮廓是因为延长的部分边界不会与第二个圆相切,不会影响到胫骨近端轴的确定,所以无需按照胫骨底部左右边界线的斜率进行延长。

在一实施例中,所述根据所述第二胫骨边界确定待测胫骨平台的平台线包括:

确定所述第二胫骨边界上列坐标最大且行坐标最小的第一端点,将第一端点的行坐标和列坐标各+N得到第二端点,对所述第二胫骨边界进行凸包检测,获得所述第二胫骨边界的凸包,将构成所述凸包的线段中,起点和终点的行坐标均小于所述第二端点的行坐标,起点和终点的列坐标均小于所述第二端点的列坐标,且线段的长度小于预设值,且起点和终点的行坐标均值最小的线段,作为所述待测胫骨平台的平台线,其中,所述待测胫骨平台图片的行坐标的方向为从胫骨近端至胫骨远端,所述待测胫骨平台图片的列坐标的方向为从胫骨前方皮质到胫骨后方皮质的方向,所述N可以为10至30。

胫骨近端轴的垂线与内侧胫骨平台上最高点的连线(即内侧平台线)的夹角即为内侧胫骨平台后倾角。根据胫骨近端轴的垂线以及内侧平台线,利用反三角函数,即可计算出胫骨内侧平台后倾角。可以根据胫骨近端轴的垂线上任意两点的坐标,以及内侧平台线上任意两点的坐标,利用反三角函数,计算出胫骨内侧平台后倾角。

对任意两个线段,夹角计算如下:

对线段a和线段b,假设线段a上一点坐标为(a1,a2),另一点坐标为(a3,a4),线段b上一点坐标为(b1,b2),另一点坐标为(b3,b4),则:

dx1=a3-a1

dy1=a4-a2

m1=tan(线段a与x轴的夹角)=dy1/dx1

线段a与x轴夹角的弧度hudu1=arctan(m1)

线段a与x轴夹角的角度angle1=hudu1×180/π

dx2=b3-b1

dy2=b4-b2

m2=tan(线段b与x轴的夹角)=dy2/dx2

线段b与x轴夹角的弧度hudu2=arctan(m2)

线段b与x轴夹角的角度angle2=hudu2×180/π

如果angle1*angle2>=0,angle3为|angle1-angle2|。

否则,angle3为|angle1|+|angle2|的绝对值。

如果angle3>180,那么angle3=360-angle3

如果angle3>90,那么angle3=180-angle3

最终得到的angle3为线段a,b的夹角。

胫骨近端轴的垂线和内侧平台线其中之一为线段a,另一为线段b,利用上述公式即可计算出胫骨内侧平台后倾角。

本申请实施例中以MRI图片为例进行说明,但本申请实施例不限于此,可以使用通过其他方式得到的胫骨图像替换MRI图片。

为了提升模型的分类精确率,还可以综合使用更加丰富的神经网络、更加有效的图像预处理方案。

本实施例中使用了深度学习技术,在其他实施例中,也可以使用其他技术,比如机器学习以及传统统计方式,卷积神经网络由于具有局部连接、共享权重的特性,效果比较好。

本实施例中,分别使用了两种获取图片中胫骨边界的方法:一、利用数字图像处理技术;二、利用深度学习模型(比如U-net)。方法一可以为方法二的模型训练批量提供大量的带标签的图片,避免了费时费力的手动标注胫骨边界。

如图5所示,本申请实施例提供一种胫骨平台后倾角测量装置,包括:分类模块51和角度提取模块52,其中:

所述分类模块51设置为,将目标胫骨图片集使用预先训练好的基于卷积神经网络的分类器模型进行分类,获得中心层图片和待测胫骨平台图片;

所述角度提取模块52设置为,根据所述中心层图片和所述待测胫骨平台图片确定胫骨平台后倾角。

在另一实施例中,所述胫骨平台后倾角测量装置还可以包括预处理模块53,所述预处理模块53设置为,对原始胫骨图片集进行预处理得到所述目标胫骨图片集。

上述各模块的实现细节请参考方法实施例,此处不再赘述。

下面通过一示例对本申请实施例技术方案进行说明。如图6所示,在一示例性实施例中,提供一种胫骨平台后倾角测量方法,包括:

步骤601,训练分类器模型;

进行分类器模型的训练。本实施例中采用的是卷积神经网络,比如GoogleNet-V2深度学习模型。

训练图片以灰度值归一化后矩阵的形式表示,进入GoogleNet-V2模型接受训练,如图7所示。首先将训练图片(即用于训练该分类器模型的胫骨图片)转化为向量,以便后续传入卷积神经网络。将训练图片的标签对应的one-hot编码向量作为该卷积神经网络的输出量,比如,无用图片标签为0,对应的向量为[1,0,0,0],中心层图片的标签为1,对应的向量为[0,1,0,0],外侧层图片标签为2,对应的向量为[0,0,1,0],内侧层图片标签为3,对应的向量为[0,0,0,1]。此处标签值仅为示例,可以根据需要使用其他值。

在一示例性实施例中,训练集比如包括1516张带标签的胫骨图像数据,测试集比如包括566张带标签的胫骨图像数据。本实施例中,分类器模型的输入数据为经过压缩、剪切后的胫骨图像的二维像素归一化矩阵。分类器模型的输出数据为利用one-hot编码将标签0(表示无用图片)、1(表示内侧层图片)、2(表示中心层图片)、3(表示外侧层图片)编码成含有4个数值的数组。最终得到的分类器模型在测试集上的准确度可达95.93%。

在另一示例性实施例中,使用的数据集含有100名患者的胫骨MRI图片集,每个患者的胫骨MRI图片集都有19张图片,包含了不同胫骨切面的MRI图片。使用有标签的数据集,每名患者的中心层、内侧层、外侧层胫骨图片都由医生标记出。

步骤602,将原始胫骨图片集中的胫骨图片进行预处理。

所述预处理如下:

(1)灰度化:利用PIL库的Image函数,将图像文件遍历打开并转化成灰度图。其转换的原理是将图片的RGB三通道使用转换公式转化为单通道,即灰度。转化公式将RGB三个通道的分量按照一定的比例计算到灰度图像中。转化公式为:

Gray=R*0.299+G*0.587+B*0.114

(2)统一分辨率:将图片分辨率统一到256。定义剪裁函数,同样使用PIL库的Image函数得到原图分辨率w*h,如果图片分辨率超过阈值,进行图片的等比例压缩,最后使得新分辨率w_new,h_new都等于256。

首先判断原图分辨率的值w是否大于阈值,若是,令

(3)裁剪。由于胫骨MRI图片的有效信息主要存在于图片的中下方,因此对图像文件进行遍历裁剪。以numpy数组形式打开每张图片之后,保留坐标在目标区域(本实施例中为区域[96:256,30:190])的灰度值,形成所需图片。

步骤603,使用训练好的分类器模型对同一患者的所有胫骨图片进行分类。

传入的胫骨图片经过分类器模型中的所有神经网络,遍历之后得到该胫骨图片的标签。

以其中一名患者的胫骨图片为例,经过预训练模型分类,得到了这名患者的中心层、内侧层、外侧层的胫骨图片。其中,中心层图片如图8所示。其编号为9/19。而内侧层图片如图9所示,其编号为4/19。在另一示例中,可以对无效图片(即中心层图片、内侧层图片和外侧层图片之外的图片)添加标签,但本申请实施例不限于此,可以仅挑选出所需图片增加标签。

步骤604,确定胫骨近端轴(即中心轴)角度

如图10所示,对中心层图片进行预处理之后,图像有160行、160列,找到面积最大的边界,将其作为胫骨边界,即第一胫骨边界,该胫骨边界内的面积为6026。或者,可以如图11所示,将中心层图片输入预训练的U-net深度学习模型,得到第一胫骨边界。

随之画出第一胫骨边界内面积最大的内切圆(图10中圆81),圆心的坐标为(90列,84行),半径为34;再以第一个内切圆(圆81)上的所有的点为圆心,找到与胫骨边界相切且面积最大的圆(图10中圆82),圆心的坐标为(88列,116行),半径为22。连接两个圆的圆心,得到胫骨近端轴的角度为86.423,另外,获取胫骨近端轴的垂线的任意两点的坐标。

步骤605,确定内侧胫骨平台角度

以内侧层图片为例,与中心层图片相似,对图片进行预处理并找到凸点最多的边界,即胫骨边界,也可以直接由预训练的U-net模型获取胫骨边界。确定位于所述第二胫骨边界的最右上处(即列坐标最大且行坐标最小)的点的行列坐标各+N(本实施例中,N=10)的第二端点(图12中点P2),对所述第二胫骨边界进行凸包检测,获得所述第二胫骨边界的凸包(图12中左侧图中白色线段),将构成所述凸包的线段中,起点和终点的行坐标均小于所述第二端点P2的行坐标,起点和终点的列坐标均小于所述第二端点P2的列坐标,且线段的长度小于预设值,且起点和终点的行坐标均值最小的线段(图12中左侧图中的线段L1),作为所述待测胫骨平台的平台线(实际使用时,将L1延长即图12中右侧图中的线段L2作为待测胫骨平台的平台线)。其中,所述待测胫骨平台图片的行坐标的方向为从胫骨近端至胫骨远端,所述待测胫骨平台图片的列坐标的方向为从胫骨前方皮质到胫骨后方皮质的方向。所述预设值比如为35,仅为示例,可以根据需要设置。

如图12所示,胫骨平台线左侧起点的坐标为(130(列),103(行)),右侧终点的坐标为(246(列),113(行))。结合胫骨近端轴垂线上两点的坐标,得到内侧胫骨平台角度为1.239。

步骤606,计算胫骨平台后倾角。

根据胫骨近端轴的垂线的任意两点的坐标以及内侧平台线的任意两点(比如起点和终点)的坐标,利用反三角函数,计算出内侧胫骨平台后倾角。

此案例中,内侧胫骨平台后倾角的测量结果与医生标记结果接近。

在另一实施例中,根据胫骨近端轴的垂线的任意两点坐标以及外侧平台线的任意两点(比如起点和终点)坐标,利用反三角函数,计算出外侧胫骨平台后倾角。

如前所述,相关技术中的胫骨平台后倾角测量方法主要靠有经验的医生进行图片选择、内切圆绘制以及后续测量,虽然存在理论支撑,但是这些工作无法被广泛、快速的普及,而就算是有经验的医生在测量的过程中也会出现误差,而这些误差既不可控也无法测量。本实施例提供的方案,结合真实MRI图像和医生所做的分类标记数据,使用灰度化、统一分辨率、裁剪对MRI图像进行预处理,使用深度学习的神经网络将图片进行分类,分别训练中心层、内侧层、外侧层与无用图片的分类神经网络,再根据训练得到的分类器模型,从中心层图片中自动获取胫骨取向,再从内侧层图片、外侧层图片中自动计算胫骨后倾角。本实施例提供的方案,自动进行分类和后倾角计算,无需人工,快捷高效,大大减轻了医生的工作量。

如图13所示,本申请实施例提供一种胫骨平台后倾角测量装置130,包括存储器1310和处理器1320,所述存储器1310存储有程序,所述程序在被所述处理器1320读取执行时,实现任一实施例所述的胫骨平台后倾角测量方法。

如图14所示,本申请实施例提供一种计算机可读存储介质140,所述计算机可读存储介质140存储有一个或者多个程序1410,所述一个或者多个程序1410可被一个或者多个处理器执行,以实现任一实施例所述的胫骨平台后倾角测量方法。

本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、装置中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。在硬件实施方式中,在以上描述中提及的功能模块/单元之间的划分不一定对应于物理组件的划分;例如,一个物理组件可以具有多个功能,或者一个功能或步骤可以由若干物理组件合作执行。某些组件或所有组件可以被实施为由处理器,如数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。

相关技术
  • 一种胫骨平台后倾角测量方法及装置、存储介质
  • 一种胫骨平台后倾角度测量装置
技术分类

06120113134957