掌桥专利:专业的专利平台
掌桥专利
首页

用于表征医学图像中的解剖特征的方法和系统

文献发布时间:2023-06-19 12:10:19


用于表征医学图像中的解剖特征的方法和系统

技术领域

本文公开的主题的实施方案涉及医学成像系统,并且更具体地涉及使用深度神经网络的图像特征分析。

背景技术

肝癌是全世界癌症相关死亡的主要原因,并且肝细胞癌(HCC)是最常见类型的肝癌。早期肿瘤检测和评估可有利地影响患者预后。作为一个示例,对比增强的计算机断层摄影(CT)扫描可用作评定处于HCC风险下的患者中的肝脏组织的非侵入性方法。CT扫描使用x射线穿过靶体积(当对患者进行HCC评估时,该靶体积包括肝脏)的差分透射来获取图像数据并构建层析图像(例如,人体内部的三维表示)。肝脏成像报告和数据系统或即LI-RADS提供用于解译和报告来自CT扫描的所得图像的标准。

在一些示例中,可在治疗后执行后续扫描以评估治疗的有效性。例如,在后续扫描的分析期间,用户/医师可比较相关组织区域的灰度值以评定治疗前和治疗后的差异。例如,如果所识别的病变在疗法过程之后的后续扫描中显示出显著减少的活组织,则这可指示对疗法的阳性响应。否则,可指示没有响应或进行性疾病。

发明内容

在一个实施方案中,一种方法包括:在检查期间随时间推移采集多个医学图像;配准该多个医学图像;在配准该多个医学图像之后,将解剖结构分割成该多个医学图像中的一个医学图像;在该多个医学图像中的每一个医学图像中创建和表征参考感兴趣区域(ROI);通过随时间推移跟踪该经分割的解剖结构的像素值来确定该解剖结构的特性;以及在显示设备上输出该确定的特性。以这种方式,解剖结构可被快速并且准确地表征。

在单独或与附图联系时,本说明书的以上优势以及其他优势和特征将从以下具体实施方式中显而易见。应当理解,提供以上发明内容是为了以简化的形式介绍在具体实施方式中进一步描述的概念的选择。这并不意味着识别所要求保护的主题的关键或必要特征,该主题的范围由具体实施方式后的权利要求书唯一地限定。此外,所要求保护的主题不限于解决上文或本公开的任何部分中提到的任何缺点的实施方式。

附图说明

通过阅读以下详细描述并且参考附图,可以更好地理解本公开的各个方面,其中:

图1是示出根据实施方案的用于跨多个图像分割和跟踪解剖学特征的图像处理系统的示意图;

图2示出了根据一个实施方案的可利用图像处理系统(诸如图1的图像处理系统)的成像系统的绘画视图;

图3示出了根据一个实施方案的示例性成像系统的方框示意图;

图4是示出根据实施方案的可在图1的系统中使用的深度学习网络的架构的示意图;

图5是示出根据实施方案的用于训练分割模型的方法的流程图;

图6是示出根据实施方案的用于在多相检查中分析和表征肝细胞癌(HCC)病变的方法的高级流程图;

图7示出了根据实施方案的示出用于对准来自多相检查的图像的示例性深度学习方法的示意图;

图8示出了用于创建和分析参考感兴趣区域(ROI)的工作流程的方框示意图;

图9示出了根据实施方案的用于执行HCC病变再分割和表征的工作流程的方框示意图;

图10示出了根据实施方案的病变再分割和表征的示例;并且

图11示出了根据实施方案的从在多相检查期间获得的肝脏图像进行特征提取的示例。

具体实施方式

以下描述涉及用于表征和跟踪解剖结构的变化(诸如癌性病变)的系统和方法。具体地,提供了用于基于在多相计算机断层摄影(CT)检查期间获取的图像来确定肝细胞癌(HCC)病变的特征的系统和方法。一种此类多相CT检查包括具有以下四个顺序采集的患者CT扫描:在注射造影剂之前采集非对比(或未增强)图像,以及在注射造影剂之后采集与造影剂摄取和清除的动脉期、门静脉期以及延迟期相对应的附加图像。在一些示例中,医师可依赖于在多相CT检查期间获得的图像来识别潜在癌组织并根据标准化评分过程(例如,肝脏成像报告和数据系统或即LI-RADS)对病变进行分类,该标准化评分过程给出对病变恶性度的指示。在其他示例中,医师可使用在多相CT检查期间获得的图像来跟踪已知病变随时间推移的变化,以便评估对治疗的响应并进一步开发治疗策略。然而,由于复杂的肝脏背景、呼吸运动、模糊的肿瘤边界、异质外观以及肿瘤和肝脏的高度变化形状,在多相CT期间获得的肝脏图像的准确处理仍然具有挑战性。此外,LI-RADS评分和治疗后评定对于执行分析的医师既复杂又主观,这可导致可变性和/或误诊。

因此,根据本文所公开的实施方案,提供了包括图像处理和深度学习方法的工作流程,以提高HCC肿瘤检测和表征的效率和准确性。工作流程可用于识别原始HCC病变的特性(例如,在治疗之前),以便根据LI-RADS特征对病变进行分类和/或评估HCC病变随时间推移(诸如在治疗之后)的变化。此类后续研究可指示例如对某种医学治疗的生理响应,并且可有助于确定治疗计划。例如,工作流程可分割在多相CT检查期间采集的每个图像中的肝脏和该肝脏内的病变;在各图像之间配准经分割的肝脏和病变;以及通过对该病变内的组织进行再分割来确定病变的治疗前或治疗后特性,可将这些特性输出给医师以用于评估。通过使用组合了图像处理和深度学习方法的自动工作流程来表征癌性病变,可减少医师间和医师内的可变性。此外,可通过减少肿瘤评定中主观性的量来减少误诊。以此方式,可提高癌症诊断和预后的准确性,同时减少医师的精神负担。

图1示出了用于实现深度学习模型的示例性图像处理系统,该深度学习模型可以是图4所示的深度学习模型。深度学习模型可包括多个神经网络模型,每个神经网络模型诸如根据图5的示例性方法用训练集训练。成像系统,诸如图2和图3所示的CT成像系统,可用于生成由图1的图像处理系统分析的图像。图6示出了用于使用图4的示例性深度学习模型来确定和/或跟踪病变的特性的工作流程的示例性方法。具体地,图6的方法可分析多个检查期中的造影剂动力学,以将肝脏从其他解剖特征分割,将病变从其他肝脏组织分割,并且基于在病变中发现的各种组织将病变再分割。为了使用来自多个检查期的图像,图7示出了可在图6的方法中使用的用于图像对准的示例性深度学习方法。图8示意性地示出了可用于确定和分析病变周围的健康肝脏组织内的参考感兴趣区域(ROI)的工作流程。图9示意性地示出了可在图6的方法中用于对经再分割的病变组织进行分类的工作流程。图10示出了经再分割的病变的示例性帧,并且图11示出了可用于提取病变的特征以供进行LI-RADS评分的示例性帧。

参见图1,示出了示例性医学图像处理系统100。在一些实施方案中,医学图像处理系统100被结合到医学成像系统(诸如,磁共振成像(MRI)系统、CT系统、单光子发射计算机断层显像(SPECT)系统等)中。在一些实施方案中,医学图像处理系统100的至少一部分设置在设备(例如,边缘设备或服务器)处,该设备经由有线和/或无线连接可通信地耦接到医学成像系统。在一些实施方案中,医学图像处理系统100设置在单独的设备(例如,工作站)处,该设备可从医学成像系统或者从存储由医学成像系统生成的图像的存储设备接收图像。医学图像处理系统100可包括图像处理系统31、用户输入设备32和显示设备33。例如,图像处理系统31可以可操作地/通信地耦接到用户输入设备32和显示设备33。

图像处理系统31包括处理器104,该处理器被配置为执行存储在非暂态存储器106中的机器可读指令。处理器104可以是单核或多核的,并且由处理器104执行的程序可被配置用于进行并行或分布式处理。在一些实施方案中,处理器104可以可选地包括分布在两个或更多个设备中的单独部件,这些部件可以被远程定位和/或配置用于协调处理。在一些实施方案中,处理器104的一个或多个方面可被虚拟化并由以云计算配置进行配置的可远程访问的联网计算设备执行。在一些实施方案中,处理器104可以包括能够执行处理功能的其他电子部件,诸如数字信号处理器、现场可编程门阵列(FPGA)或图形板。在一些实施方案中,处理器104可包括能够执行处理功能的多个电子部件。例如,处理器104可包括从多个可能的电子部件中选择的两个或更多个电子部件,这些电子部件包括:中央处理器、数字信号处理器、现场可编程门阵列和图形板。在另外的实施方案中,处理器104可被配置为图形处理单元(GPU),包括并行计算架构和并行处理能力。

非暂态存储器106可存储分割模块112和医学图像数据114。分割模块112可包括一个或多个机器学习模型(诸如深度学习网络),该一个或多个机器学习模型包括多个权重和偏差、激活函数、损失函数、梯度下降算法以及用于实现该一个或多个深度神经网络以处理输入的医学图像的指令。例如,分割模块112可存储用于实现神经网络(诸如图4所示并且如下所述的卷积神经网络(CNN)400)的指令。分割模块112可包括经训练的和/或未训练的神经网络并且还可包括与存储在其中的一个或多个神经网络模型相关联的训练例程或参数(例如,权重和偏差)。

图像处理系统31可通信地耦接到训练模块110,该训练模块包括用于训练存储在分割模块112中的机器学习模型中的一个或多个机器学习模型的指令。训练模块110可包括指令,这些指令当由处理器执行时使得该处理器进行在下面更详细讨论的图5的方法500的步骤。在一个示例中,训练模块110包括用于从医学图像数据114接收训练数据集的指令,这些训练数据集包括用于训练存储在分割模块112中的机器学习模型中的一个或多个机器学习模型的医学图像、相关联的地面实况标签/图像和相关联的模型输出的集合。训练模块110可从医学图像数据114以外的来源(诸如其他图像处理系统、云等)接收用于训练一个或多个机器学习模型的医学图像、相关联的地面实况标签/图像和相关联的模型输出。在一些实施方案中,训练模块110的一个或多个方面可包括以云计算配置进行配置的可远程访问的联网存储设备。此外,在一些实施方案中,训练模型110被包括在非暂态存储器106中。附加地或另选地,在一些实施方案中,训练模型110可用于离线且远离图像处理系统100生成分割模块112。在此类实施方案中,训练模块110可不包括在图像处理系统100中,但是可生成存储在图像处理系统100中的数据。

非暂态存储器106还存储医学图像数据114。医学图像数据114包括例如由功能成像模态(诸如SPECT和PET系统)捕获的功能成像图像、由MRI系统或CT系统捕获的解剖图像等。例如,医学图像数据114可包括存储在非暂态存储器106中的初始和后续医学扫描图像。作为一个示例,医学图像数据114可包括在患者肝脏的多相对比度增强检查期间采集的一系列CT图像。

在一些实施方案中,非暂态存储器106可以包括设置在两个或更多个设备处的部件,这些部件可以被远程定位和/或配置用于协调处理。在一些实施方案中,非暂态存储器106的一个或多个方面可以包括云计算配置的可远程访问的联网存储设备。

图像处理系统100还可包括用户输入设备32。用户输入设备32可包括触摸屏、键盘、鼠标、触控板、运动感测相机或被配置为使用户能够与图像处理系统31内的数据交互并操纵该数据的其他设备中的一者或多者。例如,用户输入设备32可使得用户能够对成像结构进行分析和排序。

显示设备33可包括利用任何类型的显示技术的一个或多个显示设备。在一些实施方案中,显示设备33可包括计算机监视器,并且可显示未处理的图像、经处理的图像、参数标测图和/或检查报告。显示设备33可与处理器104、非暂态存储器106和/或用户输入设备32在共享壳体中组合,或者可为外围显示设备。显示设备33可包括监视器、触摸屏、投影仪或另一种类型的显示设备,该显示设备可使得用户能够查看医学图像和/或与存储在非暂态存储器106中的各种数据进行交互。

应当理解的是,图1所示的图像处理系统100是图像处理系统的一个非限制性实施方案,并且在不脱离本公开的范围的情况下,其他成像处理系统可包括更多、更少或不同的部件。

图2示出了被配置用于CT成像的示例性CT系统200。具体地,CT系统200被配置为对受检者212(诸如患者、无生命对象、一个或多个制造部件)和/或外来对象(诸如存在于身体内的牙科植入物、支架和/或造影剂)进行成像。CT系统200可用于生成例如由图1的图像处理系统100处理的医学图像。在一个实施方案中,CT系统200包括机架202,该机架继而还可以包括至少一个x射线源204,该至少一个x射线源被配置为投射x射线辐射束206(参见图3)以用于对躺在检查台214上的受检者212进行成像。具体地,x射线源204被配置为将x射线辐射206朝向定位在机架202的相对侧上的检测器阵列208投射。尽管图2仅描绘了单个x射线源204,但是在某些实施方案中,可以采用多个x射线源和检测器来投射多个x射线辐射束206,以用于在对应于患者的不同能量水平采集投影数据。在一些实施方案中,x射线源204可以通过快速峰值千伏电压(kVp)切换来实现双能量宝石能谱成像(GSI)。在一些实施方案中,所采用的x射线检测器是能够区分不同能量的x射线光子的光子计数检测器。在其他实施方案中,使用两组x射线源和检测器来生成双能量投影,其中一组x射线源和检测器设置为低kVp而另一组设置为高kVp。因此应当理解的是,本文所述的方法可用单能量采集技术以及双能量采集技术来实现。

在某些实施方案中,CT系统200还包括图像处理器单元210,该图像处理器单元被配置为使用迭代或分析图像重建方法来重建受检者212的靶体积的图像。例如,图像处理器单元210可以使用诸如滤波反投影(FBP)的分析图像重建方法来重建患者的靶体积的图像。作为另一示例,图像处理器单元210可以使用迭代图像重建方法(诸如高级统计迭代重建(advanced statistical iterative reconstruction,ASIR)、共轭梯度(conjugategradient,CG)、最大似然期望最大化(maximum likelihood expectation maximization,MLEM)、基于模型的迭代重建(model-based iterative reconstruction,MBIR)等等)来重建受检者212的靶体积的图像。如本文进一步所述,在一些示例中,除了迭代图像重建方法之外,图像处理器单元210还可使用分析图像重建方法(诸如FBP)。在一些示例中,图像处理器单元210可以被包括作为图1的图像处理系统31的一部分或通信地耦接到该图像处理系统。

在CT系统200的一些配置中,x射线源204投射锥形x射线辐射束,该锥形x射线辐射束被准直成位于笛卡尔坐标系的X-Y-Z平面内并且通常被称为“成像平面”。x射线辐射束206穿过正在被成像的对象,诸如患者212。x射线辐射束在被对象衰减之后照射在检测器阵列208处的检测器元件阵列上。在检测器阵列208处接收的衰减x射线辐射束的强度取决于对象对x射线辐射束的衰减。阵列的每个检测器元件产生单独的电信号,该单独的电信号是检测器位置处的x射线束衰减测量。单独地采集来自所有检测器元件的衰减测量值,以产生传输分布。

在CT系统200的一些配置中,使用机架202使x射线源204和检测器阵列208在成像平面内围绕待成像的对象旋转,使得x射线辐射束206与对象相交的角度不断变化。在一个机架角度下来自检测器阵列208的一组x射线辐射衰减测量值(例如,投影数据)被称为“视图”。对象的“扫描”包括在x射线源和检测器的一次旋转期间在不同的机架角度或视角下制得的一组视图。可以设想的是,本文所述的方法的益处源于CT之外的医学成像模态,因此如本文所用,术语“视图”不限于上文关于来自一个机架角度的投影数据所述的用途。术语“视图”用于意指每当存在来自不同角度的多个数据采集(无论是来自CT、正电子发射断层扫描(PET)还是单光子发射CT(SPECT)采集)时的一个数据采集,和/或任何其他模态(包括尚待开发的模态)以及它们在融合(例如,混合)实施方案中的组合。

处理投影数据以重建与通过对象获取的二维切片相对应的图像,或在投影数据包括多个视图或扫描的一些示例中,重建与对象的三维渲染相对应的图像。一种用于由一组投影数据重建图像的方法称为滤波反投影技术。传输和发射断层摄影重建技术还包括统计迭代方法,诸如最大似然期望最大化(MLEM)和有序子集期望重建技术以及迭代重建技术。该方法将来自扫描的衰减测量值转换成称为“CT数”或“亨氏单位(Hounsfield unit,HU)”的整数,这些整数用于控制显示设备上的对应像素的亮度(或强度)。

为了减少总扫描时间,可执行“螺旋”扫描。为了执行螺旋扫描,在采集规定数量的切片的数据的同时移动患者。此类系统从锥形束螺旋扫描产生单个螺旋。由锥形束绘制出(mapped out)的螺旋产生了投影数据,根据该投影数据可重建每个规定切片中的图像。

如本文所用,短语“重建图像”并非旨在排除其中生成表示图像的数据而非可视图像的本发明的实施方案。因此,如本文所用,术语“图像”广义地是指可视图像和表示可视图像的数据两者。然而,许多实施方案生成(或被配置为生成)至少一个可视图像。

图3示出了类似于图2的CT系统200的示例性成像系统300。根据本公开的各方面,成像系统300被配置用于对受检者304(例如,图2的受检者212)进行成像。在一个实施方案中,成像系统300包括检测器阵列208(参见图2)。检测器阵列208还包括多个检测器元件302,该多个检测器元件一起感测穿过受检者304(诸如患者)的x射线辐射束206(参见图3)以采集对应的投影数据。因此,在一个实施方案中,以包括多行单元或检测器元件302的多切片配置来制造检测器阵列208。在此类配置中,一个或多个附加行的检测器元件302以并行配置布置,以用于采集投影数据。

在某些实施方案中,成像系统300被配置为遍历受检者304周围的不同角位置以采集所需的投影数据。因此,机架202和安装在其上的部件可以被配置为围绕旋转中心306旋转,以采集例如不同能级下的投影数据。另选地,在相对于受检者304的投影角度随时间的推移变化的实施方案中,所安装的部件可被配置为沿大致曲线而不是沿一段圆周移动。

因此,当x射线源204和检测器阵列208旋转时,检测器阵列208收集衰减的x射线束的数据。然后,由检测器阵列208收集的数据经历预处理和校准以对数据进行调节以表示所扫描的受检者304的衰减系数的线积分。经处理的数据通常被称为投影。在一些示例中,检测器阵列208中的单独检测器或检测器元件302可包括光子计数检测器,该光子计数检测器将单独光子的交互寄存到一个或多个能量区间(energy bin)中。应当理解,本文所述的方法还可使用能量积分检测器来实现。

所采集的投影数据集可用于基础材料分解(BMD)。在BMD期间,将所测量的投影转换为一组材料密度投影。可将材料密度投影重建以形成每种相应的基础材料的一对或一组材料密度标测图或图像(诸如骨、软组织和/或造影剂标测图)。密度图或图像可继而相关联以形成对成像体积中的基础材料(例如骨、软组织和/或造影剂)的体绘制。

一旦重建,由成像系统300产生的基础材料图像就显示出以两种基础材料的密度表示的受检者304的内部特征。可显示密度图像以展示这些特征。在诊断医学病症(诸如疾病状态),并且更一般地诊断医学事件的传统方法中,放射科医生或医师将考虑密度图像的硬拷贝或显示以辨别感兴趣的特性特征。此类特征可以包括特定解剖结构或器官的病灶、尺寸和形状,以及基于个体从业者的技能和知识应在图像中可辨别的其他特征。

在一个实施方案中,成像系统300包括控制机构308,以控制部件的运动,诸如机架202的旋转和x射线源204的操作。在某些实施方案中,控制机构308还包括x射线控制器310,该x射线控制器被配置为向x射线源204提供功率和定时信号。另外,控制机构308包括机架马达控制器312,该机架马达控制器被配置为基于成像要求来控制机架202的旋转速度和/或位置。

在某些实施方案中,控制机构308还包括数据采集系统(DAS)314,该DAS被配置为对从检测器元件302接收的模拟数据进行采样,并将模拟数据转换为数字信号以用于后续处理。DAS 314还可以被配置为选择性地将来自检测器元件302的子集的模拟数据聚集到所谓的宏检测器中,如本文进一步描述的。将由DAS 314采样和数字化的数据传输到计算机或计算设备316。在一个示例中,计算设备316将数据存储在存储设备或大容量存储装置318中。例如,存储设备318可以包括硬盘驱动器、软盘驱动器、光盘-读/写(CD-R/W)驱动器、数字通用光碟(DVD)驱动器、闪存驱动器,以及/或者固态存储驱动器。

另外,计算设备316向DAS 314、x射线控制器310和机架马达控制器312中的一者或多者提供命令和参数,以控制系统操作,诸如数据采集和/或处理。在某些实施方案中,计算设备316基于操作员输入来控制系统操作。计算设备316经由可操作地耦接到计算设备316的操作员控制台320来接收操作员输入,该操作员输入例如包括命令和/或扫描参数。操作员控制台320可以包括例如键盘(未示出)或触摸屏,以允许操作员指定命令和/或扫描参数。

虽然图3仅示出了一个操作员控制台320,但是多于一个操作员控制台可以耦接到成像系统300,例如以用于输入或输出系统参数、请求检查、绘制数据和/或查看图像。此外,在某些实施方案中,成像系统300可以经由一个或多个可配置的有线和/或无线网络(诸如互联网和/或虚拟专用网络、无线电话网络、无线局域网、有线局域网、无线广域网、有线广域网等)耦接到例如在机构或医院内或者处于完全不同位置的本地或远程地定位的多个显示器、打印机、工作站和/或类似设备。例如,成像系统300可耦接到图1的图像处理系统100。

在一个实施方案中,例如,成像系统300包括图片存档和通信系统(PACS)324或者耦接到该PACS。在一个示例性实施方式中,PACS 324进一步耦接到远程系统(诸如放射科信息系统、医院信息系统)和/或耦接到内部或外部网络(未示出),以允许处于不同位置的操作员供应命令和参数和/或获得对图像数据的访问。

计算设备316使用操作员供应的和/或系统定义的命令和参数来操作检查台马达控制器326,该检查台马达控制器又可控制检查台214,该检查台可以是电动检查台。具体地,检查台马达控制器326可以移动检查台214以将受检者304适当地定位在机架202中,以采集与受检者304的靶体积相对应的投影数据。

如前所述,DAS 314对由检测器元件302采集的投影数据进行采样和数字化。随后,图像重建器330使用所采样和数字化的x射线数据来执行高速重建。虽然图3将图像重建器330示出为单独实体,但在某些实施方案中,图像重建器330可以形成计算设备316的一部分。另选地,图像重建器330可以不存在于成像系统300中,并且替代地计算设备316可以执行图像重建器330的一种或多种功能。此外,图像重建器330可以本地或远程地定位,并且可以使用有线或无线网络来可操作地连接到成像系统300。具体地,一个示例性实施方案可以使用“云”网络集群中的计算资源来用于图像重建器330。此外,在一些示例中,图像重建器330被包括作为图2的图像处理器单元210的一部分。

在一个实施方案中,图像重建器330将重建的图像存储在存储设备318中。另选地,图像重建器330可将重建的图像传输到计算设备316,以生成用于诊断和评估的可用患者信息。在某些实施方案中,计算设备316可将重建的图像和/或患者信息传输到显示器或显示设备332,该显示器或显示设备通信地耦接到计算设备316和/或图像重建器330。在一个实施方案中,显示器332允许操作员评估成像的解剖结构。显示器332还可允许操作员例如经由图形用户界面(GUI)来选择感兴趣的体积(VOI)和/或请求患者信息,以供后续扫描或处理。

在一些实施方案中,重建的图像可以从计算设备316或图像重建器330传输到存储设备318,以进行短期或长期存储。此外,在一些实施方案中,计算设备316可以耦接到或可以可操作地耦接到图1的处理器104。因此,原始数据和/或从由成像系统300采集的数据重建的图像可被传输到图像处理系统100(参见图1)以用于进一步处理和分析。此外,本文进一步所述的各种方法和过程(诸如以下参考图6描述的方法)可作为可执行指令存储在计算设备(或控制器)上的非暂态存储器中。指令中的至少一些指令可存储在成像系统300中的非暂态存储器中。在一个实施方案中,图像重建器330可以在非暂态存储器中包括此类可执行指令来根据扫描数据重建图像。在另一个实施方案中,计算设备316可在非暂态存储器中包括指令,并且可在从图像重建器330接收到重建的图像之后至少部分地将本文所述的方法应用于该重建的图像。在又一个实施方案中,本文所述的方法和过程可分布在图像重建器330和计算设备316上。附加地或另选地,本文所述的方法和过程可以分布在成像系统300(例如,在图像重建器330和/或计算设备316中)和图1的医学图像处理系统100(例如,在处理器104和/或非暂态存储器106中)上。

转到图4,示出了用于分割解剖特征的医学图像的示例性卷积神经网络(CNN)架构400。例如,CNN 400可将感兴趣的解剖特征与图像中的其他解剖特征分割开。例如,分割可限定感兴趣的解剖特征与其他组织、器官和结构之间的边界。将使用肝脏作为感兴趣的解剖特征来描述图4,其中CNN架构400用于将肝脏与其他解剖特征分割开。然而,应当理解的是,在其他示例中,CNN架构400可应用于分割其他解剖特征。CNN 400表示根据本公开的机器学习模型的一个示例,其中可使用根据本文公开的一种或多种方法(诸如下文所述的图5的方法)产生的训练数据来学习CNN 400的参数。

CNN架构400代表U-net架构,该U-net架构可分为编码器部分(下降部分,元件402-430)和解码器部分(上升部分,元件432-456)。CNN架构400被配置为接收医学图像,这些医学图像可以是例如磁共振(MR)图像、计算机断层摄影(CT)图像、SPECT图像等。在一个实施方案中,CNN架构400被配置为从包括多个像素/体素的CT图像(诸如输入医学图像401)接收数据,并且基于采集参数变换的输出将输入图像数据映射到肝脏的经分割的图像(诸如输出的经分割的医学图像460)。CNN架构400将被描述为3D网络,但是2D网络可包括类似的架构。因此,输入医学图像401是包括多个体素的输入3D体积。

CNN架构400包括一系列映射,该一系列映射从输入图像图块402(其可由输入层从输入医学图像401接收)延伸通过多个特征标测图,并且最终到达输出的经分割的医学图像460。可基于来自输出层456的输出来产生输出的经分割的医学图像460,该输出的经分割的医学图像为输出3D体积。

在图例458中标记了包括CNN架构400的各种元件。如图例458所指出的,CNN架构400包括通过由箭头指出的一个或多个操作连接的多个特征标测图(和/或复制的特征标测图)。箭头/操作接收来自外部文件或先前特征标测图的输入,并且将所接收的输入变换/映射以产生下一个特征标测图。每个特征标测图可包括多个神经元。在一些实施方案中,每个神经元可接收来自前一层/特征标测图的神经元子集的输入,并且可以基于所接收的输入来计算单个输出。输出可传播/映射到下一层/特征标测图中的神经元子集或全部神经元。可以使用空间维度诸如长度、宽度和深度来描述特征标测图,其中维度是指包括特征标测图的神经元的数量(例如,指定的特征标测图是多少神经元长、多少神经元宽、以及多少神经元深)。

在一些实施方案中,特征标测图的神经元可通过使用学习权重集(每个学习权重集在本文中可被称为滤波器)执行所接收的输入的卷积来计算输出,其中每个所接收的输入具有唯一的对应的学习权重,其中该学习权重是在CNN的训练期间学习的。

在各个特征标测图之间执行的变换/映射由箭头指示。每个不同类型的箭头对应于不同类型的变换,如由图例458所示。向右指向的实心黑色箭头指示步幅为1的3×3×3卷积,其中来自紧接着先前特征标测图的特征通道的3×3×3网格的输出被映射到当前特征标测图的单个特征通道。每个3×3×3卷积都可跟随有激活函数,其中在一个实施方案中,激活函数包括整流线性单元(ReLU)。

向下指向的箭头指示2×2×2最大池化操作,其中来自单个深度处的特征通道的2×2×2网格的最大值从紧接着先前的特征标测图传播到当前特征标测图的单个特征通道,从而导致与紧接着先前的特征标测图相比,产生空间分辨率减少8倍的输出特征标测图。

向上指向的中空箭头指示2×2×2上卷积,其包括将来自紧接着先前特征标测图的单个特征通道的输出映射到当前特征标测图中的特征通道的2×2×2网格,从而将紧接着先前特征标测图的空间分辨率提高8倍。

向右指向的虚线箭头指示复制和裁剪特征标测图以与另一个以后出现的特征标测图级联。裁剪使复制的特征标测图的维度能够与待与复制的特征标测图级联的特征通道的维度匹配。应当理解,当正复制的第一特征标测图的尺寸和待与第一特征标测图级联的第二特征标测图的尺寸相等时,可不执行裁剪。

具有中空头部的向右指向的箭头指示1×1×1卷积,其中紧接着先前的特征标测图中的每个特征通道被映射到当前特征标测图的单个特征通道,或者换句话讲,其中在紧接着先前的特征标测图与当前特征标测图之间发生了特征通道的1对1映射。每个特征标测图处的处理可包括上述的卷积和解卷积以及激活,其中激活函数是将处理的输出值限制在边界范围内的非线性函数。

除了图例458内的箭头所指示的操作之外,CNN架构400还包括表示特征标测图的实心填充矩形,其中特征标测图包括高度(如图4所示的从上到下的长度,其对应于x-y平面中的y空间维度)、宽度(图4中未示出,假设量值与高度相等,并且对应于x-y平面中的x空间维度)和深度(如图4所示的左右长度,其对应于每个特征通道内的特征的数量)。同样,CNN架构400包括表示复制和裁剪的特征标测图的中空(未填充)矩形,其中复制的特征标测图包括高度(如图4所示的从上到下的长度,其对应于x-y平面中的y空间维度)、宽度(图4中未示出,假设量值与高度相等,并且对应于x-y平面中的x空间维度)和深度(如图4所示从左侧到右侧的长度,其对应于每个特征通道内的特征的数量)。

从输入图像图块402(在本文也称为输入层)处开始,输入对应于医学图像401的数据并且将其映射到第一特征集。在一些实施方案中,输入医学图像401在由神经网络处理之前被预处理(例如,归一化)。可在训练过程期间学习CNN 400的每一层的权重/参数,其中将输入和预期输出(地面实况输出)的匹配对馈送到CNN 400。可基于梯度下降算法或其他算法来调整参数,直到CNN 400的输出在阈值准确度内与预期输出(地面实况输出)匹配为止。输入医学图像401可包括肝脏(或在其他示例中,另一个患者解剖区域)的二维(2D)或三维(3D)图像/标测图。

如紧接着输入图像图块402右侧的实心黑色向右指向的箭头所指示,执行输入图像图块402的特征通道的3×3×3卷积以产生特征标测图404。如上面所讨论的,3×3×3卷积包括使用学习的权重将输入从特征通道的3×3×3网格映射到当前特征标测图的单个特征通道,其中将学习的权重称为卷积滤波器。CNN架构400中的每个3×3×3卷积可包括后续激活函数,在一个实施方案中,该后续激活函数包括将每个3×3×3卷积的输出通过ReLU。在一些实施方案中,可采用ReLU之外的激活函数诸如Softplus(也称为SmoothReLU)、泄漏ReLU、嘈杂ReLU、指数线性单元(ELU)、Tanh、高斯、Sinc、Bent identity、逻辑函数和机器学习领域中已知的其他激活功能。

如紧接着特征标测图404右侧的实心黑色向右指向的箭头所指示,在特征标测图404上执行3×3×3卷积以产生特征标测图406。

如特征标测图406下方的向下指向的箭头所指示,在特征标测图406上执行2×2×2最大池化操作以产生特征标测图408。简而言之,2×2×2最大池化操作包括从紧接着先前的特征标测图的特征通道的2×2×2网格确定最大特征值,以及将当前特征标测图的单个特征通道中的单个特征设置为所确定的最大特征值。另外,特征标测图406被复制并与来自特征标测图448的输出级联以产生特征标测图450,如紧接着特征标测图406右侧的虚线向右指向的箭头所指示。

如紧接着特征标测图408右侧的实心黑色向右指向的箭头所指示,在特征标测图408上执行步幅为1的3×3×3卷积以产生特征标测图410。如紧接着特征标测图410右侧的实心黑色向右指向的箭头所指示,在特征标测图410上执行步幅为1的3×3×3卷积以产生特征标测图412。

如特征标测图412下方的向下指向的中空头部箭头所指示,在特征标测图412上执行2×2×2最大池化操作以产生特征标测图414,其中特征标测图414是特征标测图412的空间分辨率的四分之一。另外,特征标测图412被复制并与来自特征标测图442的输出级联以产生特征标测图444,如紧接着特征标测图412右侧的虚线向右指向的箭头所指示。

如紧接着特征标测图414右侧的实心黑色向右指向的箭头所指示,在特征标测图414上执行步幅为1的3×3×3卷积以产生特征标测图416。如紧接着特征标测图416右侧的实心黑色向右指向的箭头所指示,在特征标测图416上执行步幅为1的3×3×3卷积以产生特征标测图418。

如特征标测图418下方的向下指向的箭头所指示,在特征标测图418上执行2×2×2最大池化操作以产生特征标测图420,其中特征标测图420是特征标测图418的空间分辨率的一半。另外,特征标测图418被复制并与来自特征标测图436的输出级联以产生特征标测图438,如紧接着特征标测图418右侧的虚线向右指向的箭头所指示。

如紧接着特征标测图420右侧的实心黑色向右指向的箭头所指示,在特征标测图420上执行步幅为1的3×3×3卷积以产生特征标测图422。如紧接着特征标测图422右侧的实心黑色向右指向的箭头所指示,在特征标测图422上执行步幅为1的3×3×3卷积以产生特征标测图424。

如特征标测图424下方的向下指向的箭头所指示,在特征标测图424上执行2×2×2最大池化操作以产生特征标测图426,其中特征标测图426是特征标测图424的空间分辨率的四分之一。另外,特征标测图424被复制并与来自特征标测图430的输出级联以产生特征标测图432,如紧接着特征标测图424右侧的虚线向右指向的箭头所指示。

如紧接着特征标测图426右侧的实心黑色向右指向的箭头所指示,在特征标测图426上执行3×3×3卷积以产生特征标测图428。如紧接着特征标测图428右侧的实心黑色向右指向的箭头所指示,在特征标测图428上执行步幅为1的3×3×3卷积以产生特征标测图430。

如特征标测图430正上方的向上指向的箭头所指示,在特征标测图430上执行2×2×2上卷积以产生特征标测图432的第一半部,同时使用来自特征标测图424的复制的特征来产生特征标测图432的第二半部。简而言之,步幅为2的2×2×2上卷积(在本文也称为反卷积或上采样)包括将紧接着先前的特征标测图的单个特征通道中的特征标测图到在当前特征标测图中的四个特征通道之间分布的四个特征(即,来自单个特征通道的输出被当作四个特征通道的输入)。上卷积/解卷积/上采样包括通过去卷积滤波器(在本文也称为去卷积内核)从单个特征通道投影特征值以产生多个输出。

如紧接着特征标测图432右侧的实心黑色向右指向的箭头所指示,在特征标测图432上执行3×3×3卷积以产生特征标测图434。

如图4所指示,在特征标测图434上执行3×3×3卷积以产生特征标测图436并且在特征标测图436上执行2×2×2上卷积以产生特征标测图438的第一半部,而来自特征标测图418的复制和裁剪的特征产生特征标测图438的第二半部。此外,在特征标测图438上执行3×3×3卷积以产生特征标测图440,在特征标测图440上执行3×3×3卷积以产生特征标测图442,并且在特征标测图442上进行2×2×2上卷积以产生特征标测图444的第一半部,同时使用来自特征标测图412的复制和裁剪的特征来产生特征标测图444的第二半部。在特征标测图444上执行3×3×3卷积以产生特征标测图446,在特征标测图446上执行3×3×3卷积以产生特征标测图448,并且在特征标测图448上执行2×2×2上卷积以产生特征标测图450的第一半部,同时使用来自特征标测图406的复制的特征来产生特征标测图450的第二半部。在特征标测图450上执行3×3×3卷积以产生特征标测图452,在特征标测图452上执行3×3×3卷积以产生特征标测图454,并且在特征标测图454上执行1×1×1卷积以产生输出层456。简而言之,1×1×1卷积包括第一特征空间中的特征通道与第二特征空间中的特征通道的1对1映射,其中不会发生空间分辨率的降低。

输出层456可包括神经元的输出层,其中每个神经元都可对应于经分割的医学图像的体素,并且其中每个神经元的输出都可对应于在输入的医学图像内在给定位置中的预测解剖特征或特性(或缺少解剖特征或特性)。例如,神经元的输出可指示经分割的医学图像的对应体素是肝脏的一部分还是另一个解剖特征。

在一些实施方案中,输出层456可被反馈到CNN 400的输入层。例如,来自CNN 400的先前迭代的输出层可作为反馈层,作为对CNN 400的当前迭代的输入来应用。反馈层可作为输入图像的另一层包括在内(以相同的分辨率),并且因此可作为输入图像图块402的一部分包括在内。例如,输入医学图像401和CNN 400的先前迭代的输出层(例如,经缓冲的输出,其中缓冲表示输出被存储在缓冲器中,直到用作对CNN 400的输入为止)可形成为矢量,该矢量被录入作为对CNN 400的输入。在一些示例中,在CNN 400的先前迭代中用作输入的输入医学图像也可包括在输入层中。

以这种方式,CNN 400可实现医学图像到输出的映射,以便分割感兴趣的解剖特征(例如,肝脏)。图4中所示的CNN 400的架构包括特征标测图变换,随着输入图像图块传播通过卷积神经网络的神经元层,发生特征标测图变换,以产生预测输出。CNN 400中的卷积层的权重(和偏差)是在训练期间学习的,这将在下面参考图5进行详细讨论。简而言之,定义损失函数以反映预测输出与地面实况输出之间的差值。可将差值/损失反投影到CNN以更新卷积层的权重(和偏差)。可使用包括医学图像和对应的地面实况输出的多个训练数据集来训练CNN 400。

应当理解,本公开包含神经网络架构,这些神经网络架构包括一个或多个正则化层,该一个或多个正则化层包括批归一化层、丢弃层、高斯噪声层和机器学习领域中已知的其他正则化层,它们可在训练期间使用以减轻过度拟合并提高训练效率,同时减少训练时间。在CNN训练期间使用正则化层,并且在CNN 400的训练后实现期间将其停用或移除。这些层可散布在图4所示的层/特征标测图之间,或者可替换所示层/特征标测图中的一者或多者。

应当理解的是,图4所示的CNN 400的架构和配置是说明性而非限制性的。可使用任何适当的神经网络诸如ResNet、递归神经网络、广义回归神经网络(GRNN)等。上面描述了本公开的一个或多个特定实施方案以便提供透彻的理解。本领域技术人员将理解,在不脱离本公开的实质和范围的情况下,可以在实施时修改实施方案中描述的具体细节。

参见图5,示出了根据示例性实施方案的用于训练分割模型(诸如图4所示的CNN400)的方法500的流程图。例如,方法500可由图1的训练模块110实现。

在502处,将训练数据集馈送到分割模型。训练数据集可以选自多个训练数据集,并且可以包括当前医学图像、先前模型输出和对应的地面实况标签。可基于紧接在当前医学图像之前获取的先前医学图像或者根据在当前医学图像之前获取但具有在当前医学图像与先前医学图像之间获取的一个或多个中间医学图像的先前图像来确定先前模型输出。例如,先前医学图像可以是成像系统所收集的医学数据的第一帧,而当前医学图像可以是成像系统所收集的医学数据的第五帧,其中出于训练数据集的目的,丢弃成像系统所收集的医学数据的第二帧、第三帧和第四帧。作为一个示例,训练数据可以包括至少几百个数据集,以便涵盖在图像采集参数(例如,注入期可变性、伪影、峰值x射线源千伏电压)、解剖结构和病理方面的高可变性。

地面实况可包括基于当前医学图像的输入,从机器学习模型获得的预期的、理想的或“正确的”结果。在一个示例中,在经过训练以识别医学图像中的解剖结构(例如,肝脏)和/或该解剖结构的特征(例如,肝脏内的癌性病变)的机器学习模型中,对应于特定医学图像的地面实况输出可以包括该医学图像的专家策划分割标测图,该专家策划分割标测图可以包括从背景分割的解剖结构以及识别该解剖结构的每种不同组织类型的标签。在另一示例中,可通过分析方法/算法来产生地面实况输出。以此方式,地面实况标签可针对每个图像识别每个图像中的每个解剖特征的身份和位置。在一些实施方案中,训练数据集(和多个训练数据集)可存储在图像处理系统中,诸如存储在图1所示的图像处理系统31的医学图像数据114中。在其他实施方案中,可经由图像处理系统与外部存储设备之间的通信耦接(诸如经由与远程服务器的互联网连接)来获取训练数据集。作为一个示例,训练数据可以包括至少600个数据集,以便涵盖在图像采集参数(例如,注入期可变性、伪影、峰值x射线源千伏电压)、解剖结构和病理方面的高可变性。

在504处,将训练数据集的当前图像输入到模型的输入层中。在一些实施方案中,将当前图像输入到具有编码器-解码器型架构的CNN(诸如图4所示的CNN 400)的输入层中。在一些实施方案中,将当前图像的每个体素或像素值输入到模型的输入层的不同节点/神经元中。

在506处,使用当前图像和模型来确定当前模型输出,该当前模型输出指示当前图像中的一个或多个解剖结构和/或特征的身份和位置。例如,该模型可通过将输入的当前图像从输入层,传播穿过一个或多个隐藏层,并且到达模型的输出层来将输入的当前图像映射到解剖特征的身份和位置。在一些实施方案中,模型的输出包括值的矩阵,其中每个值都对应于输入的当前图像的相应像素或体素处的所识别的解剖特征(或缺少所识别的特征)。

在508处,由图像处理系统计算模型的当前输出与对应于当前图像的地面实况标签之间的差值。在一些实施方案中,确定对应于输入的当前图像的预测解剖特征的每个输出值与由地面实况标签指示的解剖特征之间的差值。可根据损失函数来计算差值,例如:

其中S是地面实况标签,并且T是预测解剖特征。也就是说,对于输入的当前图像的每个像素或体素,模型的输出可包括该像素是哪个解剖特征的一部分(或缺乏解剖特征)的指示。地面实况标签同样可以包括针对当前图像的每个像素,该像素是哪个识别的解剖特征的一部分的指示。然后,可确定每个输出值与地面实况标签之间的差值。

在510处,基于在508处计算出的差值来调整模型的权重和偏差。如由损失函数所确定的差值(或损失)可反向传播穿过模型(例如,神经学习网络),以更新卷积层的权重(和偏差)。在一些实施方案中,根据梯度下降算法可发生损失的反向传播,其中针对模型的每个权重和偏差确定损失函数的梯度(一阶导数或一阶导数的近似)。然后,通过将针对权重(或偏差)确定(或近似)的梯度乘积的负数与预定步长大小相加来更新模型的每个权重(和偏差)。然后方法500可返回。例如,方法500可重复进行,直到模型的权重和偏差收敛,或者直到对于方法500的每次迭代,模型的权重和/或偏差的变化率都在阈值以下。

以这种方式,方法500使模型能够经训练以从当前医学图像预测一个或多个解剖特征的位置和/或其他属性(例如,组织特性),从而有助于在后续医学扫描中自动确定所识别的解剖特征特性。具体地,方法500可用于训练图4的CNN 400以在输入医学图像内分割肝脏。

现在参见图6,示出了用于使用图像处理和深度学习模型在多相检查中分析和表征HCC病变的示例性方法600的流程图。方法600可通过以上公开的系统中的一个或多个系统来实现,这些系统为诸如图1的医学图像处理系统100、图2的CT系统200和/或图3的成像系统300。具体地,方法600提供了用于使治疗前患者和治疗后患者两者中的HCC肿瘤检测和表征加速和提高其准确度的工作流程。

在602处,方法600包括获得肝脏图像。作为一个示例,肝脏图像可在对比度增强的计算机断层摄影(CT)扫描(或检查)期间获得。对比度增强的CT扫描可用作非侵入性方法来评定例如处于HCC风险下的患者中的肝脏组织。因此,获得肝脏图像可包括在CT扫描的不同期期间采集肝脏的一系列CT图像。例如,可在将造影剂注射到患者体内之前和之后的各个期期间采集CT图像。具体地,第一图像可在注射造影剂之前(例如,在注射后0秒时)采集,并且可被称为未增强(或非对比)的图像。第二图像可在注射造影剂之后的短持续时间(例如,在注射后20秒)内采集,并且可被称为动脉期图像。第三图像可在第二图像之后的另一短持续时间(例如,在注射后50秒)内采集,并且可被称为门静脉期图像。第四图像可在第三图像之后的持续时间(例如,在注射后150秒)内采集,并且可被称为延迟期图像。然而,在其他示例中,可能无法获得延迟期图像。

如上文关于图2和图3所详述,可通过激活x射线源(例如,图2的x射线源204)来采集每个图像,该x射线源被配置为将x射线辐射束穿过患者,特别是穿过该患者的肝脏投射到检测器阵列(例如,图2的检测器阵列208)。检测器阵列测量患者造成的x射线衰减,该x射线衰减可用于(例如,由图像处理器,诸如图2的图像处理器单元210)重建图像。在一些示例中,可在下述处理之前对肝脏图像执行附加处理,诸如各种校正和归一化。

在604处,方法600包括执行肝脏和病变配准。因为对比度增强的CT扫描是多相的,所以可在604处对准从不同期采集的图像以考虑扫描期间的患者移动。例如,即使诸如由于患者呼吸引起的小的移动也可能导致扫描视图内肝脏和病变的移位。如将在下文中关于图7进一步所述,配准可包括首先进行刚性仿射变换(三次旋转和三次平移),然后进行非刚性变换(密集位移场)。因此,可执行刚性和非刚性配准以便更直接地比较各图像上的病变,以便更准确地跟踪病变内的造影剂动力学,如下文所详述。

在606处,方法600包括对肝脏图像中的一个肝脏图像进行肝脏分割。例如,基于具有ResNet连接和深度监控的3D Unet架构的全卷积神经网络可用于在一系列所获得的肝脏图像中的一个肝脏图像中将肝脏与其他解剖特征分割开。此外,具有自适应学习率方法的随机梯度下降可连同晶粒损失(dice loss)一起用作优化器。此外,可对所获得的肝脏图像执行仿射变换、弹性变形、噪声添加和灰度变形。作为一个示例,可以使用图4所示的CNN400执行肝脏分割。在一些示例中,可创建肝脏掩模以将经分割的肝脏与图像的剩余像素/体素分开。因为所有肝脏图像都是对准的(例如,在604处),所以可将所创建的肝脏掩模应用于该一系列中的所有其他肝脏图像。因此,对这些肝脏图像中的一个肝脏图像执行的肝脏分割对于该一系列中的所有肝脏图像都是有效的。通过在配准肝脏图像之后对这些肝脏图像中的一个肝脏图像执行肝脏分割,可以减少处理时间和资源。然而,在另选的实施方案中,可对多个图像中的每个图像执行肝脏分割。

在608处,方法600包括对肝脏图像中的一个肝脏图像执行病变分割。作为一个示例,病变分割可以是半自动过程,其中用户/医师提供经分割的肝脏内的肿瘤的最大轴向直径,诸如经由用户输入设备(例如,图1的用户输入设备32)。然后,提取给定最大轴向直径内的纹理特征(例如,使用平均值、中值、标准偏差和边缘检测滤波器),并且使用k均值方法进行聚类,该k均值方法可输出纹理标测图。该纹理标测图可用于定义“对象”和“背景”标签(或种子),这些标签(或种子)进一步用作随机游走算法的输入。随机游走算法可基于相邻像素之间的相似性或差异来限定病变与健康肝脏组织(例如,实质)之间的边缘。因此,可在一系列所获得的肝脏图像中的每一个肝脏图像中将病变与周围实质分割开。在一些示例中,可创建病变掩模以将经分割的病变与图像的剩余像素/体素分开。因为所有肝脏图像都是对准的(例如,在604处),所以可将所创建的病变掩模应用于该一系列中的所有其他肝脏图像。因此,对这些肝脏图像中的一个肝脏图像执行的病变分割对于该一系列中的所有肝脏图像都是有效的。通过在配准肝脏图像之后对这些肝脏图像中的一个肝脏图像执行病变分割,可以减少处理时间和资源。然而,在另选的实施方案中,可对多个图像中的每个图像执行病变分割。

在610处,方法600包括在每个肝脏图像上创建和表征参考感兴趣区域(ROI)。一旦造影剂增强CT检查的不同期被配准并重新采样至相同分辨率,就可跟踪肿瘤内造影剂的动力学。为了表征肿瘤内造影剂的动力学,使用从肿瘤周围处的肝脏实质提取的参考测量值。因此,针对该一系列中的每个肝脏图像创建和表征参考ROI。创建该参考ROI包括应用来自该病变掩模的距离变换以在该肿瘤的介于10mm与30mm之间的距离处创建ROI。该ROI被约束为位于肝脏掩模内。通过创建在远离肿瘤的距离处的ROI,减小了病变的各部分被无意中包括在参考ROI中的可能性。因此,预期参考ROI反映肝脏实质的造影剂摄取动力学。

表征该参考ROI包括从实质提取统计值,这些统计值包括像素(或体素)的平均值、标准偏差、噪声自相关和数量。然而,一些结构可引入一些偏差(其他肿瘤、血管等),因此使用稳健的测量值。可从通过高斯滤波器规整化的ROI直方图的众数来估计平均值。对于标准偏差,半高半全宽(half full width half maximum)可用作稳健估计器。又如,噪声自相关也可被计算并用于病变分析,如下文将详述。

通过自动放置参考ROI,不依赖于用户进行正确放置,参考ROI围绕肿瘤的位置受到精确控制,并且参考ROI的大小远大于可手动限定的球形ROI。因此,参考ROI测量的准确性和可重复性增加,这也增加了由其进行的肿瘤测量的准确性和可重复性。将参考图8描述创建和表征参考ROI的说明性示例。

在612处,方法600包括执行病变再分割。HCC病变可具有异质组织,这些异质组织包括活组织(动脉和门静脉两者)、坏死组织、化学栓塞组织(如果用化学栓塞产物处理的话)或未明确的组织。造影剂在每个组织中的动力学随时间推移是不同的。例如,坏死组织具有在整个多相检查中保持低于参考ROI的平均灰度值,而典型的活组织在未增强期、动脉期和门静脉期期间分别与参考ROI相似、高于参考ROI和低于参考ROI。因此,像素/体素将根据由医师(例如,肝脏病学家)定义的关于每个组织类别(或类型)中的预期造影剂动力学的特别规则而被分配给不同的组织类别。如下文将参考图9所述,图像可经历降噪和滤波,以便在保留对比度信息的同时降低噪声。对比度信息可使得能够针对每个像素(或体素)生成时间剖面,以对包含在该像素(或体素)中的组织进行分类。例如,可以跨各个检查期跟踪每个像素/体素的平均灰度值,以确定灰度值(例如,像素/体素强度)在每个期间如何相对于参考ROI变化。然后,可将给定像素/体素的时间剖面与针对每个组织类别定义的标准进行比较,以便确定该像素/体素中的组织的类型。此外,在一些示例中,执行再分割可包括计算病变内每种组织类型的比例,以便给出组织组成的总体指示。已经经历分割和再分割的示例性HCC病变在图10中示出并且将在下文描述。

在614处,确定病变是否处于预处理状态。治疗前状态对应于未经受化学疗法(诸如经动脉化学栓塞(TACE)或药物洗脱珠粒经动脉化学栓塞(DEB-TACE))或任何其他介入工序(诸如放射性栓塞或射频消融术)的原始病变。例如,TACE包括将栓塞剂诸如碘油(例如,乙基化的油)注射到直接对肿瘤进行供血的动脉(例如,肝动脉)中以阻断对该肿瘤的血液供应,从而诱导细胞死亡(例如,坏死)。因此,已经历TACE、DEB-TACE、放射栓塞和/或射频消融术的肿瘤处于治疗后状态,而未经历TACE、DEB-TACE、放射栓塞或射频消融术的肿瘤可处于治疗前状态。在一些示例中,用户可手动指示病变是否处于治疗前状态。例如,当输入用于CT扫描的患者信息时,可提示用户选择“治疗前病变”和“治疗后病变”中的一者。又如,系统可基于有序的评定的类型(例如,用于治疗前肿瘤的LI-RADS特征提取或用于治疗后肿瘤的LI-RADS治疗响应特征提取)自动确定病变是否处于治疗前状态。又如,系统可基于来自与患者相关联的电子健康记录(EHR)的数据来推断病变是处于治疗前状态还是治疗后状态。例如,EHR可包括先前执行的检查、诊断和当前的治疗,该EHR可用于确定病变是否处于治疗前状态。

如果病变处于治疗前状态,则方法600前进至616并且包括提取LI-RADS特征。LI-RADS特征包括:2D病变直径,该2D病变直径可从病变分割测量并且表示病变的大小;动脉期高增强(APHE),该APHE在动脉期期间发生;清除(WO),该WO在门静脉期和/或延迟期期间发生;以及增强包膜(CAP)的存在,该存在在门静脉期和/或延迟期期间发生。基于病变与其周围环境(例如,在610处创建和表征的参考ROI)之间的对比度来检测APHE、WO和CAP,这用于评定两个分布是相似还是不同的。两个分布不同的概率考虑了亨氏单位(Hounsfieldunit)的变化、噪声标准偏差和自相关、以及病变/参考ROI大小。如通过612处的再分割所确定的,估计参考ROI和肿瘤活组织两者的这些参数。

通过平均值的置信区间计算APHE、WO和CAP的概率。在正态分布假设下,分布N的上限(例如,边界)(μ,σ)由公式1定义:

其中μ为给定分布的平均值,σ为给定分布的标准偏差,α为置信度,t为学生单尾t分布,并且N

类似地,分布的下限由公式2定义:

其中μ为给定分布的平均值,σ为给定分布的标准偏差,α为置信度,t为学生单尾t分布,并且N

接下来,计算α%的置信度,使得μ

在618处,方法600包括基于在616处提取的LI-RADS特征来确定LI-RADS评分。至少在一些示例中,所确定的LI-RADS评分可以是初步评分或评分范围,该初步评分或评分范围帮助指导医师确定最终LI-RADS评分。因此,如果需要的话,医师可改变评分。LI-RADS评分可使用将LI-RADS特征(包括病变大小以及APHE、WO和CAP中的每一者的存在与否)与HCC的相对风险相关联的已知标准来确定。评分范围从LR-1(良性,非HCC)到LR-5(明确地HCC)。作为说明性示例,具有APHE、WO的的病变的大小为15mm,并且无增强包膜对应于为LR-4的LI-RADS评分(可能为HCC)。通过基于自动提取的LI-RADS特征确定LI-RADS评分,减轻了医师的精神负担,并且提高了评分的可重复性和准确性。

在620处,方法600包括输出经再分割的HCC病变的图像和LI-RADS报告。例如,可将包括组织类型注释的经再分割的HCC病变输出到显示设备(例如,图1的显示设备33)以显示给用户/医师。LI-RADS报告可包括所确定的APHE概率、所确定的清除概率、病变的大小和组织组成以及LI-RADS评分中的一者或多者,该LI-RADS报告也可输出到显示设备。又如,输出经再分割的HCC病变的图像和LI-RADS报告可包括将图像和LI-RADS报告保存到指定存储位置。如上所述,医师可使用LI-RADS报告来诊断患者,包括病变的恶性程度。然后方法600可结束。

返回614,如果病变不处于治疗前状态,则病变处于治疗后状态(例如,在TACE或另一治疗之后),并且方法600前进至622,并且包括将当前HCC病变再分割与来自先前采集的HCC病变再分割进行比较。例如,可将剩余活组织的比例、坏死组织的比例和化学栓塞组织的比例与在TACE(或即当前治疗轮次)之前针对相同HCC病变确定的值进行比较。然而,在其他示例中,当前HCC病变再分割可能不与先前HCC病变再分割进行比较,诸如当没有先前数据可用时。此外,在一些示例中,还可在治疗后提取LI-RADS特征以便比较治疗前和治疗后病变的大小以及APHE、WO和CAP概率。

在624处,方法600包括基于在622处执行的比较来确定治疗响应。例如,治疗响应可包括基于预定义的标准确定的响应评分,该预定义的标准为诸如治疗(例如,TACE)之后肿瘤中活组织比例的变化百分比和/或肿瘤中坏死组织比例的变化百分比。当先前数据对于给定病变而言不可用时,可基于具有类似治疗后组织组成的其他HCC病变的数据推断治疗响应。响应评分可给出患者预后的指示。例如,响应评分可用于确定用相同化学栓塞剂进行的附加治疗是否预期进一步减小肿瘤中活组织的比例、减小肿瘤大小和/或清除肿瘤。例如,较高的响应得分可指示肿瘤对当前治疗过程的高度响应。又如,响应评分可建议考虑其他治疗选项,诸如当响应评分较低(例如,肿瘤对当前治疗过程相对无响应)时。因此,所确定的治疗响应可有助于指导医师确定用于患者的治疗过程。

在626处,方法600包括输出经再分割的HCC病变的图像和治疗报告。例如,可将经再分割的HCC病变和治疗报告输出到显示设备和/或存储位置,如上文在620处所述。治疗报告可包括所确定的治疗响应、响应评分和治疗建议中的一者或多者。然后方法600可结束。

以此方式,该方法使用图像处理和深度学习方法来加速和提高肿瘤检测和表征的效率。总体而言,HCC肿瘤可被更准确地表征,并且可变性可减小。因此,可增加积极的患者预后。

接下来,图7示出了深度学习网络700用于使用刚性配准和非刚性配准来对准在多相成像检查期间获得的图像的示例性工作流程。深度学习网络700包括第一网络部分702和第二网络部分704。在所示的示例中,第一网络部分702通过仿射变换执行刚性配准,并且第二网络部分704通过体素变形微分同胚架构执行非刚性配准。

图例799示出了深度学习网络700中包括的各种要素。如图例799所示,深度学习网络700包括通过一个或多个操作连接的多个卷积层/特征标测图。操作接收来自外部文件(例如,输入图像)或先前层/特征标测图的输入,并且将所接收的输入变换/映射以产生下一个层/特征标测图。每个层/特征标测图可包括多个神经元。在一些实施方案中,每个神经元可接收来自前一层/特征标测图的神经元子集的输入,并且可以基于所接收的输入来计算单个输出。输出可传播/映射到下一层/特征标测图中的神经元子集或全部神经元。可以使用空间维度诸如长度、宽度和深度来描述层/特征标测图,其中维度是指包括特征标测图的神经元的数量(例如,指定的层/特征特征标测图是多少神经元长、多少神经元宽、以及多少神经元深)。

如图例799所示,对角阴影化特征标测图(例如,特征标测图710、712、714、730、732、734和736)包括具有批归一化(BN)和泄漏ReLu激活(LEAKY RELU)的3D卷积(CONV 3D)。较浅的点阴影化特征标测图(例如,特征标测图736、738、740和742)包括具有级联(CONCAT)的3D转置卷积(CONV 3D转置)和具有泄漏ReLu激活的3D卷积(CONV 3D+泄漏RELU)。菱形阴影化特征标测图(例如,特征标测图716a、716b、718a和718b)包括3D卷积。较暗的点阴影化特征标测图(例如,特征标测图720a和720b)包括全局平均池化。竖直阴影化特征标测图(例如,特征标测图744)包括速度场。非阴影化特征标测图(例如,特征标测图746)包括集成层。

源图像(例如,移动成像)706a和目标图像(例如,固定图像)708a是用于第一网络部分702的输入。源裁剪图像706b和目标裁剪图像708b是第一网络部分702的输出和用于第二网络部分704的输入。源图像706a和目标图像708a可选自在多相CT扫描期间获得的一系列肝脏图像,如上文关于图6所述。例如,目标图像708a可以用作与源图像706a对准的模板(例如,参考配置)。因此,第一网络部分702发现用于应用于活动图像(源图像)以匹配固定图像(目标图像)的最佳刚性变换。可使用与目标图像708a相同的图像来对准该一系列肝脏图像中的所有剩余图像。可选择剩余图像中的一个图像(例如,不是目标图像708a)作为源图像706a,直到所有剩余图像已经历配准。

将源图像706a和目标图像708a输入到特征标测图710中。所得的全局平均池化特征标测图720a经历六次参数变换722,包括三次旋转变换和三次平移(例如,在x、y和z中)。所得的全局平均池化特征标测图720b经历六次参数评估724,该六次参数评估产生边界框中心(“BB_Center”)的值并产生边界框大小(“BB_size”)的值。将所得的经旋转和平移的层与源图像706a一起输入到空间变换726中。将空间变换726、边界框中心、边界框大小和目标图像708a的输出输入到裁剪函数728中,以便用相同的边界框裁剪源图像和目标图像。裁剪函数728输出源裁剪图像706b和目标裁剪图像708b。

将源裁剪图像706b和目标裁剪图像708b输入到第二网络部分704的特征标测图730中。第二网络部分704发现用于施加到活动图像上以匹配固定图像的最佳非刚性变形场。速度场层特征标测图744和积分层特征标测图746用于生成变形场748,该变形场提供源裁剪图像706b中的每个体素(或对于2D图像而言为像素)相对于目标裁剪图像708b中的每个类似体素的位移矢量的矩阵。将变形场748和源裁剪图像706b输入到空间变换750中,该空间变换输出变形的图像752。变形的图像752包括与目标裁剪图像708b对准的源裁剪图像706b。因此,变形的图像752是第二网络部分704的输出和深度学习网络700的总体输出,并且已经经历了刚性配准(例如,经由第一网络部分702)和非刚性配准(例如,经由第二网络部分704)两者。

图8示意性地示出了用于创建表征医学图像中的参考ROI的示例性工作流程800。具体地,在患者肝脏的CT扫描期间获得的医学图像802内创建参考ROI。如上文关于图6所述,医学图像802经历处理和分析以分割肝脏和该肝脏内的病变,从而产生肝脏掩模804和病变掩模806。肝脏掩模804以白色示出医学图像802的肝脏部分并且以黑色示出该医学图像的非肝脏部分。肝脏掩模804将对应于医学图像802的非肝脏部分的像素/体素与在肝脏内的像素/体素分开。以此方式,肝脏掩模804将医学图像802的非肝脏部分相对于工作流程800的其余部分隐藏,使得这些像素/体素不被考虑用于参考ROI的创建和表征。类似地,病变掩模806将对应于病变的像素/体素相对于其他肝脏组织分离,并且以白色示出病变并且以黑色示出医学图像的其余部分(包括肝脏的其他部分)。

将距离变换808应用于病变掩模806以在病变的边缘与参考ROI之间放置距离。该距离可在例如介于10mm与30mm之间的范围内。这创建了初步参考ROI 810,该初步参考ROI被示出为3D体积。初步参考ROI 810不包括距离变换808内的体素,这些体素包括病变掩模806内的所有体素。将肝脏掩模804和初步参考ROI 810被输入到交集函数812中,该交集函数通过将初步参考ROI 810约束为位于肝脏掩模804内来细化该初步参考ROI。交集函数812输出参考ROI 814,该参考ROI被示出为3D体积。因为参考ROI 814排除病变掩模806内的体素(以及距病变掩模806的距离)并且被约束到肝脏掩模804,所以参考ROI 814包括对应于健康肝脏组织的体素。

对所创建的参考ROI 814执行统计816。统计可包括(但不限于)估计ROI中的像素/体素的平均强度值、强度值的标准偏差、噪声自相关以及数量。平均值可由ROI直方图的众数估计,该众数可通过高斯滤波器归一化。参考ROI的相对较大的大小(例如,与可由用户/医师手动选择的体积相比)提供对平均值和标准偏差的稳健估计,因为参考ROI的大小使得参考ROI不易受到除肝脏实质之外的结构(例如,其他肿瘤、血管)和配准误差的影响。工作流程800可输出参考ROI分析818,该参考ROI分析可包括统计816。参考ROI分析818可以用于后续HCC病变再分割和表征,如上文关于图6所述并且如下文所详述。

图9示意性地示出了用于在肝脏的对比增强的多相CT扫描期间获得的图像中执行HCC病变再分割和表征的示例性工作流程900。例如,工作流程900可由图像处理系统(例如,图1的图像处理系统100)执行,以作为图6的方法600的一部分。

在902处,将多个图像输入到工作流程900中。每个图像包括在多相检查的一个期期间采集的一个图像,如上文关于图6所详述。在图9的示例中示出了三个图像:未增强(UE)图像904a、动脉期图像(Art)906a和门静脉期图像(Port)908a。在910处对每个图像取平均,并且在912处使用引导滤波器911对每个经平均的图像执行降噪和滤波。引导滤波器911可包括联合双边滤波器,该联合双边滤波器具有用作引导图像的平均图像,从而使得能够在保持对比度的同时降低噪声。在914处示出了所得的经滤波的图像。具体地,914显示经滤波的未增强图像904b、经滤波的动脉期图像906b和经滤波的门静脉期图像908b。

在916处,执行逐像素(或逐体素)时间分析。也就是说,可通过一系列经滤波的图像跟踪每个像素(或体素)的强度以生成时间剖面,该时间剖面被示出为曲线图918。曲线图918包括作为水平轴线的时间,其中采集不同图像的时间点标记在该水平轴线上。例如,竖直轴线表示给定像素的强度相对于例如使用图8的工作流程创建和分析的参考ROI的变化(例如,Δ亨氏单位或HU)。曲线图上的每一条线示出不同的像素。

在920处,基于每个像素(或体素)的时间剖面将该像素(或体素)分类为特定类型的组织。可能的组织类型包括坏死的、活动脉的、活门静脉的、化学栓塞化的(例如,在用化学治疗剂诸如碘油进行经动脉化学栓塞化之后)、周围增强的、未明确的和实质。造影剂随时间推移的动力学在每种组织类型中是不同的。例如,坏死组织的平均灰度值随时间推移保持小于参考ROI的平均灰度值,而典型的活组织的平均灰度值在未增强期、动脉期。门静脉期期间分别类似于、高于和低于参考ROI的平均灰度值。因此,在920处,基于由合格的医师(例如,肝脏病学家或肿瘤学家)创建的特定分类规则将像素(或体素)分配到不同的类别。以此方式,可基于病变内的组织类型对病变进行再分割。可将所得的经再分割的病变输出为包含关于病变组织组成的定量和/或定性信息的图像和/或报告。

图10示出了已经诸如根据图6的方法并使用图9中概述的工作流程进行了分割和再分割的HCC病变的示例性图像1000。具体地,图像1000示出了治疗后的病变。第一图像1002示出了经分割的病变,包括病变边界1006。病变边界1006将病变与围绕病变的肝脏组织分开。第二图像1004示出了经再分割的病变。经再分割的病变包括用于经分割的病变的不同部分的不同组织分类。活体区1008由虚线边界界定,化学栓塞区1010由较长虚线边界界定,并且坏死区1012由较短虚线边界界定。如上文关于图6所述,在一些示例中,图像处理系统(例如,图1的图像处理系统100)可使用经再分割的病变来确定保持存活的肿瘤的百分比和/或估计治疗的效果。

图11示出了在多相CT扫描期间获得的多个示例性肝脏图像1100,以及由图像处理系统(诸如图1的图像处理系统100)使用图像处理和深度学习方法(诸如根据图6的方法)分析这些图像而提取的特征。具体地,多个示例性肝脏图像1100被布置成网格,其中每行对应于在多相CT扫描期间获得的一系列四个图像和所得的特征分析。每列表示来自CT扫描或给定特征分析的单个阶段的肝脏图像。例如,第一行1102示出了第一系列肝脏图像和所得的特征分析,第二行1104示出了第二系列肝脏图像和所得的特征分析,第三行1106示出了第三系列肝脏图像和所得的特征分析,并且第四行1108示出了第四系列肝脏图像和所得的特征分析。对于该一系列肝脏图像中的每一个肝脏图像,第一列1110示出非对比(NC)图像,第二列1112示出动脉期图像,第三列1114示出门静脉期图像,第四列1116示出延迟期图像,第五列1118示出病变再分割,第六列1120示出活体区和动脉期高增强(APHE)概率,第七列1122示出活体区和清除(WO)概率,并且第八列1124示出周围增强区和包膜(CAP)概率。在一些示例中,图像处理系统可向用户显示示例性肝脏图像1100中的全部或一些肝脏图像,诸如经由显示设备(例如,图1的显示设备33)。

列1120中的APHE概率由动脉期图像(列1112)确定,列1122中的清除概率由门静脉期图像(列1114)确定,并且列1124中的包膜概率由延迟期图像(列1116)确定,诸如图6的616处所述。这些概率受病变与周围组织之间的HU(例如,像素强度)的差值、噪声标准偏差、噪声自相关和区域大小的影响。例如,当HU的差值较高时,概率较高。又如,随着噪声增大,概率减小。又如,较高的噪声自相关导致较小的概率。又如,概率随着区域大小减小而减小。在图11的示例中,为至少90%的概率触发对应特征的肯定识别,而小于90%的概率表示不存在对应特征。

首先查看第一行1102中的第一系列肝脏图像,将非对比图像(列1110)、动脉期图像(列1112)、门静脉期图像(列1114)和延迟期图像(列1116)彼此配准,诸如关于图7所述。病变的边界1126示出于动脉期图像(列1112)中,该动脉期图像可通过提取纹理特征并且使用随机游走分割算法来确定,如上文关于图6所述。如图所示,经分割的病变的像素强度在动脉期图像(列1112)中比在非对比图像(列1110)中更类似于病变周围的健康组织。另外,门静脉期图像(列1114)示出病变相对于图像周围的健康组织的颜色变深(例如,像素强度减小),从而在病变与周围组织之间产生强对比度。病变中的像素强度在延迟期图像中保持相对较低(列1116)。在门静脉期图像和延迟期图像中,病变周边比周围组织更亮。

图像处理系统为经分割的病变中的每个像素生成时间剖面,诸如上文关于图9所述,并且使用该时间剖面来对该病变进行再分割。列1118中所示的所得的经再分割的病变包括病变边界1126、虚线边界1128内的动脉活体区、虚线边界1130内的门静脉活体区、长虚线边界1132内的周围增强区和短虚线边界1134内的坏死区。动脉活体区还示出于列1120中,该列示出了75%APHE的概率。因此,APHE被确定为不存在,因为概率小于90%。门静脉活体区也示出于列1122中,该列示出了100%的清除概率(例如,存在WO)。周围增强区也示出于列1124中,该列示出了100%的包膜概率(例如,存在包膜)。图像处理系统可确定APHE、清除和包膜概率,如上文关于图6所述。因为第一行1102中所示的病变的直径<20mm,无APHE,并且具有WO和增强包膜,所以图像处理系统可将病变评分为LR-4。

第二行1104中的第二系列肝脏图像如上所述布置。病变的边界1134在动脉期图像(列1112)中示出。如图所示,经分割的病变的像素强度在动脉期图像(列1112)中比在非对比图像(列1110)中更类似于病变周围的健康组织。此外,在动脉期图像(列1112)中,第二系列肝脏图像(第二行1104)中的经分割的病变的像素强度比第一系列肝脏图像(第一行1102)中的经分割的病变更类似于病变周围的健康组织。类似于第一系列肝脏图像(第一行1102),门静脉期图像(列1114)示出病变相对于图像周围的健康组织变暗(例如,像素强度减小),从而产生病变与周围组织之间的对比度以及病变周边的变亮。病变中的像素强度在延迟期图像中保持相对较低(列1116)。

列1118中所示的所得的经再分割的病变包括病变边界1134、虚线边界1136内的动脉活体区、虚线边界1138内的门静脉活体区、长虚线边界1140内的周围增强区和短虚线边界1142内的坏死区。动脉活体区还示出于列1120中,该列示出了100%APHE的概率。门静脉活体区也示出于列1122中,该列示出了100%的清除概率。周围增强区也示出于列1124中示出,该列示出100%的包膜概率。因为第二行1104中所示的病变具有介于10mm与20mm之间的直径并且具有APHE、WO和增强包膜,所以图像处理系统可将病变评分为LR-5。

现在查看第三行1106中的第三系列肝脏图像,病变的边界1144示出于动脉期图像(列1112)中。如图所示,与在非对比图像(列1110)中相比,经分割的病变在动脉期图像(列1112)中具有更高(例如,更亮)的像素强度。此外,第三系列肝脏图像(第三行1106)的动脉期图像(列1112)中的经分割的病变的像素强度高于第一系列肝脏图像(第一行1102)的动脉期图像(列1112)中的经分割的病变和第二系列肝脏图像(第二行1104)中的经分割的病变的像素强度。在第三系列肝脏图像中,在门静脉期图像(列1114)和延迟期图像(列1116)中,病变与实质之间不存在明显的对比度。此外,在门静脉期图像(列1114)和延迟期图像(列1116)中,在病变周边与实质之间不存在明显的明亮对比度。

列1118中所示的所得的经再分割的病变包括病变边界1144;虚线边界1146内的动脉活体区,该动脉活体区与病变边界1144基本上重叠;以及虚线边界1148内的门静脉活体区。动脉活体区还示出于列1120中,该列示出了100%APHE的概率。门静脉活体区也示出于列1122中,该列示出了60%的清除概率。没有可见的周围增强区列1124,从而提供0%的包膜概率。因为第三排1106中所示的病变具有小于10mm的直径并且具有APHE但无WO并且无增强包膜,所以图像处理系统可将病变评分为LR-4。

第四行1108中的第四系列肝脏图像示出了动脉期图像(列1112)中的病变边界1150。如图所示,病变基本上无法与非对比图像(列1110)中的实质区分,并且在动脉期图像(列1112)中的像素强度高于在非对比图像(列1110)中的像素强度。此外,第四系列肝脏图像(第四行1108)的动脉期图像(列1112)中的经分割的病变的像素强度高于第一系列肝脏图像(第一行1102)、第二系列肝脏图像(第二行1104)和第三系列肝脏图像(第三行1106)的动脉期图像(列1112)中的经分割的病变的像素强度。在第四系列肝脏图像中,病变在门静脉期图像(列1114)中和延迟期图像(列1116)中具有拥有较高强度像素的周边和拥有较低强度像素(例如,相对于周边)的中心区域。

列1118中所示的所得的经再分割的病变包括病变边界1150;虚线边界1152内的动脉活体区,该动脉活体区与病变边界1150基本上重叠;虚线边界1154内的门静脉活体区;以及长虚线边界1156内的周围增强区。动脉活体区还示出于列1120中,该列示出了100%APHE的概率。门静脉活体区也示出于列1122中,该列示出了45%的清除概率。周围增强区也示出于列1122中,该列示出了100%的包膜概率。因为第四行1108中所示的病变具有介于10mm与20mm之间的直径并且具有APHE但无WO并且具有增强包膜,所以图像处理系统可将病变评分为LR-4或LR-5。

使用深入学习方法自动表征肝癌病变的技术效应是可提高表征的准确性,从而提高患者治疗决策的准确性和及时性。

一个示例提供了一种方法,该方法包括在检查期间随时间推移采集多个医学图像;配准该多个医学图像;在配准该多个医学图像之后,分割该多个医学图像中的一个医学图像中的解剖结构;在该多个医学图像中的每个医学图像中创建和表征参考感兴趣区域(ROI);通过随时间推移跟踪该经分割的解剖结构的像素值来确定该解剖结构的特性;以及在显示设备上输出该确定的特性。

在一个示例中,配准该多个医学图像包括对源图像和目标图像应用刚性和非刚性配准,该源图像和该目标图像选自该多个医学图像。

在一个示例中,该方法还包括在配准该多个医学图像并分割该解剖结构之后,分割该解剖结构内的病变。在一个示例中,分割该解剖结构包括使用卷积神经网络,并且分割该病变包括基于所接收的该病变的最大轴向直径提取和聚类纹理特征,这些纹理特征包括该多个医学图像中的每一个医学图像中的该经分割的解剖结构内的该像素值的平均值、中值和标准偏差中的至少一者。在一些示例中,该检查是多相对比度增强的计算机断层摄影(CT)检查,并且分割该解剖结构包括分割该肝脏。例如,该多相对比度增强的CT检查包括未增强期、该未增强期之后的动脉期、该动脉期之后的门静脉期和该门静脉期之后的延迟期,并且该多个医学图像包括在该未增强期期间获得的该肝脏的第一CT图像、在该动脉期期间获得的该肝脏的第二CT图像、在该门静脉期期间获得的该肝脏的第三CT图像、以及在该延迟期期间获得的该肝脏的第四CT图像。

在示例中,该参考ROI包括在该经分割的病变外部并且在该经分割的肝脏内的组织,其中该解剖结构的该特性包括该经分割的病变的每个部分的组织分类,并且其中通过随时间推移跟踪该经分割的解剖结构的该像素值来确定该解剖结构的该特性包括基于相对于该参考ROI该多个医学图像中的每个医学图像中的该经分割的病变的每个部分内的每个像素的值来确定该部分的该组织分类。例如,该组织分类为坏死、活体、化学栓塞、未明确、周围增强和实质中的一者。

在一个示例中,该解剖结构的该特性还包括治疗效应,并且通过随时间推移跟踪该经分割的解剖结构的该像素值来确定该解剖结构的该特性还包括通过将来自第一次检查的该经分割的病变的每个部分的组织分类与来自第二次检查的该经分割的病变的每个部分的组织分类进行比较来确定该治疗效应,该第一次检查在该治疗之前进行,并且该第二次检查在该治疗之后进行。

在一个示例中,解剖结构的特性还包括肝脏成像报告和数据系统(LI-RADS)评分,并且通过随时间推移跟踪该经分割的解剖结构的像素值来确定该解剖结构的特性还包括:基于相对于该参考ROI该多个医学图像中的每个医学图像中的该经分割的病变的该像素值,确定该多相对比度增强的CT检查中所使用的造影剂的动脉期高增强(APHE)、清除和包膜概率。

示例性方法包括从多相检查接收一系列肝脏图像;对准该一系列肝脏图像;分割该一系列对准的肝脏图像内的该肝脏和病变;基于该一系列对准的肝脏图像上的该经分割的病变的像素值的变化来对该病变进行再分割;以及输出对该经再分割的病变的分析。在示例中,该一系列肝脏图像包括来自该多相检查的每个期的一个肝脏图像,并且分割该肝脏包括:使用卷积神经网络在该一系列对准的肝脏图像中的一个图像中限定肝脏边界;以及将该肝脏边界应用于该一系列对准的肝脏图像中的每个另外的图像。在一个示例中,分割该病变包括:基于该一系列对准的肝脏图像中的一个图像的纹理特征,在该一个图像中限定在肝脏边界内的病变的边界,这些纹理特征包括在该一个图像中的肝脏边界内的像素值的平均值、中值和标准偏差中的至少一者;以及将该病变的边界应用于该一系列对准的肝脏图像中的每个另外的图像。

在示例中,基于该一系列对准的肝脏图像中的经分割的病变的像素值变化来对该病变进行再分割包括:在该一系列对准的肝脏图像中的每个图像中,将经分割的病变的像素值与参考区域中的像素值进行比较,该参考区域在肝脏的边界内并且在病变的边界外;以及基于该病变的每个子区段内的像素值相对于该一系列对准的肝脏图像中的参考区域中的像素值的变化,将该子区段的分类确定为活组织、坏死组织、未明确组织和化学栓塞组织中的一者。在一些示例中,输出对该经再分割的病变的分析包括将该病变的每个子区段的分类输出为该经再分割的病变的带注释图像。在一个示例中,该方法还包括根据该一系列对准的肝脏图像上的活组织子区段内的每个像素的强度分布来确定病变的诊断评分,并且其中输出该经再分割的病变的分析包括输出诊断评分。

一种示例性系统包括:计算机断层摄影(CT)系统;存储器,所述存储器存储指令;以及处理器,该处理器可通信地耦接到该存储器,并且当执行指令时,被配置成:接收由该CT系统在使用造影剂增强的多相检查期间采集的多个图像;经由深度学习模型来识别该多个图像中的至少一个图像中的解剖特征的边界;基于在整个该多相检查中该解剖特征的各区域内造影剂的低增强和高增强来确定该解剖特征的诊断评分;以及输出该诊断评分。在示例中,解剖特征是肝脏,并且处理器在执行指令时被进一步配置为:经由随机游走算法来识别肝脏内的癌性病变的边界。在示例中,该区域包括病变内的活组织的区域,并且其中处理器在执行指令时被进一步配置为:在病变外并且在肝脏内创建参考感兴趣区域(ROI);统计地分析该参考ROI以确定该多个图像中的每个图像中的平均值;以及通过生成该多个图像上与该参考ROI相比该病变的每个像素中的亮度变化的时间剖面来对该病变内的该活组织区域进行再分割,该经再分割的区域包括周围增强区。在一个示例中,多相检查包括未增强期、动脉期、门静脉期和延迟期,并且处理器在执行指令时被进一步配置为:计算病变内活组织的经再分割的区域内的造影剂的动脉期高增强的第一概率;计算该病变内的活组织的该经再分割的区域内的该造影剂的门静脉期低增强的第二概率;计算该周围增强区内的该造影剂的门静脉期高增强的第三概率;以及基于该第一概率、该第二概率和该第三概率确定该诊断评分。

当介绍本公开的各种实施方案的元件时,词语“一个”、“一种”和“该”旨在意指存在这些元件中的一个或多个元件。术语“第一”、“第二”等不表示任何顺序、量或重要性,而是用于将一个元件与另一个元件区分开。术语“包含”、“包括”和“具有”旨在是包含性的,并且意指除了列出的元件之外还可存在附加元件。如本文使用术语“连接到”、“耦接到”等,一个对象(例如,材料、元件、结构、构件等)可以连接到或耦接到另一个对象,而无论该一个对象是否直接连接或耦接到另一个对象,或者在该一个对象和另一个对象之间是否存在一个或多个介入对象。此外,应当理解,对本公开的“一个实施方案”或“实施方案”的引用不旨在被解释为排除也包含所引用特征的附加实施方案的存在。

除了任何先前指示的修改之外,本领域技术人员可以在不脱离本描述的实质和范围的情况下设计出许多其他变型和替换布置,并且所附权利要求书旨在覆盖此类修改和布置。因此,尽管上面已经结合当前被认为是最实际和最优选的方面对信息进行了具体和详细的描述,但对于本领域的普通技术人员将显而易见的是,在不脱离本文阐述的原理和概念的情况下,可以进行许多修改,包括但不限于形式、功能、操作方式和使用。同样,如本文所使用的,在所有方面,示例和实施方案仅意图是说明性的,并且不应以任何方式解释为限制性的。

技术分类

06120113193859