掌桥专利:专业的专利平台
掌桥专利
首页

一种生物组织图像的检测方法、装置、设备以及存储介质

文献发布时间:2023-06-19 18:37:28


一种生物组织图像的检测方法、装置、设备以及存储介质

技术领域

本申请涉及人工智能技术领域,尤其涉及一种生物组织图像的检测方法、装置、设备以及存储介质。

背景技术

图像识别技术是人工智能(artificial intelligence,AI)的一个重要领域。它是指对图像进行对象识别,以识别各种不同模式的目标和对像的技术。近年来,图像识别技术在医疗领域中的应用越来越广泛,利用图像识别结果可以辅助医生确定治疗方案。

目前,在相关技术中,可基于图像识别技术实现对活检区域的预测。具体来说,首先,对提取的病变组织进行醋染。然后,采集醋染后某个固定时刻的生物组织图像。再调用图像识别模型对该生物组织图像进行识别和检测,以得到活检区域。

发明人发现目前的方案中至少存在如下问题,选择醋染后固定时刻的图像作为活检区域的预测图像,并未考虑到不同患者之间病变区域反应时间的差异性,因此,预测活检区域的图像可能并非疾病反应最大时刻的图像。由此,导致活检区域预测的准确率较低。

发明内容

本申请实施例提供了一种生物组织图像的检测方法、装置、设备以及存储介质,可选择出差异最大的醋染图像作为疾病反应最大时刻的醋染图像,由此,充分考虑到不同患者之间病变区域反应时间的差异性,有利于提高活检区域预测的准确率和有效性。

有鉴于此,本申请一方面提供一种生物组织图像的检测方法,包括:

获取待识别的第一图像集合,其中,第一图像集合包括至少两个生物组织图像;

调用第一图像分类模型对第一图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的染色分类结果以及每个生物组织图像的图像特征,其中,染色分类结果用于表示生物组织图像所属的染色类型;

根据每个生物组织图像的染色分类结果,从第一图像集合中获取生理盐水图像以及P个醋染图像,其中,生理盐水图像与醋染图像均属于生物组织图像,P为大于或等于1的整数;

根据生理盐水图像的图像特征以及每个醋染图像的图像特征,确定P个类间特征距离以及P个类内特征距离,其中,P个类间特征距离包括每个醋染图像与生理盐水图像之间的类间特征距离,P个类内特征距离包括每个醋染图像所对应的类内特征距离;

根据P个类间特征距离以及P个类内特征距离,确定每个醋染图像所对应的综合特征距离,其中,综合特征距离用于表征醋染图像的差异显著程度;

从每个醋染图像所对应的综合特征距离中获取最大综合特征距离,并将最大综合特征距离所对应的醋染图像作为目标醋染图像;

调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果,其中,图像检测结果用于确定目标醋染图像中的活检区域。

本申请另一方面提供一种生物组织图像检测装置,包括:

获取模块,用于获取待识别的第一图像集合,其中,第一图像集合包括至少两个生物组织图像;

识别模块,用于调用第一图像分类模型对第一图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的染色分类结果以及每个生物组织图像的图像特征,其中,染色分类结果用于表示生物组织图像所属的染色类型;

获取模块,还用于根据每个生物组织图像的染色分类结果,从第一图像集合中获取生理盐水图像以及P个醋染图像,其中,生理盐水图像与醋染图像均属于生物组织图像,P为大于或等于1的整数;

确定模块,用于根据生理盐水图像的图像特征以及每个醋染图像的图像特征,确定P个类间特征距离以及P个类内特征距离,其中,P个类间特征距离包括每个醋染图像与生理盐水图像之间的类间特征距离,P个类内特征距离包括每个醋染图像所对应的类内特征距离;

确定模块,还用于根据P个类间特征距离以及P个类内特征距离,确定每个醋染图像所对应的综合特征距离,其中,综合特征距离用于表征醋染图像的差异显著程度;

确定模块,还用于从每个醋染图像所对应的综合特征距离中获取最大综合特征距离,并将最大综合特征距离所对应的醋染图像作为目标醋染图像;

检测模块,用于调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果,其中,图像检测结果用于确定目标醋染图像中的活检区域。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

获取模块,具体用于待识别的第二图像集合,其中,第二图像集合包括至少两个生物组织图像;

调用第二图像分类模型对第二图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的遮挡分类结果,其中,遮挡分类结果用于表示生物组织图像的被遮挡情况;

根据每个生物组织图像的遮挡分类结果,将第二图像集合中遮挡分类结果属于无遮挡类别的生物组织图像作为第一图像集合中的生物组织图像。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,生物组织图像检测装置还包括训练模块;

获取模块,还用于获取第一图像样本集合,其中,第一图像样本集合包括至少一个第一图像样本,每个第一图像样本对应于遮挡分类标签;

获取模块,还用于针对于第一图像样本集合中的每个第一图像样本,基于第二图像分类模型获取每个第一图像样本所对应的遮挡概率分布;

获取模块,还用于基于每个第一图像样本所对应的遮挡概率分布以及遮挡分类标签,计算得到第一损失值;

训练模块,用于采用第一损失值对第二图像分类模型的模型参数进行更新。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

识别模块,具体用于针对于第一图像集合中的每个生物组织图像,通过第一图像分类模型所包括的主干网络获取每个生物组织图像的图像特征;

针对于每个生物组织图像的图像特征,通过第一图像分类模型所包括的池化层获取每个生物组织图像的池化特征;

针对于每个生物组织图像的池化特征,通过第一图像分类模型所包括的全连接网络获取每个生物组织图像的染色概率分布;

根据每个生物组织图像的染色概率分布,确定每个生物组织图像的染色分类结果。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

识别模块,具体用于对每个生物组织图像的染色概率分布所包括的各个概率值进行大小比对,得到每个生物组织图像的染色概率分布中的最大概率值;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第一元素特征位置,则将生物组织图像的染色分类结果确定为无染色类别;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第二元素特征位置,则将生物组织图像的染色分类结果确定为生理盐水类别,其中,属于生理盐水类别的生物组织图像为生理盐水图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第三元素特征位置,则将生物组织图像的染色分类结果确定为醋染类别,其中,属于醋染类别的生物组织图像为醋染图像。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

识别模块,具体用于对每个生物组织图像的染色概率分布所包括的各个概率值进行大小比对,得到每个生物组织图像的染色概率分布中的最大概率值;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第一元素特征位置,则将生物组织图像的染色分类结果确定为无染色类别;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第二元素特征位置,则将生物组织图像的染色分类结果确定为生理盐水类别,其中,属于生理盐水类别的生物组织图像为生理盐水图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第三元素特征位置,则将生物组织图像的染色分类结果确定为醋染类别,其中,属于醋染类别的生物组织图像为醋染图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第四元素特征位置,则将生物组织图像的染色分类结果确定为碘染类别,其中,属于碘染类别的生物组织图像为碘染图像。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

获取模块,还用于获取第二图像样本集合,其中,第二图像样本集合包括至少一个第二图像样本,每个第二图像样本对应于染色分类标签;

获取模块,还用于针对于第二图像样本集合中的每个第二图像样本,基于第一图像分类模型获取每个第二图像样本所对应的染色概率分布;

获取模块,还用于基于每个第二图像样本所对应的染色概率分布以及染色分类标签,计算得到第二损失值;

训练模块,还用于采用第二损失值对第一图像分类模型的模型参数进行更新。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于对生理盐水图像的图像特征以及每个醋染图像的图像特征进行类间距离计算,得到每个醋染图像与生理盐水图像之间的类间特征距离;

对每个醋染图像的图像特征以及其他各个醋染图像对应图像特征进行类内距离计算,得到每个醋染图像所对应的类内特征距离,其中,其他各个醋染图像为P个醋染图像中除了醋染图像之外的剩余醋染图像;

确定模块,具体用于针对于每个醋染图像,对醋染图像所对应的类间特征距离以及类内特征距离进行加权求和,得到醋染图像所对应的综合特征距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与生理盐水图像对应图像特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的M个元素特征距离,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与生理盐水图像之间的类间特征距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与其他各个醋染图像对应图像特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的M个元素特征距离,其中,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与其他各个醋染图像之间的第一特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第一特征距离进行求平均,得到醋染图像所对应的类内特征距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于对生理盐水图像的图像特征以及每个醋染图像的图像特征进行特征距离计算,得到每个醋染图像与所述生理盐水图像之间的图像特征距离;

对生理盐水图像的直方图特征以及每个醋染图像的直方图特征进行特征距离计算,得到每个醋染图像与生理盐水图像之间的直方图特征距离;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的图像特征距离,以及醋染图像与生理盐水图像之间的直方图特征距离进行加权求和,得到醋染图像与生理盐水图像之间的类间特征距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与生理盐水图像对应图像特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的M个元素特征距离,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与生理盐水图像之间的图像特征距离;

确定模块,具体用于针对于每个醋染图像,将醋染图像对应直方图特征中的每个元素特征,与生理盐水图像对应直方图特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的N个元素特征距离,N为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的N个元素特征距离进行直方图距离计算,得到醋染图像与生理盐水图像之间的直方图特征距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于根据每个醋染图像的图像特征,计算得到每个醋染图像所对应的图像特征平均距离;

根据每个醋染图像的直方图特征,计算得到每个醋染图像所对应的直方图特征平均距离;

针对于每个醋染图像,对醋染图像所对应的图像特征平均距离,以及醋染图像所对应的直方图特征平均距离进行加权求和,得到醋染图像所对应的类内特征距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,

确定模块,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与其他各个醋染图像对应图像特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的M个元素特征距离,其中,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与其他各个醋染图像之间的第一特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第一特征距离进行求平均,得到醋染图像所对应的图像特征平均距离;

确定模块,具体用于针对于每个醋染图像,将醋染图像对应直方图特征中的每个元素特征,与其他各个醋染图像对应直方图特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的N个元素特征距离,其中,N为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的N个元素特征距离进行直方图距离计算,得到醋染图像与其他各个醋染图像之间的第二特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第二特征距离进行求平均,得到醋染图像所对应的直方图特征平均距离。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,生物组织图像检测装置还包括处理模块;

处理模块,用于对生理盐水图像进行灰度化处理,得到生理盐水灰度图像,其中,生理盐水灰度图像中的每个像素点对应于一个亮度值;

处理模块,还用于基于生理盐水图像所对应的生理盐水灰度图像,分别统计各个预设亮度值所对应的像素点个数;

处理模块,还用于根据生理盐水灰度图像针对于各个预设亮度值的像素点个数,构建生理盐水图像的直方图特征;

处理模块,还用于针对每个醋染图像,对醋染图像进行灰度化处理,得到醋染灰度图像,其中,醋染灰度图像中的每个像素点对应于一个亮度值;

处理模块,还用于针对每个醋染图像,基于醋染灰度图像,分别统计各个预设亮度值所对应的像素点个数;

处理模块,还用于针对每个醋染图像,根据醋染灰度图像针对于各个预设亮度值的像素点个数,构建醋染图像的直方图特征。

在一种可能的设计中,在本申请实施例的另一方面的另一种实现方式中,生物组织图像检测装置还包括显示模块;

显示模块,用于调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果之后,若图像检测结果用于指示目标醋染图像不存在活检区域,则通过操作界面显示失败提示消息,或者,向终端发送图像检测结果,以使终端显示失败提示消息;

显示模块,还用于若图像检测结果用于指示目标醋染图像存在活检区域,则通过操作界面显示目标醋染图像所包括的至少一个活检区域,或者,向终端发送图像检测结果,以使终端显示目标醋染图像所包括的至少一个活检区域。

本申请另一方面提供一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现上述各方面的方法。

本申请的另一方面提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述各方面的方法。

本申请的另一个方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述各方面的方法。

从以上技术方案可以看出,本申请实施例具有以下优点:

本申请实施例中,提供了一种生物组织图像的检测方法,首先,获取待识别的第一图像集合,于是,可调用第一图像分类模型对每个生物组织图像进行识别,得到每个生物组织图像的染色分类结果以及每个生物组织图像的图像特征。然后,从第一图像集合中获取生理盐水图像以及P个醋染图像,再确定P个类间特征距离以及P个类内特征距离。基于此,可根据P个类间特征距离以及P个类内特征距离,确定每个醋染图像所对应的综合特征距离。再从每个醋染图像所对应的综合特征距离中获取最大综合特征距离,并将最大综合特征距离所对应的醋染图像作为目标醋染图像。最后,调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果。通过上述方式,引入了醋染图像的类内特征距离以及醋染图像与生理盐水图像类间特征距离,共同衡量醋染图像的差异显著程度,由此,可选择出差异最大的醋染图像作为疾病反应最大时刻的醋染图像,并将该醋染图像作为预测活检区域的目标醋染图像。上述方式充分考虑到不同患者之间病变区域反应时间的差异性,有利于提高活检区域预测的准确率和有效性。

附图说明

图1为本申请实施例中生物组织图像检测方法的一个实施环境示意图;

图2为本申请实施例中生物组织图像检测方法的另一个实施环境示意图;

图3为本申请实施例中生物组织图像检测方法的一个流程示意图;

图4为本申请实施例中生物组织图像检测方法的一个架构示意图;

图5为本申请实施例中生物组织图像检测方法的另一个架构示意图;

图6为本申请实施例中第一图像分类模型的一个架构示意图;

图7为本申请实施例中第一图像分类模型的另一个架构示意图;

图8为本申请实施例中生物组织图像检测方法的另一个架构示意图;

图9为本申请实施例中基于图像检测结果显示检测报告的一个操作界面示意图;

图10为本申请实施例中生物组织图像检测方法的一个整体流程示意图;

图11为本申请实施例中生物组织图像检测装置的一个示意图;

图12为本申请实施例中计算机设备的一个结构示意图。

具体实施方式

本申请实施例提供了一种生物组织图像的检测方法、装置、设备以及存储介质,可选择出差异最大的醋染图像作为疾病反应最大时刻的醋染图像,由此,充分考虑到不同患者之间病变区域反应时间的差异性,有利于提高活检区域预测的准确率和有效性。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例例如能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“对应”于以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

活检是“活体组织检查”的简称,亦称外科病理学检查,是指应诊断、治疗的需要,从患者体内切取、钳取或穿刺等取出病变组织,进行病理学检查的技术。它是诊断病理学中最重要的部分,对绝大多数送检病例都能做出明确的组织病理学诊断,被作为临床的最后诊断。活检是宫颈癌诊断的标准,活检前的阴道镜检查则是判断是否需要进行活检,以及确认活检位置的关键。过去,对阴道镜结果的判断主要依赖医生的主观经验,一旦出现误判,会直接耽误很多患者在癌变前期或早期癌变阶段获得及时诊疗。人工智能(artificialintelligence,AI)的加入为电子阴道镜检查带来了破题思路,可实现利用AI技术模拟医生读片过程,进行阴道镜下癌前病变辅助判读,辅助医生快速进行宫颈癌病变分级和活检点预测,有效提高阴道镜检查和活检诊断的准确率。

其中,AI是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,AI是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。AI也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。

AI技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。AI基础技术一般包括如传感器、专用AI芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。AI软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。

基于AI技术实现对图像的识别还涉及到计算机视觉(computer vision,CV)技术以及机器学习(machine learning,ML)技术等。其中,CV是一门研究如何使机器“看”的科学,更进一步的说,就是指用摄影机和电脑代替人眼对目标进行识别和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,CV研究相关的理论和技术,试图建立能够从图像或者多维数据中获取信息的AI系统。CV技术通常包括图像处理、图像识别、图像语义理解、图像检索、光学字符识别(optical character recognition,OCR)、视频处理、视频语义理解、视频内容/行为识别、三维物体重建、3D技术、虚拟现实、增强现实、同步定位与地图构建等技术,还包括常见的人脸识别、指纹识别等生物特征识别技术。

ML是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。ML是AI的核心,是使计算机具有智能的根本途径,其应用遍及AI的各个领域。ML和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。

目前,基于阴道镜的宫颈癌前病变自动诊断尚处于较早阶段,基于此,本申请提供了一种生物组织图像的检测方法,可应用于阴道镜的活检区域预测,此外,还可以应用于其他生物组织的活检区域预测,例如,肝脏的活检区域预测、心脏的活检区域预测、喉咙的活检区域预测等。本申请利用融合特征比较的方法,选择病灶最突出的醋染图像(即,目标醋染图像)作为活检区域预测的输入。本申请提供的方法可应用于图1或者图2所示的实施环境,其中,图1所示的实施环境适用于后台识别,后台识别的业务逻辑是将生物组织图像传递到服务器侧进行活检区域的预测。图2所示的实施环境适用于前端识别,前端识别的业务逻辑是将能力部署在终端侧,生物组织图像在本地完成活检区域的预测。

图1所示的实施环境包括终端110和服务器120,且,终端110和服务器120之间通过通信网络130连接。其中,终端110和服务器120之间可以通过通信网络130进行通信。图2所示的实施环境包括终端110。

本申请涉及的通信网络130使用标准通信技术和/或协议,通常为因特网,但也可以是任何网络,包括但不限于蓝牙、局域网(local area network,LAN)、城域网(metropolitan area network,MAN)、广域网(wide area network,WAN)、移动、专用网络或者虚拟专用网络的任何组合)。在一些实施例中,可使用定制或专用数据通信技术取代或者补充上述数据通信技术。

本申请涉及的终端110包括但不限于医疗检测设备(例如,阴道镜或内窥镜)、手机、电脑、智能语音交互设备、智能家电、车载终端、飞行器等。其中,客户端部署于终端110上,客户端可以通过浏览器的形式运行于终端110上,也可以通过独立的APP的形式运行于终端110上等。本申请涉及的服务器120可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(contentdelivery network,CDN)、以及大数据和AI平台等基础云计算服务的云服务器。

本申请涉及的深度学习模型140包括第一图像分类模型和目标检测模型,可选地,还可以包括第二图像分类模型。需要说明的是,本申请以深度学习模型140的配置部署于服务器120为例进行说明,在一些实施例中,深度学习模型140的配置也可以部署于终端110。在一些实施例中,深度学习模型140的部分配置部署于终端110,部分配置部署于服务器120。此处不做限定。

结合上述图1所示的实施环境,终端110将采集到的生物组织图像,通过通信网络130发送至服务器120。由服务器120调用深度学习模型140中的第一图像分类模型,对采集到的生物组织图像进行识别和分析,从中选择出病灶最突出的醋染图像作为目标醋染图像。基于此,服务器120调用深度学习模型140中的目标检测模型,对目标醋染图像进行目标检测,以得到目标醋染图像的图像检测结果。

结合上述图2所示的实施环境,终端110采集生物组织图像,然后调用深度学习模型140中的第一图像分类模型,对采集到的生物组织图像进行识别和分析,从中选择出病灶最突出的醋染图像作为目标醋染图像。基于此,终端110调用深度学习模型140中的目标检测模型,对目标醋染图像进行目标检测,以得到目标醋染图像的图像检测结果。

鉴于本申请涉及到一些与专业领域相关的术语,为了便于理解,下面将进行解释。

(1)阴道镜(colposcope):是一种妇科临床诊断仪器,是妇科内窥镜之一。适用于各种宫颈疾病及生殖器病变的诊断,也是男女性疾病早期诊断的重要方式。

(2)内窥镜:是一种集中了传统光学、人体工程学、精密机械、现代电子、数学、软件等于一体的检测仪器。一个具有图像传感器、光学镜头、光源照明、机械装置等,它可以经口腔进入胃内或经其他天然孔道进入体内。

(3)宫颈活检:宫颈活检就是子宫颈的活体组织检查,亦即从宫颈上取一小块或几块组织作病理检查,以确定诊断。

(4)敏感度:所有癌前病变的图像中,被检测出来为癌前病变的图像所占的比例。

(5)特异度:所有正常的图像中,被检测出来为正常的图像所占的比例。

(6)深度学习技术:一种利用深层神经网络系统,进行机器学习的技术。

(7)图片类别:图片内容所属的类别,例如,正常、癌前病变等。

(8)目标检测网络(或,目标检测模型):采用机器学习技术对标注样本数据(即,图片与图片中目标位置对应关系)进行学习后获得的数学模型,学习训练的过程中获得该数学模型的参数,检测时加载该数学模型的参数并计算输入样本中目标的检测位置。

(9)图像分类网络(或,图像分类模型):采用机器学习技术对标注样本数据(即,图片与类别对应关系)进行学习后获得的数学模型,学习训练的过程中获得该数学模型的参数,识别预测时加载该数学模型的参数并计算输入样本属于各个类别的概率。

结合上述介绍,下面将对本申请中生物组织图像的检测方法进行介绍,请参阅图3,本申请实施例中生物组织图像的检测方法可以由服务器独立完成,也可以由终端独立完成,还可以由终端与服务器配合完成,本申请包括:

210、获取待识别的第一图像集合,其中,第一图像集合包括至少两个生物组织图像;

在一个或多个实施例中,通过医疗检测设备(例如,阴道镜或内窥镜)采集第一图像集合,该第一图像集合包括至少两个生物组织图像。其中,生物组织图像可以是阴道镜图像,也可以是其他生命体组织的图像,例如,喉镜图像、肠镜图像等,本申请以阴道镜图像为例进行说明,然而,这不应理解为对本申请的限定。

220、调用第一图像分类模型对第一图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的染色分类结果以及每个生物组织图像的图像特征,其中,染色分类结果用于表示生物组织图像所属的染色类型;

在一个或多个实施例中,将第一图像集合中的每个生物组织图像作为第一图像分类模型的输入,通过第一图像分类模型输出每个生物组织图像的染色概率分布,再基于染色概率分布可确定生物组织图像的染色分类结果。与此同时,基于第一图像分类模型的主干网络(backbone),可获取每个生物组织图像的图像特征。可以理解的是,第一图像分类模型可采用卷积神经网络(convolutional neural networks,CNN),图像特征即为CNN特征,其中,图像特征表示为特征向量的形式。

230、根据每个生物组织图像的染色分类结果,从第一图像集合中获取生理盐水图像以及P个醋染图像,其中,生理盐水图像与醋染图像均属于生物组织图像,P为大于或等于1的整数;

在一个或多个实施例中,结合每个生物组织图像的染色分类结果,可以从第一图像集合中筛选出属于生理盐水图像的生物组织图像,以及属于醋染图像的生物组织图像。可以理解的是,如果第一图像集合包括多个生理盐水图像,则可选择其中一个生理盐水图像进行后续处理。此外,第一图像集合中通常会包括多个醋染图像,因此,需要从多个醋染图像中选择用于预测活检区域的目标醋染图像。

240、根据生理盐水图像的图像特征以及每个醋染图像的图像特征,确定P个类间特征距离以及P个类内特征距离,其中,P个类间特征距离包括每个醋染图像与生理盐水图像之间的类间特征距离,P个类内特征距离包括每个醋染图像所对应的类内特征距离;

在一个或多个实施例中,在得到生理盐水图像以及P个醋染图像之后,利用生理盐水图像的图像特征以及每个醋染图像的图像特征,确定P个类间特征距离。其中,P个类间特征距离包括每个醋染图像分别与生理盐水图像之间的类间特征距离。与此同时,利用每个醋染图像的图像特征,确定P个类内特征距离。其中,P个类内特征距离包括每个醋染图像分别与剩余(P-1)个醋染图像之间的类内特征距离。

250、根据P个类间特征距离以及P个类内特征距离,确定每个醋染图像所对应的综合特征距离,其中,综合特征距离用于表征醋染图像的差异显著程度;

在一个或多个实施例中,可见,对于P个醋染图像中的每个醋染图像而言,分别具有一个类间特征距离和一个类内特征距离。因此,针对每个醋染图像,根据其对应的类间特征距离和类内特征距离,计算得到综合特征距离。由此,得到每个醋染图像所对应的综合特征距离。其中,醋染图像的综合特征距离越大,表示该醋染图像的差异程度越显著。

260、从每个醋染图像所对应的综合特征距离中获取最大综合特征距离,并将最大综合特征距离所对应的醋染图像作为目标醋染图像;

在一个或多个实施例中,综合特征距离与醋染图像的差异显著程度呈正相关,因此,先从P个综合特征距离中确定最大综合特征距离,然后,将最大综合特征距离所对应的醋染图像作为目标醋染图像。

270、调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果,其中,图像检测结果用于确定目标醋染图像中的活检区域。

在一个或多个实施例中,将目标醋染图像作为目标检测模型的输入,通过目标检测模型输出目标醋染图像的图像检测结果。其中,图像检测结果可包括活检区域的中心位置(或,角点位置)、长度和宽度。

目标检测模型可采用单阶检测器(you only look once,YOLO),例如,YOLO V3。需要说明的是,目标检测模型也可以采用基于区域的全卷积网络(region-based fullyconvolutional network,R-FCN)、快速基于区域的全卷积网络(faster region-basedfully convolutional network,Faster R-CNN)、特征金字塔网络(feature pyramidnetwork,FPN)或者单步多框目标检测器(single shot multibox detector,SSD)等,此处不做限定。

具体地,为了便于理解,请参阅图4,图4为本申请实施例中生物组织图像检测方法的一个架构示意图,如图所示,以第一图像集合包括生物组织图像1、生物组织图像2和生物组织图像3为例,经过第一图像分类模型之后,可确定生物组织图像1为生理盐水图像,生物组织图像2和生物组织图像3均为醋染图像。同时,通过第一图像分类模型的主干网络还可以得到每个生物组织图像的图像特征,即,图像特征F0、图像特征F1和图像特征F2。基于此,利用图像特征F0、图像特征F1和图像特征F2进行特征距离计算,以得到醋染图像1的综合特征距离和醋染图像2的综合特征距离。由此,从醋染图像1(即,生物组织图像2)和醋染图像2(即,生物组织图像3)中选择出综合特征距离更大的醋染图像作为目标醋染图像,最后,调用目标检测模型对目标醋染图像进行检测,以得到活检区域的预测结果。

本申请实施例中,提供了一种生物组织图像的检测方法。通过上述方式,引入了醋染图像的类内特征距离以及醋染图像与生理盐水图像类间特征距离,共同衡量醋染图像的差异显著程度,由此,可选择出差异最大的醋染图像作为疾病反应最大时刻的醋染图像,并将该醋染图像作为预测活检区域的目标醋染图像。上述方式充分考虑到不同患者之间病变区域反应时间的差异性,有利于提高活检区域预测的准确率和有效性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,获取待识别的第一图像集合,具体可以包括:

待识别的第二图像集合,其中,第二图像集合包括至少两个生物组织图像;

调用第二图像分类模型对第二图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的遮挡分类结果,其中,遮挡分类结果用于表示生物组织图像的被遮挡情况;

根据每个生物组织图像的遮挡分类结果,将第二图像集合中遮挡分类结果属于无遮挡类别的生物组织图像作为第一图像集合中的生物组织图像。

在一个或多个实施例中,介绍了一种自动识别被遮挡图像的方式。由前述实施例可知,第一图像集合所包括的生物组织图像通常是未经过物体(例如,棉签或器械等)遮挡的图像。然而,在实际情况下,可能会采集到被物体遮挡的生物组织图像。因此,还需要从这些图像中筛选出用于构成第一图像集合的生物组织图像。

具体地,为了便于理解,请参阅图5,图5为本申请实施例中生物组织图像检测方法的另一个架构示意图,如图所示,以第二图像集合包括生物组织图像1、生物组织图像2、生物组织图像3、生物组织图像4、生物组织图像5和生物组织图像6为例,将这些生物组织图像作为第二图像分类模型的输入,通过第二图像分类模型得到每个生物组织图像的遮挡概率分布,再基于遮挡概率分布可确定生物组织图像的遮挡分类结果。遮挡分类结果可以是“遮挡类别”,也可以是“无遮挡类别”。其中,生物组织图像1、生物组织图像3和生物组织图像4均属于“遮挡类别”,因此,可剔除这3个生物组织图像。并将属于“无遮挡类别”生物组织图像5、生物组织图像2和生物组织图像6作为第一图像集合。

基于此,将生物组织图像5、生物组织图像2和生物组织图像6作为第一图像分类模型的输入,通过第一图像分类模型得到每个生物组织图像的染色概率分布,再基于染色概率分布可确定生物组织图像的染色分类结果。其中,生物组织图像5为生理盐水图像,生物组织图像2和生物组织图像6均为醋染图像。同时,通过第一图像分类模型的主干网络还可以得到每个生物组织图像的图像特征,即,图像特征F0、图像特征F1和图像特征F2。利用图像特征F0、图像特征F1和图像特征F2进行特征距离计算,以得到醋染图像1(即,生物组织图像2)的综合特征距离和醋染图像2(即,生物组织图像6)的综合特征距离。由此,从醋染图像1和醋染图像2中选择出综合特征距离更大的醋染图像作为目标醋染图像,最后,调用目标检测模型对目标醋染图像进行检测,以得到活检区域的预测结果。

其次,本申请实施例中,提供了一种自动识别被遮挡图像的方式。通过上述方式,能够自动把不符合活检区域预测输入的遮挡图像进行排除,避免将具有棉签或者其他器械遮挡的生物组织图像作为输入,从而有利于提升后续检测的准确性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,还可以包括:

获取第一图像样本集合,其中,第一图像样本集合包括至少一个第一图像样本,每个第一图像样本对应于遮挡分类标签;

针对于第一图像样本集合中的每个第一图像样本,基于第二图像分类模型获取每个第一图像样本所对应的遮挡概率分布;

基于每个第一图像样本所对应的遮挡概率分布以及遮挡分类标签,计算得到第一损失值;

采用第一损失值对第二图像分类模型的模型参数进行更新。

在一个或多个实施例中,介绍了一种训练第二图像分类模型的方式。由前述实施例可知,需要构建第一图像样本集合,以使用第一图像样本集合对第二图像分类模型进行训练。其中,第一图像样本集合包括至少一个第一图像样本,且,每个第一图像样本标注有对应的遮挡分类标签。例如,第一图像样本1的遮挡分类标签为“遮挡类别”,第一图像样本2的遮挡分类标签为“无遮挡类别”。

具体地,可将第一图像样本集合作为一个批次(batch)的数据集。基于此,将第一图像样本集合中的各个第一图像样本作为第二图像分类模型的输入,通过第二图像分类模型输出每个第一图像样本所对应的遮挡概率分布。与此同时,根据每个第一图像样本所对应的遮挡分类标签,可得到每个第一图像样本所对应的真实概率分布。例如,遮挡分类标签为“遮挡类别”,则对应的真实概率分布为(1,0),又例如,遮挡分类标签为“无遮挡类别”,则对应的真实概率分布为(0,1)。可采用如下方式计算一个第一图像样本的损失值:

其中,Loss1表示第一图像样本的损失值。T表示遮挡分类标签的总类别数。y表示基于遮挡分类标签,如果为第i个遮挡分类标签,则y

由此,对第一图像样本集合中每个第一图像样本的损失值进行求和,以得到第一损失值。于是,可采用随机梯度下降法(stochastic gradient descent,SGD),将第一损失值进行梯度后向计算,并得到第二图像分类模型的模型参数更新值。

需要说明的是,通过不断采集样本图像样本,进而增加离线模型的训练数据集,以此增强模型的识别能力。

再次,本申请实施例中,提供了一种训练第二图像分类模型的方式。通过上述方式,利用深度分类网络(即,第二图像分类模型)对标注好遮挡分类标签的样本集合进行训练。由此,能够对医生自主采集的生物组织图像进行遮挡情况的识别,达到自动化检测的目的。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,调用第一图像分类模型对第一图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的染色分类结果以及每个生物组织图像的图像特征,具体可以包括:

针对于第一图像集合中的每个生物组织图像,通过第一图像分类模型所包括的主干网络获取每个生物组织图像的图像特征;

针对于每个生物组织图像的图像特征,通过第一图像分类模型所包括的池化层获取每个生物组织图像的池化特征;

针对于每个生物组织图像的池化特征,通过第一图像分类模型所包括的全连接网络获取每个生物组织图像的染色概率分布;

根据每个生物组织图像的染色概率分布,确定每个生物组织图像的染色分类结果。

在一个或多个实施例中,介绍了一种基于第一图像分类模型实现特征处理的方式。由前述实施例可知,第一图像分类模型不仅可以输出染色概率分布,还可以输出图像特征。下面将以第一图像分类模型为残差网络50(residual network 50,ResNet50)为例进行介绍可以理解的是,第一图像分类模型还可以是ResNet18、ResNet34或者ResNet101等,此处不做限定。

具体地,第一图像分类模型包括主干网络,基于主干网络完成图像特征的提取。为了便于理解,请参阅表1,表1为ResNet50中各个网络层相关参数的一个示意。

表1

其中,主干网络包括conv1、conv2_x、conv3_x、conv4_x和conv5_x。将第一图像集合中的每个生物组织图像作为主干网络的输入,通过主干网络获取每个生物组织图像的图像特征。基于此,可缓存每个生物组织图像的图像特征。接下来,对每个生物组织图像的图像特征进行池化处理,即,通过池化层获取每个生物组织图像的池化特征。然后,将每个生物组织图像的池化特征作为全连接网络的输入,通过全连接网络获取每个生物组织图像的染色概率分布。由此,根据染色概率分布,实现对生物组织图像的分类,从而得到每个生物组织图像的染色分类结果。其中,全连接网络包括全连接层和softmax层。

其次,本申请实施例中,提供了一种基于第一图像分类模型实现特征处理的方式。通过上述方式,利用第一图像分类模型不仅能够识别出生物组织图像的染色分类结果,还能够提取生物组织图像的图像特征,以学习得到生物组织图像的高维特征。由此,为后续的特征处理提供相应依据,从而提升方案的可行性和可操作性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,根据每个生物组织图像的染色概率分布,确定每个生物组织图像的染色分类结果,具体可以包括:

对每个生物组织图像的染色概率分布所包括的各个概率值进行大小比对,得到每个生物组织图像的染色概率分布中的最大概率值;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第一元素特征位置,则将生物组织图像的染色分类结果确定为无染色类别;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第二元素特征位置,则将生物组织图像的染色分类结果确定为生理盐水类别,其中,属于生理盐水类别的生物组织图像为生理盐水图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第三元素特征位置,则将生物组织图像的染色分类结果确定为醋染类别,其中,属于醋染类别的生物组织图像为醋染图像。

在一个或多个实施例中,介绍了一种确定生理盐水图像和醋染图像的方式。由前述实施例可知,利用第一图像分类模型可输出生物组织图像的染色概率分布。其中,第一图像分类模型可识别出“无染色类别”、“生理盐水类别”和“醋染类别”。

具体地,为了便于理解,请参阅图6,图6为本申请实施例中第一图像分类模型的一个架构示意图,如图所示,将各个生物组织图像作为第一图像分类模型中主干网络的输入,通过主干网络提取相应的图像特征。然后,通过池化层获取每个生物组织图像的池化特征。再通过全连接层和softmax层获取每个生物组织图像的染色概率分布。其中,染色概率分布可以表示为3维的特征向量,假设染色概率分布中第一元素特征位置对应于“无染色类别”,第二元素特征位置对应于“生理盐水类别”,第三元素特征位置对应于“醋染类别”。

示例性地,假设生物组织图像的染色概率分布为(0.8,0.1,0.1),其中,最大概率值为“0.8”。可见,最大概率值对应于第一元素特征位置,因此,将该生物组织图像的染色分类结果确定为无染色类别。

示例性地,假设生物组织图像的染色概率分布为(0.1,0.7,0.2),其中,最大概率值为“0.7”。可见,最大概率值对应于第二元素特征位置,因此,将该生物组织图像的染色分类结果确定为生理盐水类别,即,该生物组织图像属于生理盐水图像。

示例性地,假设生物组织图像的染色概率分布为(0.2,0.1,0.7),其中,最大概率值为“0.7”。可见,最大概率值对应于第三元素特征位置,因此,将该生物组织图像的染色分类结果确定为醋染类别,即,该生物组织图像属于醋染图像。

需要说明的是,生物组织图像经过第一图像分类模型预测时,通过主干网络获取的图像特征会进行缓存。在确定生物组织图像所属的染色类别之后,提取生理盐水图像的图像特征和醋染图像的图像特征即可,以用于后续计算特征距离。

再次,本申请实施例中,提供了一种确定生理盐水图像和醋染图像的方式。通过上述方式,基于第一图像分类模型输出的染色概率分布,可确定生物组织图像所属的染色类别。进而自动区分生理盐水图像和醋染图像,无需相关人员操作,从而节省人力成本。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,根据每个生物组织图像的染色概率分布,确定每个生物组织图像的染色分类结果,具体可以包括:

对每个生物组织图像的染色概率分布所包括的各个概率值进行大小比对,得到每个生物组织图像的染色概率分布中的最大概率值;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第一元素特征位置,则将生物组织图像的染色分类结果确定为无染色类别;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第二元素特征位置,则将生物组织图像的染色分类结果确定为生理盐水类别,其中,属于生理盐水类别的生物组织图像为生理盐水图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第三元素特征位置,则将生物组织图像的染色分类结果确定为醋染类别,其中,属于醋染类别的生物组织图像为醋染图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第四元素特征位置,则将生物组织图像的染色分类结果确定为碘染类别,其中,属于碘染类别的生物组织图像为碘染图像。

在一个或多个实施例中,介绍了一种确定生理盐水图像、醋染图像和碘染图像的方式。由前述实施例可知,利用第一图像分类模型可输出生物组织图像的染色概率分布。其中,第一图像分类模型可识别出“无染色类别”、“生理盐水类别”、“醋染类别”和“碘染类别”。

具体地,为了便于理解,请参阅图7,图7为本申请实施例中第一图像分类模型的另一个架构示意图,如图所示,将各个生物组织图像作为第一图像分类模型中主干网络的输入,通过主干网络提取相应的图像特征。然后,通过池化层获取每个生物组织图像的池化特征。再通过全连接层和softmax层获取每个生物组织图像的染色概率分布。其中,染色概率分布可以表示为4维的特征向量,假设染色概率分布中第一元素特征位置对应于“无染色类别”,第二元素特征位置对应于“生理盐水类别”,第三元素特征位置对应于“醋染类别”。第四元素特征位置对应于“碘染类别”。

示例性地,假设生物组织图像的染色概率分布为(0.7,0.1,0.1,0.1),其中,最大概率值为“0.7”。可见,最大概率值对应于第一元素特征位置,因此,将该生物组织图像的染色分类结果确定为无染色类别。

示例性地,假设生物组织图像的染色概率分布为(0.1,0.7,0.1,0.1),其中,最大概率值为“0.7”。可见,最大概率值对应于第二元素特征位置,因此,将该生物组织图像的染色分类结果确定为生理盐水类别,即,该生物组织图像属于生理盐水图像。

示例性地,假设生物组织图像的染色概率分布为(0.2,0.1,0.6,0.1),其中,最大概率值为“0.6”。可见,最大概率值对应于第三元素特征位置,因此,将该生物组织图像的染色分类结果确定为醋染类别,即,该生物组织图像属于醋染图像。

示例性地,假设生物组织图像的染色概率分布为(0.2,0.1,0.1,0.6),其中,最大概率值为“0.6”。可见,最大概率值对应于第四元素特征位置,因此,将该生物组织图像的染色分类结果确定为碘染类别,即,该生物组织图像属于碘染图像。

需要说明的是,生物组织图像经过第一图像分类模型预测时,通过主干网络获取的图像特征会进行缓存。在确定生物组织图像所属的染色类别之后,提取生理盐水图像的图像特征和醋染图像的图像特征即可,以用于后续计算特征距离。

需要说明的是,生物组织图像经过第一图像分类模型预测时,通过主干网络获取的图像特征会进行缓存。在确定生物组织图像所属的染色类别之后,提取生理盐水图像的图像特征和醋染图像的图像特征即可,以用于后续计算特征距离。

再次,本申请实施例中,提供了一种确定生理盐水图像、醋染图像和碘染图像的方式。通过上述方式,基于第一图像分类模型输出的染色概率分布,可确定生物组织图像所属的染色类别。进而自动区分生理盐水图像、醋染图像和碘染图像,无需相关人员操作,从而节省人力成本。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,还可以包括:

获取第二图像样本集合,其中,第二图像样本集合包括至少一个第二图像样本,每个第二图像样本对应于染色分类标签;

针对于第二图像样本集合中的每个第二图像样本,基于第一图像分类模型获取每个第二图像样本所对应的染色概率分布;

基于每个第二图像样本所对应的染色概率分布以及染色分类标签,计算得到第二损失值;

采用第二损失值对第一图像分类模型的模型参数进行更新。

在一个或多个实施例中,介绍了一种训练第一图像分类模型的方式。由前述实施例可知,需要构建第二图像样本集合,以使用第二图像样本集合对第一图像分类模型进行训练。其中,第二图像样本集合包括至少一个第二图像样本,且,每个第二图像样本标注有对应的染色分类标签。例如,第二图像样本1的染色分类标签为“无染色类别”,第二图像样本2的染色分类标签为“生理盐水类别”。

具体地,可将第二图像样本集合作为一个batch的数据集。基于此,将第二图像样本集合中的各个第二图像样本作为第一图像分类模型的输入,通过第一图像分类模型输出每个第二图像样本所对应的染色概率分布。与此同时,根据每个第二图像样本所对应的染色分类标签,可得到每个第二图像样本所对应的真实概率分布。例如,染色分类标签为“无染色类别”,则对应的真实概率分布为(1,0,0,0)。又例如,遮挡分类标签为“生理盐水类别”,则对应的真实概率分布为(0,1,0,0)。又例如,遮挡分类标签为“醋染类别”,则对应的真实概率分布为(0,0,1,0)。又例如,遮挡分类标签为“碘染类别”,则对应的真实概率分布为(0,0,0,1)。可采用如下方式计算一个第二图像样本的损失值:

其中,Loss2表示第二图像样本的损失值。K表示染色分类标签的总类别数。y′

由此,对第二图像样本集合中每个第二图像样本的损失值进行求和,以得到第二损失值。于是,可采用SGD,将第二损失值进行梯度后向计算,并得到第一图像分类模型的模型参数更新值。

需要说明的是,通过不断采集样本图像样本,进而增加离线模型的训练数据集,以此增强模型的识别能力。

其次,本申请实施例中,提供了一种训练第一图像分类模型的方式。通过上述方式,利用深度分类网络(即,第一图像分类模型)对标注好染色分类标签的样本集合进行训练。由此,能够对医生自主采集的生物组织图像进行染色情况的识别,达到自动化检测的目的。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,根据生理盐水图像的图像特征以及每个醋染图像的图像特征,确定P个类间特征距离以及P个类内特征距离,具体可以包括:

对生理盐水图像的图像特征以及每个醋染图像的图像特征进行类间距离计算,得到每个醋染图像与生理盐水图像之间的类间特征距离;

对每个醋染图像的图像特征以及其他各个醋染图像对应图像特征进行类内距离计算,得到每个醋染图像所对应的类内特征距离,其中,其他各个醋染图像为P个醋染图像中除了醋染图像之外的剩余醋染图像;

根据P个类间特征距离以及P个类内特征距离,确定每个醋染图像所对应的综合特征距离,具体可以包括:

针对于每个醋染图像,对醋染图像所对应的类间特征距离以及类内特征距离进行加权求和,得到醋染图像所对应的综合特征距离。

在一个或多个实施例中,介绍了一种确定醋染图像对应综合特征距离的方式。由前述实施例可知,在得到P个醋染图像之后,一方面,需要将每个醋染图像分别与生理盐水图像进行类间特征距离的计算。另一方面,需要将每个醋染图像分别与其他醋染图像进行类内特征距离的计算。

具体地,假设有3个醋染图像(即,P等于3),分别为醋染图像1、醋染图像2和醋染图像3。基于此,P个类间特征距离包括醋染图像1与生理盐水图像之间的类间特征距离1,醋染图像2与生理盐水图像之间的类间特征距离2,醋染图像3与生理盐水图像之间的类间特征距离3。P个类内特征距离包括醋染图像1与剩余两个醋染图像(即,醋染图像2和醋染图像3)的类内特征距离1,醋染图像2与剩余两个醋染图像(即,醋染图像1和醋染图像3)的类内特征距离2,醋染图像3与剩余两个醋染图像(即,醋染图像1和醋染图像2)的类内特征距离3。

可见,对于每个醋染图像而言,能够分别得到其对应的类间特征距离和类内特征距离。即,醋染图像1对应于类间特征距离1和类内特征距离1。醋染图像2对应于类间特征距离2和类内特征距离2。醋染图像3对应于类间特征距离3和类内特征距离3。由此,可采用如下方式计算醋染图像所对应的综合特征距离:

DisFinal

其中,DisFinal

可以理解的是,采用公式(3)可计算得到每个醋染图像所对应的综合特征距离。基于此,可将具有最大综合特征距离的醋染图像作为目标醋染图像,并将目标醋染图像作为目标检测网络的输入。

其次,本申请实施例中,提供了一种确定醋染图像对应综合特征距离的方式。通过上述方式,对醋染图像的类间特征距离和类内特征距离进行加权求和,以得到其他各个醋染图像的综合特征距离。从而能够自动选择醋染图像中病灶最显现的图像作为用于活检区域预测的目标醋染图像。基于类内和类间的差异性对比,以加权的方式来衡量醋染图像病灶的显现性,可增加方案的鲁棒性和有效性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,对生理盐水图像的图像特征以及每个醋染图像的图像特征进行类间距离计算,得到每个醋染图像与生理盐水图像之间的类间特征距离,具体可以包括:

针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与生理盐水图像对应图像特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的M个元素特征距离,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与生理盐水图像之间的类间特征距离。

在一个或多个实施例中,介绍了一种计算类间特征距离的方式。由前述实施例可知,可基于生理盐水图像的图像特征以及醋染图像的图像特征,得到醋染图像与生理盐水图像之间的图像特征距离。一种情况下,可将醋染图像与理盐水图像之间的图像特征距离直接作为两者之间的类间特征距离。

具体地,两个图像特征之间的距离可定义为空间点距离。图像特征表示为一个M维的特征向量,即,一个图像特征包括M个元素特征。由此,可采用如下方式计算醋染图像与生理盐水图像之间的类间特征距离:

其中,Dis

可见,对于第i个醋染图像而言,将第i个醋染图像对应图像特征中的第x个元素特征(即,F

需要说明的是,每个醋染图像均采用上述方式计算得到其与生理盐水图像之间的类间特征距离,此处不做赘述。

再次,本申请实施例中,提供了一种计算类间特征距离的方式。通过上述方式,由于图像特征属于高维特征,且,高维特征包含判别性的语义信息。因此,利用图像特征计算得到的类间特征距离,能够更好地识别出生理盐水图像和醋染图像之间的语义区别,从而提升对于不同类别图像差异性判别的准确度。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,对每个醋染图像的图像特征以及其他各个醋染图像对应图像特征进行类内距离计算,得到每个醋染图像所对应的类内特征距离,具体可以包括:

针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与其他各个醋染图像对应图像特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的M个元素特征距离,其中,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与其他各个醋染图像之间的第一特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第一特征距离进行求平均,得到醋染图像所对应的类内特征距离。

在一个或多个实施例中,介绍了一种计算类内特征距离的方式。由前述实施例可知,可基于P个醋染图像的图像特征,得到醋染图像与其他各个醋染图像之间的图像特征距离。一种情况下,可将醋染图像与其他各个醋染图像之间的图像特征距离直接作为两者之间的类内特征距离。

具体地,两个图像特征之间的距离可定义为空间点距离。图像特征表示为一个M维的特征向量,即,一个图像特征包括M个元素特征。由此,可采用如下方式计算醋染图像所对应的类内特征距离:

其中,Dis

可见,对于第i个醋染图像而言,将第i个醋染图像对应图像特征中的第x个元素特征(即,F

需要说明的是,每个醋染图像均采用上述方式计算得到其对应的类内特征距离,此处不做赘述。

再次,本申请实施例中,提供了一种计算类内特征距离的方式。通过上述方式,由于图像特征属于高维特征,且,高维特征包含判别性的语义信息。因此,利用图像特征计算得到的类内特征距离,能够更好地识别出醋染图像和其他醋染图像之间的语义区别,从而提升对于相同类别图像差异性判别的准确度。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,对生理盐水图像的图像特征以及每个醋染图像的图像特征进行类间距离计算,得到每个醋染图像与生理盐水图像之间的类间特征距离,具体可以包括:

对生理盐水图像的图像特征以及每个醋染图像的图像特征进行特征距离计算,得到每个醋染图像与所述生理盐水图像之间的图像特征距离;

对生理盐水图像的直方图特征以及每个醋染图像的直方图特征进行特征距离计算,得到每个醋染图像与生理盐水图像之间的直方图特征距离;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的图像特征距离,以及醋染图像与生理盐水图像之间的直方图特征距离进行加权求和,得到醋染图像与生理盐水图像之间的类间特征距离。

在一个或多个实施例中,介绍了另一种计算类间特征距离的方式。由前述实施例可知,在得到P个醋染图像之后,一方面,需要将每个醋染图像分别与生理盐水图像进行图像特征距离的计算。另一方面,需要将每个醋染图像分别与生理盐水图像进行直方图特征距离的计算。基于此,可采用如下方式计算醋染图像与生理盐水图像之间的类间特征距离:

Dis

其中,Dis

对于第i个醋染图像而言,对第i个醋染图像与生理盐水图像之间的图像特征距离(即,DisCNN

具体地,为了便于理解,请参阅图8,图8为本申请实施例中生物组织图像检测方法的另一个架构示意图,如图所示,以第二图像集合包括生物组织图像1、生物组织图像2、生物组织图像3、生物组织图像4、生物组织图像5、生物组织图像6和生物组织图像7为例,将这些生物组织图像作为第二图像分类模型的输入,通过第二图像分类模型得到每个生物组织图像的遮挡概率分布,再基于遮挡概率分布可确定生物组织图像的遮挡分类结果。遮挡分类结果可以是“遮挡类别”,也可以是“无遮挡类别”。其中,生物组织图像1、生物组织图像3和生物组织图像4均属于“遮挡类别”,因此,可剔除这3个生物组织图像。并将属于“无遮挡类别”生物组织图像5、生物组织图像2、生物组织图像6和生物组织图像7作为第一图像集合。

基于此,将生物组织图像5、生物组织图像2、生物组织图像6和生物组织图像7作为第一图像分类模型的输入,通过第一图像分类模型得到每个生物组织图像的染色概率分布,再基于染色概率分布可确定生物组织图像的染色分类结果。其中,生物组织图像5为生理盐水图像,生物组织图像2和生物组织图像6均为醋染图像,生物组织图像7为碘染图像。同时,通过第一图像分类模型的主干网络还可以得到每个生物组织图像的图像特征,即,图像特征F0、图像特征F1、图像特征F2和图像特征F3。

一方面,需要利用图像特征F0、图像特征F1和图像特征F2进行特征距离计算,以得到醋染图像1(即,生物组织图像2)的图像特征距离和醋染图像2(即,生物组织图像6)的图像特征距离。

另一方面,需要分别提取生理盐水图像和每个醋染图像的直方图特征,以得到生理盐水图像的直方图特征f0、醋染图像1的直方图特征f1和醋染图像2的直方图特征f2。利用直方图特征f0、直方图特征f1和直方图特征f2进行特征距离计算,以得到醋染图像1(即,生物组织图像2)的直方图特征距离和醋染图像2(即,生物组织图像6)的直方图特征距离。

由此,根据醋染图像1的图像特征距离和直方图特征距离,计算得到醋染图像1的综合特征距离。根据醋染图像2的图像特征距离和直方图特征距离,计算得到醋染图像2的综合特征距离。于是,从醋染图像1和醋染图像2中选择出综合特征距离更大的醋染图像作为目标醋染图像,最后,调用目标检测模型对目标醋染图像进行检测,以得到活检区域的预测结果。

再次,本申请实施例中,提供了另一种计算类间特征距离的方式。通过上述方式,图像特征属于高维特征,高维特征包含判别性的语义信息。直方图特征属于低维特征,低维特征的可解释性强。因此,利用图像特征和直方图特征共同计算得到的类间特征距离,能够对不同类别图像的差异性进行衡量,不仅兼顾了信息量和可解析性,还可以提高方案的鲁棒性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,对生理盐水图像的图像特征以及每个醋染图像的图像特征进行特征距离计算,得到每个醋染图像与所述生理盐水图像之间的图像特征距离,具体可以包括:

针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与生理盐水图像对应图像特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的M个元素特征距离,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与生理盐水图像之间的图像特征距离;

对生理盐水图像的直方图特征以及每个醋染图像的直方图特征进行特征距离计算,得到每个醋染图像与生理盐水图像之间的直方图特征距离,具体可以包括:

针对于每个醋染图像,将醋染图像对应直方图特征中的每个元素特征,与生理盐水图像对应直方图特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的N个元素特征距离,N为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的N个元素特征距离进行直方图距离计算,得到醋染图像与生理盐水图像之间的直方图特征距离。

在一个或多个实施例中,介绍了一种计算图像特征距离和直方图特征距离的方式。由前述实施例可知,可基于生理盐水图像的图像特征以及醋染图像的图像特征,得到醋染图像与生理盐水图像之间的图像特征距离。可基于生理盐水图像的直方图特征以及醋染图像的直方图特征,得到醋染图像与生理盐水图像之间的直方图特征距离。一种情况下,可将醋染图像与理盐水图像之间的图像特征距离和直方图特征距离加权求和的结果作为两者之间的类间特征距离。

具体地,两个图像特征之间的距离可定义为空间点距离。图像特征表示为一个M维的特征向量,即,一个图像特征包括M个元素特征。由此,可采用如下方式计算醋染图像与生理盐水图像之间的图像特征距离:

其中,DisCNN

可见,对于第i个醋染图像而言,将第i个醋染图像对应图像特征中的第x个元素特征(即,F

直方图特征表示为一个N维的特征向量,即,一个直方图特征包括N个元素特征。由此,可采用如下方式计算醋染图像与生理盐水图像之间的直方图特征距离:

其中,DisHIST

可见,对于第i个醋染图像而言,将第i个醋染图像对应直方图特征中的第x个元素特征(即,f

需要说明的是,每个醋染图像均采用上述方式计算得到其与生理盐水图像之间的图像特征距离和直方图特征距离,此处不做赘述。

进一步地,本申请实施例中,提供了一种计算图像特征距离和直方图特征距离的方式。通过上述方式,利用图像特征以及直方图特征可计算得到图像特征距离和直方图特征距离,由此,提升了方案的可行性和可操作性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,对每个醋染图像的图像特征以及其他各个醋染图像对应图像特征进行类内距离计算,得到每个醋染图像所对应的类内特征距离,具体可以包括:

根据每个醋染图像的图像特征,计算得到每个醋染图像所对应的图像特征平均距离;

根据每个醋染图像的直方图特征,计算得到每个醋染图像所对应的直方图特征平均距离;

针对于每个醋染图像,对醋染图像所对应的图像特征平均距离,以及醋染图像所对应的直方图特征平均距离进行加权求和,得到醋染图像所对应的类内特征距离。

在一个或多个实施例中,介绍了另一种计算类内特征距离的方式。由前述实施例可知,在得到P个醋染图像之后,一方面,可基于其他各个醋染图像的图像特征,得到醋染图像与其他各个醋染图像之间的图像特征平均距离。另一方面,可基于其他各个醋染图像的直方图特征,得到醋染图像与其他各个醋染图像之间的直方图特征平均距离。基于此,可采用如下方式计算醋染图像所对应的类内特征距离:

Dis

其中,Dis

对于第i个醋染图像而言,对第i个醋染图像与其他各个醋染图像之间的图像特征平均距离(即,DisCNN

需要说明的是,每个醋染图像均采用上述方式计算得到其对应的类内特征距离,此处不做赘述。

再次,本申请实施例中,提供了另一种计算类内特征距离的方式。通过上述方式,图像特征属于高维特征,高维特征包含判别性的语义信息。直方图特征属于低维特征,低维特征的可解释性强。因此,利用图像特征和直方图特征共同计算得到的类内特征距离,能够对相同类别图像的差异性进行衡量,不仅兼顾了信息量和可解析性,还可以提高鲁棒性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,根据每个醋染图像的图像特征,计算得到每个醋染图像所对应的图像特征平均距离,具体可以包括:

针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与其他各个醋染图像对应图像特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的M个元素特征距离,其中,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与其他各个醋染图像之间的第一特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第一特征距离进行求平均,得到醋染图像所对应的图像特征平均距离;

根据每个醋染图像的直方图特征,计算得到每个醋染图像所对应的直方图特征平均距离,具体可以包括:

针对于每个醋染图像,将醋染图像对应直方图特征中的每个元素特征,与其他各个醋染图像对应直方图特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的N个元素特征距离,其中,N为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的N个元素特征距离进行直方图距离计算,得到醋染图像与其他各个醋染图像之间的第二特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第二特征距离进行求平均,得到醋染图像所对应的直方图特征平均距离。

在一个或多个实施例中,介绍了一种计算图像特征平均距离和直方图特征平均距离的方式。由前述实施例可知,可基于P个醋染图像的图像特征,得到醋染图像与其他各个醋染图像之间的图像特征平均距离。可基于P个醋染图像的直方图特征,得到醋染图像与其他各个醋染图像之间的直方图特征平均距离。一种情况下,可将醋染图像所对应的图像特征平均距离和直方图特征平均距离加权求和的结果作为两者之间的类间特征距离。

具体地,两个图像特征之间的距离可定义为空间点距离。图像特征表示为一个M维的特征向量,即,一个图像特征包括M个元素特征。由此,可采用如下方式计算醋染图像所对应的图像特征平均距离:

其中,DisCNN

可见,对于第i个醋染图像而言,将第i个醋染图像对应图像特征中的第x个元素特征(即,F

直方图特征表示为一个N维的特征向量,即,一个直方图特征包括N个元素特征。由此,可采用如下方式计算醋染图像所对应的直方图特征平均距离:

其中,DisHIST

可见,对于第i个醋染图像而言,将第i个醋染图像对应直方图特征中的第x个元素特征(即,f

需要说明的是,每个醋染图像均采用上述方式计算得到其对应的图像特征平均距离和直方图特征平均距离,此处不做赘述。

进一步地,本申请实施例中,提供了一种计算图像特征平均距离和直方图特征平均距离的方式。通过上述方式,利用图像特征以及直方图特征可计算得到图像特征平均距离和直方图特征平均距离,由此,提升了方案的可行性和可操作性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,还可以包括:

对生理盐水图像进行灰度化处理,得到生理盐水灰度图像,其中,生理盐水灰度图像中的每个像素点对应于一个亮度值;

基于生理盐水图像所对应的生理盐水灰度图像,分别统计各个预设亮度值所对应的像素点个数;

根据生理盐水灰度图像针对于各个预设亮度值的像素点个数,构建生理盐水图像的直方图特征;

还可以包括:

针对每个醋染图像,对醋染图像进行灰度化处理,得到醋染灰度图像,其中,醋染灰度图像中的每个像素点对应于一个亮度值;

针对每个醋染图像,基于醋染灰度图像,分别统计各个预设亮度值所对应的像素点个数;

针对每个醋染图像,根据醋染灰度图像针对于各个预设亮度值的像素点个数,构建醋染图像的直方图特征。

在一个或多个实施例中,介绍了一种构建生物组织图像对应直方图特征的方式。由前述实施例可知,对于生理盐水图像和醋染图像,可分别计算其对应的直方图特征。

具体地,首先,需要对彩色图像(即,生理盐水图像以及醋染图像)进行灰度化,采用红绿蓝(red green blue,RGB)均值方式进行灰度化。基于此,可采用如下方式获取灰度图像(即,生理盐水灰度图像以及醋染灰度图像):

GrayImage(x,y)=floor{[Image

其中,GrayImage表示灰度图像(即,盐水灰度图像或醋染灰度图像)。x表示像素点横坐标。y表示像素点纵坐标。GrayImage(x,y)表示灰度图像中像素点的亮度值。Image表示彩色图像(即,生理盐水图像或醋染图像)。Image

基于此,可基于灰度图像(即,盐水灰度图像或醋染灰度图像),分别统计各个预设亮度值所对应的像素点个数。统计方式如下:

其中,f(i)表示第i个预设亮度值所对应的像素点个数。width表示灰度图像的宽度。x表示像素点横坐标。height表示灰度图像的高度。y表示像素点纵坐标。GrayImage(x,y)表示灰度图像中像素点的亮度值。

示例性地,假设f(0)=200,f(1)=0,f(2)=150,那么对应的直方图特征包括(200,0,150)。由此,可构建生理盐水图像的直方图特征以及各个醋染图像的直方图特征。

可以理解的是,以i∈[0,255]为例,其对应于256个预设亮度值。一种情况为,将256个预设亮度值均作为直方图特征中的元素特征,即,N=256。在实际应用中,还可以从256个预设亮度值选取N个预设亮度值作为直方图特征中的元素特征,例如,N=128等。

其次,本申请实施例中,提供了一种构建生物组织图像对应直方图特征的方式。通过上述方式,利用直方图特征能够直观地反映生物组织图像的亮度值分布情况,从而增加了特征的可解释性。

可选地,在上述图3对应的各个实施例的基础上,本申请实施例提供的另一个可选实施例中,调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果之后,还可以包括:

若图像检测结果用于指示目标醋染图像不存在活检区域,则通过操作界面显示失败提示消息,或者,向终端发送图像检测结果,以使终端显示失败提示消息;

若图像检测结果用于指示目标醋染图像存在活检区域,则通过操作界面显示目标醋染图像所包括的至少一个活检区域,或者,向终端发送图像检测结果,以使终端显示目标醋染图像所包括的至少一个活检区域。

在一个或多个实施例中,介绍了一种自动生成检测报告的方式。由前述实施例可知,如果图像检测结果用于指示目标醋染图像不存在活检区域,那么在终端提供的操作界面中显示失败提示消息,例如,“本次未检测到合格的图像”。如果图像检测结果用于指示目标醋染图像存在活检区域,那么在终端提供的操作界面中显示相应的活检区域。

具体地,为了便于理解,请参阅图9,图9为本申请实施例中基于图像检测结果显示检测报告的一个操作界面示意图,如图9中(A)图所示,在检测报告中显示患者的基本信息,包含但不仅限于姓名、年龄、身高、体重、检测时间和初步结论等。与此同时,在操作界面还显示目标醋染图像,并在目标醋染图像中显示出3个活检区域(即,白色圈出的区域)。当点击A1所指示的图像切换控件时,显示如图9中(B)图所示的操作界面,其在,该操作界面显示有自动识别出的的碘染图像。当点击A2所指示的图像切换控件时,可回切到图9中(A)图所示的操作界面。

需要说明的是,图9所示的操作界面仅为一个示意。且由于碘染图像并非检查过程中必须采集的图像,即,碘染图像的应用普适性不强。因此,也可能不显示如图9中(B)图所示的碘染图像。

其次,本申请实施例中,提供了一种自动生成检测报告的方式。通过上述方式,基于图像检测结果,可以帮助医生高效地检测出病变情况,以提供有效的病变区域。一方面,能够帮助缺乏高质量医疗资源的地区提高医疗水平,提高整体诊断准确度。另一方面,可以解决一定的医疗资源。由于本申请提供的方法可规范操作流程,因此,无需过度依赖于医生的个人能力。

结合上述实施例,为了便于理解,请参阅图10,图10为本申请实施例中生物组织图像检测方法的一个整体流程示意图,如图所示,步骤S1至S14可以参阅前述实施例,此处不做赘述。

下面对本申请中的生物组织图像检测装置进行详细描述,请参阅图11,图11为本申请实施例中生物组织图像检测装置的一个实施例示意图,生物组织图像检测装置30包括:

获取模块310,用于获取待识别的第一图像集合,其中,第一图像集合包括至少两个生物组织图像;

识别模块320,用于调用第一图像分类模型对第一图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的染色分类结果以及每个生物组织图像的图像特征,其中,染色分类结果用于表示生物组织图像所属的染色类型;

获取模块310,还用于根据每个生物组织图像的染色分类结果,从第一图像集合中获取生理盐水图像以及P个醋染图像,其中,生理盐水图像与醋染图像均属于生物组织图像,P为大于或等于1的整数;

确定模块330,用于根据生理盐水图像的图像特征以及每个醋染图像的图像特征,确定P个类间特征距离以及P个类内特征距离,其中,P个类间特征距离包括每个醋染图像与生理盐水图像之间的类间特征距离,P个类内特征距离包括每个醋染图像所对应的类内特征距离;

确定模块330,还用于根据P个类间特征距离以及P个类内特征距离,确定每个醋染图像所对应的综合特征距离,其中,综合特征距离用于表征醋染图像的差异显著程度;

确定模块330,还用于从每个醋染图像所对应的综合特征距离中获取最大综合特征距离,并将最大综合特征距离所对应的醋染图像作为目标醋染图像;

检测模块340,用于调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果,其中,图像检测结果用于确定目标醋染图像中的活检区域。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,引入了醋染图像的类内特征距离以及醋染图像与生理盐水图像类间特征距离,共同衡量醋染图像的差异显著程度,由此,可选择出差异最大的醋染图像作为疾病反应最大时刻的醋染图像,并将该醋染图像作为预测活检区域的目标醋染图像。上述方式充分考虑到不同患者之间病变区域反应时间的差异性,有利于提高活检区域预测的准确率和有效性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

获取模块310,具体用于待识别的第二图像集合,其中,第二图像集合包括至少两个生物组织图像;

调用第二图像分类模型对第二图像集合中的每个生物组织图像进行识别,得到每个生物组织图像的遮挡分类结果,其中,遮挡分类结果用于表示生物组织图像的被遮挡情况;

根据每个生物组织图像的遮挡分类结果,将第二图像集合中遮挡分类结果属于无遮挡类别的生物组织图像作为第一图像集合中的生物组织图像。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,能够自动把不符合活检区域预测输入的遮挡图像进行排除,避免将具有棉签或者其他器械遮挡的生物组织图像作为输入,从而有利于提升后续检测的准确性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,生物组织图像检测装置30还包括训练模块350;

获取模块310,还用于获取第一图像样本集合,其中,第一图像样本集合包括至少一个第一图像样本,每个第一图像样本对应于遮挡分类标签;

获取模块310,还用于针对于第一图像样本集合中的每个第一图像样本,基于第二图像分类模型获取每个第一图像样本所对应的遮挡概率分布;

获取模块310,还用于基于每个第一图像样本所对应的遮挡概率分布以及遮挡分类标签,计算得到第一损失值;

训练模块350,用于采用第一损失值对第二图像分类模型的模型参数进行更新。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,利用深度分类网络(即,第二图像分类模型)对标注好遮挡分类标签的样本集合进行训练。由此,能够对医生自主采集的生物组织图像进行遮挡情况的识别,达到自动化检测的目的。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

识别模块320,具体用于针对于第一图像集合中的每个生物组织图像,通过第一图像分类模型所包括的主干网络获取每个生物组织图像的图像特征;

针对于每个生物组织图像的图像特征,通过第一图像分类模型所包括的池化层获取每个生物组织图像的池化特征;

针对于每个生物组织图像的池化特征,通过第一图像分类模型所包括的全连接网络获取每个生物组织图像的染色概率分布;

根据每个生物组织图像的染色概率分布,确定每个生物组织图像的染色分类结果。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,利用第一图像分类模型不仅能够识别出生物组织图像的染色分类结果,还能够提取生物组织图像的图像特征,以学习得到生物组织图像的高维特征。由此,为后续的特征处理提供相应依据,从而提升方案的可行性和可操作性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

识别模块320,具体用于对每个生物组织图像的染色概率分布所包括的各个概率值进行大小比对,得到每个生物组织图像的染色概率分布中的最大概率值;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第一元素特征位置,则将生物组织图像的染色分类结果确定为无染色类别;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第二元素特征位置,则将生物组织图像的染色分类结果确定为生理盐水类别,其中,属于生理盐水类别的生物组织图像为生理盐水图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第三元素特征位置,则将生物组织图像的染色分类结果确定为醋染类别,其中,属于醋染类别的生物组织图像为醋染图像。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,基于第一图像分类模型输出的染色概率分布,可确定生物组织图像所属的染色类别。进而自动区分生理盐水图像、醋染图像和碘染图像,无需相关人员操作,从而节省人力成本。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

识别模块320,具体用于对每个生物组织图像的染色概率分布所包括的各个概率值进行大小比对,得到每个生物组织图像的染色概率分布中的最大概率值;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第一元素特征位置,则将生物组织图像的染色分类结果确定为无染色类别;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第二元素特征位置,则将生物组织图像的染色分类结果确定为生理盐水类别,其中,属于生理盐水类别的生物组织图像为生理盐水图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第三元素特征位置,则将生物组织图像的染色分类结果确定为醋染类别,其中,属于醋染类别的生物组织图像为醋染图像;

针对于每个生物组织图像,若生物组织图像的染色概率分布中最大概率值对应于第四元素特征位置,则将生物组织图像的染色分类结果确定为碘染类别,其中,属于碘染类别的生物组织图像为碘染图像。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,基于第一图像分类模型输出的染色概率分布,可确定生物组织图像所属的染色类别。进而自动区分生理盐水图像、醋染图像和碘染图像,无需相关人员操作,从而节省人力成本。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

获取模块310,还用于获取第二图像样本集合,其中,第二图像样本集合包括至少一个第二图像样本,每个第二图像样本对应于染色分类标签;

获取模块310,还用于针对于第二图像样本集合中的每个第二图像样本,基于第一图像分类模型获取每个第二图像样本所对应的染色概率分布;

获取模块310,还用于基于每个第二图像样本所对应的染色概率分布以及染色分类标签,计算得到第二损失值;

训练模块350,还用于采用第二损失值对第一图像分类模型的模型参数进行更新。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,利用深度分类网络(即,第一图像分类模型)对标注好染色分类标签的样本集合进行训练。由此,能够对医生自主采集的生物组织图像进行染色情况的识别,达到自动化检测的目的。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于对生理盐水图像的图像特征以及每个醋染图像的图像特征进行类间距离计算,得到每个醋染图像与生理盐水图像之间的类间特征距离;

对每个醋染图像的图像特征以及其他各个醋染图像对应图像特征进行类内距离计算,得到每个醋染图像所对应的类内特征距离,其中,其他各个醋染图像为P个醋染图像中除了醋染图像之外的剩余醋染图像;

确定模块330,具体用于针对于每个醋染图像,对醋染图像所对应的类间特征距离以及类内特征距离进行加权求和,得到醋染图像所对应的综合特征距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,对醋染图像的类间特征距离和类内特征距离进行加权求和,以得到其他各个醋染图像的综合特征距离。从而能够自动选择醋染图像中病灶最显现的图像作为用于活检区域预测的目标醋染图像。基于类内和类间的差异性对比,以加权的方式来衡量醋染图像病灶的显现性,可增加方案的鲁棒性和有效性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与生理盐水图像对应图像特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的M个元素特征距离,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与生理盐水图像之间的类间特征距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,由于图像特征属于高维特征,且,高维特征包含判别性的语义信息。因此,利用图像特征计算得到的类间特征距离,能够更好地识别出生理盐水图像和醋染图像之间的语义区别,从而提升对于不同类别图像差异性判别的准确度。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与其他各个醋染图像对应图像特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的M个元素特征距离,其中,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与其他各个醋染图像之间的第一特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第一特征距离进行求平均,得到醋染图像所对应的类内特征距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,由于图像特征属于高维特征,且,高维特征包含判别性的语义信息。因此,利用图像特征计算得到的类内特征距离,能够更好地识别出醋染图像和其他醋染图像之间的语义区别,从而提升对于相同类别图像差异性判别的准确度。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于对生理盐水图像的图像特征以及每个醋染图像的图像特征进行特征距离计算,得到每个醋染图像与所述生理盐水图像之间的图像特征距离;

对生理盐水图像的直方图特征以及每个醋染图像的直方图特征进行特征距离计算,得到每个醋染图像与生理盐水图像之间的直方图特征距离;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的图像特征距离,以及醋染图像与生理盐水图像之间的直方图特征距离进行加权求和,得到醋染图像与生理盐水图像之间的类间特征距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,图像特征属于高维特征,高维特征包含判别性的语义信息。直方图特征属于低维特征,低维特征的可解释性强。因此,利用图像特征和直方图特征共同计算得到的类间特征距离,能够对不同类别图像的差异性进行衡量,不仅兼顾了信息量和可解析性,还可以提高方案的鲁棒性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与生理盐水图像对应图像特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的M个元素特征距离,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与生理盐水图像之间的图像特征距离;

确定模块330,具体用于针对于每个醋染图像,将醋染图像对应直方图特征中的每个元素特征,与生理盐水图像对应直方图特征中相应位置的元素特征进行元素距离计算,得到醋染图像与生理盐水图像之间的N个元素特征距离,N为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与生理盐水图像之间的N个元素特征距离进行直方图距离计算,得到醋染图像与生理盐水图像之间的直方图特征距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,利用图像特征以及直方图特征可计算得到图像特征距离和直方图特征距离,由此,提升了方案的可行性和可操作性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于根据每个醋染图像的图像特征,计算得到每个醋染图像所对应的图像特征平均距离;

根据每个醋染图像的直方图特征,计算得到每个醋染图像所对应的直方图特征平均距离;

针对于每个醋染图像,对醋染图像所对应的图像特征平均距离,以及醋染图像所对应的直方图特征平均距离进行加权求和,得到醋染图像所对应的类内特征距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,图像特征属于高维特征,高维特征包含判别性的语义信息。直方图特征属于低维特征,低维特征的可解释性强。因此,利用图像特征和直方图特征共同计算得到的类内特征距离,能够对相同类别图像的差异性进行衡量,不仅兼顾了信息量和可解析性,还可以提高鲁棒性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,

确定模块330,具体用于针对于每个醋染图像,将醋染图像对应图像特征中的每个元素特征,与其他各个醋染图像对应图像特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的M个元素特征距离,其中,M为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的M个元素特征距离进行图像距离计算,得到醋染图像与其他各个醋染图像之间的第一特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第一特征距离进行求平均,得到醋染图像所对应的图像特征平均距离;

确定模块330,具体用于针对于每个醋染图像,将醋染图像对应直方图特征中的每个元素特征,与其他各个醋染图像对应直方图特征中相应位置的元素特征进行元素距离计算,得到每个醋染图像与其他各个醋染图像之间的N个元素特征距离,其中,N为大于或等于1的整数;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的N个元素特征距离进行直方图距离计算,得到醋染图像与其他各个醋染图像之间的第二特征距离;

针对于每个醋染图像,对醋染图像与其他各个醋染图像之间的第二特征距离进行求平均,得到醋染图像所对应的直方图特征平均距离。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,利用图像特征以及直方图特征可计算得到图像特征平均距离和直方图特征平均距离,由此,提升了方案的可行性和可操作性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,生物组织图像检测装置30还包括处理模块360;

处理模块360,用于对生理盐水图像进行灰度化处理,得到生理盐水灰度图像,其中,生理盐水灰度图像中的每个像素点对应于一个亮度值;

处理模块360,还用于基于生理盐水图像所对应的生理盐水灰度图像,分别统计各个预设亮度值所对应的像素点个数;

处理模块360,还用于根据生理盐水灰度图像针对于各个预设亮度值的像素点个数,构建生理盐水图像的直方图特征;

处理模块360,还用于针对每个醋染图像,对醋染图像进行灰度化处理,得到醋染灰度图像,其中,醋染灰度图像中的每个像素点对应于一个亮度值;

处理模块360,还用于针对每个醋染图像,基于醋染灰度图像,分别统计各个预设亮度值所对应的像素点个数;

处理模块360,还用于针对每个醋染图像,根据醋染灰度图像针对于各个预设亮度值的像素点个数,构建醋染图像的直方图特征。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,利用直方图特征能够直观地反映生物组织图像的亮度值分布情况,从而增加了特征的可解释性。

可选地,在上述图11所对应的实施例的基础上,本申请实施例提供的生物组织图像检测装置30的另一实施例中,生物组织图像检测装置30还包括显示模块370;

显示模块370,用于调用目标检测模型对目标醋染图像进行检测,得到目标醋染图像的图像检测结果之后,若图像检测结果用于指示目标醋染图像不存在活检区域,则通过操作界面显示失败提示消息,或者,向终端发送图像检测结果,以使终端显示失败提示消息;

显示模块370,还用于若图像检测结果用于指示目标醋染图像存在活检区域,则通过操作界面显示目标醋染图像所包括的至少一个活检区域,或者,向终端发送图像检测结果,以使终端显示目标醋染图像所包括的至少一个活检区域。

本申请实施例中,提供了一种生物组织图像检测装置。采用上述装置,基于图像检测结果,可以帮助医生高效地检测出病变情况,以提供有效的病变区域。一方面,能够帮助缺乏高质量医疗资源的地区提高医疗水平,提高整体诊断准确度。另一方面,可以解决一定的医疗资源。由于本申请提供的方法可规范操作流程,因此,无需过度依赖于医生的个人能力。

图12是本申请实施例提供的一种计算机设备结构示意图,该计算机设备400可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(centralprocessing units,CPU)422(例如,一个或一个以上处理器)和存储器432,一个或一个以上存储应用程序442或数据444的存储介质430(例如一个或一个以上海量存储设备)。其中,存储器432和存储介质430可以是短暂存储或持久存储。存储在存储介质430的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对计算机设备中的一系列指令操作。更进一步地,中央处理器422可以设置为与存储介质430通信,在计算机设备400上执行存储介质430中的一系列指令操作。

计算机设备400还可以包括一个或一个以上电源426,一个或一个以上有线或无线网络接口450,一个或一个以上输入输出接口458,和/或,一个或一个以上操作系统441,例如Windows Server

上述实施例中由计算机设备所执行的步骤可以基于该图12所示的计算机设备结构。

本申请实施例中还提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时,实现前述各个实施例描述方法的步骤。

本申请实施例中还提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时,实现前述各个实施例描述方法的步骤。

可以理解的是,在本申请的具体实施方式中,涉及到生物组织图像和患者信息等相关的数据,当本申请以上实施例运用到具体产品或技术中时,需要获得用户许可或者同意,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。

所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。

在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是服务器或终端设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储计算机程序的介质。

以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

技术分类

06120115637173