掌桥专利:专业的专利平台
掌桥专利
首页

图像处理方法、电子设备和计算机可读存储介质

文献发布时间:2024-04-18 19:58:26


图像处理方法、电子设备和计算机可读存储介质

技术领域

本申请涉及图像处理领域,具体而言,涉及一种图像处理方法、电子设备和计算机可读存储介质。

背景技术

目前,通常可以利用深度学习的预测模型,对待监测对象的目标部位的监测区域进行风险预测,但是,由于监测区域和其他区域距离较近,利用这种方法对监测区域进行风险预测的准确度低,导致无法准确的确定出监测区域是否存在风险。

针对上述的问题,目前尚未提出有效的解决方案。

发明内容

本申请实施例提供了一种图像处理方法、电子设备和计算机可读存储介质,以至少解决相关技术中确定监测区域是否存在风险的准确度低的技术问题。

根据本申请实施例的一个方面,提供了一种图像处理方法,包括:获取不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率。

根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:响应作用于操作界面上的输入指令,在操作界面上显示不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;响应作用于操作界面上的图像处理指令,在操作界面上显示监测区域的风险指标,其中,风险指标是基于多期图像的目标纹理特征和目标神经距离生成的,目标纹理特征是对多期图像进行纹理特征提取得到的,目标神经距离是基于多期图像中的监测区域和其他区域的位置关系确定的。

根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:在虚拟现实VR设备或增强现实AR设备的呈现画面上展示不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率;驱动VR设备或AR设备展示风险指标。

根据本申请实施例的另一方面,还提供了一种图像处理方法,包括:通过调用第一接口获取不同时间采集到的多期图像,其中,第一接口包括第一参数,第一参数的参数值为多期图像,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率;通过调用第二接口输出风险指标,其中,第二接口包括第二参数,第二参数的参数值为风险指标。

根据本申请实施例的另一方面,还提供了一种电子设备,包括:存储器,存储有可执行程序;处理器,用于运行程序,其中,程序运行时执行上述任意一项的方法。

根据本申请实施例的另一方面,还提供了一种计算机可读存储介质,计算机可读存储介质包括存储的可执行程序,其中,在可执行程序运行时控制计算机可读存储介质所在设备执行权利要求上述任意一项的方法。

在本申请实施例中,采用获取不同时间采集到的多期图像;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离;基于目标纹理特征和目标神经距离,生成监测区域的风险指标的方式,通过根据在不同时间采集到的多期图像中监测区域的目标纹理特征,以及监测区域与其他区域之间的目标神经距离,来生成监测区域的风险指标,使得监测区域的风险预测过程中,充分考虑了监测区域与其他区域之间的接触情况,从而提高了确定出的风险指标的准确度,进而解决了相关技术中确定监测区域是否存在风险的准确度低的技术问题。

容易注意到的是,上面的通用描述和后面的详细描述仅仅是为了对本申请进行举例和解释,并不构成对本申请的限定。

附图说明

此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:

图1是根据本申请实施例的一种图像处理方法的虚拟现实设备的硬件环境的示意图;

图2是根据本申请实施例的一种图像处理方法的计算环境的结构框图;

图3是根据本申请实施例1的一种图像处理方法的流程图;

图4是根据本申请实施例1的一种图像处理过程的示意图;

图5是根据本申请实施例1的一种图像处理结果的示意图;

图6是根据本申请实施例2的一种图像处理方法的流程图;

图7是根据本申请实施例3的图像处理方法的流程图;

图8是根据本申请实施例4的图像处理方法的流程图;

图9是根据本申请实施例5的一种图像处理装置的结构框图;

图10是根据本申请实施例6的一种图像处理装置的结构框图;

图11是根据本申请实施例7的一种图像处理装置的结构框图;

图12是根据本申请实施例8的一种图像处理装置的结构框图;

图13是根据本申请实施例9的一种电子设备的结构框图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。

需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

首先,在对本申请实施例进行描述的过程中出现的部分名词或术语适用于如下解释:

Mult i-phase CT:Mult i-phase Computed Tomography,多期电脑断层扫描,用于获取包含监测区域的多期图像。

PDAC:Pancreat ic ductal adenocarcinoma,胰腺导管腺癌,简称胰腺癌。

CNN:Convolut ional Neural Network,卷积神经网络。

神经距离:是指监测区域边界上的点,与监测区域附近的其他区域边界上的点之间的距离,可以用来评估监测区域与其他区域之间的关系。

纹理感知模型:可以用来将多期图像中的局部信息和全局信息相结合,改进多期图像中的纹理特征的提取。

实施例1

根据本申请实施例,提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本申请实施例的一种图像处理方法的虚拟现实设备的硬件环境的示意图。如图1所示,虚拟现实设备104与终端106相连接,终端106与服务器102通过网络进行连接,上述虚拟现实设备104并不限定于:虚拟现实头盔、虚拟现实眼镜、虚拟现实一体机等,上述终端104并不限定于PC、手机、平板电脑等,服务器102可以为媒体文件运营商对应的服务器,上述网络包括但不限于:广域网、城域网或局域网。

可选地,该实施例的虚拟现实设备104包括:存储器、处理器和传输装置。存储器用于存储应用程序,该应用程序可以用于执行:获取不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率,从而解决了相关技术中确定监测区域是否存在风险的准确度低的技术问题,达到了提高对监测区域是否存在风险进行监测时的准确度的目的。

该实施例的终端可以用于执行在虚拟现实(Virtual Real ity,简称为VR)设备或增强现实(Augmented Real ity,简称为AR)设备的呈现画面上展示在不同时间采集到的包含监测区域的多期图像、多期图像的目标纹理特征、多期图像中监测区域和其他区域的位置关系、监测区域的风险指标等信息,并向虚拟现实设备104发送显示指令,虚拟现实设备104在接收到显示指令之后在目标投放位置显示出来。

可选地,该实施例的虚拟现实设备104带有的眼球追踪的HMD(Head MountDisplay,头戴式显示器)头显与眼球追踪模块与上述实施例中的作用相同,也即,HMD头显中的屏幕,用于显示实时的画面,HMD中的眼球追踪模块,用于获取用户眼球的实时运动轨迹。该实施例的终端通过跟踪系统获取用户在真实三维空间的位置信息与运动信息,并计算出用户头部在虚拟三维空间中的三维坐标,以及用户在虚拟三维空间中的视野朝向。

图1示出的硬件结构框图,不仅可以作为上述AR/VR设备(或移动设备)的示例性框图,还可以作为上述服务器的示例性框图,一种可选实施例中,图2以框图示出了使用上述图1所示的AR/VR设备(或移动设备)作为计算环境201中计算节点的一种实施例。图2是根据本申请实施例的一种图像处理方法的计算环境的结构框图,如图2所示,计算环境201包括运行在分布式网络上的多个(图中采用210-1,210-2,…,来示出)计算节点(如服务器)。不同计算节点都包含本地处理和内存资源,终端用户202可以在计算环境201中远程运行应用程序或存储数据。应用程序可以作为计算环境201中的多个服务220-1,220-2,220-3和220-4进行提供,分别代表服务“A”,“D”,“E”和“H”。

终端用户202可以通过客户端上的web浏览器或其他软件应用程序提供和访问服务,在一些实施例中,可以将终端用户202的供应和/或请求提供给入口网关230。入口网关230可以包括一个相应的代理来处理针对服务(计算环境201中提供的一个或多个服务)的供应和/或请求。

服务是根据计算环境201支持的各种虚拟化技术来提供或部署的。在一些实施例中,可以根据基于虚拟机(Virtual Machine,VM)的虚拟化、基于容器的虚拟化和/或类似的方式提供服务。基于虚拟机的虚拟化可以是通过初始化虚拟机来模拟真实的计算机,在不直接接触任何实际硬件资源的情况下执行程序和应用程序。在虚拟机虚拟化机器的同时,根据基于容器的虚拟化,可以启动容器来虚拟化整个操作系统(Operat ing System,OS),以便多个工作负载可以在单个操作系统实例上运行。

在基于容器虚拟化的一个实施例中,服务的若干容器可以被组装成一个Pod(例如,Kubernetes Pod)。举例来说,如图2所示,服务220-2可以配备一个或多个Pod240-1,240-2,…,240-N(统称为Pod)。Pod可以包括代理245和一个或多个容器242-1,242-2,…,242-M(统称为容器)。Pod中一个或多个容器处理与服务的一个或多个相应功能相关的请求,代理245通常控制与服务相关的网络功能,如路由、负载均衡等。其他服务也可以配备类似的Pod。

在操作过程中,执行来自终端用户202的用户请求可能需要调用计算环境201中的一个或多个服务,执行一个服务的一个或多个功能需要调用另一个服务的一个或多个功能。如图2所示,服务“A”220-1从入口网关230接收终端用户202的用户请求,服务“A”220-1可以调用服务“D”220-2,服务“D”220-2可以请求服务“E”220-3执行一个或多个功能。

上述的计算环境可以是云计算环境,资源的分配由云服务提供上管理,允许功能的开发无需考虑实现、调整或扩展服务器。该计算环境允许开发人员在不构建或维护复杂基础设施的情况下执行响应事件的代码。服务可以被分割完成一组可以自动独立伸缩的功能,而不是扩展单个硬件设备来处理潜在的负载。

在上述运行环境下,本申请提供了如图3所示的图像处理方法。需要说明的是,该实施例的图像处理方法可以由图1所示实施例的移动终端执行。图3是根据本申请实施例1的一种图像处理方法的流程图。如图3所示,该方法可以包括如下步骤:

步骤S302,获取不同时间采集到的多期图像。

其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域。

上述监测对象可以是指体内的组织或者器官可能会出现病变的动物,例如人、猫、地鼠等动物。上述目标部位的监测区域可以是指该组织或器官上可能会发生病变的区域,例如胰腺上的肿瘤区域。上述多期图像可以是指对不同时间的监测区域进行图像采集,例如可以通过断层扫描或者磁共振成像的方式,对不同时间的监测区域进行扫描成像,以采集得到监测区域在不同时间的多期图像。

考虑到目标部位在发生病变时可能会经历较长的时间,而通过短时间内获取到的关于监测区域的单张或多张图像,可能无法准确的确定出该监测区域是否发生了病变,以及对应的病变情况,例如是否出现肿瘤,肿瘤病变趋势等情况,因此,在本实施例的一种可选方案中,为了能够准确的确定出目标部位的监测区域是否发生了病变,是否存在风险,例如出现肿瘤严重程度恶化、肿瘤区域扩散等情况,图像处理系统可以首先获取在不同时间采集到的,包含监测区域的上述多期图像,从而避免因单期图像所体现出的监测区域病变情况的局限性,导致出现确定出监测区域是否存在风险的准确度差的情况。

在本实施例的一种可选方案中,上述多期图像至少包括:非对比阶段的图像、早期发展阶段和当前阶段。以监测区域为胰腺癌区域为例,上述多期图像至少包括:非对比阶段的图像,胰腺阶段的图像和门静脉阶段的图像。

步骤S304,对多期图像进行纹理特征提取,得到多期图像的目标纹理特征。

上述目标纹理特征可以是对监测区域所呈现出的全局纹理特征和局部纹理特征进行融合,得到的纹理特征,其中,局部纹理特征可以是指监测区域的纹理特征,可以包括但不限于:监测区域的颜色、纹理、形状、边缘、角点等特征,全局纹理特征可以是指多期图像中整个图像的纹理特征,例如目标部位的纹理特征,目标部位外的区域的纹理特征等。

举例来说,若监测区域是PDAC区域,则对应的其他区域可以是胰腺周围的血管所处的区域,对应的局部纹理特征可以是指PDAC区域的颜色、纹理、形状、边缘、角点等特征,对应的全局纹理特征可以是指胰腺以及胰腺周围血管的颜色、纹理、形状、边缘、角点等特征。

在本实施例的一种可选方案中,考虑到根据监测区域所呈现出的图像效果,例如图像纹理,来判断监测区域是否存在风险的主要途径之一,因此,为了提高确定监测区域是否存在风险的准确度,图像处理系统可以在获取到不同时间的多期图像之后,可以对该多期图像进行纹理特征提取,确定出上述多期图像的目标纹理特征。

在本实施例的一种可选方案中,在对多期图像进行纹理特征提取,得到目标纹理特征时,考虑到在除了监测区域的目标部位和目标部位外的区域中,可能会存在较多的重要组织器官,例如在除PDAC区域的胰腺上和胰腺周围会存在较多重要的血管。这些重要组织器官可能会对监测区域的监测产生一定的影响,例如若血管的颜色与PDAC区域的颜色相接近,则可能会出现误判PDAC扩散的情况,同时考虑到监测区域在病变时也可能会对这些重要组织器官产生影响,例如PDAC区域可能会侵犯胰腺周围的血管,因此,为了保证确定监测区域是否存在风险的准确度,在对多期图像进行纹理特征提取时,除了仅根据监测区域所呈现出的纹理特征来对监测区域进行监测外,即提取监测区域的局部纹理特征,图像处理系统还可以对其他区域所呈现出的纹理来对监测区域进行监测,即提取全局纹理特征,然后再对局部纹理特征和全局纹理特征进行融合处理,以得到上述的目标纹理特征,从而保证根据目标纹理特征确定监测区域是否存在风险的准确度。

步骤S306,基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离。

其中,其他区域用于表征目标部位除监测区域之外的区域。

上述目标神经距离可以是指监测区域的表面与其他区域的表面之间的距离,例如若监测区域位PDAC区域时,则上述目标神经距离可以是指监测区域的边缘与胰腺周围血管之间的距离。

在本实施例的一种可选方案中,考虑到其他区域可能会对监测区域的预后预测的准确度产生影响,例如在胰腺周围会存在较多重要的血管,这些血管与PDAC区域较近,在切除PDAC区域时,可能会出现误切除,进而出现对患者产生负面影响的情况,因此,为了能够准确的对监测区域进行预后预测,除了直接利用前述目标纹理特征来确定监测区域是否存在风险外,还可以进一步的结合多期图像中监测区域和其他区域之间的距离,即上述目标神经距离,来确定监测区域是否存在风险,从而提高确定结果的准确度。

在本实施例的一种可选方案中,可以通过根据多期图像中监测区域和其他区域之间的位置关系,例如前述的监测区域和其他区域之间的相对位置、结构连接等信息,来确定不同图像对应的目标神经距离。

步骤S308,基于目标纹理特征和目标神经距离,生成监测区域的风险指标。

其中,风险指标用于表征监测区域存在风险的概率。

上述风险指标可以是指监测区域是否存在风险,以及存在风险的概率,一般的,可以将上述风险指标的范围确定为0-1,风险指标越大,代表监测区域越可能出现风险,监测区域发生的病变对待监测对象的负面影响越大。

在本实施例的一种可选方案中,可以根据上述确定出的目标纹理特征,以及目标神经距离,来确定上述监测区域的风险指标,例如若目标纹理特征表示监测区域的病变情况越严重,目标神经距离越短,则对应的风险指标越高。通过利用上述多期图像中监测区域对应的目标纹理特征和目标神经距离,图像处理系统可以快速的确定出监测区域的风险指标,无需再由工作人员对多期图像中监测区域所呈现出的纹理进行反复比对,同时避免了因监测区域在不同时间所呈现出的纹理特征的变化较小,而使得工作人员无法准确观察出监测区域的变化情况,进而减小了出现误判的情况,减小了工作人员的工作压力。

在本申请实施例中,采用获取不同时间采集到的多期图像;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离;基于目标纹理特征和目标神经距离,生成监测区域的风险指标的方式,通过根据在不同时间采集到的多期图像中监测区域的目标纹理特征,以及监测区域与其他区域之间的目标神经距离,来生成监测区域的风险指标,使得监测区域的风险预测过程中,充分考虑了监测区域与其他区域之间的接触情况,从而提高了确定出的风险指标的准确度,进而解决了相关技术中确定监测区域是否存在风险的准确度低的技术问题。

在本申请实施例中,对多期图像进行纹理特征提取,得到多期图像的目标纹理特征,包括:对图像进行特征提取,得到图像的初始纹理特征;利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征。

上述初始纹理特征可以是指对图像进行特征提取得到的,监测区域和其他区域各自的纹理特征,可以是图像的全局纹理特征,上述全局信息可以是指前述提到的监测区域和其他区域之间的信息,例如胰腺和胰腺周围血管之间的纹理信息,上述局部信息可以是指前述提到的监测区域自身的信息,例如PDAC区域的纹理信息。上述纹理感知模型可以是用于对初始纹理特征进行下采样,并利用注意力机制对下采样结果进行处理的模式,纹理感知模型至少包含CNN卷积神经网络和Transformer网络。

在本实施例的一种可选方案中,上述纹理感知模型的数量至少为1个,纹理感知模型的数量越多,得到的目标纹理特征的准确度越高,对应的确定监测区域是否存在风险的准确度越高,但是效率越低,因此,考虑到确定监测区域是否存在风险的效率,上述纹理感知模型的数量可以设置为3。

在本实施例的一种可选方案中,图像处理系统可以首先利用预设的特征提取模块,对多期图进行特征提取,确定出图像中监测区域的初始纹理特征,然后再利用至少一个上述的纹理感知模型,对该初始纹理特征进行下采样处理,得到初始纹理特征中上述的全局信息和局部信息,然后再利用注意力机制对该全局信息和局部信息进行处理,得到上述的目标纹理特征。需要说明的是,该得到目标纹理特征的过程是单个纹理感知模型所执行的过程,若在存在多个纹理感知模型,例如上述的纹理感知模型的数量设置位3,则需要将上一个纹理感知模型对应的目标纹理特征,作为下一个纹理感知模型的初始纹理特征,并多次循环执行该得到目标纹理特征的过程,从而提高最终得到的目标纹理特征的准确度。

在本实施例的一种可选方案中,用于提取初始纹理特征的特征提取模块至少包括:依次连接的5×5×5的卷积层和3×3×3的卷积层。

在本申请实施例中,利用至少一个纹理感知模型块对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征;利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征。

上述卷积神经网络模块可以是用于从初始纹理特征中捕获得到局部信息,例如多期图像中监测区域的局部纹理特征的模块,上述自注意力模块可以是捕捉不同局部纹理特征之间的依赖性,得到目标纹理特征的模块,可以实现将局部信息和全局信息进行融合的目的。

在本实施例的一种可选方案中,在利用至少一个纹理感知模块对初始纹理特征进行处理,得到目标纹理特征的过程中,图像处理系统可以首先利用纹理感知模型中的卷积神经网络模块,对前述提取到的初始纹理特征进行下采样,得到图像的局部纹理特征,然后再利用纹理感知模块中的自注意力模块,对该局部纹理特征进行自注意力处理,从而得到上述的目标纹理特征。

在本申请实施例中,利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征,包括:利用卷积神经网络模块中的第一卷积层,捕获初始纹理特征中的第一局部信息;利用卷积神经网络模块中的第二卷积层,将第一局部信息映射至预设空间,得到第一映射纹理特征;利用卷积神经网络模块中的第三卷积层,将映射纹理特征还原至初始纹理特征对应的原始空间,得到还原纹理特征;利用卷积神经网络模块中的归一化层,对还原纹理特征进行归一化处理,得到局部纹理特征。

上述预设空间的维度大于上述原始空间的维度。上述卷积神经网络模块中的第一卷积层可以是指用于从初始纹理特征中捕获监测区域和其他区域各自的第一局部信息,例如监测区域和其他区域各自的纹理信息的卷积层,可以是3×3×3的结构,第二卷积层可以是指用于将捕捉得到的第一局部信息映射至高维的预设空间中,以得到能够编码的隐藏特征的卷积层,可以是1×1×1的结构,第三卷积层可以是指用于将编码后的隐藏特征进行还原,得到还原后的纹理特征的卷积层,归一化层可以是用于对还原后的纹理特征进行归一化处理,得到精度较高的局部纹理特征的卷积层。

在本实施例的一种可选方案中,在利用卷积神经网络对初始纹理特征进行下采样,得到局部纹理特征的过程中,为了保证得到的局部纹理特征的精度,图像处理系统可以首先利用卷积神经网络模块中的第一卷积层,从初始纹理特征中捕获得到上述的监测区域和其他区域各自的局部信息,即上述第一局部信息,为了提高捕获第一局部信息的效率,在捕获第一局部信息时,可以将初始多期图像的初始纹理特征划分为多个图像块,然后再根据多个图像块,从对应的初始纹理特征中捕获对应的第一局部信息。

在捕获到第一局部信息之后,图像处理系统可以再利用卷积神经网络模块中的第二卷积层,将该第一局部信息映射编码至高维的预设空间中,得到对应的隐藏特征,即上述的第一映射纹理特征,以映射前的第一局部信息为F

在得到第一映射纹理特征之后,图像处理系统可以再利用卷积神经网络模块中的第三卷积层,将该第一映射纹理特征还原至第一局部信息所处的还原空间中,以得到还原后的纹理特征,即上述的还原纹理特征,最后再利用卷积神经网络模块中的归一化层,对该还原纹理特征进行归一化处理,从而得到上述的精度较高的局部纹理特征。

在本申请实施例中,利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征,包括:利用自注意力模块中的第一卷积层,捕获局部纹理特征中的第二局部信息;利用自注意力模块中的第二卷积层,将第二局部信息映射至预设空间,得到第二映射纹理特征;利用自注意力模块中的自注意力层,对第二映射纹理特征进行自注意力处理,得到自注意力纹理特征;利用自注意力模块中的前馈层,对自注意力纹理特征进行特征交互,得到交互纹理特征;利用自注意力模块中的移除层,对交互纹理特征进行特征融合,得到目标纹理特征。

与前述卷积神经网络模块中的第一卷积层和第二卷积层相类似,自注意力模块中的第一卷积层可以是用于从局部纹理特征中捕获得到第二局部信息,例如其他区域的纹理信息的卷积层,可以是3×3×3的结构,该第二局部信息可以是初始纹理特征的局部信息,第二卷积层可以是用于将第二局部信息映射至高维的预设空间中,以得到能够编码的隐藏特征的卷积层,可以是1×1×1的结构。上述自注意力层可以是用于对隐藏特征进行自注意力处理,以得到能够表现不同隐藏特征之间的依赖关系的自注意力纹理特征,上述前馈层可以是用于对自注意力纹理特征进行交互处理,得到可视化、可解释的交互纹理特征,上述移除层可以是用于对交互纹理特征进行删除、融合,以得到精度更高的目标纹理特征的卷积层。

在本实施例的一种可选方案中,在利用自注意力模块对局部纹理特征进行处理,得到目标纹理特征的过程中,为了提高得到的目标纹理特征的精度,图像处理系统可以首先利用上述自注意力模块中的第一卷积层,从前述经过归一化处理的局部纹理特征中,捕获得到监测区域和其他区域各自的局部信息,即上述第二局部信息,接着再利用自注意力模块中的第二卷积层,将该第二局部信息编码映射至高维的预设空间中,得到对应的隐藏特征,即上述的第二映射纹理特征,然后再利用自注意力模块中的自注意力层,对该第二映射纹理特征进行自注意力处理,从而得到对应的自注意力纹理特征,最后再利用自注意力模块中的前馈层,对自注意力纹理特征进行交互处理,从而得到能够直观的表现出方便对自注意力纹理特征进行理解的交互纹理特征,并利用自注意力模块中的移除层对该交互纹理特征进行进一步的删除和融合的操作,从而得到精度更高的目标纹理特征。

在本申请实施例中,利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到图像的输出纹理特征;对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征;将多期图像的输出纹理特征和交叉注意力特征进行拼接,得到目标纹理特征。

上述输出纹理特征可以是指对前述的预设空间中的隐藏特征,即第二映射纹理特征进行划分,并经过前述的自注意力层和前馈层对划分后的隐藏特征进行处理后输出的特征,即交互纹理特征。在本实施例的一种可选方案中,可以按照预设的高度、宽度和深度,将第二映射纹理特征划分为多个非重叠的3D(3-dimensional,三维)特征块,从而得到该输出纹理特征。

在本实施例的一种可选方案中,该划分出的多个非重叠的3D特征块,可以与前述的图像块相同,3D特征块的表现形式可以是F

上述交叉注意力特征可以是指从多期图像各自的输出纹理特征中提取出交叉模态信息,并利用额外掩码对该交叉模态信息进行处理,得到的注意力特征,其中,额外掩码的表现形式可以是M∈{0,-∞}

F

其中,F

在本实施例的一种可选方案中,在确定目标纹理特征时,图像处理系统还可以利用上述的至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息,进行融合处理,从而得到上述的输出纹理特征,然后从多期图像各自的输出纹理特征中,提取出多个图像各自的交叉模态信息,并对该交叉模态信息进行交叉注意力处理,从而得到上述的交叉注意力特征,最后再将该输出纹理特征和交叉注意力特征进行拼接,例如在将输出纹理特征和交叉注意力特征进行串联后,利用预设的评价汇集层对串联后的特征进行拼接处理,从而得到上述的目标纹理特征。

在本申请实施例中,对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征,包括:利用交叉注意力模块对不同期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征。

在本实施例的一种可选方案中,可以利用预设的交叉注意力模块从不同期的图像的输出纹理特征中,提取出各自的交叉模态信息,并利用该交叉模态信息对输出纹理特征进行交叉注意力处理,以得到上述的交叉注意力特征。

在本申请实施例中,基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,包括:对图像进行图像分割,得到图像的分割结果,其中,分割结果至少包括:监测区域和其他区域;基于分割结果,确定位于监测区域边界的第一点集合,以及位于其他区域边界的第二点集合;确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合;对第一子集合和第二子集合进行交叉注意力处理,得到目标神经距离。

上述第一点集合可以是指对监测区域的边界进行采样得到的点集合,上述第二点集合可以是指对其他区域的边界进行采样得到的点集合。

在本实施例的一种可选方案中,在确定监测区域和其他区域之间的目标神经距离时,图像处理系统可以首先利用预设的图像分割模块,例如nnUet模型(一种图像分割模型),对图像进行图像分割处理,从而得到图像中的监测区域和其他区域各自的边界,其中,其他区域中可以包括多种不同类型的血管,例如门静脉和脾静脉、肠系膜上动脉、肠系膜上静脉、以及腹腔真管等血管。在得到分割结果之后,图像处理系统可以从分割结果中的监测区域的边界上,确定出上述的第一点集合,并从其他区域的边界,例如上述血管上,确定出上述的第二点集合。

以X表示监测区域的边界上的点,Y表示其他区域的边界,例如上述血管上的点,对应的从监测区域的边界到其他区域的边界的距离可以表示为:

/>

然后,图像处理系统按照预设条件,从第一点集合中确定出第一子集合,并从第二点集合中确定出第二子集合,其中,预设条件可以是指从点集合中确定出预设数量的多个距离对应对方边界最近的点,例如从上述距离

在本申请实施例中,确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合,包括:对第一点集合进行采样,得到第一采样点集合,并对第二点集合进行采样,得到第二采样点集合;确定第一采样点集合中,距离第二采样点集合最近的预设数量的第一采样点,得到第一子集合;确定第二采样点集合中,距离第一采样点集合最近的预设数量的第二采样点,得到第二子集合。

在本实施例的一种可选方案中,在确定第一子集合和第二子集合的过程中,可以首先对第一点集合进行进一步的采样,得到对应的第一采样点集合,并对第二点集合进行进一步的采样,得到对应的第二采样点集合,然后从第一采样点集合中,确定出预设数量的距离第二采样点集合最近的多个第一采样点,从而构建出上述的第一子集合,同时从第二采样点集合中,确定出预设数量的距离第一采样点集合最近的多个第二采样点,从而构建出上述的第二子集合。

其中,K代表的是第一子集合中点的个数。

第二子集合可以表示为:

根据第一子集合中的采样点,以及第二子集合中的采样点,得到的目标神经距离可以表示为:

在本申请实施例中,基于目标纹理特征和目标神经距离,生成监测区域的风险指标,包括:对多期图像中监测区域和其他区域的结构关系进行提取,得到多期图像的结构特征;将目标纹理特征、目标神经距离和结构特征进行拼接,得到拼接特征;基于拼接特征,生成风险指标。

在本实施例的一种可选方案中,在利用目标纹理特征和目标神经距离,生成监测区域的风险指标的过程中,为了保证生成的风险指标的准确度,图像处理系统可以首先利用预设的结构分析模型,例如3D-CNN模型,对多期图像中监测区域和其他区域之间的结构关系进行提取,从而得到多期图像的结构特征,例如监测区域与其他区域中血管之间的连接关系,然后再将该结构特征和前述得到的目标纹理特征、目标神经距离进行拼接处理,得到上述的拼接特征,最后再利用全连接层,根据该拼接特征生成上述的风险指标。

在本实施例的一种可选方案中,在利用全连接层和拼接特征预测生成上述的风险指标时,可以通过似然估计的方式,作为风险损失,来对风险指标进行调整,从而提高最终输出的风险指标的准确度。

为了方便理解上述对多期图像进行图像处理,以得到对应的风险指标的过程,图4是根据本申请实施例1的一种图像处理过程的示意图,其中,1代表的是不同时间采集到的多期图像,以胰腺癌为例,11代表的是非对比阶段的图像,12代表的是胰腺阶段的图像,13代表的是门静脉阶段的图像,2代表的是对多期图像进行特征提取,得到目标纹理特征的过程,21代表的是用于提取初始纹理特征的特征提取模块,22代表的是用于得到目标纹理特征的纹理感知模型,221代表的是卷积神经网络模块,222代表的是自注意力模块,23代表的是输出层特征,24代表的是交叉注意力特征,Block1、2、3代表的是纹理感知模型,Block4代表的是交叉处理模块,Block7代表的是自注意力层,Block8代表的是前馈层,Block9代表的是移除层,3代表的是用于确定目标神经距离的距离确定模块,31代表的是对多期图像进行图像分割的图像分割结果,32代表的是多期图像的结构特征,33代表的是用于获取第一子集合和第二子集合的子集合确定模块,34代表的是目标神经距离,Block5代表的是结构提取模块,Block6代表的是目标神经距离确定模块,4代表的是根据目标神经距离、目标纹理和特征和结构特征进行拼接得到的拼接特征,5代表的是根据拼接特征预测得到的风险指标。按照图4给出的箭头所示的处理方向,对多期图像进行处理,能够提高预测生成的风险指标的准确度。

在本申请实施例中,还提供了一种胰腺癌的预后预测方法,该方法包括:获取不同时间采集到的多期医学图像,其中,多期医学图像的显示内容至少包含胰腺癌的肿瘤和血管;对多期医学图像进行纹理特征提取,得到多期医学图像的目标纹理特征;基于多期医学图像中的肿瘤和血管的位置关系,确定多期医学图像的目标神经距离;基于目标纹理特征和目标神经距离,确定胰腺癌的存活结果。

上述胰腺癌是当前致死率较高的癌症,上述多期医学图像可以是指包含胰腺癌病变区域,即包含胰腺癌肿瘤和血管区域的,在不同时间采集到的图像,上述胰腺癌的肿瘤区域与前述的监测区域对应,上述血管区域与前述的其他区域对应。

在本实施例的一种可选方案中,由于胰腺癌的致死率较高,能够准确的预测出胰腺癌的存活结果,对于患者或者医护人员来说均是十分重要的治疗信息,因此,为了提高预测出的胰腺癌的存活结果的准确度,预后预测系统需要首先获取不同时间采集到的,包含胰腺癌的肿瘤和血管区域的多期医学图像,然后再对多期医学图像进行纹理特征提取,从而得到多期医学图像的目标纹理特征,同时根据多期医学图像中肿瘤和血管之间的位置关系,来确定出多期医学图像各自的目标神经距离,最后再根据该目标纹理特征和目标神经距离,来确定出胰腺癌的存活结果。

为了证明上述过程的可行性,在本申请中对多为PDAC患者进行了多中心研究,一下为研究过程和研究结果:

具体的,选取了1070位PDAC患者,将这些患者分为两大组,第一大组包括892位患者,在中心A中进行患病情况比对的研究,第二大组包括178位患者,使用额外的3个中心,中心B、中心C和中心D,进行独立测试研究,在研究过程中使用到的多期医学图像分别是非对比阶段、胰腺阶段和门静脉阶段的CT图像。在中心A中,为了提高比对效果,从892位患者中选取340位患者,并由多位具有18年胰腺癌诊断经验的放射科医生,对这178位患者的多期医学图像的PDAC掩模进行手动标记,得到对比图像,然后使用具有自学习能力的模型对其余患者的多期医学图像的PDAC掩模进行预测,并由相同的注释员,即上述多为放射科医生,对该自学习模型进行检查和调整,以保证自学习模型的预测结果的准确度。对于其他中心的独立测试研究,也采用相同的模型,例如半监督产生其他容器掩模分割模型,来单独的对其他患者的多期医学图像的PDAC掩模进行分割,

除此以外,在实施研究的过程中,为了提高研究结果的准确度,还使用了嵌套式5倍交叉验证,并通过在轴向方向上旋转体积肿瘤和随机选择具有随机位移的裁剪区域来增强训练数据,并且为了提高预测的效率,对于纹理感知模型,将输出特征尺寸设置Ct=64,对于结构提取模型,将输出特征尺寸设置为Cs=64,对于神经距离,将输出特征尺寸设置为K=32,将批次大小设置为16,将最大迭代被设置为1000个时期,并且在用于测试的训练期间,根据对验证集合的训练结果,选择具有较佳性能的模型。选取环境选取PyTorch1.11并在单个NVIDIA32G-V100GPU上训练模型。

研究过程:首先,通过将纹理感知模型(TAT)与ResNet18CNN主干和ViT变压器主干比较,来评估构建出的纹理感知模型(TAT)的性能,评估结果为纹理感知模型在对胰腺的局部信息和全局信息进行处理时,处理效果更好。同时通过将交叉注意力模块和常见的方法,例如LSTM、早期融合等方法进行比较,来评估交叉注意力模块的性能,评估结果为交叉注意力模块对同相特征部和交叉相特征部的处理结果,比其他方法的处理结果更合理。其次,对图4示出的图像处理方法的各部分进行评估,评估结果可以如下表1所示。

表1

表1是上述多个部分对应的评估结果,其中,C指数代表的是风险指标。

从表1中可以看出,利用纹理感知模型和结构提取模型,能够将风险指标从0.630改进至0.648,与肿瘤侵入会严重影响PDAC患者的存活率相符。此外,为了验证临床发现的风险指标与神经距离有关,还使用了仅使用肿瘤和四个血管的斜切距离,即目标神经距离用于预后预测的4-变量回归模型,来验证神经距离与存活率之间的关系,该关系可以由表1中倒数第三行的C指数0.611得到证实,即神经距离与风险指标具有一定的相关性,其与临床发现一致,这意味着添加测量神经距离这一步,能够有效的改善预测得到的风险指标的准确度,本申请提出的神经距离度量执行传统的表面距离度量,如斜切距离,能够有效的适用于区分PDAC的严重性,即确定风险指标。

比较:为了进一步评估构建的模型的性能,可以将构建的模型与最新的深度预测方法进行比较,具体的比较结果如下表2所示。

表2

从表2可以看出,与现有的多种预测方法,例如3DCNN-P模型、早期融合方法、DeepCT-PDAC模型相比,本申请的C指数和AUC指数(Area Under Curve,ROC曲线线下面积)的预测结果与患病情况更贴近。

为了提高模型的性能,本申请修改了基线深度学习模型,并采用单个胰腺阶段或前述的所有三个阶段作为输入,来构建网络架构。目前,DeepCT-PDAC是使用3DCNN考虑肿瘤相关和肿瘤-血管关系的最新方法,与该方法相比,本申请提出的使用纹理感知模型和结构提取模型来捕获肿瘤增江模式和肿瘤血管参与,证明了在嵌套式5倍交叉验证和多入口独立测试集中,具有更好的性能的有效性,

表3

表3是使用单变量和多变量Cox比例风险模型,来评估本申请的目标纹理特征和其他独立测试组中的临床病理学因子的有效性。如表3所示,风险分层和其他因素,例如病理性TNM阶段,是影响预后预测准确度的重要影响因素。在单变量分析中,选择显著变量(p<0.05)之后,在调整重要的预后标志物如pT(HR=2.438,p<0.0001)和切除边缘(HR=1.681,p=0.091)之后,本申请提出的分期在多变量分析(HR=1.847,p=0.027)中保持强。值得注意的是,本申请提出的标记在所有手术前标记中保持最强,如肿瘤尺寸和CA19-9。

为了证明选取目标纹理特征和目标神经距离作为手术前的新辅助治疗的工具的有效性,图5是根据本申请实施例1的一种不同分组下生存曲线的示意图,如图5所示,其中,图5展示了在不同分组下患者的生存曲线,具体分组分别是:A是不分组情况下的风险指标曲线,B为根据肿瘤大小进行分组、C为根据CA19-9的值进行分组、D为同时根据肿瘤大小和CA19-9的值进行分组、E和F为根据患者年龄进行分组。通过图5可以得出,具有高风险、病情较严重的患者,更需要利用本申请的目标纹理特征和目标神经距离作为新辅助治疗的工作。

需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准,并提供有相应的操作入口,供用户选择授权或者拒绝。

需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本申请各个实施例的方法。

实施例2

根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图6是根据本申请实施例2的一种图像处理方法的流程图,如图6所示,该方法可以包括如下步骤:

步骤S602,响应作用于操作界面上的输入指令,在操作界面上显示不同时间采集到的多期图像。

其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域。

上述输入指令可以是指在预设的操作界面中显示多期图像的指令,上述监测对象可以是指体内的组织或者器官可能会出现病变的动物,例如人、猫、地鼠等动物。上述目标部位的监测区域可以是指该可能会发生病变的组织或器官对应的区域,例如肿瘤区域。上述多期图像可以是指对不同时间的监测区域进行图像采集,例如可以通过断层扫描或者磁共振成像的方式,对不同时间的监测区域进行扫描成像,以采集得到监测区域在不同时间的多期图像。

在本实施例的一种可选方案中,在接收到输入指令之后,图像处理相同可以在预设的操作界面中,显示在不同时间采集到的多期图像。

步骤S604,响应作用于操作界面上的图像处理指令,在操作界面上显示监测区域的风险指标。

其中,风险指标是基于多期图像的目标纹理特征和目标神经距离生成的,目标纹理特征是对多期图像进行纹理特征提取得到的,目标神经距离是基于多期图像中的监测区域和其他区域的位置关系确定的。

上述目标神经距离可以是指监测区域的表面与其他区域的表面之间的距离,例如监测区域与其他区域中血管表面的距离。

在本实施例的一种可选方案中,在接收到图像处理指令之后,图像处理系统可以对多期图像进行纹理特征提取,以获得多期图像的目标纹理特征,并根据多期图像中监测区域和其他区域的位置关系,确定出监测区域和其他区域之间的目标神经距离,然后再根据该目标纹理特征和目标神经距离,确定出监测区域的风险指标,确定监测区域多期是否存在风险。

需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。

实施例3

根据本申请实施例,还提供了一种可以应用于虚拟现实VR设备、增强现实AR设备等虚拟现实场景下的图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图7是根据本申请实施例3的图像处理方法的流程图。如图7所示,该方法可以包括如下步骤:

步骤S702,在虚拟现实VR设备或增强现实AR设备的呈现画面上展示不同时间采集到的多期图像。

其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域。

上述监测对象可以是指体内的组织或者器官可能会出现病变的动物,例如人、猫、地鼠等动物。上述目标部位的监测区域可以是指该可能会发生病变的组织或器官对应的区域,例如肿瘤区域。上述多期图像可以是指对不同时间的监测区域进行图像采集,例如可以通过断层扫描或者磁共振成像的方式,对不同时间的监测区域进行扫描成像,以采集得到监测区域在不同时间的多期图像。

在本实施例的一种可选方案中,为了使确定出的风险指标更准确,可以通过虚拟现实VR设备或增强现实AR设备,获取在不同时间采集到的,包含监测区域的上述多期图像。

步骤S704,对多期图像进行纹理特征提取,得到多期图像的目标纹理特征。

上述目标纹理特征可以是对监测区域所呈现出的全局纹理特征和局部纹理特征进行融合,得到的纹理特征,其中,局部纹理特征可以是指监测区域的纹理特征,可以包括但不限于:监测区域的颜色、纹理、形状、边缘、角点等特征,全局纹理特征可以是指多期图像整体区域以外的其他区域的纹理特征,例如目标部位的纹理特征,目标部位外的区域的纹理特征等。

在本实施例的一种可选方案中,考虑到根据监测区域所呈现出的图像效果,例如图像纹理,来判断监测区域是否存在风险的主要途径之一,因此,为了提高确定监测区域是否存在风险的准确度,图像处理系统可以在获取到不同时间的多期图像之后,可以对该多期图像进行纹理特征提取,确定出上述多期图像的目标纹理特征。

在本实施例的一种可选方案中,在对多期图像进行纹理特征提取,得到目标纹理特征时,考虑到在除了监测区域的目标部位和目标部位外的区域中,可能会存在较多的重要组织器官,例如在除PDAC区域的胰腺上和胰腺周围会存在较多重要的血管。这些重要组织器官可能会对监测区域的监测产生一定的影响,例如若血管的颜色与PDAC区域的颜色相接近,则可能会出现误判PDAC扩散的情况,同时考虑到监测区域在病变时也可能会对这些重要组织器官产生影响,例如PDAC区域可能会侵犯胰腺周围的血管,因此,为了保证确定监测区域是否存在风险的准确度,在对多期图像进行纹理特征提取时,除了仅根据监测区域所呈现出的纹理特征来对监测区域进行监测外,即提取监测区域的局部纹理特征,图像处理系统还可以对其他区域所呈现出的纹理来对监测区域进行监测,即提取全局纹理特征,然后再对局部纹理特征和全局纹理特征进行融合处理,以得到上述的目标纹理特征,从而保证根据目标纹理特征确定监测区域是否存在风险的准确度。

步骤S706,基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离。

其中,其他区域用于表征目标部位除监测区域之外的区域。

在本实施例的一种可选方案中,除了直接利用前述目标纹理特征来确定监测区域是否存在风险外,还可以进一步的结合多期图像中监测区域和其他区域之间的距离,即上述目标神经距离,来确定监测区域是否存在风险,从而提高确定结果的准确度。

在本实施例的一种可选方案中,可以通过根据多期图像中监测区域和其他区域之间的位置关系,例如前述的监测区域和其他区域之间的相对位置、结构连接等信息,来确定不同图像对应的目标神经距离。

步骤S708,基于目标纹理特征和目标神经距离,生成监测区域的风险指标。

其中,风险指标用于表征监测区域存在风险的概率。

在本实施例的一种可选方案中,考虑到其他区域可能会对监测区域的预后预测的准确度产生影响,例如在胰腺周围会存在较多重要的血管,这些血管与PDAC区域较近,在切除PDAC区域时,可能会出现误切除,进而出现对患者产生负面影响的情况,因此,为了能够准确的对监测区域进行预后预测,除了直接利用前述目标纹理特征来确定监测区域是否存在风险外,还可以进一步的结合多期图像中监测区域和其他区域之间的距离,即上述目标神经距离,来确定监测区域是否存在风险,从而提高确定结果的准确度。

在本实施例的一种可选方案中,可以通过根据多期图像中监测区域和其他区域之间的位置关系,例如前述的监测区域和其他区域之间的相对位置、结构连接等信息,来确定不同图像对应的目标神经距离。

步骤S710,驱动VR设备或AR设备展示风险指标。

在本实施例的一种可选方案中,可以驱动VR设备或AR设备,向用户展示确定出的风险指标,以使工作人员能够更直观的监测区域对应的风险指标。

可选地,在本实施例中,上述图像处理方法可以应用于由服务器、虚拟现实设备所构成的硬件环境中。在虚拟现实VR设备或增强现实AR设备的呈现画面上展示多期图像、多期图像的目标纹理特征、目标神经距离和风险指标,服务器可以为媒体文件运营商对应的服务器,上述网络包括但不限于:广域网、城域网或局域网,上述虚拟现实设备并不限定于:虚拟现实头盔、虚拟现实眼镜、虚拟现实一体机等。

可选地,虚拟现实设备包括:存储器、处理器和传输装置。存储器用于存储应用程序,该应用程序可以用于执行:对多期图像进行纹理特征提取,得到多期图像的目标纹理特征,包括:对图像进行特征提取,得到图像的初始纹理特征;利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征。

在本申请实施例中,该应用程序还用于执行:利用至少一个纹理感知模型块对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征;利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征。

在本申请实施例中,该应用程序还用于执行:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征,包括:利用卷积神经网络模块中的第一卷积层,捕获初始纹理特征中的第一局部信息;利用卷积神经网络模块中的第二卷积层,将第一局部信息映射至预设空间,得到第一映射纹理特征;利用卷积神经网络模块中的第三卷积层,将映射纹理特征还原至初始纹理特征对应的原始空间,得到还原纹理特征;利用卷积神经网络模块中的归一化层,对还原纹理特征进行归一化处理,得到局部纹理特征。

在本申请实施例中,该应用程序还用于执行:利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征,包括:利用自注意力模块中的第一卷积层,捕获局部纹理特征中的第二局部信息;利用自注意力模块中的第二卷积层,将第二局部信息映射至预设空间,得到第二映射纹理特征;利用自注意力模块中的自注意力层,对第二映射纹理特征进行自注意力处理,得到自注意力纹理特征;利用自注意力模块中的前馈层,对自注意力纹理特征进行特征交互,得到交互纹理特征;利用自注意力模块中的移除层,对交互纹理特征进行特征融合,得到目标纹理特征。

在本申请实施例中,该应用程序还用于执行:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到图像的输出纹理特征;对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征;将多期图像的输出纹理特征和交叉注意力特征进行拼接,得到目标纹理特征。

在本申请实施例中,该应用程序还用于执行:对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征,包括:利用交叉注意力模块对不同期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征。

在本申请实施例中,该应用程序还用于执行:基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,包括:对图像进行图像分割,得到图像的分割结果,其中,分割结果至少包括:监测区域和其他区域;基于分割结果,确定位于监测区域边界的第一点集合,以及位于其他区域边界的第二点集合;确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合;对第一子集合和第二子集合进行交叉注意力处理,得到目标神经距离。

在本申请实施例中,该应用程序还用于执行:确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合,包括:对第一点集合进行采样,得到第一采样点集合,并对第二点集合进行采样,得到第二采样点集合;确定第一采样点集合中,距离第二采样点集合最近的预设数量的第一采样点,得到第一子集合;确定第二采样点集合中,距离第一采样点集合最近的预设数量的第二采样点,得到第二子集合。

在本申请实施例中,该应用程序还用于执行:基于目标纹理特征和目标神经距离,生成监测区域的风险指标,包括:对多期图像中监测区域和其他区域的结构关系进行提取,得到多期图像的结构特征;将目标纹理特征、目标神经距离和结构特征进行拼接,得到拼接特征;基于拼接特征,生成风险指标。

需要说明的是,该实施例的上述应用在VR设备或AR设备中的图像处理方法可以包括图3所示实施例的方法,以实现驱动VR设备或AR设备展示多期图像、目标纹理特征、目标数据距离和风险指标的目的。

可选地,该实施例的处理器可以通过传输装置调用上述存储器存储的应用程序以执行上述步骤。传输装置可以通过网络接收服务器发送的媒体文件,也可以用于上述处理器与存储器之间的数据传输。

可选地,在虚拟现实设备中,带有眼球追踪的头戴式显示器,该HMD头显中的屏幕,用于显示展示的视频画面,HMD中的眼球追踪模块,用于获取用户眼球的实时运动轨迹,跟踪系统,用于追踪用户在真实三维空间的位置信息与运动信息,计算处理单元,用于从跟踪系统中获取用户的实时位置与运动信息,并计算出用户头部在虚拟三维空间中的三维坐标,以及用户在虚拟三维空间中的视野朝向等。

在本申请实施例中,虚拟现实设备可以与终端相连接,终端与服务器通过网络进行连接,上述虚拟现实设备并不限定于:虚拟现实头盔、虚拟现实眼镜、虚拟现实一体机等,上述终端并不限定于PC、手机、平板电脑等,服务器可以为媒体文件运营商对应的服务器,上述网络包括但不限于:广域网、城域网或局域网。

需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。

实施例4

根据本申请实施例,还提供了一种图像处理方法,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

图8是根据本申请实施例4的图像处理方法的流程图,如图8所示,该方法可以包括如下步骤:

步骤S802,通过调用第一接口获取不同时间采集到的多期图像。

其中,第一接口包括第一参数,第一参数的参数值为多期图像,多期图像的显示内容至少包含待监测对象的目标部位的监测区域。

上述监测对象可以是指体内的组织或者器官可能会出现病变的动物,例如人、猫、地鼠等动物。上述目标部位的监测区域可以是指该可能会发生病变的组织或器官对应的区域,例如肿瘤区域。上述多期图像可以是指对不同时间的监测区域进行图像采集,例如可以通过断层扫描或者磁共振成像的方式,对不同时间的监测区域进行扫描成像,以采集得到监测区域在不同时间的多期图像。

在本实施例的一种可选方案中,为了使确定出的风险指标更准确,图像处理系统可以通过调用第一接口,获取在不同时间采集到的,包含监测区域的上述多期图像。

步骤S804,对多期图像进行纹理特征提取,得到多期图像的目标纹理特征。

在本实施例的一种可选方案中,考虑到根据监测区域所呈现出的图像效果,例如图像纹理,来判断监测区域是否存在风险的主要途径之一,因此,为了提高确定监测区域是否存在风险的准确度,图像处理系统可以在获取到不同时间的多期图像之后,可以对该多期图像进行纹理特征提取,确定出上述多期图像的目标纹理特征。

步骤S806,基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离。

其中,其他区域用于表征目标部位除监测区域之外的区域。

在本实施例的一种可选方案中,除了直接利用前述目标纹理特征来确定监测区域是否存在风险外,还可以进一步的结合多期图像中监测区域和其他区域之间的距离,即上述目标神经距离,来确定监测区域是否存在风险,从而提高确定结果的准确度。

步骤S808,基于目标纹理特征和目标神经距离,生成监测区域的风险指标。

其中,风险指标用于表征监测区域存在风险的概率。

在本实施例的一种可选方案中,考虑到其他区域可能会对监测区域的预后预测的准确度产生影响,例如在胰腺周围会存在较多重要的血管,这些血管与PDAC区域较近,在切除PDAC区域时,可能会出现误切除,进而出现对患者产生负面影响的情况,因此,为了能够准确的对监测区域进行预后预测,除了直接利用前述目标纹理特征来确定监测区域是否存在风险外,还可以进一步的结合多期图像中监测区域和其他区域之间的距离,即上述目标神经距离,来确定监测区域是否存在风险,从而提高确定结果的准确度。

步骤S810,通过调用第二接口输出风险指标,其中,第二接口包括第二参数,第二参数的参数值为风险指标。

在本实施例的一种可选方案中,可以通过调用第二接口输出确定出的风险指标,以使工作人员能够更直观的监测区域对应的风险指标。

实施例5

根据本申请实施例,还提供了一种用于实施上述图像处理方法的装置,该装置可以部署在目标客户端中。图9是根据本申请实施例5的一种图像处理装置的结构框图,如图9所示,该装置900包括:获取模块902,提取模块904,确定模块906和生成模块908。

其中,获取模块902用于获取不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;提取模块904用于对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;确定模块906用于基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;生成模块908用于基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率。

在本申请上述实施例中,提取模块904包括:提取单元,用于对图像进行特征提取,得到图像的初始纹理特征;融合单元,用于利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征。

在本申请实施例中,融合单元还用于:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征;利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征。

在本申请实施例中,融合单元还用于:利用卷积神经网络模块中的第一卷积层,捕获初始纹理特征中的第一局部信息;利用卷积神经网络模块中的第二卷积层,将第一局部信息映射至预设空间,得到第一映射纹理特征;利用卷积神经网络模块中的第三卷积层,将映射纹理特征还原至初始纹理特征对应的原始空间,得到还原纹理特征;利用卷积神经网络模块中的归一化层,对还原纹理特征进行归一化处理,得到局部纹理特征。

在本申请实施例中,融合单元还用于:利用自注意力模块中的第一卷积层,捕获局部纹理特征中的第二局部信息;利用自注意力模块中的第二卷积层,将第二局部信息映射至预设空间,得到第二映射纹理特征;利用自注意力模块中的自注意力层,对第二映射纹理特征进行自注意力处理,得到自注意力纹理特征;利用自注意力模块中的前馈层,对自注意力纹理特征进行特征交互,得到交互纹理特征;利用自注意力模块中的移除层,对交互纹理特征进行特征融合,得到目标纹理特征。

在本申请实施例中,融合单元还用于:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到图像的输出纹理特征;对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征;将多期图像的输出纹理特征和交叉注意力特征进行拼接,得到目标纹理特征。

在本申请实施例中,融合单元还用于:用交叉注意力模块对不同期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征。

在本申请实施例中,确定模块906包括:分割单元,用于对图像进行图像分割,得到图像的分割结果,其中,分割结果至少包括:监测区域和其他区域;第一确定单元,用于基于分割结果,确定位于监测区域边界的第一点集合,以及位于其他区域边界的第二点集合;第二确定单元,用于确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合;距离确定单元,用于对第一子集合和第二子集合进行交叉注意力处理,得到目标神经距离。

在本申请实施例中,第二确定单元还用于:对第一点集合进行采样,得到第一采样点集合,并对第二点集合进行采样,得到第二采样点集合;确定第一采样点集合中,距离第二采样点集合最近的预设数量的第一采样点,得到第一子集合;确定第二采样点集合中,距离第一采样点集合最近的预设数量的第二采样点,得到第二子集合。

在本申请实施例中,生成模块908包括:结构关系提取单元,用于对多期图像中监测区域和其他区域的结构关系进行提取,得到多期图像的结构特征;特征拼接单元,用于将目标纹理特征、目标神经距离和结构特征进行拼接,得到拼接特征;指示生成单元,用于基于拼接特征,生成风险指标。

此处需要说明的是,上述的获取模块902,提取模块904,确定模块906和生成模块908,对应于实施例1中的步骤S302至步骤S308,四个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块或单元可以是存储在存储器中并由一个或多个处理器处理的硬件组件或软件组件,上述模块也可以作为装置的一部分可以运行在实施例1提供的AR/VR设备中。

需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。

实施例6

根据本申请实施例,还提供了一种用于实施上述图像处理方法的装置,该装置可以部署在目标客户端中。图10是根据本申请实施例6的一种图像处理装置的结构框图,如图10所示,该装置1000包括:第一显示模块1002和第二显示模块1004。

其中,第一显示模块1002用于响应作用于操作界面上的输入指令,在操作界面上显示不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域,第二显示模块1004用于响应作用于操作界面上的图像处理指令,在操作界面上显示监测区域的风险指标,其中,风险指标是基于多期图像的目标纹理特征和目标神经距离生成的,目标纹理特征是对多期图像进行纹理特征提取得到的,目标神经距离是基于多期图像中的监测区域和其他区域的位置关系确定的。

此处需要说明的是,上述的第一显示模块1002和第二显示模块1004,对应于实施例2中的步骤S602至步骤S604,两个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块或单元可以是存储在存储器中并由一个或多个处理器处理的硬件组件或软件组件,上述模块也可以作为装置的一部分可以运行在实施例1提供的AR/VR设备中。

需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。

实施例7

根据本申请实施例,还提供了一种用于实施上述图像处理方法的装置,该装置可以部署在目标客户端中。图11是根据本申请实施例7的一种图像处理装置的结构框图,如图11所示,该装置1100包括:第一展示模块1102、提取模块1104,确定模块1106、生成模块1108和第二展示模块1110。

其中,第一展示模块1102用于在虚拟现实VR设备或增强现实AR设备的呈现画面上展示不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域,提取模块1104用于对多期图像进行纹理特征提取,得到多期图像的目标纹理特征,确定模块1106用于基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域,生成模块1108用于基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率,第二展示模块1110用于驱动VR设备或AR设备展示风险指标。

此处需要说明的是,上述的第一展示模块1102、提取模块1104,确定模块1106、生成模块1108和第二展示模块1110,对应于实施例3中的步骤S702至步骤S710,五个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块或单元可以是存储在存储器中并由一个或多个处理器处理的硬件组件或软件组件,上述模块也可以作为装置的一部分可以运行在实施例1提供的AR/VR设备中。

需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。

实施例8

根据本申请实施例,还提供了一种用于实施上述图像处理方法的装置,该装置可以部署在目标客户端中。图12是根据本申请实施例8的一种图像处理装置的结构框图,如图12所示,该装置1200包括:获取模块1202,提取模块1204,确定模块1206、生成模块1208和输出模块1210。

其中,获取模块1202用于通过调用第一接口获取不同时间采集到的多期图像,其中,第一接口包括第一参数,第一参数的参数值为多期图像,多期图像的显示内容至少包含待监测对象的目标部位的监测区域,提取模块1204用于对多期图像进行纹理特征提取,得到多期图像的目标纹理特征,确定模块1206用于基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域、生成模块1208用于基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率、输出模块1210用于通过调用第二接口输出风险指标,其中,第二接口包括第二参数,第二参数的参数值为风险指标。

此处需要说明的是,上述的获取模块1202,提取模块1204,确定模块1206、生成模块1208和输出模块1210,对应于实施例4中的步骤S802至步骤S810,五个模块与对应的步骤所实现的实例和应用场景相同,但不限于上述实施例1所公开的内容。需要说明的是,上述模块或单元可以是存储在存储器中并由一个或多个处理器处理的硬件组件或软件组件,上述模块也可以作为装置的一部分可以运行在实施例1提供的AR/VR设备中。

需要说明的是,本申请上述实施例中涉及到的优选实施方案与实施例1提供的方案以及应用场景、实施过程相同,但不仅限于实施例1所提供的方案。

实施例9

本申请的实施例可以提供一种电子设备,该电子设备可以是电子设备群中的任意一个电子设备。可选地,在本实施例中,上述电子设备也可以替换为移动终端等终端设备。

可选地,在本实施例中,上述电子设备可以位于计算机网格的多个网格设备中的至少一个网格设备。

在本实施例中,上述电子设备可以执行图像分割方法中以下步骤的程序代码:获取不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率。

可选地,图13是根据本申请实施例9的一种电子设备的结构框图。如图所示,该电子设备A可以包括:处理器1302和存储器1304,其中,存储有可执行程序;处理器,用于运行程序,其中,程序运行时执行实施例1中所示的图像处理方法。

可选地,如图13所示,在电子设备A中还可以包括:存储控制器和外设接口,其中,外设接口与射频模块、音频模块和显示器连接。

其中,存储器可用于存储软件程序以及模块,如本申请实施例中的图像处理方法和装置对应的程序指令/模块,处理器通过运行存储在存储器内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的图像分割方法。存储器可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器可进一步包括相对于处理器远程设置的存储器,这些远程存储器可以通过网格连接至终端A。上述网格的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:对图像进行特征提取,得到图像的初始纹理特征;利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:利用至少一个纹理感知模型块对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征;利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征,包括:利用卷积神经网络模块中的第一卷积层,捕获初始纹理特征中的第一局部信息;利用卷积神经网络模块中的第二卷积层,将第一局部信息映射至预设空间,得到第一映射纹理特征;利用卷积神经网络模块中的第三卷积层,将映射纹理特征还原至初始纹理特征对应的原始空间,得到还原纹理特征;利用卷积神经网络模块中的归一化层,对还原纹理特征进行归一化处理,得到局部纹理特征。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征,包括:利用自注意力模块中的第一卷积层,捕获局部纹理特征中的第二局部信息;利用自注意力模块中的第二卷积层,将第二局部信息映射至预设空间,得到第二映射纹理特征;利用自注意力模块中的自注意力层,对第二映射纹理特征进行自注意力处理,得到自注意力纹理特征;利用自注意力模块中的前馈层,对自注意力纹理特征进行特征交互,得到交互纹理特征;利用自注意力模块中的移除层,对交互纹理特征进行特征融合,得到目标纹理特征。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到图像的输出纹理特征;对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征;将多期图像的输出纹理特征和交叉注意力特征进行拼接,得到目标纹理特征。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征,包括:利用交叉注意力模块对不同期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,包括:对图像进行图像分割,得到图像的分割结果,其中,分割结果至少包括:监测区域和其他区域;基于分割结果,确定位于监测区域边界的第一点集合,以及位于其他区域边界的第二点集合;确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合;对第一子集合和第二子集合进行交叉注意力处理,得到目标神经距离。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合,包括:对第一点集合进行采样,得到第一采样点集合,并对第二点集合进行采样,得到第二采样点集合;确定第一采样点集合中,距离第二采样点集合最近的预设数量的第一采样点,得到第一子集合;确定第二采样点集合中,距离第一采样点集合最近的预设数量的第二采样点,得到第二子集合。

处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:基于目标纹理特征和目标神经距离,生成监测区域的风险指标,包括:对多期图像中监测区域和其他区域的结构关系进行提取,得到多期图像的结构特征;将目标纹理特征、目标神经距离和结构特征进行拼接,得到拼接特征;基于拼接特征,生成风险指标。

在本申请实施例中,采用获取不同时间采集到的多期图像;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离;基于目标纹理特征和目标神经距离,生成监测区域的风险指标的方式,通过根据在不同时间采集到的多期图像中监测区域的目标纹理特征,以及监测区域与其他区域之间的目标神经距离,来生成监测区域的风险指标,使得监测区域的风险预测过程中,充分考虑了监测区域与其他区域之间的接触情况,从而提高了确定出的风险指标的准确度,进而解决了相关技术中确定监测区域是否存在风险的准确度低的技术问题。

本领域普通技术人员可以理解,图13所示的结构仅为示意,计算机终端也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌上电脑以及移动互联网设备(Mobi leInternet Devices,MID)、PAD等终端设备。图13其并不对上述电子装置的结构造成限定。例如,计算机终端A还可包括比图13中所示更多或者更少的组件(如网格接口、显示装置等),或者具有与图13所示不同的配置。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(RandomAccess Memory,RAM)、磁盘或光盘等。

实施例10

本申请的实施例还提供了一种计算机可读存储介质。可选地,在本实施例中,上述存储介质可以用于保存上述实施例1所提供的图像分割方法所执行的程序代码。

在本实施例中,上述存储介质可以位于计算机网格中计算机终端群中的任意一个计算机终端中,或者位于移动终端群中的任意一个移动终端中。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:获取不同时间采集到的多期图像,其中,多期图像的显示内容至少包含待监测对象的目标部位的监测区域;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,其中,其他区域用于表征目标部位除监测区域之外的区域;基于目标纹理特征和目标神经距离,生成监测区域的风险指标,其中,风险指标用于表征监测区域存在风险的概率。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:对图像进行特征提取,得到图像的初始纹理特征;利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:利用至少一个纹理感知模型块对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征;利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:利用纹理感知模型中的卷积神经网络模块,对初始纹理特征进行下采样,图像的局部纹理特征,包括:利用卷积神经网络模块中的第一卷积层,捕获初始纹理特征中的第一局部信息;利用卷积神经网络模块中的第二卷积层,将第一局部信息映射至预设空间,得到第一映射纹理特征;利用卷积神经网络模块中的第三卷积层,将映射纹理特征还原至初始纹理特征对应的原始空间,得到还原纹理特征;利用卷积神经网络模块中的归一化层,对还原纹理特征进行归一化处理,得到局部纹理特征。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:利用纹理感知模型中的自注意力模块,对局部纹理特征进行注意力处理,得到图像的目标纹理特征,包括:利用自注意力模块中的第一卷积层,捕获局部纹理特征中的第二局部信息;利用自注意力模块中的第二卷积层,将第二局部信息映射至预设空间,得到第二映射纹理特征;利用自注意力模块中的自注意力层,对第二映射纹理特征进行自注意力处理,得到自注意力纹理特征;利用自注意力模块中的前馈层,对自注意力纹理特征进行特征交互,得到交互纹理特征;利用自注意力模块中的移除层,对交互纹理特征进行特征融合,得到目标纹理特征。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到目标纹理特征,包括:利用至少一个纹理感知模型对初始纹理特征中的全局信息和局部信息进行融合,得到图像的输出纹理特征;对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征;将多期图像的输出纹理特征和交叉注意力特征进行拼接,得到目标纹理特征。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:对多期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征,包括:利用交叉注意力模块对不同期图像的输出纹理特征进行交叉注意力处理,得到交叉注意力特征。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离,包括:对图像进行图像分割,得到图像的分割结果,其中,分割结果至少包括:监测区域和其他区域;基于分割结果,确定位于监测区域边界的第一点集合,以及位于其他区域边界的第二点集合;确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合;对第一子集合和第二子集合进行交叉注意力处理,得到目标神经距离。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:确定第一点集合中满足预设条件的第一子集合,以及第二点集合中满足预设条件的第二子集合,包括:对第一点集合进行采样,得到第一采样点集合,并对第二点集合进行采样,得到第二采样点集合;确定第一采样点集合中,距离第二采样点集合最近的预设数量的第一采样点,得到第一子集合;确定第二采样点集合中,距离第一采样点集合最近的预设数量的第二采样点,得到第二子集合。

在本申请实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:基于目标纹理特征和目标神经距离,生成监测区域的风险指标,包括:对多期图像中监测区域和其他区域的结构关系进行提取,得到多期图像的结构特征;将目标纹理特征、目标神经距离和结构特征进行拼接,得到拼接特征;基于拼接特征,生成风险指标。

在本申请实施例中,采用获取不同时间采集到的多期图像;对多期图像进行纹理特征提取,得到多期图像的目标纹理特征;基于多期图像中的监测区域和其他区域的位置关系,确定多期图像的目标神经距离;基于目标纹理特征和目标神经距离,生成监测区域的风险指标的方式,通过根据在不同时间采集到的多期图像中监测区域的目标纹理特征,以及监测区域与其他区域之间的目标神经距离,来生成监测区域的风险指标,使得监测区域的风险预测过程中,充分考虑了监测区域与其他区域之间的接触情况,从而提高了确定出的风险指标的准确度,进而解决了相关技术中确定监测区域是否存在风险的准确度低的技术问题。

上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。

在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。

相关技术
  • 图像处理方法和装置、电子设备、计算机可读存储介质
  • 图像处理方法、装置、电子设备及计算机可读存储介质
  • 图像处理方法和装置、电子设备、计算机可读存储介质
  • 图像处理方法和装置、电子设备、计算机可读存储介质
  • 图像处理方法和装置、电子设备、计算机可读存储介质
  • 图像处理方法、图像处理装置、电子设备和计算机可读存储介质
  • 图像处理方法、图像处理装置、电子设备和计算机可读存储介质
技术分类

06120116489335