掌桥专利:专业的专利平台
掌桥专利
首页

一种急性肾损伤预警方法及系统

文献发布时间:2024-04-18 20:01:23


一种急性肾损伤预警方法及系统

技术领域

本发明涉及人工智能领域,尤其是涉及一种急性肾损伤预警方法及系统。

背景技术

急性肾损伤(Acute Kidney Injury,AKI)是指肾功能急剧下降,导致尿素和其他含氮废物潴留以及细胞外液容量和电解质失调,导致肾脏无法正常排除体内废物和维持电解质平衡的一种疾病。对急性肾损伤的预警具有重要意义,因为早期诊断和干预有助于减少患者的病情恶化和并发症的风险。AKI可能与多种原因相关,包括感染、药物中毒、低血容量、手术并发症等,因此及早发现并处理可能有助于防止肾功能的严重受损。对于医疗专业人员和患者来说,预警AKI的迹象和症状非常重要,以便及早采取必要的治疗措施,从而减少AKI患者的死亡率和并发症。对于急性肾损伤的判断通常是根据一些指标数据,例如尿量、血肌酐水平等,但是这些指标具有滞后性,如果发现这些指标异常再进行干预,则效果有限,且这些指标过于单一,床旁肾脏超声指标对于确定是否发生AKI具有较高的敏感度和特异度,而且其变化早于常规的肾功能指标。但是现有技术中没有一种能够有效的结合床旁肾脏超声图像以及肾功能指标的方法对急性肾损伤进行预警,采用已有模型进行预测的效果又不佳。

发明内容

针对现有技术中,没有能够结合肾脏超声图像尤其是床旁肾脏超声图像和常用的肾脏损伤指标对急性肾损伤进行预警的方法,本发明提供了一种急性肾损伤预警方法,所述方法包括以下步骤:

获取肾功能指标数据以及用户数据并放入第一集合中;获取床旁即时超声仪拍摄的左右两侧肾脏彩超图像,并将左侧肾脏以及右侧肾脏对应的收缩期峰流速PSV、舒张末期流速EDV放入第二集合中;

将所述彩超图像分割为多个图像块并对图像块编码,将图像块编码结果、第一集合对应的元素编码结果、第二集合对应的元素编码结果分别输入到三个相同结构的编码器中,对每个编码器的输出结果附加三个分类标识向量后分别输入到下一层的编码器中;将下一层的编码器的输出中第二、三个分类标识向量替换为另外两个下一层编码器输出中第一分类标识向量,直到最后一层编码器;

根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,并根据所述急性肾损伤等级向用户发出预警信息。

优选地,所述根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,具体为:

将图像对应的最后一层编码器输出的三个分类标识向量记为第一向量集,将第一集合对应的最后一层编码器输出的三个分类标识向量向记为第二向量集,将第二集合对应的最后一层编码器输出的三个分类标识向量记为第三向量集;

将第一向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S1、S2;将第二向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S3、S4;将第三向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S5、S6;

将S1、S2、S3、S4、S5、S6输入到MLP中得到急性肾损伤等级。

优选地,所述对每个编码器的输出结果附加三个分类标识向量,具体为:

获取编码器的输出结果对应的矩阵,所述矩阵大小为M×N;在所述矩阵的第一行前添加三行向量使得所述矩阵的大小为(M+3)×N,添加的三行向量分为记为第一个分类标识向量、第二个分类标识向量、第三个分类标识向量;其中,M、N为正整数。

优选地,所述将所述彩超图像分割为多个图像块并对图像块编码,具体为:

将左侧肾脏彩超图像和右侧肾脏彩超图像转换为相同大小,并将左侧肾脏彩超图像和右侧肾脏彩超图像按照同样的大小分割为多个图像块,得到左侧肾脏彩超图像的图像块序列H1和右侧肾脏彩超图像的图像块序列H2,若H1中的图像块的序号和H2中图像块的序号满足预设关系且两个图像块的相似度大于阈值,则删除H1中的图像块和/或H2中的图像块;

对序号进行编码得到位置编码,根据所述位置编码和图像块编码将H1中剩余的图像块和H2中剩余的图像块进行编码得到图像块编码结果。

优选地,所述编码器包括多头注意力层、LN层、Feed Forward层和残差连接层,编码器的输出为:O=LayerNorm(A+FeedForward(A)),其中A=LayerNorm(X+MultiHeadAttention(X)),X表示编码器的输入。

此外,本发明提供了一种急性肾损伤预警系统,所述系统包括以下单元:

信息获取单元,用于获取肾功能指标数据以及用户数据并放入第一集合中;获取床旁即时超声仪拍摄的左右两侧肾脏彩超图像,并将左侧肾脏以及右侧肾脏对应的收缩期峰流速PSV、舒张末期流速EDV放入第二集合中;

编码单元,用于将所述彩超图像分割为多个图像块并对图像块编码,将图像块编码结果、第一集合对应的元素编码结果、第二集合对应的元素编码结果分别输入到三个相同结构的编码器中,对每个编码器的输出结果附加三个分类标识向量后分别输入到下一层的编码器中;将下一层的编码器的输出中第二、三个分类标识向量替换为另外两个下一层编码器输出中第一分类标识向量,直到最后一层编码器;

解码单元,用于根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,并根据所述急性肾损伤等级向用户发出预警信息。

优选地,所述根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,具体为:

将图像对应的最后一层编码器输出的三个分类标识向量记为第一向量集,将第一集合对应的最后一层编码器输出的三个分类标识向量向记为第二向量集,将第二集合对应的最后一层编码器输出的三个分类标识向量记为第三向量集;

将第一向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S1、S2;将第二向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S3、S4;将第三向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S5、S6;

将S1、S2、S3、S4、S5、S6输入到MLP中得到急性肾损伤等级。

优选地,所述对每个编码器的输出结果附加三个分类标识向量,具体为:

获取编码器的输出结果对应的矩阵,所述矩阵大小为M×N;在所述矩阵的第一行前添加三行向量使得所述矩阵的大小为(M+3)×N,添加的三行向量分为记为第一个分类标识向量、第二个分类标识向量、第三个分类标识向量;其中,M、N为正整数。

优选地,所述将所述彩超图像分割为多个图像块并对图像块编码,具体为:

将左侧肾脏彩超图像和右侧肾脏彩超图像转换为相同大小,并将左侧肾脏彩超图像和右侧肾脏彩超图像按照同样的大小分割为多个图像块,得到左侧肾脏彩超图像的图像块序列H1和右侧肾脏彩超图像的图像块序列H2,若H1中的图像块的序号和H2中图像块的序号满足预设关系且两个图像块的相似度大于阈值,则删除H1中的图像块和/或H2中的图像块;

对序号进行编码得到位置编码,根据所述位置编码和图像块编码将H1中剩余的图像块和H2中剩余的图像块进行编码得到图像块编码结果。

所述编码器包括多头注意力层、LN层、Feed Forward层和残差连接层,编码器的输出为:O=LayerNorm(A+FeedForward(A)),其中A=LayerNorm(X+MultiHeadAttention(X)),X表示编码器的输入。

最后,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序在被处理器执行时,实现如上所述的方法。

现有技术中对于急性肾损伤的判断大多是基于血肌酐水平和尿量,这些指标具有滞后性,对于早期判断急性肾损伤的效果有限,彩超尤其是床旁即时彩超越来越称为医生判断急性肾损伤的重要依据,但是现有的方法大多是靠医生人工进行判断,人工判断带有很大的主观性,基于此,本发明提出了一种急性肾损伤预警方法及系统,利用人工智能中多模态的方式对急性肾损伤进行预警,而且结合患者的其他数据,判断的结果更加准确。本发明相对于现有技术的主要贡献在于:1)将肾脏彩超图像和其他指标数据结合用以对急性肾损伤进行预警;2)提出了一种多模态的中期特征融合方式;3)对左右侧的肾脏彩超图像进行处理降低图像的数据处理量,提高训练和预测速度。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。

图1为实施例一的流程图;

图2为编码单元结构示意图;

图3为解码单元结构示意图;

图4为第二实施例的结构图。

具体实施方式

在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

实施例一,本发明提供了一种急性肾损伤预警方法,如图1所示,所述方法包括以下步骤:

步骤一,获取肾功能指标数据以及用户数据并放入第一集合中;获取床旁即时超声仪拍摄的左右两侧肾脏彩超图像,并将左侧肾脏以及右侧肾脏对应的收缩期峰流速PSV、舒张末期流速EDV放入第二集合中;

急性肾损伤发现越早,干预越早,最后的效果也越好,但是仅仅依靠血肌酐水平或者尿量判断具有滞后性,而且有些肾损伤仅靠血肌酐水平无法确定,例如肾小管上皮细胞损伤等。在本发明中,依靠三个方面的指标进行判断,第一个方面为肾功能指标数据和用户数据,第二个方面为左右两侧肾脏彩超图像,第三个方面为肾脏的收缩期峰流速(PeakSystolic Flow Velocity,PSV)和舒张末期流速(End Diastolic Flow Velocity,EDV)。在一个更为具体的实施例中,肾功能指标包括血肌酐和尿量,用户数据包括用户年龄、体重等信息,其中肾功能指标数据和用户数据可以通过电子病例获取,PSV和EDV可以通过彩超仪获取。

肾脏彩超图像包括两种图像,分别为左侧拍摄的肾脏超声图像和右侧拍摄的肾脏超声图像,对应的PSV也有两个,EDV也有两个,分别对应左侧的超声检查和右侧的超声检查。

步骤二,将所述彩超图像分割为多个图像块并对图像块编码,将图像块编码结果、第一集合对应的元素编码结果、第二集合对应的元素编码结果分别输入到三个相同结构的编码器中,对每个编码器的输出结果附加三个分类标识向量后分别输入到下一层的编码器中;将下一层的编码器的输出中第二、三个分类标识向量替换为另外两个下一层编码器输出中第一分类标识向量,直到最后一层编码器;

彩超图像和文本信息属于两种模态的信息形式,这需要利用多模态方法对彩超图像和文本信息进行识别,然后将信息进行融合,信息融合的方法有多种,有早期融合、中期融合、晚期融合,本发明采用中期融合和晚期融合结合的方式。具体地,首先对彩超图像进行分割,分割为多个图像块patch,结合patch的位置对patch进行编码,然后将编码结果输入到编码器中。在一个更为具体的实施例中,编码器采用Transformer Encoder层,在一个具体实施例中,对图像的编码过程和ViT模型中编码的过程相同。所述编码器包括多头注意力层、LN层、Feed Forward层和残差连接层,编码器的输出为:O=LayerNorm(A+FeedForward(A)),其中A=LayerNorm(X+MultiHeadAttention(X)),X表示编码器的输入。在下文中,如无特殊说明,编码器都是采用上述结构。

然后对第一集合中的元素进行编码并对第二集合中的元素进行编码,其中,将例如性别进行数字化表示后,第一集合和第二集合中的元素都为数值,对数值进行embedding得到第一集合中元素的编码结果和第二集合中元素的编码结果。然后将图像编码结果、第一集合对应的元素编码结果、第二集合对应的元素编码结果分别输入到三个独立的编码器中。从整个模型来看,第一层包括了三个独立且结构相同的编码器,如图2所示(图中未示出特征融合部分),当然由于图像块个数、第一集合、第二集合中的元素个数不同,编码器的具体参数有所不同。需要注意的时,为了便于后续的融合,图像块的编码结果的向量维度和元素的编码结果的向量维度相同。

需要说明的是,在本发明中层和编码器是两个概念,从最开始的输入到最后结果的输出,将急性肾损伤预警的模型分为多个层,且编号从1开始,每个层包括至少一个编码器,在一个更为具体的实施例中,第一层包括三个编码器,第二层包括三个编码器,第三层包括三个编码器,第四层包括三个编码器;在另外一个实施例中,第一层包括三个编码器,第二层包括三个编码器,第四层包括三个编码器,第五层包括三个编码器。上述层数只是示例,也可以包括更多的层数。

对于第一层的三个编码器,其输入分别为图像块编码结果、第一集合对应的元素编码结果、第二集合对应的元素编码结果,然后得到三个编码器的输出,对于第一层的每个编码器的输出,附加三个向量,这三个向量分别记为第一个分类标识向量、第二个分类标识向量、第三个分类标识向量,分类标识向量和ViT模型中CLS是相同的,都是用于获取编码器输入的全局信息。这样,第一层的三个编码器的每个的输出都会附加三个分类标识向量。

在一个更为具体实施例中,所述对每个编码器的输出结果附加三个分类标识向量,具体为:

获取编码器的输出结果对应的矩阵,所述矩阵大小为M×N;在所述矩阵的第一行前添加三行向量使得所述矩阵的大小为(M+3)×N,添加的三行向量分为记为第一个分类标识向量、第二个分类标识向量、第三个分类标识向量;其中,M、N为正整数。

例如第一个编码器的输出为50×256,也即每个图像块被编码后的长度为256,一共有50个图像块,对第一个编码器的输出附加三个分类标识向量后,得到矩阵为53×256,其中,矩阵的第一行为第一个分类标识向量CLS11,矩阵的第二行为第二个分类标识向量CLS12,矩阵的第三行为第三个分类标识向量CLS13。对第二个编码器的输出执行上述同样的操作,对于第二个编码器的输出附加三个分类标识向量后,第二个编码器的输出的第一行为第一个分类标识向量CLS21,第二行为第二个分类标识向量CLS22,第三行为第三个分类标识向量CLS23。对于第一层的第三个编码器同样附加三个分类标识向量,这里不再赘述。

在进行模型训练时,其中分类标识向量是随机初始化,在训练过程中,不断学习,这样在使用模型时,可以直接利用训练后的模型。

在第一层中三个编码器的输入中不使用分类标识可以利用注意力机制提取特征,避免了分类标识向量对上述过程的干扰,而且能够减少计算量;从第二层的三个编码器的输入开始引入分类标识向量,进行多模态的特征融合,也即采用了中期的特征融合方式,而且采用了分类标识向量的方法。

在第二层的三个编码器的输出中对应位置仍然为分类标识向量,将第二层的第一个编码器输出的矩阵的第二、三个分类标识向量分别替换为第二层的第二、三个编码器输出的矩阵的第一个分类标识向量;将第二层的第二个编码器输出的矩阵的第二、三个分类标识向量分别替换为第二层的第一、三个编码器输出的矩阵的第一个分类标识向量;将第二层的第三个编码器输出的矩阵的第二、三个分类标识向量分别替换为第二层的第一、二个编码器输出的矩阵的第一个分类标识向量。对于后续的每层执行同样的操作,直到最后一层。最后一层的编码器的输出无需执行上述操作,然后获取最后一层的三个编码器中的每个的输出中三个分类标识向量,也即可以得到9个分类标识向量。需要注意的时,由于上述替换过程涉及到矩阵的操作,这需要保证编码器的输出的矩阵列数相同,由于编码器不改变输入的内容的大小,也即不改变输入的矩阵的大小,在进行图像块编码和数值编码时,需要保证二者的编码长度相同,例如将一个图像块编码为256长度,将数值也编码为256的长度,这涉及到embedding的具体操作,本领域技术人员知晓如何操作,不再详述。

步骤三,根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,并根据所述急性肾损伤等级向用户发出预警信息。

最后一层的三个编码器的每个编码器的输出包括3个分类标识向量,这9个分类标识向量包含了肾功能指标数据、用户数据、肾脏彩超图像以及收缩期峰流速PSV、舒张末期流速EDV的信息,以及他们之间的关系,在一个具体实施例中,所述根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,具体为:

将图像对应的最后一层编码器输出的三个分类标识向量记为第一向量集,将第一集合对应的最后一层编码器输出的三个分类标识向量向记为第二向量集,将第二集合对应的最后一层编码器输出的三个分类标识向量记为第三向量集;

急性肾损伤预警模型包括多个层,每层包括三个编码器,每列的编码器对应一个内容,所述内容为超声图像或第一集合或第二集合。

将第一向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S1、S2;将第二向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S3、S4;将第三向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S5、S6;

对于每个向量集中的第一个分类标识向量,其没有直接参与到特征融合中,也即没有被替换,而第二、三分类标识向量含有其他所述内容的信息,对于每个向量集,将第一个分类标识分别和第二个分类标识向量、第三个分类标识向量拼接后,输入到各自对应的MLP中,得到两个输出。例如,对于第一个向量集,其第一个分类标识向量为CLS11,大小为1×256;第二个分类标识向量为CLS12,大小为1×256;第三个分类标识向量为CLS13,大小为1×256,进行拼接后得到两个大小为1×512的向量,然后将两个1×512的向量分别输入到两个多层感知器MLP中,得到两个输出S1、S2,其中S1、S2的长度小于512,例如S1的大小为1×128,S2的大小为1×64。

将S1、S2、S3、S4、S5、S6输入到MLP中得到急性肾损伤等级。

对于急性肾损伤分级,在一个具体实施例中,等级越高表明发生急性肾损伤的可能越大,例如将其分为5个等级,第1级表明发生急性肾损伤的可能性很低,第5级表示发生急性肾损伤的可能性极高。

图像中包含很多像素,本发明中急性肾损伤预警模型的训练和识别速度主要取决于对图像的处理,但是彩超图像中含有很多无用的信息,例如四周区域,这对于判断急性肾损伤的意义不大,而且大大的增加量计算量,所述将所述彩超图像分割为多个图像块并对图像块编码,具体为:

将左侧肾脏彩超图像和右侧肾脏彩超图像转换为相同大小,并将左侧肾脏彩超图像和右侧肾脏彩超图像按照同样的大小分割为多个图像块,得到左侧肾脏彩超图像的图像块序列H1和右侧肾脏彩超图像的图像块序列H2,若H1中的图像块的序号和H2中图像块的序号满足预设关系且两个图像块的相似度大于阈值,则删除H1中的图像块和/或H2中的图像块;

将左右两侧的肾脏彩超图像转换为相同的大小,转换方式包括但不限于图像裁剪、卷积等。然后将两个图像分割为多个patch(图像块),这样得到左侧肾脏彩超图像块序列和右侧肾脏彩超图像块序列。对于序号满足预设关系且两个图像块的相似度大于阈值则删除H1中的图像块和/或H2中的图像块。所述预设关系为H1中的图像块的序号和H2中的图像块的序号相同,且所述序号表明图像块位于肾脏彩超图像的四周区域。在另外一个实施例中,所述预设关系为H1中的图像块的序号和H2中的图像块的序号相同。

对序号进行编码得到位置编码,根据所述位置编码和图像块编码将H1中剩余的图像块和H2中剩余的图像块进行编码得到图像块编码结果。

对于剩余的图像块,获取图像块原来的序号,对原来的序号进行编码得到位置编码,然后对图像块进行编码,将位置编码和图像块编码按位相加得到图像块编码结果;然后将编码后的图像块结果拼接为图像编码结果。

实施例二,本发明提供了一种急性肾损伤预警系统,如图4所示,所述系统包括以下单元:

信息获取单元101,用于获取肾功能指标数据以及用户数据并放入第一集合中;获取床旁即时超声仪拍摄的左右两侧肾脏彩超图像,并将左侧肾脏以及右侧肾脏对应的收缩期峰流速PSV、舒张末期流速EDV放入第二集合中;

编码单元102,用于将所述彩超图像分割为多个图像块并对图像块编码,将图像块编码结果、第一集合对应的元素编码结果、第二集合对应的元素编码结果分别输入到三个相同结构的编码器中,对每个编码器的输出结果附加三个分类标识向量后分别输入到下一层的编码器中;将下一层的编码器的输出中第二、三个分类标识向量替换为另外两个下一层编码器输出中第一分类标识向量,直到最后一层编码器;

解码单元103,用于根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,并根据所述急性肾损伤等级向用户发出预警信息。

优选地,所述根据最后一层三个编码器输出的分类标识向量得到急性肾损伤等级,具体为:

将图像对应的最后一层编码器输出的三个分类标识向量记为第一向量集,将第一集合对应的最后一层编码器输出的三个分类标识向量向记为第二向量集,将第二集合对应的最后一层编码器输出的三个分类标识向量记为第三向量集;

将第一向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S1、S2;将第二向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S3、S4;将第三向量集中的第一个分类标识向量分别和第二个分类标识向量、第三个分类标识向量拼接后输入到各自的MLP中,得到两个输出S5、S6;如图3所示。

将S1、S2、S3、S4、S5、S6输入到MLP中得到急性肾损伤等级。

优选地,所述对每个编码器的输出结果附加三个分类标识向量,具体为:

获取编码器的输出结果对应的矩阵,所述矩阵大小为M×N;在所述矩阵的第一行前添加三行向量使得所述矩阵的大小为(M+3)×N,添加的三行向量分为记为第一个分类标识向量、第二个分类标识向量、第三个分类标识向量;其中,M、N为正整数。

优选地,所述将所述彩超图像分割为多个图像块并对图像块编码,具体为:

将左侧肾脏彩超图像和右侧肾脏彩超图像转换为相同大小,并将左侧肾脏彩超图像和右侧肾脏彩超图像按照同样的大小分割为多个图像块,得到左侧肾脏彩超图像的图像块序列H1和右侧肾脏彩超图像的图像块序列H2,若H1中的图像块的序号和H2中图像块的序号满足预设关系且两个图像块的相似度大于阈值,则删除H1中的图像块和/或H2中的图像块;

对序号进行编码得到位置编码,根据所述位置编码和图像块编码将H1中剩余的图像块和H2中剩余的图像块进行编码得到图像块编码结果。

所述编码器包括多头注意力层、LN层、Feed Forward层和残差连接层,编码器的输出为:O=LayerNorm(A+FeedForward(A)),其中A=LayerNorm(X+MultiHeadAttention(X)),X表示编码器的输入。

实施例三,本发明还提供了一种计算机可读存储介质,所述可读存储介质上存储有计算机程序,所述计算机程序在被计算机执行时,实现如实施例一所述的方法。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助加必需的通用硬件平台的方式来实现,当然也可以通过硬件和软件结合的方式来实现。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以计算机产品的形式体现出来,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

相关技术
  • 间歇供料式防回火供料装置
  • 一种能准确供料的密胺粉供料装置
  • 供料驱动机构、具有供料驱动机构的吐出装置、具有吐出装置的用户化吐出系统、以及供料驱动机构中的供料驱动方法
  • 供料驱动机构、具有供料驱动机构的吐出装置、具有吐出装置的用户化吐出系统、以及供料驱动机构中的供料驱动方法
技术分类

06120116553242