一种基于噪声绑定扩散模型的对话摘要方法

技术领域

本发明涉及对话摘要生成技术领域，具体涉及一种基于噪声绑定扩散模型的对话摘要方法。

背景技术

对话摘要任务旨在从对话中，总结出不同角色的所表达的核心内容。本发明解决了以下两个技术问题：

现有的方法普遍使用自回归的模型范式，通过注意力机制的方式从对话中捕捉关键的信息，而它们对于对话中普遍存在的大量无关信息（例如：问候语、情感用词等）不能够加以区分，这些无关信息在生成摘要的过程中充当噪声，容易导致自回归模型在生成过程中产生错误扩散的问题。对此，本发明提出了一种将噪声与无关内容进行绑定的非自回归摘要生成方法，对于对话中的重要信息及无关信息加以区分，从而生成更加高效的摘要。

现有的方法倾向于分别为不同的角色生成摘要，从而忽视了对话中不同角色之间的交互，这导致不同角色的摘要在一些场景中存在不匹配的问题，例如用户摘要中涉及的用户问题在客服摘要中没有相应的回答。对此，本发明提出交互感知的噪声绑定方法，在预处理数据中的噪声时引入不同角色之间的交互信息，从而能让摘要模型更有效地利用角色之间的交互，生成具有高度相关度的摘要。

发明内容

为解决上述技术问题，本发明提供一种基于噪声绑定扩散模型的对话摘要方法。

为解决上述技术问题，本发明采用如下技术方案：

一种基于噪声绑定扩散模型的对话摘要方法，将对话

对话摘要模型的训练过程，包括以下步骤：

S1，使用询问生成模块，根据输入的对话

S2，将询问信息

S3，通过噪声绑定模块随机生成噪声向量

S4，将对话表征

步骤S3中，通过噪声绑定模块随机生成噪声向量

步骤S3中，将人工标注的对话摘要

步骤S4中，所述扩散损失

进一步地，将对话

S51：使用询问生成模块，根据输入的对话

S52：将

S53：通过噪声绑定模块生成噪音集，从噪音集中随机采样得到噪声向量

进一步地，步骤S53中，通过噪声绑定模块生成噪音集时，具体包括：

对话

记人工标注的用户询问集为

通过对通用绑定噪声集与交互感知绑定噪声集进行并集运算，得到最终的噪声集

进一步地，步骤S53中，得到最终生成的对话摘要

随机从噪声集中采样

扩散解码器

其中，中间变量

；

表示预先定义的超参数；

将得到的二进制的比特表征

与现有技术相比，本发明的有益技术效果是：

通过使用基于噪声绑定的扩散编码-解码器进行不同角色的摘要生成，能够有效地从对话中辨别出充当噪声的无关信息，并从对话中将这些无关信息移除掉，使生成的摘要内容更能够捕捉到对话中的核心内容，提升了生成摘要的质量。

通过基于问询-摘要对的交互感知噪声绑定，将角色之间的交互信息融入到噪声中去，使模型在生成摘要的过程中能够充分地利用不同角色之间的交互信息，进而辅助摘要生成的过程，使得生成的不同角色之间的摘要内容关联度更高，进一步提升了模型生成摘要的性能，使模型更加契合实际使用的场景。

附图说明

图1为本发明中的对话摘要方法的流程图。

具体实施方式

下面结合附图对本发明的一种优选实施方式作详细的说明。

本发明提供一种基于噪声绑定扩散模型的对话摘要方法，将对话

对话摘要模型的训练过程，包括以下步骤：

S1，使用询问生成模块，根据输入的对话

S2，将询问信息

S3，通过噪声绑定模块随机生成噪声向量

步骤S3中，通过噪声绑定模块随机生成噪声向量

步骤S3中，将人工标注的对话摘要

S4，将对话表征

步骤S4中，所述扩散损失

S5，将对话

S51：使用询问生成模块，根据输入的对话

S52：将

S53：通过噪声绑定模块生成噪音集，从噪音集中随机采样得到噪声向量

步骤S53中，通过噪声绑定模块生成噪音集时，具体包括：

对话

记人工标注的用户询问集为

通过对通用绑定噪声集与交互感知绑定噪声集进行并集运算，得到最终的噪声集

步骤S53中，得到最终生成的对话摘要

随机从噪声集中采样

扩散解码器

其中，中间变量

；

表示预先定义的超参数；

将得到的二进制的比特表征

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内，不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立技术方案，说明书的这种叙述方式仅仅是为了清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。