对话意图确定方法、装置、设备及存储介质

技术领域

本发明涉及自然语言处理技术领域，尤其涉及一种对话意图确定方法、装置、设备及存储介质。

背景技术

理解并发现用户意图是对话系统中比较有挑战性的一个任务。真实场景下，用户意图往往是多样且不固定的，因此对话系统很难涵盖用户的全部意图。对于不断涌入的用户新意图，如果能很好地发现它们，不仅能够减少已知意图的错误识别情况，而且有利于挖掘用户潜在需求。

要发现用户的新意图，往往需要识别出用户的所有意图，然后从所有意图中筛选出新意图。在确定用户所有意图时，现有技术要么将其看作无监督聚类问题，通过引入有效的弱监督信号提升聚类性能；要么将其看作半监督聚类问题，通过利用少量有标签已知意图先验知识指导聚类过程。

本申请人在实现本发明实施例的过程中发现，这两种方法确定的意图识别结果的准确性均比较低，因此基于意图识别结果确定的用户的新意图的准确性也比较低。

发明内容

本发明提供了一种对话意图确定方法、装置、设备及存储介质，以解决现有对话意图确定方法存在无法准确确定用户意图的问题。

根据本发明的一方面，提供了一种对话意图确定方法，包括：

基于预训练语言模型确定至少两个对话语料分别对应的目标特征向量，以得到目标特征向量集合；

通过不同输入参数的设定聚类算法对所述目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果；

基于所有意图聚类簇构建用于表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图，所述连接图包括与对话语料标识对应的节点和连接两两节点的连接边，所述连接边设置有权重，所述权重为次数；

基于所述连接图中各连接边的权重与设定阈值的大小关系确定目标聚类结果，所述目标聚类结果中的每个聚类对应一个对话意图。

根据本发明的另一方面，提供了一种对话意图确定装置，包括：

特征向量模块，用于基于预训练语言模型确定至少两个对话语料分别对应的目标特征向量，以得到目标特征向量集合签；

第一聚类模块，用于通过不同输入参数的设定聚类算法对所述目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果；

连接图模块，用于基于所有意图聚类簇构建用于表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图，所述连接图包括与对话语料标识对应的节点和连接两两节点的连接边，所述连接边设置有权重，所述权重为次数；

第二聚类模块，用于基于所述连接图中各连接边的权重与设定阈值的大小关系确定目标聚类结果，所述目标聚类结果中的每个聚类对应一个对话意图。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的对话意图确定方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的对话意图确定方法。

本发明实施例提供的对话意图确定方法的技术方案，基于预训练语言模型确定的至少两个对话语料的目标特征向量集合携带已知意图信息；两两对话语料同时落入同一聚类簇的次数可以反映两两对话语料的意图相似性，预训练模型与聚类相结合，实现了意图标签数据的迁移，使得基于相似矩阵以及该相似矩阵对应的连接图确定的该至少两个对话语料对应的目标聚类结果，包括已知对话意图和新对话意图，且具备较高的准确性。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例提供的意图确定方法的流程图；

图2是根据本发明实施例所提供的意图模型训练方法的流程图；

图3是根据本发明又一实施例提供的意图确定方法的流程图；

图4是根据又一本发明实施例提供的意图确定装置的结构示意图；

图5是实现本发明实施例的意图确定方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例

图1为本发明实施例提供的对话意图确定方法的流程图，本实施例可适用于确定对话场景中各用户的对话意图情况，该方法可以由对话意图确定装置来执行，该对话意图确定装置可以采用硬件和/或软件的形式实现，该对话意图确定装置可配置于电子设备的处理器中。如图1所示，该方法包括：

S110、基于预训练语言模型确定至少两个对话语料分别对应的目标特征向量，以得到目标特征向量集合。

对话语料是指设定场景中的部分对话信息，如存取款服务、语音功能服务、售后服务、电话销售等一个或多个场景中的部分对话信息，该部分对话信息可选为对话信息中的一个问答段落。

可以理解的是，对话语料至少包括两个角色，该至少两个角色可以是客服(提问者)与用户(被提问者)。

对话语料可以是实时产生的对话数据，也可以是历史对话数据。前者用于实时对话场景，后者用于历史对话数据分析。

在一个实施例中，一个对话语料对应一个目标特征向量，因此至少两个对话语料对应至少两个目标特征向量。

预训练后的语言模块由预训练语言模型训练而成，预训练语言模型的无监督训练属性，使其非常容易获取海量训练样本，并且训练后的语言模型包含很多语义语法知识，对于后续的意图分类有非常明显的效果提升。

在一个实施例中，预训练语言模型可用于预测对话语料的意图，但本实施例不使用其预测功能，而是在将至少两个对话语料输入预训练语言模型后，获取该预训练语言模型的解码层输出的文本特征，并作为该至少两个对话语料的目标特征向量，将该至少两个对话语料的目标特征向量汇总以得到目标特征向量集合。

其中，该至少两个对话语料包括已知意图对话语料和未知意图对话语料。已知意图是指对话语料的意图是预训练语言模型可准确预测的(或预训练模型训练过程中学习到的意图)，未知意图是指对话语料的意图是训练后的语言模型不能准预测的。

S120、通过不同输入参数的设定聚类算法对所述目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果。

其中，设定聚类算法是基于密度的噪声应用空间聚类算法(HDBSCAN)。其中，输入参数包括min_cluster_size(最小聚类簇的样本数)、metric(空间节点距离计算方法，如欧式距离、马氏曼哈顿距离、切比雪夫距离等)。

采用不同输入参数的基于密度的噪声应用空间聚类算法对目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果。

由于该至少两个对话语料包括已知意图对话语料和未知意图对话语料，因此聚类结果包括已知意图聚类簇和未知意图聚类簇，其中，该未知意图聚类簇又称为新意图聚类簇。

S130、基于所有意图聚类簇构建用于表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图，连接图包括与对话语料标识对应的节点和连接两两节点的连接边，连接边设置有权重，权重为次数。

其中，相似矩阵中的各元素用于表示两两对话语料落入同一聚类簇中的次数。该相似矩阵可表示为：

e

其中，N表示对话语料的数量，τ(c

示例性的，当前聚类簇有对应于第一输入参数的基于密度的噪声应用空间聚类算法的聚类簇A1、聚类簇A2、聚类簇A3，以及对应于第二输入参数的聚类簇B1、聚类簇B2、聚类簇B3和聚类簇B4，其中，对话语料M1和对话语料M2均落入聚类簇A1和聚类簇B1，对话语料M3落入聚类簇A1和聚类簇B2。此时，对于对话语料M1和M2来说，二者同时在同一聚类簇中出现的次数为2，因此其在相似矩阵中的对应元素(M12)的数值为2，对于对话语料M1和M3来说，二者同时在同一聚类簇中出现的次数为1，因此其在相似矩阵中对应元素(M13)的数值为1。可以理解的是，相似矩阵中的非零元素分布在上三角内或下三角内，其对角线上的元素均为0。

其中，连接图包括连接边和节点，具体可通过以下公式表示：

其中，e

由于连接边的权重为次数，因此如果两对话语料同时落入较多聚类簇，则连接二者标识的连接边的权重较高。

S140、基于连接图中各连接边的权重与设定阈值的大小关系确定目标聚类结果，目标聚类结果中的每个聚类对应一个对话意图。

删除连接图中权重小于设定阈值的连接边以得到至少两个节点组，并将该至少两个节点组作为目标聚类结果。

可理解的是，删除连接图中权重小于设定阈值的连接边后，连接图中的剩余连接边的权重值均大于或等于设定阈值；针对剩余连接边中的任一连接边，其对应的两对话语料同时落入同一聚类簇的次数大于或等于设定阈值，因此该两对话语料的相似度较高；由此可知，针对任一节点组，其节点均通过至少一个连接边相连在一起，因此节点组中的各节点对应的对话语料对应同一意图。

由于目标特征向量集合是基于预训练模型确定的，因此目标特征向量集合中的目标特征向量携带有已知意图信息，对该目标特征向量进行聚类分析，可使已知意图信息指导聚类，并迁移至聚类结果中，从而使目标聚类结果包括已知意图和未知意图，且具有较高的准确性。因此在一个实施例中，根据预训练模型训练过程中学习到的意图标签，确定目标聚类结果中的已知意图和未知意图，并将该未知意图作为新意图。由于目标聚类结果具有较高的准确性，因此基于该目标聚类结果确定的新意图具有较高的准确性。可以理解的是，新意图是相对于预训练样本训练过程中学习到的意图标签来说的，换言之，将意图聚类结果中，预训练样本训练过程中未学习到的意图作为新意图。

本发明实施例提供的对话意图确定方法的技术方案，基于预训练语言模型确定的至少两个对话语料的目标特征向量集合携带已知意图信息；两两对话语料同时落入同一聚类簇的次数可以反映两两对话语料的意图相似性，预训练模型与聚类相结合，实现了意图标签数据的迁移，使得基于相似矩阵以及该相似矩阵对应的连接图确定的该至少两个对话语料对应的目标聚类结果，包括已知对话意图和新对话意图，且具备较高的准确性。

图2为本发明又一实施例提供的预训练模型的训练方法的流程图，本实施例在前述实施例的基础上，增加了前述实施例所述的预训练模型的训练方法的步骤。如图2所示，该方法包括：

S2001、获取设定数量训练样本。

其中，训练样本为携带有意图标签的对话语料。

设定数量越大，预训练语言模型会更稳健。在一个实施例中，设定数量可以根据实际情况自行选择，本实施例在此不作具体限定。

S2002、将设定数量的训练样本输入预训练语言模型，并通过最小化全词掩码预测任务的损失函数和角色预测任务的损失函数之和完成预训练语言模型的训练，以得到预训练语言模型。

其中，预训练模型为基于Transformer的预训练语言模型。

基于Transformer的预训练语言模型的输入信息包括对话语料的token编码数据、段编码数据和位置编码数据，具体为，将对话语料的token编码数据、段编码数据和位置编码数据组合成一个输入矩阵。

其中，token编码数据可表示为

其中，token编码数据经过transformer的强大特征提取能力，输出每个位置对应的嵌入向量；利用每个对话语料的第一个嵌入向量(即

该预训练语言模型对应两个任务，该两个任务分别是全词掩码任务和角色预测任务。

关于全词掩码任务。将对话语料按一定概率进行掩码或随机替换处理，利用语言模型学习掩码字符的上下文信息，预测掩码字符的真实值。基于过非线性字符分类器，根据每个位置输出的嵌入向量预测字符，并与实际字符进行比较。模型的编码器参数记为θ，非线性字符分类器参数记为θ

关于角色预测任务。对于某一多轮对话而言，某一角色说的话的上下文说的都是有一定联系的，角色是与他说的话是捆绑在一起的，通过对多轮对话的某一对话片段进行角色预测，可以使预训练语言模型学习到一定的对话数据语义逻辑知识。由于多轮对话一般是两个角色，角色a和角色b，所以角色预测任务属于二分类。非线性反转分类器的参数记为θ

最终，综合多任务联合学习，最小化上述损失函数之和，以得到模型的总损失函数，该总损失函数可表示为：

L

该语言模型训练时，将设定数量的训练样本输入该语言模型，通过最小化全词掩码预测任务的损失函数和角色预测任务的损失函数之和(即L

S2003、对预训练语言模型进行微调以得到更新后的预训练语言模型。

将部分训练样本数据输入预训练语言模型以得到意图分类结果；根据训练样本的意图标签和意图分类结果，最小化微调损失函数，以对预训练语言模型进行微调，以得到更新后的预训练语言模型，从而将训练样本中的意图标签知识迁移到该预训练语言模型中。其中，语言模型的分类器为：

p＝softmax(E·W

微调损失函数为：

其中，预训练语言模型的参数表示为θ

更新后的预训练语言模型得到后，将至少两个对话语料输入该更新后的预训练语言模型，并获取该更新后的预训练语言模型的解码层输出的目标特征向量集合。

本实施例用于通过最小化全词掩码预测任务的损失函数和角色预测任务的损失函数之和完成语言模型的训练以得到预训练语言模型，并对该预训练语言模型进行微调以得到更新后的预训练语言模型，以将已知对话语料标签信息进行知识迁移，提升目标特征向量集合中的各目标特征向量的准确性，从而提高基于该目标特征向量集合进行聚类分析的准确性，即提高包含对话意图结果的目标聚类结果的准确性。

图3为本发明又一实施例提供的对话意图确定方法的流程图，本实施例用于对前述实施例中的“通过不同输入参数的设定聚类算法对所述目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果”作进一步细化，包括：

S310、基于预训练语言模型确定至少两个对话语料分别对应的目标特征向量，以得到目标特征向量集合。

S3201、对目标特征向量集合进行向量降维处理以更新目标特征向量集合。

在一个实施例中，使用UMAP(Uniform Manifold Approximation and Projectionfor Dimension Reduction)算法对目标特征向量集合进行降维处理，以得到更新后的目标特征向量集合。对目标特征向量集合进行向量降维处理，可以降低目标特征向量集合的维度，即降低目标特征向量集合的数据量；可以理解的是，输入数据量的降低可以提高聚类速度，即提高包含对话意图的目标聚类结果的确定速度。

S3202、通过不同输入参数的设定聚类算法对更新后的目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果。

在一个实施例中，设定聚类算法为基于密度的噪声应用空间聚类算法(Density-Based Spatial Clustering of Applications with Noise，简称DBSCAN)。该聚类算法定义了两个点的互达距离，公式如下：

d

其中，core

使用最小生成树构建点与点之间的层次数模型，引入层次聚类思想，同时对最小生成树剪枝的最小子树做了限制，主要是为了控制生成的类簇不要过小。

为了考虑簇的持久性，HDBSCAN定义了每个点的密度度量，使用了如下公式：

其中，ε表示该点与剩余聚类之间的最短距离。

对生成树中的每个节点定义两个量，分别是λ

定义簇的稳定度为：

s

p是给定簇的中心点，λ

提取簇的步骤包括：将生成树中的每个叶节点均作为一个簇，自上而下遍历整个生成树，针对每个节点，如果节点的稳定性小于两个子节点的稳定性总和，将该节点的稳定性设置为其子节点的稳定性之和；如果当前节点的稳定性大于两个子节点的稳定性总和，那么将当前节点定义为某个簇。

Hdbscan的输入参数包括min_cluster_size(最小聚类簇的样本数)、metric(空间节点距离计算方法，如欧式距离、马氏曼哈顿距离、切比雪夫距离等)。采用不同空间节点距离计算方法的hdbscan对该至少两个对话语料的目标特征向量集合进行聚类分析，以得到对应于不同距离计算方法的聚类结果。采用不同距离计算方法的hdbscan对目标特征向量进行聚类分析，可以减少距离计算方法对分类结果的影响。

S330、基于所有意图聚类簇构建用于表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图，连接图包括与对话语料标识对应的节点和连接两两节点的连接边，连接边设置有权重，权重为次数。

S340、基于连接图中各连接边的权重与设定阈值的大小关系确定目标聚类结果，目标聚类结果中的每个聚类对应一个对话意图。

本实施例通过对目标特征向量集合进行降维处理，减少目标特征向量的数据量；通过不同输入参数的设定聚类算法对更新后的目标特征向量集合中的目标特征向量进行聚类分析，以得到对应不同输入参数的聚类结果，以弱化hdbscan的不同输入参数对聚类结果的影响。

图4为本发明又一实施例提供的对话意图确定装置的结构示意图。如图4所示，该装置包括：

特征向量模块11，用于基于预训练语言模型确定至少两个对话语料分别对应的目标特征向量，以得到目标特征向量集合；

第一聚类模块12，用于通过不同输入参数的设定聚类算法对所述目标特征向量集合中的目标特征向量进行聚类分析，以得到与输入参数对应的聚类结果；

连接图模块13，用于基于所有意图聚类簇构建用于表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图，所述连接图包括与对话语料标识对应的节点和连接两两节点的连接边，所述连接边设置有权重，所述权重为次数；

第二聚类模块14，用于基于所述连接图中各连接边的权重与设定阈值的大小关系确定目标聚类结果，所述目标聚类结果中的每个聚类对应一个对话意图。

在一个实施例中，该装置还包括训练模块，该训练模块用于获取设定数量的训练样本；将设定数量的训练样本输入语言模型，并通过最小化全词掩码预测任务的损失函数和角色预测任务的损失函数之和完成所述语言模型的训练，以得到预训练语言模型；对所述预训练语言模型进行微调以得到更新后的所述预训练语言模型。

在一个实施例中，所述预训练语言模型为基于Transformer的预训练语言模型。

在一个实施例中，所述基于Transformer的预训练语言模型的输入信息包括对话语料的token编码数据、段编码数据和位置编码数据。

在一个实施例中，第一聚类模块还用于对所述目标特征向量集合进行向量降维处理以更新所述目标特征向量集合。

在一个实施例中，对所述目标特征向量集合进行向量降维处理以更新所述目标特征向量集合。

在一个实施例中，第二聚类模块用于删除所述连接图中权重小于设定阈值的连接边以得到至少两个节点组，并将所述至少两个节点组作为目标聚类结果。

本发明实施例提供的对话意图确定装置的技术方案，基于预训练语言模型确定的至少两个对话语料的目标特征向量集合携带意图信息；通过不同输入参数的设定聚类算法对目标特征向量集合中的目标特征向量进行聚类分析，以得到不同聚类条件下的聚类结果；通过确定表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图，以及连接图中各连接边的权重与设定阈值的大小关系确定目标聚类结果，两两语料同时落入同一聚类簇的次数可以反映两两语料的意图相似性，因此采用表示两两对话语料落入同一聚类簇的次数的相似矩阵以及该相似矩阵对应的连接图确定该至少两个对话语料对应的目标聚类结果，即对应的意图分类结果，有助提高意图分类的全面性和准确性。

本发明实施例所提供的对话意图确定装置可执行本发明任意实施例所提供的对话意图确定方法，具备执行方法相应的功能模块和有益效果。

图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图5所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如对话意图确定方法。

在一些实施例中，对话意图确定方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的对话意图确定方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行对话意图确定方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。