自监督学习模型的训练方法和装置、设备以及存储介质

技术领域

本申请涉及人工智能技术领域，特别是涉及一种自监督学习模型的训练方法和装置、设备以及存储介质。

背景技术

蛋白质对于生物的运转必不可少，除了是基本维生物质的需求，还包括各种抗体和疫苗以及多功能的酶。理解蛋白质的结构和损坏机理不仅能够让我们对疾病的分子学机理有着更好的了解，更能帮助我们找到更好的方式对抗疾病。

一般地，直接使用随机初始化模型的参数进行监督模型的训练，无法预先学习蛋白质序列的特征信息，导致准确率低。

发明内容

本申请至少提供一种自监督学习模型的训练方法和装置、设备以及存储介质。

本申请第一方面提供了一种自监督学习模型的训练方法，包括：

选择数据信息，所述数据信息包括蛋白质序列信息；

对所述自监督学习模型设置损失函数；

基于所述蛋白质序列信息对所述自监督学习模型进行训练，以得到蛋白质的特征信息；

基于所述损失函数调整所述自监督学习模型的参数。

因此，本申请基于蛋白质序列信息对自监督学习模型进行训练，充分学习蛋白质序列信息，并基于损失函数调整自监督学习模型的参数，提高模型的准确率。

在一些实施例中，所述对所述自监督学习模型设置损失函数，包括：

基于所述蛋白质序列信息，通过所述自监督学习模型预测目标蛋白质序列信息的损失，得到第一损失函数；

对所述蛋白质序列信息进行部分遮盖，基于未遮盖的所述蛋白质序列信息，通过所述自监督学习模型进行预测被遮盖的所述蛋白质序列信息的损失，得到第二损失函数。

在一些实施例中，所述基于所述损失函数调整所述自监督学习模型的参数，包括：

预设有第一参数和第二参数，所述第一参数大于等于0且小于或等于1，所述第二参数大于等于0且小于或等于1；

计算所述第一损失函数和所述第一参数的乘积与所述第二损失函数和所述第二参数的乘积之和，得到最终的损失函数；

基于所述最终的损失函数，调整所述自监督学习模型的参数。

因此，基于第一损失函数和第一参数的乘积与第二损失函数和第二参数的乘积之和得到最终的损失函数，最终的损失函数越小，自监督学习模型的准确率越高。

在一些实施例中，所述基于所述蛋白质序列信息对所述自监督学习模型进行训练，包括：

从所述蛋白质序列信息中选取第一预设比例的所述蛋白质序列信息，作为训练集；

基于所述训练集对所述自监督学习模型进行训练。

在一些实施例中，所述方法还包括：

将所述蛋白质序列信息中剩余的蛋白质序列信息，作为测试集；

基于所述测试集对所述自监督学习模型进行测试，以评估所述自监督学习模型的准确率。

在一些实施例中，所述数据信息还包括多个子任务的标签信息，所述方法还包括：

基于所述子任务的标签信息和对应的所述蛋白质的特征信息，通过调整后的自监督学习模型预测所述子任务；

所述子任务包括蛋白质二级结构的预测、荧光蛋白质强度预测、蛋白质中三维结构中序列的接触预测、远程同源性检测或蛋白质结构稳定性预测中的至少一个。

因此，本申请通过调整后的自监督学习模型预测子任务，即调整后的自监督学习模型应用到子任务，实现迁移学习，提高了模型的准确率。

在一些实施例中，所述方法还包括：

基于所述自监督学习模型和调整后的自监督学习模型，对所述子任务分别进行测试，得到第一测试数据和第二测试数据；

基于所述第一测试数据和所述第二测试数据，评估所述自监督学习模型和所述调整后的自监督学习模型的性能。

因此，本申请通过两个模型分别对子任务进行测试，以评估自监督学习模型和调整后的自监督学习模型的性能。

在一些实施例中，所述选择数据信息，包括：

判断所述数据信息的整行或整列的缺失比例是否超过第二预设比例；

若是，则删除所述数据信息的整行或者整列；

若否，则补充所述数据信息的缺失值。

因此，本申请对数据信息进行缺失值处理，提高准确率。

本申请第二方面提供了一种自监督学习模型的训练装置，包括：

选择模块，用于选择数据信息，所述数据信息包括蛋白质序列信息；

设置模块，用于对所述自监督学习模型设置损失函数；

训练模块，用于基于所述蛋白质序列信息对所述自监督学习模型进行训练，以得到蛋白质的特征信息；

参数调整模块，用于基于所述损失函数调整所述自监督学习模型的参数。

本申请第三方面提供了一种电子设备，包括相互耦接的存储器和处理器，处理器用于执行存储器中存储的程序指令，以实现上述第一方面中的自监督学习模型的训练方法。

本申请第四方面提供了一种计算机可读存储介质，其上存储有程序指令，程序指令被处理器执行时实现上述第一方面中的自监督学习模型的训练方法。

上述方案，基于蛋白质序列信息对自监督学习模型进行训练，充分学习蛋白质序列信息；基于损失函数调整自监督学习模型的参数，提高模型的准确率。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本申请。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，这些附图示出了符合本申请的实施例，并与说明书一起用于说明本申请的技术方案。

图1是本申请自监督学习模型的训练方法一实施例的流程示意图；

图2是图1中步骤S11的流程示意图；

图3是图1中步骤S12的流程示意图；

图4是图1中步骤S13的流程示意图；

图5是图1中步骤S14的流程示意图；

图6是本申请自监督学习模型的训练方法另一实施例的流程示意图；

图7是本申请自监督学习模型的训练方法又一实施例的流程示意图；

图8是本申请自监督学习模型的训练装置一实施例的框架示意图；

图9是本申请电子设备一实施例的框架示意图；

图10是本申请计算机可读存储介质一实施例的框架示意图。

具体实施方式

下面结合说明书附图，对本申请实施例的方案进行详细说明。

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、接口、技术之类的具体细节，以便透彻理解本申请。

本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。此外，本文中的“多”表示两个或者多于两个。另外，本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合，例如，包括A、B、C中的至少一种，可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。

请参阅图1，图1是本申请自监督学习模型的训练方法一实施例的流程示意图。具体而言，可以包括如下步骤：

步骤S11：选择数据信息，数据信息包括蛋白质序列信息。

本公开实施例中，训练方法的执行主体可以是训练装置，例如，自监督学习模型的训练方法可以由终端设备或服务器或其它处理设备执行，其中，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等。在一些可能的实现方式中，该自监督学习模型的训练方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。

训练装置选择数据信息，数据信息包括蛋白质序列信息。例如，训练装置接收到蛋白质序列信息、蛋白质的长度、突变个数或者拓扑结构信息，训练装置从蛋白质序列信息、蛋白质的长度、突变个数和拓扑结构信息中选择蛋白质序列信息作为数据信息，以选择数据信息。该蛋白质序列信息可以为无标签的蛋白质序列，无标签的蛋白质序列呈几何式增长，蛋白质序列可以为蛋白质的氨基酸序列。

可选地，如图2所示，步骤S11中选择数据信息可以包括如下步骤：

步骤S21：判断数据信息的整行或整列的缺失比例是否超过第二预设比例。

其中，在训练装置选择数据信息之后，训练装置判断数据信息的整行或整列的缺失比例是否超过第二预设比例。例如，第二预设比例为60％，训练装置判断数据信息的整行或整列的缺失比例是否超过60％，其中缺失值占整行的比例为整行的缺失比例，缺失值占整列的比例为整列的缺失比例。在其他实施例中，第二预设比例可以为40％或50％等。

若训练装置判断到整行或整列的缺失比例超过第二预设比例，则进入步骤S22；若训练装置判断到整行或整列的缺失比例未超过第二预设比例，则进入步骤S23。

步骤S22：删除数据信息的整行或者阵列。

训练装置删除数据信息的整行或者阵列，例如训练装置删除缺失比例超过60％的整行或阵列。

步骤S23：补充数据信息的缺失值。

训练装置补充数据信息的缺失值，例如训练装置获取缺失值所在列的均值，将均值补充数据信息的缺失值。因此通过缺失值的处理，能够提高准确率。在其他实施例中，训练装置获取缺失值所在列的中位数或者众数，以将中位数或者众数补充数据信息的缺失值。

步骤S12：对自监督学习模型设置损失函数。

其中，损失函数是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的损失的函数，在机器学习中被用于模型的参数估计。

在本公开实施例中，训练装置对自监督学习模型设置一个或者一个以上损失函数，例如训练装置对自监督学习模型设置两个损失函数；自监督学习模型可以包括自注意力模型(transformer)或双向长短记忆网络模型(BILSTM)。

其中，训练装置可以对自监督学习模型设置第一损失函数L1和第二损失函数L1。如图3所示，步骤S12中对自监督学习模型设置损失函数可以包括如下步骤：

步骤S31:基于蛋白质序列信息，通过自监督学习模型预测目标蛋白质序列信息的损失，得到第一损失函数。

训练装置基于蛋白质序列信息，通过自监督学习模型预测目标蛋白质序列信息的损失，得到第一损失函数L1，即训练装置基于已知的蛋白质序列信息通过自监督学习模型预测目标蛋白质序列信息的损失。

例如蛋白质序列为VYKFNAG，已知的蛋白质序列信息为VYK，则训练装置基于蛋白质序列信息VYK通过自监督学习模型预测目标蛋白质序列信息F的损失，得到第一损失函数L1，其中目标蛋白质序列信息F为蛋白质序列信息VYK的后一个蛋白质序列信息；或者，已知的蛋白质序列信息为NAG，则训练装置基于蛋白质序列信息NAG通过自监督学习模型预测目标蛋白质序列信息F的损失，得到第一损失函数L1，其中目标蛋白质序列信息F为蛋白质序列信息NAG的前一个蛋白质序列信息。

步骤S32:对蛋白质序列信息进行部分遮盖，基于未遮盖的蛋白质序列信息，通过自监督学习模型进行预测被遮盖的蛋白质序列信息的损失，得到第二损失函数。

训练装置随机对蛋白质序列信息进行部分遮盖(mask)，得到未遮盖的蛋白质序列信息和被遮盖的蛋白质序列信息。训练装置基于未遮盖的蛋白质序列信息，通过自监督学习模型进行预测被遮盖的蛋白质序列信息的损失，得到第二损失函数L2。例如训练装置对蛋白质序列信息NAG进行遮盖，蛋白质序列信息VYKF为未遮盖的蛋白质序列信息，则训练装置基于蛋白质序列信息VYKF通过自监督学习模型预测被遮盖的蛋白质序列信息NAG的损失，得到第二损失函数L2。

步骤S13：基于蛋白质序列信息对自监督学习模型进行训练，以得到蛋白质的特征信息。

训练装置基于蛋白质序列信息对自监督学习模型进行训练，以得到蛋白质的特征信息，蛋白质的特征信息可以为蛋白质的嵌入向量(embedding)，能够充分学习蛋白质序列信息。如图4所示，步骤S13中基于蛋白质序列信息对自监督学习模型进行训练包括如下步骤：

步骤S41：从蛋白质序列信息中选取第一预设比例的蛋白质序列信息，作为训练集。

训练装置设置第一预设比例可以为90％，则训练装置从数据信息中选取90％的蛋白质序列信息，作为训练集。训练装置将蛋白质序列信息中剩余的蛋白质序列信息，作为测试集；例如训练装置将剩余10％的蛋白质序列信息，作为测试集。

步骤S42：基于训练集对自监督学习模型进行训练。

训练装置基于训练集对自监督学习模型进行训练，以得到蛋白质的特征信息。其中，训练装置接收到蛋白质序列信息、蛋白质的长度、突变个数或者拓扑结构信息，并从蛋白质序列信息、蛋白质的长度、突变个数和拓扑结构信息中选择蛋白质序列信息作为自监督学习模型的输入；训练装置通过自监督学习模型根据输入的蛋白质序列信息，输出蛋白质的特征信息，用于预测子任务。

步骤S43：基于测试集对自监督学习模型进行测试，以评估自监督学习模型的准确率。

训练装置基于测试集对自监督学习模型进行测试，即训练装置基于剩余10％的蛋白质序列信息对自监督学习模型进行测试，以评估自监督学习模型的准确率。

因此，训练装置将数据信息划分为训练集和测试集，实现基于训练集对自监督学习模型的预训练；此外，训练装置可以基于测试集对自监督学习模型进行测试，得到准确率，以通过准确率评估自监督学习模型。

步骤S14：基于损失函数调整自监督学习模型的参数。

训练装置基于损失函数调整自监督学习模型的参数，如图5所示，步骤S14中基于损失函数调整自监督学习模型的参数包括如下步骤：

步骤S51：预设有第一参数和第二参数，第一参数大于等于0且小于或等于1，第二参数大于等于0且小于或等于1。

训练装置预设有第一参数a和第二参数b，第一参数a大于等于0且小于或等于1，第二参数b大于等于0且小于或等于1。或者，训练装置预先存储有第一参数a和第二参数b。

步骤S52：计算第一损失函数和第一参数的乘积与第二损失函数和第二参数的乘积之和，得到最终的损失函数。

训练装置计算第一损失函数L1和第一参数a的乘积与第二损失函数L2和第二参数b的乘积之和，得到最终的损失函数L。即最终的损失函数L满足以下公式：

L＝L1*a+L2*b (1)

可选地，训练装置将第一参数a和第二参数b设置为1，即最终的损失函数L等于第一损失函数L1和第二损失函数L2之和。

步骤S53：基于最终的损失函数，调整自监督学习模型的参数。

训练装置基于最终的损失函数L，调整自监督学习模型的参数。其中，第一损失函数L1和第二损失函数L2之和越小，最终的损失函数L越小，损失小，以使调整后的自监督学习模型的准确率越高。例如，训练装置可以选取在最终的损失函数L最小时的参数，作为调整后的自监督学习模型的参数。

因此，训练装置基于第一损失函数L1和第一参数a的乘积与第二损失函数L2和第二参数b的乘积之和得到最终的损失函数L，最终的损失函数L越小，自监督学习模型的准确率越高。

在一个实施场景中，上述步骤S13和步骤S14可以按照先后顺序执行，例如，先执行步骤S13，后执行步骤S14；或者，上述步骤S13和步骤S14还可以同时执行，具体可以根据实际应用进行设置，在此不做限定。

上述方案，本申请基于蛋白质序列信息对自监督学习模型进行训练，充分学习蛋白质序列信息；基于最终的损失函数L调整自监督学习模型的参数，提高模型的准确率，实现基于蛋白质序列信息对自监督学习模型的预训练。此外，该训练方法应用于某些突变蛋白质分子标签较少的蛋白质工程上，可以基于其他突变蛋白质的序列分子实现预训练，无需大量人工标记突变蛋白质分子，提高工作效率。

请参阅图6，图6是本申请自监督学习模型的训练方法另一实施例的流程示意图。具体而言，可以包括如下步骤：

步骤S61：选择数据信息，数据信息包括蛋白质序列信息。

步骤S62：对自监督学习模型设置损失函数。

步骤S63：基于蛋白质序列信息对自监督学习模型进行训练，以得到蛋白质的特征信息。

步骤S64：基于损失函数调整自监督学习模型的参数。

步骤S61-S64与步骤S11-S14相同，在此不再赘述。

步骤S65：基于子任务的标签信息和对应的蛋白质的特征信息，通过调整后的自监督学习模型预测子任务。

其中，蛋白质工程设置有多个子任务，蛋白质工程可以为通过对蛋白质化学、蛋白质晶体学和蛋白质动力学的研究，获得有关蛋白质理化特性和分子特性的信息。因此，数据信息还包括多个子任务的标签信息。

训练装置基于子任务的标签信息和对应的蛋白质的特征信息，通过调整后的自监督学习模型预测子任务。其中，训练装置基于蛋白质序列信息对自监督学习模型进行训练，可以得到多个蛋白质的特征信息，每个子任务具有对应的蛋白质的特征信息，因此训练装置根据子任务的标签信息获取对应的蛋白质的特征信息，再基于子任务的标签信息和对应的蛋白质的特征信息，通过调整后的自监督学习模型预测子任务，实现预测多个子任务，能够利用调整后的自监督学习模型应用于多种的蛋白质工程中。

其中，子任务可以包括蛋白质二级结构的预测(Secondary StructurePrediction)、荧光蛋白质强度预测(Fluorescence Landscape Prediction)、蛋白质中三维结构中序列的接触预测(Contact Prediction)、远程同源性检测(Remote HomologyDetection)或蛋白质结构稳定性预测(Stability Landscape Prediction)中的至少一个；例如训练装置基于子任务的标签信息和对应的蛋白质的特征信息，通过调整后的自监督学习模型分别预测上述的五个子任务。

其中，蛋白质二级结构的预测为预测蛋白质的二级结构，蛋白质的二级结构可以为分子内氢键维系的局部空间排列，例如α螺旋(αhel ix)、β片层(βsheet)、β转角(βturn)等；荧光蛋白质强度预测用于将每个蛋白质映射到一个荧光度上，以评价相关度作为指标；蛋白质中三维结构中序列的接触预测用于判断蛋白质序列信息的氨基酸是否接触到；远程同源性检测属于同源检测任务，将蛋白质序列信息映射到特定的折叠结构上去；蛋白质结构稳定性预测用于预测蛋白质序列信息的氨基酸为了保持稳定所需要保持的最大范围。

其中，蛋白质二级结构的预测的标签信息为二级结构的类别，二级结构的类别可以包括三类；荧光蛋白质强度预测的标签信息为荧光强度；蛋白质中三维结构中序列的接触预测的标签信息为是否接触到；远程同源性检测的标签信息为多种类别的同源蛋白类别；蛋白质结构稳定性预测的标签信息为蛋白质结构稳定性的分数。

例如，训练装置将蛋白质序列信息和蛋白质二级结构的预测的标签信息输入调整后的自监督学习模型，以得到蛋白质二级结构的预测，进而输出蛋白质序列信息中每个氨基酸的二级结构。训练装置将蛋白质序列信息和荧光蛋白质强度预测的标签信息输入调整后的自监督学习模型，以得到荧光蛋白质强度预测，进而输出蛋白质序列信息中的蛋白质的荧光强度。训练装置将蛋白质序列信息和蛋白质中三维结构中序列的接触预测的标签信息输入调整后的自监督学习模型，以得到蛋白质中三维结构中序列的接触预测，进而输出蛋白质序列信息中每个氨基酸是否为接触点，如果是接触点，则标记为1，反之标记为0。训练装置将蛋白质序列信息和远程同源性检测的标签信息输入调整后的自监督学习模型，以得到远程同源性检测。训练装置将蛋白质序列信息和蛋白质结构稳定性预测的标签信息输入调整后的自监督学习模型，以得到蛋白质结构稳定性预测，进而输出蛋白质序列信息中的蛋白质的结构稳定性。

因此，训练装置可以通过子任务分别使用准确率或相关系数来评价调整后的自监督学习模型的性能，即训练装置通过子任务评估调整后的自监督学习模型的性能，具有综合全面性；此外，调整后的自监督学习模型应用到多个子任务，实现迁移学习，提高了模型的准确率。

请参阅图7，图7是本申请自监督学习模型的训练方法又一实施例的流程示意图。具体而言，可以包括如下步骤：

步骤S71：选择数据信息，数据信息包括蛋白质序列信息。

步骤S72：对自监督学习模型设置损失函数。

步骤S73：基于蛋白质序列信息对自监督学习模型进行训练，以得到蛋白质的特征信息。

步骤S74：基于损失函数调整自监督学习模型的参数。

步骤S71-S74与步骤S11-S14相同，在此不再赘述。

步骤S75：基于自监督学习模型和调整后的自监督学习模型，对子任务进行分别测试，得到第一测试数据和第二测试数据。

训练装置采用两个模型进行测试，该两个模型分别为调整后的自监督学习模型和自监督学习模型，自监督学习模型的参数为原始随机参数。训练装置基于自监督学习模型和调整后的自监督学习模型，对子任务进行分别测试，得到第一测试数据和第二测试数据。

例如，训练装置基于自监督学习模型对上述的五个子任务总跑，进行20时期训练后，采用测试集进行测试，得到第一测试数据；训练装置基于调整后的自监督学习模型对五个子任务总跑，进行20时期训练后，采用测试集进行测试，得到第二测试数据。

步骤S76：基于第一测试数据和第二测试数据，以评估自监督学习模型和调整后的自监督学习模型的性能。

训练装置基于第一测试数据和第二测试数据，以评估自监督学习模型和调整后的自监督学习模型的性能，进而得到每个子任务在自监督学习模型和调整后的自监督学习模型的差异。

本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。

在一个实施场景中，基于上述训练方法研究某一类型肿瘤突变基因的转译蛋白质的结构和性能，可以利用大量无标记的肿瘤突变基因转译的蛋白质序列进行自监督学习的预训练，能够提升在该类肿瘤突变基因转译的蛋白工程上的研究。

请参阅图8，图8是本申请自监督学习模型的训练装置一实施例的框架示意图。自监督学习模型的训练装置60包括选择模块61、设置模块62、训练模块63和参数调整模块64，选择模块61用于选择数据信息，数据信息包括蛋白质序列信息；设置模块62用于对自监督学习模型设置损失函数；训练模块63基于蛋白质序列信息对自监督学习模型进行训练，以得到蛋白质的特征信息；参数调整模块64用于基于损失函数调整自监督学习模型的参数。

上述方案，训练装置60基于损失函数调整自监督学习模型的参数，提高准确率，实现基于蛋白质序列信息对自监督学习模型的预训练。

请参阅图9，图9是本申请电子设备一实施例的框架示意图。电子设备70包括相互耦接的存储器71和处理器72，处理器72用于执行存储器71中存储的程序指令，以实现上述任一训练方法实施例的步骤。在一个具体的实施场景中，电子设备70可以包括但不限于：微型计算机、服务器，此外，电子设备70还可以包括笔记本电脑、平板电脑等移动设备，在此不做限定。

具体而言，处理器72用于控制其自身以及存储器71以实现上述任一训练方法实施例的步骤。处理器72还可以称为CPU(Central Processing Unit，中央处理单元)。处理器72可能是一种集成电路芯片，具有信号的处理能力。处理器72还可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。另外，处理器72可以由集成电路芯片共同实现。

请参阅图10，图10是本申请计算机可读存储介质一实施例的框架示意图。计算机可读存储介质80存储有能够被处理器运行的程序指令801，程序指令801用于实现上述任一的训练方法实施例的步骤。

在一些实施例中，本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法，其具体实现可以参照上文方法实施例的描述，为了简洁，这里不再赘述。

上文对各个实施例的描述倾向于强调各个实施例之间的不同之处，其相同或相似之处可以互相参考，为了简洁，本文不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的方法和装置，可以通过其它的方式实现。例如，以上所描述的装置实施方式仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性、机械或其它的形式。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本申请各个实施方式方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。