信息推送方法和系统、模型训练方法及相关设备

技术领域

本发明涉及数据处理领域，特别涉及一种信息推送方法和系统、模型训练方法及相关设备。

背景技术

在企业内部，往往会有一系列产品矩阵，其中每项产品都有特定业务场景的用户数据。相关技术的个性化推荐方法中，通常基于实际自身的业务场景数据进行模型训练。

发明内容

在部分业务场景下，一些处于成长期的产品往往由于用户数据不够丰富，导致进行该业务场景下的模型训练时，模型较难获得很好的泛化能力，从而导致个性化效果较差。

本发明实施例所要解决的一个技术问题是：如何提高新业务场景下用户推荐的准确性。

根据本发明一些实施例的第一个方面，提供一种信息推送方法，包括：获取离线系统发送的、完成训练的目标域预测模型，其中，目标域预测模型是利用源域预测模型的预测结果、以及目标域的用户训练数据进行训练而获得的，源域预测模型是利用源域的用户训练数据进行训练而获得的；利用目标域预测模型，对目标域的用户待测数据进行预测，以获得对相应用户的信息推送结果。

在一些实施例中，定期获取离线系统发送的、完成训练的目标域预测模型以及目标域预测模型的编码值，并且信息推送方法还包括：在获取的预测网络模型的编码值与当前使用的目标域预测模型的编码值不同的情况下，通过对获取的目标域预测模型的版本验证；在对获取的目标域预测模型的上线验证通过的情况下，采用获取的目标域预测模型替换当前使用的目标域预测模型，其中，上线验证包括版本验证。

在一些实施例中，上线验证还包括模型验证，并且信息推送方法还包括：在获取的目标域预测模型的预设参数的值在预设范围内的情况下，通过对获取的目标域预测模型的模型验证。

在一些实施例中，获取的目标域预测模型为固化图文件，在固化图文件中，通过训练确定的、目标域预测模型的参数被转换为常量。

在一些实施例中，用户待测数据包括用户的特征、产品的特征，对相应用户的信息推送结果为是否为用户推荐产品的结果。

根据本发明一些实施例的第二个方面，提供一种用于信息推送的模型训练方法，包括：采用源域的用户训练数据训练源域预测模型；将同一用户对应的源域特征数据和目标域特征数据分别输入到源域预测模型和目标域预测模型中，获得用户对应的源域预测结果和目标域预测结果；根据源域预测结果与目标域预测结果的差距、以及用户对应的标记值与目标域预测结果的差距，对目标域预测模型的参数进行调整。

在一些实施例中，对目标域预测模型的参数进行调整包括：基于目标域预测模型的损失函数，对目标域预测模型的参数进行调整，其中，目标域预测模型的损失函数包括源域预测结果与目标域预测结果的交叉熵、以及用户对应的标记值与目标域预测结果的交叉熵。

在一些实施例中，目标域预测模型的复杂度高于源域预测模型的复杂度。

在一些实施例中，目标域预测模型的输入数据的维度数大于源域预测模型的输入数据的维度数。

在一些实施例中，模型训练方法还包括：获取多个用户中的每一个对应的第一特征数据和第二特征数据，其中，同一用户对应的第二特征数据包括第一特征数据的部分维度的特征；采用第一特征数据训练第一预备模型；将同一用户对应的第一特征数据和第二特征数据分别输入到第一预备模型和第二预备模型中，获得用户对应的第一预备模型预测结果和第二预备模型预测结果；根据第一预备模型预测结果与第二预备模型预测结果的差距、以及用户对应的标记值与第一预备模型预测结果的差距，对第二预备模型的参数进行调整；将调整后的第二预备模型作为源域预测模型。

在一些实施例中，第一预备模型和第二预备模型除输入层不同以外，具有相同的网络模型结构。

在一些实施例中，用户对应的源域预测结果和目标域预测结果是同一物品所关联的推荐结果。

根据本发明一些实施例的第三个方面，提供一种信息推送装置，包括：获取模块，被配置为获取离线系统发送的、完成训练的目标域预测模型，其中，目标域预测模型是利用源域预测模型的预测结果、以及目标域的用户训练数据进行训练而获得的，源域预测模型是利用源域的用户训练数据进行训练而获得的；预测模块，被配置为利用目标域预测模型，对目标域的用户待测数据进行预测，以获得对相应用户的信息推送结果。

根据本发明一些实施例的第四个方面，提供一种用于信息推送的模型训练装置，包括：源域训练模块，被配置为采用源域的用户训练数据训练源域预测模型；目标域训练模块，被配置为将同一用户对应的源域特征数据和目标域特征数据分别输入到源域预测模型和目标域预测模型中，获得用户对应的源域预测结果和目标域预测结果；以及，根据源域预测结果与目标域预测结果的差距、以及用户对应的标记值与目标域预测结果的差距，对目标域预测模型的参数进行调整。

根据本发明一些实施例的第五个方面，提供一种信息推送系统，包括：信息推送装置；以及用于信息推送的模型训练装置。

根据本发明一些实施例的第六个方面，提供一种信息推送装置，包括：存储器；以及耦接至存储器的处理器，处理器被配置为基于存储在存储器中的指令，执行前述任意一种信息推送方法。

根据本发明一些实施例的第七个方面，提供一种用于信息推送的模型训练装置，包括：存储器；以及耦接至存储器的处理器，处理器被配置为基于存储在存储器中的指令，执行前述任意一种用于信息推送的模型训练方法。

根据本发明一些实施例的第八个方面，提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前述任意一种信息推送方法、或者前述任意一种用于信息推送的模型训练方法。

上述发明中的一些实施例具有如下优点或有益效果。本发明的实施例有效地利用了跨域数据信息，聚合了多个数据孤岛所能学习到的知识，并结合源域预测模型的训练结果辅助目标域预测模型的训练，进一步提升了模型的泛化能力。从而，当新业务或新的应用场景上线时，本发明的实施例能够快速、准确地提供相应的预测模型。

通过以下参照附图对本发明的示例性实施例的详细描述，本发明的其它特征及其优点将会变得清楚。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1示出了根据本发明一些实施例的信息推送方法的流程示意图。

图2示出了根据本发明一些实施例的用于信息推送的模型训练方法的流程示意图。

图3示出了根据本发明一些实施例的预训练方法的流程示意图。

图4示出了根据本发明一些实施例的模型验证方法的流程示意图。

图5示出了根据本发明一些实施例的信息推送装置的结构示意图。

图6示出了根据本发明一些实施例的用于信息推送的模型训练装置的结构示意图。

图7示出了根据本发明一些实施例的信息推送系统的结构示意图。

图8示出了根据本发明一些实施例的数据处理装置的结构示意图。

图9示出了根据本发明另一些实施例的数据处理装置的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。

在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

图1示出了根据本发明一些实施例的信息推送方法的流程示意图。如图1所示，该实施例的信息推送方法包括步骤S102～S104。

在步骤S102中，获取离线系统发送的、完成训练的预测网络模型，其中，预测网络模型是利用预测网络模型的教师网络模型的预测结果、以及目标域的用户训练数据进行训练而获得的，预测模型的教师网络模型是利用源域的用户训练数据进行训练而获得的。

在一些实施例中，“域”代表不同的业务场景。源域例如为成熟的、可使用的用户数据量较大的业务场景，目标域例如为用户数据量较小的新业务场景。

例如，某公司主营业务为电子商务，其电子商务平台具有充足的用户购买数据。如果预测用户购买商品的可能性、从而为用户推荐商品，则可以利用用户购买数据训练预测模型。之后，该公司拓展了金融品类业务，原电子商务平台的部分用户也开通了金融品类业务。然而，由于开设此类业务的用户有限，如果仅依赖于用户金融业务数据训练预测模型，则很难得到高准确率的模型。此时，可以将用户购买数据视为源域的数据，将用户金融业务数据视为目标域的数据。通过借助源域的数据的训练结果，辅助目标域预测模型的训练。

在相关技术中，通常使用的神经网络模型的训练方法为：根据模型对训练数据的预测结果与标记值的差距进行训练。然而，由于目标域存在数据量不足的问题，因此考虑在训练过程中进一步借助由数据量充足的训练数据训练获得的源域预测模型。在对目标域预测模型进行训练时，不仅考虑对目标域预测模型输入数据本身的预测准确性，还考虑目标域预测模型的预测结果与源域预测模型的预测结果的差距，使得目标域预测模型能够学习到源域预测模型学习的知识。从而，在目标域的数据量较少的情况下，也能够得到具有较高准确率的目标域预测模型。关于目标域预测模型的具体训练方法将在后面的实施例中进行进一步介绍。

在一些实施例中，获取的目标域预测模型为固化图文件，在固化图文件中，通过训练确定的、所述目标域预测模型的参数被转换为常量。从而，在线系统获得了更轻量的模型文件，有助于提高新版本模型的上线效率。

在步骤S104中，利用预测网络模型，对目标域的用户待测数据进行预测，以获得对相应用户的信息推送结果。

在一些实施例中，用户待测数据包括用户的特征、产品的特征，此外还可以包括环境特征(例如时间特征、其他用户的特征、相关产品的特征、平台活动的特征等等)等等。

对相应用户的信息推送结果为是否为用户推荐产品的结果。例如，用户A的用户待测数据包括用户A的特征以及某洗发水的特征，则信息推送结果为是否为用户A推荐该洗发水。在一些实施例中，预测网络模型输出判断概率，根据判断概率和预设概率的比较结果，确定推荐结果。

在确定推荐结果后，可以利用前端应用模块和后台服务器之间的推送接口，将推荐结果以预设的信息格式发送到用户的终端。

上述实施例有效地利用了跨域数据信息，聚合了多个数据孤岛所能学习到的知识，并结合源域预测模型的训练结果辅助目标域预测模型的训练，进一步提升了模型的泛化能力。从而，当新业务或新的应用场景上线时，本发明的实施例能够快速、准确地提供相应的预测模型。

下面参考图2描述本发明用于信息推送的模型训练方法的实施例。

图2示出了根据本发明一些实施例的用于信息推送的模型训练方法的流程示意图。如图2所示，该实施例的用于信息推送的模型训练方法包括步骤S202～S206。

在一些实施例中，在进行训练过程之前，收集用户的曝光日志、点击日志、产品内容正排索引、用户画像特征日志等等。在收集这些数据后，例如通过设备号等标识进行数据融合，并去除缺少了有效的特征的脏数据，从而获得多条用户数据。在一些实施例中，还可以按照预设的比例从获得的数据中抽取正样本和负样本；此外，还可以过滤掉不符合预设条件的样本，例如对产品的浏览时常低于一定阈值的样本等等。

在步骤S202中，采用源域的用户训练数据训练源域预测模型。

在步骤S204中，将同一用户对应的源域特征数据和目标域特征数据分别输入到源域预测模型和目标域预测模型中，获得用户对应的源域预测结果和目标域预测结果。即，将某用户对应的源域特征数据输入到源域预测模型中，获得源域预测结果；再将同一用户对应的目标域特征数据输入到目标域预测模型中，获得目标域预测结果。

在步骤S206中，根据源域预测结果与目标域预测结果的差距、以及用户对应的标记值与目标域预测结果的差距，对目标域预测模型的参数进行调整。

在一些实施例中，基于目标域预测模型的损失函数，对目标域预测模型的参数进行调整，其中，目标域预测模型的损失函数包括源域预测结果与目标域预测结果的交叉熵、以及用户对应的标记值与目标域预测结果的交叉熵。例如，将公式(1)作为目标域预测模型的损失函数。

L＝CE(y,pred)+αCE(q,pred) (1)

在公式(1)中，L表示损失函数的值；CE(*,*)表示对括号内两个变量计算交叉熵；y表示标记值；pred表示目标域预测结果；q表示源域预测结果；α表示预设参数。

在一些实施例中，q的值通过公式(2)代表的softmax层确定。

在公式(2)中，q

在一些实施例中，用户对应的源域预测结果和目标域预测结果是同一物品所关联的推荐结果。

例如，某个用户即在作为源域的电子商务平台具有用户购买数据，又在作为目标域的金融业务平台具有金融业务数据。设针对某手机进行推荐。则该用户对应的源域预测结果例如为是否为用户推荐手机，该用户对应的目标域预测结果例如为是否为用户推荐分期购买手机的金融业务。如果针对同一用户和同一物品，源域预测结果和目标域预测结果均为推荐，则可以认为源域预测模型和目标域预测模型的输出值是相同的。

在一些实施例中，目标域预测模型的复杂度高于源域预测模型的复杂度。模型的复杂度例如通过模型的层数、具有预设机制(例如注意力机制)的层的数量、参数数量等等。

在一些实施例中，目标域预测模型的输入数据的维度数大于源域预测模型的输入数据的维度数。

在相关技术中，往往在后训练的模型的复杂度低于在先训练的模型的复杂度，或者在后训练的模型相较于在先训练的模型，处理更低维度的数据。这是为了便于在后训练的模型符合轻量级运行的要求，例如将服务器端的模型移植到移动终端中运行时，需要考虑移动终端的计算能力、存储能力和数据处理能力。然而，本发明的实施例应用于数据跨域学习的场景中，因此目标域预测模型的复杂度可以高于源域预测模型的复杂度，目标域预测模型的输入数据也可以是更复杂的数据。从而，即使对于新的业务场景，也能够实现较为复杂的信息推送思路。

在一些实施例中，为了进一步提升训练目标域预测模型的效率，源域预测模型使用尽可能少的输入维度。为了在提升训练效率的同时还保证训练的准确性，在一些实施例中，通过预训练的过程获得源域预测模型。下面参考图3描述本发明预训练方法的实施例。该实施例的训练思想与训练目标域预测模型的思路类似，都是借助一个模型的训练结果提升另一个模型的训练准确度。

图3示出了根据本发明一些实施例的预训练方法的流程示意图。如图3所示，该实施例的预训练方法包括步骤S302～S310。

在步骤S302中，获取多个用户中的每一个对应的第一特征数据和第二特征数据，其中，同一用户对应的第二特征数据包括第一特征数据的部分维度的特征。

在一些实施例中，第一特征数据和第二特征数据都是源域的数据，区别在于二者的特征数量不同。例如，第一特征数据为1000维的用户购买数据，则第二特征数据取其中的部分维度，形成100维的用户购买数据。

在步骤S304中，采用第一特征数据训练第一预备模型。

在步骤S306中，将同一用户对应的第一特征数据和第二特征数据分别输入到第一预备模型和第二预备模型中，获得用户对应的第一预备模型预测结果和第二预备模型预测结果。

在步骤S308中，根据第一预备模型预测结果与第二预备模型预测结果的差距、以及用户对应的标记值与第一预备模型预测结果的差距，对第二预备模型的参数进行调整。

例如，参考目标域预测模型的训练过程，该差距可以通过交叉熵来体现。在一些实施例中，基于第二预备模型的损失函数，对第二预备模型的参数进行调整，其中，第二预备模型的损失函数包括第一预备模型预测结果与第二预备模型预测结果的交叉熵、以及该用户对应的标记值与第二预备模型预测结果的交叉熵。例如，将公式(3)作为目标域预测模型的损失函数。

L

在公式(3)中，L

第二预备网络虽然具有较少的输入维度，但其在训练过程中还学习了由更多维度的数据训练获得的第一预备网络的训练结果。因此，使得第二预备网络也有较高的预测准确率。

在一些实施例中，第一预备模型和第二预备模型除输入层不同以外，具有相同的网络模型结构。从而，可以使得第二预备模型的训练过程更关注对未使用特征的知识提取。

在步骤S310中，将调整后的第二预备模型作为源域预测模型。在经过多次调整迭代后，第二预备模型完成训练。

在一些实施例中，还可以对完成训练的第二预备模型进行测试。如果测试准确率大于预设值，则将第二预备模型作为源域预测模型。如果测试准确率不大于预设值，可以选择重新训练；或者可以认为第二预备模型的输入特征不足以表征用户，需要重新选择特征作为第二预备模型的输入特征。

在通过上述预训练过程获得第二预备模型、进而确定源域预测模型后，可以使得源域预测模型使用较少的输入特征、但具备与多维特征表征的模型相当的预测准确率，从而间接提高了目标域预测模型的训练效率。

在一些实施例中，目标域预测模型的训练流程以及信息推送流程可以分别部署在离线系统和在线系统。离线系统可以通过在业务进行过程中积累的数据定期更新训练的目标域预测模型，并将其发送给在线系统进行应用。

在一些实施例中，在线系统在更新目标域预测模型前，还可以对其先行校验。下面参考图4描述本发明模型验证方法的实施例。

图4示出了根据本发明一些实施例的模型验证方法的流程示意图。如图4所示，该实施例的模型验证方法包括步骤S402～S408。

在步骤S402中，定期获取离线系统发送的、完成训练的目标域预测模型以及目标域预测模型的编码值。在一些实施例中，该编码值为MD5编码值。

在步骤S404中，在获取的预测网络模型的编码值与当前使用的目标域预测模型的编码值不同的情况下，通过对获取的目标域预测模型的版本验证。

例如，离线系统将最新训练的某版本的目标域预测模型发送了两次。在第一次发送后，在线系统就已经将其上线使用。当第二次发送时，如果在线系统将同样的模型又重复执行了上线流程，则会影像系统效率、浪费系统资源。因此，通过验证编码值，避免了重复上线的情况，节约了系统资源。

在步骤S406中，基于版本验证结果，确定对获取的目标域预测模型的上线验证结果。

在一些实施例中，上线验证还包括模型验证，用于验证获取的目标域预测模型的预设参数的值是否在预设范围内，例如查看关键参数是否为空等等。从而，可以及时发现发送对象错误或者传输错误，提高了系统的稳定性。

在步骤S408中，在对获取的目标域预测模型的上线验证通过的情况下，采用获取的目标域预测模型替换当前使用的目标域预测模型。

通过上述验证过程，可以提高模型上线过程的稳定性。

下面参考图5描述信息推送装置的实施例。

图5示出了根据本发明一些实施例的信息推送装置的结构示意图。如图5所示，该实施例的信息推送装置500包括：获取模块5100，被配置为获取离线系统发送的、完成训练的目标域预测模型，其中，目标域预测模型是利用源域预测模型的预测结果、以及目标域的用户训练数据进行训练而获得的，源域预测模型是利用源域的用户训练数据进行训练而获得的；预测模块5200，被配置为利用目标域预测模型，对目标域的用户待测数据进行预测，以获得对相应用户的信息推送结果。

在一些实施例中，获取模块5100进一步被配置为定期获取离线系统发送的、完成训练的目标域预测模型以及所述目标域预测模型的编码值；信息推送装置500还包括：验证模块5300，被配置为在获取的预测网络模型的编码值与当前使用的目标域预测模型的编码值不同的情况下，通过对获取的目标域预测模型的版本验证；以及，在对所述获取的目标域预测模型的上线验证通过的情况下，采用所述获取的目标域预测模型替换所述当前使用的目标域预测模型，其中，所述上线验证包括所述版本验证。

在一些实施例中，上线验证还包括模型验证，验证模块5300进一步被配置为在所述获取的目标域预测模型的预设参数的值在预设范围内的情况下，通过对所述获取的目标域预测模型的模型验证。

在一些实施例中，获取的目标域预测模型为固化图文件，在所述固化图文件中，通过训练确定的、所述目标域预测模型的参数被转换为常量。

在一些实施例中，用户待测数据包括用户的特征、产品的特征，所述对相应用户的信息推送结果为是否为所述用户推荐所述产品的结果。

下面参考图6描述本发明用于信息推送的模型训练装置的实施例。

图6示出了根据本发明一些实施例的用于信息推送的模型训练装置的结构示意图。如图6所示，该实施例的模型训练装置600包括：源域训练模块6100，被配置为采用源域的用户训练数据训练源域预测模型；以及，目标域训练模块6200，被配置为将同一用户对应的源域特征数据和目标域特征数据分别输入到所述源域预测模型和目标域预测模型中，获得所述用户对应的源域预测结果和目标域预测结果；以及，根据所述源域预测结果与所述目标域预测结果的差距、以及所述用户对应的标记值与所述目标域预测结果的差距，对所述目标域预测模型的参数进行调整。

在一些实施例中，目标域训练模块6200进一步被配置为基于目标域预测模型的损失函数，对所述目标域预测模型的参数进行调整，其中，目标域预测模型的损失函数包括所述源域预测结果与所述目标域预测结果的交叉熵、以及所述用户对应的标记值与所述目标域预测结果的交叉熵。

在一些实施例中，目标域预测模型的复杂度高于所述源域预测模型的复杂度。

在一些实施例中，目标域预测模型的输入数据的维度数大于所述源域预测模型的输入数据的维度数。

在一些实施例中，源域训练模块6100进一步被配置为获取多个用户中的每一个对应的第一特征数据和第二特征数据，其中，同一用户对应的所述第二特征数据包括所述第一特征数据的部分维度的特征；采用第一特征数据训练第一预备模型；将同一用户对应的第一特征数据和第二特征数据分别输入到所述第一预备模型和第二预备模型中，获得所述用户对应的第一预备模型预测结果和第二预备模型预测结果；根据所述第一预备模型预测结果与所述第二预备模型预测结果的差距、以及所述用户对应的标记值与所述第一预备模型预测结果的差距，对所述第二预备模型的参数进行调整；将调整后的第二预备模型作为所述源域预测模型。

在一些实施例中，第一预备模型和所述第二预备模型除输入层不同以外，具有相同的网络模型结构。

在一些实施例中，用户对应的源域预测结果和目标域预测结果是同一物品所关联的推荐结果。

下面参考图7描述本发明信息推送系统的实施例。

图7示出了根据本发明一些实施例的信息推送系统的结构示意图。如图7所示，该实施例的信息推送系统70包括信息推送装置500和用于信息推送的模型训练装置600。

在一些实施例中，信息推送装置500部署于信息推送系统70的在线系统，模型训练装置600部署于信息推送系统70的离线系统。

图8示出了根据本发明一些实施例的数据处理装置的结构示意图，该数据处理装置为信息推送装置或者用于信息推送的模型训练装置。如图8所示，该实施例的数据处理装置80包括：存储器810以及耦接至该存储器810的处理器820，处理器820被配置为基于存储在存储器810中的指令，执行前述任意一个实施例中的信息推送方法或者用于信息推送的模型训练方法。

其中，存储器810例如可以包括系统存储器、固定非易失性存储介质等。系统存储器例如存储有操作系统、应用程序、引导装载程序(Boot Loader)以及其他程序等。

图9示出了根据本发明另一些实施例的数据处理装置的结构示意图，该数据处理装置为信息推送装置或者用于信息推送的模型训练装置。如图9所示，该实施例的数据处理装置90包括：存储器910以及处理器920，还可以包括输入输出接口930、网络接口940、存储接口950等。这些接口930，940，950以及存储器910和处理器920之间例如可以通过总线960连接。其中，输入输出接口930为显示器、鼠标、键盘、触摸屏等输入输出设备提供连接接口。网络接口940为各种联网设备提供连接接口。存储接口950为SD卡、U盘等外置存储设备提供连接接口。

本发明的实施例还提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现前述任意一种信息推送方法或者用于信息推送的模型训练方法。

本领域内的技术人员应当明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用非瞬时性存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解为可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。