可配置的数据迁移方法、装置、设备和介质

技术领域

本公开涉及计算机技术领域及数据处理技术领域，更具体地，涉及一种可配置的数据迁移方法、装置、设备和介质。

背景技术

随着云平台技术的不断成熟和大规模推广使用，有时需要在不同系统之间进行数据迁移。例如，金融行业通过网络提供软件服务(Software-as-a-Service，SAAS)的产品及客制化产品日益增多，一些科技实力较强的金融企业逐步开始向中小金融企业输出与SAAS金融产品及客制化产品等相关的一整套金融解决方案，这就面临将中小金融企业的现有系统中的数据迁移到SAAS金融产品及客制化产品系统中。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：异构系统之间进行数据迁移的过程，存在研发成本高，执行效率低的问题。

发明内容

有鉴于此，本公开提供了一种可配置的数据迁移方法、装置、设备和介质。

本公开的第一个方面提供了一种可配置的数据迁移方法，包括：

通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，上述配置信息包括数据存储位置信息、数据验证信息和数据装载信息；

利用控制调度装置基于上述待迁移数据的配置信息生成数据迁移工作流，其中，上述数据迁移工作流至少包括多个迁移步骤的定义和多个上述迁移步骤之间的调度顺序；

根据上述数据迁移工作流将上述待迁移数据从源系统迁移至目标系统。

根据本公开的实施例，上述规则配置装置包括配置存储单元和配置维护单元，上述通过调用规则配置装置的接口获得待迁移数据的配置信息包括：

获取上述配置存储单元中存储的与待迁移数据对应的配置信息；

其中，上述配置存储单元为分布式缓存，上述配置维护单元用于供开发端维护上述配置存储单元中已存储的上述配置信息。

根据本公开的实施例，上述配置信息中的上述数据存储位置信息通过如下方式配置得到：

确定业务端利用上述源系统办理目标业务时所处的办理位置，其中，上述目标业务与上述待迁移数据相关联；

确定在办理上述目标业务的过程中产生上述待迁移数据的各个子数据的顺序；

根据上述办理位置和产生上述待迁移数据的各个子数据的顺序，配置上述数据存储位置信息。

根据本公开的实施例，上述控制调度装置包括调度配置单元、调度执行单元和调度控制单元，上述利用控制调度装置基于上述待迁移数据的配置信息生成数据迁移工作流包括：

利用上述调度配置单元生成并保存上述数据迁移工作流；

利用上述调度执行单元基于上述数据迁移工作流协调多个迁移装置迁移上述待迁移数据；

利用上述调度控制单元提供上述数据迁移工作流执行情况界面和用于控制上述数据迁移工作流的运行状态的操作界面。

根据本公开的实施例，上述根据上述数据迁移工作流将上述待迁移数据从源系统迁移至目标系统包括：

根据上述待迁移数据的配置信息，从上述源系统获取第一迁移数据，上述第一迁移数据表征上述待迁移数据经过验证符合上述源系统的格式要求的数据；

将上述第一迁移数据转换为与上述目标系统的数据格式一致的第二迁移数据；

对上述第二迁移数据进行数据验证，得到第三迁移数据，其中，上述第三迁移数据表征上述第二迁移数据中通过验证的数据；

将上述第三迁移数据迁移至上述目标系统。

根据本公开的实施例，上述根据上述待迁移数据的配置信息，从上述源系统获取第一迁移数据包括：

利用数据采集装置从上述源系统获取上述待迁移数据；

利用数据检查装置对上述待迁移数据进行校验，得到上述第一迁移数据。

根据本公开的实施例，上述将上述第一迁移数据转换为与上述目标系统的数据格式一致的第二迁移数据包括：

利用第一缓冲装置根据与上述第一迁移数据对应的数据主题对上述第一迁移数据进行缓存；

利用消费装置根据上述数据主题从上述第一缓冲装置获取上述第一迁移数据，并将上述第一迁移数据发送给第二缓冲装置；

利用上述第二缓冲装置根据上述数据主题对上述第一迁移数据进行数据转换，得到上述第二迁移数据，并存储上述第二迁移数据。

根据本公开的实施例，上述第三迁移数据包括第五迁移数据和第六迁移数据，上述对上述第二迁移数据进行数据验证，得到第三迁移数据包括：

利用数据验证装置根据上述数据验证信息中存储的上述目标系统的数据格式对上述第二迁移数据进行验证，得到第四迁移数据及第一重载范围；

根据上述第一迁移数据，对上述第四迁移数据进行汇总验证，得到第五迁移数据及第二重载范围；

对上述第一重载范围及上述第二重载范围内的上述第二迁移数据进行明细验证，得到第六迁移数据。

根据本公开的实施例，上述可配置的数据迁移方法还包括：

对上述第一重载范围和上述第二重载范围内的上述第二迁移数据进行明细验证，得到第三重载范围；

对与上述第三重载范围对应的上述待测数据进行重新迁移。

本公开的第二个方面提供了一种可配置的数据迁移装置，包括：

配置信息获取模块，用于通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，上述配置信息包括数据存储位置信息、数据验证信息和数据装载信息；

工作流生成模块，用于利用控制调度装置基于上述待迁移数据的配置信息生成数据迁移工作流，其中，上述数据迁移工作流至少包括多个迁移步骤的定义和多个上述迁移步骤之间的调度顺序；

数据迁移模块，用于根据上述数据迁移工作流将上述待迁移数据从源系统迁移至目标系统。

本公开的第三个方面提供了一种电子设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个指令，

其中，当上述一个或多个指令被上述一个或多个处理器执行时，使得上述一个或多个处理器实现如上所述的方法。

本公开的第四个方面提供了一种计算机可读存储介质，其上存储有可执行指令，上述指令被处理器执行时使处理器实现如上所述的方法。

本公开的第五个方面提供了一种计算机程序产品，上述计算机程序产品包括计算机可执行指令，上述指令在被执行时用于实现如上所述的方法。

根据本公开的实施例，通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，配置信息包括数据存储位置信息、数据验证信息和数据装载信息，实现根据数据存储位置信息得到待迁移数据的迁移范围及迁移顺序信息，根据数据验证信息得到验证待迁移数据的验证规则信息，根据数据装载信息得到在迁移待迁移数据的过程中，缓存待迁移数据的缓存集群信息及数据主题信息，然后利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，根据数据迁移工作流将待迁移数据从源系统迁移至目标系统，实现针对迁移范围内的待迁移数据，按照预先配置的迁移顺序进行迁移及验证，在保证待迁移数据的正确性的前提下，提高数据迁移的效率。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的可配置的数据迁移方法、装置的应用场景图；

图2示意性示出了根据本公开实施例的可配置的数据迁移方法的流程图；

图3示意性示出了根据本公开另一实施例的可配置的数据迁移方法的流程图；

图4示意性示出了根据本公开又一实施例的可配置的数据迁移方法的流程图；

图5示意性示出了数据验证信息中配置了暂停工作流的情况下，应用数据迁移方法迁移数据的示意图；

图6示意性示出了数据验证信息中配置了不暂停工作流的情况下，应用数据迁移方法迁移数据的示意图；

图7示意性示出了根据本公开的实施例的可配置的数据迁移装置的框图；以及

图8示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

在本公开的技术方案中，所涉及的数据(包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。

在本公开的技术方案中，在获取或采集用户个人信息之前，均获取了用户的授权或同意。

异构系统间进行数据迁移的过程，存在研发成本高，执行效率低的问题。基于此，本公开提供了一种可配置的数据迁移方法、装置、设备和介质。

本公开的实施例提供了一种可配置的数据迁移方法，该方法包括：通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，配置信息包括数据存储位置信息、数据验证信息和数据装载信息；利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，其中，数据迁移工作流至少包括多个迁移步骤的定义和多个迁移步骤之间的调度顺序；根据数据迁移工作流将待迁移数据从源系统迁移至目标系统。

根据本公开的实施例，通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，配置信息包括数据存储位置信息、数据验证信息和数据装载信息，实现根据数据存储位置信息得到待迁移数据的迁移范围及迁移顺序信息，根据数据验证信息得到验证待迁移数据的验证规则信息，根据数据装载信息得到在迁移待迁移数据的过程中，缓存待迁移数据的缓存集群信息及数据主题信息，然后利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，根据数据迁移工作流将待迁移数据从源系统迁移至目标系统，实现针对迁移范围内的待迁移数据，按照预先配置的迁移顺序进行迁移及验证，在保证待迁移数据的正确性的前提下，提高数据迁移的效率。

图1示意性示出了根据本公开实施例的可配置的数据迁移方法、装置的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括终端设备101和102、网络103与服务集群104、105和106。网络103用以在终端设备101和102与服务集群104、105和106之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101和102通过网络104与服务集群104、105和106交互，以接收或发送消息等。终端设备101、102上可以安装有各种与与服务集群104、105和106进行通讯的应用，例如购物类应用、搜索类应用、即时通信工具、邮箱客户端等(仅为示例)。

终端设备101和102可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于平板电脑、膝上型便携计算机和台式计算机等等。

服务集群104、105和106均由多个服务器组成，可以对接收到的用户请求等数据进行分析等处理，并将处理结果反馈给终端设备。例如，可以将源系统中的业务数据存储于服务器群组104中，服务器群组104可以根据接收到的用户请求等数据进行分析，对源系统中的业务数据进行存取操作，将目标系统中的业务数据存储于服务器群组105中，服务器群组105可以根据接收到的用户请求等数据进行分析，对目标系统中的业务数据进行存取操作，将数据迁移过程中的待迁移数据存储于服务器群组106中，服务器群组106可以根据接收到的用户请求等数据进行分析，对数据迁移过程中的待迁移数据进行存取与验证分析等操作，然后服务集群104、105和106将处理结果反馈给终端设备。

需要说明的是，本公开实施例所提供的可配置的数据迁移方法一般可以由服务器群组104、105和106执行。相应地，本公开实施例所提供的可配置的数据迁移装置一般可以设置于服务器服务器群组104、105和106中。本公开实施例所提供的可配置的数据迁移方法也可以由不同于服务器群组104、105和106且能够与终端设备101、102和/或服务器群组104、105和106通信的服务器或服务器集群执行。相应地，本公开实施例所提供的可配置的数据迁移装置也可以设置于不同于服务器服务器群组104、105和106且能够与终端设备101、102和/或服务器群组104、105和106通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络、服务器和服务器群组的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络、服务器和服务器群组。

图2示意性示出了根据本公开实施例的可配置的数据迁移方法的流程图。

如图2所示，该方法包括操作S201～S203。

在操作S201，通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，配置信息包括数据存储位置信息、数据验证信息和数据装载信息。

根据本公开的实施例，待迁移数据表征存储于源系统中，需要迁移到目标系统中的数据。

根据本公开的实施例，数据存储位置信息包括待迁移数据在源系统中的存储位置信息及在目标系统中的存储位置信息。根据本公开的实施例，待迁移数据可以包括多个子数据，因此，数据存储位置信息可以包括多个子数据在源系统中的存储位置信息及在目标系统中的存储位置信息，根据多个子数据的存储位置信息在数据存储位置信息中的存储顺序，可以确定多个子数据的迁移顺序。因此，通过获取数据存储位置信息可以确定待迁移数据的迁移范围及迁移顺序。

根据本公开的实施例，数据验证信息表征验证待迁移数据的正确性的规则。数据验证信息包括在采集到待迁移数据后，验证待迁移数据是否完整，是否符合源系统的格式的规则，在将待迁移数据的数据格式由源系统格式转换为目标系统的格式后，验证待迁移数据是否完整、正确及是否符合目标系统的规则。

根据本公开的实施例，数据装载信息表征在迁移待迁移数据的过程中缓存待迁移数据的存储信息。数据装载信息包括缓存待迁移数据的缓冲集群的存储位置信息及与待迁移数据对应的的数据主题信息。

根据本公开的实施例，在迁移待迁移数据前，需要对待迁移数据的配置信息进行配置，明确待迁移数据的数据存储位置信息、数据验证信息和数据装载信息，即明确待迁移数据的迁移范围、迁移顺序信息、验证规则信息及在迁移待迁移数据的过程中，缓存待迁移数据的缓存集群信息及数据主题信息。

在操作S202，利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，其中，数据迁移工作流至少包括多个迁移步骤的定义和多个迁移步骤之间的调度顺序。

根据本公开的实施例，迁移步骤可以包括数据采集、数据验证、数据缓存、数据转换等，多个步骤可以根据控制调度装置生成的调度顺序，多次执行。

根据本公开的实施例，例如，控制调度装置可以根据配置信息中的数据存储位置信息，调度数据采集装置从源系统中采集待迁移数据，然后根据数据验证信息，调度数据验证装置对待迁移数据进行正确性验证，在验证待迁移数据完整且符合源系统的格式后，根据数据装载信息，调度第一数据缓冲装置存储待迁移数据，接着调度消费装置将第一迁移数据发送给第二缓冲装置，根据数据验证信息，调度第二缓冲装置对待迁移数据进行转换并验证，得到符合目标系统的数据格式的待迁移数据，然后将符合目标系统的数据格式的待迁移数据存储于目标系统中。

根据本公开的实施例，在验证待迁移数据不完整、不符合源系统的格式或不符合目标系统的格式的情况下，控制调度装置可以根据数据验证信息决定继续迁移待迁移数据的工作流或对待迁移数据进行重新迁移。重新迁移即为对待迁移数据进行修正、重配置配置信息或对待迁移数据进行修正且重配置配置信息后，对待迁移数据进行重新迁移。

在操作S203，根据数据迁移工作流将待迁移数据从源系统迁移至目标系统。

根据本公开的实施例，源系统及目标系统的数量可以为多个，可以通过调用规则配置装置的接口获得待迁移数据的配置信息，利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，实现根据数据迁移工作流将待迁移数据从多个源系统迁移至多个目标系统。

根据本公开的实施例，通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，配置信息包括数据存储位置信息、数据验证信息和数据装载信息，实现根据数据存储位置信息得到待迁移数据的迁移范围及迁移顺序信息，根据数据验证信息得到验证待迁移数据的验证规则信息，根据数据装载信息得到在迁移待迁移数据的过程中，缓存待迁移数据的缓存集群信息及数据主题信息，然后利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，根据数据迁移工作流将待迁移数据从源系统迁移至目标系统，实现针对迁移范围内的待迁移数据，按照预先配置的迁移顺序进行迁移及验证，在保证待迁移数据的正确性的前提下，提高数据迁移的效率。

根据本公开的实施例，规则配置装置包括配置存储单元和配置维护单元，针对如图2所示的S201，通过调用规则配置装置的接口获得待迁移数据的配置信息，可以包括如下操作：

获取配置存储单元中存储的与待迁移数据对应的配置信息；

其中，配置存储单元为分布式缓存，配置维护单元用于供开发端维护配置存储单元中已存储的配置信息。

根据本公开的实施例，配置存储单元可以为分布式缓存redis，还可以为分布式缓存Memcached，本公开的实施例不对具体的分布式缓存做限定，可以根据实际情况进行选择。

根据本公开的实施例，配置存储单元例如可以为分布式缓存redis。由于redis是内存数据库，redis的数据是存在内存中的，所以对redis进行读写数据的速度均非常快，故将配置存储单元设置为分布式缓存redis可以加快获得待迁移数据的配置信息的速度。

根据本公开的实施例，在配置存储单元为分布式缓存redis的情况下，可以使配置存储单元中存储的与待迁移数据对应的配置信息持久化存储，即在迁移待迁移数据的过程中，在迁移程序关闭或其它原因导致内存被收回的情况下，将存储在内存中的配置信息保存到磁盘上，在迁移程序恢复后，将配置信息重新由磁盘加载到内存中，避免配置信息的丢失，减少开发端维护配置存储单元中存储的配置信息的维护次数及时间，提高迁移待迁移数据的效率。

根据本公开的实施例，配置信息中的数据存储位置信息通过如下方式配置得到：

确定业务端利用源系统办理目标业务时所处的办理位置，其中，目标业务与待迁移数据相关联；

确定在办理目标业务的过程中产生待迁移数据的各个子数据的顺序；

根据办理位置和产生待迁移数据的各个子数据的顺序，配置数据存储位置信息。

根据本公开的实施例，源系统可以包括多个业务，可以将源系统包括的多个业务中的任意一个作为目标业务。

根据本公开的实施例，例如，源系统可以包括贷款业务，存款业务，投资理财业务三个业务，此时可以将贷款业务，存款业务，投资理财业务中的任意一个作为目标业务。

根据本公开的实施例，例如可以根据省级名称、市级名称、区级名称、县级名称或者地方名称，确定业务端利用源系统办理目标业务时所处的办理位置，本公开的实施例不对具体的办理位置的划分方法做限定，可以根据实际情况进行选择。

根据本公开的实施例，例如，业务端利用源系统办理贷款业务时所处的办理位置可以为A省、B省与C省，此时，可以将与贷款业务对应的数据根据A省、B省与C省划分为三部分，形成三个待迁移数据，将与该三个待迁移数据对应的源系统及目标系统的存储位置信息配置到数据存储位置信息中。

根据本公开的实施例，在确定业务端利用源系统办理目标业务时所处的办理位置后，可以根据办理目标业务时所处的办理位置将目标业务下的数据划分为多个数据范围，形成多个待迁移数据，然后将与多个待迁移数据对应的源系统及目标系统的存储位置信息配置到数据存储位置信息中，后续可以根据数据存储位置信息分步将多个待迁移数据由源系统迁移到目标系统中，实现对同一个目标业务下的多个待迁移数据进行数据隔离，在多个待迁移数据中的一个待迁移数据在迁移过程中出现问题的情况下，不会影响到其它待迁移数据的迁移过程，使得其它待迁移数据的迁移过程还能够正常运行，提高迁移同一个目标业务下的待迁移数据的效率。

根据本公开的实施例，待迁移数据的范围可以为与目标业务对应的所有数据。

根据本公开的实施例，待迁移数据可以包括多个子数据，子数据的范围可以为与目标业务相关的同一类的数据。

根据本公开的实施例，例如，目标业务可以为贷款业务，在办理贷款业务的过程中，先产生贷款人员的资料数据，然后产生贷款信用数据，接着产生贷款金额数据。因此，办理贷款业务的过程中，会按顺序产生贷款人员的资料数据、贷款信用数据及贷款金额数据。

根据本公开的实施例，可以将目标业务下的贷款人员的资料数据作为第一类数据，形成第一个子数据，将目标业务下的贷款信用数据作为第二类数据，形成第二个子数据，将目标业务下的贷款金额数据作为第三类数据，形成第三个子数据，形成与贷款业务相关联的三个子数据，三个子数据可以作为一个待迁移数据。

根据本公开的实施例，一些目标业务下的多个子数据是有关联关系的，即先产生的子数据发生变化会影响后产生的子数据跟着发生变化，因此，在迁移待迁移数据的过程中，如果将多个子数据作为一个整体进行迁移，在先产生的子数据发生错误的情况下，会导致后产生的子数据也发生错误，这样需要对多个子数据中的数据进行检查，来确认发生错误的数据范围，增大检查范围及迁移数据的范围，降低迁移数据的效率。

根据本公开的实施例，可以根据在办理目标业务的过程中产生待迁移数据的各个子数据的顺序配置数据存储位置信息，后续可以实现根据存储位置信息中配置的各个子数据的顺序，将各个子数据按顺序进行迁移，实现隔离各个子数据，即在迁移过程中，在先产生的子数据发生错误的情况下，对先产生的子数据进行检查及重新迁移，在先产生的子数据迁移成功的情况下，然后再将后产生的子数据进行迁移，使得后产生的子数据不受先产生的子数据的影响，缩小数据迁移过程中检查出错数据的范围及重新迁移数据的范围，提高迁移效率。

根据本公开的实施例，可以根据办理位置配置数据存储位置信息，还可以根据产生待迁移数据的各个子数据的顺序配置数据存储位置信息，还可以根据办理位置和产生待迁移数据的各个子数据的顺序共同配置数据存储位置信息，具体采用哪种配置方式可以根据实际情况进行选择。

根据本公开的实施例，例如，在待迁移数据中的多个子数据间的没有关联关系，数据出现问题不会相互影响的情况下，可以仅选择办理位置配置数据存储位置信息，在多个子数据间的有关联关系，数据出现问题会相互影响的情况下，选择根据产生待迁移数据的各个子数据的顺序配置数据存储位置信息或根据办理位置和产生待迁移数据的各个子数据的顺序共同配置数据存储位置信息。

根据本公开的实施例，还可以根据办理目标业务的客户类型配置数据存储位置信息，实现将待迁移数据更细致的划分为多个子数据，具体采用哪种信息配置数据存储位置信息可以根据实际情况进行选择。

根据本公开的实施例，客户类型例如可以为大型企业、中型企业、小企业、微型企业。

根据本公开的实施例，通过确定业务端利用源系统办理目标业务时所处的办理位置，确定在办理目标业务的过程中产生待迁移数据的各个子数据的顺序，然后根据办理位置和产生待迁移数据的各个子数据的顺序，配置数据存储位置信息，可以实现利用数据存储位置信息记录各个子数据的迁移顺序，在后续根据存储位置信息中记录的各个子数据的顺序，将各个子数据由源系统迁移至目标系统的过程中，实现隔离各个子数据，缩小数据迁移过程中检查出错数据的范围及重新迁移数据的范围，提高迁移效率。

根据本公开的实施例，控制调度装置包括调度配置单元、调度执行单元和调度控制单元，针对如图2所示的S202，利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，可以包括如下操作：

利用调度配置单元生成并保存数据迁移工作流；

利用调度执行单元基于数据迁移工作流协调多个迁移装置迁移待迁移数据；

利用调度控制单元提供数据迁移工作流执行情况界面和用于控制数据迁移工作流的运行状态的操作界面。

根据本公开的实施例多个迁移装置可以包括采集装置、数据检查装置、第一缓冲装置、消费装置、第二缓冲装置以及数据验证装置。

根据本公开的实施例，利用调度执行单元基于数据迁移工作流协调多个迁移装置迁移待迁移数据可以包括：协调采集装置与数据检查装置间进行数据传输、数据检查装置与第一缓冲装置间进行数据传输、第一缓冲装置与消费装置间进行数据传输、消费装置与第二缓冲装置间进行数据传输以及第一缓冲装置和第二缓冲装置与数据验证装置间进行数据传输。

根据本公开的实施例，例如可以利用调度执行单元获取由第一缓冲装置配置的数据装载信息，然后将数据装载信息提供给消费装置、第一缓冲装置以及数据验证装置使用。

根据本公开的实施例，通过利用调度配置单元生成并保存数据迁移工作流，利用调度执行单元基于数据迁移工作流协调多个迁移装置迁移待迁移数据，实现基于数据迁移工作流协调多个迁移装置迁移待迁移数据的速度，使得多个迁移装置可以对待迁移数据进行有序迁移，利用调度控制单元提供数据迁移工作流执行情况界面和用于控制数据迁移工作流的运行状态的操作界面，方便运维人员利用数据迁移工作流执行情况界面随时查看数据迁移情况，并根据数据迁移情况利用控制数据迁移工作流的运行状态的操作界面对迁移工作流进行控制，使得运维人员可以对数据迁移过程中的一些预料不到的异常错误及时处理，减小预料不到的异常错误对数据迁移的整体影响。

根据本公开的实施例，针对如图2所示的S203，根据数据迁移工作流将待迁移数据从源系统迁移至目标系统，可以包括如下操作：

根据待迁移数据的配置信息，从源系统获取第一迁移数据，第一迁移数据表征待迁移数据经过验证符合源系统的格式要求的数据；

将第一迁移数据转换为与目标系统的数据格式一致的第二迁移数据；

对第二迁移数据进行数据验证，得到第三迁移数据，其中，第三迁移数据表征第二迁移数据中通过验证的数据；

将第三迁移数据迁移至目标系统。

根据本公开的实施例，根据待迁移数据的配置信息，从源系统获取第一迁移数据，第一迁移数据表征待迁移数据经过验证符合源系统的格式要求的数据，将第一迁移数据转换为与目标系统的数据格式一致的第二迁移数据，对第二迁移数据进行数据验证，得到第三迁移数据，第三迁移数据表征第二迁移数据中通过验证的数据，将第三迁移数据迁移至目标系统，实现将既符合源系统的数据格式又符合目标系统的数据格式的待迁移数据由目标系统迁移至目标系统，保证了迁移到目标系统中的待迁移数据的正确性。

根据本公开的实施例，根据待迁移数据的配置信息，从源系统获取第一迁移数据包括：

利用数据采集装置从源系统获取待迁移数据；

利用数据检查装置对待迁移数据进行校验，得到第一迁移数据。

根据本公开的实施例，数据采集装置可以包括数据采集单元及数据发送单元。

根据本公开的实施例，利用数据采集装置从源系统获取待迁移数据可以包括：利用数据采集单元从控制调度装置中获取数据存储位置信息、数据验证信息，然后根据数据存储位置信息获取待迁移数据的存储位置及迁移顺序，根据数据验证信息获取待迁移数据在源系统中的存储格式，然后根据待迁移数据的迁移顺序，从源系统存储待迁移数据的存储位置处，按照待迁移数据的存储格式读取待迁移数据。

根据本公开的实施例，利用数据采集装置从源系统获取待迁移数据还可以包括：利用数据发送单元将待迁移数据发送至数据检查装置。

根据本公开的实施例，数据检查装置可以包括数据检查单元及数据发送单元。

根据本公开的实施例，利用数据检查装置对待迁移数据进行校验，得到第一迁移数据可以包括：数据检查单元从控制调度装置中获取数据验证信息，然后根据数据验证信息对待迁移数据的格式进行校验，得到第一迁移数据。

根据本公开的实施例，根据数据验证信息对待迁移数据的格式进行校验例如可以为：对待迁移数据进行数据非空检查、数据枚举检查、数据范围检查、数据关联检查、数据总分检查及数据是否拦截检查，具体应用哪种或哪几种检验的形式可以根据实际情况进行选择，本公开的实施例不对具体的数据校验的形式进行限定。

根据本公开的实施例，数据非空检查表征检查应该有数据的位置是否缺数据。

根据本公开的实施例，枚举检查表征在源系统的数据类型为固定几种类型的情况下，检查待迁移数据是否符合源系统的数据类型。例如，源系统中的数据类型为A及B两种，在验证待迁移数据的过程出现C类型，此时，待迁移数据不符合源系统的数据类型。

根据本公开的实施例，数据范围检查表征检查数据的数值大小是否符合源系统的数据范围。例如贷款金额数据上限为1000万，在迁移贷款金额数据的过程中，需要验证贷款金额数据是否小于等于1000万。

根据本公开的实施例，数据总分检查表征对待迁移数据的数据总数或数值总数进行检查。

根据本公开的实施例，数据关联检查表征对一些有关联且必须一起迁移的数据进行的是否缺数据的检查。例如数据A与B必须一起进行迁移，此时需要检查待迁移数据中是否包括A与B两种数据。

根据本公开的实施例，数据是否拦截检查表征在检查到待迁移数据有问题的情况下，对待迁移数据是否拦截的规则。对于需要拦截的数据检查规则，待迁移数据被检查后有问题，则对待迁移数据进行修正及重新配置配置信息后，再重新迁移，直到待迁移数据通过检查，再迁移到目标系统中。对于不需要拦截的数据检查规则，待迁移数据被检查后有问题，则记录检查结果，即数据有问题的范围，当待迁移数据迁移完成后，再对待迁移数据进行修正及重新配置配置信息后，再重新迁移，直到待迁移数据通过检查，再迁移到目标系统中。

根据本公开的实施例，对于需要拦截的数据检查规则，适用于待迁移数据中的多个子数据间会相互影响的数据，即先迁移的子数据有问题，不进行修正，会对后迁移的子数据造成影响的数据。

根据本公开的实施例，对于不需要拦截的数据检查规则，适用于待迁移数据中的多个子数据间不会相互影响的数据。

根据本公开的实施例，在待迁移数据通过验证后，可以使用数据压缩算法对待迁移数据进行数据压缩，将压缩后的待迁移数据作为第一迁移数据，可以提高后续传输待迁移数据的速度，进而提高数据迁移效率。

根据本公开的实施例，数据压缩算法例如可以为若干种文件压缩程序(GNU zip，gzip)、无损压缩算法lz4以及数据压缩库snappy提供的算法，本公开的实施例不对数据压缩算法做限定，可以根据实际情况进行选择。

根据本公开的实施例，利用数据检查装置对待迁移数据进行校验，得到第一迁移数据还包括：在得到第一迁移数据后，通过数据发送单元将第一迁移数据发送给数据缓冲装置。

根据本公开的实施例，利用数据采集装置从源系统获取待迁移数据，可以实现利用数据采集装置根据待迁移数据的配置信息，针对迁移范围内的待迁移数据，按照预先配置的迁移顺序进行获取，然后利用数据检查装置对待迁移数据进行校验，得到第一迁移数据，实现根据源系统的数据格式对待迁移数据进行检验，得到符合源系统的数据格式的待迁移数据，保证了迁移到目标系统中的待迁移数据的正确性。

图3示意性示出了根据本公开另一实施例的可配置的数据迁移方法的流程图。

如图3所示，该实施例的可配置的数据迁移方法还可以包括操作S301～S303。

在操作S301，利用第一缓冲装置根据与第一迁移数据对应的数据主题对第一迁移数据进行缓存；

在操作S302，利用消费装置根据数据主题从第一缓冲装置获取第一迁移数据，并将第一迁移数据发送给第二缓冲装置；

在操作S303，利用第二缓冲装置根据数据主题对第一迁移数据进行数据转换，得到第二迁移数据，并存储第二迁移数据。

根据本公开的实施例，数据主题表征第一迁移数据中的数据共有的特征名称，数据主题需要在迁移待迁移数据前在配置信息中进行配置。

根据本公开的实施例，例如可以将与待迁移数据对应的业务名称、办理业务的过程中产生的数据名称(例如贷款业务下的贷款金额)、存储待迁移数据的数据集群名称或存储待迁移数据的数据集群地址作为数据主题，本公开的实施例不对具体的数据主题的确定方法做限定，数据主题名称可以根据实际情况进行选取。

根据本公开的实施例，例如，在第一迁移数据均为办理贷款业务的过程中产生的贷款金额的情况下，可以将“贷款金额”作为第一迁移数据的数据主题，在第一迁移数据均为办理贷款业务的过程中产生的贷款金额中的部分数据的情况下，可以将贷款金额与在源系统中存储这些贷款金额的存储位置信息(例如存储地址)作为数据主题，还可以直接将存储这些贷款金额的存储位置信息作为数据主题。

根据本公开的实施例，根据数据主题对第一迁移数据进行数据转换，表征根据数据主题将第一迁移数据的格式转换为目标系统格式。

根据本公开的实施例，第一缓冲装置包括数据缓冲单元及配置信息单元。

根据本公开的实施例，利用第一缓冲装置根据与第一迁移数据对应的数据主题对第一迁移数据进行缓存包括：利用配置信息单元从控制调度装置中获取数据装载信息，根据数据装载信息得到与第一迁移数据对应的数据主题，然后利用数据缓冲单元根据数据主题将对第一迁移数据进行缓存，并将缓存地址存储于数据装载信息中，将数据装载信息发送给控制调度装置。

根据本公开的实施例，数据缓冲单元可以包括多个服务器。

根据本公开的实施例，还可以在第一缓冲装置中部署消息总线Kafka软件，提高存取第一迁移数据的速度。

根据本公开的实施例，消费装置可以包括数据解析单元、数据路由单元及消费配置单元。

根据本公开的实施例，利用消费装置根据数据主题从第一缓冲装置获取第一迁移数据，并将第一迁移数据发送给第二缓冲装置可以包括：利用数据解析单元从控制调度装置中获取数据装载信息，根据数据装载信息得到与第一缓存装置中缓存第一迁移数据的缓存地址，根据数据主题及缓冲地址从数据缓冲单元获取第一迁移数据。

根据本公开的实施例，存储于第一缓存装置中的第一迁移数据为压缩数据的情况下，还可以利用数据解析单元对第一迁移数据解压缩。

根据本公开的实施例，还可以利用数据解析单元将第一迁移数据解析成特定格式，例如轻量级的数据交换格式(JavaScript Object Notation，JSON)，提高解析和生成数据的速度，进而提升数据传输的效率。

根据本公开的实施例，利用消费装置根据数据主题从第一缓冲装置获取第一迁移数据，并将第一迁移数据发送给第二缓冲装置还可以包括：利用数据路由单元，根据配置信息中的数据主题，将第一迁移数据发送至第二缓冲装置中与数据主题对应的集群中。利用消费配置单元定时调用控制调度装置的更新通知接口，解析通知更新时间，在通知更新时间晚于数据路由单元发送数据装载信息的更新时间的情况下，则通知调用控制调度装置的配置更新接口获取最新数据装载信息替换当前数据装载信息，并调用路由发送单元按最新数据装载信息发送第二迁移数据。

根据本公开的实施例，在通知更新时间早于数据路由单元发送数据装载信息的更新时间的情况下，则在调用路由发送单元按最新数据装载信息发送第二迁移数据后，继续利用消费装置根据数据主题从第一缓冲装置获取第一迁移数据，并将第一迁移数据发送给第二缓冲装置。

根据本公开的实施例，在第一缓冲装置通过控制调度装置通知消费装置去取第一数据的情况下，消费装置再根据数据主题从第一缓冲装置获取第一迁移数据。

根据本公开的实施例，通知更新时间表征源系统更新数据的截止时间。源系统更新数据的截止时间例如可以为晚上10点、11点或12点等，本公开的实施例不对源系统更新数据的截止时间做限定，可以根据实际情况进行选择。

根据本公开的实施例，在待迁移数据的数据量较大的情况下，可以设置源系统更新数据的截止时间，可以在源系统更新数据的截止时间之前就开始对待迁移数据进行迁移，实现以更早的时间将截止时间内的待迁移数据迁移从源系统迁移至目标系统。

根据本公开的实施例，第二缓冲装置包括：数据加工单元、数据存储单元以及加工配置单元。

表1示意性示出了数据主题与第一缓冲装置和第二缓冲装置对应的存储位置关系。

如表1所示，第一群组表征与第一缓冲装置对应的用于存储第一迁移数据的集群，第二群组表征与第二缓冲装置对应的用于存储第二迁移数据的集群。

表1

如表1所示，在数据主题为贷款客户信息的情况下，可以将与贷款客户信息对应的第一迁移数据缓存到贷款客户第一集群中，在根据数据主题贷款客户信息将第一迁移数据转换为第二迁移数据后，可以将第二迁移数据存储到贷款客户第二集群。同理，可以将与贷款信用对应的第一迁移数据缓存到贷款信用第一集群中，与贷款信用对应的第二迁移数据存储到贷款信用第二集群中，与贷款合同对应的第一迁移数据缓存到贷款合同第一集群中，与贷款合同对应的第二迁移数据存储到贷款合同第二集群中。

根据本公开的实施例，利用第二缓冲装置根据数据主题对第一迁移数据进行数据转换，得到第二迁移数据，并存储第二迁移数据包括：利用数据加工单元根据数据装载信息及数据验证信息对第一迁移数据进行数据转换，得到第二迁移数据；利用数据存储单元，存储第二迁移数据；利用加工配置单元定时调用控制调度装置的更新通知接口，解析通知更新时间，在通知更新时间晚于数据路由单元发送数据装载信息的更新时间的情况下，则从控制调度装置的配置更新接口获取最新数据装载信息，并用最新数据装载信息替换当前数据装载信息，调用数据加工单元按最新数据装载信息加工数据。

根据本公开的实施例，在通知更新时间早于数据路由单元发送数据装载信息的更新时间的情况下，则在调用数据加工单元按最新数据装载信息加工数据后，继续利用第二缓冲装置根据数据主题对第一迁移数据进行数据转换，得到第二迁移数据，并存储第二迁移数据。

根据本公开的实施例，数据加工单元对第一迁移数据进行数据转换包括支持直接写入，自定义处理以及字段映射3种方式，具体的数据转换方式可以根据实际情况进行选择。

根据本公开的实施例，在第一迁移数据在源系统中的数据结构与在目标系统中的数据结构完全一致的情况下，可以不对第一迁移数据进行数据转换，直接将第一迁移数据存储于数据存储单元。

根据本公开的实施例，在第一迁移数据在源系统及目标系统中的字段名称或存储位置发生变化的情况下，采用字段映射的方式将第一迁移数据存储于数据存储单元。

根据本公开的实施例，字段映射的情况例如可以为枚举值转换、数据拆分或数据合并等。例如，第一迁移数据在源系统中为枚举值A及C，在目标系统中对应为B及D、将在源系统中的同一张数据表中的数据拆分到目标系统中的多个数据表中或将源系统的多个数据表中的数据合并到目标系统中的同一张数据表中。

根据本公开的实施例，在源系统与目标系统间的格式转换较为复杂的情况下，可以通过调用一些外部程序接口以实现自定义处理。

表2示意性示出了在第一迁移数据的数据主题分别为贷款合同、贷款信用及贷款客户信息的情况下，第二缓冲装置根据数据主题对第一迁移数据进行数据转换的方式。

表2

如表2所示，在数据主题为贷款客户信息的情况下，数据转换方式为字段映射，具体操作为将贷款客户信息由源系统4字节转换为目标系统的8字节进行存储。

在数据主题为贷款信用的情况下，数据转换方式为自定义处理，具体操作为调用外部程序接口Pack credit.credit extension，将贷款信用转换为目标系统格式的数据。

在数据主题为贷款合同的情况下，数据转换方式为直接写入，具体操作为调用相关迁移程序将与贷款合同对应的数据由源系统表1直接写入到与目标系统的表2的格式一致的表中。

根据本公开的实施例，利用第一缓冲装置根据与第一迁移数据对应的数据主题对第一迁移数据进行缓存，利用消费装置根据数据主题从第一缓冲装置获取第一迁移数据，并将第一迁移数据发送给第二缓冲装置，利用第二缓冲装置根据数据主题对第一迁移数据进行数据转换，得到第二迁移数据，并存储第二迁移数据，实现利用第一缓冲装置、消费装置及第二缓冲装置协调数据采集装置及数据验证装置处理数据的速度，并根据数据主题将待迁移数据在源系统中的存储位置、第一缓冲装置中的存储位置、第二缓冲装置中的存储位置及目标系统中的存储位置对应起来，使得对待迁移数据的范围及格式进行管理更加方便快捷。

图4示意性示出了根据本公开又一实施例的可配置的数据迁移方法的流程图。

如图4所示，该实施例的可配置的数据迁移方法还可以包括操作S401～S403。

在操作S401，利用数据验证装置根据数据验证信息中存储的目标系统的数据格式对第二迁移数据进行验证，得到第四迁移数据及第一重载范围；

在操作S402，根据第一迁移数据，对第四迁移数据进行汇总验证，得到第五迁移数据及第二重载范围；

在操作S403，对第一重载范围及第二重载范围内的第二迁移数据进行明细验证，得到第六迁移数据。

根据本公开的实施例，第四迁移数据表征第二迁移数据中符合目标系统的数据格式要求的数据，第一重载范围表征第二迁移数据中不符合目标系统的数据格式要求的数据的范围。

根据本公开的实施例，数据验证装置包括汇总验证单元、明细验证单元及验证配置单元。

根据本公开的实施例，利用数据验证装置根据数据验证信息中存储的目标系统的数据格式对第二迁移数据进行验证，得到第四迁移数据及第一重载范围包括：利用汇总验证单元从控制调度装置中获取数据验证信息及数据装载信息，根据数据装载信息中的数据主题及存储地址从数据装载装置的数据存储单元获取第二迁移数据，并根据数据验证信息中存储的目标系统的数据格式对第二迁移数据进行验证，得到第四迁移数据及第一重载范围。

根据本公开的实施例，利用数据验证装置根据数据验证信息中存储的目标系统的数据格式对第二迁移数据进行验证例如可以为：对第二迁移数据进行数据非空检查、数据枚举检查、数据范围检查、数据关联检查、数据总分检查及数据是否拦截检查，具体应用哪种或哪几种检验的形式可以根据实际情况进行选择，本公开的实施例不对具体的验证的形式进行限定。

根据本公开的实施例，第五迁移数据表征第四迁移数据中通过汇总验证的数据，第二重载范围表征第四迁移数据中没有通过汇总验证的数据的数据范围。

根据本公开的实施例，根据第一迁移数据，对第四迁移数据进行汇总验证，得到第五迁移数据及第二重载范围可以包括：利用汇总验证单元根据数据装载信息中的数据主题及存储地址从第一缓存装置的数据存储单元获取第一迁移数据，并根据数据验证信息中存储的验证规则对第四迁移数据进行汇总验证，得到第五迁移数据及第二重载范围。

根据本公开的实施例，数据验证信息中存储的汇总验证规则可以为：在第四迁移数据为文本数据的情况下，对与第四迁移数据对应的第一迁移数据的数量进行计算，得到第一总数，对第四迁移数据的数量进行计算，得到第二总数，比较第一总数与第二总数的大小，得到第五迁移数据及第二重载范围。

根据本公开的实施例，数据验证信息中存储的汇总验证规则还可以为：在第四迁移数据为数值数据的情况下，对与第四迁移数据对应的第一迁移数据的数值进行加和计算，得到第三总数，对第四迁移数据的数值进行加和计算，得到第四总数，比较第三总数与第四总数的大小，得到第五迁移数据及第二重载范围。

表3示意性示出了在数据主题分别为贷款合同、贷款信用及贷款客户信息的情况下，利用汇总验证单元分别对与贷款合同、贷款信用及贷款客户信息对应的第四迁移数据进行汇总验证的规则。

表3

如表3所示，机构表征贷款客户所属办理区域，例如可以为A省、B省、C省等。客户类型表征客户的企业规模大小，例如可以为大型企业、中型企业、小企业、微型企业。贷款用途例如可以为流动资金贷款、项目贷款、房地产贷款。

如表3所示，在数据主题为贷款客户信息的情况下，可根据机构与客户类型维度，对贷款客户信息对应的第一迁移数据中的客户总数进行汇总，得到第三总数，对与贷款客户信息对应的第四迁移数据中的客户总数进行汇总，得到第四总数，通过比较第三总数与第四总数是否相等，得到第五迁移数据及第二重载范围。

在数据主题为贷款信用的情况下，可根据贷款用途维度，对与贷款信用对应的第一迁移数据中的授信总额进行汇总，得到第三总数，对与贷款信用对应的第四迁移数据中的授信总额进行汇总，得到第四总数，通过比较第三总数与第四总数是否相等，得到第五迁移数据及第二重载范围。同理，根据数据主题贷款合同及汇总验证规则，可以得到与数据主题贷款合同对应的第五迁移数据及第二重载范围。

根据本公开的实施例，对第一重载范围及第二重载范围内的第二迁移数据进行明细验证，得到第六迁移数据包括：利用明细验证单元根据从数据验证信息中存储的明细验证规则，对第一重载范围及第二重载范围内的第二迁移数据进行明细验证，得到第六迁移数据。

根据本公开的实施例，第六迁移数据表征第一重载范围及第二重载范围内的第二迁移数据中通过明细验证的数据。

根据本公开的实施例，明细验证表征对第一重载范围及第二重载范围内的第二迁移数据及与第一重载范围及第二重载范围内的第二迁移数据对应的第一迁移数据中的关键信息进行比较验证。

表4示意性示出了在数据主题分别为贷款合同、贷款信用及贷款客户信息的情况下，利用汇总验证单元分别对与贷款合同、贷款信用及贷款客户信息对应的第四迁移数据进行明细验证的规则。

表4

如表4所示，在数据主题为贷款合同的情况下，可以根据主键字段、客户创建日期及机构维度，对与贷款客户信息对应的第一迁移数据及第二迁移数据进行详细比较。

在数据主题为贷款信用的情况下，可以根据主键字段、授信额度、业务发生日期、贷款用途及机构维度，对与贷款信用对应的第一迁移数据及第二迁移数据进行详细比较。

在数据主题为贷款合同的情况下，可以根据主键字段、贷款金额、业务发生日期、贷款用途+机构及表内标志维度，对与贷款合同对应的第一迁移数据及第二迁移数据进行详细比较。

根据本公开的实施例，在对第二迁移数据进行明细验证后，可以利用数据可视化分析工具DataEase对明细验证结果进行可视化展示。

根据本公开的实施例，利用数据验证装置根据数据验证信息中存储的目标系统的数据格式对第二迁移数据进行验证，得到第四迁移数据及第一重载范围，根据第一迁移数据，对第四迁移数据进行汇总验证，得到第五迁移数据及第二重载范围，对第一重载范围及第二重载范围内的第二迁移数据进行明细验证，得到第六迁移数据，实现对第六迁移数据进行多层验证，确定第六迁移数据的数据格式符合目标系统的格式，第六迁移数据的总数与源系统中的数据相同，第六迁移数据的关键信息与源系统中的数据相同，保障了第六迁移数据的正确性。

根据本共开的实施例，上述可配置的数据迁移方法还包括：

对第一重载范围和第二重载范围内的第二迁移数据进行明细验证，得到第三重载范围；

对与第三重载范围对应的待测数据进行重新迁移。

根据本公开的实施例，第三重载范围表征第一重载范围和第二重载范围内的第二迁移数据没有通过明细验证的数据。

根据本公开的实施例，对与第三重载范围对应的待测数据进行重新迁移包括：根据第三重载范围重新配置配置信息，对与第三重载范围对应的待测数据进行重新迁移。

根据本公开的实施例，通过根据第三重载范围重新配置配置信息，对与第三重载范围对应的待测数据进行重新迁移，实现仅针对第三重载范围捏的差异数据进行重新迁移，提高数据迁移效率。

根据本公开的实施例，在对第一重载范围和第二重载范围内的第二迁移数据进行明细验证的过程中，如发现第二迁移数据异常，则根据数据验证信息中配置的规则，选择是否暂停工作流。

在暂停工作流的情况下，则暂停，进行人工接管，在修正第二迁移数据并根据第三重载范围重新配置配置信息后，重新迁移第三重载范围内的第二迁移数据。

图5示意性示出了数据验证信息中配置了暂停工作流的情况下，应用数据迁移方法迁移数据的示意图。

如图5所示，待迁移数据包括三个子数据，分别为客户数据、评级数据与授信数据，三个子数据的迁移顺序为客户数据、评级数据与授信数据，与三个子数据对应的工作流分别为：迁移客户数据的工作流501、迁移评级数据的工作流502及迁移授信数据的工作流503。

如图5所示，在验证客户数据没有异常的情况下，才对评级数据及授信数据进行迁移，在验证客户数据有异常的情况下，则暂停所有工作流，通过重新配置配置信息，重新迁移客户数据、评级数据与授信数据。

在不暂停工作流的情况下，则记录第三重载范围，继续执行后面的工作流。

图6示意性示出了数据验证信息中配置了不暂停工作流的情况下，应用数据迁移方法迁移数据的示意图。

如图6所示，待迁移数据包括三个子数据，分别为客户数据、评级数据与授信数据，三个子数据的迁移顺序为客户数据、评级数据与授信数据，与三个子数据对应的工作流分别为：迁移客户数据的工作流601、迁移评级数据的工作流602及迁移授信数据的工作流603。

如图6所示，按照三个子数据的迁移顺序，根据迁移客户数据的工作流601、迁移评级数据的工作流602及迁移授信数据的工作流603依次迁移客户数据、评级数据与授信数据，在三个子数据全部执行完后检查数据验证结果，在三个子数据有异常的情况下，会得到与异常数据对应的第三重载范围，可以对第三重载范围内的异常数据进行修复，再通过重新配置配置信息，重新迁移第三重载范围内的客户数据、评级数据与授信数据。

根据本公开的实施例，可在数据全部执行完后检查数据验证结果，根据第三重载范围设置重载工作流的配置信息，实现仅针对差异数据进行重载迁移，提高数据迁移效率。

需要说明的是，本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序，或者不同操作在技术实现上存在执行的先后顺序，否则，多个操作之间的执行顺序可以不分先后，多个操作也可以同时执行。

图7示意性示出了根据本公开的实施例的可配置的数据迁移装置的框图。

如图7所示，可配置的数据迁移装置700，包括配置信息获取模块710、工作流生成模块720以及数据迁移模块730。

配置信息获取模块710，用于通过调用规则配置装置的接口获得待迁移数据的配置信息，其中，配置信息包括数据存储位置信息、数据验证信息和数据装载信息。

工作流生成模块720，用于利用控制调度装置基于待迁移数据的配置信息生成数据迁移工作流，其中，数据迁移工作流至少包括多个迁移步骤的定义和多个迁移步骤之间的调度顺序。

数据迁移模块730，用于根据数据迁移工作流将待迁移数据从源系统迁移至目标系统。

根据本公开的实施例，规则配置装置包括配置存储单元和配置维护单元，配置信息获取模块包括配置信息获取子模块。

配置信息获取子模块，用于获取配置存储单元中存储的与待迁移数据对应的配置信息。

其中，配置存储单元为分布式缓存，配置维护单元用于供开发端维护配置存储单元中存储的配置信息。

根据本公开的实施例，配置信息中的数据存储位置信息通过如下方式配置得到：

确定业务端利用源系统办理目标业务时所处的办理位置，其中，目标业务与待迁移数据相关联；

确定在办理目标业务的过程中产生待迁移数据的各个子数据的顺序；

根据办理位置和产生待迁移数据的各个子数据的顺序，配置数据存储位置信息。

根据本公开的实施例，控制调度装置包括调度配置单元、调度执行单元和调度控制单元，工作流生成模块包括工作流生成子模块、工作流协调子模块以及界面提供子模块。

工作流生成子模块，用于利用调度配置单元生成并保存数据迁移工作流。

工作流协调子模块，用于利用调度执行单元基于数据迁移工作流协调多个迁移装置迁移待迁移数据。

界面提供子模块，用于利用调度控制单元提供数据迁移工作流执行情况界面和用于控制数据迁移工作流的运行状态的操作界面。

根据本公开的实施例，数据迁移模块包括第一迁移数据获取子模块、第二迁移数据转换子模块、第三迁移数据得到子模块以及目标系统迁移子模块。

第一迁移数据获取子模块，用于根据待迁移数据的配置信息，从源系统获取第一迁移数据，第一迁移数据表征待迁移数据经过验证符合源系统的格式要求的数据。

第二迁移数据转换子模块，用于将第一迁移数据转换为与目标系统的数据格式一致的第二迁移数据。

第三迁移数据得到子模块，用于对第二迁移数据进行数据验证，得到第三迁移数据，其中，第三迁移数据表征第二迁移数据中通过验证的数据。

目标系统迁移子模块，用于将第三迁移数据迁移至目标系统。

根据本公开的实施例，第一迁移数据获取子模块包括待迁移数据获取单元以及第一迁移数据得到单元。

待迁移数据获取单元，用于利用数据采集装置从源系统获取待迁移数据。

第一迁移数据得到单元，用于利用数据检查装置对待迁移数据进行校验，得到第一迁移数据。

根据本公开的实施例，第二迁移数据转换子模块包括第一迁移数据缓存单元、第一迁移数据发送单元以及第二迁移数据得到单元。

第一迁移数据缓存单元，用于利用第一缓冲装置根据与第一迁移数据对应的数据主题对第一迁移数据进行缓存。

第一迁移数据发送单元，用于利用消费装置根据数据主题从第一缓冲装置获取第一迁移数据，并将第一迁移数据发送给第二缓冲装置。

第二迁移数据得到单元，用于利用第二缓冲装置根据数据主题对第一迁移数据进行数据转换，得到第二迁移数据，并存储第二迁移数据。

根据本公开的实施例，第三迁移数据包括第五迁移数据和第六迁移数据，第三迁移数据得到子模块包括第四数据及第一范围得到单元、第五数据及第二范围得到单元以及第六数据得到单元。

第四数据及第一范围得到单元，用于利用数据验证装置根据数据验证信息中存储的目标系统的数据格式对第二迁移数据进行验证，得到第四迁移数据及第一重载范围。

第五数据及第二范围得到单元，用于根据第一迁移数据，对第四迁移数据进行汇总验证，得到第五迁移数据及第二重载范围。

第六数据得到单元，用于对第一重载范围及第二重载范围内的第二迁移数据进行明细验证，得到第六迁移数据。

根据本公开的实施例，可配置的数据迁移装置还包括第三重载范围得到模块以及重载模块。

第三重载范围得到模块，用于对第一重载范围和第二重载范围内的第二迁移数据进行明细验证，得到第三重载范围。

重载模块，用于对与第三重载范围对应的待测数据进行重新迁移。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，配置信息获取模块710、工作流生成模块720以及数据迁移模块730中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，配置信息获取模块710、工作流生成模块720以及数据迁移模块730中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，配置信息获取模块710、工作流生成模块720以及数据迁移模块730中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

需要说明的是，本公开的实施例中可配置的数据迁移装置与本公开的实施例中可配置的数据迁移方法部分是相对应的，可配置的数据迁移装置部分的描述具体参考可配置的数据迁移方法部分，在此不再赘述。

图8示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。图8示出的计算机系统仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图8所示，根据本公开实施例的计算机系统800包括处理器801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 803中，存储有系统800操作所需的各种程序和数据。处理器801、ROM 802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，系统800还可以包括输入/输出(I/O)接口805，输入/输出(I/O)接口805也连接至总线804。系统800还可以包括连接至I/O接口805的以下部件中的一项或多项：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分807；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的可配置的数据迁移方法。

在该计算机程序被处理器801执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分809被下载和安装，和/或从可拆卸介质811被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。