掌桥专利:专业的专利平台
掌桥专利
首页

一种审计供数的方法及主机平台

文献发布时间:2023-06-19 12:18:04


一种审计供数的方法及主机平台

技术领域

本申请涉及数据处理技术领域,特别涉及一种审计供数的方法及主机平台。

背景技术

IBM大型主机因其可以满足可用型、高一致性的连续性要求,所以广泛应用于银行、保险等行业中。在主机应用过程中,由于主机平台与开放平台数据仓库通常采用是不同的编码方式,所以需要将主机平台的原始数据,按开放平台数据仓库的数据结构要求对数据进行批量处理,然后再将处理后的数据送达开发平台数据仓库,供后期审计业务使用。

现有的主机对数据的处理方式,主要先将位于生产中心的生产磁盘中存储的数据,拷贝至另外城市中的灾备中心的灾备磁盘中;其中,生产磁盘中数据由设置于生产中的生产物理主机上的生产分区生产。然后,由灾备中心的灾备/测试物理主机对灾备磁盘中的数据进行处理,生成结果文件,并将结果文件下传至开放平台的设计数据仓库中。

但是由于灾备中心的物理主机,即灾备/测试物理主机的CPU处理能力配置相对较低,通常只有生产物理主机的30%左右,而审计供数的批量处理是典型的CPU消耗密集型任务,加上灾备服务与测试任务对CPU资源的需求,所以审计供数的批量处理效率相对较慢。并且,由于审计供数的批量处理会占有灾备/测试物理主机大部分CPU资源,以及占用灾备磁盘的存储空间,所以会影响灾备及测试服务的正常运行。

发明内容

基于上述现有技术的不足,本申请提供了一种审计供数的方法及主机平台,以解决现有的方式处理效率低,且影响灾备及测试服务的运行的问题。

为了实现上述目的,本申请提供了以下技术方案:

本申请第一方面提供了一种审计供数的方法,包括:

读取生产中心的生产磁盘中的待处理数据,并将所述待处理数据存储至审计专用磁盘;其中,所述待处理数据为生产分区生产的数据;所述审计专用磁盘设置于主机平台的所述生产中心;

通过开辟的第一审计分区对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件;其中,所述第一审计分区在所述生产中心的物理主机上开辟;

将所述结果文件传输至所述审计结果磁盘进行存储;其中,所述审计结果磁盘设置于所述主机平台的灾备中心;

通过开辟的第二审计分区将所述审计结果磁盘中的结果文件传输至开放平台;其中,所述第二审计分区在所述主机平台的灾备中心的物理主机上开辟。

可选地,在上述的审计供数的方法中,所述通过开辟的第一审计分区对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件之前,还包括:

实时监测当前生产主机业务对所述生产中心的物理主机的CPU资源使用是否处于低峰时段;

其中,若监测出当前生产主机业务对所述生产中心的物理主机的CPU资源使用处于低峰时段,则执行所述通过开辟的第一审计分区对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件。

可选地,在上述的审计供数的方法中,所述通过开辟的第一审计分区对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件,包括:

通过开辟的第一审计分区,利用预设配额的CPU资源对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件。

可选地,在上述的审计供数的方法中,所述将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中,包括:

采用过主机平台磁盘镜像级联技术,将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中。

可选地,在上述的审计供数的方法中,所述将所述结果文件传输至所述审计结果磁盘进行存储,包括:

在所述第一审计分区发起传输操作时,筛选出审计所需的所述结果文件,并通过广域网带宽将筛选出的所述处理结果传输至所述审计结果磁盘中进行存储;其中,所述第一审计分区在时间触发器达到设定目标时间时发起传输操作;所述目标时间指代广域网带宽使用量低于预设阈值的时间。

本申请第二方面提供了一种主机平台,包括:

生产中心以及灾备中心;其中,所述生产中心包括生产分区、第一审计分区、生产磁盘以及审计专用磁盘;所述灾备中心包括第二审计分区以及审计结果磁盘;

所述生产分区,用于读取所述生产磁盘中的待处理数据,并将所述待处理数据存储至所述审计专用磁盘;其中,所述待处理数据为所述生产分区生成的数据;

所述第一审计分区,用于对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件,并将所述结果文件传输至所述审计结果磁盘进行存储;所述第一审计分区设置于所述生产中心的物理主机上;

所述第二审计分区,用于将所述审计结果磁盘中的结果文件传输至开放平台;其中,所述第二审计分区设置于所述主机平台的灾备中心的物理主机上。

可选地,在上述的主机平台中,还包括:

监测模块,用于实时监测当前生产主机业务对所述生产中心的物理主机的CPU资源使用是否处于低峰时段;

其中,所述监测模块监测出当前生产主机业务对所述生产中心的物理主机的CPU资源使用是否处于低峰时段时,所述第一审计分区执行所述对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件。

可选地,在上述的主机平台中,所述第一审计分区执行所述对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件时,用于:

利用预设配额的CPU资源对所述审计专用磁盘中的所述待处理数据进行处理,得到结果文件。

可选地,在上述的主机平台中,所述生产分区执行所述将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中时,用于:

采用主机平台磁盘镜像级联技术,将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中。

可选地,在上述的主机平台中,所述第一审计分区执行所述将所述结果文件传输至所述审计结果磁盘进行存储时,用于:

通过发起传输操作,筛选出审计所需的所述结果文件,并通过广域网带宽将筛选出的所述处理结果传输至所述审计结果磁盘中进行存储;其中,所述第一审计分区在时间触发器达到设定目标时间时发起传输操作;所述目标时间指代广域网带宽使用量低于预设阈值的时间。

本申请提供了一种审计供数方法,先将生产中心的生产磁盘中的待处理数据,拷贝至在主机平台的生产中心中设置的审计专用磁盘中,以能通过开辟在生产中心的物理主机上的第一审计分区对处理数据进行处理,得到结果文件,不再占用灾备/测试物理主机的CPU资源,并且由于生产中心的物理主机的CPU处理能力配置相对较高,从而可以有效地保证数据的处理效率。然后将结果文件传送至在主机平台的灾备中心新增的审计结果磁盘中进行存储,不再占用灾备磁盘的存储空间。最后通过在主机平台的灾备中心的物理主机上开辟的第二审计分区将审计结果磁盘中的结果文件传输至开放平台,实现审计供数。通过开辟的第二审计分区,专门进行结果文件传输,避免了对灾备及测试服务的影响,并且由于第二审计分区仅进行数据传输,所以不会占用太多的灾备/测试物理主机的CPU资源。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。

图1为本申请实施例提供的一种主机平台的架构示意图;

图2为本申请另一实施例提供的一种构建主机平台的方法的流程图;

图3为本申请另一实施例提供的一种审计供数的方法的流程图。

具体实施方式

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

在本申请中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本申请提供了一种审计供数的方法,以解决现有的方式处理效率低,且影响灾备及测试服务的运行的问题。

可选地,为了实现本申请实施例提供的审计供数方法,本申请实施例提供了一种主机平台。如图1所示,本申请实施例提供的主机平台,包括:

生产中心以及灾备中心。

其中,如图1所示,生产中心包括:生产分区101、第一审计分区102、生产磁盘103以及审计专用磁盘104。

灾备中心包括:第二审计分区105以及审计结果磁盘106。

生产分区101,主要用于读取生产磁盘103中的待处理数据,并将待处理数据存储至审计专用磁盘104中,即将生产磁盘103中的待处理数据拷贝至审计专用磁盘104中。

其中,待处理数据为生产分区生产的数据。需要说明的是,与现有技术相同,生产分区101负责生产主机业务,从而产生数据,并存储至生产磁盘103中。而审计专用磁盘104为本申请实施例中新增的专用磁盘,设置于主机平台的生产中心。

需要说明的是,将生产磁盘103中的待处理数据拷贝至审计专用磁盘104中也可以是由第一审计分区101实现,从而使得生产分区101只需要负责生产主机业务即可。

第一审计分区102,用于对审计专用磁盘104中的待处理数据进行处理,得到结果文件,并将结果文件传输至审计结果磁盘106进行存储。

其中,第一审计分区102设置于生产中心的物理主机上,即设置与生产分区都部署于生产主机上。

第二审计分区105,用于将审计结果磁盘106中的结果文件传输至开放平台。

其中,第二审计分区105设置于主机平台的灾备中心的物理主机上,即部署于灾备/测试主机上。

需要说明的是,主机平台的灾备中心与开放平台共同构成了系统的整个灾备中心。

还需要说明的是,生产分区101、第一审计分区102以及第二审计分区105均分为由部署在物理主机上的多个虚拟机组成。

可选地,为了更加便捷、低成本构建本申请实施例中的主机平台,可以在现有的主机平台的基础上进行进一步改造,得到本申请实施例提供的主机平台,而不需要完全重新构建。所以可选地,一种构建本申请实施例的主机平台的方法,如图2所示,包括以下步骤:

S201、在生产中心的物理主机上开辟审计专用的第一审计分区。

其中,该分区主要用于进行审计批量数据转换操作,即将从生产磁盘复制来的数据按审计需求转换为审计所需的结果文件。

S202、在生产中心内安装审计专用磁盘。

其中,审计专用磁盘用于承接从生产磁盘拷贝的数据,并满足审计批量执行过程中所需的磁盘空间需求。

S203、在生产中心内部署生产磁盘与审计专用磁盘间的物理光纤连线。

通过该物理光纤为磁盘数据复制搭建物理连接。

S204、在跨中心间安装部署审计专用磁盘与审计结果磁盘间的传输链路。

通过安装传输链路,为跨中心间进行数据传输搭建逻辑连接。可选地,逻辑连接可以采用广域网网络连接。

需要说明的是,在审计专用磁盘的出口至生产中心的网络设备间,以及审计结果磁盘至灾备中心的网络设备间进行光纤部署时,要满足主机平台磁盘镜像级联技术(Peer-to-Peer Remote Copy-Extended Distance,PPRC-XD)进行数据传输所需的协议要求。

S205、在灾备中心内安装审计结果磁盘。

审计结果磁盘用于承接从审计专用磁盘传输的数据,并满足在灾备中心的第二审计分区执行审计结果下传至开放数据仓库批量操作时所需的磁盘空间需求。

S206、在灾备中心的物理主机上开辟第二审计分区。

其中,该分区主要用于进行审计的结果文件向开放平台的审计数据仓库的数据传输操作。

可选地,本申请另一实施例提供的主机平台中,还包括:

监测模块,用于实时监测当前生产主机业务对所述生产中心的物理主机的CPU资源使用是否处于低峰时段。

其中,监测模块监测出当前生产主机业务对生产中心的物理主机的CPU资源使用是否处于低峰时段时,第一审计分区执行对审计专用磁盘中的待处理数据进行处理,得到结果文件。

可选地,本申请另一实施例提供的主机平台中,第一审计分区执行对审计专用磁盘中的待处理数据进行处理,得到结果文件时,用于:

利用预设配额的CPU资源对审计专用磁盘中的待处理数据进行处理,得到结果文件。

可选地,本申请另一实施例提供的主机平台中,生产分区执行将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中时,用于:

采用主机平台磁盘镜像级联技术,将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中。

可选地,本申请另一实施例提供的主机平台中,第一审计分区执行将结果文件传输至审计结果磁盘进行存储时,用于:

通过发起传输操作,筛选出审计所需的结果文件,并通过广域网带宽将筛选出的处理结果传输至审计结果磁盘中进行存储。

其中,第一审计分区在时间触发器达到设定目标时间时发起传输操作。目标时间指代广域网带宽使用量低于预设阈值的时间。

基于上述实施例提供的主机平台,本申请实施例提供了一种审计供数的方法,如图3所示,包括以下步骤:

S301、读取生产中心的生产磁盘中的待处理数据,并将待处理数据存储至审计专用磁盘。

其中,待处理数据为生产分区生产的数据。审计专用磁盘设置于主机平台的生产中心。

可选地,可以采用主机平台磁盘镜像级联技术,读取生产中心的生产磁盘中的待处理数据,并将所述待处理数据存储至审计专用磁盘,即通过主机平台磁盘镜像级联技术,将生产中心的生产磁盘中的待处理数据拷贝至审计专用磁盘中。

具体的,根据执行审计批量所需的业务和数据需求,筛选出需要进行PPRC-XD操作的生产磁盘的磁盘卷范围,然后生成PPRC-XD操作过程中所需要的作业流。在拷贝过程中,根据拷贝的进度,在生产环境依次提交数据复制过程中所用的作业流。

需要说明的是,由于PPRC-XD操作为一种异步磁盘数据复制技术,所以从生产磁盘向审计专用磁盘进行数据复制操作时,对生产环境是不存在影响的,从而保证了对生产业务的透明。

S302、通过开辟的第一审计分区对审计专用磁盘中的待处理数据进行处理,得到结果文件。

其中,第一审计分区在生产中心的物理主机上开辟。具体的,如下表1所示,可以将物理主机划分为多个通道子系统,进行编号,如编号为CSS0,CSS1,CSS2等。然后,每个逻辑分区归属于一个通道子系统,如逻辑分区01被CSS0管理,逻辑分区11被CSS1管理。在开辟第一审计分区逻辑时,需要将第一审计分区与生产分区部署在不同的通道子系统中,例如生产分区使用01,02……,第一审计分区则使用11,12……,从而将第一审计分区与生产分区在通道子系统和分区命名上加以区分,进而将第一审计分区的维护工作和生产分区的维护工作分离,降低第一审计分区相关操作对生产环境运行带来的可能风险。

表1

可选地,在本申请另一实施例中,在执行步骤S302之前,还可以进一步先执行:

实时监测当前生产主机业务对生产中心的物理主机的CPU资源使用是否处于低峰时段。

其中,在本申请实施例中,若监测出当前生产主机业务对生产中心的物理主机的CPU资源使用处于低峰时段时,则执行步骤S302。

需要说明的是,由于多个逻辑分区间对物理主机的CPU以共享的方式进行使用,所以部分分区对CPU使用较高时,会对其他分区的CPU使用产生影响。而审计供数批量的执行是典型的CPU消耗密集型任务,其对CPU的使用量较多。

为降低审计批量操作对生产主机CPU的使用率,需要在生产主机业务低峰时段内运行供数批量,杜绝对生产日常联机和生产批量的业务影响,也为了能充分利用生产中的物理主机的资源,所以本申请实施例中,在生产主机业务对生产中心的物理主机的CPU资源使用处于低峰时段时才进行审计批量操作。

本申请实施例是通过监测的方式,监测出生产主机业务对生产中心的物理主机的CPU资源的使用的低峰时段。当然,若是生产主机业务对生产中心的物理主机的CPU资源的使用的低峰时段一直处于固定时段,也可以是先确定出低峰时段,并设置固定的时段,例如每日凌晨3点到6点时,当每次到达设定的固定的时段执行审计批量操作。

可选地,本申请另一实施例中,步骤S302的一种具体实施方法,包括:

通过开辟的第一审计分区,利用预设配额的CPU资源对审计专用磁盘中的待处理数据进行处理,得到结果文件。

为了在生产各分区绝对不被影响的前提下进行审批批量操作。因此,在本申请实施例中,对第一审计分区所能使用的CPU资源的份额设置了上限,保证审计批量操作不会发生对生产主机CPU的使用发生超额的情况。

可选地,审计批量作业通过自动化批量调度软件控制,每日自动开始和结束,人工无需干预。

S303、将结果文件传输至审计结果磁盘进行存储。

其中,审计结果磁盘设置于主机平台的灾备中心。

需要说明的是,通过开辟的第一审计分区对审计专用磁盘中的待处理数据进行处理得到结果文件,可以先存储至审计专用磁盘中,然后再将审计专用磁盘中的结果文件传输至审计结果磁盘进行存储。

可选地,同样可以采用PPRC-XD实现将结果文件传输至审计结果磁盘,区别在于,步骤S301在同中心内进行PPRC-XD传输,步骤S303进行的是跨中心间的PPRC-XD数据传输。

可选地,本申请另一实施例中,步骤S303的一种具体实施方法,包括:

在第一审计分区发起传输操作时,筛选出审计所需的结果文件,并通过广域网带宽将筛选出的处理结果传输至审计结果磁盘中进行存储。

其中,第一审计分区在时间触发器达到设定目标时间时发起传输操作。目标时间指代广域网带宽使用量低于预设阈值的时间。

本申请实施例中,通过先筛选出审计所需的结果文件,然后再将将筛选出的处理结果传输至审计结果磁盘中进行存储,从而可以降低审计供数的数据传输对广域网带宽的使用量。

由于,使用广域网带宽将结果文件传输至审计结果磁盘,为了避免影响其他业务数据的传输,也为了缓解因审计数据传输需求对广域网带宽的使用压力,本申请实施例在广域网带宽使用率低的时间段内,将结果文件传输至审计结果磁盘进行存储。

可选地,通过运行在第一审计分区中的时间触发器到达特定时间点,开启和中断跨中心的数据传输操作,无需人工干预。具体可以通过调出STARTXD脚本以及STOPXD脚本实现数据传输的启动和终端。需要说明的是,STARTXD脚本和STOPXD脚本需要在主机平台的资源访问控制组件RACF(Resource Access Control Facility)进行定义并做授权,否则会因没有权限无法运行。

S304、通过开辟的第二审计分区将审计结果磁盘中的结果文件传输至开放平台。

其中,第二审计分区在主机平台的灾备中心的物理主机上开辟。具体开辟第二审计分区的方式与开辟第一审计分区的原理相同,同样需要与灾备/测试分区区分,所以此处不再赘述。

由于开放平台与主机平台的灾备中心共同构成的整个灾备中心,所以第二审计分区与开放平台的数据传输,处于局域网内,所以数据传输可以不采用广域网带宽。因此,跨平台间的数据传输,即主机平台与开放平台间的数据传输,可通过第三方传输工具实现,当然也可自主开发批量传输程序,采用FTP/SFTP等协议实现。

本申请实施例提供了一种审计供数方法,先将生产中心的生产磁盘中的待处理数据,拷贝至在主机平台的生产中心中设置的审计专用磁盘中,以能通过开辟在生产中心的物理主机上的第一审计分区对处理数据进行处理,得到结果文件,不再占用灾备/测试物理主机的CPU资源,并且由于生产中心的物理主机的CPU处理能力配置相对较高,从而可以有效地保证数据的处理效率。进一步的,还可以设置数据处理的时间段,以合理地利用生产主机任务对生产中心的物理主机CPU的使用的低峰时段进行数据处理,从而不仅可以避免对生产主机任务的影响,而且可以充分地利用CPU资源。而且还可以通过设置第一审计分区的资源使用限额,避免其超额使用CPU资源,从而对生产主机任务造成影响。

然后将结果文件传送至在主机平台的灾备中心新增的审计结果磁盘中进行存储,不再占用灾备磁盘的存储空间。最后通过在主机平台的灾备中心的物理主机上开辟的第二审计分区将审计结果磁盘中的结果文件传输至开放平台,实现审计供数。通过开辟的第二审计分区,专门进行结果文件传输,避免了对灾备及测试服务的影响,并且由于第二审计分区仅进行数据传输,所以不会占用太多的灾备/测试物理主机的CPU资源。

专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。

对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

相关技术
  • 一种审计供数的方法及主机平台
  • 一种分布式部署审计平台的审计数据去重方法
技术分类

06120113241036