掌桥专利:专业的专利平台
掌桥专利
首页

批量文件处理方法、装置、电子设备和存储介质

文献发布时间:2023-06-19 11:19:16


批量文件处理方法、装置、电子设备和存储介质

【技术领域】

本发明涉及数据处理技术领域,尤其涉及一种批量文件处理方法、装置、电子设备和存储介质。

【背景技术】

网络已成为人们必不可少的一部分,而各种网络项目、工程的后台的运行都离不开批量处理,因此批量文件是软件程序中不可或缺的部分,在批量中有个常用的功能,那就是文件的处理,但是现有的生产实例中,不同系统处理文件的方式五花八门,对于文件的处理没有一个统一的处理方式,并且如果文件处理的方式不当,很容易出现系统的内存溢出、异常时文件数据的重复处理等问题,并且文件的解析方式也因文件规则不一样,而出现大量的个性化定制解析,维护成本很大。

【发明内容】

本发明的目的在于提供一种批量文件处理方法、装置、电子设备和存储介质,以解决现有技术中批量文件处理速度慢及批量文件入口无法统一的技术问题。

本发明的技术方案如下:提供一种批量文件处理方法,包括:

当接收到批量文件处理请求时,获取所述批量文件处理请求对应的至少一个批量文件;

对每个所述批量文件进行解析,得到每个所述批量文件的属性信息,其中,所述属性信息包括文件信息、字段信息以及格式信息;

获取每个所述批量文件的数据处理逻辑,根据各所述批量文件的数据处理逻辑确定各批量文件的处理顺序,根据所述处理顺序获取所述批量文件的处理链;

根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务。

优选地,所述文件信息包括所述批量文件的文件类型、所述批量文件的存储路径以及所述批量文件的文件命名规则,所述字段信息包括所述批量文件中每个字段的关键字以及所述批量文件中每个字段的有效数据,所述格式信息包括所述批量文件的正文解析起始位置以及所述批量文件的编码格式。

优选地,所述批量文件中每个字段的有效数据按照如下步骤获取:

获取所述批量文件中每个字段的长度;

判断所述字段是否为定长数据,当判断结果为是时,获取所述字段的补位规则;

根据所述字段的长度及补位规则还原补位前的有效数据。

优选地,所述根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务之前,还包括:

获取预设时间周期内的服务器的状态信息,其中,所述状态信息包括资源种类和空闲资源量;

根据所述服务器的状态信息获取每个所述批量文件的单次最大处理数据量;

相应地,所述根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务,包括:

根据所述批量文件的属性信息、所述批量文件的单次最大处理数据量、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务。

优选地,所述根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务之后,还包括:

获取多个批量文件处理任务的处理链,根据所述处理链中各批量文件及对应的数据处理逻辑生成各批量文件的批量文件处理树形图,其中,所述批量文件处理树形图中每个执行节点包括至少一个批量文件以及一个数据处理逻辑;

执行所述批量文件处理树形图中的各个执行节点,并实时判断所述各个执行节点是否处于完成状态;

判断不处于完成状态的执行节点是否处于异常状态;

重新执行处于异常状态的执行节点,直至所述批量文件处理树形图中的各个执行节点均处于完成状态时,完成所有批量文件处理任务。

优选地,所述执行所述批量文件处理树形图中的各个执行节点,包括:

扫描所述批量文件处理树形图中的各个执行节点的状态,确定所述批量文件处理树形图中的处于未完成状态的执行节点;

实时判断所述处于未完成状态的执行节点的前置执行节点是否全部处于完成状态;

当所述处于未完成状态的执行节点的前置执行节点全部处于完成状态时,执行所述处于未完成状态的执行节点。

优选地,所述根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务之后,还包括:

针对批量文件处理任务的处理链中的每个执行节点,获取所述执行节点对应的批量文件的属性信息,根据所述属性信息获取所述批量文件对应的输入参数;

将所述输入参数代入所述执行节点对应的数据处理逻辑中执行逻辑运算,得到计算结果;

按照预设的备份路径对所述计算结果进行存储,并将所述计算结果发送至所述处理链中与当前的执行节点相连接的下一执行节点。

本发明的另一技术方案如下:提供一种批量文件处理装置,包括:

接收模块,用于当接收到批量文件处理请求时,获取所述批量文件处理请求对应的至少一个批量文件;

文件解析模块,用于对每个所述批量文件进行解析,得到每个所述批量文件的属性信息,其中,所述属性信息包括文件信息、字段信息以及格式信息;

逻辑解析模块,用于获取每个所述批量文件的数据处理逻辑,根据各所述批量文件的数据处理逻辑确定各批量文件的处理顺序,根据所述处理顺序获取所述批量文件的处理链;

任务配置模块,用于根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务。

本发明的另一技术方案如下:提供一种电子设备,包括处理器、以及与所述处理器耦接的存储器,所述存储器存储有可被所述处理器执行的程序指令;所述处理器执行所述存储器存储的所述程序指令时实现上述的批量文件处理方法。

本发明的另一技术方案如下:提供一种存储介质,所述存储介质内存储有程序指令,所述程序指令被处理器执行时实现能够实现上述的批量文件处理方法。

本发明的有益效果在于:本发明的批量文件处理方法、装置、电子设备和存储介质,获取批量文件处理请求对应的至少一个批量文件;对每个所述批量文件进行解析,得到每个所述批量文件的属性信息;获取每个所述批量文件的数据处理逻辑,根据各所述批量文件的数据处理逻辑确定各批量文件的处理顺序,根据所述处理顺序获取所述批量文件的处理链;根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务;通过上述方式,实现对批量文件处理请求中涉及的每个批量文件的属性信息以及业务逻辑进行配置,减少批量文件处理的开发周期,实现了批量入口的统一管理,增加了批量文件处理的速度。

【附图说明】

图1为本发明第一实施例的批量文件处理方法的流程图;

图2为本发明第二实施例的批量文件处理方法的流程图;

图3为本发明第三实施例的批量文件处理装置的结构示意图;

图4为本发明第四实施例的电子设备的结构示意图;

图5为本发明第五实施例的存储介质的结构示意图。

【具体实施方式】

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

本发明中的术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”、“第三”的特征可以明示或者隐含地包括至少一个该特征。本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。本发明实施例中所有方向性指示(诸如上、下、左、右、前、后……)仅用于解释在某一特定姿态(如附图所示)下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。

图1是本发明第一实施例的批量文件处理方法的流程示意图。需注意的是,若有实质上相同的结果,本发明的方法并不以图1所示的流程顺序为限。如图1所示,该批量文件处理方法包括步骤:

S101,当接收到批量文件处理请求时,获取所述批量文件处理请求对应的至少一个批量文件。

其中,为了更加清楚的对本提案的方法进行描述,提供一具体事例:假设本提案的方法应用于银行交易服务器中,执行主体为银行交易服务器,在银行交易服务器进行批量文件处理过程中,用户发起批量文件处理请求,银行交易服务器响应该批量文件处理请求,进行任务配置,生成该批量文件处理请求对应的批量文件处理任务,按照所述批量文件处理任务进行批量文件处理。

进一步地,该批量文件处理请求包括当天利息收益计算请求、当天基金收益计算请求以及账户对账请求,于是,所述批量文件处理请求对应的批量文件包括计算利息收益所需的存款总额批量、计算基金收益所需的基金总额批量以及进行账户对账所需的账户余额明细批量。并且,账户对账请求需要使用当天利息收益(当天利息收益计算的结果)以及当天基金收益(当天基金收益计算的结果),账户对账任务需要在当天利息收益计算和当天基金收益计算均完成之后才能进行。

S102,对每个所述批量文件进行解析,得到每个所述批量文件的属性信息,其中,所述属性信息包括文件信息、字段信息以及格式信息。

其中,所述文件信息包括所述批量文件的文件类型、所述批量文件的存储路径以及所述批量文件的文件命名规则,所述字段信息包括所述批量文件中每个字段的关键字以及所述批量文件中每个字段的有效数据,所述格式信息包括所述批量文件的正文解析起始位置以及所述批量文件的编码格式。

具体地,关于每个批量文件的文件属性信息,文件类型为批量文件自身类型,例如,txt、excel、rar或zip;存储路径为批量文件的文件路径,例如,该批量文件存储在服务器A:\2020文件\12月\临时文件\存款数据;批量文件的命名具有一定的规律,例如,基金总额批量的文件名为adc大象基金0001或adc天虹基金0001,其中,“adc”和“0001”均为固定部分,中间部分为基金名称,则批量文件的命名规则为adcXXXX0001。

具体地,关于每个批量文件的字段信息,批量文件包括多个字段,例如,序列号,账户名称,银行账号以及基金账号,每个字段的关键字即为该字段的属性(上述的序列号、账户名称、银行账号、基金账号),例如,一条文件数据:字符串1(25的二进制字符串),字符串2(张三的二进制字符串),字符串3(6226096500041112的二进制字符串),字符串4(6225888400013660的二进制字符串),上述四个字符串分别为序列号、账户名称、银行账号、基金账号。每个字段的有效数据,在银行系统或基金系统中,相同的字段一般为定长数据,在存储时,当数据达不到定长的长度,需要对其按照预设的补位规则进行补位,例如,数据的定长为20位,补位规则为左补空格,当文件数据只有15位(该15位即为有效数据)时,在其最左边补5个空格字符;又如,数据的定长为15位,补位规则为右补0,当文件数据只有12位(该12位即为有效数据)时,在其最右边补3个0;在确定每个字段的有效数据时,获取字段的长度,判断该字段是否为定长数据;当判断结果为是时,获取该字段的补位规则;根据字段的长度及补位规则还原补位前的有效数据。

具体地,关于每个批量文件的格式信息,批量文件的正文解析起始位置,为解析批量文件时开始读取的位置,批量文件的前n行一般为非正文的其他描述信息,例如,批量文件a的第一行为其他描述信息,确定批量文件a的正文解析起始位置为第二行;批量文件b的前34行为其他描述信息,确定批量文件b的正文解析起始位置为第35行。批量文件的编码格式为字符的编码方式,不同的编码方式对应了不同的解析方式,例如,批量文件的编码格式为ISO8859-1,于是在进行计算时,将该批量文件的每个字段对应的字符串按照ISO8859-1的解析方式进行解读。

在本步骤中,针对计算利息收益所需的存款总额批量、计算基金收益所需的基金总额批量以及进行账户对账所需的账户余额明细批量,均要进行上述解析,分别确定存款总额批量的属性信息、基金总额批量的属性信息以及账户余额明细批量的属性信息。

S103,获取每个所述批量文件的数据处理逻辑,根据各所述批量文件的数据处理逻辑确定各批量文件的处理顺序,根据所述处理顺序获取所述批量文件的处理链。

其中,基于每个所述批量文件的计算目的获取对应的数据处理逻辑,例如,上述具体例子中,存款总额批量用于计算利息收益,于是,存款总额批量的数据处理逻辑为日利息计算逻辑;基金总额批量用于计算基金收益,于是,基金总额批量的数据处理逻辑为日基金收益计算逻辑;账户余额明细批量用于进行账户对账,于是,账户余额明细批量的数据处理逻辑为账户对账逻辑。具体地,每个数据处理逻辑可以对应一种业务算法。

其中,日利息计算逻辑仅需使用存款总额批量就能进行计算,日基金收益计算逻辑仅需使用基金总额批量就能进行计算;而账户对账逻辑实现时需要使用账户余额明细批量、当天利息收益(当天利息收益计算的结果)以及当天基金收益(当天基金收益计算的结果),账户对账逻辑需要在当天利息收益计算和当天基金收益计算均完成之后才能进行计算,于是,各批量文件的处理顺序为S1,计算当日利息;S2,计算当日基金收益;S3,进行对账;或者,S1,计算当日基金收益;S2,计算当日利息;S3,进行对账;或者,S1,分别计算当日利息和当日基金收益;S2,进行对账。根据上述处理顺序生成处理链,各批量文件的处理链为日利息计算逻辑-日基金收益计算逻辑-账户对账逻辑;或者,日基金收益计算逻辑-日利息计算逻辑-账户对账逻辑;或者,日基金收益计算逻辑与日利息计算逻辑并行执行,再执行账户对账逻辑。

具体地,根据各批量文件的处理顺序标记所述处理链中各个所述数据处理逻辑的继承顺序,依次控制所述处理链中的各个所述数据处理逻辑按所述处理顺序加载对应的批量文件,同时,根据所述数据处理逻辑的继承顺序依次控制所述处理链中所述各个数据处理逻辑接收前一个或前多个数据处理逻辑得到的计算结果,并且,对所述处理链中的每个数据处理逻辑所得的计算结果进行存储。例如,上述的处理链(日基金收益计算逻辑与日利息计算逻辑并行执行,再执行账户对账逻辑)中,调用存款总额批量执行日利息计算逻辑得到日利息批量(计算结果1),同时,调用基金总额批量并行执行日基金收益计算逻辑得到日基金收益批量(计算结果2);然后,调用账户余额明细批量、日利息批量(计算结果1)以及日基金收益批量(计算结果2)执行账户对账逻辑得到对账结果批量(计算结果3)。

在本实施例中,所述处理链中包括多个执行节点,每个执行节点包括至少一个批量文件以及一个数据处理逻辑。

S104,根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务;

其中,只需根据对各批量文件的分析所得的属性信息、各批量文件的数据处理逻辑及处理链进行配置,生成批量文件的处理任务,再按照所述处理任务对各批量文件进行运行。

进一步地,在步骤S104中,对批量文件的备份路径进行配置。

在第一个可选的实施方式中,进一步考虑当前批量文件处理任务与其他批量文件处理任务之间的关系,在步骤S104之后,还包括如下步骤:

S301,获取多个批量文件处理任务的处理链,根据所述处理链中各批量文件及对应的数据处理逻辑生成各批量文件的批量文件处理树形图,其中,所述批量文件处理树形图中每个执行节点包括至少一个批量文件以及一个数据处理逻辑。

其中,将待执行的多个批量文件处理任务的处理链进行整合,形成批量文件处理树形图。

S302,执行所述批量文件处理树形图中的各个执行节点,并实时判断所述各个执行节点是否处于完成状态。

S303,判断不处于完成状态的执行节点是否处于异常状态。

S304,重新执行处于异常状态的执行节点,直至所述批量文件处理树形图中的各个执行节点均处于完成状态时,完成所有批量文件处理任务。

其中,多个处理链连接形成树形结构,树形结构的每个执行节点基于至少一个批量文件执行对应数据处理逻辑,生成的计算结果用于与当前执行节点连接的后续执行节点的执行,实现了将多个批量文件处理请求进行整合,各个执行节点中,既有并行执行,也有串行执行,有利于提高计算速度,并且,批量文件的入口实现了统一处理。对于异常状态的执行节点,实现断点续跑。

进一步地,在步骤S302中,扫描所述批量文件处理树形图中的各个执行节点的状态,确定所述批量文件处理树形图中的处于未完成状态的执行节点;实时判断所述处于未完成状态的执行节点的前置执行节点是否全部处于完成状态;当所述处于未完成状态的执行节点的前置执行节点全部处于完成状态时,执行所述处于未完成状态的执行节点。

在第二个可选的实施方式中,在步骤S104之后,还包括如下步骤:

S401,针对批量文件处理任务的处理链中的每个执行节点,获取所述执行节点对应的批量文件的属性信息,根据所述属性信息获取所述批量文件对应的输入参数;

具体地,根据所述批量文件的文件信息加载所述批量文件,根据所述批量文件的格式信息对所述批量文件的字段信息进行解析,得到对应的字段的真实数据(例如,存款总额的具体数字),将所述真实数据作为输入参数。

S402,将所述输入参数代入所述执行节点对应的数据处理逻辑中执行逻辑运算,得到计算结果;

具体地,当前执行节点的数据处理逻辑为当日利息计算时,从存款总额批量中获取存款总额的真实数据,将存款总额的真实数据作为输入参数代入日利息计算逻辑中,得到的计算结果为日利息。

S403,按照预设的备份路径对所述计算结果进行存储,并将所述计算结果发送至所述处理链中与当前的执行节点相连接的下一执行节点。

其中,预设的备份路径可以直接配置在批量文件处理任务中,在数据处理逻辑执行完毕后,按照批量文件处理任务的配置文件中记载的备份路径,该计算结果将作为新的批量文件存储在备份路径中。

图2是本发明第二实施例的批量文件处理方法的流程示意图。需注意的是,若有实质上相同的结果,本发明的方法并不以图2所示的流程顺序为限。如图2所示,该批量文件处理方法包括步骤:

S201,当接收到批量文件处理请求时,获取所述批量文件处理请求对应的至少一个批量文件。

S202,对每个所述批量文件进行解析,得到每个所述批量文件的属性信息,其中,所述属性信息包括文件信息、字段信息以及格式信息。

S203,获取每个所述批量文件的数据处理逻辑,根据各所述批量文件的数据处理逻辑确定各批量文件的处理顺序,根据所述处理顺序获取所述批量文件的处理链。

步骤S201至步骤S203具体参见第一实施例步骤S101至步骤S103的描述,在此不进行一一赘述。

S204,获取预设时间周期内的服务器的状态信息,其中,所述状态信息包括资源种类和空闲资源量。

S205,根据所述服务器的状态信息获取每个所述批量文件的单次最大处理数据量。

S206,根据所述批量文件的属性信息、所述批量文件的单次最大处理数据量、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务。

在本实施例中,由于批量文件处理任务是在服务器执行完成的,此处的服务器可以为单个服务器也可以为服务器集群,不同的服务器环境中,硬件配置不同,例如,CPU的核数和内存不同,网络传输不同,磁盘I/O不同,因此,考虑服务器的状态信息,实施动态资源调配。在步骤S204中,资源种类可以包括CPU、内存、网络I/O和磁盘I/O;空闲资源量分别包括CPU核数、内存大小、磁盘I/O数据以及网络传输数据。在步骤S205中,例如,存款总额批量一共有500万条数据,待执行该批量文件计算任务的服务器空闲资源量只够处理10万条数据,于是,设置单次最大处理数据量为10万条。

在一个可选的实施方式中,步骤S206之后还包括:

S207,将所述处理链上传至区块链中,以使得所述区块链对所述处理链进行加密存储。

在步骤S208中,分别基于所述处理链得到对应的摘要信息,具体来说,摘要信息由所述处理链进行散列处理得到,比如利用sha256s算法处理得到。将摘要信息上传至区块链可保证其安全性和对用户的公正透明性。用户设备可以从区块链中下载得该摘要信息,以便查证所述处理链是否被篡改。本示例所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。本方案属于智慧教育领域,通过本方案能够推动智慧城市的建设。

图3是本发明第三实施例的批量文件处理装置的结构示意图。如图3所示,该批量文件处理装置30包括接收模块31、文件解析模块32、逻辑解析模块33以及任务配置模块34,其中,接收模块31,用于当接收到批量文件处理请求时,获取所述批量文件处理请求对应的至少一个批量文件;文件解析模块32,用于对每个所述批量文件进行解析,得到每个所述批量文件的属性信息,其中,所述属性信息包括文件信息、字段信息以及格式信息;逻辑解析模块33,用于获取每个所述批量文件的数据处理逻辑,根据各所述批量文件的数据处理逻辑确定各批量文件的处理顺序,根据所述处理顺序获取所述批量文件的处理链;任务配置模块34,用于根据所述批量文件的属性信息、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务。

进一步地,所述文件信息包括所述批量文件的文件类型、所述批量文件的存储路径以及所述批量文件的文件命名规则,所述字段信息包括所述批量文件中每个字段的关键字以及所述批量文件中每个字段的有效数据,所述格式信息包括所述批量文件的正文解析起始位置以及所述批量文件的编码格式。

进一步地,所述文件解析模块32用于获取所述批量文件中每个字段的长度;判断所述字段是否为定长数据,当判断结果为是时,获取所述字段的补位规则;根据所述字段的长度及补位规则还原补位前的有效数据。

进一步地,本实施例的批量文件处理装置30还包括资源解析模块,用于获取预设时间周期内的服务器的状态信息,其中,所述状态信息包括资源种类和空闲资源量;根据所述服务器的状态信息获取每个所述批量文件的单次最大处理数据量;相应地,任务配置模块34用于根据所述批量文件的属性信息、所述批量文件的单次最大处理数据量、所述批量文件的数据处理逻辑以及所述批量文件的处理链,对所述批量文件进行任务配置,生成所述批量文件处理请求对应的批量文件处理任务。

进一步地,本实施例的批量文件处理装置30还包括处理树模块,用于获取多个批量文件处理任务的处理链,根据所述处理链中各批量文件及对应的数据处理逻辑生成各批量文件的批量文件处理树形图,其中,所述批量文件处理树形图中每个执行节点包括至少一个批量文件以及一个数据处理逻辑;执行所述批量文件处理树形图中的各个执行节点,并实时判断所述各个执行节点是否处于完成状态;判断不处于完成状态的执行节点是否处于异常状态;重新执行处于异常状态的执行节点,直至所述批量文件处理树形图中的各个执行节点均处于完成状态时,完成所有批量文件处理任务。

更进一步地,所述处理树模块用于扫描所述批量文件处理树形图中的各个执行节点的状态,确定所述批量文件处理树形图中的处于未完成状态的执行节点;实时判断所述处于未完成状态的执行节点的前置执行节点是否全部处于完成状态;当所述处于未完成状态的执行节点的前置执行节点全部处于完成状态时,执行所述处于未完成状态的执行节点。

进一步地,本实施例的批量文件处理装置30还包括任务执行模块,用于针对批量文件处理任务的处理链中的每个执行节点,获取所述执行节点对应的批量文件的属性信息,根据所述属性信息获取所述批量文件对应的输入参数;将所述输入参数代入所述执行节点对应的数据处理逻辑中执行逻辑运算,得到计算结果;按照预设的备份路径对所述计算结果进行存储,并将所述计算结果发送至所述处理链中与当前的执行节点相连接的下一执行节点。

图4是本发明第四实施例的电子设备的结构示意图。如图4所示,该电子设备40包括处理器41及和处理器41耦接的存储器42。

存储器42存储有用于实现上述任一实施例的批量文件处理方法的程序指令。

处理器41用于执行存储器42存储的程序指令以进行批量文件处理。

其中,处理器41还可以称为CPU(Central Processing Unit,中央处理单元)。处理器41可能是一种集成电路芯片,具有信号的处理能力。处理器41还可以是通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

参阅图5,图5为本发明第五实施例的存储介质的结构示意图。本发明第五实施例的存储介质存储有能够实现上述所有方法的程序指令51,其中,该程序指令51可以以软件产品的形式存储在上述存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施方式所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质,或者是计算机、服务器、手机、平板等终端设备。

在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。

另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。以上仅为本发明的实施方式,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围。

以上所述的仅是本发明的实施方式,在此应当指出,对于本领域的普通技术人员来说,在不脱离本发明创造构思的前提下,还可以做出改进,但这些均属于本发明的保护范围。

相关技术
  • 批量文件处理方法、装置、电子设备和存储介质
  • 一种云化架构日志文件批量处理方法、装置及存储介质
技术分类

06120112880918