掌桥专利:专业的专利平台
掌桥专利
首页

一种云计算任务处理方法及相关设备

文献发布时间:2024-04-18 19:58:21


一种云计算任务处理方法及相关设备

技术领域

本发明涉及云服务技术领域,尤其涉及一种云计算任务处理方法、系统、云计算服务端及计算机可读存储介质。

背景技术

云计算因其在云端部署大型的运算服务资源,能够为周边系统提供算力支持,而无需在本地部署大型服务器,因此,受到了各行业,尤其是基于B/S架构的应用系统青睐。云计算服务一般采用分布式部署GPU服务器集群,通过API对外提供算力支持,相较于本地部署的GPU服务器,无论从规模、算力支持及系统可靠性有着无可比拟的优势。当前,云计算服务广泛应用于云渲染、AI能力支持、大数据分析等领域。

在实际应用中,云计算服务虽然能提供强有力的算力支持,但调用云计算受到很多因素的制约,例如:网络抖动、异常任务导致资源过载、数据丢失导致计算失败等,导致任务报错。随着5G技术的发展,网络制约因素也逐步减少,但仍然无法完全解决能力调用过程中异常情况。

当前,为了提升云计算的容错能力与资源效率,常用的方法是通过开辟一个计算空间,采用无效任务识别模型对序列计算的每一步都执行任务校验,针对异常任务进行容错处理,针对无效任务进行熔断或卸载;相关方法以牺牲部分云计算服务资源来解决问题;虽能有效进行任务容错,但同时也会带来资源耗损、计算结果不准及因重复计算、异常任务容错导致的资源过载问题。

因此,现有技术还有待于改进和发展。

发明内容

本发明的主要目的在于提供一种云计算任务处理方法、系统、云计算服务端及计算机可读存储介质,旨在解决现有技术中异常任务进行容错处理,针对无效任务进行熔断或卸载,在实际运行过程中存在资源耗损、计算结果不准及因重复计算、异常任务容错导致的资源过载问题。

为实现上述目的,本发明提供一种云计算任务处理方法,所述云计算任务处理方法包括如下步骤:

接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务;

当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果;

获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果;

在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。

可选地,所述的云计算任务处理方法,其中,所述接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务,具体包括:

接收计算请求并向云计算资源池推送任务包,所述任务包包括任务指令和计算数据,所述任务包被拆分为若干各传输数据包存储在数据仓库中;

提取所述数据仓库中完成传输的数据包进行任务包组合得到组合数据包,并提取所述组合数据包的所述任务特征标签;

若根据所述任务特征标签判定所述组合数据包缺失,则向其他资源池查询相关数据包并再次执行任务包合并操作,若合并成功则执行任务校验,所述任务校验包括任务脚本校验和计算数据完整性校验;

若校验成功则执行计算任务并提取任务特征,若校验失败则卸载任务并提取任务特征,将校验失败结果存在所述数据仓库,并返回任务校验失败错误代码至终端或应用系统。

可选地,所述的云计算任务处理方法,其中,所述向其他资源池查询相关数据包并再次执行任务包合并操作,具体包括:

若其他资源池在数据仓库中发现相同特征的数据包,获取相同特征的数据包;

将相同特征的数据包保存至数据仓库并再次执行任务包合并操作。

可选地,所述的云计算任务处理方法,其中,所述当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果,具体包括:

当任务完整性检验通过后,再次进行任务特征提取,对所述任务特征与所述数据仓库中缓存的计算结果进行匹配,并计算特征相似度;

相似度分数大于95%,则判定为重复计算任务,将所述计算结果返回至终端或应用系统;

若相似度分数介于90%-95%,则判定为相似任务,调用相同的脚本公式执行数据替换运算,输出最新计算结果返回终端或应用系统,并将所述最新计算结果存放至所述数据仓库中。

可选地,所述的云计算任务处理方法,其中,所述获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果,具体包括:

提取任务的任务特征和无效任务的无效任务特征,对所述任务特征进行重复计算判断,比对所述任务特征与所述无效任务特征的相似度;

若相似度大于95%,则判定为无效任务,卸载任务,并将无效任务特征和错误代码缓存至所述数据仓库中,输出计算失败结果;

执行任务卸载后,向终端或应用系统返回错误代码。

可选地,所述的云计算任务处理方法,其中,所述比对所述任务特征与所述无效任务特征的相似度,之后还包括:

所述相似度包括计算脚本的特征与无效任务脚本特征的相似度,计算数据的相似度;

若所述相似度大于85%且小于95%,则再次进行任务特征提取并进行重复计算判断,比对所述任务特征与所述无效任务特征的相似度,得到二次相似度计算结果;

若所述二次相似度计算结果大于90%,则判定为无效任务,执行卸载任务,并将无效任务特征和错误代码缓存至所述数据仓库中,输出计算失败结果。

可选地,所述的云计算任务处理方法,其中,所述在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对,具体包括:

在执行计算任务时,当任务无法执行计算或需要执行容错时,收集计算任务,对任务特征进行提取后执行二次特征提取标注,得到标注数据;

将所述标注数据制作成训练数据对特征识别模型进行训练得到训练好的特征识别模型;

所述训练数据包括计算成功任务与结果、计算失败任务与结果及无效任务特征;

基于训练好的特征识别模型对任务特征进行提取和比对。

此外,为实现上述目的,本发明还提供一种云计算任务处理系统,其中,所述云计算任务处理的系统包括:

任务校验模块,接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务;

重复计算任务判断模块,当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果;

无效任务识别模块,用于获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果;

模型训练模块,用于在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。

此外,为实现上述目的,本发明还提供一种云计算服务端,其中,所述云计算服务端包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的云计算任务处理程序,所述云计算任务处理程序被所述处理器执行时实现如上所述的云计算任务处理方法的步骤。

此外,为实现上述目的,本发明还提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储有云计算任务处理程序,所述云计算任务处理程序被处理器执行时实现如上所述的云计算任务处理方法的步骤。

本发明公开了一种云计算任务处理方法及相关设备,所述方法包括:接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务;当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果;获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果;在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。本发明通过任务特征识别,使得相同的计算任务快速匹配对应的计算结果,用最少的云计算资源损耗来实现任务校验,并有效卸载无效任务,提升云计算资源的资源利用率、服务集群的稳定性和计算结果的准确性。

附图说明

图1是本发明云计算任务处理方法的较佳实施例中云计算任务处理系统原理图;

图2是本发明云计算任务处理方法的较佳实施例的流程图;

图3是本发明云计算任务处理方法的较佳实施例中任务完整性校验流程示意图;

图4是本发明云计算任务处理方法的较佳实施例中任务包完整性校验补充图;

图5是本发明云计算任务处理方法的较佳实施例中任务完整性校验流程说明图;

图6是本发明云计算任务处理方法的较佳实施例中重复计算任务快速处理示意图;

图7是本发明云计算任务处理方法的较佳实施例中无效任务识别流程示意图;

图8是本发明云计算任务处理方法的较佳实施例中特征模型动态训练流程图;

图9是本发明云计算任务处理系统的较佳实施例的原理示意图;

图10为本发明云计算服务端的较佳实施例的运行环境示意图。

具体实施方式

为使本发明的目的、技术方案及优点更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。

本发明提出了一种云计算任务处理方法及相关设备,如图1所述,本发明的袁苗-银行流水包括:任务校验模块、特征识别模型、策略执行模块、任务追踪模块、数据仓库、任务调度模块、动态学习模块,数据同步模块。通过在云计算各资源池部署云计算任务处理系统,各模块功能如下:

任务校验模块:用于待计算的任务包是否完整,包括计算指令与计算数据的完整;

特征识别模型:用于识别任务是否无效任务、是否重复计算任务,概况而言是计算两个及以上任务与实例进行比对,输出比对结果;

策略执行模块:无效任务识别与卸载具体执行操作的模块,是根据特征识别模块输出的结果,应用对应的脚本来执行操作;例如,有一个实例A,当任务B发送至云计算任务处理系统,特征识别模块会执行B任务特征提取,提取特征后会与A比较,输出相似度结果;策略执行模块会根据相似度结果来执行是继续推送任务还是卸载任务;

任务追踪模块:校验任务完整性不足时,通过本模块查询各计算资源池是否有相同任务的数据包;所述计算资源池指的是云计算服务器集群;计算资源,即集群中的CPU+GPU(以“核”为单位)、内存(缓存资源,以“G”为单位,存储(服务器硬盘,也是以“G”为单位)),每个独立的集群称为“(云)计算资源池”;

任务调度模块:用于将转派错误的数据包执行正确路由修正;转派错误指的都是在客户端向云端发送网络数据包的时候,派发至A计算资源池的时候,因为网络容错原因数据包错误路由至B资源池;在大并发处理时,客户端的数据包传输策略都是择优传输,所以就容易出现错误路由;路由修正就是指让错误转派的数据包向正确的资源池路由地址进行修正;例如,数据包错误转发至B资源池,B资源池就调整数据包的路由路径,让数据包能正确路由回A资源池;

动态学习模块:用于执行特征识别模型自学习,是一个AI能力,该能力是基于机器自学习脚本,应用服务器产生的日志信息,来对模型进行训练;常用脚本包括,分类训练脚本、基于Python的自动化脚本;常用模型训练工具:transformer,RNN等;

数据同步模块:用于同步的数据仓库与模型,云计算任务处理系统用到的模型,主要包括:特征识别模型、特征提取模、任务完整度判断模型、深度学习模型等;

数据仓库:云计算资源池缓存的计算结果、无效任务特征等基础数据。

本发明较佳实施例所述的云计算任务处理方法,如图2所示,所述云计算任务处理方法包括以下步骤:

步骤S10、接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务。

具体地,如图3、图4和图5所示,云计算服务端接收终端或应用系统发起的计算请求并向云计算资源池推送任务包;然后,网络端会将任务包拆分为若干传输数据包发送到云计算服务端,并将网络数据包保存至数据仓库中。策略执行模块会提取数据仓库中完成传输的数据包进行任务包组合得到组合数据包,并进行数据包的完整性校验,提取组合数据包的任务特征标签;根据任务特征标签进行判定,若组合数据包缺失,则通过特征识别模型提取数据包特征并向其他资源池查询相关数据包,再次执行任务包合并操作;若组合数据包完整,即合并成功则执行任务校验。当任务包合成时仍缺失数据包,则判定为不完整数据,此时计算任务执行熔断(即强制终止计算任务),并向终端或应用系统返回任务包不完整的报错信息。若校验成功则执行计算任务并提取任务特征,若校验失败则卸载任务并提取任务特征,将校验失败结果存放至数据仓库,并返回任务校验失败错误代码至终端或应用系统。

其中,若通过任务追踪模块在分布式云计算的其他资源池的数据仓库中发现了相同特征的数据包,则通过任务调度模块将数据包调度到一个资源池进行再合并。任务包是云计算任务数据包的简称,任务包内部分为两部分:一是执行脚本(即任务指令),二是计算数据;任务包从客户端向服务端传输,根据TCP、RTSP/RTP等标准网络传输协议,会将任务包拆分为适用于网络传输的网络数据包进行传输。相关数据包,就是指针对指定任务,因需要网络传输所拆分的网络数据包;任务校验包括任务脚本校验和计算数据完整性校验。

步骤S20、当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果。

具体地,如图6所示,当终端或应用系统向云计算资源推送计算任务时,云计算服务端执行任务校验;当任务完整性检验通过后,应用特征识别模型对计算任务进行二次特征提取;完成任务特征提取后,策略执行模块对任务特征与数据仓库中缓存的计算结果进行匹配,并计算特征相似度(一般采用局部敏感哈希算法(LHS)计算特征相似度)。

其中,对于每一次计算,云计算服务端都会将任务特征与计算结果缓存到数据仓库中,也包括同一个计算任务中的多次计算,例如,若一个任务有多次计算,则会缓存多个任务特征与计算结果,提高了数据的完整性,增加了云计算服务端进行计算任务完整性校验的成功率。所述计算任务包括计算脚本,计算表头,计算数据量等。本发明通过任务特征识别,可以让相同的计算任务快速匹配对应的计算结果,用最少的云计算资源损耗来实现任务校验,有效提升云计算资源利用率。

步骤S30、获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果。

具体地,如图7所示,应用LSH算法、距离相关系数判断算法、线性模型和正则算法,比对任务特征与数据仓库中的无效任务特征,提取任务的任务特征和无效任务的无效任务特征,对任务特征进行重复计算判断,比对新任务特征与无效任务特征的相似度;若相似度大于95%,则判定为无效任务,卸载任务,并将无效任务特征和错误代码缓存至所述数据仓库中,输出计算失败结果;执行任务卸载后,向终端或应用系统返回错误代码。

其中,相似度的阈值设置为三段;计算数据的相似度;LSH算法、距离相关系数判断算法判断计算脚本的特征与无效任务脚本特征的相似度;线性模型和正则算法用于判断计算数据的相似度。

其中,新任务特征是指本次待计算的任务包中用于计算的数据。任务相似度高,在常见的云计算任务中,基本为因数据不同导致的(即公式一样,但数据不同)。初始的无效任务特征是开源社区、云计算服务历史数据分析出来的;新任务特征,是基于特征识别模型提取出来的。

进一步地,所述相似度包括计算脚本的特征与无效任务脚本特征的相似度,若所述相似度大于85%且小于95%,则再次进行任务特征提取并进行重复计算判断,比对所述任务特征与所述无效任务特征的相似度,得到二次相似度计算结果;若所述二次相似度计算结果大于90%,则判定为无效任务,执行卸载任务,并将无效任务特征和错误代码缓存至所述数据仓库中(采用增量与替代存储方式),输出计算失败结果,减少了重复计算任务的执行,提升了云计算资源的资源利用率。

步骤S40、在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。

具体地,如图8所示,在执行计算任务时,先执行步骤S1,采集开源社区采集云计算类的计算任务;当任务无法执行计算或需要执行容错时,收集计算任务,执行步骤S2,设计任务特征提取器,对爬虫数据、历史数据执行任务特征提取;步骤S3,运营人员、AI训练人员对采集的数据进行二次特征提取标注;步骤S4,通过标注数据制作labels数据,用作模型训练;步骤S5,采用监督学习方法,如logistic regression,决策树等,生成特征识别模型并记录人工标注特征用于计算机自学习标注;步骤S6,采集云计算历史执行的计算任务;步骤S7,采用监督学习方法,将标注数据制作成训练数据对特征识别模型进行训练得到训练好的特征识别模型;训练数据包括计算成功任务与结果、计算失败任务与结果及无效任务特征;基于训练好的特征识别模型对任务特征进行提取和比对;步骤S8,对模型进行部署和应用,装置配置云计算服务资源空闲阈值,当云资源计算空闲时,启动动态学习模块,执行步骤S3和S4,对动态的计算任务数据执行标注;重复执行步骤S5-S7,最后执行步骤S9,动态信息模块执行模型训练,完成模型的更新训练。

本发明通过任务特征识别,使得相同的计算任务快速匹配对应的计算结果,用最少的云计算资源损耗来实现任务校验,准确识别无效任务并在云计算前置完成无效任务卸载,提升云计算资源的资源利用率、服务集群的稳定性和计算结果的准确性。

进一步地,如图9所示,基于上述云计算任务处理方法,本发明还相应提供了一种云计算任务处理系统,其中,所述云计算任务处理系统包括:

任务校验模块51,接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务;

重复计算任务判断模块52,当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果;

无效任务识别模块53,用于获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果;

模型训练模块54,用于在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。

进一步地,如图10所示,基于上述云计算任务处理方法和系统,本发明还相应提供了一种云计算服务端,所述云计算服务端包括处理器10、存储器20及显示器30。图10仅示出了云计算服务端的部分组件,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。

所述存储器20在一些实施例中可以是所述云计算服务端的内部存储单元,例如云计算服务端的硬盘或内存。所述存储器20在另一些实施例中也可以是所述云计算服务端的外部存储设备,例如所述云计算服务端上配备的插接式硬盘,智能存储卡(Smart MediaCard,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器20还可以既包括所述云计算服务端的内部存储单元也包括外部存储设备。所述存储器20用于存储安装于所述终云计算服务端的应用软件及各类数据,例如所述安装云计算服务端的程序代码等。所述存储器20还可以用于暂时地存储已经输出或者将要输出的数据。在一实施例中,存储器20上存储有云计算任务处理程序40,该云计算任务处理程序40可被处理器10所执行,从而实现本申请中云计算任务处理方法。

所述处理器10在一些实施例中可以是一中央处理器(Central Processing Unit,CPU),微处理器或其他数据处理芯片,用于运行所述存储器20中存储的程序代码或处理数据,例如执行所述云计算任务处理方法等。

所述显示器30在一些实施例中可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。所述显示器30用于显示在所述云计算服务端的信息以及用于显示可视化的用户界面。所述云计算服务端的部件10-30通过系统总线相互通信。

在一实施例中,当处理器10执行所述存储器20中云计算任务处理程序40时实现以下步骤:

接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务;

当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果;

获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果;

在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。

其中,所述接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务,具体包括:

接收计算请求并向云计算资源池推送任务包,所述任务包包括任务指令和计算数据,所述任务包被拆分为若干各传输数据包存储在数据仓库中;

提取所述数据仓库中完成传输的数据包进行任务包组合得到组合数据包,并提取所述组合数据包的所述任务特征标签;

若根据所述任务特征标签判定所述组合数据包缺失,则向其他资源池查询相关数据包并再次执行任务包合并操作,若合并成功则执行任务校验,所述任务校验包括任务脚本校验和计算数据完整性校验;

若校验成功则执行计算任务并提取任务特征,若校验失败则卸载任务并提取任务特征,将校验失败结果存在所述数据仓库,并返回任务校验失败错误代码至终端或应用系统。

其中,所述向其他资源池查询相关数据包并再次执行任务包合并操作,具体包括:

若其他资源池在数据仓库中发现相同特征的数据包,获取相同特征的数据包;

将相同特征的数据包保存至数据仓库并再次执行任务包合并操作。

其中,所述当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果,具体包括:

当任务完整性检验通过后,再次进行任务特征提取,对所述任务特征与所述数据仓库中缓存的计算结果进行匹配,并计算特征相似度;

若相似度分数大于95%,则判定为重复计算任务,将所述计算结果返回至终端或应用系统;

若相似度分数介于90%-95%,则判定为相似任务,调用相同的脚本公式执行数据替换运算,输出最新计算结果返回终端或应用系统,并将所述最新计算结果存放至所述数据仓库中。

其中,所述获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果,具体包括:

提取任务的任务特征和无效任务的无效任务特征,对所述任务特征进行重复计算判断,比对所述任务特征与所述无效任务特征的相似度;

若相似度大于95%,则判定为无效任务,卸载任务,并将无效任务特征和错误代码缓存至所述数据仓库中,输出计算失败结果;

执行任务卸载后,向终端或应用系统返回错误代码。

其中,所述比对所述任务特征与所述无效任务特征的相似度,之后还包括:

所述相似度包括计算脚本的特征与无效任务脚本特征的相似度,计算数据的相似度;

若所述相似度大于85%且小于95%,则再次进行任务特征提取并进行重复计算判断,比对所述任务特征与所述无效任务特征的相似度,得到二次相似度计算结果;

若所述二次相似度计算结果大于90%,则判定为无效任务,执行卸载任务,并将无效任务特征和错误代码缓存至所述数据仓库中,输出计算失败结果。

其中,所述在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对,具体包括:

在执行计算任务时,当任务无法执行计算或需要执行容错时,收集计算任务,对任务特征进行提取后执行二次特征提取标注,得到标注数据;

将所述标注数据制作成训练数据对特征识别模型进行训练得到训练好的特征识别模型;

所述训练数据包括计算成功任务与结果、计算失败任务与结果及无效任务特征;

基于训练好的特征识别模型对任务特征进行提取和比对。

本发明还提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储有云计算任务处理程序,所述云计算任务处理程序被处理器执行时实现如上所述的云计算任务处理方法的步骤。

综上所述,本发明提供一种云计算任务处理方法及相关设备,所述方法包括:接收任务指令和计算数据,对所述任务指令和所述计算数据进行完整性校验并输出任务特征标签,根据所述任务特征标签输出任务校验结果,提取任务特征,若校验成功则执行计算任务,若检验失败则卸载任务;当任务通过完整性校验后,将所述任务特征与数据仓库中已有的任务特征进行匹配,若存在相同计算任务时,提取并输出计算结果,若存在相似计算任务,调用计算脚本根据所述计算数据进行计算并输出计算结果;获取任务的任务特征和无效任务的无效任务特征,计算所述任务特征与所述无效任务特征的相似度,当所述相似度达到阈值时,卸载任务并输出计算失败结果;在执行计算任务时,当任务无法执行计算或需要执行容错时,利用计算成功任务与结果、计算失败任务与结果及无效任务特征对特征识别模型进行训练和更新,以控制训练和更新后的特征识别模型对任务特征进行提取和比对。本发明通过任务特征识别,使得相同的计算任务快速匹配对应的计算结果,用最少的云计算资源损耗来实现任务校验,并有效卸载无效任务,提升云计算资源的资源利用率、服务集群的稳定性和计算结果的准确性。

需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者云计算服务端不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者云计算服务端所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者云计算服务端中还存在另外的相同要素。

当然,本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关硬件(如处理器,控制器等)来完成,所述的程序可存储于一计算机可读取的计算机可读存储介质中,所述程序在执行时可包括如上述各方法实施例的流程。其中所述的计算机可读存储介质可为存储器、磁碟、光盘等。

应当理解的是,本发明的应用不限于上述的举例,对本领域普通技术人员来说,可以根据上述说明加以改进或变换,所有这些改进和变换都应属于本发明所附权利要求的保护范围。

相关技术
  • 一种信息处理方法、区块链节点设备以及相关设备
  • 一种DPI设备的数据处理方法及相关的DPI设备
  • 一种终端设备及任务处理方法
  • 一种任务处理方法、装置、设备及机器可读存储介质
  • 一种任务处理方法、装置及设备
  • 结合任务的工作流处理方法、任务处理方法及相关设备
  • 一种任务处理模型的训练方法、任务处理方法及相关设备
技术分类

06120116480632