掌桥专利:专业的专利平台
掌桥专利
首页

边缘计算与云计算相融合的方法、系统、设备及介质

文献发布时间:2024-04-18 20:01:23


边缘计算与云计算相融合的方法、系统、设备及介质

技术领域

本发明涉及信息技术领域的云计算技术领域,具体涉及一种边缘计算与云计算相融合的方法、系统、设备及存储介质。

背景技术

在物联网、云计算等新一代信息技术被广泛应用的背景下,以传大数据、感器技术、物联网技术、互联网技术、云计算、隐私计算等为理论支撑,越来越多的企事业单位的物联网终端设备加入网络,以解决智能安防、智能应急、智能农业、智能防灾等领域智能化、网络化监测预警问题。据统计,2020年后全球联网终端数量已经超过500亿台/套。Gartner研究显示,2022年以来,随着企业数字业务的快速发展,有超过75%的企业所生成的数据在传统的集中式数据中心或云端之外的位置被处理。预计到2025年,将有80%的企业可能会关闭其传统的私有数据中心。海量的终端感知设备以及用户要求的低延迟使得传统集中式计算处理方案不再满足当前需求,一种边缘计算与云计算相融合的方法应运而生,在快速连接、业务实时、数据融合、智能应用、安全隐私保护等方面满足企事业单位数字化转型所需要的智能服务。

发明内容

本发明提出的一种边缘计算与云计算相融合的方法、设备及存储介质,克服背景技术中提及的传统方法的局限性,提高企事业单位数字化转型时对快速连接、业务实时、数据融合、智能应用、安全隐私保护等方面需智能服务的精确性、准确性和实时性。

为实现上述目的,本发明采用了以下技术方案:

一种边缘计算与云计算相融合的方法,包括以下步骤,

(1)数据预处理:在边缘计算设备上对原始数据进行预处理;

(2)联邦学习:在云计算平台上,采用联邦学习算法对边缘计算设备上的预处理数据进行联合训练;

(3)高维范围缩减:在云计算平台上,运用高维范围缩减算法对联邦学习后的数据进行降维操作;

(4)模型更新与优化:根据降维后的数据和分析结果,对联邦学习模型进行更新和优化;

(5)数据安全与隐私保护:在整个过程中,采用安全加密技术保护数据隐私,防止数据泄露和安全漏洞;

(6)模型部署与应用:将更新后的联邦学习模型部署到边缘计算设备上,实现实时数据分析和预测。

进一步的,在云计算平台上,采用联邦学习算法对边缘计算设备上的预处理数据进行联合训练,具体步骤包括:

(1)初始化模型:中央服务器接受或者初始化用户需要训练的一个机器学习模型,并将其全局模型分发给参与联邦学习(Federated learning)的各个边缘节点设备。

(2)本地训练:每个边缘节点设备使用本地预准备的数据对分发的全局模型进行深度学习。这里的数据不离开节点设备,仅在节点设备本地进行模型训练,这有助于保护用户的隐私和数据安全。同时模型在边缘节点设备上学习和更新,使得模型能够快速适应实时数据变化。

(3)模型聚合:各边缘节点运用本地数据训练模型完成后,边缘设备将只有模型学习后更新的参数(而不是原始数据)传输回中央服务器。中央服务器对这些更新的参数进行全局聚合,以更新全局模型。全局聚合的频率是可配置的,可以以一个或多个本地更新为间隔进行聚合。每一次本地更新都会消耗边缘节点的计算资源,每一次全局聚合都会消耗网络的通信资源。

(4)迭代更新:中央服务器将更新后的全局模型再次分别传输给边缘节点设备,这些设备继续在本地进行再次的深度学习训练、参数传输和模型聚合的过程。这个迭代过程可以多次进行,通过这样的循环往复训练,能够逐步提升模型性能。

进一步的,云计算使用高维范围缩减算法(HRRN)的步骤包括:

(1)数据预处理:在执行降维操作之前,首先需要对原始数据进行预处理,例如去除噪声、缺失值填充、归一化等,以提高降维算法的效果。

(2)选择降维算法:根据具体需求和数据特点选择合适的降维算法,例如主成分分析(PCA)、t-分布邻域嵌入(t-SNE)、等距映射(IM)等。

(3)执行降维操作:根据选定的降维算法,对预处理后的数据进行降维操作。这可能包括数据映射、维度变换、坐标转换等步骤。

(4)评估降维效果:在降维完成后,需要对降维结果进行评估,以确定降维算法是否达到预期效果。评估指标可能包括数据重建误差、数据分布紧凑度、计算复杂度等。

(5)调整参数和算法:根据评估结果,可能需要对降维算法的参数进行调整,或者更换其他降维算法,以提高降维效果。

(6)应用降维结果:将降维后的数据应用于后续的数据分析、挖掘、机器学习等任务中,以提高相关领域的效率和效果。需要注意的是,在实际应用中,高维范围缩减算法的执行过程可能涉及多个步骤的迭代和调整,以达到最佳的降维效果。同时,应根据具体需求和数据特点选择合适的降维算法,并考虑算法的计算复杂度、可解释性、安全性等因素。

进一步的,使用MEC边云协同技术的详细步骤包括:

(1)数据采集:边缘计算终端节点通过各种传感器和设备收集数据,例如温度传感器、摄像头、麦克风等。这些设备可以直接连接到边缘计算平台,无需通过云平台进行中转。

(2)数据预处理:边缘计算可以对采集到的数据进行预处理,例如数据压缩、滤波、去噪等。这些预处理操作可以减少数据量和提高数据质量,从而降低传输成本和提高数据处理效率。

(3)数据存储:边缘计算可以将采集到的数据存储在边缘设备上,例如存储器、硬盘等。这些数据可以作为后续分析和处理的基础,同时也可以减少数据传输的成本和延迟。

(4)数据传输:需要将数据传输到云端进行进一步处理和分析时,边缘计算节点将数据通过无线网络传输到云端。

(5)云端处理:云端计算节点接收到数据后,进行深入分析、学习、推理等操作,将结果反馈给边缘计算节点。

(6)结果反馈:边缘计算节点接收到云端计算节点的结果后,将结果用于控制、决策、反馈等操作。当云边协同侧重于边缘端时,云端只负责初始化模型以及后续的决策与整合,边缘端负责主体的分析计算。

(7)结果呈现:最终结果可以通过边缘设备呈现给用户,例如智能手机、智能电视等。

本发明还提供了一种Federated Learning和HRRN相融合的边云协同数据分析系统,其搭载或存储有可实现上述的一种边缘计算与云计算相融合方法的程序。它具体是一种将边缘计算的联邦算法(Federated Learning)与云计算的最高响应比优先算法相融合的边云协同算法系统,能够更进一步的提高数据分析计算的效率,降低延迟,为各种应用场景提供稳定灵活的数据传输与分析系统。Federated Learning和HRRN相融合的边云协同数据分析系统包括操作步骤如下:

(1)数据预处理:首先,在边缘设备上使用联邦算法对数据进行预处理。联邦算法是一种在不泄露原始数据的情况下对数据进行聚合的算法,这样可以保护用户隐私。通过联邦算法,边缘设备可以将其数据聚合成一个本地模型,而不需要将原始数据上传到云端。

(2)数据上传:然后将边缘节点设备的本地模型上传到云端,以便进行下一步的处理。

(3)云端模型训练:在云端,使用HRRN算法对上传的本地模型进行训练。HRRN算法是一种高维数据降维技术,可以将大量数据压缩成低维表示,从而提高计算效率和模型训练速度。通过HRRN算法,可以在云端训练出一个全局模型。

(4)模型下传:将训练好的全局模型下传到多个边缘节电设备,在各个边缘节点分别用本地数据进行深度学习训练。

(5)边缘设备上的模型更新:在边缘设备上,使用联邦算法对全局模型进行更新,以适应本地数据,再将深度学习训练后的模型局部上传回云端整合更新。这样,每个边缘设备都可以拥有一个基于全局模型的局部模型,从而提高预测和推理的准确性。

(6)模型应用:最后,在边缘设备上使用更新后的局部模型进行实际的应用,例如实时数据分析、预测和决策等。

又一方面,本发明还公开一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如上述方法的步骤。

再一方面,本发明还公开一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如上方法的步骤。

由上述技术方案可知,本发明的边缘计算与云计算相融合的方法及系统,包括以下步骤:1)数据预处理:在边缘计算设备上对原始数据进行预处理;2)联邦学习:在云计算平台上,采用联邦学习算法对边缘计算设备上的预处理数据进行联合训练;3)高维范围缩减:在云计算平台上,运用高维范围缩减算法对联邦学习后的数据进行降维操作;4)模型更新与优化:根据降维后的数据和分析结果,对联邦学习模型进行更新和优化;5)数据安全与隐私保护:在整个过程中,采用安全加密技术保护数据隐私,防止数据泄露和安全漏洞;6)模型部署与应用:将更新后的联邦学习模型部署到边缘计算设备上,实现实时数据分析和预测。本发明能够综合应用边缘计算算法技术和云计算算法技术,将Federated Learning算法融合HRRN算法进行模型的深度学习与更新,通过本边云协同融合算法使模型训练和推理的效率得到显著的提升,同时通过在边缘节点上使用模型进行实际运用,能够灵活的进行数据分析,预测和决策,使得结果更加的真实准确,特别是在大规模数据和实时应用场景下实现高效处理,提升实效性。

本发明的优点在于:

本发明引入了先进的物联网、云计算、联邦学习、高维范围缩减、深度学习等技术,构建了一种边缘计算与云计算相融合方法,以及一种Federated Learning和HRRN相融合的边云协同数据分析系统,通过将边缘计算联邦算法和云计算HRRN算法结合运用,可以在保护用户隐私的同时,提高模型训练和推理的效率,从而克服了现有技术的不足之处,具体创新点包括:

1.提高计算效率:联邦算法可以在不泄露原始数据的情况下对数据进行聚合,从而将计算任务分配到边缘设备和云端计算节点上并行处理,提高计算效率。

2.降低延迟:由于边缘设备距离用户更近,因此可以更快地响应用户的请求。将计算任务分配到边缘设备上可以降低延迟,提高用户体验。

3.保护用户隐私:HRRN算法是一种高维数据降维技术,可以将大量数据压缩成低维表示,从而提高计算效率和模型训练速度。通过HRRN算法,可以在云端训练出一个全局模型,然后将训练好的全局模型下传到边缘设备。在边缘设备上,使用联邦算法对全局模型进行更新,以适应本地数据。这样,每个边缘设备都可以拥有一个基于全局模型的局部模型,从而提高预测和推理的准确性。

4.节约带宽:将计算任务分配到边缘设备上,是数据留在本地运算,不用将数据传输到云端,可以减少数据上传到云端的量,从而节约带宽资源。

5.稳定性:由于边缘设备分布式部署,使得任务与资源分配更加灵活,同时降低容器与网络带宽压力,因此可以更好地抵抗网络故障和设备故障,提高应用的稳定性。

附图说明

图1为本发明实施例的VGG16的训练过程图;

图2为本发明实施例VGG16模型构建示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。

本实施例所涉及的一种边缘计算与云计算相融合的技术方案,需经历一系列步骤,包括数据预处理、联邦学习、高维范围缩减、模型更新与优化、数据安全与隐私保护、模型部署与应用等,具体地:

1.数据预处理:在边缘计算设备上对原始数据进行预处理,例如去除噪声、缺失值填充、归一化等。预处理后的数据发送到云计算平台进行进一步处理。

2.联邦学习:在云计算平台上,采用联邦学习算法对边缘计算设备上的预处理数据进行联合训练。联邦学习可以保护数据隐私,避免将原始数据发送到云端,同时利用边缘计算设备的计算能力,提高训练效率。

3.高维范围缩减:在云计算平台上,运用高维范围缩减算法(如PCA、t-SNE、IM等)对联邦学习后的数据进行降维操作。降维后的数据可以在云端进行进一步分析和处理,或者返回到边缘计算设备上。

4.模型更新与优化:根据降维后的数据和分析结果,对联邦学习模型进行更新和优化。更新后的模型可以更好地反映数据特征,提高数据分析和预测的准确性。

5.数据安全与隐私保护:在整个过程中,采用安全加密技术(如加密通信、安全多方计算等)保护数据隐私,防止数据泄露和安全漏洞。

6.模型部署与应用:将更新后的联邦学习模型部署到边缘计算设备上,实现实时数据分析和预测。边缘计算设备可以根据模型预测结果进行决策和控制,提高系统的实时性和响应速度。通过上述实施措施,将边缘计算的联邦算法与云计算的高维范围缩减算法相融合,可以在保护数据隐私的同时,提高数据处理和分析的效率,为实时、智能、高效的系统应用提供支持。需要注意的是,这个技术方案需要根据实际需求和场景进行适当的调整和优化。例如,需要根据数据的特点选择合适的联邦学习算法和HRRN算法参数;需要根据计算和存储资源的实际情况平衡计算和存储的需求;还需要根据模型应用的实际需求调整模型的部署和应用方式等。

在这里,本发明实施例的核心技术之一是选择和使用适当的边缘计算算法。本发明采用联邦学习(Federated Learning)算法。Federated Learning是一种分布式机器学习方法,旨在在边缘设备上进行模型训练,而无需将原始数据传输到中央服务器。这有助于保护隐私,减少数据传输成本,并在边缘设备上实现实时的个性化模型更新。图1是边缘计算运用联邦学习算法处理数据信息的一般架构。

具体步骤包括:

(1)初始化模型:中央服务器接受或者初始化用户需要训练的一个机器学习模型,并将其全局模型分发给参与联邦学习(Federated learning)的各个边缘节点设备。

(2)本地训练:每个边缘节点设备使用本地预准备的数据对分发的全局模型进行深度学习。这里的数据不离开节点设备,仅在节点设备本地进行模型训练,这有助于保护用户的隐私和数据安全。同时模型在边缘节点设备上学习和更新,使得模型能够快速适应实时数据变化。

(3)模型聚合:各边缘节点运用本地数据训练模型完成后,边缘设备将只有模型学习后更新的参数(而不是原始数据)传输回中央服务器。中央服务器对这些更新的参数进行全局聚合,以更新全局模型。全局聚合的频率是可配置的,可以以一个或多个本地更新为间隔进行聚合。每一次本地更新都会消耗边缘节点的计算资源,每一次全局聚合都会消耗网络的通信资源。

(4)迭代更新:中央服务器将更新后的全局模型再次分别传输给边缘节点设备,这些设备继续在本地进行再次的深度学习训练、参数传输和模型聚合的过程。这个迭代过程可以多次进行,通过这样的循环往复训练,能够逐步提升模型性能。

本发明的另一个核心技术是云计算任务调度技术中的高维范围缩减算法(High-dimensional Range Reduction,HRRN),是一种在云计算环境中处理高维数据的技术。主要用于降低数据维度,减少数据存储和处理中的计算复杂度,从而提高数据分析的效率。具体步骤包括:

(1)数据预处理:在执行降维操作之前,首先需要对原始数据进行预处理,例如去除噪声、缺失值填充、归一化等,以提高降维算法的效果。

(2)选择降维算法:根据具体需求和数据特点选择合适的降维算法,例如主成分分析(PCA)、t-分布邻域嵌入(t-SNE)、等距映射(IM)等。

(3)执行降维操作:根据选定的降维算法,对预处理后的数据进行降维操作。这可能包括数据映射、维度变换、坐标转换等步骤。

(4)评估降维效果:在降维完成后,需要对降维结果进行评估,以确定降维算法是否达到预期效果。评估指标可能包括数据重建误差、数据分布紧凑度、计算复杂度等。

(5)调整参数和算法:根据评估结果,可能需要对降维算法的参数进行调整,或者更换其他降维算法,以提高降维效果。

(6)应用降维结果:将降维后的数据应用于后续的数据分析、挖掘、机器学习等任务中,以提高相关领域的效率和效果。需要注意的是,在实际应用中,高维范围缩减算法的执行过程可能涉及多个步骤的迭代和调整,以达到最佳的降维效果。同时,应根据具体需求和数据特点选择合适的降维算法,并考虑算法的计算复杂度、可解释性、安全性等因素。

本发明的核心技术还包括MEC边云协同技术,此核心技术将网络能力原子化封装,以此将网络能力以微服务和为模块的方式对外开放。微服务架构中,每个服务运行在单独的进程,并使用HTTP API等轻量级通信机制,是基于业务能力进行搭建,能够进行自动化部署,并保持最低限度的集中式管理。网络能力原子化封装提供的接口更加通用,实现了真正的跨平台,并能够进行分布式去中心化的部署,更适用于众多场景。MEC在移动网边缘提供IT服务环境和云计算能力,通过在网络边缘服务器执行密集型计算任务,以降低核心网络和传输网络的拥塞,从而减小网络带宽压力,降低时延,提升用户体验。随着服务如AR/VR的出现,传统的网络结构已经无法支撑,从而衍生出MEC,将网络业务下沉到接近用户的边缘侧,从而达到减小时延、避免网络拥塞的目的。

本发明采用MEC边云协同技术,此核心技术将网络能力原子化封装,以此将网络能力以微服务和为模块的方式对外开放。MEC在移动网边缘提供IT服务环境和云计算能力,通过在网络边缘服务器执行密集型计算任务,以降低核心网络和传输网络的拥塞,从而减小网络带宽压力,降低时延,提升用户体验。具体步骤包括:

(1)数据采集:边缘计算终端节点通过各种传感器和设备收集数据,例如温度传感器、视频监控设备、降雨量监测仪、土壤含水率监测仪、土壤压力监测仪、角度变化监测仪、位移变化监测仪等。这些设备可以直接连接到边缘计算平台,无需通过云平台进行中转。

(2)数据预处理:边缘计算可以对采集到的数据进行预处理,例如数据压缩、滤波、去噪等。这些预处理操作可以减少数据量和提高数据质量,从而降低传输成本和提高数据处理效率。

(3)数据存储:边缘计算可以将采集到的数据存储在边缘设备上,例如存储器、硬盘等。这些数据可以作为后续分析和处理的基础,同时也可以减少数据传输的成本和延迟。

(4)数据传输:需要将数据传输到云端进行进一步处理和分析时,边缘计算节点将数据通过无线网络传输到云端。

(5)云端处理:云端计算节点接收到数据后,进行深入分析、学习、推理等操作,将结果反馈给边缘计算节点。

(6)结果反馈:边缘计算节点接收到云端计算节点的结果后,将结果用于控制、决策、反馈等操作。当云边协同侧重于边缘端时,云端只负责初始化模型以及后续的决策与整合,边缘端负责主体的分析计算。

(7)结果呈现:最终结果可以通过边缘设备呈现给用户,例如智能手机、智能电视等。

将Federated Learning算法融合HRRN算法进行模型的深度学习与更新,步骤包括:

(1)联邦学习,在云计算平台上,采用联邦学习算法对边缘计算设备上的预处理数据进行联合训练;

(2)高维范围缩减,在云计算平台上,运用高维范围缩减算法对联邦学习后的数据进行降维操作;

(3)模型更新与优化,根据降维后的数据和分析结果,对联邦学习模型进行更新和优化;

(4)数据安全与隐私保护,在整个过程中,采用安全加密技术保护数据隐私,防止数据泄露和安全漏洞;

(5)模型部署与应用,将更新后的联邦学习模型部署到边缘计算设备上,实现实时数据分析和预测。

综合上述所述,一种边缘计算与云计算相融合方法包含多个步骤,其中使用了边缘计算算法技术和云计算算法技术,将Federated Learning算法融合HRRN算法进行模型的深度学习与更新,通过本边云协同融合算法使模型训练和推理的效率得到显著的提升,同时通过在边缘节点上使用模型进行实际运用,能够是是灵活的进行数据分析,预测和决策,使得结果更加的真实准确。本发明运用的MEC边云协同技术,是将网络能力原子化封装,以此将网络能力以微服务和为模块的方式对外开放。微服务架构中,每个服务运行在单独的进程,并使用HTTP API等轻量级通信机制,是基于业务能力进行搭建,能够进行自动化部署,并保持最低限度的集中式管理。网络能力原子化封装提供的接口更加通用,实现了真正的跨平台,并能够进行分布式去中心化的部署,更适用于众多场景。网络及虚拟化编排涉及通信运营商类网元的各项功能和APP的管理编排。对于传统的MANO,只能管理满足ETSI-NFV规范的VNF。在边缘侧业务平台中,在部署VNF的同时,还需部署第三方的边缘应用。此时传统的MANO无法实现对于业务和APP的管理编排,需增加编排模块MEPO和MEPM,以实现诸多的生命周期管理。其中,云计算的HRRN(High-dimensional Range Reduction)算法是一种高维数据降维技术,它可以在较短的时间内对大量高维数据进行处理,从而提高计算效率,有效地降低数据的维度,同时保持数据的原有信息,从而提高模型的训练精度和预测准确性,同时具备一定的灵活性。但是HRRN技术需要进行大量复杂的数据计算操作,在降维的同时也会影响数据的精确性。HRRN技术通过与边缘计算Federated Learning算法技术相融合,通过边缘计算Federated Learning算法的去中心化,可分散到多个边缘节点,在本地实时数据分析更新的特性,将复杂庞大的数据运算进行分散到各个边缘节点进行实时的深度分析学习,大大提升了数据分析与传输的效率,同时,数据分析结果的准确性也在FederatedLearning的实时更新迭代中得到保证,提高数据分析结果的真实性与准确性。通过将边缘计算与云计算相融合方法相结合,构建一个Federated Learning和HRRN相融合的边云协同数据分析系统,在保护数据隐私的同时,提高数据处理和分析的效率,为实时、智能、高效的系统应用提供支持。

二、装置和系统

为了将一种边缘计算与云计算相融合技术方案应用于实际场景,设计了一个Federated Learning和HRRN相融合的边云协同数据分析装置以及系统,该装置及系统包含多个关键模块,用于搭载不同功能,协同工作以实现融合计算的目标。

具体包括:

1.数据预处理模块:首先,在边缘设备上使用联邦算法对数据进行预处理。联邦算法是一种在不泄露原始数据的情况下对数据进行聚合的算法,这样可以保护用户隐私。通过联邦算法,边缘设备可以将其数据聚合成一个本地模型,而不需要将原始数据上传到云端。

2.数据上传模块:然后将边缘节点设备的本地模型上传到云端,以便进行下一步的处理。

3.模型训练模块:在云端,使用HRRN算法对上传的本地模型进行训练。HRRN算法是一种高维数据降维技术,可以将大量数据压缩成低维表示,从而提高计算效率和模型训练速度。通过HRRN算法,可以在云端训练出一个全局模型。

4.模型下传模块:将训练好的全局模型下传到多个边缘节电设备,在各个边缘节点分别用本地数据进行深度学习训练。

5.模型更新模块:在边缘设备上,使用联邦算法对全局模型进行更新,以适应本地数据,再将深度学习训练后的模型局部上传回云端整合更新。这样,每个边缘设备都可以拥有一个基于全局模型的局部模型,从而提高预测和推理的准确性。

6.模型应用模块:在边缘设备上使用更新后的局部模型进行实际的应用,例如实时数据分析、预测和决策等。通过将边缘计算联邦算法和云计算HRRN算法结合运用,可以在保护用户隐私的同时,提高模型训练和推理的效率,为边缘计算场景提供更好的服务。

7.模型优化模块:在云端进行全局模型训练后,可以增加一个模型优化模块,用于对模型进行进一步的调整和优化。这个模块可以使用一些先进的优化算法,例如梯度下降、随机梯度下降(SGD)或者Adam等,根据训练数据的分布和特性,对模型参数进行微调,以提高模型的准确性。

8.边缘设备管理模块:在边缘设备上,可以设置一个设备管理模块,用于监控和管理每个设备的计算资源、存储空间和网络连接状态。这个模块可以定期收集设备的性能数据,为后续的任务分配和资源管理提供参考。同时,该模块还可以负责处理设备的故障和异常,以确保系统的稳定运行。

9.安全与隐私保护模块:为了确保数据的安全性和隐私性,可以增加一个专门的安全与隐私保护模块。这个模块可以采取一些措施,例如数据加密、差分隐私技术、访问控制等,来保护数据在传输、存储和处理过程中的安全和隐私。

10.可视化与报表模块:为了方便用户理解和使用数据分析结果,可以增加一个可视化与报表模块。这个模块可以使用一些可视化工具,例如图表、仪表板等,将模型训练结果和数据分析结果以直观的方式展示出来。同时,该模块还可以生成各种报表,例如统计分析报表、趋势预测报表等,为用户提供全面的数据分析和决策支持。

通过以上扩展,的边云协同数据分析装置以及系统不仅能够实现分布式数据的协同处理和隐私保护,还可以提高模型训练的效率和准确性,更好地满足不同场景下的数据分析需求。

通过综合应用边缘计算算法技术和云计算算法技术,将Federated Learning算法融合HRRN算法进行模型的深度学习与更新,通过本边云协同融合算法使模型训练和推理的效率得到显著的提升,同时通过在边缘节点上使用模型进行实际运用,能够灵活的进行数据分析,预测和决策,结果更加的真实准确。

Federated Learning与HRRN相融合的边云协同数据分析装置及系统

在扩展此主题时,可以进一步深化以下几个关键部分:

数据预处理模块与联邦学习:联邦学习是一种在分布式系统中进行模型训练的方法,特别适合于处理敏感数据。在此模块,边缘设备利用联邦学习算法对数据进行预处理。具体来说,这种算法可以将数据分成小块,然后每个设备用其自身的数据进行模型训练。这样可以在不泄露原始数据的情况下,保护用户隐私。

模型训练模块与高维数据降维技术:在云端,使用HRRN(高维数据的降维技术)对上传的本地模型进行训练。HRRN算法是一种高效的降维技术,它可以在保持数据结构的同时,将大量数据压缩成低维表示。这样可以在不损失太多信息的情况下,提高计算效率和模型训练速度。

模型更新模块与联邦学习:在边缘设备上,使用联邦学习算法对全局模型进行更新。这样做是为了让每个边缘设备的模型都能适应本地数据。在此过程中,边缘设备将深度学习训练后的模型局部上传回云端整合更新。这样,每个边缘设备都可以拥有一个基于全局模型的局部模型,从而提高预测和推理的准确性。

模型应用模块:在此模块,边缘设备使用更新后的局部模型进行实际的应用。这些应用可能包括实时数据分析、预测和决策等。通过这种方式,可以灵活地利用数据,以实现不同的目标。

此外,还可以进一步讨论如何优化Federated Learning和HRRN的融合过程,例如,如何选择合适的参数、如何平衡计算和存储资源、如何优化模型更新策略等。这些深化和扩展可以帮助更好地理解这种融合方法、系统和装置的实际应用和性能。

三、本发明具有以下优势互补

1、提高计算效率:联邦算法可以在不泄露原始数据的情况下对数据进行聚合,从而将计算任务分配到边缘设备和云端计算节点上并行处理,提高计算效率。

2、降低延迟:由于边缘设备距离用户更近,因此可以更快地响应用户的请求。将计算任务分配到边缘设备上可以降低延迟,提高用户体验。

3、保护用户隐私:HRRN算法是一种高维数据降维技术,可以将大量数据压缩成低维表示,从而提高计算效率和模型训练速度。通过HRRN算法,可以在云端训练出一个全局模型,然后将训练好的全局模型下传到边缘设备。在边缘设备上,使用联邦算法对全局模型进行更新,以适应本地数据。这样,每个边缘设备都可以拥有一个基于全局模型的局部模型,从而提高预测和推理的准确性。

4、节约带宽:将计算任务分配到边缘设备上,是数据留在本地运算,不用将数据传输到云端,可以减少数据上传到云端的量,从而节约带宽资源。

5、稳定性:由于边缘设备分布式部署,使得任务与资源分配更加灵活,同时降低容器与网络带宽压力,因此可以更好地抵抗网络故障和设备故障,提高应用的稳定性。

四、实施本发明时需注意以下关键点

1.融合方式:如何确保输出能够有效地结合在一起是一个关键问题;

2.计算复杂性:由于使用了Federated Learning算法融合HRRN算法进行模型的深度学习与更新,因此需要确保整个模型的计算效率;

3.数据同步与通信:在边云协同系统中,边缘设备和云端需要进行频繁的数据交换和同步。因此,需要设计一个高效的数据传输机制,以确保数据同步的实时性和可靠性。同时,为了实现联邦学习算法中的模型更新,边缘设备之间也需要进行通信,以便将本地模型合并为全局模型。因此,需要建立一个安全的通信机制,以保护数据和模型在传输过程中的隐私和安全。

4.资源管理:由于边缘设备和云端资源有限,因此需要有效地管理计算和存储资源。具体来说,需要根据任务的需求和设备的性能,动态地分配计算和存储资源,以确保任务能够高效地完成。同时,还需要考虑如何充分利用边缘设备和云端的资源,以便实现资源的共享和协同使用。

5.模型适应性:由于边缘设备和云端的计算能力和数据特点可能存在差异,因此需要确保所设计的模型能够适应不同的设备和场景。具体来说,需要根据设备的性能和数据的特点,选择合适的模型和算法,以便实现模型的高效训练和推理。同时,还需要考虑如何平衡模型在边缘设备和云端的使用,以便实现模型在分布式系统中的协同运行。

6.系统扩展性:由于边缘计算和云计算的使用日益广泛,因此需要确保所设计的系统具有良好的扩展性。具体来说,需要考虑如何设计系统的结构和功能,以便系统能够容易地扩展和升级。同时,还需要考虑如何与其他系统进行集成,以便实现数据的共享和业务的协同。

具体的说,本发明的边缘计算与云计算相融合的方法,可以在实际应用中实现以下效果:

1.提升计算效率:通过联邦学习和高维范围缩减算法,可以在分布式系统中实现高效的数据处理和模型训练,降低计算复杂度和资源消耗,提高计算效率。

2.保护数据隐私:采用联邦学习算法和安全加密技术,可以在不泄露原始数据的情况下,对数据进行处理和训练,有效保护用户隐私和数据安全。

3.增强模型性能:通过将高维范围缩减算法应用于云计算平台,可以提取数据中的关键特征,提高模型训练的效率和准确性。同时,联邦学习算法可以整合多个边缘设备的模型训练结果,实现模型性能的提升。

4.实现实时数据分析:通过将更新后的联邦学习模型部署到边缘设备上,可以在实时数据流中实现快速的数据分析和预测,提高数据处理速度和实效性。

5.扩展系统容量:由于采用了分布式计算和存储方式,本发明可以实现系统容量的灵活扩展,在大规模数据和实时应用场景下表现出更好的性能和可扩展性。

6.提高预测和决策的准确性:通过在边缘节点上使用更新后的模型进行实时数据分析、预测和决策,可以获得更加准确的结果,提高系统的实用性和可靠性。

在实际应用场景中,本发明适用于各种需要进行大规模数据处理和实时数据分析的场景,如智能制造、智慧城市、金融风控、健康医疗、交通物流等领域。这些领域涉及到的数据往往规模巨大且需要实时处理,而本发明的边缘计算与云计算相融合的方法可以满足这些需求,提供高效、安全、准确的计算服务和数据支持。

同时,本发明还可以与其他技术进行结合,如人工智能、大数据分析、机器学习等领域的前沿技术,进一步扩展其应用范围和提升性能。例如,可以结合深度学习算法对数据进行更深层次的分析和处理,或者结合自然语言处理技术对文本数据进行情感分析和语义理解等。

综上所述,本发明实施例提出的一种边缘计算与云计算相融合方法、系统和装置在处理海量终端数据以及用户要求的低延迟的云计算方案方面具有多项优点和显著效果。

相对于现有技术在边缘计算领域存在的问题,本发明带来了显著的改进和创新,以下是发明创造的技术方案所具有的有益效果:

1.计算效率高:联邦算法可以在不泄露原始数据的情况下对数据进行聚合,从而将计算任务分配到边缘设备和云端计算节点上并行处理,提高计算效率。

2.延迟时间低:由于边缘设备距离用户更近,因此可以更快地响应用户的请求。将计算任务分配到边缘设备上可以降低延迟,提高用户体验。

3.隐私保护强:HRRN算法是一种高维数据降维技术,可以将大量数据压缩成低维表示,从而提高计算效率和模型训练速度。通过HRRN算法,可以在云端训练出一个全局模型,然后将训练好的全局模型下传到边缘设备。在边缘设备上,使用联邦算法对全局模型进行更新,以适应本地数据。这样,每个边缘设备都可以拥有一个基于全局模型的局部模型,从而提高预测和推理的准确性。

4.网络带宽弱:将计算任务分配到边缘设备上,是数据留在本地运算,不用将数据传输到云端,可以减少数据上传到云端的量,从而节约带宽资源。

5.异常故障少:由于边缘设备分布式部署,使得任务与资源分配更加灵活,同时降低容器与网络带宽压力,因此可以更好地抵抗网络故障和设备故障,提高应用的稳定性。

此外,本发明提供了一个完整的端到端解决方案,涵盖了从边缘设备数据采集到融合计算的整个闭环流程。用户可以通过Federated Learning算法融合HRRN算法进行模型的深度学习、更新和系统搭建,即可获得边缘计算在网络边缘进行分析、处理、存储数据的效率提升和用户数据的隐私保护需求。

综上所述,本发明涵盖了物联网、云计算、联邦学习、深度学习和监测预警等多个前沿技术领域,对于地质灾害监测预警、工地安全监测、边坡安全监测等应急管理具有广泛的应用价值。创新的技术方案不仅可以用于地质灾害监测预警、工地安全监测、边坡安全监测等关系人民生命财产的实际生活场景,实现科技赋能经济社会发展,还有助于推动相关领域的技术发展和理论研究。为用户提供了一种更准确、更高效、更全面的地质灾害监测预警、工地安全监测、边坡安全监测等智能方案。

边缘计算与云计算相融合是如何在上述应用场景中发挥作用的具体细节如下:

1.地质灾害监测预警:在此场景下,边缘计算和云计算的融合能够实时监测地壳运动和地质应力等数据,从而预测和预警可能发生的灾害。首先,通过在目标区域部署一系列具备边缘计算能力的监测设备,这些设备可以实时收集地壳运动和地质应力的数据,并就地处理这些数据。然后,通过云计算进行高级分析和模型预测,可以获得精确的地质灾害预警。这样,可以在灾害发生前提前预警,从而减少人员伤亡和财产损失。

2.智能安防:智能安防系统结合边缘计算和云计算可以实现更高级别的安全监控。首先,边缘计算设备可以实时处理视频流数据或其他传感器数据,检测并识别异常情况。然后,这些信息被发送到云计算中心进行进一步的分析和处理。通过这种方式,可以实现24/7的安全监控,及时发现并预警潜在的安全威胁。

3.智慧社区:在智慧社区中,边缘计算和云计算的融合可以实现智能化的服务和管理。例如,边缘计算设备可以部署在智能照明系统中,实时检测和调节亮度,同时收集如路灯的开关状态、电量消耗等数据。这些数据被传输到云计算中心进行进一步的处理和分析,以优化照明系统的性能并实现能源的节约。

4.智慧工地:在建筑工地上,边缘计算和云计算的融合可以为工程设备的监控和维护提供更高效的方法。首先,部署在机械设备上的边缘计算设备可以实时收集机械设备的运行状态数据,如转速、工作负载、故障码等。然后,这些数据被传输到云计算中心进行高级分析和预测。通过这种方式,可以预测机械设备的故障和维护需求,从而及时进行维修和保养,避免因设备故障造成的工程延误。

5.交通隧道和公路边坡监测预警:在此场景下,边缘计算和云计算的融合可以为隧道和公路边坡的监测预警提供更准确及时的数据。首先,部署在交通隧道和公路边坡的边缘计算设备可以实时监测其地质情况并收集相关数据,例如位移、沉降等。然后,这些数据被传输到云计算中心进行高级分析和预测。通过这种方式,可以及时发现和预警可能出现的塌方、滑坡等危险情况,从而保障交通安全。

另外,这种边缘计算与云计算相融合的方法、系统和装置还可以根据不同场景的需求进行自定义配置。例如,可以根据需要调整边缘计算和云计算的资源分配比例、调整数据处理和分析的方式等。这种灵活性使得这种边缘计算与云计算相融合的方法、系统和装置能够适应各种不同的实际应用场景。

总的来说,通过上述的融合方法、系统和装置,可以实现更快速、更可靠、更安全的云计算服务。这种边缘计算与云计算相融合的技术未来有着广阔的应用前景和发展空间。

又一方面,本发明还公开一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如上述方法的步骤。

再一方面,本发明还公开一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如上方法的步骤。

在本申请提供的又一实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述实施例中任一边缘计算与云计算相融合的方法。

可理解的是,本发明实施例提供的系统与本发明实施例提供的方法相对应,相关内容的解释、举例和有益效果可以参考上述方法中的相应部分。

本申请实施例还提供了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信,

存储器,用于存放计算机程序;

处理器,用于执行存储器上所存放的程序时,实现上述边缘计算与云计算相融合的方法。

上述电子设备提到的通信总线可以是外设部件互连标准(英文:PeripheralComponent Interconnect,简称:PCI)总线或扩展工业标准结构(英文:Extended IndustryStandard Architecture,简称:EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。

通信接口用于上述电子设备与其他设备之间的通信。

存储器可以包括随机存取存储器(英文:Random Access Memory,简称:RAM),也可以包括非易失性存储器(英文:Non-Volatile Memory,简称:NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。

上述的处理器可以是通用处理器,包括中央处理器(英文:Central ProcessingUnit,简称:CPU)、网络处理器(英文:Network Processor,简称:NP)等;还可以是数字信号处理器(英文:Digital Signal Processing,简称:DSP)、专用集成电路(英文:ApplicationSpecific Integrated Circuit,简称:ASIC)、现场可编程门阵列(英文:Field-Programmable Gate Array,简称:FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。

需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

技术分类

06120116546319