一种通感一体化网络多任务学习资源分配方法及系统
文献发布时间:2024-04-18 19:58:26
技术领域
本发明涉及工业互联网技术领域,尤其涉及一种通感一体化网络多任务学习资源分配方法及系统。
背景技术
随着工业互联网时代的来临,通感一体化(ISAC)网络由于其广泛的应用场景,促进工业互联网领域向更深层次发展如数字孪生,已经成为研究者关注的热点技术之一。随着基于工业互联网的ISAC网络中设备数量不断增多且数据海量接入,为了应对面向工业场景的ISAC网络中大量感知、通信和计算资源分配需求,如何提出实现资源分配的联合优化是目前亟待解决的关键问题。
ISAC网络是将雷达感知与通信两个功能集成于一体的网络,在工业场景中应用能够实现对工厂设备的实时监测感知,通过采用不同类型的传感器设备感知厂内环境温度、设备状态等信息,当出现设备故障问题时可以通过通信天线实时传输故障信息与故障情况等细节。随着网络规模的扩大,所获取的感知、通信与计算信息数据量也逐渐庞大,因此为保证网络传输质量,需要进行合理地分配资源。国际上已有学者通过结合均方误差(MSE)和功耗对波束赋形和计算卸载进行优化,并将其运用至移动边缘计算中;有学者考虑6G网络中的通感算系统,结合多个强化学习算法,解决了通感算系统中波束、信道、功率的资源分配问题。国内有学者提出了一种多代理的强化学习动态资源分配算法,优化用户关联、功率和子信道选择策略问题,且不需要用户间的信息交互。然而目前针对感知、通信和计算资源联合优化的研究尚有不足,因此如何提出一个实用的联合多目标优化方法,是ISAC网络在工业场景中得到良好发展所不可避免的问题。
边缘计算将计算资源从云中心转移到网络边缘侧的服务器,为联网的终端设备提供计算支持。以深度神经网络为代表的人工智能迅猛发展,在工业互联网领域得到了广泛应用,边缘计算和人工智能相互赋能所产生的边缘智能领域可以有效地处理数据。有学者提出利用边缘智能来解决云边协同系统中的业务卸载和资源分配问题,其中业务可以被卸载到边缘节点或云端上进行分布式处理以满足用户最低时延要求;还有学者提出将边缘智能与联邦学习结合,提出云边智能协同计算中的隐私保护方案以保护用户数据。然而,目前在边缘智能方面,对边缘智能辅助ISAC网络的研究缺乏深度耦合。因此,如何结合边缘智能去实现工业场景中ISAC网络资源的智能分配,是目前可以研究的一个热点问题。
发明内容
本发明提供了一种通感一体化网络多任务学习资源分配方法及系统,解决在边缘智能方面,对边缘智能辅助ISAC网络的研究缺乏深度耦合的问题。
为解决上述发明目的,本发明提供的技术方案如下:一种通感一体化网络多任务学习资源分配方法,其特征在于,步骤包括:
S1、构建支持联邦学习的ISAC网络体系;
S2、基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题;
S3、将通感一体化网络多任务学习资源分配多目标优化问题转化为多任务学习模型,其中每个终端和基站的深度神经网络都具有共享参数和特定任务参数,根据通感一体化网络多任务学习资源分配共享参数和通感一体化网络多任务学习资源分配特定任务参数进行波束赋形和计算卸载;
S4、采用多梯度下降法上界MGDA-UB对通感一体化网络多任务学习资源分配多任务学习模型进行优化,寻求多任务学习的帕累托最优解,完成ISAC网络中的多任务学习资源分配。
优选地,步骤S1中,支持联邦学习的ISAC网络体系,包括:
由服务端收集各端的梯度信息,通过聚合计算后再分发给各用户端,进行多个用户端联合的训练模型。
优选地,步骤S2中,基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题,包括:
基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配波束赋形优化问题被公式转化为克拉美罗界CRB和速率的优化问题;基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配计算卸载问题优化被公式转化为最大限度减少卸载的能耗问题;将通感一体化网络多任务学习资源分配克拉美罗界CRB和速率的优化问题和通感一体化网络多任务学习资源分配能耗问题结合为多目标优化问题。
优选地,多目标优化问题,包括:
f(w
其中,γ
优选地,步骤S3中,将通感一体化网络多任务学习资源分配多目标优化问题转化为多任务学习模型,其中每个终端和基站的深度神经网络都具有共享参数和特定任务参数,根据通感一体化网络多任务学习资源分配共享参数和通感一体化网络多任务学习资源分配特定任务参数进行波束赋形和计算卸载,包括:
将多目标优化问题参数化,给出参数化后波束赋形与计算卸载的多目标优化;
引入共享参数ω
优选地,步骤S4中,采用多梯度下降法上界MGDA-UB对通感一体化网络多任务学习资源分配多任务学习模型进行优化,寻求多任务学习的帕累托最优解,完成ISAC网络中的多任务学习资源分配,包括:
将多任务学习中的发射波束赋形和计算卸载转换为拉格朗日对偶问题;
深度神经网络和对偶变量的参数则通过链式规则向后更新;
根据多梯度下降法上界MGDA-UB算法在没有明确特定参数梯度的情况下通过单次反向传播来计算。
优选地,多任务学习,包括:
通过多任务学习寻求帕累托最优解,根据下述公式(2)获得经验风险最小化问题:
优选地,帕累托最优解,包括:
若存在
若不存在可以支配ω
一种通感一体化网络多任务学习资源分配系统,系统用于上述的通感一体化网络多任务学习资源分配方法,系统包括:
网络体系构建模块,用于构建支持联邦学习的ISAC网络体系;
多目标问题转化模块,用于基于所述ISAC网络体系,将所述ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题;
多任务学习模型转化模块,用于将所述多目标优化问题转化为多任务学习模型,其中每个终端和基站的深度神经网络都具有共享参数和特定任务参数,根据所述共享参数和所述特定任务参数进行波束赋形和计算卸载;
资源分配模块,用于采用多梯度下降法上界MGDA-UB对所述多任务学习模型进行优化,寻求多任务学习的帕累托最优解,完成ISAC网络中的多任务学习资源分配。
优选地,网络体系构建模块,进一步用于由服务端收集各端的梯度信息,通过聚合计算后再分发给各用户端,进行多个用户端联合的训练模型。
一方面,提供了一种电子设备,所述电子设备包括处理器和存储器,所述存储器中存储有至少一条指令,所述至少一条指令由所述处理器加载并执行以实现上述通感一体化网络多任务学习资源分配方法。
一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行以实现上述通感一体化网络多任务学习资源分配方法。
上述技术方案,与现有技术相比至少具有如下有益效果:
上述方案,本发明设计了一种通感一体化网络多任务学习资源分配方法及系统,研究了支持联邦学习的ISAC网络架构,解决了数据隐私保护问题并缓解了通信压力,本发明针对ISAC网络中包含波束赋形和计算卸载内的多目标优化问题,转化为多任务学习模型,基于MGDA算法提出了多梯度下降法上界MGDA-UB来降低计算成本,实现感知、通信和计算资源分配的联合优化。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的通感一体化网络多任务学习资源分配方法流程示意图;
图2是本发明实施例提供的ISAC网络多任务学习资源分配架构图;
图3是本发明实施例提供的基于联邦学习的ISAC网络架构模型图;
图4是本发明实施例提供的MGDA-UB算法流程图;
图5是本发明实施例提供的通感一体化网络多任务学习资源分配系统框图;
图6是本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例的附图,对本发明实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于所描述的本发明的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明针对现有在边缘智能方面,对边缘智能辅助ISAC网络的研究缺乏深度耦合的问题,提供了一种面向工业场景的通感一体化网络多任务学习资源分配方法和系统,目的在于实现工业场景下ISAC网络多域资源分配的联合优化,引入联邦学习构建网络架构,设计发射波束赋形与计算卸载的多目标优化问题,并将其转化为适合于联邦学习的多任务学习模型,最后采用MGDA-UB来实现多域资源分配的联合优化。
如图1所示,本发明实施例提供了一种通感一体化网络多任务学习资源分配方法,该方法可以由电子设备实现。如图1所示的通感一体化网络多任务学习资源分配方法流程图,该方法的处理流程可以包括如下的步骤:
S101、构建支持联邦学习的ISAC网络体系;
一种可行的实施方式中,ISAC网络多任务学习资源分配架构如图2所示。联邦学习是由服务端收集各端的梯度信息,通过聚合计算后再分发给各用户端,进行多个用户端联合的训练模型。
一种可行的实施方式中,联邦学习是一种高效的分布式DNN,是由服务端收集各端的梯度信息,再通过聚合计算后再分发给各用户端,从而实现多个用户端联合训练模型,保证原始数据不用传输至服务器,保护用户数据隐私。在联邦学习的帮助下,ISAC网络中的感知、通信和计算资源得到有效隐私保护,且每个终端都具有学习能力。
一种可行的实施方式中,基于联邦学习的ISAC网络架构如图3所示。联邦学习由三个阶段组成,包括局部模型更新、全局模型更新和聚合,其中每个终端都将解决其本地问题。每个数据i∈D
最小化F
在获得经过多次迭代的本地模型
随后ω
利用梯度下降法来解决全局损失函数最小化问题:
其中是
S102、基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题;
优选地,步骤S102中,基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题,包括:
基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配波束赋形优化问题被公式转化为克拉美罗界CRB和速率的优化问题;基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配计算卸载问题优化被公式转化为最大限度减少卸载的能耗问题;将通感一体化网络多任务学习资源分配克拉美罗界CRB和速率的优化问题和通感一体化网络多任务学习资源分配能耗问题结合为多目标优化问题。
优选地,多目标优化问题,包括:
f(w
其中,γ
一种可行的实施方式中,如图3所示,本申请考虑了一个多用户ISAC系统,该系统由一个ISAC基站和K个终端组成,其中终端包括感知目标和通信用户。来自终端k的发射信号
x
其中
其中
利用香农公式,终端k的可实现速率可以通过以下式子得出:
其中B
其中是
其中
因此,在通信终端SINR和总功率预算约束下的优化问题可以由以下式子表示:
s.t.C1:
C2:
相应地,可以在基站中计算卸载时间延迟和能量消耗。卸载能耗可以分为三种类型,包括感知数据本地进程
其中,
与感知数据不同,计算数据是通过CPU循环局部计算频率f
其中,终端k通过CPU的周期数c
r
并且传输速率r
最后,系统的总能耗E
其中,κ
式中的C与条件数ρ有关,γ∈(0,1)受条件数ρ的影响。条件数ρ可以由以下式子得出:
在上式中,ρ等于L/β,表示为
其中局部精度v∈(0,1)对所有终端都是通用的。在本文中本申请考虑引入联邦学习来处理雷达和感知数据,在讨论联邦学习框架的能量消耗之后,接下来进行时间延迟T
T
其中感知数据和计算数据的大小表示为α
其中β
其中α
T
因此,可以给出最小化计算卸载问题的公式:
s.t.C1:
C2:
C3:
C4:
C5:0<f
约束C1确保发射波束赋形的能量消耗不大于功率预算P
MIMO雷达发射足够的功率来提高传感性能,而计算卸载的目标是最大限度地减少卸载的能耗。因此,本申请可以在所提出的联合ISAC网络中通过结合CRB的优化问题,获得一个多目标问题。问题如下:
这是一个加权问题,其中f(w
S103、将通感一体化网络多任务学习资源分配多目标优化问题转化为多任务学习模型,其中每个终端和基站的深度神经网络都具有共享参数和特定任务参数,根据通感一体化网络多任务学习资源分配共享参数和通感一体化网络多任务学习资源分配特定任务参数进行波束赋形和计算卸载;
一种可行的实施方式中,对于上述提出的多目标优化问题,由于实际环境中的动态特性,这些函数在理想条件下是可行的,但在实际测量环境下是很难进行的,因此本文假设它不是完全通用的,需要引入以下多任务学习解决方案,将多目标优化中的问题参数化:
这里定义参数化
这里本申请令
类似地,CRB优化问题与计算卸载优化问题可以转化为:
s.t.C1:
C2:
C3:
C4:
C5:
s.t.C1:
C2:
成功将多目标优化问题参数化以后,本申请将共享参数ω
其中c
S104、采用多梯度下降法上界MGDA-UB对通感一体化网络多任务学习资源分配多任务学习模型进行优化,寻求多任务学习的帕累托最优解,完成ISAC网络中的多任务学习资源分配。
一种可行的实施方式中,将多任务学习中的发射波束赋形和计算卸载转换为拉格朗日对偶问题;
深度神经网络和对偶变量的参数则通过链式规则向后更新;
根据多梯度下降法上界MGDA-UB算法在没有明确特定参数梯度的情况下通过单次反向传播来计算。
一种可行的实施方式中,多任务学习,包括:
通过多任务学习寻求帕累托最优解,根据下述公式获得经验风险最小化问题:
一种可行的实施方式中,帕累托最优解,包括:
若存在
若不存在可以支配ω
一种可行的实施方式中,求解多任务学习的帕累托最优解可以表示为以下问题:
其中α
ζ
其中φ(·)是共享多任务表示函数,ζ
其中
一种可行的实施方式中,在所提出的多任务学习中,存在共享参数和特定任务参数,这里本申请将发射波束赋形和计算卸载转换为拉格朗日对偶问题,并选择特定任务t作为示例,多目标优化问题中不同目标的拉格朗日函数可以表示为:
其中非负变量
进一步将对偶函数D
s.t.λ
DNN和对偶变量的参数通过链式规则向后更新,因此原始变量可以通过以下方式更新:
对偶变量λ
其中梯度
根据之前所提出的多目标问题,多任务学习需要MGDA-UB算法来获得优化。多任务学习资源分配可分为三部分,包括特定任务的参数更新、α的求解和共享表示函数的参数更新,其中特定任务的参数更新已在上面得到叙述,因此接下来将讨论剩余两部分的内容。首先,引入Frank Wolfe算法来探索最优α,该算法是解决约束优化问题的一种有效方法。在更新特定任务t的参数之后,对α进行初始化,ω
随后循环开始,基于计算的矩阵M,从∑
当目前的
其中η是学习率,通过上式将获得更新后的共享参数ω
所有这些任务共享表示函数g(·)的输出是特定任务函数的输入,如果本申请将其表示为Z=[z
对于所有特定任务,可以向后计算一次,且由于
这种解决方案被称为MGDA-UB,它对应于使用任务损失而不是共享参数的梯度,其算法流程图如图4所示。
本发明实施例中,设计了一种通感一体化网络多任务学习资源分配方法及系统,研究了支持联邦学习的ISAC网络架构,解决了数据隐私保护问题并缓解了通信压力,本发明针对ISAC网络中包含波束赋形和计算卸载内的多目标优化问题,转化为多任务学习模型,基于MGDA算法提出了多梯度下降法上界MGDA-UB来降低计算成本,实现感知、通信和计算资源分配的联合优化。
图5是本发明的一种通感一体化网络多任务学习资源分配系统示意图,所述系统200用于上述的通感一体化网络多任务学习资源分配,所述系统200包括:
网络体系构建模块210,用于构建支持联邦学习的ISAC网络体系;
多目标问题转化模块220,用于基于所述ISAC网络体系,将所述ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题;
多任务学习模型转化模块230,用于将所述多目标优化问题转化为多任务学习模型,其中每个终端和基站的深度神经网络都具有共享参数和特定任务参数,根据所述共享参数和所述特定任务参数进行波束赋形和计算卸载;
资源分配模块240,用于采用多梯度下降法上界MGDA-UB对所述多任务学习模型进行优化,寻求多任务学习的帕累托最优解,完成ISAC网络中的多任务学习资源分配。
优选地,网络体系构建模块210,进一步用于由服务端收集各端的梯度信息,通过聚合计算后再分发给各用户端,进行多个用户端联合的训练模型。
优选地,多目标问题转化模块220,进一步用于基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配波束赋形优化问题被公式转化为克拉美罗界CRB和速率的优化问题;基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配计算卸载问题优化被公式转化为最大限度减少卸载的能耗问题;将通感一体化网络多任务学习资源分配克拉美罗界CRB和速率的优化问题和通感一体化网络多任务学习资源分配能耗问题结合为多目标优化问题。
优选地,多目标优化问题,包括:
f(w
其中,γ
优选地,多任务学习模型转化模块230,进一步用于将多目标优化问题参数化,给出参数化后波束赋形与计算卸载的多目标优化;
引入共享参数ω
优选地,资源分配模块240,进一步用于将多任务学习中的发射波束赋形和计算卸载转换为拉格朗日对偶问题;
深度神经网络和对偶变量的参数则通过链式规则向后更新;
根据多梯度下降法上界MGDA-UB算法在没有明确特定参数梯度的情况下通过单次反向传播来计算。
优选地,多任务学习,包括:
通过多任务学习寻求帕累托最优解,根据下述公式获得经验风险最小化问题:
优选地,帕累托最优解,包括:
若存在
若不存在可以支配ω
本发明实施例中,设计了一种通感一体化网络多任务学习资源分配方法及系统,研究了支持联邦学习的ISAC网络架构,解决了数据隐私保护问题并缓解了通信压力,本发明针对ISAC网络中包含波束赋形和计算卸载内的多目标优化问题,转化为多任务学习模型,基于MGDA算法提出了多梯度下降法上界MGDA-UB来降低计算成本,实现感知、通信和计算资源分配的联合优化。
图6是本发明实施例提供的一种电子设备300的结构示意图,该电子设备300可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上处理器(centralprocessing units,CPU)301和一个或一个以上的存储器302,其中,所述存储器302中存储有至少一条指令,所述至少一条指令由所述处理器301加载并执行以实现下述通感一体化网络多任务学习资源分配方法的步骤:
S1、构建支持联邦学习的ISAC网络体系;
S2、基于通感一体化网络多任务学习资源分配ISAC网络体系,将通感一体化网络多任务学习资源分配ISAC网络体系中的波束赋形与计算卸载公式转化为多目标优化问题;
S3、将通感一体化网络多任务学习资源分配多目标优化问题转化为多任务学习模型,其中每个终端和基站的深度神经网络都具有共享参数和特定任务参数,根据通感一体化网络多任务学习资源分配共享参数和通感一体化网络多任务学习资源分配特定任务参数进行波束赋形和计算卸载;
S4、采用多梯度下降法上界MGDA-UB对通感一体化网络多任务学习资源分配多任务学习模型进行优化,寻求多任务学习的帕累托最优解,完成ISAC网络中的多任务学习资源分配。
在示例性实施例中,还提供了一种计算机可读存储介质,例如包括指令的存储器,上述指令可由终端中的处理器执行以完成上述通感一体化网络多任务学习资源分配方法。例如,所述计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
- 一种基于分词和命名实体识别的多任务深度神经网络的句子主干分析方法及系统
- 一种基于贝叶斯程序学习算法的无人系统资源分配方法
- 一种自适应神经网络学习方法及神经网络系统
- 5G网络中面向多任务联邦学习的资源分配方法及系统
- 基于通感算一体化的卸载决策与资源分配方法