一种一致性ADMM算法确定方法及装置

技术领域

本申请属于数据处理领域，尤其涉及一种一致性ADMM算法确定方法及装置。

背景技术

在过去的几年中，ADMM算法引起了人们的兴趣，以解决现实世界中的统计学习问题。

现有技术中，已经深入研究了中心化一致性ADMM算法和去中心化一致性ADMM算法，并且中心化一致性ADMM算法和去中心化ADMM算法可以应用于在机器学习、大数据处理、分布式计算等多个领域中。

但是中心化系统中需要一个全局融合中心，且融合中心需要与其他所有边缘结点之间进行通信，而去中心化系统中要求不能存在全局的融合中心，在去中心化系统的拓扑图比较庞大的情况下，结点上的信息传递到整个系统中需要较长的时间，所以中心化一致性ADMM算法和去中心化ADMM算法都有了各自的局限性。

发明内容

鉴于上述问题，本申请提出了一种一致性ADMM算法确定方法及装置，为了通用于中心化系统和去中心化系统的一致性ADMM算法，具体方案如下：

一种一致性ADMM算法确定方法，其特征在于，所述方法包括：

获取系统的图模型，所述系统为中心化系统、去中心化系统或分布式系统；

基于所述系统的图模型构建所述系统的多重超图模型；

基于所述系统的多重超图模型构建所述系统的一致性ADMM算法。

可选的，所述基于所述系统的多重超图模型构建所述系统的一致性ADMM算法，包括：

确定所述系统的一致性ADMM算法的标准形式；

确定所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数；

基于所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定所述系统的一致性ADMM算法的变量按结点更新方式。

可选的，所述系统的一致性ADMM算法的标准形式包括：

s.t A

可选的，所述系统的一致性ADMM算法的变量按结点更新方式包括：

其中/>

可选的，所述基于所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定所述系统的一致性ADMM算法的变量按结点更新方式，包括：

确定所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数的变量更新方式:

λ

对公式3左乘

令

对公式3左乘

其中，A

其中，L

其中，|N

一种一致性ADMM算法确定装置，所述装置包括：

获取单元，用于获取系统的图模型，所述系统为中心化系统、去中心化系统或分布式系统；

第一构建单元，用于基于所述系统的图模型构建所述系统的多重超图模型；

第二构建单元，用于基于所述系统的多重超图模型构建所述系统的一致性ADMM算法。

可选的，所述第二构建单元，包括：

第一确定子单元，用于确定所述系统的一致性ADMM算法的标准形式；

第二确定子单元，用于确定所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数；

第三确定子单元，用于基于所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定所述系统的一致性ADMM算法的变量按结点更新方式。

可选的，所述系统的一致性ADMM算法的标准形式包括：

s.t A

可选的，所述系统的一致性ADMM算法的变量按结点更新方式包括：

其中/>

可选的，所述第三确定子单元，包括：

确定所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数的变量更新方式:

λ

对公式3左乘

令

对公式3左乘

其中，A

其中，L

其中，|N

基于上述技术方案，本申请提供的一致性ADMM算法确定方法及装置，获取系统的图模型，系统为中心化系统、去中心化系统或分布式系统，基于系统的图模型构建系统的多重超图模型，基于系统的多重超图模型构建系统的一致性ADMM算法，确定了通用于中心化系统和去中心化系统的一致性ADMM算法，运行速度快且可靠性好。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本申请的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1为本申请实施例公开的一种一致性ADMM算法确定方法的流程示意图；

图2为本申请实施例公开的一种多重超图模型的结构示意图；

图3为本申请实施例公开的一种融合中心的加入过程的过程示意图；

图4为本申请实施例公开的一种多重图下的模型的结构示意图；

图5为本申请实施例公开的一种以多重超图的方式描述多重图的示意图。图6为本申请实施例公开的一种已命名超边的示意图；

图7为本申请实施例公开的一种一致性ADMM算法确定装置的结构示意图。

具体实施方式

需要说明的是，本申请提供的银行业务处理的方法及装置可用于人工智能领域、区块链领域、分布式领域、云计算领域、大数据领域、物联网领域、移动互联领域、网络安全领域、芯片领域、虚拟现实领域、增强现实领域、全息技术领域、量子计算领域、量子通信领域、量子测量领域、数字孪生领域或金融领域。上述仅为示例，并不对本申请提供的银行业务处理的方法及装置的应用领域进行限定。

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的术语在适当情况下可以互换，这仅仅是描述本申请的实施例中对相同属性的对象在描述时所采用的区分方式。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，以便包含一系列单元的过程、方法、系统、产品或设备不必限于那些单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它单元。

为了使一致性ADMM算法通用于中心化系统和去中心化系统，本申请提供了一种一致性ADMM算法确定方法，下面结合附图和具体实施方式对本申请提供的一致性ADMM算法确定方法作进一步详细的说明。

请参阅附图1，图1为本申请实施例提供的一种一致性ADMM算法确定方法的流程示意图。该方法可以包括以下步骤：

步骤S101：获取系统的图模型，系统为中心化系统、去中心化系统或混合系统。

需要说明的是，在中心化系统中，每个边缘结点承担一定的本地计算任务并与中心结点相连，中心结点负责收集和融合边缘结点的计算结果。与集中式的方法相比，中心化系统不需要将所有数据收集到云上集中处理，保护了数据隐私，所有结点都承担一定的计算任务，运算速度快，拓展性能好，但也面临着所有结点都要与融合中心通信，通信负载不均衡、中心结点故障会导致整个系统无法运行等一系列问题；去中心化系统中，每个结点承担一定的计算任务并与周围邻居结点相连。由于没有融合中心，结点只能与邻居结点通信，实现信息传输；与中心化系统相比，去中心化系统通信负载均衡，有利于避免网络拥塞且单个结点的故障对整个系统的影响小，可靠性更好，但是也会带来信息在系统中传递缓慢的问题。

在本申请中，从图理论切入，研究适用于中心化系统、去中心化系统或混合系统的一致性ADMM算法。

步骤S102：基于系统的图模型构建系统的多重超图模型。

需要说明的是，多重超图是图在数学上面的泛化，图中的一条边最多只能和两个顶点相连接，多重超图中的一组边包含一条或多条超边，一组超边中包含超边的数量与被包围的结点个数一致。

为了便于理解，可以参考图2和图3。图2为本申请实施例公开的一种多重超图模型的结构示意图，图中几个结点的约束集合用几条超边将这些结点包围，属于两个约束集合的结点，分别统计两个约束集合中包含的结点数量，相加即为包围该结点的超边。

图3为本申请实施例公开的一种融合中心的加入过程的过程示意图，当图模型没有全局融合中心时，无需专门的融合中心，也不需要修改现有的边，只需选择一个结点，然后将结点本身及其所有边缘连接到新创建的虚拟融合中心，即可轻松创建每个虚拟融合中心。

步骤S103：基于系统的多重超图模型构建系统的一致性ADMM算法。

需要说明的是，一致性是指分布式系统中各个结点的计算结果都相同。

在本申请中，除了ADMM算法，解决分布式一致性优化问题的算法还有次梯度下降算法、对偶平均和置信传播等。

综上所述，本申请提供的一致性ADMM算法确定方法，获取系统的图模型，系统为中心化系统、去中心化系统或分布式系统，基于系统的图模型构建系统的多重超图模型，基于系统的多重超图模型构建系统的一致性ADMM算法，确定了通用于中心化系统和去中心化系统的一致性ADMM算法，运行速度快且可靠性好。

在上述本申请公开的实施例的基础上，在本申请的再一个实施例中，对步骤S103基于系统的多重超图模型构建系统的一致性ADMM算法的具体实现方式进行了详细说明。

作为一种可实施方式，该方法可以包括以下步骤：

步骤S201：确定系统的一致性ADMM算法的标准形式。

在本申请中，系统的一致性ADMM算法的标准形式可以为

s.t A

为了便于理解，可以参考图4、图5和图6。图4为本申请实施例公开的一种多重图下的模型的结构示意图，图4是一个多重图，其中的局部融合中心连接着结点1、结点2及结点3共三个结点，于是结点1、结点2及结点3与局部融合中心相连的边的数量就都为3。结点3与结点4之间的边连接着两个结点(结点3和结点4)，那么结点3与结点4之间的边的数量就为2。

图5为本申请实施例公开的一种以多重超图的方式描述多重图的示意图，通过多重超图模型对图4进行表示，每一种颜色的椭圆形代表一条超边。图6为本申请实施例公开的一种已命名超边的示意图，分别将超边命名为z

可以看到结点1、结点2与结点3都同时在超边z

x

x

x

x

x

x

x

x

x

x

x

x

x

于是有：

步骤S202：确定系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数。

在本申请中，系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数可以为

步骤S203：基于系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定系统的一致性ADMM算法的变量按结点更新方式。

在本申请中，对系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数进行推导，得到确定系统的一致性ADMM算法的变量按结点更新方式具体将通过后面的实施例详细说明，此处不再展开描述。

在上述本申请公开的实施例的基础上，在本申请的再一个实施例中，对基于系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定系统的一致性ADMM算法的变量按结点更新方式的具体实现方式进行了详细说明。

作为一种可实施方式，可以确定系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数的变量更新方式:

λ

对公式3左乘

令

对公式3左乘

其中，A

其中，L

其中，|N

在本申请中，分布式一致性ADMM算法如下：

综上所述，本申请实施例提供的基于系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定系统的一致性ADMM算法的变量按结点更新方式的方法，转化为按节点更新的模式，便于在工程上使用。

上述本申请公开的实施例中详细描述了方法，对于本申请的方法可采用多种形式的装置实现，因此本申请还公开了一种一致性ADMM算法确定装置，下面给出具体的实施例进行详细说明。

请参阅附图7，图7为本申请实施例公开的一种一致性ADMM算法确定装置的结构示意图，该装置包括：

获取单元11，用于获取系统的图模型，所述系统为中心化系统、去中心化系统或分布式系统。

第一构建单元12，用于基于所述系统的图模型构建所述系统的多重超图模型。

第二构建单元13，用于基于所述系统的多重超图模型构建所述系统的一致性ADMM算法。

作为一种可实施方式，所述第二构建单元13，包括：

第一确定子单元，用于确定所述系统的一致性ADMM算法的标准形式。

第二确定子单元，用于确定所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数。

第三确定子单元，用于基于所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数确定所述系统的一致性ADMM算法的变量按结点更新方式。

作为一种可实施方式，所述系统的一致性ADMM算法的标准形式包括：

s.t A

作为一种可实施方式，所述系统的一致性ADMM算法的变量按结点更新方式包括：

其中/>

作为一种可实施方式，所述第三确定子单元，包括：

第四确定子单元，具体用于确定所述系统的一致性ADMM算法的标准形式对应的增广拉格朗日函数的变量更新方式:

λ

对公式3左乘

令

对公式3左乘

其中，A

其中，|N

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

另外需说明的是，以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。另外，本申请提供的装置实施例附图中，模块之间的连接关系表示它们之间具有通信连接，具体可以实现为一条或多条通信总线或信号线。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

通过以上的实施方式的描述，所属领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件的方式来实现，当然也可以通过专用硬件包括专用集成电路、专用CPU、专用存储器、专用元器件等来实现。一般情况下，凡由计算机程序完成的功能都可以很容易地用相应的硬件来实现，而且，用来实现同一功能的具体硬件结构也可以是多种多样的，例如模拟电路、数字电路或专用电路等。但是，对本申请而言更多情况下软件程序实现是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在可读取的存储介质中，如计算机的软盘，U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述的方法。

综上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制。尽管参照上述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对上述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。