基于多天线空中计算的边缘智能推理方法及系统

技术领域

本发明涉及一种边缘设备人工智能技术，特别涉及一种基于多天线空中计算的边缘智能推理方法及系统。

背景技术

随着边缘设备(例如手机、笔记本电脑等)的普及以及人工智能的发展，在边缘设备端部署人工智能应用越来越被重视起来。这极大的促进了边缘人工智能的研究，其中，边缘智能推理则是边缘人工智能最重要的部分之一。一般而言，人工智能模型需要强大的算力与内存，而这往往是边缘设备所不具有的。边缘智能推理通过特定方式将人工智能模型部署在边缘设备与服务器端，使得用户能使用计算资源受限的边缘设备运行人工智能应用。同时，通过对用户与服务器之间的通信设计，能一定程度上减小通信延迟，使得用户能在可接受延迟时间内得到用户需要的计算结果。边缘智能推理一般有三种方案，分别是服务器端推理，设备端推理与服务器设备联合推理。在服务器推理中，用户将收集到的数据上传到服务器端，再由服务器使用人工智能模型对数据进行推理；而设备端推理则需要用户将压缩过后的人工智能模型下载到本地，在本地进行推理；服务器设备联合推理则是将一部分模型部署在设备端，作为特征提取器，设备将提取过后的特征发送给服务器完成剩下的推理。

在服务器推理中，用户需要上传原始数据给服务器，这往往会造成一定程度的隐私泄露，除此之外，在用户上传的数据过大时，往往在传输过程中会造成难以接受的通信延迟。在设备端推理中，用户需要下载压缩过后的人工智能模型，但随着用户需要的功能增加，需要下载的人工智能模型数量也会增加，这对边缘设备的内存造成不小的负担，除此之外，压缩过后的人工智能模型在推理准确率上也有一定程度的下降。因此，服务器设备联合推理越来越受到大家的关注。由于上传的是特征而不是数据本身，可以一定程度上避免隐私泄露，而通信延迟也会被降低。

现有服务器设备联合推理方法大多集中于计算效率与通信延迟之间的平衡。但是在人工智能应用中，计算准确率也是十分重要的一项指标，而在大多数现有工作中，计算准确率缺乏一定的理论支撑，这导致其很难被量化成一项能直接计算得到的指标。

发明内容

针对人工智能模型部署中计算效率、通信效率、计算准确率三者平衡问题，提出了一种基于多天线空中计算的边缘智能推理方法及系统，以推理准确率为导向，在服务器设备联合推理的背景下，保证通信效率的同时，使得推理准确率最大化。

本发明的技术方案为：一种基于多天线空中计算的边缘智能推理方法，具体包括如下步骤：

1)人工智能模型训练：在云服务器端，部署一个人工智能模型，同时，搜集一个标准数据集，设每个数据的维度为N；首先训练一个主成分分析模型，并进行特征提取，设提取之后的维度为M，令M＝2N

2)感知与数据处理：针对同一目标，每个感知器k通过感知得到感知数据x

3)通信：每个感知器k通过无线信道将特征传输给云服务器，云服务器获得各个感知器的数据中包括信道矩阵、预编码矩阵、信道噪声，接收的数据用于进行人工智能计算；

4)多天线空中计算：整个系统使用空中计算技术在云服务器中聚合所有感知器的特征，送入训练后人工智能模型进行分类，并使用判别增益为指标进行目标导向的参数调整，调整目标为最大化分类准确率；

其中任意两个类之间的判别增益定义为两个类之间的对称KL散度，参数为波束成形矩阵A与第k个感知器的预编码矩阵B

5)推理：云服务器使用空中计算求出来的参数聚合出全局特征进行人工智能推理。

进一步，所述步骤1)具体实现方法：标准数据集，设该数据集为x,并假设其服从一个高斯混合分布

进一步，所述步骤2)具体实现方法：拥有一个具备N

设主成分分析之后特征数据为

进一步，所述步骤3)云服务器端接收到信号为：

其中，

其中，

进一步，所述步骤4)多天线空中计算是在发射能量约束下，对提取的各个感知器的特征进行加权，进行判别增益计算，求解出预编码矩阵与波束成形矩阵,获得最大判别增益下的权重分配。

进一步，所述步骤4)中判别增益定义如下：

其中，x

对称KL散度的分子为类别l与l’之间的距离，分母为维度m的方差；

在服务器端接收到信号之后，进行服务器接收到信号之后，进行波束成形，得到

其中，A为波束成形矩阵；B

进一步，所述预编码矩阵与波束成形矩阵是成对的，其求解问题是个非凸问题，目标函数是一个比例之和的形式，也是非凸的，首先使用Zero-Forcing预编码将问题简化，再引入辅助变量使得问题目标函数变成凸函数；之后，再使用半正定松弛法与放缩法将该问题转化为一个difference of convex(d.c.)形式；最终，使用连续凸近似法对问题进行求解，得到次优解。

一种基于多天线空中计算的边缘智能推理系统，包括各个边缘设备中的感知器和云服务器，云服务器将训练后主成分分析模型分各个边缘设备，各个边缘设备中的感知器对同一目标进行检测后，送主成分分析模型进行特征提取，各个感知器的特征数据通过无线信道传输给云服务器，云服务器空中多天线接收数据，使用空中计算技术对数据感知、特征计算与通信结合计算，消除感知误差的影响，推理出全局特征。

本发明的有益效果在于：本发明基于多天线空中计算的边缘智能推理方法及系统，通过使用一个名叫“判别增益”的指标解决计算准确率缺乏理论支撑问题；通过共同设计通信、计算与感知模型，将其有机地融合起来，解决在边缘智能推理的过程中，数据感知、特征计算与通信的高度结合问题；使用空中计算技术聚合多个感知器的结果来尽可能地消除感知误差的影响，避免单个设备出现过大的感知误差；使用了多天线(MIMO)空中计算系统进行通信设计，进一步减小了通信延时，提升通信效率。

附图说明

图1为本发明一实施例提供的基于多天线空中计算的边缘智能推理系统架构图；

图2为本发明一实施例提供的空中计算模型；

图3为本发明使用的判别增益指标与推理准确率之间的关系图；

图4a为本发明提出的方法、传统空中计算系统和随机方法在使用了多层感知机人姿态识别数据集上的性能对比图一；

图4b为本发明提出的方法、传统空中计算系统和随机方法在使用了多层感知机人姿态识别数据集上的性能对比图二；

图4c为本发明提出的方法、传统空中计算系统和随机方法在使用支持向量机人姿态识别数据集上的性能对比图一；

图4d为本发明提出的方法、传统空中计算系统和随机方法在使用支持向量机人姿态识别数据集上的性能对比图二。

具体实施方式

下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施，给出了详细的实施方式和具体的操作过程，但本发明的保护范围不限于下述的实施例。

如图1所示边缘智能推理系统架构图，采用判别增益作为指标，结合空中计算技术，聚合多个感知器的感知数据，并使用多天线(MIMO)的空中计算系统，提出一个具有高通信效率的基于多天线空中计算的边缘智能推理系统，具体包括以下步骤：

步骤1、人工智能模型训练：在云服务器端，部署一个人工智能模型，例如支持向量机、神经网络等。同时，搜集一个标准数据集。设每个数据的维度为N。首先训练一个主成分分析(principle component analysis,PCA)模型，并进行特征提取。设提取之后的维度为M，一般令M＝2N

步骤2、感知与数据处理：针对同一个目标，每个感知器k通过感知得到感知数据x

步骤3、通信：每个感知器k通过无线信道将特征传输给云服务器，云服务器获得各个感知器的数据中包括信道矩阵、预编码矩阵、信道噪声，接受的数据用于进行人工智能计算，即推理。

步骤4、多天线空中计算：整个系统使用空中计算技术在云服务器中聚合所有感知器的特征，送入训练后人工智能模型进行分类，并使用判别增益为指标进行目标导向参数调整，调整目标为最大化分类准确率。任意两个类之间的判别增益定义为两个类之间的对称散度，参数为波束成形矩阵A与第k个感知器的预编码矩阵B

步骤5、推理：云服务器使用空中计算求出来的参数聚合出全局特征进行人工智能推理。

实施步骤如下所示：

步骤一、人工智能模型训练：在服务器端，部署一个人工智能模型，例如支持向量机、神经网络等。同时，搜集一个标准(ground-ture)数据集，设该数据集为x,并假设其服从一个高斯混合分布

步骤二、感知与数据处理：本发明一共拥有一个具备N

设PCA之后特征数据为

步骤三、通信：各个感知器经过特征提取之后，将其上传到云服务器端进行后续处理。云服务器端可以接收到信号为

其中，

其中，

步骤四、空中计算：如图2所示空中计算模型，在服务器端接收到信号之后，进行服务器接收到信号之后，进行波束成形，得到

其中，A为波束成形矩阵。注意到,B

对于信号

为了最大化分类准确率，本发明使用目标导向的参数设计方法，即使用判别增益为指标对参数A与B

对于任意

其中，x

可见，对称KL散度的分子为类别l与l’之间的距离，分母为维度m的方差。当对称KL散度越大时，两类之间距离越远，方差越小，说明两类之间距离变大而类内的离散度变小。类内的离散度变小说明分类越精确。

而总判别增益可以定义如下：

可以看出，判别增益越大，代表任意两个类之间的距离越长，类间离散度越小，这可以一定程度上对分类器的准确率提升有所帮助。如图3所示，本发明使用的判别增益指标与推理准确率之间的关系，随着判别增益增大，推理准确率也在不断增大，符合本发明的需求。

在发射能量约束下，对提取的各个感知器的特征进行加权，进行判别增益计算，求解出预编码矩阵与波束成形矩阵,获得最大判别增益下的权重分配。

为了最大化判别增益，给每个维度合适的权重，最终的问题可以表示为：

该问题是个非凸问题，因为预编码矩阵与波束成形矩阵是成对的，除此之外，目标函数是一个比例之和的形式，这也是非凸的。为了解决这个问题，本发明首先使用Zero-Forcing(ZF)预编码将问题简化，再引入辅助变量使得问题目标函数变成凸函数。之后，再使用半正定松弛法(semidefinite relaxation,SDR)与放缩法将该问题转化为一个difference of convex(d.c.)形式。最终，可以使用连续凸近似法(Successive ConvexApproximation，SCA)对问题进行求解，得到次优解。

为了方便分析这个问题，使用Zero-Forcing(ZF)预编码进行问题简化。ZF预编码设计如下：

AH

其中，

将ZF预编码带入接收信号，得

根据上式可以求得关于

其中：

/>

其中A

根据上式，可以优化问题转化成：

其中

接下来使用半正定松弛法(semidefinite relaxation,SDR)简化该问题。

可知

令

于是问题可以转化为

基于SDR简化，低秩约束可以被抛弃。若求得该问题的解为

其中，

为了进一步解该问题，展开P3目标函数中的求和项其中的一项，即

可得

引入辅助变量{α

则问题P3可以转化为

/>

可以证明，问题P4等价于以下问题：

不失一般性，对任意l，l′，2i(2i-1也是类似的)，设

其中，λ

由于

注意到，问题P5任然是一个非凸问题，其非凸性质主要来自于第一个约束和最后两个约束。

对于第一个约束，对其进行放缩，有

对不等式两边取根号，得

再由均值不等式

该约束是一个凸约束，因为左边第一项是凸函数，而右边可以由凸函数tr(A

因此，问题P5可以转化为

/>

问题P5.1最后两个约束可以表示成:

注意到，这两个约束是difference of convex(d.c.)形式。因为其不等号左右两边都为凸函数。对于左边，其为二次函数与矩阵的迹的和，显然为凸函数。而对于右边，它可以由凸函数

首先对最后两个约束进行凸松弛，对不等式右边进行一阶展开，得

其中，上标(t)代表该变量在SCA第t轮迭代中的值。因此，问题P5.1可以转化为如下凸问题：

/>

综上所述，在服务器端接收到信号之后，使用如下步骤求解出预编码矩阵与波束成形矩阵：

1、随机生成

2、令t＝0。

3、循环：

4、t＝t+1；

5、使用

6、解出问题P6，得到最优解

7、如果算法收敛

8、跳出循环；

9、使用

10、返回最优解

步骤五、云服务器根据上一步骤求出来的参数聚合出全局特征，并使用特征进行人工智能推理。

一种基于多天线空中计算的边缘智能推理系统，包括各个边缘设备中的感知器和云服务器，云服务器将训练后主成分分析模型分各个边缘设备，各个边缘设备中的感知器对同一目标进行检测后，送主成分分析模型进行特征提取，各个感知器的特征数据通过无线信道传输给云服务器，云服务器空中多天线接收数据，使用空中计算技术对数据感知、特征计算与通信结合计算，消除感知误差的影响，推理出全局特征。

图4a～4d为本发明提出的方法与传统空中计算系统和随机方法在人姿态识别数据集上的性能对比。分别以传输天线数量、传输功率做横坐标，推理准确率做纵坐标，并使用了多层感知机与支持向量机两个人工智能模型作为部署在服务器端的人工智能模型。传统空中计算系统使用的是均方误差作为指标进行空中计算参数设计，随机方法是在能量约束满足的条件下随机取空中计算的参数进行使用。可见，与对比方法相比，本发明提出的方法最终的推理准确率要更高。

以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。