掌桥专利:专业的专利平台
掌桥专利
首页

高斯混合模型信源的编解码方法、系统、设备和介质

文献发布时间:2024-04-18 20:01:55


高斯混合模型信源的编解码方法、系统、设备和介质

技术领域

本申请涉及信息处理技术领域,特别涉及一种高斯混合模型信源的编解码方法、系统、设备和介质。

背景技术

在信号处理领域,有损数据压缩是指:使用较少的比特(bit)表示信源,通过消除冗余的信息来减少比特位。实际应用中,物联网的传感器节点采集到信息后,使用数据压缩技术能够减少信息存储和传输所需的资源。例如,传输图像、视频等信息时,通信系统需要使用复杂的算法和硬件设备,利用数据压缩实现信息预处理能够有效降低算法复杂度和硬件成本。

有损信源编码(Lossy Source Coding)是通信系统中实现数据压缩的关键技术,可以直接处理物联网环境中不同传感器节点收集的数据,其保真度满足香农信源编码定理。数据经过压缩后,去除了大多数的冗余信息,仅保留了最有用的特征信息,数据尺寸会明显减少,有利于节省通信带宽。在有损信源编码系统中,主要包括信源编码和信源译码两个模块,分别实现数据有损压缩和无损恢复。

通常,为了实施信源数据压缩,可以在传感器网络的端节点处直接实现高斯信源编码,也可以在中心节点处实施高斯混合模型信源编码。但是,在实际应用的传感器网络中,端节点通常分布在偏僻、不便触及的角落,在端节点传感器实施数据采集的同时进行数据压缩,会产生较大的系统功耗和使用成本。因此,端节点仅进行数据采集,汇聚到中心节点处进行数据压缩处理,能够有效的减少传感器的能耗和成本,便于传感器网络节点的复杂实际场景布局。不同端节点传感器采集的数据汇聚到中心节点处后,可以建模为高斯混合模型(Gaussian Mixture Model)信源来实现数据压缩处理。

目前,基于线性分组码实现有损信源编码的研究工作(D.Song,J.Ren,L.Wang andG.Chen,“Gaussian source coding based on P-LDPC code,”IEEE Transactions onCommunications,vol.71,no.4,pp.1970-1981,Apr.2023),已经完成了高斯信源的有损信源编码技术,但是该工作并未考虑高斯混合模型信源的有损信源编码。

因此,目前缺乏针对高斯混合模型信源的有损信源编码技术,导致上述无线传感器网络的应用场景下,中心节点难以实现更加精确的信息处理功能,从而增大了端节点处信息处理的功耗与成本,在实际应用中需要较高的硬件资源开发和人力资源维护。

发明内容

为了解决上述问题,本申请提供了一种高斯混合模型信源的编解码方法、系统、设备和介质,用于解决相关技术中无线传感器网络中心节点面临的数据压缩问题,可以有效节省端节点信息处理的系统功耗和人力成本,构建更加绿色环保的无线传感器网络。

第一方面,本申请提供了一种高斯混合模型信源的编解码方法,该方法包括;

S1、根据高斯混合模型信源的概率密度函数,将所述高斯混合模型信源表示为初始浮点数序列,所述概率密度函数通过对多个符合高斯分布的信源分量按照预设比例建模得到;

S2、采用置信传播算法,以所述初始浮点数序列中的各个浮点数作为置信传播算法的初始似然信息,按照所述P-LDPC码中变量节点和校验节点之间的连接关系,对所述初始似然信息进行迭代更新,通过似然值判决得到所述初始浮点数序列对应的二进制序列;

S3、将所述二进制序列输入训练好的全连接层神经网络,根据所述全连接层神经网络拟合的映射函数,将所述二进制序列映射为高斯混合模型信源的恢复浮点数序列。

在一种可能实施方式中,所述P-LDPC码表示为变量节点和校验节点连接构成的原模图矩阵,所述S2包括:

按照所述原模图矩阵中变量节点和校验节点之间的连接关系,对所述初始似然信息进行迭代更新,直至所述置信传播算法在所述原模图矩阵中的判决正确和/或达到迭代次数上限,输出所述初始浮点数序列对应的二进制序列;

所述初始浮点数序列X长度为k:X={x

在一种可能实施方式中,所述映射函数表示为:

在一种可能实施方式中,所述全连接层神经网络的训练过程包括:

将样本二进制序列输入所述全连接层神经网络,根据所述全连接层神经网络拟合的样本权重矩阵和样本偏置向量,得到训练浮点数序列,所述样本二进制序列根据给定的样本高斯混合模型信源对应的样本浮点数序列进行压缩得到;

以均方失真函数作为所述全连接层神经网络的损失函数,计算所述样本浮点数序列和训练浮点数序列之间的偏差;

对所述损失函数计算梯度下降,迭代更新所述样本权重矩阵和样本偏置向量,直至所述损失函数满足训练目标和/或达到预设的迭代次数。

第二方面,提供一种高斯混合模型信源的编解码系统,该系统包括:基于P-LDPC码的编码器和基于全连接层神经网络构建的解码器;

所述编码器用于:采用置信传播算法,以高斯混合模型信源的初始浮点数序列中各个浮点数作为置信传播算法的初始似然信息,按照P-LDPC码中变量节点和校验节点之间的连接关系,对所述初始似然信息进行迭代更新,通过似然值判决得到所述初始浮点数序列对应的二进制序列;

其中,所述初始浮点数序列根据所述高斯混合模型信源的概率密度函数确定,所述概率密度函数通过对多个符合高斯分布的信源分量按照预设比例建模得到;

所述解码器用于:将所述二进制序列输入训练好的全连接层神经网络,根据所述全连接层神经网络拟合的映射函数,将所述二进制序列映射为高斯混合模型信源的恢复浮点数序列。

在一种可能实施方式中,所述P-LDPC码表示为变量节点和校验节点连接构成的原模图矩阵,所述编码器用于:

按照所述原模图矩阵中变量节点和校验节点之间的连接关系,对所述初始似然信息进行迭代更新,直至所述置信传播算法在所述原模图矩阵中的判决正确和/或达到迭代次数上限,输出所述初始浮点数序列对应的二进制序列;

所述初始浮点数序列X长度为k:X={x

在一种可能实施方式中,所述解码器采用的映射函数表示为:

在一种可能实施方式中,所述解码器采用的全连接层神经网络的训练过程包括:

将样本二进制序列输入所述全连接层神经网络,根据所述全连接层神经网络拟合的样本权重矩阵和样本偏置向量,得到训练浮点数序列,所述样本二进制序列根据给定的样本高斯混合模型信源对应的样本浮点数序列进行压缩得到;

以均方失真函数作为所述全连接层神经网络的损失函数,计算所述样本浮点数序列和训练浮点数序列之间的偏差;

对所述损失函数计算梯度下降,迭代更新所述样本权重矩阵和样本偏置向量,直至所述损失函数满足训练目标和/或达到预设的迭代次数。

第三方面,提供一种计算设备,该计算设备包括存储器和处理器,所述存储器存储有至少一段程序,所述至少一段程序由处理器执行以实现如第一方面提供的高斯混合模型信源的编解码方法。

第四方面,提供一种计算机可读存储介质,该存储介质中存储有至少一段程序,至少一段程序由处理器执行以实现如第一方面提供的高斯混合模型信源的编解码方法。

本申请提供的技术方案至少包括如下技术效果:

1、直接压缩高斯混合模型信源,从而可以实际应用于无线传感器网络的中心节点进行信息处理,节约端节点的信息处理功耗和成本,以构建更加高效节能的无线传感器网络。2、将高斯混合模型的浮点数序列直接压缩为二进制序列,与传统的压缩感知方法相比较,具有较高的数据压缩效率,能够有效降低压缩系统的结构和应用复杂度。3、采用置信传播算法进行编码,可以复用支持置信传播算法的相关硬件设备来实现编码器,设备实现简单,还能够节省设计和制造成本。

综上,本申请针对高斯混合模型信源提供了一种数据压缩效率高、设备实现简单、应用复杂度低的编解码方法,可以有效解决无线传感器网络中心节点面临的数据压缩问题,大大节省端节点信息处理的系统功耗和人力成本,提升无线传感器网络的信息处理效率。

附图说明

图1是本申请实施例提供的一种高斯混合模型信源的编解码系统的原理图;

图2是本申请实施例提供的一种高斯混合模型信源的编解码方法的流程示意图;

图3是本申请实施例提供的一种编码器的结构示意图;

图4是本申请实施例提供的一种解码器的结构示意图;

图5是本申请实施例提供的一种计算设备的硬件结构示意图。

具体实施方式

为进一步说明各实施例,本申请提供有附图。这些附图为本申请揭露内容的一部分,其主要用以说明实施例,并可配合说明书的相关描述来解释实施例的运作原理。配合参考这些内容,本领域普通技术人员应能理解其他可能的实施方式以及本申请的优点。图中的组件并未按比例绘制,而类似的组件符号通常用来表示类似的组件。本申请中术语“至少一个”的含义是指一个或多个,本申请中术语“多个”的含义是指两个或两个以上,例如,多个节点是指两个或两个以上的节点。

在物联网的无线传感器网络中,不同端节点传感器采集的数据汇聚到中心节点处会存在一定程度的信息混叠。通过将不同的端节点传感器收集到的数据分别建模为高斯分量,汇聚到中心节点处的信息即可建模为不同高斯分量混合的高斯混合模型(GaussianMixture Model,GMM)信源。鉴于高斯混合模型信源在有损信源编码方向尚缺少更加高效的解决方案,本申请提供了一种数据压缩效率高、设备实现简单、简化应用复杂度低的编解码方法,可以有效解决无线传感器网络中心节点面临的数据压缩问题,大大节省端节点信息处理的系统功耗和人力成本,提升无线传感器网络的信息处理效率。

现结合附图和具体实施方式对本申请进一步说明。

本申请提供了一种高斯混合模型信源的编解码方法、系统、设备和介质,能够应用于无线传感器网络的数据压缩场景中。无线传感器网络中,各个端节点传感器节点采集到具有高斯分布的信源分量后,混合到中心节点;中心节点通过将各个信源分量建模为高斯混合模型信源,并进行压缩和重构等处理。

实施例1

本申请实施例提供了一种高斯混合模型信源的编解码系统。图1是本申请实施例提供的一种高斯混合模型信源的编解码系统的原理图。参见图1,该系统包括:基于原模图低密度奇偶校验(Protograph Low-Density Parity-Check,P-LDPC)码的编码器(有损信源编码器10)和基于全连接层神经网络构建的解码器(信源解码器20)。编码器用于对高斯混合模型信源进行有损信源编码,实现数据压缩;解码器用于进行数据恢复,得到高斯混合模型信源。

其中,编码器采用置信传播算法,以高斯混合模型信源的初始浮点数序列中各个浮点数作为置信传播算法的初始似然信息,按照P-LDPC码中变量节点和校验节点之间的连接关系,对初始似然信息进行迭代更新,通过似然值判决得到初始浮点数序列对应的二进制序列。

其中,初始浮点数序列根据高斯混合模型信源的概率密度函数确定,概率密度函数通过对多个符合高斯分布的信源分量按照预设比例建模得到。

其中,解码器用于将二进制序列输入训练好的全连接层神经网络,根据全连接层神经网络拟合的映射函数,将二进制序列映射为高斯混合模型信源的恢复浮点数序列。在一些实施例中,解码器也称译码器。

示例性地,编码器可以部署在无线传感器网络的中心节点中。解码器可以部署在无线传感器网络的任意节点中或者,部署在和中心节点交互的任意计算设备中。基于此,既可以提升无线传感器网络内部整体的信息处理能力,也可以提升无线传感器网络的对外交互效率。

示例性地,编码器和解码器可以利用硬件模块实现,也可以基于软件程序实现,本申请对此不做限定。在一些实施例中,由于编码器采用的是置信传播算法的编解码原理,可以复用支持置信传播算法的相关硬件设备来实现编码器,从而可以节省设计和制造成本。

本申请针对高斯混合模型信源提供了一种数据压缩效率高、设备实现简单、简化应用复杂度低的编解码方法,可以有效解决无线传感器网络中心节点面临的数据压缩问题,大大节省端节点信息处理的系统功耗和人力成本,提升无线传感器网络的信息处理效率。

下面结合上述编解码系统对本申请提供的高斯混合模型信源的编解码方法进行详细说明。

实施例2

图2是本申请提供的一种高斯混合模型信源的编解码方法的流程示意图。如图2所示,该方法包括S1-步骤S3。

S1、根据高斯混合模型信源的概率密度函数,将高斯混合模型信源表示为初始浮点数序列,概率密度函数通过对多个符合高斯分布的信源分量按照预设比例建模得到。

本申请实施例中,步骤S1为数据准备阶段,得到的初始浮点数序列可以直接输入编码器进行压缩。

示例性地,初始浮点数序列用于表示初始的高斯混合模型信源,利用高斯混合模型的概率密度函数即可制备得到。具体地,初始浮点数序列X的长度为k(包括k个浮点数),表示为:X={x

S2、编码器采用置信传播算法,以初始浮点数序列中的各个浮点数作为置信传播算法的初始似然信息,按照P-LDPC码中变量节点和校验节点之间的连接关系,对初始似然信息进行迭代更新,通过似然值判决得到初始浮点数序列对应的二进制序列。

本申请实施例中,迭代更新的停止条件包括:置信传播算法在原模图矩阵中的判决正确和/或达到迭代次数上限。P-LDPC码表示为变量节点和校验节点连接构成的原模图矩阵,编码器按照原模图矩阵中变量节点和校验节点之间的连接关系,对初始似然信息进行迭代更新,直至置信传播算法在原模图矩阵中的判决正确和/或达到迭代次数上限,输出初始浮点数序列对应的二进制序列。其中,判决正确则说明本次迭代得到的原模图矩阵所输出的二进制序列能够较好地保留初始浮点数序列的信源信息,从而在节省传输带宽的同时,提升信源保真度。

示例性地,压缩后的二进制序列Y表示为:Y={y

图3是本申请实施例提供的一种编码器的结构示意图。如图3所示,本申请提供的有损信源编码器采用置信传播(Belief Propagation,BP)算法,该算法根据P-LDPC码中校验节点与变量节点间的连接关系实现似然信息迭代,从而能够将初始高斯混合模型信源序列(初始浮点数序列X)中的浮点数压缩为比特(二进制序列Y)。

参考图3,P-LDPC码表示为一个维度为m×n的原模图矩阵,同理也可以表示为具有m个校验节点和n个变量节点的Tanner图,原模图矩阵中的度表示节点间的连接边个数,m和n可以取任意正整数。通过用图模型来表示码字,再基于各个节点之间的连接关系进行消息传递和推理,即可实现数据的压缩。

具体地,本申请实施例中,将初始浮点数序列中的各个浮点数作为初始似然信息(通常是采用浮点数表示概率信息,作为判决的依据),置信传播算法可以根据Tanner图的连接关系实现似然信息的迭代和更新,多次迭代后即可将浮点数压缩为比特。

S3、解码器将二进制序列输入训练好的全连接层神经网络,根据全连接层神经网络拟合的映射函数,将二进制序列映射为高斯混合模型信源的恢复浮点数序列。

本申请实施例中,映射函数表示为:

图4是本申请实施例提供的一种解码器的结构示意图。如图4所示,解码器采用一个输入层和一个输出层构建得到全连接层线性网络,可用于恢复高斯混合模型信源序列。当然在其他实施例中可以有更多的隐藏层以提供更高的线性规划能力,本申请不局限于此。

其中,输入层与输出层所构建的全连接层线性网络表示为映射函数

进一步地,在本申请实施例中,在应用解码器进行数据恢复之前,全连接层神经网络的训练过程包括:

步骤A、将样本二进制序列输入所述全连接层神经网络,根据所述全连接层神经网络拟合的样本权重矩阵和样本偏置向量,得到训练浮点数序列,所述样本二进制序列根据给定的样本高斯混合模型信源对应的样本浮点数序列进行压缩得到。

步骤B、以均方失真函数作为所述全连接层神经网络的损失函数,对所述损失函数计算梯度下降,迭代更新所述样本权重矩阵和样本偏置向量,直至所述损失函数满足训练目标和/或达到预设的迭代次数。

其中,损失函数用于计算所述样本浮点数序列和训练浮点数序列之间的偏差。

具体地,在全连接层映射函数的训练过程中,将均方失真函数的最小失真作为损失函数,表示为:

通过对损失函数计算梯度下降,不断更新权重矩阵和偏置向量。将训练得到的代入全连接层网络的映射函数中,即可对输入的二进制序列Y进行数据恢复,得到恢复高斯混合模型信源序列

一方面,本申请的技术方案可以直接压缩高斯混合模型信源,从而可以实际应用于无线传感器网络的中心节点进行信息处理,节约端节点的信息处理功耗和成本,以构建更加高效节能的无线传感器网络。另一方面,本申请的技术方案可以将高斯混合模型的浮点数序列直接压缩为二进制序列,与传统的压缩感知方法相比较,具有较高的压缩效率,能够有效降低压缩系统的结构和实现复杂度。

综上,本申请面向高斯混合模型信源,利用P-LDPC码、置信传播算法、全连接层网络构造了一套高效的有损信源编解码方法,具有数据压缩效率高、设备实现简单、简化应用复杂度的特点。

本申请还提供了一种计算设备,可用于实现为上述编码器和/或解码器。图5是本申请实施例提供的一种计算设备的硬件结构示意图,如图5所示,该计算设备包括处理器501、存储器502、总线503、以及存储在所述存储器502中并可在所述处理器501上运行的计算机程序,处理器501包括一个或一个以上处理核心,存储器502通过总线503与处理器501相连,存储器502用于存储程序指令,所述处理器执行所述计算机程序时实现本申请提供的上述方法实施例中的全部或部分步骤。

进一步地,作为一个可执行方案,上述计算设备可以是计算机单元,该计算机单元可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机单元可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,上述计算机单元的组成结构仅仅是计算机单元的示例,并不构成对计算机单元的限定,可以包括比上述更多或更少的部件,或者组合某些部件,或者不同的部件。例如所述计算机单元还可以包括输入输出设备、网络接入设备、总线等,本申请实施例对此不做限定。

进一步地,作为一个可执行方案,所称处理器可以是中央处理单元(CentralProcessing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器是所述计算机单元的控制中心,利用各种接口和线路连接整个计算机单元的各个部分。

所述存储器可用于存储所述计算机程序和/或模块,所述处理器通过运行或执行存储在所述存储器内的计算机程序和/或模块,以及调用存储在存储器内的数据,实现所述计算机单元的各种功能。所述存储器可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据手机的使用所创建的数据等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(SecureDigital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

本申请还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现本申请实施例上述方法的步骤。

所述计算机单元集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减。

尽管结合优选实施方案具体展示和介绍了本申请,但所属领域的技术人员应该明白,在不脱离所附权利要求书所限定的本申请的精神和范围内,在形式上和细节上可以对本申请做出各种变化,均为本申请的保护范围。

技术分类

06120116571462