基于WaveAttentiveNet模型的负荷分解方法

技术领域

本发明属于电负荷监测技术领域，具体涉及基于WaveAttentiveNet模型的负荷分解方法。

背景技术

在电负荷分解领域，一种重要的技术是非侵入式负荷监测(NILM)。NILM是一种使用单个家庭电表读数的方法，通过分析电力数据的变化模式和特征，推断出各个电器设备的功耗贡献。NILM技术的关键在于识别和区分不同设备在总负荷中的功耗贡献，从而实现对电力数据的分解。

在负荷分解技术中，传统的方法包括基于统计模型、聚类分析和时序分解等。这些方法基于电力数据的统计特性和时序关系，通过建立模型或使用算法，将总负荷分解为各个设备的功耗贡献。

近年来，基于机器学习和深度学习的方法在负荷分解中取得了显著的进展。例如，基于深度学习的模型如卷积神经网络(CNN)、循环神经网络(RNN)和变换器(Transformer)等，能够学习电力数据中的时序特征和设备关联性，从而实现准确的负荷分解。

此外，信号处理技术在负荷分解中也具有重要作用。通过滤波、频域分析和小波变换等技术，可以提取电力数据中不同设备的特征信号，并实现负荷分解的目标。

非侵入式负荷监测方法、传统的统计模型和时序分解方法，以及基于机器学习和深度学习的模型。这些技术的应用可以实现对电力数据的分解，揭示各个设备的功耗特性，为能源供应商和用户提供准确的能源需求预测和优化策略，从而促进能源领域的可持续发展。

但是，由于电力系统中多设备混合运行，会导致电流混叠问题；对此，上述方法的单独使用，会严重影响分解准确性和稳定性。

发明内容

本发明的目的是提供一种分解准确性高、稳定性好的基于WaveAttentiveNet模型的负荷分解方法，以克服电力系统中多设备混合运行导致的电流混叠问题。

本发明提供的基于WaveAttentiveNet模型的负荷分解方法，所述WaveAttentiveNet模型的结构参见图2所示，包括：卷积层，多个通道E(例如为E1，…，E6)，每个通道上分别设置的深度学习网络ResNet(R-Net)、可学习的小波分解块(LWD)，注意力机制模块，其包括高频子带的注意力机制模块(HFA)和低频子带的注意力机制模块(LFA)，以及特征聚合模块(GFA)；其中，所述卷积层将输入数据转换为多通道(例如为6个)的特征表示，增强特征表达能力；每个通道中，经过ResNet层进行深度学习处理，实现对数据特征的更深层次抽取和学习；所述可学习的小波分解块(LWD)，将数据分解为高频和低频两个子带，提取不同尺度的特征信息；高频子带和低频子带分别输入到HFA和LFA模块，使用注意力机制关注关键特征；经过HFA和LFA模块后的数据再传入GFA中，通过引导机制聚合高频和低频特征，得到最终的分解结果。具体步骤如下。

步骤1：数据采集和预处理；

通过部署电流传感器，以固定1kHz采样频率采集1个插线板总线上的电流数据，以及多个分设备(对应于多个通道，例如6个)电流数据,采集时长为2h，利用滑动窗口的方法获得数据集；将数据集经过预处理操作，包括数据清洗和去噪，以确保数据的质量和准确性；后对数据集进行洗牌操作，打乱数据的顺序，选择数据集的80％用于训练，20％用于测试。

步骤2：深层特征提取；

输入数据，首先经过卷积层进行初步特征提取，将数据转换为六通道的特征表示，实现初步的数据分解；随后，经过ResNet进行深度学习处理，对卷积层输出的特征进行进一步抽象和学习，提取更高级的特征表示；通过卷积层和ResNet的联合作用，有效地捕获输入数据的局部特征和抽象特征，增强特征的表达能力，为后续的负荷分解过程提供了更丰富的信息基础。

步骤3：可学习的小波分解；

使用小波分解块(LWD)，通过小波变换将深层特征分解为高频和低频两个子带，捕捉不同尺度的特征信息。高频子带用于捕获电流信号的局部细节和细微波动，而低频子带用于提取整体趋势和长期依赖性特征。同时，引入可学习参数使LWD能自适应地分解，更好地适应电力系统中多设备混合运行的特点。LWD的分解为后续的注意力机制提供多尺度特征输入，有效处理电流混叠问题，提高负荷分解准确性和稳定性。

步骤4：通过子带的注意力机制模块，加强对关键特征的关注；

该注意力机制模块包括高频子带的注意力机制(HFA)和低频子带的注意力机制(LFA)。HFA通过ResNet、通道注意力、空间注意力模块提取高频子带数据的关键特征；LFA在HFA的基础上外加一个卷积层，输出一个可调节参数K，用于调节高频子带特征与低频子带特征的重要程度。K越小，则说明高频子带特征更为重要。该注意力机制模块引入全局关注机制，自适应选择重要信息，加强关键特征的关注，减少冗余信息影响。这样的特征选择和加权提高对不同频率上重要特征的捕捉能力，为后续特征聚合提供更有区分度和重要性的子带数据，进一步提高负荷分解的准确性和性能。

步骤5：通过引导式特征聚合模块(GFA)，调整特征融合结果；

引导式特征聚合模块(GFA)接收经过注意力机制模块处理的高频和低频子带数据，通过ResNet可学习的引导变量，调整特征融合结果，突出重要信息；最后，通过线性加权聚合高频和低频子带数据，实现准确的电力负荷分解，提高分解的准确性和性能。

步骤6：设计损失函数和优化器；

采用Huber损失函数来衡量生成结果与真实负荷之间的差异；优化器选择Adam优化器。

步骤7：模型训练和参数更新；

使用预处理后的电流数据作为输入，将目标负荷作为训练的目标，通过反向传播算法计算梯度并更新模型参数，以最小化损失函数；在训练过程中，采用批量训练及滑动窗口训练的方式，随机选择一批滑动窗口内数据进行模型的更新和优化。

步骤8：模型测试和预测；

将测试数据输入到训练好的WaveAttentiveNet模型中，进行前向传播操作，得到电流负荷的预测结果。

进一步的，步骤1中所述数据采集具体步骤为：

采集1个插线板总线和6个分设备上的电流数据，分别编号D0、D1、D2、…、D6；在采集电气数据时，从0时刻起，采集器开始采集，采集频率为1kHz，采集时长为2h，对每一个设备来说，采集到的数据条目总数为7200000条。

使用滑动窗口法构造数据集，设置窗口大小为2000，滑动步长为31，前三条数据与最后一条数据为:[0,2000),[31,2031),[62,2062),…,[7198000,7200000)，对于每个设备，总共可获得232195条数据，即每个设备的数据集矩阵格式为[232195,2000]，7个设备的数据集矩阵格式为[232195,7,2000]。本发明将数据集以8:2的划分方式分为训练集和测试集，训练集的矩阵格式为[185756,7,2000],测试集的矩阵格式为[46439,7,2000]；这样就同时得到了用来训练及测试模型的输入数据和计算loss的真实数据。

进一步的，步骤1中所述数据预处理包括：

(1)数据清洗：对采集到的原始电力数据可能包含的缺失值、异常值、重复值，进行数据清洗，以确保数据的准确性和一致性；具体包括：

(a)缺失值处理：对于每个记录，在时间点t处的电力消耗值表示为P(t)，如果P(t)缺失，则使用相邻时间点的平均值进行填充，即

(b)异常值处理：对于每个记录，在时间点t处的电力消耗值表示为P(t)，如果P(t)明显偏离其他时间点的取值范围，将其视为异常值；假设取值范围为[Min,Max]，则异常值处理公式如下：

如果P(t)Max，则

(2)数据去噪：采用基于小波变换方法去噪，具体如下：

将电流数据应用于小波变换，将其转换到小波域中；对小波系数应用软阈值滤波，将幅值低于阈值的小波系数置零，保留幅值高于阈值的小波系数；对滤波后的频域表示进行逆小波变换，得到去噪后的电力数据序列。

进一步的，步骤3中，LWD由小波变换和可学习参数组成，用于将深层特征分解为高频和低频两个子带，以提取不同尺度的特征信息。具体来说，LWD首先应用小波变换对输入的深层特征进行时域和频域分解，将原始特征分解为具有不同频率范围的子带数据。然后LWD引入可学习的参数。具体地说，可学习参数表示为滤波器权重向量，W＝[w_1,w_2,...,w_n]，其中n表示小波变换的分解层数，本发明中取n＝2。每个权重向量w_i对应于特定尺度的子带分解，用于调整该尺度下的特征在分解中的权重。通过优化这些参数，使得分解后的子带数据更加适应电力系统中多设备混合运行的特点。

小波变换在LWD中的作用是对深层特征进行分解，使得每个子带数据包含了不同尺度的特征信息。高频子带通常包含了局部细节信息，适用于捕捉电流信号的局部变化和细微波动；低频子带则包含了更全局、更抽象的特征，用于捕捉电流信号的整体趋势和长期依赖性。而可学习的参数使得LWD能够根据数据的特点和复杂性，自适应地进行分解，从而更准确地提取不同尺度的特征信息。

通过LWD的分解，模型能够获取多尺度的特征表示，为后续的注意力机制提供更丰富的特征输入。这样设计的LWD模块使得模型能够更有效地处理电力系统中多设备混合运行导致的电流混叠问题，提高负荷分解的准确性和稳定性。

进一步的，步骤4中，子带的注意力机制模块由高频子带的注意力机制模块(HFA)和低频子带的注意力机制模块(LFA)组成。

高频子带的注意力机制模块(HFA)包括：依次连接的ResNet层、BatchNormalization(Batch Norm)层、通道注意力层(CA)、空间注意力层(SA)，参见图3所示；首先，高频子带的特征图经过ResNet层进行深度学习处理；ResNet层通过残差连接和深层网络结构，有助于捕捉高频子带中的抽象特征和复杂模式，提升特征的表达能力；随后，经过ResNet处理后的特征图进入Batch Norm层(BN)，Batch Norm层有助于规范化特征图，加速收敛，减少梯度消失问题，提高模型的训练效率和稳定性。经过Batch Norm层后的特征图进一步通过通道注意力层(CA)。通道注意力层(CA)用于自适应地调整特征图的通道权重，以突出重要的特征通道，该层利用全局平均池化操作对每个通道的特征进行池化。最后，特征图经过通道注意力层后，进入空间注意力层(SA)。空间注意力层的目的是通过对特征图的不同位置进行加权，突出空间上的重要特征。

低频子带的注意力机制(LFA)：在LFA模块中，在HFA模块基础上，引入了一个额外的卷积层，来学习权重参数K，以便平衡HFA特征和LFA特征之间的重要性。通过这个卷积层，LFA模块能够自适应地学习高频子带特征在不同位置的重要性，从而在考虑LFA特征的同时，有效地保留HFA特征的关键信息。这种可学习的权重调整机制使得模型能够更好地适应不同数据分布和特征权衡的情况，提高负荷分解的准确性和稳定性。

具体来说，假设LFA模块的输入为input，额外的卷积层为Conv()，HFA模块为HFA()，则LFA模块的输出ouput＝Conv(input)*HFA(input)，其中可学习权重参数K＝Conv(input)，以便平衡HFA特征和LFA特征之间的重要性，当K越趋近于0时，说明LFA特征重要性越低。

子带的注意力机制模块的作用是在每个子带数据上引入注意力机制，从全局的角度关注不同子带中重要的特征。通过使用注意力权重，模块能够自适应地选择每个子带中的重要信息，并加强对关键特征的关注，同时减少对冗余信息的影响。这样的特征选择和加权有助于提高对不同频率范围的重要特征的捕捉能力，为后续的特征聚合提供更具有区分度和重要性的子带数据。通过子带的注意力机制模块的处理，模型能够更准确地区分和关注电流信号中不同频率上的关键特征，进一步提高负荷分解的准确性和性能。

进一步的，步骤5中，经过子带的注意力机制模块得到的高频子带数据和低频子带数据将被传入GFA模块。

GFA模块的具体流程如下：

引导机制：GFA模块引入了引导机制，即通过引导变量(a、b)对输入的特征(input1、input2)融合进行调整。引导变量是一个可学习的变量，根据特征通过ResNet进行训练。通过引导向量的乘积操作，对特征融合结果进行引导，调整特征的权重，突出不同子带数据的重要信息。

特征聚合：最后，根据经过引导调整后的特征融合结果，对高频和低频子带数据进行线性加权的特征聚合，得到最终的特征表示(output)。

output＝a*input1+b*input2

GFA的作用是对经过子带的注意力机制模块处理后得到的高频和低频子带数据进行引导式的特征聚合。通过引导机制，GFA模块能够将高频和低频子带的特征信息进行有效地融合和调整，以实现对不同子带数据的引导式加权处理。这样的特征聚合过程能够更充分地利用不同频率上的关键特征，提高负荷分解的准确性和性能。整个GFA模块的设计使得模型能够更有效地将高频和低频子带数据整合为最终的负荷分解结果，实现准确的电力负荷分解。

进一步的，步骤7中，所述的模型训练和参数更新，具体为：

对模型的参数进行随机初始化；选择Huber损失函数作为衡量模型预测结果与真实负荷之间差异的指标，选择Adam优化器进行参数更新；将训练集输入模型，计算损失函数并进行反向传播，通过优化器更新模型参数，重复该过程进行多轮训练。Huber损失函数表达式如下：

本发明的有益效果在于：

本发明提供的基于WaveAttentiveNet模型的负荷分解方法，输入数据经过卷积层转换为多通道的特征表示，增强特征表达能力；经过ResNet层进行深度学习处理，实现对数据特征的更深层次抽取和学习；引入可学习的小波分解块(LWD)，将数据分解为高频和低频两个子带，提取不同尺度的特征信息；高频子带和低频子带分别输入到HFA和LFA模块，使用注意力机制关注关键特征；经过HFA和LFA模块后的数据再传入GFA中，通过引导机制聚合高频和低频特征，得到最终的分解结果。这对于电力系统的负荷监测、设备故障检测和能源管理具有重要意义。本发明为解决负荷分解问题提供了一种有效的解决方案，可应用于负荷管理、能源优化等领域。

附图说明

图1为本发明中基于WaveAttentiveNet模型的负荷分解方法的流程示意图。

图2为WaveAttentiveNet模型结构图。

图3为R-Net、LWD、GFA、HFA、LFA模块结构图。

具体实施方式

下面通过实施例结合附图对本发明做进一步说明。

针对现有技术在负荷分解领域面临的挑战，例如数据处理复杂、准确性有限等问题，本发明提出一种基于WaveAttentiveNet模型的负荷分解方法。该方法巧妙地结合了数据频率特征、引导式特征聚合和精细的注意力机制等三大核心优势，为负荷分解领域带来了全新的突破。相较传统技术，本发明避开了繁杂的数据处理流程，提出了一套更为简明高效的负荷分解方案。通过有效整合频率特征、引入精细的注意力机制和引导式特征聚合，该方法能够精准地预测电力负荷分解结果，充分利用了不同频率范围的关键特征，从而显著提升了分解的精确性和性能。本实施例的流程如图1所示，具体包括以下步骤。

步骤1：数据采集和预处理；

采集1个插线板总线和6个分设备上的电流数据，分别编号D0、D1、D2、…、D6；在采集电气数据时，从0时刻起，采集器开始采集，采集频率为1kHz，采集时长为2h，对每一个设备来说，采集到的数据条目总数为7200000条。

使用滑动窗口法构造数据集，设置窗口大小为2000，滑动步长为31，前三条数据与最后一条数据为:[0,2000),[31,2031),[62,2062),…,[7198000,7200000)，对于每个设备，总共可获得232195条数据，即每个设备的数据集矩阵格式为[232195,2000]，7个设备的数据集矩阵格式为[232195,7,2000]。

采集到的原始数据经过仔细的数据清洗和去噪处理，包括处理缺失值和异常值，同时应用滤波技术进行降噪，以确保数据质量和可靠性。通过预处理，可以得到干净、平滑且具有较好时序特性的电流数据，为负荷分解模型的建立奠定基础。具体包括：

(1)数据清洗：对采集到的原始电力数据可能包含的缺失值、异常值、重复值，进行数据清洗，以确保数据的准确性和一致性；具体包括：

(a)缺失值处理：对于每个记录，在时间点t处的电力消耗值表示为P(t)，如果P(t)缺失，则使用相邻时间点的平均值进行填充，即

(b)异常值处理：对于每个记录，在时间点t处的电力消耗值表示为P(t)，如果P(t)明显偏离其他时间点的取值范围，将其视为异常值；假设取值范围为[Min,Max]，则异常值处理公式如下：

如果P(t)Max，则

(2)数据去噪：采用基于小波变换方法去噪，具体如下：

将电流数据应用于小波变换，将其转换到小波域中；对小波系数应用软阈值滤波，将幅值低于阈值的小波系数置零，保留幅值高于阈值的小波系数；对滤波后的频域表示进行逆小波变换，得到去噪后的电力数据序列；

(3)洗牌及划分：对得到的数据集进行洗牌操作，打乱数据的顺序，选择数据集的80％用于训练，20％用于测试。以下列出的包括所有数据样本，并非实际训练或者测试过程中的矩阵规格。即得到的训练集矩阵规格为[185756,7,2000]，其中输入矩阵规格为[185756,1,2000]，输出的计算loss的矩阵规格为[185756,6,2000]；测试集矩阵规格为[46439,7,2000]，其中输入矩阵规格为[46439,1,2000]，输出的矩阵规格为[46439,6,2000]。

步骤2：深层特征提取；

输入数据经过卷积层进行初步特征提取，将数据转换为六通道的表示，实现初步的数据分解。随后，经过ResNet进行深度学习处理，对卷积层输出的特征进行进一步抽象和学习，提取更高级的特征表示。通过卷积层和ResNet的联合作用，有效地捕获输入数据的局部特征和抽象特征，增强了特征的表达能力，为后续的负荷分解过程提供了更丰富的信息基础。

步骤3：可学习的小波分解；

LWD通过小波变换将深层特征分解为高频和低频两个子带，捕捉不同尺度的特征信息。高频子带用于捕获电流信号的局部细节和细微波动，而低频子带用于提取整体趋势和长期依赖性特征。同时，引入可学习参数使LWD能自适应地分解，更好地适应电力系统中多设备混合运行的特点。LWD的分解为后续的注意力机制提供多尺度特征输入，有效处理电流混叠问题，提高负荷分解准确性和稳定性。

步骤4：通过子带的注意力机制模块，加强对关键特征的关注；

该模块包括高频子带的注意力机制(HFA)和低频子带的注意力机制(LFA)。HFA通过ResNet、通道注意力、空间注意力模块提取高频子带数据的关键特征，LFA在HFA的基础上外加了一个卷积层，输出一个可调节参数K，用于调节高频子带特征与低频子带特征的重要程度。K越小，说明高频子带特征更为重要。该模块引入全局关注机制，自适应选择重要信息，加强关键特征的关注，减少冗余信息影响。这样的特征选择和加权提高对不同频率上重要特征的捕捉能力，为后续特征聚合提供更有区分度和重要性的子带数据，进一步提高负荷分解的准确性和性能。

步骤5：通过引导式特征聚合模块(GFA)，调整特征融合结果；

引导式特征聚合模块(GFA)接收经过注意力机制处理的高频和低频子带数据。通过ResNet可学习的引导变量，调整特征融合结果，突出重要信息。最后，线性加权聚合高频和低频子带数据，实现准确的电力负荷分解，提高分解的准确性和性能。

步骤6：设计损失函数和优化器；

采用Huber损失函数，优化器选择Adam优化器。

步骤7：模型训练和参数更新；

在模型训练阶段，使用预处理后的电流数据作为输入，将真实负荷数据作为训练的目标。通过反向传播算法计算梯度并更新模型参数，以最小化Huber损失函数。为了提高训练效率和稳定性，本方法采用批量训练方式，即每次从训练数据中随机选择一批样本进行模型的更新和优化。此外，在模型训练过程中，还采用了学习率衰减策略，随着训练的进行逐渐减小学习率，以避免模型陷入局部最优。

训练过程中，输入数据的应该是[batch_size,1,2000]，其中batch_size表示每次批量训练的样本数量，设置为32。而输出数据的形状应该是[batch_size,6,2000]，其中6表示分设备的数量，即每个样本点被分解成6个分设备的电流数据。

(1)输入数据：[batch_size,1,2000]

batch_size:表示每次训练时输入模型的样本数量，设置为32；

1:表示一个插线板上的总线电流数据；

2000:表示每过2000毫秒采集的电流信息，以2000个时间步为一个滑动窗口；

(2)输出数据：[batch_size,6,2000]

batch_size:表示每次训练时输入模型的样本数量，设置为32，与输入数据的batch_size相同；

6:表示与总线相连的6个分设备；

2000:表示每过2000毫秒采集的电流信息，以2000个时间步为一个滑动窗口，与输入数据相同；

在训练过程中，输入数据[batch_size,1,2000]被输入到WaveAttentiveNet模型中进行训练，然后模型输出[batch_size,6,2000]，即对每个样本点进行6个分设备的负荷分解预测。

步骤8：模型测试和预测；

在模型训练完成后，使用测试数据集对模型进行评估。将测试数据输入WaveAttentiveNet模型，进行前向传播操作，得到电流负荷的预测结果。为了全面评估模型的性能，采用了交叉验证的方法，将数据集划分为多个子集，每次用其中一部分作为测试集，其余部分作为训练集，最终汇总评估结果。这些预测结果可以用于负荷管理、能源优化等应用中，为电力系统的运行提供有力支持。

为了客观评估WaveAttentiveNet模型的性能，本发明比较了该模型与传统的TCN模型在负荷分解任务上的表现。评估指标主要包括均方根误差(Root Mean SquaredError,RMSE)和平均绝对误差(Mean Absolute Error,MAE)。这两个指标是常用的回归任务评价标准，能够反映模型预测结果与真实负荷数据之间的差异。

实验结果，表明WaveAttentiveNet模型表现优异。经过大量训练和测试，与TCN模型相比，WaveAttentiveNet模型的RMSE为73.21，MAE为41.06；TCN模型的RMSE为101.32，MAE为62.19，见表2。

显然本发明的WaveAttentiveNet模型在电力负荷数据上取得了较低的RMSE和MAE，其负荷分解准确性显著提高。通过可视化对比真实负荷和模型预测结果，表明WaveAttentiveNet模型能够较好地拟合真实负荷数据，并捕捉到负荷波动的趋势。此外，本发明还进行了误差分析，证明模型在高负荷波动和低负荷波动情况下的预测性能较好，对于异常负荷情况也有较好的鲁棒性。

以上所述，仅为本发明的具体实施方式，本说明书中所公开的任一特征，除非特别叙述，均可被其他等效或具有类似目的的替代特征加以替换；所公开的所有特征、或所有方法或过程中的步骤，除了互相排斥的特征和/或步骤以外，均可以任何方式组合。

表1为实验采集的前10条数据表。

表2，TCN-RNN方法与TCN方法误差对比

。