基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法

技术领域

本发明涉及电力技术领域，具体为基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法。

背景技术

准确的电力负荷预测是保证电力系统安全稳定运行的重要手段之一，也是电力调度、供电企业电力设施建设等方面的重要依据。影响电力负荷的因素很多(如社会、政策、天气、节假日等)，而这些数据往往会对电力使用产生影响。因此，如何通过这些不同方面的影响因素，合理地利用这些因数的数据进行预测准确是提高预测精度的关键。

有效而精确的短期负荷预测有助于电力部门合理地制定生产计划，减少对资源的浪费。以循环神经网络(recurrent neural network，RNN)为主体建立的深度学习预测模型是短期负荷预测方法中的典型代表，但在历史序列中，由于潜在的高维特征很难提取，重要信息在时间序列过长时容易丢失。由于负荷预测问题的假设空间很大，可能有多个假设在训练集上达到同等性能，若使用单一模型可能由于随机性而导致泛化性能不佳。

为解决上述问题，提出基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法。

发明内容

本发明的目的在于提供基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，从而解决了现有技术中的问题。

为实现上述目的，本发明提供如下技术方案：基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，方法具体包括如下步骤：

S1：用EMD算法对电力负荷原始时序数据进行分解，得到几个具有不同特征的IMF；

S2：由于EMD分解得到的IMF数量较多且IMF间存在一定的相关性，因此有必要对IMF进行重构，从而降低建立预测模型的重复工作量，用样本熵来衡量IMF复杂性，用趋势分量、细节分量和随机分量来重建与样本熵相近的IMF；

S3：对重构分量分别建立SVR和MLR负荷预测模型，将不同分量预测结果叠加即初级预测模型获得预测值；

S4：把初级预测模型预测出的值当做次级预测模型的特征值和原始的时间序列数据进行融合，形成新的时间序列，负荷数据经过预处理后长度为n，可以用X表示X＝[x

S5：把新的时间序列作为GRU网络的输入，建模学习特征内部动态变化规律，并引入注意力机制通过映射加权和学习参数矩阵赋予GRU隐含状态不同的权重，减少历史信息的丢失并加强重要信息的影响，最后完成短期负荷预测。

进一步地，S1中用EMD算法得到IMF的方法步骤如下：

S11：找出电力负荷时间序列y(t)中的所有极大值，并用插值方法拟合其包络线u(t)；与之类似，求出y(t)列的全部最小值，用插值方法拟合其包络线v(t)；据此计算上下包络线平均m

S12：将原始信号y(t)与m

S13：判断h

S14：将剩余分量r

进一步地，S1中采用EMD方法将原始信号y(t)分解为n个IMF分量c

进一步地，S3中建立SVR和MLR负荷预测模型。用趋势分量当做MLR负荷预测模型的输入、用细节分量当做MLR负荷预测模型的输入，然后将不同分量预测结果叠加即初级预测模型的预测值。

进一步地，S5中引入注意力机制GRU网络主要分为输入层、GRU层、注意力层和输出层：

S51：输入层：输入层以新的时间序列X为预测模型输入；

S52：GRU层：构建GRU结构，充分地学习这些特征，从而捕捉到其内部变化规律，GRU层的输出记为H，在第t步的输出表示为

h

S53：注意力层：注意力层在输入为GRU网络层激活处理的输出矢量H的情况下，根据权重分配原则计算不同特征矢量对应概率，不断更新迭代更优的权重参数矩阵；

S54：输出层：输出层通过全连接层进行计算出预测步长为m的输出Y＝[y

进一步地，S52中的详细公式如下(式中：R

R

Z

进一步地，S53中注意力机制层的权重系数计算公式可表示为

e

与现有技术相比，本发明的有益效果如下：

1、本发明提出的基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，采用经验模态分解(empirical mode decomposition，EMD)信号处理算法对用户负荷原始时间序列数据进行分解处理，计算各模态函数(Intrinsic Mode Function，IMF)样本熵值并根据样本熵大小对模态函数进行重构。

2、本发明提出的基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，对重构分量分别建立支持向量机(support vector regression，SVR)算法和多元线性回归(multiple linear regression，MLR)负荷预测模型，叠加不同分量预测结果从而获得预测值。

3、本发明提出的基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，把初级预测模型的预测值当做次级预测模型的特征值和原始的时间序列数据进行融合，形成新的时间序列。

4、本发明提出的基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，将把新的时间序列作为门控循环单元神经网络(gated recurrent unit neuralnetwork，GRU-NN)网络的输入，建模学习特征内部动态变化规律，并引入注意力机制通过映射加权和学习参数矩阵赋予GRU隐含状态不同的权重，减少历史信息的丢失并加强重要信息的影响，最后完成短期负荷预测。该方法提高了时间轴上对隐式时间序列的特征提取能力和计算能力，对于具有周期和长期依赖关系的电力系统的负荷预测具有较高的准确率和精确度，具有一定的实用价值。

附图说明

图1为本发明基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法的电力负荷预测流程图；

图2为本发明基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法的整体步骤流程图；

图3为本发明基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法的整体步骤一种用EMD算法得到IMF的方法步骤流程图；

图4为本发明基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法的整体步骤五中引入注意力机制GRU网络主要分为输入层、GRU层、注意力层和输出层步骤流程图；

图5为本发明基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法的EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测模型示意图；

图6为本发明基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法的利用本申请的方法进行预测的结果与利用单模型GRU-NN、单模型SVR模型以及单模型MLR模型进行预测的结果的对比示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1-4，基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，方法具体包括如下步骤：

步骤一：用EMD算法对电力负荷原始时序数据进行分解，得到几个具有不同特征的IMF，利用本申请的方法进行预测的结果与利用单模型GRU-NN、单模型SVR模型以及单模型MLR模型进行预测的结果的对比示意图，其具体步骤如下：

找出电力负荷时间序列y(t)中的所有极大值，并用插值方法拟合其包络线u(t)；与之类似，求出y(t)列的全部最小值，用插值方法拟合其包络线v(t)。据此计算上下包络线平均m

将原始信号y(t)与m

判断h

将剩余分量r

采用EMD方法将原始信号y(t)分解为n个IMF分量c

步骤二：由于EMD分解得到的IMF数量较多且IMF间存在一定的相关性，因此有必要对IMF进行重构，从而降低建立预测模型的重复工作量。用样本熵来衡量IMF复杂性，用趋势分量、细节分量和随机分量来重建与样本熵相近的IMF；

步骤三：对重构分量分别建立SVR和MLR负荷预测模型，将不同分量预测结果叠加即初级预测模型获得预测值，用趋势分量当做MLR负荷预测模型的输入、用细节分量当做MLR负荷预测模型的输入，然后将不同分量预测结果叠加即初级预测模型的预测值；

步骤四：把初级预测模型预测出的值当做次级预测模型的特征值和原始的时间序列数据进行融合，形成新的时间序列，负荷数据经过预处理后长度为n，可以用X表示X＝[x

步骤五：把新的时间序列作为GRU网络的输入，建模学习特征内部动态变化规律，并引入注意力机制通过映射加权和学习参数矩阵赋予GRU隐含状态不同的权重，减少历史信息的丢失并加强重要信息的影响，最后完成短期负荷预测：

输入层：输入层以新的时间序列X为预测模型输入；

GRU层：构建GRU结构，充分地学习这些特征，从而捕捉到其内部变化规律。GRU层的输出记为H，在第t步的输出表示为

R

Z

式中：R

注意力层：注意力层在输入为GRU网络层激活处理的输出矢量H的情况下，根据权重分配原则计算不同特征矢量对应概率，不断更新迭代更优的权重参数矩阵。注意力机制层的权重系数计算公式可表示为

e

输出层：输出层通过全连接层进行计算出预测步长为m的输出Y＝[y

请参阅图5和表1，基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，为了更好的分析本发明算法的应用场景，选用某地区电网实际运行负荷数据进行验证。其中，2014-2015年全年数据为训练数据，2016年1-6月份数据为测试数据。预测评价指标采用平均相对误差e

式中：x(i)和y(i)分别表示i时刻的实际值和预测值；n为样本数量。

表1不同模型负荷预测精度结果表

为使模型收敛更快，精度更高，此次实验运用归一化处理将数据转换到[0，1]范围内，归一化公式为

针对不同的时段，不同子模型可能表现出不同的优势，本发明模型能够充分学习到各个子模型优点，进一步提升预测效果。

由表1与图6可知，使用层次学习模型相较于其他单一算法都能够更好的预测电力负荷的变化趋势。本发明和MLR、SVR和GRU-NN进行对比，提出的预测模型能够获得更高的负荷预测精度，也具有更广泛的应用潜力。

本申请创新性的提出了电力负荷层次预测方法，其预测的结果与单模型GRU-NN、单模型SVR以及单模型MLR的结果对比图请参考图3，相比于单模型结构，本申请的预测精度更高。

综上所述：本发明提出的基于EMD-SVR-MLR与注意力机制的GRU-NN的电力负荷层次预测方法，首先，采用经验模态分解(empirical mode decomposition，EMD)信号处理算法对用户负荷原始时间序列数据进行分解处理，计算各模态函数(Intrinsic ModeFunction，IMF)样本熵值并根据样本熵大小对模态函数进行重构。其次，对重构分量分别建立支持向量机(support vector regression，SVR)算法和多元线性回归(multiple linearregression，MLR)负荷预测模型，叠加不同分量预测结果从而获得预测值。然后，把初级预测模型预测出的值当做次级预测模型的特征值和原始的时间序列数据进行融合，形成新的时间序列，最后将把新的时间序列作为门控循环单元神经网络(gated recurrent unitneural network，GRU-NN)网络的输入，建模学习特征内部动态变化规律，并引入注意力机制通过映射加权和学习参数矩阵赋予GRU隐含状态不同的权重，减少历史信息的丢失并加强重要信息的影响，最后完成短期负荷预测。该方法提高了时间轴上对隐式时间序列的特征提取能力和计算能力，对于具有周期和长期依赖关系的电力系统的负荷预测具有较高的准确率和精确度，具有一定的实用价值。

本发明未详述部分为现有技术。

上述实施例仅是本发明实施例的一部分，并非全部。以上的实施方式只是用来解释本发明，并不能限定本发明的保护范围。在此基础上，由本领域技术人员在不进行创造性劳动的情况下得到的所有其它实施例，也就是所有在本申请的精神和原则范围内所做的修改、等同替换和改进等等，都属于本发明规定的保护范围。