能源负荷的预测方法、装置、设备和存储介质

技术领域

本发明涉及综合能源系统规划技术领域，尤其涉及一种能源负荷的预测方法、装置、设备和存储介质。

背景技术

综合能源系统在系统规划和运行中，可实现不同能源系统的优势互补，有助于可再生分布式能源的大规模接入和高效利用，提高能源利用效率、降低使用费用，增强系统的安全可靠性和应对突发情况的能力。而多种能源的统筹规划必须建立在对供给能力与负荷需求的全面调查与梳理之上，才进行合理规划设计。因此精确的负荷预测，是综合能源系统高效运行的前提。

因而，如何对综合能源系统的负荷进行精确地预测，成为业内亟需解决的技术问题。

发明内容

本发明提供一种能源负荷的预测方法、装置、设备和存储介质，实现对负荷进行精确的预测，预测精度较高。

第一方面，本发明提供一种能源负荷的预测方法，该方法包括：

获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；所述目标参数包括以下至少一项：时间、湿度和温度；

利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量；所述预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个所述样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个所述样本数据分组对应的特征信息进行加权后得到的。

可选地，所述预测网络的神经元包含：更新门和重置门；所述利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量，包括：

利用如下公式(1)，根据当前时刻的目标参数的目标取值、所述更新门对应的第一权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到所述更新门输出的门值：

z

其中，z

利用如下公式(2)，根据当前时刻的目标参数的目标取值、所述重置门对应的第二权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到所述重置门输出的门值；

r

其中，r

利用如下公式(3)和(4)，根据所述重置门输出的门值、所述更新门输出的门值、第三权重矩阵，得到当前时刻对应的待预测能源的目标负荷量：

其中，h

其中，

可选地，所述第一注意力机制算法为压缩激励注意力机制算法，所述第二注意力机制算法为多头注意力机制算法；所述第一注意力机制算法中包括针对图像尺度的第一注意力模块和针对通道维度的两个第二注意力模块所述针对通道维度的两个第二注意力模块用于确定输入的特征图中每个通道的重要程度。

可选地，所述预测网络通过如下步骤训练得到：

对获取的样本数据进行分组，得到至少一个样本数据分组，所述样本数据包括待预测能源的第二负荷量，以及至少一个历史时刻目标参数的第二取值；

利用所述压缩激励注意力机制算法，根据各个所述样本数据分组对应的第一特征图计算各个所述样本数据分组的第一权重系数；

将各个所述第一权重系数与各个所述样本数据分组内包含的目标参数的第二取值进行相乘，将各个所述第一权重系数对应的相乘后得到的结果与各个所述样本数据分组内包含的目标参数的第二取值进行相加，得到各个所述样本数据分组内包含的赋权后的目标参数的第三取值；

分别对各个所述样本数据分组内包含的赋权后的目标参数的第三取值进行卷积操作，得到各个所述样本数据分组对应的特征向量；所述样本数据分组对应的特征向量用于表示所述样本数据分组对应的特征信息；

针对任一所述样本数据分组对应的特征向量，利用所述多头注意力机制算法，根据所述样本数据分组对应的特征向量，得到所述样本数据分组对应的第二权重系数；

将所述样本数据分组对应的第二权重系数与所述样本数据分组对应的特征向量进行相乘，并将相乘后的结果与所述样本数据分组对应的特征向量进行相加，得到所述样本数据分组对应的加权后的特征向量；

将各个所述样本数据分组对应的加权后的特征向量输入至所述门控循环神经网络中，得到各个所述样本数据分组对应的待预测能源的第三负荷量；

根据各个所述样本数据分组对应的待预测能源的第三负荷量，各个所述样本数据分组对应的待预测能源的第二负荷量，以及预设的评价指标，训练得到所述预测网络。

可选地，所述利用所述压缩激励注意力机制算法，根据各个所述样本数据分组对应的第一特征图计算各个所述样本数据分组的第一权重系数，包括：

针对任一所述样本数据分组对应的第一特征图，利用所述第二注意力模块中的任意一个所述第二注意力模块，对所述样本数据分组对应的第一特征图在通道维度上进行最大池化操作，得到所述样本数据分组对应的第二特征图；

利用所述第二注意力模块中除任意一个所述第二注意力模块之外的另一个所述第二注意力模块，对所述样本数据分组对应的第一特征图在通道维度上进行平均池化操作，得到所述样本数据分组对应的第三特征图；

将所述样本数据分组对应的第二特征图和所述样本数据分组对应的第三特征图进行拼接，得到所述样本数据分组对应的第四特征图；

利用所述压缩激励注意力机制算法中的全连接层对所述样本数据分组对应的第四特征图进行降维，得到所述样本数据分组对应的降维后的第四特征图；

根据各个所述样本数据分组对应的降维后的第四特征图，得到各个所述样本数据分组的第一权重系数。

可选地，所述针对任一所述样本数据分组对应的特征向量，利用所述多头注意力机制算法，根据所述样本数据分组对应的特征向量，得到所述样本数据分组对应的第二权重系数，包括：

针对任一所述样本数据分组对应的特征向量，利用所述多头注意力机制算法的共享线性层，对所述样本数据分组对应的特征向量进行线性化，得到所述样本数据分组对应的初步权重向量；

利用所述多头注意力机制算法，对所述样本数据分组对应的初步权重向量进行至少一次线性变换，得到所述样本数据分组对应的初步均值权重向量；

对所述样本数据分组对应的初步均值权重向量进行归一化处理，得到所述样本数据分组对应的第二权重系数。

第二方面，本发明还提供一种能源负荷的预测装置，该装置包括：

获取模块，用于获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；所述目标参数包括以下至少一项：时间、湿度和温度；

预测模块，用于利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量；所述预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个所述样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个所述样本数据分组对应的特征信息进行加权后得到的。

第三方面，本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述能源负荷的预测方法。

第四方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述能源负荷的预测方法。

第五方面，本发明还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述能源负荷的预测方法。

本发明提供的一种能源负荷的预测方法、装置、设备和存储介质，通过获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，其中，目标参数包括以下至少一项：时间、湿度和温度；然后，利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到待预测能源的目标负荷量。本发明中因预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的，并且各个样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个样本数据分组对应的特征信息进行加权后得到的，也即基于双重注意力机制算法训练得到预测网络，进而，利用预测网络对负荷进行预测得到的结果较为准确，预测精度较高。

附图说明

为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明提供的能源负荷的预测方法的流程示意图；

图2是本发明提供的能源负荷的预测方法的原理示意图之一；

图3是本发明提供的能源负荷的预测方法的原理示意图之二；

图4是本发明提供的能源负荷的预测装置的结构示意图；

图5是本发明提供的电子设备的结构示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

下面结合图1-图5描述本发明提供的一种能源负荷的预测方法、装置、设备和存储介质。

图1是本发明提供的能源负荷的预测方法的流程示意图，如图1所示，该方法包括：

步骤101、获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；目标参数包括以下至少一项：时间、湿度和温度；

具体地，首先获取待预测任务对应的数据，例如，获取当前时刻的目标参数的目标取值，其中，目标参数包括以下至少一项：时间、湿度和温度以及前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量也即历史数据，其中，待预测能源例如为电力、热力。

步骤102、利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到待预测能源的目标负荷量；预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个样本数据分组对应的特征信息进行加权后得到的。

具体地，在步骤102之后，可以进一步利用预测网络预测得到待预测能源的目标负荷量。

可以理解的是，预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的，并且，各个样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个样本数据分组对应的特征信息进行加权后得到的，也即预测网络的训练数据的权重信息较为准确。

进一步地，可以根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，预测得到待预测能源的目标负荷量。

本实施例提供的方法中，通过获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，其中，目标参数包括以下至少一项：时间、湿度和温度；然后，利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到待预测能源的目标负荷量。本发明中因预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的，并且各个样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个样本数据分组对应的特征信息进行加权后得到的，也即基于双重注意力机制算法训练得到预测网络，进而，利用预测网络对负荷进行预测得到的结果较为准确，预测精度较高。

可选地，预测网络的神经元包含：更新门和重置门；利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到待预测能源的目标负荷量，包括：

利用如下公式(1)，根据当前时刻的目标参数的目标取值、更新门对应的第一权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到更新门输出的门值：

z

其中，z

利用如下公式(2)，根据当前时刻的目标参数的目标取值、重置门对应的第二权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到重置门输出的门值；

r

其中，r

利用如下公式(3)和(4)，根据重置门输出的门值、更新门输出的门值、第三权重矩阵，得到当前时刻对应的待预测能源的目标负荷量：

其中，h

其中，

具体地，在一些实施例中，预测网络为门控循环神经网络(gated recurrentneural network，GRU)，预测网络的神经元包含：更新门和重置门，更新门用于控制前一时刻的状态信息被带入到当前状态中的程度，也就是更新门帮助模型决定到底要将多少过去的信息传递到未来，简单来说就是用于更新记忆；重置门决定了如何将新的输入信息与前面的记忆相结合。对应地，步骤102可以通过如下方法实现：

首先，利用如下公式(1)，根据当前时刻的目标参数的目标取值、更新门对应的第一权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到更新门输出的门值：

z

其中，z

其中，sigmoid函数可以将输入值变换为(0,1)上的输出，具体地，它可以将范围(-inf,inf)中的任意输入压缩到区间(0,1)中的某个值，sigmoid函数表示如下：

其中，sigmoid(x)函数表示输入值为x对应的sigmoid函数的取值，x表示输入值；

进一步地，利用如下公式(2)，根据当前时刻的目标参数的目标取值、重置门对应的第二权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到重置门输出的门值；

r

其中，r

进一步地，利用如下公式(3)和(4)，根据重置门输出的门值、更新门输出的门值、第三权重矩阵，得到当前时刻对应的待预测能源的目标负荷量：

其中，h

其中，

可以理解的是，tanh函数与sigmoid函数类似，tanh函数也能将其输入值压缩转换到区间(-1,1)上，tanh函数的公式如下：

其中，tanh(x)函数表示输入值为x对应的tanh函数的取值，x表示输入值。

其中，第一权重矩阵、第二权重矩阵、第三权重矩阵均是预测网络学习到的，基于预测网络对能源负荷进行预测的精确度较高。

本实施例提供的方法中，基于预测网络对能源负荷进行预测的精确度较高。

可选地，第一注意力机制算法为压缩激励注意力机制算法，第二注意力机制算法为多头注意力机制算法；第一注意力机制算法中包括针对图像尺度的第一注意力模块和针对通道维度的两个第二注意力模块针对通道维度的两个第二注意力模块用于确定输入的特征图中每个通道的重要程度。

具体地，在一些实施例中，所述第一注意力机制算法为压缩激励SE注意力机制算法，SE注意力机制就是通过自动学习的方式，在通道维度增加注意力机制，为每一通道赋予权重值，让神经网络更加关注某些通道，从而获取更重要的信息，提升模型精度。其中，本实施例中第一注意力机制算法中包括针对图像尺度的第一注意力模块和针对通道维度的两个第二注意力模块，针对通道维度的两个第二注意力模块用于确定输入的特征图中每个通道的重要程度，例如，针对通道维度的两个第二注意力模块中的其中一个第二注意力模块，采用全局最大池化操作来压缩特征图信息，针对通道维度的两个第二注意力模块中的另外一个第二注意力模块，可以采用全局平均池化操作来压缩特征图信息，使得最终得到的通道维度的权重较为准确。

其中，第二注意力机制算法为多头注意力机制算法，其中，多头注意力融合了来自于相同的注意力池化产生的不同的知识，这些知识的不同来源于相同的查询、键和值的不同的子空间表示。

本实施例提供的方法中，基于第一注意力机制算法和第二注意力机制算法得到的特征的权重系数准确度较高，进而基于特征的权重系数进行预测网络的训练，预测网络预测的精确度较高。

可选地，预测网络通过如下步骤训练得到：

对获取的样本数据进行分组，得到至少一个样本数据分组，样本数据包括待预测能源的第二负荷量，以及至少一个历史时刻目标参数的第二取值；

利用压缩激励注意力机制算法，根据各个样本数据分组对应的第一特征图计算各个样本数据分组的第一权重系数；

将各个第一权重系数与各个样本数据分组内包含的目标参数的第二取值进行相乘，将各个第一权重系数对应的相乘后得到的结果与各个样本数据分组内包含的目标参数的第二取值进行相加，得到各个样本数据分组内包含的赋权后的目标参数的第三取值；

分别对各个样本数据分组内包含的赋权后的目标参数的第三取值进行卷积操作，得到各个样本数据分组对应的特征向量；样本数据分组对应的特征向量用于表示样本数据分组对应的特征信息；

针对任一样本数据分组对应的特征向量，利用多头注意力机制算法，根据样本数据分组对应的特征向量，得到样本数据分组对应的第二权重系数；

将样本数据分组对应的第二权重系数与样本数据分组对应的特征向量进行相乘，并将相乘后的结果与样本数据分组对应的特征向量进行相加，得到样本数据分组对应的加权后的特征向量；

将各个样本数据分组对应的加权后的特征向量输入至门控循环神经网络中，得到各个样本数据分组对应的待预测能源的第三负荷量；

根据各个样本数据分组对应的待预测能源的第三负荷量，各个样本数据分组对应的待预测能源的第二负荷量，以及预设的评价指标，训练得到预测网络。

具体地，在一些实施例中，预测网络通过如下步骤训练得到：

首先，对获取的样本数据进行分组，得到至少一个样本数据分组，样本数据包括待预测能源的第二负荷量，以及至少一个历史时刻目标参数的第二取值；例如，样本数据包括7小时的历史时刻内目标参数的第二取值，目标参数例如时间、湿度、温度，以及7小时的历史时刻内对应的电负荷以及热负荷)，根据预设的规则对所述样本数据进行分组，例如按照时间段将所述样本数据分为7组。

进一步地，可以利用第一注意力机制算法如压缩激励注意力机制算法，根据各个样本数据分组对应的第一特征图计算各个样本数据分组的第一权重系数；也即利用第一注意力机制算法计算得到各个数据分组整体的第一权重系数。

进一步地，将各个第一权重系数与各个样本数据分组内包含的目标参数的第二取值进行相乘，将各个第一权重系数对应的相乘后得到的结果与各个样本数据分组内包含的目标参数的第二取值进行相加，得到各个样本数据分组内包含的赋权后的目标参数的第三取值，也即与第一权重系数相乘并和原始输入相加后的结果。

进一步地，分别对各个样本数据分组内包含的赋权后的目标参数的第三取值进行卷积操作，得到各个样本数据分组对应的特征向量，可以理解的是，卷积操作可以理解为特征提取的过程，卷积操作后可以得到各个样本数据分组对应的特征向量，也即是说，样本数据分组对应的特征向量是用于表示样本数据分组对应的特征信息。

可选地，针对任一所述样本数据分组对应的特征向量，对所述样本数据分组对应的特征向量进行一维化；

进一步地，在得到各个样本数据分组对应的特征向量后，可以针对任一样本数据分组对应的特征向量，利用多头注意力机制算法，计算得到样本数据分组对应的第二权重系数，第二权重系数可以理解为每一组样本数据分组中各个目标参数的权重信息。在得到各个样本数据分组对应的第二权重系数后，可以将样本数据分组对应的第二权重系数与样本数据分组对应的特征向量进行相乘，并将相乘后的结果与样本数据分组对应的特征向量进行相加，得到样本数据分组对应的加权后的特征向量。

进一步地，利用各个样本数据分组对应的加权后的特征向量对门控循环神经网络进行训练，例如，将各个样本数据分组对应的加权后的特征向量输入至门控循环神经网络中，得到各个样本数据分组对应的待预测能源的第三负荷量；根据各个样本数据分组对应的待预测能源的第三负荷量，各个样本数据分组对应的待预测能源的第二负荷量，以及预设的评价指标，训练得到预测网络。也即根据各个样本数据分组对应的预测值与各个样本数据分组对应的真实值，计算预设的评价指标的取值，在预设的评价指标的值达到预设的范围，则可以认为预测网络训练完成，得到训练后的预测网络。其中，预设的评价指标例如均方根误差(Root Mean Square Error，RMSE)，均方误差(mean-square error,MSE)。

本实施例提供的方法中，利用双重注意力机制算法，对输入预测网络的特征变量进行权重分配，对于重要特征变量赋予高权重，而次要特征变量赋予低权重，以提高模型的泛化能力；并且预测网络采用多输出通道，让模型能够学习出能源之间的耦合特性，提升负荷预测精度。

可选地，利用压缩激励注意力机制算法，根据各个样本数据分组对应的第一特征图计算各个样本数据分组的第一权重系数，包括：

针对任一样本数据分组对应的第一特征图，利用第二注意力模块中的任意一个第二注意力模块，对样本数据分组对应的第一特征图在通道维度上进行最大池化操作，得到样本数据分组对应的第二特征图；

利用第二注意力模块中除任意一个第二注意力模块之外的另一个第二注意力模块，对样本数据分组对应的第一特征图在通道维度上进行平均池化操作，得到样本数据分组对应的第三特征图；

将样本数据分组对应的第二特征图和样本数据分组对应的第三特征图进行拼接，得到样本数据分组对应的第四特征图；

利用压缩激励注意力机制算法中的全连接层对样本数据分组对应的第四特征图进行降维，得到样本数据分组对应的降维后的第四特征图；

根据各个样本数据分组对应的降维后的第四特征图，得到各个样本数据分组的第一权重系数。

具体地，在一些实施例中，利用压缩激励注意力机制算法，根据各个样本数据分组对应的第一特征图计算各个样本数据分组的第一权重系数，也即得到各个样本数据分组对应的权重系数的过程可以包括：

可以理解的是，针对任一样本数据分组执行的步骤类似，以下以一个样本数据分组为例介绍计算各个样本数据分组的第一权重系数的过程：

首先，针对通道维度的第二注意力机制中包含两个第二注意力模块，两个模块都是为了得到给特征图在通道维度上赋予权重，让预测网络更关注权重值大的通道，从而获取更重要的特征信息，提升预测网络进行预测的精度。

第一步，针对任一样本数据分组对应的第一特征图，可以利用第二注意力模块中的任意一个第二注意力模块，对样本数据分组对应的第一特征图在通道维度上进行最大池化操作，得到样本数据分组对应的第二特征图。图2是本发明提供的能源负荷的预测方法的原理示意图之一，图2表示利用压缩激励注意力机制算法计算各个样本数据分组的第一权重系数原理示意，如图2所示，样本数据分组的特征信息输入至模型中，得到第一特征图，第一特征图有对应的高度、宽度和通道数，进而，利用图像上方的第二注意力模块对第一特征图在通道维度上进行最大池化操作，得到样本数据分组对应的第二特征图。

第二步，可以利用第二注意力模块中除任意一个第二注意力模块之外的另一个第二注意力模块，对样本数据分组对应的第一特征图在通道维度上进行平均池化操作，得到样本数据分组对应的第三特征图；例如，如图2所示，利用图像下方的第二注意力模块对第一特征图在通道维度上进行平均池化操作。

第三步，将样本数据分组对应的第二特征图和样本数据分组对应的第三特征图进行拼接，得到样本数据分组对应的第四特征图。

第四步，可以利用压缩激励注意力机制算法中的全连接层对样本数据分组对应的第四特征图进行降维，得到样本数据分组对应的降维后的第四特征图；可选地，压缩激励注意力机制算法中包括4个全连接层，可以将4个全连接层的输出取平均值。

第五步，根据各个样本数据分组对应的降维后的第四特征图，得到各个样本数据分组的第一权重系数。可以理解的是，此时降维的维度为输出维度，例如为一维的向量，向量中的每个元素表示每个通道对应的重要程度。具体地，可以对降维后的第四特征图经relu函数与sigmoid函数进行压缩，使得各通道对应赋予0.5到1之间的权重；进而，可以将各个通道的权重加到各个通道上，根据各个通道的权重，以及利用第一注意力机制算法得到的图像尺度的权重，可以得到最终的该样本数据分组的第一权重系数。

本实施例提供的方法中，在传统的压缩激励注意力机制上，单独另设一个第二注意力模块，其中第二注意力模块采用全局平均池化操作来压缩第一特征图信息，进而，为各个通道赋予的权重较为准确。

可选地，针对任一样本数据分组对应的特征向量，利用多头注意力机制算法，根据样本数据分组对应的特征向量，得到样本数据分组对应的第二权重系数，包括：

针对任一样本数据分组对应的特征向量，利用多头注意力机制算法的共享线性层，对样本数据分组对应的特征向量进行线性化，得到样本数据分组对应的初步权重向量；

利用多头注意力机制算法，对样本数据分组对应的初步权重向量进行至少一次线性变换，得到样本数据分组对应的初步均值权重向量；

对样本数据分组对应的初步均值权重向量进行归一化处理，得到样本数据分组对应的第二权重系数。

具体地，在一些实施例中，针对任一样本数据分组对应的特征向量，利用多头注意力机制算法，根据样本数据分组对应的特征向量，得到样本数据分组对应的第二权重系数可以通过如下步骤实现：

可以理解的是，每个样本数据分组均可以计算出相应的特征向量，下面可以对每个样本数据分组中的数据进行如下操作以得到各个样本数据分组对应的第二权重系数：

首先，针对任一样本数据分组对应的特征向量，利用多头注意力机制算法的共享线性层，对样本数据分组对应的特征向量进行线性化，得到样本数据分组对应的初步权重向量。图3是本发明提供的能源负荷的预测方法的原理示意图之二，如图3所示，例如以样本数据分组对应的特征向量X＝[x

Y＝σ(WX+b)；

其中，Y表示初步权值向量，σ表示线性激活函数，X表示样本数据分组对应的特征向量，W表示共享线性层预设的权重矩阵。

进一步地，可以利用多头注意力机制算法，对样本数据分组对应的初步权重向量进行至少一次线性变换，得到样本数据分组对应的初步均值权重向量。具体地，例如，对初步权值向量Y进行N次线性变换，第N次线性变换得到的初步权值向量为Y

例如，如图3所示，线性层中共包含N次线性变换各自对应的初步权值向量，如第一次线性变换得到的初步权重向量表示为

进而，可以利用如下公式对N次线性变换得到的N个初步权值向量取均值，得到样本数据分组对应的初步均值权重向量：

其中，

进一步地，可以对样本数据分组对应的初步均值权重向量进行归一化处理，得到样本数据分组对应的第二权重系数。

例如，利用激活函数1如Relu激活函数将得到的初步均值权重向量

其中，α表示样本数据分组对应的第二权重系数，也即样本数据分组中各输入特征的最终注意力权重系数，

本实施例提供的方法中，针对任一样本数据分组对应的特征向量，利用多头注意力机制算法的共享线性层，对样本数据分组对应的特征向量进行线性化，得到样本数据分组对应的初步权重向量；进而，利用多头注意力机制算法，对样本数据分组对应的初步权重向量进行至少一次线性变换，得到样本数据分组对应的初步均值权重向量；最后，对样本数据分组对应的初步均值权重向量进行归一化处理，得到样本数据分组对应的第二权重系数，也即输入特征的最终权重系数，本实施例提供的方法中，计算得到的输入特征的最终权重系数较为准确。

下面对本发明提供的能源负荷的预测装置进行描述，下文描述的能源负荷的预测装置与上文描述的能源负荷的预测方法可相互对应参照。

图4是本发明提供的能源负荷的预测装置400的结构示意图，该装置包括：

获取模块410，用于获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；所述目标参数包括以下至少一项：时间、湿度和温度；

预测模块420，用于利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量；所述预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个所述样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个所述样本数据分组对应的特征信息进行加权后得到的。

本实施例提供的装置中，通过获取模块410获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，其中，目标参数包括以下至少一项：时间、湿度和温度；然后，预测模块420利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到待预测能源的目标负荷量。本发明中因预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的，并且各个样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个样本数据分组对应的特征信息进行加权后得到的，也即基于双重注意力机制算法训练得到预测网络，进而，利用预测网络对负荷进行预测得到的结果较为准确，预测精度较高。

可选地，所述预测网络的神经元包含：更新门和重置门；

所述预测模块420，具体用于：

利用如下公式(1)，根据当前时刻的目标参数的目标取值、所述更新门对应的第一权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到所述更新门输出的门值：

z

其中，z

利用如下公式(2)，根据当前时刻的目标参数的目标取值、所述重置门对应的第二权重矩阵以及前一时刻对应的待预测能源的第一负荷量，得到所述重置门输出的门值；

r

其中，r

利用如下公式(3)和(4)，根据所述重置门输出的门值、所述更新门输出的门值、第三权重矩阵，得到当前时刻对应的待预测能源的目标负荷量：

其中，h

其中，

可选地，所述第一注意力机制算法为压缩激励注意力机制算法，所述第二注意力机制算法为多头注意力机制算法；所述第一注意力机制算法中包括针对图像尺度的第一注意力模块和针对通道维度的两个第二注意力模块所述针对通道维度的两个第二注意力模块用于确定输入的特征图中每个通道的重要程度。

可选地，所述装置还包括训练模块；

所述训练模块用于：

对获取的样本数据进行分组，得到至少一个样本数据分组，所述样本数据包括待预测能源的第二负荷量，以及至少一个历史时刻目标参数的第二取值；

利用所述压缩激励注意力机制算法，根据各个所述样本数据分组对应的第一特征图计算各个所述样本数据分组的第一权重系数；

将各个所述第一权重系数与各个所述样本数据分组内包含的目标参数的第二取值进行相乘，将各个所述第一权重系数对应的相乘后得到的结果与各个所述样本数据分组内包含的目标参数的第二取值进行相加，得到各个所述样本数据分组内包含的赋权后的目标参数的第三取值；

分别对各个所述样本数据分组内包含的赋权后的目标参数的第三取值进行卷积操作，得到各个所述样本数据分组对应的特征向量；所述样本数据分组对应的特征向量用于表示所述样本数据分组对应的特征信息；

针对任一所述样本数据分组对应的特征向量，利用所述多头注意力机制算法，根据所述样本数据分组对应的特征向量，得到所述样本数据分组对应的第二权重系数；

将所述样本数据分组对应的第二权重系数与所述样本数据分组对应的特征向量进行相乘，并将相乘后的结果与所述样本数据分组对应的特征向量进行相加，得到所述样本数据分组对应的加权后的特征向量；

将各个所述样本数据分组对应的加权后的特征向量输入至所述门控循环神经网络中，得到各个所述样本数据分组对应的待预测能源的第三负荷量；

根据各个所述样本数据分组对应的待预测能源的第三负荷量，各个所述样本数据分组对应的待预测能源的第二负荷量，以及预设的评价指标，训练得到所述预测网络。

可选地，所述训练模块还用于：

针对任一所述样本数据分组对应的第一特征图，利用所述第二注意力模块中的任意一个所述第二注意力模块，对所述样本数据分组对应的第一特征图在通道维度上进行最大池化操作，得到所述样本数据分组对应的第二特征图；

利用所述第二注意力模块中除任意一个所述第二注意力模块之外的另一个所述第二注意力模块，对所述样本数据分组对应的第一特征图在通道维度上进行平均池化操作，得到所述样本数据分组对应的第三特征图；

将所述样本数据分组对应的第二特征图和所述样本数据分组对应的第三特征图进行拼接，得到所述样本数据分组对应的第四特征图；

利用所述压缩激励注意力机制算法中的全连接层对所述样本数据分组对应的第四特征图进行降维，得到所述样本数据分组对应的降维后的第四特征图；

根据各个所述样本数据分组对应的降维后的第四特征图，得到各个所述样本数据分组的第一权重系数。

可选地，所述训练模块还用于：

针对任一所述样本数据分组对应的特征向量，利用所述多头注意力机制算法的共享线性层，对所述样本数据分组对应的特征向量进行线性化，得到所述样本数据分组对应的初步权重向量；

利用所述多头注意力机制算法，对所述样本数据分组对应的初步权重向量进行至少一次线性变换，得到所述样本数据分组对应的初步均值权重向量；

对所述样本数据分组对应的初步均值权重向量进行归一化处理，得到所述样本数据分组对应的第二权重系数。

图5示例了一种电子设备的实体结构示意图，如图5所示，该电子设备可以包括：处理器(processor)510、通信接口(Communications Interface)520、存储器(memory)530和通信总线540，其中，处理器510，通信接口520，存储器530通过通信总线540完成相互间的通信。处理器510可以调用存储器530中的逻辑指令，以执行能源负荷的预测方法，该方法包括：

获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；所述目标参数包括以下至少一项：时间、湿度和温度；

利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量；所述预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个所述样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个所述样本数据分组对应的特征信息进行加权后得到的。

此外，上述的存储器530中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

另一方面，本发明还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，计算机程序可存储在非暂态计算机可读存储介质上，所述计算机程序被处理器执行时，计算机能够执行上述各方法所提供的能源负荷的预测方法，该方法包括：

获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；所述目标参数包括以下至少一项：时间、湿度和温度；

利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量；所述预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个所述样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个所述样本数据分组对应的特征信息进行加权后得到的。又一方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各方法提供的能源负荷的预测方法，该方法包括：

获取当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量；所述目标参数包括以下至少一项：时间、湿度和温度；

利用预测网络，根据当前时刻的目标参数的目标取值、前一时刻对应的目标参数的第一取值以及前一时刻对应的待预测能源的第一负荷量，得到所述待预测能源的目标负荷量；所述预测网络为根据至少一个样本数据分组对应的加权后的特征信息对门控循环神经网络进行训练得到的；各个所述样本数据分组对应的加权后的特征信息为利用第一注意力机制算法和第二注意力机制算法对各个所述样本数据分组对应的特征信息进行加权后得到的。

以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。