一种基于周期回馈LSTM的供热需求量预估方法、系统及设备

技术领域

本发明属于供热优化技术领域，特别涉及一种基于周期回馈LSTM的供热需求量预估方法、系统及设备。

背景技术

为了进行节能减排，同时能确保冬季有足够的供热量，需要提前对一些楼宇、园区的供热需求量先进行预估，再根据预估量进行供热。目前，供热需求量是根据建筑物面积来进行估算，或者参考过去几年供热的平均值来进行估算。这些方法虽然简单，但是随着全球气温不断变化和建筑结构变化，往往预测非常不准确，导致供热量与实际需求量不匹配，经常会供热不足或者供热过多造成能源损失。

利用LSTM递归神经网络算法来预测供热需求，则可以将大数据在传统供热行业里进行应用，实现智慧供热。递归神经网络是带有循环的网络，允许信息持续存在，它将每一个时间点发生的事件进行分类，对先前事件进行推理来得出后来的事件。相对于之前的粗略预估方法，利用递归神经网络算法预估非常准确，可以真正做到将能源最高效的利用，实现了节能减排。

在供热需求预估中，根据建筑物自身的特点以及室内外温度，我们可以获取到很多有用的信息：包括建筑物面积，建筑物通风量，建筑物内平均人流量，当前室外气温，当前室内气温，建筑物内电器耗能等。这些特征信息都是和所需供暖量强相关的特征，非常适合用来预测供暖量；另一方面，这些特征量获取相对容易，获取成本很低，并且可以实现实时采集和更新。获取这些特征信息后，再把它们作为递归神经网络里的输入序列，编码为特征向量，最后将其解码作为输出序列，即可获取供热需求的预测值。

递归神经网络算法中，传统的LSTM模型会先用一些LSTM单元来对输入序列进行学习，然后用固定长度的向量来表示，然后再用一些LSTM单元来读取这种向量，并将其解码作为输出序列。这种结构的模型在很多预测问题上都取得了很好的结果，也是目前的主流预测方法，在很多其他领域也取得了不错的预测效果。

然而，对于供热需求的预测来说，传统的LSTM模型存在一个问题：这些特征信息(建筑物面积，室内外温度，人流量等)作为输入序列，不论长短都将被编码成一个固定长度的向量表示，在解码时则会受限于该固定长度的向量表示。这限制了供热预估模型的性能，尤其是随着预测天数增加，输入序列比较长时，则会因为信息太多而无法保留全部的必要信息了，这种情况下，传统的LSTM模型性能会变得很差。可参考论文Sequence to SequenceLearning with Neural Networks和Long Short-Term Memory所记载内容。

发明内容

为了解决现有技术中存在的问题，本发明提供一种基于周期回馈LSTM的供热需求量预估方法、系统及设备，基于周期回馈LSTM的供热需求量预估方法，打破了传统编码解码结构都依赖于内部一个固定长度向量的限制，通过保留LSTM编码器对输入序列的中间输出结果。

为了达到上述目的，本发明的技术方案是：一种基于周期回馈LSTM的供热需求量预估方法，包括以下过程：

根据当前时刻的特征向量，并结合隐状态对cell状态进行遗忘，对历史误用信息进行滤除，筛选cell状态；

将隐状态和当前时刻的特征向量经过一层全连接层处理，并由tanh函数对其值域进行约束，然后对当前的新增状态进行门控约束，并与筛选后的cell状态进行融合，得到更新后的cell状态；

对所述更新的cell状态的值域利用tanh函数进行变换，再由输出门进行信息约束，得到当前隐状态，即系统当前所需要的供暖量预估值。

所述输入特征向量包括建筑物面积、建筑物通风量、建筑物内平均人流量、当前室外气温、当前室内气温以及建筑物内电器耗能，输入特征向量中建筑物面积固定不变，输入特征向量中其余参数每隔预设时间测量并更新一次。

根据当前时刻的输入，并结合隐状态对cell状态进行遗忘，通过遗忘门实现，具体如下：

f

其中，h

由隐状态和输入特征向量经过一层全连接层处理；并由tanh函数对值域进行约束，然后对当前的新增状态进行门控约束，并与所述筛选后的cell状态进行融合，得到更新后的cell状态C

i

其中，W

根据cell状态和回馈状态对隐状态O

O

h

W

采集过去的一设定时间的供热需求数据，以最小均方误差作为损失函数，对LSTM进行训练，损失函数具体为：

其中y

基于LSTM的供热需求量预估系统，包括遗忘模块、cell状态进行更新模块和隐状态更新模块；遗忘模块：根据当前时刻的特征向量，并结合隐状态对细胞状态进行遗忘，对历史误用信息进行滤除，筛选cell状态；

cell状态进行更新模块用于将隐状态和当前时刻的特征向量经过一层全连接层处理，并由tanh函数对其值域进行约束，然后对当前的新增状态进行门控约束，并与筛选后的cell状态进行融合，得到更新后的cell状态；

隐状态更新模块对所述更新的cell状态的值域利用tanh函数进行变换，再由输出门进行信息约束，得到当前隐状态，即系统当前所需要的供暖量预估值。

一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现本发明所述基于周期回馈LSTM的供热需求量预估方法的步骤。

一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现本发明所述基于周期回馈LSTM的供热需求量预估方法的步骤。

有本发明可以带来的有益效果包括：

LSTM通过门控状态来控制传输状态，能记住需要长时间记忆的，并且不断忘记不重要的信息，将其用在供热需求预测中，非常适合，预测效果好，在周期回馈LSTM中，将前一天同一时刻的热量需求作为一个很重要参数，大大提高了预测准确度，基于周期回馈LSTM的供热需求量预估方法的核心思想是打破了传统编码解码结构都依赖于内部一个固定长度向量的限制，通过保留LSTM编码器对输入序列的中间输出结果，然后训练一个模型来对这些输入进行选择性的学习并且在模型输出时将输出序列与之进行关联，就可以实现这一点，大大提升了LSTM模型的性能，将神经网络算法运用到热量预测中，真正实现了智慧供热，实现了大数据在传统行业的应用，相对于传统方法，预估非常准确，实现了节能减排，本发明只改变了系统的预测算法，不需要改变整个系统的物理构建，因此改动周期短，改动成本低，效果好。

附图说明

图1是智慧供热技术架构示意图。

图2是热量需求预测流程框架图。

图3是sigmoid函数示意图。

图4是tanh函数示意图。

图5是LSTM的重复模块框图。

图6是基于LSTM的供热预估的重复模块框图。

图7a是某基地1月前5天不同时段逐时热量需求示意图。

图7b是某基地2月前5天不同时段逐时热量需求示意图。

图7c是某基地3月前5天不同时段逐时热量需求示意图。

图7d是某基地11月15-11月25日不同时段逐时热量需求示意图。

图7e是某基地12月11-12月15日不同时段逐时热量需求示意图。

具体实施方式

下面结合附图对本发明做详细叙述。

本发明基于周期回馈LSTM的供热需求量预估方法，打破了传统编码解码结构都依赖于内部一个固定长度向量的限制。通过保留LSTM编码器对输入序列的中间输出结果，然后训练一个模型来对这些输入进行选择性的学习并且在模型输出时将输出序列与之进行关联，中间输出结果，就是前一天同一时刻的供热需求量，这个数据与此时刻的供热需求量是强相关的，大大提升了LSTM模型的性能。

一种智慧供热技术架构图如图1所示，一个完整的智慧供热系统包括控制方法，信息采集，信息传输和物理系统，物理系统又包括了热源、热网、热负荷和热储系统。本发明基于现有供热系统的信息采集、信息传输和物理系统，只需要将控制系统的方法加以改进，因此本发明不需要改变整个供热系统的结构。

热量需求预测过程可以简化的由图2流程图表示：将采集到的信息集合传输到计算机终端，即可通过计算机利用大数据使用预测算法来进行热量需求预测了。预测之后将预测信息使用在各热量需求端并重新采集需求端数据，再将采集到的需求端数据和采集到的其他数据结合起来形成新的信息集合，用于下一次的热量需求预测。

本发明改进点，是通过引入周期性回馈机制，考虑供热需求量预估场景的特有属性，对LSTM的记忆前馈机制进行改造，提高LSTM对时序预估的周期性的感知，提升预估精度。

传统的LSTM递归神经网络是由连续的重复模块组成的，每一个重复模块的结构框图都可以由图5表示，如图所示LSTM内部主要有三个核心步骤，并由四个单层全连接层构成，每个全连接网络跟随一组带有门控性质的非线性函数，对全连接层的输出逐元素地进行约束。下面对每个核心部分进行详细介绍：

第一步，遗忘cell状态。LSTM作为回馈神经网络的一种，核心在于通过cell状态(C

f

其中，h

z为sigmoid函数，表达式为

第二步，根据当前时刻的特征向量对cell状态进行更新。这一步分为两个环节，首先由上一步的隐状态和输入特征向量经过一层全连接层处理，并由tanh函数对值域进行约束：

其中W

tanh函数的表达式为

i

W

第三步，根据cell状态对隐状态进行更新。首先，对上一步更新的cell状态的值域利用tanh函数进行变换，再由输出门进行信息约束：

O

h

W

在供热系统中，将建筑某一时刻需要获取的热量用h

设定LSTM的预估步数为72，即对过去72小时的历史时序状态进行处理。然而，尽管LSTM具备一定对时序的长时历史信息进行保留的能力，但研究表明，受限于单层神经网络以及状态向量的的表达能力，LSTM依然无法捕获多步之前的状态。因此，引入“注意力机制”，尝试加强LSTM对长时记忆信息的捕获能力。在供热需求量预估场景中，由采集过去的供暖实际需求历史数据可以很容易看出前一天同一时刻的热量需求是一个很重要的参考值，因为连续两天之间各种变化相对较小，每天同一时刻的供暖需求也最接近。因此，在热量需求评估方法中引入了一个新的回馈状态：h

引入新参数后的LSTM的供热预估的重复模块由图6所示。

加入新参数后的周期回馈LSTM仍然由三个步骤组成：

第一步，遗忘cell状态：

f

其中，h

第二步，根据当前特征向量对cell状态进行更新：

i

其中，W

第三步，根据cell状态和回馈状态对隐状态进行更新：

O

h

W

通过计算得到的h

引入新参数h

周期回馈LSTM模型训练过程：

采集过去5年的供热需求数据，以最小均方误差作为损失函数，对LSTM进行训练：

其中y

其中，LSTM

数的求和，之后，损失函数对cell状态的导数如下：

由链式法则可知，LSTM权重的梯度可以由损失函数对隐状态和cell状态求得：

根据随机梯度下降法，基于损失函数对权重的梯度进行更新：

其中ɑ是学习率，本发明将其设置为0.01。

参考图7a，图7b，图7c，图7d和图7e，基于本发明所述方法得到某基地不同时间段内逐时热负荷需求量示意图。

本发明基于周期回馈LSTM的供热需求量预估方法可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。本发明基于周期回馈LSTM的供热需求量预估方法如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。

基于这样的理解，在示例性实施例中，还提供了一种计算机可读存储介质，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于该计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读存储介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。其中，所述计算机存储介质可以是计算机能够存取的任何可用介质或数据存储设备，包括但不限于磁性存储器(例如软盘、硬盘、磁带、磁光盘(MO)等)、光学存储器(例如CD、DVD、BD、HVD等)、以及半导体存储器(例如ROM、EPROM、EEPROM、非易失性存储器(NANDFLASH)、固态硬盘(SSD))等。

在示例性实施例中，还提供计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现所述基于周期回馈LSTM的供热需求量预估方法的步骤。处理器可能是中央处理单元(CentralProcessingUnit，CPU)，还可以是其他通用处理器、数字信号处理器(DigitalSignalProcessor、DSP)、专用集成电路(ApplicationSpecificIntegratedCircuit，ASIC)、现成可编程门阵列(Field-ProgrammableGateArray，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。

以上内容仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明权利要求书的保护范围之内。