一种用于电能时序分析的自编码深度神经网络模型

技术领域

本发明属于智慧电网技术领域，尤其涉及一种用于电能时序分析的自编码深度神经网络模型。

背景技术

电能时序数据的数据挖掘和分析领域的现有方案大致分为基于先验知识(预设规则)的算法和基于机器学习的算法，基于先验知识的算法依赖对边界条件、判断规则的设定，对于临界条件和例外样本处理能力不佳，而基于机器学习的算法皆是对电能数据样本进行监督学习，除去需大量进行数据标注以外，模型只针对单一任务，对不同任务的泛用性不强。

公开号为CN108090288B的专利申请提供了一种通过机器学习获取时序参数的方法，包括以下步骤：以单元电路的参数作为属性，建立机器学习模型；将已有时序库中的时序参数表格作为训练样本，导入机器学习模型的样本空间；提取SPICE仿真结果作为训练样本，导入机器学习模型的样本空间；以单元电路的属性作为输入，从机器学习模型中得到所需参数，即时反标到电路作STA分析。此专利就是基于机器学习对时序参数进行分析，在此过程中大量数据作为训练样本被标注，而机器学习模型也只能针对性的获得所需要的参数，功能单一，效率不高。

因此，如何提供一种功能多样、泛用性强，可对电能时序多方面进行分析的方法，是本技术领域人员亟待解决的问题。

发明内容

针对现有技术的不足，本发明的目的是提供一种用于电能时序分析的自编码深度神经网络模型，以解决现有技术中的电能时序分析模型功能单一、泛用性不强的问题；另外本发明还提供了一种计算机可读存储介质及电子终端。

为了解决上述技术问题，本发明采用了如下的技术方案：

第一方面，本发明提供了一种用于电能时序分析的自编码深度神经网络模型，包括：

用于电能时序特征提取的编码器和用于电能时序特征还原的解码器；

所述编码器包括一个卷积层和若干个自注意力层，所述编码器运算步骤如下：

S10、将电能时序

S20、取卷积层输出结果

S30、将特征序列

所述解码器包括若干个自注意力层，所述解码器运算步骤如下：

S40、将编码信息

S50、取特征序列

S60、最后经过全局平均池化得到电能时序

进一步的，所述编码器的卷积层包含1个输入通道和16个输出通道，卷积核大小为5，步长为2，激励函数为修正线性单元。

进一步的，所述编码器的自注意力层深度为4层，激励函数为高斯误差线性单元。

进一步的，所述解码器的自注意力层的激励函数为高斯误差线性单元。

进一步的，所述解码器还包括一层一维反卷积，所述一维反卷积的激励函数为修正线性单元、卷积核大小为5、步长为2。

进一步的，所述解码器还包括一层全局平均池化。

进一步的，所述解码器为多层感知机、长短期记忆模型、自注意力模型中的一种或多种。

进一步的，所述电能时序

第二方面，本发明还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上所述方法。

第三方面，本发明还提供了一种电子终端，包括：处理器及存储器；所述存储器用于存储计算机程序，所述处理器用于执行所述存储器存储的计算机程序，以使所述终端执行如上所述方法。

本发明提供的用于电能时序分析的自编码深度神经网络模型与现有技术相比，至少具有如下有益效果：

现有技术当中的电能时序分析除去需大量进行数据标注以外，模型只针对单一任务，对不同任务的泛用性不强。本发明结构简单、过程便捷，在处理电能时序时，，输入经由一个编码器得到编码信息，再由一个解码器还原为原始输入，故而无需对样本进行人工标注；在经过梯度下降法训练后的编码器模型具有了良好的信息概括能力，可作为特征提取部分为后续多种不同用途所使用。编码器作为电能时序的特征提取器，从不同维度提取输入中的细节特征，输出电能时序的编码信息，编码信息相对原输入更为稀疏，可作为不同解码器的输入以实现分类、回归等任务，整个模型功能多样，泛用性强。

附图说明

为了更清楚地说明本发明的方案，下面将对实施例描述中所需要使用的图作一个简单的介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种用于电能时序分析的自编码深度神经网络模型示意图；；

图2为本发明实施例提供的一种用于电能时序分析的自编码深度神经网络模型的编码器结构图；

图3为本发明实施例提供的一种用于电能时序分析的自编码深度神经网络模型的解码器结构图。

具体实施方式

为了便于理解本发明，下面将参照相关附图对本发明进行更全面的描述。附图中给出了本发明的较佳实施例。但是，本发明可以以许多不同的形式来实现，并不限于本文所描述的实施例。相反地，提供这些实施例的目的是使对本发明的公开内容的理解更加透彻全面。

除非另有定义，本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本发明。

本发明提供了一种用于电能时序分析的自编码深度神经网络模型，应用于非介入式负荷辨识、监测等场景中，用于电能时序分析的自编码深度神经网络模型包括：

用于电能时序特征提取的编码器和用于电能时序特征还原的解码器；

编码器包括一个卷积层和若干个自注意力层，编码器运算步骤如下：

S10、将电能时序

S20、取卷积层输出结果

S30、将特征序列

解码器包括若干个自注意力层，解码器运算步骤如下：

S40、将编码信息

S50、取特征序列

S60、最后经过全局平均池化得到电能时序

本发明结构简单、过程便捷，通过编码器和解码器可处理电能时序分类、回归和预测任务，功能较现有技术更多样。

为了使本技术领域的人员更好地理解本发明方案，下面将结合附图，对本发明实施例中的技术方案进行清楚、完整地描述。

本发明提供了一种用于电能时序分析的自编码深度神经网络模型，结合图1至图3，输入经由一个编码器得到编码信息，再由一个解码器还原为原始输入，故而在此阶段无需人工标注的数据，在经过梯度下降法训练后的编码器模型具有了良好的信息概括能力，可作为特征提取部分为后续多种不同用途所使用，具体地，所述用于电能时序分析的自编码深度神经网路模型包括：

用于电能时序特征提取的编码器和用于电能时序特征还原的解码器，编码器包含一个卷积层和若干个自注意力层，其中卷积层包含一个输入通道，16个输出通道，卷积核大小为5，步长为2，激励函数为修正线性单元，自注意力层的深度不固定，随着预训练的样本分布广度而增加，通常设为4层，激励函数为高斯误差线性单元，编码器运算步骤如下：

S10、将电能时序

S20、取卷积层输出结果

S30、将特征序列

解码器用来进行预训练，包括若干层自注意力(激励函数为高斯误差线性单元)、一层激励函数为修正线性单元，卷积核大小为5，步长为2的一维反卷积(ConvolutionTranspose)、一层全局平均池化(Average Pooling)，解码器运算步骤如下：

S40、将编码信息

S50、取特征序列

S60、最后经过全局平均池化得到电能时序

编码器能从不同维度提取输入中的细节特征，输出电能时序的编码信息，编码信息相对原输入更为稀疏，可作为不同解码器的输入以实现分类、回归等任务；解码器除预训练使用外，可作为生成模型，使用随机输入生成样本数据。

在其他一些实施例中，编码器卷积层的输出通道可以是任意个数，取决于一个时间点的编码长度。

在其他一些实施例中，针对不同任务可设计不同的解码器，例如多层感知机、长短期记忆(LSTM)模型、自注意力模型以完成对应的任务。

本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现本实施例中的任一项模型。

本发明实施例还提供了一种电子终端，包括：处理器及存储器；存储器用于存储计算机程序，处理器用于执行存储器存储的计算机程序，以使终端执行本实施例中任一项模型。

本实施例中的计算机可读存储介质，本领域普通技术人员可以理解：实现上述各模型实施例的全部或部分步骤可以通过计算机程序相关的硬件来完成。前述的计算机程序可以存储于一计算机可读存储介质中。该程序在执行时，执行包括上述各模型实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

本实施例提供的电子终端，包括处理器、存储器、收发器和通信接口，存储器和通信接口与处理器和收发器连接并完成相互间的通信，存储器用于存储计算机程序，通信接口用于进行通信，处理器和收发器用于运行计算机程序，使电子终端执行如上模型的各个步骤。

上述实施例所述的用于电能时序分析的自编码深度神经网络模型，与现有技术相比，现有技术当中的电能时序分析除去需大量进行数据标注以外，模型只针对单一任务，对不同任务的泛用性不强。本发明结构简单、过程便捷，在处理电能时序时，输入经由一个编码器得到编码信息，再由一个解码器还原为原始输入，故而无需对样本进行人工标注；在经过梯度下降法训练后的编码器模型具有了良好的信息概括能力，可作为特征提取部分为后续多种不同用途所使用。编码器作为电能时序的特征提取器，从不同维度提取输入中的细节特征，输出电能时序的编码信息，编码信息相对原输入更为稀疏，可作为不同解码器的输入以实现分类、回归等任务，整个模型功能多样，泛用性强。

显然，以上所描述的实施例仅仅是本发明较佳实施例，而不是全部的实施例，附图中给出了本发明的较佳实施例，但并不限制本发明的专利范围。本发明可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本发明的公开内容的理解更加透彻全面。尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本发明说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本发明专利保护范围之内。