基于多级注意力和特征融合的变压器故障诊断方法及系统

技术领域

本发明涉及一种基于多级注意力和特征融合的变压器故障诊断方法及系统，属于电力变压器声纹感知与故障诊断技术领域。

背景技术

本部分的陈述仅仅是提供了与本发明相关的背景技术，并不必然构成现有技术。

进入二十一世纪后，结合信号处理技术发展以及最新的研究成果，故障诊断技术已成为一门独立且完整的学科，并应用在如电网、高铁等多个行业领域。近年来，随着电网规模的不断增加，电网的拓扑结构的逐渐复杂，导致影响电网运行的不确定性因素增加，变压器故障诊断是电网诊断的核心一环，因此针对变压器的故障诊断技术成为电力系统研究的主攻方向，并取得了显著性成果。尤其是基于深度学习的电网故障诊断方法也得到了诸多学者的青睐。

电力变压器的振动噪声与其目前的工作状态紧密相关，当电力设备的零部件故障导致状态变化后，其声纹信号特征也会相应改变，因此通过监视声纹信号的特征便能判断设备的运行状态，并及时发现设备是否发生故障，以及故障类别。

依靠专家对设备进行观察和诊断是最早的电网诊断和维修方法，通过合理安装传感器并使用合适的方法来分析结果进而确定故障类型及故障位置，但这种方法不仅造成了劳动力的浪费，而且维护的效率和质量难以保证。

发明内容

为了解决上述问题，本发明提出了一种基于多级注意力和特征融合的变压器故障诊断方法及系统，能够确定故障类型及故障位置，提高故障诊断的准确率。

本发明解决其技术问题采取的技术方案是：

第一方面，本发明实施例提供的一种基于多级注意力和特征融合的变压器故障诊断方法，包括以下步骤：

实时采集待测电力变压器的声纹信号；

对采集的声纹信号数据进行预处理并划分训练集和测试集；

根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；

其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声纹数据中的位置信息嵌入到注意力机制中。

作为本实施例一种可能的实现方式，所述声纹信号为通过声阵列设备采集的待测电力变压器的声纹信号。

作为本实施例一种可能的实现方式，所述对采集的声纹信号数据进行预处理并划分训练集和测试集，包括：

对采集的声纹信号数据进行切片处理，获得数据集；

将变压器的声纹信号数据的赋予标签，并转换为独热编码；

利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。

作为本实施例一种可能的实现方式，所述训练集和测试集的样本数据比例为4:1。

作为本实施例一种可能的实现方式，所述故障诊断模型的建立过程为：

将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求和GRU（Gate Recurrent Unit，循环神经网络）和注意力机制（attention）封装为GAT模块，所述的CFE和GAT模块各有三个且一一相对应；

将每一个CFE模块的输出特征作为目标域(Target)，并作为相对应的GAT中注意力机制的查询向量

将最后一个CFE模块的输出连接到第一个GAT模块中的双向GRU，并计算双向GRU的向量和；

将双向求和GRU网络的输出作为源域(Source)，并作为相对应注意力机制中的键向量(

对建立的模型进行训练学习，得到最终的故障诊断模型。

作为本实施例一种可能的实现方式，所述CFE模块的建立过程为：构建一个轻量级的卷积网络，所述卷积网络由六个卷积层和三个池化层组成，由两个卷积层和一个池化层组成一个CFE模块；

所述卷积层的卷积运算表达式为：

(1)

其中，

每个卷积层都采用线性整流函数

ReLU

(2)

所述池化层的池化计算表达式为：

(3)

其中，

作为本实施例一种可能的实现方式，所述GAT模块的建立过程为：

定义GRU的网络的重置门和更新门：

(4)

(5)

(6)

(7)

其中，

在GRU的基础上设置双向求和GRU，双向GRU的输出为：

(8)

(9)

其中，

将两个双向GRU堆叠形成两层不同方向的GRU层，利用

(10)

其中，

作为本实施例一种可能的实现方式，所述注意力机制的计算公式为：

(11)

其中，

第二方面，本发明实施例提供的一种基于多级注意力和特征融合的变压器故障诊断系统，包括：

数据采集模块，用于实时采集待测电力变压器的声纹信号；

数据预处理模块，用于对采集的声纹信号数据进行预处理并划分训练集和测试集；

故障诊断模块，用于根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；

其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声纹数据中的位置信息嵌入到注意力机制中。

作为本实施例一种可能的实现方式，所述数据采集模块通过声阵列设备采集待测电力变压器的声纹信号。

作为本实施例一种可能的实现方式，所述数据预处理模块包括：

切片处理模块，用于对采集的声纹信号数据进行切片处理，获得数据集；

标签赋予模块，用于将变压器的声纹信号数据的赋予标签，并转换为独热编码；

样本划分模块，用于利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。

作为本实施例一种可能的实现方式，所述训练集和测试集的样本数据比例为4:1。

作为本实施例一种可能的实现方式，所述故障诊断模块建立故障诊断模型的过程为：

将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求和GRU和注意力机制封装为GAT模块，所述的CFE和GAT模块各有三个且一一相对应；

将每一个CFE模块的输出特征作为目标域(

将最后一个CFE模块的输出连接到第一个GAT模块中的双向GRU，并计算双向GRU的向量和；

将双向求和GRU网络的输出作为源域(

对建立的模型进行训练学习，得到最终的故障诊断模型。

作为本实施例一种可能的实现方式，所述故障诊断模块建立CFE模块的过程为：构建一个轻量级的卷积网络，所述卷积网络由六个卷积层和三个池化层组成，由两个卷积层和一个池化层组成一个CFE模块；

所述卷积层的卷积运算表达式为：

(1)

其中，

每个卷积层都采用线性整流函数

ReLU

(2)

所述池化层的池化计算表达式为：

(3)

其中，

作为本实施例一种可能的实现方式，所述故障诊断模块建立GAT模块的过程为：

定义GRU的网络的重置门和更新门：

(4)

(5)

(6)

(7)

其中，

在GRU的基础上设置双向求和GRU，双向GRU的输出为：

(8)

(9)

其中，

将两个双向GRU堆叠形成两层不同方向的GRU层，利用

(10)

其中，

作为本实施例一种可能的实现方式，所述注意力机制的计算公式为：

(11)

其中，

第三方面，本发明实施例提供的一种计算机设备，包括处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当所述计算机设备运行时，所述处理器与所述存储器之间通过总线通信，所述处理器执行所述机器可读指令，以执行如上述任意基于多级注意力和特征融合的变压器故障诊断方法的步骤。

第四方面，本发明实施例提供的一种存储介质，该存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如上述任意基于多级注意力和特征融合的变压器故障诊断方法的步骤。

本发明实施例的技术方案可以具有的有益效果如下：

本发明利用一种新网络处理融合多层卷积提取的高层特征和低层特征，并将时序数据的位置信息输入到注意力机制中，对双向GRU的输出特征求和进行相加融合，将不同部分封装为CFE模块和GAT模块，对CFE模块提取的不同层次特征，连接到对应的GAT模块，解决了对低层特征和高层特征的高效融合、注意力机制难以捕捉位置信息以及在噪声影响下变压器故障诊断准确率低的问题。本发明探讨了在一维卷积方向上的注意力机制的改进问题，提出了学习声纹信号特征的新方式，并进一步杜绝了梯度消失问题的发生；本发明提出了一种新的端到端诊断的新网络(CFE-GATs)，使用新的方法学习、处理和融合低层特征和高层特征；本发明将含有更多位置信息的低层特征连接到注意力机制，解决了注意力机制难以捕捉位置信息的问题。

附图说明

图1是根据一示例性实施例示出的一种基于多级注意力和特征融合的变压器故障诊断方法的流程图；

图2是根据一示例性实施例示出的一种基于多级注意力和特征融合的变压器故障诊断系统的示意图；

图3是根据一示例性实施例示出的一种利用所述系统进行变压器故障诊断的具体流程图；

图4是根据一示例性实施例示出的一种故障诊断模型的结构示意图；

图5是根据一示例性实施例示出的一种CFE模块的结构示意图；

图6是根据一示例性实施例示出的一种GAT模块的结构示意图；

图7是根据一示例性实施例示出的一种GRU的结构示意图；

图8是根据一示例性实施例示出的一种双向求和GRU的结构示意图；

图9是根据一示例性实施例示出的一种注意力机制的结构示意图。

具体实施方式

下面结合附图与实施例对本发明做进一步说明：

为能清楚说明本方案的技术特点，下面通过具体实施方式，并结合其附图，对本发明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现本发明的不同结构。为了简化本发明的公开，下文中对特定例子的部件和设置进行描述。此外，本发明可以在不同例子中重复参考数字和/或字母。这种重复是为了简化和清楚的目的，其本身不指示所讨论各种实施例和/或设置之间的关系。应当注意，在附图中所图示的部件不一定按比例绘制。本发明省略了对公知组件和处理技术及工艺的描述以避免不必要地限制本发明。

随着机器学习和深度学习的发展，极大的提高了通过声纹信号进行变压器故障诊断的效率和准确率。人工神经网络通过自动提取并学习数据的一些特征，自动调整网络参数自我学习，相比于专家系统具有更大的优势，但由于模型较浅，无法有效地提取出足够且明显的特征。而支持向量机虽然具有优秀的泛化能力，显著的提高了准确率，但是当样本数量较多时，将耗费计算机大量的内存，浪费运算时间，并且难以处理多分类问题。深度学习构建了多层结构，能够更深层次的挖掘数据中隐含的特征，大大加强了神经网络对数据的学习能力。

基于CNN的电网故障诊断模型具有较强的数据处理和隐藏特征提取的能力，但是对于声纹信号这种连续且具有明显序列特征的数据无能为力。RNN的长距离特征捕获能力使其在对序列数据的学习任务中大放异彩，而GRU则具有更少的参数以及避免了长期依赖问题使其得到广泛的应用。

但随着CNN模型层数的加深，池化层将会逐步丢失大量有价值的信息，忽略了局部与整体之间的相关性，并且黑盒效应严重影响了模型的可解释性，高层特征具有更高的语义信息，但分辨率低，对细节的感知力较差；而低层特征尽管由于经过较少的卷积层，语义性低且噪声多，但是其特征分辨率更高，包含更多的位置细节信息，而注意力机制无法捕捉位置信息，也就是难以学习时间序列中的顺序关系，因此需要找到合适的方法，将低层特征和高层特征融合，目前，大多数基于CNN和双向GRU以及注意力模块的故障诊断模型仅仅是将不同模块连接起来搭建顺序模型，却忽略了不同层次的特征尤其是低层特征在模型中发挥的作用。

为了克服以上缺点，本发明提出了一种新型的基于多级注意力引导全局特征融合神经网络(CFE-GATs)，可以为多个注意力模块提取到输入信息不同层次的特征，提高故障诊断的准确率。

如图1所示，本发明实施例提供的一种基于多级注意力和特征融合的变压器故障诊断方法，包括以下步骤：

实时采集待测电力变压器的声纹信号；

对采集的声纹信号数据进行预处理并划分训练集和测试集；

根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；

其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声纹数据中的位置信息嵌入到注意力机制中。

通过对卷积网络的研究得知，随着模型层数的加深，池化层会逐步丢失大量有价值的信息。越深层的特征包含的语义性更强、分辨能力也越强，即高层特征虽然具有更好的语义信息，但其分辨率低，对细节的感知力较差。而底层特征尽管经过较少的卷积层，语义性低且噪声多，但其特征分辨率更高，包含更多的细节信息，目标位置明确。使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量(query)和键向量(key)，进行特征融合，从而将电力变压器声纹数据中的位置信息通过特征融合的方法嵌入到注意力机制中。该故障诊断模型通过对低层特征和高层特征的高效融合和注意力机制位置信息的融合，提高了在噪声影响下变压器故障诊断的准确率。

作为本实施例一种可能的实现方式，所述声纹信号为通过声阵列设备采集的待测电力变压器的声纹信号。

作为本实施例一种可能的实现方式，所述对采集的声纹信号数据进行预处理并划分训练集和测试集，包括：

对采集的声纹信号数据进行切片处理，获得数据集；

将变压器的声纹信号数据的赋予标签，并转换为独热编码；

利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。

作为本实施例一种可能的实现方式，所述训练集和测试集的样本数据比例为4:1。

作为本实施例一种可能的实现方式，所述故障诊断模型的建立过程为：

将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求和GRU和注意力机制封装为GAT模块，所述的CFE和GAT模块各有三个且一一相对应；

将每一个CFE模块的输出特征作为目标域，并作为相对应的GAT中注意力机制的

将最后一个CFE模块的输出连接到第一个GAT模块中的双向GRU，并计算双向GRU的向量和；

将双向求和GRU网络的输出作为源域，并作为相对应注意力机制中的

对建立的模型进行训练学习，得到最终的故障诊断模型。

将数据经过三个CFE模块提取到的高层特征连接到首个GAT模块，首先经过双向求和GRU网络，其输出通过add将特征叠加，使数据的维度本身不变的情况下，增强每一个维度的特征强度，更有利于故障诊断。

作为本实施例一种可能的实现方式，所述CFE模块的建立过程为：构建一个轻量级的卷积网络，所述卷积网络由六个卷积层和三个池化层组成，由两个卷积层和一个池化层组成一个CFE模块；

所述卷积层的卷积运算表达式为：

(1)

其中，

每个卷积层都采用线性整流函数

ReLU

(2)

所述池化层的池化计算表达式为：

(3)

其中，

作为本实施例一种可能的实现方式，所述GAT模块的建立过程为：

定义GRU的网络的重置门和更新门：

(4)

(5)

(6)

(7)

其中，

在GRU的基础上设置双向求和GRU，双向GRU的输出为：

(8)

(9)

其中，

将两个双向GRU堆叠形成两层不同方向的GRU层，利用

(10)

其中，

作为本实施例一种可能的实现方式，所述注意力机制的计算公式为：

(11)

其中，

如图2所示，本发明实施例提供的一种基于多级注意力和特征融合的变压器故障诊断系统，包括：

数据采集模块，用于实时采集待测电力变压器的声纹信号；

数据预处理模块，用于对采集的声纹信号数据进行预处理并划分训练集和测试集；

故障诊断模块，用于根据采集的待测电力变压器的声纹信号和故障诊断模型，进行变压器故障诊断；

其中，所述故障诊断模型是通过建立卷积神经网络提取数据底层特征，使用底层的卷积网络提取底层特征，并连续使用卷积层和双向GRU层提取高层特征，之后将底层特征和高层特征分别作为注意力机制的查询向量和键向量进行特征融合，从而将电力变压器声纹数据中的位置信息嵌入到注意力机制中。

作为本实施例一种可能的实现方式，所述数据采集模块通过声阵列设备采集待测电力变压器的声纹信号。

作为本实施例一种可能的实现方式，所述数据预处理模块包括：

切片处理模块，用于对采集的声纹信号数据进行切片处理，获得数据集；

标签赋予模块，用于将变压器的声纹信号数据的赋予标签，并转换为独热编码；

样本划分模块，用于利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，并划分训练集和测试集。

作为本实施例一种可能的实现方式，所述训练集和测试集的样本数据比例为4:1。

作为本实施例一种可能的实现方式，所述故障诊断模块建立故障诊断模型的过程为：

将卷积神经网络的两个卷积层和一个池化层封装为CFE模块，将双向求和GRU和注意力机制封装为GAT模块，所述的CFE和GAT模块各有三个且一一相对应；

将每一个CFE模块的输出特征作为目标域，并作为相对应的GAT中注意力机制的

将最后一个CFE模块的输出连接到第一个GAT模块中的双向GRU，并计算双向GRU的向量和；

将双向求和GRU网络的输出作为源域，并作为相对应注意力机制中的

对建立的模型进行训练学习，得到最终的故障诊断模型。

作为本实施例一种可能的实现方式，所述故障诊断模块建立CFE模块的过程为：构建一个轻量级的卷积网络，所述卷积网络由六个卷积层和三个池化层组成，由两个卷积层和一个池化层组成一个CFE模块；

所述卷积层的卷积运算表达式为：

(1)

其中，

每个卷积层都采用线性整流函数

ReLU

(2)

所述池化层的池化计算表达式为：

(3)

其中，

作为本实施例一种可能的实现方式，所述故障诊断模块建立GAT模块的过程为：

定义GRU的网络的重置门和更新门：

(4)

(5)

(6)

(7)

其中，

在GRU的基础上设置双向求和GRU，双向GRU的输出为：

(8)

(9)

其中，

将两个双向GRU堆叠形成两层不同方向的GRU层，利用

(10)

其中，

作为本实施例一种可能的实现方式，所述注意力机制的计算公式为：

(11)

其中

如图3所示，利用所述系统进行变压器故障诊断的具体过程如下。

步骤1，采集待测变压器的声纹信号。

利用声纹信号完成故障诊断，利用声纹信号采集设备采集变压器的信号，电力变压器内部故障时，空气震动产生得声纹信号特征会相应改变。相比于单麦克风噪声采集系统，声阵列设备可有效避免背景噪声和外界干扰, 通过声阵列设备对故障声纹信号进行采集。

步骤2，对采集的声纹数据进行预处理。

对采集的声纹数据进行切片预处理，选取合适的训练样本

将变压器的声纹信号的赋予标签，并将其转换为独热编码；

划分训练集测试集，利用NumPy产生一个随机数列，利用该随机数列将切片后的数据以及标签打乱，消除数据间的相关性。并将数据集的80%划分为训练集，20%划分为测试集。NumPy是Python语言的一个矩阵及多维数组计算库。

步骤3，训练故障诊断模型。

其中，故障诊断模型是在卷积和注意力机制的基础上，将两个卷积层和一个池化层封装为CFE模块，将双向求和GRU和注意力机制封装为GAT模块，各有三个相对应的CFE和GAT模块。选择不同CFE模块的输出作为相对应的GAT中注意力机制的

具体的，包括以下内容：

建立CFE模块：构建一个轻量级的卷积网络，该网络由六个卷积层和三个池化层组成，其中每两个卷积层和一个池化层组成一个卷积特征提取(Convolution featureextraction, CFE)模块，网络共有三个CFE模块，如图5所示。通过叠加多层卷积运算，使得网络可以从低层特征提取出更全局的特征表示。为了使低层的网络获得足够的长距离相关的特征，采用变化的卷积核和池大小，卷积模块的卷积核大小分别设为1x9，1x6，1x3，同时为了减少多通道带来的多参数问题，设置通道数从32逐步增加到128。逐步提取更高层次的特征，并将不同层次的特征连接到不同的GAT模块，如图6所示。

卷积运算表达式：

(1)

其中，

每个卷积层都采用线性整流函数

(2)

池化层在卷积层后进行特征选择，降低特征数量，减少训练参数，缓解过拟合现象。采用最大池化，计算表达式为公式(3)：

(3)

其中，

前一个卷积模块的输出作为下一个卷积模块的输入，同时每个卷积模块第二个卷积层输出作为注意力层的

建立GAT模块：GRU的网络结构如图7所示，定义了两个门控：重置门（Reset gate）和更新门（upset gate），两者联动互补，用来忘记过去的信息，保证信息的平衡。其计算和更新过程如公式(4)-(7)所示：

(4)

(5)

(6)

(7)

其中，

为了更好的处理时序信息，在GRU的基础上，提出了双向求和GRU，双向GRU的输出可以表示为公式(8)，(9)：

(8)

(9)

其中，

(10)

如图8所示，将

选择不同CFE模块的输出作为相对应的GAT中注意力机制的目标域，目标域中的每个元素作为

(11)

score()

(12)

本发明满足

(13)

其中

模型编译时，优化器采用Adam优化器进行模型参数的学习，公式为(16)-(18)：

(16)

(17)

(18)

其中，

使用交叉熵函数作为损失函数，来说明模型的预测值和真实值的差异程度。有公式(19)：

(19)

其中，

步骤4，利用故障诊断模型进行故障测试，输出故障诊断结果。

模型训练好后，将声纹数据输入模型中，即可得到最终的诊断结果。

本发明提供了一种基于多级注意力引导全局特征融合的变压器故障诊断方法，获取待测变压器的声纹信号，根据获取的变压器声纹信号和故障诊断模型，得到故障诊断结果。其中，故障诊断模型是基于变压器不同故障类型的声纹信号构成训练集和测试集进行训练、测试得到的，故障诊断模型首先建立卷积神经网络提取数据特征，利用低层特征分辨率高包含更多的位置细节信息而噪声多，高层特征具有更高的语义信息而分辨率低对细节的感知力差的特点，对低层和高层特征处理融合，从而提高了模型训练效果。封装基于卷积池化层的CFE模块和基于双向求和GRU及注意力层的GAT模块，并基于两种模块提出了一种新型的基于多级注意力引导全局特征融合神经网络(CFE-GATs)的优化模型。

本发明实施例提供的一种计算机设备，包括处理器、存储器和总线，所述存储器存储有所述处理器可执行的机器可读指令，当所述装置运行时，所述处理器与所述存储器之间通过总线通信，所述处理器执行所述机器可读指令，以执行如上述任意基于多级注意力和特征融合的变压器故障诊断方法的步骤。

具体地，上述存储器和处理器能够为通用的存储器和处理器，这里不做具体限定，当处理器运行存储器存储的计算机程序时，能够执行上述基于多级注意力和特征融合的变压器故障诊断方法。

本领域技术人员可以理解，所述计算机设备的结构并不构成对计算机设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。

在一些实施例中，该计算机设备还可以包括触摸屏可用于显示图形用户界面（例如，应用程序的启动界面）和接收用户针对图形用户界面的操作（例如，针对应用程序的启动操作）。具体的触摸屏可包括显示面板和触控面板。其中显示面板可以采用LCD(LiquidCrystal Display，液晶显示器)、OLED(Organic Light-Emitting Diode,有机发光二极管)等形式来配置。触控面板可收集用户在其上或附近的接触或者非接触操作，并生成预先设定的操作指令，例如，用户使用手指、触笔等任何适合的物体或附件在触控面板上或在触控面板附近的操作。另外，触控面板可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位、姿势，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成处理器能够处理的信息，再送给处理器，并能接收处理器发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板，也可以采用未来发展的任何技术实现触控面板。进一步的，触控面板可覆盖显示面板，用户可以根据显示面板显示的图形用户界面，在显示面板上覆盖的触控面板上或者附近进行操作，触控面板检测到在其上或附近的操作后，传送给处理器以确定用户输入，随后处理器响应于用户输入在显示面板上提供相应的视觉输出。另外，触控面板与显示面板可以作为两个独立的部件来实现也可以集成而来实现。

对应于上述应用程序的启动方法，本发明实施例还提供了一种存储介质，该存储介质上存储有计算机程序，该计算机程序被处理器运行时执行如上述任意基于多级注意力和特征融合的变压器故障诊断方法的步骤。

本申请实施例所提供的应用程序的启动装置可以为设备上的特定硬件或者安装于设备上的软件或固件等。本申请实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，前述描述的系统、装置和单元的具体工作过程，均可以参考上述方法实施例中的对应过程，在此不再赘述。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

在本申请所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。

作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本申请提供的实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。

本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。

最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员应当理解：依然可以对本发明的具体实施方式进行修改或者等同替换，而未脱离本发明精神和范围的任何修改或者等同替换，其均应涵盖在本发明的权利要求保护范围之内。