一种基于自我注意力机制与时序卷积网络的工业设备故障预测方法

技术领域

本发明涉及神经网络、工业大数据、工业设备故障诊断，具体涉及到一种基于自我注意力机制与时序卷积网络的工业设备故障预测方法。

背景技术

工业决定着国民经济现代化的速度、规模和水平，在当代世界各国国民经济中起着主导作用。随着国内工业智能化的快速发展，工业设备数量也在不断增加，内部结构也越来越复杂，因此对工业设备故障进行预测具有重要意义。近年来最接近本发明的技术有：

(1)、基于CNN网络的工业设备故障预测方法：CNN是卷积神经网络的简称，是深度学习的算法之一，目前在图像领域与数据挖掘领域有着广泛的应用，但是，使用CNN网络进行工业设备故障预测时无法考虑到数据的时序性。

(2)、基于LightGBM的工业设备故障预测方法：LightGBM使用的是histogram算法，占用的内存更低，数据分隔的复杂度更低，其思想是将连续的浮点特征离散成k个离散值，并构造宽度为k的Histogram，然后遍历训练数据，统计每个离散值在直方图中的累计统计量。在进行特征选择时，只需要根据直方图的离散值，遍历寻找最优的分割点，但使用LightGBM处理时也无法有效对工业设备故障数据的时序性进行处理。

为了弥补传统方法无法对数据的时序性的挖掘，该方法充分利用时序卷积网络与自我注意力机制的优势，实现了对工业设备故障预测的准确率的进一步提升。

发明内容

为解决现有技术中的缺点与不足，本发明提出了一种基于自我注意力机制与时序卷积网络的工业设备故障预测方法。通过运用时序卷积网络，从工业设备故障数据集中挖掘工业设备故障发生特征，利用因果卷积和扩张卷积，在保证卷积网络充足的感受野的条件下充分利用数据的时序性特征；运用多头自我注意力机制，分别从时间上和维度特征上找到与故障相关性最大的时间节点与特征信息，提高了故障预测的准确性。

本发明的技术方案为：

步骤(1)：将工业设备数据进行预处理，去除零值、异常值，使用拟合的方式填补缺失值，并时序化切割数据集形成工业设备时序数据集；

步骤(2)：根据预测需求与数据采集间隔，将工业设备时序数据集中的设备故障状态情况进行平移；

步骤(3)：搭建模型，并将工业设备时序数据集取前80％作为训练集，后20％作为测试集进行切割，将训练集输入多头自注意力多维时序卷积网络进行一定次数的训练，使用测试集对网络进行测试，完成模型训练，存储模型；

步骤(4)：在设备运行时，将工业设备运行数据进行积累形成工业设备运行数据矩阵，输入到模型中；

步骤(5)：根据模型给出设备故障预测情况向用户进行展示，完成当前时刻的设备故障预测，再反复进行步骤(4)继续下一时刻的工业设备故障预测；

本发明的有益效果：

(1)、通过运用时序卷积网络，从工业设备故障数据集中挖掘工业设备故障发生特征，利用因果卷积和扩张卷积，在保证卷积网络充足的感受野的条件下充分利用数据的时序性特征；

(2)、运用多头自我注意力机制，分别从时间上和维度特征上找到与故障相关性最大的时间节点与特征信息，提高了故障预测的准确性。

附图说明

为更清楚地说明本发明实施例或现有技术中的技术方案，以下部分将对实施例或现有技术描述中所需要使用的附图作简要介绍。描述中的附图仅代表本发明的部分实施例，对于本领域普通技术人员，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明利用基于自我注意力机制与时序卷积网络的工业设备故障预测方法的流程图；

图2为本发明所使用的基于自我注意力机制与时序卷积网络的结构图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

下面结合图1与图2，对基于自我注意力机制与时序卷积网络的工业设备故障预测方法的具体流程进行详细说明：

步骤(1)：将工业设备数据进行预处理，去除零值、异常值，使用拟合的方式填补缺失值，并时序化切割数据集形成工业设备时序数据集；

步骤(2)：根据预测需求与数据采集间隔，将工业设备时序数据集中的设备故障状态情况进行平移；

步骤(3)：搭建模型，并将工业设备时序数据集取前80％作为训练集，后20％作为测试集进行切割，将训练集输入多头自注意力多维时序卷积网络进行一定次数的训练，使用测试集对网络进行测试，完成模型训练，存储模型；

步骤(4)：在设备运行时，将工业设备运行数据进行积累形成工业设备运行数据矩阵，输入到模型中；

步骤(5)：根据模型给出设备故障预测情况向用户进行展示，完成当前时刻的设备故障预测，再反复进行步骤(4)继续下一时刻的工业设备故障预测；

本发明的一种基于自我注意力机制与时序卷积网络的工业设备故障预测方法，通过运用时序卷积网络，从工业设备故障数据集中挖掘工业设备故障发生特征，利用因果卷积和扩张卷积，在保证卷积网络充足的感受野的条件下充分利用数据的时序性特征，同时在每个卷积层之间共用同一个卷积核，降低了训练与模型运行时对计算资源的消耗；运用多头自我注意力机制，分别从时间上和维度特征上找到与故障相关性最大的时间节点与特征信息，提高了故障预测的准确性。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。