结合循环神经网络与滤波算法的剩余寿命预测方法及系统
文献发布时间:2023-06-19 19:30:30
技术领域
本发明涉及服役设备剩余寿命预测领域,具体地,涉及一种结合循环神经网络与滤波算法的剩余寿命预测方法及系统,更为具体地,涉及一种结合LSTM循环神经网络与滤波算法的产品设备剩余寿命预测方法及系统。
背景技术
传统的产品寿命预测方法大多基于产品的可靠性试验数据计算产品关键组件的MTBF或对产品的某一特征参数建模来考核产品的相关可靠性指标,对于复杂系统例如大规模控制系统,传统的评估方法通常在对组件进行相关分析的基础上,选取建立系统可靠性框图、故障树和系统状态转移模型等方法,利用系统内各组件、子系统可靠性数据外推出系统相关可靠性指标。但是由于各类产品设备功能越来丰富,相应的系统组成也越来越复杂,再加上传统试验方法获取数据过程中在应用上存在局限性(系统故障机理复杂试验模拟困难、无法满足试验需要较多测试样本的条件、试验需要较长周期等),以往经验模型由于材料和技术的更新换代以及复杂系统中各组件、子系统间的耦合关系具有一定的不确定性,导致对于系统的可靠性评估与寿命预测存在结论片面、缺少较为准确的系统寿命预测等问题。
在复杂机电产品中通常具备存在大量运行观测数据的关键系统部件,对于此类产品有效利用系统自身大量的观测数据进行退化分析能够提升产品剩余寿命预测的准确性。依据目前对产品设备剩余寿命预测的主流技术理论研究与工程实际应用的综合分析,剩余寿命预测技术主要有(1)基于失效物理模型的剩余寿命预测方法、(2)基于统计模型的剩余寿命预测方法、(3)基于机器学习模型的剩余寿命预测方法、(4)基于混合模型的剩余寿命预测方法。前三类预测方法在产品剩余寿命预测领域中都有各类方法对于不同应用场景的优劣势,目前很多研究提出的融合预测模型希望结合各类模型的优势,提升预测模型的适用性以及准确性。在融合模型中机器学习模型常与随机系数模型相结合,由于融合模型能够发挥各类预测模型在不同应用场景下的优势提升模型的适用性并提高预测结果的准确性,因此融合模型也是目前剩余寿命预测模型的重点研究方向之一。
专利文献CN113536671A公开了一种基于LSTM的锂电池寿命预测方法包括:获取锂电池的容量退化数据集;将所述容量退化数据集进行预处理;构建基于LSTM的剩余寿命预测模型;在构建基于LSTM的剩余寿命预测模型后,进一步构建三个锂电池本地寿命预测模型和一个中央服务器端全局寿命预测模型,所述LSTM为网络结构,其中的任一个LSTM单元里面包括遗忘门、输入门和输出门;所述三个锂电池本地寿命预测模型结构相同,其模型结构包括两个LSTM层,两个Dropout层防止过拟合和一个顶层的预测输出层。该专利仅涉及LSTM模型,采集数据需全寿命周期数据,方法输出结果为点估计不具备不确定表达能力,在上述方面依然有提升空间。
专利文献CNIO395575OA公开了基于特征融合和粒子滤波的滚动轴承剩余寿命预测方法包括:从轴承振动信号中提取原始特征,采用相关性聚类方法对提取的原始特征进行聚类;从各类中选取一个典型特征构成最优特征集;采用加权融合方法将特征集融合为最终的衰退指标;对衰退指标进行平滑处理和重采样,将时间间隔调整为期望值,采用最小二乘拟合计算状态空间模型初始参数;根据新的观测数据对模型参数进行实时更新;预测轴承剩余寿命。该专利仅涉及滤波寿命预测方法,滤波算法能够进行实时更新,具有不确定表达能力,但是其预测与更新较为依赖于状态空间模型的建立,在处理非线性问题时对系统退化状态的跟踪预测能力弱于LSTM模型,在上述方面依然有提升空间。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种结合循环神经网络与滤波算法的剩余寿命预测方法及系统。
根据本发明提供的一种结合循环神经网络与滤波算法的剩余寿命预测方法,包括:
步骤S1:采集测量的运行观测数据,选取特征数据;
步骤S2:对选取的特征数据进行产品性能退化状态挖掘与低维融合特征提取;
步骤S3:基于低维融合特征构建状态空间模型,对模型参数进行估计,建立滤波剩余寿命预测模型;
步骤S4:以低维融合特征为训练集,训练循环神经网络,建立基于LSTM算法的产品退化状态预测模型;
步骤S5:构建结合LSTM循环神经网络与滤波算法的剩余寿命预测融合算法;
步骤S6:运用构建的融合算法实现产品设备系统的剩余寿命在线预测。
优选地,在所述步骤S1中:
采集产品设备部件传感器测量的运行观测数据,选取出能反映产品性能退化趋势的预设特征数据:
依据观测数据与产品退化趋势间的相关性,选取出趋势特征最显著的数据来表征系统退化状态;
从数据中确定候选子集ω
采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
选取出的特征数据包括同源数据以及异源数据。
优选地,在所述步骤S2中:
步骤S2.1:产品性能退化状态挖掘;
采用正则化粒子滤波算法实现性能退化状态挖掘,所用正则化粒子滤波算法具体歩骤包括:
步骤S2.1.1:退化状态为可分过程,对于部件传感器建立的状态空间模型表示为:
式中,z
步骤S2.1.2:从初始分布中采样N个粒子
步骤S2.1.3:给定
步骤S2.1.4:获得观测值x
步骤S2.1.5:当有效粒子数
从粒子集
步骤S2.1.6:更新对z
采用蒙特卡洛法通过采样粒子与其相应权重构建后验概率密度:
从概率密度p(z
其中δ(·)为狄拉克函数,z
采用序贯重要性采样实现对后验概率密度函数分布进行采样:
其中q(z)称为提议分布,/>
采用重采样方法解决粒子退化问题:
在粒子滤波中采用有效粒子数指标定量评定粒子权重退化的程度:
式中,N
当N
其中,j为部件传感器的对应编号,n
采用标准高斯核函数进行估计:
式中,KDE为非线性动态系统t时刻状态变量的连续近似概率密度,Kh(·)为核密度函数,n
步骤S2.2:低维融合特征提取具体包括对同源数据采用分布式滤波算法融合,对异源数据采用核主成分分析实现低维融合特征提取;
步骤S2.2.1:各滤波器的权重分配方式不以各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准,采用各滤波器中粒子滤波过程中的有效粒子数作为权重分配的依据:
其中,k为各分滤波器编号;
步骤S2.2.2:采用子空间学习中的核主成分分析实现异源数据融合,将非线性数据通过核函数映射到高维特征空间中,再在该高维空间上进行主成分分析,进而提取原始特征空间数据之间的非线性主成分,采用高斯核进行映射则数据的第k个主成分t
其中,V
优选地,在所述步骤S3中:
将系统在t
/>
式中,
在t
其中,D为失效阈值;
则系统剩余寿命的概率密度函数表示为:
其中,P
在所述步骤S4中:
步骤S4.1:计算模型遗忘门输入:
f
其中,W
步骤S4.2:计算输入门输入:
i
其中,i
步骤S4.3:计算输出门输出确定节点输出值:
o
h
其中,o
优选地,在所述步骤S5中:
步骤S5.1:选取观测特征数据;
步骤S5.2:实现系统退化信息挖掘,低维融合特征提取;
步骤S5.3:通过提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
步骤S5.4:建立针对系统退化特征的动态系统状态空间模型,确定模型参数;
步骤S5.5:利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
步骤S5.6:基于系统状态空间模型利用算法实现系统观测值x
步骤S5.7:实现系统剩余寿命预测,返回步骤S5.5,实现在线动态预测;
在所述步骤S6中:
步骤S6.1:构建的融合模型能够实现对系统退化状态的短期预测;
步骤S6.2:融合模型方法输出的剩余寿命预测结果包括点估计与区间估计;
步骤S6.3:构建的融合模型结合滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性。
根据本发明提供的一种结合循环神经网络与滤波算法的剩余寿命预测系统,包括:
模块M1:采集测量的运行观测数据,选取特征数据;
模块M2:对选取的特征数据进行产品性能退化状态挖掘与低维融合特征提取;
模块M3:基于低维融合特征构建状态空间模型,对模型参数进行估计,建立滤波剩余寿命预测模型;
模块M4:以低维融合特征为训练集,训练循环神经网络,建立基于LSTM算法的产品退化状态预测模型;
模块M5:构建结合LSTM循环神经网络与滤波算法的剩余寿命预测融合算法;
模块M6:运用构建的融合算法实现产品设备系统的剩余寿命在线预测。
优选地,在所述模块M1中:
采集产品设备部件传感器测量的运行观测数据,选取出能反映产品性能退化趋势的预设特征数据:
依据观测数据与产品退化趋势间的相关性,选取出趋势特征最显著的数据来表征系统退化状态;
从数据中确定候选子集ω
采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
选取出的特征数据包括同源数据以及异源数据。
优选地,在所述模块M2中:
模块M2.1:产品性能退化状态挖掘;
采用正则化粒子滤波算法实现性能退化状态挖掘,所用正则化粒子滤波算法具体歩骤包括:
模块M2.1.1:退化状态为可分过程,对于部件传感器建立的状态空间模型表示为:
式中,z
模块M2.1.2:从初始分布中采样N个粒子
模块M2.1.3:给定
模块M2.1.4:获得观测值x
模块M2.1.5:当有效粒子数
从粒子集
模块M2.1.6:更新对z
采用蒙特卡洛法通过采样粒子与其相应权重构建后验概率密度:
从概率密度p(z
其中δ(·)为狄拉克函数,z
采用序贯重要性采样实现对后验概率密度函数分布进行采样:
其中q(z)称为提议分布,/>
采用重采样方法解决粒子退化问题:
在粒子滤波中采用有效粒子数指标定量评定粒子权重退化的程度:
式中,N
当N
其中,j为部件传感器的对应编号,n
采用标准高斯核函数进行估计:
式中,KDE为非线性动态系统t时刻状态变量的连续近似概率密度,Kh(·)为核密度函数,n
模块M2.2:低维融合特征提取具体包括对同源数据采用分布式滤波算法融合,对异源数据采用核主成分分析实现低维融合特征提取;
模块M2.2.1:各滤波器的权重分配方式不以各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准,采用各滤波器中粒子滤波过程中的有效粒子数作为权重分配的依据:
其中,k为各分滤波器编号;
模块M2.2.2:采用子空间学习中的核主成分分析实现异源数据融合,将非线性数据通过核函数映射到高维特征空间中,再在该高维空间上进行主成分分析,进而提取原始特征空间数据之间的非线性主成分,采用高斯核进行映射则数据的第k个主成分t
其中,V
优选地,在所述模块M3中:
将系统在t
式中,
在t
其中,D为失效阈值;
则系统剩余寿命的概率密度函数表示为:
/>
其中,P
在所述模块M4中:
模块M4.1:计算模型遗忘门输入:
f
其中,W
模块M4.2:计算输入门输入:
i
其中,i
模块M4.3:计算输出门输出确定节点输出值:
o
h
其中,o
优选地,在所述模块M5中:
模块M5.1:选取观测特征数据;
模块M5.2:实现系统退化信息挖掘,低维融合特征提取;
模块M5.3:通过提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
模块M5.4:建立针对系统退化特征的动态系统状态空间模型,确定模型参数;
模块M5.5:利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
模块M5.6:基于系统状态空间模型利用算法实现系统观测值x
模块M5.7:实现系统剩余寿命预测,返回模块M5.5,实现在线动态预测;
在所述模块M6中:
模块M6.1:构建的融合模型能够实现对系统退化状态的短期预测;
模块M6.2:融合模型方法输出的剩余寿命预测结果包括点估计与区间估计;
模块M6.3:构建的融合模型结合滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性。
与现有技术相比,本发明具有如下的有益效果:
本发明基于统计模型中的滤波预测方法与机器学习技术中的LSTM循环神经网络预测方法建立产品剩余寿命预测融合模型,与现行的产品设备剩余寿命预测算法相比,融合模型结合了滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性,提高了产品退化数据分析的准确性及有效性。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为滤波动态系统模型;
图2为循环神经网络模型参数训练流程;
图3为LSTM模型的网络结构模块;
图4为LSTM模型与滤波融合算法结构框图;
图5为基于滤波算法的某系统剩余寿命预测结果;
图6为基于LSTM模型的某系统观测数据跟踪预测;
图7为基于LSTM与滤波融合模型的某系统观测数据跟踪预测;
图8为基于LSTM与滤波融合模型的某系统统剩余寿命预测;
图9为各模型对于某系统退化状态预测预测均方误差对比;
图10为各模型对于某系统剩余寿命预测预测均方误差对比。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变化和改进。这些都属于本发明的保护范围。
实施例1:
本发明提供了一种实现复杂设备在线剩余寿命预测的优化融合算法,针对在对于产品中具备大量运行观测数据的关键系统部件进行剩余寿命预测的过程中,产品故障寿命数据稀少、各类退化过程分析模型对于产品性能观测数据适应性差导致产品寿命预测精度低、有效性弱的问题,充分挖掘部件退化数据信息,依据相关退化分析技术,基于统计模型中的滤波预测方法与机器学习技术中的LSTM循环神经网络预测方法建立产品剩余寿命预测融合模型。融合模型结合了滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性,提高了产品退化数据分析的准确性及有效性,可对产品关键部件的寿命进行有效预测,为产品中具备大量运行观测数据的关键系统部件提供可靠的故障预警和故障维修辅助参考。
根据本发明提供的一种结合循环神经网络与滤波算法的剩余寿命预测方法,如图1-图10所示,包括:
步骤S1:采集测量的运行观测数据,选取特征数据;
具体地,在所述步骤S1中:
采集产品设备部件传感器测量的运行观测数据,选取出能反映产品性能退化趋势的预设特征数据:
依据观测数据与产品退化趋势间的相关性,选取出趋势特征最显著的数据来表征系统退化状态;
从数据中确定候选子集ω
采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
选取出的特征数据包括同源数据以及异源数据。
步骤S2:对选取的特征数据进行产品性能退化状态挖掘与低维融合特征提取;
具体地,在所述步骤S2中:
步骤S2.1:产品性能退化状态挖掘;
采用正则化粒子滤波算法实现性能退化状态挖掘,所用正则化粒子滤波算法具体歩骤包括:
步骤S2.1.1:退化状态为可分过程,对于部件传感器建立的状态空间模型表示为:
式中,z
步骤S2.1.2:从初始分布中采样N个粒子
步骤S2.1.3:给定
步骤S2.1.4:获得观测值x
步骤S2.1.5:当有效粒子数
从粒子集
步骤S2.1.6:更新对z
采用蒙特卡洛法通过采样粒子与其相应权重构建后验概率密度:
从概率密度p(z
其中δ(·)为狄拉克函数,z
采用序贯重要性采样实现对后验概率密度函数分布进行采样:
其中q(z)称为提议分布,
采用重采样方法解决粒子退化问题:
在粒子滤波中采用有效粒子数指标定量评定粒子权重退化的程度:
式中,N
当N
其中,j为部件传感器的对应编号,n
采用标准高斯核函数进行估计:
式中,KDE为非线性动态系统t时刻状态变量的连续近似概率密度,Kh(·)为核密度函数,n
步骤S2.2:低维融合特征提取具体包括对同源数据采用分布式滤波算法融合,对异源数据采用核主成分分析实现低维融合特征提取;
步骤S2.2.1:各滤波器的权重分配方式不以各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准,采用各滤波器中粒子滤波过程中的有效粒子数作为权重分配的依据:
/>
其中,k为各分滤波器编号;
步骤S2.2.2:采用子空间学习中的核主成分分析实现异源数据融合,将非线性数据通过核函数映射到高维特征空间中,再在该高维空间上进行主成分分析,进而提取原始特征空间数据之间的非线性主成分,采用高斯核进行映射则数据的第k个主成分t
其中,V
步骤S3:基于低维融合特征构建状态空间模型,对模型参数进行估计,建立滤波剩余寿命预测模型;
具体地,在所述步骤S3中:
将系统在t
式中,
在t
其中,D为失效阈值;
则系统剩余寿命的概率密度函数表示为:
其中,P
步骤S4:以低维融合特征为训练集,训练循环神经网络,建立基于LSTM算法的产品退化状态预测模型;
在所述步骤S4中:
步骤S4.1:计算模型遗忘门输入:
f
其中,W
步骤S4.2:计算输入门输入:
i
其中,i
步骤S4.3:计算输出门输出确定节点输出值:
o
h
其中,o
步骤S5:构建结合LSTM循环神经网络与滤波算法的剩余寿命预测融合算法;
具体地,在所述步骤S5中:
步骤S5.1:选取观测特征数据;
步骤S5.2:实现系统退化信息挖掘,低维融合特征提取;
步骤S5.3:通过提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
步骤S5.4:建立针对系统退化特征的动态系统状态空间模型,确定模型参数;
步骤S5.5:利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
步骤S5.6:基于系统状态空间模型利用算法实现系统观测值x
步骤S5.7:实现系统剩余寿命预测,返回步骤S5.5,实现在线动态预测;
步骤S6:运用构建的融合算法实现产品设备系统的剩余寿命在线预测。
在所述步骤S6中:
步骤S6.1:构建的融合模型能够实现对系统退化状态的短期预测;
步骤S6.2:融合模型方法输出的剩余寿命预测结果包括点估计与区间估计;
步骤S6.3:构建的融合模型结合滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性。
实施例2:
实施例2为实施例1的优选例,以更为具体地对本发明进行说明。
本领域技术人员可以将本发明提供的一种结合循环神经网络与滤波算法的剩余寿命预测方法,理解为结合循环神经网络与滤波算法的剩余寿命预测系统的具体实施方式,即所述结合循环神经网络与滤波算法的剩余寿命预测系统可以通过执行所述结合循环神经网络与滤波算法的剩余寿命预测方法的步骤流程予以实现。
根据本发明提供的一种结合循环神经网络与滤波算法的剩余寿命预测系统,包括:
模块M1:采集测量的运行观测数据,选取特征数据;
具体地,在所述模块M1中:
采集产品设备部件传感器测量的运行观测数据,选取出能反映产品性能退化趋势的预设特征数据:
依据观测数据与产品退化趋势间的相关性,选取出趋势特征最显著的数据来表征系统退化状态;
从数据中确定候选子集ω
采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
选取出的特征数据包括同源数据以及异源数据。
模块M2:对选取的特征数据进行产品性能退化状态挖掘与低维融合特征提取;
具体地,在所述模块M2中:
模块M2.1:产品性能退化状态挖掘;
采用正则化粒子滤波算法实现性能退化状态挖掘,所用正则化粒子滤波算法具体歩骤包括:
模块M2.1.1:退化状态为可分过程,对于部件传感器建立的状态空间模型表示为:
式中,z
模块M2.1.2:从初始分布中采样N个粒子
模块M2.1.3:给定
模块M2.1.4:获得观测值x
模块M2.1.5:当有效粒子数
从粒子集
模块M2.1.6:更新对z
采用蒙特卡洛法通过采样粒子与其相应权重构建后验概率密度:
从概率密度p(z
其中δ(·)为狄拉克函数,z
/>
采用序贯重要性采样实现对后验概率密度函数分布进行采样:
其中q(z)称为提议分布,/>
采用重采样方法解决粒子退化问题:
在粒子滤波中采用有效粒子数指标定量评定粒子权重退化的程度:
式中,N
当N
其中,j为部件传感器的对应编号,n
采用标准高斯核函数进行估计:
式中,KDE为非线性动态系统t时刻状态变量的连续近似概率密度,Kh(·)为核密度函数,n
模块M2.2:低维融合特征提取具体包括对同源数据采用分布式滤波算法融合,对异源数据采用核主成分分析实现低维融合特征提取;
模块M2.2.1:各滤波器的权重分配方式不以各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准,采用各滤波器中粒子滤波过程中的有效粒子数作为权重分配的依据:
其中,k为各分滤波器编号;
模块M2.2.2:采用子空间学习中的核主成分分析实现异源数据融合,将非线性数据通过核函数映射到高维特征空间中,再在该高维空间上进行主成分分析,进而提取原始特征空间数据之间的非线性主成分,采用高斯核进行映射则数据的第k个主成分t
其中,V
模块M3:基于低维融合特征构建状态空间模型,对模型参数进行估计,建立滤波剩余寿命预测模型;
具体地,在所述模块M3中:
将系统在t
式中,
在t
其中,D为失效阈值;
则系统剩余寿命的概率密度函数表示为:
其中,P
模块M4:以低维融合特征为训练集,训练循环神经网络,建立基于LSTM算法的产品退化状态预测模型;
在所述模块M4中:
模块M4.1:计算模型遗忘门输入:
f
其中,W
模块M4.2:计算输入门输入:
i
其中,i
模块M4.3:计算输出门输出确定节点输出值:
o
h
其中,o
模块M5:构建结合LSTM循环神经网络与滤波算法的剩余寿命预测融合算法;
具体地,在所述模块M5中:
模块M5.1:选取观测特征数据;
模块M5.2:实现系统退化信息挖掘,低维融合特征提取;
模块M5.3:通过提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
模块M5.4:建立针对系统退化特征的动态系统状态空间模型,确定模型参数;
模块M5.5:利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
模块M5.6:基于系统状态空间模型利用算法实现系统观测值x
模块M5.7:实现系统剩余寿命预测,返回模块M5.5,实现在线动态预测;
模块M6:运用构建的融合算法实现产品设备系统的剩余寿命在线预测。
在所述模块M6中:
模块M6.1:构建的融合模型能够实现对系统退化状态的短期预测;
模块M6.2:融合模型方法输出的剩余寿命预测结果包括点估计与区间估计;
模块M6.3:构建的融合模型结合滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性。
实施例3:
实施例3为实施例1的优选例,以更为具体地对本发明进行说明。
一种结合LSTM循环神经网络与滤波算法的产品设备剩余寿命预测方法,包括以下步骤:
(1)采集产品设备关键部件传感器测量的运行观测数据,选取出能反映产品性能退化趋势的特征数据。
(2)提取同源观测信息与异源观测信息特征,得到低维融合特征。
(3)基于低维融合特征构建状态空间模型,对模型参数进行估计,建立滤波剩余寿命预测模型。
(4)以低维融合特征为训练集,训练循环神经网络,建立基于LSTM算法的产品退化状态预测模型。
(5)构建结合LSTM循环神经网络与滤波算法的剩余寿命预测融合算法。
(6)运用构建的融合算法实现产品设备系统的剩余寿命在线预测,可实现对于系统退化状态的跟踪预测,对于产品设备剩余寿命的点估计与区间估计。
在所述歩骤1中具体包括:
(1)依据观测数据与产品退化趋势间的相关性,选取出趋势特征最显著的数据来表征系统退化状态;
(2)从数据中确定候选子集ω
(3)本发明采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
(4)选取出的特征数据包括同源数据以及异源数据。
所述歩骤2具体包括:
(1)产品性能退化状态挖掘;
本发明采用正则化粒子滤波算法实现性能退化状态挖掘,所用正则化粒子滤波算法具体歩骤包括:
(a)将退化状态视为可分过程,对于部件传感器建立的状态空间模型可表示为:
式中系数α
(b)从初始分布中采样N个粒子
(c)给定
(d)获得观测值x
(e)当有效粒子数
(f)更新对z
其中采用蒙特卡洛法通过采样粒子与其相应权重构建后验概率密度近似真实的后验概率密度:
从概率密度p(z
其中δ(·)为狄拉克函数,z
采用序贯重要性采样实现对后验概率密度函数分布进行采样:
其中q(z)称为提议分布,/>
采用重采样方法解决粒子退化问题:
在粒子滤波中采用有效粒子数指标定量评定粒子权重退化的程度:
设定阈值当N
其中/>
标准粒子滤波迭代过程中的采样样本是从离散分布中抽取,会造成粒子样本的多样性降低,对离散分布进行连续近似处理,在连续分布中进行重采样,使采样粒子的多样性增加,降低重采样方法可能造成的粒子匮乏问题的影响。运用核密度估计(Kernel DensityEstimation,KDE)的思想来近似估计采样粒子集的概率密度函数可以实现离散数据连续化。核密度估计方法是在样本数据分布类型未知情况下估计样本服从分布概率密度函数的一种非参数估计方法。核密度估计在只依据样本数据本身信息情况下就能够估计出随机变量的概率分布,本次发明采用标准高斯核函数进行估计:
采用核函数思想解决粒子样本多样性降低问题近似估计采样粒子集的概率密度函数:
式中Kh(·)为核密度函数,n
本发明采用标准高斯核函数进行正则化处理:
(2)低维融合特征提取具体包括对同源数据采用分布式滤波算法融合,对异源数据采用核主成分分析实现低维融合特征提取。
a.本发明中各滤波器的权重分配方式不以各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准,采用各滤波器中粒子滤波过程中的有效粒子数作为权重分配的依据即:
b.对于异源数据的方式主要有特征选择、copula函数及子空间学习,本发明采用子空间学习中的核主成分分析实现异源数据融合,即将非线性数据通过核函数映射到高维特征空间中,再在该高维空间上进行主成分分析,进而提取原始特征空间数据之间的非线性主成分,本发明采用高斯核进行映射则数据的第k个主成分t
所述歩骤3具体包括:
将系统在t
式中g(·)表示退化累计过程,P
则系统剩余寿命的概率密度函数可表示为式:
所述歩骤4具体包括:
a.计算模型遗忘门输入:
f
其中h
b.计算输入门输入:
i
c.计算输出门输出确定节点输出值:
o
h
所述歩骤5具体包括:
a.利用权利要求1中歩骤(1)中方法选取观测特征数据;
b.利用权利要求1中歩骤(2)中方法实现系统退化信息挖掘,低维融合特征提取;
c.利用权利要求1中歩骤(4)通过提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
d.建立针对系统退化特征的动态系统状态空间模型,确定模型参数;
e.利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
f.基于系统状态空间模型利用利用权利要求1中歩骤(3)算法实现系统观测值x
g.利用权利要求1中歩骤(3)算法实现系统剩余寿命预测,返回步骤e,实现在线动态预测。
所述歩骤6具体包括:
a.构建的融合模型能够实现对系统退化状态的短期预测;
b.融合模型方法输出的剩余寿命预测结果包括点估计与区间估计。
c.构建的融合模型结合滤波预测模型对产品退化状态的挖掘能力、不确定表达能力与LSTM循环神经网络模型良好的数据适应性、预测的准确性。
实施例4:
实施例4为实施例1的优选例,以更为具体地对本发明进行说明。
本发明属于服役设备剩余寿命预测领域,具体为针对复杂系统基于运行观测数据的优化剩余寿命预测方法。
本发明的目的是:构建基于LSTM模型与滤波算法相融合的模型,结合两种模型优势提升系统剩余寿命预测方法的适用性及准确性。为具备大量运行观测数据的产品设备关键系统部件提供可靠的故障预警和故障维修辅助参考。为实现上述目的采用的技术方案包括以下步骤:
(1)采集产品设备关键部件传感器测量的运行观测数据,选取出能反映产品性能退化趋势的特征数据,依据观测数据与产品退化趋势间的相关性,运行观测特征数据包括相关特征、不相关特征与冗余特征。为提取出趋势特征最显著的数据来表征系统退化状态,采用特征选择实现观测数据提取,特征选择的主要工作是从数据中确定候选子集ω
1、从原始特征集中产生一个特征子集,并将其确定为一个候选子集ω
2、用评价函数J(w
3、检查此次评价结果是否符合优化评价准则所设定的终止条件,如以达到终止条件,则输出最优特征子集ω
特征选择方法的相关研究逐渐呈现出多样化和综合性的发展趋势,主要分为过滤型、封装型和嵌入型三类方法,本发明采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
(2)本次发明的数据预处理是对选取的特征数据进行产品性能退化状态挖掘与低维融合特征提取。由于采集的系统运行观测信号通常都是带噪信号,因此需对选择的特征数据进行预处理,挖掘系统真实退化状态。同时选择后的观测特征包括同源数据与异源数据,参数种类繁多、维度较高,造成系统性能数据分析计算量过大,且多维特征之间的信息存在交叉、重叠为后续决策的制定带来冗余,在数据描述方面可能带来精度低、整体识别性差、计算量大,难以可视化等问题。
1、本发明采用粒子滤波算法实现性能退化状态挖掘,粒子滤波算法是一种以蒙特卡洛采样方法为基础的非线性状态估计算法,能够处理具有较强非线性特征的动态系统问题,具有良好的数据适应性,算法的核心思想为:利用离散的随机采样样本(粒子)对模型的概率密度函数进行近似表达,用样本的平均值代替积分运算,实现系统状态的估计。
粒子滤波的状态空间模型可以表达如下:
z
对非线性动态系统中的状态估计问题,其主要目的是利用上述模型的先验分布和实际运行过程中的观测值x
从递推贝叶斯滤波的角度出发,假设t-1时刻的后验概率密度函数p(z
a.依据x{x
b.利用新的观测值x
p(z
通常上式进行积分解析解的计算非常困难,同时随着逐次迭代次数的增加,计算高维积分的解析解会越来越困难。本发明采用蒙特卡洛方法、序贯重要性采样方法、重采样方法实现粒子滤波在解决求解状态值的后验概率密度的问题。
a.蒙特卡洛方法
假设从概率密度p(z
其中δ(·)为狄拉克函数,z
b.序贯重要性采样
运用序贯重要性采样方法能够对p(z
/>
其中q(z)称为提议分布,
从起始时刻开始,各观测时刻求后验分布期望需对各采样点权重w进行更新,每次更新都需要对应N个抽样样本计算N次权重,模型计算复杂度较高,序贯重要性采样方法通过寻求权重/>
假定提议分布q(z)有:
q(z
归一化后权重可表示为:
由于序贯重要性采样方法存在“粒子退化”的问题,即模型算法经过多次迭代后,采样样本对应权重的方差会随迭代次数增加而不断增加,权重较大粒子的权重会越来越大,权重较小粒子的权重变得更小,导致采样所得的粒子集与相应权重无法较为精确对实际后验分布进行近似表达。采用重采样方法解决粒子退化问题。
c.权重退化及重采样
在粒子滤波中采用有效粒子数指标定量评定粒子权重退化的程度:
设定阈值当N
其中/>
d.正则化粒子滤波
为解决采样样本从离散分布中抽取,造成的粒子样本多样性降低问题,本发明采用正则化粒子滤波方法,运用核密度估计近似估计采样粒子集的概率密度函数:
式中K
正则化粒子滤波算法的计算流程如下所示:
(a)从初始分布中采样N个粒子
(b)给定
(c)获得观测值x
(d)当有效粒子数
(e)更新对z
将退化状态视为可分过程,对于部件传感器建立的状态空间模型可表示为:
式中系数α
2、本发明采用分布式滤波算法、核主成分分析实现低维融合特征提取。
a.分布式粒子滤波为各传感器滤波估计值赋予权重,计算融合估计值。通常将各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准:
但是滤波的主要目的在于通过观测值对估计状态进行更新,在状态量估计值与观测值普遍差异较大的情况下,不能很好的反映滤波器的性能。本发明以粒子滤波过程中的有效粒子数作为权重分配的依据即:
有效粒子数代表滤波器的效率,该数值衡量了子滤波器中粒子的分布情况。求得各子滤波器的有效粒子数后,可以通过各子滤波器的有效粒子数来计算该子滤波器在主滤波器中的权重。以此实现同源信息的融合。
b.核主成分分析
KPCA通过非线性映射方法将输入空间中的非线性问题映射到高维特征空间中,再在该高维空间上进行PCA,进而提取原始特征空间数据之间的非线性主成分。常用的核函数包括:线性核,多项式核与高斯核等。KPCA具体算法如下。
首先假设训练数据样本为X=[x
式中,非线性映射函数为Φ(·)且
λV=CV
将上式的左右两边乘以Φ(X
λ<Φ(X
设存在系数α
综上可得:
/>
其中
[K]
将数据Φ(X)映射到特征向量V
本发明通过上述基于核主成分分析的子空间学习方法实现异源信息的融合。
(3)粒子滤波剩余寿命预测模型的构建
在动态系统假设中,滤波算法能够利用系统观测信息,在尽可能减少在线数据累积的计算复杂性的同时,对退化状态和参数随着时间递归地辨识。滤波问题通常包含两个步骤:
(1)依据x{x
(2)利用新的观测值x
当无观测值对预测状态进行更新时,可通过状态空间模型中的状态转移方程实现退化状态的短期预测。基于建立的观测系统状态空间模型,系统在t
式中g(·)表示退化累计过程,P
则系统剩余寿命的概率密度函数可表示为:
(4)LSTM循环神经网络剩余寿命预测模型的构建
LSTM模型中数据传输的计算模型如下:
f
上式为遗忘门计算,其中h
i
上式为输入门计算,决定让多少新的信息加入到节点状态中。需要两个步骤进行实现:首先用一个sigmoid层决定哪些信息需要更新然后用tanh层生成一个向量,就是备选的用来更新的内容再将这两部分联合对节点的状态进行一个更新:
o
h
最后进行输出门计算确定输出。首先运行一个sigmoid层来确定节点状态的哪个部分将输出;然后将节点状态通过一个tanh层进行处理(得到[-1,1]区间内的值)并将其和sigmoid层的输出相乘,最终确定输出的部分。
(5)融合剩余寿命预测模型搭建
基于融合算法的流程,融合模型的实现步骤如下所示:
a.利用歩骤(1)中方法选取观测特征数据;
b.利用歩骤(2)中方法实现系统退化信息挖掘,低维融合特征提取;
c.利用提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
d.建立针对系统退化特征的动态系统状态空间模型,;
e.利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
f.基于系统状态空间模型利用粒子滤波算法实现系统观测值x
g.利用歩骤(3)算法实现系统剩余寿命预测,返回步骤e,实现在线动态预测。
实施例5:
实施例5为实施例1的优选例,以更为具体地对本发明进行说明。
如图4所示,结合LSTM循环神经网络与滤波算法的产品设备剩余寿命预测计算方法的步骤如下:
(1)选取出能反映产品性能退化趋势的特征数据;
该步骤为采用过滤型特征选择方法实现关键特征提取,设定进行特征选取的候选子集ω
(2)产品设备退化状态挖掘及低维融合特征提取;
该步骤首先挖掘产品设备退化状态采用正则化粒子滤波算法:
(a)将退化状态视为可分过程,对于部件传感器建立的状态空间模型可表示为:
式中系数α
(b)从初始分布中采样N个粒子
(c)给定
(d)获得观测值x
(e)当有效粒子数
(f)更新对z
滤波后数据更为近似系统真实退化状态。
采用分布式滤波算法对同源数据进行融合,采用核主成分分析对异源数据实现低维融合特征提取:
a.本发明中各滤波器的权重分配方式不以各滤波器的观测值减去状态估计值与关系矩阵的乘积作为权重分配的标准,采用各滤波器中粒子滤波过程中的有效粒子数作为权重分配的依据即:
b.对于异源数据的方式主要有特征选择、copula函数及子空间学习,本发明采用子空间学习中的核主成分分析实现异源数据融合,即将非线性数据通过核函数映射到高维特征空间中,再在该高维空间上进行主成分分析,进而提取原始特征空间数据之间的非线性主成分,本发明采用高斯核进行映射则数据的第k个主成分t
提取出的低维融合特征可对后续搭建模型进行模型参数估计。
(3)构建滤波剩余寿命预测模型
该步骤为基于低维融合特征构建状态空间模型,对模型参数进行估计,建立滤波剩余寿命预测模型,将系统在t
式中g(·)表示退化累计过程,P
则系统剩余寿命的概率密度函数可表示为式:
(4)构建LSTM模型系统退化状态预测模型
该步骤为以低维融合特征为训练集,训练循环神经网络,建立基于LSTM算法的产品退化状态预测模型包括以下三个步骤:
a.计算模型遗忘门输入:
f
其中h
b.计算输入门输入:
i
c.计算输出门输出确定节点输出值:
o
h
(5)构建结合LSTM循环神经网络与滤波算法的剩余寿命预测融合算法:
a.利用歩骤(1)中方法选取观测特征数据;
b.利用歩骤(2)中方法实现系统退化信息挖掘,低维融合特征提取;
c.利用歩骤(4)对提取的低维综合退化特征数据对LSTM模型进行训练,确定模型参数;
d.利用步骤(3)建立针对系统退化特征的动态系统状态空间模型,确定模型参数;
e.利用已确定模型参数的LSTM模型预测t+1时刻退化状态z
f.基于系统状态空间模型利用歩骤(3)算法实现系统观测值x
g.利用歩骤(3)算法实现系统剩余寿命预测,返回步骤e,实现在线动态预测。
(6)通过上述步骤实现利用融合模型对系统的剩余寿命进行预测,:
a.图5为以某系统运行观测数据为例引入滤波算法得到的产品剩余寿命预测结果;
b.图6为以某系统运行观测数据为例引入LSTM模型得到的产品剩余寿命预测结果;
c.图7为以某系统运行观测数据为例基于LSTM与滤波融合模型的某系统退化状态跟踪预测结果;
d.图8为以某系统运行观测数据为例基于LSTM与滤波融合模型的某系统剩余寿命预测结果;
e.图9为各模型对于某系统退化状态预测预测均方误差对比;
f.图10为各模型对于某系统剩余寿命预测预测均方误差对比。
从中可以看出本发明搭建的融合模型对于对某系统的退化状态预测与寿命预测展现了很高的预测精度,即保留了滤波预测模型对产品退化状态的挖掘能力、不确定表达能力也在融合模型中体现出了LSTM循环神经网络模型良好的数据适应性、预测的准确性。
本领域技术人员知道,除了以纯计算机可读程序代码方式实现本发明提供的系统、装置及其各个模块以外,完全可以通过将方法步骤进行逻辑编程来使得本发明提供的系统、装置及其各个模块以逻辑门、开关、专用集成电路、可编程逻辑控制器以及嵌入式微控制器等的形式来实现相同程序。所以,本发明提供的系统、装置及其各个模块可以被认为是一种硬件部件,而对其内包括的用于实现各种程序的模块也可以视为硬件部件内的结构;也可以将用于实现各种功能的模块视为既可以是实现方法的软件程序又可以是硬件部件内的结构。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变化或修改,这并不影响本发明的实质内容。在不冲突的情况下,本申请的实施例和实施例中的特征可以任意相互组合。
- 剩余寿命预测系统、剩余寿命预测装置以及剩余寿命预测程序
- 基于改进粒子滤波算法的设备剩余寿命预测方法