基于PSO-LSTM的青霉素发酵过程故障预测方法

技术领域

本发明属于工业发酵生产过程故障预测技术领域，具体涉及一种基于PSO-LSTM的青霉素发酵过程故障预测方法。

背景技术

目前，青霉素发酵过程故障预测主要是基于数据驱动的故障预测方式，常用的方法是自回归滑动平均模型(ARMA)的时间序列分析方法,比如项亚南等学者采用自回归滑动平均模型(ARMA)与多元统计方法(MPCA)相结合的方式来预测青霉素发酵过程的故障，但是ARMA模型要求时间序列是平稳的信号，且只能用自身的数据进行预测，即只对单变量时序进行预测，忽略了多元时序的相关性问题，而青霉素发酵过程系统的运行状态通常由多元相关时序共同决定的，因此采用ARMA模型并不能准确预测故障。

基于神经网络的数据驱动模型对于时间序列的总体分布不做任何假设，常用的神经网络包括递归神经网络、小波神经网络以及模糊神经网络等，其中，递归神经网络因为增加了反馈节点，存储隐含层过去的输入输出信息，提高了网络训练的准确性，因此被用于时间序列的预测。长短时记忆模型(LSTM)是升级版的RNN模型，相比传统RNN模型只能处理短期依赖问题，LSTM模型既能处理短期依赖问题，也能处理长期依赖问题，同时“门机制”的引入，解决了RNN模型在面对长序列数据时易出现梯度消失的缺点，现已被成功应用于语音识别、文本处理等方面。与其他神经网络类似，LSTM模型中的某些参数需要人为设置，比如：神经元个数、学习率、时间步长等，这些参数通常是根据研究者的经验获得，并不能针对应用对象不同而设置最优的参数，因此会导致模型的预测精度降低。

因此，本申请提出一种粒子群优化算法(PSO)优化LSTM模型参数的故障预测模型，以提高故障预测的精度。

发明内容

针对现有技术的不足，本发明拟解决的技术问题是，提供一种基于PSO-LSTM的青霉素发酵过程故障预测方法。

本发明解决所述技术问题的技术方案是：

一种基于PSO-LSTM的青霉素发酵过程故障预测方法，其特征在于，该方法包括以下步骤：

第一步、采集n批青霉素发酵过程中的正常批次数据和m批数据，n、m≥20，每批数据包括多个可在线测量变量；

利用n批数据计算T

第二步、将归一化的训练集中与T

第三步、利用PSO算法优化LSTM模型参数，分别构建T

第四步、利用T

第三步中利用PSO算法优化LSTM模型参数包括：

3.1)初始化T

设定PSO算法参数，包括粒子数量、惯性因子、学习因子c1和c2、最大迭代次数；设置T

3.2)将归一化的验证集输入到初始化参数的T

式(2)中，n为归一化的验证集的样本个数，X

3.3)利用粒子的局部最优位置和粒子群的全局最优位置，按照公式(3)和(4)迭代更新每个粒子的速度和位置，进而更新神经元个数、学习率、批次大小和时间步长这四个参数值；将更新后的参数值代入到T

式(3)、(4)中，

3.4)将归一化的验证集分别输入到更新参数后的T

重复执行步骤3.3)和3.4)，直到迭代终止，获得最优神经元个数、学习率、批次大小和时间步长，得到T

同理，按照步骤3.1)～3.4)构建SPE统计量的PSO-LSTM预测模型。

公式(4)中，若

所述步骤3.4)还包括：利用归一化的测试集对T

其中，T为归一化的测试集的样本数，X

若预测偏差小于或等于T

T

与现有技术相比，本发明有益效果在于：

1、LSTM模型具有保存历史信息的功能，在处理长时间序列输入时相较于传统神经网络更为有效。同时本文构建了一种粒子群优化算法(PSO)与LSTM相结合的故障预测模型，利用PSO算法优化LSTM模型的参数，能够快速搜索确定LSTM模型的最优参数，解决传统长短时记忆(LSTM)神经网络参数需要依靠经验选取的问题，解决了模型拟合能力不够、预测精度低的问题，使得故障预测模型的预测结果更精准，可为后续青霉素发酵过程状态评估提供理论指导。

2、本申请采集多批次的生产数据，利用多元时间序列对青霉素发酵过程进行故障预测，解决现有青霉素发酵只针对单变量时间序列进行预测的缺陷，提高了预测的精度，为青霉素生产进行智能预测，不仅能对生产系统当前的生产状况进行故障诊断，还能根据当前的生产状况预测系统未来是否会发生故障，在系统还没出现故障前，能够及时发现故障，以减少损失。

附图说明

图1为本发明的整体流程图；

图2为T

图3为T

图4为SPE统计量的LSTM预测模型的预测结果对比图；

图5为SPE统计量的PSO-LSTM预测模型的预测结果对比图。

具体实施方式

下面结合具体附图和实施例对本发明的技术方案进行详细说明，并不用于限定本申请的保护范围。

本发明为一种基于PSO-LSTM的青霉素发酵过程故障预测方法(简称方法，参见图1-5)，包括以下步骤：

第一步、采集n批青霉素发酵过程中的正常批次数据和m批数据(n≥20、m≥20)，每批数据包括多个可在线测量变量；m批数据可以包含故障数据；

对n批数据利用多向主元分析MPCA方法按照批次展开的方式计算T

将m批数据作为样本数据，利用主元分析PCA方法分别计算每批样本数据的T

将T

第二步、将归一化的训练集中与T

第三步、利用PSO算法优化LSTM模型参数，LSTM模型参数包括神经元个数、学习率、批次大小和时间步长；分别构建T

第四步、利用T

第三步中利用PSO算法优化LSTM模型参数包括：

3.1)初始化T

设定PSO算法参数，包括粒子数量、惯性因子、学习因子c1和c2、最大迭代次数；优化的LSTM模型参数代表PSO算法的维度，设置T

3.2)将归一化的验证集输入到初始化参数的T

式中，n为归一化的验证集的样本个数，X

3.3)利用粒子的局部最优位置和粒子群的全局最优位置，按照公式(3)和(4)迭代更新每个粒子的速度和位置，进而更新神经元个数、学习率、批次大小和时间步长这四个参数值；将更新后的参数值代入到T

式(3)、(4)中，

3.4)将归一化的验证集分别输入到更新参数后的T

重复执行步骤3.3)和3.4)，不断迭代更新粒子的速度和位置，直到迭代终止，获得最优神经元个数、学习率、批次大小和时间步长，得到T

同理，按照步骤3.1)～3.4)构建SPE统计量的PSO-LSTM预测模型。

所述步骤3.4)还包括：利用归一化的测试集对T

其中，T为归一化的测试集的样本数，X

若预测偏差小于或等于T

同理，完成SPE统计量的PSO-LSTM预测模型的测试，得到最终的SPE统计量的PSO-LSTM预测模型。

T

为提高粒子的搜索能力，本申请采用吸收墙法的控制技术，当粒子的某一维碰到解空间的边界，则将速度系数设为0，即在公式(4)中，若

实施例1

本实施例为一种基于PSO-LSTM的青霉素发酵过程故障预测方法，包括以下步骤：

第一步、针对青霉素发酵过程的故障预测，首先用青霉素仿真平台Pensim模拟产生40批采样时间为400h、采样间隔为1h的正常数据和一批在采样时间为320-360h引入斜坡为0.2％的充气率故障数据；

取20批正常数据，利用多向主元分析MPCA方法按照批次展开的方法计算T

将剩下的20批正常数据和一批故障数据作为样本数据，其中18批正常数据作为训练集，2批正常数据作为验证集，故障数据作为测试集；

每批数据包括10种可在线测量变量：充气率、搅拌功率、底物流加速率、底物流温度、底物浓度、溶解氧浓度、培养体积、二氧化碳浓度、PH值、产生的热量；

利用主元分析PCA方法分别计算每批样本数据的T

表1相关性分析结果

相关性的分析结果如表1所示，P值代表显著性水平；P值<0.05，说明具有显著性；P值<0.01，说明具有非常显著性；r值代表相关性，r值为0.2～0.4，说明关系一般；r值为0.4～0.7，说明关系紧密；r值为0.7以上，说明关系非常紧密；本申请将r值大于0.2且P值<0.05的可在线测量过程变量作为显著性相关的可在线测量过程变量，也就是充气率、搅拌功率、底物流加速率、底物流温度、底物浓度、培养体积、二氧化碳浓度、pH值和产生的热量；

然后将T

其中，X

第二步、分别构建T

将归一化的训练集中与T

第三步、利用PSO算法优化LSTM模型参数，构建T

3.1)初始化T

设定PSO算法参数，其中粒子数量为20，惯性因子0.5，学习因子c1和c2均为2，最大迭代次数为50；神经元个数、学习率、批次大小和时间步长这4个参数代表粒子群优化算法(PSO)的维度，设置T

3.2)将归一化的验证集输入到初始化参数的T

初始迭代时将每个粒子的适应度值作为当前粒子的个体极值，并将个体极值对应的位置作为当前粒子的局部最优位置；将粒子群的最大个体极值作为当前粒子群的全局极值，并将全局极值对应的粒子位置作为当前粒子群的全局最优位置；

式中，n为归一化的验证集的样本个数，X

大部分研究只利用训练样本的拟合误差作为适应度值，如果神经网络过拟合，那么经过模型得到的预测结果就不是最优的，而验证集误差能够直接反映模型的预测效果，因此，本发明利用验证集误差构建模型的适应度函数。

3.3)利用粒子的局部最优位置和粒子群的全局最优位置，按照公式(3)和(4)迭代更新每个粒子的速度和位置，进而更新神经元个数、学习率、批次大小和时间步长这四个参数的值；将更新后的参数值代入到T

式(3)、(4)中，

为提高粒子的搜索能力，本申请采用吸收墙法的控制技术，当粒子的某一维碰到解空间的边界，则将速度设为0，即在公式(4)中，若

3.4)将归一化的验证集分别输入到步骤3.3)得到的更新参数后的T

具体过程为：将预测值代入公式(2)计算每个粒子的适应度值；对于每个粒子，将此步骤得到的适应度值与步骤3.2)中粒子的个体极值比较，若适应度值大于个体极值，则用粒子的当前位置替换局部最优位置,并用此步骤得到的适应度值替换个体极值，更新粒子的个体极值，用于下一次迭代；若适应度值小于或等于个体极值，则不需要替换局部最优位置和个体极值，继续下一次迭代；

将粒子群中的最大个体极值与步骤3.2)中得到的粒子群的全局极值比较，若最大个体极值大于全局极值，则用最大个体极值对应的粒子位置替换粒子群的全局最优位置，并用此步骤得到的最大个体极值替换全局极值，更新粒子的全局极值，用于下一次迭代；若最大个体极值小于或等于全局极值，则不需要替换全局最优位置和全局极值，继续下一次迭代；

然后重复执行步骤3.3)和3.4)，不断迭代更新粒子的速度和位置，当迭代次数达到最大值时，迭代终止，以此确定T

利用归一化的测试集分别对T

其中，T为归一化的测试集的样本数，X

若预测偏差小于或等于T

同理，按照步骤3.1)～3.4)确定SPE统计量的LSTM模型的参数，其中神经元个数为32，学习率为0.06，批次大小为128，时间步长为5，以此构建SPE统计量的PSO-LSTM预测模型。

T

第四步、将采集的青霉素发酵过程的数据输入到T

利用单一的LSTM预测模型和本发明的PSO-LSTM预测模型分别进行试验，得到图2～5的预测结果图。T

图2是T

从上述预测结果图可以看出，采用单一的LSTM预测模型得到的预测结果要比故障发生的实际时间滞后，而本发明的PSO-LSTM预测模型得到的预测结果减少了滞后时间，验证了PSO-LSTM预测模型的有效性。

预测误差对比如表2所示：

表2不同模型的预测误差对比

相较于单一的LSTM预测模型，T

本发明未述及之处适用于现有技术。