一种工业物联网中基于机器学习方法的预测方法

技术领域

本发明属于工业物联网技术领域，特别是涉及一种工业物联网中基于机器学习方法的预测方法。

背景技术

面对各类应用带来的数据规模指数及增长，利用传统人工设置假设前提并利用统计等方法来有效发现数据中规律越来越不现实，同时数据量的爆发式增长也为机器学习方法的发展和大规模应用塑造了有利的前提条件。在金融和互联网领域如用户信用状况评价、计算广告、智能推荐、机器翻译、自然语言识别乃至无人驾驶领域都取得了突破性的进展。

工业互联网技术伴随工业化信息化的融合得到了长足的发展。虽然针对不同客体物联网应用各不相同，但站在数据及信息采集、通信传输、处理与有效使用的过程来看，可以大致将物联网分为四层：感知层、传输层、数据层及应用层。其中数据层实现数据的汇聚、管理及分析处理等相关工作，工业互联网数据实时性要求高、数据量大、数据结构复杂并异构等特点，有效的对数据进行相关的加工的相关算法是工业智能系统关键技术，也是主要工业国未来竞争力的重要体现。

发明内容

本发明目的是为了解决现有技术中的问题，提出了一种工业物联网中基于机器学习方法的预测方法。

本发明是通过以下技术方案实现的，本发明提出一种工业物联网中基于机器学习方法的预测方法，所述方法包括以下步骤：

步骤1、将工艺参数以及环境参数作为输入，并将生产过程关注的关键性能指标作为输出；

步骤2、根据步骤1中的输入输出数据采用BP神经网络算法建立训练模型；

步骤3、基于建立的训练模型利用当前输入对输出结果进行预测，从而对关键性能指标进行预警及预处理操作。

进一步地，在步骤2中，所述BP神经网络包括输入层、隐层和输出层三层结构；神经网络的训练过程包括正向传播的代价函数计算过程和基于代价或误差结果的反向传播过程；前者数据通过输入层经由隐层到达输出层，这一过程逐级对数据进行处理，并通过比较实际输出结果和期望结果进行误差计算；在反向传播过程中，对正向过程中计算得到的误差进行反向传播，从而自适应调整各神经元的加权值及阈值，从而降低误差值并使其最小化。

进一步地，所述BP神经网络算法具体为：

输入层同隐层间的加权值为v

有p个学习样本x

p个样本产生的全局误差为：

那么权值的改变量为：

其中，η为学习率，需要根据应用选取合适的值；若η选取过大则网络不稳定，η过小则会收敛速度过慢学习周期过长；

定义误差信号：

其中，S

根据式(10)-(12)有，

又，

所以有，

由式(9)和式(15)，可知，调整输出层权值改变量为：

同理，易知隐层权值改变量为，

通过改变隐层各个神经元的权值即达到构建整个网络的目的。

进一步地，所述学习率η取值为0.01至0.8之间。

本发明的有益效果：

本发明在工业互联网环境下，工业智能系统在训练阶段利用有监督的机器学习方法，将工艺参数以及环境参数作为输入，并将生产过程关注的关键性能指标作为输出，从而对生产线复杂系统进行建模；在生产阶段利用训练阶段的系统模型及当前输入对关键性能指标进行预测。本发明分别利用多元线性回归和非线性的BP神经网络方法进行建模，并利用当前输入对输出结果进行预测，从而可以对关键性能指标进行预警及预处理操作。本发明还利用真实的工业物联网数据进行了仿真和验证，证明了基于BP神经网络的预测方法性能优于线性回归预测技术。

附图说明

图1为本发明所述工业物联网中基于机器学习方法的预测方法流程图；

图2为反向传播神经网络的学习过程示意图；

图3为利用多元线性回归方法在模型训练流程的输出结果示意图；其中(a)为y

图4为利用多元线性回归方法在模型工作流程的验证结果示意图；其中(a)为y

图5为利用BP神经网络方法在模型训练流程的输出结果示意图；其中(a)为y

图6为利用多元线性回归方法在模型训练应用流程的验证结果示意图；其中(a)为y

具体实施方式

下面将结合本发明实施例中的附图对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

结合图1，本发明提出一种工业物联网中基于机器学习方法的预测方法，所述方法包括以下步骤：

步骤1、将工艺参数以及环境参数作为输入，并将生产过程关注的关键性能指标作为输出；

步骤2、根据步骤1中的输入输出数据采用BP神经网络算法建立训练模型；

步骤3、基于建立的训练模型利用当前输入对输出结果进行预测，从而对关键性能指标进行预警及预处理操作。

结合图2，在步骤2中，所述BP神经网络包括输入层、隐层和输出层三层结构；神经网络的训练过程包括正向传播的代价函数计算过程和基于代价或误差结果的反向传播过程；前者数据通过输入层经由隐层到达输出层，这一过程逐级对数据进行处理，并通过比较实际输出结果和期望结果进行误差计算；在反向传播过程中，对正向过程中计算得到的误差进行反向传播，从而自适应调整各神经元的加权值及阈值，从而降低误差值并使其最小化。

所述BP神经网络算法具体为：

输入层同隐层间的加权值为v

有p个学习样本x

p个样本产生的全局误差为：

那么权值的改变量为：

其中，η为学习率，需要根据应用选取合适的值；若η选取过大则网络不稳定，η过小则会收敛速度过慢学习周期过长；所述学习率η取值为0.01至0.8之间，还可以根据梯度大小自适应设置。

定义误差信号：

其中，S

根据式(10)-(12)有，

又，

所以有，

由式(9)和式(15)，可知，调整输出层权值改变量为：

同理，易知隐层权值改变量为，

通过改变隐层各个神经元的权值即达到构建整个网络的目的。

利用多元线性回归方法和本发明所述方法对物联网数据分别进行性能仿真。

所述多元线性回归方法具体为：

回归分析(regression analysis)是由高尔顿(Galton)在19世纪末提出，其中最简便的分析方法——线性回归方法是通过最小二乘法对线性回归方程进行求解，从而得到一个或数个自变量同因变量之间简单线性关系进行建模的一种回归分析。单自变量的回归分析也被叫做简单线性回归。然而在具体应用中，某个因变量通常会受到多个因素的影响，简单的单独变量的回归方法不足以达到解决问题的目的，所以引入处理多个变量的多元线性回归的方法，大于一个自变量情况的叫做多元线性回归(multivariate linearregression modeling，MLRM)。

多元线性回归的模型的表达式如下：

Y＝β

其中，x

若进行n次观测，采集到的n组数据样本为x

那么，称Y＝Xβ+ε为线性回归的数据模型，X是设计矩阵，ε是误差向量，须满足随机条件；

线性回归的目的则是找出使得关于x

E(Y)＝β

β的最小二乘估计为

本发明采用一组7输入2输出的食品工业物联网数据，输入为7项由工业物联网中传感器采集到的性能指标，分别为：温度、湿度、烘干时间、原件配比、各原料加工时间等环境及工业参数，而输出值y

图3为利用多元线性回归方法在模型训练流程的输出结果，纵坐标为关键指标数值，横坐标为验证数据集的数据记录索引。可以看到y

图4为利用多元线性回归方法在模型工作流程的验证结果，纵坐标为关键指标的预测值与真实值的残差，横坐标为验证数据集的数据记录索引。可以看到残差基本为0，但在较多的离散点上，残差值较大，影响了总体的预测性能。

图5为利用BP神经网络方法在模型训练流程的输出结果。可以看到利用非线性模型条件下，y

图6为利用多元线性回归方法在模型训练应用流程的验证结果。可以看到残差基本为0，同线性多元回归模型相比较，残差较大的峰值点显著减少，预测结果明显好于线性方法。

表1多元线性回归模型与BP神经网络模型性能比较

表1为多元线性回归模型同BP神经网络模型训练和工作阶段的均方误差性能的定量比较，可以看到无论在训练阶段还是工作阶段非线性的BP神经网络模型均能取得更好的均方误差性能。特别是输出值y

以上对本发明所提出的一种工业物联网中基于机器学习方法的预测方法，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。