一种基于元学习的产品制造质量预测方法

技术领域

本发明涉及产品制造质量预测技术领域，尤其涉及一种基于元学习的产品制造质量预测方法。

背景技术

近年来，国内外制造业逐渐向将传统的加工工艺与数字孪生、人工智能有机结合的方向发展，以求通过虚拟孪生系统对加工过程进行智能调控。在航空航天领域存在复杂结构件，其制造过程是一个非线性的多场耦合加工过程，伴随着材料去除和表面创成，多种复杂的物理过程高度耦合，综合影响目标构件的形状精度与表面状态。

对于数据驱动的加工状态预测问题，传统的机器学习算法例如支持向量机等，面对多种工艺耦合的复杂工业场景存在泛化性能的局限性。深度神经网络具有良好的预测性能，例如递归神经网络、长短期记忆网络等，能够捕捉数据中的时间动态行为，但比较依赖于数据量，对于小样本量数据的预测表现一般，无法充分利用数据样本，难以实现在复杂工艺过程下小样本量预测的准确性。

发明内容

针对现有技术的不足，本发明提供了一种基于元学习的产品制造质量预测方法，解决了小样本量数据无法支持对多生产工序的复杂工业结构件的质量预测的技术问题。

为解决上述技术问题，本发明提供了如下技术方案：一种基于元学习的产品制造质量预测方法，该预测方法包括以下步骤：

S1、获取制造复杂结构件过程中各个制造工序的样本数据，样本数据包括工艺参数、相关传感器数据和质量指标；

S2、对样本数据进行预处理得到若干个样本数据集，并将样本数据集划分为训练集、验证集和测试集，再将每个样本数据集划分出支持集与查询集；

S3、将样本数据集对应不同工序的样本特征映射至相同维度，并根据各工序的先后顺序对特征进行时间序列编码作为补充特征；

S4、通过支持集中的样本数据对与测量指标相关的反映样本共性的期望表征进行挖掘作为新生成的补充特征；

S5、构建解码器，结合支持集的输入与补充特征，对查询集中样本的质量指标进行预测得到质量预测结果；

S6、对新生成的补充特征与质量预测结果分别构建损失函数，并通过反向传播算法更新参数得到新的数字孪生模型；

S7、将复杂结构件制造过程的样本输入至新的数字孪生模型完成对工业制造过程的制造质量预测。

进一步地，在步骤S2中，具体过程包括以下步骤：

S201、对各制造工序的工艺参数和复杂结构件的质量指标的样本数据进行异常值处理与归一化处理得到样本数据集；

S202、将样本数据集划分为训练集、验证集和测试集，并在此基础上取出各数据集中的前K个样本作为支持集，其余作为查询集。

进一步地，在步骤S3中，具体过程包括以下步骤：

S301、将每个不同工序所对应的不同维度的样本特征通过一个全连接神经网络映射至相同的维度；

进一步地，不同维度的样本特征映射至相同的维度采用下述公式完成：

；

其中，

S302、根据各工序的先后顺序，构建双向长短期记忆网络BiLSTM，随后对样本特征进行编码，将样本中映射后的各工序的样本特征作为输入，双向长短期记忆网络BiLSTM的双向的隐藏状态拼接为输出，作为各工序的时间序列特征；

S303、将维度映射至相同维度的样本特征与时间序列特征相拼接，作为样本的初始特征编码。

进一步地，在步骤S4中，具体过程包括以下步骤：

S401、将样本的初始特征编码与质量指标进行拼接作为新的样本表示；

S402、将新的样本表示输多头入注意力机制，输出作为个样本的更新表示，其中包含了个样本间的相关性；

S403、将所有支持样本的更新表示通过一层的全连接网络，取平均并放缩后作为新生成的补充特征。

进一步地，新生成的补充特征采用下述公式完成：

；

其中，

；

其中，

进一步地，在步骤S5中，具体过程包括以下步骤：

S501、将支持集的样本表示与新生成的补充特征相结合作为支持集的输入特征表示，将查询集经编码后的特征表示作为查询集的输入；

S502、计算支持样本的更新表示作为解码器的部分输入；

S503、通过注意力机制计算支持集与查询集样本之间的相关性，其中每个支持样本的重要性被视为解码器中生成的权重参数；

S504、通过支持样本的生成参数与查询样本特征表示相乘加偏执，获得对查询样本的质量预测结果。

进一步地，在步骤S6中，具体过程包括以下步骤：

S601、对新生成的补充特征、预测结果和解码器的生成参数分别构建多元损失函数；

S602、对多元损失函数加权求和作为数字孪生模型的总损失函数；

S603、通过反向传播算法对数字孪生模型的参数进行迭代更新得到新的数字孪生模型。

借由上述技术方案，本发明提供了一种基于元学习的产品制造质量预测方法，至少具备以下有益效果：

1、本发明通过双向的长短期记忆网络可以挖掘出与产品工艺流程中各个工序所对应的时序特征，在特征中保留了不同工序间相互耦合的影响关系；

基于元学习的思想，通过多头注意力机制挖掘数据中与各质量指标对应的反映样本共性的先验知识作为特征的补充，能够充分利用有限的数据，使预测具有更好可解释性；解码预测过程基于注意力机制，结合已知结果样本与未知结果样本之间的关系，能够有效的提高小样本两支持下的预测准确性。

2、本发明能够实现对航空航天领域复杂结构件加工状态的预测，并进一步实现工艺调控，显著提高航空发动机关键构件的加工效率和质量，并能保证加工过程的安全性。

3、本发明采用元学习的思想，结合注意力机制对样本实例当中的先验知识进行挖掘，充分利用数据样本，有利于提高复杂工艺过程下小样本量预测的准确性。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本发明产品制造质量预测方法的流程图；

图2为本发明某复杂结构件的关键制造的流程图；

图3为本发明新的数字孪生模型的网络结构示意图；

图4为本发明新的数字孪生模型的预测试验结果图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图 和具体实施方式对本发明作进一步详细的说明。借此对本申请如何应用技术手段来解决技术问题并达成技术功效的实现过程能充分理解并据以实施。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

请参照图1-图4，示出了本实施例的一种具体实施方式，本实施例采用元学习的思想，结合注意力机制对样本实例当中的先验知识进行挖掘，充分利用数据样本，有利于提高复杂工艺过程下小样本量预测的准确性。

请参照图1和图2，以图2所示的某复杂结构件的关键制造流程为例，该产品制造质量预测方法的具体实施方式包括如下步骤：

S1、获取制造复杂结构件过程中各个制造工序的样本数据，样本数据包括工艺参数、相关传感器数据和质量指标；

各个制造工序的样本数据根据制造车间中工业产品的具体工艺流程，确定每道工序的工艺参数以及测量所得的质量指标，其中，工艺参数与质量指标的数量均为多个，同时每一个制造工序都对应至少一个样本数据，从而根据样本数据确定各工序中的工艺参数、相关传感器数据和质量指标。

S2、对样本数据进行预处理得到若干个样本数据集，并将样本数据集划分为训练集、验证集和测试集，再将每个样本数据集划分出支持集与查询集；

作为本实施例的优选方式，对于实现步骤S2所采用的方法如下：

S201、对各制造工序的工艺参数和复杂结构件的质量指标的样本数据进行异常值处理与归一化处理得到样本数据集；

异常值处理采用现有技术中的数据处理之异常值处理，以3σ原则建立在正态分布的等精度重复测量基础上而造成奇异数据的干扰或噪声难以满足正态分布，完成对异常值检测，随后采用删除、视为缺失值、平均值修正或盖帽法实现对于异常值处理。归一化处理采用现有技术所公知的归一化处理方法，此处不再详细赘述。

S202、将样本数据集划分为训练集、验证集和测试集，并在此基础上取出各数据集中的前K个样本作为支持集，其余作为查询集，其中K的取值通常为整个数据集样本数量的5%至20%，这种比例可以提供足够的训练数据来训练数字孪生模型，同时避免使用太多的数据而导致数字孪生模型过度拟合。

在该步骤中，各制造工序分别对应至少一个样本数据，而样本数据经过预处理后对应至少一个样本数据集，选择较多的样本数据集能够对数字孪生模型进行充分训练，同时提高数字孪生模型对于复杂结构件制造过程的制造质量的精准预测。

S3、将样本数据集对应不同工序的样本特征映射至相同维度，并根据各工序的先后顺序对特征进行时间序列编码作为补充特征；

作为本实施例的优选方式，对于实现步骤S3所采用的方法如下：

S301、将每个不同工序所对应的不同维度的样本特征通过一个全连接神经网络映射至相同的维度；

在步骤S301中，不同维度的样本特征映射至相同的维度采用下述公式完成：

；

其中，

S302、根据各工序的先后顺序，构建双向长短期记忆网络BiLSTM，随后对样本特征进行编码，将样本中映射后的各工序的样本特征作为输入，双向长短期记忆网络BiLSTM的双向的隐藏状态拼接为输出，作为各工序的时间序列特征；

在步骤S302中，时间序列特征的提取采用下述公式完成：

；

其中

双向长短期记忆网络BiLSTM的具体计算方法为：

对于正向的LSTM有：

；

其中

；

其中

；

其中

S303、将维度映射至相同维度的样本特征与时间序列特征相拼接，作为样本的初始特征编码。

S4、通过支持集中的样本数据对与测量指标相关的反映样本共性的期望表征进行挖掘作为新生成的补充特征；

作为本实施例的优选方式，对于实现步骤S4所采用的方法如下：

S401、将样本的初始特征编码与质量指标进行拼接作为新的样本表示；

S402、将新的样本表示输多头入注意力机制，输出作为个样本的更新表示，其中包含了个样本间的相关性；

S403、将所有支持样本的更新表示通过一层的全连接网络，取平均并放缩后作为新生成的补充特征。

在步骤S4中，新生成的补充特征采用下述公式完成：

；

其中，

；

其中，

S5、构建解码器，结合支持集的输入与补充特征，对查询集中样本的质量指标进行预测得到质量预测结果；

作为本实施例的优选方式，对于实现步骤S5所采用的方法如下：

S501、将支持集的样本表示与新生成的补充特征相结合作为支持集的输入特征表示，将查询集经编码后的特征表示作为查询集的输入；

S502、重复步骤S402中的过程，计算支持样本的更新表示作为解码器的部分输入；

S503、通过注意力机制计算支持集与查询集样本之间的相关性，其中每个支持样本的重要性被视为解码器中生成的权重参数；

权重参数生成表示为：

；

其中，

；

其中，

S504、通过支持样本的生成参数与查询样本特征表示相乘加偏执，获得对查询样本的质量预测结果。

质量预测结果根据以下公式计算：

；

S6、对新生成的补充特征与质量预测结果分别构建损失函数，并通过反向传播算法更新参数得到新的数字孪生模型；

作为本实施例的优选方式，对于实现步骤S6所采用的方法如下：

S601、对新生成的补充特征、预测结果和解码器的生成参数分别构建多元损失函数；

多元损失函数

；

其中，

；

其中，

；

其中，以均方误差作为产品质量指标预测的损失

S602、对多元损失函数加权求和作为数字孪生模型的总损失函数；

；

其中，以各部分损失的加权和作为整个数字孪生模型迭代的多元损失函数

S603、通过反向传播算法对数字孪生模型的参数进行迭代更新得到新的数字孪生模型。

S7、将复杂结构件制造过程的样本输入至新的数字孪生模型完成对工业制造过程的制造质量预测。

本实施例所提出的基于元学习的产品制造质量预测数字孪生模型，通过双向的长短期记忆网络可以挖掘出与产品工艺流程中各个工序所对应的时序特征，在特征中保留了不同工序间相互耦合的影响关系；

基于元学习的思想，通过多头注意力机制挖掘数据中与各质量指标对应的反映样本共性的先验知识作为特征的补充，能够充分利用有限的数据，使预测具有更好可解释性；解码预测过程基于注意力机制，结合已知结果样本与未知结果样本之间的关系，能够有效的提高小样本两支持下的预测准确性。

具体的，请参照图3，为新的数字孪生模型的网络结构示意图，在图3中，

本实施例所提供的预测方法能够实现对航空航天领域复杂结构件加工状态的预测，并进一步实现工艺调控，显著提高航空发动机关键构件的加工效率和质量，并能保证加工过程的安全性。

同时采用元学习的思想，结合注意力机制对样本实例当中的先验知识进行挖掘，充分利用数据样本，有利于提高复杂工艺过程下小样本量预测的准确性。

以上实施方式对本发明进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。