基于全连接神经网络的大功率激光装置输出能量预测方法

技术领域

本发明涉及一种人工智能技术在大功率激光装置的应用技术。

背景技术

大功率激光装置属于庞大复杂的大科学工程，包括数十条光路，要求各光路的输出能量和功率保持平衡。为达到该要求，对各条光路的结构与参数进行了严密的设计。但由于每条光路内包括数以百计的光学元件与电气元件；这些元件在生产、加工、装校的过程中难免出现微小差异，这些差异的累加会造成各光路的输出性能不同于其设计值，存在一定偏差。并且，大功率激光装置的工作状态仅为一个单发、持续时间为数皮秒的脉冲，工作时间极短，成本极高，不能通过实时监控的方式对其进行测量与调整。因此需要对各光路的实际输出能量进行精准预测，从而通过调整输入能量的手段，以满足物理实验对各光路间输出能量平衡的要求。

对于长期从事该项物理实验工作的工程人员来说，长期累积的经验使他们对能量的输入输出的波动具有一定的敏锐度，能够通过前几次实验的测量结果，以直觉判断下一次实验的各光路输出能量。但该预测方法存在不准确的问题，难以保障实时性。人的直观预测没有理论依据，受主观情绪影响较大，预测趋势可能与真实趋势接近，但预测数值会与真实数值偏差极大。同时有数十条光路需要对其输出能量进行预测，并对其输入能量进行调整，由于人的计算与反应速度有限，因此单靠工程人员难以高效地完成此项任务，需要建造一个智能化自动化的管控平台，为装置的参数配置、计划调整、资源配备提供决策支持。

激光传输放大的过程可以依照物理模型进行仿真模拟，但用这种方法计算出来的数值属于理论值。在实际的装置运行过程中，测量数据与理论值之间存在偏差，而理论模型无法预测该偏差。偏差的存在就会导致各光路输出能量不满足物理实验的平衡要求，使实验效果不理想，甚至导致实验失败。由于装置对光束能量起到一个放大的作用，在光路输出端的能量可达几千焦耳，微小的偏差比例也会造成较大的能量误差数值，因此需要设计一个能够精准预测各光路输出能量的方法，尤为重要。

发明内容

本发明的目的是为了解决现有的物理模型仿真模拟无法对光路输出能量进行准确预测的问题，提出了基于全连接神经网络的大功率激光装置输出能量预测方法。

本发明所述的基于全连接神经网络的大功率激光装置输出能量预测方法，该预测方法包括以下步骤：

步骤一、在激光装置各光路的指定位置设立监测点，对各光路的各监测点的输入能量和输出能量进行测量，提取指定光路每次运行的输入能量和输出能量作为测量数据，并获得配置数据；

步骤二、将测量数据中的输入能量及其对应的配置数据组合成一个向量，将该向量作为输入数据，将测量数据中的输出能量作为输出数据，建立输入输出数据集；

步骤三、对输入输出数据集内存在的异常数据点进行剔除，并将输入输出数据集按比例分为训练数据集和测试数据集；

步骤四、使用多个全连接神经网络模型对训练数据集同时进行训练，多次训练后得到训练后的神经网络模型；

步骤五、将训练后的多个神经网络模型进行集成，得到最优解神经网络模型；

步骤六、将测试数据集输入最优解神经网络模型，得到预测的输出能量。

进一步的，步骤一中的配置数据包括光路编号、时间编号、放大片配置和脉宽，并且步骤一的测量数据在其对应的特征维度需进行归一化处理；

所述归一化处理的具体方法为：将激光装置每次运行的光路编号、时间编号、放大片配置和脉宽都缩放调整为0到1之间的数值，并且记录缩放系数。

进一步的，步骤一中的指定光路包括两种方式，该两种方式为：指定光束方式和指定束组方式；

所述指定光束方式是指对装置的数十条光路都建立网络预测模型；

所述指定束组方式是指对装置的激光传输过程中共用一套硬件设备的多条光路共同建立一个网络预测模型，用于预测指定束组的整体趋势以及检测单条光路的异常情况。

进一步的，步骤一中的指定位置为激光装置中各子系统的连接处，并且所述指定位置包括三处测量点；

所述各子系统包括预放系统、主放系统和靶场系统；

所述三处测量点组成了两个工作段。

进一步的，步骤二中建立输入输出数据集的具体方法为：

将测量数据中的输入能量及其对应的配置数据组合成一个向量时，将相同运行时间的输入能量测量数据与配置数据组成一个列向量，此为一个样本；将多个样本，即多个运行时间的列向量横向排列，组成多样本的二维向量，形成输入数据；再将对应运行时间的输出能量测量数据横向排列，组成多样本的一维向量，形成输出数据。

进一步的，步骤三中剔除输入输出数据集内存在的异常数据点的方式包括两种；

第一种为通过快速预训练一个小型化的网络，得到输入输出能量之间的大致关系作为基准，将远离这个基准关系的数据点剔除出输入输出数据集；

第二种是根据实验前的配置参数，将理论计算得到的期望输出能量与实验测量得到的实际输出能量对比，计算偏差百分比，将偏差百分比大的数据点剔除出输入输出数据集。

进一步的，步骤三中的训练数据集为早期产生的实验测量数据和配置数据；步骤三中的测试数据集为最近实验产生的数据。

进一步的，步骤四中的多个全连接神经网络模型的结构相同；

多个全连接神经网络模型对训练数据集同时进行训练的具体训练过程为：同时用训练数据集对多个全连接神经网络模型进行迭代训练，直至满足迭代停止的条件，即完成训练；

其中，迭代停止的条件分为两种，一种是训练数据集代入神经网络模型后计算得到的损失函数，也可称之为评价函数，数值足够小，即满足预设条件；另一种是验证数据集代入神经网络模型后，计算得到的损失函数连续增长次数达到预设阈值条件。

进一步的，步骤五中将训练后的多个神经网络模型进行集成的具体方法为：利用各个神经网络模型计算出的损失函数来定义其权值，权值为该子网络的损失函数的倒数在所有子网络的损失函数的倒数总和中的占比；对各个子网络模型的预测结果进行加权，得到一个相对较准确的输出能量预测结果，即完成集成。

本发明的有益效果是采用深度学习的全连接神经网络，通过历史测量数据样本对网络模型进行训练，将高功率激光装置中的主放大器部分的输入输出增益关系看作是传递函数，用网络去逼近目标传递函数，且使该传递函数随多维自变量变化，预测输出能量在不同运行时间，不同运行配置情况下均得到了更高的准确率，大功率激光装置输出能量的预测准确度得到10％的提升；同时本发明引入异常点剔除和集成学习方法，不仅去除了实验失败或不理想的数据对模型训练过程的影响，而且使不稳定的、收敛具有不确定性的单一神经网络预测效果稳定、准确，保证其收敛性；并且本发明采用多输入单输出网络模型，考虑了多种配置参数对增益性能的影响，包括放大器片数、运行时间等；装置状态发生改变时，现有的预测方法需要建立多个模型以便准确预测输出能量，但采用本发明所述方法，只需要建立一个模型即可完成输出能量的预测。

附图说明

图1为具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法流程图；

图2为具体实施方式一中全连接神经网络模型的结构示意图；

图3为具体实施方式一步骤五中集成前的10个神经网络模型的输出能量预测效果图；

图4为具体实施方式一步骤五中集成后的神经网络模型的输出能量预测效果图；

图5为具体实施方式一中优化前后相对预测偏差图；

图6为具体实施方式一中优化前后预测相对偏差统计直方图。

具体实施方式

具体实施方式一：结合图1至图6说明本实施方式，本实施方式所述的基于全连接神经网络的大功率激光装置输出能量预测方法，该预测方法包括以下步骤：

步骤一、在激光装置各光路的指定位置设立监测点，对各光路的各监测点的输入能量和输出能量进行测量，提取指定光路每次运行的输入能量和输出能量作为测量数据，并获得配置数据；测量数据存储在excel表格中，需要根据选定的光路对相关测量数据进行提取；

步骤二、将测量数据中的输入能量及其对应的配置数据组合成一个向量，将该向量作为输入数据，将测量数据中的输出能量作为输出数据，建立输入输出数据集；将测量得到输入能量、光路编号(包括束组和光路两个元素)、时间编号、腔内放大片数量、助推放大片数量、脉宽组合成一个7*n的向量，即7个特征点，n个样本；将测量得到的输出能量作为输出向量，大小为1*n，n为样本数；

步骤三、对输入输出数据集内存在的异常数据点进行剔除，并将输入输出数据集按比例分为训练数据集和测试数据集；数据集内存在异常数据点，可能包括一些失败的运行次数、部件出现异常的实验。对异常点的剔除有两种方法，利用神经网络的剔除方法和利用先验知识的剔除方法；利用神经网络的方法需要建立一个小型网络，用当前未剔除异常点的数据集对其进行训练；训练完成后，再利用该数据集测试网络效果，将网络输出结果与数据集中的输出数据进行对比，差异较大的点则视其为异常点，需要进行剔除；利用先验知识的剔除方法需要提取年度运行数据集中的期望数据，计算指定光路每次运行期望得到的主放大器输出能量与实际测量得到的主放大器输出能量之间的相对偏差，设定阈值为15％，若某次运行的数据计算出的相对偏差超过该阈值，则认为该数据为异常数据，需要将其剔除；将去除异常数据点后的数据集按照时间顺序排列，并按照8：1：1的比例分为训练集、交叉验证集和测试集；

步骤四、使用多个全连接神经网络模型对训练数据集依次进行训练，多次训练后得到训练后的神经网络模型；其中，建立了10个相同的全连接网络，共三层，两个隐藏层，一个输出层，隐藏层节点数分别为20和40，隐藏层的激活函数为双曲正切函数，输出层的激活函数为线性函数，如图2所示，然后分别对这10个模型进行训练。模型的训练就是通过从已有的训练集数据中学习输入能量与输出能量之间的关系，建立一个复杂的函数；将去除异常点后的训练数据集用来对模型进行训练，观察结果并迭代优化，直至利用交叉验证集数据对模型进行验证时效果符合终止条件；结果用评价函数来进行表征，评价函数为均方差函数，来表示预测输出与真实输出的相似程度，该值越小，表示预测值与真值越接近；终止条件包括迭代次数达到预设上限，评价函数值小于预设阈值，交叉验证集验证结果的评价函数值连续增长次数达到预设上限；迭代次数上限为3000，评价函数阈值为10-

将训练后的多个神经网络模型进行集成，得到最优解神经网络模型；10个网络的集成是采用加权平均的方法，权值取决于评价函数值；评价函数值越高，说明预测效果越差，所以权值等于评价函数值的倒数，使预测准确的模型对最终结果的贡献更大，不准确的模型对集成后的结果贡献较小，从而得到更准确的最终预测结果。将每个网络模型的输出乘以各自的权值，再除以权值之和，得到加权平均的集成结果，如图3所示，为集成前的10个神经网络模型的输出能量预测效果图；如图4所示，为集成后的10个神经网络模型的输出能量预测效果图；

步骤六、将测试数据集输入最优解神经网络模型，得到预测的输出能量。若需要预测下一次运行时光路中主放大器输出能量的大小，将预放输出能量和配置参数以数据集的形式组合成一个7*1的向量，输入到训练好的最优解网络模型中，就可以在输出层得到预测的主放大器输出能量；

在本实施方式中，能量测量数据及其对应的配置数据取自大功率激光装置的运行数据，在各光路关键位置处设立监测点，对各关键位置的能量进行测量，并分光路按时间顺序进行存储；对于选中的待预测光路，提取每次运行的测量数据与配置数据作为数据的输入特征，并组合成矩阵形式使用；利用两种方法对数据中的异常数据进行剔除，包括利用神经网络的方法和利用先验知识的方法；由于单个网络可能存在不收敛、欠拟合、过拟合的问题，采用多个网络分别训练，用一定方法将各个网络的结果集成起来，得到更准确的预测结果；利用加权平均的方式将多个网络的预测结果组合起来，权值为评价函数的倒数，计算加权平均后预测结果准确。

具体实施方式二：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤一中的配置数据包括光路编号、时间编号、放大片配置和脉宽，并且步骤一的测量数据在其对应的特征维度需进行归一化处理；

所述归一化处理的具体方法为：将激光装置每次运行的光路编号、时间编号、放大片配置和脉宽都缩放调整为0到1之间的数值，并且记录缩放系数。

在本实施方式中，通过缩放调整以便神经网络进行学习；记录缩放系数以便后续还原操作。

具体实施方式三：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤一中的指定光路包括两种方式，该两种方式为：指定光束方式和指定束组方式；

所述指定光束方式是指对装置的数十条光路都建立网络预测模型；

所述指定束组方式是指对装置的激光传输过程中共用一套硬件设备的多条光路共同建立一个网络预测模型。

在本实施方式中，指定光束方式预测结果比较准确；在指定束组方式中，束组是邻近光束的集合，包含数条光路，在装置的激光传输过程中共用一套硬件设备，因此其趋势相似，这种方式可以预测指定束组的整体趋势，并且能够检测出单条光路的异常。

具体实施方式四：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤一中的指定位置为激光装置中各子系统的连接处，并且所述指定位置包括三处测量点；

所述各子系统包括预放系统、主放系统和靶场系统；

所述三处测量点组成了两个工作段。

在本实施方式中，由于其工作机理不同，通常会对单一工作段的输入输出能量进行计算和预测，能够为装置的异常检测提供分析和决策支持；不排除对两个工作段的总输入和总输出进行计算和预测，但在神经网络模型的建立上会增加其复杂度，且预测精度会有所降低。

具体实施方式五：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤二中建立输入输出数据集的具体方法为：

将测量数据中的输入能量及其对应的配置数据组合成一个向量时，将相同运行时间的输出能力能量测量数据与配置数据组成一个列向量，此为一个样本；将多个样本，即多个运行时间的列向量横向排列，组成多样本的二维向量，形成输入数据；再将对应运行时间的输出能量测量数据横向排列，组成多样本的一维向量，形成输出数据。

在本实施方式中，二维向量又称为矩阵。

具体实施方式六：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤三中剔除输入输出数据集内存在的异常数据点的方式包括两种；

第一种为通过快速预训练一个小型化的网络，得到输入输出能量之间的大致关系作为基准，将远离这个关系的数据点剔除出输入输出数据集；

第二种是根据实验前的配置参数，将理论计算得到的期望输出能量与实验测量得到的实际输出能量对比，计算偏差百分比，将偏差百分比大的数据点剔除出输入输出数据集。

具体实施方式七：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤三中的训练数据集为早期产生的实验测量数据和配置数据；步骤三中的测试数据集为最近实验产生的数据。

在本实施方式中，剔除异常点后的输入数据集与其对应的输出数据集按照时间顺序排列，按一定比例分为训练数据集，验证数据集与测试数据集，通常训练数据集所占比例较大；其中，训练数据集为早期产生的实验测量数据和配置数据，测试数据集为最近实验产生的数据。

具体实施方式八：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤四中的多个全连接神经网络模型的结构相同；

多个全连接神经网络模型对训练数据集同时进行训练的具体训练过程为：同时用训练数据集对多个全连接神经网络模型进行迭代训练，直至满足迭代停止的条件，即完成训练；

其中，迭代停止的条件分为两种，一种是训练数据集代入神经网络模型后计算得到的损失函数，也可称之为评价函数，数值足够小，即满足预设条件；另一种是验证训练数据集代入神经网络模型后，计算得到的损失函数连续增长次数满足预设条件。

具体实施方式九：本实施方式是对具体实施方式一所述的基于全连接神经网络的大功率激光装置输出能量预测方法进一步限定，在本实施方式中，步骤五中将训练后的多个神经网络模型进行集成的具体方法为：利用各个神经网络模型计算出的损失函数来定义其权值，权值为该子网络的损失函数的导数在所有子网络的损失函数的导数总和中的占比；对各个子网络模型的预测结果进行加权，得到一个相对较准确的输出能量预测结果，即完成集成。

在本实施方式中，由于参数随机初始化及局部极小值问题的影响，训练完成的神经网络模型对数据集的拟合能力参差不齐；在对这些子网络进行集成时，不能直接对它们的结果进行平均加权，需要利用各个神经网络模型计算出的损失函数来定义其权值，权值为该子网络的损失函数的导数在所有子网络的损失函数的导数总和中的占比；对各个子网络模型的预测结果进行加权，得到一个相对较准确的输出能量预测结果。