基于逐级分段训练的高分辨距离像目标识别在线建库方法
文献发布时间:2023-06-19 11:52:33
技术领域
本发明属于雷达技术领域,具体涉及一种基于逐级分段训练的高分辨距离像目标识别在线建库方法。
背景技术
雷达高分辨距离像(High-Resolution Range Profile,简称HRRP)包含丰富的雷达目标结构特征,并具有易于获取、存储和处理等优点,对雷达目标识别与分类十分有价值,已成为雷达自动目标识别领域研究的热点。
识别雷达目标的前提是要在训练之前离线建立完备的雷达目标HRRP数据库。实际应用中由于非合作目标样本获取困难等原因,往往无法提前建立完备的数据库。利用雷达工作过程中积累的HRRP数据,通过在线学习识别模型的方式进行在线建库能够有效解决数据库非完备的问题,并已成为当前雷达目标识别领域的研究热点。目前已有的在线学习识别方法大多基于正则化及剪枝等方法对参数直接进行调整。比如经典的在线学习方法有弹性权重固化(Elastic Weight Consolidation,简称EWC),EWC采用正则化的策略,通过约束对旧任务重要的参数的变化,使得网络能够在学习新知识时保留旧知识。
但是,直接调整方法对参数修改有一定的限制。由于特定任务在神经网络的学习都有其对应的最佳性能参数空间,EWC方法依赖于不同任务参数空间的交集,如果新旧任务特征相差大那么参数空间交集就会变小,网络在学习新类别的同时忘记旧类别,目标识别的准确率就会快速下降。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种基于逐级分段训练的高分辨距离像目标识别在线建库方法。
本发明的一个实施例提供了一种基于逐级分段训练的高分辨距离像目标识别在线建库方法,包括:
获取当前任务的雷达高分辨距离像训练数据集;
对所述雷达高分辨距离像训练数据集进行预处理得到雷达高分辨距离像频域特征训练数据集;
利用所述雷达高分辨距离像频域训练数据集更新记忆数据集;
构建初始多层卷积神经网络;
利用所述记忆数据集对所述多层卷积神经网络进行训练得到训练中的多层卷积神经网络;
对所述训练中的多层卷积神经网络进行神经元重要性采样得到当前任务的重要性得分;
根据当前任务的重要性得分对所述训练中的多层卷积神经网络进行划分、再训练得到训练好的多层卷积神经网络;
将雷达高分辨距离像测试数据输入至所述训练好的多层卷积神经网络得到目标识别结果。
在本发明的一个实施例中,对所述雷达高分辨距离像训练数据集进行预处理得到雷达高分辨距离像频域训练数据集包括:
对所述雷达高分辨距离像训练数据集进行二范数归一化处理;
对二范数归一化处理后的雷达高分辨距离像训练数据集进行重心对齐处理;
对重心对齐后的雷达高分辨距离像训练数据集进行傅里叶变换得到所述雷达高分辨距离像频域训练数据集。
在本发明的一个实施例中,根据所述若干任务从所述雷达高分辨距离像频域训练数据集中获取记忆数据集包括:
获取当前任务的目标类别;
根据上次任务的目标类别与当前任务的目标类别计算记忆数据集中目标类别个数;
通过随机采样方式从所述雷达高分辨距离像频域训练数据集中获取对应目标类别个数的雷达高分辨距离像频域训练数据以更新记忆数据集。
在本发明的一个实施例中,构建的初始多层卷积神经网络包括依次连接的输入层、第一卷积层、第一池化层、第二卷积层、第二池化层、第三卷积层、第三池化层、全连接层、分类层、输出层。
在本发明的一个实施例中,利用所述记忆数据集对所述多层卷积神经网络进行训练得到训练中的多层卷积神经网络包括:
在第一训练周期,利用所述记忆数据集对所述多层卷积神经网络进行训练;
在第二训练周期,利用当前任务的目标类别对应的雷达高分辨距离像频域训练数据集和所述记忆数据集对第一训练周期下对应的所述多层卷积神经网络进行辅助训练;
在第三训练周期,利用所述记忆数据集对第二训练周期下对应的所述多层卷积神经网络继续训练得到所述训练中的多层卷积神经网络。
在本发明的一个实施例中,所述第一训练周期为所述多层卷积神经网络训练开始时,持续周期为0.3E,所述第三训练周期为所述多层卷积神经网络训练结束前,持续周期为0.1E,所述第二训练周期介于所述第一训练周期与所述第三训练周期之间,持续周期为0.6E,E为每次任务中多层卷积神经网络的训练轮次。
在本发明的一个实施例中,对所述训练中的多层卷积神经网络进行神经元重要性采样得到当前任务的重要性得分包括:
设计神经元重要性损失函数;
根据所述神经元重要性损失函数计算所述训练对所述训练中的多层卷积神经网络进行神经元重要性采样得到所述当前任务的重要性得分。
在本发明的一个实施例中,设计的神经元重要性损失函数表示为:
其中,L(y;x;Θ)表示多层卷积神经网络参数为Θ条件下输入x输出为y时的损失函数,多层卷积神经网络共L层,L为大于0的整数,网络第l(l=1,2,...,L)层的神经元个数为O,O为大于0的整数,
在本发明的一个实施例中,根据当前任务的重要性得分对所述训练中的多层卷积神经网络进行划分、再训练得到训练好的多层卷积神经网络包括:
设置参数冻结率;
根据当前任务的重要性得分和参数冻结率将所述训练中的多层卷积神经网络的网络参数划分为重要参数、次要参数、固定参数;
将重要参数加入固定参数集,保持次要参数不变,更新重要参数,根据当前任务的雷达高分辨距离像频域训练数据集以及记忆数据集对所述训练中的多层卷积神经网络继续训练得到所述训练好的多层卷积神经网络。
在本发明的一个实施例中,将雷达高分辨距离像测试数据输入至所述训练好的多层卷积神经网络得到目标识别结果包括:
对所述雷达高分辨距离像测试数据进行二范数归一化处理;
对二范数归一化处理后的雷达高分辨距离像测试数据进行重心对齐处理;
对重心对齐后的雷达高分辨距离像测试数据进行傅里叶变换得到雷达高分辨距离像频域测试数据;
将所述雷达高分辨距离像频域测试数据输入至所述训练好的多层卷积神经网络得到目标识别结果。
与现有技术相比,本发明的有益效果:
本发明提供的基于逐级分段训练的高分辨距离像目标识别在线建库方法,使用了多层卷积神经网络,从雷达高分辨距离像HRRP数据的频域信息中提取出高维特征,克服了现有技术由于目标识别的特征信息量有限,导致目标识别准确率不高的问题,使得本本实施例用于目标识别的特征信息更充分,更能反映目标的特性,提高了目标识别准确率。
以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
图1是本发明实施例提供的一种基于逐级分段训练的高分辨距离像目标识别在线建库方法的流程示意图;
图2是本发明实施例提供的一种基于逐级分段训练的高分辨距离像目标识别在线建库方法中多层卷积神经网络的结构示意图;
图3是本发明实施例提供的用于验证在线学习识别性能的仿真结果示意图;
图4是本发明实施例提供的用于验证递增参数冻结率设置下的在线学习识别性能的仿真结果示意图。
具体实施方式
下面结合具体实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
实施例一
请参见图1,图1是本发明实施例提供的一种基于逐级分段训练的高分辨距离像目标识别在线建库方法的流程示意图。本实施例提出了一种基于逐级分段训练的高分辨距离像目标识别在线建库方法,该基于逐级分段训练的高分辨距离像目标识别在线建库方法包括以下步骤:
步骤1、获取当前任务的雷达高分辨距离像训练数据集。
具体而言,本实施例提取当前任务雷达回波在雷达视线上沿着距离维的幅度信息作为高分辨距离像数据,以构成雷达高分辨距离像训练数据集,当前任务包括若干目标类别。不同任务包括的若干目标类别可能不同,获取的雷达高分辨距离像训练数据集可能不同。
步骤2、对雷达高分辨距离像训练数据集进行预处理得到雷达高分辨距离像频域训练数据集。
具体而言,本实施例步骤2对雷达高分辨距离像训练数据集进行预处理得到雷达高分辨距离像频域训练数据集包括步骤2.1、步骤2.2、步骤2.3:
步骤2.1、对雷达高分辨距离像训练数据集进行二范数归一化处理。
具体而言,本实施例对雷达高分辨距离像训练数据集中每一雷达高分辨距离像训练数据进行二范数归一化处理消除幅度敏感性。
步骤2.2、对二范数归一化处理后的雷达高分辨距离像训练数据集进行重心对齐处理。
具体而言,本实施例对二范数归一化处理后的雷达高分辨距离像训练数据集进行重心对齐处理消除平移敏感性。
步骤2.3、对重心对齐后的雷达高分辨距离像训练数据集进行傅里叶变换得到雷达高分辨距离像频域训练数据集。
具体而言,本实施例对重心对齐后的雷达高分辨距离像训练数据集进行傅里叶变换,得到雷达高分辨距离像频域训练数据集。
步骤3、利用雷达高分辨距离像频域训练数据集更新记忆数据集。
具体而言,本实施例步骤3利用雷达高分辨距离像频域训练数据集更新记忆数据集包括步骤3.1、步骤3.2、步骤3.3:
步骤3.1、获取当前任务的目标类别。
具体而言,由步骤1可知当前任务包括若干目标类别,在更新记忆数据集时,首先获取当前任务的目标类别,比如当前存在15类飞机获取训练数据,确定当前任务目标类别为15。本实施例确定当前任务的目标类别,将当前任务的目标类别对应的雷达高分辨距离像频域训练数据作为当前任务的训练数据集。
步骤3.2、根据上次任务的目标类别与当前任务的目标类别计算记忆数据集中目标类别个数。
具体而言,本实施例当新数据暴露于多层卷积神经网络时,当前任务新增加目标类别个数为C
其中,
步骤3.3、通过随机采样方式从雷达高分辨距离像频域训练数据集中获取对应目标类别个数的雷达高分辨距离像频域训练数据以更新记忆数据集。
具体而言,本实施例根据步骤3.2计算的更新的记忆集中每类目标的采样个数,采样方式采用分帧随机采样:将该目标类别样本分帧后对各帧数据进行随机采样,每类采样k个样本,由于不同帧包含不同角域的结构信息,这些样本能够更充分的提取特征,可以作为该类别的代表性样本;删除旧类别多余样本,为新类别样本分配内存,将记忆集中旧类别样本集随机重排序,删除多余样本,删除后的样本将直接丢弃不再使用。通过上述方式实现从雷达高分辨距离像频域训练数据集中获取对应目标类别个数的雷达高分辨距离像频域训练数据以更新记忆数据集,从而获取的特征数据选择更全面。
步骤4、构建初始多层卷积神经网络。
具体而言,请参见图2,图2是本发明实施例提供的一种基于逐级分段训练的高分辨距离像目标识别在线建库方法中多层卷积神经网络的结构示意图,本实施例构建的初始多层卷积神经网络包括依次连接的输入层、第一卷积层、第一池化层、第二卷积层、第二池化层、第三卷积层、第三池化层、全连接层、分类层、输出层。将预处理后的雷达高分辨距离像频域数据集作为该多层卷积神经网络的输入数据,并设置各层参数,本实施例多层卷积神经网络的各层参数设置如下:
输入层输入数据维度1*200,将第一卷积层设置为输出32个通道,卷积核尺寸设置为1*9个距离单元,该层连接的第一池化层的池化下采样核尺寸设置为1*2个距离单元;
将第二卷积层设置为输出64个通道,卷积核尺寸设置为1*9个距离单元,该层连接的第二池化层的池化下采样核尺寸设置为1*2个距离单元;
将第三卷积层设置为输出128个通道,卷积核尺寸设置为1*9个距离单元,该层连接的第三池化层的池化下采样核尺寸设置为1*2个距离单元;
将全连接层设置为输出500个结点,dropout概率设置为0.5;
分类层采用softmax分类器,分类后由输出层输出结点个数设置为雷达高分辨距离像数据库所有类别个数。
步骤5、利用记忆数据集对多层卷积神经网络进行训练得到训练中的多层卷积神经网络。
具体而言,本实施例若当前任务对应的多层卷积神经网络的训练轮次为E,则本实施例步骤5利用步骤3中均匀分帧采样得到的记忆数据集,对多层卷积神经网络进行训练得到训练中的多层卷积神经网络,具体步骤5包括步骤5.1、步骤5.2、步骤5.3:
步骤5.1、在第一训练周期,利用记忆数据集对多层卷积神经网络进行训练。
具体而言,本实施例第一训练周期具体为多层卷积神经网络训练开始时的几个时期,持续周期为0.3E,在多层卷积神经网络训练开始的0.3E持续周期内将记忆数据集输入多层卷积神经网络进行训练。
步骤5.2、在第二训练周期,利用当前任务的目标类别对应的雷达高分辨距离像频域训练数据集和记忆数据集对第一训练周期下对应的多层卷积神经网络进行辅助训练。
具体而言,本实施例第二训练周期介于第一训练周期与步骤5.3的第三训练周期之间,即在多层卷积神经网络训练期间在第二训练周期内辅助将当前任务的目标类别对应的雷达高分辨距离像频域训练数据集和记忆数据集投入网络,此时的网络为第一训练周期训练下对应的多层卷积神经网络,辅助持续周期为0.6E。
步骤5.3、在第三训练周期,利用记忆数据集对第二训练周期下对应的多层卷积神经网络进行继续训练得到训练中的多层卷积神经网络。
具体而言,本实施例第三训练周期具体为多层卷积神经网络训练结束前的几个时期,持续周期为0.1E,在多层卷积神经网络训练结束前的0.1E持续周期内将记忆数据集输入多层卷积神经网络进行训练,此时的多层卷积神经网络为第二训练周期训练下对应的多层卷积神经网络。
本市实施例通过步骤5.1、步骤5.2、步骤5.3的训练方式实现了在新类别数据加入数据库时进行记忆辅助训练和平衡,避免了灾难性遗忘,灾难性遗忘的主要原因之一是特征提取和分类层中的知识漂移,本实施例通过三管齐下的策略最大程度地减少这种漂移问题,该三管齐下的策略包括:步骤5.1处理提供了均衡的初始化;步骤5.2处理回顾了先前的数据,从而巩固整个网络的先前学习的知识;步骤5.3处理通过平衡分类层来校正偏差,与在分类器之后使用额外的偏差校正层的方法相比,该方法简单而有效。
步骤6、对训练中的多层卷积神经网络进行神经元重要性采样得到当前任务的重要性得分。
具体而言,每次任务结束后,对步骤5训练得到的多层卷积神经网络进行重要性采样,对神经元的重要性衡量标准为单个神经元对损失函数的影响,则本实施例设计了神经元重要性损失函数,即去掉后判断识别率是否下降,降的越多表明这个神经元越重要,具体设计的神经元重要性损失函数表示为:
其中,L(y;x;Θ)表示多层卷积神经网络参数为Θ条件下输入x输出为y时的损失函数,多层卷积神经网络共L层,L为大于0的整数,网络第l(l=1,2,...,L)层的神经元个数为O,O为大于0的整数,
进一步地,根据神经元重要性损失函数计算训练对训练中的多层卷积神经网络进行神经元重要性采样得到当前任务的重要性得分。
具体而言,本实施例公式(2)中
其中,
本实施例中
步骤7、根据当前任务的重要性得分对训练中的多层卷积神经网络进行划分、再训练得到训练好的多层卷积神经网络。
具体而言,本实施例根据当前任务的重要性得分对训练中的多层卷积神经网络进行划分、再训练得到训练好的多层卷积神经网络包括:设置参数冻结率;根据当前任务的重要性得分和参数冻结率将训练中的多层卷积神经网络的网络参数划分为重要参数、次要参数、固定参数;将重要参数加入固定参数集,保持次要参数不变,随机初始化更新重要参数,并利用当前任务中的雷达高分辨距离像频域训练数据集和记忆数据集再训练训练中的多层卷积神经网络以加强重要参数的贡献,冻结重要参数,即在下一任务训练时,保持重要参数不变。其中,参数冻结率根据实际场景来设置,本实施例参数冻结率设置为0.1。
需要说明的是,本实施例初始多层卷积神经网络、训练中的多层卷积神经网络、训练好的多层卷积神经网络的网络结构相同,只是网络参数不同,训练好的多层卷积神经网络拥有最优网络参数。
步骤8、将雷达高分辨距离像测试数据输入至训练好的多层卷积神经网络得到目标识别结果。
具体而言,本实施例将雷达高分辨距离像测试数据输入至训练好的多层卷积神经网络,以测试样本最大概率值对应的目标类别作为雷达高分辨距离像测试数据的类别,得到目标识别结果。其中,将雷达高分辨距离像测试数据输入至训练好的多层卷积神经网络之前,同雷达高分辨距离像训练数据集,包括:对雷达高分辨距离像测试数据进行二范数归一化处理;对二范数归一化处理后的雷达高分辨距离像测试数据进行重心对齐处理;对重心对齐后的雷达高分辨距离像测试数据进行傅里叶变换得到雷达高分辨距离像频域测试数据;将雷达高分辨距离像频域测试数据输入至训练好的多层卷积神经网络得到目标识别结果。
为了验证本实施例提出的基于逐级分段训练的高分辨距离像目标识别在线建库方法的有效性,通过如下仿真实验对本发明进行验证。
1、仿真条件:
本发明的仿真实验中所用的雷达数据库是使用电磁仿真软件生成了15型飞机目标的HRRP数据,载频为5.2GHz,带宽为400MHz。生成的HRRP数据维度为200,各型飞机的训练样本数为1600,训练样本总数为24000;各类飞机目标测试样本数为1600,测试样本总数为24000。为了检验识别方法的推广性能,训练样本和测试样本之间的俯仰角存在2.2°的差异。
2、仿真内容与结果分析:
本发明的仿真实验为基于HRRP数据的在线学习实验,使用多层卷积神经网络作为分类器网络,损失函数为交叉熵损失函数,网络结构如表1所示。仿真实验用的HRRP数据总共有15类飞机目标,每次新增类别(飞机型号)分别设置为3个,进行在线学习。设置初始任务类别数量为3个,每次在线学习任务新增3个类别,总共进行4次在线学习。
表1多层卷积神经网络的网络结构
请参见图3,图3是本发明实施例提供的用于验证在线学习识别性能的仿真结果示意图,从图3中可以看出,仿真实验的三种方法中,本发明均衡地逐级分段训练方法的平均识别准确率最高,为96.21%,这是由于本发明方法采用冻结参数方式代替剪枝保留了各类别的相关信息,本发明方法的最终准确率也是最高的,较好的缓解了灾难性遗忘问题,这得益于记忆集均衡训练。
请参见图4,图4是本发明实施例提供的用于验证递增参数冻结率设置下的在线学习识别性能的仿真结果示意图,从图4中可以看到,递增参数冻结率相比平均参数冻结率,能更好的缓解灾难性遗忘,这是由于后续样本类别增加的同时,网络结构也进行了相应的调整,留出了更多的网络参数用以学习。
综上所述,本实施例提供的基于逐级分段训练的高分辨距离像目标识别在线建库方法,使用了多层卷积神经网络,从雷达高分辨距离像HRRP数据的频域信息中提取出高维特征,克服了现有技术由于目标识别的特征信息量有限,导致目标识别准确率不高的问题,使得本本实施例用于目标识别的特征信息更充分,更能反映目标的特性,提高了目标识别准确率;本实施例将雷达高分辨距离像HRRP数据划分为多个任务,基于卷积神经网络逐步分段训练,且由于本实施例方法使用了冻结参数冻结神经网络部分参数代替了参数正则化和剪枝,冻结参数使模型得以分段训练,即使不同任务特征相差较大也可以保留相关信息并持续学习,克服了正则化在后续任务添加的过程中模型训练空间逐渐减少因而性能降低的问题,使得本发明中的目标识别方法具备较好的分类能力;由于本实施例方法在冻结多层卷积神经网络参数时使用了递增参数冻结率,在后续训练中逐渐加大当前任务参数占比,克服了现有技术后续任务模型空间不足导致的精度下降的问题,使得本发明中的目标识别方法可以灵活地调节固定参数占比,提高识别性能。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
- 基于逐级分段训练的高分辨距离像目标识别在线建库方法
- 基于一维卷积神经网络的雷达高分辨距离像目标识别方法