掌桥专利:专业的专利平台
掌桥专利
首页

一种基于类相关矩阵特征值分解的域自适应方法

文献发布时间:2023-06-19 13:46:35


一种基于类相关矩阵特征值分解的域自适应方法

技术领域

本发明属于计算机视觉技术领域,具体涉及一种基于类相关矩阵特征值分解的域自适应方法。

背景技术

在科技日益发达的今天,机器学习为我们增添了许多便利。但是机器学习的应用需要良好的标注数据,如果使用人工标注那将花费大量的时间与金钱,并且因为人与人之间的区别可能导致一些模棱两可的标注出现。为了避免这一现象,很多研究人员提出了迁移学习。迁移学习是指将一个领域学习到的知识迁移到另一个领域使用,并且能够起到良好效果。而域自适应属于迁移学习中的一个特殊情况,它要求两个领域的任务是一致的。

域自适应的问题定义为:给定两个域,分别为源域D

如果不考虑域自适应,直接使用在源域数据上训练出的分类网络,将会导致一定程度的性能下降,这是由于源域和目标域存在一定程度的分布差异。而域自适应就是为了降低由于源域和目标域存在一定程度的分布差异而给分类网络带来的损耗。

发明内容

本发明所要解决的技术问题是克服现有技术的不足,提供一种基于类相关矩阵特征值分解的域自适应方法,使用基于对抗性的方法,使得特征提取器和分类器能够自动学习目标域和源域之间的度量区别,避免了可能出现的人工偏差。

本发明提供一种基于类相关矩阵特征值分解的域自适应方法,包括如下步骤,

步骤S1、设定一个源域D

步骤S2、基于GANs利用对抗性训练同时训练特征提取器F和域分类器D,最后通过标签分类器G对样本进行分类;

步骤S3、用Resnet50作为特征提取器,将源域样本x

在式中,L(·)代表交叉熵损失函数,总的优化目标为:

min

min

通过联合变量h=(f,g)在标签分类器的预测g上调节域鉴别器D;

步骤S4、目标域上的分类器输出为

其中Z

其中,y

对主对角线上的值进行加权操作,并基于信息熵对类相关性进行加权操作,则,

其中,w

作为本发明的进一步技术方案,还包括步骤S4、对标签分类器G加以限制,将目标域上的分类器输出表示为

其中,Z

将两个类第j类和第j′类之间的类相关性初步定义为

y

对主对角线上的值进行加权操作,则

其中,熵是对不确定性的度量,

其中W

对加权后的类相关矩阵进行特征值分解,得到特征值的和,以特征值的和的均值作为标签分类器损失。

本发明的优点在于,

1、解决了源域和目标域之间的欠适配和不平等问题,使得对参数的选择敏感度降低,而收敛度更高分类精度更加准确。

2、与现有的经典分类方法相比,能够做出更准确的判断。

3、该方法并没有使用过于繁杂的函数设计,使得网络的训练时间大大缩短。

4、该方法使用基于对抗性的方法,使得特征提取器和分类器能够自动学习目标域和源域之间的度量区别。而不是通过人为定义,避免了可能出现的人工偏差。

附图说明

图1为本发明的网络结构示意图;

具体实施方式

请参阅图1,本实施例提供本发明基于类相关矩阵特征值分解的域自适应方法,包括以下步骤,

S1、给定一个源域D

S2、我们基于GANs的思想利用对抗性训练同时训练特征提取器F和域分类器D,最后通过标签分类器G对样本进行分类;

S3、我们采用Resnet50作为特征提取器,将源域样本x

式中,L(·)代表交叉熵损失函数,总的优化目标为:

min

min

式中,λ是源域分类风险和域分类的两个目标之间的超参数。我们通过联合变量h=(f,g)在标签分类器的预测g上调节域鉴别器D。D的一个简单情况是

S4、我们继续对标签分类器G加以限制,我们需要找到一个合适的标准来衡量目标域上的成对类混淆。与之前关注特征的CORAL等方法不同,我们扩展了类别预测。将目标域上的分类器输出表示为

在式中,Z

要注意的是,y

在式中,熵是对不确定性的度量,

表1自适应任务性能表

以上显示和描述了本发明的基本原理、主要特征和优点。本领域的技术人员应该了解,本发明不受上述具体实施例的限制,上述具体实施例和说明书中的描述只是为了进一步说明本发明的原理,在不脱离本发明精神范围的前提下,本发明还会有各种变化和改进,这些变化和改进都落入要求保护的本发明范围内。本发明要求保护的范围由权利要求书及其等效物界定。

相关技术
  • 一种基于类相关矩阵特征值分解的域自适应方法
  • 一种基于瞬时自相关矩阵稀疏分解的OTHR机动目标参数估计方法
技术分类

06120113807086