图像分类模型的训练方法、图像分类方法及装置
文献发布时间:2023-06-19 16:09:34
技术领域
本公开涉及图像处理技术领域和金融领域,更具体地,涉及一种图像分类模型的训练方法、图像分类方法及装置、电子设备、计算机可读存储介质和一种计算机程序产品。
背景技术
高光谱图像的范围广、数据量大、分辨率高、谱段信息丰富,已被广泛应用于城市规划、地图采集等领域。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:现有的高光谱图像分类算法存在信息冗余和上下文信息丢失,导致图像识别精度较低。
发明内容
有鉴于此,本公开提供了一种图像分类模型的训练方法、图像分类方法及装置、电子设备、计算机可读存储介质和计算机程序产品。
根据本公开的一个方面,提供了一种图像分类模型的训练方法,包括:
获取多个目标样本图像,其中,上述多个目标样本图像中的每个目标样本图像均包括至少一个样本对象以及上述至少一个样本对象的类别信息;
对与上述多个目标样本图像对应的上述至少一个样本对象进行处理,得到训练样本数据集,其中,上述训练样本数据集中的训练样本数据包括与上述多个目标样本图像对应的上述至少一个样本对象的空间维度信息和光谱维度信息;以及
利用上述训练样本数据集,训练上述图像分类模型,得到经训练的图像分类模型。
根据本公开的实施例,其中,上述空间维度信息包括高度信息和宽度信息;
上述对与上述多个目标样本图像对应的上述至少一个样本对象进行处理,得到训练样本数据集包括:
根据与上述多个目标样本图像对应的上述至少一个样本对象的高度信息和宽度信息,确定第一训练样本数据集;
根据与上述多个目标样本图像对应的上述至少一个样本对象的高度信息和光谱维度信息,确定第二训练样本数据集;以及
根据与上述多个目标样本图像对应的上述至少一个样本对象的宽度信息和光谱维度信息,确定第三训练样本数据集;
上述利用上述训练样本数据集,训练上述图像分类模型,得到经训练的图像分类模型包括:
利用上述第一训练样本数据集、上述第二训练样本数据集和上述第三训练样本数据集,训练上述图像分类模型,得到经训练的图像分类模型。
根据本公开的实施例,其中,上述图像分类模型包括第一网络支路、第二网络支路和第三网络支路;
上述利用上述第一训练样本数据集、上述第二训练样本数据集和上述第三训练样本数据集,训练上述图像分类模型,得到经训练的图像分类模型包括:
利用上述第一训练样本数据集训练上述第一网络支路,得到经训练的第一网络支路,其中,上述第一网络支路包括第一池化层、第一卷积层、第二卷积层和第三卷积层,上述第一池化层包括第一平均池化层和第一最大池化层;
利用上述第二训练样本数据集训练上述第二网络支路,得到经训练的第二网络支路,其中,上述第二网络支路包括第二池化层、第四卷积层、第五卷积层和第六卷积层,上述第二池化层包括第二平均池化层和第二最大池化层;以及
利用上述第三训练样本数据集训练上述第三网络支路,得到经训练的第三网络支路,其中,上述第三网络支路包括第三池化层、第七卷积层、第八卷积层和第九卷积层,上述第三池化层包括第三平均池化层和第三最大池化层。
根据本公开的实施例,其中,上述利用上述训练样本数据集,训练上述图像分类模型,得到经训练的图像分类模型包括:
将上述训练样本数据集输入至上述图像分类模型,输出与上述至少一个样本对象对应的预测分类结果;
将与上述至少一个样本对象对应的上述预测分类结果和上述类别信息输入至损失函数,输出损失结果;
根据上述损失结果调整上述图像分类模型的网络参数,直至上述损失函数或迭代次数满足预设条件;以及
将上述损失函数或迭代次数满足预设条件时得到的模型作为上述经训练的图像分类模型。
根据本公开的实施例,其中,上述将上述训练样本数据集输入至上述图像分类模型,输出与上述至少一个样本对象对应的预测分类结果包括:
将上述第一训练样本数据集输入至上述第一网络支路,输出第一预测分类结果;
将上述第二训练样本数据集输入至上述第二网络支路,输出第二预测分类结果;
将上述第三训练样本数据集输入至上述第三网络支路,输出第三预测分类结果;以及
根据上述第一预测分类结果、上述第二预测分类结果和上述第三预测分类结果,确定上述预测分类结果。
根据本公开的实施例,上述方法还包括,在上述对与上述多个目标样本图像对应的上述至少一个样本对象进行处理,得到训练样本数据集之前:
对上述多个目标样本图像中的上述每个目标样本图像进行特征提取,得到与上述多个目标样本图像对应的上述至少一个样本对象的上述空间维度信息和上述光谱维度信息。
根据本公开的实施例,上述方法还包括,在上述获取多个目标样本图像之前:
获取多个原始样本图像,其中,上述多个原始样本图像包括高光谱图像;以及
对上述多个原始样本图像中的上述每个原始样本图像进行正则化处理,得到上述多个目标样本图像。
根据本公开的另一个方面,提供了一种图像分类方法,包括:
获取待分类图像,其中,上述待分类图像包括高光谱图像;以及
将上述待分类图像输入至图像分类模型,输出图像分类结果,
其中,上述图像分类模型由如上上述的图像分类模型的训练方法训练得到。
根据本公开的另一个方面,提供了一种图像分类模型的训练装置,包括:
第一获取模块,用于获取多个目标样本图像,其中,上述多个目标样本图像中的每个目标样本图像均包括至少一个样本对象以及上述至少一个样本对象的类别信息;
处理模块,用于对与上述多个目标样本图像对应的上述至少一个样本对象进行处理,得到训练样本数据集,其中,上述训练样本数据集中的训练样本数据包括与上述多个目标样本图像对应的上述至少一个样本对象的空间维度信息和光谱维度信息;以及
训练模块,用于利用上述训练样本数据集,训练上述图像分类模型,得到经训练的图像分类模型。
根据本公开的另一个方面,提供了一种图像分类装置,包括:
第二获取模块,用于获取待分类图像,其中,上述待分类图像包括高光谱图像;以及
分类模块,用于将上述待分类图像输入至图像分类模型,输出图像分类结果,
其中,上述图像分类模型由如上上述的图像分类模型的训练方法训练得到。
根据本公开的另一个方面,提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当上述一个或多个指令被上述一个或多个处理器执行时,使得上述一个或多个处理器实现如上所述的方法。
根据本公开的另一个方面,提供了一种计算机可读存储介质,其上存储有可执行指令,上述可执行指令被处理器执行时使处理器实现如上所述的方法。
根据本公开的另一个方面,提供了一种计算机程序产品,上述计算机程序产品包括计算机可执行指令,上述计算机可执行指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,通过对与多个目标样本图像对应的至少一个样本对象进行处理,并利用得到的训练样本数据集训练图像分类模型,得到经训练的图像分类模型。由于训练样本数据集中的训练样本数据同时包括与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息,因而至少部分地克服了相关技术中的图像分类方法存在的信息冗余和上下文信息丢失的技术问题,增强了空间维度信息和光谱维度信息的判别性,从而提高了图像分类的精度。此外,当利用图像分类模型对目标样本图像进行处理时,能够准确的对目标样本图像进行分类,从而实现了提高图像分类的效率和准确率,以及降低人工分类成本的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用图像分类模型的训练方法、图像分类方法的系统架构图;
图2示意性示出了根据本公开实施例的图像分类模型的训练方法的流程图;
图3示意性示出了根据本公开实施例的图像分类模型的训练过程的示例示意图;
图4示意性示出了根据本公开实施例的图像分类方法的流程图;
图5示意性示出了根据本公开实施例的图像分类模型的训练装置的结构框图;
图6示意性示出了根据本公开实施例的图像分类装置的结构框图;以及
图7示意性示出了根据本公开实施例的适于实现图像分类模型的训练方法、图像分类方法的电子设备的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
在本公开的技术方案中,在获取或采集用户个人信息之前,均获取了用户的授权或同意。
高光谱图像的范围广、数据量大、分辨率高、谱段信息丰富,已被广泛应用于城市规划、地图采集等领域。
针对高光谱图像的分类方法目前主要采用基于像素块的卷积神经网络算法,即通过将高光谱图像切分为像素块,然后利用像素块和标签训练得到神经网络模型。
但是,由于现有的高光谱图像分类算法存在信息冗余和上下文信息丢失,并且忽略了图像中各个通道间的交互信息,容易导致图像识别精度较低。
为了至少部分地解决相关技术中存在的技术问题,本公开提供了一种图像分类模型的训练方法、图像分类方法、电子设备和计算机可读存储介质,可以应用于图像处理技术领域和金融领域。该图像分类模型的训练方法包括:获取多个目标样本图像,其中,多个目标样本图像中的每个目标样本图像均包括至少一个样本对象以及至少一个样本对象的类别信息;对与多个目标样本图像对应的至少一个样本对象进行处理,得到训练样本数据集,其中,训练样本数据集中的训练样本数据包括与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息;以及利用训练样本数据集,训练图像分类模型,得到经训练的图像分类模型。
需要说明的是,本公开实施例提供的图像分类模型的训练方法、图像分类方法和装置可用于图像处理技术领域和金融领域,例如可以应用于银行贷款业务的资产估算。本公开实施例提供的图像分类模型的训练方法、图像分类方法和装置也可用于除图像处理技术领域和金融领域之外的任意领域,例如可以应用于高光谱图像的分类。本公开实施例提供的图像分类模型的训练方法、图像分类方法和装置的应用领域不做限定。
图1示意性示出了根据本公开实施例的可以应用图像分类模型的训练方法、图像分类方法的系统架构。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的图像分类模型的训练方法一般也可以由服务器105执行。相应地,本公开实施例所提供的图像分类模型的训练装置一般可以设置于服务器105中。本公开实施例所提供的图像分类模型的训练方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的图像分类模型的训练装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
或者,本公开实施例所提供的图像分类模型的训练方法一般可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的图像分类模型的训练装置也可以设置于终端设备101、102、或103中。
需要说明的是,本公开实施例所提供的样本图像分类方法一般可以由终端设备101、102、或103执行。相应地,本公开实施例所提供的图像分类装置也可以设置于终端设备101、102、或103中。
或者,本公开实施例所提供的图像分类方法一般也可以由服务器105执行。相应地,本公开实施例所提供的图像分类装置一般可以设置于服务器105中。本公开实施例所提供的图像分类方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的图像分类装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
例如,原始样本图像和待分类图像可以原本存储在终端设备101、102、或103中的任意一个(例如,终端设备101,但不限于此)之中,或者存储在外部存储设备上并可以导入到终端设备101中。然后,终端设备101可以在本地执行本公开实施例所提供的图像分类模型的训练方法、图像分类方法,或者将原始样本图像和待分类图像发送到其他终端设备、服务器、或服务器集群,并由接收该原始样本图像和待分类图像的其他终端设备、服务器、或服务器集群来执行本公开实施例所提供的图像分类模型的训练方法、图像分类方法。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的图像分类模型的训练方法的流程图。
如图2所示,该图像分类模型的训练方法包括操作S201~S203。
在操作S201,获取多个目标样本图像,其中,多个目标样本图像中的每个目标样本图像均包括至少一个样本对象以及至少一个样本对象的类别信息。
在操作S202,对与多个目标样本图像对应的至少一个样本对象进行处理,得到训练样本数据集,其中,训练样本数据集中的训练样本数据包括与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息。
在操作S203,利用训练样本数据集,训练图像分类模型,得到经训练的图像分类模型。
根据本公开的实施例,目标样本图像例如可以包括高光谱图像。高光谱图像的分类流程可以包括图像预处理、训练样本标记、特征提取及选择、分类预测及精度评价等步骤。高光谱图像的分类方法可以包括基于特征空间的影像分类方法和基于光谱匹配的影像分类方法。
根据本公开的实施例,基于特征空间的影像分类方法可以包括最小距离(MinimumDistance Classifier,MDC)分类法、最大似然(Maximum Likelihood Classification,MLC)分类法、人工神经元网络(Artificial Neural Networks,ANN)分类法、支持向量机(Support Vector Machine,SVM)分类法、决策树(Decision Tree)分类法、专家系统分类、k-均值聚类(K-means Clustering Algorithm)法、迭代自组织法等。
根据本公开的实施例,基于光谱匹配的遥感影像分类方法可以包括基于光谱角度匹配(Spectral Angle Match,SAM)法、基于光谱编码的匹配方法和基于波形特征的匹配方法等。
根据本公开的实施例,样本对象的类别信息可以包括植被、土壤、水体、矿物和城市人工目标等。可以将目标样本图像中各个像素的中心像元所属的类别确定为该像素的类别信息。
根据本公开的实施例,训练样本数据集中的训练样本数据可以包括空间维度和光谱维度的交互依赖信息。
根据本公开的实施例,图像分类模型可以是预先构建好的神经网络模型。
根据本公开的实施例,通过对与多个目标样本图像对应的至少一个样本对象进行处理,并利用得到的训练样本数据集训练图像分类模型,得到经训练的图像分类模型。由于训练样本数据集中的训练样本数据同时包括与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息,因而至少部分地克服了相关技术中的图像分类方法存在的信息冗余和上下文信息丢失的技术问题,增强了空间维度信息和光谱维度信息的判别性,从而提高了图像分类的精度。此外,当利用图像分类模型对目标样本图像进行处理时,能够准确的对目标样本图像进行分类,从而实现了提高图像分类的效率和准确率,以及降低人工分类成本的技术效果。
下面参考图3,结合具体实施例对图2所示的方法做进一步说明。
根据本公开的实施例,在操作S201之前,图像分类模型的训练方法还可以包括如下操作。
获取多个原始样本图像。多个原始样本图像包括高光谱图像。对多个原始样本图像中的每个原始样本图像进行正则化处理,得到多个目标样本图像。
根据本公开的实施例,可以使用一个数据块表征目标样本图像,该数据块包括X、Y和Z方向的三维数据信息,X轴和Y轴构成的二维空间分布数据可以用于表征地表的空间维度信息,Z轴的数据可以用于表征地物的光谱维度信息。
根据本公开的实施例,由于高光谱图像的像素值差异较大,为了使属于同一类别信息的样本对象的像素值处于同一数量级,可以对原始样本图像进行正则化处理。经过正则化处理后,高光谱图像的像素点的像素值均处于0~255之间。
根据本公开的实施例,可以对多个目标样本图像分布进行预处理操作,预处理操作可以包括以下至少一项:条带噪声去除、波段间配准、数据压缩、光谱定标、辐射定标、大气校正和几何定标等。
根据本公开的实施例,也可以直接将经正则化处理后的目标样本图像输入至图像分类模型,以减少预处理步骤。
根据本公开的实施例,通过多个原始样本图像中的每个原始样本图像进行正则化处理,得到多个目标样本图像,减少了预处理步骤,可以采取整张图像直接输入,避免了信息冗余。
根据本公开的实施例,在操作S202之前,图像分类模型的训练方法还可以包括如下操作。
对多个目标样本图像中的每个目标样本图像进行特征提取,得到与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息。
根据本公开的实施例,可以使用残差模块对目标样本图像进行特征提取。可以通过在卷积神经网络中引入跳跃连接构建残差模块。残差模块可以包括直接映射部分和残差部分。直接映射部分可以用于把网络前层的输出特征信息隔层跳跃传递至后层重新处理,缓解了在深度神经网络中随着深度增加而产生的梯度消失问题。残差部分可以包括两个或三个卷积操作。
根据本公开的实施例,通过利用残差模块对多个目标样本图像中的每个目标样本图像进行特征提取,无需进行降维处理,可以将经正则化处理后的整张的目标样本图像直接输入至残差模块,保护了目标样本图像的空间维度信息和光谱维度信息之间的结构关系,同时又简化了图像分类模型的处理流程。
根据本公开的实施例,通过对多个目标样本图像中的每个目标样本图像进行特征提取,可以根据得到的空间维度信息和光谱维度信息构建训练样本数据集,以便训练图像分类模型。由于训练样本数据集中的训练样本数据同时包括了空间维度信息和光谱维度信息,因而提高了图像识别的精度和准确率。
根据本公开的实施例,空间维度信息包括高度信息和宽度信息。
根据本公开的实施例,操作S202可以包括如下操作。
根据与多个目标样本图像对应的至少一个样本对象的高度信息和宽度信息,确定第一训练样本数据集。根据与多个目标样本图像对应的至少一个样本对象的高度信息和光谱维度信息,确定第二训练样本数据集。根据与多个目标样本图像对应的至少一个样本对象的宽度信息和光谱维度信息,确定第三训练样本数据集。
根据本公开的实施例,操作S203可以包括如下操作。
利用第一训练样本数据集、第二训练样本数据集和第三训练样本数据集,训练图像分类模型,得到经训练的图像分类模型。
根据本公开的实施例,为了提取目标样本图像中的信息,可以采用注意力机制学习权重系数赋予空间维度信息和光谱维度信息,从而关注目标样本图像中的重要信息。
根据本公开的实施例,可以采用注意力机制将高度信息和宽度信息之间的关系计算高度-宽度权重,然后将该高度-宽度权重赋予原始输入的用于表征目标样本图像的数据块上,从而得到用于表征高度信息和宽度信息之间的交互依赖信息的第一训练样本数据集。
根据本公开的实施例,可以采用注意力机制将高度信息和光谱维度信息之间的关系计算高度-光谱权重,然后将该高度-光谱权重赋予原始输入的用于表征目标样本图像的数据块上,从而得到用于表征高度信息和光谱维度信息之间的交互依赖信息的第二训练样本数据集。
根据本公开的实施例,可以采用注意力机制将宽度信息和光谱维度信息之间的关系计算宽度-光谱权重,然后将该宽度-光谱权重赋予原始输入的用于表征目标样本图像的数据块上,从而得到用于表征宽度信息和光谱维度信息之间的交互依赖信息的第三训练样本数据集。
根据本公开的实施例,由于基于高度信息、宽度信息和光谱维度信息之间两两交互构建得到第一训练样本数据集、第二训练样本数据集和第三训练样本数据集,因而可以学习到空间维度和光谱维度的交互依赖信息和上下文信息,从而可以增强空间维度信息及光谱维度信息的判别性,提高了图像分类的准确性。
根据本公开的实施例,图像分类模型包括第一网络支路、第二网络支路和第三网络支路。
根据本公开的实施例,利用第一训练样本数据集、第二训练样本数据集和第三训练样本数据集,训练图像分类模型,得到经训练的图像分类模型可以包括如下操作。
利用第一训练样本数据集训练第一网络支路,得到经训练的第一网络支路。第一网络支路包括第一池化层、第一卷积层、第二卷积层和第三卷积层,第一池化层包括第一平均池化层和第一最大池化层。利用第二训练样本数据集训练第二网络支路,得到经训练的第二网络支路。第二网络支路包括第二池化层、第四卷积层、第五卷积层和第六卷积层,第二池化层包括第二平均池化层和第二最大池化层。利用第三训练样本数据集训练第三网络支路,得到经训练的第三网络支路。第三网络支路包括第三池化层、第七卷积层、第八卷积层和第九卷积层,第三池化层包括第三平均池化层和第三最大池化层。
根据本公开的实施例,可以在注意力机制的基础上设计三分支交互注意力机制,以实现跨维度交互计算注意力权重。注意力机制可以自动学习光谱维度和空间维度的重要特征,还能够抑制在光谱维度或空间维度中的无用信息。
根据本公开的实施例,第一池化层、第二池化层和第三池化层通过拼接平均池化和最大池化,可以将输入的用于表征目标样本图像的数据块的维度减少至两维,以减少计算量。平均池化可以通过对邻域内特征点求平均,减小邻域大小受限而导致的估计值方差增大,从而保留图像的背景信息。最大池化可以通过对邻域内特征点取最大,减小卷积层参数误差而导致的估计均值的偏移,从而保留图像的纹理信息。
根据本公开的实施例,第一卷积层、第四卷积层和第七卷积层的卷积核可以根据实际需求进行设置。第一卷积层、第四卷积层和第七卷积层的输出神经元的激活函数可以使用sigmoid激活函数,从而使得输出值处于0~1之间。
根据本公开的实施例,第二卷积层、第五卷积层和第八卷积层可以设置为残差模块,残差模块的构建方法在此不再赘述。
根据本公开的实施例,第三卷积层、第六卷积层和第九卷积层可以包括1*1的卷积核,以减少图像分类模型的参数。
根据本公开的实施例,将训练样本数据集输入至图像分类模型,输出与至少一个样本对象对应的预测分类结可以包括如下操作。
将第一训练样本数据集输入至第一网络支路,输出第一预测分类结果。将第二训练样本数据集输入至第二网络支路,输出第二预测分类结果。将第三训练样本数据集输入至第三网络支路,输出第三预测分类结果。根据第一预测分类结果、第二预测分类结果和第三预测分类结果,确定预测分类结果。
根据本公开的实施例,可以通过将注意力机制采用旋转的方式扩展为图像分类模型的第一网络支路、第二网络支路和第三网络支路,可以分别充分学习高度信息、宽度信息和光谱维度信息中两两之间的交互依赖信息,从而进一步提取目标样本图像中的关键信息以表征目标样本图像中的样本对象。
根据本公开的实施例,通过使用交互注意力机制作为图像分类模型的主体网络,并使用残差块提取目标样本图像的特征,提高了图像分类模型的表征能力,同时可以降低计算代价,实现轻量化的网络设计。
根据本公开的实施例,由于分别利用不同的训练样本数据集训练图像分类模型的不同网络支路,使得经不同网络支路得到的预测分类结果分别关注了高度信息、宽度信息和光谱维度信息之间两两交互的特征,进而使得图像分类模型能够学习到空间维度和光谱维度之间的交互依赖信息,从而提高了图像分类模型的分类精度和准确率。
根据本公开的实施例,操作S203还可以包括如下操作。
将训练样本数据集输入至图像分类模型,输出与至少一个样本对象对应的预测分类结果。将与至少一个样本对象对应的预测分类结果和类别信息输入至损失函数,输出损失结果。根据损失结果调整图像分类模型的网络参数,直至损失函数或迭代次数满足预设条件。将损失函数或迭代次数满足预设条件时得到的模型作为经训练的图像分类模型。
根据本公开的实施例,为了保证预测分类结果的精度,可以通过构建测试集对经训练的图像分类模型进行检验。预测分类结果的评价方法可以包括以下至少一项:混淆矩阵(Confusion Matrix,CM)、总体分类精度(Overall Accuracy,OA)和Kappa系数等。
根据本公开的实施例,在对图像分类模型进行迭代训练的过程中,可以基于图像分类模型输出的预测分类结果和类别信息,利用反向传播算法,迭代调整图像分类模型的网络参数,直至图像分类模型的预测分类结果和类别信息的误差满足预设条件。
根据本公开的实施例,可以将损失函数收敛时得到的模型作为图像分类模型,还可以将迭代次数满足预设条件时得到的模型作为图像分类模型,本公开不对迭代次数做具体限制,本领域技术人员可以根据期望图像分类模型的分类精度进行灵活调整。
图3示意性示出了根据本公开实施例的图像分类模型的训练过程的示例示意图。
如图3所示,可以获取原始样本图像301。对多个原始样本图像301中的所述每个原始样本图像301进行正则化处理,得到多个目标样本图像302。对与多个目标样本图像302对应的至少一个样本对象进行处理,得到训练样本数据集303。
将第一训练样本数据集303_1输入至图像分类模型304的第一网络支路304_1,利用第一网络支路304_1中的第一池化层304_11、第一卷积层304_12、第二卷积层304_13和第三卷积层304_14,依次对第一训练样本数据集303_1进行处理,得到第一预测分类结果305_1。
将第二训练样本数据集303_2输入至图像分类模型304的第二网络支路304_2,利用第二网络支路304_2中的第二池化层304_21、第四卷积层304_22、第五卷积层304_23和第六卷积层304_24,依次对第二训练样本数据集303_2进行处理,得到第二预测分类结果305_2。
将第三训练样本数据集303_3输入至图像分类模型304的第三网络支路304_3,利用第三网络支路304_3中的第三池化层304_31、第七卷积层304_32、第八卷积层304_33和第九卷积层304_34,依次对第三训练样本数据集303_3进行处理,得到第三预测分类结果305_3。
根据第一预测分类结果305_1、第二预测分类结果305_2和第三预测分类结果305_3,确定预测分类结果306。
将与至少一个样本对象对应的预测分类结果306和类别信息307输入至损失函数308,输出损失结果309。根据损失结果309调整图像分类模型304的网络参数,直至损失函数308或迭代次数满足预设条件,将损失函数308或迭代次数满足预设条件时得到的模型作为所述经训练的图像分类模型304。
图4示意性示出了根据本公开实施例的图像分类方法的流程图。
如图4所示,该图像分类方法包括操作S401~S402。
在操作S401,获取待分类图像,其中,待分类图像包括高光谱图像。
在操作S402,将待分类图像输入至图像分类模型,输出图像分类结果。图像分类模型由如上的图像分类模型的训练方法训练得到。
根据本公开的实施例,图像分类结果可以包括植被、土壤、水体、矿物和城市人工目标等。
根据本公开的实施例,本公开提供的图像分类方法可以应用于基于高光谱图像的贷款业务的资产估算,避免了相关技术中银行无法扩张业务和追踪贷款情况的问题。
根据本公开的实施例,通过对与多个目标样本图像对应的至少一个样本对象进行处理得到的训练样本数据集作为训练样本,训练得到图像分类模型。当利用图像分类模型对目标样本图像进行处理时,能够准确的对目标样本图像进行分类,从而实现了提高图像分类的效率和准确率,以及降低人工分类成本的技术效果。
图5示意性示出了根据本公开实施例的图像分类模型的训练装置的结构框图。
如图5所示,图像分类模型的训练装置500包括第一获取模块501、第一处理模块502和训练模块503。
第一获取模块501,用于获取多个目标样本图像,其中,多个目标样本图像中的每个目标样本图像均包括至少一个样本对象以及至少一个样本对象的类别信息。
第一处理模块502,用于对与多个目标样本图像对应的至少一个样本对象进行处理,得到训练样本数据集,其中,训练样本数据集中的训练样本数据包括与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息。
训练模块503,用于利用训练样本数据集,训练图像分类模型,得到经训练的图像分类模型。
根据本公开的实施例,空间维度信息包括高度信息和宽度信息。
根据本公开的实施例,第一处理模块502包括第一确定单元、第二确定单元和第三确定单元。
第一确定单元,用于根据与多个目标样本图像对应的至少一个样本对象的高度信息和宽度信息,确定第一训练样本数据集。
第二确定单元,用于根据与多个目标样本图像对应的至少一个样本对象的高度信息和光谱维度信息,确定第二训练样本数据集。
第三确定单元,用于根据与多个目标样本图像对应的至少一个样本对象的宽度信息和光谱维度信息,确定第三训练样本数据集。
根据本公开的实施例,训练模块503包括训练单元。
训练单元,用于利用第一训练样本数据集、第二训练样本数据集和第三训练样本数据集,训练图像分类模型,得到经训练的图像分类模型。
根据本公开的实施例,图像分类模型包括第一网络支路、第二网络支路和第三网络支路。
根据本公开的实施例,训练单元包括第一训练子单元、第二训练子单元和第三训练子单元。
第一训练子单元,用于利用第一训练样本数据集训练第一网络支路,得到经训练的第一网络支路,其中,第一网络支路包括第一池化层、第一卷积层、第二卷积层和第三卷积层,第一池化层包括第一平均池化层和第一最大池化层。
第二训练子单元,用于利用第二训练样本数据集训练第二网络支路,得到经训练的第二网络支路,其中,第二网络支路包括第二池化层、第四卷积层、第五卷积层和第六卷积层,第二池化层包括第二平均池化层和第二最大池化层。
第三训练子单元,用于利用第三训练样本数据集训练第三网络支路,得到经训练的第三网络支路,其中,第三网络支路包括第三池化层、第七卷积层、第八卷积层和第九卷积层,第三池化层包括第三平均池化层和第三最大池化层。
根据本公开的实施例,训练模块503包括第一输出单元、第二输出单元、调整单元和第四确定单元。
第一输出单元,用于将训练样本数据集输入至图像分类模型,输出与至少一个样本对象对应的预测分类结果。
第二输出单元,用于将与至少一个样本对象对应的预测分类结果和类别信息输入至损失函数,输出损失结果。
调整单元,用于根据损失结果调整图像分类模型的网络参数,直至损失函数或迭代次数满足预设条件。
第四确定单元,用于将损失函数或迭代次数满足预设条件时得到的模型作为经训练的图像分类模型。
根据本公开的实施例,第一输出单元包括第一输出子单元、第二输出子单元、第三输出子单元和第一确定子单元。
第一输出子单元,用于将第一训练样本数据集输入至第一网络支路,输出第一预测分类结果。
第二输出子单元,用于将第二训练样本数据集输入至第二网络支路,输出第二预测分类结果。
第三输出子单元,用于将第三训练样本数据集输入至第三网络支路,输出第三预测分类结果。
第一确定子单元,用于根据第一预测分类结果、第二预测分类结果和第三预测分类结果,确定预测分类结果。
根据本公开的实施例,图像分类模型的训练装置500还包括提取模块。
提取模块,用于对多个目标样本图像中的每个目标样本图像进行特征提取,得到与多个目标样本图像对应的至少一个样本对象的空间维度信息和光谱维度信息。
根据本公开的实施例,图像分类模型的训练装置500还包括第三获取模块和第二处理模块。
第三获取模块,用于获取多个原始样本图像,其中,多个原始样本图像包括高光谱图像。
第二处理模块,用于对多个原始样本图像中的每个原始样本图像进行正则化处理,得到多个目标样本图像。
图6示意性示出了根据本公开实施例的图像分类装置的结构框图。
如图6所示,图像分类装置600包括第二获取模块601和分类模块602。
第二获取模块601,用于获取待分类图像,其中,待分类图像包括高光谱图像。
分类模块602,用于将待分类图像输入至图像分类模型,输出图像分类结果,其中,图像分类模型由权利要求1至6中任一项的图像分类模型的训练方法训练得到。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一获取模块501、第一处理模块502、训练模块503、第二获取模块601和分类模块602中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,第一获取模块501、第一处理模块502、训练模块503、第二获取模块601和分类模块602中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一获取模块501、第一处理模块502、训练模块503、第二获取模块601和分类模块602中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中图像分类模型的训练装置部分与本公开的实施例中图像分类模型的训练方法部分是相对应的,图像分类模型的训练装置部分的描述具体参考图像分类模型的训练方法部分,在此不再赘述。本公开的实施例中图像分类装置部分与本公开的实施例中图像分类方法部分是相对应的,图像分类装置部分的描述具体参考图像分类方法部分,在此不再赘述。
图7示意性示出了根据本公开实施例的适于实现图像分类模型的训练方法、图像分类方法的电子设备的框图。图7示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示,根据本公开实施例的计算机电子设备700包括处理器701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分707加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中,存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备700还可以包括输入/输出(I/O)接口705,输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的图像分类模型的训练方法和图像分类方法。
在该计算机程序被处理器701执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分709被下载和安装,和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
- 安检图像分类模型训练方法、安检图像分类方法及装置
- 图像分类模型的训练方法、图像分类方法、装置及设备