掌桥专利:专业的专利平台
掌桥专利
首页

卫星云层图像处理方法、装置、计算机设备和存储介质

文献发布时间:2023-06-19 12:18:04


卫星云层图像处理方法、装置、计算机设备和存储介质

技术领域

本发明涉及云层图像处理技术领域,特别是涉及一种卫星云层图像处理方法、装置、计算机设备和存储介质。

背景技术

随着图像处理技术的发展,卫星影像的处理成为一个重要的图像处理分支,对于卫星图形的处理,通常采用U-net分割网络模型,传统的U-net是一种针对医学组织细胞图像的分割网络,对图像的语义信息具有较好的区分功能。

然而,传统的U-net其中心部分每特征点感受野较小,不能捕获大范围的语义信息,对于一些空间跨度大对象其较可能产生错误的分割结果,不适合云及云阴影的检测任务,而且,传统的U-net在对幅宽较大的卫星影像,需要采用分块预测的办法再进行拼接形成一幅完整的图像,但将分块图像输入网络模型中,其边界语义信息可能会不完全导致边界像素误判率较高,最终整幅图像产生分块效应,导致最终的检测图像的完整度下降,进而导致最终的检测图像的清晰度下降。

发明内容

本发明的目的是克服现有技术中的不足之处,提供一种减少分块效应的几率的卫星云层图像处理方法、装置、计算机设备和存储介质。

本发明的目的是通过以下技术方案来实现的:

一种卫星云层图像处理方法,所述方法包括:

对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域;

对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率;

根据所述特征概率调整对应的像素点在输出图层上的灰度值。

在其中一个实施例中,所述对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,包括:对所述卫星云层图像进行行向重叠分隔处理,得到多个行向重叠云层图像。

在其中一个实施例中,所述对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,包括:对所述卫星云层图像进行列向重叠分隔处理,得到多个列向重叠云层图像。

在其中一个实施例中,所述对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,包括:对各所述交叠云层图像的特征图层进行残差操作。

在其中一个实施例中,所述对各所述交叠云层图像的特征图层进行残差操作,包括:对所述特征图层进行分别进行下采样残差处理以及上采样残差处理,以形成多个压缩路径图层以及多个扩展路径图层。

在其中一个实施例中,所述对所述特征图层进行分别进行下采样残差处理以及上采样残差处理,之后还包括:将所述压缩路径图层与对应的扩展路径图层进行特征融合操作。

在其中一个实施例中,所述对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,还包括:对压缩路径上的最小尺寸的压缩路径图层进行双向不对称空洞卷积操作,以输出扩展路径上的初始的扩展路径图层。

一种卫星云层图像处理装置,所述装置包括:

第一处理模块,用于对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域;

第二处理模块,用于对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率;

灰度调整模块,用于根据所述特征概率调整对应的像素点在输出图层上的灰度值。

一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域;

对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率;

根据所述特征概率调整对应的像素点在输出图层上的灰度值。

一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:

对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域;

对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率;

根据所述特征概率调整对应的像素点在输出图层上的灰度值。

与现有技术相比,本发明至少具有以下优点:

通过对分割后的交叠云层图像的卷积分类操作,得到卫星云层图像的每一个分割图像在交叠区域的各像素点的概率,用于展示在交叠区域内像素点出现的概率分布,最后通过相同的特征图层的相同像素点的概率分布情况,调整输出图层上对应像素点上的灰度值,便于将交叠区域的中各种背景图像进行区分,使得在交叠区域的分块效应减少,提高了卫星云层图像的检测输出图像的清晰度。

附图说明

为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。

图1为一实施例中卫星云层图像处理方法的流程图;

图2为一实施例中基于卷积核的金字塔池化模块的结构图;

图3为图2所示的基于卷积核的金字塔池化模块的双向不对称空洞卷积的卷积分布示意图;

图4为一实施例中计算机设备的内部结构图。

具体实施方式

为了便于理解本发明,下面将参照相关附图对本发明进行更全面的描述。附图中给出了本发明的较佳实施方式。但是,本发明可以以许多不同的形式来实现,并不限于本文所描述的实施方式。相反地,提供这些实施方式的目的是使对本发明的公开内容理解的更加透彻全面。

需要说明的是,当元件被称为“固定于”另一个元件,它可以直接在另一个元件上或者也可以存在居中的元件。当一个元件被认为是“连接”另一个元件,它可以是直接连接到另一个元件或者可能同时存在居中元件。本文所使用的术语“垂直的”、“水平的”、“左”、“右”以及类似的表述只是为了说明的目的,并不表示是唯一的实施方式。

除非另有定义,本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。本文中在本发明的说明书中所使用的术语只是为了描述具体的实施方式的目的,不是旨在于限制本发明。本文所使用的术语“及/或”包括一个或多个相关的所列项目的任意的和所有的组合。

本发明涉及一种卫星云层图像处理方法。在其中一个实施例中,所述卫星云层图像处理方法包括对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域;对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率;根据所述特征概率调整对应的像素点在输出图层上的灰度值。通过对分割后的交叠云层图像的卷积分类操作,得到卫星云层图像的每一个分割图像在交叠区域的各像素点的概率,用于展示在交叠区域内像素点出现的概率分布,最后通过相同的特征图层的相同像素点的概率分布情况,调整输出图层上对应像素点上的灰度值,便于将交叠区域的中各种背景图像进行区分,使得在交叠区域的分块效应减少,提高了卫星云层图像的检测输出图像的清晰度。

请参阅图1,其为本发明一实施例的卫星云层图像处理方法的流程图。所述卫星云层图像处理方法包括以下步骤的部分或全部。

S100:对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域。

在本实施例中,所述卫星云层图像是对GF-1WFV卫星影像的采集,也可以认为是将GF-1WFV卫星影像作为所述卫星云层图像,所述卫星云层图像包括三种图像,即所述卫星云层图像中有云、云阴影以及背景三种图像。由于所述卫星云层图像是通过高分一号卫星拍摄地球的卫星影像,其中主要是对云层的具体位置进行实时采集,用于将云层与地面上的山水冰雪进行区分。由于卫星的拍摄时间以及角度的不同,云层与云阴影之间也会有一定的错位情况,为了将上述三种图像进行区分,需要将幅宽较大的卫星影像进行分割处理,即所述交叠分割处理,使得大尺寸的卫星云层图像被分割为多个子图像,便于对卫星云层图像进行图像处理。其中,为了减少对各子图像的边界语义的切割,即减少分块效应的几率,对所述卫星云层图像的交叠分割处理,是为了获得具有交叠区域的交叠云层图像。而且,这些交叠区域均是位于交叠云层图像的边缘,即两个相邻的交叠云层图像在边缘位置有交叠,两者之间相互补充语义,使得在边缘位置的语义保持完整性,从而便于后续对交叠区域内的像素点的概率处理,进而便于后续将交叠区域内的三种不同影像进行区分,以降低在边界区域的分块效应的几率。

S200:对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率。

在本实施例中,所述特征图层与交叠区域相对应,所述特征图层是对交叠云层图像进行特征分类后形成的图层,即所述特征图层是对两个所述交叠云层图像的交叠区域进行特征分类操作后形成的图层。对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,是将交叠区域内的特征图层进行单点位置的分类,使得交叠区域的特征图层的各像素点的概率得以展现,便于输出在交叠区域内的各特征图层的各像素点的特征概率,从而便于体现交叠区域内的各像素点的出现概率分布情况,进而便于后续作为判断交叠区域内的各像素点的输出灰度的依据。

S300:根据所述特征概率调整对应的像素点在输出图层上的灰度值。

在本实施例中,所述特征概率为交叠区域内的各像素点的出现概率,两个交叠云层图像的相同的特征图层上,在交叠区域有相同的像素点,这些相同的像素点对应有各自的特征概率,将相同的特征图层的同一个像素点的特征概率进行融合,便于对此像素点的出现影像情况进行分析,例如,此像素点在云阴影的特征图层上的特征概率最大,则在输出图层上的相同像素点上输出的灰度值为128,即灰色;又如,此像素点在云层的特征图层上的特征概率最大,则在输出图层上的相同像素点上输出的灰度值为255,即白色;又如,此像素点在山水冰雪背景的特征图层上的特征概率最大,则在输出图层上的相同像素点上输出的灰度值为0,即黑色。

在上述各实施例中,通过对分割后的交叠云层图像的卷积分类操作,得到卫星云层图像的每一个分割图像在交叠区域的各像素点的概率,用于展示在交叠区域内像素点出现的概率分布,最后通过相同的特征图层的相同像素点的概率分布情况,调整输出图层上对应像素点上的灰度值,便于将交叠区域的中各种背景图像进行区分,使得在交叠区域的分块效应减少,提高了卫星云层图像的检测输出图像的清晰度。

在其中一个实施例中,所述对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,包括:对所述卫星云层图像进行行向重叠分隔处理,得到多个行向重叠云层图像。在本实施例中,所述卫星云层图像为幅宽较大的卫星影像,即所述卫星云层图像的尺寸较大,为了提高图像处理的高效性,采用分割图像的方式,将所述卫星云层图像分割为多个所述交叠云层图像进行分别处理,不仅降低了一次处理图像的数据量,而且提高了卫星云层图像的处理效率。此处对所述卫星云层图像进行行向重叠分隔处理,是将分隔出来的多个交叠云层图像按照行方向排列,而且,相邻的两个所述交叠云层图像之间的交叠区域在图像的列方向上,即交叠区域在所述交叠云层图像的两侧,使得所述交叠云层图像的侧边图像的语义保持完整,便于降低后续在对交叠云层图像进行拼接后的分块效应的几率。

在其中一个实施例中,所述对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,包括:对所述卫星云层图像进行列向重叠分隔处理,得到多个列向重叠云层图像。在本实施例中,所述卫星云层图像为幅宽较大的卫星影像,即所述卫星云层图像的尺寸较大,为了提高图像处理的高效性,采用分割图像的方式,将所述卫星云层图像分割为多个所述交叠云层图像进行分别处理,不仅降低了一次处理图像的数据量,而且提高了卫星云层图像的处理效率。此处对所述卫星云层图像进行列向重叠分隔处理,是将分隔出来的多个交叠云层图像按照列方向排列,而且,相邻的两个所述交叠云层图像之间的交叠区域在图像的行方向上,即交叠区域在所述交叠云层图像的两端,使得所述交叠云层图像的端部图像的语义保持完整,便于降低后续在对交叠云层图像进行拼接后的分块效应的几率。在另一实施例中,所述交叠分割处理包括行向重叠分隔处理以及列向重叠分隔处理,使得所述交叠云层图像的各侧均有交叠区域,进一步降低了各所述交叠云层图像在边缘交叠区域的分块效应的几率。

在其中一个实施例中,所述对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,包括:对各所述交叠云层图像的特征图层进行残差操作。在本实施例中,通过残差模块对所述交叠云层图像的特征图层进行网络分类,所述残差模块是对交叠云层图像的多层卷积分类,即使用的残差模块的数量为多个,而且,残差模块的通道数根据实际需要进行具体调整,以便于对不同特征图层上的语义信息进行传递。所述残差模块具有将输入语义信息加载于输出语义信息中,使得残差模块有效地将浅层网络信息传导至深层网络信息,便于将语义信息完整保持并传导,降低了语义空间细节信息的损失。

进一步地,所述对各所述交叠云层图像的特征图层进行残差操作,包括:对所述特征图层进行分别进行下采样残差处理以及上采样残差处理,以形成多个压缩路径图层以及多个扩展路径图层。在本实施例中,所述下采样残差处理是对所述交叠云层图像的特征图层进行下采样操作,是对所述交叠云层图像的特征图层进行图像压缩,所述上采样残差处理是对所述下采样残差处理的输出图层进行上采样操作,是对下采样残差处理的输出图层进行图像扩展。这样,在残差模块的作用下,下采样和上采样的过程中除了降/升维的作用以外,还确保了语义信息的完整性,降低了交叠区域内的语义信息的损失。

更进一步地,所述对所述特征图层进行分别进行下采样残差处理以及上采样残差处理,之后还包括:将所述压缩路径图层与对应的扩展路径图层进行特征融合操作。在本实施例中,所述特征融合操作是对各特征图层的融合,在下采样的过程中,各下采样残差模块输出一个压缩路径图层,而在上采样的过程中,各上采样残差模块输出一个扩展路径图层,所述压缩路径图层与对应的扩展路径图层进行特征融合,例如,下采样残差模块与上采样残差模块的数量相等,第一个下采样残差模块输出的压缩路径图层与最后一个上采样残差模块输出的扩展路径图层进行融合,第二个下采样残差模块输出的压缩路径图层与倒数第二个上采样残差模块输出的扩展路径图层进行融合,以此类推,每一个压缩路径图层与一个扩展路径图层进行特征融合,便于确保交叠区域的语义信息的完整性。

又进一步地,所述对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,还包括:对压缩路径上的最小尺寸的压缩路径图层进行双向不对称空洞卷积操作,以输出扩展路径上的初始的扩展路径图层。在本实施例中,压缩路径上的最小尺寸的压缩路径图层为压缩路径上的各下采样残差模块最终输出的特征图层,是用于将交叠云层图像降维至小尺寸的图层。所述双向不对称空洞卷积操作是基于卷积核的金字塔池化模块的一个卷积子层,基于卷积核的金字塔池化模块是对空洞空间金字塔模块的改进模型,主要的改进就是对卷积模型的改进,即采用双向不对称空洞卷积(DADC,Double-side AsymmetricDilated Convolution)模型,其中该模型包括串并联相结合的双向不对称空洞卷积模块、全局平均池化模块以及1*1卷积模块,基于卷积核的金字塔池化模块的结构图详见图2。在确保特征的空间分辨率不变的同时,极大地扩增网络中心部分感受野,同时对不同深度、不同广度的特征进行融合,使最后生成的特征图谱既有足够大的感受野,又有丰富多维的语义信息,且特征尺度不变,没有损失空间上的相对信息。

双向不对称空洞卷积公式定义如下:

其中,卷积核尺寸为K

串并联的双向不对称空洞卷积,一方面通过不同维度的扩张卷积融合相加,在不降低特征图谱的分辨率下成倍扩增网络感受野捕获更丰富的全局语义信息,另一方面串并联结构将不同深度和广度的特征信息通过堆叠的方式融合在一起,实现多尺度特征融合。其中,解码器部分使用转置卷积进行上采样,还原出与原始图像相同尺度的语义标签图,跨连接部分不同于U-net网络将编码器的特征图与解码器的特征图进行拼接融合,本申请使用对应特征点相加融合,可以减少模型参数,降低图像处理参数量,从而提高了图像处理的效率。而且,交叉熵损失是语义分割任务中常用的一种目标优化函数,交叉熵损作为对交叠分割处理的一种语义信息的损失评判标准,即用于对交叠区域的语义损失程度的体现,其表达式如下:

其中,l为每个像素点的真实标签,l:Ω→{1,2,…K},w表示权重值,用来衡量不同像素的重要程度。本申请将赋予云阴影类别更大的惩罚权重,以弥补其在训练数据中的数量不足,P为网路最后一层特征图经softmax归一化的结果,具体表达式如下:

其中,a

在训练模型之前一般通过数据增强方法来扩充样本数量,提高模型的泛化能力。由于卫星云层图像具有“各向同性”,没有所谓的上下左右之分,通过旋转、翻转图像能够有效扩增数据。同时由于卫星云层图像拍摄呈俯视状态,多数物体进行拉伸延展,依旧可以保持语义不变。而且,卫星云层图像因拍摄时间的不同会有一些明暗变化,各个地点的地表覆盖又具有较大的差异性,因而本申请同时会使用色彩扩增方法对输入样本做增强处理。

在实际的处理过程中,卫星云层图像的图像幅宽较大,比如一幅GF-1的全景影像,其尺寸为15000×15000左右,具体的处理方法如下:

1、将卫星云层图像分割为多个具有重叠区域的512×512的交叠云层图像;

2、将交叠云层图像经过多个下采样残差模块,并将每一个下采样残差模块输出特征图层与对应的上采样残差模块输出特征图层融合;

3、将最后一个下采样残差模块输出的特征图层输入双向不对称空洞卷积模型中,以得到各交叠云层图像的三种特征图层,即云特征图层、云阴影特征图层以及背景特征图层,其中,背景特征图层中包括冰雪图层、水体图层以及地形阴影图层;

4、获取经过softmax归一化之后的各特征图层的各像素点的特征概率,将不同的交叠云层图像在同种特征图层上的相同的像素点的特征概率相加,得到各像素点在不同特征图层上的概率;

5、选取各特征图层上的最大概率的类别作为重叠区域的每一个像素点的判定类别,例如,像素点在云阴影的特征图层上的概率最大,则在输出图层上的相同像素点上输出的灰度值为128,即灰色;又如,像素点在云层的特征图层上的概率最大,则在输出图层上的相同像素点上输出的灰度值为255,即白色;又如,像素点在山水冰雪背景的特征图层上的概率最大,则在输出图层上的相同像素点上输出的灰度值为0,即黑色。

应该理解的是,虽然图1的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图1中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。

本申请还提供一种卫星云层图像处理装置,其采用上述任一实施例中所述的卫星云层图像处理方法实现。在其中一个实施例中,所述卫星云层图像处理装置具有用于实现所述卫星云层图像处理方法各步骤对应的功能模块。所述卫星云层图像处理装置包括第一处理模块、第二处理模块以及灰度调整模块,其中:

第一处理模块,用于对卫星云层图像进行交叠分割处理,得到多个交叠云层图像,其中,每一所述交叠云层图像具有至少一个交叠区域;

第二处理模块,用于对两个所述交叠云层图像的相同的特征图层进行卷积分类操作,得到在交叠区域内的各特征图层的各像素点的特征概率;

灰度调整模块,用于根据所述特征概率调整对应的像素点在输出图层上的灰度值。

在本实施例中,通过第二处理模块对分割后的交叠云层图像的卷积分类操作,第二处理模块得到卫星云层图像的每一个分割图像在交叠区域的各像素点的概率,用于展示在交叠区域内像素点出现的概率分布,最后灰度调整模块通过相同的特征图层的相同像素点的概率分布情况,调整输出图层上对应像素点上的灰度值,便于将交叠区域的中各种背景图像进行区分,使得在交叠区域的分块效应减少,提高了卫星云层图像的检测输出图像的清晰度。

在其中一个实施例中,所述第一处理模块还用于对所述卫星云层图像进行行向重叠分隔处理,得到多个行向重叠云层图像。在本实施例中,所述卫星云层图像为幅宽较大的卫星影像,即所述卫星云层图像的尺寸较大,为了提高图像处理的高效性,第一处理模块采用分割图像的方式,将所述卫星云层图像分割为多个所述交叠云层图像进行分别处理,不仅降低了一次处理图像的数据量,而且提高了卫星云层图像的处理效率。此处第一处理模块对所述卫星云层图像进行行向重叠分隔处理,是将分隔出来的多个交叠云层图像按照行方向排列,而且,相邻的两个所述交叠云层图像之间的交叠区域在图像的列方向上,即交叠区域在所述交叠云层图像的两侧,使得所述交叠云层图像的侧边图像的语义保持完整,便于降低后续在对交叠云层图像进行拼接后的分块效应的几率。

在其中一个实施例中,所述第一处理模块还用于对所述卫星云层图像进行列向重叠分隔处理,得到多个列向重叠云层图像。在本实施例中,所述卫星云层图像为幅宽较大的卫星影像,即所述卫星云层图像的尺寸较大,为了提高图像处理的高效性,第一处理模块采用分割图像的方式,将所述卫星云层图像分割为多个所述交叠云层图像进行分别处理,不仅降低了一次处理图像的数据量,而且提高了卫星云层图像的处理效率。此处第一处理模块对所述卫星云层图像进行列向重叠分隔处理,是将分隔出来的多个交叠云层图像按照列方向排列,而且,相邻的两个所述交叠云层图像之间的交叠区域在图像的行方向上,即交叠区域在所述交叠云层图像的两端,使得所述交叠云层图像的端部图像的语义保持完整,便于降低后续在对交叠云层图像进行拼接后的分块效应的几率。在另一实施例中,所述第一处理模块包括行向重叠分隔处理模块以及列向重叠分隔处理模块,使得所述交叠云层图像的各侧均有交叠区域,进一步降低了各所述交叠云层图像在边缘交叠区域的分块效应的几率。

在其中一个实施例中,所述第二处理模块还用于对各所述交叠云层图像的特征图层进行残差操作。在本实施例中,第二处理模块通过残差模块对所述交叠云层图像的特征图层进行网络分类,所述残差模块是对交叠云层图像的多层卷积分类,即使用的残差模块的数量为多个,而且,残差模块的通道数根据实际需要进行具体调整,以便于对不同特征图层上的语义信息进行传递。所述残差模块具有将输入语义信息加载于输出语义信息中,使得残差模块有效地将浅层网络信息传导至深层网络信息,便于将语义信息完整保持并传导,降低了语义空间细节信息的损失。

进一步地,所述第二处理模块还用于对所述特征图层进行分别进行下采样残差处理以及上采样残差处理,以形成多个压缩路径图层以及多个扩展路径图层。在本实施例中,所述下采样残差处理是对所述交叠云层图像的特征图层进行下采样操作,是对所述交叠云层图像的特征图层进行图像压缩,所述上采样残差处理是对所述下采样残差处理的输出图层进行上采样操作,是对下采样残差处理的输出图层进行图像扩展。这样,在残差模块的作用下,下采样和上采样的过程中除了降/升维的作用以外,还确保了语义信息的完整性,降低了交叠区域内的语义信息的损失。

更进一步地,所述第二处理模块还用于将所述压缩路径图层与对应的扩展路径图层进行特征融合操作。在本实施例中,所述第二处理模块采用的特征融合操作是对各特征图层的融合,在下采样的过程中,各下采样残差模块输出一个压缩路径图层,而在上采样的过程中,各上采样残差模块输出一个扩展路径图层,所述压缩路径图层与对应的扩展路径图层进行特征融合,例如,下采样残差模块与上采样残差模块的数量相等,第一个下采样残差模块输出的压缩路径图层与最后一个上采样残差模块输出的扩展路径图层进行融合,第二个下采样残差模块输出的压缩路径图层与倒数第二个上采样残差模块输出的扩展路径图层进行融合,以此类推,每一个压缩路径图层与一个扩展路径图层进行特征融合,便于确保交叠区域的语义信息的完整性。

又进一步地,所述第二处理模块还用于对压缩路径上的最小尺寸的压缩路径图层进行双向不对称空洞卷积操作,以输出扩展路径上的初始的扩展路径图层。在本实施例中,第二处理模块的压缩路径上的最小尺寸的压缩路径图层为压缩路径上的各下采样残差模块最终输出的特征图层,是用于将交叠云层图像降维至小尺寸的图层。所述第二处理模块采用的双向不对称空洞卷积操作是基于卷积核的金字塔池化模块的一个卷积子层,基于卷积核的金字塔池化模块是对空洞空间金字塔模块的改进模型,主要的改进就是对卷积模型的改进,即采用双向不对称空洞卷积(DADC,Double-side Asymmetric DilatedConvolution)模型,其中该模型包括串并联相结合的双向不对称空洞卷积模块、全局平均池化模块以及1*1卷积模块,基于卷积核的金字塔池化模块的结构图详见图2。在确保特征的空间分辨率不变的同时,极大地扩增网络中心部分感受野,同时对不同深度、不同广度的特征进行融合,使最后生成的特征图谱既有足够大的感受野,又有丰富多维的语义信息,且特征尺度不变,没有损失空间上的相对信息。

双向不对称空洞卷积公式定义如下:

其中,卷积核尺寸为K

串并联的双向不对称空洞卷积,一方面通过不同维度的扩张卷积融合相加,在不降低特征图谱的分辨率下成倍扩增网络感受野捕获更丰富的全局语义信息,另一方面串并联结构将不同深度和广度的特征信息通过堆叠的方式融合在一起,实现多尺度特征融合。其中,解码器部分使用转置卷积进行上采样,还原出与原始图像相同尺度的语义标签图,跨连接部分不同于U-net网络将编码器的特征图与解码器的特征图进行拼接融合,本申请使用对应特征点相加融合,可以减少模型参数,降低图像处理参数量,从而提高了图像处理的效率。而且,交叉熵损失是语义分割任务中常用的一种目标优化函数,交叉熵损作为对交叠分割处理的一种语义信息的损失评判标准,即用于对交叠区域的语义损失程度的体现,其表达式如下:

其中,l为每个像素点的真实标签,l:Ω→{1,2,…K},w表示权重值,用来衡量不同像素的重要程度。本申请将赋予云阴影类别更大的惩罚权重,以弥补其在训练数据中的数量不足,P为网路最后一层特征图经softmax归一化的结果,具体表达式如下:

其中,a

在训练模型之前一般通过数据增强方法来扩充样本数量,提高模型的泛化能力。由于卫星云层图像具有“各向同性”,没有所谓的上下左右之分,通过旋转、翻转图像能够有效扩增数据。同时由于卫星云层图像拍摄呈俯视状态,多数物体进行拉伸延展,依旧可以保持语义不变。而且,卫星云层图像因拍摄时间的不同会有一些明暗变化,各个地点的地表覆盖又具有较大的差异性,因而本申请同时会使用色彩扩增方法对输入样本做增强处理。

在实际的处理过程中,卫星云层图像的图像幅宽较大,比如一幅GF-1的全景影像,其尺寸为15000×15000左右,具体的处理方法如下:

1、将卫星云层图像分割为多个具有重叠区域的512×512的交叠云层图像;

2、将交叠云层图像经过多个下采样残差模块,并将每一个下采样残差模块输出特征图层与对应的上采样残差模块输出特征图层融合;

3、将最后一个下采样残差模块输出的特征图层输入双向不对称空洞卷积模型中,以得到各交叠云层图像的三种特征图层,即云特征图层、云阴影特征图层以及背景特征图层,其中,背景特征图层中包括冰雪图层、水体图层以及地形阴影图层;

4、获取经过softmax归一化之后的各特征图层的各像素点的特征概率,将不同的交叠云层图像在同种特征图层上的相同的像素点的特征概率相加,得到各像素点在不同特征图层上的概率;

5、选取各特征图层上的最大概率的类别作为重叠区域的每一个像素点的判定类别,例如,像素点在云阴影的特征图层上的概率最大,则在输出图层上的相同像素点上输出的灰度值为128,即灰色;又如,像素点在云层的特征图层上的概率最大,则在输出图层上的相同像素点上输出的灰度值为255,即白色;又如,像素点在山水冰雪背景的特征图层上的概率最大,则在输出图层上的相同像素点上输出的灰度值为0,即黑色。

关于卫星云层图像处理装置的具体限定可以参见上文中对于卫星云层图像处理方法的限定,在此不再赘述。上述卫星云层图像处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。

本申请还提供一种计算机设备,该计算机设备可以是终端,其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种卫星云层图像处理方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。

本领域技术人员可以理解,图4中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。

在其中一个实施例中,本申请还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。

在其中一个实施例中,本申请还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic Random Access Memory,DRAM)等。

以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

相关技术
  • 卫星云层图像处理方法、装置、计算机设备和存储介质
  • 图像处理方法及装置、图像采集装置、可读存储介质和计算机设备
技术分类

06120113239128