基于地空视角几何变换的遥感图像生成方法及装置

技术领域

本申请涉及遥感图像生成技术领域，特别涉及一种基于地空视角几何变换的遥感图像生成方法及装置。

背景技术

相关技术中，可以通过插值算法对原始图像进行像素级别的插值，或者基于数据集进行语义匹配与提取，对地物关系进行精细重建，通过对地貌进行建模，生成遥感图像，从而可以将遥感技术应用在真实场景中。

然而，相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求，亟待解决。

发明内容

本申请提供一种基于地空视角几何变换的遥感图像生成方法及装置，以解决相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求的问题。

本申请第一方面实施例提供一种基于地空视角几何变换的遥感图像生成方法，包括以下步骤：采集原始圆柱体投影，并根据所述原始圆柱体投影获得第一地面全景图像；将所述第一地面全景图像进行立方体投影，根据所述立方体投影获得第二地面全景图像；对所述第一地面全景图像进行深度估计，得到所述第一地面全景图像的深度估计结果，基于所述深度估计结果获得所述第一地面全景图像的第一深度图和初始地对空注意力掩膜；对所述第二地面全景图像进行特征提取，得到目标方向的特征图，将所述特征图进行聚合，得到特征向量，利用所述特征向量构建经度和纬度的环路超图；根据所述环路超图构建地对空注意力系数，将所述地对空注意力系数和所述初始地对空注意力掩膜进行加权处理，获得所述地对空注意力系数加权后的地对空注意力掩膜；将所述第一深度图、所述第一地面全景图像以及所述地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像；将所述目标视角投影图像输入至目标遥感图像生成模块中，以修复所述目标视角投影图像的纹理和细节，生成最终的遥感图像。

可选地，在本申请的一个实施例中，所述对所述第一地面全景图像进行深度估计，得到所述第一地面全景图像的深度估计结果，基于所述深度估计结果获得所述第一地面全景图像的第一深度图和初始地对空注意力掩膜，包括：利用目标图像生成网络，获得所述第一地面全景图像的第一深度图和初始地对空注意力掩膜预测，其中，所述目标图像生成网络输入的通道数量为3，输出的通道数量为2，其中，所述目标图像生成网络输出的第一个通道为所述第一深度图，输出的第二个通道为所述初始地对空注意力掩膜预测。

可选地，在本申请的一个实施例中，所述对所述第二地面全景图像进行特征提取，得到目标方向的特征图，将所述特征图进行聚合，得到特征向量，利用所述特征向量构建经度和纬度的环路超图，包括：将所述目标方向的全景图像输入至特征提取网络，使用ResNet(Residual Network，残差网络)结构获得所述目标方向上的特征图；将所述特征图输入特征聚合网络进行聚合，获得至少一个特征向量；将所述至少一个特征向量作为节点，构建所述经度和所述纬度的所述环路超图。

可选地，在本申请的一个实施例中，所述根据所述环路超图构建地对空注意力系数，基于所述地对空注意力系数和所述初始地对空注意力掩膜进行加权处理，获得所述地对空注意力系数加权后的地对空注意力掩膜，包括：将所述环路超图对超图节点特征进行预设卷积，获得所述环路超图的目标节点的新的特征，将所述新的特征组合成两组特征矩阵；将所述两组特征矩阵中的目标特征进行拼接，获得两个新的特征向量，将所述两个新的特征向量组合成二元数组，并将所述二元数组进行矩阵相乘，获得地对空注意力系数；将预测获得的所述初始地对空注意力掩模和所述地对空注意力系数进行加权处理，获得所述地对空注意力系数加权后的地对空注意力掩膜。

可选地，在本申请的一个实施例中，所述将所述第一深度图、所述第一地面全景图像以及所述地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，包括：将所述第一深度图和所述地对空注意力掩膜进行加权处理，获得加权后的第二深度图；利用所述第二深度图，将所述第一地面全景图像的齐次全景图像坐标转换为相机坐标系下的三维坐标，获得转换后的非齐次全景图像坐标；基于所述非齐次全景图像坐标，将第一地面全景图像的RGB像素值转换为遥感视角下的齐次遥感图像坐标；基于所述齐次遥感图像坐标，对所述第一地面全景图像中的每个像素点进行转换，获得所述最终的遥感图像的每个像素点的RGB值，基于所述RGB值获得所述遥感视角下的所述目标视角投影图像。

本申请第二方面实施例提供一种基于地空视角几何变换的遥感图像生成装置，包括：第一获取模块，用于采集原始圆柱体投影，并根据所述原始圆柱体投影获得第一地面全景图像；第二获取模块，用于将所述第一地面全景图像进行立方体投影，根据所述立方体投影获得第二地面全景图像；第三获取模块，用于对所述第一地面全景图像进行深度估计，得到所述第一地面全景图像的深度估计结果，基于所述深度估计结果获得所述第一地面全景图像的第一深度图和初始地对空注意力掩膜；第一确定模块，用于对所述第二地面全景图像进行特征提取，得到目标方向的特征图，将所述特征图进行聚合，得到特征向量，利用所述特征向量构建经度和纬度的环路超图；构建模块，用于根据所述环路超图构建地对空注意力系数，将所述地对空注意力系数和所述初始地对空注意力掩膜进行加权处理，获得所述地对空注意力系数加权后的地对空注意力掩膜；第二确定模块，用于将所述第一深度图、所述第一地面全景图像以及所述地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像；生成模块，用于将所述目标视角投影图像输入至目标遥感图像生成模块中，以修复所述目标视角投影图像的纹理和细节，生成最终的遥感图像。

可选地，在本申请的一个实施例中，所述第三获取模块，包括：第一获取单元，用于利用目标图像生成网络，获得所述第一地面全景图像的第一深度图和初始地对空注意力掩膜预测，其中，所述目标图像生成网络输入的通道数量为3，输出的通道数量为2，其中，所述目标图像生成网络输出的第一个通道为所述第一深度图，输出的第二个通道为所述初始地对空注意力掩膜预测。

可选地，在本申请的一个实施例中，所述第一确定模块，包括：第一确定单元，用于将所述目标方向的全景图像输入至特征提取网络，使用ResNet结构获得所述目标方向上的特征图；第二确定单元，用于将所述特征图输入特征聚合网络进行聚合，获得至少一个特征向量；构建单元，用于将所述至少一个特征向量作为节点，构建所述经度和所述纬度的所述环路超图。

可选地，在本申请的一个实施例中，所述构建模块，包括：第二获取单元，用于将所述环路超图对超图节点特征进行预设卷积，获得所述环路超图的目标节点的新的特征，将所述新的特征组合成两组特征矩阵；第三获取单元，用于将所述两组特征矩阵中的目标特征进行拼接，获得两个新的特征向量，将所述两个新的特征向量组合成二元数组，并将所述二元数组进行矩阵相乘，获得地对空注意力系数；处理单元，用于将预测获得的所述初始地对空注意力掩模和所述地对空注意力系数进行加权处理，获得所述地对空注意力系数加权后的地对空注意力掩膜。

可选地，在本申请的一个实施例中，所述第二确定模块，包括：第三确定单元，用于将所述第一深度图和所述地对空注意力掩膜进行加权处理，获得加权后的第二深度图；第四确定单元，用于利用所述第二深度图，将所述第一地面全景图像的齐次全景图像坐标转换为相机坐标系下的三维坐标，获得转换后的非齐次全景图像坐标；转换单元，用于基于所述非齐次全景图像坐标，将第一地面全景图像的RGB像素值转换为遥感视角下的齐次遥感图像坐标；第五确定单元，用于基于所述齐次遥感图像坐标，对所述第一地面全景图像中的每个像素点进行转换，获得所述最终的遥感图像的每个像素点的RGB值，基于所述RGB值获得所述遥感视角下的所述目标视角投影图像。

本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的基于地空视角几何变换的遥感图像生成方法。

本申请第四方面实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储计算机程序，该程序被处理器执行时实现如上的基于地空视角几何变换的遥感图像生成方法。

本申请实施例可以根据原始圆柱体投影获得第一地面全景图像，将第一地面全景图像进行立方体投影获得第二地面全景图像，对第一地面全景图像进行深度估计，并获得第一深度图和初始地对空注意力掩膜，进而对第二地面全景图像进行特征提取，得到目标方向的特征图并聚合，得到特征向量，从而构建经度和纬度的环路超图，进而构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜，将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，并修复目标视角投影图像的纹理和细节，生成最终的遥感图像，进而有效的提升遥感图像的质量，满足实际场景的应用需求。由此，解决了相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求的问题。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为根据本申请实施例提供的一种基于地空视角几何变换的遥感图像生成方法的流程图；

图2为本申请一个具体实施例的环路超图中超边的构造过程示意图；

图3为本申请一个具体实施例的基于地空视角几何变换的遥感图像生成算法框架示意图；

图4为本申请一个具体实施例的地对空投影方式示意图；

图5为根据本申请实施例的基于地空视角几何变换的遥感图像生成装置的结构示意图；

图6为根据本申请实施例提供的电子设备的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的基于地空视角几何变换的遥感图像生成方法及装置。针对上述背景技术中心提到的相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求的问题，本申请提供了一种基于地空视角几何变换的遥感图像生成方法，在该方法中，可以根据原始圆柱体投影获得第一地面全景图像，将第一地面全景图像进行立方体投影获得第二地面全景图像，对第一地面全景图像进行深度估计，并获得第一深度图和初始地对空注意力掩膜，进而对第二地面全景图像进行特征提取，得到目标方向的特征图并聚合，得到特征向量，从而构建经度和纬度的环路超图，进而构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜，将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，并修复目标视角投影图像的纹理和细节，生成最终的遥感图像，进而有效的提升遥感图像的质量，满足实际场景的应用需求。由此，解决了相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求的问题。

具体而言，图1为本申请实施例所提供的一种基于地空视角几何变换的遥感图像生成方法的流程示意图。

如图1所示，该基于地空视角几何变换的遥感图像生成方法包括以下步骤：

在步骤S101中，采集原始圆柱体投影，并根据原始圆柱体投影获得第一地面全景图像。

可以理解的是，本申请实施例可以采集原始圆柱体投影，例如，可以利用地面全景相机，在选定的地面地点采集相机的原始圆柱体投影，并根据原始圆柱体投影获得第一地面全景图像P

在步骤S102中，将第一地面全景图像进行立方体投影，根据立方体投影获得第二地面全景图像。

可以理解的是，本申请实施例可以将第一地面全景图像进行立方体投影，根据立方体投影获得第二地面全景图像，例如，如图2所示，第二地面全景图像P

在步骤S103中，对第一地面全景图像进行深度估计，得到第一地面全景图像的深度估计结果，基于深度估计结果获得第一地面全景图像的第一深度图和初始地对空注意力掩膜。

可以理解的是，本申请实施例可以对下述步骤中的第一地面全景图像进行深度估计，得到第一地面全景图像的深度估计结果，基于深度估计结果获得第一地面全景图像的第一深度图和初始地对空注意力掩膜，有效的提升了遥感图像的质量。

其中，在本申请的一个实施例中，对第一地面全景图像进行深度估计，得到第一地面全景图像的深度估计结果，基于深度估计结果获得第一地面全景图像的第一深度图和初始地对空注意力掩膜，包括：利用目标图像生成网络，获得第一地面全景图像的第一深度图和初始地对空注意力掩膜预测，其中，目标图像生成网络输入的通道数量为3，输出的通道数量为2，其中，目标图像生成网络输出的第一个通道为第一深度图，输出的第二个通道为初始地对空注意力掩膜预测。

在实际执行过程中，本申请实施例可以利用图像生成网络，对第一地面全景图像P

在步骤S104中，对第二地面全景图像进行特征提取，得到目标方向的特征图，将特征图进行聚合，得到特征向量，利用特征向量构建经度和纬度的环路超图。

可以理解的是，本申请实施例可以对下述步骤中的第二地面全景图像进行特征提取，得到目标方向的特征图，将特征图进行聚合，得到特征向量，利用特征向量构建经度和纬度的环路超图，从而有效的降低了遥感图像的失真率，提升了遥感图像的质量。

其中，在本申请的一个实施例中，对第二地面全景图像进行特征提取，得到目标方向的特征图，将特征图进行聚合，得到特征向量，利用特征向量构建经度和纬度的环路超图，包括：将目标方向的全景图像输入至特征提取网络，使用ResNet结构获得目标方向上的特征图；将特征图输入特征聚合网络进行聚合，获得至少一个特征向量；将至少一个特征向量作为节点，构建经度和纬度的环路超图。

作为一种可能实现的方式，本申请实施例可以对第二地面全景图像进行特征提取，可以将第二地面全景图像中六个方向上的全景图像分别输入特征提取网络，首先使用ResNet结构，获得六个方向上的特征图，对经过特征提取的六个方向上的图像输入特征聚合网络，将特征图进行聚合，并获得特征向量，其中，六个特征向量分别为V

另外，本申请实施例可以将第二地面全景图像的六个方向上的特征向量作为节点，构建经度和纬度两个环路超图，其中，每个环路超图的节点数量4，纬度环路超图H

ε

其中，V

在步骤S105中，根据环路超图构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜。

可以理解的是，本申请实施例可以根据下述步骤中环路超图构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜，从而有效的提升了遥感图像的质量。

其中，在本申请的一个实施例中，根据环路超图构建地对空注意力系数，基于地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜，包括：将环路超图对超图节点特征进行预设卷积，获得环路超图的目标节点的新的特征，将新的特征组合成两组特征矩阵；将两组特征矩阵中的目标特征进行拼接，获得两个新的特征向量，将两个新的特征向量组合成二元数组，并将二元数组进行矩阵相乘，获得地对空注意力系数；将预测获得的初始地对空注意力掩模和地对空注意力系数进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜。

举例而言，本申请实施例可以将上述步骤中构建的两个环路超图在全部超边指导下，对超图节点特征进行HCNNConv+卷积，获得每个环路超图的全部4个节点的新特征，组合成两组特征矩阵。

接着，可以经过超图卷积后获得的两组特征矩阵分别为4×C

在步骤S106中，将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像。

可以理解的是，本申请实施例可以将下述步骤中的第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，通过对原始遥感图像进行几何变换，有效的提升遥感图像的质量，满足实际场景的应用需求。

其中，在本申请的一个实施例中，将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，包括：将第一深度图和地对空注意力掩膜进行加权处理，获得加权后的第二深度图；利用第二深度图，将第一地面全景图像的齐次全景图像坐标转换为相机坐标系下的三维坐标，获得转换后的非齐次全景图像坐标；基于非齐次全景图像坐标，将第一地面全景图像的RGB像素值转换为遥感视角下的齐次遥感图像坐标；基于齐次遥感图像坐标，对第一地面全景图像中的每个像素点进行转换，获得最终的遥感图像的每个像素点的RGB值，基于RGB值获得遥感视角下的目标视角投影图像。

在实际执行过程中，本申请实施例可以将上述步骤中获得的第一深度图D

其中，K

接着，可以获得转换后的非齐次全景图像坐标，基于非齐次全景图像坐标，将第一地面全景图像的RGB像素值转换为遥感视角下的齐次遥感图像坐标，具体转换关系为，

其中，F为直角坐标系和球形坐标系下的三维点转换函数，K

从而，可以基于齐次遥感图像坐标，对第一地面全景图像中的每个像素点进行转换，获得最终尺寸为H

在步骤S107中，将目标视角投影图像输入至目标遥感图像生成模块中，以修复目标视角投影图像的纹理和细节，生成最终的遥感图像。

可以理解的是，本申请实施例可以基于U-Net结构的图像生成，将目标视角投影图像输入至目标遥感图像生成模块中，以修复目标视角投影图像的纹理和细节，生成最终的遥感图像，其中，图像生成网络的输入通道数量为3，输出通道数量也为3，通过对原始遥感图像进行几何变换，从而生成具有更高质量和更丰富细节的遥感图像。

举例而言，如图3所示，本申请实施例可以由地对空投影、空中嵌入注意力和卫星图像生成三个主要模块组成，可以接受不同类型的地面全景图像作为输入，包括，立方体投影P

另外，由于两个视角之间存在可见性和遮挡关系的差异，地面全景相机捕获的每个像素在卫星相机中具有不同的可见性，因此可以引入空中嵌入注意力模块，首先使用编码器-解码器结构基于第二地面全景图像P

综上，本申请实施例采用判别器建立条件生成对抗网络结构，利用从立方体图像特征构建的循环超图，引入空中注意力，有效地建模了两个视角之间的可见性和遮挡关系，并且专注于地面到空中视图合成，可以从地面全景图像生成跨视角和跨尺度的卫星图像。

例如，如图4所示，为捕捉相同目标时，地面全景图和卫星图像之间的几何对应关系，图4左侧，为地面图像和卫星图像的对齐情况，图4右侧为图像平面上的像素分布图，假设世界坐标系的X轴与卫星图像坐标的v轴平行，Y轴与卫星图像坐标的U轴平行，z轴垂直于地面平面，可以将目标物体在世界坐标系中的坐标表示为：

P

另外，假设地面全景相机的外参数为R

接着，可以将地面全景相机的内参数表示为K

另外，从地面全景图像恢复卫星图像的几何恢复过程中，可以确定地面全景图像中任意像素(u

其中，F为直角坐标系和球形坐标系下的三维点转换函数，K

在地对空中投影模块模块中，使用U-Net模型从等距投影中预测深度图，将预测的深度图作为地面全景相机的内参数估计，使得从第一全景图像中的给定像素点(u

在部分实施例中，由于本申请实施例基于深度的投影技术开发的初步的地面到空中投影转换方法，并没有准确捕捉到卫星图像形成的复杂性，具体而言，首先，由于空中到地面的拍摄视角引入了高度遮挡关系，卫星图像仅捕捉了具有相同地面位置(x

由此可知，上述步骤中的因素导致地面图像中的每个像素对卫星图像的贡献程度不同，由于贡献受到空间位置的影响，因此，可以建立一个与空间位置相关的注意力掩码，注意力掩码在地面到空中投影中以逐像素的方式引导深度数据的利用，第二地面全景图像由在以焦点为中心的球形空间内，从不同方向拍摄的图像组成，由于第二地面全景图像中丰富的方向信息，可以通过提取多样化的输入特征分析和构建空间分布关系，由于超图结构在建模多点关系和捕捉高阶关系方面的有效性，可以使用第二地面全景图像特征构建超图，其中，节点表示图像特征。

举例而言，本申请实施例可以使用ResNet和SAFA提取特征，并对由立方体映射获得的六个方向图像进行聚合，从立方体映射中提取的每个特征向量表示特定方向的信息，相同位置(方向)对应的特征向量具有一定的相似性，因此，通过考虑特征的相似性，可以建立方向之间的关联，如图2所示，为根据经度(纵向)和纬度(横向)将全景图划分为两个循环的示意图，经度循环包括四个方向：上、前、下和后，而纬度循环包括四个方向：左、前、右和后，根据这些循环构建了两个超图，其中，每个超图的节点表示来自相应四个方向的特征向量，对于每个超图，通过K-Hop最近邻方法构建，具体构造方式为：

ε

其中，V

从而，本申请实施例可以有效的提升遥感图像的质量，满足实际场景的应用需求。

根据本申请实施例提出的基于地空视角几何变换的遥感图像生成方法，可以根据原始圆柱体投影获得第一地面全景图像，将第一地面全景图像进行立方体投影获得第二地面全景图像，对第一地面全景图像进行深度估计，并获得第一深度图和初始地对空注意力掩膜，进而对第二地面全景图像进行特征提取，得到目标方向的特征图并聚合，得到特征向量，从而构建经度和纬度的环路超图，进而构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜，将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，并修复目标视角投影图像的纹理和细节，生成最终的遥感图像，进而有效的提升遥感图像的质量，满足实际场景的应用需求。由此，解决了相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求的问题。

其次参照附图描述根据本申请实施例提出的基于地空视角几何变换的遥感图像生成装置。

图5是本申请实施例的基于地空视角几何变换的遥感图像生成装置的方框示意图。

如图5所示，该基于地空视角几何变换的遥感图像生成装置10包括：第一获取模块100、第二获取模块200、第三获取模块300、第一确定模块400、构建模块500、第二确定模块600和生成模块700。

具体地，第一获取模块100，用于采集原始圆柱体投影，并根据原始圆柱体投影获得第一地面全景图像。

第二获取模块200，用于将第一地面全景图像进行立方体投影，根据立方体投影获得第二地面全景图像。

第三获取模块300，用于对第一地面全景图像进行深度估计，得到第一地面全景图像的深度估计结果，基于深度估计结果获得第一地面全景图像的第一深度图和初始地对空注意力掩膜。

第一确定模块400，用于对第二地面全景图像进行特征提取，得到目标方向的特征图，将特征图进行聚合，得到特征向量，利用特征向量构建经度和纬度的环路超图。

构建模块500，用于根据环路超图构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜。

第二确定模块600，用于将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像。

生成模块700，用于将目标视角投影图像输入至目标遥感图像生成模块中，以修复目标视角投影图像的纹理和细节，生成最终的遥感图像。

可选地，在本申请的一个实施例中，第三获取模块300，包括：第一获取单元。

其中，第一获取单元，用于利用目标图像生成网络，获得第一地面全景图像的第一深度图和初始地对空注意力掩膜预测，其中，目标图像生成网络输入的通道数量为3，输出的通道数量为2，其中，目标图像生成网络输出的第一个通道为第一深度图，输出的第二个通道为初始地对空注意力掩膜预测。

可选地，在本申请的一个实施例中，第一确定模块400，包括：第一确定单元、第二确定单元和构建单元。

其中，第一确定单元，用于将目标方向的全景图像输入至特征提取网络，使用ResNet结构获得目标方向上的特征图。

第二确定单元，用于将特征图输入特征聚合网络进行聚合，获得至少一个特征向量。

构建单元，用于将至少一个特征向量作为节点，构建经度和纬度的环路超图。

可选地，在本申请的一个实施例中，构建模块500，包括：第二获取单元、第三获取单元和处理单元。

其中，第二获取单元，用于将环路超图对超图节点特征进行预设卷积，获得环路超图的目标节点的新的特征，将新的特征组合成两组特征矩阵。

第三获取单元，用于将两组特征矩阵中的目标特征进行拼接，获得两个新的特征向量，将两个新的特征向量组合成二元数组，并将二元数组进行矩阵相乘，获得地对空注意力系数。

处理单元，用于将预测获得的初始地对空注意力掩模和地对空注意力系数进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜。

可选地，在本申请的一个实施例中，第二确定模块600，包括：第三确定单元、第四确定单元、转换单元和第五确定单元。

其中，第三确定单元，用于将第一深度图和地对空注意力掩膜进行加权处理，获得加权后的第二深度图。

第四确定单元，用于利用第二深度图，将第一地面全景图像的齐次全景图像坐标转换为相机坐标系下的三维坐标，获得转换后的非齐次全景图像坐标。

转换单元，用于基于非齐次全景图像坐标，将第一地面全景图像的RGB像素值转换为遥感视角下的齐次遥感图像坐标。

第五确定单元，用于基于齐次遥感图像坐标，对第一地面全景图像中的每个像素点进行转换，获得最终的遥感图像的每个像素点的RGB值，基于RGB值获得遥感视角下的目标视角投影图像。

需要说明的是，前述对基于地空视角几何变换的遥感图像生成方法实施例的解释说明也适用于该实施例的基于地空视角几何变换的遥感图像生成装置，此处不再赘述。

根据本申请实施例提出的基于地空视角几何变换的遥感图像生成装置，可以根据原始圆柱体投影获得第一地面全景图像，将第一地面全景图像进行立方体投影获得第二地面全景图像，对第一地面全景图像进行深度估计，并获得第一深度图和初始地对空注意力掩膜，进而对第二地面全景图像进行特征提取，得到目标方向的特征图并聚合，得到特征向量，从而构建经度和纬度的环路超图，进而构建地对空注意力系数，将地对空注意力系数和初始地对空注意力掩膜进行加权处理，获得地对空注意力系数加权后的地对空注意力掩膜，将第一深度图、第一地面全景图像以及地对空注意力掩膜进行几何转换，获得遥感视角下的目标视角投影图像，并修复目标视角投影图像的纹理和细节，生成最终的遥感图像，进而有效的提升遥感图像的质量，满足实际场景的应用需求。由此，解决了相关技术中的通过插值算法生成遥感图像，无法对多变的地貌进行准确的建模，造成遥感图像存在失真，导致生成的遥感图像的质量较差，无法满足实际场景的应用需求的问题。

图6为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：

存储器601、处理器602及存储在存储器601上并可在处理器602上运行的计算机程序。

处理器602执行程序时实现上述实施例中提供的基于地空视角几何变换的遥感图像生成方法。

进一步地，电子设备还包括：

通信接口603，用于存储器601和处理器602之间的通信。

存储器601，用于存放可在处理器602上运行的计算机程序。

存储器601可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

如果存储器601、处理器602和通信接口603独立实现，则通信接口603、存储器601和处理器602可以通过总线相互连接并完成相互间的通信。总线可以是工业标准体系结构(Industry Standard Architecture，简称为ISA)总线、外部设备互连(PeripheralComponent，简称为PCI)总线或扩展工业标准体系结构(Extended Industry StandardArchitecture，简称为EISA)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。

可选地，在具体实现上，如果存储器601、处理器602及通信接口603，集成在一块芯片上实现，则存储器601、处理器602及通信接口603可以通过内部接口完成相互间的通信。

处理器602可能是一个中央处理器(Central Processing Unit，简称为CPU)，或者是特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者是被配置成实施本申请实施例的一个或多个集成电路。

本实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的基于地空视角几何变换的遥感图像生成方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或N个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。