深度信息获取方法和装置、电子设备和存储介质

技术领域

本公开涉及数据处理技术，尤其是一种深度信息获取方法和装置、电子设备和存储介质。

背景技术

目前，鱼眼摄像机主要应用于视频监控领域。在该视频监控领域中，相比于传统枪型摄像机的单一朝向、监控范围有盲区等缺陷，鱼眼摄像机的视域范围更广，在无遮挡情况下，在室内空间内是无盲区的。因此，若仅仅用作室内监控，鱼眼摄像机是非常合适的摄像机选型种类。

在实现本发明的过程中，本发明人通过研究发现，目前，传统枪型摄像机主要通过以下几种方式获取场景的深度：搭配深度摄像头获取深度；利用双目摄像头的双目视觉差异计算深度信息；将单目摄像头进行持续运动，通过视频图像差异计算深度信息；利用光环境预估深度。然而，对于固定部署于室内光环境复杂场景中的单目鱼眼摄像机，均无法通过上述方式获取场景的深度。

由于鱼眼摄像机无法获取场景深度信息，仅依托单目鱼眼摄像机采集的图像，无法满足某些需要获取场景深度信息的需求，从而限制了鱼眼摄像机的应用。

发明内容

本公开实施例提供一种深度信息获取方法和装置、电子设备和存储介质，以实现基于鱼眼摄像机获取场景的深度信息。

本公开实施例的一个方面，提供一种深度信息获取方法，包括：

通过将鱼眼摄像机采集的图像与所述鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，对所述鱼眼摄像机进行标定，得到所述鱼眼摄像机的内参和外参；

分别针对三维空间模型中的各顶点，基于所述鱼眼摄像机的外参，获取所述顶点在所述鱼眼摄像机对应的球坐标系中的球面坐标；

基于所述顶点的球面坐标和所述鱼眼摄像机的内参，获取所述顶点在图像坐标系中的图像坐标；

基于所述鱼眼摄像机与所述顶点之间在所述三维空间模型中的距离获取所述顶点的像素值；

基于所述各顶点的图像坐标与对应的像素值生成所述鱼眼摄像机采集的图像对应的深度图。

可选地，在本公开上述任一方法实施例中，所述球坐标系是以所述鱼眼相机为球心、基于所述鱼眼相机的内参和外参构建得到的单位球坐标系。

可选地，在本公开上述任一方法实施例中，所述鱼眼摄像机的内参包括：所述鱼眼摄像机的圆面半径、中心点位置和鱼眼拍摄张角；所述鱼眼摄像机的外参包括：所述鱼眼摄像机在所述三维空间模型对应的三维坐标系中的空间位置坐标、所述鱼眼摄像机在所述三维坐标系中的旋转欧拉角。

可选地，在本公开上述任一方法实施例中，所述基于所述鱼眼摄像机的外参，获取所述顶点在所述鱼眼摄像机对应的球坐标系中的球面坐标，包括：

获取所述鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量；

基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标、所述正方向实际向量和所述上方向实际向量、所述顶点在所述三维坐标系中的空间位置坐标，获取所述顶点在所述球坐标系中的球面坐标。

可选地，在本公开上述任一方法实施例中，获取所述鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量，包括：

基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的正方向单位向量，获取所述正方向实际向量；

基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的上方向单位向量，获取所述上方向实际向量。

可选地，在本公开上述任一方法实施例中，所述基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标、所述正方向实际向量和所述上方向实际向量、所述顶点在所述三维坐标系中的空间位置坐标，获取所述顶点在所述球坐标系中的球面坐标，包括：

基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标和所述顶点在所述三维坐标系中的空间位置坐标，计算所述顶点相对所述鱼眼摄像机在所述三维坐标系中的空间位置坐标的顶点方向向量；

对所述顶点方向向量与所述正方向实际向量进行叉乘，得到与所述顶点方向向量和所述正方向实际向量均垂直的中间向量；

对所述正方向实际向量与所述中间向量进行叉乘，得到所述顶点方向向量在所述正方向实际向量的垂直平面上的投影向量；

依次对所述顶点方向向量的单位向量与所述正方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到所述鱼眼摄像机的正方向实际向量在所述球坐标系的球面上交点，作为纬度为0°的点坐标系下的纬度坐标；

依次对所述投影向量的单位向量与所述上方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到所述鱼眼摄像机的上方向与正方向构成的平面，作为经度为0°的面坐标系下的经度值；

依次将所述投影向量与所述上方向实际向量叉乘、并将叉乘结果与所述正方向实际向量点乘，根据点乘结果的正负与所述经度值得到经度坐标；

基于所述经度坐标和所述纬度坐标得到所述顶点在所述球坐标系中的球面坐标。

可选地，在本公开上述任一方法实施例中，所述基于所述顶点的球面坐标和所述鱼眼摄像机的内参，获取所述顶点在图像坐标系中的图像坐标，包括：

根据所述经度坐标，获取所述经度坐标对应的经度在图像中，相对于所述球坐标系的球心的方向单位向量；

根据所述维度坐标、所述鱼眼拍摄张角的半值，获取所述方向单位向量对应的实际向量；

获取所述方向单位向量对应的实际向量在球面投影圆中的二维坐标；其中，所述球面投影圆为所述球坐标系的球面在与所述正方向垂直的横切面上的投影；

根据所述二维坐标和所述鱼眼摄像机的内参，获取所述顶点在所述图像坐标系中的图像坐标。

可选地，在本公开上述任一方法实施例中，所述基于所述鱼眼摄像机与所述顶点之间在所述三维空间模型中的距离获取所述顶点的像素值之前，还包括：

基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标与所述顶点在所述三维坐标系中的空间位置坐标，获取所述鱼眼摄像机与所述顶点之间的距离。

可选地，在本公开上述任一方法实施例中，所述基于所述鱼眼摄像机与所述顶点之间在所述三维空间模型中的距离获取所述顶点的像素值，包括：

基于预先设定的距离与RGB值之间的计算公式，分别计算所述距离对应的RGB值。

本公开实施例的另一个方面，提供一种深度信息获取装置，包括：

标定模块，用于通过将鱼眼摄像机采集的图像与所述鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，对所述鱼眼摄像机进行标定，得到所述鱼眼摄像机的内参和外参；

第一获取模块，用于分别针对三维空间模型中的各顶点，基于所述鱼眼摄像机的外参，获取所述顶点在所述鱼眼摄像机对应的球坐标系中的球面坐标；

第二获取模块，用于基于所述顶点的球面坐标和所述鱼眼摄像机的内参，获取所述顶点在图像坐标系中的图像坐标；

第三获取模块，用于基于所述鱼眼摄像机与所述顶点之间在所述三维空间模型中的距离获取所述顶点的像素值；

生成模块，用于基于所述各顶点的图像坐标与对应的像素值生成所述鱼眼摄像机采集的图像对应的深度图。

可选地，在本公开上述任一装置实施例中，所述球坐标系是以所述鱼眼相机为球心、基于所述鱼眼相机的内参和外参构建得到的单位球坐标系。

可选地，在本公开上述任一装置实施例中，所述鱼眼摄像机的内参包括：所述鱼眼摄像机的圆面半径、中心点位置和鱼眼拍摄张角；所述鱼眼摄像机的外参包括：所述鱼眼摄像机在所述三维空间模型对应的三维坐标系中的空间位置坐标、所述鱼眼摄像机在所述三维坐标系中的旋转欧拉角。

所述第一获取模块包括：

第一获取子模块，用于获取所述鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量；

第二获取子模块，用于基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标、所述正方向实际向量和所述上方向实际向量、所述顶点在所述三维坐标系中的空间位置坐标，获取所述顶点在所述球坐标系中的球面坐标。

可选地，在本公开上述任一装置实施例中，所述第一获取子模块，具体用于：

基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的正方向单位向量，获取所述正方向实际向量；

基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的上方向单位向量，获取所述上方向实际向量。

可选地，在本公开上述任一装置实施例中，所述第二获取子模块包括：

第一计算单元，用于基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标和所述顶点在所述三维坐标系中的空间位置坐标，计算所述顶点相对所述鱼眼摄像机在所述三维坐标系中的空间位置坐标的顶点方向向量；

第二计算单元，用于对所述顶点方向向量与所述正方向实际向量进行叉乘，得到与所述顶点方向向量和所述正方向实际向量均垂直的中间向量；

第三计算单元，用于对所述正方向实际向量与所述中间向量进行叉乘，得到所述顶点方向向量在所述正方向实际向量的垂直平面上的投影向量；

第四计算单元，用于依次对所述顶点方向向量的单位向量与所述正方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到所述鱼眼摄像机的正方向实际向量在所述球坐标系的球面上交点，作为纬度为0°的点坐标系下的纬度坐标；

第五计算单元，用于依次对所述投影向量的单位向量与所述上方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到所述鱼眼摄像机的上方向与正方向构成的平面，作为经度为0°的面坐标系下的经度值；

第六计算单元，用于依次将所述投影向量与所述上方向实际向量叉乘、并将叉乘结果与所述正方向实际向量点乘，根据点乘结果的正负与所述经度值得到经度坐标；

第七计算单元，用于基于所述经度坐标和所述纬度坐标得到所述顶点在所述球坐标系中的球面坐标。

可选地，在本公开上述任一装置实施例中，第二获取模块包括：

第一获取单元，用于根据所述经度坐标，获取所述经度坐标对应的经度在图像中，相对于所述球坐标系的球心的方向单位向量；

第二获取单元，用于根据所述维度坐标、所述鱼眼拍摄张角的半值，获取所述方向单位向量对应的实际向量；

第三获取单元，用于获取所述方向单位向量对应的实际向量在球面投影圆中的二维坐标；其中，所述球面投影圆为所述球坐标系的球面在与所述正方向垂直的横切面上的投影；

第四获取单元，用于根据所述二维坐标和所述鱼眼摄像机的内参，获取所述顶点在所述图像坐标系中的图像坐标。

可选地，在本公开上述任一装置实施例中，还包括：

第四获取模块，用于基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标与所述顶点在所述三维坐标系中的空间位置坐标，获取所述鱼眼摄像机与所述顶点之间的距离。

可选地，在本公开上述任一装置实施例中，所述生成模块，具体用于基于预先设定的距离与RGB值之间的计算公式，分别计算所述距离对应的RGB值。

本公开实施例的又一个方面，提供一种电子设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述存储器中存储的计算机程序，且所述计算机程序被执行时，实现本公开上述任一实施例所述的方法。

本公开实施例的再一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时，实现本公开上述任一实施例所述的方法。

基于本公开上述实施例提供的深度信息获取方法和装置、电子设备和存储介质，首先，通过将鱼眼摄像机采集的图像与该鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，对该鱼眼摄像机进行标定，得到鱼眼摄像机的内参和外参，并获取鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量，然后，分别针对三维空间模型中的各顶点，基于鱼眼摄像机的外参获取顶点在鱼眼摄像机对应的球坐标系中的球面坐标，再基于该顶点的球面坐标和鱼眼摄像机的内参获取该顶点在图像坐标系中的图像坐标，并基于鱼眼摄像机与顶点之间在三维空间模型中的距离获取该顶点的像素值，进而，基于各顶点的图像坐标与对应的像素值生成鱼眼摄像机采集的图像对应的深度图，由此，实现了基于鱼眼摄像机获取其采集图像针对场景的深度信息，可以满足各种需要获取场景深度信息的需求，扩大了鱼眼摄像机的应用领域和范围。

下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。

附图说明

构成说明书的一部分的附图描述了本公开的实施例，并且连同描述一起用于解释本公开的原理。

参照附图，根据下面的详细描述，可以更加清楚地理解本公开，其中：

图1为本公开深度信息获取方法一个实施例的流程图。

图2为本公开实施例中鱼眼相机的内参的一个示例性示意图。

图3为本公开深度信息获取方法另一个实施例的流程图。

图4为本公开深度信息获取方法又一个实施例的流程图。

图5为本公开实施例中球面投影圆的一个示例性示意图。

图6为基于本公开实施例生成的深度图的一个示例性示意图。

图7为本公开深度信息获取装置一个实施例的结构示意图。

图8为本公开深度信息获取装置另一个实施例的结构示意图。

图9为本公开电子设备一个应用实施例的结构示意图。

具体实施方式

现在将参照附图来详细描述本公开的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本公开实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

为获取鱼眼摄像机采集图像的深度数据，本公开实施例提供一种深度信息获取方法，可以基于鱼眼摄像机采集的图像与鱼眼摄像机针对的视域场景的三维空间模型，获取鱼眼摄像机采集的图像对应(即上述视域场景)的深度图。基于本公开实施例，获取的深度图可用于包括智慧工地在内的多种场景进行建模、并安装鱼眼摄像机监控的场景。

图1为本公开深度信息获取方法一个实施例的流程图。如图1所示，该实施例的深度信息获取方法包括：

102，通过将鱼眼摄像机采集的图像与该鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，对该鱼眼摄像机进行标定，得到该鱼眼摄像机的内参和外参。

104，分别针对三维空间模型中的各顶点，基于鱼眼摄像机的外参，获取顶点在鱼眼摄像机对应的球坐标系中的球面坐标。

其中的顶点为对三维空间模型进行可视化渲染时投影面片的顶点(也即网格交点)。

106，基于顶点的球面坐标和所述鱼眼摄像机的内参，获取顶点在图像坐标系中的图像坐标。

108，基于鱼眼摄像机与顶点之间在所述三维空间模型中的距离获取该顶点的像素值。

110，基于各顶点的图像坐标与对应的像素值生成鱼眼摄像机采集的图像对应的深度图。

基于本实施例，基于本公开上述实施例提供的深度信息获取方法和装置、电子设备和存储介质，首先，通过将鱼眼摄像机采集的图像与该鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，对该鱼眼摄像机进行标定，得到鱼眼摄像机的内参和外参，并获取鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量，然后，分别针对三维空间模型中的各顶点，基于鱼眼摄像机的外参获取顶点在鱼眼摄像机对应的球坐标系中的球面坐标，再基于该顶点的球面坐标和鱼眼摄像机的内参获取该顶点在图像坐标系中的图像坐标，并基于鱼眼摄像机与顶点之间在三维空间模型中的距离获取该顶点的像素值，进而，基于各顶点的图像坐标与对应的像素值生成鱼眼摄像机采集的图像对应的深度图，由此，实现了基于鱼眼摄像机获取其采集图像针对场景的深度信息，可以满足各种需要获取场景深度信息的需求，扩大了鱼眼摄像机的应用领域和范围。

可选地，在其中一些可能的实现方式中，所述球坐标系是以鱼眼相机为球心、基于该鱼眼相机的内参和外参构建得到的单位球坐标系，单位球坐标系中，球面上的点到球心(也称为中心点，即鱼眼相机的位置)的距离(即球的半径长度)为1。

例如，以装修工地中的应用为例，在102中，在装修案场的各个房间中以合适的位置及角度安装鱼眼摄像机，合适的位置以尽量房间中心、不靠近任意侧墙，且监控范围覆盖尽量完整的房间为佳，合适的角度以尽量使鱼眼摄像机的镜头面(即正方向、前方向)尽量正的朝向地面为佳。截取视频的一帧图像作为图像。基于上述合适的位置及角度安装鱼眼摄像机，可以使得鱼眼摄像机针对整个场景案场的感知最准确，减少造成深度缺失。

另外，对整个装修案场中的户型进行三维重建，通过对现实场景的计算机模拟仿真，生成可用的三维空间模型作为三维立体空间信息。

之后，可以准备可视化渲染工具，为鱼眼摄像机的标定、深度图获取等各阶段提供运行环境，可视化渲染工具例如可以采用但不限于：基于WebGL、OpenGL、DirectX基础图形库等在内的支持Shader着色器开发与RTT(Render to Texture，渲染到纹理)技术的开源引擎，甚至基于纯底层图形接口库的自研引擎等，本公开实施例对可视化渲染工具的具体形式不做限制。

接下来，在可视化渲染工具中进行数据标定阶段，利用截图的图像及三维立体空间信息，通过将鱼眼摄像机采集的图像与该鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，即将图像数据贴合到三维空间模型中，尽可能的将图像中的标识(例如墙线)与三维空间模型中对应的标识位置(例如墙线)进行贴合，从而对该鱼眼摄像机的标定，从而得到鱼眼摄像机的内参和外参。

鱼眼摄像机标定完成后，将该标定产生的鱼眼摄像机的内参和外参进行提取。

可选地，在其中一些可能的实现方式中，鱼眼摄像机的内参例如可以包括：鱼眼摄像机的圆面半径(dx，dy)、中心点位置(cx，cy)和鱼眼拍摄张角θ。鱼眼摄像机的外参例如可以包括：鱼眼摄像机在三维空间模型对应的三维坐标系中的空间位置坐标(Location)、鱼眼摄像机在该三维坐标系中的旋转欧拉角，即基于(Pitch，Yaw，Roll)三个旋转方向的旋转分量向量。其中，Pitch为俯仰，即将物体绕三维坐标系中X轴旋转；Yaw为航向，即将物体绕三维坐标系中Y轴旋转；Roll为横滚，将物体绕三维坐标系中Z轴旋转。

如图2所示，为本公开实施例中鱼眼相机的内参的一个示例性示意图。

可选地，在其中一些可能的实现方式中，在104中，可以基于鱼眼摄像机在该三维坐标系中的旋转欧拉角对应的旋转矩阵与鱼眼摄像机的正方向单位向量Vf(1,0,0)，获取正方向实际向量(VecForward)。其中，正方向即鱼眼摄像机正照射的方向。

例如，鱼眼摄像机在三维坐标系中的旋转欧拉角对应的旋转矩阵可以表示为：

其中，R表示旋转矩阵，为3×3的矩阵；R

可选地，在其中一些可能的实现方式中，在104中，可以基于鱼眼摄像机在该三维坐标系中的旋转欧拉角对应的旋转矩阵与鱼眼摄像机的上方向Vu(0,0,1)单位向量，获取上方向实际向量(VecUp)。其中，上方向即鱼眼摄像机摆放后，形成的图像正上方，对应鱼眼摄像机在真实空间的朝向，如图2所示，上方向与正方向垂直。

可选地，在其中一些可能的实现方式中，在104中，可以先获取鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量，然后，基于鱼眼摄像机在三维坐标系中的空间位置坐标、所述正方向实际向量和所述上方向实际向量、顶点在三维坐标系中的空间位置坐标，获取顶点在球坐标系中的球面坐标。

继续以上述装修工地中的应用为例，在104中，定义RTT相机到可视化渲染工具装修施工场景中，设置鱼眼摄像机到外参中的空间位置坐标(Location)，绑定该RTT相机渲染的目标场景(例如整个户型)到一块申请好的8位3通道RGB(Red Green Blue，红绿蓝)数组上，并为该RTT相机渲染的户型投影面片绑定Shader着色器程序，其中的投影面片与整个户型中房间的三维空间模型数据重合，但进行了更为精细的三角化细分，这样可以提供顶点着色阶段的精度。

分别针对每个投影面片上的顶点，在Shader着色器程序中，首先对将归一化后的鱼眼摄像机的圆面半径(dx，dy)和中心点位置(cx，cy)，以及鱼眼拍摄张角θ的一半r(即鱼眼拍摄张角的半值)、空间位置坐标(Location)、正方向实际向量(VecForward)和上方向实际向量(VecUp)作为参数传递进来，其中的归一化即将圆面半径(dx，dy)和中心点位置(cx，cy)的坐标映射到一个统一的范围中，以便于计算，该归一化操作为优化操作而非必需操作。在Shader着色器程序中的顶点着色器(Vertex Shader)中，首先，通过空间位置坐标(Location)、正方向实际向量(VecForward)和上方向实际向量(VecUp)、当前着色器处理的投影面片的顶点在三维坐标系中的空间位置坐标(Pos)，计算该顶点在鱼眼摄像机对应的球坐标系中的球面坐标，例如，可以表示为：float2 ComputeSphereCoordinate(float3Pos,float3 Location,float3 VecForward,float3 VecUp)，其中，float2表示二元组浮点数，float3表示三元组浮点数。

图3为本公开深度信息获取方法另一个实施例的流程图。如图3所示，在上述实施例的基础上，操作106中，基于鱼眼摄像机在三维坐标系中的空间位置坐标、所述正方向实际向量和所述上方向实际向量、顶点在三维坐标系中的空间位置坐标，获取顶点在球坐标系中的球面坐标，可以包括：

1042，基于鱼眼摄像机在三维坐标系中的空间位置坐标(可以简称为原点)和顶点在三维坐标系中的空间位置坐标，计算顶点相对鱼眼摄像机在三维坐标系中的空间位置坐标的顶点方向向量(dir)。

例如，可以表示为：float3 dir＝normalize(Pos-Location)。其中，normalize()为归一化计算，即使模的向量为1。

1044，对所述顶点方向向量与所述正方向实际向量进行叉乘，得到与顶点方向向量和正方向实际向量均垂直的中间向量(right)。

例如，可以表示为：float3 right＝normalize(cross(dir,VecForward))。其中，cross()为叉乘计算。

1046，对所述正方向实际向量与所述中间向量进行叉乘，得到顶点方向向量在所述正方向实际向量的垂直平面上的投影向量(projDir)。

例如，可以表示为：float3 projDir＝normalize(cross(VecForward,right))。

1048，依次对所述顶点方向向量的单位向量与所述正方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到鱼眼摄像机的正方向实际向量在球坐标系的球面上交点，作为纬度为0°的点坐标系下的纬度坐标(v)。

例如，可以表示为：float v＝acos(dot(dir,VecForward))*180.0/3.141593。其中，acos()为反余弦计算，dot()为点乘计算。

1050，依次对所述投影向量的单位向量与所述上方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到鱼眼摄像机的上方向与正方向构成的平面，作为经度为0°的面坐标系下的经度值。

例如，可以表示为：float u＝acos(dot(projDir,VecUp))*180.0/3.141593。其中，u表示缺少正负号的经度值。

1052，依次将所述投影向量与所述上方向实际向量叉乘、并将叉乘结果与所述正方向实际向量点乘，根据点乘结果的正负与所述经度值得到经度坐标(u)。

即，以该点乘结果的正负作为经度值的正负号。例如，可以通过如下方式实现：

1054，基于所述经度坐标和所述纬度坐标得到所述顶点在球坐标系中的球面坐标。

例如，该球面坐标可以表示为：float2(u,v)。

基于本实施例，提供了基于鱼眼摄像机的外参获取顶点在鱼眼摄像机对应的球坐标系中的球面坐标的具体实现方式。

图4为本公开深度信息获取方法又一个实施例的流程图。如图4所示，在上述实施例的基础上，操作106可以包括：

1062，根据所述经度坐标，获取所述经度坐标对应的经度在图像中，相对于球坐标系的球心的方向单位向量(newVector)。

例如，可以表示为：float2 newVector＝float2(-1*sin(-SphereCoordinate.u/180.0*PI),cos(-SphereCoordinate.u/180.0*PI))。其中，SphereCoordinate表示球坐标系球中的经纬度坐标，SphereCoordinate.u表示经度坐标。

1064，根据所述维度坐标、鱼眼拍摄张角的半值(r)，获取所述方向单位向量对应的实际向量。

1066，获取所述方向单位向量对应的实际向量在球面投影圆中的二维坐标(tempUV)。

其中，所述球面投影圆为所述球坐标系的球面在与所述正方向垂直的横切面上的投影。如图5所示，为本公开实施例中球面投影圆的一个示例性示意图。

例如，1064-1066可以表示为：float2 tempUV＝newVector*0.5*(SphereCoordinate.v/r)+float2(0.5,0.5)。其中，SphereCoordinate.v表示维度坐标。

1068，根据所述二维坐标和鱼眼摄像机的内参，获取顶点在图像坐标系中的图像坐标(UV)。

例如，可以表示为：float2 output＝tempUV*(float2(dx,dy)*2.0)+(float2(cx,cy)–float2(dx,dy))。

基于本实施例，即可获取到获取顶点在图像坐标系中的图像坐标，并将该图像坐标作为顶点着色阶段的坐标输出。

可选地，在上述各实施例中，在108之前，还可以基于鱼眼摄像机在三维坐标系中的空间位置坐标与顶点在三维坐标系中的空间位置坐标，获取鱼眼摄像机与顶点之间的距离。

基于本实施例，可以获取鱼眼摄像机与该顶点之间的距离(Distance)，基于该距离，Shader着色器可以确定不同顶点之间的遮挡关系，由于距离更远的投影面片会被遮挡，因此会被剔除。

通过上述实施例，顶点着色器(Vertex Shader)处理完毕后，可以由Shader着色器程序中的像素着色器(Pixel Shader)，对该顶点在三维坐标系中的空间位置坐标(Pos)到鱼眼摄像机在三维坐标系中的空间位置坐标(Location)的距离(Distance)进行计算。

可选地，在上述各实施例中，在110中，具体可以基于预先设定的距离与RGB值之间的计算公式，分别计算所述距离对应的RGB值。

可选地，在其中一些可能的实现方式中，如果以厘米为最小精度，可以将该距离转制到厘米为单位，然后，通过如下方式计算该距离对应的RGB值：

R＝Distance/65536，G＝Distance％65536/256，B＝Distance％256。

其中，％表示取余计算。

如果以米为最小精度，则可以将该距离除100后得到的结果作为上述RGB计算方式中的Distance进行计算即可；如果以毫米为最小精度，则可以将该距离乘10后得到的结果作为上述RGB计算方式中的Distance进行计算即可，依次类推。

基于上述方式，能处理的最大距离为：65536*255*最小精度值。

基于上述方式，在不采用双线性插值的情况下，采样的像素深度可以为：R*65536+G*256+B。

之后，可以使用可视化渲染工具，基于上述各顶点的图像坐标以及对应的RGB值，渲染出一帧RTT图像(即深度图)，如图6所示，为基于本公开实施例生成的深度图的一个示例性示意图。

在具体应用中，可以将该深度图像数据(各顶点的图像坐标以及对应的RGB值)保存到本地，以便后续应用，例如，用于视频融合的深度遮挡计算，图像中某像素的真实坐标定位，距离估算等等。

基于本公开实施例，可以生成与鱼眼摄像机采集图像对应的深度图，通过对深度图中的数据进行采样(提取某坐标对应位置的颜色值)，即可得到该坐标对应位置的深度数据。

本公开实施例提供的任一种深度信息获取方法可以由任意适当的具有数据处理能力的设备执行，包括但不限于：终端设备和服务器等。或者，本公开实施例提供的任一种深度信息获取方法可以由处理器执行，如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种深度信息获取方法。下文不再赘述。

本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于一计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

图7为本公开深度信息获取装置一个实施例的结构示意图。该实施例的深度信息获取装置可用于实现本公开上述各深度信息获取方法实施例。如图7所示，该实施例的深度信息获取装置包括：标定模块，第一获取模块，第二获取模块，第三获取模块和生成模块。其中：

标定模块，用于通过将鱼眼摄像机采集的图像与所述鱼眼摄像机针对的视域场景的三维空间模型进行贴合的方式，对所述鱼眼摄像机进行标定，得到所述鱼眼摄像机的内参和外参。

第一获取模块，用于分别针对三维空间模型中的各顶点，基于所述鱼眼摄像机的外参，获取所述顶点在所述鱼眼摄像机对应的球坐标系中的球面坐标。

第二获取模块，用于基于所述顶点的球面坐标和所述鱼眼摄像机的内参，获取所述顶点在图像坐标系中的图像坐标。

第三获取模块，用于基于所述鱼眼摄像机与所述顶点之间在所述三维空间模型中的距离获取所述顶点的像素值。

生成模块，用于基于所述各顶点的图像坐标与对应的像素值生成所述鱼眼摄像机采集的图像对应的深度图。

基于本实施例，实现了基于鱼眼摄像机获取其采集图像针对场景的深度信息，可以满足各种需要获取场景深度信息的需求，扩大了鱼眼摄像机的应用领域和范围。

可选地，在其中一些可能的实现方式中，所述球坐标系是以所述鱼眼相机为球心、基于所述鱼眼相机的内参和外参构建得到的单位球坐标系。

可选地，在其中一些可能的实现方式中，所述鱼眼摄像机的内参可以包括：所述鱼眼摄像机的圆面半径、中心点位置和鱼眼拍摄张角；所述鱼眼摄像机的外参可以包括：所述鱼眼摄像机在所述三维空间模型对应的三维坐标系中的空间位置坐标、所述鱼眼摄像机在所述三维坐标系中的旋转欧拉角。

可选地，在其中一些可能的实现方式中，所述第一获取模块，具体用于：基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的正方向单位向量，获取所述正方向实际向量；基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的上方向单位向量，获取所述上方向实际向量。

可选地，在其中一些可能的实现方式中，所述第一获取模块包括：第一获取子模块，用于获取所述鱼眼摄像机的外参对应的正方向实际向量和上方向实际向量；第二获取子模块，用于基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标、所述正方向实际向量和所述上方向实际向量、所述顶点在所述三维坐标系中的空间位置坐标，获取所述顶点在所述球坐标系中的球面坐标。

可选地，在其中一些可能的实现方式中，所述第一获取子模块，具体用于：基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的正方向单位向量，获取所述正方向实际向量；基于所述转欧拉角对应的旋转矩阵与所述鱼眼摄像机的上方向单位向量，获取所述上方向实际向量。

可选地，在其中一些可能的实现方式中，所述第二获取子模块包括：第一计算单元，用于基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标和所述顶点在所述三维坐标系中的空间位置坐标，计算所述顶点相对所述鱼眼摄像机在所述三维坐标系中的空间位置坐标的顶点方向向量；第二计算单元，用于对所述顶点方向向量与所述正方向实际向量进行叉乘，得到与所述顶点方向向量和所述正方向实际向量均垂直的中间向量；第三计算单元，用于对所述正方向实际向量与所述中间向量进行叉乘，得到所述顶点方向向量在所述正方向实际向量的垂直平面上的投影向量；第四计算单元，用于依次对所述顶点方向向量的单位向量与所述正方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到所述鱼眼摄像机的正方向实际向量在所述球坐标系的球面上交点，作为纬度为0°的点坐标系下的纬度坐标；第五计算单元，用于依次对所述投影向量的单位向量与所述上方向实际向量的单位向量点乘、对点乘结果进行反余弦计算、将反余弦计算结果从弧度制转成角度制，得到所述鱼眼摄像机的上方向与正方向构成的平面，作为经度为0°的面坐标系下的经度值；第六计算单元，用于依次将所述投影向量与所述上方向实际向量叉乘、并将叉乘结果与所述正方向实际向量点乘，根据点乘结果的正负与所述经度值得到经度坐标；第七计算单元，用于基于所述经度坐标和所述纬度坐标得到所述顶点在所述球坐标系中的球面坐标。

可选地，在其中一些可能的实现方式中，第二获取模块包括：第一获取单元，用于根据所述经度坐标，获取所述经度坐标对应的经度在图像中，相对于所述球坐标系的球心的方向单位向量；第二获取单元，用于根据所述维度坐标、所述鱼眼拍摄张角的半值，获取所述方向单位向量对应的实际向量；第三获取单元，用于获取所述方向单位向量对应的实际向量在所述球面投影圆中的二维坐标；其中，所述球面投影圆为所述球坐标系的球面在与所述正方向垂直的横切面上的投影；第四获取单元，用于根据所述二维坐标和所述鱼眼摄像机的内参，获取所述顶点在所述图像坐标系中的图像坐标。

图8为本公开深度信息获取装置另一个实施例的结构示意图。如图8所示，在上述图7所示各实施例的基础上，该实施例的深度信息获取装置还可以包括：第四获取模块，用于基于所述鱼眼摄像机在所述三维坐标系中的空间位置坐标与所述顶点在所述三维坐标系中的空间位置坐标，获取所述鱼眼摄像机与所述顶点之间的距离。

可选地，在其中一些可能的实现方式中，所述生成模块，具体用于基于预先设定的距离与RGB值之间的计算公式，分别计算所述距离对应的RGB值。

另外，本公开实施例还提供了一种电子设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述存储器中存储的计算机程序，且所述计算机程序被执行时，实现本公开上述任一实施例所述的深度信息获取方法。

图9为本公开电子设备一个应用实施例的结构示意图。下面，参考图9来描述根据本公开实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。

如图9所示，电子设备包括一个或多个处理器和存储器。处理器可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备中的其他组件以执行期望的功能。

存储器可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器可以运行所述程序指令，以实现上文所述的本公开的各个实施例的深度信息获取方法以及/或者其他期望的功能。

在一个示例中，电子设备还可以包括：输入装置和输出装置，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

此外，该输入设备还可以包括例如键盘、鼠标等等。

该输出装置可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出设备可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图9中仅示出了该电子设备中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备还可以包括任何其他适当的组件。

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述部分中描述的根据本公开各种实施例的深度信息获取方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述部分中描述的根据本公开各种实施例的深度信息获取方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。

提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。