掌桥专利:专业的专利平台
掌桥专利
首页

基于辐射场的目标物体模型提取方法、系统及控制器

文献发布时间:2023-06-19 19:30:30


基于辐射场的目标物体模型提取方法、系统及控制器

技术领域

本申请涉及3D建模技术领域,具体涉及一种基于辐射场的目标物体模型提取方法、系统及控制器。

背景技术

在现有技术中,利用辐射场模型进行建模是一种新型的3D建模方法,其具体实现原理为通过某一场景下一系列的2D图像来对空间进行建模,利用辐射场模型进行建模具有不依赖于深度数据、渲染逼真等优点;

然而,在利用辐射场模型进行建模的实际过程中,由于需要围绕物体拍摄,此时不可避免的将物体外的一些场景如墙面、地面等拍摄进来,导致建模时也不可避免的会出现出如墙面、地面等背景结构,此类背景结构为非目标物体的模型,影响辐射场模型的使用,故需要是对图像做物体分割处理,并要求对每张2D图像都进行非常精准的分割,才能有效的使场景模型中仅体现目标物体的模型,但对所有训练图像做准确分割的操作实现起来极为困难,费时费力,且会严重影响辐射场模型中的生成速度,使用户无法有效的对辐射场模型中的非目标物体进行切割,进而无法有效提取辐射场模型中的目标物体模型。

发明内容

本申请实施例提供一种基于辐射场的目标物体模型提取方法、系统及控制器,至少能保证,本申请方案通过观测角度和观测图像得到框选边框,根据框选边框得到模型提取视锥,进而对辐射场模型中位于模型提取视锥范围外的非目标物体模型进行裁剪处理,即直接对辐射场模型进行裁剪处理,进而无需对所有训练图像做准确分割,能简单有效的提取出辐射场模型中的目标物体模型。

第一方面,本申请实施例提供了一种基于辐射场的目标物体模型提取方法,所述方法包括:

获取辐射场模型的第一观测角度,所述辐射场模型中包括多个物体模型;

根据所述辐射场模型得到所述第一观测角度对应的第一观测图像;

获取所述第一观测图像中所述物体模型对应的第一框选边框,所述第一框选边框用于框选所述第一观测图像上的第一目标图像,所述第一目标图像为目标物体模型在所述第一观测图像上投影所得到的图像;

根据所述第一框选边框做反投影处理,得到第一模型提取视锥;

根据所述第一模型提取视锥,对所述辐射场模型中位于所述第一模型提取视锥范围外的所述物体模型进行裁剪处理,得到所述目标物体模型。

在一些实施例中,所述根据所述第一模型提取视锥,对所述辐射场模型中的所述模型提取视锥范围外的所述物体模型进行透明化处理之后,还包括:

获取所述辐射场模型的第二观测角度;

根据所述辐射场模型得到所述第二观测角度对应的第二观测图像;

获取所述第二观测图像中所述物体模型对应的第二框选边框,所述第二框选边框用于框选所述第二观测图像上的第二目标图像,所述第二目标图像为目标物体模型在所述第二观测图像上投影所得到的图像;

对所述第二框选边框做反投影处理,得到第二模型提取视锥;

根据所述第二模型提取视锥,对所述辐射场模型中位于所述第二模型提取视锥范围外的所述物体模型进行裁剪处理。

在一些实施例中,所述获取辐射场模型的第一观测角度,包括:

获取用于生成所述辐射场模型的预设训练图像集;

获取所述预设训练图像集对应的预设角度集;

从所述预设角度集中得到目标预设角度,并将所述目标预设角度确定为所述第一观测角度。

在一些实施例中,所述根据所述辐射场模型得到所述第一观测角度对应的第一观测图像,包括:

根据所述目标预设角度从所述预设训练图像集中得到目标训练图像;

将所述目标训练图像确定为所述第一观测图像。

在一些实施例中,所述根据所述辐射场模型得到所述第一观测角度对应的第一观测图像,包括:

根据所述第一观测角度对所述辐射场模型进行渲染处理,得到渲染图像;

将所述渲染图像确定为所述第一观测图像。

在一些实施例中,所述根据所述第一框选边框做反投影处理,得到第一模型提取视锥,包括:

根据所述第一观测图像得到观测点位置信息;

根据所述观测点位置信息和所述第一框选边框得到视锥边沿;

根据所述视锥边沿得到第一模型提取视锥。

在一些实施例中,根据所述第一模型提取视锥,对所述辐射场模型中位于所述第一模型提取视锥范围外的所述物体模型进行裁剪处理,包括:

根据所述第一模型提取视锥,将所述辐射场模型中的所述模型提取视锥范围外的所述物体模型的不透明度设置为0;

或者,根据所述第一模型提取视锥,将所述辐射场模型的建模区域缩小至所述第一模型提取视锥对应的模型区域。

在一些实施例中,所述根据所述第一框选边框做反投影处理,得到第一模型提取视锥后,还包括:

将所述辐射场模型中位于所述第一模型提取视锥范围内的区域确定为目标区域;

将所述辐射场模型中位于所述第一模型提取视锥范围外的区域确定为非目标区域;

对所述辐射场模型中的非目标区域模型进行裁剪处理,得到所述辐射场模型中的目标区域模型,将所述目标区域模型确定为所述目标物体模型。

在一些实施例中,所述辐射场模型的观测角度包括X轴投影角度、Y轴投影角度和Z轴投影角度。

第二方面,本申请实施例提供了一种基于辐射场的目标物体模型提取系统,所述系统包括:

角度获取模块,用于获取辐射场模型的第一观测角度,所述辐射场模型中包括多个物体模型;

图像生成模块,用于根据所述辐射场模型得到所述第一观测角度对应的第一观测图像;

边框获取模块,用于获取所述第一观测图像中所述物体模型对应的第一框选边框,所述第一框选边框用于框选所述第一观测图像上的第一目标图像,所述第一目标图像为目标物体模型在所述第一观测图像上投影所得到的图像;

视锥生成模块,用于根据所述第一框选边框做反投影处理,得到第一模型提取视锥;

裁剪处理模块,用于根据所述第一模型提取视锥,对所述辐射场模型中位于所述第一模型提取视锥范围外的所述物体模型进行裁剪处理,得到所述目标物体模型。

第三方面,本申请实施例一种控制器,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面中任意一项实施例所述的基于辐射场的目标物体模型提取方法。

第四方面,本申请实施例提供了一种计算机可读存储介质,存储有计算机可执行指令,计算机可执行指令用于执行如第一方面中任意一项实施例所述的基于辐射场的目标物体模型提取方法。

本申请至少具有以下有益效果:通过本申请的基于辐射场的目标物体模型提取方法,获取辐射场模型的第一观测角度,所述辐射场模型中包括多个物体模型,根据所述辐射场模型得到所述第一观测角度对应的第一观测图像,获取所述第一观测图像中所述物体模型对应的第一框选边框,所述第一框选边框用于框选所述第一观测图像上的第一目标图像,所述第一目标图像为目标物体模型在所述第一观测图像上投影所得到的图像,根据所述第一框选边框做反投影处理,得到第一模型提取视锥,根据所述第一模型提取视锥,对所述辐射场模型中位于所述第一模型提取视锥范围外的所述物体模型进行裁剪处理,得到所述目标物体模型,其中,通过观测角度和观测图像得到框选边框,根据框选边框得到模型提取视锥,进而对辐射场模型中位于模型提取视锥范围外的非目标物体模型进行裁剪处理,即直接对辐射场模型进行裁剪处理,进而无需对所有训练图像做准确分割,省时省力,能简单有效的提取出辐射场模型中的目标物体模型。

附图说明

图1为本申请一实施例提出的基于辐射场的目标物体模型提取方法的流程图;

图2为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,对所述辐射场模型中的所述模型提取视锥范围外的所述物体模型进行透明化处理之后附加流程的流程图;

图3为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,所述获取辐射场模型的第一观测角度的流程图;

图4为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,所述根据所述辐射场模型得到所述第一观测角度对应的第一观测图像的流程图;

图5为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,所述根据所述辐射场模型得到所述第一观测角度对应的第一观测图像的流程图;

图6为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,所述根据所述第一框选边框做反投影处理,得到第一模型提取视锥的流程图;

图7为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,所述对所述辐射场模型中位于所述第一模型提取视锥范围外的所述物体模型进行裁剪处理的流程图;

图8为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,得到第一模型提取视锥后附加流程的流程图;

图9为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,对目标物体模型进行提取的示意图;

图10为本申请另一实施例提出的控制器的结构图。

附图标记:900、辐射场模型;910、目标物体模型;920、非目标物体模型;931、第一观测角度对应观测点;932、第一观测图像;933、第一目标区域;934、第一模型提取视锥边沿;941、第二观测角度对应观测点;942、第二观测图像;943、第二目标区域;944、第二模型提取视锥边沿。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。

在一些实施例中,虽然在系统示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于系统中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语第一、第二等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。

在现有技术中,利用辐射场模型进行建模是一种新型的3D建模方法,其具体实现原理为通过某一场景下一系列的2D图像来对空间进行建模,利用辐射场模型进行建模具有不依赖于深度数据、渲染逼真等优点;

然而,在利用辐射场模型进行建模的实际过程中,由于需要围绕物体拍摄,此时不可避免的将物体外的一些场景如墙面、地面等拍摄进来,导致建模时也不可避免的会出现出如墙面、地面等背景结构,此类背景结构为非目标物体的模型,影响辐射场模型的使用,故需要是对图像做物体分割处理,并要求对每张2D图像都进行非常精准的分割,才能有效的使场景模型中仅体现目标物体的模型,但对所有训练图像做准确分割的操作实现起来极为困难,费时费力,且会严重影响辐射场模型中的生成速度,使用户无法有效的对辐射场模型中的非目标物体进行切割,进而无法有效提取辐射场模型中的目标物体模型。

为至少解决上述问题,本申请公开了一种基于辐射场的目标物体模型提取方法、系统及控制器,其中,通过本申请的基于辐射场的目标物体模型提取方法,获取辐射场模型的第一观测角度,辐射场模型中包括多个物体模型,根据辐射场模型得到第一观测角度对应的第一观测图像,获取第一观测图像中物体模型对应的第一框选边框,根据第一框选边框将物体模型分为目标物体模型和非目标物体模型,根据第一框选边框做反投影处理,得到第一模型提取视锥,对辐射场模型中位于第一模型提取视锥范围外的非目标物体模型进行裁剪处理,得到目标物体模型,其中,根据框选边框得到模型提取视锥,对非目标物体模型进行裁剪处理,进而无需对训练图像做分割处理,省时省力,能简单有效的提取出辐射场模型中的目标物体模型。

下面结合附图,对本申请实施例作进一步描述。

参考图1,图1为本申请一实施例提出的基于辐射场的目标物体模型提取方法的流程图,在一些实施例中,基于辐射场的目标物体模型提取方法,包括但不限于有以下步骤S110、步骤S120、步骤S130、步骤S140和步骤S150;

步骤S110,获取辐射场模型的第一观测角度,辐射场模型中包括多个物体模型;

在一些实施例中,获取辐射场模型的第一观测角度,包括通过图形用户界面获取用户输入的第一观测角度,或者,辐射场模型的生成系统中预设角度集中任一角度,或者,目标物体模型提取系统根据辐射场模型生成的任一角度;在通过图形用户界面获取用户输入的第一观测角度的情况下,用户可以通过图形用户界面旋转、缩放辐射场模型,进而选取感兴趣的第一观测角度,便于后续过程中根据用户选取的第一观测角度进行第一观测图像获取等步骤。

在一些实施例中,第一观测角度包括观测方向、观测距离和观测视角角度等信息,观测方向和观测距离用于确定辐射场模型外观测点的具体位置,观测方向代表观测点相对于辐射场模型中心的具体方向,观测距离代表观测点相对于辐射场模型中心的具体距离,观测点的具体位置和观测视角角度用于生成第一观测图像,观测视角角度代表在观测点处获取的第一观测图像的视野角度范围。

在一些实施例中,本申请中的辐射场模型是指由多张未被分割处理的原始图片生成的辐射场模型,辐射场模型包括多个物体模型,多个物体模型包括用户感兴趣的目标物体模型和需要进行裁剪处理的非目标物体模型,非目标物体模型包括一些场景如墙面、地面等拍原始图片中存在的背景结构,其中,辐射场模型是一种新型的3D建模方法,通过某一场景下一系列的2D图像来对空间进行建模,具有不依赖于深度数据、渲染逼真等优势,现有技术中,这种方法应用于物体建模时,需要一种有效方法从场景中提取物体,常见的方法是对图像做物体分割,要求对每张图像都做非常精准的分割,对所有训练图像做准确分割的操作实现起来极为困难,费时费力,故本申请方案中不对2D原始图片进行分割处理,而采用直接在3D模型的基础上直接确定目标区域和非目标区域对应目标物体模型和非目标物体模型,进而实现目标物体模型的提取。

步骤S120,根据辐射场模型得到第一观测角度对应的第一观测图像;

在一些实施例中,根据辐射场模型得到第一观测角度对应的第一观测图像,该第一观测图像为辐射场模型在第一观测角度上的投影图像,即辐射场模型为3D模型,根据第一观测角度对辐射场模型进行2D渲染,得到辐射场模型的二维图像表示,第一观测图像可以理解为相机或人眼在第一观测角度所观测到的辐射场模型得的拍摄或观测图片,其中,第一观测图像可以是辐射场模型对应的训练图像,也可以是辐射场模型根据第一观测角度生成的实时渲染图像。

在一实施例中,基于辐射场的目标物体模型提取系统中包括辐射场模型生成组件,在获取辐射场模型的第一观测角度的情况下,辐射场模型生成组件可以根据第一观测角度生成和确定第一观测角度对应的观测点的坐标信息,该观测点的坐标信息用于后续步骤中,根据观测点的坐标信息和第一框选边框的三维坐标信息生成第一模型提取视锥。

在一些实施例中,基于辐射场的目标物体模型提取系统中包括辐射场模型生成组件,在通过图形用户界面获取用户输入的第一观测角度的情况下,用户可以通过图形用户界面旋转、缩放辐射场模型并控制第一观测角度对应的观测点,辐射场模型生成组件通过图形用户界面获取第一观测角度对应的观测点,该观测点的坐标信息用于后续步骤中,根据观测点的坐标信息和第一框选边框的三维坐标信息生成第一模型提取视锥。

步骤S130,获取第一观测图像中物体模型对应的第一框选边框,第一框选边框用于框选第一观测图像上的第一目标图像,第一目标图像为目标物体模型在第一观测图像上投影所得到的图像;

在一些实施例中,第一观测图像包括辐射场模型在第一观测图像上的辐射场模型投影,辐射场模型投影中包括各个物体模型在第一观测图像上的投影,故本申请获取第一观测图像中辐射场模型投影对应的第一框选边框,进而根据第一框选边框将物体模型分为目标物体模型和非目标物体模型,目标物体模型在第一观测图像上的投影位于第一框选边框的内部,非目标物体模型在第一观测图像上的投影位于第一框选边框的外部。

在一些实施例中,基于辐射场的目标物体模型提取系统中包括辐射场模型生成组件和对应的图形用户界面,第一框选边框可以为用户通过图形用户界面输入的多边形信息,基于辐射场的目标物体模型提取系统可以通过图形用户界面获取该多边形信息,该多边形信息对应的多边形将第一观测图像上的投影包围,进而将多边形信息对应的内部范围确定为目标区域,将目标区域内的物体模型确定为目标物体模型。

在一些实施例中,第一框选边框可以为通过现有模型切割算法对第一观测图像的切割结果,根据第一框选边框将物体模型分为目标物体模型和非目标物体模型,目标物体模型在第一观测图像上的投影位于第一框选边框的内部,非目标物体模型在第一观测图像上的投影位于第一框选边框的外部,可以想到的是,相比于现有技术中对所有用于生成辐射场模型的训练图像进行切割处理,仅对观测图像进行切割处理,得到表征切割结果的第一框选边框,进而在后续步骤中根据第一框选边框对非目标区域进行裁剪,能更为简单有效的提取目标物体模型,省时省力。

步骤S140,根据第一框选边框做反投影处理,得到第一模型提取视锥;

在一些实施例中,辐射场建模形成的模型核心可以看作是一个向量场,简单可以表达为(o,c)=F(p,v)。其中p代表空间中的坐标点,维度为3,v代表方向,维度为2。o代表空间p点的不透明度,用一个数值表示。c代表从v方向观测p点的颜色,具有RGB三个分量,故根据第一框选边框做反投影处理是指,根据第一框选边框对应的在第一观测图像内的二维坐标信息,和第一观测图像对应平面在辐射场3D建模空间内的三维坐标信息,确定第一框选边框在辐射场3D建模空间内的三维坐标信息,进而实现将第一框选边框的反投影处理,其中,根据第一框选边框对应的在第一观测图像内的二维坐标信息,确定第一框选边框在辐射场3D建模空间内的三维坐标信息的方法为现有3D空间坐标换算或映射方法,不对本申请的实质内容构成限制。

在一些实施例中,第一框选边框在辐射场3D建模空间内的三维坐标信息包括多个三维坐标点,多个三维坐标点以此连接形成第一框选边框的三维空间表示,第一框选边框对应的视锥定义为空间中一系列点的集合,这些点要求投影后落在第一框选边框的框选区域内,具体的,根据第一框选边框做反投影处理,得到第一模型提取视锥包括,在确定第一框选边框在辐射场3D建模空间内的三维坐标信息的情况下,获取第一观测角度对应观测点,根据第一观测角度对应观测点在辐射场3D建模空间内的三维坐标信息和第一框选边框在辐射场3D建模空间内的三维坐标信息确定第一模型提取视锥的范围,具体的,以第一观测角度对应观测点为原点,作第一观测角度对应观测点与第一框选边框对应的多个三维坐标点的多条射线,其中,多条射线即为第一模型提取视锥的多条边沿,即多条边沿所围成的锥形对应范围即为第一模型提取视锥对应范围。

在一些实施例中,第一模型提取视锥代表以第一观测角度对应观测点,第一框选边框为观察边界对应的观测范围,根据第一框选边框将物体模型分为目标物体模型和非目标物体模型,目标物体模型在第一观测图像上的投影位于第一框选边框的内部,非目标物体模型在第一观测图像上的投影位于第一框选边框的外部,并在后续步骤中对非目标物体模型进行裁剪处理或不可视化处理,仅保留目标物体模型,即可实现与切割相同的效果,进而节省切割多张图片的工作,提高工作效率。

步骤S150,根据第一模型提取视锥,对辐射场模型中位于第一模型提取视锥范围外的物体模型进行裁剪处理,得到目标物体模型。

在一些实施例中,辐射场建模形成后,辐射场中任取一点p沿着某个方向v观测得到的颜色是从p沿着v方向射出的射线上的颜色积分,这个积分需要考虑不透明度的遮挡作用。更具体而言,观测颜色的积分公式(其中,积分范围为本申请中辐射场模型指定的建模范围)为:

在一些实施例中,第一模型提取视锥范围外的物体模型即为非目标物体模型,由于辐射场模型的不透明度通常包含了丰富的几何结构信息,目标物体与背景物体之间通常有较大的间隔,这种间隔使得用户设置目标多边形时无需非常精准的贴近物体表面,故对辐射场模型中位于第一模型提取视锥范围外的非目标物体模型进行裁剪处理的步骤,包括:对辐射场模型中位于第一模型提取视锥范围外的非目标物体模型进行透明化处理,将位于第一模型提取视锥范围外的非目标物体模型的不透明度设置为0,能有效避免现有技术为了提取物体模型,需要对所有训练图像做像素级准确分割,通常训练图像达上百张,操作极不方便的问题,本本申请不需要事先对物体进行精准分割,而是训练完成后简单的做几步筛选即可实现目标物体模型的提取过程,即现有技术是根据多张切割后的图片生成模型,本申请直接在未切割图片形成的模型的基础上设置透明度,实现与切割相同的效果,进而节省切割多张图片的工作,提高效率。

参考图2,图2为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,对辐射场模型中的模型提取视锥范围外的物体模型进行透明化处理之后附加流程的流程图,在一些实施例中,根据第一模型提取视锥,对辐射场模型中的模型提取视锥范围外的非目标物体模型进行透明化处理之后,还包括但不限于有以下步骤S210、步骤S220、步骤S230、步骤S240和步骤S250:

步骤S210,获取辐射场模型的第二观测角度;

步骤S220,根据辐射场模型得到第二观测角度对应的第二观测图像;

步骤S230,获取第二观测图像中物体模型对应的第二框选边框,第二框选边框用于框选第二观测图像上的第二目标图像,第二目标图像为目标物体模型在第二观测图像上投影所得到的图像;

步骤S240,对第二框选边框做反投影处理,得到第二模型提取视锥;

步骤S250,根据第二模型提取视锥,对辐射场模型中位于第二模型提取视锥范围外的物体模型进行裁剪处理。

在一些实施例中,步骤S210、步骤S220、步骤S230、步骤S240和步骤S250执行于步骤S110至步骤S140之后,可以想到的是通过步骤S110至步骤S140可以在一个观测角度对非目标物体模型进行裁剪处理,但在一个观测角度对非目标物体模型进行裁剪处理的辐射场模型可能还未达到用户要求或未完全将非目标物体模型裁剪完毕,故在步骤S110至步骤S140之后,执行步骤S210至步骤S250,可再次获取观测角度,在上述经裁剪处理的辐射场模型的基础上再次进行上述裁剪处理,过程如下,获取辐射场模型的第二观测角度,第二观测角度对应观测点对应第二观测角度,根据辐射场模型得到第二观测角度对应的第二观测图像,获取第二观测图像中物体模型对应的第二框选边框,根据第二框选边框将物体模型分为目标区域和非目标区域,第二框选边框内部区域即为目标区域,相应的目标物体模型在第二观测图像上的投影位于目标区域,非目标物体模型在第二观测图像上的投影位于非目标区域,根据观测点位置信息和第二框选边框得到视锥边沿,根据视锥边沿得到第二模型提取视锥,进而实现对辐射场模型中位于第二模型提取视锥范围外的非目标物体模型进行裁剪处理,进而进一步剔除周围非目标物体模型的干扰,直到提取出用户想要的物体为止。

在一些实施例中,第二观测角度和第二框选边框的获取与第一观测角度和第一框选边框的获取一致,均包括通过图形用户界面获取用户输入的第一观测角度,或者,辐射场模型的生成系统中预设角度集中任一角度,或者,目标物体模型提取系统根据辐射场模型生成的任一角度,和包括通过图形用户界面获取框选边框,或者,根据现有图像切割算法得到框选边框。

在一些实施例中,本申请可以根据用户需求,多次对辐射场模型进行裁剪处理,具体过程如下,

1)用户选择一个观测角度,建模系统给出相应的观测图像;

2)用户通过多边形框选自己感兴趣的物体;

3)系统记录用户选择的多边形信息,反投影多边形到空间,计算多边形构成的视锥,将视锥外的不透明度设为0;

4)系统给用户渲染裁剪后的图像;

5)用户换一个观测角度,重复2)、3)、4)步骤直到提取出想要的物体结束,其中,本申请方案在渲染结果上提供用户进行裁剪的功能,且不需要事先对物体进行精准分割,而是训练完成后简单的做几步筛选即可,简单有效。

参考图3,图3为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,获取辐射场模型的第一观测角度的流程图,在一些实施例中,获取辐射场模型的第一观测角度,包括但不限于有以下步骤S310、步骤S320和步骤S330:

步骤S310,获取用于生成辐射场模型的预设训练图像集;

步骤S320,获取预设训练图像集对应的预设角度集;

步骤S330,从预设角度集中得到目标预设角度,并将目标预设角度确定为第一观测角度。

在一些实施例中,获取辐射场模型的第一观测角度,可以是根据用户在图形用户界面的输入而确定的第一观测角度,也可以是辐射场模型生成组件为用户提供的预设角度,在第一观测角度是辐射场模型生成组件为用户提供的预设角度的情况下,获取辐射场模型的第一观测角度包括,获取用于生成辐射场模型的预设训练图像集,获取预设训练图像集对应的预设角度集,从预设角度集中得到目标预设角度,并将目标预设角度确定为第一观测角度。

参考图4,图4为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,根据辐射场模型得到第一观测角度对应的第一观测图像的流程图,根据辐射场模型得到第一观测角度对应的第一观测图像,包括但不限于有以下步骤S410和步骤S420:

步骤S410,根据目标预设角度从预设训练图像集中得到目标训练图像;

步骤S420,将目标训练图像确定为第一观测图像。

在一些实施例中,获取辐射场模型的第一观测角度,可以是根据用户在图形用户界面的输入而确定的第一观测角度,也可以是辐射场模型生成组件为用户提供的预设角度,在第一观测角度为根据用户在图形用户界面的输入而确定的第一观测角度的情况下,目标物体模型提取系统可以从辐射场模型对应的从预设训练图像集中进行与第一观测角度的对比,在预设训练图像集存在训练图像对应的观测角度与第一观测角度一致的情况下,将该训练图像确定为目标训练图像,进而将目标训练图像确定为第一观测图像。

在一些实施例中,获取辐射场模型的第一观测角度,可以是根据用户在图形用户界面的输入而确定的第一观测角度,也可以是辐射场模型生成组件为用户提供的预设角度,在第一观测角度为辐射场模型生成组件为用户提供的预设角度的情况下,预设角度为预设训练图像集中任一训练图像对应角度,故该情况下,根据目标预设角度从预设训练图像集中得到目标训练图像,将目标训练图像确定为第一观测图像,可以使基于辐射场的目标物体模型提取方法根据灵活有效。

参考图5,图5为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,根据辐射场模型得到第一观测角度对应的第一观测图像的流程图,在一些实施例中,包括但不限于有以下步骤S510和步骤S520:

步骤S510,根据第一观测角度对辐射场模型进行渲染处理,得到渲染图像;

步骤S520,将渲染图像确定为第一观测图像。

在一些实施例中,获取辐射场模型的第一观测角度,可以是根据用户在图形用户界面的输入而确定的第一观测角度,也可以是辐射场模型生成组件为用户提供的预设角度,在第一观测角度为根据用户在图形用户界面的输入而确定的第一观测角度的情况下,目标物体模型提取系统可以从辐射场模型对应的从预设训练图像集中进行与第一观测角度的对比,在预设训练图像集不存在训练图像对应的观测角度与第一观测角度一致的情况下,目标物体模型提取系统可以通过辐射场模型生成组件,根据第一观测角度对辐射场模型进行渲染处理,得到渲染图像,将渲染图像确定为第一观测图像,可以使基于辐射场的目标物体模型提取方法根据灵活有效。

参考图6,图6为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,根据第一框选边框做反投影处理,得到第一模型提取视锥的流程图,根据第一框选边框做反投影处理,得到第一模型提取视锥,包括但不限于有以下步骤S610、步骤S620和步骤S630:

步骤S610,根据第一观测图像得到观测点位置信息;

步骤S620,根据观测点位置信息和第一框选边框得到视锥边沿;

步骤S630,根据视锥边沿得到第一模型提取视锥。

在一些实施例中,根据第一观测图像得到观测点位置信息,根据观测点位置信息和第一框选边框得到视锥边沿,根据视锥边沿得到第一模型提取视锥,其中,,第一模型提取视锥代表以第一观测角度对应观测点,第一框选边框为观察边界对应的观测范围,第一框选边框在辐射场3D建模空间内的三维坐标信息包括多个三维坐标点,多个三维坐标点以此连接形成第一框选边框的三维空间表示,第一框选边框对应的视锥定义为空间中一系列点的集合,这些点要求投影后落在第一框选边框的框选区域内,具体的,以第一观测角度对应观测点为原点,作第一观测角度对应观测点与第一框选边框对应的多个三维坐标点的多条射线,多条射线即为第一模型提取视锥的多条边沿,即多条边沿所围成的锥形对应范围即为第一模型提取视锥对应范围,可以想到的是,由于在本申请中是根据第一框选边框将物体模型分为目标物体模型和非目标物体模型,目标物体模型在第一观测图像上的投影位于第一框选边框的内部,非目标物体模型在第一观测图像上的投影位于第一框选边框的外部,故在第一框选边框反投影到辐射场模型后,第一框选边框的边沿与观测点连接形成的视锥可以有效分割目标物体模型和非目标物体模型,实现本申请中的非目标物体模型裁剪,目标物体模型提取步骤。

参考图7,图7为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,对辐射场模型中位于第一模型提取视锥范围外的非目标物体模型进行裁剪处理的流程图,在一些实施例中,根据第一模型提取视锥,对辐射场模型中位于第一模型提取视锥范围外的物体模型进行裁剪处理,包括但不限于有以下步骤S710和步骤S720:

步骤S710,根据第一模型提取视锥,将辐射场模型中的模型提取视锥范围外的物体模型的不透明度设置为0;

步骤S720,或者,根据第一模型提取视锥,将辐射场模型的建模区域缩小至第一模型提取视锥对应的模型区域。

在一些实施例中,第一模型提取视锥范围外的物体模型即为非目标物体模型,根据第一模型提取视锥,将辐射场模型中的模型提取视锥范围外的非目标物体模型的不透明度设置为0,或者,将辐射场模型中的模型提取视锥范围外的非目标物体模型的透明度设置为100,可实现非目标物体模型的透明化,使用户确定目标物体对应的目标区域后,为了达到仅目标物体的目的,建模空间范围可以不变,但是将非目标物体对应的非目标区域的不透明度设为零,使本申请更加简单有效。

在一些实施例中,根据第一模型提取视锥,将辐射场模型的建模区域缩小至第一模型提取视锥对应的模型区域,使用户确定目标区域后,为了达到仅显示物体的目的,可以将建模范围直接定义到用户定义的区域上,而不对不透明度做改变,使本申请更加灵活有效。

参考图8,图8为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,得到第一模型提取视锥后附加流程的流程图,在一些实施例中,根据第一框选边框做反投影处理,得到第一模型提取视锥后,还包括但不限于有以下步骤S810、步骤S820和步骤S830:

步骤S810,将辐射场模型中位于第一模型提取视锥范围内的区域确定为目标区域;

步骤S820,将辐射场模型中位于第一模型提取视锥范围外的区域确定为非目标区域;

步骤S830,对辐射场模型中的非目标区域模型进行裁剪处理,得到辐射场模型中的目标区域模型,将目标区域模型确定为目标物体模型。

在一些实施例中,将辐射场模型中位于第一模型提取视锥范围内的区域确定为目标区域,将辐射场模型中位于第一模型提取视锥范围外的区域确定为非目标区域,对辐射场模型中的非目标区域模型进行裁剪处理,得到辐射场模型中的目标区域模型,将目标区域模型确定为目标物体模型,其中,本申请直接将第一模型提取视锥范围外的区域确定为非目标区域,直接对非目标区域进行透明化处理,而并非仅对非目标物体进行透明化处理,可以根据有效的去除建模时也不可避免的恢复出背景结构如墙面、地面等,使提取处的目标物体模型更加美观完整,提高用户使用体验。

在一些实施例中,辐射场模型的观测角度包括X轴投影角度、Y轴投影角度和Z轴投影角度,可以想到的是,辐射场模型训练后,用户通过辐射场模型选择目标物体对目标物体模型,此时系统给用户提供三个投影角度的渲染视图,三个投影角度包括X轴投影角度、Y轴投影角度和Z轴投影角度,进而在用户不知道如何选择角度或者目标物体模型结构简单的情况下,可以自动为用户提供观测角度,根据简单高效的实现目标物体模型的提取处理,达到提取的目的。

参考图9,图9为本申请另一实施例提出的基于辐射场的目标物体模型提取方法中,对目标物体模型进行提取的示意图,其中,参考图9(1),图9(1)为基于辐射场的目标物体模型提取方法实施过程中辐射场模型900的示意图,图9(2)为基于辐射场的目标物体模型提取方法实施后,提取出的目标物体模型910的示意图,给了一个示例说明,中间六边形是目标物体,四周为不想要的干扰背景,当用户在第一观测角度对应观测点931对应的视角选择一个目标区域时,就会对空间进行裁剪一次,缩小物体所在的空间范围,再到第二观测角度对应观测点941视角上进行选择一次,即可将目标物体包围住,同时剔除周围的干扰。

具体的,参考图9(1),目标物体模型910四周存在多个非目标物体模型920,该非目标物体模型920即为在利用辐射场模型进行建模的实际过程中,由于需要围绕物体拍摄,导致建模时出现的如墙面、地面等背景结构,本申请的目的即为对非目标物体模型920或非目标物体模型920所在的区域进行裁剪,以使辐射场模型900仅剩下或仅能观测到目标物体模型910,进而达到提取出的目标物体模型910的效果。

在一些实施例中,参考图9(1),获取辐射场模型的第一观测角度,第一观测角度对应观测点931对应第一观测角度,根据辐射场模型得到第一观测角度对应的第一观测图像932,获取第一观测图像中物体模型对应的第一框选边框,根据第一框选边框将物体模型分为目标物体模型933和非目标物体模型,第一框选边框内部区域即为目标物体模型933,相应的目标物体模型在第一观测图像上的投影位于目标物体模型933,非目标物体模型在第一观测图像上的投影位于非目标物体模型,根据观测点位置信息和第一框选边框得到视锥边沿934,根据视锥边沿得到第一模型提取视锥,进而实现对辐射场模型中位于第一模型提取视锥范围外的非目标物体模型进行裁剪处理,裁剪处理包括但不限于:将根据第一模型提取视锥,将辐射场模型中的模型提取视锥范围外的非目标物体模型的不透明度设置为0,或者,根据第一模型提取视锥,将辐射场模型的建模区域缩小至第一模型提取视锥对应的模型区域,进而无需对训练图像做分割处理,省时省力,能简单有效的提取出辐射场模型中的目标物体模型。

相对的,在进行上述裁剪处理后,若用户不满意或者未能对所以非目标物体模型进行裁剪处理,可再次获取观测角度,在上述经裁剪处理的辐射场模型的基础上再次进行上述裁剪处理,过程如下,获取辐射场模型的第二观测角度,第二观测角度对应观测点941对应第二观测角度,根据辐射场模型得到第二观测角度对应的第二观测图像942,获取第二观测图像中物体模型对应的第二框选边框,根据第二框选边框将物体模型分为目标物体模型943和非目标物体模型,第二框选边框内部区域即为目标物体模型943,相应的目标物体模型在第二观测图像上的投影位于目标物体模型943,非目标物体模型在第二观测图像上的投影位于非目标物体模型,根据观测点位置信息和第二框选边框得到视锥边沿944,根据视锥边沿得到第二模型提取视锥,进而实现对辐射场模型中位于第二模型提取视锥范围外的非目标物体模型进行裁剪处理,进而进一步剔除周围非目标物体模型的干扰,直到提取出用户想要的物体为止。

在一些实施例中,本申请还提出了一种基于辐射场的目标物体模型提取系统,系统包括:角度获取模块,用于获取辐射场模型的第一观测角度,辐射场模型中包括多个物体模型;图像生成模块,用于根据辐射场模型得到第一观测角度对应的第一观测图像;边框获取模块,用于获取第一观测图像中物体模型对应的第一框选边框,第一框选边框用于框选第一观测图像上的第一目标图像,第一目标图像为目标物体模型在第一观测图像上投影所得到的图像;视锥生成模块,用于根据第一框选边框做反投影处理,得到第一模型提取视锥;裁剪处理模块,用于根据第一模型提取视锥,对辐射场模型中位于第一模型提取视锥范围外的物体模型进行裁剪处理,得到目标物体模型。

其中,目标物体模型提取系统通过观测角度和观测图像得到框选边框,根据框选边框得到模型提取视锥,进而对辐射场模型中位于模型提取视锥范围外的非目标物体模型进行裁剪处理,进而无需对所有训练图像做准确分割,能简单有效的提取出辐射场模型中的目标物体模型。

在一些实施例中,还提出了一种目标物体模型提取装置,该目标物体模型提取装置设置有上述任意一项实施例的目标物体模型提取系统,使目标物体模型提取装置具备上述任意一项实施例的基于辐射场的目标物体模型提取方法的功能与效果。

图10是本发明实施例提供的控制器的结构示意图。

本发明的一些实施例提供了一种控制器,控制器包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意一项实施例的基于辐射场的目标物体模型提取方法,例如,执行以上描述的图1中的方法步骤S110至步骤S150、图2中的方法步骤S210至步骤S250、图3中的方法步骤S310至步骤S330、图4中的方法步骤S410至步骤S420、图5中的方法步骤S510至步骤S520、图6中的方法步骤S610至步骤S630、图7中的方法步骤S710至步骤S720、图8中的方法步骤S810至步骤S830。

本发明实施例的控制器1000包括一个或多个处理器1010和存储器1020,图10中以一个处理器1010及一个存储器1020为例。

处理器1010和存储器1020可以通过总线或者其他方式连接,图10中以通过总线连接为例。

存储器1020作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器1020可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器1020可选包括相对于处理器1010远程设置的存储器1020,这些远程存储器可以通过网络连接至控制器1000,同时,上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

在一些实施例中,处理器执行计算机程序时按照预设间隔时间执行上述任意一项实施例的基于辐射场的目标物体模型提取方法。

本领域技术人员可以理解,图10中示出的装置结构并不构成对控制器1000的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。

在图10所示的控制器1000中,处理器1010可以用于调用存储器1020中储存的基于辐射场的目标物体模型提取方法,从而实现基于辐射场的目标物体模型提取方法。

基于上述控制器1000的硬件结构,提出本发明的目标物体模型提取系统的各个实施例,同时,实现上述实施例的基于辐射场的目标物体模型提取方法所需的非暂态软件程序以及指令存储在存储器中,当被处理器执行时,执行上述实施例的基于辐射场的目标物体模型提取方法。

此外,本发明实施例的还提供了一种目标物体模型提取系统,该目标物体模型提取系统包括由上述的控制器。

在一些实施例中,由于本发明实施例的目标物体模型提取系统具有上述实施例的控制器,并且上述实施例的控制器能够执行上述实施例的基于辐射场的目标物体模型提取方法,因此,本发明实施例的目标物体模型提取系统的具体实施方式和技术效果,可以参照上述任一实施例的基于辐射场的目标物体模型提取方法的具体实施方式和技术效果。

本发明实施例的还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机可执行指令,计算机可执行指令用于执行上述的基于辐射场的目标物体模型提取方法,例如,可使得上述一个或多个处理器执行上述方法实施例中的基于辐射场的目标物体模型提取方法,例如,执行以上描述的图1中的方法步骤S110至步骤S150、图2中的方法步骤S210至步骤S250、图3中的方法步骤S310至步骤S330、图4中的方法步骤S410至步骤S420、图5中的方法步骤S510至步骤S520、图6中的方法步骤S610至步骤S630、图7中的方法步骤S710至步骤S720、图8中的方法步骤S810至步骤S830。

以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络节点上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机可读存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机可读存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机可读存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。

以上是对本申请的较佳实施进行了具体说明,但本申请并不局限于上述实施方式,熟悉本领域的技术人员在不违背本申请精神的前提下还可作出种种等同变形或替换,这些等同的变形或替换均包含在本申请权利要求所限定的范围内。

相关技术
  • 基于视觉SLAM的室内场景下单一目标物体字典模型改进方法
  • 神经辐射场的物体和布局提取方法和装置
  • 基于集成神经辐射场的人脸视频表情迁移模型构建方法及表情迁移方法和系统
技术分类

06120115933734