掌桥专利:专业的专利平台
掌桥专利
首页

场景建立方法及装置、存储介质、电子装置

文献发布时间:2023-06-19 09:26:02


场景建立方法及装置、存储介质、电子装置

技术领域

本发明涉及图像处理技术领域,具体而言,涉及一种场景建立方法及装置、存储介质、电子装置。

背景技术

场景重建是计算机视觉领域中的常用手段之一,通过利用摄相机镜头和图像处理技术,对图像场景进行解析和结构化信息导出。目前,现有技术中对于场景重建主要依赖激光雷达或双目相机获取三维数据用于对空间环境进行立体重建,对探测器的探测区域生成场景解析信息。

在相关技术中,公开了一种基于孪生语义网络的交通场景热红外语义生成方法,其设计要点是利用孪生语义网络,基于循环生成对抗网络的理论框架,通过合理设计网络结构,引入包括残差模块和空洞卷积以实现更高质量的特征提取和语义生成以生成更加稳定的热红外语义交通图像;但是该方法只是将更佳质量的场景图片输出作为技术的终点,不能够对图像数据进行结构化信息的输出,因此基于该方法的交通时间判断的二次应用无法进行开展;此外,相关技术中还公开了一种基于多任务网络的交通场景解析方法,基于多任务网络的交通场景解析方法,可以提取丰富的图像特征,弥补了编码器中下采样带来的图像细节信息的丢失,有助于提高分割和检测效果。提供了一种多任务网络结构,能够通过一次反向传播实现交通场景图像的语义分割和目标检测,具有较好的实时性和较高的精确率,但该技术也不能提取场景的结构化信息,仅仅对场景中的目标和连通域进行了准确高效的检出,因此,无法支持交通事件的二次开发。

针对相关技术中,无法对场景进行结构化输出,进而导致无法对场景下的事件准确处理等问题,尚未提出有效的技术方案。

发明内容

本发明实施例提供了一种场景建立方法及装置、存储介质、电子装置,以至少解决相关技术中无法对场景进行结构化输出,进而导致无法对场景下的事件准确处理等问题。

本发明实施例提供了一种场景建立方法,包括:获取图像采集装置对目标路面区域的抓拍图像;从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;根据所述场景信息建立所述目标路面区域的场景。

可选地,从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,包括:对所述分割合成图中的非箭头类型实例进行迭代拟合,得到拟合结果,其中,所述拟合结果包括以下至少之一:端点信息,线条的斜率信息;对所述拟合结果进行分析,以确定所述场景信息中的线条信息,其中,所述线条信息包括:所述车道线。

可选地,对所述拟合结果进行分析,以确定所述场景信息中的线条信息之后,上述方法还包括:对确定的所述场景信息中的所述线条信息执行以下至少之一的修改操作:修正所述线条信息的起始位置、对所述线条信息中的缺线进行增补、对所述线条信息中的错线进行删除。

可选地,根据所述场景信息建立所述目标路面区域的场景,包括:获取所述目标路面区域上的路面标识;根据所述路面标识和修正后的线条信息确定所述目标路面区域上所包括的多种区域类型;根据所述多种区域类型建立所述目标路面区域的场景。

可选地,在所述线条信息包括:所述车道线的情况下,对所述拟合结果进行分析,以确定所述场景信息中的线条信息,包括:从所述拟合结果中获取所述目标路面区域的路面标识;按照所述抓拍图像中所述路面标识与所述车道线的位置创建序列表,其中,在所述序列表中,所述路面标识对应第一值,所述车道线对应第二值;根据所述序列表确定所述场景信息中的车道线。

可选地,根据所述场景信息建立所述目标路面区域的场景之后,上述方法还包括:将建立的所述目标路面区域的场景以坐标形式输出;基于坐标形式的目标路面区域判断目标车辆是否存在违章。

可选地,获取图像采集装置对目标路面区域的抓拍图像,包括:确定是否通过所述图像采集装置已建立所述目标路面区域的场景;在未建立的情况下,获取图像采集装置对目标路面区域的抓拍图像。

可选地,确定是否通过所述图像采集装置已建立所述目标路面区域的场景之后,上述方法还包括:将已建立的所述目标路面区域的场景与所述图像采集装置中缓存的场景是否匹配;在不匹配的情况下,将所述已建立的所述目标路面区域的场景更新保存在所述图像采集装置中。

根据本发明的另一个实施例,还提供了一种场景建立装置,包括:第一获取模块,用于获取图像采集装置对目标路面区域的抓拍图像;第二获取模块,用于从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;建立模块,用于根据所述场景信息建立所述目标路面区域的场景。

可选地,上述第二获取模块,还用于对所述分割合成图中的非箭头类型实例进行迭代拟合,得到拟合结果,其中,所述拟合结果包括以下至少之一:端点信息,线条的斜率信息;对所述拟合结果进行分析,以确定所述场景信息中的线条信息,其中,所述线条信息包括:所述车道线。

可选地,上述第二获取模块,还用于对确定的所述场景信息中的所述线条信息执行以下至少之一的修改操作:修正所述线条信息的起始位置、对所述线条信息中的缺线进行增补、对所述线条信息中的错线进行删除。

可选地,上述建立模块,还用于获取所述目标路面区域上的路面标识;根据所述路面标识和修正后的线条信息确定所述目标路面区域上所包括的多种区域类型;根据所述多种区域类型建立所述目标路面区域的场景。

可选地,上述第二获取模块,还用于从所述拟合结果中获取所述目标路面区域的路面标识;按照所述抓拍图像中所述路面标识与所述车道线的位置创建序列表,其中,在所述序列表中,所述路面标识对应第一值,所述车道线对应第二值;根据所述序列表确定所述场景信息中的车道线。

可选地,上述装置还包括:判断模块,用于将建立的所述目标路面区域的场景以坐标形式输出;基于坐标形式的目标路面区域判断目标车辆是否存在违章。

可选地,上述第一获取模块,还用于确定是否通过所述图像采集装置已建立所述目标路面区域的场景;在未建立的情况下,获取图像采集装置对目标路面区域的抓拍图像。

可选地,上述装置还包括:匹配模块,用于将已建立的所述目标路面区域的场景与所述图像采集装置中缓存的场景是否匹配;在不匹配的情况下,将所述已建立的所述目标路面区域的场景更新保存在所述图像采集装置中。

根据本发明的又一个实施例,还提供了一种存储介质,所述存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例,还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明,获取图像采集装置对目标路面区域的抓拍图像;从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;根据所述场景信息建立所述目标路面区域的场景,即通过抓拍图像中获取的场景信息建立目标路面区域对应的场景,采用上述技术方案,解决了相关技术中,无法对场景进行结构化输出,进而导致无法对场景下的事件准确处理等问题,进而实现从抓拍图像中确定至少用于指示道路类型的场景信息,进而根据场景信息建立场景,进而对场景下的事件进行准确处理。

附图说明

此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:

图1是本发明实施例的一种场景建立方法的计算机终端的硬件结构框图;

图2为根据本发明实施例的场景建立方法的流程图

图3为根据本发明可选实施例的交通场景的重建流程示意图;

图4为根据本发明可选实施例的相机配置信息解析与评估模块主要流程的流程示意图;

图5为根据本发明可选实施例的线段信息提取的流程示意图;

图6为根据本发明可选实施例的场景区域重建模块进行修正的流程示意图;

图7为根据本发明可选实施例的道路区域类型匹配模块的流程示意图;

图8为根据本发明可选实施例的车道线修补的流程示意图;

图9为根据本发明可选实施例的对于路面标识信息进行过滤的示意图;

图10为根据本发明可选实施例的对于一个车道区域多路面标识情况进行过滤的示意图;

图11为本发明可选实施例的车道线增补修复的流程示意图;

图12为本发明可选实施例的待修补的车道线所在位置的左侧或右侧存在有两条车道线的修补示意图;

图13为本发明可选实施例的待修补的车道线所在位置的左侧或右侧不存在有两条车道线的修补示意图;

图14是根据本发明实施例的场景建立装置的结构框图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。

需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

本申请实施例所提供的方法可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在计算机终端上为例,图1是本发明实施例的一种场景建立方法的计算机终端的硬件结构框图。如图1所示,计算机终端可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104,可选地,上述计算机终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解,图1所示的结构仅为示意,其并不对上述计算机终端的结构造成限定。例如,计算机终端还可包括比图1中所示更多或者更少的组件,或者具有与图1所示等同功能或比图1所示功能更多的不同的配置。存储器104可用于存储计算机程序,例如,应用软件的软件程序以及模块,如本发明实施例中的场景建立方法对应的计算机程序,处理器102通过运行存储在存储器104内的计算机程序,从而执行各种功能应用以及数据处理,即实现上述的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至计算机终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。

根据本发明的一个实施例,提供了一种场景建立方法,应用于上述计算机终端,图2为根据本发明实施例的场景建立方法的流程图,如图2所示,包括:

步骤S202,获取图像采集装置对目标路面区域的抓拍图像;

步骤S204,从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;

步骤S206,根据所述场景信息建立所述目标路面区域的场景。

通过上述步骤,获取图像采集装置对目标路面区域的抓拍图像;从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;根据所述场景信息建立所述目标路面区域的场景,即通过抓拍图像中获取的场景信息建立目标路面区域对应的场景,采用上述技术方案,解决了相关技术中,无法对场景进行结构化输出,进而导致无法对场景下的事件准确处理等问题,进而实现从抓拍图像中确定至少用于指示道路类型的场景信息,进而根据场景信息建立场景,进而对场景下的事件进行准确处理。

上述步骤S204从抓拍图像中至少获取目标路面区域的场景信息的方式有多种,在一个可选实施例中,可以通过以下方案实现:对所述分割合成图中的非箭头类型实例进行迭代拟合,得到拟合结果,其中,所述拟合结果包括以下至少之一:端点信息,线条的斜率信息;对所述拟合结果进行分析,以确定所述场景信息中的线条信息,其中,所述线条信息包括:所述车道线。

也就是说,可以将采集装置获取的目标路面区域的抓拍图像进行分割,生成抓拍图像对应的分割合成图,并对分割合成图中的非箭头类型实例进行迭代拟合,根据拟合结果中的端点信息,线条的斜率信息等确定出场景信息中的线条信息。

需要说明的是线条信息包含:分割合成图中的停止线、分割合成图中的车道线、分割合成图中的人行线、分割合成图中的待行线,但不仅限于此,本发明对此不做过多限定。

举例说明,当需要确定的所述线条信息为车道线时,具体的处理方案如下:依据从采集装置或者目标路面区域的管理部门的服务器中得到目标路面区域的图像信息,将图像信息分割成图,对分割后的图像信息进行线条信息提取,对其中的非导向箭头类型使用RANSANC进行拟合,得到一组端点信息描述起点和终点,同时记录斜率、倾角信息用于后续的判断,进一步的,在根据线条信息确定线条为车道线时,通过已确定的停止线信息对已判断为车道线的部分误检结果进行剔除,并按照斜率倾角的变化对行车道线从左到右依次排列并记录,为了使得车道线的位置更加准确,根据获取到的停止线的起始坐标,对车道线进行修正,同时根据检测得到的路面箭头信息、路面标识信息和路测指示牌信息,对可能缺失的车道线的边线进行补漏。

可选地,对所述拟合结果进行分析,以确定所述场景信息中的线条信息之后,上述方法还包括:对确定的所述场景信息中的所述线条信息执行以下至少之一的修改操作:修正所述线条信息的起始位置、对所述线条信息中的缺线进行增补、对所述线条信息中的错线进行删除。

简而言之,由于根据拟合结果确定出的场景信息中的线条信息可能不符合预期,因此需要在拟合结果上进行分析对线条信息执行修改操作,例如,对场景信息中线条信息的起始位置进行修正,对线条信息中的缺线进行增补,对线条信息中的错线进行删除,进而确保修正后的拟合结果确定出的场景信息中的线条信息符合建立场景的需求。

可选地,根据所述场景信息建立所述目标路面区域的场景,包括:获取所述目标路面区域上的路面标识;根据所述路面标识和修正后的线条信息确定所述目标路面区域上所包括的多种区域类型;根据所述多种区域类型建立所述目标路面区域的场景。

也就是说,为了使根据场景信息建立的目标路面区域的场景信息更加丰富,还可以将目标路面区域上的路面标识以及通过路面标识和修正后的线条信息,确定出目标路面区域上所包括用于指示目标路面区域的场景的多种区域类型,从而使得建立的目标路面区域的场景更加真实。

在一个实施例中,在所述线条信息包括:所述车道线的情况下,对所述拟合结果进行分析,以确定所述场景信息中的线条信息,包括:从所述拟合结果中获取所述目标路面区域的路面标识;按照所述抓拍图像中所述路面标识与所述车道线的位置创建序列表,其中,在所述序列表中,所述路面标识对应第一值,所述车道线对应第二值;根据所述序列表确定所述场景信息中的车道线。

例如,在识别出目标区域的路面标识后,可以根据预先设置的序列创建方式,将车道线标识表示为1,路面标识表示为0,进而将车道线依据横坐标顺序重左至右依次排列,生成一个全为1的数组,根据抓拍图像中路面标识的位置,将表示路面标识的0插入到车道线的数组中,得到一串0和1构成的序列表,进而根据序列表中的车道线标识也可以对场景信息中的车道线进行确认。

可选地,根据所述场景信息建立所述目标路面区域的场景之后,上述方法还包括:将建立的所述目标路面区域的场景以坐标形式输出;基于坐标形式的目标路面区域判断目标车辆是否存在违章,即在完成目标路面区域的场景的建立后,还可以将目标路面区域的场景以坐标形式输出,进而可以根据目标路面区域的场景转化成的坐标来判断目标路面区域的目标车辆是否存在违章。

可选地,获取图像采集装置对目标路面区域的抓拍图像,包括:确定是否通过所述图像采集装置已建立所述目标路面区域的场景;在未建立的情况下,获取图像采集装置对目标路面区域的抓拍图像。

也就是说,在确定没有根据图像采集装置本身的配置信息建立目标路面区域的场景(这部分方案一般是人工在图像采集装置上操作)时,需要通过图像采集装置对目标路面区域的抓拍图像进行获取用于目标路面区域的场景构建。

可选地,确定是否通过所述图像采集装置已建立所述目标路面区域的场景之后,上述方法还包括:将已建立的所述目标路面区域的场景与所述图像采集装置中缓存的场景是否匹配;在不匹配的情况下,将所述已建立的所述目标路面区域的场景更新保存在所述图像采集装置中。

在目标路面区域的场景完成场景建立后,将已建立的场景与图像采集装置中缓存的场景进行匹配,来确定场景建立是否到达要求,当出现不匹配的情况,将已建立的新的目标路面区域的场景更新保存在图像采集装置中,确保根据目标路面区域的场景转化成的坐标来判断目标路面区域的目标车辆是否存在违章时,坐标数据的准确性。

以下结合几个可选实施例对上述场景建立方法的流程进行解释说明,但不用于限定本发明实施例的技术方案。

本发明可选实施例提供了一种交通场景的重建方法,利用构成交通场景数据来源的绝大比例的城市道路路口的交通监控摄像头拍摄的图片(相当于本发明实施例中的抓拍图像),通过对场景内容与交通道路高度相关的图片的结构化信息(相当于本发明实施例中的场景信息)提取,进而重建交通场景(相当于本发明实施例中的目标路面区域的场景),根据重建场景以及获取图片后提取出的场景下的交通场景信息,可以使后端服务器中的辅助人工判断图片内车辆的行驶是否有违法。

图3为根据本发明可选实施例的交通场景的重建流程示意图,如图3所示,包括以下步骤:

步骤1,交通场景的重建的数据输入;重建的输入数据来源有两个主要途径,一个是前端相机的配置信息(相当于上述实施例里中介绍的通过所述图像采集装置来确定是否已建立所述目标路面区域的场景的方案),另一个是对图片进行分割和检测处理后的结果信息。

对于前端配置信息,场景重建模块可以直接解析人工对图像采集装置的配置信息,进而根据配置信息输出场景结构信息;对于第二个数据来源,相机配置参数的监控抓拍图片,图片数目从2张到6张不等,可选地,上述图像可以包含1到2张车辆特写图,剩余图片为车辆不同时间的抓拍图作为证据链。

步骤2:根据两种不同的输入数据类型,场景重建模块的处理也分为两个流程路径对输入的数据准确处理;

可选的,具体流程如图4所示,当为外部传入配置信息时,场景重建模块会对输入配置信息和内部缓存进行匹配判断;若两者之间的时间戳信息差距过大,采用新传入的配置信息作为场景缓存,以防时间跨距太大时导致的镜头偏移引起的信息偏差,进而输出场景结构化信息。

需要说明的是,图片信息是最常见的输入形式,因为服务器的信息来自交警部门的数据库,数据信息以图片为主且不包含前配置信息。因此需要经过一定的处理环节得到场景的结构化信息,

可选的,当外部传入图片信息,通过以下处理环节得到场景的结构化信息;

第一环节:由分割输入提取线段信息;具体的,如图5所示流程进行图片信息的处理;

步骤S502:从图片信息中由分割输入提取线段信息;对实例分割合成图中的所有实例进行遍历,对其中的非导向箭头类型使用随机采样一致性算法(Random SampleConsensus,简称RANSANC)进行拟合,得到一组端点信息描述起点和终点,同时记录斜率、倾角信息用于后续的判断,停止线信息处理,在拟合结果中对停止线进行搜寻确认,得到停止线的左右端点并记录。

步骤S504:实例遍历结束,记录停止线、车道线、人行道、待行区信息;

车道线信息处理:对拟合结果中的车道线进行确认,同时根据停止线的信息对部分误检结果进行剔除,并按照斜率倾角的变化对行车道边线从左到右依次排列并记录。

人行道信息处理:在合成图中获取人行道的边框信息并记录。

待行线信息处理:在合成图中获取待行线的信息并记录。

第二环节:通过上述得到的线段信息,对区域边线,主要是停止线、车道线和待行区边线的起始位置进行修正、缺线增补和错线删除;如图6所示,具体步骤如下:

步骤S602:获取停止线的起始坐标,估计车道线与停止线的连接处的坐标,对没有接触到停止线的车道线进行上端点位置修正并记录;

对场景中的线进行判断,对于距离较近的一批线,根据距离,斜率倾角和长度信息,保留一条作为最终信息。同时根据检测得到的路面箭头信息、路面标识信息和路测指示牌信息,对可能缺失的车道边线进行补漏;

步骤S604:根据待行区的停止线对待行线的起始点位置结果进行修正并记录;

步骤S606:对线段信息中的缺线进行增补、对线段信息中的错线进行删除;

步骤S608:合成、重建车道区域,记录车道数目、车道边线坐标点信息。

第三环节:进行道路类型匹配;按照不同区域依次遍历,同时结合输入的合并后的路面标识信息进行区域类型匹配,路面标识和箭头类型和区域具有包含被包含关系则确定类型,路测车牌按照其与路测边线距离按照就近原则确认关系,可选地,道路类型可以包括人行道,公交车道行驶区域等。

如图7所示,依次将人行道区域信息、待行区信息、红绿灯位置信息、红绿灯状态信息写入输出,步骤如下:

步骤S702:将人行道区域信息写入输出;

步骤S704:将待行区信息写入输出;

步骤S706:将红绿灯位置信息写入输出;

步骤S708:将红绿灯状态信息写入输出。

进而结合道路类型匹配得到重建场景的结构化信息。

步骤3:输出场景的结构化信息。

在本发明可选实施例中,对于车道线的修补通过以下方式来实现,如图8所示,具体如下:

步骤S800:路面标识信息统计,遍历根据拟合结果生成的结构化信息数据,将所有的导向箭头、公交车道标识、非机动车道标识的位置获取并记录。

步骤S802:车道线修补参考标确认,由于车道线的修复重点关注镜头下方的区域,对于路口场景,结构化信息可能引入路口对侧的路面标识信息等,对于车道填补线段的确认带来很多的错误干扰,因此需要进行筛选过滤。

可选的,可以通过本发明可选实施例提供以下流程进行路面标识的过滤;

步骤8021:滤除停止线或人行道上方的标识信息:在场景中识别出的路面标识信息通常可以分为车道区域和待行区域,而在后续的补线过程中,只需要使用车道区域的标识信息,图9为根据本发明可选实施例的对于路面标识信息进行过滤的示意图。

步骤8022:剩余标识信息可能存在一个车道多个标识信息的情况,需要统计所有标识信息的坐标位置,进行分类得到车道区域的上侧标识信息和下侧标识信息,并选取下方靠近镜头测的路面标识信息作为补线的依据,图10为根据本发明可选实施例的对于一个车道区域多路面标识情况进行过滤的示意图。

步骤S804:创建车道线和路面标识的序列信息,为了便于理解,本发明可选实施例使用二进制数组按位置排序,其中车道线为1,标识信息为0,具体的序列数组形成流程为:

步骤8041:将车道线按照横坐标由左到右依次排列,生成一个全为1的数组。

步骤8042:将步骤S802中挑出的标识信息位置和车道线的位置依次进行判断,插入步骤8041生成的序列中,得到一串由0和1构成的序列

步骤S806:由序列表确定增补车道线的插入序列位置,由路面标识位于车道区域的先验信息可知,0、1序列存在以下特点:

1)序列首尾均为1,代表车道区域左右边界均应以车道线作为最边界约束;

2)0和0之间应该存在1进行隔断,代表两个路面标识信息之间应该存在一个车道线用于区分两个路面标识,将两者划分到左右两个车道区域中;

例如,若存在0-1-0-0-1的序列,则表明最左侧和中间需要填补两个车道线,最终的修复结果应为1-0-1-0-1-0-1。

需要说明的是,序列数组可以二进制数组也可以是其它进制数组,本发明对此不做过多限定。

步骤S808:车道线增补修复;

需要说明的是,车道线修复的理论依据为场景透视效果。由于镜头照片的透视问题,图像存在两个特点:所有的目标均向上交汇至一点透视点;同样图像高度下不同车道宽度近似相等,即透视方向的正交方向上透视效果不明显。

图11为本发明可选实施例的车道线增补修复的流程示意图,包括:

步骤902:在通过确认待修补的车道线所在位置的左侧或右侧是否存在有两条车道线,来进一步的确认修补方式;

步骤904:当确认存在有两条车道线时,如图12所示,在车道线上取两个高度h1、h2及线上横坐标,做出两条同一高度横坐标连线,平移两条连线得到补全线上两点位置,通过两点位置连线得到增补修复的车道线;

步骤906:当不存在两条车道线时,如图13所示,利用其余车道线向上求得透视交点,由车道标识信息框中轴线上一点到右侧已知边线做连线得到p2点,进而获取到路面标识上两个不同高度的坐标点p1、p2,通过车道标识信息框中轴线为对称,平移连线到左侧得到填补边线上的点p2_new,进而由p1、p2和一侧已有边线确认填补边线上两点坐标p1_new和p2_new,通过p1_new和p2_new两点位置连线得到增补修复的车道线。

通过上述可选实施例,在已经明确检出的车道线的修复确认上,对于未检出的车道线进行补救修复,极大提升场景完整度,避免了对于拥挤道路场景下的车道线遮挡无法处理的问题,提升了出现交通事件时判断的准确率。

通过上述步骤,通过图片的信息结构化处理过程,得到了图片中的场景信息并以坐标的形式对外输出。需要说明的是,场景分割和检测信息的效果提升距离与实际上利用该场景进行事件判断存在着很大的差距,不能够免除人工审阅的过程。此外,通过利用交通场景的重建方法使实际的交通场景变为具有一定组织结构的有规律的数据形式,经过合理的提炼便能够有效地得到坐标化的数据并利用计算机技术对事件,尤其是违章判罚,如闯红灯、不按导向、违章变道等多种违章行为都需要综合考虑车道线信息,车道区域信息,红绿灯信息以及车辆信息综合得到;本发明可选实施例将分割和检测结合起来,将图片信息提炼为由像素坐标点圈连的不同类型区域,为判罚策略的实现提供了极大的便利。

通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。

在本实施例中还提供了一种场景建立装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。

图14是根据本发明实施例的场景建立装置的结构框图,如图14所示,该装置包括:

第一获取模块80,用于获取图像采集装置对目标路面区域的抓拍图像;

第二获取模块82,用于从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;

建立模块84,用于根据所述场景信息建立所述目标路面区域的场景。

通过上述装置,获取图像采集装置对目标路面区域的抓拍图像;从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;根据所述场景信息建立所述目标路面区域的场景,即通过抓拍图像中获取的场景信息建立目标路面区域对应的场景,采用上述技术方案,解决了相关技术中,无法对场景进行结构化输出,进而导致无法对场景下的事件准确处理等问题,进而实现从抓拍图像中确定至少用于指示道路类型的场景信息,进而根据场景信息建立场景,进而对场景下的事件进行准确处理。

可选地,上述第二获取模块,还用于获取所述抓拍图像对应的分割合成图;对所述分割合成图中的非箭头类型实例进行迭代拟合,得到拟合结果,其中,所述拟合结果包括以下至少之一:端点信息,线条的斜率信息;对所述拟合结果进行分析,以确定所述场景信息中的线条信息,其中,所述线条信息包括:所述车道线。

也就是说,可以将采集装置获取的目标路面区域的抓拍图像进行分割,生成抓拍图像对应的分割合成图,并对分割合成图中的非箭头类型实例进行迭代拟合,根据拟合结果中的端点信息,线条的斜率信息等确定出场景信息中的线条信息。

需要说明的是线条信息包含:分割合成图中的停止线、分割合成图中的车道线、分割合成图中的人行线、分割合成图中的待行线,但不仅限于此,本发明对此不做过多限定。

举例说明,当需要确定的所述线条信息为车道线时,具体的处理方案如下:依据从采集装置或者目标路面区域的管理部门的服务器中得到目标路面区域的图像信息,将图像信息分割成图,对分割后的图像信息进行线条信息提取,对其中的非导向箭头类型使用RANSANC进行拟合,得到一组端点信息描述起点和终点,同时记录斜率、倾角信息用于后续的判断,进一步的,在根据线条信息确定线条为车道线时,通过已确定的停止线信息对已判断为车道线的部分误检结果进行剔除,并按照斜率倾角的变化对行车道线从左到右依次排列并记录,为了使得车道线的位置更加准确,根据获取到的停止线的起始坐标,对车道线进行修正,同时根据检测得到的路面箭头信息、路面标识信息和路测指示牌信息,对可能缺失的车道线的边线进行补漏。

可选地,上述第二获取模块,还用于对确定的所述场景信息中的所述线条信息执行以下至少之一的修改操作:修正所述线条信息的起始位置、对所述线条信息中的缺线进行增补、对所述线条信息中的错线进行删除。

简而言之,由于根据拟合结果确定出的场景信息中的线条信息可能不符合预期,因此需要在拟合结果上进行分析对线条信息执行修改操作,例如,对场景信息中线条信息的起始位置进行修正,对线条信息中的缺线进行增补,对线条信息中的错线进行删除,进而确保修正后的拟合结果确定出的场景信息中的线条信息符合建立场景的需求。

可选地,上述建立模块,还用于获取所述目标路面区域上的路面标识;根据所述路面标识和修正后的线条信息确定所述目标路面区域上所包括的多种区域类型;根据所述多种区域类型建立所述目标路面区域的场景。

可选地,上述第二获取模块,还用于从所述拟合结果中获取所述目标路面区域的路面标识;按照所述抓拍图像中所述路面标识与所述车道线的位置创建序列表,其中,在所述序列表中,所述路面标识对应第一值,所述车道线对应第二值;根据所述序列表确定所述场景信息中的车道线。

例如,在识别出目标区域的路面标识后,可以根据预先设置的序列创建方式,将车道线标识表示为1,路面标识表示为0,进而将车道线依据横坐标顺序重左至右依次排列,生成一个全为1的数组,根据抓拍图像中路面标识的位置,将表示路面标识的0插入到车道线的数组中,得到一串0和1构成的序列表,进而根据序列表中的车道线标识也可以对场景信息中的车道线进行确认。

也就是说,为了使根据场景信息建立的目标路面区域的场景信息更加丰富,还可以将目标路面区域上的路面标识以及通过路面标识和修正后的线条信息,确定出目标路面区域上所包括用于指示目标路面区域的场景的多种区域类型,从而使得建立的目标路面区域的场景更加真实。

可选地,上述装置还包括:判断模块,用于将建立的所述目标路面区域的场景以坐标形式输出;基于坐标形式的目标路面区域判断目标车辆是否存在违章,即在完成目标路面区域的场景的建立后,还可以将目标路面区域的场景以坐标形式输出,进而可以根据目标路面区域的场景转化成的坐标来判断目标路面区域的目标车辆是否存在违章。

可选地,上述第一获取模块,还用于确定是否通过所述图像采集装置已建立所述目标路面区域的场景;在未建立的情况下,获取图像采集装置对目标路面区域的抓拍图像。

也就是说,在确定没有根据图像采集装置本身的配置信息建立目标路面区域的场景(这部分方案一般是人工在图像采集装置上操作)时,需要通过图像采集装置对目标路面区域的抓拍图像进行获取用于目标路面区域的场景构建。

可选地,上述装置还包括:匹配模块,用于将已建立的所述目标路面区域的场景与所述图像采集装置中缓存的场景是否匹配;在不匹配的情况下,将所述已建立的所述目标路面区域的场景更新保存在所述图像采集装置中。

在目标路面区域的场景完成场景建立后,将已建立的场景与图像采集装置中缓存的场景进行匹配,来确定场景建立是否到达要求,当出现不匹配的情况,将已建立的新的目标路面区域的场景更新保存在图像采集装置中,确保根据目标路面区域的场景转化成的坐标来判断目标路面区域的目标车辆是否存在违章时,坐标数据的准确性。

需要说明的是,上述各个模块是可以通过软件或硬件来实现的,对于后者,可以通过以下方式实现,但不限于此:上述模块均位于同一处理器中;或者,上述各个模块以任意组合的形式分别位于不同的处理器中。

本发明的实施例还提供了一种存储介质,该存储介质中存储有计算机程序,其中,该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

可选地,在本实施例中,上述存储介质可以被设置为存储用于执行以下步骤的计算机程序:

S1,获取图像采集装置对目标路面区域的抓拍图像;

S2,从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;

S3,根据所述场景信息建立所述目标路面区域的场景。

可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

本发明的实施例还提供了一种电子装置,包括存储器和处理器,该存储器中存储有计算机程序,该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

可选地,上述电子装置还可以包括传输设备以及输入输出设备,其中,该传输设备和上述处理器连接,该输入输出设备和上述处理器连接。

可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:

S1,获取图像采集装置对目标路面区域的抓拍图像;

S2,从所述抓拍图像对应的分割合成图中确定所述目标路面区域的场景信息,其中,所述场景信息至少用于指示所述目标路面区域的车道线;

S3,根据所述场景信息建立所述目标路面区域的场景。

可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(Read-Only Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

可选地,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。

显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

相关技术
  • 场景建立方法及装置、存储介质、电子装置
  • 基于直播场景的社交关系建立方法、装置及存储介质
技术分类

06120112164429