掌桥专利:专业的专利平台
掌桥专利
首页

一种图像筛选方法及装置、电子设备和存储介质

文献发布时间:2023-06-19 11:22:42


一种图像筛选方法及装置、电子设备和存储介质

技术领域

本申请涉及计算机技术,具体涉及一种图像筛选方法及装置、电子设备和存储介质。

背景技术

在智慧交通领域,通常需要从交通摄像头抓拍到的图像中,抠出车辆图像进行诸如车牌识别、车主驾驶行为识别、车辆倒车逆行识别等车辆检测任务。

在车辆检测任务中,车辆图像中包含的车辆辨识度和车辆朝向可能影响车辆检测精确度。

例如在车牌检测场景中,车辆图像中的车辆朝向可能为左侧面,或者上述车辆识别度低,这样可能无法检测到该车辆的车牌信息。

可见,为了保证车辆检测精确度,需要筛选出车辆辨识度和车辆朝向均符合约束条件的车辆图像。

发明内容

有鉴于此,本申请至少公开一种图像筛选方法,上述方法可以包括:获取待处理的车辆图像;对上述车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果;其中,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向;响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像。

在示出的一些实施例中,上述车辆图像包括从部署的图像采集设备采集到的抓拍图像中截取出的包含车辆的图像;上述方法还包括:对上述抓拍图像进行车辆检测,获取上述车辆图像中的车辆的尺寸信息和/或位置信息;上述保留上述待处理车辆图像之前,还包括:确定上述车辆的尺寸信息和/或位置信息满足预设的属性条件。

在示出的一些实施例中,上述方法还包括:响应于以下至少一项,删除上述待处理的车辆图像:上述辨识度识别结果小于上述辨识度阈值;上述朝向识别结果低于上述预设的朝向约束条件;上述车辆的尺寸信息和/或位置信息超出上述预设的属性条件。

在示出的一些实施例中,上述对上述车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果,包括:对上述车辆图像进行特征提取,得到图像特征;基于上述图像特征进行辨识度分类,得到至少一分类的辨识度识别结果;其中,上述辨识度识别结果包括用于对车辆辨识度正面评价的正向辨识度识别结果;基于上述图像特征进行朝向分类处理,得到车辆朝向识别结果;其中,上述车辆朝向识别结果包括多个朝向维度的识别结果。

在示出的一些实施例中,上述响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像,包括:响应于上述正向辨识度识别结果对应的第一概率满足上述预设的辨识度阈值,并且上述多个朝向维度中的预设朝向维度的识别结果满足上述朝向约束条件,保留上述待处理车辆图像。

在示出的一些实施例中,上述朝向约束条件包括上述车辆朝向为第一预设朝向;上述预设朝向维度包括上述第一预设朝向;确定上述预设车辆维度的识别结果是否满足上述朝向约束条件的方法包括:响应于上述朝向识别结果中,第一预设朝向的第二概率值达到第一阈值,确定上述预设车辆维度的识别结果满足上述朝向约束条件。

在示出的一些实施例中,上述车辆约束条件包括上述车辆朝向为非第二预设朝向;上述预设朝向维度包括上述多个朝向维度中,除上述第二预设朝向维度以外的其它朝向维度;确定上述预设车辆维度的识别结果是否满足上述朝向约束条件的方法包括:响应于上述朝向识别结果中,上述其它朝向维度的第三概率值之和达到第二阈值,确定上述预设车辆维度的识别结果满足上述朝向约束条件。

在示出的一些实施例中,上述辨识度识别结果,还包括如下至少一项:车辆完整度指标、车辆拍摄清晰度指标,车辆真实性指标。

在示出的一些实施例中,保留上述待处理车辆图像之后,还包括:输出上述车辆图像中的车辆质量结果,其中,上述车辆质量结果包括上述车辆图像的质量分数和/或质量等级,上述质量分数与质量等级根据上述车辆辨识度和/或车辆朝向确定。

在示出的一些实施例中,上述对待处理的车辆图像进行图像识别之前,上述方法还包括:对上述车辆图像执行如下至少一项预处理:将上述车辆图像缩放至预设图像尺寸;对上述车辆图像中的像素值进行归一化处理。

本申请还提出一种图像筛选装置,上述装置包括:

获取模块,用于获取待处理的车辆图像;

图像识别模块,用于对上述车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果;其中,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向;

保留模块,用于响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像。

本申请还提出一种电子设备,上述设备包括:处理器;用于存储上述处理器可执行指令的存储器;其中,上述处理器被配置为调用上述存储器中存储的可执行指令,实现如前述任一实施例示出的图像筛选方法。

本申请还提出一种计算机可读存储介质,上述存储介质存储有计算机程序,上述计算机程序用于使处理器执行如前述任一实施例示出的图像筛选方法。

在上述例子中,可以对待处理的车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向。响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像。

因此,该方法可以筛选出满足识别度和车辆朝向两个方面约束条件的高质量图像,从而排除由于车辆识别度和车辆朝向不符合要求而造成的车辆检测精度低的低质量图像,保证车辆检测精度。

应当理解的是,以上述的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。

附图说明

为了更清楚地说明本申请一个或多个实施例或相关技术中的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请一个或多个实施例中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。

图1为本申请示出的一种图像筛选方法的方法流程图;

图2为本申请示出的一种车辆检测方法流程示意图;

图3为本申请示出的一种车辆图像识别网络的结构示意图;

图4为本申请示出的一种车辆图像筛选流程示意图;

图5为本申请示出的一种车辆图像筛选流程示意图;

图6为本申请示出的一种图像筛选流程示意图;

图7为本申请示出的一种图像筛选装置的结构示意图;

图8为本申请示出的一种电子设备的硬件结构示意图。

具体实施方式

下面将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的设备和方法的例子。

在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“上述”和“该”也旨在可以包括多数形式,除非上述下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。还应当理解,本文中所使用的词语“如果”,取决于语境,可以被解释成为“在……时”或“当……时”或“响应于确定”。

本申请旨在提出一种图像筛选方法(以下简称筛选方法)。该方法可以对待处理的车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向。响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像。

因此,该方法可以筛选出满足识别度和车辆朝向两个方面约束条件的高质量图像,从而排除由于车辆识别度和车辆朝向不符合要求而造成的车辆检测精度低的低质量图像,保证车辆检测精度。

上述车辆的辨识度(以下简称辨识度),可以表征车辆图像中的车辆容易识别的程度。车辆图像中的车辆辨识度高,车辆容易被识别处理,进而对该车辆进行检测的精确度也高。上述辨识度可以根据业务需求设置多种维度的指标。上述辨识度可以包括车辆是否模糊,车辆是否失真,车辆是否被遮挡,车辆是否为机动车辆,是否包括多个车辆等指标。

上述车辆朝向,可以表征车辆图像中车辆的车辆朝向。例如,上述车辆朝向可以包括,正面,背面,左侧面,右侧面,左正面,右正面,左背面,右背面。

上述高质量图像,是指满足辨识度要求与车辆朝向要求的图像。在本申请中需要筛选出高质量图像。可以理解的是,在本申请中不满足辨识度要求和/或车辆朝向要求的图像可以理解为低质量图像。

在不同类型的业务需求中,对辨识度的要求和车辆朝向方面的要求不同。例如,在车牌检测中,需要辨识度高,车辆朝向为正面的车辆图像。此时可以将辨识度高,车辆朝向为正面的图像视为高质量图像。再例如,在车型检测场景中,可以将辨识度高,车辆朝向为非左侧和非右侧的图像(从车辆左侧和右侧无法确定车型)视为高质量图像。

上述朝向约束条件,是指在车辆的车辆朝向方面的约束条件。在一些实施例中,上述朝向约束条件可以包括上述车辆朝向为第一预设朝向。通过该约束条件,可以筛选出车辆朝向为第一预设朝向的车辆图像。在一些实施例中,上述朝向约束条件可以包括上述车辆朝向为非第二预设。通过该约束条件,可以筛选出车辆朝向为非第二预设朝向的车辆图像。

请参见图1,图1为本申请示出的一种图像筛选方法的方法流程图。

如图1所示,上述方法可以包括:

S102,获取待处理的车辆图像。

S104,对上述车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果;其中,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向。

S106,响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像。

上述筛选方法可以应用于电子设备中。其中,上述电子设备可以通过搭载软件系统执行上述筛选方法。上述电子设备的类型可以是笔记本电脑,计算机,服务器,手机,PAD终端等。本申请不对上述电子设备的具体类型进行特别限定。

可以理解的是,上述筛选方法既可以仅通过终端设备或服务端设备单独执行,也可以通过终端设备与服务端设备配合执行。

例如,上述筛选方法可以集成于客户端。搭载该客户端的终端设备在接收到图像筛选请求后,可以通过自身硬件环境提供算力执行上述筛选方法。

又例如,上述筛选方法可以集成于系统平台。搭载该系统平台的服务端设备在接收到筛选请求后,可以通过自身硬件环境提供算力执行上述筛选方法。

还例如,上述筛选方法可以分为获取车辆图像与对图像筛选两个任务。其中,获取任务可以集成于客户端设备。识别任务可以集成于服务端设备。上述客户端设备在获取到图像后向上述服务端设备发起筛选请求。上述服务端设备在接收到上述筛选请求后,可以响应于该请求筛选出高质量图像。

以下以执行主体为电子设备(以下简称设备)为例进行说明。

上述设备可以执行S102,获取包含车辆的车辆图像;

上述车辆图像,可以是从抓拍图像中截取出的包含车辆的图像。其中,上述抓拍图像可以是部署在现场(例如,公路旁)的图像采集设备(例如监控摄像机等)直接抓拍的图像;或者是抓拍的视频流中截取到的图像。

在从抓拍图像中截取包含车辆的车辆图像时可以包括多种方式。在一些实施例中,可以通过人工截取的方式截取上述车辆图像。此时,上述设备可以通过展示设备向图像截取人员展示上述抓拍图像。然后上述设备可以接收上述人员针对抓拍图像中的车辆绘制的边界框,并将上述抓拍图像中,由绘制的边界框围成的图像区域,确定为上述车辆图像。

在一些实施例中,可以通过对象检测的方式截取上述图像。此时,可以利用预先训练完毕的车辆检测网络,对抓拍图像中的车辆进行对象检测,得到与各车辆对应的边界框;然后可以将上述抓拍图像中,由各边界框围成的图像区域,分别确定为上述车辆图像。

上述车辆检测网络,具体可以是用于车辆检测的深度卷积网络模型。例如,上述车辆检测网络可以是RCNN(Region Convolutional Neural Networks,区域卷积神经网络)网络,FAST-RCNN(Fast Region Convolutional Neural Networks,快速区域卷积神经网络)网络或FASTER-RCNN网络。

在实际应用中,在使用该车辆检测网络进行车辆检测前,可以基于若干标注了车辆检测框对应的位置信息以及分类信息的训练样本对该模型进行训练,直至该模型收敛。

请参见图2,图2为本申请示出的一种车辆检测方法流程示意图。需要说明的是,图2仅对车辆检测方法进行示意性说明,不对本申请做出特别限定。

如图2所示,上述车辆检测网络可以是基于FASTER-RCNN网络构建的模型。该模型可以至少包括骨干网络(backbone),RPN(Region Proposal Network,候选框生成网络),以及RCNN(Region-based Convolutional Neural Network,基于区域的卷积神经网络)。

其中,骨干网络可以对抓拍图像进行若干次卷积运算得到该抓拍图像的目标特征图。RPN网络用于对目标特征图进行处理得到与抓拍图像中的各车辆分别对应的anchors(锚框)。RCNN网络用于根据RPN网络输出的锚框和骨干网络输出的目标特征图进行bbox(bounding boxes,边界框)回归和分类,得到上述抓拍图像包含的各车辆分别对应的边界框。

在确定各车辆分别对应的边界框后,一方面可以存储各车辆以及与其对应的边界框的尺寸信息与位置信息等;另一方面,可以将各边界框在抓拍图像中围成的图像区域,确定为包含车辆的车辆图像。

在一些实施例中,在获取上述车辆图像后,为了便于对图像进行质量识别处理,提升识别准确性,可以在预处理单元执行,对上述图像进行预处理。

在一些实施例中,上述预处理可以包括以下至少一项预处理:将上述车辆图像缩放至预设图像尺寸;对上述车辆图像中的像素值进行归一化处理。

在一些实施例中,可以先将上述车辆图像缩放至预设图像尺寸,然后对上述预设图像尺寸的车辆图像进行归一化处理。

上述预设尺寸,可以是根据业务需求进行设定的尺寸。例如,上述预设尺寸可以是300*300。

在一些实施例中,可以利用诸如双线性插值等插值方法对出书图像进行缩放,得到预设尺寸的图像。

在一些实施例中,可以分别将上述预设尺寸的图像包括的每一像素点作为目标像素点,并执行以下步骤,得到预处理后的图像:

将上述目标像素的像素值与该目标像素所属的通道对应的预设均值之差,除以与该目标像素所属的通道对应的预设标准差,得到归一化像素值;

然后,将上述目标像素点的像素值更新为上述归一化像素值。

例如,假设图像预设尺寸为300*300,通道数为3,三个通常对应的预设均值m分别为0.4,0.5,0.45,三个通常对应的预设标准差s分别为0.22,0.3,0.2。

此时可以将上述图像的每个像素点I,根据公式:

在上述实施例中,通过对获取的图像进行预处理,可以将不同尺寸的图像缩放为同一大小的图像,并统一各像素值对应的统计分布性,进而一方面,简化后续对获取的图像进行质量识别的过程,提升图像筛选准确性;另一方面,避免由于各像素值对应的统计过于分散带来的识别误差,提升图像筛选准确性。

在一些实施例中,在获取车辆图像后,上述设备可以执行S104,对上述车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向。

在一些实施例中,在执行S104时,可以对上述车辆图像进行特征提取,得到图像特征。然后,基于上述图像特征进行辨识度分类,得到至少一分类的辨识度识别结果,以及基于上述图像特征进行朝向分类处理,得到车辆朝向识别结果。其中,上述辨识度识别结果包括用于对车辆辨识度正面评价的正向辨识度识别结果;上述车辆朝向识别结果包括多个朝向维度的识别结果

在一些实施例中,可以采用车辆图像识别网络实现前述步骤。在一些例子中,上述车辆图像识别网络可以是神经网络或深度学习网络。

请参见图3,图3为本申请示出的一种车辆图像识别网络的结构示意图。

如图3所示,车辆图像识别网络可以包括辨识度识别子网络(以下简称第一子网络),车辆朝向识别子网络(以下简称第二子网络),以及两种网络共享的特征提取网络以及池化层。

上述特征提取网络,可以对上述车辆图像进行特征提取,得到图像特征。在一些例子中,上述图像特征可以是多通道特征图。上述特征提取网络可以是ResNet(ResidualNeural Network,深度残差网络)系列、VGG(Visual Geometry Group Network,视觉几何群网络)系列等。本申请不限定特征提取网络的具体网络类型。

上述池化层,可以对上述图像特征(多通道特征图)进行全局池化,得到多通道一维特征。上述池化层可以包括平均池化层、最大池化层或金字塔池化层。在本申请不限定池化层的类型。

在得到上述多通道一维特征之后,可以将该多通道一维特征分别输入上述第一子网络与上述第二子网络。上述第一子网络和上述第二子网络可以是基于神经网络构建的分类器。

其中,在第一子网络中,可以对上述多通道一维特征进行降维处理得到单通道一维特征;然后对上述单通道一维特征进行映射处理,得到至少一分类的辨识度识别结果。在第二子网络中,可以对上述多通道一维特征进行降维处理得到单通道一维特征;然后对上述单通道一维特征进行映射处理,得到车辆朝向识别结果。

在对上述车辆图像识别网络进行训练时,可以先构建训练样本。其中,上述训练样本包括用于训练第一子网络的第一图像样本,与用于训练第二子网络的第二图像样本,其中上述第一图像样本中包括正向辨识度指标的第一标注信息,上述第二图像样本包括多个朝向维度指标的第二标注信息。

之后,根据上述训练样本中的各第一图像样本以及上述第一标注信息,利用前向传播确定第一损失信息,然后根据上述第一损失信息,通过反向传播更新上述第一子网络的网络参数;以及,

可以根据上述训练样本中的各第二图像样本以及上述第二标注信息,利用前向传播确定第二损失信息,然后根据上述第二损失信息,通过反向传播更新上述第二子网络的网络参数。

在上述例子中,在对车辆图像识别网络进行训练时,由于采用了有监督式的联合训练方法,因此,可以对第一子网络,第二子网络进行同时训练,使得各模型之间在训练过程中既可以相互约束,又可以相互促进,从而一方面提高第一子网络与第二子网络的收敛效率;另一方面促进各模型共用的骨干网络和共享特征提取网络等可以提取到对车辆图像质量识别更有益的特征,从而提升图像筛选准确性。

在确定辨识度识别结果和朝向识别结果后,可以执行S106。

请参见图4,图4为本申请示出的一种车辆图像筛选流程示意图。

图4示出的流程中,S106可以分为1062,确定辨识度识别结果是否达标;S1064,确定朝向识别结果是否达标;S1066,响应于辨识度和车辆朝向均达标,保留获取的待处理车辆图像。

上述辨识度识别结果除了包括正向辨识度识别结果外,还可以包括至少一项用于对车辆辨识度反面评价的反向辨识度识别结果。以下将正向辨识度识别结果称为正向指标,将反向辨识度识别结果称为反向指标。上述正向指标对应的概率越高,说明车辆辨识度越高。上述反向指标对应的概率越高,说明车辆辨识度越低。

在一些实施例中,在执行S1062时,可以通过判断上述正向指标对应的概率是否达到预设的辨识度阈值,从而确定车辆的辨识度是否达标。上述预设的辨识度阈值为经验阈值,正向指标对应的概率达到该预设的辨识度阈值,说明车辆的辨识度达标;反之,不达标。

在一些实施例中,上述辨识度识别结果可以包括正向指标对应的概率以及多种维度的反向指标分别对应的概率。

上述反向指标可以包括以下中的至少一项:

车辆完整度指标、车辆拍摄清晰度指标,车辆真实性指标。

上述车辆完整度指标可以表征图像中车辆是否完整。例如,上述车辆完整度指标可以包括车辆截断维度的指标;车辆被遮挡维度的指标,包含多辆车的指标。

上述车辆拍摄清晰度指标可以表征图像中车辆是否清晰。例如,上述车辆拍摄清晰度指标可以包括车辆模糊维度的指标;光线亮维度的指标;光线暗维度的指标;车辆失真维度的指标。

上述车辆真实性指标可以表征图像中车辆是否为车辆。例如,上述车辆真实性指标可以包括车辆为非机动车维度的指标。

辨识度识别结果中包括的上述各指标对应的概率值越高,说明车辆可能存在该方面的缺陷。

在一些实施例中,上述反向指标可以包括:

车辆截断维度的指标;车辆模糊维度的指标;车辆为非机动车维度的指标;光线亮维度的指标;光线暗维度的指标;车辆被遮挡维度的指标;包含多辆车的指标;车辆失真维度的指标。

上述反向指标中的任一维度的指标对应的概率较高,则说明车辆可能存在该方面的缺陷。例如,光线亮维度的指标对应的概率达到第三阈值,则可以说明车辆存证光线过亮的缺陷。

此时在执行S1062时,仍可以确定正向指标对应的概率是否达到预设的辨识度阈值。如果达到,则说明其它反向指标的分数均比较低,进而可以确定车辆的车辆辨识度达标。

在一些实施例中,如果需要特别注意需要排除具有某一类缺陷的车辆图像时,可以确定该类缺陷对应的反向指标对应的是否达到第三阈值。如果达到,则说明上述车辆图像存在该类缺陷,应该丢弃该类车辆图像。反之则说明上述车辆图像没有该类缺陷。

由此通过设置多维度的反向指标,一方面可以促进第一子网络提取多维度的辨识度特征,从而可以从多维度判断车辆辨识度,进而提升对车辆识别度的识别精度;另一方面,可以根据需求灵活排除具有某种缺陷的低质量图像,进而提升高质量图像识别准确性。

上述朝向识别结果,可以包括多个朝向维度的识别结果。上述多种车辆朝向指标可以包括以下中的至少一项:

正面朝向;背面朝向;右侧朝向;左侧朝向;右正面朝向;左正面朝向;右背面朝向;左背面朝向。

此时,在执行S1064时,可以确定针对车辆图像的多个朝向维度中的预设朝向维度的识别结果是否满足上述朝向约束条件,如果满足,则说明上述车辆图像中的车辆朝向达标。

上述预设朝向,可以是根据业务需求从上述多个朝向维度中预先选定的朝向。如果在车辆检测需求中,需要筛选出第一预设朝向的车辆图像,则上述预设朝向可以是上述第一预设朝向。再例如,如果在车辆检测需求中,需要排除第二预设朝向的车辆图像,则上述预设朝向可以是上述多个朝向维度中,除上述第二预设朝向维度以外的其它朝向维度。

需要说明的,上述第一预设朝向和第二预设朝向均可以包括多个朝向。例如上述第一预设朝向可以包括正面和背面。上述第二预设朝向可以包括左面和右面。

在一些实施例中,如果在车辆检测需求中,需要筛选出第一预设朝向的车辆图像,可以将朝向约束条件配置为图像中的车辆朝向为第一预设朝向。

在确定上述预设车辆维度的识别结果是否满足上述朝向约束条件时,可以响应于上述朝向识别结果中,第一预设朝向的第二概率值达到第一阈值(经验阈值),确定上述预设车辆维度的识别结果满足上述朝向约束条件。

在一些实施例中,如果在实际需求中,需要排除第二预设车辆朝向的车辆图像,可以将朝向约束条件配置为上述车辆图像的车辆朝向为非第二预设朝向。

在确定上述预设车辆维度的识别结果是否满足上述朝向约束条件时,响应于上述朝向识别结果中,上述其它朝向维度的第三概率值之和达到第二阈值(经验阈值),确定上述预设车辆维度的识别结果满足上述朝向约束条件。

在确定车辆图像的辨识度和车辆朝向均达标后,可以执行S1066。在一些实施例中,可以将上述车辆图像存储至维护的车辆检测图像集合中以备进行后续车辆检测任务。

在上述例子中,可以筛选出满足识别度和车辆朝向两个方面约束条件的高质量图像,从而排除由于车辆识别度和车辆朝向不符合要求而造成的车辆检测精度低的低质量图像,保证车辆检测精度。

举例来说,如果需要筛选出图像集合中,清晰度高,朝向为非左面图像的高质量图像。此时可以依次将图像集合中的车辆图像输入预先训练完成的车辆图像识别网络得到辨识度识别结果与朝向识别结果。其中,车辆图像的辨识度识别结果可以包括车辆清晰度正向指标;针对车辆图像的朝向识别结果可以包括正面朝向指标、背面朝向指标、左面朝向以及右面朝向指标。然后可以先判断上述第一概率是否达到预设的辨识度阈值;如果达到,则说明该车辆图像中的车辆的辨识度达标。然后可以进一步判断上述车辆朝向指标中除去左面朝向之后剩余朝向对应的概率之和是否达到第二阈值(经验阈值);如果达到,则可以说明车辆图像中车辆的图像为非左面。如果针对车辆图像的上述两个判断均满足,则可以认为上述车辆图像为高质量图像,在上述图像集合中保留该车辆图像,反之可以删除该车辆图像。

不难发现,上述方法可以筛选出满足识别度和朝向两个方面约束条件要求的高质量图像,从而排除由于车辆识别度和车辆朝向不符合要求而造成的车辆检测精度低的低质量图像0。

请继续参见图4,在一些实施例中,还可以输出车辆图像中的车辆识别结果,便于量化车辆图像的质量,可以执行S1068,输出上述车辆图像中的车辆质量结果。

上述车辆质量结果可以包括上述车辆图像的质量分数和/或质量等级,上述质量分数与质量等级根据上述车辆辨识度和/或车辆朝向确定。

在一些实施例中,可以将针对车辆图像的辨识度识别结果所包括的正向指标对应的概率作为上述质量分数。可以基于预先维护的概率值与质量等级之间的对应关系,根据针对车辆图像的辨识度识别结果包括的正向指标对应的概率,确定上述车辆图像的质量等级。

通过输出车辆图像中的车辆识别结果,可以量化车辆图像的质量,便于对车辆图像进行诸如质量排序,进一步的图像筛选等后续操作。

在一些实施例中,为了进一步提升高质量图像识别准确性与效率,在保留待处理除了图像之前,可以确定上述车辆的尺寸信息和/或位置信息满足预设的属性条件。

请参见图5,图5为本申请示出的一种车辆图像筛选流程示意图。

如图5所示,在执行S1062之前,还可以执行S1061,确定上述车辆的尺寸信息和/或位置信息是否满足预设的属性条件。如果满足,再执行S1062-S1068;否则,可以将车辆图像确定为低质量图像并删除该图像。

在一些实施例中,上述车辆图像包括从部署的图像采集设备采集到的抓拍图像中截取出的包含车辆的图像。在执行S1061时,可以对上述抓拍图像进行车辆检测,获取上述车辆图像中的车辆的尺寸信息和/或位置信息。然后确定上述车辆的尺寸信息和/或位置信息是否满足预设的属性条件。上述抓拍图像可以是由部署在现场的图像采集设备抓拍到的图像。

在一些实施例中,对上述抓拍图像进行车辆检测可以得到上述车辆图像中车辆对应的边界框。然后根据上述边界框对应的尺寸信息,确定上述车辆的尺寸是否达到第三阈值。和/或,可以根据上述边界框对应的坐标信息和上述抓拍图像,确定上述车辆是否处于上述抓拍图像的边缘位置。若上述车辆的尺寸达到第二阈值,和/或上述车辆不处于上述采集图像的边缘位置,确定上述车辆的尺寸信息和/或位置信息满足预设的属性条件。

上述边界框可以是指利用FASTER-RCNN,对抓拍图像中的车辆进行车辆检测得到的各车辆对应的边界框,或者是由人工在抓拍图像中绘制的与各车辆对应的边界框。在存储上述边界框信息时,可以存储该边界框对应的顶点在抓拍图像中的坐标信息,进而存储边界框对应的尺寸信息与位置信息。

在一些实施例中,上述边界框为矩形框,通过矩形框4个顶点的坐标信息,可以确定该边界框在抓拍图像中对应的车辆图像区域。

通过确定该图像区域的行和列包括的像素点数量,即可确定该车辆的尺寸大小。如果该尺寸大小达到第二阈值(经验阈值),可以确定车辆的尺寸足够大,满足要求。

通过确定该图像区域的中心像素点坐标,可以确定该图像区域是否处于抓拍图像边缘位置。如果该图像区域不处于边缘位置,则可以确定上述车辆不处于边缘位置。

由此可以删除车辆尺寸过小以及处于抓拍图像边缘位置的车辆图像,进而避免由于车辆尺寸过小以及车辆处于边缘导致的误检,从而一方面提升高质量图像识别准确性,另一方面,预先筛选掉一些低质量图像,提升高质量图像识别效率。

在一些实施例中,可以响应于以下至少一项,车辆图像确定删除上述待处理车辆图像:

上述辨识度识别结果小于上述辨识度阈值;

上述朝向识别结果低于上述预设的朝向约束条件;

上述车辆的尺寸信息和/或位置信息超出上述预设的属性条件。

请继续参见图5,在针对车辆图像中的车辆进行S1061,S1062,S1064的逻辑判断时,如果满足以下中的至少一项:车辆的辨识度识别结果小于辨识度阈值,车辆的朝向识别结果低于上述预设的朝向约束条件;车辆的尺寸信息和/或位置信息超出预设的属性条件,则可以将上述车辆图像确定为车辆检测精度不高的低质量图像,并且删除上述待处理车辆图像。

以下结合筛选高质量图像的场景进行实施例说明。

此场景定义的高质量图像可以为清晰度高,光强高,不模糊,车辆未被截断,只有单辆车,未被遮挡,车辆为机动车,图像失真度低,车辆朝向为非左侧和非右侧的车辆图像。

在公路现场部署的摄像头可以实时抓拍现场图像,并将抓拍图像传输至图像处理平台(以下简称平台)。上述平台可以从抓拍图像中抠出若干包含车辆的车辆图像并存储在图像集中,然后可以针对该图像集进行图像筛选。上述平台可以搭载于与摄像头对应的后台设备中。本申请不限定后台设备的具体类型。

请参见图6,图6为本申请示出的一种图像筛选流程示意图。

示意性的,图6示出的图像处理平台可以包括车辆检测单元、预处理单元、车辆图像识别单元以及决策单元。

其中,车辆检测单元可以包括预先通过若干包括车辆边界框位置信息和分类信息的训练样本,训练完成的车辆检测网络(可以是FASTER-RCNN)。车辆检测网络可以检测出图像中包括的车辆对应的边界框。

预处理单元,可以对车辆图像进行缩放与归一化处理,得到预处理后的车辆图像。

车辆图像识别单元,可以包括预先通过训练样本,训练完成的车辆图像识别网络。其中,上述训练样本包括正向指标、8类反向指标以及8类车辆朝向指标的标注信息。上述正向指标、8类反向指标与8类车辆朝向评估指标包括的具体含义可以参照前述实施例,在此不作详述。上述车辆图像识别网络可以识别出车辆图像对应的前述各辨识度指标分别对应的概率,以及前述8维度车辆朝向指标分别对应的概率。

上述决策单元,可以根据车辆对应的边界框,9维度辨识度指标对应的概率,以及8维度车辆朝向指标对应的概率确定该车辆图像是否为高质量图像。

在获取到抓拍图像后,上述平台可以执行S61,通过上述车辆检测网络,对抓拍图像进行车辆检测,得到上述抓拍图像中包括的各车辆对应的边界框(可以为矩形框)。然后可以将各边界框对应的四个顶点信息与各车辆关联存储,以及将各边界框围成的车辆图像存储至图像集中。

然后,可以针对图像集中的各车辆图像进行高质量图像筛选。

以针对其中某一帧车辆图像进行高质量图像识别为例,上述平台可以继续执行S62,对车辆图像进行缩放与归一化处理,得到尺寸为300*300的车辆图像。由此,可以统一后续处理的车辆图像的大小和统计分布性,提升识别效率与准确性。可以理解的是,后续步骤中出现的车辆图像均是指预处理后的车辆图像。

之后,上述平台可以继续执行S63,利用车辆图像识别网络,得到上述车辆图像对应的9维度辨识度指标分别对应的概率,以及8维度车辆朝向指标分别对应的概率。

之后,上述平台可以执行S64,先根据车辆图像中的车辆对应的边界框的四个顶点坐标信息,确定该边界框的大小是否达到20*20(第二阈值),以及该边界框所处位置是否处于抓拍图像的边缘位置。

如果边界框的大小未达到20*20或边界框所处位置为抓拍图像的边缘位置,则可以将该车辆图像确定为低质量图像。由此可以排除由于车辆图像尺寸过小或图像处于边缘而无法进行车辆检测的低质量图像,提升高质量图像识别准确性与效率。

如果边界框的大小达到20*20并且边界框所处位置不处于抓拍图像的边缘位置,可以确定9维度辨识度指标的正向指标对应的概率是否达到0.6(预设的辨识度阈值)。

可以理解的是,车辆辨识度对应的概率达到0.6,即可说明其它反向指标对应的概率之和未超过0.4,则可以说明该车辆图像并不包括其它反向指标指示的诸如多辆车、被遮挡、图像模糊失真等低质量情况,即上述车辆图像满足在车辆辨识度方面的约束条件。相反,如果车辆辨识度对应的概率未达到0.6,则可以说明反向指标对应的概率之和超过0.4,则可以说明该车辆图像可能包括其它反向指标指示的诸如多辆车、被遮挡、图像模糊失真等低质量情况,即上述车辆图像不满足在车辆辨识度方面的约束条件。

当车辆辨识度对应的概率达到0.6时,可以进一步确定8维度的车辆朝向指标中,除去左侧与右侧朝向指标后剩余的指标对应的概率之和是否达到0.8(第三阈值)。

可以理解的是,上述剩余的识别分数之和达到0.8,即可说明左侧与右侧朝向的识别分数之和未超过0.2,则可以说明该车辆图像并不包括左侧朝向和右侧朝向的低质量情况。相反,如果上述剩余的识别分数之和未达到0.8,则可说明左侧与右侧朝向的识别分数之和超过0.2,也即可以说明该车辆图像可能包括左侧朝向和右侧朝向的低质量情况。

如果上述剩余的识别分数之和达到0.8,则可以将该车辆图像确定为高质量图像,并将该车辆图像存储至高质量图像集合中完成图像筛选。

之后上述平台还可以将车辆图像质量维度的识别分数确定为上述高质量车辆图像的最终质量分数,用于量化该车辆图像的质量。在一些实施例中,当在一段抓拍视频流中检测出针对同一车辆的多帧高质量车辆图像后,可以从中选出最终质量分数最高的一帧高质量车辆图像进行车辆检测,由此提升车辆检测精确性。

综上不难发现,在本例中根据车辆对应的边界框,9维度辨识度指标分别对应的概率,以及8维度车辆朝向指标分别对应的概率,确定该车辆图像是否为高质量图像,由此可以从多维度筛选高质量图像,提升高质量图像识别准确性,进而提升车辆检测精确性。

与上述任一实施例相对应的,本申请还提出一种图像筛选装置。

请参见图7,图7为本申请示出的一种图像筛选装置的结构示意图。

如图7所示,上述装置70可以包括:

获取模块71,用于获取待处理的车辆图像;

图像识别模块72,用于对上述车辆图像进行图像识别,得到辨识度识别结果和朝向识别结果;其中,上述辨识度识别结果用于指示上述车辆图像的车辆的辨识度,上述朝向识别结果用于指示上述车辆图像的车辆的朝向;

保留模块73,用于响应于上述辨识度识别结果满足预设的辨识度阈值,且上述朝向识别结果满足预设的朝向约束条件,保留上述待处理车辆图像。

在示出的一些实施例中,上述车辆图像包括从部署的图像采集设备采集到的抓拍图像中截取出的包含车辆的图像;

上述装置70还包括:

车辆检测模块,用于对上述抓拍图像进行车辆检测,获取上述车辆图像中的车辆的尺寸信息和/或位置信息;

确定模块,用于确定上述车辆的尺寸信息和/或位置信息满足预设的属性条件。

在示出的一些实施例中,上述制作还包括:

删除模块74,用于响应于以下至少一项,删除上述待处理的车辆图像:

上述辨识度识别结果小于上述辨识度阈值;

上述朝向识别结果低于上述预设的朝向约束条件;

上述车辆的尺寸信息和/或位置信息超出上述预设的属性条件。

在示出的一些实施例中,上述图像识别模块72具体用于:

特征提取模块,用于对上述车辆图像进行特征提取,得到图像特征;

分类模块,用于基于上述图像特征进行辨识度分类,得到至少一分类的辨识度识别结果;其中,上述辨识度识别结果包括用于对车辆辨识度正面评价的正向辨识度识别结果;

基于上述图像特征进行朝向分类处理,得到车辆朝向识别结果;其中,上述车辆朝向识别结果包括多个朝向维度的识别结果。

在示出的一些实施例中,上述保留模块73具体用于:

响应于上述正向辨识度识别结果对应的第一概率满足上述预设的辨识度阈值,并且上述多个朝向维度中的预设朝向维度的识别结果满足上述朝向约束条件,保留上述待处理车辆图像。

在示出的一些实施例中,上述朝向约束条件包括上述车辆朝向为第一预设朝向;上述预设朝向维度包括上述第一预设朝向;

确定上述预设车辆维度的识别结果是否满足上述朝向约束条件的方法包括:

响应于上述朝向识别结果中,第一预设朝向的第二概率值达到第一阈值,确定上述预设车辆维度的识别结果满足上述朝向约束条件。

在示出的一些实施例中,上述车辆约束条件包括上述车辆朝向为非第二预设朝向;上述预设朝向维度包括上述多个朝向维度中,除上述第二预设朝向维度以外的其它朝向维度;

确定上述预设车辆维度的识别结果是否满足上述朝向约束条件的方法包括:

响应于上述朝向识别结果中,上述其它朝向维度的第三概率值之和达到第二阈值,确定上述预设车辆维度的识别结果满足上述朝向约束条件。

在示出的一些实施例中,上述辨识度识别结果,还包括如下至少一项:

车辆完整度指标、车辆拍摄清晰度指标,车辆真实性指标。

在示出的一些实施例中,上述装置70还包括:

输出模块,用于输出上述车辆图像中的车辆质量结果,其中,上述车辆质量结果包括上述车辆图像的质量分数和/或质量等级,上述质量分数与质量等级根据上述车辆辨识度和/或车辆朝向确定。

在示出的一些实施例中,上述装置70还包括:

预处理模块,用于对上述车辆图像执行如下至少一项预处理:

将上述车辆图像缩放至预设图像尺寸;

对上述车辆图像中的像素值进行归一化处理。

本申请示出的图像筛选装置的实施例可以应用于电子设备上。相应地,本申请公开了一种电子设备,该设备可以包括:处理器。

用于存储处理器可执行指令的存储器。

其中,上述处理器被配置为调用上述存储器中存储的可执行指令,实现如上述任一实施例示出的图像筛选方法。

请参见图8,图8为本申请示出的一种电子设备的硬件结构示意图。

如图8所示,该电子设备可以包括用于执行指令的处理器,用于进行网络连接的网络接口,用于为处理器存储运行数据的内存,以及用于存储图像筛选装置对应指令的非易失性存储器。

其中,上述装置的实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。以软件实现为例,作为一个逻辑意义上的装置,是通过其所在电子设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言,除了图8所示的处理器、内存、网络接口、以及非易失性存储器之外,实施例中装置所在的电子设备通常根据该电子设备的实际功能,还可以包括其他硬件,对此不再赘述。

可以理解的是,为了提升处理速度,图像筛选装置对应指令也可以直接存储于内存中,在此不作限定。

本申请提出一种计算机可读存储介质,上述存储介质存储有计算机程序,上述计算机程序用于执行如前述任一实施例示出的图像筛选方法。

本领域技术人员应明白,本申请一个或多个实施例可提供为方法、系统或计算机程序产品。因此,本申请一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(可以包括但不限于磁盘存储器、CD-ROM、光学存储器等)上述实施的计算机程序产品的形式。

本申请中的“和/或”表示至少具有两者中的其中一个,例如,“A和/或B”可以包括三种方案:A、B、以及“A和B”。

本申请中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于数据处理设备实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

上述对本申请特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的行为或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。

本申请中描述的主题及功能操作的实施例可以在以下中实现:数字电子电路、有形体现的计算机软件或固件、可以包括本申请中公开的结构及其结构性等同物的计算机硬件、或者它们中的一个或多个的组合。本申请中描述的主题的实施例可以实现为一个或多个计算机程序,即编码在有形非暂时性程序载体上述以被数据处理装置执行或控制数据处理装置的操作的计算机程序指令中的一个或多个模块。可替代地或附加地,程序指令可以被编码在人工生成的传播信号上述,例如机器生成的电、光或电磁信号,该信号被生成以将信息编码并传输到合适的接收机装置以由数据处理装置执行。计算机存储介质可以是机器可读存储设备、机器可读存储基板、随机或串行存取存储器设备、或它们中的一个或多个的组合。

本申请中描述的处理及逻辑流程可以由执行一个或多个计算机程序的一个或多个可编程计算机执行,以通过根据输入数据进行操作并生成输出来执行相应的功能。上述处理及逻辑流程还可以由专用逻辑电路—例如FPGA(现场可编程门阵列)或ASIC(专用集成电路)来执行,并且装置也可以实现为专用逻辑电路。

适合用于执行计算机程序的计算机可以包括,例如通用和/或专用微处理器,或任何其他类型的中央处理单元。通常,中央处理单元将从只读存储器和/或随机存取存储器接收指令和数据。计算机的基本组件可以包括用于实施或执行指令的中央处理单元以及用于存储指令和数据的一个或多个存储器设备。通常,计算机还将可以包括用于存储数据的一个或多个大容量存储设备,例如磁盘、磁光盘或光盘等,或者计算机将可操作地与此大容量存储设备耦接以从其接收数据或向其传送数据,抑或两种情况兼而有之。然而,计算机不是必须具有这样的设备。此外,计算机可以嵌入在另一设备中,例如移动电话、个人数字助理(PDA)、移动音频或视频播放器、游戏操纵台、全球定位系统(GPS)接收机、或例如通用串行总线(USB)闪存驱动器的便携式存储设备,仅举几例。

适合于存储计算机程序指令和数据的计算机可读介质可以包括所有形式的非易失性存储器、媒介和存储器设备,例如可以包括半导体存储器设备(例如EPROM、EEPROM和闪存设备)、磁盘(例如内部硬盘或可移动盘)、磁光盘以及CD ROM和DVD-ROM盘。处理器和存储器可由专用逻辑电路补充或并入专用逻辑电路中。

虽然本申请包含许多具体实施细节,但是这些不应被解释为限制任何公开的范围或所要求保护的范围,而是主要用于描述特定公开的具体实施例的特征。本申请内在多个实施例中描述的某些特征也可以在单个实施例中被组合实施。另一方面,在单个实施例中描述的各种特征也可以在多个实施例中分开实施或以任何合适的子组合来实施。此外,虽然特征可以如上述在某些组合中起作用并且甚至最初如此要求保护,但是来自所要求保护的组合中的一个或多个特征在一些情况下可以从该组合中去除,并且所要求保护的组合可以指向子组合或子组合的变型。

类似地,虽然在附图中以特定顺序描绘了操作,但是这不应被理解为要求这些操作以所示的特定顺序执行或顺次执行、或者要求所有例示的操作被执行,以实现期望的结果。在某些情况下,多任务和并行处理可能是有利的。此外,上述实施例中的各种系统模块和组件的分散不应被理解为在所有实施例中均需要这样的分散,并且应当理解,所描述的程序组件和系统通常可以一起集成在单个软件产品中,或者封装成多个软件产品。

由此,主题的特定实施例已被描述。其他实施例在所附权利要求书的范围以内。在某些情况下,权利要求书中记载的动作可以以不同的顺序执行并且仍实现期望的结果。此外,附图中描绘的处理并非必需所示的特定顺序或顺次顺序,以实现期望的结果。在某些实现中,多任务和并行处理可能是有利的。

以上述仅为本申请一个或多个实施例的较佳实施例而已,并不用以限制本申请一个或多个实施例,凡在本申请一个或多个实施例的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请一个或多个实施例保护的范围之内。

相关技术
  • 一种图像筛选方法及装置、电子设备和存储介质
  • 一种图像筛选方法、装置、电子设备及存储介质
技术分类

06120112900030