掌桥专利:专业的专利平台
掌桥专利
首页

目标检测方法、电子设备及计算机可读存储介质

文献发布时间:2023-06-19 18:27:32


目标检测方法、电子设备及计算机可读存储介质

技术领域

本申请涉及机器视觉技术领域,特别是涉及一种目标检测方法、电子设备及计算机可读存储介质。

背景技术

目标检测是计算机视觉和数字图像处理的一个热门方向,广泛应用于机器人导航、智能视频监控、工业检测、航空航天等诸多领域,通过计算机视觉减少对人力资本的消耗,具有重要的现实意义。但是,目前目标检测的准确率还较低。

发明内容

本申请主要解决的技术问题是提供一种目标检测方法、电子设备及计算机可读存储介质,能够提升目标检测的准确性。

为解决上述技术问题,本申请第一方面提供了一种目标检测方法,包括:对待检测图像进行特征提取,得到待检测图像的检测图像特征;将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到;响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类;响应于目标分类的分类结果与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致,将检测图像特征加入误检图像特征库。

为解决上述技术问题,本申请第二方面提供了一种电子设备,该电子设备包括相互耦接的存储器和处理器,存储器用于存储程序数据,处理器用于执行程序数据以实现前述的方法。

为解决上述技术问题,本申请第三方面提供了一种计算机可读存储介质,该计算机可读存储介质中存储有程序数据,程序数据在被处理器执行时,用以实现前述的方法。

本申请的有益效果是:区别于现有技术的情况,本申请通过对待检测图像进行特征提取,得到待检测图像的检测图像特征,然后将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到,然后响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类,最后响应于目标分类的分类结果与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致,将检测图像特征加入误检图像特征库,由此,本申请针对图像的误检问题,建立了误检图像特征库,通过误检图像特征库对图像进行误检判别,以进一步确定该待检测图像在目标检测中被误检;进一步地,当误检图像特征库中不存在与检测图像特征匹配的误检图像特征时,通过目标分类对该图像进行二次判别,并将目标检测结果与目标标注结果一致的待检测图像对应的检测图像特征加入误检图像特征库,以持续优化误检图像特征库的误检判别能力,进一步提升目标检测的准确率。

附图说明

为了更清楚地说明本申请中的技术方案,下面将对实施例描述中所需要的附图作简单的介绍,显而易见地,下面描述的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来说,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。其中:

图1是本申请目标检测方法一实施例的流程示意图;

图2是本申请目标检测方法另一实施例的流程示意图;

图3是本申请目标检测方法又一实施例的流程示意图;

图4是本申请的特征匹配模型的一示意图;

图5是本申请目标检测方法再一实施例的流程示意图;

图6是图5中步骤S44一实施方式的流程示意图;

图7是图6中步骤S443一实施方式的流程示意图;

图8是图5中步骤S44另一实施方式的流程示意图;

图9是本申请目标检测方法又再一实施例的流程示意图;

图10是本申请目标检测装置一实施例的结构示意框图;

图11是本申请电子设备一实施例的结构示意框图;

图12是本申请计算机可读存储介质一实施例的结构示意框图。

具体实施方式

在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。

本申请中的术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

请参阅图1,图1是本申请目标检测方法一实施例的流程示意图。其中,本申请的执行主体为目标检测装置、电子设备等。下面以目标检测装置为例进行说明。

该方法可以包括以下步骤:

步骤S11:对待检测图像进行特征提取,得到待检测图像的检测图像特征。

特征提取网络能够对图像进行特征提取,得到该图像中对应的特征向量。在一些实施方式中,可以利用特征提取网络对待检测图像进行特征提取,得到待检测图像的检测图像特征。特征提取网络的类型、结构等参数不作限定,可以根据实际情况进行设置。

步骤S12:将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到。

其中,目标检测结果由图像经过目标检测得到,目标标注结果为图像的真实结果。目标检测结果可能与目标标注结果一致,此时目标检测检测到图像的真实结果,另外,目标检测结果页可能与目标标注结果不一致,此时目标检测未检测到图像的真实结果,即目标检测出现误检的情况。

目标标注结果可以由人工手动标注,也可以由设备自动标注。在一示例中,目标标注结果可以由用户手动对一批图像进行结果的标注得到,一张图像对应一个目标标注结果,然后将这一批图像进行目标检测,得到每张图像的目标检测结果,若图像的目标检测结果与目标标注结果不一致,则可以将该图像作为误检图像,然后提取该误检图像的误检图像特征加入误检图像特征库,以得到一个初始的误检图像特征库。在另一示例中,目标标注结果可以图像经过目标分类的分类结果;若图像的分类结果与该图像的目标检测结果不一致,则可以该图像的将分类结果作为该图像的目标标记结果,并将该图像作为误检图像,以及将该图像的检测图像特征作为误检图像特征加入误检图像特征库,以对初始的误检图像特征库进行更新,以持续优化误检图像特征库的误检判别能力,具体可以参见后面的实施例。

在一些实施方式中,待检测图像的目标标注结果为A,但误检误将经过目标检测后的目标检测结果却不为A,例如为B、C、D等,即该待检测图像的目标检测结果与目标标注结果不一致,则说明该待检测图像为误检图像。

步骤S13:响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类。

若误检图像特征库中不存在与检测图像特征匹配的误检图像特征,则说明该待检测图像不属于目前误检图像特征库中所包含的误检案例,但是该待检测图像可能属于误检图像特征库之外的其他误检案例。由此,本实施例进一步对待检测图像进行目标分类以确定该待检测图像是否属于误检图像特征库之外的其他误检案例,若是,则将该待检测图像的检测图像特征加入误检图像特征库。

另一方面,若误检图像特征库中存在与检测图像特征匹配的误检图像特征,则说明该待检测图像属于目前误检图像特征库中所包含的误检案例,从而说明该待检测图像的目标检测结果不准确,存在误检的情况,其实,待检测图像真实的目标检测结果应与目标标注结果一致,故可以将该目标标注结果作为待检测图像的目标检测结果,以对错误的目标检测结果进行修正,提高目标检测的准确率。

步骤S14:响应于目标分类的分类结果与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致,将检测图像特征加入误检图像特征库。

此时,说明该待检测图像在目标检测过程中被误检,则可以将检测图像特征加入误检图像特征库,以更新误检图像特征库。

上述方案,通过对待检测图像进行特征提取,得到待检测图像的检测图像特征,然后将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到,然后响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类,最后响应于目标分类的分类结果与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致,将检测图像特征加入误检图像特征库,由此,本申请针对图像的误检问题,建立了误检图像特征库,通过误检图像特征库对图像进行误检判别,以进一步确定该待检测图像在目标检测中被误检;进一步地,当误检图像特征库中不存在与检测图像特征匹配的误检图像特征时,通过目标分类对该图像进行二次判别,并将目标检测结果与目标标注结果一致的待检测图像对应的检测图像特征加入误检图像特征库,以持续优化误检图像特征库的误检判别能力,进一步提升目标检测的准确率。

在一些实施方式中,在对待检测图像进行特征提取,得到待检测图像的检测图像特征之前,先对待检测图像进行目标检测,然后根据得到的目标检测结果,确定是否进一步对待检测图像进行进一步地误检判别,具体可以参见下面两个实施例。

请参阅图2,图2是本申请目标检测方法另一实施例的流程示意图。

在本实施例中,目标标注结果表征误检图像中存在目标,该目标检测方法具体包括以下步骤:

步骤S21:对待检测图像进行目标检测,得到目标检测结果。

其中,可以采用相应的目标检测算法,对待检测图像进行目标检测,以得到待检测图像的目标检测结果,此处不做限定。例如,基于卷积神经网络CNN的目标检测算法。

步骤S22:响应于目标检测结果表征待检测图像中不存在目标,对待检测图像进行特征提取,得到待检测图像的检测图像特征。

由于目标标注结果表征误检图像中存在目标,所以当目标检测结果表征待检测图像中不存在目标,则说明目标检测结果与目标标注结果不一致,从而可以进一步判断该待检测图像的检测图像特征是否已经包含于误检图像特征库中,若是,则无需再将该待检测图像的检测图像特征加入误检图像特征库,否则,可以将该待检测图像的检测图像特征加入误检图像特征库,以持续优化误检图像特征库的误检判别能力。

步骤S23:将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到,目标标注结果表征误检图像中存在目标。

步骤S24:响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类。

关于步骤S22~S24的说明可以参见前述实施例,此处不再赘述。

步骤S25:响应于待检测图像的目标检测结果表征待检测图像中不存在目标且目标分类的分类结果表征待检测图像中存在目标,将检测图像特征加入误检图像特征库。

其中,待检测图像的目标检测结果表征待检测图像中不存在目标且目标分类的分类结果表征待检测图像中存在目标,说明该待检测图像的分类结果与目标检测结果不一致,而与目标标注结果一致,从而说明该待检测图像的目标检测结果与目标标注结果不一致,即该待检测图像为误检图像,进而可以将该待检测图像的检测图像特征加入误检图像特征库,以持续优化误检图像特征库的误检判别能力。

可选地,本申请中的目标可以是任意对象,具体可以根据实际需要进行选取。例如,目标可以是人、动物、烟火、物体等。

请参阅图3,图3是本申请目标检测方法又一实施例的流程示意图。区别于前述实施例,目标标注结果表征误检图像中不存在目标,该目标检测方法具体包括以下步骤:

步骤S31:对待检测图像进行目标检测,得到目标检测结果。

步骤S32:响应于目标检测结果表征待检测图像中存在目标,对待检测图像进行特征提取,得到待检测图像的检测图像特征。

由于目标标注结果表征误检图像中不存在目标,所以当目标检测结果表征待检测图像中存在目标,则说明目标检测结果与目标标注结果不一致,从而可以进一步判断该待检测图像的检测图像特征是否已经包含于误检图像特征库中,若是,则无需再将该待检测图像的检测图像特征加入误检图像特征库,否则,可以将该待检测图像的检测图像特征加入误检图像特征库,以持续优化误检图像特征库的误检判别能力。

步骤S33:将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到,目标标注结果表征误检图像中不存在目标。

步骤S34:响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类。

关于步骤S32~S34的说明可以参见前述实施例,此处不再赘述。

步骤S35:响应于待检测图像的目标检测结果表征待检测图像中存在目标且目标分类的分类结果表征待检测图像中不存在目标,将检测图像特征加入误检图像特征库。

其中,待检测图像的目标检测结果表征待检测图像中存在目标且目标分类的分类结果表征待检测图像中不存在目标,则说明该待检测图像的目标检测结果与目标标注结果不一致,即该待检测图像为误检图像,进而可以将该待检测图像的检测图像特征加入误检图像特征库,以持续优化误检图像特征库的误检判别能力。

在一些实施例中,待检测图像可以是对监控区域采集得到。具体地,在对待检测图像进行特征提取之前,还可以获取对监控区域采集的待检测图像。可选地,监控区域可以包括但不限于:建筑工地区域、工业园区域、仓库区域、矿井下区域、以及其他可能发生火灾的区域环境。待检测图像例如为可见光图像,即RGB图像。其中,矿井可以用于开采煤矿、金属矿、非金属矿、建材矿和化学矿等其中之一的矿材。在一示例中,监控区域为煤矿井下区域。作为我国能源的主要来源之一,煤炭的供应对我国国民经济的发展事关重要。目前,我国大部分的煤炭资源都来源于煤矿的地下开采,然而,煤矿井下由于在地下工作,生产条件严重受限,并且工作空间中火源众多,可燃物堆积,导致在生产过程中容易出现火灾事故。并且煤矿井一旦发生火灾事故,极易引发二次燃烧和爆炸,不但严重影响煤矿的生产效率,严重的还会造成人员伤亡。另外,煤矿井下范围较大,且井下受煤尘和水汽的影响,容易造成烟雾探测器失灵的现象,导致火灾检测不及时、不准确,最终造成严重的事故。复杂的井下环境,也导致基于视觉的烟火检测的误检率较高。

在一些实施方式中,监控区域中安装有图像采集装置,用于对监控区域进行图像采集,得到待检测图像。图像采集装置和目标检测装置可以进行通信(有线或无线),目标检测装置可以从图像采集装置获取对监控区域采集的待检测图像。图像采集装置包括摄像头。

在一些实施方式中,目标检测装置可以包括摄像头,从而目标检测装置可以直接对监控区域进行图像采集,得到待检测图像。

在一些实施方式中,待检测图像可以是通过视频提取的图像帧或单独拍摄得到的图像。其中,可以按照预设时间间隔对监控区域采集一张图像,或者可以实时对监控区域进行视频采集,得到视频数据,视频数据包括多帧待检测图像。

其中,在图像采集装置和目标检测装置安装时可以对摄像头的参数进行调节,以使采集到的图像画面清晰,无明显噪点。

在一些实施方式中,可以利用比较网络将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配。比较网络用于比较两个特征向量的相似度。具体地,可以分别将误检图像特征库中包含的至少一个误检图像特征与待检测图像的检测图像特征输入比较网络,得到检测图像特征和每个误检图像特征对应的相似度,进一步若检测图像特征和每个误检图像特征对应的相似度满足与预设相似度要求,则确定误检图像特征库中存在与检测图像特征匹配的误检图像特征,否则,则确定误检图像特征库中不存在与检测图像特征匹配的误检图像特征。在一些实施方式中,相似度的取值范围为(0-1),若相似度大于预设阈值(例如,0.8、0.9、0.95等),则确定匹配成功,否则确定匹配失败。

请参阅图4,图4本申请的特征匹配模型的一示意图。

在一些实施方式中,可以直接将待检测图像和误检图像库中包含的至少一个误检图像进行匹配。具体地,可以将待检测图像和误检图像输入预先训练好的特征匹配模型,特征匹配模型包括特征提取网络和比较网路,特征提取网络包括两个子网络(子网络1和子网络2),两个子网络各自接收一个输入,例如子网络1输入待检测图像,子网络2输入误检图像,然后输出其嵌入高维度空间的表征,即检测图像特征和误检图像特征,然后再通过比较网络确定检测图像特征是否与误检图像特征匹配,得到匹配结果。比较网络具体用于计算检测图像特征和误检图像特征之间的距离(例如欧式距离),若检测图像特征和误检图像特征之间的距离满足预设距离要求,则确定检测图像特征和误检图像特征匹配,即误检图像中存在与待检测图像匹配的误检图像,否则,确定检测图像特征和误检图像特征不匹配,即误检图像中不存在与待检测图像匹配的误检图像,由此可以比较待检测图像和误检图像的相似程度。

在一示例中,特征匹配模型可以为孪生神经网络(Siamese neural network)。其中,特征匹配模型的训练可以包括:建立初始的图像样本库,然后根据误检图像库训练孪生神经网络模型,选取最优的训练结果作为特征匹配模型。

火既给人们带来了光明和温暖,也给人们带来了不少苦难和悲伤。火灾的预防是消防工作的一项重要任务。如果能在火灾发生初期就能检测到烟火,实现提前预警,将会把灾害降到最低。目前,烟火检测应用最广泛的是烟感探测器,但这些装置必须被安装在非大型室内封闭空间或者被检测对象附近,当处于煤矿井下等场景时很难实现及时、准确检测。另外,目前也有基于机器视觉的目标检测方法,但是准确性不高。由此,可以将本申请的目标检测方法应用于烟火检测领域,以提升烟火检测的准确率,具体请参见下面的实施例。

请参阅图5至图8,图5是本申请目标检测方法再一实施例的流程示意图,图6是图5中步骤S44一实施方式的流程示意图,图7是图6中步骤S443一实施方式的流程示意图,图8是图5中步骤S44另一实施方式的流程示意图。在本实施例中,目标为烟火,烟火可以包括烟火、火焰中的至少一种。

该方法可以包括以下步骤:

步骤S41:对待检测图像进行去雾处理。

在一些实施方式中,可以利用去雾算法对待检测图像进行去雾处理。去雾算法可以包括但不限于为以暗原色先验知识为根本的去雾算法。例如,何凯明博士的暗通道去雾算法、基于导向滤波的暗通道去雾算法、Fattal的单幅图像去雾算法(Single imagedehazing)、Tan的单一图像去雾算法(Visibility in bad weather from a singleimage)、Tarel的快速图像恢复算法(Fast visibility restoration from a singlecolor or gray level image)、贝叶斯去雾算法(Single image defogging bymultiscale depth fusion)。去雾算法的基本原理是基于大气散射模型。用大气散射模型来解释雾天图像退化的过程如下式:

其中,I(x)为有雾图像,A代表全局大气光值,t(x)是场景透射率,J(x)为去雾图像。

步骤S42:对去雾处理后的待检测图像进行图像增强。

其中,可以利用图像增强算法对去雾处理后的待检测图像进行图像增强。图像增强算法常见于对图像的亮度、对比度、饱和度、色调等进行调节,增加其清晰度,减少噪点等。图像增强算法可以包括但不限于:直方图均衡化、拉普拉斯、Log、伽马变换等等。

在一些实施方式中,在去雾处理后可以采用对比度提升算法(直方图均衡化、伽马变换等)对待检测图像进行处理,以提升目标与背景之间的对比度。

在本实施例中,在对待检测图像进行特征提取之前还可以对待检测图像进行预处理(包括去雾处理和图像增强),以使待检测图像中目标更清晰。其中,针对目标为烟火,在对图像进行预处理的过程中还设计了去雾处理,也减少环境中的雾对烟火目标的影响,提升目标检测的准确性。另外,本实施例中,在对待检测图像进行特征提取之前还可以对待检测图像进行目标检测、烟雾运动趋势检测、多光谱图像检测中的至少一种。

步骤S43:对待检测图像进行目标检测,得到目标检测结果。

其中,可以利用目标检测算法对待检测图像进行目标检测,得到目标检测结果。目标检测结果表征待检测图像中存在烟雾、火焰中的至少一种,以及对应的位置坐标。

在一些实施方式中,可以预先构建深度学习目标检测网络,并收集样本素材进行训练。其中,可以对监控区域采集可见光图片,并进行图像数据清洗,数据增强,构建深度学习的样本集。训练好的目标检测网络采用最优的训练权重。然后,利用训练好的目标检测网络对待检测图像进行目标检测,以检测出待检测图像存在的目标(如,烟雾和/或火焰),并记录各自的位置。目标检测网络不限于是卷积神经网络CNN。

步骤S44:响应于目标检测结果表征待检测图像中存在烟雾和/或火焰,对待检测图像进行特征提取,得到待检测图像的检测图像特征。

其中,若目标检测结果表征待检测图像中存在烟雾、火焰中的至少一者时,执行对待检测图像进行特征提取,得到待检测图像的检测图像特征的步骤。由此,通过目标检测,当检测到烟雾、火焰中的至少一者,才进一步进行误判识别,从而避免无效识别。

在一些实施方式中,步骤S44可以包括步骤S441~S443:

步骤S441:响应于目标检测结果为烟雾,获取待检测图像中的烟雾区域图像。

具体地,可以基于目标检测结果中烟雾的位置坐标,确定待检测图像中烟雾的感兴趣区域(region of interest,ROI),即烟雾区域图像,然后进行图像裁剪,得到烟雾区域图像。

步骤S442:利用烟雾区域图像进行烟雾运动趋势检测。

在一些实施方式中,当利用光流法进行烟雾运动趋势检测时,需要基于对监控区域在时间上前后采集的两张图像。在一示例中,可以获取对监控区域采集的视频数据,然后截取视频数据中当前帧与前一帧或后一帧中相同位置对应的图像,记为烟雾区域图像A1和烟雾区域图像A2。

步骤S443:响应于烟雾存在运动趋势,对待检测图像进行特征提取,得到待检测图像对应的检测图像特征。

若烟雾不存在运动趋势,则说明该目标不为烟雾,则重新执行步骤S41,即重新开始检测流程。若烟雾存在运动趋势,则符合烟雾的特点,可以确定检测到烟雾,从而执行待检测图像进行特征提取的步骤。

或者,可以进一步判断该烟雾是否为水雾,若经过水雾判别后,该目标仍为烟雾,则执行待检测图像进行特征提取的步骤。在一些实施方式中,步骤S443可以包括步骤S4431~S4435:

步骤S4431:响应于烟雾存在运动趋势,获取对监控区域采集的多光谱图像和背景图像,其中,其中,多光谱图像与待检测图像为一时间范围内对同一监控区域采集的图像,背景图像为在监控区域未发生变化时采集的图像。

在本实施方式中,在采集待检测图像的同时,还采集了多光谱图像。背景图像可以预先采集并存储于目标检测装置中。在一示例中,多光谱图像对应的波段为400~700nm,以50nm为间隔,此处不做限定。

步骤S4432:利用多光谱图像和背景图像确定烟雾区域图像的变化区域图像。

其中,可以将多光谱图像与背景图像进行帧间差分运算,即将两幅图像对应像素点的灰度值相减取其绝对值,得到差分图像。差分图像包含两幅图像的差异信息。在得到差分图像之后,基于烟雾区域图像的位置,确定差分图像中对应位置的图像,即得到变化区域图像。

步骤S4433:对变化区域图像进行特征提取,得到变化区域特征。

在一些实施方式中,可以利用特征提取网络对变化区域图像进行特征提取,得到变化区域特征。特征提取网络的类型、结构等参数不作限定,可以根据实际情况进行设置。

步骤S4434:获取变化区域特征与标准烟雾特征之间的相似度。

标准烟雾特征为在监控区域存在烟雾情况下提取得到的。其中,可以获取在监控区域存在烟雾情况下采集的多光谱图像和背景图像,然后利用多光谱图像和背景图像确定烟雾区域图像的变化区域图像,对变化区域图像进行特征提取,得到标准烟雾特征。可以理解的,烟雾的类型有多种,不同烟雾对应的标准烟雾特征不同,故当标准烟雾特征为多个时,可以分别获取变化区域特征与多个标准烟雾特征之间的相似度。

在一些实施方式中,可以求取变化区域特征X与标准烟雾特征S的欧氏距离,公式如下:

其中,ds为变化区域特征与标准烟雾特征的欧氏距离,X(i)为变化区域特征,S(i)为标准烟雾特征,n表示特征向量的维度。其中,欧式距离越小,对应的相似度越大。通过设定一个合适的距离阈值可以将烟雾和水雾进行区分。在一示例中,距离阈值的取值范围为0.15~0.25,对应的相似度范围为0.8~0.87。

步骤S4435:响应于相似度满足预设要求,对待检测图像进行特征提取,得到待检测图像对应的检测图像特征。

在一些实施方式中,响应于变化区域特征与标准烟雾特征之间的相似度大于或等于预设相似度阈值,则确定目标为烟雾,否则,确定目标不为烟雾。

在一些实施方式中,相似度的取值范围为(0-1),若相似度大于或等于预设相似度阈值(例如,0.6~1),则确定目标为烟雾,否则,确定目标不为烟雾。

在一些实施方式中,无需在烟雾运动趋势检测之后进行多光谱图像检测,而直接在响应于目标检测结果为烟雾之后进行多光谱图像检测。对应地,步骤S44还可以包括步骤S444~S448:

步骤S444:响应于标检测结果表征待检测图像中存在烟雾,获取对监控区域采集的多光谱图像和背景图像,其中,多光谱图像与待检测图像为一时间范围内对同一监控区域采集的图像,背景图像为在监控区域未发生变化时采集的图像。

步骤S445:利用多光谱图像和背景图像确定烟雾区域图像的变化区域图像。

步骤S446:对变化区域图像进行特征提取,得到变化区域特征。

步骤S447:获取变化区域特征与标准烟雾特征之间的相似度。

步骤S448:响应于相似度满足预设要求,对待检测图像进行特征提取,得到待检测图像对应的检测图像特征。

以上步骤S441~S443和步骤S444~S448之间并无一定的先后关系。关于步骤S444~S448的说明可以参见步骤S4431~S4435,此处不再赘述。

在一些实施方式中,在步骤S448响应于相似度满足预设要求之后还可以进一步利用待检测图像进行烟雾运动趋势检测,此处不再赘述。

步骤S45:将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到,误检图像的目标检测结果表征误检图像中存在烟火,目标标注结果表征误检图像中不存在烟火。

步骤S46:响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类。

其中,在误检图像特征库中不存在与检测图像特征匹配的误检图像特征时,对待检测图像进行二次判别,即利用待检测图像对应的检测图像特征进行目标分类,进一步基于分类结果判别待检测图像是否存在烟火。

步骤S47:响应于目标分类的分类结果表征待检测图像中不存在烟火,将检测图像特征加入误检图像特征库。

类似地,关于步骤S46~S47的说明请参见上述实施例中的对应位置,此处不再赘述。

在一些实施方式中,响应于目标分类的分类结果表征待检测图像中存在烟火,则确定待检测图像中存在烟火,即表示监控区域存在烟火。在确定待检测图像中存在烟火之后,还可以进行报警、启动有关消防设备防火灭火。具体地,当目标检测装置检测到烟火之后,会控制报警装置发出声或光的报警信号,示意人们有火灾发生,请尽快撤离。另外,还可以启动有关消防设备进行防火灭火,把初期火灾扑灭,避免火势扩大蔓延。

由于很多物体(例如白云、红色的灯光)与烟火非常接近,导致基于视觉的目标检测方法很难进行区分,从而会将实际无烟火的图像检测为有烟火,形成第一种误检场景。此外,也存在将实际有烟火的图像检测为无烟火,形成第二种误检场景。本实施例以第一种误检场景为例进行说明,也是步骤S45~S47对应的误检场景。而在其他实施例中,误检图像的目标检测结果也可以表征误检图像中不存在烟火,目标标注结果表征误检图像中存在烟火,对应地,步骤S47可以为响应于目标分类的分类结果表征待检测图像中存在烟火,将检测图像特征加入误检图像特征库,或者响应于目标分类的分类结果表征待检测图像中不存在烟火,确定待检测图像中不存在烟火。

本实施例中,针对上述两种误检场景可以分别收集同一监控区域下,两种误检场景各自的误检图像特征,分别形成第一误检图像特征库和第二误检图像特征库。在实际使用过程中,可以将检测图像特征与对应的误检图像特征库进行匹配。例如,当目标检测结果表征待检测图像中存在烟火时,则将检测图像特征与第一误检图像特征库中包含第一误检图像特征进行匹配,其中,第一误检图像特征由目标检测结果表征误检图像中存在烟火,且目标标注结果表征误检图像中不存在烟火的误检图像提取得到。若待检测图像与第一种误检情况对应的误检图像特征匹配,则说明待检测图像中实际无烟火,但会被误检为待检测图像中存在烟火。又例如,当目标检测结果表征待检测图像中不存在烟火时,则将检测图像特征与第二误检图像特征库中包含第二误检图像特征进行匹配,其中,第二误检图像特征由目标检测结果表征误检图像中不存在烟火,且目标标注结果表征误检图像中存在烟火的误检图像提取得到。若待检测图像与第二种误检情况对应的误检图像特征匹配,则说明待检测图像中实际有烟火,但会被误检为待检测图像中不存在烟火。

请参阅图9,图9是本申请目标检测方法又再一实施例的流程示意图。

该方法可以包括以下步骤:

步骤S501:获取对监控区域采集的待检测图像。

步骤S502:对待检测图像进行去雾处理。

步骤S503:对去雾处理后的待检测图像进行图像增强。

步骤S504:对待检测图像进行目标检测,得到目标检测结果。

响应于目标检测结果为火焰,执行步骤S509;

响应于目标检测结果为烟雾,执行步骤S505。

步骤S505:进行烟雾运动趋势检测。

具体地,可以获取待检测图像中的烟雾区域图像,然后利用烟雾区域图像进行烟雾运动趋势检测,得到运动趋势检测结果。

步骤S506:判断烟雾是否存在运动趋势。

若是,执行步骤S507;

否则,执行步骤S501。

步骤S507:进行多光谱烟雾目标特征判别,得到判别结果。

具体地,可以获取对监控区域采集的多光谱图像和背景图像,其中,背景图像为在监控区域未发生变化时采集的图像,然后利用多光谱图像和背景图像确定烟雾区域图像的变化区域图像,然后对变化区域图像进行特征提取,得到变化区域特征,然后获取变化区域特征与标准烟雾特征之间的相似度,最后基于该相似度得到判别结果。其中,响应于相似度满足预设要求,则确定判别结果为烟雾,否则,确定判别结果为水雾。

步骤S508:判断判别结果是否为烟雾。

若是,执行步骤S509;

否则,执行步骤S501。

步骤S509:进行误检图像特征匹配。

具体地,包括对待检测图像进行特征提取,得到待检测图像的检测图像特征,然后将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到。

步骤S510:判断误检图像特征库中是否存在与检测图像特征匹配的误检图像特征。

若是,执行步骤S501,重新开始检测;

否则,执行步骤S511。

步骤S511:利用检测图像特征进行目标分类。

步骤S512:判断目标分类的分类结果是否与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致。

若是,执行步骤S513;

否则,执行步骤S514。

在一实施场景中,当目标标注结果表征误检图像中不包含烟火,而待检测图像对应的目标检测结果表征待检测图像中包含烟火,而目标分类的分类结果表征待检测图像中不包含烟火,执行步骤S513,并重复执行步骤S501;以及目标分类的分类结果表征待检测图像中包含烟火,则执行步骤S514,即确定待检测图像中确实包含烟火,从而进一步进行系统报警等操作。

在另一实施场景中,当目标标注结果表征误检图像中包含烟火,而待检测图像对应的目标检测结果表征待检测图像中不包含烟火,而目标分类的分类结果表征待检测图像中包含烟火,执行步骤S513,并重复执行步骤S501;以及目标分类的分类结果表征待检测图像中不包含烟火,则执行步骤S514,即确定待检测图像中确实不包含烟火。

步骤S513:将检测图像特征加入误检图像特征库。

步骤S514:确定待检测图像未被误检。

关于上述步骤的说明可以参见前述实施例的对应位置,此处不再赘述。

以上,本申请针对监控区域(如矿井下)烟雾检测误报的问题,通过建立初始的误检图像特征库,直接将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配;或者,可以建立初始的误检图像库,并基于特征匹配模型(如孪生神经网络),将待检测图像和误检图像库中包含的误检图像作为模型的输入,特征匹配模型分别提取待检测图像和误检图像中的特征向量,然后在将提取到的待检测图像的检测图像特征与误检图像的误检图像特征进行匹配,以判别待检测图像中是否存在烟火。此外,使用目标分类网络对该目标进行二次判别,若目标分类的分类结果与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致,则将待检测图像的检测图像特征注册至误检图像特征库,持续优化系统的烟火误报检测能力。

进一步地,针对监控区域中水雾对烟雾检测的干扰,首先通过去雾算法,滤除图像中部分较淡的雾气,增强画面的纯净度,提升后续算法的检测能力。待检出图像中的目标后,分析目标的多光谱特征,判别该目标为烟雾还是水雾,提升系统算法的召回率。另外,相比于烟感探测器用于非大型室内封闭空间或者被检测对象附近时,利用本申请的目标检测方法对烟火进行检测的及时和准确性性更高。

请参阅图10,图10是本申请目标检测装置一实施例的结构示意框图。

目标检测装置100包括特征提取模块110、特征匹配模块120、标分类模块130和特征添加模块140,其中,特征提取模块110用于对待检测图像进行特征提取,得到待检测图像的检测图像特征,特征匹配模块120用于将待检测图像的检测图像特征与误检图像特征库中包含的误检图像特征进行匹配,其中,误检图像特征由目标检测结果与目标标注结果不一致的误检图像提取得到;目标分类模块130用于响应于误检图像特征库中不存在与检测图像特征匹配的误检图像特征,利用检测图像特征进行目标分类;特征添加模块140用于响应于目标分类的分类结果与待检测图像的目标检测结果不一致且目标分类的分类结果与误检图像的目标标注结果一致,将检测图像特征加入误检图像特征库。

在一些实施方式中,目标标注结果表征误检图像中存在目标,特征添加模块140具体用于响应于待检测图像的目标检测结果表征待检测图像中不存在目标且目标分类的分类结果表征待检测图像中存在目标,将检测图像特征加入误检图像特征库。

在一些实施方式中,目标标注结果表征误检图像中不存在目标,特征添加模块140具体用于响应于待检测图像的目标检测结果表征待检测图像中存在目标且目标分类的分类结果表征待检测图像中不存在目标,将检测图像特征加入误检图像特征库。

在一些实施方式中,目标检测装置还包括目标检测模块(图未示),目标检测模块用于在对待检测图像进行特征提取,得到待检测图像的检测图像特征之前,对待检测图像进行目标检测,得到目标检测结果;响应于目标检测结果表征待检测图像中存在目标,执行对待检测图像进行特征提取,得到待检测图像的检测图像特征的步骤。

在一些实施方式中,目标包括烟雾和/或火焰。

在一些实施方式中,当目标包括烟雾时,目标检测装置还包括运动趋势检测模块(图未示),运动趋势检测模块用于响应于目标检测结果表征待检测图像中存在烟雾,获取待检测图像中的烟雾区域图像;利用烟雾区域图像进行烟雾运动趋势检测;响应于运动趋势检测结果为存在运动趋势,执行对待检测图像进行特征提取,得到待检测图像的检测图像特征的步骤。

在一些实施方式中,在一些实施方式中,目标检测装置100还包括多光谱检测模块(图未示),多光谱检测模块用于响应于目标检测结果表征待检测图像中存在烟雾,获取对监控区域采集的多光谱图像和背景图像,其中,多光谱图像与待检测图像为一时间范围内对同一监控区域采集的图像,背景图像为在监控区域未发生变化时采集的图像;利用多光谱图像和背景图像确定烟雾区域图像的变化区域图像;对变化区域图像进行特征提取,得到变化区域特征;获取变化区域特征与标准烟雾特征之间的相似度;响应于相似度满足预设要求,则执行对待检测图像进行特征提取,得到待检测图像对应的检测图像特征的步骤。

在一些实施方式中,待检测图像为对矿井下区域采集的图像;和/或,目标检测装置还包括图像预处理模块(图未示),图像预处理模块用于在对待检测图像进行特征提取,得到待检测图像的检测图像特征之前,对待检测图像进行去雾处理;对去雾处理后的待检测图像进行图像增强。

请参阅图11,图11是本申请电子设备一实施例的结构示意框图。

电子设备200包括相互耦接的存储器210和处理器220,存储器210用于存储程序数据,处理器220用于执行程序数据以实现上述任一方法实施例中的步骤。

电子设备200可以包括但不限于:图像采集装置、个人电脑(例如,台式机、笔记本电脑、平板电脑、掌上电脑等)、手机、服务器、监控设备等,在此不做限定。

具体而言,处理器220用于控制其自身以及存储器210以实现上述任一方法实施例中的步骤。处理器220还可以称为中央处理单元(Central Processing Unit,CPU)。处理器220可能是一种集成电路芯片,具有信号的处理能力。处理器220还可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。另外,处理器220可以由多个集成电路芯片共同实现。

请参阅图12,图12是本申请计算机可读存储介质一实施例的结构示意框图。

计算机可读存储介质300存储有程序数据310,程序数据310被处理器执行时,用以实现上述任一方法实施例中的步骤。

计算机可读存储介质300可以为U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等可以存储计算机程序的介质,也可以为存储有该计算机程序的服务器,该服务器可将存储的计算机程序发送给其他设备运行,或者也可以自运行该存储的计算机程序。

以上,本申请中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本申请中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。

在本申请所提供的几个实施例中,应该理解到,所揭露的方法和装置,可以通过其它的方式实现。例如,以上所描述的装置实施方式仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性、机械或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目的。

另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本申请各个实施方式方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上仅为本申请的实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。

相关技术
  • 机器人控制方法、装置、电子设备和计算机可读存储介质
  • Monkey测试方法、装置、电子设备及计算机可读存储介质
  • 日志上报方法、装置、电子设备及计算机可读存储介质
  • 语音识别方法、装置、电子设备及计算机可读存储介质
  • 图像处理方法、装置、计算机可读存储介质和电子设备
  • 目标检测方法、电子设备和计算机可读存储介质
  • 目标检测方法、装置、计算机可读存储介质及电子设备
技术分类

06120115573736