基于鲁棒路径的目标检测模型对抗鲁棒性评估方法和装置

技术领域

本申请涉及目标检测技术领域，特别是涉及一种基于鲁棒路径的目标检测模型对抗鲁棒性评估方法和装置。

背景技术

目标检测模型在一系列目标识别和分类等任务中表现出卓越的性能。然而，尽管取得了令人惊艳的结果，目标检测模型仍然容易受到精心设计的扰动。这些难以察觉的扰动可以引入到自然图像中，进而生成对抗样本，成功地欺骗目标检测模型，这个问题给目标检测模型的实际应用带来了安全风险。

装备智能化是指将检测模型有机地嵌入到现有装备系统中，提升其识别、推理、判断、决策、控制和环境适应的能力。传统装备试验鉴定方法难以对智能化装备究竟有多智能进行衡量，难以对其性能及可靠性进行较为准确的分析与评价。为解决对智能化装备的评估问题，需要对其中的目标检测模型进行评估，用以描述装备的智能化程度。目前，针对目标检测模型智能化水平评估的研究主要围绕对抗鲁棒性和可解释性等维度展开。了解目标检测模型在攻击下的行为并评估其承受干扰的能力对于增强模型的对抗鲁棒性也至关重要。

现已有一些研究致力于理解模型在受到扰动时的决策行为。Zhang等提出神经元敏感性，从内部神经元的角度来解释模型的敏感性。Yu等揭示了不同类别信息流的关键路径。Li等提出了一种基于梯度的影响层传播方法，从实例层和模型层提取关键攻击路径。关键攻击路径揭示了深度神经网络的对抗性缺陷。Wang等开发了一种蒸馏引导路径方法，通过学习每层输出通道的相关控制门来提取神经元数据路径。他们进一步使用这条路线来检测对抗样本。此外，Qiu等尝试通过网络分析提取每一类的突触关键路径，并将其用于防御对抗性实例。

还有一些研究从不同的角度评估模型的对抗稳健性。在关键安全应用领域，模型的不确定性被广泛研究。陈思宏等人]研究发现预测不确定性越大，则模型对抗鲁棒性越强，通过增加模型预测的不确定性，以达到提高对抗鲁棒性的目的。预测结果的方差是衡量不确定性最直观的方法。受此启发，Liu等人使用神经元的方差来计算神经元不确定性。苏记柱对CNN模型进行重构，结合证据推理方法，分析信息冲突值随扰动强度的变化关系，提出了两个对抗鲁棒性评估指标：冲突上限和冲突下限。Jin等提出了一种基于决策边界的通用模型鲁棒性评价指标ROBY。Liu等分析了输入示例周围的邻域，并提出了经验边界距离度量。Dempster-Shafer证据理论常被用来处理不确定信息，辅助完成智能决策任务。Weng等利用极值理论估计了最小抗扰距离的下边界，并给出了相应的数学证明。Zhang等介绍了CROWN，这是一个为具有一般激活函数的模型设计的鲁棒性评估框架。该框架在选择激活函数的上界或下界方面提供了灵活性，减轻了与对抗性鲁棒性评估相关的固有近似误差。Xu等率先提出算法鲁棒性的概念，这一概念的提出受益于两个相似样本的测试误差往往非常接近的思想。受此启发，Liu等从Lipschitz常数的角度，提出了经验噪声不敏感度(ε-empirical noise insensitivity,ENI)。

现有的对抗鲁棒性评估方法缺乏可解释性，未能阐明模型抵御对抗性攻击的潜在机制。此外，关于解释模型在扰动下的决策行为的方法可解释性较强，但它们利用的是与预测直接相关的信息。因此，它们可能会无意中纳入不相关的信息，这些信息影响了模型预测的准确性。同时，这种不必要的冗余信息阻碍了对目标检测模型的深入理解。综上，现有的对抗鲁棒性评估方法无法科学地、可解释地筛选出对抗鲁棒性最佳的目标检测模型，难以保证目标检测效果的稳定性和准确性。

发明内容

基于此，有必要针对上述技术问题，提供一种基于鲁棒路径的目标检测模型对抗鲁棒性评估方法和装置，以便提高目标检测的准确性和稳定性。

一种基于鲁棒路径的目标检测模型对抗鲁棒性评估方法，所述方法包括：

获取评估图像样本集以及若干个待评估的目标检测模型；

将当前评估图像样本输入当前的目标检测模型中，并在中间层特征空间中加入扰动，得到扰动图像特征并传播至输出层；

根据输出层的预测结果将扰动图像特征分解为鲁棒特征和非鲁棒特征；

从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元；

连接相邻层的鲁棒神经元得到鲁棒路径，然后根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径；

根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性；

将对抗鲁棒性最佳的目标检测模型嵌入至智能化设备进行目标检测。

一种基于鲁棒路径的目标检测模型对抗鲁棒性评估装置，所述装置包括：

样本和模型获取模块，用于获取评估图像样本集以及若干个待评估的目标检测模型；

扰动图像特征获取模块，用于将当前评估图像样本输入当前的目标检测模型中，并在中间层特征空间中加入扰动，得到扰动图像特征并传播至输出层；

特征分解模块，用于根据输出层的预测结果将扰动图像特征分解为鲁棒特征和非鲁棒特征；

鲁棒神经元筛选模块，用于从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元；

鲁棒路径构建模块，用于连接相邻层的鲁棒神经元得到鲁棒路径，然后根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径；

对抗鲁棒性评估模块，用于根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性；

目标检测模块，用于将对抗鲁棒性最佳的目标检测模型嵌入至智能化设备进行目标检测。

一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：

获取评估图像样本集以及若干个待评估的目标检测模型；

将当前评估图像样本输入当前的目标检测模型中，并在中间层特征空间中加入扰动，得到扰动图像特征并传播至输出层；

根据输出层的预测结果将扰动图像特征分解为鲁棒特征和非鲁棒特征；

从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元；

连接相邻层的鲁棒神经元得到鲁棒路径，然后根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径；

根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性；

将对抗鲁棒性最佳的目标检测模型嵌入至智能化设备进行目标检测。

一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：

获取评估图像样本集以及若干个待评估的目标检测模型；

将当前评估图像样本输入当前的目标检测模型中，并在中间层特征空间中加入扰动，得到扰动图像特征并传播至输出层；

根据输出层的预测结果将扰动图像特征分解为鲁棒特征和非鲁棒特征；

从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元；

连接相邻层的鲁棒神经元得到鲁棒路径，然后根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径；

根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性；

将对抗鲁棒性最佳的目标检测模型嵌入至智能化设备进行目标检测。

上述基于鲁棒路径的目标检测模型对抗鲁棒性评估方法和装置，首先，获取用于评估的图像样本，以及待评估的若干目标检测模型；然后，将图像也能根本输入目标检测模型并在中间特征中注入给定幅度的噪声，得到扰动特并将其传播到最后一个输出层；接着，根据预测灵敏度将扰动特征显示分解为鲁棒特征和非鲁棒特征；随后，基于鲁棒特征计算梯度，从上一层开始反向传播，识别鲁棒神经元并构造鲁棒路径，最后，基于鲁棒路径的覆盖比例，得到目标检测模型对抗鲁棒性的评估值，由此可以科学地筛选出对抗鲁棒性最佳的目标检测模型执行目标检测任务，还能提高对抗鲁棒性指标的准确性和可解释性，从而能保证目标检测效果的稳定性和准确性。

附图说明

图1为基于鲁棒路径的目标检测模型对抗鲁棒性评估方法的流程示意图；

图2为基于鲁棒路径的目标检测模型对抗鲁棒性评估方法的具体工作流程图；

图3为自然模型和分别经过多次PAT的鲁棒模型各个卷积层鲁棒神经元的覆盖率的对比图；

图4为一个实施例中计算机设备的内部结构图。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。

在一个实施例中，如图1所示，提供了一种基于鲁棒路径的目标检测模型对抗鲁棒性评估方法，包括以下步骤：

步骤102，获取评估图像样本集以及若干个待评估的目标检测模型。

其中，评估图像样本集中的样本为干净样本x，带有真实标签y。

步骤104，将当前评估图像样本输入当前的目标检测模型中，并在中间层特征空间中加入扰动，得到扰动图像特征并传播至输出层。

中间层是指除去输入层和输出层以外的其他网络层。输入目标检测模型的是干净样本。在一开始输入的时候往干净样本中添加扰动，后续中间层也就相当于添加了扰动，本方法将往干净样本中添加扰动生成对抗样本这一过程纳入到了提取鲁棒路径过程中，因此在描述为向中间层添加扰动，实际上相当于基于干净样本生成对抗样本。

步骤106，根据输出层的预测结果将扰动图像特征分解为鲁棒特征和非鲁棒特征。

鲁棒特征在受到扰动时是稳定的，而非鲁棒特征不是。因此，可以通过在中间层特征空间中加入扰动来识别影响目标预测的鲁棒特征和非鲁棒特征。

可以采用基于信息瓶颈的特征分离方法，从给定的中间特征Z中提取鲁棒特征和非鲁棒特征。信息瓶颈理论认为深度神经网络作为马尔可夫链运行，通过层顺序处理特征。这种顺序处理支持对信息进行压缩，从而只保留模型输出所需的相关信息。因此，目标函数可表示为：

其中I表示互信息，β表示输入信息的抑制程度。其中，I(Z,y)中间特征Z能够有效预测目标标签y，I(Z,x)鼓励Z压缩给定图像x的信息。

然而，由于难以计算用于推导I(Z,x)的真实特征概率P(Z)，一些研究将目标函数修改为：

式中

本方法选择在在中间特征中注入给定幅度的噪声得到扰动图像特征，并将其传播到最后一个输出层，并估计每个特征单元对模型预测的特征重要性。

待评估的目标检测模型是已经预先训练好的，在提取鲁棒特征和非鲁棒特征的过程中不会修改目标检测模型的参数。

步骤108，从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元。

为了构建鲁棒路径，从每一层提取鲁棒神经元并在相邻层之间进行连接。其中，鲁棒神经元被描述为对提取鲁棒特征贡献更大的神经元。同样，非鲁棒神经元被描述为那些对非鲁棒特征的提取贡献最大的神经元。

步骤110，连接相邻层的鲁棒神经元得到鲁棒路径，然后根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径。

对于评估图像样本集中的每一个干净样本，在模型中都有一个相关的鲁棒路径，为了生成模型级鲁棒路径，可以选择每层中出现次数最高的神经元组成最终鲁棒路径。

步骤112，根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性。

理论上，鲁棒路径倾向于提取抵抗扰动的鲁棒特征，从而帮助模型进行准确分类。受此启发，可以根据每层鲁棒神经元数量占总数量的比例评估模型的对抗鲁棒性。为此，提出了一种对抗鲁棒性的评价指标—鲁棒路径覆盖率(Robust Path Coverage,RPC)。

步骤114，将对抗鲁棒性最佳的目标检测模型嵌入至智能化设备进行目标检测。

应该理解的是，虽然图1的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图1中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

在一个实施例中，在中间层特征空间中加入扰动，得到扰动图像特征为：

Z

其中，Z

在一个实施例中，根据输出层的预测结果将所述扰动图像特征分解为鲁棒特征和非鲁棒特征，包括：

采用基于信息瓶颈的特征分离方法，根据输出层的预测结果从给定的扰动图像特征中提取鲁棒特征和非鲁棒特征，具体为：

其中，

在对信息特征Z

在一个实施例中，从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元，包括：

在当前目标检测模型的最后一层，根据鲁棒特征计算各个神经元相对于评估图像样本的分类结果的损失梯度：

其中，

基于预设的损失梯度阈值筛选出鲁棒神经元。

在一个实施例中，从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元，还包括：

对于当前目标检测模型的输出层以外的其他层，选择鲁棒神经元的方式为：

通过反向传播计算当前层的各个神经元与当前层的后一层的对应编号的神经元之间的梯度，即，为了识别前一层的鲁棒神经元，通过反向传播计算神经元f

其中，

为了识别前一层的鲁棒神经元，通过反向传播计算神经元

在一个实施例中，根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径，包括：

选择在所有评估图像样本的鲁棒路径的每一层出现次数最高的神经元组成模型级鲁棒路径。

在一个实施例中，根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性为：

其中，RPC表示鲁棒路径覆盖率，

如图2所示，提供基于鲁棒路径的目标检测模型对抗鲁棒性评估方法的具体工作流程图。首先，采用基于信息瓶颈的鲁棒特征提取方法，将最后一层的输出特征分解为鲁棒特征和非鲁棒特征；随后，基于鲁棒特征计算梯度，从上一层开始反向传播，识别鲁棒神经元并构造鲁棒路径；最后，基于深度神经网络鲁棒路径的覆盖比例，提出了一种量化模型对抗鲁棒性的评价指标—鲁棒路径覆盖率。

在一个实施例中，所述方法还包括：

探索非鲁棒路径，消除非鲁棒路径和鲁棒路径的重叠区域，构造真正的鲁棒路径。

本方法所提出的RPC指标核心思想是衡量根据预设的损失梯度阈值筛选出的神经元数量占总体神经元的比例，超过阈值的所有神经元组成的路径都可以称之为鲁棒路径。损失梯度最高的神经元组成的鲁棒路径是代表性路径，鲁棒性最强的路径。基于鲁棒特征找到的鲁棒路径和基于非鲁棒特征找到的非鲁棒路径在某些神经元上是会有重合的，可以将这些神经元剔除，构造真正意义上的鲁棒路径，用于从各层神经元的角度理解模型的决策行为。该方法提高了对抗鲁棒性评估过程的可解释性，同时将有助于增强模型鲁棒性的指导。

接下来通过实验证明本方法的效果。

1、实验参数

实验采用典型图像分类数据集：CIFAR10。两种经典深度神经网络被用于图像分类任务中，如AlexNet和VGG-16。我们使用两种先进的对抗攻击方法生成对抗样本，包括theFast Gradient Sign Method攻击(FGSM攻击)和the Projected Gradient Descent攻击(PGD攻击)。对于FGSM，设置扰动约束为＝8/255。对于PGD，设置扰动约束为8/255，迭代次数为40，步长为0.01。另外，选择最先进的对抗防御算法PGD-based adversarial training(PAT)来进行鲁棒模型的训练。

2、通过鲁棒路径解释模型行为

在本节中，通过利用鲁棒神经元来更好地理解鲁棒模型决策的行为，分析了鲁棒路径在对抗攻击中的作用。

首先，试图分析不同卷积层中鲁棒神经元和非鲁棒神经元的重合比例，研究在特征提取时神经元对于鲁棒特征和非鲁棒特征的偏好。对于VGG-16和AlexNet及经PAT之后的模型，计算了五个卷积层中鲁棒神经元和非鲁棒神经元的重合比例，如表1所示。

表1不同模型卷积层中鲁棒神经元和非鲁棒神经元的重合比例

实验结果表明，鲁棒神经元和非鲁棒神经元重合比例逐层减少，后三个卷积层的神经元显示出对鲁棒特征和非鲁棒特征的偏好。具体而言，无论是否进行PAT，鲁棒神经元和非鲁棒神经元重合比例逐层减少，并且在第3个卷积层后，比例均低于0.25。这表明第3-5个卷积层的神经元表现出了对鲁棒特征或非鲁棒特征的偏好。尤其到了第5层，一部分神经元倾向于提取鲁棒特征，一部分神经元倾向于非鲁棒特征。

此外，计算模型分类过程中样本损失、鲁棒特征损失和非鲁棒特征损失，如表2所示。

表2自然模型和鲁棒模型样本与特征损失相关性分析

通过推导他们之间的相关性，我们发现自然模型倾向于依靠非鲁棒特征进行决策，而鲁棒模型更加倾向于依靠鲁棒特征。换言之，鲁棒模型中主要依靠鲁棒神经元进行特征提取，构成减缓对抗扰动的鲁棒路径，实现正确分类。

3、各个模型之间的对比

通过对未经防御训练的自然模型和鲁棒模型分别进行评估，验证了该方法的有效性。我们对比了自然模型和分别经过多次PAT的鲁棒模型各个卷积层鲁棒神经元的覆盖率，如图3所示。

由图3可知，随着对抗鲁棒性的提高，VGG-16和AlexNet在第3层到第5层卷积层的鲁棒神经元覆盖率呈上升趋势。具体而言，迭代次数越大，不同鲁棒模型相同层的鲁棒神经元覆盖率越高，例如，如图3所示，迭代了30次的Alexnet模型后三层的鲁棒神经元覆盖率分别为0.5677，0.6094，0.75，迭代了50次分别为0.6224，0.6875，0.8000，迭代了70次分别为0.7448，0.7214，0.8600。

另外，前两层鲁棒神经元覆盖率没有表现出与后三层相同的趋势。原因可能是这两层神经元主要提取图像中的基本特征，未表现出偏好鲁棒特征的趋势。因此，我们可以利用几层卷积层的神经元覆盖率评估模型的对抗鲁棒性。最后，我们发现PGD攻击下模型后两层的鲁棒神经元覆盖率要低于FGSM攻击。这从另一个角度说明了PGD攻击的攻击强度要高于FGSM攻击。

4、与先进指标的对比

我们使用攻击成功率(attack success rate,ASR)来评估模型的分类准确率。采用皮尔逊相关系数来衡量鲁棒路径覆盖率与ASR的关联强度。此外，我们对比最先进指标，如ROBY and CLEVER scores，与ASR的关联强度，来验证所提方法的优越性。结果如表3所示。

表3所提指标及对比指标与攻击成功率的皮尔逊相关系数

上述实验表明，鲁棒路径覆盖率性能优于ROBY，和CLEVER scores表现差不多。具体而言，在两个模型中，PRC和ASR呈强负相关，ROBY and CLEVER scores与ASR呈强正相关。其中在VGG和Alexnet测试中PRC的绝对值均大于ROBY。因此，PRC比ROBY更能反映模型的对抗鲁棒性。此外，在VGG中，PRC为-0.7349，其绝对值小于CLEVER scores为0.7487，而在Alexnet中呈现不同的结果。但是，由于这两个指标的绝对值相差小于0.02，PRC的性能和CLEVER scores相近。值得注意的是，考虑到所提的方法能够识别出深度神经网络中鲁棒的神经元，帮助理解模型受到攻击前后进行决策的过程，因此，推荐PRC作为更好的评估指标，以用于评估模型的对抗鲁棒性。

在一个实施例中，提供了一种基于鲁棒路径的目标检测模型对抗鲁棒性评估装置，包括：样本和模型获取模块、扰动图像特征获取模块、特征分解模块、鲁棒神经元筛选模块、鲁棒路径构建模块、对抗鲁棒性评估模块、目标检测模块，其中：

样本和模型获取模块，用于获取评估图像样本集以及若干个待评估的目标检测模型；

扰动图像特征获取模块，用于将当前评估图像样本输入当前的目标检测模型中，并在中间层特征空间中加入扰动，得到扰动图像特征并传播至输出层；

特征分解模块，用于根据输出层的预测结果将扰动图像特征分解为鲁棒特征和非鲁棒特征；

鲁棒神经元筛选模块，用于从当前目标检测模型的最后一层开始，根据鲁棒特征从依次每一层中选择损失梯度满足预设条件的神经元作为鲁棒神经元；

鲁棒路径构建模块，用于连接相邻层的鲁棒神经元得到鲁棒路径，然后根据所有评估图像样本的鲁棒路径得到模型级鲁棒路径；

对抗鲁棒性评估模块，用于根据模型级鲁棒路径的覆盖率评估对应的目标检测模型的对抗鲁棒性；

目标检测模块，用于将对抗鲁棒性最佳的目标检测模型嵌入至智能化设备进行目标检测。

关于基于鲁棒路径的目标检测模型对抗鲁棒性评估装置的具体限定可以参见上文中对于基于鲁棒路径的目标检测模型对抗鲁棒性评估方法的限定，在此不再赘述。上述基于鲁棒路径的目标检测模型对抗鲁棒性评估装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。

在一个实施例中，提供了一种计算机设备，该计算机设备可以是终端，其内部结构图可以如图4所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、显示屏和输入装置。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种基于鲁棒路径的目标检测模型对抗鲁棒性评估方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏，该计算机设备的输入装置可以是显示屏上覆盖的触摸层，也可以是计算机设备外壳上设置的按键、轨迹球或触控板，还可以是外接的键盘、触控板或鼠标等。

本领域技术人员可以理解，图4中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。

在一个实施例中，提供了一种计算机设备，包括存储器和处理器，该存储器存储有计算机程序，该处理器执行计算机程序时实现上述实施例中方法的步骤。

在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例中方法的步骤。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。

以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。