一种数据处理方法、装置、电子设备以及存储介质

技术领域

本申请涉及人工智能技术领域，尤其涉及深度学习及自动驾驶技术，具体涉及一种数据处理方法、装置、电子设备以及存储介质。

背景技术

随着人工智能算法的逐步落地，算法研究称为当下热门。作为训练算法的燃料，数据质量对算法准确率起到至关重要的作用。然而，目前为保证产出数据的质量，主要采用人工对全部数据进行质检，效率低下，且人力成本高，亟需改进。

发明内容

本公开提供了一种数据处理方法、装置、电子设备以及存储介质。

根据本公开的一方面，提供了一种数据处理方法，该方法包括：

根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据；

对所述待审核数据进行质检。

根据本公开的另一方面，提供了一种数据处理装置，该装置包括：

数据选择模块，用于根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据；

质检模块，用于对所述待审核数据进行质检。

根据本公开的另一方面，提供了一种电子设备，该电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请任一实施例所述的数据处理方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本申请任一实施例所述的数据处理方法。

根据本申请的技术在保证数据质量的情况下，提高了数据质检效率，降低了人力成本，为对数据进行质检提供了一种新思路。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1是根据本申请实施例提供的一种数据处理方法的流程图；

图2是根据本申请实施例提供的另一种数据处理方法的流程图；

图3是根据本申请实施例提供的又一种数据处理方法的流程图；

图4是根据本申请实施例提供的又一种数据处理方法的流程图；

图5是根据本申请实施例提供的再一种数据处理方法的流程图；

图6是根据本申请实施例提供的再一种数据处理方法的流程图；

图7是根据本申请实施例提供的一种数据处理装置的结构示意图；

图8是用来实现本申请实施例的数据处理方法的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1是根据本申请实施例提供的一种数据处理方法的流程图。本申请实施例适用于如何对数据进行处理的情况，尤其适用于在需要进行数据标注的场景下，例如，障碍物识别场景、目标(如车辆)追踪场景、人体关键点(如人脸)识别场景、命名实体识别场景等，如何对已标注数据进行质检，以在保证数据质量的情况下，提高数据质检效率。该实施例可以由数据处理装置来执行，该装置可以采用软件和/或硬件来实现，并可集成于承载数据处理功能的电子设备中，如服务器设备中。如图1所示，该方法包括：

S101，根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据。

本实施例中，已标注数据集即为已标注数据的集合，由对待标注数据集进行标注得到；例如，对于车辆追踪场景，待标注数据集包括连续多帧图片，对每一帧图片按照标注需求进行标注，即可得到已标注数据集。可选的，不同标注场景下，数据类型可以不同。可选的，数据类型可以包括但不限于图片、语音、文本、视频以及网页等。

可选的，参与本次数据标注的人员在完成数据标注后，可以将已标注数据提交到设定的数据库中，进而在检测到本次数据标注任务已全部完成的情况下，可以先获取数据标注信息和标注人员信息等多维度信息，之后可以根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据。

其中，数据标注信息可以包括进行本次数据标注所采用的元素的相关信息，例如可以包括元素类型和元素数量等，元素类型可以包括但不限于点、线、框、以及区域等；数据标注信息还可以包括进行本次数据标注过程中的相关信息，例如可以包括时间段和标注时长等，其中，时间段例如可以是上午8：00-10：00，晚上10：00-12：00等。可选的，已标注数据集中每一已标注数据具有唯一的标识符，如编号；不同已标注数据的数据标注信息可以相同，也可以不同。进一步的，每一已标注数据的数据标注信息可以是在标注人员对该已标注数据关联的待标注数据进行标注过程中，实时动态记录，并在标注人员将该已标注数据提交到设定的数据库中后自动生成的。

标注人员信息为参与本次数据标注的人员的相关信息，可以包括但不限于姓名、身份标识(如身份证号，工作编号等)、从事标注时间、擅长标注领域、以及历史标注正确率等；可选的，可以从预先构建的标注人员信息库中获取参与本次数据标注的人员的相关信息，即标注人员信息。

可选的，本实施例可以结合数据标注信息和标注人员信息中的至少一维度数据，按照设定抽审比例，从已标注数据集中选择待审核数据。其中，待审核数据为从已标注数据集中选择的已标注数据，进一步的，相比于已标注数据集中其他已标注数据而言，待审核数据也可以称为风险数据，即标注存在错误概率相对较大的已标注数据。

例如，可以根据数据标注信息，按照设定抽审比例，从已标注数据集中选择待审核数据，如根据数据标注信息中的标注时长，按照设定抽审比例，从已标注数据集中选择待审核数据。具体的，可以按照设定抽审比例，从已标注数据集中选择标注时长大于设定时长上限值，和/或标注时长小于设定时长下限值的已标注数据，作为待审核数据。

或者，可以根据标注人员信息，按照设定抽审比例，从已标注数据集中选择待审核数据；或者，还可以根据数据标注信息和标注人员信息，按照设定抽审比例，从已标注数据集中选择待审核数据。具体的可实现方式将后续实施例中进行详细说明。

S102，对待审核数据进行质检。

具体的，在得到待审核数据之后，可以对待审核数据进行质检。可选的，可以根据用户的标注需求，确定待审核方式；之后采用待审核方式，对待审核数据进行质检。例如，若用户的标注需求偏主观，则待审核方式可以为多人拟合答题方式；具体的，可以同时让预设数值个质检人员对待审核数据关联的待标注数据进行标注，得到预设数值个拟合标注数据；可以采用设定策略，例如少数服从多数、历史标注正确率高的人员优先级大于历史标注正确率低的人员的优先级的策略，根据预设数值个拟合标注数据，得到最终的拟合结果；将拟合结果与待审核数据进行比对，若一致，则确定待审核数据的质检结果为通过，否则质检结果为不通过。

若用户的标注需求偏客观，则待审核方式可以为算法质检，比如OCR(OpticalCharacter Recognition，光学字符识别)算法质检。具体的，可以调用已有的OCR算法自动对待审核数据进行质检，进一步的，为了保证质检质量，对于采用算法质检得到的质检结果置信度较低的可以再由质检人员进行二次质检。

需要说明的是，为保证算法的精度，作为训练算法所需的数据，已标注数据集的数据量一般比较大，现有采用人工对全部已标注数据进行质检的方式，人力成本高且效率低下。而且目前已有的随机从全部标注数据中抽取部分已标注数据进行质检方式，具有随机性，无法保证数据质量。而本申请通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择待审核数据进行质检，即对已标注数据集中的风险数据进行质检，在保证数据质量的情况下，提高了数据质检效率，降低了人力成本。

本申请实施例的技术方案，通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择待审核数据进行质检。相比于现有数据质检方式，本申请在保证数据质量的情况下，提高了数据质检效率，降低了人力成本，为对数据进行质检提供了一种新思路。

为了保证数据质量，作为本发明实施例的一种可选方式，根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据之前，还可以包括：对待标注数据集进行清洗处理，对清洗后的待标注数据集进行标注，得到已标注数据集。

本实施例中，待标注数据集可以是用户提供的待标注数据的集合，还可以是根据用户提供的标注任务所采集的待标注数据的集合。

可选的，对于不同的标注素材类型，可以采用不同的清洗方式。例如，对于语音类标注素材，可以通过判断是否有严重噪声和/或时长是否满足需求等，来对待标注数据集进行清洗；对于图片类标注素材，可以通过判断图片是否清晰和/或是否存在畸变等，来对待标注数据集进行清洗；对于文本类标注素材，可以通过判断是否存在重复现象等，来对待标注数据进行清洗。

在对待标注数据集进行清洗后，可以将清洗后的待标注数据集发给标注人员(即参与本次标注数据的人员)，以便对清洗后的待标注数据集进行标注，进而得到已标注数据集。

需要说明的是，本实施例在需要对已标注数据进行质检的场景下，通过增加对待标注数据集进行清洗操作，可以提前预警危险(或者说低质量)数据并进行补采，为保证数据质量奠定了基础，同时提升了数据交付效率。

图2是根据本申请实施例提供的另一种数据处理方法的流程图。本申请实施例在上述实施例的基础上，在参与本次数据标注的人员数量为多个的情况下，提供了一种根据标注人员信息，从已标注数据集中选择待审核数据的方式。如图2所示，该方法包括：

S201，根据标注人员信息中的从事标注时间和/或历史标注正确率，从候选标注人员中选择待审核人员。

本实施例中，候选标注人员即为参与本次数据标注的人员。可选的，候选标注人员的数量为至少两个。其中，每一候选标注人员信息中的从事标注时间可以为该候选标注人员从事数据标注工作的时间，进一步的，为更精准的从已标注数据中选出待审核数据，从事标注时间可以具体限定为该候选标注人员从事与本次标注数据的数据类型相同的数据标注工作的时间。可选的，对于每一候选标注人员而言，可以通过统计该候选标注人员的历史标注数据质检情况，得到该候选标注人员的历史标注正确率。与从事标注时间类似，历史标注正确率也可以具体限定为该候选标注人员历史标注与本次标注数据的数据类型相同的数据的正确率。

待审核人员即为从候选标注人员中选择的需重点关注的标注人员，也就是说，相比于候选标注人员中的其他人员，待审核人员标注的数据存在错误风险的概率较大。可选的，待审核人员数量可以为一个或多个；为了保证后续所抽审的待审核数据数量的合理性，进一步的，待审核人员数量由设定抽审比例、各候选标注人员本次标注数据的数量、以及各候选标注人员信息等确定。

可选的，可以根据从事标注时间，对候选标注人员进行排序(例如升序排列)，之后可以根据排序结果，从候选标注人员中选择待审核人员(例如，可以将排序在前的一个或多个候选标注人员作为待审核人员)；为了保证后续所抽审的待审核数据的数量合理，进一步的，可以根据排序结果、设定抽审比例和各候选标注人员本次标注数据的数量等，从候选标注人员中选择待审核人员。

或者，可以将历史标注正确率小于设定正确率值的候选标注人员，作为待审核人员；还可以根据历史标注正确率，对候选标注人员进行升序排列，之后可以将排列在前的一个或多个候选标注人员，作为待审核人员；为了保证后续所抽审的待审核数据的数量合理，进一步的，可以根据排序结果、设定抽审比例和各候选标注人员本次标注数据的数量等，从候选标注人员中选择待审核人员。

或者，可以将从事标注时间低于设定时间值，且历史标注正确率低于设定正确率值的候选标注人员，作为待审核人员。还可以根据从事标注时间和历史标注正确率两个维度数据，对候选标注人员进行排序，之后可以根据排序结果、设定抽审比例和各候选标注人员本次标注数据的数量等，从候选标注人员中选择待审核人员。

或者，还可以先根据擅长标注领域，从候选标注人员中选择第一待审核人员。例如，可以将擅长标注领域，与本次标注数据所属领域不同的候选标注人员，作为第一待审核人员；之后可以根据从事标注时间和/或历史标注正确率，从剩余候选标注人员中选择第二待审核人员。

S202，从已标注数据集中选择待审核人员标注的数据，作为待审核数据。

可选的，可以将已标注数据集中待审核人员标注的部分或全部数据，作为待审核数据；进一步的，可以按照设定抽审比例，从已标注数据集中选择待审核人员标注的数据，作为待审核数据。

需要说明的是，本实施例通过引入从事标注时间和历史标注正确率等数据，从候选标注人员中定位需重点关注人员即待审核人员，进而以待审核人员为桥梁，可以从已标注数据集中定位风险数据即待审核数据，为从已标注数据集中选择待审核数据提供了一种思路。

S203，对待审核数据进行质检。

本申请实施例的技术方案，通过引入从事标注时间和历史标注正确率，从候选标注人员中定位需重点关注人员即待审核人员，进而以待审核人员为桥梁，可以从已标注数据集中选择待审核数据，为从已标注数据集中选择待审核数据提供了一种思路；同时，通过对待审核数据进行质检，在保证数据质量的情况下，提高了数据质检效率，降低了人力成本。

图3是根据本申请实施例提供的又一种数据处理方法的流程图。本申请实施例在上述实施例的基础上，提供了一种根据数据标注信息，从已标注数据集中选择待审核数据的方式。如图3所示，该方法包括：

S301，根据数据标注信息中的时间段和/或元素数量，从已标注数据集中选择待审核数据。

本实施例中，对于每一已标注数据，时间段为对该已标注数据关联的待标注数据进行标注时所处的时间段，例如上午8：00-10：00；元素数量为该已标注数据中元素的数量，或者可以说，得到该已标注数据所采用的元素的数量，例如，障碍物识别场景下，可以采用框来标注某一帧图片中的障碍物，则带标注的帧图片(即已标注数据)中元素的数量为框的数量。

可选的，可以根据时间段，从已标注数据集中选择待审核数据。例如，可以根据时间段，对已标注数据进行排序；之后，按照设定抽审比例，根据排序结果，从已标注数据集中选择待审核数据。例如，可以从已标注数据集中选择时间段为设定时间段(例如晚上10:00-12:00，凌晨0:00-5:00)的已标注数据作为待审核数据。

或者，可以根据元素数量，从已标注数据集中选择待审核数据。例如，确定已标注数据集中元素均值，按照设定抽审比例，从已标注数据集中选择元素数量大于元素均值的已标注数据，作为待审核数据。

或者，还可以根据时间段和元素数量，从已标注数据集中选择待审核数据。例如，可以根据时间段和元素数量两个维度数据，对已标注数据进行排序，之后，可以根据排序结果和设定抽审比例，从已标注数据集中选择待审核数据。具体的，可以从已标注数据集中选择时间段为设定时间段，且元素数量大于元素均值的已标注数据，作为待审核数据。

或者，还可以根据标注时长、标注时间段和元素数量等，从已标注数据集中选择待审核数据。

或者，还可以结合标注人员信息和数据标注信息，从已标注数据集中选择待审核数据。例如，可以根据标注人员信息中的历史标注正确率，以及数据标注信息中的标注时长、标注时间段和元素数量等，从已标注数据集中选择待审核数据。

S302，对待审核数据进行质检。

本申请实施例的技术方案，通过根据时间段和元素数量，从已标注数据集中选择待审核数据，为从已标注数据集中选择待审核数据提供了一种思路；同时，通过对待审核数据进行质检，在保证数据质量的情况下，提高了数据质检效率，降低了人力成本。

图4是根据本申请实施例提供的又一种数据处理方法的流程图。本申请实施例在上述实施例的基础上，又提供了一种从已标注数据集中选择待审核数据的方式。如图4所示，该方法包括：

S401，根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择第一待审核数据。

具体的，可以按照第一设定抽审比例，根据数据标注信息和标注人员信息和标注过程信息中的至少一项，从已标注数据集中选择部分已标注数据，作为第一待审核数据。

S402，根据用户的数据关注度，从已标注数据集中选择第二待审核数据。

本实施例中，用户为提供本次标注任务的一方，或者可以说具有本次数据标注需求的一方；用户的数据关注度也可以称为用户的数据偏好，能够反映用户对数据的关注程度；进一步的，用户的数据关注度可以根据用户的标注需求确定。例如，用户的标注需求中指出编号200-300的图片易出现标注错误，进而可确定用户对编号200-300的图片的关注度大于其他图片。

可选的，可以按照第二设定抽审比例，根据用户的数据关注度，从已标注数据集中选择第二待审核数据。其中，第一设定抽审比例和第二设定抽审比例可以相同，也可以不同(例如，第一设定抽审比例大于第二设定抽审比例)；第二待审核数据与第一待审核数据不同，第二待审核数据可以是已标注数据集中除第一待审核数据之外的部分已标注数据，第二待审核数据可以是第一待审核数据的必要补充。

具体的，可以按照第二设定抽审比例，将已标注数据集中数据关注度大的已标注数据，作为第二待审核数据。

需要说明的是，通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择第一待审核数据；并在此基础上基于引入的用户的数据关注度，从已标注数据集中选择不同于第一待审核数据的第二待审核数据，增加了方案的灵活度，为从已标注数据集中选择待审核数据提供了一种思路。

S403，对第一待审核数据和第二待审核数据进行质检。

本申请实施例的技术方案，通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择第一待审核数据；并在此基础上基于引入的用户的数据关注度，从已标注数据集中选择不同于第一待审核数据的第二待审核数据，对第一待审核数据和第二待审核数据进行质检，在保证数据质量的情况下，提高了数据质检效率，降低了人力成本。

图5是根据本申请实施例提供的再一种数据处理方法的流程图。本申请实施例在上述实施例的基础上，增加了得到已标注数据集的过程。如图5所示，该方法包括：

S501，根据标注素材类型和标注场景，确定待标注数据集的标注规则。

为了保证数据质量，可以在标注阶段引入自动质检策略。作为本发明实施例的一种可选方式，在标注阶段，可以根据标注素材类型和标注场景，确定待标注数据集的标注规则。本实施例中，标注素材类型可以包括但不限于语音、图片和文本等；标注场景可以包括障碍物识别场景、目标(如车辆)追踪场景、人体关键点(如人脸)识别场景、命名实体识别场景。可选的，标注场景中还可以包括标注需求，标注需求可以是用户设定的对待标注数据集进行标注所需遵照的要求，例如标注什么内容、采用什么类型元素进行标注、标注元素的尺寸、以及标注元素的属性等。

可选的，不同的标注素材类型可具有不同的标注规则；进一步的，相同标注素材类型，在不同的标注场景下，可具有不同的标注规则。此外，相同标注场景下，不同标注需求，也可具有不同标注规则。

具体的，可以根据标注场景(具体根据标注场景中的标注需求)确定本次标注任务是否是个性化标注任务，若否，则可以根据标注素材类型和标注场景，从通用规则库中获取该标注素材类型中该标注场景下所通用的标注规则，作为待标注数据集的标注规则；若是，则可以根据标注场景和标注素材类型，为本次标注任务定制标注规则，并可以将所定制的标注规则与本次标注任务关联，添加至定制规则库中。其中，通用规则库中可以包括各标注素材类型下各标注场景的通用标注规则。对应的，定制规则库中可以包括不同用户的定制类标注规则。

S502，在对待标注数据集进行标注过程中，根据标注规则，对已标注的数据进行质检，得到已标注数据集。

进一步的，在确定待标注数据集的标注规则之后，在标注人员对待标注数据集进行标注过程中，可以根据标注规则，实时自动对标注人员已标注的数据进行质检。例如，在连续多帧图像场景下，若标注规则为通用标注规则，则可以根据前一帧已标注的数据中物体类型，对当前帧已标注的数据进行质检。

具体的，对于车辆追踪场景，通用标注规则中可以包括对于连续多帧图像的标注，要求相同编号的物体类型(如车类型)需要保持一致。进而在检测到标注人员将当前帧图像中与上一帧图像中相同类型的车标注了不同的编号，可以提醒标注人员此处标注错误，且建议标注为什么等。

又如，在连续多帧图像场景下，若标注规则为定制标注规则，则可以根据当前帧已标注的数据中物体在历史帧已标注的数据中的变化情况，对当前帧已标注的数据进行质检。

具体的，对于车辆追踪场景，定制标注规则中可以包括对于连续多帧图像的标注，要求某一车辆消失数帧(如5帧)则视为新的物体，不能与原有编号一致。进而，标注人员在第1至5帧图像中对于某一车添加了编号为15的标注，第6至10帧图像中该车消失，如果在检测到标注人员在当前帧图像(即第11帧图像)中添加了编号为15的标注，则可以提醒标注人员此处标注错误，且建议标注为什么等。

为进一步保证数据质量，在标注阶段进行自动质检还可以包括：在标注人员完成标注任务，进行提交时，可以基于标注规则，自动对标注人员完成的标注数据进行二次质检。进一步的，通过二次质检的数据即为已标注数据，之后可以对已标注数据执行S503和S504操作。

需要说明的是，本实施例在标注阶段引入自动质检过程，极大了提升了数据质量。

S503，根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据。

S504，对待审核数据进行质检。

本申请实施例的技术方案，在标注阶段引入自动质检过程，极大了提升了数据质量；之后通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择待审核数据进行质检。相比于现有数据质检方式，本申请在保证数据质量的情况下，提高了数据质检效率，降低了人力成本，为对数据进行质检提供了一种新思路。

图6是根据本申请实施例提供的再一种数据处理方法的流程图。本申请实施例在上述实施例的基础上，提供了一种优选实例。如图6所示，该方法包括：

S601，对待标注数据集进行清洗处理。

S602，根据标注素材类型和标注场景，确定清洗后的待标注数据集的标注规则。

S603，在对待标注数据集进行标注过程中，根据标注规则，对已标注的数据进行质检，得到已标注数据集。

S604，根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据。

S605，对待审核数据进行质检。

需要说明的是，本实施例中，从数据自动清洗、数据标注阶段、选择待审核数据到最终质检整个过程实质是一套完整的数据标注全流程自动质检过程。进一步的，整个过程中涉及三次质检，首先数据自动清洗实质也是一种质检手段；其次在数据标注阶段基于标注规则进行自动质检，极大了提升了数据质量；最后在质检阶段，可以结合人工质检方式和自动质检方式，对所抽取的待审核数据进行质检。通过三个阶段的质检，能够保证最终产出的数据质量，为获取高质量数据提供了一种全流程自动质检方式。

本申请实施例的技术方案，在需要对已标注数据进行质检的场景下，通过增加对待标注数据集进行清洗操作，可以提前预警危险(或者说低质量)数据并进行补采，为保证数据质量奠定了基础，同时提升了数据交付效率；并在标注阶段引入自动质检过程，极大了提升了数据质量；之后通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择待审核数据进行质检。相比于现有数据质检方式，本申请在保证数据质量的情况下，提高了数据质检效率，降低了人力成本，为对数据进行质检提供了一种新思路。

图7是根据本申请实施例提供的一种数据处理装置的结构示意图。本申请实施例适用于如何对数据进行处理的情况，尤其适用于在需要进行数据标注的场景下，例如，障碍物识别场景、目标(如车辆)追踪场景、人体关键点(如人脸)识别场景、命名实体识别场景等，如何对已标注数据进行质检，以在保证数据质量的情况下，提高数据质检效率。该装置可实现本申请任意实施例所述的数据处理方法。该装置可集成于承载数据处理功能的电子设备中。该数据处理装置700具体包括：

数据选择模块701，用于根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择待审核数据；

质检模块702，用于对待审核数据进行质检。

本申请实施例的技术方案，通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择待审核数据进行质检。相比于现有数据质检方式，本申请在保证数据质量的情况下，提高了数据质检效率，降低了人力成本，为对数据进行质检提供了一种新思路。

示例性的，数据选择模块701包括：

人员选择单元，用于根据标注人员信息中的从事标注时间和/或历史标注正确率，从候选标注人员中选择待审核人员；

第一数据选择单元，用于从已标注数据集中选择待审核人员标注的数据，作为待审核数据。

示例性的，数据选择模块701还包括：

第二数据选择单元，用于根据数据标注信息中的时间段和/或元素数量，从已标注数据集中选择待审核数据。

示例性的，数据选择模块701还包括：

第三数据选择单元，用于根据数据标注信息和标注人员信息中的至少一项，从已标注数据集中选择第一待审核数据；

第四数据选择单元，用于根据用户的数据关注度，从已标注数据集中选择第二待审核数据；其中，第二待审核数据与第一待审核数据不同。

示例性的，上述装置还包括：

清洗模块，用于对待标注数据集进行清洗处理；

标注模块，用于对清洗后的待标注数据集进行标注，得到已标注数据集。

示例性的，上述装置还包括：

标注规则确定模块，用于根据标注素材类型和标注场景，确定的待标注数据集的标注规则；

质检模块702，还用于在对待标注数据集进行标注过程中，根据标注规则，对已标注的数据进行质检。

示例性的，质检模块702具体用于：

根据前一帧已标注的数据中物体类型，对当前帧已标注的数据进行质检；和/或，

根据当前帧已标注的数据中物体在历史帧已标注的数据中的变化情况，对当前帧已标注的数据进行质检。

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图8所示，是根据本申请实施例的数据处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图8所示，该电子设备包括：一个或多个处理器801、存储器802，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图8中以一个处理器801为例。

存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的数据处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的数据处理方法。

存储器802作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的数据处理方法对应的程序指令/模块(例如，附图7所示的数据选择模块701和质检模块702)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的数据处理方法。

存储器802可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据数据处理方法的电子设备的使用所创建的数据等。此外，存储器802可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器802可选包括相对于处理器801远程设置的存储器，这些远程存储器可以通过网络连接至数据处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

数据处理方法的电子设备还可以包括：输入装置803和输出装置804。处理器801、存储器802、输入装置803和输出装置804可以通过总线或者其他方式连接，图8中以通过总线连接为例。

输入装置803可接收输入的数字或字符信息，以及产生与数据处理方法的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

根据本申请实施例的技术方案，通过结合数据标注信息和标注人员信息等多维度数据进行综合分析，从已标注数据集中选择待审核数据进行质检。相比于现有数据质检方式，本申请在保证数据质量的情况下，提高了数据质检效率，降低了人力成本，为对数据进行质检提供了一种新思路。

本申请可以应用于人工智能技术领域，人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术知识图谱技术等几大方向。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。