一种数据处理方法、装置、设备及介质
文献发布时间:2024-04-18 19:58:26
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据处理方法、装置、设备及介质。
背景技术
在车辆的行驶过程中,车辆上设置的车载远程信息处理器可以采集与车辆行驶状态相关的数据,并基于无线通信技术将采集到的各个数据集合分别发送至服务器。车载远程信息处理器发送至服务器的数据集合中的数据即为车辆的车联网数据。服务器用于管理车辆。服务器可以根据车载远程信息处理器发送的数据集合中的数据,确定车辆的真实状态,为车辆的驾驶者提供准确的驾驶建议。
车载远程信息处理器发送的数据较多,异常数据的产生难以避免。在接收到车载远程信息处理器发送的指定数据集合之后,需要对数据集合中的数据进行处理,校正指定数据集合中的异常数据。相关技术中,常用的数据处理方法方案为:根据人工经验对数据集合中的数据进行处理,检测数据集合中是否存在异常数据,并在检测到数据集合中存在异常数据之后,对数据集合中的异常数据进行校正。相关技术中的数据处理方案依赖于人工经验,数据处理过程的准确性和可靠性较低,无法准确地检测数据集合中是否存在异常数据,对数据集合中的异常数据进行校正。
发明内容
本发明提供了一种数据处理方法、装置、设备及介质,以解决相关技术中的数据处理方案依赖于人工经验,数据处理过程的准确性和可靠性较低,无法准确地检测数据集合中是否存在异常数据,对数据集合中的异常数据进行校正的问题。
根据本发明的一方面,提供了一种数据处理方法,包括:
获取与车辆对应的当前待处理数据集合;
通过预设聚类算法对所述当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测所述当前待处理数据集合中的各个数据是否是异常数据;
在检测到所述当前待处理数据集合中的目标数据是异常数据之后,根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正;
将校正处理后的当前待处理数据集合存储至预设存储位置。
根据本发明的另一方面,提供了一种数据处理装置,包括:
数据集合获取模块,用于获取与车辆对应的当前待处理数据集合;
数据检测模块,用于通过预设聚类算法对所述当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测所述当前待处理数据集合中的各个数据是否是异常数据;
数据校正模块,用于在检测到所述当前待处理数据集合中的目标数据是异常数据之后,根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正;
数据集合存储模块,用于将校正处理后的当前待处理数据集合存储至预设存储位置。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;
以及与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的数据处理方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的数据处理方法。
本发明实施例的技术方案,通过获取与车辆对应的当前待处理数据集合;然后通过预设聚类算法对当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测当前待处理数据集合中的各个数据是否是异常数据;在检测到当前待处理数据集合中的目标数据是异常数据之后,根据目标数据的数据采集时间从当前待处理数据集合中获取与目标数据对应的关联数据,根据关联数据对所述目标数据进行校正;将校正处理后的当前待处理数据集合存储至预设存储位置,解决了相关技术中的数据处理方案依赖于人工经验,数据处理过程的准确性和可靠性较低,无法准确地检测数据集合中是否存在异常数据,对数据集合中的异常数据进行校正的问题,可以自动根据数据集合中的数据的聚类结果,准确地检测数据集合中的各个数据是否是异常数据,可以自动根据数据集合中的异常数据的数据采集时间,确定与异常数据对应的关联数据,然后基于与异常数据对应的关联数据,准确地对数据集合中的异常数据进行校正,提高数据处理过程的准确性和可靠性,便于后续基于校正处理后的数据集合中的数据,准确地确定车辆的真实状态,为车辆的驾驶者提供准确的驾驶建议的有益效果。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例一提供的一种数据处理方法的流程图。
图2为本发明实施例二提供的一种数据处理方法的流程图。
图3为本发明实施例三提供的一种数据处理装置的结构示意图。
图4为实现本发明实施例的数据处理方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“目标”、“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包含”、“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例一提供的一种数据处理方法的流程图。本实施例可适用于在接收到车辆的车载远程信息处理器发送的数据集合之后,对数据集合中的数据进行处理,校正数据集合中的异常数据的情况。该方法可以由数据处理装置来执行。该数据处理装置可以采用硬件和/或软件的形式实现。该数据处理装置可配置于电子设备中。电子设备可以是用于管理车辆的服务器。如图1所示,该方法包括:
步骤101、获取与车辆对应的当前待处理数据集合。
可选的,在车辆的行驶过程中,车辆上设置的车载远程信息处理器采集与车辆行驶状态相关的数据,并基于无线通信技术将采集到的各个数据集合分别发送至电子设备。车载远程信息处理器发送至电子设备的数据集合中的数据即为车辆的车联网数据。车载远程信息处理器发送至电子设备的每一个数据集合包含车载远程信息处理器在预设时长内定时采集的指定类型的数据。指定类型的数据与车辆行驶状态相关,可以是车辆的速度、加速度或与车辆行驶状态相关的其他类型的数据。示例性的,某一个数据集合包含车载远程信息处理器在预设时长内定时采集的车辆的速度。预设时长是车载远程信息处理器中的一个预先设置的时长。预设时长可以根据业务需求进行设置,本发明实施例不做具体限制。
可选的,电子设备在接收到车载远程信息处理器发送的各个数据集合之后,需要对各个数据集合中的数据进行处理,校正各个数据集合中的异常数据。数据集合中的异常数据可以是指数据集合中的数值与其他数据的数值存在较大差异的数据。与车辆对应的当前待处理数据集合是电子设备需要在当前时刻进行处理的数据集合。
可选的,获取与车辆对应的当前待处理数据集合,包括:按照预设时间间隔,定时从数据集合队列中获取与车辆对应的当前待处理数据集合。
可选的,数据集合队列是电子设备中设置的用于存储电子设备在接收之后还没有处理的各个数据集合的队列。电子设备在接收到车载远程信息处理器发送的各个数据集合之后,将接收到的各个数据集合存储至数据集合队列中。预设时间间隔是电子设备中的一个预先设置的时间间隔。电子设备每隔预设时间间隔,执行一次从数据集合队列中获取与车辆对应的当前待处理数据集合的操作。预设时间间隔可以根据业务需求进行设置,本发明实施例不做具体限制。
可选的,从数据集合队列中获取与车辆对应的当前待处理数据集合,包括:获取数据集合队列中的各个数据集合中的接收时间最早的数据集合;将接收时间最早的数据集合确定为与车辆对应的当前待处理数据集合。数据集合的接收时间是电子设备接收到数据集合的时间。电子设备中存储有各个数据集合的接收时间。电子设备根据数据集合队列中的各个数据集合的接收时间,可以确定数据集合队列中的各个数据集合中的接收时间最早的数据集合,获取数据集合队列中的各个数据集合中的接收时间最早的数据集合,然后将数据集合队列中的各个数据集合中的接收时间最早的数据集合确定为与车辆对应的当前待处理数据集合。
步骤102、通过预设聚类算法对所述当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测所述当前待处理数据集合中的各个数据是否是异常数据。
可选的,预设聚类算法是电子设备中预先设置的用于对当前待处理数据集合中的各个数据进行聚类的聚类算法。预设聚类算法包括但不限于具有噪声的基于密度的聚类算法(Density-Based Spatial Clustering of Applications with Noise,DBSCAN)。
可选的,通过预设聚类算法对所述当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测所述当前待处理数据集合中的各个数据是否是异常数据,包括:通过具有噪声的基于密度的聚类算法对所述当前待处理数据集合中的各个数据进行聚类,得到与所述当前待处理数据集合对应的聚类簇和噪声点;根据所述噪声点,检测所述当前待处理数据集合中的各个数据是否是异常数据。
可选的,具有噪声的基于密度的聚类算法的参数包括扫描半径和最小包含点数。具有噪声的基于密度的聚类算法的参数可以是预先设置的,还可以是根据当前待处理数据集合的数据特征确定的。
可选的,通过具有噪声的基于密度的聚类算法对所述当前待处理数据集合中的各个数据进行聚类,得到与所述当前待处理数据集合对应的聚类簇和噪声点,包括:从当前待处理数据集合中的各个数据中选择一个未访问的数据,在当前待处理数据集合中找出与所述数据距离在扫描半径之内的所有其他数据;如果与所述数据距离在扫描半径之内的所有其他数据的数量大于最小包含点数,则形成一个包含所述数据和与所述数据距离在扫描半径之内的所有其他数据的聚类簇,并将所述数据标记为己访问;如果与所述数据距离在扫描半径之内的所有其他数据的数量小于最小包含点数,则将所述数据标记为噪声点,并将所述数据标记为己访问;如果与所述数据距离在扫描半径之内的所有其他数据的数量等于最小包含点数,则将所述数据标记为边界点,并将所述数据标记为己访问;通过上述方法处理当前待处理数据集合中的所有未被标记为己访问的数据,获得与所述当前待处理数据集合对应的聚类簇和噪声点。
可选的,未访问的数据是没有被标记为己访问的数据。初始状态下,当前待处理数据集合中的各个数据都没有被标记为己访问。与所述当前待处理数据集合对应的聚类簇是所有形成的各个聚类簇。与所述当前待处理数据集合对应的噪声点是所述当前待处理数据集合中的所有被标记为噪声点的数据。
可选的,根据所述噪声点,检测所述当前待处理数据集合中的各个数据是否是异常数据,包括:针对所述当前待处理数据集合中的每一个数据执行下述操作:判断所述噪声点中是否存在与数据相同的数据;若所述噪声点中存在与所述数据相同的数据,则确定所述数据是异常数据;若所述噪声点中不存在与所述数据相同的数据,则确定所述数据不是异常数据。
可选的,与数据集合对应的噪声点是数据集合中的所有被标记为噪声点的数据。数据集合中的异常数据是指数据集合中的数值与其他数据的数值存在较大差异的数据。通常情况下,通过具有噪声的基于密度的聚类算法对数据集合中的各个数据进行聚类之后,数据集合中的数值与其他数据的数值存在较大差异的数据会被标记为噪声点,即数据集合中的异常数据会被标记为噪声点。因此,若当前待处理数据集合中的被标记为噪声点的数据是当前待处理数据集合中的异常数据。
可选的,针对当前待处理数据集合中的每一个数据,判断与当前待处理数据集合对应的噪声点中是否存在与数据相同的数据。若所述噪声点中存在与所述数据相同的数据,表明数据是当前待处理数据集合中的被标记为噪声点的数据,数据的数值与当前待处理数据集合中的其他数据的数值存在较大差异,数据是当前待处理数据集合中的异常数据,可以确定所述数据是异常数据。若所述噪声点中不存在与所述数据相同的数据,表明数据不是当前待处理数据集合中的被标记为噪声点的数据,数据的数值与当前待处理数据集合中的其他数据的数值不存在较大差异,数据不是当前待处理数据集合中的异常数据,可以确定所述数据不是异常数据。
可选的,具有噪声的基于密度的聚类算法的参数是根据当前待处理数据集合的数据特征确定的。具体的,最小包含点数=2×当前待处理数据集合的数据维度-1。当前待处理数据集合的数据维度是影响当前待处理数据集合中的数据变化的数据维度。当前待处理数据集合的数据维度可以是车载远程信息处理器发送至电子设备的。当前待处理数据集合中的各个数据是按照数据采集时间的先后顺序排序的。数据的数据采集时间是车载远程信息处理器采集数据的时间。在确定最小包含点数之后,确定当前待处理数据集合中的排序序号等于最小包含点数的数据。分别计算每个其他数据与排序序号等于最小包含点数的数据之间的距离。数据之间的距离可以是数据之间的欧式距离。每个其他数据是当前待处理数据集合中的除排序序号等于最小包含点数的数据之外的各个数据。按照数值从小到大对各个距离进行排序,将排序序号与距离总数量的比值等于0.95的距离确定为扫描半径。若不存在排序序号与距离总数量的比值等于0.95的距离,则将排序序号与距离总数量的比值最接近0.95的距离确定为扫描半径。距离总数量是计算得到的距离的总数量。示例性的,当前待处理数据集合的数据维度为2。根据当前待处理数据集合的数据维度,确定最小包含点数为3。分别计算每个其他数据与排序序号等于3的数据之间的距离。按照数值从小到大对各个距离进行排序,将排序序号与距离总数量的比值等于0.95的距离确定为扫描半径。若不存在排序序号与距离总数量的比值等于0.95的距离,则将排序序号与距离总数量的比值最接近0.95的距离确定为扫描半径。
步骤103、在检测到所述当前待处理数据集合中的目标数据是异常数据之后,根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正。
可选的,目标数据是所述当前待处理数据集合中的任意一个被确定为异常数据的数据。在检测到所述当前待处理数据集合中的目标数据是异常数据之后,根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正。由此,针对所述当前待处理数据集合中的每一个被确定为异常数据的数据进行校正。
可选的,当前待处理数据集合中的各个数据是按照数据采集时间的先后顺序排序的。数据的数据采集时间是车载远程信息处理器采集数据的时间。目标数据的数据采集时间是车载远程信息处理器采集目标数据的时间。车载远程信息处理器在将当前待处理数据集合发送至电子设备的同时,将当前待处理数据集合中的各个数据的数据采集时间也发送至电子设备。
可选的,与所述目标数据对应的关联数据包括在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据;根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正,包括:根据所述当前待处理数据集合中的各个数据的数据采集时间,检测所述当前待处理数据集合中是否包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据;如果所述当前待处理数据集合中包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,则确定所述目标数据的异常原因是数据错误,根据所述第一数据和所述第二数据对所述目标数据进行校正。
可选的,当前待处理数据集合包含车载远程信息处理器按照目标时间间隔在预设时长内定时采集的指定类型的数据。目标时间间隔是车载远程信息处理器中的一个预先设置的时间间隔。在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据是数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据。在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据是数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据。目标数据的数据采集时间的前一个数据采集时间是与目标数据的数据采集时间之间的时间差等于目标时间间隔,且早于目标数据的数据采集时间的时间。目标数据的数据采集时间的后一个数据采集时间是与目标数据的数据采集时间之间的时间差等于目标时间间隔,且晚于目标数据的数据采集时间的时间。
可选的,通常情况下,如果当前待处理数据集合中没有缺失数据,当前待处理数据集合应该包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和/或在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据。
可选的,根据所述当前待处理数据集合中的各个数据的数据采集时间,检测所述当前待处理数据集合中是否包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,包括:根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据;若查询到数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据,则根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据;若查询到数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据,则确定所述当前待处理数据集合中包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,并从所述当前待处理数据集合中获取所述第一数据和所述第二数据。
可选的,数据的异常原因是导致数据的数值与其他数据的数值存在较大差异的原因。数据的异常原因为数据错误或数据缺失。数据的异常原因为数据错误,表明是因为数据本身是错误的数据,所以导致数据的数值与其他数据的数值存在较大差异。数据的异常原因为数据缺失,表明是因为数据集合中缺失在数据的数据采集时间前后采集的数据,所以导致数据的数值与其他数据的数值存在较大差异。
可选的,通常情况下,如果是因为数据本身是错误的数据,所以导致数据的数值与其他数据的数值存在较大差异,数据集合会包含在数据的数据采集时间的前一个数据采集时间采集的第一数据和/或在数据的数据采集时间的后一个数据采集时间采集的第二数据。如果是因为数据集合中缺失在数据的数据采集时间前后采集的数据,所以导致数据的数值与其他数据的数值存在较大差异,数据集合会不包含在数据的数据采集时间的前一个数据采集时间采集的第一数据和在数据的数据采集时间的后一个数据采集时间采集的第二数据。因此,针对数据集合中的异常数据,如果检测到数据集合包含在数据的数据采集时间的前一个数据采集时间采集的第一数据和/或在数据的数据采集时间的后一个数据采集时间采集的第二数据,则可以确定数据的异常原因为数据错误;如果检测到数据集合不包含在数据的数据采集时间的前一个数据采集时间采集的第一数据和在数据的数据采集时间的后一个数据采集时间采集的第二数据,则可以确定数据的异常原因为数据缺失。
可选的,如果所述当前待处理数据集合中包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,则确定所述目标数据的异常原因是数据错误,根据所述第一数据和所述第二数据对所述目标数据进行校正。
可选的,根据所述第一数据和所述第二数据对所述目标数据进行校正,包括:计算所述第一数据和所述第二数据的平均值;将所述当前待处理数据集合中的所述目标数据替换为所述平均值。
可选的,所述第一数据和所述第二数据是在目标数据的数据采集时间前后采集的数据。通常情况下,所述第一数据和所述第二数据的平均值与在目标数据的数据采集时间真实采集的正确数据是非常接近的。因此,所述第一数据和所述第二数据的平均值可以被视为在目标数据的数据采集时间采集的正确数据。计算所述第一数据和所述第二数据的平均值,然后将所述当前待处理数据集合中的所述目标数据替换为所述平均值,从而对因为数据本身是错误的数据,所以导致数据的数值与其他数据的数值存在较大差异的所述目标数据进行校正,将当前待处理数据集合中的本身是错误的目标数据校正为正确数据。
可选的,在根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据之后,还包括:若没有查询到数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据,则根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据;若没有查询到数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据,则确定所述当前待处理数据集合中没有包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据。
可选的,在根据所述当前待处理数据集合中的各个数据的数据采集时间,检测所述当前待处理数据集合中是否包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据之后,还包括:如果所述当前待处理数据集合中没有包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,则确定所述目标数据的异常原因是数据缺失,对所述当前待处理数据集合中的各个数据的数据采集时间和所述当前待处理数据集合中的各个数据进行多项式拟合,得到反映数据采集时间与数据之间的函数关系的多项式;根据所述多项式,确定与所述目标数据的数据采集时间的前一个数据采集时间对应的第一预测数据和与所述目标数据的数据采集时间的前一个数据采集时间对应的第二预测数据;将所述第一预测数据和所述第二预测数据添加至所述当前待处理数据集合中。
可选的,对所述当前待处理数据集合中的各个数据的数据采集时间和所述当前待处理数据集合中的各个数据进行多项式拟合,得到反映数据采集时间与数据之间的函数关系的多项式,包括:通过预设的多项式拟合算法对所述当前待处理数据集合中的各个数据的数据采集时间和所述当前待处理数据集合中的各个数据进行多项式拟合,得到一个反映数据采集时间与数据之间的函数关系的多项式。数据采集时间是多项式的自变量,在数据采集时间采集的数据是多项式的因变量。因此,将某一个数据采集时间代入至多项式,即可得到在该数据采集时间采集的数据。
可选的,根据所述多项式,确定与所述目标数据的数据采集时间的前一个数据采集时间对应的第一预测数据和与所述目标数据的数据采集时间的前一个数据采集时间对应的第二预测数据,包括:将所述目标数据的数据采集时间的前一个数据采集时间代入至所述多项式,得到与所述目标数据的数据采集时间的前一个数据采集时间对应的第一预测数据;将所述目标数据的数据采集时间的前一个数据采集时间代入至所述多项式,得到与所述目标数据的数据采集时间的前一个数据采集时间对应的第二预测数据。与所述目标数据的数据采集时间的前一个数据采集时间对应的第一预测数据是根据多项式计算出的在所述目标数据的数据采集时间的前一个数据采集时间采集的数据。与所述目标数据的数据采集时间的前一个数据采集时间对应的第二预测数据是根据多项式计算出的在所述目标数据的数据采集时间的后一个数据采集时间采集的数据。
可选的,将所述第一预测数据和所述第二预测数据添加至所述当前待处理数据集合中,从而对因为数据集合中缺失在数据的数据采集时间前后采集的数据,所以导致数据的数值与其他数据的数值存在较大差异的所述目标数据进行校正,将当前待处理数据集合中缺失的在目标数据的数据采集时间前后采集的数据填补至当前待处理数据集合中。
可选的,在根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据之后,还包括:若查询到数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据,则根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据;若没有查询到数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据,则确定所述当前待处理数据集合中仅包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据。
可选的,如果所述当前待处理数据集合中仅包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据,则确定所述目标数据的异常原因是数据错误,根据所述第一数据对所述目标数据进行校正。
可选的,根据所述第一数据对所述目标数据进行校正,包括:将所述当前待处理数据集合中的所述目标数据替换为所述第一数据。所述第一数据是在目标数据的数据采集时间前采集的数据。通常情况下,所述第一数据与在目标数据的数据采集时间真实采集的正确数据是非常接近的。因此,所述第一数据可以被视为在目标数据的数据采集时间采集的正确数据。将所述当前待处理数据集合中的所述目标数据替换为所述第一数据,从而对因为数据本身是错误的数据,所以导致数据的数值与其他数据的数值存在较大差异的所述目标数据进行校正,将当前待处理数据集合中的本身是错误的目标数据校正为正确数据。
可选的,在根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据之后,还包括:若没有查询到数据采集时间等于目标数据的数据采集时间的前一个数据采集时间的数据,则根据所述当前待处理数据集合中的各个数据的数据采集时间,在所述当前待处理数据集合中查询数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据;若查询到数据采集时间等于目标数据的数据采集时间的后一个数据采集时间的数据,则确定所述当前待处理数据集合中仅包含在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据。
可选的,如果所述当前待处理数据集合中仅包含在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,则确定所述目标数据的异常原因是数据错误,根据所述第二数据对所述目标数据进行校正。
可选的,根据所述第二数据对所述目标数据进行校正,包括:将所述当前待处理数据集合中的所述目标数据替换为所述第二数据。所述第二数据是在目标数据的数据采集时间后采集的数据。通常情况下,所述第二数据与在目标数据的数据采集时间真实采集的正确数据是非常接近的。因此,所述第二数据可以被视为在目标数据的数据采集时间采集的正确数据。将所述当前待处理数据集合中的所述目标数据替换为所述第二数据,从而对因为数据本身是错误的数据,所以导致数据的数值与其他数据的数值存在较大差异的所述目标数据进行校正,将当前待处理数据集合中的本身是错误的目标数据校正为正确数据。
步骤104、将校正处理后的当前待处理数据集合存储至预设存储位置。
可选的,在针对所述当前待处理数据集合中的每一个被确定为异常数据的数据进行校正之后,得到校正处理后的当前待处理数据集合。将校正处理后的当前待处理数据集合存储至预设存储位置,便于后续基于校正处理后的当前待处理数据集合中的数据,准确地确定车辆的真实状态,为车辆的驾驶者提供准确的驾驶建议。
可选的,预设存储位置是电子设备中设置的用于存储处理完成的数据集合的存储位置。预设存储位置可以是数据存储文件。数据存储文件是电子设备中设置的用于存储处理完成的数据集合的文件。在针对所述当前待处理数据集合中的每一个被确定为异常数据的数据进行校正之后,得到校正处理后的当前待处理数据集合,将校正处理后的当前待处理数据集合存储至数据存储文件中。
可选的,在将校正处理后的当前待处理数据集合存储至预设存储位置之后,确认本次数据处理过程结束,等待下一次数据处理过程开始。
本发明实施例的技术方案,通过获取与车辆对应的当前待处理数据集合;然后通过预设聚类算法对当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测当前待处理数据集合中的各个数据是否是异常数据;在检测到当前待处理数据集合中的目标数据是异常数据之后,根据目标数据的数据采集时间从当前待处理数据集合中获取与目标数据对应的关联数据,根据关联数据对所述目标数据进行校正;将校正处理后的当前待处理数据集合存储至预设存储位置,解决了相关技术中的数据处理方案依赖于人工经验,数据处理过程的准确性和可靠性较低,无法准确地检测数据集合中是否存在异常数据,对数据集合中的异常数据进行校正的问题,可以自动根据数据集合中的数据的聚类结果,准确地检测数据集合中的各个数据是否是异常数据,可以自动根据数据集合中的异常数据的数据采集时间,确定与异常数据对应的关联数据,然后基于与异常数据对应的关联数据,准确地对数据集合中的异常数据进行校正,提高数据处理过程的准确性和可靠性,便于后续基于校正处理后的数据集合中的数据,准确地确定车辆的真实状态,为车辆的驾驶者提供准确的驾驶建议的有益效果。
实施例二
图2为本发明实施例二提供的一种数据处理方法的流程图。本发明实施例可以与上述一个或者多个实施例中各个可选方案结合。如图2所示,该方法包括:
步骤201、获取与车辆对应的当前待处理数据集合。
步骤202、通过具有噪声的基于密度的聚类算法对所述当前待处理数据集合中的各个数据进行聚类,得到与所述当前待处理数据集合对应的聚类簇和噪声点。
步骤203、根据所述噪声点,检测所述当前待处理数据集合中的各个数据是否是异常数据。
步骤204、在检测到所述当前待处理数据集合中的目标数据是异常数据之后,根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正。
步骤205、将校正处理后的当前待处理数据集合存储至预设存储位置。
本发明实施例的技术方案,可以自动根据数据集合中的异常数据的数据采集时间,确定与异常数据对应的关联数据,然后基于与异常数据对应的关联数据,准确地对数据集合中的异常数据进行校正,提高数据处理过程的准确性和可靠性,便于后续基于校正处理后的数据集合中的数据,准确地确定车辆的真实状态,为车辆的驾驶者提供准确的驾驶建议。
实施例三
图3为本发明实施例三提供的一种数据处理装置的结构示意图。所述装置可以配置于电子设备中。如图3所示,所述装置包括:数据集合获取模块301、数据检测模块302、数据校正模块303以及数据集合存储模块304。
其中,数据集合获取模块301,用于获取与车辆对应的当前待处理数据集合;数据检测模块302,用于通过预设聚类算法对所述当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测所述当前待处理数据集合中的各个数据是否是异常数据;数据校正模块303,用于在检测到所述当前待处理数据集合中的目标数据是异常数据之后,根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正;数据集合存储模块304,用于将校正处理后的当前待处理数据集合存储至预设存储位置。
本发明实施例的技术方案,通过获取与车辆对应的当前待处理数据集合;然后通过预设聚类算法对当前待处理数据集合中的各个数据进行聚类,根据聚类结果检测当前待处理数据集合中的各个数据是否是异常数据;在检测到当前待处理数据集合中的目标数据是异常数据之后,根据目标数据的数据采集时间从当前待处理数据集合中获取与目标数据对应的关联数据,根据关联数据对所述目标数据进行校正;将校正处理后的当前待处理数据集合存储至预设存储位置,解决了相关技术中的数据处理方案依赖于人工经验,数据处理过程的准确性和可靠性较低,无法准确地检测数据集合中是否存在异常数据,对数据集合中的异常数据进行校正的问题,可以自动根据数据集合中的数据的聚类结果,准确地检测数据集合中的各个数据是否是异常数据,可以自动根据数据集合中的异常数据的数据采集时间,确定与异常数据对应的关联数据,然后基于与异常数据对应的关联数据,准确地对数据集合中的异常数据进行校正,提高数据处理过程的准确性和可靠性,便于后续基于校正处理后的数据集合中的数据,准确地确定车辆的真实状态,为车辆的驾驶者提供准确的驾驶建议的有益效果。
在本发明实施例的一个可选实施方式中,可选的,数据检测模块302具体用于:通过具有噪声的基于密度的聚类算法对所述当前待处理数据集合中的各个数据进行聚类,得到与所述当前待处理数据集合对应的聚类簇和噪声点;根据所述噪声点,检测所述当前待处理数据集合中的各个数据是否是异常数据。
在本发明实施例的一个可选实施方式中,可选的,数据检测模块302在执行根据所述噪声点,检测所述当前待处理数据集合中的各个数据是否是异常数据的操作时,具体用于:针对所述当前待处理数据集合中的每一个数据执行下述操作:判断所述噪声点中是否存在与数据相同的数据;若所述噪声点中存在与所述数据相同的数据,则确定所述数据是异常数据;若所述噪声点中不存在与所述数据相同的数据,则确定所述数据不是异常数据。
在本发明实施例的一个可选实施方式中,可选的,与所述目标数据对应的关联数据包括在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据;数据校正模块303在执行根据所述目标数据的数据采集时间从所述当前待处理数据集合中获取与所述目标数据对应的关联数据,根据所述关联数据对所述目标数据进行校正的操作时,具体用于:根据所述当前待处理数据集合中的各个数据的数据采集时间,检测所述当前待处理数据集合中是否包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据;如果所述当前待处理数据集合中包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,则确定所述目标数据的异常原因是数据错误,根据所述第一数据和所述第二数据对所述目标数据进行校正。
在本发明实施例的一个可选实施方式中,可选的,数据校正模块303在执行根据所述第一数据和所述第二数据对所述目标数据进行校正的操作时,具体用于:计算所述第一数据和所述第二数据的平均值;将所述当前待处理数据集合中的所述目标数据替换为所述平均值。
在本发明实施例的一个可选实施方式中,可选的,数据校正模块303还用于:如果所述当前待处理数据集合中没有包含在所述目标数据的数据采集时间的前一个数据采集时间采集的第一数据和在所述目标数据的数据采集时间的后一个数据采集时间采集的第二数据,则确定所述目标数据的异常原因是数据缺失,对所述当前待处理数据集合中的各个数据的数据采集时间和所述当前待处理数据集合中的各个数据进行多项式拟合,得到反映数据采集时间与数据之间的函数关系的多项式;根据所述多项式,确定与所述目标数据的数据采集时间的前一个数据采集时间对应的第一预测数据和与所述目标数据的数据采集时间的前一个数据采集时间对应的第二预测数据;将所述第一预测数据和所述第二预测数据添加至所述当前待处理数据集合中。
在本发明实施例的一个可选实施方式中,可选的,数据集合获取模块301具体用于:按照预设时间间隔,定时从数据集合队列中获取与车辆对应的当前待处理数据集合。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
上述数据处理装置可执行本发明任意实施例所提供的数据处理方法,具备执行数据处理方法相应的功能模块和有益效果。
实施例四
图4示出了可以用来实现本发明实施例的数据处理方法的电子设备10的结构示意图。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图4所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18构建到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如数据处理方法。
在一些实施例中,数据处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序构建到RAM 13并由处理器11执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的数据处理方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入、或者触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
- 一种数据处理方法及装置、一种计算设备及存储介质
- 一种数据处理方法、数据处理装置、计算机设备及可读存储介质
- 一种数据处理方法、装置、设备及存储介质
- 一种调用链数据的处理方法、装置、设备及存储介质
- 一种区块链的数据处理方法、装置、设备及介质
- 数据记录设备、数据记录方法、数据处理设备、数据处理方法、程序、程序记录介质、数据记录介质、和数据结构
- 数据加密处理方法、数据解密处理方法、装置、电子设备及可读存储介质