数据处理方法、装置、计算机设备和存储介质

技术领域

本申请涉及数据处理技术领域，特别是涉及一种数据处理方法、装置、计算机设备和存储介质。

背景技术

在服装技术领域，业务系统运行的过程中会产生大量的业务数据，如用户数据、版型数据或者布料数据等，运维人员需要对这些数据进行处理。

现有技术中通常采用keys命令获取数据，其时间复杂度为O(n)。当处理数据量较大时，keys命令会遍历数据列表，需要等待线程运行完成时才能释放线程的调度使用权，运行速度慢、耗时长，会导致其他命令阻塞，影响系统的运行效率，从而降低数据处理效率。

发明内容

本申请实施例提供了一种数据处理方法、装置、计算机设备和存储介质，以至少解决相关技术中数据处理效率低的问题。

第一方面，本申请实施例提供了一种数据处理方法，包括：

接收数据处理请求；

基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据；其中，每页数据量进行预先设定；

根据所述分页业务数据确定待处理数据，并将所述待处理数据返回至可视化面板进行数据显示，以使用户根据所述可视化面板中的数据进行数据处理。

在其中一些实施例中，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据包括：

解析所述数据处理请求得到关键词；

基于所述关键词获取在Redis集群中对应的hash槽；

根据所述hash槽进行数据读取，并基于预设的每页数据量返回游标参数；

基于所述游标参数进行分页，增量迭代执行上述步骤得到分页业务数据。

在其中一些实施例中，解析所述数据处理请求得到关键词包括：

基于所述数据处理请求进行模糊匹配，得到关键词。

在其中一些实施例中，对所述关键词进行hash计算得到对应的hash槽包括：

对所述关键词进行hash计算得到对应的hash值；

根据所述hash值查找哈希表，获取与所述hash值对应的hash槽。

在其中一些实施例中，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据之前，还包括：

获取Redis集群的配置信息；

基于所述配置信息遍历连接所述数据处理请求对应的多个Redis数据库，得到Redis集群。

在其中一些实施例中，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据之前，还包括：

基于Redis数据库中的数据建立哈希表。

第二方面，本申请实施例提供了一种数据处理装置，包括：

处理请求接收单元，用于接收数据处理请求；

数据获取单元，用于基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据；其中，每页数据量进行预先设定；

数据处理单元，用于根据所述分页业务数据确定待处理数据，并将所述待处理数据返回至可视化面板进行数据显示，以使用户根据所述可视化面板中的数据进行数据处理。

在其中一些实施例中，所述数据获取单元包括：

解析模块，用于解析所述数据处理请求得到关键词；

hash槽计算模块，用于基于所述关键词获取在Redis集群中对应的hash槽；

游标参数返回模块，用于根据所述hash槽进行数据读取，并基于预设的每页数据量返回游标参数；

分页业务数据获取模块，用于基于所述游标参数进行分页，增量迭代执行上述步骤得到分页业务数据。

第三方面，本申请实施例提供了一种计算机设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的数据处理方法。

第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面所述的数据处理方法。

相比于相关技术，本申请实施例提供的数据处理方法，通过基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据，实现了多次、分页进行数据读取，每次读取一部分数据，降低了时间复杂度，从而在数据量较大时，无需等当前所有数据遍历完成再继续其他的读写操作，解决了因遍历数据列表导致运行速度慢而引起的线程阻塞，提高了数据读写效率。

本申请的一个或多个实施例的细节在以下附图和描述中提出，以使本申请的其他特征、目的和优点更加简明易懂。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是本申请其中一个实施例中数据处理方法的流程示意图；

图2是本申请其中一个实施例中数据处理装置的结构框图；

图3是本申请其中一个实施例中计算机设备的结构示意图。

附图说明：201、处理请求接收单元；202、数据获取单元；203、数据处理单元；30、总线；31、处理器；32、存储器；33、通信接口。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开的内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。

除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电气的连接，不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或B”可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象，不代表针对对象的特定排序。

随着物联网技术的飞速发展以及工业4.0的提出，服装制造对智能化的要求也越来越高。智能化的信息化管理，一方面可以更有效率进行订单和用户信息管理，另一方面也可以根据数据分析了解业务信息并提高产品和服务质量。信息化管理的广泛使用，能够转变企业的生产方式、经营方式，有效地提高企业效率和效益，为企业带来不小的效益。

本实施例提供的数据处理方法可应用于服装技术等领域中的企业信息化管理过程中，企业的业务系统在运行过程中会产生大量的业务数据，工作人员在日常管理过程中获取业务数据后，需要通过可视化面板进行相应的处理操作。

本实施例提供了一种数据处理方法。图1是根据本申请实施例的数据处理方法的流程图。所述方法可由计算机设备来执行，具体的，可以由该设备内一个或多个处理器来执行，如图1所示，该流程包括如下步骤：

步骤S101，接收数据处理请求。

在本实施例中，所述计算机设备可以是带有显示单元的各类终端设备或服务器，所述终端设备可以是移动电话、PDA、个人计算机等设备，所述服务器可以是独立服务器或多台服务器组成的集群式服务器，还可以是某应用系统的后台服务器，如订单管理系统等。其中，所述电子设备内安装有用于进行数据信息化管理的应用程序，可以对各个环节的业务数据进行采集、分析和展示。

在本实施例中，所述数据处理请求可以包括数据对象的标识(如关键词)，当所述计算机设备接收到所述数据处理请求后，可根据所述标识获取对应的待处理数据。待处理的数据例如可以是企业采购、生产、制造、财务、营销、经营、管理等各个环节的业务数据，本申请不做具体限定。

步骤S102，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据；其中，每页数据量进行预先设定。

在本实施例中随着信息化管理系统数据量的庞大，可以采用数据库集群的方式来实现分布式部署。具体的，Redis是速度非常快的非关系型(NoSQL)内存键值数据库，通过在不同的设备或服务器上搭建多个Redis实例仓库，将原来的Redis的所有的keys分发到各个服务器的Redis上，形成Redis集群(Redis Cluster)。Redis集群中内置了16384个hash槽，redis会根据节点数量大致均等地将哈希槽映射到集群中不同的节点，每个key都会对应一个哈希槽。

在本实施例中，通过预先设备每页读取的数据量，根据所述数据处理请求遍历Redis集群，分页从对应的hash槽中读取数据，可以实现每一次读取一部分数据，每次读取时返回部分数据，增量迭代直至返回所有的数据集。

步骤S103，根据所述分页业务数据确定待处理数据，并将所述待处理数据返回至可视化面板进行数据显示，以使用户根据所述可视化面板中的数据进行数据处理。

在本实施例中，当得到分页业务数据，将所述分页业务数据汇总得到对应的待处理数据，所述待处理数据可通过可视化面板等显示单元进行可视化显示，以供相关人员对所述待处理数据进行相应的数据处理(如查看、编辑、删除或进一步分析探查)。

其中，所述显示单元可用于显示根据用户输入的信息或提供给用户的信息返回的待处理数据，以及各种菜单。显示单元可包括可视化面板，可选的，可以采用液晶显示器(Liquid Crystal Display，简称为LCD)、有机发光二极管(Organic Light-EmittingDiode，简称为OLED)等形式来配置可视化面板。进一步的，触控面板可覆盖可视化面板，当触控面板检测到在其上或附近的触摸操作后，传送给处理器以确定触摸事件的类型，随后处理器根据触摸事件的类型在显示面板上提供相应的视觉输出。在一些实施例中，触控面板与显示面板是作为两个独立的部件来实现用户终端的输入和输入功能，在另一些实施例中，可以将触控面板与显示面板集成而实现用户终端的输入和输出功能。

综上，本申请实施例提供的数据处理方法，通过基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据，实现了多次、分页进行数据读取，每次读取一部分数据，降低了时间复杂度，从而在数据量较大时，无需等当前所有数据遍历完成再继续其他的读写操作，解决了因遍历数据列表导致运行速度慢而引起的线程阻塞，提高了数据读写效率。

下面通过优选实施例对本申请实施例进行描述和说明。

在其中一些实施例中，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据包括：

步骤S1021，解析所述数据处理请求得到关键词。

在本实施例中，可根据所述数据处理请求中的关键词遍历Redis集群搜索获取数据，当所述数据处理请求不包含数据对象的关键词时，也可以基于数据处理请求直接搜索全部数据。可以理解，本实施例也可以基于数据对象的其他标识遍历Redis集群搜索获取数据，本发明不做具体限定。

优选的，可基于所述数据处理请求进行模糊匹配，得到关键词。根据通配符“*”的添加位置(如前面、后面或者两边)进行匹配。如模糊匹配*water*，就会匹配得到awater、waterBB、hhhwater、bbwatercc等等。

步骤S1022，基于所述关键词获取在Redis集群中对应的hash槽。

在本实施例中，当获取到所述数据处理请求中的关键词后，可通过会对所述关键词进行hash计算，判定在哪一个节点哪一个hash槽上进行读写操作。

具体的，首先对所述关键词进行hash计算得到对应的hash值。例如：对关键词apple进行hash计算：

Hash(apple)％slotnum＝hashkey

其中，slotnum为槽数、％为取余、hashkey为关键词经hash计算之后得到的hash值。需要说明的是，每个key都会对应一个编号在预设槽数范围之间的哈希槽，Redis集群会根据节点数量大致均等的将hash槽映射到不同的节点，所述槽数可根据待处理数据集的大小进行适应性配置。

然后根据所述hash值查找哈希表，获取与所述hash值对应的hash槽。如当hashkey＝10时，那么在槽数为10的hash槽上进行读写操作。

步骤S1023，根据所述hash槽进行数据读取，并基于预设的每页数据量返回游标参数。

步骤S1024，基于所述游标参数进行分页，增量迭代执行上述步骤得到分页业务数据。

在本实施例中，预先对待处理数据进行分页操作，并预设每页数据量。每次迭代过程中读取一页或多页的数据并返回一个游标参数，以便在下次迭代时根据该游标参数延续新的迭代过程。其中，所述游标参数用于标识迭代的进度，从而无须为迭代记录任何状态。可选地，预设的每页数据量可变，可在每次迭代过程中根据需要进行调整。

在本实施例中，通过增量迭代进行数据获取，直至所述游标参数返回值为0时结束迭代，得到分页业务数据。

在上述实施例的基础上，在其中一些实施例中，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据之前，还包括：获取Redis集群的配置信息，基于所述配置信息遍历连接所述数据处理请求对应的多个Redis数据库，得到Redis集群。

在本实施例中，可根据业务需求搭建Redis集群，例如通过分布式系统中zookeeper实现配置管理，通过zookeeper的服务器存储Redis集群中各个节点的配置信息，其中，所述配置信息可以包括Redis主服务器和从服务器的IP、端口信息、Redis集群中的各节点的节点地址和节点编号等。当需要搭建Redis集群时，基于所述配置信息遍历连接所述数据处理请求对应的多个Redis数据库，得到Redis集群；当需要配置Redis集群时(如节点的主从关系或增删状态变化时)，通过zookeeper触发更新配置信息并推送至Redis集群中每一个Redis数据库。

在上述实施例的基础上，在其中一些实施例中，基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据之前，还包括：基于Redis数据库中的数据建立哈希表。

在本实施例中，Redis数据库是一种基于Key-Value的内存数据库，所有的业务数据可使用哈希表进行保存。具体的，首先建立一个空哈希表，通过对Redis数据库中的数据添加索引key后进行聚合，形成hashtable格式的哈希表，以根据所述哈希表查找对应的哈希槽。

需要说明的是，在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

本实施例还提供了一种数据处理装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”、“单元”、“子单元”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图2是根据本申请实施例的数据处理装置的结构框图，如图2所示，该装置包括：处理请求接收单元201、数据获取单元202和数据处理单元203。

处理请求接收单元201，用于接收数据处理请求；

数据获取单元202，用于基于所述数据处理请求遍历Redis集群的hash槽分页进行数据读取，增量迭代得到分页业务数据；其中，每页数据量进行预先设定；

数据处理单元203，用于根据所述分页业务数据确定待处理数据，并将所述待处理数据返回至可视化面板进行数据显示，以使用户根据所述可视化面板中的数据进行数据处理。

在其中一些实施例中，数据获取单元202，包括：解析模块、hash槽计算模块、游标参数返回模块和分页业务数据获取模块。

解析模块，用于解析所述数据处理请求得到关键词；

hash槽计算模块，用于基于所述关键词获取在Redis集群中对应的hash槽；

游标参数返回模块，用于根据所述hash槽进行数据读取，并基于预设的每页数据量返回游标参数；

分页业务数据获取模块，用于基于所述游标参数进行分页，增量迭代执行上述步骤得到分页业务数据。

在其中一些实施例中，解析模块具体用于：

基于所述数据处理请求进行模糊匹配，得到关键词。

在其中一些实施例中，hash槽计算模块，包括：hash值获取模块和hash槽获取模块。

hash值获取模块，用于对所述关键词进行hash计算得到对应的hash值；

hash槽获取模块，用于根据所述hash值查找哈希表，获取与所述hash值对应的hash槽。

在其中一些实施例中，数据处理装置还包括：配置信息获取单元和Redis集群获取单元。

配置信息获取单元，用于获取Redis集群的配置信息；

Redis集群获取单元，用于基于所述配置信息遍历连接所述数据处理请求对应的多个Redis数据库，得到Redis集群。

在其中一些实施例中，数据处理装置还包括：

哈希表建立单元，用于基于Redis数据库中的数据建立哈希表。

需要说明的是，上述各个模块可以是功能模块也可以是程序模块，既可以通过软件来实现，也可以通过硬件来实现。对于通过硬件来实现的模块而言，上述各个模块可以位于同一处理器中；或者上述各个模块还可以按照任意组合的形式分别位于不同的处理器中。

另外，结合图1描述的本申请实施例数据处理方法可以由计算机设备来实现。图3为根据本申请实施例的计算机设备的硬件结构示意图。

计算机设备可以包括处理器31以及存储有计算机程序指令的存储器32。

具体地，上述处理器31可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中，存储器32可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器32可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器32可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器32可在数据处理装置的内部或外部。在特定实施例中，存储器32是非易失性(Non-Volatile)存储器。在特定实施例中，存储器32包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(RandomAccess Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory，简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory，简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory，简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-Access Memory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中，DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。

存储器32可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器31所执行的可能的计算机程序指令。

处理器31通过读取并执行存储器32中存储的计算机程序指令，以实现上述实施例中的任意一种数据处理方法。

在其中一些实施例中，计算机设备还可包括通信接口33和总线30。其中，如图3所示，处理器31、存储器32、通信接口33通过总线30连接并完成相互间的通信。

通信接口33用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信接口33还可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。

总线30包括硬件、软件或两者，将计算机设备的部件彼此耦接在一起。总线30包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(Control Bus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线30可包括图形加速接口(Accelerated Graphics Port，简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(Front Side Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线30可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。

该计算机设备可以基于获取到的程序指令，执行本申请实施例中的数据处理方法，从而实现结合图1描述的数据处理方法。

另外，结合上述实施例中的数据处理方法，本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种数据处理方法。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。