数据处理方法、装置、设备及存储介质

技术领域

本发明实施例涉及计算机技术领域，尤其涉及一种数据处理方法、装置、设备及存储介质。

背景技术

在当今各行各业，数据已经成为了一种十分宝贵的资源，如何在各种各样的数据内容中获取有效的内容，同时保证数流处理的即时性，显得尤为重要。

目前，在数据处理的过程中，通常会在多个应用系统间传递，在拿到数据后，对于数据的有效内容，通常需要手动治理，解析数据以得到有效内容。如何快速的获取多类型的数据，并进行有效的处理是目前需要解决的问题。

发明内容

本发明实施例提供一种数据处理方法、装置、设备及存储介质，可以提高数据处理的效率。

第一方面，本发明实施例提供了一种数据处理方法，包括：

获取上层应用传入的文本数据，并将所述文本数据写入第一设定消息队列中；

从所述第一设定消息队列读取所述文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构；

按照所述数据结构组装所述文本数据，获得图谱类型数据；

将所述图谱类型数据返回至所述上层应用进行存储。

第二方面，本发明实施例还提供了一种数据处理装置，包括：

文本数据获取模块，用于获取上层应用传入的文本数据，并将所述文本数据写入第一设定消息队列中；

数据结构确定模块，用于从所述第一设定消息队列读取所述文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构；

图谱类型数据获取模块，用于按照所述数据结构组装所述文本数据，获得图谱类型数据；

数据返回模块，用于将所述图谱类型数据返回至所述上层应用进行存储。

第三方面，本发明实施例还提供了一种计算机设备，所述设备包括：包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明实施例所述的数据处理方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理装置执行时实现如本发明实施例所述的数据处理方法。

本发明实施例公开了一种数据处理方法、装置、设备及存储介质。获取上层应用传入的文本数据，并将文本数据写入第一设定消息队列中；从第一设定消息队列读取文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构；按照数据结构组装文本数据，获得图谱类型数据；将图谱类型数据返回至上层应用进行存储。本发明实施例提供的数据处理方法，根据图谱数据库存储的结构化数据将文本数据转化为图谱类型数据，可以提高数据处理的效率。

附图说明

图1是本发明实施例一中的一种数据处理方法的流程图；

图2是本发明实施例二中的一种数据处理装置的结构示意图；

图3是本发明实施例三中的一种计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种数据处理方法的流程图，本实施例可适用于将文本数据转化为图谱类型数据的情况，该方法可以由数据处理装置来执行，该装置可由硬件和/或软件组成，并一般可集成在具有数据处理功能的设备中，该设备可以是服务器或服务器集群等电子设备。如图1所示，该方法具体包括如下步骤：

步骤110，获取上层应用传入的文本数据，并将文本数据写入第一设定消息队列中。

其中，文本数据可以包括TXT格式、PDF格式、word格式及Excel格式等文本数据。文本数据包含多个字段的数据，每个字段的数据由字段标识及具体数据组成。第一设定消息队列可以理解为一缓存队列，基于先进先出原则缓存数据。本实施例中，在获得上层应用传入的文本数据，首先将文本数据写入第一设定消息队列中，然后按照写入顺序再从第一设定消息队列中读取文本数据，以对文本数据进行后续的处理。

步骤120，从第一设定消息队列读取文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构。

其中，图谱数据库中存储有多种数据结构类型的数据。结构化数据可以理解为数据包含的各个字段一定的结构形式组合而成的数据。

本实施例中，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构的方式可以是：对读取的文本数据进行解析，获得文本数据包含的字段；将字段与图谱数据库中的结构化数据进行比对，确定文本数据对应的数据结构。

其中，获取文本数据包含的字段可以理解为获取文本数据包含的字段标识。将字段与图谱数据库中的结构化数据进行比对的方式可以是，提取图谱数据库中的结构化数据中的字段标识，将结构化数据中的字段标识与文本数据包含的字段标识进行匹配，将二者完全匹配的结构化数据的数据结构确定为文本数据将要组装成的数据结构。

可选的，该方法还包括如下步骤：将从第一设定消息队列读取到的文本数据存储至存储系统中。

步骤130，按照数据结构组装文本数据，获得图谱类型数据。

其中，数据结构可以理解为数据表现的结构形式。图谱类型数据包括实体数据、关系数据及事件数据。

具体的，按照数据结构组装文本数据的方式可以是，将文本数据包含的字段按照确定的数据结构组装为实体数据、关系数据及事件数据，获得图谱类型数据。

步骤140，将图谱类型数据返回至上层应用进行存储。

具体的，将图谱类型数据通过第二设定消息队列返回至所述上层应用进行存储。将图谱类型数据返回至上层应用进行存储可以理解为将图谱类型数据返回至上层应用中的搜索引擎进行存储。

可选的，在获取上层应用传入的文本数据之前，还包括如下步骤：获取多源业务数据；按照设定规则将多源业务数据处理为图谱类型数据；将图谱类型数据存储至图谱数据库。

其中，业务数据可以由应用程序在运行过程中产生的数据，可以包括结构化数据和非结构化数据。具体的，将业务数据处理为实体数据、关系数据及事件数据，获得图谱类型数据。

具体的，按照设定规则将多源业务数据处理为图谱类型数据的方式可以是：若多源业务数据为结构化数据，则按照结构化解析规则解析多源业务数据，获得多源业务数据包含的字段；将字段按照设定结构进行重新组装，获得图谱类型数据。

其中，结构化数据可以是按照一定的结构形式组装的数据。对于结构化数据，本实施例中按照结构化解析规则进行解析，可以获得多源业务数据包含的字段，再将字段按照设定结构进行重新组装，获得图谱类型数据。

具体的，按照设定规则将多源业务数据处理为图谱类型数据的方式可以是：若多源业务数据为非结构化数据，则按照文本解析规则解析多源业务数据，获得多源业务数据包含的字段；将字段按照设定结构进行重新组装，获得图谱类型数据。

其中，非结构化数据可以是文本数据，如：TXT格式、PDF格式、word格式及Excel格式的数据。

本实施例的技术方案，获取上层应用传入的文本数据，并将文本数据写入第一设定消息队列中；从第一设定消息队列读取文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构；按照数据结构组装文本数据，获得图谱类型数据；将图谱类型数据返回至上层应用进行存储。本发明实施例提供的数据处理方法，根据图谱数据库存储的结构化数据将文本数据转化为图谱类型数据，可以提高数据处理的效率。

实施例二

图2是本发明实施例提供的一种数据处理装置的结构示意图，如图2所示，该装置包括：

文本数据获取模块210，用于获取上层应用传入的文本数据，并将文本数据写入第一设定消息队列中；

数据结构确定模块220，用于从第一设定消息队列读取文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构；

图谱类型数据获取模块230，用于按照数据结构组装文本数据，获得图谱类型数据；

数据返回模块240，用于将图谱类型数据返回至上层应用进行存储。

可选的，数据结构确定模块220，还用于：

对读取的文本数据进行解析，获得文本数据包含的字段；

将字段与图谱数据库中的结构化数据进行比对，确定文本数据对应的数据结构。

可选的，数据返回模块240，还用于：

将图谱类型数据通过第二设定消息队列返回至上层应用进行存储。

可选的，还包括：图谱类型数据库处理模块，用于：

获取多源业务数据；

按照设定规则将多源业务数据处理为图谱类型数据；

将图谱类型数据存储至图谱数据库。

可选的，图谱类型数据库处理模块，还用于：

若多源业务数据为结构化数据，则按照结构化解析规则解析多源业务数据，获得多源业务数据包含的字段；

将字段按照设定结构进行重新组装，获得图谱类型数据。

可选的，图谱类型数据库处理模块，还用于：

若多源业务数据为非结构化数据，则按照文本解析规则解析多源业务数据，获得多源业务数据包含的字段；

将字段按照设定结构进行重新组装，获得图谱类型数据。

可选的，图谱类型数据包括实体数据、关系数据及事件数据。

上述装置可执行本发明前述所有实施例所提供的方法，具备执行上述方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明前述所有实施例所提供的方法。

实施例三

图3为本发明实施例三提供的一种计算机设备的结构示意图。图3示出了适于用来实现本发明实施方式的计算机设备312的框图。图3显示的计算机设备312仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。设备312是典型的数据处理功能的计算设备。

如图3所示，计算机设备312以通用计算设备的形式表现。计算机设备312的组件可以包括但不限于：一个或者多个处理器316，存储装置328，连接不同系统组件(包括存储装置328和处理器316)的总线318。

总线318表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture，ISA)总线，微通道体系结构(Micro Channel Architecture，MCA)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及外围组件互连(Peripheral Component Interconnect，PCI)总线。

计算机设备312典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备312访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储装置328可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory，RAM)330和/或高速缓存存储器332。计算机设备312可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统334可以用于读写不可移动的、非易失性磁介质(图3未显示，通常称为“硬盘驱动器”)。尽管图3中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory，CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线318相连。存储装置328可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块326的程序336，可以存储在例如存储装置328中，这样的程序模块326包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块326通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备312也可以与一个或多个外部设备314(例如键盘、指向设备、摄像头、显示器324等)通信，还可与一个或者多个使得用户能与该计算机设备312交互的设备通信，和/或与使得该计算机设备312能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口322进行。并且，计算机设备312还可以通过网络适配器320与一个或者多个网络(例如局域网(Local AreaNetwork，LAN)，广域网Wide Area Network，WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器320通过总线318与计算机设备312的其它模块通信。应当明白，尽管图中未示出，可以结合计算机设备312使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of IndependentDisks，RAID)系统、磁带驱动器以及数据备份存储系统等。

处理器316通过运行存储在存储装置328中的程序，从而执行各种功能应用以及数据处理，例如实现本发明上述实施例所提供的数据处理方法。

实施例四

本发明实施例提供了一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序，该程序被处理装置执行时实现如本发明实施例中的数据处理方法。本发明上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。

在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。

上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取上层应用传入的文本数据，并将所述文本数据写入第一设定消息队列中；从所述第一设定消息队列读取所述文本数据，根据图谱数据库存储的结构化数据确定读取的文本数据的数据结构；按照所述数据结构组装所述文本数据，获得图谱类型数据；将所述图谱类型数据返回至所述上层应用进行存储。

可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。

本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。