一种融合实体识别技术的图数据库检索方法及系统
文献发布时间:2024-04-18 19:58:30
技术领域
本申请涉及图数据库领域,尤其是涉及一种融合实体识别技术的图数据库检索方法及系统。
背景技术
Text2SQL技术实现了自然语言和图数据库的交互,能够帮助用户轻松查询、分析大量数据,降低用户学习使用数据库的技术成本,提高数据查询效率。Text2SQL需要模型理解用户输入的问题并自动将其转换为数据库查询语言。Text2SQL最初的实现方式是设计正则表达式识别SQL类型和抽取成分,人工成本高且匹配错误率高,效果不佳。随着深度学习技术的发展,研究者提出采用Seq2seq模型通过深度学习网络对自然语言编码,再以分类的方式识别SQL类型,通过填槽生成SQL语句。此外,利用Attention机制或图神经网络等方法能够加强模型的语义解析能力,或是通过指针网络、语法树等方式提升解码效果,提高SQL语句的语法合规性和执行准确率。
目前Text2SQL技术主要利用数据库表中表或列的语义向量提取SQL中可能出现的值,在输出多子句的复杂情况下难以准确提取对应值。如何准确链接提问句与数据库表格内容仍是一个亟待解决的问题。
发明内容
为了解决上述技术问题,本申请提供一种融合实体识别技术的图数据库检索方法,包括:
S1、接收用户提出的自然语言问句,对所述自然语言问句进行分词以获得字序列,并基于命名实体识别模型提取所述字序列中的命名实体信息,所述命名实体信息包括人名、地名、组织机构、日期时间以及领域相关的专有名词;
S2、通过图数据库生成初始图,将所述命名实体信息添加至所述初始图中以构建实体关系图,以所述实体关系图中的所有边作为节点构建线图;
S3、通过预训练语言模型将所述字序列、所述实体关系图和所述线图转换为词向量,基于多个BiLSTM模型将对应的词向量转换为蕴含上下文信息的多个特征张量,将多个特征张量进行拼接以获得联合特征;
S4、将所述联合特征输入编码器进行编码以获得特征编码;
S5、通过解码器对所述特征编码进行解码以获得AQL序列,通过softmax函数选取概率最大的图节点信息,并将所述图节点信息填充至预设的槽值模板中,获得AQL查询语句;
S6、基于所述图数据库执行所述AQL查询语句,获得查询结果。
在一些具体的实施例中,步骤S1所述命名实体识别模型包括LSTM+CRF模型。利用命名实体模型分析自然语言问句,明确自然语言问句中需要与数据库做关联的词语。
在一些具体的实施例中,步骤S2具体包括以下步骤:
S21、通过图数据库生成初始图,所述初始图中的节点基于所述图数据库的表名和列名组成,所述初始图中的每个表节点与对应列节点之间通过边连接,图节点的总数为所述图数据库中表和列的数量之和;
S22、将所述命名实体信息添加至所述初始图中作为节点,响应于所述命名实体信息与图数据库中的内容匹配,则将命名实体节点与匹配后的内容关联节点进行连接作为边,获得实体关系图,其中,所述实体关系图中的节点总数为所述初始图的节点总数与所述命名实体信息的数量之和;
S23、以所述实体关系图中的所有边作为节点构建线图,所述线图中的相邻节点为所述实体关系图中边相连的多个节点。通过线图刻画关联关系,加强实体与图数据节点间的关联关系,助于细化判断邻域节点的依赖关系。
在一些具体的实施例中,步骤S3具体包括以下步骤:
S31、通过预训练语言模型将所述字序列、所述实体关系图和所述线图中的节点转换为词向量,所述词向量分别表示为:
其中,|Q|表示所述字序列的最大长度,|G
S32、分别将所述字序列、所述实体关系图和所述线图中的节点转换后的词向量通过对应的BiLSTM模型进行转换以获得蕴含上下文信息的特征张量,所述特征张量分别表示为:
其中,d
S33、将所有特征张量进行拼接以获得联合特征。通过生成蕴含有上下文信息的特征张量,有益于对问句与数据库的语义解析。
在一些具体的实施例中,步骤S4所述编码器的模型包括RGAT模型。以RGAT为编码器增强对图节点中依赖关系的表征输出特征编码。
在一些具体的实施例中,步骤S5所述解码器的模型包括LSTM模型。
在一些具体的实施例中,图数据库包括ArangoDB图数据库。
根据本发明的第二方面,提出了一种融合实体识别技术的图数据库检索系统,该系统包括:
命名实体提取模块,被配置用于接收用户提出的自然语言问句,对所述自然语言问句进行分词以获得字序列,并基于命名实体识别模型提取所述字序列中的命名实体信息,所述命名实体信息包括人名、地名、组织机构、日期时间以及领域相关的专有名词;
图构建模块,被配置用于通过图数据库生成初始图,将所述命名实体信息添加至所述初始图中以构建实体关系图,以所述实体关系图中的所有边作为节点构建线图;
特征张量获取模块,被配置用于通过预训练语言模型将所述字序列、所述实体关系图和所述线图转换为词向量,基于多个BiLSTM模型将对应的词向量转换为蕴含上下文信息的多个特征张量,将多个特征张量进行拼接以获得联合特征;
编码模块,被配置用于将所述联合特征输入编码器进行编码以获得特征编码;
解码模块,被配置用于通过解码器对所述特征编码进行解码以获得AQL序列,通过softmax函数选取概率最大的图节点信息,并将所述图节点信息填充至预设的槽值模板中,获得AQL查询语句;
执行模块,被配置用于基于所述图数据库执行所述AQL查询语句,获得查询结果。
根据本发明的第三方面,提出了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
根据本发明的第四方面,提出了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本发明提出了一种融合实体识别技术的图数据库检索方法及系统,其技术效果在于:
通过命名实体识别技术提取自然语言问句中的实体信息,明确自然语言问句中需要与数据库做关联的词语,再结合图数据库内容构造线图,加强实体与图数据节点间的关联关系,有助于细化判断邻域节点的依赖关系,并通过词向量模型和BiLSTM模型对自然语言问句字序列和图进行特征表示,生成蕴含有上下文信息的特征张量益于对问句与数据库的语义解析,最后通过编码器增强对图节点中依赖关系的表征输出特征编码,通过解码器输出AQL序列,有效提升了AQL查询语句在图数据库中的执行准确率,降低用户与图数据库的交互门槛。
附图说明
包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本申请的原理。将容易认识到其它实施例和实施例的很多预期优点,因为通过引用以下详细描述,它们变得被更好地理解。附图的元件不一定是相互按照比例的。同样的附图标记指代对应的类似部件。
图1是本申请的一个实施例的融合实体识别技术的图数据库检索方法的流程图;
图2是本申请的一个具体的实施例的融合实体信息构造线图的过程示意图;
图3是本申请的一个具体的融合实体识别技术的图数据库检索方法的框架图;
图4是本申请的一个实施例的融合实体识别技术的图数据库检索系统的框架图;
图5是适于用来实现本发明实施例的电子设备的计算机装置的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1是本申请的一个实施例的融合实体识别技术的图数据库检索方法的流程图。参考图1,该方法包括:
S1、接收用户提出的自然语言问句,对所述自然语言问句进行分词以获得字序列,并基于命名实体识别模型提取所述字序列中的命名实体信息,所述命名实体信息包括人名、地名、组织机构、日期时间以及领域相关的专有名词。
其中,步骤S1所述命名实体识别模型包括LSTM+CRF模型。利用命名实体模型分析自然语言问句,明确自然语言问句中需要与数据库做关联的词语。
S2、通过图数据库生成初始图,将所述命名实体信息添加至所述初始图中以构建实体关系图,以所述实体关系图中的所有边作为节点构建线图。
其中,图2是本申请的一个具体的实施例的融合实体信息构造线图的过程示意图,参考图2,步骤S2具体包括以下步骤:
S21、通过图数据库生成初始图,所述初始图中的节点基于所述图数据库的表名和列名组成,所述初始图中的每个表节点与对应列节点之间通过边连接,图节点的总数为所述图数据库中表和列的数量之和;
S22、将所述命名实体信息添加至所述初始图中作为节点,响应于所述命名实体信息与图数据库中的内容匹配,则将命名实体节点与匹配后的内容关联节点进行连接作为边,获得实体关系图,其中,所述实体关系图中的节点总数为所述初始图的节点总数与所述命名实体信息的数量之和;
S23、以所述实体关系图中的所有边作为节点构建线图,所述线图中的相邻节点为所述实体关系图中边相连的多个节点。通过线图刻画关联关系,加强实体与图数据节点间的关联关系,助于细化判断邻域节点的依赖关系。
S3、通过预训练语言模型将所述字序列、所述实体关系图和所述线图转换为词向量,基于多个BiLSTM模型将对应的词向量转换为蕴含上下文信息的多个特征张量,将多个特征张量进行拼接以获得联合特征。
其中,步骤S3具体包括以下步骤:
S31、通过预训练语言模型将所述字序列、所述实体关系图和所述线图中的节点转换为词向量,所述词向量分别表示为:
其中,|Q|表示所述字序列的最大长度,|G
S32、分别将所述字序列、所述实体关系图和所述线图中的节点转换后的词向量通过对应的BiLSTM模型进行转换以获得蕴含上下文信息的特征张量,所述特征张量分别表示为:
其中,d
S33、将所有特征张量进行拼接以获得联合特征。通过生成蕴含有上下文信息的特征张量,有益于对问句与数据库的语义解析。
S4、将所述联合特征输入编码器进行编码以获得特征编码。
其中,步骤S4所述编码器的模型包括RGAT模型。以RGAT为编码器增强对图节点中依赖关系的表征输出特征编码。
S5、通过解码器对所述特征编码进行解码以获得AQL序列,通过softmax函数选取概率最大的图节点信息,并将所述图节点信息填充至预设的槽值模板中,获得AQL查询语句;
其中,步骤S5所述解码器的模型包括LSTM模型。
S6、基于所述图数据库执行所述AQL查询语句,获得查询结果。
其中,以上所述的图数据库包括ArangoDB图数据库。
在一个具体的实施例中,以下将对本申请的一种融合实体识别技术的图数据库检索方法进行具体描述:
本发明针对图数据库设计了一种融合实体识别技术的图数据库检索方法,通过命名实体识别技术提取自然语言问句中的实体信息,明确自然语言问句中需要与数据库做关联的词语,再结合图数据库内容构造线图,加强实体与图数据节点间的关联关系,有助于细化判断邻域节点的依赖关系,并通过词向量模型和BiLSTM模型对自然语言问句字序列和图进行特征表示,生成蕴含有上下文信息的特征张量益于对问句与数据库的语义解析,最后通过编码器增强对图节点中依赖关系的表征输出特征编码,通过解码器输出AQL序列,有效提升了AQL查询语句在图数据库中的执行准确率,降低用户与图数据库的交互门槛。
图3是本申请的一个具体的融合实体识别技术的图数据库检索方法的框架图,参考图3,该实施例中公开的一种融合实体识别技术的图数据库检索方法具体包括以下步骤:
步骤一、为增强语义关联能力,本发明利用实体识别技术分析自然语言查询语句,提取句中的命名实体,引导模型进一步挖掘与实体关联数据的关系信息。首先,定义需识别的命名实体信息,包括人名、地名、组织机构、日期时间以及领域相关的专有名词(例如音乐领域内的音乐类型)。之后,对用户提问的自然语言语句进行分词,得到字序列Q={q
步骤二、为加强实体与数据库信息间的关联描述,本发明引入线图来刻画关联关系,基于实体与图数据库构造线图。(a)将图数据库ArangoDB生成的图记为G,图中节点由数据库的表名T={t
(b)在图G的基础上添加实体信息作为节点,判断实体是否与数据库中内容相匹配,若有匹配关系则新增实体节点与相关联节点的边连接,构成图G
(c)以图G
步骤三、结合自然语言问句Q、图G
W
其中
d表示词向量维度;
之后,将问句序列、图节点和线图节点的词向量特征分别通过3个BiLSTM模型得到对应的特征张量,其中蕴含有丰富的上下文信息。
其中,d
最后,将3种类型的特征张量拼接形成联合特征,作为编码器的输入X。
步骤四、通过编码器获得特征编码。在Encoder-Decoder框架的指导下,选用RGAT(Relational Graph Attention Network)模型作为编码器,深入分析自然语言与图数据库的语义信息,学习线图中不同依赖关系间邻域节点的影响力,挖掘节点的关联信息,增强语义解析能力,输出特征编码Z。
Z=RGAT(X,L(G
步骤五、通过解码器生成AQL序列。选用LSTM作为解码器,将特征编码解码为AQL序列。为保证输出AQL语法的正确性,可以预先定义好带有槽值的AQL模板,通过插槽填充的方式生成AQL语句。
Y=LSTM(Z)
将LSTM模型中最后一层隐藏层状态通过softmax激活函数,选择出当前时刻概率最大的图节点信息作为输出值,填充到槽值模板中生成AQL查询语句。
步骤六,在ArangoDB中执行生成的AQL语句,返回图数据库查询结果。
本申请公开的一种融合实体识别技术的图数据库检索方法,有效提升了AQL查询语句在图数据库中的执行准确率,降低用户与图数据库的交互门槛。
下面参考图4,图4是本申请的一个实施例的融合实体识别技术的图数据库检索系统的框架图,该系统架构包括:命名实体提取模块401,被配置用于接收用户提出的自然语言问句,对所述自然语言问句进行分词以获得字序列,并基于命名实体识别模型提取所述字序列中的命名实体信息,所述命名实体信息包括人名、地名、组织机构、日期时间以及领域相关的专有名词;图构建模块402,被配置用于通过图数据库生成初始图,将所述命名实体信息添加至所述初始图中以构建实体关系图,以所述实体关系图中的所有边作为节点构建线图;特征张量获取模块403,被配置用于通过预训练语言模型将所述字序列、所述实体关系图和所述线图转换为词向量,基于多个BiLSTM模型将对应的词向量转换为蕴含上下文信息的多个特征张量,将多个特征张量进行拼接以获得联合特征;编码模块404,被配置用于将所述联合特征输入编码器进行编码以获得特征编码;解码模块405,被配置用于通过解码器对所述特征编码进行解码以获得AQL序列,通过softmax函数选取概率最大的图节点信息,并将所述图节点信息填充至预设的槽值模板中,获得AQL查询语句;执行模块406,被配置用于基于所述图数据库执行所述AQL查询语句,获得查询结果。
下面参考图5,其示出了适于用来实现本申请实施例的电子设备的计算机系统500的结构示意图。图5示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图5所示,计算机系统500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分509加载到随机访问存储器(RAM)504中的程序而执行各种适当的动作和处理。在RAM 504中,还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 504通过总线505彼此相连。输入/输出(I/O)接口506也连接至总线505。
以下部件连接至I/O接口506:包括键盘、鼠标等的输入部分507;包括诸如液晶显示器(LCD)等以及扬声器等的输出部分508;包括硬盘等的存储部分509;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分510。通信部分510经由诸如因特网的网络执行通信处理。驱动器511也根据需要连接至I/O接口506。可拆卸介质512,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器511上,以便于从其上读出的计算机程序根据需要被安装入存储部分509。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分510从网络上被下载和安装,和/或从可拆卸介质512被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质,该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。
作为另一方面,本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:接收用户提出的自然语言问句,对所述自然语言问句进行分词以获得字序列,并基于命名实体识别模型提取所述字序列中的命名实体信息,所述命名实体信息包括人名、地名、组织机构、日期时间以及领域相关的专有名词;通过图数据库生成初始图,将所述命名实体信息添加至所述初始图中以构建实体关系图,以所述实体关系图中的所有边作为节点构建线图;通过预训练语言模型将所述字序列、所述实体关系图和所述线图转换为词向量,基于多个BiLSTM模型将对应的词向量转换为蕴含上下文信息的多个特征张量,将多个特征张量进行拼接以获得联合特征;将所述联合特征输入编码器进行编码以获得特征编码;通过解码器对所述特征编码进行解码以获得AQL序列,通过softmax函数选取概率最大的图节点信息,并将所述图节点信息填充至预设的槽值模板中,获得AQL查询语句;基于所述图数据库执行所述AQL查询语句,获得查询结果。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
- 一种命名实体识别方法、语言识别方法及系统
- 一种基于多特征融合的空间图像检索系统及检索方法
- 一种融合命名实体识别的军事高技术文本分类方法及系统
- 信息检索系统、信息检索方法、信息检索装置、信息检索程序、图像识别装置、图像识别方法及图像识别程序、以及销售系统