掌桥专利:专业的专利平台
掌桥专利
首页

查询语句的语法检查方法和装置

文献发布时间:2023-06-19 11:32:36


查询语句的语法检查方法和装置

技术领域

本公开属于大数据技术领域,更具体地,涉及一种查询语句的语法检查方法和装置、一种电子设备、以及一种计算机可读存储介质。

背景技术

在编写SQL(structured query langue,结构化查询语言)进行数据查询的过程中,有时会涉及多个数据表关联查询数据的情况。若在关联过程中,没有指定关联条件或关联条件无效,则最终的结果集将是多个表记录组成的笛卡尔积。笛卡尔积是一个全量的结果,包含了大量未过滤的无效记录。大量的笛卡尔积查询,会消耗数据库资源,影响数据库响应速度。因此,有必要检查对查询语句中可能存在的笛卡尔积进行检查。

在实现本公开构思的过程中,发明人发现现有技术中至少存在如下问题:现有技术中检查查询语句中是否存在笛卡尔积时,通常仅检查关联查询的数据表大小以及是否带有关联条件,检查方式单一、不够灵活。

发明内容

有鉴于此,本公开实施例提供了一种更为灵活的查询语句的语法检查方法和装置、一种电子设备、以及一种计算机可读存储介质。

本公开实施例的一个方面提供了一种查询语句的语法检查方法。该检查方法包括获取待检查的查询语句,以及对所述查询语句中的每一个关联查询操作进行语法检查。其中,语法检查的过程包括:获取所述关联查询操作的M个操作对象的信息,其中M为大于或等于2的整数;基于每个所述操作对象的信息,确定每个所述操作对象的类型为数据表或者子查询;基于与每个所述操作对象的类型对应的判断规则,确定每个所述操作对象的查询结果的类型是大结果集或者小结果集;以及基于M个所述操作对象的查询结果的类型,检查所述关联查询操作的语法中的笛卡尔积的存在情况。

根据本公开的实施例,所述基于与每个所述操作对象的类型对应的判断规则,确定每个所述操作对象的查询结果的类型是大结果集或者小结果集包括:在所述操作对象为数据表时,从白名单信息中查找所述操作对象的信息;当从白名单信息中查找到所述操作对象的信息时,确定所述操作对象的查询结果为小结果集;以及当从白名单信息中找不到所述操作对象的信息时,确定所述操作对象为大结果集。

根据本公开的实施例,所述方法还包括通过以下多种方式中的至少之一获取所述白名单信息:从用于缓存符合预定热度和预定数据量条件的数据表的缓存队列中获取所述白名单信息;从配置文件中读取所述白名单信息;通过远程服务接口调用用户添加的表名,得到所述白名单信息;从数据库中用于记录该数据库中的小表的数据表中查询小表的表名或者小表的命名格式信息,得到所述白名单信息;以及从分布式数据库的表元数据信息中根据实时更新的各个数据表的数据量与预设阈值的比较,确定所述白名单信息。

根据本公开的实施例,所述在所述操作对象为数据表时,从白名单信息中查找所述操作对象的信息包括:从所述缓存队列中查询所述操作对象的表名;当从所述缓存队列查询到所述操作对象的表名时,确定所述操作对象的查询结果为小结果集,并将所述操作对象对应的数据表移动至所述缓存队列的头部;以及当所述缓存队列中没有查询到所述操作对象时,从通过所述缓存队列以外的其他方式获取到的所述白名单信息中查找所述操作对象的信息。

根据本公开的实施例,所述基于与每个所述操作对象的类型对应的判断规则,确定每个所述操作对象的查询结果的类型是大结果集或者小结果集包括:在所述操作对象为子查询时,从所述操作对象的语句中查找过滤条件语句;在查找到过滤条件语句且该过滤条件语句合法时,确定所述操作对象的查询结果为所述小结果集;以及在查找不到过滤条件语句、或者查找到的过滤条件语句不合法时,确定所述操作对象的查询结果为所述大结果集。

根据本公开的实施例,所述基于M个所述操作对象的查询结果的类型,检查所述关联查询操作的语法中的笛卡尔积的存在情况包括:当M个所述操作对象的查询结果的类型符合与所述关联查询操作对应的笛卡尔积排除条件时,确定所述所述关联查询操作的语法中不存在笛卡尔积;否则,确定所述关联查询操作的语法中存在笛卡尔积。所述关联查询操作包括join操作或union操作;其中,join操作和union操作各自对应的笛卡尔积排除条件不同。

根据本公开的实施例,当所述关联查询操作为join操作时,所述与所述关联查询操作对应的笛卡尔积排除条件包括:M个所述操作对象的查询结果的类型中至少一个为所述小结果集;或者M个所述操作对象的查询结果的类型均为大结果集时,该join操作中存在对M个所述操作对象的合法的关联条件。

根据本公开的实施例,所述基于M个所述操作对象的查询结果的类型,检查所述关联查询操作的语法中的笛卡尔积的存在情况包括:当M个所述操作对象的查询结果的类型均大结果集时,查找所述join操作对M个所述操作对象的关联条件;当查找到合法的关联条件时,确定所述join操作的语法中不存在笛卡尔积;以及当查找不到关联条件、或者查找到的关联条件不合法时,确定所述join操作的语法中存在笛卡尔积。

根据本公开的实施例,当所述关联查询操作为union操作时,所述与所述关联查询操作对应的笛卡尔积排除条件包括:M个所述操作对象的查询结果的类型均为所述小结果集。根据本公开的实施例,所述基于M个所述操作对象的查询结果的类型,检查所述关联查询操作的语法中的笛卡尔积的存在情况还包括:当M个所述操作对象的查询结果的类型包括大结果集时,确定所述关联查询操作的语法中存在笛卡尔积。

根据本公开的实施例,所述方法还包括解析所述查询语句,得到抽象语法树。所述获取所述关联查询操作的M个操作对象的信息还包括遍历所述抽象语法树中的每一个关联查询操作的节点;以及基于每个所述关联查询操作的节点的子节点,得到M个所述操作对象的节点。

本公开实施例的另一方面,提供了一种查询语句的语法检查装置。所述装置包括语句获取模块以及扫描分析模块。语句获取模块用于获取待检查的查询语句。扫描分析模块用于对所述查询语句中的每一个关联查询操作进行语法检查。扫描分析模块包括第一获取子模块、第一确定子模块、结果集判断子模块、以及检查子模块。第一获取子模块用于获取所述关联查询操作的M个操作对象的信息,其中M为大于或等于2的整数。第一确定子模块用于基于每个所述操作对象的信息,确定每个所述操作对象的类型为数据表或者子查询。结果集判断子模块用于基于与每个所述操作对象的类型对应的判断规则,确定每个所述操作对象的查询结果的类型是大结果集或者小结果集。检查子模块用于基于M个所述操作对象的查询结果的类型,检查所述关联查询操作的语法中的笛卡尔积的存在情况。

根据本公开的实施例,所述装置还包括白名单模块。所述白名单模块用于通过以下多种方式中的至少之一获取所述白名单信息:从用于缓存符合预定热度和预定数据量条件的数据表的缓存队列中获取所述白名单信息;从配置文件中读取所述白名单信息;通过远程服务接口调用用户添加的表名,得到所述白名单信息;从数据库中用于记录该数据库中的小表的数据表中查询小表的表名或者小表的命名格式信息,得到所述白名单信息;以及从分布式数据库的表元数据信息中根据实时更新的各个数据表的数据量与预设阈值的比较,确定所述白名单信息。

根据本公开的实施例,所述装置还包括解析模块。所述解析模块用于在所述对所述查询语句中的每一个关联查询操作进行语法检查之前,解析所述查询语句,得到抽象语法树。第一获取子模块还用于遍历所述抽象语法树中的每一个关联查询操作的节点,以及基于每个所述关联查询操作的节点的子节点,得到M个所述操作对象的节点。

本公开实施例的另一方面提供了一种电子设备。所述电子设备包括一个或多个存储器、以及一个或多个处理器。所述存储器存储有可执行指令。所述处理器执行所述可执行指令以实现如上所述的方法。

本公开实施例的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。

本公开实施例的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。

上述一个或多个实施例具有如下优点或益效果:可以区分关联查询操作的操作对象是数据表或者子查询的不同情形,按照对应的判断规则去判断每个所述操作对象的查询结果的类型是大结果集或者小结果集,进而根据关联查询操作的语法特征来判断一个关联查询操作中是否存在笛卡尔积,从而提供了更为灵活的笛卡尔积检查方案。

附图说明

通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:

图1示意性示出了根据本公开实施例的查询语句的语法检查方法的流程图;

图2示意性示出了根据本公开实施例的检查join操作的语法中的笛卡尔积的多种情形的示意;

图3示意性示出了根据本公开实施例的检查union操作的语法中的笛卡尔积的多种情形的示意;

图4示意性示出了根据本公开一实施例的确定关联查询操作的操作对象的查询结果的类型的流程图;

图5示意性示出了根据本公开一实施例的白名单信息的来源示意;

图6示意性示出了根据本公开另一实施例的确定关联查询操作的操作对象的查询结果的类型的流程图;

图7示意性示出了根据本公开再一实施例的确定关联查询操作的操作对象的查询结果的类型的流程图;

图8示意性示出了根据本公开一实施例的遍历抽象语法树以检查笛卡尔积的流程图;

图9示意性示出了根据本公开实施例的查询语句的语法检查装置的框图;以及

图10示意性示出了适于实现根据本公开实施例的语法检查方法的电子设备的方框图。

具体实施方式

以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

随着数字经济的发展,每天都有大量的基于数据库的数据分析需求。若有大量产生笛卡尔积的查询,则必然会影响整个分析的效率。现有技术中通过检查关联查询的数据表大小以及是否带有关联条件的方式检查笛卡尔积,有比较大的局限性,一方面,在某些业务场景下,部分参数表、字典表都是数据量比较小的表,这些数据表之间关联查询时即使存在所谓的笛卡尔积,数据查询量并不大,对数据库系统的影响是较小的,这种情况下其实可以认为没有笛卡尔积,这样可以使查询正常推进,并且减少开发人员修复代码的工作量。另一方面,在实际开发过程中,关联查询的操作对象不一定全部是数据表,还有可能是子查询等,而现有技术中仅能够适用于关联查询的操作对象为两个数据表的情况,无法适用于关联查询的操作对象包括子查询的情形。

有鉴于此,本公开提供了一种更为灵活的查询语句的语法检查方法、装置、电子设备、及介质,可以区分关联查询操作的操作对象是数据表或者子查询的不同情形,按照对应的判断规则去判断每个操作对象的查询结果的类型是大结果集或者小结果集,进而根据关联查询操作的语法特征来判断一个关联查询操作中是否存在笛卡尔积。

具体地,根据本公开实施例的方法可以包括首先获取待检查的查询语句,然后对查询语句中的每一个关联查询操作进行语法检查。其中,对每一个关联查询操作进行语法检查的过程包括,首先获取关联查询操作的M个操作对象的信息,其中M为大于或等于2的整数;然后基于每个操作对象的信息,确定每个操作对象的类型为数据表或者子查询;接下来基于与每个操作对象的类型对应的判断规则,确定每个操作对象的查询结果的类型是大结果集或者小结果集;以及基于M个操作对象的查询结果的类型,检查关联查询操作的语法中的笛卡尔积的存在情况。

根据本公开的实施例,操作对象的查询结果指的是关联查询操作中从每个操作对象中获得的结果。其中,关联查询操作是将要关联的M个操作对象的查询结果进行关联,得到该关联查询操作的查询结果。

根据本公开的实施例,小结果集和大结果集是根据一个操作对象(数据表或子查询)的查询结果的数据量是否预期可控所作的分类。

例如,对于数据量较小的数据表(可以简称为小表),即使进行全量查询,所得的查询结果也属于小结果集。或者,若子查询中具有合法的过滤条件语句(例如,where过滤条件),则所得的查询结果也属于小结果集。

再例如,对于数据量范围较大(具体标准根据实际需要定义)的数据表(可以简称为大表)进行查询操作时,所得的查询结果可以认为属于大结果集。或者,一个关联查询操作中的子查询中没有过滤条件、或者即使有过滤条件但是过滤条件不合法时,所得的查询结果也可以认为属于大结果集。

小表和大表的判别标准或方式可以根据实际需求来确定。根据公开的一些实施例,可以通过一个数据表是否属于白名单信息来确定一个数据表是否属于小表。

本公开的实施例,在确定了一个关联查询操作的操作对象(即,数据表或子查询)是大结果集还是小结果集之后,结合该关联查询操作的语法特征进一步分析确定,该关联查询操作的查询结果的数据量是否预期可控,以此来确定该关联查询操作的语法中是否存在笛卡尔积。

需要说明的是,本公开实施例确定的查询语句的语法检查方法和装置可用于金融领域,也可用于除金融领域之外的任意领域,本公开对应用领域不做限定。

图1示意性示出了根据本公开实施例的查询语句的语法检查方法的流程图。

如图1所示,根据该实施例的查询语句的语法检查方法可以包括操作S110~操作S150。

在操作S110,获取待检查的SQL查询语句。

在操作S120,对查询语句中的每一个关联查询操作,获取关联查询操作的M个操作对象的信息,其中M为大于或等于2的整数。

在SQL语言中,一个关联查询操作例如可以是join操作,或者union操作,其中union操作可以分为union和union all两种,在本公开实施例统称为union操作。其中,join操作通常可以关联两个操作对象(例如,数据表、或者子查询)。union操作通常也关联两个操作对象。当然,本公开实施例并不限定于此,本公开也可以适用于查询语言未来可能出现的其他关联查询操作语句及情形。

根据本公开的一些实施例,可以通过解析查询语句,得到抽象语法树;然后遍历抽象语法树中的每一个关联查询操作的节点,并基于每个关联查询操作的节点的子节点,得到M个操作对象的节点。以此方式,得到每个关联查询操作的M个操作对象的信息。

在操作S130,基于每个操作对象的信息,确定每个操作对象的类型为数据表或者子查询。

在操作S140,基于与每个操作对象的类型对应的判断规则,确定每个操作对象的查询结果的类型是大结果集或者小结果集。

在操作S150,基于M个操作对象的查询结果的类型,检查关联查询操作的语法中的笛卡尔积的存在情况。

具体地,操作S150中的检查结果可以是,当M个操作对象的查询结果的类型整体符合与所述关联查询操作对应的笛卡尔积排除条件时,确定所述所述关联查询操作的语法中不存在笛卡尔积;否则,确定该关联查询操作的语法中存在笛卡尔积。

其中,对于关联查询操作是join操作还是union操作,对应的笛卡尔积排除条件有所不同。对此,可以参考如下图2和图3的介绍。

图2示意性示出了根据本公开实施例的检查join操作的语法中的笛卡尔积的多种情形的示意。图2中(a)、(b)、(c)三部分分别示意了三种以join为父节点的抽象语法树局部结构。

首先参考图2中(a)和(b),根据本公开的一个实施例,当关联查询操作为join操作时,与关联查询操作对应的笛卡尔积排除条件可以是M个操作对象的查询结果的类型中至少一个为小结果集。因为join操作的查询数据量是由操作对象中查询量最小的那部分结果决定的。即图2中(a)和(b)所示join操作中,可以不考虑是否存在关联条件,而直接认定不存在笛卡尔积。

例如,假设图2(b)中join所操作的左节点小结果集是从一个小表(例如,仅有50条记录的数据表)提取数据,右节点是从一个大表(例如,有100万条记录的数据表)提取数据。对于这种情况,无论该join操作是否存在对该小表和大表的关联条件(即,

接下来参考图2(c),根据本公开另一实施例,关联查询操作为join操作时,如果M个操作对象的查询结果的类型均为大结果集时,也不意味着一定就存在笛卡尔积。在这种情况下,与join操作对应的笛卡尔积排除条件还进一步包括该join操作的语法中存在合法的关联条件。

如图2(c)所示,可以从抽象语法树中查找以join操作为父节点的分支结构中是否存在on节点。如果存在,则进一步分析该on节点下属的关联条件是否合法有效。合法的关联条件,即能对两张表的关联数据起到过滤作用的条件,如:表1.列名1=表2.列名1AND表1.列名2=表2.列名2。在合法条件下进行的关联查询操作,不判定为有笛卡尔积产生。非合法条件,即始终为真且不具有过滤记录数量的条件,如:1=1OR(其他条件),表名.列名=表名.列名等。根据本公开的实施例,当Join操作的多个操作对象的查询结果的类型均为大结果集时,可以通过进一步查找join操作中对该多个操作对象的关联条件,当查找到合法的关联条件时,确定join操作的语法中不存在笛卡尔积。若查找不到关联条件、或者查找到的关联条件不合法时,确定join操作的语法中存在笛卡尔积。

图3示意性示出了根据本公开实施例的检查union操作的语法中的笛卡尔积的多种情形的示意。图3中(a)、(b)、(c)三部分分别示意了三种以union为父节点的抽象语法树局部结构。

首先参考图3(a),根据本公开的实施例,当关联查询操作为union操作时,与关联查询操作对应的笛卡尔积排除条件包括:M个操作对象的查询结果的类型均为小结果集。从而,如图3(a)所示的union操作不存在笛卡尔积。相应地,图3(b)和(c)union操作的操作对象中至少有一个的查询结果属于大结果集,union操作存在笛卡尔积。

这是因为union操作是将操作对象(数据表或子查询)所查到的结果合并在一起。因此,如果union操作的操作对象的查询结果类型包括有大结果集,这意味着该union操作的查询结果的数据量必然要超过该大结果集的数据量,由此该union操作的查询结果的数据量预期不可控。

由此可见,根据本公开实施例的方法,对关联查询操作的语法进行笛卡尔积查询时更为灵活多样,减少因产生笛卡尔积的查询语句对数据库资源的占用。

图4示意性示出了根据本公开一实施例的操作S140中确定关联查询操作的操作对象的查询结果的类型的流程图。图4针对的是操作对象为数据表时确定操作对象的查询结果的类型的情形。

如图4所示,根据该实施例操作S140可以包括操作S441~操作S444。

首先在操作S441,在操作对象为数据表时,从白名单信息中查找操作对象的信息。

然后在操作S442,确定从白名单信息中是否查找到操作对象的信息。若查找到则执行操作S443,若没有查找到则执行操作S444。

在操作S443,当从白名单信息中查找到操作对象的信息时,确定操作对象的查询结果为小结果集。

在操作S444,当从白名单信息中找不到操作对象的信息时,确定操作对象的查询结果为大结果集。

本公开实施例可以通过白名单机制,对关联查询操作中涉及的数据表的查询量是否预期可控,给出了一种判别措施。

图5示意性示出了根据本公开一实施例的白名单信息的来源示意。

如图5所示,根据该实施例的白名单信息501可以来自于缓存队列511、配置文件512、远程服务接口513、数据库514或者表元数据515中的任意至少一个。

具体地,例如可以从用于缓存符合预定热度和预定数据量条件的数据表的缓存队列511中获取白名单信息501。一般在数据库查询中往往会将一些数据量不大、但查询频繁的数据表(通常称为热表)放在缓存中,方便快速查询。从而,本公开实施例可以利用该机制,将缓存队列511中的数据表名作为白名单信息501的来源。

又例如,可以从配置文件512中读取白名单信息501。配置文件512例如可以是多种格式的文件,包括但不限于JSON、XML、CSV等。用户可以将符合条件的或者指定的小表的表名写进配置文件中,然后在操作S443中可以从配置文件512中读取这些表名,得到白名单信息501。

再例如,可以通过远程服务接口513调用用户添加的表名,得到白名单信息501。一些用户可以在自己的设备本地维护有可以作为白名单信息的表名,然后提供远程服务接口供调用。这样,在操作S443中可以通过远程服务接口调用的方式读取其中的表名。

再例如,可以从数据库514中用于记录该数据库中的小表的数据表中查询小表的表名或者小表的命名格式信息,得到白名单信息501。例如,数据库开发人员或者维护人员在数据库中维护有专门用于记录该数据库中的小表的数据表,从而在操作S443中可以通过与数据库514连接的方式,查询该数据库514中的记录小表的数据表中的信息来得到白名单信息501。其中,实际应用中,不同的数据库中对小表的记录方式可能有不同,例如有的数据库可能以特定的命名格式区分小表,这样在操作S443中白名单信息501中可以记录小表的命名格式,从而如果某个数据表的命名格式符合小表的命名格式,就可以认为该数据表属于小表,对应该表的查询结果即为小结果集。根据本公开的另一些实施例,还可以通过对集群名、数据库类型、schema名、库名、表名、用户名等多个维度的特定设置,来匹配多种异构数据源、多集群场景下的白名单信息。

还例如,可以从分布式数据库的表元数据信息515中根据实时更新的各个数据表的数据量与预设阈值的比较,确定白名单信息501。例如,在执行操作S430时可以连接到对应的HDFS中的表元数据信息,从中查询待检查的表的实际大小,然后与阈值比较确定该待检查的表是否为小表。对于Hive、HBase等底层基于HDFS的产品,通过直接查询HDFS上数据文件大小,即可实时获取表大小信息。通过设置一个大小阈值,通过比较表的实际大小与阈值,区分大小表。不同的方式通过开关切换,以灵活使用白名单信息501。通过结合数据库元数据信息,获取表格数据量的动态数据,动态控制对大小表的判断。

根据本公开的一个实施例,操作S441中在操作对象为数据表时,从白名单信息501中查找操作对象的信息时,可以首先从缓存队列511中查询操作对象的表名。当从缓存队列查询到操作对象的表名时,确定操作对象的查询结果为小结果集,并可以将操作对象对应的数据表移动至缓存队列的头部(这表明该表的热度增加,所以提前到队列头部)。当缓存队列511中没有查询到操作对象的表名时,从可以通过图5中除缓存队列511以外的其他方式来获取白名单信息,以确定作为操作对象的数据表的查询结果是否为小结果集。

根据本公开实施例,可以在查询语句即将运行之前进行语法检查。这个时候先从缓存队列来获取白名单信息,若查找到则说明找到的数据表热度较高,并可以在该查询语句运行时直接从缓存队列中读取该表的数据。

本公开实施例提供了白名单信息更细粒度的配置方法,可以满足不同用户、不同情形下对白名单规则的不同需求。白名单信息可以采用限量缓存、剔除老数据策略,通过参数配置限量数量大小,对小数据量表名、参数表表名等可进行笛卡尔积查询的表名进行缓存。

图6示意性示出了根据本公开另一实施例的操作S140确定关联查询操作的操作对象的查询结果的类型的流程图。图6示意的是针对述操作对象为子查询时的情形。

如图6所示,根据本公开实施例操作S140可以包括操作S641~操作S645。

首先在操作S641,在操作对象为子查询时,从操作对象的语句中查找过滤条件语句(例如,where条件语句)。

然后在操作S642,确定是否查找到过滤条件语句。若查找到则执行操作S643,若没有查找到则执行操作S645。

在操作S643,当查找到过滤条件语句时,判断该过滤条件语句是否合法。若合法则执行操作S644,若不合法则执行操作S645。

在操作S644,若查找到过滤条件语句且该过滤条件语句合法时,确定操作对象的查询结果为小结果集。

在操作S645,在查找不到过滤条件语句、或者查找到的过滤条件语句不合法时,确定操作对象的查询结果为大结果集。

图7示意性示出了根据本公开再一实施例的确定关联查询操作的操作对象的查询结果的类型的流程图。

如图7所示,该流程可以包括步骤S701~步骤S713。

步骤S701:判断当前抽象语法树节点的类型是否是标识符类型。在该实施例中,标识符类型的节点代表的操作对象为数据表。若是,则跳转至步骤S702;若否,跳转至步骤S710。

步骤S702:判断该表名是否已经存在于用于保存小表的缓存队列510中。若是,则执行步骤S703;若否,跳转至步骤S704。

步骤S703:将数据表移动至缓存队列头部。

步骤S704:通过远程调用服务(例如,RPC、Restful、服务化接口方式)等方式查询白名单配置中是否存在该表名。若是,跳转至步骤S705;若否,则判定为大表。

步骤S705:准备将新表添加到缓存队列。缓存队列有容量限制,在添加新表时,先判断缓存队列是否已满。若是,则执行步骤S706;若否,执行步骤S707。

步骤S706:位于缓存队列队尾的表,认为是被访问次数较小的表,当队列已满时,移除位于队尾的表。跳转至步骤S707。

步骤S707:在队头插入新加入的表。

步骤S708:在队列中的表,判定为小表。

步骤S709:不在队列中的表,判定为大表。

步骤S710:对于节点类型非标识符的节点,判断是否是select子查询节点。若是,跳转至步骤S711。若否,跳转至步骤S712。

步骤S711:判断select子查询节点中是否有合法的where条件,即能对select中的表进行筛选的条件。若是,跳转至步骤S712。若否,跳转至步骤S713。

步骤S712:对于非标识符节点,判定为小结果集。

步骤S713:对于非标识符节点,判定为大结果集。

图8示意性示出了根据本公开一实施例的遍历抽象语法树以检查笛卡尔积的流程图。

如图8所示,该流程可以包括步骤S801~步骤S807。

步骤S801:遍历抽象语法树的节点。遍历采用深度优先或广度优先搜索的方式,保证每一个节点都能被遍历到。

步骤S802:若当前节点是join节点,则跳转至步骤S805。若不是,则执行步骤S803。

步骤S803:若当前节点是union节点,则跳转至步骤S805。若不是,则执行步骤S804

步骤S804:对于非join、union节点的其他节点类型,获取子节点列表。若存在子节点,则返回步骤S801。否则,遍历完成,结束整个流程。

步骤S805:利用图7示例的判断流程,对join节点和union节点的左右子节点进行结果集大小的判断。

步骤S806:左右子节点的结果集大小是否满足如下规则:父节点是join节点,左右子节点均为大表或大结果集;父节点是union节点,左右子节点至少有一个为大结果集。若满足上述规则,执行步骤S807。若不满足,则返回步骤S801。

步骤S807:将满足大表或大结果集的节点信息加入最终结果集中,整个流程最终结束后,结果集返回给维护人进行笛卡尔积的判断处理。节点信息通常包含:节点所在SQL语句的行号、列号、节点对应的SQL语句片段。

图9示意性示出了根据本公开实施例的查询语句的语法检查装置900的框图。

如图9所示,根据本公开实施例的查询语句的语法检查装置900可以包括语句获取模块910、以及扫描分析模块920。根据本公开另一些实施例,该装置900还可以进一步包括白名单模块930、和/或解析模块940。该装置900可以用于实现参考图1~图8所描述的查询语句的语法检查方法。

语句获取模块910用于获取待检查的查询语句。

扫描分析模块920用于对查询语句中的每一个关联查询操作进行语法检查。在一个实施例中,扫描分析模块920可以遍历生成的抽象语法树,从根节点出发,遍历所有节点。

当遍历到join节点,则判断左右两边子节点的查询结果属于大结果集还是小结果集,然后依据分析规则,分析是否存在笛卡尔积的情况。基本规则是:若join节点两边子节点均为表名,检查是否存在小表(对应的查询结果属于小结果集)。若join节点两边子节点存在小表,则不判定为笛卡尔积;若不存在小表,则需要检查该join操作是否有on关联条件,且关联条件必须是合法条件,即能对两张表的关联数据起到过滤作用的条件。若join节点两边子节点非表名的节点,则如下几种情况,视为有笛卡尔积存在:大表join大结果集、大结果集join大结果集。

当遍历到union节点,union两边的节点视为独立的语法树根节点,则判断左右两边子节点中若有一个属于大结果集或者大表,则认为存在笛卡尔积。

具体地,扫描分析模块920可以包括第一获取子模块921、第一确定子模块922、结果集判断子模块923、以及检查子模块924。

第一获取子模块921用于获取关联查询操作的M个操作对象的信息,其中M为大于或等于2的整数。

第一确定子模块922用于基于每个操作对象的信息,确定每个操作对象的类型为数据表或者子查询。

结果集判断子模块923用于基于与每个操作对象的类型对应的判断规则,确定每个操作对象的查询结果的类型是大结果集或者小结果集。具体地,例如可以针对抽象语法树中关联操作的子节点,分析节点类型,返回是否是大结果集。对于节点类型是标识符的(即表名),通过查询白名单信息,若查询到标记为小结果集,否则标记为大结果集。对于节点类型非标识符的,则判定子查询是否有合法的where条件进行筛选,若有,则标记为小结果集。否则,标记为大结果集。

检查子模块924用于基于M个操作对象的查询结果的类型,检查关联查询操作的语法中的笛卡尔积的存在情况。

根据本公开的实施例,白名单模块930用于通过以下多种方式中的至少之一获取白名单信息:从用于缓存符合预定热度和预定数据量条件的数据表的缓存队列中获取白名单信息;从配置文件中读取白名单信息;通过远程服务接口调用用户添加的表名,得到白名单信息;从数据库中用于记录该数据库中的小表的数据表中查询小表的表名或者小表的命名格式信息,得到白名单信息;以及从分布式数据库的表元数据信息中根据实时更新的各个数据表的数据量与预设阈值的比较,确定白名单信息。

根据本公开的实施例,解析模块940用于在对查询语句中的每一个关联查询操作进行语法检查之前,解析查询语句,得到抽象语法树。第一获取子模块还用于遍历抽象语法树中的每一个关联查询操作的节点,以及基于每个关联查询操作的节点的子节点,得到M个操作对象的节点。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。

例如,语句获取模块910、扫描分析模块920、白名单模块930、解析模块940、第一获取子模块921、第一确定子模块922、结果集判断子模块923、以及检查子模块924中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,语句获取模块910、扫描分析模块920、白名单模块930、解析模块940、第一获取子模块921、第一确定子模块922、结果集判断子模块923、以及检查子模块924中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,语句获取模块910、扫描分析模块920、白名单模块930、解析模块940、第一获取子模块921、第一确定子模块922、结果集判断子模块923、以及检查子模块924中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。

图10示意性示出了适于实现根据本公开实施例的语法检查方法的电子设备1000的方框图。图10示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。

如图10所示,根据本公开实施例的电子设备1000包括处理器1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 1003中,存储有电子设备1000操作所需的各种程序和数据。处理器1001、ROM 1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM1003中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例,电子设备1000还可以包括输入/输出(I/O)接口1005,输入/输出(I/O)接口1005也连接至总线1004。电子设备1000还可以包括连接至I/O接口1005的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。

根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。

根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行本公开实施例所提供的方法的程序代码,当计算机程序产品在电子设备上运行时,该程序代码用于使电子设备实现本公开实施例所提供的图像识别方法。

在该计算机程序被处理器1001执行时,执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分1009被下载和安装,和/或从可拆卸介质1011被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。

根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

相关技术
  • 查询语句的语法检查方法和装置
  • 对MPEG-4AVC高层编码中CAVLC4:4:4帧内、高4:4:4帧内和高4:4:4预测简档使用针对CODED_BLOCK_FLAG语法元素和CODED_BLOCK_PATTERN语法元素的语法的方法和装置
技术分类

06120112965909