掌桥专利:专业的专利平台
掌桥专利
首页

一种信息生成方法、装置和电子设备

文献发布时间:2023-06-19 12:14:58


一种信息生成方法、装置和电子设备

技术领域

本发明涉及数据处理技术领域,特别是涉及一种信息生成方法、装置和电子设备。

背景技术

目前,很多信息处理过程中均用到了分词;例如搜索系统在接收到搜索词条后,先对搜索词条进行分词,再基于分词结果查找倒排搜索,确定搜索结果。又例如,在进行翻译时,先对待翻译的文本进行分词,再基于分词后的文本进行翻译;等等。

现有技术中,基于词典的方法是常用的分词方法之一,即通过将待处理信息与词典中的词条匹配,对待处理信息进行分词;因此词典到的质量,影响着分词质量。目前大部分词典均是根据词条的词频、词条片段的左右熵等生成的,会将错误的词条或者不规范的词条引入至词典中,词典质量低。

发明内容

本发明实施例提供一种信息生成方法,以生成高质量的词典。

相应的,本发明实施例还提供了一种信息生成装置和一种电子设备,用以保证上述方法的实现及应用。

为了解决上述问题,本发明实施例公开了一种信息生成方法,具体包括:生成初级词典;确定所述初级词典中各词条对应的紧密度;依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

可选地,所述确定所述初级词典中各词条对应的紧密度,包括:针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据;依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度。

可选地,所述词条包括M个分词片段,所述依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度,包括:将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和;依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果;确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数;依据所述第一次数和第二次数,确定所述词条对应的紧密度。

可选地,所述词条包含至少一个紧密度;所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,包括:针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对;将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

可选地,所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,还包括:删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。

可选地,所述生成初级词典,包括:获取多个网页页面的页面内容;对各所述网页页面的页面内容进行分词处理,得到对应的分词片段;依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息;采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。

可选地,所述的方法还包括:基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。

本发明实施例还公开了一种信息生成装置,具体包括:初级词典生成模块,用于生成初级词典;紧密度生成模块,用于确定所述初级词典中各词条对应的紧密度;目标词典生成模块,用于依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

可选地,所述紧密度生成模块,包括:数据获取子模块,用于针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据;紧密度计算子模块,用于依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度。

可选地,所述词条包括M个分词片段,所述紧密度计算子模块,用于将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和;依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果;确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数;依据所述第一次数和第二次数,确定所述词条对应的紧密度。

可选地,所述词条包含至少一个紧密度;所述目标词典生成模块,包括:比对子模块,用于针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对;筛除子模块,用于将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

可选地,所述目标词典生成模块,还包括:删除子模块,用于删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。

可选地,所述初级词典生成模块,具体用于获取多个网页页面的页面内容对各所述网页页面的页面内容进行分词处理,得到对应的分词片段;依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息;采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。

可选地,所述的装置还包括:初级词典扩展模块,用于基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。

本发明实施例还公开了一种可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如本发明实施例任一所述的信息生成方法。

本发明实施例还公开了一种电子设备,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:生成初级词典;确定所述初级词典中各词条对应的紧密度;依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

可选地,所述确定所述初级词典中各词条对应的紧密度,包括:针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据;依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度。

可选地,所述词条包括M个分词片段,所述依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度,包括:将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和;依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果;确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数;依据所述第一次数和第二次数,确定所述词条对应的紧密度。

可选地,所述词条包含至少一个紧密度;所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,包括:针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对;将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

可选地,所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,还包括:删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。

可选地,所述生成初级词典,包括:获取多个网页页面的页面内容;对各所述网页页面的页面内容进行分词处理,得到对应的分词片段;依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息;采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。

可选地,还包含用于进行以下操作的指令:基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。

本发明实施例包括以下优点:

本发明实施例中,可以生成初级词典并确定所述初级词典中各词条对应的紧密度;然后再依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典;进而通过紧密度筛选词条,能够避免将错误的词条或者不规范的词条引入至词典中,从而提高词典的质量。

附图说明

图1是本发明的一种信息生成方法实施例的步骤流程图;

图2是本发明的一种信息生成方法可选实施例的步骤流程图;

图3是本发明的一种信息生成装置实施例的结构框图;

图4是本发明的一种信息生成装置可选实施例的结构框图;

图5根据一示例性实施例示出的一种用于信息生成的电子设备的结构框图;

图6是本发明根据另一示例性实施例示出的一种用于信息生成的电子设备的结构示意图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。

本发明实施例的核心构思之一是,依据词条中相邻片段的紧密程度,筛选出词条生成词典;进而能够避免将错误的词条或者不规范的词条引入至词典中,提高词典的质量。

参照图1,示出了本发明的一种信息生成方法实施例的步骤流程图,具体可以包括如下步骤:

步骤102、生成初级词典。

本发明实施例中,可以按照需求获取所需领域的语料,然后通过对获取的语料进行分词、初步筛选(如根据词频筛选)等处理,生成初级词典。其中,当需要生成全领域的词典时,可以获取全领域语料;当需要生成某一指定领域的词典时,可以获取该指定领域的语料。

步骤104、确定所述初级词典中各词条对应的紧密度。

步骤106、依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

在生成初级词典后,可以针对所述初级词典中的每个词条,计算该词条的紧密度;然后依据各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。其中,所述紧密度可以用于描述词条中相邻片段之间的紧密程度;词条紧密度越高,将该词条拆分为更小的粒度的词条的可能性越小,词条出现错误的可能性越低,词条的规范度越高。相反的,词条紧密度越低,将该词条拆分为更小的粒度的词条的可能性越高,词条出现错误的可能性越高,词条规范度越低。因此本发明实施例可以将初级词典中紧密度低的词条筛除,保留初级词典中紧密度高的词条,生成目标词典,进而能够避免将错误的词条或者不规范的词条引入至词典中,提高词典的质量。

综上,本发明实施例中,可以生成初级词典并确定所述初级词典中各词条对应的紧密度;然后再依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典;进而通过紧密度筛选词条,能够避免将错误的词条或者不规范的词条引入至词典中,从而提高词典的质量。

参照图2,示出了本发明的一种信息生成方法可选实施例的步骤流程图,具体可以包括如下步骤:

本发明实施例中,可以获取多个网页页面的页面内容作为语料,生成初级词典。其中,若需要生成全领域的词典,则可以获取全领域网页页面的页面内容作为语料;若需要生成指定领域的词典,则可以获取指定领域网页页面的页面内容作为语料,本发明实施例对此不作限制。其中,可以参照步骤202-步骤208,生成初级词典。

步骤202、获取多个网页页面的页面内容。

步骤204、对各所述网页页面的页面内容进行分词处理,得到对应的分词片段。

步骤206、依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息。

步骤208、采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成所述指定领域的初级词典。

其中,所述页面内容可以包括页面的正文、标题、摘要等等,本发明实施例对此不作限制。

本发明实施例中,可以先对每个网页页面的页面内容进行分句,再对分句得到的各语句进行分词,来提高分词效率。其中,可以根据标点符号对页面内容进行分句,如根据逗号、句号、感叹号、问号等等,本发明实施例对此不作限制。然后可以从得到所有语句中,统计每个语句的频次并去重;再分别对去重后的每个语句进行分词,得到多个分词片段;其中,对去重后的每个语句进行分词的方式可以包括多种,如采用分词工具对每个语句进行分词,本发明实施例对此不作限制。

本发明的一个示例中,在获得每个语句对应的分词片段后,可以依次将每个语句对应的分词片段中连续M个分词片段进行组合,生成该语句对应的词条;对应的,每一个词条可以包括M个分词片段。本发明的一个示例中,先将M的值设置为1,即可以将该语句的每个分词片段独立作为一个词条。然后可以依次将M的值由1按照设定步长递增至设定值,M每递增一次,可以依次将连续M个分词片段进行组合,生成该语句对应的词条;其中,所述设定步长可以按照需求设置如1设定值可以按照需求设定如4,本发明实施例对此不作限制。M为正整数,M和设定值均小于该语句对应分词片段的总数。例如,若设定值=3,语句“今天天气真好”,被划分为三个分词片段“今天”、“天气”和“真好”。当M为1时,可以得到词条“今天”、“天气”和“真好”;当M=2时,可以得到词条“今天天气”和“天气真好”;当M=3时,可以得到词条“今天天气真好”。

本发明实施例中,在基于多个网页页面的网页内容确定多个词条后,可以确定每个词条的词频和互信息;然后依据各词条的词频和互信息,筛选出部分词条生成初级词典。

本发明的一个示例中,可以针对每个语句对应的每个词条,可以基于该语句的频次,确定该词条在该语句中的词频;然后基于每个词条在每个语句中的频次,统计每个词条在所有语句中词频之和,得到该词条的词频;并对各词条进行去重。

本发明实施例中,所述互信息可以用于描述词条中相邻片段之间的依赖程度;互信息越大,词条成词的可能性越大,相反的,互信息越小,词条成词的可能性越小。本发明的一个示例中,可以将每个词条中M个分词片段划分为前M1个分词片段和后M2个分词片段;所述M=M1+M2,然后可以按照如下表达式计算词条对应的互信息:

其中,MI(M1,M2)为前M1个分词片段和后M2个分词片段的互信息,prob(M1,M2)为语料中出现M1个分词片段和后M2个分词片段相邻的概率,prob(M1)为语料中出现M1个分词片段的概率,prob(M2)为语料中出现M2个分词片段的概率。

本发明的一个示例中,当M大于2时,可以依次将M1由1~(M-1)逐次递增,将词条中M个分词片段划分为前M1个分词片段和后M2个分词片段;然后计算对应的互信息。进而当M大于2时,每个词条可以对应两个及两个以上的互信息;然后可以将词条对应的两个及两个以上互信息的平均值,作为该词条的互信息。当然也可以采用其他方式依据词条对应的两个及两个以上的互信息,确定每个词条对应的互信息,本发明实施例对此不作限制。

然后从所有网页页面的页面内容对应的词条中,筛选出词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。其中,所述第一词频阈值、互信息阈值均可按照需求设置,本发明实施例对此不作限制。

本发明实施例中,若所需生成的指定领域的词典,则可以按照步骤202-步骤208生成指定领域的初级词典,以及按照步骤202-步骤208生成全领域的初级词典。然后针对指定领域的初级词典中的每个词条,依据该词条在指定领域的初级词典中的词频和在全领域的初级词典中的词频,确定该词条在指定领域的初级词典和全领域的初级词典中的差异信息;再将指定领域的初级词典中差异信息低于差异阈值的词条删除。其中,所述差异阈值可以按照需求设置,本发明实施例对此不作限制。本发明的一个示例中,可以按照如下表达式确定每个词条在指定领域的初级词典和全领域的初级词典中的差异信息:

s=pv_site

其中,所述s为词条在指定领域的初级词典和全领域的初级词典中的差异信息。pv_site为词条在全领域的初级词典中的词频,pv_rand为词条在指定领域的初级词典中的词频。

本发明的一个实施例中,在生成初级词典后,还可以对所述初级词典进行扩充,增加词典中词条的全面性。本发明的一个示例中,一种对初级词典进行扩充的方式可以是:基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。本发明的一个示例中,可以基于生成的初级词典,再次对各网页页面的页面内容进行分词;其中,可以基于最大匹配原则对各网页页面的页面内容进行分词,得到对应的分词片段。然后可以确定所述初级词典中不存在的分词片段和对应的词频,将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中;其中,所述第二词频阈值可以按照需求设置,本发明实施例对此不作限制。

然后可以依据步骤210-步骤218,确定初级词典中每个词条的紧密度。

步骤210、针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据。

本发明实施例中通,可以从设定时间段内的用户搜索行为数据中,获取所述初级词典中每个词条对应的用户搜索行为数据;所述设定时间段可以按照需求设置,如最近三个月,本发明实施例对此不作限制。然后依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度,可以参照步骤212-步骤218。

其中,所述用户搜索行为数据包括与用户在搜索过程中执行的操作相关的数据;例如输入的搜索词条,在搜索词条对应搜索结果页面对应点击的搜索结果,等等,本发明实施例对此不作限制。

步骤212、将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和。

步骤214、依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果。

步骤216、确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数。

步骤218、依据所述第一次数和第二次数,确定所述词条对应的紧密度。

本发明实施例中,针对所述初级词典中的每个词条,可以参照上述方式,将该词条划分为前M1个分词片段和后M2个分词片段,在此不再赘述。然从所述词条对应的用户搜索行为数据中,查找包含所述前M1个分词片段与后M2个分词片段,且所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条;以及在所述目标搜索词条的搜索结果页面被点击的目标搜索结果。然后从所有目标搜索结果中,查找标题包含前M1个分词片段与后M2个分词片段的目标搜索结果;从查找到的搜索结果中,确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数。再依据所述第一次数和第二次数,确定所述词条对应的紧密度;可以参照如下表达式:

其中,T(M1,M2)为前M1个分词片段和后M2个分词片段的紧密度,num(M1-M2)确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,num(M1~M2)标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数。

对应的,当M大于2时,该词条可以对应两个及两个以上的紧密度。

然后可以依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典;可以参照步骤218-步骤220:

步骤220、针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对。

步骤222、将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

本发明实施例中,针对所述初级词典中的每个词条,可以确定该词条对应的最小紧密度;然后将最小紧密度与紧密度阈值对比,判断最小紧密度与紧密度阈值的大小。其中,紧密度阈值可以按照需求设置,本发明实施例对此不作限制。若词条的最小紧密度小于紧密度阈值,则将该词条从初级词典中筛除;若词条的最小紧密度大于或等于紧密度阈值,则将该词条保留在初级词典中,最终得到目标词典。

本发明的一个可选实施例中,可以在执行步骤220之前,对初级词典中的词条进行初步筛选;其中,可以包括:删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。其中,所述停用词可以是本身没有明确意义,只有将其放入一个完整的句子中才有意义的词;例如:语气助词、副词、介词、连接词等等,本发明实施例对此不作限制。当然,也可以在执行步骤222中将所述初级词典中紧密度最小值小于紧密度阈值的词条筛除之后,再对初级词典中的词条进行进一步筛选:删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词,进而得到目标词典。

综上,本发明实施例中,可以生成初级词典并确定所述初级词典中各词条对应的紧密度;然后针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对,将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典;进而将分词片段之间紧密度高的词条保留,将分词片段直接紧密度低的词条筛除,能够有效的避免将错误的词条或者不规范的词条引入至词典中,提高词典的质量。

其次,本发明实施例中,还可以删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词;进而将错误的词条或不规范的词条从初级词典中筛除,避免将错误的词条或者不规范的词条引入至词典中,进一步提高词典的质量。

进一步,本发明实施例中,可以针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据,然后依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度;进而通过依据用户搜索行为数据更准确的确定词条的紧密度,从而更有效的避免将错误的词条或者不规范的词条引入至词典中,进一步提高词典的质量。

再次,本发明实施例中,在生成初级词典后,可以基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段,确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中;进而有效的对初级词典进行扩展,增加初级词典中词条的全面性。

需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。

参照图3,示出了本发明的一种信息生成装置实施例的结构框图,具体可以包括如下模块:

初级词典生成模块302,用于生成初级词典;

紧密度生成模块304,用于确定所述初级词典中各词条对应的紧密度;

目标词典生成模块306,用于依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

参照图4,示出了本发明的一种信息生成装置可选实施例的结构框图。

本发明一个可选的实施例中,所述紧密度生成模块304,包括:

数据获取子模块3042,用于针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据;

紧密度计算子模块3044,用于依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度。

本发明一个可选的实施例中,所述词条包括M个分词片段,所述紧密度计算子模块3044,用于将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和;依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果;确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数;依据所述第一次数和第二次数,确定所述词条对应的紧密度。

本发明一个可选的实施例中,所述词条包含至少一个紧密度;所述目标词典生成模块306,包括:

比对子模块3062,用于针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对;

筛除子模块3064,用于将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

本发明一个可选的实施例中,所述目标词典生成模块306,还包括:

删除子模块3066,用于删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。

本发明一个可选的实施例中,所述初级词典生成模块302,具体用于获取多个网页页面的页面内容对各所述网页页面的页面内容进行分词处理,得到对应的分词片段;依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息;采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。

本发明一个可选的实施例中,所述的装置还包括:初级词典扩展模块308,用于基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。

综上,本发明实施例中,可以生成初级词典并确定所述初级词典中各词条对应的紧密度;然后再依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典;进而通过紧密度筛选词条,能够避免将错误的词条或者不规范的词条引入至词典中,从而提高词典的质量。

对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。

图5是根据一示例性实施例示出的一种用于信息生成的电子设备500的结构框图。例如,电子设备500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。

参照图5,电子设备500可以包括以下一个或多个组件:处理组件502,存储器504,电力组件506,多媒体组件508,音频组件510,输入/输出(I/O)的接口512,传感器组件514,以及通信组件516。

处理组件502通常控制电子设备500的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理元件502可以包括一个或多个处理器520来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件502可以包括一个或多个模块,便于处理组件502和其他组件之间的交互。例如,处理部件502可以包括多媒体模块,以方便多媒体组件508和处理组件502之间的交互。

存储器504被配置为存储各种类型的数据以支持在设备500的操作。这些数据的示例包括用于在电子设备500上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。

电力组件506为电子设备500的各种组件提供电力。电力组件506可以包括电源管理系统,一个或多个电源,及其他与为电子设备500生成、管理和分配电力相关联的组件。

多媒体组件508包括在所述电子设备500和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件508包括一个前置摄像头和/或后置摄像头。当电子设备500处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。

音频组件510被配置为输出和/或输入音频信号。例如,音频组件510包括一个麦克风(MIC),当电子设备500处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中,音频组件510还包括一个扬声器,用于输出音频信号。

I/O接口512为处理组件502和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件514包括一个或多个传感器,用于为电子设备500提供各个方面的状态评估。例如,传感器组件514可以检测到设备500的打开/关闭状态,组件的相对定位,例如所述组件为电子设备500的显示器和小键盘,传感器组件514还可以检测电子设备500或电子设备500一个组件的位置改变,用户与电子设备500接触的存在或不存在,电子设备500方位或加速/减速和电子设备500的温度变化。传感器组件514可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件514还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。

通信组件516被配置为便于电子设备500和其他设备之间有线或无线方式的通信。电子设备500可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信部件514经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信部件514还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。

在示例性实施例中,电子设备500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。

在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器504,上述指令可由电子设备500的处理器520执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

一种非临时性计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行一种信息生成方法,所述方法包括:生成初级词典;确定所述初级词典中各词条对应的紧密度;依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

可选地,所述确定所述初级词典中各词条对应的紧密度,包括:针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据;依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度。

可选地,所述词条包括M个分词片段,所述依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度,包括:将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和;依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果;确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数;依据所述第一次数和第二次数,确定所述词条对应的紧密度。

可选地,所述词条包含至少一个紧密度;所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,包括:针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对;将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

可选地,所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,还包括:删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。

可选地,所述生成初级词典,包括:获取多个网页页面的页面内容;对各所述网页页面的页面内容进行分词处理,得到对应的分词片段;依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息;采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。

可选地,所述的方法还包括:基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。

图6是本发明根据另一示例性实施例示出的一种用于信息生成的电子设备600的结构示意图。该电子设备600可以是服务器,该服务器可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,CPU)622(例如,一个或一个以上处理器)和存储器632,一个或一个以上存储应用程序642或数据644的存储介质630(例如一个或一个以上海量存储设备)。其中,存储器632和存储介质630可以是短暂存储或持久存储。存储在存储介质630的程序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务器中的一系列指令操作。更进一步地,中央处理器622可以设置为与存储介质630通信,在服务器上执行存储介质630中的一系列指令操作。

服务器还可以包括一个或一个以上电源626,一个或一个以上有线或无线网络接口650,一个或一个以上输入输出接口658,一个或一个以上键盘656,和/或,一个或一个以上操作系统641,例如Windows ServerTM,Mac OSXTM,UnixTM,LinuxTM,FreeBSDTM等等。

一种电子设备,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:生成初级词典;确定所述初级词典中各词条对应的紧密度;依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典。

可选地,所述确定所述初级词典中各词条对应的紧密度,包括:针对所述初级词典中的每个词条,获取所述词条对应的用户搜索行为数据;依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度。

可选地,所述词条包括M个分词片段,所述依据所述词条对应的用户搜索行为数据,计算所述词条对应的紧密度,包括:将所述词条中的M个分词片段,划分为前M1个分词片段和后M2个分词片段,其中,M、M1和M2均为正数数,M为M1与M2之和;依据所述词条对应的用户搜索行为数据,确定所述前M1个分词片段与后M2个分词片段相邻的目标搜索词条和在所述目标搜索词条的搜索结果页面被点击的目标搜索结果;确定标题中前M1个分词片段与后M2个分词片段相邻的目标搜索结果被点击的第一次数,和标题中前M1个分词片段与后M2个分词片段不相邻的目标搜索结果被点击的第二次数;依据所述第一次数和第二次数,确定所述词条对应的紧密度。

可选地,所述词条包含至少一个紧密度;所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,包括:针对所述初级词典中的每个词条,将所述词条对应的最小紧密度与紧密度阈值比对;将所述初级词典中最小紧密度小于紧密度阈值的词条筛除,得到目标词典。

可选地,所述依据所述初级词典中各词条的紧密度对所述初级词典中的词条进行筛选,生成目标词典,还包括:删除所述初级词典中长度超过预设长度的词条;和/或,删除所述初级词典中的停用词。

可选地,所述生成初级词典,包括:获取多个网页页面的页面内容;对各所述网页页面的页面内容进行分词处理,得到对应的分词片段;依次将连续的M个分词片段组合为一个词条,并确定各词条的词频和互信息;采用词频高于第一词频阈值且互信息高于互信息阈值的词条,生成初级词典。

可选地,还包含用于进行以下操作的指令:基于所述初级词典,采用最大匹配原则对各所述网页页面的页面内容进行分词处理,得到对应分词片段;确定所述初级词典中不存在的分词片段对应的词频,并将所述初级词典中不存在的且词频高于第二词频阈值的分词片段添加至所述初级词典中。

本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。

本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。

最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。

以上对本发明所提供的一种信息生成方法、一种信息生成装置和一种电子设备,进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

相关技术
  • 标注信息的生成方法、标注信息的生成装置和电子设备
  • 信息信号处理装置、信息信号处理方法、图像信号处理装置及使用它的图像显示装置、其使用的系数种类数据生成装置及生成方法,系数数据生成装置及生成方法,以及信息提供媒体
技术分类

06120113228328