一种信息处理方法和装置

技术领域

本发明涉及计算机技术领域，尤其涉及一种信息处理方法和装置。

背景技术

随着时代的发展，人们物质文化水平的提高，人们对于物品的质量要求越来越高，为了保证提供优质的物品，需要专门的质量管控人员严格把控物品的质量。质控人员首先收集消费者反馈的物品质量问题，然后把这些问题汇总归类，并把问题反馈给物品生产商，最后生产商根据具体的问题来改进物品。当下，人们的消费行为由线下转为线上，对物品质量问题的抱怨也转为线上，如以物品评论等形式体现。如今，质量管控人员主要是根据反馈文本，来对物品质量问题进行归纳分类。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：

现在，对于物品质量问题的分类，主要依赖于质量管控人员，浏览大量的消费者评论、申诉等文本，进行人工归纳总结。一方面，该方式需要投入大量的人力去完成。另一方面，人的精力有限，每天文本浏览量有限，导致效率较低。

发明内容

有鉴于此，本发明实施例提供一种信息处理方法和装置，能够解决现有物品质量问题的分类主要依赖于人工，成本高且效率低的问题。

为实现上述目的，根据本发明实施例的一个方面，提供了一种信息处理方法，包括获取待处理文本信息，进行分词处理，以提取M个关键词；输入M个关键词至已训练好的词向量模型中，得到M个词向量，以对M个词向量进行聚类生成N个近义词集合；基于N个近义词集合，将所述待处理文本信息转换成N维向量，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。

可选地，获取待处理文本信息，以进行分词处理，包括：

获取待处理文本信息，删除所述文本信息中存在的属于预设字符类型的内容，完成对待处理文本的预处理；

确定分词工具，对预处理后的文本信息进行分词处理。

可选地，提取M个关键词，包括：

对每个分词通过tf-idf算法计算重要性数值，根据所述重要性数值从大到小对分词进行排序；

提取前M个分词，作为关键词。

可选地，包括：

所述的词向量模型为word2vec模型；其中，输出词特征向量的维度为100，当前词和预测词之间的最大距离为4。

可选地，对M个词向量进行聚类生成N个近义词集合，包括：

通过K均值聚类算法，对M个词向量聚合成N类，进而生成N个近义词集合。

可选地，基于N个近义词集合，将所述待处理文本信息转换成N维向量，包括：

判断所述待处理文本信息中是否具有近义词集合N

可选地，还包括：

基于密度的聚类算法，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果；

通过计算余弦相似度，进而评估所述分类结果。

另外，根据本发明实施例的一个方面，提供了一种信息处理装置，包括获取模块，用于获取待处理文本信息，进行分词处理，以提取M个关键词；生成模块，用于输入M个关键词至已训练好的词向量模型中，得到M个词向量，以对M个词向量进行聚类生成N个近义词集合；处理模块，用于基于N个近义词集合，将所述待处理文本信息转换成N维向量，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。

根据本发明实施例的另一个方面，还提供了一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现上述任一计算实施例所述的方法。

根据本发明实施例的另一个方面，还提供了一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现上述任一基于计算实施例所述的方法。

上述发明中的一个实施例具有如下优点或有益效果：本发明通过获取待处理文本信息，进行分词处理，以提取M个关键词；输入M个关键词至已训练好的词向量模型中，得到M个词向量，以对M个词向量进行聚类生成N个近义词集合；基于N个近义词集合，将所述待处理文本信息转换成N维向量，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。从而，本发明能够解决物品质量问题分类中效率较低，人力资源投入过大的问题。

上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。

附图说明

附图用于更好地理解本发明，不构成对本发明的不当限定。其中：

图1是根据本发明第一实施例的信息处理方法的主要流程的示意图

图2是根据本发明第二实施例的信息处理方法的主要流程的示意图；

图3是根据本发明实施例的信息处理装置的主要模块的示意图；

图4是本发明实施例可以应用于其中的示例性系统架构图；

图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。

具体实施方式

以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1是根据本发明第一实施例的信息处理方法的主要流程的示意图，所述信息处理方法可以包括：

步骤S101，获取待处理文本信息，进行分词处理，以提取M个关键词。

在一些实施例中，获取待处理文本信息，删除所述文本信息中存在的属于预设字符类型的内容，进而完成对待处理文本的预处理。确定分词工具，以对预处理后的文本信息进行分词处理。也就是说，对获得的待处理文本信息要进行预处理，例如删除一些特殊字符，表情字符等等。可以看出，在该实施例中对待处理文本信息进行了预处理，可以在很大程度上删除一些无用的待处理文本信息，有利于后续的处理效率和精准度。

进一步地，可以使用结巴分词、盘古分词等等中文分词工具。在该实施例中，采用了结巴分词对预处理后的文本进行分词处理。

还值得说明的是，对每个分词通过tf-idf算法计算重要性数值，以根据所述重要性数值从大到小对分词进行排序。然后，提取前M个分词，作为关键词。其中，tf-idf算法是一种用于信息检索与数据挖掘的常用加权技术。

步骤S102，输入M个关键词至已训练好的词向量模型中，得到M个词向量，以对M个词向量进行聚类生成N个近义词集合。

在一些实施例中，所述的词向量模型为word2vec模型。其中，输出词特征向量的维度size设置为100，当前词和预测词之间的最大距离windows设置为4。因此，该实施例可以实现用向量的形式表示关键词，进而能够进行聚类处理。

进一步地，通过Gensim开源包中集成的word2vec工具，来实现word2vec模型的训练。其中，Gensim是一个开源的Python库，支持包括word2vec在内的多种模型算法。word2vec是用来产生词向量的模型。

另外，在对M个词向量进行聚类生成N个近义词集合时，是通过K均值聚类算法，对M个词向量聚合成N类，进而生成N个近义词集合。

优选地，将M个词向量通过KMeans算法聚成N类，将相似的词聚在一起，形成N个近义词集合。即将近义词聚在一起，近义词描述近似的商品质量问题。进一步地，使用scikit-learn开源包中KMeans方法来训练KMeans模型，初始值的设置采用kmeans++的方法。其中，scikit-learn是一个开源的Python库，支持包括KMeans在内的多种模型算法。kmeans++是KMeans初始化聚类中心点的一种方法。可以看出，通过上述过程可以将M个词向量聚成N类，形成N个近义词集合，实现近义词的归一化处理。

步骤S103，基于N个近义词集合，将所述待处理文本信息转换成N维向量，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。

作为又一个实施例，判断所述待处理文本信息中是否具有近义词集合N

另外，还可以基于密度的聚类算法，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。通过计算余弦相似度，进而评估所述分类结果。

进一步地，将N维向量通过DBSCAN进行聚类，最终得到商品质量问题的分类结果。其中，DBSCAN：Density-Based Spatial Clustering of Applications with Noise是一种基于密度的聚类算法。

值得说明的是，选择余弦相似度作为相似度衡量的标准，余弦相似度计算公式如下：

其中，A和B为基于关键词的文本向量。

因此，本发明提出了的信息处理方法，对文本数据提取关键词，通过聚类算法得到近义词集合，然后文本数据经过近义词集合编码成向量，对于编码后的向量再一次通过聚类算法得到最终的物品质量多分类结果。另外，文本数据聚类的结果主要集中在关键词维度，由于文本数据向量是通过关键词编码得到，文本中的非关键词不影响聚类结果，增强了文本数据聚类的鲁棒性。还有，本发明通过聚类算法将近义词聚成近义词集合，实现近义词归一化，增加了描述相似质量问题的文本数据聚在一起的可能性，提升聚类效果。

图2是根据本发明第二实施例的信息处理方法的主要流程的示意图，所述信息处理方法可以包括：

步骤S201，获取待处理文本信息，删除所述文本信息中存在的属于预设字符类型的内容，进而完成对待处理文本的预处理。

步骤S202，确定分词工具，以对预处理后的文本信息进行分词处理。

步骤S203，对每个分词通过tf-idf算法计算重要性数值，以根据所述重要性数值从大到小对分词进行排序。

步骤S204，提取前M个分词，作为关键词。

步骤S205，将M个关键词输入至已训练好的词向量模型中，得到M个词向量。

在实施例中，所述的词向量模型为word2vec模型。其中，输出词特征向量的维度size设置为100，当前词和预测词之间的最大距离windows设置为4。

步骤S206，通过K均值聚类算法，对M个词向量聚合成N类，进而生成N个近义词集合。

步骤S207，判断所述待处理文本信息中是否具有近义词集合N

步骤S208，N维向量的第i个维度为1，进行步骤S210。

步骤S209，N维向量的第i个维度为0，进行步骤S210。

步骤S210，判断待处理文本信息是否通过近义词集合生成了一个N维向量，若是则进行步骤S211，若否则返回步骤S207。

步骤S211，基于密度的聚类算法，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。

步骤S212，通过计算余弦相似度，进而评估所述分类结果。

作为本发明的另一个实施例，在执行上述步骤S201至步骤S212之前，可以收集海量的反应物品有问题的文本信息，该文本信息主要来源于对物品的评论数据，以及经过网络交易平台沟通窗口和客服交流的对话数据。

可以对收集的文本信息进行预处理，然后对预处理后的文本信息进行分词处理，以输入至word2vec模型中进行训练，以得到训练好的word2vec模型。

还值得说明的是，需要将所述采集到的文本信息，根据物品的品类进行分组，以将每一组下的所有文本信息合并成一条文本信息，即作为一份文件，进而可以形成一个语料库。例如把经营服装品类的所有相关文本信息构建成其对应的一份文件信息F1，把经营家用电器品类的所有文本信息构建另一份文件信息F2，依次类推构建所有品类的文件信息，以完成语料库F的构建。

在执行步骤S203的时候，可以基于构建的语料库，对每个分词通过tf-idf算法计算重要性数值，以根据所述重要性数值从大到小对分词进行排序。具体的实施过程包括：

采用tf-idf提取关键词时，tf-idf公式如下：

tf-idf＝tf*idf

其中，tf为关键词在当前文件的词频，idf为关键词的逆向文档频率。

tf计算公式如下：

其中，n

idf计算公式如下：

其中，D为语料库的总文件数，D

根据tf-idf值的大小排序，取前C个tf-idf值对应词作为该物品品类下的关键词。

图3是根据本发明实施例的信息处理装置的主要模块的示意图，如图3所示，所述信息处理装置300包括获取模块301、生成模块302和处理模块303。其中，获取模块301获取待处理文本信息，进行分词处理，以提取M个关键词。生成模块302输入M个关键词至已训练好的词向量模型中，得到M个词向量，以对M个词向量进行聚类生成N个近义词集合。处理模块303基于N个近义词集合，将所述待处理文本信息转换成N维向量，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。

在一些实施例中，获取模块301获取待处理文本信息，以进行分词处理时可以获取待处理文本信息，删除所述文本信息中存在的属于预设字符类型的内容，完成对待处理文本的预处理；确定分词工具，对预处理后的文本信息进行分词处理。

在一些实施例中，获取模块301提取M个关键词时，是对每个分词通过tf-idf算法计算重要性数值，根据所述重要性数值从大到小对分词进行排序；提取前M个分词，作为关键词。

作为又一个实施例，所述的词向量模型为word2vec模型。其中，输出词特征向量的维度为100，当前词和预测词之间的最大距离为4。

还值得说明的是，生成模块302对M个词向量进行聚类生成N个近义词集合时，可以通过K均值聚类算法，对M个词向量聚合成N类，进而生成N个近义词集合。

还值得说明的是，处理模块303在基于N个近义词集合，将所述待处理文本信息转换成N维向量时，可以判断所述待处理文本信息中是否具有近义词集合N

再一个实施例中，处理模块303基于密度的聚类算法，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果；通过计算余弦相似度，进而评估所述分类结果。

需要说明的是，在本发明所述信息处理方法和所述信息处理装置在具体实施内容上具有相应关系，故重复内容不再说明。

图4示出了可以应用本发明实施例的信息处理方法或信息处理装置的示例性系统架构400。

如图4所示，系统架构400可以包括终端设备401、402、403，网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备401、402、403通过网络404与服务器405交互，以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备401、402、403可以是具有信息处理屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器405可以是提供各种服务的服务器，例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。

需要说明的是，本发明实施例所提供的信息处理方法一般由服务器405执行，相应地，计算装置一般设置于服务器405中。

应该理解，图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

下面参考图5，其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM503中，还存储有系统500操作所需的各种程序和数据。CPU501、ROM502以及RAM503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。

以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶信息处理器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本发明的系统中限定的上述功能。

需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括获取模块、生成模块和处理模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定。

作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：获取待处理文本信息，进行分词处理，以提取M个关键词；输入M个关键词至已训练好的词向量模型中，得到M个词向量，以对M个词向量进行聚类生成N个近义词集合；基于N个近义词集合，将所述待处理文本信息转换成N维向量，对所述N维向量进行聚类，以获得对待处理文本信息的分类结果。

根据本发明实施例的技术方案，能够解决现有物品质量问题的分类主要依赖于人工，成本高且效率低的问题。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。