基于知识图谱的音乐推荐方法及系统

技术领域

本发明涉及知识图谱及内容推荐技术领域，具体地说是一种基于知识图谱的音乐推荐方法及系统。

背景技术

随着科技的发展，各类可供人们休闲娱乐的音乐软件逐渐产生，如QQ音乐、酷我音乐、酷狗音乐以及网易云音乐，音乐软件会根据用于喜好提供适合用户的音乐，如快乐的、悲伤的、时尚的、dj等音乐类型。而在线音乐平台会根据用户过去听过的音乐类型或者用户的兴趣爱好来为用户进行音乐推荐，既是用户的需求，同时也是科技进步的需求。

目前的在线音乐平台中，音乐推荐在用户关注个性化内容方面发挥着至关重要的作用，而用户亦是期望在音乐播放平台上获得个性化内容的推荐，但推荐的有效性受到现有用户-项目交互和模型容量的限制。在线内容和服务的爆炸性增长为用户在音乐方面提供了大量的选择，如经典老歌、轻音乐、古典音乐、流行音乐、爵士音乐和中国风音乐等各类音乐。因此，如何提高音乐推荐效果是现有技术中亟待解决的一个技术问题。

有的研究人员通过用户间的交互来判断用户间的偏好相似度或者在多个有相同偏好的用户通过搜集他们的爱好并建表排序由高向低进行推荐，进而来解决推荐精确问题，故用户-项目交互的稀疏性和冷启动这一问题总是会干扰推荐效果。对于数据稀疏与冷启动问题，有的研究人员将辅助信息，如社交网络、用户/项目属性、图像和上下文等整合到CF中，并取得了很好的效果。随着各种辅助数据在音乐推荐中变得越来越多，造成辅助数据的异构性和复杂性，在音乐推荐中有效地利用辅助信息中的上下文信息仍然具有挑战性。故如何利用辅助信息中的上下文信息提高音乐推荐的精确性是目前亟待解决的问题。

发明内容

本发明的技术任务是提供一种基于知识图谱的音乐推荐方法及系统，来解决如何利用辅助信息中的上下文信息提高音乐推荐的精确性的问题。

本发明的技术任务是按以下方式实现的，一种基于知识图谱的音乐推荐方法，该方法具体如下：

构建音乐推荐知识图谱：利用原始音乐数据集构建音乐推荐知识图谱，获取用户潜在的兴趣并以此来刺激用户偏好在音乐知识实体集合上的传播；

构建ST_RippleNet模型：通过整合音乐推荐知识图谱中的多种源异构数据，引入低维向量并采用三元组多层注意力机制来构建ST_RippleNet模型，进而充分利用音乐推荐知识图谱的知识信息；

模型优化：使用RMSProp优化器对ST_RippleNet模型进行优化；

构建ST_RippleNet模型的损失函数：对损失函数进行改进，降低ST_RippleNet模型在推荐过程中的损失。

作为优选，构建音乐推荐知识图谱具体如下：

信息抽取：将原始音乐数据集内的数据按照其结构化程度划分为结构化数据、半结构化数据及非结构化数据；将结构化数据组成结构化数据库；再将半结构化数据及非结构化数据通过属性提取、实体提取以及实体与关系联合提取的方式提取所需的数据信息，组成半结构以及非结构数据信息库；

知识融合：将结构化数据库、第三方数据库以及半结构以及非结构数据信息库进行数据合并，形成初始数据库；再对初始数据库进行实体消歧及共指消解处理，将不同数据库对各个实体的不同描述进行整合，获得实体的完整描述，进而得到知识库；

数据加工：采用自顶向下的方式构建知识图谱的数据组织框架，即数据模型；再通过数据挖掘(知识推理)的方式依据推理规则获取用户与项目间潜在的关系信息；再对所得到音乐数据进行优化，并将合格且符合需求的音乐数据放入知识库中，构建完整的音乐推荐知识图谱。

更优地，所述音乐推荐知识图谱采用三元组描述数据，三元组的形式为(实体-关系-实体)或(实体-属性-实体)，通过获取三元组样例挖掘用户与项目之间的潜在关系，再通过三元组多层注意力机制获取三元组信息以更准确地为用户推荐合适的音乐。

作为优选，构建ST_RippleNet模型具体如下：

构建k维空间向量：通过node2vec对音乐推荐知识图谱结构特征进行提取，在对提取的信息进行向量化表示，即构建k维空间向量；

构建不同属性的特征提取模型：将音乐推荐知识图谱中的实体和实体间的关系嵌入到稠密的低维向量中，再通过计算用户项目之间的相似性得到用户与用户、音乐与音乐以及用户与音乐之间的相关度，即不同特性的基本特征作为传播强度的权重值，通过权重值构建不同属性的特征提取模型；

构建三元组多层注意力模型：通过三元组注意力机制来获取知识图谱中的三元组信息，通过三元组信息构建三元组多层注意力模型，通过三元组多层注意力模型中的三元组信息推理挖掘出用户更多的音乐兴趣爱好；

构建用户偏好传播模型：通过不同属性的特征提取模型与三元组注意力模型获取到的信息构建用户偏好传播模型，为用户进行音乐推荐做准备；

信息迭代衰减：将音乐推荐知识图谱的结构信息与用户偏好传播模型结合传播强度进行迭代计算；

构建混合用户项特征模型：对音乐推荐知识图谱的结构特征进行提取，构建混合用户项特征模型，并在训练混合用户项特征模型时作为输入；

构建排序学习推荐模型：通过目标函数调节不同特征的重要程度构建排序学习模型，并选出最优结果；

Top-N推荐：对实体进行排序学习产生Top N推荐列表；

预测点击概率：根据Top N推荐列表进行点击率的预测。

更优地，对ST_RippleNet模型的网络结构进行改进，具体如下：

给定用户项目交互矩阵Y和音乐知识图谱G，为用户u定义的k-hop相关实体的集合具体为：

其中，

Ripple Set为从

其中，跳数k＝1,2,...,H；

音乐嵌入项v∈R

其中，R表示知识图谱(KG)中的关系集，交互关系r

在得到相关概率后，取给定嵌入项v和用户u的1-hop波纹集

其中，尾部t

其中，u

其中，u

作为优选，RMSProp优化器的计算公式具体如下：

其中，γ表示动力，取值为0.9；η取值为0.001；g

作为优选，对损失函数进行改进具体如下：

对于给定知识图G，结合其隐式反馈矩阵Y后，最大化模型参数θ的后验概率具体为：

max p(Θ|G,Y)；

后验概率展开之后具体为：

而其参数的先验概率则需服从0均值的正态分布：

第二项的似然函数构成具体为：

第三项的似然函数表示具体为：

在构建第三项似然函数时，引入tanh函数的特性，故ST_RippleNet的损失函数为：

其中，项目和实体的嵌入矩阵分别使用V和E来表示，I

一种基于知识图谱的音乐推荐系统，该系统包括，

图谱构建单元，用于构建音乐推荐知识图谱，利用原始音乐数据集构建音乐推荐知识图谱，获取用户潜在的兴趣并以此来刺激用户偏好在音乐知识实体集合上的传播；

模型构建单元，用于构建ST_RippleNet模型，通过整合音乐推荐知识图谱中的多种源异构数据，引入低维向量并采用三元组多层注意力机制来构建ST_RippleNet模型，进而充分利用音乐推荐知识图谱的知识信息；

模型优化单元，用于使用RMSProp优化器对ST_RippleNet模型进行优化；

函数改进单元，用于对损失函数进行改进，降低ST_RippleNet模型在推荐过程中的损失。

作为优选，所述模型构建单元包括，

信息抽取模块，用于将原始音乐数据集内的数据按照其结构化程度划分为结构化数据、半结构化数据及非结构化数据；结构化数据组成结构化数据库；再将半结构化数据及非结构化数据通过属性提取、实体提取以及实体与关系联合提取的方式提取所需的数据信息，组成半结构以及非结构数据信息库；

知识融合模块，用于将结构化数据库、第三方数据库以及半结构以及非结构数据信息库进行数据合并，形成初始数据库；再对初始数据库进行实体消歧及共指消解处理，将不同数据库对各个实体的不同描述进行整合，获得实体的完整描述，进而得到知识库；

数据加工模块，用于采用自顶向下的方式构建知识图谱的数据组织框架，即数据模型；再通过数据挖掘(知识推理)的方式依据推理规则获取用户与项目间潜在的关系信息；再对所得到音乐数据进行优化，并将合格且符合需求的音乐数据放入知识库中，构建完整的音乐推荐知识图；

所述模型构建单元包括，

k维空间向量构建模块，用于通过node2vec对音乐推荐知识图谱结构特征进行提取，在对提取的信息进行向量化表示，即构建k维空间向量；

不同属性的特征提取模型构建模块，用于将音乐推荐知识图谱中的实体和实体间的关系嵌入到稠密的低维向量中，再通过计算用户项目之间的相似性得到用户与用户、音乐与音乐以及用户与音乐之间的相关度，即不同特性的基本特征作为传播强度的权重值，通过权重值构建不同属性的特征提取模型；

三元组多层注意力模型构建模块，用于通过三元组注意力机制来获取知识图谱中的三元组信息，通过三元组信息构建三元组多层注意力模型，通过三元组多层注意力模型中的三元组信息推理挖掘出用户更多的音乐兴趣爱好；

用户偏好传播模型构建模块，用于通过不同属性的特征提取模型与三元组注意力模型获取到的信息构建用户偏好传播模型，为用户进行音乐推荐做准备；

迭代计算模块，用于将音乐推荐知识图谱的结构信息与用户偏好传播模型结合传播强度进行迭代计算；

混合用户项特征模型构建模块，用于对音乐推荐知识图谱的结构特征进行提取，构建混合用户项特征模型，并在训练混合用户项特征模型时作为输入；

排序学习推荐模型构建模块，用于通过目标函数调节不同特征的重要程度构建排序学习模型，并选出最优结果；

Top-N推荐模块，用于对实体进行排序学习产生Top N推荐列表；

预测模块，用于根据Top N推荐列表进行点击率的预测。

一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，所述计算机程序可被处理器执行以实现如上述的基于知识图谱的音乐推荐方法。

本发明的基于知识图谱的音乐推荐方法及系统具有以下优点：

(一)针对数据稀疏与冷启动问题，本发明利用知识图谱对多源异构数据的整合性，将低维向量引入推荐方法，充分利用知识图谱的知识信息，采用三元组多层注意力机制来获取音乐知识图谱中的三元组信息，之后通过用户偏好传播模型高效地利用知识图谱中实体间的关系结构信息，在传播偏好的同时兼顾传播强度，能够有效提高实体推荐效果；故本发明的较为混合用户项目特征模型较为准确，其改善了知识图谱的信息利用问题，提高了推荐性能；

(二)对Last.FM数据集构建音乐知识图谱，以用于获取用户潜在的兴趣，为之后可以获取更多用户信息用于给用户进行精确推荐做准备；

(三)为了更好的进行推荐，本发明使用了RMSProp优化器对模型进行优化，之后重新对损失函数进行修改设计，极好的降低了模型在推荐过程中造成的损失，为进行精确推荐做出极大贡献；

(四)本发明通过在知识图谱中来挖掘用户的潜在兴趣并以此来刺激用户偏好在知识实体集合上的传播，在偏好传播时采用了基于三元组多层注意力机制，将用户的历史点击信息所形成用户对于候选项目的偏好分布用于预测最终点击概率；同时通过三元组多层注意力机制来获取三元组信息以更准确地为用户推荐合适的音乐；

(五)ST_RippleNet模型在推荐方面可以更好的来获取用户与项目之间的连通性，在音乐推荐场景中进行了广泛的实验，其结果证明了本发明ST_RippleNet模型相对于当前主流推荐算法的显著优势，并且可以很好的解决冷启动问题；再以书籍推荐为例，可以通过知识图谱上的“用户-作家-书籍类型-作家”、“用户-书籍-书籍类型-书籍”和“用户-作家-年龄-作家家”等用户与项目的连通性来获取用户更多的信息来提高为用户推荐其喜欢的书籍的准确性，极好的解决了现有的基于嵌入和基于路径的KG感知推荐方法的局限性，可以很好的挖掘出用户潜在的兴趣，以此提高推荐效果。

附图说明

下面结合附图对本发明进一步说明。

附图1为基于知识图谱的音乐推荐方法的流程框图；

附图2为构建音乐推荐知识图谱的流程框图；

附图3为音乐推荐知识图谱的示意图。

具体实施方式

参照说明书附图和具体实施例对本发明的基于知识图谱的音乐推荐方法及系统作以下详细地说明。

实施例1：

如附图1所示，本发明的基于知识图谱的音乐推荐方法，该方法具体如下：

S1、构建音乐推荐知识图谱：利用原始音乐数据集构建音乐推荐知识图谱，获取用户潜在的兴趣并以此来刺激用户偏好在音乐知识实体集合上的传播；

本实施例中选取的数据集为Last.FM数据集，Last.FM数据集包含来自2000名用户的音乐记录。各个数据集在ST_RippleNet模型中的超参数设置如下表所示：

S2、构建ST_RippleNet模型：通过整合音乐推荐知识图谱中的多种源异构数据，引入低维向量并采用三元组多层注意力机制来构建ST_RippleNet模型，进而充分利用音乐推荐知识图谱的知识信息；

S3、模型优化：使用RMSProp优化器对ST_RippleNet模型进行优化；

S4、构建ST_RippleNet模型的损失函数：对损失函数进行改进，降低ST_RippleNet模型在推荐过程中的损失。

如附图2所示，本实施例步骤S1中构建音乐推荐知识图谱具体如下：

S101、信息抽取：将原始音乐数据集内的数据按照其结构化程度划分为结构化数据、半结构化数据及非结构化数据；将结构化数据组成结构化数据库；再将半结构化数据及非结构化数据通过属性提取、实体提取以及实体与关系联合提取的方式提取所需的数据信息，组成半结构以及非结构数据信息库；

S102、知识融合：将结构化数据库、第三方数据库以及半结构以及非结构数据信息库进行数据合并，形成初始数据库；再对初始数据库进行实体消歧及共指消解处理，将不同数据库对各个实体的不同描述进行整合，获得实体的完整描述，进而得到知识库；

S103、数据加工：采用自顶向下的方式构建知识图谱的数据组织框架，即数据模型；再通过数据挖掘(知识推理)的方式依据推理规则获取用户与项目间潜在的关系信息；再对所得到音乐数据进行优化，并将合格且符合需求的音乐数据放入知识库中，构建完整的音乐推荐知识图谱。

本实施例中的音乐推荐知识图谱采用三元组描述数据，三元组的形式为(实体-关系-实体)或(实体-属性-实体)，通过获取三元组样例挖掘用户与项目之间的潜在关系，再通过三元组多层注意力机制获取三元组信息以更准确地为用户推荐合适的音乐。如附图3所示，Closer是一个实体，Pairs也是一个实体，故Closer-The Chainsmokers-Paris是一个(实体-关系-实体)的三元组样例；The Chainsmokers是属性，而Popular music是属性类别，因而Something Just Tike This-The Chainsmokers-Popular music构成(实体-属性-属性值)的三元组样例。

本实施例步骤S2中构建ST_RippleNet模型具体如下：

S201、构建k维空间向量：通过node2vec对音乐推荐知识图谱结构特征进行提取，在对提取的信息进行向量化表示，即构建k维空间向量；

S202、构建不同属性的特征提取模型：将音乐推荐知识图谱中的实体和实体间的关系嵌入到稠密的低维向量中，再通过计算用户项目之间的相似性得到用户与用户、音乐与音乐以及用户与音乐之间的相关度，即不同特性的基本特征作为传播强度的权重值，通过权重值构建不同属性的特征提取模型；

S203、构建三元组多层注意力模型：通过三元组注意力机制来获取知识图谱中的三元组信息，通过三元组信息构建三元组多层注意力模型，通过三元组多层注意力模型中的三元组信息推理挖掘出用户更多的音乐兴趣爱好；

S204、构建用户偏好传播模型：通过不同属性的特征提取模型与三元组注意力模型获取到的信息构建用户偏好传播模型，为用户进行音乐推荐做准备；

S205、信息迭代衰减：将音乐推荐知识图谱的结构信息与用户偏好传播模型结合传播强度进行迭代计算；

S206、构建混合用户项特征模型：对音乐推荐知识图谱的结构特征进行提取，构建混合用户项特征模型，并在训练混合用户项特征模型时作为输入；

S207、构建排序学习推荐模型：通过目标函数调节不同特征的重要程度构建排序学习模型，并选出最优结果；

S208、Top-N推荐：对实体进行排序学习产生Top N推荐列表；

S209、预测点击概率：根据Top N推荐列表进行点击率的预测。

其中，在ST_RippleNet模型中，为音乐数据集Last.FM设置跳数H＝2，项目与知识图谱嵌入维数d为16，学习率η设置为0.001，而参数λ

由此可见，对于音乐数据集而言，跳数增多，对其推荐性能几乎没有提高，反而会造成更大的开销。

本实施例中对ST_RippleNet模型的网络结构进行改进，具体如下：

(1)、给定用户项目交互矩阵Y和音乐知识图谱G，为用户u定义的k-hop相关实体的集合具体为：

其中，

(2)、Ripple Set为从

其中，跳数k＝1,2,...,H；

(3)、音乐嵌入项v∈R

其中，R表示知识图谱(KG)中的关系集，交互关系r

(4)、在得到相关概率后，取给定嵌入项v和用户u的1-hop波纹集

其中，尾部t

其中，u

其中，u

在预测点击率前通过训练来生成用户音乐爱好偏好模型时采用tanh函数更有利于训练模型，也更容易达到最优值，可以获取到更精确的用户偏好推荐模型。

本实施例步骤S3中的RMSProp优化器的计算公式具体如下：

其中，γ表示动力，取值为0.9；η取值为0.001；g

T_RippleNet模型对于本发明采用RMSProp优化器进行一优化，由于RMSProp优化器中含有一个衰减系数来控制历史信息的多少，而本发明在构建用户偏好传播模型过程中亦是要通过获取用户历史信息来获取用户潜在信息用于为用户提供精确推荐，因此RMSProp优化器的这个控制用户历史信息多少的衰减系数可以帮助本发明通过知识图谱构建用户偏好模型时获取更多拥有用的信息来为用户进行推荐，更好的对模型进行优化。

本实施例步骤S4中的对损失函数进行改进具体如下：

S401、对于给定知识图G，结合其隐式反馈矩阵Y后，最大化模型参数θ的后验概率具体为：

max p(Θ|G,Y)；

S402、后验概率展开之后具体为：

S403、其参数的先验概率则需服从0均值的正态分布：

S404、第二项的似然函数构成具体为：

S405、第三项的似然函数表示具体为：

S406、在构建第三项似然函数时，引入tanh函数的特性，故ST_RippleNet的损失函数为：

其中，项目和实体的嵌入矩阵分别使用V和E来表示，I

本发明充分将用户-项目间的交互关系应用于挖掘用户潜在偏好上，不仅是通过知识图谱得到用户项目间的相似性，而且得到用户与用户、项目与项目以及用户与项目之间的相关度即不同特性的基本特征都是为了挖掘出用户潜在偏好信息，亦是通过构建所需的知识图谱，继而通过知识图谱来挖掘用户的潜在兴趣并以此来刺激用户偏好在知识实体集合上的传播，在偏好传播时本发明采用了三元组多层注意力机制来获取知识图谱中的三元组信息，将用户的历史点击信息所形成用户对于候选项目的偏好分布用于预测最终点击概率，继而获得更精确的推荐性能，并且最终在音乐数据集上取得了非常好的推荐效果。实验对比结果如下表所示：

实施例2：

本发明的基于知识图谱的音乐推荐系统，该系统包括，

图谱构建单元，用于构建音乐推荐知识图谱，利用原始音乐数据集构建音乐推荐知识图谱，获取用户潜在的兴趣并以此来刺激用户偏好在音乐知识实体集合上的传播；

模型构建单元，用于构建ST_RippleNet模型，通过整合音乐推荐知识图谱中的多种源异构数据，引入低维向量并采用三元组多层注意力机制来构建ST_RippleNet模型，进而充分利用音乐推荐知识图谱的知识信息；

模型优化单元，用于使用RMSProp优化器对ST_RippleNet模型进行优化；

函数改进单元，用于对损失函数进行改进，降低ST_RippleNet模型在推荐过程中的损失。

本实施例中模型构建单元包括，

信息抽取模块，用于将原始音乐数据集内的数据按照其结构化程度划分为结构化数据、半结构化数据及非结构化数据；结构化数据组成结构化数据库；再将半结构化数据及非结构化数据通过属性提取、实体提取以及实体与关系联合提取的方式提取所需的数据信息，组成半结构以及非结构数据信息库；

知识融合模块，用于将结构化数据库、第三方数据库以及半结构以及非结构数据信息库进行数据合并，形成初始数据库；再对初始数据库进行实体消歧及共指消解处理，将不同数据库对各个实体的不同描述进行整合，获得实体的完整描述，进而得到知识库；

数据加工模块，用于采用自顶向下的方式构建知识图谱的数据组织框架，即数据模型；再通过数据挖掘(知识推理)的方式依据推理规则获取用户与项目间潜在的关系信息；再对所得到音乐数据进行优化，并将合格且符合需求的音乐数据放入知识库中，构建完整的音乐推荐知识图；

本实施例中模型构建单元包括，

k维空间向量构建模块，用于通过node2vec对音乐推荐知识图谱结构特征进行提取，在对提取的信息进行向量化表示，即构建k维空间向量；

不同属性的特征提取模型构建模块，用于将音乐推荐知识图谱中的实体和实体间的关系嵌入到稠密的低维向量中，再通过计算用户项目之间的相似性得到用户与用户、音乐与音乐以及用户与音乐之间的相关度，即不同特性的基本特征作为传播强度的权重值，通过权重值构建不同属性的特征提取模型；

三元组多层注意力模型构建模块，用于通过三元组注意力机制来获取知识图谱中的三元组信息，通过三元组信息构建三元组多层注意力模型，通过三元组多层注意力模型中的三元组信息推理挖掘出用户更多的音乐兴趣爱好；

用户偏好传播模型构建模块，用于通过不同属性的特征提取模型与三元组注意力模型获取到的信息构建用户偏好传播模型，为用户进行音乐推荐做准备；

迭代计算模块，用于将音乐推荐知识图谱的结构信息与用户偏好传播模型结合传播强度进行迭代计算；

混合用户项特征模型构建模块，用于对音乐推荐知识图谱的结构特征进行提取，构建混合用户项特征模型，并在训练混合用户项特征模型时作为输入；

排序学习推荐模型构建模块，用于通过目标函数调节不同特征的重要程度构建排序学习模型，并选出最优结果；

Top-N推荐模块，用于对实体进行排序学习产生Top N推荐列表；

预测模块，用于根据Top N推荐列表进行点击率的预测。

实施例3：

本发明实施例还提供了一种计算机可读存储介质，其中存储有多条指令，指令由处理器加载，使处理器执行本发明任一实施例中的基于知识图谱的音乐推荐方法。具体地，可以提供配有存储介质的系统或者装置，在该存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码，且使该系统或者装置的计算机(或CPU或MPU)读出并执行存储在存储介质中的程序代码。

在这种情况下，从存储介质读取的程序代码本身可实现上述实施例中任何一项实施例的功能，因此程序代码和存储程序代码的存储介质构成了本发明的一部分。

用于提供程序代码的存储介质实施例包括软盘、硬盘、磁光盘、光盘(如CD-ROM、CD-R、CD-RW、DVD-ROM、DVD-RYM、DVD-RW、DVD+RW)、磁带、非易失性存储卡和ROM。可选择地，可以由通信网络从服务器计算机上下载程序代码。

此外，应该清楚的是，不仅可以通过执行计算机所读出的程序代码，而且可以通过基于程序代码的指令使计算机上操作的操作系统等来完成部分或者全部的实际操作，从而实现上述实施例中任意一项实施例的功能。

此外，可以理解的是，将由存储介质读出的程序代码写到插入计算机内的扩展板中所设置的存储器中或者写到与计算机相连接的扩展单元中设置的存储器中，随后基于程序代码的指令使安装在扩展板或者扩展单元上的CPU等来执行部分和全部实际操作，从而实现上述实施例中任一实施例的功能。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。