一种音频信号大数据建模方法与装置

技术领域

本发明涉及音频信号建模的技术领域，尤其涉及一种音频信号大数据建模方法与装置。

背景技术

用户的情绪会影响用户的行为选择及决策，进而影响商务活动，因此，识别用户的情绪状态具有十分重要的意义。随着Web2.0时代的到来，一大批社交媒体应运而生，为实现用户情绪的识别提供了新的渠道。由于用户的情绪非常主观，一些用户几乎不在社交媒体上流露情绪，或无法准确表达、意识不到自己的情绪，想要直接获取用户情绪存在挑战。

发明内容

有鉴于此，本发明提供一种音频信号大数据建模方法与装置，实现对海量音频数据建模分析，准确识别用户情绪，目的在于：1）通过将音频数据进行分帧处理，并逐帧将分帧结果映射到频谱中，得到每帧音频的频谱表示，进而对每帧音频数据的频谱进行逆时针旋转90度，此时频谱的纵轴表示幅值，横轴表示频率，将连续的幅值量化为256个量化值，0表示黑色，255表示白色，幅值越大，相应的区域越黑，得到每帧音频数据的音频图谱，将每帧音频数据的音频图谱按帧序列顺序进行拼接，实现音频信号的建模处理，将高维的音频信号数据降低为二维音频图谱图像数据，降低计算复杂度，并在特征提取过程中，利用滤波器对二维音频图谱图像中的每个像素进行滤波处理，对图像进行平滑化，并消除谐波的作用，突显原先音频的共振峰，并基于情感先验分布确定不同情绪之间的相关，进而为图像特征赋权，使得全连接层输出的情绪识别分类结果综合考虑了训练数据以及心理学情感知识，保证了模型输出结果不过度偏离情感常识，增强模型的鲁棒性；2）利用Nesterov动量加速方法对所构建的音频情感分析模型进行快速求解，通过引入动量的方式积累梯度指数衰减的移动平均历史值，若当前损失训练函数的梯度与历史梯度方向相似，则增大参数移动趋势，否则减弱参数移动趋势，进而控制参数方向，加快参数收敛。

实现上述目的，本发明提供的一种音频信号大数据建模方法，包括以下步骤：

S1：获取海量音频数据并标注所对应的情感分类标签，将所获取音频数据发送到后台服务器，后台服务器对所获取的音频数据进行分帧矩阵化处理得到二维音频图谱图像；

S2：构建音频情感分析模型，所述音频情感分析模型以二维音频图谱图像为输入，以情感识别分类结果为输出；

S3：基于所获取海量音频数据的二维音频图谱图像，利用Nesterov动量加速方法对构建得到的音频情感分析模型进行优化求解，得到优化后的音频情感分析模型；

S4：实时获取用户音频数据并转化为用户的二维音频图谱图像，将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感。

作为本发明的进一步改进方法：

可选地，所述S1步骤中获取海量音频数据并标注所对应的情感分类标签，包括：

获取海量音频数据并标注每个音频数据的情感分类标签，其中标注情感分类标签后的音频数据集合

其中：

可选地，所述S1步骤中将所获取音频数据发送到后台服务器，包括：

将所获取的音频数据发送到后台服务器，其中音频数据的传输形式为电流形式，后台服务器利用A/D模块检测是否存在音频数据进行传输，若A/D模块接收到音频数据，则A/D模块对音频数据进行采样、量化以及编码处理，将音频数据转换为数字信号进行存储，其中A/D模块为模数转换器，用于将时间连续、幅值连续的模拟信号转换为时间离散、幅值离散的数字信号，与之对应的是D/A模块，D/A模块为数模转换器，用于将数字信号转换为模拟信号，在本发明实施例中，后台服务器通过将音频数据转换为数据信号进行存储，减少音频数据的存储所需空间，而在执行音频情感分析过程中，后台服务器会先利用D/A模块将存储的数字信号转换为音频数据，进而经处理后得到二维音频图谱图像。若A/D模块检测到信号数据，则表示存在音频数据正进行传输。

可选地，所述S1步骤中对所获取的音频数据进行分帧矩阵化处理得到二维音频图谱图像，包括：

后台服务器利用D/A模块将存储的数字信号转换为音频数据，并对音频数据集合

S11：对音频数据

其中：

S12：构建加窗函数

对每帧音频数据进行加窗处理，则

其中：

S13：对加窗处理后的每帧音频数据进行傅里叶变换处理：

其中：

可选地，所述S2步骤中构建音频情感分析模型，包括：

构建音频情感分析模型，所述音频情感分析模型以二维音频图谱图像为输入，以情感识别分类结果为输出，其中音频情感分析模型包括输入层、特征提取层、先验分布提取层以及全连接层，输入层用于接收二维音频图谱图像，并将所接收的二维音频图谱图像输入到特征提取层，特征提取层利用滤波器进行图像特征提取，并将提取到的图像特征输入先验分布提取层，基于情感先验分布为图像特征赋权，将赋权后的图像特征输入到全连接层中，得到对应的情感识别分类结果；

所述特征提取层利用滤波器进行图像特征提取的流程为：

其中：

X表示特征提取层接收到得二维音频图谱图像，

所述先验分布提取层基于情感先验分布为图像特征赋权的流程为：

S21：基于所获取海量音频数据的情感分类标签集合确定不同情感分类标签的频率分布：

其中：

S22：计算任意两种情感分类标签的离散概率分布

其中：

S23：构建离散概率分布矩阵G：

其中：

令离散概率分布矩阵G与图像特征F进行矩阵相乘得到基于情感先验分布赋权的图像特征。

可选地，所述S3步骤中对构建得到的音频情感分析模型利用Nesterov动量加速方法进行优化求解，包括：

基于所获取海量音频数据的二维音频图谱图像构建音频情感分析模型的训练集

其中：

所述音频情感分析模型的待优化求解参数为全连接层的权重矩阵，将训练集

其中：

利用Nesterov动量加速方法对训练损失函数进行优化求解，得到优化求解后的权重矩阵，并基于求解得到的权重矩阵构建优化后的音频情感分析模型，所述利用Nesterov动量加速方法的优化求解流程为：

S31：设置优化求解算法的当前迭代次数为v，v的初始值为1，最大值为Max，并随机初始化权重矩阵

S32：初始化

S33：基于Nesterov动量进行权重矩阵更新：

其中：

S34：重复步骤S33，直到v=Max，并输出

可选地，所述S4步骤中实时获取用户音频数据并转化为二维音频图谱图像，包括：

后台服务器实时获取用户音频数据，并对用户音频数据进行分帧矩阵化处理后得到用户的二维音频图谱图像。

可选地，所述S4步骤中将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感，包括：

将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到的情感分类标签，所述基于音频情感分析模型的情感分析流程为：

S41：输入层接收用户的二维音频图谱图像，并将所接收的二维音频图谱图像输入到特征提取层；

S42：特征提取层利用滤波器进行图像特征提取，并将提取到的图像特征输入先验分布提取层；

S43：先验分布提取层将离散概率分布矩阵G与图像特征进行矩阵相乘得到基于情感先验分布赋权的图像特征；

S44：将赋权后的图像特征输入到全连接层中，得到对应的情感识别分类结果，其中全连接层输出的情感识别分类结构为情感分类标签；

对情感分类标签进行解析得到对应的用户情感，其中情感分类标签的取值包括[1,6]，其中1表示愤怒，2表示厌恶，3表示悲伤，4表示惊讶，5表示高兴，6表示兴奋。

为了解决上述问题，本发明提供一种音频信号大数据建模装置，所述装置包括：

音频图谱转换装置，用于对所获取的音频数据进行分帧矩阵化的音频建模处理得到二维音频图谱图像；

音频情感分析模型训练模块，用于构建音频情感分析模型，基于所获取海量音频数据的二维音频图谱图像，利用Nesterov动量加速方法对构建得到的音频情感分析模型进行优化求解，得到优化后的音频情感分析模型；

音频情感分析装置，用于获取用户音频数据并转化为用户的二维音频图谱图像，将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感。

为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：

存储器，存储至少一个指令；及

处理器，执行所述存储器中存储的指令以实现上述所述的音频信号大数据建模方法。

为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现上述所述的音频信号大数据建模方法。

相对于现有技术，本发明提出一种音频信号大数据建模方法，该技术具有以下优势：

首先，本发明提出一种分帧矩阵化处理方法，对音频数据集合

其中：

对每帧音频数据进行加窗处理，则

其中：

其中：

同时，本方案提出一种音频情感分析模型，在模型特征提取过程中，利用滤波器对二维音频图谱图像中的每个像素进行滤波处理，对图像进行平滑化，并消除谐波的作用，突显原先音频的共振峰，并基于情感先验分布确定不同情绪之间的相关，进而为图像特征赋权，使得全连接层输出的情绪识别分类结果综合考虑了训练数据以及心理学情感知识，保证了模型输出结果不过度偏离情感常识，增强模型的鲁棒性。本方案利用Nesterov动量加速方法对所构建的音频情感分析模型进行快速求解，设置优化求解算法的当前迭代次数为v，v的初始值为1，最大值为Max，并随机初始化权重矩阵

其中：

附图说明

图1为本发明一实施例提供的一种音频信号大数据建模方法的流程示意图；

图2为本发明一实施例提供的音频信号大数据建模装置的功能模块图；

图3为本发明一实施例提供的实现音频信号大数据建模方法的电子设备的结构示意图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本申请实施例提供一种音频信号大数据建模方法。所述音频信号大数据建模方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述音频信号大数据建模方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。

实施例1：

S1：获取海量音频数据并标注所对应的情感分类标签，将所获取音频数据发送到后台服务器，后台服务器对所获取的音频数据进行分帧矩阵化处理得到二维音频图谱图像。

所述S1步骤中获取海量音频数据并标注所对应的情感分类标签，包括：

获取海量音频数据并标注每个音频数据的情感分类标签，其中标注情感分类标签后的音频数据集合

其中：

所述S1步骤中将所获取音频数据发送到后台服务器，包括：

将所获取的音频数据发送到后台服务器，后台服务器利用A/D模块检测是否存在音频数据进行传输，若A/D模块接收到音频数据，则A/D模块对音频数据进行采样、量化以及编码处理，将音频数据转换为数字信号进行存储，其中A/D模块为模数转换器，用于将时间连续、幅值连续的模拟信号转换为时间离散、幅值离散的数字信号，与之对应的是D/A模块，D/A模块为数模转换器，用于将数字信号转换为模拟信号。

所述S1步骤中对所获取的音频数据进行分帧矩阵化处理得到二维音频图谱图像，包括：

后台服务器利用D/A模块将存储的数字信号转换为音频数据，并对音频数据集合

S11：对音频数据

其中：

S12：构建加窗函数

对每帧音频数据进行加窗处理，则

其中：

S13：对加窗处理后的每帧音频数据进行傅里叶变换处理：

其中：

S2：构建音频情感分析模型，所述音频情感分析模型以二维音频图谱图像为输入，以情感识别分类结果为输出。

所述S2步骤中构建音频情感分析模型，包括：

构建音频情感分析模型，所述音频情感分析模型以二维音频图谱图像为输入，以情感识别分类结果为输出，其中音频情感分析模型包括输入层、特征提取层、先验分布提取层以及全连接层，输入层用于接收二维音频图谱图像，并将所接收的二维音频图谱图像输入到特征提取层，特征提取层利用滤波器进行图像特征提取，并将提取到的图像特征输入先验分布提取层，基于情感先验分布为图像特征赋权，将赋权后的图像特征输入到全连接层中，得到对应的情感识别分类结果；

所述特征提取层利用滤波器进行图像特征提取的流程为：

其中：

X表示特征提取层接收到得二维音频图谱图像，

所述先验分布提取层基于情感先验分布为图像特征赋权的流程为：

S21：基于所获取海量音频数据的情感分类标签集合确定不同情感分类标签的频率分布：

其中：

S22：计算任意两种情感分类标签的离散概率分布

其中：

S23：构建离散概率分布矩阵G：

其中：

令离散概率分布矩阵G与图像特征F进行矩阵相乘得到基于情感先验分布赋权的图像特征。

S3：基于所获取海量音频数据的二维音频图谱图像，利用Nesterov动量加速方法对构建得到的音频情感分析模型进行优化求解，得到优化后的音频情感分析模型。

所述S3步骤中对构建得到的音频情感分析模型利用Nesterov动量加速方法进行优化求解，包括：

基于所获取海量音频数据的二维音频图谱图像构建音频情感分析模型的训练集

其中：

所述音频情感分析模型的待优化求解参数为全连接层的权重矩阵，将训练集

其中：

利用Nesterov动量加速方法对训练损失函数进行优化求解，得到优化求解后的权重矩阵，并基于求解得到的权重矩阵构建优化后的音频情感分析模型，所述利用Nesterov动量加速方法的优化求解流程为：

S31：设置优化求解算法的当前迭代次数为v，v的初始值为1，最大值为Max，并随机初始化权重矩阵

S32：初始化

S33：基于Nesterov动量进行权重矩阵更新：

其中：

S34：重复步骤S33，直到v=Max，并输出

S4：实时获取用户音频数据并转化为用户的二维音频图谱图像，将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感。

所述S4步骤中实时获取用户音频数据并转化为二维音频图谱图像，包括：

后台服务器实时获取用户音频数据，并对用户音频数据进行分帧矩阵化处理后得到用户的二维音频图谱图像。

所述S4步骤中将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感，包括：

将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到的情感分类标签，所述基于音频情感分析模型的情感分析流程为：

S41：输入层接收用户的二维音频图谱图像，并将所接收的二维音频图谱图像输入到特征提取层；

S42：特征提取层利用滤波器进行图像特征提取，并将提取到的图像特征输入先验分布提取层；

S43：先验分布提取层将离散概率分布矩阵G与图像特征进行矩阵相乘得到基于情感先验分布赋权的图像特征；

S44：将赋权后的图像特征输入到全连接层中，得到对应的情感识别分类结果，其中全连接层输出的情感识别分类结构为情感分类标签；

对情感分类标签进行解析得到对应的用户情感，其中情感分类标签的取值包括[1,6]，其中1表示愤怒，2表示厌恶，3表示悲伤，4表示惊讶，5表示高兴，6表示兴奋。

实施例2：

如图2所示，是本发明一实施例提供的音频信号大数据建模装置的功能模块图，其可以实现实施例1中的音频信号大数据建模方法。

本发明所述音频信号大数据建模装置100可以安装于电子设备中。根据实现的功能，所述音频信号大数据建模装置可以包括音频图谱转换装置101、音频情感分析模型训练模块102及音频情感分析装置103。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。

音频图谱转换装置101，用于对所获取的音频数据进行分帧矩阵化的音频建模处理得到二维音频图谱图像；

音频情感分析模型训练模块102，用于构建音频情感分析模型，基于所获取海量音频数据的二维音频图谱图像，利用Nesterov动量加速方法对构建得到的音频情感分析模型进行优化求解，得到优化后的音频情感分析模型；

音频情感分析装置103，用于获取用户音频数据并转化为用户的二维音频图谱图像，将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感。

详细地，本发明实施例中所述音频信号大数据建模装置100中的所述各模块在使用时采用与上述的图1中所述的音频信号大数据建模方法一样的技术手段，并能够产生相同的技术效果，这里不再赘述。

实施例3：

如图3所示，是本发明一实施例提供的实现音频信号大数据建模方法的电子设备的结构示意图。

所述电子设备1可以包括处理器10、存储器11、通信接口13和总线，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如程序12。

其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器（例如：SD或DX存储器等）、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡（Smart Media Card， SMC）、安全数字（SecureDigital， SD）卡、闪存卡（Flash Card）等。进一步地，所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如程序12的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。

所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器（Central Processing unit，CPU）、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心（Control Unit），利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块（用于实现基于音频信号建模的用户情感识别分析的程序12等），以及调用存储在所述存储器11内的数据，以执行电子设备1的各种功能和处理数据。

所述通信接口13可以包括有线接口和/或无线接口（如WI-FI接口、蓝牙接口等），通常用于在该电子设备1与其他电子设备之间建立通信连接，并实现电子设备内部组件之间的连接通信。

所述总线可以是外设部件互连标准（peripheral component interconnect，简称PCI）总线或扩展工业标准结构（extended industry standard architecture，简称EISA）总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。

图3仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图3示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。

例如，尽管未示出，所述电子设备1还可以包括给各个部件供电的电源（比如电池），优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。

可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器（Display）、输入单元（比如键盘（Keyboard）），可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED（Organic Light-Emitting Diode，有机发光二极管）触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。

应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。

所述电子设备1中的所述存储器11存储的程序12是多个指令的组合，在所述处理器10中运行时，可以实现：

获取海量音频数据并标注所对应的情感分类标签，将所获取音频数据发送到后台服务器，后台服务器对所获取的音频数据进行分帧矩阵化处理得到二维音频图谱图像；

构建音频情感分析模型；

基于所获取海量音频数据的二维音频图谱图像，利用Nesterov动量加速方法对构建得到的音频情感分析模型进行优化求解，得到优化后的音频情感分析模型；

实时获取用户音频数据并转化为用户的二维音频图谱图像，将转化得到的二维音频图谱图像输入到优化后的音频情感分析模型中得到对应的用户情感。

具体地，所述处理器10对上述指令的具体实现方法可参考图1至图3对应实施例中相关步骤的描述，在此不赘述。

需要说明的是，上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。并且本文中的术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。