掌桥专利:专业的专利平台
掌桥专利
首页

一种录音数据处理方法、系统、电子设备及存储介质

文献发布时间:2023-06-19 10:24:22


一种录音数据处理方法、系统、电子设备及存储介质

技术领域

本发明属于音频处理领域,尤其涉及一种可适用于现场录音技术的录音数据处理方法、系统、电子设备及存储介质。

背景技术

当前行业中在通过录音设备录音的场景中,通过录音设备如三麦、四麦录音设备提高录音过程中区分佩戴者、对话者的录音过程达到更加良好的有效录音、更低的噪音效果、更易通过录音分离提取佩戴者、对话者的角色音的方法。

在这种方法中,环境的非有效录音往往都是噪音,非常容易对音频角色录音分离造成极大的干扰,也非常容易导致佩戴者和对话者录音角色分离之后出错,这种方案往往会以更加高昂的成本和更加复杂的技术去解决,这往往在商用场景中使用成本会极大的提升。

发明内容

本申请实施例提供了一种录音数据处理方法、系统、电子设备及存储介质,以至少解决现有录音处理方法成本较高且效果不佳的问题。

第一方面,本申请实施例提供了一种录音数据处理方法,包括:第一拾音步骤,使用一佩戴于第一对话者的第一拾音设备采集第一对话者的声音,传输至一第二拾音设备,并保存为第一音轨;第二拾音步骤,使用所述第二拾音设备采集第二对话者的声音,并保存为第二音轨;音频生成步骤,使用所述第二拾音设备将所述第一音轨与所述第二音轨处理为中间音频文件;音频分离步骤,对所述中间音频文件进行语音角色分离。

优选的,所述中间音频文件为一个双音轨单音频文件或两个双音轨单音频文件。

优选的,所述音频分离步骤还包括:将所述中间音频文件中的所述第一音轨中非第一对话者的声音剔除,将所述第二音轨中非第二对话者的声音剔除。

优选的,所述音频分离步骤还包括:使用一语音分离算法对所述中间音频文件进行语音角色分离。

第二方面,本申请实施例提供了一种录音数据处理系统,适用于上述一种录音数据处理方法,包括:第一拾音单元:使用一佩戴于第一对话者的第一拾音设备采集第一对话者的声音,传输至一第二拾音设备,并保存为第一音轨;第二拾音单元,使用所述第二拾音设备采集第二对话者的声音,并保存为第二音轨;音频生成单元,使用所述第二拾音设备将所述第一音轨与所述第二音轨处理为中间音频文件;音频分离单元,对所述中间音频文件进行语音角色分离。

在其中一些实施例中,所述中间音频文件为一个双音轨单音频文件或两个双音轨单音频文件。

在其中一些实施例中,所述音频分离单元还包括:将所述中间音频文件中的所述第一音轨中非第一对话者的声音剔除,将所述第二音轨中非第二对话者的声音剔除。

在其中一些实施例中,所述音频分离单元还包括:使用一语音分离算法对所述中间音频文件进行语音角色分离。

第三方面,本申请实施例提供了一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的一种录音数据处理方法。

第四方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述第一方面所述的一种录音数据处理方法。

相比于相关技术,本申请实施例提供的一种录音数据处理方法以更加低成本、低技术难度的的方式录取更加精准的音频源录音。

附图说明

此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:

图1为本发明的录音数据处理方法流程图;

图2为本发明的录音数据处理系统的框架图;

图3为本发明的电子设备的框架图;

以上图中:

1、第一拾音单元;2、第二拾音单元;3、音频生成单元;4、音频分离单元;60、总线;61、处理器;62、存储器;63、通信接口。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行描述和说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。基于本申请提供的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。

显而易见地,下面描述中的附图仅仅是本申请的一些示例或实施例,对于本领域的普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图将本申请应用于其他类似情景。此外,还可以理解的是,虽然这种开发过程中所作出的努力可能是复杂并且冗长的,然而对于与本申请公开的内容相关的本领域的普通技术人员而言,在本申请揭露的技术内容的基础上进行的一些设计,制造或者生产等变更只是常规的技术手段,不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是,本申请所描述的实施例在不冲突的情况下,可以与其它实施例相结合。

除非另作定义,本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制,可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形,意图在于覆盖不排他的包含;例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可以还包括没有列出的步骤或单元,或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

现实环境中,感兴趣的语音信号通常会被噪音干扰,严重损害了语音的可懂度,降低了语音识别的性能。针对噪音,前端语音分离技术是最常用的方法之一。一个好的前端语音分离模块能够极大地提高语音的可懂度和自动语音识别系统的识别性能。

从信号处理的角度来看,许多方法提出估计噪音的功率谱或者理想维纳滤波器,比如谱减法和维纳滤波法。其中维纳滤波是最小均方误差意义下分离纯净语音的最优滤波器。在假定语音和噪音的先验分布的条件下,给定带噪语音,它能推断出语音的谱系数。基于信号处理的方法通常假设噪音是平稳的或者是慢变的。在满足假设条件的情况下,这些方法能够取得比较好的分离性能。相比于信号处理的方法,基于模型的方法利用混合前的纯净信号分别构建语音和噪音的模型在低信噪比的情况下取得了重要的性能提升。在基于模型的语音分离方法中,非负矩阵分解是常用的建模方法,它能挖掘非负数据中的局部基表示,目前已被广泛地应用到语音分离中。计算听觉场景分析是另一个重要的语音分离技术,它试图模拟人耳对声音的处理过程来解决语音分离问题。计算听觉场景分析的基本计算目标是估计一个理想二值掩蔽,根据人耳的听觉掩蔽来实现语音的分离。相对于其他语音分离的方法,计算听觉场景分析对噪音没有任何假设,具有更好的泛化性能。

语音分离旨在从被干扰的语音信号中分离出有用的信号,这个过程能够很自然地表达成一个监督性学习问题。一个典型的监督性语音分离系统通常通过监督性学习算法,例如深度神经网络,学习一个从带噪特征到分离目标的映射函数,例如理想掩蔽或者感兴趣语音的幅度谱。

以下,结合附图详细介绍本发明的实施例:

图1为本发明的录音数据处理方法流程图,请参见图1,本发明录音数据处理方法包括如下步骤:

S1:使用一佩戴于第一对话者的第一拾音设备采集第一对话者的声音,传输至一第二拾音设备,并保存为第一音轨。

在具体实施中,将录音的对象区分为佩戴者和与之相对应的对话者,将第一拾音设备佩戴于佩戴者的身上,可选的,第一拾音设备可为耳机;使用该第一拾音设备在一定距离内采集佩戴者的声音,可选的,一定距离可为0.2米。

在具体实施中,采集完成佩戴者的声音后,将该录音数据传输至一第二拾音设备,可选的,该第二拾音设备可为一录音机;第二拾音设备将所接收到的佩戴者的声音以一个音轨的形式保存。

在本步骤中,使用一佩戴于第一对话者的拾音设备,可实现针对性的进场拾音。

S2:使用所述第二拾音设备采集第二对话者的声音,并保存为第二音轨。

在具体实施中,该第二拾音设备用于采集与佩戴者相对应的对话者的声音,可选的,该第二拾音设备设置于对话者的一定距离半径内;可选的,该一定距离可为2米。

在具体实施中,第二拾音设备将所采集到的佩戴者的声音以一个音轨的形式保存。

S3:使用所述第二拾音设备将所述第一音轨与所述第二音轨处理为中间音频文件。

可选的,所述中间音频文件为一个双音轨单音频文件或两个双音轨单音频文件。

在具体实施中,佩戴者和对话者的声音以分别两个音轨的形式保存,第二拾音设备可选择将两个音轨做不同形式的处理;可选的,可将该两个音轨合并为一个具有两个音轨的音频文件;可选的,可将该两个音轨分别单独生成两个单音轨的音频文件。

S4:对所述中间音频文件进行语音角色分离。

可选的,所述音频分离步骤还包括:将所述中间音频文件中的所述第一音轨中非第一对话者的声音剔除,将所述第二音轨中非第二对话者的声音剔除。

可选的,所述音频分离步骤还包括:使用一语音分离算法对所述中间音频文件进行语音角色分离。

在具体实施中,将上述的中间音频文件通过一个语音分离算法进行分离,将佩戴者的音轨中,非佩戴者的音频剔除;将对话者的音轨中,非对话者的音频出,以得到更少噪音的音频文件。

在具体实施中,本申请实施例是以固定的人声为主要分离对象,因此,可选的,语音分离算法可使用基于频谱映射的方法,其中,基于频谱映射的方法是让模型通过有监督学习,自己学习有干扰的频谱到无干扰的频谱(干净语音) 之间的映射关系;模型可以是DNN、CNN、LSTM甚至GAN。

需要说明的是,在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。

本申请实施例提供了一种录音数据处理系统,适用于上述的一种录音数据处理方法。如以下所使用的,术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件、或者软件和硬件的组合的实现也是可能并被构想的。

图2为根据本发明的录音数据处理系统的框架图,请参见图2,包括:

第一拾音单元1:使用一佩戴于第一对话者的第一拾音设备采集第一对话者的声音,传输至一第二拾音设备,并保存为第一音轨。

在具体实施中,将录音的对象区分为佩戴者和与之相对应的对话者,将第一拾音设备佩戴于佩戴者的身上,可选的,第一拾音设备可为耳机;使用该第一拾音设备在一定距离内采集佩戴者的声音,可选的,一定距离可为0.2米。

在具体实施中,采集完成佩戴者的声音后,将该录音数据传输至一第二拾音设备,可选的,该第二拾音设备可为一录音机;第二拾音设备将所接收到的佩戴者的声音以一个音轨的形式保存。

在本单元中,使用一佩戴于第一对话者的拾音设备,可实现针对性的进场拾音。

第二拾音单元2:使用所述第二拾音设备采集第二对话者的声音,并保存为第二音轨。

在具体实施中,该第二拾音设备用于采集与佩戴者相对应的对话者的声音,可选的,该第二拾音设备设置于对话者的一定距离半径内;可选的,该一定距离可为2米。

在具体实施中,第二拾音设备将所采集到的佩戴者的声音以一个音轨的形式保存。

音频生成单元3:使用所述第二拾音设备将所述第一音轨与所述第二音轨处理为中间音频文件。

可选的,所述中间音频文件为一个双音轨单音频文件或两个双音轨单音频文件。

在具体实施中,佩戴者和对话者的声音以分别两个音轨的形式保存,第二拾音设备可选择将两个音轨做不同形式的处理;可选的,可将该两个音轨合并为一个具有两个音轨的音频文件;可选的,可将该两个音轨分别单独生成两个单音轨的音频文件。

音频分离单元4:对所述中间音频文件进行语音角色分离。

可选的,所述音频分离单元4还包括:将所述中间音频文件中的所述第一音轨中非第一对话者的声音剔除,将所述第二音轨中非第二对话者的声音剔除。

可选的,所述音频分离单元4还包括:使用一语音分离算法对所述中间音频文件进行语音角色分离。

在具体实施中,将上述的中间音频文件通过一个语音分离算法进行分离,将佩戴者的音轨中,非佩戴者的音频剔除;将对话者的音轨中,非对话者的音频出,以得到更少噪音的音频文件。

在具体实施中,本申请实施例是以固定的人声为主要分离对象,因此,可选的,语音分离算法可使用基于频谱映射的方法,其中,基于频谱映射的方法是让模型通过有监督学习,自己学习有干扰的频谱到无干扰的频谱(干净语音) 之间的映射关系;模型可以是DNN、CNN、LSTM甚至GAN。

另外,结合图1描述的一种录音数据处理方法可以由电子设备来实现。图 3为本发明的电子设备的框架图。

电子设备可以包括处理器61以及存储有计算机程序指令的存储器62。

具体地,上述处理器61可以包括中央处理器(CPU),或者特定集成电路(Application Specific Integrated Circuit,简称为ASIC),或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中,存储器62可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器62可包括硬盘驱动器(Hard Disk Drive,简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive,简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus,简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器62可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器62可在数据处理装置的内部或外部。在特定实施例中,存储器62是非易失性(Non-Volatile)存储器。在特定实施例中,存储器62包括只读存储器(Read-Only Memory,简称为ROM) 和随机存取存储器(RandomAccess Memory,简称为RAM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory,简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory,简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory,简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory,简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下,该RAM可以是静态随机存取存储器(Static Random-Access Memory,简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory,简称为DRAM),其中,DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory,简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory,简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory,简称SDRAM)等。

存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件,以及处理器61所执行的可能的计算机程序指令。

处理器61通过读取并执行存储器62中存储的计算机程序指令,以实现上述实施例中的任意一种录音数据处理方法。

在其中一些实施例中,电子设备还可包括通信接口63和总线60。其中,如图3所示,处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。

通信端口63可以实现与其他部件例如:外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。

总线60包括硬件、软件或两者,将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一:数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制,总线60可包括图形加速接口(Accelerated Graphics Port,简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture,简称为EISA)总线、前端总线(FrontSide Bus,简称为FSB)、超传输(Hyper Transport,简称为HT)互连、工业标准架构(Industry Standard Architecture,简称为ISA)总线、无线带宽(InfiniBand) 互连、低引脚数(Low Pin Count,简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture,简称为MCA)总线、外围组件互连(Peripheral Component Interconnect,简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment,简称为SATA) 总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus,简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线60可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线,但本申请考虑任何合适的总线或互连。

该电子设备可以执行本申请实施例中的一种录音数据处理方法。

另外,结合上述实施例中的一种录音数据处理方法,本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种录音数据处理方法。

而前述的存储介质包括:U盘、移动硬盘、只读存储器(ReadOnly Memory,简称为ROM)、随机存取存储器(Random Access Memory,简称为RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。

以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

相关技术
  • 一种录音数据处理方法、系统、电子设备及存储介质
  • 用于获取录音系统异常信息的方法及装置、电子设备、存储介质
技术分类

06120112530113