大数据背景下运动性构音障碍语音库的建立及分析方法
文献发布时间:2023-06-19 10:27:30
技术领域
本发明涉及一种大数据背景下运动性构音障碍语音库的建立及分析方法。
背景技术
(1)运动性构音障碍研究现状:
运动性构音障碍(dysarthria)是指由于中枢神经系统或周围神经系统损害导致,肌肉的控制紊乱而形成的一组言语障碍。运动性构音障碍常表现为言语相关肌肉组织运动减慢、减弱、不精确、不协调,也可能影响到呼吸、共鸣、喉发声的控制、构音和韵律,临床上常简称为构音障碍。运动性构音障碍常见病因包括脑外伤、脑瘫、肌萎缩性侧索硬化、多发性硬化、脑卒中、帕金森病、脊髓小脑共济失调等。构音障碍根据神经解剖和言语声学特点可以分为弛缓型、痉挛型、失调型、运动过弱型、运动过强型和混合型。在与脑损伤相关的交流障碍中, 构音障碍发病率高达54%。目前临床可以通过对嗓音、共鸣、韵律等方面的检查可从主观和客观两个方面反应构音障碍的言语声学特点,有利于提供针对性的治疗和全面科学地阐明构音障碍的言语声学病理机制。
对于运动性构音障碍总体的发病率国内外研究报道均较少,Miller等对125例帕金森病患者研究显示,有69.6%的患者的言语清晰度均值比正常对照组低,其中51.2%的患者低一个标准差,表明在帕金森患者中构音障碍的发病率较高。Bogousslavsky等对1000例初次卒中患者进行筛选,发现有言语障碍的患者高达46%,其中12.4%确诊为构音障碍患者。Hartelius等研究也发现多发性硬化患者中构音障碍发病率为51%。由此可见构音障碍的发病率较高。构音障碍的评定,目前国内尚无统一的评定方法,运动性构音障碍更无专门评定标准,多数采用Frenchay构音障碍评价法或改良法和中国康复研究中心构音障碍检查表,由临床医师或康复科医师检查、评分、记录、评价构音障碍程度、类型。
(2)国内语音库研究现状:
随着信息技术与计算机科学的发展,语音技术使机器行为与人类自然语言的交互成为可能,不论是语音合成、语音识别还是语音辨认研究,都必定依靠于后端优秀语音语料库的建设。目前国外语音库的发展较为成熟,中国的语音库研究也已在近十几年间突飞猛进,语音库的研究与建立已在不同的语言和文化语境中落地。但是针对运动性构音障碍语音库的建设目前还处于研究状态。
国内的构音语音功能评估研究主要集中在主观评估方面,而且只有少数的研究者将构音与语音的概念有所区分。黄昭鸣等提出了《汉语构音能力测验词表》,该词表包含50个字,言语康复师通过评价被试的50个字的构音语音,能够全面评价被试对21个声母和4种声调的构音能力,同时,通过18项音位对比、37个最小语音对来评估被试的音位对比能力。陈三定等人对50名聋儿进行了汉语普通话声母、韵母和声调的评价,揭示了说汉语普通话的聋儿构音语音的发展规律,还进一步提出了及早、顺序、容错和巩固”的言语康复教育原则。华东师范大学的张晶博士研究了听障儿童在个辅音构音时的主要错误走向,分析成因,并相应的提出了听障儿童辅音音位治疗框架。
(3)大数据在医疗领域研究现状:
目前,对大数据定义比较流行的是:超过典型数据库软件工具所能撷取、储存、处理和分析能力的资料。大数据区别于超大规模数据、海量数据等传统数据概念,其具有四个基本特征:大量、多样、时效、价值。Kayyali B等研究了大数据在美国医疗行业的影响,指出随着时间推移,大数据对医疗行业的价值将越来越显著。目前医疗领域内的大数据主要来自制药企业,临床诊断数据,患者就医数据,健康管理、社交网络数据。例如药物研发是一个相对密集的过程,即使对中小型企业而言,一项药物研发的数据也在TB以上;医院的数据每天增长也非常快,一个病人的双源CT检查一次成像在3000张,大概产生1.5GB影像资料,一个标准病理检查图像有将近5GB图像,加上患者就医、电子病历等数据,每天都在快速增长。基于海量大数据分析的研究方法引发了人们对于科学方法论的思考。研究无需直接接触研究对象,而通过直接分析和挖掘海量数据便可获得新的研究发现,这或许催生了一种新的科研模式。
语音语料库的建立是一个繁琐复杂的问题,对于语音语料库的后期完善还有待改进的问题,例如充分利用现有的词间变调规则,尽量体现变调和轻声的实际情况。对于语料的不足,可以在预处理环节提高现有语料利用率。鉴于以上原因,语音库应采取开放型数据库,以便可以随时添加、修改,以便完善该数据库。由于语音情况不尽相同,因而具体的语音语料库的建立也会碰到各种各样的困难,我们在这里所讨论的问题,只是对于建立语音语料库的一种探讨,希望可以为语音的研究提供数据支持,为更好的发展语言,完善语音语料库起着重要作用。
此外,数据量大毫无疑问是网络大数据分析技术的一大优势,但如何保证海量数据的质量,以及如何实现对海量数据进行清洗、管理和分析等问题,也成为本课题研究的一大技术难点。海量的网络大数据具有多源异构、交互性、时效性、突发性和高噪声等特点,因而导致了网络大数据虽然价值巨大但噪声也大,价值密度低的特征。这对保证网络大数据分析研究中的数据质量则构成了巨大挑战。
发明内容
本发明设计了一种大数据背景下运动性构音障碍语音库的建立及分析方法,其解决的技术问题是数据量大毫无疑问是网络大数据分析技术的一大优势,但如何保证海量数据的质量,以及如何实现对海量数据进行清洗、管理和分析等问题,也成为一大技术难点。
为了解决上述存在的技术问题,本发明采用了以下方案:
一种大数据背景下运动性构音障碍语音库的建立及分析方法,包括以下步骤:步骤1、发音文本的设计;
步骤2、语音录制;
步骤3、语音文件的标注;
步骤4、对语音文件的声学参数分析;
步骤5、数据库管理系统的建立;
步骤6、大数据技术的数据分析。
优选地,所述步骤6中大数据技术的数据分析基于Hadoop平台的语音分类机制,具体包括如下分步骤:
步骤61、收集复数个患者语音文件,对语音进行音段切分和标注,构建语音数据库,对提取的声学参数进行分析,获取语音分类的有效特征;
步骤62、然后基于Hadoop平台,采用Map函数对大数据语音分类问题进行细分,用多节点并行、分布式地对子问题进行语音分类求解,得到相应的语音分类结果;
步骤63、最后利用Reduce函数对子问题的语音分类结果进行组合,以适应大数据语音分类的在线要求。
优选地,所述步骤1中发音文本的设计包括发音文本的选择,所述发音文本的语料库的选择原则包括以下一种或多种:
a、语料库中的单字要求尽量包含所有的声韵现象,能够更好更方便的反映不同患者语音的音系特征;
b、语料库中的词汇依据汉语调查常用表为基础,所以能方便的与汉语普通话进行比较;
c、语料库中的句子主要是根据几个相关主题,与患者进行对话所得,所以更符合语音识别面对的真实情形;“几个相关主题”包括日常生活主题或病史主题,例如询问首次发病时间及病史情况。
d、语料库中的句子在内容和语义上都是完整的,所以能够尽可能的反映一个句子的韵律信息;
e、对三音子不进行归类的挑选,这样能够有效的解决训练数据稀疏的问题。
优选地,所述步骤1中所述发音文本的设计还包括发音文本的编制,所述发音文本的编制原则包括以下一种或多种:
a、单字部分:将调查字表中列举的声母韵母以及声调的一些常用字作为本次语音库的主要录音所用语料;
b、词汇部分:以一个四千词词表为基础但不局限于此,根据原来关于相关音系的结论记录相关词语,力求能够全面反映其语音特点,包括音质和超音质特点,针对一些很有特色的语音现象,可增加例词来反映其特征;“相关音系的结论记录相关词语”指的是,根据在同一语言中使用的音,组合规律以及节律和语调的特点,总结的常用词汇。
“特色的语音现象”指的是方言中容易读错的,比如平舌音翘舌音难区分的,f和h不分等情况。
c、语句材料部分:根据不同发音人的语言掌握程度决定语料数量,选取时既要保证语料的范围尽可能广,还需使其具有一定的代表性;“代表性”在此指的是可以体现运动性构音障碍语言特点,具有普遍性的语句。
d、自然对话部分:日常生活为题,采用回答问题和自由谈话的形式,录制发音人20-40分钟的语音材料,涉及日常口语中和普通话说法不同的词汇,要求发音人用方言说出来。
优选地,所述步骤2的语音录制包括发音人的确定,所述发音人的选取原则是挑选口齿清晰、语速适中(“语速适中”是指语速适中,控制在120-150字/分钟)、熟练使用本地语且愿意主动配合调查的母语发音人,还要保证其所处的语言环境比较稳定,同时又要有文化程度;或者/和,所述语音录制还包括通过语音采集器进行的语音采集,所述语音采集采用两种方式:一种是具有提示文本的朗读,提示是汉语的文字材料,发音人将其转换成自己的母语并朗读;另一种是自然语音,发音人利用提示讲述民间故事、民族生活状况以及当地民歌的哼唱。
优选地,步骤4中所述对语音文件的声学参数分析包括语音库的语音标注,基本的语音标注包括各个音节的声韵母切分和对齐,以及声韵调的标注,包括两个部分:第一部分是文字标注,汉字+pinyin即字音转写,将语音信息用汉字记录下来,以便提供给识别系统使用,也能为语言学的研究提供素材;文字标注必须标明基本文字信息以及副语言学现象,基本标注中的副语言学现象可用通用副语言学符号表示;第二部分是音节标注,普通话音节标注采用标准普通话音节标注,音节标注为有调标注;声调标注中0表示轻声,1表示阴平,2表示阳平,3表示上声,4表示去声。
优选地,步骤4中所述对语音文件的声学参数分析还包括声学参数的提取;首先对所录制的语音进行切分和消除静音段的处理,以保证分析的对象为单个字词、词组、语句、对话;然后在语音波形数据中对于语音信号的起止段做出判定,对语音进行标注;最后再根据自相关算法得到相应的基频和共振峰声学分析参数数据。
优选地,步骤5中所述数据库管理系统的建立包括数据库的选取,选用较易实现的sql数据库管理系统。
一种基于Hadoop平台的大数据语音分类流程方法,包括以下步骤:使用上述建立方法进行语音库的构建,在此语音库基础上,基于Hadoop平台,采用Map函数对大数据语音分类问题进行细分,用多节点并行、分布式地对子问题进行语音分类求解,得到相应的语音分类结果;最后利用Reduce函数对子问题的语音分类结果进行组合,以适应大数据语音分类的在线要求。
具体步骤如下:
(1)Client向Hadoop平台的Job Tracker提交一个语音分类任务,Job Tracker将语音特征数据复制到本地的分布式文件处理系统中;
(2)对语音分类的任务进行初始化,将任务放入任务队列中,Job Tracker根据不同节点的处理能力将任务分配到相应的节点上,即Task Tracker上;
(3)各Task Tracker根据分配的任务,采用支持向量机拟合待分类语音特征与语音特征库之间的关系,得到语音相应的类别;
(4)将语音相应的类别作为 Key/Value,保存到本地文件磁盘中;
(5)如果语音分类中间结果的Key/Value相同,则对其进行合并,将合并的结果交给Reduce进行处理,得到语音分类的结果,并将结果写入到分布式文件处理系统中;
(6)Job Tracker将任务状态进行清空处理,用户从分布式文件处理系统中得到语音分类的结果。
该大数据背景下运动性构音障碍语音库的建立及分析方法具有以下有益效果:
(1)本发明旨在研究神经系统疾病引起的运动性构音障碍的患者语音特性,依托于开放网络平台的优势,可以实现覆盖大规模群体的测量以及相关信息的收集,实现普通话、方言、健康人语音、患者语音等语音库的建立,并在此基础上,建立满足运动性构音障碍患者病情诊断的词库。
(2)本发明在语音库不断扩充下,最终分别根据普通话、方言、不同病史、不同病情等信息建立丰富的数据资源中心,为神经系统疾病患者提供一种网络自主诊断的途径,也可辅助医生进行临床诊疗,为神经系统疾病病情的量化提供丰富精准的数据平台。
(3)本发明在语音库基础上,基于Hadoop平台,采用Map函数对大数据语音分类问题进行细分,用多节点并行、分布式地对子问题进行语音分类求解,得到相应的语音分类结果;最后利用Reduce函数对子问题的语音分类结果进行组合,以适应大数据语音分类的在线要求。
附图说明
图1:本发明实施例中“bao”的语音标注示例。
图2:本发明实施例中“bao”语音的共振峰数据。
图3:本发明实施例中Hadoop平台的基本框架。
图4: 本发明基于Hadoop平台的大数据语音分类流程。
具体实施方式
下面结合图1至图4,对本发明做进一步说明:
语音库由清音库、浊音库、声调库、语音合成程序、汉语—拼音转化程序构成。
1. 清音库的建立:
根据清音的特性,为了提高合成语音的质量。清音库采取直接采样法建立。即对各种拼音组合中的浊音段前面的清音部分取样,构成清音库。由于1个音节中清音实际只占很小的一部分,所以,由400多个无调音节中提取出的清音构成的清音库,实际所占的存储空间很小。
2. 浊音库的建立:
浊音由浊音合成程序调用对应浊音的VTFR合成。浊音库实际是由各种浊音的VTFR构成,采用提取VTFR程序依次提取各种浊音的VTFR,将各种浊音的VTFR和浊音合成程序保存在1个数据包内,就构成了浊音库。实际提取出的VTFR只是1条曲线,这样构成的浊音库所占的空间非常小。
本发明语音语料库的建立主要包括以下四个主要过程:发音文本的设计;语音录制;对语音文件的参数分析;数据库管理系统的建立;大数据技术的数据分析。
1. 发音文本的设计;
1.1 发音文本的选择:
如何选取语料,是语料库建库工作的关键。为了保证建库工作的有序有效,保证语料库的质量,在语料库建库之前,首先要研究制定好语料库的选择原则。本语音语料库的选择原则包括:一、语料库中的单字要求尽量包含所有的声韵现象,所以可以更好更方便的反映该方言语音的音系特征;二、语料库中的词汇依据汉语调查常用表为基础,所以能方便的与汉语普通话进行比较;三、语料库中的句子主要是从口语语料挑选来的!所以更符合语音识别面对的真实情形;四、语料库中的句子在内容和语义上都是完整的,所以能够尽可能的反映一个句子的韵律信息;五、我们对三音子不进行归类的挑选,这样可以有效的解决训练数据稀疏的问题。
1.2 发音文本的编制:
发音文本的编制是建立语音数据库的关键环节之一。我们在确定发音素材时,依据发音文本选取原则,包括五个部分:一是单字部分。将调查字表中列举的声母韵母以及声调的一些常用字作为本次语音库的主要录音所用语料;二是词汇部分。以一个四千词词表为基础但不局限于此,根据原来关于相关音系的结论记录相关词语,力求能够全面反映其语音特点,包括音质和超音质特点,针对一些很有特色的语音现象,可增加例词来反映其特征;三是语句材料部分,根据不同发音人的语言掌握程度决定语料数量,选取时既要保证语料的范围尽可能广,还需使其具有一定的代表性;四是自然对话部分,日常生活为题,采用回答问题和自由谈话的形式,录制发音人约半个小时的语音材料,涉及日常口语中和普通话说法不同的词汇,要求发音人用方言说出来。
2、语音录制;
2.1 发音人的确定:
发音人的选取原则是挑选口齿清晰、语速适中、熟练使用本地语且愿意主动配合调查的母语发音人,还要保证其所处的语言环境比较稳定,同时又要有一定的文化程度。
2.2 语音采集:
录音过程中的说话方式直接决定语音库的用途。由于收集语料的特殊性,根据不同的研究目的,采用两种方式:一种是具有提示文本的朗读,提示是汉语的文字材料!发音人将其转换成自己的母语并朗读;另一种是自然语音,发音人可以利用提示讲述民间故事、民族生活状况以及当地民歌的哼唱等。
3、对语音文件的参数分析:
录制了发音文本后,需要对语音数据进行分析处理以得到语音信号的不同特征,这是语音语料库设计的关键,也是后期语音处理所必须的基础。本发明着眼于研究语音信息,因此需要对语音信号波形的基本属性进行标注,同时提取出相关的声学参数。
3.1 语音库的信息标注:
语音标注使用Praat软件,参照汉语音段标注系统SAMPA-C进行分级标注。语音库的标注包括文字标注和有调音节标注两部分,在此以语音“bao”为例,如图1所示。
第一部分是文字标注,汉字+pinyin即字音转写,将语音信息用汉字记录下来,以便提供给识别系统使用,也能为语言学的研究提供素材。文字标注必须标明基本文字信息以及副语言学现象,基本标注中的副语言学现象可用通用副语言学符号表示。
第二部分是音节标注,普通话音节标注采用标准普通话音节标注,音节标注为有调标注。声调标注中0表示轻声,1表示阴平,2表示阳平,3表示上声,4表示去声。
3.2 声学参数的提取:
对于录制好的语音信号,还需提取出各语段的声学参数,实际操作中首先对所录制的语音进行切分和消除静音段的处理,以保证分析的对象均为单个字词;然后在语音波形数据中对于语音信号的起止段做出判定,标注出韵母的范围;最后再根据自相关算法得到相应的基频和共振峰数据,以语音“bao”为例,如图2所示。
4、数据库管理系统的建立:
4.1 数据库的选取
对于数据库的选择,由于在语音库中,需要存储大量的语音波形数据,其特点是数据量大,长度不固定,对事务处理和恢复、安全性和对网络的支持等方面要求较低。因此,我们可以选用较易实现的sql数据库管理系统。
4.2 数据库管理系统的建立
语音语料库中数据库管理系统的建立需存储四种素材:一是发音人属性素材,如发音人年龄、性别、受教育情况、对汉语掌握情况、本人对母语使用状况等;二是发音文本素材,录入和存储发音人发音素材及其对应的方言发音和普通话国际音标等文本材料;三是实际语音数据材料,主要用于保存录制好的语音波形图形的原始参数;四是声学分析参数数据,即对处理后的语音波形提取的声学参数的保存。
5、大数据技术的数据分析
大数据是一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合,具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。换而言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。在词库建设中,采用大数据技术的重要价值在于通过对数据的针对性分析与研究,实现评定词库中语音元素优劣的目的,从而使词库建设更加完善。
通过网络平台将词库共享,以方便不同人群的测试,同时也将获得更多的数据样本,丰富语音库,在未来,可以根据不同地域、不同方言,建立更具有针对性的运动性构音障碍患者词库,为后续对病情分类和分级的自动识别提供更丰富可靠的数据样本。
如图3所示,提出一种基于Hadoop平台的语音分类机制,首先收集大量的图像,构建图像数据库,并提取图像分类的有效特征;然后基于Hadoop平台,采用Map函数对大数据语音分类问题进行细分,用多节点并行、分布式地对子问题进行语音分类求解,得到相应的语音分类结果;最后利用Reduce函数对子问题的语音分类结果进行组合,以适应大数据语音分类的在线要求。
如图4所示,基于Hadoop平台的大数据语音分类流程,其具体步骤如下:
(1)Client向Hadoop平台的Job Tracker提交一个语音分类任务,Job Tracker将语音特征数据复制到本地的分布式文件处理系统中;
(2)对语音分类的任务进行初始化,将任务放入任务队列中,Job Tracker根据不同节点的处理能力将任务分配到相应的节点上,即Task Tracker上;
(3)各Task Tracker根据分配的任务,采用支持向量机拟合待分类语音特征与语音特征库之间的关系,得到语音相应的类别;
(4)将语音相应的类别作为 Key/Value,保存到本地文件磁盘中;
(5)如果语音分类中间结果的Key/Value相同,则对其进行合并,将合并的结果交给Reduce进行处理,得到语音分类的结果,并将结果写入到分布式文件处理系统中;
(6)Job Tracker将任务状态进行清空处理,用户从分布式文件处理系统中得到语音分类的结果。
上面结合附图对本发明进行了示例性的描述,显然本发明的实现并不受上述方式的限制,只要采用了本发明的方法构思和技术方案进行的各种改进,或未经改进将本发明的构思和技术方案直接应用于其它场合的,均在本发明的保护范围内。
- 大数据背景下运动性构音障碍语音库的建立及分析方法
- 一种大数据背景下基于多层遗传方法的供应链金融征信分析方法