掌桥专利:专业的专利平台
掌桥专利
首页

一种语音切分方法、装置、设备及存储介质

文献发布时间:2023-06-19 16:09:34



技术领域

本公开涉及数据处理技术领域,尤其涉及语音技术领域。

背景技术

随着直播等语音类应用越来越受欢迎,语音识别需求越来越旺盛,尤其是对时长较长的语音进行语音识别的需求更加旺盛,其中,上述时长较长的语音可以称为长语音。

由于长语音的时长较长,长语音中往往会存在静音片段,而静音片段是不需要进行语音识别的,因此,为了提高语音识别效率,在进行语音识别之前需要对长语音进行切分,得到语音片段,进而剔除长语音中的静音片段,也就是剔除长语音中的非语音片段。

发明内容

本公开提供了一种用于语音切分方法、装置、设备以及存储介质。

根据本公开的一方面,提供了一种语音切分方法,包括:

持续接收目标语音的语音包,在本地缓存接收到的语音包,并向目标语音活动检测VAD服务转发接收到的语音包;

接收所述目标VAD服务检测到的语音片段的信息以及切分出的语音片段,其中,所述语音片段的信息包括:语音片段的起始位置和终止位置;

监测所述目标VAD服务是否发生故障;

若监测到所述目标VAD服务发生故障,基于最新接收到的语音片段的信息,确定本地缓存的语音包中待重新切分的语音数据;

向新的VAD服务转发所述待重新切分的语音数据以及接收到的语音包,以使得所述新的VAD服务对接收到的数据进行语音片段检测并切分语音片段。

根据本公开的另一方面,提供了一种语音切分装置,包括:

语音包接收模块,用于持续接收目标语音的语音包,在本地缓存接收到的语音包,并向目标语音活动检测VAD服务转发接收到的语音包;

语音信息接收模块,用于接收所述目标VAD服务检测到的语音片段的信息以及切分出的语音片段,其中,所述语音片段的信息包括:语音片段的起始位置和终止位置;

故障监测模块,用于监测所述目标VAD服务是否发生故障;

语音数据确定模块,用于若监测到所述目标VAD服务发生故障,基于最新接收到的语音片段的信息,确定本地缓存的语音包中待重新切分的语音数据;

语音数据转发模块,用于向新的VAD服务转发所述待重新切分的语音数据以及接收到的语音包,以使得所述新的VAD服务对接收到的数据进行语音片段检测并切分语音片段。

根据本公开的另一方面,提供了一种电子设备,包括:

至少一个处理器;以及

与所述至少一个处理器通信连接的存储器;其中,

所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述语音切分方法。

根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述语音切分方法。

根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述语音切分方法

由以上可见,应用本公开实施例提供的方案进行语音切分的过程中,会监测目标VAD(Voice Activity Detect,语音活动检测)服务是否发生故障,一旦目标VAD服务发生故障,将启用新的VAD服务进行语音片段检测以及语音片段切分。又由于本公开实施例提供的方案中,不仅持续不断的接收目标语音的语音包,还会在本地缓存接收到的语音包,这样在转由新的VAD服务进行语音片段检测与切分时,不仅能够由新的VAD服务对后续接收到的语音包进行语音片段的检测与切分,还能够依据本地缓存的语音数据,将已接收到但是目标VAD服务出现故障时未检测与切分完的语音数据发送至新的VAD服务进行语音片段的检测与切分。综合以上,应用本公开实施例提供的方案进行语音切分能够提高语音切分的容错率。

应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案,不构成对本公开的限定。其中:

图1是本公开实施例提供的一种语音识别系统的结构示意图;

图2是本公开实施例提供的一种语音数据的波形示意图;

图3是本公开实施例提供的一种语音切分方法的流程示意图;

图4是本公开实施例提供的一种语音切分方法的信令示意图;

图5是本公开实施例提供的另一种语音切分方法的流程示意图;

图6是本公开实施例提供的另一种语音切分方法的信令示意图;

图7是本公开实施例提供的一种语音状态转换示意图;

图8是本公开实施例提供的一种语音切分装置的结构示意图;

图9是本公开实施例提供的另一种语音切分装置的结构示意图;

图10是用来实现本公开实施例的语音切分方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。

首先对本公开实施例所提供方案的应用场景进行说明。

一种情况下,本公开实施例所提供的方案能够应用于语音识别场景。

按照时长,语音可以被划分为多个语音帧,一个或者多个语音帧形成语音包,每个语音帧的时长一般相等,例如,10毫秒、15毫秒等。每个语音包中可能包含静音片段,也可能包含语音片段。在进行语音识别时,由于静音片段中不包含声音信息,所以不需要进行语音识别,为此,需要从语音包中剔除静音片段,进而只对语音片段进行语音识别,提高语音识别的效率。

另外,上述语音识别可以是对直播、短视频等包含的语音进行识别,直播、短视频类应用往往面向的用户较多,因此,一种情况下,实现语音识别的系统可以是基于微服务架构实现的。

本公开的一个实施例中,参见图1,提供了一种语音识别系统的结构示意图。该系统中包括接入服务、控制服务、VAD服务以及语音识别引擎。这些服务可以运行于相同的服务器上,可以运行于不同的服务器上,本公开实施例并不对此进行限定。另外,在语音识别系统中可以存在接入服务、控制服务、VAD服务以及语音识别引擎的多个实例。

具体的,上述接入服务,用于接收待识别语音的各个语音包,并向控制服务转发收接收到的语音包。可以认为接入服务向用户提供语音识别的API(ApplicationProgramming Interface,应用程序接口),可以基于WebSocket协议接收语音包。

控制服务,用于向VAD服务转发语音包,接收VAD服务反馈的语音片段的信息以及语音片段,并向语音识别引擎转发语音片段。除此之外,控制服务还缓存接收到的语音包、监测VAD服务是否出现故障以及在VAD服务出现故障的时候进行容错处理,以保证针对待识别语音的语音识别过程得以准确的进行。

VAD服务,用于接收控制服务发送的语音包,检测语音包中的语音片段,向控制服务反馈检测到的语音片段的信息,并根据语音片段的信息切分出语音片段,向控制服务反馈语音片段。

语音识别引擎,用于对控制服务发送的语音片段进行语音识别。

以上简述了图1所示的语音识别系统中各种服务的功能,其中,控制服务的详细功能在后续实施例中详细说明。

下面对语音包中的语音片段和静音片段进行说明。

语音片段是指存在声音的片段,静音片段是指不存在声音的片段。

本领域技术人员能够理解的是,语音包中存在声音的片段在频域的能量较高,而不存在声音的片段在频域的能量较低,几乎接近于零,例如,参见图2示出的语音包对应的频域波形示意图,从该图中可以看出,语音片段具有能量波动、且能量较高、不为零,而静音片段,也就是图2中示出的非语音片段,几乎不存在能量波动,且能量值基本为零。

基于此,一种实现方式中,VAD服务可以基于语音包在频域的能量,确定静音片段和语音片段。在确定语音片段时,主要是确定语音片段的起始时刻和终止时刻,然后将从起始时刻起至相邻的终止时刻止的片段作为语音片段。将语音包中除语音片段外的片段确定为静音片段。

例如,VAD服务检测到语音包在开始时刻频域的能量不为零,则确定开始时刻为语音片段的起始时刻,也就是检测到了语音片段开始。

若VAD服务在语音包的结束时刻检测到频域的能量不为零,因为该语音包已经结束,所以可以确认语音片段也结束,也就是,确定语音片段的终止时刻为语音包的结束时刻。

另外,还可以根据语音包中前后时刻频域能量的变化,确定语音片段的起始时刻和终止时刻。具体的,若检测到相邻时刻频域能量由无到有,则确定出现频域能量的时刻为语音片段的起始时刻;若检测到相邻时刻评语能量从有到无,则确定频域能量变为无的时刻为语音片段的终止时刻。

本公开实施例所提供方案的执行主体可以是上述控制服务,下面以执行主体为控制服务为例,通过具体实施例对本公开实施例提供的语音切分方案进行详细说明。

本公开的一个实施例中,参见图3和图4,图3示出了一种语音切分方法的流程示意图,图4示出了一种语音切分方法的信令示意图,下面结合图3和图4对上述语音切分方法进行说明。

具体的,上述语音切分方法包括以下步骤S301-步骤S305。

步骤S301:持续接收目标语音的语音包,在本地缓存接收到的语音包,并向目标VAD服务转发接收到的语音包。

上述目标语音可以是待进行语音识别的语音。从时长的角度看,目标语音可以是长语音,如,时长为20秒、10分钟、甚至1个小时的语音。

目标语音可以被划分为多个语音包,按照预设的时间间隔,这些语音包可以被源源不断的发送至控制服务,因此,控制服务需要持续接收语音包,进而保证获取到目标语音的所有语音包。各个语音包被按照预设的时间间隔发送至控制服务,这样可以使得相邻语音包的发送时间之间存在时间间隔,进而使得控制服务有充足的时间将语音包转发至目标VAD服务,也使得目标VAD服务有充足的时间对语音包进行语音片段检测和切分。

例如,上述时间间隔可以是160毫秒、200毫秒等。

另外,控制服务在接收到语音包后,除了在本地缓存语音包外,还向目标VAD服务转发接收到的语音包,不仅保证了目标VAD服务能够接收到最新的语音包,保证最新的语音包及时被目标VAD服务进行语音片段的检测与切分,还能够保证控制服务本地及时缓存下最新接收到的语音包。

步骤S302:接收目标VAD服务检测到的语音片段的信息以及切分出的语音片段。

语音片段的信息包括:语音片段的起始位置和终止位置。

目标VAD服务接收到语音包后,对语音包进行语音片段的检测以及切分。具体的,目标VAD服务在检测语音片段时,按照时序首先检测到语音片段的起始位置,然后检测到语音片段的终止位置,再从上述起始位置至终止位置切分出语音片段。从上述过程可以看出起始位置、终止位置以及语音片段的获得是存在前后顺序的,因此,一种实现方式中,目标VAD服务可以分别向控制服务反馈上述起始位置、终止位置以及语音片段,也就是,目标VAD服务检测到起始位置后即向控制服务反馈起始位置,不等待终止位置以及语音片段,检测到终止位置后即向控制服务反馈终止位置,不等待语音片段,切分出语音片段后再向控制服务反馈语音片段,这样可以使得控制服务及时接收到目标VAD服务检测到的语音片段的起始位置、终止位置以及切分出的语音片段,从而及时掌握目标VAD服务进行语音片段检测以及切分的进度。

本公开的一个实施例中,为便于区分目标VAD服务向控制服务反馈的是语音片段的起始位置,还是语音片段的终止位置,目标VAD服务可以为上述起始位置和终止位置设置不同的标识,然后将上述标识和位置的具体数值一并向控制服务反馈。

例如,设置起始位置的标识为Vad Start,终止位置的标识为Vad End,这样目标VAD服务向控制服务反馈起始位置时,反馈信息包括:Vad Start以及起始位置的具体数值,向控制服务反馈终止位置时,反馈信息包括:Vad End以及终止位置的具体数值。

具体的,上述起始位置和终止位置可以存在多种表示方式。例如,一种实现方式中,可以以相对于目标语音的开始位置的偏移表示。另一种实现方式中,还可以以所属语音包的标识以及相对于所属语音包开始位置的偏移表示。

步骤S303:监测目标VAD服务是否发生故障,若监测到目标VAD服务发生故障,执行下述步骤S304。

一种实现方式中,控制服务可以在故障监测周期内监测目标VAD服务是否发生故障。其中,上述故障监测周期可以是开发人员根据经验设定的,当然还可以是基于其他信息设置的。

另外,控制服务可以通过向目标VAD服务发送故障检测包的方式监测目标VAD服务是否发生故障,具体实现方式可以参见后续实施例,这里暂不详述。

需要说明的是,控制服务监测目标VAD服务是否发生故障的步骤可以持续于目标VAD服务的整个工作过程中,因此,步骤S303可以与上述步骤S301以及步骤S302并行执行,也可以串行执行,本公开实施例并不对此进行限定。

步骤S304:基于最新接收到的语音片段的信息,确定本地缓存的语音包中待重新切分的语音数据。

由于语音片段的信息中包括语音片段的起始位置和终止位置,因此,最新接收到的语音片段的信息可能是语音片段的起始位置,也可能是语音片段的终止位置。

一种实现方式中,在确定待重新切分的语音数据时,可以直接在本地缓存的数据包中查找最新接收到的语音片段的信息对应的位置,将查找的位置作为待重新切分的语音数据的开始位置,然后将本地缓存的语音包中从上述开始位置起至所缓存语音包尾的数据确定为待重新切分的语音数据。

确定待重新切分的语音数据的其他实现方式,可以参见后续图5和图6所示的实施例,这里暂不详述。

步骤S305:向新的VAD服务转发待重新切分的语音数据以及接收到的语音包,以使得新的VAD服务对接收到的数据进行语音片段检测并切分语音片段。

上述新的VAD可以是控制服务从处于空闲状态的VAD服务中选择的VAD服务,当然,也可以是从忙碌程度小于预设忙碌程度的VAD服务中选择的VAD服务。

按照时间顺序,控制服务先接收到的是上述待重新切分的语音数据,然后是后续接收到的语音包,因此,控制服务向目标VAD服务转发语音数据时,先转发待重新切分的语音数据,然后是后续接收到的语音包。

新的VAD服务接收到数据后,可以按照前述步骤S302处描述的方式检测语音片段以及切分语音片段,区别仅在于新的VAD以及目标VAD在名称上的区别。

除此之外,新的VAD服务也会在检测到语音片段的起始位置后,向控制服务反馈上述起始位置,在检测到语音片段的终止位置后,向控制服务反馈上述终止位置,在切分出语音片段后向控制服务反馈语音片段。

再者,控制服务与监测目标VAD服务是否发生故障一样,也会监测新的VAD服务是否发生故障。

由以上可见,应用本公开实施例提供的方案进行语音切分的过程中,会监测目标VAD服务是否发生故障,一旦目标VAD服务发生故障,将启用新的VAD服务进行语音片段检测以及语音片段切分。又由于本公开实施例提供的方案中,不仅持续不断的接收目标语音的语音包,还会在本地缓存接收到的语音包,这样在转由新的VAD服务进行语音片段检测与切分时,不仅能够由新的VAD服务对后续接收到的语音包进行语音片段的检测与切分,还能够依据本地缓存的语音数据,将已接收到但是目标VAD服务出现故障时未检测与切分完的语音数据发送至新的VAD服务进行语音片段的检测与切分。综合以上,应用本公开实施例提供的方案进行语音切分能够提高语音切分的容错率。

另外,这样能够使得新的VAD服务以“断点续传”的方式接替目标VAD服务的工作,减少遗漏目标语音中未被切分的数据,从而在进行语音识别时,保证了即便目标VAD服务出现故障语音识别的准确率也不会下降。

本公开的一个实施例中,上述步骤S301在本地缓存接收到的语音包时,可以仅保持本地缓存有最新接收到的预设时长的语音包,其中,预设时长大于等于预设的故障监测周期。

控制服务接收到语音包后会在本地缓存所接收到的语音包,但是缓存的语音包越多占用的缓存越大,因此,不能无限制的缓存所有接收到的语音包。鉴于上述情况,本实施例提供的方案中控制服务仅缓存最新接收到的预设时长的语音包,这样当接收到新的语音包后,控制服务从本地缓存中删除缓存时间最长的已有语音数据,并缓存上述新的语音包,其中,上述已有语音数据的时长与新的语音包的时长相等。这样随着控制服务不断接收语音包,能够使得本地缓存的数据中缓存时间长的数据不断被新接收到的语音包更新,但是缓存的所有数据的时长依然保持了上述预设时长。

一种情况下,上述故障监测周期可以是开发人员根据经验设置的时长,还可以是依据具体的故障监测方式确定的。

由以上可见,控制服务在缓存接收到的语音包时,仅保持本地缓存有最新接收到的预设时长的语音包,这样不仅保证了最新接收到的语音包被缓存,还考虑了语音包对缓存空间的占用,使得缓存的语音包占用的缓存空间不会过大,平衡了缓存资源的占用。另外,由于上述预设时长大于故障监测周期,所以,在故障监测周期内目标VAD发生故障,能够有效保证未被成功切分的语音依然存在于缓存中。

下面对控制服务监测目标VAD服务是否发生故障的方式进行详细说明。

本公开的一个实施例中,控制服务可以按照预设的发送周期向目标VAD服务发送故障检测包,例如,上述故障检测包可以是keepalive包,另外,上述故障检测包中可以携带有发送故障检测包的时间戳。目标VAD服务接收到故障检测包后,会立即响应该故障检测包,向控制服务反馈响应包。控制服务接收到目标VAD服务反馈的上述故障检测包的响应包后,计算发送上述故障检测包与接收响应包之间的时间差,若连续出现时间差大于预设时长阈值的次数大于预设次数,说明目标VAD服务响应故障检测包的时间变长,难以及时响应故障检测包,这时可以确定目标VAD服务发生故障,反之,确定目标VAD服务未发生故障。这样可以及时快速的监测到目标VAD服务是否发生故障,进而及时从目标VAD服务切换至新的VAD服务,有效保证语音切分能够顺利进行,从而进一步提高语音切分的容错率。

例如,上述预设的周期可以是1秒、2秒等。上述预设时长阈值可以是2秒、3秒等。上述预设次数可以是2次、3次等。

为保证控制服务在接收到响应包后能够准确的计算出上述时间差,响应包中可以包含故障检测包中携带的时间戳,这样在计算上述时间差时,获得接收响应包的时间,并获得响应包携带的时间戳,做差,从而得到上述时间差。

基于上述监测目标VAD是否发生故障的方式,本公开的一个实施例中,上述故障监测周期可以是根据上述预设时长阈值、预设次数确定的时长。

例如,可以计算上述预设时长阈值与预设次数的乘积,作为上述故障监测周期。这种情况下可以设置上述预设时长为大于故障监测周期的数值,也就是大于上述乘积的数值。如,预设时长阈值为2秒,预设次数为2次时,上述乘积为4秒,则上述故障监测周期为4秒,这种情况下,上述预设时长可以是10秒、12秒等。

本公开的另一个实施例中,在设置上述故障监测周期时,除了考虑上述预设时长阈值、预设次数外,还可以考虑语音包的时长,尤其是语音包的最大时长。

例如,在计算得到上述预设时长阈值与预设次数的乘积之后,还可以计算上述乘积与语音包最大时长的和值,将上述和值作为故障监测周期。这种情况下可以设置上述预设时长为大于上述故障监测周期的数值,也就是大于上述和值的数值。如,在上述举例的基础上,若语音包的最大时长为3秒,上述和值为4秒+3秒=7秒,这种情况下,上述预设时长可以是大于7秒的数值,如,上述预设时长可以是10秒、12秒等。

由以上可见,根据上述预设时长阈值和预设次数设置上述故障监测周期,进而设置用于缓存语音包的预设时长,不仅能够保证控制服务在本地缓存足够的语音包,在目标VAD服务发生故障时能够从控制服务的本地缓存中定位出还未成功切分的语音数据,还能够有效防止本地缓存的语音包过多,减少对缓存的占用。

从前面的描述可以得知,能够通过不同的方式确定待重新切分的语音数据,在此基础上,本公开实施例提供了另一种语音切分方法。

本公开的一个实施例中,参见图5和图6,图5提供了另一种语音切分方法的流程示意图,图6提供了另一种语音切分方法的信令示意图,下面结合图5和图6对上述语音切分方法进行说明。

具体的,上述语音切分方法包括以下步骤S501-步骤S507。

步骤S501:持续接收目标语音的语音包,保持本地缓存有最新接收到的预设时长的语音包,并向目标VAD服务转发接收到的语音包。

需要说明的是,本步骤S501与前述步骤S301以及关于缓存语音包的步骤相同,这里不再详述。

步骤S502:接收目标VAD服务反馈的语音包的帧号偏移。

控制服务向目标VAD服务发送语音包后,目标VAD服务接收到语音包,可以从语音包中获得该语音包的帧号偏移,并向控制服务反馈上述帧号偏移,一方面告知控制服务已经接收到了语音包,另一方面告知控制服务将要对哪一个语音包进行语音片段检测与切分。

一种情况下,上述帧号偏移可以是语音包中首帧相对于目标语音的偏移。

一种实现方式中,目标VAD服务可以以向控制服务发送ACK(Acknowledgecharacter,确认字符)报文的方式向控制服务反馈上述帧号偏移。这种情况下,上述帧号偏移携带于ACK报文中。

步骤S503:接收目标VAD服务检测到的语音片段的信息以及切分出的语音片段。

步骤S504:监测目标VAD服务是否发生故障,若监测到目标VAD服务发生故障,执行下述步骤S505或S506。

需要说明的是,上述步骤S503、步骤S504分别与前述步骤S302、步骤S303相同,这里不再详述。

步骤S505:若最新接收到的语音片段的信息为语音片段的起始位置,则确定本地缓存的语音包中从上述起始位置起的数据为待重新切分的语音数据。

由于语音包中可能会包含静音片段和语音片段两种类型的片段,所以可以认为语音包可能会处于两种状态,speech(说话)状态和non-speech(非说话)状态,这两种状态之间可以转换,具体的,可以参见图7。两种状态之间如何进行转换,依赖于目标VAD服务检测到的语音片段的信息。当前处于speech状态时,若目标VAD服务检测到了语音片段的终止位置,也就是Vad End,则从speech状态切换至non-speech状态;当前处于non-speech状态时,若目标VAD服务检测到了语音片段的开始位置,也就是Vad Start,则从non-speech状态切换至speech状态。

在上述基础上,若最新接收到的语音片段的信息为语音片段的起始位置,这时可以认为处于speech状态,目标VAD服务已经检测到了语音片段,也就是正在对语音片段进行检测与切分。由于控制服务本地缓存了预设时长的语音包,且预设时长大于等于故障监测周期,所以,在故障监测周期内监测到目标VAD服务发生故障后,目标VAD服务当前正在处理的语音包依然缓存在控制服务的本地缓存中,因此,这种情况下,可以在本地缓存的语音包中确定上述起始位置对应的数据,然后将从所确定的数据起,至本地缓存的数据尾之间的数据确定为待重新切分的语音数据。

步骤S506:若最新接收到的语音片段的信息为语音片段的终止位置,则基于最新接收到的帧号偏移,确定本地缓存的语音包中待重新切分的语音数据。

基于前述步骤S505处的描述可以得知,若最新接收到的语音片段的信息为语音片段的终止位置,这时可以认为处于non-speech状态,目标VAD服务检测到的不是语音片段,而是静音片段。然而导致目标VAD服务检测到的片段为静音片段,一方面可能是真的因为语音包中当前是静音片段,另一方面可能是因为目标VAD服务在一段时间之前已经出现了故障导致的。

鉴于上述情况,本公开的一个实施例中,若本地缓存的语音包中存在目标位置,则说明控制服务本地缓存的数据中存在目标VAD服务正在处理的语音包,这时确定本地缓存的语音包中从目标位置起的数据为待重新切分的语音数据。其中,目标位置为:最新接收到的帧号偏移对应的位置。

若本地缓存的语音包中不存在目标位置,则说明目标VAD已经出现了一段时间的故障,但是因为控制服务一直在按照故障监测周期进行故障监测,所以能够保证已经不存在于控制服务本地缓存中的语音包已被目标VAD服务成功切分,为防止遗漏控制服务本地缓存中未被切分的数据,所以,这种情况下,本实施例中确定本地缓存的所有语音包为待重新切分的语音数据。

可见,本实施例提供的方案中在最新接收到的语音片段的信息为语音片段的终止位置时,结合最新接收到的帧号偏移对应的目标位置,分情况确定待重新切分的语音数据,有利于提高所确定出待重新切分的语音数据的准确性,较少了控制服务本地缓存的数据中被遗漏切分的情况。

步骤S507:向新的VAD服务转发待重新切分的语音数据以及接收到的语音包,以使得新的VAD服务对接收到的数据进行语音片段检测并切分语音片段。

需要说明的是,本步骤S507与前述步骤S305相同,这里不再详述。

由以上可见,本实施例提供的方案中,按照最新接收到的语音片段的信息为语音片段的起始位置和终止位置,分别采用不同的方式确定待重新切分的语音数据,这样有效考虑了不同情况下控制服务的本地所缓存数据的特点,使得确定出的待重新切分的数据更加准确,从而进一步有效提高语音切分的容错率。

与上述语音切分方法相对应,本公开实施例还提供了一种语音切分装置。

本公开的一个实施例中,参见图8,提供了一种语音切分装置的结构示意图,包括:

语音包接收模块801,用于持续接收目标语音的语音包,在本地缓存接收到的语音包,并向目标语音活动检测VAD服务转发接收到的语音包;

语音信息接收模块802,用于接收所述目标VAD服务检测到的语音片段的信息以及切分出的语音片段,其中,所述语音片段的信息包括:语音片段的起始位置和终止位置;

故障监测模块803,用于监测所述目标VAD服务是否发生故障;

语音数据确定模块804,用于若监测到所述目标VAD服务发生故障,基于最新接收到的语音片段的信息,确定本地缓存的语音包中待重新切分的语音数据;

语音数据转发模块805,用于向新的VAD服务转发所述待重新切分的语音数据以及接收到的语音包,以使得所述新的VAD服务对接收到的数据进行语音片段检测并切分语音片段。

由以上可见,应用本公开实施例提供的方案进行语音切分的过程中,会监测目标VAD服务是否发生故障,一旦目标VAD服务发生故障,将启用新的VAD服务进行语音片段检测以及语音片段切分。又由于本公开实施例提供的方案中,不仅持续不断的接收目标语音的语音包,还会在本地缓存接收到的语音包,这样在转由新的VAD服务进行语音片段检测与切分时,不仅能够由新的VAD服务对后续接收到的语音包进行语音片段的检测与切分,还能够依据本地缓存的语音数据,将已接收到但是目标VAD服务出现故障时未检测与切分完的语音数据发送至新的VAD服务进行语音片段的检测与切分。综合以上,应用本公开实施例提供的方案进行语音切分能够提高语音切分的容错率。

另外,这样能够使得新的VAD服务以“断点续传”的方式接替目标VAD服务的工作,减少遗漏目标语音中未被切分的数据,从而在进行语音识别时,保证了即便目标VAD服务出现故障语音识别的准确率也不会下降。

本公开的一个实施例中,所述语音包接收模块801,具体用于持续接收目标语音的语音包,保持本地缓存有最新接收到的预设时长的语音包,并向目标语音活动检测VAD服务转发接收到的语音包,其中,所述预设时长大于等于预设的故障监测周期。

由以上可见,控制服务在缓存接收到的语音包时,仅保持本地缓存有最新接收到的预设时长的语音包,这样不仅保证了最新接收到的语音包被缓存,还考虑了语音包对缓存空间的占用,使得缓存的语音包占用的缓存空间不会过大,平衡了缓存资源的占用。另外,由于上述预设时长大于故障监测周期,所以,在故障监测周期内目标VAD发生故障,能够有效保证未被成功切分的语音依然存在于缓存中。

本公开的一个实施例中,参见图9,提供了另一种语音切分装置的结构示意图,所述装置包括:

语音包接收模块901,具体用于持续接收目标语音的语音包,保持本地缓存有最新接收到的预设时长的语音包,并向目标语音活动检测VAD服务转发接收到的语音包,其中,所述预设时长大于等于预设的故障监测周期。

帧号偏移接收模块902,用于在所述语音包接收模块向所述目标VAD服务转发接收到的语音包后,接收所述目标VAD服务反馈的语音包的帧号偏移;

语音信息接收模块903,用于接收所述目标VAD服务检测到的语音片段的信息以及切分出的语音片段,其中,所述语音片段的信息包括:语音片段的起始位置和终止位置;

故障监测模块904,用于监测所述目标VAD服务是否发生故障;

第一语音数据确定单元905,用于在监测到所述目标VAD服务发生故障的情况下,若最新接收到的语音片段的信息为语音片段的起始位置,则确定本地缓存的语音包中从所述起始位置起的数据为待重新切分的语音数据;

第二语音数据确定单元906,用于在监测到所述目标VAD服务发生故障的情况下,若最新接收到的语音片段的信息为语音片段的终止位置,则基于最新接收到的帧号偏移,确定本地缓存的语音包中待重新切分的语音数据。

语音数据转发模块907,用于向新的VAD服务转发所述待重新切分的语音数据以及接收到的语音包,以使得所述新的VAD服务对接收到的数据进行语音片段检测并切分语音片段。

由以上可见,本实施例提供的方案中,按照最新接收到的语音片段的信息为语音片段的起始位置和终止位置,分别采用不同的方式确定待重新切分的语音数据,这样有效考虑了不同情况下控制服务的本地所缓存数据的特点,使得确定出的待重新切分的数据更加准确,从而进一步有效提高语音切分的容错率。

本公开的一个实施例中,所述第二语音数据确定单元906,具体用于在监测到所述目标VAD服务发生故障的情况下,若本地缓存的语音包中存在目标位置,则确定本地缓存的语音包中从所述目标位置起的数据为待重新切分的语音数据,其中,所述目标位置为:最新接收到的帧号偏移对应的位置;若本地缓存的语音包中不存在所述目标位置,则确定本地缓存的所有语音包为待重新切分的语音数据。

可见,本实施例提供的方案中在最新接收到的语音片段的信息为语音片段的终止位置时,结合最新接收到的帧号偏移对应的目标位置,分情况确定待重新切分的语音数据,有利于提高所确定出待重新切分的语音数据的准确性,较少了控制服务本地缓存的数据中被遗漏切分的情况。

本公开的一个实施例中,所述故障监测模块,具体用于按照预设的发送周期向所述目标VAD服务发送故障检测包;接收所述目标VAD服务反馈的所述故障检测包的响应包;计算发送所述故障检测包与接收所述响应包之间的时间差;若连续出现所述时间差大于预设时长阈值的次数大于预设次数,确定所述目标VAD服务发生故障。

这样可以及时快速的监测到目标VAD服务是否发生故障,进而及时从目标VAD服务切换至新的VAD服务,有效保证语音切分能够顺利进行,从而进一步提高语音切分的容错率。

本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。

根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

本公开的一个实施例中,提供了一种电子设备,包括:

至少一个处理器;以及

与所述至少一个处理器通信连接的存储器;其中,

所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述方法实施例所述的语音切分方法。

本公开的一个实施例中,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述方法实施例所述的语音切分方法。

本公开的一个实施例中,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述方法实施例所述的语音切分方法。

图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序或者从存储单元1008加载到随机访问存储器(RAM)1003中的计算机程序,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。

设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006,例如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如语音切分方法。例如,在一些实施例中,语音切分方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1008。在一些实施例中,计算机程序的部分或者全部可以经由ROM1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的语音切分方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行语音切分方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。

应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。

上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

相关技术
  • 一种语音切分方法、装置、设备及存储介质
  • 一种语音切分的方法、装置、设备和计算机存储介质
技术分类

06120114720940