一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种低质数据的自动化合成方法、装置及电子设备与流程

2021-10-29 21:18:00 来源:中国专利 TAG:电子设备 合成 语音 装置 自动化


1.本发明涉及语音技术领域,尤其涉及一种低质数据的自动化合成方法、装置及电子设备。


背景技术:

2.自动化低质数据语音合成系统是指,在保证全自动化的情形下,能对收集到的低质量音频数据进行语音合成任务的系统。
3.低质音频数据质量较低,主要有三个问题:噪音;无语音标注文本(即这段音频的文字内容);混有大量无关音色音频。其中无语音标注文本的音频,通常需要由asr系统对音频进行识别产出识别文本,但一般情况下asr系统识别的准确率不会是100%,甚至会很低,造成合成系统的结果出现大量坏例。因此,通常情况下需要人工介入,人工标注出正确文本,然后再进行语音合成任务。
4.因此,提出一种低质数据的自动化合成方法、装置及电子设备。


技术实现要素:

5.本说明书提供一种低质数据的自动化合成方法、装置及电子设备,可实现在保证全自动化的情形下对收集到的低质量音频数据进行语音合成任务的功能。
6.本技术提供的一种低质数据的自动化合成方法采用如下的技术方案,包括:
7.获取低质音频数据;
8.对所述低质音频数据进行噪音分离,得到发音数据和噪音数据;
9.基于所述噪音数据去除所述发音数据的背景噪音,得到去除背景噪音的发音数据;
10.对所述发音数据进行语音识别,得到所述发音数据的文本信息;
11.输入所述文本信息至预先训练的声学模型,得到合成的音频数据。
12.可选的,所述声学模型的训练方法包括:
13.构建声学模型,并获取多个样本低质音频数据;
14.对所述样本低质音频数据分别进行噪音分离,得到相应的样本发音数据和样本噪音数据;
15.基于所述样本噪音数据去除所述样本发音数据的背景噪音,得到去除背景噪音的样本发音数据;
16.对所述样本发音数据分别进行语音识别,得到所述样本发音数据的样本文本信息;
17.根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,得到训练完成的声学模型。
18.可选的,所述根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,包括:
19.获取各个所述样本发音数据的声纹特征矢量;
20.根据所述声纹特征矢量对所述样本发音数据进行聚类;
21.选取聚类结果中数量最多的一类的所述样本发音数据和相对应的样本文本信息,对所述声学模型进行训练。
22.可选的,所述选取聚类结果中数量最多的一类的所述样本发音数据和相对应的样本文本信息,对所述声学模型进行训练,包括:
23.获取聚类结果中数量最多的一类的所述样本发音数据作为第一数据;
24.获取所述第一数据的信噪比,和所述第一数据对应的文本数据的置信度量;
25.根据所述信噪比和所述置信度量对所述第一数据进行筛选,得到第二数据;
26.通过所述第二数据和所述第二数据对应的文本信息,对所述声学模型进行训练。
27.可选的,所述根据所述信噪比和所述置信度量对所述第一数据进行筛选,得到第二数据,包括:
28.基于所述置信度量对所述第一数据进行升序/降序排名,得到与所述置信度量的升序/降序排名结果成正比的第一分数;
29.基于所述信噪比对所述第一数据进行升序/降序排名,得到与所述信噪比的升序/降序排名结果成正比的第二分数;
30.结合所述第一分数和所述第二分数对所述第一数据进行升序排名;
31.选取排名靠前的n个第一数据,作为第二数据。
32.可选的,所述根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,得到训练完成的声学模型,包括:
33.获取高质音频数据和高质音频数据的高质文本信息;
34.将所述样本文本信息与所述高质文本信息输入所述声学模型,分别得到相对应的样本声学特征和高质声学特征;
35.将所述样本声学特征与相对应的样本发音数据进行对比,判断所述样本声学特征与相对应的样本发音数据是否相似;
36.将所述高质声学特征与相对应的高质音频数据进行对比,判断述高质声学特征与相对应的高质音频数据是否相似;
37.当所述样本声学特征与相对应的样本发音数据相似的数量符合第一预设条件,且所述高质声学特征与相对应的高质音频数据相似的数量符合第二预设条件,所述声学模型收敛,得到训练完成的声学模型。
38.可选的,所述将所述样本文本信息与所述高质文本信息输入所述声学模型,分别得到相对应的样本声学特征和高质声学特征,包括:
39.通过所述高质文本信息对所述样本文本信息进行修正、补充,得到修正、补充的样本文本数据,其中,修正、补充后的所述样本文本信息与所述高质文本信息具有相同的分布。
40.本技术提供的一种低质数据的自动化合成装置采用如下的技术方案,包括:
41.获取模块,用于获取低质音频数据;
42.分离模块,用于对所述低质音频数据进行噪音分离,得到发音数据和噪音数据;
43.去噪模块,用于基于所述噪音数据去除所述发音数据的背景噪音,得到去除背景
噪音的发音数据;
44.语音识别模块,用于对所述发音数据进行语音识别,得到所述发音数据的文本信息;
45.合成模块,用于输入所述文本信息至预先训练的声学模型,得到合成的音频数据。
46.可选的,所述合成模块的声学模型包括:
47.获取子模块,用于构建声学模型,并获取多个样本低质音频数据;
48.分离子模块,用于对所述样本低质音频数据分别进行噪音分离,得到相应的样本发音数据和样本噪音数据;
49.去噪子模块,用于基于所述样本噪音数据去除所述样本发音数据的背景噪音,得到去除背景噪音的样本发音数据;
50.语音识别子模块,用于对所述样本发音数据分别进行语音识别,得到所述样本发音数据的样本文本信息;
51.合成子模块,用于根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,得到训练完成的声学模型。
52.可选的,所述合成子模块包括:
53.第一获取单元,用于获取各个所述样本发音数据的声纹特征矢量;
54.聚类单元,用于根据所述声纹特征矢量对所述样本发音数据进行聚类;
55.选取单元,用于选取聚类结果中数量最多的一类的所述样本发音数据和相对应的样本文本信息,对所述声学模型进行训练。
56.可选的,所述选取单元,用于获取聚类结果中数量最多的一类的所述样本发音数据作为第一数据;获取所述第一数据的信噪比,和所述第一数据对应的文本数据的置信度量;根据所述信噪比和所述置信度量对所述第一数据进行筛选,得到第二数据;通过所述第二数据和所述第二数据对应的文本信息,对所述声学模型进行训练。
57.可选的,所述选取单元,具体用于基于所述置信度量对所述第一数据进行升序/降序排名,得到与所述置信度量的升序/降序排名结果成正比的第一分数;基于所述信噪比对所述第一数据进行升序/降序排名,得到与所述信噪比的升序/降序排名结果成正比的第二分数;结合所述第一分数和所述第二分数对所述第一数据进行升序排名;选取排名靠前的n个第一数据,作为第二数据。
58.可选的,所述合成子模块包括:
59.第二获取单元,用于获取高质音频数据和高质音频数据的高质文本信息;
60.第三获取单元,用于将所述样本文本信息与所述高质文本信息输入所述声学模型,分别得到相对应的样本声学特征和高质声学特征;
61.判断单元,用于将所述样本声学特征与相对应的样本发音数据进行对比,判断所述样本声学特征与相对应的样本发音数据是否相似;
62.对比单元,用于将所述高质声学特征与相对应的高质音频数据进行对比,判断述高质声学特征与相对应的高质音频数据是否相似;
63.训练单元,用于当所述样本声学特征与相对应的样本发音数据相似的数量符合第一预设条件,且所述高质声学特征与相对应的高质音频数据相似的数量符合第二预设条件,所述声学模型收敛,得到训练完成的声学模型。
64.可选的,所述第三获取单元用于通过所述高质文本信息对所述样本文本信息进行修正、补充,得到修正、补充的样本文本数据,其中,修正、补充后的所述样本文本信息与所述高质文本信息具有相同的分布。
65.本说明书还提供一种电子设备,其中,该电子设备包括:
66.处理器;以及,
67.存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器执行上述任一项方法。
68.本说明书还提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储一个或多个程序,所述一个或多个程序当被处理器执行时,实现上述任一项方法。
69.本发明中,通过收集得到低质音频数据,低质音频数据通过切割分离模型分离出发音数据和噪音数据,利用通过分离切割模型分离出来噪音数据,再通过去噪模块,结合噪音数据将发音数据中的背景噪音去除,得到较纯净的发音数据。发音数据通过语音识别模型得到发音数据的文本信息,将低质音频数据对应的文本信息输入至预先训练的声学模型,即可通过预先训练的声学模型得到低质音频数据对应的文本信息的准确的音频数据。
附图说明
70.图1为本说明书实施例提供的一种低质数据的自动化合成方法的原理示意图;
71.图2为本说明书实施例提供的一种训练声学模型的流程示意图;
72.图3为本说明书实施例提供的一种低质数据的自动化合成装置的结构示意图;
73.图4为本说明书实施例提供的一种电子设备的结构示意图;
74.图5为本说明书实施例提供的一种计算机可读介质的原理示意图。
具体实施方式
75.以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
76.以下结合附图1

5对本技术作进一步详细说明。
77.本说明书实施例提供一种低质数据的自动化合成方法,包括:
78.获取低质音频数据;
79.对所述低质音频数据进行噪音分离,得到发音数据和噪音数据;
80.基于所述噪音数据去除所述发音数据的背景噪音,得到去除背景噪音的发音数据;
81.对所述发音数据进行语音识别,得到所述发音数据的文本信息;
82.输入所述文本信息至预先训练的声学模型,得到合成的音频数据。
83.在本说明书实施例中,通过收集得到低质音频数据,低质音频数据通过切割分离模型分离出发音数据和噪音数据,利用通过分离切割模型分离出来噪音数据,再通过去噪模块,结合噪音数据将发音数据中的背景噪音去除,得到较纯净的发音数据。发音数据通过语音识别模型得到发音数据的文本信息,将低质音频数据对应的文本信息输入至预先训练
的声学模型,即可通过预先训练的声学模型得到低质音频数据对应的文本信息的准确的音频数据。
84.现在将参考附图更全面地描述本发明的示例性实施例。然而,示例性实施例能够以多种形式实施,且不应被理解为本发明仅限于在此阐述的实施例。相反,提供这些示例性实施例能够使得本发明更加全面和完整,更加便于将发明构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的元件、组件或部分,因而将省略对它们的重复描述。
85.在符合本发明的技术构思的前提下,在某个特定的实施例中描述的特征、结构、特性或其他细节不排除可以以合适的方式结合在一个或更多其他的实施例中。
86.在对于具体实施例的描述中,本发明描述的特征、结构、特性或其他细节是为了使本领域的技术人员对实施例进行充分理解。但是,并不排除本领域技术人员可以实践本发明的技术方案而没有特定特征、结构、特性或其他细节的一个或更多。
87.附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
88.附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
89.术语“和/或”或者“及/或”包括相关联的列出项目中的任一个或多者的所有组合。
90.图1为本说明书实施例提供的一种低质数据的自动化合成方法的原理示意图,该方法可以包括:
91.s101:获取低质音频数据。
92.在本说明书实施例中,通过收集得到低质音频数据,低质体现在:有大量背景噪音;无音频标准文本;可能混有大量其它音色的音频。例如:从客服通话系统中提取的客服端通话音频。
93.s102:对所述低质音频数据进行噪音分离,得到发音数据和噪音数据。
94.在本说明书实施例中,低质音频数据通过切割分离模型分离出发音数据和噪音数据。切割分离模型包括vad(voice activity detection,静音抑制,又称语音活动侦测)模块,vad是一个将较长的低质音频数据中的发音数据和噪音数据切割出来的过程。在本说明书实施例中的vad模块可使用开源模块,或者使用私有的模块,例如:vad模块有python库等。
95.s103:基于所述噪音数据去除所述发音数据的背景噪音,得到去除背景噪音的发音数据。
96.在本说明书实施例中,利用通过分离切割模型分离出来噪音数据,再通过去噪模块,结合噪音数据将发音数据中的背景噪音去除,得到较纯净的发音数据。在本说明书实施例中的去噪模块可使用开源模块,或者使用私有的模块,例如:去噪模块有python库等。
97.s104:对所述发音数据进行语音识别,得到所述发音数据的文本信息。
98.在本说明书实施例中,发音数据通过语音识别模型得到发音数据的文本信息。语音识别模型包括asr(automatic speech recognition,自动语音识别技术)模块,asr是语
音识别的逆过程,识别发音数据的文字内容。asr模块的主要流程为:将发音数据与声学特征相匹配,匹配成功,则将发音数据输入声学模块,再输入解码器,结合语言模块,得到不完全准确的发音数据的文本信息。其中,声学模块、语言模块和解码器在本说明书实施例中均为已经训练好或调试好的开源模块。在本说明书实施例中,asr模块可使用开源模块,或者使用私有的模块,例如:asr模块可使用kaldi(kaldi是当前最流行的开源语音识别工具,它使用wfst来实现解码算法)进行训练等。
99.s105:输入所述文本信息至预先训练的声学模型,得到合成的音频数据。
100.在本说明书实施例中,将低质音频数据对应的文本信息输入至预先训练的声学模型,即可通过预先训练的声学模型得到低质音频数据对应的文本信息的准确的音频数据。
101.在本说明书实施例中,所述声学模型的训练方法包括:
102.构建声学模型,并获取多个样本低质音频数据;
103.对所述样本低质音频数据分别进行噪音分离,得到相应的样本发音数据和样本噪音数据;
104.基于所述样本噪音数据去除所述样本发音数据的背景噪音,得到去除背景噪音的样本发音数据;
105.对所述样本发音数据分别进行语音识别,得到所述样本发音数据的样本文本信息;
106.根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,得到训练完成的声学模型。
107.在本说明书实施例中,通过收集得到多个样本低质音频数据,低质体现在:有大量背景噪音;无音频标准文本;可能混有大量其它音色的音频。例如:从客服通话系统中提取的客服端通话音频。样本低质音频数据通过切割分离模型分离出样本发音数据和样本噪音数据。切割分离模型包括vad模块,vad是一个将较长的样本低质音频数据中的样本发音数据和样本噪音数据切割出来的过程。在本说明书实施例中的vad模块可使用开源模块,或者使用私有的模块,例如:vad模块有python库等。利用通过分离切割模型分离出来样本噪音数据,再通过去噪模块,结合样本噪音数据将样本发音数据中的背景噪音去除,得到较纯净的样本发音数据。在本说明书实施例中的去噪模块可使用开源模块,或者使用私有的模块,例如:去噪模块有python库等。
108.样本发音数据通过语音识别模型得到样本发音数据的文本信息。语音识别模型包括asr模块,asr是语音识别的逆过程,识别发音数据的文字内容。asr模块的主要流程为:将样本发音数据与声学特征相匹配,匹配成功,则将样本发音数据输入声学模块,再输入解码器,结合语言模块,得到不完全准确的样本发音数据的文本信息。其中,声学模块、语言模块和解码器在本说明书实施例中均为已经训练好或调试好的开源模块。在本说明书实施例中,asr模块可使用开源模块,或者使用私有的模块,例如:asr模块可使用kaldi进行训练等。
109.将样本低质音频数据对应的文本信息输入至预先训练的声学模型,即可通过预先训练的声学模型得到样本低质音频数据对应的文本信息的准确的样本音频数据。
110.在本说明书实施例中,所述根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,包括:
111.获取各个所述样本发音数据的声纹特征矢量;
112.根据所述声纹特征矢量对所述样本发音数据进行聚类;
113.选取聚类结果中数量最多的一类的所述样本发音数据和相对应的样本文本信息,对所述声学模型进行训练。
114.在本说明书实施例中,将样本发音数据输入至声纹模块,将得到样本发音数据对应的声纹特征矢量,声纹特征矢量即声纹特征向量,声纹特征矢量可以是随时间变化的声纹特征组成的向量,一个样本发音数据对应一个声纹特征矢量。根据声纹特征矢量,样本发音数据和对应的文本信息经过聚类方法,得到分类结果,选取分类结果中样本发音数据和对应的文本信息数量最多的一类作为主要类别,属于主要类别的样本发音数据和对应的文本信息参与到声学模型的训练中。在本说明书实施例中的聚类方法可为dbscan(density

based spatial clustering of applications with noise,聚类算法)方法、k均值聚类方法,dbscan方法是一个比较有代表性的基于密度的聚类算法,k均值聚类方法是一种迭代求解的聚类分析算法,其步骤是,预将数据分为k组,则随机选取k个对象作为初始的聚类中心,然后计算每个对象与各个种子聚类中心之间的距离,把每个对象分配给距离它最近的聚类中心。聚类中心以及分配给它们的对象就代表一个聚类,也可为其它方法。
115.在本说明书实施例中,所述选取聚类结果中数量最多的一类的所述样本发音数据和相对应的样本文本信息,对所述声学模型进行训练,包括:
116.获取聚类结果中数量最多的一类的所述样本发音数据作为第一数据;
117.获取所述第一数据的信噪比,和所述第一数据对应的文本数据的置信度量;
118.根据所述信噪比和所述置信度量对所述第一数据进行筛选,得到第二数据;
119.通过所述第二数据和所述第二数据对应的文本信息,对所述声学模型进行训练。
120.在本说明书实施例中,根据声纹特征矢量,样本发音数据和对应的文本信息经过聚类的方法,得到分类结果,选取分类结果中样本发音数据和对应的文本信息数量最多的一类作为第一数据。将第一数据输入切割分离模型还可以得到第一数据的信噪比,信噪比指的是音频数据中有效信号的能量与背景噪音能量的相对大小。将第一数据输入语音识别模型还可以得到置信度量,置信度量也称为可靠度,或置信水平、置信系数,即在抽样对总体参数作出估计时,由于样本的随机性,其结论总是不确定的。因此,采用一种概率的陈述方法,也就是数理统计中的区间估计法,即估计值与总体参数在一定允许的误差范围以内,其相应的概率有多大,这个相应的概率称作置信度。在本书明书实施例中的置信度量可为对发音数据进行语音识别,得到发音数据的文本信息的数量或者种类越少,识别的准确度越准确,置信度量越高。置信度量也可为对样本发音数据进行语音识别,得到的样本发音数据的文本信息与标准的样本发音数据的文本信息进行比对,越相似置信度量越高。结合信噪比和置信度量根据规则筛选模型筛选第一数据,得到第二数据。第二数据和第二数据对应的文本信息参与到声学模型的训练中。
121.在本说明书实施例中,所述根据所述信噪比和所述置信度量对所述第一数据进行筛选,得到第二数据,包括:
122.基于所述置信度量对所述第一数据进行升序/降序排名,得到与所述置信度量的升序/降序排名结果成正比的第一分数;
123.基于所述信噪比对所述第一数据进行升序/降序排名,得到与所述信噪比的升序/
降序排名结果成正比的第二分数;
124.结合所述第一分数和所述第二分数对所述第一数据进行升序排名;
125.选取排名靠前的n个第一数据,作为第二数据。
126.在本说明书实施例中,按照置信度量对第一数据进行升序排名,排名越靠前得到的第一分数越高,按照信噪比对第一数据进行升序排名,排名越靠前得到的第二分数越高,将第一分数和第二分数加权相加按照升序排名,排名越靠第一数据对应的分数和越高,选取排名靠前的n个第一数据,作为第二数据;也可按照置信度量对第一数据进行降序排名,排名越靠后得到的第一分数越高,按照信噪比对第一数据进行降序排名,排名越靠后得到的第二分数越高,将第一分数和第二分数加权相加按照升序排名,排名越靠第一数据对应的分数和越高,选取排名靠前的n个第一数据,作为第二数据。
127.在本说明书实施例中,所述根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,得到训练完成的声学模型,包括:
128.获取高质音频数据和高质音频数据的高质文本信息;
129.将所述样本文本信息与所述高质文本信息输入所述声学模型,分别得到相对应的样本声学特征和高质声学特征;
130.将所述样本声学特征与相对应的样本发音数据进行对比,判断所述样本声学特征与相对应的样本发音数据是否相似;
131.将所述高质声学特征与相对应的高质音频数据进行对比,判断述高质声学特征与相对应的高质音频数据是否相似;
132.当所述样本声学特征与相对应的样本发音数据相似的数量符合第一预设条件,且所述高质声学特征与相对应的高质音频数据相似的数量符合第二预设条件,所述声学模型收敛,得到训练完成的声学模型。
133.在本说明书实施例中,高质音频数据是一批大量的音频数据,高质音频数据的高质文本信息标注准确,主要是用来知识迁移到样本发音数据及样本文本信息。高质音频数据及高质文本信息在系统中是不变的、恒定的一批数据。例如:可以选择在数据公司购买的高质音频数据及高质文本信息。将样本文本信息与高质文本信息输入声学模型,分别得到相对应的样本声学特征和高质声学特征。将样本声学特征与相对应的样本发音数据进行对比,将高质声学特征与相对应的高质音频数据进行对比,当样本声学特征与相对应的样本发音数据相似的数量符合第一预设条件,且高质声学特征与相对应的高质音频数据相似的数量符合第二预设条件时,声学模型收敛,得到训练完成的声学模型;当样本声学特征与相对应的样本发音数据相似的数量不符合第一预设条件,或者,高质声学特征与相对应的高质音频数据相似的数量不符合第二预设条件,调整声学模型中的参数,通过调整后的声学模型重新得到样本声学特征和高质声学特征,直至样本声学特征与相对应的样本发音数据相似的数量符合第一预设条件,且高质声学特征与相对应的高质音频数据相似的数量符合第二预设条件,得到训练完成的声学模型。
134.第一预设条件可为样本声学特征与相对应的样本发音数据相似的数量达到一个预设阀值,或者数量在总数量中的占比值;第二预设条件可为高质声学特征与相对应的高质音频数据相似的数量达到一个预设阀值,或者数量在总数量中的占比值。由于高质音频数据是特意引入用于构建训练模型的数据,而且高质音频数据相比较于低质音频数据可以
更有效的被识别,所以,在一个优选方案中,在预设条件为预设阀值时,第二预设条件对应的预设阀值要大于或等于第一预设条件对应的预设阀值;在预设条件为占比值时,第二预设条件对应的占比值要大于或等于第一预设条件对应的占比值,相较于低质音频数据,对高质音频数据设置更高的模型收敛条件,保证训练得到的声学模型符合实际应用需求。
135.当样本声学特征与相对应的样本发音数据相似的数量不符合第一预设条件,或者,高质声学特征与相对应的高质音频数据相似的数量不符合第二预设条件,调整声学模型中的参数,调整的次数可限定,当调整的次数超过预设次数时,可以停止声学模型的训练,或者,更换建立声学模型的机器学习算法,例如:卷积神经网络算法建立的声学模型、深度前馈网络算法建立的声学模型、线性因子建立的声学模型、支持向量机算法建立的声学模型等。
136.图2为本说明书实施例提供的一种训练声学模型的流程示意图,该方法包括:
137.通过所述高质文本信息对所述样本文本信息进行修正、补充,得到修正、补充的样本文本数据,其中,修正、补充后的所述样本文本信息与所述高质文本信息具有相同的分布。
138.在本说明书实施例中,高质文本信息和样本文本信息同时输入给编码器和解码器,高质文本信息将会对样本文本信息进行修正、补充。由于高质音频数据是特意引入的数据,高质文本信息相较于样本文本信息的完整度更高,因此,通过对比高质文本信息与样本文本信息的相似度,通过相似度大于预设相似度阈值的高质文本信息对样本文本信息进行修正、补充。或者,由于文字存在同音字的问题,计算高质文本信息与样本文本信息之间的相似度可能存在一定差异,因此,通过计算高质音频数据与样本音频数据之间的相似度,来作为高质文本信息与样本文本信息之间的相似度,通过相似度大于预设相似度阈值的高质文本信息对样本文本信息进行修正、补充。在本说明书实施例中,相似度的计算方法包括但不限于:欧式距离算法、向量余弦值或者动态时间规整算法。
139.在本说明书实施例中,高质文本信息和样本文本信息由解码器输出,其中经过grl(gradient reverse layer,梯度反转层)和判别网络,使得解码器的输出对于修正、补充后的样本文本信息与高质文本信息具有相同的分布。再分别通过相对应的次级解码器输出,样本文本信息的次级解码器将预测出样本文本信息的声学特征,高质文本信息的次级解码器将预测出高质文本信息的声学特征。在本说明书实施例中的编码器能得到原数据的精髓,然后再创建一个小的神经网络学习这个精髓的数据,不仅减少了神经网络的负担,而且同样能达到很好的效果。在本说明书实施例中的解码器在训练的时候是要将精髓信息解压成原始信息。在本说明书实施例中grl为在训练时将梯度符号进行反转的操作,通常配合判别网络使用,目的是使解码器输出的分布对于修正、补充后的样本文本信息与高质文本信息都是统一的。
140.图3本说明书实施例提供的一种低质数据的自动化合成装置的结构示意图,该装置可以包括:
141.获取模块,用于获取低质音频数据;
142.分离模块,用于对所述低质音频数据进行噪音分离,得到发音数据和噪音数据;
143.去噪模块,用于基于所述噪音数据去除所述发音数据的背景噪音,得到去除背景噪音的发音数据;
144.语音识别模块,用于对所述发音数据进行语音识别,得到所述发音数据的文本信息;
145.合成模块,用于输入所述文本信息至预先训练的声学模型,得到合成的音频数据。
146.在本说明书实施例中,所述合成模块的声学模型包括:
147.获取子模块,用于构建声学模型,并获取多个样本低质音频数据;
148.分离子模块,用于对所述样本低质音频数据分别进行噪音分离,得到相应的样本发音数据和样本噪音数据;
149.去噪子模块,用于基于所述样本噪音数据去除所述样本发音数据的背景噪音,得到去除背景噪音的样本发音数据;
150.语音识别子模块,用于对所述样本发音数据分别进行语音识别,得到所述样本发音数据的样本文本信息;
151.合成子模块,用于根据所述样本发音数据和所述样本文本信息,对所述声学模型进行训练,得到训练完成的声学模型。
152.在本说明书实施例中,所述合成子模块包括:
153.第一获取单元,用于获取各个所述样本发音数据的声纹特征矢量;
154.聚类单元,用于根据所述声纹特征矢量对所述样本发音数据进行聚类;
155.选取单元,用于选取聚类结果中数量最多的一类的所述样本发音数据和相对应的样本文本信息,对所述声学模型进行训练。
156.在本说明书实施例中,所述选取单元,用于获取聚类结果中数量最多的一类的所述样本发音数据作为第一数据;获取所述第一数据的信噪比,和所述第一数据对应的文本数据的置信度量;根据所述信噪比和所述置信度量对所述第一数据进行筛选,得到第二数据;通过所述第二数据和所述第二数据对应的文本信息,对所述声学模型进行训练。
157.在本说明书实施例中,所述选取单元,具体用于基于所述置信度量对所述第一数据进行升序/降序排名,得到与所述置信度量的升序/降序排名结果成正比的第一分数;基于所述信噪比对所述第一数据进行升序/降序排名,得到与所述信噪比的升序/降序排名结果成正比的第二分数;结合所述第一分数和所述第二分数对所述第一数据进行升序排名;选取排名靠前的n个第一数据,作为第二数据。
158.在本说明书实施例中,所述所述合成子模块包括:
159.第二获取单元,用于获取高质音频数据和高质音频数据的高质文本信息;
160.第三获取单元,用于将所述样本文本信息与所述高质文本信息输入所述声学模型,分别得到相对应的样本声学特征和高质声学特征;
161.判断单元,用于将所述样本声学特征与相对应的样本发音数据进行对比,判断所述样本声学特征与相对应的样本发音数据是否相似;
162.对比单元,用于将所述高质声学特征与相对应的高质音频数据进行对比,判断述高质声学特征与相对应的高质音频数据是否相似;
163.训练单元,用于当所述样本声学特征与相对应的样本发音数据相似的数量符合第一预设条件,且所述高质声学特征与相对应的高质音频数据相似的数量符合第二预设条件,所述声学模型收敛,得到训练完成的声学模型。
164.在本说明书实施例中,所述第三获取单元,用于通过所述高质文本信息对所述样
本文本信息进行修正、补充,得到修正、补充的样本文本数据,其中,修正、补充后的所述样本文本信息与所述高质文本信息具有相同的分布。
165.在本说明书实施例中,通过收集得到低质音频数据,低质音频数据通过切割分离模型分离出发音数据和噪音数据,利用通过分离切割模型分离出来噪音数据,再通过去噪模块,结合噪音数据将发音数据中的背景噪音去除,得到较纯净的发音数据。发音数据通过语音识别模型得到发音数据的文本信息,将低质音频数据对应的文本信息输入至预先训练的声学模型,即可通过预先训练的声学模型得到低质音频数据对应的文本信息的准确的音频数据。
166.本发明实施例的装置的功能已经在上述的方法实施例中进行了描述,故本实施例的描述中未详尽之处,可以参见前述实施例中的相关说明,在此不做赘述。
167.基于同一发明构思,本说明书实施例还提供一种电子设备。
168.下面描述本发明的电子设备实施例,该电子设备可以视为对于上述本发明的方法和装置实施例的具体实体实施方式。对于本发明电子设备实施例中描述的细节,应视为对于上述方法或装置实施例的补充;对于在本发明电子设备实施例中未披露的细节,可以参照上述方法或装置实施例来实现。
169.图4为本说明书实施例提供的一种电子设备的结构示意图。下面参照图4来描述根据本发明该实施例的电子设备300。图4显示的电子设备300仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
170.如图4所示,电子设备300以通用计算设备的形式表现。电子设备300的组件可以包括但不限于:至少一个处理单元310、至少一个存储单元320、连接不同系统组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
171.其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元310执行,使得所述处理单元310执行本说明书上述处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元310可以执行如图1所示的步骤。
172.所述存储单元320可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)3201和/或高速缓存存储单元3202,还可以进一步包括只读存储单元(rom)3203。
173.所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204,这样的程序模块3205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
174.总线330可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
175.电子设备300也可以与一个或多个外部设备400(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备300交互的设备通信,和/或与使得该电子设备300能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口350进行。并且,电子设备300还可以通过网络适配器360与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)通信。网络适配器360可以通过总线330与电子设备300的其它模块通信。应当明白,尽管图4中未示出,可以结合电子设备300使用其它硬件和/或软件模块,包括但不限
于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
176.通过以上的实施方式的描述,本领域的技术人员易于理解,本发明描述的示例性实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个计算机可读的存储介质(可以是cd

rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。当所述计算机程序被一个数据处理设备执行时,使得该计算机可读介质能够实现本发明的上述方法,即:如图1所示的方法。
177.图5为本说明书实施例提供的一种计算机可读介质的原理示意图。
178.实现图1所示方法的计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd

rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
179.所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、rf等等,或者上述的任意合适的组合。
180.可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、c 等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
181.综上所述,本发明可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(dsp)等通用数据处理设备来实现根据本发明实施例中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
182.以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详
细说明,应理解的是,本发明不与任何特定计算机、虚拟装置或者电子设备固有相关,各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
183.本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。
184.以上所述仅为本技术的实施例而已,并不用于限制本技术。对于本领域技术人员来说,本技术可以有各种更改和变化。凡在本技术的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本技术的权利要求范围之内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献

  • 日榜
  • 周榜
  • 月榜