音频消噪方法、电子设备和存储介质与流程

1.本发明属于互联网技术领域，尤其涉及一种音频消噪方法、电子设备和存储介质。


背景技术：

2.随着智能语音技术的不断发展，用户越来越重视语音处理的处理质量，其直接影响着语音服务提供商的口碑。降噪技术是语音处理流程中的重要环节，适宜的降噪措施将会在极大程度上提高语音的质量。
3.目前，市面上针对噪声源所常用的降噪技术主要是波束成形降噪技术，其通过对噪声源方向的声音做能量抑制。但是，波束成形降噪技术的降噪程度有限，另外目标声源和噪声同向时，降噪会导致目标声源受到严重损伤。
4.针对上述问题，目前业界暂时并未提供较佳的解决方案。


技术实现要素：

5.本发明实施例提供一种音频消噪方法、电子设备和存储介质，用于至少解决上述技术问题之一。
6.第一方面，本发明实施例提供一种音频消噪方法，包括：获取第一音频和第二音频；所述第一音频是针对目标对象而采集的音频，所述第二音频是针对预设噪音源而采集的音频；将所述第一音频和所述第二音频提供给音频消噪模型，以由所述音频消噪模型输出噪声校准信息；基于所述噪声校准信息对所述第一音频进行校正，以得到降噪后的目标音频。
7.第二方面，本发明实施例提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述方法的步骤。
8.第三方面，本发明实施例提供一种存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本发明上述方法的步骤。
9.第四方面，本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述方法的步骤。
10.本发明实施例的有益效果在于：
11.电子设备将待处理的目标对象的第一音频与噪音源的第二音频都提供给音频消噪模型，使得音频消噪模型能输出在相应信噪条件下的噪声校准信息。利用多维信息输入，相比于单噪声维度输入，能保障更加精细化的校准输出结果。另外，利用噪声校准信息对第一音频进行校准，不会抑制噪声源方向的能量，也不会直接筛除噪声成分，能有效避免目标声源的受损情况，保障降噪音频的高品质。
附图说明
12.为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
13.图1示出了根据本发明实施例的音频消噪方法的一示例的流程图；
14.图2示出了根据本发明实施例的音频消噪模型的模型训练操作的一示例的流程图；
15.图3示出了根据本发明实施例的音频消噪方法的一示例的流程图；
16.图4为本发明的电子设备的一实施例的结构示意图。
具体实施方式
17.为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
18.需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
19.本发明可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、元件、数据结构等等。也可以在分布式计算环境中实践本发明，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
20.在本发明中，“模块”、“系统”等指应用于计算机的相关实体，如硬件、硬件和软件的组合、软件或执行中的软件等。详细地说，例如，元件可以、但不限于是运行于处理器的过程、处理器、对象、可执行元件、执行线程、程序和/或计算机。还有，运行于服务器上的应用程序或脚本程序、服务器都可以是元件。一个或多个元件可在执行的过程和/或线程中，并且元件可以在一台计算机上本地化和/或分布在两台或多台计算机之间，并可以由各种计算机可读介质运行。元件还可以根据具有一个或多个数据包的信号，例如，来自一个与本地系统、分布式系统中另一元件交互的，和/或在因特网的网络通过信号与其它系统交互的数据的信号通过本地和/或远程过程来进行通信。
21.最后，还需要说明的是，在本文中，术语“包括”、“包含”，不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
22.需要说明的是，在目前相关技术中，还有一些学者和专家设想到，可以通过经大量录制噪声信号所训练的神经网络降噪模型来识别噪声，并对语音中的噪声成分进行滤除。
23.然而，在利用神经网络降噪模型进行消噪处理时，在噪声源声压较大，目标声源和噪声源处于低信噪比情况下，目标语音信号可能较大程度上会被噪声信号掩盖，目标声源
会受损，导致语音失真严重。
24.图1示出了根据本发明实施例的音频消噪方法的一示例的流程图。需要说明的是，本发明的方法实施例的执行主体可以是各种电子设备，例如具有语音识别或交互功能的各类移动终端或电子设备等，本发明对此不作限定。
25.如图1所示，在步骤110中，获取第一音频和第二音频。这里，第一音频是针对目标对象而采集的音频(例如，用户说话声)，第二音频是针对预设噪音源而采集的音频(例如，噪声)。
26.在一些业务场景下，用户在噪声源环境中进行说话，并利用音频采集设备来进行音频采集，以得到相应的第一音频和第二音频。此时，第一音频可以是含有部分噪声干扰成分的语音音频，而第二音频可以是完全的或基本纯正的噪声音频。
27.在步骤120中，将第一音频和第二音频提供给音频消噪模型，以由音频消噪模型输出噪声校准信息。
28.应理解的是，音频消噪模型的输入维度同时包含第一音频和第二音频，相比于识别语音文件中的噪音成分的神经网络降噪模型，多维度输入能得到更精细化的噪声校准信息。
29.在步骤130中，基于噪声校准信息对第一音频进行校正，以得到降噪后的目标音频。例如，基于噪声校准信息，对第一音频中不同相位的音频能量分别进行增强或抑制处理，以实现语音降噪效果。
30.通过本发明实施例，同时将信号源和噪声源的音频信息提供给音频模型进行处理，即使在低信噪比的语音环境中(例如，预设噪音源为移动噪声源)，也依然能得到较佳的噪声校准信息，在实现优质降噪效果的同时还能避免对声源品质的损坏。
31.需说明的是，本行业中的从业人员，在采用波束形成算法时，会想到如何优化波束形成算法，例如采用超指向波束，降低主瓣宽度的同时抑制旁瓣的高度。另外，在采用神经网络降噪算法时，从业人员一般会想到优化神经网络降噪算法，例如采用不同的网络结构的组合、多种不同loss的线性组合、估计相位信息提升可懂度等。
32.但是，上述方法都是直接通过降噪算法作用在带噪语音中，忽略噪声源本身的信息。通过本发明实施例，能联合噪声源信息，实现进一步的噪声抑制，提高语音处理的品质。
33.在本发明实施例的一些示例中，噪声校准信息包含由音频消噪模型根据第一音频和第二音频的幅度谱所预测的时频域掩膜，进而可以利用时频域掩膜进行语音增强操作。
34.具体地，关于上述步骤130的实施细节，确定第一音频所对应的音频幅度谱和语音相位，例如通过对第一音频进行幅度和语音相位解析，得到相应的音频幅度谱和语音相位。然后，基于时频域掩膜，增强所述音频幅度谱，例如将音频幅度谱乘以掩模得到增强幅度谱。进而，基于经增强的音频幅度谱和语音相位，确定降噪后的目标音频信号。
35.在上述步骤110中，第一音频和第二音频分别是基于不同的音频采集设备而获得的。具体地，可以基于麦克风阵列而采集环境中的第一音频，并基于位于噪音源附近的参考麦克风而采集环境中的第二音频。例如，通过一颗高信噪比、低灵敏度的mic作为声参考mic，并将该mic放置在噪声源信号附近，使该mic接收的信号能量大部分为待降噪的噪声信号。
36.需要说明的是，音频消噪模型可以采用各种类型的机器学习模型，例如可以采用
神经网络结构。此外，音频消噪模型可以采用各种模型训练操作直到收敛，并在模型收敛之后被应用到上述步骤120中实施相应的预测操作。
37.图2示出了根据本发明实施例的音频消噪模型的模型训练操作的一示例的流程图。
38.如图2所示，在步骤210中，获取第一样本和第二样本。这里，第一样本是针对测试对象而采集的音频，第二样本是针对测试噪音源而采集的音频。
39.示例性地，在存在测试噪音源的环境下，利用声参考mic采集噪音源，并利用mic阵列采集用户说话声。应理解的是，为了保障较佳的语音校准效果，在模型训练阶段和模型应用阶段所对应的噪音源可以是具有相同类型的，例如都采用真实场景下的移动噪声源。
40.在步骤220中，对第一样本和第二样本进行转化，生成对应预设的至少一个信噪比梯度的仿真样本数据。
41.具体地，可以在第一样本和第二样本中分别加入不同类型和能量的clean音频，以生成多样化的仿真样本数据。
42.在步骤230中，基于第一样本、第二样本和仿真样本数据，生成音频消噪模型的训练样本集。通过在录制的样本中根据信噪比增加clean信号来生成大量仿真数据，增强了模型的泛化能力。
43.在步骤240中，根据训练样本集，对音频消噪模型进行训练。
44.这里，可以取录制样本数据或仿真样本数据中的mic阵列信号和声参考信号，以固定时长经过短时傅里叶变换得到幅度谱，送入音频消噪模型中进行训练。示例性地，可以将造好的音频数据中的一路mic阵列信号和一路声参考信号做特征提取并送入神经网络模型中做训练，并将训练好的模型保存输出，以在后续的实际降噪处理操作中；亦即，在测试阶段时，可以使用一路mic信号和声参考信号的幅度谱同时送入训练好的模型中得到估计的时频域掩模，进而完成音频消噪操作。
45.图3示出了根据本发明实施例的音频消噪方法的一示例的流程图。
46.如图3所示，在步骤310中，采集针对目标对象的第一音频和针对预设噪音源的噪音源音频。例如，可以利用mic阵列采集噪音说话人场景下的说话人音频信号，并将mic阵列信号作为第一音频；利用位于移动噪声源附近的参考mic采集噪声源音频。
47.在步骤320中，判断噪音源音频所对应的帧能量是否大于预设的能量阈值。当帧能量大于能量阈值时，进入步骤330；反之进入步骤340。
48.在步骤330中，即当帧能量大于能量阈值时，根据噪音源音频确定第二音频，并触发音频消噪操作。随后进入步骤350中。
49.在步骤340中，即当帧能量小于或等于能量阈值时，直接输出第一音频，而不执行音频消噪操作。这样，只有在噪音音频源的能量较大时，才会触发、唤醒后续的音频消噪操作，使得降噪模块不必持续处于工作状态，能有效降低电子设备的资源消耗。
50.在步骤350中，对第一音频和第二音频分别进行特征提取，并输入已训练好的神经网络模型中，得到模型估计的掩模。
51.在步骤360中，将第一音频的幅度谱乘以掩模得到增强幅度谱，结合带噪语音相位得到最终输出音频信号。
52.在本发明实施例中，因为声参考信号(即，第二音频)采集的主要为移动噪声源产
生的，目标信号(第一音频)在声参考中的比例很小，所以音频消噪模型在抑制噪声信号的同时能保留同方向的目标信号。同时，在音频消噪模型中输入声参考信号，这样相比传统降噪模型中多一维输入，能对低信噪比的真实场景也实现很好的噪声能量抑制效果。
53.需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作合并，但是本领域技术人员应该知悉，本发明并不受所描述的动作顺序的限制，因为依据本发明，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本发明所必须的。在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
54.在一些实施例中，本发明实施例提供一种非易失性计算机可读存储介质，所述存储介质中存储有一个或多个包括执行指令的程序，所述执行指令能够被电子设备(包括但不限于计算机，服务器，或者网络设备等)读取并执行，以用于执行本发明上述任一项音频消噪方法。
55.在一些实施例中，本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，使所述计算机执行上述任一项音频消噪方法。
56.在一些实施例中，本发明实施例还提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行音频消噪方法。
57.图4是本技术另一实施例提供的执行音频消噪方法的电子设备的硬件结构示意图，如图4所示，该设备包括：
58.一个或多个处理器410以及存储器420，图4中以一个处理器410为例。
59.执行音频消噪方法的设备还可以包括：输入装置430和输出装置440。
60.处理器410、存储器420、输入装置430和输出装置440可以通过总线或者其他方式连接，图4中以通过总线连接为例。
61.存储器420作为一种非易失性计算机可读存储介质，可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块，如本技术实施例中的音频消噪方法对应的程序指令/模块。处理器410通过运行存储在存储器420中的非易失性软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例音频消噪方法。
62.存储器420可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据音频消噪设备的使用所创建的数据等。此外，存储器420可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中，存储器420可选包括相对于处理器410远程设置的存储器，这些远程存储器可以通过网络连接至音频消噪设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
63.输入装置430可接收输入的数字或字符信息，以及产生与音频消噪设备的用户设置以及功能控制有关的信号。输出装置440可包括显示屏等显示设备。
64.所述一个或者多个模块存储在所述存储器420中，当被所述一个或者多个处理器410执行时，执行上述任意方法实施例中的音频消噪方法。
65.上述产品可执行本技术实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本技术实施例所提供的方法。
66.本技术实施例的电子设备以多种形式存在，包括但不限于:
67.(1)移动通信设备:这类设备的特点是具备移动通信功能，并且以提供话音、数据通信为主要目标。这类终端包括:智能手机、多媒体手机、功能性手机，以及低端手机等。
68.(2)超移动个人计算机设备:这类设备属于个人计算机的范畴，有计算和处理功能，一般也具备移动上网特性。这类终端包括:pda、mid和umpc设备等。
69.(3)便携式娱乐设备:这类设备可以显示和播放多媒体内容。该类设备包括:音频、视频播放器，掌上游戏机，电子书，以及智能玩具和便携式车载导航设备。
70.(4)其他具有数据交互功能的机载电子装置，例如安装上车辆上的车机装置。
71.以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
72.通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如rom/ram、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
73.最后应说明的是：以上实施例仅用以说明本技术的技术方案，而非对其限制；尽管参照前述实施例对本技术进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围。