模型训练方法、声纹特征的提取方法及其设备、程序产品与流程

本公开涉及人工智能技术中的语音技术、深度学习技术，尤其涉及一种模型训练方法、声纹特征的提取方法及其设备、程序产品。

背景技术

目前，声纹识别技术已经应用在很多场景中，通过对音频进行声纹识别，能够确定音频中讲话人的身份。一般通过模型训练的方式能够得到用于识别声纹的模型。

相关技术中，声纹识别模型可以应用在多种场景中，为了降低模型的训练成本，可以对已有的声纹识别模型进行调整，使得该模型可以应用在目标场景中。比如，存在能够应用在保险领域的声纹识别模型，可以利用银行业务相关的数据对该模型进行优化训练，得到能够应用在银行业务中的声纹识别模型。

但是，对模型进行优化训练之前，还需要收集目标场景的业务数据，从而利用这些业务数据对已有的模型进行训练。然而这种方式需要收集大量的目标场景的业务数据，还需要对这些业务数据进行标注，才能够对已有的模型进行训练，因此，这种方式周期较长，且成本高。

技术实现要素：

本公开提供了一种模型训练方法、声纹特征的提取方法及其设备、程序产品，以解决相关技术中对已有的模型进行跨场景训练时周期长、成本高的问题。

根据本公开的第一方面，提供一种模型训练方法，包括：

获取应用在第一场景的第一模型、第一子帧以及目标子帧，所述第一子帧是对应用在第一场景的第一音频进行分帧处理得到的，所述目标子帧是对应用在目标场景的目标音频进行分帧处理得到的；其中，所述第一音频具有标注信息；

提取所述第一子帧的第一频谱特征，并提取所述目标子帧的目标频谱特征；

根据所述第一子帧的第一频谱特征、所述第一音频的标注信息、所述目标子帧的目标频谱特征、以及所述目标子帧所属的目标音频对所述第一模型进行训练，得到目标模型。

根据本公开的第二方面，提供了一种声纹特征的提取方法，包括：

获取待识别的音频数据，提取所述音频数据的频谱特征；

将所述频谱特征输入目标模型，得到所述音频数据的声纹特征；所述目标模型为通过如第一方面所述的方法训练得到的。

根据本公开的第三方面，提供了一种模型训练装置，包括：

获取单元，用于获取应用在第一场景的第一模型、第一子帧以及目标子帧，所述第一子帧是对应用在第一场景的第一音频进行分帧处理得到的，所述目标子帧是对应用在目标场景的目标音频进行分帧处理得到的；其中，所述第一音频具有标注信息；

提取单元，用于提取所述第一子帧的第一频谱特征，并提取所述目标子帧的目标频谱特征；

训练单元，用于根据所述第一子帧的第一频谱特征、所述第一音频的标注信息、所述目标子帧的目标频谱特征、以及所述目标子帧所属的目标音频对所述第一模型进行训练，得到目标模型。

根据本公开的第四方面，提供了一种声纹特征的提取装置，包括：

音频数据获取单元，用于获取待识别的音频数据，提取所述音频数据的频谱特征；

声纹特征提取单元，用于将所述频谱特征输入预设的目标模型，得到所述音频数据的声纹特征；所述目标模型为通过第三方面所述的装置训练得到的。

根据本公开的第五方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面或第二方面所述的方法。

根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如第一方面或第二方面所述的方法。

根据本公开的第七方面，提供了一种计算机程序产品，所述计算机程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备执行第一方面或第二方面所述的方法。

本公开提供的模型训练方法、声纹特征的提取方法及其设备、程序产品中，由于目标音频不具有标注信息，因此可以将目标音频拆分为多个子帧，并将子帧所属的目标音频的信息作为子帧的标注信息，从而能够利用具有标注信息的第一音频和目标音频对第一模型进行训练，得到可以识别目标场景中音频的声纹特征的目标模型。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1为一示例性实施例示出的对音频数据进行声纹识别的示意图；

图2为本公开一示例性实施例示出的模型训练方法的流程示意图；

图3为本公开一示例性实施例示出的对音频进行分帧处理的示意图；

图4为本公开另一示例性实施例示出的模型训练方法的流程示意图；

图5为本公开一示例性实施例示出的声纹特征的提取方法的流程示意图；

图6为本公开一示例性实施例示出的模型训练装置的结构示意图；

图7为本公开另一示例性实施例示出的模型训练装置的结构示意图；

图8为本公开一示例性实施例示出的声纹特征的提取装置的结构示意图；

图9是用来实现本公开实施例的方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

目前，在很多应用场景中都存在识别用户身份的需求，一种实现方式中，可以利用声纹识别技术识别用户身份。比如，在银行业务场景中，可以采集用户说出的音频数据，并利用预设的模型识别音频数据的声纹特征，并与预存的用户声纹特征比对，从而识别用户身份。

图1为一示例性实施例示出的对音频数据进行声纹识别的示意图。

如图1所示，获取一段音频数据，可以提取音频数据的前端特征，比如可以是MFCC(Mel-Frequency Cepstral Coefficients，梅尔倒谱系数)、PLP(Perceptual Linear Predictive，感知线性预测系数)、Fbank(Mel-Frequency Analysis，语音识别的评价指标)、或者基于FFT(快速傅里叶变换)提取的音频特征。

再将前端特征输入预先训练的声纹识别模型中，该声纹识别模型用于对前段特征进行处理，从而提取出说话人的声纹特征。声纹识别模型例如可以是GMM、DNN、CNN、ResNet、SincNet等结构。

再利用后端分类模型(例如COS、LDA、PLDA等)对声纹特征进行分类，从而识别出说话人的身份。

一般情况下，可以针对特定的场景进行模型训练，得到应用于相应场景的模型，但是这种方式训练成本较高，因此，还可以对已有的应用在第一场景的模型进行优化训练，得到可以应用在目标场景中的模型。比如，对应用在银行业务的模型进行进一步的训练，得到应用在保险业务中的模型。

一种实施方式中，可以优化训练用于提取声纹特征的声纹识别模型，但是，这种方式需要收集大量目标场景的数据，并通过一定的人力对数据进行标注，重新训练该声纹识别模型，得到能够应用于目标场景的声纹识别模型。但是，这种方式需要预先准备大量的数据，另外需要消耗大量的人力去标注，导致整个训练周期较长，训练效率较低。

另一种实施方式中，还可以优化训练后端分类模型，可以收集一定量目标场景的数据，并通过一定的人力对这些数据进行标注，重新训练后端分类模型。由于后端分类模型的结构比声纹识别模型更简单，这种实现方式中不需要更新较为复杂的声纹识别模型，只需要重新训练下后端分类模型即可。能够降低训练的复杂度，但是这种方案中，声纹识别模型无法准确的识别目标场景的声纹特征。

为了解决上述技术问题，本公开提供的方案中利用用于训练第一场景的第一音频及其标注信息，以及应用在目标场景的目标音频对已有的第一模型进行联合训练，得到目标模型。这种方式中，目标模型能够借鉴第一模型的声纹识别能力，且利用目标音频对模型进行训练，能够使目标模型可以应用于目标场景中。

图2为本公开一示例性实施例示出的模型训练方法的流程示意图。

如图2所示，本公开提供的模型训练方法，包括：

步骤201，获取应用在第一场景的第一模型、第一子帧以及目标子帧，第一子帧是对应用在第一场景的第一音频进行分帧处理得到的，目标子帧是对应用在目标场景的目标音频进行分帧处理得到的；其中，第一音频具有标注信息。

其中，本公开提供的方法由具备计算能力的电子设备执行，该电子设备例如可以是计算机。可以利用该计算机对已有的第一模型进行优化训练，从而得到目标模型。

具体的，可以预先设置第一模型，该第一模型是应用在第一场景中的模型，具体是用于识别声纹特征的模型。比如，可以是应用在银行业务中的用于识别声纹特征的模型。

实际应用时，可以将音频数据的频谱特征输入第一模型，从而通过第一模型识别该音频数据的声纹特征。

进一步的，可以对该第一模型进行优化训练，得到应用在目标场景中的模型，具体是用于识别声纹特征的模型。比如，可以是应用在保险业务中的用于识别声纹特征的模型。

实际应用时，电子设备还可以获取第一子帧，第一子帧是对第一音频进行分帧处理得到的，第一音频是应用在第一场景中的音频数据，比如，第一模型是应用在银行业务中的用于识别声纹特征的模型，则获取的第一音频是银行业务中的音频数据。

一种可选的实施方式中，第一音频可以是用于训练该第一模型的第一音频，该第一音频具有标注信息。

其中，电子设备还可以获取目标子帧，目标子帧对目标音频进行分帧处理得到的，目标音频是应用在目标场景中的音频数据，比如，目标模型是应用在保险业务中的用于识别声纹特征的模型，则获取的目标音频是保险业务中的音频数据。

具体的，目标音频不具有标注信息，即本公开的方案中，在模型训练之前不需要对目标音频进行标注。

图3为本公开一示例性实施例示出的对音频进行分帧处理的示意图。

进一步的，可以根据这种分帧处理方式对第一音频进行分帧处理，也可以利用这种分帧处理方式对目标音频进行分帧处理。

如图3所示，针对一条音频数据31，可以以10ms为步长，在音频数据31中确定多个长度为25ms的子帧32。

步骤202，提取第一子帧的第一频谱特征，并提取目标子帧的目标频谱特征。

一种实施方式中，针对每个第一子帧，电子设备都可以提取其第一频谱特征，针对每个目标子帧，电子设备都可以提取其目标频谱特征。

另一种实施方式中，在训练目标模型时，还可以获取一批第一子帧和目标子帧，并针对获取的第一子帧和目标子帧提取频谱特征。比如，可以获取m条第一子帧、n条目标子帧，并针对获取的子帧分别提取频谱特征。

再一种实施方式中，在训练目标模型时，还可以获取一批第一音频和目标音频，针对获取的第一音频和目标音频可以分别进行分帧处理，并提取得到的各个子帧的频谱特征。比如，可以获取m条第一音频、n条目标音频，针对这些音频可以分别进行分帧处理，得到多条第一子帧和目标子帧，再提取各个第一子帧的第一频谱特征，以及各目标子帧的目标频谱特征。

第一音频特征和目标频谱特征是同一类的特征，比如可以是MFCC、PLP、Fbank、或者基于FFT提取的特征。

其中，可以预先设置用于提取频谱特征的方法，比如可以设置用于提取音频数据的MFCC的方法，通过该方法提取各个子帧的MFCC特征。还可以设置用于提取音频数据的PLP的方法，通过该方法提取各个子帧的PLP特征。

步骤203，根据第一子帧的第一频谱特征、第一音频的标注信息、目标子帧的目标频谱特征、以及目标子帧所属的目标音频对第一模型进行训练，得到目标模型。

具体的，可以利用得到的第一子帧的第一频谱特征、第一音频的标注信息，以及目标子帧的目标频谱特征、以及目标子帧所属的目标音频对第一模型进行联合训练，从而得到目标模型。

进一步的，可以将第一子帧的第一频谱特征输入第一模型，第一模型能够对第一频谱特征进行识别处理，得到第一子帧的识别结果。识别结果可以为第一子帧中说话人的身份。

例如，预先准备的第一音频共为1000条，每条音频的讲话人均为同一用户，可以录制300个人的音频数据作为第一音频。

由于第一音频具有标注信息，因此，可以在全连接层设置300个识别结果，从而使第一模型可以输出第一子帧属于每个识别结果的概率。可以利用第一子帧的识别结果以及标注信息对第一模型调整第一模型中的参数，从而训练第一模型。

由于目标音频不具有标注信息，因此，无法预先通过全连接层设置分类信息，因此，第一模型无法输出目标子帧的识别结果。可以通过第一模型提取目标子帧的目标特征向量，利用该目标特征向量对第一模型进行训练。第一模型提取的目标特征向量也就是目标子帧的声纹特征。

具体的，一条目标音频中只有一个讲话的用户，因此，可以基于这一特性衡量第一模型对目标子帧的识别效果。若两个目标子帧属于同一条目标音频，则这两个目标子帧的目标特征向量应当较为接近，若两个目标子帧属于不同目标音频，则这两个目标子帧的目标特征向量应当不接近，基于此，可以根据目标子帧的目标特征向量、以及目标子帧所属的目标音频调整第一模型中的参数，从而训练第一模型。

进一步的，通过多次迭代，能够逐步的优化第一模型，当满足预设的条件时，可以停止迭代，进而得到目标模型。该目标模型可以应用在目标场景中，用于识别目标场景中音频数据的声纹特征。

比如，当迭代次数达到预设次数时，可以停止训练模型，再比如，当模型对第一子帧和目标子帧的识别效果都较好时，也可以停止训练模型。

本公开提供的模型训练方法，包括：获取应用在第一场景的第一模型、第一子帧以及目标子帧，第一子帧是对应用在第一场景的第一音频进行分帧处理得到的，目标子帧是对应用在目标场景的目标音频进行分帧处理得到的；其中，第一音频具有标注信息；提取第一子帧的第一频谱特征，并提取目标子帧的目标频谱特征；根据第一子帧的第一频谱特征、第一音频的标注信息、目标子帧的目标频谱特征、以及目标子帧所属的目标音频对第一模型进行训练，得到目标模型。这种实施方式中，由于目标音频不具有标注信息，因此可以将目标音频拆分为多个子帧，并将子帧所属的目标音频的信息作为子帧的标注信息，从而能够利用具有标注信息的第一音频和目标音频对第一模型进行训练，得到可以识别目标场景中音频的声纹特征的目标模型。

图4为本公开另一示例性实施例示出的模型训练方法的流程示意图。

如图4所示，本公开提供的模型训练方法包括：

步骤401，获取第一子帧，第一子帧是对应用在第一场景的第一音频进行分帧处理得到的；其中，第一音频具有标注信息。

步骤401与步骤201中获取第一子帧的方式类似，不再赘述。

步骤402，提取第一子帧的第一频谱特征，并利用第一子帧的第一频谱特征以及第一音频的标注信息训练预设模型，得到第一模型。

其中，针对任一第一子帧都可以基于下述方式提取第一频谱特征：

针对任一第一子帧，可以确定该第一子帧的初始频谱特征，比如，可以预先设置用于提取频谱特征的算法，用于提取每个第一子帧的初始频谱特征。比如可以是MFCC、PLP、Fbank等特征，具体可以提取第一子帧的40维的初始频谱特征。

获取该第一子帧的关联第一子帧，第一子帧的关联第一子帧包括：位于第一子帧之前的预设数量的第一子帧，和/或，位于第一子帧之后的预设数量的第一子帧。

具体的，电子设备可以根据该第一子帧在第一音频中的位置关系，确定出第一子帧的关联第一子帧。比如，可以将第一子帧之前的第一预设数量的第一子帧，和/或，第一子帧之后的第一预设数量的第一子帧，作为该第一子帧的关联第一子帧。

比如，对第一音频进行拆分时，可以将0-20ms作为第一个第一子帧，将10-30ms作为第二个第一子帧，将20-40ms作为第三个第一子帧。当预设数量为1时，针对第二个第一子帧，可以将第一个第一子帧和第三个第一子帧作为其关联第一子帧，针对第一个第一子帧，可以将第二个第一子帧作为其关联第一子帧。针对第三个第一子帧，则可以将第二个第一子帧和第四个第一子帧作为其关联第一子帧。

还可以根据该第一子帧的关联第一子帧的初始频谱特征，确定该第一子帧的特征均值。

进一步的，针对其中的一个第一子帧，可以根据其关联第一子帧的初始频谱特征，确定第一子帧的特征均值。比如，针对第一个第一子帧，可以根据其关联第一子帧的初始频谱特征确定特征均值。

实际应用时，可以利用各个关联第一子帧的初始频谱特征计算出特征均值，比如，初始频谱特征是40维的特征，则可以针对每维特征计算一个均值，进而得到40维的特征均值。

确定第一子帧的初始频谱特征与第一子帧的特征均值的差值，为第一子帧的第一频谱特征。

其中，电子设备可以计算第一子帧的初始频谱特征与特征均值的差值，进而得到第一子帧的第一频谱特征。比如，可以利用初始频谱特征中的40维特征，分别减去特征均值中相应的40维特征，得到第一子帧的第一频谱特征。

这种实施方式中，通过在第一子帧的初始频谱特征中去除关联第一子帧的特征均值，能够去除第一子帧中的噪点数据，进而得到更准确的第一频谱特征。

其中，电子设备可以利用获取的第一子帧，以及第一子帧所属的第一音频的标注信息，训练预设模型，进而得到应用于第一场景的第一模型。

具体的，预设模型可以由多层TDNN(time delay neural network)以及若干层ResNet构成。该预设模型的输入数据为音频数据的频谱特征，输出的识别结果为该音频数据中的用户是各个说话人的概率。比如，第一音频是录制的300个用户的音频数据，则识别结果为输入数据中的用户是这300个人中每个人的概率。

进一步的，说话人特征向量(Embedding)由预设模型的倒数第2隐含层抽取得到，该特征向量用于表征用户的声纹特征。预设模型的最后一层能够根据该特征向量确定识别结果。在应用训练完毕的模型时，可以通过该模型输出音频数据的特征向量，进而提取用户的声纹特征。

实际应用时，电子设备可以根据预设模型输出的第一子帧的识别结果，以及第一子帧所属的第一音频的标注信息构建损失函数，再基于该损失函数对预设模型进行训练，通过多次迭代训练，能够得到第一模型。

其中，源数据是第一场景中的相关数据，因此得到的第一模型也是应用于第一场景的。本公开提供的方案，能够对第一模型进行进一步的优化训练，得到应用于目标场景的目标模型。

这种实施方式中，可以利用源数据及其标注信息训练得到第一模型，从而得到具有声纹识别功能的第一模型。后续可以对该第一模型进行进一步的优化，优化后的模型能够借鉴第一模型的声纹识别功能，这种对第一模型优化训练的方式，能够降低目标模型的训练成本。

步骤403，获取目标子帧，目标子帧是对应用在目标场景的目标音频进行分帧处理得到的。

步骤403与步骤202中获取目标子帧的方式类似，不再赘述。

针对任一目标子帧，都可以执行步骤404-407，从而提取目标子帧的目标频谱特征。

步骤404，针对任一目标子帧，确定该目标子帧的初始频谱特征。

步骤405，获取该目标子帧的关联目标子帧，该目标子帧的关联目标子帧包括：位于该目标子帧之前的第三预设数量的目标子帧，和/或，位于该目标子帧之后的第四预设数量的目标子帧。

步骤406，根据该目标子帧的关联目标子帧的初始频谱特征，确定该目标子帧的特征均值。

步骤407，确定该目标子帧的初始频谱特征与该目标子帧的特征均值的差值，为该目标子帧的目标频谱特征。

步骤404-407的实现方式与提取第一子帧的第一频谱特征的方式类似，不再赘述。

这种实施方式中，通过在目标子帧的初始频谱特征中去除关联目标子帧的特征均值，能够去除目标子帧中的噪点数据，进而得到更准确的目标频谱特征。

一种实施方式中，可以重复执行下述步骤408-409，直到满足预设的停止训练条件。在另一种实施方式中，还可以重复执行步骤401-409，直到满足预设的停止训练条件。

步骤408，将第一频谱特征以及目标频谱特征输入第一模型，得到与第一频谱特征对应的识别结果，以及与目标子帧对应的目标特征向量。

其中，电子设备可以将第一频谱特征以及目标频谱特征输入第一模型，比如可以将通过n条第一音频得到的第一频谱特征、以及通过n条目标音频得到的目标频谱特征，作为一批训练数据输入第一模型。

具体的，针对第一频谱特征，第一模型可以输出其识别结果，识别结果可以包括各个用户的概率，用于表征第一子帧的讲话人是各个用户的概率。

进一步的，针对目标频谱特征，第一模型可以输出其目标特征向量。

第一子帧的第一频谱特征输入第一模型后，第一模型中的倒数第二层能够提取到第一频谱特征的源特征向量，第一模型的最后一层可以根据该源特征向量确定该第一子帧的识别结果，比如，可以确定该第一子帧的用户是300个用户中每个用户的概率，例如是第一用户的概率为1％，是第二yoghurt的概率为3％等。可以根据这些概率确定出最终的分类结果，比如可以将概率最高的用户确定为第一子帧的讲话人。

其中，目标子帧的目标频谱特征输入第一模型后，第一模型中的倒数第二层能够提取到目标频谱特征的目标特征向量，由于目标音频不具有标注信息，因此，无法预先通过全连接层设置分类信息，因此，第一模型不对目标特征向量进行分类处理。

具体的，可以预先设置第一频谱特征和目标频谱特征的标识，进而使电子设备能够区分第一频谱特征和目标频谱特征，针对第一频谱特征，电子设备可以利用第一模型确定其识别结果，针对目标频谱特征，电子设备可以利用第一模型确定其目标特征向量。

步骤409，利用第一频谱特征的识别结果以及第一音频的标注信息、目标子帧的目标特征向量以及目标子帧所属的目标音频确定损失函数的值，并利用损失函数的值优化第一模型，得到优化后的第一模型。

实际应用时，第一子帧所属的第一音频具有标注信息，因此，第一音频的标注信息也可以作为第一子帧的标注信息。比如，可以利用第一子帧的识别结果以及第一子帧的标注信息训练第一模型。

具体的，一条目标音频中只有一个讲话的用户，因此，可以基于这一特性衡量第一模型对目标子帧的识别效果。若两个目标子帧属于同一条目标音频，则这两个目标子帧的目标特征向量应当较为接近，若两个目标子帧属于不同目标音频，则这两个目标子帧的目标特征向量应当不接近，基于此，可以根据目标子帧的目标特征向量、以及目标子帧所属的目标音频，训练第一模型。

进一步的，可以结合第一频谱特征的识别结果以及第一音频的标注信息、目标子帧的目标特征向量以及目标子帧所属的目标音频确定损失函数的值，从而利用第一音频和目标音频联合训练第一模型，得到目标模型。

实际应用时，可以对第一模型进行多次迭代训练，当满足预设的停止训练条件时停止训练，得到目标模型。例如训练次数达到预设次数时，可以停止训练，再例如，当损失函数的值小于预设值时，可以停止训练。

通过这种实现方式，可以利用第一音频和目标音频联合训练第一模型，虽然目标音频没有标注信息，但是本公开提供的方法能够利用属于同一目标音频的目标子帧的说话人为同一用户这一特性，利用目标音频对第一模型进行训练，从而得到能够应用在目标场景的目标模型，同时，还利用第一音频训练目标模型，能够避免目标模型过拟合在目标场景的数据上。

可以根据第一频谱特征的识别结果以及第一频谱特征的标注信息确定第一损失函数的值。

实际应用时，第一子帧所属的第一音频具有标注信息，因此，可以第一音频的标注信息也可以作为第一子帧的标注信息。因此，可以利用第一子帧的识别结果以及该第一子帧所属第一音频的标注信息，确定第一损失函数的值。利用第一损失函数的值衡量第一模型对第一子帧的识别效果。

可以根据各个目标子帧的目标特征向量以及各个目标子帧所属的目标音频，确定第二损失函数的值；第二损失函数的值用于表征多个目标子帧的目标特征向量之间的比对信息。

其中，目标子帧所属的目标音频不具有标注信息，但是若两个目标子帧属于同一条目标音频，则这两个目标子帧的目标特征向量应当较为接近，若两个目标子帧属于不同目标音频，则这两个目标子帧的目标特征向量应当不接近。因此，可以利用属于相同目标音频的目标子帧的目标特征向量、以及属于不同目标音频的目标子帧的目标特征向量，确定第二损失函数的值。利用第二损失函数的值能够衡量第一模型对目标子帧的识别效果。

具体的，可以根据第一损失函数的值、第二损失函数的值确定损失函数的值，该损失函数能够从整体生衡量模型在训练过程中的识别效果。可以通过该损失函数调整模型中的参数，得到满足条件的目标模型。

在一种可选的实施方式中，可以利用第一损失函数的值与加权后的第二损失函数的值之间的差，确定为模型的损失函数的值。比如，损失函数的值可以为：

Ltotal＝Lcla λLcl

其中，Ltotal为损失函数的值，Lcla为第一损失函数的值，Lcl为第二损失函数的值，λ为预设的加权系数。这种实施方式中，可以使用户能够利用λ调节第一损失函数的值与第二损失函数的值的比重，进而满足多种跨场景模型训练的需求。

通过这种方式，可以确定出模型的损失函数的值，该值用于衡量模型对第一频谱特征和目标频谱特征的识别效果，进而可以利用该值优化模型，优化后的模型能够更加准确的识别第一频谱特征和目标频谱特征，进而通过多次迭代，能够得到可以准确识别目标频谱特征的目标模型。

进一步的，在确定第二损失函数的值时，可以根据属于相同的目标音频的目标子帧的特征向量确定第一比对信息。由于目标子帧属于相同的目标音频，因此，该目标子帧的目标特征向量之间应该较为接近。因此，若第一比对信息较小，则可以表征模型对同一用户的音频数据的识别效果较好，否则，表征模型对同一用户的音频数据的识别效果较差。

实际应用时，还可以根据属于不同的目标音频的目标子帧的特征向量确定第二比对信息。由于目标子帧属于不同的目标音频，因此，该目标子帧的目标特征向量之间应该相差较大。因此，若第二比对信息较小，则可以表征模型对不同用户的音频数据的识别效果较差，否则，表征模型对不同用户的音频数据的识别效果较好。

最后可以集合第一比对信息、第二比对信息，确定第二损失函数的值。由于第一比对信息的值越小、第二比对信息的值越大，模型的识别效果越好，因此，可以利用第一比对信息和第二比对信息确定出能够衡量模型识别效果的值。

通过这种实施方式，即使目标音频没有标注信息，也可以根据目标子帧所属的目标音频，确定出用于衡量模型对目标音频的识别效果的第二损失函数的值，进而在不需要标注目标音频的情况下，也能够利用目标音频对已有的第一模型进行优化训练，得到目标模型。

图5为本公开一示例性实施例示出的声纹特征的提取方法的流程示意图。

如图5所示，本公开提供的声纹特征的提取方法，包括：

步骤501，获取待识别的音频数据，提取音频数据的频谱特征。

步骤502，将频谱特征输入预设的目标模型，得到音频数据的声纹特征。

本公开提供的方法可以应用于具备计算能力的电子设备，比如可以是计算机，还可以是手机，该电子设备中可以设置目标模型。

具体的，可以利用预设的频谱特征提取算法提取待识别的音频数据中的频谱特征，再利用目标模型对提取的频谱特征进行处理，得到音频数据的声纹特征。

进一步的，目标模型可以是通过如图2或图4所示的方法训练得到的模型，可以利用目标模型倒数第二层输出音频数据的声纹特征，该声纹特征例如可以是一个特征向量。

在一种可选的实施方式中，若电子设备是手机，则电子设备可以将得到的声纹特征发送给服务器，由服务器比对该声纹特征与预设的声纹特征，从而确定出与该声纹特征匹配的用户。其中，预设的声纹特征关联有用户信息。

在另一种可选的实施方式中，若电子设备是计算机，则该计算机中可以预先设置声纹特征，预设的声纹特征关联有用户信息。计算机可以比对该声纹特征与预设的声纹特征，从而确定出与该声纹特征匹配的用户。

图6为本公开一示例性实施例示出的模型训练装置的结构示意图。

如图6所示，本公开提供的模型训练装置600，包括：

训练数据获取单元610，用于获取应用在第一场景的第一模型、第一子帧以及目标子帧，所述第一子帧是对应用在第一场景的第一音频进行分帧处理得到的，所述目标子帧是对应用在目标场景的目标音频进行分帧处理得到的；其中，所述第一音频具有标注信息；

频谱特征提取单元620，用于提取所述第一子帧的第一频谱特征，并提取所述目标子帧的目标频谱特征；

训练单元630，用于根据所述第一子帧的第一频谱特征、所述第一音频的标注信息、所述目标子帧的目标频谱特征、以及所述目标子帧所属的目标音频对所述第一模型进行训练，得到目标模型。

本公开提供的模型训练装置中，由于目标音频不具有标注信息，因此可以将目标音频拆分为多个子帧，并将子帧所属的目标音频的信息作为子帧的标注信息，从而能够利用具有标注信息的第一音频和目标音频对第一模型进行训练，得到可以识别目标场景中音频的声纹特征的目标模型。

图7为本公开另一示例性实施例示出的模型训练装置的结构示意图。

如图7所示，本公开提供的模型训练装置700中，训练数据获取单元710与图6中的训练数据获取单元610相似，频谱特征提取单元720与图6中的频谱特征提取单元620相似，训练单元730与图6中的训练单元630相似。

其中，所述训练单元730，包括识别模块731、训练模块732：

所述识别模块731、所述训练模块732重复执行下述步骤，直到满足预设的停止训练条件：

所述识别模块731将所述第一频谱特征以及所述目标频谱特征输入所述第一模型，得到与所述第一频谱特征对应的识别结果，以及与所述目标子帧对应的目标特征向量；

所述训练模块732利用所述第一频谱特征的识别结果以及所述第一音频的标注信息、所述目标子帧的目标特征向量以及所述目标子帧所属的目标音频确定损失函数的值，并利用所述损失函数的值优化所述第一模型，得到优化后的第一模型；

其中，满足所述预设的停止训练条件时得到的优化后的第一模型为目标模型。

其中，所述训练模块732还用于：

根据所述第一频谱特征的识别结果以及所述第一频谱特征的标注信息确定第一损失函数的值；

根据各个所述目标子帧的目标特征向量以及各个所述目标子帧所属的目标音频，确定第二损失函数的值；所述第二损失函数的值用于表征多个目标子帧的目标特征向量之间的比对信息；

根据所述第一损失函数的值、所述第二损失函数的值确定所述损失函数的值。

其中，所述训练模块732还用于：

根据属于相同的目标音频的目标子帧的目标特征向量，确定第一比对信息；

根据属于不同的目标音频的目标子帧的目标特征向量，确定第二比对信息；

根据所述第一比对信息、所述第二比对信息，确定所述第二损失函数的值。

其中，所述训练模块732还用于：

将所述第一损失函数的值与加权后的第二损失函数的值之间的差，确定为所述损失函数的值。

其中，所述频谱特征提取单元720包括第一特征提取模块721，用于：

针对任一第一子帧，确定该第一子帧的初始频谱特征；

获取该第一子帧的关联第一子帧，该第一子帧的关联第一子帧包括：位于所述第一子帧之前的第一预设数量的第一子帧，和/或，位于所述第一子帧之后的第二预设数量的第一子帧；

根据该第一子帧的关联第一子帧的初始频谱特征，确定该第一子帧的特征均值；

确定该第一子帧的初始频谱特征与该第一子帧的特征均值的差值，为该第一子帧的第一频谱特征。

其中，所述频谱特征提取单元720包括目标特征提取模块722，用于：

针对任一目标子帧，确定该目标子帧的初始频谱特征；

获取该目标子帧的关联目标子帧，该目标子帧的关联目标子帧包括：位于该目标子帧之前的第三预设数量的目标子帧，和/或，位于该目标子帧之后的第四预设数量的目标子帧；

根据该目标子帧的关联目标子帧的初始频谱特征，确定该目标子帧的特征均值；

确定该目标子帧的初始频谱特征与该目标子帧的特征均值的差值，为该目标子帧的目标频谱特征。

本实施例提供的装置700，所述训练数据获取单元710还用于：

利用所述第一子帧的第一频谱特征以及所述第一音频的标注信息训练预设模型，得到所述第一模型。

图8为本公开一示例性实施例示出的声纹特征的提取装置的结构示意图。

如图8所示，本公开提供的声纹特征的提取装置800，包括：

音频数据获取单元810，用于获取待识别的音频数据，提取所述音频数据的频谱特征；

声纹特征提取单元820，用于将所述频谱特征输入预设的目标模型，得到所述音频数据的声纹特征；所述目标模型为通过图6或图7所示的任一项所述的装置训练得到的。

本公开提供一种模型训练方法、声纹特征的提取方法及其设备、程序产品，应用于人工智能技术中的语音技术、深度学习技术，以解决相关技术中对已有的模型进行跨场景训练时周期长、成本高的问题。

需要说明的是，本实施例中的第一模型和目标模型并不是针对某一特定用户的声纹识别模型，并不能反映出某一特定用户的个人信息。需要说明的是，本实施例中的音频数据来自于公开数据集。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

根据本公开的实施例，本公开还提供了一种计算机程序产品，计算机程序产品包括：计算机程序，计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。

图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图9所示，设备900包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如模型训练方法或声纹特征的提取方法。例如，在一些实施例中，模型训练方法或声纹特征的提取方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的模型训练方法或声纹特征的提取方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行模型训练方法或声纹特征的提取方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(\"Virtual Private Server\"，或简称\"VPS\")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。