一种语音文本重写模型构建方法、语音识别方法与流程

1.本申请涉及计算机技术领域，尤其涉及一种语音文本重写模型构建方法、语音识别方法。


背景技术：

2.随着人工智能技术的发展，作为人工智能技术中重要研究方向的语音识别技术逐渐应用于越来越多应用领域(例如，金融、运营商、政务、医疗、电商、餐饮酒店、教育培训、房地产以及汽车等应用领域)。其中，语音识别技术用于识别用户语音。
3.例如，对于人机交互设备来说，在人机交互设备输出提示信息(例如，“你今天心情如何”等)之后，该人机交互设备可以先接收目标用户针对该提示信息输入的用户语音(例如，携带有“我今天很开心”的用户语音)，再利用语音识别技术对该用户语音进行分析，得到语音识别文本，以便后续能够基于该语音识别文本进行后续操作(例如，进行语义理解或者生成新的提示信息等)。
4.然而，因语音识别技术的相关实现方法存在缺陷，导致利用该相关实现方法无法准确地识别出用户语音中携带的语音信息，如此使得如何提高语音识别准确性成为一项亟待解决的技术问题。


技术实现要素：

5.本申请实施例的主要目的在于提供一种语音文本重写模型构建方法、语音识别方法，能够提高语音识别准确性。
6.本申请实施例提供了一种语音文本重写模型构建方法，所述方法包括：获取样本语音的至少一个样本基础识别文本、所述样本语音的样本标准识别文本、所述样本语音的样本上文信息和所述样本语音的重写分类实际结果；根据所述至少一个样本基础识别文本、所述样本标准识别文本和所述样本上文信息对待训练文本重写模型进行训练，得到待优化文本重写模型；根据所述至少一个样本基础识别文本、所述样本标准识别文本、所述样本上文信息和所述样本语音的重写分类实际结果对所述待优化文本重写模型进行训练，得到语音文本重写模型。
7.本申请实施例还提供了一种语音识别方法，所述方法包括：获取目标用户针对待使用上文信息输入的待识别语音；对所述待识别语音进行语音识别，得到至少一个待校正识别文本；根据所述至少一个待校正识别文本、所述待使用上文信息和预先构建的语音文本重写模型，得到所述待识别语音的目标语音识别文本；其中，所述语音文本重写模型是利用本申请实施例提供的语音文本重写模型构建方法的任一实施方式进行构建的。
8.本申请实施例还提供了一种语音文本重写模型构建装置，包括：第一获取单元，用于获取样本语音的至少一个样本基础识别文本、所述样本语音的样本标准识别文本、所述样本语音的样本上文信息和所述样本语音的重写分类实际结果；第一训练单元，用于根据所述至少一个样本基础识别文本、所述样本标准识别文本和所述样本上文信息对待训练文
本重写模型进行训练，得到待优化文本重写模型；第二训练单元，用于根据所述至少一个样本基础识别文本、所述样本标准识别文本、所述样本上文信息和所述样本语音的重写分类实际结果对所述待优化文本重写模型进行训练，得到语音文本重写模型。
9.本申请实施例还提供了一种语音识别装置，包括：第二获取单元，用于获取目标用户针对待使用上文信息输入的待识别语音；语音识别单元，用于对所述待识别语音进行语音识别，得到至少一个待校正识别文本；文本确定单元，用于根据所述至少一个待校正识别文本、所述待使用上文信息和预先构建的语音文本重写模型，得到所述待识别语音的目标语音识别文本；其中，所述语音文本重写模型是利用本申请实施例提供的语音文本重写模型构建方法的任一实施方式进行构建的。
10.本申请实施例还提供了一种设备，所述设备包括：处理器、存储器、系统总线；所述处理器以及所述存储器通过所述系统总线相连；所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行本申请实施例提供的的语音文本重写模型构建方法的任一实施方式，或者执行本申请实施例提供的的语音识别方法的任一实施方式。
11.本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行本申请实施例提供的的语音文本重写模型构建方法的任一实施方式，或者执行本申请实施例提供的的语音识别方法的任一实施方式。
12.本申请实施例还提供了一种计算机程序产品，所述计算机程序产品在终端设备上运行时，使得所述终端设备执行本申请实施例提供的的语音文本重写模型构建方法的任一实施方式，或者执行本申请实施例提供的的语音识别方法的任一实施方式。
13.基于上述技术方案，本申请具有以下有益效果：
14.本申请提供的语音文本重写模型构建方法和语音识别方法中，利用样本语音的至少一个样本基础识别文本、样本标准识别文本、样本上文信息以及重写分类实际结果对待训练文本重写模型进行两阶段训练，得到语音文本重写模型，以使该语音文本重写模型具有较好地预测性能，以便在对目标用户输入的待识别语音进行语音识别得到至少一个待校正识别文本之后，可以由该语音文本重写模型根据该至少一个待校正识别文本以及该待识别语音的上文信息进行语音识别文本重写，得到并输出该待识别语音的目标语音识别文本，以使该目标语音识别文本能够更准确地表示出待识别语音携带的语音信息，如此能够提高语音识别准确性。
15.其中，因语音文本重写模型具有较好地预测性能，使得该语音文本重写模型能够根据待识别语音的至少一个待校正识别文本以及该待识别语音的上文信息进行准确地语音识别文本重写，从而使得重写得到的目标语音识别文本能够克服上述至少一个待校正识别文本中存在的识别错误(尤其是，与待使用上文信息中相同内容的识别错误)，进而使得该目标语音识别文本能够更准确地表示出待识别语音携带的语音信息，如此能够提高语音识别准确性。
附图说明
16.为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现
有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
17.图1为本申请实施例提供的一种语音文本重写模型构建方法的流程图；
18.图2为本申请实施例提供的一种语音识别方法的流程图；
19.图3为本申请实施例提供的一种语音文本重写模型构建装置的结构示意图；
20.图4为本申请实施例提供的一种语音识别装置的结构示意图。
具体实施方式
21.发明人在针对语音识别的研究中发现，在人机交互过程中，目标用户向人机交互设备输入的待识别语音通常携带的部分信息通常与该待识别语音的上文信息中部分内容相同。例如，在人机交互设备输出问题“你喜欢歌手是谁呀”之后，目标用户可以针对该问题以语音形式输入答复“我喜欢的歌手比较多，例如，我比较喜欢周杰伦、张学友、任贤齐
……”
。基于上述交互过程可知，该目标用户输入的待识别语音携带有信息“我喜欢的歌手比较多，例如，我比较喜欢周杰伦、张学友、任贤齐
……”
，而且该待识别语音的上文信息可以包括“你喜欢歌手是谁呀”，如此使得上述待识别语音携带的部分信息(例如，“喜欢”和“歌手”)与该待识别语音的上文信息中部分内容相同。然而，因语音识别技术的相关实现方法仍存在缺陷，使得这些相关实现方法仍无法对待识别语音进行准确地识别，导致基于这些相关实现方法确定的得分最高的识别文本仍然可能存在一些识别错误，尤其可能存在与该待识别语音的上文信息中相同内容的识别错误(例如，将“喜欢”识别为“西环”或者“西幻”等)，如此导致语音识别准确率较低。
22.为了解决背景技术部分的技术问题以及上述相关实现方法存在的缺陷，本申请实施例提供了一种语音文本重写模型构建方法和语音识别方法，其具体包括：利用样本语音的至少一个样本基础识别文本、样本标准识别文本、样本上文信息以及重写分类实际结果对待训练文本重写模型进行两阶段训练，得到语音文本重写模型，以使该语音文本重写模型具有较好地预测性能，以便在对目标用户输入的待识别语音进行语音识别得到至少一个待校正识别文本之后，可以由该语音文本重写模型根据该至少一个待校正识别文本及其上文信息进行语音识别文本重写，得到并输出该待识别语音的目标语音识别文本，以使该目标语音识别文本能够更准确地表示出待识别语音携带的语音信息，如此能够提高语音识别准确性。
23.其中，因语音文本重写模型具有较好地预测性能，使得该语音文本重写模型能够根据待识别语音的至少一个待校正识别文本及其上文信息进行准确地语音识别文本重写，从而使得重写得到的目标语音识别文本能够克服上述该至少一个待校正识别文本中存在的识别错误(尤其是，与该待识别语音的上文信息中相同内容的识别错误)，进而使得该目标语音识别文本能够更准确地表示出待识别语音携带的语音信息，如此能够提高语音识别准确性。
24.另外，本申请实施例不限定语音文本重写模型构建方法的执行主体，例如，本申请实施例提供的语音文本重写模型构建方法可以应用于终端设备或服务器等数据处理设备。其中，终端设备可以为智能手机、计算机、个人数字助理(personal digital assitant，
pda)或平板电脑等。服务器可以为独立服务器、集群服务器或云服务器。
25.此外，本申请实施例也不限定语音识别方法的执行主体，例如，本申请实施例提供的语音识别方法可以应用于终端设备或服务器等数据处理设备。其中，终端设备可以为智能手机、计算机、个人数字助理(personal digital assitant，pda)或平板电脑等。服务器可以为独立服务器、集群服务器或云服务器。
26.为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
27.为了便于理解本申请实施例提供的技术方案，下面先介绍语音文本重写模型的构建过程(也就是，语音文本重写模型构建方法)，再介绍语音文本重写模型的应用过程(也就是，语音识别方法)。
28.方法实施例一
29.参见图1，该图为本申请实施例提供的一种语音文本重写模型构建方法的流程图。
30.本申请实施例提供的语音文本重写模型构建方法，包括s101
‑
s103：
31.s101：获取样本语音的至少一个样本基础识别文本、该样本语音的样本标准识别文本、该样本语音的样本上文信息和该样本语音的重写分类实际结果。
32.样本语音是用于构建语音文本重写模型的语音。另外，本申请实施例不限定样本语音的获取方式，例如，可以将人机交互设备的历史交互过程中涉及的用户语音均确定为样本语音。此外，本申请实施例也不限定样本语音的个数。
33.样本语音的至少一个样本基础识别文本是指通过对该样本语音进行语音识别得到的至少一个语音识别文本。其中，本申请实施例不限定语音识别的实施方式，可以采用现有的或者未来出现的任一种语音识别方法(例如，利用预先构建的语音识别模型进行语音识别)进行实施。另外，本申请实施例不限定样本基础识别文本的个数，例如，一个样本语音可以对应于q个样本基础识别文本；q为正整数。
34.另外，本申请实施例不限定至少一个样本基础识别文本的获取过程，例如，样本语音对应的至少一个样本基础识别文本的获取过程具体可以包括步骤11
‑
步骤12：
35.步骤11：对样本语音进行语音识别，得到该样本语音的至少一个语音识别文本及其推荐得分。其中，语音识别文本的推荐得分用于表征利用该语音识别文本表示样本语音携带的语音信息的概率。
36.作为示例，若步骤11采用预先设定的语音识别模型进行实施，则步骤11具体可以为：利用预先设定的语音识别模型对样本语音进行语音识别，得到该样本语音的d个语音识别文本和该d个语音识别文本的推荐得分。其中，第d个语音识别文本的推荐得分用于表征利用第d个语音识别文本表示该样本语音携带的语音信息的概率；d为正整数，d≤d，d为正整数。
37.步骤12：根据各个语音识别文本的推荐得分，从样本语音的至少一个语音识别文本中筛选出该样本语音的至少一个样本基础识别文本。
38.本申请实施例不限定步骤12的实施方式，例如，在一种可能的实施方式中，可以将样本语音的所有语音识别文本中推荐得分满足预设得分条件的各个语音识别文本，均确定
为该样本语音的样本基础识别文本。
39.其中，预设得分条件可以预先设定，例如，该预设得分条件可以为高于第一阈值(如，60)。又如，若将样本语音的所有语音识别文本按照推荐得分从高到低进行排序，则该预设得分条件可以为排序位置低于第二阈值(如，6)；若将样本语音的所有语音识别文本按照推荐得分从低到高进行排序，则该预设得分条件可以为排序位置高于第三阈值(如，d
‑
5，且d表示样本语音的语音识别文本的个数)。
40.基于上述步骤11至步骤12的相关内容可知，在获取到样本语音之后，可以先对该样本语音进行语音识别，得到该样本语音的多个语音识别文本及其推荐得分；再将推荐得分比较高的至少一个语音识别文本均确定为该样本语音的样本基础识别文本，以便后续能够利用该样本语音的所有样本基础识别文本构建语音文本重写模型。
41.样本语音的样本标准识别文本用于表征该样本语音携带的实际信息；而且本申请实施例不限定该样本标准识别文本的生成过程，例如，该样本标准识别文本可以通过对样本语音进行人工识别得到。
42.样本语音的样本上文信息用于表示该样本语音的上文内容。例如，对于人机交互设备来说，在人机交互设备输出问题“你最喜欢的歌手是谁”之后，若样本用户针对该问题以语音方式向该人机交互设备输入答复“我最喜欢周杰伦呀”，则携带有“我最喜欢周杰伦呀”的用户语音的上文内容可以包括“你最喜欢的歌手是谁”，故在将该携带有“我最喜欢周杰伦呀”的用户语音确定为样本语音时，可以确定该样本语音的样本上文信息包括“你最喜欢的歌手是谁”。
43.样本语音的重写分类实际结果用于表征是否需要对该样本语音进行语音识别文本重写的实际标注结果；而且，若样本语音的重写分类实际结果为第一结果(如，“1”)，则表示该样本语音的至少一个样本基础识别文本存在识别错误，故为了提高语音识别准确性，可以依据该样本语音的至少一个样本基础识别文本及其样本上文信息进行语音识别文本重写；若样本语音的重写分类实际结果为第一结果(如，“0”)，则表示该样本语音的至少一个样本基础识别文本不存在识别错误，故可以直接从该至少一个样本基础识别文本中筛选出该样本语音对应的推荐语音识别文本(例如，将推荐得分最高的样本基础识别文本，确定为该样本语音对应的推荐语音识别文本)。需要说明的是，本申请实施例不限定样本语音的重写分类实际结果的生成方式，例如，可以通过人工标注的方式进行实施。
44.s102：根据样本语音的至少一个样本基础识别文本、该样本语音的样本标准识别文本和该样本语音的样本上文信息对待训练文本重写模型进行训练，得到待优化文本重写模型。
45.其中，待训练文本重写模型是指需要进行训练的重写模型；而且本申请实施例不限定待训练文本重写模型的模型结构，例如，待训练文本重写模型可以采用transformer模型的模型结构进行实施。
46.另外，本申请实施例不限定待训练文本重写模型的训练过程，可以采用现有的或者未来出现的任一种模型训练方法进行实施。例如，在一种可能的实施方式下，若样本语音的样本基础识别文本的个数为q，则待训练文本重写模型的训练过程(也就是s102)具体可以包括步骤21
‑
步骤27：
47.步骤21：对样本语音的第q个样本基础识别文本进行掩码处理，得到第q个样本掩
码后文本。其中，q为正整数，q≤q，q为正整数。
48.其中，掩码处理用于对样本基础识别文本中部分内容进行遮挡；而且本申请实施例不限定掩码处理的实施方式，可以采用现有的或者未来实现的任一种能够实现掩码处理的方法进行实施。
49.第q个样本掩码后文本是指将样本语音的第q个样本基础识别文本中一部分内容进行遮挡之后得到的文本，以使该第q个样本掩码后文本包括该第q个样本基础识别文本中另一部分内容(也就是，该第q个样本基础识别文本中未遮挡的内容)。
50.基于上述步骤21的相关内容可知，在获取到样本语音的q个样本基础识别文本之后，可以对该样本语音的第q个样本基础识别文本进行掩码处理，得到该样本语音对应的第q个样本掩码后文本，以使该第q个样本掩码后文本携带有该第q个样本基础识别文本的部分内容。其中，q为正整数，q≤q，q为正整数。
51.步骤22：生成第q个样本掩码后文本的文本特征。其中，q为正整数，q≤q，q为正整数。
52.第q个样本掩码后文本的文本特征用于表征该第q个样本掩码后文本携带的信息。另外，本申请实施例不限定第q个样本掩码后文本的文本特征的生成方式(也就是步骤22)，可以采用现有的或者未来出现的任一种文本特征提取方法进行实施。例如，步骤22具体可以为：对第q个样本掩码后文本进行向量化处理(例如，word2vec等)，得到该第q个样本掩码后文本的文本特征。
53.实际上，每个样本掩码后文本通常包括至少一个待处理对象(例如，字和/或词)，故可以基于一个样本掩码后文本中各个待处理对象携带的信息，生成该样本掩码后文本的文本特征。基于此，本申请实施例还提供了步骤22的一种可能的实施方式，在该实施方式中，若第q个样本掩码后文本包括y
q
个待处理对象，则该步骤22，具体可以包括步骤221
‑
步骤222：
54.步骤221：生成第q个样本掩码后文本中第y个待处理对象的对象特征；其中，y为正整数，y≤y
q
；y
q
为正整数。
55.其中，第y个待处理对象的对象特征用于表征该第y个待处理对象携带的信息。
56.另外，本申请实施例不限定步骤221的实施方式，例如，在一种可能的实施方式下，步骤221具体可以包括：将第q个样本掩码后文本中第y个待处理对象进行向量化处理，得到该第y个待处理对象的对象特征。
57.实际上，因第q个样本掩码后文本是一个待处理对象序列，使得该第q个样本掩码后文本中第y个待处理对象不仅携带有其自身表示的信息，还携带有其所处文本位置表示的信息，故为了提高第y个待处理对象的对象特征的准确性，本申请实施例还提供了步骤221的一种可能的实施方式，其具体可以包括步骤2211
‑
步骤2213：
58.步骤2211：对第q个样本掩码后文本中第y个待处理对象进行文本编码，得到该第y个待处理对象的文本编码结果。
59.其中，第y个待处理对象的文本编码结果用于表征该第y个待处理对象自身表示的信息。
60.另外，本申请实施例不限定步骤2211中“文本编码”的实施方式，可以采用现有的或者未来出现的任一种文本编码方法(例如，word2vec等)进行实施。
61.步骤2212：对第q个样本掩码后文本中第y个待处理对象进行位置编码，得到该第y个待处理对象的位置编码结果。
62.其中，第y个待处理对象的位置编码结果用于表征该第y个待处理对象在第q个样本掩码后文本中所处位置表示的信息。
63.另外，本申请实施例不限定步骤2212中“位置编码”的实施方式，可以采用现有的或者未来出现的任一种位置编码方法进行实施。
64.步骤2213：根据第q个样本掩码后文本中第y个待处理对象的文本编码结果和该第y个待处理对象的位置编码结果，确定该第y个待处理对象的对象特征。
65.本申请实施例不限定步骤2213的实施方式，例如，在一种可能的实施方式中，步骤2213具体可以为：将第q个样本掩码后文本中第y个待处理对象的文本编码结果和该第y个待处理对象的位置编码结果进行加和，得到该第y个待处理对象的对象特征。
66.另外，为了进一步提高第y个待处理对象的对象特征的准确性，可以进一步依据该第y个待处理对象对应的易混淆对象，生成该第y个待处理对象的对象特征。基于此，本申请实施例还提供了步骤2213的另一种可能的实施方式，其具体可以包括步骤22131
‑
步骤22134：
67.步骤22131：从预先构建的易混淆对象信息库中查询第y个待处理对象对应的k
y
个第一易混淆对象。其中，k
y
为正整数。
68.易混淆对象信息库用于记录各个字和/或词对应的至少一个易混淆对象；而且，本申请实施例不限定易混淆对象信息库的构建方式，可以采用现有的或者未来出现的任一种易混淆对象信息库的构建方法进行实施。
69.第一易混淆对象是指在易混淆对象信息库中记录的易与第y个待处理对象发生混淆使用的字和/或词。
70.步骤22132：对第y个待处理对象对应的第k个第一易混淆对象进行文本编码，得到该第y个待处理对象对应的第k个第一易混淆对象特征。其中，k为正整数，且k≤k
y
。
71.第y个待处理对象对应的第k个第一易混淆对象特征用于表征该第y个待处理对象对应的第k个第一易混淆对象携带的信息。
72.可见，本申请实施例中，在获取到第y个待处理对象对应的k
y
个第一易混淆对象之后，可以对该第y个待处理对象对应的各个第一易混淆对象分别进行文本编码，得到该第y个待处理对象对应的各个第一易混淆对象特征。
73.步骤22133：将第y个待处理对象对应的第1个第一易混淆对象特征至第k
y
个第一易混淆对象特征进行加权求和，得到该第y个待处理对象的易混淆特征。
74.其中，第k个第一易混淆对象特征的加权权重可以根据第y个待处理对象与其对应的第k个第一易混淆对象之间的易混淆度确定(例如，可以将第y个待处理对象与该第y个待处理对象对应的第k个第一易混淆对象之间的易混淆度，直接确定为第k个第一易混淆对象特征的加权权重)。k为正整数，且k≤k
y
。
75.可见，在获取到第y个待处理对象对应的k
y
个第一易混淆对象特征之后，可以按照公式(1)，对该k
y
个第一易混淆对象特征进行加权求和，得到该第y个待处理对象的易混淆特征。
76.77.式中，表示第q个样本掩码后文本中第y个待处理对象的易混淆特征；表示第q个样本掩码后文本中第y个待处理对象；表示第q个样本掩码后文本中第y个待处理对象与其对应的第k个第一易混淆对象之间的易混淆度；表示第q个样本掩码后文本中第y个待处理对象对应的第k个第一易混淆对象；表示第y个待处理对象对应的第k个第一易混淆对象特征；k
y
表示第y个待处理对象对应的第一易混淆对象的个数。
78.步骤22134：将第y个待处理对象的文本编码结果、该第y个待处理对象的位置编码结果和该第y个待处理对象的易混淆特征进行加和，得到该第y个待处理对象的对象特征。
79.本申请实施例中，在获取到第y个待处理对象的文本编码结果、位置编码结果以及易混淆特征之后，可以将第y个待处理对象的文本编码结果、位置编码结果以及易混淆特征进行加和(如公式(2)所示)，得到第y个待处理对象的对象特征。
[0080][0081]
式中，表示第q个样本掩码后文本中第y个待处理对象的对象特征；表示第q个样本掩码后文本中第y个待处理对象的文本编码结果；表示第q个样本掩码后文本中第y个待处理对象的易混淆特征；表示第q个样本掩码后文本中第y个待处理对象的位置编码结果。
[0082]
基于上述步骤2211至步骤2213的相关内容可知，对于第q个样本掩码后文本中第y个待处理对象来说，可以先对该第y个待处理对象分别进行文本编码、位置编码以及易混淆特征提取，得到该第y个待处理对象的文本编码结果、位置编码结果以及易混淆特征；再将该第y个待处理对象的文本编码结果、位置编码结果以及易混淆特征进行加和(如公式(2)所示)，得到该第y个待处理对象的对象特征，以使该第y个待处理对象的对象特征能够更准确地表示出第q个样本掩码后文本中第y个待处理对象携带的信息。
[0083]
步骤222：将第q个样本掩码后文本中第1个待处理对象的对象特征至第y
q
个待处理对象的对象特征的集合，确定为该第q个样本掩码后文本的文本特征。
[0084]
本申请实施例中，在获取到第q个样本掩码后文本中第1个待处理对象的对象特征第2个待处理对象的对象特征第y
q
个待处理对象的对象特征之后，可以将的集合，确定为第q个样本掩码后文本的文本特征
[0085]
基于上述步骤221至步骤222的相关内容可知，对于样本语音对应的第q个样本掩码后文本来说，可以先生成该第q个样本掩码后文本中各个待处理对象的对象特征；再将该第q个样本掩码后文本中所有待处理对象的对象特征的集合，确定为该第q个样本掩码后文本的文本特征，以使该第q个样本掩码后文本的文本特征能够更准确地表示出该第q个样本掩码后文本携带的信息。
[0086]
步骤23：生成样本上文信息的文本特征。
[0087]
其中，样本上文信息的文本特征用于表征该样本上文信息携带的信息。
[0088]
另外，本申请实施例不限定步骤23的实施方式，可以采用现有的或者未来出现的任一种文本特征抽取方法进行实施。例如，在一种可能的实施方式中，步骤23具体可以为：对样本上文信息进行向量化处理(例如，word2vec等)，得到该样本上文信息的文本特征。
[0089]
实际上，样本上文信息的语义信息可以利用该样本上文信息中的至少一个关键词进行表示，故为了避免样本上文信息中无意义内容的干扰，本申请实施例还提供了步骤23的另一种可能的实施方式，其具体可以包括步骤231
‑
步骤232：
[0090]
步骤231：对样本上文信息进行关键词提取，得到该样本上文信息的关键词。
[0091]
本申请实施例不限定步骤231中“关键词提取”的实施方式，可以采用现有的或者未来出现的任一种关键词提取方法进行实施。
[0092]
另外，为了进一步提高样本上文信息的关键词的准确性，可以依据样本语音对样本上文信息进行关键词提取，得到该样本上文信息的关键词，以使该样本上文信息的关键词与该样本语音之间具有较高的关联性。
[0093]
此外，本申请实施例不限定样本上文信息的关键词的个数。
[0094]
步骤232：根据样本上文信息的关键词，生成该样本上文信息的文本特征。
[0095]
本申请实施例不限定步骤232的实施方式，例如，在一种可能的实施方式下，步骤232具体可以为：对样本上文信息的关键词进行向量化处理(例如，word2vec等)，得到该样本上文信息的文本特征，以使该样本上文信息的文本特征包括该样本上文信息的关键词向量化表示。
[0096]
另外，为了进一步提高样本上文信息的文本特征的准确性，本申请实施例还提供了步骤232的另一种可能的实施方式，在该实施方式中，若样本上文信息的关键词包括n1个待处理对象(例如，字和/或词)，则步骤232具体可以包括步骤2321
‑
步骤2322：
[0097]
步骤2321：生成样本上文信息的关键词中第d个待处理对象的对象特征；其中，第d个待处理对象的对象特征用于表征该第d个待处理对象携带的信息；d为正整数，d≤n1，n1为正整数。
[0098]
本申请实施例不限定步骤2321的实施方式，例如，在一种可能的实施方式下，步骤2321具体可以包括：将该样本上文信息的关键词中第d个待处理对象进行向量化处理(例如，word2vec等)，得到该第d个待处理对象的对象特征。
[0099]
另外，为了进一步提高第d个待处理对象的对象特征的准确性，本申请实施例还提供了步骤2321的另一种可能的实施方式，其具体可以包括：先对样本上文信息的关键词中第d个待处理对象进行文本编码，得到该第d个待处理对象的文本编码结果；并对该第d个待处理对象进行位置编码，得到该第d个待处理对象的位置编码结果。然后，将该第d个待处理对象的文本编码结果和该第d个待处理对象的位置编码结果进行加和(如公式(3)所示)，得到该第d个待处理对象的对象特征。
[0100][0101]
式中，表示样本上文信息的关键词中第d个待处理对象的对象特征；表示样本上文信息的关键词中第d个待处理对象的文本编码结果；表示样本上文信息的关键词中第d个待处理对象的位置编码结果。
[0102]
步骤2322：将样本上文信息的关键词中第1个待处理对象的对象特征至第n1个待处理对象的对象特征的集合，确定为该样本上文信息的文本特征。
[0103]
本申请实施例中，在获取到样本上文信息的关键词中各个待处理对象的对象特征之后，可以将该样本上文信息的关键词中第1个待处理对象的对象特征第2个待处理对象的对象特征(以此类推)、以及第n1个待处理对象的对象特征的集合，确定为该样本上文信息的文本特征征
[0104]
基于上述步骤231至步骤232的相关内容可知，对于样本语音对应的样本上文信息来说，可以先从该样本上文信息中提取出该样本上文信息的至少一个关键词(尤其是与样本语音相关的关键词)；再依据该样本上文信息的至少一个关键词，生成该样本上文信息的文本特征，以使该样本上文信息的文本特征能够更准确地表示出该样本上文信息携带的信息(尤其是与样本语音相关的信息)。
[0105]
步骤24：将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入待训练文本重写模型，得到该待训练文本重写模型输出的样本语音的第一预测识别文本。
[0106]
其中，第一预测识别文本是由待训练文本重写模型重写得到的，而且该第一预测识别文本用于表征样本语音携带的预测语音信息。另外，本申请实施例不限定步骤24的实施方式，例如，待训练文本重写模型可以利用下文公式(1)
‑
(9)以及(12)
‑
(41)进行实施。
[0107]
步骤25：判断是否达到第一停止条件，若是，则执行步骤27；若否，则执行步骤26。
[0108]
其中，第一停止条件可以预先设定，例如，第一停止条件可以是样本语音的第一预测识别文本和该样本语音的样本标准识别文本之间的差距达到第一阈值，也可以是样本语音的第一预测识别文本的变化率低于第二阈值，还可以为待训练文本重写模型的更新次数达到第三阈值。
[0109]
本申请实施例中，判断当前轮的待训练文本重写模型是否达到第一停止条件，若达到，则表示当前轮的待训练文本重写模型具有较好的预测性能，故可以直接对当前轮的待训练文本重写模型进行保存和/或使用；若未达到，则表示当前轮的待训练文本重写模型具有较差的预测性能，需要依据样本语音的第一预测识别文本与该样本语音的样本标准识别文本之间的差距，更新该待训练文本重写模型，以使更新后的待训练文本重写模型具有更好的预测性能。
[0110]
步骤26：根据样本语音的第一预测识别文本和该样本语音的样本标准识别文本，更新待训练文本重写模型，并返回执行上文步骤24。
[0111]
本申请实施例中，在确定当前轮的待训练文本重写模型没有达到第一停止条件之后，可以依据样本语音的第一预测识别文本和该样本语音对应的样本标准识别文本，更新待训练文本重写模型，并利用更新后的待训练文本重写模型返回执行上文步骤24及其后续步骤。
[0112]
步骤27：根据待训练文本重写模型，确定待优化文本重写模型。
[0113]
本申请实施例中，在确定当前轮的待训练文本重写模型达到第一停止条件之后，可以依据该待训练文本重写模型构建待优化文本重写模型(例如，可以直接将该待训练文
本重写模型确定为待优化文本重写模型)，以使该待优化文本重写模型的预测性能能够达到该训练好的待训练文本重写模型所能达到的水平。
[0114]
基于上述步骤21至步骤27的相关内容可知，在获取到样本语音的q个样本基础识别文本以及样本上文信息之后，可以先对各个样本基础识别文本分别进行掩码处理，得到各个样本基础识别文本对应的样本掩码后文本；再利用各个样本基础识别文本对应的样本掩码后文本以及该样本上文信息训练待训练文本重写模型，以使训练好的待训练文本重写模型能够依据各个样本掩码后文本以及样本上文信息对该样本语音的语音识别文本进行重写，以使重写得到的语音识别文本十分接近于该样本语音的样本标准识别文本(甚至就是该样本语音的样本标准识别文本)；最后，依据训练好的待训练文本重写模型，构建待优化文本重写模型，以使该待优化文本重写模型也具有较好的预测性能。
[0115]
在一些情况下，为了进一步提高待训练文本重写模型的预测性能，可以在待训练文本重写模型的不同批次训练过程中采用不同的注意力机制进行文本预测，如此能够有效地避免模型训练过拟合的发生，从而能够有效地提高训练好的待训练文本重写模型的普适性。为了便于理解该训练过程，下面将以待训练文本重写模型的第r批次训练过程为例进行说明。其中，第r批次训练过程是指利用第r批次训练集训练待训练文本重写模型的训练过程；r为正整数，r≤r，r表示待训练文本重写模型的训练过程批次数。
[0116]
对于待训练文本重写模型的第r批次训练过程来说，该第r批次训练过程可以采用该待训练文本重写模型的第r批次训练集进行训练；而且若该第r批次训练集可以包括上文样本语音，则该待训练文本重写模型的第r批次训练过程具体可以包括步骤31
‑
步骤39：
[0117]
步骤31：从至少一个候选注意力机制中随机选择待训练文本重写模型在第r批次训练过程中使用的注意力机制，确定为第r批次注意力机制。
[0118]
候选注意力机制是指在待训练文本重写模型的训练过程中该待训练文本重写模型可以选用的注意力机制；而且本申请实施例不限定候选注意力机制的个数，例如，至少一个候选注意力机制可以包括单向注意力机制、双向注意力机制和序列注意力机制。
[0119]
其中，单向注意力机制是利用单侧文本信息进行注意力计算的；而且该单向注意力机制可以是单向语言模型所使用的注意力机制。双向注意力机制是利用双侧文本信息进行注意力计算的；而且该双向注意力机制可以是双向语言模型所使用的注意力机制。序列注意力机制可以是序列到序列(seq
‑
to
‑
seq)语音模型所使用的注意力机制。
[0120]
第r批次注意力机制用于表示在待训练文本重写模型的第r批次训练过程中该待训练文本重写模型所使用的注意力机制。例如，当待训练文本重写模型采用transformer模型的模型结构进行实施时，则在待训练文本重写模型的第r批次训练过程中该待训练文本重写模型中多头注意力层可以采用该第r批次注意力机制进行实施。
[0121]
基于上述步骤31的相关内容可知，对于需要利用r批次训练集进行训练的待训练文本重写模型来说，在利用第r批次训练集训练该待训练文本重写模型时，可以先从至少一个候选注意力机制(例如，单向注意力机制、双向注意力机制和序列注意力机制)中随机选择一个候选注意力机制，作为第r批次注意力机制，以便后续能够由待训练文本重写模型在第r批次训练过程中始终利用该第r批次注意力机制进行预测。其中，r为正整数，且r≤r，r为正整数。
[0122]
需要说明的是，本申请实施例不限定各个候选注意力机制的被选择概率，例如，若
至少一个候选注意力机制包括单向注意力机制、双向注意力机制和序列注意力机制，则该单向注意力机制的被选择概率为1/3、双向注意力机制的被选择概率为1/3和序列注意力机制的被选择概率为1/3。
[0123]
步骤32：从预设映射表中查询第r批次注意力机制对应的掩码比例，确定为第r批次掩码比例。其中，预设映射表包括第r批次注意力机制和该第r批次注意力机制对应的掩码比例之间的对应关系。
[0124]
预设映射表用于记录各个候选注意力机制对应的掩码比例。例如，预设映射表可以包括单向注意力机制与第一掩码比例(例如，15％)之间的对应关系、双向注意力机制与第二掩码比例(例如，15％)之间的对应关系、以及序列注意力机制与第三掩码比例(例如，50％)之间的对应关系。
[0125]
第r批次掩码比例是指针对待训练文本重写模型的第r批次训练集中样本语音的各个样本基础识别文本进行掩码处理时所使用的掩码比例。例如，若第r批次掩码比例为15％，则表示在对第r批次训练集中样本语音的第q个样本基础识别文本进行掩码处理时，可以从该第q个样本基础识别文本中选择15％的内容进行遮挡。其中，q为正整数，q≤q，q为正整数。
[0126]
基于上述步骤32的相关内容可知，对于待训练文本重写模型的第r批次训练过程来说，在获取到第r批次注意力机制之后，可以从预设映射表中查询对应于该第r批次注意力机制的掩码比例，作为第r批次掩码比例，以便后续能够利用该第r批次掩码比例对第r批次训练集中样本语音的各个样本基础识别文本进行掩码处理。
[0127]
步骤33：按照第r批次掩码比例对第r批次训练集中样本语音的第q个样本基础识别文本进行掩码处理，得到该样本语音对应的第q个样本掩码后文本。其中，q为正整数，q≤q，q为正整数。
[0128]
实际上，使用不同的注意力机制进行预测的待训练文本重写模型可以具有不同的学习任务，其具体为：若待训练文本重写模型使用单向注意力机制或者双向注意力机制进行预测，则该待训练文本重写模型的学习任务可以包括学习实际被掩码对象(也就是，掩码后文本中实际被遮挡内容)和学习样本标准识别文本；若待训练文本重写模型使用序列注意力机制进行预测，则该待训练文本重写模型的学习任务可以包括学习样本标准识别文本。
[0129]
基于此，为了能够实现上述学习需求，本申请实施例提供了步骤33的一种可能的实施方式，其具体可以包括步骤331
‑
步骤332：
[0130]
步骤331；若第r批次注意力机制为单向注意力机制或者双向注意力机制，则按照第r批次掩码比例对第r批次训练集中样本语音的第q个样本基础识别文本进行掩码处理，得到第q个样本掩码后文本和该第q个样本掩码后文本的实际被掩码对象。
[0131]
其中，第q个样本掩码后文本的实际被掩码对象是指第q个样本掩码后文本中实际被遮挡的内容。可见，若将第q个样本掩码后文本的实际被掩码对象填充至该第q个样本掩码后文本的内容遮挡位置上，能够得到第q个样本基础识别文本。
[0132]
步骤332：若第r批次注意力机制为序列注意力机制，则按照第r批次掩码比例对第r批次训练集中样本语音的第q个样本基础识别文本进行掩码处理，得到第q个样本掩码后文本。
[0133]
基于上述步骤331至步骤332的相关内容可知，对于待训练文本重写模型的第r批次训练过程来说，在获取到第r批次注意力机制和第r批次掩码比例之后，可以依据该第r批次注意力机制和第r批次掩码比例对第r批次训练集中样本语音的各个样本基础识别文本进行掩码处理，得到该样本语音对应的掩码处理数据(例如，样本掩码后文本和/或该样本掩码后文本的实际被掩码对象)，以便后续能够利用该样本语音对应的掩码处理数据辅助待训练文本重写模型在第r批次训练过程中完成相应的学习任务，其具体为：若第r批次注意力机制为单向注意力机制或者双向注意力机制，则后续能够利用第r批次训练集中样本语音对应q个样本掩码后文本及其实际被掩码对象，辅助待训练文本重写模型在第r批次训练过程中完成学习实际被遮挡内容和学习样本标准识别文本的两项学习任务；若第r批次注意力机制为序列注意力机制，则后续能够利用第r批次训练集中样本语音对应q个样本掩码后文本，辅助待训练文本重写模型在第r批次训练过程中完成学习样本标准识别文本的一项学习任务。
[0134]
步骤34：生成第q个样本掩码后文本的文本特征。其中，q为正整数，q≤q，q为正整数。
[0135]
需要说明的是，步骤34的相关内容请参见上文步骤22。
[0136]
步骤35：生成样本上文信息的文本特征。
[0137]
需要说明的是，步骤35的相关内容请参见上文步骤23。
[0138]
步骤36：将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入待训练文本重写模型，得到该待训练文本重写模型输出的样本语音的第一预测识别文本。
[0139]
实际上，因使用不同的注意力机制进行预测的待训练文本重写模型可以具有不同的学习任务，使得使用不同注意力机制进行预测的待训练文本重写模型可以采用不同的训练方式，从而使得该待训练文本重写模型可以对应于不同的预测任务。基于此，本申请实施例还提供了步骤36的一种可能的实施方式，其具体可以包括步骤361
‑
步骤362：
[0140]
步骤361：若第r批次注意力机制为单向注意力机制或者双向注意力机制，则将样本q个掩码后文本的文本特征和样本上文信息的文本特征输入待训练文本重写模型，得到该待训练文本重写模型输出的样本语音的第一预测识别文本和该q个样本基础识别文本的预测被掩码对象。
[0141]
其中，第q个样本基础识别文本的预测被掩码对象是指第q个样本掩码后文本中预测被遮挡内容。其中，q为正整数，q≤q，q为正整数。
[0142]
另外，本申请实施例不限定第一预测识别文本以及q个样本基础识别文本的预测被掩码对象的确定过程，例如，在一种可能的实施方式中，若待训练文本重写模型包括第一编码层和第一解码层，则第一预测识别文本以及q个样本基础识别文本的预测被掩码对象的确定过程，具体可以包括步骤41
‑
步骤42：
[0143]
步骤41：将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入第一编码层，得到第一编码层输出的该q个样本掩码后文本的特征编码和该q个样本掩码后文本的预测被掩码对象。
[0144]
其中，第一编码层用于对该第一编码层的输入数据进行编码处理以及被掩码对象预测处理，得到并输出该输入数据的编码结果以及预测被掩码对象。
[0145]
另外，本申请实施例不限定第一编码层的结构，例如，第一编码层可以包括l个堆
叠块、特征重组层、特征拼接层和编码输出层。其中，第l个堆叠块的输入数据包括第l
‑
1个堆叠块的输出数据，l
‑
1为正整数，l≤l，l为正整数；特征重组层的输入数据包括第l个堆叠块的输出数据；特征拼接层的输入数据包括特征重组层的输出数据和第l个堆叠块的部分输出数据。
[0146]
本申请实施例不限定l个堆叠块的结构，例如，各个堆叠块均可以包括一个多头自注意力层(multihead)和前馈网络连接层(fnn)；而且第l个堆叠块的输入数据为第l
‑
1个堆叠块的输出数据。此时，第l个堆叠块可以利用公式(4)和(5)进行编码处理。
[0147][0148][0149]
式中，表示针对目标编码对象(例如，上文的或者)的第l次编码结果；表示表示针对目标编码对象的第l
‑
1次编码结果；表示第l个堆叠块中多头自注意力层的query输入值；表示第l个堆叠块中多头自注意力层的key输入值；表示第l个堆叠块中多头自注意力层的value输入值；表示第1个堆叠块的输入数据；表示第1个堆叠块中多头自注意力层的query输入值；表示第1个堆叠块中多头自注意力层的key输入值；表示第1个堆叠块中多头自注意力层的value输入值。其中，l
‑
1为正整数，l≤l，l为正整数。
[0150]
还需要说明的是，本申请实施例不限定多头自注意力层和前馈网络连接层，可以采用现有的或者未来出现的任一种多头自注意力层和前馈网络连接层进行实施。例如，每个堆叠块中的前向神经网络层和多头自注意力层都带有残差连接结构和层归一化结构。
[0151]
为了便于理解上述第一编码层的工作原理，下面结合q个样本掩码后文本的特征编码及其预测被掩码对象进行说明。
[0152]
作为示例，利用第一编码层确定q个样本掩码后文本的特征编码及其预测被掩码对象的过程，具体可以包括步骤411
‑
步骤415：
[0153]
步骤411：利用l个堆叠块对样本上文信息的文本特征进行编码处理，得到样本上文信息的编码表示。
[0154]
其中，第l个堆叠块用于对该第l个堆叠块的输入数据进行编码处理，得到该输入数据的编码结果。
[0155]
可见，若第一编码层中l个堆叠块可以利用上文公式(4)
‑
(5)进行编码处理，则在将样本上文信息的文本特征输入第1个堆叠块之后，先由该第1个堆叠块利用上文公式(5)进行编码处理，得到并输出样本上文信息对应的第1次编码结果再将样本上文信息对应的第1次编码结果输入第2个堆叠块，以使该第2个堆叠块利用上文公
式(4)进行编码处理，得到并输出样本上文信息对应的第2次编码结果(依次类推)；最后，将样本上文信息对应的第l
‑
1次编码结果输入第l个堆叠块，以使该第l个堆叠块利用上文公式(4)进行编码处理，得到并输出样本上文信息对应的第l次编码结果并将样本上文信息对应的第l次编码结果确定为样本上文信息的编码表示其中，t
message
为样本上文信息中待处理对象个数；为样本上文信息中第t
message
个待处理对象的编码表示，t
message
为正整数，t
message
≤t
message
。
[0156]
步骤412：利用l个堆叠块对第q个样本掩码后文本的文本特征进行编码处理，得到该第q个样本掩码后文本的编码表示。其中，q为正整数，q≤q，q为正整数。
[0157]
作为示例，若第一编码层中l个堆叠块可以利用上文公式(4)
‑
(5)进行编码处理，则步骤412具体可以包括：在将第q个样本掩码后文本的文本特征输入第1个堆叠块之后，先由该第1个堆叠块利用上文公式(5)进行编码处理，得到并输出该第q个样本掩码后文本对应的第1次编码结果再将该第q个样本掩码后文本对应的第1次编码结果输入第2个堆叠块，以使该第2个堆叠块利用上文公式(4)进行编码处理，得到并输出该第q个样本掩码后文本对应的第2次编码结果(依次类推)；最后，将该第q个样本掩码后文本对应的第l
‑
1次编码结果输入第l个堆叠块，以使该第l个堆叠块利用上文公式(4)进行编码处理，得到并输出该第q个样本掩码后文本对应的第l次编码结果并将该第q个样本掩码后文本对应的第l次编码结果确定为该第q个样本掩码后文本的编码表示其中，t
q
为第q个样本掩码后文本中待处理对象个数；为第q个样本掩码后文本中第t
q
个待处理对象的编码表示，t
q
为正整数，t
q
≤t
q
。
[0158]
步骤412：利用特征重组层和样本上文信息的编码表示对第q个样本掩码后文本的编码表示进行重组处理，得到该第q个样本掩码后文本的重组编码。其中，q为正整数，q≤q，q为正整数。
[0159]
其中，特征重组层用于对该特征重组层的输入数据进行重组处理；而且本申请实施例不限定特征重组层的工作原理，为了便于理解，下面以获取第q个样本掩码后文本的重组编码为例进行说明。
[0160]
作为示例，对于特征重组层来说，在获取到第q个样本掩码后文本的编码表示h
q
和样本上文信息的编码表示h
message
之后，可以先对第q个样本掩码后文本的编码表示h
q
和样本上文信息的编码表示h
message
进行交叉注意处理(如公式(6)
‑
(7)所示)，得到第q个样本掩码后文本对应的注意力权重；再将第q个样本掩码后文本对应的注意力权重和样本上文信息的编码表示h
message
进行加权处理(如公式(8)所示)，得到第q个样本掩码后文本对应的重组特征；最后，将第q个样本掩码后文本对应的重组特征进行最大池化(如公式(9)所示)，得到
该第q个样本掩码后文本的重组编码。
[0161][0162][0163][0164][0165]
式中，为第q个样本掩码后文本的重组编码；表示第q个样本掩码后文本中第t
q
个待处理对象的重组编码表示；为第q个样本掩码后文本中第t
q
个待处理对象的编码表示，t
q
为正整数，t
q
≤t
q
；为样本上文信息中第t
message
个待处理对象的编码表示，t
message
为正整数，t
message
≤t
message
；v
c
、u
c
和w
c
均为可训练的特征重组层参数。
[0166]
步骤413：利用特征拼接层对第q个样本掩码后文本的文本特征、该第q个样本掩码后文本的编码表示和该第q个样本掩码后文本的重组编码进行拼接，得到该第q个样本掩码后文本的特征编码。其中，q为正整数，q≤q，q为正整数。
[0167]
其中，特征拼接层用于对该特征拼接层的输入数据进行拼接，得到该输入数据的拼接结果。例如，若将第q个样本掩码后文本的文本特征该第q个样本掩码后文本的编码表示h
q
、以及该第q个样本掩码后文本的重组编码输入特征拼接层之后，该特征拼接层可以将h
q
以及进行拼接，得到该第q个样本掩码后文本的特征编码进行拼接，得到该第q个样本掩码后文本的特征编码其中，为第q个样本掩码后文本中第t
q
个待处理对象的拼接编码表示，而且该可以由第q个样本掩码后文本中第t
q
个待处理对象的对象特征该第q个样本掩码后文本中第t
q
个待处理对象的编码表示和该第q个样本掩码后文本中第t
q
个待处理对象的重组编码表示(或者该第q个样本掩码后文本中第t
q
个待处理对象的加权编码表示)进行拼接得到(例如，或者或者)。
[0168]
步骤414：利用编码输出层对第q个样本掩码后文本的特征编码进行被掩码对象预测，得到该第q个样本掩码后文本的预测被掩码对象。其中，q为正整数，q≤q，q为正整数。
[0169]
其中，编码输出层可以用于对该编码输出层的输入数据进行预设输出处理，得到该编码输出层的输出结果。另外，本申请实施例不限定预设输出处理，例如，为了提高语音文本重写模型的预测性能，可以在针对待训练文本重写模型的训练过程中，预先设定待训练文本重写模型中编码输出层的预设输出处理包括预测被掩码对象处理。
[0170]
可见，对于待训练文本重写模型的训练过程来说，在将第q个样本掩码后文本的特
征编码h
q
′
输入该编码输出层之后，该编码输出层可以利用公式(10)
‑
(11)预测该第q个样本掩码后文本中被掩码对象，得到该第q个样本掩码后文本的预测被掩码对象。
[0171][0172][0173]
式中，表示第q个样本基础识别文本中第t
q
个待处理对象对应的预测输出结果；表示第q个样本基础识别文本中第t
q
个待处理对象是预设对象表(例如，字表或者词表)中第v个候选对象(例如，字或者词)w
v
的概率；[w1,w2,
…
,w
v
]表示预设对象表；v为正整数。
[0174]
基于上述步骤41的相关内容可知，对于待训练文本重写模型来说，在将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入该待训练文本重写模型之后，该待训练文本重写模型中第一编码层可以依据样本上文信息的文本特征对该q个样本掩码后文本的文本特征进行编码处理以及被掩码对象预测处理，得到并输出q个样本掩码后文本的特征编码以及该q个样本掩码后文本的预测被掩码对象。
[0175]
步骤42：将q个样本掩码后文本的特征编码输入第一解码层，得到该第一解码层输出的样本语音的第一预测识别文本。
[0176]
第一解码层用于对第一编码层输出的编码结果进行解码处理以及文本重写处理。其中，本申请实施例不限定第一解码层中的解码处理过程，例如，第一解码层可以采用长短记忆(long short
‑
term memory,lstm)网络或者门控循环单元(gru)网络进行解码。另外，本申请实施例也不限定第一解码层中的文本重写处理，例如，可以采用指针生成网络进行实施，也可以采用复制(copy)机制和覆盖(coverage)机制进行实施。
[0177]
为了便于理解，下面以样本语音的第一预测识别文本的生成过程为例进行说明。
[0178]
作为示例，若第一解码层利用gru网络 copy机制 coverage机制进行实施，则样本语音的第一预测识别文本的生成过程，具体可以包括步骤421
‑
步骤422：
[0179]
步骤421：利用gru网络对q个样本掩码后文本的特征编码进行解码处理，得到q个样本掩码后文本对应的每个时间步的解码状态。
[0180]
其中，gru网络用于对第一解码层的输入数据进行解码处理。下面以步骤421的一种可能的实施方式为例进行说明。
[0181]
作为示例，步骤421具体可以包括：先对q个样本掩码后文本的特征编码进行最大池化处理(如公式(12)所示)，得到q个样本掩码后文本对应的整体池化结果h
j
；再对q个样本掩码后文本对应的整体池化结果h
j
进行非线性变换，得到q个样本掩码后文本对应的初始解码状态s0；最后，利用gru网络计算q个样本掩码后文本对应的每个时间步的解码状态(如公式(14)所示)。
[0182][0183]
s0＝relu(w
s
h
j
b
s
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(13)
[0184]
s
t
＝gru(s
t
‑1,y
t
‑1,c
t
‑1)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(14)
[0185]
式中，h
j
为q个样本掩码后文本对应的整体池化结果；为第q个样本掩码后文本
的特征编码，q为正整数，q≤q，q为正整数，q表示样本掩码后文本的个数；s
t
表示第t时刻下q个样本掩码后文本的gru解码状态表示；s
t
‑1表示第t
‑
1时刻下q个样本掩码后文本的gru解码状态表示；y
t
‑1表示第一解码层在第t
‑
1时刻下针对q个样本掩码后文本的预测输出；c
t
‑1表示在第t
‑
1时刻下q个样本掩码后文本的上下文向量。
[0186]
步骤422：根据样本上文信息的编码表示、q个样本掩码后文本的重组编码、q个样本掩码后文本对应的解码状态表示、copy机制和coverage机制，确定样本语音的第一预测识别文本。
[0187]
作为示例，步骤422具体可以采用下文(a)
‑
(c)所示的过程进行实施。
[0188]
(a)利用copy机制和coverage机制对样本上文信息的重组编码进行重组，得到该样本上文信息中待处理对象的复制概率和生成概率。
[0189]
首先，利用公式(15)将q个样本掩码后文本的重组编码与第t时刻下q个样本掩码后文本的gru解码状态表示进行拼接并进行线性变换，得到融入q个样本掩码后文本的第t时刻解码状态其中，t为正整数。
[0190][0191]
其中，表示融入q个样本掩码后文本的第t时刻解码状态；为第q个样本掩码后文本的重组编码；s
t
表示第t时刻下q个样本掩码后文本的gru解码状态表示；u1→
q
和b1→
q
均为可训练的第一解码层参数。
[0192]
其次，基于交叉注意力机制、copy机制和coverage机制，计算q个样本掩码后文本的第t时刻解码状态与样本上文信息的编码表示之间的注意力权重(如公式(16)
‑
(18)所示)。
[0193][0194][0195][0196]
式中，表示样本上文信息中第t
message
个待处理对象与q个样本掩码后文本的第t时刻解码状态之间的注意力权重；表示融入q个样本掩码后文本的第t时刻解码状态；表示样本上文信息中第t
message
个待处理对象的编码表示；v
ε
、u
ε
、w
ε
和w
g
均为可训练的第一解码层参数。
[0197]
然后，依据样本上文信息中各个待处理对象与q个样本掩码后文本的第t时刻解码状态之间的注意力权重，将样本上文信息中各个待处理对象的编码表示进行加权求和，得到第t时刻下样本上文信息对应的上下文向量(如公式(19)所示)。
[0198][0199]
式中，表示第t时刻下样本上文信息对应的上下文向量；表示样本上文信息中第t
message
个待处理对象与q个样本掩码后文本的第t时刻解码状态之间的注意
力权重；表示样本上文信息中第t
message
个待处理对象的编码表示；t
message
为正整数，t
message
≤t
message
。
[0200]
另外，基于copy机制和coverage机制，计算第t时刻下样本上文信息对应的复制概率和生成概率(如公式(20)
‑
(21)所示)。
[0201][0202][0203]
式中，表示第t时刻下样本上文信息对应的复制概率；表示第t时刻下样本上文信息对应的生成概率；表示样本上文信息中第t
message
个待处理对象；w
v
为预设对象表中第v个候选对象；和均为可训练的第一解码层参数。
[0204]
(b)同理利用copy机制、coverage机制、以及第t时刻下q个样本掩码后文本的gru解码状态表示对q个样本掩码后文本的重组编码进行重组，得到该q个样本掩码后文本中待处理对象的复制概率和生成概率。
[0205]
首先，先对样本上文信息的编码表示进行最大池化处理(如公式(22))，得到样本上文信息的整体编码表示再利用公式(23)将样本上文信息的编码表示与第t时刻下q个样本掩码后文本的gru解码状态表示进行拼接并进行线性变换，得到融入样本上文信息的第t时刻解码状态
[0206][0207][0208]
其中，表示融入样本上文信息的第t时刻解码状态s
t
表示第t时刻下q个样本掩码后文本的gru解码状态表示；表示样本上文信息的整体编码表示；表示样本上文信息中第t
message
个待处理对象的编码表示；u
message
和b
message
均为可训练的第一解码层参数。
[0209]
然后，基于交叉注意力机制、copy机制和coverage机制，计算q个样本掩码后文本的第t时刻解码状态与各个样本掩码后文本的特征编码之间的注意力权重(如公式(24)
‑
(26)所示)。
[0210][0211][0212]
[0213]
式中，表示第q个样本掩码后文本中第t
q
个待处理对象的特征编码与q个样本掩码后文本的第t时刻解码状态之间的注意力权重；表示融入样本上文信息的第t时刻解码状态；表示第q个样本掩码后文本中第t
q
个待处理对象的特征编码；v
b
、w
b
和均为可训练的第一解码层参数。
[0214]
其次，利用预先构建的易混淆对象库，确定q个样本掩码后文本对应的易混淆对象权重(如公式(27)
‑
(28)所示)。
[0215][0216][0217]
式中，表示复制第q个样本掩码后文本中第t
q
个待处理对象时融入预设对象表中候选对象w
r
的混淆对象权重；s
t
表示第t时刻下q个样本掩码后文本的gru解码状态表示；表示样本上文信息的整体编码表示；h
j
为q个样本掩码后文本对应的整体池化结果；u
f
、b
f
和w
f
均为可训练的第一解码层参数。
[0218]
然后，依据第q个样本掩码后文本中各个待处理对象与q个样本掩码后文本的第t时刻解码状态之间的注意力权重、以及第q个样本掩码后文本对应的混淆对象权重，将第q个样本掩码后文本中各个待处理对象的编码表示进行加权求和，得到第t时刻下第q个样本掩码后文本对应的上下文向量(如公式(29)所示)。
[0219][0220]
式中，表示第t时刻下第q个样本掩码后文本对应的上下文向量；表示第q个样本掩码后文本中第t
q
个待处理对象与q个样本掩码后文本的第t时刻解码状态之间的注意力权重；表示复制第q个样本掩码后文本中第t
q
个待处理对象时融入预设对象表中候选对象w
r
的混淆对象权重；表示第q个样本掩码后文本中第t
q
个待处理对象的拼接编码表示。
[0221]
另外，基于copy机制和coverage机制，计算第t时刻下第q个样本掩码后文本对应的复制概率和生成概率(如公式(30)
‑
(31)所示)。
[0222][0223][0224]
式中，表示第t时刻下第q个样本掩码后文本对应的复制概率；表示第t时刻下第q个样本掩码后文本对应的生成概率；表示第q个样本掩码后文本中第t
q
个待处理对象；w
v
为预设对象表中第v个候选对象；和均为可
训练的第一解码层参数。
[0225]
接下来，将第t时刻下样本上文信息对应的上下文向量与第t时刻下q个样本掩码后文本的gru解码状态表示s
t
进行拼接并进行线性变换，得到变换后的第t时刻下的解码状态表示s
tchange
(如公式(32)所示)。
[0226][0227]
式中，s
tchange
表示变换后的第t时刻下的解码状态表示；s
t
表示第t时刻下q个样本掩码后文本的gru解码状态表示；表示第t时刻下样本上文信息对应的上下文向量；u
change
和b
change
均为可训练的第一解码层参数。
[0228]
然后，基于交叉注意力机制、copy机制和coverage机制，计算变换后的第t时刻下的解码状态表示与各个样本掩码后文本的特征编码之间的注意力权重(如公式(33)
‑
(34)所示)，并计算第t时刻下q个样本掩码后文本的整体上下文向量(如公式(35)所示)。
[0229][0230][0231][0232]
式中，表示第q个样本掩码后文本中第t
q
个待处理对象与变换后的第t时刻下的解码状态表示之间的注意力权重；s
tchange
表示变换后的第t时刻下的解码状态表示；表示第q个样本掩码后文本中第t
q
个待处理对象的特征编码；表示第t时刻下q个样本掩码后文本的整体上下文向量；表示第t时刻下第q个样本掩码后文本对应的上下文向量；v
n
和w
n
均是可训练的第一解码层参数。
[0233]
最后，利用公式(36)
‑
(37)计算t时刻下q个样本掩码后文本的复制概率和重写概率。
[0234][0235][0236]
式中，表示第t时刻下q个样本掩码后文本的复制概率；表示第t时刻下q个样本掩码后文本的重写概率；表示第t时刻下第q个样本掩码后文本对应的复制概率；表示第q个样本掩码后文本对应的生成概率；表示第q个样本掩码后文本中第t
q
个待处理对象与变换后的第t时刻下的解码状态表示之间的注意力权重。
[0237]
(c)通过门限阈值将q个样本掩码后文本中待处理对象的复制概率以及生成概率分别与样本上文信息中待处理对象的复制概率以及生成概率进行融合(如公式(38)
‑
(39)所示)，从而得到在每个时间步对应的词表中字的预测分布概率(如公式(40)所示)，选取概
率值最大的字作为该时间步输出的重写结果(如公式(41)所示)。通过不断迭代，得到每一个时间步对应的输出，当解码端预测为停止符时，则得到用户回答语音的全部重写结果，解码过程结束。
[0238][0239]
式中，p
copy
(w
v
)表示融合后复制概率；λ
copy
表示从q个样本掩码后文本和样本上文信息中进行复制的门限阈值，且w
copy
为可训练的第一解码层参数。
[0240][0241]
式中，p
gen
(w
v
)表示融合后生成概率；λ
gen
表示生成门限阈值，且表示生成门限阈值，且w
gen
为可训练的第一解码层参数。
[0242]
p
t
(w
v
)＝λ0p
gen
(w
v
) (1
‑
λ0)p
copy
(w
v
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(40)
[0243]
式中，p
t
(w
v
)表示第t时刻下预设对象表中候选对象的预测分布概率；概率门限阈值w0为可训练的第一解码层参数。
[0244][0245]
式中，o
t
表示第一解码端在第t时刻下输出的预测结果；[w1,w2,
…
,w
v
]表示预设对象表。
[0246]
基于上述步骤42的相关内容可知，对于待训练文本重写模型来说，在将q个样本掩码后文本的特征编码输入该待训练文本重写模型中第一解码层之后，可以由该第一解码层对该q个样本掩码后文本的特征编码进行解码处理以及文本重写处理，得到并输出该样本语音的第一预测识别文本。
[0247]
基于上述步骤361的相关内容可知，对于待训练文本重写模型的第r批次训练过程来说，若待训练文本重写模型包括第一编码层和第一解码层，则在确定第r批次注意力机制为单向注意力机制或者双向注意力机制之后，可以将第r批次训练集中样本语音对应的q个样本掩码后文本的文本特征及其样本上文信息的文本特征输入待训练文本重写模型，以使该待训练文本重写模型中第一编码层输出该q个样本掩码后文本的预测被掩码对象，以及第一解码层输出该样本语音的第一预测识别文本，以便后续能够基于该q个样本掩码后文本的预测被掩码对象以及第一预测识别文本确定该待训练文本重写模型的预测性能。
[0248]
步骤362：若第r批次注意力机制为序列注意力机制，则将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入待训练文本重写模型，得到该待训练文本重写模型输出的样本语音的第一预测识别文本。
[0249]
需要说明的是，步骤362可以采用步骤361中确定样本语音的第一预测识别文本的相关步骤进行实施，而且无需执行确定q个样本基础识别文本的预测被掩码对象的相关步骤。
[0250]
基于上述步骤361至步骤362的相关内容可知，对于待训练文本重写模型的第r批次训练过程来说，若确定待训练文本重写模型使用单向注意力机制或者双向注意力机制进行预测，则在将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入待训练文
本重写模型之后，该待训练文本重写模型可以依据该q个样本掩码后文本的文本特征和样本上文信息的文本特征进行样本语音的第一预测识别文本和q个样本掩码后文本的预测被掩码对象的两项预测任务，以便后续能够依据该样本语音的第一预测识别文本和q个样本掩码后文本的预测被掩码对象来完成该待训练文本重写模型的学习实际被掩码对象和学习样本标准识别文本的两项学习任务；然而，若确定待训练文本重写模型使用序列注意力机制进行预测，则在将q个样本掩码后文本的文本特征和样本上文信息的文本特征输入待训练文本重写模型之后，该待训练文本重写模型可以依据该q个样本掩码后文本的文本特征和样本上文信息的文本特征进行样本语音的第一预测识别文本这一项预测任务，以便后续能够依据该样本语音的第一预测识别文本来完成该待训练文本重写模型的学习样本标准识别文本任务。
[0251]
步骤37：判断是否达到第一停止条件，若是，则执行步骤39；若否，则执行步骤38。
[0252]
其中，第一停止条件可以预先设定，例如，第一停止条件可以是预测内容与实际内容之间的差距(例如，样本语音的第一预测识别文本和该样本语音的样本标准识别文本之间的差距，和/或，q个样本掩码后文本的预测被掩码对象与该q个样本掩码后文本的实际被掩码对象之间的差距)达到第四阈值，也可以是预测内容(例如，样本语音的第一预测识别文本和/或q个样本掩码后文本的预测被掩码对象)的变化率低于第五阈值，还可以为待训练文本重写模型的更新次数达到第六阈值。
[0253]
可见，对于待训练文本重写模型的第r批次训练过程来说，判断当前轮的待训练文本重写模型是否达到第一停止条件，若达到，则表示当前轮的待训练文本重写模型具有较好的预测性能，故可以直接对当前轮的待训练文本重写模型进行保存和/或使用(例如，基于该当前轮的待训练文本重写模型开始进行待训练文本重写模型的第r 1批次训练过程)；若未达到，则表示当前轮的待训练文本重写模型具有较差的预测性能，需要依据预测内容与实际内容之间的差距(例如，样本语音的第一预测识别文本和该样本语音的样本标准识别文本之间的差距，和/或，q个样本掩码后文本的预测被掩码对象与q个样本掩码后文本的实际被掩码对象之间的差距)，更新该待训练文本重写模型，以使更新后的待训练文本重写模型具有更好的预测性能。
[0254]
步骤38：根据样本语音的第一预测识别文本和该样本语音的样本标准识别文本，更新待训练文本重写模型，并返回执行步骤36。
[0255]
实际上，因使用不同的注意力机制进行预测的待训练文本重写模型可以具有不同的学习任务，使得待训练文本重写模型可以采用不同的模型更新过程。基于此，本申请实施例还提供了步骤38的一种可能的实施方式，其具体包括步骤381
‑
步骤382：
[0256]
步骤381：若第r批次注意力机制为单向注意力机制或者双向注意力机制，则根据样本语音的样本标准识别文本、该样本语音的第一预测识别文本、q个样本掩码后文本的实际被掩码对象和该q个样本掩码后文本的预测被掩码对象，更新待训练文本重写模型，并返回执行步骤36。
[0257]
本申请实施例中，对于待训练文本重写模型的第r批次训练过程来说，若待训练文本重写模型使用单向注意力机制或者双向注意力机制进行预测，则在利用待训练文本重写模型预测得到样本语音的第一预测识别文本和q个样本掩码后文本的预测被掩码对象之后，可以利用样本语音的第一预测识别文本和该样本语音的样本标准识别文本之间的差
距，以及q个样本掩码后文本的预测被掩码对象与q个样本掩码后文本的实际被掩码对象之间的差距，更新该待训练文本重写模型，以使更新后的待训练文本重写模型具有更好的预测性能。
[0258]
步骤382：若第r批次注意力机制为序列注意力机制，则根据样本语音的第一预测识别文本和该样本语音的样本标准识别文本，更新待训练文本重写模型，并返回执行步骤36。
[0259]
本申请实施例中，对于待训练文本重写模型的第r批次训练过程来说，若待训练文本重写模型使用序列注意力机制，则在利用待训练文本重写模型预测得到样本语音的第一预测识别文本之后，可以利用样本语音的第一预测识别文本和该样本语音的样本标准识别文本之间的差距，更新该待训练文本重写模型，以使更新后的待训练文本重写模型具有更好的预测性能。
[0260]
步骤39：若r＜r，则依据在第r批次训练过程中训练好的待训练文本重写模型开始进行第r 1批次训练过程；若r＝r，则根据待训练文本重写模型，确定待优化文本重写模型。
[0261]
本申请实施例中，对于待训练文本重写模型的第r批次训练过程来说，在确定当前轮的待训练文本重写模型达到第一停止条件之后，可以确定该待训练文本重写模型完成第r批次训练过程，此时，如果r＜r，则表示该待训练文本重写模型还未完成r批次训练过程，故可以依据在第r批次训练过程中训练好的待训练文本重写模型继续执行第r 1批次训练过程；然而，如果r＝r，则表示该待训练文本重写模型已完成r批次训练过程，故可以依据在第r批次训练过程中训练好的待训练文本重写模型，确定待优化文本重写模型。
[0262]
另外，本申请实施例不限定待优化文本重写模型的确定过程，例如，可以采用上文步骤27的任一实施方式进行实施。
[0263]
实际上，为了提高语音文本重写模型，可以对待优化文本重写模型继续进行训练(也就是第二阶段训练，详情请参见下文s103)，而且该待优化文本重写模型的学习任务不同于该上文“待训练文本重写模型”的学习任务，故为了保证待优化文本重写模型能够完成该待优化文本重写模型的学习任务，可以对第一阶段训练好的待训练文本重写模型进行一些微调，以使微调后的待训练文本重写模型能够适于完成该待优化文本重写模型的学习任务，并将该微调后的待训练文本重写模型确定为待优化文本重写模型。
[0264]
需要说明的是，本申请实施例不限定上述微调过程，例如，若待训练文本重写模型利用公式(10)
‑
(11)进行被掩码对象预测，则可以在微调过程中将公式(10)
‑
(11)替换为下文公式(12)；若待训练文本重写模型使用从至少一个候选注意力机制中随机选择的注意力机制进行实施，则可以在微调过程中将待训练文本重写模型固定为一个注意力机制(例如，双向注意力机制)，以使在第二阶段训练中待优化文本重写模型始终使用该固定的注意力机制进行预测。
[0265]
基于上述步骤31至步骤39的相关内容可知，若采用r批次训练集对待训练文本重写模型进行训练，则对于利用第r批次训练集训练待训练文本重写模型的过程来说，先从至少一个候选注意力机制(例如，单向注意力机制、双向注意力机制和序列注意力机制)中随机选择出待训练文本重写模型在第r批次训练过程中使用的注意力机制，再依据被选注意力机制对应的学习任务对该待训练文本重写模型进行第r批次训练，以使利用第r批次训练集训练得到的待训练文本重写模型能够完成该待使用注意力机制在第r批次训练过程中应
该完成的学习任务。其中，r为正整数，r≤r，r为正整数。可见，经过r批次训练过程的待训练文本重写模型具有更好的预测性能。
[0266]
s103：根据样本语音的至少一个样本基础识别文本、该样本语音的样本标准识别文本、该样本语音的样本上文信息和该样本语音的重写分类实际结果对待优化文本重写模型进行训练，得到语音文本重写模型。
[0267]
实际上，为了提高语音文本重写模型的预测准确性，在通过第一阶段训练(也就是s102)构建出待优化文本重写模型之后，可以对该待优化文本重写模型进行第二阶段训练(也就是s103)，以使该待优化文本重写模型能够在第二阶段训练中学习到如何分辨样本语音对应的语音识别文本(也就是，“至少一个样本基础识别文本”)是否需要重写以及如何进行语音识别文本重写的两项学习任务，从而使得经历过第二阶段训练的待优化文本重写模型能够具有准确的重写判断能力以及重写能力，进而使得基于该待优化文本重写模型构建的语音文本重写模型也能够具有准确的重写判断能力以及重写能力。
[0268]
另外，本申请实施例不限定待优化文本重写模型在第二阶段训练中使用的注意力机制，例如，该待优化文本重写模型在第二阶段训练中可以始终只使用双向注意力机制进行实施。
[0269]
此外，本申请实施例s103中训练过程与上文s102中训练过程类似，为了便于理解，下面结合示例进行说明。
[0270]
作为示例，若样本语音的样本基础识别文本的个数为q，则s103具体可以包括s1031
‑
s1036：
[0271]
s1031：生成样本语音的第q个样本基础识别文本的文本特征。其中，q为正整数，q≤q，q为正整数。
[0272]
其中，第q个样本基础识别文本的文本特征用于表征该第q个样本基础识别文本携带的信息。
[0273]
另外，“第q个样本基础识别文本的文本特征”的生成过程可以采用上文步骤22中“第q个样本掩码后文本的文本特征”的生成过程的任一实施方式进行实施，只需将上文步骤22中“第q个样本掩码后文本的文本特征”的生成过程中涉及的“第q个样本掩码后文本”替换为“第q个样本基础识别文本”即可。为了便于理解，下面结合示例进行说明。
[0274]
例如，若样本语音的第q个样本基础识别文本包括z
q
个待处理对象，则s1031具体可以包括s10311
‑
s10312：
[0275]
s10311：生成第q个样本基础识别文本中第z个待处理对象的对象特征。其中，z为正整数，z≤z
q
，z
q
为正整数。
[0276]
其中，第z个待处理对象的对象特征用于表征该第z个待处理对象携带的信息。
[0277]
另外，本申请实施例不限定“第z个待处理对象的对象特征”的生成过程，例如，“第z个待处理对象的对象特征”的生成过程可以采用上文步骤31中“第y个待处理对象的对象特征”的生成过程的任一实施方式进行实施。为了便于理解，下面结合s10311的一种可能的实施方式进行说明。
[0278]
在一种可能的实施方式中，s10311具体可以包括s103111
‑
s103113：
[0279]
s103111：对第q个样本基础识别文本中第z个待处理对象进行文本编码，得到第z个待处理对象的文本编码结果。
[0280]
需要说明的是，s103111的内容与上文步骤2211的内容类似，只需将上文步骤2211中“第y个待处理对象”替换为“第z个待处理对象”即可。
[0281]
s103112：对第z个待处理对象进行位置编码，得到第z个待处理对象的位置编码结果。
[0282]
需要说明的是，s103112的内容与上文步骤2212的内容类似，只需将上文步骤2212中“第y个待处理对象”替换为“第z个待处理对象”即可。
[0283]
s103113：根据第z个待处理对象的文本编码结果和第z个待处理对象的位置编码结果，确定第z个待处理对象的对象特征。
[0284]
需要说明的是，s103113的内容与上文步骤2213的内容类似，只需将上文步骤2213中“第y个待处理对象”替换为“第z个待处理对象”、以及“第q个样本掩码后文本”替换为“第q个样本基础识别文本”即可。
[0285]
例如，s103113具体可以包括：将第z个待处理对象的文本编码结果和第z个待处理对象的位置编码结果进行加和，得到第z个待处理对象的对象特征。
[0286]
又如，s103113具体可以包括以下内容：
[0287]
从预先构建的易混淆对象信息库中查询第z个待处理对象对应的g
z
第二易混淆对象；
[0288]
对第z个待处理对象对应的第g个第二易混淆对象进行文本编码，得到第z个待处理对象对应的第g个第二易混淆对象特征；其中，g为正整数，且g≤g
z
，g
z
为正整数；
[0289]
将第z个待处理对象对应的第1个第二易混淆对象特征至第g
z
个第二易混淆对象特征进行加权求和，得到第z个待处理对象的易混淆特征；其中，第g个第二易混淆对象特征的加权权重是根据第z个待处理对象与第g个第二易混淆对象之间的易混淆度确定的；g为正整数，且g≤g
z
；
[0290]
将第z个待处理对象的文本编码结果、第z个待处理对象的位置编码结果和第z个待处理对象的易混淆特征进行加和，得到第z个待处理对象的对象特征。
[0291]
基于上述s10311的相关内容可知，在获取到第q个样本基础识别文本之后，可以先计算该第q个样本基础识别文本中各个待处理对象的对象特征，以便后续能够基于该第q个样本基础识别文本中各个待处理对象的对象特征，确定该第q个样本基础识别文本的文本特征。
[0292]
s10312：将第q个样本基础识别文本中第1个待处理对象的对象特征至第z
q
个待处理对象的对象特征的集合，确定为该第q个样本基础识别文本的文本特征。
[0293]
需要说明的是，s10312的内容与上文步骤222的内容类似，只需将上文步骤222中“第q个样本掩码后文本”替换为“第q个样本基础识别文本”、以及“y
q”替换为“z
q”即可。
[0294]
基于s1031的相关内容可知，在获取到q个样本基础识别文本之后，可以分别生成各个样本基础识别文本的文本特征，以便后续能够基于该q个样本基础识别文本的文本特征，针对待优化文本重写模型进行第二阶段训练。
[0295]
s1032：生成样本提示信息的文本特征。
[0296]
需要说明的是，s1032的内容请参见上文步骤23的内容。
[0297]
s1033：将q个样本基础识别文本的文本特征和样本上文信息的文本特征输入待优化文本重写模型，得到该待优化文本重写模型输出的样本语音的第二预测识别文本和该样
本语音的重写分类预测结果。
[0298]
其中，第二预测识别文本是由待优化文本重写模型重写得到的，而且该第二预测识别文本用于表征样本语音携带的预测语音信息。
[0299]
样本语音的重写分类预测结果是指用于表征是否需要对该样本语音进行语音识别文本重写的预测结果。
[0300]
另外，本申请实施例不限定样本语音的第二预测识别文本以及重写分类预测结果的确定过程，例如，在一种可能的实施方式中，若待优化文本重写模型包括第二编码层和第二解码层，则样本语音的第二预测识别文本以及重写分类预测结果的确定过程，具体可以包括步骤51
‑
步骤52：
[0301]
步骤51：将q个样本基础识别文本的文本特征和样本上文信息的文本特征输入第二编码层，得到该第二编码层输出的该q个样本基础识别文本的特征编码和样本语音的重写分类预测结果。
[0302]
其中，第二编码层用于对该第二编码层的输入数据进行编码处理以及进行重写分类结果预测，得到并输出该输入数据的编码结果以及重写分类预测结果。
[0303]
另外，“第二编码层”的工作原理与上文步骤61中“第一编码层”的工作原理基本相同，唯一不同之处就是“第二编码层”需要利用公式(12)以及预设重写条件预测样本语音的重写分类预测结果，无需利用上文公式(10)
‑
(11)预测被掩码对象。
[0304][0305]
式中，表示第q个样本基础识别文本的重写概率；表示第q个样本基础识别文本的特征编码；u
r
是第二编码层的层参数。需要说明的是，本申请实施例不限定“第q个样本基础识别文本的特征编码”的计算过程，例如，“第q个样本基础识别文本的特征编码”的计算过程可以与上文步骤41中“第q个样本掩码后文本的特征编码”的计算过程相同。
[0306]“预设重写条件”可以预先设定，例如，该预设重写条件可以为q个样本基础识别文本的重写概率均高于第一概率阈值。又如，该预设重写条件可以为q个样本基础识别文本中存在重写概率高于第二概率阈值的样本基础识别文本。还如，该预设重写条件可以为推荐得分最高的样本基础识别文本的重写概率高于第三概率阈值。其中，“推荐得分”的相关内容请参见上文步骤11的相关内容。
[0307]
基于此可知，样本语音的重写分类预测结果的确定过程具体可以包括：若q个样本基础识别文本的重写概率满足预设重写条件，则确定该样本语音的重写分类预测结果为第一结果；若q个样本基础识别文本的重写概率不满足预设重写条件，则确定该样本语音的重写分类预测结果为第二结果。其中，第一结果表示需要对样本语音进行语音识别文本重写；而且第二结果表示不需要对样本语音进行语音识别文本重写。
[0308]
基于上述步骤51的相关内容可知，对于待优化文本重写模型来说，在将q个样本基础识别文本的文本特征和样本上文信息的文本特征输入该待优化文本重写模型之后，该待优化文本重写模型中第二编码层能够依据该q个样本基础识别文本的文本特征和样本上文信息的文本特征，对各个样本基础识别文本以及样本上文信息进行特征编码，并基于这些特征编码预测是否对样本语音进行语音识别文本重写，以便在确定需要对样本语音进行语音识别文本重写之后，由该待优化文本重写模型中第二解码层依据q个样本基础识别文本
的特征编码以及样本上文信息的特征编码进行语音识别文本重写。
[0309]
步骤52：若样本语音的重写分类预测结果满足预设重写触发条件，则将q个样本基础识别文本的特征编码输入第二解码层，得到该第二解码层输出的样本语音的第二预测识别文本。其中，预设重写触发条件可以预先设定，例如，预设重写触发条件可以为样本语音的重写分类预测结果表示需要对该样本语音进行语音识别文本重写。
[0310]
因“第二解码层”是由上文“第一解码层”经过第一阶段训练得到的，使得“第二解码层”的工作原理与上文“第一解码层”的工作原理相同，从而步骤52的内容与上文步骤42的内容类似，只需将步骤42中“样本掩码后文本”替换为“样本基础识别文本”即可。
[0311]
基于上述步骤51至步骤52的相关内容可知，对于包括第二编码层和第二解码层的待优化文本重写模型来说，在将q个样本基础识别文本的文本特征和样本上文信息的文本特征输入该待优化文本重写模型之后，可以由第二编码层生成q个样本基础识别文本的特征编码以及样本上文信息的特征编码，并预测是否需要对对样本语音进行语音识别文本重写，以便在确定需要对对样本语音进行语音识别文本重写之后，由第二解码层依据q个样本基础识别文本的特征编码以及样本上文信息的特征编码进行语音识别文本重写，并将重写得到的文本确定为样本语音的第二预测识别文本。
[0312]
s1034：判断是否达到第二停止条件，若是，则执行s1036；若否，则执行s1035。
[0313]
其中，第二停止条件可以预先设定，例如，第二停止条件可以是预测内容与实际内容之间的差距(例如，样本语音的第二预测识别文本和该样本语音的样本标准识别文本之间的差距，以及样本语音的重写分类预测结果与该样本语音的重写分类实际结果之间的差距)达到第七阈值，也可以是预测内容(例如，样本语音的第二预测识别文本和该样本语音的重写分类预测结果)的变化率低于第八阈值，还可以为待优化文本重写模型的更新次数达到第九阈值。
[0314]
本申请实施例中，判断当前轮的待优化文本重写模型是否达到第二停止条件，若达到，则表示当前轮的待优化文本重写模型具有较好的预测性能，故可以直接对当前轮的待优化文本重写模型进行保存和/或使用；若未达到，则表示当前轮的待优化文本重写模型具有较差的预测性能，需要依据样本语音的第二预测识别文本和该样本语音的样本标准识别文本之间的差距，以及样本语音的重写分类预测结果与该样本语音的重写分类实际结果之间的差距，更新该待优化文本重写模型，以使更新后的待优化文本重写模型具有更好的预测性能。
[0315]
s1035：根据样本语音的样本标准识别文本、该样本语音的第二预测识别文本、该样本语音的重写分类实际结果和该样本语音的重写分类预测结果，更新待优化文本重写模型，并返回执行s1033。
[0316]
本申请实施例中，在确定当前轮的待优化文本重写模型未达到第二停止条件之后，可以利用样本语音的第二预测识别文本和该样本语音的样本标准识别文本之间的差距，以及样本语音的重写分类预测结果与该样本语音的重写分类实际结果之间的差距，更新该待优化文本重写模型，以使由更新后的待优化文本重写模型预测得到的样本语音的重写分类预测结果更接近于该样本语音的重写分类实际结果，以及样本语音的第二预测识别文本更接近于该样本语音的样本标准识别文本，从而使得更新后的待优化文本重写模型具有更好的预测性能。
[0317]
s1036：根据待优化文本重写模型，确定语音文本重写模型。
[0318]
本申请实施例中，在确定当前轮的待优化文本重写模型达到第二停止条件之后，则表示该待优化文本重写模型具有较好的预测性能，故可以根据该待优化文本重写模型，确定语音文本重写模型(例如，可以直接将待优化文本重写模型，确定为语音文本重写模型)。
[0319]
基于上述s101至s103的相关内容可知，对于本申请实施例提供的语音文本重写模型构建方法来说，在获取到样本语音对应的样本基础识别文本、样本标准识别文本、样本上文信息以及重写分类实际结果之后，先利用该样本基础识别文本、该样本标准识别文本以及该样本上文信息对待训练文本重写模型进行训练(也就是第一阶段训练)，得到待优化文本重写模型；再利用该样本基础识别文本、该样本标准识别文本、该样本上文信息以及该重写分类实际结果对待优化文本重写模型进行训练(也就是第二阶段训练)，得到语音文本重写模型。可见，因语音文本重写模型是通过对待训练文本重写模型进行两阶段训练得到的，使得该语音文本重写模型具有较好的预测性能，从而使得该语音文本重写模型能够依据语音识别文本对应的上文信息对该语音识别文本进行准确地重写，如此有利于提高语音识别准确性。
[0320]
方法实施例二
[0321]
参见图2，该图为本申请实施例提供的一种语音识别方法的流程图。
[0322]
本申请实施例提供的语音识别方法，包括s201
‑
s203：
[0323]
s201：获取目标用户针对待使用上文信息输入的待识别语音。
[0324]
其中，目标用户是指向人机交互设备输入待识别语音的用户；而且该待识别语音是指需要利用本申请实施例提供的语音识别方法进行语音识别的用户语音。
[0325]
待使用上文信息用于表示待识别语音的上文内容。另外，待使用上文信息的获取过程可以采用上文s101中“样本上文信息”的获取过程的任一实施方式进行实施，只需将上文s101中“样本上文信息”的获取过程的任一实施方式涉及的“样本上文信息”替换为“待使用上文信息”，以及“样本语音”替换为“待识别语音”即可。
[0326]
s202：对待识别语音进行语音识别，得到至少一个待校正识别文本。
[0327]
需要说明的是，“至少一个待校正识别文本”的获取过程可以采用上文s101中“至少一个样本基础识别文本”的获取过程的任一实施方式进行实施，只需将上文s101中“至少一个样本基础识别文本”的获取过程的任一实施方式涉及的“样本基础识别文本”替换为“待校正识别文本”，以及“样本语音”替换为“待识别语音”即可。
[0328]
s203：根据至少一个待校正识别文本、待使用上文信息和预先构建的语音文本重写模型，得到待识别语音的目标语音识别文本。
[0329]
其中，语音文本重写模型可以利用本申请实施例提供的语音文本重写模型构建方法的任一实施方式进行构建。
[0330]
目标语音识别文本用于描述待识别语音携带的语音信息。另外，本申请实施例不限定目标语音识别文本的生成过程，例如，若待校正识别文本的个数为m，则目标语音识别文本的生成过程具体可以包括步骤61
‑
步骤62：
[0331]
步骤61：生成第m个待校正识别文本的文本特征。其中，m为正整数，m≤m，m为正整数。
[0332]
其中，第m个待校正识别文本的文本特征用于表征第m个待校正识别文本携带的信息。
[0333]
另外，“第m个待校正识别文本的文本特征”的生成过程可以采用上文步骤22中“第q个样本掩码后文本的文本特征”的生成过程的任一实施方式进行实施，只需将上文步骤22中“第q个样本掩码后文本的文本特征”的生成过程中涉及的“第q个样本掩码后文本”替换为“第m个待校正识别文本”即可。为了便于理解，下面结合示例进行说明。
[0334]
例如，若第m个待校正识别文本包括j
m
个待处理对象，则步骤61具体可以包括步骤611
‑
步骤612：
[0335]
步骤611：生成第m个待校正识别文本中第j个待处理对象的对象特征；其中，j为正整数，j≤j
m
，j
m
为正整数。
[0336]
其中，第j个待处理对象的对象特征用于表征该第j个待处理对象携带的信息。
[0337]
另外，本申请实施例不限定“第j个待处理对象的对象特征”的生成过程，例如，“第j个待处理对象的对象特征”的生成过程可以采用上文步骤31中“第y个待处理对象的对象特征”的生成过程的任一实施方式进行实施。为了便于理解，下面结合步骤611的一种可能的实施方式进行说明。
[0338]
在一种可能的实施方式中，步骤611具体可以包括步骤6111
‑
步骤6113：
[0339]
步骤6111：对第m个待校正识别文本中第j个待处理对象进行文本编码，得到该第j个待处理对象的文本编码结果。
[0340]
需要说明的是，步骤6111的内容与上文步骤2211的内容类似，只需将上文步骤2211中“第y个待处理对象”替换为“第j个待处理对象”、以及“第q个样本掩码后文本”替换为“第m个待校正识别文本”即可。
[0341]
步骤6112：对第m个待校正识别文本中第j个待处理对象进行位置编码，得到该第j个待处理对象的位置编码结果。
[0342]
需要说明的是，步骤6112的内容与上文步骤2212的内容类似，只需将上文步骤2212中“第y个待处理对象”替换为“第j个待处理对象”、以及“第q个样本掩码后文本”替换为“第m个待校正识别文本”即可即可。
[0343]
步骤6113：根据第j个待处理对象的文本编码结果和该第j个待处理对象的位置编码结果，确定该第j个待处理对象的对象特征。
[0344]
需要说明的是，步骤6113的内容与上文步骤2213的内容类似，只需将上文步骤2213中“第y个待处理对象”替换为“第j个待处理对象”、以及“第q个样本掩码后文本”替换为“第m个待校正识别文本”即可。
[0345]
例如，步骤6113具体可以包括：将第j个待处理对象的文本编码结果和该第j个待处理对象的位置编码结果进行加和，得到该第j个待处理对象的对象特征。
[0346]
又如，步骤6113具体可以包括步骤61131
‑
步骤61134：
[0347]
步骤61131：从预先构建的易混淆对象信息库中查询第j个待处理对象对应的v
j
个第三易混淆对象；其中，v
j
为正整数。
[0348]
步骤61132：对第j个待处理对象对应的第v个第三易混淆对象进行文本编码，得到第j个待处理对象对应的第v个第三易混淆对象特征；其中，v为正整数，且v≤v
j
。
[0349]
步骤61133：将第j个待处理对象对应的第1个第三易混淆对象特征至第v
j
个第三
易混淆对象特征进行加权求和，得到第j个待处理对象的易混淆特征。其中，第v个第三易混淆对象特征的加权权重是根据第j个待处理对象与第v个第三易混淆对象之间的易混淆度确定的；v为正整数，且v≤v
j
。
[0350]
步骤61134：将第j个待处理对象的文本编码结果、第j个待处理对象的位置编码结果和第j个待处理对象的易混淆特征进行加和，得到第j个待处理对象的对象特征
[0351]
基于上述步骤611的相关内容可知，在获取到第m个待校正识别文本之后，可以先计算该第m个待校正识别文本中各个待处理对象的对象特征，以便后续能够基于该第m个待校正识别文本中各个待处理对象的对象特征，确定该第m个待校正识别文本的文本特征。
[0352]
步骤612：将第m个待校正识别文本中第1个待处理对象的对象特征至第j
m
个待处理对象的对象特征的集合，确定为该第m个待校正识别文本的文本特征。
[0353]
需要说明的是，步骤612的内容与上文步骤222的内容类似，只需将上文步骤222中“第q个样本掩码后文本”替换为“第m个待校正识别文本”、以及“y
q”替换为“j
m”即可。
[0354]
基于步骤61的相关内容可知，在获取到m个待校正识别文本之后，可以分别生成各个待校正识别文本的文本特征，以便后续能够基于该m个待校正识别文本的文本特征，确定是否对该m个待校正识别文本进行重写。
[0355]
步骤62：生成待使用上文信息的文本特征。
[0356]
其中，待使用上文信息的文本特征用于表征该待使用上文信息携带的信息。另外，本申请实施例不限定待使用上文信息的文本特征的生成过程，例如，待使用上文信息的文本特征的生成过程(也就是，步骤62)可以采用上文步骤23中“样本上文信息的文本特征”的生成过程的任一实施方式进行实施，只需将上文步骤23中“样本提示信息”替换为“待使用上文信息”即可。
[0357]
例如，步骤62具体可以包括步骤621
‑
步骤622：
[0358]
步骤621：对待使用上文信息进行关键词提取，得到待使用上文信息的关键词。
[0359]
需要说明的是，步骤621的内容与上文步骤231的内容类似，只需将上文步骤231中“样本提示信息”替换为“待使用上文信息”即可。
[0360]
步骤622：根据待使用上文信息的关键词，生成待使用上文信息的文本特征。
[0361]
需要说明的是，步骤622可以采用上文步骤232的任一实施方式进行实施，只需将上文步骤232的任一实施方式涉及的“样本提示信息”替换为“待使用上文信息”，“n
1”替换为“n
2”，“d”替换为“i”即可。
[0362]
例如，步骤622具体可以包括：对待使用上文信息的关键词进行向量化处理，得到该待使用上文信息的文本特征。
[0363]
又如，若待使用上文信息的关键词包括n2个待处理对象，则步骤622具体可以包括步骤6221
‑
步骤6222：
[0364]
步骤6221：生成待使用上文信息的关键词中第i个待处理对象的对象特征；其中，i为正整数，i≤n2，n2为正整数。
[0365]
其中，第i个待处理对象的对象特征用于表征第i个待处理对象携带的信息。
[0366]
另外，本申请实施例不限定步骤6221的实施方式，例如，可以采用上文步骤2321的任一实施方式进行实施，只需将上文步骤2321的任一实施方式涉及的“样本提示信息”替换为“待使用上文信息”，“n
1”替换为“n
2”，“d”替换为“i”即可。
[0367]
例如，步骤6221具体可以包括：先对待使用上文信息的关键词中第i个待处理对象进行文本编码，得到该第i个待处理对象的文本编码结果，并对该第i个待处理对象进行位置编码，得到第i个待处理对象的位置编码结果；然后，将该第i个待处理对象的文本编码结果和该第i个待处理对象的位置编码结果进行加和，得到第i个待处理对象的对象特征。
[0368]
步骤6222：将待使用上文信息的关键词中第1个待处理对象的对象特征至第n2个待处理对象的对象特征的集合，确定为待使用上文信息的文本特征。
[0369]
另外，本申请实施例不限定步骤6222的实施方式，例如，可以采用上文步骤2322的任一实施方式进行实施，只需将上文步骤2322的任一实施方式涉及的“样本提示信息”替换为“待使用上文信息”，“n
1”替换为“n
2”，“d”替换为“i”即可。
[0370]
基于上述步骤621至步骤622的相关内容可知，对于待识别语音对应的待使用上文信息来说，先从该待使用上文信息中提取出该待使用上文信息的至少一个关键词(尤其是与样本语音相关的关键词)；再依据该待使用上文信息的至少一个关键词，生成该待使用上文信息的文本特征，以使该待使用上文信息的文本特征能够更准确地表示出该待使用上文信息携带的信息(尤其是与待识别语音相关的信息)。
[0371]
步骤63：将待使用上文信息的文本特征和m个待校正识别文本的文本特征输入语音文本重写模型，得到待识别语音的目标语音识别文本。
[0372]
需要说明的是，步骤63可以采用上文s1033的任一实施方式进行实施，只需将上文s1033的任一实施方式涉及的“样本基础识别文本”替换为“待校正识别文本”、“样本上文信息”替换为“待使用上文信息”、“q”替换为“m”、“待优化文本重写模型”替换为“语音文本重写模型”、“样本语音”替换为“待识别语音”即可。
[0373]
例如，若语音文本重写模型包括第三编码层和第三解码层，则步骤63具体可以包括步骤631
‑
步骤632：
[0374]
步骤631：将待使用上文信息的文本特征和m个待校正识别文本的文本特征输入第三编码层，得到该第三编码层输出的该m个待校正识别文本的特征编码和该待识别语音的重写分类预测结果。
[0375]
需要说明的是，步骤631的内容与上文步骤51的内容类似，只需将上文步骤51涉及的“样本基础识别文本”替换为“待校正识别文本”、“样本上文信息”替换为“待使用上文信息”、“q”替换为“m”、“第二编码层”替换为“第三编码层”、“样本语音”替换为“待识别语音”即可。
[0376]
步骤632：若待识别语音的重写分类预测结果满足预设重写触发条件，则将该m个待校正识别文本的特征编码输入第三解码层，得到该第三解码层输出的待识别语音的目标语音识别文本。
[0377]
需要说明的是，步骤632的内容与上文步骤52的内容类似，只需将上文步骤51涉及的“样本基础识别文本”替换为“待校正识别文本”、“样本上文信息”替换为“待使用上文信息”、“q”替换为“m”、“第二解码层”替换为“第三解码层”、“样本语音”替换为“待识别语音”即可。
[0378]
基于上述s201至s202的相关内容可知，在获取目标用户针对待使用上文信息输入的待识别语音之后，可以先对该待识别语音进行待识别语音进行语音识别，得到至少一个待校正识别文本；再由预先构建的语音文本重写模型依据该至少一个待校正识别文本以及
该待使用上文信息判断是否对该待识别语音进行语音识别文本重写，以便在确定需要该待识别语音进行语音识别文本重写后，可以参考该至少一个待校正识别文本以及该待使用上文信息进行语音识别文本重写，并将重写得到的文本确定为该待识别语音的目标语音识别文本，以使该目标语音识别文本能够更准确地表示出待识别语音携带的语音信息，如此能够提高语音识别准确性。
[0379]
其中，因语音文本重写模型具有较好地预测性能，使得该语音文本重写模型能够根据待识别语音的至少一个待校正识别文本以及该待识别语音的上文信息进行准确地语音识别文本重写，从而使得重写得到的目标语音识别文本能够克服上述至少一个待校正识别文本中存在的识别错误(尤其是，与待使用上文信息中相同内容的识别错误)，进而使得该目标语音识别文本能够更准确地表示出待识别语音携带的语音信息，如此能够提高语音识别准确性。
[0380]
基于上述方法实施例提供的语音文本重写模型构建方法，本申请实施例还提供了一种语音文本重写模型构建装置，下面结合附图进行解释和说明。
[0381]
装置实施例一
[0382]
装置实施例对语音文本重写模型构建装置进行介绍，相关内容请参见上述方法实施例。
[0383]
参见图3，该图为本申请实施例提供的一种语音文本重写模型构建装置的结构示意图。
[0384]
本申请实施例提供的语音文本重写模型构建装置300，包括：
[0385]
第一获取单元301，用于获取样本语音的至少一个样本基础识别文本、所述样本语音的样本标准识别文本、所述样本语音的样本上文信息和所述样本语音的重写分类实际结果；
[0386]
第一训练单元302，用于根据所述至少一个样本基础识别文本、所述样本标准识别文本和所述样本上文信息对待训练文本重写模型进行训练，得到待优化文本重写模型；
[0387]
第二训练单元303，用于根据所述至少一个样本基础识别文本、所述样本标准识别文本、所述样本上文信息和所述样本语音的重写分类实际结果对所述待优化文本重写模型进行训练，得到语音文本重写模型。
[0388]
在一种可能的实施方式中，所述样本基础识别文本的个数为q；所述第一训练单元302，包括：
[0389]
文本掩码子单元，用于对第q个样本基础识别文本进行掩码处理，得到第q个样本掩码后文本，并生成所述第q个样本掩码后文本的文本特征；其中，q为正整数，q≤q，q为正整数；
[0390]
第一生成子单元，用于生成所述样本上文信息的文本特征；
[0391]
第一预测子单元，用于将q个样本掩码后文本的文本特征和所述样本上文信息的文本特征输入所述待训练文本重写模型，得到所述待训练文本重写模型输出的所述样本语音的第一预测识别文本；
[0392]
第一更新子单元，用于根据所述样本语音的第一预测识别文本和所述样本语音的样本标准识别文本，更新所述待训练文本重写模型，并返回所述第一预测子单元执行所述将q个样本掩码后文本的文本特征和所述样本上文信息的文本特征输入所述待训练文本重
写模型，直至在达到第一停止条件时，根据所述待训练文本重写模型，确定所述待优化文本重写模型。
[0393]
在一种可能的实施方式中，所述第一生成子单元，包括：
[0394]
第一提取子单元，用于对所述样本上文信息进行关键词提取，得到所述样本上文信息的关键词；
[0395]
第二生成子单元，用于根据所述样本上文信息的关键词，生成所述样本上文信息的文本特征。
[0396]
在一种可能的实施方式中，所述第二生成子单元，具体用于：对所述样本上文信息的关键词进行向量化处理，得到所述样本上文信息的文本特征；
[0397]
在一种可能的实施方式中，所述第二生成子单元，具体用于：若所述样本上文信息的关键词包括n1个待处理对象，则对所述样本上文信息的关键词中第d个待处理对象进行文本编码，得到所述第d个待处理对象的文本编码结果；对所述第d个待处理对象进行位置编码，得到所述第d个待处理对象的位置编码结果；将所述第d个待处理对象的文本编码结果和所述第d个待处理对象的位置编码结果进行加和，得到所述第d个待处理对象的对象特征；其中，d为正整数，d≤n1，n1为正整数；将所述样本上文信息的关键词中第1个待处理对象的对象特征至第n1个待处理对象的对象特征的集合，确定为所述样本上文信息的文本特征。
[0398]
在一种可能的实施方式中，所述文本掩码子单元，包括：第三生成子单元，用于若所述第q个样本掩码后文本包括y
q
个待处理对象，则对所述第q个样本掩码后文本中第y个待处理对象进行文本编码，得到所述第y个待处理对象的文本编码结果；对所述第y个待处理对象进行位置编码，得到所述第y个待处理对象的位置编码结果；根据所述第y个待处理对象的文本编码结果和所述第y个待处理对象的位置编码结果，确定所述第y个待处理对象的对象特征；其中，y为正整数，y≤y
q
，y
q
为正整数；将所述第q个样本掩码后文本中第1个待处理对象的对象特征至第y
q
个待处理对象的对象特征的集合，确定为所述第q个样本掩码后文本的文本特征。
[0399]
在一种可能的实施方式中，所述第y个待处理对象的对象特征的确定过程包括：将所述第y个待处理对象的文本编码结果和所述第y个待处理对象的位置编码结果进行加和，得到所述第y个待处理对象的对象特征；
[0400]
在一种可能的实施方式中，所述第y个待处理对象的对象特征的确定过程包括：从预先构建的易混淆对象信息库中查询所述第y个待处理对象对应的k
y
个第一易混淆对象；其中，k
y
为正整数；对所述第y个待处理对象对应的第k个第一易混淆对象进行文本编码，得到所述第y个待处理对象对应的第k个第一易混淆对象特征；其中，k为正整数，且k≤k
y
；将所述第y个待处理对象对应的第1个第一易混淆对象特征至第k
y
个第一易混淆对象特征进行加权求和，得到所述第y个待处理对象的易混淆特征；其中，所述第k个第一易混淆对象特征的加权权重是根据所述第y个待处理对象与所述第k个第一易混淆对象之间的易混淆度确定的；k为正整数，且k≤k
y
；将所述第y个待处理对象的文本编码结果、所述第y个待处理对象的位置编码结果和所述第y个待处理对象的易混淆特征进行加和，得到所述第y个待处理对象的对象特征。
[0401]
在一种可能的实施方式中，所述语音文本重写模型构建装置300还包括：
[0402]
参数选择子单元，用于当所述待训练文本重写模型的训练过程批次数为r，所述待训练文本重写模型的第r批次训练集包括所述样本语音，且r为正整数，r≤r，r为正整数时，从至少一个候选注意力机制中随机选择所述待训练文本重写模型在第r批次训练过程中使用的注意力机制，确定为第r批次注意力机制；从预设映射表中查询所述第r批次注意力机制对应的掩码比例，确定为第r批次掩码比例；其中，所述预设映射表包括所述第r批次注意力机制和所述第r批次注意力机制对应的掩码比例之间的对应关系；
[0403]
所述文本掩码子单元，包括：掩码处理子单元，用于按照所述第r批次掩码比例对第q个样本基础识别文本进行掩码处理，得到第q个样本掩码后文本。
[0404]
在一种可能的实施方式中，所述掩码处理子单元，具体用于：若所述第r批次掩码比例为单向注意力机制或者双向注意力机制，则按照所述第r批次掩码比例对第q个样本基础识别文本进行掩码处理，得到第q个样本掩码后文本和所述第q个样本掩码后文本的实际被掩码对象；
[0405]
所述第一预测子单元，具体用于：将q个样本掩码后文本的文本特征和所述样本上文信息的文本特征输入所述待训练文本重写模型，得到所述待训练文本重写模型输出的所述样本语音的第一预测识别文本和所述q个样本掩码后文本的预测被掩码对象；
[0406]
所述第一更新子单元，包括：模型更新子单元，用于根据所述样本语音的样本标准识别文本、所述样本语音的第一预测识别文本、所述q个样本掩码后文本的实际被掩码对象和所述q个样本掩码后文本的预测被掩码对象，更新所述待训练文本重写模型。
[0407]
在一种可能的实施方式中，所述待训练文本重写模型包括第一编码层和第一解码层；
[0408]
所述第一预测子单元，具体用于：将所述q个样本掩码后文本的文本特征和所述样本上文信息的文本特征输入所述第一编码层，得到所述第一编码层输出的所述q个样本掩码后文本的特征编码和所述q个样本掩码后文本的预测被掩码对象；将所述q个样本掩码后文本的特征编码输入所述第一解码层，得到所述第一解码层输出的所述样本语音的第一预测识别文本。
[0409]
在一种可能的实施方式中，所述第二训练单元303，包括：
[0410]
第四生成子单元，用于生成所述至少一个样本基础识别文本的文本特征和所述样本提示信息的文本特征；
[0411]
第二预测子单元，用于将所述至少一个样本基础识别文本的文本特征和所述样本上文信息的文本特征输入所述待优化文本重写模型，得到所述待优化文本重写模型输出的所述样本语音的第二预测识别文本和所述样本语音的重写分类预测结果；
[0412]
第二更新子单元，用于根据所述样本语音的样本标准识别文本、所述样本语音的第二预测识别文本、所述样本语音的重写分类实际结果和所述样本语音的重写分类预测结果，更新所述待优化文本重写模型，并返回所述第二预测子单元执行将所述至少一个样本基础识别文本的文本特征和所述样本上文信息的文本特征输入所述待优化文本重写模型，直至在达到第二停止条件时，根据所述待优化文本重写模型，确定所述语音文本重写模型。
[0413]
在一种可能的实施方式中，所述第四生成子单元，包括：
[0414]
第五生成子单元，用于当所述样本基础识别文本的个数为q，所述第q个样本基础识别文本包括z
q
个待处理对象，且z
q
为正整数，q为正整数，q≤q，q为正整数时，对所述第q个
样本基础识别文本中第z个待处理对象进行文本编码，得到所述第z个待处理对象的文本编码结果；对所述第z个待处理对象进行位置编码，得到所述第z个待处理对象的位置编码结果；根据所述第z个待处理对象的文本编码结果和所述第z个待处理对象的位置编码结果，确定所述第z个待处理对象的对象特征；其中，z为正整数，z≤z
q
；将所述第q个样本基础识别文本中第1个待处理对象的对象特征至第z
q
个待处理对象的对象特征的集合，确定为所述第q个样本基础识别文本的文本特征。
[0415]
在一种可能的实施方式中，所述第z个待处理对象的对象特征的确定过程包括：将所述第z个待处理对象的文本编码结果和所述第z个待处理对象的位置编码结果进行加和，得到所述第z个待处理对象的对象特征；
[0416]
在一种可能的实施方式中，所述第z个待处理对象的对象特征的确定过程包括：从预先构建的易混淆对象信息库中查询所述第z个待处理对象对应的g
z
第二易混淆对象；其中，g
z
为正整数；对所述第z个待处理对象对应的第g个第二易混淆对象进行文本编码，得到所述第z个待处理对象对应的第g个第二易混淆对象特征；其中，g为正整数，且g≤g
z
；将所述第z个待处理对象对应的第1个第二易混淆对象特征至第g
z
个第二易混淆对象特征进行加权求和，得到所述第z个待处理对象的易混淆特征；其中，所述第g个第二易混淆对象特征的加权权重是根据所述第z个待处理对象与所述第g个第二易混淆对象之间的易混淆度确定的；g为正整数，且g≤g
z
；将所述第z个待处理对象的文本编码结果、所述第z个待处理对象的位置编码结果和所述第z个待处理对象的易混淆特征进行加和，得到所述第z个待处理对象的对象特征。
[0417]
在一种可能的实施方式中，所述待优化文本重写模型包括第二编码层和第二解码层；
[0418]
所述第二预测子单元，具体用于：将所述至少一个样本基础识别文本的文本特征和所述样本上文信息的文本特征输入所述第二编码层，得到所述第二编码层输出的所述至少一个样本基础识别文本的特征编码和所述样本语音的重写分类预测结果；若所述样本语音的重写分类预测结果满足预设重写触发条件，则将所述至少一个样本基础识别文本的特征编码输入所述第二解码层，得到所述第二解码层输出的所述样本语音的第二预测识别文本。
[0419]
基于上述方法实施例提供的语音识别方法，本申请实施例还提供了一种语音识别装置，下面结合附图进行解释和说明。
[0420]
装置实施例二
[0421]
装置实施例对语音识别装置进行介绍，相关内容请参见上述方法实施例。
[0422]
参见图4，该图为本申请实施例提供的一种语音识别装置的结构示意图。
[0423]
本申请实施例提供的语音识别装置400，包括：
[0424]
第二获取单元401，用于获取目标用户针对待使用上文信息输入的待识别语音；
[0425]
语音识别单元402，用于对所述待识别语音进行语音识别，得到至少一个待校正识别文本；
[0426]
文本确定单元403，用于根据所述至少一个待校正识别文本、所述待使用上文信息和预先构建的语音文本重写模型，得到所述待识别语音的目标语音识别文本；其中，所述语音文本重写模型是利用本申请实施例提供的语音文本重写模型构建方法任一实施方式进
行构建的。
[0427]
在一种可能的实施方式中，所述文本确定单元403包括：
[0428]
第六生成子单元，用于生成所述待使用上文信息的文本特征和所述至少一个待校正识别文本的文本特征；
[0429]
第三预测子单元，用于将所述待使用上文信息的文本特征和所述至少一个待校正识别文本的文本特征输入所述语音文本重写模型，得到所述语音文本重写模型输出的所述待识别语音的目标语音识别文本。
[0430]
在一种可能的实施方式中，所述第六生成子单元包括：
[0431]
第二提取子单元，用于对所述待使用上文信息进行关键词提取，得到所述待使用上文信息的关键词；
[0432]
第七生成子单元，用于根据所述待使用上文信息的关键词，生成所述待使用上文信息的文本特征。
[0433]
在一种可能的实施方式中，所述第七生成子单元，具体用于：对所述待使用上文信息的关键词进行向量化处理，得到所述待使用上文信息的文本特征。
[0434]
在一种可能的实施方式中，所述第七生成子单元，具体用于：若所述待使用上文信息的关键词包括n2个待处理对象，则对所述待使用上文信息的关键词中第i个待处理对象进行文本编码，得到所述第i个待处理对象的文本编码结果；对所述第i个待处理对象进行位置编码，得到所述第i个待处理对象的位置编码结果；将所述第i个待处理对象的文本编码结果和所述第i个待处理对象的位置编码结果进行加和，得到所述第i个待处理对象的对象特征；其中，i为正整数，i≤n2，n2为正整数；将所述待使用上文信息的关键词中第1个待处理对象的对象特征至第n2个待处理对象的对象特征的集合，确定为所述待使用上文信息的文本特征。
[0435]
在一种可能的实施方式中，所述第六生成子单元，包括：第八生成子单元，用于当待校正识别文本的个数为m，第m个待校正识别文本包括j
m
个待处理对象，且j
m
为正整数，m为正整数，m≤m，m为正整数时，对所述第m个待校正识别文本中第j个待处理对象进行文本编码，得到所述第j个待处理对象的文本编码结果；对所述第j个待处理对象进行位置编码，得到所述第j个待处理对象的位置编码结果；根据所述第j个待处理对象的文本编码结果和所述第j个待处理对象的位置编码结果，确定所述第j个待处理对象的对象特征；其中，j为正整数，j≤j
m
；将所述第m个待校正识别文本中第1个待处理对象的对象特征至第j
m
个待处理对象的对象特征的集合，确定为第m个待校正识别文本的文本特征。
[0436]
在一种可能的实施方式中，所述第j个待处理对象的对象特征的确定过程包括：将所述第j个待处理对象的文本编码结果和所述第j个待处理对象的位置编码结果进行加和，得到所述第j个待处理对象的对象特征。
[0437]
在一种可能的实施方式中，所述第j个待处理对象的对象特征的确定过程包括：从预先构建的易混淆对象信息库中查询所述第j个待处理对象对应的v
j
个第三易混淆对象；其中，v
j
为正整数；对所述第j个待处理对象对应的第v个第三易混淆对象进行文本编码，得到所述第j个待处理对象对应的第v个第三易混淆对象特征；其中，v为正整数，且v≤v
j
；将所述第j个待处理对象对应的第1个第三易混淆对象特征至第v
j
个第三易混淆对象特征进行加权求和，得到所述第j个待处理对象的易混淆特征；其中，所述第v个第三易混淆对象特
征的加权权重是根据所述第j个待处理对象与所述第v个第三易混淆对象之间的易混淆度确定的；v为正整数，且v≤v
j
；将所述第j个待处理对象的文本编码结果、所述第j个待处理对象的位置编码结果和所述第j个待处理对象的易混淆特征进行加和，得到所述第j个待处理对象的对象特征。
[0438]
在一种可能的实施方式中，所述语音文本重写模型包括第三编码层和第三解码层；
[0439]
所述第三预测子单元，具体用于：将所述待使用上文信息的文本特征和所述至少一个待校正识别文本的文本特征输入所述第三编码层，得到所述第三编码层输出的所述至少一个待校正识别文本的特征编码和所述至少一个待校正识别文本对应的重写分类预测结果；若所述至少一个待校正识别文本对应的重写分类预测结果满足预设重写触发条件，则将所述至少一个待校正识别文本的特征编码输入第三解码层，得到所述第三解码层输出的所述待识别语音的目标语音识别文本。
[0440]
进一步地，本申请实施例还提供了一种设备，包括：处理器、存储器、系统总线；
[0441]
所述处理器以及所述存储器通过所述系统总线相连；
[0442]
所述存储器用于存储一个或多个程序，所述一个或多个程序包括指令，所述指令当被所述处理器执行时使所述处理器执行上述语音文本重写模型构建方法的任一种实现方法，或者，执行上述语音识别方法的任一种实现方法。
[0443]
进一步地，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，当所述指令在终端设备上运行时，使得所述终端设备执行上述语音文本重写模型构建方法的任一种实现方法，或者，执行上述语音识别方法的任一种实现方法。
[0444]
进一步地，本申请实施例还提供了一种计算机程序产品，所述计算机程序产品在终端设备上运行时，使得所述终端设备执行上述语音文本重写模型构建方法的任一种实现方法，或者，执行上述语音识别方法的任一种实现方法。
[0445]
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到上述实施例方法中的全部或部分步骤可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如rom/ram、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者诸如媒体网关等网络通信设备，等等)执行本申请各个实施例或者实施例的某些部分所述的方法。
[0446]
需要说明的是，本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
[0447]
还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备
所固有的要素。在没有更多限制的情况下，由语句“包括一个
……”
限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0448]
对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。