语音识别文本处理方法、装置、电子设备及存储介质与流程

1.本发明涉及计算机技术领域，尤其涉及一种语音识别文本处理方法、装置、电子设备及存储介质。


背景技术：

2.语音识别技术，是对语音信号进行识别处理以得到对应的文本。目前经语音识别处理直接输出的文本可读性较差。因此，亟需一种语音识别文本处理方案，以解决现有技术中语音识别文本可读性差的问题。


技术实现要素：

3.本发明实施例通过提供一种语音识别文本处理方法、装置、电子设备及存储介质，解决了现有技术中语音识别文本可读性差的技术问题。
4.第一方面，本发明实施例提供一种语音识别文本处理方法，包括：
5.获取语音识别得到的原始文本；
6.对所述原始文本进行预设处理，得到预设处理结果，其中，所述预设处理包括标点添加处理和/或数字规整处理，所述预设处理结果包括标点添加处理结果和/或数字规整处理结果；
7.通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果；
8.基于所述文本顺滑处理结果与所述预设处理结果，得到所述原始文本的处理后文本。
9.可选地，所述预设处理为标点添加处理和数据规整处理时，所述预设处理结果为标点添加处理结果和数字规整处理结果时，在所述得到预设处理结果之后，所述方法还包括：将所述标点添加处理结果与所述数字规整处理结果进行融合，得到融合数据；
10.所述通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果，包括：基于所述融合数据，通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果。
11.可选地，所述预设处理为标点添加处理时，所述对所述原始文本进行预设处理，得到预设处理结果，包括：
12.基于预设的标点标签字典，对所述原始文本进行序列标注，得到所述标点添加处理结果作为所述预设处理结果。
13.可选地，所述预设处理为数字规整处理时，所述对所述原始文本进行预设处理，得到预设处理结果，包括：
14.基于预设的数字规整标签字典，对所述原始文本进行序列标注，得到所述数字规整处理结果作为所述预设处理结果。
15.可选地，所述基于所述融合数据，通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果，包括：
16.对所述原始文本进行文本顺滑特征提取，得到文本顺滑特征数据；
17.对所述融合数据以及所述文本顺滑特征数据进行注意力机制计算，得到交互特征数据；
18.基于所述交互特征数据以及所述文本顺滑特征数据，得到所述文本顺滑处理结果。
19.可选地，所述对所述原始文本进行预设处理，得到预设处理结果，以及所述通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果，包括：
20.通过预设文本处理模型对所述原始文本进行所述预设处理以及所述文本顺滑处理；
21.所述预设文本处理模型通过以下方式获得：构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息，所述标签信息包括所述训练数据的标点标签、数字规整标签以及文本顺滑标签中的至少一种；基于所述训练数据以及所述训练数据的标签信息，对初始文本处理模型进行训练，得到训练好的文本处理模型，作为所述预设文本处理模型。
22.可选地，所述构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息，包括：
23.获取第一语料文本；
24.过滤所述第一语料文本中的标点，得到所述训练数据；
25.基于所述第一语料文本中每个标点的标点类型、标点位置、以及预设的标点标签字典，对所述训练数据进行序列标注，得到所述训练数据的标点标签。
26.可选地，所述构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息，包括：
27.获取第二语料文本；
28.将所述第二语料文本中的非汉字形式的数字转换为汉字形式，得到所述训练数据；
29.基于所述第二语料文本中所述非汉字形式的数字的位置，以及预设的数字规整标签字典，对所述训练数据进行序列标注，得到所述训练数据的数字规整标签。
30.可选地，所述构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息，包括：
31.获取第三语料文本；
32.在所述第三语料文本中确定出插入冗余词的目标插入位置；
33.基于所述第三语料文本中位于所述目标插入位置之前的文本，预测所述目标插入位置处插入的目标冗余词；
34.将所述目标冗余词插入到所述目标插入位置，得到所述训练数据；
35.基于所述目标冗余词、所述目标插入位置以及预设的文本顺滑标签字典，对所述训练数据进行序列标注，得到所述训练数据的文本顺滑标签。
36.可选地，所述在所述第三语料文本中确定出插入冗余词的目标插入位置，包括：
37.将所述第三语料文本输入到预设的顺滑位置确定模型中，得到所述目标插入位置；
38.所述基于所述第三语料文本中位于所述目标插入位置之前的文本，预测所述目标
插入位置处插入的目标冗余词，包括：
39.将所述第三语料文本中位于所述目标插入位置之前的文本，输入到预设的冗余词生成模型中，得到所述目标冗余词。
40.第二方面，本发明实施例提供一种语音识别文本处理装置，包括：
41.获取模块，用于获取语音识别得到的原始文本；
42.第一处理模块，用于对所述原始文本进行预设处理，得到预设处理结果，其中，所述预设处理包括标点添加处理和/或数字规整处理，所述预设处理结果包括包括标点添加处理结果和/或数字规整处理结果；
43.第二处理模块，用于通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果；
44.第三处理模块，用于基于所述文本顺滑处理结果与所述预设处理结果，得到所述原始文本的处理后文本。
45.可选地，所述预设处理为标点添加处理和数据规整处理时，所述装置还包括：
46.数据融合模块，用于将所述标点添加处理结果与所述数字规整处理结果进行融合，得到融合数据；
47.所述第二处理模块，用于基于所述融合数据，通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果。
48.可选地，所述预设处理为标点添加处理时，所述第一处理模块，用于：
49.基于预设的标点标签字典，对所述原始文本进行序列标注，得到所述标点添加处理结果作为所述预设处理结果。
50.可选地，所述预设处理为数字规整处理时，所述第一处理模块，用于：
51.基于预设的数字规整标签字典，对所述原始文本进行序列标注，得到所述数字规整处理结果作为所述预设处理结果。
52.可选地，所述第二处理模块，用于：
53.对所述原始文本进行文本顺滑特征提取，得到文本顺滑特征数据；
54.对所述融合数据以及所述文本顺滑特征数据进行注意力机制计算，得到交互特征数据；
55.基于所述交互特征数据以及所述文本顺滑特征数据，得到所述文本顺滑处理结果。
56.可选地，所述第一处理模块以及所述第二处理模块，用于：通过预设文本处理模型对所述原始文本进行所述预设处理以及所述文本顺滑处理；
57.所述装置还包括：构建模块，用于构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息，所述标签信息包括所述训练数据的标点标签、数字规整标签以及文本顺滑标签中的至少一种；训练模块，用于基于所述训练数据以及所述训练数据的标签信息，对初始文本处理模型进行训练，得到训练好的文本处理模型，作为所述预设文本处理模型。
58.可选地，所述构建模块，用于：
59.获取第一语料文本；
60.过滤所述第一语料文本中的标点，得到所述训练数据；
61.基于所述第一语料文本中每个标点的标点类型、标点位置、以及预设的标点标签字典，对所述训练数据进行序列标注，得到所述训练数据的标点标签。
62.可选地，所述构建模块，用于：
63.获取第二语料文本；
64.将所述第二语料文本中的非汉字形式的数字转换为汉字形式，得到所述训练数据；
65.基于所述第二语料文本中所述非汉字形式的数字的位置，以及预设的数字规整标签字典，对所述训练数据进行序列标注，得到所述训练数据的数字规整标签。
66.可选地，所述构建模块，用于：
67.获取第三语料文本；
68.在所述第三语料文本中确定出插入冗余词的目标插入位置；
69.基于所述第三语料文本中位于所述目标插入位置之前的文本，预测所述目标插入位置处插入的目标冗余词；
70.将所述目标冗余词插入到所述目标插入位置，得到所述训练数据；
71.基于所述目标冗余词、所述目标插入位置以及预设的文本顺滑标签字典，对所述训练数据进行序列标注，得到所述训练数据的文本顺滑标签。
72.可选地，所述构建模块，用于：
73.将所述第三语料文本输入到预设的顺滑位置确定模型中，得到所述目标插入位置；
74.将所述第三语料文本中位于所述目标插入位置之前的文本，输入到预设的冗余词生成模型中，得到所述目标冗余词。
75.第三方面，本发明实施例提供一种电子设备，包括有存储器，以及一个或者多个的程序，其中一个或者多个的程序存储于存储器中，且经配置以由一个或者多个的处理器执行所述一个或者多个的程序所包含的用于进行如第一方面提供的语音识别文本处理方法对应的操作指令。
76.第四方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如第一方面提供的语音识别文本处理方法对应的步骤。
77.本发明实施例提供的一个或多个技术方案，至少实现了如下技术效果或者优点：
78.本发明实施例提供的方案，在获取到语音识别输出的原始文本后，对原始文本进行预设处理，得到预设处理结果，其中，预设处理包括标点添加处理和/或数字规整处理，对应的预设处理结果包括标点添加处理结果和/或数字规整处理结果；通过注意力机制对原始文本进行文本顺滑处理，得到文本顺滑处理结果；基于预设处理结果以及文本顺滑处理结果，得到原始文本的处理后文本。可见，本方案中，将文本顺滑处理与标点添加处理、数字规整处理基于注意力机制进行信息中至少一种交互，能够使得在文本顺滑处理的过程中充分利用了标点添加处理的特征信息和/或数字规整处理的特征信息，增加了文本顺滑处理的数据多样性，进而提高了语音识别文本处理的准确率。
附图说明
79.为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现
有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
80.图1为本发明实施例提供的一种语音识别文本处理方法的流程图；
81.图2为本发明实施例提供的一种预设文本处理模型的结构示意图；
82.图3为本发明实施例提供的一种语音识别文本处理装置的示意图；
83.图4为本发明实施例提供的一种电子设备的示意图；
84.图5为本发明实施例提供的一种服务器的结构示意图。
具体实施方式
85.本发明提供一种语音识别文本处理方法、装置、电子设备及存储介质，以解决现有技术中语音识别文本可读性差的技术问题，总体思路如下：
86.获取语音识别得到的原始文本；对原始文本进行预设处理，得到预设处理结果，其中，预设处理包括标点添加处理和/或数字规整处理，预设处理结果包括标点添加处理结果和/或数字规整处理结果；通过注意力机制对原始文本进行文本顺滑处理，得到文本顺滑处理结果；基于文本顺滑处理结果与预设处理结果，得到原始文本的处理后文本。
87.通过上述技术方案，将文本顺滑处理与标点添加处理、数字规整处理基于注意力机制进行信息交互，或者将文本顺滑处理与标点添加处理基于注意力机制进行信息交互，或者将文本顺滑处理与数字规整处理基于注意力机制进行信息交互，能够使得在文本顺滑处理的过程中充分利用了标点添加处理的特征信息和/或数字规整处理的特征信息，增加了文本顺滑处理的数据多样性，进而提高了语音识别文本处理的准确率。
88.请参考图1，为本发明实施例提供的一种语音识别文本处理方法的流程图，该方法包括以下步骤：
89.步骤s101：获取语音识别得到的原始文本；
90.步骤s102：对所述原始文本进行预设处理，得到预设处理结果，其中，所述预设处理包括标点添加处理和/或数字规整处理，所述预设处理结果包括标点添加处理结果和/或数字规整处理结果；
91.步骤s103：通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果；
92.步骤s104：基于所述文本顺滑处理结果与所述预设处理结果，得到所述原始文本的处理后文本。
93.本发明实施例提供的方法，可以应用于终端设备中，例如智能手机、平板电脑，也可以应用于与终端设备建立有数据交互的服务器上，还可以应用于由终端设备和服务器组成的系统中，这里不做限定。
94.步骤s101中，获取语音识别得到的原始文本可以通过多种方式实现。举例来讲，用户在使用终端设备进行语音识别时，终端设备上可以设置有语音接收器，如麦克风。当终端设备启动语音识别功能后，语音接收器处于工作状态，能够捕捉用户发出的语音信号。在捕捉到用户的语音信号后，可以通过终端设备上的语音识别模型对语音信号进行处理，得到对应的原始文本，当然，也可以将语音信号发送给服务器，以使服务器对语音信号进行处
理，得到对应的原始文本，这里不做限定。
95.需要说明的是，语音识别输出的原始文本通常包括以下几个特点：
96.1、原始文本中不包含有标点。那么在原始文本的字数较多的情况下，由于没有标点的标注，则无法快速的对原始文本进行断句，导致阅读难度增加。
97.2、原始文本中的数字为汉字形式的数字字符。举例来讲，语音识别的原始文本为“一九七九年那是一个春天”，其中的年份数字为汉字形式的数字，不符合用户的阅读习惯。
98.3、原始文本中带有冗余词。由于用户的语言习惯，在口语中经常会带有指示词、重复词、语气词等冗余词。具体来讲，在口语中，常会出现一些指示词对上下文进行衔接，如代词指示词“这”、“那”、“这个”、“那个”、“就是”，语气指示词“嗯”、“啊”、“呃”等。在一个实施例中，语音识别的原始文本为“把书本翻到那个第二十九页”，其中，“那个”即为冗余词。可见，若原始文本中带有较多的冗余词，会增加用户的阅读难度。
99.本说明书实施例中，为了提升用户的阅读体验，降低用户的阅读难度，对原始文本分别进行了预设处理以及文本顺滑处理。其中，预设处理包括标点添加处理和数字规整处理中的至少一种。通过标点添加处理，可以为原始文本添加合适的标点符号；通过数字规整处理，可以将汉字形式的数字字符进行转写，如转写为阿拉伯数字；通过文本顺滑处理，可以过滤掉原始文本中的冗余词。
100.在具体实施过程中，可以通过步骤s102实现对原始文本的标点添加处理和/或数字规整处理，通过步骤s103来实现对原始文本的文本顺滑处理。本说明书实施例中，为了使文本顺滑处理结果更加精准，将文本顺滑处理与标点添加处理结果和/或数字规整处理结果进行注意力交互，更加充分有效的利用标点添加处理和/或数字规整处理的特征，以增加文本顺滑处理的数据多样性，从而提高语音识别文本处理的准确率。
101.本说明书实施例中，对原始文本进行标点添加处理、数字规整处理、以及文本顺滑处理，可以采用深度学习模型来实现。在一个实施例中，对于上述每种处理任务，可以分别建立各自的单任务深度学习模型，每个模型用来执行对应的一个处理任务；在另一实施例中，可以构建一个多任务深度学习模型，用来同时实现多个处理任务。
102.具体来讲，以多任务深度学习模型来说，当预设处理仅包括标点添加处理时，对应的多任务深度学习模型包括标点添加处理任务以及文本顺滑处理任务；当预设处理仅包括数字规整处理时，对应的多任务深度学习模型包括数字规整处理任务以及文本顺滑处理任务；当预设处理包括标点添加处理以及数字规整处理时，对应的多任务深度学习模型包括标点添加处理任务、数字规整处理任务以及文本顺滑处理任务。多任务深度学习模型的任务可以根据实际需要进行设置，这里不做限定。
103.当然，除了深度学习模型的处理方式，还可以通过其他方式来实现对原始文本的处理，例如，对于数字规整处理，可以将原始文本与预设的规则进行匹配。举例来讲，通过预设的年份识别规则确定出原始文本中的年份，并将确定出的年份转写成阿拉伯数字，或者，通过预设的时间识别规则确定出原始文本中的时间，并将确定出的时间转写成阿拉伯数字等等。
104.本说明书实施例中，标点添加处理可以通过以下方式实现：基于预设的标点标签字典，对所述原始文本进行序列标注，得到所述标点添加处理结果作为所述预设处理结果。数字规整处理可以通过以下方式实现：基于预设的数字规整标签字典，对所述原始文本进
行序列标注，得到所述数字规整处理结果作为所述预设处理结果。
105.具体来讲，标点添加处理以及数字规整处理可以通过各自的模型来实现，也可以通过多任务模型来实现。为了便于说明，本说明书实施例中，以包含有标点添加处理任务、数字规整处理任务以及文本顺滑处理任务的多任务模型为例来进行说明，即预设处理包括标点添加处理以及数字规整处理。在具体实施过程中，通过训练好的预设文本处理模型来实现标点添加处理、数字规整处理以及文本顺滑处理。预设文本处理模型可以为rnn(recurrent neural network，循环神经网络)、bert(bidirectional encoder representations from transformers，基于transformer的双向编码器)等。
106.如图2所示，以预设文本处理模型为rnn模型为例，可以包括输入层、字嵌入层、rnn双向循环神经网络层，全连接层。预设文本处理模型根据任务类型可以划分为标点添加子模型、数字规整子模型、以及文本顺滑子模型。其中，不同的子模型具有各自的全连接层，如图2所示，标点添加子模型设置有标点添加全连接层、数字规整子模型设置有数字规整全连接层、文本顺滑子模型设置有第一全连接层以及第二全连接层。
107.本说明书实施例中，步骤s102可以通过以下步骤实现：通过预设文本处理模型中的标点添加子模型对所述原始文本进行处理，得到所述标点添加处理结果；通过所述预设文本处理模型中的数字规整子模型对所述原始文本进行处理，得到所述数字规整处理结果。
108.具体来讲，标点添加子模型能够将输入的原始文本进行标点的序列标注，以输出原始文本的标点标签。具体来讲，标点添加子模型可以利用预设的标点标签字典对原始文本进行序列标注。预设的标点标签字典可以根据实际需要来进行设置，本说明书实施例中，预设的标点标签字典可以包含有6种标签，标签序号与标签之间的对应关系为{0：“o”；1：“s-douhao”；2：“s-juhao”；3：“s-wenhao”；4：“s-tanhao”；5：“s-blank”}，其中，“o”表示非标点字符，“s-douhao”表示逗号，“s-juhao”表示句号，“s-wenhao”表示问号，“s-tanhao”表示叹号，“s-blank”表示空格。
109.举例来讲，输入的原始文本为“二零零零年也是龙年距一九八八年刚好一轮”，经标点添加子模型处理后输出的标点标签为tagpunc＝“o o o o s-douhao o o o s-douhao o o o o o o o o o s-juhao”，其中，标点标签中的第一个“s-douhao”对应字符“年”的标签，表示“年”的下一位置为逗号，同样的，标点标签中的第二个“s-douhao”对应字符“年”的标签，表示“年”的下一位置为逗号，标点标签中的“s-juhao”对应字符“轮”的标签，表示“轮”的下一位置为句号。
110.需要说明的是，标点添加处理结果可以为标点添加子模型的最终输出结果，也可以为标点添加子模型的中间处理数据。本说明书实施例中，标点添加处理结果为标点添加全连接层输出的数据。
111.对于数字规整子模型来说，能够将输入的原始文本中的汉字形式的数字进行转换，如转换为阿拉伯数字，并输出原始文本的数字规整标签。具体来讲，数字规整子模型可以利用预设的数字规整标签字典对原始文本进行序列标注。预设的数字规整标签字典可以根据实际需要来进行设置，本说明书实施例中，预设的数字规整标签字典可以包含有3种标签，标签序号与标签之间的对应关系为{0：“o”；1：“b”；2：“i”}，其中，“o”表示非数字字符，“b”表示数字的开始，“i”表示数字的中间或结束。
112.仍以输入的原始文本“二零零零年也是龙年距一九八八年刚好一轮”为例，经数字规整子模型处理后输出的数字规整标签为tagnum＝“b i i i o o o o o o b i i i o o o o o”。
113.需要说明的是，数字规整处理结果可以为数字规整子模型的最终输出结果，也可以为数字规整子模型的中间处理数据。本说明书实施例中，数字规整处理结果为数字规整全连接层输出的数据。
114.本说明书实施例中，为了对原始文本进行文本顺滑处理，预设文本处理模型还包括文本顺滑子模型。文本顺滑子模型能够将输入的原始文本中的冗余词进行识别，并利用预设的文本顺滑标签字典对原始文本进行序列标注，输出文本顺滑标签。预设的文本顺滑标签字典可以根据实际需要进行设置，本说明书实施例中，预设的文本顺滑标签字典可以包含有2种标签，标签序号与标签之间的对应关系为{0：“o”；1：“i”}，其中，“o”表示非冗余字符，“i”表示冗余字符。
115.举例来讲，输入的原始文本为“把书本翻到那个第二十九页”，经文本顺滑子模型处理后出的文本顺滑标签为tagdisf＝“o o o o o i i o o o o o”。其中，两个连续的“i”所对应的字符“那个”为冗余词。
116.本说明书实施例中，为了实现文本顺滑处理与标点添加处理、数字规整处理之间的信息交互，增加文本顺滑处理的数据多样性，提高文本顺滑处理的精准度，通过执行步骤s103，基于标点添加处理结果以及数字规整处理结果，采用注意力机制对原始文本型进行文本顺滑处理。
117.在具体实施过程中，步骤s103可以通过以下步骤实现：将所述标点添加处理结果与所述数字规整处理结果进行融合，得到融合数据；基于所述融合数据，通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果。
118.具体来讲，标点添加处理结果与数字规整处理结果的融合可以在预设文本处理模型内部实现。请参考图2，预设文本处理模型中包含有数据融合层，通过数据融合层对标点添加处理结果以及数字规整处理结果进行融合，以得到融合数据。本说明书实施例中，融合数据可以通过以下公式获得：
119.ipci＝tanh(w
ipc
×
[ii,pi] b
ipc
)
[0120]
需要说明的是，数据融合层可以看成是数据拼接、全连接层、激活输出的组合，其中，ipci为融合数据的激活输出，ii为数字规整处理的输出，pi为标点添加处理的输出，w
ipc
为数据融合层对应的线性连接权重，b
ipc
为数据融合层对应的线性连接偏执项，下角标的i为原始文本的字位置索引。
[0121]
在得到融合数据之后，进一步基于注意力机制对原始文本进行文本顺滑处理。具体实施过程可以为：对所述原始文本进行文本顺滑特征提取，得到文本顺滑特征数据；对所述融合数据以及所述文本顺滑特征数据进行注意力机制计算，得到交互特征数据；基于所述交互特征数据以及所述文本顺滑特征数据，得到所述文本顺滑处理结果。
[0122]
具体来讲，通过所述预设文本处理模型中的文本顺滑子模型对所述原始文本进行处理，得到文本顺滑特征数据；通过所述预设文本处理模型对所述融合数据以及所述文本顺滑特征数据进行注意力机制计算，得到交互特征数据；基于所述交互特征数据以及所述文本顺滑特征数据，得到所述文本顺滑处理结果。
[0123]
如图2所示，为了实现文本顺滑处理与融合数据之间的信息交互，预设文本处理模型中设置有注意力交互层，用于将融合数据与文本顺滑特征数据进行注意力机制计算，并输出交互特征数据。另外，文本顺滑子模型中设置有两个全连接层：第一全连接层和第二全连接层，其中，第一全连接层用于输出文本顺滑特征数据，第二全连接层用于对文本顺滑特征以及交互特征数据进行处理。在具体实施过程中，交互特征数据可以通过以下公式获得：
[0124]fj
＝∑aiipci[0125]
其中，fj为交互特征数据，ai为注意力权重，ipci为融合数据的激活输出，下角标i为原始文本的字位置索引。
[0126]
本说明书实施例中，注意力权重可以通过以下公式进行计算：
[0127][0128]
其中，dj为第一全连接层输出的第j个文本顺滑特征，k为句子中的词所在位置下标。
[0129]
在得到交互特征数据之后，通过文本顺滑子模型的第二全连接层对交互特征数据以及第一全连接层输出的文本顺滑特征数据进行处理，本说明书实施例中，第二全连接层之后可以与softmax层连接，通过softmax层最终输出文本顺滑处理结果。本说明书实施例中，文本顺滑处理结果可以通过以下公式获得：
[0130]di
(final)＝softmax(wc×
[fi,di] bc)
[0131]
其中fi为注意力交互特征，di为文本顺滑特征，wc为文本顺滑处理对应的线性连接权重，bc为文本顺滑处理对应的线性连接偏置项。
[0132]
进一步的，在得到标点添加处理结果、数字规整处理结果以及文本顺滑处理结果之后，可以执行步骤s104，确定原始文本的处理后文本。具体来讲，基于标点添加处理结果、数字规整处理结果以及文本顺滑处理结果，可以得到原始文本的标点标签、数字规整标签、文本顺滑标签，基于以上标签，对原始文本添加标签、进行数字转写、以及过滤冗余词，以最终得到原始文本的处理后文本。
[0133]
需要说明的是，本说明书实施例中的预设文本处理模型，在训练过程中需要采用标注有标签信息的训练数据，其中，标签信息根据实际需要可以包括标点标签、数字规整标签以及文本顺滑标签中的至少一种。通常来说，训练数据的标签信息，依赖于人工标注，当需要大量的训练数据来进行模型训练时，必然会造成人工标注成本较高。本说明书实施例中，为了降低对人工标注的依赖，可以通过自动构建训练数据以及训练数据的标签。
[0134]
在具体实施过程中，预设文本处理模型可以通过以下方式来获得：构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息；基于所述训练数据以及所述训练数据的标签信息，对初始文本处理模型进行训练，得到训练好的文本处理模型，作为所述预设文本处理模型。
[0135]
由于预设文本处理模型为多任务模型，因此，训练数据的标签信息需要包含有每个任务下的标签，本说明书实施例中，以训练数据的标签信息包含有标点标签、数字规整标签以及文本顺滑标签为例。下面，对训练数据以及上述三种标签的构建方式进行说明。
[0136]
第一种，构建训练数据以及对应的标点标签，具体实现方式可以为：获取第一语料文本；过滤所述第一语料文本中的标点，得到所述训练数据；基于所述第一语料文本中每个
标点的标点类型、标点位置、以及预设的标点标签字典，对所述训练数据进行序列标注，得到所述训练数据的标点标签。
[0137]
需要说明的是，构建训练数据的语料可以根据需要进行选择，本说明书实施例中，可以将网络上能够获取的开放语料文本用于构建训练数据。具体来讲，在获取了开放语料文本之后，可以对开放语料文本进行初步处理，包括但不限于保留开放语料文本中的汉字、英文、数字、目标类型的标点(如保留预设的标点标签字典中包含的标点)，转小写，全角转半角等处理，去掉其余字符，将处理后的开放语料文本作为第一语料文本。
[0138]
举例来讲，获取的开放语料文本为s0：
[0139]
s0＝“另据《华尔街日报》报道，2013年是1995年以来美国股市表现最好的一年。”[0140]
对s0进行上述初步处理，其中，预设的标点标签字典沿用上面的例子，即保留逗号、句号、问号、叹号，去掉其余的标签符号，得到的第一语料文本s1为：
[0141]
s1＝“另据华尔街日报报道，2013年是1995年以来美国股市表现最好的一年。”[0142]
进一步的，基于s1来构建训练数据，具体来讲，可以过滤掉s1中的标点来构建训练数据。当然，除了过滤掉标点，还可以对s1进行其他处理。本说明书实施例中，由于预设文本处理模型为实现标点添加处理、数字规整处理以及文本顺滑处理的多任务模型，因此，在构建训练数据时，还可以将s1中的非汉字形式的数字转换为汉字形式，得到训练数据s2：
[0143]
s2＝“另据华尔街日报报道二零一三年是一九九五年以来美国股市表现最好的一年”。
[0144]
本说明书实施例中，在构建训练数据的标点标签时，需要记录s1中每个标点的类型和位置，例如，记录“道”字的后边为逗号，最后一个“年”字的后边为句号。然后，根据预设的标点标签字典，构建s2的标点标签，仍以上述预设的标点标签字典为例，构建的s2的标点标签为：
[0145]
tagpunc＝“o o o o o o o o s-douhao o o o o o o o o o o o o o o o o o o o o o o o s-juhao”。
[0146]
其中，标点标签中“s-douhao”对应“道”的标签，表示“道”的下一个位置为逗号；“s-juhao”对应“年”的标签，表示“年”的下一个位置为句号。
[0147]
第二种，构建训练数据以及对应的数字规整标签，具体实现方式可以为：获取第二语料文本；将所述第二语料文本中的非汉字形式的数字转换为汉字形式，得到所述训练数据；基于所述第二语料文本中所述非汉字形式的数字的位置，以及预设的数字规整标签字典，对所述训练数据进行序列标注，得到所述训练数据的数字规整标签。
[0148]
需要说明的是，第二语料文本也可以是通过对开放语料进行初步处理得到的文本，具体的初步处理过程可以参考上述构建标点标签时的说明，这里就不再赘述了。仍以开放语料文本为上述s0为例，则得到的第二语料文本可以与上述第一语料文本相同，即第二语料文本也为s1。进一步的，基于s1来构建训练数据，具体来讲，可以将s1中的非汉字形式的数字转换为汉字形式，得到的训练数据。当然，除了对非汉字形式的数字进行转换，还可以对s1进行其他处理以得到训练数据。本说明书实施例中，由于预设文本处理模型为实现标点添加处理、数字规整处理以及文本顺滑处理的多任务模型，因此，在构建训练数据时，还可以将s1中的标点进行过滤，得到训练数据，即上述s2。
[0149]
进一步的，在构建数字规整标签时，需要记录s2中的非汉字形式的数字的位置，例
如，记录“道”字的后边为连续的四个阿拉伯数字，“是”字后边也为连续的四个阿拉伯数字。再根据预设的数字规整标签字典，构建s2的数字规整标签，沿用上述预设的数字规整标签字典的例子，则构建的s2的数字规整标签为：
[0150]
tagnum＝“o o o o o o o o o b i i i o o b i i i o o o o o o o o o o o o o o”。
[0151]
第三种，构建训练数据以及对应的文本顺滑标签，具体实现方式可以为：获取第三语料文本；在所述第三语料文本中确定出插入冗余词的目标插入位置；基于所述第三语料文本中位于所述目标插入位置之前的文本，预测所述目标插入位置处插入的目标冗余词；将所述目标冗余词插入到所述目标插入位置，得到所述训练数据；基于所述目标冗余词、所述目标插入位置以及预设的文本顺滑标签字典，对所述训练数据进行序列标注，得到所述训练数据的文本顺滑标签。
[0152]
具体来讲，第三语料文本也可以为对开放语料文本进行初步处理得到的语料。另外，在预设处理文本处理模型为实现标点添加处理、数字规整处理以及文本顺滑处理的多任务模型时，为了确保构建的训练数据中不包含标点和非汉字形式的数字，第三语料文本还可以为过滤掉标点以及将非汉字形式的数字转换为汉字形式的数字的文本。当然，第三语料文本也可以包含标点和非汉字形式的数字，在插入冗余词之后再过滤掉标点以及对非汉字形式的数字进行转化，这里不做限定。
[0153]
为了构建文本顺滑任务下的训练数据，训练数据需要包含有冗余词，本说明书实施例中，可以先在第三语料文本中确定出插入冗余词的目标插入位置，再生成目标冗余词插入到目标插入位置中，即可构建出训练数据。
[0154]
需要说明的是，确定目标插入位置可以通过多种方式实现，如在第三语料文本中随机选取目标插入位置，或者，通过训练好的位置确定模型来确定出目标插入位置等，这里不做限定。目标冗余词的生成也可以通过多种方式实现，如通过n元语言模型生成目标冗余词，或者通过神经网络语言模型生成目标冗余词等，这里不做限定。
[0155]
本说明书实施例中，以通过预设的顺滑位置确定模型和预设的冗余词生成模型为例来进行说明，其中，预设的冗余词生成模型可以为基于transformer decoder的神经网络语言模型。那么，目标插入位置可以通过以下方式来确定：将所述第三语料文本输入到预设的顺滑位置确定模型中，得到所述目标插入位置。目标冗余词可以通过以下方式来生成：将所述第三语料文本中位于所述目标插入位置之前的文本，输入到预设的冗余词生成模型中，得到所述目标冗余词。
[0156]
具体来讲，以第三语料文本s3＝“就会产生不同的意思”为例。将第三语料文本s3输入到预设的顺滑位置确定模型中，输出的目标插入位置位于“不同的”之后，进一步的，确定目标插入位置之前的文本，即“就会产生不同的”，并将该文本作为预设的冗余词生成模型的输入，并输出目标冗余词“意义”。
[0157]
将目标冗余词插入到目标插入位置中，即可得到构建的文本顺滑任务的训练数据，即“就会产生不同的意义意思”，根据预设的文本顺滑标签字典，对该训练数据进行序列化标注，得到文本顺滑标签。仍沿用上面的文本顺滑标签字典，构建的文本顺滑标签为tagdisf＝“o o o o o o o i i o o”。
[0158]
需要说明的是，目标插入位置可以是一个或多个，在目标插入位置为多个时，可以
依次将每个目标插入位置之前的文本作为预设的冗余词生成模型的输入，以生成每个目标插入位置所对应的目标冗余词。另外，对于一个目标插入位置来说，目标冗余词也可以生成一个或多个，这里不做限定。
[0159]
综上，通过上述方式即可构建训练数据以及各个任务下的标签信息，通过训练数据以及标签信息对初始的文本处理模型进行训练，即可得到训练好的模型，作为预设的文本处理模型。
[0160]
需要说明的是，对于文本顺滑任务的训练数据，对人工标注的依赖性很高，本说明书实施例中，通过预设的顺滑位置确定模型以及预设的冗余词生成模型即可实现自动构建文本顺滑任务的训练数据。下面，针对预设的顺滑位置确定模型的训练过程进行说明。
[0161]
对于预设的顺滑位置确定模型，其训练数据可以通过标注有文本顺滑标签的文本来构建。举例来讲，已标注的文本d0以及对应的文本顺滑标签分别为：
[0162]
d0＝“这个其实是近几年做的一个数字化建设的一个过程”；
[0163]
tagdisf＝“o o o o o o o o o o o o o o o o o o i i o o”；
[0164]
通过文本顺滑标签可知，位于“建设的”之后的“一个”为冗余词，将冗余词去掉，则可以构建不包含有冗余词的文本作为训练数据d1，d1＝“这个其实是近几年做的一个数字化建设的过程”；对应的，该训练数据的目标插入位置位于“建设的”之后。通过这种方式，可以构建出大量的训练数据，以及每个训练数据对应的目标插入位置，利用训练数据以及对应的目标插入位置进行模型训练，即可得到训练好的模型，作为预设的顺滑位置确定模型。
[0165]
应理解的是，上述标点标签、数字规整标签、以及文本顺滑标签的构建过程可以相互结合，例如，针对一句开放语料文本，可以通过上述方式构建一个训练数据以及对应的三种标签。在一个实施例中，获取开放语料文本，例如，该开放语料文本仍为s0，对s0进行初步处理，得到文本s1，为了后续构建标点标签以及数字规整标签，可以记录s1中每个标点的类型、每个标点的位置以及数字的位置。进一步的，过滤掉s1中的标点以及将非汉字形式的数字转换为汉字形式，得到文本s2，将文本s2作为第三语料文本，输入到预设的顺滑位置确定模型中，输出目标插入位置，例如，目标插入位置为位于“以来”之后的位置，再将目标插入位置之前的文本，即“另据华尔街日报报道二零一三年是一九九五年以来”输入到预设的冗余词生成模型中，生成目标冗余词“那个”，并将其插入到目标插入位置中，得到训练数据“另据华尔街日报报道二零一三年是一九九五年以来那个美国股市表现最好的一年”，并生成文本顺滑标签。
[0166]
进一步的，构建训练数据“另据华尔街日报报道二零一三年是一九九五年以来那个美国股市表现最好的一年”的标点标签以及数字规整标签。由于在s2中插入了目标冗余词，因此，需要基于插入的目标冗余词的位置和字数，对之前记录的s1中的标点类型、标点位置、数字位置进行更新，使更新后的标点位置、数字位置与插入目标冗余词之后形成的训练数据相匹配，并使用更新后的标点类型、标点位置、数字位置构建标点标签以及数字规整标签。
[0167]
需要说明的是，上述是以预设处理为标点添加处理以及数字规整处理为例进行说明的，当预设处理为标点添加处理或数字规整处理时，可以对应调整预设文本处理模型的结构，对应的文本处理方式与上述描述的内容类似，这里就不再赘述了。
[0168]
综上所述，本说明书实施例提供的方法，一方面，引入了注意力机制的多目标交
互，在输出文本顺滑处理结果的过程中，充分利用了标点添加处理和/或数字规整处理的特征，增加了文本顺滑处理的数据多样性；另一方面，在训练多任务的预设文本处理模型时，能够实现训练数据的自动构建以及自动标注每个任务的标签信息，节约了人力成本，提供了训练数据的构建效率。
[0169]
基于同一发明构思，本说明书实施例还提供一种语音识别文本处理装置，如图3所示，该装置包括：
[0170]
获取模块301，用于获取语音识别得到的原始文本；
[0171]
第一处理模块302，用于对所述原始文本进行预设处理，得到预设处理结果，其中，所述预设处理包括标点添加处理和/或数字规整处理，所述预设处理结果包括包括标点添加处理结果和/或数字规整处理结果；
[0172]
第二处理模块303，用于通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果；
[0173]
第三处理模块304，用于基于所述文本顺滑处理结果与所述预设处理结果，得到所述原始文本的处理后文本。
[0174]
可选地，所述预设处理为标点添加处理和数据规整处理时，所述装置还包括：
[0175]
数据融合模块，用于将所述标点添加处理结果与所述数字规整处理结果进行融合，得到融合数据；
[0176]
第二处理模块303，用于基于所述融合数据，通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果。
[0177]
可选地，所述预设处理为标点添加处理时，第一处理模块302，用于：
[0178]
基于预设的标点标签字典，对所述原始文本进行序列标注，得到所述标点添加处理结果作为所述预设处理结果。
[0179]
可选地，所述预设处理为数字规整处理时，第一处理模块302，用于：
[0180]
基于预设的数字规整标签字典，对所述原始文本进行序列标注，得到所述数字规整处理结果作为所述预设处理结果。
[0181]
可选地，第二处理模块303，用于：
[0182]
对所述原始文本进行文本顺滑特征提取，得到文本顺滑特征数据；
[0183]
对所述融合数据以及所述文本顺滑特征数据进行注意力机制计算，得到交互特征数据；
[0184]
基于所述交互特征数据以及所述文本顺滑特征数据，得到所述文本顺滑处理结果。
[0185]
可选地，第一处理模块302以及第二处理模块303，用于：通过预设文本处理模型对所述原始文本进行所述预设处理以及所述文本顺滑处理；
[0186]
所述装置还包括：
[0187]
构建模块，用于构建所述预设文本处理模型的训练数据以及所述训练数据的标签信息，所述标签信息包括所述训练数据的标点标签、数字规整标签以及文本顺滑标签中的至少一种；
[0188]
训练模块，用于基于所述训练数据以及所述训练数据的标签信息，对初始文本处理模型进行训练，得到训练好的文本处理模型，作为所述预设文本处理模型。
[0189]
可选地，所述构建模块，用于：
[0190]
获取第一语料文本；
[0191]
过滤所述第一语料文本中的标点，得到所述训练数据；
[0192]
基于所述第一语料文本中每个标点的标点类型、标点位置、以及预设的标点标签字典，对所述训练数据进行序列标注，得到所述训练数据的标点标签。
[0193]
可选地，所述构建模块，用于：
[0194]
获取第二语料文本；
[0195]
将所述第二语料文本中的非汉字形式的数字转换为汉字形式，得到所述训练数据；
[0196]
基于所述第二语料文本中所述非汉字形式的数字的位置，以及预设的数字规整标签字典，对所述训练数据进行序列标注，得到所述训练数据的数字规整标签。
[0197]
可选地，所述构建模块，用于：
[0198]
获取第三语料文本；
[0199]
在所述第三语料文本中确定出插入冗余词的目标插入位置；
[0200]
基于所述第三语料文本中位于所述目标插入位置之前的文本，预测所述目标插入位置处插入的目标冗余词；
[0201]
将所述目标冗余词插入到所述目标插入位置，得到所述训练数据；
[0202]
基于所述目标冗余词、所述目标插入位置以及预设的文本顺滑标签字典，对所述训练数据进行序列标注，得到所述训练数据的文本顺滑标签。
[0203]
可选地，所述构建模块，用于：
[0204]
将所述第三语料文本输入到预设的顺滑位置确定模型中，得到所述目标插入位置；
[0205]
将所述第三语料文本中位于所述目标插入位置之前的文本，输入到预设的冗余词生成模型中，得到所述目标冗余词。
[0206]
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
[0207]
基于同一发明构思，本发明实施例提供一种电子设备800，图4是根据一示例性实施例示出的电子设备800的框图。例如，设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
[0208]
参照图4，设备800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(i/o)的接口812，传感器组件814，以及通信组件816。
[0209]
处理组件802通常控制设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理部件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
[0210]
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消
息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(sram)，电可擦除可编程只读存储器(eeprom)，可擦除可编程只读存储器(eprom)，可编程只读存储器(prom)，只读存储器(rom)，磁存储器，快闪存储器，磁盘或光盘。
[0211]
电力组件806为设备800的各种组件提供电力。电力组件806可以包括电源管理系统，一个或多个电源，及其他与为设备800生成、管理和分配电力相关联的组件。
[0212]
多媒体组件808包括在设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(lcd)和触摸面板(tp)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
[0213]
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(mic)，当设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
[0214]
i/o接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
[0215]
传感器组件814包括一个或多个传感器，用于为设备800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如组件为设备800的显示器和小键盘，传感器组件814还可以检测设备800或设备800一个组件的位置改变，用户与设备800接触的存在或不存在，设备800方位或加速/减速和设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如cmos或ccd图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
[0216]
通信组件816被配置为便于设备800和其他设备之间有线或无线方式的通信。设备800可以接入基于通信标准的无线网络，如wifi，2g或3g，或它们的组合。在一个示例性实施例中，通信部件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，通信部件816还包括近场通信(nfc)模块，以促进短程通信。例如，在nfc模块可基于射频识别(rfid)技术，红外数据协会(irda)技术，超宽带(uwb)技术，蓝牙(bt)技术和其他技术来实现。
[0217]
在示例性实施例中，设备800可以被一个或多个应用专用集成电路(asic)、数字信号处理器(dsp)、数字信号处理设备(dspd)、可编程逻辑器件(pld)、现场可编程门阵列(fpga)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
[0218]
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例
如包括指令的存储器804，上述指令可由设备800的处理器820执行以完成上述方法。例如，非临时性计算机可读存储介质可以是rom、随机存取存储器(ram)、cd-rom、磁带、软盘和光数据存储设备等。
[0219]
图5是本发明的一些实施例中服务器的结构示意图。该服务器1900可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processing units，cpu)1922(例如，一个或一个以上处理器)和存储器1932，一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中，存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器1922可以设置为与存储介质1930通信，在服务器1900上执行存储介质1930中的一系列指令操作。
[0220]
服务器1900还可以包括一个或一个以上电源1926，一个或一个以上有线或无线网络接口1950，一个或一个以上输入输出接口1958，一个或一个以上键盘1956，和/或，一个或一个以上操作系统1941，例如windows servertm，mac os xtm，unixtm,linuxtm，freebsdtm等等。
[0221]
一种非临时性计算机可读存储介质，当存储介质中的指令由装置(服务器或者终端)的处理器执行时，使得装置能够执行前述各实施例的数据处理方法。
[0222]
一种非临时性计算机可读存储介质，当存储介质中的指令由装置(服务器或者终端)的处理器执行时，使得装置能够执行一种语音识别文本处理方法，方法包括：
[0223]
获取语音识别得到的原始文本；
[0224]
对所述原始文本进行预设处理，得到预设处理结果，其中，所述预设处理包括标点添加处理和/或数字规整处理，所述预设处理结果包括标点添加处理结果和/或数字规整处理结果；
[0225]
通过注意力机制对所述原始文本进行文本顺滑处理，得到文本顺滑处理结果；
[0226]
基于所述文本顺滑处理结果与所述预设处理结果，得到所述原始文本的处理后文本。
[0227]
本发明实施例提供的一个或多个技术方案，至少实现了如下技术效果或者优点：
[0228]
将文本顺滑处理与标点添加处理、数字规整处理基于注意力机制进行信息交互，或者将文本顺滑处理与标点添加处理基于注意力机制进行信息交互，或者将文本顺滑处理与数字规整处理基于注意力机制进行信息交互，能够使得在文本顺滑处理的过程中充分利用了标点添加处理的特征信息和/或数字规整处理的特征信息，增加了文本顺滑处理的数据多样性，进而提高了语音识别文本处理的准确率。
[0229]
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。
[0230]
应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制以
上仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。