文本处理方法、装置、存储介质、电子设备及系统与流程

1.本公开涉及自然语音处理技术领域，具体地，涉及一种文本处理方法、装置、存储介质、电子设备及系统。


背景技术：

2.在相关技术中，获取的原始输入文本可能并没有合理的表达其原意，因此，需要对此类文本进行合理化的干预处理(例如改写处理)，以便于原始输入文本更好的表达其原意。
3.然而，在传统的文本改写中，通常采用模型来对文本进行改写，而在模型使用中会涉及模型的离线更新，而在实际的工业应用场景下，文本的在线实时处理尤为重要，因此，离线更新模型的方式会严重影响文本在线处理的实时性。


技术实现要素：

4.提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
5.第一方面，本公开提供一种文本处理方法，包括：
6.获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；
7.根据所述目标示例文本和所述目标短语改写示例对，生成索引关系；
8.将所述索引关系存储至索引数据库；
9.根据所述索引数据库中的索引关系，对获取的输入文本进行文本改写。
10.第二方面，本公开提供一种文本处理装置，包括：
11.第一获取模块，用于获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；
12.生成模块，用于根据所述目标示例文本和所述目标短语改写示例对，生成索引关系；
13.存储模块，用于将所述索引关系存储至索引数据库；
14.改写模块，用于根据所述索引数据库中的索引关系，对获取的输入文本进行文本改写。
15.第三方面，本公开提供一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现第一方面中所述方法的步骤。
16.第四方面，本公开提供一种电子设备，包括：
17.存储装置，其上存储有计算机程序；
是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
36.需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
37.需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
38.本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
39.可以理解的是，在使用本公开各实施例公开的技术方案之前，均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
40.例如，在响应于接收到用户的主动请求时，向用户发送提示信息，以明确地提示用户，其请求执行的操作将需要获取和使用到用户的个人信息。从而，使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息。
41.作为一种可选的但非限定性的实现方式，响应于接收到用户的主动请求，向用户发送提示信息的方式例如可以是弹窗的方式，弹窗中可以以文字的方式呈现提示信息。此外，弹窗中还可以承载供用户选择“同意”或者“不同意”向电子设备提供个人信息的选择控件。
42.可以理解的是，上述通知和获取用户授权过程仅是示意性的，不对本公开的实现方式构成限定，其它满足相关法律法规的方式也可应用于本公开的实现方式中。
43.同时，可以理解的是，本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。
44.正如背景技术所言，通常采用大量文本训练数据训练神经网络模型，以根据训练好的神经网络模型对文本进行改写，而在模型的实际使用时，对于与文本训练数据分布相差较大的输入，模型往往给出异常的输出，影响模型的综合表现。为解决模型异常输出的问题，通常是将异常的输入输出实例进行人工校正(或标注)，再重新喂入模型进行训练然而，模型重新训练涉及到模型参数的重新调整和学习，通常在离线阶段完成，如此便会影响实际工业应用场景中对文本进行改写处理的实时性。此外，由于模型重新上线可能也同时涉及到环境的重新部署，如此，将进一步影响实际工业应用场景中对文本进行改写处理的实时性。
45.有鉴于此，本公开实施例提供一种文本处理方法、装置、存储介质、电子设备及系统，有效地保证了文本改写处理的实时性。
46.以下结合附图对本公开的实施例进行进一步解释说明。
47.图1是根据本公开一示例性实施例示出的一种文本处理系统的示意图。参照图1，文本处理方法可以应用于文本处理系统的干预侧，干预侧的干预平台用于获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，索引服务器(图1中以索引服务示意)用于从干预平台获取目标示例文本和目标短语改写示例对，根据获取的目标示
例文本和目标短语改写示例对，生成索引关系，并将索引关系存储至索引数据库(图1中以向量索引示意)；索引服务器还用于根据索引数据库中的索引关系，对获取的输入文本进行文本改写。具体的，索引服务器可以在收到干预平台发起的索引处理请求(图1中干预平台和索引服务之间的rpc(remote procedure call，远程过程调用))时，则执行索引关系的生成。
48.继续参照图1，在一些实施例中，干预侧的干预平台用于接收专家输入的需要改写的示例文本和与示例文本对应的短语改写示例对，干预侧的干预平台还用于根据示例文本在语料库数据库(图1中以语料库倒排索引示意)的预构建的文本与短语的倒排索引中召回与示例改写短语对对应的召回文本。干预侧的干预平台还用于将示例文本、召回文本以及示例改写短语对存储至干预数据库中。在索引服务器收到干预平台发起的索引处理请求时，可以从干预数据库中进行初始化加载，以获取示例文本、召回文本以及示例改写短语对，进而执行索引关系的生成。
49.继续参照图1，在一些实施例中，干预侧的索引服务器用于实现对索引数据库(图1中以向量索引示意)中的索引关系管理，该管理例如可以是索引数据库中新增索引关系(可以理解为上述索引关系的生成)、删除索引数据库中的索引关系以及修改索引数据库中的索引关系等。
50.继续参照图1，在一些实施例中，干预侧的索引服务器还用于对应用端(图1以应用侧示意)发起的文本处理请求(图1中应用侧和索引服务之间的rpc)进行处理，文本处理请求携带有用户输入的输入文本，通过应用端向索引服务器发送文本处理请求，以便于将输入文本发送到索引服务器。索引服务器对文本处理请求进行响应，实现对用户输入的输入文本的改写处理。其中，应用侧发起的文本处理请求对应图1所示的生成服务，生成服务包括 干预()和 生成()， 干预()可以是对应实现通过索引服务器提供的检索服务(图1中以 检索()进行示意)来判断输入文本是否需要改写以及在输入文本需要改写的情况下对输入文本的改写， 生成()可以用于对改写后的文本进行生成，例如 生成()可以是对改写后的文本进行翻译，得到翻译文本。
51.此外，在本公开可以应用于包括但不限于文本翻译场景、文本摘要、智能对话场景，以下以文本翻译场景为例对本公开实施例提供的一种文本处理方法进行解释说明，具体以中文文本翻译为英文文本为例进行说明。
52.图2是根据本公开一示例性实施例示出的一种文本处理方法的流程图。参照图2，包括以下步骤：
53.步骤s201，获取需要改写的目标示例文本与目标示例文本对应的目标短语改写示例对，目标短语改写示例对包括目标示例改写短语和与目标示例改写短语对应的目标示例替换短语。
54.步骤s202，根据目标示例文本和目标短语改写示例对，生成索引关系。
55.步骤s203，将索引关系存储至索引数据库。
56.步骤s204，根据索引数据库中的索引关系，对获取的输入文本进行文本改写。
57.需要理解的是，在不同语言环境下，将文本进行直译将造成语句语义发生变化，即得到的翻译文本并不能合理地准确表达原意，因此，在此种情况下，需要对文本进行改写。
58.示例地，以目标示例文本是“这个菜味道超棒，厨师真的有两把刷子”为例，在翻译
场景下，目标示例文本中的短语“两把刷子”，其并不是指代实际的刷子，因此并不能直译为“two brushes”，进而，需要对“这个菜味道超棒，厨师真的有两把刷子”进行改写。
59.承接上述示例，目标示例文本可以是“这个菜味道超棒，厨师真的有两把刷子”，目标示例改写短语可以是“两把刷子”，与目标示例改写短语对应的目标示例替换短语可以是“点东西”，与目标示例改写短语对应的目标示例替换短语也可以是“something”。在目标示例替换短语是“点东西”的情况下，可以对“这个菜味道超棒，厨师真的有两把刷子”中的“两把刷子”直接进行替换，再根据替换后的文本翻译为英文本文；在目标示例替换短语是“something”的情况下，可以先对“这个菜味道超棒，厨师真的有两把刷子”整个语句进行翻译，在将与“两把刷子”对应的英文单词替换为“something”，也可以先对“这个菜味道超棒，厨师真的有两把刷子”中的“两把刷子”替换为“something”，再对替换后得到的文本进行翻译，具体的改写形式并不造成对本公开的限定。
60.需要说明的是，索引关系表征了一种键值对的关系，根据该索引关系中的键可以确定与该键对应的值。示例地，可以将目标示例改写短语在目标示例文本的语义信息作为键，将与目标示例改写短语对应的目标示例替换短语作为值，以生成索引关系。
61.承接上述生成的索引关系的示例，具体来讲，在索引关系中查找与输入文本对应的目标示例改写短语，并根据与输入文本对应的目标示例改写短语对应的目标示例替换短语对输入文本进行改写。具体的改写实施方式可以参照上述示例，本实施例在此不做赘述。
62.需要说明的是，与输入文本对应的目标示例改写短语实则是指目标示例改写短语在该输入文本中的上下文语义信息与输入文本中与目标示例改写短语相同短语在输入文本中的上下文语义信息是相同的。
63.通过上述方式，由于可以根据获取的目标示例文本和目标短语改写示例对生成索引关系，并直接存储到索引索引数据库中，无需对索引数据库进行下线就能够实现对索引数据库的在线干预，并通过索引数据库中的索引关系实现对输入文本的改写，从而解决了因采用模型进行文本改写而模型需要离线更新进而影响文本在线改写的实时性的问题。
64.在实际应用中，用户的输入文本各种各样，但对于同一短语在不同语句的语义下，可以实现相同的替换。下表提供一些干预(改写)示例：
total”的倒排索引关系为例，输入的示例改写短语对为“两把刷子-something”为例，以“这个菜味道超棒，厨师真的有两把刷子”为示例文本为例，根据示例改写短语对中示例改写短语“两把刷子”，在上述倒排索引中可以召回“他一场比赛打进三个球，真有两把刷子”。
73.具体来讲，上述倒排索引的建立可以根据短语在文本中的上下文语义进行建立。承接上述倒排索引的示例，由于示例改写短语在“他一场比赛打进三个球，真有两把刷子”中的上下文语义，与示例改写短语在示例文本(这个菜味道超棒，厨师真的有两把刷子)中的上下文语义相同，对于“他一场比赛打进三个球，真有两把刷子”的文本而言，其也适用于针对示例文本中的“两把刷子”进行相同的改写。因此，可以将“他一场比赛打进三个球，真有两把刷子”作为召回文本；由于示例改写短语在“这个粉刷匠一共用了两把刷子”的上下文语义，与示例改写短语在示例文本(这个菜味道超棒，厨师真的有两把刷子)中的上下文语义是不相同，其并不适用于针对示例文本中的“两把刷子”进行相同的改写，因此，其不能作为召回文本。
74.通过上述方式，通过对专家输入的示例文本和与示例文本对应的短语改写示例对，在预构建的文本与短语的倒排索引中召回与示例改写短语在示例文本中具有相同上下文语义的召回文本，并建立该召回文本的索引关系，以此提高索引数据库的泛化性，进而达到提高对输入文本改写的泛化性的效果。
75.在一些实施例中，可以用向量的表示生成索引关系。举例来讲，图2所示的步骤s202可以通过以下方式实施：确定目标示例改写短语在目标示例文本中的第一向量表示，第一向量表示用于表征目标示例改写短语在目标示例文本中的上下文语义信息；根据第一向量表示和目标短语改写示例对，生成索引关系。
76.在一些实施例中，可以通过预训练的bert模型来确定目标示例改写短语在目标示例文本中的第一向量表示。参照图3，图3中的“这个菜味道超棒，厨师真的有两把刷子”为目标示例文本，图3中的“两把刷子”为目标示例改写短语，图3中的“干预词”为目标示例替换短语，通过预训练模型对“两把刷子”进行编码，得到的向量(即第一向量表示)[0.01,0.02.-0.03，
…
，0.05,0.37]作为索引关系中的key(键)，“两把刷子”和“干预词”组成映射关系作为索引关系中的value(值)，生成的索引关系存储到向量索引中。
[0077]
在一些实施例中，可以根据预训练的bert模型最后一层输出的目标示例改写短语中的每个字对应的token向量来确定第一向量表示。示例地，参照图4，图4为一种bert模型的结构，在该bert模型中包括12层编码器，每一层编码器用于对该层编码器的输入进行编码得到token向量，图4中，输入的字符包括9个，对应最后一层分别一一输出各字符对应的token向量，可以将最后一层输出的目标示例改写短语中的每个字(包括“两”，“把”，“刷”，“子”)对应的token向量的平均向量作为相应的第一向量表示。
[0078]
需要说明的是，图4中bert模型的输入仅以目标示例文本的一部分进行示例，在实际应用中，也可以将整个目标示例文本作为bert模型的输入，得到第一向量表示。
[0079]
通过上述方式，用向量来表征构建索引关系的键部分，可以便于后续基于索引数据库对输入文本进行改写。
[0080]
在一些实施例中，文本处理方法还可以包括：响应针对索引数据库的更新请求，对索引数据库中的索引关系进行更新，其中，更新请求包括删除请求和修改请求中的一种。
[0081]
在图2的实施例中，可以理解为在索引数据库中新增索引关系，其可以理解为是索
引数据库的一种更新方式。除新增索引关系的方式之外，针对索引数据库中已存储的索引关系，干预侧还还可以提供其他服务，来实现对索引数据库中已存储的索引关系其本身的更新。
[0082]
例如，更新请求可以通过图1中所示的索引服务实现，通过调用相应地服务生成相应的情况。
[0083]
其中，更新请求可以携带需要更新处理的索引关系的标识。根据该标识，可以在索引数据库中查找到对应的索引关系，进而实现索引关系的删除或更改。例如，更改可以是更改上述实施例提及的干预词。
[0084]
通过上述方式，通过提供不同于新增索引关系服务的更新请求，响应相应服务对应的更新请求，对索引数据库中已存储的索引关系进行更新，提高整个文本处理方法的实用性。
[0085]
在一些实施例中，图2中所示的步骤s204可以通过以下方式实施：响应获取到的所述输入文本，在输入文本中包括待改写短语的情况下，根据索引数据库中的索引关系，确定输入文本是否为需要改写的文本；在确定输入文本为需要改写的文本的情况下，根据与输入文本对应的索引关系对输入文本中的待改写短语进行改写处理。
[0086]
需要说明的是，在用户输入的输入文本中不包括待改写短语的情况下，说明无需对输入文本中的待改写短语进行改写处理。在输入文本包括待待写短语的情况下，还需确定输入文本为需要改写的文本，才对根据与输入文本对应的索引关系对输入文本中的待改写短语进行改写处理，以避免降低文本错误改写的概率。
[0087]
示例地，对于输入文本为“这个粉刷匠一共用了两把刷子”为例，其中，待改写短语“两把刷子”在该输入文本中的含义即表征了是指代实际刷子的含义，因此，无需对输入文本进行改写。
[0088]
示例地，对于输入文本为“他一场比赛打进三个球，真有两把刷子”为例，其中，待改写短语“两把刷子”在该输入文本中的含义即表征了并不是指代实际刷子的含义，因此，需要对输入文本进行改写。
[0089]
在一些实施例中，可以通过以下方式确定输入文本中是否包括待改写短语：对输入文本进行分词，得到多个短语结果；针对每一短语结果，在预构建的短语字典树中匹配与该短语结果匹配的短语；在成功匹配到与短语结果对应的短语的情况下，确定输入文本包括所述待改写短语。
[0090]
示例地，针对输入文本为“他一场比赛打进三个球，真有两把刷子”为例，可以得到的短语结果包括“两把刷子”。
[0091]
需要说明的是，字典树又称为单词查找树，是一种树形结构，查询效率较高。字典树与字典很相似，当你要查一个单词是不是在字典树中，首先看单词的第一个字母是不是在字典的第一层，如果不在，说明字典树里没有该单词，如果在就在该字母的孩子节点里找是不是有单词的第二个字母，没有说明没有该单词，有的话用同样的方法继续查找。因此，通过目标示例改写短语短语构建字典树，可以提高确定输入文本是否包括所述待改写短语的效率，进一步提高实时性。
[0092]
在上述相关实施例中，索引关系通过第一向量表示和目标短语改写示例对组成，第一向量表示用于表征目标示例改写短语在目标示例文本中的上下文语义信息，因此，可
以根据第一向量表示和输入文本中待改写短语的上下文语义信息是否匹配，来确定输入文本是否为需要改写的文本。
[0093]
举例来讲，获取输入文本中的待改写短语的第二向量表示，第二向量表示用于表征待改写短语在输入文本中的上下文语义信息；根据第二向量表示在索引数据库中查找与第二向量表示的距离最近的目标向量表示；在目标向量表示与第二向量表示的距离小于预设距离阈值的情况下，确定输入文本为需要改写的文本。
[0094]
需要说明的是，索引数据库中与第二向量表示的距离最近的第一向量表示为目标向量表示。
[0095]
其中，第二向量表示的确定方式与第一向量表示的确定方式类似，详细的确定方式参照上述相关实施例，本实施例在此不做赘述。
[0096]
其中，预设距离阈值可以根据实际情况进行设定，本实施例在此不作限定。
[0097]
在本实施例中，索引数据库的数据结构可以是一种图结构，该图结构可以是hnsw(hierarchical navigable small world，分层可导航小世界)图结构，具体查找算法参见相关技术，本实施在此不做赘述。在索引数据库的数据结构是hnsw图结构的情况下，可以通过朴素查找算法在索引数据库中查找与第二向量表示的距离最近的目标向量表示，如此可以避免暴力检索。
[0098]
以以下输入文本为例进行对文本改写进行示例性说明：
[0099]
输入文本1：这个菜味道很棒，厨师真的有两把刷子。
[0100]
输入文本2：他代码写得很6，真的有两把刷子。
[0101]
输入文本3：这个粉刷匠一共用了两把刷子。
[0102]
输入文本4：这个游戏没意思，玩家都是刷子。
[0103]
由于预构建的短语字典树中有“两把刷子”的短语，不存在“刷子”的短语，因此，可以将输入文本4过滤，则对输入文本4的不进行改写处理，以此避免错误的改写；
[0104]
再通过bert模型对输入文本1、输入文本2和输入文本3进行向量编码得到各自对应的第二向量表示：
[0105]
与输入文本1对应的第二向量表示：[0.01,0.02,-0.03,...,0.05,0.37]。
[0106]
与输入文本2对应的第二向量表示：[0.09,0.04,-0.01,...,0.17,0.07]。
[0107]
与输入文本3对应的第二向量表示：[0.06,0.12,-0.93,...,0.85,0.17]。
[0108]
根据索引数据库中的索引关系，采用朴素查找算法分别查找与输入文本1、输入文本2和输入文本3的第二向量表示所对应的距离最近的目标向量表示，进而分别得到输入文本1的第二向量表示与其对应的目标向量表示的距离、输入文本2的第二向量表示与其对应的目标向量表示的距离、输入文本3的第二向量表示与其对应的目标向量表示的距离：
[0109]
输入文本1的第二向量表示与其对应的目标向量表示的距离：0。
[0110]
输入文本2的第二向量表示与其对应的目标向量表示的距离：20。
[0111]
输入文本3的第二向量表示与其对应的目标向量表示的距离：200。
[0112]
由于预设距离阈值为50，因此，无需对输入文本3进行改写，对输入文本1和输入文本2进行改写，进而得到文本为：
[0113]
与输入文本1对应的改写后的文本：这个菜味道很棒，厨师真的有[干预词]。
[0114]
与输入文本2对应的改写后的文本：他代码写得很6，真的有[干预词]。
[0115]
其中，上述干预词可以参见上述相关实施例，本实施例在此不作限定。图5是根据本公开一示例性实施例示出的一种文本处理装置的框图，参照图5，文本处理装置500包括：
[0116]
第一获取模块501，用于获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；
[0117]
生成模块502，用于根据所述目标示例文本和所述目标短语改写示例对，生成索引关系；
[0118]
存储模块503，用于将所述索引关系存储至索引数据库；
[0119]
改写模块504，根据所述索引数据库，对获取的输入文本进行文本改写。
[0120]
可选的，所述第一获取模块501包括：
[0121]
第一获取子模块，用于获取输入的需要改写的示例文本和与所述示例文本对应的短语改写示例对，所述短语改写示例对包括示例改写短语和与所述示例改写短语对应的示例替换短语；
[0122]
召回子模块，用于根据所述短语改写示例对中的示例改写短语，在预构建的文本与短语的倒排索引中召回与所述示例改写短语对对应的召回文本；
[0123]
第一确定子模块，用于将所述召回文本和所述示例文本确定为所述目标示例文本，并将所述短语改写示例对确定为所述目标短语改写示例对。
[0124]
可选的，所述生成模块502包括：
[0125]
第二确定子模块，用于确定所述目标示例改写短语在所述目标示例文本中的第一向量表示，所述第一向量表示用于表征所述目标示例改写短语在所述目标示例文本中的上下文语义信息；
[0126]
生成子模块，用于根据所述第一向量表示和所述目标短语改写示例对，生成索引关系。
[0127]
可选的，所述装置500还包括：
[0128]
响应模块，用于响应针对所述索引数据库的更新请求，对所述索引数据库中的索引关系进行更新，其中，所述更新请求包括删除请求和修改请求中的一种。
[0129]
可选的，所述改写模块504包括：
[0130]
响应子模块，用于响应获取到的所述输入文本，在所述输入文本中包括待改写短语的情况下，根据所述索引数据库中的索引关系，确定所述输入文本是否为需要改写的文本；
[0131]
改写子模块，用于在确定所述输入文本为需要改写的文本的情况下，根据与所述输入文本对应的索引关系对所述输入文本中的待改写短语进行改写处理。
[0132]
可选的，所述装置500还包括：
[0133]
分词模块，用于对所述输入文本进行分词，得到多个短语结果；
[0134]
匹配模块，用于针对每一所述短语结果，在预构建的短语字典树中匹配与该短语结果匹配的短语，所述短语字典树通过所述目标示例改写短语进行构建；
[0135]
第一确定模块，用于在成功匹配到与所述短语结果对应的短语的情况下，确定所述输入文本包括所述待改写短语。
[0136]
可选的，所述索引关系通过第一向量表示和所述目标短语改写示例对组成，所述
第一向量表示用于表征所述目标示例改写短语在所述目标示例文本中的上下文语义信息，所述改写子模块包括：
[0137]
获取单元，用于获取所述输入文本中的待改写短语的第二向量表示，所述第二向量表示用于表征所述待改写短语在所述输入文本中的上下文语义信息；
[0138]
查找单元，用于根据所述第二向量表示在所述索引数据库中查找与所述第二向量表示的距离最近的目标向量表示；
[0139]
确定单元，用于在所述目标向量表示与所述第二向量表示的距离小于预设距离阈值的情况下，确定所述输入文本为需要改写的文本。
[0140]
可选的，所述索引数据库的数据结构为图结构，所述查找单元具体根据所述第二向量表示，采用朴素查找算法在所述索引数据库中查找与所述第二向量表示的距离最近的目标向量表示。
[0141]
下面参考图6，其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、pda(个人数字助理)、pad(平板电脑)、pmp(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字tv、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
[0142]
如图6所示，电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601，其可以根据存储在只读存储器(rom)602中的程序或者从存储装置608加载到随机访问存储器(ram)603中的程序而执行各种适当的动作和处理。在ram 603中，还存储有电子设备600操作所需的各种程序和数据。处理装置601、rom 602以及ram 603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。
[0143]
通常，以下装置可以连接至i/o接口605：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606；包括例如液晶显示器(lcd)、扬声器、振动器等的输出装置607；包括例如磁带、硬盘等的存储装置608；以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
[0144]
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置609从网络上被下载和安装，或者从存储装置608被安装，或者从rom 602被安装。在该计算机程序被处理装置601执行时，执行本公开实施例的方法中限定的上述功能。
[0145]
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、
或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、rf(射频)等等，或者上述的任意合适的组合。
[0146]
在一些实施方式中，电子设备可以利用诸如http(hypertext transfer protocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“lan”)，广域网(“wan”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
[0147]
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
[0148]
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；根据所述目标示例文本和所述目标短语改写示例对，生成索引关系；将所述索引关系存储至索引数据库；根据所述索引数据库中的索引关系，对获取的输入文本进行文本改写。
[0149]
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如java、smalltalk、c ，还包括常规的过程式程序设计语言——诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
[0150]
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
[0151]
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定，例如，第一获取模块还可以被描述为“获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对的模块”。
[0152]
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、片上系统(soc)、复杂可编程逻辑设备(cpld)等等。
[0153]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0154]
根据本公开的一个或多个实施例，示例1提供了一种文本处理方法，包括：
[0155]
获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；
[0156]
根据所述目标示例文本和所述目标短语改写示例对，生成索引关系；
[0157]
将所述索引关系存储至索引数据库；
[0158]
根据所述索引数据库中的索引关系，对获取的输入文本进行文本改写。
[0159]
根据本公开的一个或多个实施例，示例2提供了示例1的方法，所述获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，包括：
[0160]
获取输入的需要改写的示例文本和与所述示例文本对应的短语改写示例对，所述短语改写示例对包括示例改写短语和与所述示例改写短语对应的示例替换短语；
[0161]
根据所述短语改写示例对中的示例改写短语，在预构建的文本与短语的倒排索引中召回与所述示例改写短语对对应的召回文本；
[0162]
将所述召回文本和所述示例文本确定为所述目标示例文本，并将所述短语改写示例对确定为所述目标短语改写示例对。
[0163]
根据本公开的一个或多个实施例，示例3提供了示例1的方法，所述根据所述目标示例文本和所述目标短语改写示例对，生成索引关系，包括：
[0164]
确定所述目标示例改写短语在所述目标示例文本中的第一向量表示，所述第一向量表示用于表征所述目标示例改写短语在所述目标示例文本中的上下文语义信息；
[0165]
根据所述第一向量表示和所述目标短语改写示例对，生成索引关系。
[0166]
根据本公开的一个或多个实施例，示例4提供了示例1的方法，所述方法还包括：
[0167]
响应针对所述索引数据库的更新请求，对所述索引数据库中的索引关系进行更新，其中，所述更新请求包括删除请求和修改请求中的一种。
[0168]
根据本公开的一个或多个实施例，示例5提供了示例1-4中任一项的方法，所述根据所述索引数据库中的索引关系，对获取的输入文本进行文本改写，包括：
[0169]
响应获取到的所述输入文本，在所述输入文本中包括待改写短语的情况下，根据所述索引数据库中的索引关系，确定所述输入文本是否为需要改写的文本；
[0170]
在确定所述输入文本为需要改写的文本的情况下，根据与所述输入文本对应的索引关系对所述输入文本中的待改写短语进行改写处理。
[0171]
根据本公开的一个或多个实施例，示例6提供了示例5的方法，所述方法还包括：
[0172]
对所述输入文本进行分词，得到多个短语结果；
[0173]
针对每一所述短语结果，在预构建的短语字典树中匹配与该短语结果匹配的短语，所述短语字典树通过所述目标示例改写短语进行构建；
[0174]
在成功匹配到与所述短语结果对应的短语的情况下，确定所述输入文本包括所述待改写短语。
[0175]
根据本公开的一个或多个实施例，示例7提供了示例5的方法，所述索引关系通过第一向量表示和所述目标短语改写示例对组成，所述第一向量表示用于表征所述目标示例改写短语在所述目标示例文本中的上下文语义信息，所述根据所述索引数据库中的索引关系，确定所述输入文本是否为需要改写的文本，包括：
[0176]
获取所述输入文本中的待改写短语的第二向量表示，所述第二向量表示用于表征所述待改写短语在所述输入文本中的上下文语义信息；
[0177]
根据所述第二向量表示在所述索引数据库中查找与所述第二向量表示的距离最近的目标向量表示；
[0178]
在所述目标向量表示与所述第二向量表示的距离小于预设距离阈值的情况下，确定所述输入文本为需要改写的文本。
[0179]
根据本公开的一个或多个实施例，示例8提供了示例7的方法，所述索引数据库的数据结构为图结构，所述根据所述第二向量表示在所述索引数据库中查找与所述第二向量表示的距离最近的目标向量表示，包括：
[0180]
根据所述第二向量表示，采用朴素查找算法在所述索引数据库中查找与所述第二向量表示的距离最近的目标向量表示。
[0181]
根据本公开的一个或多个实施例，示例9提供了一种文本处理装置，包括：
[0182]
第一获取模块，用于获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；
[0183]
生成模块，用于根据所述目标示例文本和所述目标短语改写示例对，生成索引关系；
[0184]
存储模块，用于将所述索引关系存储至索引数据库；
[0185]
改写模块，根据所述索引数据库，对获取的输入文本进行文本改写。
[0186]
根据本公开的一个或多个实施例，示例10提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现示例1-8中任一项所述方法的步骤。
[0187]
根据本公开的一个或多个实施例，示例11提供了一种电子设备，包括：
[0188]
存储装置，其上存储有计算机程序；
[0189]
处理装置，用于执行所述存储装置中的所述计算机程序，以实现示例1-8中任一项所述方法的步骤。
[0190]
根据本公开的一个或多个实施例，示例12提供了一种文本处理系统，包括：
[0191]
索引数据库；
[0192]
索引服务器；
[0193]
干预平台，用于获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对，所述目标短语改写示例对包括目标示例改写短语和与所述目标示例改写短语对应的目标示例替换短语；
[0194]
所述索引服务器用于从所述干预平台获取所述目标示例文本和所述目标短语改写示例对，根据获取的所述目标示例文本和所述目标短语改写示例对，生成索引关系，并将所述索引关系存储至所述索引数据库；所述索引服务器还用于根据所述索引数据库中的索引关系，对获取的输入文本进行文本改写。
[0195]
根据本公开的一个或多个实施例，示例13提供了示例12的系统，还包括：
[0196]
语料数据库，用于存储预构建的文本与短语的倒排索引；
[0197]
所述干预平台还用于获取输入的需要改写的示例文本和与所述示例文本对应的短语改写示例对，在所述语料数据库中预构建的文本与短语的倒排索引中召回与示例改写短语对对应的召回文本，并将所述召回文本和所述示例文本确定为所述目标示例文本，并将所述短语改写示例对确定为所述目标短语改写示例对，所述短语改写示例对包括所述示例改写短语和与所述示例改写短语对应的示例替换短语。
[0198]
根据本公开的一个或多个实施例，示例14提供了示例12的系统，还包括：
[0199]
干预数据库；
[0200]
所述干预平台还用于将获取需要改写的目标示例文本与所述目标示例文本对应的目标短语改写示例对存储至所述干预数据库中，并生成索引建立请求发送至所述索引服务器；
[0201]
所述索引服务器还用于响应所述索引处理请求，从所述干预数据库中获取所述目标示例文本与所述目标示例文本对应的目标短语改写示例对。
[0202]
根据本公开的一个或多个实施例，示例15提供了示例12的系统，还包括：
[0203]
应用端，用于将所述输入文本发送至所述索引服务器。
[0204]
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
[0205]
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
[0206]
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。