文本处理方法及文本处理模型训练方法与流程

摘要: 本说明书实施例涉及计算机,特别涉及文本处理方法及文本处理模型训练方法。背景技术:1、随着全球化进程的加快和互联网技术的迅猛发展,跨语言交流的需求日益增加。传统的...
文本处理方法及文本处理模型训练方法与流程

本说明书实施例涉及计算机,特别涉及文本处理方法及文本处理模型训练方法。

背景技术:

1、随着全球化进程的加快和互联网技术的迅猛发展,跨语言交流的需求日益增加。传统的文本处理方法和工具往往局限于逐字逐句的机械化处理,以及针对用户提供的文本内容进行机械化的解释说明,难以满足用户对于高质量、特定语言内容的生成需求。

2、现有技术中,虽然已经存在一些基于机器学习或深度学习的语言处理模型,可以实现生成内容的语言控制,但这些模型在处理多语言场景时通常缺乏足够的灵活性和可控性。往往不能很好地根据具体的语言类型生成用户需要的文本内容,这将为用户的阅读带来障碍,影响用户的使用体验。因此,亟需一种较为有效的文本处理方法以解决上述问题。

技术实现思路

1、有鉴于此,本说明书实施例提供了一种文本处理方法。本说明书一个或者多个实施例同时涉及一种文本处理装置,一种文本处理模型训练方法,一种文本处理模型训练装置,一种问答任务处理方法,一种问答任务处理装置,一种模型训练平台,一种计算设备,一种计算机可读存储介质以及一种计算机程序产品,以解决现有技术中存在的技术缺陷。

2、根据本说明书实施例的第一方面,提供了一种文本处理方法,包括:

3、获取待处理文本,并确定关联目标语言的语言特征信息;

4、基于所述语言特征信息和所述待处理文本生成所述目标语言的语言控制信息;

5、基于所述待处理文本和所述语言控制信息的控制引导,生成所述待处理文本对应的目标文本。

6、根据本说明书实施例的第二方面,提供了一种文本处理装置,包括:

7、获取模块,被配置为获取待处理文本,并确定关联目标语言的语言特征信息;

8、第一生成模块,被配置为基于所述语言特征信息和所述待处理文本生成所述目标语言的语言控制信息;

9、第二生成模块,被配置为基于所述待处理文本和所述语言控制信息的控制引导,生成所述待处理文本对应的目标文本。

10、根据本说明书实施例的第三方面,提供了一种文本处理模型训练方法,包括:

11、确定初始文本处理模型,以及用于对所述初始文本处理模型进行微调训练的训练样本,并确定所述训练样本包含的参数训练样本和特征度量样本;

12、利用所述特征度量样本在所述初始文本处理模型的所述目标模型层中标记关联所述目标语言的所述目标特征,以及利用所述参数训练样本计算所述目标模型层对应的所述语言控制参数;

13、基于所述目标特征和所述语言控制参数将所述初始文本处理模型更新为文本处理模型。

14、根据本说明书实施例的第四方面,提供了一种文本处理模型训练装置,包括:

15、确定初始文本处理模型,以及用于对所述初始文本处理模型进行微调训练的训练样本,并确定所述训练样本包含的参数训练样本和特征度量样本;

16、利用所述特征度量样本在所述初始文本处理模型的所述目标模型层中标记关联所述目标语言的所述目标特征,以及利用所述参数训练样本计算所述目标模型层对应的所述语言控制参数;

17、基于所述目标特征和所述语言控制参数将所述初始文本处理模型更新为文本处理模型。

18、根据本说明书实施例的第五方面,提供了一种问答任务处理方法,包括:

19、获取目标问题,并确定关联目标语言的语言特征信息;

20、基于所述语言特征信息和所述目标问题生成所述目标语言的语言控制信息;

21、基于所述目标问题和所述语言控制信息的控制引导,生成所述目标问题对应的目标答案。

22、根据本说明书实施例的第六方面,提供了一种问答任务处理装置,包括:

23、获取目标问题,并确定关联目标语言的语言特征信息;

24、基于所述语言特征信息和所述目标问题生成所述目标语言的语言控制信息;

25、基于所述目标问题和所述语言控制信息的控制引导,生成所述目标问题对应的目标答案。

26、根据本说明书实施例的第七方面,提供了一种模型训练平台,包括请求接口单元、模型训练单元和响应单元;所述请求接口单元,用于接收模型训练请求,其中,该模型训练请求中包括初始文本处理模型的模型信息;

27、所述模型训练单元,用于根据所述模型属性信息确定所述初始文本处理模型,并对所述初始文本处理模型进行模型训练,获得文本处理模型,其中,所述文本处理模型的目标模型层标记了目标特征和语言控制参数;

28、所述响应单元,用于输出所述目标模型。

29、根据本说明书实施例的第八方面,提供了一种计算设备,包括:

30、存储器和处理器;

31、所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,该计算机可执行指令被处理器执行时实现上述文本处理方法的步骤。

32、根据本说明书实施例的第九方面,提供了一种计算机可读存储介质,其存储有计算机可执行指令,该指令被处理器执行时实现上述文本处理方法的步骤。

33、根据本说明书实施例的第十方面,提供了一种计算机程序产品,包括计算机程序或指令,该计算机程序或指令被处理器执行时实现上述文本处理方法的步骤。

34、本说明书一个实施例提供的文本处理方法,获取待处理文本,并确定关联目标语言的语言特征信息。语言特征信息用于识别目标语言,以及控制生成的目标文本的语言类型,确保生成的对应待处理文本的目标文本与目标语言匹配。基于语言特征信息和待处理文本生成目标语言的语言控制信息。基于待处理文本和语言控制信息的控制引导,生成待处理文本对应的目标文本。基于语言控制信息的控制引导,可以确保生成的目标文本为目标语言的内容,符合以目标语言为主要语种的用户阅读和理解目标文本。在多语言场景下,具备生成多语言内容的可控式生成能力。

1.一种文本处理方法,包括:

2.根据权利要求1所述的文本处理方法,所述基于所述语言特征信息和所述待处理文本生成所述目标语言的语言控制信息,包括:

3.根据权利要求1所述的文本处理方法,所述获取待处理文本,并确定关联目标语言的语言特征信息,包括:

4.根据权利要求3所述的文本处理方法,所述文本处理模型的微调训练,包括:

5.根据权利要求4所述的文本处理方法,所述利用所述特征度量样本在初始文本处理模型的所述目标模型层中标记关联所述目标语言的所述目标特征,包括:

6.根据权利要求5所述的文本处理方法,所述基于所述特征集合和所述特征度量样本计算所述特征度量样本对应的至少一种语言样本分别对应的特征相关信息,包括:

7.根据权利要求4所述的文本处理方法,所述利用所述参数训练样本计算所述目标模型层对应的所述语言控制参数,包括:

8.根据权利要求2所述的文本处理方法,所述基于所述待处理文本和所述语言特征信息中的目标特征生成所述目标语言的特征参数,包括:

9.一种文本处理模型训练方法,包括:

10.根据权利要求9所述的文本处理模型训练方法,所述基于所述目标特征和所述语言控制参数将所述初始文本处理模型更新为文本处理模型之后,还包括:

11.根据权利要求10所述的文本处理模型训练方法,所述基于所述反馈信息对所述文本处理模型进行模型微调,包括:

12.一种问答任务处理方法,包括:

13.一种模型训练平台,包括请求接口单元、模型训练单元和响应单元;

14.根据权利要求13所述的模型训练平台,还包括数据接收单元,

15.根据权利要求13所述的模型训练平台,还包括模型库,其中,所述模型库存储有多个候选文本处理模型;

16.一种计算设备,包括:

17.一种计算机可读存储介质,其存储有计算机程序或指令,该计算机程序或指令被处理器执行时实现权利要求1至12任意一项所述方法的步骤。

18.一种计算机程序产品,包括计算机程序或指令,该计算机程序或指令被处理器执行时实现权利要求1至12任意一项所述方法的步骤。