基于检索增强生成的神经机器翻译方法、装置和设备与流程

摘要: 本申请涉及自然语言处理,具体而言,涉及基于检索增强生成的神经机器翻译方法、装置和设备。背景技术:1、神经机器翻译(neuralmachinetranslatio...
基于检索增强生成的神经机器翻译方法、装置和设备与流程

本申请涉及自然语言处理,具体而言,涉及基于检索增强生成的神经机器翻译方法、装置和设备。

背景技术:

1、神经机器翻译(neural machine translation, nmt)作为自然语言处理领域的核心技术之一,其核心作用是实现不同语言间的自动转换,为跨语言沟通提供高效、便捷的解决方案。具体而言,神经机器翻译通过构建深度神经网络模型,对输入的源语言文本进行语义理解、特征提取与重组,最终输出符合目标语言表达习惯的翻译结果,广泛应用于国际贸易、跨境沟通、学术交流等场景。

2、目前,在专业领域(如医疗、法律、工程等)的翻译应用中,现有神经机器翻译技术存在专业领域术语翻译准确性不足的问题,对于行业专属术语、特定表达,易出现语义偏差、翻译错误,难以满足高精度翻译需求。

技术实现思路

1、本申请的主要目的在于提供基于检索增强生成的神经机器翻译方法、装置和设备,以解决现有技术中神经机器翻译技术在专业领域术语翻译存在的准确性不足的问题。

2、为了实现上述目的,本申请的第一方面,提出了一种基于检索增强生成的神经机器翻译方法,应用于翻译大模型,所述翻译大模型包括编码器、解码器以及嵌入在所述编码器和所述解码器之间的检索增强生成语义对齐层,包括:

3、获取源语言文本以及与所述源语言文本相关联的检索知识片段,其中,所述检索知识片段包含源语言表述及对应目标语言表述;

4、通过所述编码器对所述源语言文本进行编码,得到文本特征向量;通过所述编码器对所述检索知识片段进行编码,得到检索结果向量;

5、在所述检索增强生成语义对齐层中,对所述文本特征向量与所述检索结果向量进行融合,得到增强特征向量;

6、基于所述增强特征向量,通过所述解码器生成所述源语言文本对应的目标语言翻译结果。

7、第二方面,提出了一种基于检索增强生成的神经机器翻译装置,应用于翻译大模型,所述翻译大模型包括编码器、解码器以及嵌入在所述编码器和所述解码器之间的检索增强生成语义对齐层,包括:

8、获取模块,用于获取源语言文本以及与所述源语言文本相关联的检索知识片段,其中,所述检索知识片段包含源语言表述及对应目标语言表述;

9、编码模块,用于通过所述编码器对所述源语言文本进行编码,得到文本特征向量;通过所述编码器对所述检索知识片段进行编码,得到检索结果向量;

10、融合模块,用于在所述检索增强生成语义对齐层中,对所述文本特征向量与所述检索结果向量进行融合,得到增强特征向量;

11、生成模块,用于基于所述增强特征向量,通过所述解码器生成所述源语言文本对应的目标语言翻译结果。

12、第三方面,提出了一种电子设备,包括:

13、至少一个处理器;以及

14、与该至少一个处理器通信连接的存储器;其中,

15、该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行本公开实施例中任一的方法。

16、本申请的实施例提供的技术方案可以包括以下有益效果:

17、在本申请中,通过在检索增强生成语义对齐层完成文本特征向量与检索结果向量的特征融合得到增强特征向量,依托增强特征向量驱动解码器生成翻译结果,能够精准引入与源语言文本关联的双语检索知识片段进行语义辅助,强化跨语言语义对齐效果,提升专业领域术语及语境表达的翻译准确性与流畅度,减少翻译语义偏差与模型幻觉问题,显著改善整体神经机器翻译的生成质量与场景适配能力。

1.一种基于检索增强生成的神经机器翻译方法,其特征在于,应用于翻译大模型,所述翻译大模型包括编码器、解码器以及嵌入在所述编码器和所述解码器之间的检索增强生成语义对齐层,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述对所述文本特征向量与所述检索结果向量进行融合,得到增强特征向量包括:

3.根据权利要求1所述的方法,其特征在于,在所述对所述文本特征向量与所述检索结果向量进行融合之前,所述方法还包括:

4.根据权利要求2所述的方法,其特征在于,所述缩放点积注意力机制的计算公式为:,其中,q为查询向量,k为键向量,v为值向量,d为键向量维度;t为键向量的转置;

5.根据权利要求1所述的方法,其特征在于,所述检索知识片段包括来源于多个不同知识源的检索知识片段;在所述通过所述编码器对所述检索知识片段进行编码之前,所述方法还包括:

6.根据权利要求1所述的方法,其特征在于,在所述获取与所述源语言文本相关联的检索知识片段之前,所述方法还包括:

7.根据权利要求6所述的方法,其特征在于,在所述通过所述编码器对所述检索知识片段进行编码,得到检索结果向量之后,所述方法还包括:

8.根据权利要求1所述的方法,其特征在于,在所述通过所述解码器生成所述源语言文本对应的目标语言翻译结果之后,所述方法还包括:

9.一种基于检索增强生成的神经机器翻译装置,其特征在于,应用于翻译大模型,所述翻译大模型包括编码器、解码器以及嵌入在所述编码器和所述解码器之间的检索增强生成语义对齐层,所述装置包括:

10.一种电子设备,包括: