基于语义锚点路由对齐的模型训练方法和问答方法

本申请涉及大语言模型，具体地涉及一种基于语义锚点路由对齐的模型训练方法和问答方法。

背景技术：

1、随着大语言模型的发展，混合专家模型架构作为大语言模型领域的核心架构之一，其通过在参数规模扩展与计算效率之间取得战略性平衡，实现了模型能力的显著提升。

2、然而，在相关技术中，混合专家模型无法激活在主导语言训练中形成的、蕴含复杂领域知识的专家，降低了模型的推理能力，破坏了模型内部表征的跨语言一致性。

技术实现思路

1、鉴于上述问题，本申请提供了一种基于语义锚点路由对齐的模型训练方法和问答方法。

2、根据本申请的第一个方面，提供了一种基于语义锚点路由对齐的模型训练方法，包括：利用初始混合专家模型，处理第一样本问答对得到第一样本路由概率分布、以及处理第二样本问答对得到第二样本路由概率分布，其中，第一样本问答对与第二样本问答对具有相同语义且语言类型不同，与第一样本问答对的语言类型对应的数据资源量高于与第二样本问答对的语言类型对应的数据资源量；分别对第一样本路由概率分布中各第一样本语义单元的路由概率、以及第二样本路由概率分布中各第二样本语义单元的路由概率进行聚合，得到与第一样本问答对对应的样本参考分布特征和与第二样本问答对对应的样本待对齐分布特征；基于样本参考分布特征和样本待对齐分布特征之间的差异，确定路由对齐损失；利用基于路由对齐损失得到的路由总损失，对初始混合专家模型进行参数调整，得到混合专家模型。

3、根据本申请的实施例，第一样本问答对包括第一样本问题和第一样本答案；对第一样本路由概率分布中各第一样本语义单元的路由概率进行聚合，得到与第一样本问答对对应的样本参考分布特征，包括：利用有效性掩码，对第一样本路由概率分布中的非语义单元进行过滤，得到各第一样本语义单元的路由概率；将第一样本问题与第一样本答案进行向量拼接，得到各第一样本语义单元的第一表征向量，第一样本问题与第一样本答案由多个第一样本语义单元组成；基于路由概率分布计算函数，对各第一表征向量进行计算，得到各第一样本语义单元的第一样本路由概率；对各第一样本路由概率进行聚合，得到样本参考分布特征。

4、根据本申请的实施例，对各第一样本路由概率进行聚合，得到样本参考分布特征，包括：分别确定各第一表征向量的第一路由分数；对各第一路由分数进行归一化，得到与第一样本问答对对应的样本参考分布特征。

5、根据本申请的实施例，第二样本问答对包括第二样本问题和第二样本答案；对第二样本路由概率分布中各第二样本语义单元的路由概率进行聚合，得到与第二样本问答对对应的样本待对齐分布特征，包括：将第二样本问题与第二样本答案进行向量拼接，得到各第二样本语义单元的第二表征向量，第二样本问题与第二样本答案由多个第二样本语义单元组成；基于路由概率分布计算函数，对各第二表征向量进行计算，得到各第二样本语义单元的第二样本路由概率；对各第二样本路由概率进行聚合，得到样本待对齐分布特征。

6、根据本申请的实施例，对各第二样本路由概率进行聚合，得到样本待对齐分布特征，包括：分别确定第二表征向量的第二路由分数；对各第二路由分数进行归一化，得到与第二样本问答对对应的样本待对齐分布特征。

7、根据本申请的实施例，初始混合专家模型中的门控网络包括m个候选层，m为大于1的整数；基于样本参考分布特征和样本待对齐分布特征之间的差异，确定路由对齐损失，包括：针对m个候选层，分别计算各候选层的样本参考分布特征和样本待对齐分布特征之间的差异；根据差异，从m个候选层中，确定n个目标层，1

8、根据本申请的实施例，基于每个目标层的差异，确定路由对齐子损失，包括：基于样本参考分布特征和样本待对齐分布特征，确定平均分布特征；通过样本参考分布特征和平均分布特征之间的第一差异、以及样本待对齐分布特征和平均分布特征之间的第二差异，确定路由对齐子损失。

9、根据本申请的实施例，路由总损失是通过以下方式得到的：根据第二样本问答对中的第二样本答案与第一样本问答对中的第一样本答案之间的差异，确定交叉熵损失；基于初始混合专家模型中的专家数量、样本参考分布特征的平均值及其对应的权重，确定专家负载均衡损失；将交叉熵损失、专家负载均衡损失和路由对齐损失进行融合，得到路由总损失。

10、根据本申请的实施例，基于语义锚点路由对齐的模型训练方法还包括：通过初始混合专家模型，得到与第一样本问题对应的第一候选答案；利用正则表达式，对第一候选答案进行提取，得到第一样本答案，第一样本答案用于表征第一样本问题的正确答案；通过教师模型，对第一样本问答对的语言类型进行转换，得到第二样本问答对。

11、根据本申请的实施例，本申请的第二方面提供了一种问答方法，包括：获取目标问题；将目标问题输入至混合专家模型，得到目标答案。

12、根据本申请的实施例，利用初始混合专家模型分别处理语义相同但语言资源量不同的第一样本问答对和第二样本问答对，能够得到反映不同语言下专家激活模式的第一样本路由概率分布和第二样本路由概率分布。通过对各语义单元的路由概率进行聚合，获得样本参考分布特征和样本待对齐分布特征，从而将语义级别的路由信息转换为序列级的路由统计特征。基于样本参考分布特征和样本待对齐分布特征之间的差异，确定路由对齐损失，并利用包含路由对齐损失的路由总损失进行参数调整，使得调整后的混合专家模型在处理低资源语言时，其内部路由分布能够向高资源语言的语义锚点靠拢。通过路由对齐损失对混合专家模型内部的路由行为进行显式约束，实现了跨语言专家激活路径的机制性统一。

1.一种基于语义锚点路由对齐的模型训练方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述第一样本问答对包括第一样本问题和第一样本答案；

3.根据权利要求2所述的方法，其特征在于，所述对各所述第一样本路由概率进行聚合，得到所述样本参考分布特征，包括：

4.根据权利要求1所述的方法，其特征在于，所述第二样本问答对包括第二样本问题和第二样本答案；

5.根据权利要求4所述的方法，其特征在于，所述对各所述第二样本路由概率进行聚合，得到所述样本待对齐分布特征，包括：

6.根据权利要求1所述的方法，其特征在于，所述初始混合专家模型中的门控网络包括m个候选层，m为大于1的整数；

7.根据权利要求6所述的方法，其特征在于，所述基于每个所述目标层的所述差异，确定路由对齐子损失，包括：

8.根据权利要求1或7所述的方法，其特征在于，所述路由总损失是通过以下方式得到的：

9.根据权利要求1所述的方法，其特征在于，所述方法还包括：

10.一种问答方法，其特征在于，所述方法包括：