一种大模型的多领域联合微调方法、装置、设备及存储介质与流程

本发明涉及自然语言处理与大模型微调，尤其涉及一种大模型的多领域联合微调方法、装置、设备及存储介质。

背景技术：

1、qwen系列、deepseek系列等通用稠密预训练大模型拥有优异的通用文本语义理解与生成能力，但模型适配垂直专业业务场景时存在固有缺陷，模型对行业专属专业术语识别能力弱，难以掌握细分领域专属业务逻辑，处理跨领域混合提问时容易发生不同领域知识相互混淆，输出内容通用性过强，无法满足专业场景对内容精准度的硬性要求。

2、当前主流的监督微调（sft）手段仅依托问答样本完成训练，优化目标仅局限于token层级基础输出损失，未针对领域语义特征对齐、文本关键信息权重强化、多领域知识边界区分设计配套约束机制，经过该方式微调后的模型在多领域混合业务场景中，会频繁出现领域归属判断模糊、不同行业专业知识相互串扰、专业句式与规范表达输出不标准等缺陷。

3、超长上下文注意力、稀疏多专家架构、知识特征蒸馏、token重要性加权等优化手段虽已广泛应用于大模型预训练、微调流程，但现有技术难以解决稠密型dense基座模型落地多垂直领域业务的核心痛点，稠密基座模型缺少轻量化、低成本的多领域自适应适配方案，无法实现文本输入的自动领域识别，也不能完成不同领域专业知识的动态精准迁移。

4、现有大模型微调技术具体存在四项核心缺陷：

5、第一，常规微调方案将全部业务领域样本混合后统一训练，没有依据各业务自身数据特征做差异化建模，不同行业的专业知识在训练过程中互相干扰混淆，模型无法统一适配各类业务对应的输出格式、专业表达规范。

6、第二，传统微调流程对全部文本token采用均等权重参与损失计算，无法放大数值参数、行业专业术语、法规条文等核心关键内容的学习权重，训练完成的模型容易输出错误数值、错误法规条款引用，还会生成无依据的虚假内容，即生成幻觉。

7、第三，以qwen3-8b为代表的稠密transformer基座模型采用全参数共享激活架构，模型不存在显性的领域识别模块与动态知识路由机制。该架构虽然通用语言理解性能突出，但开展多领域联合微调时，各行业知识会在共享参数空间内耦合、互相干扰，模型不能依据当前输入任务动态调取对应领域的专业知识完成推理。

8、第四，传统微调仅使用单一交叉熵损失函数或权重固定的复合损失函数，无法同步兼顾领域分类识别、专业知识输出一致性、多业务场景协同优化三类需求，多领域联合训练过程中会出现领域知识互相覆盖、模型领域属性漂移、文本生成效果稳定性降低等问题。

技术实现思路

1、本发明提供了一种大模型的多领域联合微调方法、装置、设备及存储介质，通过分领域专家微调、token双向重要性加权、领域门控软路由与多损失协同蒸馏架构，让稠密大模型自动区分业务领域、强化专业关键内容学习，消除跨领域知识干扰，稳定提升多垂直场景生成精准度。

2、根据本发明的一方面，提供了一种大模型的多领域联合微调方法，包括：

3、获取训练数据，按照预设的领域划分标准将所述训练数据划分为至少两个领域子数据集；

4、获取至少两个第一基础模型，对于每个所述第一基础模型，利用对应的所述领域子数据集对所述第一基础模型进行微调训练，并在微调训练过程中通过重要性感知模块生成当前处理序列中各token的第一重要性评分，基于所述第一重要性评分对所述第一基础模型的自注意力计算和损失计算进行加权处理，得到对应于各领域的专家模型；

5、获取第二基础模型，将所述第二基础模型作为学生模型，在所述学生模型的最后一个transformer层之前设置多维重要性感知模块和领域门控模块；

6、利用各所述专家模型作为教师模型对所述学生模型进行联合蒸馏训练，在联合蒸馏训练过程中，通过所述多维重要性感知模块生成各所述token在各领域维度下的第二重要性评分，通过所述领域门控模块生成各所述token属于各领域的门控概率，基于所述门控概率对所述第二重要性评分进行融合处理得到融合重要性评分；

7、基于所述融合重要性评分对所述学生模型的自注意力计算和损失计算进行加权处理，并基于各所述token对应领域的所述专家模型的输出对所述学生模型进行蒸馏约束，得到训练后的所述学生模型，作为目标大模型。

8、根据本发明的另一方面，提供了一种大模型的多领域联合微调装置，包括：

9、数据划分模块，用于获取训练数据，按照预设的领域划分标准将所述训练数据划分为至少两个领域子数据集；

10、专家模型训练模块，用于获取至少两个第一基础模型，对于每个所述第一基础模型，利用对应的所述领域子数据集对所述第一基础模型进行微调训练，并在微调训练过程中通过重要性感知模块生成当前处理序列中各token的第一重要性评分，基于所述第一重要性评分对所述第一基础模型的自注意力计算和损失计算进行加权处理，得到对应于各领域的专家模型；

11、模型扩展配置模块，用于获取第二基础模型，将所述第二基础模型作为学生模型，在所述学生模型的最后一个transformer层之前设置多维重要性感知模块和领域门控模块；

12、联合蒸馏处理模块，用于利用各所述专家模型作为教师模型对所述学生模型进行联合蒸馏训练，在联合蒸馏训练过程中，通过所述多维重要性感知模块生成各所述token在各领域维度下的第二重要性评分，通过所述领域门控模块生成各所述token属于各领域的门控概率，基于所述门控概率对所述第二重要性评分进行融合处理得到融合重要性评分；

13、目标模型生成模块，用于基于所述融合重要性评分对所述学生模型的自注意力计算和损失计算进行加权处理，并基于各所述token对应领域的所述专家模型的输出对所述学生模型进行蒸馏约束，得到训练后的所述学生模型，作为目标大模型。

14、根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

15、至少一个处理器；

16、以及与所述至少一个处理器通信连接的存储器；

17、其中，所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的大模型的多领域联合微调方法。

18、根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的大模型的多领域联合微调方法。

19、本发明实施例的技术方案，首先，根据业务数据的特征差异划分数据集，提取不同业务场景的数据特征，采用适配的微调策略分别训练领域专家模型，使其习得对应场景的输出规范与表达风格。再以多领域专家模型作为教师，对qwen3-8b基座模型开展联合蒸馏微调，让通用模型高效吸收各领域专业知识，兼顾不同业务的作答要求。解决统一数据混合训练缺少差异化建模、多领域专业知识易混淆的问题，实现多领域专业知识解耦与高效迁移融合。

20、然后，在专家模型与通用模型的训练过程中，增设重要性权重矩阵。训练阶段同步优化模型主参数与权重矩阵参数，对不同语义价值的token动态分配权重并参与损失计算，强化模型对数值、专业关键词、法规出处等核心内容的学习能力，利用领域专家微调过程中学习到的token重要性，同时指导attention增强、损失加权和后续多专家知识蒸馏。解决token等权训练无法突出关键专业内容、易产生数值与法规错误及生成幻觉的问题，实现核心专业内容的双向强化学习，提升多场景输出精准度。

21、进一步，在通用模型微调阶段嵌入领域门控模块，使模型具备自动领域识别能力。推理时依托门控输出的领域权重动态调配各领域知识占比，灵活适配高精度数值作答、短关键词输出、长流程文本、法规条文引用等多样化输出规范，全面提升模型场景适配能力。解决稠密dense基座模型无显式领域识别、动态知识路由机制，多领域知识在共享参数空间耦合干扰的问题，实现输入文本自动区分领域、多领域知识软融合自适应路由。

22、最后，结合专家模型微调通用模型时，在基础交叉熵损失函数的基础上增加kl正则约束和动态领域融合，引入领域分类损失实现模型领域识别能力的监督优化，依托kl散度正则损失约束模型输出分布，抑制多领域知识混淆与生成幻觉，通过多项损失协同约束、互补优化，兼顾模型生成准确性、领域区分度与多场景适配性。解决单一交叉熵或固定权重损失无法同步兼顾领域区分、知识一致性、多场景协同优化的问题，实现生成精度、领域识别、专业知识复刻多维度协同优化。

23、应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其他特征将通过以下的说明书而变得容易理解。