一种大语言模型的增量学习和文本处理方法及装置与流程

本发明涉及自然语言处理，特别涉及一种大语言模型的增量学习和文本处理方法及装置。

背景技术：

1、随着大语言模型在众多专业领域的深入应用，使其能够从持续涌入的领域数据中学习新知识，同时不忘旧技能，已成为关键技术需求。然而，现有技术在实现这一目标时面临两个核心矛盾：

2、首先，当大语言模型在新数据上训练时，参数更新会覆盖为旧任务编码的知识，导致性能骤降，因此产生灾难性遗忘。主流解决方案如弹性权重固化，通过在损失函数中引入基于参数重要性的正则化项来约束重要参数的变化。然而，其惩罚系数是固定的，这种一刀切的静态策略存在根本缺陷，即它无法区分当前输入数据是高质量新知识还是低质噪声。面对噪声数据时，惩罚过小会导致模型错误学习；而面对高质量数据时，惩罚过大又会阻碍模型有效吸收新知识，导致知识僵化。

3、其次，现有的持续学习流程是一个开环系统，模型的优化器按照预设的、与数据内容无关的规则更新参数。系统缺乏一个内嵌的、能够实时评估输入数据可信度的质量传感器，因而无法根据数据质量动态调整学习策略，往往将高质量数据与垃圾数据一视同仁地进行训练，这是模型性能不稳定和效率低下的主要原因。

4、因此，亟需一种能够实时评估训练数据质量，并据此自动、精确地调节学习强度的内生智能机制，来动态调整模型参数更新过程中的正则化约束，从而在抑制灾难性遗忘与高效吸收新知识之间取得自适应平衡。

技术实现思路

1、鉴于上述缺陷或不足，本发明提供了一种大语言模型的增量学习和文本处理方法及装置，能够有效的解决背景技术中提及的上述技术问题。

2、本发明的一个方面，提供了一种大语言模型的增量学习和文本处理方法，包括以下步骤：

3、获取垂直领域的文本数据，作为预训练大语言模型的训练样本；

4、将所述训练样本输入至检索增强生成系统，触发所述检索增强生成系统从知识库中检索与所述训练样本相关的参考文档，将所述训练样本和所述参考文档一同输入至所述预训练的大语言模型，得到输出文本；

5、计算所述输出文本与所述参考文档之间的语义相似度，并获取所述参考文档的来源权威度；根据所述语义相似度和所述来源权威度，计算所述训练样本的反馈置信度；

6、基于预设的非线性映射函数将所述反馈置信度转换为动态惩罚系数，所述动态惩罚系数用于构造总损失函数中的正则化项，所述正则化项用于约束大语言模型参数在更新过程中偏离旧参数基准的程度；

7、利用所述动态惩罚系数构造总损失函数，基于所述总损失函数计算每个训练样本对应的参数梯度，并在一个训练周期内累积各训练样本的参数梯度，得到周期累积梯度；

8、在所述训练周期结束后，计算所述训练周期内所有训练样本的平均置信度；若所述平均置信度大于或等于预设阈值，则根据周期累积梯度正式更新模型参数，并将更新后的模型参数保存为新的旧参数基准；若所述平均置信度小于预设阈值，则丢弃所述周期累积梯度，保持模型参数不变；

9、用训练完成的大语言模型处理来自所述垂直领域的目标文本数据，生成所述垂直领域相关的输出结果。

10、本发明的另一方面，还提供了一种大语言模型的增量学习和文本处理装置，包括：

11、数据获取模块，用于获取垂直领域的文本数据，作为预训练大语言模型的训练样本；

12、检索增强生成模块，用于将所述训练样本输入至检索增强生成系统，触发所述检索增强生成系统从知识库中检索与所述训练样本相关的参考文档，将所述训练样本和所述参考文档一同输入至所述预训练的大语言模型，得到输出文本；

13、置信度计算模块，用于计算所述输出文本与所述参考文档之间的语义相似度，并获取所述参考文档的来源权威度；根据所述语义相似度和所述来源权威度，计算所述训练样本的反馈置信度；

14、动态调控模块，用于基于预设的非线性映射函数将所述反馈置信度转换为动态惩罚系数，所述动态惩罚系数用于构造总损失函数中的正则化项，所述正则化项用于约束大语言模型参数在更新过程中偏离旧参数基准的程度；

15、梯度累积模块，用于利用所述动态惩罚系数构造总损失函数，基于所述总损失函数计算每个训练样本对应的参数梯度，并在一个训练周期内累积各训练样本的参数梯度，得到周期累积梯度；

16、参数更新模块，用于在所述训练周期结束后，计算所述训练周期内所有训练样本的平均置信度；若所述平均置信度大于或等于预设阈值，则根据周期累积梯度正式更新模型参数，并将更新后的模型参数保存为新的旧参数基准；若所述平均置信度小于预设阈值，则丢弃所述周期累积梯度，保持模型参数不变；

17、文本处理模块，用训练完成的大语言模型处理来自所述垂直领域的目标文本数据，生成所述垂直领域相关的输出结果。

18、本发明提供的一种大语言模型的增量学习和文本处理方法及装置，具有如下有益效果：

19、（1）实现了数据质量感知的自动化学习决策。本发明使模型具备根据输入数据自身质量实时调节学习策略的内生智能，克服了传统持续学习作为缺乏数据质量导向的优化过程的固有局限性。

20、（2）显著提升了抗噪性与学习效率的平衡。对于低质量数据，系统自动增强正则化惩罚强度，有效抑制灾难性遗忘；对于高质量数据，系统自动减弱正则化约束，加速模型收敛。由此实现了正则化强度与数据质量的自适应匹配，达成学习稳定性与敏捷性的动态平衡。

21、（3）构建了多层次的安全防护体系。本发明从样本级的动态惩罚机制、任务级的质量验证与梯度回滚机制，到系统级的安全模式切换机制，构成了纵深防御架构，显著提升了模型在开放、不可控数据流环境下进行持续学习的系统鲁棒性与可靠性。

1.一种大语言模型的增量学习和文本处理方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的一种大语言模型的增量学习和文本处理方法，其特征在于，根据下式计算所述训练样本的反馈置信度：

3.根据权利要求1所述的一种大语言模型的增量学习和文本处理方法，其特征在于，所述预设的非线性映射函数为以下分段函数：

4.根据权利要求1所述的一种大语言模型的增量学习和文本处理方法，其特征在于，还包括安全模式切换步骤：

5.根据权利要求1所述的一种大语言模型的增量学习和文本处理方法，其特征在于，计算所述输出文本与所述参考文档之间的语义相似度的步骤，包括：

6.根据权利要求1所述的一种大语言模型的增量学习和文本处理方法，其特征在于：

7.一种大语言模型的增量学习和文本处理装置，其特征在于，包括：

8.根据权利要求7所述的一种大语言模型的增量学习和文本处理装置，其特征在于，所述置信度计算模块根据下式计算所述训练样本的反馈置信度：

9.根据权利要求7所述的一种大语言模型的增量学习和文本处理装置，其特征在于，所述动态调控模块中的非线性映射函数为以下分段函数：

10.根据权利要求7所述的一种大语言模型的增量学习和文本处理装置，其特征在于，所述参数更新模块进一步用于：