一种基于思维链推理增强的统一信息抽取方法

本发明涉及大模型信息处理，尤其涉及一种基于思维链推理增强的统一信息抽取方法。

背景技术：

1、统一信息抽取（unifiedinformationextraction,uie）旨在通过单一模型同时完成命名实体识别、关系抽取、事件检测、事件论元抽取等多种抽取任务，是自然语言处理领域的重要研究方向。该技术能够将非结构化文本批量转化为可查询、可计算的结构化数据，广泛应用于知识图谱构建、文档智能理解、低资源领域信息处理、智能问答等场景。随着大语言模型与指令微调技术的发展，统一信息抽取逐渐从传统的判别式多任务模型，转向基于生成式大模型的统一文本到结构范式。

2、现有技术中，与本发明最接近的方案主要分为两类：

3、第一类是基于直接生成的统一信息抽取方法，典型代表为uie、instruct uie等。该类方法将不同抽取任务统一转化为文本生成问题，通过构造包含任务定义、抽取schema、输入文本的指令，引导大语言模型直接输出结构化抽取结果。该类方案实现了多任务的统一建模，但存在核心缺陷：其一，模型的预测过程是端到端的黑盒映射，缺少显式的中间推理步骤，模型主要依赖训练数据中的表面语义模式进行预测，无法说明抽取结果的上下文依据，可解释性差；其二，当测试数据与训练数据分布差异较大（如跨领域、低资源、零样本场景），或句子语义结构复杂时，模型容易出现实体边界识别错误、关系类型判断偏差、事件论元遗漏等问题，泛化能力与鲁棒性不足；其三，即使加入更丰富的schema描述与示例，模型的中间决策逻辑仍然隐含在参数中，无法通过显式推理链条进行校验与纠错。

4、第二类是面向单一子任务的推理增强方法，典型代表为面向命名实体识别的promptner、面向关系抽取的cot-er与era-cot等。该类方法尝试将思维链推理引入信息抽取，通过提示引导模型在输出结果前先生成判断依据或推理过程。但该类方案存在明显局限：其一，大多仅针对命名实体识别、关系抽取等单一子任务设计，没有形成能够同时覆盖实体、关系、事件触发词、事件论元的统一推理框架，无法支持联合信息抽取；其二，多数方案仅基于提示工程实现推理，缺少针对推理过程的专门监督微调与优化机制，推理质量不稳定，难以充分发挥大模型的推理能力；其三，现有方案较少关注输出结构化结果的格式有效性，生成的结构化内容容易出现格式错误，影响后续解析与使用。

技术实现思路

1、本发明的目的是提供一种基于思维链推理增强的统一信息抽取方法，解决上述技术问题。

2、为实现上述目的，本发明提供了一种基于思维链推理增强的统一信息抽取方法，包括以下步骤：

3、s1、思维链数据集合成：基于现有信息抽取数据集，依次进行多路径采样、一致性过滤、思维链质量评估，构造包含输入句子、任务schema、思维链推理路径和结构化抽取结果的训练样本，形成思维链训练数据集；

4、s2、思维链监督微调：将输入句子与任务schema作为大语言模型的输入，将思维链推理路径与结构化抽取结果拼接组成目标输出序列，对大语言模型进行监督微调，得到初始推理策略模型；

5、s3、推理增强优化：采用grpo算法对初始推理策略模型进行强化学习优化，通过混合奖励函数同时约束抽取准确率与输出格式有效性，得到最终信息抽取模型；

6、s4、推理生成：将待抽取文本与目标schema输入最终信息抽取模型，最终信息抽取模型依次生成思维链推理路径与结构化抽取结果，对输出内容进行解析得到最终信息抽取内容。

7、优选的，结构化抽取结果覆盖命名实体识别、关系抽取、事件检测和事件论元抽取四类任务。

8、优选的，s1中的多路径采样具体为：针对每个输入样本，构造包含推理要求的提示模板，利用教师大语言模型生成多组候选输出，每组候选输出包含一条思维链推理路径和对应的结构化抽取结果。

9、优选的，s1中的一致性过滤具体为：对于有标注的监督数据，保留结构化结果与标准标注完全匹配的候选样本，若存在多个匹配候选则选择推理路径最短的样本；对于无标注的无监督数据，以每个候选结果为锚点计算与其他候选结果的f1值，取平均值作为一致性得分，保留一致性得分最高的候选样本。

10、优选的，s1中的思维链质量评估具体为：采用辅助评估大语言模型作为评估器对保留的候选样本进行打分，评估维度包括推理-结果一致性与逻辑合理性，保留两个维度评分均达到预设阈值的样本作为最终训练数据。

11、优选的，s2中的思维链监督微调的训练目标为最小化负对数似然损失，其损失函数为：

12、；

13、其中，为数学期望符号，为大语言模型可训练参数，为思维链训练数据集，为输入样本，为目标输出序列，为目标序列中的第个词元，为第个词元之前的所有词元，为给定输入与前文时生成当前词元的条件概率。

14、优选的，s3中采用grpo算法进行策略更新的具体流程为：针对每个输入样本，从旧策略模型中采样得到一组候选输出，计算每个候选输出的奖励值与组内平均奖励的差值作为优势值，基于优势值更新当前推理策略模型。

15、优选的，混合奖励函数的总奖励为软f1奖励与格式有效性奖励的加权组合，如下所示：

16、；

17、其中，为第个候选输出的总奖励，为软f1奖励，用于衡量抽取结果与标准结果的重叠匹配程度，为格式有效性奖励，用于判断输出是否符合预设结构化格式，和分别为软f1奖励和格式有效性奖励的权重系数。

18、优选的，grpo算法的优化目标中加入kl散度正则项，约束当前推理策略模型与参考模型的分布差异，避免当前推理策略模型偏离监督微调得到的推理行为，其中参考模型的参数初始化为思维链微调后的初始推理策略模型参数，且在强化学习阶段保持固定。

19、优选的，s4中的最终信息抽取模型先基于上下文证据与schema约束生成逐步推理过程，再生成符合json格式的结构化抽取结果，解析后得到的最终信息抽取内容包括实体集合、关系集合、事件触发词集合和事件论元集合。

20、因此，本发明采用上述一种基于思维链推理增强的统一信息抽取方法，具有的有益效果为：

21、1、将统一信息抽取的输出形式由“直接输出结果”改进为“先输出思维链推理过程，再输出结构化结果”的两阶段形式，推理过程可完整覆盖实体识别、关系判断、事件检测、论元匹配全流程。模型输出不再是黑盒预测，而是具备上下文依据的推理结果，抽取结果可通过思维链进行追溯与人工校验，显著提升了信息抽取的可解释性与可纠错性。

22、2、通过“多路径采样-一致性过滤-质量评估”的自动化流程，基于现有无推理标注的信息抽取数据，自动构建包含完整推理链条的训练数据集。该方法无需人工标注推理过程，大幅降低了数据构建成本；同时通过多重筛选机制保证了推理路径与抽取结果的一致性、逻辑合理性，为模型推理能力训练提供了高质量监督信号。

23、3、通过监督微调使模型掌握“推理-抽取”的两阶段输出范式，再通过grpo（grouprelativepolicyoptimization，分组相对策略优化）的强化学习方法进一步优化推理行为。混合奖励函数同时兼顾抽取准确率（软f1奖励）与输出格式有效性，既提升了复杂场景下的抽取精度，又保证了结构化输出的可解析性。实验表明，该方法在跨领域零样本场景下的实体识别、关系抽取、事件抽取任务上，均显著优于现有生成式方法与通用推理模型。

24、4、显式推理机制引导模型基于上下文证据与schema约束进行逻辑判断，而非单纯依赖训练数据的表面模式，使模型能够更好地迁移到未见领域与低资源任务中。在少样本设置下，该方法相比基线模型能够以更少的标注数据达到更高的抽取性能，具备更优的样本效率。

25、下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。