一种面向大语言模型文献综述生成的证据与断言对齐方法

摘要: 本发明属于自然语言处理和智能文本生成领域,尤其涉及一种面向大语言模型文献综述生成的证据与断言对齐方法。背景技术:1、近年来,大语言模型已被广泛用于自动文献综述生...
一种面向大语言模型文献综述生成的证据与断言对齐方法

本发明属于自然语言处理和智能文本生成领域,尤其涉及一种面向大语言模型文献综述生成的证据与断言对齐方法。

背景技术:

1、近年来,大语言模型已被广泛用于自动文献综述生成。然而,由于大语言模型通过预测后续词元生成内容,其优化目标侧重文本的概率合理性和语言连贯性,并不要求每个关系性断言均能由实际引用证据蕴含,导致生成文本中的关系性断言与被引文献的实际内容之间常出现证据-断言失配。本说明书将陈述两个事件或概念实体之间作用、时序或方向性关联的命题称为关系性断言,并将其中的失配分为三类:证据缺失、关系语义冲突和强度夸大。证据缺失指生成断言所述关系缺乏可核验的引用依据,或其适用范围超出引用证据的覆盖范围;关系语义冲突指引用证据与生成断言在关系性质或作用极性上不一致;强度夸大指生成断言的表述强度超出原文支持范围。

2、现有自动综述生成方法主要通过检索增强、结构规划、代理协作和长上下文处理改善文献覆盖、篇章组织,其评价也主要集中于文献相关性、引用覆盖度和引用可用性等整体指标。上述方法尚未将关系性断言、被引证据和关系标签作为统一的核验单位及反馈信号,因而难以判断生成表述是否符合证据所支持的关系性质、作用极性和表述强度。

3、现有大语言模型幻觉与来源一致性研究将幻觉区分为与来源相矛盾的内在幻觉和无法由来源验证的外在幻觉,并从引用正确性和引用完整性角度评价生成文本与所引来源之间的对应关系。然而,仅判断断言是否获得来源支持或是否与来源冲突,仍不足以识别强度夸大。某些断言虽然具有支持相应关系的引用,且与证据不存在直接冲突,却可能将较弱的关联或贡献关系表述为确定性因果或决定性作用。

技术实现思路

1、本发明提出一种面向大语言模型文献综述生成的证据与断言对齐方法,利用关系级证据核验将跨文献关系证据组织为可追溯约束,

2、通过证据对齐评分在候选命题的实际引用范围内核验关系性质、作用极性和表述强度,并将核验结果反馈至候选选择、定向修正和证据补充过程,使生成文本中的关系性断言与引用证据相称。

3、本发明提供一种面向大语言模型文献综述生成的证据与断言对齐方法,包括以下步骤:

4、1)从主题文献中抽取经核验和规范化的有序事件关系及原文证据句,按照关系性质、作用极性和表述承诺强度分配关系标签,依据跨文献支持度计算文本共识置信度,构建带有关系标签、文本共识置信度、来源文献和原文证据句映射的证据关系图,并将其用于综述大纲规划和局部证据定位;

5、2)将带实际引用的候选综述段落分解为原子命题并判定核验范围;对可核验命题执行事件语义匹配,以命题实际引用集合与关系边来源集合的交集限定候选证据边,依据校准关系状态概率和文本共识置信度选择基准证据边,并按照非对称规则计算命题级证据对齐得分;

6、3)聚合命题级证据对齐得分和相对流畅度形成复合评分并选择最优候选;根据证据对齐结果对强度升级、关系冲突和证据缺失命题分别执行表述降级、基于原文证据句的改写或删除以及定向补充检索,更新局部证据关系图并重复候选生成、证据对齐评分和文本精炼,直至满足输出条件或者达到最大精炼轮次后,输出最终文献综述文本。

7、进一步地,步骤1)包括关系记录抽取与核验、事件规范化、关系标签映射、跨文献聚合以及证据关系图构建。

8、将主题文献集合记为 ,其中  表示  中的单篇文献。识别文献  中显式陈述的有序头事件、关系表述和有序尾事件,定位相应原文证据句,仅保留事件定位、事件次序和关系语义均通过核验的关系记录;对头事件和尾事件进行指代、缩写、全称和同义表述归一化,得到规范化头事件  和规范化尾事件 ;根据关系表述、原文证据句及规范化事件分配唯一关系标签 。

9、关系标签空间及作用关系的表述强度定义为:

10、

11、

12、

13、其中,strong、supportive 和 weak 分别表示确定性正向作用、贡献或促进作用以及带有情态限定的可能作用;temporal 表示时序关系,opposite 表示负向作用关系;符号 ≻和 ≺分别表示表述强度高于和低于;temporal 和 opposite 不参与所述强度顺序。

14、将文献  中通过核验、规范化并获得唯一关系标签的关系三元组集合记为;对同一规范化有序事件对及关系标签按照不同文献计数,文献支持度定义为:

15、

16、其中,为指示函数;同一文献重复陈述同一规范化事件对和关系标签时仅计一次支持。

17、对至少获得一篇文献支持的规范化事件对,关系标签  的文本共识置信度定义为:

18、

19、其中, 为遍历关系标签空间的求和变量, 表示关系标签数量, 为平滑参数。

20、将关系边保留阈值记为 ,保留满足  且 的关系记录作为关系边;第  条关系边记为 ,其中  和  分别是第  条关系边的规范化头事件和尾事件,  和  分别为该边的关系标签和文本共识置信度。

21、进一步地,步骤1)所述的证据关系图定义为:

22、

23、其中, 为规范化事件节点集合, 为关系边集合, 为关系边至来源文献及原文证据句的映射。主题级证据关系图用于综述大纲规划;针对第  个子节 ,由该子节文献集合构建局部证据关系图,用于证据定位和命题评分。

24、进一步地,步骤2)包括命题核验范围判定、事件匹配、实际引用限定、语义对齐和非对称命题级评分。

25、将候选综述段落分解为原子命题;将能够归因于具体文献证据,且陈述具体研究结论、数值、比较、事件间关系或适用范围的原子命题识别为可核验命题;对于同时包含可核验内容和概括性内容的原子命题,将其中可核验内容拆分为独立的可核验命题。

26、将第  个可核验命题记为 ,其关系表述映射得到的关系标签记为 。采用文本编码器将命题头、尾事件和局部证据关系图节点映射至同一语义空间,当语义相似度均不低于事件匹配阈值  时接受事件匹配。

27、将能够归属于  且能够在当前子节文献集合中定位的实际引用集合记为。从匹配关系边中筛选来源文献集合与  存在交集的关系边作为候选证据边,并将其索引集合记为 。若事件匹配未达到 、实际引用集合为空或者来源集合交集为空,则令 。

28、当  非空时,语义对齐模型将  与第  条候选证据边联合编码,在 三分类标签空间上输出经温度缩放校准的概率向量 。其中,aligned 表示证据支持,即二者指向同一事件关系且不存在关系性质或作用极性冲突;contradict 表示证据冲突,即二者在关系性质或作用极性上不一致;neutral表示证据不足,即候选证据边不足以支持或否定所述可核验命题。所述概率向量的三个分量之和为1。按照下式选择基准证据边:

29、

30、将基准证据边的关系标签和文本共识置信度分别记为 和 ;令 为  中概率最大的关系状态。 为空或者  时,令缺证据标记,否则令 。

31、 当  非空时,令 、、,命题级证据对齐得分定义为:

32、

33、其中, 为保守降级折扣系数;、 和 均大于0,分别为强度升级、时序关系改写为正向作用以及其他关系性质或作用极性冲突的惩罚系数。关系一致且强度相当的命题获得正分,保守降级获得折扣正分,强度升级、时序改写和其他关系冲突分别获得不同负分。

34、进一步地,步骤3)包括候选复合评分、输出判定、定向修正、补充检索和局部证据关系图更新。

35、将同一生成轮次中的候选综述段落记为 ,将其中可核验命题集合记为 ,并令 。采用语言模型计算候选段落困惑度 ,以同轮候选平均困惑度为参照得到相对流畅度得分 。

36、候选综述段落  的复合评分定义为:

37、

38、其中, 为命题级证据对齐得分与相对流畅度得分的权重;时采用第二分支,不发生除零。根据复合评分选择当前生成轮次的最优候选;其不含可核验命题时直接输出,或者在复合评分达到评分接受阈值且全部可核验命题均满足 和  时提前输出。

39、未满足输出条件且未达到最大精炼轮次  时,对强度升级命题执行表述降级;对关系性质或作用极性冲突命题依据基准证据边对应的原文证据句改写或删除;对1 的命题执行定向补充检索。

40、将第  轮子节 的文献集合记为 ,将该轮补充检索所得文献集合记为,并将子节文献预算记为 ,按照检索相关性排序并在预算内更新子节文献集合:

41、

42、其中, 表示保留检索相关性最高的前  篇文献。新增文献重新执行步骤1)所述的抽取、核验、规范化、聚合和筛选过程,用于更新局部证据关系图。达到 仍未提前输出时,优先输出复合评分最高且全部可核验命题均满足 和  的候选;不存在该候选时,删除最高分候选中未通过核验的可核验命题后输出。

43、利用本发明的方法可以建立跨文献关系证据的可追溯约束,并将核验结果反馈至生成过程,与现有技术相比具有以下优点:

44、1、本发明以有序事件对表示跨文献关系证据,按关系性质、作用极性和表述强度建立关系标签空间,并通过文本共识置信度刻画跨文献对同一关系的一致程度,为大纲规划和局部证据定位提供约束;

45、2、本发明以候选命题的实际引用为证据范围,结合校准关系状态概率、关系标签和文本共识置信度,通过非对称评分识别证据缺失、关系语义冲突和强度夸大;

46、3、本发明通过生成、评分和精炼循环将关系级核验结果反馈至候选选择、定向修正和证据补充,在明确终止条件下形成生成闭环。