基于风险分级命题表征的大语言模型幻觉抑制方法及系统

摘要: 本发明涉及大语言模型幻觉抑制方法及系统,具体涉及一种基于风险分级命题表征的大语言模型幻觉抑制方法及系统。背景技术:1、大语言模型近年来在临床文本处理中展现出显著...
基于风险分级命题表征的大语言模型幻觉抑制方法及系统

本发明涉及大语言模型幻觉抑制方法及系统,具体涉及一种基于风险分级命题表征的大语言模型幻觉抑制方法及系统。

背景技术:

1、大语言模型近年来在临床文本处理中展现出显著潜力,能够将冗长、非结构化的患者病历压缩为语义连贯的出院小结、病程摘要与转诊记录,从而减轻医护人员的文书负担并加速跨机构沟通。然而,大语言模型固有的幻觉倾向在医疗这一安全攸关领域构成了难以回避的部署障碍。所谓幻觉,是指大语言模型以流畅且自信的语言生成了源记录中并不存在或与之相矛盾的信息,例如错误的药物剂量、虚构的诊断、被歪曲的实验室数值或被遗漏的关键治疗。在通用领域,此类偏差往往只影响可读性。而在临床语境中,一次剂量数量级的错误就可能直接导致错误的用药调整并危及患者安全。已有研究反复指出,即便是前沿大语言模型在生成的临床摘要中仍存在不可忽视比例的事实错误,且这些事实错误常以极为隐蔽的方式混杂于大段正确文本之间,难以被临床医生在快速阅读中察觉。正因如此,医疗机构对直接依赖大语言模型输出普遍持审慎态度,使得大语言模型的临床落地进程受到明显制约。

2、围绕上述问题,现有技术大致沿三条路线展开。第一条路线是在生成阶段进行领域适配与训练目标优化,通过在大规模临床语料上继续训练或采用参数高效微调,使大语言模型输出更贴近患者病历的结构化内容,从而在源头降低幻觉发生率。这类方法能够改善生成质量,但其本质仍是概率式生成,无法对已生成内容提供确定性的事实保证,残余错误依旧存在且缺乏可审计的判定依据。第二条路线是在推理阶段引入外部知识约束,例如检索增强生成或知识图谱融合,让大语言模型在生成时参照检索到的证据。此类方法对开放域问答有一定效果,但在临床场景中高度依赖检索质量与知识图谱覆盖度,且校验环节往往仍由大语言大模型或神经推理作为评判器,其判定过程不透明、难以复现,甚至可能引入评判器自身的幻觉。第三条路线是在生成之后进行事后事实核查,将生成文本分解为若干可核验的主张,并逐一与权威数据源比对,对不一致处进行标记或修正。

3、在第三条路线中,一类代表性方案是将生成摘要与患者病历分别分解为命题,命题以实体、属性、取值、时间构成的四元组表示,先借助生物医学预训练编码器计算命题间的余弦相似度以选取候选对应项,再串行施加否定、蕴含、时序、互斥、数值与存在性等若干离散逻辑校验,最终对每条命题给出支持或不支持的二元结论。该方案的可贵之处在于其校验环节完全不依赖大语言模型,因而具备透明、可复现、隐私友好与计算轻量的优点,为生成临床可信摘要提供了新的思路。然而,该方案在工程实践中仍暴露出若干根本性不足。

4、首先,其命题表征是扁平且无差别的,四元组仅刻画了事实的语义要素,却未区分不同命题在临床上的风险等级。在真实临床语境中,用药剂量、给药途径、过敏史等命题一旦出错将造成严重后果,而一般性查体描述即便存在细微偏差通常并无实质危害。对所有命题施加统一的校验强度,既会在高危命题上因容忍度过宽而放过危险错误,又会在低危命题上因要求过严而产生大量无意义的告警,二者共同削弱了系统在临床工作流中的实用性。

5、其次,其候选匹配机制仅为每条摘要命题在病历命题集合中选取余弦相似度最大者,且不设置任何相似度阈值。这一处理方法在语义高度对齐时尚可接受,但当摘要命题在病历中根本不存在对应项时,最大相似度可能低至0.2-0.3,系统仍会强制建立一个语义关联薄弱的错配对。这种被迫错配不仅无助于事实判定,反而可能在后续逻辑校验中引入噪声,干扰对真正的虚构与遗漏的识别。

6、再次,其判决机制是硬性的二元与门,即只要任一校验未通过便判定为不支持。这种非此即彼的处理方法丢失了证据强度的连续信息,无法表达多数校验通过但存在轻微不确定这一常见中间状态,也无法据此将真正需要人工复核的可疑命题与可以自动接受或自动拒绝的命题区分开来,导致系统难以在准确性与人工负担之间取得平衡。

7、最后,也是最关键的,该方案本质上只是一个检测器,其输出止步于对命题贴上支持或不支持的标签,而不具备任何修复能力。当发现剂量不符、否定冲突或关键治疗遗漏时,系统无法自动将错误纠正为与病历一致的正确表述,仍需临床医生逐条查阅原始病历手工修改,这使得系统在减轻文书负担这一核心目标上的价值大打折扣。与此同时,另一些具备纠错能力的方案则走向了另一个极端,它们借助大语言模型自身进行主张提取、事实检索与回答改写,或以检测器引导大语言模型迭代自精化。此类纠错完全由大语言模型驱动,不仅重新引入了不透明与不可复现的问题,还存在过度编辑、剥离关键临床信息乃至在改写过程中滋生新幻觉的固有风险。

8、综上,现有技术或者以透明可复现为代价放弃了纠错能力,或者以重新引入大语言模型幻觉为代价换取纠错能力,二者均未能在临床风险敏感、判定透明可审计、既能检测又能安全修复这三方面同时取得突破。如何在完全不调用大语言模型进行校验与修复的前提下,构建一个能够按临床风险分级施加差异化校验、避免错配并输出可校准的分级判决、且以病历事实为唯一依据对错误命题实施确定性修复的完整方案,成为提升大语言模型可信度并推动其临床落地亟待解决的技术问题。

技术实现思路

1、本发明的目的是解决现有大语言模型幻觉抑制方法中命题表征无风险区分、候选匹配易被迫错配、判决机制为硬性二元且缺乏纠错能力,或纠错过程依赖大语言模型而重新引入不透明与新幻觉的技术问题,而提供一种基于风险分级命题表征的大语言模型幻觉抑制方法及系统。

2、为实现上述目的,本发明采用的技术方案为:

3、一种基于风险分级命题表征的大语言模型幻觉抑制方法,其特殊之处在于,包括以下步骤:

4、步骤1、将患者病历输入大语言模型进行领域摘要生成,得到病程摘要;然后定义迭代次数,并将其置为0;

5、步骤2、基于预设风险查找表,在病程摘要与患者病历中,分别抽取包括临床风险权重的命题表征,得到多条摘要命题和多条病历命题,形成摘要命题集合和病历命题集合;

6、步骤3、构建反映摘要命题与病历命题匹配关系的带权二部图,并求解全局最优指派,得到摘要命题与病历命题的匹配结果,然后对其进行分级,得到强匹配对和弱匹配对,以及疑似虚构的摘要命题和疑似遗漏的病历命题;

7、步骤4、针对强匹配对和弱匹配对,结合临床风险权重施加逻辑校验,并输出摘要命题的逻辑校验软证据分;针对疑似虚构的摘要命题,直接经三态判决判定为可疑升级的摘要命题;针对疑似遗漏的病历命题施加存在性校验,若触发存在性失败,则将其补入摘要命题集合,否则不作处理;

8、步骤5、基于临床风险权重,对逻辑校验软证据分进行风险加权融合,得到强匹配对和弱匹配对中摘要命题的事实度,并据其进行三态判决,分别得到支持、证伪和可疑升级的摘要命题;

9、步骤6、针对支持的摘要命题,不作处理;针对证伪和可疑升级的摘要命题,若患者病历中无对应项或存在歧义,则转人工升级路由进行人工辅助修复;否则,施加以患者病历为唯一来源的确定性修复算子,对其进行确定性闭环纠错,从而得到修复后的摘要命题集合;

10、步骤7、根据修复后的摘要命题集合生成摘要文本,将其作为病程摘要,并将迭代次数加1后返回步骤2,直至迭代次数达到阈值,或不存在高风险证伪命题,输出病程摘要,完成大语言模型的幻觉抑制;所述不存在高风险证伪命题指不存在临床风险权重大于等于高风险阈值ρhigh的摘要命题被判定为证伪的摘要命题。

11、进一步地,步骤2中,所述命题表征p为:p=(e,a,v,t,ρ,c);

12、其中,e为临床实体,a为临床实体属性,v为临床实体取值,t为时间标记;

13、ρ为临床风险权重,ρ=clip(ρ0•∏k(1+δk•ik),0,1),clip表示将结果截断至[0,1],∏表示取积,δk为第k个修饰条件的调整系数,ik为第k个修饰条件的指示变量,k为整数且0<k≤k,k为该临床实体的修饰条件数量;ρ0为基础风险,ρ0=r(cat(e),type(a)),cat表示临床实体类别,type表示临床实体属性的类型,r表示预设风险查找表;

14、c为抽取置信度,c=(sner•snorm•sparse)1/3,sner为命名实体识别置信,snorm为本体归一化置信,sparse为句法解析完整度。

15、进一步地,步骤3具体为:

16、步骤3.1、利用领域生物医学编码器,分别生成摘要命题和病历命题的嵌入向量;

17、步骤3.2、令每一摘要命题与每一病历命题组成一个候选边,通过以下公式,计算候选边中摘要命题与病历命题的嵌入向量余弦相似度,将其作为候选边中摘要命题与病历命题的相似度:

18、sim(pis, pje) = (pis•pje)/(‖pis‖•‖pje‖);

19、其中,sim(pis,pje)为第i条摘要命题与第j条病历命题的相似度;pis为第i条摘要命题的嵌入向量,pje为第j条病历命题的嵌入向量,i、j均为整数,且0<i≤i,0<j≤j,i、j分别为摘要命题、病历命题的数量;‖‖表示l2范数;

20、步骤3.3、以候选边中摘要命题与病历命题的相似度为候选边的边权,构建反映摘要命题与病历命题匹配关系的带权二部图;

21、步骤3.4、设定约束条件、高相似度阈值θhigh和低相似度阈值θlow,从带权二部图中选取满足约束条件的候选边子集,以最大化候选边子集的边权总和为优化目标,采用线性指派算法,通过以下公式,求解全局最优指派,得到摘要命题与病历命题的匹配结果:

22、maximize σ{i,j} x{ij}•sim(pis, pje);

23、s.t.σj x{ij}≤1,σi x{ij}≤1,x{ij}∈{0,1};

24、且当 cat(eis)≠cat(eje) 或sim(pis, pje)<θlow时,强制x{ij}=0;

25、其中,maximize为优化目标算子,x{ij}为第i条摘要命题与第 j 条病历命题组成候选边的指派向量,s.t.为约束条件,eis、eje分别为第i条摘要命题、第 j 条病历命题的临床实体;

26、步骤3.5、将相似度不低于高相似度阈值θhigh的匹配结果判为强匹配对,相似度介于低相似度阈值θlow与高相似度阈值θhigh之间的匹配结果判为弱匹配对,所有匹配结果的相似度均低于低相似度阈值θlow的摘要命题判为疑似虚构的摘要命题,未被任何摘要命题匹配的病历命题判为疑似遗漏的病历命题。

27、进一步地,步骤4中,所述逻辑校验包括数值一致性校验、否定极性校验、因果时序一致性校验、互斥校验和蕴含校验;将强匹配对和弱匹配对称为匹配对,将强匹配对和弱匹配对中的摘要命题称为匹配对摘要命题集合;

28、所述数值一致性校验的方法为:计算匹配对中临床风险权重ρ较大命题表征的风险自适应容差ε(ρ),当匹配对中摘要命题与病历命题的临床实体e和临床实体属性a相同,且|vis-vje|/|vje|>ε(ρ)时,触发数值失败,若该匹配对中摘要命题的临床风险权重ρ≥高风险阈值ρhigh,在摘要命题中定义硬违反标志;其中,ε(ρ)=εmax•(1-ρ),εmax为风险自适应容差的上限,vis为第i条摘要命题的临床实体取值,vje为第j条病历命题的临床实体取值;

29、所述数值一致性校验的软证据分s1通过以下公式计算:s1=max(0,1-r/τ),其中,r为匹配对中摘要命题与病历命题的临床实体取值相对偏差,r=|vis-vje|/|vje|,τ为将匹配对中病历命题的临床实体取值相对偏差r映射至[0,1]的标度系数;

30、所述否定极性校验的方法为:通过词汇线索推断匹配对中摘要命题与病历命题的否定极性,当匹配对中摘要命题与病历命题的临床实体属性a一致而否定极性相反时,触发否定失败,在该摘要命题中定义硬违反标志;

31、所述否定极性校验的软证据分s2通过以下方法确定:触发否定失败时,否定极性校验的软证据分s2取0,否则,否定极性校验的软证据分s2取1;

32、所述因果时序一致性校验的方法为:根据预置临床因果约束图,确定与匹配对摘要命题集合中摘要命题存在因果关系的摘要命题集合;然后根据该摘要命题及与该摘要命题存在因果关系的摘要命题集合,进行相对时序校验和因果方向校验,并据其计算因果时序一致性校验的软证据分s3,若在因果方向校验中出现因果倒置,则触发因果失败,并在该摘要命题中定义硬违反标志;

33、所述因果时序一致性校验的软证据分s3通过以下公式计算:s3=min(stemp,scausal),其中,stemp为相对时序校验的软证据分,stemp=(σh(uih•δih))/(σhuih),δih为第i条摘要命题、与第i条摘要命题存在因果关系的第h条摘要命题的时间标记关系与匹配对中二者对应病历命题时间标记关系的一致性,h为整数,且0<h≤i;uih为δih的权重;scausal为因果方向校验的软证据分,scausal=(σh(vih•dih))/(σh vih),dih为第i条摘要命题、与第i条摘要命题存在因果关系的第h条摘要命题的因果方向标记,vih为证据强度;

34、所述互斥校验的方法为:当两条摘要命题的时间标记t相同,但临床实体属性a互斥时,则触发互斥失败;

35、所述互斥校验的软证据分s4通过以下方法确定:触发互斥失败时,两条摘要命题的互斥校验的软证据分s4均取0,否则,互斥校验的软证据分s4均取1;

36、所述蕴含校验的方法为:根据临床依赖关系,确定前件命题表征蕴含的后件命题表征;然后计算匹配对摘要命题集合中出现的前件命题表征蕴含的后件命题表征在匹配对摘要命题集合中被满足的完整程度,将其作为蕴含校验的软证据分s5;若蕴含校验的软证据分s5小于完整程度阈值η(ρ),则触发蕴含失败,当蕴含校验的软证据分s5为0,且任一后件命题表征对应摘要命题的临床风险权重ρ≥高风险阈值ρhigh时,在前件命题表征对应的摘要命题中定义硬违反标志;其中,η(ρ)=η0+κe•ρ,η0为阈值基准值,κe为风险敏感系数;

37、所述蕴含校验的软证据分s5通过以下公式计算:s5=(σl(wl•ml))/(σlwl),其中,ml为第l条后件命题表征在匹配对摘要命题集合中被满足的程度,l为整数且0<l≤l,l为前件命题表征蕴含的后件命题表征数量;wl为第l条后件命题表征的临床风险权重与规则强度之积。

38、进一步地,步骤4中,所述存在性校验的方法为:计算疑似遗漏的病历命题在摘要命题集合中被满足的完整程度spresence,若其小于完整程度阈值η(ρ),且临床风险权重ρ≥存在性阈值ρpresence,则触发存在性失败;

39、所述疑似遗漏的病历命题在摘要命题集合中被满足的完整程度spresence通过以下公式计算:spresence=(σq(wq•covn,q))/ (σq(wq)),其中,wq为命题表征中的第q个槽位的重要度权重,q为整数,且0<q≤4,临床实体e、临床实体属性a、临床实体取值v与时间标记t各占一个槽位;covn,q为疑似遗漏的病历命题中第q个槽位在摘要命题集合中的表述标记。

40、进一步地,步骤5中,若摘要命题中具有硬违反标志,则将该摘要命题的事实度置为0,否则,通过以下公式计算摘要命题的事实度:

41、φ(pis)=(σm βm(ρis)•sm)/(σm βm(ρis));

42、其中,φ(pis)为第i条摘要命题的事实度,sm为第m类逻辑校验的软证据分,m为整数且0<m≤m,m为逻辑校验的数量;

43、βm(ρis)为第m类逻辑校验的权重函数,βm(ρis)=βm0•(1+γm•ρis),βm0为第m类逻辑校验的基础权重,γm为第m类逻辑校验的风险敏感系数,ρis为第i条摘要命题的临床风险权重。

44、进一步地,步骤5中,所述三态判决的具体方法为:

45、若φ(pis)≥θsup(ρis),判定为支持的摘要命题;

46、若φ(pis)≤θref(ρis),判定为证伪的摘要命题;

47、否则,判定为可疑升级的摘要命题;

48、其中,θsup(ρis)为第i条摘要命题的支持阈值,θsup(ρis)= θsup0+κs•ρis,θsup0为支持阈值的基准值,κs为支持阈值的风险敏感系数;

49、θref(ρis)为第i条摘要命题的证伪阈值,θref(ρis)=θref0-λ•ρis,θref0为证伪阈值的基准值,λ为证伪阈值的风险敏感系数。

50、进一步地,步骤6中,所述确定性修复算子包括值替换算子、否定翻转算子、时间标记替换算子、互斥消解算子和缺失插入算子;

51、所述值替换算子针对数值失败,将摘要命题中的临床实体取值v替换为患者病历中对应的临床实体取值;

52、所述否定翻转算子针对否定失败,将摘要命题的否定极性翻转至与患者病历一致;

53、所述时间标记替换算子针对因果失败,将摘要命题的时间标记t替换为患者病历中对应的时间标记;

54、所述互斥消解算子针对互斥失败,若互斥的两条摘要命题中仅一条摘要命题获得患者病历的支持,保留获得患者病历支持的摘要命题、删除另一条摘要命题;若互斥的两条摘要命题在患者病历中分处不同时间,仅因病程摘要错误被赋予相同时间标记t而被判互斥时,调用时间标记替换算子,将摘要命题的时间标记t替换为患者病历中的时间标记;若互斥的两条摘要命题在患者病历中均无支持或均有支持而无法判别时,转人工升级路由进行人工修复;

55、所述缺失插入算子针对蕴含失败,将摘要命题集合中缺失后件命题表征对应的患者病历补入摘要命题集合。

56、进一步地,步骤2中,通过以下方法抽取所述命题表征:

57、先对病程摘要或患者病历分句,再由临床命名实体识别器识别临床命名实体,并根据生物医学本体,对其进行归一化,得到临床实体e;随后依据预存句法模式与词汇线索推断临床实体属性a 与临床实体取值v,并从显式时间表达与文档结构推断时间标记t;最后基于预设风险查找表,计算临床风险权重ρ,并计算抽取置信度c;

58、所述临床命名实体包括诊断、操作、药物和检验;

59、所述生物医学本体来源于系统化临床医学术语集、规范化药物命名系统和观测指标标识符编码。

60、本发明还提供一种基于风险分级命题表征的大语言模型幻觉抑制系统,用于实现上述基于风险分级命题表征的大语言模型幻觉抑制方法,其特殊之处在于:包括大语言模型、风险分级命题抽取模块、双阈值二部最优指派匹配模块、风险自适应一致性校验模块、风险加权软证据融合与三态判决模块、确定性闭环纠错模块和人工在环升级路由;

61、所述大语言模型的输入端用于接收患者病历,输出端连接风险分级命题抽取模块的第一输入端,大语言模型用于根据患者病历生成病程摘要;

62、所述风险分级命题抽取模块的第二输入端用于接收患者病历,输出端连接双阈值二部最优指派匹配模块的输入端,风险分级命题抽取模块用于在病程摘要与患者病历中分别抽取摘要命题和病历命题;

63、所述双阈值二部最优指派匹配模块的输出端分别连接风险自适应一致性校验模块的输入端、风险加权软证据融合与三态判决模块的第一输入端,双阈值二部最优指派匹配模块用于求解摘要命题与病历命题的匹配结果,并对其进行分级,得到强匹配对和弱匹配对,以及疑似虚构的摘要命题和疑似遗漏的病历命题;

64、所述风险自适应一致性校验模块的输出端分别连接风险加权软证据融合与三态判决模块的第二输入端、确定性闭环纠错模块的第一输入端,风险自适应一致性校验模块用于对强匹配对和弱匹配对施加逻辑校验,并输出逻辑校验软证据分,以及对疑似遗漏的病历命题施加存在性校验;

65、所述风险加权软证据融合与三态判决模块的输出端连接确定性闭环纠错模块的第二输入端,风险加权软证据融合与三态判决模块用于根据逻辑校验软证据分,得到强匹配对和弱匹配对中摘要命题的事实度,并进行三态判决,分别得到支持、证伪和可疑升级的摘要命题;

66、所述确定性闭环纠错模块的第三输入端连接人工在环升级路由的输出端,第一输出端连接人工在环升级路由模块的输入端,第二输出端连接风险分级命题抽取模块的输入端;

67、所述人工在环升级路由用于对患者病历中无对应项或存在歧义的证伪和可疑升级的摘要命题进行人工辅助修复,确定性闭环纠错模块用于根据患者病历对证伪和可疑升级的摘要命题进行确定性闭环纠错,从而得到修复后的摘要命题集合,以及根据修复后的摘要命题集合生成摘要文本。

68、与现有技术相比,本发明具有的有益效果如下:

69、1、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,通过风险分级的命题表征与风险自适应的逻辑校验严格度,使高风险命题获得近乎精确的校验强度、低风险命题获得合理的容差与存在性触发门限,从而同时提升高风险错误的查全能力与低风险场景的查准能力。

70、2、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,以患者病历为唯一来源进行确定性闭环纠错,且全程不调用大语言模型,从原理上杜绝了大语言模型驱动纠错方案固有的过度编辑与新增幻觉风险,可在无需临床医生逐条手工修改的情况下自动纠正剂量不符、否定冲突与关键治疗遗漏等错误,切实兑现减轻文书负担的目标。

71、3、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,通过有限次迭代与单调收敛保证了大语言模型幻觉抑制过程的可终止性与可解释性。

72、4、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,通过双阈值二部最优指派匹配,从机制上消除了现有二值匹配在无对应项时被迫建立薄弱错配的缺陷,并将疑似虚构与疑似遗漏显式分离,由于低于低相似度阈值的候选边被直接拒绝,噪声错配不再进入逻辑校验,可将由错配引起的误判相对降低约20%-35%。

73、5、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,通过因果时序一致性校验,能够识别纯相对时序校验无法发现的因果倒置错误,扩充了可检测的临床逻辑错误类型,进一步增强了对隐蔽幻觉的捕获能力。

74、6、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,数值一致性校验中,风险自适应容差由临床风险权重得到,使得高临床风险权重命题表征的风险自适应容差趋近于零,其幻觉几乎无法逃逸。

75、7、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,存在性失败仅针对高临床风险权重的疑似遗漏的病历命题,可将低临床风险权重病历命题上的无谓告警相对减少约30%-50%,显著降低复核负担。

76、8、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,通过风险加权的软证据融合与可概率校准的三态判决,保留了证据强度的连续信息,能够将真正需要人工介入的可疑命题表征与可自动接受或自动拒绝的命题表征区分开来;相较于硬性二元与门,三态判决在保持对确凿矛盾零容忍的同时,避免了对轻微不确定命题的一刀切拒绝,从而在整体准确性与人工负担之间取得更优平衡。

77、9、本发明提供的基于风险分级命题表征的大语言模型幻觉抑制方法,逻辑校验与修复环节均不依赖大语言模型,仅使用确定性规则、固定编码器嵌入向量的余弦相似度与线性指派求解,因而全程透明、可复现、可审计,且计算开销低、隐私友好,适合在电子病历规模下进行受隐私保护的部署。