一种基于证据谱系的多维不确定性传播与主动验证方法
本发明涉及人工智能,具体涉及一种面向智能体的基于证据谱系的多维不确定性传播与主动验证方法。
背景技术:
1、近年来,以大语言模型为核心的智能体系统能够围绕用户任务执行信息检索、工具调用、环境观察、推理和行动,并通过多轮交互形成连续的任务处理轨迹,以完成传统单轮模型难以处理的复杂任务。为了降低模型幻觉和错误执行风险,现有技术通常在检索结果、模型输出或最终答案处估计一个置信度或不确定性分数,并根据预设阈值决定是否继续生成、拒答或请求人工确认。
2、然而,智能体在长轨迹任务中的错误并非仅来自模型本身。外部信息可能来源不明、作者资格不可验证或已经过期;检索页面可能被截断,表格解析或应用程序接口返回可能不完整;证据虽与主张主题相关,却不一定真正支持该主张;推理过程中还可能发生实体错配、范围扩大、遗漏条件、因果关系误判或计算错误。上述风险具有不同成因和不同修复方式,若被提前压缩为单一标量,则系统难以判断风险究竟来自来源、获取、支持、模型、推理、时效还是用户目标歧义。
3、现有技术还普遍缺少以原子主张为追踪粒度的证据溯源机制。智能体从网页段落、数据库结果或工具观察中提取信息后,往往仅将压缩后的自然语言结论写入模型上下文或长期记忆,未能针对每个原子主张持续保留其原始来源、证据位置、派生过程、转换类型和版本关系。当后续出现冲突证据或执行风险升高时,系统难以沿信息派生路径追溯最早的高风险节点,也无法准确判断哪些下游结论需要失效或重新计算。
4、此外,多个网页可能转载同一原始报道,若将其作为相互独立的证据进行计数,会形成来源依赖导致的重复计票偏差;多个可信来源相互矛盾时,简单平均会把冲突掩盖成中等置信度;新证据加入后,现有方法通常不能区分“无知减少”和“冲突增加”;在跨轮场景中,早期不确定性还会因文本摘要和记忆压缩而逐渐坍缩,使后续风险估计失去校准。
5、部分智能体采用重新思考、自我反思或重新检索等方式进行纠错,但该类方法通常未定位具体根因,也未根据不确定性类型选择验证动作,因而容易反复执行低价值操作。例如,来源风险更适合查找一手资料,获取风险更适合重新下载或解析,支持风险应回到原文核查,推理风险应检查缺失前提或执行反事实推理,而目标歧义应直接询问用户。采用统一反思动作不仅成本较高,而且可能无法实质降低最终决策风险。
6、因此,本领域需要一种能够在多轮智能体轨迹中持续保留来源、证据、主张、推理和版本关系,并对多维不确定性进行类型化传播、冲突保留、根因定位、主动验证和局部重算的技术方案。
技术实现思路
1、针对智能体在长轨迹任务中存在的不同不确定性被过早压缩为单一分数、证据依赖与派生关系难以追溯、验证动作缺少根因指向以及验证后需要对完整任务轨迹进行重复计算的问题,本发明提供一种面向智能体的基于证据谱系的多维不确定性传播与主动验证方法,在保留证据来源、派生关系和不确定性类型的前提下,定位对候选回答或候选动作风险贡献较大的上游节点,选择与风险类型相匹配的验证动作,并在验证结果写回后避免对无关轨迹分支进行重复计算。
2、本发明以版本化证据谱系图作为统一状态载体,在同一谱系结构中记录来源依赖关系、证据对原子主张的支持或反驳关系、版本有效状态,以及来源、获取、证据支持、模型、推理、时效与适用性和目标七个维度的不确定性。系统以候选回答或候选动作的风险贡献作为主动验证入口,将主要不确定性维度映射为针对性验证动作;验证完成后以新版本回写上游节点,并仅对受影响的有效后代节点执行局部重算,由此形成谱系建模、类型传播、风险验证、增量更新的闭环。
3、为实现上述目的,本发明采用如下技术方案。
4、本发明公开了一种基于证据谱系的多维不确定性传播与主动验证方法,该方法面向智能体,包括以下步骤:
5、步骤1、构建版本化证据谱系图,其中为节点集合,为有方向的类型化边集合;所述节点集合包括来源节点、证据节点、原子主张节点、推理节点、动作节点和记忆节点,所述类型化边包括支持边、反驳边、派生边、摘要边、转换边、获取边、使用边和版本取代边;将每个原子主张与相应的原始证据位置建立绑定关系,并为每个节点估计七维不确定性向量,七个维度分别为来源、获取、证据支持、模型、推理、时效与适用性、目标,各维度取值均位于0至1之间;
6、步骤2、根据内容散列、规范化资源地址、引用关系、作者与发布时间以及语义相似度识别来源簇,在同一来源簇内合并重复证据,在相对独立的来源簇之间融合证据,并分别保留支持度、反驳度、未确定度和冲突度;根据父节点到子节点的转换类型设置七维传播矩阵和转换附加不确定性向量,利用所述传播矩阵和转换附加不确定性向量向下游节点传播各维不确定性;
7、步骤3、根据候选回答或候选动作所依赖原子主张的错误可能性、影响程度、任务损失和谱系缺失程度计算任务相关风险;当超过阈值时,沿版本化证据谱系图回溯祖先节点并计算各祖先节点的风险贡献,依据风险贡献排序识别高风险祖先节点的主要不确定性维度,生成与所述主要不确定性维度相匹配的验证动作,并依据期望风险下降、验证成本和验证动作执行风险e选择目标验证动作;
8、步骤4、当验证结果导致上游节点发生变化时,创建新版本节点,通过版本取代边保留新旧版本之间的关联,将旧版本标记为失效、新版本标记为有效;沿当前有效的依赖边确定受影响的有效后代节点集合,按照拓扑顺序重新计算所述有效后代节点的证据评价状态、七维不确定性和任务相关风险,并同步更新结构化跨轮记忆;其中,步骤1至步骤4形成闭环,更新后的状态再次进入步骤2和步骤3,直至任务相关风险满足任务阈值或验证预算耗尽。
9、作为本发明的进一步改进,所述步骤1中,
10、将用户在时刻t提交的任务q解析为:
11、
12、其中,为任务目标,为任务约束,为当前缺失或存在多种解释的任务条件,为候选回答或候选动作发生错误时的任务损失,为验证预算;
13、根据缺失的必要任务槽位数量、必要任务槽位总数、候选任务解释的熵
h
t和最大熵计算目标不确定性:
14、
15、其中,和为非负权重且+=1,为截断函数;
16、当高于澄清阈值时,创建询问用户的动作节点并暂停依赖缺失条件的外部执行动作;对来源s、应用领域d和原子主张类型q,以贝塔分布表示来源可靠性条件分布,其中为正确先验伪计数与加权正确核验计数之和,为错误先验伪计数与加权错误核验计数之和;
17、当获得独立核验结果时,按和更新,其中为核验结果的独立性和可信度权重,来源可靠性取后验均值。
18、作为本发明的进一步改进,所述步骤1中,
19、对任一原子主张c保存状态,其中为证据评价状态,为多维不确定性向量,为来源依赖结构,为谱系记录,为版本和有效状态;
20、证据评价状态,其中、、和分别表示仅存在支持证据、仅存在反驳证据、支持和反驳证据均不足、支持和反驳证据同时存在四种证据状态的分配值,且;
21、证据e对原子主张c的支持得分,反驳得分,其中为蕴含概率,为矛盾概率,为直接支持覆盖程度,为直接反驳覆盖程度,和分别为删除证据e后支持状态或反驳状态的下降程度,、和为非负权重且++=1。
22、作为本发明的进一步改进,所述步骤2中,
23、对于任意两个证据和计算来源相关性得分,其中为原始内容散列是否相同,为规范化资源地址是否相同,为是否存在引用或转载关系,为语义相似度,为作者和发布时间是否匹配,η1至η5为非负权重且++++=1;
24、当不低于来源相关性阈值或两证据具有明确转载、引用或共同原始来源关系时归入同一来源簇;证据e的有效权重,其中,为证据e对应的来源,为获取不确定性,为时效与适用性不确定性;
25、对来源簇g取簇内最大有效贡献得到簇级支持贡献和簇级反驳贡献,在不同来源簇之间累计得到,其中为与原子主张c相关的来源簇集合;将累计证据量转换为有界支持强度和有界反驳强度,并计算、、、。
26、作为本发明的进一步改进,所述步骤2中,
27、对于由父节点集合推导得到的结论节点c,根据转换类型设置七维传播矩阵和转换附加不确定性向量,传播矩阵为7×7矩阵,其元素位于0至1之间;对于不确定性维度j,父节点传播至当前节点的传播不确定性,其中,为父节点p对当前节点c的影响权重,为父节点p的七维不确定性向量经传播矩阵映射后在第j维上的传播值,为转换附加不确定性向量的第j维;根据当前节点自身的直接观测结果计算第j维局部不确定性,当前节点c在第j维上的不确定性;其中,复制转换采用接近单位矩阵的传播矩阵,摘要转换提高获取、支持和推理维度的附加不确定性,翻译转换提高支持、模型和推理维度的附加不确定性,因果推理提高推理维度的附加不确定性,计算转换提高推理维度中与参数、单位和数值运算相关的附加不确定性。
28、作为本发明的进一步改进,所述步骤3中,
29、原子主张c的错误可能性:
30、
31、其中、、和为非负权重且所有权重之和为1;原子主张c对候选回答或候选动作a的影响程度,其中为从c到a的有效依赖路径集合,为依赖路径中边e的影响权重;对影响程度归一化得到,任务相关风险,其中为候选回答或候选动作a所依赖的原子主张集合,为归一化任务损失,为依赖路径中来源、证据位置、父节点或版本信息的缺失比例,为谱系缺失惩罚权重;
32、当不高于通过阈值时进入pass状态,当高于通过阈值但低于人工介入风险阈值且存在可行验证动作、验证预算尚未耗尽时进入verify状态,当无法继续验证且任务损失低于高损失阈值时进入abstain状态,当risk(a)达到或高于人工介入风险阈值或者涉及无法自动降低风险的高损失外部执行时进入escalate状态。
33、作为本发明的进一步改进,所述步骤3中,
34、当任务状态为verify时,沿证据谱系图回溯祖先节点,祖先节点c对候选回答或候选动作a的风险贡献,根据对祖先节点排序并识别高风险祖先节点的主要不确定性维度;
35、当来源不确定性高于预设阈值时,生成查找一手来源、核验作者身份或查询机构记录的动作;当获取不确定性高于预设阈值时,生成重新下载、重新解析、补取缺失字段或重新调用接口的动作;当证据支持不确定性高于预设阈值时,生成返回原始位置核查关键实体、关系、数值和限定条件的动作;当模型不确定性高于预设阈值时,生成多次独立采样或采用独立模型复核的动作;当推理不确定性高于预设阈值时,生成前提检查、实体一致性检查、单位检查、数值重算或反事实测试动作;当时效与适用性不确定性高于预设阈值时,生成限定日期、地区、对象和版本的重新检索动作;当冲突度高于预设阈值时,生成查找相对独立第三方来源或获取直接环境观察结果的动作;当目标不确定性高于预设阈值时,生成询问用户的动作。
36、作为本发明的进一步改进,所述步骤3中,
37、对于候选验证动作v,其期望风险下降,其中为验证动作v的可能结果集合,为结果o发生的概率,为在结果o发生并完成局部重算后的任务相关风险,为验证前的任务相关风险;候选验证动作的选择得分:
38、,其中为验证动作的时间、费用、计算资源和工具调用次数,e为验证动作本身的安全风险,和为归一化权重;选择得分最高且满足权限、预算和安全约束的验证动作,当最高得分低于最低验证价值阈值或验证预算耗尽时停止自动验证。
39、作为本发明的进一步改进,所述步骤4中,
40、当验证结果导致原子主张c的当前有效版本发生变化时,保留原版本并创建新版本,建立新版本对原版本的版本取代关系,将原版本标记为失效并将新版本标记为有效;受影响的有效后代节点集合,从发生变化的节点开始沿支持、反驳、派生、摘要、转换和使用类型的有效依赖边执行图遍历确定所述有效后代节点;将有效后代节点中依赖旧版本的缓存状态标记为无效,对有效后代节点执行拓扑排序,并按照拓扑顺序重新计算各节点的证据评价状态、多维不确定性、任务相关风险和跨轮记忆资格,与发生变化的节点不存在依赖关系的其他图分支保持不变。
41、作为本发明的进一步改进,所述步骤4中,
42、每轮任务结束时为需要在后续轮次保留的原子主张生成结构化不确定性记录,所述结构化不确定性记录至少包括原子主张标识、原子主张文本、支持度、反驳度、未确定度、冲突度、多维不确定性、父节点标识、来源簇标识、原始证据位置、版本号、有效状态、创建时间和版本更新记录;模型上下文中的记忆选择得分:
43、
44、其中为原子主张c与当前任务q的相关度,为对后续推理或动作的效用,为来源多样性,为综合可靠性,为对候选输出的影响程度,为综合不确定性,至为非负权重;
45、当原子主张的风险贡献或综合不确定性高于强制保留阈值时,将其以待验证节点或冲突节点的形式保留在模型上下文中;完整证据正文、证据谱系图、概率分布、版本关系和原始位置保存于模型上下文窗口之外的持久化存储区,后续轮次读取结构化不确定性记录时首先检查版本有效状态,当当前记录已被新版本取代时加载对应新版本并恢复相关谱系引用。
46、与现有技术相比,本发明的有益效果为:
47、第一,本发明通过以版本化证据谱系图承载来源、证据位置、派生关系、七维不确定性和有效版本,能够避免单一置信度掩盖不同风险成因,并使风险能够沿派生路径回溯。
48、第二,本发明通过来源簇内合并和簇间融合,能够抑制转载或同源证据形成的重复计票偏差,同时单独保留冲突度,使新增反向证据不会被简单平均所掩盖。
49、第三,本发明将风险贡献定位、主要不确定性识别和验证动作选择整合为同一决策机制,使来源、获取、支持、模型、推理、时效适用性、目标歧义或证据冲突分别对应可降低该类风险的验证动作,有利于减少低价值的统一反思操作。
50、第四,本发明通过新版本回写并触发有效后代节点的局部重算,使无依赖关系的图分支保持不变,从而降低重复计算量,并保持候选输出、后续动作和跨轮记忆之间的版本一致性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com