基于冲突反馈的多智能体协同推理自适应容错共识方法及系统

摘要: 本发明涉及人工智能、多智能体协同推理、大语言模型可信评估、智能体容错协作和智能决策审计,尤其涉及一种基于冲突反馈的多智能体协同推理自适应容错共识方法及系统。背景...
基于冲突反馈的多智能体协同推理自适应容错共识方法及系统

本发明涉及人工智能、多智能体协同推理、大语言模型可信评估、智能体容错协作和智能决策审计,尤其涉及一种基于冲突反馈的多智能体协同推理自适应容错共识方法及系统。

背景技术:

1、随着大语言模型和智能体技术的发展,多智能体协同推理系统被广泛应用于合同审查、金融风控、医疗辅助决策、科研综述、代码审查、流程审批和复杂问答等场景。该类系统通常由多个具有不同角色或能力的智能体组成,例如检索智能体、事实抽取智能体、规则审查智能体、领域专家智能体、工具调用智能体、验证智能体和总结智能体等。多个智能体围绕同一推理任务分别生成候选结论、支撑证据、原子命题、推理路径、工具调用结果和交互消息,再通过多数投票、置信度加权、辩论裁判、固定轮次汇总或预设通信拓扑等方式形成最终输出。

2、现有多智能体共识方法通常侧重于最终答案的一致性,容易将多个智能体的表面一致误认为可靠共识。多个智能体给出相同或相近结论,并不意味着该结论具有独立证据支撑,也不意味着推理路径完整、证据来源可靠或智能体角色权限匹配。当多个智能体引用同一上游来源、同一文档版本、相同内容哈希或相同引用链路时,同一错误证据可能被多个智能体重复引用并重复计入共识得分,从而造成同源证据重复放大。

3、现有多智能体共识方法还缺少对智能体角色边界的约束。例如,财务预算智能体可以判断预算是否充足,但不一定具有判断合同是否可签署的权限;事实抽取智能体可以抽取事实,但不应直接作出高层决策结论。如果系统仅依据候选结论数量、表面置信度或固定智能体权重进行聚合,就可能采纳角色越权输出,使不具备相应角色权限的智能体对最终结论产生过高影响。

4、此外,候选结论之间的冲突并不一定只发生在答案层面,还可能发生在原子命题、证据版本、证据内容、证据时效、推理路径、工具验证结果、角色权限和交互消息传播过程。仅比较最终候选结论无法定位冲突来源,也难以针对不同冲突类型生成相应修复任务。多智能体协作过程中还存在跟随式复述问题,后发智能体可能在缺少新增独立证据的情况下复述前序智能体结论,从而形成伪一致输出。若系统仍采用固定协作拓扑或固定传播边权,则低可信输出可能继续影响后续智能体推理,使错误信息在协作网络中传播并被放大。

5、因此,需要一种能够基于冲突反馈结果动态计算智能体可信权重,自适应调整多智能体协作拓扑,针对不同故障模式生成定向重推理任务,并在可靠性条件不满足时输出复核结果而非强制输出最终结论的多智能体协同推理自适应容错共识方法及系统。

技术实现思路

1、本发明旨在提供一种基于冲突反馈的多智能体协同推理自适应容错共识方法及系统,以解决多智能体协同推理过程中表面一致容易被误判为可靠共识、同源证据被重复放大、角色越权输出难以抑制、冲突来源难以定位、伪一致输出难以识别以及低可信输出容易在协作网络中继续传播的问题。

2、第一方面,本发明提供一种基于冲突反馈的多智能体协同推理自适应容错共识方法,包括如下步骤:

3、s1:采集多智能体在同一推理任务生成的包含候选结论的候选输出;

4、s2:接收与所述候选输出相关的冲突反馈单元;

5、s3:对所述候选输出中的候选结论进行语义聚类,至少生成一个共识单元;

6、s4:基于所述候选输出与所述冲突反馈单元,计算智能体在对应所述共识单元上的动态可信权重;

7、s5:根据所述动态可信权重和所述冲突反馈单元识别候选输出的故障模式;

8、s6:根据所述故障模式和所述动态可信权重自适应更新多智能体协作拓扑;

9、s7:根据所述故障模式和更新后的所述多智能体协作拓扑生成定向重推理任务;

10、s8:执行所述定向重推理任务并接收重推理结果,根据所述重推理结果更新候选输出集合、共识单元、动态可信权重及冲突残差;

11、s9:基于更新后的所述候选输出集合、共识单元、动态可信权重及冲突残差,计算各共识单元的共识得分;

12、s10:基于所述共识得分、冲突残差、独立证据数量、角色覆盖度和结论支撑度判断可靠共识是否成立,输出对应判定结果。

13、第二方面,本发明提供一种基于冲突反馈的多智能体协同推理自适应容错共识系统,包括候选输出采集模块、冲突反馈接收模块、共识单元生成模块、动态可信权重计算模块、故障模式识别模块、协作拓扑更新模块、定向重推理任务生成模块、重推理状态更新模块、共识得分计算模块及可靠共识判定模块其中:

14、所述候选输出采集模块,用于采集多智能体在同一推理任务生成的包含候选结论的候选输出;

15、所述冲突反馈接收模块,用于接收与所述候选输出相关的冲突反馈单元;

16、所述共识单元生成模块,用于对所述候选输出中的候选结论进行语义聚类,至少生成一个共识单元;

17、所述动态可信权重计算模块,用于基于所述候选输出与所述冲突反馈单元,计算智能体在对应所述共识单元上的动态可信权重;

18、所述故障模式识别模块,用于根据所述动态可信权重和所述冲突反馈单元识别候选输出的故障模式;

19、所述协作拓扑更新模块,用于根据所述故障模式和所述动态可信权重自适应更新多智能体协作拓扑;

20、所述定向重推理任务生成模块,用于根据所述故障模式和更新后的所述多智能体协作拓扑生成定向重推理任务;

21、所述重推理状态更新模块,用于执行所述定向重推理任务并接收重推理结果,根据所述重推理结果更新候选输出集合、共识单元、动态可信权重及冲突残差;

22、所述共识得分计算模块,用于基于更新后的所述候选输出集合、共识单元、动态可信权重及冲突残差,计算各共识单元的共识得分;

23、所述可靠共识判定模块,用于基于所述共识得分、冲突残差、独立证据数量、角色覆盖度和结论支撑度判断可靠共识是否成立,输出对应判定结果。

24、与现有技术相比,本发明具有如下有益效果:

25、第一,本发明基于证据支撑度、角色权限度、证据独立性、工具验证结果、历史可靠性、冲突归因贡献和跟随式复述程度计算动态可信权重,避免固定投票或静态权重导致的错误共识;

26、第二,本发明利用冲突反馈单元定位答案冲突、证据冲突、推理路径冲突、角色越权冲突和伪一致风险,提高冲突识别和归因能力;

27、第三,本发明根据故障模式自适应更新协作拓扑,降低低可信输出对后续推理的影响边权,减少错误信息传播;

28、第四,本发明针对不同故障模式生成定向重推理任务,避免无差别重复推理,提高冲突修复效率;

29、第五,本发明在共识得分计算中对同一证据来源设置最大贡献上限,抑制同源证据重复计分;

30、第六,本发明设置可靠共识判定和复核输出机制,当共识优势不足、冲突残差过高、独立证据不足、角色覆盖不足或结论支撑不足时,不强制输出最终共识结论,从而提高多智能体协同推理系统在高风险场景中的可靠性、可解释性和容错能力。

1.基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,所述候选输出包含候选结论、支撑证据、原子命题、推理路径、工具验证结果、角色信息、交互信息和输出时间中的至少一种;接收与所述候选输出相关的冲突反馈单元时,所述冲突反馈单元包含冲突类型、冲突强度、冲突归因贡献、受影响输出集合及冲突关联节点集合。

3.根据权利要求1或2所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,所述动态可信权重根据智能体对共识单元的支持关系、当前输出质量和智能体迭代可靠性计算得到,具体步骤如下:

4.根据权利要求3所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,在所述s5中,根据动态可信权重和冲突反馈单元识别候选输出的故障模式,所述故障模式包括:

5.根据权利要求1所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,更新所述多智能体协作拓扑时,执行以下步骤:

6.根据权利要求5所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,对所述边权进行更新时,包括:

7.根据权利要求1或6所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,根据故障模式和更新后的多智能体协作拓扑生成的所述定向重推理任务包括:

8.根据权利要求7所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,在所述s8中,执行定向重推理任务并接收重推理结果,将重推理结果并入候选输出集合并完成更新时,更新内容包括:

9.根据权利要求8所述的基于冲突反馈的多智能体协同推理自适应容错共识方法,其特征在于,所述对应判定结果包括:

10.基于冲突反馈的多智能体协同推理自适应容错共识系统,其特征在于,包括候选输出采集模块、冲突反馈接收模块、共识单元生成模块、动态可信权重计算模块、故障模式识别模块、协作拓扑更新模块、定向重推理任务生成模块、重推理状态更新模块、共识得分计算模块及可靠共识判定模块,其中: