一种基于双侧持久账本与对账决策的智能体工具调用可信执行方法及系统与流程

摘要: 本发明涉及人工智能与分布式系统交叉,特别是一种基于双侧持久账本与对账决策的智能体工具调用可信执行方法及系统。背景技术:1、大语言模型智能体在执行任务时,通常需要...
一种基于双侧持久账本与对账决策的智能体工具调用可信执行方法及系统与流程

本发明涉及人工智能与分布式系统交叉,特别是一种基于双侧持久账本与对账决策的智能体工具调用可信执行方法及系统。

背景技术:

1、大语言模型智能体在执行任务时,通常需要调用各类工具产生真实的外部副作用,例如写入文件、调用业务系统接口、执行数据库查询或运行终端命令。工具调用一旦发生,其影响超出智能体进程本身,成为不可撤销的外部事实。然而,现有技术存在显著缺陷:

2、副作用不可信与不可知:现有智能体运行时通常直接执行工具调用,不记录耐久凭证,执行成功与否仅存在于进程内存中。一旦进程崩溃或节点故障,无法证明副作用是否已经发生,也无法事后审计。

3、盲目重试导致重复风险:当工具调用超时后,现有方案通常采取盲目重试策略。若原调用实际上已在目标系统成功执行,仅响应在网络中丢失,盲目重试将造成重复副作用(如重复写库、重复扣减),产生严重的业务损失。

4、信任域单一:若由执行平面自身既执行工具又记录执行事实,则执行事实与执行行为出自同一信任域,执行平面故障或被篡改时账目随之失真,缺乏独立的事实权威。

技术实现思路

1、本发明旨在解决上述技术问题,提供一种智能体工具调用可信执行方法及系统,通过执行面与控制面的双侧架构以及基于持久账本的对账决策机制,确保外部副作用的可信性与安全性。

2、为解决上述技术问题,本发明提供如下技术方案:

3、第一方面,本发明提供了一种基于双侧持久账本与对账决策的智能体工具调用可信执行方法,该方法应用于包含执行面运行时与控制面服务的双平面系统中,执行面运行时被配置为零信任执行域,承载基于大语言模型生成的智能体;控制面服务独立于执行面运行时,被配置为权威信任锚点并独占对持久化动作账本的写入权;方法包括:

4、步骤s1,针对生成式文本特征的本地预检: 执行面运行时解析智能体生成的工具调用请求,执行针对大语言模型非确定性生成特征的本地预检操作;预检操作包括:利用json schema对生成参数进行结构化校验以过滤因模型幻觉产生的格式错误,对文件路径进行规范化处理以防御路径穿越攻击,以及校验输入体积是否超过预设资源阈值;若预检未通过,直接短路终止调用且不产生网络交互;

5、步骤s2,基于动态权限的二次审判与耐久预备: 若本地预检通过,执行面运行时向控制面服务发起耐久预备请求;控制面服务响应于该请求,摒弃执行面运行时的本地权限缓存,基于当前最新的用户权限策略和实时审批流状态进行二次独立审判;仅在审判通过时,在同一数据库事务内向动作账本写入一条状态为“已准备”的记录,并返回包含全局唯一的动作标识及授权决策快照标识的耐久确认凭证;若未获得耐久确认凭证,严禁进入实际执行步骤;

6、步骤s3,受控执行:执行面运行时仅在持有有效的耐久确认凭证时,调用真实工具执行操作以产生外部副作用;

7、步骤s4,物理感知的耐久提交: 执行面运行时根据实际执行情况向控制面服务发起耐久提交请求;控制面服务将动作账本更新为三态结果之一:成功、失败及未知;其中,“未知”状态专用于表征因网络中断或超时导致无法确证物理世界或外部业务系统中副作用是否已实际发生的中间态;

8、步骤s5,防止物理重复执行的对账决策: 在重试或恢复场景下,查询动作账本,并结合工具的物理幂等性属性执行差异化对账决策;若状态为“成功”,禁止重试并复用输出;若状态为“未知”且工具属性为非幂等,则决策为强制挂起人工对账,以阻断因系统自动重试导致的物理世界双重副作用。

9、进一步的,步骤s5中对账决策逻辑具体配置为:

10、当查询到的状态为“未知”时,读取工具注册时声明的幂等性标识;

11、若该工具被标记为“非幂等”,则系统锁定该动作标识,进入挂起状态并触发人工审计流程,直至人工确认外部系统实际状态后,根据人工指令将状态更新为“成功”或“失败”;

12、若该工具被标记为“幂等”,则允许按预设策略重新执行从步骤s1开始的完整流程。

13、进一步的,步骤s2中,控制面服务在同一事务内执行的二次独立审判包括:

14、获取本次工具调用的参数摘要,并动态查询当前用户的最终权限列表,判断参数摘要是否触发了敏感操作阈值或未授权的操作范围;

15、生成包含当前时间戳、权限版本号及审批流水号的授权决策记录,并将该记录与动作账本记录绑定,以实现副作用与授权依据的原子化关联。

16、进一步的,步骤s1中,还包括风险分级步骤:

17、根据工具注册信息将调用风险划分为只读、写入或高危等级;

18、对于高危等级的调用,强制要求执行额外的确认机制,确认机制包括多因素认证或管理员审批通过。

19、进一步的,还包括针对智能体执行特性的强制推进规则:

20、步骤s3一旦开始,无论是否接收到工具返回的响应数据,必须执行步骤s4;

21、若步骤s4的提交请求失败,执行面运行时将本次调用标记为待对账状态,并在后台以幂等方式重试提交,确保动作账本中不存在处于“已开始但未落定”的悬空记录。

22、第二方面,本发明提供了一种基于双侧持久账本与对账决策的智能体工具调用可信执行系统,包括:

23、执行面运行时,用于运行大语言模型智能体,执行上述方法中的本地预检、受控执行及请求发起操作,且自身不维护任何关于执行结果的最终状态真理;

24、控制面服务,独立于执行面运行时,作为系统的权威信任锚点,用于执行步骤s2中的二次独立审判及步骤s4中的状态落定,并独占写入持久化的动作账本;

25、动作账本,用于存储每一次工具调用的不可篡改记录,包含调用参数摘要、授权决策快照及三态执行结果;

26、对账决策器, 用于在异常恢复时,根据权利要求2的逻辑,针对非幂等工具的未知状态触发人工介入机制,防止自动化重试导致的业务风险。

27、第三方面,本发明提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述的方法。

28、第四方面,本发明提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时实现上述的方法。

29、本发明有益效果为:

30、副作用边界可信:任何工具副作用都必须以控制面耐久确认为前置条件,杜绝了未经授权的执行,执行平面实现零信任化。

31、消除重复副作用:以动作账本为唯一重试决策事实源,对账决策表将unknown结果导引至幂等重提或人工对账,避免了盲目重试造成的双写与业务损失,保证了副作用的恰好执行一次语义。

32、低开销快速拒绝:本地预检层不产生网络往返,把大部分非法调用以毫秒级成本短路,显著降低控制面负载与无效网络开销。

33、全链路可审计:每次执行绑定动作标识、动作版本与授权决策标识,可回溯到具体授权依据、参数摘要与最终三态结果,满足企业级合规审计与事后追责需求。