基于工具执行反馈的Agent技能失败模式记忆方法与流程

本发明涉及人工智能的，具体涉及基于工具执行反馈的agent技能失败模式记忆方法。

背景技术：

1、随着大语言模型agent技术的快速发展，工具调用已成为agent扩展能力边界、与外部世界交互的核心机制，agent通过调用api接口、数据库查询、代码执行器、文件系统等外部工具完成超越纯文本生成的复杂任务，工具调用链路的可靠性已成为影响agent执行效率、任务成功率与运行安全性的关键因素。

2、当前主流agent记忆系统多以对话历史或从中提取的事实作为核心记忆对象，聚焦于对已知信息的分层存储与检索，并未将工具调用的条件-异常映射作为独立的记忆类型进行结构化沉淀；部分具备自我反思能力的技术方案也仅以非结构化自然语言形式存储失败反思内容，缺少对失败参数组合、环境快照、异常签名等关键信息的精确结构化表征，无法支撑快速、精准的条件匹配检索。在失败处理层面，现有技术普遍采用执行失败后再恢复的被动式范式，多通过指数退避重试、参数格式修正、失败后动态注入辅助上下文等方式进行事后补救，必须在agent实际遭遇失败后才能触发纠错流程，无法在规划阶段基于历史经验主动规避潜在风险，这种试错模式在金融交易、数据删除等高成本、不可逆操作场景中存在显著的安全隐患。

3、同时，由于失败经验多以非结构化形式存储，agent面临新任务时仅能通过语义相似性进行模糊检索，无法基于具体参数数值、环境指标等结构化条件完成精确匹配，难以将历史失败经验精准对应到当前执行场景，导致同类失败反复发生，失败经验的复用价值较低。除此之外，现有技术尚未形成从失败检测、条件结构化、记忆存储、预检匹配、主动干预到效果反馈的完整工程闭环，失败处理获得的宝贵经验无法有效反哺后续的规划决策，agent难以从失败中持续学习并不断强化风险规避能力，无法实现体系的自我迭代优化。

4、综上，现有agent工具调用体系缺少结构化的失败模式记忆沉淀、前置风险预判与闭环迭代机制，难以有效降低工具调用失败率，无法满足生产环境下agent工具调用链路的高可靠性、高安全性需求。

技术实现思路

1、本发明提供了基于工具执行反馈的agent技能失败模式记忆方法解决上述提到的技术问题，具体采用如下的技术方案：

2、基于工具执行反馈的agent技能失败模式记忆方法，包含以下步骤：

3、当agent调用外部工具执行后的反馈信息为执行失败时，采集外部工具调用对应的失败上下文信息；

4、将失败上下文信息结构化编码为失败模式单元并存入失败记忆存储子系统；

5、在agent生成新的工具调用计划之后且在执行目标工具之前，触发预检引擎从失败记忆存储子系统中检索与目标工具当前调用上下文相匹配的历史失败模式单元，并基于检索到的历史失败模式单元计算目标工具调用的综合风险评分；

6、根据综合风险评分确定对应的干预策略，并对目标工具执行干预策略；

7、根据被干预后的目标工具执行后，产生的反馈信息，更新失败记忆存储子系统中相应失败模式单元的置信度和匹配计数。

8、进一步地，将失败上下文信息结构化编码为失败模式单元，包括：

9、对失败上下文信息进行多级错误分类，确定外部工具调用失败的错误大类、错误子类、异常类型和归因标签；

10、从失败上下文信息中提取关键条件组合，生成标准化条件表达式；

11、将标准化条件表达式、多级错误分类的分类结果及预设修复建议信息组装为失败模式单元。

12、进一步地，通过大语言模型条件提取器从失败上下文信息中提取关键条件组合，生成标准化条件表达式，具体包括：

13、构建约束性提示词并输入大语言模型，对大语言模型的原始输出进行格式校验；

14、将校验通过的原子条件按照原始输出中的逻辑关系组合并归一化处理，生成标准化条件表达式；

15、当原始输出的置信度低于预设阈值或格式校验丢弃的条件项数量超过预设比例时，触发规则回退机制，基于多级错误分类的分类结果查表映射预设的通用条件模板。

16、进一步地，失败记忆存储子系统采用混合存储架构对失败模式单元建立索引，包括：

17、将失败模式单元的结构化字段存储于结构化存储层并建立结构化索引；

18、将失败模式单元的描述文本编码为语义向量存储于向量存储层并建立语义相似性索引；

19、为预设的高频检索维度构建倒排索引和布隆过滤器作为索引加速层。

20、进一步地，预检引擎计算综合风险评分，具体包括：

21、以目标工具当前调用上下文为查询条件，从失败记忆存储子系统中检索相似度最高的k个历史失败模式单元作为候选集合；

22、根据候选集合中各候选失败模式单元的混合相似度评分与排名权重计算得到历史匹配度；

23、将候选集合中相似度最高的失败模式单元的条件表达式展开为析取范式，拆解为多个合取子句，分别计算当前调用上下文对各合取子句的满足度，取所有合取子句满足度的最大值作为条件触发度；

24、基于当前环境的系统负载、网络延迟和依赖服务健康度指标加权计算得到环境风险度；

25、将历史匹配度、条件触发度和环境风险度进行加权求和得到综合风险评分。

26、进一步地，计算当前调用上下文对各合取子句的满足度，包括：

27、针对合取子句中的每个原子条件，提取当前调用上下文中对应字段的实际值，根据原子条件的运算符类型，对实际值与原子条件的阈值进行匹配判定，输出原子条件满足度；

28、将合取子句内各原子条件的满足度加权聚合，作为当前调用上下文对该合取子句的满足度。

29、进一步地，预检引擎的触发时机包括：

30、计划级预检，在agent生成新的工具调用计划之后且首个工具执行之前触发，用于对全部工具调用进行批量风险扫描；

31、步骤级预检，在每个工具调用步骤执行之前的瞬时时刻触发，用于对目标工具进行最终拦截检查；

32、动态预检，在新的工具调用计划执行过程中检测到环境状态发生非预期变化时触发，用于对已规划但尚未执行的后续工具调用重新执行风险预判。

33、进一步地，动态预检还包括：

34、在agent启动新的工具调用计划执行之前，将新的工具调用计划划分为事务组，并在每个事务组执行之前生成执行检查点并持久化存储；

35、当动态预检判定后续步骤存在阻断风险且已执行步骤已产生副作用时，根据已执行步骤所属事务组的配置类型执行回滚补偿或挂起人工审核；

36、当触发动态预检的异常条件解除后，从执行检查点恢复执行环境，跳过已完成步骤继续执行。

37、进一步地，根据综合风险评分确定对应的干预策略，具体包括：

38、当综合风险评分高于第一预设阈值时，确定为阻断执行策略，阻断目标工具的执行，生成阻断预测报告并触发agent执行重规划流程；

39、当综合风险评分高于第二预设阈值且不高于第一预设阈值时，确定为工具切换策略，将目标工具切换为功能相似的可替代工具并执行参数映射后继续执行；

40、当综合风险评分高于第三预设阈值且不高于第二预设阈值时，确定为提示注入策略，在agent的当前执行上下文中注入风险提示信息；

41、当综合风险评分不高于第三预设阈值时，确定为无干预策略，允许目标工具正常执行。

42、进一步地，将目标工具切换为功能相似的可替代工具，包括：

43、根据已注册工具的元数据计算工具间的初始功能相似度，构建工具相似度图谱；

44、通过工具相似度图谱查询与目标工具功能相似的可替代工具，并将目标工具的调用参数转换为可替代工具可识别的参数格式后执行切换，并根据工具切换的实际执行结果动态更新工具相似度图谱中边的权重。

45、进一步地，更新失败记忆存储子系统中相应失败模式单元的置信度和匹配计数，包括：

46、当执行干预策略后产生的反馈信息指示执行成功且干预策略被采纳时，对相应失败模式单元的置信度进行正向调整并递增其匹配计数；

47、当干预策略被阻断且agent根据阻断后触发的重规划流程最终执行成功时，递增相应失败模式单元的匹配计数；

48、当执行干预策略后产生的反馈信息指示执行失败且干预策略被执行时，触发失败归因仲裁，根据agent对干预策略的遵从度、执行失败上下文对失败模式单元的条件覆盖度及环境异常度三个维度判定责任归属类别。

49、进一步地，根据责任归属类别执行差异化反馈，具体为：

50、若归属于agent未遵从则生成关联未遵从标签的新失败模式单元；

51、若归属于条件覆盖不足则保留原单元并生成新单元记录当前失败条件；

52、若归属于预测准确但策略无效则降低置信度；

53、若归属于未预期环境异常则扩展原单元的条件表达式。

54、本发明的有益之处在于：

55、本方案能够在规划阶段主动识别并规避高风险工具调用，可有效降低工具调用失败率，减少因调用失败导致的重试开销与时间浪费；

56、本方案针对数据删除、资金转账、配置变更等不可逆操作，可通过阻断策略在执行前拦截高风险调用，从根本上避免不可逆损失的发生；

57、本方案依托完整的失败学习到预防闭环，使agent具备从每次失败中提取知识并优化后续决策的能力，随着使用时长增长，系统的风险预测准确率持续提升，实现agent的持续自我进化。

58、同时，本方案通过轻量化的检索与评分实现失败前置预防，无需多次调用大语言模型执行反思与重规划，可显著降低大语言模型的token消耗与api调用成本。结构化的失败模式记录构建了清晰可追溯的失败模式知识库，便于管理人员查询历史失败类型、频率与修复策略，为系统优化提供数据支撑，增强了系统的可解释性。此外本方案不依赖特定的agent框架或工具类型，可与主流agent框架无缝集成，支持api调用、数据库操作、代码执行等多类工具的失败预防，具备良好的通用性与可扩展性。