大语言模型智能体的工具调用错误修正方法及系统与流程

本发明涉及人工智能及计算机任务执行控制，具体涉及一种大语言模型智能体的工具调用错误修正方法及系统。

背景技术：

1、随着大语言模型智能体在数据分析、代码处理、自动运维和业务流程自动化中的应用，智能体需要根据任务目标形成任务计划，并调用数据库查询工具、脚本工具、文件处理工具和外部服务接口完成任务。工具调用过程涉及参数配置、步骤依赖、执行权限、运行环境及前序输出传递，其中任一环节出现异常，均可能导致工具调用失败或者任务结果不符合预期。

2、现有智能体系统通常通过保存错误日志、重新生成任务计划或对失败步骤进行重试处理工具调用错误。该类处理方式主要针对当前任务进行事后修正，历史失败轨迹中包含的错误条件、环境状态和修复方式难以转化为能够在后续任务中直接调用的纠错信息，因而相似任务仍可能重复出现参数缺失、工具顺序错误、权限不足或上下文缺失等问题。

3、部分系统通过大语言模型生成自然语言形式的反思内容，但自然语言反思通常缺少明确的适用前提、条件动作规则和参数结构，难以由任务规划器直接执行。同时，未经验证的反思内容直接写入后续任务计划时，可能引入新的步骤冲突或参数错误。因此，需要对历史失败轨迹进行结构化处理，并在真实执行前验证纠错内容对当前任务的适用性和有效性。

技术实现思路

1、本发明旨在解决现有大语言模型智能体在调用数据库查询工具、脚本工具、文件处理工具及外部服务接口执行任务时，历史失败信息通常仅以日志或自然语言反思形式保存，难以被任务规划器直接复用；

2、同时，未经验证的纠错内容可能被错误注入后续任务计划，进而引发参数错误、调用顺序错误、权限错误、上下文缺失或输出结构异常的问题。

3、为解决上述技术问题，本发明提供一种大语言模型智能体的工具调用错误修正方法，包括：

4、记录任务计划、调用参数、输出、错误、上下文摘要及环境状态形成执行轨迹；

5、筛选失败轨迹并确定失败类型，由大语言模型生成适用前提、纠错约束和参数模板并结构化为反思记忆，将反思记忆注入由失败轨迹重建的工具调用链，在隔离环境中回放并确定初始可信度；

6、在待执行任务执行前提取任务目标、工具序列、关键实体和环境状态，加权匹配失败轨迹，选取适用前提匹配且可信度达到预设可信阈值的反思记忆，将纠错约束和参数模板写入任务计划及调用参数，形成修复后工具调用链；

7、校验修复后工具调用链的参数、依赖和权限并隔离模拟，未通过时调整后复验，达到终止条件仍未通过时停止真实执行，通过时真实执行；

8、在完成真实执行后比较模拟执行与真实执行的工具、参数和输出结构，形成执行一致度；

9、根据回放验证结果、真实执行状态和执行一致度更新所选反思记忆的可信度，根据更新后的可信度保留或归档所选反思记忆，并输出真实执行结果或验证失败信息。

10、进一步地，所述形成执行轨迹，包括：

11、为每次工具调用建立轨迹记录，以任务标识聚合并按步骤序号排序；

12、将计划快照、工具名称、工具版本和输入参数写入调用输入区，将调用输出和错误码写入调用结果区，将权限、依赖版本、网络状态和资源水位写入环境状态区；

13、从截至当前调用开始时已产生的对话历史和中间结果提取任务目标、关键实体及已获结果引用，形成上下文摘要；

14、将调用输入区、调用结果区、环境状态区及上下文摘要按任务标识关联，供失败轨迹筛选和匹配读取。

15、进一步地，所述筛选失败轨迹并确定失败类型，包括：

16、当错误码、异常堆栈、参数校验结果、输出结构或任务结果满足失败判定条件时，将对应步骤及其前序依赖确定为失败轨迹；

17、将失败轨迹与预设失败规则匹配，命中时输出对应失败类型，未命中时将工具序列、前序输出、上下文摘要和环境状态输入分类模型；

18、分类置信度达到自动分类阈值时保存分类模型输出的失败类型，未达到自动分类阈值时将失败轨迹发送至核验接口，并以核验接口返回的失败类型替换分类模型输出。

19、进一步地，所述形成反思记忆并确定初始可信度，包括：

20、将失败轨迹和失败类型输入大语言模型，生成适用前提、纠错约束和参数模板；

21、将适用前提转换为键值对，将纠错约束转换为条件动作记录，将参数模板转换为带占位符的参数骨架；

22、校验条件动作记录的可解析性和参数骨架的参数结构；

23、校验通过时形成反思记忆，将反思记忆注入由失败轨迹重建的工具调用链形成预验证调用链，在隔离环境中回放，并根据错误消除状态、约束满足状态和输出结构符合状态确定初始可信度；

24、将反思记忆与失败轨迹关联存储。

25、进一步地，所述加权匹配失败轨迹，包括：

26、为失败轨迹建立关键词倒排索引和语义向量索引，基于两类索引召回候选失败轨迹；

27、计算任务目标语义相似度、工具序列相似度、实体重合度和环境匹配度，对可计算特征按归一化权重求和形成综合相似度；

28、综合相似度达到预设相似度阈值时形成注入候选，低于预设相似度阈值且达到召回阈值时形成旁路提示，并将旁路提示发送至任务规划器而不写入任务计划；

29、排除适用前提不匹配或可信度未达到预设可信阈值的注入候选，将剩余注入候选对应的反思记忆确定为所选反思记忆。

30、进一步地，所述将纠错约束和参数模板写入任务计划及调用参数，包括：

31、解析条件动作记录，将命中待执行任务条件的动作写为任务计划的前置检查项、调整项或禁止项；

32、将参数骨架中的占位符与待执行任务的实体和输入值匹配，将填充后通过参数结构校验的参数骨架合并至调用参数；

33、为写入内容附加反思记忆标识；

34、检测到写入内容引发静态校验异常或模拟执行异常时，按照反思记忆标识删除同源写入内容，并恢复写入前的任务计划和调用参数。

35、进一步地，所述校验修复后工具调用链的参数、依赖和权限并隔离模拟，包括：

36、依据工具参数结构、前序输出和权限记录校验参数、依赖和权限，校验未通过时输出失败步骤；

37、校验通过时，在具有与真实执行环境相同运行镜像的容器隔离环境中执行修复后工具调用链；

38、只读工具连接只读数据副本或脱敏快照，写入工具、脚本工具和外部接口由隔离适配层依据工具接口定义及历史执行轨迹中的成功轨迹生成接口契约，并按接口契约构造模拟输出；

39、超过预设时限时终止模拟并输出失败步骤，完成模拟时输出各步骤的模拟执行结果。

40、进一步地，所述未通过时调整后复验，包括：

41、检查修复后工具调用链的必填参数、参数类型、前置依赖、权限、输出结构和纠错约束满足状态，将模拟输出输入判别模型形成输出评分，并根据检查结果和输出评分确定当前验证失败类型；

42、按照当前验证失败类型执行参数补全、步骤重排、上下文补充或工具替换，形成新的修复后工具调用链并重新验证；

43、复验次数达到预设复验次数，或者同一验证失败类型连续出现次数达到预设重复次数时，确定达到终止条件，停止真实执行并输出验证失败信息。

44、进一步地，所述更新所选反思记忆的可信度，包括：

45、回放验证通过并完成真实执行时，比较模拟执行与真实执行的工具、参数和输出结构，加权形成执行一致度；

46、真实执行成功且执行一致度达到一致度阈值时提高可信度，真实执行失败或执行一致度未达到一致度阈值时降低可信度；

47、回放验证达到终止条件仍未通过时，根据验证失败结果降低可信度；

48、所选反思记忆在预设周期内未被匹配命中时，按闲置系数降低可信度；

49、根据更新后的可信度将所选反思记忆加入注入候选集、继续保留或归档。

50、本发明还提供一种大语言模型智能体的工具调用错误修正系统，包括轨迹形成模块、反思记忆构建模块、检索注入模块、回放执行模块和可信度更新模块。

51、所述轨迹形成模块用于记录任务计划、调用参数、输出、错误、上下文摘要及环境状态形成执行轨迹。

52、所述反思记忆构建模块用于筛选失败轨迹并确定失败类型，由大语言模型生成适用前提、纠错约束和参数模板并结构化为反思记忆，将反思记忆注入由失败轨迹重建的工具调用链，在隔离环境中回放并确定初始可信度。

53、所述检索注入模块用于在待执行任务执行前提取任务目标、工具序列、关键实体和环境状态，加权匹配失败轨迹，选取适用前提匹配且可信度达到预设可信阈值的反思记忆，将纠错约束和参数模板写入任务计划及调用参数，形成修复后工具调用链。

54、所述回放执行模块用于校验修复后工具调用链的参数、依赖和权限并隔离模拟，未通过时调整后复验，达到终止条件仍未通过时停止真实执行，通过时真实执行。

55、所述可信度更新模块用于在真实执行后比较模拟执行与真实执行的工具、参数和输出结构，形成执行一致度，根据回放验证结果、真实执行状态和执行一致度更新所选反思记忆的可信度，根据更新后的可信度保留或归档所选反思记忆，并输出真实执行结果或验证失败信息。

56、本发明的有益效果：

57、本发明将任务计划、调用参数、上下文摘要、运行环境及调用结果共同组织为执行轨迹，并将失败轨迹转化为包含适用前提、纠错约束和参数模板的结构化反思记忆，使历史失败不再仅作为事后日志保存，而能够被任务规划器直接解析并作用于后续工具调用。由于反思记忆同时保留失败发生时的工具类型、权限状态、依赖关系和环境条件，纠错经验能够在满足适用前提时被定向调用，从而避免仅依据文本语义相似而将一种工具或环境下的修复方式错误迁移至另一任务。由此实现了失败经验由不可直接复用的记录向具有适用边界的可执行纠错规则的转变。

58、本发明将相似失败轨迹检索、适用前提门控和可信度门控结合，在真实执行前将符合条件的纠错约束和参数模板写入任务计划及调用参数，并通过静态校验和隔离模拟对修复后工具调用链进行回放验证。该过程并非在错误发生后对原步骤进行简单重试，而是在产生真实数据写入、文件修改或外部服务状态变化之前，预先发现参数缺失、调用顺序错误、权限不足、步骤间数据不衔接和输出结构异常，并在达到终止条件时阻止真实执行。因此，本发明能够将工具调用错误的发现时点由真实执行之后前移至真实执行之前，同时兼顾只读工具的实际验证和写入工具的无副作用模拟，降低错误调用产生不可逆业务影响的可能性。

59、本发明进一步根据回放验证结果、真实执行状态以及模拟执行与真实执行之间的执行一致度更新反思记忆的可信度，使反思记忆的保留、自动注入或归档由持续执行反馈决定。经多次验证有效的反思记忆能够提高可信度并在相似任务中稳定复用；引发新错误、不能通过回放验证或者与真实执行偏差较大的反思记忆则降低可信度并退出自动注入范围。结构化反思记忆、前置回放验证与可信度更新相互配合，使系统不仅能够复用历史纠错经验，还能够持续识别并隔离失效经验，形成具有错误预防、效果验证和记忆自净能力的闭环纠错机制。该效果不是单独采用失败日志、自然语言反思或事后重试所能够直接获得的。