一种AI智能体的结构化工具网关调用方法及系统与流程

本发明涉及人工智能交互，具体涉及一种在大语言模型驱动的ai智能体中，通过结构化工具描述进行函数调用、失败降级和成本感知的网关系统方法。

背景技术：

1、现有的大语言模型智能体在调用外部工具时，通常采用硬编码工具调用、直接api调用或无成本感知调用等方式。这些方式存在以下不足：工具描述格式不统一，新增工具需要大规模修改系统代码；工具调用失败时用户体验差，直接暴露技术错误信息；用户对资源消耗无感知，易产生被偷偷扣费的不良体验；缺乏工具调用的优先级策略，昂贵工具和免费工具调用策略雷同。

2、经检索，现有技术主要集中在以下方向：langchain、autogpt等开源框架的函数调用机制，提供的工具调用是代码级的函数定义，缺乏统一的schema管理、成本等级标注和失败降级链机制；openai function calling api提供的是模型端的函数调用接口，不涉及工具网关层面的统一管理、失败降级和成本感知。本申请的创新在于"统一schema注册、多级降级链、成本感知"三位一体的工具网关方法，具有新颖性和创造性。

技术实现思路

1、本发明旨在提供一种ai智能体的结构化工具网关调用方法及系统，通过统一的工具schema描述、多级降级调用策略和嵌入式的成本感知机制，实现工具调用的标准化、友好化和透明化。

2、一种ai智能体的结构化工具网关调用方法，包括以下步骤：步骤s1——结构化工具注册：系统接收外部工具接入请求，将工具的功能描述、输入参数schema、输出格式schema、调用成本等级、依赖条件按预设的统一数据格式注册至工具网关，所述统一数据格式包含以下字段：工具唯一标识、工具名称、功能描述、输入参数定义、输出格式定义、调用成本等级、依赖条件、失败降级链、启用状态。步骤s2——工具意图识别：系统接收用户输入的自然语言文本，通过大语言模型解析得到用户意图，将用户意图与已注册的各工具的功能描述进行语义匹配，确定候选工具及其调用优先级。步骤s3——成本预估与提示：系统根据候选工具列表查询各工具的调用成本等级，若总成本超过预设阈值，在工具调用前以自然语言表达嵌入对话上下文进行提示。步骤s4——工具调用执行：系统按优先级顺序依次调用候选工具，若某一工具调用失败，自动查询该工具的失败降级链，按预设优先级依次尝试备选方案。步骤s5——结果加工与返回：系统接收工具调用返回的原始数据，通过大语言模型将原始数据转换为符合ai智能体当前人设风格的自然语言回复。

3、进一步的技术方案：成本预估与提示策略为——免费工具不提示，低成本工具在回复中嵌入"我用xx查了一下"的表述，中高成本工具在回复开头加入消耗提示。失败降级链至少包括四级：重试原工具、调用等价工具、使用系统预设的兜底知识库、由大语言模型基于自身训练知识回答并附带降级说明。工具意图识别还包括：对于模糊意图生成追问列表引导用户确认，对于复合意图拆解为多个子意图后按依赖关系排序执行。

4、有益效果：工具注册标准化——新工具只需按统一schema注册即可接入，无需修改核心系统代码；用户体验友好——工具调用失败时不会暴露技术错误信息，而是以自然语言降级，用户几乎无感知；成本透明化——用户在工具调用前自然获知资源消耗；调用策略智能化——根据工具成本和依赖关系自动选择最优调用路径。

1.一种ai智能体的结构化工具网关调用方法，其特征在于，包括以下步骤：接收工具接入请求，将工具的功能描述、输入参数schema、输出格式schema、调用成本等级和失败降级链按预设的统一数据格式注册至工具网关；接收用户输入的自然语言文本，通过大语言模型解析用户意图并与已注册工具的功能描述进行语义匹配，确定候选工具列表；根据候选工具列表查询各工具的调用成本等级，若总成本超过预设阈值，在工具调用前以自然语言表达嵌入对话上下文进行提示；按优先级顺序调用候选工具，若某一工具调用失败，自动查询该工具的失败降级链，按预设优先级依次尝试备选方案；接收工具调用返回的原始数据，通过大语言模型将原始数据转换为符合ai智能体当前人设风格的自然语言回复。

2.根据权利要求1所述的方法，其特征在于，所述统一数据格式包含以下字段：工具唯一标识、工具名称、功能描述、输入参数定义、输出格式定义、调用成本等级、依赖条件、失败降级链和启用状态。

3.根据权利要求1所述的方法，其特征在于，所述失败降级链至少包括以下降级层级：重试原工具、调用等价工具、使用系统预设的兜底知识库、由大语言模型基于自身训练知识回答并附带降级说明。

4.根据权利要求1所述的方法，其特征在于，所述成本预估与提示的策略为：免费工具不提示，低成本工具在回复中嵌入调用说明，中高成本工具在回复开头附加消耗提示。

5.根据权利要求1所述的方法，其特征在于，所述工具意图识别还包括：对于模糊意图生成追问列表引导用户确认，对于复合意图拆解为多个子意图后按依赖关系排序执行。

6.一种ai智能体的结构化工具网关调用系统，其特征在于，包括：工具注册模块，用于按统一数据格式接收并管理工具的注册信息；意图解析模块，用于通过大语言模型解析用户输入的自然语言文本，识别用户意图并匹配候选工具；成本感知模块，用于查询候选工具的成本等级并在调用前生成提示信息；调用执行模块，用于按优先级顺序调用工具，并在调用失败时按失败降级链自动执行降级策略；结果加工模块，用于将工具调用返回的原始数据转换为符合ai智能体人设风格的自然语言回复。