一种智能体回声抑制方法及其相关设备与流程
本技术属于人工智能领域,尤其涉及一种智能体回声抑制方法及其相关设备。
背景技术:
1、本发明涉及人工智能智能体技术领域,具体涉及基于大语言模型的推理行动协同范式智能体。
2、推理行动架构通过“推理-行动-观察”是一种让大语言模型通过"推理→行动→观察"循环来解决问题的架构范式。其工作流包括:
3、reasoning(推理):llm(large language model,大语言模型)分析当前状态,决定是否需要调用外部工具获取信息;
4、acting(行动):llm输出结构化的工具调用指令,系统执行对应工具;
5、observation(观察):工具执行结果返回给llm,llm基于结果继续推理或给出最终答案;
6、在调用工具时,其实现协议主要分为两类:一类是模型厂商原生的专用工具调用api,依赖厂商底层支持,通用性受限;另一类是文本协议,在大语言模型文本输出中嵌入自定义工具调用语法,可适配各类大模型,应用层可控性强。
7、采用文本协议时,历史对话中留存的工具调用语法文本会随上下文重复输入模型,对于模型而言,工具调用语法文本再被以思考结论的方式输入至模型中时易引发智能体重复执行该文本调用语法,进而使得输出格式错乱、上下文冗余膨胀、大量消耗词元、推理逻辑干扰,甚至导致智能体陷入死循环。整体而言,现有技术尚未在应用层形成可精准区分新旧调用、适配全品类大模型的有效解决方案。
技术实现思路
1、本发明的目的在于提供一种智能体回声抑制方法,旨在解决现有的智能体执行过程中容易产生回声导致运行出错的问题,本技术提供的智能体回声抑制方法包括:所述方法应用于基于大语言模型的推理行动协同范式智能体,包括:
2、获取大语言模型的推理内容;
3、判断所述推理内容中是否存在工具调用语句,所述工具调用语句为采用文本调用协议的调用语句;
4、若存在所述工具调用语句,则向工具调用语句分配唯一标识,不同的工具调用语句分别对应不同的唯一标识;
5、在执行工具调用语句前,判断已执行调用合集中是否存在所述唯一标识;
6、若已执行调用合集中存在所述唯一标识,则向所述大语言模型注入已执行提示;
7、若已执行调用合集中不存在所述唯一标识,则执行所述工具调用语句,并将所述唯一标识添加至所述已执行调用合集。
8、基于本技术实施例第一方面所提供的智能体回声抑制方法,可选地,所述向工具调用语句分配唯一标识的方式为预生成方式;
9、所述预生成方式包括:所述大语言模型在进入任务时生成多个唯一标识;
10、从所述多个唯一标识中选择一个未被分配的唯一标识作为所述工具调用语句对应的所述唯一标识。
11、基于本技术实施例第一方面所提供的智能体回声抑制方法,可选地,所述向工具调用语句分配唯一标识的方式为自生成方式;
12、所述自生成方式包括:所述大语言模型基于所述工具调用语句生成唯一标识。
13、基于本技术实施例第一方面所提供的智能体回声抑制方法,可选地,所述已执行调用合集与所述智能体执行的任务之前存在一一对应关系。
14、基于本技术实施例第一方面所提供的智能体回声抑制方法,可选地,所述方法还包括:
15、基于大语言模型的参数确定所述大语言模型的类别为强模型类别或生产模型类别;
16、基于所述大语言模型的类别确定唯一标识分配方式。
17、基于本技术实施例第一方面所提供的智能体回声抑制方法,可选地,所述大语言模型向工具调用语句分配唯一标识的方式为自生成方式
18、基于大模型表现判断是否存在回声情况;
19、若存在回声情况,则将所述大语言模型向工具调用语句分配唯一标识的方式切换为预生成方式。
20、基于本技术实施例第一方面所提供的智能体回声抑制方法,可选地,所述基于大模型表现判断是否存在回声情况,包括:
21、若检测到当前待执行工具调用语句的唯一标识已存在于所述已执行调用合集,且当前工具调用语句的调用参数、调用工具类型与历史已执行的工具调用记录一致,则判定存在回声情况。
22、本技术实施例第二方面提供了一种智能体回声抑制设备,所述设备用于运行基于大语言模型的推理行动协同范式智能体,包括:
23、获取单元,用于获取大语言模型的推理内容;
24、第一判断单元,用于判断所述推理内容中是否存在工具调用语句,所述工具调用语句为采用文本调用协议的调用语句;
25、分配单元,用于若存在所述工具调用语句,则向工具调用语句分配唯一标识,不同的工具调用语句分别对应不同的唯一标识;
26、第二判断单元,用于在执行工具调用语句前,判断已执行调用合集中是否存在所述唯一标识;
27、提示单元,用于若已执行调用合集中存在所述唯一标识,则向所述大语言模型注入已执行提示;
28、执行单元,用于若已执行调用合集中不存在所述唯一标识,则执行所述工具调用语句,并将所述唯一标识添加至所述已执行调用合集。
29、基于本技术实施例第二方面所提供的智能体回声抑制设备,可选地,所述向工具调用语句分配唯一标识的方式为预生成方式;
30、所述预生成方式包括:所述大语言模型在进入任务时生成多个唯一标识;
31、从所述多个唯一标识中选择一个未被分配的唯一标识作为所述工具调用语句对应的所述唯一标识。
32、基于本技术实施例第二方面所提供的智能体回声抑制设备,可选地,所述向工具调用语句分配唯一标识的方式为自生成方式;
33、所述自生成方式包括:所述大语言模型基于所述工具调用语句生成唯一标识。
34、基于本技术实施例第二方面所提供的智能体回声抑制设备,可选地,所述已执行调用合集与所述智能体执行的任务之前存在一一对应关系。
35、基于本技术实施例第二方面所提供的智能体回声抑制设备,可选地,所述设备还包括,确定单元,用于:
36、基于大语言模型的参数确定所述大语言模型的类别为强模型类别或生产模型类别;
37、基于所述大语言模型的类别确定唯一标识分配方式。
38、基于本技术实施例第二方面所提供的智能体回声抑制设备,可选地,所述大语言模型向工具调用语句分配唯一标识的方式为自生成方式;
39、所述设备还包括:切换单元,用于:基于大模型表现判断是否存在回声情况;
40、若存在回声情况,则将所述大语言模型向工具调用语句分配唯一标识的方式切换为预生成方式。
41、基于本技术实施例第二方面所提供的智能体回声抑制方法,可选地,所述基于大模型表现判断是否存在回声情况,包括:
42、若检测到当前待执行工具调用语句的唯一标识已存在于所述已执行调用合集,且当前工具调用语句的调用参数、调用工具类型与历史已执行的工具调用记录一致,则判定存在回声情况。
43、本技术实施例第三方面提供了一种智能体回声抑制设备,包括:
44、中央处理器,存储器,输入输出接口,有线或无线网络接口以及电源;
45、所述存储器为短暂存储存储器或持久存储存储器;
46、所述中央处理器配置为与所述存储器通信,在所述设备上执行所述存储器中的指令操作以执行本技术实施例第一方面中任意一项所述的方法。
47、本技术实施例第四方面提供了一种计算机可读存储介质,包括指令,当所述指令在计算机上运行时,使得计算机执行如本技术实施例第一方面中任意一项所述的方法。
48、本技术实施例第五方面提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行如本技术实施例第一方面中任意一项所述的方法。
49、从以上技术方案可以看出,本技术实施例具有以下优点:本技术提供了一种智能体回声抑制方法,应用于基于大语言模型的推理行动协同范式智能体,包括:获取大语言模型的推理内容;判断所述推理内容中是否存在工具调用语句;,所述工具调用语句为采用文本调用协议的调用语句;若存在所述工具调用语句,则向工具调用语句分配唯一标识,不同的工具调用语句分别对应不同的唯一标识;在执行工具调用语句前,判断已执行调用合集中是否存在所述唯一标识;若已执行调用合集中存在所述唯一标识,则向所述大语言模型注入已执行提示;若已执行调用合集中不存在所述唯一标识,则执行所述工具调用语句,并将所述唯一标识添加至所述已执行调用合集。本方案通过为每一次工具调用配置唯一标识;借助已执行调用集合的比对校验,系统能够以确定性逻辑直接判定当前调用的执行状态,进而使得智能体可以区分新旧调用,进而解决了出现回声的问题。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com