托管智能体工具调用审批与执行控制方法、装置、介质与流程
本公开涉及人工智能,尤其涉及一种托管智能体工具调用审批与执行控制方法、装置、介质。
背景技术:
1、随着大语言模型与智能体技术深度落地企业研发、运维、数据处理、云平台管理及业务自动化等场景,智能体的能力已从单纯的文本生成,升级为可通过工具接口执行实体操作。当前托管智能体依托统一平台实现模型、会话、权限、凭证及执行环境的集中管控,自主完成代码提交、集群变更、数据库读写、流水线触发、云资源创建等高危操作。
2、现有技术针对智能体工具调用管控,普遍采用传统人工审批及固定api鉴权的静态管控方案,其中,传统人工审批主要依靠预配置的工具级静态白名单权限的固定流程审批机制,但是该方式为粗粒度工具级模式,无法区分同一工具在不同调用动作、参数、资源及环境下的风险差异,风险判断精度不足。
3、托管智能体的工具调用指令通常由模型或调用方动态生成,调用意图、参数、上下文和执行环境均具有不确定,往往想要调用的工具存在副作用,传统api鉴权仅关注调用方是否有权限,通常不结合任务目标、会话计划、模型输出等进行联合评估导致审批环节无法生成场景化的影响范围、副作用、回滚方案等有效审批依据,审批人员仅能依托主观经验审核,极易出现误批漏批问题,使得即便通过前置审批的工具调用仍会产生不可逆的业务与数据风险。
技术实现思路
1、有鉴于此,本公开实施例提供了一种托管智能体工具调用审批与执行控制方法、装置、介质,能够解决现有技术中存在的智能体工具调用效果与实际场景严重不匹配、人工依赖高、无法及时识别调用过程中的风险等问题。
2、第一方面,本公开实施例提供了一种托管智能体工具调用审批与执行控制方法,包括:
3、对托管智能体发起的工具调用请求进行结构化分析,确定所述工具调用请求对应的风险等级;
4、根据所述风险等级以及所述工具调用请求对应的工具类型,从预设的风险控制矩阵中确定本次调用对应的执行前技术防护项;
5、根据所述风险等级以及所述工具调用请求对应的动态信息、历史信息,确定当前请求对应的审批策略;
6、执行所述审批策略,并在审批通过后生成与审批结果绑定的当次审批令牌;
7、在工具调用执行前,基于所述风险等级对所述执行前技术防护项进行逐项校验,获得环境侧校验结果;基于所述当次审批令牌进行本次工具调用业务指令内容的一致性校验,获得请求侧校验结果;
8、当所述环境侧校验结果与所述请求侧校验结果均为校验通过时,在受控执行环境中执行所述工具调用请求。
9、第二方面,本公开实施例还提供了一种计算机装置,采用如下技术方案:
10、所述计算机装置包括:
11、至少一个处理器;以及,
12、与所述至少一个处理器通信连接的存储器;其中,
13、所述存储器存储有可被所述至少一个处理器执行的指令;所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行以上任一所述的托管智能体工具调用审批与执行控制方法。
14、第三方面,本公开实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储计算机指令;该计算机指令用于使计算机执行以上任一所述的托管智能体工具调用审批与执行控制方法。
15、第四方面,本公开实施例还提供了一种计算机程序产品,包括计算机程序/指令,该计算机程序/指令被处理器执行时实现以上任一项所述方法的步骤。
16、本公开实施例提供的托管智能体工具调用审批与执行控制方法,通过对托管智能体发起的工具调用请求实施结构化分析并判定风险等级,能够对模型动态输出的非确定性调用指令实现指令粒度的风险量化识别,摆脱传统方案仅在工具维度粗粒度划分风险的局限,进而支撑差异化管控策略的生成;结合风险等级与工具类型匹配对应的执行前技术防护项,所以能够按照风险高低配置相适配的隔离、参数过滤、资源限制规则,能够避免统一防护策略带来的防护不足或资源浪费,进而保障不同风险等级调用行为具备对应的安全前置约束;本方法依托风险等级、调用动态信息与历史信息确定审批策略,审批通过后生成绑定本次调用的审批令牌,能够将审批范围固化为可机器识别的凭证,实现审批结论与单次调用行为绑定,进而依托审批令牌开展业务指令一致性校验,拦截审批完成后参数篡改、新增参数、资源越界等违规变更;在执行前同步开展环境侧防护项逐项校验与请求侧一致性双重校验,仅在两项校验均通过时才允许在受控执行环境执行调用请求,能够同时保障执行环境满足安全基线、调用指令未超出审批许可范围,进而确保高风险调用在缺失前置安全条件或指令偏离审批边界时无法接触生产资源,实现具备真实副作用的工具调用全链路确定性约束,提升托管智能体生产环境自动化操作的可控性。
17、上述说明仅是本公开技术方案的概述,为了能更清楚了解本公开的技术手段,而可依照说明书的内容予以实施,并且为让本公开的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
1.一种托管智能体工具调用审批与执行控制方法,其特征在于,包括:
2.根据权利要求1所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述对托管智能体发起的工具调用请求进行结构化分析,确定所述工具调用请求对应的风险等级,包括:
3.根据权利要求2所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述对托管智能体发起的工具调用请求进行结构化分析,获得工具调用风险向量,包括:
4.根据权利要求3所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述对工具调用请求进行标准化处理,提取关键风险特征,包括:
5.根据权利要求1所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述根据所述工具调用风险向量以及预设的强制覆盖规则,确定所述工具调用请求对应的风险等级,包括:
6.根据权利要求1所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述根据预设风险锚点库,确定工具调用风险向量中命中锚点的风险信息,包括:
7.根据权利要求6所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述根据每个所述目标锚点的所述基线等级获得对应的锚点评分,包括:
8.根据权利要求1所述的托管智能体工具调用审批与执行控制方法,其特征在于,所述根据所述风险等级以及所述工具调用请求对应的动态信息、历史信息,确定当前请求对应的审批策略,包括:
9.一种计算机装置,其特征在于,所述计算机装置包括:
10.一种计算机可读存储介质,其特征在于,该计算机可读存储介质存储计算机指令;该计算机指令用于使计算机执行权利要求1-8任一所述的托管智能体工具调用审批与执行控制方法。
11.一种计算机程序产品,包括计算机指令,其特征在于,该计算机指令被处理器执行时实现权利要求1-8任一项所述方法的步骤。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com