一种隔离沙箱与分级权限的智能体脚本监测方法及系统与流程
本技术涉及智能体执行控制与脚本安全,具体而言,涉及一种隔离沙箱与分级权限的智能体脚本监测方法及系统。
背景技术:
1、随着大语言模型和智能体技术在企业办公、数据分析、rpa自动化、代码生成、插件扩展和内部运维场景中的应用增加,智能体已经不再只是生成自然语言结果,而是逐步具备调用数据库、执行脚本、访问文件、调用api、触发自动化流程和操作外部工具的能力。在agentos运行环境中,代码执行agent、rpa agent、插件执行环境、数据处理agent等组件可能根据用户指令或任务计划生成脚本,并在服务器、容器、终端设备或受控运行环境中执行。
2、在智能体脚本执行场景中,执行过程由脚本解析、权限授权、沙箱隔离、行为监测、违规阻断和取证归档等多个环节组成。不同环节对安全能力的要求存在明显差异:脚本静态解析需要识别脚本语言、导入库和危险函数;权限授权需要将高层业务权限映射为系统调用边界;行为监测需要采集系统调用、文件访问、网络连接和工具调用事件;违规阻断需要在单次调用与多次调用组合两个层面识别风险。
3、现有技术通常依赖容器隔离、虚拟机隔离、linux seccomp、apparmor、selinux、命名空间、cgroup、windows沙箱、权限账号、api网关鉴权和人工审批等机制,这些机制能够在一定程度上限制脚本对系统资源的访问,但其设计目标多面向普通进程、普通插件、普通应用服务或人工编写脚本,缺乏面向智能体自主生成脚本、动态调用工具、上下文驱动执行和多轮任务链联动场景的细粒度安全监测能力:普通沙箱只能隔离运行环境,难以根据智能体角色、任务类型、脚本意图和系统调用风险进行分级授权;系统调用监控通常只记录底层调用行为,缺乏与智能体任务上下文、用户意图、工具类型和权限策略的关联;白名单策略通常静态配置,无法根据任务目的、数据域、执行阶段和返回结果动态收缩;违规阻断往往只在单次系统调用发生时触发,缺少对多次调用组合形成逃逸路径的识别;脚本执行后缺乏完整取证链,难以追踪脚本来源、生成模型、授权依据、执行环境、系统调用序列、拦截原因和修复建议。
4、因此,需要一种面向智能体脚本执行场景的安全监测方法,通过接收脚本任务、构建隔离沙箱、进行分级授权、执行系统调用审计、检测逃逸行为、违规阻断和取证归档,形成从脚本接收到执行结束的闭环安全控制机制。
技术实现思路
1、本技术的目的在于提供一种隔离沙箱与分级权限的智能体脚本监测方法及系统,通过接收脚本执行请求、静态解析脚本、生成分级权限画像、创建隔离沙箱、采集系统调用审计事件流、匹配逃逸检测规则并在违规时执行阻断取证,以提升智能体脚本执行环境的安全性、可控性和可审计性。
2、第一方面,本技术实施例提供了一种隔离沙箱与分级权限的智能体脚本监测方法,其特征在于,由处理器执行以下步骤:
3、接收智能体脚本执行请求,所述脚本执行请求包括脚本内容、脚本类型、智能体实例标识、用户角色、任务上下文标识、声明执行意图和预期工具范围;
4、对所述脚本内容进行静态解析,得到脚本语言、导入库、危险函数、文件路径、网络目标、系统命令和外部工具调用语句;
5、基于所述用户角色、所述智能体实例标识、所述任务上下文标识、脚本静态解析结果、数据域敏感级别和工具风险等级,生成所述脚本的分级权限画像,所述分级权限画像包括所述脚本的权限等级和所述脚本执行过程的逃逸风险阈值;
6、根据所述分级权限画像生成系统调用白名单、文件路径边界、网络访问边界、进程创建边界、环境变量边界和工具调用边界,并创建隔离沙箱,将脚本、输入数据、依赖库、临时输出目录和受控工具代理绑定至所述隔离沙箱;
7、在所述隔离沙箱中执行所述脚本,采集系统调用事件、文件访问事件、网络连接事件、进程事件和工具调用事件,形成运行期审计事件流;
8、将所述运行期审计事件流与所述系统调用白名单、权限映射规则和逃逸检测规则进行匹配,判断是否存在越权调用、异常组合行为或沙箱逃逸风险;所述权限映射规则用于定义分级权限画像到各访问边界的映射逻辑;
9、当所述判断的结果为存在越权调用、异常组合行为或沙箱逃逸风险时,依据违规级别执行阻断、降权、暂停、终止、回滚或人工复核,并生成违规证据记录;
10、在脚本执行结束后,对输出结果进行返回约束校验,并生成脚本执行取证记录,将脚本哈希、沙箱画像、权限画像、系统调用摘要、异常样本和处置结果写入审计系统。
11、优选地,所述分级权限画像还包括允许系统调用集合、可读路径集合、可写路径集合、网络访问目标集合、进程创建限制、工具调用范围和资源配额;所述权限等级由用户角色、所述智能体实例标识对应的智能体角色、任务类型、脚本风险、数据域敏感级别、工具副作用和历史可信度共同确定。
12、优选地,所述系统调用白名单包括系统调用名称、参数类型约束、路径边界、网络边界、调用频率阈值、执行阶段约束、返回值约束和违规处置动作。
13、优选地,所述隔离沙箱包括文件系统边界、网络边界、进程边界、环境变量边界、工具边界、资源边界和审计边界;所述隔离沙箱采用容器、轻量虚拟机、受限解释器、webassembly运行时、远程临时执行环境或操作系统安全策略组合中的至少一种方式实现。
14、优选地,所述运行期审计事件流中的每个审计事件包括审计事件标识、脚本执行请求标识、沙箱标识、系统调用名称、参数摘要、资源标签、命中规则编号、判定结果、返回状态、风险得分和证据摘要;所述审计事件记录脱敏路径和参数摘要,不记录完整业务数据内容。
15、优选地,所述逃逸检测规则包括路径逃逸检测、进程逃逸检测、网络逃逸检测、凭证逃逸检测、工具绕行检测、组合逃逸检测和输出逃逸检测。
16、优选地,所述组合逃逸检测基于连续多个系统调用事件的调用顺序、时间间隔、资源类型和风险得分累计值,判断脚本是否存在由低风险调用组合形成高风险逃逸路径的行为。
17、优选地,所述依据违规级别执行处置,包括:对访问未授权文件路径的行为执行单次调用阻断;对高危凭证读取行为终止脚本并冻结沙箱;对疑似误报的低风险行为执行降权;对业务关键脚本执行暂停并提交人工复核。
18、优选地,所述脚本执行取证记录还包括违规规则编号、阻断动作、输出校验结果和人工复核状态;
19、在将所述脚本执行取证记录写入审计系统之后,还包括:将违规样本、误报样本和人工复核结果回写至策略库,用于系统调用白名单和风险模型的优化。
20、第二方面,本技术实施例提供了一种隔离沙箱与分级权限的智能体脚本监测系统,包括:
21、脚本接收模块,用于接收智能体脚本执行请求,所述脚本执行请求包括脚本内容、脚本类型、智能体实例标识、用户角色、任务上下文标识、声明执行意图和预期工具范围;
22、脚本解析模块,用于对所述脚本内容进行静态解析,得到脚本语言、导入库、危险函数、文件路径、网络目标、系统命令和外部工具调用语句;
23、风险分级模块,用于基于所述用户角色、所述智能体实例标识、所述任务上下文标识、脚本静态解析结果、数据域敏感级别和工具风险等级,生成所述脚本的分级权限画像,所述分级权限画像包括所述脚本的权限等级和所述脚本执行过程的逃逸风险阈值;
24、权限映射与沙箱编排模块,用于根据所述分级权限画像生成系统调用白名单、文件路径边界、网络访问边界、进程创建边界、环境变量边界和工具调用边界,并创建隔离沙箱,将脚本、输入数据、依赖库、临时输出目录和受控工具代理绑定至所述隔离沙箱;
25、系统调用监测模块,用于在所述隔离沙箱中执行所述脚本,采集系统调用事件、文件访问事件、网络连接事件、进程事件和工具调用事件,形成运行期审计事件流;
26、逃逸检测模块,用于将所述运行期审计事件流与所述系统调用白名单、权限映射规则和逃逸检测规则进行匹配,判断是否存在越权调用、异常组合行为或沙箱逃逸风险;
27、违规阻断模块,用于当所述判断的结果为存在越权调用、异常组合行为或沙箱逃逸风险时,依据违规级别执行阻断、降权、暂停、终止、回滚或人工复核,并生成违规证据记录;
28、取证归档模块,用于在脚本执行结束后,对输出结果进行返回约束校验,并生成脚本执行取证记录,将脚本哈希、沙箱画像、权限画像、系统调用摘要、异常样本和处置结果写入审计系统;
29、策略反馈模块,用于将违规样本、误报样本和人工复核结果回写至策略库,用于系统调用白名单和风险模型的优化。
30、本发明相较于现有技术的方案,至少具有以下有益的技术效果:
31、(1)通过将智能体任务上下文与脚本执行安全控制绑定,把脚本内容与智能体实例、用户角色、任务上下文、数据域和工具范围联合建模为统一的脚本执行请求,使得不同用户、不同智能体、不同任务、不同数据域下的脚本执行边界能够被区分,避免传统沙箱只根据运行环境进行静态隔离的不足;
32、(2)通过分级权限控制模型,将高层业务权限转化为系统调用白名单、文件路径边界、网络访问边界、进程边界和工具调用边界,使得智能体脚本执行具备可计算、可执行的安全约束,权限等级随任务类型、脚本风险、数据域敏感级别、工具副作用和历史可信度动态确定,而非仅由用户角色单一决定;
33、(3)通过系统调用审计事件结构,将底层系统调用与智能体任务、脚本来源、权限画像和策略规则关联,使得脚本执行过程具备可追溯性和可复核性,同时以脱敏路径和参数摘要代替完整业务数据内容,在保证取证能力的同时降低敏感信息泄露风险;
34、(4)通过路径逃逸、进程逃逸、网络逃逸、凭证逃逸、工具绕行、组合逃逸和输出逃逸七类逃逸检测规则,使得系统既能够识别单次高危行为,也能够通过风险得分累计识别多个低风险调用组合形成的高风险逃逸路径,弥补了传统方案仅在单次系统调用发生时触发阻断的不足;
35、(5)通过违规阻断与取证闭环,在发现风险时依据违规级别执行阻断、降权、暂停、终止、冻结沙箱和人工复核等差异化处置,并生成包含脚本哈希、调用序列、违规样本和复核建议的完整证据链,使得后续安全审计、策略优化和责任界定具备依据。
36、综上,本技术通过脚本执行请求联合建模、分级权限画像、系统调用白名单、隔离沙箱边界、运行期审计事件流、七类逃逸检测规则和违规阻断取证闭环等关键技术手段的有机结合,形成了一套完整的智能体脚本执行安全监测方案,在代码执行agent、rpaagent、插件执行环境和数据处理agent等多种场景中均能稳定运行,在保证脚本任务正常执行的同时实现了对越权调用、沙箱逃逸和高危副作用的可控、可查、可阻断和可复核。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com