一种多租户人工智能智能体权限隔离方法及平台

摘要: 本技术涉及多租户人工智能智能体访问控制,尤其是涉及一种多租户人工智能智能体权限隔离方法及平台。背景技术:1、在多用户、多角色共享同一人工智能智能体服务的场景下,...
一种多租户人工智能智能体权限隔离方法及平台

本技术涉及多租户人工智能智能体访问控制,尤其是涉及一种多租户人工智能智能体权限隔离方法及平台。

背景技术:

1、在多用户、多角色共享同一人工智能智能体服务的场景下,现有方案通常在应用层采用基于角色的访问控制对用户请求进行鉴权,所有用户的智能体请求由同一服务账号统一执行。由于智能体的有效权限与调用者身份相互脱节,一旦应用层鉴权被绕过或发生配置失误,智能体即可读写任意用户的数据,存在越权访问与数据泄露的风险。此外,部分方案由反向代理完成认证后,通过请求头向后端透传用户身份标识,然而该类身份标识可被本机任意进程读取与伪造,后端若直接信任该标识即面临身份冒充风险。

2、进一步地,在多角色共享单张图形处理器推理资源的场景下,现有方案普遍缺乏与用户角色及优先级相挂钩的资源调度与配额机制,既存在单一角色因权限内的调用消耗过多资源而影响整机稳定性的问题,也存在高优先级角色无法优先获得推理资源的问题。

技术实现思路

1、本发明的目的在于提供一种多租户人工智能智能体权限隔离方法及平台,以解决现有技术中存在的以下技术问题:在多租户人工智能智能体服务场景下,现有应用层权限控制方案存在单点失效风险,应用层鉴权被绕过或配置失误时智能体可越权访问任意用户数据;反向代理透传的用户身份标识可被本机任意进程读取与伪造,存在身份冒充风险;且缺乏与用户角色及优先级相挂钩的推理资源调度与配额机制,存在单一角色因权限内的调用消耗过多资源而影响整机稳定性、以及高优先级角色无法优先获得推理资源的技术问题。

2、为了实现上述目的,本发明采用如下技术方案:本发明提供一种多租户人工智能智能体权限隔离方法,包括:反向代理模块接收用户终端的访问请求,对所述用户终端进行外部认证,在认证通过后向所述访问请求注入内部共享密钥以及经认证的用户标识,并将携带所述内部共享密钥与所述用户标识的请求转发至智能体编排网关模块;所述智能体编排网关模块仅绑定本机回环地址,使其服务端口不对外部网络直接暴露;所述智能体编排网关模块校验所述请求携带的内部共享密钥是否与预置的网关内部密钥一致,在所述内部共享密钥不一致或缺失时拒绝所述请求,在校验通过后根据所述用户标识解析出所述用户的角色及其所属的操作系统用户组;所述智能体编排网关模块以所述用户的操作系统身份调度智能体执行工具调用,使所述智能体在执行所述工具调用时的可操作范围受限于所述用户在操作系统层面的权限范围,从而使智能体即便在应用层鉴权被绕过的情况下,其所能访问的资源也不超出调用者自身的操作系统权限;所述智能体编排网关模块对所述工具调用所请求访问的每一文件路径,根据所述用户的角色将所述文件路径映射至对应的工作区根目录,并根据所述用户的操作系统身份将所述文件路径进一步映射至所述工作区根目录下与该用户对应的用户子目录,对所述文件路径进行包含符号链接在内的归一化解析,并拒绝解析结果落在所述工作区根目录之外、或者落入所述工作区根目录下其他用户的用户子目录的访问请求,以防止智能体通过相对路径、符号链接或路径回溯等手段实施路径穿越攻击;调用操作系统内核的访问控制列表接口,对超出所述用户操作系统权限范围的文件访问进行权限判定并予以拒绝,并将工具调用的执行结果经所述智能体编排网关模块及所述反向代理模块返回所述用户终端。

3、进一步地,所述反向代理模块与仪表盘模块为仅有的两个被允许在转发请求时注入所述内部共享密钥的实体,所述内部共享密钥以独立配置片段的形式分别注入所述反向代理模块与所述仪表盘模块,且所述内部共享密钥被排除于版本控制之外;所述智能体编排网关模块在所述内部共享密钥校验未通过时,无论所述请求是否携带用户标识或外部凭证,均予以拒绝。通过将注入实体严格限定为反向代理模块与仪表盘模块,封堵了本机任意进程通过伪造用户标识或外部凭证冒充合法用户的攻击路径。

4、进一步地,所述智能体编排网关模块对所述智能体请求执行的命令进行命令白名单过滤,所述命令白名单记录允许执行的命令名称及其合法参数模式,对命中危险命令模式或不属于所述命令白名单的命令予以拦截,并向智能体返回拒绝响应。命令白名单过滤在操作系统身份调度的基础上进一步收窄了智能体在命令执行层面的攻击面。

5、进一步地,本地推理引擎模块在单一图形处理器且同一时刻仅允许一个推理模型驻留的约束下运行。本技术中,本地推理引擎模块所加载的、需要占用图形处理器显存的各模型统称为推理模型,包括下述主力推理模型与视觉模型。该约束通过以下机制实现:本地推理引擎模块维护一个模型驻留互斥锁,任一时刻仅允许一个推理模型持有该锁并加载至图形处理器显存;当接收到新的推理请求时,若请求所需模型与当前驻留模型不一致,则触发模型切换流程:首先将当前模型的键值缓存及低秩适配器状态序列化保存至主机内存的模型上下文暂存区,随后卸载当前模型并释放显存,再将目标模型加载至显存并恢复其上下文状态。所述智能体编排网关模块按与所述用户的角色对应的优先级对推理请求进行排队调度,为每个角色分配对应的优先级,高优先级角色的推理请求在队列中排列于低优先级角色的推理请求之前,优先获得图形处理器推理资源。当高优先级角色的推理请求到达且低优先级模型正驻留时,若当前低优先级请求尚未完成且未达可中断点,则允许其完成当前推理批次后触发模型切换;若当前处于可中断点,则立即保存上下文并抢占图形处理器资源。为防止低优先级角色的推理请求因长期等待而无法获得服务,当低优先级角色的推理请求在队列中的等待时长达到预设阈值时,该请求被提升至可调度状态,以保证低优先级角色的推理请求在合理等待时间内仍可获得服务。通过上述优先级排队调度机制,在单一图形处理器资源约束下保证了高优先级角色的推理响应性。

6、进一步地,还包括按操作系统用户组设置资源切片配额的步骤,所述资源切片配额包括内存上限、中央处理器配额与进程数上限中的至少一种。在一种实施方式中,按操作系统用户组设置资源切片配额通过linux 控制组cgroup v2实现。为每个操作系统用户组创建独立的cgroup 切片,并配置以下参数:内存上限通过memory.max 接口设置,例如将财务组用户的内存上限设置为8gb;中央处理器配额通过cpu.max 接口设置,例如将普通组用户的cpu 使用率限制为单核的80%;进程数上限通过pids.max 接口设置,例如将访客组用户的进程数上限设置为32。智能体编排网关模块在调度工具调用进程时,将进程加入对应用户组的cgroup 切片,使该进程及其子进程所消耗的资源受限于该切片配置的配额。当某用户组的资源使用触达配额上限时,操作系统内核将拒绝该用户组内新进程的创建或内存分配请求,智能体编排网关模块捕获该拒绝信号并向用户终端返回资源超限提示,以使任一操作系统用户组内的智能体调用所消耗的资源不超过该操作系统用户组对应的资源切片配额,从而避免任一角色因权限内的调用而拖垮整机。

7、进一步地,还包括对数据采用分级存储的步骤:将推理模型与智能体工作区存储于固态存储介质的热区,将原始数据存储于冷存储介质。在一种实施方式中,分级存储的缓冲区管理策略如下:固态存储介质的缓冲区划分为固定大小的缓冲块,每个缓冲块关联一个引用计数器和一个最近最少使用lru 时间戳。当智能体请求访问原始数据时,智能体编排网关模块首先查询缓冲区映射表:若目标原始数据已存在于缓冲区且引用计数大于零,则直接返回该缓冲块地址并将引用计数加一;若不存在,则从冷存储介质读取原始数据至空闲缓冲块,初始化引用计数为一,并更新lru 时间戳。缓冲区的总容量上限预设为固态存储介质容量的10%,当缓冲区已满且需加载新数据时,驱逐lru 时间戳最旧的缓冲块,若该缓冲块引用计数为零则直接释放,若引用计数大于零则等待其引用计数归零后释放。计算完成后,智能体编排网关模块显式触发缓冲块释放命令,将计算结果持久化写入对应用户的工作区,并将原始数据缓冲块的引用计数减一;当引用计数归零时,该原始数据不再持久驻留于固态存储介质的热区。多租户并发访问同一原始数据时,通过缓冲块级别的读锁保证数据一致性,写操作则通过排他锁实现。通过上述分级存储方式,在满足智能体计算所需读写性能的同时,保护了固态存储介质的使用寿命与原始数据的安全。

8、进一步地,当所述工具调用或推理请求包含图像内容时,所述智能体编排网关模块先调用视觉模型对所述图像内容进行处理,得到文本描述,再将所述文本描述注入至对应的用户消息中以替代所述图像内容,并将替代后的用户消息交由主力推理模型进行推理。所述视觉模型与所述主力推理模型同属于所述推理模型,并同受前述模型驻留互斥锁的约束,二者以显存换入换出的方式串行驻留于同一图形处理器,同一时刻仅有一个模型占用所述图形处理器的显存。在一种实施方式中,视觉模型采用具备图像到文本生成能力的多模态模型,该多模态模型包括视觉编码器与语言解码器两部分:视觉编码器可采用基于transformer 架构的编码器(例如clip 结构的视觉塔),用于提取图像特征;语言解码器基于所提取的图像特征生成文本描述,从而输出包含图像中的实体、关系、场景及文本内容的结构化文本描述,该多模态模型例如为blip-2、llava、qwen-vl 等。视觉模型部署于本地推理引擎模块内,与主力推理模型处于相互独立的模型权重存储区,并在模型驻留互斥锁的协调下与主力推理模型交替占用图形处理器显存。当工具调用或推理请求包含图像内容时,智能体编排网关模块将图像内容以base64 编码或二进制流形式通过本地回环地址发送至本地推理引擎模块的视觉模型接口。视觉模型对图像进行特征提取与语义理解,生成结构化的文本描述,包括图像中的实体、关系、场景及文本内容,并以json格式返回。智能体编排网关模块解析该json 文本描述,将其序列化为纯文本字符串后注入至对应用户消息的图像占位符位置,替代原始图像内容。替代后的用户消息重新计算token 数,若超出主力推理模型的上下文窗口限制,则按最近对话优先的策略进行滑动窗口截断。若视觉模型解析失败,如返回空描述、输出无法按预定json 结构解析或者推理过程超时,智能体编排网关模块向用户终端返回图像识别失败提示,并提供是否以原始图像继续推理的选项。该处理方式在主力推理模型上下文窗口受限时,兼顾了图像理解能力与上下文处理效率。

9、进一步地,还包括对共享知识库进行归属可见性过滤的步骤:根据所述用户的部门、操作系统用户组与角色,对所述共享知识库中的文档进行可见性判定,仅将判定为可见的文档纳入所述智能体的检索范围。在一种实施方式中,共享知识库中的每篇文档附有归属元数据,存储于文档的扩展属性或独立的元数据索引表中。归属元数据包括:所属部门标签、可见操作系统用户组列表及角色白名单。可见性判定采用分层布尔逻辑:首先判定当前用户的部门标签是否与文档的部门标签匹配,部门匹配为必要条件;其次判定当前用户所属的操作系统用户组是否存在于文档的可见用户组列表中,用户组匹配为充分条件之一;最后判定当前用户的角色是否存在于文档的角色白名单中,角色匹配为充分条件之一。最终可见性结果为:部门匹配 and(用户组匹配 or 角色匹配)。智能体编排网关模块在执行检索增强生成前,先根据当前用户的部门、操作系统用户组与角色生成可见性过滤条件,将该条件转换为向量数据库的元数据过滤表达式,如milvus 的boolean expression 或pinecone 的metadata filter,在向量检索阶段即排除不可见文档,仅将判定为可见的文档纳入智能体的检索范围,从而将角色权限控制延伸至检索增强生成场景,防止智能体在知识检索阶段越权获取其他用户或角色的文档内容。

10、进一步地,所述智能体编排网关模块以容器方式部署,所述容器以非特权用户运行、丢弃全部内核能力,且不挂载容器守护进程的套接字文件,以降低容器逃逸所带来的提权风险。在该实施方式中,执行用户身份切换所需的内核能力不由所述容器持有,而由运行于宿主机上、位于所述容器之外的身份切换执行器持有。容器内的智能体编排网关模块通过仅绑定本机回环地址的内部接口,将所述工具调用及所述用户标识提交至所述身份切换执行器,由所述身份切换执行器以所述用户的操作系统身份创建工具调用进程并返回执行结果,从而使容器内的智能体编排网关模块在保持非特权运行的同时,实现与裸机部署方式相同的操作系统身份绑定、路径归一化校验与访问控制列表兜底功能,并进一步降低了容器逃逸所带来的提权风险。

11、与现有技术相比,本发明具有如下有益效果:通过以所述用户的操作系统身份调度智能体执行工具调用,使智能体的可操作范围在操作系统层面严格受限于调用者自身权限,即便应用层鉴权被绕过或配置失误,智能体所能造成的最大影响也被收敛至单个调用者的权限范围之内,显著降低了多租户共享智能体服务时越权访问与提权的技术风险,克服了现有应用层基于角色的访问控制方案在单点失效时无法提供有效保护的缺陷。

12、通过将内部共享密钥注入实体严格限定为反向代理模块与仪表盘模块,且所述智能体编排网关模块仅绑定本机回环地址,使得本机任意进程无法绕过反向代理模块直接向网关发送请求,即便携带伪造的用户标识或外部凭证也将因无法提供正确的内部共享密钥而被拒绝,从而封堵了现有方案中用户身份标识可被本机进程读取与伪造的身份冒充攻击路径。

13、通过对工具调用所请求访问的每一文件路径执行包含符号链接归一化解析的多层路径校验,并以操作系统的访问控制列表作为最终权限屏障,形成了应用层路径校验与操作系统内核访问控制判定相互配合的纵深防御体系,即便前述应用层多层校验均被绕过,操作系统层面仍将拒绝越权访问,有效防止了智能体通过路径穿越手段越出用户工作区根目录的技术问题。

14、通过按与用户角色对应的优先级对推理请求进行排队调度,并结合按操作系统用户组设置的资源切片配额,在单一图形处理器资源约束下既保证了高优先级角色的推理响应性,又通过资源上限约束防止了任一角色因权限内的调用消耗过多资源而影响整机稳定性,解决了现有方案缺乏角色挂钩的资源调度与配额机制的技术问题。