人智协同环境的数字主体权限边界记忆与越权预防系统的制作方法

摘要: 本发明属于人工智能安全与权限管理,具体涉及一种人智协同环境的数字主体权限边界记忆与越权预防系统。背景技术:1、随着大语言模型agent技术在企业内部的深度落地,...
人智协同环境的数字主体权限边界记忆与越权预防系统的制作方法

本发明属于人工智能安全与权限管理,具体涉及一种人智协同环境的数字主体权限边界记忆与越权预防系统。

背景技术:

1、随着大语言模型 agent 技术在企业内部的深度落地,数字主体已不再只是辅助工具,而是逐步演变为具备独立任务执行能力的执行主体。在研发、运维、数据分析、客户服务等场景中,数字主体与自然人员工共同组成混合团队,调用相同工具、访问相同数据资源、承担相同业务职责。

2、现有技术虽然分别提出了 agent 记忆、运行时权限校验、沙箱隔离和审计告警等方案,但其根本缺陷在于:权限边界在记忆、执行、审计三个阶段分别由不同对象承载,彼此之间只是表层组合,而非同一边界实体的连续流转,因而难以形成真正稳定、可进化的越权预防机制。

3、具体而言,现有技术至少存在以下缺陷:

4、权限边界仅被存储,不能直接转化为执行约束。现有 agent 记忆系统主要面向对话历史和事实知识,缺乏能够直接映射到执行层的权限边界表达。即使记录了“能访问什么资源”,也只是静态知识,无法在执行时自动转化为数据库过滤、接口裁剪、字段脱敏或文件可见性限制。

5、执行层约束与记忆层表达语义脱节。传统权限系统通常在工具入口处进行命令过滤或查表校验,沙箱和代理中使用的规则往往是独立生成的外部策略,而非由记忆中的边界对象直接展开,因此容易出现“记忆中描述的边界”和“执行中实际生效的边界”不一致的问题。

6、审计结果不能原位回写边界实体。现有方案的审计输出通常表现为日志、告警或人工复核依据,难以直接更新前序的权限边界表达对象,导致系统无法通过实际执行结果持续收敛和进化权限边界。

7、功能分工式架构难以抵御复杂越权。将记忆、预检、隔离、审计拆分为相互独立模块后,往往只能做到“记忆管边界、预检做判断、沙箱做隔离、审计做记录”,缺乏同一边界数据实体在全链路中的一致约束,面对提示词注入、级联越权和权限漂移时容易出现阶段间断裂。

8、自然人员工与数字主体缺少统一的边界演化机制。自然人员工往往通过制度和经验建立权限认知,数字主体则依赖外部拦截,二者缺少统一的数据化边界载体,难以在相同机制下实现持续收敛和共享更新。

技术实现思路

1、本发明提供了人智协同环境的数字主体权限边界记忆与越权预防系统解决上述提到的技术问题,具体采用如下的技术方案:

2、一种人智协同环境的数字主体权限边界记忆与越权预防系统,包括:

3、主体身份管理层,用于将自然人员工和数字员工统一抽象为权限主体,使二者共享同一权限边界数据结构、激活机制、执行约束逻辑及审计修正机制;

4、权限边界记忆子系统,用于为各权限主体维护由多个权限边界单元构成的权限边界记忆,所述权限边界单元作为统一数据实体具有记忆态、策略态和进化态三种形态;

5、越权预防引擎,用于在任务执行前从所述权限边界记忆子系统中召回候选权限边界单元,并对任务规划进行越权检测与一致性校验;

6、三级权限沙箱,用于根据操作敏感度提供差异化物理隔离环境以承接被激活的策略态权限边界单元;

7、沙箱内代理层,用于在所述三级权限沙箱内将策略态权限边界单元展开为针对数据库、接口、模型上下文协议端点及文件系统的执行约束;

8、反向审计闭环,用于提取实际访问轨迹并与执行时生效的权限边界单元进行比对,将修正结果以进化态回写至所述权限边界记忆子系统,形成记忆态至策略态再至进化态并回写记忆态的闭环流转。

9、进一步地,所述主体身份管理层为每个权限主体配置主体标识、主体类型、角色标签、组织属性及权限边界记忆引用;所述组织属性包括部门和项目标签,不形成独立权限层级,仅用于策略分组、批量授权、审计分组及动态重算;当权限主体的组织属性发生变更时,自动触发权限边界记忆的重新计算。

10、进一步地,所述权限边界记忆子系统采用角色模板至主体独立的两级模型,角色模板权限边界记忆定义默认边界,主体独立权限边界记忆从角色模板复制并可单独修改且优先于角色模板;所述权限边界单元包括权限边界单元标识、主体标识、资源类型、资源标识、操作类型、数据范围、字段脱敏规则、调用限制、敏感度、权限来源、置信度、状态形态及审计日志。

11、进一步地,所述越权预防引擎在规划阶段执行参数越权分析、级联越权检测和权限漂移检测,并将参数越权风险值r1、级联越权风险值r2和权限漂移风险值r3综合为总风险值r,其中:

12、r=c1×r1+c2×r2+c3×r3

13、其中,c1、c2、c3为权重系数且c1+c2+c3=1;当r小于第一阈值时放行,介于第一阈值与第二阈值之间时降级执行,高于第二阈值时阻断执行。

14、进一步地,所述三级权限沙箱包括轻量沙箱、标准沙箱和强隔离沙箱,沙箱调度器依据隔离需求评分l动态选择沙箱级别,其中:

15、l=d1×s+d2×a+d3×rp-d4×u

16、其中,s为操作敏感度评分,a为主体审计等级评分,rp为历史风险评分,u为当前系统负载修正值,d1、d2、d3、d4为权重系数;所述轻量沙箱采用进程级隔离,标准沙箱采用容器隔离,强隔离沙箱采用轻量虚拟机隔离及加密内存。

17、进一步地,所述沙箱内代理层包括数据库代理、http代理、模型上下文协议代理及文件系统代理;所述数据库代理通过查询重写公式q'=q∧b将权限边界中规定的数据范围条件b追加至主体原始查询条件q,得到实际执行条件q';所述http代理检查请求url及参数是否超出授权范围,所述模型上下文协议代理校验端点白名单并过滤超限响应,所述文件系统代理构建独立目录视图。

18、进一步地,所述反向审计闭环将实际访问轨迹与生效权限边界单元比对,识别越权使用、授权冗余、权限漂移及异常模式;采用偏差评分模型计算总偏差值d,其中:

19、d=e1×dr+e2×da+e3×df+e4×dt

20、dr为资源范围偏差,da为动作类型偏差,df为字段或数据范围偏差,dt为时间和频率偏差,e1、e2、e3、e4为权重系数,当d高于预设阈值时触发强制修正和告警。

21、进一步地,所述权限边界记忆子系统在任务规划时采用综合得分模型召回权限边界单元,其中:

22、s=b1×ss+b2×sm+b3×sc

23、ss为结构化匹配得分,sm为语义匹配得分,sc为上下文约束得分,b1、b2、b3为权重系数且b1+b2+b3=1;

24、所述权限边界单元的置信度按cnew=λ×cold+(1-λ)×o更新,λ为历史记忆保留系数,o为本次观测结果对应的可信值。

25、进一步地,所述主体身份管理层计算主体风险值:

26、rp=a1×v+a2×f+a3×d

27、v为单位时间内越权触发次数,f为被熔断次数或高危告警次数,d为最近一次权限漂移距离当前时刻的影响系数,a1、a2、a3为权重系数且a1+a2+a3=1;

28、当rp高于预设阈值时标记为高风险主体;

29、针对数字员工类型权限主体,默认审计等级为高,反向审计周期短于自然人员工,连续越权达预设次数时自动暂停工具调用能力。

30、进一步地,所述主体身份管理层通过restapi或webhook从人力资源系统同步员工入职、离职及调岗事件,从统一身份认证系统同步角色和基础权限定义以映射为角色模板,从组织架构系统同步部门及项目结构作为组织属性的合法取值域;权限主体注销时权限边界记忆标记为归档状态以保留审计历史但禁止工具调用。

31、本发明的人智协同环境的数字主体权限边界记忆与越权预防系统,通过pbu在记忆态、策略态、进化态间的连续流转,使权限边界在记忆、执行、审计阶段复用同一数据实体,避免边界表达割裂与语义脱节,实现人智平权的统一权限治理及权限边界的持续收敛与自进化。

32、本发明的人智协同环境的数字主体权限边界记忆与越权预防系统,沙箱内数据库代理采用查询重写公式q'=q∧b,将权限边界的数据范围条件b强制追加至主体原始查询q,使最终执行必须同时满足业务条件与权限边界条件,即使发生提示词注入攻击,仍可在物理层落实数据访问约束。

33、本发明的人智协同环境的数字主体权限边界记忆与越权预防系统,反向审计闭环依据偏差评分模型识别越权、冗余、漂移及异常,将审计结果直接修正对应pbu并以进化态回写pbm,使权限边界根据实际执行结果持续收敛,形成记忆态至进化态的闭环自进化机制。