面向数据隔离环境的AI智能体多层级数据安全增强方法与系统与流程

摘要: 本发明涉及数据安全与人工智能交叉,特别涉及面向数据隔离环境的ai智能体多层级数据安全增强方法与系统。背景技术:1、政务、金融等强监管行业在利用大语言模型(llm...
面向数据隔离环境的AI智能体多层级数据安全增强方法与系统与流程

本发明涉及数据安全与人工智能交叉,特别涉及面向数据隔离环境的ai 智能体多层级数据安全增强方法与系统。

背景技术:

1、政务、金融等强监管行业在利用大语言模型(llm)辅助公文写作、知识问答时,面临“数据不出域”的合规约束,即原始敏感数据不得离开本地隔离环境。现有技术方案主要可分为三类,但均存在明显缺陷:

2、(1)原文直接出域:将包含敏感实体的原始文本直接上传至云端 llm。该方式虽可充分利用云端强模型能力,但会导致人名、机构、金额、期限等敏感实体发生不可逆泄露,违反合规要求。(2)全本地部署:将 llm 部署于本地隔离环境。该方式虽可满足“数据不出域”要求,但本地模型能力弱、推理成本高,难以满足复杂公文写作等高质量生成需求。(3)不可逆脱敏或匿名化处理:将原文中的敏感实体替换为通用标记后再送出域。该类方案通常丢弃替换映射表,导致云端返回结果无法恢复原始实体及精确数值,难以直接落地到具体业务;同时,现有匿名化技术通常要求替换不可逆,且不针对数值型实体设计可逆还原机制,难以兼顾云端能力与数值精确性。

3、综上,现有方案未能同时兼顾“数据不出域”“云端强模型能力”与“精确可逆还原”三个目标。因此,需要一种在保障敏感数据不出域的前提下,既能利用云端强模型能力,又能对敏感实体(包括数值型实体)实现可逆还原的多层级数据安全增强方法。

技术实现思路

1、本发明的目的在于克服现有技术中存在的上述缺陷,提供面向数据隔离环境的ai 智能体多层级数据安全增强方法与系统,提供一种在数据不出域的硬约束下,使云端大模型在保持语义质量的同时精确可逆还原原始敏感实体,满足强监管行业合规要求方法及系统。

2、为实现上述目的,本发明提供如下技术方案:

3、本发明的面向数据隔离环境的 ai 智能体多层级数据安全增强方法,包括以下步骤:

4、面向数据隔离环境的 ai 智能体多层级数据安全增强方法,其特征在于,包括以下步骤:

5、s1. 接收待处理文本并识别其中的敏感实体;所述敏感实体包括人名、机构名及数值型敏感实体;

6、s2. 采用三级递进脱敏策略对识别到的敏感实体进行可逆替换:l1级:将人名和机构名替换为角色标签,并建立脱敏映射表以记录原始实体与占位符之间的一一对应关系;所述角色标签为保留语义类别标签的角色型占位符,使占位后文本仍保持可理解性;

7、l2级:将角色标签编码为不可直接解读的编码令牌;l3级:对数值型敏感实体保留其量级区间信息与单位信息,将精确数值替换为受披露预算约束的有界量级近似占位符;所述量级近似仅披露由分级档位数 k 所界定的有界量级区间,其出域信息量受披露预算log2(k) 上界约束,不构成对精确数值的还原;所述脱敏映射表在脱敏阶段对每一被替换的敏感实体登记一条记录并赋予唯一递增索引 n,占位符按类型格式化为精确占位标签[num:n](数值型,供 s6 精确路径查表直还原)、[role:n](角色型)或[tok:n](编码令牌型);索引 n 仅存于本地映射表,出域占位符携带该索引标识;其中,l3 量级近似占位符为受披露预算约束的有界量级区间标签(如[金额~数百万元]),其出域形态不携带精确索引以强制披露预算上限,精确占位标签[num:n]对应于不启用 l3 量级近似时的数值型精确还原模式。

8、s3. 在脱敏文本出域前执行泄露自检:若检出任一未被替换的敏感实体,则中止该次出域请求;

9、s4. 基于目标大语言模型的部署位置属性确定路由策略:若目标模型部署于本地隔离环境,直接转发原始文本;若目标模型部署于云端,则在出域前自动触发s2脱敏;其中,预定义敏感词模式库,一旦查询命中即强制路由至本地模型且不可降级,构成隔离红线;

10、s5.对经步骤s2可逆替换得到的脱敏文本执行步骤s3;将步骤s3判定为允许出域的脱敏文本发送至目标大语言模型,获取响应文本;

11、s6. 对云端返回的响应文本,采用双路径数字注入还原:精确路径:对s2脱敏阶段建立并携带映射表索引的精确占位标签[num:n],依据所述脱敏映射表查表直还原为精确数值;语义路径:扫描含模糊词约/近/达的数字短语,提取其量级、单位与上下文,在隔离侧数字条目集中按单位同类性打分与数值比率打分求和得到置信度,当置信度大于预设门限时整体还原为精确原文,否则保留模糊表述以避免误还原;并对时间类候选在打分前施以子单位归一硬约束,子单位不一致者直接剪枝;

12、s7. 所述脱敏映射表仅存储于本地隔离侧且不出入云端日志,使云端无法从占位符逆向恢复原始实体。

13、所述三级递进脱敏(以下称脱敏阶段)具体包括:l1 级角色型占位符保留实体的角色类型标签,例如 [决策者a]、[技术负责人b],区别于随机标识符占位方案;所述脱敏映射表在l1-l3替换过程中同步建立并维护原始实体与占位符的一一对应关系;l2 级编码令牌将角色标签经密码学哈希编码为不可读字符串,以提供最高安全等级;l3 级量级近似保留具体为:保留原始数值的前 1 至 2 位有效数字与单位,例如将"158.7万元"替换为受披露预算约束的有界量级近似占位符;所述量级近似仅披露由分级档位数 k 所界定的有界量级区间,其出域信息量受披露预算 log2(k) 上界约束,不构成对精确数值的还原;所述脱敏映射表在脱敏阶段对每一被替换的敏感实体登记一条记录并赋予唯一递增索引 n,占位符按类型格式化为精确占位标签[num:n](数值型,供 s6 精确路径查表直还原)、[role:n](角色型)或[tok:n](编码令牌型);索引 n 仅存于本地映射表,出域占位符携带该索引标识;其中,l3 量级近似占位符为受披露预算约束的有界量级区间标签(如[金额~数百万元]),其出域形态不携带精确索引以强制披露预算上限,精确占位标签[num:n]对应于不启用 l3 量级近似时的数值型精确还原模式。所述量级近似的档位粒度可调,低精度档可采用数量级区间词(如将 158.7 万元表示为 [金额~数百万元])以进一步收紧披露预算;其中,所述量级近似仅披露受分级档位数 k 约束的有界量级区间,其出域信息量受披露预算log2(k) 上界约束,不满足差分隐私,属于差分隐私之外的补充原语;其中,所述脱敏采用长词优先匹配:将实体词典条目按文本长度降序排列并顺序替换,防止子串部分匹配导致的信息残留。

14、【l3 量级披露的诚实界定与可选加固实施例】l3 量级近似属于"量级披露"原语而非精确还原:其出域信息量被限制为分级档位数 k 所决定的有界量级区间,披露预算上界为 log2(k),即外部观察者至多获知真实值落在哪一个量级档,而无法确定精确数值;因此 l3 不满足差分隐私,仅作为差分隐私之外的补充原语,须与 l1/l2 及 s3 泄露自检配合。为抑制多轮交互的累积关联风险,映射表按会话独立生成并于会话结束后刷新,禁止跨会话复用同一实体的同一映射,防止量级披露被多轮响应逐步收敛至精确值。所述量级近似的档位粒度可调:低精度档可采用数量级区间词(如 158.7 万元→[金额~数百万元]),低精度档将分级档位数 k 进一步收紧、披露预算 log2(k) 更小、出域信息量更低。作为可选加固实施例一(相对锚定语义注入):引入公开、非敏感的统计基准 b(如省级/国家级居民收入分位数),将绝对数值 v 替换为其相对等级(如 [金额~低于基准]、[金额~高于基准]),等级数 k 时敌手所得信息量 i(v;占位符)≤log2k(k=2 时仅 1 bit,远小于精确值熵 h(v)),且因占位符为相对公开基准的固定等级、不暴露绝对量级,故不受统计平均攻击影响;该机制与量级近似互补。作为可选加固实施例二(数字量级三方混淆):脱敏时生成三份副本、各注入不同量级占位符,其偏移策略由隔离侧从预设策略集合(全部偏低/全部偏高/单峰散布)中随机选取,而非固定为"低-中-高"对称模式——若固定对称模式,则敌手对多轮占位符取中位即逼近真实量级、混淆失效,故必须策略随机化;策略随机化下敌手观察多组量级值但不知当前策略归属,等可能先验下猜对概率≤1/3。此外,l3 占位符采用长度归一表示,使占位符位数不携带真实数值的长度侧信道。上述低精度档、相对锚定注入、三方混淆与跨会话映射刷新均为可选增强,不影响 l3 基础量级近似的可逆还原能力。

15、所述双路径数字注入还原的语义路径还包括:在隔离侧数字条目集中,单位同类性打分与数值比率打分经加权求和得到置信度;所述精确路径的精确占位标签格式为[num:n],其中 n 为脱敏映射表中的索引,用于高精度数字还原。

16、所述 s4 路由的隔离红线具体包括:预定义敏感词模式库覆盖数据隔离关键词,一旦查询命中即强制路由至本地模型且不可降级,构成不可绕过的隔离边界。

17、所述 s7 脱敏映射表经认证加密(aead)保护后存储于隔离侧文件系统,优选采用sm4-gcm 算法,并结合 pbkdf2 密钥派生与头部附加认证数据绑定;运行期仅内存常驻,落盘仅以密文形态存在,密文篡改、头部替换或错误口令均被认证拒绝。

18、还包括面向数据隔离知识库的安全混合检索步骤:同时启动关键词全文检索与语义向量检索两条并行路径;采用 rrf 倒数排序融合算法对两路结果合并排序,score(d)=σ 1/(k+rank_i(d)),其中 d 为候选文档,rank_i(d) 为候选文档 d 在第 i 条检索路径中的排序位次,score(d) 为候选文档 d 经 rrf 融合后的综合排序分数,k 为平滑常数,无需分数归一化;对融合结果阈值门控:若融合排序后排名第一的候选文档的绝对相似度低于第一阈值,则判无结果,若融合排序后排名第一的候选文档与排名第二的候选文档的分差低于第二阈值,则触发精排;对外仅返回文档标识符与排序分数,不返回正文,正文始终留隔离侧;任一路径故障或超时时自动回退至剩余路径。

19、所述语义向量检索采用本地部署的轻量级中文语义向量嵌入模型于本地 onnx推理,无网络出站,优选采用 bge-small 模型;并可选地采用 bge-reranker 对融合排序中排名前n位的候选文档进行精排以提升排序精度。

20、还包括 ai 智能体文件系统安全操作步骤:在智能体执行文件写操作前,对注册受管目录下所有文件生成全量快照,记录路径、内容与哈希;快照后至回滚前时段内智能体新建的文件标记为创建型变更并纳入变更追踪;触发回滚时:被修改文件从快照恢复原始内容,创建型变更新增文件执行删除,使文件系统回到快照时刻状态;对智能体提交命令进行黑名单匹配,至少包括网络出站命令(curl/wget/nc)与不可逆文件破坏命令(rm -rf、git reset --hard);对文件读写路径进行白名单门禁,仅允许在注册受管目录预设路径范围内读写。

21、所述黑名单门禁与白名单门禁协同构成命令-路径双层防护,任一层被拒均中断该操作;且所述快照生成与回滚操作的平均耗时在毫秒级,支持误操作后秒级恢复。

22、一种面向数据隔离环境的ai智能体多层级数据安全增强系统,其特征在于,包括用于执行权利要求 1 至 9 中任一项所述方法中各步骤的模块集合,至少包括:隔离侧脱敏模块、出域前泄露自检模块、数据隔离路由模块、云端推理接口、隔离侧双路径还原模块、安全混合检索模块以及 ai 智能体文件系统沙箱模块;其中,脱敏映射表、脱敏模块与还原模块均配置于隔离环境内,不将原始敏感实体发送至云端。

23、本发明的有益效果如下所示:

24、出域敏感实体降为 0(云端无法从占位符逆向恢复原文);实体与数字还原率均达100%(隔离侧凭映射表无误差还原);双路径机制贡献全部模糊数字的可逆还原(关闭语义路径数字还原率跌至 37.3%);混合检索对外仅返标识符,正文留隔离侧;沙箱支持误操作秒级恢复与越权命令拦截;映射表经 sm4-gcm 加密存储,即便隔离侧介质被读亦不暴露明文。