端侧大模型推理中的敏感数据物理隔离保护方法及系统与流程

摘要: 本发明涉及端侧大模型推理数据安全防护,尤其涉及一种端侧大模型推理中的敏感数据物理隔离保护方法及系统。背景技术:1、当前端侧大模型的落地应用持续拓展,财税、法律、...
端侧大模型推理中的敏感数据物理隔离保护方法及系统与流程

本发明涉及端侧大模型推理数据安全防护,尤其涉及一种端侧大模型推理中的敏感数据物理隔离保护方法及系统。

背景技术:

1、当前端侧大模型的落地应用持续拓展,财税、法律、审计等对数据敏感性要求较高的行业,普遍选择将大模型部署在本地端侧设备完成推理,避免敏感数据上传云侧产生的泄露风险。这类场景下的敏感数据包括未公开的财务报表、涉密合同文本、内部审计底稿等,一旦出现泄露会造成较为严重的负面影响,因此对端侧推理过程中的数据防护能力提出了较高要求。现阶段多数端侧设备的安全防护体系仍围绕通用系统安全设计,并未针对大模型推理的特殊运行逻辑做适配,防护能力与实际需求存在明显差距。

2、现有端侧敏感数据防护的主流方案分为两类,一类是基于软件沙箱的隔离方案,其原理是在通用操作系统中创建独立的沙箱运行环境,限制大模型推理进程的系统调用权限,同时对进程的对外数据交互做规则匹配拦截,这类方案的实现成本较低,无需依赖特殊硬件支持,但防护逻辑完全基于软件层实现,一旦端侧操作系统内核被恶意程序攻破,沙箱的隔离机制会被直接绕过,无法起到防护作用,同时其规则匹配的检测模式容易出现误判或漏判,无法适配大模型推理过程中复杂的数据流交互场景。另一类是基于内存权限管控的防护方案,通过操作系统的内存管理单元为敏感数据所在内存页配置访问权限,禁止非授权进程访问对应内存,这类方案的防护粒度更细,但未设置硬件级的访问边界,恶意程序可利用操作系统的内存漏洞发起越权访问,窃取敏感数据或推理过程中的中间结果,同时这类方案未对大模型的推理输出做管控,敏感信息容易通过推理输出路径流出,也未提供不可篡改的审计记录,无法满足合规审计的要求。

3、随着相关行业监管要求的不断细化,端侧大模型推理的敏感数据防护不仅需要满足防泄露的基本要求,还需要具备全流程可追溯、对推理性能影响小的特性,现有防护方案要么防护强度不足容易被绕过,要么防护覆盖范围不全存在泄露缺口,要么运行过程中占用过多端侧算力影响大模型的推理效率,均无法很好适配高敏感行业的端侧大模型部署需求。

技术实现思路

1、本发明提出的一种端侧大模型推理中的敏感数据物理隔离保护方法及系统,以解决上述现有技术中提到的问题。

2、第一方面,本技术实施例提供了一种端侧大模型推理中的敏感数据物理隔离保护方法,包括以下步骤:

3、端侧设备上电后基于内置可信平台模块完成可信启动校验,校验通过后加载安全操作系统内核;

4、对端侧存储的财税、法律、审计类敏感数据进行预识别,划分独立的安全执行域,安全执行域的存储分区采用加密策略;

5、为安全执行域配置硬件级内存访问边界,内存访问边界配置参数由安全操作系统内核锁定,运行时不可被非安全域篡改,设置非安全域的访问请求仅能触发内存管理单元的访问异常,无法读取或写入安全执行域的内存页;

6、在大模型推理任务发起时,校验任务对应的访问权限,仅授权任务可在安全执行域内加载大模型推理引擎,推理过程中执行指令白名单校验,合法推理指令白名单预存储于安全执行域,非安全域无修改权限,仅允许预定义的合法推理指令执行;

7、在安全执行域侧对安全执行域与非安全域之间的所有跨域数据流进行实时检测,识别数据流中的敏感特征,拦截未授权的敏感数据流出;

8、对大模型推理输出结果进行上下文脱敏处理,移除输出中的敏感标识信息后才可输出至非安全域;

9、对所有安全执行域内的操作、访问请求、跨域数据流检测结果生成不可篡改的审计日志,存储于可信平台模块对应的专属存储区。

10、进一步的,对安全执行域与非安全域之间的所有跨域数据流进行实时检测的过程中,首先在安全执行域内计算跨域数据流的敏感风险评分,计算公式为,其中为跨域数据流的敏感风险评分,n为当前数据流命中的不同敏感特征种类总数,为第i个命中敏感特征对应的预设权重,为第i个敏感特征在当前数据流中的命中次数,为预设的上下文关联调节系数,为当前数据流对应大模型推理任务的敏感等级系数,为当前预设时间窗口内该访问主体发起的未授权跨域访问尝试次数,为第j次未授权访问尝试对应的风险系数,为预设的主体信用调节系数,a为当前发起跨域访问的主体的信用评分;然后将计算得到的敏感风险评分与预设风险阈值对比,若超过阈值则直接拦截该跨域数据流并记录审计日志。

11、进一步的,为安全执行域配置硬件级内存访问边界的过程中,首先通过内存管理单元为安全执行域分配连续的物理内存页,将对应物理内存页的访问权限配置为仅安全执行域内核态可读写,安全执行域内经过内核授权的用户态推理进程具备访问权限,非安全域所有进程无访问权限,同时配置内存隔离扩展模块的边界寄存器,边界寄存器由可信平台模块锁定,非安全域无法篡改寄存器存储地址,存储安全执行域内存的起始地址与终止地址,所有访问请求发起时首先经过内存隔离扩展模块的地址校验,若访问地址落入安全执行域的地址范围且发起方不属于安全执行域的授权进程,则直接丢弃访问请求并生成告警日志,同时将该访问行为记录至审计日志中。

12、进一步的,基于内置可信平台模块完成可信启动校验的过程中,首先由可信平台模块的可信根对引导加载程序的完整性进行校验,校验所用基准哈希值预存储于可信平台模块且不可篡改,校验通过后再由引导加载程序对安全操作系统内核、内核模块以及安全执行域的初始化程序依次进行完整性校验,任意环节校验失败则直接终止启动流程,同时生成启动异常记录存入可信平台模块的审计日志专属存储区。

13、进一步的,推理过程中执行指令白名单校验的过程中,首先对安全执行域内大模型推理引擎加载的所有待执行指令进行opcode解析,将解析得到的操作码与预存储的合法推理指令白名单进行匹配,合法推理指令白名单存储于安全执行域,非安全域不可修改;若操作码未纳入白名单范围则直接终止该指令的执行,同时阻断当前推理任务的进程运行,并将本次非法指令访问行为记录至可信平台模块对应的专属存储区生成审计日志。

14、进一步的,首先对端侧本地存储的所有文件进行特征扫描,识别包含财务报表、合同文本、审计报告类敏感标识的文件,将识别得到的敏感数据全部迁移至安全执行域对应的加密存储分区中,同时删除非安全域内的对应敏感数据副本,并将本次敏感数据迁移、副本删除操作记录至可信平台模块对应的专属存储区生成审计日志,同时对后续存入端侧设备的所有文件于安全执行域侧进行实时扫描。

15、进一步的,生成不可篡改的审计日志的过程中,首先对所有安全执行域内的操作行为、访问请求、跨域数据流检测结果、指令校验结果、权限校验结果进行结构化记录,采用可信平台模块内置的国密哈希算法对每一条审计日志生成完整性校验值,将校验值与日志内容共同存储于可信平台模块的专属存储区,专属存储区仅支持日志写入操作与授权的审计读取操作,不支持任何修改或删除操作。

16、第二方面,本技术实施例提供了一种端侧大模型推理中的敏感数据物理隔离保护系统,包括以下模块:

17、可信启动校验模块,用于端侧设备上电后基于内置可信平台模块完成可信启动校验,校验通过后加载安全操作系统内核;

18、敏感数据识别模块,用于对端侧存储的财税、法律、审计类敏感数据进行预识别,划分独立的安全执行域,安全执行域的存储分区采用加密策略;

19、内存边界配置模块,用于为安全执行域配置硬件级内存访问边界,内存访问边界配置参数由安全操作系统内核锁定,运行时不可被非安全域篡改,设置非安全域的访问请求仅能触发内存管理单元的访问异常,无法读取或写入安全执行域的内存页;

20、推理权限校验模块,用于在大模型推理任务发起时,校验任务对应的访问权限,仅授权任务能在安全执行域内加载大模型推理引擎,推理过程中执行指令白名单校验,合法推理指令白名单预存储于安全执行域,非安全域无修改权限,仅允许预定义的合法推理指令执行;

21、跨域流量检测模块,用于在安全执行域侧对安全执行域与非安全域之间的所有跨域数据流进行实时检测,识别数据流中的敏感特征,拦截未授权的敏感数据流出;

22、输出脱敏处理模块,用于对大模型推理输出结果进行上下文脱敏处理,移除输出中的敏感标识信息后才能输出至非安全域;

23、审计日志生成模块,用于对所有安全执行域内的操作、访问请求、跨域数据流检测结果生成不可篡改的审计日志,存储于可信平台模块对应的专属存储区

24、第三方面,本技术实施例提供了一种电子设备,包括:处理器和存储器,存储器中存储指令,指令由处理器加载并执行,以实现上述各方面任一实施方式的端侧大模型推理中的敏感数据物理隔离保护方法。

25、第四方面,本技术实施例提供了一种计算机可读存储介质,计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现上述各方面任一实施方式的端侧大模型推理中的敏感数据物理隔离保护方法。

26、与现有的技术相比,本发明的有益效果是:

27、本发明通过硬件可信根配合可信启动校验,结合硬件级内存访问边界配置,实现了底层安全能力的硬件化,更难被恶意程序绕过,可抵御内核级攻击带来的隔离失效问题,提升了敏感数据运行环境的安全性。本发明从敏感数据识别、存储加密、推理过程管控到跨域流量检测、输出脱敏做了全流程的防护设计,覆盖了敏感数据从存储到使用再到输出的完整生命周期,避免了防护缺口导致的敏感数据泄露问题。

28、本发明采用多维度的跨域数据流检测逻辑,可结合敏感特征、任务等级、访问主体的历史行为等多个维度判定数据流出的风险,相比单一规则匹配的检测模式,减少了误拦截和漏拦截的情况,在保障防护效果的同时,降低了对正常跨域数据交互的影响。本发明的指令白名单校验机制可对大模型推理过程中的运行指令做管控,禁止非授权的系统调用执行,避免敏感数据通过系统调用路径流出,进一步缩小了大模型推理过程的攻击面。

29、本发明生成的审计日志存储于可信平台模块的专属存储区,不可篡改也不可随意删除,可为后续的安全事件追溯和合规审计提供完整可信的依据,满足相关行业的监管要求。本发明的防护逻辑不会占用过多端侧算力资源,对大模型的推理效率影响较小,可适配各类配置的端侧ai设备,在财税、法律、审计等多个敏感行业的端侧大模型部署场景中均具备较好的适用性。