一种面向大模型应用的数据安全处理方法及系统与流程

摘要: 本发明涉及信息安全,尤其涉及一种面向大模型应用的数据安全处理方法及系统。背景技术:1、随着大语言模型在智能客服、合同审查、风险分析等业务中的应用,企业需将包含姓...
一种面向大模型应用的数据安全处理方法及系统与流程

本发明涉及信息安全,尤其涉及一种面向大模型应用的数据安全处理方法及系统。

背景技术:

1、随着大语言模型在智能客服、合同审查、风险分析等业务中的应用,企业需将包含姓名、账号、交易金额、商业秘密等敏感内容的业务数据提交给模型。现有技术通常通过删除、打码或假名化等方式降低泄露风险,但大模型完成任务不仅依赖字段存在,还依赖实体一致性、金额区间、事件先后关系及业务关联结构等语义信息。简单删除或替换可能破坏上述关系,使模型无法正确理解上下文。部分方案采用语义保持型替换,但依据预设规则决定保留的语义特征,隐含假定系统能提前知晓模型所需的全部语义信息。

2、然而大模型推理具有模型相关性、任务相关性和黑盒性,同一特征对不同模型或任务的贡献不同。特征保留过多会导致不必要敏感语义进入模型,过少则造成结果失真。若将多个不同语义保留程度的候选输入提交给模型,输入输出差异可能形成差分泄露通道。此外,模型输出的随机性使特征删除后结果变化不一定反映真实贡献,难以区分必要特征与随机波动。现有权限控制仅针对输入字段,无法管控模型新生成的推导信息。

3、因此,需要一种在隔离和风险约束下进行反事实探测、通过因果稳定性校验确定最小充分信息、并对输出执行推导信息识别和权限化重组的方案。

技术实现思路

1、本发明提供了一种面向大模型应用的数据安全处理方法及系统,以解决预设规则无法准确预知模型所需语义,导致语义保留不当、差分泄露及输出推导信息失控的问题。

2、第一方面,本发明实施例提供了一种面向大模型应用的数据安全处理方法,包括:

3、识别待处理业务数据中的敏感数据,并根据待处理业务任务信息确定初始语义特征集合,将所述敏感数据中的敏感真实值与所述初始语义特征集合对应的业务语义特征分离,并基于分离后的业务语义特征生成基准语义表示;

4、针对所述初始语义特征集合中的至少一个目标语义特征,执行删除、泛化或替换,生成至少一个反事实语义表示;

5、为所述基准语义表示和所述反事实语义表示分别生成相互隔离的临时作用域及临时替代标识,并在隔离探测环境中分别处理所述基准语义表示和所述反事实语义表示,获得对应的结构化任务结果;

6、比较所述结构化任务结果,确定所述目标语义特征的变化是否导致任务结果发生实质变化,并对所述实质变化执行因果稳定性校验;

7、根据各候选语义表示对应的任务质量、因果稳定性、敏感暴露指标及差分泄露风险,确定满足预设任务质量要求的最小充分信息集合,其中,所述候选语义表示为基准语义表示及多个反事实语义表示的总称;

8、根据所述最小充分信息集合生成正式安全表示,将所述正式安全表示输入所述目标大模型,获得模型处理结果;

9、对所述模型处理结果执行敏感性识别和权限判断,并根据结果接收方的身份、业务流程、数据权限及输出用途,对所述模型处理结果执行选择性还原、粒度转换、摘要化处理或拒绝输出。

10、可选的,针对所述初始语义特征集合中的至少一个目标语义特征,执行删除、泛化或替换操作,生成至少一个反事实语义表示,包括:

11、以所述基准语义表示为参照,根据预设策略选取所述初始语义特征集合中的目标语义特征;

12、对所述目标语义特征执行下列至少一种处理:删除所述目标语义特征、降低所述目标语义特征的表达精度、以敏感暴露指标更低的抽象特征替换所述目标语义特征、裁剪与所述目标语义特征对应的关系节点或关系边、收缩所述目标语义特征对应的实体一致性作用域;

13、基于处理后的所述目标业务语义特征生成所述反事实语义表示。

14、可选的,为所述基准语义表示和所述反事实语义表示分别生成相互隔离的临时作用域及临时替代标识,并在隔离探测环境中分别处理所述基准语义表示和所述反事实语义表示,获得对应的结构化任务结果,包括:

15、为不同语义表示分配不同的临时作用域标识及临时密钥;

16、基于所述临时作用域标识、所述临时密钥、敏感实体的内部标识及实体类型,生成临时替代标识;

17、使同一敏感实体在不同临时作用域中对应不同的临时替代标识,并在探测结束后使临时映射关系失效或删除;

18、在隔离探测环境中分别处理所述基准语义表示和所述反事实语义表示,获得对应的结构化任务结果。

19、可选的,比较所述结构化任务结果,确定所述目标语义特征的变化是否导致任务结果发生实质变化,并对所述实质变化执行因果稳定性校验,包括:

20、从所述结构化任务结果中提取任务结论、实体引用、事实依据、风险等级、建议动作及结果置信信息中的至少一种;

21、计算基准语义表示对应的结构化任务结果与反事实语义表示对应的结构化任务结果之间的结果差异;

22、在所述结果差异达到预设实质变化条件时,对所述实质变化执行因果稳定性校验,若校验通过则将所述目标语义特征标记为待确认必要特征;

23、在所述结果差异未达到所述预设实质变化条件,且对应任务质量均达到预设任务质量要求时,将所述目标语义特征标记为可删除特征或可泛化特征。

24、可选的,根据各候选语义表示对应的任务质量、因果稳定性、敏感暴露指标及差分泄露风险,确定满足预设任务质量要求的最小充分信息集合,包括:

25、获取各候选语义表示对应的任务质量指标、敏感暴露指标、因果稳定性评分及差分泄露风险;

26、筛选任务质量指标达到预设任务质量阈值、因果稳定性评分达到预设稳定性阈值且差分泄露风险低于预设风险阈值的候选语义表示;

27、从筛选后的候选语义表示中,选择敏感语义特征数量、敏感信息精度、实体可关联范围、关系结构规模或综合敏感暴露评分较低的候选语义表示;

28、将所选择候选语义表示对应的语义特征集合确定为所述最小充分信息集合。

29、可选的,对所述模型处理结果执行敏感性识别和权限判断,并根据结果接收方的身份、业务流程、数据权限及输出用途,对所述模型处理结果执行选择性还原、粒度转换、摘要化处理或拒绝输出;包括:

30、通过正则表达式匹配、关键词词典扫描及命名实体识别模型,识别所述模型处理结果中的直接敏感信息和模型推导出的间接敏感信息,并为每一项识别出的敏感信息标记敏感等级和类型;

31、根据结果接收方的身份、业务流程、数据权限及输出用途,调用权限策略引擎逐项判断每个信息项的处理方式,生成输出策略矩阵;

32、根据所述输出策略矩阵,对所述模型处理结果执行选择性还原、粒度转换、摘要化处理或拒绝输出。

33、第二方面,本发明实施例提供了一种面向大模型应用的数据安全处理系统,所述系统用于执行本发明任一实施例所述的面向大模型应用的数据安全处理方法,包括:

34、识别模块,用于识别待处理业务数据中的敏感数据,并根据待处理业务任务信息确定初始语义特征集合,将所述敏感数据中的敏感真实值与所述初始语义特征集合对应的业务语义特征分离,并基于分离后的业务语义特征生成基准语义表示;

35、生成模块,用于针对所述初始语义特征集合中的至少一个目标语义特征,执行删除、泛化或替换,生成至少一个反事实语义表示;

36、处理模块,用于为所述基准语义表示和所述反事实语义表示分别生成相互隔离的临时作用域及临时替代标识,并在隔离探测环境中分别处理所述基准语义表示和所述反事实语义表示,获得对应的结构化任务结果;

37、比较模块,用于比较所述结构化任务结果,确定所述目标语义特征的变化是否导致任务结果发生实质变化,并对所述实质变化执行因果稳定性校验;

38、确定模块,用于根据各候选语义表示对应的任务质量、因果稳定性、敏感暴露指标及差分泄露风险,确定满足预设任务质量要求的最小充分信息集合,其中,所述候选语义表示为基准语义表示及多个反事实语义表示的总称;

39、输入模块,用于根据所述最小充分信息集合生成正式安全表示,将所述正式安全表示输入所述目标大模型,获得模型处理结果;

40、执行模块,用于对所述模型处理结果执行敏感性识别和权限判断,并根据结果接收方的身份、业务流程、数据权限及输出用途,对所述模型处理结果执行选择性还原、粒度转换、摘要化处理或拒绝输出。 。

41、可选的,生成模块,具体用于:

42、以所述基准语义表示为参照,根据预设策略选取所述初始语义特征集合中的目标语义特征;

43、对所述目标语义特征执行下列至少一种处理:删除所述目标语义特征、降低所述目标语义特征的表达精度、以敏感暴露指标更低的抽象特征替换所述目标语义特征、裁剪与所述目标语义特征对应的关系节点或关系边、收缩所述目标语义特征对应的实体一致性作用域;

44、基于处理后的所述目标业务语义特征生成所述反事实语义表示。

45、第三方面,本发明实施例提供了一种电子设备,所述电子设备包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的面向大模型应用的数据安全处理方法。

46、第四方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的面向大模型应用的数据安全处理方法。

47、(1)本发明通过反事实探测和因果稳定性校验动态识别模型完成特定业务任务真正所需的语义特征,避免了预设规则无法准确预知模型需求导致的过度保留或过度删除问题;通过隔离临时作用域和差分泄露风险评估阻断了多候选探测可能形成的差分攻击通道;通过对模型输出进行推导信息识别和权限化重组,弥补了现有输入级权限控制无法覆盖模型新生成敏感结论的缺陷。与现有技术相比,本发明在保持大模型完成业务任务所需语义的前提下,显著降低了敏感真实值、非必要语义及跨候选差异进入模型所产生的泄露风险,同时减少了模型输出随机性对语义必要性判断造成的误判,实现了安全性与可用性的最佳平衡。

48、(2)本发明通过将敏感真实值与业务语义特征分离,使具体金额、姓名等原始敏感值被隔离存储于受控映射组件中,不再进入后续模型处理流程,同时基于抽象语义特征生成结构化的基准语义表示,保留了实体一致性、数值区间、时间关系等对模型任务至关重要的语义信息。在切断敏感真实值泄露路径的同时,为后续反事实探测提供了语义完整且安全的参照基准,实现了敏感隔离与语义保真的兼顾。与现有技术中简单删除或打码导致语义破坏的方案相比,本发明既阻止了原始敏感数据的直接暴露,又为模型保留了完成任务所需的语义上下文,避免了因过度脱敏导致的任务质量下降。

49、(3)本发明通过为每个语义表示生成相互隔离的临时作用域及不同的临时替代标识,并在隔离探测环境中处理,获得结构化任务结果。使不同候选表示之间的实体标识无法关联,切断了通过比较输入输出差异推断敏感属性的差分攻击通道,克服了现有技术中多候选探测易形成泄露风险的缺陷。同时,结构化输出为后续精确比较和因果稳定性校验提供了可靠的数据基础,使得系统能够基于定量化的差异分析而非主观判断来确定特征的必要性,大幅提升了语义必要性判断的科学性和可复现性。

50、(4)本发明通过对模型输出执行敏感性识别和权限判断,并根据接收方身份、业务流程、数据权限及输出用途进行选择性还原、粒度转换、摘要化或拒绝输出。实现了对模型新生成推导信息的精细化权限管控,克服了现有技术仅控制输入字段而无法覆盖输出端衍生敏感结论的缺陷。不仅在输入端保护了原始敏感数据,还在输出端对模型可能推导出的客户画像、审批倾向、经营预测等二次敏感信息进行了分级控制,确保了不同权限用户仅能看到与其职责匹配的信息粒度,完成了从输入到输出的全链路安全防护闭环。

51、应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。