一种基于来源贡献与组合恢复的数据安全围栏方法及系统与流程

本发明涉及人工智能数据安全和计算机安全，尤其涉及一种基于来源贡献与组合恢复的数据安全围栏方法及系统。

背景技术：

1、随着大语言模型、检索增强生成和智能体技术的发展，数据需要经过导入、解析、切片、向量化、检索、提示词组装、模型推理、工具调用、缓存读写及网络传输等多个环节。同一数据在处理过程中可能发生内容、表示形式、存储位置和访问范围变化，形成的派生数据虽然不再保留原始数据的完整表达，仍可能继承或重新表达其中的敏感事实。

2、现有敏感数据检测方案通常针对当前输入或输出执行关键词、格式、实体或语义识别，难以对经改写、摘要、向量化或模型生成后的敏感数据进行连续识别和来源归因。现有数据血缘方案通常只记录数据流向，缺少具体处理事件、输入输出局部映射、模型版本和权限边界等信息，难以计算敏感事实在不同处理环节中的传播贡献。

3、此外，模型重试、缓存复用、重叠切片和重复召回可能使同一敏感事实沿多条相似路径到达同一输出，导致风险重复计算；多个单独风险较低的数据片段也可能在同一提示词或聚合上下文中联合形成新的敏感关系，造成组合风险漏判。现有围栏通常采用整体放行或整体阻断，难以定位具体风险来源并选择局部脱敏、片段移除、向量隔离或缓存清理等精确处置措施。

技术实现思路

1、针对这些问题，本发明提供一种基于来源贡献与组合恢复的数据安全围栏方法及系统，用于解决以上问题。

2、第一方面，本发明提供一种基于来源贡献与组合恢复的数据安全围栏方法，所述方法包括以下步骤：

3、s1、采集人工智能处理链路中的处理事件记录，建立数据版本节点、处理事件节点以及所述数据版本节点与所述处理事件节点之间的时序血缘关系，并为源数据单元分配根来源标识；

4、s2、建立敏感数据知识图谱，获取数据版本节点对应的直接敏感性、敏感类别标识、敏感事实标识和直接识别证据，并根据所述敏感数据知识图谱与所述数据版本节点、处理事件节点之间的映射关系，针对处理事件和敏感类别生成事件条件传播算子；

5、s3、以所述根来源标识、敏感事实标识和传播路径标识作为传播状态，从事实级直接敏感性开始，利用所述事件条件传播算子沿所述时序血缘关系逐事件递归计算候选来源贡献；

6、s4、将所述候选来源贡献写入来源贡献账本，对于逻辑事件幂等键相同的重复执行记录进行幂等合并，对于逻辑事件幂等键不同但根来源标识和敏感事实标识相同的多个传播路径，基于当前传播路径与此前已处理传播路径形成的证据并集之间的可观测特征重合度进行同源路径去重，并对去重后的贡献进行融合，得到普通传播贡献；

7、s5、针对具有多个输入数据版本的聚合处理事件，确定实际进入同一聚合上下文的输入集合，判断所述输入集合是否联合形成未被任一输入数据版本单独完整包含的新增敏感关系；满足预设组合判定条件时生成有效组合恢复超边并确定组合贡献，不满足所述预设组合判定条件时不生成有效组合恢复超边并保留所述普通传播贡献；

8、s6、根据所述直接敏感性、继承敏感性、所述组合贡献和暴露因素计算目标数据版本的风险；从所述目标数据版本反向收集直接识别证据、普通传播贡献和有效组合恢复超边，基于候选证据项的边际贡献选择证据子图；模拟候选围栏动作实施后的剩余风险，并执行满足安全条件且综合处置代价最小的候选围栏动作。

9、具体的，所述处理事件记录包括事件标识、事件类型、输入数据版本标识集合、输出数据版本标识集合、执行组件、实际参数摘要、模型或算法版本、执行主体、执行时间、输入输出局部映射和调用链标识中的多项；所述逻辑事件幂等键根据租户标识、会话标识、父调用标识、事件类型、排序后的输入数据版本标识集合、模型或算法版本以及参数摘要生成，重试序号、物理执行实例标识和执行时间不参与所述逻辑事件幂等键的生成。

10、具体的，对所述数据版本节点执行格式规则匹配、敏感实体识别、敏感关系识别和语义上下文识别中的一种或多种处理，获得所述直接敏感性，并针对识别出的实体、属性或关系生成所述敏感事实标识和直接识别证据；所述事件条件传播算子根据处理事件的事件类型、实际参数、模型或算法版本、输入输出局部映射、执行主体、权限状态和网络边界中的两项或多项进行实例化；所述候选来源贡献基于上一传播层的来源贡献、所述事件条件传播算子和事件证据置信度递归计算，且所述事件证据置信度根据来源标识完整度、输入输出局部映射完整度、调用链完整度和第三方组件关联证据中的一项或多项确定。

11、具体的，针对同一目标数据版本、同一敏感类别、同一根来源标识和同一敏感事实标识对应的多个传播路径，按照候选来源贡献从高到低、事件证据置信度从高到低、传播路径长度从短到长以及传播路径标识的预设顺序进行排序，以形成确定性稳定顺序；对于排序后的第i条传播路径，计算其相对于此前已处理传播路径形成的证据并集的重合度和独立增量，重合度计算公式如下：

12、；

13、其中，x为证据特征，oi为当前传播路径与此前已处理传播路径形成的证据并集之间能够实际计算或映射的证据特征集合，αx为证据特征权重，rx,i为当前传播路径在相应证据特征上的重合度；所述证据特征包括事件边特征、根来源位置特征和缓存来源特征中的一种或多种；缺失或无法映射至同一坐标系的证据特征不参与所述重合度计算；当所述证据特征集合为空或证据覆盖率不足时，不基于所述重合度扣减候选来源贡献，并将相应传播路径标记为待复核。

14、具体的，所述聚合处理事件包括提示词组装事件、工具结果汇总事件、跨轮次记忆拼接事件或数据聚合事件；根据所述聚合处理事件的事件日志和输入输出局部映射，确定输入数据版本是否实际进入同一聚合上下文，并仅将具有事件日志证据和输入输出局部映射证据的输入数据版本加入所述输入集合；所述预设组合判定条件包括：所述输入集合中的各输入数据版本在不包含组合贡献时的单输入风险低于预设单输入阈值；所述输入集合与敏感关系模板相匹配；组合前候选对象集合非空，且组合后候选对象集合相对于组合前候选对象集合的候选数量减少或候选约束得到增强；以及所述输入集合联合支持的敏感关系未被任一输入数据版本单独完整包含；当组合前候选对象集合为空，或者组合后的候选对象集合相对于组合前候选对象集合发生无效扩张时，不生成有效组合恢复超边，并将相应组合贡献确定为零。

15、具体的，所述继承敏感性为针对同一目标数据版本和同一敏感类别的候选来源贡献记录，依次完成逻辑事件幂等合并、相同根来源标识和敏感事实标识对应的传播路径去重以及贡献组融合后获得的敏感性，且不包括直接敏感性和所述组合贡献；所述暴露因素包括处理阶段、目的地、接收主体、操作类型、模型能力和权限状态中的两项或多项，分别根据处理事件记录、网络边界记录、身份认证记录、模型能力配置和权限校验记录中的一种或多种获得；所述候选证据项包括能够被独立移除并用于重新计算敏感性或风险的直接识别证据、普通传播贡献组和有效组合恢复超边中的一种或多种；所述证据子图的解释覆盖度采用与风险计算相同的敏感类别权重归一化方式和有界融合方式确定。

16、具体的，所述候选围栏动作包括局部字段脱敏、移除提示词输入片段后重新生成、隔离向量条目、清理缓存副本、撤销共享权限、拒绝工具调用和阻断外发中的一种或多种；模拟候选围栏动作时，将受影响的普通传播贡献或有效组合恢复超边标记为失效，并沿所述时序血缘关系确定受影响的下游派生数据版本；所述综合处置代价根据所述候选围栏动作造成的信息损失、附加时延和影响范围确定；当敏感识别规则、事件条件传播算子、授权状态或聚合处理事件的输入集合发生变化时，根据来源贡献账本和有效组合恢复超边建立的反向索引，对受影响的数据版本及其下游派生数据版本进行增量重算。

17、第二方面，本发明提供一种基于来源贡献与组合恢复的数据安全围栏系统，包括：

18、事件与血缘处理模块，用于采集人工智能处理链路中的处理事件记录，建立数据版本节点、处理事件节点及其时序血缘关系，并生成逻辑事件幂等键；

19、敏感识别与传播模块，用于建立敏感数据知识图谱，获得数据版本节点对应的直接敏感性、敏感类别标识、敏感事实标识和直接识别证据，并生成事件条件传播算子以及候选来源贡献；

20、来源贡献账本模块，用于对逻辑事件幂等键相同的重复执行记录进行幂等合并，并基于传播路径与此前已处理传播路径形成的证据并集之间的可观测特征重合度执行同源路径去重；

21、组合恢复模块，用于确定实际进入同一聚合上下文的输入集合，识别所述输入集合联合形成且未被任一输入数据版本单独完整包含的新增敏感关系，生成有效组合恢复超边及组合贡献；

22、风险与证据处理模块，用于根据直接敏感性、继承敏感性、组合贡献和暴露因素计算风险，并根据候选证据项的边际贡献生成证据子图；

23、围栏决策模块，用于模拟候选围栏动作实施后的剩余风险，并执行剩余风险满足安全条件且综合处置代价最小的候选围栏动作。

24、第三方面，提供一种电子设备，其包括：至少一个处理器，以及与所述至少一个处理器通信连接的存储器，其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例的基于来源贡献与组合恢复的数据安全围栏方法的步骤。

25、第四方面，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述程序指令被处理器执行时，使所述处理器执行本发明任一实施例的基于来源贡献与组合恢复的数据安全围栏方法的步骤。

26、本技术的基于来源贡献与组合恢复的数据安全围栏方法及系统，具有以下有益效果：

27、1、基于敏感数据知识图谱和时序血缘关系生成事件条件传播算子，并以根来源、敏感事实和传播路径为状态递归计算来源贡献，能够对数据在人工智能处理链路中的敏感性继承和变化进行连续追踪。

28、2、利用来源贡献账本对相同逻辑事件的重复执行进行幂等合并，并将同源传播路径与此前路径形成的证据并集进行比较，在缺少可观测特征时不进行无依据扣减，从而降低重试、缓存复用和重叠切片造成的风险重复计算。

29、3、仅对实际进入同一聚合上下文的多个输入进行组合判断，通过识别未被任一单独输入完整包含的新增敏感关系生成组合恢复超边，能够发现多个低风险输入联合形成的组合恢复风险，同时保留各输入的普通传播贡献。

30、4、根据目标数据版本反向收集直接识别证据、普通传播贡献和有效组合恢复超边，并通过移除候选证据项后的风险重算选择证据子图，有利于提高风险结论的可解释性和可复核性。

31、5、通过模拟候选围栏动作实施后的剩余风险，选择满足安全条件且综合处置代价较小的围栏动作，并支持对受影响的下游派生数据进行增量重算，从而实现敏感数据的精确处置，减少整体阻断造成的业务影响。