基于本地差分隐私的多方交互脱敏实现方法

摘要: 本发明涉及的是一种信息安全领域的技术,具体是一种基于本地差分隐私的多方交互脱敏实现方法。背景技术:1、检索增强生成(rag)通过引入外部知识显著提升了大语言模型...
基于本地差分隐私的多方交互脱敏实现方法

本发明涉及的是一种信息安全领域的技术,具体是一种基于本地差分隐私的多方交互脱敏实现方法。

背景技术:

1、检索增强生成(rag)通过引入外部知识显著提升了大语言模型的回答质量。近年来,rag正快速演进为智能体检索增强生成(agentic rag),但现有技术对所有知识源施加统一强度的保护,导致低敏感源效用受损、高敏感源保护不足,且缺乏跨多轮自适应查询的隐私核算,无法抑制成员推断与近逐字提取攻击。

技术实现思路

1、本发明针对现有技术无法根据各知识源不同的敏感程度自适应校准保护强度、无法在保留证据语义信息的同时提供私有记录成员关系的形式化隐私保证、缺乏跨多轮自适应查询的源端隐私核算机制以及不支持异构知识源的差异化校准与跨轮次隐私核算的不足,提出一种基于本地差分隐私的多方交互脱敏实现方法,在每个知识源本地实施强度可按源的敏感度与剩余隐私预算自适应校准的保护,在多轮自适应查询下持续提供形式化的隐私保证,在大模型驱动的多方数据交互场景(用户、编排器、多个知识源属主、模型服务方)中,对跨信任边界流转的文本证据实施去标识化与语义替代处理,使接收方无法据此推断敏感记录的存在性、也无法还原其原文的同时保留支撑下游任务的语义信息。

2、本发明是通过以下技术方案实现的:

3、本发明涉及一种基于本地差分隐私的多方交互脱敏实现方法,在每个知识源的可信边界内部,在离线阶段根据知识源的私有语料进行差分隐私语料合成,得到候选替身语料后,校准隐私内容密度感知的类大小并通过语义替身生成器(ssg)成组选取每个受保护语义单元的替身集合;再将替身集合与私有块合并得到固定类后,以公开块作为公开单例类索引,计算每个固定类的类表示,得到类级检索索引;在线阶段收到来自编排器的子查询时,根据子查询、固定类构件、类级检索索引、目标返回长度与在线随机化参数,通过自适应两级随机检索返回编排器的有序明文证据列表。

4、所述的差分隐私语料合成是指:以满足差分隐私的文本生成方法(包括但不限于基于差分隐私上下文学习的合成方法),从私有语料生成在语义与领域分布上匹配、但不含任何可对应到真实私有记录的文本条目所构成的语料;合成过程消耗一次性合成预算εsyn,i,合成结果在在线检索阶段保持固定。

5、所述的知识源,将知识源属主提供的语料划分为互斥的私有语料和公开语料并以隐私内容密度(pcd)刻画源的敏感程度:;对查询,语义相关性采用公开嵌入模型与余弦相似度计算:,其中:dprivi为第i个知识源的私有语料;dpubi为第i个知识源的公开语料,两者互斥且其并集为该知识源的全部语料ui;ρi为第i个知识源的隐私内容密度(pcd),|dprivi|为私有语料中文本块的数量,|ui|为全部语料中文本块的数量;q为编排器发来的子查询;s(x,q)为文本块x与子查询q的语义相关性得分;vx、vq分别为公开嵌入模型对文本块x与子查询q生成的嵌入向量;分子vx⋅vq为两向量的点积,分母为两向量二范数(模长)‖vx‖与‖vq‖的乘积,即sim(·,·)为余弦相似度。

6、所述的语义替身生成器,以集合级指数机制从差分隐私合成的候选语料中,根据为每个受保护语义单元成组地选取语义接近、多样且发布安全的替身集合,即根据候选替身语料、各受保护语义单元的私有块、类大小与效用权重生成每个受保护语义单元的替身集合。

7、所述的固定类恰包含1个来自私有语料的私有块与kg个替身,共kg+1个成员;固定类构建完成后,其成员构成在在线检索期间保持不变,仅在语料或发布策略变更时重新构建,每个受保护语义单元对应一个固定类,在线检索期间类内容保持不变。

8、所述的两级随机检索是指:第一级以不依赖私有来源信息的类得分进行类级检索,可选地叠加伯努利类纳入层;第二级在每个选中的固定类内执行随机响应,决定对外可见的代表是私有块还是替身。

9、所述的离线阶段,具体包括:

10、s1、差分隐私语料合成:根据第i个知识源的私有语料dprivi与合成预算εsyn,i;采用差分隐私语料合成方法生成候选替身语料psyn,i,其中:psyn,i={pi,1,…,pi,ni}为候选替身语料的集合表示;pi,1,…,pi,ni为其中的ni个候选替身条目,下标i为知识源编号,第二个下标为条目序号;每个候选替身条目为一段不对应任何真实私有记录的合成文本。

11、该步骤一次性消耗合成预算,合成语料在在线阶段保持固定。候选条目还须通过源端发布安全过滤:剔除直接标识符、可链接的准标识符及上下文敏感片段(遵循通用的pii/phi去标识化与文本匿名化实践)。这样,语义相似性仅用于保障效用,发布安全性则由独立的过滤环节把关。

12、所述的差分隐私语料合成方法采用但不限于《privacy-preserving in-contextlearning with differentially private few-shot generation》中记载的基于差分隐私上下文学习的合成方法实现。

13、s2、校准隐私内容密度感知的类大小,以决定第二级随机响应可用的支撑集合大小,具体为:根据第i个知识源的隐私内容密度ρi、受保护语义单元集合gi与部署前设定的目标密度ρtarget;选取满足在线释放全域中私有块的有效占比的最小正整数类大小ki,

14、所述的在线释放全域中私有块的有效占比,其中:|gi|为受保护语义单元的个数;|dpubi|为公开语料中文本块的数量;(1+ki)|gi|为全部固定类占用的文本块数,即每个受保护语义单元1个私有块与ki个替身;ρtarget为目标密度,取值范围为(0,1);为向上取整;max(1,·)表示类大小至少取1;ki为正整数。

15、所述的最小正整数类大小。

16、所述的隐私内容密度感知的类越大,替身掩护越多;类越小,检索分布越贴近原始证据。高pcd的源获得更大的类,低pcd的源保持小类,从而实现异构校准。默认采用全源统一的;策略需要更细控制时也可按单元设置,其中:kg为按单元细粒度设置时第g个受保护语义单元的类大小;未作细粒度设置时,全源各单元统一采用ki。

17、s3、通过语义替身生成器(ssg)成组选取替身:根据候选替身语料psyn,i、各受保护语义单元的私有块cg与类大小kg;通过ssg从的全部元子集中成组采样得到每个受保护语义单元的替身集合sg,其中:g∈gi表示受保护语义单元g属于第i个知识源的受保护语义单元集合gi;si,kg为候选替身语料psyn,i的全部kg元子集构成的候选集合,即所有可能的替身集合候选,具体包括:

18、3.1对候选子集,计算效用函数,其中:为受保护语义单元的私有块,相似度项使替身集合对齐私有证据的语义;多样性项抑制近似重复;风险项惩罚源发布策略下不合意的候选(如类标识符片段);权重、在构建前固定,s为参与评估的候选替身集合,s∈si,kg;u(cg,s)为以私有块cg为参照时候选替身集合s的效用函数;cg为受保护语义单元g对应的私有块;emb(·)为公开嵌入模型;sim(emb(cg),emb(s))为私有块与替身条目s的嵌入向量的余弦相似度;(1/kg)∑s∈s表示对集合s中全部kg个替身求平均;div(s)为多样性项,度量集合s内成员间的差异程度,可取成员两两余弦相似度均值的相反数;risk(s)为风险项,度量集合s中违反源发布策略的内容(如类标识符片段)的严重程度;λ、μ分别为多样性权重与风险权重,为非负实数,在固定类构建前固定。

19、3.2通过ssg以指数机制采样替身集合:,其中:为单元的替身选取预算,为效用敏感度,pr[g(cg)=s]表示以私有块cg为输入时,语义替身生成器输出替身集合s的概率;∝表示正比于;exp(·)为自然指数函数;εgen,g为受保护语义单元g的替身选取预算;δu为效用函数u的敏感度,即替换私有块引起的效用最大变化量;在嵌入向量归一化(余弦相似度落于[-1,1])且多样性项div与风险项risk仅依赖候选子集的条件下,取δu=2。

20、本步骤中由于语义替身生成器的输出是整个子集,每个固定类只消耗一次选取预算,而非每个替身各消耗一次。

21、s4、固定类物化:根据各受保护语义单元的替身集合sg与私有块cg合并为固定类eg,通过私有来源指针θg记录私有块在类内的位置序号zg,θg=cg并在线释放全域ωi,其中:受保护语义单元g的固定类eg=sg∪{cg},共kg+1个成员,记为zg,0,…,zg,kg,下标g为单元编号、第二个下标为类内成员序号,私有来源指针θg∈{0,…,kg},在线释放全域,∪与为集合并集。

22、所述的固定类;

23、所述的私有来源指针仅保存在源内。

24、s5、类级检索索引:以公开块作为公开单例类索引,计算每个固定类eg的类表示μg,即对类内全部成员的嵌入向量做对称池化。

25、所述的类表示μg在在线检索前即固定,且不依赖私有来源指针θg。

26、所述的在线阶段,具体包括:

27、t1、第一阶段类级检索:根据子查询q与类级检索索引,计算公开单例类得分和固定类按类得分后,按类得分排序得到候选类集合,其中:为公开语料中的公开块,为编排器在一次交互中发送给某个知识源的查询文本,即子查询,μg为类表示,emb(x)、emb(q)分别为公开块与子查询的嵌入向量;两类类得分均不依赖私有来源指针θg。

28、当类是否参与为释放信号时,可叠加查询自适应的随机纳入层:源端仅用公开语料计算公共锚点并将固定类划分为目标类与噪声类,再以伯努利采样决定纳入:;该层为可选项,不使用即为确定性类排序,其中:τ(q)为公共锚点,即公开语料中全部公开块x与子查询q的余弦相似度sim(emb(x),emb(q))的第γ百分位数;γ为部署前固定的分位参数,0<γ<1;percentileγ(·)表示取第γ百分位数;gtarget(q)为目标类集合,由类得分hg(q)不低于公共锚点的固定类构成;gnoise(q)为噪声类集合,由类得分低于公共锚点的固定类构成;pr[g∈h(q)]为固定类g纳入候选类集合h(q)的概率;p、r分别为目标类与噪声类的纳入概率,满足1>p>r>0。

29、t2、第二阶段类内随机响应检索:根据候选类集合、各固定类的代表预算εrep,g与类大小kg,对候选类按类得分排序并保留至多个候选类,其中:公开单例类直接释放其公开块;每个选中的固定类以代表预算在类内采样一名可见代表y,具体为:;私有块因而仍可能释放——在随机机制选中它时保留精确证据效用——但其释放不再是确定性的。减小代表预算或增大类大小将把概率质量移向替身;增大预算则使私有证据更可能出现在返回列表中,其中:k为目标返回长度,即返回列表的最大条数;pr[y=zg,θg]=exp(εrep,g)/(exp(εrep,g)+kg)为私有块采样为可见代表的概率;pr[y=zg,j]=1/(exp(εrep,g)+kg)(j≠θg)为第j个替身采样为可见代表的概率;j为类内成员序号。

30、所述的私有块释放概率为:,其中:πgpriv为固定类eg中私有块的释放概率;εrep,g为代表预算;kg为类大小;其余每个替身的释放概率均为1/(exp(εrep,g)+kg)。

31、t3、对各候选类的可见代表进行后处理并得到有序明文证据列表l:强制执行每类至多一名代表规则,限制同一固定类重复观察;公开单例类贡献其公开块。最终列表按类得分排序,不足项时以公开空符号填充,⊥为公开空符号,不是语料记录,仅用于将返回列表填充至k条,下游生成时忽略之。

32、所述的编排器仅看到明文列表;固定类结构、私有来源指针与本地随机性均留在源内。源端隐私会计模块对每次释放记账,预算耗尽后自动降级为仅公开检索。

33、技术效果

34、与现有技术相比,本发明技术效果包括:

35、1)源端固定类受控释放结构:将释放支撑构建与在线释放决策分离,离线为每个受保护语义单元构建"1个私有块与kg个发布安全替身"的固定类,在线仅对固定类内的可见代表做随机化,形成脱敏替代与随机释放的双层保护结构;

36、2)隐私内容密度(pcd)感知的类大小校准:由源内受保护内容占比自动推导固定类大小,使高敏感源获得更强的替身掩护、低敏感源避免无谓的效用损失,实现按源敏感度的异构校准;

37、3)集合级指数机制的语义替身生成(ssg):以"相似度+多样性-风险"的联合效用对整个替身子集做一次指数机制采样,每个固定类仅消耗一次选取预算;

38、4)自适应两级随机检索(at-rr):第一级采用与私有来源指针无关的类表示得分,可选叠加基于公共锚点的伯努利类纳入层;第二级在固定类内执行随机响应并以类去重限制重复观察;

39、5)源端会话级隐私会计与安全降级:离线一次性成本与在线逐次成本分离记账,支持跨多轮自适应查询的预算检查,预算耗尽后自动切换为仅公开检索且不再消耗私有预算。