数据隐私处理方法、装置、电子设备、介质及程序产品与流程
本技术涉及隐私保护,尤其涉及一种数据隐私处理方法、装置、电子设备、介质及程序产品。
背景技术:
1、随着金融行业跨域大模型服务的广泛应用,用户在智能投顾、金融客服、风险评估等场景中通过自然语言输入大量涉及身份特征、资产规模、投资偏好等敏感信息。这些自然语言输入在进入服务端大模型推理流程时,通常未经专门处理直接传输至模型服务端。
2、现有数据安全措施难以覆盖实时生成的自然语言输入,也缺乏针对大模型推理结果的细粒度权限显示机制,导致敏感信息可能被模型服务商直接获取或通过中间表示逆向推断恢复,引发隐私泄露风险。
技术实现思路
1、本技术实施例提供数据隐私处理方法、装置、电子设备、介质及程序产品,在用户终端对目标推理文本进行脱敏处理后再传输至服务端推理,并根据用户属性集合确定脱敏推理结果的显示策略,从而降低服务端隐私泄露风险;此外,使不同权限的用户仅能查看与其权限相匹配的推理结果,在满足业务使用需求的同时防止敏感信息越权泄露。
2、第一方面,本技术实施例提供一种数据隐私处理方法,应用于用户终端,包括:
3、在接收到用户对于目标推理文本的推理请求时,获取部署于服务端的目标推理模型反馈的所述目标推理文本的脱敏推理结果;所述脱敏推理结果为所述目标推理模型基于所述目标推理文本对应的脱敏文本进行推理得到;所述脱敏文本由所述用户终端对所述目标推理文本进行脱敏处理后得到;所述脱敏处理针对所述目标推理文本中不同敏感类别的词元,分别施以差异化的脱敏处理方式;
4、根据所述用户的属性集合,确定所述脱敏推理结果在所述用户终端的显示策略,并按照所述显示策略进行显示;所述显示策略包括显示所述脱敏推理结果,或者,显示对所述脱敏推理结果进行还原后得到的还原后推理结果。
5、在一种可能的实施方式中,接收到用户对于目标推理文本的推理请求,包括:
6、获取用户输入的目标推理文本,确定所述目标推理文本中的敏感词元;
7、根据所述敏感词元的敏感信息类型,采用与所述敏感信息类型对应的脱敏处理方式对所述敏感词元进行脱敏处理,得到脱敏后词元;
8、基于所述脱敏后词元以及所述目标推理文本中的非敏感词元,生成所述目标推理文本对应的脱敏文本。
9、在一种可能的实施方式中,在根据所述敏感词元的敏感信息类型,采用与所述敏感信息类型对应的脱敏处理方式对所述敏感词元进行脱敏处理,得到脱敏后词元之前,所述方法还包括:
10、对于所述目标推理文本中的每一敏感词元,基于所述敏感词元的语义特征和/或格式特征,识别所述敏感词元的敏感信息类型;其中,所述敏感信息类型包括语义类型、数值类型和标识类型中的至少一种。
11、在一种可能的实施方式中,若敏感词元包括敏感数值,采用与所述敏感信息类型对应的脱敏处理方式对所述敏感词元进行脱敏处理,得到脱敏后词元,包括:
12、识别所述敏感词元中敏感数值中的数值单位,根据预设的数值单位与基准单位之间的换算关系,将所述敏感数值转换为以所述基准单位表示的数值,得到归一化数值;
13、获取所述归一化数值对应的数值保护区间、映射输出区间以及预设映射表达式,根据所述预设映射表达式,将所述归一化数值从所述数值保护区间映射至所述映射输出区间,得到初始映射数值;
14、通过预设的受控随机扰动因子扰动所述初始映射数值,得到脱敏后数值;其中,所述受控随机扰动因子在预设扰动幅度范围内随机取值,所述脱敏后数值为所述初始映射数值与所述受控随机扰动因子的乘积经截断处理后得到的数值,所述截断处理用于将数值限制在所述映射输出区间内;
15、基于所述脱敏后数值,生成所述敏感词元对应的脱敏后词元。
16、在一种可能的实施方式中,若敏感词元包括敏感语义,采用与所述敏感信息类型对应的脱敏处理方式对所述敏感词元进行脱敏处理,得到脱敏后词元,包括:
17、根据所述敏感词元中的敏感语义,从预设的语义邻近词库中确定与所述敏感语义匹配的多个初始候选词;
18、确定各所述初始候选词的采样概率,并根据所述采样概率从所述多个初始候选词中筛选出至少一个采样候选词;
19、对于每个所述采样候选词,计算所述采样候选词相对于所述敏感词元的综合得分;其中,所述综合得分与语义可用性得分正相关、与敏感泄露风险得分负相关;所述语义可用性得分表征所述采样候选词支持目标推理模型完成推理任务的程度;所述敏感泄露风险得分表征所述采样候选词暴露用户隐私的风险程度;
20、根据各所述采样候选词的综合得分,从所述至少一个采样候选词中确定目标候选词;
21、基于所述目标候选词,生成所述敏感词元对应的脱敏后词元。
22、在一种可能的实施方式中,若敏感词元包括敏感标识,采用与所述敏感信息类型对应的脱敏处理方式对所述敏感词元进行脱敏处理,得到脱敏后词元,包括:
23、确定所述敏感词元中所述敏感标识的标识类型,根据所述标识类型和预设的所述标识类型与标识脱敏方式之间的映射关系,确定所述敏感标识对应的标识脱敏方式;
24、确定所述敏感词元中所述敏感标识的标识类型;
25、根据所述标识类型和预设的标识类型与标识脱敏方式之间的映射关系,确定所述敏感标识对应的标识脱敏方式;
26、采用所述标识脱敏方式对所述敏感标识进行脱敏处理,得到脱敏后标识;
27、基于所述脱敏后标识,生成所述敏感词元对应的脱敏后词元。
28、在一种可能的实施方式中,若敏感词元包括敏感标识,采用与所述敏感信息类型对应的脱敏处理方式对所述敏感词元进行脱敏处理,得到脱敏后词元,包括:
29、确定所述敏感标识对应的标识类型和格式约束规则;所述格式约束规则用于限定所述标识类型应满足的字符长度、字符集、前缀和/或校验规则;
30、根据所述标识类型、所述格式约束规则、所述推理请求的推理标识以及所述推理请求的可关联性策略,生成所述敏感标识对应的随机伪标识;其中,所述推理标识为用于标识所述推理请求的唯一标识符,所述推理请求的可关联性策略用于控制同一敏感标识在不同推理标识对应的推理过程中是否映射为同一随机伪标识;所述随机伪标识满足所述格式约束规则,与所述推理标识对应的推理过程中已生成的其他脱敏后标识不重复,且不包含所述敏感标识的局部字符;
31、获取所述敏感标识对应的业务状态记录,根据所述业务状态记录生成所述敏感标识对应的非敏感业务状态描述信息;所述业务状态记录包括所述敏感标识的身份核验状态、账户状态、签约资格中的至少一种,且不包含所述敏感标识本身;
32、根据所述随机伪标识和所述非敏感业务状态描述信息,生成所述敏感词元对应的脱敏后词元。
33、在一种可能的实施方式中,在得到脱敏后词元之后,所述方法还包括:
34、对于每一敏感词元,生成所述敏感词元对应的脱敏映射记录;所述映射记录包括所述敏感词元的脱敏后词元、敏感信息类型、位置索引、所述敏感词元的原始值的加密结果以及访问权限;其中,所述加密结果通过对所述原始值进行属性基加密得到,所述访问权限用于控制对所述原始值的还原权限;
35、所述脱敏映射记录用于在接收到所述目标推理模型反馈的脱敏推理结果后,对所述脱敏推理结果中的脱敏后词元进行还原处理。
36、在一种可能的实施方式中,根据所述用户的属性集合,确定所述脱敏推理结果在所述用户终端的显示策略,包括:
37、将所述属性集合与所述脱敏映射记录中的访问权限进行匹配;
38、在所述属性集合满足所述访问权限的情况下,确定所述显示策略为显示对所述脱敏推理结果进行还原后得到的还原后推理结果;
39、在所述属性集合不满足所述访问权限的情况下,确定所述显示策略为显示所述脱敏推理结果。
40、在一种可能的实施方式中,按照所述显示策略进行显示,包括:
41、在所述显示策略为显示对所述脱敏推理结果进行还原后得到的还原后推理结果的情况下,对所述脱敏推理结果中脱敏后词元对应的脱敏映射记录中的加密结果进行解密,以恢复对应的敏感词元的原始值;
42、根据恢复的原始值,对所述脱敏推理结果中的脱敏后词元进行还原处理,得到还原后推理结果,并显示所述还原后推理结果。
43、在一种可能的实施方式中,在显示所述脱敏推理结果之后,所述方法还包括:
44、响应于用户输入的敏感信息查看请求,对所述用户进行身份验证;
45、在所述身份验证通过的情况下,获取临时解密授权;
46、根据所述临时解密授权,显示对所述脱敏推理结果进行还原后得到的还原后推理结果。
47、第二方面,本技术实施例提供一种数据隐私处理装置,包括:应用于用户终端,包括:
48、推理处理模块,用于在接收到用户对于目标推理文本的推理请求时,获取部署于服务端的目标推理模型反馈的所述目标推理文本的脱敏推理结果;所述脱敏推理结果为所述目标推理模型基于所述目标推理文本对应的脱敏文本进行推理得到;所述脱敏文本由所述用户终端对所述目标推理文本进行脱敏处理后得到;所述脱敏处理针对所述目标推理文本中不同敏感类别的词元,分别施以差异化的脱敏处理方式;
49、推理结果显示模块,用于根据所述用户的属性集合,确定所述脱敏推理结果在所述用户终端的显示策略,并按照所述显示策略进行显示;所述显示策略包括显示所述脱敏推理结果,或者,显示对所述脱敏推理结果进行还原后得到的还原后推理结果。
50、第三方面,本技术实施例提供一种电子设备,包括:存储器,处理器;
51、所述存储器存储计算机执行指令;
52、所述处理器执行所述存储器存储的计算机执行指令,使得所述处理器执行如上第一方面和/或第一方面各种可能的实施方式。
53、第四方面,本技术实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如上第一方面和/或第一方面各种可能的实施方式。
54、第五方面,本技术实施例提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现如上第一方面和/或第一方面各种可能的实施方式。
55、本技术实施例提供的数据隐私处理方法、装置、电子设备、介质及程序产品,通过用户终端在将目标推理文本传输至服务端之前,先在本地对目标推理文本进行脱敏处理得到脱敏文本,使服务端的目标推理模型在推理全过程中仅能接触脱敏文本而无法获取原始敏感信息,因而从源头上消除了自然语言输入直接暴露给模型服务商以及通过中间表示逆向推断恢复原始数据的风险,即实现了在不影响推理任务执行的前提下,有效降低了跨域大模型服务中敏感信息泄露的风险。此外,上述脱敏处理针对目标推理文本中不同敏感类别的词元分别采用与之对应的差异化脱敏方式,使得各类别词元能够依据自身的数据特征和业务属性获得具有针对性的隐私保护与语义保留平衡,既避免因脱敏粒度过粗导致语义结构破坏而影响模型推理精度,也避免因脱敏粒度过细导致敏感信息残留而削弱防护效力,从而在安全性与可用性之间找到适配各类词元的最佳平衡点。同时,服务端返回脱敏推理结果后,用户终端根据用户的属性集合确定显示策略,仅当用户属性满足访问控制策略时才允许还原显示,否则仅显示脱敏结果,使得不同权限的用户仅能查看与其权限相匹配的推理结果,在满足业务使用需求的同时防止敏感信息越权泄露。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com