一种基于人工智能的合成数据安全智能管理系统及方法与流程
本发明涉及访问控制与风险管理,具体为一种基于人工智能的合成数据安全智能管理系统及方法。
背景技术:
1、合成数据作为隐私保护与数据流通的核心技术,在人工智能训练领域广泛应用,而合成数据在拟合原始数据分布时,会不可避免地保留真实样本的特征片段与属性组合,攻击者可利用这些残留的真实信息对合成数据进行溯源,反向定位原始个体。
2、现有合成数据安全管理体系的风险评估多聚焦于单条数据自身的特征残留,易忽视样本间的关联,使得攻击者可借助多条数据的交叉溯源放大泄露风险;另外数据完成定级后长期保持不变,容易在使用过程中访问频次累积导致暴露范围扩大,使既有管控无法适应风险的持续演化;在此基础上制定的安全管控机制,易导致高价值数据因过度限制而流通受阻,数据可用性与隐私保护目标难以兼顾;
3、因此亟需一套能够量化真实信息驻留、多维关联校准风险、动态适配使用场景与时间效应的全生命周期智能管控体系,在保障数据业务价值的同时,实现对差异化风险的响应。
技术实现思路
1、本发明的目的在于提供一种基于人工智能的合成数据安全智能管理系统及方法,以解决现有技术中提出的问题。
2、为实现上述目的,本发明提供如下技术方案:一种基于人工智能的合成数据安全智能管理方法,所述合成数据安全智能管理方法包括以下步骤:
3、步骤s100:经人工智能生成模型产出合成数据后,以单条合成数据为单位计算合成数据特征,加权求和获得原始信息驻留度,接着通过属性组合在原始数据与合成数据中的出现频次计算关联驻留度,其中合成数据特征包括身份可溯源度、属性独特度、特征覆盖度;
4、步骤s101:经人工智能生成模型产出合成数据后,以单条合成数据为单位,逐一计算身份可溯源度、属性独特度、特征覆盖度,分别从身份可溯源度、属性独特度、特征覆盖度三个角度量化所述合成数据中真实信息的驻留程度;
5、所述身份可溯源度记作d1,取值范围0到1,用于表征当前合成数据与原始数据集中的特征匹配程度;提取当前合成数据与原始数据集的统一特征向量,计算当前合成数据与所有原始数据特征向量的余弦相似度,取最大值经归一化处理后得到d1;d1最大值为1时代表当前合成数据与原始数据集完全一致,d1最小值为0时代表当前合成数据与原始数据集无特征重合,其中原始数据集指用来训练人工智能生成模型的真实数据,统一特征向量指对合成数据和原始数据集作为样本,使用相同的特征提取流程将它们映射到同一个数值向量空间中得到的向量。
6、所述属性独特度记作d2,取值范围0到1,表示当前合成数据包含的特征数字串在原始数据集中的稀有程度;预设数字串位数阈值p,提取当前合成数据中所有字符位数大于p的连续数字串作为属性组合,统计属性组合在原始数据集中的出现频次f,接着计算属性独特度d2=1/(1+f);f越小代表该数字串越稀有,对应的个体定位与溯源能力越强;
7、所述特征覆盖度记作d3,取值范围0到1;用于表征当前合成数据对原始数据集特征多样性的覆盖程度,在计算d1的过程中同步记录当前合成数据与所有原始数据的余弦相似度,统计余弦相似度超过预设阈值θ的样本数量k,得出特征覆盖度d3=k/n,其中n为原始数据集样本总量;d3数值越大,潜在泄露风险越高,当k=1时,当前合成数据仅与单条原始样本特征相似,表示未覆盖数据集的多样特征;当k=n时,当前合成数据与全部原始样本的特征相似度均达标,此时d3=1;
8、综合d1、d2、d3得到原始信息驻留度rd0:rd0=w1×d1+w2×d2+w3×d3,其中w1、w2、w3为身份可溯源度、属性独特度、特征覆盖度对应的权重系数,满足w1+w2+w3=1,由专业人员根据业务领域与合成数据特性调整;
9、步骤s102:对于当前合成数据对应的属性组合,复用出现频次f,以原始数据集总量n对f做归一化处理得到出现频率f':f'=f/n,反映属性组合的稀有度;统计当前属性组合在全部合成数据中的出现总次数,记作合成共现频次g,反映属性的合成扩散程度;
10、计算关联驻留度rr量化合成数据与原始数据间关联带来的溯源风险,显现当前属性组合可被用于交叉溯源的风险程度,其中关联驻留度rr:rr=1-1/(1+g×(1-f'));
11、f'越小表示当前属性组合在原始数据集中越稀有,(1-f')取值越大,g对风险的放大效应越强,rr趋近于1,代表关联泄露风险越高;g越大表示当前属性组合在合成数据中出现次数越多、覆盖样本越广,g×(1-f')增大,rr同样趋近于1,代表关联泄露风险越高;
12、将原始信息驻留度rd0与关联驻留度rr进行融合校准,得到最终原始信息驻留度rd:rd=rd0+rr-rd0×rr,公式中,rd随rr增大而单调递增。
13、步骤s200:结合数据模态属性引入模态风险系数,结合合成数据的使用场景引入场景暴露系数,根据最终原始信息驻留度与模态风险系数、场景暴露系数,得到单条合成数据的安全分值,再将合成数据划分为l1至l5安全等级;
14、步骤s201:结合合成数据的数据模态属性引入模态风险系数m,用于修正不同数据模态属性的数据泄露风险差异,所述数据模态属性包括唯一标识类数据、属性特征类数据、通用分布类数据;其中唯一标识类数据指包含设备序列号、商品防伪码、订单编号的合成数据,属性特征类数据指包含规格尺寸、性能参数、品类标签的合成数据,通用分布类数据指不包含唯一标识类与属性特征类内容、仅保留整体统计规律的合成数据;
15、对所述数据模态属性映射赋值,其中唯一标识类数据、属性特征类数据、通用分布类数据分别预设属性映射值mhigh、mmid、mlow,作为模态风险系数m,其中属性映射值满足0<mlow<mmid<mhigh≤1;当前合成数据同时包含多类数据模态属性时,m=max(mhigh,mmid,mlow);
16、结合合成数据的使用场景引入场景暴露系数s,用于修正不同使用场景的风险,所述使用场景包括公开发布场景、跨机构合作场景、跨部门合作场景、内部隔离场景;其中公开发布场景指当前合成数据面向不特定公众完全开放,任何人都可自由访问与下载,跨机构合作场景指当前合成数据在具有独立法人地位的不同组织间共享与协作使用,跨部门合作场景指当前合成数据在同一组织内部不同职能部门之间流转与共用,内部隔离场景指当前合成数据仅在物理或逻辑隔离的内部环境中使用;
17、对所述使用场景映射赋值,其中公开发布场景、跨机构合作场景、跨部门合作场景、内部隔离场景分别预设场景映射值sinternal、sdept、sorg、spublic,作为场景暴露系数s,其中场景映射值满足0<sinternal<sdept<sorg<spublic≤1;当前合成数据同时包含多类使用场景时,s=max(sinternal,sdept,sorg,spublic);
18、结合最终原始信息驻留度rd、模态风险系数m、场景暴露系数s,计算得到单条合成数据的安全分值score:score=rd×((m+s)/2);公式中,安全分值score取值范围为0到1,数值代表对应合成数据的综合泄露风险;
19、步骤s202:根据安全分值,将单条合成数据划分安全等级,所述安全等级从高到低依次为l1级至l5级合成数据,当score≥s1时,对应l1级合成数据,s2≤score<s1时,对应l2级合成数据,s3≤score<s2时,对应l3级合成数据,s4≤score<s3时,对应l4级合成数据,score<s4时,对应l5级合成数据;等级判定结果与单条合成数据唯一标识绑定存储,作为后续管控规则匹配的直接依据,其中s1、s2、s3、s4为预设阈值,s1>s2>s3>s4。
20、步骤s300:依据单条合成数据的安全等级匹配安全管控权限,为每条合成数据设置使用暴露累积值,初始为零;操作时依据基础暴露增量,结合合成数据安全等级与所执行权限等级的差值动态调整实际累加值,更新暴露累积值后,按累积占比降低当前安全分值;
21、步骤s301:确定单条合成数据的安全等级后,为不同安全等级的合成数据匹配对应的安全管控权限,实现精细化的风险适配,其中安全管控权限包括l1级权限、l2级权限、l3级权限、l4级权限、l5级权限;
22、设定l1级权限,当前合成数据仅在物理隔离的专属沙箱环境内以只读方式访问,禁止导出、复制与屏幕截取操作,仅对经专项授权的核心人员开放访问权限,访问过程留存操作日志与人员身份记录;
23、设定l2级权限,当前合成数据仅在指定内网封闭环境内使用,禁止向外网与外部设备传输,数据导出需经审批流程;
24、设定l3级权限,当前合成数据支持企业内部各部门自由流转,跨部门共享需提交用途说明,用途说明校验不通过拦截跨部门共享;
25、设定l4级权限,当前合成数据可用于对外合作与跨机构共享场景,无需执行审批流程;
26、设定l5级权限,当前合成数据无使用范围限制,可直接用于公开发布;
27、当前安全等级的合成数据,可涵盖更低等级及同级权限,所述l5级合成数据允许匹配l1至l5级中的任一级权限,l4级合成数据允许匹配l1至l4级中的任一级权限,l3级合成数据允许匹配l1至l3级中的任一级权限,l2级合成数据允许匹配l1、l2级权限,l1级合成数据仅允许匹配l1级权限;
28、步骤s302:为每条合成数据设置使用暴露累积值,记作u,初始值为0,预设值上限为umax;实时记录单条合成数据的所有使用行为,不同使用行为类型对应不同的基础暴露增量δu,每次执行操作时,计算当前合成数据安全等级ldata与所执行权限等级lop中,data与op的差值,对实际累加值uadd进行动态调整,其中data和op取值为1至5;
29、当前合成数据安全等级ldata与所执行权限等级lop中,当data=op时,实际累加值uadd=δu;
30、当前合成数据安全等级ldata与所执行权限等级lop中,当data>op时,合成数据安全等级高于权限等级,每相差一个等级,在δu基础上扣减预设的固定衰减量δ,计算得实际累加值uadd:uadd=max(0,δu-δ×(data-op));
31、当前合成数据安全等级ldata与所执行权限等级lop中,当data<op时,当前合成数据不符合权限,操作不被允许;
32、每次动态调整后更新使用暴露累积值,具体为:u=min(u+uadd,umax),使得使用暴露累积值不超过取值上限,根据更新后的使用暴露累积值更新当前合成数据的安全分值得到scoreused:
33、scoreused=score×(1-(u/umax));
34、公式中,scoreused是更新后的安全分值,score是当前安全分值,当u持续升高接近umax时,影响逐步放大,安全等级下调的速率加快,实现使用行为与安全衰变的动态联动。
35、步骤s400:为不同安全等级的合成数据设定安全半衰期,依据当前合成数据的安全半衰期和更新后至今的时间间隔,计算更新后的安全分值,重新划分安全等级,并匹配对应的安全管控权限,使合成数据的风险随留存时间自动下调;
36、步骤s401:为不同安全等级的合成数据设定安全半衰期,所述安全半衰期定义为单条合成数据的安全分值下降至初始值一半所需的时间,安全半衰期时长与安全等级呈非对称分布;其中l1级合成数据的安全半衰期为t1,l2级合成数据的安全半衰期t2,l3级合成数据的安全半衰期t3,l4级合成数据的安全半衰期t4,l5级合成数据的安全半衰期t5,满足t1<t2<t3<t4<t5,t1至t5具体时长由专业人员根据内部安全策略设定;
37、经过安全半衰期更新后的安全分值记作score(t):
38、;
39、公式中,δt为自上次经过安全半衰期更新后至今的时间间隔,t为当前安全等级对应的安全半衰期,score(t)是当前合成数据在t时刻的安全分值,每经过1个完整的半衰期时长t,安全分值就衰减为当前值的1/2;
40、步骤s402:基于更新后的score(t)对合成数据,依据步骤s202重新将单条合成数据划分安全等级,接着为不同安全等级的合成数据匹配对应的安全管控权限。
41、一种基于人工智能的合成数据安全智能管理系统,所述合成数据安全智能管理系统包括驻留评估模块、风险量化模块、管控匹配模块、半衰更新模块;
42、所述驻留评估模块从身份可溯源度、属性独特度、特征覆盖度三个维度量化合成数据中原始信息的驻留程度,加权融合得到原始信息驻留度,并基于属性组合的关联共现计算关联驻留度,进而融合得到最终原始信息驻留度;
43、所述驻留评估模块包括驻留度计算单元、关联修正单元;
44、所述驻留度计算单元逐一计算身份可溯源度、属性独特度、特征覆盖度,加权融合得到原始信息驻留度;
45、所述关联修正单元复用属性组合在原始数据中的出现频次与全部合成数据中的共现频次,量化属性组合在全部合成数据中扩散带来的交叉溯源风险。
46、所述风险量化模块结合合成数据的数据模态属性与使用场景分别引入模态风险系数与场景暴露系数,与最终原始信息驻留度融合计算安全分值,依据安全分值将合成数据划分为不同安全等级;
47、所述风险量化模块包括系数引入单元、等级划分单元;
48、所述系数引入单元根据不同数据模态属性引入模态风险系数,根据不同使用场景引入场景暴露系数,与最终原始信息驻留度融合计算安全分值;
49、所述等级划分单元依据单条合成数据的安全分值从高到低,将合成数据划分为不同安全等级。
50、所述管控匹配模块为不同安全等级分别匹配对应的安全管控权限,引入使用暴露累积值记录使用行为,动态衰减安全分值,实现使用行为与安全衰变的联动;
51、所述管控匹配模块包括权限匹配单元、衰减更新单元;
52、所述权限匹配单元为不同安全等级分别匹配对应的安全管控权限,允许当前等级匹配同级及更低等级权限,实现精细化权限适配;
53、所述衰减更新单元为每条合成数据维护使用暴露累积值,不同操作类型对应不同基础暴露增量,根据数据安全等级与操作权限等级的差值动态调整实际累加值,按比例衰减安全分值。
54、所述半衰更新模块为不同安全等级的合成数据设定非对称的安全半衰期,定期对安全分值进行时间衰减更新,依据更新后的分值重新划分安全等级并匹配对应的安全管控权限,实现安全等级的周期性动态调整。
55、所述半衰更新模块包括半衰设定单元、等级重划单元;
56、所述半衰设定单元为不同安全等级设定时长递增的安全半衰期,通过指数衰减公式计算时间推移后的安全分值,实现安全分值与时间联动衰减;
57、所述等级重划单元依据更新后的安全分值重新将合成数据划分安全等级,并匹配对应的安全管控权限,实现安全等级周期性动态调整与权限同步更新。
58、与现有技术相比,本发明的有益效果是:
59、1、构建多维量化风险评估体系:本发明通过计算身份可溯源度、属性独特度和特征覆盖度,从个体匹配、属性稀有性及信息覆盖三个独立维度综合量化原始信息在合成数据中的驻留程度,进一步引入关联驻留度对属性组合在全部合成数据中的扩散重复程度进行校正,捕捉合成数据与原始数据之间多源的关联风险,提升风险量化的准确性。
60、2、建立动态自适应安全管控机制:本发明根据安全分值划分不同安全等级,为各等级匹配差异化安全管控权限,同时引入使用暴露累积值,根据当前合成数据安全等级与实际执行权限等级动态调整暴露增量,当累积暴露升高时安全分值随之衰减,安全等级自动下调并同步更新权限,实现管控措施与实时风险状态的紧密联动。
61、3、引入非对称安全半衰期:本发明为不同安全等级设定递增的非对称安全半衰期,使安全分值随时间推移按半衰期规律自动下降,定期重新映射安全等级与管控权限,使高风险数据因时效性衰减逐步放宽限制,同时避免所有数据统一老化带来的管理粗放问题,实现合成数据全生命周期内安全等级的自动化时效管理。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com