一种基于代理重加密与同态加密的安全联邦学习方法
本发明涉及隐私计算和密码学应用,具体涉及一种基于代理重加密与同态加密的安全联邦学习方法。
背景技术:
1、联邦学习是一种分布式机器学习框架,其核心思想在于各参与方原始数据不出本地的前提下,由本地完成模型训练,仅将模型参数上传至聚合端进行聚合与全局模型下发,从而降低原始数据集中汇聚带来的隐私泄露风险,可以应用于智慧医疗、金融风控等数据敏感场景。然而,现有联邦学习方案在参数传输和聚合环节仍存在着技术局限:模型参数中携带与本地数据相关的敏感特征,攻击者可通过梯度反演、成员推断等方式还原训练数据;攻击者多次获取全局模型参数可推测模型结构,导致模型窃取。传输链路中缺乏完整性校验和身份验证,恶意攻击者可篡改参数或伪造更新,使全局模型精度下降甚至训练失败。
2、针对上述局限,基于掩码的安全聚合协议通过各本地训练端分别生成成对的随机掩码叠加至模型更新,使聚合端在求和过程中掩码相互抵消,从而在无法获知任意单一个本地训练端模型更新的前提下完成聚合。然而,该方法需在每轮训练前完成本地训练端间的密钥协商与秘密份额分发,通信开销随参与方数量呈平方级增长,参与方掉线时还需额外恢复轮次,难以适配联邦学习多轮迭代的特性。同时,掩码机制仅支持求和运算,聚合结果仍以明文呈现在聚合端,且不具备密钥域转换能力,无法实现解密权限的授权转移,该协议本身也不能解决参数完整性验证和身份认证的问题。
3、另一方面,代理重加密方案可在不解密原始密文的前提下,通过重加密实现密文在不同密钥域间的转换,完成解密权限的安全授权。但现有代理重加密方案的密文空间通常不具备加法同态性质,代理仅能完成密文转换,无法对多条密文执行求和与常数乘运算,若直接套用于联邦学习,聚合端无法在密文状态下完成按样本量加权平均计算,仍需先解密再聚合,隐私保护目标落空。单纯采用同态加密时,各本地训练端往往共用同一密钥对,一旦聚合端与任意本地训练端合谋即可获得解密能力,且密文被绑定于单一密钥域下,无法灵活实现授权转移。
4、综上所述,针对现有方案在模型参数机密性、密文状态下的加权平均计算、密钥域统一转换、参数完整性验证与身份认证等方面存在的不足,提出一种基于代理重加密与同态加密的安全联邦学习方法。
技术实现思路
1、本发明的主要目的在于提供了一种基于代理重加密与同态加密的安全联邦学习方法,使模型参数在传输、重加密与聚合全流程中始终处于密文状态,在密文域下完成按样本量加权的模型平均计算,同时实现参数完整性验证和身份认证,以克服现有技术中明文暴露、无法密文聚合、密钥管理复杂及缺乏完整性保护等缺陷。
2、基于本发明的第一个主要方面,提供了一种基于代理重加密与同态加密的安全联邦学习方法,通过密钥生成中心、本地训练端、代理重加密节点和聚合服务器四类实体实现,具体包括以下步骤:
3、密钥生成中心根据安全参数生成paillier密码体制的系统公共参数,为各本地训练端和聚合服务器生成密钥对,并生成自身的重加密密钥对,为各本地训练端分配唯一身份标识;所述密钥生成中心在每轮训练前生成满足加权和为零的随机掩码,并秘密分发给各本地训练端;
4、聚合服务器初始化全局模型并下发,各本地训练端接收并利用本地数据完成模型训练得到本地模型参数,将所述随机掩码叠加后进行paillier加密得到模型参数密文,同时生成包含自身身份标识的哈希摘要,并将模型参数密文和哈希摘要上传至代理重加密节点;
5、代理重加密节点对模型参数密文进行完整性验证与身份认证,并利用两级重加密密钥进行代理重加密,完成密文转换至聚合服务器密钥域;
6、聚合服务器接收重加密的模型参数密文,利用paillier密码体制的加法同态性质生成聚合密文,使用自身私钥对聚合密文进行解密,在明文域完成除法运算,生成新的全局模型;
7、将更新后的全局模型再次下发给各本地训练端,进入下一轮联邦学习训练,直至全局模型收敛或达到预设的训练轮数。
8、在本发明中,将paillier密码体制的数乘同态性质与加法同态性质协同作用于代理重加密后的密文,将模型平均运算拆解为密文域和加权求和与明文域除法两个阶段,从而绕开了同态加密不支持密文除法的固有限制,使密文聚合结果与明文fedavg在数学上严格等价,同时以两级重加密实现密钥管理职责分离,任一单一实体均无法同时持有原有密文和对应的解密私钥,从系统结构层面抵御合谋攻击。
9、本发明还采用可信的密钥生成中心统一生成各实体密钥并派生两级重加密密钥的方式,代理重加密阶段组合使用两级密钥依次进行重加密,将分散于各本地训练端密钥域下的密文统一转换至聚合服务器密钥域,该机制避免本地训练端之间两两密钥协商,将通信开销从平方级降至线性级。本发明将本地训练端唯一的身份标识与模型参数密文拼接后计算哈希摘要,代理重加密节点重新计算并比对,单次哈希运算同时实现完整性校验与轻量级身份认证。非法或篡改的密文在进入重加密流程前即被丢弃并请求重传,避免了无效计算开销。
10、作为进一步的优选方案,在前述方法中,当所述本地模型参数为浮点数时,则各本地训练端在叠加随机掩码之前,按照预设缩放因子对浮点型模型参数进行定点数放大,将其映射为整数后再执行随机掩码叠加与paillier加密;
11、所述聚合服务器在解密得到的加权和并在明文域完成除法运算后,再按照相同的缩放因子对全局模型参数进行还原,以恢复实际的浮点型全局模型参数。
12、在以上的技术方案中,利用定点数方法的数学等价性,缩放因子在整个加密、重加密、同态聚合、解密全流程中保持恒定,因此密文域聚合结果在乘以缩放因子后与直接对浮点数进行加权平均的结果一致,不引入任何量化误差,该机制由本地训练端在叠加掩码之前执行定点数放大,聚合服务器在解密得到加权和并完成明文除法后再执行逆向还原,两个环节使用完全相同的缩放因子以保证数学闭环,建立起了浮点型模型参数与paillier整数明文空间之间的可靠映射桥梁,使得同态加密方案能够实际应用于浮点张量为核心数据形式的联邦学习场景。
13、作为进一步的优选方案,在前述方法中,所述代理重加密节点对模型参数密文进行完整性验证与身份认证的执行步骤如下:
14、代理重加密节点在初始化阶段从密钥生成中心获取全部本地训练端的身份标识列表;
15、代理重加密节点接收到模型参数密文和哈希摘要后,在身份标识列表中查找对应的身份标识,将其与接收到的模型参数密文拼接后重新计算哈希值;
16、若重新计算后的哈希值与所述哈希摘要相等,则验证通过,说明模型参数密文在传输过程中未被篡改且发送方身份合法;
17、若计算后的哈希值与所述哈希摘要不相等,则验证失败,代理重加密节点丢弃该模型参数密文并向对应的本地训练端请求重新上传。
18、在以上的技术方案中,利用了sha-256哈希函数的抗原像性和抗碰撞性,由于身份标识仅有密钥生成中心和对应的本地训练端知晓,攻击者即使截获密文也无法构造出包含正确身份标识的有效哈希摘要,因此验证通过即证明数据未被篡改且来源真实,解决了现有技术中普遍存在的完整性校验与身份认证缺失问题,并且代理重加密节点仅在验证通过后才允许密文进入后续重加密与聚合流程,验证失败即丢弃该密文并向对应本地训练端请求重传,这一前置过滤机制避免了恶意或损坏数据进入密文计算流程所造成的无效开销和潜在污染。
19、同时在验证中采用sha-256安全散列算法,输出长度为256位,具有较高抗碰撞性,适合于模型参数的完整性校验场景。
20、作为进一步的优选方案,在前述方法中,所述两级重加密密钥的生成方式如下:
21、第一级重加密密钥由本地训练端在本地生成,利用自身私钥和密钥生成中心的公钥,按照paillier代理重加密方案生成第一级重加密密钥,其表达式为:
22、;
23、其中,表示第一级重加密密钥;表示代理重加密密钥生成函数;表示第个本地训练端的私钥;表示密钥生成中心的公钥;表示paillier密码体制的模数;表示本地训练端的编号索引;
24、本地训练端生成第一级重加密密钥后将其发送至代理重加密节点;
25、第二级重加密密钥由密钥生成中心利用自身私钥和聚合服务器的公钥生成,其表达式为:
26、;
27、其中,表示第二级重加密密钥;表示代理重加密密钥生成函数;表示密钥生成中心的私钥;表示聚合服务器的公钥;表示paillier密码体制的模数;
28、密钥生成中心生成第二级重加密密钥后将其发送至代理重加密节点。
29、在两级重加密密钥生成机制中,放弃了传统代理重加密中由数据所有者直接生成至被授权方单向重加密密钥的常规做法,该机制的第一重加密密钥由本地训练端使用自身私钥在本地生成,代理重加密保证无法从重加密密钥反推出私钥,两级密钥又由不同的实体分别生成并分别发送至代理重加密阶段,因此代理重加密节点虽持有两级密钥但无法获得任何本地训练端私钥,而密钥生成中心虽掌握了所有私钥但不直接参与密文重加密操作,任一单一实体均无法同时满足持有密文和持有对应解密私钥两个条件,从数学原理上阻断了合谋攻击的成功路径,克服了代理只能完成密文转换、不能对多份密文执行密文域求和缺乏密钥域转换能力的技术问题。
30、作为进一步的优选方案,在前述方法中,代理重加密节点接收第一级重加密密钥和第二级重加密密钥进行代理重加密的执行步骤如下:
31、代理重加密节点对通过完整性验证与身份认证的模型参数密文进行两次重加密操作,首先使用第一级重加密密钥将通过完整性验证与身份认证的模型参数密文转换为中间密文;
32、再使用第二级重加密密钥将所述中间密文转换为最终密文;
33、经两次代理重加密后,原本处于本地训练端密钥域下的模型参数密文被转换至聚合服务器密钥域。
34、通过中间密钥域的引入,使得密钥转换过程被分解为两个独立的代理重加密操作,而代理重加密节点在执行过程中全程不接触任何明文数据,也不掌握任何私钥信息,仅执行密文形式的数学转换,因此密文的机密性在重加密阶段得到完全保障。经两次转换后的密文保留了paillier密码体制的加法同态性质,重加密操作不改变密文所承载的明文代数结构,因此转换后密文仍可支持后续的数乘同态和加法同态运算,克服了现有代理重加密方案中密文不具备同态性质的根本性缺陷。
35、作为进一步的优选方案,在前述方法中,所述生成聚合密文的执行步骤如下:
36、聚合服务器接收重加密后的模型参数密文,利用paillier密码体制的同态性质,在密文状态下完成模型平均计算中的加权求和;
37、首先进行同态数乘运算,聚合服务器对每个重加密后的模型参数密文执行以该本地训练端样本数量为指数的模幂运算:
38、;
39、其中,表示数乘运算后的密文;表示重加密后的模型参数密文;表示第个本地训练端所持有的本地训练样本数量;表示paillier密码体制的模数;
40、根据paillier密码体制的数乘同态性质,密文域的模幂运算等价于明文域的常数乘法,完成密文状态下的按样本数量的加权;
41、完成加权后,进行同态乘法聚合,聚合服务器将所有本地训练端的数乘运算后的密文进行密文乘法运算,得到聚合密文;
42、根据paillier密码体制的加法同态性质,密文乘法等价于明文加法,由此在密文状态下完成加权求和。
43、以上的技术方案中,基于paillier密码体制的同态形式数学原理:密文域模幂运算等价于明文域的常数乘法,密文域的乘法运算等价于明文域的加法,因此上述两步运算的组合在数学上严格等价于明文域的加权求和,不引入任何近似或精度损失,聚合服务器在密文状态下即可完成全部核心计算,而不需先解密再聚合,从而保证了模型参数在这个聚合过程中的机密性,解决了聚合端无法在密文状态下完成联邦学习模型平均所需的按样本量加权平均计算和掩码体制只能支持求和的技术缺陷。
44、作为进一步的优选方案,在前述方法中,所述使用自身私钥对聚合密文进行解密的执行步骤如下:
45、聚合服务器利用自身私钥对聚合密文进行解密,其中聚合服务器的私钥包含两个分量;
46、首先聚合密文以聚合服务器的私钥的第一个分量为指数进行模幂运算,得到中间结果,然后对中间结果应用辅助函数将其映射至模空间,再乘以聚合服务器的私钥的第二个分量得到明文加权和;
47、所述辅助函数定义为:;其中,表示函数输入变量;表示paillier密码体制的模数。
48、在以上的解密过程中,虽然由聚合服务器执行,但其单独解密任一本地训练端只能得到被随机掩码掩盖后的数值,无法分离出真实的模型参数,而对聚合密文解密后,由于掩码零和条件的保证,掩码项被抵消,得到的正是本地训练端真实模型参数的正确加权和,这种单密文不可区分、聚合密文正确可解的特性,使得即使在诚实但好奇聚合服务器模型下,本地训练端模型参数的隐私保护也能得到有效保障,且不牺牲聚合结果精确性,解决了现有技术中聚合端天然会触碰到每一个本地端的完整参数向量以及聚合结果仍以明文形式呈现在聚合端的缺陷。
49、基于本发明的第二个主要方面,提供了一种用于实现前述所述方法的基于代理重加密与同态加密的安全联邦学习系统,包括:
50、密钥生成中心,用于生成构造paillier密码体制所需的系统公共参数,为各本地训练端生成密钥对,并生成自身的重加密密钥对,每一轮训练开始前生成一组满足加权和为零条件的随机掩码,并通过安全信道分发给对应本地训练端;
51、多个本地训练端,用于利用本地数据完成模型训练,并生成本地模型参数,将随机掩码叠加后使用自身私钥进行paillier加密处理获得模型参数密文,利用自身身份标识和模型参数密文生成哈希摘要,将哈希摘要与模型参数密文上传;
52、代理重加密节点,用于对模型参数密文进行完整性验证和身份验证,通过执行重加密操作,统一转换至聚合服务器密钥域;
53、聚合服务器,用于负责接收代理重加密节点转发的重加密后的模型参数密文,并利用paillier密码体制的同态性质,在密文下完成按样本数量加权的求和运算,使用自身私钥对聚合密文进行解密,得到各本地模型参数的加权和,聚合服务器在明文域将该加权和除以总样本数,从而得到新的全局模型参数,并将其下发至各本地训练端,进入下一轮训练。
54、基于本发明的第三个主要方面,提供了一种电子设备,包括:处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
55、所述存储器中存储有计算机程序,当所述程序被所述处理器执行时,使得所述处理器执行前述所述的基于代理重加密与同态加密的安全联邦学习方法。
56、基于本发明的第四个主要方面,提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被执行时实现前述所述的基于代理重加密与同态加密的安全联邦学习方法。
57、与现有技术相比,本发明提供了一种基于代理重加密与同态加密的安全联邦学习方法。首先,本发明通过将代理重加密与paillier同态加密相结合,使模型参数在传输、重加密与聚合全流程始终处于密文状态,聚合端在完全不接触任何本地训练端模型参数明文的条件下即可完成按样本量加权的模型平均计算,克服了明文上传和明文聚合导致的隐私泄漏问题与模型窃取问题。同时,引入的加权和为零的随机掩码机制使得聚合服务器即使主动解密单个本地训练端密文,也只能得到随机数掩盖后的数值,无法分量出真实模型参数,从而在诚实但好奇服务器模型下实现对单个本地训练端训练模型参数的强隐私保护。
58、其次,本发明采用两级重加密密钥生成机制,将密钥管理职责分离、结合基于身份标识的哈希完整性验证与身份认证,能够很好地抵御合谋攻击、参数篡改与伪造攻击。相较于基于传统技术方案,本发明由密钥生成中心统一进行密钥分发与掩码生成,降低了在多轮迭代中的通信开销与交互复杂度。
59、最后,本发明在保留模型训练精度的前提下,实现了密文状态下的按样本数量加权求和,其密文聚合结构与明文fedavg计算结果严格一致,不引入任何精度损失,同时哈希验证机制确保了参数的完整性与可认证性,适用于对隐私保护与模型准确性均有较高要求的跨机构联邦学习场景。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com