一种基于奖惩机制的联邦学习安全聚合方法
本发明涉及网络与信息安全,尤其涉及一种基于奖惩机制的联邦学习安全聚合方法。
背景技术:
1、联邦学习作为一种新兴的分布式机器学习范式,在不共享本地原始数据的前提下,仅通过交换模型更新的方式,为多方协同训练提供了新的实现路径。尽管联邦学习在一定程度上保障了数据的本地化存储,但客户端上传的模型更新中仍可能泄露隐私信息,且容易受到异常更新、恶意攻击等安全威胁。在隐私保护方面,虽然同态加密、差分隐私等技术已被引入,但同态加密普遍存在加解密计算开销与通信负担过高的问题,而差分隐私则可能通过噪声注入影响模型精度与收敛性能。基于安全多方计算(如加性秘密共享)的安全聚合方案虽在隐私保护与效率之间展现出较好的平衡,但其主要解决的是模型更新在传输与聚合过程中的机密性问题,无法有效应对参与方在训练过程中的行为不确定性。因此,随着应用场景的不断拓展,联邦学习系统在训练过程中的安全性与可靠性正面临严峻挑战。
2、在实际联邦学习环境中,各参与方通常表现出理性和自利的特征,在数据质量、资源能力及训练投入等方面存在显著差异。现有研究大多建立在各参与方诚实且无偿参与的理想化假设之上,缺乏对参与者行为的有效激励与约束。在缺乏合理回报或补偿机制的情况下,部分客户端倾向于采取怠惰参与、搭便车或上传恶意更新等行为,严重削弱了全局模型的精度与系统的整体稳定性。
3、当前关于奖惩机制的研究大多侧重于激励分配本身,往往默认服务器能够直接访问明文模型质量或相关评估信息,忽视了在强隐私保护(如采用加性秘密共享)机制下,服务器对客户端更新的可见性受到极大限制的问题。。因此,提供一种基于奖惩机制的联邦学习安全聚合方法,来解决现有技术存在的困难,是本领域技术人员亟须解决的问题。
技术实现思路
1、有鉴于此,本发明提供了一种基于奖惩机制的联邦学习安全聚合方法,通过双指标一致性核验精准识别并强制剔除拜占庭异常节点,显著提升了全局模型的分类精度与损失收敛稳定性。
2、为了实现上述目的,本发明采用如下技术方案:
3、一种基于奖惩机制的联邦学习安全聚合方法,包括以下步骤:
4、s1、主控服务器设定联邦学习的基础公共参数与安全参数,构建初始客户端列表并分发给辅助服务器,初始化全局模型及各个客户端的安全账户余额,并预设成本效用函数与模型质量评估函数,将全局模型与预设函数同步下发至各个参与客户端与辅助服务器;
5、s2、客户端接收全局模型后,基于客户端持有的本地数据集利用随机梯度下降算法对全局模型执行迭代训练,并依据预设的成本效用函数和模型质量评估函数,分别计算本轮训练的成本效用值与模型质量评估值,获得本地模型;
6、s3、客户端利用加性秘密共享协议将本地模型更新拆分为两个互为掩码的秘密份额,将第一秘密份额、本地数据集、成本效用值及模型质量评估值发送至主控服务器,将第二秘密份额及本地数据集发送至辅助服务器;
7、s4、主控服务器与辅助服务器分别对接收到的全体第一秘密份额和第二秘密份额进行局部加权聚合计算;辅助服务器将得到的局部聚合结果发送至主控服务器,由主控服务器合成并更新全局模型;
8、s5、获取s2中的成本效用值和模型质量评估值,将其作为输入信息,通过构建量化评估与动态博弈闭环,实施精细化的激励分配与异常节点剔除,完成联邦学习安全聚合。
9、可选的,s1中,
10、设定的基础公共参数包括:最大通信轮数、最大训练轮次、安全聚合所需的随机数空间以及学习率;
11、构建初始客户端列表包括:系统中的客户端向主控服务器进行注册并获得唯一的客户端标识,主控服务器根据注册信息生成初始客户端列表p,并同步给辅助服务器;
12、初始化包括:初始化用于加性秘密共享的参数,并在训练开始前为客户端列表p中的每个客户端节点分配统一的初始账户余额作为短期缓冲资金;
13、预设函数配置包括:主控服务器预先定义后续奖惩评估阶段所需的成本效用函数与模型质量评估函数,并初始化全局模型参数。
14、可选的,s2中,成本效用函数的计算公式为:
15、,
16、式中:为第r轮联邦学习中客户端i的成本效用值;为调节计算能耗与内存消耗相对重要性的权重系数;为单次训练任务的计算复杂度系数;为客户端i的能耗系数,用于表征设备在单位计算频率下的功耗水平;为每轮本地迭代的数据批次;为客户端i在本地训练时的cpu工作频率;为客户端i在第r轮本地训练中占用的内存比例;为客户端i的设备总内存容量;
17、模型质量评估函数的计算公式为:
18、,
19、式中:为客户端i在第r轮训练后的模型质量评估值;为客户端i在第r轮训练之后得到的本地模型更新;为基于从可信执行环境中获取的时间戳计算得到的模型新鲜度;为用于衡量模型预测与真实标签之间差异的交叉熵损失函数;和为预设的可调模型效用参数。
20、可选的,s3中构建秘密份额包括:
21、客户端利用配置的安全随机数生成器在随机数空间内随机生成一个与当前本地更新模型结构及维度完全一致的随机权重矩阵,作为第一秘密份额;
22、依据加性同态约束条件计算得到第二秘密份额,使拆分出的两份秘密份额严格满足加法重构关系。
23、可选的,s4中更新全局模型包括:
24、主控服务器依据各个参与客户端对应的本地数据集及总数据集,在本地对接收到的全体第一秘密份额进行局部加权聚合,计算生成第一局部聚合结果;
25、辅助服务器在本地利用相同的权重因子对接收到的全体第二秘密份额进行局部加权聚合,计算生成第二局部聚合结果;
26、辅助服务器将通过服务器间安全通信通道发送至主控服务器,由主控服务器在本地执行合并重构计算以更新全局模型,对应表达式为:
27、;
28、式中:m为当前轮次实际参与聚合的客户端总数;为客户端i的本地数据集;l为参与聚合的全体客户端数据集;与分别为主控服务器与辅助服务器算得的局部聚合结果;为最新全局模型。
29、可选的,s5中量化评估与动态博弈闭环包括:
30、s5.1、服务器依据各参与者上传的模型质量评估值,利用质量效用函数计算全局模型质量;同时,针对每一参与者,基于模糊shapley值计算其对全局模型质量的边际贡献,即质量效用值;
31、s5.2、服务器基于各客户端的成本效用函数与质量效用函数,计算联盟净收益最大化时的预设最优收益基准值,即帕累托最优收益;服务器依据当前实际联盟净收益与帕累托最优收益的差值,动态计算各参与者的净奖惩值;
32、s5.3、服务器将计算得到的净奖惩值与各客户端预设的账户余额进行加权更新;若某客户端的账户余额降至预设阈值以下,则判定该客户端为低效参与者,并将其从后续训练轮次中移除;
33、s5.4、主控服务器对所有未出局的节点启动双指标一致性核验,识别并剔除拜占庭异常客户端。
34、可选的,动态计算净奖惩值包括:
35、若当前实际联盟净收益大于或等于帕累托最优收益,则直接将收益按模糊shapley值分配给参与者;
36、若实际联盟净收益低于帕累托最优收益,系统将对低贡献参与者收取指定费用进行惩罚。
37、可选的,双指标一致性核验包括:
38、若某客户端的模糊shapley值小于0,而其自行上传的模型质量评估值却大于0,说明该客户端主观虚报模型质量,实际贡献为负,直接判定其为拜占庭异常客户端;
39、若某客户端归一化后的模糊shapley值低于可调敏感度阈值,而归一化后的模型质量评估值超过,说明其上报结果严重虚高,同样确认为拜占庭异常客户端。
40、经由上述的技术方案可知,与现有技术相比,本发明提供了一种基于奖惩机制的联邦学习安全聚合方法,具有以下有益效果:1)本发明采用主控服务器与辅助服务器的双服务器架构以及加性秘密共享协议,在无需重构单点明文参数的前提下实现加密份额的局部聚合与全局模型恢复,从底层切断了梯度泄露路径,有效阻断了恶意推断攻击;2)本发明在秘密共享的强隐私保护架构下,协同融合客户端本地硬件成本效用与模糊shapley值计算,实现了对分布式节点真实边际贡献的连续、动态量化,有效解决了因信息不对称导致的搭便车与怠惰参与问题;3)本发明通过引入基于双指标一致性核验的拜占庭节点识别机制,能够精准识别并移出虚报模型质量或行为表现异常的欺诈节点,配合安全账户余额的动态扣减与零余额移除约束,显著提升了全局模型的分类精度与损失收敛稳定性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com