一种可问责联邦遗忘的追溯性链上贡献重估与奖励清算方法及系统
本技术属于分布式机器学习与区块链,具体涉及一种可问责联邦遗忘的追溯性链上贡献重估与奖励清算方法及系统。
背景技术:
1、联邦学习(federated learning,fl)允许多个数据持有方在不共享原始数据的前提下协同训练一个全局模型,已被广泛应用于金融风控、医疗诊断、移动感知等场景。为激励参与方持续贡献高质量数据,激励型联邦学习通常按各参与方对全局模型的边际贡献(例如基于沙普利值(shapley value)的贡献度量)向其发放报酬。
2、与此同时,《通用数据保护条例》(gdpr)等法规确立了“被遗忘权”(right to beforgotten)。在联邦学习中,这一权利催生了联邦遗忘(federated unlearning,fu):当某参与方退出或撤回其数据授权时,需要从已训练的全局模型中移除该参与方数据的影响,而无需从零重新训练。
3、现有的联邦遗忘工作几乎都将“遗忘”视为一个模型层面的操作——即把某参与方的影响从模型权重中抹去即告完成。然而,在激励型联邦学习中,遗忘还有一个被系统性忽视的经济层面后果:其一,被遗忘参与方在过去各轮已经领取的报酬,其正当性依赖于“其数据确实在模型中”这一前提;一旦数据被移除,这部分报酬应当被追回。其二,更微妙的是,贡献是一个联盟博弈量:移除某一参与方会改变所有其余参与方的边际贡献(协同效应或冗余效应发生变化),使得其余参与方此前领取的报酬也不再对应“遗忘后的世界”,从而不再公平。换言之,遗忘不仅要修正模型,还要追溯性地修正历史贡献账本,并对已发放的奖励进行重新清算。若不处理,则会产生两类不公平:(1)被遗忘方“拿钱又抹去数据”,形成策略性遗忘套利;(2)诚实的其余参与方因账本未更新而承受错误的相对报酬。现有技术存在以下技术问题:
4、(1)联邦遗忘中的激励与公平(如为遗忘任务设计前向激励、其激励均为“前向的”,即只决定当前遗忘任务由谁参与、如何定价,其目标函数不包含对历史已发奖励的追溯修正,且不提供去信任的执行载体,奖励的追回依赖可信第三方。
5、(2)区块链赋能联邦学习的贡献共识工作的整套机制是单调前向的,没有考虑某参与方退出并要求移除历史影响之后如何回滚账本。
6、(3)区块链加联邦遗忘工作重点在于可验证或可编辑地记录“遗忘这一事实”,而非对贡献账本与奖励进行追溯清算;且依赖可编辑区块链的方案需要改写链上历史记录,需信任变色龙哈希陷门持有方,且可审计性更复杂。
7、因此,亟需一种新的方法,在参与方发起遗忘请求后,对历史各轮贡献进行追溯性重估,并通过智能合约对已发放奖励进行去信任的清算与追回,同时抑制策略性遗忘套利,且全程仅使用追加式(不可改写历史的)标准区块链合约,无需可编辑区块链或变色龙哈希。
技术实现思路
1、为了解决现有技术中存在的上述技术问题,本发明的目的是在参与方发起遗忘请求后,对历史各轮贡献进行追溯性重估,并通过智能合约对已发放奖励进行去信任的清算与追回,同时抑制策略性遗忘套利,其技术方案如下:
2、一种可问责联邦遗忘的追溯性链上贡献重估与奖励清算方法,应用于由参与方集合、聚合服务器与区块链构成的激励型联邦学习系统,所述区块链维护记录各参与方在各轮贡献值与已发放奖励的链上贡献账本,所述参与方在参与前向质押托管池锁定质押金,其领取的奖励在遗忘冷静期内以托管形式暂存;包括如下步骤:
3、步骤1:度量所述聚合服务器在每一轮训练中参与集合内各参与方贡献值,将累计贡献值进行折算,并发放至所述质押托管池的托管余额,同时将贡献值、奖励与清算记录上链并记录账本的默克尔根;
4、步骤2:对发起遗忘请求的参与方,即遗忘方,冻结其托管余额并开启重估窗口,对其余参与方的贡献值进行重估;
5、步骤3:通过增量方式计算参与方的重估贡献值,对受所述遗忘方影响的项进行增量更新;对不含遗忘方的边际效用复用训练期缓存值,并计算每个参与方的清算差额;
6、步骤4:将所述受遗忘方影响的参与方集合及其对应的清算差额、重估贡献值后账本的新默克尔根及默克尔证明提交至清算智能合约进行校验;对校验通过的受遗忘方影响的参与方进行奖励追回或补发,并前向更新账本的默克尔根。
7、进一步的,所述通过增量方式计算参与方的重估贡献值的具体过程为:
8、a.将参与方在某一轮的沙普利值求和,根据所述求和将所遍历的联盟拆分为含遗忘方和不含遗忘方的项;
9、b.将所述含遗忘方的项写成一个不含参与方与遗忘方的子联盟,并入遗忘方;将不含遗忘方的项予以保留;
10、c.将移除后的遗忘方博弈退化到不含遗忘方的玩家集合,根据拆分后的原贡献值和退化博弈上的重估贡献值得到需增量计算的差项;
11、d.通过所述差项和原累计贡献值得到参与方的重估贡献值。
12、进一步的,所述差项由两类项累加构成:①联盟规模产生的沙普利权重修正项,②所有包含遗忘方的协同边际项;所述差项通过排列采样近似。
13、进一步的,所述步骤3中,所述增量方式作用于半值估值之上,所述半值估值包括沙普利值、截断蒙特卡洛估值或班茨哈夫值。
14、进一步的,所述步骤4中,所述清算智能合约的维护状态包括激活状态、请求状态、重估状态与已清算状态;所述清算智能合约的维护状态为激活状态时,正常训练,并将奖励进入托管,将贡献根写入账本;当参与方提交遗忘请求时,所述清算智能合约的维护状态由激活状态转入请求状态并冻结参与方托管余额;当所述贡献值重估后转入重估状态并提交清算交易;当所述清算智能合约校验通过后由重估状态转入已清算状态,应用转账并写回新账本根。
15、进一步的,所述步骤4中,所述默克尔证明采用有序对哈希方式进行校验,即对参与运算的两个哈希值按大小排序进行拼接后再进行哈希。
16、进一步的,所述步骤4中,所述清算智能合约仅对受影响参与方集合执行状态写入与转账。
17、进一步的,所述方法引入质押及冷静期延迟释放机制,即参与方参与前质押保证金,其奖励在遗忘冷静期内以托管形式暂存,仅冷静期后,才可完全提取;一旦发起遗忘请求,则根据所述清算智能合约从托管与质押中清算差额。
18、进一步的,所述参与方质押保证金配置与其冷静期内托管余额之和不小于其累计已发放奖励。
19、一种可问责联邦遗忘的追溯性链上贡献重估与奖励清算系统,用于所述的一种可问责联邦遗忘的追溯性链上贡献重估与奖励清算方法,包括如下模块:
20、参与方模块:用于向所述质押托管池模块锁定质押金、并发起遗忘请求;
21、聚合服务器模块:用于度量各参与方贡献值,根据单调预算分配规则折算并向所述质押托管池模块发放托管奖励,将贡献、奖励与清算记录以默克尔承诺形式经链上账本模块上链,在参与方即遗忘方发起遗忘请求后,计算遗忘方被移除后其余各参与方的重估贡献值,对受遗忘方影响的项进行增量更新并复用训练期缓存的不含遗忘方的边际效用,计算各参与方的清算差额,并将受影响参与方集合、对应清算差额、新默克尔根与默克尔证明提交至所述清算智能合约模块;
22、链上账本模块:用于将所述贡献值、奖励与清算记录上链并记录账本的默克尔根;
23、清算智能合约模块:用于校验清算差额之和为零的预算守恒条件与各受影响项相对于新默克尔根的默克尔证明,校验通过后原子地对受影响参与方执行奖励的追回或补发,并前向更新账本的默克尔根且不改写任何已上链的历史记录;
24、质押托管池模块:用于托管质押保证金和奖励。
25、有益效果:(1)首次将联邦遗忘揭示为一次联盟博弈结构的改变,处理遗忘触发的历史贡献追溯重估与奖励清算问题,使得遗忘后账本与“遗忘方从未参与”的反事实世界一致,实现了追溯一致性、预算守恒、无套利性与诚实方个体理性;相较于不做追溯的方案,显著降低了奖励误配。(2)采用增量式追溯重估算法,仅更新受遗忘方影响的项并复用训练期缓存,避免从零重算沙普利值,在同等精度下大幅降低了效用评估次数;且给出可证明的近似误差上界,误差随每轮采样规模的平方根倒数衰减。(3)采用追加式标准智能合约完成去信任的奖励追回与补发,清算的链上开销与受影响参与方规模成正比、与总训练轮数无关,昂贵的联盟博弈计算在链下进行、不消耗链上资源;且全程不改写任何已上链记录,无需可编辑区块链或变色龙哈希,从而不引入陷门持有者等特权方,链上历史保持不可篡改与可公开审计,降低了信任假设并简化了部署。(4)通过质押与冷静期延迟释放机制,抑制“先领奖、再遗忘套利”的策略性遗忘行为,使其无利可图。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com