去中心化联邦学习拜占庭鲁棒共识方法

本发明涉及分布式机器学习安全，更具体地说，本申请涉及去中心化联邦学习拜占庭鲁棒共识方法。

背景技术：

1、随着联邦学习在边缘计算、物联网和分布式智能系统中的应用增多，多个终端在不上传原始数据的情况下共同训练模型已成为常见技术路线。相比依赖中心服务器的联邦学习，去中心化联邦学习通常由各节点与邻近节点交换模型参数变化结果，并在本地完成聚合和更新，因此能够降低中心节点失效或被攻击带来的风险。

2、现有方案在面对拜占庭节点时，通常会依据邻居节点发送的模型更新之间的距离、相似程度或历史可信情况，筛除明显偏离多数方向的更新，或者提高多个方向一致更新在本地聚合中的影响。该类方案的隐含前提在于：当多个邻居节点发送的模型更新方向相近时，这些更新可以被视为多个相互独立的支持证据。

3、然而，在去中心化网络中，模型更新并不是一次性到达的静态数据，而会随着节点间的多轮通信被吸收、转发和再次聚合。于是，同一上游偏差可能先影响部分节点，再经由这些节点继续传播至其他邻居节点，最终使目标节点在同一训练轮或相邻训练轮中接收到多个方向相近的更新。此时，这些更新表面上来自不同邻居节点，实际上可能携带同一传播偏差的重复影响。

4、如果系统仍将这类方向相近的更新直接作为多个独立证据累计，则原本只应被有限吸收的偏差会因重复计权而被放大；尤其在恶意节点采用低幅度、连续传播方式时，单个更新不一定明显异常，但多个被传播链路放大的相似更新会逐渐牵引本地聚合方向，进而影响模型收敛稳定性和鲁棒性。因此，现有技术需要解决的问题在于：在去中心化联邦学习的常规传播过程中，如何避免同源传播偏差被多个邻居更新重复表征后仍按独立支持证据参与共识聚合。

技术实现思路

1、为解决上述技术问题，提供去中心化联邦学习拜占庭鲁棒共识方法，本技术方案解决了上述背景技术中提出的问题。

2、为了实现上述目的，本发明的技术方案如下：

3、本申请提供去中心化联邦学习拜占庭鲁棒共识方法，用于去中心化联邦学习中的机器学习模型鲁棒训练，由处理终端执行，包括：

4、获取当前训练轮的当前本地模型、本地模型更新数据和由邻居模型更新消息组建的邻居模型更新消息集合，其中，当前本地模型为本地机器学习模型，邻居模型更新消息包括邻居模型更新向量、传播来源摘要、传播跳数摘要和到达时间信息；

5、基于邻居模型更新向量生成表征其方向属性的更新方向签名，并基于更新方向签名之间的方向相似度，将满足预设方向相似条件的邻居模型更新消息划分为方向相似更新组；

6、基于方向相似更新组内各邻居模型更新消息的更新方向签名生成组内方向相似度，基于相应的传播来源摘要生成传播来源重叠度，并基于相应的传播跳数摘要和到达时间信息生成到达时序链条一致性；

7、根据组内方向相似度、传播来源重叠度、到达时序链条一致性和方向相似更新组内的消息数量，生成表征方向相似更新组内邻居模型更新消息非独立支持程度的多跳回声放大指数；

8、基于多跳回声放大指数对方向相似更新组的原始支持权重执行去相关压缩，得到有效独立支持权重；

9、根据有效独立支持权重对邻居模型更新向量进行鲁棒聚合，并结合本地模型更新数据进行鲁棒聚合，得到局部共识更新，基于局部共识更新对当前本地模型进行更新。

10、与现有技术相比，本发明的有益效果为：

11、本申请通过基于邻居模型更新向量生成更新方向签名，并依据方向相似度划分方向相似更新组，降低了更新幅值差异对邻居模型更新比较的影响，为后续识别同源传播更新提供了稳定分组基础；

12、本申请通过结合传播来源摘要、传播跳数摘要和到达时间信息，生成传播来源重叠度、到达时序链条一致性和多跳回声放大指数，量化方向相似更新组内邻居模型更新消息的非独立支持程度，避免将多个方向相似更新直接视为多个独立支持证据；

13、本申请通过将多跳回声放大指数作为非独立性压缩因子，对原始支持权重进行去相关压缩，得到有效独立支持权重，使同源传播形成的重复更新不再按多个独立证据累计，从而提高去中心化联邦学习在拜占庭环境下的共识稳定性。

1.去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，用于去中心化联邦学习中的机器学习模型鲁棒训练，由处理终端执行，包括：

2.根据权利要求1所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，得到方向相似更新组的过程，包括：

3.根据权利要求1所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，生成传播来源重叠度的过程，包括：

4.根据权利要求1所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，生成到达时序链条一致性的过程，包括：

5.根据权利要求1所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，生成多跳回声放大指数的过程，包括：

6.根据权利要求1所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，得到有效独立支持权重的过程，包括：

7.根据权利要求1所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，得到局部共识更新的过程，包括：

8.根据权利要求7所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，基于局部共识更新对当前本地模型进行更新之后，还包括：

9.根据权利要求8所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，在将外发模型更新向量、外发传播来源摘要、外发传播跳数摘要和发送时间信息组装为下一训练轮的外发模型更新消息之后，还包括：

10.根据权利要求9所述的去中心化联邦学习拜占庭鲁棒共识方法，其特征在于，在处理终端接收写入来源压缩状态标记和外发来源接收权重的邻居模型更新消息之后，还包括：