一种基于锐度感知曲率的联邦学习系统安全性测试方法、系统

本发明涉及机器学习中的安全防护与鲁棒性评估技术，具体地，涉及联邦学习环境中的异常更新测试与聚合鲁棒性验证领域，尤其是一种基于锐度感知曲率的联邦学习系统安全性测试方法、系统。

背景技术：

1、随着人工智能和机器学习技术的广泛应用，尤其是在医疗、金融、物联网、智能终端和车联网等涉及隐私保护的场景中，联邦学习已经成为一种重要的分布式学习框架。在联邦学习中，各参与方在本地数据上训练模型，并将本地模型更新共享至中央服务器，由服务器聚合得到全局模型。由于原始数据不需要离开本地设备，联邦学习能够在一定程度上避免数据集中存储带来的隐私风险，并在多方协同建模任务中具有重要应用价值。

2、尽管联邦学习在隐私保护方面具有显著优势，但其训练过程高度依赖客户端上传的模型更新方向。在实际部署过程中，部分参与方可能由于设备故障、网络异常、系统误差或潜在风险行为，上传偏离正常分布的模型参数或更新方向，进而影响全局模型的训练效果。由于服务器通常难以直接检查客户端本地数据和本地训练过程，如何识别、抵御和评估此类异常更新行为，已经成为联邦学习系统安全防护与鲁棒性设计中的重要问题。

3、近年来，相关研究围绕联邦学习系统中的异常更新防护开展了大量工作，主要包括影响削弱、稳健聚合、检测过滤和客户端重加权等方向。这些防护机制为联邦学习系统提供了抵御异常更新的基础工具。然而，现有方法往往依赖静态规则、固定阈值或特定更新分布假设，对动态变化的异常更新行为适应能力有限。特别是在长轮次训练过程中，模型状态、全局训练轨迹和客户端本地更新方向会不断变化，若缺乏系统化的动态测试机制，难以全面评估现有聚合策略和防护机制在复杂训练环境下的稳定性。

4、目前，联邦学习系统安全性测试仍存在以下不足：第一，部分测试方法仅关注一阶参数扰动或简单范数偏移，未能充分利用模型局部损失景观中的锐度和曲率信息；第二，部分测试机制需要依赖服务器内部聚合细节、其他客户端更新或防护模块反馈，在隐私保护较强或观测受限的联邦学习环境中难以实施；第三，现有测试策略缺乏对全局模型轨迹变化的闭环感知，难以根据训练阶段动态调节扰动强度和方向；第四，深度模型参数维度高、局部损失景观复杂，传统静态扰动方式难以充分揭示联邦学习系统在长期训练中的潜在脆弱性。

5、模型的局部损失景观几何特征与训练稳定性和泛化行为密切相关。局部锐度可以反映模型参数附近小扰动所引起的损失变化敏感程度，而梯度在局部邻域内的变化能够进一步体现曲率信息。若测试客户端能够在不显式计算海森矩阵的情况下，通过局部扰动前后两次梯度计算提取曲率敏感信号，并结合全局模型轨迹状态自适应控制扰动方向和强度，则可以构建一种更加贴近真实动态训练环境的联邦学习系统安全性测试机制。

6、因此，构建一种具备锐度感知曲率提取能力、全局模型轨迹感知能力和自适应测试更新方向生成能力的联邦学习系统安全性测试方法，可用于模拟复杂训练阶段下的异常更新行为，并系统性评估联邦学习聚合策略、防护机制和全局训练过程在动态扰动条件下的鲁棒性，具有重要的研究价值和实践意义。

技术实现思路

1、本发明实施例的目的是提供一种基于锐度感知曲率的联邦学习系统安全性测试方法、系统，该基于锐度感知曲率的联邦学习系统安全性测试方法、系统用于模拟具有局部损失景观几何特征的动态测试更新过程，从而系统性地评估联邦学习模型在不同聚合策略和防护条件下的鲁棒性表现。该方法融合全局模型轨迹感知、局部锐度感知曲率探测与自适应扰动强度控制机制，可根据联邦模型状态自适应调整测试更新方向中的曲率差分向量，实现在不同训练阶段对系统安全性和稳定性的有效测试。

2、为了实现上述目的，本发明实施例提供一种基于锐度感知曲率的联邦学习系统安全性测试方法，所述基于锐度感知曲率的联邦学习系统安全性测试方法包括：

3、测试客户端参与联邦学习本地模型更新，接收服务器广播的全局模型，并基于连续通信轮次的全局模型参数差分采集轨迹指标，作为后续测试的数据基础；

4、测试客户端在本地数据上计算正常训练梯度，并通过指数滑动平均方式构建本地平滑优化轨迹，用于降低单轮小批量数据波动对测试方向生成过程的影响；

5、基于所采集的全局模型轨迹指标，计算稳定性因子和方向持续性因子，用于表征全局模型训练轨迹的一致性以及上一轮测试更新方向对当前全局模型位移的相对持续影响；

6、根据稳定性因子自适应生成局部探测半径，并沿本地平滑优化轨迹构造探测扰动向量，对当前全局模型及其扰动模型分别执行梯度计算，获得锐度感知曲率差分向量；

7、采用自适应扰动强度选择机制，根据稳定性因子、方向持续性因子和范数约束条件，确定当前轮测试更新方向中的曲率差分向量的注入强度；

8、测试客户端将生成的测试更新方向上传至服务器，以验证服务器聚合策略在面对曲率敏感测试更新时的抗干扰能力，并通过控制扰动强度和方向，实现对联邦学习系统稳定性、防护机制和鲁棒聚合能力的综合评估。

9、优选地，所述测试客户端参与联邦学习本地模型更新，接收服务器广播的全局模型，并基于连续通信轮次的全局模型参数差分采集轨迹指标，作为后续测试的数据基础包括：

10、联邦学习系统包括一个中心服务器和个参与客户端，服务器在第轮通信中广播当前全局模型，参与客户端基于本地私有数据执行模型训练并上传本地更新方向；

11、测试客户端通过参与联邦学习训练过程，收集相邻通信轮次的全局模型参数，并根据连续两轮全局模型计算全局模型位移，公式为：

12、，

13、其中，表示第轮服务器广播的全局模型，表示第-1轮服务器广播的全局模型，表示由测试客户端观测得到的全局模型轨迹信号；

14、优选地，所述测试客户端在本地数据上计算正常训练梯度，并通过指数滑动平均方式构建本地平滑优化轨迹包括：

15、测试客户端在当前全局模型和本地小批量样本上计算正常训练梯度，公式为：

16、，

17、其中，表示测试客户端本地训练损失函数，表示当前轮测试客户端按照正常训练过程得到的本地梯度；

18、测试客户端基于历史本地梯度，通过指数滑动平均方式更新本地平滑优化轨迹，公式为：

19、，

20、其中，表示第轮本地平滑优化轨迹，表示上一轮本地平滑优化轨迹，表示轨迹平滑系数。

21、优选地，所述基于所采集的全局模型轨迹指标，计算稳定性因子和方向持续性因子包括：

22、测试客户端根据当前轮全局模型位移和上一轮全局模型位移计算瞬时位移一致性分数，公式为：

23、。

24、测试客户端采用指数滑动平均方式计算稳定性因子，公式为：

25、。

26、测试客户端根据当前轮全局模型位移、上一轮测试更新方向以及本地平滑优化轨迹，计算相对方向持续性边际，公式为：

27、。

28、进一步地，通过双曲正切函数得到有界方向持续性信号：

29、，

30、并采用指数滑动平均方式计算方向持续性因子：

31、。

32、优选地，所述根据稳定性因子自适应生成局部探测半径，并沿本地平滑优化轨迹构造探测扰动向量，对当前全局模型及其扰动模型分别执行梯度计算，获得锐度感知曲率差分向量包括：

33、测试客户端基于稳定性因子计算当前轮自适应探测半径，公式为：

34、。

35、测试客户端沿本地平滑优化轨迹构造探测扰动向量，公式为：

36、。

37、测试客户端根据当前全局模型和扰动向量构造扰动模型，公式为：

38、。

39、测试客户端在扰动模型上计算锐度感知梯度，公式为：

40、。

41、测试客户端根据锐度感知梯度和正常训练梯度计算曲率差分向量，公式为：

42、。

43、基于梯度一阶泰勒展开，得到：

44、，

45、因此：

46、。

47、进一步地，定义方向锐度间隙为：

48、，

49、当相对于固定时，有：

50、。

51、优选地，所述采用自适应扰动强度选择机制，根据稳定性因子、方向持续性因子和范数约束条件，确定当前轮测试更新方向中的曲率差分向量的注入强度包括：

52、测试客户端根据稳定性因子和方向持续性因子计算原始扰动缩放系数，公式为：

53、。

54、测试客户端通过范数约束获得安全缩放系数，公式为：

55、。

56、测试客户端对安全缩放系数进行截断处理，得到最终扰动缩放系数，公式为：

57、。

58、测试客户端生成当前轮上传至服务器的测试更新方向，公式为：

59、。

60、其中，表示第轮测试更新方向，表示正常训练梯度，表示受控的曲率差分向量。

61、当服务器按照下降式更新规则处理客户端上传方向时，测试更新方向对应的参数空间移动可表示为：

62、。

63、由此可知，曲率差分向量经过服务器端下降式更新后形成沿方向的参数空间偏置，用于测试联邦学习系统在面对曲率敏感测试更新时的稳定性、聚合鲁棒性和防护机制有效性。

64、本发明还提供一种基于锐度感知曲率的联邦学习系统安全性测试系统，所述基于锐度感知曲率的联邦学习系统安全性测试系统包括：

65、第一单元，用于测试客户端参与联邦学习本地模型更新，接收服务器广播的全局模型，并基于连续通信轮次的全局模型参数差分采集轨迹指标，作为后续测试的数据基础；

66、第二单元，用于测试客户端在本地数据上计算正常训练梯度，并通过指数滑动平均方式构建本地平滑优化轨迹，用于降低单轮小批量数据波动对测试方向生成过程的影响；

67、第三单元，基于所采集的全局模型轨迹指标，计算稳定性因子和方向持续性因子，用于表征全局模型训练轨迹的一致性以及上一轮测试更新方向对当前全局模型位移的相对持续影响；

68、第四单元，根据稳定性因子自适应生成局部探测半径，并沿本地平滑优化轨迹构造探测扰动向量，对当前全局模型及其扰动模型分别执行梯度计算，获得锐度感知曲率差分向量；

69、第五单元，采用自适应扰动强度选择机制，根据稳定性因子、方向持续性因子和范数约束条件，确定当前轮测试更新方向中的曲率差分向量的注入强度；

70、第六单元，测试客户端将生成的测试更新方向上传至服务器，以验证服务器聚合策略在面对曲率敏感测试更新时的抗干扰能力，并通过控制扰动强度和方向，评估联邦学习系统稳定性、防护机制和鲁棒聚合能力。

71、优选地，所述第一单元用于：

72、联邦学习系统包括一个中心服务器和个参与客户端，服务器在第轮通信中广播当前全局模型，参与客户端基于本地私有数据执行模型训练并上传本地更新方向；

73、测试客户端通过参与联邦学习训练过程，收集相邻通信轮次的全局模型参数，并根据连续两轮全局模型计算全局模型位移，公式为：

74、，

75、其中，表示第轮服务器广播的全局模型，表示第-1轮服务器广播的全局模型，表示由测试客户端观测得到的全局模型轨迹信号；

76、测试客户端利用自身本地数据、服务器广播的全局模型以及历史测试状态生成测试更新方向。

77、另外，本发明还提供一种机器可读存储介质，该机器可读存储介质上存储有指令，该指令用于使得机器执行上述的基于锐度感知曲率的联邦学习系统安全性测试方法。

78、另外，本发明还提供一种处理器，用于运行程序，其中，所述程序被运行时用于执行：如上述的基于锐度感知曲率的联邦学习系统安全性测试方法。

79、本发明通过引入全局模型轨迹感知、锐度感知曲率信号提取与自适应扰动强度调节机制，构建了一种适用于联邦学习系统的动态测试更新方向生成与安全性评估方法，旨在以系统性方式模拟不同训练阶段、不同曲率特征和不同强度的异常更新行为，从而深入评估系统鲁棒性与防护策略的适应能力。在该机制中，系统基于连续全局模型位移、本地平滑优化轨迹和局部梯度场变化，自适应生成具有代表性的测试更新方向，实现对联邦学习系统在非静态环境中的多维性能测试。通过稳定性因子和方向持续性因子的引入，可对扰动策略进行动态调整，以确保测试过程具备连续性、可控性和科学性，贴近真实场景下的系统稳定性评估需求。系统采用锐度感知曲率差分向量对测试更新方向进行构造，使所生成更新能够在不脱离正常训练梯度结构的前提下揭示系统在长期训练中的潜在脆弱性。本发明特别适用于复杂数据分布和多种聚合策略并存的联邦学习安全性评估场景，可用于揭示现有防护策略的不足，并为未来联邦学习系统中更具鲁棒性与智能化的防护机制设计提供技术支持与研究参考。

80、本发明实施例的其它特征和优点将在随后的具体实施方式部分予以详细说明。