一种针对长尾噪声的模型迭代训练方法和系统

本技术涉及联邦学习，尤其涉及一种针对长尾噪声的模型迭代训练方法和系统。

背景技术：

1、在工业物联网、智能交通、医疗监测等边缘应用场景下，大量边缘设备存储原始业务数据，出于数据隐私与合规要求，原始本地数据无法集中上传至服务器，联邦学习依托边缘设备本地训练，仅传输模型参数差分的模式完成全局模型协同迭代，能够满足原始数据不出本地的业务需求。但实际边缘环境中，各边缘设备算力、网络条件存在显著异构性，设备本地数据集普遍存在类别长尾分布问题，同时夹杂标签噪声、弱标注误差，给联邦模型迭代带来诸多挑战。

2、在现有联邦模型迭代训练方案中，边缘设备完成本地训练后，服务器接收各设备上传的参数差分数据，大多仅依靠样本数量、训练轮次等简单信息确定各边缘设备的聚合权重，缺少对设备端训练过程的审计校验。当边缘设备本地存在长尾数据时，持有稀有尾类样本的边缘设备输出的参数差分天然会和大多数设备的更新方向产生偏移；现有方案常单纯依靠参数差分的几何距离、方向相似度统计指标识别异常更新，容易将携带稀有类别知识的良性长尾更新判定为异常噪声更新，直接压低或剔除该类设备的贡献，造成模型尾类知识丢失。

技术实现思路

1、（一）要解决的技术问题

2、鉴于现有技术的上述缺点、不足，本技术提供一种针对长尾噪声的模型迭代训练方法和系统，其解决了现有联邦训练仅依靠样本量、训练轮次确定聚合权重，缺乏端侧审计校验，以及仅采用几何统计识别异常更新，容易误判长尾良性更新、丢失稀有尾类知识，且无法量化参数差分对尾类性能影响，难以多维度合理分配聚合权重的技术问题。

3、（二）技术方案

4、为了达到上述目的，本技术采用的主要技术方案包括：

5、第一方面，本技术提供一种针对长尾噪声的模型迭代训练方法，所述方法基于预先部署的服务器和与服务器通信连接的多个边缘设备实现，所述方法包括：

6、服务器将预先部署的全局模型的全局模型参数发送至每一边缘设备，以使每一边缘设备基于接收到的全局模型参数和预先部署的本地数据，构建局部模型；

7、服务器分别获取每一边缘设备对应的参数差分数据和审计特征数据；其中，参数差分数据为边缘设备构建的局部模型的局部模型参数，与全局模型参数之间的差分矩阵；所述审计特征数据为边缘设备生成参数差分更新矩阵时同步采集的校验特征集合；

8、服务器基于所有参数差分数据，构建每一边缘设备对应的几何异常量，并基于全局模型和预先部署的类别均衡校准锚点集，虚拟应用每一参数差分数据，确定每一参数差分数据对应的尾类效应变化量；

9、服务器基于每一边缘设备对应的审计特征数据和每一边缘设备预先设置的信誉值，构建每一边缘设备的先验权重，并基于每一边缘设备的参数差分数据、几何异常量、尾类效应变化量和先验权重，确定每一边缘设备对应的聚合权重；

10、服务器基于每一边缘设备对应的聚合权重，对每一参数差分数据进行加权聚合，以基于加权聚合结果对全局模型进行更新，并将更新后的全局模型下发至每一边缘设备。

11、可选地，服务器将预先部署的全局模型的全局模型参数发送至每一边缘设备，包括：

12、服务器获取每一边缘设备的设备状态数据，并基于每一边缘设备对应的设备状态数据和每一边缘设备预先设置的信誉值，确定每一边缘设备的参与分数，以将参与分数低于预先设置的参与分数阈值的边缘设备剔除本轮迭代训练；

13、服务器为每一未被剔除的边缘设备生成轮次随机种子，并将全局模型的全局模型参数和每一未被剔除的边缘设备对应的轮次随机种子，发送至对应的边缘设备。

14、可选地，任一边缘设备的局部模型通过以下步骤构建：

15、边缘设备基于接收到的全局模型参数初始化本地模型，并读取预先部署的本地数据和针对本地数据维护的历史滑动损失记录；其中，所述本地数据包括多种类别标签，以及每一类别标签对应的多个训练样本；所述历史滑动损失记录为边缘设备记录的本地数据中每一训练样本的历史训练批次监督损失的损失滑动记录；

16、边缘设备统计本地数据中每一类别标签所对应的训练样本数量，以基于每一类别标签的训练样本数量，确定每一类别标签的有效样本权重，并将每一训练样本输入初始化后的本地模型，以在本地训练的前向计算过程中，基于每一训练样本的类别标签和预测结果，构建每一训练样本的监督损失；

17、边缘设备针对每一类别标签下所有训练样本的监督损失，构建每一类别标签对应的同类样本损失中位数，并基于每一类别标签对应的同类样本损失中位数，以及每一训练样本的类别标签和监督损失，构建每一训练样本的偏离程度；任一训练样本的偏离程度为该训练样本的监督损失，与该训练样本的类别标签所对应的同类样本损失中位数之间的偏离程度；

18、边缘设备基于每一训练样本的偏离程度和损失滑动记录，确定每一训练样本的时序稳定因子，并基于每一训练样本、每一训练样本的时序稳定因子和类别标签，以及每一类别标签的有效样本权重，对本地模型进行强化训练，获得边缘设备的局部模型。

19、可选地，基于每一训练样本、每一训练样本的时序稳定因子和类别标签，以及每一类别标签的有效样本权重，对本地模型进行强化训练，获得边缘设备的局部模型，包括：

20、边缘设备基于每一训练样本的时序稳定因子，对每一训练样本分别进行弱增强处理和强增强处理，获得每一训练样本对应的弱增强样本和强增强样本，并将每一训练样本对应的弱增强样本和强增强样本分别输入本地模型，以获得每一训练样本对应的强增强预测结果和弱增强预测结果；

21、边缘设备每一训练样本对应的强增强预测结果和弱增强预测结果，确定每一训练样本的预测一致性；其中，预测一致性为强增强预测结果和弱增强预测结果的一致性程度；

22、边缘设备基于每一训练样本所属类别标签对应的类别有效样本权重，以及每一训练样本的时序稳定因子和预测一致性，确定每一训练样本的样本可靠性权重；

23、边缘设备基于每一训练样本、每一训练样本对应的类别标签和样本可靠性权重，对本地模型进行加权训练，获得边缘设备的局部模型。

24、可选地，任一边缘设备对应的参数差分数据和审计特征数据通过以下步骤获得：

25、边缘设备提取其构建的局部模型的局部模型参数，并基于局部模型的局部模型参数和接收到的全局模型参数，构建参数差分数据；

26、边缘设备基于预先部署的分层规则，将所述参数差分数据划分为多个分层块；

27、边缘设备基于每一分层块，计算每一分层块对应的二范数，以获取每一分层块的裁剪前更新范数；

28、边缘设备基于每一分层块的裁剪前更新范数，以及预先设置的分层裁剪阈值，对每一分层块进行裁剪，并基于裁剪后的分层块，计算每一裁剪后的分层块对应的二范数，以获取每一分层块的裁剪后更新范数；

29、边缘设备基于预先获取的轮次随机种子，构建分层随机投影矩阵，并基于所述分层随机投影矩阵对裁剪后的每一分层块进行低维投影，以获得每一分层块对应的分层随机投影符；

30、边缘设备基于每一分层块的裁剪后更新范数和分层随机投影符，构建边缘设备对应的审计特征数据。

31、可选地，服务器基于所有参数差分数据，构建每一边缘设备对应的几何异常量，包括：

32、服务器基于接收到的所有参数差分数据，以每一参数差分数据为输入构建鲁棒参考更新；其中，所述鲁棒参考更新为所有参数差分数据的几何中位数；

33、服务器基于所述鲁棒参考更新，计算每一参数差分数据与所述鲁棒参考更新的偏离程度，以获得每一边缘设备对应的方向偏差；

34、服务器基于所有参数差分数据，构建每一参数差分数据的整体范数，以获取整体范数中位数，并基于整体范数中位数，构建本轮迭代训练的参考步长；

35、服务器基于本轮迭代训练的参考步长和每一参数差分数据的整体范数，获取每一边缘设备对应的步长偏差；并基于每一边缘设备预先获取的轮次随机种子，对鲁棒参考更新进行分层投影，以获取每一边缘设备对应的参考投影符；

36、服务器基于每一边缘设备对应的参考投影符和所有分层随机投影符，以按照分层块计算符号不一致比例，获得每一边缘设备对应的符号偏差；

37、服务器基于每一边缘设备的方向偏差、步长偏差和符号偏差，获得每一边缘设备对应的几何异常量。

38、可选地，基于每一边缘设备的参数差分数据、几何异常量、尾类效应变化量和先验权重，确定每一边缘设备对应的聚合权重，包括：

39、服务器基于全局模型参数和所述类别均衡校准锚点集，构建类别均衡校准损失，所述类别均衡校准损失用于表征全局模型在所述类别均衡校准锚点集上的校准程度；

40、服务器基于每一边缘设备的参数差分数据，构建每一参数差分数据对应的受限扰动集合，所述受限扰动集合用于同时约束扰动的二范数不超过预先设置的扰动半径，且扰动与该参数差分数据的夹角不超过预先设置的夹角阈值；

41、服务器以内层扰动、外层聚合权重为变量构建双层权重模型；其中，所述内层扰动为针对每一边缘设备的参数差分数据设置的，在对应受限扰动集合内变化的虚拟对抗偏移；所述外层聚合权重为以先验权重为初始值，在预先设置的权重可行域内变化的各边缘设备权重；

42、服务器基于所述双层权重模型和权重可行域，以及每一边缘设备对应的受限扰动集合和先验权重，按照内外层交替顺序持续获取模型输出，直至预先设置的停止条件，获取每一边缘设备对应的最坏扰动和候选聚合权重；其中，候选聚合权重为预先设置的外层目标最小化时的外层聚合权重；

43、服务器基于所述双层权重模型和所述权重可行域，以本轮所有边缘设备为参与对象，获取所述外层目标基于全部边缘设备优化得到的最优值，作为基准最优值；并针对每一边缘设备，基于将该边缘设备由参与对象中移出后的剩余边缘设备，在剩余边缘设备对应的权重可行域内重新按照所述内外层交替顺序进行优化，获取所述外层目标基于剩余边缘设备优化得到的最优值，作为该边缘设备对应的留一最优值；

44、服务器基于基准最优值和每一边缘设备对应的留一最优值，构建每一边缘设备对应的客户端影响量，并基于每一边缘设备的客户端影响量、候选聚合权重、信誉值、几何异常量、尾类效应变化量和审计特征数据，确定每一边缘设备对应的聚合权重。

45、可选地，每一边缘设备的审计特征数据还包括该边缘设备的陈旧度修正因子；

46、基于每一边缘设备的客户端影响量、候选聚合权重、信誉值、几何异常量、尾类效应变化量和审计特征数据，确定每一边缘设备对应的聚合权重，包括：

47、服务器基于每一边缘设备的几何异常量、尾类效应变化量和客户端影响量，确定每一边缘设备的综合异常分数；

48、服务器基于所有边缘设备的综合异常分数，确定动态隔离阈值；其中，动态隔离阈值为所有边缘设备的综合异常分数的中位数，与所有边缘设备的综合异常分数的中位数绝对值之间的偏差；

49、服务器基于动态隔离阈值，确定任一边缘设备对应的综合异常分数小于动态隔离阈值时，基于该边缘设备对应的候选聚合权重、信誉值和陈旧度修正因子，确定该边缘设备的聚合权重。

50、可选地，基于每一边缘设备对应的聚合权重，对每一参数差分数据进行加权聚合，以基于加权聚合结果对全局模型进行更新，包括：

51、服务器基于每一边缘设备对应的聚合权重，对每一边缘设备对应的参数差分数据进行逐元素加权求和，获得本轮迭代训练对应的聚合更新量；

52、服务器基于全局模型参数、聚合更新量和预先设置的聚合步长，构建候选全局模型参数，并基于候选全局模型参数对全局模型进行更新，以获得候选全局模型；

53、服务器基于所述候选全局模型在所述类别均衡校准锚点集上计算锚点损失，以基于所述锚点损失，以及本轮全局模型在所述类别均衡校准锚点集上的类别均衡校准损失，判断是否进行验收；

54、确定验收时，将候选全局模型确定为更新后的全局模型。

55、第二方面，本技术提供一种针对长尾噪声的模型迭代训练系统，包括：服务器和多个边缘设备，且每一边缘设备均与所述服务器连接；

56、当所述服务器接收到用户输入的迭代训练指令时，执行上述的针对长尾噪声的模型迭代训练方法。

57、（三）有益效果

58、本技术的一种针对长尾噪声的模型迭代训练方法，首先，通过同步获取参数差分数据与审计特征数据，为服务器提供可核验的端侧训练校验依据；其次，结合参数差分计算几何异常量，同时借助类别均衡校准锚点集虚拟推演得到尾类效应变化量，能够区分长尾良性偏移更新与异常更新；然后，融合审计特征、设备信誉生成先验权重，综合多维度信息求解聚合权重，避免单纯几何判别造成稀有尾类知识丢失，抑制异常差分对全局模型的干扰，有效提升长尾噪声场景下全局模型迭代的稳定性以及尾类任务性能。