基于公平性与一致性优化的联邦学习设备调度优化方法

本发明涉及联邦学习，尤其涉及一种基于公平性与一致性优化的联邦学习设备调度优化方法。

背景技术：

1、传统的集中式机器学习方法由于需要将大量原始数据上传到中心服务器进行统一训练，不仅带来了巨大的通信开销，还存在严重的数据隐私泄露风险。为了解决此类问题，联邦学习作为一种能够保护数据隐私的分布式机器学习方法应运而生。联邦学习允许中心服务器在每一轮次中选择少量可用设备进行本地模型训练，并通过上传模型更新参数而非原始数据来实现全局聚合。由于其在隐私保护和通信效率上的优势，联邦学习在智能手机终端、物联网等跨设备场景中得到了广泛应用。

2、然而，在真实的跨设备联邦学习部署中，设备在计算能力、通信带宽和可用性等方面面临着显著的异构性。传统的朴素或纯随机设备采样策略效率低下，极易被性能较差的掉队者拖累，导致单轮训练延迟过高。同时，由于设备可用性的持续差异，这种采样会产生系统性的不公平：部分设备被频繁选中，而另一些设备由于参与率极低，其本地数据在长期训练中被排除在外，进而导致全局模型出现偏差。此外，为了解决延迟和公平性问题，现有研究通常会调整设备的采样概率，但这会引发一个更为核心的矛盾：当设备以非均匀概率参与时，直接聚合其模型更新会破坏全局模型相对于数据规模加权目标的统计一致性。

技术实现思路

1、有鉴于此，本发明提供了一种基于公平性与一致性优化的联邦学习设备调度优化方法，用以提升全局模型精度，降低单轮成本，并提高设备参与公平性与模型统计一致性。

2、第一方面，本发明提供了一种基于公平性与一致性优化的联邦学习设备调度优化方法，所述方法包括：

3、步骤1、对联邦学习进行训练，配置跨设备联邦学习环境；

4、步骤2、根据步骤1，构建联合设备调度与模型聚合的优化模型；

5、步骤3、根据步骤2，设计基于双层架构的跨设备联邦学习调度机制，以优化设备调度。

6、可选地，所述步骤1包括：

7、步骤11、全局模型初始化；通过随机初始化或预设参数的方式生成初始全局模型参数，并将其发送给所有参与设备；

8、步骤12、设备本地模型训练；每个设备采用本地数据集对接收到的全局模型进行训练，优化目标为最小化本地损失函数，其中为模型的损失函数，训练后的本地模型参数为；

9、步骤13、上传本地模型参数；设备将训练后的本地模型参数和个本地数据样本上传到服务器；

10、步骤14、全局模型聚合；服务器通过加权平均的方式，将所有设备的本地模型参数进行聚合，获得聚合后的全局模型，其中更新后的全局模型参数：

11、；

12、其中，为参与训练的设备总数，为数据样本的总量，和分别表示设备和设备的本地数据样本数量；

13、步骤15、迭代训练；将聚合后的全局模型再次分发至各设备，重复上述步骤，直至全局模型收敛或达到预设的训练轮次。

14、可选地，所述步骤2包括：

15、步骤21、联邦学习全局优化目标；将实验环境设定为包含个候选设备的同步跨设备联邦学习系统，且系统满足部分参与的约束条件；设每个候选设备在本地存储有个数据样本，其对应的本地经验损失函数记为；系统整体的全局优化目标设定为最小化基于数据规模加权的全局损失函数：

16、；

17、其中，表示全局模型参数，表示基于数据规模加权的全局损失函数，表示候选设备总数，和表示候选设备的索引序号，和分别表示设备和设备的本地数据样本数量，表示设备的本地经验损失函数；

18、步骤22、设备选择模型构建；在模型训练的每一轮次中，服务器仅调度当前可用设备的一个子集，触发其执行局部随机梯度下降sgd并上传更新参数，其过程不涉及原始数据的传输；为此，系统定义设备选择指示变量：当将设备选中加入当前轮次子集时，；反之则；系统调度模块的核心决策任务是为每个当前可用的设备计算并输出其边缘包含概率，即；

19、步骤23、基于自归一化逆概率加权ipw的统计一致性聚合模型；为保证在非均匀的设备选择概率下，全局模型更新量与目标全局风险保持统计一致性，在服务器端构建自归一化逆概率加权ipw聚合模块；全局模型更新量及下一轮次参数的表达式分别为：

20、；

21、；

22、为控制模型更新过程中的方差，对边缘包含概率设定预设下界，即强制约束，其中为常数；当设备端采用近端正则化稳定本地训练时，不修改服务器端聚合权重模型；

23、步骤24、参与公平性约束与对偶求解模型；

24、引入jain公平性指数以构建长效参与公平性评价与约束模型，表示将设备截至第轮为止的累积选中总次数，则系统的参与公平性jain指数表达式为：

25、；

26、其中，指数的值域反映系统机会分配的均匀度，表征系统达到理想公平状态；

27、为在线强制系统逼近设定的目标公平性指数，在优化模型中引入一个非负的标量对偶乘子，并在每个通信轮次后进行在线迭代更新，其表达式为：

28、；

29、=max(x,0)表示非负投影算子，用于保证公平性约束对应的对偶乘子为非负值。

30、可选地，所述步骤3包括：

31、步骤31、运行时探测与进化预热策略；设计基于离线探测与模仿学习的预热模块：

32、a、设备特征采集与延迟分层；在全局训练启动前，系统下发探测指令至各候选设备，收集两类代理指标：一是反映设备对模型收敛潜在贡献度的统计效用代理；二是表征硬件与网络约束的系统成本代理；基于系统成本代理，将设备划分为个延迟层级，以降低组内设备的异质性；

33、b、基线评分模型构建；针对各延迟层级内的设备，系统构建基线评分函数：

34、；

35、其中，为统计效用代理，为系统成本代理，为设定的参与债务项，用于补偿具有下沉风险的设备长期参与度，为平衡各项的超参数；

36、c、演化搜索与模型训练；系统在候选设备子集上执行小规模演化搜索，通过在满足轮次时间约束的前提下对基线子集执行变异操作，生成多个候选子集；根据单位挂钟时间的验证精度，以提升幅度对每个候选子集进行评估，保留表现优异的子集并提取成对偏好，进而通过模仿学习训练一轻量级排序模型，从而为每个延迟层级生成稳定的设备初始优先级序列；

37、步骤32、在线分层设备调度；在全局在线训练阶段，将调度模块输出的设备边缘包含概率进行解耦并因式分解为上层控制器配额与下层选择器概率的乘积：；

38、上述分解满足的约束条件：；表示设备所属的延迟层级，表示上层分配的层级参与配额，表示下层确定的组内选择概率，表示设定的单轮固定参与设备总数。

39、可选地，所述步骤32包括：

40、步骤321、上层策略：基于多目标奖励的层级配额控制；

41、上层控制器基于上一轮次的延迟反馈，动态调整层级配额向量；将上层控制器的目标函数建模为最大化标量奖励函数，其表达式为：；

42、其中，为全局模型验证精度的绝对提升量，为第轮的平均耗时，为选定设备的归一化轮次成本代理，为系统当前累积的参与公平性jain指数，为目标公平性指数，分别对应长运行时间、高成本与公平性违背的惩罚权重参数；

43、通过轻量级上下文bandit或强化学习算法执行在线参数更新；

44、步骤322、下层策略：组内设备动态评估与选择；

45、对于任一延迟层级g，下层选择模块细化预热阶段生成的排序模型，为每个设备计算动态轮次评分：；

46、其中，和分别为实时更新的效用与成本代理，为更新后的参与债务项，为可选的链路瓶颈惩罚项，用于处理相同得分设备的打破平局操作；模型中的自适应系数通过多智能体协作强化学习机制进行动态演化，以与上层控制器的标量奖励保持优化方向的一致性；

47、步骤323、基于随机取整的包含概率映射机制；

48、为将连续的理论组内选择概率和层级配额转化为实际的离散设备选取操作，设计随机取整模块，执行如下操作：

49、①针对延迟层级，计算配额基准整数值；

50、②依据动态轮次评分对组内设备降序排列，直接录取排名前的设备，即；

51、③若存在小数配额份额，即，则以与选择概率成正比的概率，从当前层级剩余的设备池中额外随机抽样一个设备。

52、第二方面，本发明实施例提供一种计算机可读存储介质，所述计算机可读存储介质包括存储的程序，其中，在所述程序运行时控制所述计算机可读存储介质所在设备执行第一方面或第一方面任一可能的实现方式中的基于公平性与一致性优化的联邦学习设备调度优化方法。

53、第三方面，本发明实施例提供一种电子设备，包括：一个或多个处理器；存储器；以及一个或多个计算机程序，其中所述一个或多个计算机程序被存储在所述存储器中，所述一个或多个计算机程序包括指令，当所述指令被所述设备执行时，使得所述设备执行第一方面或第一方面任一可能的实现方式中的基于公平性与一致性优化的联邦学习设备调度优化方法。

54、本发明提供的技术方案中，该方法包括对联邦学习进行训练，配置跨设备联邦学习环境；构建联合设备调度与模型聚合的优化模型；设计基于双层架构的跨设备联邦学习调度机制，以优化设备调度，该方法在异构设备环境下优化跨设备联邦学习过程，提升了全局模型精度，降低了单轮成本，并提高了设备参与公平性与模型统计一致性。