联邦学习模型训练中的数据传输方法及装置与流程
本技术属于机器学习,尤其涉及一种联邦学习模型训练中的数据传输方法及装置。
背景技术:
1、联邦学习(federated learning,fl)是一种面向分布式场景的隐私计算与机器学习框架,通过令各用户终端利用其本地数据集独立训练本地模型,仅将训练所得的模型参数或梯度信息上传至云端服务器,由云端服务器对接收到的模型参数或梯度执行聚合操作,生成新一代全局模型参数并将其分发至各用户终端以更新本地模型,能够令多个数据持有方在不对外共享本地原始数据的前提下协同完成模型训练,从而在保障数据隐私安全的同时,大幅降低原始数据传输带来的带宽开销。
2、然而,在无线通信场景中,上行链路通信通常受到严格带宽的限制。在通信资源有限的情况下,需要从全部用户终端中选择一部分用户终端,仅令被选中的用户终端将模型参数或梯度信息上传至云端服务器。为在提高通信质量、降低通信时延的同时提高全局模型训练的效率,需要设计合理的数据传输策略。
技术实现思路
1、本技术旨在至少解决现有技术中存在的技术问题之一。为此,本技术提出一种联邦学习模型训练中的数据传输方法及装置,以提高模型的训练效率。
2、第一方面,本技术提供了一种联邦学习模型训练中的数据传输方法,应用于卫星通信系统,所述卫星通信系统包括卫星基站和多个用户终端,各所述用户终端本地部署有本地模型;所述方法包括:
3、从各所述用户终端中确定候选用户终端集合,所述候选用户终端集合包括至少一个候选用户终端;
4、基于各所述候选用户终端训练所述本地模型所使用的训练数据量,和所述本地模型损失函数的梯度幅度值,计算所述候选用户终端集合对应的训练总收益值;
5、基于各所述候选用户终端与所述卫星基站之间的信道增益值,和各所述候选用户终端的本地模型的模型参数量,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信成本值,并基于各所述候选用户终端对应的通信成本值,计算所述候选用户终端集合对应的通信总成本值;
6、以所述训练总收益值与所述通信总成本值的比值最大为目标,迭代更新所述候选用户终端集合,将迭代至收敛时的候选用户终端集合确定为目标用户终端集合,并令所述目标用户终端集合中各目标用户终端将所述本地模型的参数传输至所述卫星基站。
7、本技术提供的联邦学习模型训练中的数据传输方法,通过综合考量联邦学习过程中,各用户终端的本地训练数据量、模型梯度的差异,计算候选用户终端集合对应的训练总收益值,能够降低训练数据量非均匀分布对全局模型更新效率的影响,通过以训练总收益值与通信总成本值的比值最大为目标,迭代更新得到参与数据传输与全局模型训练的目标用户终端集合,能够将联邦学习全局聚合的业务量加权特性与卫星通信成本约束深度融合,在相同通信资源消耗下同步提升模型的收敛速度与训练精度,从而提高模型的训练效率。
8、根据本技术的一个实施例,所述基于各所述候选用户终端训练所述本地模型所使用的训练数据量,和所述本地模型损失函数的梯度幅度值,计算所述候选用户终端集合对应的训练总收益值,包括:
9、计算各所述候选用户终端训练所述本地模型所使用的训练数据量,与各所述用户终端的训练数据量的总和的比值,得到各所述候选用户终端对应的收益评估权重;
10、根据各所述候选用户终端对应的收益评估权重,计算各所述候选用户终端对应的梯度幅度值的加权和,得到所述候选用户终端集合对应的训练总收益值。
11、在该实施例中,通过将各候选用户终端训练本地模型所使用的训练数据量与各用户终端的训练数据量的总和的比值作为各候选用户终端对应的收益评估权重,能够减少计算训练总收益值耗费的计算量,提高计算速度。
12、根据本技术的一个实施例,根据公式:
13、
14、计算得到所述候选用户终端集合对应的训练总收益值;
15、其中,u表示所述候选用户终端集合,k表示各所述用户终端的训练数据量的总和,表示候选用户终端i对应的训练数据量,表示候选用户终端i对应的收益评估权重,表示候选用户终端i对应的梯度幅度值。
16、根据本技术的一个实施例,根据公式:
17、
18、
19、
20、
21、计算得到所述候选用户终端与所述卫星基站之间的信道增益值;
22、其中,h表示所述候选用户终端与所述卫星基站之间的信道增益值,
23、表示大尺度衰落,为比例系数,d为所述候选用户终端与所述卫星基站之间的距离,为路径损耗指数,
24、表示小尺度衰落,为莱斯因子,表示视距分量的随机相位,表示瑞利衰落,和为独立零均值高斯变量。
25、根据本技术的一个实施例,所述基于各所述候选用户终端与所述卫星基站之间的信道增益值,和各所述候选用户终端的本地模型的模型参数量,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信成本值,包括:
26、获取各所述候选用户终端的初始传输功率和初始信道分配向量;
27、基于各所述候选用户终端的初始传输功率、所述初始信道分配向量、所述信道增益值和所述模型参数量,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信时延;
28、根据各所述候选用户终端的初始传输功率和所述通信时延,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信能耗;
29、基于各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信时延和通信能耗,确定各所述候选用户终端对应的通信成本值。
30、在该实施例中,通过根据各候选用户终端的实时信道增益值计算通信时延和通信能耗,使后续能够针对信道的实时波动调整用户选择与传输参数,减少传输丢包、重传的情况,从而提高数据传输的效率。
31、根据本技术的一个实施例,所述基于各所述候选用户终端对应的通信成本值,计算所述候选用户终端集合对应的通信总成本值,包括:
32、将各所述候选用户终端对应的通信时延的最大值,确定为所述候选用户终端集合对应的通信时延成本值;
33、将各所述候选用户终端对应的通信能耗的总和,确定为所述候选用户终端集合对应的通信能耗成本值;
34、计算所述通信时延成本值与所述通信能耗成本值的加权和,得到所述候选用户终端集合对应的通信总成本值。
35、在该实施例中,通过将通信时延成本值与通信能耗成本值的加权和作为候选用户终端集合对应的通信总成本值,后续以训练总收益值与通信总成本值的比值最大为优化目标,能够降低数据传输过程中的能耗和时延,提升卫星通信系统的整体通信效率。
36、根据本技术的一个实施例,根据公式:
37、
38、
39、
40、计算得到所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信时延;
41、其中,表示候选用户终端i将本地模型的参数上传至所述卫星基站所预计耗费的通信时延,s表示所述本地模型的参数对应的数据包的体积,
42、为候选用户终端i的初始信道分配向量,r为信道总数,表示候选用户终端i被分配到信道n上,
43、表示按照分配信道后,候选用户终端i到卫星基站的信息传输速率,b为信道带宽,为候选用户终端i的初始传输功率,为候选用户终端i在信道n上的信道增益值,为噪声功率谱密度。
44、根据本技术的一个实施例,所述以所述训练总收益值与所述通信总成本值的比值最大为目标,迭代更新所述候选用户终端集合,将迭代至收敛时的候选用户终端集合确定为目标用户终端集合,并令所述目标用户终端集合中各目标用户终端将所述本地模型的参数传输至所述卫星基站,包括:
45、初始化当前迭代轮次的候选用户终端集合;
46、以目标函数的值最大为目标,更新所述候选用户终端集合;所述目标函数表征所述训练总收益值与所述通信总成本值的比值;
47、达到更新终止条件后,以所述候选用户终端集合中各候选用户终端所预计耗费的通信成本值最小为目标,求解各所述候选用户终端的目标发射功率;
48、基于各所述候选用户终端的目标发射功率,求解使所述候选用户终端集合对应的通信总成本值最小的目标用户-信道匹配对集合;所述目标用户-信道匹配对集合包括各所述候选用户终端与信道的匹配对;
49、根据各所述候选用户终端的目标发射功率和所述目标用户-信道匹配对集合,计算所述当前迭代轮次的候选用户终端集合对应的目标函数的值;
50、若所述当前迭代轮次对应的目标函数的值,与前序迭代轮次对应的目标函数的值的差值小于收敛阈值,则将所述当前迭代轮次的候选用户终端集合确定为所述目标用户终端集合;
51、根据所述目标用户-信道匹配对集合确定各所述目标用户终端对应的目标信道,并令各所述目标用户终端以所述目标发射功率、通过所述目标信道,将所述本地模型的参数传输至所述卫星基站。
52、在该实施例中,通过交替迭代优化用户终端集合、功率配置与信道分配方案,能够降低计算复杂度,提高求解速度,通过在完成候选用户终端集合的更新后,寻找使各候选用户终端的通信成本值最小的目标发射功率,并求解使系统通信总成本的信道分配方案,能够实现发射功率与信道状态、任务需求的精准匹配,由此,能够在提高模型训练速度的同时,提升卫星通信系统的整体通信效率。
53、根据本技术的一个实施例,所述迭代终止条件为,所述候选用户终端集合中的候选用户终端的数量大于或等于目标数量;所述以所述训练总收益值与所述通信总成本值的比值最大为目标,更新所述候选用户终端集合,包括:
54、根据各第一用户终端和所述候选用户终端集合,构建各所述第一用户终端对应的临时用户终端集合;所述第一用户终端为各所述用户终端中未加入到所述候选用户终端集合的用户终端;
55、计算各所述临时用户终端集合对应的辅助函数的值;其中,所述辅助函数基于所述目标函数构建得到;
56、将所述辅助函数的值最大的所述临时用户终端集合对应的第一用户终端,加入到所述候选用户终端集合中。
57、在该实施例中,通过基于目标函数构建辅助函数,并采用贪心策略,在每轮更新中选择使辅助函数增量最大的用户终端加入候选用户集合,能够避免求解复杂的分式优化问题,降低计算复杂度,从而提高更新候选用户终端集合的计算速度。
58、根据本技术的一个实施例,所述以所述候选用户终端所预计耗费的通信成本值最小为目标,求解各所述候选用户终端的目标发射功率,包括:
59、从目标功率区间中确定多个候选功率值;
60、计算所述候选用户终端采用各候选功率值发射信号所预计耗费的通信成本值;
61、将所述通信成本值最小的候选功率值确定为所述候选用户终端的目标发射功率。
62、在该实施例中,通过以线性搜索的方法求解各候选用户终端的目标发射功率,能够降低计算复杂度,提高求解目标发射功率的速度。
63、根据本技术的一个实施例,所述基于各所述候选用户终端的目标发射功率,求解使候选用户终端集合对应的通信总成本值最小的目标用户-信道匹配对集合,包括:
64、基于各所述候选用户终端的目标发射功率,计算各所述候选用户终端选择各候选信道所预计耗费的通信成本值,得到通信成本矩阵;
65、将各所述候选用户终端作为第一子图的节点,将各所述候选信道作为第二子图的节点,将各所述候选用户终端与各所述候选信道的匹配对作为所述第一子图的节点与所述第二子图的节点之间的边,将所述通信成本矩阵作为各所述边对应的权重矩阵,建立得到用户-信道二分图;
66、求解使所述用户-信道二分图中各边的总权重值最小的用户-信道匹配对,得到所述目标用户-信道匹配对集合。
67、在该实施例中,通过将信道分配问题建模为二分图最小权重匹配问题再进行求解,能够在降低计算复杂度的同时,使求解结果满足信道分配约束,从而提高求解目标用户-信道匹配对集合的效率。
68、根据本技术的一个实施例,所述目标函数为:
69、
70、所述辅助函数为:
71、
72、其中,u表示所述候选用户终端集合,k表示各所述用户终端的训练数据量的总和,表示候选用户终端i对应的训练数据量,表示候选用户终端i对应的梯度幅度值,e表示候选用户终端集合对应的通信能耗成本值,t表示候选用户终端集合对应的通信时延成本值,和为比例系数,且,为前序迭代轮次对应的目标函数的值。
73、第二方面,本技术提供了一种联邦学习模型训练中的数据传输装置,包括:
74、确定模块,用于从各用户终端中确定候选用户终端集合,所述候选用户终端集合包括至少一个候选用户终端;
75、第一计算模块,用于基于各所述候选用户终端训练本地模型所使用的训练数据量,和所述本地模型损失函数的梯度幅度值,计算所述候选用户终端集合对应的训练总收益值;
76、第二计算模块,用于基于各所述候选用户终端与卫星基站之间的信道增益值,和各所述候选用户终端的本地模型的模型参数量,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信成本值,并基于各所述候选用户终端对应的通信成本值,计算所述候选用户终端集合对应的通信总成本值;
77、更新模块,用于以所述训练总收益值与所述通信总成本值的比值最大为目标,迭代更新所述候选用户终端集合,将迭代至收敛时的候选用户终端集合确定为目标用户终端集合,并令所述目标用户终端集合中各目标用户终端将所述本地模型的参数传输至所述卫星基站。
78、根据本技术的联邦学习模型训练中的数据传输装置,通过综合考量联邦学习过程中,各用户终端的本地训练数据量、模型梯度的差异,计算候选用户终端集合对应的训练总收益值,能够降低训练数据量非均匀分布对全局模型更新效率的影响,通过以训练总收益值与通信总成本值的比值最大为目标,迭代更新得到参与数据传输与全局模型训练的目标用户终端集合,能够将联邦学习全局聚合的业务量加权特性与卫星通信成本约束深度融合,在相同通信资源消耗下同步提升模型的收敛速度与训练精度,从而提高模型的训练效率。
79、根据本技术的一个实施例,所述第一计算模块,还用于:
80、计算各所述候选用户终端训练所述本地模型所使用的训练数据量,与各所述用户终端的训练数据量的总和的比值,得到各所述候选用户终端对应的收益评估权重;
81、根据各所述候选用户终端对应的收益评估权重,计算各所述候选用户终端对应的梯度幅度值的加权和,得到所述候选用户终端集合对应的训练总收益值。
82、根据本技术的一个实施例,所述第二计算模块,还用于:
83、获取各所述候选用户终端的初始传输功率和初始信道分配向量;
84、基于各所述候选用户终端的初始传输功率、所述初始信道分配向量、所述信道增益值和所述模型参数量,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信时延;
85、根据各所述候选用户终端的初始传输功率和所述通信时延,计算各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信能耗;
86、基于各所述候选用户终端将本地模型的参数上传至所述卫星基站所预计耗费的通信时延和通信能耗,确定各所述候选用户终端对应的通信成本值。
87、根据本技术的一个实施例,所述第二计算模块,还用于:
88、将各所述候选用户终端对应的通信时延的最大值,确定为所述候选用户终端集合对应的通信时延成本值;
89、将各所述候选用户终端对应的通信能耗的总和,确定为所述候选用户终端集合对应的通信能耗成本值;
90、计算所述通信时延成本值与所述通信能耗成本值的加权和,得到所述候选用户终端集合对应的通信总成本值。
91、根据本技术的一个实施例,所述更新模块,还用于:
92、初始化当前迭代轮次的候选用户终端集合;
93、以所述训练总收益值与所述通信总成本值的比值最大为目标,更新所述候选用户终端集合;
94、达到更新终止条件后,以所述候选用户终端集合中各候选用户终端所预计耗费的通信成本值最小为目标,求解各所述候选用户终端的目标发射功率;
95、基于各所述候选用户终端的目标发射功率,求解使所述候选用户终端集合对应的通信总成本值最小的目标用户-信道匹配对集合;所述目标用户-信道匹配对集合包括各所述候选用户终端与信道的匹配对;
96、根据各所述候选用户终端的目标发射功率和所述目标用户-信道匹配对集合,计算所述当前迭代轮次的候选用户终端集合对应的目标函数的值;所述目标函数表征所述训练总收益值与所述通信总成本值的比值;
97、若所述当前迭代轮次对应的目标函数的值,与前序迭代轮次对应的目标函数的值的差值小于收敛阈值,则将所述当前迭代轮次的候选用户终端集合确定为所述目标用户终端集合;
98、根据所述目标用户-信道匹配对集合确定各所述目标用户终端对应的目标信道,并令各所述目标用户终端以所述目标发射功率、通过所述目标信道,将所述本地模型的参数传输至所述卫星基站。
99、根据本技术的一个实施例,所述更新模块,还用于:
100、根据各第一用户终端和所述候选用户终端集合,构建各所述第一用户终端对应的临时用户终端集合;所述第一用户终端为各所述用户终端中未加入到所述候选用户终端集合的用户终端;
101、计算各所述临时用户终端集合对应的辅助函数的值;其中,所述辅助函数基于所述目标函数构建得到;
102、将所述辅助函数的值最大的所述临时用户终端集合对应的第一用户终端,加入到所述候选用户终端集合中。
103、根据本技术的一个实施例,所述更新模块,还用于:
104、从目标功率区间中确定多个候选功率值;
105、计算所述候选用户终端采用各候选功率值发射信号所预计耗费的通信成本值;
106、将所述通信成本值最小的候选功率值确定为所述候选用户终端的目标发射功率。
107、根据本技术的一个实施例,所述更新模块,还用于:
108、基于各所述候选用户终端的目标发射功率,计算各所述候选用户终端选择各候选信道所预计耗费的通信成本值,得到通信成本矩阵;
109、将各所述候选用户终端作为第一子图的节点,将各所述候选信道作为第二子图的节点,将各所述候选用户终端与各所述候选信道的匹配对作为所述第一子图的节点与所述第二子图的节点之间的边,将所述通信成本矩阵作为各所述边对应的权重矩阵,建立得到用户-信道二分图;
110、通过匈牙利算法,求解使所述用户-信道二分图中各边的总权重值最小的用户-信道匹配对,得到所述目标用户-信道匹配对集合。
111、第三方面,本技术提供了一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的联邦学习模型训练中的数据传输方法。
112、第四方面,本技术提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的联邦学习模型训练中的数据传输方法。
113、第五方面,本技术提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如上述第一方面所述的联邦学习模型训练中的数据传输方法。
114、第六方面,本技术提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的联邦学习模型训练中的数据传输方法。
115、本技术实施例中的上述一个或多个技术方案,至少具有如下技术效果之一:
116、根据本技术的联邦学习模型训练中的数据传输方法,通过综合考量联邦学习过程中,各用户终端的本地训练数据量、模型梯度的差异,计算候选用户终端集合对应的训练总收益值,能够降低训练数据量非均匀分布对全局模型更新效率的影响,通过以训练总收益值与通信总成本值的比值最大为目标,迭代更新得到参与数据传输与全局模型训练的目标用户终端集合,能够将联邦学习全局聚合的业务量加权特性与卫星通信成本约束深度融合,在相同通信资源消耗下同步提升模型的收敛速度与训练精度,从而提高模型的训练效率。
117、在一些实施例中,通过将各候选用户终端训练本地模型所使用的训练数据量与各用户终端的训练数据量的总和的比值作为各候选用户终端对应的收益评估权重,能够减少计算训练总收益值耗费的计算量,提高计算速度。
118、在一些实施例中,通过根据各候选用户终端的实时信道增益值计算通信时延和通信能耗,使后续能够针对信道的实时波动调整用户选择与传输参数,减少传输丢包、重传的情况,从而提高数据传输的效率。
119、在一些实施例中,通过将通信时延成本值与通信能耗成本值的加权和作为候选用户终端集合对应的通信总成本值,后续以训练总收益值与通信总成本值的比值最大为优化目标,能够降低数据传输过程中的能耗和时延,提升卫星通信系统的整体通信效率。
120、在一些实施例中,通过交替迭代优化用户终端集合、功率配置与信道分配方案,能够降低计算复杂度,提高求解速度,通过在完成候选用户终端集合的更新后,寻找使各候选用户终端的通信成本值最小的目标发射功率,并求解使系统通信总成本的信道分配方案,能够实现发射功率与信道状态、任务需求的精准匹配,由此,能够在提高模型训练速度的同时,提升卫星通信系统的整体通信效率。
121、在一些实施例中,通过基于目标函数构建辅助函数,并采用贪心策略,在每轮更新中选择使辅助函数增量最大的用户终端加入候选用户集合,能够避免求解复杂的分式优化问题,降低计算复杂度,从而提高更新候选用户终端集合的计算速度。
122、在一些实施例中,通过以线性搜索的方法求解各候选用户终端的目标发射功率,能够降低计算复杂度,提高求解目标发射功率的速度。
123、在一些实施例中,通过将信道分配问题建模为二分图最小权重匹配问题再进行求解,能够在降低计算复杂度的同时,使求解结果满足信道分配约束,从而提高求解目标用户-信道匹配对集合的效率。
124、本技术的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本技术的实践了解到。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com