无人集群智能模型训练方法、装置和电子设备

技术特征：
1.一种无人集群智能模型训练方法，其特征在于，包括以下步骤：(a)获取待训练的无人集群，并从所述无人集群中选择第一数量个无人节点作为簇头；(b)基于所述簇头对剩余无人节点进行分簇处理，得到第一数量个无人簇；其中，所述剩余无人节点表示所述无人集群中除簇头之外的无人节点；重复执行下述步骤(c)-(e)，直至达到预设结束条件，得到训练后的无人集群；(c)对目标无人簇进行集中式联邦学习训练，并在无人节点完成局部模型训练之后，构建所述目标无人簇的簇模型参数；其中，所述目标无人簇表示所述第一数量个无人簇中的任一无人簇；每个所述无人簇的簇模型参数存储于相应的簇头中；(d)基于所述第一数量个无人簇的簇模型参数对所述第一数量个无人簇进行簇间分布式联邦学习训练，得到所述无人集群的全局模型参数；(e)将所述全局模型参数通过每个所述簇头发送至相应簇内的所有无人节点，以使每个所述无人节点更新局部模型参数。2.根据权利要求1所述的无人集群智能模型训练方法，其特征在于，基于所述簇头对剩余无人节点进行分簇处理，包括：将所述剩余无人节点划分为第二数量个无人种群；对目标种群中的每个无人节点的簇头选择进行初始化，得到目标种群的种群状态；其中，所述目标种群表示所述第二数量个无人种群中的任一种群；所述种群状态用于表征所述目标种群中的无人节点选择每个簇头的参与者比例；控制所述目标种群进行种群进化操作，直至所述目标种群中所有无人节点的平均效用函数值等于进行簇头选择的任一无人节点在所述目标种群中的效用函数值；基于第二数量个进化后的无人种群确定第一数量个无人簇。3.根据权利要求2所述的无人集群智能模型训练方法，其特征在于，控制所述目标种群进行种群进化操作，包括：获取目标无人节点所采集数据的数据质量和数据量；其中，所述目标无人节点表示所述目标无人簇中的任一无人节点；基于所述数据质量和所述数据量计算所述目标无人节点进行簇头选择之后，所述目标无人节点在所述目标种群中获得的收益；计算所述目标无人节点进行簇头选择之后，所述目标无人节点的训练成本；其中，所述训练成本包括：通信成本和计算成本；基于所述收益和所述训练成本计算所述目标无人节点进行簇头选择之后，所述目标无人节点在所述目标种群中的效用函数值；基于所述目标种群的种群状态和所述效用函数值，计算所述目标种群的种群增长率；基于所述种群增长率对所述目标种群进行种群进化。4.根据权利要求1所述的无人集群智能模型训练方法，其特征在于，构建所述目标无人簇的簇模型参数之前，还包括：判断目标无人节点与其原始簇头之间的链路是否损坏；若是，则获取目标无人节点与目标簇头之间的链路状态；其中，所述目标无人节点表示所述目标无人簇中的任一无人节点；所述目标簇头表示第一数量个簇头中的任一簇头；计算所述目标无人节点选择转移簇头之后，所述目标无人节点的奖励值；其中，所述转
移簇头表示与所述目标无人节点之间的链路通畅的任一簇头；将最大奖励值对应的目标转移簇头作为所述目标无人节点的簇头；更新所述目标无人簇中的无人节点，得到更新后的目标无人簇。5.根据权利要求4所述的无人集群智能模型训练方法，其特征在于，计算所述目标无人节点选择转移簇头之后，所述目标无人节点的奖励值，包括：计算所述目标无人节点未加入所述转移簇头所在的无人簇之前，所述转移簇头的无人簇内所有无人节点进行聚合后的第一模型质量；计算所述目标无人节点加入所述转移簇头所在的无人簇之后，更新后的转移簇头的无人簇内所有无人节点进行聚合后的第二模型质量；将所述第二模型质量与所述第一模型质量的差值作为所述目标无人节点选择转移簇头之后的奖励值。6.根据权利要求1所述的无人集群智能模型训练方法，其特征在于，对所述第一数量个无人簇进行簇间分布式联邦学习训练过程中，每一轮迭代时，目标簇头的簇模型参数通过算式进行更新；其中，表示第t 1轮迭代时目标簇头k的簇模型参数，w
i,k
表示所述目标簇头k的邻居簇头i的簇模型参数在迭代中的权重，表示第t轮迭代时所述邻居簇头i的簇模型参数，α表示学习率，表示第t 1轮迭代时目标簇头k的损耗函数的梯度；n
k
表示所述目标簇头k的邻居簇头集合。7.根据权利要求6所述的无人集群智能模型训练方法，其特征在于，所述预设结束条件包括：目标算式的取值小于预设阈值；所述目标算式为：其中，表示所述目标簇头k的簇内无人节点j的局部模型参数，n
k
表示所述目标簇头k的簇内无人节点总数，表示所述目标簇头k的簇内无人节点j的损失函数，(h
j
,y
j
)表示所述无人节点j的样例输入，h
j
表示所述无人节点j所采集数据的特征向量，y
j
表示所述无人节点j所采集数据的标签向量。8.一种无人集群智能模型训练装置，其特征在于，包括：第一获取模块，用于获取待训练的无人集群，并从所述无人集群中选择第一数量个无人节点作为簇头；分簇模块，用于基于所述簇头对剩余无人节点进行分簇处理，得到第一数量个无人簇；其中，所述剩余无人节点表示所述无人集群中除簇头之外的无人节点；重复执行模块，用于重复执行下述步骤(c)-(e)，直至达到预设结束条件，得到训练后的无人集群；(c)对目标无人簇进行集中式联邦学习训练，并在无人节点完成局部模型训练之后，构建所述目标无人簇的簇模型参数；其中，所述目标无人簇表示所述第一数量个无人簇中的任一无人簇；每个所述无人簇的簇模型参数存储于相应的簇头中；(d)基于所述第一数量个无人簇的簇模型参数对所述第一数量个无人簇进行簇间分布式联邦学习训练，得到所述无人集群的全局模型参数；(e)将所述全局模型参数通过每个所述簇头发送至相应簇内的所有无人节点，以使每
个所述无人节点更新局部模型参数。9.一种电子设备，包括存储器、处理器，所述存储器上存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述权利要求1至7中任一项所述的无人集群智能模型训练方法的步骤。10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令被处理器执行时实现上述权利要求1至7中任一项所述的无人集群智能模型训练方法。

技术总结
本发明提供了一种无人集群智能模型训练方法、装置和电子设备，涉及通信的技术领域，该方法将无人集群的训练划分为簇内集中式联邦学习和簇间分布式联邦学习两个阶段，簇内集中式学习时，簇头作为模型所有者来和簇内节点进行参数传递，并进行模型聚合，从而缓解了传统的集中式联邦学习方式存在的通信拥塞和计算瓶颈的技术问题；并且，簇间分布式学习时，由于只有邻居簇头间进行参数传输和模型聚合，所以与传统分布式联邦学习相比，本发明还能有效地减少通信能耗。减少通信能耗。减少通信能耗。


技术研发人员：姚海鹏 许佳琪 吴巍 张尼 买天乐 袁菀迈 刘全占 忻向军 张茹
受保护的技术使用者：北京邮电大学
技术研发日：2022.09.07
技术公布日：2022/11/11