一种面向电力物联网的电力终端多任务联邦学习方法

1.本发明涉及一种面向电力物联网的电力终端多任务联邦学习方法，属于电力物联网环境下的私人能源数据共享技术领域。


背景技术：

2.在传统的物联网人工智能领域中，分布在用户物联网设备上的大量个人能源数据需要迁移到中央存储器（如云平台或边缘设备），才能进行内容提取，这可能会带来严重的隐私侵犯和数据滥用风险。
3.联邦学习作为一种极具吸引力的基于人工智能的隐私保护方式，使电力终端能够在不暴露本地能源数据的情况下合作训练共享人工智能模型。然而，由于数据的非独立同分布，本地模型的低质量共享以及潜在的安全和效率等问题，阻碍了电力物联网中基于联邦学习的物联网人工智能服务的部署。随着智能设备在电力物联网中的普及，大量的能源数据是由单个智能设备产生的。此外，用户还可以享受个性化的能源服务，提高体验质量。尽管联邦学习带来了巨大的好处，但在电力物联网中的私人能源数据共享方面，联邦学习仍面临一系列基本挑战。
4.在电力物联网中，异构用户（如住宅区、商业区和工业区）拥有的训练数据通常是非独立同分布的。现有研究表明，与独立同分布数据相比，使用非独立同分布数据的联邦学习的准确性可能会下降，进而增加了电力服务提供商评估学习过程中准确度损失成本的难度。


技术实现要素：

5.本发明所要解决的技术问题是克服现有技术的缺陷，提供一种面向电力物联网的电力终端多任务联邦学习方法。
6.为达到上述目的，本发明提供一种面向电力物联网的电力终端多任务联邦学习方法，包括j个电力服务提供商、i个电力终端和l个边缘聚合器，j'={1,2,
…
,j}，i'={1,2,
…
,i}，l'={1,2,
…
,l}，具体步骤如下：步骤一、电力服务提供商j在云平台发布一组联邦学习任务集γ=｛γ
j,1
,
…
,γ
j,k
,
…
,｝，j∈j'，其中，γ
j,k
为电力服务提供商j的第k个任务，kj为电力服务提供商j的任务总数；云平台初始化全局模型，k=1,2,
…
，kj，回合索引t初始化为0；步骤二、云平台将全局模型分发到每个边缘聚合器，表示回合t中电力服务提供商j的第k个任务的全局模型；边缘聚合器将接收到的全局模型发送到边缘聚合器覆盖范围内的电力终端；步骤三、将训练获得的全局模型作为该电力终端i在回合t中的本地模型；
将本地模型上传到覆盖电力终端i的边缘聚合器l。
7.优先地，步骤四、收集边缘聚合器l的覆盖范围内所有电力终端的本地模型；对电力终端的本地模型执行边缘聚合，得到局部模型：其中，为边缘聚合器l覆盖范围内的所有电力终端集合，为电力终端参与电力服务提供商j的第k个任务γ
j,k
的训练数据集大小，∈；边缘聚合完成后，所有边缘聚合器将局部模型发送到云平台进行中心聚合，得到全局模型：，，其中，为边缘聚合器l的权重；步骤五、判断全局模型是否达到预定精度，若没有达到则t的数值按照设定的规则变化，并执行步骤二，否则结束运行。
8.优先地，向全局模型输入某地区待计算月份的前三个月历史用电量参数，预测输出某地区待计算月份的用电量预测值；历史用电量参数包括某地区每日平均用电时长、某地区每日平均用电功率、某地区住户总数和某地区工厂总数。
9.优先地，步骤三中，训练获得全局模型，通过以下步骤实现：获取电力终端i参与电力服务提供商j的第k个任务γ
j,k
的训练数据集以及数据质量因子q
i,j,k
，大小为；电力终端i采用监督学习方式，利用训练数据集训练电力终端i的全局模型；将训练数据集拆分为若干个批次；通过随机梯度下降算法将每个批次输入全局模型进行训练，获得最
终的全局模型。
10.优先地，步骤三中，获取电力终端参与电力服务提供商j的第k个任务γ
j,k
的训练数据集和q
i,j,k
，通过以下步骤实现：步骤3-1）：建立电力终端i参与电力服务提供商j的第k个任务γ
j,k
的效益函数：其中，
ϖ
是平衡收入和成本的权重参数，δ
i,j,k
是在γ
j,k
中电力终端i的本地模型推理精度达到设定的最高阈值时的付款，c
i,j,k
是执行γ
j,k
时电力终端i的总成本；的表达式为：的表达式为：，其中，λn为正曲线拟合参数，1≤n≤6，w
i,j,k
为电力终端i参与γ
j,k
的样本分布差异值，代表标签集合，p
i,j,k
(y=u)代表标签u的样本在训练数据集所占的的比例，p
j,k
(y=u)代表标签u的样本在训练数据集中所占的比例，是加入γ
j,k
的一组电力终端，i
j,k
是加入γ
j,k
的电力终端的总数量；q
i,j,k
代表样本的数据质量，q
i,j,k
∈[0,1]；步骤3-2）：建立电力服务提供商j在γ
j,k
中的效益函数π
j,k
：，，其中，μ是平衡全局模型推理精度和总奖励的权重参数，λc是调节参数；是加入γ
j,k
的一组电力终端，δ
i,j,k
是在γ
j,k
中电力终端i的本地模型推理精度达到设定的最高阈值时的付款，是电力服务提供商j向云平台支付的全局模型聚合成本，代表全局模型大小，i
j,k
代表参与γ
j,k
的电力终端数量，p
cloud
是电力服务提供商向云平台支付的单位款项，代表γ
j,k
的全局模型推理精度；的表达式为：,
是参与γ
j,k
中所有电力终端w
i,j,k
的平均值；步骤3-3）：建立联合优化问题：问题1：问题2：，其中，u
i,j,k
指电力终端i参与电力服务提供商j的γ
j,k
的效益函数，为电力终端i参与γ
j,k
的最大的训练数据集的样本数量，为电力服务提供商j对γ
j,k
的最大预算；步骤3-4）：利用遗传算法求解步骤3-3）的联合优化问题，得到q
i,j,k
、s
i,j,k
和δ
i,j,k
的解。
[0011]
优先地，设定的最高阈值为。
[0012]
优先地，总成本包括本地数据成本、本地计算成本和通信成本。
[0013]
优先地，t的数值按照设定的规则变化，具体是指：t的数值增加1的设定倍数。
[0014]
一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述任一项所述方法的步骤。
[0015]
一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述任一项所述方法的步骤。
[0016]
本发明所达到的有益效果：（1）本发明可以更好地预测用电量，本方法与之前大部分研究中假设电力终端的训练数据遵循理想的独立同分布不同，重点研究关注训练样本数据的非独立同分布情况；（2）本方法考虑到电力终端可能通过传播低质量、冗余或无意义的本地模型来欺骗电力服务提供商，本发明方法步骤三中，相较之前现有技术中只研究的单一性，本发明考虑到多维电力终端私有信息，如培训成本、数据质量和数据分布差异等，数据效用评估方法更加全面。
[0017]
（3）步骤三中，与之前大部分研究中假设电力终端的训练数据遵循理想的独立同分布不同，本发明重点研究关注在实际情况中更为普遍的训练样本数据的非独立同分布情况。
[0018]
（4）步骤三中，在本发明提出的数据效用评估方法以及非独立同分布的电力终端
回报模型基础之上，考虑到电力终端可能会通过传播低质量、冗余或无意义的本地模型来欺骗电力服务提供商的情况，本发明针对电力终端和电力服务提供商提出效益函数和联合优化问题，以提高学习的公平性，从而提高通信效率和电力终端的隐私保护。
[0019]
（5）本方法在提出的数据效用评估方法基础之上，针对电力终端和电力服务提供商提出效益函数和联合优化问题。
附图说明
[0020]
图1是本发明的框架图；图2是本发明的流程图。
[0021]
附图标记含义，1-电力服务提供商；2-云平台；3-聚合器；4-电力终端。
具体实施方式
[0022]
以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。
[0023]
实施例一一种面向电力物联网的电力终端多任务联邦学习方法，包括j个电力服务提供商、i个电力终端和l个边缘聚合器，j'={1,2,
…
,j}，i'={1,2,
…
,i}，l'={1,2,
…
,l}，具体步骤如下：步骤一、电力服务提供商j在云平台发布一组联邦学习任务集γ=｛γ
j,1
,
…
,γ
j,k
,
…
,｝，j∈j'，其中，γ
j,k
为电力服务提供商j的第k个任务，kj为电力服务提供商j的任务总数；云平台初始化全局模型，k=1,2,
…
，kj，回合索引t初始化为0；步骤二、云平台将全局模型分发到每个边缘聚合器，表示回合t中电力服务提供商j的第k个任务的全局模型；边缘聚合器将接收到的全局模型发送到边缘聚合器覆盖范围内的电力终端；步骤三、将训练获得的全局模型作为该电力终端i在回合t中的本地模型；将本地模型上传到覆盖电力终端i的边缘聚合器l。
[0024]
进一步地，本实施例中步骤四、收集边缘聚合器l的覆盖范围内所有电力终端的本地模型；对电力终端的本地模型执行边缘聚合，得到局部模型：其中，为边缘聚合器l覆盖范围内的所有电力终端集合，为电力终端参
与电力服务提供商j的第k个任务γ
j,k
的训练数据集大小，∈；边缘聚合完成后，所有边缘聚合器将局部模型发送到云平台进行中心聚合，得到全局模型：，，其中，为边缘聚合器l的权重；步骤五、判断全局模型是否达到预定精度，若没有达到则t的数值按照设定的规则变化，并执行步骤二，否则结束运行。
[0025]
进一步地，本实施例中向全局模型输入某地区待计算月份的前三个月历史用电量参数，预测输出某地区待计算月份的用电量预测值；历史用电量参数包括某地区每日平均用电时长、某地区每日平均用电功率、某地区住户总数和某地区工厂总数。
[0026]
进一步地，本实施例中步骤三中，训练获得全局模型，通过以下步骤实现：获取电力终端i参与电力服务提供商j的第k个任务γ
j,k
的训练数据集以及数据质量因子q
i,j,k
，大小为；电力终端i采用监督学习方式，利用训练数据集训练电力终端i的全局模型；将训练数据集拆分为若干个批次；通过随机梯度下降算法将每个批次输入全局模型进行训练，获得最终的全局模型。
[0027]
进一步地，本实施例中步骤三中，获取电力终端参与电力服务提供商j的第k个任务γ
j,k
的训练数据集和q
i,j,k
，通过以下步骤实现：步骤3-1）：建立电力终端i参与电力服务提供商j的第k个任务γ
j,k
的效益函数：其中，
ϖ
是平衡收入和成本的权重参数，δ
i,j,k
是在γ
j,k
中电力终端i的本地模型推理精度达到设定的最高阈值时的付款，c
i,j,k
是执行γ
j,k
时电力终端i的总成本；的表达式为：
，其中，λn为正曲线拟合参数，1≤n≤6，w
i,j,k
为电力终端i参与γ
j,k
的样本分布差异值，代表标签集合，p
i,j,k
(y=u)代表标签u的样本在训练数据集所占的的比例，p
j,k
(y=u)代表标签u的样本在训练数据集中所占的比例，是加入γ
j,k
的一组电力终端，i
j,k
是加入γ
j,k
的电力终端的总数量；q
i,j,k
代表样本的数据质量，q
i,j,k
∈[0,1]；步骤3-2）：建立电力服务提供商j在γ
j,k
中的效益函数π
j,k
：，，其中，μ是平衡全局模型推理精度和总奖励的权重参数，λc是调节参数；是加入γ
j,k
的一组电力终端，δ
i,j,k
是在γ
j,k
中电力终端i的本地模型推理精度达到设定的最高阈值时的付款，是电力服务提供商j向云平台支付的全局模型聚合成本，代表全局模型大小，i
j,k
代表参与γ
j,k
的电力终端数量，p
cloud
是电力服务提供商向云平台支付的单位款项，代表γ
j,k
的全局模型推理精度；的表达式为：,,是参与γ
j,k
中所有电力终端w
i,j,k
的平均值；步骤3-3）：建立联合优化问题：问题1：
问题2：，其中，u
i,j,k
指电力终端i参与电力服务提供商j的γ
j,k
的效益函数，为电力终端i参与γ
j,k
的最大的训练数据集的样本数量，为电力服务提供商j对γ
j,k
的最大预算；步骤3-4）：利用遗传算法求解步骤3-3）的联合优化问题，得到q
i,j,k
、s
i,j,k
和δ
i,j,k
的解。
[0028]
进一步地，本实施例中设定的最高阈值为。
[0029]
进一步地，本实施例中总成本包括本地数据成本、本地计算成本和通信成本。
[0030]
进一步地，本实施例中t的数值按照设定的规则变化，具体是指：t的数值增加1的设定倍数。
[0031]
一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述任一项所述方法的步骤。
[0032]
一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现上述任一项所述方法的步骤。
[0033]
电力服务提供商、云平台、聚合器和电力终端上述部件在现有技术中可采用的型号很多，本领域技术人员可根据实际需求选用合适的型号，本实施例不再一一举例。
[0034]
实施例二如图1所示，一种面向电力物联网的电力终端多任务联邦学习方法，该方法首先提出了一个边缘云辅助的联邦学习框架，用于电力物联网中高效通信和保护隐私的能源数据共享。电力服务提供商可以向云平台发布一组联邦学习任务，并从电力终端共享的个人能源数据中获取数据。云平台将全局模型分发至边缘聚合器集群，对边缘聚合器发送回来的经过局部聚合后的局部模型中心聚合。边缘聚合器作为边缘计算节点，可以为其覆盖区域内的电力终端提供边缘计算和局部模型聚合服务，缓解联邦学习中远程数据传输所涉及的高延迟和间歇性连接。不同边缘聚合器覆盖范围内的电力终端被分为不同的集合区域，其产生的本地训练数据是属于非独立同分布的。基于该框架的的整体联邦学习流程主要包括任务发布和模型初始化、本地更新、边缘聚合、中心聚合。
[0035]
如图2所示，考虑到异构用户的非独立同分布，将独立同分布视为特例，开发了联邦学习中的数据评估机制，并给出了电力终端和电力服务提供商的效益函数及其优化问题。特别是，采取搭便车行为（q
i,j,k
=0）的电力终端将受到零支付机制的惩罚，以提高学习的公平性。
[0036]
为了补偿电力终端在联邦学习过程中的学习成本，电力服务提供商j为参与任务γ
j,k
的电力终端i确定其支付策略作为对其贡献的奖励。
[0037]
其中，
ϖ
是平衡收入和成本的权重参数，δ
i,j,k
是在γ
j,k
中电力终端i的本地模型推理精度达到设定的最高阈值时的付款，c
i,j,k
是执行γ
j,k
时电力终端i的总成本；
的表达式为：的表达式为：，其中，λn为正曲线拟合参数，1≤n≤6，w
i,j,k
为电力终端i参与γ
j,k
的样本分布差异值，代表标签集合，p
i,j,k
(y=u)代表标签u的样本在训练数据集所占的的比例，p
j,k
(y=u)代表标签u的样本在训练数据集中所占的比例，是加入γ
j,k
的一组电力终端，i
j,k
是加入γ
j,k
的电力终端的总数量；q
i,j,k
代表样本的数据质量，q
i,j,k
∈[0,1]；通过可知随着w
i,j,k
值的增大，本地模型推理精度下降，联邦学习性能随之退化。指数项和反映出当数据质量因子q
i,j,k
和数据大小s
i,j,k
越大时，本地模型推理精度越高。
[0038]
电力服务提供商对不参与联邦学习过程（即s
i,j,k
=0）或采取欺骗行为（即q
i,j,k
=0）的电力终端采取零支付策略。
[0039]
将达到预定精度的全局模型交付给相应的电力服务提供商，电力服务提供商j根据电力终端的贡献向电力终端支付相应的费用；电力服务提供商j根据贡献向电力终端i支付相应的费用δ
i,j
：，其中，kj是电力服务提供商j的任务总数，δ
i,j,k
是在γ
j,k
中电力终端i的本地模型推理精度达到设定的最高阈值时的付款。
[0040]
是参与γ
j,k
中所有电力终端的w
i,j,k
的平均值：；很显然，当时，不同电力终端间的数据满足独立同分布，这种情况属于特例。
[0041]
本技术是参照根据本技术实施例的方法、设备（系统）、和计算机程序产品的流程图和／或方框图来描述的。应理解可由计算机程序指令实现流程图和／或方框图中的每一流程和／或方框、以及流程图和／或方框图中的流程和／或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实
现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的装置。
[0042]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
[0043]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能的步骤。
[0044]
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。