一种基于分层级联跨尺度注意力机制的电力负荷预测方法和相关设备

本技术涉及电力负荷预测，尤其涉及一种基于分层级联跨尺度注意力机制的电力负荷预测方法和相关设备。

背景技术：

1、相关技术中，电力负荷预测技术存在单尺度建模感知片面、多尺度融合过程中的特征稀释以及数学分解方法缺乏明确负荷变化语义等缺陷，导致模型对负荷峰谷转折点捕捉不灵敏且极易过拟合于气象随机噪声。

2、综上，相关技术中存在的技术问题有待得到改善。

技术实现思路

1、本技术实施例的主要目的在于提出一种基于分层级联跨尺度注意力机制的电力负荷预测方法和相关设备，能够预测出未来时刻的电力负荷值。

2、为实现上述目的，本技术实施例的一方面提出了一种基于分层级联跨尺度注意力机制的电力负荷预测方法，所述方法包括以下步骤：

3、采集小时级负荷序列及匹配的气象因素数据，提取历史负荷序列值、多站温度观测值和周期性时间编码并拼接为多维特征向量，并对所述多维特征向量执行标准化，得到标准多维特征张量；

4、根据日内波动周期、周度模式切换周期和月度趋势变化周期，以滑动窗口将所述标准多维特征张量沿时域独立切分为短期窗口序列、中期窗口序列和长期窗口序列；

5、将所述短期窗口序列、所述中期窗口序列和所述长期窗口序列分别馈入三路并行的门控循环单元编码器，各路编码器独立提取相应尺度下的时序依赖关系，输出短期时序隐状态、中期时序隐状态和长期时序隐状态；

6、以所述短期时序隐状态作为查询项，以所述中期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出融合中期语境证据的短期增强隐状态；

7、以所述短期增强隐状态作为查询项，以所述长期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出经长期宏观背景逻辑校验的全局上下文向量；

8、将所述全局上下文向量映射输出电力负荷预测值。

9、在一些实施例中，所述采集小时级负荷序列及匹配的气象因素数据，提取历史负荷序列值、多站温度观测值和周期性时间编码并拼接为多维特征向量，并对所述多维特征向量执行标准化，得到标准多维特征张量，包括：

10、将已采集的电力系统历史运行过程中逐小时记录的负荷观测值及与其时间对齐的气象站温度观测值作为全样本；

11、将所述全样本按时间先后顺序划分为训练集、验证集和测试集；

12、从所述全样本中提取历史负荷序列值；

13、采集与所述历史负荷序列值在时间上对齐的多个气象观测站点上报的温度观测值，将各站点的所述温度观测值组合为温度观测向量；

14、采集当前预测时刻的时钟时间信息、日历星期信息以及所属月份信息，将所述时钟时间信息、所述日历星期信息和所述所属月份信息分别通过正弦映射和余弦映射转换至循环周期空间，获得周期编码向量；

15、将所述历史负荷序列值、所述温度观测向量和所述周期编码向量拼接为多维特征向量；

16、在所述训练集上计算所述多维特征向量的集中趋势参数和离散程度参数，将所述集中趋势参数和所述离散程度参数作为固定缩放基准，对所述训练集、所述验证集和所述测试集内的多维特征向量执行基于所述集中趋势参数和所述离散程度参数的标准化操作，得到标准多维特征张量。

17、在一些实施例中，所述根据日内波动周期、周度模式切换周期和月度趋势变化周期，以滑动窗口将所述标准多维特征张量沿时域独立切分为短期窗口序列、中期窗口序列和长期窗口序列，包括：

18、以表征日内峰谷交替及用户用电行为波动的预设的短周期长度为窗口尺寸、以数据采样时间间隔为滑动步长，从所述标准多维特征张量中截取各起始时刻下的短时片段，将各所述短时片段按照时间先后顺序排列为短期窗口序列；

19、以表征工作日与休息日负荷模式切换及周度电网调度规律的预设的中周期长度为窗口尺寸、以数据采样时间间隔为滑动步长，从所述标准多维特征张量中截取各起始时刻下的中时片段，将各所述中时片段按照时间先后顺序排列为中期窗口序列；所述中期窗口序列与所述短期窗口序列在时域上相互隔离；

20、以表征季节性温度趋势及宏观生产节奏的预设的长周期长度为窗口尺寸、以数据采样时间间隔为滑动步长，从所述标准多维特征张量中截取各起始时刻下的长时片段，将各所述长时片段按照时间先后顺序排列为长期窗口序列；所述长期窗口序列与所述短期窗口序列和所述中期窗口序列在时域上相互隔离。

21、在一些实施例中，所述将所述短期窗口序列、所述中期窗口序列和所述长期窗口序列分别馈入三路并行的门控循环单元编码器，各路编码器独立提取相应尺度下的时序依赖关系，输出短期时序隐状态、中期时序隐状态和长期时序隐状态，包括：

22、构建三路拓扑结构相同且参数独立更新的门控循环单元编码器，各路编码器分别对应短期尺度、中期尺度和长期尺度；所述短期尺度、所述中期尺度和所述长期尺度分别由所述短期窗口序列、所述中期窗口序列和所述长期窗口序列的窗口长度决定；

23、将所述短期窗口序列沿时间步依次送入第一路门控循环单元编码器，所述第一路门控循环单元编码器通过重置门和更新门对每一时间步的输入状态与上一时刻隐藏状态进行门控筛选，沿时间步迭代更新隐藏状态，取各时间步更新后的隐藏状态构成短期时序隐状态；

24、将所述中期窗口序列沿时间步依次送入第二路门控循环单元编码器，所述第二路门控循环单元编码器通过重置门和更新门对每一时间步的输入状态与上一时刻隐藏状态进行门控筛选，沿时间步迭代更新隐藏状态，取各时间步更新后的隐藏状态构成中期时序隐状态；

25、将所述长期窗口序列沿时间步依次送入第三路门控循环单元编码器，所述第三路门控循环单元编码器通过重置门和更新门对每一时间步的输入状态与上一时刻隐藏状态进行门控筛选，沿时间步迭代更新隐藏状态，取各时间步更新后的隐藏状态构成长期时序隐状态。

26、在一些实施例中，所述以所述短期时序隐状态作为查询项，以所述中期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出融合中期语境证据的短期增强隐状态，包括：

27、将所述短期时序隐状态映射为查询矩阵，将所述中期时序隐状态分别映射为键矩阵和值矩阵，将所述查询矩阵、所述键矩阵和所述值矩阵分别在特征维度上拆分为多个子空间；

28、在各所述子空间中计算所述查询矩阵与所述键矩阵的转置之间的点积，以缩放因子对点积结果进行缩放后经softmax函数归一化为注意力权重分布，以所述注意力权重分布对所述值矩阵进行加权求和，得到各所述子空间的注意力输出；

29、将各所述子空间的所述注意力输出沿特征维度拼接后经线性变换，与所述短期时序隐状态叠加并执行层归一化，得到短期增强隐状态。

30、在一些实施例中，所述以所述短期增强隐状态作为查询项，以所述长期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出经长期宏观背景逻辑校验的全局上下文向量，包括：

31、将所述短期增强隐状态映射为查询矩阵，将所述长期时序隐状态分别映射为键矩阵和值矩阵，将所述查询矩阵、所述键矩阵和所述值矩阵分别在特征维度上拆分为多个子空间；

32、在各所述子空间中计算所述查询矩阵与所述键矩阵的转置之间的点积，以缩放因子对点积结果进行缩放后经softmax函数归一化为注意力权重分布，以所述注意力权重分布对所述值矩阵进行加权求和，得到各所述子空间的注意力输出；

33、将各所述子空间的所述注意力输出沿特征维度拼接后经线性变换，与所述短期增强隐状态叠加并执行层归一化，得到全局上下文向量。

34、在一些实施例中，所述将所述全局上下文向量映射输出电力负荷预测值，包括：

35、将所述全局上下文向量经输出映射处理转换为与预测步长对应的输出向量，将所述输出向量作为电力负荷预测值输出。

36、为实现上述目的，本技术实施例的另一方面提出了一种基于分层级联跨尺度注意力机制的电力负荷预测系统，用于实现如前面所述的方法，所述系统包括：

37、数据采集与特征构造模块，用于采集小时级负荷序列及匹配的气象因素数据，提取历史负荷序列值、多站温度观测值和周期性时间编码并拼接为多维特征向量，并对所述多维特征向量执行标准化，得到标准多维特征张量；

38、时域切分模块，用于根据日内波动周期、周度模式切换周期和月度趋势变化周期，以滑动窗口将所述标准多维特征张量沿时域独立切分为短期窗口序列、中期窗口序列和长期窗口序列；

39、并行编码模块，用于将所述短期窗口序列、所述中期窗口序列和所述长期窗口序列分别馈入三路并行的门控循环单元编码器，各路编码器独立提取相应尺度下的时序依赖关系，输出短期时序隐状态、中期时序隐状态和长期时序隐状态；

40、级联注意力融合模块，用于以所述短期时序隐状态作为查询项，以所述中期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出融合中期语境证据的短期增强隐状态；以所述短期增强隐状态作为查询项，以所述长期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出经长期宏观背景逻辑校验的全局上下文向量；

41、预测输出模块，用于将所述全局上下文向量映射输出电力负荷预测值。

42、为实现上述目的，本技术实施例的另一方面提出了一种电子设备，所述电子设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现前面所述的方法。

43、为实现上述目的，本技术实施例的另一方面提出了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现前面所述的方法。

44、为实现上述目的，本技术实施例的另一方面提出了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现前面所述的方法。

45、本技术实施例至少包括以下有益效果：本技术提供一种基于分层级联跨尺度注意力机制的电力负荷预测方法、系统、电子设备、存储介质及程序产品,该方案包括：得到标准多维特征张量；根据日内波动周期、周度模式切换周期和月度趋势变化周期，以滑动窗口将标准多维特征张量沿时域独立切分为短期窗口序列、中期窗口序列和长期窗口序列；输出短期时序隐状态、中期时序隐状态和长期时序隐状态；输出融合中期语境证据的短期增强隐状态；以短期增强隐状态作为查询项，以长期时序隐状态作为键值存储库，执行多头缩放点积注意力运算并经残差连接与层归一化，输出经长期宏观背景逻辑校验的全局上下文向量；将全局上下文向量映射输出电力负荷预测值。本技术能够预测出未来时刻的电力负荷值。