一种基于任务元特征调制的智算中心负荷预测方法及装置与流程

摘要: 本发明涉及电力系统负荷预测,具体涉及一种基于任务元特征调制的智算中心负荷预测方法及装置。背景技术:1、近年来,大模型训练与在线推理业务快速增长,带动智算中心用电...
一种基于任务元特征调制的智算中心负荷预测方法及装置与流程

本发明涉及电力系统负荷预测,具体涉及一种基于任务元特征调制的智算中心负荷预测方法及装置。

背景技术:

1、近年来,大模型训练与在线推理业务快速增长,带动智算中心用电规模持续攀升,同时也使其电力负荷呈现出明显区别于传统数据中心的新特征。一方面,大规模训练作业在集群侧形成高功率、持续时间长的负荷形态,并可能伴随显著的功率波动与热波动,对供配电与冷却系统带来更高约束;相关公开研究与工程实践已指出,训练负荷的功率波动及其频率成分会对数据中心基础设施与电网侧稳定性提出新的挑战。

2、另一方面,推理业务受用户请求驱动,具有突发性与随机性,负荷更易出现短时尖峰与快速起伏,在更小时间尺度上体现出强波动特征。面向此类ai数据中心负荷,已有研究强调其用电曲线可能出现快速波动,且负荷模式受底层算法与计算任务变化影响显著,使得仅依赖历史统计规律的预测难以稳定适配。

3、随着人工智能计算需求的快速增长,数据中心特别是面向人工智能训练与推理任务的智算中心(artificialintelligencedatacenter,aidc)已成为新型电力负荷的重要组成部分。智算中心普遍采用“训推一体”部署模式,即在同一物理集群中同时运行模型训练任务与推理服务任务。这种混合负载模式虽然提升了gpu资源利用率,却给电力负荷预测带来了严峻挑战。围绕数据中心电力需求预测问题,学术界与工程领域已经开展了大量研究。总体而言,现有技术大体可以分为三类:基于历史负荷序列的单尺度预测方法、基于时频分解或频谱增强的负荷预测方法,以及基于多模态融合或注意力机制的复杂时间序列预测方法。

4、第一类方法是基于历史电力负荷序列的单尺度预测方法。该类方法通常以历史功率数据为核心输入,并结合时间标签、环境变量或部分运行指标构建特征集合,然后利用统计学习模型或深度学习模型对未来负荷进行预测。典型方法包括自回归移动平均模型(arima)、季节性自回归移动平均模型(sarima)以及近年来广泛应用的深度学习模型,例如长短期记忆网络(lstm)、门控循环单元(gru)、时间卷积网络(tcn)和transformer等。这类方法通过学习历史负荷序列中的时间依赖关系与周期性规律,实现对未来负荷变化的预测,在传统工业负荷、商业建筑负荷以及常规数据中心负荷预测中已经得到较为广泛的应用。在工程实践中,这类方法通常遵循较为固定的流程:首先采集历史负荷曲线并构建时间序列数据集;随后提取时间特征(如小时、星期、季节)以及少量运行侧指标(如温度、设备利用率等);然后利用上述统计模型或深度学习模型进行训练;最后输出固定预测步长或固定预测窗口下的负荷预测结果,并通过均方误差(mse)、平均绝对误差(mae)或平均绝对百分比误差(mape)等指标对模型进行优化与评估。

5、第二类方法是基于时频分解或频谱增强的负荷预测方法。针对电力负荷序列普遍具有非平稳性和多尺度特征的问题,一些研究提出在建模前对负荷序列进行频域分解或时频分析,以增强模型对复杂信号结构的表征能力。典型方法包括快速傅里叶变换(fft)、小波变换、经验模态分解(emd)以及变分模态分解(vmd)等。通过上述方法可以将原始负荷序列分解为若干具有不同频率特征的子序列,例如趋势分量、周期分量以及高频扰动分量,再分别进行建模或联合预测,从而提高预测精度。相较于单纯依赖时域建模的方法,时频分解方法能够更加清晰地捕获电力负荷中的周期性结构与多尺度波动特征,在处理具有明显周期性或多频率特征的负荷序列时具有一定优势。因此,该类方法在电力系统负荷预测、能源需求预测以及部分数据中心功率预测研究中得到广泛应用。

6、第三类方法是基于多模态融合或注意力机制的复杂时间序列预测方法。随着数据中心运行监测系统的不断完善,越来越多的辅助信息可以被用于负荷预测,例如设备运行日志、资源利用率、任务调度记录、环境传感器数据等。因此,一些研究尝试将时间序列数据与多源信息进行联合建模,通过多模态融合框架提升预测能力。常见方法包括利用注意力机制或门控结构实现不同特征之间的信息交互,例如多头注意力机制、门控融合网络以及跨模态对齐结构等。这类方法通过引入额外信息源,在一定程度上缓解了单一时间序列信息不足的问题,并能够在复杂运行环境下提升模型的表达能力。因此,在运维监测、工业过程预测以及部分数据中心运行分析场景中得到了应用。

7、尽管上述三类方法在数据中心负荷预测研究中取得了一定进展,但在智算中心训练与推理混合负载条件下仍然存在明显局限。

8、首先,现有方法普遍以历史负荷外推为核心建模思路,缺乏对任务驱动机制的刻画。与传统数据中心相比,智算中心负荷具有明显不同的形成机制。其中,人工智能训练任务通常表现为长时间运行且计算强度较高的持续性负荷,而推理服务则表现为短时高频波动的脉冲式负荷。负荷变化不仅受到历史功率序列影响,还与任务类型、模型规模、并行策略以及服务流量变化等因素密切相关。当训练任务切换、模型规模调整或推理服务流量突增时,负荷结构可能发生明显变化。在这种情况下,单纯依赖历史负荷序列进行外推预测难以及时反映新的负荷形成机理,从而导致持续基荷刻画不准确、短时尖峰响应滞后以及预测稳定性下降等问题。

9、其次,现有方法大多针对单一预测时间尺度进行建模,缺少统一的多时间尺度预测机制。在大多数研究中,预测模型通常针对固定时间步长(例如几分钟或几小时)进行训练,并输出对应时间尺度下的预测结果。然而在智算中心运行场景中,不同类型任务对时间尺度的影响具有显著差异。例如,训练任务更关注长期运行趋势与持续基荷,而推理业务则更关注短周期波动与突发负荷变化。若采用单一时间尺度建模或简单多模型组合方式,往往难以在同一框架下同时兼顾短期波动捕捉与中长期趋势预测,从而在不同预测尺度下产生系统性误差。

10、再次,现有多模态预测方法在特征融合方面多采用静态策略,缺乏针对预测目标的动态调节机制。虽然部分研究尝试将多源信息引入负荷预测模型,但这些信息通常通过简单拼接或固定权重方式进行融合。不同类型特征在不同预测时间尺度下的重要性存在明显差异,例如短期预测更依赖时域局部波动信息,而长期预测则更依赖趋势结构或周期特征。静态融合方式难以根据预测目标动态调整各类特征的贡献,从而限制了模型在多时间尺度预测场景下的适应能力。此外,在任务频繁切换、负荷结构快速演化的情况下,现有方法通常没有建立“任务侧驱动信息—电力负荷变化”之间的专门映射关系,也缺乏能够补偿结构迁移误差的机制。

11、综上所述,现有技术虽然在历史负荷建模、时频特征提取以及多源信息融合等方面提供了重要基础,但仍存在以下不足:一是缺少针对训练任务与推理任务混合负载条件下智算中心电力负荷特性的专门建模方法;二是缺少能够统一处理不同预测时间尺度的预测机制;三是缺少根据预测目标动态调整多源特征贡献并补偿负荷结构迁移误差的有效方法。因此,有必要提出一种新的负荷预测方法,使其能够在统一框架下融合时域特征、频域特征与任务侧驱动信息,从而实现面向智算中心的多时间尺度电力负荷精准预测。

技术实现思路

1、为了克服上述缺陷,本发明提出了一种基于任务元特征调制的智算中心负荷预测方法及装置。

2、第一方面,提供一种基于任务元特征调制的智算中心负荷预测方法,所述基于任务元特征调制的智算中心负荷预测方法包括:

3、采用自适应小波包分解方法对智算中心总负荷序列进行多层次分解,得到多个子带分量序列;

4、基于子带分量序列与各任务元特征之间的归一化互信息确定子带分量序列训练域动态权重和推理域动态权重;

5、基于子带分量序列及其对应的训练域动态权重和推理域动态权重构建用于对子带在预测区间内进行基准预测的状态空间模型;

6、利用所述状态空间模型对各子带在预测区间内进行基准预测,得到各子带在预测区间内的基准预测序列;

7、基于各子带分量序列训练域动态权重和推理域动态权重对各子带在预测区间内的基准预测序列进行修正,得到修正后的各子带在预测区间内的基准预测序列;

8、对所述修正后的各子带在预测区间内的基准预测序列进行小波逆变换,将各子带在预测区间内的基准预测序列重构为时域负荷预测结果。

9、优选的,所述采用自适应小波包分解方法对智算中心总负荷序列进行多层次分解的过程中,当当前分解深度k满足时,将k作为最大分解深度,其中,为第层小波包分解层第个频带节点的对数能量熵与第层小波包分解层第个频带节点的对数能量熵之和,为第层小波包分解层第个频带节点的对数能量熵。

10、进一步的,所述第层小波包分解层第个频带节点的对数能量熵如下:

11、

12、上式中,为第层小波包分解层第个频带节点离散数据点数,为第层小波包分解层第个频带节点的第i个离散数据点,为正平滑因子。

13、优选的,所述任务元特征包括下述中的至少一种:资源分配类特征、训练任务特征、推理任务特征、互联通信特征、调度事件特征。

14、进一步的,所述资源分配类特征包括分配的 gpu 数量、cpu 核数、显存占用量、内存占用量;所述训练任务特征包括模型参数规模、训练状态标识、梯度同步事件标识、分布式并行配置、检查点保存事件;所述推理任务特征包括请求到达率、请求排队长度、输入输出序列长度、模型加载状态、在线服务实例变化量;所述互联通信特征包括节点间网络吞吐量、片间带宽利用率、通信阻塞标志。

15、优选的,所述子带分量序列与各任务元特征之间的归一化互信息如下:

16、

17、上式中,为子带分量序列与任务元特征之间的归一化互信息,为子带分量序列与任务元特征之间的互信息,为子带分量序列的信息熵,为任务元特征的信息熵。

18、进一步的,所述子带分量序列训练域动态权重和推理域动态权重如下:

19、

20、

21、上式中,为子带分量序列的训练域动态权重,为子带分量序列的训练域关联得分,,为子带分量序列的推理域关联得分,,为子带分量序列的推理域动态权重,为任务元特征中的训练域特征集合,为第一特征聚合权重,为任务元特征中的推理域特征集合,为第二特征聚合权重。

22、进一步的,所述状态空间模型如下:

23、

24、

25、上式中,为子带i在时刻的隐状态向量,为子带i在时刻的离散状态转移参数,为子带i在时刻的离散输入映射参数,为子带i在时刻-1的隐状态向量,为子带i在时刻的分量序列,为子带i在时刻的基准预测值,为子带i在时刻的时变映射参数,为子带i输入直通项。

26、进一步的,所述子带i在时刻的离散状态转移参数和离散输入映射参数如下:

27、

28、上式中,为子带i在时刻的基础状态转移矩阵,为子带i在时刻的连续状态空间中的时变输入映射参数,为子带i在时刻的离散化步长参数,为离散化处理函数。

29、进一步的,所述子带i在时刻的连续状态空间中的时变输入映射参数和子带i在时刻的时变映射参数如下:

30、

31、上式中,为时刻的门控生成函数,为输入映射生成函数,为输出映射生成函数,其中,所述时刻的门控生成函数如下:

32、

33、所述输入映射生成函数和输出映射生成函数如下:

34、,

35、上式中,为非线性激活函数,为门控权重,为门控偏置,为由当前输入、当前输入的局部上下文特征以及动态分配权重拼接构成的综合特征向量,为第一投影矩阵,为第一偏置项,为第二投影矩阵,为第二偏置项。

36、进一步的,所述子带i在时刻的离散化步长参数如下:

37、

38、上式中,为激活函数,为权重矩阵,为第三偏置项,为子带i对应的第一正值调节系数,为子带i对应的第二正值调节系数,为子带i在时刻的训练域动态权重,为子带i在时刻的推理域动态权重。

39、进一步的,所述基于各子带分量序列训练域动态权重和推理域动态权重对各子带在预测区间内的基准预测序列进行修正,得到修正后的各子带在预测区间内的基准预测序列之前,包括:

40、若子带i在时刻的推理域动态权重与训练域动态权重之差大于等于1,则将子带i划分为高频瞬态子带,否则,将子带i划分为低频稳态子带。

41、进一步的,对于低频稳态子带,按下式确定子带m在时刻的增益补偿系数:

42、

43、上式中,为子带m在时刻的增益补偿系数,为校准系数安全下限,为校准系数安全上限,为子带m的线性映射权重,为子带m在时刻的稳态规模类特征输入,为子带m的线性映射偏置,为子带m在时刻的补偿训练域动态权重,为子带m在时刻的补偿推理域动态权重;

44、将子带m在时刻的基准预测值修正为。

45、进一步的,对于高频瞬态子带,按下式确定子带m在时刻的偏移补偿项:

46、

47、上式中,为带m在时刻的偏移补偿项,、、分别为流量冲击类特征、并发压力特征、通信脉冲特征对应的可学习线性映射权重,为子带m在时刻对应的流量冲击类特征,为子带m在时刻对应的并发压力特征,为子带m在时刻对应的通信脉冲特征,为第三偏置项;

48、将子带m在时刻的基准预测值修正为。

49、进一步的,所述子带m在时刻的补偿训练域动态权重和补偿推理域动态权重的获取过程包括:

50、基于子带分量序列与各补偿任务元特征之间的归一化互信息确定子带分量序列补偿训练域动态权重和补偿推理域动态权重。

51、进一步的,所述补偿任务元特征包括:流量冲击类特征、并发压力特征、通信脉冲特征、资源切换类特征。

52、进一步的,所述流量冲击类特征包括:活跃参数规模、gpu 分配数量、显存占用量、训练实例数量;所述并发压力特征包括:请求到达率、请求到达率变化量、排队长度、排队长度突增量;所述通信脉冲特征包括:梯度同步标志、模型加载事件、管道切换事件、通信带宽突增量;所述资源切换类特征包括:负荷突变事件类型。

53、第二方面,提供一种基于任务元特征调制的智算中心负荷预测装置,所述基于任务元特征调制的智算中心负荷预测装置包括:

54、分解模块,用于采用自适应小波包分解方法对智算中心总负荷序列进行多层次分解,得到多个子带分量序列;

55、确定模块,用于基于子带分量序列与各任务元特征之间的归一化互信息确定子带分量序列训练域动态权重和推理域动态权重;

56、构建模块,用于基于子带分量序列及其对应的训练域动态权重和推理域动态权重构建用于对子带在预测区间内进行基准预测的状态空间模型;

57、预测模块,用于利用所述状态空间模型对各子带在预测区间内进行基准预测,得到各子带在预测区间内的基准预测序列;

58、修正模块,用于基于各子带分量序列训练域动态权重和推理域动态权重对各子带在预测区间内的基准预测序列进行修正,得到修正后的各子带在预测区间内的基准预测序列;

59、分析模块,用于对所述修正后的各子带在预测区间内的基准预测序列进行小波逆变换,将各子带在预测区间内的基准预测序列重构为时域负荷预测结果。

60、第三方面,提供一种计算机设备,包括:一个或多个处理器;

61、所述处理器,用于存储一个或多个程序;

62、当所述一个或多个程序被所述一个或多个处理器执行时,实现所述的基于任务元特征调制的智算中心负荷预测方法。

63、第四方面,提供一种计算机可读存储介质,其上存有计算机程序,所述计算机程序被执行时,实现所述的基于任务元特征调制的智算中心负荷预测方法。

64、本发明上述一个或多个技术方案,至少具有如下一种或多种有益效果:

65、本发明提供了一种基于任务元特征调制的智算中心负荷预测方法及装置,相比于现有技术具有以下有益效果:首先,通过自适应小波包分解与互信息动态权重生成,有效解耦了训练任务与推理任务在时频域的混叠特征,显著提升了混合负载场景下的预测精度;其次,基于动态分配权重调制的选择性状态空间模型,能够自适应匹配低频稳态与高频瞬态子带的不同时间尺度,增强了模型对任务切换、流量突发等极端工况的鲁棒性;再次,低频增益校准与高频偏移补偿机制赋予预测结果明确的物理可解释性,可为调度决策提供任务层面的归因分析;最后,实验验证表明,本发明在不同预测步长下均取得优于现有主流方法的精度与稳定性,具备良好的工程适用与推广价值。