一种基于iTOC优化StormFormer与领域对抗协同迁移学习的风电功率预测方法及系统

摘要: 本发明具体涉及一种基于itoc优化stormformer与领域对抗协同迁移学习的风电功率预测方法及系统。背景技术:1、风电作为清洁低碳的可再生能源,在促进能源结...
一种基于iTOC优化StormFormer与领域对抗协同迁移学习的风电功率预测方法及系统

本发明具体涉及一种基于itoc优化stormformer与领域对抗协同迁移学习的风电功率预测方法及系统。

背景技术:

1、风电作为清洁低碳的可再生能源,在促进能源结构转型中发挥着重要作用。然而,风电出力具有显著的随机性、波动性和间歇性,大规模风电并网对电力系统的安全稳定运行带来了巨大挑战。准确的风电功率预测是电网制定调度计划、平衡供需关系、提升新能源消纳能力的关键前提,也是降低系统备用容量和运行成本的有效手段。因此,开展高精度的风电功率预测研究具有重要的理论价值和工程应用意义。

2、目前,风电功率预测算法主要可分为统计学方法、机器学习方法和深度学习方法三大类。统计学方法以传统时间序列分析为基础,如自回归移动平均模型等,其优点是结构清晰、可解释性强,但其本质偏向于线性建模,难以有效刻画风电功率序列中复杂的非线性、非平稳性和多因素耦合特性,预测精度在面对强波动场景时显著不足。机器学习方法,如支持向量机、随机森林和梯度提升树等,通过非线性映射能力在一定程度上提升了预测精度。然而,这类方法通常依赖于人工特征工程和复杂的预处理流程,如信号分解,对参数调优敏感,且在数据分布发生显著变化时,模型的泛化能力和稳定性会明显下降。深度学习方法,特别是基于循环神经网络(rnn)、长短期记忆网络(lstm)、时间卷积网络(tcn)和transformer架构的模型,凭借其强大的自动特征提取和非线性建模能力,已成为当前风电功率预测研究的主流方向。它们能够有效捕捉时序数据中的长程依赖关系和复杂模式。然而,现有深度模型仍存在以下技术问题:

3、特征提取能力不均衡:部分模型侧重于全局依赖关系,而对局部瞬态波动和短时变化不敏感;另一些模型则擅长局部特征提取,但难以刻画多变量间的复杂耦合和长期趋势,导致预测精度受限。

4、超参数调优困难:深度学习模型结构复杂,超参数众多,如学习率、网络层数、卷积核大小、注意力头数等,且相互之间存在强耦合关系。传统的人工调参或网格搜索方法效率低下,难以保证获得全局最优配置,限制了模型性能的充分发挥。

5、跨场景泛化能力不足:不同风电场之间由于地理气候、机组特性等差异,数据分布存在明显偏移。现有模型在源域训练后,直接应用于新的目标风场时,性能往往大幅下降。传统的迁移学习方法虽能缓解该问题,但缺乏对域间分布差异的显式约束,容易引发“负迁移”,导致预测不稳定。

6、针对上述问题,已有研究尝试引入智能优化算法进行超参数搜索,并引入对抗训练等策略进行域适应,但在高维耦合空间、强噪声扰动和复杂非线性场景下,仍普遍存在收敛速度、稳定性和泛化能力不足的问题,在复杂高维空间中的收敛速度和精度仍有待提升,且域适应策略在面对较大分布偏移时,对齐效果和鲁棒性依然不足。

7、因此,亟需一种能够同时实现高精度单场景预测和强鲁棒性跨场景迁移的风电功率预测方法。

技术实现思路

1、为解决上述背景技术中提及的问题;本发明的目的在于提供一种基于itoc优化stormformer与领域对抗协同迁移学习的风电功率预测方法,包括以下步骤:

2、s1、获取原始风电时序数据并进行预处理与多维度特征增强,构造训练样本源域数据集与目标域数据集;

3、s2、构建stormformer预测模型,所述模型包括依次连接的tcn局部时序提取模块、itransformer全局耦合建模模块、多头稀疏注意力筛选模块、回归输出模块;

4、s3、采用改进型龙卷风优化算法itoc对stormformer全部耦合超参数进行全局自动寻优,输出最优超参数组合,并根据所述最优超参数组合在源域数据上训练所述stormformer模型,得到预训练模型;其中,所述改进型龙卷风优化算法引入自适应权重机制、多分支扰动机制、精英引导机制以及边界约束与精英保留机制;

5、s4、基于领域对抗协同迁移学习框架将所述预训练模型迁移至目标域,在源域训练和目标域微调训练的基础上,融合领域对抗训练、最大均值差异分布对齐和一致性正则化三种策略进行协同优化,获得目标域预测模型;

6、s5、根据所述目标域预测模型对目标风电场的未来功率进行预测并输出风电功率预测结果。

7、优选的,所述itransformer模块将输入数据维度进行反转,以气象变量作为token建模多变量耦合关系,每个变量对应完整的时间序列信息,利用多头自注意力机制建模不同变量之间的全局耦合关系和长距离依赖关系,输出包含跨变量语义关联的高层表示;

8、所述tcn局部时序提取模块通过因果卷积和空洞卷积提取局部时序动态模式和多尺度时序结构特征,其中空洞卷积的膨胀率随网络层数增加而逐层递增;每个tcn残差块由两层“因果空洞卷积-批归一化-dropout-relu激活函数”组成,并通过多层残差块堆叠后输出高维时序特征;

9、所述多头稀疏注意力模块通过线性映射得到获取到特征的查询矩阵、键矩阵和值矩阵,计算每个查询位置与所有键位置之间的缩放点积注意力得分,根据注意力得分大小,对每个查询位置仅保留得分最高的top-k个键位置,生成稀疏掩码矩阵;基于所述稀疏掩码矩阵计算稀疏注意力得分,并经softmax归一化后得到注意力输出;

10、所述回归输出模块通过全局平均池化和全连接回归头输出最终预测值。

11、优选的,所述改进型龙卷风优化算法itoc的自适应权重机制中权重采用线性递减形式定义为:

12、

13、式中,表示最大迭代次数,与分别表示权重上限和下限,权重引入速度更新后,可得:

14、

15、其中,表示迭代时个体速度,表示位置,表示当前全局最优解,表示随机个体,和表示学习因子,与为区间[0,1]内的随机数。

16、优选的,所述改进型龙卷风优化算法itoc的多分支扰动机制中加入随机扰动项的更新形式定义为:

17、

18、其中,表示随机数,表示扰动强度,表示标准高斯扰动。

19、优选的,所述改进型龙卷风优化算法itoc的精英引导机制中精英引导项定义为:

20、

21、其中,表示引导系数,用于控制个体朝向最优解移动的强度。

22、优选的,所述改进型龙卷风优化算法itoc的边界约束与精英保留机制中对于更新后的参数向量,采用边界修正策略进行限定使其位于预定义可行域内:

23、

24、式中,和分别表示各超参数维度的下界与上界;并对当前最优个体进行保存与更新,若新解在适应度上优于当前全局最优解,则用新解替换原最优解,否则保留原解:

25、。

26、优选的,所述领域对抗协同迁移学习框架中:

27、所述源域预训练为利用源域数据对所述stormformer模型进行训练,保存模型参数作为预训练权重;其中,源域训练的损失函数定义为:

28、;式中,表示源域输入样本,表示对应的功率标签,表示模型参数的预测网络,表示回归损失函数;

29、所述目标域微调训练为加载所述预训练权重作为目标域模型的初始化参数,利用目标域标注数据进行监督微调;其中,目标域微调损失函数定义为:

30、

31、式中,表示目标域输入样本,表示对应的功率标签;

32、所述领域对抗训练dann以学习域不变特征。设特征提取器为,回归器为,领域分类器为;对于输入样本,其特征表示为:;功率预测结果为:;领域分类结果为:;其中,表示梯度反转层;通过在特征提取器后设置领域分类器并引入梯度反转层,使特征提取器学习得到无法区分源域和目标域的域不变特征;其中,领域对抗损失可定义为:

33、

34、式中,表示域标签,源域记为0,目标域记为1。整体优化目标可表示为:

35、所述最大均值差异分布对齐mmd为计算并最小化源域特征分布和目标域特征分布在再生核希尔伯特空间中的均值距离;其中,令源域和目标域的特征分别为和,则mmd损失定义为:

36、

37、式中,表示核映射函数,表示再生核希尔伯特空间;

38、所述一致性正则化为对目标域样本施加噪声扰动并约束模型对原始样本与增强样本的输出保持一致;其中,令目标域输入样本为,其增强后的样本为;一致性损失定义为: (47)

39、式中,表示停止梯度传播。

40、优选的,所述领域对抗协同迁移学习框架的跨场景迁移学习总目标函数为:

41、

42、式中,和分别表示控制监督损失、领域对抗损失、分布对齐损失和一致性损失的权重。

43、本发明还提供一种基于itoc优化stormformer与领域对抗协同迁移学习的风电功率预测系统,包括:

44、数据获取与预处理模块,用于获取原始风电时序数据并进行预处理与多维度特征增强,构造训练样本集

45、stormformer模型构建模块,用于构建包含tcn局部时序提取模块、itransformer全局耦合建模模块、多头稀疏注意力筛选模块、回归输出模块的stormformer预测模型;

46、超参数自动寻优模块,内置改进型龙卷风优化算法引擎,用于对所述stormformer模型的关键超参数进行全局寻优,获得最优超参数组合,并利用源域数据训练得到预训练模型;所述改进型龙卷风优化算法引擎包含自适应权重更新单元、多分支扰动单元、精英引导单元以及边界约束与精英保留单元;

47、跨场景迁移学习模块,内置领域对抗协同迁移学习框架,用于将所述预训练模型迁移至目标域,通过监督微调、领域对抗训练、最大均值差异分布对齐和一致性正则化的联合优化,获得目标域预测模型;

48、预测与输出模块,用于根据所述目标域预测模型对目标风电场的未来功率进行预测并输出预测结果。

49、优选的,所述跨场景迁移学习模块包括:

50、源域预训练单元,用于利用所述最优超参数组合配置的stormformer模型在源域数据上进行训练并保存预训练参数;

51、目标域训练单元,用于加载所述预训练参数作为目标域模型的初始化,并利用目标域标注数据进行监督微调;

52、领域对抗训练单元,用于通过梯度反转层和领域判别器进行对抗学习,提取域不变特征;

53、最大均值差异对齐单元,用于计算并最小化源域和目标域特征在再生核希尔伯特空间中的分布距离;

54、一致性正则化单元,用于对目标域样本施加扰动并约束模型对原始样本与增强样本的输出保持一致;

55、联合优化单元,用于构建包含监督损失、领域对抗损失、最大均值差异损失和一致性损失的加权和作为跨场景迁移学习总目标函数,进行协同优化训练。

56、与现有技术相比,本发明的有益效果为:

57、一、本发明提出的stormformer预测模型,通过tcn、itransformer和多头稀疏注意力机制的有机协同,引入tcn增强局部时序模式提取能力,提高对短时波动和爬坡变化的响应速度;引入itransformer建模变量间的全局耦合关系,强化长距离依赖表征;结合multi-head sparse attention筛选关键时序信息,减少冗余干扰;采用端到端回归头完成最终预测,能够同时有效捕捉风电功率序列中的局部动态特征、多变量全局耦合关系和关键时序依赖,实现了对复杂非线性风电功率变化规律的高精度拟合,提升整体建模效率与稳定性。

58、二、本发明提出的改进型龙卷风优化算法itoc,通过引入自适应权重机制、多分支扰动机制、精英引导机制以及边界约束与精英保留机制,有效克服了原始算法在复杂高维空间中易陷入局部最优、收敛速度慢和稳定性差的问题,能够高效、准确地自动寻优stormformer模型的关键超参数,显著提升了模型的训练效率和最终性能。

59、三、本发明提出的领域对抗协同迁移学习框架dactf,融合领域对抗训练、最大均值差异分布对齐和一致性正则化三种策略进行协同优化,系统地缩减了源域与目标域之间的数据分布差异。该框架有效抑制了负迁移风险,使得预训练模型能够在小样本、强噪声和分布偏移显著的目标风场中快速、稳定地适应。

60、四、领域对抗协同迁移学习框架dactf所学习的域不变特征具有跨领域的通用性,该框架并不要求源域与目标域具有相同的物理含义或数据分布,而是从“数据生成机制”层面学习不同域之间共有的时序演化规律。这使得当目标域切换为其他时,模型仍然能够有效迁移所学的时序知识;一致性正则化有效提升了模型在不同数据分布下的鲁棒性和适应性,使其能够快速适应新场景,本发明的方法和系统具有广泛的适用性。