一种基于特征交互时序生成对抗网络的时序数据增强方法

摘要: 本发明属于数据增强与深度学习,涉及一种基于特征交互时序生成对抗网络的时序数据增强方法。背景技术:1、时序数据广泛存在于工业过程监控、金融交易分析、医疗健康监测、...
一种基于特征交互时序生成对抗网络的时序数据增强方法

本发明属于数据增强与深度学习,涉及一种基于特征交互时序生成对抗网络的时序数据增强方法。

背景技术:

1、时序数据广泛存在于工业过程监控、金融交易分析、医疗健康监测、气象预测等众多领域。在这些应用中,利用深度学习模型对时序数据进行分类或预测是常见的技术路径。然而,该类方法在实际应用中面临一个普遍且棘手的问题:数据集中的类别分布往往极不均衡。例如,在工业设备故障诊断中,正常运行状态的样本数量远多于故障状态样本;在金融欺诈检测中,正常交易数据远多于欺诈交易数据。这种类别不平衡问题会导致训练出的分类模型严重偏向多数类,对少数类的识别或预测性能极低,难以满足实际应用对高可靠性的需求。此外,真实采集的时序数据易受传感器噪声、通信丢包、环境干扰等因素影响,存在数据缺失与噪声污染问题,进一步加剧了数据质量的短板。

2、为缓解数据不平衡问题,现有技术中提出了多种数据增强方法。传统的数据增强方法,如合成少数类过采样技术和随机过采样,通过在特征空间中进行插值或简单复制的方式来生成新样本。这类方法计算简单,但存在明显缺陷:其一,它们仅能在原始数据的局部特征空间内做简单变换,生成样本的多样性有限,难以贴合复杂时序数据的真实分布;其二,这些方法破坏了时序数据固有的帧间依赖关系与特征间的物理约束,导致生成样本的时序逻辑不合理。

3、近年来,基于深度学习的数据增强方法,尤其是生成对抗网络得到了广泛关注。例如,timegan模型通过将无监督的对抗训练与有监督的自回归学习相结合,试图捕捉时序数据的动态规律。然而,现有此类方法存在特征间静态与动态相关性捕捉能力不足的缺陷。timegan等模型虽能模拟单特征的时序趋势,但未能充分建模多变量时序数据中不同特征之间固有的复杂交互关系。在许多实际场景中,不同维度的特征之间存在明确的物理或逻辑约束。例如,在某个过程中,温度与压力常呈现正相关,速度与加速度存在导数关系。现有模型无法保证生成数据中特征间的相关性矩阵与真实数据一致,导致生成样本违反领域知识,缺乏合理性。

4、针对上述问题,亟需一种能够精准捕捉多变量时序数据中特征间静态与动态相关性,并生成高保真、高多样性合成样本的数据增强方法,以有效解决数据类别不平衡问题,为各类时序分析任务提供均衡、优质的训练数据支撑。

技术实现思路

1、针对现有技术存在的缺陷,本发明的目的在于提供一种基于特征交互时序生成对抗网络(fit-gan)的时序数据增强方法,通过建模多变量时序数据中特征间的相关性,生成符合原始数据物理或逻辑规律的高质量合成样本,从根本上解决因类别不平衡导致的模型性能偏倚问题。

2、为了达到上述目的,本发明的技术方案如下:

3、一种基于特征交互时序生成对抗网络的时序数据增强方法,所述方法在条件时序生成对抗网络框架基础上,融入了显式特征交互机制与关联感知损失函数,其模型结构由嵌入器、恢复器、生成器和判别器四大核心模块构成;所述方法包括以下步骤:

4、步骤1,获取原始多变量时序数据集,所述数据集中的每个样本包含连续的多个时间帧,每帧数据包含多个维度的时序特征以及对应的类别标签;

5、步骤2,构建特征交互时序生成对抗网络,具体包括:

6、步骤2.1,构建嵌入器,用于将高维原始时序数据及静态条件变量映射至低维潜空间;所述嵌入器在时序数据嵌入前首先通过多头注意力机制层计算各特征间的相关性权重,生成相关性加权时序特征,再将其与原始输入进行残差连接后输入双向长短期记忆网络,以生成保留特征间静态相关性的时序潜变量序列;

7、步骤2.2,构建恢复器,用于将所述嵌入器生成的真实潜变量序列或所述生成器生成的伪潜变量序列映射回原始高维数据空间,实现潜空间与原始空间的可逆映射;

8、步骤2.3,构建生成器,用于从随机噪声分布中生成与真实潜变量序列分布一致的伪潜变量序列;所述生成器以长短期记忆网络为核心时序生成单元,并引入多头注意力机制对生成的初始伪潜变量进行相关性计算,以确保生成隐变量的特征关联与真实数据一致;

9、步骤2.4,构建判别器,用于同时从全局序列与局部时间步两个维度区分真实潜变量序列与伪潜变量序列,并通过最小最大博弈驱动所述生成器优化;

10、步骤3,构建联合损失函数对所述特征交互时序生成对抗网络进行多目标联合优化训练;所述联合损失函数包括:

11、重建损失,用于约束所述嵌入器与所述恢复器,确保潜空间能够完整保留原始数据的时序信息与特征相关性信息;

12、监督损失,用于强制所述生成器学习真实时序数据的跨时间步依赖关系;

13、对抗损失,用于实现所述生成器与所述判别器之间的最小最大博弈,推动生成数据分布逼近真实数据分布;

14、相关性约束损失,用于显式对齐真实数据与生成数据的特征相关性分布;

15、步骤4,将训练好的所述生成器用于生成与原始数据分布一致且特征关联合理的目标少数类时序样本,并将生成的样本补充至原始数据集中,形成类别均衡的增强训练数据集。

16、优选的,步骤2.1中所述嵌入器的建模过程具体包括:

17、静态条件嵌入:将类别标签通过非线性映射得到静态潜变量;

18、(1)

19、时序数据嵌入:将经过所述多头注意力机制处理后的时序特征序列输入双向长短期记忆网络,结合所述静态潜变量与前一步潜状态,逐时间步生成时序潜变量。

20、 (2)

21、 (3)

22、(4)

23、(5)

24、(6)

25、(7)

26、优选的,步骤2.3中所述生成器的建模过程具体包括:

27、静态伪潜变量生成:将静态随机噪声通过非线性映射生成与真实静态潜变量同分布的静态伪潜变量;

28、(8)

29、时序伪潜变量生成:将随机噪声序列输入长短期记忆网络,结合所述静态伪潜变量与前一步伪潜状态,逐时间步生成初始时序伪潜变量,再通过多头注意力机制进行相关性计算,得到最终的时序伪潜变量序列。

30、(9)

31、(10)

32、优选的,步骤3中所述重建损失的计算公式为:

33、(11)

34、(12)

35、其中,和分别表示真实数据与生成数据的特征相关性矩阵,kl散度用于约束相关性分布的整体一致性,均方误差用于约束相关性数值的逐元素相似度。

36、优选的,步骤3中所述监督损失的计算公式为:

37、(13)

38、其中为生成器的时序生成函数,输入为静态潜变量、前一步潜变量和随机噪声,输出为生成的第t步伪时序潜变量。。

39、(14)

40、优选的,步骤3中所述对抗损失的计算公式为:

41、(15)

42、优选的,步骤3中所述相关性约束损失的计算公式为:

43、(16)

44、其中,kl散度用于约束相关性分布的整体一致性,均方误差用于约束相关性数值的逐元素相似度。

45、与现有技术方案相比,本发明的有益效果在于:

46、1.精准捕捉特征间相关性:本发明通过在嵌入器与生成器中引入显式的特征交互层,并设计专门的相关性约束损失函数,使得模型能够精准学习并复现真实多变量时序数据中各特征间的静态相关性与动态时序依赖关系,生成的合成样本在特征相关性矩阵上与原始数据高度一致,具有充分的物理或逻辑合理性。

47、2.生成数据质量高:本发明通过联合优化重建损失、监督损失、对抗损失及相关性约束损失,保证了生成数据在单特征时序趋势、多特征关联模式及全局概率分布上均与真实时序数据高度贴合。

48、3.提升下游模型性能与鲁棒性:采用本发明生成的均衡数据集训练各种主流的时序分类或预测模型,均可稳定、显著地提升模型的识别精度、召回率及f1分数,并增强了模型在不同训练配置下的稳定性与泛化能力,为各类高可靠的时序分析任务提供了高质量的数据基础。