一种基于解耦时空原型网络的多变量时间序列异常检测方法
本发明属于时间序列异常检测领域,涉及一种基于解耦时空原型网络的多变量时间序列异常检测方法。
背景技术:
1、随着物联网和现代工业系统的快速发展,大规模传感器网络已广泛应用于关键基础设施中,持续产生高维、多源、高度相关的多变量时间序列数据。在水处理厂、电力系统和航空航天监控等场景中,系统异常可能导致严重的经济损失甚至灾难性后果。因此,多变量时间序列异常检测已成为保障复杂工业系统安全可靠运行的基础研究问题。
2、在实际应用中,异常检测面临重大挑战。一方面,异常事件在实践中极少发生,导致训练阶段异常样本稀缺甚至完全缺失。另一方面,异常模式具有高度不确定性:异常可能表现为突发逐点偏差、逐渐演化的时间漂移或变量间依赖结构的异常变化。在此情况下,大多数现有研究将多变量时间序列异常检测构建为无监督学习问题,即模型仅在正常数据上训练以学习正常系统行为,并识别偏离正常行为的样本。
3、在各类方法中,基于重建的异常检测方法因其无需标签、建模灵活和可扩展性强而被广泛采用。然而,基于重建的方法普遍存在过度泛化问题。具体而言,强大的神经网络可能对正常和异常样本均能实现良好重建,导致即使对异常输入也产生较低的重建误差,从而削弱了异常判别能力。
4、为缓解该问题,近期研究引入了记忆机制或原型学习策略,将重建空间限制在一组有限的代表性正常模式上,从而提高对未见异常的鲁棒性。然而,现有的记忆引导方法在处理复杂时空异常时仍存在显著局限:
5、第一,现有的记忆引导重建方法依赖于逐点记忆建模,忽略了局部时间上下文信息。在实际物理系统中,异常通常作为连续演化过程而非孤立的逐点偏差出现,使得区间级异常难以被检测。
6、第二,现有方法没有显式建模或记忆变量间依赖模式,变量关系要么被忽略,要么被隐式聚合到潜在表示中。在工业系统中,变量之间通常存在稳定的物理耦合或因果关系,当这种交互模式被违反时,系统可能已进入异常状态,即使单个变量值仍在正常范围内。然而,专注于值级重建而缺乏显式结构约束或变量间依赖记忆的重建模型,往往对此类结构异常不敏感。
技术实现思路
1、本发明的目的在于提供一种基于解耦时空原型网络的多变量时间序列异常检测方法,能够分别建模时间演化模式和变量交互模式,引入时空双原型约束有效缓解重建方法的过度泛化问题,从而准确检测区间级异常和结构失配异常。
2、为实现上述目的,本发明的技术方案是:一种基于解耦时空原型网络的多变量时间序列异常检测方法,包括:
3、步骤s1、获取工业系统传感器采集的多变量时间序列数据,并将多变量时间序列数据分割为多个不重叠的滑动窗口,作为输入样本;
4、步骤s2、将输入样本输入时间原型分支,通过补丁化机制将输入样本划分为不重叠的补丁,经transformer编码器编码后与时间原型记忆池进行交互,获得时间维度的重建结果;
5、步骤s3、将输入样本输入空间原型分支,通过动态图构建方法学习变量间依赖关系,经图卷积网络编码后与空间原型记忆池进行交互,获得空间维度的重建结果;
6、步骤s4、通过自适应融合机制将时间原型分支和空间原型分支的重建结果进行融合,得到输入样本的最终重建输出;
7、步骤s5、基于输入样本的重建偏差、时间原型偏差和空间原型偏差计算输入样本的最终异常评分;
8、步骤s6、将最终异常评分与预设阈值进行比较,判定输入样本对应时间步的异常状态。
9、进一步的,步骤s2中时间原型分支的具体实现过程为:
10、步骤s201:补丁嵌入;给定第个输入窗口,将其分割为个不重叠的补丁并展平,得到;通过两层线性层将投影到潜在空间,得到:
11、添加可学习的位置嵌入,得到补丁嵌入表示:
12、
13、其中表示实数空间,为窗口长度,为变量数,为补丁长度,为补丁数量,为模型的隐藏维度,权重,偏置,权重,偏置,为中间隐藏维度;表示层归一化,用于对特征进行标准化处理,为非线性激活函数;
14、步骤s202、时间编码:将嵌入后的补丁输入transformer编码器,产生上下文查询序列:
15、
16、其中;
17、步骤s203、时间原型记忆更新:维护一个可学习的时间原型记忆池,其中每个记忆项代表一个时间原型,为时间原型记忆池的时间原型数量;对每个记忆项和查询序列中的每个查询,计算查询条件记忆注意力:
18、
19、生成聚合更新候选:
20、
21、可学习门控机制控制更新比例:
22、
23、记忆项更新为:
24、
25、其中为门控值,取值范围为(0,1),为sigmoid函数,和为可学习的权重矩阵,表示逐元素乘法(hadamard积),为温度参数;
26、步骤s204、查询重建:记忆更新后,每个查询对记忆池进行注意力计算,记忆条件查询注意力为:
27、
28、重建特征为:
29、
30、原始查询与基于原型的重建特征拼接为,得到融合特征;其中表示内积运算,表示向量拼接操作;
31、步骤s205、解码:将融合特征输入轻量级mlp解码器,产生该分支的重建输出:
32、随后,为恢复时间序列的原始时间分辨率,每个补丁级重建沿时间维度均匀展开,补丁长度记为,该分支的最终重建输出为,其中。
33、进一步的,步骤s3中空间原型分支的具体实现过程为:
34、步骤s301:动态图构建;对每个输入窗口,将变量视为图节点,通过可学习的投影矩阵和将节点特征分别映射为查询嵌入和键嵌入:
35、
36、其中为变量数,为窗口长度,为第个输入窗口,r表示实数空间;,为查询嵌入矩阵,为键嵌入矩阵,二者每行分别对应一个变量在潜在空间中的查询表示和键表示,用于后续计算变量间的相似度分别为查询投影矩阵和键投影矩阵,二者均为可学习参数,作用是将变量在原始时间域的观测特征变换到图嵌入空间,使模型能够自适应地学习变量间依赖关系;为图节点嵌入维度,控制变量间关系建模的表达能力;通过缩放点积相似度计算稠密邻接矩阵:
37、
38、其中为稠密邻接矩阵,其第(i,j)个元素表示变量i与变量j之间的连接强度;为缩放因子,用于防止点积值过大导致梯度消失;为减少噪声和计算开销,仅保留每个节点的top-k个最强连接,得到稀疏图a,其中k为每个节点保留的最强连接数;
39、步骤s302、图卷积编码:将学习到的稀疏图输入多层gcn(图卷积网络),通过消息传递机制聚合邻居节点信息:
40、
41、其中为添加自环的邻接矩阵,为单位矩阵,添加自环使每个节点在聚合邻居信息时保留自身特征;为对应的度矩阵,为对角矩阵,其对角元素为各行元素之和,用于对邻接矩阵进行对称归一化,防止节点度数差异导致的信息淹没;为第l层gcn的可学习权重矩阵,用于将节点特征从一层变换到下一层;为gcn层索引;初始节点特征,即输入窗口的转置;为激活函数,此处采用relu;k为gcn层数,控制每个节点能够聚合信息的邻居层级深度,层数越多每个节点感知的范围越广;经过k层gcn编码后,节点表示聚合了其top-k邻居节点的信息,捕获丰富的结构上下文信息;的转置重命名为查询表示;
42、步骤s303、空间原型记忆更新:定义空间原型记忆池,为空间原型记忆池的时间原型数量;采用与时间原型分支相同的门控增量更新策略,对每个记忆项和查询表示中每个空间查询特征计算查询条件记忆注意力:
43、
44、可学习门控控制更新比例:
45、
46、其中和为可学习权重矩阵,分别作用于当前记忆项和聚合查询特征;
47、空间记忆项更新为:
48、
49、步骤s304、查询重建:计算记忆条件查询注意力:
50、
51、其中为温度参数;
52、获得重建特征:
53、
54、将原始空间查询与重建特征拼接:,得到融合特征;
55、步骤s305:解码;将融合特征输入轻量级解码器,产生空间重建输出:
56、
57、其中decoder表示解码器,用于将潜在特征映射回原始数据空间,为空间分支的重建结果;
58、进一步的,步骤s4中自适应融合的具体实现为:
59、最终重建输出通过自适应融合时间原型分支和空间原型分支的重建结果获得:
60、
61、其中是通过sigmoid函数生成的可学习融合权重,和分别为时间原型分支和空间原型分支的重建输出。
62、进一步的,步骤s5中异常评分的计算过程为:
63、步骤s501、计算重建偏差;对第s个输入窗口及其重建输出,计算逐点重建误差:
64、
65、其中为窗口长度;
66、步骤s502、计算时间原型偏差;将时间原型分支编码器输出的补丁级表示分配到其覆盖的所有时间步;设为时间步所属补丁的索引,为对应的补丁级表示,时间原型偏差定义为与其在时间记忆池中最近原型之间的欧氏距离:
67、
68、其中为时间原型记忆池中第j个时间原型;
69、步骤s503、计算空间原型偏差;空间原型分支的图卷积编码器直接产生逐点特征表示,对于窗口中的给定时间步,gcn输出记为,空间原型偏差定义为与其在空间记忆池中最近原型之间的欧氏距离:
70、
71、其中为空间原型记忆池中第j个空间原型;
72、步骤s504、融合与调制:将潜在偏差融合并归一化后用于调制重建偏差,得到最终异常评分:
73、
74、其中用于控制空间原型偏差的贡献权重。
75、进一步的,模型训练采用复合目标函数,包括重建损失和熵正则化损失:
76、重建损失定义为输入时间序列与最终融合输出之间的frobenius范数:
77、
78、为第s个输入窗口,为对应的重建输出;
79、熵损失和分别对时间原型分支和空间原型分支的记忆相似权重施加正则化:
80、
81、
82、其中为窗口长度,为补丁数量,为时间原型分支的记忆条件查询注意力,为空间原型分支的记忆条件查询注意力;和分别为时间原型记忆池和空间原型记忆池的时间原型数量;
83、总目标函数为:
84、
85、其中和为平衡熵正则化贡献的权重参数。
86、进一步的,采用两阶段训练策略:
87、第一阶段:随机初始化记忆项,训练整个网络一轮,使编码器学习时间和结构表示,收集时间原型分支的编码器输出和空间原型分支的编码器输出;
88、第二阶段:对训练集中提取的编码器输出分别进行k-means聚类,聚类数目设为记忆原型数量和,将聚类中心直接赋值给时间记忆矩阵和空间记忆矩阵作为初始值,然后继续训练。
89、进一步的,步骤s301中,top-k的k值为c的固定比例,且计算稠密邻接矩阵时的维度小于l。
90、本发明还提供了一种非易失性计算机可读存储介质,其上存储有计算机程序,所述计算机程序被工业监测服务器、工业边缘计算节点或工业现场控制设备的处理器执行时,实现如上述所述的一种基于解耦时空原型网络的多变量时间序列异常检测方法。
91、本发明还提供了一种计算机程序产品,包含计算机程序,所述计算机程序被处理器执行时,实现如上述所述的一种基于解耦时空原型网络的多变量时间序列异常检测方法。
92、为验证本发明方法的有效性,在msl、smap、swat三个公开基准数据集上进行实验评估。采用精确率(precision)、召回率(recall)和f1分数(f1-score)作为评价指标,其定义如下:
93、
94、
95、
96、其中tp为真阳性数,即被正确检测为异常的异常样本数;fp为假阳性数,即被错误检测为异常的正常样本数;fn为假阴性数,即被错误检测为正常的异常样本数;精确率反映模型检测为异常的样本中真正为异常的比例,衡量模型避免误报的能力;召回率反映实际异常样本中被模型正确检测出的比例,衡量模型避免漏检的能力;f1分数为精确率和召回率的调和平均,综合衡量模型的异常检测性能,f1分数越高表示模型在精确率和召回率之间取得了越好的平衡。
97、相较于现有技术,本发明具有以下有益效果:
98、(1)通过并行双分支架构解耦时间演化建模和变量交互建模,引入时空双原型约束有效缓解了重建方法中普遍存在的过度泛化问题;
99、(2)基于补丁的时间原型学习机制从正常数据中捕获区间级时间模式,有效克服了逐点记忆建模在检测区间级异常方面的局限性;
100、(3)基于动态图卷积的空间原型分支在潜在空间中显式学习和记忆变量间交互模式,增强了模型检测由变量间依赖失配引起的结构异常的能力;
101、(4)在多个真实工业基准数据集上的实验结果表明(见表1),本发明方法在msl、smap和swat数据集上均取得了最高的f1分数,分别达到95.89%、96.75%和96.63%,优于现有代表性异常检测方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com