基于多粒度特征增强与分解记忆的无监督时序异常检测方法
本发明涉及人工智能与数据处理,特别是涉及一种基于多粒度特征增强与分解记忆的无监督时序异常检测方法。
背景技术:
1、随着物联网、信息物理系统和超大规模云原生架构的广泛部署,各类系统持续产生高维、非平稳和高复杂度的多元时序数据,从这些海量信号中精准识别偏离预期模式的异常,对保障系统的可用性和预防故障发生至关重要。由于实际工程场景中异常事件稀少且获取大规模异常标签成本极高,仅依赖正常时序数据学习样本固有模式的无监督式异常检测方案,是当前时序异常检测领域的主流技术范式。
2、目前,基于重构的深度学习模型凭借对数据分布的强拟合能力占据主导地位。早期的技术包括基于自编码器、循环神经网络(rnn)以及引入对抗训练(gan)的模型,用于实现对正常时序特征的拟合与重构。随着技术发展,基于transformer架构及时序大模型的方案展现出强大的跨域特征映射能力。
3、然而,现有的基于深度学习的无监督时序异常检测技术在实际应用中面临严重的性能瓶颈,具体表现在以下几个方面:
4、模型非线性表征过强导致的过度泛化问题。当前的大模型和复杂神经网络由于参数量庞大、非线性映射能力过强,在缺乏标签惩罚约束的无监督场景下容易产生泛化退化,即模型不仅能重构正常样本,还能利用其强大的表征能力完美重构未知的异常样本和局部噪声,这严重模糊了正常数据与异常数据之间的重构误差边界,导致异常判别失效。为了抑制过度泛化,最接近的现有技术记忆增强自编码器memae引入了记忆网络架构,通过构建离散的正常模式原型记忆库来限制模型的解码重构能力。但该类技术在处理高维、含瞬时噪声的复杂多元时序场景时,依然存在明显不足。
5、特征提取尺度单一,易遗漏隐蔽异常。现有的时序异常检测模型大多采用单一尺度的特征提取模式,无法同时兼顾和捕捉时序数据中局部细粒度的维度关联,以及全局粗粒度的长期演化规律,面对多维时序数据极其复杂的变化特点,这种单一时域建模的局限性导致模型极易遗漏微小异常和隐蔽的结构性异常,检测灵敏度不足。
6、全特征寻址引发的记忆污染与高假阳性率。传统记忆增强网络在寻址机制上存在严重的特征污染漏洞,现有技术通常直接将编码器输出的混合特征作为查询键送入记忆网络,而在抗噪表征中,这类混合特征往往夹杂着大量的传感器瞬时突变噪声与波动干扰,直接利用含噪特征进行寻址,不仅会误导记忆注意力权重的分配,还会在记忆库动态迭代更新的过程中,混入无关噪声污染原有的正常记忆原型。这种由于源头特征未分解隔离而导致的记忆原型趋同与污染,最终会使模型在检测时产生极高的假阳性率,造成记忆表征的失真与退化。
7、回顾该领域的技术演进可知,上述性能瓶颈并非孤立存在,而是无监督深度时序异常检测技术发展中逐步显现的共性问题。多元时序异常检测作为保障智能系统可用性的核心任务,其技术经历了从传统机器学习到深度学习的迭代演进。早期方法主要依赖统计分布与距离度量,例如孤立森林(if)和单类支持向量机(oc-svm)。这类方法虽然原理直观,但面对高维复杂的多元时序数据时容易陷入维度灾难。后续出现的基于集成最小二乘支持向量机(ils-svm)的方法,虽然通过加权融合子模型捕捉了部分隐蔽征兆,但整体依然受限于人工设计的浅层特征。
8、深度学习技术的出现,突破了浅层特征提取的瓶颈。早期的深度异常检测主要基于重构与预测两种思路。例如,dagmm模型有效估计了时序数据的潜在特征分布;lstm-ndt模型利用循环神经网络捕捉时序依赖,通过预测轨迹偏差判定异常;omni anomaly则结合了随机循环神经网络与变分自编码器,提升了对非平稳波动的鲁棒性;usad引入对抗生成训练机制,有效增强了高维数据重构的稳定性。为进一步挖掘多元变量的空间关联,gdn将图注意力网络引入时序异常检测领域;dcdetector则通过双重注意力对比学习增强了特征空间的辨识度。
9、随着transformer架构在序列建模标准的重塑,研究者开始利用其强大的全局依赖建模能力。anomaly transformer(a.t.)模型通过显式计算序列先验关联与实际关联的差异,打破了传统单一依赖重构误差的局限;针对特征分解与多尺度建模,autoformer通过嵌入序列分解模块将序列拆分为趋势项与周期分量;timesnet则将一维序列映射为二维多周期张量进行多尺度协同建模,这些方法有效捕捉了时序数据的演化规律。
10、然而,大容量深度网络在无监督场景下非线性映射能力过强,极易产生过度泛化问题。为抑制该问题,目前与本技术最相似的现有技术是基于记忆网络的异常检测框架。其中,memae首次构建了离散的正常模式原型记忆库,限制了模型解码重构的能力上限;在此基础上,mnad设计了显式记忆更新策略以缓解隐式梯度更新导致的特征模糊问题;memto则将记忆网络与transformer架构相结合,利用动态门控记忆提升感知能力。
11、尽管这些记忆增强架构构成了当前先进的基线方案,但在信号传递与特征构造上,它们通常直接将编码器输出的单一尺度混合特征作为查询键输入记忆网络,这种信号传递方式夹杂了大量传感器噪声与瞬时波动,极易在特征迭代中污染原有的正常原型,从而导致假阳性率过高,造成记忆表征的失真与退化。
12、然而,即便现有的基于记忆增强架构的深度异常检测模型在一定程度上限制了模型的过度重构能力,但在处理高维、包含瞬时噪声的复杂多元时序数据时,其底层架构与特征处理机制仍存在以下三个核心技术缺陷:
13、单一特征空间提取导致异常检测灵敏度受限,易遗漏隐蔽异常。现有技术大多采用单一尺度的特征提取模式,无法同步捕捉时序数据中局部细粒度的维度交互关联与全局粗粒度的长期周期演化规律,由于未能从多粒度对数据进行解构,模型难以全面刻画多元变量之间复杂的物理耦合关系,因此在面对复杂多变的多元时序信号时,极易遗漏微小的局部异常和隐蔽的结构性异常。
14、全量混合特征直接寻址引发严重的记忆原型污染与高假阳性率。传统记忆增强架构在信号传递时缺乏特征筛选与隔离机制,直接将编码器输出的全量混合特征作为查询键输入记忆网络,在真实场景中,多元时序特征往往夹杂着大量的传感器瞬时突变噪声与不可预测的波动干扰,这种未经分解的含噪特征会严重误导记忆网络的注意力权重分配,并在记忆库动态迭代更新的过程中,强制混入无关噪声污染原有的正常模式原型,导致模型对正常时序波动的误报激增,产生极高的假阳性率,造成记忆表征的失真与退化。
15、对称式重构导致正常与异常样本的误差边界模糊,判别性能退化。现有深度模型缺乏对正常数据特征和噪声的显式分解,直接对所有的输入混合特征进行无差别的重构还原,由于大容量神经网络保留了过强的非线性映射能力,使得模型在面对某些未知异常样本时,依然能够利用冗余的干扰信息完成高质量的重构拟合。这极大地缩小了正常样本与异常样本在重构误差上的分布差异,削弱了无监督场景下依据重构误差进行异常判别的可靠性。
技术实现思路
1、为了克服现有技术中单一特征提取遗漏异常、混合特征寻址导致记忆污染,以及重构误差边界模糊等缺陷,本发明提出了一种基于多粒度特征增强与分解记忆的无监督时序异常检测方法。具体技术目的如下:
2、(1)提出跨域多粒度特征增强机制,解决单一特征提取导致的隐蔽异常检出率低的问题。本发明旨在突破单一时域建模的局限,通过引入频域自适应门控挖掘全局周期规律,并结合双仿射注意力机制精准捕捉多维变量间细粒度的局部上下文关联。通过生成信噪比更高、区分能力更强的多尺度特征,全面刻画时序演化规律,从而大幅提升模型对微小异常和复杂结构性异常的检测灵敏度。
3、(2)构建先编码后分解的特征分解机制,解决混合特征寻址引发的记忆污染与高假阳性率问题。本发明旨在对进入记忆网络前的高维混合特征进行显式分解,通过依托时间置换自监督学习策略,将特征强制分解为稳定特征与辅助特征,剥离瞬时噪声与冗余干扰,仅保留反映客观运行规律的预测稳定特征进行后续的记忆去噪寻址,从输入源头阻断噪声对记忆原型的干扰和污染,确保记忆更新的纯净度,显著降低异常检测的假阳性率。
4、(3)建立非对称重构与联合判决架构,解决正常与异常样本误差边界模糊的问题。本发明旨在通过将去噪后的预测稳定特征与分解前的中间输入特征进行残差融合,并采用弱解码器严格约束模型对异常样本的过度拟合能力,同时联合隐空间原型匹配置信度与重构误差构建复合异常评价指标,从而有效拉大正常样本与异常样本的数据分布差异,增强无监督设定下模型对未知异常模式的判别精度。
5、具体方案如下:
6、本发明提出了一种基于多粒度特征增强与分解记忆的无监督时序异常检测方法。包括以下步骤:
7、步骤1:序列嵌入与初始编码;将原始多元时序数据划分为重叠的时间窗口,通过一维卷积提取局部时序特征,并结合位置编码生成初始嵌入表示,再送入transformer编码器中,输出初始隐层特征。具体如下:
8、将多元时序数据定义为观测序列,其中为序列的总长度,每个时间步的观测值,表示特征维度。设定窗口长度为,步长为,得到一系列重叠的时间窗口序列作为模型的输入。首先通过一维卷积提取局部特征,并引入正弦位置编码保留时序信息,得到初始嵌入表示:
9、
10、其中,表示一维卷积操作,为隐藏层维度,表示正弦位置编码。
11、将送入包含多头自注意力机制与前馈神经网络的transformer编码器中。结合残差连接与层归一化,输出初始隐层特征:
12、
13、
14、其中,表示自注意力子层的中间表示,表示层归一化,表示多头自注意力运算,为前馈神经网络。
15、步骤2:多粒度特征增强处理;对所述初始隐层特征进行多维度增强,通过频域变换提取全局周期性,通过双仿射张量与相对距离矩阵提取多模式融合特征,并结合分层门控时序单元捕捉长程时序演化表示。同时,采用残差策略将局部高阶空间关联特征、长程时序特征与初始隐藏层特征进行融合,得到中间输入特征。具体如下:
16、为克服传统自注意力机制在提取局部突变和超长序列依赖方面的局限,本步骤对初始隐层特征进行多维度增强,通过实数快速傅里叶变换(rfft)将时域特征转换为频域表示,以捕捉隐含的全局周期性:
17、
18、其中,和分别表示rfft及其逆变换(irfft);为可学习的复数频域权重,用于在特征通道维度上自适应滤波;为逐元素乘法。随后通过残差门控机制融合,得到频域增强特征,其中,为可学习的门控参数。
19、为挖掘多元变量的局部依赖,通过两组并行的一维卷积提取序列的头特征与尾特征,其中,为隐藏通道维度。引入可学习的双仿射张量,为潜在交互模式数量,计算任意两步特征间的仿射关系矩阵。同时引入反映物理邻近性的相对距离矩阵,其中,为时间步索引。对两者融合后进行局部求平均,得到多模式融合特征,再经线性投影层重映射得到局部增强特征,其中,表示权重,表示偏置,表示多模式融合的局部上下文特征。
20、引入分层门控时序单元捕捉长程时序演化表示。最后,采用残差策略将局部高阶空间关联特征、长程时序特征与初始隐层特征进行融合,得到中间输入特征。
21、步骤3:基于先编码后分解模块的特征去噪分离;在潜空间中基于非对称混淆与重构强制分离稳定特征与辅助信息,将所述中间输入特征切分为稳定特征与辅助特征,滤除代表瞬发噪声的预测辅助特征,将预测稳定特征与中间输入特征进行残差连接,得到去噪后的稳定查询特征,具体如下:
22、为防止深层网络拟合异常模式,在潜空间中基于非对称混淆与重构强制分离稳定特征与辅助信息,将中间输入特征对半切分为稳定特征与辅助特征。在稳定特征提取分支中,将在时间维度随机打乱为,辅以恒等映射的辅助特征,拼接后经投影矩阵重构得到预测稳定特征。辅助特征分支同理,重构出预测辅助特征。
23、利用均值池化和l2归一化计算序列级表征和。构建包含重构损失和infonce互信息损失的联合损失函数约束分解过程:
24、
25、其中,为稳定特征重构损失,为辅助特征重构损失,为frobenius范数,、和均为各项超参数。该机制促使滤除不具备长期规律的瞬发噪声。
26、步骤4:记忆网络稀疏寻址与非对称重构;将所述去噪后的稳定查询特征与预设记忆库进行稀疏寻址,通过带收缩阈值的硬收缩激活函数抑制潜在异常激活,提取正常记忆信息,并经由弱解码器重构出时序重构序列。具体如下:
27、计算去噪后的稳定查询特征与记忆库之间的注意力权重矩阵,其中z为聚类中心数量。为抑制潜在异常激活,引入带有收缩阈值的硬收缩激活函数:
28、
29、其中,为激活函数,为补充值。重新归一化后提取出正常的读取记忆信息。将与拼接,交由仅包含单层线性映射的弱解码器生成时序重构序列,其中,和为权重与偏置,严格约束网络的映射能力,扩大正常与异常样本的误差差距。
30、步骤5:异常分数机制与综合判决;计算原始输入序列与所述时序重构序列之间的误差,并结合查询特征与记忆库之间的潜在特征一致性得分,经非对称放大生成异常分数,当异常分数超过预设阈值时触发异常告警。具体如下:
31、在测试阶段,计算输入序列与重构序列的均方误差以反映偏离程度,其中,为当前时间步的原始输入窗口序列。同时计算查询特征与记忆库互信息贴合度的潜在特征一致性得分,其中,为温度系数,为gathering损失。最终通过非对称放大得到每个时间点的异常分数。当该分数超过自适应阈值时,模型触发异常告警。
32、通过实验验证,本发明在异常检测精度、抗噪鲁棒性以及复杂时序演化建模方面均表现优异,具体技术效果如下:
33、(1)异常检测精度显著提升,在基准数据集上达到行业领先水平
34、本发明突破了传统机器学习及经典深度学习方法在上下文依赖捕捉与长程建模方面的性能瓶颈。实验数据显示,相较于对比的if、oc-svm等传统机器学习方法和dagmm、lstm-vae等经典深度学习模型,本发明提出的mge-dm在多个多元时序基准数据集上的表现均处于最优水平。提出的mge-dm在所有对比方法中取得了最高的整体检测精度,在msl、psm、smd等复杂数据集上分别取得95.14%、98.52%和94.25%的f1评分,整体平均f1分数达到96.22%,超越了当前如mtscid、maat及fftfdr等前沿对比方法。
35、(2)具备卓越的抗噪能力与特征分解性能,有效降低漏报率
36、现有前沿方法多依赖被动式降噪或简单网络堆叠,容易导致正常特征被过度平滑,从而漏报隐蔽异常。本发明通过先编码后分解的模块化设计,将干扰噪声与稳定特征从源头上进行了强制分离。实验结果表明,该机制显著提升了输入特征的信噪比,保证了记忆模块能够构建清晰、紧凑的正常行为边界。在异常召回率指标上,本发明方法在多个数据集中的表现均接近或超过98%,这充分验证了本发明在复杂噪声环境下,仍能有效捕捉各类隐蔽异常波动,显著降低了漏报率。
37、(3)实现了多粒度特征空间协同,克服了复杂时序建模中的退化问题
38、本发明设计的双仿射注意力机制与分层门控时序单元,有效解决了长程依赖中信息衰减与特征辨识度不足的问题。双仿射注意力机制通过捕捉多变量间细粒度的局部上下文关联,使模型对设备运行状态的微小偏移具备极高的敏感性;而分层门控时序单元则通过切片聚合处理长序列,保证了模型对全局演化规律的精准把握。这种结构设计使得特征输入既保持了高信息保真度,又有效抑制了深层网络中的梯度消失与过拟合效应,使模型在动态多变的工业环境下具备更强的泛化能力。
39、综上所述,本发明通过从架构源头对噪声和冗余特征的主动分解,将深度学习在时序建模中的潜力由单纯的拟合能力转化为精准的判别性能,极大地提升了异常检测方法的实用价值与工业部署鲁棒性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com