一种基于异构注意力范式分流的高光谱异常检测方法
本发明属于高光谱图像处理与异常检测,具体涉及一种基于异构注意力范式分流的高光谱异常检测方法。
背景技术:
1、高光谱成像技术能够为每个像素提供数百个连续窄波段的光谱“指纹”信息,在军事侦察、环境监测、矿产勘探及灾害应急响应等领域被广泛应用。高光谱异常检测的核心任务是在不依赖任何先验目标光谱信息的条件下,识别出与周围背景存在显著光谱偏差的像素。然而,现有方法存在以下不足:基于transformer架构的方法中,标准自注意力复杂度高,面向高分辨率数据,成为制约模型运行效率的核心瓶颈。在背景建模过程中缺乏对潜在异常信号的主动增强机制,低对比度弱小目标的光谱偏差容易被重建误差掩盖,导致漏检率偏高。此外,无论双分支设计还是掩码训练方案,其本质仍以同一注意力计算范式统一处理所有输入区域,无法根据不同图像区域的重建难度动态匹配最适合的注意力机制,使背景抑制与异常凸显难以协同最优,在复杂异质背景下的检测精度受到制约。上述缺陷大幅制约现有方案实际应用效果,亟需研发兼顾运算效率与检测精度的新算法予以破解。
技术实现思路
1、本发明的目的在于解决现有高光谱异常检测方法计算复杂度过高、弱小目标识别能力不足、统一处理范式自适应能力欠佳的问题,并提出一种基于异构注意力范式分流的高光谱异常检测方法。
2、为了达到上述目的,本发明提供的技术方案为:
3、一种基于异构注意力范式分流的高光谱异常检测方法,包括:
4、获取待检测的高光谱图像,将高光谱图像切分为多个重叠图像块,并对各重叠图像块进行特征提取,得到各重叠图像块的共享初步特征图;
5、构建高光谱重建网络,所述高光谱重建网络包括局部建模路径和全局建模路径;
6、对高光谱重建网络进行无监督训练:将各重叠图像块分别分配至局部建模路径或全局建模路径进行特征重构,将两条路径的输出合并为注意力输出特征图,并对注意力输出特征图进行解码重建,得到重建图像块;基于重建图像块与各重叠图像块的重建一致性,更新各重叠图像块的路径分配,并迭代执行特征重构、解码重建与路径分配更新,直至收敛;
7、利用训练好的高光谱重建网络,对高光谱图像进行重建,得到完整重建图像;
8、根据完整重建图像与高光谱图像之间的重建误差,生成各像素的异常检测结果。
9、进一步的,所述将高光谱图像切分为多个重叠图像块,包括:
10、对高光谱图像进行最大-最小值归一化,并进行将高光谱图像最边缘像素向外复制生成扩充边界,采用预设空间边长的滑动窗口,对归一化后的高光谱图像进行切分,得到多个重叠图像块。
11、进一步的,所述对各重叠图像块进行特征提取,得到各重叠图像块的共享初步特征图,包括:将各重叠图像块输入卷积层,将各重叠图像块的光谱波段维度映射至统一的嵌入维度,得到各重叠图像块的共享初步特征图。
12、进一步的,利用局部建模路径进行特征重构,包括:
13、将每个重叠图像块沿高度方向和宽度方向分别划分为多个不重叠的局部子块;
14、对共享初步特征图依次进行层归一化和空间重排,并通过线性映射生成查询特征、键特征和值特征;
15、将查询特征、键特征和值特征分别沿通道维度划分为多个注意力头;
16、对键特征和值特征分别进行增强,得到增强后的键特征和增强后的值特征;
17、基于查询特征、增强后的键特征和增强后的值特征,计算得到局部建模路径的输出特征。
18、进一步的,所述对键特征和值特征分别进行增强,得到增强后的键特征和增强后的值特征,包括:
19、通过低秩可学习记忆库对键特征进行增强,所述低秩可学习记忆库由多个级联的低秩记忆门控单元构成;
20、每个低秩记忆门控单元对输入的键特征进行池化,得到键特征的全局描述向量,将全局描述向量的特征维度压缩后,与低秩记忆门控单元中的待训练原型记忆矩阵进行检索,生成原型检索权重,并根据原型检索权重对各待训练原型进行加权求和,得到低维原型响应;
21、将低维原型响应恢复至原特征维度,并经激活函数生成通道门控向量,将通道门控向量与低秩记忆门控单元输入的键特征逐元素相乘,得到低秩记忆门控单元输出的增强键特征;
22、分别沿通道-高度维度、通道-宽度维度和通道-空间维度生成注意力权重图,各维度内部通过多个不同扩张率的并行深度可分卷积分支提取特征,拼接后经卷积融合,并经通道注意力机制进行自适应加权,得到各维度的权重;将各维度的权重融合,得到增强后的值特征。
23、进一步的,利用全局建模路径进行特征重构,包括:
24、通过多个级联的全局建模模块对共享初步特征图进行处理;
25、将共享初步特征图输入第一个全局建模模块,通过卷积提取局部位置信息,并将局部位置信息与共享初步特征图进行残差相加,得到位置增强输入特征;
26、对位置增强输入特征进行层归一化,并生成查询特征、键特征和值特征,根据各特征在二维特征图中的空间位置,对查询特征和键特征施加旋转位置编码,并通过非负特征映射对键特征和值特征进行聚合,得到线性注意力特征;
27、对值特征进行局部位置增强,并将局部位置增强后的值特征与线性注意力特征逐元素相加,经输出线性映射进行特征变换,得到线性注意力融合特征;
28、将线性注意力融合特征与位置增强输入特征进行残差连接,得到第一残差特征;
29、对第一残差特征进行层归一化和前馈特征变换,得到前馈变换特征,将前馈变换特征与第一残差特征逐元素相加,得到当前全局建模模块的输出;
30、前一个全局建模模块的输出作为后一个全局建模模块的输入特征,经过多个全局建模模块依次处理后,得到全局建模路径的输出特征。
31、进一步的,所述基于重建图像块与各重叠图像块的重建一致性,更新各重叠图像块的路径分配,包括:
32、构建路由标志向量,根据每个重叠图像块的路由标志将各重叠图像块分配至局部建模路径或全局建模路径;
33、在训练过程中,按照预设迭代间隔,对解码重建得到的重建图像块进行梯度分离处理,并将梯度分离处理后的重建图像块折叠为完整重建图像,再对完整重建图像重新切分,得到键块集合;
34、对于键块集合中的每个键块,计算与各重叠图像块之间的欧氏距离,确定欧氏距离最小的重叠图像块;当欧氏距离最小的重叠图像块为当前键块自身对应的重叠图像块时,将当前键块自身对应的重叠图像块的路由标志置为第一值,否则置为第二值;
35、在前向传播时,将路由标志为第二值的重叠图像块送入局部建模路径,将路由标志为第一值的重叠图像块送入全局建模路径。
36、进一步的,在无监督训练的前若干轮迭代中,将各重叠图像块均分配至局部建模路径。
37、进一步的,还包括训练阶段的瓦瑟斯坦距离正则化,包括:
38、注意力输出特征图经卷积得到中间特征图;
39、将高光谱图像与重建图像块、共享初步特征图与中间特征图分别组成两组配对张量;
40、对于每个张量,将除批次维度外的其余维度展平,并进行非负化处理和l2归一化;
41、分别计算每组归一化张量对应元素绝对差的均值,作为瓦瑟斯坦距离的近似,得到正则化损失,将正则化损失用于更新高光谱重建网络的参数。
42、进一步的,所述根据完整重建图像与高光谱图像之间的重建误差,生成各像素的异常检测结果,包括:
43、对完整重建图像中每个像素计算光谱重建误差,并对光谱重建误差进行归一化,得到各像素的异常分数;
44、根据各像素的异常分数,生成像素级异常检测图作为异常检测结果。
45、本发明与现有技术相比,其显著优点为:通过构建两条采用本质上不同注意力计算范式的处理路径,并以基于自检索一致性的无监督路由机制按图像块重建难度动态分流,实现了背景样本与异常样本的差异化建模。局部建模路径通过key/value非对称增强提升了弱小目标的识别能力;全局建模路径通过线性注意力将计算复杂度由降至,其中,n为空间位置数量,有效缓解了高分辨率数据的计算瓶颈;wasserstein距离正则化进一步稳定训练并提升重建质量。整个方法完全无监督,不依赖任何人工标注或类别标签,此算法综合检测性能优异。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com