基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法及系统
本发明涉及城市轨道交通基础设施智能运维,具体涉及基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法及系统。
背景技术:
1、地铁系统的运营安全与效率高度依赖于轨道、扣件、轨枕、道床等基础设施的服役状态。随着我国城市轨道交通运营里程的快速增长,依靠人工夜间天窗巡检已难以满足大规模、高频次的轨道巡查需求,因此各运营单位先后部署了基于线扫相机的轨道智能检测车,连续采集覆盖钢轨、扣件、轨枕和道床的高分辨率图像,配合深度学习模型对扣件弹条缺失、鱼尾螺栓凸起、钢轨波磨、道床翻浆等缺陷进行自动识别。
2、然而,在工程实际中,针对某一条线路标注训练得到的深度学习模型,一旦部署到新开通的或不同时期建设的其它线路上时,识别精度往往会出现明显下滑。这是因为不同线路之间在扣件类型、轨道结构、供电方式、检测车几何参数、运营年限及周边轨旁环境等多个方面均存在客观差异,导致采集到的图像在背景纹理、光照分布、缺陷外观周围上下文等方面发生系统性的域偏移。如果对每条新线路都从头采集和标注上万幅图像重新训练模型,则成本与周期均难以承受,且新开通线路初期难以获得足够规模的有标签缺陷样本。
3、现有技术中应对域偏移的常见做法是基于分布对齐的领域自适应方法,例如对抗式领域自适应、深度相关性对齐及条件式对抗领域自适应等。这类方法通常在区块级或全局平均特征上对源域与目标域施加分布对齐损失,以促使共享特征空间中两域的边缘分布趋于一致。然而,在地铁跨线场景下,由于真正的缺陷区域只占图像中很小的一部分,而背景区域占据图像的绝大部分,对边缘分布的对齐实际上主要作用在背景统计上,反而可能对真正的缺陷条件分布造成扰动,导致在跨线评测中相对于不使用领域自适应的基线方法没有稳定提升,甚至在部分迁移方向上出现性能下降。此外,现有基于自注意力或全局池化的图像分类结构,在聚合区块特征时对所有空间位置采用统一权重,无法显式区分缺陷区域与背景区域,难以在跨线条件下保持稳定的判别性能。
4、因此,亟需一种既能利用大规模视觉基础模型的强表征能力,又能在跨线条件下显式聚焦于真正缺陷区域、抑制背景域偏移干扰、且不依赖任何目标域线路标签的轨道缺陷分类方法及系统。
技术实现思路
1、本发明旨在提供基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法及系统,用于解决以上问题。
2、第一方面,本发明的技术方案是:基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法,包括以下步骤:
3、s1,图像采集与数据集构建;利用安装于地铁检测列车上的线扫相机,在列车运行过程中沿轨道方向以等空间间隔连续扫描,采集覆盖钢轨、扣件、轨枕和道床区域的轨道结构图像;将来自不同地铁线路的图像汇集,并按物理退化机理将图像中包含的缺陷类别划分为轨道连接类、钢轨表面类与混凝土类三组,构建跨线轨道缺陷图像数据集;
4、s2,图像区块特征序列提取;对跨线轨道缺陷图像数据集中的每幅图像,采用冻结参数的视觉基础模型进行特征提取,得到由若干图像区块特征构成的区块特征序列;
5、s3,缺陷锚定特征及注意力权重构建;为每个缺陷类别分别配置一个可学习的缺陷查询向量,为每个退化机理组分别配置一个可学习的机理嵌入向量;将每个缺陷查询向量与其所属退化机理组对应的机理嵌入向量相加,得到机理增强后的缺陷查询向量;将机理增强后的缺陷查询向量与区块特征序列执行多头交叉注意力运算,得到每个缺陷类别对应的缺陷锚定特征及对应的注意力权重分布;
6、s4,源域训练优化;将缺陷锚定特征分别输入与缺陷类别一一对应的独立线性分类头,得到每个缺陷类别的预测得分;利用源域线路的有标签样本,以交叉熵损失为主目标,以缺陷查询之间注意力权重分布的逐对余弦相似度均值作为多样性正则项,对缺陷查询向量、机理嵌入向量及注意力投影参数进行联合训练;
7、s5,跨线推理与可视化输出;对目标域线路新采集的轨道图像,在不使用任何目标域线路标签的条件下,直接执行s2~s3得到缺陷类别预测结果及对应的注意力热图;将注意力热图按区块栅格还原至原始图像分辨率并叠加显示,作为现场养护决策的依据;
8、其中,s1构建跨线轨道缺陷图像数据集并按物理退化机理对缺陷类别进行分组,为后续步骤提供数据基础与退化机理先验知识;s2在s1构建的数据集上,采用冻结参数的视觉基础模型提取每幅图像的区块特征序列;s3在s2输出的区块特征序列基础上,利用s1划分的退化机理组信息,通过机理嵌入向量增强缺陷查询向量,并与区块特征序列执行多头交叉注意力,得到缺陷锚定特征及注意力权重分布;s4在s3输出的缺陷锚定特征基础上,利用s1中源域线路的有标签样本,以交叉熵损失与多样性正则项对缺陷查询向量、机理嵌入向量及注意力投影参数进行联合训练优化;s5针对目标域线路新采集的轨道图像,直接复用s2的特征提取流程与s3的缺陷锚定注意力前向运算,在推理阶段不涉及s4的损失函数训练,仅利用s4训练收敛后的模型参数输出缺陷类别预测结果与对应注意力热图。
9、优选地,s1中,具体包括:
10、跨线轨道缺陷图像数据集包括至少两条具有不同扣件类型、不同轨道结构和/或不同运营年限的地铁线路;每条线路构成一个独立的域;
11、轨道连接类包括但不限于扣件弹条缺失、鱼尾螺栓凸起、轨距块缺失、铁垫板挤出;钢轨表面类包括但不限于异常光带、钢轨波磨、钢轨踏面磨耗;混凝土类包括但不限于轨枕掉块、道床开裂、道床翻浆;
12、每幅图像统一缩放为预设尺寸并按视觉基础模型预训练所采用的均值方差进行归一化。
13、优选地,s2中,具体包括:
14、视觉基础模型为采用大规模自监督预训练得到的视觉transformer,其参数在本方法训练全过程中保持冻结;
15、区块特征序列由视觉基础模型在不计入分类标记的情况下输出的全部图像区块特征向量按其在图像中的空间位置顺序排列而成,区块数量为预设值,每个区块特征向量的维度等于视觉基础模型的输出特征维度。
16、优选地,s3中,具体包括:
17、每个缺陷查询向量的初始化采用零均值、小标准差的高斯分布;
18、机理嵌入向量与缺陷查询向量的叠加方式为按元素相加;
19、多头交叉注意力运算之前,对机理增强后的缺陷查询向量和区块特征序列分别施加层归一化;多头交叉注意力中,注意力得分按缩放点积方式计算,缩放因子取每个注意力头特征维度的平方根的倒数;多头输出沿特征维度拼接后经一个线性投影矩阵映射;并将机理增强后的缺陷查询向量经残差连接相加到线性投影矩阵的输出上,得到缺陷锚定特征。
20、优选地,在s2之后、s3之前,还包括区块特征增强步骤:
21、将s2输出的区块特征序列经过一个含层归一化与前馈子层的轻量化增强模块,并通过残差连接得到增强后的区块特征序列;
22、前馈子层包含两个保持维度不变的线性投影、一个gelu非线性激活与失活概率不超过0.1的随机失活,前馈子层的输入与输出之间通过残差连接相加;
23、s3中与缺陷查询向量执行交叉注意力的区块特征序列,被替换为增强后的区块特征序列。
24、优选地,s4中多样性正则项构造方式包括:
25、对每个缺陷查询向量,将其在多头交叉注意力中各个注意力头上的注意力权重在区块位置维度上保持,对各头注意力权重在头维度上取平均,得到该缺陷查询的注意力权重向量;
26、对全部缺陷查询对应的注意力权重向量两两计算余弦相似度,并对全部不同的两两组合取算术平均,得到多样性正则项的取值;
27、总训练损失为交叉熵损失加上以正权重系数加权的多样性正则项;正权重系数的取值范围为 0.001~0.1。
28、优选地,s5中,具体包括:
29、目标域线路与源域线路在扣件类型、轨道结构和/或运营年限上具有差异,且方法在训练过程中不接收目标域线路的任何标签或图像;
30、注意力热图的生成方式为:取多头交叉注意力中各个注意力头在区块位置维度上的注意力权重,对各头取平均后按区块在原图中的空间位置还原至原始图像分辨率,并以伪彩色叠加方式与原始图像合成显示。
31、第二方面,本发明提供基于缺陷锚定注意力的跨线地铁轨道缺陷分类系统,包括:
32、图像采集与数据集构建模块,用于驱动安装于地铁检测列车上的线扫相机采集轨道结构图像,并按物理退化机理将缺陷类别划分为轨道连接类、钢轨表面类与混凝土类三组,构建跨线轨道缺陷图像数据集;
33、特征提取模块,用于采用冻结参数的视觉基础模型对每幅轨道图像进行特征提取,得到由若干图像区块特征构成的区块特征序列;
34、缺陷锚定注意力模块,用于配置缺陷查询向量与机理嵌入向量、将机理嵌入向量与对应缺陷查询向量按元素相加,并将机理增强后的缺陷查询向量与区块特征序列执行多头交叉注意力,输出每个缺陷类别对应的缺陷锚定特征及注意力权重分布;
35、训练优化模块,用于以源域线路的有标签样本为训练数据,将交叉熵损失与缺陷查询注意力权重的逐对余弦多样性正则项加权求和后作为总损失,对缺陷查询向量、机理嵌入向量及注意力投影参数进行联合优化;
36、跨线推理与可视化输出模块,用于对目标域线路新采集的轨道图像在不使用任何目标域标签的条件下执行特征提取、缺陷锚定注意力运算与缺陷分类,得到缺陷类别预测结果,并将注意力权重还原至原始图像分辨率叠加为注意力热图输出至养护人员复核终端。。
37、第三方面,本发明提供一种非暂态计算机可读存储介质,非暂态计算机可读存储介质用于存储计算机指令,计算机指令被处理器执行时,实现基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法。
38、第四方面,本发明提供一种电子设备,包括:处理器、存储器以及计算机程序;其中,处理器与存储器连接,计算机程序被存储在存储器中,当电子设备运行时,处理器执行存储器存储的计算机程序,以使电子设备执行实现基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法的指令。
39、第五方面,本发明提供一种计算机程序产品,包括计算机程序,计算机程序当在一个或多个处理器上运行时,用于实现基于缺陷锚定注意力的跨线地铁轨道缺陷分类方法。
40、本发明的有益效果在于:
41、维实际工程中模型在源线路训练、跨线部署性能显著下滑的核心难题,将物理退化机理先验显式注入缺陷查询,并通过缺陷锚定注意力使每个缺陷类别独立地从区块特征中提取与其物理形态相关的局部表征,使得缺陷条件分布在跨线条件下保持近似一致,从而在不使用任何目标线路标签的条件下显著提升了跨线识别精度;
42、(2)本发明在视觉基础模型保持完全冻结的前提下,仅训练缺陷查询向量、机理嵌入向量与少量注意力投影参数,模型可训练参数量小、训练成本低,便于在新线路开通初期快速部署;
43、(3)本发明通过逐对余弦多样性正则项,避免了不同缺陷查询的注意力分布坍缩为相似模式,使每个缺陷查询能够稳定地聚焦在其对应缺陷类型的典型空间位置,从而保证了识别结果的可分性与稳定性;
44、(4)本发明在推理阶段同时输出每个缺陷类别对应的注意力热图,注意力热图按区块栅格直接对应到原图空间位置,可作为现场养护人员对预测结果进行人工复核的可解释性依据,便于将自动识别结果纳入既有人工巡查工作流;
45、(5)本发明无需在训练阶段访问任何目标线路图像或标签,避免了对目标线路数据采集与传输的依赖,符合多家运营单位之间的数据隔离要求,更易于在多线路、多运营单位的真实工程场景中落地。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com