基于多任务头微调的无监督对比学习面波压制方法

本发明属于地震勘探，尤其涉及基于多任务头微调的无监督对比学习面波压制方法。

背景技术：

1、油气资源是现代能源体系的重要组成部分，长期以来在世界范围内是主要的能源供应来源。在油气勘探过程中，地震勘探技术是获取地下结构信息的最常用技术手段，但目前仍存在较多问题和挑战。由于复杂的地表情况、采集环境限制以及地震采集设备的能力等制约性因素，实际勘探过程中采集到的地震数据会引入大量非有效信号。其中，面波作为一种具有较强能量和低频特征的相干噪声，通常会掩盖有效反射波的能量，降低地震资料的信噪比并对后续成像处理和地质解释造成严重干扰。因此，如何有效压制面波干扰并恢复出高质量的地震数据，成为提高地震资料处理效果和保障油气勘探精度的重要研究方向。

2、近年来，在地震数据面波压制领域，深度学习方法受到广泛关注并展现出较好前景。早期研究人员主要使用卷积神经网络（convolutional neural network, cnn）、自编码器（auto encoder, ae）、生成对抗网络（generative adversarial network, gan）等深度学习模型进行地震噪声压制方面的研究。相对于传统的依靠人工设计特征和先验假设的方式，深度学习可以借助多层非线性网络结构学习地震信号与噪声之间复杂的映射关系，从而从数据中获取高维特征信息。其中，基于卷积神经网络的方法利用其局部感受野和层级特征提取能力，有效捕捉到了地震剖面上的空间连续性和纹理特征，实现了对面波和有效反射信号的自动分离；基于自编码器的方法通过对编码-解码结构的学习得到地震数据的低维潜在表示，并利用特征重构能力实现噪声成分的抑制；基于生成对抗网络的方法通过生成器和判别器之间的对抗训练提高重构地震数据的真实性和细节保持能力。

3、然而，早期深度学习方法大多依赖于大量高质量配对训练样本（即需要同时获取含有面波噪声的数据及对应的无噪声地震数据）以提供监督信息，而在实际地震勘探中，地震数据存在样本稀缺及获取成本高昂等问题，无法直接获得真实无噪声地震数据，模型训练易受到数据规模和数据质量的影响；另外，由于卷积神经网络等模型主要依赖局部邻域特征提取，对于复杂地下结构中的长距离空间关联关系和全局波场传播特征建模能力较差，易出现强面波区域残留、有效反射能量丢失以及不同测区之间迁移性能差等问题。随着transformer等基于自注意力机制的深度学习模型的发展，研究人员开始尝试利用其强大的全局依赖建模能力进行地震数据处理，通过对远距离地震事件间的关联关系捕捉，提高了复杂噪声背景下的有效信号恢复能力。但transformer模型通常具有较大的参数规模，对训练数据的数量和计算资源的要求较高，在地震领域小样本、高成本的数据环境下，仍面临模型泛化不足和训练效率低等方面的挑战。

4、在计算机视觉及自监督学习等领域，基于对比学习架构训练得到的表征模型已被广泛应用于各种下游解析任务，且可以通过对海量无标注的数据进行特征一致性挖掘，构建出具备较强鲁棒性和泛化性的特征空间，进而为后续特定任务模型的训练提供高效的先验初始化。地震数据的有效信号和面波噪声同样存在特征空间上的独特分布差异与潜在的不变性特质，均包含可被对比学习捕捉到的空间相干性规律、形态演变特征以及多尺度统计关联。在此基础上，结合lora（低秩自适应）微调技术，在冻结的预训练骨干网络中加入可训练的低秩分解矩阵，能够在极小的计算开销下完成从通用特征空间到特定面波压制任务的精准对齐。这种参数高效的微调策略既完整保留了对比学习所获取的全局鲁棒表征，又能够针对地震面波的特定形态特征进行任务特异性适配，在海量预训练知识与少量地震数据之间架起了高效迁移的桥梁。

5、此外，传统面波压制方法往往侧重于单一时空域的信号修复，易忽视地震信号在频域的独特分布特征以及不同空间尺度下的演变规律，导致在处理强面波发育区域时面波残留严重或伤及有效反射同相轴。

技术实现思路

1、本发明实施例的目的在于提供基于多任务头微调的无监督对比学习面波压制方法，旨在解决上述背景技术中提出的问题。

2、本发明实施例是这样实现的，基于多任务头微调的无监督对比学习面波压制方法，包括以下步骤：

3、步骤1：构建支持对比学习的不同测区含面波地震数据的训练集、验证集和测试集；

4、步骤2：搭建地震数据重构网络，用于压制地震数据的面波成分；

5、所述地震数据重构网络的完整模型架构包括：用于提取全局依赖特征的全局特征编码器、用于实现参数自适应调节的lora增强模块以及用于数据重建的解码重建模块；其中，在地震数据微调阶段，所述全局特征编码器的参数保持冻结，仅对lora增强模块及解码重建模块进行训练；

6、步骤3：设计损失函数，用以评估地震数据重构网络的性能；

7、步骤4：对步骤2中构建的地震数据重构网络进行训练；该训练过程采用大量含面波地震数据预训练、少量配对地震数据微调的迁移学习范式，通过对比学习提取地震数据的全局特征、通过lora和多任务头微调提取地震数据的局部特征，从而实现对地震数据面波的压制及被面波区域覆盖的原始信号的重构，并根据重构结果优化步骤3中设定的损失函数；在完成预定的训练轮数后，得到性能最优的模型参数；

8、步骤5：对步骤4中完成训练的地震数据重构网络进行测试；若测试过程中所得到的性能评价指标达到预设的阈值要求，则将该训练完成的模型确认为最优的地震数据重构网络模型；若测试指标未能满足设定标准，则返回步骤4，通过调整训练参数对模型进行重新训练；

9、步骤6：将真实的地震剖面输入至已确定为最优的地震数据重构网络模型中，经过模型处理后输出重构后的地震剖面数据。

10、进一步的技术方案，所述步骤1具体包括：

11、获取各测区的原始地震剖面数据；

12、对各测区的三维地震数据进行二维切片处理，得到多个二维地震切片，并从各测区的二维地震切片中选取部分切片进行滤波，以手动方式切除面波区域，得到各测区含面波和不含面波的配对数据；

13、将所有二维地震切片以及各测区的配对数据按预设比例划分为训练集、验证集和测试集。

14、进一步的技术方案，所述测区的数量为两个；对每个测区的三维地震数据进行二维切片处理分别得到10000片二维地震切片；从每个测区的二维地震切片中分别选取2000片进行滤波；并按8:1:1的预设比例划分为训练集、验证集和测试集。

15、进一步的技术方案，在所述步骤2中，所述全局特征编码器基于视觉transformer结构构建，包括补丁嵌入层、位置编码以及12个transformer编码块；输入地震数据先经过补丁嵌入层进行划分和映射，将输入特征图划分为固定大小的非重叠补丁并通过卷积投影转化为初始序列特征；随后在初始序列特征前拼接分类标记，并叠加位置编码信息以引入空间位置信息；然后依次输入至多个transformer编码块进行特征提取；每个transformer编码块包括层归一化层、多头自注意力层以及多层感知机，其中在多头自注意力层及多层感知机的输入与输出之间分别设置残差连接，最终输出包含全局上下文信息的序列特征。

16、进一步的技术方案，所述lora增强模块设置于transformer编码块中的多头自注意力层内部，用于在冻结原始编码器参数时，实现注意力特征的自适应调节；具体地，在多头自注意力层中的查询-键-值映射层和注意力输出投影层上均加入lora结构，并构建两个低秩矩阵来对原始权重做增量更新，使得模型能够根据地震数据的特征分布情况调整其注意力响应的关系；

17、所述lora增强模块采用矩阵低秩分解的方式限制了参数的更新过程。

18、进一步的技术方案，所述解码重建模块用于将全局特征编码器输出的高维序列特征恢复成有空间结构信息的重构地震数据；首先去除编码器输出序列中包含的分类标记并将剩余序列特征送入特征投影层，通过线性映射方式将高维语义特征转换为与地震数据的空间维度相匹配的特征，然后按原顺序重新塑造为二维特征图，在此基础上建立一个由像素级重建分支、频域约束分支以及多尺度融合分支构成的多分支解码结构；

19、其中，像素级重建分支采用卷积层、激活函数以及转置卷积层逐级恢复地震数据空间分辨率；频域约束分支通过对特征做卷积变换、非线性映射及随机失活操作对其频谱进行建模，引导网络学习有效频率成分并抑制异常频率干扰；多尺度融合分支通过特征融合、深度可分离卷积以及上采样操作对不同尺度地下构造信息进行联合建模；

20、最后，将三个分支输出结果进行特征融合，并通过特征投影层映射得到最终重构地震数据。

21、进一步的技术方案，在所述步骤3中，损失函数为l2损失，其数学表达式为：

22、其中，为损失函数，是由地震数据重构网络输出的不含面波的地震数据，为采样点，为地震道，是训练集中与对应的完整地震数据，和分别是一幅地震剖面的时间采样点数和地震道数。

23、进一步的技术方案，在所述步骤4中，预训练阶段使用20000张含面波的地震数据图像，利用dinov1架构进行无监督对比学习，通过student网络对图像裁剪区域与teacher网络对原始图像的同步特征表征学习，使模型在无监督状态下深度捕获地震数据的鲁棒表征与潜在语义规律，以训练全局特征编码器；

24、地震数据微调阶段，对于每一组测区数据，分别将预训练阶段得到的全局特征编码器权重加载至当前全局特征编码器，并结合局部特征编码器，使用步骤1制作的对应测区的2000片地震数据进行lora加多任务头并行微调训练。

25、进一步的技术方案，在所述步骤6中，将真实的地震剖面随机缺失道后输入至已确定为最优的地震数据重构网络模型中，经过模型处理后输出重构后的地震剖面数据。

26、本发明实施例提供的基于多任务头微调的无监督对比学习面波压制方法，具有以下有益效果：

27、（一）压制精度高、保真度好：采用“大量含面波数据预训练+少量配对数据微调”的迁移学习范式，预训练阶段通过无监督对比学习建立对面波与有效信号的判别能力，微调阶段通过lora加多任务头并行微调实现全局结构信息与局部纹理细节的深度融合。实验结果表明，本发明能有效压制面波并重构被覆盖的原始信号，重构剖面连续性好。

28、（二）参数量少、泛化能力强：在微调阶段冻结全局特征编码器，仅更新lora增强模块及解码重建模块的少量参数，大幅降低训练参数量与计算复杂度。同时，lora增强模块采用矩阵低秩分解，仅引入少量可训练参数即可实现跨测区有效适配，显著提升了模型在不同地质条件下的迁移泛化能力。

29、（三）多维度联合重建，恢复质量高：解码重建模块采用像素级重建、频域约束和多尺度融合三分支并行处理与特征融合，同步恢复地震数据的空间结构、频率特征及多尺度信息，有效提高了面波压制后地震数据的信噪比和有效信息保真度。