一种基于Transformer的孔隙压力预测方法及系统

摘要: 本申请涉及数据处理,涉及但不限定于一种基于transformer的孔隙压力预测方法及系统。背景技术:1、孔隙压力是地下岩石孔隙空间中流体所承受的压力,是反映地层...
一种基于Transformer的孔隙压力预测方法及系统

本申请涉及数据处理,涉及但不限定于一种基于transformer的孔隙压力预测方法及系统。

背景技术:

1、孔隙压力是地下岩石孔隙空间中流体所承受的压力,是反映地层力学状态和流体赋存特征的核心参数。在油气钻井工程中,孔隙压力的精准预测直接关系到钻井液密度的合理设计:若钻井液密度过低,无法平衡地层压力,易引发井涌甚至井喷事故;若钻井液密度过高,则可能压裂地层,导致钻井液大量漏失,造成严重的工程损失和环境污染。此外,准确的孔隙压力数据还能够为井壁稳定性分析提供关键依据,有效预防井壁坍塌、缩径等井下复杂情况的发生,保障钻井作业的安全高效推进。在油气资源开发层面,孔隙压力数据有助于评价储层能量、优化完井方案和注采策略,从而提高油气采收率和开发经济效益。同时,孔隙压力预测在地质灾害防控领域也具有重要作用,异常高压地层的提前识别能够有效预警断层活化、诱发地震等潜在风险。因此,发展高精度、高效率的孔隙压力预测方法,对于保障钻井安全、降低工程成本、提升资源开发效益以及防控地质灾害均具有十分重要的现实意义。

2、相关技术中,通过地质专家对测井数据的人工分析,建立经验公式或图表来估算孔隙压力。这类方法对专家经验依赖度高,且难以处理声波时差、密度、自然伽马和感应电阻率等多类测井特征之间的复杂非线性耦合关系,导致预测精度和效率均受到较大限制。另外,研究人员尝试将机器学习技术引入孔隙压力预测领域。部分研究采用支持向量机模型,利用核函数将测井特征映射到高维空间以建立非线性映射关系。另有研究利用反向传播神经网络或多层感知机,通过多层非线性变换逼近孔隙压力的变化规律。这些数据驱动的方法在一定程度上减少了对人工经验的依赖,提升了预测的自动化水平。

3、然而,支持向量机受限于浅层结构,模型容量有限,难以充分挖掘测井数据中的深层非线性关系,忽略了不同测井特征之间以及不同深度点之间的长距离依赖关系。反向传播神经网络虽能逼近任意非线性函数,但模型无法有效区分不同测井特征在空间维度上的排列规律。

技术实现思路

1、有鉴于此,本申请实施例提供一种基于transformer的孔隙压力预测方法及系统,至少解决孔隙压力预测不准确的问题。

2、本申请实施例的技术方案是这样实现的:

3、第一方面,本申请实施例提供一种基于transformer的孔隙压力预测方法,所述方法包括:

4、获取预先采集的多个测井数据;

5、通过多头交叉注意力机制对多个所述测井数据进行特征融合,得到融合特征;

6、对所述融合特征进行维度扩展,得到扩展特征向量;

7、基于所述扩展特征向量中的位置索引和维度索引,通过正弦位置编码公式对所述扩展特征向量进行位置编码,得到编码特征向量;

8、基于预先训练的transformer模型对所述编码特征向量进行特征提取,得到目标特征向量;所述目标特征向量用于表征多个所述测井数据之间的复杂非线性与全局依赖关系;

9、通过所述transformer模型对所述目标特征向量进行预测,得到孔隙压力预测值。

10、第二方面,本申请实施例提供一种基于transformer的孔隙压力预测系统,所述系统包括:数据获取模块、特征融合模块、特征扩展模块、特征编码模块、特征提取模块和预测模块;其中:

11、所述数据获取模块,用于获取预先采集的多个测井数据;

12、所述特征融合模块,用于通过多头交叉注意力机制对多个所述测井数据进行特征融合,得到融合特征;

13、所述特征扩展模块,用于对所述融合特征进行维度扩展,得到扩展特征向量;

14、所述特征编码模块,用于基于所述扩展特征向量中的位置索引和维度索引,通过正弦位置编码公式对所述扩展特征向量进行位置编码,得到编码特征向量;

15、所述特征提取模块,用于基于预先训练的transformer模型对所述编码特征向量进行特征提取,得到目标特征向量;所述目标特征向量用于表征多个所述测井数据之间的复杂非线性与全局依赖关系;

16、所述预测模块,用于通过所述transformer模型对所述目标特征向量进行预测,得到孔隙压力预测值。

17、本申请实施例提供的技术方案带来的有益效果至少包括:

18、本申请获取预先采集的多个测井数据。通过多头交叉注意力机制对多个测井数据进行特征融合,得到融合特征。多头交叉注意力机制能够学习多个所述测井数据之间的相关性,将多个所述测井数据压缩为所述融合特征,突出对孔隙压力影响显著的测井数据组合,同时抑制弱相关数据的干扰,有效挖掘关键地质关联信息,避免人工特征工程,同时保留多个所述测井数据之间的关联信息。对融合特征进行维度扩展,得到扩展特征向量。通过在融合特征的序列维度上增加一个维度,使扩展特征向量的形状与后续transformer模型的输入格式要求匹配,确保transformer模型能够处理与扩展特征向量的维度相同的特征,避免因维度不匹配导致的运行错误。基于扩展特征向量中的位置索引和维度索引,通过正弦位置编码公式对扩展特征向量进行位置编码,得到编码特征向量。正弦位置编码为扩展特征向量注入位置信息,使transformer模型能够感知不同测井数据在序列中的顺序和位置关系,增强模型对测井数据排列规律的建模能力,避免因缺乏位置感知导致的特征混淆,提升模型对测井数据空间结构的利用效率。基于预先训练的transformer模型对编码特征向量进行特征提取,得到目标特征向量;目标特征向量用于表征多个测井数据之间的复杂非线性与全局依赖关系。预先训练的transformer模型通过多头自注意力层和前馈网络层的堆叠,能够捕捉测井数据中复杂的非线性关系和全局依赖关系,提取出富含预测信息的深层特征,使目标特征向量具有更强的表达能力,为后续回归预测提供高质量的特征输入。通过transformer模型对目标特征向量进行预测,得到孔隙压力预测值。transformer模型通过归一化、全连接、非线性激活和随机失活操作,将深层特征映射为具体的孔隙压力数值,实现从测井数据到孔隙压力值的输出,完成孔隙压力预测任务。随机失活层减少了transformer模型对特定神经元的依赖,提高了transformer模型在不同地质条件下的泛化性能。因此,本申请通过多头交叉注意力机制与transformer模型的协同工作,实现了对测井数据的深层特征提取,在提升孔隙压力预测精准度的同时保障了预测效率,能够适配复杂地质场景的应用需求。

1.一种基于transformer的孔隙压力预测方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述测井数据包括声波时差、密度、自然伽马和感应电阻率。

3.根据权利要求1所述的方法,其特征在于,所述多头交叉注意力机制包括查询矩阵、键矩阵以及值矩阵;所述通过多头交叉注意力机制对多个所述测井数据进行特征融合,得到融合特征,包括:

4.根据权利要求1所述的方法,其特征在于,所述对所述融合特征进行维度扩展,得到扩展特征向量,包括:

5.根据权利要求1所述的方法,其特征在于,所述预先训练的transformer模型包含多头自注意力层、前馈网络层、残差连接层和第一归一化层;

6.根据权利要求5所述的方法,其特征在于,所述前馈网络层中预设有第一权重矩阵、第二权重矩阵、第一偏置向量和第二偏置向量;

7.根据权利要求1所述的方法,其特征在于,所述transformer模型还包括第二归一化层、第一全连接层、第二激活函数、随机失活层以及第二全连接层;

8.根据权利要求1所述的方法,其特征在于,在所述获取预先采集的多个测井数据之后,还包括:

9.根据权利要求1所述的方法,其特征在于,所述正弦位置编码公式为正弦函数与余弦函数交替编码的公式,所述正弦位置编码公式中的位置索引为所述扩展特征向量中特征的位置序号,维度索引为所述扩展特征向量中特征的维度序号。

10.一种基于transformer的孔隙压力预测系统,其特征在于,所述系统包括:数据获取模块、特征融合模块、特征扩展模块、特征编码模块、特征提取模块和预测模块;其中: