一种基于GNN-Transformer融合的精神分裂症DNA甲基化分类方法及系统
本发明涉及生物信息学,具体涉及一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法及系统。
背景技术:
1、精神分裂症是一种严重的精神障碍性疾病,全球患病率约为1%,具有高致残率和高疾病负担。目前临床诊断主要依赖症状描述和行为观察,缺乏客观的分子生物学标志物,导致诊断延迟和误诊风险较高。
2、dna甲基化是一种重要的表观遗传修饰,已有研究表明精神分裂症患者在特定cpg位点存在异常甲基化模式。illumina humanmethylation450k芯片可同时检测约450000个cpg位点的甲基化水平(beta值),为全基因组范围的表观遗传学研究提供了高通量数据基础。然而,该类数据具有高维度(特征数远超样本数)、强噪声及复杂的非线性基因组关联等特点,传统机器学习方法难以充分建模其内在的空间拓扑结构和长程依赖关系。
3、现有的甲基化分类方法主要存在以下局限:第一,传统机器学习方法(如svm、随机森林)依赖人工特征工程,无法自动捕捉cpg位点间的高阶非线性关系;第二,现有深度学习方法(如mlp、1d-cnn)将cpg位点视为独立特征,忽略了位点间的基因组空间关联;第三,图神经网络方法虽能建模拓扑结构,但缺乏对序列层面长程依赖的建模;第四,现有方法多采用单一随机种子训练,结果稳定性难以保证。
技术实现思路
1、本发明为克服现有技术中甲基化分类方法中存在传统机器学习方法依赖人工特征工程,无法自动捕捉cpg位点间的高阶非线性关系,将cpg位点视为独立特征,忽略了位点间的基因组空间关联以及图神经网络方法虽能建模拓扑结构,但缺乏对序列层面长程依赖的建模,现有方法多采用单一随机种子训练,结果稳定性难以保证等问题。为此本发明提出了一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法及系统,为解决上述技术问题本发明是通过以下技术方案实现的:
2、方案一、本发明提出了一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法,所述方法包括以下步骤:
3、步骤1、获取geo数据库中两组精神分裂dna甲基化数据,对两组精神分裂dna甲基化数据选取共同cpg位点交集,并对所选取共同cpg位点交集进行预处理,对疾病状态和数据集来源进行联合分层抽样;
4、步骤2、将步骤1中所选取共同cpg位点交集作为图的节点,通过三层边权重策略构建异质加权图;
5、步骤3、构建gnn-transformer融合模型,实现双路特征提取与跨模态cross-attention交互,并输入3层mlp分类器中,输出2类的logits进行分类预测;
6、步骤4、基于步骤3所输出的2类的logits,采用5个随机种子的多种子训练策略,以focal loss与label smoothing为目标函数对步骤3所构建的gnn-transformer融合模型进行优化。
7、进一步的,提供一种优选实施方式,步骤1中以疾病状态和数据集来源进行联合分层抽样的方法为:
8、将两组精神分裂dna甲基化数据划分为训练集、验证集和测试集,所述训练集、验证集和测试集的比例为8:1:1。
9、进一步的,提供一种优选实施方式,对于训练集,计算每个cpg位点的缺失值比例,移除缺失率超过5%的位点;对于验证集和测试集使用训练集均值填充,将所有cpg位点的甲基化水平值裁剪至[0.001,0.999]。
10、进一步的,提供一种优选实施方式,步骤1中还包括采用标准化缩放器法对训练集拟合后对所有集合进行z-score标准化的步骤。
11、进一步的,提供一种优选实施方式,步骤2中通过三层边权重策略构建异质加权图的方法为:
12、步骤2.1、构建layer1强生物学先验连接,对同一基因名称且基因组距离小于10kb的cpg位点对建立连接;对同一染色体10kb窗口内标注为cpg island的位点对建立连接;
13、步骤2.2、构建layer2中等生物学先验连接,对同一染色体上基因组距离小于50kb的cpg位点对建立连接;对同类型基因区域的位点对给予1.2倍权重加成;
14、步骤2.3、构建layer3统计相关性连接在训练集上计算所有cpg位点对的pearson相关系数绝对值矩阵,取top5%作为阈值,对超过阈值的位点对建立相关性边;限制每个节点的layer3总度数不超过40;边权重为0.5×|r|,其中r为pearson相关系数;
15、步骤2.4、基于步骤2.1至步骤2.3,完成异质加权图的构建,计算异质加权图的连通分量,对孤立节点通过knn策略建立修复边,确保图为连通图;最终对所有边权重归一化至[0.01,1.0]区间。
16、进一步的,提供一种优选实施方式,步骤3中构建gnn-transformer融合模型的方法为:
17、步骤3.1、构建输入投影层与gnn分支,通过线性变换将每个cpg位点的单维cpg位点的甲基化水平值映射为64维特征向量;
18、步骤3.2、构建transformer分支,对原始cpg位点的甲基化水平值通过值嵌入层映射后,叠加可学习的位置嵌入,输入2层transformerencoder;
19、步骤3.3、构建cross-attention双向交互模块,所述cross-attention双向交互模块包括gnn到transformer和transformer到gnn两个方向的注意力交互,每个方向配备独立的q/k/v投影矩阵、dropout和残差layernorm,使两分支特征表示相互感知,实现跨模态特征互补;
20、步骤3.4、cross-attention双向交互模块后的gnn特征和transformer特征分别提取attentionpooling、最大池化和全局均值池化,共6路特征向量拼接为384维综合表示,并输入3层mlp分类器中,输出2类的logits进行分类预测。
21、进一步的,提供一种优选实施方式,步骤4中以focal loss与label smoothing为目标函数对步骤3所构建的gnn-transformer融合模型进行优化的方法为:
22、配置损失函数与优化策略,损失函数采用focal loss与label smoothing的组合:focalloss通过调制因子降低易分样本的损失权重;label smoothing将硬标签软化,用于缓解模型过拟合,优化器使用adamw实现,学习率调度采用cosineannealinglr实现。
23、方案二、一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法,所述方法包括以下步骤:
24、数据采集模块,用于获取geo数据库中两组精神分裂dna甲基化数据,对两组精神分裂dna甲基化数据选取共同cpg位点交集,并对所选取共同cpg位点交集进行预处理,对疾病状态和数据集来源进行联合分层抽样;
25、异质加权图构建模块,用于将数据采集模块中所选取共同cpg位点交集作为图的节点,通过三层边权重策略构建异质加权图;
26、分类模块,用于构建gnn-transformer融合模型,实现双路特征提取与跨模态cross-attention交互,并输入3层mlp分类器中,输出2类的logits进行分类预测;
27、优化模块,用于基于分类模块所输出的2类的logits,采用5个随机种子的多种子训练策略,以focal loss与label smoothing为目标函数对步骤3所构建的gnn-transformer融合模型进行优化。
28、方案三、一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现方案一所述的方法的步骤。
29、方案四、一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,当所述处理器运行所述存储器存储的计算机程序时,所述处理器执行方案一所述的方法。
30、本发明的有益之处在于:
31、本发明所述的一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法及系统通过三层分层图构建策略,即layer1生物学先验连接、layer2基因组距离连接、layer3统计相关性连接,将基因组先验知识有效编码为加权图结构,相比纯数据驱动的图构建方法显著提升图的生物学合理性。
32、本发明所述的一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法及系统中gnn与transformer双路融合架构配合cross-attention双向交互机制,同时捕捉局部图拓扑信息和全局序列依赖,弥补了单一模型的局限性,特征互补性强。
33、本发明所述的一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法及系统中通过6路混合池化策略,即注意力池化、最大池化、均值池化各2路,充分聚合多粒度特征表示,提升分类鲁棒性。
34、本发明所述的一种基于gnn-transformer融合的精神分裂症dna甲基化分类方法及系统采用5个随机种子的重复训练与mean±std统计报告,保证实验结果的可重复性和统计可靠性。
35、本发明还适用于将图神经网络(graph neural network,gnn)与transformer模型融合、用于精神分裂症(schizophrenia,scz)dna甲基化数据分类的方法等应用领域。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com