一种基于序列-结构双模态跨蛋白注意力融合的蛋白质相互作用预测方法
本发明属于生物信息学,具体涉及一种基于序列-结构双模态跨蛋白注意力融合的蛋白质相互作用预测方法。
背景技术:
1、蛋白质-蛋白质相互作用(protein-protein interactions,ppis)在细胞信号转导、转录调控、代谢调节、免疫反应、病毒感染以及疾病发生发展过程中发挥着重要作用。准确识别蛋白质之间的相互作用关系,对于理解蛋白质功能、构建生物分子互作网络、阐明疾病机制以及辅助药物靶点发现具有重要意义。
2、传统的蛋白质相互作用检测方法主要包括酵母双杂交、免疫共沉淀、亲和纯化质谱以及蛋白质芯片等实验方法。尽管这些实验方法能够为蛋白质相互作用研究提供重要依据,但通常存在实验周期长、成本高、覆盖范围有限以及假阳性或假阴性较高等问题。因此,构建高效、准确且具有可解释性的计算预测方法,已经成为蛋白质相互作用研究中的重要方向。
3、近年来,基于机器学习和深度学习的蛋白质相互作用预测方法得到了广泛关注。现有方法通常利用蛋白质序列特征、理化性质特征、进化信息、结构信息或生物网络信息进行建模。其中,蛋白质语言模型能够从大规模蛋白质序列中学习上下文和进化相关信息,生成有效的残基级序列表征;同时,蛋白质三维结构能够提供与分子结合和空间构象密切相关的几何信息。然而,许多现有方法仍主要依赖单一模态特征,或者仅通过简单拼接方式融合序列和结构信息,难以充分利用二者之间的互补性。
4、此外,蛋白质相互作用通常由蛋白质表面或界面区域的局部残基依赖关系决定,而不仅仅取决于两个蛋白质的全局表示。现有部分方法在建模蛋白质对关系时,将两个蛋白质表示简单拼接后进行分类,难以显式捕获两个蛋白质之间的残基级交互依赖关系,也难以提供与潜在结合区域相关的可解释性信息。因此,有必要设计一种能够融合蛋白质序列和结构双模态信息,并显式建模蛋白质对残基级交互关系的蛋白质-蛋白质相互作用预测方法。
技术实现思路
1、本发明所要解决的技术问题是针对现有技术的不足,提供一种基于序列-结构双模态跨蛋白注意力融合的蛋白质相互作用预测方法,以解决现有蛋白质相互作用预测方法中序列信息和结构信息融合不足、蛋白质对残基级交互关系建模能力有限以及预测结果可解释性不足的问题。
2、为了解决上述技术问题,本发采用了以下技术方案:
3、本发明第一方面公开了一种基于序列-结构双模态跨蛋白注意力融合的蛋白质相互作用预测方法,包括如下步骤:
4、s1、获取待预测蛋白质对中两个蛋白质的氨基酸序列信息和蛋白质骨架结构信息;
5、s2、利用蛋白质语言模型分别对两个蛋白质各自的氨基酸序列信息进行编码,提取每个蛋白质的残基级序列表征;
6、s3、利用结构编码模型分别对两个蛋白质各自的氨基酸序列信息和蛋白质骨架结构信息进行编码,提取每个蛋白质的残基级结构表征;
7、s4、分别将两个蛋白质各自的残基级序列表征和残基级结构表征投影至相同维度的共享隐空间,获得两个蛋白质的序列隐表示和结构隐表示;
8、s5、将两个蛋白质投影后的序列隐表示和结构隐表示分别进行残基长度对齐,并通过残差相加和层归一化进行蛋白内融合,获得两个蛋白质各自的融合残基级蛋白质表示;
9、s6、将蛋白质对中一个蛋白质的融合残基级蛋白质表示作为查询向量,将另一个蛋白质的融合残基级蛋白质表示作为键向量和值向量,构建双向跨蛋白注意力模块,以获得两个蛋白质各自的上下文增强残基表示和对应的跨蛋白注意力图;
10、s7、根据跨蛋白注意力图计算各残基的重要性分数,再利用温度缩放的softmax函数获得两个蛋白质各自的残基级池化权重;
11、s8、利用残基级池化权重对上下文增强残基表示进行加权求和,获得两个蛋白质各自的蛋白级表示;
12、s9、基于两个蛋白质的蛋白级表示构建蛋白质对交互表征,并将所述蛋白质对交互表征输入多层感知机分类器,输出蛋白质-蛋白质相互作用预测结果。
13、其中,s1中,所述氨基酸序列信息为长度为的蛋白质中氨基酸残基的集合;所述蛋白质骨架结构信息为长度为的蛋白质中每个残基保留和四个主链原子的三维坐标形成的维度为的骨架坐标张量。
14、在本发明的一些实施例中,为便于公式表达将待预测蛋白质对第一蛋白质和第二蛋白质命名为蛋白质a和蛋白质b,需要说明的是,蛋白质a和蛋白质b不表示特定蛋白名称、蛋白类别或固定先后顺序。
15、在本发明的一些实施例中,s1中,蛋白质a和蛋白质b的氨基酸序列分别表示为和:
16、
17、其中,表示蛋白质a的第个氨基酸残基,表示蛋白质b的第个氨基酸残基,和分别表示蛋白质a和蛋白质b的残基长度。
18、在本发明的一些实施例中,s1中,蛋白质a和蛋白质b的蛋白质骨架结构信息分别表示为和:
19、
20、
21、其中,和分别表示蛋白质a和蛋白质b的骨架坐标张量,表示蛋白质a中第i个残基对应的四个主链原子的三维坐标集合,表示蛋白质b中第j个残基对应的四个主链原子的三维坐标集合,和分别表示蛋白质a和蛋白质b的残基数量,4表示每个残基保留的4个主链原子,3表示每个原子的三维坐标维度。
22、其中,s2中,所述蛋白质语言模型为冻结参数的esm-2蛋白质语言模型;所述蛋白质语言模型对长度为的蛋白质序列进行编码,输出维度为的残基级序列表征。
23、在本发明的一些实施例中,s2中,所述残基级序列表征具体表示为:
24、
25、其中,表示蛋白质的残基级序列表征,表示冻结参数的esm-2蛋白质语言模型,表示蛋白质序列。
26、其中,s3中,所述结构编码模型为冻结参数的proteinmpnn编码器;所述结构编码模型对长度为的蛋白质的氨基酸序列信息和蛋白质骨架结构信息进行编码,输出维度为的残基级结构表征。
27、在本发明的一些实施例中,s3中,所述残基级结构表征具体表示为:
28、
29、其中,表示残基级结构表征,表示冻结参数的proteinmpnn编码器,表示蛋白质序列,表示蛋白质骨架坐标张量。
30、其中,s4中,所述残基级序列表征和残基级结构表征分别通过线性变换、层归一化和gelu激活函数投影至256维。
31、在本发明的一些实施例中,s4中,残基级序列表征经过线性变换、层归一化和激活函数后由1280维映射至256维;残基级结构表征经过线性变换、层归一化和激活函数后由128维映射至256维,从而使序列信息和结构信息处于相同维度的共享隐空间,具体表示为:
32、
33、
34、其中,表示投影后的序列隐表示,表示投影后的结构隐表示,表示层归一化操作,表示序列模态投影层的权重矩阵,表示序列模态投影层的偏置向量,表示结构模态投影层的权重矩阵,表示结构模态投影层的偏置向量。
35、在本发明的一些实施例中,s5中,蛋白质a和蛋白质b的残基级蛋白质表示具体表示为:
36、
37、
38、其中,和分别表示蛋白质和蛋白质b融合后的残基级蛋白质表示,和分别表示蛋白质和蛋白质投影后的序列隐表示,和分别表示蛋白质和蛋白质投影后的结构隐表示,表示填充或截断操作,表示层归一化操作。
39、其中,s6中,双向跨蛋白注意力模块包括从蛋白质a到蛋白质b的注意力方向和从蛋白质b到蛋白质a的注意力方向;在第一方向中,蛋白质a的融合残基级蛋白质表示作为查询向量,蛋白质b的残基级蛋白质表示作为键向量和值向量;在第二方向中,蛋白质b的融合残基级蛋白质表示作为查询向量,蛋白质a的融合残基级蛋白质表示作为键向量和值向量。
40、在本发明的一些实施例中,s6中,蛋白质a和蛋白质b对应的查询向量、键向量和值向量,具体表示为:
41、
42、
43、其中,和分别表示第m个注意力头下蛋白质a的查询向量、键向量和值向量,和分别表示第m个注意力头下蛋白质b的查询向量、键向量和值向量;和分别表示第m个注意力头对应的查询、键和值线性映射权重矩阵。
44、在本发明的一些实施例中,s6中,对于蛋白质a到蛋白质b的方向,计算如下:
45、
46、
47、对于蛋白质b到蛋白质a的方向,计算如下:
48、
49、
50、其中,和分别表示第个注意力头下蛋白质到蛋白质方向以及蛋白质到蛋白质方向的跨蛋白注意力图,和分别表示第个注意力头下蛋白质和蛋白质的上下文增强残基表示,表示归一化指数函数,用于将残基间注意力得分归一化为注意力权重;表示单个注意力头的特征维度,用于对点积注意力得分进行缩放,以避免注意力得分数值过大;表示第个注意力头。
51、其中,所述双向跨蛋白注意力模块采用多头注意力机制,隐藏维度为256,注意力头数为4,每个注意力头的维度为64。
52、在本发明的一些实施例中,s6中,多个注意力头的输出经过拼接和线性变换后,得到最终的上下文增强残基表示,具体表示为:
53、
54、
55、其中,m表示注意力头数,表示多头注意力输出线性变换的权重矩阵,用于将拼接后的多头注意力表示映射回预设隐藏维度,表示在特征维度上对多个注意力头的输出进行拼接的操作。
56、其中,s7中,对多个注意力头得到的跨蛋白注意力图进行平均,并根据相反方向的注意力图计算目标蛋白质中各残基的重要性分数,其中蛋白质a的残基重要性分数由蛋白质b到蛋白质a的注意力图求和得到;蛋白质b的残基重要性分数由蛋白质a到蛋白质b的注意力图求和得到。
57、在本发明的一些实施例中,s7中,所述蛋白质a和蛋白质b的残基重要性分数具体表示为:
58、
59、
60、
61、
62、其中,和分别表示蛋白质a和蛋白质b中各残基的重要性分数。
63、在本发明的一些实施例中,s7中,将残基重要性分数输入温度缩放的softmax函数,得到蛋白质a和蛋白质b每个残基对应的池化权重,该池化权重用于衡量各残基在蛋白质对相互作用预测中的贡献程度,具体表示为:
64、
65、
66、其中,和分别表示蛋白质a和蛋白质b的残基级池化权重,表示池化温度参数。
67、在本发明的一些实施例中,s8中,蛋白质a和蛋白质b的蛋白级表示为:
68、
69、
70、其中,和分别表示蛋白质a和蛋白质b的蛋白级表示。
71、其中,s9中,所述蛋白质对交互表征由两个蛋白质的蛋白级表示、两个蛋白级表示的逐元素乘积、两个蛋白级表示的绝对差值和两个蛋白级表示的余弦相似度拼接构成。
72、在本发明的一些实施例中,s9中,蛋白质a和蛋白质b的蛋白质对交互表征为:
73、
74、其中,表示蛋白质对交互表征。
75、在本发明的一些实施例中,s10中,所述多层感知机分类器包括依次连接的线性层、批归一化层、relu激活函数和dropout层,并最终输出蛋白质对发生相互作用的预测得分,具体表示为:
76、
77、
78、其中,表示分类器输出的预测得分,表示蛋白质对发生相互作用的预测概率,表示步骤s9中构建的蛋白质对交互表征,表示多层感知机分类器映射函数用于将蛋白质对交互表征映射为相互作用预测得分,表示激活函数,用于将预测得分映射到[0,1]区间,得到蛋白质对发生相互作用的概率。
79、其中,所述蛋白质相互作用预测方法的模型训练过程中采用二分类焦点损失作为蛋白质-蛋白质相互作用预测损失,并采用序列-结构对比损失对同一蛋白质的全局序列表征和全局结构表征进行对齐,以增强序列模态和结构模态之间的一致性。
80、在本发明的一些实施例中,所述损失函数具体表示为:
81、
82、其中,表示二分类焦点损失,表示序列-结构对比损失,表示对比损失权重。
83、在本发明的一些实施例中,通过在酵母五折交叉验证数据集、多物种蛋白质相互作用数据集和病毒-宿主蛋白质相互作用数据集上对奔放提供的蛋白相互作用预测方法进行验证,表明本发明提供的基于序列-结构双模态跨蛋白注意力融合的蛋白质相互作用预测方法能够有效预测酵母蛋白质之间的潜在相互作用,并在准确性、灵敏度和整体判别能力方面均表现出较好的性能,通过和现有预测方法进行对比,证明了本发明提供的预测方法有助于提高模型在跨物种蛋白质相互作用预测任务中的泛化能力,具备较强的预测性能。
84、有益效果:
85、1、本发明同时利用蛋白质氨基酸序列信息和蛋白质骨架结构信息,通过预训练蛋白质语言模型和结构编码模型分别提取残基级序列表征和结构表征,能够更全面地表征蛋白质的功能相关特征。
86、2、本发明通过蛋白内序列-结构融合模块和双向跨蛋白注意力模块,既实现了序列信息与结构信息的残基级融合,又能够显式建模两个蛋白质之间的残基级交互依赖关系,从而提高蛋白质-蛋白质相互作用预测的判别能力。
87、3、本发明根据跨蛋白注意力图计算残基级池化权重,使模型能够突出对相互作用预测贡献较大的残基区域,从而提高预测结果的可解释性,并具有较好的泛化能力。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com