一种基于自适应门控多专家网络的蛋白质多属性预测方法

摘要: 本申请涉及生物信息学与人工智能,尤其涉及一种基于自适应门控多专家网络的蛋白质多属性预测方法、装置、介质和设备。背景技术:1、随着蛋白质序列数据的快速积累,利用计...
一种基于自适应门控多专家网络的蛋白质多属性预测方法

本申请涉及生物信息学与人工智能,尤其涉及一种基于自适应门控多专家网络的蛋白质多属性预测方法、装置、介质和设备。

背景技术:

1、随着蛋白质序列数据的快速积累,利用计算方法对蛋白质的结构和功能属性进行预测已成为生物信息学领域的重要研究方向。蛋白质通常具有多种功能属性,例如亚细胞定位、功能类别或生物学活性等,因此如何同时对蛋白质的多种属性进行准确预测,对于理解蛋白质功能及其生物学机制具有重要意义。近年来,随着深度学习技术的发展,越来越多的研究开始利用神经网络模型对蛋白质序列进行建模,并通过多任务学习框架实现对多种蛋白质属性的联合预测。

2、然而,现有的多任务学习方法通常采用共享表示的方式对不同预测任务进行建模,即多个任务共享同一特征表示。这种方式虽然能够利用任务之间的相关性,但在实际应用中,不同蛋白质属性之间往往存在差异甚至冲突,共享特征表示容易导致任务之间产生干扰,从而影响模型的预测性能。此外,传统模型在进行多任务学习时缺乏有效的动态特征分配机制,难以根据不同任务的需求自适应地选择合适的特征信息,从而限制了模型对复杂蛋白质属性关系的建模能力。

技术实现思路

1、本发明的目的在于提供一种基于自适应门控多专家网络的蛋白质多属性预测方法,旨在解决现有蛋白质多属性预测方法在多任务学习过程中普遍采用共享特征表示而导致不同任务之间相互干扰、难以同时兼顾任务共性与差异性,以及缺乏有效的自适应特征分配机制等问题。

2、为实现上述目的,本发明提供一种基于自适应门控多专家网络的蛋白质多属性预测方法,包括:

3、获取蛋白质序列数据并进行预处理;

4、将预处理后的蛋白质序列输入特征编码模块,得到蛋白质序列特征向量;

5、基于多专家网络和自适应门控网络构建蛋白质多属性预测模型,所述多专家网络包括共享专家子网络和针对不同预测任务的任务特异专家子网络,利用所述共享专家子网络和任务特异专家子网络分别对所述蛋白质序列特征向量进行特征提取;利用自适应门控网络并根据预测任务的需求对各专家子网络的输出特征进行加权组合,得到各预测任务对应的聚合特征;

6、根据所述聚合特征进行任务特定特征学习,并输出多属性预测结果;

7、其中,在蛋白质多属性预测模型训练的反向传播阶段,对于任一当前预测任务,仅允许基于该当前预测任务的损失更新该当前预测任务对应的任务特异专家子网络、共享专家子网络及自适应门控网络的参数,阻断该当前预测任务的损失对其他预测任务对应的任务特异专家子网络的参数更新。

8、优选地,所述预处理包括序列清洗、去除冗余序列、统一序列格式,以及,根据已知数据库对蛋白质序列进行多属性标签标注。

9、优选地,所述特征编码模块采用transformer骨干网络,所述蛋白质序列特征向量包括共享骨干特征表示和任务特定骨干特征表示。

10、优选地,所述共享专家子网络的数量为ns个,每个预测任务对应的任务特异专家子网络的数量为nt个,其中ns和nt均为大于等于1的整数;每个专家子网络由独立的非线性映射函数构成。

11、优选地,所述自适应门控网络的输入为当前预测任务的任务特定骨干特征表示与共享骨干特征表示的拼接向量。

12、优选地,所述自适应门控网络通过softmax函数生成权重系数向量,并利用所述权重系数向量对各专家子网络的输出特征进行加权求和,得到所述聚合特征。

13、优选地,所述多属性预测任务包括主任务和辅助任务;

14、在所述任务特定特征学习过程中,主任务的特征学习引入辅助任务的聚合特征进行增强;

15、在反向传播阶段,阻断主任务的损失对辅助任务对应的专家子网络及骨干网络的梯度传播。

16、优选地,所述辅助任务包括抗菌耐药性预测任务和分子功能预测任务,所述主任务包括药物靶点预测任务。

17、优选地,所述阻断通过stop-gradient操作实现,所述stop-gradient操作用于在反向传播过程中截断梯度流,以实现任务间的解耦。

18、优选地,将所述聚合特征输入任务特定网络进行特征融合和表示学习,最后通过分类器输出预测结果。

19、与现有技术相比,本发明具有如下有益效果:

20、(1)本发明通过构建多专家网络结构,对蛋白质序列特征进行多角度建模,使不同专家子网络能够学习不同的特征表示,从而提升模型对复杂蛋白质序列特征的表达能力,提高蛋白质属性预测的准确性。

21、(2)本发明引入自适应门控机制,根据不同预测任务的需求对各专家子网络输出的特征进行动态加权,从而实现专家特征的自适应选择,有效缓解多任务学习过程中不同任务之间的特征冲突问题。

22、(3)本发明通过在反向传播阶段引入梯度阻断机制,实现了任务间的有效解耦,避免了不同任务梯度的相互干扰,保证了各任务特异专家网络能够专注于学习本任务相关的判别性特征,显著提升了模型的泛化能力。

23、(4)本发明所提出的方法能够在保证模型预测性能的同时,提高模型在复杂蛋白质多属性预测任务中的稳定性与适用性,适用于大规模蛋白质序列数据的自动化分析与功能预测。

1.一种基于自适应门控多专家网络的蛋白质多属性预测方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述预处理包括序列清洗、去除冗余序列、统一序列格式,以及,根据已知数据库对蛋白质序列进行多属性标签标注。

3.根据权利要求1所述的方法,其特征在于,所述特征编码模块采用transformer骨干网络,所述蛋白质序列特征向量包括共享骨干特征表示和任务特定骨干特征表示。

4.根据权利要求3所述的方法,其特征在于,所述共享专家子网络的数量为ns个,每个预测任务对应的任务特异专家子网络的数量为nt个,其中ns和nt均为大于等于1的整数;每个专家子网络由独立的非线性映射函数构成。

5.根据权利要求3所述的方法,其特征在于,所述自适应门控网络的输入为当前预测任务的任务特定骨干特征表示与共享骨干特征表示的拼接向量。

6.根据权利要求5所述的方法,其特征在于,所述自适应门控网络通过softmax函数生成权重系数向量,并利用所述权重系数向量对各专家子网络的输出特征进行加权求和,得到所述聚合特征。

7.根据权利要求1所述的方法,其特征在于,所述多属性预测任务包括主任务和辅助任务;

8.根据权利要求7所述的方法,其特征在于,所述辅助任务包括抗菌耐药性预测任务和分子功能预测任务,所述主任务包括药物靶点预测任务。

9.根据权利要求1所述的方法,其特征在于,所述阻断通过stop-gradient操作实现,所述stop-gradient操作用于在反向传播过程中截断梯度流,以实现任务间的解耦。

10.根据权利要求1所述的方法,其特征在于,将所述聚合特征输入任务特定网络进行特征融合和表示学习,最后通过分类器输出预测结果。