一种基于生物大模型和异质图的多任务关联预测方法及系统

本发明涉及生物信息学与人工智能，特别是涉及一种基于生物大模型和异质图的多任务关联预测方法及系统。

背景技术：

1、mirna、蛋白质、药物和疾病之间存在复杂的调控、作用和治疗关系。准确预测尚未被实验验证的生物医学关联，可用于疾病机制分析、候选靶点发现、药物重定位和药物调控机制研究。由于实验验证成本高、周期长，基于已有数据库和人工智能模型进行候选关联排序已成为重要的辅助研究手段。

2、现有技术主要包括基于相似度传播或矩阵分解的方法、基于单一深度神经网络的方法以及基于图神经网络的链路预测方法。上述方法在实际应用中仍存在以下不足：

3、（1）不同实体模态差异显著。mirna和蛋白质以生物序列为主要信息载体，药物以分子结构或smiles字符串表示，疾病则主要由医学名称、定义和描述表征。传统人工特征或统一编码方式难以同时提取四类实体的高层语义。

4、（2）现有图模型往往将不同关系统一处理，未充分区分mirna-疾病、mirna-蛋白质、药物-疾病、药物-mirna及药物-蛋白质等关系的语义差异，容易造成异质关系信息混叠。

5、（3）多数方法仅采用特征拼接、内积或单一双线性交互描述候选实体对，难以同时刻画实体对的联合属性、一致特征、差异特征和任务特异性匹配模式。

6、（4）不同预测任务的数据规模和难度差异明显。固定任务权重会使样本量大的任务主导模型更新，样本稀疏任务难以充分受益于共享知识。

7、（5）图传播可能削弱预训练模型提供的原始语义，导致语义信息与网络结构信息不能协同利用。

8、因此，需要一种能够针对不同实体调用适配的生物预训练模型、显式建模多类型关系、按候选实体对与具体任务动态融合多种交互证据，并在多任务间实现稳定知识迁移的关联预测技术方案。

技术实现思路

1、本发明的目的是提供一种基于生物大模型和异质图的多任务关联预测方法及系统，利用与不同实体数据形式相匹配的生物大模型，分别提取mirna、蛋白质、药物和疾病的语义特征，并通过关系感知异质图编码、生物大模型语义与网络结构一致性约束、任务条件多通道实体对融合以及动态多任务联合训练，实现多种生物实体关联关系的协同预测。

2、为实现上述目的，本发明提供了如下方案：

3、一种基于生物大模型和异质图的多任务关联预测方法，包括：

4、获取不同类型实体的原始数据和已知关联数据，构建训练样本，其中，所述不同类型实体包括mirna、蛋白质、药物和疾病；

5、通过所述训练样本训练多任务关联预测模型，其中，所述多任务关联预测模型利用多个交互通道构建候选实体对的多通道交互表示，根据候选实体对、任务类型、所述多通道交互表示计算各通道置信度，根据各通道置信度获得实体对融合表示，将所述实体对融合表示输入任务对应的预测头，输出候选实体对之间的关联概率，训练过程中联合优化多任务分类损失、语义-结构一致性损失和模型正则化项；

6、将待预测候选实体输入训练后多任务关联预测模型，获取对应预测任务下的关联概率，并按照关联概率从高到低生成候选关联排序结果。

7、可选的，构建所述语义-结构一致性损失包括：

8、采用不同生物大模型对所述不同类型实体的原始数据进行实体特征提取并映射至统一空间，获取实体初始语义表示；

9、根据所述实体初始语义表示和所述已知关联数据，构建生物医学异质图；

10、对所述生物医学异质图进行编码，获取图结构表示；

11、将同一节点的所述实体初始语义表示和所述图结构表示作为正样本对，将不同节点的表示作为负样本对，构建所述语义-结构一致性损失。

12、可选的，采用不同生物大模型对所述原始数据进行实体特征提取包括：

13、采用rna序列大模型对所述mirna的原始数据进行编码，采用蛋白质语言大模型对所述蛋白质的原始数据进行编码，采用分子语言大模型对药物的原始数据进行编码，采用生物医学文本大模型对所述疾病的原始数据进行编码。

14、可选的，所述生物医学异质图中的节点包括mirna节点、蛋白质节点、药物节点和疾病节点，边表示不同类型实体之间的已知关联关系并设置有置信度，关系类型至少包括mirna-疾病关系、mirna-蛋白质关系、药物-疾病关系和药物-mirna关系，对于每种关系增加对应的反向关系，并为全部节点增加自连接关系。

15、可选的，对所述生物医学异质图进行编码包括：

16、；

17、；

18、其中，和分别为节点在第层和第层的图结构表示，为门控向量，和分别为门控网络的可学习权重参数和偏置参数，表示sigmoid激活函数，为节点在第层接收的不同关系邻居加权信息，表示非线性特征变换，表示特征拼接，表示逐元素相乘，表示层归一化。

19、可选的，所述语义-结构一致性损失为：

20、；

21、其中，和分别为节点的大模型语义投影表示和图结构投影表示，表示余弦相似度，为节点j的图结构投影表示，为温度系数，为节点数量，为语义-结构一致性损失。

22、可选的，利用多个交互通道构建候选实体对的多通道交互表示包括：

23、；

24、；

25、；

26、；

27、其中，表示联合属性信息，表示两个实体在潜在特征空间中的匹配信息，表示两个实体之间的差异信息，表示任务特异性交互信息；至为通道特征映射网络，和为预测任务对应的源实体变换参数和目标实体变换参数，为源实体表示，为目标实体表示。

28、本发明还提供了一种基于生物大模型和异质图的多任务关联预测系统，用于实现基于生物大模型和异质图的多任务关联预测方法，包括：

29、数据处理模块，用于获取不同类型实体的原始数据和已知关联数据，构建训练样本，其中，所述不同类型实体包括mirna、蛋白质、药物和疾病；

30、模型训练模块，用于通过所述训练样本训练多任务关联预测模型，其中，所述多任务关联预测模型利用多个交互通道构建候选实体对的多通道交互表示，根据候选实体对、任务类型、所述多通道交互表示计算各通道置信度，根据各通道置信度获得实体对融合表示，将所述实体对融合表示输入任务对应的预测头，输出候选实体对之间的关联概率，训练过程中联合优化多任务分类损失、语义-结构一致性损失和模型正则化项；

31、多任务预测模块，用于将待预测候选实体输入训练后多任务关联预测模型，获取对应预测任务下的关联概率，并按照关联概率从高到低生成候选关联排序结果。

32、本发明的有益效果为：

33、1.类型适配的预训练语义表示：针对mirna、蛋白质、药物和疾病分别采用与数据形态相匹配的预训练模型，能够从序列、分子和医学文本中提取高层语义，减少人工特征设计，并为新实体提供可迁移的初始表示。

34、2.区分不同关系的信息传递：本发明针对不同类型的生物关联分别进行信息处理，使模型能够区分mirna-疾病、mirna-蛋白质、药物-疾病和药物-mirna等不同关系，而不是将所有关系作为同一种连接进行处理。同时，根据关系的可靠程度调整其信息贡献，并保留实体本身的大模型特征，从而减少不可靠关系对预测结果的影响。

35、3.实体语义与网络信息的协同学习：本发明同时利用生物大模型提取的实体自身特征和异质图中包含的关联信息，并使两类信息在训练过程中保持一致。这样既能够保留mirna序列、蛋白质序列、药物结构和疾病文本中的原始信息，又能够补充实体在生物网络中的关联特征，从而获得更加完整和稳定的实体表示。

36、4.任务条件多通道置信度融合：从联合属性、逐元素一致性、绝对差异和任务特异双线性交互四个通道刻画候选实体对，并为每个实体对动态估计通道权重，相比固定拼接或单一内积具有更强的适应性和可解释性。

37、5.动态多任务知识迁移：通过共享预训练特征空间和异质图编码器实现跨任务知识共享，同时通过独立预测头保留任务特异性，并利用可学习不确定性动态平衡不同任务，提升样本稀疏任务的学习效果。