一种融合专家先验与双层对比表征学习的药物发现方法
本发明涉及药物发现领域,具体涉及一种融合专家先验与双层对比表征学习的药物发现方法。
背景技术:
1、药物靶点相互作用的识别与相互作用机制的阐明是药物发现流程中的核心环节。随着生化数据的增长,深度学习实现了从人工特征工程到自动化表征学习的范式转变。图神经网络通过将原子抽象为节点、化学键抽象为边来捕获分子的拓扑依赖关系,现已成为分子建模的主流标准。
2、然而,将这些数据驱动模型应用于真实生物医学场景仍面临一个根本困境,即深度学习对海量数据的需求与临床研究中固有的数据稀缺性之间的矛盾。虽然在zinc15等数十亿分子上进行的大规模预训练展现出了一定潜力,但也引入了巨大的计算负担,且隐私问题限制了敏感专有数据的聚合。因此,模型通常必须在低资源或冷启动环境下运行。在上述限制下,现有的框架主要存在以下两类实现方案及其局限性:
3、第一类是基于自监督图对比学习的分子表征学习方法。该领域的主流策略是通过随机数据增强生成同一分子的不同视图,并最大化这些视图之间的一致性。例如引入节点丢弃和子图掩码等增强方法。这类方法的缺陷在于,随机扰动会破坏关键的化学语义,无意中改变药效团或破坏决定分子生物活性的官能团。为缓解此问题,部分现有技术尝试利用分子知识图谱和功能线索增强属性预测。但这些方法通常仅将化学先验视为静态输入描述符或独立的辅助训练目标,缺乏将专家先验深度融入节点初始化和消息传递阶段的机制。这导致模型无法获得区分药理活性子结构与非活性背景骨架的归纳偏置,在冷启动环境下泛化能力较差。
4、第二类是针对具体药物发现任务的端到端深度学习预测架构。现有的诸多模型利用图神经网络提取药物特征,随后通过全局池化操作将复杂的分子结构压缩为单一向量,最后连接简单的拼接操作或浅层多层感知机进行相互作用预测。这种后期融合与浅层投影的策略存在严重的表征瓶颈。浅层投影头本质上缺乏捕获控制药物靶点结合的复杂高阶非线性关系的能力,导致提取的丰富空间信息和语义特征丢失。为突破这一限制,近期部分技术方案引入了词元级别的交叉注意力模块以动态对齐药物子结构与蛋白质残基。虽然此类机制提供了更细粒度的表征,但过度侧重于捕获输入数据内部的局部依赖关系,从而忽略了实现稳健泛化所必需的全局任务级别相关性。
5、因此,现需要一种能够将专家先验融入分子图表征学习的方法以提高数据利用效率,同时堆叠泛化策略解决特征与预测间的表征瓶颈,从而有效提升在数据稀缺环境下的药物发现准确率的融合专家先验与双层对比表征学习的药物发现方法。
技术实现思路
1、本发明的主要目的在于提供一种融合专家先验与双层对比表征学习的药物发现方法,以解决现有技术中无法获得区分药理活性子结构与非活性背景骨架的归纳偏置,过度侧重于捕获输入数据内部的局部依赖关系,忽略了实现稳健泛化所必需的全局任务级别相关性的问题。
2、为实现上述目的,本发明提供了一种融合专家先验与双层对比表征学习的药物发现方法,具体包括如下步骤:
3、s1,将隐含的化学专家先验知识通过smarts模式进行显式编码,并进行分子图节点的初始化,基于图注意力网络对初始化后的节点进行聚合,得到全局图表征。
4、s2,构建基于动量驱动的教师与学生双分支网络,包括:教师图注意力网络编码器和学生图注意力网络编码器;并在节点和全局图两个层级引入对比学习机制,捕获分子的全局拓扑信息与局部关键子结构语义。
5、s3,将预训练完成的学生图注意力网络编码器权重冻结,并将经过步骤s2得到分子拓扑与化学键语义特征、刚性指纹特征和蛋白质序列特征相融合,构建混合特征向量。
6、s4,采用自适应堆叠泛化模块作为预测头,以混合特征向量作为自适应堆叠泛化模块的输入,得到药物活性预测值。
7、进一步地,具体包括如下步骤:
8、s1.1,将原子固有特征、几何先验特征和功能先验特征拼接,作为药物分子图节点输入特征向量:
9、。
10、s1.2,利用smarts模式对进行编码,完成节点初始化,将初始层的输入节点特征矩阵定义为:
11、;
12、其中,为初始层的节点的嵌入。
13、s1.3,采用图注意力网络作为主干编码器,利用自适应池化机制对图注意力网络的层输出进行聚合,设为第层的节点的特征,则第层的图级表征为:
14、;
15、其中,为全局求和池化,得到第层的图级表征,为节点总数。
16、s1.4,通过具有函数的感知机网络生成可学习的权重向量,用于确定各个网络层的权重:
17、;
18、其中,为归一化指数函数,为多层感知机。
19、s1.5,将各网络层对应的图级表征按照权重进行加权求和,得到最终图级表征全局图表征:
20、;
21、其中,为第层的权重。
22、进一步地,步骤s1.1中,固有特征包括:原子类型、度数、形式电荷、杂化类型、芳香性及成环性;几何先验特征用于表征手性、成键状态、链环形态、可旋转键及邻间对位结构模式;功能先验特征用于表征羰基、含氮、含氧、含硫及卤素的官能团。
23、进一步地,步骤s2具体包括如下步骤:
24、s2.1,学生图注意力网络编码器输入原始图的增强视图,并通过非线性投影头生成潜在表征,学生图注意力网络编码器参数通过标准反向传播进行更新。
25、s2.2,教师图注意力网络编码器以未增强的原始图作为输入,输出目标潜在特征,目标潜在特征作为回归目标,利用学生图注意力网络编码器参数的指数移动平均值进行平滑更新:
26、;
27、其中,为动量系数,为教师图注意力网络编码器参数,为学生图注意力网络编码器参数, 为更新后的。
28、s2.3,在下一个训练批次的前向传播中,作为目标编码器处理原始图,生成新的回归目标,供学生图注意力网络编码器拟合。
29、s2.4,设置损失函数,对学生图注意力网络编码器参数进行更新:
30、;
31、其中,为所有正样本对的损失期望值,为调节各项权重的平衡系数。
32、s2.4,利用更新后的学生图注意力网络编码器输出作为分子拓扑与化学键语义特征。
33、进一步地,步骤s2.3中,引入自监督对比学习计算图级损失,给定包括个分子图的数据,为每个分子图生成两个增强视图,共产生个分子图的数据;对于指定视图,即第个药物分子,设为对应的正样本;采用归一化温度缩放交叉熵损失作为对比目标函数:
34、;
35、其中,为以自然常数为底的自然对数,表示两个向量之间的余弦相似度,为缩放分布的温度参数,为指数函数,为第个药物分子,指示函数在不等于时取值为1,反之为0。
36、采用节点级损失,捕获局部子结构的语义信息:
37、;
38、其中,表示第个药物分子的增强图经随机节点删除后保留下来的原子节点集合,表示保留节点数量,表示第个药物分子的增强图经学生图注意力网络编码器处理后,保留原子节点的节点嵌入;表示第个药物分子的原始图经教师图注意力网络编码器处理后,保留节点集合中原子节点的节点嵌入;表示第个药物分子的原始图经教师图注意力网络编码器处理后,与保留原子节点对应的原子节点嵌入;为温度参数。
39、进一步地,原始图的最终图级表征为由步骤s1.5获取的,对原始图进行增强处理得到原始图的增强视图。
40、进一步地,步骤s3中将、morgan指纹特征以及通过esm-2蛋白质语言模型提取的靶蛋白序列嵌入进行拼接,得到混合特征向量:
41、。
42、进一步地,步骤s4具体包括如下步骤:
43、s4.1,将混合特征向量作为自适应堆叠泛化模块的输入,并以对应的真实标签 作为监督信号,对自适应堆叠泛化模块进行训练。
44、s4.2,针对自适应堆叠泛化模块中的每一个异构基学习器,执行重复折交叉验证生成折外预测结果;将训练数据随机划分为个不相交的数据块,对于每一轮交叉验证,依次选取其中一个数据块作为验证数据,在个数据块作为训练数据,对异构基学习器进行训练,并利用训练得到的异构基学习器对未参与当前轮训练的数据块生成折外预测结果;重复折交叉验证过程 次,每个异构基学习器的最终折外预测结果通过对 次重复交叉验证得到的折外预测结果求平均获得:
45、;
46、其中,为第个异构基学习器生成的最终折外预测结果,为第个候选模型在第次bagging中产生的折外预测结果。
47、s4.3,将步骤 s4.2生成的输入到元学习器中进行训练,将参与训练的所有元学习器和异构基学习器共同保存,组成候选模型集合;训练完成后,将训练得到的异构基学习器和元学习器共同组成候选模型集合。
48、s4.4,利用,对步骤s4.3构建的候选模型集合中的每一个模型进行性能评估,引入贪婪集成选择算法,迭代地从候选模型集合中选择候选模型加入当前集成,使加入候选模型后的集成预测结果在验证集上的rmse最小;根据选择频率计算由第个候选模型的选择频率导出的归一化权重:
49、;
50、其中, 表示第 个候选模型被贪婪集成选择算法选中的次数,表示候选模型总数。
51、s4.5,对于待预测样本,将新样本的混合特征向量输入步骤s4.3中的各异构基学习器,获得各异构基学习器对应的预测概率,并将各异构基学习器的预测概率组成元特征输入元学习器,获得元学习器的预测概率;将参与最终集成的各候选模型的预测概率按照步骤s4.4获得的归一化权重进行加权求和,得到最终预测值:
52、;
53、其中,表示第个候选模型预测该药物与靶点发生相互作用的概率。
54、进一步地,自适应堆叠泛化模块内集成随机森林、支持向量机svm、梯度提升决策树xgboost算法。
55、本发明具有如下有益效果:
56、本发明将隐含的化学专家先验知识通过smarts模式进行显式编码并融合到分子图节点的初始化中,改变了传统图神经网络随机初始化的方式,将图消息传递过程置于专家定义的化学语义指导之下,提升了小样本下特征提取的全面性与准确性。
57、本发明为了学习结构不变的稳健特征表示,构建了基于动量驱动的教师与学生双分支网络框架,并在节点和全局图两个层级引入对比学习机制,以充分捕获分子的全局拓扑信息与局部关键子结构语义。
58、本发明提出基于自适应堆叠泛化的多模态相互作用预测方法,将图编码特征与刚性指纹特征及蛋白质序列特征相融合,通过集成多种异构基学习器和元学习器,有效解决了浅层神经网络优化目标不一致的问题,从而提升了特征描述的多样性以及药物活性预测的准确率。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com