基于毒性先验信息引导预训练的分子毒性预测方法

本发明属于计算毒理学，具体涉及一种基于毒性先验信息引导预训练的分子毒性预测方法。

背景技术：

1、分子毒性预测是计算毒理学和药物安全性评价中的重要任务，主要根据分子结构预测化合物的毒性性质或潜在毒性风险。在药物发现与开发过程中，候选化合物的非预期毒性可能导致研发中止或增加研发成本，因此，在研发早期识别具有潜在毒性风险的化合物具有实际意义。传统毒性评价主要依赖体内动物实验和体外细胞实验，能够提供直接的生物学证据，但通常存在实验周期较长、成本较高、伦理限制以及难以适应大规模候选化合物筛选等问题。因此，计算机辅助的分子毒性预测方法逐渐成为相关研究方向。

2、目前，分子毒性预测主要采用基于人工设计分子特征的机器学习方法和基于分子结构表示的深度学习方法。传统机器学习方法通常先计算分子描述符或分子指纹，再利用支持向量机、随机森林、决策树、k近邻或极端梯度提升（xgboost）等模型进行分类或回归预测，已用于半数致死剂量（ld50）、药物诱导的肝损伤、致突变性及其他毒性终点。例如，结合扩展连接指纹（ecfp4）和分子描述符构建模型，用于预测化合物对herg钾离子通道的抑制风险；也有研究组合分子描述符与分子指纹，对小分子毒性进行分类预测。毒性预测平台protox 3.0则结合分子相似性、毒性相关结构片段及机器学习模型，提供多类毒性终点的预测。上述方法能够利用预先设计的分子特征进行预测，但模型表现可能受到特征选择及特征表达能力的限制，因而难以充分捕捉复杂的分子结构模式。

3、随着分子图表示学习的发展，深度学习方法开始直接从分子结构中学习特征。例如，注意力指纹模型（attentive fp）利用图注意力机制学习与预测任务相关的分子图表示；有向消息传递神经网络（directed message passing neural network，d-mpnn）利用原子和化学键信息进行消息传递，并应用于临床毒性数据集（clintox）和毒性预测21世纪计划数据集（tox21）等数据集的毒性预测。然而，现有深度学习研究通常针对单个或少数毒性终点分别建模。当毒性标签数量有限或预测任务发生变化时，模型可能难以获得稳定且适用于不同毒性终点的分子表示。

4、为利用规模较大的未标注分子数据，已有研究采用自监督预训练学习分子表示。例如，基于自监督预训练的分子图表示模型（grover）通过分子图中的节点和子图预测任务进行预训练；分子对比学习表示框架（molclr）利用图对比学习获得分子表示；自监督构象感知图嵌入框架（scage）结合化学先验、二维拓扑和三维几何信息进行多任务预训练。然而，这些预训练任务主要用于学习通用分子结构或化学信息。对于分子毒性预测而言，毒性效应可能与特定结构警示、毒性相关子结构及理化属性有关。仅学习通用分子特征，可能不足以使模型在预训练阶段重点学习与毒性风险相关的结构模式。

5、分子还可以通过不同形式的结构信息进行表示。一维分子指纹能够表征分子的结构特征；二维原子级分子图能够表示原子和化学键之间的连接关系。此外，逆合成相关化学子结构断裂方法（breaking of retrosynthetically interesting chemicalsubstructures，brics）依据预设的化学断键规则对分子进行片段分解，由此获得的片段级结构表示称为brics片段图；三维构象几何数据则能够提供原子的空间排列及几何关系。上述表示具有互补性，但三维构象的生成和优化结果可能因分子结构而异，其有效性和几何质量也可能存在差异。若采用固定方式融合一维分子指纹、二维分子图和三维构象表示，可能无法根据不同分子的构象质量调节三维信息对最终表示的影响。

6、综上，现有分子毒性预测方法仍存在以下问题：一是模型受下游标注数据限制，难以充分利用未标注分子数据学习可迁移的毒性相关表示；二是现有分子预训练任务对毒性相关结构警示和理化属性的利用不足；三是在联合利用一维分子指纹、二维原子级分子图和三维构象几何数据时，对不同视图的信息互补性及三维构象质量差异考虑不足。因此，如何利用毒性相关化学信息开展分子预训练，并根据三维构象质量调节其在多视图分子表示中的贡献，是分子毒性预测领域需要解决的问题。

技术实现思路

1、本发明旨在提供一种基于毒性先验信息引导预训练的分子毒性预测方法，以改善现有分子毒性预测方法对下游毒性标注数据依赖较强、预训练过程对毒性相关化学信息利用不足，以及多视图分子表示融合时未充分考虑三维构象质量差异的问题。

2、本发明的目的是通过以下技术方案实现的：一种基于毒性先验信息引导预训练的分子毒性预测方法，包括以下步骤：

3、步骤1：获取未标注分子数据集和有标注毒性数据集，对分子结构进行有效性检查、规范化和重复结构处理，并将分子结构转换为后续编码所需的分子表示数据；

4、步骤2：根据分子结构构建maccs分子指纹、二维原子级分子图和brics片段图，并生成三维构象几何数据；其中，brics是逆合成相关化学子结构断裂方法（breaking ofretrosynthetically interesting chemical substructures）的缩写，是依据预设化学断键规则对分子进行片段分解的方法；由此获得的片段级结构表示称为brics片段图；

5、步骤3：构建多视图分子编码器，分别对maccs分子指纹、二维原子级分子图及brics片段图、三维构象几何数据进行编码，得到一维分子指纹表示、二维分子图表示和三维构象表示；以二维分子图表示为基础表示，通过自适应门控融合机制调节一维分子指纹表示和三维构象表示对统一分子表示的贡献；其中，三维构象表示的门控调节结合构象质量特征向量进行；当三维构象无效时，降低或抑制三维构象表示对统一分子表示的贡献；

6、步骤4：构建毒性相关化学先验特征向量；利用smarts（任意目标规范，smilesarbitrary target specification）子结构匹配规则，从分子结构中识别预设的毒性相关结构警示，并将匹配结果编码为结构警示向量；对分子理化描述符进行区间编码，得到理化属性区间向量；将所述结构警示向量与所述理化属性区间向量拼接，形成毒性相关化学先验特征向量；所述毒性相关化学先验特征向量根据分子结构及理化描述符构建，不依赖下游毒性标签；

7、步骤5：在未标注分子数据集上，对多视图分子编码器进行多任务联合预训练；所述预训练任务包括毒性相关化学先验特征向量预测任务、分子指纹预测任务、二维拓扑统计预测任务和三维键角统计预测任务；

8、步骤6：将预训练后的多视图分子编码器迁移至有标注毒性数据集进行微调，得到分子毒性预测模型；将待预测分子的多视图分子数据输入所述分子毒性预测模型，输出一个或多个毒性终点的预测结果。

9、进一步，所述步骤2中根据分子结构构建maccs分子指纹、二维原子级分子图和brics片段图，并生成三维构象几何数据；maccs分子指纹是将分子结构特征编码为二进制特征位的分子结构指纹；brics（逆合成相关化学子结构断裂方法）是依据预设化学规则对分子进行片段分解的方法。

10、进一步，所述步骤3中所述多视图分子编码器包括一维分子指纹编码器、二维分子图编码器和三维构象编码器；所述一维分子指纹编码器用于将maccs分子指纹映射为一维分子指纹表示；所述二维分子图编码器用于对二维原子级分子图及brics片段图进行特征提取和联合表征，得到二维分子图表示；所述三维构象编码器用于根据三维构象几何数据提取分子的空间几何特征，得到三维构象表示；所述一维分子指纹编码器、二维分子图编码器和三维构象编码器分别对应一维、二维和三维分子视图；将maccs分子指纹输入一维分子指纹编码器，得到一维分子指纹表示；将二维原子级分子图和brics片段图输入二维分子图编码器，得到二维分子图表示；将三维构象几何数据输入三维构象编码器，得到三维构象表示；下标1d、2d和3d分别表示一维、二维和三维。

11、所述步骤3中的自适应门控融合具体为：以二维分子图表示为基础，计算一维指纹门控系数向量和三维构象门控系数向量：

12、；

13、；

14、根据所述一维指纹门控系数向量和三维构象门控系数向量对对应视图表示进行逐元素加权，并进行融合，得到统一分子表示：

15、；

16、其中，和分别表示一维指纹门控系数向量和三维构象门控系数向量；表示构象质量特征向量；表示构象有效性标记，构象有效时取1，无效时取0；表示统一分子表示；、和分别表示一维门控网络、三维门控网络和多视图融合网络，均采用多层感知机（multi-layer perceptron，mlp）实现；多层感知机由一个或多个全连接层以及用于引入非线性变换的激活函数构成，属于现有技术；其中，根据二维分子图表示与一维分子指纹表示计算一维指纹门控系数向量；根据二维分子图表示、三维构象表示和构象质量特征向量计算三维构象门控系数向量；对门控加权后的多视图表示进行融合；表示sigmoid激活函数；所述一维指纹门控系数向量和三维构象门控系数向量经sigmoid激活函数映射至0至1之间，用于调节对应视图表示中各维特征的贡献；当构象无效时，，三维构象门控系数向量为零；表示修正线性单元激活函数；符号表示向量拼接；符号表示向量逐元素相乘；符号（加号）表示向量相加。

17、进一步，所述步骤3中的构象质量特征向量包括构象有效性标记、无量纲构象能量特征、原子数量特征、平均径向距离、径向距离标准差和平均键长，表示为：

18、；

19、其中，为构象质量特征向量；为构象有效性标记；为构象能量经数值截断和双曲正切映射得到的无量纲特征，具体截断范围及变换参数可根据实施需要设定；为对分子原子数量进行对数变换和缩放后得到的原子数量特征和分别为各原子至分子几何中心距离的平均值和标准差；为共价键空间长度的平均值；上标表示向量转置；构象能量采用mmff分子力场方法计算，mmff表示merck分子力场方法。

20、对于包含个原子的分子，三维构象坐标矩阵记为；当坐标矩阵缺失、维度不为、坐标矩阵的原子数量与二维原子级分子图的原子节点数量不一致，或矩阵中存在非有限数值时，将三维构象判定为无效，；否则。当时，三维构象表示和构象质量特征向量置为零，并使三维构象门控系数向量为0。

21、进一步，所述步骤4中，毒性相关化学先验特征向量由结构警示向量和理化属性区间向量拼接得到：

22、；

23、其中，为毒性相关化学先验特征向量；为结构警示向量，其各维根据相应结构警示是否匹配而取值为0或1；为理化属性区间向量；所述结构警示向量根据分子是否包含相应毒性相关结构警示进行编码；所述理化属性区间向量根据分子理化描述符所属区间进行编码；所述结构警示向量通过smarts子结构匹配规则获得，所述结构警示包括芳香胺、硝基、醛基、环氧化物、氮丙啶、酰卤、异氰酸酯、肼样结构、α,β-不饱和羰基结构和醌样结构；所述理化属性区间向量根据辛醇/水分配系数的对数（logp）、拓扑极性表面积（tpsa）、分子量、芳香环数量和卤素原子数量进行区间编码；其中，logp表示辛醇/水分配系数的对数，tpsa表示拓扑极性表面积。

24、进一步，所述步骤5中，分子指纹预测任务根据二维分子图表示和经门控加权的三维构象表示预测maccs分子指纹，预测过程中不将一维分子指纹表示作为输入；首先，按照下式得到结构融合表示：

25、；

26、再将结构融合表示输入分子指纹预测网络，得到预测的maccs分子指纹：

27、；

28、毒性相关化学先验特征向量预测任务、二维拓扑统计预测任务和三维键角统计预测任务以统一分子表示为输入：

29、

30、其中为结构融合表示；为分子指纹预测值；为毒性相关化学先验预测值；为二维拓扑统计预测值；为三维键角统计预测值；和分别表示结构融合网络和分子指纹预测网络， 、 和分别表示毒性相关化学先验特征向量预测网络、二维拓扑统计预测网络和三维键角统计预测网络；均采用多层感知机实现，多层感知机由一个或多个全连接层以及用于引入非线性变换的激活函数构成，属于现有技术。

31、所述二维拓扑统计的预测目标包括归一化的平均最短路径距离、所有最短路径距离种的最大值（标准命名是图的直径）和最短路径距离标准差；所述三维键角统计的预测目标包括归一化的键角均值和标准差；分子指纹预测任务和毒性相关化学先验特征向量预测任务采用二元交叉熵损失；二维拓扑统计预测任务和三维键角统计预测任务采用标准差归一化后的平滑l1损失。

32、四项预训练任务的加权损失表示为：

33、；

34、其中，为四项预训练任务的加权损失；所述四项预训练任务分别为分子指纹预测任务、毒性相关化学先验特征向量预测任务、二维拓扑统计预测任务和三维键角统计预测任务；为所述分子指纹预测任务的损失，为所述毒性相关化学先验特征向量预测任务的损失，为所述二维拓扑统计预测任务的损失，为所述三维键角统计预测任务的损失，为对应的权重系数，为对应的权重系数，为对应的权重系数，为对应的权重系数。

35、在启用对比学习时，预训练还包括分子表示与brics片段表示之间的对比学习任务，以及分子表示与三维构象表示之间的对比学习任务；对比学习通过使相关分子视图的表示相互接近、使不相关分子视图的表示相互远离，提升模型的表示能力；三维构象无效的分子不参与三维构象对比损失的计算；此时，预训练总损失表示为：

36、在启用对比学习时，预训练还包括分子表示与brics片段表示之间的对比学习任务，以及分子表示与三维构象表示之间的对比学习任务；对比学习通过使相关分子视图的表示相互接近、使不相关分子视图的表示相互远离，提升模型的表示能力；三维构象无效的分子不参与三维构象对比损失的计算；此时，预训练总损失表示为：

37、；

38、其中，为预训练总损失；为分子表示与brics片段表示之间的对比损失；为分子表示与三维构象表示之间的对比损失；为随训练轮次变化的对比损失权重系数；为训练轮次；为分子与分子三维构象之间的对比损失权重系数。

39、对比学习是一种自监督学习方法，通过拉近正样本、推远负样本来学习高质量表示；计算分子与分子三维构象之间的对比损失时，仅将构象有效的分子纳入计算；各损失权重系数的具体取值及调整方式在实施例中给出。

40、进一步，所述步骤6中，根据下游毒性预测任务的类型，对预训练后的多视图分子编码器进行微调，并基于有标注毒性数据集训练相应的分子毒性预测模型；其中，下游毒性预测任务包括分类任务和回归任务；对于待预测分子，按照前述分子结构处理及多视图表示生成流程得到统一分子表示，并将所述统一分子表示输入微调后的分子毒性预测模型，得到相应毒性终点的预测结果。

41、与现有技术相比，本发明具有以下优势：将结构警示和理化属性区间构成的毒性相关化学先验特征向量作为预训练监督目标，使分子毒性预测模型在下游微调前学习与毒性相关的化学结构和理化属性模式。联合利用maccs分子指纹、二维原子级分子图、brics片段图和三维构象几何数据，构建多视图分子表示。以二维分子图表示为基础，通过门控机制调节一维分子指纹表示和三维构象表示的贡献，并结合构象质量特征控制三维构象表示的影响，有助于降低无效构象对融合表示的不利影响。采用预训练后进行下游微调的方式，可将所获得的分子表示用于不同毒性终点的分类或回归预测。