一种面向大规模单细胞转录组的模型训练方法及装置与流程

摘要: 本公开涉及人工智能与生物信息学交叉,特别涉及一种面向大规模单细胞转录组的模型训练方法及装置。背景技术:1、单细胞rna测序(scrna-seq)已成为刻画细胞异...
一种面向大规模单细胞转录组的模型训练方法及装置与流程

本公开涉及人工智能与生物信息学交叉,特别涉及一种面向大规模单细胞转录组的模型训练方法及装置。

背景技术:

1、单细胞rna测序(scrna-seq)已成为刻画细胞异质性、细胞状态与疾病微环境的核心技术。随着测序通量提升,如何从大规模稀疏基因表达矩阵中学习可迁移的细胞状态表示,并支撑细胞类型注释、聚类、相似细胞检索与扰动响应分析等下游任务,成为重要方向。

2、现有技术中,cn115881232a 提出一种基于图神经网络和特征融合的 scrna-seq细胞类型注释方法:利用基因互作网络提取局部特征,并结合自编码器提取基因表达全局特征,再融合后输入分类器完成细胞类型注释。其重点在于有监督/半监督注释,而非面向大规模无标签预训练的通用细胞基础表示;cn119132401b 公开一种高精度单细胞分类方法与装置:将原始单细胞数据构建表达矩阵,结合 ppi、go 等信息与图神经网络及嵌入模型,提取多维度单细胞嵌入用于分类。该方法强调分类精度与多源先验融合,未公开将稀疏表达投影为固定网格图像并以联合嵌入预测架构进行掩码表征预测的预训练路径;cn117178302a 涉及利用细胞形态学图像与机器学习模型进行细胞类型/状态鉴定,并可关联非形态学组学数据。其输入主体为显微成像图像,而非由基因表达向量经布局投影生成的“表达图像”。

3、因此,现有技术在面向大规模细胞单细胞转组缺乏可靠的模型训练方法。

技术实现思路

1、鉴于现有技术中的上述缺陷或不足,期望提供一种面向大规模单细胞转录组的模型训练方法及装置,通过将单细胞基因表达映射为固定尺寸二维表达图像,在表征空间进行联合嵌入预测式预训练,并辅以抑制表征退化的正则约束,从而得到可迁移的细胞状态表示。

2、第一方面,本技术实施例提供了一种面向大规模单细胞转录组的模型训练方法,包括:

3、获取单细胞基因表达数据,对细胞和/或基因进行质量筛选和表达规范处理,并根据预定义或可学习的基因-空间布局关系,将规范化后的细胞表达映射为固定尺寸二维表达图像;

4、在所述二维表达图像的空间划分单元上构造上下文掩码和预测掩码;

5、利用上下文编码器对上下文掩码标示的上下文可见信息进行编码,得到上下文表征;利用目标编码器对所述表达图像进行编码,并在预测掩码标示的预测区域处提取目标表征;由预测器根据所述上下文表征预测所述预测区域的目标区域表征,得到预测表征;

6、获取所述预测表征与所述目标表征之间的预测一致性损失,和所述上下文表征对应的正则损失,根据所述预测一致性损失和所述正则损失确定总损失;基于所述总损失更新所述上下文编码器和所述预测器的参数,并按动量规则更新所述目标编码器的参数;

7、在满足训练完成条件时,对输入细胞生成表达图像,并由所述目标编码器和/或所述上下文编码器提取细胞级嵌入。

8、在一些实施例中,所述根据预定义或可学习的基因-空间布局关系,将规范化后的细胞表达映射为固定尺寸二维表达图像,包括:

9、获取基因-空间布局关系;所述基因-空间布局关系包括布局基因集合以及所述布局基因集合中各个布局基因与二维网格位置或投影权重之间的对应关系;

10、基于所述基因-空间布局关系,从所述规范化表达中提取所述布局基因集合对应的表达值,生成布局稠密表达;

11、基于所述布局稠密表达进行映射,得到固定尺寸二维表达图像。

12、在一些实施例中,所述基于所述布局稠密表达进行映射,得到固定尺寸二维表达图像,包括:

13、对所述布局稠密表达进行标准化处理,得到标准化表达;

14、采用连续投影方式,将所述标准化表达与投影矩阵相乘,得到投影向量,并将所述投影向量重排为表达图像。

15、在一些实施例中,所述基于所述布局稠密表达进行映射,得到固定尺寸二维表达图像,包括:

16、对所述布局稠密表达进行标准化处理,得到标准化表达;

17、采用峰值像素累加方式,将所述标准化表达中的各元素按投影矩阵各行对应的峰值位置进行累加,得到表达图像。

18、在一些实施例中,所述基于所述布局稠密表达进行映射,得到固定尺寸二维表达图像,包括:

19、对所述布局稠密表达进行标准化处理,得到标准化表达;

20、采用稀疏散射或插值方式,对所述标准化表达执行散射、插值或稀疏到稠密转换,使所述标准化表达中的非零表达值落入固定尺寸二维网格,得到表达图像。

21、在一些实施例中,所述在所述二维表达图像的空间划分单元上构造上下文掩码和预测掩码,包括:

22、对所述表达图像进行空间划分,得到多个空间划分单元;所述空间划分单元包括图像块、图像区块或局部邻域窗口中的至少一种;

23、确定掩码构造方式,并基于所述掩码构造方式在所述空间划分单元上构造上下文掩码,以及在所述空间划分单元上构造预测掩码;所述上下文掩码与所述预测掩码允许重叠或不允许重叠;所述掩码构造方式包括多块掩码、随机掩码、条带掩码或课程式组合中的至少一种。

24、第二方面,本技术实施例提供了一种面向大规模单细胞转录组的模型训练装置,包括:

25、数据处理模块,用于获取单细胞基因表达数据,对细胞和/或基因进行质量筛选和表达规范处理,并根据预定义或可学习的基因-空间布局关系,将规范化后的细胞表达映射为固定尺寸二维表达图像;

26、掩码构造模块,用于在所述二维表达图像的空间划分单元上构造上下文掩码和预测掩码;

27、双通路编码与预测模块,用于利用上下文编码器对上下文掩码标示的上下文可见信息进行编码,得到上下文表征;利用目标编码器对所述表达图像进行编码,并在预测掩码标示的预测区域处提取目标表征;由预测器根据所述上下文表征预测所述预测区域的目标区域表征,得到预测表征;

28、损失与更新模块,用于获取所述预测表征与所述目标表征之间的预测一致性损失,和所述上下文表征对应的正则损失,根据所述预测一致性损失和所述正则损失确定总损失;基于所述总损失更新所述上下文编码器和所述预测器的参数,并按动量规则更新所述目标编码器的参数;

29、嵌入导出模块,用于在满足训练完成条件时,对输入细胞生成表达图像,并由所述目标编码器和/或所述上下文编码器提取细胞级嵌入。

30、第三方面,本技术实施例提供了一种电子设备,包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序,该处理器执行该程序时实现如本技术实施例描述的方法。

31、第四方面,本技术实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本技术实施例描述的方法。

32、第五方面,本技术实施例提供了一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现如本技术实施例描述的方法。

33、本技术提出的一种面向大规模单细胞转录组的模型训练方法及装置,获取单细胞基因表达数据,对细胞和/或基因进行质量筛选和表达规范处理,并根据预定义或可学习的基因-空间布局关系,将规范化后的细胞表达映射为固定尺寸二维表达图像;在所述二维表达图像的空间划分单元上构造上下文掩码和预测掩码;利用上下文编码器对上下文掩码标示的上下文可见信息进行编码,得到上下文表征;利用目标编码器对所述表达图像进行编码,并在预测掩码标示的预测区域处提取目标表征;由预测器根据所述上下文表征预测所述预测区域的目标区域表征,得到预测表征;获取所述预测表征与所述目标表征之间的预测一致性损失,和所述上下文表征对应的正则损失,根据所述预测一致性损失和所述正则损失确定总损失;基于所述总损失更新所述上下文编码器和所述预测器的参数,并按动量规则更新所述目标编码器的参数;在满足训练完成条件时,对输入细胞生成表达图像,并由所述目标编码器和/或所述上下文编码器提取细胞级嵌入,能够将稀疏单细胞表达稳定转化为表达图像,在表征空间完成联合嵌入预测预训练,抑制表征退化,输出可用于下游单细胞分析的细胞状态嵌入。

34、本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。