一种基于空间感知稀疏图Transformer的单细胞空间重建方法

摘要: 本发明属于生物信息学,具体涉及一种基于空间感知稀疏图transformer的单细胞空间重建方法,利用空间转录组数据引导,通过空间感知的稀疏图transforme...
一种基于空间感知稀疏图Transformer的单细胞空间重建方法

本发明属于生物信息学,具体涉及一种基于空间感知稀疏图transformer的单细胞空间重建方法,利用空间转录组数据引导,通过空间感知的稀疏图transformer模型,将缺失空间位置信息的单细胞rna测序(scrna-seq)数据重建至原始组织空间中。

背景技术:

1、近年来,空间转录组(spatial transcriptomics, st)技术能够同步获取组织切片中基因表达信息及其二维空间位置,为解析组织空间结构、细胞微环境及细胞间相互作用提供了重要手段。随着10x visium、stereo-seq、seqfish、merscope等平台的发展,空间转录组的空间分辨率和基因检测通量不断提升。

2、然而,受限于当前的测序原理与实验条件,现有st技术仍面临严峻挑战,难以同时实现高空间分辨率、全转录组覆盖和高检测效率。例如,部分平台(如10x visium)的每个测序点位(spot)可能包含多个细胞,存在分辨率不足的问题;而一些单细胞分辨率平台(如seqfish)的检测基因面板(panel)通常仅包含数百个基因,存在基因通量有限的局限。相比之下,单细胞rna测序(single-cell rna sequencing, scrna-seq)技术能够无偏倚地捕获细胞内成千上万个基因的全转录组表达谱,技术已非常成熟。但其致命缺陷在于,实验过程中需要进行组织解离,导致细胞原有的空间位置信息完全丢失。

3、因此,st数据与scrna-seq数据在空间信息和转录组信息层面呈现出天然的互补性。如何利用已有的高精度空间转录组数据作为“参考图谱”,来复原scrna-seq数据中单细胞的空间坐标,即单细胞空间重建,已成为连接两类数据、实现高分辨率组织空间解析的关键计算任务。该任务对于深入理解胚胎发育、肿瘤微环境、器官再生等生物学过程中的细胞空间组织规律具有至关重要的价值。

4、为应对这一挑战,研究者们已提出多种计算方法。早期研究主要依赖于最优传输理论(如novosparc方法)、概率分布匹配(如tangram方法)以及图结构建模(如cytospace、sagenet方法)等策略,旨在建立scrna-seq细胞与st空间点位之间的映射关系。这些方法通过全局表达谱匹配、空间邻域约束或图结构相似性学习,在一定程度上提升了空间定位的精度。

5、然而,单细胞转录组数据本身具有高维度(成千上万个基因)、高稀疏性(大量基因表达为零)和高噪声的特点。同时,不同的空间转录组平台之间在检测深度、灵敏度和数据分布上存在显著差异。这些因素共同导致基因表达特征与空间组织结构之间存在着复杂的非线性关系。对于上述依赖于预定义优化目标或局部信息传播的传统计算方法而言,随着数据规模的增长和组织复杂度的提高,其对于空间关系的建模能力以及模型本身的优化难度均急剧增加。具体表现出的技术瓶颈包括:

6、1)特征过平滑现象:在图结构建模中,信息在多轮邻域聚合后容易导致细胞表征趋同,丢失其独特的表达特征,即所谓的“过平滑”问题。

7、2)跨平台泛化能力差:模型在特定平台或组织数据上训练后,迁移到其他平台或样本时性能显著下降,缺乏稳健性。

8、3)表达与拓扑协同建模困难:未能有效统一基因表达语义相似性与物理空间拓扑邻近性之间的协同约束。

9、4)全局依赖建模不足:难以有效捕获复杂组织中存在的远距离空间依赖性信号和全局组织结构特征。

10、尽管近期出现的如cellcontrast、celery等深度学习方法通过引入表示学习提升了一定的跨平台泛化能力,但这类方法往往侧重于隐式的表示学习,缺乏对空间拓扑结构的显式且高效的建模,仍然难以充分驾驭复杂组织中的全局空间依赖关系。

11、综上所述,当前技术背景下,亟需一种能够显式、统一且高效地协同建模基因表达特征、局部空间邻域拓扑与全局组织结构依赖关系的新型计算框架,以解决单细胞空间重建任务中面临的精度、鲁棒性与泛化能力等核心瓶颈问题。

技术实现思路

1、为克服上述现有技术的不足,本发明的目的是提供一种基于空间感知稀疏图transformer的单细胞空间重建方法,具有显式建模空间拓扑、高效融合局部与全局依赖关系、强泛化能力及轻量化设计的特点。

2、为实现上述目的,本发明采用的技术方案是:

3、一种基于空间感知稀疏图transformer的单细胞空间重建方法,包括以下步骤:

4、步骤1,训练阶段:基于具有真实空间坐标的空间转录组(st)数据,构建用于学习空间拓扑结构的空间邻接图,并输入至一个轻量化的空间感知图transformer编码器模型中进行训练,以获得能够表征组织空间结构的细胞低维嵌入表示;所述模型训练采用局部-全局双损失函数联合优化策略;

5、步骤2,预测阶段:针对缺少空间坐标的单细胞rna测序(scrna-seq)数据,基于基因表达相似性构建k近邻(knn)图,并利用训练好的所述空间感知图transformer编码器模型生成测试细胞的低维嵌入表示;

6、步骤3,空间推理阶段:将训练阶段得到的参考细胞嵌入表示与预测阶段得到的测试细胞嵌入表示映射到同一嵌入表示空间,通过计算余弦相似度检索每个测试细胞最相似的多个参考细胞,并对这些参考细胞的真实空间坐标进行加权融合,最终得到单细胞的预测空间坐标。

7、步骤1中,所述空间邻接图的具体构建过程包括:

8、步骤1-1,将空间转录组数据中的每个空间位点或细胞定义为图节点,每个图节点的基因表达向量记为,其中,n表示空间位点或细胞总数,其基因表达向量构成节点特征矩阵公式(1):

9、

10、其中,表示大小为的实数矩阵,n表示空间位点或细胞总数,p表示输入基因表达特征维度,t表示矩阵的转置运算,的第行对应第个节点的基因表达特征,其中为图节点索引号;

11、步骤1-2,基于所有图节点的二维空间坐标集合s公式(2),利用kdtree算法公式(3)构建空间索引;

12、设第个图节点的二维空间坐标为,其中,和分别表示横坐标和纵坐标,,n表示空间位点或细胞总数,

13、

14、式中,s为全部图节点的二维坐标集合,n表示空间位点或细胞总数;

15、在空间邻接图构建过程中,为避免直接计算所有细胞两两距离所带来的复杂度,采用kdtree算法对二维空间坐标进行索引,kdtree是一种适用于低维空间数据的二叉搜索树结构,在构建过程中,递归地选择某一坐标维度作为划分轴,并以该维度上的中位数作为分割点,将空间划分为左右两个子区域,对于二维坐标,划分轴在轴与轴之间交替选择,形成层次化空间索引结构;

16、设表示由空间坐标集合构建得到的kdtree,则:

17、

18、式中,表示kdtree构建操作;

19、步骤1-3,对于每个图节点,通过kdtree查询最近的k+1个图节点,其中表示预设的空间近邻数量,公式(4)中表示图节点的个近邻查询结果;并去除自身后得到k个空间近邻集合,空间近邻集合见公式(5),据此建立边索引矩阵见公式(6);

20、

21、式中,表示图节点的个近邻查询结果,表示以图节点的二维空间坐标为查询点,在由全部细胞坐标构建的kdtree 中执行最近邻搜索,并返回与欧氏距离最小的个图节点,

22、

23、式中,表示图节点的个空间近邻,表示集合差运算,即为从图节点的k+1个近邻查询结果中,去掉图节点自身;

24、

25、式中,第列表示图中的一条边,和为图节点,为边的总数,是图的边索引矩阵,用于记录图中哪些节点之间存在边,表示其为具有2行、m列的自然数矩阵;

26、步骤1-4,对于每条空间邻接边,根据节点间的欧氏距离,通过指数衰减函数公式(7)计算其边属性(连接强度),并为每个节点添加自连接边,其边权设为1,见公式(8);

27、

28、其中,eij为连接强度,dij为节点与节点在二维空间坐标中的欧氏距离,即两者的空间位置距离;表示以自然常数e为底的指数函数;表示当前子图中观测到的最大邻接距离;为避免除零的极小常数;

29、

30、步骤1-5,将所有边属性组织为边属性矩阵,见公式(9),将训练数据表示为包含节点特征矩阵、边索引矩阵和边属性矩阵的三元组,见公式(10):

31、

32、式中,是边属性矩阵,用于存储中每条边对应的空间连接权重,eij为连接强度,表示是一个由实数组成的m行、1列矩阵,实际上,,

33、

34、其中,即每个训练批次最终被表示的三元组,为当前小批量节点的基因表达矩阵,描述批次诱导子图的拓扑连接关系,表示对应边的空间距离权重;该表示方式将基因表达特征与空间邻域结构统一编码为图数据,使后续图神经网络能够在消息传递过程中同时利用节点表达特征和空间距离约束。

35、步骤1中,局部-全局双损失函数联合优化策略具体为:

36、总损失函数由局部排序损失函数和全局结构损失函数加权构成;

37、其中,所述局部排序损失函数,基于kl散度比较由嵌入表示相似度得到的预测邻居分布与由真实空间邻接关系得到的目标邻居分布之间的差异;所述全局结构损失函数,基于pearson相关系数比较嵌入表示空间成对距离与真实空间成对距离的相关性;并且,在训练过程中采用动态调度策略,使模型先聚焦局部邻域对齐,再逐步强化全局几何保持;

38、局部排序损失函数为:

39、其中,表示kl散度,用于度量目标邻居分布与预测邻居分布之间的差异;表示由嵌入表示相似度得到的预测邻居分布;表示由真实空间邻接关系得到的目标邻居分布,该损失主要用于增强嵌入表示空间的局部判别性和近邻保真性;

40、全局结构损失函数为:

41、其中,表示由嵌入表示计算得到的细胞间距离向量,表示由真实空间坐标计算得到的细胞间距离向量,为pearson相关系数,该损失主要用于提升嵌入表示的全局结构保真度和空间连续性;

42、总损失函数为:

43、其中,为全局结构保持损失的权重,训练过程中,本发明设计的sparsecellgt模型采用动态调度策略:邻居排序损失中的top-k邻域范围由20开始,每5个epoch增加5,最高为60;全局结构保持损失的权重在前30个epoch设为0.05,随后逐步增大,并在后期固定为0.6。本发明设计使模型先聚焦局部邻域对齐,再逐步强化全局几何保持,从而实现由局部到全局的渐进式空间表征学习。

44、步骤2中,所述基于基因表达相似性构建k近邻(knn)图,具体包括以下步骤:

45、步骤2-1,将每个查询样本(细胞)的基因表达谱进行l2归一化;

46、步骤2-2,计算任意两个样本之间的余弦相似度,余弦相似度见公式(14);

47、

48、其中,和分别表示第个和第个查询样本的表达向量,t表示矩阵转置;

49、步骤2-3,对每个样本,选取表达最相似的k个近邻构成近邻图,近邻图见公式(15),

50、

51、其中,表示样本的k个近邻集合,表示在所有候选样本j中选取与样本相似度最高的k个样本;

52、其中k值根据查询样本总数n自适应设定为:

53、

54、其中,n为查询样本总数,表示对向下取整,min函数为取两个参数中的小值,该图刻画的是查询样本在表达空间中的局部结构,而非预先给定的空间邻接关系;

55、步骤2-4,将knn边对应的余弦相似度作为边属性,用于调节图神经网络中的信息传递强度,表达越相似的样本,其边权越大,表示二者在潜在空间结构中具有更强的关联;未被选入knn的低相似关系不参与消息传递,而被选入的负相似度关系则被截断为0,以减少噪声连接对表示学习的干扰,边属性的设置过程为:

56、

57、其中,表示预测阶段knn图中样本与样本之间的边权,sij为两个样本之间的余弦相似度,表示只有当样本属于样本的knn近邻集合时,二者之间才构造边并计算边权。

58、步骤3中,所述加权融合的策略具体为:

59、对于每个测试细胞,计算测试细胞与所有参考细胞在空间感知嵌入表示空间中的余弦相似度,余弦相似度定义见公式(18),选取最相似的前m个参考细胞,,将其相似度进行归一化得到权重,权重的计算见公式(19),测试细胞的预测空间坐标由这m个参考细胞的真实坐标按其权重加权得到,见公式(21);

60、

61、其中,表示细胞与第个参考细胞在空间感知嵌入表示空间中的相似程度,zc表示细胞,zi表示第个参考细胞,模型对所有参考细胞计算,形成相似度向量,并按相似度从高到低排序,选取最相似的前m个参考细胞作为坐标推断依据;前m个参考细胞的坐标分别为、…,对应相似度为,随后,对m个参考细胞相似度进行归一化,得到权重:

62、

63、其中,表示第个参考细胞对目标细胞坐标预测的贡献权重,为避免分母为零的极小常数,且归一化后满足公式(20):

64、

65、式中,表示目标细胞与嵌入表示空间中最相似的前m个参考细胞1,2…m之间,经过归一化后的余弦相似度权重;

66、细胞的预测空间坐标由前m个参考细胞的真实坐标加权得到:

67、(21)

68、最终,即为细胞的预测空间坐标。

69、所述空间感知图transformer编码器模型为无解码器的单头图transformer结构,其核心组件为sparsegtlayer模块;所述sparsegtlayer模块至少包括:

70、输入投影层,用于将高维基因表达特征映射至隐藏空间,通过线性变换、层归一化(layernorm)和gelu激活获得初始节点表示:

71、

72、其中,是全部n个图节点的基因表达向量按行排列形成的节点特征矩阵,为可学习投影矩阵,layernorm表示层归一化,gelu表示gelu激活函数,表示输入投影模块输出的隐藏特征矩阵,为当前输入图中的节点数量,为隐藏层维度;

73、随后,节点特征矩阵、边索引矩阵以及边属性矩阵共同输入sparsegtlayer,完成空间邻域信息建模。sparsegtlayer的整体结构由transformerconv、dropout、残差连接以及layernorm组成,其整体计算过程可表示为(23):

74、

75、其中,表示sparsegtlayer的层索引,和分别表示第层的输入节点特征矩阵和更新后的输出节点特征矩阵,表示边索引矩阵,表示边总数;表示与各条边一一对应的空间边属性矩阵;transformerconv表示结合图拓扑和空间边属性执行注意力计算及邻域消息聚合的图transformer卷积操作;dropout表示随机失活操作;“+”表示残差连接;layernorm表示层归一化操作;

76、其中,sparsegtlayer的核心空间建模能力来源于针对空间转录组任务特点进行适应化配置的transformerconv模块;

77、具体而言,在transformerconv模块中,节点特征首先经过线性映射生成query、key与value表示:

78、

79、其中,、和分别为可学习的query投影矩阵、key投影矩阵和value投影矩阵,用于将节点特征映射为查询表示、键表示和值表示;、和分别表示所有节点的query矩阵、key矩阵和value矩阵,与标准全连接transformer不同,transformerconv中的注意力计算受到的约束,即每个节点仅与其图邻域内的节点计算注意力;

80、轻量化的transformerconv图注意力层,在空间邻接图约束下将细胞间空间距离作为边属性引入到单头注意力系数计算,见公式(25);消息传递过程,见公式(26),并采用单头注意力配置;

81、

82、其中,为边的单头注意力系数,为目标节点的query表示,为邻居节点的key表示,为边属性的线性映射矩阵,为边属性,为隐藏层维度;

83、

84、其中,表示邻居节点沿边传递给目标节点的消息向量,为邻居节点的value表示,即与决定目标节点应关注哪些邻居,而决定从这些邻居中传递的具体特征内容;边属性则同时影响注意力分配和消息内容;为边属性,为边属性的线性映射矩阵。

85、之后,所有来自邻居节点的消息被送入聚合过程,聚合的本质是对目标节点的邻域消息进行加权汇总:

86、

87、其中,为目标节点聚合全部邻域消息后得到的邻域表示,为对目标节点的全部邻居节点所传递的消息进行求和聚合;

88、beta门控机制,用于自适应调节节点自身表示与邻域聚合表示的融合比例见公式(28):

89、

90、其中,表示可学习的根节点特征投影矩阵,用于对目标节点自身的隐藏特征进行线性变换,表示输入transformerconv的第个节点的隐藏特征向量,表示节点自身特征的线性变换,表示聚合后的邻域消息,为可学习的门控系数。该机制能够避免邻域信息过度覆盖节点自身特征,提高表示学习的稳定性;

91、残差连接与层归一化,用于缓解特征过平滑,transformerconv的输出z经过dropout后与输入特征进行残差连接,并通过层归一化得到更新后的节点表示:

92、

93、其中,表示空间感知图transformer编码器输出的更新节点表示,layernorm表示层归一化,y表示输入投影模块输出的隐藏特征矩阵,“+”表示残差连接,dropout表示随机失活操作。

94、该层通过限定信息传播范围,通过引入空间距离约束,并通过注意力加权与邻域聚合实现细胞间表达信息的选择性融合。这样的设计既降低了全局注意力带来的计算开销,又保留了空间邻近细胞之间的结构依赖关系,从而获得更具空间感知能力的细胞表征。

95、所述空间感知图transformer编码器模型在所述sparsegtlayer模块之后,进一步包括非线性语义增强模块与嵌入表示空间约束模块,对空间感知特征进行语义重编码与嵌入优化,获得适用于空间坐标重建的低维表示;

96、1)非线性语义增强模块

97、经过sparsegtlayer后得到的节点表示记为:

98、

99、其中,n表示图节点数量,表示隐藏特征维度;

100、为构建最终嵌入表示约束空间模块,空间感知图transformer编码器模型通过输出投影层对特征进行维度重映射:

101、

102、其中,为偏置项,为输出投影,中的表示隐藏特征维度,中的表示目标嵌入表示维度,layernorm表示层归一化;

103、空间感知图transformer编码器模型引入轻量前馈非线性变换以增强节点表示的语义表达能力:

104、

105、其中,和为可学习参数矩阵,gelu表示gelu激活函数;

106、随后采用残差连接得到最终非线性语义增强表示为:

107、

108、其中,表示经过前馈非线性变换和残差连接后得到的节点增强表示矩阵,表示轻量前馈非线性变换,将增强表示矩阵按细胞节点展开,可表示为:

109、

110、其中,表示细胞节点数量,表示第个细胞的增强嵌入表示向量;

111、2)嵌入表示空间约束模块

112、采用l2归一化对嵌入表示进行约束:

113、

114、其中,表示第个细胞的增强嵌入表示向量,表示向量的l2范数,表示归一化后的第个细胞嵌入表示;

115、归一化后,所有节点嵌入表示均被映射至单位超球面上,其模长统一为1:

116、

117、对于任意两个细胞节点和,其嵌入表示向量之间的内积可直接等价为余弦相似度:

118、

119、其中,表示两个嵌入表示向量之间的夹角;

120、sparsecellgt模型输出空间感知嵌入表示为:

121、

122、其中,表示模型输出的空间感知嵌入表示矩阵,中的为图节点数,中的为目标嵌入表示维度;表示第个细胞经过l2归一化后的嵌入表示向量,对应矩阵的第行,并满足。

123、与现有技术相比,本发明提供的空间感知稀疏图transformer单细胞重建方法,具备以下显著有益效果:

124、1)显著提升了空间重建的精度与鲁棒性:本发明通过构建空间感知的稀疏图结构,并引入稀疏图注意力机制,能够同时捕获细胞间基于基因组表达相似性的“语义邻近性”和基于空间坐标的“拓扑邻近性”。这种协同建模方式有效克服了传统方法因依赖单一信息源(如仅基因表达或仅局部空间平滑)导致的定位模糊问题。实验表明,在模拟数据和真实数据上,本方法的关键重建精度指标jsd相比主流最优方法cellcontrast最大降低2.62%,spearman's ρ相较cellcontrast最大提升39.37%,且在不同噪声水平下表现出更强的稳定性。

125、2)构建训练–预测一致的双图空间建模框架

126、训练阶段基于真实空间坐标构建knn图学习组织空间拓扑,预测阶段基于表达相似性动态构建knn图实现结构迁移,使模型在表达空间与空间结构之间建立一致映射关系,从而提升跨样本条件下空间邻域重建的稳定性与可迁移性。

127、3)有效解决了深度模型的“过平滑”问题,保持了细胞异质性:本发明通过在稀疏图transformer中引入残差连接与层归一化机制,并利用稀疏注意力聚焦于最相关的邻居节点,极大地缓解了图神经网络中因多层信息聚合导致的细胞表征趋同(即过平滑)现象,构建无解码器单头图transformer,在空间邻接图约束下引入距离衰减边权与beta门控残差机制,实现对细胞低维空间表征的高效建模,在降低计算复杂度的同时提升空间结构表达能力并缓解特征过平滑问题。搭建残差融合和beta门控双层防过平滑结构:一方面启用transformerconv内置beta门控机制动态权衡原始节点表达特征与邻域聚合特征的融合权重,另一方面在sparsegtlayer内增设节点原始特征残差连接,双重缓解邻域信息聚合带来的特征过度平滑问题。这使得模型在精确推断细胞空间位置的同时,能够更好地保留每个单细胞独特的基因表达特征,对于后续分析细胞亚群的空间分布规律至关重要。

128、4)具备优异的跨平台与跨样本泛化能力:本发明的模型架构将参考数据(st)与查询数据(scrna-seq)的编码过程分离,并通过一个共享的、基于注意力机制的公共空间进行信息融合与对齐。这种设计使得模型无需重新训练即可直接应用于由不同测序平台生成、具有不同基因集合或批次效应的新数据对,实现了“即插即用”式的推理。这解决了现有多数方法严重依赖特定数据集重新训练或复杂数据预处理的问题,极大地提升了方法的实用性和效率。

129、5)构建局部–全局双层优化与加权空间坐标推理机制

130、通过局部–全局双损失联合优化同时约束邻域一致性与整体拓扑稳定性,并在推理阶段基于嵌入表示相似度进行top-3加权坐标融合,实现从表达嵌入表示到连续空间坐标的稳定映射,从而提升跨平台空间重建的精度与鲁棒性。

131、6)实现了计算效率与模型性能的高效平衡:本发明采用的k近邻(knn)图构建策略与稀疏化注意力计算,将原本全连接图注意力机制的二次方时间复杂度o(n²)降低至接近线性复杂度o(kn),其中k为近邻数且k<

132、7)构建空间边感知注意力计算流程:将细胞间空间距离作为边属性引入图注意力计算过程,使边信息参与邻域消息传递和注意力权重分配。这样使得模型在建模基因表达水平余弦相似度的同时,显式引入细胞间空间约束关系。

133、8)采用轻量化单头注意力配置:固定注意力头数为1,舍弃多头注意力结构。适配空间转录组单细胞邻域节点数量少的数据特征,削减模型参数量,降低空间关系拟合的计算开销。

134、9)增强了重建结果的可解释性:模型中的注意力权重矩阵为每个查询细胞对其在参考空间中邻居的影响程度提供了定量指标。这使得用户能够追溯重建决策的依据,例如,分析是哪些空间区域的哪些基因表达模式共同决定了某个细胞被定位到特定位置。