用于预测患者癌症复发的装置和方法与流程

本发明涉及癌症医疗技术，特别地，本发明涉及用于训练被配置成预测患有癌症的患者的复发的预测模型的装置和相关联的方法。此外，本发明涉及用于使用经训练的预测模型来预测患有癌症的患者的复发风险的装置和相关联的方法，以及用于使用经训练的预测模型来预测患者对癌症治疗的反应的装置。

背景技术：

1、癌症转移性复发的早期检测在于其改善患者预后、提高生活质量以及指导实现个性化和有效治疗策略的潜力。它为医疗保健专业人员提供了主动干预并对癌症病程产生积极影响的机会窗口。特别地，对于患有乳腺癌（bc）的患者，转移性复发的预测对于在药物选择以及剂量方面为患者提供最合适的治疗至关重要。实际上，治疗的选择极大地影响患者的健康状态，从而决定其康复或疾病管理的轨迹。根据个体医学概况量身定制的充分知情的治疗决策可以优化治疗效果、使副作用最小化，并且显著促进患者健康的整体改善。

2、乳腺癌是最常见的癌症类型。约70%的乳腺癌是激素敏感性的（即，hr+/her2-）。特别地，这些癌症的20%会引发转移性复发，这大大降低了患者存活率。因此，需要可以准确预测患有癌症的患者的复发风险的工具，该工具可以用于例如调整患者的治疗和随访策略。

3、本发明落入该上下文中。

技术实现思路

1、因此，本发明涉及一种用于训练预测模型的装置，该预测模型被配置成预测患有癌症的患者的复发风险，其中，用于训练预测模型的装置包括：

2、- 至少一个输入，其被配置成接收来自多个受试者的一组数据，所述多个受试者中的每个受试者已经接受针对所述癌症的先前诊断，其中，每个受试者的所述一组数据包括：

3、• 至少一个全组织学切片图像，所述图像包括所述受试者的癌组织的至少一部分的表示；

4、• 与受试者相关联的临床信息，所述临床信息至少包括在所述癌症的所述先前诊断之后评估的受试者健康状态；

5、- 至少一个处理器，其被配置成：

6、• 通过针对多个受试者中的每个受试者进行以下操作来定义包括多个训练样本的训练数据集：

7、。 检测所述受试者的至少一个全组织学切片图像中的细胞并且将每个检测到的细胞与表示细胞状态的细胞类别相关联；

8、。 分割所述受试者的至少一个全组织学切片图像中的组织并且将每个分割的组织与表示组织状态的组织类别相关联；

9、。 针对每个细胞类别，基于在所述受试者的至少一个全组织学切片图像中针对所述细胞类别检测到的细胞提取至少一个细胞特征；

10、。 针对每个组织类别，基于所述受试者的至少一个全组织学切片图像的与和所述组织类别相关联的分割的组织有关的部分提取至少一个组织特征；

11、。 将一个训练样本定义为包括所述至少一个细胞特征、所述至少一个组织特征和与受试者相关联的所述受试者健康状态；

12、• 使用所述定义的训练数据集训练预测模型，其中，预测模型被配置成接收患者的至少一个细胞特征和至少一个组织特征作为输入，所述至少一个细胞特征和所述至少一个组织特征从至少一个全组织学切片图像中提取，所述图像包括所述患者的癌组织的至少一部分的表示，并且提供表示所述患者的复发概率或表示所述患者的健康状态的风险评分作为输出；

13、- 至少一个输出，其被配置成提供所述经训练的预测模型。

14、受试者的健康状态可以在训练期间用作真值数据。

15、有利地，本发明的用于训练的装置依赖于利用组织学切片图像和受试者健康状态来准确预测患有癌症的患者的复发风险的方法。通过如上所述定义包括多个训练样本的训练数据集，该装置可以从全组织学切片图像中提取有意义的组织和细胞特征，并且将其与受试者健康状态（例如，真值）相关联。实际上，细胞和组织特征固有地指示癌症进展和转移，因此告知关于患有癌症的患者的复发风险。通过在包括用受试者健康状态标记的这些特征的综合训练数据集上训练预测模型，该装置使得医疗保健专业人员能够主动评估患有癌症的患者的复发风险。由本发明的用于训练的装置实施的这种方法使得能够获得经训练的预测模型，该经训练的预测模型有利地促进个性化治疗和有效治疗策略。此外，通过提供表示患者的复发概率或表示患者的健康状态的风险评分，经训练的预测模型为医疗保健专业人员提供指导治疗决策和干预的见解，从而积极影响患有癌症的患者的整体管理。

16、根据一个实施方式，与受试者相关联的临床信息仅包括在所述癌症的所述先前诊断之后评估的健康状态。根据该实施方式，临床信息不包括受试者的生物标志物。有利地，根据该实施方式的用于训练的装置使得能够获得经训练的预测模型，该经训练的预测模型能够仅使用从全组织学切片图像得出的信息（即，至少一个细胞特征和至少一个组织特征）来提供表示所述患者的复发概率或表示患者的健康状态的风险评分。在该实施方式中，经训练的预测模型有利地不需要使用如生物标志物（例如er、pr或her2表达状态）的任何附加信息作为输入。

17、根据本发明的其他有利方面，用于训练预测模型的装置包括以下实施方式中描述的特征中的一个或更多个，这些特征单独采用或以任何可能的组合采用。

18、根据一个实施方式，预测模型是cox模型。有利地，cox模型适于分析存活数据并识别影响事件的时间的因素，例如患有癌症的患者复发甚至死亡的风险。

19、根据一个实施方式，预测模型使用五折交叉验证方案进行训练。有利地，五折交叉验证方案确保预测模型的稳健性和泛化能力。

20、根据一个实施方式，检测全组织学切片图像中的细胞并且将每个检测到的细胞与细胞类别相关联由卷积神经网络执行。

21、根据一个实施方式，分割全组织学切片图像中的组织并且将每个分割的组织与组织类别相关联由卷积神经网络执行，该卷积神经网络被配置成将全组织学切片图像的每个像素分类为多个预定义组织类别中的一个组织类别。有利地，使用被配置成对全组织学切片图像的每个像素进行分类的卷积神经网络在其自动化和标准化过程的能力方面具有变革性，从而使得能够精确描绘组织区域并促进后续分析和组织特征提取，以用于诸如预测患有癌症的患者的复发风险的任务。

22、根据一个实施方式，提取至少一个组织特征包括：

23、- 针对每个组织类别，识别巢，所述巢是全切片图像内的两个连续的分割的组织部分，所述两个分割的组织部分中的每一个与所述组织类别相关联；

24、- 基于全切片图像中的识别的巢提取至少一个组织特征，以及/或者

25、- 针对每个识别的巢，提取作为形态学特征的至少一个组织特征。

26、巢可以被定义为被分类为同一类别的连续像素集合。例如，可以取被预测为肿瘤的所有像素并将该像素图缩减为最大区域（即，巢）的集合，其中每个巢是一个像素或其中所有像素与至少一个其他肿瘤像素相邻的若干像素。对于每个巢，该巢的任何像素的相邻像素都不属于与该巢（即，同一类别的像素的最大连续区域）的类别相同的类别。有利地，使用巢来提取组织特征使得能够提取捕获特定组织类别所特有的空间关系和形态学特征的组织特征。

27、根据一个实施方式，提取至少一个细胞特征包括：

28、- 针对每个组织类别，选择包括在相关联的分割的组织中的细胞；

29、- 针对每个细胞类别，针对与所述细胞类别相关联的每个所选择的细胞，计算作为形态学特征的至少一个特征；以及/或者

30、- 针对与同一细胞类别相关联并针对同一组织类别选择的一组细胞，提取作为使用所述一组细胞计算的统计学特征的至少一个特征。

31、有利地，如上所述提取至少一个细胞特征确保细胞特征在相关组织背景下被提取。这种背景化使得能够捕获跨不同组织类别的细胞类别的异质性，从而使得能够提取组织特异性细胞特征。此外，计算形态学特征提供关于细胞结构和组织的信息，这可以指示病理变化或疾病进展，例如患有癌症的患者的复发。另外，通过使用该组细胞提取统计学特征，可以捕获特定组织类别内的细胞类别的集体特征。这些统计学特征提供组织内细胞行为和空间组织的定量表示。

32、根据一个实施方式，癌症是乳腺癌。乳腺癌可以是hr+/her2-乳腺癌（激素受体-阳性（hr+）和her2-阴性（her2-）乳腺癌，其中her2代表人表皮生长因子受体2），特别是早期侵袭性hr+/her2-乳腺癌。乳腺癌可以是hr+/her2-乳腺癌，其中，患者/受试者患有2期或3期癌症（即，不是0期、不是1期、不是4期）。这些特性表征可以针对其有利地使用本发明的方法的第一组患者。乳腺癌可以是hr+/her2-乳腺癌，其中，患者/受试者还具有至少4个阳性淋巴结；或者1至3个阳性淋巴结以及以下之一：3级肿瘤、或肿瘤大小等于或大于50 mm、或者ki67等于或大于20%。这些特性表征可以针对其有利地使用本发明的方法的第二组患者。

33、根据一个实施方式，当癌症是乳腺癌时，除了受试者的健康状态之外，与受试者相关联的临床信息也被包括在训练样本中。因此，预测模型被配置成除了全组织学切片图像之外还接收与受试者相关联的至少一个临床信息作为输入。

34、根据一个实施方式，临床信息包括以下中的至少一项（例如，包括在训练样本中的临床数据）：肿瘤大小、绝经状态、肿瘤分级、以百分比计的ki67蛋白估计、阳性淋巴结数目、仅在淋巴结中存在微转移、诊断时的年龄、人表皮生长因子受体2阳性、对人表皮生长因子受体2阳性的细胞百分比、人表皮生长因子受体2的强度、brca1的突变状态、brca2的突变状态、手术类型、残留肿瘤分类、组织学肿瘤类型、病理t分期、病理n分期、病理m分期、接受的治疗的类型和接受的治疗的持续时间。该列表不包括对孕激素受体阳性的细胞百分比、孕激素受体的强度、雌激素受体阳性、对雌激素受体阳性的细胞百分比、雌激素受体的强度和/或孕激素受体阳性。该列表不包括关于er、pr或her2表达状态的任何信息。有利地，使用这些临床信息（即，没有er、pr或her2表达状态）中的至少一项训练的预测模型提供表示所述患者的复发概率或表示所述患者的健康状态的风险评分作为输出。

35、根据一个实施方式，当癌症是乳腺癌时，与一个受试者相关联的临床信息被包括在训练样本中，预测模型被配置成接收与受试者相关联的至少一个临床信息作为输入，并且临床信息还包括以下中的至少一项：肿瘤大小、绝经状态、肿瘤分级、孕激素受体阳性、以百分比计的ki67蛋白估计、阳性淋巴结数目、仅在淋巴结中存在微转移、诊断时的年龄、对孕激素受体阳性的细胞百分比、孕激素受体的强度、雌激素受体阳性、对雌激素受体阳性的细胞百分比、雌激素受体的强度、人表皮生长因子受体2阳性、对人表皮生长因子受体2阳性的细胞百分比、人表皮生长因子受体2的强度、brca1的突变状态、brca2的突变状态、手术类型、残留肿瘤分类、组织学肿瘤类型、病理t分期、病理n分期、病理m分期、接受的治疗的类型和接受的治疗的持续时间。

36、本发明还涉及一种用于使用从根据前述实施方式中任一项所述的装置获得的经训练的预测模型来预测患有癌症的患者的复发风险的装置，所述用于预测复发风险的装置包括：

37、- 至少一个输入，其被配置成接收至少一个全组织学切片图像，所述图像包括所述患者的癌组织的至少一部分的表示；

38、- 至少一个处理器，其被配置成：

39、• 检测所述患者的至少一个全组织学切片图像中的细胞并且将每个检测到的细胞与表示细胞状态的细胞类别相关联；

40、• 分割所述患者的至少一个全组织学切片图像中的组织并且将每个分割的组织与表示组织状态的组织类别相关联；

41、• 针对每个细胞类别，基于在所述患者的至少一个全组织学切片图像中针对所述细胞类别检测到的细胞提取至少一个细胞特征；

42、• 针对每个组织类别，基于所述患者的至少一个全组织学切片图像的与和所述组织类别相关联的分割的组织有关的部分提取至少一个组织特征；

43、• 将所述至少一个细胞特征和所述至少一个组织特征作为输入提供给所述经训练的预测模型，从而获得表示所述患者的复发概率或表示所述患者的健康状态的风险评分；

44、- 至少一个输出，其被配置成提供所述风险评分。

45、根据一个实施方式，经训练的预测模型被配置成仅接收所述至少一个细胞特征和所述至少一个组织特征作为输入。根据一个实施方式，至少一个处理器被配置成仅将所述至少一个细胞特征和所述至少一个组织特征作为输入提供给所述经训练的预测模型。根据一个实施方式，经训练的预测模型未被配置成接收临床信息作为输入。

46、有利地，根据该实施方式的用于预测的装置使得能够仅使用从全组织学切片图像得出的信息（即，至少一个细胞特征和至少一个组织特征）来提供表示所述患者的复发概率或表示所述患者的健康状态的风险评分。在该实施方式中，用于预测的装置有利地不需要使用如生物标志物（例如er、pr或her2表达状态）的任何附加信息作为输入。

47、根据一个实施方式，当癌症是乳腺癌时，至少一个输入进一步被配置成接收临床信息作为输入，并且经训练的预测模型被配置成接收所述临床信息作为输入，其中，所述临床信息包括以下中的至少一项：肿瘤大小、绝经状态、肿瘤分级、以百分比计的ki67蛋白估计、阳性淋巴结数目、仅在淋巴结中存在微转移、诊断时的年龄、人表皮生长因子受体2阳性、对人表皮生长因子受体2阳性的细胞百分比、人表皮生长因子受体2的强度、brca1的突变状态、brca2的突变状态、手术类型、残留肿瘤分类、组织学肿瘤类型、病理t分期、病理n分期、病理m分期、接受的治疗的类型和接受的治疗的持续时间。该列表不包括对孕激素受体阳性的细胞百分比、孕激素受体的强度、雌激素受体阳性、对雌激素受体阳性的细胞百分比、雌激素受体的强度和/或孕激素受体阳性。该列表不包括关于er、pr或her2表达状态的任何信息。有利地，使用这些临床信息（即，没有er、pr或her2表达状态）中的至少一项训练的预测模型提供表示所述患者的复发概率或表示所述患者的健康状态的风险评分作为输出。在该实施方式中，用于预测的装置有利地不需要使用如生物标志物（例如er、pr或her2表达状态）的任何附加信息作为输入。

48、本发明还涉及一种用于训练预测模型以预测患有癌症的患者的复发的计算机实现的方法，所述用于训练预测模型的方法包括：

49、- 接收来自多个受试者的一组数据，所述多个受试者中的每个受试者已经接受针对所述癌症的先前诊断，其中，每个受试者的所述一组数据包括：

50、• 至少一个全组织学切片图像，所述图像包括所述受试者的癌组织的至少一部分的表示；

51、• 与受试者相关联的临床信息，所述临床信息至少包括在所述癌症的所述先前诊断之后评估的受试者健康状态；

52、- 通过针对多个受试者中的每个受试者进行以下操作来定义包括多个训练样本的训练数据集：

53、• 检测所述受试者的至少一个全组织学切片图像中的细胞并且将每个检测到的细胞与表示细胞状态的细胞类别相关联；

54、• 分割所述受试者的至少一个全组织学切片图像中的组织并且将每个分割的组织与表示组织状态的组织类别相关联；

55、• 针对每个细胞类别，基于在所述受试者的至少一个全组织学切片图像中针对所述细胞类别检测到的细胞提取至少一个细胞特征；

56、• 针对每个组织类别，基于所述受试者的至少一个全组织学切片图像的与和所述组织类别相关联的分割的组织有关的部分提取至少一个组织特征；

57、• 将一个训练样本定义为包括所述至少一个细胞特征、所述至少一个组织特征和与受试者相关联的所述受试者健康状态；

58、- 使用所述定义的训练数据集训练预测模型，其中，预测模型被配置成接收患者的至少一个细胞特征和至少一个组织特征作为输入，所述至少一个细胞特征和所述至少一个组织特征从至少一个全组织学切片图像中提取，所述图像包括所述患者的癌组织的至少一部分的表示，并且提供表示所述患者的复发概率或表示所述患者的健康状态的风险评分作为输出；

59、- 输出所述经训练的预测模型。

60、本发明还涉及一种用于使用从根据前述实施方式中任一项所述的方法获得的经训练的预测模型来预测患有癌症的患者的复发风险的计算机实现的方法，所述用于预测复发风险的方法包括：

61、- 接收至少一个全组织学切片图像，所述图像包括所述患者的癌组织的至少一部分的表示；

62、- 检测所述患者的至少一个全组织学切片图像中的细胞并且将每个检测到的细胞与表示细胞状态的细胞类别相关联；

63、- 分割所述患者的至少一个全组织学切片图像中的组织并且将每个分割的组织与表示组织状态的组织类别相关联；

64、- 针对每个细胞类别，基于在所述患者的至少一个全组织学切片图像中针对所述细胞类别检测到的细胞提取至少一个细胞特征；

65、- 针对每个组织类别，基于所述患者的至少一个全组织学切片图像的与和所述组织类别相关联的分割的组织有关的部分提取至少一个组织特征；

66、- 将所述至少一个细胞特征和所述至少一个组织特征作为输入提供给所述经训练的预测模型，从而获得表示所述患者的复发概率或表示所述患者的健康状态的风险评分；

67、- 输出所述风险评分。

68、本发明还涉及一种用于使用从根据以上实施方式中任一项所述的装置获得的经训练的预测模型来预测患者对癌症治疗的反应的装置，所述用于预测对癌症治疗的反应的装置包括：

69、- 至少一个输入，其被配置成接收所述患者的至少一个全组织学切片图像；

70、- 至少一个处理器，其被配置成：

71、• 检测所述患者的至少一个全组织学切片图像中的细胞并且将每个检测到的细胞与表示细胞状态的细胞类别相关联；

72、• 分割所述患者的至少一个全组织学切片图像中的组织并且将每个分割的组织与表示组织状态的组织类别相关联；

73、• 针对每个细胞类别，基于在所述患者的至少一个全组织学切片图像中针对所述细胞类别检测到的细胞提取至少一个细胞特征；

74、• 针对每个组织类别，基于所述患者的至少一个全组织学切片图像的与和所述组织类别相关联的分割的组织有关的部分提取至少一个组织特征；

75、• 将所述至少一个细胞特征和所述至少一个组织特征作为输入提供给所述经训练的预测模型，从而获得表示所述患者的复发概率或表示所述患者的健康状态的风险评分；

76、• 使用所述风险评分来预测患者对癌症治疗的反应；

77、- 至少一个输出，其被配置成提供患者对癌症治疗的反应。

78、本发明还涉及一种用于预测患有癌症的患者的复发风险的方法，所述方法包括分析至少一个全组织学切片图像，所述至少一个全组织学切片图像包括患者的癌组织的至少一部分的表示。

79、根据一个实施方式，在用于预测患有癌症的患者的复发风险的方法中，所述癌症是乳腺癌。

80、根据一个实施方式，所述乳腺癌是hr+/her2-乳腺癌，特别是早期侵袭性hr+/her2-乳腺癌。

81、根据一个实施方式，分析患者的至少一个全组织学切片图像包括使用至少一个处理器：

82、- 检测所述至少一个全组织学切片图像中的细胞并且将每个检测到的细胞与表示细胞状态的细胞类别相关联；

83、- 分割所述至少一个全组织学切片图像中的组织并且将每个分割的组织与表示组织状态的组织类别相关联；

84、- 针对每个细胞类别，基于在至少一个全组织学切片图像中针对所述细胞类别检测到的细胞提取至少一个细胞特征；

85、- 针对每个组织类别，基于至少一个全组织学切片图像的与和所述组织类别相关联的分割的组织有关的部分提取至少一个组织特征；

86、- 使用所述至少一个细胞特征和所述至少一个组织特征来预测患有癌症的患者的复发风险。

87、本发明还涉及一种用于根据患者的复发风险来治疗患者的癌症的方法，所述方法包括：

88、- 使用根据前述实施方式中任一项所述的方法确定患有癌症的患者是处于低复发风险还是不处于低复发风险（例如处于高复发风险）；以及

89、- 根据复发风险实施适应性患者护理，所述适应性患者护理包括手术、放射治疗、激素治疗、化疗和/或抗复发药物（例如周期蛋白依赖性激酶4和/或6抑制剂（cdk4/6i））。

90、根据一个实施方式，患者被确定为处于低复发风险，并且适应性患者护理包括手术、放射治疗、激素治疗和/或化疗。

91、根据一个实施方式，患者被确定为不处于低复发风险（例如处于高复发风险），并且适应性患者护理包括：

92、- 手术、放射治疗、激素治疗和/或化疗，以及

93、- 抗复发药物，例如周期蛋白依赖性激酶4和/或6抑制剂（cdk4/6i）。

94、此外，本公开内容涉及一种包括软件代码的计算机程序，当该程序由处理器执行时，该软件代码适于执行符合以上执行模式中的任何执行模式的用于预测的方法或用于训练的方法。

95、本公开内容还涉及一种非暂态程序存储装置，其可由计算机读取，有形地体现指令程序，该指令程序可由计算机执行以执行符合本公开内容的用于预测的方法或用于训练的方法。

96、这样的非暂态程序存储装置可以是但不限于电子、磁性、光学、电磁、红外或半导体装置、或前述的任何合适的组合。应当理解，以下虽然提供了更具体的示例，但仅仅是本领域普通技术人员容易理解的说明性且非穷举的列举：便携式计算机软盘、硬盘、rom、eprom（可擦除可编程rom）或闪存、便携式cd-rom（压缩盘rom）。

97、定义

98、在本发明中，以下术语具有以下含义：

99、术语“一（a）”和“一个（an）”是指冠词的语法对象中的一个或多于一个（即，至少一个）。通过示例的方式，“元件”意指一个元件或多于一个元件。类似地，表述“至少一个”和“一个或更多个”是可互换的。

100、如本文中使用的，术语“受试者”优选地指人类受试者。类似地，术语“患者”优选地指人类患者。

101、术语“适于”和“配置”在本公开内容中用于广泛涵盖本装置的初始配置、后续适应或补充、或其任何类似组合，无论是通过材料还是软件手段（包括固件）实现。

102、术语“处理器”不应被解释为限于能够执行软件的硬件，而是以一般方式指代处理装置，其可以例如包括计算机、微处理器、集成电路或可编程逻辑装置（pld）。处理器还可以包括一个或更多个图形处理单元（gpu），无论是用于计算机图形和图像处理还是其他功能。另外，能够执行相关联的和/或所产生的功能的指令和/或数据可以存储在任何处理器可读介质上，诸如例如集成电路、硬盘、cd（压缩盘）、诸如dvd（数字多功能盘）的光盘、ram（随机存取存储器）或rom（只读存储器）。指令尤其可以存储在硬件、软件、固件或其任何组合中。

103、“机器学习（ml）”以传统方式指代基于训练数据通过经验自动改进的计算机算法，其使得能够通过从训练数据中提取的期望输出与由计算机模型计算出的评估输出之间的差距减小来调整计算机模型的参数。

104、“超参数”目前意指用于对模型构造进行上游控制的参数，例如样本选择中的记忆-遗忘平衡或时间窗口的宽度，其与取决于具体情况的模型本身的参数形成对比。在ml应用中，超参数用于控制学习过程。

105、“数据集”是用于构建ml数学模型以便做出数据驱动的预测或决策的数据集合。在“监督学习”（即，从标记的训练数据形式的已知输入-输出示例推断函数）中，三种类型的ml数据集（也指定为ml集）通常专用于三种相应类型的任务：“训练”，即拟合参数；“验证”，即调整ml超参数（其是用于控制学习过程的参数）；以及“测试”，即独立于用于构建数学模型的训练/验证数据集检查该模型是否提供令人满意的结果。在“无监督学习”中，超参数可以控制诸如聚类分配标准或收敛阈值的因素。例如，在诸如k均值的聚类算法中，聚类的数目是影响模型行为的超参数。类似地，在如主成分分析（pca）的降维技术中，保留的主成分的数目可以被视为影响数据的最终表示的超参数。另外，“无监督学习”数据集缺乏明确的标签或注释，而是由原始数据点或特征组成。在“无监督学习”任务中，整个数据集通常用于训练，因为没有预定义的目标输出。无监督数据集中标签的缺失需要替选方法来评估模型性能，例如评估聚类的一致性或在降维空间中数据结构的保持。

106、“神经网络（nn）”指代包括节点（称为“神经元”）和由“权重”建模的神经元之间的连接的ml类别。对于每个神经元，通过“激活函数”根据输入或一组输入给出输出。神经元通常被组织成多个“层”，使得一层的神经元仅连接至紧邻的前一层和紧邻的后一层的神经元。在残差神经网络（rnn）的背景下，“残差连接”可以用于促进跨多个时间步长的更高效的梯度传播。“残差连接”是“神经网络”架构中的捷径连接，其中某一层的输入被添加至后续层的输出。这样的“残差连接”增强了网络捕获顺序数据中的长程依赖性和时间模式的能力。“残差连接”使得能够对抗训练期间梯度消失或梯度爆炸的挑战。

107、以上ml定义与其通常含义一致，并且可以用ml领域技术人员熟知的众多相关联特征和性质以及相关数值对象的定义来补充。附加术语将在以下描述中在任何有用的地方被定义、指定或注释。