一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法、系统
本发明涉及人工智能、医学影像分析、分布式机器学习、联邦学习和持续学习,具体地,涉及一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法、系统。
背景技术:
1、随着人工智能技术在医学影像诊断领域的应用不断深入,基于深度学习的医学影像诊断模型已被用于病理图像分类、眼底影像分析、肺部影像筛查、肿瘤分型等多种辅助诊断任务。在实际医疗环境中,医学影像数据通常分散存储于不同医院、专科中心、区域医疗平台或医学研究机构。由于医疗数据涉及患者隐私、伦理合规和数据安全要求,不同医疗机构之间难以直接共享原始影像数据。
2、联邦学习为多中心医学影像协同建模提供了一种可行方案。在联邦学习框架下,各医疗机构客户端在本地数据上训练模型,仅上传模型参数或模型更新,由服务器聚合形成全局诊断模型,从而在不集中存储原始医疗影像数据的情况下实现跨机构协同训练。然而,多中心医疗影像联邦学习并非一次性静态训练过程。随着诊疗场景变化、影像设备更新、疾病分型细化和罕见病例积累,新的疾病类别、病理亚型或影像标签会持续出现。因此,联邦医学影像诊断模型需要具备持续增量学习能力。
3、现有联邦增量学习方法通常重点关注灾难性遗忘问题,即模型学习新增类别后对旧类别的诊断能力下降。相关方法多采用样本回放、伪特征生成、知识蒸馏或参数正则化等策略,以保持旧类别知识。然而,在多中心医疗影像场景中,历史疾病类别数据往往仍保留在各医疗机构本地,旧类数据并非完全不可用。在这种情况下,模型在长期训练后对后续新增疾病类别仍表现出学习困难时,该问题并不完全来源于旧数据缺失,而可能来源于模型自身的可塑性下降。
4、模型可塑性是指模型在已有训练基础上继续学习新类别、新知识或新任务的能力。长期训练过程中,深度模型可能逐渐出现表征坍缩、低效神经元累积、有效特征维度减少等现象,使得模型对新增疾病类别或罕见影像模式的适应能力降低。在联邦学习环境中,该问题更为突出:不同医疗机构的数据分布存在显著差异,本地训练容易偏向各自优势疾病类别,导致客户端表征逐渐低秩化;经过多轮联邦聚合后,本地表征退化可能进一步传递至全局模型,降低全局诊断模型的长期学习能力。
5、现有联邦学习方法通常通过改进聚合策略、增加近端正则项、进行特征对齐或知识蒸馏来缓解数据异构和客户端漂移问题,但大多关注当前阶段性能或旧知识保持。已有集中式持续学习方法虽然可以通过刷新低效神经元或重置模型单元恢复模型容量,但通常依赖训练端直接访问数据和中间激活信息。
技术实现思路
1、本发明实施例的目的是提供一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法、系统、电子设备及计算机可读存储介质。该方法针对长期联邦增量训练中模型表征坍缩、有效特征维度下降和新增疾病类别适应能力减弱的问题,通过客户端有效秩正则化抑制本地表征退化,并通过服务器端基于轻量激活统计的无数据容量刷新恢复低效模型单元,从而在不上传原始医疗影像数据的条件下提升全局诊断模型的持续学习能力。
2、为了实现上述目的,本发明实施例提供一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,所述方法包括:
3、服务器初始化全局医学影像诊断模型,并确定当前增量诊断阶段对应的累计疾病类别空间;
4、服务器将当前全局医学影像诊断模型分发至多个医疗机构客户端;
5、各医疗机构客户端基于本地累计疾病类别影像数据执行本地训练,并在本地训练过程中基于指定网络层的激活特征计算有效秩正则项,以抑制本地医学影像表征坍缩;
6、各医疗机构客户端在本地训练过程中记录通道级激活统计,并将训练后的本地模型参数和所述通道级激活统计上传至服务器;
7、服务器对各医疗机构客户端上传的本地模型参数进行聚合,得到聚合后的全局医学影像诊断模型;
8、服务器根据所述通道级激活统计和所述全局医学影像诊断模型中的通道输出权重强度计算通道效用;
9、服务器基于通道成熟度和通道效用选择成熟低效通道,并对所述成熟低效通道执行无数据容量刷新;
10、服务器将刷新后的全局医学影像诊断模型用于下一轮联邦训练或下一增量诊断阶段。
11、优选地,所述累计疾病类别空间通过如下方式确定:在当前增量诊断阶段引入新增疾病类别集合;将当前阶段以及历史阶段已经出现的疾病类别合并,形成累计疾病类别空间;各医疗机构客户端在本地保存历史疾病类别影像数据和新增疾病类别影像数据,构成本地累计影像数据集;所述服务器不接收、保存或还原各医疗机构客户端的原始医疗影像数据和单样本诊断特征。
12、优选地,所述全局医学影像诊断模型包括特征提取网络和分类器。所述特征提取网络用于提取医学影像表征,所述分类器用于输出疾病类别诊断结果。当新增疾病类别到达时,服务器扩展分类器的输出维度,使其覆盖当前累计疾病类别空间中的全部疾病类别。
13、优选地,所述有效秩正则化本地训练包括:客户端在本地训练过程中维护小批量缓冲区;当本地训练步数达到预设有效秩正则化间隔时,客户端使用当前本地模型重新前向传播所述小批量缓冲区中的医疗影像样本;客户端提取指定网络层的后激活特征并堆叠为特征矩阵;客户端基于所述特征矩阵的奇异值分布计算有效秩,并构造用于提高有效秩的正则项,以鼓励模型使用更多有效特征方向。
14、优选地,所述通道级激活统计包括各统计层中每个通道的平均绝对激活幅值和统计次数。对于卷积层,所述平均绝对激活幅值在批量维度和空间维度上计算;对于全连接层、transformer隐藏层或一维隐藏特征张量,所述平均绝对激活幅值在批量维度上计算。所述通道级激活统计为聚合统计量,不包含原始医疗影像数据、单个患者影像特征或单个样本诊断结果。
15、优选地,所述服务器端通道效用估计包括:服务器对客户端上传的通道级激活统计进行加权聚合,得到全局通道使用代理值;服务器计算对应通道的输出权重范数;服务器将所述全局通道使用代理值与所述输出权重范数结合,得到通道贡献效用;服务器采用指数滑动平均方式维护每个通道的历史效用。
16、优选地,所述无数据容量刷新包括:服务器为每个可刷新通道维护通道年龄变量和效用变量;当通道年龄变量超过预设成熟度阈值时,服务器将该通道纳入成熟通道集合;服务器从成熟通道集合中选择效用最低的若干通道,对所述通道的输入权重重新初始化,对输出权重置零或弱化,并重置归一化参数、年龄变量和效用变量。
17、本发明实施例的其它特征和优点将在随后的具体实施方式部分予以详细说明。
1.一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述方法包括:
2.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述确定当前增量诊断阶段对应的累计疾病类别空间包括:
3.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述全局医学影像诊断模型包括特征提取网络和分类器;
4.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述各医疗机构客户端基于本地累计疾病类别影像数据执行本地训练包括:
5.根据权利要求4所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述有效秩正则化更新包括:
6.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述各医疗机构客户端在本地训练过程中记录通道级激活统计包括:
7.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述服务器根据所述通道级激活统计和所述通道输出权重强度计算通道效用包括:
8.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述服务器基于通道成熟度和通道效用选择成熟低效通道包括:
9.根据权利要求1所述的一种面向多中心医疗影像联邦增量诊断的模型可塑性保持方法,其特征在于,所述对所述成熟低效通道执行无数据容量刷新包括:
10.一种面向多中心医疗影像联邦增量诊断的模型可塑性保持系统,其特征在于,包括服务器和多个医疗机构的客户端;
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com