一种基于多中心浮游生物监测的图像分布式检测方法
本发明属于海洋生态监测与计算机视觉交叉,具体涉及一种基于多中心浮游生物监测的图像分布式检测方法。
背景技术:
1、浮游生物是海洋生态系统的重要组成部分,在海洋食物网、营养盐循环和碳循环中发挥着重要作用。浮游生物群落的丰度和种类组成的变化,是评估海洋生态健康状况和预警赤潮等环境事件的重要指标。因此,对浮游生物群落进行持续、准确的监测,一直是海洋生态学研究的基本需求。
2、传统的浮游生物鉴定以人工显微镜检为主,通量低、耗时长。近年来,随着流式成像和原位成像设备的普及,每次采样可以产生数万张图像,深度学习方法被引入浮游生物识别,显著提升了已知类别上的分类精度。但这些方法大多建立在一个关键假设上:测试时出现的样本都属于训练时定义的类别,即封闭集假设。在真实海洋监测中,这一假设几乎必然被打破——系统会持续遇到训练集中从未出现过的样本。这些分布外样本大致可以分为两类:一类是near-ood,即与已知类别在形态上非常相似的未见物种,它们与已知类别仅在细粒度特征上存在差异,识别难度很高;另一类是far-ood,即与已知浮游生物差异明显的非目标样本,如鱼卵、气泡、有机碎屑等,这类样本在实际采样中数量庞大。如果系统只能识别已知类别,而不能对这些ood样本发出拒识信号,神经网络往往会对未知样本给出过高的置信度预测,由此产生的错误分类结果将直接影响物种丰度估计等下游分析的可靠性。因此,真实海洋浮游生物监测对系统提出的要求,不仅是已知类别的分类准确率,更是对未知样本的ood检测能力。
3、除了ood检测需求之外,真实的海洋浮游生物监测还面临数据层面的约束。浮游生物图像通常由分布在不同海域的多个科研机构或监测中心分别采集和管理,各中心的原始图像及其采样元信息往往涉及地理位置、设备参数等敏感内容,受数据治理和安全协议的限制,难以直接汇聚到中心服务端进行统一训练。联邦学习为这一约束提供了解决思路:各中心在本地数据上进行训练,只将模型更新上传至服务端聚合,原始数据始终留在本地。
4、然而,现有的联邦学习研究主要关注如何训练出高精度的分类模型,仍然无法直接应用在真实的浮游生物监测场景中。即,即使通过联邦训练得到了一个准确的分类器,该分类器在面对未知样本时仍然缺乏拒识能力。因此,如何在原始图像不能跨中心共享的条件下,为联邦训练得到的分类器补充ood检测路径,是亟待解决的技术问题。
技术实现思路
1、针对现有技术中浮游生物监测系统在联邦学习框架下缺乏分布外检测能力、无法在原始图像不出本地的前提下有效拒识未知样本的缺陷,本发明提供一种基于多中心浮游生物监测的图像分布式检测方法,旨在在不共享原始图像和逐样本特征的条件下,实现联邦训练后分类器的ood检测能力。
2、为实现上述目的,本发明采用以下技术手段:
3、一种基于多中心浮游生物监测的图像分布式检测方法,包括以下步骤:
4、步骤s1:构建包含一个服务端和n个客户端的联邦学习系统,每个客户端持有本地有标签浮游生物图像训练集,其中,为浮游生物图像,为对应的已知类别标签,为客户端的本地样本数,各客户端之间不共享原始图像;采用fedavg算法进行联邦训练,得到全局分类模型,所述全局分类模型包括特征提取器和分类头;
5、步骤s2:固定步骤s1训练得到的全局分类模型参数;各客户端使用冻结的特征提取器提取本地已知类别训练样本的特征,在本地计算一阶统计量、二阶统计量以及样本数,并上传至服务端;服务端聚合各客户端的统计量、、,并根据聚合后的统计量重构全局特征均值和全局特征协方差;
6、步骤s3:服务端基于步骤s2重构得到的全局特征协方差矩阵进行主成分分析,按预定规则选取前个主方向构造主子空间矩阵,其中,为特征维度;服务端将主子空间矩阵和全局特征均值下发至各客户端;
7、步骤s4:各客户端在本地已知类别训练样本上,利用步骤s3收到的和计算能量项和残差项,其中,为已知类别总数,为单位矩阵;各客户端在本地计算能量求和和残差求和,并上传至服务端;服务端聚合后计算经验校准系数;
8、步骤s5:对于待检测的浮游生物图像样本,计算其ood分数;若小于预设阈值,判定该样本为分布外样本;否则判定为已知类别样本。
9、作为优选地,步骤s1中所述fedavg算法每一轮通信包括:服务端将当前全局模型参数下发至各客户端;各客户端在本地数据上进行若干轮本地训练;各客户端将本地模型更新上传至服务端;服务端按样本数加权平均聚合各客户端的模型更新。
10、作为优选地,步骤s2中所述全局特征均值和全局特征协方差的重构在数学上与将所有样本集中到服务端直接计算的结果完全一致。
11、作为优选地,步骤s3中所述预定规则为固定经验值规则,即取预设的固定值。
12、作为优选地,步骤s3中所述预定规则为基于act的自适应维度选择规则,具体包括:
13、由步骤s2重构得到的全局协方差矩阵构造样本相关矩阵,其中,为由对角元素构成的对角矩阵;
14、记的降序样本特征值为,按act规则计算修正特征值与阈值;
15、自适应主子空间维度由确定;
16、服务端在上进行主成分分析,保留前个主方向构造主子空间矩阵。
17、作为优选地,步骤s4中所述经验校准系数用于平衡能量项与残差项之间的量纲差异。
18、作为优选地,步骤s5中所述预设阈值的选取方式为:在已知类别验证集上,根据预设的误拒率要求确定相应的分位数作为阈值。
19、作为优选地,所述浮游生物图像包括流式成像设备或原位成像设备采集的浮游生物显微图像。
20、作为优选地,所述分布外样本包括near-ood样本和far-ood样本,所述near-ood样本为与已知类别在形态上相似的未见物种,所述far-ood样本为与已知浮游生物差异明显的非目标样本。
21、作为优选地,其特征在于,所述方法为后处理方法,不改变步骤s1中联邦分类训练的目标函数和训练流程。
22、本发明具有以下有益效果:
23、1.本发明通过将vim(virtual-logit matching)方法所需的全局统计量改写为可联邦聚合的充分统计量形式,各客户端仅需上传本地一阶和二阶特征统计量以及经验校准所需的标量统计量,服务端即可精确重构全局特征均值、协方差和经验校准系数,在不共享原始图像与逐样本特征的约束下实现了vim的联邦化部署,有效保护了各数据中心的数据隐私。
24、2.本发明在fedvim基础上进一步引入act自适应维度选择机制,将主子空间构造从固定经验值设定转为数据驱动的自适应维度选取,避免了固定经验值在不同backbone和数据集上适配性差的问题,提高了方法的泛化能力和鲁棒性。
25、3.本发明属于后处理ood检测方法,不改变联邦分类训练阶段的目标函数和训练流程,仅需在联邦训练完成后进行两轮轻量级统计量通信即可完成ood检测模块的部署,与foster等需要在训练阶段引入额外生成网络的方法相比,实现复杂度显著降低,通信开销小,更适用于资源受限的海洋监测边缘部署场景。
26、4.本发明针对浮游生物监测场景中near-ood和far-ood两类分布外样本均具有有效的检测能力,能够显著降低神经网络对未知样本的过置信度预测风险,为海洋生态监测中物种丰度估计等下游分析任务提供了可靠的数据质量保障。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com