电力缺陷检测模型多轮训练的增量计算复用方法与流程

摘要: 本发明涉及深度学习与计算机视觉,尤其是涉及一种电力缺陷检测模型多轮训练的增量计算复用方法。背景技术:1、在电力设备智能巡检场景中,基于深度神经网络的缺陷检测模型...
电力缺陷检测模型多轮训练的增量计算复用方法与流程

本发明涉及深度学习与计算机视觉,尤其是涉及一种电力缺陷检测模型多轮训练的增量计算复用方法。

背景技术:

1、在电力设备智能巡检场景中,基于深度神经网络的缺陷检测模型需要随着新采集数据的不断涌现而进行高频次的多轮迭代训练。高频微调训练对于模型及时捕获新型缺陷、适应不同环境光照及复杂视角变化具有重要技术意义。通过持续吸收新增巡检样本的特征,能够有助于维持并提升视觉模型在复杂动态电网环境下的底层特征提取能力与全局检测精度。

2、当前,针对新增数据集的模型微调通常采用全量重算或传统的断点续训策略。全量重算策略在每一轮训练中将历史积累的所有存量数据与新增数据混合,从头开始执行完整的前向推理与反向传播运算。而常规的断点续训策略则直接在基础模型上仅利用新增小批量数据进行参数更新,或者采用全局统一的特征冻结机制以强行保留历史知识。

3、在面对海量高分辨率图像且新增样本分布存在极度不平衡时,全量训练消耗了底层硬件的浮点运算资源与显存带宽,导致训练周期较为漫长;而简单的部分参数微调或全局静态冻结又往往难以兼顾新特征的学习与历史知识的保留,易在多轮次连续微调中造成模型对旧类别的遗忘,或引发优化方向的偏离与梯度冲突。

4、综上所述,现有方法在处理具有重尾分布特性的大规模增量数据时,面临着算力开销与模型表征稳定性之间的深层次矛盾。如何在压缩训练计算成本的同时,抑制多轮迭代过程中模型对历史基础特征的遗忘与退化,是当前视觉检测模型持续学习中亟待解决的技术挑战。因此,亟需研究一种能够在多轮训练中动态平衡计算资源利用率与网络参数稳定性的训练方法。

技术实现思路

1、本发明的目的在于提供一种电力缺陷检测模型多轮训练的增量计算复用方法,以期解决现有技术的上述问题。

2、解决现有技术的上述问题,本发明提供如下技术方案,一种电力缺陷检测模型多轮训练的增量计算复用方法,包括:

3、获取新增缺陷样本、存量巡检样本与预训练缺陷检测模型;

4、基于新增缺陷样本与预训练缺陷检测模型的尺度映射结果确立复用边界,提取存量巡检样本在复用边界处的存量特征以构建特征缓存池;

5、基于新增缺陷样本计算得到新增特征,将新增特征与从特征缓存池调取的存量特征进行混合前向传播;

6、在反向传播时,对存量特征对应的求导链路执行梯度调控,迭代输出微调模型权重;

7、利用微调模型权重对抽取的探针数据进行重算得到重算特征,基于重算特征与特征缓存池计算特征漂移度;

8、当特征漂移度满足预设的刷新条件时更新特征缓存池,在训练收敛后输出电力缺陷检测模型。

9、其中混合前向传播具体为:将新增缺陷样本输入预训练缺陷检测模型在复用边界之前的网络层进行前向计算,得到新增特征,将新增特征与从特征缓存池调取的存量特征进行混合前向传播;

10、其中,构建特征缓存池包括:

11、采用键值对的数据结构在高速存储介质中构建特征缓存池;

12、将存量巡检样本的唯一标识符作为主键,将对应的存量特征转换为半精度浮点格式后与原始图像文件路径索引、最近一次前向计算的时间戳合并封装作为存储键值进行持久化写入。

13、上述复用边界通过两级筛选确定,首先基于尺度映射确定理论上限节点,再在其范围内基于硬件与频域评估确定实际缓存节点。

14、本发明的有益效果在于:在压缩高分辨率图像训练算力开销的同时,有利于缓解模型增量微调时的遗忘与发散。

15、具体包括:为了解决现有方法在处理重尾分布增量数据时面临的算力开销与表征稳定性矛盾,本发明通过将目标物理尺度与网络拓扑主干感受野相匹配,确立了动态复用上限,有利于解决固定经验划分易丢失微小缺陷特征的问题,实现复用深度的自适应下探。

16、针对直接复用历史特征容易冻结高频缺陷响应的缺陷,本发明引入综合考量硬件读写延迟与物理频域静态能量的单点级联选优机制,能够有效拦截了高频变异噪点,将海量存量数据的重复计算开销降至较低水平且保障了前向链路连通性。一些技术效果将在后文结合实施例进行描述。

1.一种电力缺陷检测模型多轮训练的增量计算复用方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,确立复用边界,包括:

3.根据权利要求2所述的方法,其特征在于,基于新增缺陷样本与预训练缺陷检测模型的尺度映射结果,确定动态计算复用边界节点,包括:

4.根据权利要求2所述的方法,其特征在于,在动态计算复用边界节点之前的候选网络层中确立唯一的有效缓存边界节点,包括:

5.根据权利要求1所述的方法,其特征在于,将新增特征与从特征缓存池调取的存量特征进行混合前向传播,包括:

6.根据权利要求5所述的方法,其特征在于,对存量特征对应的求导链路执行梯度调控,迭代输出微调模型权重,包括:

7.根据权利要求1所述的方法,其特征在于,利用微调模型权重对抽取的探针数据进行重算得到重算特征,基于重算特征与特征缓存池计算特征漂移度,包括:

8.根据权利要求7所述的方法,其特征在于,执行全局空间池化降维解耦操作,坍缩生成一维的重算特征以及缓存对照特征,以及计算特征漂移度,包括:

9.根据权利要求1所述的方法,其特征在于,当特征漂移度满足预设的刷新条件时更新特征缓存池,包括:

10.一种电子设备,其特征在于,包括: