一种面向电力作业场景的模型轻量化和自适应压缩迁移方法、系统、设备及介质与流程

摘要: 本发明涉及计算机视觉与模型压缩,尤其涉及一种面向电力作业场景的模型轻量化和自适应压缩迁移方法、系统、设备及介质。背景技术:1、随着智能电网建设的推进,利用人工智...
一种面向电力作业场景的模型轻量化和自适应压缩迁移方法、系统、设备及介质与流程

本发明涉及计算机视觉与模型压缩,尤其涉及一种面向电力作业场景的模型轻量化和自适应压缩迁移方法、系统、设备及介质。

背景技术:

1、随着智能电网建设的推进,利用人工智能技术对电力作业现场进行自动化、智能化监控已成为保障电力安全生产、提升运维效率的关键手段。在实际工程部署中,通常采用“端云协同”的架构模式:端侧设备负责实时采集视频流并进行初步的、低延迟的违章识别;云端服务器则负责处理复杂的、高精度的识别任务,并进行全局的作业合规性分析与调度。这种架构对部署在端侧设备的视觉检测模型提出了严苛的要求:模型必须具备高推理速度、低内存占用和低功耗,以满足端侧设备的计算资源限制;同时,模型还需保持足够的识别精度,以准确完成独立识别任务(如单人作业、围栏缺失等)并可靠触发复杂识别任务(如登高作业安全带检测、吊装作业安全区域识别等)。

2、为实现高精度的目标检测,基于深度学习的模型通常参数量大、计算复杂度高,难以直接部署在资源受限的端侧设备上。模型压缩技术,如量化、剪枝和知识蒸馏,为解决此矛盾提供了技术路径。量化通过降低模型权重和激活值的数值精度(如从32位浮点数降至8位整数)来减少模型存储体积并利用硬件整数计算单元加速推理。剪枝通过移除模型中冗余的神经元连接或整个通道来降低模型的参数量和计算量。知识蒸馏则通过让一个紧凑的“学生”模型学习一个高性能的“教师”模型的输出或中间特征,以提升小模型的泛化能力。

技术实现思路

1、鉴于上述现有存在的问题,本发明提供一种面向电力作业场景的模型轻量化和自适应压缩迁移方法、系统、设备及介质。

2、因此,本发明解决的技术问题是:现有技术在电力作业智能监控场景下,端侧视觉检测模型难以同时满足高精度、低延迟、强泛化能力需求的问题。

3、为解决上述技术问题,本发明提供如下技术方案,一种面向电力作业场景的模型轻量化和自适应压缩迁移方法,包括:获取云端已训练的高精度教师视觉检测模型,以及待部署于端侧的轻量级学生视觉检测模型;对所述学生模型进行联合优化,得到轻量化学生模型;基于所述教师模型和所述轻量化学生模型,构造特征投影网络,并联合分布匹配损失和逻辑蒸馏损失对所述轻量化学生模型进行参数更新,得到迁移后学生模型;在所述迁移后学生模型的核心计算单元中并行嵌入样式调制模块,并引入风格感知路由器动态计算各条适配通路的融合权重,输出适配后的检测结果。

4、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的一种优选方案,其中:所述进行联合优化包括:对所述学生模型的各计算层引入可学习的分布整形变换对以优化权重和激活值在量化网格上的分布均匀性,得到中间学生模型;

5、对所述中间学生模型进行基于敏感度分析的结构化剪枝,移除冗余计算通道,得到轻量化学生模型;

6、所述分布整形变换对包括可学习的通道混洗矩阵和可学习的逐通道缩放向量;通过最大化量化后数据的有效量化区间占比来调整所述变换对。

7、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的一种优选方案,其中:所述进行基于敏感度分析的结构化剪枝包括:为每个待剪枝层计算每个输出通道的重要性分数;

8、所述重要性分数由当前通道权重范数的相对大小和当前通道输出特征图关于任务损失的梯度范数构成;

9、通过sigmoid函数基于重要性分数与动态阈值的差值计算通道的软掩码,用所述软掩码对通道输出进行加权,在训练过程中优化包含任务损失和软掩码稀疏正则项的总损失函数,并根据当前批次数据计算的通道重要性分数动态调整所述动态阈值;

10、训练收敛后根据最终的重要性分数移除分数低于预设阈值的输出通道及在下一层中对应的输入通道。

11、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的一种优选方案,其中:所述构造特征投影网络包括:卷积层和全连接层,用于将所述轻量化学生模型的中间层特征图映射至与所述教师模型最终分类特征相同的维度空间;

12、所述分布匹配损失定义为投影后学生特征与教师分类特征之间的余弦相似度负对数;

13、所述逻辑蒸馏损失定义为教师与学生模型输出概率分布之间的jensen-shannon散度;知识迁移阶段的总损失函数由学生模型的目标检测任务损失、所述分布匹配损失和所述逻辑蒸馏损失加权求和得到。

14、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的一种优选方案,其中:所述并行嵌入样式调制模块包括:每条低秩适配通路包含降维矩阵和升维矩阵,调制后的核心计算单元权重表示为原始权重与各通路低秩乘积的加权和,所述融合权重由所述风格感知路由器输出并经归一化得到;

15、所述风格感知路由器的输入为输入图像的全局风格描述符,所述全局风格描述符包括图像的颜色矩、边缘方向直方图特征以及通过微型卷积网络提取的全局纹理特征向量。

16、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的一种优选方案,其中,还包括,端侧设备在持续运行中统计模型对各类别目标的平均检测置信度,当某类别的平均置信度持续低于预设阈值时,将当前类别的困难样本图像经匿名化处理后上传至云端;

17、云端利用困难样本对所述风格感知路由器及对应的低秩适配通路参数进行调整,并将更新后的参数加密下发至端侧设备;端侧设备在空闲时加载新参数。

18、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的一种优选方案,其中:所述匿名化处理包括对图像中的人脸信息和车牌信息进行模糊化处理;调整过程中冻结所述迁移后学生模型中除风格感知路由器及对应的低秩适配通路之外的剩余参数。

19、本发明提供一种面向电力作业场景的模型轻量化和自适应压缩迁移系统。

20、作为本发明所述的一种面向电力作业场景的模型轻量化和自适应压缩迁移系统的一种优选方案,其中:包括模型配置模块、联合压缩优化模块、跨架构蒸馏模块、动态场景适配模块、部署推理与反馈模块;

21、所述模型配置模块,配置用于加载云端教师模型和端侧学生模型的初始参数;

22、所述联合压缩优化模块,配置用于对所述学生模型执行分布整形量化优化和结构化剪枝,生成轻量化学生模型;

23、所述跨架构蒸馏模块,配置用于执行跨架构知识蒸馏,通过特征投影网络进行师生模型间的语义空间对齐,得到迁移后学生模型;

24、所述动态场景适配模块,配置用于在迁移后学生模型中集成样式调制模块和风格感知路由器;

25、所述部署推理与反馈模块,配置用于将最终模型部署至边缘ai设备,执行实时视频流分析,并管理低置信度样本的回传与模型参数更新流程。

26、本发明提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的步骤。

27、本发明提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现一种面向电力作业场景的模型轻量化和自适应压缩迁移方法的步骤。

28、本发明的有益效果:通过可学习的通道混洗与缩放操作,在不改变网络数学等价性的前提下,主动优化权重与激活值在量化空间的分布,提升有效比特利用率,从而在低精度量化下保持更高的模型精度。

29、综合权重幅值与特征梯度信息来评估通道重要性,并通过动态阈值控制实现精准剪枝,确保了剪枝后的模型在通用cpu上能获得实际的推理加速。

30、针对异构模型知识迁移难题,构建了特征投影网络与联合蒸馏损失,将学生模型的中间特征语义空间与教师模型的高层语义空间对齐,实现了跨架构的有效知识传递,显著提升了压缩后学生模型的性能上限。

31、创新性地提出了集成低秩样式调制模块与风格感知路由器的场景自适应方案,使单一压缩模型能够根据输入图像的视觉风格动态调整其内部参数,以微小的参数开销显著提升了模型在多变电力作业场景下的泛化能力和鲁棒性。