一种面向电力作业场景的端侧轻量化目标检测方法、系统、设备及介质与流程

摘要: 本发明涉及计算机视觉与模型压缩,尤其涉及一种面向电力作业场景的端侧轻量化目标检测方法、系统、设备及介质。背景技术:1、目标检测作为电力作业监控的核心技术,近年来...
一种面向电力作业场景的端侧轻量化目标检测方法、系统、设备及介质与流程

本发明涉及计算机视觉与模型压缩,尤其涉及一种面向电力作业场景的端侧轻量化目标检测方法、系统、设备及介质。

背景技术:

1、目标检测作为电力作业监控的核心技术,近年来取得了显著进展。然而,主流的高精度检测模型通常参数量大、计算复杂度高,难以直接部署于资源受限的端侧环境。为此,模型压缩技术,如神经架构搜索、量化与剪枝,被广泛研究以平衡模型精度与效率。神经架构搜索旨在自动发现兼顾精度与速度的网络结构;量化通过降低模型权重与激活值的数值精度来减少存储与计算开销;剪枝则通过移除网络中冗余的参数或结构来降低模型复杂度。

2、尽管现有技术为端侧部署提供了可能,但在面向电力作业监控这一特定领域时,仍面临若干挑战:

3、通用架构搜索与压缩方案与领域特性适配不足,模型压缩各阶段缺乏协同与次序优化,动态场景适应性与模型固定结构之间的矛盾等。研究常以参数量、浮点运算数作为效率代理指标,但这些指标与在端侧设备上的实际推理延迟、内存占用关联性不强。特别是在使用非结构化剪枝时,参数量虽减少,但由于引入了不规则稀疏模式,在未集成专用稀疏计算库的通用cpu上可能无法获得加速,甚至因额外索引开销导致延迟增加。

4、因此,亟需一种面向电力作业监控领域特点的、能够协同优化架构搜索与模型压缩的轻量化目标检测模型构建方法,以实现在端侧设备上高精度、低延迟、强适应性的违章识别能力。

技术实现思路

1、鉴于上述现有存在的问题,本发明提供一种面向电力作业场景的端侧轻量化目标检测方法、系统、设备及介质。

2、因此,本发明解决的技术问题是:现有技术中面向电力作业监控的端侧目标检测模型难以在有限资源下兼顾高精度、低延迟与跨场景适应性的问题

3、为解决上述技术问题,本发明提供如下技术方案,一种面向电力作业场景的端侧轻量化目标检测方法,包括:构建硬件感知的神经架构搜索空间,将目标端侧设备的硬件特性抽象为延迟查找表并集成至搜索奖励函数;进行两阶段硬件感知架构搜索,在云侧进行初步架构搜索获得帕累托候选架构,针对具体硬件进行二次微搜索并调整得到基础检测模型;对基础检测模型依次进行结构化剪枝、量化感知训练及知识蒸馏,生成最终压缩模型;将最终压缩模型转换为适用于目标边侧设备推理引擎的格式,在推理时动态选择计算路径。

4、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测方法的一种优选方案,其中:所述目标端侧设备的硬件特性抽象为延迟查找表包括:在目标端侧设备上,预先基准测试搜索空间中各基础算子在多种输入输出维度与特征图尺寸下的实际推理时间,构建多维查找表;在架构搜索过程中,对于每个候选架构,将计算图分解为基础算子并查询所述查找表,估算端到端推理延迟,并将估算值作为奖励函数的一项,用于平衡验证集精度与预估延迟。

5、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测方法的一种优选方案,其中:所述进行两阶段硬件感知架构搜索包括:在云侧使用大规模电力作业数据集,通过可微分架构搜索策略联合优化网络权重和架构参数,将架构搜索空间参数作为可训练变量,并引入延迟惩罚项,获得一组位于精度-延迟帕累托前沿上的候选架构及其预训练权重;

6、针对具体的边侧部署硬件,将所述候选架构部署至目标硬件进行实际延迟测量,根据实测的精度与延迟权衡选定最终部署架构,并利用领域特定数据集进行微调,得到基础检测模型。

7、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测方法的一种优选方案,其中:所述结构化剪枝包括:采用通道级重要性评分机制,对于每一层的每个输出通道,融合三项信息,包含通道对应的滤波器权重的l1范数、通道输出特征图在验证集上绝对值的均值,以及特征图对任务损失的梯度均值;

8、将上述三项分别归一化后以加权和的形式计算综合评分,根据所有通道的评分排序,移除评分低于预设阈值的通道及关联滤波器,并对剪枝后模型进行短期再训练。

9、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测方法的一种优选方案,其中:所述量化感知训练包括:采用对称均匀量化策略,其中权重量化采用每通道对称量化,激活值量化采用每张量对称量化;

10、训练过程中,在计算图中插入伪量化节点模拟对权重和激活值进行量化与反量化过程的效应;

11、通过优化可学习的量化缩放参数,以最小化量化前后任务损失的变化为目标进行训练,训练完成后执行后训练静态量化,将模型从浮点精度转换为低比特定点精度,得到低精度模型。

12、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测方法的一种优选方案,其中:所述知识蒸馏包括:以教师模型作为指导,通过软化标签蒸馏损失与中间特征图对齐损失的组合;

13、其中,蒸馏损失的损失函数包括,学生模型的标准检测任务损失、教师模型与学生模型输出逻辑值之间的kullback-leibler散度损失,以及教师模型与学生模型特定中间层特征图之间的对齐损失;

14、特征对齐损失通过可学习投影层将学生特征映射至教师特征空间后计算均方误差得到;以原始高精度基础检测模型为教师模型,冻结教师模型参数,对所述低精度模型进行微调。

15、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测方法的一种优选方案,其中:所述动态选择计算路径包括:在最终压缩模型中预设具有不同计算复杂度的前向传播路径,每条路径对应跳过网络中不同数量或不同位置的子模块;

16、同时部署决策依据,在推理时,根据被判定为简单场景的概率,自动选择路径。

17、本发明提供一种面向电力作业场景的端侧轻量化目标检测系统。

18、作为本发明所述的一种面向电力作业场景的端侧轻量化目标检测系统的一种优选方案,其中:包括架构搜索空间定义模块、两阶段架构搜索与训练模块、次序化压缩与优化模块,以及动态部署与推理引擎;

19、所述架构搜索空间定义模块配置用于定义包含多层次可微架构参数的搜索空间,并集成目标硬件的算子延迟查找表;

20、所述两阶段架构搜索与训练模块配置用于执行云侧初步搜索与硬件特定微搜索,输出基础检测模型;

21、所述次序化压缩与优化模块配置用于依次执行结构化剪枝、量化感知训练及知识蒸馏,生成最终压缩模型;

22、所述动态部署与推理引擎配置用于将模型转换为边侧可执行格式,并支持基于资源或场景的动态计算路径选择。

23、本发明提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现一种面向电力作业场景的端侧轻量化目标检测方法的步骤。

24、本发明提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现一种面向电力作业场景的端侧轻量化目标检测方法的步骤。

25、本发明的有益效果:通过将目标设备的实际算子延迟直接融入搜索目标,确保了搜索得到的网络结构在目标硬件上具备优异的精度-延迟权衡特性,克服了代理指标与实际性能脱节的问题。

26、先通过架构搜索获得一个在目标领域和硬件上表现良好的基础模型,再对其进行结构化的剪枝、量化和蒸馏。这种次序考虑了压缩技术间的相互影响,例如先进行结构化剪枝为后续量化提供了更规整、更易优化的网络结构,而量化后的低精度模型再通过蒸馏从原始高精度模型中恢复知识,有效缓解了累积精度损失。

27、在通道剪枝中引入了融合权重、激活与梯度信息的综合重要性评分机制,相比单一准则,能更稳定、准确地识别出冗余通道,在保持模型容量的同时实现更高效的压缩。

28、在部署阶段引入了动态推理适配机制,使模型能够根据实时资源状况或输入场景复杂度自适应调整计算量,进一步提升了在资源波动环境下的实用性与鲁棒性。