一种解耦知识蒸馏金具目标检测方法及系统

1.本发明涉及目标检测与识别技术领域，特别是涉及一种解耦知识蒸馏金具目标检测方法及系统。


背景技术：

2.金具是输电线路广泛使用的金属附件，用于支持、固定、接续导线、导体及绝缘子等。输电线路上的金具由于长期处于户外环境，极易发生破损、锈蚀、变形等故障，对电力安全稳定的传输有不利的影响，准确检测金具目标是金具缺陷检测的基础，对电力系统便利巡检具有重大意义。
3.目前关于金具目标检测的发明大多为了提高检测精度而构建复杂且深的网络，这样模型参数量增加，对计算设备算力要求较高，不利于部署到前端设备快速准确的进行金具目标检测。将性能优良的模型轻量化后部署到可移动的检测设备便于电力系统巡检，目前已成为研究热点。


技术实现要素：

4.为了克服现有技术的不足，本发明的目的是提供一种解耦知识蒸馏金具目标检测方法及系统。
5.为实现上述目的，本发明提供了如下方案：
6.一种解耦知识蒸馏金具目标检测方法，包括：
7.分别根据数据集标注框在第一模型和第二模型对标注数据集中每张图像进行解耦，对应得到第一前景目标区域、第一背景区域、第二前景目标区域和第二背景区域；所述标注数据集包括多张已标注的金具航拍图像；所述第一模型的参数量和性能均大于所述第二模型；
8.根据所述第一前景目标区域确定金具的目标种类概率，并根据所述目标种类概率确定共有特征评分掩码；
9.根据所述共有特征评分掩码、所述第一模型和所述第二模型在特征图金字塔网络的特征图分类得分图和预设卷积函数确定第一蒸馏损失函数；
10.基于全局上下文模块，根据所述第一前景目标区域和所述第一背景区域确定的第一特征图以及所述第二前景目标区域和所述第二背景区域确定的第二特征图构建第二蒸馏损失函数；
11.根据所述第一蒸馏损失函数和所述第二蒸馏损失函数确定总损失函数，并根据所述总损失函数对所述第二模型进行训练，得到训练好的第二模型；所述训练好的第二模型用于对待测金具图像进行目标检测。
12.优选地，所述分别根据第一模型和第二模型对获取到的标注数据集进行解耦，对应得到第一前景目标区域、第一背景区域、第二前景目标区域和第二背景区域，包括：
13.构建标注数据集；所述标注数据集中包括带有ground-truth框的所述金具航拍图
像以及标注信息；
14.基于所述标注数据集，将金具目标以所述ground-truth框为边界进行图像解耦；
15.设计二进制掩码，并根据所述二进制掩码控制特征图是否属于前景目标区域或背景区域。
16.优选地，所述二进制掩码的公式为：
17.其中，m
(i,j)
为所述二进制掩码，i为第一模型或第二模型的特征金字塔网络生成的特征图的水平方向的坐标，j为第一模型或第二模型的特征金字塔网络生成的特征图的垂直方向的坐标，g为所述ground-truth框。
18.优选地，根据所述第一前景目标区域确定金具的目标种类概率，并根据所述目标种类概率确定共有特征评分掩码，包括：
19.基于所述第一前景目标区域，在水平和垂直方向分别为i和j的特征图内随机抽选特征；
20.根据第一公式确定所述目标种类概率；所述第一公式为：ys＝m
(i,j)
p(s|f)；其中，s代表金具的目标种类的类别数，f为所述特征；ys表示所述特征f是所述目标种类s的概率，m
(i,j)
用所述二进制掩码；
21.利用深度神经网络对所述目标种类概率进行建模，得到第二公式；所述第二公式为ys＝m
(i,j)
p(s|f,θ)；其中，θ表示为生成参数的模型；
22.基于所述第二公式，聚合所有类别的所述目标种类概率，得到共有特征评分；所述共有特征评分的公式为其中，f
′
为所述共有特征评分；
23.根据所述共有特征评分确定共有特征评分掩码；所述共有特征评分掩码的公式为：其中，f为所述共有特征评分掩码；s'作为样本来表示所有的金具对象s，s'∈[1,s]。
[0024]
优选地，根据所述共有特征评分掩码、所述第一模型和所述第二模型在特征图金字塔网络的特征图分类得分图和预设卷积函数确定第一蒸馏损失函数，包括：
[0025]
根据所述共有特征评分掩码确定评分标准掩码；所述评分标准掩码的公式为：其中，f
t
为所述评分标准掩码，y
s't
为所述第一模型的分类得分图，θ
t
为所述第一模型分类头对金具的分类结果，，f
t
为输入到所述第一模型分类头的特征；
[0026]
利用所述特征金字塔网络每一层的聚合分类得分图作为共有特征评分掩码；所述共有特征评分掩码的公式为：其中，fk为所述第一模型的第k层特征图金字塔网络在通道c上的共有特征评分掩码，y
kct
为所述第一模型在第k层，通道数为c特征金字塔网络的分类得分图；
[0027]
根据所述预设卷积函数、所述共有特征评分掩码和所述评分标准掩码确定所述第一蒸馏损失函数；所述第一蒸馏损失函数的公式为：其中，l
front
为所述第一蒸馏损失函数，n表示特征图金字塔网络总的层数，k代表特征图金字
塔的第k层，(i,j)表示特征图的位置，宽度为w，高度为h，l表示通道的总数，c表示相应的通道，为在位置为(i,j)的共有特征评分掩码，nk为所有特征图共有特征评分掩码的总和，f
adap
函数为使所述第一模型和所述第二模型通道相适应的所述预设卷积函数，f
tkc(i,j)
和f
skc(i,j)
分别为所述第一模型和所述第二模型在特征图金字塔网络相应层，相应通道，同一位置特征图分类得分图。
[0028]
优选地，所述第二蒸馏损失函数的公式为：
[0029]
l
rela
＝μ∑(r(f
t
)-r(fs))2；
[0030]
其中，l
rela
为所述第二蒸馏损失函数，μ为平衡损失函数的超参数，f
t
，fs分别为所述第一模型和所述第二模型生成的特征图，r为不同模型对某一金具目标捕获的金具目标和背景区域的关系信息，r的公式为：其中w
v1
，w
v2
，wk分别为第一线性变换矩阵、第二线性变换矩阵和第三线性变换矩阵，fi为输入实例的特征图，是全局注意力池化的权重，ln表示归一化处理，n
p
为特征层的位置数目，n
p
＝h
·
w，e为自然常数，fm是为所述第一前景目标区域的生成的特征图；fj为图像中任意提取特征，δ(
·
)＝w
v2
relu(ln(w
v1)
(
·
))表示捕获通道依赖关系的特征变换。
[0031]
优选地，所述总损失函数的公式为：
[0032]
l＝αl
front
βl
rela
；
[0033]
其中，l为所述总损失函数，α和β分别为不同的平衡参数。
[0034]
一种解耦知识蒸馏金具目标检测系统，包括：
[0035]
解耦模块，用于分别根据数据集标注框在第一模型和第二模型对标注数据集进行解耦，对应得到第一前景目标区域、第一背景区域、第二前景目标区域和第二背景区域；所述标注数据集包括多张已标注的金具航拍图像；所述第一模型的参数量和性能均大于所述第二模型；
[0036]
评分模块，用于根据所述第一前景目标区域和所述第一背景区域确定金具的目标种类概率，并根据所述目标种类概率确定共有特征评分掩码；
[0037]
第一蒸馏模块，用于根据所述共有特征评分掩码、所述第一模型和所述第二模型在特征图金字塔网络的特征图分类得分图和预设卷积函数确定第一蒸馏损失函数；
[0038]
第二蒸馏模块，用于基于全局上下文模块，根据所述第一前景目标区域和所述第一背景区域确定的第一特征图以及所述第二前景目标区域和所述第二背景区域确定的第二特征图构建第二蒸馏损失函数；
[0039]
总损失函数确定模块，用于根据所述第一蒸馏损失函数和所述第二蒸馏损失函数确定总损失函数，并根据所述总损失函数对所述第二模型进行训练，得到训练好的第二模型；所述训练好的第二模型用于对待测金具图像进行目标检测。
[0040]
根据本发明提供的具体实施例，本发明公开了以下技术效果：
[0041]
本发明提供了一种解耦知识蒸馏金具目标检测方法及系统，所述方法包括：分别根据数据集标注框在第一模型和第二模型对标注数据集进行解耦，对应得到第一前景目标区域、第一背景区域、第二前景目标区域和第二背景区域；所述标注数据集包括多张已标注的金具航拍图像；所述第一模型的参数量和性能均大于所述第二模型；根据所述第一前景目标区域和所述第一背景区域确定金具的目标种类概率，并根据所述目标种类概率确定共有特征评分掩码；根据所述共有特征评分掩码、所述第一模型和所述第二模型在特征图金字塔网络的特征图分类得分图和预设卷积函数确定第一蒸馏损失函数；基于全局上下文模块，根据所述第一前景目标区域和所述第一背景区域确定的第一特征图以及所述第二前景目标区域和所述第二背景区域确定的第二特征图构建第二蒸馏损失函数；根据所述第一蒸馏损失函数和所述第二蒸馏损失函数确定总损失函数，并根据所述总损失函数对所述第二模型进行训练，得到训练好的第二模型；所述训练好的第二模型用于对待测金具图像进行目标检测。本发明充分利用了不同种类金具的共有形状特征，采用解耦知识蒸馏方法，针对前景目标区域，将属于金具之间独特的共有特征用于目标分类的信息整合起来迁移到小模型，提升了轻量化网络对复杂背景航拍图像中金具检测精度下降的问题；该发明切实可行，并取得了较好的精度提升效果，且所需训练时间缩短，无需人工参与，对相关问题的方案设计有一定的借鉴意义。
附图说明
[0042]
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
[0043]
图1为本发明提供的实施例中的解耦知识蒸馏金具目标检测方法的流程图；
[0044]
图2为本发明提供的实施例中的整体训练框图；
[0045]
图3为本发明提供的实施例中的按照标准标注的数据集示意图；
[0046]
图4为本发明提供的实施例中的解耦流程示意图；
[0047]
图5为本发明提供的实施例中的前景目标区域共有特征评分示意图；
[0048]
图6为本发明提供的实施例中的小模型单独训练结果示意图；
[0049]
图7为本发明提供的实施例中的大模型单独训练结果示意图；
[0050]
图8为本发明提供的实施例中的大模型使用本蒸馏方法指导小模型训练结果示意图。
具体实施方式
[0051]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0052]
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同
的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
[0053]
本技术的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤、过程、方法等没有限定于已列出的步骤，而是可选地还包括没有列出的步骤，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤元。
[0054]
本发明的目的是提供一种解耦知识蒸馏金具目标检测方法及系统，能够显著地提高金具检测精度。
[0055]
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
[0056]
本实施例所述方法整体上是基于知识蒸馏技术，其中知识蒸馏技术是轻量化网络的有效算法之一，参数量大，性能优越的模型称为大模型(即本实施例中的第一模型)，参数量小，性能较差的模型称为小模型(即本实施例中的第二模型)。知识蒸馏技术将大模型中有利知识迁移到小模型中可给小模型带来性能提升。由于金具航拍图像包含大量复杂背景，金具目标在完整的航拍图像中占比较小，且不同图像中占比也不同。将图像中前景目标和背景特征信息无差别的从大模型到小模型之间迁移并不会提高小模型的性能。
[0057]
图1为本发明提供的实施例中的解耦知识蒸馏金具目标检测方法的流程图，如图1所示，本发明提供了一种解耦知识蒸馏金具目标检测方法，包括：
[0058]
步骤100：分别根据数据集标注框在第一模型和第二模型对标注数据集进行解耦，对应得到第一前景目标区域、第一背景区域、第二前景目标区域和第二背景区域；所述标注数据集包括多张已标注的金具航拍图像；所述第一模型的参数量和性能均大于所述第二模型；
[0059]
步骤200：根据所述第一前景目标区域确定金具的目标种类概率，并根据所述目标种类概率确定共有特征评分掩码；
[0060]
步骤300：根据所述共有特征评分掩码、所述第一模型和所述第二模型在特征图金字塔网络的特征图分类得分图和预设卷积函数确定第一蒸馏损失函数；
[0061]
步骤400：基于全局上下文模块，根据所述第一前景目标区域和所述第一背景区域确定的第一特征图以及所述第二前景目标区域和所述第二背景区域确定的第二特征图构建第二蒸馏损失函数；
[0062]
步骤500：根据所述第一蒸馏损失函数和所述第二蒸馏损失函数确定总损失函数，并根据所述总损失函数对所述第二模型进行训练，得到训练好的第二模型；所述训练好的第二模型用于对待测金具图像进行目标检测。
[0063]
图2为本发明提供的实施例中的整体训练框图，如图2所示，具体步骤如下：
[0064]
步骤1，按照标准构建金具数据集，以此得到带有ground-truth框图像以及标注信息储存到xml文件中(如图3为数据集示例，其中图中的边界框为手动标注的ground-truth框，边界框包含的区域内为金具目标前景区域，其他区域为背景信息区域)。
[0065]
步骤2，将金具目标以ground-truth框为边界解耦整幅图像，解耦出的金具前景目标区域和背景信息区域(如图4所示)，图4的最右上角是解耦出的前景目标区域，将每个
ground-truth框中的区域用于聚合金具之间的共有特征，将金具的特有特征信息迁移到小模型提升其目标检测的分类精度，右下角是背景信息区域，先分区域解耦蒸馏为了避免迁移冗余的背景信息。
[0066]
步骤3，针对前景目标区域，大模型和小模型在特征图金字塔网络的每一层都对随机特征进行评分处理，在蒸馏过程中把大模型对金具的共有特征分类概率作为评分标准，即为大模型对特征的分类得分图(如图5所示，在前景目标区域，大模型小模型对随机特征进行评分，将大模型对金具共有特征用于分类的特征信息用于指导到模型。此为针对前景目标区域采用的主要蒸馏方法)，以此提取分类特征知识用于指导小模型训练。
[0067]
步骤4，金具安装位置特殊，背景区域中的输电线路特征信息是金具检测的有利提示之一，金具之间的位置信息、外观特征信息都对检测准确率有显著性的提示性作用。为了加强金具目标和背景信息的关联故采取gcblock模块捕获某一金具目标和其他金具目标以及背景环境的之间的关系，有利于大模型将完整的信息用于指导小模型的训练，以提升小模型的精度。在语义上下文建模部分，采用1x1的卷积和softmax函数来获取注意力权重，然后通过矩阵相乘操作使注意力权重与原始输入尺寸为cxhxw的特征图产生影响，从而获得全局特征，本操作为了降低计算时的参数量。
[0068]
步骤5，首先训练大网络，让训练好的大网络以本蒸馏方法指导小网络训练，提升性能可视化如图6、7、8所示。图6为小模型在没有经过指导时单独训练测试的结果，可以看出其对金具目标定位以及分类能力较差，图7为大模型单独训练测试结果，大模型的检测能力较好。图8为小模型经过大模型使用本发明方法指导后的检测结果，可以看出小模型的检测性能有了显著提升，甚至超过了大模型的性能。其中，图中检测目标名称分别为：shockproof hammer防震锤；bag-type suspension提包线夹clamp；hanging board挂板；adjusting board调整板；weight重锤。
[0069]
优选地，所述步骤100具体包括：
[0070]
构建标注数据集；所述标注数据集中包括带有ground-truth框的所述金具航拍图像以及标注信息；
[0071]
基于所述标注数据集，将金具目标以所述ground-truth框为边界进行图像解耦；
[0072]
设计二进制掩码，并根据所述二进制掩码控制特征图是否属于前景目标区域或背景区域。
[0073]
具体的，本实施例首先将金具目标和背景解耦处理：
[0074]
巡检时无人机拍摄角度多变，输电线路处于多变复杂的环境，为了安全起见，无人机拍摄要有一定的安全距离，导致拍摄图像中金具目标渺小，背景占比大。为了减少背景信息过多对目标定位和分类的不利影响，将金具目标和背景解耦区域蒸馏。以ground-truth框为边界来解耦成前景目标区域和背景区域，设计二进制掩码m来控制特征图属于前景目标区域或背景信息区域，设(i，j)表示模型的特征金字塔网络生成特征图的水平和垂直方向的坐标。若(i,j)处于ground-truth边界框内，便认定这个特征属于前景目标区域，设置掩码m
(i,j)
＝1；若(i，j)不处于ground-truth边界框内，则判定为背景区域的特征图，令m
(i,j)
＝0，式中g代表ground-truth框，如公式(1)所示：
[0075]
[0076]
优选地，所述二进制掩码的公式为：
[0077]
其中，m
(i,j)
为所述二进制掩码，i为第一模型或第二模型的特征金字塔网络生成的特征图的水平方向的坐标，j为第一模型或第二模型的特征金字塔网络生成的特征图的垂直方向的坐标，g为所述ground-truth框。
[0078]
优选地，所述步骤200具体包括：
[0079]
基于所述第一前景目标区域，在水平和垂直方向分别为i和j的特征图内随机抽选特征；
[0080]
根据第一公式确定所述目标种类概率；所述第一公式为：ys＝m
(i,j)
p(s|f)；其中，s代表金具的目标种类的类别数，f为所述特征；ys表示所述特征f是所述目标种类s的概率，m
(i,j)
用所述二进制掩码；
[0081]
利用深度神经网络对所述目标种类概率进行建模，得到第二公式；所述第二公式为ys＝m
(i,j)
p(s|f,θ)；其中，θ表示为生成参数的模型；
[0082]
基于所述第二公式，聚合所有类别的所述目标种类概率，得到共有特征评分；所述共有特征评分的公式为其中，f
′
为所述共有特征评分；
[0083]
根据所述共有特征评分确定共有特征评分掩码；所述共有特征评分掩码的公式为：其中，f为所述共有特征评分掩码；s'作为样本来表示所有的金具对象s，s'∈[1,s]。
[0084]
本实施例其次是对前景目标区域根据共有特征评分来蒸馏：
[0085]
在水平和垂直方向分别为i，j的特征图内随机抽选特征f，这些特征是某个金具目标的可能性可以描述如公式(2)所示：
[0086]ys
＝m
(i,j)
p(s|f)
ꢀꢀ
(2)
[0087]
s代表一个目标种类，ys表示特征f是目标种类s的概率，m
(i,j)
用来控制是否为前景目标区域。这样的条件概率可以由深度神经网络建模得到，θ表示为生成参数的模型如公式(3)：
[0088]ys
＝m
(i,j)
p(s|f,θ)
ꢀꢀꢀ
(3)
[0089]
提出的共有特征评分概念定义为这些特征属于某个金具目标的概率，为了对所有类别的金具种类进行汇总，本方法聚合所有类别的概率来获得共有特征评分，在这里使用最大值来聚合，如公式(4)所示。
[0090][0091]
由于存在多种种类的金具对象，本发明以s代表数据集中金具的所有种类的类别数，令s'∈[1,s]，s'作为样本来表示所有的金具对象s。故所有金具种类的共有特征评分用f作为掩码表示，如公式(5)所示：
[0092][0093]
在蒸馏过程中把大模型对金具的分类概率y
s't
作为共有特征评分标准，即为大模型对特征的分类得分图，认为已经训练过大模型的分类结果是指导小模型训练的分类标准。同时把已经训练过的大模型分类头对金具的分类结果θ
t
来作为θ的具体生成参数的模
型实例，f
t
是输入到大模型分类头的特征。以此来用大模型对特征的评分标准以掩码f
t
的形式指导小模型提取特征，如公式(6)所示。
[0094][0095]
金具目标尺度变化差异大，特征图金字塔网络被提出用来处理多尺度目标检测问题。浅层网络特征图具有高分辨率更适合检测小尺度目标，而深层网络特征图具有低分辨率更适合检测大尺度目标。为了完整的将大网络对金具目标分类知识用于指导小模型，应对特征图金字塔网络的每一层生成共有特征评分掩码来表示不同尺度和不同分辨率的对象的概率。本发明使用特征金字塔网络每一层的聚合分类得分图作为共有特征评分掩码，如公式(7)所示：
[0096][0097]fk
是大模型的第k层特征图金字塔网络在通道c上的共有特征评分掩码，y
kct
是大模型在第k层，通道数为c特征金字塔网络的分类得分图。故在前景目标区域大模型在特征图金字塔网络使用共有特征评分掩码指导小模型提取特征的蒸馏损失如公式(8)所示：
[0098][0099]
其中n表示特征图金字塔网络总的层数，k代表特征图金字塔的第k层，(i，j)表示特征图的位置，宽度为w，高度为h，l表示通道的总数，c表示相应的通道，f
k(i,j)
是在位置为(i,j)的共有特征评分掩码，f
adap
函数是使大模型和小模型通道相适应的卷积函数，f
tkc(i,j)
和f
skc(i,j)
分别为大模型和小模型在特征图金字塔网络相应层，相应通道，同一位置特征图分类得分图。以此损失函数来使小模型学习大模型的分类能力。
[0100]
优选地，所述步骤300具体包括：
[0101]
根据所述共有特征评分掩码确定评分标准掩码；所述评分标准掩码的公式为：其中，f
t
为所述评分标准掩码，y
s't
为所述第一模型的分类得分图，θ
t
为所述第一模型分类头对金具的分类结果，，f
t
为输入到所述第一模型分类头的特征；
[0102]
利用所述特征金字塔网络每一层的聚合分类得分图作为共有特征评分掩码；所述共有特征评分掩码的公式为：其中，fk为所述第一模型的第k层特征图金字塔网络在通道c上的共有特征评分掩码，y
kct
为所述第一模型在第k层，通道数为c特征金字塔网络的分类得分图；
[0103]
根据所述预设卷积函数、所述共有特征评分掩码和所述评分标准掩码确定所述第一蒸馏损失函数；所述第一蒸馏损失函数的公式为：其中，l
front
为所述第一蒸馏损失函数，n表示特征图金字塔网络总的层数，k代表特征图金字塔的第k层，(i,j)表示特征图的位置，宽度为w，高度为h，l表示通道的总数，c表示相应的通
道，为在位置为(i,j)的共有特征评分掩码，nk为所有特征图共有特征评分掩码的总和，f
adap
函数为使所述第一模型和所述第二模型通道相适应的所述预设卷积函数，f
tkc(i,j)
和f
skc(i,j)
分别为所述第一模型和所述第二模型在特征图金字塔网络相应层，相应通道，同一位置特征图分类得分图。
[0104]
优选地，所述第二蒸馏损失函数的公式为：
[0105]
l
rela
＝μ∑(r(f
t
)-r(fs))2；
[0106]
其中，l
rela
为所述第二蒸馏损失函数，μ为平衡损失函数的超参数，f
t
，fs分别为所述第一模型和所述第二模型生成的特征图，r为不同模型对某一金具目标捕获的金具目标和背景区域的关系信息，r的公式为：其中w
v1
，w
v2
，wk分别为第一线性变换矩阵、第二线性变换矩阵和第三线性变换矩阵，fi为输入实例的特征图，是全局注意力池化的权重，ln表示归一化处理，n
p
为特征层的位置数目，n
p
＝h
·
w，e为自然常数，fm是为所述第一前景目标区域的生成的特征图；fj为图像中任意提取特征，δ(
·
)＝w
v2
relu(ln(w
v1)
(
·
))表示捕获通道依赖关系的特征变换。
[0107]
优选地，所述总损失函数的公式为：
[0108]
l＝αl
front
βl
rela
；
[0109]
其中，l为所述总损失函数，α为第一系数，β为第二系数。
[0110]
本实施例最后加强整幅图像的联系，蒸馏目标和背景之间的关系：
[0111]
本实施例把目光集中到金具目标检测的最主要区域。但是输电线路上的金具安装位置固定，周围环境信息对提高金具安装位置的了解具有显著性的作用。不同像素、目标之间具有重要的关系，如果只是迁移前景目标区域的特征知识，便割裂了金具目标和背景之间的关系。大模型用于指导得知识不够完整，使得小模型丧失对整幅图像的感知能力，只将前景目标特征知识迁移的指导方法没有把整幅图像知识充分的迁移到小模型，小模型由于学习不到系统性完整性的知识，使得性能达不到最优。采用gcblock(global contextblock)全局语义建模模块捕获图像金具于金具之间、金具与背景信息之间的关系。促使小模型学习大模型对关系信息的感知能力。整体图像关系蒸馏损失的表示如公式(10)所示：
[0112]
l
rela
＝μ∑(r(f
t
)-r(fs))2ꢀꢀꢀ
(9)
[0113]
式中的μ为平衡损失函数的超参数，f
t
，fs分别为大模型和小模型生成的特征图，r函数为不同模型对某一金具目标捕获的金具目标和背景区域的关系信息，具体如公式(11)所示：
[0114][0115]
其中w
v1
，w
v2
，wk表示不同的线性变换矩阵，fi作为一个输入实例的特征图，是全局注意力池化的权重，ln表示归一化处理，n
p
为特征层的位置数目,对图像来说n
p
＝h
·
w，e为自然常数，fm是前景区域的生成的特征图；fj是图像中任意提取特征，δ(
·
)＝w
v2
relu(ln(w
v1)
(
·
))表示捕获通道依赖关系的特征变换。gcblock模块包括用于上下文建模的全局注意力池化操作和瓶颈转换以捕获通道的相关性。
[0116]
故基于共有特征评分的解耦知识蒸馏金具目标检测方法采用公式(12)总的损失函数对小模型进行知识蒸馏：
[0117]
l＝αl
front
βl
rela
ꢀꢀꢀ
(11)
[0118]
大模型只在特征图上对小模型进行知识蒸馏，故可以应用于多种目标检测网络，将多种用于金具目标检测的模型轻量化。
[0119]
对应上述方法，本实施例还提供了一种解耦知识蒸馏金具目标检测系统，包括：
[0120]
解耦模块，用于分别根据数据集标注框在第一模型和第二模型对标注数据集进行解耦，对应得到第一前景目标区域、第一背景区域、第二前景目标区域和第二背景区域；所述标注数据集包括多张已标注的金具航拍图像；所述第一模型的参数量和性能均大于所述第二模型；
[0121]
评分模块，用于根据所述第一前景目标区域和所述第一背景区域确定金具的目标种类概率，并根据所述目标种类概率确定共有特征评分掩码；
[0122]
第一蒸馏模块，用于根据所述共有特征评分掩码、所述第一模型和所述第二模型在特征图金字塔网络的特征图分类得分图和预设卷积函数确定第一蒸馏损失函数；
[0123]
第二蒸馏模块，用于基于全局上下文模块，根据所述第一前景目标区域和所述第一背景区域确定的第一特征图以及所述第二前景目标区域和所述第二背景区域确定的第二特征图构建第二蒸馏损失函数；
[0124]
总损失函数确定模块，用于根据所述第一蒸馏损失函数和所述第二蒸馏损失函数确定总损失函数，并根据所述总损失函数对所述第二模型进行训练，得到训练好的第二模型；所述训练好的第二模型用于对待测金具图像进行目标检测。
[0125]
本发明的有益效果如下：
[0126]
本发明首先根据标注数据集时标注的ground-truth(真实的有效值)框为边界解耦金具前景目标区域和背景区域；针对前景目标区域，对特征图金字塔网络每一层的特征信息进行分类评分，聚合所有类别的分类分数作为共有特征评分掩码，掩码代表的特征信息是大模型指导小模型的主要迁移知识；单纯只在前景目标区域进行知识蒸馏割裂了图像的整体性，对背景信息采取关系模块来捕捉目标与其他目标，以及和背景之前关系来获得利于目标检测的提示性信息，以此达到对每幅图像完整信息迁移的目的，提高小模型的检测精度。本发明充分利用了不同种类金具的共有形状特征，采用解耦知识蒸馏方法，针对前
景目标区域，将属于金具之间独特的共有特征用于目标分类的信息整合起来迁移到小模型，提升了轻量化网络对复杂背景航拍图像中金具检测精度下降的问题；本发明切实可行，并取得了较好的精度提升效果，且所需训练时间缩短，无需人工参与，对相关问题的方案设计有一定的借鉴意义。
[0127]
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
[0128]
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。