一种基于深度学习的电力杆塔状态检测的方法及系统与流程

1.本发明属于工业视觉与能源电力的技术领域，具体涉及一种基于深度学习的电力杆塔状态检测的方法及系统。


背景技术：

2.近年来，地震、泥石流与台风等不可抗力的自然灾害已经成为严重影响人们工作生活的客观因素，尤其是对一些基础建设和基础设施，例如输电杆塔与通信塔灯塔这些重心过高的设施建设容易收到地震台风等自然灾害的外力影响，从而使其无法正常工作，影响所在线路和地区的工作与生产。
3.然而，据了解，每年国家电网用于巡检与维护电力线路上的费用十分高昂，同时很多地区仍然采用传统的人工巡检方式进行工作，这不仅浪费了大量的人力物力，也给巡检工作人员的安全带来了一定的危险性。由此，这里基于无人机巡检电力线路的杆塔异常状态巡检进行识别检测，提出结合深度学习来进行检测识别的解决方案。
4.有鉴于此，提出一种基于深度学习的电力杆塔状态检测的方法及系统是非常具有意义的。


技术实现要素：

5.为了解决现有国家电网用于巡检与维护电力线路上费用高，采用传统的人工巡检费时费力等问题，本发明提供一种基于深度学习的电力杆塔状态检测的方法及系统，以解决现有存在的技术缺陷问题。
6.第一方面，本发明提出了一种基于深度学习的电力杆塔状态检测的方法，该方法具体包括如下步骤：
7.s1、获取供构建深度学习模型数据并划分数据集；
8.s2、构建数据模块并加载数据，进一步构建该深度学习模型的损失函数；
9.s3、进一步构建用于深度学习训练的目标模型，并进行训练以及验证该目标模型；
10.s4、挑选获得所需的目标模型，导入待检测的目标电力杆塔检测其状态；以及
11.s5、根据预设阈值输出目标检测的结果。
12.通过深度学习目标检测结合电力杆塔状态的检测，生成的模型较小，有利于部署移植到边缘设备进行结果计算，从而提高巡检人员的工作效率，减少成本。
13.优选的，在s1中具体还包括：
14.s11、整理航拍采集的无人机巡检视频，并按30帧/张与60帧/张进行取帧采样，作为初始数据；
15.s12、导入初始数据，通过标注软件labelimg手动画框，以标注电力塔杆的位置信息，进行目标检测的信息标注，并按照格式《object-class-id》《x中心》《y中心》《框宽》《框高》表示标注的文本文件；
16.s13、将获得的voc格式的数据集转换为txt格式，进一步按照比例8:1:1划分为训
练集、验证集、测试集，获得最终训练所需的数据集。
17.进一步优选的，所述深度学习模型基于yolov5目标检测模型构建。
18.进一步优选的，在s2中，使用目标定位损失box_loss、分类损失cls_loss以及置信度损失obj_loss构建所述深度学习模型的损失函数。
19.进一步优选的，在二分类情况下，所述损失函数的计算具体如下:
20.j＝-[y
[0021]
其中，y表示样本标签，正样本标签为1，负样本标签为0。
[0022]
优选的，在多分类情况下，所述损失函数的计算具体如下:
[0023][0024]
其中，k为种类数量，y是标签；即若类别是i，则yi ＝1，否则yi ＝0；p是神经网络的输出，即指类别是i的概率。
[0025]
优选的，在s3中具体还包括：
[0026]
s31、设置预训练模型路径，数据集读取此路径，进一步设置训练迭代次数以及传入图片的大小，其他参数选项设置为默认，开始进行训练该目标模型；
[0027]
s32、可视化训练过程并查看与模型相关指标的变化曲线；
[0028]
s33、训练完成后，对比查看并保存最好的目标模型并输出至指定路径；
[0029]
s34、对测试样本在训练好的目标模型上进行预测推理，以对目标模型进行验证。
[0030]
第二方面，本发明还提出了一种基于深度学习的电力杆塔状态检测的系统，包括：
[0031]
数据获取模块：配置获取深度学习模型所需的数据集；
[0032]
损失函数构建模块：配置构架深度学习模型的损失函数；
[0033]
计算模块：配置对损失函数进行计算；
[0034]
模型构建模块：配置构建用于深度学习训练的目标模型。
[0035]
第三方面，本发明实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
[0036]
第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
[0037]
与现有技术相比，本发明的有益成果在于：
[0038]
(1)通过深度学习目标检测结合电力杆塔状态的检测，生成的模型较小，有利于部署移植到边缘设备进行结果计算，从而提高巡检人员的工作效率，减少成本。
[0039]
(2)通过单阶段的目标检测模型，有效地提升了预测推理的速度。
附图说明
[0040]
包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本发明的原理。将容易认识到其它实施例和实施例的很多预期优点，因为通过引用以下详细描述，它们变得被更好地理解。附图的元件不一定是相互按照比例的。同样的附图标记指代对应的类似部件。
[0041]
图1是本发明的一个实施例可以应用于其中的示例性装置架构图；
[0042]
图2为本发明的实施例基于深度学习的电力杆塔状态检测的方法的流程示意图；
[0043]
图3为本发明的实施例基于深度学习的电力杆塔状态检测的方法的整体流程示意图；
[0044]
图4-1、4-2、4-3、4-4分别为本发明的实施例基于深度学习的电力杆塔状态检测的方法中采集视频整理集合、截取关键帧有效数据存到数据集、数据集按标签标注、训练过程的示意图；
[0045]
图5为本发明的实施例基于深度学习的电力杆塔状态检测的方法中yolov5目标检测模型的架构示意图；
[0046]
图6-1～6-10分别为本发明的实施例基于深度学习的电力杆塔状态检测的方法中可视化预测过程、labels_correlogram、训练集与验证集在模型上的表现、p_curve、pr_curve、r_curve、正样本预测结果、正样本预测集合抽样结果预览、负样本预测结果、负样本预测集合抽样结果预览的示意图；
[0047]
图7为本发明的实施例基于深度学习的电力杆塔状态检测的系统的流程示意图；
[0048]
图8是适于用来实现本发明实施例的电子设备的计算机装置的结构示意图。
具体实施方式
[0049]
在以下详细描述中，参考附图，该附图形成详细描述的一部分，并且通过其中可实践本发明的说明性具体实施例来示出。对此，参考描述的图的取向来使用方向术语，例如“顶”、“底”、“左”、“右”、“上”、“下”等。因为实施例的部件可被定位于若干不同取向中，为了图示的目的使用方向术语并且方向术语绝非限制。应当理解的是，可以利用其他实施例或可以做出逻辑改变，而不背离本发明的范围。因此以下详细描述不应当在限制的意义上被采用，并且本发明的范围由所附权利要求来限定。
[0050]
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
[0051]
图1示出了可以应用本发明实施例的用于处理信息的方法或用于处理信息的装置的示例性系统架构100。
[0052]
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
[0053]
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
[0054]
终端设备101、102、103可以是具有通信功能的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
[0055]
服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103发送的校验请求信息进行处理的后台信息处理服务器。后台信息处理服务器可以对接收到的校验请求信息进行分析等处理，并得到处理结果(例如用于表征校验请求为合法请求的校验成功信息)。
[0056]
需要说明的是，本发明实施例所提供的用于处理信息的方法一般由服务器105执行，相应地，用于处理信息的装置一般设置于服务器105中。另外，本发明实施例所提供的用
于发送信息的方法一般由终端设备101、102、103执行，相应地，用于发送信息的装置一般设置于终端设备101、102、103中。
[0057]
需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或多个软件模块，在此不做具体限定。
[0058]
图2示出了本发明的实施例公开了一种基于深度学习的电力杆塔状态检测的方法，如图2和图3所示，该方法具体包括如下步骤：
[0059]
s1、获取供构建深度学习模型数据并划分数据集；
[0060]
进一步的，在s1中具体还包括：
[0061]
s11、整理航拍采集的无人机巡检视频，并按30帧/张与60帧/张进行取帧采样，作为初始数据；
[0062]
s12、导入初始数据，通过标注软件labelimg手动画框，以标注电力塔杆的位置信息，进行目标检测的信息标注，并按照格式《object-class-id》《x中心》《y中心》《框宽》《框高》表示标注的文本文件；
[0063]
s13、将获得的voc格式的数据集转换为txt格式，进一步按照比例8:1:1划分为训练集、验证集、测试集，获得最终训练所需的数据集。
[0064]
用于深度学习模型的数据集根据所执行的任务分为几个类别，目标检测、图像分割、图像分类、实例分割，在本实施例中，使用的是用于图像分割带有标注格式文件的数据集，并将标注后得到的数据集按照8:1:1的比例，划分为训练集、验证集与测试集。
[0065]
具体的，在本实施例中使用的voc格式的数据集，主要是将航拍采集的无人机巡检视频进行取帧采样，作为初始数据，通过标注软件labelimg进行目标检测的信息标注，也即手动画框标注目标对象的位置信息，然后需要将voc格式的数据集转换为用于yolo模型专用的txt格式，最后根据数据集划分比例，即得到最终训练所需的数据集。
[0066]
用于构建最终模型的数据集通常有多个，在构建模型的不同阶段，通常有三种数据集：训练集、验证集和测试集。
[0067]
首先，模型在训练集(training dataset)上进行拟合。对于监督式学习，训练集是由用来拟合参数(例如人工神经网络中神经元之间链接的权重)的样本组成的集合。在实践中，训练集通常是由输入向量(标量)和输出向量(标量)组成的数据对。其中输出向量(标量)被称为目标或标签。在训练过程中，当前模型会对训练集中的每个样本进行预测，并将预测结果与目标进行比较。根据比较的结果，学习算法会更新模型的参数。模型拟合的过程可能同时包括特征选择和参数估计。
[0068]
接下来，拟合得到的模型会在第二个数据集—验证集(validation dataset)上进行预测。在对模型的超参数(例如神经网络中隐藏层的神经元数量)进行调整时，验证集提供了对在训练集上拟合得到模型的无偏评估。验证集可用于正则化中的提前停止：在验证集误差上升时(这是在训练集上过拟合的信号)，停止训练。不过，在实践中，由于验证集误差在训练过程中会有起伏，这种做法有时不奏效。由此，人们发明了一些规则，用做判定过拟合更好的信号。
[0069]
最后，测试集(test dataset)可被用来提供对最终模型的无偏评估。若测试集在
训练过程中从未用到(例如，没有被用在交叉验证当中)，则它也被称之为预留集。
[0070]
参照图4-1、图4-2、图4-3和图4-4，在本实施例中，对数据集的具体处理流程如下：
[0071]
1.整理无人机航拍巡检视频；
[0072]
2.对收集整理的视频按30帧/张与60帧/张存入到数据集中；
[0073]
3.对于整理好的图片导入标注软件labelimg进行数据清洗与数据标注；
[0074]
4.将标注后的数据文件转换成yolo格式，并进行训练。
[0075]
s2、构建数据模块并加载数据，进一步构建该深度学习模型的损失函数。
[0076]
参照图5，在s2中，使用目标定位损失box_loss、分类损失cls_loss以及置信度损失obj_loss构建所述深度学习模型的损失函数。
[0077]
损失函数是计算算法当前输出与预期输出之间距离的函数。其是一种评估算法如何对数据建模的方法，它可以分为两组，一个用于分类(离散值，0,1,2...)，另一个用于回归(连续值)。
[0078]
在这种情况下，它旨在用于多类分类，其中目标值在集合{0,1,3,...,n}中，其中每个类都被分配一个唯一的整数值。在数学上，它是最大似然推理框架下的首选损失函数。首先要评估的是损失函数，只有在你有充分理由的情况下才会改变。
[0079]
交叉熵是用于多类分类问题的默认损失函数。交叉熵将计算一个分数，该分数总结了问题中所有类别的实际概率分布和预测概率分布之间的平均差异。分数被最小化，完美的交叉熵值为0。
[0080]
具体的，在本实施例中，通过交叉熵损失函数与对数损失的结合来计算定位损失以及分类损失。交叉熵是信息论领域的一种度量方法，它建立在熵的基础上，通常计算两种概率分布之间的差异。
[0081]
交叉熵损失函数经常用于分类问题中，特别是神经网络分类问题。交叉熵是用来描述两个分布的距离的，神经网络训练的目的就是使g(x)逼近p(x)。
[0082]
相对于sigmoid求损失函数，在梯度计算层面上，交叉熵对参数的偏导不含对sigmoid函数的求导，而均方误差(mse)等其他则含有sigmoid函数的偏导项。sigmoid的值很小或者很大时梯度几乎为零，这会使得梯度下降算法无法取得有效进展，交叉熵则避免了这一问题。
[0083]
为了弥补sigmoid型函数的导数形式易发生饱和(saturate，梯度更新的较慢)的缺陷，可以引入softmax作为预测结果，计算交叉熵损失。由于交叉熵涉及到计算每个类别的概率，所以在神经网络中，交叉熵与softmax函数紧密相关。
[0084]
在二分类的情况下，模型最终预测的结果只有2类，对于每个类别我们预测的概率为p和1-p。此时(二进制交叉熵)binary cross entropy即所述损失函数的计算具体如下:
[0085]
j＝-[y
[0086]
其中，y表示样本标签，正样本标签为1，负样本标签为0；
[0087]
p表示预测为正样本的概率。
[0088]
而在本实施例中，关心的是多分类，在多分类情况下，损失函数的计算具体如下:
[0089][0090]
其中，k为种类数量，y是标签；即若类别是i，则yi ＝1，否则yi ＝0；p是神经网络的输出，即指类别是i的概率。这个输出值通过softmax计算得到。
[0091]
其中，输入端表示输入的图片。该网络的输入图像大小为608*608，该阶段通常包含一个图像预处理阶段，即将输入图像缩放到网络的输入大小，并进行归一化等操作。在网络训练阶段，yolov5使用mosaic数据增强操作提升模型的训练速度和网络的精度；并提出了一种自适应锚框计算与自适应图片缩放方法。
[0092]
基准网络通常是一些性能优异的分类器种的网络，该模块用来提取一些通用的特征表示。yolov5中不仅使用了cspdarknet53结构，而且使用了focus结构作为基准网络；
[0093]
neck网络通常位于基准网络和头网络的中间位置，利用它可以进一步提升特征的多样性及鲁棒性。虽然yolov5同样用到了spp模块、fpn pan模块，但是实现的细节有些不同；
[0094]
head输出端用来完成目标检测结果的输出。针对不同的检测算法，输出端的分支个数不尽相同，通常包含一个分类分支和一个回归分支。yolov4利用giou_loss来代替smooth l1 loss函数，从而进一步提升算法的检测精度。
[0095]
参照图5，具体的，本实施例中的深度学习模型基于yolov5目标检测模型构建。在其他实施例中，深度学习模型还可以基于ssd(single shot detector)、detr(detection transformer)构建。与损失函数一样，yolov5目标函数同样由三部分组成：
[0096]
box_loss—边界框回归损失(均方误差)；
[0097]
obj_loss—对象存在的置信度是对象性损失(二元交叉熵)；
[0098]
cls_loss—分类损失(交叉熵)。
[0099]
这里的目标函数是最小化的三种损失函数，即构建的网络模型训练的最终目的是希望在有限的时间和数据量以及算力资源情况下，训练出一个使得三个损失函数相对小的模型参数，从而可在此基础上进行其他数据的推理预测。
[0100]
s3、进一步构建用于深度学习训练的目标模型，并进行训练以及验证该目标模型；
[0101]
训练与验证部分主要是根据网络模型的超参数配置来进行相应设置。
[0102]
在训练过程中，涉及其中几个重要参数：
[0103]
data为数据集读取路径，epochs为训练迭代次数，ingsz为传入图片大小，其他参数默认；由于数据集在划分时，就已经分为训练集、验证集和测试集，因此相当于在训练过程的同时就将验证集进行验证。
[0104]
参照图6-1～图6-10，在s3中具体还包括：
[0105]
s31、设置预训练模型路径，数据集读取此路径，进一步设置训练迭代次数以及传入图片的大小，其他参数选项设置为默认，开始进行训练该目标模型；
[0106]
s32、可视化训练过程并查看与模型相关指标的变化曲线；
[0107]
s33、训练完成后，对比查看并保存最好的目标模型并输出至指定路径；
[0108]
s34、对测试样本在训练好的目标模型上进行预测推理，以对目标模型进行验证。
[0109]
s4、挑选获得所需的目标模型，导入待检测的目标电力杆塔检测其状态；以及
[0110]
s5、根据预设阈值输出目标检测的结果。
[0111]
具体的，在本实施例中，预设的阈值设置为0.45，该阈值的作用主要是用于限制置信度的大小，也就是说这个阈值会将不满足》0.45数值条件的多余检测结果滤除掉。
[0112]
本发明的技术方案通过深度学习目标检测结合电力杆塔状态的检测，生成的模型较小，有利于部署移植到边缘设备进行结果计算，从而提高巡检人员的工作效率，减少成
本；通过单阶段的目标检测模型，有效地提升了预测推理的速度。
[0113]
第二方面，本发明还提出了一种基于深度学习的电力杆塔状态检测的系统，参照图7，包括：
[0114]
数据获取模块71：配置获取深度学习模型所需的数据集；
[0115]
损失函数构建模块72：配置构架深度学习模型的损失函数；
[0116]
计算模块73：配置对损失函数进行计算；
[0117]
模型构建模块74：配置构建用于深度学习训练的目标模型。
[0118]
下面参考图8，其示出了适于用来实现本发明实施例的电子设备(例如图1所示的服务器或终端设备)的计算机装置600的结构示意图。图8示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
[0119]
如图8所示，计算机装置600包括中央处理单元(cpu)601和图形处理器(gpu)602，其可以根据存储在只读存储器(rom)603中的程序或者从存储部分609加载到随机访问存储器(ram)606中的程序而执行各种适当的动作和处理。在ram 604中，还存储有装置600操作所需的各种程序和数据。cpu 601、gpu602、rom 603以及ram 604通过总线605彼此相连。输入/输出(i/o)接口606也连接至总线605。
[0120]
以下部件连接至i/o接口606：包括键盘、鼠标等的输入部分607；包括诸如、液晶显示器(lcd)等以及扬声器等的输出部分608；包括硬盘等的存储部分609；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分610。通信部分610经由诸如因特网的网络执行通信处理。驱动器611也可以根据需要连接至i/o接口606。可拆卸介质612，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器611上，以便于从其上读出的计算机程序根据需要被安装入存储部分609。
[0121]
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分610从网络上被下载和安装，和/或从可拆卸介质612被安装。在该计算机程序被中央处理单元(cpu)601和图形处理器(gpu)602执行时，执行本发明的方法中限定的上述功能。
[0122]
需要说明的是，本发明所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的装置、装置或器件，或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器
件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、rf等等，或者上述的任意合适的组合。
[0123]
可以以一种或多种程序设计语言或其组合来编写用于执行本发明的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、smalltalk、c ，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(lan)或广域网(wan)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
[0124]
附图中的流程图和框图，图示了按照本发明各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的装置来实现，或者可以用专用硬件与计算机指令的组合来实现。
[0125]
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。
[0126]
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行本发明中第一方面描述的方法。
[0127]
以上描述仅为本发明的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本发明中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本发明中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。