应用于管道损伤识别的三维检测系统的制作方法

1.本公开的实施例一般涉及管道裂缝检测领域，并且更具体地，涉及应用于管道损伤识别的三维检测系统。


背景技术：

2.裂缝是地下管道最常见的损坏，地下管道中的裂缝大小是地下管道寿命评估的标准之一，对裂缝的检测是具有普遍性的技术难题。
3.由于人无法进入到管道内部查看缺陷点的位置，因此如何确定地下管道的缺陷点一直是修复过程中的一个难点的问题，现有的裂缝检测手段主要有：图像处理、超声波检测等方法。
4.超声波检测法局限于检测表面状况，在检测表面比较平整时检测效果较好，对于不平整的地下管道难以达到理想的检测效果；
5.图像处理检测要求裂缝具有比较高的对比度与较好的连续性，然而在工况复杂的地下管道，单一的采用图像处理无法保证裂缝检测的准确性。


技术实现要素：

6.根据本公开的实施例，提供了一种应用于管道损伤识别的三维检测方案。
7.在本公开的第一方面，提供了一种应用于管道损伤识别的三维检测系统，包括：
8.图像采集模块，用于采集管道图像；
9.第一图像处理模块，用于将所述管道图像输入至预先训练的管道裂缝检测模型，得到管线裂缝图像；所述管道裂缝检测模型为反向级联特征聚合神经网络，包括主干网络层、串联的空洞卷积层和特征聚合层；
10.第二图像处理模块，用于对所述管线裂缝图像进行优化，构建包括管道裂缝的三维图像；
11.可视化模块，用于显示所述三维图像。
12.进一步地，所述管道裂缝检测模型通过如下方式进行训练：
13.将标注好的训练样本输入预先建立的反向级联特征聚合神经网络模型中，通过所述主干网络层和所述串联的空洞卷积层对训练样本进行下采样，并在每一层输出采样特征，通过所述特征聚合层将所述主干网络层的每一层输出的特征与所述串联的空洞卷积层中的每一层输出的反向映射特征按位相乘，生成增强特征图，然后将所述增强特征图与反向映射特征进行拼接，生成特征组合图；
14.根据二分类交叉熵损失函数确定所述特征组合图相对于训练样本的图像损失，并当图像损失大于预设阈值时，对所述管道裂缝检测模型的参数进行调整；
15.重复上述过程，直到图像损失小于预设阈值，完成对所述管道裂缝检测模型的训练。
16.进一步地，所述对所述管线裂缝图像进行优化，构建包括管道裂缝的三维图像包
括：
17.基于张氏标定法，去除所述管线裂缝图像中的像素畸变，得到第一图像；
18.基于所述第一图像的灰度值，采用预设的滤波方法对所述第一图像进行滤波处理，得到第二图像；
19.对所述第二图像进行腐蚀和/或膨胀，得到预处理图像；
20.将所述预处理图像中的点转化为世界坐标系下的三维坐标，得到管道裂缝表面的三维点云；
21.基于所述三维点云，构建管道的三维图像。
22.进一步地，所述将所述预处理图像中的点转化为世界坐标系下的三维坐标，得到管道裂缝表面的三维点云包括：
23.选取所述预处理图像中任一点的灰度值，通过预设公式计算图像中裂缝深度值；
24.基于图像坐标系与真实世界坐标系之间的相互转换关系和所述裂缝深度值，将所述预处理图像中的点转化为世界坐标系下的三维坐标，得到管道裂缝表面的三维点云。
25.进一步地，所述基于所述三维点云，构建管道的三维图像包括：
26.基于所述三维点云，通过mesh函数构建管道的三维图像。
27.进一步地，还包括修正模块，具体用于：
28.对所述预处理图像进行黑色空洞消除，得到裂缝掩膜图像；
29.基于所述裂缝掩膜图像，对预处理图像进行背景处理，去除所述管道三维图像背景不均造成的三维重建偏差。
30.进一步地，所述对所述预处理图像进行黑色空洞消除，得到裂缝掩膜图像包括：
31.对所述预处理图像中的黑色空洞进行填充，进行分水岭分割，得到裂缝掩膜图像。
32.在本公开的第二方面，提供了一种应用于第一方面所述的系统进行管道损伤识别的方法，包括：
33.采集管道图像；
34.将所述管道图像输入至预先训练的管道裂缝检测模型，得到管线裂缝图像；所述管道裂缝检测模型为反向级联特征聚合神经网络，包括主干网络层、串联的空洞卷积层和特征聚合层；
35.对所述管线裂缝图像进行优化，构建包括管道裂缝的三维图像，基于所述三维图像完成对管道的损伤识别。
36.在本公开的第三方面，提供了一种电子设备。该电子设备包括：存储器和处理器，所述存储器上存储有计算机程序，所述处理器执行所述程序时实现如以上所述的方法。
37.在本公开的第四方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如根据本公开的第二方面的方法。
38.本技术实施例提供的应用于管道损伤识别的三维检测系统，通过采集管道图像；将所述管道图像输入至预先训练的管道裂缝检测模型，得到管线裂缝图像；所述管道裂缝检测模型为反向级联特征聚合神经网络，包括主干网络层、串联的空洞卷积层和特征聚合层；对所述管线裂缝图像进行优化，构建包括管道裂缝的三维图像，基于所述三维图像完成对管道的损伤识别。提高了对管道裂缝的检测效率和准确率。
39.应当理解，发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或
重要特征，亦非用于限制本公开的范围。本公开的其它特征将通过以下的描述变得容易理解。
附图说明
40.结合附图并参考以下详细说明，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：
41.图1示出了根据本公开的实施例的应用于管道损伤识别的三维检测系统的方框图；
42.图2示出了根据本公开的实施例的标定板示意图；
43.图3示出了根据本公开的实施例的管线深度计算示意图；
44.图4示出了根据本公开的实施例的应用于本公开系统进行管道损伤识别的方法流程图；
45.图5示出了能够实施本公开的实施例的示例性电子设备的方框图。
具体实施方式
46.为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本公开保护的范围。
47.另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，a和/或b，可以表示：单独存在a，同时存在a和b，单独存在b这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
48.图1示出了根据本公开实施例的应用于管道损伤识别的三维检测系统100，包括：
49.图像采集模块110，用于采集管道图像。
50.其中，图像采集模块110可设置在用于探测管线裂缝的无人机、机器人等探测设备上。
51.在一些实施例中，图像采集模块110包括双目视觉设备，由深度摄像机、普通ccd摄像机、采集供电系统和便携式计算机构成；
52.摄像机由两套独立的ccd摄像机组成，通过视频连接线缆和电源线连接到移动端采集控制系统；
53.移动端采集控制系统内实时接收摄像机采集到的图像，并通过网络连接到便携式计算机上，将采集到的图像传送给便携式计算机中的图像处理软件；
54.便携式计算机上安装有图像处理软件，图像处理软件的功能是通过输入的双目图像，使用计算机视觉技术，识别管壁内部的缺陷，并测量计算管壁缺陷位姿信息。
55.在一些实施例中，所述双目视觉设备为已进行标定的设备，其标定方法包括：
56.以图像左上角为像素坐标系原点标定第一坐标系，如图2所示，将双目设备安装固定后，对预先放置的标定板进行拍摄(图2中任一标定板均可)，获取包括标定板的图像，根据所述图像中的标定板，确定第二坐标系。
57.进一步地，将所述第二坐标系固定于所述图像中的标定板上，即，所述棋盘格上任
一点的第二坐标系z＝0；所述标定板包括棋盘格，所述棋盘格可包括多个大小已知的黑白格(参考图2)。
58.在一些实施例中，通过相机标定原理，标定所述第一坐标系和第二坐标系的转换关系。
59.具体地，用坐标(u,v)表示第一坐标系坐标，坐标(x,y,0)表示第二坐标系，即，用(u,v)表示标定板角点的坐标，用(x,y,0)表示道路坐标系下的标定板角点的坐标，所述第一坐标系和第二坐标系存在如下关系：
[0060][0061]
进一步地，通过上式消去尺度因子λ，可得：
[0062][0063][0064]
其中，通过图像识别算法，可以得到标定板角点的像素坐标(u,v)；基于标定板每一个格的大小，确定道路坐标系下的(x,y)(z＝0)；所述h为齐次矩阵；上式中有8个独立未知元素：h
11
x、h
12
y、h
31
x、h
32
y、h
21
x、h
22
y、h
31
x和h
32
y，每一个标定板角点均可提供两个约束方程，因此，当一张图片上的标定板角点数量大于等于4时(通常情况下一张图片上的标定板角点数量大于等于4)，可求得对应的矩阵h，即，可求得第一坐标系与第二坐标系的解算关系，便于后期将管线裂缝图像中的坐标转化为世界坐标系下的三维坐标。
[0065]
在一些实施例中，通过张氏标定法，对如图2所示的标定板图像(多张)进行标定，建立成像模型，用于去除后期获取的管线裂缝图像中的像素畸变。
[0066]
综上，完成相机标定。通过完成相机标定的双目设备采集管道图像。
[0067]
第一图像处理模块120，用于将所述管道图像输入至预先训练的管道裂缝检测模型，得到管线裂缝图像；所述管道裂缝检测模型为反向级联特征聚合神经网络，包括主干网络层、串联的空洞卷积层和特征聚合层。
[0068]
在一些实施例中，所述管道裂缝检测模型可通过如下方式进行训练：
[0069]
将标注好的训练样本输入预先建立的反向级联特征聚合神经网络模型中，通过所述主干网络层和所述串联的空洞卷积层对训练样本进行下采样，并在每一层输出采样特征，通过所述特征聚合层将所述主干网络层的每一层输出的特征与所述串联的空洞卷积层中的每一层输出的反向映射特征按位相乘，生成增强特征图，然后将所述增强特征图与反向映射特征进行拼接，生成特征组合图；
[0070]
根据二分类交叉熵损失函数确定所述特征组合图相对于训练样本的图像损失，并当图像损失大于预设阈值时，对所述管道裂缝检测模型的参数进行调整；
[0071]
重复上述过程，直到图像损失小于预设阈值，完成对所述管道裂缝检测模型的训练。
[0072]
在对所述管道裂缝检测模型的训练过程中，可以对训练样本(包含管道裂缝的图像)进行小角度旋转、随机翻转和平移中的一种或多种操作，增大训练样本的数据量。
[0073]
本公开的管道裂缝检测模型，包括主干网络层、串联的空洞卷积层和特征聚合层。其中，主干网络层可以是vgg、resnet系列的网络结构，主干网络分为2层，每层都由一组二维卷积、relu激活和平均池化等神经网络序列组成。在较低的层次，图像分辨率较高，卷积结果具有较好的边缘和位置信息；在较高的层次图像通道数增加，分辨率因池化操作而降低，卷积结果具有较好的分类和分割等语义信息。空洞卷积层分为3层，并且串联，空洞卷积层用于增大卷积的感受野，丰富小目标的多尺度特征表示。空洞率参数选择[3，5，7]这样没有大于1的的公约数的三元质数组组合，能够有效避免网格效应，先通过1
×
1卷积进行特征降维，能够减少模型参数和计算量。
[0074]
通过主干网络层进行下采样，可以获取较好的边缘和位置信息，通过空洞卷积层下采样，可以增加小目标的多尺度特征，从而使得识别出来的裂缝更加明显。在经过主干网络层和串联的空洞卷积层下采样后，如果直接进行上采样或反卷积操作，得到的结果是很粗糙的，会使分割图像失去很多细节。因此需要将网络不同层的输出结果进行聚合，同时兼顾高层语义信息和低层的结构信息。为了得到与原图像等大小的分割图，需要逐级反向进行上采样和卷积操作，上采样组合操作的次数与层级之间的距离成正比，例如将第5层特征映射到第3层，就需要进行两次上采样和卷积的组合操作。反向级联包括两个主要的操作：特征增强和特征聚合。特征增强是通过乘法运算来突出各层都比较显著的结果，主干网络各层输出结果先反向映射到较低层级，将主干网络各层的输出结果与高层到该层的反向映射结果按位相乘，形成增强的特征图。特征聚合是将高层向低层的映射结果与该层的增强特征拼接在一起，形成信息更丰富的特征组合。
[0075]
将反向级联聚合的结果与基准图进行比较，采用交叉熵作进行损失度量。由于显著性检测主要是判断图像中的像素是否属于显著目标，最后生成的特征图或显著性概率图都能转化为二值特征，因此这里选择二分类交叉熵损失函数。为了使网络结构更简单，这里只对反向级联最后一层聚合特征进行损失度量，而不像级联部分解码器方法那样采用双分支结构，对低层结构特征和高层语义特征都进行损失度量。
[0076]
本实施例的模型，能够提高管道背景图像中识别裂缝目标的检测精度，从而能够从管道背景图像中识别出管线裂缝。
[0077]
在一些实施例中，通过管道裂缝检测模型对双目设备获取的图像进行过滤，得到管线裂缝图像。
[0078]
第二图像处理模块130，用于对所述管线裂缝图像进行优化，构建包括管道裂缝的三维图像。
[0079]
由于环境因素的原因，通常所述管线裂缝图像会存在椒盐噪声和随机噪声。
[0080]
在一些实施例中，基于张氏标定法构建的成像模型，去除所述管线裂缝图像中的图像畸变，得到第一图像；
[0081]
获取所述第一图像的灰度值，设f(x,y)是(x,y)位置处的灰度值，图像大小为m
×
n，smax表示允许设定的最大滤波窗口，zmax表示窗口中的最大灰度值，zmin表示窗口中的最小灰度值，zmed表示窗口中的中值；
[0082]
若zmin＜＜zmed＜＜zmax，则表示窗口内的中值在范围内，有中值输出；反之，则增大窗口，重复本步骤，直至窗口已经增大到smax时，直接保持原灰度值不变；
[0083]
进一步地，若zmin＜＜f(x,y)＜＜zmax，则中心位置为噪声点，通过预设滤波方法
进行滤波，直接输出zmed；反之，则为非噪声点，可以忽略，保持原灰度值不变；
[0084]
所述预设滤波方法包括：
[0085]
通过如下公式进行滤波处理：
[0086]
g(x，y)＝med{f(s，t)(s，t∈s_xy)}
[0087]
其中，所述f(s,t)表示滤波窗口内的像素值；
[0088]
所述g(x,y)表示中值滤波输出；
[0089]
所述s_xy表示滤波窗口；
[0090]
通过设定条件，可以自动的调节窗口大小，对图像中的疑似噪声点进行判断，从而采用不同的处理手段。这既可以保留住图像的边缘等细节，又可以过滤掉较大的椒盐噪声。
[0091]
进一步地，可采用均值滤波去除图像中的周期噪声；可采用高斯滤波去除服从正态分布的噪声等；
[0092]
综上，对所述第一图像进行滤波处理后，得到第二图像。
[0093]
在一些实施例中，滤波后的第二图像，有可能会存在边界不平滑、滤波未去除干净等情况。
[0094]
因此，在本公开中，对所述第二图像进行开运算操作，消除目标周围细小无关区域，平滑目标边界，然后再进行一次膨胀，使小椭圆高亮区域更大，使小椭圆识别更容易。将滤波后进行开运算、膨胀后的效果图和原始滤波图像对比，腐蚀膨胀后的图像相比于滤波后图像，五个小椭圆高亮区域明显被放大，且细小物体被消除，便于后期裂缝位置的提取，得到的预处理图像。
[0095]
在一些实施例中，选取所述预处理图像中任一点的灰度值，基于所述灰度值和相机参数，通过预设公式计算图像中裂缝深度值；
[0096]
具体地，所述预处理图像的灰度值范围在0-255之间，256个灰度值对应25.6厘米，在此将图像中某一点的灰度值记为g，该点与双目设备之间的实际距离h等于管壁面与相机之间距离h除以25.6的整数部分乘以25.6后再加上读取的灰度值g，参考图3，即：
[0097]
h＝round(60
÷
25.6)
×
25.6 g
[0098]
假设相机距离管壁面的距离为60cm，在式上式中round运算是对计算结果取整数。基于相机的标定结果，可以获取裂缝某一点在真实世界坐标系下的深度值h。
[0099]
基于所述相机的标定结果和所述裂缝深度值，将所述预处理图像中的点转化为世界坐标系下的三维坐标，得到管道裂缝表面的三维点云；
[0100]
具体地，图像坐标系与真实世界坐标系之间存在的相互转换关系(相机标定结果)可以得出真实世界坐标系中的x与y坐标。其中x，y为被测物体在图像坐标系下对应的二维平面坐标系的坐标值，xw，yw，zw为被测物体在真实世界坐标，即，获得管道裂缝表面的三维点云。基于所述三维点云，通过mesh函数构建管道(管道裂缝)的三维图像，完成管道检测。
[0101]
可视化模块140，用于显示所述三维图像。
[0102]
进一步地，还包括修正模块，具体用于：
[0103]
对所述预处理图像中的黑色空洞进行填充，进行分水岭分割，得到裂缝掩膜图像，根据实际应用场景对所裂缝掩膜图像的边界进行裁剪，用以去除边界处理不理想的问题，如裁剪边界10个像素。
[0104]
根据裂缝掩膜图像对裂缝深度图像进行背景处理，掩膜图像的白色区域为裂缝前
景对象，灰度值为1，掩膜图像的黑色区域为裂缝去破损管线背景，灰度值为0。对无破损的管线背景区域的灰度进行叠加求平均值，将此平均值替代深度图像的管线背景，去除所述管道的三维图像背景不均造成的三维重建偏差。
[0105]
根据本公开的实施例，实现了以下技术效果：
[0106]
使用计算机视觉技术，识别管壁内部的缺陷，并测量计算管壁缺陷位姿信息，然后根据重建算法计算特征点的三维坐标，实现了对管线裂缝图像的三维建模，可更加直观的定位裂缝位置，大幅度提高了对管道裂缝的检测效率和准确率
[0107]
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本公开并不受所描述的动作顺序的限制，因为依据本公开，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于可选实施例，所涉及的动作和模块并不一定是本公开所必须的。
[0108]
以上是关于系统实施例的介绍，以下通过方法实施例，对本公开所述方案进行进一步说明。
[0109]
图4示出了根据本公开的应用于上述系统进行管道损伤识别的方法，包括：
[0110]
s410，采集管道图像；
[0111]
s420，将所述管道图像输入至预先训练的管道裂缝检测模型，得到管线裂缝图像；所述管道裂缝检测模型为反向级联特征聚合神经网络，包括主干网络层、串联的空洞卷积层和特征聚合层；
[0112]
s430，对所述管线裂缝图像进行优化，构建包括管道裂缝的三维图像，基于所述三维图像完成对管道的损伤识别。
[0113]
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的方法的具体工作过程，可以参考前述系统实施例中的对应过程，在此不再赘述。
[0114]
图5示出了可以用来实施本公开的实施例的电子设备500的示意性框图。如图5所示，设备500包括中央处理单元(cpu)501，其可以根据存储在只读存储器(rom)502中的计算机程序指令或者从存储单元508加载到随机访问存储器(ram)503中的计算机程序指令，来执行各种适当的动作和处理。在ram 503中，还可以存储设备500操作所需的各种程序和数据。cpu 501、rom 502以及ram 503通过总线504彼此相连。输入/输出(i/o)接口505也连接至总线504。
[0115]
设备500中的多个部件连接至i/o接口505，包括：输入单元506，例如键盘、鼠标等；输出单元507，例如各种类型的显示器、扬声器等；存储单元508，例如磁盘、光盘等；以及通信单元509，例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
[0116]
处理单元501执行上文所描述的各个方法和处理，例如方法400。例如，在一些实施例中，方法400可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元508。在一些实施例中，计算机程序的部分或者全部可以经由rom 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到ram 503并由cpu 701执行时，可以执行上文描述的方法400的一个或多个步骤。备选地，在其他实施例中，cpu 501可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行方法400。
[0117]
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)等等。
[0118]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0119]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0120]
此外，虽然采用特定次序描绘了各操作，但是这应当理解为要求这样操作以所示出的特定次序或以顺序次序执行，或者要求所有图示的操作应被执行以取得期望的结果。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实现中。相反地，在单个实现的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实现中。
[0121]
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。