基于多分辨率融合的点云分割方法和装置与流程

1.本技术涉及计算机视觉与机器学习技术领域，尤其涉及一种基于多分辨率融合的点云分割方法和装置。


背景技术：

2.目前，三维场景的分割技术在自动驾驶、智能移动机器人、虚拟现实等实际应用场景中发挥着重要的作用。随着激光雷达等传感器的普及，三维点云数据的采集越来越方便，因而也为三维场景的分割提供了重要的数据基础。然而由于点云数据往往是不完整且密度不均匀的，且点云本身的数据表示也具有无规则性，目前的算法在进行分割时面临了许多问题。
3.基于点云数据的三维场景分割技术可以分为语义分割和实例分割两类：语义分割中常用的框架有以pointnet 为代表的直接处理点云的结构，也有先把点云转换为体素，再对体素进行稀疏卷积的结构；实例分割则可以按照有无候选框的提出分为两类方法。
4.然而，目前网络框架中，通常只是用跨越连接的方式对各个分辨率的特征进行拼接，并没有很充分的利用低分辨率点云特征。


技术实现要素：

5.本技术旨在至少在一定程度上解决相关技术中的技术问题之一。
6.为此，本技术的第一个目的在于提出一种基于多分辨率融合的点云分割方法，解决现有点云分割框架中，对低分辨率信息利用不充分的问题，直接从低分辨率点云特征预测出分割的结果，并把这个结果通过上采样
‑
优化更新的方法拓展到原始点云的分辨率，与最终的预测结果进行融合，提高点云分割准确性。
7.本技术的第二个目的在于提出一种基于多分辨率融合的点云分割装置。
8.为达上述目的，本技术第一方面实施例提出了一种基于多分辨率融合的点云分割方法，包括：
9.获取待分割图像，通过预测器对所述待分割图像进行点云分割，获取原始点云分割结果；
10.对所述待分割图像进行降采样，获取低分辨率图像特征；
11.通过所述预测器对所述低分辨率图像特征进行点云分割，获取低分辨率点云分割结果；
12.对所述低分辨率点云分割结果进行上采样的优化更新处理，获取与所述原始点云分割结果相同分辨率的目标点云分割结果，并将所述原始点云分割结果和所述目标点云分割结果进行融合处理，并输出点云分割结果。
13.本技术实施例的基于多分辨率融合的点云分割方法，通过获取待分割图像，通过预测器对待分割图像进行点云分割，获取原始点云分割结果；对待分割图像进行降采样，获取低分辨率图像特征；通过预测器对低分辨率图像特征进行点云分割，获取低分辨率点云
分割结果；对低分辨率点云分割结果进行上采样的优化更新处理，获取与原始点云分割结果相同分辨率的目标点云分割结果，并将原始点云分割结果和目标点云分割结果进行融合处理，并输出点云分割结果。由此，解决现有点云分割框架中，将低分辨率点云直接用于分割结果的预测，并将其上采样到最高分辨率，与原本的分割结果进行融合，得到最终的预测，提高点云分割准确性。
14.在本技术的一个实施例中，所述对所述低分辨率点云分割结果进行上采样的优化更新处理，获取与所述原始点云分割结果相同分辨率的目标点云分割结果，包括：
15.分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理，获取中间分辨率图像特征和中间分辨率点云分割结果；
16.从所述中间分辨率图像特征中，获取不确定图像特征，并获取所述不确定图像特征对应的不确定预测结果；
17.将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期，获取更新预测结果，将所述更新预测结果替换所述低分辨率点云分割结果，直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
18.在本技术的一个实施例中，所述从所述中间分辨率图像特征中，获取不确定图像特征，包括：
19.获取所述中间分辨率图像特征中每个特征点对应的置信概率；
20.根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较，确定不确定特征点，根据所述不确定特征点获取所述不确定图像特征。
21.在本技术的一个实施例中，所述的方法，还包括：
22.通过第一预设器预测低分辨率点云分割训练结果，将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起，用第二预测器将所有点重新预测一遍，获取重新预测结果；
23.将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数，用梯度下降算法进行训练，生成所述预测器。
24.在本技术的一个实施例中，所述插值处理的方式为三近邻插值或最近邻插值。
25.为达上述目的，本技术第二方面实施例提出了一种基于多分辨率融合的点云分割装置，包括：
26.获取预测模块，用于获取待分割图像，通过预测器对所述待分割图像进行点云分割，获取原始点云分割结果；
27.降采样模块，用于对所述待分割图像进行降采样，获取低分辨率图像特征；
28.预测模块，用于通过所述预测器对所述低分辨率图像特征进行点云分割，获取低分辨率点云分割结果；
29.更新模块，用于对所述低分辨率点云分割结果进行上采样的优化更新处理，获取与所述原始点云分割结果相同分辨率的目标点云分割结果；
30.处理模块，用于将所述原始点云分割结果和所述目标点云分割结果进行融合处理，并输出点云分割结果。
31.本技术实施例的基于多分辨率融合的点云分割装置，获取待分割图像，通过预测
器对待分割图像进行点云分割，获取原始点云分割结果；对待分割图像进行降采样，获取低分辨率图像特征；通过预测器对低分辨率图像特征进行点云分割，获取低分辨率点云分割结果；对低分辨率点云分割结果进行上采样的优化更新处理，获取与原始点云分割结果相同分辨率的目标点云分割结果，并将原始点云分割结果和目标点云分割结果进行融合处理，并输出点云分割结果。由此，解决现有点云分割框架中，将低分辨率点云直接用于分割结果的预测，并将其上采样到最高分辨率，与原本的分割结果进行融合，得到最终的预测，提高点云分割准确性。
32.在本技术的一个实施例中，所述更新模块，包括：
33.插值单元，用于分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理，获取中间分辨率图像特征和中间分辨率点云分割结果；
34.第一获取单元，用于从所述中间分辨率图像特征中，获取不确定图像特征；
35.第二获取单元，用于获取所述不确定图像特征对应的不确定预测结果；
36.处理单元，用于将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期，获取更新预测结果，将所述更新预测结果替换所述低分辨率点云分割结果，直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
37.在本技术的一个实施例中，所述第一获取单元，具体用于：
38.获取所述中间分辨率图像特征中每个特征点对应的置信概率；
39.根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较，确定不确定特征点，根据所述不确定特征点获取所述不确定图像特征。
40.在本技术的一个实施例中，所述的装置，还包括：
41.预测获取模块，用于通过第一预设器预测低分辨率点云分割训练结果，将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起，用第二预测器将所有点重新预测一遍，获取重新预测结果；
42.生成模块，用于将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数，用梯度下降算法进行训练，生成所述预测器。
43.在本技术的一个实施例中，所述插值处理的方式为三近邻插值或最近邻插值。
44.本技术附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本技术的实践了解到。
附图说明
45.本技术上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
46.图1为本技术实施例一所提供的一种基于多分辨率融合的点云分割方法的流程示意图；
47.图2为本技术实施例的基于多分辨率融合的点云分割的示例图；
48.图3为本技术实施例的优化更新的操作示例图；
49.图4为本技术实施例所提供的一种基于多分辨率融合的点云分割装置的结构示意图。
具体实施方式
50.下面详细描述本技术的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本技术，而不能理解为对本技术的限制。
51.下面参考附图描述本技术实施例的基于多分辨率融合的点云分割方法和装置。
52.图1为本技术实施例一所提供的一种基于多分辨率融合的点云分割方法的流程示意图。
53.如图1所示，该基于多分辨率融合的点云分割方法包括以下步骤：
54.步骤101，获取待分割图像，通过预测器对待分割图像进行点云分割，获取原始点云分割结果。
55.步骤102，对待分割图像进行降采样，获取低分辨率图像特征。
56.步骤103，通过预测器对低分辨率图像特征进行点云分割，获取低分辨率点云分割结果。
57.步骤104，对低分辨率点云分割结果进行上采样的优化更新处理，获取与原始点云分割结果相同分辨率的目标点云分割结果，并将原始点云分割结果和目标点云分割结果进行融合处理，并输出点云分割结果。
58.在本技术实施例中，对低分辨率点云分割结果进行上采样的优化更新处理，获取与原始点云分割结果相同分辨率的目标点云分割结果，包括：分别对低分辨率图像特征和低分辨率点云分割结果进行插值处理，获取中间分辨率图像特征和中间分辨率点云分割结果；从所述中间分辨率图像特征中，获取不确定图像特征，并获取不确定图像特征对应的不确定预测结果；将中间分辨率点云分割结果、不确定预测结果和从原始点云分割结果获取的预测结果进行拼接后输入所述预测期，获取更新预测结果，将更新预测结果替换低分辨率点云分割结果，直到获取与原始点云分割结果相同分辨率的目标点云分割结果。
59.在本技术实施例中，从中间分辨率图像特征中，获取不确定图像特征，包括：获取所述中间分辨率图像特征中每个特征点对应的置信概率；根据每个特征点对应的置信概率与预设类别概率的差值与阈值比较，确定不确定特征点，根据不确定特征点获取不确定图像特征。
60.在本技术实施例中，通过第一预设器预测低分辨率点云分割训练结果，将低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起，用第二预测器将所有点重新预测一遍，获取重新预测结果；将低分辨率点云分割训练结果和重新预测结果分别与真实标签计算交叉熵损失函数，用梯度下降算法进行训练，生成预测器。
61.在本技术实施例中，插值处理的方式为三近邻插值或最近邻插值。
62.具体地，如图2所示，图2中(a)部分为原网络，直接处理点云且使用降采样
‑
上采样结构的框架均可作为(a)，因此本技术的方法具有很强的普适性。比如可以理解为(b)部分为图形渲染中的栅格化操作流程，该操作首先将三角面片作为基元，基元经过的格点即为片段，最后通过插值等方式对片段进行处理。利用低分辨率分割结果并将其向上插值更新的过程与这一套流程的思想是一致的。(c)部分为本技术的模块，可以看到使用mlp
r
作为预测器，直接预测出低分辨率点云的分割结果。之后按照原网络中上采样的分辨率对此低分
辨率的预测结果进行上采样
‑
优化更新的迭代，一直到低分辨率的预测结果与原网络的预测结果具有相同的分辨率。最后，将两个预测结果进行融合，得到最终输出，如图2右下角所示。
63.本技术模块中使用的上采样操作与原网络保持一致，常用的有三近邻插值和最近邻插值。优化更新的操作如图3所示。在有了低分辨率点云的特征和分割预测结果后(分别为图中的f
lr
和和m
lr
)，将其插值到向上一级的分辨率，记为f
hr
和对于中的每个点，都有一个对应的c维向量，表示该点属于第k类(1≤k≤c)的概率，若一个点置信概率最高的类与第二高的类的概率差很小，则认为这个点的预测是不确定的。在本技术的模块中，选出当前分辨率前1/2的不确定的点，做为优化更新的目标。将不确定的点的特征预测结果在特征维度上进行拼接，并从原网络预测结果中选出对应的预测结果也与前两者拼接在一起。之后使用mlp
u
，对每个拼接特征进行重新预测，得到并替换掉原来不确定的结果。将低分辨率预测结果上采样到原点云分辨率并更新后，需要将此结果与原网络的预测结果进行融合，具体方法为：按照上述不确定性的定义，从原网络的预测结果中选出1/6不确定的点，这些点用本技术模块的预测结果进行替换。
64.以上是本技术的模块在推理阶段进行的操作，在训练阶段，这种迭代式的操作过于复杂且不可导，因此采用简便的方式进行训练：在推理阶段中，使用的含参数操作只有mlp
r
和mlp
u
，且mlp
u
可以在不同分辨率的迭代中反复使用，因此训练阶段没有必要使用这种迭代的结构。首先用mlp
r
预测低分辨率的分割结果，将此结果与低分辨率特征、原网络预测结果的对应部分拼接在一起，用mlp
u
将所有点重新预测一遍，这样就得到了两个预测结果，一个是使用mlp
u
之前的预测结果，另一个是使用了mlp
u
之后重新预测的结果，这两个结果分别与真实标签计算交叉熵损失函数，用梯度下降算法进行训练即可。
65.由此，直接把低分辨率特征用来预测分割结果，并引入并行于原网络上采样分支的另一分支，将两路预测结果进行融合；在把低分辨率分割结果上采样的过程中，设计了基于不确定性的更新操作，解决了插值结果过于粗糙的问题；将本技术的方法作为即插即用的模块，在多个分割框架上证实了该模块的有效性。
66.从而，给定降采样
‑
上采样结构的点云分割框架，本技术的方法从某一低分辨率的特征开始，预测出分割结果，并迭代式进行上采样
‑
优化更新的操作，最终得到和原网络预测结果相同的分辨率，将这两个预测结果用基于不确定性的方式进行融合，作为网络最终输出的分割结果。本技术的方法可以简易地插入到现有的许多框架中，显著提升了多个指标下的三维场景分割精度。
67.本技术实施例的基于多分辨率融合的点云分割方法，通过获取待分割图像，通过预测器对待分割图像进行点云分割，获取原始点云分割结果；对待分割图像进行降采样，获取低分辨率图像特征；通过预测器对低分辨率图像特征进行点云分割，获取低分辨率点云分割结果；对低分辨率点云分割结果进行上采样的优化更新处理，获取与原始点云分割结果相同分辨率的目标点云分割结果，并将原始点云分割结果和目标点云分割结果进行融合处理，并输出点云分割结果。由此，解决现有点云分割框架中，将低分辨率点云直接用于分割结果的预测，并将其上采样到最高分辨率，与原本的分割结果进行融合，得到最终的预测，提高点云分割准确性。
68.为了实现上述实施例，本技术还提出一种基于多分辨率融合的点云分割装置。
69.图4为本技术实施例提供的一种基于多分辨率融合的点云分割装置的结构示意图。
70.如图4所示，该基于多分辨率融合的点云分割装置包括：获取预测模块410、降采样模块420、预测模块430、更新模块440和处理模块450。
71.获取预测模块410，用于获取待分割图像，通过预测器对所述待分割图像进行点云分割，获取原始点云分割结果。
72.降采样模块420，用于对所述待分割图像进行降采样，获取低分辨率图像特征。
73.预测模块430，用于通过所述预测器对所述低分辨率图像特征进行点云分割，获取低分辨率点云分割结果。
74.更新模块440，用于对所述低分辨率点云分割结果进行上采样的优化更新处理，获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
75.处理模块450，用于将所述原始点云分割结果和所述目标点云分割结果进行融合处理，并输出点云分割结果。
76.在本技术实施例中，更新模块，包括：插值单元，用于分别对所述低分辨率图像特征和所述低分辨率点云分割结果进行插值处理，获取中间分辨率图像特征和中间分辨率点云分割结果；第一获取单元，用于从所述中间分辨率图像特征中，获取不确定图像特征；第二获取单元，用于获取所述不确定图像特征对应的不确定预测结果；处理单元，用于将所述中间分辨率点云分割结果、所述不确定预测结果和从所述原始点云分割结果获取的预测结果进行拼接后输入所述预测期，获取更新预测结果，将所述更新预测结果替换所述低分辨率点云分割结果，直到获取与所述原始点云分割结果相同分辨率的目标点云分割结果。
77.在本技术实施例中，所述第一获取单元，具体用于：获取所述中间分辨率图像特征中每个特征点对应的置信概率；根据所述每个特征点对应的置信概率与预设类别概率的差值与阈值比较，确定不确定特征点，根据所述不确定特征点获取所述不确定图像特征。
78.在本技术实施例中，所述的装置，还包括：预测获取模块，用于通过第一预设器预测低分辨率点云分割训练结果，将所述低分辨率点云分割训练结果与低分辨率训练图像特征、原网络预测训练结果的对应部分拼接在一起，用第二预测器将所有点重新预测一遍，获取重新预测结果；生成模块，用于将所述低分辨率点云分割训练结果和所述重新预测结果分别与真实标签计算交叉熵损失函数，用梯度下降算法进行训练，生成所述预测器。
79.在本技术的一个实施例中，所述插值处理的方式为三近邻插值或最近邻插值。
80.本技术实施例的基于多分辨率融合的点云分割装置，通过获取待分割图像，通过预测器对待分割图像进行点云分割，获取原始点云分割结果；对待分割图像进行降采样，获取低分辨率图像特征；通过预测器对低分辨率图像特征进行点云分割，获取低分辨率点云分割结果；对低分辨率点云分割结果进行上采样的优化更新处理，获取与原始点云分割结果相同分辨率的目标点云分割结果，并将原始点云分割结果和目标点云分割结果进行融合处理，并输出点云分割结果。由此，解决现有点云分割框架中，将低分辨率点云直接用于分割结果的预测，并将其上采样到最高分辨率，与原本的分割结果进行融合，得到最终的预测，提高点云分割准确性。
81.需要说明的是，前述对基于多分辨率融合的点云分割方法实施例的解释说明也适
用于该实施例的基于多分辨率融合的点云分割装置，此处不再赘述。
82.在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
83.此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本技术的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
84.流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本技术的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本技术的实施例所属技术领域的技术人员所理解。
85.在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(ram)，只读存储器(rom)，可擦除可编辑只读存储器(eprom或闪速存储器)，光纤装置，以及便携式光盘只读存储器(cdrom)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
86.应当理解，本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
87.本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
88.此外，在本技术各个实施例中的各功能单元可以集成在一个处理模块中，也可以
是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
89.上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本技术的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本技术的限制，本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。