一种融合方法、装置、设备、介质及产品与流程

1.本发明涉及智能交通技术领域，尤其涉及一种融合方法、装置、设备、介质及产品。


背景技术：

2.目前大多数的车联网路测方案大都是基于图像及视频数据，即依赖单一的视觉图像信息进行目标检测与跟踪，但是该类单一的依靠视觉图像信息进行目标检测方式，通常要求是高质量、高分辨率的原始图像，而视觉传感器自身的局限性使得光照变化、目标间遮挡、阴影等因素都会对采集到的图像质量产生严重的影响，如大风、雨雪等恶劣天气或光照变化、遮挡、阴影等，使检测结果的可靠性大大降低，检测系统的鲁棒性差，跟踪在环境变化比较复杂的时候使用很受限制。
3.多传感器系统相比单一传感器获取目标的信息更加丰富、观测域更加广阔，且鲁棒性更高，结合多传感器实现车联网以解决上述单一依靠视觉图像信息检测的问题。
4.但是目前结合激光雷达与图像数据进行车联网路测的方式中，通常都只是借助激光雷达的点云信息作为先验知识用来降低在图像上的搜索空间，由搜索到的图像数据再进行目标检测跟踪，该类方式存在以下问题：对激光雷达测得的点云信息仅仅是用于降低图像的搜索空间，并未充分利用该点云信息，没有充分发挥激光雷达与图像数据的优势。


技术实现要素：

5.本发明提供了一种融合方法、装置、设备、介质及产品，以解决由于是先借助激光雷达的点云信息来降低图像上的搜索空间，再由搜索的图像数据进行目标跟踪，并未充分利用点云信息，没有充分发挥激光雷达与图像数据的优势的问题，能够充分发挥激光雷达与图像数据的优势，获得更加丰富的目标物体的相关信息。
6.根据本发明的一方面，提供了一种融合方法，该方法包括：
7.获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息；
8.获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息；
9.将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标；
10.根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合。
11.进一步的，获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息，包括：
12.获取摄像头拍摄的待识别图像；
13.将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，其中，所述目标模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：图像样本和所述图像样本对应的标识信息，所述标识信息包括：图像样
本中的至少一个目标物体的位置信息和特征信息。
14.进一步的，将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，包括：
15.基于openvino工具对目标模型进行转换，得到权重信息和网络拓扑信息；
16.将权重信息、网络拓扑信息和待识别图像加载至openvino工具中，得到待识别图像中的至少一个目标物体的位置信息和特征信息。
17.进一步的，通过目标样本集迭代训练神经网络模型，包括：
18.建立神经网络模型；
19.将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息；
20.根据所述图像样本中的至少一个预测目标物体的位置信息和特征信息和所述图像样本中的至少一个目标物体的位置信息和特征信息形成的目标函数训练所述神经网络模型的参数；
21.返回执行将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息的操作，直至得到目标模型。
22.进一步的，获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息，包括：
23.获取激光雷达采集的待识别点云图像中每个点云到其余点云之间的距离；
24.根据所述待识别点云图像中每个点云到其余点云之间的距离对所述待识别点云图像中的点云进行聚类，得到至少一个点云集合；
25.获取每个点云集合对应的包围盒的位置坐标和参数信息。
26.进一步的，获取每个点云集合对应的包围盒的位置坐标和参数信息，包括：
27.获取每个点云集合对应的包围盒的位置坐标；
28.根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移；
29.根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度。
30.进一步的，根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合，包括：
31.若第一目标物体的位置信息和第一包围盒相对于待识别图像的第一位置坐标之间的距离小于距离阈值，则将所述第一目标物体的特征信息和所述第一包围盒的参数信息进行融合。
32.进一步的，将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标，包括：
33.获取投影密度和摄像头外参；
34.根据投影密度和摄像头外参对每个包围盒的位置坐标进行投影，得到每个包围盒相对于所述待识别图像的第一位置坐标。
35.根据本发明的另一方面，提供了一种融合装置，该融合装置包括：
36.第一获取模块，用于获取激光雷达采集的待识别点云图像中至少一个点云集合对
应的包围盒的位置坐标和参数信息；
37.第二获取模块，用于获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息；
38.投影模块，用于将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标；
39.融合模块，用于根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合融。
40.进一步的，所述第二获取模块具体用于：
41.获取摄像头拍摄的待识别图像；
42.将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，其中，所述目标模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：图像样本和所述图像样本对应的标识信息，所述标识信息包括：图像样本中的至少一个目标物体的位置信息和特征信息。
43.进一步的，所述第二获取模块具体用于：
44.基于openvino工具对目标模型进行转换，得到权重信息和网络拓扑信息；
45.将权重信息、网络拓扑信息和待识别图像加载至openvino工具中，得到待识别图像中的至少一个目标物体的位置信息和特征信息。
46.进一步的，所述第二获取模块具体用于：
47.建立神经网络模型；
48.将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息；
49.根据所述图像样本中的至少一个预测目标物体的位置信息和特征信息和所述图像样本中的至少一个目标物体的位置信息和特征信息形成的目标函数训练所述神经网络模型的参数；
50.返回执行将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息的操作，直至得到目标模型。
51.进一步的，所述第一获取模块具体用于：
52.获取激光雷达采集的待识别点云图像中每个点云到其余点云之间的距离；
53.根据所述待识别点云图像中每个点云到其余点云之间的距离对所述待识别点云图像中的点云进行聚类，得到至少一个点云集合；
54.获取每个点云集合对应的包围盒的位置坐标和参数信息。
55.进一步的，所述第一获取模块具体用于：
56.获取每个点云集合对应的包围盒的位置坐标；
57.根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移；
58.根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度。
59.进一步的，所述融合模块具体用于：
60.若第一目标物体的位置信息和第一包围盒相对于待识别图像的第一位置坐标之
间的距离小于距离阈值，则将所述第一目标物体的特征信息和所述第一包围盒的参数信息进行融合。
61.进一步的，所述融合模块具体用于：
62.获取投影密度和摄像头外参；
63.根据投影密度和摄像头外参对每个包围盒的位置坐标进行投影，得到每个包围盒相对于所述待识别图像的第一位置坐标。
64.根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：
65.至少一个处理器；以及
66.与所述至少一个处理器通信连接的存储器；其中，
67.所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的融合方法。
68.根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的融合方法。
69.根据本发明的另一方面，提供了一种计算机程序产品，所述计算机程序在被处理器执行时实现如本发明实施例中任一所述的融合方法。
70.本发明实施例的技术方案，通过获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息；获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息；将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标；根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合，以解决由于是先借助激光雷达的点云信息来降低图像上的搜索空间，再由搜索的图像数据进行目标跟踪，没有充分发挥激光雷达与图像数据的优势的问题，能够充分发挥激光雷达与图像数据的优势，获得更加丰富的目标物体的相关信息。
71.应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
72.为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
73.图1是根据本发明实施例一提供的一种融合方法的流程图；
74.图2是根据本发明实施例一提供的智能交通系统的示意图；
75.图3是根据本发明实施例一提供的另一种融合方法的流程图；
76.图4是根据本发明实施例二提供的一种融合装置的结构示意图；
77.图5是实现本发明实施例的融合方法的电子设备的结构示意图。
具体实施方式
78.为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
79.需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
80.实施例一
81.图1为本发明实施例一提供了一种融合方法的流程图，本实施例可适用于对激光雷达采集的点云数据和摄像头拍摄的图像融合的情况，该方法可以由融合装置来执行，该融合装置可以采用硬件和/或软件的形式实现，该融合装置可配置于终端设备中。如图1所示，该融合方法包括：
82.s110、获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息。
83.其中，所述点云集合为对激光雷达采集的待识别点云图像中的点云进行聚类后得到的类群。
84.其中，所述包围盒是一个简单的立体空间，里面包含着聚类得到的一群点云，所述包围盒紧紧包围着点云外围轮廓。所述包围盒的形状可以为长方体，也可以为圆形，本发明实施例对此不进行限制。
85.其中，所述包围盒的位置坐标可以为包围盒的中心点坐标，或者可以为包围盒的重心点坐标，需要说明的是，若所述包围盒的位置坐标为包围盒的中心点坐标，则目标物体的位置信息为目标物体的中心点坐标(即目标物体的包围框的中心点坐标)，若所述包围盒的位置坐标为包围盒的重心点坐标，则目标物体的位置信息为目标物体的重心点坐标(即目标物体的包围框的重心点坐标)。
86.其中，所述包围盒的参数信息可以包括包围盒的位移，还可以包括包围盒的速度，本发明实施例对此不进行限制。
87.其中，获取每个点云集合对应的包围盒的位置坐标和参数信息的方式可以为：获取每个点云集合对应的包围盒的位置坐标；根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移，其中，所述目标包围盒为任一包围盒；根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度。例如可以是，对激光雷达采集的第一帧待识别点云图像中的点云进行聚类，得到包围盒a的第一坐标、包围盒b的第一坐标、包围盒c的第一坐标和包围盒d的第一坐标，对激光雷达采集的第二帧待识别点云图像中的点云进行聚类，得到包围盒a的第二坐标、包围盒b的第二坐标、包围盒c的第二
坐标和包围盒d的第二坐标，根据包围盒a的第一坐标和包围盒a的第二坐标确定包围盒a的位移；根据包围盒b的第一坐标和包围盒b的第二坐标确定包围盒b的位移；根据包围盒c的第一坐标和包围盒c的第二坐标确定包围盒c的位移；根据包围盒d的第一坐标和包围盒d的第二坐标确定包围盒d的位移。根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒a的位移确定包围盒a的速度；根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒b的位移确定包围盒b的速度；根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒c的位移确定包围盒c的速度；根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒d的位移确定包围盒d的速度。
88.具体的，获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息的方式可以为：获取激光雷达采集的待识别点云图像；对所述待识别点云图像中的点云进行聚类，得到至少一个点云集合，获取每个点云集合对应的包围盒的位置坐标和参数信息。例如可以是，激光雷达扫描得到一帧点云图像，利用点云与点云之间的三维距离通过聚类算法，把每个点云到其余点云之间的距离小于某一阈值的一群点归聚起来，一帧点云图像可以聚类得到不同的类群。获取每个类群的包围盒的位置坐标和参数信息。
89.s120、获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息。
90.其中，所述目标物体的位置信息可以为长方形目标框的中心点坐标，所述目标物体的特征信息可以为目标物体的类别信息。
91.具体的，获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息的方式可以为：获取摄像头拍摄的待识别图像；将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，其中，所述目标模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：图像样本和所述图像样本对应的标识信息，所述标识信息包括：图像样本中的至少一个目标物体的位置信息和特征信息。获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息的方式还可以为：获取摄像头拍摄的待识别图像；将训练好的目标模型部署在安装openvino工具套件的平台上，目标模型利用openvino工具套件做加速推理。将待识别图像输入目标模型中，得到待识别图像中的至少一个目标物体的位置信息和特征信息。
92.需要说明的是，所述激光雷达和所述摄像头相邻设置，预先调整所述激光雷达和所述摄像头的拍摄范围相同，以便于将包围盒的位置坐标投影至待识别图像中。
93.s130、将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标。
94.具体的，将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标的方式可以为：获取投影密度和摄像头外参；根据投影密度和摄像头外参对每个包围盒的位置坐标进行投影，得到每个包围盒相对于所述待识别图像的第一位置坐标。
95.在一个具体的例子中，根据投影密度和摄像头外参将每个包围盒的中心点坐标投影至待识别图像中，得到每个包围盒相对于待识别图像的第一位置坐标。
96.在另一个具体的例子中，根据投影密度和摄像头外参将每个包围盒的重心点坐标投影至待识别图像中，得到每个包围盒相对于待识别图像的第一位置坐标。
97.s140、根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合。
98.需要说明的是，融合结果包括：目标物体的类别、目标物体的位移、和目标物体的速度等信息，可根据需要显示在2d图像或者3d点云中。把速度、距离等信息附加在视频中的目标物体上，把类别信息附加在点云中目标物体中。
99.具体的，根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合的方式可以为：若第一目标物体的位置信息和第一包围盒相对于待识别图像的第一位置坐标之间的距离小于距离阈值，则将所述第一目标物体的特征信息和所述第一包围盒的参数信息进行融合。
100.具体的，根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合。例如可以是，将激光雷达采集的待识别点云图像中的点云进行聚类，得到至少一个包围盒的中心点坐标，将至少一个包围盒的中心点坐标投影到摄像头拍摄的待识别图像上，计算包围盒的中心点坐标和长方形框的中心点之间的距离。若包围盒的中心点坐标和长方形框的中心点之间的距离小于距离阈值，则确定是同一目标物体，否则，确定为不同的目标物体。若确定为同一目标物体，则将包围盒的参数信息和长方形框的特征信息进行融合。
101.可选的，获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息，包括：
102.获取摄像头拍摄的待识别图像；
103.将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，其中，所述目标模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：图像样本和所述图像样本对应的标识信息，所述标识信息包括：图像样本中的至少一个目标物体的位置信息和特征信息。
104.其中，获取摄像头拍摄的待识别图像的方式可以为：通过摄像头获取视频，由于摄像头获取的视频是时序数据，根据摄像机的物理参数fps(每秒传输帧数，frames per second)把视频转换成一帧一帧的图像，方便深度学习进行推理。把视频转化成的图像后，对转化后的图像做标注，得到待识别图像。
105.其中，所述摄像头的拍摄原理为：摄像头拍摄周围环境时，环境上反射的光被摄像机镜头收集，使其聚焦在摄像器件的受光面上，再通过摄像器件把光能转化成电能，就得到了视频信号。
106.其中，图像样本中的至少一个目标物体的位置信息可以为：将图像样本中的目标物体通过预设形状圈出后，预设行状态的中心的坐标；例如可以是，将图像样本中的每个目标物体通过长方形框圈出，得到每个长方形框的中心点坐标。
107.其中，图像样本中的至少一个目标物体的特征信息可以为：图像样本中的每个目标物体的类别。
108.其中，所述目标模型的训练过程可以为：预先建立神经网络模型；获取目标样本
集，其中，所述目标样本集包括：图像样本、对图像样本进行标注后得到的图像(例如：将图像中的目标物体通过长方形框圈出)以及图像样本中的目标物体的类别；将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息；根据所述图像样本中的至少一个预测目标物体的位置信息和特征信息和所述图像样本中的至少一个目标物体的位置信息和特征信息形成的目标函数训练所述神经网络模型的参数；返回执行将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息的操作，直至得到目标模型。所述目标模型的训练过程还可以为：基于yolov5算法训练神经网络模型，得到目标模型。
109.在一个具体的例子中，获取摄像头采集的视频，将视频转化成图片，然后用openvino工具套件加速目标模型的推理，检测得到图片上目标物体的类别，二维包围长方形框，以及长方形框的中心位置。
110.可选的，将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，包括：
111.基于openvino工具对目标模型进行转换，得到权重信息和网络拓扑信息；
112.将权重信息、网络拓扑信息和待识别图像加载至openvino工具中，得到待识别图像中的至少一个目标物体的位置信息和特征信息。
113.其中，所述openvino工具主要包括两部分，一个是模型优化器，另外一个是推理引擎。openvino工具的工作原理是对训练产生的网络模型进行优化，优化结果转换成中间表示文件，得到ir文件(xml文件和bin文件)。xml文件中包含优化以后的网络拓扑结构，bin文件优化之后的模型参数和模型变量。
114.具体的，把训练好的目标模型部署在安装openvino工具套件的平台上，目标模型利用openvino工具套件做加速推理。将权重信息、网络拓扑信息和待识别图像加载至openvino工具中，得到待识别图像中的至少一个目标物体的位置信息和特征信息。
115.通过将训练好的目标模型部署在安装openvino工具套件的平台上，能够提升目标模型的识别效率，更快速的输出识别结果。
116.可选的，通过目标样本集迭代训练神经网络模型，包括：
117.建立神经网络模型；
118.将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息；
119.根据所述图像样本中的至少一个预测目标物体的位置信息和特征信息和所述图像样本中的至少一个目标物体的位置信息和特征信息形成的目标函数训练所述神经网络模型的参数；
120.返回执行将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息的操作，直至得到目标模型。
121.其中，所述目标样本集包括：图像样本、对图像样本进行标注后得到的图像以及图像样本中的目标物体的类别。
122.其中，所述预测目标物体的位置信息可以为预测长方形框的中心点坐标。
123.其中，所述预测目标物体的特征信息可以为预测目标物体的类别。
124.可选的，获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息，包括：
125.获取激光雷达采集的待识别点云图像中每个点云到其余点云之间的距离；
126.根据所述待识别点云图像中每个点云到其余点云之间的距离对所述待识别点云图像中的点云进行聚类，得到至少一个点云集合；
127.获取每个点云集合对应的包围盒的位置坐标和参数信息。
128.其中，所述激光雷达用于扫描道路上的障碍物，获取点云信息，与摄像头形成互补。它主动向待测空间区域发射激光光束，并接收反射回来的信号并将其与发射信号进行比较生成3d点云信息，经过进一步的处理，可获得目标物体的距离、方位、速度、3d尺寸及类别等精确信息。
129.需要说明的是，激光雷达发射激光束，扫描获取周围环境的点云信息。根据tof(飞行时间，time of flight)测量方法计算得到激光雷达光学中心到目标物体上激光反射点的距离，根据视场角、角度分辨变率计算出该点相对于光学中心的位置。光学中心为gps位置，输出的激光雷达点云位置为经纬度值。将采集到的点云数据中的地面点云分割掉，将地面分割后的点云进行pcl聚类，一帧点云聚类得到不同的类群，然后得到不同的包围盒，依次标上序号，计算包围盒的中心位置。
130.其中，获取激光雷达采集的待识别点云图像中每个点云到其余点云之间的距离的方式可以为：获取激光雷达采集的待识别点云图像中的点云，将待识别点云图像中的点云里面地面点云分割掉，避免地面点云对算法的精度造成影响。然后将地面点云分割后的点云进行pcl聚类，一帧点云聚类得到不同的类群，然后得到不同的包围盒，依次标上序号，计算包围盒的中心点坐标。
131.具体的，获取每个点云集合对应的包围盒的位置坐标和参数信息的方式可以为：获取每个点云集合对应的包围盒的位置坐标；根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移，其中，所述目标包围盒为任一包围盒；根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度。例如可以是，对激光雷达采集的第一帧待识别点云图像中的点云进行聚类，得到包围盒a的第一坐标、包围盒b的第一坐标、包围盒c的第一坐标和包围盒d的第一坐标，对激光雷达采集的第二帧待识别点云图像中的点云进行聚类，得到包围盒a的第二坐标、包围盒b的第二坐标、包围盒c的第二坐标和包围盒d的第二坐标，根据包围盒a的第一坐标和包围盒a的第二坐标确定包围盒a的位移；根据包围盒b的第一坐标和包围盒b的第二坐标确定包围盒b的位移；根据包围盒c的第一坐标和包围盒c的第二坐标确定包围盒c的位移；根据包围盒d的第一坐标和包围盒d的第二坐标确定包围盒d的位移。根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒a的位移确定包围盒a的速度；根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒b的位移确定包围盒b的速度；根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒c的位移确定包围盒c的速度；根据第一帧待识别点云图像和第二帧待识别点云图像之间的时间间隔和包围盒d的位移确定包围盒d的速度。
132.可选的，获取每个点云集合对应的包围盒的位置坐标和参数信息，包括：
133.获取每个点云集合对应的包围盒的位置坐标；
134.根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移；
135.根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度。
136.其中，获取每个点云集合对应的包围盒的位置坐标的方式可以为：获取每个点云集合对应的包围盒的中心点坐标。
137.其中，所述目标包围盒可以为从多个包围盒中选取的任一包围盒，例如可以是，若存在包围盒a、包围盒b和包围盒c，选取包围盒a为目标包围盒。相应的，根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移的方式可以为：根据包围盒a在第n-1帧点云图像中的位置坐标和包围盒a在第n帧点云图像中的位置坐标确定包围盒a的位移。
138.其中，根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移的方式可以为：获取目标包围盒在第n-1帧点云图像中的位置坐标和在第n帧点云图像中的位置坐标之间的差值确定所述目标包围盒的位移。其中，n为大于2的正整数。
139.其中，根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度的方式可以为：获取目标包围盒在第n-1帧点云图像中的位置坐标，目标包围盒在第n帧点云图像中的位置坐标，第n-1帧点云图像和第n帧点云图像之间的时间间隔；根据目标包围盒在第n-1帧点云图像中的位置坐标，目标包围盒在第n帧点云图像中的位置坐标，以及第n-1帧点云图像和第n帧点云图像之间的时间间隔确定所述目标包围盒的速度。
140.可选的，根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合，包括：
141.若第一目标物体的位置信息和第一包围盒相对于待识别图像的第一位置坐标之间的距离小于距离阈值，则将所述第一目标物体的特征信息和所述第一包围盒的参数信息进行融合。
142.其中，所述第一目标物体为任一目标物体，所述第一包围盒为任一包围盒，本发明实施例对此不进行限制。
143.其中，所述第一目标物体的位置信息为所述待识别图像中第一目标物体对应的长方形框的中心点坐标。
144.具体的，若第一目标物体的位置信息和第一包围盒相对于待识别图像的第一位置坐标之间的距离小于距离阈值，则将所述第一目标物体的特征信息和所述第一包围盒的参数信息进行融合。例如可以是，若目标物体a的位置信息和包围盒t相对于待识别图像的位置坐标之间的距离小于距离阈值，则将目标物体a的特征信息和包围盒t的参数信息进行融合。
145.在一个具体的例子中，若待识别图像中目标物体a对应的长方形框的中心点坐标和包围盒t相对于待识别图像的位置坐标之间的距离小于距离阈值，则将目标物体a的特征信息和包围盒t的参数信息进行融合。
146.可选的，将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标，包括：
147.获取投影密度和摄像头外参；
148.根据投影密度和摄像头外参对每个包围盒的位置坐标进行投影，得到每个包围盒相对于所述待识别图像的第一位置坐标。
149.其中，所述投影密度为像素实际距离比例，也就是图像上一个像素代表的实际距离。
150.其中，摄像头属于被动触发式传感器，被摄路况上的目标反射光线，传播到镜头，然后获取路况上的图像信息，图像经过预处理后，作为感知算法的输入。基于对其所采集的图像和视频的分析，能够获得丰富的色彩、纹理和语义信息，实现精细化的交通目标的分类。
151.在一个具体的例子中，根据投影密度和摄像头外参把一帧三维点云的前视图投影成二维图片，该二维图片与摄像机获取的图片长宽一致。
152.本发明实施例可以利用cpu做图片加速推理，从而实现加速激光雷达和摄像机的感知融合，进一步利用igpu做更快的加速，摆脱了使用平台硬件显卡设备的局限性，提高了激光雷达和摄像机的感知融合的使用范围。
153.在一个具体的例子中，如图2所示，图2为智能交通系统，所述智能交通系统包括：激光雷达、毫米波雷达、摄像头、rsb路测设备、mec路测边缘设备、mec网络边缘设备以及云平台，其中，摄像头：属于被动触发式传感器，被摄路况上的目标反射光线，传播到镜头，然后获取路况上的图像信息，图像经过预处理后，作为感知算法的输入。基于对其所采集的图像和视频的分析，能够获得丰富的色彩、纹理和语义信息，实现精细化的交通目标的分类。毫米波雷达：通过发射无线电波，然后接收反射回来的电波，通过电磁波返回的飞行时间计算目标的相对距离；根据多普勒原理，当发射的无线电波和被探测目标有相对移动、回波的频率会和发射波的频率不同，通过检测频率差计算目标的相对速度。激光雷达：扫描道路上的障碍物，获取点云信息，与摄像头形成互补。它主动向待测空间区域发射激光光束，并接收反射回来的信号并将其与发射信号进行比较生成3d点云信息，经过进一步的处理，可获得目标物体的距离、方位、速度、3d尺寸及类别等精确信息。rsu路侧设备：车联网部署在路侧的通信单元。rsu通过有线网络接收mec处理过的各种信息，并将其通过广播通知到obu，协助自动驾驶。同时，通过接口接收obu的消息数据进行初步分析处理后上报给mec，或者通过上报给车辆网云控平台。mec路测边缘设备：部署有openvino工具套件和深度学习yolov5算法和pcl、opencv库的智能计算平台，输入传感器获得的结果数据，输出处理结果，传输给rsu路侧单元或者mec网络边缘设备。
154.在另一个具体的例子中，如图3所示，通过激光雷达扫描得到一帧点云图像，利用点云与点云之间的三维距离通过聚类算法处理，把点云间距离小于某一阈值的一群点聚类起来，一帧点云可以聚类得到不同的类群。每个类群对应一个包围盒，包围盒是一个简单的立体空间，里面包含着聚类得到的一群点云，本发明实施例以长方体作为包围盒，紧紧包围着点云外围轮廓。计算长方体包围盒的中心点坐标，并把当前帧不同的包围盒依次标号，作为跟踪区别的标志。按照一定的像素实际距离比例，即投影密度(m/pixel)，也就是图像上一个像素代表实际多少米，把一帧三维点云的前视图投影成二维图片，该二维图片与摄像机获取的图片长宽一致。根据前一帧与后一帧同一长方体包围盒中心点坐标的变化，计算出长方体包围盒的位移；再通过两帧之间的时间间隔计算出长方体包围盒的速度。通过摄像头获取视频，由于视频是时序数据，根据摄像机的物理参数fps把视频转换成一帧一帧的
图像，方便深度学习进行推理。对转化后的图像进行标注，然后用yolov5算法进行模型训练，得到目标模型，把目标模型部署在安装openvino工具套件的平台上，目标模型利用openvino工具套件做加速推理。将待识别图像输入目标模型中得到待识别图像中目标物体的位置信息以及类别等信息，根据位置信息把用长方形目标框住。计算待识别图像中目标长方形框的中心点坐标。把激光雷达点云聚类得到的包围盒的中心点坐标投影到待识别图像上，获取包围盒中心点坐标和长方形框的中心点坐标之间的距离。如果距离在预设阈值范围内，则是同一目标，否则不是同一目标。确定激光雷达和摄像头检测到的目标为同一目标，并将该两种传感器获取的信息进行目标级的融合。融合的结果包括目标的类别、位置距离和速度等信息，可根据需要显示在2d图像或者3d点云中。把速度、距离等信息附加在视频中的目标上，把类别信息附加在点云中目标中。
155.需要说明的是，现有技术中对激光雷达测得的点云信息仅仅是用于降低图像的搜索空间，并未充分利用该点云信息，没有充分发挥激光雷达与图像数据的优势，并且由于是先借助激光雷达的点云信息来降低图像上的搜索空间，再由搜索的图像数据进行目标跟踪，因此，当激光雷达或者图像采集中任意一个传感器失效时，整个检测系统均无法工作，系统稳定可靠性不高，本发明实施例能够在一个传感器失效的情况下，还可以根据另一个传感器采集的数据得到目标物体的相关信息，有效的解决现有技术存在的问题。
156.本发明实施例通过获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息；获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息；根据每个包围盒的位置坐标和每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合，以解决由于是先借助激光雷达的点云信息来降低图像上的搜索空间，再由搜索的图像数据进行目标跟踪，则当激光雷达或图像采集中任意一个传感器失效时，整个检测系统均无法工作，系统的稳定可靠性不高的问题，能够充分发挥激光雷达与图像数据的优势，获得更加丰富的目标物体的相关信息。
157.实施例二
158.图4为本发明实施例二提供的一种融合装置的结构示意图。如图4所示，该装置包括：第一获取模块210、第二获取模块220、投影模块230和融合模块240；
159.其中，第一获取模块，用于获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息；
160.第二获取模块，用于获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息；
161.投影模块，用于将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标；
162.融合模块，用于根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合。可选的，所述第二获取模块具体用于：
163.获取摄像头拍摄的待识别图像；
164.将所述待识别图像输入目标模型，得到所述待识别图像中的至少一个目标物体的位置信息和特征信息，其中，所述目标模型通过目标样本集迭代训练神经网络模型得到，所
述目标样本集包括：图像样本和所述图像样本对应的标识信息，所述标识信息包括：图像样本中的至少一个目标物体的位置信息和特征信息。
165.可选的，所述第二获取模块具体用于：
166.基于openvino工具对目标模型进行转换，得到权重信息和网络拓扑信息；
167.将权重信息、网络拓扑信息和待识别图像加载至openvino工具中，得到待识别图像中的至少一个目标物体的位置信息和特征信息。
168.可选的，所述第二获取模块具体用于：
169.建立神经网络模型；
170.将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息；
171.根据所述图像样本中的至少一个预测目标物体的位置信息和特征信息和所述图像样本中的至少一个目标物体的位置信息和特征信息形成的目标函数训练所述神经网络模型的参数；
172.返回执行将所述目标样本集中的图像样本输入所述神经网络模型得到所述图像样本中的至少一个预测目标物体的位置信息和特征信息的操作，直至得到目标模型。
173.可选的，所述第一获取模块具体用于：
174.获取激光雷达采集的待识别点云图像中每个点云到其余点云之间的距离；
175.根据所述待识别点云图像中每个点云到其余点云之间的距离对所述待识别点云图像中的点云进行聚类，得到至少一个点云集合；
176.获取每个点云集合对应的包围盒的位置坐标和参数信息。
177.可选的，所述第一获取模块具体用于：
178.获取每个点云集合对应的包围盒的位置坐标；
179.根据目标包围盒在相邻帧点云图像中的位置坐标确定所述目标包围盒的位移；
180.根据所述目标包围盒的位移和所述相邻帧之间的时间间隔确定所述目标包围盒的速度。
181.可选的，所述融合模块具体用于：
182.若第一目标物体的位置信息和第一包围盒相对于待识别图像的第一位置坐标之间的距离小于距离阈值，则将所述第一目标物体的特征信息和所述第一包围盒的参数信息进行融合。
183.可选的，所述融合模块具体用于：
184.获取投影密度和摄像头外参；
185.根据投影密度和摄像头外参对每个包围盒的位置坐标进行投影，得到每个包围盒相对于所述待识别图像的第一位置坐标。
186.本发明实施例所提供的融合装置可执行本发明任意实施例所提供的融合方法，具备执行方法相应的功能模块和有益效果。
187.实施例三
188.图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形
式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
189.如图5所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(rom)12、随机访问存储器(ram)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(rom)12中的计算机程序或者从存储单元18加载到随机访问存储器(ram)13中的计算机程序，来执行各种适当的动作和处理。在ram 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、rom 12以及ram 13通过总线14彼此相连。输入/输出(i/o)接口15也连接至总线14。
190.电子设备10中的多个部件连接至i/o接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
191.处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如融合方法：
192.获取激光雷达采集的待识别点云图像中至少一个点云集合对应的包围盒的位置坐标和参数信息；
193.获取摄像头拍摄的待识别图像中的至少一个目标物体的位置信息和特征信息；
194.将每个包围盒的位置坐标投影至所述待识别图像中，得到每个包围盒相对于所述待识别图像的第一位置坐标；
195.根据所述每个包围盒相对于待识别图像的第一位置坐标和所述每个目标物体的位置信息将目标物体的特征信息和所述目标物体对应的包围盒的参数信息进行融合。
196.在一些实施例中，融合方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由rom 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到ram 13并由处理器11执行时，可以执行上文描述的融合方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行融合方法。
197.本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
198.用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合
来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
199.在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
200.为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
201.可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(lan)、广域网(wan)、区块链网络和互联网。
202.计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务中，存在的管理难度大，业务扩展性弱的缺陷。
203.应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
204.上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。