一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种地图构建的方法及装置与流程

2022-04-30 12:21:07 来源:中国专利 TAG:


1.本说明书涉及无人驾驶技术领域,尤其涉及一种地图构建的方法及装置。


背景技术:

2.无人驾驶设备实现自动驾驶时,需要基于预设的自动驾驶地图来实现自动驾驶的感知、定位、规划、决策等技术。因此,自动驾驶地图的构建和维护是无人驾驶技术领域中的重要发展方向之一。
3.现有技术中,自动驾驶地图可以基于行车记录仪采集的图像数据来构建。在构建自动驾驶地图时,需要将行车记录仪采集的图像数据输入到训练后的三维重建模型中,得到采集设备在采集相邻两帧图像数据时的相对位姿,同时将行车记录仪采集的图像数据输入到深度预测网络中,预测每帧图像数据中每像素点对应的深度值,而后,即可基于采集设备在采集相邻两帧图像数据时的相对位姿以及预测出的每帧图像数据中每像素点对应的深度值,进行三维稠密建模得到行车记录仪采集的图像数据所覆盖的道路的三维点云数据,以根据得到的三维点云数据,来构建自动驾驶地图。
4.实际场景中,采集设备行驶速度较慢时,在行车记录仪采集的相邻两帧图像数据采集时采集设备的位姿变化不明显,直接基于这样的图像数据进行三维重建时,将难以准确地拟和出采集设备在采集的相邻两帧图像数据采集时的相对位姿,这样将导致实际构建而成的地图的精度比较低。若按照设定的时间间隔从行车记录仪采集的图像数据抽取出图像数据来构建地图,则在采集设备行驶速度较快时,会出现抽取出的相邻两帧图像数据中共视区域较小的情况,这样,将无法提取出足够的特征点,来确定采集设备在采集该相邻两帧图像数据时的相对位姿,同样会导致实际构建而成的地图的精度比较低。
5.基于此,如何从采集的图像数据中,筛选用于构建地图的图像数据,以保证实际构建而成的地图的精度是亟待解决的问题。


技术实现要素:

6.本说明书提供一种地图构建的方法及装置,以部分的解决现有技术存在的上述问题。
7.本说明书采用下述技术方案:
8.本说明书提供了一种地图构建的方法,包括:
9.获取指定设备在行驶过程中采集的图像数据,并根据每个图像数据对应的采集时序,构建图像序列;
10.针对所述图像序列中的每一帧图像数据,将该帧图像数据作为候选构图图像,并确定与该帧图像数据之间的采集间隔位于设定间隔范围内的图像数据,作为参考图像;
11.根据所述参考图像以及所述候选构图图像,确定所述指定设备在采集所述参考图像以及所述候选构图图像时的位姿变化参数,所述位姿变化参数包括:所述指定设备采集所述参考图像时所处的位置与采集所述候选构图图像时所处位置之间的距离,以及所述指
定设备在采集所述参考图像以及所述候选构图图像时的转向角变化值中的至少一种;
12.若确定所述位姿变化参数落入到确定出的位姿变化参数范围内,将所述候选构图图像添加到构图图像集中;
13.根据所述构图图像集中包含的图像数据,进行地图构建。
14.可选地,针对所述图像序列中的每一帧图像数据,将该帧图像数据作为候选构图图像,具体包括:
15.针对所述图像序列中的每一帧图像数据,确定该帧图像数据对应的图像质量参数,所述图像质量参数包括:所述指定设备采集该帧图像数据时的快门时间、该帧图像数据中包含的动态物体对应的图像在该帧图像数据中的比重以及该帧图像数据对应的光照信息中的至少一种;
16.若确定所述图像质量参数满足预设质量参数条件,将该帧图像数据作为所述候选构图图像。
17.可选地,针对所述图像序列中的每一帧图像数据,将该帧图像数据作为候选构图图像,并确定与该帧图像数据之间的采集间隔位于设定间隔范围内的图像数据,作为参考图像,具体包括:
18.确定采集时序位于该帧图像数据之前,且与该帧图像数据之间的采集间隔位于设定间隔范围内的其他图像,所述其他图像包括:位于所述图像序列中除该帧图像数据以外的图像数据,以及位于所述图像序列以外的图像数据中的至少一种;
19.若确定该帧图像数据与所述其他图像之间的图像重合度位于设定重合度范围内,将该帧图像数据作为所述候选构图图像,并将所述其他图像,作为所述参考图像。
20.可选地,所述位姿变化参数范围包括:距离参数范围以及转向角参数范围;
21.确定所述位姿变化参数落入到确定出的位姿变化参数范围内,具体包括:
22.若确定所述指定设备采集所述参考图像时所处的位置与采集该帧图像数据时所处位置之间的距离落入到所述距离参数范围内,和/或所述指定设备在采集所述参考图像以及该帧图像数据时的转向角变化值落入到所述转向角参数范围内,确定所述位姿变化参数落入到确定出的位姿变化参数范围内。
23.可选地,确定位姿变化参数范围,具体包括:
24.确定模型输入参数,所述模型输入参数包括:所述指定设备采集图像时所基于的采集设备的设备信息,以及所述指定设备采集的图像数据中的至少一种;
25.将所述模型输入参数输入到预先训练的参数预估模型中,确定所述位姿变化参数范围。
26.可选地,训练参数预估模型,具体包括:
27.获取训练样本,所述训练样本包括样本输入参数;
28.将所述样本输入参数输入到所述参数预估模型中,得到预估位姿变化参数范围;
29.根据所述预估位姿变化参数范围,从各样本图像中筛选出用于构建地图的图像,作为样本目标图像;
30.根据所述样本目标图像进行地图构建,得到预估地图;
31.确定所述预估地图与实际地图之间偏差,作为地图偏差,并根据所述地图偏差,确定所述预估位姿变化参数对应的参数偏差;
32.以最小化所述参数偏差为优化目标,对所述参数预估模型进行训练。
33.可选地,根据所述构图图像集中包含的图像数据,进行地图构建,具体包括:
34.根据所述构图图像集中包含的图像数据,进行地图构建,得到参照地图;
35.将所述参照地图与已使用地图进行比对,得到比对结果;
36.若根据所述比对结果,确定所述参照地图对应的路段内的道路信息发生变化,根据所述参照地图,对所述已使用地图进行重新构建。
37.本说明书提供了一种地图构建的装置,包括:
38.数据获取模块,用于获取指定设备在行驶过程中采集的图像数据,并根据每个图像数据对应的采集时序,构建图像序列;
39.参考图像确定模块,用于针对所述图像序列中的每一帧图像数据,将该帧图像数据作为候选构图图像,并确定与该帧图像数据之间的采集间隔位于设定间隔范围内的图像数据,作为参考图像;
40.位姿变化参数确定模块,用于根据所述参考图像以及所述候选构图图像,确定所述指定设备在采集所述参考图像以及所述候选构图图像时的位姿变化参数,所述位姿变化参数包括:所述指定设备采集所述参考图像时所处的位置与采集所述候选构图图像时所处位置之间的距离,以及所述指定设备在采集所述参考图像以及所述候选构图图像时的转向角变化值中的至少一种;
41.构图图像选取模块,用于若确定所述位姿变化参数落入到确定出的位姿变化参数范围内,将所述候选构图图像添加到构图图像集中;
42.地图构建模块,用于根据所述构图图像集中包含的图像数据,进行地图构建。
43.本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述地图构建的方法。
44.本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述地图构建的方法。
45.本说明书采用的上述至少一个技术方案能够达到以下有益效果:
46.在本说明书提供的地图构建的方法中,获取指定设备在行驶过程中采集的图像数据,并根据每个图像数据对应的采集时序,构建图像序列,而后,针对该图像序列中的每一帧图像数据,将该帧图像数据作为候选构图图像,并确定与该帧图像数据之间的采集间隔位于设定间隔范围内的图像数据,作为参考图像,接着根据该参考图像以及该候选构图图像,确定指定设备在采集该参考图像以及该候选构图图像时的位姿变化参数,接着,若确定位姿变化参数落入到确定出的位姿变化参数范围内,将该候选构图图像添加到构图图像集中,最后,根据构图图像集中包含的图像数据,进行地图构建。其中,该位姿变化参数包括:指定设备采集参考图像时所处的位置与采集候选构图图像时所处位置之间的距离,以及指定设备在采集参考图像以及候选构图图像时的转向角变化值中的至少一种。
47.从上述方法中可以看出,本方法将根据确定出的位姿变化参数,获取到的图像数据进行筛选,从中确定出位姿变化参数满足条件的图像,再根据筛选书的图像数据来进行地图构建。由于该位姿变化参数,能够反映出采集设备在采集不同帧图像时位姿变化的程度,因此通过合理设置位姿变化参数所需满足的条件,将可以从采集到的图像数据中,抽取出位姿变化参数满足预设条件的图像,并根据抽取出的图像构建地图,以提升构建出的地
图的精度。
附图说明
48.此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
49.图1为本说明书中一种地图构建的方法的流程示意图;
50.图2为本说明书筛选构图图像的示意图;
51.图3为本说明书中确定位姿变化参数范围的模型的训练过程的示意图;
52.图4为本说明书筛选构图图像的流程示意图;
53.图5为本说明书提供的一种地图构建的装置的示意图;
54.图6为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
55.为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书保护的范围。
56.目前,携带有全球导航卫星系统(global navigation satellite system,gnss)的行车记录仪已经大量配置在承运车辆上了,该行车记录仪在采集图像数据的同时还将获取到承运车辆的定位信息,如此,行车记录仪所采集的图像数据可以作为用于构建高精地图的图像数据。这样,基于行车记录仪所采集的图像数据来构建自动驾驶地图时,由于不用采用专用的传感器来采集用户构建地图的数据,因而可以大大地降低地图构建的硬件成本。
57.在根据图像数据构建地图时,需要预测出每相邻两帧图像采集时摄像头所对应的相对位姿,以及采集到的每帧图像中各像素点所对应的深度值,再基于预测出的每相邻两帧图像采集时摄像头所对应的相对位姿,以及采集到的每帧图像中各像素点所对应的深度值,进行三维建模,得到图像数据所覆盖的区域的数字正射影像图(digital orthophoto map,dom)。
58.在预测出每相邻两帧图像采集时摄像头所对应的相对位姿时,需要从两帧图像中分别提取特征点,并进行特征点匹配,得到该相邻两帧图像中相匹配的目标特征点,而后,基于目标特征点所对应的空间位置点为同一空间位置点,来预测采集设备从采集前一帧图像所在位置处行驶到采集后一帧图像所在位置处之间的相对位姿。这样,当摄像头实际采集到相邻两帧图像时的相对位姿变化较小时,所采集的图像数据中各特征点的图像坐标变化较小,难以准确地确定出摄像头实际采集到相邻两帧图像时的相对位姿,导致出现实际构建而成的地图的精度比较低的情况。
59.为解决这一问题,本说明书中提供一种目标特征点的方法,该方法具体实施时,获取到用于构建地图的图像数据后,将根据确定出的位姿变化参数,对该图像数据进行筛选,从中确定出位姿变化参数满足条件的图像,再根据筛选书的图像数据来进行地图构建。其
中,位姿变化参数,能够反映出采集设备在采集不同帧图像时位姿变化的程度,这样,通过合理设置位姿变化参数所需满足的条件,将可以从采集到的图像数据中,抽取出位姿变化参数满足预设条件的图像,并根据抽取出的图像构建地图,以提升构建出的地图的精度。
60.下面将结合实施例详细阐述本说明书中提供的地图构建方案。
61.图1为本说明书中一种地图构建的方法的流程示意图,具体包括以下步骤:
62.步骤s100,获取指定设备在行驶过程中采集的图像数据,并根据每个图像数据对应的采集时序,构建图像序列。
63.本说明书中提供的地图构建的方法,用于构建上述辅助自动驾驶设备实现自动驾驶的高精地图。其中,该高精度地图中包含有精确的地理位置信息和丰富的道路元素语义信息,可以帮助自动驾驶车辆预知路面复杂信息,如坡度、曲率、航向等,更好的规避潜在的风险,是实现自动驾驶的关键技术之一。
64.在构建地图时,终端设备首先获取用于构建地图的图像数据。具体的,终端设备获取指定设备在行驶过程中采集的图像数据,并根据每个图像数据对应的采集时序,构建图像序列。而后,终端设备将基于构建出的图像序列,来构建地图。
65.上述指定设备可以是指任意安装有具有gnss功能的行车记录仪的设备,如,承运设备(货运汽车、客运汽车)、小轿车、无人车、专用的采集设备等能够在道路上行驶的设备。该指定设备可以是一个指定设备,也可以是多个指定设备,当只有一个指定设备时。
66.上述指定设备在行驶过程中采集的图像数据,可以是上述行车记录仪在行驶过程中所采集的图像数据。该行车记录仪在采集图像数据的同时,还将基于gnss功能得到指定设备的定位信息。
67.需要说明的是,本说明书中提供的地图构建的方法的执行主体既可以是上文中提及的终端设备,也可以是为无人驾驶设备的自动驾驶提供业务支持的服务器。下面为了便于描述,将仅以执行主体为终端设备为例进行举例说明。
68.还需要说明的是,本说明书中所构建的地图可以服务于无人驾驶设备实现自动驾驶。无人驾驶设备可以是指无人车、机器人、自动配送设备等能够实现自动驾驶的设备。基于此,配置有应用本说明书提供的无人驾驶设备可以用于执行配送领域的配送任务,如,使用无人驾驶设备进行快递、物流、外卖等配送的业务场景。
69.步骤s102,针对所述图像序列中的每一帧图像,将该帧图像数据作为候选构图图像,并确定与该帧图像数据之间的采集间隔位于设定间隔范围内的图像数据,作为参考图像数据。
70.具体实施中,终端设备在确定候选构图图像时,将预先对构建出的图像序列中的每一帧图像数据进行质量检测,而后仅将通过质量检测的图像数据,作为能够用于构建地图的候选构图图像。
71.具体的,终端设备将针对图像序列中的每一帧图像,确定该帧图像数据对应的图像质量参数,而后,判断该图像质量参数是否满足预设质量参数条件,若满足,则将该帧图像数据,作为能够用于构建地图的候选构图图像。若不满足,则舍弃该图像数据。
72.其中,上述图像质量参数可以包括:指定设备采集该帧图像数据时的快门时间、该帧图像数据中包含的动态物体对应的图像在该帧图像数据中的比重以及该帧图像数据对应的光照信息中的至少一种。
73.具体的,指定设备采集图像数据时,若摄像头的快门时间过短,射入镜头的光线比较少,则采集到的图像数据的色彩将整体上呈现出比较暗的情况,若摄像头的快门时间过长,射入镜头的光线比较少,则采集到的图像数据的色彩将整体上呈现出比较亮的情况。当图像数据出现过亮或过暗的情况时,图像的对比度将极大下降,进而出现图像不清晰的情况,基于这样的图像数据预测相对位姿时,可能会出现相对位姿预测不准确的情况。因此,本说明书中将指定设备采集该帧图像数据时的快门时间作为衡量图像数据的图像质量中一项影响因素,这样,当确定指定设备采集该帧图像数据时的快门时间落在设定的时长范围内时,才将该图像数据选取出来,作为能够用于构建地图的候选构图图像。
74.另外,本说明书中所构建的地图主要用于记录各道路上的道路元素的语义信息,当采集到的图像数据中包含有大量的动态物体时,这些动态物体将会将道路上的道路元素遮挡住,进而影响道路元素的识别提取。基于此,本说明书中,还将对采集到的图像数据中所包含的到动态物体进行检测,筛选出包含动态物体比较少或者不包含动态物体的图像数据,来构建地图。基于此,本说明书中将指定设备采集该帧图像数据时的快门时间作为衡量图像数据的图像质量中一项影响因素,当确定出图像数据中包含的动态物体对应的图像在该帧图像数据中的比重达到设定阈值时,将舍弃掉该图像数据。
75.此外,当外界环境光照强烈时,可能存在强反射光射入镜头,此时,采集设备所采集的图像数据中可以包含有过度曝光的光斑,由于光斑处没有对应的有效图像信息,因此,该帧图像数据中图像信息不完整,会影响道路元素的识别提取。基于此,本说明书中将图像数据对应的光照信息,作为衡量图像数据的图像质量中一项影响因素。当确定出图像数据中的光斑在该帧图像数据中的比重达到设定阈值时,将舍弃掉该图像数据。
76.实际业务中,在预测相对位姿时,是基于相邻两帧图像中的共视区域内的图像数据进行的,因此,上述图像数据中包含的动态物体对应的图像在该帧图像数据中的比重,可以指共视区域中包含的动态物体对应的图像在共视区域中的比重。同时,上述图像数据中的光斑在该帧图像数据中的比重,可以是指位于共视区域的光斑在共视区域中的比重。
77.本说明书中,在筛选出图像质量参数满足预设质量参数条件的图像数据后,可以将筛选出的每一帧图像数据,作为候选构图图像,并确定该候选构图图像对应的参考图像,以根据指定设备在采集该参考图像以及该候选构图图像时的位姿变化参数,确定是否将该候选构图图像添加到构图图像集中,来构建地图。
78.具体实施中,终端设备针对构建出的图像序列中的每一帧图像,在确定采集时序位于该帧图像数据之前,且与该帧图像数据之间的采集间隔位于设定间隔范围内的其他图像,而后,确定该帧图像数据与其他图像之间的图像重合度是否位于设定重合度范围内,若是,将该帧图像数据作为候选构图图像,并将其他图像,作为所述参考图像。若不是,则舍弃该帧图像。
79.其中,在构建出的图像序列中,若前往后查找用于构建地图的图像数据,则若该帧图像数据为位于图像序列的前端(即,图像序列中采集时间较早的图像数据),则针对该图像数据确定出的其他图像,可以包括位于图像序列中除该帧图像数据以外的图像数据,以及位于图像序列之前的图像数据中。若后往前查找用于构建地图的图像数据,则若该帧图像数据为位于图像序列的后端(即,图像序列中采集时间较早的图像数据),则针对该图像数据确定出的其他图像,可以包括位于图像序列中除该帧图像数据以外的图像数据,以及
位于图像序列之后的图像数据中。
80.具体实施中,参见图2,终端设备按照采集时间顺序筛选构成构图图像集的图像数据时,当t时刻采集的图像数据已经被筛选出作为构图图像,则可以可对从图像序列中,按照采集时间的先后顺序,确定出位于t时刻采集的图像数据之后的一帧图像数据(如t 1时刻采集的图像数据),判断该图像数据的图像质量参数是否满足图像质量要求,若满足,确定指定设备采集t 1时刻的图像数据时所在的位置,与采集t时刻的图像数据时所在的位置之间的距离,以及指定设备采集t 1时刻的图像数据以及采集t时刻的图像数据时的转向角变化值,并判断该距离是否落入设定距离参数范围内,或者该转向角变化值是否落入设定转向角参数范围内,若是,则将t 1时刻的图像数据,作为用于构建地图的图像数据,并存入构图图像集,反之,则舍弃该t 1时刻的图像数据,并继续获取t 2时刻采集的图像数据,并记录判断该t 2时刻采集的图像数据,是否满足上述要求,若是,则将t 2时刻的图像数据,作为用于构建地图的图像数据,并存入构图图像集,反之,则舍弃该t 2时刻的图像数据,并继续获取下一采集时刻采集的图像数据,直至确定出满足上述要求图像数据。而后,以确定出的满足上述要求图像数据为基准,继续针对位于该图像数据之后的每一帧图像数据,判断该图像数据是否满足上述要求,如此循环往复,直至无法从所述图像数据中抽取出新的图像为止。
81.在得到各候选构图图像以及各候选构图图像对应的参考图像后,终端设备将针对每个候选构图图像,根据该候选构图图像以及该候选构图图像对应的参考图像,判断是否将该候选构图图像,添加到构图图像集中,以根据构图图像集中包含的图像数据构建地图。
82.步骤s104,根据所述参考图像数据以及所述候选构图图像,确定所述指定设备在采集所述参考图像以及所述候选构图图像时的位姿变化参数,所述位姿变换参数包括:所述指定设备采集所述参考图像时所处的位置与所述候选构图图像时所处的位置之间的距离,以及所述指定设备在采集所述参考图像以及所述候选构图图像时的转向角变化值中的至少一种。
83.步骤s106,若确定所述位姿变化参数落入到所述确定出的位姿变化参数范围内,将所述候选构图图像添加到构图图像集中。
84.上述位姿变换参数用于衡量指定设备在采集参考图像以及候选构图图像时的自身的位姿变化程度,其中,衡量指定设备的位姿变化程度的参数至少有两种,如,指定设备采集参考图像时所处的位置与候选构图图像时所处的位置之间的距离,该距离越远,指定设备的位姿变化程度越大。再如,指定设备在采集参考图像以及候选构图图像时的转向角变化值,该转向角变化值越大,指定设备的位姿变化程度越大。
85.相应地,针对每种位姿变换参数,该位姿变换参数将存在对应的位姿变换参数范围,当确定存在至少一种位姿变换参数,落入到对应的位姿变换参数范围内时,将候选构图图像添加到构图图像集中。
86.因此,该位姿变换参数为指定设备采集参考图像时所处的位置与候选构图图像时所处的位置之间的距离时,该位姿变换参数对应的位姿变化参数范围为距离参数范围。该位姿变换参数为指定设备在采集参考图像以及候选构图图像时的转向角变化值时,该位姿变换参数对应的位姿变化参数范围为转向角参数范围。
87.这样,当出现下面的情况是,确定位姿变化参数落入到确定出的位姿变化参数范
围。例如,在确定出指定设备采集参考图像时所处的位置与候选构图图像时所处的位置之间的距离,落入到该距离参数范围内,确定该位姿变化参数落入到确定出的位姿变化参数范围内。再例如,在确定出指定设备在采集参考图像以及候选构图图像时的转向角变化值,落入到该转向角参数范围内,确定该位姿变化参数落入到确定出的位姿变化参数范围内。再例如,在确定指定设备采集参考图像时所处的位置与候选构图图像时所处的位置之间的距离,落入到该距离参数范围内,同时,确定指定设备在采集参考图像以及候选构图图像时的转向角变化值时,落入到该转向角参数范围内时,确定该位姿变化参数落入到确定出的位姿变化参数范围内。
88.实际业务中,相邻图像数据之间的共视区域的大小会影响构建出的地图的精度,而摄像头采集的图像数据之间的共视区域会受到镜头内参的影响,如,广角摄像头的图像采集视野是大于鱼眼摄像头的图像采集视野,因此,为了保证根据位姿变化参数抽取出的图像数据之间存在足够大的共视区域,则需要根据摄像头的类型,设立对应的位姿变化参数范围。此外,摄像头采集图像时的姿态,同样也会影响采集到的图像数据之间的共视区域的大小,因此,设置位姿变化参数范围时,同样也许要考虑摄像头采集图像时的姿态。
89.基于此,本说明书中终端设备将根据图像数据采集时指定设备上采集设备的情况,来确定需要采用的位姿变化参数范围。
90.具体的,终端设备确定模型输入参数,并将该模型输入参数输入到预先训练的参数预估模型中,确定当前图像数据所适用的位姿变化参数范围。其中,该模型输入参数可以包括:指定设备采集图像时所基于的采集设备的设备信息,以及指定设备采集的图像数据中的至少一种。
91.上述指定设备采集图像时所基于的采集设备的设备信息,指的是采集设备的类型(即,所使用的摄像头的类型)以及采集设备在采集图像时的姿态(即指定设备上所安装的摄像头的姿态信息)等信息。
92.步骤s108,根据所述构图图像集中包含的图像数据,进行地图构建。
93.具体实施中,终端设备根据确定出的构图图像集中包含的图像数据,进行地图构建,得到参照地图,而后,将该参照地图与已使用地图进行比对,得到比对结果,若根据该比对结果,确定该参照地图对应的路段内的道路信息发生变化,则根据该参照地图,对已使用地图进行重新构建。
94.其中,在确定参考地图时,终端设备根据构图图像集中包含的图像数据输入到训练后的三维重建模型中,得到该构图图像集中相邻两帧图像数据中相匹配的特征点,以及指定设备采集该相邻两帧图像时的相对位姿。同时,终端设备还将该构图图像集中包含的图像数据输入到训练后的深度预测模型中去,得到每帧图像中各像素点对应的深度值。而后,终端设备即可根据确定出的该构图图像集中相邻两帧图像数据中相匹配的特征点,以及指定设备采集该相邻两帧图像时的相对位姿,以及每帧图像中各像素点对应的深度值,进行三维稠密建模,得到该构图图像集中包含的图像数据所覆盖的道路区域的三维模型,最后,终端设备将该道路区域的三维模型投射到水平面上后,即可得到该构图图像集中包含的图像数据所覆盖的道路区域的参照地图。
95.进一步的,终端设备将该参照地图与已使用地图进行比对,以根据比对结果,判断该参照地图对应的路段内的道路信息发生变化时,分别从该参照地图和已使用地图中识别
出各道路元素,再对各道路元素逐一进行比对,若确定该参照地图存在道路元素,与已使用地图中的道路元素不一致,确定该参照地图对应的路段内的道路信息发生变化,需要根据该参照地图,对已使用地图进行重新构建。
96.通过上述步骤,根据确定出的位姿变化参数,获取到的图像数据进行筛选,从中确定出位姿变化参数满足条件的图像,再根据筛选书的图像数据来进行地图构建。由于该位姿变化参数,能够反映出采集设备在采集不同帧图像时位姿变化的程度,因此通过合理设置位姿变化参数所需满足的条件,将可以从采集到的图像数据中,抽取出位姿变化参数满足预设条件的图像,并根据抽取出的图像构建地图,以提升构建出的地图的精度。
97.另外,本说明书中还提供了上述参数预估模型的训练方法,参见图3。
98.步骤s300,获取训练样本,所述训练样本包括样本输入参数。
99.此步骤中,终端设备所获取的训练样本中的样本输入参数与实际使用时保持一致。该样本输入参数可以包括:样本图像,以及指定设备采集样本图像时所基于的采集设备的设备信息等。
100.步骤s302,将所述样本输入参数输入到所述参数预估模型中,得到预估位姿变化参数范围。
101.步骤s304,根据所述预估位姿变化参数范围,从各样本图像中筛选出用于构建地图的图像,作为样本目标图像。
102.此步骤中,终端设备根据该预估位姿变化参数范围确定样本目标图像的过程与实际是用时一致,故不再一一赘述。
103.步骤s306,根据所述样本目标图像进行地图构建,得到预估地图。
104.此步骤中,终端设备根据样本目标图像进行地图构建过程与实际是用时一致,故不再一一赘述。
105.步骤s308,确定所述预估地图与实际地图之间偏差,作为地图偏差,并根据所述地图偏差,确定所述预估位姿变化参数对应的参数偏差。
106.步骤s310,以最小化所述参数偏差为优化目标,对所述参数预估模型进行训练。
107.步骤s308和步骤s310中,终端设备确定该预估地图与实际地图之间偏差时,将从预估地图中识别出该预估地图中包含的各道路元素,并确定各道路元素的图像区域的区域中心,再从实际地图中获取各道路元素的图像区域,并确定区域中心。而后,分别确定预估地图中包含的各道路元素的区域中心和实际地图中包含的各道路元素的区域中心之间的距离,并将该距离,作为地图偏差。这样,再根据该地图偏差,确定预估位姿变化参数对应的参数偏差,并以最小化该参数偏差为优化目标,对该参数预估模型进行训练。
108.这样,通过反复调试,该参数预估模型将自主学习到在当前的样本输入参数下,能够构建出具有良好质量的地图时所需采用的预估位姿变化参数范围。
109.下面将结合图示,详细说明本说明书中从采集的初始图像数据中,提取用于构建地图的图像数据的流程示意图,具体参见图4。
110.步骤s400,终端设备根据采集时刻的先后顺序,从原始图像数据集中抽取出一帧新的图像数据,以及获取筛选出的采集时刻与该帧图像数据最接近的一帧构图图像数据,作为参考图像数据。
111.步骤s402,终端设备确定该帧图像数据对应的图像质量参数。
112.步骤s404,终端设备针对每个图像质量参数,判断该图像质量参数是否满足预设质量参数条件,若满足,执行步骤s406,否则执行步骤s418。
113.步骤s406,终端设备将该帧图像数据,作为能够用于构建地图的候选构图图像。
114.步骤s408,终端设备确定指定设备在采集参考图像以及候选构图像时所处的位置之间的距离。
115.步骤s410,终端设备确定指定设备在采集参考图像以及候选构图图像时的转向角变化值。
116.步骤s412,终端设备判断该确定出距离是否落入到设定距离参数范围内,若未落入到设定距离参数范围,执行步骤s414,否则执行步骤s416。
117.步骤s414,终端设备判断该确定出转向角变化值是否落入到设定转向角参数范围内,若落入到设定距离参数范围,执行步骤s416,否则执行步骤s418。
118.步骤s416,终端设备将该帧图像数据存放入构图图像集,并返回执行步骤s300,直至对该原始图像数据集中的每一帧图像数据都完成筛选。
119.步骤s418,终端设备舍弃该帧图像数据。
120.其中,步骤s402、步骤s406,以及步骤s408之间的执行顺序不存在必然的联系,可以同时进行。
121.以上为本说明书的一个或多个实施例提供的地图构建的方法,基于同样的思路,本说明书还提供了相应的地图构建的装置,如图5所示。
122.图5为本说明书提供的一种地图构建的装置示意图,具体包括:
123.数据获取模块500,用于获取指定设备在行驶过程中采集的图像数据,并根据每个图像数据对应的采集时序,构建图像序列;
124.参考图像确定模块501,用于针对所述图像序列中的每一帧图像数据,将该帧图像数据作为候选构图图像,并确定与该帧图像数据之间的采集间隔位于设定间隔范围内的图像数据,作为参考图像;
125.位姿变化参数确定模块502,用于根据所述参考图像以及所述候选构图图像,确定所述指定设备在采集所述参考图像以及所述候选构图图像时的位姿变化参数,所述位姿变化参数包括:所述指定设备采集所述参考图像时所处的位置与采集所述候选构图图像时所处位置之间的距离,以及所述指定设备在采集所述参考图像以及所述候选构图图像时的转向角变化值中的至少一种;
126.构图图像选取模块503,用于若确定所述位姿变化参数落入到确定出的位姿变化参数范围内,将所述候选构图图像添加到构图图像集中;
127.地图构建模块504,用于根据所述构图图像集中包含的图像数据,进行地图构建。
128.可选的,所述参考图像确定模块501,具体用于针对所述图像序列中的每一帧图像数据,确定该帧图像数据对应的图像质量参数,所述图像质量参数包括:所述指定设备采集该帧图像数据时的快门时间、该帧图像数据中包含的动态物体对应的图像在该帧图像数据中的比重以及该帧图像数据对应的光照信息中的至少一种;若确定所述图像质量参数满足预设质量参数条件,将该帧图像数据作为所述候选构图图像。
129.可选的,所述参考图像确定模块501,具体用于确定采集时序位于该帧图像数据之前,且与该帧图像数据之间的采集间隔位于设定间隔范围内的其他图像,所述其他图像包
括:位于所述图像序列中除该帧图像数据以外的图像数据,以及位于所述图像序列以外的图像数据中的至少一种;若确定该帧图像数据与所述其他图像之间的图像重合度位于设定重合度范围内,将该帧图像数据作为所述候选构图图像,并将所述其他图像,作为所述参考图像。
130.可选的,所述位姿变化参数范围包括:距离参数范围以及转向角参数范围;
131.所述构图图像选取模块503,具体用于若确定所述指定设备采集所述参考图像时所处的位置与采集该帧图像数据时所处位置之间的距离落入到所述距离参数范围内,和/或所述指定设备在采集所述参考图像以及该帧图像数据时的转向角变化值落入到所述转向角参数范围内,确定所述位姿变化参数落入到确定出的位姿变化参数范围内。
132.可选的,所述构图图像选取模块503,具体用于确定模型输入参数,所述模型输入参数包括:所述指定设备采集图像时所基于的采集设备的设备信息,以及所述指定设备采集的图像数据中的至少一种;将所述模型输入参数输入到预先训练的参数预估模型中,确定所述位姿变化参数范围。
133.可选的,所述装置还包括:
134.训练模块505,用于获取训练样本,所述训练样本包括样本输入参数;将所述样本输入参数输入到所述参数预估模型中,得到预估位姿变化参数范围;根据所述预估位姿变化参数范围,从各样本图像中筛选出用于构建地图的图像,作为样本目标图像;根据所述样本目标图像进行地图构建,得到预估地图;确定所述预估地图与实际地图之间偏差,作为地图偏差,并根据所述地图偏差,确定所述预估位姿变化参数对应的参数偏差;以最小化所述参数偏差为优化目标,对所述参数预估模型进行训练。
135.可选的,所述地图构建模块504,具体用于根据所述构图图像集中包含的图像数据,进行地图构建,得到参照地图;将所述参照地图与已使用地图进行比对,得到比对结果;若根据所述比对结果,确定所述参照地图对应的路段内的道路信息发生变化,根据所述参照地图,对所述已使用地图进行重新构建。
136.本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的故障区域的检测方法。
137.本说明书还提供了图6所示的电子设备的示意结构图。如图4所述,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所述的故障区域的检测方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
138.在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(programmable logic device,pld)(例如现场可编程门阵列(field programmable gate array,fpga))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员
自行编程来把一个数字系统“集成”在一片pld上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(hardware description language,hdl),而hdl也并非仅有一种,而是有许多种,如abel(advanced boolean expression language)、ahdl(altera hardware description language)、confluence、cupl(cornell university programming language)、hdcal、jhdl(java hardware description language)、lava、lola、myhdl、palasm、rhdl(ruby hardware description language)等,目前最普遍使用的是vhdl(very-high-speed integrated circuit hardware description language)与verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
139.控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(application specific integrated circuit,asic)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:arc 625d、atmel at91sam、microchip pic18f26k20以及silicone labs c8051f320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
140.上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
141.为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
142.本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
143.本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产
生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
144.这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
145.这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
146.在一个典型的配置中,计算设备包括一个或多个处理器(cpu)、输入/输出接口、网络接口和内存。
147.内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(ram)和/或非易失性内存等形式,如只读存储器(rom)或闪存(flash ram)。内存是计算机可读介质的示例。
148.计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(pram)、静态随机存取存储器(sram)、动态随机存取存储器(dram)、其他类型的随机存取存储器(ram)、只读存储器(rom)、电可擦除可编程只读存储器(eeprom)、快闪记忆体或其他内存技术、只读光盘只读存储器(cd-rom)、数字多功能光盘(dvd)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
149.还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个
……”
限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
150.本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
151.本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
152.本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部
分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
153.以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献