目标对象检测方法、装置、电子设备和可读存储介质与流程

1.本公开涉及车联网领域和图像处理领域，更具体地，涉及一种目标对象检测方法、装置、电子设备、可读存储介质和计算机程序产品。


背景技术：

2.随着自动辅助驾驶技术的快速发展，越来越多的车辆配备有自动驾驶系统以提升用户在驾驶过程中的便捷性，这就对自动驾驶感知系统的可靠性提出更高的要求。相关技术中，自动驾驶感知系统通常借助激光雷达等探测设备对车辆周边进行目标检测，并基于目标检测结果来确定车辆周边的目标物体，从而可以根据检测到的目标物体控制车辆实现自动驾驶或辅助驾驶功能。
3.在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：相关技术中的自动驾驶感知系统对于目标物体的检测准确率较低，难以满足用户的实际需求。


技术实现要素：

4.有鉴于此，本公开提供了目标对象检测方法、装置、电子设备、可读存储介质和计算机程序产品。
5.本公开的一个方面提供了一种目标对象检测方法，包括：
6.对待检测图像进行目标对象检测，得到第一目标检测框和针对上述目标对象的第一深度信息；
7.在上述第一深度信息满足预设距离条件的情况下，基于上述第一目标检测框在检测空间中的投影信息和上述第一深度信息，构建上述第一目标检测框在上述检测空间对应的第二目标检测框；
8.基于预设检测规则更新上述第二目标检测框的尺寸，得到更新后的第三目标检测框；
9.利用上述第三目标检测框筛选针对上述目标对象的初始点云数据，得到筛选后的目标点云数据；
10.根据上述目标点云数据生成上述目标对象的检测信息。
11.根据本公开的实施例，其中，上述初始点云数据包括利用毫米波雷达针对上述目标对象进行探测后得到的点云数据。
12.根据本公开的实施例，上述第一目标检测框包括二维目标检测框，上述待检测图像通过图像采集装置采集得到；
13.其中，上述在上述第一深度信息满足预设距离条件的情况下，基于上述第一目标检测框在检测空间中的投影信息和上述第一深度信息，构建上述第一目标检测框在上述检测空间对应的第二目标检测框包括：
14.在上述第一深度信息表征上述目标对象的深度值大于预设距离阈值的情况下，基于上述图像采集装置的图像采集位置，以及上述第一目标检测框在上述待检测图像上的检
测框位置，构建上述第一目标检测框在上述检测空间中的第一投影区域；以及
15.基于上述第一深度信息，在上述第一投影区域中构建上述第二目标检测框。
16.根据本公开的实施例，基于预设检测规则更新上述第二目标检测框的尺寸，得到更新后的第三目标检测框包括：
17.基于上述预设检测规则，在上述待检测图像中，按照预设阈值缩小上述第一目标检测框的尺寸，得到第一紧致目标检测框；
18.基于上述图像采集装置的图像采集位置，以及上述第一紧致目标检测框在上述待检测图像上的紧致检测框位置，构建上述第一紧致目标检测框在上述检测空间中的第二投影区域；以及
19.在上述检测空间中，基于上述第二投影区域、上述第二目标检测框和上述目标对象的第一深度信息，构建得到更新后的上述第三目标检测框。
20.根据本公开的实施例，基于预设检测规则更新上述第二目标检测框的尺寸，得到更新后的第三目标检测框包括：
21.基于上述预设检测规则，在上述检测空间中沿第一方向和/或第二方向拉伸上述第二目标检测框，得到第三候选目标检测框，其中，上述第一方向表征靠近上述图像采集装置的方向，上述第二方向表征远离上述图像采集装置的方向；
22.在上述待检测图像中，按照预设阈值缩小上述第一目标检测框的尺寸，得到第一紧致目标检测框；
23.基于上述图像采集装置的图像采集位置，以及上述第一紧致目标检测框在上述待检测图像上的的紧致检测框位置，构建上述第一紧致目标检测框在上述检测空间中的第二投影区域；以及
24.在上述检测空间中，基于上述第二投影区域和上述第三候选目标检测框，构建得到更新后的上述第三目标检测框。
25.根据本公开的实施例，上述目标对象检测方法还包括：
26.获取目标检测时间段内采集到的多帧第一点云数据，其中，上述目标检测时间段与采集上述待检测图像的图像采集时刻相对应，上述第一点云数据包括表征上述目标对象的点云数据；以及
27.融合多帧上述第一点云数据，得到上述初始点云数据。
28.根据本公开的实施例，对待检测图像进行目标对象检测，得到第一目标检测框和针对上述目标对象的第一深度信息包括：
29.将上述待检测图像输入至目标检测模型，输出上述第一目标检测框和针对上述目标对象的第一深度信息；
30.其中，上述目标检测模型包括以下至少一项：
31.单目三维目标检测模型、端到端目标检测模型。
32.根据本公开的实施例，上述目标对象检测方法还包括：
33.在上述第一深度信息表征上述目标对象的深度值小于或等于预设距离阈值的情况下，根据上述第一目标检测框和上述第一深度信息，确定上述目标对象的检测信息。
34.根据本公开的实施例，上述目标对象检测方法还包括：
35.根据上述图像采集装置和上述毫米波雷达之间的标定关系，对利用上述毫米波雷
达针对上述目标对象进行探测后得到的点云数据进行坐标转换，得到坐标转换后的初始点云数据。
36.根据本公开的实施例，上述目标点云数据包括n个，n个上述目标点云数据中包括m个具有相同的二维坐标的轮廓目标点云数据，上述目标对象的检测信息包括目标对象深度信息，n和m均为正整数；
37.根据上述目标点云数据生成上述目标对象的检测信息包括：
38.将m个上述轮廓目标点云数据各自的轮廓点云深度信息中的最小值，确定为目标点云深度信息；以及
39.根据目标点云深度信息生成上述目标对象的目标对象深度信息。
40.本公开的另一个方面提供了一种目标对象检测装置，包括：
41.第一检测模块，用于对待检测图像进行目标对象检测，得到第一目标检测框和针对上述目标对象的第一深度信息；
42.第一构建模块，用于在上述第一深度信息满足预设距离条件的情况下，基于上述第一目标检测框在检测空间中的投影信息和上述第一深度信息，构建上述第一目标检测框在上述检测空间对应的第二目标检测框；
43.更新模块，用于基于预设检测规则更新上述第二目标检测框的尺寸，得到更新后的第三目标检测框；
44.筛选模块，用于利用上述第三目标检测框筛选针对上述目标对象的初始点云数据，得到筛选后的目标点云数据；
45.检测信息生成模块，用于根据上述目标点云数据生成上述目标对象的检测信息。
46.本公开的另一个方面提供了一种电子设备，包括：
47.一个或多个处理器；
48.存储器，用于存储一个或多个程序，
49.其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上所述的目标对象检测方法。
50.本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的目标对象检测方法。
51.本公开的另一方面提供了一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现如上所述的目标对象检测方法。
52.根据本公开的实施例，通过对待检测图像进行目标对象检测，并利用得到的第一深度信息预估目标对象在待检测图像中的深度距离，在第一深度信息满足预设距离条件的情况下，可以基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框，从而初步预测出目标对象在检测空间中的位置范围，然后通过调整第二目标检测框的尺寸，可以使得到的第三目标检测框筛除目标对象与待检测图像中其他对象重叠的区域，以至少部分减少重叠的区域中点云数据不能准确体现目标对象的技术问题，然后利用更新后的第三目标检测框筛选出初始点云数据中的目标点云数据，可以至少部分解决提升点云数据表征目标对象的属性信息的准确性的技术问题，进而使根据目标点云数据生成的检测信息可以实现提升针对目标对象的检测准确度的技术效果。
附图说明
53.通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：
54.图1示意性示出了根据本公开实施例的可以应用目标对象检测方法和装置的示例性系统架构；
55.图2示意性示出了根据本公开实施例的目标对象检测方法的流程图；
56.图3示意性示出了根据本公开实施例的基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框的流程图；
57.图4示意性示出了根据本公开另一实施例的基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框的流程图；
58.图5示意性示出了根据本公开实施例的目标对象检测方法的应用场景图；
59.图6示意性示出了根据本公开的实施例的目标对象检测装置的框图；以及
60.图7示意性示出了根据本公开实施例的适于实现目标对象检测方法的电子设备的框图。
具体实施方式
61.以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
62.在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
63.在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
64.在使用类似于“a、b和c等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有a、b和c中至少一个的系统”应包括但不限于单独具有a、单独具有b、单独具有c、具有a和b、具有a和c、具有b和c、和/或具有a、b、c的系统等)。
65.在本公开的技术方案中，在获取或采集用户个人信息之前，均获取了用户的授权或同意。
66.在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。
67.在相关技术中，车辆的自动辅助驾驶功能通常需要依赖安装在车辆上的激光雷达对目标对象进行探测来实现，例如可以可以通过激光雷达探测对目标对象进行探测后，生成激光雷达点云数据，该激光雷达点云数据可以包含有目标对象的尺寸、角度、位置等目标
对象属性信息。相应地，在车辆还安装有摄像头等图像采集装置的情况下，还可以利用激光雷达点云数据，对图像采集装置针对目标对象采集的图像信息进行数据标注，以提升针对目标对象检测的准确性。
68.但是在相关的实际应用场景中，激光雷达的探测能力可能会受到探测距离的限制，例如在目标对象距离激光雷达较远的情况下，探测后生成的激光雷达点云较为稀疏，难以满足实际的检测需求，同时难以实现对图像信息进行准确地标注，这将严重影响针对目标对象的检测准确性。
69.本公开的实施例提供了一种目标对象检测方法、装置、电子设备、可读存储介质和计算机程序产品。该目标对象检测方法包括：对待检测图像进行目标对象检测，得到第一目标检测框和针对目标对象的第一深度信息；在第一深度信息满足预设距离条件的情况下，基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框；基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框；利用第三目标检测框筛选针对目标对象的初始点云数据，得到筛选后的目标点云数据；根据目标点云数据生成目标对象的检测信息。
70.根据本公开的实施例，通过对待检测图像进行目标对象检测，并利用得到的第一深度信息预估目标对象在待检测图像中的深度距离，在第一深度信息满足预设距离条件的情况下，可以基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框，从而初步预测出目标对象在检测空间中的位置范围，然后通过调整第二目标检测框的尺寸，可以使得到的第三目标检测框筛除目标对象与待检测图像中其他对象重叠的区域，以至少部分减少重叠的区域中点云数据不能准确体现目标对象的问题，然后利用更新后的第三目标检测框筛选出初始点云数据中的目标点云数据，可以至少部分解决提升点云数据表征目标对象的属性信息的准确性，从而使根据目标点云数据生成的检测信息可以提升针对目标对象的检测准确度。
71.需要说明的是，本公开的实施例提供的目标对象检测方法和装置可以应用与车联网领域，例如可以应用于车辆的自动辅助驾驶、无人车的自动驾驶等应用场景中，但不仅限于此，还可以应用于智慧交通城市、智能安防等多个应用场景，例如可以应用于识别城市交通中违反相关法规的车辆、物流作业区域中作业不规范的作业车辆等应用场景中。因此，本公开实施例提供的目标对象检测方法和装置对应用场景和应用领域不做限定。
72.图1示意性示出了根据本公开实施例的可以应用目标对象检测方法和装置的示例性系统架构。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
73.如图1所示，根据该实施例的系统架构100可以包括车辆101、目标对象102、103、网络104和服务器105。网络104用以在车辆101和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。
74.车辆101可以包括安装激光雷达等探测装置的车辆，目标对象102、103可以是道路上的行人、路灯等移动的对象和/或固定的对象。相应地，车辆101中可以具有能够对探测装置探测得到的初始点云数据和待检测图像进行处理的电子设备，包括但不限于具有用于数据处理的芯片、处理器等电子设备。
75.应该理解的是，车辆101上可以安装有图像采集装置，用以对目标对象102、103进行图像采集，得到待检测图像。或者还可以通过安装在车辆101之外的其他图像采集装置对对目标对象102、103进行图像采集，并将待检测图像发送至车辆101和/或服务器105中，以便于实现本公开实施例提供的目标对象检测方法。
76.车辆101通过网络104与服务器105交互，以接收或发送消息等。车辆101上可以安装有各种通讯客户端应用。
77.服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
78.需要说明的是，本公开实施例所提供的目标对象检测方法一般可以由车辆101中的电子设备执行。相应地，本公开实施例所提供的目标对象检测装置一般可以设置于车辆101中。或者，本公开实施例所提供的目标对象检测方法可以由能够与车辆101通讯连接的服务器105执行。相应地，本公开实施例所提供的目标对象检测装置也可以设置于服务器105中。本公开实施例所提供的目标对象检测方法也可以由不同于服务器105且能够与车辆101和/或服务器105通信的服务器或服务器集群执行。或者，本公开实施例所提供的目标对象检测装置也可以设置于不同于服务器105且能够与车辆101和/或服务器105通信的服务器或服务器集群中。
79.应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
80.图2示意性示出了根据本公开实施例的目标对象检测方法的流程图。
81.如图2所示，该目标对象检测方法200包括操作s210～s250。
82.在操作s210，对待检测图像进行目标对象检测，得到第一目标检测框和针对目标对象的第一深度信息。
83.根据本公开的实施例，可以基于相关技术中的目标对象检测算法，或者目标对象检测模型来处理待检测图像，从而得到的第一目标检测框和第一深度信息可以初步反映目标对象的位置。
84.需要说明的是，本公开的实施例针对生成第一目标检测框和第一深度信息的具体方式不做限定，例如可以利用基于神经网络构建的目标对象检测模型来处理待检测图像得到第一目标检测框，或者还可以基于人工标注的方式处理待检测图像，得到第一目标检测框。相应地，可以基于相关技术中的深度相机等装置来得到第一深度信息，或者还可以通过激光雷达等探测装置获取到第一深度信息。本领域技术人员可以根据实际需求选择针对待检测图像具体的目标对象检测方式。
85.在操作s220，在第一深度信息满足预设距离条件的情况下，基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框。
86.根据本公开的实施例，检测空间可以包括待检测图像所反映的包含有目标对象的空间，第二目标检测框可以是能够初步反映目标对象在检测空间中位置的三维检测框。
87.在操作s230，基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三
目标检测框。
88.根据本公开的实施例，由于检测空间中可能存在目标对象与其他的对象相对于待检测图像的投影面存在重叠区域，因此通过更新第二目标检测框的尺寸，可以针对目标对象在检测空间中的区域范围，使更新后的第三目标检测框以筛除掉重叠地表征其他对象的区域。
89.或者，第二目标检测框还有可能无法完整地覆盖目标对象在检测空间中所表征的区域，还可以通过更新第二目标检测框的尺寸，使得到的更新后的第三目标检测框可以进一步覆盖目标对象在检测空间中的区域。
90.在操作s240，利用第三目标检测框筛选针对目标对象的初始点云数据，得到筛选后的目标点云数据。
91.在操作s250，根据目标点云数据生成目标对象的检测信息。
92.根据本公开的实施例，初始点云数据可以包括相关探测设备对检测空间中的目标对象进行探测后得到的，探测设备例如可以包括激光雷达、毫米波雷达等等。
93.应该理解的是，在检测空间中包含有目标对象，以及除了目标对象之外的其他对象的情况下，初始点云数据可以初步表征该些对象在检测空间中的位置，以及初步表征各个对象各自的形状，尺寸等对象属性信息。
94.根据本公开的实施例，通过利用第三目标检测框筛选针对目标对象的初始点云数据，可以滤除初始点云数据中与目标对象无关的其他点云数据，使筛选后得到的目标点云数据能够准确地表征目标对象的对象属性信息。
95.根据本公开的实施例，通过对待检测图像进行目标对象检测，并利用得到的第一深度信息预估目标对象在待检测图像中的深度距离，在第一深度信息满足预设距离条件的情况下，可以基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框，从而初步预测出目标对象在检测空间中的位置范围，然后通过调整第二目标检测框的尺寸，可以使得到的第三目标检测框筛除目标对象与待检测图像中其他对象重叠的区域，以至少部分减少重叠的区域中点云数据不能准确体现目标对象的问题，然后利用更新后的第三目标检测框筛选出初始点云数据中的目标点云数据，可以至少部分解决提升点云数据表征目标对象的属性信息的准确性，从而使根据目标点云数据生成的检测信息可以提升针对目标对象的检测准确度。
96.根据本公开的实施例，初始点云数据包括利用毫米波雷达针对目标对象进行探测后得到的点云数据。
97.根据本公开的实施例，毫米波雷达具有感测精准、不易被干扰等优点，该探测设备可以被应用于自动辅助驾驶的自适应巡航、自动紧急制动、车辆碰撞预警等应用场景中。毫米波雷达的工作波段一般为30ghz-300ghz，波长介于微波和厘米波(1mm-10mm)之间，毫米波雷达具有体积小、功耗低、带宽高、分辨率好、探测距离远等优点，探测距离可以达数百米。
98.需要说明的是，用于探测得到初始点云数据的毫米波雷达的数量可以是一个或多个，本公开的实施例对毫米波雷达的数量不做限定，本领域技术人员可以根据实际需求进行设计。
99.应该理解的是，在毫米波雷达包括多个的情况下，
100.根据本公开的实施例，目标对象检测方法还可以包括如下操作：
101.根据图像采集装置和毫米波雷达之间的标定关系，对利用毫米波雷达针对目标对象进行探测后得到的点云数据进行坐标转换，得到坐标转换后的初始点云数据。
102.根据本公开的实施例，图像采集装置可以是用于采集得到待检测图像的装置，例如可以是摄像头、照相机等。图像采集装置和毫米波雷达之间的标定关系可以通过转换矩阵等转换参数来体现，例如可以根据转换矩阵处理毫米波雷达坐标系，从而实现将毫米波雷达探测得到的点云数据进行坐标转换，使得到的初始点云数据可以映射到与图像采集装置对应的图像坐标系中。
103.需要说明的是，在毫米波雷达包括多个的情况下，可以基于多个毫米波雷达各自的位置和标定参数，对每个毫米波雷达探测得到的点云数据统一值同一个毫米波雷达坐标系中，再对统一坐标系后的点云数据映射到图像采集装置对应的图像坐标系中。或者还可以根据图像采集装置和每个毫米波雷达各自之间的标定关系，并行地将多个毫米波雷达各自对应的点云数据同时进行坐标转换。
104.根据本公开的实施例，目标对象检测方法还可以包括如下操作：
105.获取目标检测时间段内采集到的多帧第一点云数据，其中，目标检测时间段与采集待检测图像的图像采集时刻相对应，第一点云数据包括表征目标对象的点云数据；以及融合多帧第一点云数据，得到初始点云数据。
106.根据本公开的实施例，一帧第一点云数据可以是毫米波雷达针对目标对象进行一次探测后得到的探测结果。将多帧第一点云数据进行融合，可以进一步丰富针对目标对象的探测结果，使融合得到的初始点云数据可以扩充表征目标对象的点云数据的数据量，至少部分解决相关技术中由于毫米波雷达探测得到的点云数据的数据稀疏问题，使初始点云数据提升针对目标对象的对象属性信息描述的准确性。
107.应该理解的是，目标检测时间段可以和图像采集装置采集到待检测图像的图像采集时刻相对应，例如目标检测时间段可以是以图像采集时刻为时间中点的50毫秒时长、70毫秒时长等。本公开的实施例对目标检测时间段的具体设置方式不做限定，本领域技术人员可以根据图像采集装置的图像采集参数和毫米波雷达的探测参数来设计目标检测时间段。
108.根据本公开的实施例，其中，操作s210，对待检测图像进行目标对象检测，得到第一目标检测框和针对目标对象的第一深度信息可以包括如下操作：
109.将待检测图像输入至目标检测模型，输出第一目标检测框和针对目标对象的第一深度信息。
110.其中，目标检测模型包括以下至少一项：单目三维目标检测模型、端到端目标检测模型。
111.根据本公开的实施例，单目三维目标检测模型可以包括相关技术中基于smoke(single-stage monocular 3d object detection via keypoint estimation)模型构建得到的目标检测模型。端到端目标检测模型可以是基于相关技术中的detr(end-to-end object detection with transformers，)算法构建得到的目标检测模型。
112.需要说明的是，目标检测模型输出的第一目标检测框可以包括待检测图像中的二维检测框，还可以包括检测空间中能够初步表征目标对象的三维检测框，通过获取三维检
测框在检测空间中的位置，可以确定目标对象在检测空间中的第一深度信息。
113.根据本公开的实施例，通过目标检测模型处理待检测图像，可以在图像采集装置为单目相机的条件下，较为精准地获得目标对象的第一深度信息，从而避免相关技术中采用双目相机作为图像采集装置产生的设备采购成本高、图像采集装置容易出现故障导致深度信息不准等问题。
114.根据本公开的实施例，第一目标检测框包括二维目标检测框，待检测图像通过图像采集装置采集得到。
115.操作s220，在第一深度信息满足预设距离条件的情况下，基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框可以包括如下操作：
116.在第一深度信息表征目标对象的深度值大于预设距离阈值的情况下，基于图像采集装置的图像采集位置，以及第一目标检测框在待检测图像上的检测框位置，构建第一目标检测框在检测空间中的第一投影区域；以及基于第一深度信息，在第一投影区域中构建第二目标检测框。
117.根据本公开的实施例，可以基于相关技术中的视觉投影成像方法，根据图像采集位置的图像采集装置通过第一目标检测框在检测空间中形成的投影区域作为构建得到的第一投影区域。然后利用表征目标对象在检测空间的第一深度信息来从第一投影区域中筛选出第二目标检测框，从而扩大检测空间中针对目标对象的检测区域范围。
118.根据本公开的实施例，在第一深度信息表征目标对象的深度值大于预设距离阈值的情况下，可以初步预测相关激光雷达探测得到的初始点云数据可能不能全面地反映目标对象在检测空间中的对象属性信息，难以满足针对目标对象进行检测的实际需求。
119.因此，可以通过确定检测空间中的第二目标检测框，以扩大针对目标对象的检测区域范围，从而至少部分避免丢失目标对象的对象属性信息的技术问题。
120.图3示意性示出了根据本公开实施例的基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框的流程图。
121.如图3所示，，操作s230，基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框可以包括操作s310～操作s330。
122.在操作s310，基于预设检测规则，在待检测图像中，按照预设阈值缩小第一目标检测框的尺寸，得到第一紧致目标检测框。
123.在操作s320，基于图像采集装置的图像采集位置，以及第一紧致目标检测框在待检测图像上的紧致检测框位置，构建第一紧致目标检测框在检测空间中的第二投影区域。
124.在操作s330，在检测空间中，基于第二投影区域、第二目标检测框和目标对象的第一深度信息，构建得到更新后的第三目标检测框。
125.根据本公开的实施例，可以对待检测图像中的第一目标检测框的尺寸进行缩小，例如将待检测图像中第一目标检测框的长和宽等比例地缩小二分之一，从而使得到的第一紧致目标检测框的面积为第一目标检测框面积的四分之一。
126.然后可以基于相关技术中的视觉投影成像方法，根据图像采集位置的图像采集装置通过第一紧致目标检测框在检测空间中形成的投影区域作为构建得到的第二投影区域。
127.根据本公开的实施例，通过第二投影区域和第二目标检测框在检测空间中的位置
关系，可以利用第二投影区域从第二目标检测框中初步筛选出针对目标对象的新的感兴趣空间，并结合目标对象的第一位置信息，可以将该感兴趣空间进一步调整，从而使调整后得到的第三目标检测框可以更加准确地表征目标对象在检测空间中所占有的区域空间。
128.根据本公开的实施例，在第一深度信息表征目标对象的深度值大于预设距离阈值的情况下，可以初步预测相关激光雷达探测得到的初始点云数据可能包含有表征目标对象之外的其他对象的点云数据，难以满足针对目标对象进行检测的实际需求。通过上述实施例提供的方法对检测空间中的第二目标检测框的区域进一步调整，并利用调整后得到的第三目标检测框来对后续的初始点云数据进行筛选，可以进一步排除表征其他对象的点云数据对于检测信息的干扰，提升筛选后得到的目标点云数据表征目标对象的准确性。
129.图4示意性示出了根据本公开另一实施例的基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框的流程图。
130.如图4所示，操作s230，基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框可以包括操作s410～操作s440。
131.在操作s410，基于预设检测规则，在检测空间中沿第一方向和/或第二方向拉伸第二目标检测框，得到第三候选目标检测框，其中，第一方向表征靠近图像采集装置的方向，第二方向表征远离图像采集装置的方向。
132.在操作s420，在待检测图像中，按照预设阈值缩小第一目标检测框的尺寸，得到第一紧致目标检测框。
133.在操作s430，基于图像采集装置的图像采集位置，以及第一紧致目标检测框在待检测图像上的的紧致检测框位置，构建第一紧致目标检测框在检测空间中的第二投影区域。
134.在操作s440，在检测空间中，基于第二投影区域和第三候选目标检测框，构建得到更新后的第三目标检测框。
135.根据本公开的实施例，在目标对象的第一深度信息大于预设阈值的情况下，目标对象的第一深度信息的准确性可能较低，进而第一深度信息难以准确的表征目标对象在检测空间中的深度位置。
136.通过在检测空间中沿第一方向和/或第二方向拉伸第二目标检测框，可以使得到的第三候选目标检测框在深度方向扩大针对目标对象的感兴趣区域空间，以至少部分克服难以准确的表征目标对象在检测空间中的深度位置的技术问题。进而根据第二投影区域筛选出第三候选目标检测框中与第二投影区域重叠的区域空间，可以作为构建得到的更新后的第三目标检测框。
137.根据本公开的实施例，在第一深度信息表征目标对象的深度值大于预设距离阈值的情况下，可以初步预测相关激光雷达探测得到的初始点云数据可能包含有表征目标对象之外的其他对象的点云数据，且第一深度信息难以准确的表征目标对象在检测空间中的深度位置，难以满足针对目标对象进行检测的实际需求。
138.通过本实施例实施例提供的方法对检测空间中的第二目标检测框的区域进一步调整，并利用调整后得到的第三目标检测框来对后续的初始点云数据进行筛选，可以进一步排除表征其他对象的点云数据对于检测信息的干扰，同时避免第一深度信息不准确造成的目标点云数据部分遗漏的技术问题，提升筛选后得到的目标点云数据表征目标对象的准
确性。
139.根据本公开的实施例，所述目标点云数据包括n个，n个所述目标点云数据中包括m个具有相同的二维坐标的轮廓目标点云数据，所述目标对象的检测信息包括目标对象深度信息，n和m均为正整数。
140.操作250，根据所述目标点云数据生成所述目标对象的检测信息包括如下操作：
141.将m个所述轮廓目标点云数据各自的轮廓点云深度信息中的最小值，确定为目标点云深度信息；以及根据目标点云深度信息生成所述目标对象的目标对象深度信息。
142.根据本公开的实施例，在待检测图像对应的二维坐标系中，同一二维坐标位置可能会存在具有不同的点云深度信息的多个轮廓目标点云数据，通过将该些轮廓目标点云数据各自的轮廓点云深度信息中的最小值确定为目标点云深度信息，可以进一步筛选出能够表征目标对象在检测空间中外形轮廓的目标点云深度信息，然后将目标点云深度信息作为目标对象的目标对象深度信息，结合对应的轮廓目标点云数据的二维坐标，可以有效地描述该目标对象在检测空间中的外形轮廓，从而提升针对目标对象的检测准确性。
143.根据本公开的实施例，目标对象检测方法还可以包括如下操作：
144.在第一深度信息表征目标对象的深度值小于或等于预设距离阈值的情况下，根据第一目标检测框和第一深度信息，确定目标对象的检测信息。
145.根据本公开的实施例，在第一深度信息小于或等于预设距离阈值的情况下，可以利用据第一目标检测框和第一深度信息所表征的目标对象的位置、分类结果等信息来实现对目标对象的检测，例如在第一目标检测框包含有二维检测框和三维检测框的情况下，可以根据激光雷达针对目标对象探测到的激光雷达点云数据，对第一目标检测框的对象属性信息进行标注，以修正目标对象的速度、距离、轮廓等对象属性信息，从而得到针对目标对象的检测信息。
146.需要说明的是，预设距离阈值可以根据实际需求进行设计，本公开的实施例对预设距离阈值的具体设定结果不做限定。
147.图5示意性示出了根据本公开实施例的目标对象检测方法的应用场景图。
148.如图5所示，该应用场景中可以包括待检测图像500。将待检测图像输入至目标检测模型，目标检测模型可以在待检测图像500输出第一目标检测框511a、512a、513a和514a。相应地，第一目标检测框511a、512a、513a和514a为待检测图像500中的二维检测框。
149.此外，目标检测模型还可以生成与第一目标检测框511a对应的第一目标检测框511b，该第一目标检测框511b为检测空间中的三维检测框。根据该第一目标检测框511b的深度信息，即为目标对象511的第一深度信息。
150.应该理解的是，第一深度信息可以为第一目标检测框511b距离待检测图像500的距离。
151.在目标对象511的第一深度信息大于预设阈值的情况下，例如大于20米的情况下，可以基于视觉投影成像方法，根据图像采集装置c510的图像采集位置，通过第一目标检测框511a在检测空间中形成的投影区域作为构建得到的第一投影区域521。该第一投影区域521可以是以图像采集装置c510的图像采集位置为顶点的立锥体。
152.然后利用表征目标对象511在检测空间的第一深度信息来从第一投影区域521中筛选出第二目标检测框531，从而扩大检测空间中针对目标对象511的检测区域范围。
153.在目标对象511的第一深度信息大于预设阈值的情况下，目标对象511的第一深度信息的准确性可能较低，进而第一深度信息难以准确的表征目标对象511在检测空间中的深度位置。
154.进而需哟啊通过在检测空间中沿第一方向和/或第二方向拉伸第二目标检测框531，即得到尺寸拉伸后的第三候选目标检测框，从而使第三候选目标检测框在深度方向扩大针对目标对象511的感兴趣区域空间，以至少部分克服难以准确的表征目标对象511在检测空间中的深度位置的技术问题。
155.同时，由于待检测图像中的第一目标检测框511a和第一目标检测框511b存在对象重叠的情况，可以对待检测图像500中的第一目标检测框511a的尺寸进行缩小，例如以第一目标检测框511a的几何中心为中心，将第一目标检测框511a的长和宽等比例地缩小二分之一，从而使得到的第一紧致目标检测框5111a的面积为第一目标检测框511a面积的四分之一。
156.然后可以基于相关技术中的视觉投影成像方法，根据图像采集位置的图像采集装置c510通过第一紧致目标检测框5111a在检测空间中形成的投影区域作为构建得到的第二投影区域。进而根据第二投影区域筛选出第三候选目标检测框中与第二投影区域重叠的区域空间，可以作为构建得到的更新后的第三目标检测框。
157.在得到第三目标检测框后，可以利用第三目标检测框筛选基于毫米波雷达针对目标对象511进行探测后得到的初始点云数据，即将位于该第三目标检测框中的初始点云数据作为目标点云数据，进而可以根据目标点云数据具有的对象属性信息来生成针对目标对象511的检测信息。例如可以得到该目标对象511的尺寸、位置、速度、分类结果等检测信息。
158.相应地，在第一目标检测框514a小于预设距离阈值的情况下，例如小于20米的情况下，可以采用相关技术中的目标检测方法，根据二维检测框第一目标检测框514a，以及与第一目标检测框514a对应的三维检测框来对目标对象514进行目标对象检测。
159.图6示意性示出了根据本公开的实施例的目标对象检测装置的框图。
160.如图6所示，目标对象检测装置600包括第一检测模块610、第一构建模块620、更新模块630、筛选模块640和检测信息生成模块650。
161.第一检测模块610用于对待检测图像进行目标对象检测，得到第一目标检测框和针对目标对象的第一深度信息。
162.第一构建模块620用于在第一深度信息满足预设距离条件的情况下，基于第一目标检测框在检测空间中的投影信息和第一深度信息，构建第一目标检测框在检测空间对应的第二目标检测框。
163.更新模块630用于基于预设检测规则更新第二目标检测框的尺寸，得到更新后的第三目标检测框。
164.筛选模块640用于利用第三目标检测框筛选针对目标对象的初始点云数据，得到筛选后的目标点云数据。
165.检测信息生成模块650用于根据目标点云数据生成目标对象的检测信息。
166.根据本公开的实施例，初始点云数据包括利用毫米波雷达针对目标对象进行探测后得到的点云数据。
167.根据本公开的实施例，第一目标检测框包括二维目标检测框，待检测图像通过图
像采集装置采集得到。
168.第一构建模块包括：第一构建单元和第二构建单元。
169.第一构建单元用于在第一深度信息表征目标对象的深度值大于预设距离阈值的情况下，基于图像采集装置的图像采集位置，以及第一目标检测框在待检测图像上的检测框位置，构建第一目标检测框在检测空间中的第一投影区域。
170.第二构建单元用于基于第一深度信息，在第一投影区域中构建第二目标检测框。
171.根据本公开的实施例，更新模块包括：第一尺寸更新单元和第三构建单元。
172.第一尺寸更新单元用于基于预设检测规则，在待检测图像中，按照预设阈值缩小第一目标检测框的尺寸，得到第一紧致目标检测框。
173.第三构建单元用于基于图像采集装置的图像采集位置，以及第一紧致目标检测框在待检测图像上的紧致检测框位置，构建第一紧致目标检测框在检测空间中的第二投影区域。
174.在检测空间中，基于第二投影区域、第二目标检测框和目标对象的第一深度信息，构建得到更新后的第三目标检测框。
175.根据本公开的实施例，更新模块包括：第二尺寸更新单元、第三尺寸更新单元、第四构建单元和第五构建单元。
176.第二尺寸更新单元用于基于预设检测规则，在检测空间中沿第一方向和/或第二方向拉伸第二目标检测框，得到第三候选目标检测框，其中，第一方向表征靠近图像采集装置的方向，第二方向表征远离图像采集装置的方向。
177.第三尺寸更新单元用于在待检测图像中，按照预设阈值缩小第一目标检测框的尺寸，得到第一紧致目标检测框。
178.第四构建单元用于基于图像采集装置的图像采集位置，以及第一紧致目标检测框在待检测图像上的的紧致检测框位置，构建第一紧致目标检测框在检测空间中的第二投影区域。
179.第五构建单元用于在检测空间中，基于第二投影区域和第三候选目标检测框，构建得到更新后的第三目标检测框。
180.根据本公开的实施例，目标对象检测装置还包括：获取模块和第一融合模块。
181.获取模块用于获取目标检测时间段内采集到的多帧第一点云数据，其中，目标检测时间段与采集待检测图像的图像采集时刻相对应，第一点云数据包括表征目标对象的点云数据。
182.第一融合模块用于融合多帧第一点云数据，得到初始点云数据。
183.根据本公开的实施例，第一检测模块包括：第一检测单元。
184.第一检测单元用于将待检测图像输入至目标检测模型，输出第一目标检测框和针对目标对象的第一深度信息。
185.其中，目标检测模型包括以下至少一项：
186.单目三维目标检测模型、端到端目标检测模型。
187.根据本公开的实施例，目标对象检测装置还包括检测信息确定模块。
188.检测信息确定模块用于在第一深度信息表征目标对象的深度值小于或等于预设距离阈值的情况下，根据第一目标检测框和第一深度信息，确定目标对象的检测信息。
189.根据本公开的实施例，目标对象检测装置还包括：坐标转换模块。
190.坐标转换模块用于根据图像采集装置和毫米波雷达之间的标定关系，对利用毫米波雷达针对目标对象进行探测后得到的点云数据进行坐标转换，得到坐标转换后的初始点云数据。
191.根据本公开的实施例，目标点云数据包括n个，n个目标点云数据中包括m个具有相同的二维坐标的轮廓目标点云数据，目标对象的检测信息包括目标对象深度信息，n和m均为正整数。
192.检测信息生成模块包括：第一确定模块和深度信息生成模块。
193.第一确定模块用于将m个轮廓目标点云数据各自的轮廓点云深度信息中的最小值，确定为目标点云深度信息。
194.深度信息生成模块用于根据目标点云深度信息生成目标对象的目标对象深度信息。
195.根据本公开的实施例的模块、单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
196.例如，第一检测模块610、第一构建模块620、更新模块630、筛选模块640和检测信息生成模块650中的任意多个可以合并在一个模块/单元中实现，或者其中的任意一个模块/单元可以被拆分成多个模块/单元。或者，这些模块/单元中的一个或多个模块/单元的至少部分功能可以与其他模块/单元的至少部分功能相结合，并在一个模块/单元中实现。根据本公开的实施例，第一检测模块610、第一构建模块620、更新模块630、筛选模块640和检测信息生成模块650中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一检测模块610、第一构建模块620、更新模块630、筛选模块640和检测信息生成模块650中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
197.需要说明的是，本公开的实施例中目标对象检测装置部分与本公开的实施例中目标对象检测方法部分是相对应的，目标对象检测装置部分的描述具体参考目标对象检测方法部分，在此不再赘述。
198.图7示意性示出了根据本公开实施例的适于实现目标对象检测方法的电子设备的框图。图7示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
199.如图7所示，根据本公开实施例的电子设备700包括处理器701，其可以根据存储在只读存储器(rom)702中的程序或者从存储部分708加载到随机访问存储器(ram)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如cpu)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(asic))，等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
200.在ram 703中，存储有电子设备700操作所需的各种程序和数据。处理器701、rom 702以及ram 703通过总线704彼此相连。处理器701通过执行rom 702和/或ram 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除rom702和ram 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
201.根据本公开的实施例，电子设备700还可以包括输入/输出(i/o)接口705，输入/输出(i/o)接口705也连接至总线704。系统700还可以包括连接至i/o接口705的以下部件中的一项或多项：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至i/o接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。
202.根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
203.本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
204.根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
205.例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的rom 702和/或ram 703和/或rom 702和ram 703以外的一个或多个存储器。
206.本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序
包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的目标对象检测方法。
207.在该计算机程序被处理器701执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
208.在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分709被下载和安装，和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
209.根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如java，c ，python，“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
210.附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
211.以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。