基于零阶查询与局部动量的去中心化协同感知方法及系统

本发明属于车联网与边缘智能计算，特别涉及基于零阶查询与局部动量的去中心化协同感知方法及系统。

背景技术：

1、随着自动驾驶与智能网联汽车的发展，单车依靠自身车载传感器进行环境感知，存在视野遮挡、感知距离有限等不足。车联网（vehicle to everything，v2x）技术使车辆之间能够通过车-车通信（vehicle to vehicle，v2v）共享感知信息，实现多车协同感知，提升对行人、车辆、障碍物等目标的检测精度与覆盖范围。

2、然而，在实际的分布式车联网应用场景下，多车协作训练感知模型面临多方面的实际困难：一是车辆之间通常缺乏统一的协调中心，训练过程中的参数汇总、进度同步与任务调度缺乏统一的组织者；二是车辆高速移动，加之道路环境遮挡、网络切换等因素，车与车之间的连接关系动态变化、时断时续，通信带宽与链路稳定性有限；三是车载设备的计算能力、存储空间与能耗有限；四是车载图像数据往往包含车牌、人脸、行驶路线、位置信息等敏感内容，各方通常不愿意将本地数据或模型交给中心服务器或第三方；五是不同车辆所处环境不同，本地数据的分布存在差异，直接汇聚使用可能影响训练效果；此外，车辆随时可能加入或离开通信范围，参与训练的网络规模也在动态变化。

3、目前，车联网协同感知模型的训练主要采用中心化或联邦学习方式：由中心服务器聚合各车辆上传的模型更新或梯度，或者各车辆与服务器之间进行多轮通信来完成全局模型的训练。这类方法通常要求车辆向服务器上传梯度或模型参数，并且依赖中心服务器或固定的通信同步周期。在优化算法层面，用于深度网络训练的优化器主要包括随机梯度下降、带动量的随机梯度下降、自适应优化器以及针对矩阵形式参数设计的muon优化器即以动量累积并结合对更新方向做正交化处理的优化器；其中所述正交化即对动量矩阵进行奇异值分解的动量奇异值分解（singular value decomposition，svd）正交化，muon优化器通过"动量累积＋正交化"的方式处理模型参数更新方向，可有效缓解深层网络训练中的梯度秩坍缩问题。此外，在梯度不便直接获取或传递的场景下，还发展了仅利用函数值（零阶）信息估计更新方向的方法。

4、上述现有技术在车联网协同感知场景下存在如下问题：在需要将本地模型或梯度上传至中心服务器的场景下，存在隐私顾虑，且中心节点一旦失效训练即中断；在车辆高速移动、连接关系动态变化的场景下，现有方法多假设固定拓扑或周期性同步，难以直接适用，容易导致训练不稳定或失效；现有分布式方法通常需要全局同步的动量或辅助状态，通信开销大，难以在完全去中心化的动态环境中部署；由于各车辆本地数据分布不同，不同节点的更新方向存在差异，直接混合可能相互影响甚至抵消，影响收敛速度与稳定性。

5、需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

技术实现思路

1、为了解决或至少缓解以上问题中的一个或多个，提供了一种基于零阶查询与局部动量的去中心化协同感知方法及系统，无需中心服务器、不向中心传输本地模型与梯度，能够适应车辆间连接关系动态变化，训练过程高效且稳定。

2、为实现上述目的，按照本发明的第一方面，提供基于零阶查询与局部动量的去中心化协同感知方法，包括以下步骤：

3、s1、初始化车联网中各车辆节点的本地感知模型与本地动量，并设置训练参数，所述训练参数包括步长、动量系数、平滑参数、小批量大小、随机方向数、迭代轮数以及车联网的时变混合矩阵序列。

4、s2、各车辆节点根据本地数据，对本地感知模型施加随机扰动方向并进行函数值查询，根据扰动点与当前点的函数值之差估计本地下降方向，得到零阶下降方向估计量。

5、s3、各车辆节点将所述零阶下降方向估计量与历史本地动量进行加权累积，更新本地动量。

6、s4、各车辆节点对更新后的本地动量进行奇异值分解，取左奇异向量矩阵与右奇异向量矩阵的乘积作为正交化更新方向，使各奇异值方向更新幅度均衡。

7、s5、各车辆节点沿所述正交化更新方向更新本地感知模型，得到中间模型。

8、s6、各车辆节点按当前时变的车辆间通信拓扑，将本地中间模型与邻居车辆中间模型进行加权混合，得到更新后的本地感知模型。

9、s7、各车辆节点按当前时变的车辆间通信拓扑，将本地动量与邻居车辆动量进行加权混合，得到更新后的本地动量。

10、重复执行步骤s2至s7，迭代至各车辆节点协同收敛，得到统一的目标感知模型。

11、进一步地，初始化车联网中各车辆节点的本地感知模型与本地动量，并设置训练参数，包括。

12、设置各车辆节点的初始感知模型。

13、按零阶查询估计方式计算首个零阶下降方向估计量，并将其作为各车辆节点的本地动量初值。

14、设置所述步长，且所述步长大于零。

15、设置所述动量系数，且所述动量系数取值在零与一之间，用于权衡历史动量与当前零阶下降方向估计量之间的比重。

16、设置所述平滑参数，且所述平滑参数大于零，用于控制零阶估计中扰动方向的幅度。

17、设置所述小批量大小与所述随机方向数。

18、设置所述迭代轮数。

19、确定车联网各轮次的时变双重随机混合矩阵，所述时变混合矩阵的元素反映当前轮各车辆节点之间的通信连通关系及权重。

20、进一步地，各车辆节点根据本地数据，对本地感知模型施加随机扰动方向并进行函数值查询，根据扰动点与当前点的函数值之差估计本地下降方向，得到零阶下降方向估计量，包括。

21、各车辆节点从本地存储中取出当前本地感知模型并载入内存。

22、从本地数据集中采样小批量数据。

23、生成若干随机扰动方向。

24、对每个随机扰动方向，分别对扰动点与当前点进行前向函数值查询，得到所述扰动点对应的函数值与所述当前点对应的函数值，其中所述扰动点为所述当前本地感知模型与所述随机扰动方向之和。

25、根据所述扰动点对应的函数值与所述当前点对应的函数值之差，按所述随机扰动方向进行加权求和，计算得到所述零阶下降方向估计量。

26、进一步地，所述根据所述扰动点对应的函数值与所述当前点对应的函数值之差，按所述随机扰动方向进行加权求和，计算得到所述零阶下降方向估计量，包括。

27、对各车辆节点，将每个样本对应的所述扰动点函数值与所述当前点函数值之差，乘以模型参数维度与所述平滑参数的比值，再乘以所述随机扰动方向，得到该样本在该随机扰动方向下的方向分量。

28、对同一随机扰动方向下的所有样本的所述方向分量求和。

29、对所有随机扰动方向的求和结果求和，并除以所述小批量大小与所述随机方向数的乘积，得到所述零阶下降方向估计量。

30、进一步地，各车辆节点将所述零阶下降方向估计量与历史本地动量进行加权累积，更新本地动量，包括。

31、读取各车辆节点上一轮的本地动量。

32、按所述动量系数，对所述零阶下降方向估计量与历史本地动量进行加权累积，得到更新后的本地动量。

33、进一步地，各车辆节点对更新后的本地动量进行奇异值分解，取左奇异向量矩阵与右奇异向量矩阵的乘积作为正交化更新方向，使各奇异值方向更新幅度均衡，包括。

34、对更新后的本地动量进行奇异值分解，得到左奇异向量矩阵、奇异值矩阵与右奇异向量矩阵。

35、取所述左奇异向量矩阵与所述右奇异向量矩阵的转置的乘积作为所述正交化更新方向，以使各奇异值方向上的更新幅度均衡。

36、进一步地，各车辆节点沿所述正交化更新方向更新本地感知模型，得到中间模型，包括：沿所述正交化更新方向，以所述步长更新本地感知模型，得到所述中间模型。

37、进一步地，各车辆节点按当前时变的车辆间通信拓扑，将本地中间模型与邻居车辆中间模型进行加权混合，得到更新后的本地感知模型，各车辆节点按当前时变的车辆间通信拓扑，将本地动量与邻居车辆动量进行加权混合，得到更新后的本地动量，包括。

38、各车辆节点根据当前车联网通信拓扑对应的时变混合矩阵，将自身中间模型与邻居车辆的中间模型进行加权求和，得到更新后的本地感知模型。

39、各车辆节点根据同一时变混合矩阵，将自身更新后的本地动量与邻居车辆的本地动量进行加权求和，得到混合后的本地动量。

40、其中，所述时变混合矩阵为双重随机矩阵，其元素反映当前轮各车辆节点之间的通信连通关系及权重。

41、进一步地，所述目标感知模型为卷积神经网络目标检测模型；所述方法应用于自动驾驶车辆协作训练道路目标检测模型，各车辆节点持有本地采集的道路图像数据集，且各车辆节点的数据分布为非独立同分布。

42、重复执行步骤s2至s7，迭代预设轮数，直至各车辆节点的本地感知模型协同收敛，得到目标感知模型，并将所述目标感知模型用于车联网协同感知中的目标检测、识别与跟踪任务。

43、为实现上述目的，按照本发明的第二方面，提供基于零阶查询与局部动量的去中心化协同感知系统，包括。

44、初始化模块，用于初始化车联网中各车辆节点的本地感知模型与本地动量，并设置训练参数，所述训练参数包括步长、动量系数、平滑参数、小批量大小、随机方向数、迭代轮数以及车联网的时变混合矩阵序列。

45、零阶查询估计模块，用于各车辆节点根据本地数据，对本地感知模型施加随机扰动方向并进行函数值查询，根据扰动点与当前点的函数值之差估计本地下降方向，得到零阶下降方向估计量。

46、动量更新模块，用于各车辆节点将所述零阶下降方向估计量与历史本地动量进行加权累积，更新本地动量。

47、正交化模块，用于各车辆节点对更新后的本地动量进行奇异值分解，取左奇异向量矩阵与右奇异向量矩阵的乘积作为正交化更新方向，使各奇异值方向更新幅度均衡。

48、本地模型更新模块，用于各车辆节点沿所述正交化更新方向更新本地感知模型，得到中间模型。

49、模型混合模块，用于各车辆节点按当前时变的车辆间通信拓扑，将本地中间模型与邻居车辆中间模型进行加权混合，得到更新后的本地感知模型。

50、动量混合模块，用于各车辆节点按当前时变的车辆间通信拓扑，将本地动量与邻居车辆动量进行加权混合，得到更新后的本地动量。

51、中心控制模块，用于重复触发零阶查询估计模块、动量更新模块、正交化模块、本地模型更新模块、模型混合模块和动量混合模块，迭代至各车辆节点协同收敛，得到统一的目标感知模型。

52、采用上述技术方案后，本发明与现有技术相比具有以下有益效果。

53、本发明中各车辆节点仅维护本地动量，通过邻居节点间的信息混合实现模型更新，无需中心服务器，也不传输本地数据、梯度或模型，有效保障数据隐私，增强了实际部署的可行性与参与意愿。本发明能够适应车辆高速移动导致的动态拓扑变化，保证训练收敛，适用于真实车联网环境。在优化策略上，通过融合动量累积与奇异值分解正交化，均衡各奇异方向更新幅度，缓解梯度秩坍缩与方向抵消问题，从而显著提升收敛速度与训练稳定性，减少通信轮次。此外，本发明具备良好的扩展性，可适应节点数量与网络规模的变化，且梯度估计与正交化实现方式灵活多样，便于规模化推广应用。

54、具体地，本发明完全去中心化，各车辆节点本地维护动量，仅通过与邻居节点之间的信息混合实现协同训练，不依赖中心服务器，不向中心传输本地数据、梯度与本地模型，可落地、可实施性强，并有助于打消参与方的数据顾虑，激励各方参与协作。

55、具体地，本发明适应车辆间连接关系随时间变化的实际场景，在车辆移动导致链路变化的情况下训练仍能收敛，可在真实车联网环境中使用。

56、具体地，本发明通过动量累积与奇异值分解正交化相结合更新模型，使各奇异值方向上的更新幅度更均衡，缓解梯度秩坍缩，减少因本地数据分布差异引起的方向抵消，从而加快收敛、提升训练稳定性，可用更少的通信轮次达到同等效果。

57、具体地，本发明扩展性好，节点数量与网络规模变化时仍能正常工作，便于规模化部署，且梯度估计方式与正交化实现方式多样，可扩展性强。

58、下面结合附图对本发明的具体实施方式作进一步详细的描述。