一种用于自动驾驶感知模型的低通信联邦训练方法及系统与流程

本发明涉及联邦训练，尤其涉及一种用于自动驾驶感知模型的低通信联邦训练方法及系统。

背景技术：

1、随着车路协同自动驾驶与边缘智能技术的演进，车辆终端、路侧单元及区域边缘节点需要基于本地采集的视频、毫米波雷达点云、激光雷达点云等多源感知数据，联合训练高精度的自动驾驶感知模型，以覆盖道路目标检测、交通参与者识别、异常事件预警等核心任务。为满足数据隐私合规与原始数据不出域的要求，联邦学习成为车路协同场景下分布式模型训练的主流范式：由中央服务器或区域协调节点下发全局感知模型，各边缘节点在本地完成模型训练后，仅上传模型更新差分数据即可实现全局协同优化，全程无需上传原始感知数据与本地标注信息。

2、在上述车路协同联邦训练场景中，上行通信链路是制约训练效率与节点规模的核心瓶颈。车端与路侧节点的上行链路普遍存在带宽波动显著、传输资费受限、跨区域回传延迟高、在线训练窗口期短等约束。与此同时，自动驾驶感知模型通常包含大量卷积层、全连接线性层、注意力投影层等二维矩阵参数，模型参数量随性能提升持续增长，若每轮训练直接上传完整精度的模型差分数据，上传数据量将随模型规模线性攀升，不仅会推高传输成本，还会延长同步周期，限制可参与协同训练的节点数量。

3、现有技术中，本地矩阵更新质量优化与上传通信量压缩两个技术方向相互割裂，无法在带宽受限的车路协同场景下同时实现高质量本地更新与低开销上传传输，难以满足自动驾驶感知模型高效联邦训练的需求。

技术实现思路

1、本发明实施例提供了一种用于自动驾驶感知模型的低通信联邦训练方法及系统，用于解决如下技术问题：在带宽受限的车路协同联邦感知训练场景中，现有技术无法兼顾矩阵参数更新质量与模型差分数据上传效率。

2、本发明实施例采用下述技术方案：

3、一方面，本发明实施例提供了一种用于自动驾驶感知模型的低通信联邦训练方法，方法包括：基于本地数据对服务器下发的本轮全局模型参数进行双分支训练，生成完整模型差分数据；其中，所述双分支训练包括：通过muon近似正交化优化器对矩阵参数进行训练，通过备份优化器对普通参数进行训练；

4、将所述完整模型差分数据拆分为矩阵分支差分数据与普通分支差分数据，分别与对应的历史压缩残差进行合并；对合并后的两个分支差分数据分别进行差异化压缩处理，得到矩阵分支压缩包与普通分支压缩包，合并后得到完整压缩更新包；

5、将所述完整压缩更新包上传至服务器进行模型差分数据重构，完成全局模型的参数更新，并进入下一轮训练。

6、在一种可行的实施方式中，在基于本地数据对服务器下发的本轮全局模型参数进行双分支训练，得到完整模型差分数据之前，所述方法还包括：

7、接收服务器下发的本轮全局模型参数；其中，所述本轮全局模型参数为所述服务器对自动驾驶感知模型初始化后选取的当前训练轮次的全局模型参数；

8、根据所述本轮全局模型参数的结构属性，将其划分为矩阵参数与普通参数。

9、在一种可行的实施方式中，根据所述本轮全局模型参数的结构属性，将其划分为矩阵参数与普通参数，具体包括：

10、将所述本轮全局模型参数中，卷积核重排后的二维矩阵、线性层权重矩阵、注意力投影矩阵、前馈网络权重矩阵划分为矩阵参数；

11、将偏置参数、归一化层参数、一维嵌入缩放参数及无法进行正交化运算的小尺寸参数划分为普通参数。

12、在一种可行的实施方式中，基于本地数据对服务器下发的本轮全局模型参数进行双分支训练，生成完整模型差分数据，具体包括：

13、基于本地数据对所述本轮全局模型参数中的矩阵参数与普通参数分别执行若干步训练，得到本地模型参数；

14、计算所述本地模型参数与所述本轮全局模型参数的差值，得到所述完整模型差分数据。

15、在一种可行的实施方式中，通过muon近似正交化优化器对矩阵参数进行训练，具体包括：

16、通过muon近似正交化优化器计算当前训练步中矩阵参数的梯度矩阵，根据所述梯度矩阵与预设动量系数更新当前动量矩阵；

17、基于所述梯度矩阵与更新后的当前动量矩阵构造预估更新方向矩阵；

18、对所述预估更新方向矩阵进行近似正交化处理，得到正交化后的矩阵更新方向；

19、根据权重衰减系数、矩阵分支专属学习率以及所述正交化后的矩阵更新方向，对所述矩阵参数进行更新，进入下一训练步。

20、在一种可行的实施方式中，将所述完整模型差分数据拆分为矩阵分支差分数据与普通分支差分数据，分别与对应的历史压缩残差进行合并，具体包括：

21、在所述本地模型参数中获取矩阵参数对应的本地矩阵分支参数，以及普通参数对应的本地普通分支参数；

22、计算所述本地矩阵分支参数与所述矩阵参数的差值，得到所述矩阵分支差分数据；计算所述本地普通分支参数与所述普通参数的差值，得到所述普通分支差分数据；

23、将所述矩阵分支差分数据与本地缓存的矩阵分支对应的历史压缩残差进行合并，将所述普通分支差分数据与本地缓存的普通分支对应的历史压缩残差进行合并。

24、在一种可行的实施方式中，对合并后的两个分支差分数据分别进行差异化压缩处理，得到矩阵分支压缩包与普通分支压缩包，合并后得到完整压缩更新包，具体包括：

25、对于合并后的矩阵分支差分数据，通过低秩分解压缩、按照矩阵分块执行top-k稀疏化压缩、分块稀疏化压缩或矩阵感知量化压缩中的至少一种方式进行压缩处理，得到矩阵分支压缩包；

26、对于合并后的普通分支差分数据，通过b-bit定点量化压缩、统一top-k稀疏化压缩、随机稀疏化压缩或熵编码压缩中的至少一种方式进行压缩处理，得到普通分支压缩包；其中，矩阵分支与普通分支分别独立配置压缩强度参数；

27、将所述矩阵分支压缩包与所述普通分支压缩包合并压缩后，得到所述完整压缩更新包。

28、在一种可行的实施方式中，在对合并后的两个分支差分数据分别进行差异化压缩处理，得到矩阵分支压缩包与普通分支压缩包之后，所述方法还包括：

29、对所述矩阵分支压缩包与所述普通分支压缩包进行解压重构，得到矩阵分支重构差分数据与普通分支重构差分数据；

30、计算矩阵分支差分数据与所述矩阵分支重构差分数据的差值，作为新的压缩残差写入矩阵分支对应的缓存区，用于下一轮训练的残差合并；

31、计算普通分支差分数据与所述普通分支重构差分数据的差值，作为新的压缩残差写入普通分支对应的缓存区，用于下一轮训练的残差合并。

32、在一种可行的实施方式中，将所述完整压缩更新包上传至服务器进行模型差分数据重构，完成全局模型的参数更新，具体包括：

33、将本地训练得到的完整压缩更新包汇总至服务器，在所述服务器中执行解压重构，得到各客户端对应的重构模型差分数据；并基于预设聚合规则对各客户端的重构模型差分数据进行聚合，得到全局重构模型差分数据，对所述全局模型参数进行更新，并进入下一轮训练；其中，所述预设聚合规则为fedavg加权平均聚合规则或diloco外层聚合规则。

34、另一方面，本发明实施例还提供了一种用于自动驾驶感知模型的低通信联邦训练系统，所系统包括：

35、双分支训练模块，用于基于本地数据对服务器下发的本轮全局模型参数进行双分支训练，生成完整模型差分数据；其中，所述双分支训练包括：通过muon近似正交化优化器对矩阵参数进行训练，通过备份优化器对普通参数进行训练；

36、压缩更新模块，用于将所述完整模型差分数据拆分为矩阵分支差分数据与普通分支差分数据，分别与对应的历史压缩残差进行合并；对合并后的两个分支差分数据分别进行差异化压缩处理，得到矩阵分支压缩包与普通分支压缩包，合并后得到完整压缩更新包；

37、聚合更新模块，用于将所述完整压缩更新包上传至服务器进行模型差分数据重构，完成全局模型的参数更新，并进入下一轮训练。

38、与现有技术相比，本发明实施例提供的一种用于自动驾驶感知模型的低通信联邦训练方法，具有如下有益效果：

39、本发明通过将模型差分拆分为矩阵分支与普通分支并执行差异化压缩，可大幅减少单轮训练的上传数据量，有效缓解车端、路侧节点的上行带宽压力，在同等带宽条件下提升训练同步频率，或在同等同步频率下支持更多节点参与协同训练，适配车路协同场景的带宽波动与资费约束。

40、通过对二维矩阵参数采用muon近似正交化更新，优化了压缩前模型差分的更新方向结构，提升了差分的信息密度。相较于普通压缩联邦方案，在同等上传通信预算下可获得更高的模型验证精度与更低的验证损失，避免高压缩率导致的模型性能衰减。

41、本发明还为矩阵分支与普通分支的参数结构特征匹配专属压缩策略，充分利用矩阵差分的结构特性提升压缩效率；同时两个分支分别独立维护误差反馈缓存，将每轮压缩产生的残差累积至下一轮差分中进行补偿，有效修正多轮压缩带来的累积偏差，保证训练过程的更新方向准确性。