面向车联网自动驾驶长尾场景的FedFish联邦学习方法及系统

本发明属于人工智能、自动驾驶与分布式隐私计算交叉，具体涉及面向车联网自动驾驶长尾场景的fedfish联邦学习方法及系统。

背景技术：

1、近年来，深度学习在自动驾驶环境感知与目标检测领域取得了突破性进展。传统的自动驾驶模型训练高度依赖将海量路测数据集中收集至云端(车企数据中心)进行。然而，随着全球数据隐私安全法规的收紧，以及车载广域网(4g/5g)传输海量高清视频流的资费极其高昂，导致大量真实边缘路况数据无法全量回传，形成了广泛的数据孤岛。

2、为了打破这一僵局，联邦学习(federated learning，fl)被引入车联网。其核心范式为数据不动模型动：海量在途汽车仅利用本地算力进行模型更新，随后将加密参数上传至云端进行全局聚合。然而，将其部署到真实的量产车载环境中时，面临两大极其严峻的工程瓶颈：

3、第一，极其受限的通信与车载计算瓶颈：自动驾驶视觉大模型的参数规模高达数千万至数亿。在车载广域网不稳定且带宽受限的环境下，频繁上传稠密网络参数不仅极度消耗流量成本，且容易导致通信崩溃。此外，车载计算平台(如nvidia orin)的算力必须绝对优先保障实时安全驾驶感知任务，仅能拨出极小部分空闲显存(常小于2gb)用于后台模型微调，传统的二次求导算法会导致当场内存溢出(oom，out of memory)。

4、第二，极端长尾场景(corner cases)引发的灾难性遗忘：不同地域的车辆采集的数据呈现极端的非独立同分布(non-iid)特征。例如，某些车辆仅在极短时间内遇到过路面坠落的纸箱或横穿马路的野生动物。若采用现有的动态稀疏化技术(feddst)，系统会机械地将负责识别这些罕见特征的小幅度权重作为冗余噪音直接剪除，导致云端聚合后的全局自动驾驶模型永久丧失对该罕见危险场景的识别能力，引发致命的行驶隐患。

5、尽管现有技术在一定程度上缓解了车联网联邦学习的痛点，但在应对真实包含大量长尾场景(corner cases)的复杂驾驶环境时，均存在以下严重的底层理论缺陷与工程局限性：

6、全量联邦框架(fedavg/fedprox)无法克服物理通信壁垒、静态稀疏联邦丧失长尾自适应能力、基于幅度剪枝的动态稀疏联邦(feddst)存在致命的重要性评估错位陷阱、传统的二阶理论解法面临内存与算力双重溢出的工程死穴。

技术实现思路

1、为了解决现有技术中存在的上述问题，本发明提供了一种面向车联网自动驾驶长尾场景的fedfish联邦学习方法及系统。本发明要解决的技术问题通过以下技术方案实现：

2、第一方面，本发明提供了一种面向车联网自动驾驶长尾场景的fedfish联邦学习方法，包括：

3、s1，利用车企云端中心服务器构建用于自动驾驶感知的深层视觉神经网络模型，根据预设初始化策略生成模型的初始全局稀疏参数，将模型的初始全局稀疏参数下发至所有参与本轮训练的汽车边缘节点；

4、s2，通过汽车边缘节点根据自身接收到的模型的初始全局稀疏参数，利用汽车边缘节点在本地行驶中采集到的异构路况隐私数据集进行多轮次本地迭代训练，通过预构建的状态寄生式的二阶信息提取机制，获取汽车边缘节点局部对角费雪信息矩阵的无偏持续近似值；

5、s3，在本地迭代训练达到预设的拓扑演化频率时，根据无偏持续近似值与权重值计算当前网络中各活跃连接的二阶敏感度存活得分；根据二阶敏感度存活得分，将预设休眠比例的活跃连接对应的掩码置零，作为休眠连接；

6、s4，计算当前被掩码置零的休眠连接对当前输入数据批次的瞬时损失梯度绝对值；根据瞬时损失梯度绝对值，将预设连接比例的休眠连接的掩码重新激活并初始化权重，得到更新后的本地掩码；

7、s5，将更新后的本地掩码与对应的非零参数权值加密上传至车企云端中心服务器；利用车企云端中心服务器执行稀疏聚合协议，生成新的全局稀疏参数并下发，迭代执行步骤s2~s5，直至模型满足预设迭代终止条件，使模型在异构网络中实现平滑收敛；

8、其中，预设休眠比例的活跃连接的数量与预设连接比例的休眠连接的数量相同。

9、在本发明的一个实施例中，初始全局稀疏参数，包括：

10、稀疏化后的全局初始模型参数及其掩码拓扑。

11、在本发明的一个实施例中，在二阶信息提取机制中，汽车边缘节点执行局部基于自适应优化器的小批次反向传播更新时，直接截获并提取优化器在内部工作区维护的梯度平方指数移动平均向量，作为汽车边缘节点局部对角费雪信息矩阵 f 的无偏持续近似值。

12、在本发明的一个实施例中，无偏持续近似值的表达式如下：

13、；

14、其中，为第

t轮次的无偏持续近似值，为优化器的二阶动量衰减率，为

t-1轮次的梯度平方指数移动平均向量，为当前路况数据批次计算得到的一阶交叉熵损失梯度。

15、在本发明的一个实施例中，各活跃连接的二阶敏感度存活得分为各活跃连接对应的无偏持续近似值与其权重绝对值平方的乘积。

16、在本发明的一个实施例中，所述根据二阶敏感度存活得分，将预设休眠比例的活跃连接对应的掩码置零，作为休眠连接，包括：

17、根据二阶敏感度存活得分对所有活跃连接进行升序排序，按照预设比例将得分低的活跃连接对应的掩码置零，作为休眠连接。

18、在本发明的一个实施例中，根据瞬时损失梯度绝对值，将预设连接比例的休眠连接的掩码重新激活并初始化权重，得到更新后的本地掩码，包括：

19、根据瞬时损失梯度绝对值从大到小对休眠连接进行排序，按照预设连接比例将梯度绝对值大的休眠连接对应的掩码置1，并以零值或预设高斯噪声进行权重初始化激活。

20、第二方面，本发明提供了一种面向车联网自动驾驶长尾场景的fedfish联邦学习系统，包括：

21、车企云端中心服务器，用于根据预设初始化策略生成模型的初始全局稀疏参数，将模型的初始全局稀疏参数下发至所有参与本轮训练的汽车边缘节点；

22、汽车边缘节点，用于根据自身接收到的初始全局稀疏参数，在本地行驶中采集到的异构路况隐私数据集进行多轮次本地迭代训练，通过预构建的状态寄生式的二阶信息提取机制，获取汽车边缘节点局部对角费雪信息矩阵的无偏持续近似值；在本地迭代训练达到预设的拓扑演化频率时，根据无偏持续近似值与权重值计算当前网络中各活跃连接的二阶敏感度存活得分；根据二阶敏感度存活得分，将预设休眠比例的活跃连接对应的掩码置零，作为休眠连接；计算当前被掩码置零的休眠连接对当前输入数据批次的瞬时损失梯度绝对值；根据瞬时损失梯度绝对值，将预设连接比例的休眠连接的掩码重新激活并初始化权重，得到更新后的本地掩码；将更新后的本地掩码与对应的非零参数权值加密上传至车企云端中心服务器；

23、所述车企云端中心服务器，还用于执行稀疏聚合协议，生成新的全局稀疏参数并下发，以进行下一轮迭代训练，直至模型满足预设迭代终止条件，使模型在异构网络中实现平滑收敛。

24、第三方面，本发明提供了一种电子设备，包括处理器、通信接口、存储器和通信总线，其中，所述处理器、所述通信接口、所述存储器通过所述通信总线完成相互间的通信；

25、所述存储器，用于存放计算机程序；

26、所述处理器，用于执行所述存储器上所存放的程序时，实现本发明所提供的面向车联网自动驾驶长尾场景的fedfish联邦学习方法的步骤。

27、第四方面，本发明提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现本发明实施例所提供的面向车联网自动驾驶长尾场景的fedfish联邦学习方法的步骤。

28、本发明的有益效果：

29、本发明所提供的方案中，突破了传统的低阶数值启发式准则，设计了基于费雪信息矩阵的状态寄生式的二阶信息提取机制；该机制为处于局部休眠状态但承载全局关键特征(如极端长尾路况、corner cases)的权重参数提供了严格的理论保护边界，有效阻断了灾难性遗忘的发生路径，从而显著提升了自动驾驶感知大模型在恶劣长尾环境下的泛化能力与安全性；通过将二阶信息的获取无缝复用于自适应优化器内部维护的指数移动平均状态变量中，在完全不增加车载芯片显存占用、不引入任何额外反向传播浮点运算的严苛条件下，实现了对参数局部真实曲率的无偏估计，赋予了汽车边缘节点执行复杂二阶优化算法的物理可行性，并确保后台联邦微调任务绝不干涉实时自动驾驶主感知进程，彻底规避了内存溢出风险。本发明对活跃连接利用二阶历史费雪信息进行稳健剪枝，对休眠连接利用一阶瞬时梯度进行激进再生，赋予稀疏拓扑强大的动态寻优与自适应能力，加速联邦网络的整体收敛速度与稳定性，在全局联邦训练生命周期内将车云双向通信数据量稳定压缩高达80%以上，极大降低了基于车联网(4g/5g)的大规模分布式协同训练的流量带宽负荷与整体运营成本。