一种基于程序校验的驾驶推理链蒸馏方法及系统
本发明涉及自动驾驶和人工智能领域,特别是涉及一种通过程序校验提升驾驶推理链质量,并实现车载轻量化部署的方法及系统。
背景技术:
1、在自动驾驶系统中,车辆需要理解自然语言指令并生成可解释的驾驶决策。大型视觉语言模型(vision-language model,vlm)能够生成高质量的驾驶推理链(chain-of-thought, cot),但由于其参数量大、计算资源需求高,无法直接在车载平台上实时运行。知识蒸馏技术通过用大模型(教师大模型)的输出训练小模型(学生模型),以实现模型压缩和部署。然而,教师大模型生成的推理链可能存在错误,如事实错误、规则违反或与最终决策不一致,直接用于蒸馏会导致学生模型学习到错误的推理模式,增加安全风险。
2、现有技术中,有直接使用教师大模型生成的推理链进行蒸馏的方法,但缺乏对推理链中间步骤的正确性校验。另有程序辅助语言模型(如program-aided languagemodels,pal)在推理时调用外部程序执行计算步骤,但这种方法引入额外延迟,不适合车载实时决策,且未针对驾驶场景特有的断言(如空间关系、数值阈值、规则约束)设计校验逻辑。还有基于模型压缩的方法(如量化、剪枝),但仅解决模型大小问题,不保证推理正确性。最接近的现有技术是基于正确性筛选的拒绝采样微调(rejection sampling fine-tuning,rft)方法,但其仅根据最终答案的正确性进行过滤,无法检测中间步骤的错误,且未针对驾驶场景优化。
3、因此,需要一种能够在蒸馏前自动校验和剔除错误推理链,并实现车载轻量化部署的方法,以提升学生模型的推理质量和安全性。
技术实现思路
1、本发明要解决的技术问题是:如何克服车载平台计算资源与实时性要求的限制,生成一种既能保证高决策正确性与推理链可靠性,又能满足实时推理需求的自动驾驶决策模型。
2、具体而言,在通过知识蒸馏将教师大模型生成驾驶推理链的能力迁移至轻量级学生模型的过程中,主要面临以下三个技术障碍:
3、教师大模型生成的推理链中可能包含错误步骤,若直接用于蒸馏,会导致错误被学生模型学习并放大,严重影响其在自动驾驶这类安全攸关场景中的决策可靠性;
4、现有解决方案通过在模型推理时调用外部程序来验证正确性,这会引入不可接受的额外延迟和算力负担,无法满足车载平台的实时性要求;
5、通用的模型压缩技术仅能减小模型规模,但无法保证压缩后的模型其推理逻辑的正确性,安全风险依然存在。
6、上述障碍共同导致了“驾驶推理链的可靠性”与“车载部署的实时性”难以在资源受限的车载平台上兼得的行业难题。
7、本发明的技术问题通过以下技术方案予以解决:
8、第一方面,本发明提供一种基于程序校验的驾驶推理链蒸馏方法,包括以下步骤:
9、s1、通过教师大模型对驾驶训练样本生成至少一条候选驾驶推理链及其对应的最终驾驶决策;
10、s2、在离线阶段,对每条候选驾驶推理链执行程序校验,包括:
11、s2-1、从所述候选驾驶推理链的每一步骤中抽取可形式化的断言;
12、s2-2、将所述断言转写为可执行程序判定式;
13、s2-3、调用独立于所述教师大模型的、用于提供客观场景验证数据的资源,执行所述可执行程序判定式,得到所述断言的真、假或无法判定的判定结果;
14、s2-4、若满足以下条件之一,则剔除该候选驾驶推理链:
15、所述候选驾驶推理链中存在任一断言判定为假;
16、所述最终驾驶决策与所述候选驾驶推理链中所推导出的结论或所声明的约束条件相冲突;
17、s3、使用通过程序校验的候选驾驶推理链及其对应的最终驾驶决策构建蒸馏数据集,并用于训练学生模型;
18、s4、对训练后的学生模型进行量化压缩,并将量化压缩后的学生模型部署至车载平台,用于在线推理阶段直接生成驾驶推理链及其对应的驾驶决策。
19、在一些实施例中,还包括如下技术特征:
20、步骤s2-1中,抽取可形式化的断言基于预定义的断言类型模板和槽位填充规则实现,所述槽位包括对象实体、方位词、数值和动作中的至少一种;
21、步骤s2-2中,所述可执行程序判定式的生成采用参数化模板库,所述参数化模板库包括方位判定模板、距离阈值模板和规则冲突模板中的至少一种。
22、在一些实施例中,所述距离阈值模板中的安全距离阈值函数基于车辆工程中的两秒法则或制动距离模型计算。
23、在一些实施例中,步骤s2-3中,所述用于提供客观场景验证数据的资源包括以下至少一种:人工标注的3d检测框、高精地图api提供的车道信息、独立信号灯检测模块的输出、交通规则知识库;
24、在一些实施例中,步骤s2还包括:
25、s2-5、若所述候选驾驶推理链中存在无法判定的断言,则保守保留该候选驾驶推理链,并记录无法判定的断言的比例,若比例超过预设阈值,则触发人工抽检或二次校验;其中,所述预设阈值的取值范围为20%至50%。
26、在一些实施例中,步骤s3中,构建蒸馏数据集时,根据所述候选驾驶推理链的通过强度对其进行加权;所述通过强度定义为该候选驾驶推理链中,判真断言数占可形式化断言总数的比例。
27、在一些实施例中,步骤s4中,所述量化压缩采用训练后量化或量化感知训练,并对敏感层保留较高精度,对非敏感层量化至低位宽。
28、第二方面,本发明提供一种基于程序校验的驾驶推理链蒸馏系统,包括:
29、教师推理生成模块,用于通过教师大模型生成候选驾驶推理链及其对应的最终驾驶决策;
30、程序校验模块,被配置为在离线阶段,对每条候选驾驶推理链执行程序校验,所述程序校验模块包括:
31、断言抽取子模块,被配置为从所述候选驾驶推理链的每一步骤中抽取可形式化的断言;
32、程序判定式生成子模块,被配置为将所述断言转写为可执行程序判定式;
33、执行判定子模块,被配置为调用独立于所述教师大模型的、用于提供客观场景验证数据的资源,执行所述可执行程序判定式,得到所述断言的真、假或无法判定的判定结果;
34、蒸馏数据构建模块,被配置为若满足以下条件之一,则剔除该候选驾驶推理链:所述候选驾驶推理链中存在任一断言判定为假;或所述最终驾驶决策与所述候选驾驶推理链中所推导出的结论或所声明的约束条件相冲突;并使用通过程序校验的候选驾驶推理链及其对应的最终驾驶决策构建蒸馏数据集;
35、学生训练模块,被配置为使用蒸馏数据集训练学生模型;
36、轻量化与部署模块,被配置为对学生模型进行量化压缩并部署至车载平台;
37、其中,部署至车载平台的学生模型被配置为,在在线推理阶段接收实时输入并生成驾驶推理链及其对应的驾驶决策。
38、第三方面,本发明提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面的驾驶推理链蒸馏方法。
39、第四方面,本发明提供一种电子设备,包括处理器和存储器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现第一方面的驾驶推理链蒸馏方法。
40、第五方面,本发明提供一种车载计算平台,包括处理器和存储器,所述存储器中存储有经量化压缩的学生模型,所述学生模型通过第一方面的驾驶推理链蒸馏方法训练得到,用于实时生成驾驶推理链及其对应的驾驶决策。
41、本发明与现有技术对比的有益效果包括:
42、本发明提供了一种能够在确保自动驾驶决策高可靠性与可解释性的前提下,实现车载高效实时推理的模型训练与部署一体化解决方案。该整体有益效果是通过本发明的整体技术方案协同实现的,具体体现如下:
43、从根本上提升了自动驾驶决策的可靠性与安全性:这是通过“程序校验”步骤的全部特征组合实现的。技术方案通过从推理链中抽取可形式化断言、转写为可执行程序判定式、并调用独立于所述教师大模型的、用于提供客观场景验证数据的资源执行验证,构建了一个客观的、自动化的校验体系。该体系能够有效识别并剔除含有错误断言或与最终决策冲突的推理链。由此,学生模型通过学习这些经过验证的高质量推理链,避免了错误推理模式的传播,其生成的驾驶决策天然具有更高的正确性和安全性。这一效果是“程序校验”各个环节协同作用的整体结果,而非单一特征所能实现。
44、实现了车载部署的实时性与高效性:这是通过“离线阶段”执行程序校验与“在线推理阶段”学生模型直接生成这一核心架构设计实现的。该设计将计算密集型的程序校验过程前置到离线阶段完成,确保了最终部署到车载平台的学生模型在在线推理时无需调用任何外部程序或求解器。因此,该技术方案从根本上避免了现有技术因推理时调用程序而引入的额外延迟和算力负担,使得轻量化的学生模型能够满足车载平台的实时性要求。“离线校验,在线零负担”是本发明方案固有的、整体的特性。
45、整体上,本发明通过“离线程序校验”与“在线零程序负担”相结合的架构,协同解决了“可靠性”与“实时性”在自动驾驶模型部署中的核心矛盾,从而取得了上述整体有益效果。
46、此外,在一些实施例中,还具有如下有益效果:
47、通过断言抽取和可执行程序判定式生成的专业化设计,本发明能够有效处理驾驶场景特有的空间关系、数值阈值和规则约束断言,提升了校验的准确性和覆盖范围。保守的剔错策略和无法判定断言的处理机制减少了误剔正确推理链的风险,并通过监控和干预措施保持了由教师大模型生成的数据的多样性和泛化能力。校验感知的加权训练使学生模型更倾向于学习被客观证据支持的推理,进一步提升了模型质量。量化过程中的混合精度和关键层保护技术在压缩模型的同时保持了生成质量,确保了车载部署的可行性。
48、本发明实施例中的其他有益效果将在下文中进一步述及。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com