一种应用于ADAS域控制器的多轮安全评估方法及ADAS域控制器与流程
本发明涉及智能驾驶安全评估,特别涉及一种应用于adas域控制器的多轮安全评估方法及adas域控制器。
背景技术:
1、随着大语言模型及智能体系统在智能驾驶领域的规模化部署,adas域控制器需要同时承担人机交互和自动驾驶规划控制的双重任务,对这类系统的安全评估面临新的挑战,现有技术存在以下不足:
2、一、现有技术多采用单轮静态评估方式
3、现有技术通常预先构造若干风险提示词或标准化问句,将其逐条输入目标系统,再根据目标系统是否拒答、是否出现敏感词来给出测试结论。这类方法的核心缺陷在于:各测试样本相互独立,不构成连续上下文条件下的路径搜索与边界逼近,然而,实际应用中目标系统的安全风险往往体现在连续对话过程中出现的“边界松动”现象——即在多轮交互中从明确拒绝逐步转向模糊响应、局部泄露乃至高风险输出。单轮静态评估无法捕捉这种渐进式的安全边界漂移。
4、二、现有技术缺乏闭环反馈与自适应调整机制
5、现有评估方法通常采用固定的测试流程,评估策略在测试开始前即已确定,无法根据目标系统的实时响应动态调整后续的探索方向,这导致评估过程缺乏针对性,在有限的计算资源和评估预算下,难以自动聚焦于高风险路径,评估效率较低。
6、综上所述,现有技术亟需一种能够模拟连续交互过程、具备自适应调整能力的多轮安全评估方法。
技术实现思路
1、鉴于现有技术中存在的技术缺陷和技术弊端,本发明实施例提供克服上述问题或者至少部分地解决上述问题的一种应用于adas域控制器的多轮安全评估方法及adas域控制器,具体方案如下;
2、作为本发明的第一方面,提供一种应用于adas域控制器的多轮安全评估方法,包括以下步骤:
3、评估初始化:获取待评估的目标系统及其预期安全行为标签;
4、首轮扰动生成与初始评估:基于所述预期安全行为标签和风险场景集合,通过动态异构扰动生成模块并发生成首轮候选扰动样本,将选中的扰动样本输入所述目标系统以获得初始响应,再由联合裁决与风险度量模块对所述初始响应进行多维度的安全评分;
5、搜索树构建与迭代探索:以所述初始响应为起点,将每次后续交互作为一个节点,构建并维护一棵安全评估搜索树;在每一轮迭代中,通过搜索与边界逼近模块从所述搜索树上选择待扩展路径,基于所选路径的状态由所述动态异构扰动生成模块生成下一轮扰动样本并输入所述目标系统,获得新响应后进行评分并扩展所述搜索树,再通过价值回溯更新所述搜索树上各节点的评估信息;
6、闭环反馈与报告输出:根据所述价值回溯的结果,通过策略调度模块动态调整所述动态异构扰动生成模块后续的扰动生成策略,并在满足预设终止条件时,由控制输出模块输出包含风险等级和边界路径的综合评估报告。
7、在一些实施例中,所述评估初始化步骤和所述首轮扰动生成与初始评估步骤中,所述动态异构扰动生成模块从规则模板库、知识脚本库、人工编排器、轻量推理模型和辅助提议器中选取至少两者,并发生成候选扰动样本,汇集形成冗余候选池,以供所述搜索与边界逼近模块从中选取待输入的扰动样本;
8、所述联合裁决与风险度量模块包括依次连接的规则引擎、模型裁判和一致性判别器,其中:所述规则引擎用于基于预设的安全规则对所述目标系统的响应进行快速过滤,将明确违规或安全的响应直接输出至所述一致性判别器,将无法判定的灰色地带响应传递给所述模型裁判;所述模型裁判用于对接收到的所述灰色地带响应进行语义层面的细粒度评分,并将评分结果输出至所述一致性判别器;所述一致性判别器用于综合所述规则引擎的直接输出和所述模型裁判的评分结果,并结合历史上下文信息,生成综合评估值。
9、在一些实施例中,所述搜索树构建与迭代探索步骤中,所述搜索与边界逼近模块采用蒙特卡洛树搜索mcts作为所述树搜索算法;所述搜索树的一个节点至少保存当前轮次的输入、所述目标系统的输出、上下文摘要、评估标签、风险得分和稳定性状态;
10、所述路径探索按照以下子步骤执行:
11、路径选择:从根节点开始,依据边界逼近评分函数选择最优子节点,重复此过程直至到达一个尚可扩展的叶子节点;
12、节点扩展:由所述搜索与边界逼近模块从所述冗余候选池中选取综合价值最优的扰动样本,将其输入所述目标系统并获得新一轮响应,再由所述联合裁决与风险度量模块对所述响应进行评分,生成一个新节点挂载至所述搜索树;
13、前瞻模拟:对所述新节点执行可变深度的前瞻模拟,以生成若干探测性扰动样本并测得前瞻效用值,用于估计该节点的长期边界松动潜力;
14、回溯更新:将即时风险值与所述前瞻效用值按预设权重融合为综合评估值,并沿所述路径选择的搜索路径向根节点反向传播,更新沿途各节点的访问次数和累积价值。
15、在一些实施例中,所述路径选择步骤中,所述边界逼近评分函数采用以下公式计算:
16、
17、其中,q(n)表示节点n的累积评估值;n(n)表示节点n已被访问的次数;p(n)表示节点n的先验权重;d(n)表示节点n的深度偏置项,用于鼓励对深层路径的探索;v(n)表示节点n的语义新颖性与边界推进性联合项,用于衡量该节点相对于已有路径的探索价值;s(n)表示节点n的稳定性惩罚项,用于抑制响应波动较大的路径;c、α、β、γ为预设的可配置权重系数。
18、在一些实施例中,所述首轮扰动生成与初始评估步骤和所述闭环反馈与报告输出步骤中,所述策略调度模块根据各扰动策略的历史收益、当前边界松动趋势以及与当前风险场景的相关性,从预设的策略池中筛选出top-k个高价值扰动策略,并指示所述动态异构扰动生成模块优先采用所述top-k个高价值扰动策略生成候选扰动样本;
19、所述策略调度模块还用于维护各扰动策略的历史收益,并通过指数移动平均公式对各扰动策略的收益进行动态更新:
20、
21、其中,emat(k)表示在第t轮评估时,扰动策略k的累计期望收益;rewardt(k)表示扰动策略k在当前第t轮所产生的综合评估值;η为预设的更新系数,用于控制历史收益与当前收益之间的权重平衡。
22、在一些实施例中,所述回溯更新步骤中,所述综合评估值由以下综合评估值函数计算得出:
23、
24、其中,risk_adas 表示自动驾驶规划与控制误导风险得分;leak 表示部分敏感信息泄露得分,用于量化所述目标系统的响应中泄露受保护信息的程度;trend 表示边界松动趋势得分,用于衡量所述目标系统在连续多轮交互中从拒答向配合转变的趋势强度;novelty 表示响应推进性得分,用于评估当前轮响应相对于历史响应在语义上的推进程度;refusal 表示明确拒止强度,用于量化所述目标系统拒绝执行请求的坚决程度;redundancy 表示重复无效响应程度,用于量化所述目标系统输出与历史响应高度相似或无信息增量内容的程度;至与、均为预设的可配置权重参数,用于调节各指标在所述综合评估值中的相对重要性。
25、在一些实施例中,所述评估初始化步骤中,所述评估初始化还包括:
26、获取所述目标系统的工作模式,所述工作模式包括纯软件仿真模式和硬件在环hil模式;
27、其中,所述目标系统包括运行于所述adas域控制器上的上层智能交互系统和下层自动驾驶规划控制系统;
28、若所述工作模式为所述纯软件仿真模式,则所述上层智能交互系统和所述下层自动驾驶规划控制系统均在所述adas域控制器的虚拟机或仿真环境中运行;
29、若所述工作模式为所述硬件在环hil模式,则所述上层智能交互系统在所述adas域控制器的ai芯片上真实运行,所述下层自动驾驶规划控制系统的输出经物理沙箱隔离电路或影子系统网关进行拦截和虚拟化仿真回传后,连接到车辆动力学模型或硬件执行机构模拟器,以在安全隔离的条件下评估所述目标系统对真实物理环境的响应行为。
30、在一些实施例中,所述闭环反馈与报告输出步骤中,所述预设终止条件包括以下条件中的任意一项被满足时即触发停止搜索:
31、条件一,已达到预设的最大评估轮次;
32、条件二,所述搜索树的深度已达到预设的最大搜索树深度;
33、条件三,所述联合裁决与风险度量模块判定所述目标系统出现了超过预设阈值的显著边界松动;
34、条件四,所述联合裁决与风险度量模块判定所述目标系统在连续多轮交互中产生了异常响应;
35、条件五,所述联合裁决与风险度量模块判定所述目标系统输出了超过预设风险等级阈值的高风险内容。
36、在一些实施例中,所述闭环反馈与报告输出步骤中,所述综合评估报告包括以下内容:
37、核心评估结论,包括:
38、所述目标系统的风险等级;
39、导致所述风险等级的边界路径及各路径的触发条件;
40、辅助分析与建议,包括:
41、所述目标系统在所述边界路径上的稳定性分析;
42、导致边界松动的薄弱点定位;
43、用于复现所述边界路径的测试用例;
44、针对所述薄弱点的整改方向建议。
45、作为本发明的第二方面,提供一种基于内生安全多轮安全评估的adas域控制器,应用如上述任一所述的一种应用于adas域控制器的多轮安全评估方法,包括:
46、样本与场景配置模块,用于获取并存储待评估的目标系统及其预期安全行为标签,以及风险场景集合;
47、动态异构扰动生成模块,运行于所述adas域控制器的通用计算核心,用于基于所述预期安全行为标签和所述风险场景集合,并发生成多源候选扰动样本;
48、策略调度模块,运行于所述adas域控制器的控制调度单元,用于根据历史评估结果动态调整后续扰动样本的生成策略,并指示所述动态异构扰动生成模块采用调整后的策略;
49、联合裁决与风险度量模块,独立部署于所述adas域控制器内部的隔离安全mcu芯片中,用于对所述目标系统的响应进行多维度的安全评分,并生成综合评估值;
50、搜索与边界逼近模块,运行于所述adas域控制器的高性能ai计算核心,用于以每次交互为节点构建安全评估搜索树,并执行路径选择、节点扩展和价值回溯,以逼近所述目标系统的安全边界;
51、控制输出模块,连接至车载网络接口,用于在满足预设终止条件时,输出包含风险等级和边界路径的综合评估报告。
52、本发明具有以下有益效果:
53、本发明提供了一种应用于adas域控制器的多轮安全评估方法。首先,该方法实现了从静态单轮评估向动态多轮评估的升级,通过在连续交互中构建搜索树并迭代探索,能够真实反映目标系统在复杂使用环境中的安全边界漂移现象,解决了现有技术仅能检测单点漏洞而无法捕捉渐进式边界松动的问题。其次,该方法建立了“生成-评估-搜索-反馈”的闭环评估体系,通过价值回溯结果动态调整后续扰动生成策略,使评估过程具备自适应能力,在有限评估预算下自动聚焦于高风险路径。例如,当目标系统在某条对话路径上表现出边界松动迹象时,策略调度模块会自动增加该路径的探索深度,从而更高效地逼近安全边界。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com