一种具身智能幻觉风险判别方法、具身智能系统及介质与流程

摘要: 本申请涉及人工智能,尤其是涉及一种具身智能幻觉风险判别方法、具身智能系统及介质。背景技术:1、具身智能系统融合多模态环境感知、大模型推理决策与物理实体执行,已在...
一种具身智能幻觉风险判别方法、具身智能系统及介质与流程

本申请涉及人工智能,尤其是涉及一种具身智能幻觉风险判别方法、具身智能系统及介质。

背景技术:

1、具身智能系统融合多模态环境感知、大模型推理决策与物理实体执行,已在工业精密装配、微创外科手术机器人、人机协作生产线等高危作业场景得到规模化应用,其输出指令直接驱动物理设备动作,输出正确性直接关系生产安全、设备安全与人员安全。

2、然而,现有具身智能系统普遍存在幻觉风险,即模型在感知信息存在噪声、环境动态变化或领域知识缺失的情况下,仍以高置信度输出与物理实体状态、传感器观测事实、运动学约束不符的错误推理与控制指令,可引发设备碰撞、加工报废、医疗事故等严重后果。实时、准确的幻觉风险判别是具身智能落地高可靠场景的核心前提。

3、当前主流幻觉判别方案普遍采用固定熵值阈值与分级标准,通过计算语义流形熵、推理路径熵、多模态对齐残差等指标,与人工标定阈值比对实现风险判定。该类方案在环境稳定的离线测试场景下精度表现良好,但在工业现场光照昼夜漂移、视觉传感器温漂、设备机械磨损累积、医疗场景术中组织形态牵拉变化等动态运行环境下,特征基线会随运行时长发生系统性慢变漂移,导致固定阈值的误报率与漏检率随运行时间持续上升。部分改进方案采用滑动平均、指数移动平滑等方法动态调整阈值,试图跟随基线变化,但该类方法本质为幅值跟随机制,无法区分“环境正常慢变波动”与“真实幻觉风险导致的特征突变”;当环境持续缓慢漂移时,滑动窗口会不断拉宽阈值容忍度,出现阈值钝化现象,最终丧失判别灵敏度,无法满足高危场景长期连续运行的可靠性要求。

技术实现思路

1、本申请旨在提出一种具身智能幻觉风险判别方法、具身智能系统及介质,能够保障具身智能系统在动态环境下长期运行的幻觉风险判别可靠性。

2、第一方面,本申请实施例提供了一种具身智能幻觉风险判别方法,应用于具身智能系统,所述具身智能幻觉风险判别方法包括:

3、获取所述具身智能系统的环境感知原始数据、具身执行层原始数据、三维感知原始数据和模型推理层原始数据;

4、根据所述环境感知原始数据、所述具身执行层原始数据、所述三维感知原始数据和所述模型推理层原始数据进行多模态深度特征向量计算和特征归一化,得到多维观测特征向量;

5、基于匀加速运动模型,根据所述多维观测特征向量构建卡尔曼滤波模型,利用所述卡尔曼滤波模型预测得到后验基线最优估计,并输出残差向量和残差协方差,其中,所述卡尔曼滤波模型的状态向量包括基线值、基线漂移速率和基线漂移加速度,所述残差向量为所述多维观测特征向量剔除所述后验基线最优估计中的基线值后的纯异常分量;

6、根据所述残差向量和所述残差协方差计算得到显著性得分和一致性得分,所述显著性得分用于衡量残差偏离正常波动的程度,所述一致性得分用于衡量各特征维度残差之间的相依关系偏离正常相依关系的程度;

7、根据所述显著性得分和所述一致性得分进行幻觉风险判别,得到幻觉风险判别结果。

8、第二方面,本申请实施例提供了一种具身智能系统,包括电子设备,所述电子设备包括处理器以及存储有计算机程序指令的存储器;所述处理器执行所述计算机程序时实现如上述第一方面实施例所述的具身智能幻觉风险判别方法。

9、第三方面,本申请实施例提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令在被处理器执行时,用于实现如上述第一方面实施例所述的具身智能幻觉风险判别方法。

10、本申请实施例的具身智能幻觉风险判别方法、具身智能系统及介质,通过获取环境感知、具身执行层、三维感知及模型推理层的多模态原始数据,构建包含基线值、基线漂移速率和基线漂移加速度的卡尔曼滤波状态向量,实现对特征基线动态漂移的精准跟踪与剔除,从而分离出反映真实异常的纯异常分量;在此基础上,结合显著性得分与一致性得分进行多维度风险量化,其中,显著性得分用于衡量残差偏离正常波动的程度,一致性得分用于衡量各特征维度间相依关系的异常程度。本申请有效克服了传统固定阈值或滑动平均方法在长期运行中因环境慢变漂移导致的阈值钝化问题,能够准确区分环境正常波动与真实幻觉风险,显著降低误报率与漏检率,提升具身智能系统在工业精密装配、医疗手术等高危动态场景下的长期运行可靠性与安全性。

11、本申请的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请而了解。

1.一种具身智能幻觉风险判别方法,应用于具身智能系统,其特征在于,所述具身智能幻觉风险判别方法包括:

2.根据权利要求1所述的具身智能幻觉风险判别方法,其特征在于,所述根据所述环境感知原始数据、所述具身执行层原始数据、所述三维感知原始数据和所述模型推理层原始数据进行多模态深度特征向量计算和特征归一化,得到多维观测特征向量,包括:

3.根据权利要求2所述的具身智能幻觉风险判别方法,其特征在于,所述一致性得分的约束公式为:

4.根据权利要求3所述的具身智能幻觉风险判别方法,其特征在于,若所述点云配准对齐分数超过预设对齐阈值,所述点云配准对齐分数对应的预设维度权重等于2,其余维度权重等于1。

5.根据权利要求1所述的具身智能幻觉风险判别方法,其特征在于,所述多维观测特征向量的维数为12,所述显著性得分的约束公式为:

6.根据权利要求1所述的具身智能幻觉风险判别方法,其特征在于,所述根据所述显著性得分和所述一致性得分进行幻觉风险判别,得到幻觉风险判别结果,包括:

7.根据权利要求6所述的具身智能幻觉风险判别方法,其特征在于,所述根据所述显著性得分和所述一致性得分进行幻觉风险等级划分,得到目标幻觉风险等级,包括:

8.根据权利要求7所述的具身智能幻觉风险判别方法,其特征在于,所述根据所述显著性得分和所述一致性得分进行幻觉风险等级划分,得到目标幻觉风险等级,还包括:若连续多个历史采样周期的所述目标幻觉风险等级为中风险,将当前采样周期的所述目标幻觉风险等级确定为高风险。

9.一种具身智能系统,其特征在于,包括电子设备,所述电子设备包括处理器以及存储有计算机程序指令的存储器;所述处理器执行所述计算机程序指令时实现如权利要求1至8中任一所述的具身智能幻觉风险判别方法。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令在被处理器执行时,用于实现如权利要求1至8中任一所述的具身智能幻觉风险判别方法。