一种基于图谱统计异常与腐蚀鲁棒性联合特征的三维点云后门检测方法
本发明属于三维点云安全、计算机视觉安全和深度学习模型安全领域,更具体地,涉及一种基于图谱统计异常与腐蚀鲁棒性联合特征的三维点云后门检测方法、系统、设备及存储介质。
背景技术:
1、三维点云是一种用于描述物体或场景空间结构的重要数据形式,通常由大量三维坐标点组成,能够直接反映目标的形状、轮廓和空间分布信息。随着三维传感器和智能感知技术的发展,点云数据已经广泛应用于自动驾驶环境感知、机器人目标识别、无人系统导航、三维重建以及工业检测等任务中。为了从无序、稀疏且不规则的点云数据中提取有效特征,研究人员提出了多种三维点云深度学习模型,例如 pointnet、pointnet++、dgcnn 等,这些模型在点云分类和识别任务中取得了较好的性能。
2、但三维点云深度学习模型在提升感知能力的同时,也面临模型安全威胁。后门攻击是一类典型的深度学习安全攻击方式,攻击者可以在模型训练阶段通过构造带有特定触发器的投毒样本,使模型学习到隐藏的恶意关联。被植入后门的模型在面对正常点云输入时通常仍能保持较高分类准确率,从而不易被发现;而当输入点云中包含预设触发模式时,模型则可能被诱导输出攻击者指定的错误类别。在自动驾驶、机器人控制和无人系统感知等安全敏感应用中,这类攻击可能导致目标误识别、环境理解错误或决策偏移,因此对三维点云后门样本进行有效检测具有重要意义。
3、现有三维点云后门攻击方法可以在空间域中直接添加触发器,例如额外添加点簇、局部补丁、局部形变或旋转变换等。然而,这类空间域触发器可能在点云几何结构中留下较明显痕迹,容易被人工观察、离群点去除或显著性检测方法发现。为了提高后门攻击隐蔽性,已有研究开始从图谱域角度设计三维点云后门攻击。图谱域后门攻击通常先根据点云构建图结构,再通过图傅里叶变换将点云映射到图谱域,在图谱域中植入触发扰动,最后通过逆图谱变换恢复到空间域。由于扰动在空间域中表现为较分散、较隐蔽的几何变化,因此传统空间域检测方法难以直接发现。
4、针对后门样本检测,现有方法可以从模型输出稳定性、输入扰动响应或腐蚀鲁棒性等角度进行检测。例如,部分方法通过对输入点云施加多种腐蚀扰动,并观察待保护模型输出标签是否发生变化,从而构造腐蚀鲁棒性分数,再利用分类器判断输入样本是否为后门样本。这类方法能够从模型行为角度检测部分后门样本,但其主要依赖模型输出在腐蚀扰动下的稳定性,缺少对三维点云自身图谱统计异常的直接刻画。
5、对于图谱域后门攻击而言,后门触发器虽然可能在空间域中较隐蔽,但仍可能导致图谱频带能量分布、谱熵、高低频比例、高低频能量比等统计特征发生异常变化。如果仅依赖腐蚀鲁棒性特征,可能无法充分利用后门样本自身在图谱域中的异常信息。此外,普通良性扰动如轻微噪声、随机丢点、旋转、缩放或平移等也可能改变点云分布或模型输出稳定性,从而导致检测器产生误报。因此,有必要提出一种能够同时利用点云自身图谱统计异常和模型腐蚀鲁棒性行为异常的联合检测方法,并进一步引入面向普通良性扰动平均误报抑制的校准机制。
技术实现思路
1、针对现有技术的不足,本发明提供一种基于图谱统计异常与腐蚀鲁棒性联合特征的三维点云后门检测方法。该方法通过图谱统计分支提取待检测点云自身的图谱域异常特征,通过腐蚀鲁棒性分支提取待检测点云在多种腐蚀条件下的模型预测稳定性特征,并将两类特征融合后输入后门检测器,从而得到待检测点云的后门风险分数。
2、本发明的目的在于解决以下技术问题:第一,现有三维点云后门检测方法难以充分刻画图谱域后门攻击在频域统计分布上留下的隐蔽异常;第二,单独依赖腐蚀鲁棒性特征的检测方式主要利用模型输出行为,缺少对点云自身图谱结构异常的刻画;第三,普通良性扰动可能引起误报,需要进一步提供良性扰动感知校准机制,使检测器能够学习普通非后门扰动与后门触发异常之间的差异,从而降低普通良性扰动样本被误判为后门样本的概率。
3、为实现上述目的,按照本发明的一个方面,提供一种三维点云后门检测方法,包括以下步骤:
4、步骤(1):检测方获取待检测三维点云样本以及待保护三维点云分类模型 。
5、步骤(2):检测方根据待检测三维点云样本构建点云图结构,并基于所述点云图结构计算图拉普拉斯矩阵及其图谱变换基。
6、步骤(3):检测方基于所述图谱变换基对待检测三维点云样本进行图谱变换,得到图谱域表示,并基于所述图谱域表示提取图谱统计异常特征。
7、步骤(4):检测方构建点云腐蚀扰动集,对待检测三维点云样本施加多种腐蚀扰动,并根据待保护模型在不同腐蚀强度下的预测标签变化情况,提取腐蚀鲁棒性特征。
8、步骤(5):检测方将步骤(3)得到的图谱统计异常特征与步骤(4)得到的腐蚀鲁棒性特征进行融合,得到联合检测特征。
9、步骤(6):检测方将所述联合检测特征输入预先训练好的后门检测器,得到待检测三维点云样本 的后门风险分数。
10、步骤(7):检测方根据所述后门风险分数判断待检测三维点云样本是否为疑似后门样本。若风险分数大于或等于预设阈值,则判定为疑似后门样本;否则判定为正常样本。
11、优选地,在步骤(3)中,所述图谱统计异常特征包括频带能量占比、谱质心、谱熵、低频能量比例、中频能量比例、高频能量比例、最大频带能量占比、高低频能量比和频带总变化量。
12、优选地,所述图谱统计异常特征为 24 维特征,其中包括 16 个频带能量占比、1个谱质心、1 个谱熵、3 个低中高频能量比例、1 个最大频带能量占比、1 个高低频能量比以及 1 个频带总变化量。
13、优选地,在步骤(4)中,所述点云腐蚀扰动集包括高斯噪声腐蚀、随机丢点腐蚀、旋转腐蚀、缩放腐蚀和剪切腐蚀中的至少一种。
14、优选地,每一种腐蚀扰动设置多个强度等级。对于任一种腐蚀扰动,检测方依次增加腐蚀强度,并记录待保护模型输出标签首次发生变化时对应的腐蚀强度等级,作为该腐蚀扰动对应的鲁棒性特征值。若在最大腐蚀强度等级下输出标签仍未发生变化,则将最大腐蚀强度等级加一作为该腐蚀扰动对应的鲁棒性特征值。
15、优选地,所述腐蚀鲁棒性特征为 5 维特征,包括高斯噪声鲁棒性特征、随机丢点鲁棒性特征、旋转鲁棒性特征、缩放鲁棒性特征和剪切鲁棒性特征。
16、优选地,在步骤(5)中,所述联合检测特征通过将图谱统计异常特征和腐蚀鲁棒性特征进行拼接得到。若图谱统计异常特征为 24 维,腐蚀鲁棒性特征为 5 维,则联合检测特征为 29 维。
17、优选地,所述后门检测器包括逻辑回归、随机森林、梯度提升树、支持向量机或神经网络中的至少一种。
18、优选地,本发明还包括良性扰动校准步骤:在训练后门检测器时,对训练集中的干净三维点云样本施加普通非后门扰动,得到良性扰动样本,并将所述良性扰动样本仍标记为正常样本参与训练,使后门检测器学习普通良性扰动与后门触发异常之间的差异,以降低普通良性扰动导致的平均误报率。
19、按照本发明的另一方面,提供一种三维点云后门检测系统,包括:
20、第一模块,用于获取待检测三维点云样本以及待保护三维点云分类模型;
21、第二模块,用于根据待检测三维点云样本构建点云图结构,并计算图谱变换基;
22、第三模块,用于对待检测三维点云样本进行图谱变换,并提取图谱统计异常特征;
23、第四模块,用于构建点云腐蚀扰动集,并根据待保护模型在不同腐蚀强度下的预测标签变化情况提取腐蚀鲁棒性特征;
24、第五模块,用于融合图谱统计异常特征和腐蚀鲁棒性特征,得到联合检测特征;
25、第六模块,用于将联合检测特征输入后门检测器,得到后门风险分数;
26、第七模块,用于根据后门风险分数判断待检测三维点云样本是否为疑似后门样本;
27、第八模块,用于在训练阶段基于训练集中的正常点云样本生成良性扰动样本,并利用所述良性扰动样本对后门检测器进行校准训练,以降低普通良性扰动样本被误判为后门样本的概率。
28、总体而言,通过本发明所构思的以上技术方案,与现有技术相比,至少具有以下有益效果:第一,本发明通过对三维点云进行图谱变换并提取图谱统计异常特征,能够从点云自身频域结构角度刻画图谱域后门攻击造成的频带能量分布异常、高低频比例异常和谱熵异常。第二,本发明在图谱统计异常特征之外,进一步提取腐蚀鲁棒性特征,能够从模型输出行为角度刻画后门样本在多种腐蚀条件下的预测稳定性异常。第三,本发明将图谱统计异常特征与腐蚀鲁棒性特征进行融合,相比单独使用图谱统计特征或单独使用腐蚀鲁棒性特征,能够更全面地描述三维点云后门样本的异常模式。第四,本发明可根据应用需求选择不同检测模式。在快速筛查场景中,可以仅使用图谱统计异常特征;在高安全需求场景中,可以使用图谱统计异常特征与腐蚀鲁棒性特征的联合检测特征;在低误报需求场景中,可以进一步引入良性扰动校准机制。第五,本发明通过良性扰动感知校准机制,将轻度jitter、dropout 等普通非后门扰动样本作为正常样本参与检测器训练,使检测器学习普通扰动与后门触发异常之间的差异,从而降低普通良性扰动造成的平均误报率。该校准机制可作为低误报需求场景下的优选实施方式,与图谱统计异常特征和腐蚀鲁棒性特征的联合检测框架配合使用。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com