一种基于随机平均Logits集成的对抗攻击方法
本发明涉及人工智能安全,具体涉及一种基于模型集成的对抗攻击方法,特别地涉及一种基于随机平均logits集成的对抗攻击方法。
背景技术:
1、深度神经网络在图像分类、人脸识别、自动驾驶等计算机视觉任务中得到广泛应用。然而,该类网络存在对抗脆弱性,在原始输入图像中添加人眼难以察觉的微小扰动,导致深度神经网络产生错误的分类结果。添加有所述微小扰动的输入图像称为对抗样本。根据攻击者能够获取的模型信息,对抗攻击通常分为白盒攻击和黑盒攻击。在白盒攻击中攻击者能够获取目标模型的网络结构、模型参数及梯度信息;在黑盒攻击中攻击者无法获取上述信息,因而通常需要在一个或多个代理模型上生成对抗样本,并利用对抗样本的跨模型迁移性攻击未知的目标黑盒模型。对抗样本的跨模型迁移性越强,其对未知目标模型的黑盒攻击成功率通常越高。
2、现有用于提高对抗样本迁移性的技术主要包括梯度优化类攻击、输入变换类攻击和模型集成类攻击。模型集成类攻击通过组合多个代理模型的输出信息,降低单一代理模型带来的模型偏差,使对抗样本融合多个代理模型的特征信息。集成方式主要包括预测结果集成、损失函数集成和logits集成,其中,logits能够保留不同类别之间更丰富的相对得分信息,更适用于集成目标。但是,不同代理模型的网络结构、参数分布和决策边界存在差异,同一对抗样本在各模型上的优化路径可能存在较大差异。直接对多个代理模型的预测结果、损失函数或logits进行一次性平均,容易受到不同模型输出波动的影响,使攻击过程中的梯度更新方向不够稳定。
3、部分现有方法通过随机方差缩减降低不同代理模型之间的梯度方差,以改善对抗样本的更新方向。然而,该类方法主要在梯度层面对模型集成过程进行优化,未充分考虑不同代理模型的logits输出本身也可能存在较大的方差和波动。由于梯度是基于攻击目标计算得到的,仅降低梯度层面的方差,仍可能受到不稳定logits集成目标的限制,难以充分提高对抗样本的跨模型迁移性。
4、综上所述,针对上述现有技术中存在的问题,提出一种基于随机平均logits集成的对抗攻击方法。
技术实现思路
1、本发明的主要目的在于提供一种基于随机平均logits集成的对抗攻击方法,旨在logits层面对多个代理模型的输出进行动态维护和随机平均,降低不同代理模型logits输出波动对集成攻击目标的影响,稳定对抗样本的迭代更新方向,从而提高对抗样本的跨模型迁移性和黑盒攻击成功率,以解决现有模型集成对抗攻击主要关注梯度方差,而未充分考虑不同代理模型之间logits输出不稳定的问题。
2、基于本发明的第一个主要方面,提供一种基于随机平均logits集成的对抗攻击方法,包括以下步骤:
3、获取待处理的原始图像、所述原始图像对应的真实类别标签、代理模型集合以及多个攻击参数,并基于所述原始图像初始化外层对抗样本,将初始外层累积梯度设置为零;
4、在每轮外层迭代中,将当前外层对抗样本分别输入代理模型集合中的各代理模型,获得各代理模型输出的logits向量并存储于logits记忆库中,并将当前外层对抗样本作为内层迭代的初始内层样本;
5、在每轮内层迭代中,随机选择一个代理模型,将当前内层样本输入该代理模型,用输出当前logits向量更新logits记忆库中与该代理模型相对应的存储项,同时保持logits记忆库中其余代理模型对应的存储项不变;
6、对更新后的logits记忆库中的全部logits向量求平均获得平均logits向量,基于平均logits向量和真实类别标签构建交叉熵攻击损失函数并计算所述攻击损失函数相对于当前内层样本的梯度,并根据所述梯度更新当前内层样本;
7、重复执行内层迭代直至达到内层迭代次数,基于内层迭代过程中得到的梯度信息更新当前外层对抗样本,并将更新后的外层对抗样本限制在扰动预算范围内;
8、重复执行外层迭代直至达到外层迭代次数,输出最终外层对抗样本。
9、本发明的整体发明构思在于通过为多个代理模型建立logits记忆库,在每次外层迭代中初始化各代理模型的logits,在内层迭代中随机选择一个代理模型并更新其对应的logits存储项,同时保留其他代理模型的历史logits;再对当前logits和历史logits进行平均,构建平均logits攻击目标,基于所述平均logits攻击目标计算梯度并更新对抗样本,从而抑制不同代理模型logits输出波动,获得更加稳定且具有迁移性的梯度更新方向。
10、作为进一步的优选方案,在前述方法中,所述代理模型集合中包含的多个代理模型,每个代理模型具有不同的网络结构或训练参数;
11、随机选择一个代理模型时,以等概率从所述代理模型集合中随机抽取一个代理模型。
12、不同结构或参数的代理模型具有多样化的决策空间,构成的集成目标能够覆盖更广泛的模型分布,等概率随机选择避免了内层迭代对某一特定模型的偏向性,使平均logits的更新过程保持无偏性,从而在统计意义上更加充分地利用各代理模型的有效信息,降低了因代理模型选择偏差引入的额外波动,增强集成攻击目标对不同位置目标代理模型的泛化适配能力。
13、作为进一步的优选方案,在前述方法中,所述获得各代理模型输出的logits向量并存储于logits记忆库的执行步骤如下:
14、在每轮外层迭代开始时,将当前外层对抗样本输入代理模型,得到logits向量;所述logits向量表示为;其中,表示为第轮外层迭代开始时第个代理模型输出的logits向量;表示第个代理模型的logits输出;表示当前外层对抗样本;表示代理模型索引;表示外层迭代轮次;
15、将得到的logits向量按照代理模型索引存储,构成logits记忆库。
16、在logits记忆库的初始化中,确保了每一轮外层迭代时,logits记忆库的全部logits均对齐同一个输入样本状态,为后续内层迭代提供统一的初始集成基准。
17、同时,外层迭代中刷新logits记忆库的操作使内层迭代的起点与当前外层对抗样本保持同步,避免了历史logits与当前样本状态失配而引入的累积误差,保证了随机平均过程在每轮外层循环中的起始一致性。
18、作为进一步的优选方案,在前述方法中,所述对更新后的logits记忆库中的全部logits向量求平均获得平均logits向量,采用以下公式实现:
19、;
20、其中,表示第轮内层迭代的平均logits向量;表示代理模型集合中代理模型的总数;表示代理模型索引;表示第轮内层迭代时logits记忆库中第个代理模型对应的logits向量;表示内层迭代轮次;
21、对于当前内层迭代中被随机选择的代理模型,为根据当前内层样本重新计算得到的当前logits向量;
22、对于当前内层迭代中未被选择的代理模型,为logits记忆库中保存的历史logits向量。
23、通过混合当前新计算logits向量与历史存储logits向量,平均结果既反映了当前内层样本的最新变化,又能保留其他代理模型先前的输出信息,从而在每轮内层迭代中仅对集成目标进行小幅调整而不是彻底的替换,能够很好地抑制单次代理模型更新引擎的输出跳跃,使平均logits沿迭代进程缓慢演化,进而降低了梯度方向的高频振荡,为后续梯度更新提供了更平滑的优化曲面。
24、作为进一步的优选方案,在前述方法中,所述构建交叉熵攻击损失函数并计算所述攻击损失函数相对于当前内层样本的梯度的执行步骤如下:
25、基于第轮的平均logits向量和真实类别标签,按照如下公式计算交叉熵损失:
26、;
27、其中,表示第轮内层迭代对应的攻击损失函数值;表示交叉熵损失函数;表示第轮内层迭代的平均logits向量;表示真实类别标签;表示内层迭代轮次;并计算所述攻击损失函数相对于当前内层样本的梯度:
28、;
29、其中,表示第轮内层迭代计算得到的攻击梯度;表示对当前内层迭代中的内层样本求梯度的数学符号;表示当前内层迭代中的内层样本;表示交叉熵损失函数;表示第轮内层迭代的平均logits向量;表示真实类别标签;表示内层迭代轮次。
30、在该技术方案中,本发明将平稳化的平均logits直接转化为可微分的攻击目标,通过反向传播将基础输出差异量化为对输入样本的梯度信号,该梯度本质上融合了多个代理模型对当前样本的联合灵敏度信息。
31、由于平均logits已具备较低的瞬时波动性,所得梯度方向更能反映多个代理模型一致性的上升方向,从而引导内层样本朝着同时欺骗所有代理模型的方向移动,提高了对抗样本的通用迁移性。
32、作为进一步的优选方案,在前述方法中,所述梯度更新当前内层样本的执行步骤如下:
33、首先,根据内层动量衰减因子、前一轮内层累积梯度及当前攻击梯度,更新内层累积梯度:
34、;
35、其中,表示更新后的内层累积梯度;表示内层动量衰减因子;表示前一轮内层累积梯度;表示第轮内层迭代计算得到的攻击梯度;表示内层迭代轮次;
36、根据内层累积梯度的符号方向结合内层更新步长,更新当前内层样本:
37、;
38、其中,表示更新后的内层样本;表示当前内层迭代中的内层样本;表示内层更新步长;表示符号函数;表示更新后的内层累积梯度。
39、在该执行步骤中,引入了内层动量衰减因子的攻击参数,将当前梯度与历史累积梯度加权融合,使得更新方向不仅依赖于当前批次的梯度,还继承过去迭代的优化惯性,抑制了因单次梯度计算受剩余历史logits影响而产生的随机噪声。
40、动量累积机制在时间维度上平滑了更新轨迹,避免内层样本在迭代后期出现局部震荡,确保内层累积梯度能够收敛到一个稳定且具有代表性的大方向,为外层更新提供可靠的基础信号。
41、作为进一步的优选方案,在前述方法中,所述基于内层迭代过程中得到的梯度信息更新当前外层对抗样本的执行步骤如下:
42、在完成第轮外层迭代中的全部内层迭代后,利用内层迭代最终获得的内层累积梯度、外层动量衰减因子更新外层累积梯度,如下式所示:
43、;
44、其中,表示更新后的外层累积梯度;表示外层动量衰减因子;表示前一轮外层累积梯度;表示完成全部内层迭代后得到的内层累积梯度;表示外层迭代轮次;表示内层迭代次数;
45、根据更新后的外层累积梯度和外层更新步长,更新外层对抗样本:
46、;
47、其中,表示更新后的外层对抗样本;表示当前外层迭代中的外层对抗样本;表示外层更新步长;表示符号函数;表示更新后的外层累积梯度。
48、外层动量机制将内层迭代中的稳定梯度信息跨轮次传递,使得每一轮外层对抗样本的调整均基于完整内层搜索方向,而非单梯度结果,增强了外层更新的鲁棒性。
49、同时,裁剪操作将样本严格限制在扰动预算范围内,保证了生成的对抗样本在人眼不可察觉性约束下保持有效,最终输出的对抗样本承载多轮内层优化积累的迁移性特征,从而实现对未知黑盒目标模型的高攻击成功率。
50、基于本发明的第二个主要方面,提供一种用于实现前述所述方法的基于随机平均logits集成的对抗攻击系统,包括:
51、参数获取模块,用于获取待处理的原始图像、所述原始图像对应的真实类别标签、由多个代理模型组成的代理模型集合、扰动预算上限、外层迭代次数以及内层迭代次数,基于所述原始图像初始化外层对抗样本;
52、logits记忆库初始化模块,用于在每一轮外层迭代开始时,将当前外层对抗样本分别输入所述代理模型集合中的各代理模型,获得各代理模型输出的logits,并将各logits按照其对应的代理模型存储于logits记忆库中;
53、随机平均logits内层迭代模块,用于在每一轮内层迭代中,随机选择代理模型,将当前内层样本输入代理模型,获得代理模型对应的当前logits,并利用该logits更新logits记忆库中与代理模型相对应的存储项,同时保持记忆库中其余代理模型对应的存储项不变;
54、平均logits攻击梯度计算与内层更新模块,用于对更新后的logits记忆库中各代理模型对应的logits进行平均,获得平均logits并与真实类别标签构建攻击损失函数,计算攻击损失函数相对于当前内层样本的梯度,并根据梯度更新当前内层样本;
55、外层更新模块,用于根据基于内层迭代过程中得到的梯度信息更新当前外层对抗样本,并将更新后的外层对抗样本限制在原始图像对应的扰动预算范围内;
56、输出模块,用于完成外层迭代后,输出最终外层对抗样本。
57、基于本发明的第三个主要方面,提供一种电子设备,包括:处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
58、所述存储器中存储有计算机程序,当所述程序被所述处理器执行时,使得所述处理器执行前述所述基于随机平均logits集成的对抗攻击方法。
59、基于本发明的第四个主要方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被执行时实现前述所述的基于随机平均logits集成的对抗攻击方法。
60、与现有技术相比,本发明提供了一种基于随机平均logits集成的对抗攻击方法,首先,本发明通过构建logits记忆库并在内层迭代中随机更新单一代理模型的logits,使集成目标不再受所有模型同步输出波动的直接影响。由于每一次引入一个模型的当前logits,其余模型保留历史logits,平均logits随迭代变化幅度趋于平缓,集成攻击目标的稳定性增强。在此基础上计算的梯度方向更为一致,避免了因目标值震荡导致的更新方向偏移,从而保证了对抗样本在迭代过程中的有效收敛。
61、其次,本发明中稳定的梯度更新路径使得生成的对抗样本更充分地兼容多个代理模型的决策边界,在代理模型集合中具有更高的攻击一致性。这种一致性直接转化为更强的跨模型迁移性,在面向未知架构、未知参数的目标黑盒模型实施攻击时,无需额外适配即可获得更高的攻击成功率。与仅关注梯度方向方差缩减的现有技术相比,本发明在logits源头抑制了波动,效果更为根本且稳定。
62、此外,本发明仅需在每层迭代中计算单个代理模型的前向传播,相比每次迭代计算全部代理模型的集成方式,计算效率更高,对硬件资源的需求更低。本发明独立于具体的代理模型类型和攻击基座,可与多种现有攻击框架结合使用,具有良好的通用性和扩展性,为黑盒对抗攻击提供一种高效且实用的技术手段。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com