一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法

摘要: 本申请涉及深度神经网络,特别是涉及一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法。背景技术:1、随着深度神经网络在计算机视觉领域的广泛应用,模型在图像分...
一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法

本申请涉及深度神经网络,特别是涉及一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法。

背景技术:

1、随着深度神经网络在计算机视觉领域的广泛应用,模型在图像分类任务中取得了较高的识别精度。然而,在输入图像样本中加入微小且难以察觉的扰动后,模型预测结果可能发生显著变化,这类经过精心构造的输入图像样本被称为对抗图像样本。面对对抗图像样本的攻击,对抗训练被认为是最有效的方法之一,在模型训练中加入对抗图像样本,使得训练后的模型学习对抗图像样本的特征,从而达到防御的效果。

2、现有对抗训练技术主要分为两类:一是基于梯度迭代的攻击生成方法,通过单步或多步梯度更新生成对抗图像样本并加入训练集;二是基于生成式模型的扰动生成方法,如利用生成对抗网络或扩散模型构造具有局部结构化特征的扰动,动态参与模型训练。

3、然而,现有技术存在三个主要问题:第一,对未知攻击的鲁棒性不足,模型仅能防御训练中见过的攻击类型,面对未知或新型攻击时性能显著下降;第二,扰动多样性和覆盖范围有限,生成的扰动模式单一,模型缺乏对复杂扰动分布的泛化能力;第三,训练成本高,多步梯度迭代或生成式模型需频繁计算梯度或优化额外网络,导致计算开销大、训练时间长。

技术实现思路

1、为解决现有对未知攻击的鲁棒性、扰动多样性和覆盖范围不足以及训练成本高且效率低的问题,本发明提出了一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法。

2、为了达到上述技术效果,本发明的技术方案如下:

3、一种伪对抗注意力融合鲁棒分类模型,包括:

4、入口流模块、中间流模块、退出流模块和特征融合模块;

5、待分类图像输入入口流模块得到浅层边缘特征,浅层边缘特征输入中间流模块得到局部结构特征,局部结构特征输入退出流模块得到高层语义特征;浅层边缘特征、局部结构特征和高层语义特征输入特征融合模块得到分类结果。

6、本发明还提供一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,包括以下步骤:

7、步骤1:获取数据集中的自然图像样本;对自然图像样本进行攻击得到对抗图像样本,根据自然图像样本和对抗图像样本得到噪声集合;根据噪声集合得到基础噪声分布,对基础噪声分布施加扰动,生成邻近分布集合;

8、步骤2:获取自然图像样本的视觉显著区域和语义区域以及高频边缘区域,并生成稀疏掩码集合;

9、步骤3:从邻近分布集合中采样噪声向量并进行重构得到重构噪声张量,根据重构噪声张量和稀疏掩码集合,生成伪对抗图像样本;

10、步骤4:将所述伪对抗图像样本与自然图像样本混合,构成训练图像样本集;

11、步骤5:构建伪对抗注意力融合鲁棒分类模型,利用训练图像样本集训练伪对抗注意力融合鲁棒分类模型得到训练好的伪对抗注意力融合鲁棒分类模型,待分类图像输入训练好的伪对抗注意力融合鲁棒分类模型,得到分类结果。

12、与现有技术相比,本发明技术方案的有益效果是:

13、本发明提出一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,通过获取数据集中的自然图像样本;对自然图像样本进行攻击得到对抗图像样本,根据自然图像样本和对抗图像样本得到噪声集合;根据噪声集合得到基础噪声分布,对基础噪声分布施加扰动,生成邻近分布集合;获取自然图像样本的视觉显著区域和语义区域以及高频边缘区域,并生成稀疏掩码集合;从邻近分布集合中采样噪声向量并进行重构得到重构噪声张量,根据重构噪声张量和稀疏掩码集合,生成伪对抗图像样本;将所述伪对抗图像样本与自然图像样本混合,构成训练图像样本集;构建伪对抗注意力融合鲁棒分类模型,利用训练图像样本集训练伪对抗注意力融合鲁棒分类模型得到训练好的伪对抗注意力融合鲁棒分类模型,待分类图像输入训练好的伪对抗注意力融合鲁棒分类模型,得到分类结果;本发明通过已有攻击产生的扰动噪声分布,通过特定的扰动策略,生成多样化的伪对抗图像样本,避免依赖单一攻击,使扰动集中于模型判别的关键区域,为模型提供高质量的对抗图像样本,提高模型在对抗扰动和未知攻击场景下的分类稳定性、鲁棒性和泛化防御能力。

1.一种伪对抗注意力融合鲁棒分类模型,其特征在于,包括:

2.根据权利要求1所述的一种伪对抗注意力融合鲁棒分类模型,其特征在于,所述入口流模块包括依次连接的第一卷积层、第二卷积层、第一深度可分离卷积层、第二深度可分离卷积层、第一最大池化层、第一eca通道注意力层、第三深度可分离卷积层、第二最大池化层、第二eca通道注意力层、第四深度可分离卷积层、第三最大池化层、第三eca通道注意力层;第二卷积层的输出端还与第三卷积层的输入端连接,第三卷积层的输出端与第一eca通道注意力层的输入端连接;第一eca通道注意力层的输出端还与第四卷积层的输入端连接,第四卷积层的输出端与第二eca通道注意力层的输入端连接;第二eca通道注意力层的输出端还与第五卷积层的输入端连接,第五卷积层的输出端与第三eca通道注意力层的输入端连接;

3.根据权利要求2所述的一种伪对抗注意力融合鲁棒分类模型,其特征在于,所述第一eca通道注意力层、第二eca通道注意力层、第三eca通道注意力层、第四eca通道注意力层、第五eca通道注意力层、第六eca通道注意力层、第七eca通道注意力层中任意一eca通道注意力层包括:

4.根据权利要求3所述的一种伪对抗注意力融合鲁棒分类模型,其特征在于,所述第一eca通道注意力层、第二eca通道注意力层、第三eca通道注意力层、第四eca通道注意力层、第五eca通道注意力层、第六eca通道注意力层、第七eca通道注意力层中任意一eca通道注意力层包括:

5.一种基于权利要求1至4任一项所述的伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,其特征在于,包括以下步骤:

6.根据权利要求5所述的一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,其特征在于,所述对自然图像样本进行攻击得到对抗图像样本,根据自然图像样本和对抗图像样本得到噪声集合,包括以下步骤:

7.根据权利要求6所述的一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,其特征在于,所述根据噪声集合得到基础噪声分布,对基础噪声分布施加扰动,生成邻近分布集合,包括以下步骤:

8.根据权利要求5所述的一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,其特征在于,所述步骤2包括以下步骤:

9.根据权利要求5所述的一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,其特征在于,所述步骤3包括以下步骤:

10.根据权利要求5所述的一种基于伪对抗注意力融合鲁棒分类模型的鲁棒训练对抗方法,其特征在于,所述待分类图像输入训练好的伪对抗注意力融合鲁棒分类模型,得到分类结果,包括: