一种基于多特征融合和深度学习的隐写分析方法与流程

1.本发明涉及网络空间安全中的内容安全领域，具体涉及一种基于多特征融合和深度学习的隐写分析方法。


背景技术：

2.传统的隐写分析包括spam，srm，maxsrm和它的变体maxsrmd2，通过人工设计的滤波器提取图像的特征然后对载密图像进行判别。he等人通过对特征通道间的相关性进行建模，把重要的特征进行强化来提升准确率，提出了squeeze
‑
and
‑
excitation networks，该网络在imagenet上top5的错误率达到了2.251％，取得了2017ilsvr竞赛的冠军。ding等人用结构重参数化 (structural re
‑
parameterization)“复兴”vgg式单路极简架构，使用单一的3x3卷积结构，在速度和性能上达到sota(state of the art)水平，在 imagenet上超过80％正确率。在nvidia 1080ti gpu上，repvgg模型的运行速度比resnet
‑
50快83％，比resnet
‑
101快101％，具有更高的精度，并且与诸如efficientnet和resnet的最新模型相比，显示出良好的精度
‑
速度折衷。随着卷积神经网络快速发展，越来越多的研究者开始将深度神经网络和隐写分析结合起来，通过学习载密图像和非载密图像的特征来训练神经网络来判别载密图像。
3.针对现有的隐写分析方法对图像尺寸和隐写算法具有较高的依赖性，分类准确率低，以及需要大量的算力来训练隐写分析模型，我们提出一种新型隐写分析模型，使用repvgg模块和se模块构建隐写分析模型，将srm(spatialrich model)，maxsrm，maxsrmd2三种特征数据融合成三通道的特征矩阵作为隐写分析模型的输入，三种特征数据的融合能够更加全面的提取隐写图像的特征使得隐写分析模型具有更好的通用性，同时解决了传统隐写分析模型对图像尺寸的依赖性提高了模型的实用性。


技术实现要素：

4.本发明的目的在于提供一种基于多特征融合和深度学习的隐写分析方法，该方法使用repvgg模块和squeeze
‑
and
‑
excitation(se)模块构建被命名为 sfrnet，使用三种特征提取方法对图片进行特征提取，将提取到的特征融合为固定大小的特征矩阵作为sfrnet的输入，通过微调重要参数的方式提高模型的训练速度和测试准确率。本发明使用repvgg模块和se模块来构建深度学习网络，使其能够应用于本方法的隐写分析数据集，使用repvgg模块加快推理速度和提高内存利用率，大大降低了训练的时间开销，使用se模块加快了模型的收敛速度同时提高了测试准确率，能够更快更准确的学习不同隐写算法的特征从而实现对隐写分析模型的通用性。
5.本发明的技术方案是：
6.一种基于多特征融合和深度学习的隐写分析方法，其隐写分析模型使用 repvgg模块和se模块构建，将srm、maxsrm、maxsrmd2三种特征提取方法获得的特征融合成固定大小的特征矩阵作为sfrnet的输入，通过对关键参数的微调对该模型进行训练和测试，设置
训练epoch为150，包括以下步骤：
7.步骤1、制作预处理所需的数据集；
8.步骤2、分别使用srm、maxsrm、maxsrmd2三种特征提取方法对步骤1生成的数据集进行特征提取；
9.步骤3、对步骤2提取的三种特征进行融合获得固定大小的特征矩阵；
10.步骤4、使用步骤3获得的数据对使用repvgg模块和se模块构建的模型进行训练和测试。
11.具体地：步骤1、使用wow、s
‑
uniward、hugo、mipod四种隐写算法以及两种载荷payload＝0.2bpp，payload＝0.4bpp对原始的bossbase ver.1.01.数据集进行隐写，获得八个不同的载密图像(stego)数据集，分别将不同的载密数据集与原始数据集(cover)组合获得八个不同的cover
‑
stego数据集。
12.步骤2、三种特征的提取流程分别为滤波、截断量化、合并重排，首先使用 30个高通滤波器和公式(1)对步骤1中的数据滤波得到残差图像然后使用公式(2)对残差图像截断和量化，使用公式(3)(4)(5)分别得到三种提取方法在两个不同方向上的共生矩阵，再通过公式(6)，(7)对两个共生矩阵进行组合和重排得到特征向量f
srm
，f
maxsrm
，f
maxsrmd2
。
[0013][0014][0015][0016][0017][0018][0019][0020]
步骤3、将步骤2中提取的三个特征向量使用公式(8)进行特征融合得到最终的特征矩阵；
[0021][0022]
步骤4、将步骤3中生成的特征矩阵作为模型的输入来训练sfrnet，从而使得训练好的模型可以更准确的识别载密图像和非载密图像，具体过程见公式 (9)(10)：
[0023]
map(.)
←
sefnet(mf
cover
,mf
stego
)
ꢀꢀ
(9)；
[0024][0025]
本发明具有以下特点：
[0026]
1、本发明对传统的单特征隐写分析模型做了改进和创新，使用三种不同的特征提取方法获取特征并融合成三通道的特征矩阵，使得该特征矩阵能够包含多种类型的特征，能够提高模型的鲁棒性，提高模型对不同隐写算法的学习性能。
[0027]
2、使用repvgg模块和se模块来构建深度学习网络，使其能够应用于本发明的隐写分析数据集，使用repvgg模块加快推理速度和提高内存利用率，大大降低了训练的时间开销，使用se模块加快了模型的收敛速度同时提高了测试准确率，能够更快更准确的学习不同隐写算法的特征从而实现对隐写分析模型的通用性。
[0028]
3、本发明改进了隐写分析网络的数据输入方式，使用预处理过的特征矩阵而不是图像本身，从而避免了隐写分析网络对图像大小的依赖性，大大提高了本发明的实用性。
[0029]
综上，本发明所提出的架构关键部分是使用三种特征提取方式进行多特征融合获取固定大小的特征矩阵，以及使用se模块和repvgg模块构建隐写分析模型sfrnet，将融合的多特征作为隐写分析模型的输入对模型进行训练，从而实现对载密图片的识别。所提出架构的另一关键是使用四种主流的空域隐写算法(hugo,s
‑
unwiward,wow,mipod)生成的数据集训练该模型，使得模型具有更高的通用性和鲁棒性。
附图说明
[0030]
图1是特征提取过程；
[0031]
图2是三种特征提取方法使用的高通滤波器；
[0032]
图3是repvgg模块的网络结构；
[0033]
图4是se模块的网络结构；
[0034]
图5是sfrnet的网络结构；
[0035]
图6是sfrnet在使用se模块和不使用se模块时的准确率对比；
[0036]
图7是sfrnet在使用se模块和不使用se模块时的收敛速度对比；
[0037]
图8是sfrnet在使用三种不同截断值t的准确率对比；
[0038]
图9是sfrnet在使用三种不同截断值t的收敛速度对比；
[0039]
图10是sfrnet与现有隐写分析方案在0.2bpp和0.4bpp下s
‑
uniward和wow 的检测准确率对比；
[0040]
图11是sfrnet与现有隐写分析方案在0.2bpp和0.4bpp下hugo和mipod的检测准确率对比。
具体实施方式
[0041]
下面通过附图和实施例对本发明做进一步描述。
[0042]
一种基于多特征融合和深度学习的隐写分析方法，通过三种特征提取方案将提取到的特征融合为多特征矩阵，使用原始bossbase ver.1.01.数据集和四种主流空域隐写算法两种载荷生成的载密数据集进行分类，将使用repvgg模块和se模块构建的sfrnet进行微调用与载密图像的训练和测试。包括以下步骤：
[0043]
步骤1、制作预处理所需的数据集；
[0044]
步骤2、分别使用srm、maxsrm、maxsrmd2三种特征提取方法对步骤1生成的数据集进行特征提取，分别获取三种187*187大小的特征向量；
[0045]
步骤3、对步骤2提取的三种特征向量进行融合获得固定大小的特征矩阵；
[0046]
步骤4、使用步骤3获得的数据对使用repvgg模块和se模块构建的模型进行训练和测试。
[0047]
具体的：步骤1、使用wow、s
‑
uniward、hugo、mipod四种隐写算法以及两种载荷0.2bpp，0.4bpp对原始的bossbase ver.1.01.数据集进行隐写，获得八个不同的载密图像(stego)数据集，分别将不同的载密数据集与原始数据集 (cover)组合获得八个不同的cover
‑
stego数据集。
[0048]
步骤2、三种特征的提取流程分别为滤波，截断量化，合并重排，见图1；首先使用如图2的30个高通滤波器和公式(1)对步骤1中的数据滤波得到残差图像然后使用公式(2)对残差图像截断和量化，使用公式(3)(4)(5)分别得到三种提取方法在两个不同方向上的共生矩阵，再通过公式(6)，(7)对两个共生矩阵进行组合和重排得到特征向量f
srm
，f
maxsrm
，f
maxsrmd2
。
[0049][0050][0051][0052][0053][0054][0055][0056]
步骤3、将步骤2中提取的三个特征向量使用公式(8)进行特征融合得到最终的特征矩阵。
[0057][0058]
步骤4、将步骤3中生成的特征矩阵作为模型的输入来训练sfrnet，从而使得训练好的模型可以更准确的识别载密图像和非载密图像，具体过程见公式 (9)(10)。
[0059]
map(.)
←
sefnet(mf
cover
,m
fstego
)
ꢀꢀ
(9)
[0060][0061]
本发明的网路结构使用repvgg模块和se模块构建，具体网络结构如图3
‑ꢀ
5所示，其中图3为repvgg模块的网络结构，图4为se模块的网络结构，图 repvgg模块和se模块所构建模型的网络结构，该网络的结构的数据输入大小为187*187*3，输出为样本属于载密图像概率和非载密图像的概率。该网络由大量的repvgg模块组成和三个se模块组成。表1是sfrnet与现有隐写分析方案在0.2bpp和0.4bpp下s
‑
uniward和wow的检测准确率对比，其中sfrnet 对0.2bpp和0.4bpp的s
‑
uniward算法检测率分别达到了72.5％和89.6％，相对于已有最优的隐写分析方案zhu
‑
net分别提高了1％和4.9％，对0.2bpp和 0.4bpp的wow算法检测率分别达到了76.8％和87.9％。表2是sfrnet与现有隐写分析方案在0.2bpp和0.4bpp下hugo和mipod的检测准确率对比，其中 sfrnet对0.2bpp和0.4bpp的mipod算法检测率分别达到了75.2％和84.1％，相对于zhu
‑
net分别提高了10％和8％；对0.2bpp和0.4bpp的hugo算法检测率分别达到了75.4％和83.6％，相对于zhu
‑
net分别提高了7.3％和4.3％，表1和表2表明sfrnet对四种主流的隐写算法具有更好的检测表现，具有更高的通用性。表3是sfrnet与已有隐写分析方案在参数量，训练时间，测试时间上的对比，相对于已有的方案sfrnet具有相对较少的参数量，是zhu
‑
net参数的量一半，训练时间是其大约三分之一，在保持准确率的同时大大减少了训练时间和测试时间，具有更高的实用性和可实施性。为验证se模块对该模型的重要性，分别对使用se模块和未使用se模块的sfrnet进行对比实验，图6是sfrnet 在使用se模块和不使用se模块时的准确率对比，图7是sfrnet在使用se模块和不使用se模块时的收敛速度对比，可以很直观的证明se模块有效的提升了sfrnet的准确率和收敛速度。同时为验证不同截断值对sfrnet的影响，分别选取t＝1，t＝2，t＝3进行对比实验，其中图8是sfrnet在使用三种不同截断值t的准确率对比，图9是sfrnet在使用三种不同截断值t的收敛速度对比。图10、图11分别为sfrnet与现有隐写分析方案在0.2bpp和0.4bpp下s
‑ꢀ
uniward和wow的检测准确率对比和sfrnet与现有隐写分析方案在0.2bpp和 0.4bpp下hugo和mipod的检测准确率对比，可以很直观的看出sfrnet相比于已有的隐写分析方案在检测准确率方面的优势。可见在使用多特征融合以及 repvgg模块和se模块可以更好的区分载密图像和非载密图像，同时大大减少训练时间开销和算力开销。
[0062]
表1:
[0063]
[0064]
表2:
[0065][0066][0067]
表3:
[0068][0069]
本发明充分考虑了单特征对于隐写分析准确性的限制，提出使用三种特征进行融合的方式增加特征有效性，通过使用repvgg模块加快推理速度和提高内存利用率，大大降低了训练的时间开销，使用se模块加快了模型的收敛速度同时提高了测试准确率。设计出的sfrnet网络在0.4bpp和0.2bpp上对s
‑ꢀ
uniward算法的检测准确率分别达到89.6％和72.5％，对wow算法的检测准确率分别达到88.2％和76.8％，对mipod算法的检测准确率分别达到84.1％和 75.2％，对hugo算法的检测准确率分别达到83.6％和75.4％，相对于已提出的隐写分析模型准确率得到大幅提高。
[0070]
本发明在改进隐写分析模型输入的同时，采用较为新颖的repvgg模块来构建网络，加快模型收敛的速度，在提高分类的测试准确率的同时大幅节省训练时间开销。
[0071]
以上所述，仅是本发明的较佳实施例而已，并非对本发明作任何形式上的限制，任何未脱离本发明技术方案内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均仍属于本发明技术方案的范围内。