一种雷达信号调制类型识别网络轻量化方法

1.本发明属于雷达信号处理技术领域，涉及电子对抗中的雷达辐射源信号分选技术，具体涉及一种雷达信号调制类型识别网络轻量化方法。


背景技术：

2.随着电子技术在军事领域的广泛应用，电子战成为现代战争的重要组成部分。敌我双方通过电子侦察设备搜寻、拦截对方电磁信号，并对电磁信号进行参数估计，进而对辐射源工作状态进行分析、识别和定位，为战场中的防御和攻击提供有力保障，有利于夺取战争的主动权和控制权。雷达信号调制类型识别作为电子侦察中的一项关键技术，其效果直接关系到敌方辐射源识别的准确性和战略决策的可靠性。
3.传统的雷达信号调制类型识别算法以提取时域、频域的特征参量为主，抗噪性能差，难以满足实际需求。随着时频分析技术和深度学习理论的发展，基于时频图像和卷积神经网络的方法准确率高，抗噪声能力强，受到诸多学者的青睐。然而，神经网络占用存储空间大，对硬件设备要求高，不便于工程应用。为此，研究人员提出了一系列压缩深度网络的方法，主要包括低秩逼近、网络量化、权重修剪、结构稀疏化等。文献“基于二进制卷积神经网络的imagenet数据集分类”(“m.rastegari,v.ordonez,j.redmon,and a.farhadi.xnornet:imagenet classificationusingbinary convolutional neural networks.in eccv,2016.”)将实值权重量化为二元权重(权重值限制为{-1,1})，大幅压缩了模型尺寸。然而，这种激进的低位逼近方法通常会导致精度损失。文献“高效神经网络的权重与连接学习”(“s.han,j.pool,j.tran,and w.dally.learning both weights and connections for efficient neural network.in nips,pages 1135
–
1143,2015”)在训练好的神经网络中修剪掉权重小的不重要连接，得到的网络的权重大多为零，因此可以通过以稀疏格式存储模型来减少存储空间。然而，该方法只能通过专用的稀疏矩阵运算库和/或硬件来实现加速，且运行时内存节省也非常有限。


技术实现要素：

4.针对现有技术中存在的雷达信号调制类型识别网络占用存储空间大、对硬件设备要求高的问题，本发明提出了一种雷达信号调制类型识别网络轻量化方法，该方法将通道剪枝与并行结构结合，在保证网络分选准确率的同时大幅度降低了网络参数和计算量。
5.为解决上述问题，本发明采用如下的技术方案：
6.一种雷达信号调制类型识别网络轻量化方法，包括以下步骤：
7.s1、对原始雷达信号及其调制参数进行仿真，得到仿真的雷达信号；
8.s2、对仿真的雷达信号设置不同的信噪比和调制参数，生成训练数据集；
9.s3、提取所述训练数据集中雷达信号的多种变换域特征；
10.s4、设计雷达信号调制类型识别网络，对所述雷达信号调制类型识别网络所有通道的损失增加缩放系数为γ的l1正则项后，利用所述训练数据集对雷达信号调制类型识别
网络进行训练；
11.s5、对训练后的雷达信号调制类型识别网络进行通道剪枝；
12.s6、对通道剪枝后的网络中的残差模块进行并行化处理，得到雷达信号调制类型识别轻量化网络；
13.s7、将步骤s3提取的所述训练数据集中的每个雷达信号的变换域特征输入所述雷达信号调制类型识别轻量化网络进行训练，得到训练完成的雷达信号调制类型识别轻量化网络。
14.与现有技术相比，本发明的有益效果是：
15.本发明的一种雷达信号调制类型识别网络轻量化方法，结合通道剪枝和并行化结构，能够在保持原网络的高识别准确率的前提下，大幅度降低网络复杂度，有利于雷达信号调制类型识别网络的工程应用。本发明具有灵活、高效和泛化能力强的特点。
附图说明
16.图1为本发明一种雷达信号调制类型识别网络轻量化方法的流程图；
17.图2为本发明实施例提供的通道剪枝流程图；
18.图3为本发明实施例提供的通道选择示意图；
19.图4为本发明实施例提供的se-resnet模块通道剪枝示意图；
20.图5为本发明实施例提供的并行处理前后残差模块的结构示意图；
21.图6为本发明实施例提供的原网络与剪枝率为60％的轻量化网络的识别率对比图。
具体实施方式
22.为便于本领域技术人员理解本发明的技术内容，下面结合附图和具体实施例对本发明内容进一步阐释。
23.如图1所示，本发明实施例提供一种雷达信号调制类型识别网络轻量化方法，该方法包括以下步骤：
24.s1、对原始雷达信号及其调制参数进行仿真，得到仿真的雷达信号。原始雷达信号即时域信号，调制参数包括带宽、脉宽、采样频率等。
25.s2、根据步骤1得到的仿真的雷达信号，设置不同的信噪比和调制参数，生成训练数据集和测试数据集。训练数据集和测试数据集的具体数据集参数设置如表1所示。本实施例仿真了六类常见的雷达信号调制类型，包括线性频率调制(lfm)、非线性频率调制(nlfm)、常规波(cw)信号、捷变频(fa)信号、barker码信号和costas码信号。其中，nlfm信号为s型频率调制，捷变频信号(fa)在脉宽内捷变五次，barker码信号为相位调制信号，其码元序列为[1,1,1,0,0,1,0],[1,1,1,0,0,0,1,0,0,1,0],[1,1,1,1,1,0,0,1,1,0,1,0,1]；costas码信号为频率调制信号,其码元序列为[1,6,3,4,2,5],[1,5,6,3,2,4],[2,5,6,4,3,7,1],[1,2,7,4,6,5,3],[2,6,3,8,7,5,1,4]。仿真信号均为基带信号，采样频率为1ghz，带宽范围为100～600mhz，脉宽均为1us，信噪比变化范围为-16db～16db，以2db为间隔增加。
[0026]
表1雷达信号数据集参数设置表
[0027][0028]
s3、提取步骤s2得到的训练数据集和测试数据集中雷达信号的多种变换域特征，其中多种变换域特征是指时域、频域、自相关域和时频域特征，具体为：
[0029]
s31、频域变换：
[0030]
信号频域描述了信号的频率构成，展现了频率与频率幅度的关系。交叠后的信号，由于其具有不同的带宽或不同的频率分布特点，能在频谱上进行一定程度的区分。对信号做快速傅里叶变换(fastfouriertransform,fft)可以获得雷达信号的频域特征，设接收信号为s(t)，则信号的fft表达式为：
[0031][0032]
其中，ω表示频率。对于离散时间的信号序列，设接收信号为s[n]，则信号的离散时间傅里叶变换(discrete time fouriertransform,dtft)表达式为：
[0033][0034]
s32、自相关域变换：
[0035]
自相关函数(auto-correlationfunction,acf)可以定量的衡量信号s(t)与其时延信号s(t-τ)的相似程度，其表达式为：
[0036][0037]
其中，τ表示时间延迟。对于离散时间序列，设接收序列为s[n]，则其自相关函数表达式为：
[0038][0039]
s33、时频域变换：
[0040]
信号的时频分析可反应信号的瞬时频率，获得不同的信号频率相对于时间变化的规律。本实施例使用cohen类时频分布(cwd)中的伪维格纳-威利分布(pseudo winger-ville distribution,pwvd)提取雷达信号时频特征。cwd的表达式为：
[0041][0042]
其中，σ为衰减系数，σ∈[0.1,10]。pwvd的核函数为窗函数h(t)，pwvd的表达式为：
[0043][0044]
步骤s3中提取的多种变换域特征可单独使用，也可联合使用。本发明实施例将时域、频域、自相关域和时频域的特征联合使用，形成信号多域特征。
[0045]
s4、设计雷达信号调制类型识别网络，对雷达信号调制类型识别网络所有通道的损失增加缩放系数为γ的l1正则项后，利用训练数据集对雷达信号调制类型识别网络进行训练。
[0046]
根据本发明实施例提取的雷达信号多域特征，设计雷达信号调制类型识别网络。雷达信号调制类型识别网络一般包括卷积层、池化层、批正则化(bn，batchnormalization)层和全连接层，还包括残差模块(resnet)、压缩和激励模块(squeeze-and-excitation,se)等。
[0047]
雷达信号调制类型识别网络包括依次连接的卷积层、3个se_resnet模块、池化层、特征融合部分se结构和全连接层，池化层采用全局平均池化，每一个se_resnet模块包括一个卷积层conv k_x和位于其后的压缩和激励模块se k_x，卷积层convk_x由3个block级联而成，每个block包括3个卷积层，其中k＝2，3，4。该雷达信号调制类型识别网络的整体结构如表2所示，其中，conv表示卷积层，卷积层的结构用“卷积核大小，特征通道数，步长”表示，其中第二、三、四层卷积层分别用block＝3个相同的se-resnet模块级联而成，每个block中的结构在[
·
]中表示，[
·
]中的第i行表示se-resnet模块中的第i个卷积层(i＝1,2,3)；se模块的结构用“输入特征通道数，压缩系数”表示，conv k_x和se k_x共同组成第k个se-resnet模块(k＝2,3,4)；pool表示池化层，网络中采用全局平均池化；最后一个se表示特征融合部分的se结构，其压缩系数ratio＝16；fc表示全连接层，输出识别结果。该雷达信号调制类型识别网络参数量约为1.76
×
106，计算量约为1.25
×
107，在-4db信噪比下，对雷达信号的识别准确率达到92％以上。
[0048]
表2雷达信号调制类型识别网络结构表
[0049][0050]
s5、对步骤s4中训练后的雷达信号调制类型识别网络进行通道剪枝。
[0051]
本步骤中所述的通道剪枝，是特征剪枝中的一种，将每个通道看作一种特征，其整
体流程分为训练-剪枝-微调三个阶段，通道剪枝的流程如图2所示。首先通过对原始网络的训练，获得卷积层中每个通道的重要程度；然后，根据每个通道的重要性，将重要性较低的通道进行剪枝；最后，对网络进行微调，提升剪枝后网络的准确率。如图2所示，通道剪枝的过程具体包括以下步骤：
[0052]
s51、从bn层获取缩放系数，衡量通道重要性权重
[0053]
在本步骤中，获取训练后的雷达信号调制类型识别网络中bn层的缩放系数，从而根据缩放系数衡量通道重要性权重。
[0054]
对雷达信号调制类型识别网络所有通道的损失增加缩放系数为γ的l1正则项之后并进行训练后，通过该缩放系数γ的大小判断该通道的重要性。增加缩放系数后的网络损失结果为：
[0055][0056]
其中，(x,y)表示训练输入和识别结果；l(x,y)表示未增加缩放系数时的损失函数；λ为正则化系数，一般取接近于0的很小的数值；l1正则项l1(γ)＝|γ|，γ表示每个通道的缩放系数。由公式(11)可以看出，γ越接近0，对应通道的重要性就越低。此时，γ随着网络损失函数共同优化。
[0057]
在网络层中增加bn层，通过数据归一化处理可以优化网络的收敛速度，抑制梯度问题的出现，同时，还可以直接使用bn层中的缩放系数γ作为网络通道裁剪的依据，并且不会新增网络层数。根据对bn层的输出做线性变换的公式，即：
[0058][0059]
其中，γ和β分别表示缩放系数和平移系数；表示对当前batch归一化后的结果，设当前层为bn层，且一个batch中有n个样本，当前batch的均值为μb，方差为经过对当前batch的标准化处理后，bn层的输出为：
[0060][0061]
其中，xi为bn层的输入，ε是一个很小的正数，为了防止分母为0。
[0062]
对网络层增加缩放系数，通常在对bn层求梯度时实现。由于在网络反向传播时，需要对损失部分进行求导，而增加的l1正则项经过求导后有：
[0063][0064]
因此，在计算梯度时只需要对bn层的参数加上sign(γ)即可。
[0065]
s52、通道选择
[0066]
在本步骤中，对所有缩放系数γ排序，剪去γ更小的通道。在将所有缩放系数γ进行统计并排序后，根据为网络模型设定的剪枝率划定通道选择的门限，再依次将每个bn层的缩放系数γ与门限进行比较，如果当前通道的缩放系数γ大于门限，则该通道保留；如果当前通道的缩放系数γ小于门限，则该通道将被剪去，并且当某一通道被剪去后，同时需要
删去该通道的上层连接和下层连接。若剪枝前的通道数为c，剪枝后的通道数为c
γ
，通道选择示意图如图3所示，γ图例中灰度越浅，表示当前通道的缩放系数γ的值越小；将需要被删除的通道标记为0，其余通道标记为1，可以对当前特征通道二值化为[1,0,1,1,0,1,1,1]。
[0067]
s53、模型重构和微调
[0068]
模型经过剪枝并重构后，将会损失识别准确率，因此，还需要对经过步骤s52重构后的模型进行微调，逐渐恢复信号的识别准确率，并重新进行训练，得到通道剪枝后的网络的最优权重。具体为：对经过通道剪枝后的模型重新训练，得到最优权重，提高信号识别准确率。微调过程中，可以使用与训练过程相同的优化设置(学习率等)，也可以根据训练时间等约束重新设置。
[0069]
一次剪枝完成后，如果还需要进一步减少网络参数量，也可以在得到通道剪枝后的网络的最优权重后，重新获取bn层的缩放系数，进行二次甚至多次剪枝，通过微调后的网络模型，重新计算此时特征通道的重要程度。
[0070]
对于本发明实施例中的残差网络，设上一残差块在剪枝后的输出通道数那么当前残差块的输入通道数与之相同，也为输出通道数为剪枝后网络结构和各网络层通道数如图4所示，残差块中左侧三个卷积层后紧跟的bn层用来获取缩放系数并进行通道选择，剪枝后的通道数分别为右侧残差“捷径”中的采样卷积层仅用来调整输入特征图的大小，其后紧跟的bn层也不作为通道选择的依据。
[0071]
对于se模块，相比于卷积层，se模块的参数量和计算量都非常小，因此本发明实施例中未对se模块额外剪枝，只是se模块的输入维度随剪枝后的特征通道数改变；但由于se模块中的全连接层有特征维度降低到恢复的过程，当剪枝后的输入维度较小时，为确保压缩后的输出维度不为0，输出通道数为：
[0072][0073]
其中，ceil(
·
)表示向上取整；ratio表示se模块中的压缩系数。
[0074]
s6、对步骤s5得到的通道剪枝后的网络进行并行化处理，该步骤主要针对网络中的残差模块，处理后得到雷达信号调制类型识别轻量化网络。对残差模块进行并行化处理的过程具体包括以下步骤：
[0075]
s61、首先确定残差模块的并行数量c，将通道数为m的高维度输入切分为多个通道数为m/c的低维度输入；
[0076]
s62、接着，对多个并行的低维度输入进行同样的卷积操作；
[0077]
s63、最后，将所有低维度输入的输出结果在特征通道维度堆叠，恢复通道数，得到并行处理后的残差模块。并行处理前后残差模块的结构示意图如图5所示，其中图5(a)为并行处理前残差模块的结构示意图，图5(b)为并行数量为8时的残差模块的结构示意图。
[0078]
s7、训练步骤s6得到的雷达信号调制类型识别轻量化网络，具体为：将步骤s3提取的训练数据集中的每个雷达信号的变换域特征输入步骤s6所得到的雷达信号调制类型识别轻量化网络进行训练，得到训练完成的雷达信号调制类型识别轻量化网络。
[0079]
在本步骤中，对雷达信号调制类型识别轻量化网络进行训练时，包括以下步骤：
[0080]
s71、首先将训练数据集中的每个雷达信号的变换域特征输入雷达信号调制类型识别轻量化网络进行前向传播，并计算代价函数值；
[0081]
本发明实施例中以交叉熵(cross-entropy)函数作为网络损失函数，其表达式为：
[0082][0083]
其中，w,b分别表示网络中待训练的权重与偏置项的矩阵；ρi表示当前样本属于第i类的真实概率，pi表示网络预测的当前样本属于第i类的概率，m表示通道数。
[0084]
s72、然后使用基于梯度下降的后向传播算法对雷达信号调制类型识别轻量化网络的参数进行更新；
[0085]
s73、最后迭代后向传播过程，直至代价函数收敛，从而得到训练完成的雷达信号调制类型识别轻量化网络。
[0086]
进一步地，为验证训练完成的雷达信号调制类型识别轻量化网络的分类识别效果，在步骤s7之后，还包括：
[0087]
s8、采用步骤s7训练完成的雷达信号调制类型识别轻量化网络对步骤s2得到的测试数据集进行识别。具体为：将步骤s2中产生的测试数据集中的原始雷达信号经过步骤s3提取多种变换域特征处理后，将测试数据集中的每个原始雷达信号的变换域特征输入训练完成的雷达信号调制类型识别轻量化网络进行前向传播，得到测试样本的分类识别结果。
[0088]
本发明实施例提供的一种雷达信号调制类型识别网络轻量化方法，结合通道剪枝和并行化结构，能够在保持原网络的高识别准确率的前提下，大幅度降低网络复杂度，有利于雷达信号调制类型识别网络的工程应用。本发明具有灵活、高效和泛化能力强的特点。
[0089]
为了展示本发明所提出的网络轻量化方法的优越性能，本发明对经过通道剪枝和并行化处理后的雷达信号调制类型识别网络轻量化方法进行性能实验验证。设置并行数量c＝8，40％到70％的剪枝率下的网络参数量和计算量如表3所示，信号在-8db到4db时的识别准确率对比如表4所示。当剪枝率小于50％时，识别准确率不小于或略小于未剪枝时；当剪枝率大于60％时，虽然识别准确率略有下降，但网络复杂度也有了进一步的降低。当剪枝率为60％时，在-12db到8db下两种残差网络—原网络(se-resnet)与轻量化网络(se-resnext)的识别率对比曲线如图6所示，实验表明，当网络通道剪枝后，再采用并行残差模块的方式，网络复杂度进一步减少，总体参数量压缩率达到82.1％，计算量压缩率达到81.6％，在-4db时的识别率损失了5.6％，但在-2db以上时的识别准确率仍能保持在92％以上。因此，本发明所提出的雷达信号调制类型识别网络轻量化方法能够在保证网络准确率的同时，显著降低网络复杂度。
[0090]
表3并行数量为8时不同剪枝率下的网络复杂度表
[0091]
[0092]
表4并行数量为8时不同剪枝率下的识别准确率对比表
[0093][0094]
本领域的技术人员将会意识到，这里所述的实例是为了帮助读者理解本发明的原理，应被理解为本发明的保护范围但不局限于这样的特别陈述和实施案例。对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所做的任何更改、等同替换和改进等，均包含在本发明的去案例要求范围之内。
[0095]
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0096]
以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。因此，本发明专利的保护范围应以所附权利要求为准。