一种数据知识双驱动的调制智能识别方法与流程

1.本发明属于通信技术领域，是一种数据知识双驱动的调制智能识别方法。


背景技术：

2.调制方式智能识别是无线智能通信中一项至关重要的技术，它通过学习接收信号的独有特征来分辨不同类型的调制信号。随着5g的逐渐普及，关于6g无线通信网络的研究已经兴起。智能通信技术作为6g通信网络的关键组成部分，亟需深入研究，其中调制方式智能识别就是其中关键技术之一。因此，开展关于调制方式智能识别的研究至关重要。同时，调制方式识别已经在军用和民用领域得到了广泛应用。在军事应用中，调制方式识别有助于恢复发射信息，产生匹配调制的干扰信号。在民事应用中，调制方式识别有助于选择正确的解调方案，保证信息的正确恢复。现有的调制方式智能识别方法可以分为两类，模型驱动的方法和数据驱动的方法。模型驱动的方法，如基于似然函数的方法，通过比较不同检验统计量的大小来判决接收信号的调制类型。但是这种方法在估计未知参数的过程中存在很高的计算复杂度，且在应对复杂动态的实际通信场景时，分类性能一般，尤其在低信噪比条件下，分类准确度很低。
3.数据驱动方法因其强大的特征学习能力而备受关注。tim o’shea, tamoghna roy等人在其发表的论文“over the air deep learning based radio signal classification”（ieee j. sel. topics signal process., no. 1, pp. 168
–
179, 2018）中提出了残差神经网络，通过带有跨越连接的残差学习，该网络能够缓解训练深度网络时的过拟合问题。但是这种庞大的网络架构在训练阶段需要耗费巨大的时间成本和计算资源。yu wang，jie yang等人在其发表的论文“lightamc: lightweight automatic modulation classification via deep learning and compressive sensing”（ieee trans. veh. technol., vol. 69, no. 3, pp. 3491
–
3495, 2020）中提出了一种轻量化的智能调制方式网络模型，通过减小网络规模提升了计算速度，但是在低信噪比条件下的识别性能较差。西安电子科技大学提出的专利申请“基于深度学习的调制识别方法”（申请号cn201710720483.6 申请公布号cn107547460a）中公开了一种基于深度学习的自适应调制识别方法。通过划分多个子训练集，训练不同信噪比条件下的深度网络，实现了基于信噪比的自适应调制方式识别，一定程度上提升了低信噪比下的调制识别精度，但其在低信噪比下调制识别精度提升仍然有限。
4.这些纯数据驱动的方法都依赖大量的训练样本，然而这在实际的复杂通信系统中难以实现。此外，目前的调制识别方法在低信噪比条件下识别准确度很低，难以在实际复杂通信网络中应用。最后，高阶调制类型之间的混淆是目前诸多调制识别方法都遇到的难题。因此，亟需开发新的调制方式智能识别方法。


技术实现要素：

5.本发明针对现有调制识别技术在复杂动态的实际场景中性能较差、依赖大量训练
样本、高阶调制方式之间的混淆严重这几点不足，提出了一种数据知识双驱动的调制方式智能识别方法，引入语义属性作为知识，通过转换模型将属性特征嵌入到视觉特征空间，极大提升了低信噪比下的调制识别准确率，降低了识别过程中高阶调制方式之间的混淆，而且能够减少对训练数据量的依赖。
6.为实现上述技术目的，发明采取的技术方案为：一种数据知识双驱动的调制智能识别方法，包括如下步骤：步骤（1）频谱数据采集；步骤（2）根据不同调制方式，构建对应的属性向量标签；步骤（3）根据不同调制方式的属性向量标签，构建并预训练属性学习模型；步骤（4）构建并预训练调制识别视觉模型；步骤（5）构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型；步骤（6）迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型；步骤（7）判断网络训练是否结束，若是，则执行步骤（8），若否，将训练迭代次数加一后继续重训练转换模型；步骤（8）将测试集数据输入网络；步骤（9）输出分类结果。
7.为优化上述技术方案，采取的具体措施还包括：步骤（1）频谱数据采集具体为：调制分类视为一个类假设检验问题，第次调制假设下的接收信号表示为，其中，表示第种调制方式的发射信号的第个采样点，表示第种调制方式的接收信号的第个采样点，表示均值为0，方差为的加性高斯白噪声，将接收信号表示为i/q分量组成的向量形式，，其中表示的向量形式，和分别表示信号的同相和正交分量，基于i/q信号样本，在类调制方式中做出判决。
8.步骤（2）根据不同调制方式，构建对应的属性向量标签具体为：采用二进制相位键控、四进制相位键控、十六进制正交振幅调制和六十四进制正交振幅调制四种不同的调制方法作为识别对象，以此构建六维的属性表示向量，每个维度分别表示不同的具体含义，第一个维度表示分类目标的进制数是否为二进制，第二个维度表示分类目标的进制数是否为四进制，第三个维度表示分类目标的进制数是否为十六进制，第四个维度表示分类目标的进制数是否为六十四进制，第五个维度表示分类目标是否为相位键控，第六个维度表示分类目标是否为正交振幅调制。
9.步骤（3）根据不同调制方式的属性向量标签，构建并预训练属性学习模型具体为：属性学习模型是对现有残差神经网络进行改造得来，残差单元由两个核大小为的卷积层构成，批量归一化层在网络的中间层对中间数据进行标准化，最后，在每个批量归一化层后面接入线性修正单元作为激活函数为网络引入非线性，残差堆叠单元由一个卷积层、两个残差单元模块和一个最大池化层顺序连接构建，卷积层和残差单元用来特征提取，最大池化层用来压缩特征以降低特征维度，训练属性学习模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大时期数为50，学习率为0.001，随机梯度下降优化算法作为网络训练优化器，选用
均方误差损失函数计算网络输出与真实属性标签之间的差距。
10.构建并预训练调制识别视觉模型具体为：视觉训练模型由一个多尺度模块、一个全局平均池化层、一个全连接层和一个分类层构成，其中多尺度模块首先利用一个核大小为，步长为2的卷积层来降低特征维度，然后利用多个具有不同核大小的卷积层学习多维度特征，最后拼接多维度特征，在全局平均池化层之后，一个带有线性修正单元激活函数的全连接层用来降低特征维度，激活函数的表达式如下，其中，表示计算括号内对象的最大值，训练视觉模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为20，学习率为0.001，adam优化算法作为网络训练优化器，选用交叉熵损失函数计算网络输出与真实属性标签之间的差距。
11.步骤（5）构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型具体为：第一个分支为视觉编码分支，通过去除视觉模型的最后一层分类层得到 ，首先将i/q原始数据输入视觉编码分支，多尺度模块负责提取输入数据的多维度特征，全局平均池化层将多维度特征进行扁平化处理，最后全连接层输出维特征向量，第二个分支负责进行属性语义嵌入，由属性学习模型构成，输入原始数据，最后输出维属性特征向量，最后，通过转换模型将属性特征转换到视觉特征空间，转换模型由两个带有线性修正单元激活函数的全连接层构成，首先将维的属性表示向量作为输入，经过转换模型输出与视觉特征同维度的嵌入向量，转换模型的输出表示如下，其中，表示第一个全连接层的权重矩阵，表示第二个全连接层的权重矩阵，和分别表示两个全连接层后接的激活函数，用来给网络结构引入非线性。
12.步骤（6）迁移预训练视觉模型和预训练属性学习模型的参数，重训练转换模型具体为：第一步，固定预训练视觉模型和预训练属性学习模型的网络参数，第二步，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为100，学习率为0.001，adam优化算法作为网络训练优化器，第三步，将训练数据分批次输入网络训练，批次大小可以调节，每个批次的训练误差反向传播从而优化网络参数，每个全连接层都有一个参数正则化损失项，两个分支的输出通过最小二乘嵌入损失来最小化嵌入输出和视觉特征输出之间的差距，损失函数表达式如下，其中，表示训练样本的数量，是两个参数正则化损失相对于嵌入损失的超参数加权，当训练数据中所有批次的数据全部反向传播完成，即为1个训练时期。
13.发明具有以下优点：
第一，本发明引入属性语义作为新调制识别框架的知识，相比于传统的深度学习框架，减少了对训练样本量的依赖。
14.第二，本发明设计的改进残差网络结构具有更低网络复杂度，在保证性能的同时，提升了网络训练速度，为实际通信场景中的实时性需求提供了保障。
15.第三，数据知识双驱动的网络结构能够显著提升低信噪比情况下的识别准确度。
16.第四，相比于传统识别方法，高阶调制方式之间的混淆得到了明显改善。
附图说明
17.图1是本发明的流程图；图2是本发明的属性学习模型框架图，子图a为残差单元，子图b为残差堆叠模块，子图c为完整的属性学习模型；图3是本发明的视觉学习模型框架图；图4是采用本发明的数据知识双驱动总体框图；图5是采用本发明和现有其他技术在不同信噪比条件下的分类准确率对比图；图6是采用本发明和现有其他技术的训练收敛速度对比图；图7是采用本发明和现有其他技术的混淆矩阵对比图，子图a为传统纯数据驱动方法的分类结果，子图b为本发明的分类结果。
具体实施方式
18.以下结合附图对发明的实施例作进一步详细描述。
19.结合附图1对本发明方法的具体步骤描述如下。
20.步骤1，频谱数据采集。
21.调制分类可以视为一个类假设检验问题，第次调制假设下的接收信号可以表示为。其中，表示第种调制方式的发射信号的第个采样点，表示第种调制方式的接收信号的第个采样点，表示均值为0，方差为的加性高斯白噪声。将接收信号表示为i/q分量组成的向量形式，，其中表示的向量形式，和分别表示信号的同相和正交分量。基于i/q信号样本，在类调制方式中做出判决。
22.步骤2，构建不同调制方式对应的属性向量标签。
23.本发明专利中采用二进制相位键控、四进制相位键控、十六进制正交振幅调制和六十四进制正交振幅调制四种不同的调制方法作为识别对象。因此构建六维的属性表示向量，每个维度分别表示不同的具体含义。第一个维度表示分类目标的进制数是否为二进制，第二个维度表示分类目标的进制数是否为四进制，第三个维度表示分类目标的进制数是否为十六进制，第四个维度表示分类目标的进制数是否为六十四进制，第五个维度表示分类目标是否为相位键控，第六个维度表示分类目标是否为正交振幅调制。
24.步骤3，根据不同调制方式的属性向量标签，构建并预训练属性学习模型。
25.本发明构建的属性学习模型是对现有残差神经网络进行改造得来的。残差单元由两个核大小为的卷积层构成。批量归一化层在网络的中间层对中间数据进行标准化，从而避免中间变量偏导数饱和导致的梯度消失问题。最后，在每个批量归一化层后面接入线性修正单元作为激活函数为网络引入非线性。残差堆叠单元由一个卷积层、两个残差单
元模块和一个最大池化层顺序连接构建。卷积层和残差单元用来特征提取，最大池化层用来压缩特征以降低特征维度。完整的属性学习模型由三个残差堆叠模块、一个全局平均池化层和一个全连接层顺序连接构成。其中，全局平均池化层用来平均不同通道的输出，与传统卷积神经网络中使用的全连接层相比，全局平均池化层中没有需要训练的参数，且能够显著降低网络全局参数数量，这能够避免训练过程中的过拟合问题。
26.由于属性学习任务本身超越了具体的调制分类任务，因此，属性学习模型能够单独进行预训练，且训练数据不再仅仅局限于调制分类数据集。
27.训练属性学习模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大时期数为50，学习率为0.001，随机梯度下降（sgd）优化算法作为网络训练优化器。由于属性学习任务不同于分类任务，因此选用均方误差损失函数计算网络输出与真实属性标签之间的差距。
28.步骤4，构建并预训练调制识别视觉模型。
29.视觉训练模型由一个多尺度模块、一个全局平均池化层、一个全连接层和一个分类层构成。其中多尺度模块首先利用一个核大小为，步长为2的卷积层来降低特征维度，然后利用多个具有不同核大小的卷积层学习多维度特征，最后拼接多维度特征。传统网络中的全连接层被全局平均池化层代替，用来平均每个通道的输出特征。在全局平均池化层之后，一个带有线性修正单元激活函数的全连接层用来降低特征维度。激活函数的表达式如下，其中，表示计算括号内对象的最大值。因为线性修正单元激活函数能够将部分神经元的值设置为0，所以能够增加神经网络的稀疏性，降低参数之间的相互依赖，因此能够缓解训练过程中的过拟合问题。此外，与其他激活函数不同，线性修正单元激活函数不存在饱和区，因此能够改善梯度消失问题。
30.训练视觉模型时，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为20，学习率为0.001，adam优化算法作为网络训练优化器。选用交叉熵损失函数计算网络输出与真实属性标签之间的差距。
31.步骤5，构建特征空间转换模型，结合属性学习模型和视觉模型构建数据知识双驱动的调制方式智能识别模型。
32.第一个分支为视觉编码分支，通过去除视觉模型的最后一层分类层得到。首先将i/q原始数据输入视觉编码分支，多尺度模块负责提取输入数据的多维度特征，全局平均池化层将多维度特征进行扁平化处理，最后全连接层输出维特征向量。
33.第二个分支负责进行属性语义嵌入，由属性学习模型构成。输入原始数据，最后输出维属性特征向量。
34.最后，将视觉特征和属性特征映射至一个视觉语义联合嵌入空间，本发明选择视觉特征空间作为嵌入空间，这能够有效避免中心化问题。具体地，通过转换模型将属性特征转换到视觉特征空间。转换模型由两个带有线性修正单元激活函数的全连接层构成。首先将维的属性表示向量作为输入，经过转换模型输出与视觉特征同维度的嵌入向量。为了详细表述转换模型的运算过程，进一步将转换模型的输出表示如下，
其中，表示第一个全连接层的权重矩阵，表示第二个全连接层的权重矩阵，和分别表示两个全连接层后接的激活函数，用来给网络结构引入非线性。
35.与传统的数据驱动架构不同，我们提出的方案构建了一个转换模型，将语义属性特征映射到视觉特征空间。属性特征知识的融合可以提高模型在低信噪比下的性能。同时，由于视觉模型和属性模型都是经过预训练的，仅有转换模型需要进行端到端训练，因此，我们提出的方案训练速度能够得到提升。属性知识的引入能够减少视觉模型对训练数据的需求。与抽象的视觉特征不同，由确定性二元变量组成的属性特征标签具有明确的物理含义。
36.步骤6，预训练模型参数迁移，重训练转换模型。
37.第一步，固定预训练视觉模型和预训练属性学习模型的网络参数。
38.第二步，随机初始化网络的可训练参数，初始化网络训练时期数等于1，最大迭代次数为100，学习率为0.001，adam优化算法作为网络训练优化器。
39.第三步，将训练数据分批次输入网络训练，批次大小可以调节，每个批次的训练误差反向传播从而优化网络参数。每个全连接层都有一个参数正则化损失项，两个分支的输出通过最小二乘嵌入损失来最小化嵌入输出和视觉特征输出之间的差距。损失函数表达式如下，其中，表示训练样本的数量，是两个参数正则化损失相对于嵌入损失的超参数加权。当训练数据中所有批次的数据全部反向传播完成，即为1个训练时期。
40.步骤7，判断网络是否训练完成。
41.判断当前训练时期是否达到最大训练时期数，若是，则进行步骤8，若否，则继续进行步骤7中的训练网络。
42.步骤8，测试集数据输入网络。
43.步骤9，输出分类结果。
44.下面结合仿真实验对本发明的效果做进一步说明。
45.1、仿真条件与参数设置：本发明的仿真实验是在python3.6，pytorch1.5.1的仿真平台上进行的。计算机cpu型号为因特尔酷睿i7，搭载型号为英伟达geforce gtx 1660 super的独立显卡。数据集采用公开数据集radioml 2016.10a，数据集包含-20db到20db不同信噪比条件下的调制信号样本，每种调制方式有128个样本点。本发明选取二进制相移键控、四进制相移键控、十六进制正交振幅调制和六十四进制正交振幅调制四种调制方式，信噪比范围为-18db到12db，步长为2db。
46.2、仿真内容：附图5是采用本发明和现有技术在不同信噪比条件下的分类准确率对比图。图3中的横坐标表示不同信噪比（db），纵坐标表示识别准确率。以五角星标示的折线表示采用本发明方法的分类准确率曲线，以圆形标示的折线表示多尺度网络在不同信噪比下的分类准确度曲线，以正三角形标示的折线表示残差网络在不同信噪比下的分类准确度曲线，以矩形标示的折线表示长短期记忆神经网络在不同信噪比下的分类准确度曲线，以倒三角标示
的折线表示视觉集合组网络（vgg）在不同信噪比下的分类准确度曲线。信噪比的变化范围从-18db到12db。通过比较可以看出本发明的分类准确度明显高于现有的其他方法，尤其是在低信噪比情况下，优势明显。在信噪比为-18db时，本发明的分类准确度达到了59%左右，这超过了基于大规模网络的方法大约28%的精度，超过了基于残差网络的方法大约35%的精度；在信噪比为-14db时，本发明的分类准确度达到了77%左右，这超过了基于vgg的方法大约42%的精度，超过了基于大规模网络的方法大约47%的精度。在信噪比8db左右，本发明方法的分类精度逐渐达到饱和，约95%左右。
47.附图6是采用本发明和现有技术的网络训练速度对比图。图6中横坐标表示训练时期数（次），纵坐标表示损失函数值。以五角星标示的折线表示采用本发明方法的损失函数曲线，以圆形标示的折线表示多尺度网络在不同信噪比下的损失函数曲线，以正三角形标示的折线表示残差网络在不同信噪比下的损失函数曲线，以矩形标示的折线表示长短期记忆神经网络在不同信噪比下的损失函数曲线，以倒三角标示的折线表示vgg在不同信噪比下的损失函数曲线。通过比较几种方法得到的训练速度收敛曲线，可以看出本发明方法训练速度明显快于现有的其他几种方法。本发明方法仅仅在大约8个训练时期时就完成了收敛，而多尺度网络和残差网络在大约15个训练时期时才完成收敛，vgg和长短期记忆神经网络直到20个训练时期时，损失函数依然未完全收敛。
48.附图7是本发明和多尺度网络的混淆矩阵对比图。横坐标表示网络输出结果，纵坐标表示真实标签，每个网格数字内表示对应分类准确度。可以看出，相比于多尺度网络，本发明方法在十六进制正交振幅调制和六十四进制正交振幅调制之间的混淆得到了明显改善。
49.综合上述仿真结果和分析，本发明所提出的数据知识双驱动的调制方式智能识别网络框架，能够实现比现有方法更高的分类准确度，收敛速度更快，且能够减少分类过程中高阶调制方式之间的混淆。
50.以上仅是发明的优选实施方式，发明的保护范围并不仅局限于上述实施例，凡属于发明思路下的技术方案均属于发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离发明原理前提下的若干改进和润饰，应视为发明的保护范围。