用于识别无线电技术的神经网络

1.本发明一般而言涉及识别由用于在包括共享无线电频谱的一个或多个无线网络的环境中操作的节点采用的无线电技术的领域。


背景技术：

2.由于共享相同频谱的非协作无线电技术的出现，无线电频谱变得非常拥挤。在这种共存环境中，干扰是关键挑战之一，如果不解决，那么会导致性能下降。辨别或识别访问频谱的无线电技术是定义频谱管理策略以减轻干扰的基础。
3.认知无线电cr已成为一种赋能(enabling)技术，它为动态频谱接入dsa提供支持。它是指以机会主义方式在多种技术之间共享频谱的能力。dsa面临的关键问题之一是识别某种技术是否正在接入相同的频谱，然后采取适当的措施来对抗由于干扰导致的性能下降。这个问题被称为技术辨别tr问题，并且它是指识别无线技术的无线电信号，而不需要任何信号预处理，诸如信道估计以及定时和频率同步。
4.传统上，tr由领域专家完成，他们使用精心设计的手工规则从无线电信号中提取特征。相反，基于机器学习方法的最先进方案可以直接从原始输入数据中提取特征，并自动对这些特征执行辨别任务。
5.但是，使用机器学习进行技术辨别的最先进方案是基于监督学习的，这需要广泛的标记数据集合才能表现良好。如果技术及其环境完全未知，那么标记任务将变得耗时且具有挑战性。
6.因此，本发明的目的是减轻上述缺陷并提供改进的解决方案，用于在包括一个或多个无线网络的环境中识别无线电技术。


技术实现要素：

7.在第一方面，该目的通过一种用于提供用于识别环境中采用的无线电技术的神经网络的计算机实现的方法来实现，该神经网络包括自动编码器和分类器，该方法包括以下步骤：
[0008]-感测环境的无线电频谱，从而获得数据样本的集合；
[0009]-通过相应的无线电技术标记数据样本的子集，从而获得标记的数据样本；
[0010]-通过未标记的数据样本以无监督的方式训练自动编码器；
[0011]-通过标记的数据样本以监督的方式训练分类器；以及
[0012]-通过将自动编码器的编码器网络的输出耦合到分类器的输入来提供神经网络。
[0013]
环境包括在环境中操作的多个节点。节点例如是用户终端、接入点、网关和/或基站。属于无线网络的节点使用一种或多种无线的无线电技术。此外，还存在多个无线网络，彼此独立工作。无线网络可以在相同或部分重叠的频谱上操作。
[0014]
作为第一步骤，通过感测无线电频谱来扫描环境。即，在存在无线信号时感测关注的电磁频谱的一部分。感测产生数据样本的集合，其将被进一步处理。
[0015]
例如，频谱感测通过捕获同相和正交iq样本来执行，并且可以使用软件定义无线电sdr平台来执行。在进一步的处理步骤之前，根据实施例，可以取决于随后将被训练的模型来变换样本。例如，作为无线电信号的时域表示的iq样本可以被变换到其它域，诸如频率或时频。
[0016]
接下来，数据样本的一部分或子集被选择并随后根据相应的无线电技术被标记。换句话说，选择数据样本的一部分作为无线电技术的代表性样本并进行标记。优选地，这里，可以使用领域专家知识或结合伪标记等技术。带有相关联标签的标记数据样本还可以与其它未选择和未标记样本一起存储。
[0017]
标记可以通过指示给定的捕获或感测数据样本属于哪个类别来执行，或者这样的类别标签可以是技术的名称，或者还可以更具表现力，并且可以包括关于随时间使用的频谱、中心频率、占空比的信息或其它可能与样本相关的信息。
[0018]
例如，可以在两个数据库中执行存储。然后第一数据库包括样本数据库，并且第二数据库包括标签数据库。数据样本，例如以iq样本的形式，存储在样本数据库中，而标签数据库可以用于存储样本的集合的子集的标签。取决于数据的类型、变换与否以及训练步骤，数据库可以连接到一个或多个块。
[0019]
另外，为了提供神经网络，训练分两个步骤执行。首先，使用未标记的数据样本以无监督的方式训练自动编码器。自动编码器是一种神经网络，它被训练以将其输入复制到其输出。自动编码器由编码器和解码器两部分组成。经训练的自动编码器的权重被锁定以保留在无监督学习步骤期间学习的重要特征。其次，在无监督学习之后，使用标记的数据样本以有监督的方式训练分类器。在监督学习期间，编码器用作特征提取器。这提供了分类任务的初始引导(bootstrapping)。可选地，可以通过例如重新训练分类器中的所有层来执行微调步骤以提高所得模型的准确性。然后，当锁定时，经训练的自动编码器的权重可能被解锁。
[0020]
最后，在训练步骤之后，提供神经网络并训练神经网络以使其能够在不同的未知和动态环境中识别其被训练用于的技术。
[0021]
在神经网络的监督学习步骤中，只需要有限数量的标记数据样本。与用于技术辨别的最先进的机器学习方法相比，这使得标记任务更省时。因此，通过这种通过在神经网络体系架构中将特征提取与分类任务分离来进行技术辨别的半监督学习方案，最大限度地使用未标记数据。此外，仅在标记少数代表性示例时才需要使用领域专业知识。
[0022]
另一个优点是，即使是未知的无线电技术也可以被识别或辨别，而无需专家知识来对环境的信号进行建模或选择诸如调制方案、占空比、功率电平等其所需特征。
[0023]
根据实施例，分类器包括编码器和分类块。
[0024]
分类块是例如softmax层，其前面是卷积层和/或密集层，以提高分类器的准确性。另外，分类器的非标准化输出可以映射到无线电技术的预测输出上的概率分布。
[0025]
根据实施例，自动编码器包括卷积神经网络cnn。
[0026]
虽然传统的深度神经网络dnn是通过连接一系列完全连接的层来构建的，但cnn将给定层(称为卷积层)的神经元与下一层的仅很少数量的神经元连接，以减少学习的计算复杂度。优选地，在这个实施例中，数据样本包括iq样本作为输入。也可以使用其它类型的输入，诸如，例如快速傅里叶变换、fft、样本。
[0027]
根据实施例，编码器包括两个具有校正线性单元、relu、激活函数的卷积层，每个层后跟批标准化和丢弃(dropout)层以用于正则化。
[0028]
自动编码器中的下采样可以通过使用步幅卷积或最大池化层来执行。另外，丢弃层允许自动编码器(或者优选地深度自动编码器dae)充当去噪dae来提高其作为特征提取器的能力。
[0029]
根据实施例，无线电技术包括以下的组中的至少一个：5g；5g新无线电，nr；长期演进，lte；专用lte；公民宽带无线电服务，cbrs；multefire；lte许可辅助接入，lte-laa；窄带-物联网，nv-iot；增强型机器类型通信，emtc；802.11ax；wi-fi 6；802.11ah；802.11af；802.11p；车辆到车辆，v2v；车辆到基础设施，v2i；zibee；蓝牙；wimax；gsm。
[0030]
换句话说，可以通过神经网络体系架构识别多种无线电技术。另外，除了5g和遗留无线技术之外，还可以训练神经网络以识别无线电频谱中的任何类型的无线的无线电技术，因此甚至可以识别未知技术。
[0031]
根据第二方面，本发明涉及根据第一方面的方法的神经网络。
[0032]
例如，可以使用从一系列环境中捕获的数据样本来训练神经网络。这允许在各种未知和动态环境中识别技术。
[0033]
根据第三方面，本发明涉及一种用于通过根据第二方面的神经网络识别环境中的无线电技术的计算机实现方法。
[0034]
根据实施例，计算机实现的方法还包括基于识别出的无线电技术改变无线电技术之一的中心频率的步骤。
[0035]
根据实施例，计算机实现的方法还包括基于识别出的无线电技术分配无冲突时隙用于传输的步骤。
[0036]
换句话说，计算机实现的方法可以采用不同的策略来避免无线电频谱的相同使用，和/或以高效的方式对其进行共享使用。
[0037]
根据第四方面，本发明涉及一种数据处理系统，包括用于执行根据第一和/或第三方面的方法的部件。
[0038]
根据第五方面，本发明涉及一种用于在无线网络中操作的节点，该节点被配置为通过根据第三方面的计算机实现的方法来识别在环境中采用的无线电技术。
[0039]
根据第六方面，本发明涉及一种计算机程序产品，包括用于使节点至少执行根据第三方面的计算机实现方法的步骤的计算机可执行指令。
[0040]
根据第七方面，本发明涉及一种包括根据第六方面的计算机程序产品的计算机可读存储介质。
附图说明
[0041]
现在将参考附图描述一些示例实施例。
[0042]
图1图示了根据本发明的实施例的使用深度自动编码器实现的半监督算法；
[0043]
图2图示了被配置为识别无线电技术的频谱管理器；
[0044]
图3图示了两个无线网络，每个无线网络使用不同的无线电技术；
[0045]
图4图示了无线技术的时间和时间频率特征(signature)；
[0046]
图5图示了根据本发明的实施例的半监督学习方案的工作流程；以及
[0047]
图6示出了用于执行本发明的实施例中的一个或数个步骤的合适计算系统的示例实施例。
具体实施方式
[0048]
在图3中图示了两个网络。第一网络包括被配置为通过第一无线电技术相互通信的节点300-305。该图示还包括第二网络，该第二网络包括节点310-311，这些节点类似地被配置为通过第二无线电技术相互通信。节点300-305未被配置为与节点310-311通信，但是它们共享相同或部分重叠的无线电频谱。因此，两个网络干扰和竞争。也可能存在其它网络，其同样竞争和干扰。因此，图3图示了其中存在用于无线通信目的的不同无线电技术的环境320。图2进一步图示了不同的无线电技术。节点或代理200-203各自表示可以在环境320中操作的无线电技术。
[0049]
无线电技术还可以通过要辨别的无线技术的时间和时间-频率特征来图示。这在图4中图示，其中图示了两种不同的无线电技术401和402。无线电技术401例如由节点300-305部署并且无线电技术402由节点310-311部署。
[0050]
频谱管理器210将识别在环境320中操作的不同无线电技术200-203。频谱管理器210的结果，因此技术辨别然后可以通过做出频谱决策211来使用。频谱管理器210的目标是通过首先识别未知无线技术200-203并且然后进行频域分析来帮助未知无线技术200-203做出频谱决策211。为了实现这一点，频谱管理器210以所列方式执行以下任务：训练214、验证213、频域分析212和频谱决策211。在该说明性实施例中，现在的焦点将放在训练214和验证213步骤上，以实现认知无线电系统的技术辨别。
[0051]
训练214任务用于使用深度自动编码器dae使用多个无线电200-203的原始同相和正交iq样本以半监督215方式来训练模型。另外，一旦模型被训练214，在验证任务213中，它就可以识别未知无线技术200-203。在频域分析任务212中，识别出的技术200-203的频域分析通过提取技术200-203的频谱占用信息来完成。最后，在频谱决策任务211中，无线电使用提取出的频谱效率信息来定义动作，诸如改变无线电200-203的频率和/或为传输分配无冲突时隙，使得可以实现公平共存。一旦做出频谱决定，就经由例如控制信道将其通知给无线电200-203。
[0052]
为了规划技术辨别问题，其中接收信号r(t)的通信系统可以被表示如下：
[0053]
r(t)＝s(t)*h(t) ω(t)
ꢀꢀꢀ
(等式1)，
[0054]
其中s(t)是原始传输信号，h(t)是传输信道的时变脉冲响应，并且ω(t)表示加性高斯白噪声awgn，其中均值为零并且方差为σ2。在现代数字通信系统中，传输信号s(t)建模如下：
[0055]
s(t)＝i(t)cos(2πfct) q(t)sin(2πfct)，s(t)＝i(t) jq(t)
ꢀꢀꢀ
(等式2)，
[0056]
其中s(t)被称为正交信号或iq样本，并且i(t)和q(t)分别被称为同相和正交分量。
[0057]
给定带有输入向量集合x及其对应目标变量集合y的分类问题，目标是给定x∈x的新值，找到预测y∈y的函数f，其中y表示l类别标签：
[0058]
[0059]
令x＝{x1，x2，...，xn}和y＝{y1，y2，...，yn}分别是无线电技术及其对应标签的n个示例的集合，其中，对于所有i∈[n]：＝{1，2，...，n}，xi∈x和yi∈y。通过半监督学习ssl，集合x被分为两个子集：为其提供其对应标签ys＝{y1，y2，...，y
l
}的xs＝{x1，x2，...，x
l
}，以及没有为其提供标签的xu＝{x
l 1
，...，xn}，使得x＝{x1，x2，...，x
l
，x
l 1
，...xn}。
[0060]
为了使用ssl算法进行辨别，还需要从未标记的数据集合中关于示例分布获得对于推断p(y|x)有用的的知识，即，p(x)。否则，半监督学习可能在学习过程期间由于误导监督分类器而降低监督分类器的性能。ssl使用未标记的数据来学习关于数据的有价值信息，然后使用它来微调具有减少数量的标签的分类器。通过本发明，即使当环境320完全未知并且根本没有提供信息时，也可以使用该技术辨别系统。
[0061]
以iq样本的形式感测和捕获飞行中的无线电信号通过使用软件定义无线电sdr平台来进行。接下来，通过本发明，特征提取经由无监督学习解耦，并且分类任务经由监督学习解耦，同时保持深度学习dl模型的高表达能力。本发明的半监督学习方案的整体工作流程如图5中所示。
[0062]
在第一步骤500中，通过捕获iq样本来感测频谱，iq样本由后续步骤501-505进一步处理。接下来，取决于要训练的模型，可以将作为无线电信号的时域表示的原始iq样本变换501成其它域，诸如频率或时频。当进一步使用iq样本表示时，不需要进一步处理。
[0063]
在下一步骤502中，数据被标记。在该步骤中，执行两个子步骤，即样本选择和样本的标记。本发明的体系架构是半监督的，因此使得选择需要识别的无线电技术的代表性样本是重要的。这里，可以使用领域专家知识或与伪标记结合使用。样本和与标记样本相关联的标签进一步被存储503。
[0064]
该数据存储503模块包括两个数据库，即样本数据库和标签数据库。iq样本存储在样本数据库中，而标签数据库用于存储缩减的样本集合的标签。取决于数据种类和训练策略，数据库连接到一个或多个块，即监督学习510和无监督学习511，以及批处理系统512。
[0065]
在离线训练中，输入数据是经由预定义的策略(例如，统一随机选择)从样本数据库中选择数据的一部分来创建的。
[0066]
接下来，另一方面，在在线训练的批处理系统512中，输入可以由批处理系统提供，该批处理系统从样本数据库503获取数据并将其用于重新训练模型。
[0067]
半监督技术辨别分类块504接收感测到的数据并执行分类任务。块504还从数据标记系统块502接收有限的标记数据集合。基于标记和未标记的数据集合，可以在监督510和无监督511学习块中使用不同的学习算法，以及它们如何交互来执行ssl任务。
[0068]
最后，在技术识别块505中，所提出的体系架构指示给定捕获样本属于哪个类。例如，这可能是技术的名称，但也可能更具表现力，并且包括关于随时间使用的频谱、中心频率、占空比等的信息。
[0069]
本发明提出的工作流程是灵活的，以支持一系列ssl算法、训练方法和输入类型。半监督方案的选择主要取决于各种因素，包括可用数据量、标签数量、要识别的无线电信号的复杂性，以及对离线或在线训练能力的需求等。
[0070]
图5中所示的ssl tr块可以使用如图1中所示的dae 130来实现。dae 130包括两部分：进行映射h＝f(x)的编码器120，其中h被称为代码，以及产生重构r＝g(h)的解码器121。
[0071]
作为dae 130的输入110，提供了不同无线电技术的无线电信号的iq样本或任何变
换。接下来，编码器120包括第一卷积层101，例如，具有3x3滤波器内核、64个特征图、4x4步幅和0.4的丢弃率。第二卷积层102包括3x3滤波器内核、64个特征图、4x4步幅和0.4的丢弃率。接下来，存在全连接的1x125神经元层103。接下来，存在包括3x3滤波器内核、64个特征图、1x4步幅和0.4的丢弃率的第一转置卷积层104，以及包括3x3滤波器内核、64个特征图、1x4步幅和0.4的丢弃率的第二转置卷积层105。dae 120-121的输出112进一步由编码器123使用，编码器123包括全连接的1x128神经元106和包括1x17神经元的softmax层107。卷积层的数量、特征图、步幅、丢弃率、滤波器大小等在机器学习术语中被称为超参数，并且对于每种特定情况，可以使用它们的不同组合。建模由dae 120-121通过使用未标记示例的无监督学习以及由编码器123通过使用代表性标记示例的监督学习来执行。可以使用超参数交换来确定每一层的具体参数等。本发明的编码器配置生成大小为128的中间码，例如16x的缩减因子。类似地，解码器部分遵循相同的模式，但顺序相反，并用转置卷积层替换卷积层。dae 130包括1m的可训练参数。通过使用大小为128的批处理、学习率为0.0004的adam优化器和二元交叉熵作为重建的损失函数来训练自动编码器。体系架构的监督部分包括dae的编码器部分以及两个密集层(一个有128个神经元，第二个有17个神经元)和用于分类的softmax激活层。所得模型在阶段1和阶段2分别有500k和18k个可训练参数。除了损失函数是分类交叉熵并且学习率降低到0.004，该模型使用与dae相同的参数进行训练。最后，生成输出111。
[0072]
因此，对于ssl以不同的方式制定，dae 130提供了两步骤训练过程。首先，包括编码器120和解码器21的dae 130以无监督方式仅使用xu。其次，在无监督学习之后，由分类器123使用编码器106连同softmax分类器107以监督方式使用缩减的标记数据集合xs来执行训练。
[0073]
在监督训练期间，编码器106用作softmax分类器107的特征提取器。此步骤提供了对分类任务的初始引导。然后，执行微调步骤，即重新训练123中的所有层，以提高所得模型的准确性。
[0074]
图6示出了使得能够实现根据本发明的用于识别环境中的无线电技术的方法的实施例的合适的计算系统600。计算系统600通常可以形成为合适的通用计算机并且包括总线610、处理器602、本地存储器604、一个或多个可选输入接口614、一个或多个可选输出接口616、通信接口612、存储元件接口606，以及一个或多个存储元件608。总线610可以包括允许在计算系统600的组件之间进行通信的一个或多个导体。处理器602可以包括解释和执行编程指令的任何类型的常规处理器或微处理器。本地存储器604可以包括存储信息和指令以供处理器602执行的随机存取存储器(ram)或另一种类型的动态存储设备，和/或存储静态信息和指令以供处理器602使用的只读存储器(rom)或另一种类型的静态存储设备。输入接口614可以包括一个或多个允许操作员或用户向计算设备600输入信息的常规机制，诸如键盘620、鼠标630、笔、语音辨别和/或生物特征机制、相机等。输出接口616可以包括一个或多个向操作员或用户输出信息的常规机制，诸如显示器640等。通信接口612可以包括任何类似收发器的机制，诸如例如一个或多个使得计算系统600能够与其它设备和/或系统，例如与节点300-305或310-311中的其它一个或多个节点进行通信的以太网接口。计算系统600的通信接口612可以借助于局域网(lan)或广域网(wan)(诸如例如互联网)连接到这样的另一个计算系统。存储元件接口606可以包括存储接口，诸如例如串行高级技术附件(sata)接
口或小型计算机系统接口(scsi)，用于将总线910连接到一个或多个存储元件608，诸如一个或多个本地盘，例如sata盘驱动器，并控制数据向和/或从这些存储元件908的读取和写入。虽然以上(一个或多个)存储元件608被描述为本地盘，但通常任何其它合适的计算机可读介质，诸如可移动盘、光学存储介质诸如cd或dvd、-rom盘、固态驱动器、闪存卡
……
都可以使用。计算系统600因此可以对应于图2或图3中所示的实施例中的节点。
[0075]
如本技术中所使用的，术语“电路系统”可以指以下一项或多项或全部：
[0076]
(a)仅硬件电路实施方式，诸如仅模拟和/或数字电路系统中的实施方式，以及
[0077]
(b)硬件电路和软件的组合，诸如(如适用)：
[0078]
(i)(一个或多个)模拟和/或数字硬件电路与软件/固件的组合，以及
[0079]
(ii)具有软件的(一个或多个)硬件处理器(包括(一个或多个)数字信号处理器)、软件和(一个或多个)存储器的任何部分，其一起工作以使诸如移动电话或服务器之类的装置执行各种功能，以及
[0080]
(c)需要软件(例如，固件)用于操作的(一个或多个)硬件电路和/或(一个或多个)处理器，诸如(一个或多个)微处理器或(一个或多个)微处理器的一部分，但是在不需要软件以用于操作时可以不存在软件。
[0081]
电路系统的这种定义适用于这个术语在本技术中的所有使用，包括在任何权利要求中。作为进一步的示例，如本技术中所使用的，术语“电路系统”还覆盖仅硬件电路或处理器(或多个处理器)或硬件电路或处理器的一部分及其(或它们)随附软件和/或固件的实施方式。术语“电路系统”还覆盖，例如并且在适用于特定权利要求元素的情况下，用于移动设备的基带集成电路或处理器集成电路或者服务器、蜂窝网络设备或其它计算或网络设备中的类似集成电路。
[0082]
虽然已经通过参考具体实施例对本发明进行了说明，但是对于本领域技术人员而言显而易见的是，本发明不限于前述说明性实施例的细节，并且本发明可以在不脱离其范围的情况下以各种改变和修改来实施。因此，给出的实施例在所有方面都应被认为是说明性的，而不是限制性的，本发明的范围由所附权利要求书而不是前述说明书来指明，因此落入权利要求书范围内的所有改变均旨在被涵盖在其中。
[0083]
此外，本专利申请的读者将理解的是，词语“包括”或“具有”不排除其它元件或步骤，词语“一”或“一个”不排除多个，并且诸如计算机系统、处理器或另一个集成单元之类的单个元件可以实现权利要求中阐述的几个部件的功能。权利要求中的任何附图标记均不应被解释为限制所涉及的相应权利要求。当在本描述或权利要求书中使用时，引入术语“第一”、“第二”、“第三”、“a”、“b”、“c”等以区分相似的元件或步骤，并且不一定描述顺序或时间次序。类似地，术语“顶部”、“底部”、“上方”、“下方”等是出于描述目的而引入的，并且不一定表示相对位置。应该理解的是，在适当的情形下，这样使用的术语是可互换的，并且本发明的实施例能够根据本发明以其它顺序或以与上面描述或图示的那个(哪些)不同的朝向来操作。