基于深度学习的认知物联网频谱感知算法研究

王安义，王文龙，梁 艳

(西安科技大学 通信与信息工程学院，陕西 西安 710054)

0 引言

随着物联网(Internet of Things, IoT)时代的到来,物联网设备数量急剧增加[1],频谱资源短缺等问题显现出来,并且频谱资源是有限且无可替代的[2],即频谱资源的紧缺是制约物联网发展的主要原因之一。物联网中物-物之间的联系需要无线频谱的支撑,而固定的频谱分配方式显然满足不了极速增长的频谱需求。因此,认知无线网络(Cognitive Radio Network,CRN)的出现有效解决了物联网中存在的频谱短缺问题[3],在主用户(Primary User,PU)占用频段进行通信的前提下[4],次用户(Secondary User,SU)能够感知到频谱中哪些频带没有被占用。认知无线电系统的主要优势是能够根据当时的频谱占用情况选择最恰当的通信方式。而频谱感知就是认知无线电的分支之一,是根据SU接收的实时信息,来感知频段有没有被PU占用。

目前物联网中传统频谱感知方法主要有匹配滤波检测[5]、能量检测[6]以及循环平稳特征检测[7]等,但传统方法存在检测门限难以确定的缺陷。Awe等[8]、Bao等[9]和陈思吉等[10]提出的基于支持向量机(Support Vector Machine,SVM)频谱感知方法能够对信号与噪声进行分类识别,但该方法也存在需要求解特征参数、感知的时间长等缺陷。Liu等[11]、Lee等[12]和张孟伯等[13]所提的方法是将传统卷积神经网络(Convolutional Neural Network, CNN)用于处理频谱感知问题,将接收信号转换成二维矩阵并进行归一灰度化处理,作为传统CNN的数据集,该方法通过训练CNN提取图像的特征,将在线数据输入训练完成的网络中进行频谱感知。该方法的优点在于不用考虑求解特征参数以及检测门限,但是存在由于网络结构简单而导致对特征图信息利用率低下且提取的特征信息有限等缺陷,从而导致感知性能差。Lee等[12]、盖建新等[14]所提的方法是用神经网络来处理融合各个SU的接收信号,协作频谱感知系统应用于深度协作感知系统中,显著提升了恶劣感知条件下的频谱感知性能,但是其在传输SU的接收信号时会耗费大量的系统资源和网络流量,造成不必要的资源浪费。

针对上述文献提出方法所存在的问题,本文提出了基于改进残差网络(Residual Network, ResNeXt)[15]的频谱感知方法。该方法将频谱感知问题转化成图像二分类问题[16],利用残差结构提取灰度图像的高层次特征值,完成频谱感知。在单节点频谱感知基础上,本文提出的基于深度学习的协作频谱感知算法将各个SU得到的评分向量输入“软组合网”[17]训练直接学习最佳的融合规则,与传统的协作频谱感知系统采用特定的融合规则(组合来自分布式节点的决策信息)不同,相比传统的协作频谱感知方法有很大的性能提高。

1 系统模型

在物联网无线认知网络中,可以根据PU的空闲或繁忙状态,在SU处的信号检测可表示为:

(1)

式中:H0表示PU没有占用频谱,H1表示PU占用频谱,y(n)表示SU的接收样本,n表示信号样本的长度,s(n)表示PU的发射信号,h表示假定在感测周期内保持不变的信道增益,本文选择瑞利信道来仿真城市物联网环境的无线信道环境;w(n)表示均值为0且方差为σ2的高斯分布噪声。

本文将频谱感知看作是一个图像二分类问题,H0和H1分别表示为图像二分类的结果。检测概率(Pd)以及虚警概率(Pf)均作为频谱感知性能好坏的指标。Pd表示当出现PU信号占用频谱时,SU正确感知到PU信号存在的概率;Pf表示当PU信号没有占用频谱时,SU感知成PU信号占用频谱的概率。Pd和Pf分别表示为:

(2)

一个好的检测网络需要同时实现高Pd和低Pf。

2 基于改进残差神经网络的单节点频谱感知算法

针对认知物联网环境在低噪比(Signal to Noise Ratio, SNR)下感知性能差的问题,本文设计了基于ResNeXt的频谱感知算法,模型如图1所示。该算法由数据处理、模型训练和模型感知3个阶段构成。首先,PU信号发射机发射QPSK信号,接收端接收到的信号为:

图1 频谱感知模型Fig.1 Spectrum sensing model

s(n)=I(n)+jQ(n),

(3)

式中:I(n)、Q(n)分别表示SU接收到的I、Q两路信号。对接收端采样得到信号样本值为:

y(n)={y1,y2,y3,yi,…,yn},

(4)

式中:yi表示信号样本y的第i个采样值,i= 1,2, …,n,n为采样信号样本长度,把采样信号分割成K行、n/K列的二维矩阵。随之,对其归一灰度化处理转成灰度图,作为神经网络训练的数据集。

2.1 数据预处理

本文选择的瑞利信道仿真出在城市物联网环境中的无线信道。信号进行串并转换,通过瑞利衰落信道和加性高斯白噪声(Additive White Gaussian Noise, AWGN),最终得到有信号的接收信号,白噪声(White Gaussian Noise, WGN)作为无信号的接收信号。对接收信号进行一系列处理,得到I、Q两路信号,共同组成原始数据集,即:s(n)=I(n)+jQ(n)。对I、Q两路信号的n个采样点转化成二维数据可得到K行n/K列的矩阵XI与XQ,其表达式分别为:

(5)

(6)

随后把XI和XQ通过式(7)进行归一化:

(7)

归一化后的大小用灰度值来表示,并将归一化灰度处理后的XI与XQ作为ResNeXt频谱感知模型的输入。

2.2 改进残差网络模型结构

本文提出的ResNeXt主要借鉴的是残差网络(ResNet)的堆叠操作和Inception的拆分-变换-合并操作。基本构建块如图2所示。图2(a)为ResNet的基本构建块,图2(b)为ResNeXt的基本构建块,这2个构建块的复杂度相同,但采用ResNeXt基本构建块网络结构更加模块化,只要设置少量超参数,网络准确度更高[11]。其中,X表示基本块中的一个关键超参数,被称为“cardinality”。本文选择X=3意味着ResNeXt中每个基本块中有32个分支。这个数值可以根据具体的模型配置和需求进行调整,以控制模型的复杂度和性能。ResNet是由一系列残差模块(Residual Learning Module, RLM)组成的。一个RLM结构包含3个卷积层,其输入为x,经过残差块运算得到输出F(x),H(x)是这两部分之和,即:

(a)ResNet

(b)ResNeXt

H(x)=F(x)+x,

(8)

此过程可缓解训练过程中的收敛问题。

本文提出的改进残差神经网络设计由输入层、卷积层(Conv)、RLM、全连接层、分类标签和捷径连接组成。ResNeXt通过捷径连接能够映射到更深网络,有效避免了梯度消失。解决了传统CNN频谱感知方法对特征信息利用率低且提取的有用信息有限等问题[8-10]。

本文设计的ResNeXt结构参数如表1所示。其中,在每个卷积层后面都加了个批处理规范化层(Batch Normalization, BN)层和ReLU,其BN层主要作用有:① 节省网络的训练时间;② 既能防止梯度爆炸又能避免梯度消失;③ 避免出现过拟合情况。

表1 ResNeXt结构参数

2.3 改进残差网络频谱感知算法

一般情况下,频谱感知的检测算法可以表示为:

DRs(y)=argmax(fL(fL-1(fL-2(…f1(y))))),

(9)

式中:输入y为接收样本的向量,通过由L层组成的ResNeXt神经网络进行处理;fi,i=1,2,…,L-1为第i层的权重和激活函数的计算,fL为给出2个假设概率的Softmax函数,argmax为返回列表中最大数的索引的运算符。

假设卷积层的卷积核的非线性函数为H(·),则经过卷积层输出(残差层输入)为:

F0=H(Wyi),

(10)

式中:W、F0分别表示网络权重参数和卷积层输出,yi表示输入的第i张灰度图像。

ResNeXt神经网络通过捷径连接缘故,可以从浅层l到深层L的学习特征,经过残差层里的卷积层、激活函数等操作,提取灰度图像数据的特征,Fl表示为:

Fl=HRLM,l(Fl-1)=HRLM,l(HRLM,l-1(…HRLM,1(F0)…))l≥1,

(11)

式中:HRLM,l为第l个RLM的非线性操作函数。

输入样本经过所有的RLM特征提取后的FL表示为:

FL=HRLM,L(Fl-1)。

(12)

最后,利用Fc中Softmax函数对接收样本进行分类,进而检测出频谱感知的结果(H0或H1)。输入输出的映射图满足:

(13)

(14)

(15)

(16)

且满足

(17)

3 基于深度学习的协作频谱感知算法

由于单节点频谱感知方法容易遇到低SNR和隐藏终端的情况,因此,采用单节点检测的检测结果作为最后的结果显然是不可靠的。传统协作频谱感知算法的硬判决融合是把各个SU频谱感知结果传送至融合中心,虽可以节省传输信道带宽,但存在判断误差大、检测精度低等问题。传统软判决融合是将SU感知的数据传输到融合中心,检测性能相对硬判决融合提升了很多,但需要的传输带宽大。

本文采用的协作频谱网络为文献[12]提出的融合中心SoftCombinationNet (SCN)网络,由3个全连接层组成,如图3所示。

图3 协作频谱感知简图Fig.3 Schematic diagram of collaborative spectrum sensing

前2个全连接层分别是32个节点和8个点,所用的激活函数为ReLU函数,第3个全连接层有2个节点,激活函数为Softmax函数。本文提出的基于深度学习的协作频谱感知方法,先通过基于ResNeXt的单节点频谱感知算法获得SU的感知结果(2个假设H0和H1的评分向量pθ(xk))。把各个SU将得到的评分向量传送至网络模型中进行训练,通过网络的全连接层对各个SU频谱感知结果进行特征提取。在特征提取后,按照一定的权重对提取的特征进行加权平均融合,这些权重可以通过训练学习得到,并且在SCN网络输出层上应用Softmax函数对融合后的特征进行进一步处理得到协作频谱感知的最终结果。整个网络的参数通过监督学习的方式进行训练,使用带有标签的训练数据进行优化。训练的目标是最小化预测输出与真实标签之间的误差,以使网络能够学习到最佳的软融合策略。与传统的协作频谱感知的SU的决策信息方式不同,本文将各个SU频谱感知得到的评分向量矩阵作为深度学习模型SCN的输入,经过训练能够直接获得最好的融合规则,不用人工去设置融合规则,降低了系统消耗成本。协作频谱感知的流程如图4所示。

图4 协作频谱感知流程Fig.4 Flowchart of collaborative spectrum sensing

4 实验仿真与结果分析

4.1 数据集生成

在Matlab中生成PU信号为QPSK信号和纯噪声(均值为0、方差为1的WGN),共同组成本文所需的数据,并将其划分成训练和测试的数据集,在接收端的信号是采样点数值为N的I、Q两路信号,将I、Q两路信号转化成K行n/K列的二维矩阵且归一灰度化进行处理。本节实验采用的瑞利信道为模拟城市物联网的通信环境。训练时网络中的参数设置按初始化随机高斯分布,损失函数采用的是交叉熵误差函数,训练方法采用的是SGDM优化器。其中,动量因子设置为0.9,学习率设置为0.01。本文在SU接收信号的SNR在-20～0 dB变化,取间距为1 dB。每种SNR下选取500组信号数据,共21 000个信号为PU占据频谱的训练集,共选取21 000组WGN信号为PU没有占据频谱的训练集。每个SNR下选取100个样本作为测试数据。

4.2 算法的性能分析

本文通过多个实验来分析基于ResNeXt网络的频谱感知方法的性能。

实验1:训练的次数对于频谱感知性能的影响

Pd与神经网络训练次数的关系如图5所示。

图5 检测概率收敛情况Fig.5 Convergence of detection probability

由图5可以看出,当神经网络的训练次数少于30次时,本文的频谱感知算法的Pd波动比较大;当神经网络的训练次数超过40次时,Pd一直稳定在0.97左右。因此,模型训练次数选择40。

实验2:采样点数对ResNeXt频谱感知性能的影响

在进行频谱感知过程中,通过对PU的接收信号的采样不同点数。为验证采样点数的不同会对ResNeXt频谱感知的性能产生影响。本实验分别以采样点数64、200、400、900、1 600为例,验证分析采样点数对频谱感知的性能影响,如图6所示。

图6 感知准确率随采样点数的变化Fig.6 The change of sensing accuracy with the number of sampling points

由图6可以看出,随着采样点数的增加,频谱感知准确率总体先增加然后趋于平稳。当SNR= -14 dB,采样点数为61、200、400、900、1 600时,频谱感知的准确率分别为61%、93.5%、93.8%、93.2%、93.6%。因此,对接收信号采样点不需要太多,采样点过低,可能导致采取的信息量不够准确,造成准确率降低。采样点选择过多,反而会增加模型的负担,增加训练时长。因此,本文选择采样点数200最为合适。

实验3:本文方法与传统能量检测算法、SVM、CNN、ResNet算法的频谱感知精度对比本节实验的SNR在-20～0 dB以1 dB为间隔。测试时,每种SNR下取SU测得的100个信号数据为测试样本数据。低SNR下的信号比高SNR下的信号缺少特征信息,信号失真更为严重,图7给出了5种频谱感知算法在各个SNR下的检测概率。可以看出,当SNR<-10 dB时,在检测概率方面ResNeXt与其他频谱感知算法相比更高。比如在SNR=-18 dB的情况下ResNeXt、ResNet、CNN、SVM和能量检测单位检测概率分别为92.1%、86%、72.3%、58%和0。传统能量检测算法在低SNR的情况下识别不出是否存在信号,但本文算法在较低SNR的环境下仍然有很好的检测准确率,性能增益更加明显。可以看出,本文算法的性能增益在低SNR的情况下明显优于ResNet、CNN、SVM和能量检测算法。ResNeXt性能比ResNet好的缘故是ResNeXt残差网络只需要设置少量超参数且高度模块化,模型参数相对较少,降低了模型复杂度。

图7 各种频谱感知方法在不同SNR的PdFig.7 Pd of various spectrum sensing methods under different SNR conditions

虚警概率同样也是验证频谱感知性能的指标之一。本文通过统计和记录多次实验中的虚警概率及其对应的检测概率来验证本文的频谱感知方法的性能,得到了5种频谱感知方法的受试者工作特征(Receiver Operating Characteristic, ROC)曲线。

SNR=12 dB时5种算法的ROC曲线如图8所示。在Pf固定时,本文提出的频谱感知方法的Pd高于CNN、SVM方法。例如,在Pf为0.1时,ResNeXt、ResNet、CNN、SVM、能量检测算法的Pd分别为0.96、0.92、0.75、0.46、0。其原因是ResNeXt 频谱感知方法只需设置少量参数就能使用残差学习训练提取信号的浅层和深层的特征,更好地提升了频谱感知模型的特征提取性能。

图8 ROC曲线Fig.8 ROC curves

实验4:比较使用本文方法在不同认知用户个数与传统协作频谱感知方法检测性能最高的逻辑或(LO)融合准则

协作频谱感知系统的收敛情况如图9所示。

图9 协作频谱感知系统的收敛情况Fig.9 Convergence of cooperative spectrum sensing systems

在协作频谱感知网络中,损失值和准确率是2个重要的指标,用于衡量模型的性能。通常情况下,希望模型的准确率越高越好,损失值越小越好。从图9可以看出,经过2轮训练就可以达到高准确率和低损失函数,说明该神经网络经过短时间训练就可以达到很好的性能,用该神经网络代替融合提高了频谱感知的性能。

基于深度学习的协同检测系统的性能增益如图10所示。

图10 基于深度学习的协同检测系统的性能增益Fig.10 Performance gain of collaborative detection system based on deep learning

本节实验考虑了2、3、4个节点的3个协同系统,并将其与传统协作频谱感知准确率最好的LO规则融合准则做比较,描述了协同传感方案的检测性能。对比本文(SCN)方法和LO的性能,由图10可以看出,在实际SNR范围内,即Pd大于90%时,SCN实现了与LO几乎相同的Pd,但Pf显著降低,从而证明了本文方法的优越性。

5 结束语

本文提出了基于ResNeXt的单节点频谱感知方法,解决了传统CNN依靠网络深度、过深的网络引起梯度消失导致频谱感知低下等问题。结果表明,与传统的频谱感知方法相比,该神经网络在低SNR的检测性能显著提高,并且提出的基于深度学习的协作频谱感知方案的SCN来利用分布式SU节点的软信息。该方案能够同时实现高Pd和低Pf,频谱感知算法性能提升明显,解决了传统硬融合方法检测性能低、软融合数据量大、处理复杂等问题。