基于小波神经网络的PIM功率时间序列预测

白春江,陈 翔,何 鋆,白 鹤,胡天存,崔万照

(中国空间技术研究院西安分院,西安 710000)

0 引言

无源互调[1-11](passive intermodulation, PIM)是指在大功率多通道通信系统中,当输入两个或两个以上的发射载波时,在系统中产生的互调信号进入接收机,从而引起信号干扰的现象。发射系统中的无源微波器件(如天线、馈源、波导法兰、双工器、电缆、同轴接头、负载等)都存在不同程度的非线性特性。尽管无源微波器件通常情况下都表现为线性特性,但是随着输入信号功率的增大,其微弱的非线性逐渐显现,造成无源互调。随着通信系统容量的不断提升,对发射机功率的要求也不断增大,通信系统中无源微波器件的非线性特性将会愈发明显,同时,伴随着通信系统接收机灵敏度的不断提升,无源互调干扰将变得愈发严重。因此,无源互调是关系整个通信系统稳定性,以及通信质量提高的亟需解决的重要问题。

鉴于PIM问题在通信系统中的重要性,国内外学者开展了大量的研究工作。作为PIM研究的重要内容,研究人员在PIM的预测分析方面进行了探索性研究,并取得了一系列有价值的成果。西班牙的Vicente C等人[12]开创性地基于微接触理论,建立能够描述接触界面非线性特性的等效电路模型,并基于该等效电路模型对矩形波导法兰连接结的接触非线性进行分析,进而对其引起的PIM功率进行了计算分析;以该等效电路模型为基础,西安交通大学的陈雄等人[13-14]建立了能够描述同轴连接器内部接触非线性状态的等效电路模型,并对影响同轴连接器PIM功率的因素进行仿真分析;北京邮电大学的高锦春等人[15-16]也基于该等效模型计算分析了多个接触PIM源及振动情况下的同轴连接器的PIM;西安电子科技大学的张世全等人[17]和空军工程大学的王海宁等人[18]基于实验测试的低阶PIM功率,分别采用幂级数方法和IM Microscope 方法,计算分析得到相同输入条件下的高阶PIM功率。上述这些预测方法,都是从频域角度,将PIM功率看作一个稳定值,这类方法在通信系统PIM指标的评估方面具有很好的实用价值。然而,实际的通信系统中,PIM功率是一个随时间变化的非平稳的时域信号[19-20],具有时变性、随机性和不确定性等特性。基于以上特点,田露等人[21-22]从通信系统时域信号角度出发,采用Volterra级数方法,构建了包含时间特性的PIM预测模型,开展了PIM功率的数字对消抑制技术研究。该方法虽然考虑了PIM功率的时间因素,但其预测效果与构建的模型参数数量密切相关。当参数较少时,预测结果不够准确;当参数增多时,又会增加计算过程的复杂度。白春江等人[23]从混沌理论出发研究了PIM功率时间序列的混沌特性,并进行了PIM功率的预测分析。该方法在进行短时间的预测时具有较好的结果。

神经网络借鉴了人脑系统的工作方式,通过构建模型使得网络系统具备跟人脑相似的学习、推理能力。神经网络系统通常能被视为输入到输出的映射,因此,在构建的结构模型中,需要充分体现这种映射关系。结合神经网络的学习能力,构建的网络系统模型也具有随系统和环境的变化而变化的特点,所以,这种网络结构模型非常适用于分析复杂系统。 神经网络通常都包含输入层、隐含层和输出层三种结构。这些结构之间通过神经元进行关联。因此,神经元可以看作是组成神经网络的基本单元。在神经网络的训练过程中,网络根据输入数据的预期输出和实际输出之间的误差,调整神经元的连接权重系数和阈值以达到使得网络性能逐步优化的目的,从而完成神经网络结构和参数的确定。只需要知道输入变量和输出变量就能很好的拟合两者之间的映射关系,因此,其在处理复杂数据和解决复杂问题方面具有应用非常广泛。小波分析不同于单一只考虑时间或频率分辨率的分析方法,而是一种同时考虑时间和频率的方法,在处理非稳定信号方面具有很强的优势。它的最大特点是,无论在时间还是频域都能够将所分析的信号的局部特征进行充分表征的能力。因此,在信号分析领域具有相当重要的应用价值。将小波分析与神经网络组合起来就构成了小波神经网络[24-28]。它不但保留了小波分析方法在局部信息表征方面的优点,即通过平移操作和尺度伸缩的多尺度分析,获得信号中所包含的局部信息,而且还继承了神经网络处理复杂非线性问题能力的优势,在避免神经网络在结构上可能存在的盲目性的同时,还具有更高的精度和更强学习能力。因此,小波神经网络成为当前预测领域研究的热点。

本文首先,详细介绍了小波神经网络预测模型及其预测方法;其次,以同轴连接器为验证对象,基于实验测试系统得到同轴连接器的3阶PIM时间序列;最后,依据得到的PIM时间序列,采用构建的小波神经网络预测模型对后续的PIM时间序列进行预测,并将预测结果跟实验结果进行比较,从而对小波神经网络在研究PIM时间序列的预测分析方面的有效性进行验证。

1 小波神经网络预测模型

小波神经网络是一种新的神经网络模型,本质上可以看作是神经网络基于小波函数的一种优化。在其结构模型中,神经网络中的隐含层函数被小波函数所取代,从输入层到隐含层的权重系数由小波函数中的平移参数来取代,隐含层的阈值则由小波函数中的平移参数来取代。按照结构形式划分,小波神经网络主要包含松散型和紧密型两种形式。其中,紧密型的小波神经网络,因其快的收敛速度和简单的结构等特点,能够使神经网络充分逼近目标,是当前小波神经网络模型中使用最为广泛的一种结构方式,本文也采用这种结构形式进行研究。

如图1是紧密型小波神经网络的拓扑结构。其中,x1,x2,…,xk,表示输入信号;wi,j的含义为从神经网络的输入层的第i个神经元到神经网络的隐含层的第j个神经元之间的权重系数,wj,l的含义为从第j个隐含层的神经元到神经网络的输出层第l个神经元之间的权重系数。模型中采用小波函数h(x)作为神经网络隐含层神经元的传递函数。结合本文研究的PIM功率时间序列的特点,该小波神经网络的拓扑结构中,输入层包含了k个神经元,隐含层包含了m个神经元,而输出层则仅包含了1个神经元,因此,输出层中的y1对应的即为下一时刻PIM时间序列的预测值。

图1 小波神经网络结构示意图Fig.1 Wavelet neural network topological structure

在小波神经网络中,不再使用激活函数,而是被小波函数所取代。即,当输入信号序列为xi(i=1,2,…,k)时,其用于计算隐含层输出的公式可以写为:

(1)

式(1)中h(j)为神经网络中隐含层第j个神经元的输出值;hj表示的是选用的小波函数,bj表示的是选用的小波函数的平移参数;aj表示的是选用的小波函数的伸缩参数。

小波函数是组成小波神经网络的关键,在构建模型过程中必不可少。目前,存在多种广泛使用的小波函数。例如,哈尔(Harr)小波、莫莱(Morlet)小波、迈耶(Meyer)小波、墨西哥帽(Mexican Hat)小波、Battle-Lemarie小波等。其中,Morlet小波在抗干扰能力方面具有较强的优势,并且计算过程中也具有较强的稳定性,故,在实际应用中更为广泛。本文在构建神经网络模型的过程中也使用Morlet小波。其表达式为:

h(t)=e-t2/2cos(1.75t)

(2)

其中,t为时间变量。

根据模型结构图可知,本文构建的小波神经网络的输出层的计算公式可以表示为:

(3)

式(3)中wj,l表示从第j个隐含层神经元到输出层第l个神经元之间的权重系数。

本文的小波神经网络,通过梯度下降法来调整各连接层的权重系数和因子。具体算法流程如图2所示。

图2 小波神经网络预测流程图Fig.2 Wavelet neural network prediction flow chart

2 PIM实验及时间序列

通信系统中传输的频率信号通常都是随时间变化的。当多个随时间变化的载波信号在经过通信系统中的具有非线性特性的无源微波器件时,不同载波信号之间由于相互调制所产生的PIM信号也随着时间的变化而不同。对于相同的输入,产生的PIM功率会因阶数的不同而不同,每个阶数的PIM功率也表现出随时间变化的特性。通常,阶数越低,PIM功率的幅值越高。PIM功率在不同时间点上的各个数值,表现出的动态特性、随机特性,符合时间序列的基本特点。因此,不同阶数的PIM功率可以被视为时间序列,而通过研究这种时间序列,便可以获取PIM功率所遵从的统计规律,由此能对通信系统中产生的PIM功率的发展特点做出预判。

为了得到具有时间特性的PIM功率实验数据,我们依据图3所示的测试原理图,搭建了一套PIM测试系统。该系统能够对无源微波器件的3阶、5阶、7阶等阶数的PIM功率进行测试。鉴于本文研究的方法具有通用性,因此,选择最为简单的同轴连接器作为实验测试对象,并使用两路载波频率分别为2.16GHz和2.21GHz的信号作为输入。通过测试系统获得其3阶PIM功率时间序列。通过PIM测试系统中的自动数据采集系统,测试得到了两路载波20W输入功率条件下,同轴连接器的前5000s的3阶PIM功率(如图4所示)。

图3 PIM测试系统Fig.3 Testing system of PIM

图4 PIM功率时间序列Fig.4 Time series of PIM

从中可以看出,测得的PIM功率不仅表现出时变特性,同时,还呈现出一定程度的随机性以及不确定性,因此,符合时间序列的特征。本文将基于该测试得到的PIM时间序列进行小波神经网络的预测研究。

3 预测结果分析

小波神经网络模型中的隐含层和神经元个数的选取是非常重要的,它的选取结果对构建的神经网络模型性能有重要影响。在小波神经网络中,通过隐含层神经元对实验测试数据进行学习训练,提取其相应的内在演变规律。因此,当选择的隐含层神经元数量太少时,小波神经网络从实验测试数据中获取信息的能力就相对较弱,以至于不能够充分反映实验测试数据的内在演变规律;而当选择的隐含层神经元数量过多时,则存在把实验测试数据中的一些非规律的内容也给涵盖进来的可能,从而出现所谓的“过拟合”,这种情况下,不仅会增加对实验测试数据的训练时间,而且还会一定程度上降低小波神经网络的泛化能力。研究证明,一两层的隐含层已经能够解决很多复杂的非线性映射问题。因此,包含一个隐含层的三层小波神经网络是本文的主要研究内容,而隐含层的神经元个数的选取是尤为关键的部分,本文优先考虑隐含层神经元个数的选取。

3.1 小波神经网络参数的确定

本文使用经验公式法来确定小波神经网络模型中隐含层的神经元个数。具体公式如下式(4-7)所列:

m=2k+1

(4)

m=log2=(k)

(5)

(6)

(7)

公式(4-7)中m表示计算得到的神经网络中隐含层神经元的数量,k表示神经网络中输入层神经元的数量(即输入的时间序列的嵌入维数),l表示神经网络输出层神经元的数量,通常情况下,变量a取值为[0,10]之间的整数。采用这些经验公式,可以将隐含层神经元数量确定在一个范围内。考虑到本文研究的PIM功率信号是一个时间序列,本文选用的小波神经网络为一个输出层,即l为1。由于输入层神经元个数与时间序列的嵌入维数相关,因此,基于实验测试得到PIM时间序列获得嵌入维数是开展预测研究的关键。

3.1.1 确定嵌入维数

KIM H S等人提出的C-C方法[29]是获得时间序列的最佳嵌入维数的最常用且有效的方法。本文也采用该方法来获得最佳嵌入维数。其具体步骤如下:

首先,根据得到的时间序列,采用公式(8),构建该PIM功率时间序列的相空间,

X(t)={x(t),x(t+τ),…,x[t+(n-1)τ]},
t=1,2,…,M,M=N-(n-1)τ

(8)

嵌入时间序列的关联积分可以表示为:

(9)

式(9)中,x(t)表示时间序列,X(t)表示相空间中的相点,M表示相空间中相点个数,τ表示时间延迟,n表示嵌入维数,N表示时间序列中包含的数据个数,r表示计算中所使用的搜索半径,θ表示符号函数如式(10)所列:

(10)

时间序列x={xi}的检验统计量S(n,N,r,t)可以表示为如式(11)所列:

S(n,N,r,t)=C(n,N,r,t)-Cn(n,N,r,t)

(11)

将得到的时间序列平均分为t(t为时间延迟)个互不相交的子时间序列,表示为如式(12)所列:

(12)

对公式(11)所定义的统计量进行分块平均,则有如式(13)所列:

(13)

随时间t变化的S1(n,r,t)反映了时间序列的自相关特性。在S1(n,r,t)～t关系曲线中所有使用的搜索半径r之间相差最小的时间点,即对应最优时间延迟τ。在S1(n,r,t)～t关系曲线中,选择最大的半径r和最小半径r,并获得其差值为式(14)所列:

ΔS1(n,t)=max{S1(n,ri,t)}-min{S1(n,ri,t)}

(14)

式(14)中,ΔS1(n,t)表示S1(n,r,t)～t关系曲线中所有半径r的最大偏差。进而可以获得如下公式:

(15)

(16)

图5 C-C方法得到的数值结果Fig.5 The numerical result with C-C method

(17)

S1_cor(t)～t关系曲线中的全局最小值的取值位置,即被认为是所寻找的最优延迟时间窗口τW(如图5(c)所示)。

3.1.2 确定隐含层神经元个数

基于获得的嵌入维数,并代入公式(4-7)中,可以估算出本文研究的PIM功率时间序列的小波神经网络中隐含层的神经元个数m的取值范围是[2,13]。基于测得的PIM时间序列,分别对初步获得的取值范围[2,13]内每一种神经元个数的隐含层进行仿真计算。仿真过程中均采用500次训练次数。通过仿真计算,可以分别求得均方误差(mean squared error,MSE)和均等系数(equation coefficient,EC,即拟合度)的平均值。

均方误差MSE的计算公式表示为:

(18)

均等系数EC的计算公式表示为:

(19)

式(18-19)中,Yr(t)为在PIM时间序列在时刻t的实际测试值;Yp(t)为采用本文所述小波神经网络方法仿真得到的PIM时间序列在时刻t的预测值。MSE表示的是实验值与预测值之间的误差分布,也就是说,MSE值越小,误差分布就越集中,而预测效果也就越好。EC反映的是预测结果与测试结果的符合程度,它的值越大,说明预测值与测试值的拟合程度越接近,预测效果也就越好。

根据试验测得的PIM功率时间序列,采用图2中的小波神经网络预测流程,分别对具有不同神经元数量的隐含层的小波神经网络模型进行预测分析。误差效果如表1所列。

表1 不同神经元数量的隐含层的预测结果的误差Table 1 Error of predicting results with different number neurons

从表1的计算结果可以看到,当选取的隐含层神经元个数为7的时候,均方误差值MSE达到最低,均等系数EC最大。此时,本文构建的小波神经网络模型的期望输出值与实际输出值最为接近。即当隐含层神经元个数为7时,构造的预测模型在预测效果上最佳。因此,本文采用输入层为4个神经元,隐含层为7个神经元,输出层为1个神经元的小波神经网络模型来预测PIM功率时间序列。

3.2 预测结果

采用构建的小波神经网络模型,对PIM功率时间序列进行单点单步预测。仿真过程中采用的训练过程的迭代次数设为500次,学习速率lr1和lr2分别取0.01和0.001。

下图6给出了基于本文所建立的小波神经网络模型,以及测试得到的前5000s的PIM功率时间序列,预测得到5000s之后的90s的PIM功率。从图6中可以看出,在预测的90s的时间序列中,小波神经网络对PIM时间序列的预测结果与实际测试结果相接近。图7反映的是预测结果与测试结果的相对误差。从中可以看出,最大相对误差为1.33%。从而验证了小波神经网络模型在PIM功率时间序列预测方面的有效性和可行性。

图6 前90s的预测结果Fig.6 Predicting results of within 90s

图7 预测结果与实际测试结果的相对误差Fig.7 The relative error between predicting results and experiment results within 90s

4 结论

本文提出基于小波神经网络的PIM功率预测方法。首先,详细介绍小波神经网络预测模型及其预测方法;其次,以同轴连接器为验证对象,通过PIM实验测试系统获得3阶PIM功率的时间序列;最后,依据获得的PIM功率时间序列,采用小波神经网络预测模型对后续的PIM时间序列进行预测,并将预测结果与实验结果进行比较,从而验证小波神经网络在预测PIM功率时间序列方面的有效性。该研究对于开展PIM对消抑制技术具有一定的参考价值。

尽管本文的预测结果与实验结果具有较好的吻合度。但是,对于实验测试结果中出现的PIM值突然跳变现象却不能准确预测,这是因为影响PIM测试结果的因素很多。如要准确预测PIM的跳变,则需要对PIM的影响因素综合分类,进行量化,测试所有不同影响因素下的PIM时间序列。只有尽可能将各种影响因素都包含进去,才可能对PIM值进行准确预测。在这个过程中,需要大量的实验测试数据,这也正是小波神经网络的优势。本文仅仅是采用一个PIM时间序列来验证小波神经网络预测PIM值的可行性。后续,则要基于小波神经网络继续开展考虑多种因素影响下的PIM预测研究。