基于粒子群算法优化的目标识别方法

2010-08-27 07:58侯亚丽
探测与控制学报 2010年2期
关键词:微粒极值步长

侯亚丽,李 岗,王 伟

(机电工程与控制国家级重点实验室,陕西西安 710065)

0 引言

目标识别是指从接收到的目标散射回波(如微波、红外线、可见光、激光、超声波)中提取目标的有关信息和稳定特征进而判明目标属性的一门技术,在军事信息处理领域中有重要的应用意义。随着目标识别理论的发展以及军事目标高识别率的要求,目标识别系统的设计也越来越复杂,这就需要提取目标足够多的信息来反映目标特征,从而进行识别。各种利用优化算法改进BP网络的目标识别方法纷纷出现[1-2]。Levenberg-Marquardt(LM)方法[1]是一种快速收敛算法,在改进BP网络上表现出较好的性能;但是,LM算法旨在提高网络收敛速度,本质上还是基于梯度下降原理的,必然存在局部极小点,从而不可避免地陷入局部极值[3]。所以为了避免这种情况,本文采用了基于优化理论的粒子群优化算法(PSO)来改进LM 算法。

1 算法原理

目标光散射的瞬态特性是近几年发展起来的研究目标光散射特性领域的一个方向。它是指对目标进行全照射时,目标在瞬间反射的光信息的特性,不仅包含了速度、方位、距离等信息,还可以从中提取更具体的特征信息,如目标姿态、尺寸、材料等。利用这些信息,提取目标特征并处理,可作为目标识别领域的一种新方法,本文针对提取目标特征后的识别算法进行研究。

根据特性量及特征矩阵的结构,选取的BP网络结构为3-7-3,如图1。输入量是对目标瞬态特性进行奇异值特征提取后的一维向量,长度为3,输出量是归一化后数值在0.1~0.9之间的一维无量纲向量。

图1 BP网络结构图Fig.1 BPalgorithm frame

LM算法是一种基于BP网络的快速收敛改进算法[2],能在网络收敛速度上得到大大的提高,这是LM算法最大的优点,但是究其原理仍然是基于梯度下降法,就不可避免地会出现局部极值;另一方面,根据文献[4]及本文利用LM算法的识别结果,对权重敏感、精度不高等问题也会对网络的识别率产生影响。

2 粒子群算法

PSO算法具有较强的全局收敛能力和较强的鲁棒性,将其与快速收敛算法结合,不仅能提高收敛速度,克服网络陷入局部极值的缺点,在识别精度上也会有较大改善。算法原理描述如下[5]:

设Xi=(xi1,xi2,…,xin)为微粒i的当前位置,Vi=(vi1,vi2,…,vin)为微粒i的当前飞行速度,Pi=(p i1,pi2,…,pin)为微粒i所经历的最好位置,对最小化问题,目标函数值越小,对应的适应值越好。

设f(X)为最小化的目标函数,则微粒i的当前最好位置为:

设群体中的微粒数为s,群体中所有微粒所经历的最好位置为Pg(t),称为全局最好位置。则

基本微粒群算法的进化方程为:

式中,w(t)为惯性权值,通常随进化代数从0.9线性递减至0.4;下标j表示微粒的第j维,i表示微粒,t表示代数,c1,c2为加速常数,通常取 2,r 1~U(0,1),r2~U(0,1)为两个相互独立的随机分布。

从上式看出,c1调节微粒飞向自身最好位置的步长,c2调节微粒飞向全局最好位置的步长,vij为减小微粒离开搜索空间的可能性,限定在一定范围内,即

将训练好的网络权重值作为LM算法初始值,按照LM算法步骤,进行目标识别,具体流程如下。

用PSO训练神经网络时,定义粒子群的位置向量X元素是BP网络的全体连接权值和阈值,首先初始化向量位置X,然后用PSO搜索最优位置,求

的误差(适应度)最小值。其中,tjk是目标值,f jk是计算值,m是输出节点数,ns是训练集样本数。算法流程如图2所示。

图2 PSO算法流程Fig.2 PSO algorithm flow chart

3 算法识别性能验证

3.1 改进算法实例

本文选取检验样本的450组数据对其进行训练,优化前后的步长-误差效果图如图3、图4所示。图中,横坐标表示训练步长,纵坐标表示训练误差范围。

图3 LM算法训练BP网络结果Fig.3 BP result training by LM algorithm

图4 PSO优化LM算法结果Fig.4 LM result optimized by PSO algorithm

可看出,当步长为202时,LM算法即达到所需精度,是一种收敛较快的算法,单从这一方面来讲能够满足识别要求;但训练过程中速度越来越慢,甚至在接近误差精度时趋向平坦,这说明算法可能收敛于局部极值,对识别效果上会产生影响;PSO算法优化后的LM网络不仅具有较快的收敛速度(141步),而且克服了误差下降时的平坦区,使误差快速、稳定的减小到极值,这是比较理想的输出结果。

随机选取20组样本进行识别,结果如表1和表2。

表1 LM算法优化的BP网络的识别结果Tab.1 Identify results of BP optimized by LM algorithm

表2 PSO算法的识别结果Tab.2 Identify results of PSO algorithm

3.2 结果分析

表3 LM、PSO算法的比较Tab.3 Compare LM algorithm with PSO

从表3可以看出,利用神经网络实现对目标的光散射瞬态特性进行目标识别时,PSO优化后的算法优于LM 算法,具体表现在:

1)在识别速度方面,PSO学习算法的收敛速度有所提高,收敛时间有所减少,这一点可以从训练步长的大小看出(LM算法对整个样本的识别步长是202,PSO优化后的步长是141)。

2)在识别精度方面,PSO学习算法的全局优化能力使LM算法的局部收敛问题得到解决,克服了LM算法对初始权值敏感,容易陷入局部极小的缺点,从而分类效果较好,识别率较高,其泛化能力较强,是比较理想的一种目标识别算法。

这是因为PSO算法简单,计算复杂度低。在对空间的搜索过程中,通过群体信息的共享加速了收敛速度,缩短了下降时间,将PSO的宏观搜索能力与BP算法的指导性搜索思想相结合,同时利用LM算法的快速收敛功能,发挥各个算法的优势,解决了LM算法容易陷入局部极小的问题,且收敛速度快。将训练后的网络对识别样本集中的样本进行识别,识别正确率较高,说明用PSO算法训练的神经网络具有很好的泛化能力。

4 结论

本文提出了基于粒子群算法(PSO)权值优化的LM算法,通过对这算法的分析比较,从识别结果可以看出本文提出的改进方法达到了目标识别的要求,不仅提高了网络的学习速度,还提高了网络的学习精度,克服了基于梯度下降法的LM算法易陷入局部极值的缺点,优化后算法的识别精度满足军事目标识别的需要,为利用目标特性进行目标识别提供了有力的理论支持。

[1]BP网络的改进算法简介[EB/OL].研学论坛,(2006-10-28)[2009-12-03].http://bbs.matwav.com/viewthread.php?tid=583816.

[2]飞思科技.MATLAB6.5辅助神经网络分析与设计[M].北京:电子工业出版社,2003.

[3]侯亚丽,李铁.基于LM优化算法的BP神经网络目标识别方法研究[J].探测与控制学报,2008,30(1):53-57.HOU Yali,LI Tie.Improvement of BP neural network by LM optimizing algorithm in target identification[J].Journal of Detection&Control,2008,30(1):53-57.

[4]王丽霞.一种前馈神经网络算法[EB/OL].(2004-10-24)[2009-12-03].http://www.docin.com/p-8944092.html.

[5]曾建潮,介婧,崔志华.微粒群算法[M].北京:科学出版社,2004.

猜你喜欢
微粒极值步长
中心差商公式变步长算法的计算终止条件
SIMS微粒分析制样装置研制
基于Armijo搜索步长的BFGS与DFP拟牛顿法的比较研究
极值(最值)中的分类讨论
极值点带你去“漂移”
一种改进的变步长LMS自适应滤波算法
极值(最值)中的分类讨论
极值点偏移问题的解法
横看成岭侧成峰,远近高低各不同
高考中微粒间作用力大小与物质性质的考查