学习功能。本文针对紧致型小波BP神经网络结构，选取了三种不同的小波函数作为激励函数，在函数拟合应用中与BP神经网络进行对比，体现出小波BP神经网络收敛精度高的特点。
关键词：小波神经网络；函数拟合；激励函数
DOI：10.16640/j.cnki.37-1222/t.2015.23.204
1 引言
作为人工智能的一个分支，神经网络以其自组织、自学习、自适应的能力，被广泛应用于模式识别、信号处理、自动控制、决策科学等领域[1]。其中BP（Back Propagation）神经网络是目前应用较为广泛的神经网络模型。
从数学理论上已证明，BP神经网络具有实现任何复杂非线性映射的能力，能以任意精度逼近任何非线性连续函数[2]。但是它也有明显的缺陷，从数学角度看，BP算法是一种局部搜索的优化方法，算法很有可能陷入局部极值使训练失败。而小波变换通过尺度伸缩和平移对信号进行多尺度分析，能有效提取信号的局部信息，可以很好的解决BP神经网络的这一缺陷。因此将小波理论与神经网络相结合，取长补短，可以发挥各自的优势。小波神经网络（Wavelet Neural Network，WNN）最早是由法国著名的信息科学研究机构IRISA的Qinghua Zhang博士等人于1992年提出的，目前已经成为使用广泛的人工智能分析方法。
2 小波变换
小波变换属于时频分析的一种，是对傅立叶分析进行的一种推广。一维小波变换具有多分辨率分析的特点，而且在时频两域都具有表征信号局部特征的能力，是一种窗口大小固定不变但其形状可改变，时间窗和频率窗都可以改变的时频局部化分析方法，被誉为分析信号的显微镜[3]。
其中a为伸缩因子，b为平移因子。只在原点附近才有明显的起伏，而在远离原点的地方会迅速向零衰减，所以被称为“小波” [4]。
小波函数不是唯一存在的，所有满足小波条件的函数都可以作为小波函数。在应用中常用的有Morlet小波、Mexihat小波和Gaussian小波。Morlet小波是高斯包络下的单频率复正弦函数，其函数表达式如式（3），波形如图1所示。Mexihat小波是高斯函数的二阶导数，其函数表达式如式（4），波形如图2所示。Gaussian函数可以构成一个小波系列，可以证明高斯函数的各阶导数均满足小波函数的容许性条件，都是小波。其二阶导数就是Mexihat小波，Gaussian函数的六阶导数表达式如式（5），波形如图3所示。
3 小波神经网络
小波神经网络是在小波分析与神经网络发展的基础上提出的一种前馈型网络[5]。根据结构形式的不同，可分为两类[6]：松散型结构和紧致型结构，目前国内外大部分学者几乎都在采用紧致型结构进行研究。紧致型WNN的基本思想是将常规神经网络的隐含层的激励函数用小波函数代替，相应的输入层到隐含层的权值及阈值分别由小波函数的伸缩系数和平移系数代替，通过仿射变换建立起小波变换与网络参数之间的联系。结构图如图4所示。
将WNN和BP神经网络分别用于函数拟合应用中，如拟合函数 。图5是选取Morlet小波作为激励函数的WNN与BP神经网络的拟合波形，图6是选取Mexihat小波作为激励函数的WNN与BP神经网络的拟合波形，图7是选取Gaussian函数的六阶导数作为激励函数的WNN与BP神经网络的拟合波形。
对比图5～图7可以看出，三种WNN网络其函数的逼近能力都优于BP神经网络，所选取的小波函数中Morlet小波构成的WNN网络其函数逼近效果最佳。
4 结论
小波神经网络是结合小波变换理论与人工神经网络的思想而构成的一种神经网络模型，它结合了小波变换良好的时频局域化性质及神经网络的自学习功能，具有较强的逼近能力和容错能力，具有广泛的应用前景。
参考文献：
[1][美]哈根（Hagan，M.T.）等著，戴葵等译.神经网络设计[M].北京：机械工业出版社，2002（09）.
[2]杨晓帆，陈延槐.人工神经网络固有的优点和缺点[J].计算机科学，1994，21（02）.
[3]奉前清，杨宗凯.实用小波分析[M].西安：西安电子科技大学出版社，2000.
[4]冉启文.小波变换与傅立叶变换理论及应用[M].哈尔滨：哈尔滨工业大学出版社，2001.
[5]Zhang Qinghua，Benveniste. A wavelet network[J]. IEEE trans on Neural Networks，1992，3（6）：889～898
[6]虞和济，陈长征，张省等著.基于神经网络的智能诊断[M].北京：冶金工业出版社，2000.
[7]Z.Chen， T.J.Feng， and Q.C.Meng. The Application of Wavelet Neural Network in Time Series Prediction and System Modeling Based on Multiresolution Learning. IEEE Conference on Systems， Man， and Cybernetics， Vol.1，1999：425-430
基金项目：2014年度河北省高等学校科学技术研究项目（Z2014037）
作者简介：吕宏丽（1974-），女，甘肃宁县人，硕士，教授。
