基于径向基函数神经网络的函数逼近
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
基于径向基函数神经网络的函数逼近
刘君尧1,邱 岚2
(1.深圳信息职业技术学院,广东深圳 518029;2.中国移动广西公司,广西南宁 530022)
【摘 要】在介绍了径向基函数神经网络原理的基础上,应用该网络进行函数逼近的实现,并探讨散步常数的选取对逼近效果的影响。
【关键词】径向基函数;神经网络;散布常数;函数逼近
【中图分类号】TP183 【文献标识码】A 【文章编号】1008-1151(2009)09-0039-01
(一)引言
径向基函数(Radial Basis Function)神经网络是由
J.Moody和C.Darken于20世纪 80年代末提出的一种神经网
络,径向基函数方法在某种程度上利用了多维空间中传统的
严格插值法的研究成果。在神经网络的背景下,隐藏单元提
供一个“函数”集,该函数集在输入模式向量扩展至隐层空
间时为其构建一个任意的“基”,这个函数集中的函数就被称
为径向基函数。目前,径向基函数多用于函数逼近和分类问
题的研究。
(二)RBF神经网络模型
最基本的径向基函数神经网络包含三层,由一些感知单
元组成的输入层、包含一个具有径向基函数神经元的隐层和
一个具有线性神经原的输出层。
1.RBF径向基神经元模型
径向基函数神经元的传递函数有多种形式,最常用的形
式是高斯函数(radbas)。采用高斯基函数,具备如下优点:
①表示形式简单,即使对于多变量输入也不增加太多的复杂
性;②径向对称;③光滑性好,任意阶导数存在;④由于该
基函数表示简单且解析性好,因而便于进行理论分析。
输入向量p
图1径向基传递函数
径向基网络的神经元模型结构如图2所示。由该图可见,
radbas的输入为输入矢量p和权值向量W之间的距离乘以阈
值b。
图2 径向基函数神经元模型
2.RBF神经网络的结构
径向基函数网络包括输入层、隐层和输出层,如图3所
示。输入信号传递到隐层,隐层有S1个神经元,节点函数为
高斯函数;输出层有S2个神经元,节点函数一般采用简单的
线性函数。
图3 径向基函数网络基本结构图
(三)RBF神经网络应用于函数逼近
RBF神经网络在进行函数逼近的实现时,往往在网络设计
之初并不指定隐层神经元的个数,而是在每一次针对样本集
的训练中产生一个径向基神经元,并尽可能最大程度地降低
误差,如果未达到精度要求,则继续增加神经元,直到满足
精度要求或者达到最大神经元数目。这样避免了设计之初存
在隐层神经元过少或者过多的问题。训练过程中,散布常数
的选取非常重要。
1.函数逼近的RBF神经网络
已知输入向量P和输出向量T,通过构建径向基函数神经
网络来进行曲线拟合,从而找到一个函数能够满足这21个数
据点的输入/输出关系,绘制训练样本如图所示。
输入向量P:-1:0.1:1;
输出向量T:0.9500 0.5700 0.0300 -0.2800 -0.5800
-0.6200 -0.4800 -0.1400 0.2100 0.4700 0.5000 0.3800
0.1700 -0.1200 -0.3200 -0.4200 0.3500 -0.1300 0.2120
0.4200 0.5100;
应用MATLAB神经网络工具箱中的newrb()函数快速构建
一个径向基函数网络,并且网络根据输入向量和期望值自动
进行调整,从而实现函数逼近,预先设定均方差精度为0.0001,
散布常数为1。实验结果如图4所示。可见,应用径向基函数
进行函数逼近非常有效。
图4网络输出与目标值比较(下转第19页)【收稿日期】2009-06-02
【作者简介】刘君尧(1979-),女,湖南汨罗人,深圳信息职业技术学院讲师,硕士研究生,研究方向为神经网络。
便,但价格要比前一种贵得多。对于嵌入式系统来说,采用后面一种模式的比较多,在软件方面只要注意取得笔迹,并在屏幕对应位置描点就好了,为了增加可视效果可以用彩色
线条连接笔迹。
图3 输入法线程流程
2.写完一字的结束控制
由于汉字笔画多寡不同,写完一个字得把写字的信息通知识别系统。早期的识别系统在书写板上定义了一个“写完”键,书写者每写完一个字要用笔点一下这个键,现在个别系统仍用这种方法。它的缺点是给书写者增加了额外的操作负担,且与平时写字的习惯不一致。目前,大部分系统采用以下两种方法控制:
时钟控制:规定笔抬起后在多长时间内(例如0.5秒)不落笔就认为该字已写完。为了适应不同用户的书写速度,有的系统允许用户调整时钟参数。这种方法的优点是减少了用户的操作,但常常容易发生一个字的书写过程中由于某两个笔画之间停顿时间稍长而被强行肢解成两个字,造成误识。
笔的位置控制:在书写板上划分出几个方格书写区域,每格写一个字,几个格交替轮换使用。一个字写完后只要把笔移到另一格,即使不落笔也表明上一字已写完。这样,书写者可以快慢不受限制地在各个方格内轮流写字,这更接近于平常在方格稿纸上写字的习惯。也有的系统把以上两种方法结合起来进行控制。对于嵌入式系统来说,屏幕的面积是
非常有限的,手写识别软件一般都采用全屏幕手写的方式,这就是说嵌入式系统没有采用笔的位置控制写入完成的先天条件。
因此本文利用定时器,采用时钟控制方式。在处理鼠标消息的时候要特别注意细节问题。第一,鼠标按下以后的移动才记录到鼠标轨迹数组里面,在实现过程中本论文引入中间变量c来记录鼠标当前按下或松开状态;第二,定时器的控制也有讲究,汉字是分很多笔画的,每次抬起笔来与再次下笔都有一个时间间隔,每两个字之间这个间隔时间稍微长一些,可以通过这个长的时间间隔判断一个字是否写完,然后决定什么时候将笔迹送入识别核心进行识别。
程序将笔迹放到全局变量wTrace 数组里面,当定时器消息到来的时候开始调用HWRecognize();识别核心进行手写识别,并将结果发消息到编辑框,完成手写笔迹的识别。
(五)结束语
本文介绍了将Microwindows移植到嵌入式平台实现界面,然后编写Microwindows程序实现手写输入法的整个过程,将手写识别的技术与免费的Microwindows结合,用最简单的方法实现了良好的人机界面。
【参考文献】
[1] 吴升艳,胡冰,岳春.Micro Windows 体系结构及应用程序
接口[M].北京:清华大学出版社,2002:57-61.
[2] 杨光友.嵌入式微处理器ARM7202触摸屏接口设计[J].微
计算机信息,2004(4):75-76.
[3] 王洪,易锡年,李仲阳.ARM HMS30C7202与触摸屏接口
电路的设计[J].微计算机信息,2007(1):166-167.
[4] 容观澳.计算机图像处理[M].北京:清华大学出版社,
2000:377-412.
[5] M. Hamanaka, K. Yamada, and J. Tsukumo. On-Line
Japanese Character Recognition Experiments by an Off-Line Method Based on Normalization-Cooperated Feature Extraction. In 2nd Int. Conference on Document Analysis and Recognition (ICDAR), Tsukuba, Japan,1993:204-207.
(上接第39页)
2.散布常数对RBF 神经网络设计的影响
径向基函数神经网络设计过程径向基函数的散布常数选择极为重要。如果径向基函数神经元的散布常数过小,将会导致网络设计中需要产生更多的神经元数目,从而造成函数逼近的过适性,如图5所示。反之,如果径向基函数神经元的散布常数太大,使得网络设计中产生较少的神经元数目,将造成函数逼近的不适性,如图6所示。一般情况下,散布常数的选取取决于输入向量间的距离,要求是大于最小距离,
小于最大距离。
图5 过适性:网络输出与目标 图6 不适性:网络输出与目标
值比较 散布常数为0.01 值比较 散布常数为100
(四)结论
作为目前应用最广泛最成功的神经网络之一,径向基函数神经网络主要应用于函数逼近和分类。本文使用该网络进行了非线性函数的逼近,并探讨散布常数对逼近效果的影响。RBF 网络具有较好的布局逼近能力,在逼近能力和分类能力等方面均优于BP 网络。目前使用RBF 网络的主要困难在于网络隐节点的中心和标准参数的选择,以及如何选择合适的径向基函数并确定隐节点数,这些方面都有待我们进一步的探讨和研究。
【参考文献】
[1] Moody J,Darken C. Fast learning in networks of locally-tuned
processing units[J].Neural Computation,1989,1(2):281-294. [2] 朱大奇,史慧.人工神经网络原理及应用[M].北京:科学出版
社,2006.
[3] 董长虹.Matlab 神经网络与应用[M].北京:国防工业出版
社,2005.