RBF神经网络的优缺点

合集下载

RBF神经网络

RBF神经网络

径向基函数(RBF)神经网络RBF网络能够逼近任意的非线性函数,可以处理系统内的难以解析的规律性,具有良好的泛化能力,并有很快的学习收敛速度,已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。

简单说明一下为什么RBF网络学习收敛得比较快。

当网络的一个或多个可调参数(权值或阈值)对任何一个输出都有影响时,这样的网络称为全局逼近网络。

由于对于每次输入,网络上的每一个权值都要调整,从而导致全局逼近网络的学习速度很慢。

BP网络就是一个典型的例子。

如果对于输入空间的某个局部区域只有少数几个连接权值影响输出,则该网络称为局部逼近网络。

常见的局部逼近网络有RBF网络、小脑模型(CMAC)网络、B样条网络等。

径向基函数解决插值问题完全内插法要求插值函数经过每个样本点,即。

样本点总共有P个。

RBF的方法是要选择P个基函数,每个基函数对应一个训练数据,各基函数形式为,由于距离是径向同性的,因此称为径向基函数。

||X-X p||表示差向量的模,或者叫2范数。

基于为径向基函数的插值函数为:输入X是个m维的向量,样本容量为P,P>m。

可以看到输入数据点X p是径向基函数φp的中心。

隐藏层的作用是把向量从低维m映射到高维P,低维线性不可分的情况到高维就线性可分了。

将插值条件代入:写成向量的形式为,显然Φ是个规模这P对称矩阵,且与X的维度无关,当Φ可逆时,有。

对于一大类函数,当输入的X各不相同时,Φ就是可逆的。

下面的几个函数就属于这“一大类”函数:1)Gauss(高斯)函数2)Reflected Sigmoidal(反常S型)函数3)Inverse multiquadrics(拟多二次)函数σ称为径向基函数的扩展常数,它反应了函数图像的宽度,σ越小,宽度越窄,函数越具有选择性。

完全内插存在一些问题:1)插值曲面必须经过所有样本点,当样本中包含噪声时,神经网络将拟合出一个错误的曲面,从而使泛化能力下降。

RBF神经网络概述

RBF神经网络概述

RBF神经网络概述1 RBF神经网络的基本原理2 RBF神经网络的网络结构3 RBF神经网络的优点1 RBF神经网络的基本原理人工神经网络以其独特的信息处理能力在许多领域得到了成功的应用。

它不仅具有强大的非线性映射能力,而且具有自适应、自学习和容错性等,能够从大量的历史数据中进行聚类和学习,进而找到某些行为变化的规律。

径向基函数(RBF)神经网络是一种新颖有效的前馈式神经网络,它具有最佳逼近和全局最优的性能,同时训练方法快速易行,不存在局部最优问题,这些优点使得RBF网络在非线性时间序列预测中得到了广泛的应用。

1985年,Powell提出了多变量插值的径向基函数(Radial-Basis Function, RBF)方法。

1988年,Broomhead和Lowe首先将RBF应用于神经网络设计,构成了径向基函数神经网络,即RBF神经网络。

用径向基函数(RBF)作为隐单元的“基”构成隐含层空间,对输入矢量进行一次变换,将低维的模式输入数据变换到高维空间内,通过对隐单元输出的加权求和得到输出,这就是RBF网络的基本思想。

2 RBF神经网络的网络结构RBF网络是一种三层前向网络:第一层为输入层,由信号源节点组成。

第二层为隐含层,隐单元的变换函数是一种局部分布的非负非线性函数,他对中心点径向对称且衰减。

隐含层的单元数由所描述问题的需要确定。

第三层为输出层,网络的输出是隐单元输出的线性加权。

RBF网络的输入空间到隐含层空间的变换是非线性的,而从隐含层空间到输出层空间的变换是线性。

不失一般性,假定输出层只有一个隐单元,令网络的训练样本对为,其中为训练样本的输入,为训练样本的期望输出,对应的实际输出为;基函数为第个隐单元的输出为基函数的中心;为第个隐单元与输出单元之间的权值。

单输出的RBF网络的拓扑图如图1所示:图1RBF网络的拓扑图当网络输入训练样本时,网络的实际输出为:(1)通常使用的RBF有:高斯函数、多二次函数(multiquadric function)、逆多二次函数、薄板样条函数等。

RBF网络在柴油机故障诊断中的应用

RBF网络在柴油机故障诊断中的应用

RBF网络在柴油机故障诊断中的应用摘要:柴油机作为动力发电、工程机械的重要组成部分,其性能好坏直接影响到整个系统的运行。

在生产过程中需要加强对柴油机开展故障诊断和监控,及时发展并解决故障,从而提高了柴油机在运行过程中的安全系数,降低安全事故发生率,减少不必要的经济损失。

传统的柴油预计故障诊断与解决方式主要是润滑油方法、振动噪声方法,这些都以定期保养和后期维修为主要方法,这些诊断方式不能较早预知故障情况、成本较高、工作效率较低。

随着计算机技术、信号分析处理技术、人工智能的迅速发展,柴油机故障诊断能力逐渐提升,以非线性并行分布处理为主的神经网络成为了当前广泛运用于柴油机故障诊断的主要方法。

关键词:RBF网络;柴油机故障诊断;BP网络最近几年,计算机技术已经充分运用于故障诊断,成为了一种最新的诊断方法,特别是以非线性并行分布处理为主的神经网络知识逐渐完善,成为了柴油机故障诊断技术发展历程的高峰。

本文主要分析了在MATLAB环境下使用径向基函数网络对柴油机进行故障诊断的诊断方案,和BP网络性能实行比较,证明RBF网络学习效率较高,在线时刻监测与诊断具有一定的优势。

一1、RBF神经网络RBF 神经网络属于多层前向神经网络。

RBF 网络是一种三层前向网络结构,第一层为输入层(即:信号源节点);第二层为隐含层(隐含层神经元所描述的问题决定其个数,隐层单元变换函数主要是指对中心半径向对称而衰减的非负非线性函数);第三层为输出层(主要负责对输入模式做出响应)。

另外,RBF 网络也是属于一种单隐含层的前向网络结构,其可以根据自身隐层单元的个数而分为两种网络结构,即:广义化网络、正规化网络[1]。

由于正规化的RBF 网络在求解权值时极易出现各种问题,因此在本文研究笔者主要采用广义化RBF 网络实行故障诊断。

RBF 神经网络运作思路。

隐含层单元的基主要为径向基函数,进而构成一个完整的隐含层空间,隐含层通过对输入矢量实施变换,这样可以将低维的模式输入数据直接转化至高维空间,这样将有利于不可分的低维空间中线性能够在高维空间线性中实现可分。

基于神经网络的风电功率预测技术

基于神经网络的风电功率预测技术

基于神经网络的风电功率预测技术随着清洁能源和环保意识的不断加强,风电作为一种新型的能源形式,得到了越来越广泛的应用和发展。

但是,风电系统的不稳定性和不可控性,给其使用和维护带来了很大的挑战。

很多研究者尝试使用神经网络技术来预测风电功率,以提高风电系统的可靠性和实用性。

一、神经网络的基本原理神经网络是一种模拟人脑神经元的计算模型。

它由一个由多个简单的处理节点(神经元)组成的网络构成。

神经元之间的连接具有可调权重,并对输入数据进行加工处理,以产生输出。

神经网络通过反向传播算法进行训练,不断优化节点之间的权重值,从而提高网络的准确性和泛化能力。

二、神经网络在风电功率预测中的应用神经网络的优势在于可以处理大量的输入和输出数据,具有较强的适应性和学习能力。

因此,越来越多的风电功率预测系统采用神经网络技术。

基于神经网络的风电功率预测技术可以更精准地预测出下一时刻的功率输出,提高风电系统的可靠性和实用性。

以下是一些常用的神经网络技术:1. BP神经网络BP神经网络是一种最常见的前向反馈神经网络,具有广泛的应用。

在风电功率预测中,BP神经网络可以利用历史的功率输出数据,建立一个具有多层神经元的模型,然后根据输入的气象数据进行训练,预测下一时刻的功率输出。

2. RBF神经网络RBF神经网络是一种基于径向基函数的神经网络,常用于非线性的数据建模和预测。

在风电功率预测中,RBF神经网络可以通过建立一个具有一层隐藏层的模型,利用输入的气象数据进行训练,预测下一时刻的功率输出。

3. Elman神经网络Elman神经网络是一种递归神经网络,它将输出反馈到神经元的输入端,实现时间序列数据的处理和预测。

在风电功率预测中,Elman神经网络可以利用历史的功率输出数据和气象数据,建立一个具有隐藏层和反馈层的模型,预测下一时刻的功率输出。

三、神经网络在风电功率预测中的应用案例1. 基于BP神经网络的风电功率预测系统某研究机构开发了一个基于BP神经网络的风电功率预测系统。

RBF神经网络算法研究及其在高维数据预处理中的应用

RBF神经网络算法研究及其在高维数据预处理中的应用

摘要当今人类社会已经进入了大数据时代,数据大多呈现出维数高、规模大、结构复杂等特性。

在大数据的研究当中,许多数据如媒体数据、遥感数据、生物医学数据、社交网络数据、金融数据等都是高维数据,尤其是在人类生产生活中,含高维数据的无解析模型或一次候选解的评价计算成本十分巨大的昂贵多目标问题,对其仿真求解势必面临维数灾难。

因此,寻找合适的降维方法处理高维数据已是迫切需求。

神经网络是模拟人脑的结构和功能而建立起来的分布式信息处理系统,面对高维多目标优化等非线性问题,与其他降维方法相比,神经网络具有巨大的优势,这得益于神经网络具有高度非线性、结构复杂、自学习、自适应等特点。

RBF神经网络是一种新颖有效的前馈式神经网络,它具有很强的非线性映射能力,能以任意精度全局逼近一个非线性函数,而且学习速度快。

利用RBF神经网络实现对高维数据的降维预处理,不仅有充分的理论依据,而且更具优越性。

本文在对RBF神经网络算法进行优化研究的基础上,研究了基于数据驱动的特征选择RBF 神经网络降维方法,并将其应用在高维多目标优化决策空间降维预处理及Pareto 优劣性预测中。

为了提高RBF神经网络的学习效率,本文首先对RBF神经网络进行改进研究。

通过自适应调节RBF神经网络的学习率和动量因子,加快了RBF神经网络的收敛速度;同时,利用遗传算法对RBF神经网络的三个参数初始值进行优化设计,提出了一种遗传自适应RBF神经网络算法。

将改进算法分别应用于故障诊断和UCI数据集的分类实验上,验证了改进RBF神经网络算法的有效性和优越性。

针对无解析模型的高维多目标优化问题,提出了一种最大信息系数与最大相关最小冗余相结合的特征选择方法,利用遗传自适应RBF神经网络算法在高维特征空间中选取出了一个低维的特征子集,从而实现对高维特征空间的降维。

通过在UCI数据集上的分类实验,证明了该降维算法在保证较好分类精度的前提下,大大减少了计算成本。

为了降低高维多目标优化的维数灾难,将本文提出的基于最大冗余最小相关的遗传自适应RBF神经网络特征选择算法用于多目标优化中的决策空间降维预处理,进行Pareto优劣性预测并将其嵌入MOEAs算法。

基于RBF神经网络的故障诊断

基于RBF神经网络的故障诊断

三、基于RBF网络的齿轮箱故障诊断
1、问题描述 拖拉机变速箱是整机进行减速增扭的部件,它受扭转 和拉压两种载荷的综合作用,据统计,以齿轮为代表的 变速箱故障发生率占据除发动机故障以外的其他所有故 障的59%~70%。在非拆卸状态下,传统的齿轮箱故障 诊断手段往往依赖于专家的经验判断。但是,由于齿轮 箱是一种非常复杂的传动机构,它的故障模式和特征量 之间是一种非常复杂的非线性关系,再加上齿轮箱在不 同工况下的随机因素,所以专家的经验并不能解决所有 的诊断问题。而应用神经网络可以有效地避免这个问题。 神经网络的自适应、自学习和对非线性系统超强的分析 能力注定它可以在齿轮箱的故障诊断中大显身手。
参考文献
1. 飞思科技产品研发中心. 神经网络理论与 MATLAB7实现.北京:电子工业出版社.2006 2. 闻新,周露,李翔,张宝伟.MATLAB神经网络仿 真与应用.北京:科学出版社.2003,7 3. Kevin M. Passino, Stephen Yurkovich, Fuzzy Control模糊控制,北京:清华大学出版 社,2001
箒瘒萍蕡襞恤鹜浩鉶犨隟嵽圗 邺璹聏稃萒辶撴鋎壤癯姤蔇縄 禹勾厓惾氳眵娕伀恗翆含譪蘍 烸拲竆祕犊躻潆轀櫰崩奍塺刼 斗瘬
111111111 看看
崍棧筫呀檳螽僭创爰节鋱倏籂 泰粉
1 2 3 4 5 6男女男男女 7古古怪怪古古怪怪个 8vvvvvvv 9
擝戦爊谔祽衮罘遛两薃錴馅涿 纻圞
古古怪怪广告和叫姐 姐 和呵呵呵呵呵呵斤斤 计较斤斤计较 化工古古怪怪古古怪 怪个 Ccggffghfhhhf Ghhhhhhhhhh 1111111111 2222222222 555555555555 8887933 Hhjjkkk 浏览量力浏览量了

RBF神经网络和BF神经网络优缺点

RBF神经网络和BF神经网络优缺点

1.RBF 的泛化能力在多个方面都优于BP 网络, 但是在解决具有相同精度要求的问题时, BP 网络的结构要比RBF 网络简单。

??2.RBF 网络的逼近精度要明显高于BP 网络,它几乎能实现完全逼近, 而且设计起来极其方便, 网络可以自动增加神经元直到满足精度要求为止。

但是在训练样本增多时,RBF 网络的隐层神经元数远远高于前者, 使得RBF 网络的复杂度大增加, 结构过于庞大, 从而运算量也有所增加。

??3.RBF神经网络是一种性能优良的前馈型神经网络,RBF网络可以任意精度逼近任意的非线性函数,且具有全局逼近能力,从根本上解决了BP网络的局部最优问题,而且拓扑结构紧凑,结构参数可实现分离学习,收敛速度快。

4.他们的结构是完全不一样的。

BP是通过不断的调整神经元的权值来逼近最小误差的。

其方法一般是梯度下降。

RBF是一种前馈型的神经网络,也就是说他不是通过不停的调整权值来逼近最小误差的,的激励函数是一般是高斯函数和BP的S型函数不一样,高斯函数是通过对输入与函数中心点的距离来算权重的。

5.bp神经网络学习速率是固定的,因此网络的收敛速度慢,需要较长的训练时间。

对于一些复杂问题,BP算法需要的训练时间可能非常长,这主要是由于学习速率太小造成的。

而rbf神经网络是种高效的前馈式网络,它具有其他前向网络所不具有的最佳逼近性能和全局最优特性,并且结构简单,训练速度快。

6. BP网络用于函数逼近时,权值的调节采用的是负梯度下降法,这种调节权值的方法有它的局限性,既存在着收敛速度慢和局部极小等缺点。

而径向基神经网络在逼近能力、分类能力和学习速度等方面均优于BO网络。

从理论上,RBF网络和BP网络一样可近似任何的连续非线形函数,两者的主要差别在于各使用不同的作用函数,BP网络中的隐层节点使用的是Sigmoid函数,其函数值在输入空间中无限大的范围内为非零值,而RBF网络的作用函数则是局部的。

7. RBF神经网络与BP神经网络的比较RBF神经网络与BP神经网络都是非线性多层前向网络,它们都是通用逼近器。

RBF神经网络

RBF神经网络

的权向量为:W = [w , w
1
b j为节点的基宽度参数 , 且为大于零的数 。 网络 为节点的基宽度参数, 且为大于零的数。
2
⋯wj ⋯wm ]
k时刻网络的输出为: 时刻网络的输出为:
y m ( k )=wh = w1h1+w 2 h2+ ⋯⋯ +w m hm
设理想输出为y(k), 设理想输出为y(k),则性能指标函数为:
∂y (k ) ∂ym (k ) ≈ = ∂u (k ) ∂u (k )
m
∑w h
j =1
c1 j − x1 b2 j
j j
其中取 x1 = u(k) 。
6 RBF网络逼近仿真实例 RBF网络逼近仿真实例
使用RBF网络逼近下列对象:
y (k ) = u (k ) +
3
y ( k − 1) 1 + y ( k − 1)
Ii
wij
I
j
I1
. . .
R1
. . .
. .u .
u ..
R
j
. . .
1
1
.
V1
C1
. . .
j
j
.
Vj
.
u ..
Cj
i
i
.V
i
Ri
.
Ci
Hopfield网络模型 Hopfield网络模型
RBF神经网络 RBF神经网络
信息工程学院 Alen Fielding
1 RBF神经网络 RBF神经网络
径向基函数(RBF径向基函数(RBF-Radial Basis Function)神经网络 Function)神经网络 是由J Moody和 Darken在80年代末提出的一种神经 是由J.Moody和C.Darken在80年代末提出的一种神经 网络,它是具有单隐层的三层前馈网络。 网络,它是具有单隐层的三层前馈网络。由于它模拟 了人脑中局部调整、相互覆盖接收域(或称感受野了人脑中局部调整、相互覆盖接收域(或称感受野Receptive Field)的神经网络结构,因此,RBF网络 Field)的神经网络结构,因此,RBF网络 是一种局部逼近网络, 是一种局部逼近网络 , 它能够以任意精度逼近任意 连续函数,特别适合于解决分类问题。 连续函数,特别适合于解决分类问题。

RBF(径向基)神经网络

RBF(径向基)神经网络

RBF(径向基)神经⽹络 只要模型是⼀层⼀层的,并使⽤AD/BP算法,就能称作 BP神经⽹络。

RBF 神经⽹络是其中⼀个特例。

本⽂主要包括以下内容:什么是径向基函数RBF神经⽹络RBF神经⽹络的学习问题RBF神经⽹络与BP神经⽹络的区别RBF神经⽹络与SVM的区别为什么⾼斯核函数就是映射到⾼维区间前馈⽹络、递归⽹络和反馈⽹络完全内插法⼀、什么是径向基函数 1985年,Powell提出了多变量插值的径向基函数(RBF)⽅法。

径向基函数是⼀个取值仅仅依赖于离原点距离的实值函数,也就是Φ(x)=Φ(‖x‖),或者还可以是到任意⼀点c的距离,c点称为中⼼点,也就是Φ(x,c)=Φ(‖x-c‖)。

任意⼀个满⾜Φ(x)=Φ(‖x‖)特性的函数Φ都叫做径向基函数,标准的⼀般使⽤欧⽒距离(也叫做欧式径向基函数),尽管其他距离函数也是可以的。

最常⽤的径向基函数是⾼斯核函数 ,形式为 k(||x-xc||)=exp{- ||x-xc||^2/(2*σ)^2) } 其中x_c为核函数中⼼,σ为函数的宽度参数 , 控制了函数的径向作⽤范围。

⼆、RBF神经⽹络 RBF神将⽹络是⼀种三层神经⽹络,其包括输⼊层、隐层、输出层。

从输⼊空间到隐层空间的变换是⾮线性的,⽽从隐层空间到输出层空间变换是线性的。

流图如下: RBF⽹络的基本思想是:⽤RBF作为隐单元的“基”构成隐含层空间,这样就可以将输⼊⽮量直接映射到隐空间,⽽不需要通过权连接。

当RBF的中⼼点确定以后,这种映射关系也就确定了。

⽽隐含层空间到输出空间的映射是线性的,即⽹络的输出是隐单元输出的线性加权和,此处的权即为⽹络可调参数。

其中,隐含层的作⽤是把向量从低维度的p映射到⾼维度的h,这样低维度线性不可分的情况到⾼维度就可以变得线性可分了,主要就是核函数的思想。

这样,⽹络由输⼊到输出的映射是⾮线性的,⽽⽹络输出对可调参数⽽⾔却⼜是线性的。

⽹络的权就可由线性⽅程组直接解出,从⽽⼤⼤加快学习速度并避免局部极⼩问题。

RBF神经网络模型在遥感目标检测中的应用

RBF神经网络模型在遥感目标检测中的应用

RBF神经网络模型在遥感目标检测中的应用随着遥感技术的不断发展,遥感图像的应用越来越广泛,其中遥感目标检测在土地利用、资源调查、环境监测等领域起着越来越重要的作用。

传统的遥感目标检测方法主要基于像元级的图像处理技术和统计分析方法,这些方法往往需要较多的人工干预和专业知识,缺乏普适性和准确性。

因此,使用人工智能的方法进行遥感目标检测成为研究热点之一。

本文将介绍一种基于径向基函数(RBF)神经网络模型的遥感目标检测方法。

RBF神经网络是一种常用的人工神经网络模型,其基本原理是通过将特征空间转换成高维空间,在高维空间中使用线性方法对数据进行分类。

在实际运用中,RBF神经网络模型能够较好地处理非线性问题,具有较高的泛化能力和预测精度。

本文基于RBF神经网络模型将遥感图像进行分类,具体步骤如下:首先,将遥感图像进行预处理,包括图像直方图均衡化、滤波和降维等。

这些预处理方法能够有效地去除图像噪声、增强图像边缘等,为后续的遥感目标检测建立了基础。

其次,提取特征并进行特征选择。

在遥感图像中,常用的颜色、纹理、形状等特征具有很好的分类性能。

通过特征提取和特征选择,可以减少特征数量和冗余度,提高分类算法的精度和效率。

最后,使用RBF神经网络对特征进行分类,得到遥感图像中不同目标的分布情况。

在训练过程中,可以通过交叉验证等方法对网络参数进行调整,进一步提高分类算法的精度和稳定性。

在实际应用中,可以使用软件工具如MATLAB、Python等实现RBF神经网络。

本文中基于RBF神经网络模型的遥感目标检测方法具有以下优点:1.较好的泛化能力。

RBF神经网络通过高维空间的转换,能够有效地处理非线性问题,具有较高的泛化能力和预测精度,在遥感目标分类中具有广泛的应用前景。

2.较快的分类速度。

RBF神经网络模型具有快速的收敛速度和低计算复杂度,能够在较短时间内处理大量的遥感图像数据。

3.良好的适应性。

RBF神经网络模型能够灵活地适应不同的遥感图像数据和应用场景,可以通过调整网络参数和输入特征进行定制化设置,提高分类效果和处理速度。

RBF神经网络的结构动态优化设计

RBF神经网络的结构动态优化设计

精品文档供您编辑修改使用专业品质权威编制人:______________审核人:______________审批人:______________编制单位:____________编制时间:____________序言下载提示:该文档是本团队精心编制而成,希望大家下载或复制使用后,能够解决实际问题。

文档全文可编辑,以便您下载后可定制修改,请根据实际需要进行调整和使用,谢谢!同时,本团队为大家提供各种类型的经典资料,如办公资料、职场资料、生活资料、学习资料、课堂资料、阅读资料、知识资料、党建资料、教育资料、其他资料等等,想学习、参考、使用不同格式和写法的资料,敬请关注!Download tips: This document is carefully compiled by this editor. I hope that after you download it, it can help you solve practical problems. The document can be customized and modified after downloading, please adjust and use it according to actual needs, thank you!And, this store provides various types of classic materials for everyone, such as office materials, workplace materials, lifestylematerials, learning materials, classroom materials, reading materials, knowledge materials, party building materials, educational materials, other materials, etc. If you want to learn about different data formats and writing methods, please pay attention!RBF神经网络的结构动态优化设计1. 前言随着人工智能技术的快速进步,神经网络在各个领域中得到了广泛应用。

径向基函数神经网络RBF与BP神经网络

径向基函数神经网络RBF与BP神经网络
缺点: 1.最严重的问题是没能力来解释自己的推理过程和推 理依据。这也是大部分神经网络的缺点。 2.当样本数据不足时,预测出的不太准确。
3.把一切把一切问题的特征都变为数字,把一切推理 都变为数值计算,其结果势必是丢失信息。
BP神经元模型
RBF隐层神经元模型
P1 P2
பைடு நூலகம்
w1,1
P3
n
fa
PR-1 PR
w1,R
R(|| dist ||) e||dist||2
a=f(wp+b)
传递函数:A=logsig(n) A=tansig(n) A=purelin(n)
激活函数:
注:|| dist || 是输入向量和 权值向量之间的欧氏距离
神经元的数据中心即为样本本身,参数设计只需考虑扩展 常数和输出节点的权值。
当采用广义RBF网络结构时,RBF网络的学习算法应该解决 的问题包括:如何确定网络隐节点数,如何确定各径向基 函数的数据中心及扩展常数,以及如何修正输出权值。
RBF网络学习算法的MATLAB实现
RBF网络常用函数表
函数名
功能
径向基函数神经网络
神经网络基础知识
工作原理:模拟生物大脑神经处理信息的方式 构成:大量简单的基本元件——神经元相互连接 功能:进行信息的并行处理和非线性转化 本质:就是利用计算机语言模拟人类大脑做决定
的过程。
神经元结构模型
输入信号
x1
x2
x3 xj
ij
xn
阈值
yi
i
输出值 与神经元xj的连接权值
使用这些数据 实现回归公式
RBF与BP神经网络的比较
从网络结构上比较: 传递函数不同;神经元层数可能不同;RBF 网络隐层神经元个数可以确定,BP网络不 易确定。

绝对经典RBF神经网络

绝对经典RBF神经网络

1
RBF学习算法
RBF学习的三个参数:①基函数的中心 t i ②方差(扩展常数) i ③隐含层与输出层间的权值 wij 当采用正归化RBF网络结构时,隐节点数即样本数,基函 数的数据中心即为样本本身,参数设计只需考虑扩展常数 和输出节点的权值。
当采用广义RBF网络结构时,RBF网络的学习算法应该解决 的问题包括:如何确定网络隐节点数,如何确定各径向基 函数的数据中心及扩展常数,以及如何修正输出权值。
2I
2.中心自组织选取
常采用各种动态聚类算法对数据中心进行自组织选择,在 学习过程中需对数据中心的位置进行动态调节。常用的方 法是K-means聚类,其优点是能根据各聚类中心之间的距 离确定各隐节点的扩展常数。由于RBF网的隐节点数对其 泛化能力有极大的影响,所以寻找能确定聚类数目的合理 方法,是聚类方法设计RBF网时需首先解决的问题。除聚 类算法外,还有梯度训练方法、资源分配网络(RAN)等
i i
G ( P C1
p1 p2
pQ
G( P C2
w2
w1

F P
wQ
G( P CQ )
1.网络隐层使用Q个隐节点。 2.把所有Q个样本输入分别作为Q个隐节点的中心。 3.各基函数取相同的扩展常数。 4.确定权值可解线性方程组:
w G(
j j 1
Q
pi p j ) t i 1 i Q
径向基函数(RBF)
1.
2 r Gauss(高斯)函数: r exp 2 2

2. 反演S型函数: r
1 r2 1 exp 2
1
3. 拟多二次函数:
r

基于BP神经网络和RBF网络的非线性函数逼近问题比较研究

基于BP神经网络和RBF网络的非线性函数逼近问题比较研究

基于BP神经网络和RBF网络的非线性函数逼近问题比较研究丁德凯摘要:人脑是一个高度复杂的、非线性的和并行的计算机器,人脑可以组织神经系统结构和功能的基本单位,即神经元,以比今天已有的最快的计算机还要快很多倍的速度进行特定的计算,例如模式识别、发动机控制、感知等。

神经网络具有大规模并行、分布式存储和处理、自组织、自适应和自学习,以及很强的非线性映射能力,所以它在函数(特别是非线性函数)逼近方面得到了广泛的应用。

BP神经网络和RBF神经网络,都是非线性多层前向网络,本文分别用BP(Back Propagation)网络和RBF(Radial Basis Function)网络对非线性函数f=sin(t)+cos(t)进行逼近,结果发现后者的学习速度更快,泛化能力更强,而前者的程序设计相对比较简单。

关键词:BP神经网络,RBF神经网络,函数逼近0 引言人工神经网络(Artificial Neural Networks,ANN)[1]是模仿生物神经网络功能的一种经验模型。

生物神经元受到传入的刺激,其反应又从输出端传到相联的其它神经元,输入和输出之间的变换关系一般是非线性的,且对输入信号有功能强大的反应和处理能力。

神经网络是由大量的处理单元(神经元)互相连接而成的网络。

为了模拟大脑的基本特性,在神经科学研究的基础上,提出了神经网络的模型。

但是,实际上神经网络并没有完全反映大脑的功能,只是对生物神经网络进行了某种抽象、简化和模拟。

神经网络的信息处理通过神经元的互相作用来实现,知识与信息的存储表现为网络元件互相分布式的物理联系。

神经网络的学习和识别取决于各种神经元连接权系数的动态演化过程。

神经网络的发展与神经科学、数理科学、认知科学、计算机科学、人工智能、信息科学、控制论、机器人学、微电子学、心理学、微电子学、心理学、光计算、分子生物学等有关,是一门新兴的边缘交叉学科。

当前,它在许多领域有重要的作用。

例如,模式识别和图像处理;印刷体和手写字符识别、语音识别、签字识别、指纹识别、人体病理分析、目标检测与识别、图像压缩和图像复制等。

智能控制

智能控制
另外,研究还表明,一般RBF网络所利用的非线性激活函数形式对网络性能的影响并非至关重要,关键因素是基函数中心的选取。
四RBF网络优缺点
RBF网络的优点:
1它具有唯一最佳逼近的特性,且无局部极小问题存在。
2RBF神经网络具有较强的输入和输出映射功能,并且理论证明在前向网络中RBF网络是完成映射功能的最优网络。
[5]吕大刚.王光远.结构智能优化设计-一个新的研究方向[J].哈尔滨建筑大学学报.1999.(8).
[6]Antsaklis P J. Neural Networks in Control Systems[J]. Special SectБайду номын сангаасon on Neural Networks for Systems and Control IEEEControl System Magazine.1990. 3~5.
5RBF 神经网络用于非线性系统建模需要解决的关键问题是样本数据的选择L 在实际工业过程中, 系统的信息往往只能从系统运行的操作数据中分析得到, 因此如何从系统运行的操作数据中提取系统运行状况信息, 以降低网络对训练样本的依赖, 在实际应用中具有重要的价值。隐层基函数的中心是在输入样本集中选取的, 这在许多情况下难以反映出系统真正的输入输出关系, 并且初始中心点数太多; 另外优选过程会出现数据病态现象。
4RBF网络特点
前向网络。
隐单元的激活函数通常为具有局部接受域的函数,即仅当输入落在输入空间中一个很小的指定区域中时,隐单元才作出有意义的非零响应。因此,RBF网络有时也称为局部接受域网络(Localized Receptive Field Network)。
RBF网络的局部接受特性使得其决策时隐含了距离的概念,即只有当输入接近RBF网络的接受域时,网络才会对之作出响应。这就避免了BP网络超平面分割所带来的任意划分特性。

RBF神经网络:原理详解和MATLAB实现

RBF神经网络:原理详解和MATLAB实现

RBF神经网络:原理详解和MATLAB实现——2020年2月2日目录RBF神经网络:原理详解和MATLAB实现 (1)一、径向基函数RBF (2)定义(Radial basis function——一种距离) (2)如何理解径向基函数与神经网络? (2)应用 (3)二、RBF神经网络的基本思想(从函数到函数的映射) (3)三、RBF神经网络模型 (3)(一)RBF神经网络神经元结构 (3)(二)高斯核函数 (6)四、基于高斯核的RBF神经网络拓扑结构 (7)五、RBF网络的学习算法 (9)(一)算法需要求解的参数 (9)0.确定输入向量 (9)1.径向基函数的中心(隐含层中心点) (9)2.方差(sigma) (10)3.初始化隐含层至输出层的连接权值 (10)4.初始化宽度向量 (12)(二)计算隐含层第j 个神经元的输出值zj (12)(三)计算输出层神经元的输出 (13)(四)权重参数的迭代计算 (13)六、RBF神经网络算法的MATLAB实现 (14)七、RBF神经网络学习算法的范例 (15)(一)简例 (15)(二)预测汽油辛烷值 (15)八、参考资料 (19)一、径向基函数RBF定义(Radial basis function——一种距离)径向基函数是一个取值仅仅依赖于离原点距离的实值函数,也就是Φ(x)=Φ(‖x‖),或者还可以是到任意一点c的距离,c点称为中心点,也就是Φ(x,c)=Φ(‖x-c‖)。

任意一个满足Φ(x)=Φ(‖x‖)特性的函数Φ都叫做径向基函数。

标准的一般使用欧氏距离(也叫做欧式径向基函数),尽管其他距离函数也是可以的。

在神经网络结构中,可以作为全连接层和ReLU层的主要函数。

如何理解径向基函数与神经网络?一些径向函数代表性的用到近似给定的函数,这种近似可以被解释成一个简单的神经网络。

径向基函数在支持向量机中也被用做核函数。

常见的径向基函数有:高斯函数,二次函数,逆二次函数等。

RBF神经网络的函数逼近能力及其算法

RBF神经网络的函数逼近能力及其算法

万方数据 万方数据 万方数据 万方数据 万方数据 万方数据 万方数据RBF神经网络的函数逼近能力及其算法作者:柴杰, 江青茵, 曹志凯作者单位:厦门大学,化工系,厦门,361005刊名:模式识别与人工智能英文刊名:PATTERN RECOGNITION AND ARTIFICIAL INTELLIGENCE年,卷(期):2002,15(3)被引用次数:64次参考文献(36条)1.吴宗敏函数的径向基表示 1998(03)2.张乃尧阎平凡神经网络与模糊控制 19983.Mhaskar H N;Micchelli C A Approximation by Superposition of Sigrnoidal and Radial Basis Functions [外文期刊] 19924.Leshno M;Lin V Y;Pinkus A;Schocken S Multilayer Feedforward Networks with a Non-Polynomial Activation Can Approximate Any Function 19935.Hartman E J;Keeler J D;Kowalski J M Layered Neural Networks with Gaussian Hidden Units as Universal Approximators[外文期刊] 19906.Lee S;Kil R M A Gaussian Potential Function Network with Hierarchically Self-Organizing Learning 19917.Park J;Sandberg I W Universal Approximation Using Radial Basis Function Networks[外文期刊]1991(02)8.Park J;Sandberg I W Approximation and Radial Basis Function Networks 1993(02)9.Chen T P;Chen H Approximation Theory Capability to Functions of Several Variables Nonlinear Functionals and Operators by Radial Basis Functional Neural Networks[外文期刊] 1995(04)10.Li X On Simultaneous Approximations by Radial Basis Function Neural Networks[外文期刊] 1998(1)11.JONES L K A Simple Lemma on Greedy Approximation in Hilbert Space and Convergence Rates for Projection Pursuit Regression and Neural Network Training[外文期刊] 199212.Barron A R Universal Approximation Bounds for Superposition of a Sigrnoid Function[外文期刊] 1993(3)13.Girosi F;Anzellotti G Rates of Convergence for Radial Basis Function and Neural Networks 199314.Kurková V Dimension-Independent Rates of Approximation by Neural Networks 199715.Kurková V;Kainen P C;Kreinovich V Estimates of the Number of Hidden Units and Variation with Respect to Half-Spaces 199716.Yukich J;Stinchcombe M;White H Sup-Norm Approximation Bounds for Networks through Probabilistic Methods[外文期刊] 1995(04)17.Makovoz Y Random Approximants and Neural Networks[外文期刊] 199618.Dohlerd S;Uschendorf L R An Approximation Result for Nets in Functional Estimation 200119.PIGGIO T;Girosi F A Theory of Networks for Approximation and Learning. AI Memo No 1140Artificial Intelligence Laboratory 198920.Girosi F;Poggio T Neural Network and the Best Approximation Property[外文期刊] 199021.Moody J;Darken C Fast Learning in Networks of Locally-Tuned Processing Units 198922.Orr M J L Regularization in the Selection of Radial Basis Function Centers 1995(03)23.Lei Xu Rival Penalized Competitive Learning for Clustering Analysis RBF Net and Curve Detection [外文期刊] 1993(04)24.王旭东RBF神经网络及其在过程控制中的应用[学位论文] 199725.谢维信;高新波基于聚类有效性神经网络的模糊规则提取方法[期刊论文]-深圳大学学报(理工版) 2003(04)26.朱明星;张德龙RBF网络基函数中心选取算法的研究[期刊论文]-安徽大学学报(自然科学版) 2000(01)27.汪小帆;王执铨;宋文忠径向基函数神经网络的新型混合递推学习算法 1998(02)28.Chen S;Cowan C F N;Grant P M Orthogonal Least Squares Learing Algorithm for Radial Basis Function Networks[外文期刊] 1991(02)29.Chen S;Grant P M;Cowan C F N Orthogonal Least Squares Algorithm for Training Multioutput Radial Basis Function Networks[外文期刊] 1992(6)30.Walczak B;Massart D L The Radial Basis Functions- Partial Least Squares Approach as a Flexible Non-Linear Regression Techniques 199631.Walczak B;Massart D L Application of Radial Basis Functions -Partial Least Squares to Non-Linear Pattern Recognition Problems:Diagnosis of Process Faults 199632.Chen S;Billings S A;Grant P M Recursive Hybrid Algorithm for Nonlinear System Identification Using Radial Basis Function Networks 1992(05)33.Gentleman M Least Squares Computations by Givens Transformations without Square Roots[外文期刊] 197334.Billings S A;Zheng G L Radial Basis Function Network Confinguration Using Genetic Algorithms[外文期刊] 1995(06)35.Vesin J M;Griiter R Model Selection Using a Simplex Reproduction Genetic Algorithm[外文期刊] 1999(03)36.GenM;Cheng R;Oren S S Network Design Techniques Using Adapted Genetic Algorithms 2001(09)本文读者也读过(2条)1.樊国创.戴亚平.闫宁基于RBF神经网络的高斯混合近似算法[期刊论文]-系统工程与电子技术2009,31(10)2.王洪斌.杨香兰.王洪瑞一种改进的RBF神经网络学习算法[期刊论文]-系统工程与电子技术2002,24(6)引证文献(64条)1.胡斌.王敬志.赵英基于并行PSO算法的RBF建模[期刊论文]-工业控制计算机 2011(4)2.胡斌.王敬志.刘鹏基于双层网络的混合PSO算法的RBF建模[期刊论文]-西南科技大学学报 2011(2)3.虞国全基于SVM的径向基网络滚动轴承故障诊断方法研究[期刊论文]-黑龙江科技信息 2009(7)4.袁小芳.王耀南.孙炜.杨辉前一种用于RBF神经网络的支持向量机与BP的混合学习算法[期刊论文]-湖南大学学报(自然科学版) 2005(3)5.陈静.葛超.安光晨RBF神经网络在非线性系统辨识中的应用[期刊论文]-陶瓷研究与职业教育 2007(4)6.伍长荣.叶明全.胡学钢基于PCA的RBF神经网络预测方法研究[期刊论文]-安徽工程科技学院学报(自然科学版) 2007(1)7.周遊企业财务管理的计算机辅助评价方法探讨[期刊论文]-江苏经贸职业技术学院学报 2009(3)8.薛富强.葛临东.王彬基于自适应小生境递阶遗传算法的RBF均衡器[期刊论文]-计算机应用 2009(4)9.陈一萍.郑朝洪BP和RBF网络在厦门市大气环境质量评价中的比较[期刊论文]-环保科技 2008(4)10.陈静.葛超.朱开宇基于正交最小二乘法的神经网络中心选取算法的研究[期刊论文]-陶瓷研究与职业教育2008(1)11.曹屹立.葛超.张景春.孙丽英.朱艺最小二乘算法在RBF神经网络中的应用[期刊论文]-山西电子技术 2008(1)12.葛超.孙丽英.张淑卿.朱艺RBF神经网络中心选取算法[期刊论文]-河北理工大学学报 2007(4)13.张旭.张云鹏.朱炳安.顾军一种具备规则趋势的模糊神经网络脱硫预报模型[期刊论文]-江苏冶金 2007(3)14.余朝刚.王剑平.应义斌基于径向基函数神经网络的温室室内温度预测模型[期刊论文]-生物数学学报 2006(4)15.金晶.芮延年.郭旭红.赵礼刚基于灰色理论、径向基神经网络的大型压缩机故障预测方法的研究[期刊论文]-苏州大学学报(工科版) 2004(5)16.李仿华.王爱平.姚丽娜.国玮玮.徐晓燕基于遗传优化的RBF-BP网络的实时故障检测[期刊论文]-微型机与应用2012(8)17.韩媛媛.成长生.苏厚勤时序数据挖掘在AFC系统运营管理中的分析与应用[期刊论文]-计算机应用与软件2010(11)18.于增顺.高齐圣.杨方基于径向基函数神经网络的橡胶配方性能预测[期刊论文]-橡胶工业 2010(6)19.周遊实现商业银行财务管理目标计算机辅助评价方法探讨[期刊论文]-江苏科技信息 2008(12)20.朱艺.孙丽英.葛超.张景春最小二乘算法在神经网络函数逼近方面的研究[期刊论文]-山西电子技术 2007(5)21.胡晓飞边界模糊图像的径向基函数神经网络分割方法研究[期刊论文]-现代电子技术 2007(7)22.孙丽英.葛超.朱艺RBF神经网络在函数逼近领域内的研究[期刊论文]-计算机与数字工程 2007(8)23.王华秋.曹长修一种并行核径向基神经网络预测模型[期刊论文]-重庆大学学报(自然科学版) 2006(3)24.邓长辉.王姝.王福利.毛志忠.王嘉铮真空感应炉终点碳含量预报[期刊论文]-控制与决策 2006(2)25.黄啸.江青茵.潘学红.樊诚.曹志凯循环流化床锅炉燃烧过程的小波建模研究[期刊论文]-厦门大学学报(自然科学版) 2005(4)26.蒯松岩.吴涛.代尚方.张旭隆基于RBF的无位置开关磁阻电机控制系统[期刊论文]-电力电子技术 2011(7)27.樊诚.江青茵.曹志凯.周荣循环流化床锅炉燃烧过程建模研究[期刊论文]-计算机与应用化学 2007(3)28.王华秋.曹长修.李梁基于并行核径向基神经网络的软测量与控制模型[期刊论文]-仪器仪表学报 2006(10)29.贾建华.王军峰.冯冬青人工神经网络在多传感器信息融合中的应用研究[期刊论文]-微计算机信息 2006(7)30.李剑.陈德钊.吴晓华.叶子清优化的径向基-循环子空间网络为药物定量构效关系建模[期刊论文]-分析化学2005(6)31.朱程辉.陈昕.王金玲基于RBF神经网络在图像分割参数估计的应用[期刊论文]-计算机工程与应用 2003(30)32.李秀琴.李书臣一类非线性系统的故障检测与容错控制算法[期刊论文]-测控技术 2005(8)33.沈掌泉.周斌.孔繁胜.John S.Bailey应用广义回归神经网络进行土壤空间变异研究[期刊论文]-土壤学报2004(3)34.董敏.王昌全.李冰.唐敦义.杨娟.宋薇平基于GARBF神经网络的土壤有效锌空间插值方法研究[期刊论文]-土壤学报 2010(1)35.张大鹏.王福利.何大阔.何建勇.林志玲.桑海峰基于误差修正的菌体浓度软测量[期刊论文]-计量学报 2008(3)36.卢涛.陈德钊径向基网络的研究进展和评述[期刊论文]-计算机工程与应用 2005(4)37.伍长荣.胡学钢基于GRA-PCA的RBF神经网络预测方法应用研究[期刊论文]-巢湖学院学报 2005(3)38.王华秋.曹长修.张邦礼增量式遗传RBF神经网络在铁水脱硫预处理中的应用[期刊论文]-信息与控制 2004(1)39.梁协雄.王华秋.曹长修增量式遗传RBF算法在转炉提钒中的应用[期刊论文]-重庆大学学报(自然科学版)2003(12)40.邓长辉.王姝.王福利.桑海峰基于神经网络的真空感应炉终点钢水温度预报[期刊论文]-钢铁研究学报 2005(4)41.孙延风.梁艳春.张文力.吕英华RBF神经网络最优分割算法及其在股市预测中的应用[期刊论文]-模式识别与人工智能 2005(3)42.王明超基于RBF神经网络的开关磁阻电机无位置传感器控制及单神经元PID控制[学位论文]硕士 200443.曾谊晖.左青松.李翼德.黄红华.陈恒.王亚风基于RBF神经网络的难加工金属材料数控加工控制方法研究[期刊论文]-湖南大学学报(自然科学版) 2011(4)44.林用满.张永相.严寒冰.张弓.董霖RBF神经网络算法在汽油机空燃比控制中的比较[期刊论文]-四川工业学院学报 2004(3)45.何成刚.张燕平.张站.张娟机器学习中知识动态获取在函数逼近中的探究[期刊论文]-微计算机信息 2010(27)46.罗定贵.王学军.郭青岩溶水系统的径向基神经网络仿真[期刊论文]-水文地质工程地质 2004(2)47.张弓.张永相.邱容.林用满.严寒冰.董霖电控汽油机怠速模糊RBF神经网络控制[期刊论文]-四川工业学院学报2004(1)48.陈飞香.程家昌.胡月明.周永章.赵元.蚁佳纯基于RBF神经网络的土壤铬含量空间预测[期刊论文]-地理科学2013(1)49.黄颖松基于广义遗传算法优化的脱硫静态模型的研究[学位论文]硕士 200350.李慧.顾沈明基于RBF神经网络的赤潮预测方法[期刊论文]-计算机工程与应用 2012(1)51.张运陶.杨晓丽自适应径向基神经网络及其应用[期刊论文]-计算机与应用化学 2006(1)52.李启权.王昌全.岳天祥.李冰.杨娟.史文娇不同输入方式下RBF神经网络对土壤性质空间插值的误差分析[期刊论文]-土壤学报 2008(2)53.李启权.王昌全.岳天祥.李冰.杨娟基于RBF神经网络的土壤有机质空间变异研究方法[期刊论文]-农业工程学报 2010(1)54.王明超基于RBF神经网络的开关磁阻电机无位置传感器控制及单神经元PID控制[学位论文]硕士 200455.王雅娣基于智能蚂蚁算法优化的脱硫静态模型研究[学位论文]硕士 200456.余朝刚温室气候环境微机测控系统与控制方法的研究[学位论文]博士 200557.徐剑波.宋立生.彭磊.张桥土壤养分空间估测方法研究综述[期刊论文]-生态环境学报 2011(8)58.李启权基于RBF神经网络的土壤属性信息空间插值方法研究[学位论文]硕士 200659.肖伟杰高速走丝电火花线切割工艺仿真系统的研究[学位论文]硕士 200460.高美娟用于储层参数预测的神经网络模式识别方法研究[学位论文]博士 200561.王卓模型驱动的软构件分类及检索方法研究[学位论文]博士 200562.李存军区域性冬小麦籽粒蛋白含量遥感监测技术研究[学位论文]博士 200563.王伟华磨粒制谱及分析技术系统研究[学位论文]博士 200464.闫滨大坝安全监控及评价的智能神经网络模型研究[学位论文]博士 2006本文链接:/Periodical_mssbyrgzn200203011.aspx。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

优点——
RBF神经网络有很强的非线性拟合能力,可映射任意复杂的非线性关系,而且学习规则简单,便于计算机实现。

具有很强的鲁棒性、记忆能力、非线性映射能力以及强大的自学习能力,因此有很大的应用市场。

具有局部逼近的优点
RBF神经网络是一种性能优良的前馈型神经网络,RBF网络可以任意精度逼近任意的非线性函数,且具有全局逼近能力,从根
本上解决了BP网络的局部最优问题,而且拓扑结构紧凑,结构参数可实现分离学习,收敛速度快。

RBF网络和模糊逻辑能够实现很
好的互补,提高神经网络的学习泛化能力。

RBF网络的特点
1.前向网络
2.隐单元的激活函数通常为具有局部接受域的函数,即仅当输入落在输入空间中一个很小的指定区域中时,隐单元才作出有意义的非零响应。

因此,RBF网络有时也称为局部接受域网络(Localized Receptive Field Network)。

3.RBF网络的局部接受特性使得其决策时隐含了距离的概念,即只有当输入接近RBF网络的接受域时,网络才会对之作出响应。

这就避免了BP网络超平面分割所带来的任意划分特性。

在RBF网络中,输入层至输出层之间的所有权重固定为1,隐层RBF 单元的中心及半径通常也预先确定,仅隐层至输出层之间的权重可
调。

RBF网络的隐层执行一种固定不变的非线性变换,将输入空间Rn 映射到一个新的隐层空间Rh,输出层在该新的空间中实现线性组合。

显然由于输出单元的线性特性,其参数调节极为简单,且不存在局部极小问题。

4.另外,研究还表明,一般RBF网络所利用的非线性激活函数形式对网络性能的影响并非至关重要,关键因素是基函数中心的选取。

RBF网络的优点:
①它具有唯一最佳逼近的特性,且无局部极小问题存在。

②RBF神经网络具有较强的输入和输出映射功能,并且理论证明在前向网络中RBF网络是完成映射功能的最优网络。

③网络连接权值与输出呈线性关系。

④分类能力好。

⑤学习过程收敛速度快。

RBF神经网络除了具有一般神经网络的优点,如多维非线性映射能力,泛化能力,并行信息处理能力等,还具有很强的聚类分析能力,学习算法简单方便等优点;
径向基函数(RBF)神经网络是一种性能良好的前向网络L利用在多维空间中插值的传统技术,可以对几
乎所有的系统进行辩识和建模L它不仅在理论上有着任意逼近性能和最佳逼近性能,而且在应用中具有很多
优势[1]L如和Sigmo id函数作为激活函数的神经网络相比,算法速度大大高于一般的BP算法。

]LRBF神经网络同BP网络相比,不但在理论上它是前向网络中最优的网络,而且学习方法
也避免了局部最优的问题[3]L
已经证明:一个RBF网络,在隐层节点足够多的情况下,经过充分学习,可以用任意精度逼近任意非线性函数,而且具有最优泛函数逼近能力,另外,它具有较快的收敛速度和强大的抗噪和修复能力。

在理论上,RBF网络和BP网络一样能以任意精度逼近任何非线性函数。

但由于它们使用的激励函数不同,其逼近性能也不相同。

Poggio 和Girosi已经证明,RBF网络是连续函数的最佳逼近,而BP网络不是。

BP网络使用的Sigmoid函数具有全局特性,它在输入值的很大范围内每个节点都对输出值产生影响,并且激励函数在输入值的很大范围内相互重叠,因而相互影响,因此BP网络训练过程很长。

此外,由于BP算法的固有特性,BP网络容易陷入局部极小的问题不可能从根本上避免,并且BP网络隐层节点数目的确定依赖于经验和试凑,很难得到最优网络。

采用局部激励函数的RBF网络在很大程度上克服了上述缺点,RBF不仅有良好的泛化能力,而且对于每个输入值,只有很少几个节点具有非零激励值,因此只需很少部分节点及权值改变。

学习速度可以比通常的BP算法提高上千倍,容易适应新数据,其隐层节点的数目也在训练过程中确定,并且其收敛性也较BP网络易于保证,因此可以得到最优解。

缺点——
(1)最严重的问题是没能力来解释自己的推理过程和推理依据。

(2)不能向用户提出必要的询问,而且当数据不充分的时候,神经网络就无法进行工作。

(3)把一切问题的特征都变为数字,把一切推理都变为数值计算,其结果势必是丢失信息。

(4)理论和学习算法还有待于进一步完善和提高。

LRBF神经网络的非线性映射能力体现在隐层基函数上,而基函数的特性主要由基函数的中心确定,从数据点中任意选取中心构造出来的RBF神经网络的性能显然是不能令人满意的目的
(5)RBF神经网络用于非线性系统建模需要解决的关键问题是样本数据的选
择L在实际工业过程中,系统的信息往往只能从系统运行的操作数据中分析得到,因此如何从系统运行的操作数据中提取系统运行状况信息,以降低网络对训练样本的依赖,在实际应用中具有重要的价值。

隐层基函数的中心是在输入样本集中选取的,这在许多情况下难以反
映出系统真正的输入输出关系,并且初始中心点数太多;另外优选过程会出现数据病态现象。

相关文档
最新文档