智能控制
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
另外,研究还表明,一般RBF网络所利用的非线性激活函数形式对网络性能的影响并非至关重要,关键因素是基函数中心的选取。
四RBF网络优缺点
RBF网络的优点:
1它具有唯一最佳逼近的特性,且无局部极小问题存在。
2RBF神经网络具有较强的输入和输出映射功能,并且理论证明在前向网络中RBF网络是完成映射功能的最优网络。
[5]吕大刚.王光远.结构智能优化设计-一个新的研究方向[J].哈尔滨建筑大学学报.1999.(8).
[6]Antsaklis P J. Neural Networks in Control Systems[J]. Special SectБайду номын сангаасon on Neural Networks for Systems and Control IEEEControl System Magazine.1990. 3~5.
5RBF 神经网络用于非线性系统建模需要解决的关键问题是样本数据的选择L 在实际工业过程中, 系统的信息往往只能从系统运行的操作数据中分析得到, 因此如何从系统运行的操作数据中提取系统运行状况信息, 以降低网络对训练样本的依赖, 在实际应用中具有重要的价值。隐层基函数的中心是在输入样本集中选取的, 这在许多情况下难以反映出系统真正的输入输出关系, 并且初始中心点数太多; 另外优选过程会出现数据病态现象。
4RBF网络特点
前向网络。
隐单元的激活函数通常为具有局部接受域的函数,即仅当输入落在输入空间中一个很小的指定区域中时,隐单元才作出有意义的非零响应。因此,RBF网络有时也称为局部接受域网络(Localized Receptive Field Network)。
RBF网络的局部接受特性使得其决策时隐含了距离的概念,即只有当输入接近RBF网络的接受域时,网络才会对之作出响应。这就避免了BP网络超平面分割所带来的任意划分特性。
三RBF神经网络在控制中的研究与应用
1 RBF网络对非线性动态系统的建模
采用常规算法对非线性系统建模是一个非常棘手的问题,RBF网络在这方面很有优势,只要给出建模对象充分完备的数据,RBF网络能够很容易将系统模型建立出来。一般RBF网络应用于动态系统建模,需要根据ARMA(自回归滑动平均模型)的形式将静态的RBF网络转化为具有动态特性的网络。
RBF网络的缺点:
1最严重的问题是没能力来解释自己的推理过程和推理依据。
2不能向用户提出必要的询问,而且当数据不充分的时候,神经网络就无法进行工作。
3把一切问题的特征都变为数字,把一切推理都变为数值计算,其结果势必是丢失信息。
4理论和学习算法还有待于进一步完善和提高。LRBF 神经网络的非线性映射能力体现在隐层基函数上, 而基函数的特性主要由基函数的中心确定,从数据点中任意选取中心构造出来的RBF 神经网络的性能显然是不能令人满意的目的。
3网络连接权值与输出呈线性关系。
4分类能力好。
5学习过程收敛速度快。
RBF神经网络除了具有一般神经网络的优点,如多维非线性映射能力,泛化能力,并行信息处理能力等,还具有很强的聚类分析能力,学习算法简单方便等优点;径向基函数(RBF) 神经网络是一种性能良好的前向网络,利用在多维空间中插值的传统技术, 可以对几乎所有的系统进行辩识和建模,它不仅在理论上有着任意逼近性能和最佳逼近性能, 而且在应用中具有很多优势,如和Sigmo id 函数作为激活函数的神经网络相比, 算法速度大大高于一般的BP 算法。
3 RBF神经网络与结构优化设计
结构优化设计理论已有近四十年的发展历史,但结构优化设计应用远远落后于理论研究,其中主要的原因是由于现有的优化方法都是以传统的数学模型作为优化模型的。由于RBF神经网络的优越性,有些学者认为可以建立结构神经智能优化设计来解决以往的结构优化设计带来的不足,具体途径如下:
把结构优化的数学规划模型转化为“神经网络优化”模型;
目前,在控制领域内神经网络正在稳步的发展,这种发展的动力主要来自三个方面[2]:⑴处理越来越复杂的系统的需要;⑵实现越来越高的设计目标的需要;⑶在越来越不确定的情况下进行控制的需要。
在控制领域中,目前应用较多的网络是 BP 网络,但 BP 网络存在局部最优问题,并且训练速度慢、效率低。RBF 网络在一定程度上克服了这些问题,因此它的研究与应用越来越得到重视。本文综述了 RBF 神经网络的有关理论,并且提出了 RBF 网络在控制中的研究与应用。
一RBF神经网络的结构
径向基函数(RBF-Radial Basis Function)神经网络是由J.Moody和C.Darken在80年代末提出的一种神经网络,它是具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接收域(或称感受野-Receptive Field)的神经网络结构,因此,RBF网络是一种局部逼近网络,它能够以任意精度逼近任意连续函数,特别适合于解决分类问题。
若S={( )∈ ×R|i=1,…, N }是训练集合,ϕ(•, w)表示未知的函数,其中w也未知,正则化问题的学习过程是寻找ϕ及参数w使 最小。用变分原理可以证明ϕ应该选择径向基函数(Radial Basis Function)。
二RBF网络的函数逼近理论
前向神经网络理论研究的关键问题是函数逼近。可以逼近任意连续函数至任意精度的充分必要条件是非多项式(有限阶次),并且指出激活函数值有很重要的作用,它是保证上述充要条件成立的一个重要因素。
对于BP型前向网络,它所表示的函数集合为
理论证明σm对于m≥2是非存在集,因此BP型前向网络不存在最佳逼近性质。
对于正则网络,如RBF网络,其表示的函数集合为 其中 ,G是Green函数,对于RBF网络,G =G(||X- ||)。理论证明 对m≥1是存在集,而且如果空间C[u]是严格凸的,则 (m≥1)存在且具有唯一集。
RBF 神经元网络是一类前向网络,因此上述函数逼近的理论也适用于它,与其他前向网络相比,RBF 网络具有最佳逼近特性。最佳逼近(Best Approximation)定义如下:
定义函数f∈函数集Φ,Α⊂Φ,距离 表示f与A之间距离,如果存在 ∈A使||f- ||=d( f , A),则 是从A中对f的最佳逼近,如果对任意f∈Φ,至少有一个函数a∈A从A中最佳逼近f,则A是存在集,如果a是唯一的,则A是唯一集。
用RBF网络对非线性系统建模需要解决的关键问题是样本数据的选择。在仿真研究中我们可以通过激励系统而得到完备的信息,从而较为准确的建立对象的模型。由于实际系统往往是时变的,因此设计有效的在线RBF网络建模方法是今后研究的一个方向。
2 RBF神经网络与遗传算法
遗传算法简称GA(Genetic Algorithms),是1962年由美国Michigan教授提出的模拟自然界遗传机制和生物进化论而行成的一种并行随机搜索最优化方法。由于RBF神经网络的初始权值、阈值和高斯函数中心矢量不能很好的确定,而隐含层单元的传输函数是不连续和不可微的,因此采用传统的优化方法可能陷入局部极小值。而遗传算法的搜索不依赖梯度信息,也不需要求解函数可微,只需要求解函数自约束条件下的可行解,并且遗传算法具有全局搜索的特性,用遗传算法优化神经网络的连接权、网络结构、初始权值、阈值和高斯函数中心矢量不仅容易获得全局最优解,还可以提高神经网络的泛化性能,大大提高系统的精度、鲁棒性和自适应。有科学家提出了用遗传算法来代替最小二乘法来训练RBF神经网络的权值、阈值和高斯函数中心矢量,得出了满意的仿真结果。利用遗传算法与RBF神经网络结合,在此基础上还可以和模糊系统、PID控制等结合。又有学者分别提出了基于遗传算法的RBF神经网络与PID控制、模糊控制的结合。
⑵建立结构反应与设计变量之间的RBF神经网络映射模型;
⑶建立结构智能优化设计的神经网络专家系统。
神经网络专家系统的目标是利用神经网络的学习功能、大规模并行分布处理功能、连续时间非线性动力学和全局集体作用实现知识获取自动化;克服“组合爆炸”和“推理复杂性”及“无穷递归”等困难,实现并行联想和自适应推理;提高专家系统的智能水平、实时处理能力及鲁棒性,因此它在结构优化设计中的应用必将给结构设计理论带来历史性的突破。
RBF神经网络理论概述及在控制中的应用
摘要:对RBF神经网络的结构和函数逼近理论进行了综述,最后提出了RBF网络在控制中的研究及应用。
关键词:RBF神经网络;全局逼近;遗传算法
人工神经网络是从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模型,具有模拟人的部分形象思维的能力,其特点是具有非线性特性、学习能力和自适应性,是模拟人的智能的一种重要途径,它在许多方面取得了广泛应用。从神经网络基本模式看主要有[1]:前馈型、反馈型、自组织型及随机型网络。
RBF 神经网络的提出具有较强的生物学背景。在人的大脑皮层区域中,局部调节及交叠的感受野(Receptive Field)是人脑反应的特点,基于感受野这一特性,Moody 和Darken 提出了一种神经网络结构,即RBF网络。
RBF网络的结构与多层前向网络类似,它是一种三层前向网络。第一层即输入层由信号源节点组成;第二层为隐含层,隐单元数视所描述的问题的需要而定,隐单元的变换函数是RBF,它是对称中心径向对称且衰减的非线性函数;第三层为输出层,它对输入模式的作用做出响应。由于输入到输出的映射是非线性的,而隐含层空间到输出空间的映射是线性的,从而可以大大加快学习速度并避免局部极小问题。
五总结
RBF网络出现的时间不长,但取得了可信的成果和进展。但总体来说,RBF网络在以下方面要加强研究工作:⑴扩宽实际应用范围,提高实时控制能力;⑵解决知识获取和优化瓶颈问题,特别是动态系统的知识获取和分类;⑶加强对RBF网络学习问题的研究工作。
参考文献:
[1]孙增圻.智能控制理论与技术[M].北京:清华大学出版社.1997.
RBF 神经网络同BP 网络相比, 不但在理论上它是前向网络中最优的网络, 而且学习方法也避免了局部最优的问题。
已经证明:一个RBF网络,在隐层节点足够多的情况下,经过充分学习,可以用任意精度逼近任意非线性函数,而且具有最优泛函数逼近能力,另外,它具有较快的收敛速度和强大的抗噪和修复能力。
在理论上,RBF网络和BP网络一样能以任意精度逼近任何非线性函数。但由于它们使用的激励函数不同,其逼近性能也不相同。Poggio和Girosi已经证明,RBF网络是连续函数的最佳逼近,而BP网络不是。BP网络使用的Sigmoid函数具有全局特性,它在输入值的很大范围内每个节点都对输出值产生影响,并且激励函数在输入值的很大范围内相互重叠,因而相互影响,因此BP网络训练过程很长。此外,由于BP算法的固有特性,BP网络容易陷入局部极小的问题不可能从根本上避免,并且BP网络隐层节点数目的确定依赖于经验和试凑,很难得到最优网络。采用局部激励函数的RBF网络在很大程度上克服了上述缺点,RBF不仅有良好的泛化能力,而且对于每个输入值,只有很少几个节点具有非零激励值,因此只需很少部分节点及权值改变。学习速度可以比通常的BP算法提高上千倍,容易适应新数据,其隐层节点的数目也在训练过程中确定,并且其收敛性也较BP网络易于保证,因此可以得到最优解。
[2]任占魁,王玮.基于遗传算法寻优的PID控制技术及应用[J].计算技术与自动化.2005.(6).
[3]宋洪法,靳其兵,赵梅.基于改进遗传算法的PID控制参数整定策略[J].北京化工大学学报.2005.(6).
[4]董玲娇,冯冬青.基于改进遗传算法的模糊RBF神经网络控制器设计[J].计算机技术与自动化.2005.(12).
在RBF 网络中,输入层至输出层之间的所有权重固定为1,隐层RBF单元的中心及半径通常也预先确定,仅隐层至输出层之间的权重可调。RBF网络的隐层执行一种固定不变的非线性变换,将输入空间Rn映射到一个新的隐层空间 Rh,输出层在该新的空间中实现线性组合。显然由于输出单元的线性特性,其参数调节极为简单,且不存在局部极小问题。
图1 RBF网络结构
RBF网络是一种前向网络,隐含层的单元是感受野单元,每个感受野单元输出为 ,i =1,…,H;X是N维输入向量,中心矢量 是与X同维数的向量, (﹒)具有局部感受的特点,例如 , (﹒)只有在 周围的一部分区域内有较强的反应,这正体现了大脑皮质层的反应特点。RBF神经元网络不仅具有上述的生物背景,而且还具备数学理论的支持,文献[5,6]利用正则化方法证明了如下结论:
四RBF网络优缺点
RBF网络的优点:
1它具有唯一最佳逼近的特性,且无局部极小问题存在。
2RBF神经网络具有较强的输入和输出映射功能,并且理论证明在前向网络中RBF网络是完成映射功能的最优网络。
[5]吕大刚.王光远.结构智能优化设计-一个新的研究方向[J].哈尔滨建筑大学学报.1999.(8).
[6]Antsaklis P J. Neural Networks in Control Systems[J]. Special SectБайду номын сангаасon on Neural Networks for Systems and Control IEEEControl System Magazine.1990. 3~5.
5RBF 神经网络用于非线性系统建模需要解决的关键问题是样本数据的选择L 在实际工业过程中, 系统的信息往往只能从系统运行的操作数据中分析得到, 因此如何从系统运行的操作数据中提取系统运行状况信息, 以降低网络对训练样本的依赖, 在实际应用中具有重要的价值。隐层基函数的中心是在输入样本集中选取的, 这在许多情况下难以反映出系统真正的输入输出关系, 并且初始中心点数太多; 另外优选过程会出现数据病态现象。
4RBF网络特点
前向网络。
隐单元的激活函数通常为具有局部接受域的函数,即仅当输入落在输入空间中一个很小的指定区域中时,隐单元才作出有意义的非零响应。因此,RBF网络有时也称为局部接受域网络(Localized Receptive Field Network)。
RBF网络的局部接受特性使得其决策时隐含了距离的概念,即只有当输入接近RBF网络的接受域时,网络才会对之作出响应。这就避免了BP网络超平面分割所带来的任意划分特性。
三RBF神经网络在控制中的研究与应用
1 RBF网络对非线性动态系统的建模
采用常规算法对非线性系统建模是一个非常棘手的问题,RBF网络在这方面很有优势,只要给出建模对象充分完备的数据,RBF网络能够很容易将系统模型建立出来。一般RBF网络应用于动态系统建模,需要根据ARMA(自回归滑动平均模型)的形式将静态的RBF网络转化为具有动态特性的网络。
RBF网络的缺点:
1最严重的问题是没能力来解释自己的推理过程和推理依据。
2不能向用户提出必要的询问,而且当数据不充分的时候,神经网络就无法进行工作。
3把一切问题的特征都变为数字,把一切推理都变为数值计算,其结果势必是丢失信息。
4理论和学习算法还有待于进一步完善和提高。LRBF 神经网络的非线性映射能力体现在隐层基函数上, 而基函数的特性主要由基函数的中心确定,从数据点中任意选取中心构造出来的RBF 神经网络的性能显然是不能令人满意的目的。
3网络连接权值与输出呈线性关系。
4分类能力好。
5学习过程收敛速度快。
RBF神经网络除了具有一般神经网络的优点,如多维非线性映射能力,泛化能力,并行信息处理能力等,还具有很强的聚类分析能力,学习算法简单方便等优点;径向基函数(RBF) 神经网络是一种性能良好的前向网络,利用在多维空间中插值的传统技术, 可以对几乎所有的系统进行辩识和建模,它不仅在理论上有着任意逼近性能和最佳逼近性能, 而且在应用中具有很多优势,如和Sigmo id 函数作为激活函数的神经网络相比, 算法速度大大高于一般的BP 算法。
3 RBF神经网络与结构优化设计
结构优化设计理论已有近四十年的发展历史,但结构优化设计应用远远落后于理论研究,其中主要的原因是由于现有的优化方法都是以传统的数学模型作为优化模型的。由于RBF神经网络的优越性,有些学者认为可以建立结构神经智能优化设计来解决以往的结构优化设计带来的不足,具体途径如下:
把结构优化的数学规划模型转化为“神经网络优化”模型;
目前,在控制领域内神经网络正在稳步的发展,这种发展的动力主要来自三个方面[2]:⑴处理越来越复杂的系统的需要;⑵实现越来越高的设计目标的需要;⑶在越来越不确定的情况下进行控制的需要。
在控制领域中,目前应用较多的网络是 BP 网络,但 BP 网络存在局部最优问题,并且训练速度慢、效率低。RBF 网络在一定程度上克服了这些问题,因此它的研究与应用越来越得到重视。本文综述了 RBF 神经网络的有关理论,并且提出了 RBF 网络在控制中的研究与应用。
一RBF神经网络的结构
径向基函数(RBF-Radial Basis Function)神经网络是由J.Moody和C.Darken在80年代末提出的一种神经网络,它是具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接收域(或称感受野-Receptive Field)的神经网络结构,因此,RBF网络是一种局部逼近网络,它能够以任意精度逼近任意连续函数,特别适合于解决分类问题。
若S={( )∈ ×R|i=1,…, N }是训练集合,ϕ(•, w)表示未知的函数,其中w也未知,正则化问题的学习过程是寻找ϕ及参数w使 最小。用变分原理可以证明ϕ应该选择径向基函数(Radial Basis Function)。
二RBF网络的函数逼近理论
前向神经网络理论研究的关键问题是函数逼近。可以逼近任意连续函数至任意精度的充分必要条件是非多项式(有限阶次),并且指出激活函数值有很重要的作用,它是保证上述充要条件成立的一个重要因素。
对于BP型前向网络,它所表示的函数集合为
理论证明σm对于m≥2是非存在集,因此BP型前向网络不存在最佳逼近性质。
对于正则网络,如RBF网络,其表示的函数集合为 其中 ,G是Green函数,对于RBF网络,G =G(||X- ||)。理论证明 对m≥1是存在集,而且如果空间C[u]是严格凸的,则 (m≥1)存在且具有唯一集。
RBF 神经元网络是一类前向网络,因此上述函数逼近的理论也适用于它,与其他前向网络相比,RBF 网络具有最佳逼近特性。最佳逼近(Best Approximation)定义如下:
定义函数f∈函数集Φ,Α⊂Φ,距离 表示f与A之间距离,如果存在 ∈A使||f- ||=d( f , A),则 是从A中对f的最佳逼近,如果对任意f∈Φ,至少有一个函数a∈A从A中最佳逼近f,则A是存在集,如果a是唯一的,则A是唯一集。
用RBF网络对非线性系统建模需要解决的关键问题是样本数据的选择。在仿真研究中我们可以通过激励系统而得到完备的信息,从而较为准确的建立对象的模型。由于实际系统往往是时变的,因此设计有效的在线RBF网络建模方法是今后研究的一个方向。
2 RBF神经网络与遗传算法
遗传算法简称GA(Genetic Algorithms),是1962年由美国Michigan教授提出的模拟自然界遗传机制和生物进化论而行成的一种并行随机搜索最优化方法。由于RBF神经网络的初始权值、阈值和高斯函数中心矢量不能很好的确定,而隐含层单元的传输函数是不连续和不可微的,因此采用传统的优化方法可能陷入局部极小值。而遗传算法的搜索不依赖梯度信息,也不需要求解函数可微,只需要求解函数自约束条件下的可行解,并且遗传算法具有全局搜索的特性,用遗传算法优化神经网络的连接权、网络结构、初始权值、阈值和高斯函数中心矢量不仅容易获得全局最优解,还可以提高神经网络的泛化性能,大大提高系统的精度、鲁棒性和自适应。有科学家提出了用遗传算法来代替最小二乘法来训练RBF神经网络的权值、阈值和高斯函数中心矢量,得出了满意的仿真结果。利用遗传算法与RBF神经网络结合,在此基础上还可以和模糊系统、PID控制等结合。又有学者分别提出了基于遗传算法的RBF神经网络与PID控制、模糊控制的结合。
⑵建立结构反应与设计变量之间的RBF神经网络映射模型;
⑶建立结构智能优化设计的神经网络专家系统。
神经网络专家系统的目标是利用神经网络的学习功能、大规模并行分布处理功能、连续时间非线性动力学和全局集体作用实现知识获取自动化;克服“组合爆炸”和“推理复杂性”及“无穷递归”等困难,实现并行联想和自适应推理;提高专家系统的智能水平、实时处理能力及鲁棒性,因此它在结构优化设计中的应用必将给结构设计理论带来历史性的突破。
RBF神经网络理论概述及在控制中的应用
摘要:对RBF神经网络的结构和函数逼近理论进行了综述,最后提出了RBF网络在控制中的研究及应用。
关键词:RBF神经网络;全局逼近;遗传算法
人工神经网络是从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模型,具有模拟人的部分形象思维的能力,其特点是具有非线性特性、学习能力和自适应性,是模拟人的智能的一种重要途径,它在许多方面取得了广泛应用。从神经网络基本模式看主要有[1]:前馈型、反馈型、自组织型及随机型网络。
RBF 神经网络的提出具有较强的生物学背景。在人的大脑皮层区域中,局部调节及交叠的感受野(Receptive Field)是人脑反应的特点,基于感受野这一特性,Moody 和Darken 提出了一种神经网络结构,即RBF网络。
RBF网络的结构与多层前向网络类似,它是一种三层前向网络。第一层即输入层由信号源节点组成;第二层为隐含层,隐单元数视所描述的问题的需要而定,隐单元的变换函数是RBF,它是对称中心径向对称且衰减的非线性函数;第三层为输出层,它对输入模式的作用做出响应。由于输入到输出的映射是非线性的,而隐含层空间到输出空间的映射是线性的,从而可以大大加快学习速度并避免局部极小问题。
五总结
RBF网络出现的时间不长,但取得了可信的成果和进展。但总体来说,RBF网络在以下方面要加强研究工作:⑴扩宽实际应用范围,提高实时控制能力;⑵解决知识获取和优化瓶颈问题,特别是动态系统的知识获取和分类;⑶加强对RBF网络学习问题的研究工作。
参考文献:
[1]孙增圻.智能控制理论与技术[M].北京:清华大学出版社.1997.
RBF 神经网络同BP 网络相比, 不但在理论上它是前向网络中最优的网络, 而且学习方法也避免了局部最优的问题。
已经证明:一个RBF网络,在隐层节点足够多的情况下,经过充分学习,可以用任意精度逼近任意非线性函数,而且具有最优泛函数逼近能力,另外,它具有较快的收敛速度和强大的抗噪和修复能力。
在理论上,RBF网络和BP网络一样能以任意精度逼近任何非线性函数。但由于它们使用的激励函数不同,其逼近性能也不相同。Poggio和Girosi已经证明,RBF网络是连续函数的最佳逼近,而BP网络不是。BP网络使用的Sigmoid函数具有全局特性,它在输入值的很大范围内每个节点都对输出值产生影响,并且激励函数在输入值的很大范围内相互重叠,因而相互影响,因此BP网络训练过程很长。此外,由于BP算法的固有特性,BP网络容易陷入局部极小的问题不可能从根本上避免,并且BP网络隐层节点数目的确定依赖于经验和试凑,很难得到最优网络。采用局部激励函数的RBF网络在很大程度上克服了上述缺点,RBF不仅有良好的泛化能力,而且对于每个输入值,只有很少几个节点具有非零激励值,因此只需很少部分节点及权值改变。学习速度可以比通常的BP算法提高上千倍,容易适应新数据,其隐层节点的数目也在训练过程中确定,并且其收敛性也较BP网络易于保证,因此可以得到最优解。
[2]任占魁,王玮.基于遗传算法寻优的PID控制技术及应用[J].计算技术与自动化.2005.(6).
[3]宋洪法,靳其兵,赵梅.基于改进遗传算法的PID控制参数整定策略[J].北京化工大学学报.2005.(6).
[4]董玲娇,冯冬青.基于改进遗传算法的模糊RBF神经网络控制器设计[J].计算机技术与自动化.2005.(12).
在RBF 网络中,输入层至输出层之间的所有权重固定为1,隐层RBF单元的中心及半径通常也预先确定,仅隐层至输出层之间的权重可调。RBF网络的隐层执行一种固定不变的非线性变换,将输入空间Rn映射到一个新的隐层空间 Rh,输出层在该新的空间中实现线性组合。显然由于输出单元的线性特性,其参数调节极为简单,且不存在局部极小问题。
图1 RBF网络结构
RBF网络是一种前向网络,隐含层的单元是感受野单元,每个感受野单元输出为 ,i =1,…,H;X是N维输入向量,中心矢量 是与X同维数的向量, (﹒)具有局部感受的特点,例如 , (﹒)只有在 周围的一部分区域内有较强的反应,这正体现了大脑皮质层的反应特点。RBF神经元网络不仅具有上述的生物背景,而且还具备数学理论的支持,文献[5,6]利用正则化方法证明了如下结论: