第6章 模糊神经网络-2015
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
Inference System),简称ANFIS,1993年由学者Jang Roger提出。
融合了神经网络的学习机制和模糊系统的语言推理能力等
优点,弥补各自不足。同其他模糊神经系统相比,ANFIS
具有便捷高效的特点。
ANFIS使用一个给定的输入输出数据集,从而构 造出一个模糊推理系统(支持T-S型系统),并用 一个单独的反向传播算法或该算法与最小二乘 法相结合的方法来完成对系统隶属函数参数的
2、模糊系统(Fussy System,简称FS)
许多实际的应用系统很难用准确的术语来描 述。如化学过程中的“温度很高”、“反应骤然 加快”等。
模糊系统(也称模糊逻辑系统)就是以模糊
规则为基础而具有模糊信息处理能力的动态模型。
2.1 模糊系统的构成
模糊系统(也称模糊逻辑系统)就是以模糊规则为基础 而具有模糊信息处理能力的动态模型。它由四部分构成,如 下图:
模糊神经网络
“当系统的复杂性增加时,我们使它精确化的能
力将减小。直到达到一个阈值,一旦超越它,复杂
性和精确性将互相排斥。”
——模糊数学创始人L.A.Zadeh教授
互克性原理
天气冷热
雨的大小
风的强弱
人的胖瘦
年龄大小
个子高低
客观世界的模糊性反映在人脑中,便产生了概念上 的模糊性;人巧妙地利用自已建立的模糊概念来进行判
(3)∏函数(中间型隶属函数)
这种隶属函数可用于表示像中年、适中、平均等趋于
中间的模糊现象。
图a、b、c分别表示偏大型、偏小型和中间型
常用的模糊分布有矩形分布或半矩形分别、梯形或半梯形 分布、抛物线型分布、正态分布、高斯分布、钟型函数等
等。
(1)矩形或半矩形分布
(2)梯形或半梯形分布
(3)抛物线形分布
糊信息处理能力等功能。
其本质就是将常规的神经网络输入模糊输入信
号和模糊权值。
在模糊神经网络中,神经网络的输入、输出节点 用来表示模糊系统的输入、输出信号,神经网络 的隐含节点用来表示隶属函数和模糊规则,利用 神经网络的并行处理能力使得模糊系统的推理能
力大大提高。
模糊神经网络的三种形式:
逻辑模糊神经网络
语言信息和在模糊逻辑原则下系统地利用这类语
言信息的一般化模式;
缺点:输入输出均为模糊集合,不易为绝大数工
程系统所应用。
2.2.2 高木-关野模糊系统
该系统是由日本学者Takagi和Sugeno提出的,
系统输出为精确值,也称为T-S模糊系统或
Sugeno系统。
举例:
典型的一阶Sugeno型模糊规则形式如下:
(1)模糊化接口(Fuzzification)
模糊化接口主要将检测输入变量的精确值根据其模糊度划 分和隶属度函数转换成合适的模糊值。 为了尽量减少模糊规则数,可对于检测和控制精度要求高 的变量划分多(一般5一7个)的模糊度,反之则划分少(一
般3个)的模糊度。
当完成变量的模糊度划分后,需定义变量各模糊集的隶属 函数。
无需人来设置。
将两者结合起来,在处理大规模的模糊应用问题 方面将表现出优良的效果。
3、模糊神经网络(FNN)
模糊神经网络(Fuzzy Neural Network,简称 FNN)将模糊系统和神经网络相结合,充分考虑了 二者的互补性,集逻辑推理、语言计算、非线性动
力学于一体,具有学习、联想、识别、自适应和模
(3)模糊推理机( Fuzzy Inference Engine)
根据模糊逻辑法则把模糊规则库中的模糊“ if-
then”规则转换成某种映射。
模糊推理,这是模糊控制器的核心,模拟人基于
模糊概念的推理能力。
(4)反模糊化器(Defuzzification)
把输出的模糊量转化为实际用于控制的清晰量。
算术模糊神经网络(常规模糊神经网络) 混合模糊神经网络
3.1 典型模糊神经网络的结构
由于模糊系统的规则集和隶属度函数等设计参数
只能靠设计经验来选择,所以用神经网络的学习 方法,根据输入输出的学习样本自动设计和调整 模糊系统的设计参数,实现模糊系统的自学习和 自适应功能。
结构上像神经网络,功能上是模糊系统,这是目
(2)知识库(knowledge base)
知识库中存贮着有关模糊控制器的一切知识,包
含了具体应用领域中的知识和要求的控制目标,
它们决定着模糊控制器的性能,是模糊控制器的 核心。
如专家经验等。
比如:If浑浊度 清,变化率 零,then洗涤时间 短
If浑浊度 较浊,变化率 小,then洗涤时间 标准
前研究和应用最多的一类模糊神经网络。
该网络共分5层,是根据模糊系统的工
作过程来设计的,是神经网络实现的模糊
推理系统。第二层的隶属函数参数和三、
四层间及四、五层间的连接权是可以调整
的。
典型的模糊神经网络结构
第一层为输入层,为精确值。 节点个数为输入变量的个数。
典型的模糊神经网络结构
第二层为输入变量的隶属函数层,实现输入变量 的模糊化。
断、推理和控制,完成那些现代先进设备所不能完成的
工作: 人们几乎可以同样地辨认胖子和瘦子,美丽和丑陋; 人们无须测量车速便可明智地躲过川流不息的车队; 一行草书虽然大异于整齐的印刷字体,却照样可以被
人看懂。
在科学发展的今天,尤其在工程研究设计领域, 模糊问题无法回避,要求对数据进行定量分析。
模糊概念
If x is A and y is B then z px qy r.
其中: x和y为输入语言变量;A和B为推理前件的模 糊集合;z为输出语言变量;p、q、k为常数。
2.3 自适应模糊系统
自适应模糊系统是指具有学习算法的模糊逻辑
系统,其中模糊逻辑系统是由服从模糊逻辑规则的
一系列“If-then”规则构造的;学习算法则依靠数
3.2 模糊神经网络的学习算法
模糊神经网络无论作为逼近器,还是模式存储
器,都是需要学习和优化权系数的。学习算法
是模糊神经网络优化权系数的关键。模糊神经
网络的学习算法,大多来自神经网络,如BP算 法、RBF算法等。
Matlab实现
自适应模糊神经推理系统,也称为基于神经网络的自适应
模糊推理系统(Adaptive Network-based Fuzzy
典型的模糊神经网络结构
第四层为“或”层,节点数为输出变量模糊度划分的个数q。
该层与第三层的连接为全互连,连接权值为Wkj,其中k= 1,2,…,q; j=1,2,…,m×n.(权值代表了每条规则的置信度,
训练中可调。)
典型的模糊神经网络结构
第五层为清晰化层,节点数为输出变量的个数。该层与
第四层的连接为全互连,该层将第四层各个节点的输出, 转换为输出变量的精确值。
权系数中,都具有分布存储的特点。
(3)从知识的运用方式来看
模糊系统和神经网络都具有并行处理的特点,模糊系
统同时激活的规则不多,计算量小,而神经网络涉及 的神经元很多,计算量大。 (4)从知识的获取方式来看
模糊系统的规则靠专家提供或设计,难于自动获
取.而神经网络的权系数可由输入输出样本中学习,
个样本数据。
load trainData.dat
load checkData.dat
(2)初始化模糊推理系统FIS的参数,包括选择输入的 隶属度函数,利用规则编辑器生成规则等等,作为训
练初始的FIS。
fismat= genfis1(trainData)
fismat = genfis1(data) fismat = genfis1(data,numMFs,inmftype, outmftype)
The default number of membership functions, numMFs, is 2; the default input membership function type is 'gbellmf'; and the default output membership function type is 'linear'.
Oi2 Ai ( x1 )
i 1, 2,..., m
Oi2 Bi ( x2 )
i m 1, m 2,..., m n
典型的模糊神经网络结构
第三层也称“与”层,该层节点个数为模糊规则数。 该层每个节点只与第二层中前m个节点中的一个 和后n个节点中的一个相连,共有m ×n个节点, 也就是有m ×n条规则。
O 年老,X [0, 100],
O : X [0,1]规定为:
0 0 x 50 2 1 O( x) x 50 1 50 x 100 5
随着x增加,O( x)增大
O(50) 0,
O(60) 0.8
Y (30) 0.5
Y (60) 0.02
1
0 .5 25 30 60
隶属函数是模糊理论中的重要概念,实际应用中经常 用到以下三类隶属函数: (1)S函数(偏大型隶属函数)
注:(a、b为待定参数)
(2)Z函数(偏小型隶属函数)
这种隶属函数可用于表示像年轻、冷、矮、淡等偏向 小的一方的模糊现象。
1 0 .8
O(90) 0.985
50 60
90
例2
Y 年轻, Y : X [0,1]规定为:
1 x 25 2 1 x 25 Y ( x) 1 25 x 100 5
随着x增加,Y ( x)减小
Y (25) 1,
定量分析
1、模糊理论
1965年,Zadeh教授发表论文“模糊集合”(Fuzzy set),
标志模糊数学的诞生。
模糊集合的基本思想是把经典集合中的绝对隶属关系灵活 化,即元素对“集合”的隶属度不再是局限于取0或1,而 是可以取从0到1间的任一数值。 用隶属函数(Membership Function)来刻画处于中间过渡 的事物对差异双方所具有的倾向性。 隶属度(Membership Degree)就表示元素隶属于集合的 程度。
(4)正态分布
(5)高斯分布
钟型函数
三角形隶属函数
0 xa ba trig ( x; a, b, c) c x c b 0
0 xa ba Trap( x, a, b, c, d ) 1 d x d c 0
设X是论域,映射A(x):X→[0,1]确定了一个X上的模糊子 集A,A(x)称为A的隶属函数。
x X , A( x) [0,1] 称为x属于A的隶属度
A( x) 1 x完全属于A A( x) 0 x完全不属于A 0 A( x) 1 x部分属于A
1 A( x)
A
x
X
例1
xa a xb bxc cx
xa a xb bxc cxd dx
梯形隶属函数
高斯形隶属函数
g ( x; c, )
1 x c 2 ( ) 2 e
钟型隶属函数
c代表MF的中心; 决定MF的宽度。 1 bell ( x; a, b, c) x c 2b 1 a
2.2 模糊系统的分类
按照常见的形式,模糊推理系统可分为:
纯模糊逻辑系统 高木-关野(Takagi-Sugeno)模糊逻辑系统 其他模糊逻辑系统
2.2.1 纯模糊逻辑系统
纯模糊逻辑系统仅由知识库和模糊推理机组成。
其输入输出均是模糊集合。
×
×
纯模糊逻辑系统结构图
纯模糊逻辑系统的优点:提供了一种量化专辑
调节。这使得模糊系统可以从其建模数据中学
习信息。
ANFIS建模方法
首先假定一个参数化的模型结构,然后采集
输入输出的数据,最后使用ANFIS训练FIS (fuzzy inference system)模型,根据选定的
误差准则修正隶属函数参数,仿真给定的训练数
据。
具体步骤:
(1)将选取的训练样本和评价样本分别写入两 个.dat文件。如trainData.dat和checkData,dat 作为ANFIS的数据源,在ANFIS编辑器中载入这两
据信息来调整模糊逻辑系统的参数。
自适应模糊系统被认为是通过学习能自动产生 其模糊规源自文库的模糊逻辑系统。
2.4 模糊系统与神经网络的区别与联系
(1)从知识的表达方式来看
模糊系统可以表达人的经验性知识,便于理解,而神
经网络只能描述大量数据之间的复杂函数关系,难于 理解。 (2)从知识的存储方式来看
模糊系统将知识存在规则集中,神经网络将知识存在
融合了神经网络的学习机制和模糊系统的语言推理能力等
优点,弥补各自不足。同其他模糊神经系统相比,ANFIS
具有便捷高效的特点。
ANFIS使用一个给定的输入输出数据集,从而构 造出一个模糊推理系统(支持T-S型系统),并用 一个单独的反向传播算法或该算法与最小二乘 法相结合的方法来完成对系统隶属函数参数的
2、模糊系统(Fussy System,简称FS)
许多实际的应用系统很难用准确的术语来描 述。如化学过程中的“温度很高”、“反应骤然 加快”等。
模糊系统(也称模糊逻辑系统)就是以模糊
规则为基础而具有模糊信息处理能力的动态模型。
2.1 模糊系统的构成
模糊系统(也称模糊逻辑系统)就是以模糊规则为基础 而具有模糊信息处理能力的动态模型。它由四部分构成,如 下图:
模糊神经网络
“当系统的复杂性增加时,我们使它精确化的能
力将减小。直到达到一个阈值,一旦超越它,复杂
性和精确性将互相排斥。”
——模糊数学创始人L.A.Zadeh教授
互克性原理
天气冷热
雨的大小
风的强弱
人的胖瘦
年龄大小
个子高低
客观世界的模糊性反映在人脑中,便产生了概念上 的模糊性;人巧妙地利用自已建立的模糊概念来进行判
(3)∏函数(中间型隶属函数)
这种隶属函数可用于表示像中年、适中、平均等趋于
中间的模糊现象。
图a、b、c分别表示偏大型、偏小型和中间型
常用的模糊分布有矩形分布或半矩形分别、梯形或半梯形 分布、抛物线型分布、正态分布、高斯分布、钟型函数等
等。
(1)矩形或半矩形分布
(2)梯形或半梯形分布
(3)抛物线形分布
糊信息处理能力等功能。
其本质就是将常规的神经网络输入模糊输入信
号和模糊权值。
在模糊神经网络中,神经网络的输入、输出节点 用来表示模糊系统的输入、输出信号,神经网络 的隐含节点用来表示隶属函数和模糊规则,利用 神经网络的并行处理能力使得模糊系统的推理能
力大大提高。
模糊神经网络的三种形式:
逻辑模糊神经网络
语言信息和在模糊逻辑原则下系统地利用这类语
言信息的一般化模式;
缺点:输入输出均为模糊集合,不易为绝大数工
程系统所应用。
2.2.2 高木-关野模糊系统
该系统是由日本学者Takagi和Sugeno提出的,
系统输出为精确值,也称为T-S模糊系统或
Sugeno系统。
举例:
典型的一阶Sugeno型模糊规则形式如下:
(1)模糊化接口(Fuzzification)
模糊化接口主要将检测输入变量的精确值根据其模糊度划 分和隶属度函数转换成合适的模糊值。 为了尽量减少模糊规则数,可对于检测和控制精度要求高 的变量划分多(一般5一7个)的模糊度,反之则划分少(一
般3个)的模糊度。
当完成变量的模糊度划分后,需定义变量各模糊集的隶属 函数。
无需人来设置。
将两者结合起来,在处理大规模的模糊应用问题 方面将表现出优良的效果。
3、模糊神经网络(FNN)
模糊神经网络(Fuzzy Neural Network,简称 FNN)将模糊系统和神经网络相结合,充分考虑了 二者的互补性,集逻辑推理、语言计算、非线性动
力学于一体,具有学习、联想、识别、自适应和模
(3)模糊推理机( Fuzzy Inference Engine)
根据模糊逻辑法则把模糊规则库中的模糊“ if-
then”规则转换成某种映射。
模糊推理,这是模糊控制器的核心,模拟人基于
模糊概念的推理能力。
(4)反模糊化器(Defuzzification)
把输出的模糊量转化为实际用于控制的清晰量。
算术模糊神经网络(常规模糊神经网络) 混合模糊神经网络
3.1 典型模糊神经网络的结构
由于模糊系统的规则集和隶属度函数等设计参数
只能靠设计经验来选择,所以用神经网络的学习 方法,根据输入输出的学习样本自动设计和调整 模糊系统的设计参数,实现模糊系统的自学习和 自适应功能。
结构上像神经网络,功能上是模糊系统,这是目
(2)知识库(knowledge base)
知识库中存贮着有关模糊控制器的一切知识,包
含了具体应用领域中的知识和要求的控制目标,
它们决定着模糊控制器的性能,是模糊控制器的 核心。
如专家经验等。
比如:If浑浊度 清,变化率 零,then洗涤时间 短
If浑浊度 较浊,变化率 小,then洗涤时间 标准
前研究和应用最多的一类模糊神经网络。
该网络共分5层,是根据模糊系统的工
作过程来设计的,是神经网络实现的模糊
推理系统。第二层的隶属函数参数和三、
四层间及四、五层间的连接权是可以调整
的。
典型的模糊神经网络结构
第一层为输入层,为精确值。 节点个数为输入变量的个数。
典型的模糊神经网络结构
第二层为输入变量的隶属函数层,实现输入变量 的模糊化。
断、推理和控制,完成那些现代先进设备所不能完成的
工作: 人们几乎可以同样地辨认胖子和瘦子,美丽和丑陋; 人们无须测量车速便可明智地躲过川流不息的车队; 一行草书虽然大异于整齐的印刷字体,却照样可以被
人看懂。
在科学发展的今天,尤其在工程研究设计领域, 模糊问题无法回避,要求对数据进行定量分析。
模糊概念
If x is A and y is B then z px qy r.
其中: x和y为输入语言变量;A和B为推理前件的模 糊集合;z为输出语言变量;p、q、k为常数。
2.3 自适应模糊系统
自适应模糊系统是指具有学习算法的模糊逻辑
系统,其中模糊逻辑系统是由服从模糊逻辑规则的
一系列“If-then”规则构造的;学习算法则依靠数
3.2 模糊神经网络的学习算法
模糊神经网络无论作为逼近器,还是模式存储
器,都是需要学习和优化权系数的。学习算法
是模糊神经网络优化权系数的关键。模糊神经
网络的学习算法,大多来自神经网络,如BP算 法、RBF算法等。
Matlab实现
自适应模糊神经推理系统,也称为基于神经网络的自适应
模糊推理系统(Adaptive Network-based Fuzzy
典型的模糊神经网络结构
第四层为“或”层,节点数为输出变量模糊度划分的个数q。
该层与第三层的连接为全互连,连接权值为Wkj,其中k= 1,2,…,q; j=1,2,…,m×n.(权值代表了每条规则的置信度,
训练中可调。)
典型的模糊神经网络结构
第五层为清晰化层,节点数为输出变量的个数。该层与
第四层的连接为全互连,该层将第四层各个节点的输出, 转换为输出变量的精确值。
权系数中,都具有分布存储的特点。
(3)从知识的运用方式来看
模糊系统和神经网络都具有并行处理的特点,模糊系
统同时激活的规则不多,计算量小,而神经网络涉及 的神经元很多,计算量大。 (4)从知识的获取方式来看
模糊系统的规则靠专家提供或设计,难于自动获
取.而神经网络的权系数可由输入输出样本中学习,
个样本数据。
load trainData.dat
load checkData.dat
(2)初始化模糊推理系统FIS的参数,包括选择输入的 隶属度函数,利用规则编辑器生成规则等等,作为训
练初始的FIS。
fismat= genfis1(trainData)
fismat = genfis1(data) fismat = genfis1(data,numMFs,inmftype, outmftype)
The default number of membership functions, numMFs, is 2; the default input membership function type is 'gbellmf'; and the default output membership function type is 'linear'.
Oi2 Ai ( x1 )
i 1, 2,..., m
Oi2 Bi ( x2 )
i m 1, m 2,..., m n
典型的模糊神经网络结构
第三层也称“与”层,该层节点个数为模糊规则数。 该层每个节点只与第二层中前m个节点中的一个 和后n个节点中的一个相连,共有m ×n个节点, 也就是有m ×n条规则。
O 年老,X [0, 100],
O : X [0,1]规定为:
0 0 x 50 2 1 O( x) x 50 1 50 x 100 5
随着x增加,O( x)增大
O(50) 0,
O(60) 0.8
Y (30) 0.5
Y (60) 0.02
1
0 .5 25 30 60
隶属函数是模糊理论中的重要概念,实际应用中经常 用到以下三类隶属函数: (1)S函数(偏大型隶属函数)
注:(a、b为待定参数)
(2)Z函数(偏小型隶属函数)
这种隶属函数可用于表示像年轻、冷、矮、淡等偏向 小的一方的模糊现象。
1 0 .8
O(90) 0.985
50 60
90
例2
Y 年轻, Y : X [0,1]规定为:
1 x 25 2 1 x 25 Y ( x) 1 25 x 100 5
随着x增加,Y ( x)减小
Y (25) 1,
定量分析
1、模糊理论
1965年,Zadeh教授发表论文“模糊集合”(Fuzzy set),
标志模糊数学的诞生。
模糊集合的基本思想是把经典集合中的绝对隶属关系灵活 化,即元素对“集合”的隶属度不再是局限于取0或1,而 是可以取从0到1间的任一数值。 用隶属函数(Membership Function)来刻画处于中间过渡 的事物对差异双方所具有的倾向性。 隶属度(Membership Degree)就表示元素隶属于集合的 程度。
(4)正态分布
(5)高斯分布
钟型函数
三角形隶属函数
0 xa ba trig ( x; a, b, c) c x c b 0
0 xa ba Trap( x, a, b, c, d ) 1 d x d c 0
设X是论域,映射A(x):X→[0,1]确定了一个X上的模糊子 集A,A(x)称为A的隶属函数。
x X , A( x) [0,1] 称为x属于A的隶属度
A( x) 1 x完全属于A A( x) 0 x完全不属于A 0 A( x) 1 x部分属于A
1 A( x)
A
x
X
例1
xa a xb bxc cx
xa a xb bxc cxd dx
梯形隶属函数
高斯形隶属函数
g ( x; c, )
1 x c 2 ( ) 2 e
钟型隶属函数
c代表MF的中心; 决定MF的宽度。 1 bell ( x; a, b, c) x c 2b 1 a
2.2 模糊系统的分类
按照常见的形式,模糊推理系统可分为:
纯模糊逻辑系统 高木-关野(Takagi-Sugeno)模糊逻辑系统 其他模糊逻辑系统
2.2.1 纯模糊逻辑系统
纯模糊逻辑系统仅由知识库和模糊推理机组成。
其输入输出均是模糊集合。
×
×
纯模糊逻辑系统结构图
纯模糊逻辑系统的优点:提供了一种量化专辑
调节。这使得模糊系统可以从其建模数据中学
习信息。
ANFIS建模方法
首先假定一个参数化的模型结构,然后采集
输入输出的数据,最后使用ANFIS训练FIS (fuzzy inference system)模型,根据选定的
误差准则修正隶属函数参数,仿真给定的训练数
据。
具体步骤:
(1)将选取的训练样本和评价样本分别写入两 个.dat文件。如trainData.dat和checkData,dat 作为ANFIS的数据源,在ANFIS编辑器中载入这两
据信息来调整模糊逻辑系统的参数。
自适应模糊系统被认为是通过学习能自动产生 其模糊规源自文库的模糊逻辑系统。
2.4 模糊系统与神经网络的区别与联系
(1)从知识的表达方式来看
模糊系统可以表达人的经验性知识,便于理解,而神
经网络只能描述大量数据之间的复杂函数关系,难于 理解。 (2)从知识的存储方式来看
模糊系统将知识存在规则集中,神经网络将知识存在