模糊神经网络
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
1.样本数据的标准化: 样本数据的标准化只对样本指标数据进行预处理,使其特征 值映射到[0,1]区间上。 设有f个样本 ,每个样本 具有n个样本指标
表示第 i个样本的第 j个指标, f个样本的 n个指
标可用下表表示。
三.分类系统的设计与实现
f个样本第j个指标的平均值及标准差分别为:
均值:
标准差:
原始数据标准化为:
R' : IFx1ISA1 j ANDx2 ISA2k ANDx3ISA3lTHENyISfi
i A1 j ( x1 ) A2k ( x2 ) A3k ( x3 )
i i
其中A1 j , A2k , A3l 为模糊变量
k 1
p
A1 j ( x1 ), A2k ( x2 ), A3l ( x3 )为隶属函数
三.分类系统的设计与实现
训练集输出散点图
测试集输出散点图
测试集中第3、16、23个 样本的输出与BP神经网络分 类不同,其他值均完全符合
三.分类系统的设计与实现
经过反向误差传播算法优化后的FIS系统三个输入变量的隶属 函数如下图所示:
三.分类系统的设计与实现
3.建立模糊规则 模糊规则如图所示,其中所有规则的权重值均为1。
j = 1 ,2 , ,m;m= mi
i 1
n
i1 { 1 ,2 , , m1} i 2 { 1 ,2 , , m2} i3 { 1 ,2 , , m3}
该层的结点总数 N3 = m,对于给定的输入 ,只有在输入点附近的 语言变量值才有较大的隶属度值,远离输入点的语言变量值的隶属度 或者很小或者为0。当隶属度很小(例如小于0. 05) 时近似取为0。
k
y* i fi
二.模糊神经网络算法的原理
2.模糊神经网络的结构与学习算法
利用ANFIS构造的模糊神经网络结构如下图所示
二.模糊神经网络算法的原理
该网络由前件网络和后件网络两部分组成,前件网络由前四层构 成,用来匹配模糊规则的前件,后件网络简化为最后一层,用来产生模 糊规则的后件,网络共5层: 第1层为网络的模式输入层,输入节点是线性的,由3个神经元组 T 成,将网络的的输入信号x [ x1, x2 , x3 ] 传送到下一层中; 第2层为网络的隐层,计算各输入分量属于语言变量值的模糊集合 j j 的隶属函数 i ,其中 i A ( xi )(i 1, 2,..., n; j 1, 2,..., mi ) n是输入量维数3,mi 为输入量的模糊分割数5; 隶属函数为: 2
二.模糊神经网络算法的原理
第4层的节点数与第3层相同,即N4=N3=m,它所实现的是 归一化计算,即
i / i ( j 1, 2 , m)
i 1
m
第5层是后件网络,用于计算每一条规则的后件,即:
v j p j 0 p j1 x1 p jn xn p jk xk
三.分类系统的设计与实现
经过训练优化后的曲面观测图如图所示。
三.分类系统的设计与实现
分类结果
四.总结
ANFIS的局限性
一阶或零阶Sugeno型系统 单输出,使用加权平均反模糊化法得到(线性或恒值输出 隶属度函数) 每条规则的权值为1 不能生成自己的隶属度函数和反模糊化函数
如果建模的FIS结构不遵守这些约束将产生错误
i j
i exp
j
( xi cij )
ij
2
式中: cij 和 ij分别表示隶属函数的中心和宽度。
二.模糊神经网络算法的原理
第3层的每一个节点代表一条模糊规则,用来匹配模糊规则的 前件,计算出每条规则的适用度。即:
a j min ij1 , ij2 , ij3
一.引言
神经网络技术的出现 特点:强大的自学习能力 解决问题: ⑴模糊规则的自动处理 ⑵模糊变量基本状态隶属度函数的自动生成 设计思想: 采用模糊神经网络离线的从学习样本数据中自动提 取参数优化后的模糊参考模型,实现模糊推理系统 合理、正确的建模。
二.模糊神经网络算法的原理
1.Takagi- Sugeno 模型 Takagi-Sugeno 型模糊推理将去模糊化也结合到模糊推理中,其输 出为精确量,一阶Takagi- Sugeno 型模糊规则表达及计算公式如下:
2.利用ANFIS编辑器GUI建模过程 在 Matlab 命令行键入 anfisedit 即可进入 ANFIS 编辑器的 GUI 图 形编辑环境。
三.分类系统的设计与实现
选中Grid partition点击G enerate FIS出现生成一个 生成基于Sugeno 模型的FI S的界面:
三.分类系统的设计与实现
运用极值标准化值公式,将标准化数据压缩到[0,1]内,即:
式中
和
分别表示
中最小值和最大值;
三.分类系统的设计与实现
为标准化后的指标,下表为标准化后样本:
三.分类系统的设计与实现
标准化后的优点:
图(1)未经过标准化后的样本数据训练 误差收敛曲线
图(2) 经过标准化后的样本数据训练 误差收敛曲线
三.分类系统的设计与实现
模糊神经网络
主 单讲:周润景 教授 位来自电子信息工程学院目 录
引言 模糊神经网络算法的原理 分类器的设计与实现 总结
一.引言
模糊技术与神经网络技术的有机融合,构造出一种可 “自动”处理模糊信息的神经网络——模糊神经网络 模糊信息处理技术的两大难题: 模糊规则的自动处理 模糊变量基本状态隶属度函数的自动生成 过去的解决方法: 靠开发者的智慧和经验建立一套实用的规则及隶属 函数 缺点: 工作时间长,需反复试探调整参数
和
和
,
再利用梯度寻优算法来调节
,可得所求一阶梯度为:
二.模糊神经网络算法的原理
• 最后可给出参数调整的学习算法为:
为学习效率。
二.模糊神经网络算法的原理
• 在设计中使用 BP 神经网络训练系统,其学习的主要参数为
第2层各节点隶属函数的转折点,并依据输出误差优化隶属 度函数。
三.分类系统的设计与实现
假设各输入分量的模糊分割数是预先确定的,那么需要学习的参 数主要是后件网络的连接权
以及前件网络第二层各结点隶属函数的中心值
和宽度:
二.模糊神经网络算法的原理
设误差代价函数为:
式中: 和 分别表示期望输出和实际输出。 的学习算法:
下面首先给出参数
为学习效率。
二.模糊神经网络算法的原理
• 这时可将参数 固定,利用误差反传算法来计算
生成一个FIS
点击Structure可以观察模 糊神经网络的结构
三.分类系统的设计与实现
选择Optim.Method为backpropa;Error Tolerance为0.001; Epochs为1300,进行训练,即可通过神经网络对生成的FIS进 行训练。逼近均方根误差曲线图为如图所示,当训练次数为6 90时,误差降到约为0.0001。
式中:j = 1 ,2 , , m
k 0
n
二.模糊神经网络算法的原理
每条规则的后件在简化结构中变成了最后一层的连接权,系 统的输出为:
v v j
j 1
m
可见 v 是各规则后件的加权和 , 加权系数为各模糊规则归 一化的适用度, 也即前件网络的输出用作后件网络的连接权值。
二.模糊神经网络算法的原理
表示第 i个样本的第 j个指标, f个样本的 n个指
标可用下表表示。
三.分类系统的设计与实现
f个样本第j个指标的平均值及标准差分别为:
均值:
标准差:
原始数据标准化为:
R' : IFx1ISA1 j ANDx2 ISA2k ANDx3ISA3lTHENyISfi
i A1 j ( x1 ) A2k ( x2 ) A3k ( x3 )
i i
其中A1 j , A2k , A3l 为模糊变量
k 1
p
A1 j ( x1 ), A2k ( x2 ), A3l ( x3 )为隶属函数
三.分类系统的设计与实现
训练集输出散点图
测试集输出散点图
测试集中第3、16、23个 样本的输出与BP神经网络分 类不同,其他值均完全符合
三.分类系统的设计与实现
经过反向误差传播算法优化后的FIS系统三个输入变量的隶属 函数如下图所示:
三.分类系统的设计与实现
3.建立模糊规则 模糊规则如图所示,其中所有规则的权重值均为1。
j = 1 ,2 , ,m;m= mi
i 1
n
i1 { 1 ,2 , , m1} i 2 { 1 ,2 , , m2} i3 { 1 ,2 , , m3}
该层的结点总数 N3 = m,对于给定的输入 ,只有在输入点附近的 语言变量值才有较大的隶属度值,远离输入点的语言变量值的隶属度 或者很小或者为0。当隶属度很小(例如小于0. 05) 时近似取为0。
k
y* i fi
二.模糊神经网络算法的原理
2.模糊神经网络的结构与学习算法
利用ANFIS构造的模糊神经网络结构如下图所示
二.模糊神经网络算法的原理
该网络由前件网络和后件网络两部分组成,前件网络由前四层构 成,用来匹配模糊规则的前件,后件网络简化为最后一层,用来产生模 糊规则的后件,网络共5层: 第1层为网络的模式输入层,输入节点是线性的,由3个神经元组 T 成,将网络的的输入信号x [ x1, x2 , x3 ] 传送到下一层中; 第2层为网络的隐层,计算各输入分量属于语言变量值的模糊集合 j j 的隶属函数 i ,其中 i A ( xi )(i 1, 2,..., n; j 1, 2,..., mi ) n是输入量维数3,mi 为输入量的模糊分割数5; 隶属函数为: 2
二.模糊神经网络算法的原理
第4层的节点数与第3层相同,即N4=N3=m,它所实现的是 归一化计算,即
i / i ( j 1, 2 , m)
i 1
m
第5层是后件网络,用于计算每一条规则的后件,即:
v j p j 0 p j1 x1 p jn xn p jk xk
三.分类系统的设计与实现
经过训练优化后的曲面观测图如图所示。
三.分类系统的设计与实现
分类结果
四.总结
ANFIS的局限性
一阶或零阶Sugeno型系统 单输出,使用加权平均反模糊化法得到(线性或恒值输出 隶属度函数) 每条规则的权值为1 不能生成自己的隶属度函数和反模糊化函数
如果建模的FIS结构不遵守这些约束将产生错误
i j
i exp
j
( xi cij )
ij
2
式中: cij 和 ij分别表示隶属函数的中心和宽度。
二.模糊神经网络算法的原理
第3层的每一个节点代表一条模糊规则,用来匹配模糊规则的 前件,计算出每条规则的适用度。即:
a j min ij1 , ij2 , ij3
一.引言
神经网络技术的出现 特点:强大的自学习能力 解决问题: ⑴模糊规则的自动处理 ⑵模糊变量基本状态隶属度函数的自动生成 设计思想: 采用模糊神经网络离线的从学习样本数据中自动提 取参数优化后的模糊参考模型,实现模糊推理系统 合理、正确的建模。
二.模糊神经网络算法的原理
1.Takagi- Sugeno 模型 Takagi-Sugeno 型模糊推理将去模糊化也结合到模糊推理中,其输 出为精确量,一阶Takagi- Sugeno 型模糊规则表达及计算公式如下:
2.利用ANFIS编辑器GUI建模过程 在 Matlab 命令行键入 anfisedit 即可进入 ANFIS 编辑器的 GUI 图 形编辑环境。
三.分类系统的设计与实现
选中Grid partition点击G enerate FIS出现生成一个 生成基于Sugeno 模型的FI S的界面:
三.分类系统的设计与实现
运用极值标准化值公式,将标准化数据压缩到[0,1]内,即:
式中
和
分别表示
中最小值和最大值;
三.分类系统的设计与实现
为标准化后的指标,下表为标准化后样本:
三.分类系统的设计与实现
标准化后的优点:
图(1)未经过标准化后的样本数据训练 误差收敛曲线
图(2) 经过标准化后的样本数据训练 误差收敛曲线
三.分类系统的设计与实现
模糊神经网络
主 单讲:周润景 教授 位来自电子信息工程学院目 录
引言 模糊神经网络算法的原理 分类器的设计与实现 总结
一.引言
模糊技术与神经网络技术的有机融合,构造出一种可 “自动”处理模糊信息的神经网络——模糊神经网络 模糊信息处理技术的两大难题: 模糊规则的自动处理 模糊变量基本状态隶属度函数的自动生成 过去的解决方法: 靠开发者的智慧和经验建立一套实用的规则及隶属 函数 缺点: 工作时间长,需反复试探调整参数
和
和
,
再利用梯度寻优算法来调节
,可得所求一阶梯度为:
二.模糊神经网络算法的原理
• 最后可给出参数调整的学习算法为:
为学习效率。
二.模糊神经网络算法的原理
• 在设计中使用 BP 神经网络训练系统,其学习的主要参数为
第2层各节点隶属函数的转折点,并依据输出误差优化隶属 度函数。
三.分类系统的设计与实现
假设各输入分量的模糊分割数是预先确定的,那么需要学习的参 数主要是后件网络的连接权
以及前件网络第二层各结点隶属函数的中心值
和宽度:
二.模糊神经网络算法的原理
设误差代价函数为:
式中: 和 分别表示期望输出和实际输出。 的学习算法:
下面首先给出参数
为学习效率。
二.模糊神经网络算法的原理
• 这时可将参数 固定,利用误差反传算法来计算
生成一个FIS
点击Structure可以观察模 糊神经网络的结构
三.分类系统的设计与实现
选择Optim.Method为backpropa;Error Tolerance为0.001; Epochs为1300,进行训练,即可通过神经网络对生成的FIS进 行训练。逼近均方根误差曲线图为如图所示,当训练次数为6 90时,误差降到约为0.0001。
式中:j = 1 ,2 , , m
k 0
n
二.模糊神经网络算法的原理
每条规则的后件在简化结构中变成了最后一层的连接权,系 统的输出为:
v v j
j 1
m
可见 v 是各规则后件的加权和 , 加权系数为各模糊规则归 一化的适用度, 也即前件网络的输出用作后件网络的连接权值。
二.模糊神经网络算法的原理