模糊联想记忆
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
1.模糊集类似超立方体 I n [0,1]n中的点。 2.立方体中点之间存在距离,利用距离可以测度 模糊集的大小和模糊集之间的包含度。 3.立方体在空间中存在某种关系,因此两个立方 体中的点存在某种对应关系,这也就是一种映 射。 4.利用映射关系,可以对模糊集进行推理。
4
模糊系统与超立方体
5.模糊集就是立方体中定义点构成的集合 I n 6.模糊系统就是模糊集 到模糊集 I P 之间的一种映 射:S: I n -> I P 7.模糊系统也可以将一系列模糊集映射成一系列模 糊集。
什么情况下等,什么情况下反过来也成立,这就是下面 要给出的能够双向联想的理论。
19
最小相关编码的双向FAM定理
1.介绍两个指标:模糊集A的高度H和正规性。 H(A)=max ai 如H(A)=1,则称模糊集A是正规的,此时可以对模 糊集A进行扩展,利用这个指标,就能够判定双 向联想的准确度。 如果 M AT B ,则有
14
模糊向量矩阵乘-最大最小
输入向量A通过模糊系统,得到向量B,相当于:
A M B
(1)模糊矩阵M是n x p维,bj分量就是联想记忆 成份,bj=maxmin(ai,mij). (2)乘法规则:行向量A与M内积,取ai与mij的 最小值,最该列的最大值。 例如:A (0.3,0.4,0.8,1)
0.2,0.8,0.7 0.7,0.6,0.6 M 0.8,0.1,0.5 0,0.2,0.3
15
B (0.8,0.4,0.5)
由上可知,通过矩阵M,输入向量A,就能通过这 种法则联想出B,但是M未知,需要求出M,可以 采用外积的方法。 在HEBB FAM中,给出了两种求M的方法: (1)相关最小 (2)相关积
9
不同点:主要区别在使用输入数据如何估计函数上。 (1)输入数据类型不同 (2)输入数据的表示和存储不同 (3)输入输出的映射不同 (4)神经方法需要一个动力系统 模糊系统只需要一个语言描述的规则矩阵 (5)神经系统利用数值点Xi,Yi进行估计,而 模糊系统利用模糊集合(Ai,Bi)进行估计。
10
17
例如:A (0.3,0.4,0.8,1)
B (0.8,0.4,0.5)
0.3 0.3,0.3,0.3 0 . 4 0 . 4 , 0 . 4 , 0 . 4 M AT B ( 0 . 8 , 0 . 4 , 0 . 5 ) 0.8,0.4,0.5 0.8 1 0.8,0.4,0.5
6
模糊函数估计与神经函数估计
1.模糊系统与神经系统都是对输入样本进行学习, 得到输出数据,实际就是寻找输入与输出的函 数关系,因此它们都是函数估计器。 2.两者之间的异同点,首先看下面的示意图。
7
f
x X
i
yi
Y
神经系统
f
A2 A1
B2
B1 Ai Bi
X
模糊系统
Y
8
相同点: (1)都是无模型的 (2)都可以从样本或实例中学习 (3)都使用数值运算 (4)都定义了输入输出积空间X x Y
可以看出: (1)每列的元素是每个bj相对与A的最小值,每行 是每个ai相对与B的最小值 (2)如果A中的某个元素必B中的所有元素都大, 则M矩阵中的该行就是B行向量 反过来,如果B中的某个元素比A中的所有圆元 素都大,则M矩阵中的该列就是整个A向量的 转置。这就是后面要提出的向量的高度H(A).
18
2
B
解模糊
yj
由上图可知,要确定一个FAM系统,需要确定 映射规则(Ai,Bi),这就是模糊矩阵M的求法。 还需要求加权系数,这就是自适应FAM的内容, 还需要一个去模糊的过程。
13
FAM与映射
1.FAM系统由多个不同的FAM关联构成,每一个 关联就对应一个数值的FAM矩阵,这些矩阵分 别存储,并行访问。 A1----(M1)--B1 …… An----(Mn)--Bn 2.简单的FAM就是单向联想的FAM,首先将模糊 集(A,B)分别编码成n个和p个变量 X={x1,..xn},Y={y1,..,yp},再将xi和yj通过隶属 度函数映射到【0,1】中的某个值,就表示了 xi属于集合A的隶属度。这样模糊集就通过隶 属度向量进行表示。
FAM系统结构
输入集
I
n
Fuzzy System
I
p 输出集
Fuzzy Set
模糊系统示意图
11
( A1 , B1 )
FAM Rule 1 FAM Rule 2
B1 1
A
( Am , Bm )
FAM Rule m
m
Bm
FAM 系统
FAM系统示意图
12
( A2 , B2 )
பைடு நூலகம்2
神 经 网 络 和 模 糊 系 统
第八章
模 糊 联 想 记 忆
罗军辉
二零零三年十二月
1
主要内容
一、模糊系统和模糊联想记忆 二、模糊联想记忆与神经元联想记忆的区别和联系 三、模糊Hebb FAMs 四、联想输出和“去模糊” 五、自适应FAM系统 六、举例:倒立摆
2
FAM的引出
3
模糊系统与超立方体
16
模糊HEB联想记忆系统FAMS
1.Heb FAMS就是前面介绍的无监督学习:
mij mij S i ( xi ) S j ( y j )
.
2.对于给定的行向量组(X,Y)
M X T Y
3.在Heb系统中,对ai和bj进行最小相关编码得到 M.
M AT B min( ai, bj )
定义一个操作符^(取最小): ai ^ B (ai ^ b1, ai ^ b2,..., ai ^ bn)
a1 B b AT M 1 an B
bm AT
通过以上构造出的M矩阵,可以进行验证,有:
AM A( AT B) B 但是反过来, BM T 不一定等于A, A’ A
5
FAM
多个模糊系统就像一个联想记忆系统,将近似 的输入映射成近似的输出,这就是模糊联想记 忆FAM。 1.简单的FAM就是将n维的模糊集Ai与p维的模糊 集Bi关联起来( Ai, Bi),不能训练。 2.一般的FAM系统能同时并行的将M个规则进行 编码和处理,一个输入A能同时激活所有M个 规则,只是激活强度不同。输出模糊集B就是这 各个激活的线性组合。
4
模糊系统与超立方体
5.模糊集就是立方体中定义点构成的集合 I n 6.模糊系统就是模糊集 到模糊集 I P 之间的一种映 射:S: I n -> I P 7.模糊系统也可以将一系列模糊集映射成一系列模 糊集。
什么情况下等,什么情况下反过来也成立,这就是下面 要给出的能够双向联想的理论。
19
最小相关编码的双向FAM定理
1.介绍两个指标:模糊集A的高度H和正规性。 H(A)=max ai 如H(A)=1,则称模糊集A是正规的,此时可以对模 糊集A进行扩展,利用这个指标,就能够判定双 向联想的准确度。 如果 M AT B ,则有
14
模糊向量矩阵乘-最大最小
输入向量A通过模糊系统,得到向量B,相当于:
A M B
(1)模糊矩阵M是n x p维,bj分量就是联想记忆 成份,bj=maxmin(ai,mij). (2)乘法规则:行向量A与M内积,取ai与mij的 最小值,最该列的最大值。 例如:A (0.3,0.4,0.8,1)
0.2,0.8,0.7 0.7,0.6,0.6 M 0.8,0.1,0.5 0,0.2,0.3
15
B (0.8,0.4,0.5)
由上可知,通过矩阵M,输入向量A,就能通过这 种法则联想出B,但是M未知,需要求出M,可以 采用外积的方法。 在HEBB FAM中,给出了两种求M的方法: (1)相关最小 (2)相关积
9
不同点:主要区别在使用输入数据如何估计函数上。 (1)输入数据类型不同 (2)输入数据的表示和存储不同 (3)输入输出的映射不同 (4)神经方法需要一个动力系统 模糊系统只需要一个语言描述的规则矩阵 (5)神经系统利用数值点Xi,Yi进行估计,而 模糊系统利用模糊集合(Ai,Bi)进行估计。
10
17
例如:A (0.3,0.4,0.8,1)
B (0.8,0.4,0.5)
0.3 0.3,0.3,0.3 0 . 4 0 . 4 , 0 . 4 , 0 . 4 M AT B ( 0 . 8 , 0 . 4 , 0 . 5 ) 0.8,0.4,0.5 0.8 1 0.8,0.4,0.5
6
模糊函数估计与神经函数估计
1.模糊系统与神经系统都是对输入样本进行学习, 得到输出数据,实际就是寻找输入与输出的函 数关系,因此它们都是函数估计器。 2.两者之间的异同点,首先看下面的示意图。
7
f
x X
i
yi
Y
神经系统
f
A2 A1
B2
B1 Ai Bi
X
模糊系统
Y
8
相同点: (1)都是无模型的 (2)都可以从样本或实例中学习 (3)都使用数值运算 (4)都定义了输入输出积空间X x Y
可以看出: (1)每列的元素是每个bj相对与A的最小值,每行 是每个ai相对与B的最小值 (2)如果A中的某个元素必B中的所有元素都大, 则M矩阵中的该行就是B行向量 反过来,如果B中的某个元素比A中的所有圆元 素都大,则M矩阵中的该列就是整个A向量的 转置。这就是后面要提出的向量的高度H(A).
18
2
B
解模糊
yj
由上图可知,要确定一个FAM系统,需要确定 映射规则(Ai,Bi),这就是模糊矩阵M的求法。 还需要求加权系数,这就是自适应FAM的内容, 还需要一个去模糊的过程。
13
FAM与映射
1.FAM系统由多个不同的FAM关联构成,每一个 关联就对应一个数值的FAM矩阵,这些矩阵分 别存储,并行访问。 A1----(M1)--B1 …… An----(Mn)--Bn 2.简单的FAM就是单向联想的FAM,首先将模糊 集(A,B)分别编码成n个和p个变量 X={x1,..xn},Y={y1,..,yp},再将xi和yj通过隶属 度函数映射到【0,1】中的某个值,就表示了 xi属于集合A的隶属度。这样模糊集就通过隶 属度向量进行表示。
FAM系统结构
输入集
I
n
Fuzzy System
I
p 输出集
Fuzzy Set
模糊系统示意图
11
( A1 , B1 )
FAM Rule 1 FAM Rule 2
B1 1
A
( Am , Bm )
FAM Rule m
m
Bm
FAM 系统
FAM系统示意图
12
( A2 , B2 )
பைடு நூலகம்2
神 经 网 络 和 模 糊 系 统
第八章
模 糊 联 想 记 忆
罗军辉
二零零三年十二月
1
主要内容
一、模糊系统和模糊联想记忆 二、模糊联想记忆与神经元联想记忆的区别和联系 三、模糊Hebb FAMs 四、联想输出和“去模糊” 五、自适应FAM系统 六、举例:倒立摆
2
FAM的引出
3
模糊系统与超立方体
16
模糊HEB联想记忆系统FAMS
1.Heb FAMS就是前面介绍的无监督学习:
mij mij S i ( xi ) S j ( y j )
.
2.对于给定的行向量组(X,Y)
M X T Y
3.在Heb系统中,对ai和bj进行最小相关编码得到 M.
M AT B min( ai, bj )
定义一个操作符^(取最小): ai ^ B (ai ^ b1, ai ^ b2,..., ai ^ bn)
a1 B b AT M 1 an B
bm AT
通过以上构造出的M矩阵,可以进行验证,有:
AM A( AT B) B 但是反过来, BM T 不一定等于A, A’ A
5
FAM
多个模糊系统就像一个联想记忆系统,将近似 的输入映射成近似的输出,这就是模糊联想记 忆FAM。 1.简单的FAM就是将n维的模糊集Ai与p维的模糊 集Bi关联起来( Ai, Bi),不能训练。 2.一般的FAM系统能同时并行的将M个规则进行 编码和处理,一个输入A能同时激活所有M个 规则,只是激活强度不同。输出模糊集B就是这 各个激活的线性组合。