小脑模型神经网络

03
仿真实例
量化等级：40 训练样本个数：10
学习率：1
03
仿真实例
03
仿真实例
03
仿真实例
03
仿真实例
03
仿真实例
03
仿真实例
04
总结
• 网络非线性：CMAC的每个神经元的输入输出是一种线性关系，但其总体上可
看做一种表达非线性映射的表格系统。 • 学习速度快：每次修正的权值少，在保证函数非线性逼近性能的前提下，学习
(k决定了压缩率)
02
CMAC网络的结构模型与工作原理
实际映射 Ac→Ap
这个过程最简单的实现方法就是线性 一一映射。
输出：
yp
w j s j([u P ]) RTp w p j
1
c
T 其中 W p [w 1,w 2 , ,w j ,w c ]
百度文库
sj([up ]) 1,j 1,2,
• 第一次映射：U->Ac • 第二次映射：Ac->Ap
02
CMAC网络的结构模型与工作原理
从输入空间U至虚拟存储器AC的映射
n维输入向量：
T u p [u1p ,u2p , ,unp ]
量化（离散化）：[u p ] 映射至AC的c个存储单元：
s j ([u p ]) 1
,
j 1,2,c
02
CMAC网络的结构模型与工作原理
输入空间 U由所有可能的输入向量 Ui 组 成 , 虚拟联想空间Ac是一个虚拟的空间，不占 用物理存储，CMAC网络将其接受到的任何输 入 , 映射到联想存储器 Ac中的 c个单元。物理 存储空间Ap中存储着网络的权值参数，Ac中的 c个单元在物理存储空间Ap中找到对应的权值 参数，做求和得到最终的网络输出。 重点：两个映射
02
CMAC网络的结构模型与工作原理
量化 一般来说，实际应用时输入向量的各分量来
自不同的传感器，其值多为模拟量，而Ac中每个
元素只取0或1两种值。为使输入空间的点映射到 虚拟联想空间Ac的离散点，必须先将模拟量U量 化，使其成为输入空间的离散点。
02
CMAC网络的结构模型与工作原理
哈希映射 哈希映射是压缩稀疏矩阵的一个常用技术。 当在一个大的存储区域稀疏地存储一些数据时， 可以通过哈希映射将其压缩到小的存储位置 例： 除留余数法： y＝f (x)＝x％k
速度快，适合于实时控制；
• 局部泛化能力：相近输入产生相近输出，不同输入给出不同输出，避免了BP网 络的局部最优问题；
谢谢
(d p(t ) y p(t ))
w j(t ) 误差平均分配：
c

e(t ) c
w j(t) w j(t - 1) w j(t )
02
CMAC网络的结构模型与工作原理
权值调整
经过数次迭代后，最初的存储单元已经包含了一 些先前学习的知识。每一个存储单元学习的历史 不同，所以这些存储单元也不应有相同的可信度。 无视这些差异，所有被激活的存储单元都获得相 同的校正误差，那么那些由未学习状态产生的误 差将对先前学习的信息产生“腐蚀”。 基于信度分配的CMAC（CA-CMAC）神经网络
03
仿真实例
用CMAC逼近sin函数
采用一维输入一维输出结构的CMAC逼近sin
采用c=6，邻近两点重叠单元b=5 采用线性化函数实现U->Ac的虚拟映射 s(k)=round((u(k)-xmin) /(xmax-xmin) *M) 采用一一映射的方式实现Ac->Ap的实际映射 输入训练样本：train_in=0:36:324共10个样本
c
c
R p S ([u p ]) [ s1 ([u p ]), s2 ([u p ]),, sc ([u p ])]T
y wj 代入 sj([u p ]) 1 可得： p j 1
wj
02
CMAC网络的结构模型与工作原理
权值调整
权值调整指标： e(t ) d p(t ) y p(t )
小脑模型神经网络 （CMAC）
目录
PART 01
PART 02 PART 03 PART 04
CMAC网络的基本思想 CMAC网络的结构模型与工作原理
仿真示例 总结
01
CMAC网络的基本思想
肌肉、四肢、 关节、皮肤……
驱 动
感受信息 反馈信息
记 忆
有差异
联想
控制信号
存储器
调整
1975，J.S.Albus 小脑模型神经网络 （CMAC-Cerebellar Model Articulation Controller） 局部逼近神经网络：网络输入空间的某个局部区域只有少数几个连接权影响 网络输出
R p S ([u p ]) [s1 ([u p ]), s2 ([u p ]),, sc ([u p ])]T
映射 映射法则可以根据实际情况选取，只需要 满足一下规则即可。
输入空间邻近两点（一点为一个n维输入向 量），在Ac中有b个重叠单元被激励。距离越近， 重叠越多；距离远的点，在Ac中不重叠