人工神经网络 作用

第 9 页
线性可分性( 线性可分性 Linear Separable )
为什么要引入RBF网络 网络 为什么要引入
简单的感知器具有无法完成的问题 简单的感知器具有无法完成的问题
nearly linear
分类 回归
highly non-linear
如何改变网络解决问题呢？？ 如何改变网络解决问题呢？？
模式识别，举例：水果分级系统。 模式识别，举例：水果分级系统。 水果品质参数：重量、大小、比重、果形、 水果品质参数：重量、大小、比重、果形、颜色等
第 2 页
特征矢量： 特征矢量：X
= [x1, x2, x3, x4, x5]T
特征空间：用参数张成。 特征空间：用参数张成。 模式：每个苹果为一个模式， 模式：每个苹果为一个模式，其特征矢量 为特征空间中的一个点； 为特征空间中的一个点； 模式类：一个级别为一个类， 模式类：一个级别为一个类，一类模式分 布在特征空间的某个特定区域； 布在特征空间的某个特定区域； 模式识别：找出各类之间的分界面。 模式识别：找出各类之间的分界面。
单层感知器
单层感知器模型
单层感知器(perceptron) 单层感知器
学习算法 感知器的学习是有导师学习 感知器的学习是有导师学习 感知器的训练算法的基本原理： 感知器的训练算法的基本原理： 著名的Hebb学习律 学习律 著名的 基本思想： 基本思想：逐步地将样本集中的样本输入到网 络中,根据输出结果和理想输出之间的差别来调整 络中 根据输出结果和理想输出之间的差别来调整 根据输出结果和理想输出之间的 网络中的权矩阵 网络中的权矩阵 。 主要用于模式分类 主要用于模式分类
ANN的主要功能之二 —— 联想 ( Associative Memory ) 的主要功能之二
联想的心理学定义： 联想的心理学定义： 当一个事物的表象被激活时， 当一个事物的表象被激活时，也就是说该表象所包含的若干属性单元同 时有效时，我们的注意力焦点就集中在这个表象上， 时有效时，我们的注意力焦点就集中在这个表象上，如果对该表象的处理使 的表象被否决时，也就是说由于一些属性单元的失效（或被抑制， 的表象被否决时，也就是说由于一些属性单元的失效（或被抑制，或处于高 阻），导致该表象无法成立的时候，剩余的属性单元或许可以构成另一种事 ），导致该表象无法成立的时候， 导致该表象无法成立的时候 物的表象，或许还需要结合那些被激活了的新的属性（ 物的表象，或许还需要结合那些被激活了的新的属性（或是由外界事物具有 的新的属性所激活，或是因降低了对一些属性的抑制所导致的激活）。 的新的属性所激活，或是因降低了对一些属性的抑制所导致的激活）。 • 例如：看到柠檬，感觉到嘴里口水增多。因为，由柠檬联想到了酸味。 例如：看到柠檬，感觉到嘴里口水增多。因为，由柠檬联想到了酸味。 • 字符识别： 字符识别：
局限性
阀值函数，输出矢量只能取 或 只能用它来解决简单 阀值函数，输出矢量只能取0或1,只能用它来解决简单 的分类问题 仅能够线性地将输入矢量进行分类，不能解决异或问 仅能够线性地将输入矢量进行分类， 线性地将输入矢量进行分类 题 输入矢量中有一个数比其他数都大或小得很多时 输入矢量中有一个数比其他数都大或小得很多时，可 一个数比其他数都大或小得很多 能导致较慢的收敛速度 能导致较慢的收敛速度
5
2.2.2单层感知器的学习算法 单层感知器的学习算法
单层感知器学习算法
第一步,设置变量和参量。 第一步 设置变量和参量。 设置变量和参量 第二步,初始化 第二步 初始化
的各个分量赋一个较小的随机非零值， 给权值向量 的各个分量赋一个较小的随机非零值，置0
第三步,输入一组样本 并给出它的期望输出。 第三步 输入一组样本 ，并给出它的期望输出。 第四步,计算实际输出 第四步 计算实际输出: 计算实际输出
人工神经网络
ANN的主要功能之一 —— 模式识别 ( Pattern Recognition ) 的主要功能之一
模式识别是人类的一项基本智能行为，在日常生活中， 模式识别是人类的一项基本智能行为，在日常生活中，我们几乎 时刻在进行着“模式识别” 时刻在进行着“模式识别”。 模式： 模式： • 广义地说，存在于时间和空间中可观察的事物，如果可以区别它们是 广义地说，存在于时间和空间中可观察的事物， 否相同或相似，都可以称之为模式； 否相同或相似，都可以称之为模式； 买西瓜：西瓜可分为生、熟两类，此时，研究的范畴是“西瓜” 买西瓜：西瓜可分为生、熟两类，此时，研究的范畴是“西瓜”，在此范畴 • 狭义地说，模式是通过对具体的个别事物进行观测所得到的具有时间和 狭义地说， 为生 上定义了两类模式：熟瓜和生瓜； 上定义了两类模式：熟瓜和生瓜； 空间分布的信息； 空间分布的信息； 种西瓜：西瓜分早熟品种、晚熟品种两类，即定义了两类模式：早熟和晚熟； 种西瓜：西瓜分早熟品种、晚熟品种两类，即定义了两类模式：早熟和晚熟； 两类模式 买西瓜：两类模式分类问题，通过声音的频率 和声音持续时间长度x 频率x 买西瓜：两类模式分类问题，通过声音的频率 1和声音持续时间长度 2来判 断瓜的生熟。 的瓜进行敲击测试，得到矢量元素 断瓜的生熟。对编号为 i 的瓜进行敲击测试，得到矢量元素 Xi=(x1i，x2i) T ， ， 河北省早熟品种分类：河北省常见品种有“新红宝” “蜜梅 ,…,XN 京欣” 京欣” 河北省早熟品种分类：河北省常见品种有“新红宝”、1,X2,X3”、“} ，根 、 个有生有熟的瓜进行实验可以得到N个数据 对N个有生有熟的瓜进行实验可以得到 个数据：X={X 蜜梅” 个有生有熟的瓜进行实验可以得到 个数据： “冀早2号”…等；此时，研究范畴是“河北常见早熟西瓜品种”，在此范畴 冀早 号 等 中的元素划分为两类 一类对应于生瓜一类对应于熟瓜。 据瓜的生熟可以将X中的元素划分为两类，一类对应于生瓜一类对应于熟瓜。 中的元素划分为两类， 据瓜的生熟可以将 此时，研究范畴是“河北常见早熟西瓜品种” 模式识别： 模式识别：在一定量度或观测基础上把待识模式划分到各自的模式类中去 上定义了多类模式：新红宝、蜜梅、京欣、冀早2号等等 上定义了多类模式：新红宝、蜜梅、京欣、冀早 用C1代表生瓜类，C2代表 于是，模式其实就是具有特定性质的矢量/数据 数据。 代表生瓜类， 于是，模式其实就是具有特定性质的矢量 数据。 号等等 的过程叫作模式识别； 的过程叫作模式识别； 熟瓜类， 中的任意一个元素Xn必然满足 属于C 属于C 熟瓜类，则X中的任意一个元素 必然满足 Xn属于 1或者 属于 2。 中的任意一个元素 必然满足: 属于 或者Xn属于
函数名 newp() hardlim() learnp() train() sim() mae() plotpv() plotpc() 生成一个感知器 硬限幅激活函数 感知器的学习函数 神经网络训练函数 神经网络仿真函数 平均绝对误差性能函数 在坐标图上绘出样本点 在已绘制的图上加分类线 功 能
感知器
w ( n + 1) = w ( n ) + η d ( n ) − y ( n ) x ( n )
然后转到第三步， 然后转到第三步，进入下一轮计算过程
Leabharlann Baidu
单层感知器的MATLAB实现 实现 单层感知器的
MATLAB中单层感知器常用工具函数名称和 中单层感知器常用工具函数名称和 基本功能
m y ( n ) = f ∑ w i (n ) xi ( n ) i =0
第五步,求出期望输出和实际输出求出差 第五步 求出期望输出和实际输出求出差 e = d ( n ) − y ( n )
根据误差判断目前输出是否满足条件， 根据误差判断目前输出是否满足条件，一般为对所有样本误差为零或者均小于 预设的值，则算法结束，否则将值增加 ，并用下式调整权值： 预设的值，则算法结束，否则将值增加1，并用下式调整权值：