神经网络控制教程文件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第6章 神经网络控制
1
6.1 概述
6.1.1生物神经元模型 6.1.2 人工神经元模型 6.1.3 人工神经网络模型 6.1.4 神经网络的学习方法
2
6.1.1生物神经元模型
人脑大约包含1012个神经元，分成约1000种类 型，每个神经元大约与102～104个其他神经元 相连接，形成极为错综复杂而又灵活多变的神 经网络。每个神经元虽然都十分简单，但是如 此大量的神经元之间、如此复杂的连接却可以 演化出丰富多彩的行为方式。同时，如此大量 的神经元与外部感受器之间的多种多样的连接 方式也蕴含了变化莫测的反应方式。
19
4．竞争式学习 竞争式学习属于无教师学习方式。此种学
习方式利用不同层间的神经元发生兴奋性 联接，以及同一层内距离很近的神经元间 发生同样的兴奋性联接，而距离较远的神 经元产生抑制性联接。在这种联接机制中 引人竟争机制的学习方式称为竟争式学习。 它的本质在于神经网络中高层次的神经元 对低层次神经元的输入模式进行竞争识别。
2．Delta（δ）学习规则
δ规则实现了E中的梯度下降，因此使误 差函数达到最小值。但δ学习规则只适用 于线性可分函数，无法用于多层网络。 BP网络的学习算法称为BP算法，是在δ 规则基础上发展起来的，可在多网络上 有效地学习。
18
3．概率式学习 从统计力学、分子热力学和概率论中关于系统
稳态能量的标准出发，进行神经网络学习的方 式称概率式学习。神经网络处于某一状态的概 率主要取决于在此状态下的能量，能量越低， 概率越大。同时，此概率还取决于温度参数T。 T越大，不同状态出现概率的差异便越小，较 容易跳出能量的局部极小点而到全局的极小点； T越小时，情形正相反。概率式学习的典型代 表是Boltzmann机学习规则。它是基于模拟退 火的统计优化方法，因此又称模拟退火算法。
16
神经网络中常用的几种最基本的学习方法
1. Hebb学习规则 两个神经元同时处于激发状态时，它们
之间的连接强度将得到加强，这一论述 的数学描述被称为Hebb学习规则 Hebb学习规则是一种无教师的学习方法， 它只根据神经元连接间的激活水平改变 权值，因此这种方法又称为相关学习或 并联学习。
17
12
13
2. 反馈型神经网络
反馈型神经网络（Feedback NN）的结构如图 所示。如果总节点（神经元）数为N，那么每 个节点有N个输入和一个输出，也就是说，所 有节点都是一样的，它们之间都可相互连接。
反馈神经网络是一种反馈动力学系统，它需要 工作一段时间才能达到稳定。Hopfield神经网 络是反馈网络中最简单且应用广泛的模型，它 具有联想记忆（Content一Addressible Memory， CAM）的功能，如果将Lyapunov函数定义为 寻优函数，Hopfie1d神经网络还可以用来解决 快速寻优问题。
20
6.2 前向神经网络
6.2.1 感知器网络
感知器（perceptrvon）是一个具有单层 神经元的神经网络，并由线性阈值元件 组成，是最简单的前向网络。它主要用 于模式分类，单层的感知器网络结构如 下图所示。
21
22
感知器的一种学习算法：
随机地给定一组连接权 输入一组样本和期望的输出（亦称之为
11
1. 前馈型神经网络
前馈型神经网络，又称前向网络（Feed forward NN）。 如图所示，神经元分层排列，有输入层、隐层（亦称 中间层，可有若干层）和输出层，每一层的神经元只 接受前一层神经元的输入。
从学习的观点来看，前馈网络是一种强有力的学习系 统，其结构简单而易于编程；从系统的观点看，前馈 网络是一静态非线性映射，通过简单非线性处理单元 的复合映射，可获得复杂的非线性处理能力。但从计 算的观点看，缺乏丰富的动力学行为。大部分前馈网 络都是学习网络，它们的分类能力和模式识别能力一 般都强于反馈网络，典型的前馈网络有感知器网络、 BP 网络等。
8
输出激发函数 f (•)又称为变换函数，它决定 神经元（节点）的输出。该输出为1或0， 取决于其输入之和大于或小于内部阈值 。 函数 i 一般f (具•)有非线性特性。下图表示 了几种常见的激发函数。
1. 阈值型函数（见图（a），（b）） 2. 饱和型函数（见图（c）） 3. 双曲函数（见图（d）） 4. S型函数（见（e）） 5. 高斯函数（见图（f））
3
4
6.1.2 人工神经元模型
人工神经元是对生物神经元的一种模拟 与简化。它是神经网络的基本处理单元。 如图所示为一种简化的人工神经元结构。 它是一个多输入、单输出的非线性元件。
6
7
其输入、输出关系可描述为
n
Ii wijxjBiblioteka Baidui j1
yi f (Ii )
其中，xj(j1,2,,n)是从其他神经元传来的 输入信号；w ij表示从神经元j到神经元i的 连接权值； i 为阈值；f (•) 称为激发函数 或作用函数。
9
10
6.1.3 人工神经网络模型
人工神经网络是以工程技术手段来模拟 人脑神经元网络的结构与特征的系统。 利用人工神经元可以构成各种不同拓扑 结构的神经网络，它是生物神经网络的 一种模拟和近似。就神经网络的主要连 接型式而言，目前已有数十种不同的神 经网络模型，其中前馈型网络和反馈型 网络是两种典型的结构模型。
14
15
6.1.4 神经网络的学习方法
学习方法是体现人工神经网络智能特性的主要标志， 离开了学习算法，人工神经网络就失去了自适应、自 组织和自学习的能力。目前神经网络的学习方法有多 种，按有无导师来分类，可分为有教师学习 （Supervised Learning）、无教师学习（Unsupervised Learning）和再励学习（Reinforcement Learning）等几 大类。在有教师的学习方式中，网络的输出和期望的 输出（即教师信号）进行比较，然后根据两者之间的 差异调整网络的权值，最终使差异变小。在无教师的 学习方式中，输入模式进人网络后，网络按照一预先 设定的规则（如竞争规则）自动调整权值，使网络最 终具有模式分类等功能。再励学习是介于上述两者之 间的一种学习方式。
1
6.1 概述
6.1.1生物神经元模型 6.1.2 人工神经元模型 6.1.3 人工神经网络模型 6.1.4 神经网络的学习方法
2
6.1.1生物神经元模型
人脑大约包含1012个神经元，分成约1000种类 型，每个神经元大约与102～104个其他神经元 相连接，形成极为错综复杂而又灵活多变的神 经网络。每个神经元虽然都十分简单，但是如 此大量的神经元之间、如此复杂的连接却可以 演化出丰富多彩的行为方式。同时，如此大量 的神经元与外部感受器之间的多种多样的连接 方式也蕴含了变化莫测的反应方式。
19
4．竞争式学习 竞争式学习属于无教师学习方式。此种学
习方式利用不同层间的神经元发生兴奋性 联接，以及同一层内距离很近的神经元间 发生同样的兴奋性联接，而距离较远的神 经元产生抑制性联接。在这种联接机制中 引人竟争机制的学习方式称为竟争式学习。 它的本质在于神经网络中高层次的神经元 对低层次神经元的输入模式进行竞争识别。
2．Delta（δ）学习规则
δ规则实现了E中的梯度下降，因此使误 差函数达到最小值。但δ学习规则只适用 于线性可分函数，无法用于多层网络。 BP网络的学习算法称为BP算法，是在δ 规则基础上发展起来的，可在多网络上 有效地学习。
18
3．概率式学习 从统计力学、分子热力学和概率论中关于系统
稳态能量的标准出发，进行神经网络学习的方 式称概率式学习。神经网络处于某一状态的概 率主要取决于在此状态下的能量，能量越低， 概率越大。同时，此概率还取决于温度参数T。 T越大，不同状态出现概率的差异便越小，较 容易跳出能量的局部极小点而到全局的极小点； T越小时，情形正相反。概率式学习的典型代 表是Boltzmann机学习规则。它是基于模拟退 火的统计优化方法，因此又称模拟退火算法。
16
神经网络中常用的几种最基本的学习方法
1. Hebb学习规则 两个神经元同时处于激发状态时，它们
之间的连接强度将得到加强，这一论述 的数学描述被称为Hebb学习规则 Hebb学习规则是一种无教师的学习方法， 它只根据神经元连接间的激活水平改变 权值，因此这种方法又称为相关学习或 并联学习。
17
12
13
2. 反馈型神经网络
反馈型神经网络（Feedback NN）的结构如图 所示。如果总节点（神经元）数为N，那么每 个节点有N个输入和一个输出，也就是说，所 有节点都是一样的，它们之间都可相互连接。
反馈神经网络是一种反馈动力学系统，它需要 工作一段时间才能达到稳定。Hopfield神经网 络是反馈网络中最简单且应用广泛的模型，它 具有联想记忆（Content一Addressible Memory， CAM）的功能，如果将Lyapunov函数定义为 寻优函数，Hopfie1d神经网络还可以用来解决 快速寻优问题。
20
6.2 前向神经网络
6.2.1 感知器网络
感知器（perceptrvon）是一个具有单层 神经元的神经网络，并由线性阈值元件 组成，是最简单的前向网络。它主要用 于模式分类，单层的感知器网络结构如 下图所示。
21
22
感知器的一种学习算法：
随机地给定一组连接权 输入一组样本和期望的输出（亦称之为
11
1. 前馈型神经网络
前馈型神经网络，又称前向网络（Feed forward NN）。 如图所示，神经元分层排列，有输入层、隐层（亦称 中间层，可有若干层）和输出层，每一层的神经元只 接受前一层神经元的输入。
从学习的观点来看，前馈网络是一种强有力的学习系 统，其结构简单而易于编程；从系统的观点看，前馈 网络是一静态非线性映射，通过简单非线性处理单元 的复合映射，可获得复杂的非线性处理能力。但从计 算的观点看，缺乏丰富的动力学行为。大部分前馈网 络都是学习网络，它们的分类能力和模式识别能力一 般都强于反馈网络，典型的前馈网络有感知器网络、 BP 网络等。
8
输出激发函数 f (•)又称为变换函数，它决定 神经元（节点）的输出。该输出为1或0， 取决于其输入之和大于或小于内部阈值 。 函数 i 一般f (具•)有非线性特性。下图表示 了几种常见的激发函数。
1. 阈值型函数（见图（a），（b）） 2. 饱和型函数（见图（c）） 3. 双曲函数（见图（d）） 4. S型函数（见（e）） 5. 高斯函数（见图（f））
3
4
6.1.2 人工神经元模型
人工神经元是对生物神经元的一种模拟 与简化。它是神经网络的基本处理单元。 如图所示为一种简化的人工神经元结构。 它是一个多输入、单输出的非线性元件。
6
7
其输入、输出关系可描述为
n
Ii wijxjBiblioteka Baidui j1
yi f (Ii )
其中，xj(j1,2,,n)是从其他神经元传来的 输入信号；w ij表示从神经元j到神经元i的 连接权值； i 为阈值；f (•) 称为激发函数 或作用函数。
9
10
6.1.3 人工神经网络模型
人工神经网络是以工程技术手段来模拟 人脑神经元网络的结构与特征的系统。 利用人工神经元可以构成各种不同拓扑 结构的神经网络，它是生物神经网络的 一种模拟和近似。就神经网络的主要连 接型式而言，目前已有数十种不同的神 经网络模型，其中前馈型网络和反馈型 网络是两种典型的结构模型。
14
15
6.1.4 神经网络的学习方法
学习方法是体现人工神经网络智能特性的主要标志， 离开了学习算法，人工神经网络就失去了自适应、自 组织和自学习的能力。目前神经网络的学习方法有多 种，按有无导师来分类，可分为有教师学习 （Supervised Learning）、无教师学习（Unsupervised Learning）和再励学习（Reinforcement Learning）等几 大类。在有教师的学习方式中，网络的输出和期望的 输出（即教师信号）进行比较，然后根据两者之间的 差异调整网络的权值，最终使差异变小。在无教师的 学习方式中，输入模式进人网络后，网络按照一预先 设定的规则（如竞争规则）自动调整权值，使网络最 终具有模式分类等功能。再励学习是介于上述两者之 间的一种学习方式。