第3章 神经网络控制- 网络结构4
合集下载
深度学习原理与TensorFlow实践 第3章 神经网络
深度学习原理与Tensorflow实践
生物神经元
3.3
神经网络基础知识—MP模型
深度学习原理与Tensorflow实践
MP模型示意图
3.4
神经网络基础知识—MP模型
深度学习原理与Tensorflow实践
3.5
神经网络基础知识—MP模型
深度学习原理与Tensorflow实践
3.6
神经网络基础知识—感知机
3.9
神经网络基础知识—梯度下降法
梯度是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函 数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大。
深度学习原理与Tensorflow实践
3.10
神经网络基础知识—梯度下降法
深度学习原理与Tensorflow实践
3.11
深度学习原理与Tensorflow实践
3.14
神经网络基础知识—三层感知机
三层感知机神经网络。 其中 L1层是输入层， L2层是隐含层， L3层是输出 层。与两层感知机不同的是三层感知机神经网络增加了隐含层。
深度学习原理与Tensorflow实践
3.15
神经网络基础知识—万能逼近定理
Cybenko等于1989年证明了具有隐含层（最少一层）感知机神经网络 在激励函数(也称激活函数)为sigmoid函数的情况下具有逼近任何函数 的作用。Hornik 等在1991年更加证明激励函数为任何非常数函数的情 况同样适用。这就是著名的万能逼近定理（universal approximation theorem）。也就是一个仅有单隐藏层的神经网络, 在神经元个数足够 多的情况下，通过非线性的激活函数，足以拟合任意函数。
神经网络
神经网络的应用—— 神经网络的应用 ATM的流量控制 的流量控制
峰峰峰输峰PCR 可可可峰输峰SCR 最最最最最最MBS
T=m
延 网网流 时 器
T=m-1 T=m-2
T=m-n+1
输 输 网 网 预 测 器
T=m+1 T=m+5 . . .
输 输 网 网 控 控 器
控控控出
பைடு நூலகம்
神经网络连接允许模型
神经网络的应用—— 神经网络的应用 ATM的流量控制 的流量控制
竞争学习网络
无监督学习网络只根据输入模式来更新权值。竞 无监督学习网络只根据输入模式来更新权值。 争学习是这种类型网络最普遍学习方法
w11
x1 x2 x3
1 2 3 4
w34
输出单元
输入单元
自组织神经网络
在接受外界输入时，将会分成不同的区域，不同 在接受外界输入时，将会分成不同的区域， 的区域对不同的模式具有不同的响应特征 特征图，它实际上是一种非线性映射关系。由于 特征图，它实际上是一种非线性映射关系。 这种映射是通过无监督的自适应过程完成的， 这种映射是通过无监督的自适应过程完成的，所 以也称它为自组织特征图
Hopfield神经网络 神经网络
J. J. Hopfield提出了神经网络能量函数（也称李 提出了神经网络能量函数（ 提出了神经网络能量函数 雅普诺夫函数）的概念， 雅普诺夫函数）的概念，使网络的运行稳定性判 断有了可靠而简便的依据 Hopfield 网络在联想存贮及优化计算等领域得到 Hopfield网络在联想存贮及优化计算等领域得到 了成功的应用， 了成功的应用，拓宽了神经网络的应用范围 另外 ， Hopfield网络还有一个显著的优点 ， 即它 另外， 网络还有一个显著的优点， 网络还有一个显著的优点 与电子电路存在明显的对应关系， 与电子电路存在明显的对应关系，使得该网络易 于理解和便于实现 通常 通常Hopfield网络有两种实用形式 ， 即离散型 网络有两种实用形式， 网络有两种实用形式 Hopfield网络和连续型 网络和连续型Hopfield网络 网络和连续型 网络
神经网络控制
习调整网络的权值，使反馈控制输入趋近于零，
从而使神经网络控制器逐渐在控制作用中占据主
导地位，最终取消反馈控制器的作用；
✓
一旦系统出现干扰，反馈控制器重新起作用。
✓
可确保控制系统的稳定性和鲁棒性，有效提高系
统的精度和自适应能力。
神经网络
控制器
期望输出
()
−1
()
+
-
()
传统控
网络实现；可进行离线辨识，也可进行在线辨识。
+
-
逆向建模
一般而言，建立逆模型对神经网络控制意义重大。
直接逆建模简化结构图：
可用于离线辨识，也可
用于在线辨识。
对 象
+
神经网络
逆模型
缺点：不是目标导向的，系统输入也不可能预先定义。
实际常采用正-逆建模结构。
正-逆建模
神经网络
逆模型
对 象
第3章 神经网络控制
第2部分 控制基础
3.5 神经网络控制基础
3.5.1 神经网络控制的优越性
神经网络可以处理那些难以用模型或规则描述的过
程或系统。
神经网络采用并行分布式信息处理，具有很强的容
错性。
神经网络是本质非线性系统，可实现任意非线性映
射。
神经网络具有很强的信息综合能力，能同时处理大
期望输出
()
稳定的参
考模型
参考模
型输入
()
+
()
()
+
-
神经网络
控制器
()
对象
()
从而使神经网络控制器逐渐在控制作用中占据主
导地位，最终取消反馈控制器的作用；
✓
一旦系统出现干扰，反馈控制器重新起作用。
✓
可确保控制系统的稳定性和鲁棒性，有效提高系
统的精度和自适应能力。
神经网络
控制器
期望输出
()
−1
()
+
-
()
传统控
网络实现；可进行离线辨识，也可进行在线辨识。
+
-
逆向建模
一般而言，建立逆模型对神经网络控制意义重大。
直接逆建模简化结构图：
可用于离线辨识，也可
用于在线辨识。
对 象
+
神经网络
逆模型
缺点：不是目标导向的，系统输入也不可能预先定义。
实际常采用正-逆建模结构。
正-逆建模
神经网络
逆模型
对 象
第3章 神经网络控制
第2部分 控制基础
3.5 神经网络控制基础
3.5.1 神经网络控制的优越性
神经网络可以处理那些难以用模型或规则描述的过
程或系统。
神经网络采用并行分布式信息处理，具有很强的容
错性。
神经网络是本质非线性系统，可实现任意非线性映
射。
神经网络具有很强的信息综合能力，能同时处理大
期望输出
()
稳定的参
考模型
参考模
型输入
()
+
()
()
+
-
神经网络
控制器
()
对象
()
神经网络PID控制
(2 = ∑ωi(3) (k) f ′ neti(2) (k) ωiny) (k) i =1 Q
[
]
(10) 7. 采样得 (k + 1)、r(k + 1)。（仿真计算时由对象 y 。（仿真计算时由对象 y 数学模型计算 (k + 1))
12
NNC的权值进行修正。 8. 用 11)式及 10)式对 ( ( 的权值进行修正。 ∂Jc ∂Jc ∂y(k + 1) ∂u(k) ∆ki (k) = −λ = −λ ∂ki (k) ∂y(k + 1) ∂u(k) ∂ki (k) ˆ ∂y(k + 1) xi (k) = λ[r(k + 1) − y(k + 1)] ∂u(k) 0 < λ < 1 , i = 1,2,3 (11)
4.3.4 神经网络 神经网络PID控制 控制
一、方案一
图一
神经网络PID控制系统结构图 控制系统结构图 神经网络
1
x1(k) = e(k)
x2 (k) = ∆e(k) = e(k) − e(k −1)
x3 (k) = ∆2e(k) = e(k) − 2e(k − 1) + e(k − 2)
e(k) = r(k) − y(k)
13
9. 用下列各式对 的权值进行修正。 NNI的权值进行修正 的权值进行修正。
ˆ ∆ωi(3) (k) = η[ y(k + 1) − y(k + 1)]Oi(2) (k) +α∆ωi(3) (k −1)
( ˆ ∆ωij2) (k) = η[ y(k + 1) − y(k + 1)]ωi(3) (k) f ′ neti(2) (k) O(j1) (k) ( +α∆ωij2) (k −1)
[
]
(10) 7. 采样得 (k + 1)、r(k + 1)。（仿真计算时由对象 y 。（仿真计算时由对象 y 数学模型计算 (k + 1))
12
NNC的权值进行修正。 8. 用 11)式及 10)式对 ( ( 的权值进行修正。 ∂Jc ∂Jc ∂y(k + 1) ∂u(k) ∆ki (k) = −λ = −λ ∂ki (k) ∂y(k + 1) ∂u(k) ∂ki (k) ˆ ∂y(k + 1) xi (k) = λ[r(k + 1) − y(k + 1)] ∂u(k) 0 < λ < 1 , i = 1,2,3 (11)
4.3.4 神经网络 神经网络PID控制 控制
一、方案一
图一
神经网络PID控制系统结构图 控制系统结构图 神经网络
1
x1(k) = e(k)
x2 (k) = ∆e(k) = e(k) − e(k −1)
x3 (k) = ∆2e(k) = e(k) − 2e(k − 1) + e(k − 2)
e(k) = r(k) − y(k)
13
9. 用下列各式对 的权值进行修正。 NNI的权值进行修正 的权值进行修正。
ˆ ∆ωi(3) (k) = η[ y(k + 1) − y(k + 1)]Oi(2) (k) +α∆ωi(3) (k −1)
( ˆ ∆ωij2) (k) = η[ y(k + 1) − y(k + 1)]ωi(3) (k) f ′ neti(2) (k) O(j1) (k) ( +α∆ωij2) (k −1)
神经网络控制
M—P模型的提出兴起了对神经网络的研究。
(2) 1949年心理学家D．O．Hebb提出神经元之间突触联系强度可变 的假设。他认为学习过程是在突触上发生的，突触的联系强度随其前 后神经元的活动而变化。根据这一假设提出的学习率为神经网络的学 习算法奠定了基础。
(3) 1958年，Rosenblatt提出感知机，第一次把神经网络的研究付 诸工程实践。这是一种学习和自组织的心理学模型，它基本上符合 神经生理学的知识，模型的学习环境是有噪声的，网络构造中存在 随机连接，这符合动物学习的自然环境。这种类型的机器显然有可 能应用于模式识别、联想记忆等方面。
3．兴盛阶段
再次兴起的原因：
（1）计算机不具备学习能力。在处理能明确定义的问题或运用能明 确定义的概念作为知识时，计算机比较容易对它们进行处理，但是对 一些知识背景不清楚、推理规则不明确、环境信息十分复杂的知识处 理或是算法难以提取的信息处理任务往往感到很困难。 （2）日本第五代机计划远未达到预想水平，也倾向使人觉得有必要 进一步弄清人们习以为常的认知功能是如何进行的．这些认知功能包 括视、听觉感知，学习记忆，运动控制等．从而使人们认识到不能拘 泥一格而必须开拓新的思路，探索新的人类智能实现途径。这时原来 已出现过的，与人脑的生理组织更为接近的神经网络模型就自然成为 理想的候选模型。
兴盛阶段的标志：
（1）近些年来．许多科学家提出了许多种具备不同信息处理能力的神 经网络模型，至今为止。约已开发出了三十多种。神经网络也 被应用到了许多信息处理领域，如模式别、自动控制、信号处理、辅助 决策、人工智能等等。 （2）神经计算机的研究也为神经网络的理论研究和应用研究促供了 强有力的支持，各大学、科研团体和公司开发了许多神经网络模拟软 件包、各种型号的电子神经计算机以及许多神经网络芯片。 （3）1987年6月在美国加州举行了第一届神经网络国际会议，并成立 了国际神经网络学会，以后每年召开两次国际联合神经网络大会 (IJCNN)。 1990年12月在北京召开了我国首届神经网络学术大会，在南 京召开的1991中国神经网络学术大会上成上了中国神经网络学会。当前 发行了两种专门介绍神经网络研究的刊物，《IEEE Transaction on Neural Network》和《Neural Network》
神经网络控制
实时时钟
⑤ 实时时钟
r (t )
e(t )
采样 开关 A/D 神经控制器 D/A 保持器
u (t )
y (t )
对象 (过程) 模拟输出通道
模拟输入通道
图 4-2-3
神经控制系统硬件框图
（2）软件 ① 主程序:功能是进行系统初始化设置。 ② 控制子程序:实现神经控制算法， 若既有辩识器又有控制器的控制结构， 则，神经控制算法包括这两部分。
p：隐层非线性节点数
u(k )
y $(k + 1)
L
v
L
v0 1
w
H
L
w0
w0 = Ng[0, W]
v0 = Nϕ[0, V]
非线性作用函数：
H H H H H
e x − e− x f ( x) = x − x e +e
线性节点
L Ng[ ] Ng[ ]
L
非线性节点
y( k )
y( k )
图4-3-2 神经网络辨识器
控制系统期望输出 r (k ) , 若g[•] 、ϕ[•] 已知，根据“确定性等价原则”，控制 器设计为
− g[•] r ( k + 1) u( k ) = + ϕ[•] ϕ[•] 则控制系统的输出y (k ) 能精确跟踪输入 r (k ) ——期望输出。
学习算法
y $ ( k + 1) = Ng[ ] + Nϕ[ ] u( k ) y $
η w > 0 、η v > 0 ，决定神经辨识器收敛于被控对象的速度。
y ( k + 1) = g[ y ( k )] + ϕ[ y ( k )]u( k )
的神经自校正控制结构，见下图。
⑤ 实时时钟
r (t )
e(t )
采样 开关 A/D 神经控制器 D/A 保持器
u (t )
y (t )
对象 (过程) 模拟输出通道
模拟输入通道
图 4-2-3
神经控制系统硬件框图
（2）软件 ① 主程序:功能是进行系统初始化设置。 ② 控制子程序:实现神经控制算法， 若既有辩识器又有控制器的控制结构， 则，神经控制算法包括这两部分。
p：隐层非线性节点数
u(k )
y $(k + 1)
L
v
L
v0 1
w
H
L
w0
w0 = Ng[0, W]
v0 = Nϕ[0, V]
非线性作用函数：
H H H H H
e x − e− x f ( x) = x − x e +e
线性节点
L Ng[ ] Ng[ ]
L
非线性节点
y( k )
y( k )
图4-3-2 神经网络辨识器
控制系统期望输出 r (k ) , 若g[•] 、ϕ[•] 已知，根据“确定性等价原则”，控制 器设计为
− g[•] r ( k + 1) u( k ) = + ϕ[•] ϕ[•] 则控制系统的输出y (k ) 能精确跟踪输入 r (k ) ——期望输出。
学习算法
y $ ( k + 1) = Ng[ ] + Nϕ[ ] u( k ) y $
η w > 0 、η v > 0 ，决定神经辨识器收敛于被控对象的速度。
y ( k + 1) = g[ y ( k )] + ϕ[ y ( k )]u( k )
的神经自校正控制结构，见下图。
14版《智能控制技术基础》课程教学大纲
课程代码
0401061
课程类别
学科专业课
学分
2
总学时
32
开课学期
七
修读类别
选修课
开课单位
自动化学院自动化系
适用专业
自动化
先修课程
自动控制原理、控制系统仿真、现代控制理论、专业英语
主讲教师
梁雪慧董恩增
考核方式及各环节所占比例
考试课；
期末考试占70％，平时成绩占20％，实验占10%
课程概要
智能控制技术基础是工科高等学校自动化专业本科生的一门选修课。相对于传统控制理论及方法，该门课主要介绍一些先进的、有一定数学基础的控制方法及其应用，例如：模糊控制、神经网络控制、专家系统等。
4.习题课、课外作业、答疑和质疑
（1）习题课：安排在模糊控制的理论基础、模糊控制系统等章节中。
（2）课外习题：罗兵《智能控制技术》，2011年3月第1版，第一章1、3、6，第二章3、4、5、6、7、8，第三章1、4、6，第四章1、3，第五章1、2、4。
（3）答疑和质疑
每两周在规定时间和地点至少安排一次答疑或质疑。
5.考试环节
掌握：神经网络模型分类、前向神经网络及BP算法、动态网络特点与Hopfield网络
难点：前向网络及BP算法、神经网络控制。
第四章专家控制系统（4学时）
教学目的：
理解：专家系统的概念、专家控制的知识表示与推理、直接专家控制系统、间接专家控制系统等；
掌握：专家控制系统概念、专家控制系统结构与原理、专家控制的应用领域。
教学目的及要求
拓宽专业知识面，了解先进的控制理论及其应用领域，掌握基本的智能控制系统原理及其设计方法；学会应用MATLAB模糊工具箱实现模糊控制器的设计，通过仿真试验，分析控制器的应用效果，使学生具备基本的模糊控制系统的设计与分析能力。课程采用双语授课，使学生掌握专业知识的同时，提高外文文献的阅读和理解能力，并了解国际智能控制领域的最新动态。
0401061
课程类别
学科专业课
学分
2
总学时
32
开课学期
七
修读类别
选修课
开课单位
自动化学院自动化系
适用专业
自动化
先修课程
自动控制原理、控制系统仿真、现代控制理论、专业英语
主讲教师
梁雪慧董恩增
考核方式及各环节所占比例
考试课；
期末考试占70％，平时成绩占20％，实验占10%
课程概要
智能控制技术基础是工科高等学校自动化专业本科生的一门选修课。相对于传统控制理论及方法，该门课主要介绍一些先进的、有一定数学基础的控制方法及其应用，例如：模糊控制、神经网络控制、专家系统等。
4.习题课、课外作业、答疑和质疑
（1）习题课：安排在模糊控制的理论基础、模糊控制系统等章节中。
（2）课外习题：罗兵《智能控制技术》，2011年3月第1版，第一章1、3、6，第二章3、4、5、6、7、8，第三章1、4、6，第四章1、3，第五章1、2、4。
（3）答疑和质疑
每两周在规定时间和地点至少安排一次答疑或质疑。
5.考试环节
掌握：神经网络模型分类、前向神经网络及BP算法、动态网络特点与Hopfield网络
难点：前向网络及BP算法、神经网络控制。
第四章专家控制系统（4学时）
教学目的：
理解：专家系统的概念、专家控制的知识表示与推理、直接专家控制系统、间接专家控制系统等；
掌握：专家控制系统概念、专家控制系统结构与原理、专家控制的应用领域。
教学目的及要求
拓宽专业知识面，了解先进的控制理论及其应用领域，掌握基本的智能控制系统原理及其设计方法；学会应用MATLAB模糊工具箱实现模糊控制器的设计，通过仿真试验，分析控制器的应用效果，使学生具备基本的模糊控制系统的设计与分析能力。课程采用双语授课，使学生掌握专业知识的同时，提高外文文献的阅读和理解能力，并了解国际智能控制领域的最新动态。
神经网络ppt课件
神经元层次模型 组合式模型 网络层次模型 神经系统层次模型 智能型模型
通常，人们较多地考虑神经网络的互连结构。本 节将按照神经网络连接模式，对神经网络的几种 典型结构分别进行介绍
12
2.2.1 单层感知器网络
单层感知器是最早使用的，也是最简单的神经 网络结构，由一个或多个线性阈值单元组成
这种神经网络的输入层不仅 接受外界的输入信号，同时 接受网络自身的输出信号。 输出反馈信号可以是原始输 出信号，也可以是经过转化 的输出信号；可以是本时刻 的输出信号，也可以是经过 一定延迟的输出信号
此种网络经常用于系统控制、 实时信号处理等需要根据系 统当前状态进行调节的场合
x1
…… …… ……
…… yi …… …… …… …… xi
再励学习
再励学习是介于上述两者之间的一种学习方法
19
2.3.2 学习规则
Hebb学习规则
这个规则是由Donald Hebb在1949年提出的 他的基本规则可以简单归纳为：如果处理单元从另一个处
理单元接受到一个输入，并且如果两个单元都处于高度活 动状态，这时两单元间的连接权重就要被加强 Hebb学习规则是一种没有指导的学习方法，它只根据神经 元连接间的激活水平改变权重，因此这种方法又称为相关 学习或并联学习
9
2.1.2 研究进展
重要学术会议
International Joint Conference on Neural Networks
IEEE International Conference on Systems, Man, and Cybernetics
World Congress on Computational Intelligence
复兴发展时期 1980s至1990s
通常，人们较多地考虑神经网络的互连结构。本 节将按照神经网络连接模式，对神经网络的几种 典型结构分别进行介绍
12
2.2.1 单层感知器网络
单层感知器是最早使用的，也是最简单的神经 网络结构，由一个或多个线性阈值单元组成
这种神经网络的输入层不仅 接受外界的输入信号，同时 接受网络自身的输出信号。 输出反馈信号可以是原始输 出信号，也可以是经过转化 的输出信号；可以是本时刻 的输出信号，也可以是经过 一定延迟的输出信号
此种网络经常用于系统控制、 实时信号处理等需要根据系 统当前状态进行调节的场合
x1
…… …… ……
…… yi …… …… …… …… xi
再励学习
再励学习是介于上述两者之间的一种学习方法
19
2.3.2 学习规则
Hebb学习规则
这个规则是由Donald Hebb在1949年提出的 他的基本规则可以简单归纳为：如果处理单元从另一个处
理单元接受到一个输入，并且如果两个单元都处于高度活 动状态，这时两单元间的连接权重就要被加强 Hebb学习规则是一种没有指导的学习方法，它只根据神经 元连接间的激活水平改变权重，因此这种方法又称为相关 学习或并联学习
9
2.1.2 研究进展
重要学术会议
International Joint Conference on Neural Networks
IEEE International Conference on Systems, Man, and Cybernetics
World Congress on Computational Intelligence
复兴发展时期 1980s至1990s
神经网络第三章
– （1）权值初始化 ） – （2）输入样本对 ） – （3）计算输出 ） – （4）根据感知器学习规则调整权值 ） – （5）返回到步骤 输入下一对样本，周而复始直到对 输入下一对样本， ）返回到步骤(2)输入下一对样本 所有样本，感知器的实际输出与期望输出相等。 所有样本，感知器的实际输出与期望输出相等。
n
ij x i
(3.1)
o j = sgn(net j − T j ) = sgn(
∑
i =0
n
wij xi ) = sgn(W T X ) j
(3.2)
7
3.1.2 单神经元感知器的功能
单 计 算 节 点 感 知 器
8
3.1.2 单神经元感知器的功能
• 单计算节点感知器实际上就是一个M-P神经元模型， 单计算节点感知器实际上就是一个 神经元模型， 实际上就是一个 神经元模型 由于采用了符号转移函数，又称为符号单元 符号单元。 由于采用了符号转移函数，又称为符号单元。
X1 = (-1，1，-2，0)T X2 = (-1，0，1.5，-0.5)T X3 = (-1，-1，1，0.5)T d1 =−1 d2 = − 1 d3 =1
设初始权向量W(0)=(0.5,1,-1,0)T，η=0.1。注意，输入向量 中第一个分量x0恒等于-1，权向量中第一个分量为阈值， 试根据以上学习规则训练该感知器。
…
W
j
W j = (w1 j ,w2 j ,...w ,...,wnj )T ij
oj
o1
W
1
…
W
m
om
○
○ ○
…
○ ○
…
xn
○
x1
○
x2
神经网络控制系统教程PPT(MATLAB基于Simulink的三种典型神经网络控制系统学习资料)
22
1. 基于传统控制理论的神经控制将神经网络作为传统控制系统中的一个或几个部分，用以充当辨识器，或对象模型，或控制器，或估计器，或优化计算等。这种方式很多，常见的一些方式归纳如下：
22
(a)
(b)
图3-3 神经直接逆动态控制系统
1)．神经直接逆动态控制神经直接逆动态控制采用受控对象的一个逆模型，它与受控对象串联，以便使系统在期望响应（网络输入
22
（2）神经间接自校正控制间接自校正控制一般称为自校正控制。自校正控制是一种利用辨识器将对象参数进行在线估计，用控制器实现参数的自动整定相结合的自适应控制技术，它可用于结构已知而参数未知但恒定的随机系统，也可用于结构已知而参数缓慢变化的随机系统。
图3-4 神经自校正控制系统
22
神经自校正控制结构如图3-4所示，它由一个自校正控制器和一个能够在线辨识的神经网络辨识器组成。自校正控制器与被控对象构成反馈回路，根据神经网 络辨识器和控制器设计规则，以得到控制器的参数。 可见，辨识器和自校正控制器的在线设计是自校正控 制实现的关键。
22
上述两种分类并无本质差别，只是后者划分更细一些，几乎涉及到传统控制、系统辨识。滤波和预报等所有方面，这也间接地反映了随着神经网络理论和应用研究的深入，将向控制领域、信息领域等进一步透。为了更能从本质上认识神经网络在实现智能控制中的作用和地位。1998年李士勇将神经网络控制从它与传统控制和智能控制两大门类的结合上考虑分为两大类：即基于传统控制理论的神经控制和基于神经网络的智能控制两大类。
神经网络控制系统
1
神经网络控制理论基于Simulink的三种典型神经网络控制系统
神经网络发展至今已有半个多世纪的历史，概括起来经历了三个阶段：20世纪40 60年代的发展初期； 70年代的研究低潮期；80年代，神经网络的理论研究取得了突破性进展。神经网络控制是将神经网络在相应的控制系统结构中当做控制器或辨识器。神经网络控制的发展，虽仅有十余年的历史，但已有了多种控制结构。
1. 基于传统控制理论的神经控制将神经网络作为传统控制系统中的一个或几个部分，用以充当辨识器，或对象模型，或控制器，或估计器，或优化计算等。这种方式很多，常见的一些方式归纳如下：
22
(a)
(b)
图3-3 神经直接逆动态控制系统
1)．神经直接逆动态控制神经直接逆动态控制采用受控对象的一个逆模型，它与受控对象串联，以便使系统在期望响应（网络输入
22
（2）神经间接自校正控制间接自校正控制一般称为自校正控制。自校正控制是一种利用辨识器将对象参数进行在线估计，用控制器实现参数的自动整定相结合的自适应控制技术，它可用于结构已知而参数未知但恒定的随机系统，也可用于结构已知而参数缓慢变化的随机系统。
图3-4 神经自校正控制系统
22
神经自校正控制结构如图3-4所示，它由一个自校正控制器和一个能够在线辨识的神经网络辨识器组成。自校正控制器与被控对象构成反馈回路，根据神经网 络辨识器和控制器设计规则，以得到控制器的参数。 可见，辨识器和自校正控制器的在线设计是自校正控 制实现的关键。
22
上述两种分类并无本质差别，只是后者划分更细一些，几乎涉及到传统控制、系统辨识。滤波和预报等所有方面，这也间接地反映了随着神经网络理论和应用研究的深入，将向控制领域、信息领域等进一步透。为了更能从本质上认识神经网络在实现智能控制中的作用和地位。1998年李士勇将神经网络控制从它与传统控制和智能控制两大门类的结合上考虑分为两大类：即基于传统控制理论的神经控制和基于神经网络的智能控制两大类。
神经网络控制系统
1
神经网络控制理论基于Simulink的三种典型神经网络控制系统
神经网络发展至今已有半个多世纪的历史，概括起来经历了三个阶段：20世纪40 60年代的发展初期； 70年代的研究低潮期；80年代，神经网络的理论研究取得了突破性进展。神经网络控制是将神经网络在相应的控制系统结构中当做控制器或辨识器。神经网络控制的发展，虽仅有十余年的历史，但已有了多种控制结构。
智能控制基础-神经网络
第6章 神经网络控制
7
智能控制 基是神经系统结构和功能基本单位，典型的神经 元结构图4-1所示。
第6章 神经网络控制
图4-1 神经元结构 8
智能控制 基础
4.1.1
神经网络原理
视网膜的信息处理机制
光感受器细胞将光波所携带的自 然图像信息转变成神经元电信息
囊泡
受体
K+ Na+ K+
4 神经网络具有自组织、自学习功能，是自适应组 织系统。
第6章 神经网络控制
26
智能控制 基础
4.1.2
神经网络的结构和特点
神经网络的研究主要包括： 神经网络基本理论研究 神经网络模型的研究 神经网络应用研究 神经网络及其融合应用技术
第6章 神经网络控制
27
智能控制 基础
4.1.3
神经网络学习
神经元之间高度互连实现并行处理而表现出的群体特性是非常 复杂，甚至是混沌的； 3利用神经网络通过学习过程可以从周围环境获取知识，中 间 神经元的连接强度（权值）用来表示存贮的知识。
第6章 神经网络控制
20
智能控制 基础
4.1.2
神经网络的结构和特点
神经网络的结构按照神经元连接方式可分成前馈网络 和反馈网络。
（2）Sigmoid函数
（2）
1
f ( X ) 1 eaX
a 0
图4-3 常用的几种激励函数
第6章 神经网络控制
16
智能控制 基础
4.1.1
神经网络原理
常用的激励函数如图4-3所示：
（3）双曲正切函数
（3）
f ( X ) 1 eaX 1 eaX
a 0
（4）高斯函数 X2
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第1部分 网络结构
3.1 神经网络概述 3.2 前向神经网络 3.3 动态神经网络 3.4 径向基函数神经网络
1
3.3 动态神经网络
3.3.1 基本概念 3.3.2 离散型Hopfield神经网络
3.3.2.1 网络的结构与工作方式 3.3.2.2 DHNN网络的稳定状态与能量井 3.3.2.3 DHNN网络的稳定性 3.3.2.4 DHNN网络的应用——联想记忆
T
反馈网络的外部输入就是网络的状态初始值，表 示为： ������(0) = ������1 0 , ������2 0 , … , ������������ 0 T 反馈网络在外界输入激发下，从初始状态进入动 态演变过程，变化规律为： ������������ (������ + 1) = ������ ������������������������ (������ + 1) , ������ = 1,2, ⋯ , ������
第2步，更新������1 、而������2 和������3 的输出状态保持不变，有： ������������ 2 = ������������ 1 , ������ = 2,3， 即：������ 2 = 1, 0, 0 T 。
17
第3步，更新������3 、而������1 和������2 的输出状态保持不变，有： ������3 (3) = ������[0.2 ∙ 1 + 0.6 ∙ 0 − 0] = ������(0.2) = 1； ������������ 3 = ������������ 2 , ������ = 1,2，
7
注：也有文献将反馈网络中接受输出反馈信号的所有神经元都称为输入神经 元，其中的输入包括外部输入和内部反馈输入两部分；输出神经元类似。
例10：含有4个单元的基本Hopfield网络。
对应于输入模 式的外部输入 不同于由网络 输出反馈至各 神经元的输入， 前者提供了网 络的初始状态， 后者是构成动 力系统的必要 条件。
状态变为100；
14
若������2 被随机选中，而������1 、������3 状态保持不变，则有 ������2 (1) = ������[(−0.5) ∙ 0 + 0.6 ∙ 0 − 0] = ������(0) = 0，状态 仍为000； 若������3 被随机选中，而������1 、������2 状态保持不变，则有 ������3 (1) = ������[0.2 ∙ 0 + 0.6 ∙ 0 − 0] = ������(0) = 0 ， 状 态 仍 为000。 因输出状态可能改变的单个神经元是等概率被选中 1 的，故状态变为100的概率为 ，而保持不变的概率
外部输入单元和输出单元的确定
a) b) c) d)
假定网络共有ℎ个神经元，输入向量的维数为������， 输出向量的维数为������。 若指定网络中的������个神经元直接接受对应于输入 向量的信号，则称这������个神经元为输入神经元。 若指定网络中的������个神经元用于输出计算结果 时，就称这������个神经元为输出神经元。 当������ = ������ = ℎ时，网络退化为最简单的形式， 称为基本的Hopfield网络。
全互联型，三种画法等价；若含一条(以上)红色虚线，则为含自环的全互联型。
典型反馈网络：Hopfield网络、Boltzmann机 网络、Kohonen网络。
5
Hopfield网络
1982 年 ， 美 国 加 州 理 工 学 院 物 理 学 家 J.J. Hopfield教授提出一种离散型的单层全互联反馈 神经网络，可用作联想存储器——Hopfield网络。 1984年，Hopfield又提出连续型的单层全互联 反馈网络，可用作优化计算。 1987年，贝尔实验室基于Hopfield网络成功开 发了神经网络芯片。 根据激励函数的不同，可分为
������1 ������1
������2 ������2
������3 ������3
������4 ������4
根据实际情况，反馈网络的输入模式(外部输入)可以 始终加在网络上；也可以是仅起初始化状态的作用， 即认为初始化后即撤除外部输入。 为分析简单起见，本课程中的分析假定基于后者。
8
3.3.2 离散型Hopfield神经网络
2 为 。 3 3
第2步： 以第1步所得到的状态100为新的初始态，进行类似 计算，可以得到整个状态转移图。
15
w13 y1 w w21 w
12 22
w 1N y2 w 33 w w ... y 1/3 1/3 0.0 010 1/3 0.0 110 1/3 1/3 000 1/3 100 2/3 1/3 1/3 2/3 101 -0.3 1/3 2/3 -0.4 111 (b) 网络状态转移 圈内为状态 线上为转移概率 1/3 011 -0.6 3/3
������2
0 0.6
0
������3
解：
设各节点状态取值为1或0，三节点DHNN网络应 有23 = 8种状态。选择随机异步更新方式。 第1步： 若������1 被随机选中，而������2 、������3 状态保持不变，则有
������1 (1) = ������[(−0.5) ∙ 0 + 0.2 ∙ 0 − (−0.1)] = ������(0.1) = 1，
例11：设有3节点DHNN网，权值与阈值均 已标在图中，初始状态为 ������(0) = ������1 (0), ������2 (0), ������3 (0)
（本例规定������ 0 = 0）
13
T
= 0,0,0 T 。
试用异步工作方式计算网络演变过程的状态。
������1
−0.1 -0.5 0.2
19
3.3.2.2 DHNN网络的稳定状态与能量井
稳定状态 DHNN网是一个离散的非线性动力学系统，网络 从初态������(0)开始，若能经有限次递归后，其状态 不再发生变化，即������ ������ + ∆������ ＝������ ������ , ∀∆������ > 0，则 称该网络是稳定的。此时的状态������ ������ 称为稳定状 态(稳定点)或吸引子。
即：������ 3 = 1, 0, 1 T 。
(2) 假定按������3 → ������2 → ������1 的顺序异步更新输出状态
第1步，更新������3 、而������1 和������2 的输出状态保持不变，有： ������3 1 = ������ 0.2 ∙ 0 + 0.6 ∙ 0 − 0 = ������ 0 = 0 ������������ 1 = ������������ 0 , ������ = 1,2， 即：������ 1 = 0, 0, 0 T 。
(并行模式)
网络的同步工作方式
网络的同步工作方式是一种并行方式，每次有多 个神经元的输出状态发生变化，其余的神经元的 状态保持不变，变化的神经元可以随机地选取， 也可以按照一定的顺序进行。
12
如果所有神经元的输出状态同时发生变化，则称 为全并行工作方式。
注： 已知网络的权值和阈值，基于相应的工作模式， 即可得到网络的状态转移关系。
3.3.3 连续型Hopfield神经网络
2
3.3 动态神经网络
3.3.1 基本概念
神经网络的分类 (按信息流向) 前馈式和反馈式。
前馈网络：主要研究网络的输出与输入间的映射 关系；输出由当前输入和权矩阵决定，与网络先 前的输出状态无关；设计与分析简单。
反馈网络：主要研究动力系统的稳定特性；网络 中至少存在一条反馈回路；设计与分析复杂。
3.3.2.1 网络的结构与工作方式
������1 ������2
…
������������
…
������������
������1
…
������2
������������
…
������������
9
网络的状态
DHNN网中的每个神经元都有相同的功能，其输 出称为状态，用������������ 表示。 所有神经元状态的集合就构成反馈网络的状态： ������ = ������1 , ������2 , … , ������������
16
0.4 001 0.0
w 11
y3
NN
N
计算过程表 明，利用随 机异步更新 1 2 3 N 输出状态的 工作方式， 研究起来比 —1—20 二值型Hopfield网络结构 较复杂，因 V 1 0.1 此通常更多 地使用输出 -0.5 0.2 状态的同步 更新方式。
2
1/3 2/3
1/3
-0.1
1/3
������2 (1) = ������[(−0.5) ∙ 0 + 0.6 ∙ 0 − 0] = ������(0) = 0 ；
即：������ 1 = 0, 0, 0 T 。
������1 (2) = ������[(−0.5) ∙ 0 + 0.2 ∙ 0 − (−0.1)] = ������(0.1) = 1
V
0.0 0.6
0.0
V
3
(a) 已知网络权值初值 圈内为阀值
若选用指定顺序的异步工作方式，则状态转移不具有 随机性。如： (1) 假定按������2 → ������1 → ������3 的顺序异步更新输出状态
第1步，更新������2 、而������1 和������3 的输出状态保持不变，有： ������������ 1 = ������������ 0 , ������ = 1,3，
3.1 神经网络概述 3.2 前向神经网络 3.3 动态神经网络 3.4 径向基函数神经网络
1
3.3 动态神经网络
3.3.1 基本概念 3.3.2 离散型Hopfield神经网络
3.3.2.1 网络的结构与工作方式 3.3.2.2 DHNN网络的稳定状态与能量井 3.3.2.3 DHNN网络的稳定性 3.3.2.4 DHNN网络的应用——联想记忆
T
反馈网络的外部输入就是网络的状态初始值，表 示为： ������(0) = ������1 0 , ������2 0 , … , ������������ 0 T 反馈网络在外界输入激发下，从初始状态进入动 态演变过程，变化规律为： ������������ (������ + 1) = ������ ������������������������ (������ + 1) , ������ = 1,2, ⋯ , ������
第2步，更新������1 、而������2 和������3 的输出状态保持不变，有： ������������ 2 = ������������ 1 , ������ = 2,3， 即：������ 2 = 1, 0, 0 T 。
17
第3步，更新������3 、而������1 和������2 的输出状态保持不变，有： ������3 (3) = ������[0.2 ∙ 1 + 0.6 ∙ 0 − 0] = ������(0.2) = 1； ������������ 3 = ������������ 2 , ������ = 1,2，
7
注：也有文献将反馈网络中接受输出反馈信号的所有神经元都称为输入神经 元，其中的输入包括外部输入和内部反馈输入两部分；输出神经元类似。
例10：含有4个单元的基本Hopfield网络。
对应于输入模 式的外部输入 不同于由网络 输出反馈至各 神经元的输入， 前者提供了网 络的初始状态， 后者是构成动 力系统的必要 条件。
状态变为100；
14
若������2 被随机选中，而������1 、������3 状态保持不变，则有 ������2 (1) = ������[(−0.5) ∙ 0 + 0.6 ∙ 0 − 0] = ������(0) = 0，状态 仍为000； 若������3 被随机选中，而������1 、������2 状态保持不变，则有 ������3 (1) = ������[0.2 ∙ 0 + 0.6 ∙ 0 − 0] = ������(0) = 0 ， 状 态 仍 为000。 因输出状态可能改变的单个神经元是等概率被选中 1 的，故状态变为100的概率为 ，而保持不变的概率
外部输入单元和输出单元的确定
a) b) c) d)
假定网络共有ℎ个神经元，输入向量的维数为������， 输出向量的维数为������。 若指定网络中的������个神经元直接接受对应于输入 向量的信号，则称这������个神经元为输入神经元。 若指定网络中的������个神经元用于输出计算结果 时，就称这������个神经元为输出神经元。 当������ = ������ = ℎ时，网络退化为最简单的形式， 称为基本的Hopfield网络。
全互联型，三种画法等价；若含一条(以上)红色虚线，则为含自环的全互联型。
典型反馈网络：Hopfield网络、Boltzmann机 网络、Kohonen网络。
5
Hopfield网络
1982 年 ， 美 国 加 州 理 工 学 院 物 理 学 家 J.J. Hopfield教授提出一种离散型的单层全互联反馈 神经网络，可用作联想存储器——Hopfield网络。 1984年，Hopfield又提出连续型的单层全互联 反馈网络，可用作优化计算。 1987年，贝尔实验室基于Hopfield网络成功开 发了神经网络芯片。 根据激励函数的不同，可分为
������1 ������1
������2 ������2
������3 ������3
������4 ������4
根据实际情况，反馈网络的输入模式(外部输入)可以 始终加在网络上；也可以是仅起初始化状态的作用， 即认为初始化后即撤除外部输入。 为分析简单起见，本课程中的分析假定基于后者。
8
3.3.2 离散型Hopfield神经网络
2 为 。 3 3
第2步： 以第1步所得到的状态100为新的初始态，进行类似 计算，可以得到整个状态转移图。
15
w13 y1 w w21 w
12 22
w 1N y2 w 33 w w ... y 1/3 1/3 0.0 010 1/3 0.0 110 1/3 1/3 000 1/3 100 2/3 1/3 1/3 2/3 101 -0.3 1/3 2/3 -0.4 111 (b) 网络状态转移 圈内为状态 线上为转移概率 1/3 011 -0.6 3/3
������2
0 0.6
0
������3
解：
设各节点状态取值为1或0，三节点DHNN网络应 有23 = 8种状态。选择随机异步更新方式。 第1步： 若������1 被随机选中，而������2 、������3 状态保持不变，则有
������1 (1) = ������[(−0.5) ∙ 0 + 0.2 ∙ 0 − (−0.1)] = ������(0.1) = 1，
例11：设有3节点DHNN网，权值与阈值均 已标在图中，初始状态为 ������(0) = ������1 (0), ������2 (0), ������3 (0)
（本例规定������ 0 = 0）
13
T
= 0,0,0 T 。
试用异步工作方式计算网络演变过程的状态。
������1
−0.1 -0.5 0.2
19
3.3.2.2 DHNN网络的稳定状态与能量井
稳定状态 DHNN网是一个离散的非线性动力学系统，网络 从初态������(0)开始，若能经有限次递归后，其状态 不再发生变化，即������ ������ + ∆������ ＝������ ������ , ∀∆������ > 0，则 称该网络是稳定的。此时的状态������ ������ 称为稳定状 态(稳定点)或吸引子。
即：������ 3 = 1, 0, 1 T 。
(2) 假定按������3 → ������2 → ������1 的顺序异步更新输出状态
第1步，更新������3 、而������1 和������2 的输出状态保持不变，有： ������3 1 = ������ 0.2 ∙ 0 + 0.6 ∙ 0 − 0 = ������ 0 = 0 ������������ 1 = ������������ 0 , ������ = 1,2， 即：������ 1 = 0, 0, 0 T 。
(并行模式)
网络的同步工作方式
网络的同步工作方式是一种并行方式，每次有多 个神经元的输出状态发生变化，其余的神经元的 状态保持不变，变化的神经元可以随机地选取， 也可以按照一定的顺序进行。
12
如果所有神经元的输出状态同时发生变化，则称 为全并行工作方式。
注： 已知网络的权值和阈值，基于相应的工作模式， 即可得到网络的状态转移关系。
3.3.3 连续型Hopfield神经网络
2
3.3 动态神经网络
3.3.1 基本概念
神经网络的分类 (按信息流向) 前馈式和反馈式。
前馈网络：主要研究网络的输出与输入间的映射 关系；输出由当前输入和权矩阵决定，与网络先 前的输出状态无关；设计与分析简单。
反馈网络：主要研究动力系统的稳定特性；网络 中至少存在一条反馈回路；设计与分析复杂。
3.3.2.1 网络的结构与工作方式
������1 ������2
…
������������
…
������������
������1
…
������2
������������
…
������������
9
网络的状态
DHNN网中的每个神经元都有相同的功能，其输 出称为状态，用������������ 表示。 所有神经元状态的集合就构成反馈网络的状态： ������ = ������1 , ������2 , … , ������������
16
0.4 001 0.0
w 11
y3
NN
N
计算过程表 明，利用随 机异步更新 1 2 3 N 输出状态的 工作方式， 研究起来比 —1—20 二值型Hopfield网络结构 较复杂，因 V 1 0.1 此通常更多 地使用输出 -0.5 0.2 状态的同步 更新方式。
2
1/3 2/3
1/3
-0.1
1/3
������2 (1) = ������[(−0.5) ∙ 0 + 0.6 ∙ 0 − 0] = ������(0) = 0 ；
即：������ 1 = 0, 0, 0 T 。
������1 (2) = ������[(−0.5) ∙ 0 + 0.2 ∙ 0 − (−0.1)] = ������(0.1) = 1
V
0.0 0.6
0.0
V
3
(a) 已知网络权值初值 圈内为阀值
若选用指定顺序的异步工作方式，则状态转移不具有 随机性。如： (1) 假定按������2 → ������1 → ������3 的顺序异步更新输出状态
第1步，更新������2 、而������1 和������3 的输出状态保持不变，有： ������������ 1 = ������������ 0 , ������ = 1,3，