第5章_神经网络在控制中的应用

J
(1) wij
ˆ ) w (j2) H ' xi ( y y
College of Electrical and Information Engineering, Hunan Univ.
14
5.1 神经网络辨识
5.1.3. 递归神经网络系统辨识 神经网络的结构与前向多层神经网络相似，不 同的是，递归神经网络在某层上的神经元对于自身 有一个反馈。由于反馈的存在，网络本身构成了一 个动态的动力学系统，能够较好地反应系统的动态 特性。
( 2) n m1 (1) ˆ (t ) w j ( y wij xi ) j 1 i 1

l

X [ x1 , x2 ,, xnm1 ]
[ y(t 1), y(t 2),, y(t n), u(t ), u(t 1),, u(t m)]
College of Electrical and Information Engineering, Hunan Univ. 10
5.1 神经网络辨识
5.1.2多层前向BP网络的系统辨识
假设非线性对象的数学模型可以表示为：
y(t ) f ( y(t 1), y(t 2), y(t n), u (t ), u (t 1), , u (t m))
神经网络用于系统辨识的关键在于网络中神经元连 接强度等参数的确定。这些参数通常是通过某种学习算 法，并利用被辨识的输入输出数据进行训练得到的。
College of Electrical and Information Engineering, Hunan Univ.
6
5.1 神经网络辨识
经典的系统辨识方法
递归神经网络结构
College of Electrical and Information Engineering, Hunan Univ. 16
5.1 神经网络辨识
递归神经网络的输入输出关系可以描述为：
yk

j 1
l
2) w (jk H
n

i 1
(1) wij ( xi (t )
21
5.2 神经网络控制
5.2.2 神经网络逆控制
逆动力学 期望值r NNC 被控对象 输出值y
目标函数
自适应逆控制的基本思想就是用被控对象传递函数的逆模型作为串联 控制器对控制对象实施开环控制。 神经网络先离线学习被控对象的逆动力学模型，然后用作对象的前馈 串联控制器。由于开环控制缺乏稳定性，所以神经网络还需要根据系 统的反馈误差在线继续学习逆动力学模型
经典的系统辨识方法的发展已经比较成熟和完善，他 包括阶跃响应法、脉冲响应法、频率响应法、相关分析法、 谱分析法、最小二乘法和极大似然法等。其中最小二乘法 (LS)是一种经典的和最基本的，也是应用最广泛的方法。 但是，最小二乘估计是非一致的，是有偏差的，所以为了 克服他的缺陷，而形成了一些以最小二乘法为基础的系统 辨识方法：广义最小二乘法(GI S)、辅助变量法(IV)、增广 最小二乘法(EI，S)和广义最小二乘法(GI S)，以及将一般 的最小二乘法与其他方法相结合的方法，有最小二乘两步 法(COR—I S)和随机逼近算法等。
College of Electrical and Information Engineering, Hunan Univ.
8
5.1 神经网络辨识
最小二乘法
1、高斯使用的最小二乘法的方法发表于1809年他的著作 《天体运动论》中。 2、法国科学家勒让德于1806年独立发现“最小二乘法”， 但因不为世人所知而默默无闻。 3、勒让德曾与高斯为谁最早创立最小二乘法原理发生争 执。 4、1829年，高斯提供了最小二乘法的优化效果强于其他 方法的证明，因此被称为高斯-马尔可夫定理。
20
5.2 神经网络控制
5.2.1 神经网络直接反馈控制系统
学习算法
期望值r
e 神经网络控制器 被控对象
y
神经网络直接用作误差闭环系统的反馈控制器，神经网络控制器首 先利用其它已有的控制样本进行离线训练，而后以系统的误差的均 方差为评价函数进行在线学习。
College of Electrical and Information Engineering, Hunan Univ.
4
5.1 神经网络辨识
系统辨识是根据系统的输入输出时间函数来确定描述 系统行为的数学模型，是现代控制理论中的一个分支。对 系统进行分析的主要问题是根据输入时间函数和系统的特 性来确定输出信号。 系统辨识是自适应控制的关键所在，它通过测量对象 的输入输出状态来估计对象的数学模型，使建立的数学模 型和对象具有相同的输入输出特性。 复杂控制系统大都 具有很强的不确定性，使得它的数学模型在控制过程中会 发生变化，可以用辨识方法来在线估计其准确的数学模型。 进而调整控制器，来达到提高系统性能的目的。 神经网络对非线性函数具有任意逼近和自学习能力， 为系统的辨识，尤其是非线性动态系统的辨识提供了一条 十分有效的途径。
19
5.2 神经网络控制
神经网络在控制中主要起以下作用：
(1)基于精确模型的各种控制结构中充当对象的模型； (2)在反馈控制系统中直接充当控制器的作用； (3) 在传统控制系统中起优化计算作用； (4)在与其它智能控制方法和优化算法相融合中, 为其提供对象模型、 优化参数、推理模型及故障诊断等。
College of Electrical and Information Engineering, Hunan Univ.
College of Electrical and Information Engineering, Hunan Univ.
15
5.1 神经网络辨识
5.1.3. 递归神经网络系统辨识
( 0) w1
x1
(1) w11
( 2) w11
y1
x2
y2
„„
xn
( 0) wn
(1) wnl
ym
( 2) wlm
系统辨识是自适应控制的关键所在，它通过测量对象 的输入输出状态来估计对象的数学模型，使建立的数学模 型和对象具有Βιβλιοθήκη Baidu同的输入输出特性。
神经网络系统辨识实质上是选择一个适当的神经网络 模型来逼近实际系统的数学模型。
College of Electrical and Information Engineering, Hunan Univ.
其中f是描述系统特征的未知非线性函数，m，n分别为输入输出的阶 次。则可以利用多层前向BP网络来逼近非线性函数，进而估计对象 的模型。
College of Electrical and Information Engineering, Hunan Univ.
11
5.1 神经网络辨识
u(t) 对象
y(t-1) Z-1
则网络训练的BP算法可以描述为：
w (j2) (t 1) w (j2) (t ) 1 J w (j2)
(1) (1) wij (t 1) wij (t ) 2
J
(1) wij
n m1 (1) ˆ y J ˆ )H ( y y wij xi ˆ w ( 2) w (j2) y i 1 j J
College of Electrical and Information Engineering, Hunan Univ.
3
第五章神经网络在控制中的应用
神经网络在控制中的应用 神经网络辨识技术 神经网络控制技术
College of Electrical and Information Engineering, Hunan Univ.
17
5.1 神经网络辨识
由于递归神经网络本身具有动态反馈环，可以记录以前的状态，因此用 递归神经网络来对非线性对象进行辨识时只需以对象当前的输入状态 u(t)和前一时刻的输出状态y(t-1)作为网络的输入即可，与前向多层神经 网络相比，网络的结构较为简单。
学习算法
递归网络
ˆ (k ) y
u (k )
wi(0) xi (t
1))
H（*）表示隐层神经元的激发函数 Wij(1),Wjk(2)分别表示网络第1-2层和2-3层的连接权值 Wi(0)表示网络第一层的递归权值
College of Electrical and Information Engineering, Hunan Univ.
College of Electrical and Information Engineering, Hunan Univ. 5
5.1 神经网络辨识
神经网络系统辨识实质上是选择一个适当的神经网 络模型来逼近实际系统的数学模型。 它通过直接学习系 统的输入输出数据，使所要求的误差函数达到最小，来 归纳出隐含在系统输入输出数据中的关系。只要神经网 络的输出能够逼近同样输入信号激励的输出，则认为神 经网络已充分体现实际系统特性，完成了对系统的辨识。
College of Electrical and Information Engineering, Hunan Univ.
9
5.1 神经网络辨识
5.1.1 神经网络系统辨识的原理
系统辨识的原理就是 通过调整辨识模型的 结构来使e最小。
对象
u
y
e
辨识模型
ˆ y
在神经网络系统辨识中，神经网络用作辨识模型，将对象的输入输出状 态u，y看作神经网络的训练样本数据，以J=1/2e2作为网络训练的目标， 则通过用一定的训练算法来训练网络，使J足够小，就可以达到辨识对 象模型的目的。
y (k 1)
z
1
+
e( k )
动态对象
y(k )
18
College of Electrical and Information Engineering, Hunan Univ.
5.1 神经网络辨识
神经网络对非线性函数具有任意逼近和自学习能力， 为系统的辨识，尤其是非线性动态系统的辨识提供了一条 十分有效的途径。
College of Electrical and Information Engineering, Hunan Univ. 7
5.1 神经网络辨识
最小二乘法
1801年，意大利天文学家朱赛普· 皮亚齐发现了第一 颗 小行星谷神星。经过40天的跟踪观测后，由于谷神星运行 至太阳背后，使得皮亚齐失去了谷神星的位置。随后全世 界的科学家利用皮亚齐的观测数据开始寻找谷神星，但是 根据大多数人计算的结果来寻找谷神星都没有结果。时年 24岁的高斯也计算了谷神星的轨道。奥地利天文学家海因 里希· 奥尔伯斯根据高斯计算出来的轨道重新发现了谷神 星。
第五章神经网络在控制中的应用
第五章神经网络在控制中的应用
传统的基于模型的控制方法，是根据被控对 象的数学模型及对控制系统要求的性能指标来设 计控制器，并对控制规律加以数学解析描述从而 对系统进行控制。 而现代复杂生产中的控制对象和过程大多具 有非线性、时变性、不确定性、多层次、多因素 等特点，难以建立精确的数学模型，用传统的控 制方法难以取得很好的效果。
y(t)
„ „
多层前向BP网络系统辨识原理图
College of Electrical and Information Engineering, Hunan Univ. 12
„
Z-1 y(t-n) Z-1 u(t-1) Z-1
ˆ (t ) y
BP
„ „
„
u(t-n)
5.1 神经网络辨识
网络的输出可以通过下式计算得到：
H（*）表示隐层神经元的激发函数 Wij(1),Wj(2)分别表示网络第1-2层和2-3层的连接权值
College of Electrical and Information Engineering, Hunan Univ.
13
5.1 神经网络辨识
定义网络训练的目标函数为：
ˆ (t )) 2 J1 ( y ( t ) y 2
College of Electrical and Information Engineering, Hunan Univ.
2
第五章神经网络在控制中的应用
神经元网络虽然不善于显示表达知识，但它 具有很强的学习能力和自适应能力，能够充分逼 近任意复杂的非线性系统，能够学习和适应严重 不确定性系统的动态特性。 另外，由于大量神经元之间广泛链接，即使 少量神经元连接损坏，也不影响系统整体功能， 在控制中可以表现出很强的鲁棒性和容错性。因 此神经网络在解决高度非线性和严重不确定性系 统的控制方面具有良好效果。