智能控制基础 第五章 神经网络控制

(3) 单元的输出函数
yi (t) fi (Ii (t))
该 输 出 函 数 将 当 前 激 活 值 Ii(t) 映 射成一个输出信号。
(4) 单元之间连接模式 通常情况下认为，每个单元都向
它的连接单元提供了一个可加入性输 入。因此，一个单元的总输入就是与 它输入连接的各单元的输出加权和， 只要确定了系统的各连接的权值，就 能表示出整个连接模式
若总结点（神经元）数为N，则每个 节点有N个输入和一个输出，即所有 节点都是一样的，它们之间都可以相 互连接。 Hopfield 神 经 网 络 是 典 型 的 反 馈 型 网 络。
反馈型神经网络
5.2.4 神经网络的学习方法
体现神经网络智能特征的主要标 志，使神经网络具有自适应、自组织 和自学习的能力。
(5) 学习规则 在神经网络中，改变处理过程或
知识结构，就需修改相互连接模式。 实际上，一切修改都可以归结为通过 学习规则修改连接强度。所有学习规 则都是从Hebb学习规则派生出来的
Hebb学习规则一般形式如下：
Wij g(Ii (t),ti (t))h(y j (t),Wij )
其中，g是单元i的激活值Ii(t)与教师输 入ti(t)的函数，h是单元j的输出值yj(t)与 连接强度Wij的函数。
5.2.1 神经网络的基本原理
(1) 处理单元 任何一种神经网络都是以一组基
本处理单元为基础构造出来的。神经 网络根据处理单元的不同处理功能， 将处理单元分成输入单元、隐藏单元 和输出单元。
(2) 单元集合的激活状态 系统在t时刻的状态用一个N维实
矢量I(t)表示，又称为处理单元集上的 激 活 模 式 。 每 一 分 量 Ii(t) 表 示 对 应 单 元在t时刻的激活值。系统处理过程实 际上就是单元集上的激活模式随时间 变化的过程。
Wi
Delta学习规则（有教师）
5.3 前馈网络
5.3.1 感知器 5.3.2 BP网络 5.3.3 RBF网络
5.3.1 感知器（perceptron）
一个具有单层神经元的神经网络， 并由线性阈值元件组成，是最简单的 前向网络，主要用于模式分类
第五章 神经网络控制
5.1 神经网络概述 5.2 人工神经网络的基本概念 5.3 前馈网络 5.4 反馈网络 5.5 神经网络控制 5.6 NN与GA的系统思维特性
5.1 概述
人脑共有 1010－1012 个神经元
人工神经网络是由许多处理单元，
即神经元，按照一定的拓扑结构相互
连接而成的一种具有并行计算能力的
5.2.2 神经元模型
神经元: 对生物神经元的一种模拟与简化神经网络的基本处理
一个多输入、单输出的非线性元件。
生物神经元
一种简化神经元结构模型
x1 1i
x2 2i
f(·)
yi
xn ni
i
x0=1
n
Ii wij x j i j 1
yi f (Ii )
xj ( j 1, 2, , n) :从其他神经元传来的输入信号
目前神经网络的学习方法有多种， 按有无导师来分类，可分为有教师学 习，无教师学习和再励学习等几大类。
要使神经网络具有学习能力，就是 使神经网络的知识结构变化，目前主要 是指通过一定的学习算法实现对权值的 调整，使其达到具有记忆、识别、分类、 信息处理和问题优化求解等功能。
Hebb学习规则（无教师）
一种联想式学习方法。两个神经 元同时处于激发状态时，它们之间的 连接强度将得到加强。
ij (k 1) ij (k) Ii I j
Delta学习规则（有教师）
设误差准则函数如下：
E
1 2
P
(d p -yp )2
p1
P
Ep
p1
则学习的基本思想是沿着E的负梯度方
向不断修正W值，直到E达到最小。
W (- E )
神经网络与计算机相比的特点
(1) 以大规模模拟并行处理为主 (2) 具有较强的鲁棒性和容错性 (3) 具有较强的自学习能力 (4) 是一个大规模自适应非线性动力学
系统，具有集体运算的能力
神经网络在控制系统中的作用
(1) 在基于模型的各种控制结构中充当 对象的模型
(2) 用作控制器 (3) 在控制系统中起优化计算的作用
神经网络在控制系统中的作用
➢ 神经网络逼近非线性函数的能力为 自动控制理论发展提供了生机
➢ 从控制角度，对神经网络的要求更 注重其实时学习训练能力和网络结 构的简单性
5.2 神经网络的基本概念
5.2.1 神经网络的基本原理 5.2.2 神经元模型 5.2.3 神经网络模型 5.2.4 神经网络的学习方法
网络系统。
每个神经元 有3104种连接
人工神经网络试图通过模拟人脑
神经网络处理信息的方式，从另一角
度，来获得具有人脑那样的信息处理
能 力 。 常 称 之 为 神 经 网 络 (Neural
Network, NN)。
共有
3104 1012 种连接。人脑是 一复杂巨系统
神经网络的基本属性
(1) 非线性：人脑智慧的非线性 (2) 非局域性：神经元相互作用 (3) 非定常性：自适应、自组织 (4) 非凸性：系统演变多样性
（1）前馈型神经网络
又称前向网络（Feedforward NN） 神经元分层排列，有输入层、隐层和 输出层，每一层的神经元只接受前一 层神经元的输入。大部分前馈网络都 是学习网络，常用的有感知器网络和 BP网络。
输入层
隐层
输出层
前馈型神经网络结构
（2）反馈型神经网络（Feedback NN）
wij :表示从神经元j到i的连接权值
i :阈值
f () :激发函数或作用函数
常用的激活函数有如下几种：
（1）阈值型函数
f(x)
1, x 0
1
f (x) 0, x 0
0
sgn(x)
f
(x)
1, -1,
x0 x0
Leabharlann Baidu
f(x) 1
0 -1
（2）饱和型函数
1,
f (x) kx,
-1,
x 1 k
-1 x 1
k
k
x-1 k
f(x) 1
0 -1
（3）双曲函数
f (x) tanh(x)
f(x) 1
0 -1
（4）S型函数
f(x)
1
f
(x)
1
1＋exp(-
x)
,
0
0
（5）高斯函数
f(x)
f
(x)
-x2
e
2
0
5.2.3 神经网络模型
神经网络是以工程技术手段来模 拟人脑神经元网络的结构与特征的系 统。并利用神经元可构成各种不同拓 扑结构的神经网络，它是生物神经网 络的一种模拟和近似。