第三讲(3)人工神经网络(Hopfield)

能量与温度
中温情况下： T比较小，E的大小对P(E)有较大的影响 ，设E1>E2 P(E2)>P(E1)。即，系统处于高能量状态的可能性 小于处于低能量状态的可能性
能量与温度
E1 ) exp( P ( E1) kT lim lim T 0 P ( E 2) T 0 E2 ) exp( kT E1 E 2 lim exp(( )) T 0 kT kT E1 E 2 lim exp( ) T 0 kT
5.1 Hopfield网络的基本概念
网络结构
…
…
X1 Xn
…
… o1
…
…
om
5.2 离散型Hopfield神经网络
Hopfield最早提出的一种反馈网络是二值神
经网络；
采用的神经元是二值神经元；
神经元的输出只取 1和0这两个值，分别表示
神经元处于激活和抑制状态。
5.2 离散型Hopfield神经网络
(b)
(c)
5.3 吸引子与能量函数
吸引子
网络达到稳定时的状态X，称为网络的 吸引子。 如果把问题的解编码为网络的吸引子，从初态向吸引子演 变的过程便是求解计算的过程。 若把需记忆的样本信息存储于网络不同的吸引子，当输 入含有部分记忆信息的样本时，网络的演变过程便是从 部分信息寻找全部信息，即联想回忆的过程。 定义： 若网络的状态X 满足
P(E)——系统处于具有能量E的状态的概 率； k——Boltzmann常数； T——系统的绝对温度(Kelvin)
能量与温度
E lim exp( ) 1 T kT
高温情况下： T足够大，对系统所能处的任意能量状态E，有
E exp kT
将趋近于1
统计Hopfield网与Boltzmann机
• 统计Hopfield网
–在网络运行中，神经元状态与 “人工温度”确定的概 率相关 –网络运行模拟金属退火过程
1 pi neti i 1 exp( ) T
pi：ANi的状态取1的概率 neti：ANi所获网络输入； θ i：ANi的阈值； T：系统的人工温度。
5.2 离散型Hopfield神经网络
二、网络的工作方式
(a)网络的异步工作方式
网络运行时每次只有一个神经元 j 进行状态的调整计 算，其它神经元的状态均保持不变，即
sgn[net j (t )] x j (t 1) x ( t ) j
(b)网络的同步工作方式
j i ji
网络的同步工作方式是一种并行方式，所有神经元 同时调整状态，即
x j (t 1) sgn[netj (t )]
j=1,2,…,n
5.2 离散型Hopfield神经网络
三、网络的稳定性
DHNN网实质上是一个离散的非线性动力学系统。网 络从初态X(0)开始，若能经有限次递归后，其状态不再发 生变化，即X(t+1)＝X(t)，则称该网络是稳定的。 如果网络是稳定的，它可以从任一初态收敛到一个稳态：
一、网络的状态
DHNN网中的每个神经元都有相同的功能，其输出称为状 态，用 xj 表示。 所有神经元状态的集合就构成反馈网络的状态 X=[x1,x2,…,xn]T 反馈网络的输入就是网络的状态初始值，表示为 X(0)=[x1(0),x2(0),…,xn(0)]T 反馈网络在外界输入激发下，从初始状态进入动态演 变过程，变化规律为
模拟退火组合优化法
• 基本思想
– 随机地为系统选择一个初始状态{wij(p)}，在此 初始状态下，给系统一个小的随机扰动Δwij(p)， 计算系统的能量变化 – ΔE=E({wij(p)+Δwij(p)})-E({wij(p)}) – 若 ΔE<0 则接受 E 判断是否被接受 – 若ΔE≥0 则依据概率 exp kT – 若接受，则系统从状态{wij(p)}变换到状态 {wij(p)+Δwij(p)}；否则，系统保持不变
一个顶角，并且最终稳定于一个特定的顶角。
5.2 离散型Hopfield神经网络
对于一个由n个神经元组成的离散Hopfield网络，则有n*n权 系数矩阵w:
一船而言，w和θ可以确定一个唯一的离散Hopfield网络。
5.2 离散型Hopfield神经网络
考虑离散 Hopfield 网络的一
船节点状态；用 Yj(t)表示第j
Boltzmann机的训练
• Boltzmann机的能量函数(一致性函数 )
E wij oi o j j o j
i j j 1
h
• 神经元ANi在运行中状态发生了变化
Ei E (oi 0) E (oi 1)
w
j
ij
o j i
Boltzmann机的训练
(b)
(c)
5.3 吸引子与能量函数
若网络是不稳定的，由于DHNN 网每个节点的状态只有1和-1 两种情况，网络不可能出现无 限发散的情况，而只可能出现 限幅的自持振荡，这种网络称 为有限环网络。 (a)
如果网络状态的轨迹在某个确 定的范围内变迁，但既不重复 也不停止，状态变化为无穷多 个，轨迹也不发散到无穷远， 这种现象称为混沌。 (a) (b)
1 1 lim ( ) kT T 0 exp(E1 E 2) 0

能量与温度
低温情况下： T非常小，E的大小对P(E) 的影响非常大 ，设 E1>E2 P(E2) >> P(E1)。即，当温度趋近于0时，系统几乎
不可能处于高能量状态
模拟退火组合优化法
• 目标函数——能量函数 • 人工温度T——一个初值较大的数 • 依据网络的能量和温度来决定联接权的调 整量（称为步长）。 • 与金属的退火过程（Annealing）非常相似
5.4 统计Hopfield网
统计Hopfield网
–在网络运行中，神经元状态与 “人工温度” 确定的概率相关 –网络运行模拟金属退火过程
1 pi neti i 1 exp( ) T
pi：ANi的状态取1的概率 neti：ANi所获网络输入； θ i：ANi的阈值； T：系统的人工温度。
Байду номын сангаас
x j f ( net j )
j=1,2,…,n
5.2 离散型Hopfield神经网络
三个神经元组成的离散Hopfield神经网络
5.2 离散型Hopfield神经网络
对于二值神经元，有：
输出
输入
且有： Yi=1,当Ui≥θi 时 Yi=0,当Ui<θi 时 对于一个离散的Hopfield网络，其网络状态是输出神经元信息 的集合。对于一个输出层是n个神经元的网络，则其t时刻的状 态为一个n维向量： Y(t)=[Y1(t),Y2(t),...,Yn(t)]T 故而，网络状态有2n个状态；
Lyapunov函数——能量函数
n h 1h h E w ijo i o j x j o j j o j j1 j1 2 i1 j1
•作为网络的稳定性度量
– wijoioj：网络的一致性测度。 – xjoj：神经元的输入和输出的一致性测度。 –θ joj：神经元自身的稳定性的测度。
个神经元，即节点 j 在时刻 t 的状态，则节点的下一个时
刻 (t+1) 的状态可以求出如下：
5.2 离散型Hopfield神经网络
当Wij在i＝j时等于0，则说明一个神经元的输出并不会反馈到它 自己的输入；这时，离散的HopfieId网络称为无自反馈网络。 当Wij在i＝j时不等于0，则说明—个神经元的输出会反馈到它自 己的输入；这时，离散的Hopfield网络称为有自反馈的网络。
– 模拟退火
逃离局部极小点
D
A
B
5.3 吸引子与能量函数
模拟退火算法
• 金属中原子的能量与温度有关 • 原子能量高的时候，有能力摆脱其原来的能量状 态而最后达到一个更加稳定的状态 —— 全局极小 能量状态 • 在金属的退火过程中，能量的状态分布
E P(E)∝ exp kT
5.2 离散型Hopfield神经网络
三神经元输出层的网络状态
推论：对于n个神经元的输出层，它有2n个网络状态，也和一个n维超立方 体的顶角相对应。
5.2 离散型Hopfield神经网络
如果Hopfield网络是一个稳定网络，那么在网络
的输入端加入一个输入向量，则网络的状态会产
生变化，也就是从超立方体的一个顶角转移向另
Boltzmann机的训练
•1986年，Hinton和Sejnowski训练方法
– 自由概率Pij-：没有输入时ANi和ANj同时 处于激发状态的概率。 – 约束概率Pij+：加上输入后ANi和ANj同时 处于激发状态的概率。 – 联接权修改量：Δ wij=α ( Pij+ - Pij-)
5.2 离散型Hopfield神经网络
若网络是不稳定的，由于DHNN 网每个节点的状态只有1和-1 两种情况，网络不可能出现无 限发散的情况，而只可能出现 限幅的自持振荡，这种网络称 为有限环网络。 (a)
如果网络状态的轨迹在某个确 定的范围内变迁，但既不重复 也不停止，状态变化为无穷多 个，轨迹也不发散到无穷远， 这种现象称为混沌。 (a) (b)
X=f(WX-T)
则称X为网络的吸引子。
5.3 吸引子与能量函数
能量函数与模拟退火算法
D
如何逃离局部极小点？
• 联接权修改量
– 太小：落到A点后很难逃离 – 太大：导致在A、B两点来回抖动
A
B
• 解决办法
– 控制联接权修改量的大小：权修改量由大变小 – 允许暂时变坏
• 修改量的大小和网络的“能量”相关
5.4 统计Hopfield网
统计Hopfield网运行算法
1 取一个很大的值作为人工温度T的初值； 2 对网络中每一个神经元ANi， 2.1 按照相应式子计算相应的概率pi； 2.2 按照均匀分布，在[0，1]中取一个随机数r； 2.3 如果 pi>r 则使ANi的状态为1， 否则使ANi的状态为0； 3 逐渐降低温度T，如果温度足够低，则算法结束。 否则，重复2
(a)
(b)
5.2 离散型Hopfield神经网络
三、网络的稳定性
如果 Hopfield 网络的权系数矩阵 w 是一个对称矩阵，并且，对 角线元素为0．则这个网络是稳定的。即是说在权系数矩阵W中， 如果：
则Hopfield网络是稳定的。 应该指出：这只是Hopfield网络稳定的充分条件．而不是必要条件。 推论：无自反馈的权系数对称Hopfield网络是稳定的网络。
5.5 Boltzmann机
Boltzmann机
•Boltzmann机是多级循环网络，是Hopfield网 的一种扩展。 •神经元ANi实际输出状态oi=1的概率为： 1 pi neti i 1 exp( ) T •T趋近于0时，神经元的状态不再具有随机性 ，Boltzmann机退化成一般Hopfield网。
• 如果Δ Ε i>0，则应该选ANi输出为1，否则， 应该选ANi输出为0。 • Δ Ε i的值越大，神经元ANi应该处于状态1 的概率就应该越大。反之，Δ Ε i的值越小， 神经元ANi应该处于状态1的概率就应该越 小。从而，oi=1的概率为： 1 pi Ei 1 exp( ) T
Boltzmann机的训练
• 处于状态a，b的概率Pa和Pb，对应于oi=1和 oi=0，其它的神经元在a，b状态下不变 • Pa=γ pi • Pb =γ （1-pi）
Pa Ea Eb exp( ) Pb T
Boltzmann机的训练
• 网络进行足够多次迭代后，处于某状态的 概率与此状态下的能量和此时系统的温度有 关。 • 由于高温时网络的各个状态出现的概率基 本相同，这就给它逃离局部极小点提供了机 会。 • 当系统的温度较低时，如果Ea<Eb，则 Pa>Pb：网络处于较低能量状态的概率较大
第三讲 人工神经网络 第5节 循环网络
Hopfield网络
Hopfield网络
基本概念
特点
训练方法
5.1 Hopfield网络的基本概念
美国加州理工学院物理学家 J.J.Hopfield 教 授于1982年提出； Hopfield网络可用作联想存储器的互连网络；
Hopfield 神经网络模型是一种循环神经网络 ，从输出到输入有反馈连接； 有离散型和连续型两种。