bp神经网络数学式子

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

BP 神经网络模型
基本原理简介
近年来全球性的神经网络研究热潮的再度兴起,不仅仅是因为神经科学本身取得了巨大的进展.更主要的原因在于发展新型计算机和人工智能新途径的迫切需要.迄今为止在需要人工智能解决的许多问题中,人脑远比计算机聪明的多,要开创具有智能的新一代计算机,就必须了解人脑,研究人脑神经网络系统信息处理的机制.另一方面,基于神经科学研究成果基础上发展出来的人工神经网络模型,反映了人脑功能的若干基本特性,开拓了神经网络用于计算机的新途径.它对传统的计算机结构和人工智能是一个有力的挑战,引起了各方面专家的极大关注.
模型背景:样本是从2002年到2011年,各地到四川的旅游人数
模型的建立:
第一步:利用MATLAB 软件对BP 神经网络模型的权值进行随机初始化,得到初始化权值1。

给各连接权值{Wij}、{Vjk}及阈值{Rj}、{Tk}赋予(-1,+1)间的随机值。

第二步,重复下述过程直至收敛:
a. 对于k =1到N
a). 计算O ik , net jk 和ŷk 的值(正向过程);
b). 对各层从M 到2反向计算(反向过程);
b. 对同一节点j ∈M ,由式(34.1)和(34.2)计算δjk ;
本模型是含有4个节点的网络,各节点之特性为Sigmoid 型,且指定网络只有一个输出y ,任一节点i 的输出为O i ,并有10个样本(x k ,y k )(k =1,2,3,…,10),对某一输入x k ,网络输出为y k 节点i 的输出为O ik ,节点j 的输入为net jk =∑i ik ij
O W 误差函数定义为∑=-=N k k k y y E 12
)(21
其中k y 为网络实际输出,定义E k =(y k -ŷk )2,
jk k jk E net ∂∂=δ,且O jk =f (net jk
),于是 ik jk k ij jk jk k ij k O E W E W E net net net ∂∂=∂∂∂∂=∂∂=δjk O ik
当j 为输出节点时,O jk =ŷk )net ()(net jk k k jk k k k jk f y y y y E '--=∂∂∂∂= δ (34.1)
若j 不是输出节点,则有
∑∑
∑∑∑∑=∂∂=∂∂∂∂=∂∂∂∂=∂∂'∂∂=∂∂∂∂=∂∂=m i m mj mk mj mk k m i
ik mi jk mk k m jk mk mk
k jk k jk jk
k jk jk jk k jk k jk W W E O W O E O E O E f O E O O E E δδnet net net net )net (net net 因此
⎪⎩⎪⎨⎧=∂∂'=∑ik mk ij k m mj mk jk jk O W E W f δδδ)net ( (34.2)
第三步,修正权值,W ij =W ij -μij W E ∂∂, μ>0, 其中∑∂∂=∂∂N k ij k
ij
W E W E 。

1.开始。

2.连接权值及阈值的初始化。

给各连接权值{Wij}、{Vjk}及阈值{Rj}、{Tk}赋予(-1,+1)间的随机值。

3.将学习数据对提供给网络
随机选取一组输入值Zi=(z1,z2,...,zI )和输出值Dk=(d1,d2,...,dK )提供给网络进行学习。

• 4.计算中间层各单元的输入、输出。

Yj = f (netj ),netj=∑WijZi -Rj ,j = 1......J
5.计算输出层各单元的输入、输出。

Ok= f (netk ),netk=∑VjkYj -Tk ,k = 1......K
6.计算输出层各单元的一般化误差。

Eok=(dk-Ok )Ok (1-Ok )
7.计算中间层各单元的一般化误差。

Eyj=(∑EokVjk)Yj (1-Yj )
8.调整中间层至输出层之间的连接权值,及输出层各单元的阈值。

Vjk (n+1)=Vjk (n )+ ηEokYj
Tk (n+1)=Tk (n )- ηEok
9.调整输入层至中间层之间的连接权值,及中间层各单元的阈值。

Wij (n+1)= Wij (n )+ ηEyjZi
Rj (n+1)= Rj (n )- ηEyj
10.随机选取下一组学习数据对提供给网络,返回到第3布,直到全部数据训练完。

基于BP 神经网络的旅游人口增长时间预测模型
四川未来的旅游人数与之前数年的旅游人数有着必然的联系,旅游的人会因为之前到四川旅游的人的影响而决定是否到四川旅游,所以四川未来的旅游人数必然受到之前旅游人数的影响,这样我们就可以利用之前到四川旅游的人数时间数据列来预测未来到四川旅游的人数。

模型背景:本模型是含有4个节点的网络,各节点之特性为Sigmoid 型,且指定网络只有一个输出y ,任一节点i 的输出为O i ,并有10个样本(x k ,y k )(k =1,2,3,…,10),对某一输入x k ,网络输出为y k 节点i 的输出为O ik ,节点j 的输入为net jk =∑i ik ij
O W
具体算法:
1.输入时间序列P=[ ],X=[ ] (P2002年至2011年的年份,X 指2002年至2011年到四川旅游的人数)
2..对样本进行数值处理,使之变换成BP 神经网络的输入模式对。

这里我们采用数据移动平滑处理,公式为:
1)1()1()0()1(==X X
321)2()1()2()0()0()1(=+=+=X X X
5.45.121)3()2()1()3()0()0()0()1(=++=++=X X X X
5.735.121)4()3()2()1()4()0()0()0()0()1(=+++=+++=X X X X X
3.初始化BP 神经网络各层的权值和阈值,让各层的权值和阈值取个随机数作为初值,wij=random(),vjt=random()。

这里利用MATLAB 软件对BP 神经网络模型的权值进行随机初始化,得到随机初始化权值。

4.对每个模式进行如下循环:
其中k y 为网络实际输出,定义E k =(y k -ŷk )2,
jk k jk E net ∂∂=δ,
且O jk =f (net jk ), 于是ik jk k ij jk jk k ij k O E W E W E net net net ∂∂=∂∂∂∂=∂∂=δjk O ik
当j 为输出节点时,O jk =ŷk
)net ()(net jk k k jk k k k jk f y y y y E '--=∂∂∂∂= δ
若j 不是输出节点,则有
∑∑∑∑∑∑=∂∂=∂∂∂∂=∂∂∂∂=∂∂'∂∂=∂∂∂∂=∂∂=
m i m mj mk mj mk k m i
ik mi jk mk k m jk mk mk
k jk k jk jk
k jk jk jk k jk k jk W W E O W O E O E O E f O E O O E E δδnet net net net )net (net net 因此 ⎪⎩⎪⎨⎧=∂∂'=∑ik mk ij k m mj mk jk jk O W E W f δδδ)net (
5.计算bj 和ci
6.计算各层误差,误差函数定义为∑=-=N k k k y y E 12
)(21
7.判断是否循环至样本集总数,否则返回步骤4
8.计算总误差E ,E 为各样本误差总和并判断E 是否满足精度要求,若E<e 则学习停止
9.修改权值和阈值,并转到步骤4
10. 贮存ij w ,jt v 以备预测值的计算
11. 计算未来旅游人口预测值
在网络训练之后,预测的行程时间可由下式求得:
11/[1exp[]]]]n
X jt j t j T v y θ==+-++∑
12.对Tt 值进行数据处理即得四川未来的旅游人口的预测结果。

预测模型的优缺点分析
神经网络预测模型的缺点:由于BP算法是一种梯度收索算法,因此对于高度非线性的问题,常常会使收索陷入局部极小,而不是全局最小,加之在预测模型中未考虑四川旅游点发生的地质灾害等对旅游人数的影响,所以难免会带来一定误差。

为了减少误差,可能要对网络进行工作量极大的训练才能实现。

神经网络模型的优点:可以不断的对其进行实时修正。

在矿山运输系统中,许多客观条件如路面质量会随时间的推移而变化,因为神经网络具有自学习的功能,所以不断用新数据来训练网络,可以不断更具环境变化来修正预测模型。

另外,当训练好网络后,网络的计算则是相当容易而快捷的这对于解决实时调度问题具有极大的好处。

结语
应用人工智能神经网络原理进行人口增长时间模型,能很好地实现实时动态预测。

因此,选择最佳网络结构成为网络设计的关键。

神经网络模型是实际问题的一种非线性映射。

通过大量的样本学习和训练,使这种映射是对该研究对象的旅游人数随增长的最佳逼近。

相关文档
最新文档