(整理)人工神经网络论文.
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
人工神经网络
学号:************ 学生所在学院:信息工程学院***名:*** ***师:***教师所在学院:信息工程学院
2009年12月
目录
第一部分:绪论 (3)
1.1人工神经网络的定义 (3)
1.2人工神经网络的基本原理 (3)
1.3生物神经元 (3)
1.4人工神经元模型 (4)
1.5人工神经网络模型 (5)
1.6.常见神经元响应函数 (7)
1.7.神经网络基本学习算法 (8)
1.7.1有教师学习(监督学习) (8)
1.7.2无教师学习(无监督学习) (8)
1.7.3强化学习(再励学习) (8)
第二部分:反向传播网络 (9)
2.1 BP网络 (9)
2.1.1BP网络主要应用: (9)
2.1.2BP网络特点 (9)
2.1.3多层BP网络简介 (10)
2.2三层BP网络 (10)
2.2.1三层BP网络结构图 (10)
2.2.2三层BP网络学习算法 (11)
2.2.3三层BP网络设计需要考虑的问题 (11)
第三部分:自适应竞争神经网络 (12)
3.1自组织网络 (12)
3.1.1网络类型 (12)
3.1.2网络学习规则 (13)
3.2竞争网络 (13)
3.2.1网络结构 (13)
3.2.2竞争网络原理 (14)
3.2.3网络工作方式 (14)
3.2.4 网络训练 (15)
3.2.5竞争网络的局限性 (15)
第四部分:地震预报的MATLAB实现 (15)
4.1基于人工神经网络的地震预测研究背景 (15)
4.2模型的建立 (16)
4.3自适应竞争网络对地震等级进行预测 (16)
4.3.1数据处理 (16)
4.3.2自适应竞争网络设计 (17)
4.4BP网络对地震的大小进行预测 (18)
4.4.1数据处理 (18)
4.4.2BP网络的设计 (19)
第五部分:作业 (21)
第一部分:绪论
1.1人工神经网络的定义
人工神经网络的定义不是统一的,T.Koholen对人工神经网络的定义:“人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。”
1.2人工神经网络的基本原理
人工神经网络(articles neural network,ANN)结构和工作机理基本上以人脑的组织结构(大脑神经元网络)和活动规律为背景的,它反映了人脑的某些基本特征,但并不是要对人脑部分的真实再现,可以说它是某种抽象、简化或模仿。
1.3生物神经元
神经元是大脑处理信息的基本单元,人脑大约由1011个神经元组成,神经元互相连接成神经网络。神经元以细胞体为主体,由许多向周围延伸的不规则树枝状纤维构成的神经细胞,其形状很像一棵枯树的枝干。主要由细胞体、树突、轴突和突触(Synapse,又称神经键)组成。
图1.1 生物神经元的示意图
生物神经元传递信息的过程为多输入、单输出,神经元各组成部分的功能来看,信息的处理与传递主要发生在突触附近,当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度,即超过其阈值电位后,突触前膜将向突触间隙释放神经传递的化学物质,突触有两种类型,兴奋性突触和抑制性突触。前者产生正突触后电位,后者产生负突触后电位。
1.4人工神经元模型
1通用模型
P1 P2 P n W1
W2
W n
a Σθf
2求和操作
)(∑ℜ
-=i
WiPi f a θ
3响应函数 y=σ(s)
1.5人工神经网络模型
1前向网络 (a)
2从输出到输入有反馈的前向网络 (b)
3用来存储某种模式序列,层内互连前向网络(c)
4限制层内同时动作的神经元;分组功能相互结合型网络(d)
1.6.常见神经元响应函数
a)阈值单元σ(s)= ⎩⎨
⎧<≥0
01
s s
(b)线性单元 y=σ(s)=s
(c)非线性单元:Sigmoid 函数 (1)s
e s -+=11
)(σ
(2)
)tanh()(s s βσ=
1.7.神经网络基本学习算法
1.7.1有教师学习(监督学习)
1.7.2无教师学习(无监督学习)
1.7.3强化学习(再励学习)
a
期望输出
第二部分:反向传播网络
2.1 BP网络
反向传播网络(Back-Propagation Network,简称BP网络)是将W-H学习规则一般化,对非线性可微分函数进行权值训练的多层网络。权值的调整采用反向传播(Back-propagation)的学习算法,它是一种多层前向反馈神经网络,其神经元的变换函数是S型函数。输出量为0到1之间的连续量,它可实现从输入到输出的任意的非线性映射。
2.1.1BP网络主要应用:
(1)函数逼近:用输入矢量和相应的输出矢量训练一个网络逼近一个函数
(2)模式识别和分类:用一个特定的输出矢量将它与输入矢量联系起来;把输入矢量以所定义的合适方式进行分类;
(3)数据压缩:减少输出矢量维数以便于传输或存储
(4)具有将强泛化性能:使网络平滑地学习函数,使网络能够合理地响应被训练以外的输入泛化性能只对被训练的输入/输出对最大值范围内的数据有效,即网络具有内插值特性,不具有外插值性。超出最大训练值的输入必将产生大的输出误差
2.1.2BP网络特点
(1)输入和输出是并行的模拟量
(2)网络的输入输出关系是各层连接的权因子决定,没有固定的算法
(3)权因子通过学习信号调节。学习越多,网络越聪明
(4)隐含层越多,网络输出精度越高,且个别权因子的损坏不会对网络输出产生大的影响只有当希望对网络的输出进行限制,如限制在0和1之间,那么在输出层应当包含S型激活函数。在一般情况下,均是在隐含层采用S型激活函数,而输出层采用线性激活函数。