神经网络的基本理论

7
生物神经元
神经元之间的联系主要依赖其突触的联接作用。这 种突触的联接是可塑的，也就是说突触特性的变化是受到 外界信息的影响或自身生长过程的影响。生理学的研究归 纳有以下几个方面的变化：
(1)突触传递效率的变化。首先是突触的膨胀以及由此 产生的突触后膜表面积扩大，从而突触所释放出的传递物 质增多，使得突触的传递效率提高。其次是突触传递物质 质量的变化，包括比例成分的变化所引起传递效率的变化 。
11
生物神经元
神经元具有如下功能： • (1) 兴奋与抑制：如果传入神经元的冲动经整合后使
细胞膜电位升高，超过动作电位的阈值时即为兴奋状 态，产生神经冲动，由轴突经神经末梢传出。如果传 入神经元的冲动经整合后使细胞膜电位降低，低于动 作电位的阈值时即为抑制状态，不产生神经冲动。 • (2) 学习与遗忘：由于神经元结构的可塑性，突触的 传递作用可增强和减弱，因此神经元具有学习与遗忘 的功能。
3
生物神经元
神经生理学和神经解剖学的研究表明，人脑极其复杂，由一千多 亿个神经元交织在一起的网状结构构成，其中大脑皮层约140亿个神 经元，小脑皮层约1000亿个神经元。
人脑能完成智能、思维等高级活动，为了能利用数学模型来模拟 人脑的活动，导致了神经网络的研究。
神经系统的基本构造是神经元(神经细胞)，它是处理人体内各部 分之间相互信息传递的基本单元。
(2)突触接触间隙的变化。在突触表面有许多形状各异 的小凸芽，调节其形状变化可以改变接触间隙，并影响传 递效率。
8
生物神经元
(3)突触的发芽。当某些神经纤维被破坏后，可能 又会长出新芽，并重新产生附着于神经元上的突 触．形成新的回路。由于新的回路的形成，使得结合 模式发生变化，也会引起传递效率的变化。
12
生物神经元
以上是从宏观上分析了人脑信息处理特点。从信息系统研究的观 点 出发，对于人脑这个智能信息处理系统，有如下一些固有特征：
(1)并行分布处理的工作模式。 实际上大脑中单个神经元的信息处理速度是很慢的，每次约
1毫秒(ms)，比通常的电子门电路要慢几个数量级。每个神经元 的处理功能也很有限，估计不会比计算机的一条指令更复杂。
但是人脑对某一复杂过程的处理和反应却很快，一般只需几 百毫秒。例如要判定人眼看到的两个图形是否一样，实际上约需 400 ms，而在这个处理过程中，与脑神经系统的一些主要功能， 如视觉、记亿、推理等有关。按照上述神经元的处理速度，如果 采用串行工作模式，就必须在几百个串行步内完成，这实际上是 不可能办到的。因此只能把它看成是一个由众多神经元所组成的 超高密度的并行处理系统。例如在一张照片寻找一个熟人的面 孔，对人脑而言，几秒钟便可完成，但如用计算机来处理，以现 13 有的技术，是不可能在短时间内完成的。由此可见，大脑信息处
第四章 神经网络的基本理 论
1
引言
模糊控制从人的经验出发，解决了智能控制中人类语言的描述和推 理问题，尤其是一些不确定性语言的描述和推理问题，从而在机器模拟 人脑的感知、推理等智能行为方面迈出了重大的一步。
模糊控制在处理数值数据、自学习能力等方面还远没有达到人 脑的境界。人工神经网络从另一个角度出发，即从人脑的生理学和心理 学着手，通过人工模拟人脑的工作机理来实现机器的部分智能行为。
2
引言
人工神经网络（简称神经网络，Neural Network）是模 拟人脑思维方式的数学模型。
神经网络是在现代生物学研究人脑组织成果的基础上提 出的，用来模拟人类大脑神经网络的结构和行为。神经网络反 映了人脑功能的基本特征，如并行信息处理、学习、联想、模 式分类、记忆等。
20 世 纪 80 年 代 以 来 ， 人 工 神 经 网 络 （ ANN ， Artificial Neural Network）研究取得了突破性进展。神经 网络控制是将神经网络与控制理论相结合而发展起来的智能控 制方法。它已成为智能控制的一个新的分支，为解决复杂的非 线性、不确定、未知系统的控制问题开辟了新途径。
10
生物神经元
突触的信息处理
• 生物神经元传递信息的过程为多输入、单输出 • 神经元各组成部分的功能来看，信息的处理与传
递主要发生在突触附近 • 当神经元细胞体通过轴突传到突触前膜的脉冲幅
度达到一定强度，即超过其阈值电位后，突触前 膜将向突触间隙释放神经传递的化学物质 • 突触有两种类型，兴奋性突触和抑制性突触。前 者产生正突触后电位，后者产生负突触后电位
6
生物神经元
神经元的构成： （1）细胞体（主体部分）：包括细胞质、细胞膜和细胞核； （2）树突：用于为细胞体传入信息； （3）轴突：为细胞体传出信息，其末端是轴突末梢，含传递信息的化学 物质； （4）突触：是神经元之间的接口（104~105个/每个神经元）。
通过树突和轴突，神经元之间实现了信息的传递。
(4)突触数目的增减。由于种种复杂环境条件的刺 激等原因，或者由于动物本身的生长或衰老，神经系 统的突触数目会发生变化，并影响神经元之间的传递 效率。
9
生物神经元
神经元对信息的接受和传递都是通过突触来进行的。 单个神经元可以从别的细胞接受多个输入。由于输入分布于 不同的部位，对神经元影响的比例(权重)是不相同的。另外，各 突触输入抵达神经元的先后时间也不一祥。因此，一个神经元接 受的信息，在时间和空间上常呈现出一种复杂多变的形式，需要 神经元对它们进行积累和整合加工，从而决定其输出的时机和强 度。正是神经元这种整合作用，才使得亿万个神经元在神经系统 中有条不紊、夜以继日地处理各种复杂的信息，执行着生物中枢 神经系统的各种信息处理功能。 多个神经元以突触联接形成了一个神经网络。研究表明，生 物神经网络的功能决不是单个神经元生理和信息处理功能的简单 叠加，而是一个有层次的、多单元的动态信息处理系统。 它们有其独特的运行方式和控制机制，以接受生物内外环境 的输入信息，加以综合分折处理，然后调节控制机体对环境作出 适当的反应。
4
生物神经元
单个神经元的解剖图
每个神经元都由一个细胞体，一个连接其他神经元的轴突和一些向外 伸Baidu Nhomakorabea的其它较短分支—树突组成。
5
生物神经元
轴突功能是将本神经元的输出信号(兴奋)传递给别的神经元，其末 端的许多神经末梢使得兴奋可以同时传送给多个神经元。
树突的功能是接受来自其它神经元的兴奋。 神经元细胞体将接收到的所有信号进行简单地处理后，由轴突输出。 神经元的轴突与另外神经元神经末梢相连的部分称为突触。