神经网络基本原理

资料仅供参考,不当之处，请联系改正。
3．神经网络的知识推理与解释
神经网络的知识推理有以下特点：
1)同一层神经元的计算是完全可并行的，层间的传播 是逐层串行的。神经网络的知识推理机制很适合实 现知识的并行推理。
2) 基于神经网络的专家系统的推理时间开销同基于 规则的专家系统的推理时间的开销比较，前者要少 得多。
资料仅供参考,不当之处，请联系改正。
神经网络专家系统与一般专家系统的不同：
❖ 神经元知识库体现在神经元的连接强度（权值） 上，它是分布式存贮的，适合并行处理。 ❖ 推理机是基于神经元的信息处理过程，以MP模 型位基础，采用数值计算方法。 ❖ 神经元网络有成熟的学习算法。 ❖ 容错性很好。
资料仅供参考,不当之处，请联系改正。
资料仅供参考,不当之处，请联系改正。
4.4.1 神经网络的基本原理
❖ 1.神经元的数学模型
1943年，由麦克洛奇和皮兹提出，简称MP模型。
…
细 树
轴
…
胞 突
突
体
资料仅供参考,不当之处，请联系改正。
i1，i2，…… in为神经元的输入量，Oi为神经元 的输入,W ij 为外面神经与该神经连接强度（即权）， θ为阀值，f（x）为该神经元的作用函数：
4.4 神经网络的决策支持
4.4.1 神经网络的基本原理 4.4.2 神经网络的互连结构 4.4.3 神经网络的学习 4.4.4 神经网络专家系统
4.5 遗传算法的决策支持
4.5.1 遗传算法原理 4.5.2 遗传算法的应用
4.6 机器学习的决策支持
4.6.1 机器学习的概念 4.6.2 机器学习的分类
(2)从输出层到输入层有反馈的前向网络
从输出层到输入层有反馈的前向网络简称为反馈神 经网络。
网络中的神经元也是分层排列，但是输入层神经 元在学习过程中接受输出层神经元或部分输出层神经 元的反馈输入。
资料仅供参考,不当之处，请联系改正。
（3）层内有相互结合的前向网络
每一层的神经元除接受前一层神经元的输入之外， 也可接受同一层神经元的输入。
资料仅供参考,不当之处，请联系改正。
2．神经网络的知识自动获取
神经网络是通过实例学习来实现知识自动获取的。
在进行知识获取时，要求领域专家提供学习实例及 其相应的期望解，经过网络自适应学习算法不断修改 网络的权值分布，一旦网络稳定后，就把领域专家求 解该问题的知识和经验(通过提供的学习实例来表示) 分布到网络的互连结构及权值分布上，从而得到推理 所需要的知识库。
资料仅供参考,不当之处，请联系改正。
4.4.3 神经网络的学习
1．无教师学习方法
基本思想：当输入的实例模式进入神经网络后，网络 按预先设定的规则自动调整权值。
2．有教师学习方法
基本思想：对实例k的输入，由神经网络根据当前的权值 分布W (k)计算网络的输出Y（W，k），把网络的计算输 出Y(W，k)与实例k的期望输出Y*（k）进行比较，根据两 者之间的差的某个函数的值来调整网络的权值分布，最 终使差的函数值达到最小。
通过层内神经元之间的相互结合，可以实现同 层神经元之间横向的抑制或兴奋机制，从而可以限 制一层内能同时动作的神经元的个数，或者实现把 一层内的神经元分为若干组，每一组作为一个整体 来动作。
(4)相互结合型网络
资料仅供参考,不当之处，请联系改正。
这种网络中任意两个神经元之间都可能有连接。在不 含反馈的前向网络中，输入信号一旦通过某个神经元就将 输出这个信号的变换值。但是，在相互结合型网络中，输 入信号要在神经元之间反复往返传递，网络处于一种不断 改变状态的动态之中。从某初态开始，经过若干次的状态 变化，网络才会到达某种稳定状态，根据网络的结构和神 经元的映射特性，网络还有可能进入周期振荡或其他平衡 状态，如混沌状态。
资料仅供参考,不当之处，请联系改正。
3）学习算法 4）推理机 5）知识库
主要存放各个神经元之间的连接权值。 6）输入模型转换
将逻辑概念转换为数值形式。 7）输出模型转换
将数值形式的输出转换为逻辑概wenku.baidu.com。
4.4.4 神经网络专家系统 资料仅供参考,不当之处，请联系改正。
1.神经网络的知识表示
基于神经网络的知识表示方法有以下优点： 1)能够表示事物的复杂关系，如模糊因果关系。 2)具有统一的知识表示形式，便于知识的组织。知
识表示形式的通用性强。 3)便于实现知识的自动获取。 4)便于网络的知识推理。
Oi＝f（∑WijIi－ θi）
神经元的输入计算：
i＝1，2，……，n
I＝∑WijIi－ θi （i＝1，2，……，）
资料仅供参考,不当之处，请联系改正。
❖ 2.神经元的作用函数：
（1）阶跃函数 （2）Sigmoid函数 （3）高斯型函数
资料仅供参考,不当之处，请联系改正。
4.4.2 神经网络的互连结构
资料仅供参考,不当之处，请联系改正。
3)基于神经网络的专家系统的解释器可以有一套输 入模式解释规则和—套输出模式解释规则，分别将 用户输入的符号逻辑概念转换成网络的数值输入模 式和把网络的数值输出模式转换成输出的符号逻辑 概念提供给用户。
由于基于神经网络的专家系统的知识表示是隐 式的、非局部的，因此，神经网络专家系统的解释 器难以像基于规则的专家系统那样，通过记录推理 过程使用的规则链，来向用户提供why询问和how询 问的解释。
(1)不含反馈的前向网络
不含反馈的前向网络的结构形态。网络中的神经元分 层排列，接受输入量的神经元节点组成输入层，产生输 出量的神经元节点组成输出层，中间层亦称为隐层，可 以有若干层隐层。每一层的神经元只接受前一层神经元 的输入，输入向量经过各层的顺序变换后，由输出层得 到输出向量。
资料仅供参考,不当之处，请联系改正。
5．神经网络专家系统的结构
用户
知 识
学习 样本
实际问题参数
工 程 师
确定 系统 框架
神经元 学习
知 识
库
输入模型转换 推理机制
输出模型转换
形成 学习样本
实际问题结果
资料仅供参考,不当之处，请联系改正。
1）确定系统框架 ❖ 神经元个数 ❖ 神经元网络层次 ❖ 网络单元的连接 2）学习样本
学习样本是实际问题中已输入与输出结果 的实例、公认的原理、规则与事实；分为线性 样本与非线性样本。