智能优化算法(数学建模)人工神经网络

月份 销量 1 2056 2 2395 3 2600 4 2298 5 1634 6 1600
数 学 建 模 — 智 能 优 化 算 法
月份
销量
7
1873
8
1478
9
1900
10
1500
11
2046
12
1556
10
谢谢各位！
数 学 建 模 — 智 能 优 化 算 法
11
学习的过程：
• 正向传播：
– 输入样本－－－输入层－－－各隐层－－－输出层
数 学 建 模 — 智 能 优 化 算 法
• 判断是否转入反向传播阶段：
– 若输出层的实际输出与期望的输出（教师信号）不符
• 误差反传
– 误差以某种形式在各层表示－－修正各层单元的权值
• 网络输出的误差减少到可接受的程度 进行到预先设定的学习次数为止

6
BP算法的特点分析
特点

BP网络：多层前向网络(输入层、隐层、输出层) 连接权值：通过Delta学习算法进行修正 神经元传输函数：S形函数 学习算法：正向传播、反向传播 层与层的连接是单向的，信息的传播是双向的
数 学 建 模 — 智 能 优 化 算 法




7
BP算法的特点分析

优点

数学建模
智能优化算法
主讲人：王成章
前言
所谓人工神经网络就是基于模仿生物大脑 的结构和功能而构成的一种信息处理系统。 人是地球上具有最高智慧的动物，而人的 指挥均来自大脑，人类靠大脑进行思考、联想、 记忆和推理判断等，这些功能是任何被称为 “电脑”的一般计算机所无法取代的。 长期以来，许多科学家一直致力于人脑内 部结构和功能的探讨和研究，并试图建立模仿 人类大脑的计算机，虽然到目前对大脑的内部 工作机理还不甚完全清楚，但对其结构已有所 了解。
数 学 建 模 — 智 能 优 化 算 法
9
经典的人工神经网络算法(C.e)
下表为某药品的销售情况，现构建一个如下的三层BP神经 网络对药品的销售进行预测：输入层有三个结点，隐含层 结点数为5，隐含层的激活函数为tansig；输出层结点数为1 个，输出层的激活函百度文库为logsig，并利用此网络对药品的 销售量进行预测，预测方法采用滚动预测方式，即用前三 个月的销售量来预测第四个月的销售量，如用1、2、3月 的销售量为输入预测第4个月的销售量，用2、3、4月的销 售量为输入预测第5个月的销售量.如此反复直至满足预测 精度要求为止。
3
数 学 建 模 — 智 能 优 化 算 法
经典的人工神经网络算法
BP 网络结构
y1
m m
x1 x2
y2
y1
yp
m
m
m m
数 学 建 模 — 智 能 优 化 算 法
y2
x
p1
y
m pm
X [ x1
x2

x p1 ]
T
Y [ y1
m
y2
m

y pm ]
m
T
4
经典的人工神经网络算法
BP算法
很好的逼近特性。
具有较强的泛化能力。 具有较好的容错性。
数 学 建 模 — 智 能 优 化 算 法

缺点

收敛速度慢。 局部极值。 难以确定隐层和隐层结点的数目。
8
经典的人工神经网络算法(C.)
BP算法
MATLAB中BP神经网络的重要函数和基本功能 函数名 newff() tansig() logsig() traingd() 功 能 生成一个前馈BP网络 双曲正切S型(Tan-Sigmoid)传输函数 对数S型(Log-Sigmoid)传输函数 梯度下降BP训练函数
数 学 建 模 — 智 能 优 化 算 法
2
前言(C.)
人工神经网络是根据人的认识过程而开发出的 一种算法。 假如我们现在只有一些输入和相应的输出，而 对如何由输入得到输出的机理并不清楚，那么我们 可以把输入与输出之间的未知过程看成是一个“网 络”，通过不断地给这个网络输入和相应的输出来 “训练”这个网络，网络根据输入和输出不断地调 节自己的各节点之间的权值来满足输入和输出。这 样，当训练结束后，我们给定一个输入，网络便会 根据自己已调节好的权值计算出一个输出。这就是 神经网络的简单原理。
5
经典的人工神经网络算法

第一阶段或网络训练阶段： N 组输入输出样本： 输入 期望输出 训练样本数 xi=[xi1, xi2,…, xip1]T di=[di1, di2,…,dipm]T i=1, 2,…, N
数 学 建 模 — 智 能 优 化 算 法
对网络的连接权进行学习和调整，以使该网络实现 给定样本的输入输出映射关系。 第二阶段或称工作阶段：把实验数据或实际数据输入 到网络，网络在误差范围内预测计算出结果。