混沌神经网络理论及其实证分析
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
时间 预测值 实际值
表 1 预测值与实际值结果对照
2002
2003
2004
56.23%
60.39%
61.69%
53.61%
59.28%
60.98%
2005 62.85% 61.11%
由上表可知,预测值与实际值接近,平均相对误差为 1.045%,精度高,表明基于混沌 时间序列的神经网络模型具有良好的预测效果。
The traditional method of prediction accuracy is not high, and neural networks has certain subjectivity when structuring a network model. This article will introduce chaotic time series into providing the theory basis to structuring nerve network model in nerve network model. Through examples prove chaotic neural network model to overcome the past BP network which exists learning slow and defects local minimum easily, has the overall situation , fleetness sex and concurrence nature characteristic , is feasible in actual application. Keywords:Chaotic time series;maximal Lyapunov exponent;BP Neural network
-4-
(1)用时间序列选取延滞时间τ ,根据观测数据样本总数 N 构造 m 维空间的新序列,
-1-
http://www.paper.edu.cn
相点数为 n , n = N − (m −1)γ 。
(2)以初始相点 Y (t0 ) 为基点,在点集 {Y (t)} 的其余相点中选取与 Y (t0 ) 最近的点
明混沌神经网络模型克服了以往 BP 网络存在的学习速度慢、容易陷入局部极小的缺陷,具 有全局性、快速性和并行性的特点,在实际应用中是可行的。
关键词:混沌时间序列;最大 Lyapunov 指数;BP 人工神经网络
中图分类号:N949
文章标识:A
在各类神经网络模型中,BP(Back-Propagation 误差后向传播)神经网络模型是最常 用的也是最成熟的模型之一。对 BP 神经网络模型,一般选用三层非循环网络。实践中,BP 网络可能遇到如下问题:局部极小点问题;迭代收敛性及收敛速度引起低效率问题。此外还 有,模型的逼近性质差;模型的学习误差大,记忆能力不强;与线性时序模型一样,模型网 络结构及节点作用函数不易确定;难以解决应用问题的实例规模与网络规模之间的矛盾等 [1]。为克服这样的一些问题,同时为了更好地面向实际问题的特殊性,出现了各种基于神经 网络模型或与之结合的模型创新方法,包括小波神经理论、模糊神经网络、进化神经网络、 细胞神经网络、混沌神经网络应用而生。
个样本在输出层节点 j 的网络输
3. 基于混沌时间序列的神经网络的预测步骤
BP 网络混沌时间序列的预测步骤如下:
(1)根据时间序列 x(t)(t = 0,1, 2 ⋅⋅⋅ N ) 重构相空间,得到嵌人维数 m、时间延迟τ 和 N − (m −1)τ 个 m 维向量,计算最大 Lyapunov 指数,并根据最大 Lyapunov 指数,判断时
5. 结论
采用 Lyapunov 指数和 BP 网络构造预测模式进行就业率时间序列的预测,克服了传统 数序统计预测方法中建立复杂的数学模型,预测准确性低的特点,利用混沌系统对初始值及 其敏感和一定范围内遍历的特点,通过混沌搜索实现全局最优化,有较强的学习能力和更广 泛的适应性。当然,在预测时间上还存在不足,有待进一步的提高。
Y (t j ) 为断点,构成一初始向量,Y (t0 ) − Y (t j ) 间欧式距离可记为 L(t) 。
(3)时间步长为 k , t1 = t0 + k ,初始向量沿轨线向量演化得到一新向量,其相应基点
λ = 1 ln L(t1) 与断点间欧式距离可记为 L(t1) ,在相应时段内系统线度指数增长率记为: k L(t0 )
-3-
http://www.paper.edu.cn
参考文献
[1] 郭嗣宗,陈刚.信息科学中的软计算方法[M].沈阳:东北大学出版社,2001. [2] 吕金虎.混沌时间序列分析及其应用[M].武汉:武汉大学出版社,2002. [3] 陈奉苏.混沌学及其应用[M].北京:中国电力出版社,1998.
由于混沌系统具有遍历性,对初始值及其敏感性以及搜索过程中的最优解保留策略,使 得基于混沌学习算法的网络具有全局最优化性能。克服了在 BP 算法中有时由于初始值选取 不合适而陷入局部极小的缺点。
1. 混沌时间序列理论
1.1 重构相空间
所谓的重构相空间也叫动力系统,即通过一维的时间序列反向构造原系统的相空间结构 [2]。它是混沌时间序列预测的基础,是非线性时间序列分析的重要步骤,混沌时间序列可 看成某一时间变量得到的动力系统方程:
http://www.paper.edu.cn
混沌神经网络理论及其实证分析
崔宁
辽宁工程技术大学机械学院,辽宁阜新(123000)
E-mail:seaning618@126.com
摘 要:传统的预测方法预测精度不高,并且神经网络在构建网络模型时具有一定的主观性。
本文将混沌时间序列引入神经网络模型中,为构建神经网络模型提供理论依据。通过实例证
论,最大 Lyapunov 指数 λ1 的倒数Tm 表示混沌系统确定性预测的数据上届,即最长预报时间。
2. BP 人工神经网络
1989 年 Kolmogoro 证明了具有一个隐层的三层 BP 网络可以有效地逼近任意连续函数, 这个三层 BP 网络包括输入层、隐层和输出层,此三层的神经网络结构如下:
x1
间序列是否混沌和计算可预测时间的长度。 (2)用嵌入维数 m 作为神经网络的输人个数,选择适当的隐含层神经元,构建神经网络。 (3)训练网络,即构造映射。根据第一步所得的向量,采用前面介绍的学习算法,训练
网络。 (4)根据训练结束后的网络,进行预测。
4. 实证分析
就业率已经成为一个城市经济发展水平的一个重要指标。如何预测就业率对调整城市就 业结构已变得至关重要。以某地区 1992-2001 年间 120 组数据作为原始数据。根据 Matlab
x2
xn
……
……
输
隐
输
入
层
出
Biblioteka Baidu
层
层
图 1 BP 网络图
输入向量 X k = ( X1k , X 2k ,⋅⋅⋅, X nk ) ;输出向量 Yk = (Y1k ,Y2k ,⋅⋅⋅,Ymk ) ,期望输出向量
tk = (t1k , t2k ,⋅⋅⋅, tmk ) ;中间隐层单元的输出向量 Zk = (Z1k , Z2k ,⋅⋅⋅, Zqk ) 。设 BP 网络有 p 个
Χ = f (x) 其中, f (x) 称为该动力系统随时间变化的函数式。
又根据 Packard 和 Takens 理论,可以找到一个合适的嵌入维数,在这个嵌入维空间里就
可以把有规律的轨迹恢复出来。所研究的时间序列为 x(t) ,t =0,1,2,…,N,可以得到 m
维延迟矢量:Y (t) = {x(t), x(t + r),⋅⋅⋅, x[t + (m −1)τ ]} ……(1)
其中, m 称为嵌入维数(相点),τ 称为时间延迟量。
1.2 最大 Lyapunov 指数的计算
Lyapunov 指数是研究混沌的一个重要参数。混沌运动的基本特点就是运动对初始条件 极为敏感,两个极靠近的初始值所产生的轨道,随时间推移按指数(Lyapunov 指数)速度 分离,如果最大 Lyapunov 指数人于 0,就可判定该系统为混沌[3]。Wolf 给出在一维数据中 提取 Lyapunov 指数的方法:
计算,时间间隔τ =3,嵌入维数 m=5,最大 Lyapunov 指数 λ =0.236,因 λ 大于 0,就业率 1
的时间序列具有混沌特征。最大可预测时间精度Tm = λ =4 年。因为嵌入维数 m=5,则构造
神经网络模型结构为输入层节点为 5 个,隐含节点为 18 个,输出层节点为 1 个。将样本进 行神经网络训练、迭代,获得网络权值和阈值。最后预测值与实际值对照见表 1.
(4)如此继续,直至所有相点,然后取各指数增长率的平均值为 Lyapunov 指数估计值:
∑ λi
=
1 n
n i =1
1 ln k
L(t1 ) L(ti −1 )
(5)依次增加嵌入维数 m ,重复(2)(3)(4)过程直至 Lyapunov 指数估计值随 m 变
化较为平稳为止,此时得到的计算结果即为所求最大 Lyapunov 指数值。根据混沌动力学理
∑ Zlk
样本,对第 k 个样本有:
=
f
⎡ ⎢⎣
n i =1
ωil
xik
−
θh
⎤ ⎥⎦
,l=1,2,…,q;k=1,2,…,p
∑⎡ m
⎤
Zlk = f ⎢ ω jl x jk −θh ⎥
⎣ j=1
⎦ ,j=1,2,…m;k=1,2,…,p
式中:ω 指相邻两层之间的联结权;
θ 指隐层和输出层单元的阈值;
-2-
http://www.paper.edu.cn
f
指非线性转移函数,一般采用 Sigmoid 函数,即
f
(x)
=
1
1 + e−
x
采用平方型误差函数
计算单个样本误差 Ep 和系统平均误差 E:
∑ Ep
=
1 2
m
(t pj
j =1
−
2
ypj )
出值。
∑ E
=
1 k
k
Ep
p =1
式中:ypj 指第 p
Chaos Neural Network Theory and Empirical Analysis
Cui Ning
School of Mechanical Engineering of Liaoning Technical University,Fuxin,Liaoning(123000) Abstract