混沌神经网络研究进展与展望_董军

第26卷第5期1997年10月　信息与控制Infor mation and Contr olV ol.26,N o.5　Oct.,1997混沌神经网络研究进展与展望董　军　胡上序(浙江大学　杭州　310027)摘　要　概述了混沌动力学的特性,回顾了近年来混沌神经元模型及混沌神经网络的研究进展,在此基础上,介绍了两种混沌神经网络模型,分析了其构成和特点.已有研究结果表明,混沌神经网络在联想记忆和组合优化等方面有着比现有网络更好的性能.最后,指出了混沌神经网络的应用与研究方向.关键词　混沌,人工神经元,混沌神经网络,联想记忆,组合优化1　引言在过去的十年里,人工神经元网络的研究与应用是计算机与人工智能、认知科学、神经生理学、非线性动力学等相关专业的热点.它吸引了为数众多的科技工作者,提出或用及的网络类型有百种,涉及模式识别、决策优化、联想记忆、自适应控制和计算机视觉等等难以胜数的方面,有关神经网络算法、性能及应用的论文大量出现.然而,由于目前人类对真实神经系统只了解非常有限的一部分,对于自身脑结构及其活动机理的认识还十分肤浅,当今的神经网络模型实际上是极为简略和粗糙,并且是带有某种“先验”的.譬如,Boltzmann机引入随机扰动来避免局部最小,有其卓越之处,然而缺乏必要的脑生理学基础.毫无疑问,人工神经元网络的完善与发展有待于神经生理学、神经解剖学的研究给出更加详细的信息和证据.近年来,人们发现,脑中存在着混沌现象[1,2],混沌理论可用来理解脑中某些不规则的活动[3],从而,混沌动力学为人们研究神经网络提供了新的契机,用神经网络研究或产生混沌以及构造混沌神经网络成为摆在人们面前的又一新课题.因为从生理本质角度出发(这里并不是单纯提倡纯粹意义上的生理模拟,因为人类认识自然和社会的规律并非是一种“照抄照搬”的过程,只是应该有客观的依据和明确的目的)是研究神经网络的根本手段.为此,本文对当今混沌神经网络的研究作一简要回顾,疏漏之处在所难免,恳望指正.2　混沌动力学简介神经网络是高度非线性动力学系统.动力学系统一般可定义为由确定的微分方程或差分方程描述的一个系统在时间轴上的状态演变,若刻划系统的函数对自变量的依赖关系高于一次,则此动力学系统为非线性动力学系统[4].动力学系统中的吸引子(Attractor)是一个十分重要的概念,当某一时刻系统状态确定后,其后的状态将按动力学方程转移,靠近某一稳定状态,这样的状态便是吸引子.吸引子有许多种,包括点吸引子,周期吸引子,奇异吸引子(混沌是其典型例子).通常,神经网络有多个吸引子,吸引子对应的初值集合叫做吸引域.神经网络研究的关键是吸引域[5].严格说来,混沌现象是不含外加随机因素的完全确定性的系统所表现出的内秉随机行 1996-06-21收稿为[6].是界于规则和随机之间的一种行为.对于混沌性质的判别,从数学上讲至今没有统一的定义,比较常用的有Li-Yorke,Devaney,M arotto 意义下的混沌3种.在实际上为了刻划混沌动力学性质往往用到Lyapunov 指数和熵[7,8].设离散动力系统(X ,f ),初值为x 0,生成轨道为{x n },n ∈Z .考虑沿x 0的某个切线方向上的无穷小扰动y 0,则y 0随时间的演化服从于y n +1=Df (x n )y n(1)显然y 0/ y 0 给出了在x 0处所引起扰动方向,而 y n / y 0 表示扰动是放大或缩小.由(1)式得y n =Df n (x 0)y 0(2)其中Df n (x 0)=Df (x n -1)Df (x n -2)…Df (x 0).这样就可定义在初值x 0下,沿着y 0/ y 0 方向的Lyapunov 指数为L E (x 0,u 0)=lim n →∞1n ln( y n / y 0 )=lim n →∞1n ln(Df n (x 0)u 0)(3)其中u 0= y 0 / y 0 .正的Lyapunov 指数表征存在混沌行为.1963年Lorenz 在分析气侯数据时发现:初值十分接近的两条曲线的最终结果会相差很大,从而获得了混沌的第一个例子;1975年Li-Yorke 的论文“周期三意味着混沌”使“混沌”一词首次出现在科技文献中.混沌可由简单的确定性规则产生,其运动状态可容易地由控制参数改变,并可使初值的微小差别加以扩大,表面上的非周期背后隐藏着有序性,混沌表明了长期预测是不可能的.混沌的研究始于数学和物理,现已扩及工程、信息和社会科学领域.目前,混沌的应用可分为综合混沌(Sy nthetic Chaos)和分析混沌(Analy tic Chaos)两方面[9].前者利用人工产生的混沌从混沌动力学系统中获得可能的功能,如人工神经网络的联想记忆,逃离局部最小,机器人的路径规划等,它们都利用了简单的确定性规则;后者分析由复杂的人工和自然系统中获得的混沌信号并寻找隐藏的确定性规则,如时间序列数据的非线性确定性预测,系统的诊断和控制等.混沌吸引子是混沌系统研究的主要对象,不管系统初态如何,最终行为都取决于吸引子.神经网络理论研究中引入混沌学思想有助于揭示人类形象思维等方面的奥秘,进而为合理利用神经网络的混沌行为指明方向[10].3　混沌神经元模型及混沌神经网络的研究情况混沌是一种非线性的动力学行为,而Ho pfield 结构正是神经网络与非线性动力学行为的良好结合,因而它可以作为研究混沌神经网络的基础网型[11,17];而BP 算法可用来观察、学习混沌动力学系统[12],用被破坏的输入数据集重构二维混沌系统的吸引子,得到相应的几何信息[13].混沌神经网络的研究起于并基于混沌神经元的研究[3,14～22],混沌神经元是构造混沌神经网络的基本单位,对于单个神经元的混沌特性的了解可为混沌神经网络提供必要前提和认识基础.混沌神经元的研究中,振荡子(Oscillator )是一种典型的研究对象[17～19,32],因为振荡子或它们的组合可表现出丰富的混沌动力学行为.对于在动力系统平衡点不满足Lipschitz 条件所引起的极限(Terminal)混沌的现象的研究显示:神经元活动的混沌态与高级认识过程有关[14];还有用谱和维数分析混沌神经元模型[15],并用f ( )谱量化混沌神经元模型的多分形(M ulti-fractal)结构[16].混沌神经网络的框架或模型也已提出[18～24],并涉及联想记忆、组合优3615期董　军等:混沌神经网络研究进展与展望362信　息　与　控　制26卷　化如T SP等问题.人们对人工神经网络有兴趣的原因,归根结底还是希望能看到神经网络的硬件实现,即构造神经计算机,所以,构造和讨论硬件线路以观察混沌神经元或神经网络的混沌响应[11,15,17,25,26],不仅可直接观察混沌神经网络的动力学行为,还可为构造混沌神经计算机打下基础.由3个神经元组成的自激(Autonomo us)元胞神经网络实际上是一种简化模型[17,25,27],这有助于用神经网络分析分形和混沌行为.两个神经元组成的延时元胞神经网络也是如此[28],通过研究特征值和特征向量可以得出混沌神经元奇异吸引子的量化描述.混沌时间序列则是研究较多的又一方面[12,13,29].混沌时间序列在其内部有确定的规律性,这来自于它的非线性混沌动力学特性,它们使系统表现出某种记忆能力,这种性质不易为解析法所描述,但又适于用神经网络处理.而混沌系统不可能作长期预测,但只要有足够好的模型和对初始条件的精确观察,它的确定性却使之在预测能力消失以前可以进行短期预测.这里又是一个吸引人的崭新天地.通过对于流体(Fluid)神经网络(由具有随机活动性的可移动的单元构成的神经网络)中的混沌的研究,得到了用于描述象昆虫社会、机器人集体、免疫系统等一类系统的理论框架[30],这对于用混沌理论分析社会大系统,对于系统工程,都是有所启发的.研究间歇性(Inter mittency)有助于对混沌神经元及其网络的混沌动力学活动的本质的了解[31,32],而混沌在信息处理中的作用和角色更是人们的关心之处[33～36],尤其是与联想记忆、模式识别有关的方面.应用混沌动力学特性,构造一个双向网络,使联结权值对应某种约束,则可将有效模式存在网络能量域的局部最小点[30].耦合的伪周期和混沌神经网络振动子的离散时间动力学特性也得以研究[31].还有基于脑的生理机制和解剖学实验,分析脑的存储记忆、联想回忆等非线性动力学问题,一维混沌图显示了脑的混沌动力学特性[35].利用混沌所表现出的伪随机行为来获取输入中类噪声模式的关键信息为模式分类提供了新的希望[36].一个将神经信息学(Neuro informatics)和确定的混沌组合起来的“生物”代理,利用递归神经网络(Recurr ent Neural Netw orks)可观察并重构一个目标处理过程[37],并用于存储和检索信息[38].实验表明,通过学习,可进化到模拟一个目标的随机过程的混沌行为,这使我们看到了经由神经学习的有趣的混沌自组织机制,并显示出规则是怎样被嵌入到确定的混沌中的.还可利用混沌的初值敏感性,训练有微小扰动输入的神经网络,使之用于混沌控制[39].简略地讲,目前的研究主要在于认识单个神经元的混沌特性和分析简单混沌神经网络的行为,因而需要深入研究,并获得应用.4　混沌神经网络模型下面,基于上面回顾的工作及相关内容,描述混沌神经网络的模型主要有Aihar a依据动物试验提出的和Ino ue依据Logistic映象提出的两种.4.1　Aihara的混沌神经网络模型1990年,Aihara等[22]在前人推导和实验的基础上,给出了一个混沌神经元模型.在生物神经元的动力学模型构造历史上,M cCulloch-Pitts神经元(1943)和Caianiello (1961)神经元方程是非常重要的,后者包含了前者.x i (t +1)=u (∑Mj =1∑t r =0W (r )ij x i (t -r )- i )(4)其中,x i (t +1)是在离散时刻t +1第i 个神经元的输出,x 取1(激活)或0(非激活).u 定义如下:u (y )=0,　y <01,　y ≥0W (r )ij (i ≠j )是第j 个神经元激活r +1个时间单位后影响第i 个神经元的联结权值,W (r )ii 是第i 个神经元激活r +1个时间单位后保持的对自己的影响的记忆系数,与不应性(Refracto riness )相对应, 是第i 个神经元的全或无激活的阈值.这里,不应性指神经元激活后其阈值增加的性质,全或无规律是指神经元激活与否取决于刺激的强度是否大于阀值.Nagumo 和Sato (1971)在此基础上,假设过去的激活导致的不应性影响随指数衰减,即W (r )ij =- k r ,k ∈[0,1],>0,k 是不应性的衰减因子,并设A (t )是离散时刻t 的输入强度,得出x i (t +1)=u (A (t )- ∑tr =0k rx (t -r )- )(5) 定义神经元内部状态y (t +1)=A (t )- ∑tr =0k rx (t -r )- (6)则(5)式可化为y (t +1)=ky (t )- u (y (t ))+a (t )(7)x (t +1)=u (y (t +1))(8)这里a (t )=A (t )-kA (t -1)- (1-k )(9) 在通常的生物电子实验中,输入A (t )是等幅周期脉冲,所以,(9)式可改写为a (t )=(A (t )- )(1-k )(10) 下面证明(7)式.y (t +1)=A (t )- ∑tr =0k rx (t -r )- =A (t )- ∑t r =0k r x (t -r )- +ky (t )-k y (t )+a (t )-a (t )=k y (t )+a (t )- ∑tr =0x (t -r )+A (t )- -a (t )-ky (t )由(10)式得A (t )- -a (t )=k (A (t )- )所以y (t +1)=k y (t )+a (t )- ∑tr =0x (t -r )+k (A (t )- )-ky (t )(11)又由(6)式得y (t )=A (t )- ∑t r =0k r x (t -r -1)- 两边同乘k ,得k y (t )=k (A (t )- )- ∑t -1r =0k r +1x (t -r -1)=k (A (t )- )+ x (t )- ∑tr =0k r x (t -r )代入上面(11)式得 y (t +1)=ky (t )- x (t )+a (t )=ky (t )- u (y (t ))+a (t )其Lyapunov 指数为3635期董　军等:混沌神经网络研究进展与展望=lim n →+∞1n∑n -1t =0ln d y (t +1)d y (t ) (12)平均激活率为 =lim n →+∞1n ∑n -1t =0x (t )(13) 但Cole 等(1970)的实验与上述方程所预期的结果不符,即空间箝制条件下的全或无定律未被满足,响应并非不连续地全或无,而有连续增加的趋势,因而考虑用一连续递增函数f 代替(5)式中的ux i (t +1)=f (A (t )- ∑tr =0k rg (x (t -r ))- )(14)x i (t +1)为[0,1]间的模拟输出,g 是表示神经元输出与不应性的大小间的关系的函数,f 可取为具有陡度参数 的Log istic 函数f (y )=1/(1+e -y / )内部状态y (t +1)=A (t )- ∑tr =0k rg (x (t -r ))- (15)从而,同理可简作y (t +1)=ky (t )- g (f (y (t )))+a (t )(16)x (t +1)=f (y (t +1))(17)平均激活率为=lim n →+∞1n∑n -1t =0h (x (t ))(18)h (x )=1,　x ≥0.50,　<0.5 通过上面的分析可知,由以上神经元构成混沌神经网络时,要考虑几个不同于普遍神经网络的方面:类似Hopfield 结构的来自内部神经元的反馈项和类似BP 算法的外部输入项,以及不应性响应和阀值.从而有x i (t +1)=f i (∑M j =1W ij∑t r =0k r h j (x j (t -r ))+∑Nj =1V ij ∑t r =0k r I j (t -r )- ∑tr =0k rg i (x i (t -r ))- i )(19)M 是混沌神经元的个数,N 是外部输入个数,W ij 是第j 个混沌神经元到第i 个混沌神经元的联结权值,V ij 是第j 个外部输入到第i 个混沌神经元的联结权值,f i 第i 个混沌神经元的连续输出函数,h j 是第j 个混沌神经元的内部反馈函数,I j (t -r )是离散时刻t -r 第j 个外部输入的强度,g i 是第i 个混沌神经元的不应性函数.假设过去的输入随时间指数衰减,形如W ij k r 或V ij k r ,k 为衰减因子,则同样可得y i (t +1)=ky i (t )+∑Mj =1W ij h j (f j (y i (t )))+∑N j =1V ij I j (t )- g i (f i (y i (t )))- i (1-k )(20)x i (t +1)=f i (y i (t +1))(21)364信　息　与　控　制26卷　当k 和 趋向零,则有x i (t +1)=f i (∑M j =1W ij h j (f j (y i (t )))+∑Nj =1V ij I j (t )- i )(22) 该模型已用于联想记忆.它有如下特点.(1)具有梯度动作电位的连续刺激——反映曲线;(2)激活后相应的不应性的连续指数衰减缘于先前动作电位的不应效果的叠加;(3)通过许多突触的输入的时空累加.4.2　Inoue 等的混沌神经网络模型1991年Inoue 等提出用耦合的混沌振荡子作为单个神经元,构造混沌神经网络模型的方法[18].耦合的混沌振荡子的同步和异步分别对应神经元的激活和抑制两个状态.虽然混沌是由简单的确定性规则产生的,但它包含规则性和不规则性两个方面.耦合的混沌振荡子的同步来自规则性,而不规则性可产生随机搜索能力.对于离散时间,耦合的振荡子的运动方程由f (x )和g (x )描述x i (n +1)=f (x i (n ))+D i (n )[y i (n +1)-x i (n +1)](23)y i (n +1)=g (y i (n ))+D i (n )[x i (n +1)-y i (n +1)](24)其中,D i (n )是时刻n 第i 个神经元的耦合系数,x i (n )和y i (n )分别是时刻n 第i 个神经元第一和第二个振荡子变量.设 L 是同步态最大的Lyapunov 指数,则当D i (n )>D c =[exp( L )-1]/2时,可观察到完全同步态.f (x ),g (y )选混沌动力学基本的Log istic 映射f (x )=ax (1-x ),　0<a ≤4(25)g (y )=by (1-y ),　0<b ≤4(26)时刻n 第i 个神经元的状态定义为u i (n )=1(激活), x i (n )-y i (n ) < 0(抑制),　其他(27) 是同步的临界参数. 当 =0且a =b 时,u i (n )=1(激活)表明两个振荡子完全同步.一旦完全同步,即使D i (n )变得很小,神经元始终处于相同状态,所以选择a ≠b 以避免完全同步.设第i 个和第j 个神经元由耦合常数w ij 联结,通过联结媒介,神经元的状态对D i (n )有一个影响.在这里,W ij 和D i (n )间的关系很重要DD i (n )=∑j W ji u j (n )+s i + i (28)D i (n )=DD i (n ),　DD i (n )>00, 其他(29)s i 是外部输入,i 是阀值.振荡有时会中断,(30)式可避免这一现象.a ,b 取几乎相同的值,i =-D c .用该模型可实现Hopfield 的联想记忆和求T SP 解.对于T SP ,离散Hopfield 是非常难解的.而这里,T SP 不需要模拟退火, 和a -b 具有Boltzmann 机的温度功能.另一与Bo ltzmann 机的不同之处是这里同时改变所有神经元状态,所以计算快,而Boltz-mann 机一次只改一个.3655期董　军等:混沌神经网络研究进展与展望在这里,单个神经元的反映并不快,这是因为耦合振荡子系统有一个瞬变时间;但工作速度很快,因为是同步处理的.在脑中发现了同样现象.Bolthmann机没有这个机能.这又一次说明混沌神经网络对脑的较为真实的模拟.瞬变时间可能有重要作用.需要进一步研究的是:若选择适当的参数集{a,b, },是否存在一个可用于所有系统的Lyapunov函数;是否能保证找到一个优解.接着,Ino ue等又用一个混沌振荡子实现上述功能[19].运动方程为x i(n+1)=a i(n)x i(n)[1-x i(n)](30)定义 i(n)= x i(n)-x i(n+3) (31)u i(n)=1(激活), i(n)<0(抑制),　其他(32)混沌态和周期三(到达混沌前所经历的一种分岔现象)对应于耦合振荡子的同步和异步.a i(n)按下列方程,每m步改变其值aa i(n′)=∑kW ik u k(n′)+s i- i(33) W ij和a i(n)间的关系有重要作用.a i(n′)=aa i(n′),a c-c1<aa i(n′)<(a c+c2)a c-c i,aa i(n′)<(a1-c1)a c+c2,aa i(n′)>(a c+c2)(34)n′=p m(p=0,1,2…),(35)式同样是为防止由于不合适的运动而引起的振荡.基于此,实现了联想记忆和T SP求解.该模型不如前者有效,是否肯定能找到解还有待分析.进而,Ino ue等又将上述情况推广到模拟态[20].运动方程为x i(n+1) y i(n+1)=11+2D i(n)1+D i(n)D i(n)D i(n)1+D i(n)f[x i(n)]g[y i(n)](35)0≤x i(n)<1,　0≤y i(n)<1.u i(n)=11+ex p(-z i/z0)(36)z i≡i(n)-1(37) 同样,这里也解答了TSP,结果表明,短路径比长路径更稳定.需要进一步研究的是混沌神经元计算的本质及神经元模拟特性和网络亚稳态间的关系.在以上模型的基础上,Inoue等又进一步分析了脑的动力学特性,用波动谱理论研究了解TSP时Ho pfield能量的时间序列,认为时间序列与脑波有关.如果选择合适的参数,模型可有效地找到解,还观察到了这时的间隙“脑波”[21].也已有对上述两类模型的结合进行的研究[40].5　小结混沌是一种现象与行为,神经网络是一种特定计算模式的拓朴结构,它们各有自身的特366信　息　与　控　制26卷　征,但也有共同的规律,即非线性动力学特性.尽管混沌神经网络的研究是近几年的事,工作还刚起步,理论远不成熟.然而,它是建立在人脑存在混沌这个前提之上的,因而,它也就有了生理学基础和生命力.它在联想记忆、组合优化等方面优于现有其他模型的性能表明了这一意义.为此,可在下列几个方面进行深一步地研究并谋求应用.(1)选择更加合适的奇异吸引子构成混沌神经网络;(2)决策对象(如控制系统)往往是一个复杂的动力学系统,且结构化与半结构化交织,所以,用混沌神经网络进行决策可能有较好效果,也易获全局最优;(3)利用混沌系统对初始条件的敏感依赖性,有可能对仅有微小区别的模式进行识别;(4)对以前认为不规则的运动,若是混沌现象,就可能进行短期的但较精确的预测;(5)在优化方面,由于混沌的特性,不再必需用模拟退火法、遗传算法等来避免局部最小.混沌神经网络在智能信息处理中显示了广阔的应用前景.混沌动力学是发展中的学科.当今,对大脑的认识远不深入,对混沌神经网络似乎同样不可期望过高.但从机理上探索神经网络的行为是应该首肯的,也是神经网络研究所必需的.就目前的情况而言,如何有效地在神经网络中反映和获得混沌特性,并掌握它们内在联系是关键问题.参　考　文　献1　Bab loyan tz A,et al .Evidence for Chaotic Dynam ics of Brain Activity dur ing the Sleep Cycle.Phys Lett,1985,111:152～1562　Wass erm an P D.Advanced M eth ods in Neural Computing.New York:Van Nostrand Reinhold ,1993:187～1933　Chay T R,Fan Y.Evolution of Periodic S tates and Ch aos in T w o Types of Neural M od els.In Ditto W L (ed.)C haos inBiology and M edicine,Proc S PIE ,W as hington:SPIE,1993:100～1134　Ott E.Chaos in Dynamical Sys tems.New York:Cam bridge U nivers ity Press,1993:1～1485　张承福.对当前神经网络研究的几点看法.力学进展,1994,24(2):181～1866　郝伯林.从抛物线谈起-混沌动力学引论.上海:上海科学技术出版社,19937　刘增荣.二维平面映射的奇怪吸引子.苏州:苏州大学出版社,1996:1～268　姜　丹.信息理论与编码.合肥:中国科学技术大学出版社,1992:23～319　Ditto W,M unakata T.Principles and Applications of Chaotic S ystem s.CACM ,1995,38(11):96～10210　胡上序等.人工神经元计算导论.北京:科学出版社,1994:52～5411　Bar hen J,Gulati S.“Ch aotic Relaxation ”in Concur rently Asynchronous Neural Network s.C om puters Electr Eng,1993,19(6):507～52312　Adachi M ,Kotani M.Iden tification of Ch aotic Dynamical Systems w ith Back -propagation Neural Netw orks.IEICETr ans ,1994,E 77-A (1):324～33413　Albano A M .Us ing Neur al Nets to Look for Chaos .Physica D ,1992,58:1～914　Zak M.Terminal Chaos for Information Process ing in Neuron Dyn amics.Biol Cybern ,1991,64:343～35115　Saito T ,Oikaw a M.Ch aos and Fractals from a Forced Artificial Neural Cell.IEEE T rans on NN,1993,4(1):43～5216　Ikegu chi T ,et al .The f( )S pectrum of a Ch aotic Neu ron M od el.IEICE Trans ,1991,E 74(6):1476～147817　Saito T.Ch aos from a Forced Neural-type Oscillator.IEICE T ran s,1990,E 73(6):836～84118　Inoue M ,Nag ayosh i A.A Chaos Neuro-com puter.Phys Lett A,1991,158(8):373～37619　Inoue M ,Fukus hima S.A Nuur al Netw ork of Ch aotic Oscillators.Prog T heor Phys ,1992,87(3):771～77420　Inoue M ,Nag ayosh i A.Solving an Optimization Problem w ith a Ch aos Neural Netw ork.Pr og T heor Phys ,1992,88(4):769～77321　Inoue M ,Nakam oto K .Ep ileps y in a Chaos Neuro -compu ter M odel .SPIE Vol .2306,Chaos in Biology an d M edicin e ,3675期董　军等:混沌神经网络研究进展与展望1993:77～8422　Aihara K,et al.Chaotic Neural Netw orks.Ph ys Lett A,1990,144(6,7):334～34023　Som polinsk y D H H.S ynchr on ization and C om putation in a C haotic Neur al Netw ork.Phys Rev Lett,1992,68(5):718～72124　S zu H,et al.Chaotic Neuron Ch ips for Fuzzy Computing.In W isniew ski H S(ed).Ch aos/Non linear Dynamics: M eth od and Commercialization,Proc.S PIE2037,San Diego,California,W as hington:SPIE,1993:110～12525　Zou F,Josef A Nos sek.Bifurcation and Chaos in Cellular Neural Netw orks.IEEE Tr ans on CAS-1:Fundamental Th e-ory and Application,1993,40(3):166～17326　Kanou N,et al.A Current-mode Im plem entation of a Chaotic Neural M odel Using a SI In tegrator.IEICE T rans, 1994,E77-A(1):335～33827　Zou F,et al.Homoclinic an d Heteroclinic Orbits of the T hree-cell Cellular Neur al Netw orks.IEE E T rans on CAS-1: Fundamen tal T heory an d App lication,1993,40(11):843～84828　Gilli M.S trange Attractors in Delayed Cellular Neural Netw orks.IE EE Tr ans on CAS-1:Fun damental Th eory and Application,1993,40(11):849～85329　Gustavo,et al.Neural Learning of Ch aotic Sys tem Behavior.IEICE T rans,1994:1840～184530　Sole R V,M iramon tes rmation at the Ed ge of Chaos in Flu id Neural Netw orks.Physica D,1995,(80):171～18031　Ts ubata T,et al.Intermittency of Recurren t Neu ron and its Netw ork Dyn amics.IE IC E T ran s,1993,E76-A(5):695～70332　M atsud a H,Uch iyam a A.A Neural Netw ork M odel for Generatin g In termitten t Ch aos.IEICE T rans,1994,E76-A(9):1544～154733　Tani J,Corp S.The Role of Chaos in Process ing Language.IJCNN,1992-3:444～44934　Wang X.Dis crete-time Dynam ics of Coupled Q uas i-periodic and Chaotic Neural Network Oscillators.IJ CNN,1992-3: 517～52235　Ts uda I,et al.M emory Dynamics in As ynch ronous Neu ral Netw ork s.Pr og T heor Phys,1987,78:51～7136　Parodi G,et in g Ch aos to Generate Keys for As sociative Noise-like C oding M emories.Neural Netw orks,1993, 6:559～57237　Tani J,Fukumu ra N.Em beddin g a Gram matical Description in Deter ministic Chaos:an Experiment in Recurr ent Neu-ral Learning.Biol C ybern,1995,72:365～37038　An dreyev,et rmation Proces sing U sing Dynamical Ch aos:Neural Netw orks Implemen tation.IEEE T ran s on NN,1996,7(2):290～29839　Als ing P M,et ing Neural Netw orks for Controlling Chaos.In Wis niews ki H S(ed).Chaos/Nonlinear Dynam-ics:M ethod and Commercializ ation,Proc SPIE2037,San Diego,California,W ashing ton:SPIE,1993:126～13740　Nozaw a H.A Neur al Netw ork M odel as a Globally Coupled M ap and Application Based on Ch aos.Chaos,1992,2:377 -386THE RESEARCH PROGRESS AND PROSPECTS OFCHAOTIC NEURAL NETWORKSDONG Jun　HU Shang xu(Zhej iang Univ ersity,H ang z hou310027)Abstract　T his art icle summar izes the char acter istics of chao tic dynamics,r eviews the r esearch pro-gr esses o f chaot ic neuro n mo del and chao tic neur al netw or ks in recent year s.On the basis of them,tw o kinds of chaotic neur al net wo rks ar e int ro duced,and their str uct ur es and char acter s are analy zed.T he resear ch(下转第378页)参　考　文　献1　Burkett J P.S lack,Sh ortage,and Discouraged C on sumers in E as tern Europe:Estimates Based on Smoothing Aggrega-tion.Review of Economic Studies,1988,55:493～5062　谢　方.总供需平衡的控制模型.数量经济技术经济研究,1992,(10):42～453　李文捷,张世英.非均衡多市场的调控机制研究.数量经济技术经济研究,1994,(4):37～454　王　翼.离散控制系统.科学出版社,19875　中国统计年鉴(1994年度).中国统计出版社,19946　刘建国,陈跃进.计量经济分析软件包M icr o T SP(6.5).清华大学出版社,1991AN OPTIMAL CONTROL FOR DISEQUILIBRIUM ECONOMICS——A PRACTICAL ANALYSIS FOR THE SOCIAL GENERALSUPPLY AND DEMAND OF CHINALI Zhongm in　ZHANG Shiy ing(M anag ement S chool,T ianj in Univ ersity300072)Abstract　T he paper studies the adjustment r ules o f the disequilibrium macro market fro m t he po int of view of o ptimal co nt ro l theor y,and makes a pr actical a nalysis for the disequilibr ium co ntro l o f the social gen-eral supply and demand o f China.Key words　disequilibr ium econom ics,optimal co nt ro l,gener al supply,gener al demand作者简介李忠民,男,30岁,博士.研究领域为非均衡经济等.张世英,男,60岁,教授.研究领域为非均衡经济,社会经济系统分析.(上接第368页)results sho w that the chao tic neur al netw o rks are mo re effectiv e t han o ther ex isting neur al netw or ks t o solve associative memo ry and combination optimizatio n pro blems.F inally,t his a rticle presents the fields w here chaotic neura l netw or ks can be applied and should be furt her investigat ed.Key words　chaos,ar tificial neuro n,chao tic neur al netw or ks,asso ciative memor y,co mbinatio n o pti-mizatio n作者简介董　军,33岁,博士生.研究领域为面向对象方法,混沌应用,分布式人工智能,计算机支持协同工作.胡上序,教授,博士生导师.研究领域为人工神经元网络,计算机仿真,智能信息处理.。