混沌神经网络的研究及其应用

II
太原理工大学硕士研究生学位论文
RESEARCH ON CHAOTIC NEURAL NETWORK AND ITS APPLICATION
ABSTRACT
Artificial neural network is a new information processing system based on the human brain structure and the activities mechanism. Artificial neural networks can behave many characteristics of the brain and have some of the basic functions of human brain, imitating the neural frame of human and the mechanism of many activities. Recently, it is found that there are many chaotic phenomenon of chaos in the nervous system, so the research of chaotic neural network (CNN) is becoming a new task for us. This paper studied the chaotic neural network and applied it to a typical combinatorial optimization problem and broadband matching network design. The main content of this paper can be divided into two parts: first, the theory introduction of chaos, the classical Hopfield neural networks and the chaotic neural network; second, the applications of the chaotic neural network. Specifically, the following sections are included: (1) Introduce completely the basic theories of the chaotic dynamics, giving the concept, basic term and basic characteristics of chaos. Analysis the relationship between the Lyapunov index and chaotic state through a typical
1.2.1 混沌学综述 从历史上看，混沌的研究起源于物理学和数学，而现在对混沌的研究几乎覆盖了整 个社会科学和自然科学领域， 特别是计算机技术的发展为深入混沌的研究提供了更大的 可能。 科学中的混沌一词， 简单的说， 是指貌似随机的运动， 是指在确定性非线性系统中， 不需附加任何随机因素亦可出现类似随机现象的行为，即它一方面具有确定性过程，另 一方面又有随机的特性。混沌是非线性系统中所特有的一种形式，普遍存在于自然界及 人类社会中[10]。 发现混沌的第一位学者是法国的数学、 物理学家 H. Pioncare， 他在研究天体力学时， 把动力学系统和拓扑学两大领域结合起来，提出了 Pioncare 猜想，发现了混沌现象[10]。 他采用太阳系的三体运动作为目标背景，由此证明了周期轨道的存在性。现代动力学系 统理论的分岔理论、 奇异性理论和吸引子理论等几个重要的组成部分都源于 H. Pioncare 的早期研究。 到二十世纪五六十年代， 混沌理论的研究发生了两个重大突破[11]。 第一个重大突破 发生在以保守系统为研究对象的天体力学领域，KAM 定理被公认为创建混沌学理论的 历史性标记。耗散系统为混沌学研究的第二个重大突破。美国气象学家 Lorenz[12]对此 做出了杰出的贡献。Lorenz 利于它作为大气对流模型，并采用计算机进行数值计算，从 而观察这个系统的演化行为。 通过计算和观察， Lorenz 看到了这个确定性系统的规则行 为，并且也发现了同一系统在某些条件下所具有的非周期无规则行为，然而这与当时气 象界的权威观点互相矛盾， 但却与 Lorenz 的经验和直觉相吻合。 这就是我们熟知的 “蝴 蝶效应” 。 1975 年，华人科学家 T. Y. Li 和美国数学家 J. A. Yorke 发表了“Period three implies chaos” （周期 3 蕴含混沌）的著名文章[13]，深刻揭示了从有序到混沌的演化过程，被认 2
III
太原理工大学硕士研究生学位论文
chaos map——Logistic map. The basic chaotic algorithm had been proved to be effective by a typical function. (2) Summarize the different kinds of chaotic neural network, modify the transient chaotic neural network (TCNN) model and apply it in simulation of complex nonlinear function. The simulation results proved that the improved transiently chaotic neural network was more effective than the classical Hopfield neural network. (3) Explain the energy function of Travel salesman problem (TSP) by Hopfield neural network, and solve 10-citys TSP with Hopfield neural network and Transient chaotic neural network. The simulation results proved that the transient chaotic neural network was superiority to solve TSP problems. (4) Introduce the development of broadband matching theory and the real-frequency method used in broadband matching. This paper proposed a method to design broadband matching network based on TCNN, give the objective function of a practical antenna and optimized it, and then integrated out of the antenna matching network by the optimization results. The simulation curve showed this matching network was effective.
I
太原理工大学硕士研究生学位论文
暂态混沌神经网络两种算法同时用于 10 城市的 TSP 问题求解中， 仿真结果 证明了暂态混沌神经网络方法在求解 TSP 问题中的优越性。 并分析了计算机辅助方法中 (4) 介绍了宽带匹配理论知识的发展过程， 的实频法。提出了基于暂态混沌神经网络的宽带匹配设计，结合实际天线 子给出了目标函数，并对其进行优化，由优化结果综合出了该天线的匹配 网络，仿真曲线说明了本文所设计优化的匹配网络是有效的。 关键词 神经网络，暂态混沌神经网络，旅行商问题，宽带匹配网络，实 频法
太原理工大学硕士研究生学位论文
性是一种能够有效避免局部最优并且可以寻找到全局最优或近似全局最优解的高效的 启发式搜索模式。 采用神经网络的混沌特性的最大难点就是决定如何结束混沌特性和如 何结束混沌特性的问题，目标是如何使网络收敛到一个最优或者近似最优稳定平稳点
[9]
。
1.2 混沌及其混沌神经网络的研究和发展
太原理工大学 硕士学位论文 混沌神经网络的研究及其应用 姓名：代敏敏 申请学位级别：硕士 专业：@ 指导教师：刘建霞 20100401
太原理工大学硕士研究生学位论文
混沌神经网络的研究及其应用 摘 要
人工神经网络是基于对人脑组织结构、活动机制的初步认识提出的一 种新型信息处理体系。 通过模仿脑神经系统的组织结构以及某些活动机理， 人工神经网络可呈现出人脑的许多特征，并具有人脑的一些基本功能。近 年来，人们发现神经系统中存在着许多不规则的混沌现象，所以对于混沌 神经网络（CNN）的研究成了摆在人们面前的一个新课题。 本文以混沌神经网络为主要研究对象，并应用于典型组合优化问题求 解和宽带匹配网络设计之中。本文的研究内容主要分为两大部分，一是混 沌动力学、经典 Hopfield 神经网络及混沌神经网络的理论研究；二是混沌 神经网络的应用研究。具体包括以下几部分： (1) 系统的介绍了混沌动力学的基本理论， 给出了混沌的基本定义、 基 本术语和基本特征，以典型混沌映射——Logistic 映射为例，详细分析了 Lyapunov 指数和混沌状态的关系，并用经典函数验证了基本混沌算法的有 效性。 (2) 总 结 了 几 种 混 沌 神 经 网 络 模 型 ， 对 其 中 的 暂 态 混 沌 神 经 网络 （TCNN）模型进行了改进，并用于复杂非线性函数的仿真试验，将仿真结 果与经典 Hopfield 神经网络算法仿真结果进行比较，证明了本文改进后的 暂态混沌神经网络是有效的。 (3)推导了 Hopfield 神经网络求解旅行商问题（TSP）时的能量函数， 给出了求解 TSP 问题的 Hopfield 神经网络方法，并将 Hopfield 神经网络和
wenku.baidu.com
KEY WORDS:
neural network, TCNN, TSP, broadband matching network, real frequency method
IV
太原理工大学硕士研究生学位论文
第 1 章 绪论
1.1 研究背景及意义
人类具有高度发达的大脑，大脑是思维活动的物质基础，而思维是人类智能的集中 体现。 “认识脑”和“仿脑”分别是脑科学和智能科学的基本目标。一方面， “认识脑” 是“仿脑”的基础，因此智能科学理论、方法与技术的突破性进展与脑科学家的进展密 切相关；另一方面， “仿脑”也为“认识脑”提供了一条崭新的途径。人工神经网络是 基于对人脑组织结构、活动机制的初步认识提出的一种新型信息处理体系。通过模仿脑 神经系统的组织结构以及某些活动机理，人工神经网络可呈现出人脑的许多特征，并具 有人脑的一些基本功能。神经网络具有如下特点：信息处理的并行性、信息存储的分布 性、信息处理单元的互联性、结构的可塑性；高度的非线性、良好的容错性和计算的非 精确性；自学习、自组织与自适应性[1]。80 年代初，神经网络的崛起极大的推动了对认 知和智力本质的基础研究并且对计算机产业的发展都产生了空前的影响[2-3]。 然而，人类对真实的神经系统所了解的部分非常有限，并且对于脑结构及其活动机 理的认识还十分肤浅，因此当今的神经网络模型是极为简略和粗糙的，并且具有某种先 验性。例如，为避免局部极小而引入随机扰动的 Boltzmann 机，虽然具有卓越之处，但 是缺乏必要的脑生理学基础。 无可质疑， 人工神经网络的发展和完善有待于神经解剖学、 神经生理学的研究给出更加准确和详细的信息和证据[4, 5]。 近年来， 通过大量动物实验表明生物的神经系统存在许多不规则的混沌现象， 从而， 对于混沌神经网络的研究成为摆在人们面前的又一新课题[6-8]。用神经网络研究产生混 沌以及构造混沌神经元使得人工神经网络的动力学特性更接近于人脑， 因此产生更加有 效的计算工具，并且增强人工神经网络的快速处理大规模信息的能力和存储空间。 具有混沌特性的人工神经网络比基本人工神经网络具有更加丰富和复杂的动力学 特性。经典的神经网络依赖于不动点吸引子，因此限制了中小规模网络的搜索能力。而 且混沌动力学具有各种共存的吸引子和丰富的远离平衡点的动力学行为， 其不但包括不 动点和周期轨道，而且还包括奇异吸引子。因此混沌神经网络所存在的这种复杂动力学 特性是一种能在优化计算和信息处理等方面具有广泛应用前景的技术。 由于混沌神经网 络本身的自抑制效应，混沌神经网络仅为向空间上的某种分形结构的状态游动，此种特 1