神经网络预测方法

神经网络预测方法
第一篇：神经网络预测方法
(4)神经网络的预测方法
神经网络(Neural Network)是由许多并行的、高度相关的计算处理单元组成，这些单元类似生物神经系统的神经元。

虽然单个的神经元的结构十分简单，但是，由大量神经元相互连接所构成的神经元系统所实现的行为是十分丰富的。

与其它方法相比，神经网络具有并行计算和白适应的学习能力㈤。

神经网络系统是一个非线性动力学系统计算系统。

神经网络模型有许多种类，经常使用的有BP网络、RBF网络、Hopfield网络、Kohonen网络、BAM网络等等，近年又出现了神经网络与模糊方法、遗传算法相结合的趋势。

浚方法已在交通流预测中得到了应用。

在交通流预测中应用最早使用最多的是反传BP 网络。

应用神经网络进行交通流预测的步骤如下：
第一步，根据实际情况，选择适当的网络结构作为预测工具，根据已确定的预测因子和被预测量，决定网络的输入和输出，进而决定网络的结构(网络各层次的节点数)
第二步，准备样本数据和样本的规范化处理，样本分为训练样本和检验样本；第三步，利用训练样本是对网络进行训练和学习；
第四步，利用检验样本对网络训练结构进行检验，验证网络的泛化能力；第五步，用训练好的网络，根据已知的数据进行实际预测。

与传统的预测方法相比，神经网络的预测方法的预测精度要好一些。

这主要是得益于神经网络自身的特点。

神经网络擅长描述具有较强非线性、难于用精确数学模型表达的复杂系统的特性，并且具有自适应能力。

由于神经网络算法是离线学习，在线预测，所以几乎没有延时，实时性很好。

此外，神经网络对预测因子的选择也较为灵活，任何认为与待预测交通流量有关的数据均可纳入输入向量中。

但是，神经网络也有一些弱点，主要表现在以下几个方面：
三、由于使用大量的样本进行训练，所以神经网络的学习训练过
程收敛
较慢，容易产生“过度学习”的情况，陷入对样本值的机械记忆而降低了泛化能力。

因此，应用神经网络目前很难做到在线学习，只能将学习与预测分离成两个阶段(一个离线、一个在线)来完成。

四、神经网络的训练与学习是基于训练样本所隐含的预测因子与被预测
量的因果关系，这种学习不能反映外部环境的变化及其对预测的影响。

因此，当预测对象所处的外部环境发生改变，或以某一路段数据训练好的神经网络去预测其它路段(口)的交通流量时，预测的准确率就会大大降低，错误率明显上升。

这是由单一的神经网络的有限学习能力所决定的，表明经过训练的神经网络并不具有良好的“便携性”。

五、截止到目前，各类文献所见的基于神经网络的短期交通流的预测，最小的预测时间跨度ht．15rain的水平上，对更小的预测周期，神经网络预测的适应性、精度如何，还有待检验。

第二篇：神经网络
程序调用自身的编程技巧称为递归（recursion）。

一个过程或函数在其定义或说明中有直接或间接调用自身的一种方法，它通常把一个大型复杂的问题层层转化为一个与原问题相似的规模较小的问题来求解，递归策略只需少量的程序就可描述出解题过程所需要的多次重复计算，大大地减少了程序的代码量。

递归的能力在于用有限的语句来定义对象的无限集合。

一般来说，递归需要有边界条件、递归前进段和递归返回段。

当边界条件不满足时，递归前进；当边界条件满足时，递归返回。

注意：
(1)递归就是在过程或函数里调用自身；
(2)在使用递归策略时，必须有一个明确的递归结束条件，称为递归出口。

人工神经网络（Artificial Neural Networks，简写为ANNs）也简称为神经网络（NNs）或称作连接模型（Connection Model），它是一种模范动物神经网络行为特征，进行分布式并行信息处理的算
法数学模型。

这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

神经网络是：思维学普遍认为，人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。

逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。

然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。

这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。

人工神经网络就是模拟人思维的第二种方式。

这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。

虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。

神经网络的主要的研究工作集中在以下几个方面：
（2）建立理论模型
根据生物原型的研究，建立神经元、神经网络的理论模型。

其中包括概念模型、知识模型、物理化学模型、数学模型等。

（3）网络模型与算法研究
在理论模型研究的基础上构作具体的神经网络模型，以实现计算机模拟或准备制作硬件，包括网络学习算法的研究。

这方面的工作也称为技术模型研究。

神经网络用到的算法就是向量乘法，并且广泛采用符号函数及其各种逼近。

并行、容错、可以硬件实现以及自我学习特性，是神经网络的几个基本优点，也是神经网络计算方法与传统方法的区别所在。

（4）人工神经网络应用系统
在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功能、构作专家系统、制成机器人等等。

人工神经网络的工作原理
人工神经网络首先要以一定的学习准则进行学习，然后才能工作。

现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定
当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。

首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。

在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。

这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。

如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。

如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。

这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。

当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。

一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。

生物学、医学、脑科学专家试图通过神经网络的研究推动脑科学向定量、精确和理论化体系发展，同时也寄希望于临床医学的新突破；信息处理和计算机科学家研究这一问题的目的在于寻求新的途径以解决目前不能解决或解决起来有极大困难的大量问题，构造更加逼近人脑功能的新一代计算机。

与数字计算机比较，人工神经网络在构成原理和功能特点等方面更加接近人脑，它不是按给定的程序一步一步地执行运算，而是能够自身适应环境、总结规律、完成某种运算、识别或过程控制。

各神经元之间的连接强度和极性有所不同，并且都可调整、基于这一
特性，人脑具有存储信息的功能。

利用大量神经元相互联接组成人工神经网络可显示出人的大脑的某些特征。

下面通过人工神经网络与通用的计算机工作特点来对比一下：
若从速度的角度出发，人脑神经元之间传递信息的速度要远低于计算机，前者为毫秒量级，而后者的频率往往可达几百兆赫。

但是，由于人脑是一个大规模并行与串行组合处理系统，因而，在许多问题上可以作出快速判断、决策和处理，其速度则远高于串行结构的普通计算机。

人工神经网络的基本结构模仿人脑，具有并行处理特征，可以大大提高工作速度。

人类大脑有很强的自适应与自组织特性，后天的学习与训练可以开发许多各具特色的活动功能。

如盲人的听觉和触觉非常灵敏；聋哑人善于运用手势；训练有素的运动员可以表现出非凡的运动技巧等等。

普通计算机的功能取决于程序中给出的知识和能力。

显然，对于智能活动要通过总结编制程序将十分困难。

人工神经网络也具有初步的自适应与自组织能力。

在学习或训练过程中改变突触权重值，以适应周围环境的要求。

同一网络因学习方式及内容不同可具有不同的功能。

人工神经网络是一个具有学习能力的系统，可以
发展知识，以致超过设计者原有的知识水平。

通常，它的学习训练方式可分为两种，一种是有监督或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督学习或称无为导师学习，这时，只规定学习方式或某些规则，则具体的学习内容随系统所处环境（即输入信号情况）而异，系统可以自动发现环境特征和规律性，具有更近似人脑的功能。

神经网络的研究可以分为理论研究和应用研究两大方面。

理论研究可分为以下两类：
1、利用神经生理与认知科学研究人类思维以及智能机理。

2、利用神经基础理论的研究成果，用数理方法探索功能更加完善、
性能更加优越的神经网络模型，深入研究网络算法和性能，如：稳定性、收敛性、容错性、鲁棒性等；开发新的网络数理理论，如：神经网络动力学、非线性神经场等。

应用研究可分为以下两类：
1、神经网络的软件模拟和硬件实现的研究。

2、神经网络在各个领域中应用的研究。

这些领域主要包括：
模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等。

随着神经网络理论本身以及相关理论、相关技术的不断发展，神经网络的应用定将更加深入。

内容简介
神经网络是智能控制技术的主要分支之一。

本书的主要内容有：神经网络的概念，神经网络的分类与学习方法，前向神经网络模型及其算法，改进的BP网络及其控制、辨识建模，基于遗传算法的神经网络，基于模糊理论的神经网络，RBF网络及其在混沌背景下对微弱信号的测量与控制，反馈网络，Hopfield网络及其在字符识别中的应用，支持向量机及其故障诊断，小波神经网络及其在控制与辨识中的应用。

自适应控制 adaptive control
定义1：不论外界发生巨大变化或系统产生不确定性，控制系统能自行调整参数或产生控制作用，使系统仍能按某一性能指标运行在最佳状态的一种控制方法。

定义2：采用自动方法改变或影响控制参数，以改善控制系统性能的控制。

在日常生活中，所谓自适应是指生物能改变自己的习性以适应新的环境的一种特征。

因此，直观地说，自适应控制器应当是这样一种控制器，它能修正自己的特性以适应对象和扰动的动态特性的变化。

自适应控制的研究对象是具有一定程度不确定性的系统，这里所谓的“不确定性”是指描述被控对象及其环境的数学模型不是完全确定的，其中包含一些未知因素和随机因素。

面对这些客观存在的各式各样的不确定性，如何设计适当的控制作用，使得某一指定的性能指标达到并保持最优或者近似最优，这就是自适应控制所要研究解决的
问题。

自适应控制和常规的反馈控制和最优控制一样，也是一种基于数学模型的控制方法，所不同的只是自适应控制所依据的关于模型和扰动的先验知识比较少，需要在系统的运行过程中去不断提取有关模型的信息，使模型逐步完善。

具体地说，可以依据对象的输入输出数据，不断地辨识模型参数，这个过程称为系统的在线辩识。

随着生产过程的不断进行，通过在线辩识，模型会变得越来越准确，越来越接近于实际。

既然模型在不断的改进，显然，基于这种模型综合出来的控制作用也将随之不断的改进。

在这个意义下，控制系统具有一定的适应能力。

比如说，当系统在设计阶段，由于对象特性的初始信息比较缺乏，系统在刚开始投入运行时可能性能不理想，但是只要经过一段时间的运行，通过在线辩识和控制以后，控制系统逐渐适应，最终将自身调整到一个满意的工作状态。

再比如某些控制对象，其特性可能在运行过程中要发生较大的变化，但通过在线辩识和改变控制器参数，系统也能逐渐适应。

常规的反馈控制系统对于系统内部特性的变化和外部扰动的影响都具有一定的抑制能力，但是由于控制器参数是固定的，所以当系统内部特性变化或者外部扰动的变化幅度很大时，系统的性能常常会大幅度下降，甚至是不稳定。

所以对那些对象特性或扰动特性变化范围很大，同时又要求经常保持高性能指标的一类系统，采取自适应控制是合适的。

但是同时也应当指出，自适应控制比常规反馈控制要复杂的多，成本也高的多，因此只是在用常规反馈达不到所期望的性能时，才会考虑采用。

当今的自动控制技术都是基于反馈的思想。

反馈理论的要素包括三个部分：测量、比较和执行。

测量关心的变量，与期望值相比较，用这个误差纠正调节控制系统的响应。

所谓“鲁棒性”，是指控制系统在一定（结构，大小）的参数摄动下，维持某些性能的特性。

根据对性能的不同定义，可分为稳定鲁棒性和性能鲁棒性。

以闭环系统的鲁棒性作为目标设计得到的固定控制器称为鲁棒控制器。

由于工作状况变动、外部干扰以及建模误差的缘故，实际工业过程的精确模型很难得到，而系统的各种故障也将导致模型的不确定性，因此可以说模型的不确定性在控制系统中广泛存在。

如何设计一个固定的控制器，使具有不确定性的对象满足控制品质，也就是鲁棒控制
第三篇：基于人工神经网络的预测研究的文献综述
基于人工神经网络的预测研究文献综述
专业：电子信息工程班级：08级2班作者：刘铭指导老师：熊朝松引言
随着多媒体和网络技术的飞速发展及广泛应用，人工神经网络已被广泛运用于各种领域，而它的预测功能也在不断被人挖掘着。

人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。

现代计算机构成单元的速度是人脑中神经元速度的几百万倍，对于那些特征明确，推理或运算规则清楚地可编程问题，可以高速有效地求解，在数值运算和逻辑运算方面的精确与高速极大地拓展了人脑的能力，从而在信息处理和控制决策等方面为人们提供了实现智能化和自动化的先进手段。

但由于现有计算机是按照冯·诺依曼原理，基于程序存取进行工作的，历经半个多世纪的发展，其结构模式与运行机制仍然没有跳出传统的逻辑运算规则，因而在很多方面的功能还远不能达到认得智能水平。

随着现代信息科学与技术的飞速发展，这方面的问题日趋尖锐，促使科学和技术专家们寻找解决问题的新出路。

当人们的思想转向研究大自然造就的精妙的人脑结构模式和信息处理机制时，推动了脑科学的深入发展以及人工神经网络和闹模型的研究。

随着对生物闹的深入了解，人工神经网络获得长足发展。

在经历了漫长的初创期和低潮期后，人工神经网络终于以其不容忽视的潜力与活力进入了发展高潮。

这么多年来，它的结构与功能逐步改善，运行机制渐趋成熟，应用领域日益扩大，在解决各行各业的难题中显示出巨大的潜力，取得了丰硕的成果。

通过运用人工神经网络建模，可以进行预测事物的发展，节省了实际要求证结果所需的研究时间。

正是由于人工神经网络是一门新兴的学科，它在理论、模型、算法、应用和时限等方面都还有很多空白点需要努力探索、研究、开拓
和开发。

因此，许多国家的政府和企业都投入了大量的资金，组织大量的科学和技术专家对人工神经网络的广泛问题立项研究。

从人工神经网络的模拟程序和专用芯片的不断推出、论文的大量发表以及各种应用的报道可以看到，在这个领域里一个百家争鸣的局面已经形成。

为了能深入认识人工神经网络的预测功能，大量收集和阅读相关资料是非常必要的。

搜集的资料范围主要是大量介绍人工神经网路，以及认识和熟悉了其中重要的BP网络。

参考的著作有：马锐的《人工神经网络原理》，胡守仁、余少波的《神经网络导论》以及一些相关论文，董军和胡上序的《混沌神经网络研究进展和展望》，朱大奇的《人工神经网络研究现状及其展望》和宋桂荣的《改进BP算法在故障诊断中的应用》，这些
1著作在后面的参考文献中将一一列出。

1.我国人工神经网络研究现状
随着人工神经网络的20世纪80年代在世界范围内的复苏，国内也逐步掀起了研究热潮，1989年10月和11月分别在北京和广州召开了神经网络及其应用讨论会和第一届全国型号处理——神经网络学术会议；1990年2月由国内八个学会（中国电子学会、人工智能学会、自动化学会、通信学会、物理学会、生物物理学会和心理学会）联合在北京召开“中国神经网络首届学术会议”，这次大会以“八学会联盟，探只能奥秘为主题，收到了300多篇学术论文”，开创了中国人工神经网络及神经计算机方面科学研究的新纪元，经过十几年的发展，中国学术界和工程界在人工神经网络的理论研究和应用方面取得了丰硕成果，学术论文、应用成果和研究人员逐年增加。

在国际上，1987年，在美国加洲召开第一届国际神经网络学会，此后每年召开两次国际联合神经网络大会（UCNN），不久，改学会创办了刊物Journal Neural Networks，另有十几种国际著名的神经网络学术刊物相继问世。

至此，神经网络理论研究在国际学术领域获得了其应有的地位。

经过多年的发展，目前已有上百种的神经网络模型被提出。

这么多年来，它的结构与功能逐步改善，运行机制渐趋成熟，应用领域日益扩大，在解决各行各业的难题中显示出巨大的潜力，取得了丰硕的
成果[1]。

正是由于人工神经网络是一门新兴的学科，它在理论、模型、算法、应用和时限等方面都还有很多空白点需要努力探索、研究、开拓和开发。

因此，许多国家的政府和企业都投入了大量的资金，组织大量的科学和技术专家对人工神经网络的广泛问题立项研究。

从人工神经网络的模拟程序和专用芯片的不断推出、论文的大量发表以及各种应用的报道可以看到，在这个领域里一个百家争鸣的局面已经形成[2]。

2.人工神经网络的基本原理
人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。

在工程与学术界也常直接简称为神经网络或类神经网络。

神经网络是一种运算模型，由大量的节点和之间相互联接构成。

神经元是人工神经网络的基本处理单元，它一般是一个多输入/单输出的非线性元件[3]。

由大量处理单元互联组成的非线性、自适应信息处理系统。

它是在现代神经科学
2研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理[4]。

人工神经网络是对人类神经系统的一种模拟。

尽管人类神经系统规模宏大、结构复杂、功能神奇，但其最基本的处理单元却只有神经元。

人工神经系统的功能实际上是通过大量神经元的广泛互连，以规模宏伟的并行运算来实现的。

人工神经网络的神经元就是模拟生物的神经元，神经元也和其他类型的细胞一样，包括有细胞膜、细胞质和细胞核。

但是神经细胞的形态比较特殊，具有许多突起，因此又分为细胞体、轴突和树突三部分。

细胞体内有细胞核突起的作用是传递信息。

（1）细胞体
（2）树突
（3）轴突
（4）突触
图1简单神经元网络图
轴突是由细胞体向外延伸出的所有纤维中最长的一条分枝，用来
向外传递神经元产生的输出电信号。

每个神经元都有一条轴突，其最大长度可达1m以上。

在轴突的末端形成了许多很细的分枝，这些分支叫神经末梢。

每一条神经末梢可以与其它神经元形成功能性接触，该接触部位称为突触。

所谓功能性接触，是指非永久性的接触，这正是神经元之间传递信息的奥秘之处。

树突是指由细胞体向外延伸的除轴突以外的其它所有分支。

树突的长度一般较短，但数量很多，它是神经元的输入端，用于接受从其它神经元的突触传来的信号。

2.人工神经网络BP网络和RBF网络
2.1 BP网络
BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小
3组提出，是一种按误差逆传播算法训练的多层前馈网络[5]，是目前应用最广泛的神经网络模型之一。

BP神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。

BP神经网络模型BP网络模型包括其输入输出模型、作用函数模型、误差计算模型和自学习模型。

BP 算法因其简单、易行、计算量小、并行性强等优点,是目前神经网络训练采用最多也是最成熟的训练算法之一[6]。

2.2 RBF网络
RBF神经网络是一种具有拓扑结构的前向神经网络．由输入层、隐含层、输出层构。

RBF神经网络以径向基函数作为隐层单元的基,构成隐含层空间,隐含层对输入矢量进行变换将低维的模式输入数据变换到高维空间内, 使得在低维空间内的线性不可分问题在高维空间内线性可分。

RBF网络的学习算法，由两部分组成；无导师学习、有导师学习。

3.空调故障
空调系统故障模式及故障机制分析[7][8]，如下表所示:
表1空调系统故障模式及故障机制分析。