人工神经网络的发展及应用
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
自动化领域
神经网络和控制理论与控制技术相结合，发展为神经网络控制。为解决复杂的 非线性不确定、不确知系统的控制问题开辟了一条新的途径。
1)系统辨识在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模 型。多年来控制领域对于复杂的非线性对象的辨识，一直未能很好的解决。神经网 络所具有的非线性特性和学习能力，使其在系统辨识方面有很大的潜力，为解决具 有复杂的非线性、不确定性和确知对象的辨识问题开辟了一条有效途径。 2)神经控制器控制器在实时控制系统中起着“大脑” 的作用，神经网络具有自 学习和自适应等智能特点，因而非常适合于做控制器。对于复杂非线性系统神经控 制器所达到的控制效果往往明显好于常规控制器。 3)智能检测所谓智能检测一般包括干扰量的处理，传感器输入特性的非线性补偿， 零点和量程的自动校正以及自动诊断等。这些智能检测功能可以通过传感元件和信 号处理元件的功能集成来实现。 在综合指标的检测(例如对环境舒适度这类综合指标 的检测)中， 以神经网络作为智能检测中的信息处理元件便于对多个传感器的相关信 息(如温度、湿度、风向和风速等)进行复合、集成、融合、联想等数据融合处理， 从而实现单一传感器所不具备的功能。 工程领域 1)汽车工程汽车在不同状态参数下运行时，能获得最佳动力性与经济性的档位 称为最佳档位。 利用神经网络的非线性映射能力，通过学习优秀驾驶员的换档经验数据，可自 动提取蕴含在其中的最佳换档规律。另外，神经网络在汽车刹车自动控制系统中也 有成功的应用，该系统能在给定刹车距离、车速和最大减速度的情况下一人体感受 到最小冲击实现平稳刹车而不受路面坡度和车重的影响。神经网络在载重车柴油机 燃烧系统方案优化中也得到了应用，有效的降低了油耗和排烟度，获得了良好的社 会经济效益。 2)军事工程神经网络同红外搜索与跟踪系统配合后，可发现和跟踪飞行器。例 如借助于神经网络可以检测空间卫星的动作状态是稳定、倾斜、旋转还是摇摆，一 般正确率可达 95％。 3)化学工程神经网络在制药、生物化学、化学工程等领域的研究与应用蓬勃开 展，取得了不少成果。例如在谱分析方面，应用神经网络在红外谱、紫外谱、折射 光谱和质谱与化合物的化学结构问建立某种确定的对应关系方面的成功应用。
人工神经网络的发展与应用
神经网络发展 启蒙时期 启蒙时期开始于 1980 年美国著名心理学家 W．James 关于人脑结构与功能的研 究， 结束于 1969 年 Minsky 和 Pape~发表的 《感知器》 (Perceptron)一书。 早在 1943 年， 心理学家 McCulloch 和数学家 Pitts 合作提出了形式神经元的数学模型(即 M— P 模型)，该模型把神经细胞的动作描述为：1 神经元的活动表现为兴奋或抑制的二 值变化；2 任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态 无关；3 任何抑制性突触有输入激励后，使神经元抑制；4 突触的值不随时间改变； 5 突触从感知输入到传送出一个输出脉冲的延迟时问是 0．5ms。可见，M—P 模型是 用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看 M—P 模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此， M—P 模型被认为开创了神经科学理论研究的新时代。1949 年，心理学家 D．0．Hebb 提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则—— Hebb 规 则 ， 为 神 经 网 络 的 学 习 算 法 奠 定 了 基 础 。 1957 年 ， 计 算 机 学 家 FrankRosenblatt 提出了一种具有三层网络特性的神经网络结构，称为“感知器” (Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力， Rosenblatt 认为信息被包含在相互连接或联合之中， 而不是反映在拓扑结构的表示 法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神 经网络系统内开始形成新的连接或传递链路后，新 的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识 别或坚定他们的过程。1962 年 Widrow 提出了自适应线性元件(Ada—line)，它是连 续取值的线性网络，主要用于自适应信号处理和自适应控制。
复兴时期
20 世纪 80 年代以来， 由于以逻辑推理为基础的人工智能理论和冯· 诺伊曼型计 算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们
Fra Baidu bibliotek
怀疑当前的冯·诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近 人脑的计算模型，于是又形成了对神经网络研究的热潮。1982 年，美国加州理工学 院的物理学家 JohnJ．Hopfield 博士发表了一篇对神经网络研究的复苏起了重要作 用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和 各种算法概括起来，塑造出一种新颖的强有力的网络模型，称为 Hopfield 网络。他 引入了“计算能量函数” 的概念，给出了网络稳定性依据。从而有力地推动了神经 网络的研究与发展。1986 年，Rumelhart 及 ．Cun 等学者提出了多层感知器的反向 传插算法，克服了当初阻碍感知器模型继续发展的重要障碍。这一时期，大量而深 入的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的 进一步认识，使人们对模仿脑信息处理的智能计算机的研究重新充满了希望。
人工神经网络的应用
信息领域 信息领域神经网络作为一种新型智能信息处理系统，其应用贯穿信息的获取、 传输、接收与加工利用等各个环节。 1)信号处理神经网络广泛应用于自适应信号处理和非线性信号处理。前者如信 号的自适应滤波、时间序列预测、谱估计、噪声消除等；后者如非线性滤波、非线 性预测、非线性编码、调制解调等。 2)模式识别模式识别涉及模式的预处理变换和将一种模式映射为其他类型的操 作。神经网络不仅可以处理静态模式如固定图像、固定能谱等，还可以处理动态模 式如视频图像、连续语音等。 3)数据压缩在数据传送存储时，数据压缩至关重要。神经网络可对待传送的数 据提取模式特征，只将该特征传出，接收后再将其恢复成原始模式。
低潮期
人工智能的创始人之一 Minkey 和 pape~经过数年研究，对以感知器为代表的网 络系统的功能及其局限性从数学上做了深入的研究，于 1969 年出版了很有影响的 《Perceptron)一书， 该书提出了感知器不可能实现复杂的逻辑函数， 这对当时的人 工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起 低潮的更重要的原因是：20 世纪 7O 年代以来集成电路和微电子技术的迅猛发展， 使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算 机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的 S．Grossberg 教授和赫尔辛基大学的 Koho—nen 教授，仍致力于神经网络的研究， 分别提出了自适应共振理论(Adaptive Resonance Theory)和自组织特征映射模型 (SOM)。 以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视， 但其科学 价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。
新时期
1987 年 6 月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着 世界范围内掀起了神经网络开发研究的热潮。在这次会上成立了国际神经网络学会 (INNS)， 并于 1988 年在美国波士顿召开了年会， 会议讨论的议题涉及到生物、 电子、 计算机、物理、控制、信号处理及人工智能等各个领域。自 1988 年起，国际神经网 络学会和国际电气工程师与电子工程师学会(IEEE)联合召开了每年一次的国际学术 会议。这次会议后不久，美国波士顿大学的 StephenGrossberg 教授、芬兰赫尔辛基 技术大学的 Teuvo Kohonen 教授及日本东京大学的甘利俊一教授，主持创办了世界 第一份神经网络杂志《Neural Network)。随后，IEEE 也成立了神经网络协会并于 1990 年 3 月开始出版神经网络会刊，各种学术期刊的神经网络特刊也层出不穷。从 1987 年以来，神经网络的理论、应用、实现及开发工具均以令人振奋的速度快速发 展。神经网络理论已成为涉及神经生理科学、认知科学、数理科学、心理学、信息 科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿学科。 神经网络的应用已渗透到模式识别、图像处理、非线性优化、语音处理、自然语言 理解、自动目标识别、机器人专家系统等各个领域，并取得了令人瞩目的成果。
神经网络和控制理论与控制技术相结合，发展为神经网络控制。为解决复杂的 非线性不确定、不确知系统的控制问题开辟了一条新的途径。
1)系统辨识在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模 型。多年来控制领域对于复杂的非线性对象的辨识，一直未能很好的解决。神经网 络所具有的非线性特性和学习能力，使其在系统辨识方面有很大的潜力，为解决具 有复杂的非线性、不确定性和确知对象的辨识问题开辟了一条有效途径。 2)神经控制器控制器在实时控制系统中起着“大脑” 的作用，神经网络具有自 学习和自适应等智能特点，因而非常适合于做控制器。对于复杂非线性系统神经控 制器所达到的控制效果往往明显好于常规控制器。 3)智能检测所谓智能检测一般包括干扰量的处理，传感器输入特性的非线性补偿， 零点和量程的自动校正以及自动诊断等。这些智能检测功能可以通过传感元件和信 号处理元件的功能集成来实现。 在综合指标的检测(例如对环境舒适度这类综合指标 的检测)中， 以神经网络作为智能检测中的信息处理元件便于对多个传感器的相关信 息(如温度、湿度、风向和风速等)进行复合、集成、融合、联想等数据融合处理， 从而实现单一传感器所不具备的功能。 工程领域 1)汽车工程汽车在不同状态参数下运行时，能获得最佳动力性与经济性的档位 称为最佳档位。 利用神经网络的非线性映射能力，通过学习优秀驾驶员的换档经验数据，可自 动提取蕴含在其中的最佳换档规律。另外，神经网络在汽车刹车自动控制系统中也 有成功的应用，该系统能在给定刹车距离、车速和最大减速度的情况下一人体感受 到最小冲击实现平稳刹车而不受路面坡度和车重的影响。神经网络在载重车柴油机 燃烧系统方案优化中也得到了应用，有效的降低了油耗和排烟度，获得了良好的社 会经济效益。 2)军事工程神经网络同红外搜索与跟踪系统配合后，可发现和跟踪飞行器。例 如借助于神经网络可以检测空间卫星的动作状态是稳定、倾斜、旋转还是摇摆，一 般正确率可达 95％。 3)化学工程神经网络在制药、生物化学、化学工程等领域的研究与应用蓬勃开 展，取得了不少成果。例如在谱分析方面，应用神经网络在红外谱、紫外谱、折射 光谱和质谱与化合物的化学结构问建立某种确定的对应关系方面的成功应用。
人工神经网络的发展与应用
神经网络发展 启蒙时期 启蒙时期开始于 1980 年美国著名心理学家 W．James 关于人脑结构与功能的研 究， 结束于 1969 年 Minsky 和 Pape~发表的 《感知器》 (Perceptron)一书。 早在 1943 年， 心理学家 McCulloch 和数学家 Pitts 合作提出了形式神经元的数学模型(即 M— P 模型)，该模型把神经细胞的动作描述为：1 神经元的活动表现为兴奋或抑制的二 值变化；2 任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态 无关；3 任何抑制性突触有输入激励后，使神经元抑制；4 突触的值不随时间改变； 5 突触从感知输入到传送出一个输出脉冲的延迟时问是 0．5ms。可见，M—P 模型是 用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看 M—P 模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此， M—P 模型被认为开创了神经科学理论研究的新时代。1949 年，心理学家 D．0．Hebb 提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则—— Hebb 规 则 ， 为 神 经 网 络 的 学 习 算 法 奠 定 了 基 础 。 1957 年 ， 计 算 机 学 家 FrankRosenblatt 提出了一种具有三层网络特性的神经网络结构，称为“感知器” (Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力， Rosenblatt 认为信息被包含在相互连接或联合之中， 而不是反映在拓扑结构的表示 法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神 经网络系统内开始形成新的连接或传递链路后，新 的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识 别或坚定他们的过程。1962 年 Widrow 提出了自适应线性元件(Ada—line)，它是连 续取值的线性网络，主要用于自适应信号处理和自适应控制。
复兴时期
20 世纪 80 年代以来， 由于以逻辑推理为基础的人工智能理论和冯· 诺伊曼型计 算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们
Fra Baidu bibliotek
怀疑当前的冯·诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近 人脑的计算模型，于是又形成了对神经网络研究的热潮。1982 年，美国加州理工学 院的物理学家 JohnJ．Hopfield 博士发表了一篇对神经网络研究的复苏起了重要作 用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和 各种算法概括起来，塑造出一种新颖的强有力的网络模型，称为 Hopfield 网络。他 引入了“计算能量函数” 的概念，给出了网络稳定性依据。从而有力地推动了神经 网络的研究与发展。1986 年，Rumelhart 及 ．Cun 等学者提出了多层感知器的反向 传插算法，克服了当初阻碍感知器模型继续发展的重要障碍。这一时期，大量而深 入的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的 进一步认识，使人们对模仿脑信息处理的智能计算机的研究重新充满了希望。
人工神经网络的应用
信息领域 信息领域神经网络作为一种新型智能信息处理系统，其应用贯穿信息的获取、 传输、接收与加工利用等各个环节。 1)信号处理神经网络广泛应用于自适应信号处理和非线性信号处理。前者如信 号的自适应滤波、时间序列预测、谱估计、噪声消除等；后者如非线性滤波、非线 性预测、非线性编码、调制解调等。 2)模式识别模式识别涉及模式的预处理变换和将一种模式映射为其他类型的操 作。神经网络不仅可以处理静态模式如固定图像、固定能谱等，还可以处理动态模 式如视频图像、连续语音等。 3)数据压缩在数据传送存储时，数据压缩至关重要。神经网络可对待传送的数 据提取模式特征，只将该特征传出，接收后再将其恢复成原始模式。
低潮期
人工智能的创始人之一 Minkey 和 pape~经过数年研究，对以感知器为代表的网 络系统的功能及其局限性从数学上做了深入的研究，于 1969 年出版了很有影响的 《Perceptron)一书， 该书提出了感知器不可能实现复杂的逻辑函数， 这对当时的人 工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起 低潮的更重要的原因是：20 世纪 7O 年代以来集成电路和微电子技术的迅猛发展， 使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算 机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的 S．Grossberg 教授和赫尔辛基大学的 Koho—nen 教授，仍致力于神经网络的研究， 分别提出了自适应共振理论(Adaptive Resonance Theory)和自组织特征映射模型 (SOM)。 以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视， 但其科学 价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。
新时期
1987 年 6 月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着 世界范围内掀起了神经网络开发研究的热潮。在这次会上成立了国际神经网络学会 (INNS)， 并于 1988 年在美国波士顿召开了年会， 会议讨论的议题涉及到生物、 电子、 计算机、物理、控制、信号处理及人工智能等各个领域。自 1988 年起，国际神经网 络学会和国际电气工程师与电子工程师学会(IEEE)联合召开了每年一次的国际学术 会议。这次会议后不久，美国波士顿大学的 StephenGrossberg 教授、芬兰赫尔辛基 技术大学的 Teuvo Kohonen 教授及日本东京大学的甘利俊一教授，主持创办了世界 第一份神经网络杂志《Neural Network)。随后，IEEE 也成立了神经网络协会并于 1990 年 3 月开始出版神经网络会刊，各种学术期刊的神经网络特刊也层出不穷。从 1987 年以来，神经网络的理论、应用、实现及开发工具均以令人振奋的速度快速发 展。神经网络理论已成为涉及神经生理科学、认知科学、数理科学、心理学、信息 科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿学科。 神经网络的应用已渗透到模式识别、图像处理、非线性优化、语音处理、自然语言 理解、自动目标识别、机器人专家系统等各个领域，并取得了令人瞩目的成果。