神经网络研究的发展趋势

和性质： ①非线性。神经网络在解决非线性控制问题
方面很有希望。这来源于神经网络在理论上可以趋
近任何非线性映射， 人工神经网络比其他方法建模
更经济。②平行分布处理。神经网络具有高度平行的
结构， 这使它本身可平行实现。由于分布和平行实
现， 因而比常规方法有更大程度的容错能力。神经网
络的基本单元结构简单， 并行连结会有很快的处理
１ 会议概况
有神经网络研究领域的多位世界知名教授莅临
统 的 设 计 》（ Ｏ． Ｋａｙｎａｋ） 、《ＩＣＡ 和 ＰＣＡ（ＭＣＡ）的 一 些 方 面 》（ 陈 天 平 ） 、《 柔 性 神 经 模 糊 系 统 》（ Ｌ． Ｒｕｔｋｏｗｓｋｉ） 以 及《容 错 控 制 的 自 适 应 评 判 》（ Ｇａｒｙ Ｇ． Ｙｅｎ） 。
日本、韩国、中国（ 含香港、台湾） 等 １９ 个国家和地区 能以及相应的模型， 并且尽量与应用结合。在本次大
的 ３１０ 人参加了会议， 共有 １７３ 人次在分组报告中 会上， 生物神经网络及其有关专题占相当大的比重，
展示了他们的学术论文， 另有 ３００ 多篇文章进行了 开发反映生物特性的新型神经网络模型也愈加受到
高维相关性， 指出信息几何学理论不仅可用于分析
虫口编码， 而且对理解像多层感知器这样的人工神
经网络也有着主要意义。
（ ２） 非线性系统、实时和自适应控制系统的收敛
性和稳定性。神经网络作为一种新技术之所以引起
人们巨大的兴趣， 并越来越多地用于控制领域， 是因
为与传统的控制技术相比， 它具有以下重要的特征
第
神经网络应用技术研究不断深入， 它与多种学科相
期
交叉， 解决了很多传统科学解决不了的难题， 为人类
５
型》（ Ｗ． Ｊ． Ｆｒｅｅｍａｎ） 、《神经网络和自适应动力 学 规 划 》（ Ｐ． Ｊ． Ｗｅｒｂｏｓ）《 学 习 独 立 子 空 间 进 展 》（ Ｈ． Ｏｇｍｅｎ） 以及《高维空间点集覆盖认知： 理论和应用》 （ 王守觉） 。另有拓导报告 ４ 个：《稳定神经自适应系
从论文情况看， 我国在神经网络研究的几个主要
３ 我国研究现状
方面处于先进水平， 并有一定的特色。比如， 香港中 文大学的徐雷教授提出了贝叶斯阴阳调和学习理 论， 在国际神经网络界具有相当的知名度； 在时滞神 经网络的稳定性、分叉和混沌理论研究中， 我国的廖 晓峰教授、章毅教授、曹进德教授等做了大量卓有成 效的工作。但在一些新的学术方向如神经生物学、神 经网络在光学和大规模集成电路上的实现、神经网 络视觉模型、神经网络与人的意识， 以及认知网络等 方面， 我国的研究还很不够。
２００６
以及仿生化学的理论和应用。报告具有较强的前瞻 结合， 神经网络与生物医学的结合， 以及各种混合神
性， 一定程度上代表了神经网络未来的发展方向。 报告题目是：《虫口编码、贝叶斯推断和信息几何学》 （ Ｓ．Ａｍａｒｉ） 、《真 正 智 能 机 器 人 目 标 行 为 的 动 力 学 模
经网络的出现。二是神经网络的应用范围不断扩展， 年
态来自百度文库
４３
发展方向
域、处理组合优化问题、模式识别、图像处理、传感器
信 号 处 理 、机 械 人 控 制 、信 号 处 理 、卫 生 保 健 、医 疗 、
商业预测、化工领域、焊接领域， 以及数据挖掘、电力
系统、交通、军事、矿业、农业和气象等方面。以下为
有代表性的研究领域。
（ １） 脑科学、神经处理动力学的研究。当代医学证
２ 神经网络的研究趋势
会议。日本脑科学研究所所长、国际神经网络协会
神经网络是一门新兴交叉学科， 始于 ２０ 世纪 ４０
（ ＩＮＮＳ） 发起人之一、期刊 Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ 的第一任 年代， 是人类智能研究的重要组成部分， 已成为脑科
主编、前东京大学 Ｓｈｕｎ－ ｉｃｈｉ Ａｍａｒｉ 教 授 ， 美 国 加 利 学、神经科学、认知科学、心理学、计算机科学、数学
发展方向
神经网络研究的发展趋势
廖晓峰 李传东
（ 重庆大学计算机学院， 重庆 ４０００４４）
２００５ 神 经 网 络 国 际 会 议 （Ｓｅｃｏｎｄ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｓｙｍｐｏｓｉｕｍ ｏｎ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ， ＩＳＮＮ２００５ ） 于 ５ 月 ３０ 日至 ６ 月 ２ 日在重庆大学召开。
速度。③硬件实现。这与分布平行处理的特征密切机
关， 也就是说它不仅可以平行实现， 而且许多制造厂
家已经用专用 ＶＬＳＩ 硬件来制作神经网络。这样， 速
度进一步提高， 而且网络能实现的规模也明显增大。
④学习和自适应性。利用系统过去的数据记录， 可对
２００６
网络进行训练。受适当训练的网络有能力泛化， 也即
认识世界、开拓未知领域、提高现代科学技术研究水
平进而以科技带动生产力对国民经济的增长起到了 国 际
促进作用， 是世界上公认的尖端前沿的技术研究领 学 域之一。目前， 神经网络已经广泛应用于自动控制领 术
动
廖晓峰 ： 教授。 Ｔｅｌ： ０２３－ ６５１０３１９９
Ｅ－ ｍａｉｌ： ｘｆｌｉａｏ＠ｃｑｕ．ｄｅｕ．ｃｎ
动
（ ３） 基于感知与生物特征的信息处理。人类及其
态 他生物适应环境生存与发展依赖于生命的遗传信息
４４
编码、存储和传输。寻求基于生物特征的信息编码、 存储和传输理论与方法， 探寻基于非线性机制和生 物特征的信息编码、复制和解码规则， 信息压缩和增 扩的非线性本质， 具有十分重大的理论价值和工程 应用前景， 甚至有可能对信息科学带来革命性的贡 献。人类感知的经验表明： 人具有从复杂环境中搜索 特定目标， 并对目标信息进行有选择处理的能力。这 种搜索与选择的过程被称为注意力集中。在信息爆 炸的时代， 快捷有效地获取所需的信息是人类所面 临的一大难题。如何将人的感知觉系统所具有的环 境聚焦和自聚焦机制应用于多模块系统的学习， 根 据处理任务确定注意网络的输入， 使整个系统在注 意子系统的控制之下有效地完成信息处理任务， 有 可能为上述问题的解决提供新的途径。提高系统的 智能度主要有两种途径： 一是在基于古典精确逻辑 的基础上， 通过增加并行度来加快系统的演化速度， 从而提高系统的智能； 二是开发新的高智能的逻辑 形式。前者， 主要是考虑计算速度， 这同样有两种途 径， 一方面在原有算法基础上开发相应的并行算法； 另一方面是设计出更高效且具有高并行度的新型算 法。后者， 主要是从系统本身出发来提高它的智能 度， 其主要手段是通过对人或高等动物以及自然界 的研究， 从中得到一些启示， 并应用于新系统的设计 中。综合智能信息处理将以神经网络并行分布处理 和基于专家系统的人工智能符号逻辑推理为两种重 要的基本方式， 并与模糊逻辑、进化计算、混沌动力 学、信号处理与变换等方法综合集成。如： ①软计 算： 神经网络、模糊逻辑和概率推理等； ②不确定性 推理与自组织； ③仿生计算： 进化算法、模拟退火等。
福尼亚萨斯州大学的 Ｗａｌｔｅｒ Ｆｒｅｅｍａｎ 教授， 中国科 和物理学等共同关注的焦点。它模仿人脑神经网络
学院王守觉院士， Ｐａｕｌ Ｊ． Ｗｅｒｂｏｓ 教授， 香港中文大 的结构和某些工作机制建立一种计算模型。神经网
学 的 徐 雷 教 授 ， 土 耳 其 Ｂｏｇａｚｉｃｉ 大 学 的 Ｏｋｙａｙ 络的研究已经进入更加成熟的发展阶段， 其中一个
实， 人的大脑将信息编码成为神经元激活模式的形
式并对其随机处理， 通过随机扰动神经元实现可靠
的计算。虫口编码是大脑中信息表示的一种典型形
式， 在大脑中神经系统完成贝叶斯推断。Ａｍａｒｉ 的报
告阐述了虫口编码的基本原理， 编码信息的数量以
及贝叶斯推断方法。引入了信息几何学理论作为数
学工具来阐述一族随机分布， 并分析了神经激活的
Ｋａｙｎａｋ 教授在大会上分别作了报告。大会共收到论 很重要的标志是越来越多的心理学家、神经生理学
文 １ ４４５ 篇， 经过国内外专家的严格评审， 最终选出 家、医学工作者、数学家以及计算机科学家联合起
了 ４９６ 篇收入论文集。来自美国、欧洲、澳大利亚、 来， 开展跨学科的研究， 以探讨神经网络的机理、功
年 当输入出现训练中未提供的数据时， 网络也有能力
第
进行辨识。神经元网络也可以在线训练。⑤数据融
期
合。网络可以同时对定性和定量数据进行操作。在这
５
方面， 网络正好是传统工程系统（ 定量数据） 和人工
国 智能领域（ 符号数据） 信息处理技术之间的桥梁。⑥ 际 学 多变量系统。神经网络自然地处理多输入信号， 并具 术 有许多输出， 它们非常适合用于多变量系统。
张贴。
关注。从近年来的发展和本次神经网络国际会议来
大会报告 ７ 个， 内容涉及信息几何学、智能机器 看， 神经网络的研究有两个大的趋势： 一是在理论上
人的动力学模型、神经网络和自适应动力学规划、学 向更复杂的神经网络系统方向发展。表现在神经网
习独立子空间进展、神经处理动力学和视觉感知学 络与模糊、进化算法的结合， 神经网络与认知科学的