人工神经网络研究背景目的意义与现状
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
人工神经网络研究背景目的意义与现状
1研究背景
2国内外研究状况及趋势
3研究的目的及意义
1研究背景
现代计算机构成单元的速度是人脑中神经元速度的几百万倍,对于那些特征明确,推理或运算规则清楚的可编程问题,可以高速有效地求解,在数值运算和逻辑运算方面的精确与高速极大地拓展了人脑的能力,从而在信息处理和控制决策等各方面为人们提供了实现智能化和自动化的先进手段。但由于现有计算机是按照冯·诺依曼原理,基于程序存取进行工作的,历经半个多世纪的发展,其结构模式与运行机制仍然没有跳出传统的逻辑运算规则,因而在很多方面的功能还远不能达到人的智能水平。随着现代信息科学与技术的飞速发展,这方面的问题日趋尖锐,促使科学和技术专家们寻找解决问题的新出路。当人们的思路转向研究大自然造就的精妙的人脑结构模式和信息处理机制时,推动了脑科学的深入发展以及人工神经网络和脑模型的研究。随着对生物脑的深入了解,人工神经网络获得长足发展。在经历了漫长的初创期和低潮期后,人工神经网络终于以其不容忽视的潜力与活力进入了发展高潮。60多年来,它的结构与功能逐步改善,运行机制渐趋成熟,应用领域日益扩大,在解决各行各业的难题中显示出巨大的潜力,取得了丰硕的成果。
正是由于人工神经网络是一门新兴的学科,它在理论、模型、算法、应用和时限等方面都还有很多空白点需要努力探索、研究、开拓和开发。因此,许多国家的政府和企业都投入了大量的资金,组织大量的科学和技术专家对人工神经网络的广泛问题立项研究。从人工神经网络的模拟程序和专用芯片的不断推出、论文的大量发表以及各种应用的报道可以看到,在这个领域里一个百花气放、百家争鸣的局面已经形成。
在进行神经网络的理论研究时,人们可以将自己的神经网络模型或算法在通用的串行或并行计算机上编程实现,但这只是研究的手段而绝非目的,在构造实际的神经网络应用系统时,必然要考虑到硬件实现问题,特定应用下的高性能专
用神经网络硬件是神经网络研究的最终目标。
2国内外研究状况及趋势
神经网络的硬件实现可追溯到60年代,当时有几家公司和研究机构试图用硬件来实现神经元,最为著名的便是感知机和ADALINE神经网络模型的实现。当时CornellAeronautical实验室(现在名为CALSPAN Corporation)的Rosenblatt 从理论上和实现上描述了感知机。ADALINE神经网络模型则是由斯坦福人学的Widrow提出的。感知机和ADALINE均为单个神经元模型,它们均能接受多路输入,并能自适应地修改与这些输入相对应的突触强度(互连权值),然而它们在实现上有所不同。在感知机中,其突触强度通过一种电子机械的方法来改变(通过一个电动马达的转动来改变突触强度),这种实现有许多缺点,如体积大,价格高,运行不可靠等。Widrow的ADALINE实现中则用电阻的方法来表示突触强度。
1965年至1980年,除Adaptronics Corp(现为Division of Flow General Crop)之外,其它一些研究实体在神经网络实现上没有做更多的工作。Adaptronics的Louis Gilstrap和Roger Barron在1974年开发了第一块神经元芯片。这种很一般的芯片上只包含一个神经元,具有多个输入端且其互连强度可以自适应的改变。要构造具有多个神经元的网络,只需将许多这种芯片在插件板上排列并互连起来就可以了。将许多这种插件板构建在一起便可满足神经网络在商业和军事上的许多应用目的。1982年美国的物理学家Hopfield发表论文,提出神经网络的一种数学模型,即Hopfield神经网络模型,并研究了它的动力学性质。两年以后,他设计出了电子线路模拟这种网络的性质,认为这种网络可以解决数学上著名的TSP问题(Traveling Salesman Problem)。次年,美国加州理工学院和贝尔实验室合作研制成256个神经元(在四分之一平方英寸芯片上,由*10^4个晶体管和*10^5个电阻集成)和64个可编程神经元。
神经网络实现的另一种方法是在传统计算机上通过编写支持软件来模拟神经网络计算。这种软件模拟神经计算机很有代表性的是:1983年RobertHechtNielsen和Todd Gutschow在TRW的AI中心所推出的Mark I及改进MarkII;1986年Zipser和Rabin所推出的P3系统:1987年Rochester大学推
出的RCS;1988年Maryland大学的MIRRORS系统;国防科技大学于1990年推出的性能可与上述系统媲美的GKD-NNSS软件模拟神经计算机。为了解决软件模拟神经计算机处理速度慢的问题,可以在通用机上插入神经网络加速板,形成神经计算机工作站。1985年TRW公司推出了Mark III神经计算机,Mark III包含有8个处理板,可以并行操作,每个处理板可以仿真1064个虚拟的神经元。随后TRW 公司在1985年至1986年又开发出了Mark IV神经计算机。在研制神经网络加速板的基础上,为更好地支持神经计算,一种更好的实现方法便是构成神经网络专用并行处理阵列机。这些系统的处理速度和神经网络加速板相比,有明显提高。
在进行神经网络的研究中,要使神经网络在实际中能进行有效的应用,或是支持更好的神经网络研究,神经网络实现技术必须能够支持大规模的神经网络模型的神经计算,同时要能尽可能地缩短神经计算的时间,达到实时的水平。但是现有的各种神经网络软件模拟环境所能支持模拟神经网络模型的规模及神经计算速度都还远远达不到研究和应用所需要的水平。因此,开展大规模的硬件实现的神经网络计算机的研制势在必行。
3研究的目的及意义
人工智能的方法和技术已经用于解决很多领域的问题,并取得了一定的成就。人工神经网络是人工智能领域的重要分支,而神经网络的硬件实现是神经网络研究的基本问题之一。从对神经网络进行理论探讨的角度,可以通过计算机仿真途径来模拟实现特定的神经网络模型或算法,但在构造神经网络的实际应用系统时,必然要研究和解决其硬件实现问题。神经网络专用硬件可提供高速度,并具有比通用串、并行机高得多的性价比,所以特定应用下的高性能专用神经网络硬件是神经网络研究的最终目标。