人工神经网络技术研究
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
人工神经网络技术研究
刘洋
【摘要】以目前流行的数据挖掘中的人工神经网络技术为例,分析了其原理、主要功能、结构及工作方式等几方面,并指出了人工神经网络技术未来的研究方向及发展趋势.
【期刊名称】《农业网络信息》
【年(卷),期】2013(000)009
【总页数】3页(P29-31)
【关键词】人工神经网络;信息处理;网络算法
【作者】刘洋
【作者单位】内蒙古师范大学,内蒙古呼和浩特010022
【正文语种】中文
【中图分类】S126
1 人工神经网络原理
人工神经网络是在现代神经生物学研究基础上提出的模拟生物过程以反映人脑某些特性的计算结构。
它不是人脑神经系统的真实描写,而只是某种抽象、简化和模拟[1]。
在人工神经网络中,神经元常被称为“处理单元”。
有时从网络的观点出发常把它称为“节点”。
人工神经元是对生物神经元的一种形式化描述,它对生物神经元的信息处理过程进行抽象,并用数学语言予以描述;对生物神经元的结构和
功能进行模拟,并用模型因子予以表达。
图1 神经元结构模型
人工神经元的输出也同生物神经元一样仅有一个,如用Oj表示神经元输出,则输出与输入之间的对应关系可用图1中的某种函数来表示,这种函数称为转移函数,一般都是非线性的。
常用的函数有:阈值型转移函数、分段线性转移函数、非线性转移函数。
2 人工神经网络主要功能
2.1 分类
神经网络对外界输入样本具有很强的识别与分类能力。
对输入样本的分类实际上是在样本空间中找出符合分类要求的分割区域,每个区域内的样本属于同一类。
传统分类方法只适合解决同类相聚,异类分离的识别与分类问题。
但客观世界中的许多事物在样本空间上的区域分割曲面是十分复杂的,相近的样本可能属于不同的类,而远离的样本可能同属一类。
神经网络可以很好地解决对非线性曲面的逼近,因此比传统的分类器有更好的分类能力。
2.2 非线性映射
在客观世界中,许多系统的输入与输出之间存在复杂的非线性关系,对于这类系统,往往很难用传统的数理方法建立数学模型。
设计合理的神经网络,通过对其输入输出样本对进行自动学习,能够以任意精度逼近任意复杂的非线性映射。
神经网络的这一优良性能使其可以作为非线性函数的通用数学模型。
该模型的表达是非解析的,输入输出数据之间的映射规则由神经网络在学习阶段自动提取并分布式存储在网络的所有连接中。
具有非线性映射功能的神经网络应用十分广泛,几乎涉及所有领域。
2.3 联想记忆
由于神经网络具有分布存储信息和并行计算的性能,因此它具有对外界刺激信息和输入模式进行联想记忆的能力。
神经网络通过其突触权值和连接结构来表达信息的记忆,这种分布式存储使得神经网络能存储较多的复杂模式和恢复记忆的信息。
神经网络通过预先存储信息和学习机制进行自适应训练,可以从不完整的信息和噪声干扰中恢复原始的完整信息,这一能力使其在图像复原、图像和语音处理、模式识别、分类等方面具有巨大的潜在应用价值。
2.4 优化计算
优化计算是指在已知的约束条件下,寻找一组参数组合,使由该组合确定的目标函数达到最小值。
某些类型的神经网络可以把待求解问题的可变参数设计为网络的状态,将目标函数设计为网络的能量函数。
神经网络经过动态演变过程达到稳定状态时对应的能量函数的值最小,从而其稳定状态就是问题的最优解。
这种优化计算不需要对目标函数求导,其结果是网络自动给出的。
2.5 知识处理
知识是人们从客观世界的大量信息以及自身的实践中总结归纳出来的经验、规则和判据。
神经网络获得知识的途径与人类似,也是从对象的输入输出信息中抽取规律而获得关于对象的知识,并将知识分布在网络的连接中予以存储。
神经网络的知识抽取能力使其能够在没有任何先验知识的情况下自动从输入数据中提取特征,发现规律,并通过自组织过程将自身构建成适合于表达所发现的规律。
另一方面,人的先验知识可以大大提高神经网络的知识处理能力,两者相结合会使神经网络智能得到进一步提升。
图2 神经网络示意图
3 网络结构及工作方式
3.1 反馈网络
多个神经元互连以组织一个互连神经网络,有些神经元的输出被反馈至同层或前层
神经元。
因此,信号能够从正向和反向流通。
总单元数为n,则每一个结点有n-1个输入和—个输出。
如图2(a)所示。
3.2 前馈网络
前馈网络具有递阶分层结构,由一些同层神经元间不存在互连的层级组成。
从输入层至输出层的信号通过单向连接流通;神经元从一层连接至下一层,不存在同层神经元间的连接,如图2(b)所示。
图2中,实线指明实际信号流通而虚线表示反向
传播[3]。
神经网络的工作过程主要分为两个阶段:①是学习期,此时各计算单元状态不变,各连接线上的权值可通过学习来修改;②是工作期,此时各连接权固定,计算单元变化。
从作用效果看,前馈网络上要是函数映射,可用于模式识别和函数逼近。
反馈网络按对能量函数的极小点的利用来分类有两种:第一类是能量函数的所有极小点都起作用,这一类主要用作各种联想存储器;第二类只利用全局极小点,它主要用于求解最优化问题。
4 人工神经网络的研究方向
神经网络的研究可以分为理论研究和应用研究两方面。
理论研究可以分为两类:①利用神经生理与认知科学研究人类思想以及智能机理;
②利用神经基础理论的研究成果,用数理方法探索功能更加完善、性能更加优越的神经网络模型,深入研究网络算法和性能,如:稳定性、收敛性、容错性等;开发的网络数理理论,如:神经网络动力学、非线性神经场等。
应用研究可分为两类:①神经网络的软件模拟和硬件实现的研究;②神经网络在各个领域中应用的研究。
这些领域主要包括:模式识别、信号处理、知识工程、专家系统、机器人控制等。
随着神经网络理论本身以及相关理论、相关技术的不断发展,神经网络的应用定将更加深入。
5 人工神经网络的发展趋势
人工神经网络特有的非线性适应性信息处理能力,克服了传统人工智能方法对于直觉,如模式、语音识别、非结构化信息处理方面的缺陷,使之在神经专家系统,模式识别、智能控制、组合优化、预测等领域得到成功应用[4]。
人工神经网络与其
他传统方法相结合,将推动人工智能和信息处理技术不断发展。
近年来,人工神经网络正向模拟人类认知的道路上更加深入发展,与模糊系统、遗传算法进化机制等结合,形成计算智能,成为人工智能的一个重要方向,将在实际应用中得到发展。
将信息几何应用于人工神经网络的研究,为人工神经网络的理论研究开辟了新的途径。
神经计算机的研究发展很快,已有产品进入市场[5]。
光点结合的神经计算为
人工神经网络的发展提供了良好的条件。
神经网络在很多领域已经得到了很好的应用,但其需要研究的方面还很多。
其中,具有分布存储、并行处理、自学习、自组织以及非线性映射等优点的神经网络与其他技术的结合以及由此而来的混合方法和混合系统,已经成为一大研究热点。
由于其他方法也各有优点,所以将神经网络与其他方法相结合,取长补短,继而可以获得更好的应用效果。
目前这方面工作有神经网络与模糊逻辑、专家系统、遗传算法、小波分析、混沌、粗糙集理论、分形理论、证据理论和灰色系统等的融合。
参考文献
[1]翁敬农.译.数据挖掘教程[M].北京:清华大学出版社,2003.
[2]戴葵.神经网络实现技术[M].北京:国防科技大学出版社,2008.
[3]张德贤.前向神经网络合理隐含层结点个数估计[J].计算机工程与应用,2003,(5):21-23.
[4]吴喜之,等.数据挖掘前沿问题[M].北京:中国统计出版社,2009.
[5]哀曾任,等.人工神经网络及其应用[M].北京:清华大学出版社,2010.。