人工智能深度学习概念研究与综述

2018.08

深度学习的应用价值在工业领域以及学术领域都有重要的影响。在大数据时代已经到来的今天,数据统计与分析方法有所变化,深度学习是由多层神经网络和机器学习演化而来,它的大数据分析与处理能力走在世界的前沿。从机器学习到深度学习,数据处理与统计方法发生了巨大的变化。而经过不断的调查与研究,深度学习能更深层次地挖掘大数据的潜在价值。对深度学习加以研究和应用,能促进现代科学技术的发展。

1深度学习的概念

2006年,由Hinton 等人首次提出深度学习的概念,

在基于深度置信网络的基础上,提出非监督贪心逐层训练算法,这种训练算法的提出为解决深层结构相关的优

化难题带来了新意,随后,Hinton 等人又提出了多层自动编码器深层结构,它是含有多隐层的多层感知器。深度学习是机器学习中一种基于数据进行表征学习的方法,在机器学习领域,深度学习开辟了全新的方向,它致力于建立一种模拟人脑来分析与学习的神经网络,主要目的是期望通过深度学习,来处理、解释和分析数据。深度学习方法分为无监督学习与监督学习[1]。

在传统的机器学习时期,发展历程可以分为两个阶

段:浅层学习和深层学习。直到目前为止,机器学习方法中大多是利用浅层学习来处理数据,浅层学习的结构模型中有一层或两层非线性特征转换层。举例说明浅层学习结构有支持向量机、高斯混合模型和逻辑回归。在这些结构模型中,最具代表性的有支持向量机模型,也就是SVM 模型。当需要处理更复杂的数据信息时,SVM 模型就达不到有效的效果。因此在20世纪70年代,Paul Werbos 首次提出反向传播算法,又称为back

propagation,BP。反向传播算法解决了支持向量机模型不能解决的复杂神经网络模型中线性不可分的问题,但其也有缺点,即反向传播算法容易使模型最后陷入局部最优解。在2006年,Hinton 又提出看深度置信网络,从结构的角度上讲,深度置信网络与传统多层感知机无明显区别,但是在监督学习训练与无监督学习训练中,监督学习训练之前需先进行无监督学习训练,将无监督训练得出的参数值作为监督学习训练的初始值,这种深度结构能解决以往算法中不能解决的问题[2]。

2人工智能的发展历程

人工智能的英文缩写为AI。它是研究、开发用于

模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。上世纪五十年代,几个年轻的科学家在一起研究和思考,试图用设备模拟人类的思维,来处理问题。最终他们发现,在设备中输入人类对相关问题的决策,设备面对此类问题时会因此得出与人类相同的答案。这些研究学者对这种现象产生了浓厚的兴趣,人工智能也在这一时期发展起来。也是自这一时期以后,人工智能作为一种科学文化,成为了一门独立的科学。从人工智能产生至今,也不过经过了几十年的历史,从开始发展到现代,人工智能从单一的设备研发变成了多学科都有涉猎的广泛的科学,人工智能的发展人们有目共睹。目前,人们研究人工智能学科的终极目标是让机器具有处理问题的能力,也就是智慧,让机器具备意识感。截止目前,人工智能承载了全球人们的巨大兴趣,人类在探索精神的促进之下,不断地研究人工智能科学,在人类的共同努力之下,人工智能技术获得人工智能深度学习概念研究与综述

董慧慧

（湖北轻工职业技术学院工商信息学院，武汉430070）

摘

要:科学技术的飞速发展影响着人们生产生活的各个领域，深度学习作为机器学习研究的全新领域，是一项致力于研究模拟和建立人脑学习和分析的神经网络，通过模仿人脑的机制来分析数据。这些数据包括文本、声音和图像等信息。针对深度学习的概念，研究与分析了深度学习，并在此基础上对深度学习的未来发展方向进行了展望，期待深度学习能引导人类走向科技新时代。关键词:人工智能；深度学习；概念研究；综述

收稿日期：

2018-05-16

153

2018.08

了迅速的发展,时至今日,人工智能为人类带来的科学技术成果有很多,机器实现了自动化,产生了人类指纹智能处理系统,人类也能够和机器完成较复杂的对话,人工智能有效地促进了人类的发展[3]。

3

深度学习的研究进展

3.1提升网络的实用技能

深度学习网络训练的直接目的就是提高准确率、降

低损失率。经过实验研究发现,深度学习在提高网络性能上主要表现在以下一些方面:

在传统的机器学习中,经常出现过拟合的现象,即训练样本不足导致一个模型中学习到的不能推广到新数据中去。深度学习利用数据提升和Dropout,其本质是随机打乱数据的相关性,与传统的机器学习相同,但是不同之处在于数据提升的数据彼此相似性较低,能抑制过拟合的现象,提升模型的泛化能力。Dropout 通过参数值来有效抑制神经元活性,使其输出值是零,使生成的不同模型平均化,有效阻止拟合现象的出现[4]。

利用深度学习的网络结构提高网络性能是相关研究

人员一直研究的重点话题,在理论结构到实际应用的过程中,要不断调整参数,以期深度学习网络结构能实现优良的性能,调整参数这一过程也叫参数调优,各个深度学习网络结构适合的实际应用各有不同,其优点除结构固有之外,还能通过反向传播算法和激活参数来提升网络性能,例如自适应梯度下降法、随机梯度下降法等,实现研究人员的研究目的[5]。3.2深度学习网络体系发展

卷积神经网络是深度学习网络中发展最前沿的网络

之一,卷积神经网络的结构能更好地解决图像领域问题,在不断地研究与改进的过程中,卷积神经网络形成了一系列性能良好的实用网络模型。首先,卷积神经网络提出增加跳跃连接结构,这种创造性结构的提出克服了深度训练难题,增加网络深度,相较于传统机器学习来说,深度学习具有更高的学习能力和更深的深度,但是深度的增加大大提高了数据信息总量,训练过程中的反向传播因此变得困难。3.3新模式的构建

机器学习中,最常见的两种形式是监督学习和无监

督学习,其中无监督学习常常用于网络模型的预训练中,这两种学习训练模式有各自的优点与缺点,利用监

督学习与无监督学习结合的形式不符合目前人类的学习习惯,因此研究人员提出了半监督学习的方法。半监督学习并不仅仅是两种学习训练方法的叠加,更是二者的结构融合。半监督网络结构设计具有广阔的研究空间,能促进深度学习的发展[6]。

4

深度学习的应用

4.1在机器翻译、语音识别以及语音合成

研究人员利用深度信念网络对大量的建模单元进行

建模,最后成功建立了一个能应用在大词汇量语音识别系统的深层神经网络,即隐马尔可夫混合模型。这种模型进一步降低了系统误差率,推动了深度信念网络的发展。

4.2在图像识别与分类

在一次大规模视觉识别挑战赛中,A.Krizhevsky 等

人首次应用了卷积神经网络,并成功在这次视觉识别挑战赛中获得了目标定位与图像分类任务的冠军。在这一过程中,卷积神经网络应用在图像分类任务中前5项的错误率在15.3%,这一数值远远低于第二名的26.2%。这意味着深度学习第一次应用在挑战赛中就取得了成功。截止2014年,所有挑战赛中都使用了深度学习的方法,这种方法相比于传统的图像识别技术有非常大的优势,促进了图像识别技术的发展[7]。4.3在人脸识别

在卷积神经网络的基础上,来自于香港中文大学的

DeepID 项目联合DeepFace 以及Facebook 项目在户外人脸识别识别数据库中的正确率高达97.35%以及97.45%,仅次于人类识别数据库的准确率。其利用四层卷积神经网络结构。并且在卷积神经网络的基础之上,香港中文大学又将识别率提高到99.15%。

5结语

在人工智能的发展过程中,深度学习起到了重要的

推动作用,目前深度学习在研究与使用过程中主要集中在数据处理的功能上,其向智能方向发展的研究较少,在科技的不算发展过程中,应发掘深度学习的全部功能,充分应用它的逻辑推理能力与记忆能力,使人们在面临复杂的问题和任务时,深度学习能预测与储存相关的信息内容,对数据进行有效的分析和处理,为人工智能机器的运行奠定良好的基础。这是对深度学习未来发展方向的预测,也是深度学习促进人工智能技术发展的重要举措。

154