趋势分析之深度学习

趋势分析之深度学习

深度学习（deep learning）的概念源于人工神经网络的研究，2006年Hinton等人提出了深度学习这一概念，深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，模仿人脑的机制来解释数据，例如图像、声音、文本等。

下面我们将用Trend analysis分析深度学习技术领域内的研究热点。（点击链接即可进入Deep Learning Trend:https:///topic/trend?query=Deep%20Learning）下图是当前该领域的热点技术趋势分析，通过Trend analysis分析挖掘可以发现当前该领域的热点研究话题Top10是deep learning、neural network、speech recognition、feature extraction、hidden markov models、unsupervised learning、face recognition、restricted boltzmannmachines、boltzmann machine、deep neural network。

根据Trend analysis的分析我们可以发现，该领域当前最热门的话题是deep learning，2009年开始deep learning的话题热度迅速上升，论文发表数量也在不断增加，尽管13年热度开始有所下降但论文发表数量仍然较大；hidden markov models和speech recognition的研究热度从2009年开始迅速上升成为领域内最热门的研究话题Top 2；变化幅度波动较大的face recognition则是在2005年-2009年近十年的期间内一度占据当时热门话题榜首，09年之后热度开始逐渐下降。

“深度学习三巨头”之一的Yoshua Bengio教授是机器学习大神之一，尤其是在深度学习领域，业内戏称他与同样活跃于加拿大的“神经网络之父”Geoffrey Hinton和“卷积网络之父”Yann LeCun为“加拿大黑手党”（Canadian Mafia）。Bengio的主要研究领域是深度学习（Deep Learning）和自然语言处理（Natural Language Processing）。在30余年的深度学习研究生涯里，他发表了300多篇学术论文，累计被引用次数超13.8万次。

Yoshua Bengio出生于巴黎，成长于加拿大，现居加拿大蒙特利尔，在蒙特利尔大学（University of Montreal）计算机科学与运算系任教授。他于1991年获得加拿大麦吉尔大学（McGill University）的计算机科学博士学位。

20世纪80年代，大学时期的Bengio对深度学习产生兴趣并正式进入人工智能研究领域。那时，深度学习还是一个非常冷门的领域。从1997年深蓝击败卡斯帕罗夫到2011年沃森赢得《危险边缘》，这中间经历了漫长的人工智能寒冬，Bengio曾感慨，很长一段时间里，几乎从来没有人深入挖掘它。但Bengio似乎沉浸其中，他建立了蒙特利尔学习算法研究所（Montreal Institute For Learning Algorithms, MILA）并担任科学主任，还构建起蒙特利尔的人工智能生态系统。他是加拿大统计学习算法研究主席，也在2009年担任了机器学习顶级会议NIPS的主席（General Chair）。

深度学习目前已经成功应用于计算机视觉、语音识别、自然语言处理等领域，正潜移默化地改变着我们的生活方式，