人工智能基础概览
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• 隐藏层比较多（大于2）的神经网络叫做深度神经网络（Deep Neural Network，DNN）。而深度学习，就是使用深度神经网络架构的机器学 习方法。
输出层
人类神经网络
输入 层
隐藏 层
输出 层
感知器
隐藏层
输入层
深度神经网络
前馈神经网络
• 前馈神经网络是一种最简单的神经网络，各神经元分层排列。每个神经元 只与前一层的神经元相连，同一层的神经元之间没有互相连接，层间信息 的传送只沿一个方向进行。
2012 2016 企业投资主导
人工智能产业生态
人工智能的四要素是数据、算法、算力、场景。要满足这四要素，我 们需要将AI与云计算、大数据和物联网结合以服务于智能社会。
人工智能应用技术方向
• 现在AI的应用技术方向主要 分为：
图像识别（ >96.5% ）： ➢ 人脸识别（99.8%，人眼97.5%） ➢ 车牌（99.7%） 、商标识别等 ➢ 图片搜索（>80%) 、分类等 ➢ 唇语（92%，远超人类专家）
2006-至今 第三次浪潮
1976-2006 第二次浪潮
深度强化学习+云计算大数据
➢ 卷积神经网络模型与参数训练技巧的 进步；
➢ 硬件的进步：摩尔定律，可观的计算 能力，云计算；
➢ 互联网+海量大数据集，深度学习的 准确度是随着数据的增长而增加。
知识工程+机器学习
➢ 知识工程体现为各种专家系统，比如 医学、工程学，知识的总结与获取较 难，部分专家不愿意分享经验；
layer)和全连接层(fully_connected layer)。
输入图像
3特征图 3特征图 5特征图 5特征图
输出层
卷积层
池化层 卷积层 池化层
全连接层
鸟 P鸟
卷积+非线性
最大池化
卷积层+ 池化层
向量化 全连接层
日落 P日落 狗 P狗 猫 P猫
多分类
卷积神经网络的重要概念
• 卷积核（Convolution Kernel ），根据一定规 则进行图片扫描并进行卷积计算的对象称为卷积 核。卷积核可以提取局部特征。
第一次浪潮： AI算法-加 强式学习、 感知机、专 家系统等
第二次浪潮：知识工程 系统-美日立项AI研究， 发展更可视化的决策树 模型和突破早期感知机 局限的多层人工神经网 络
复苏期：传 统机器学习， 1997年IBM 深蓝战胜国 际象棋世界 冠军
Geoffrey Hinton在 《科学》杂志 发表论文，开 启深度学习时 代
语音，语言，语义识别： ➢ 语音识别(97% ~99%) ➢ 语音-文本转换 （>95%） ➢ 自动翻译 (>90% 英文<->德、法等） ➢ 个人助理/ChatBot ➢ 语调情感识别
其他应用： ➢ 智能库存管理 ➢ 疾病辅助诊疗 ➢ DC自动运维 ➢ 商品智能推荐 ➢ ……
国内外人工智能企业应用技 术分布
• 卷积核尺寸（Kernel Size），卷积核是一个3维 的矩阵，可以用一个立方体图示，宽w，高h，深 度d。深度d由输入的通道数决定，一般描述卷积 核尺寸时，可以只描述宽w和高h。
级阶段
深度学习发展
感知机
XOR
多层感 知机
黄金时 期
AI寒冬
19
19
19
57
70
86
SVM
深度网 络
19
20
95
06
神经网络基础
• 人工神经网络，简称神经网络（Artificial Neural Network，ANN）：是 由人工神经元互连组成的网络，它是从微观结构和功能上对人脑的抽象、 简化，是模拟人类智能的一条重要途径，反映了人脑功能的若干基本特征 ，如并行信息处理、学习、联想、模式分类、记忆等。
2018中国人工智能发展报 告
人工智能当前所处的阶段 —— 感知智能的初级阶段
表现
示例
价值
能存会算：机 例：分布式计
价值：能够帮助
人
器开始像人类
计算智能 一样会计算，
工
传递信息
智
能听会看：机
算、神经网络 例：可以识别
人类存储和快速 处理海量数据， 是感知和认知的 基础 价值：能够帮助
能
器开始看懂和
输入 层
隐藏层 1
输出 隐藏层 层 2
卷积神经网络
• 卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经
网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于图像处
理有出色表现。它包括卷积层(convolutional layer)，池化层(pooling
➢ 将各种机器学习算法引入人工智能， 让机器从数据中自动学习，获得知识。
1956-1976 第一次浪潮
符号主义+逻辑方法
➢ 基于决策论的逻辑主义推理方法； ➢ 用机器证明的办法去推理知识，如通
过逻辑程序语言证明数学定理； ➢ 统计方法中，引入符号主义进行语义
处理，实现人机交互。
人工智能发展历史
1959年， Arthur Samuel 提 出了机器学 习理论
感知智能 听懂，做出判
三
百度文库
断，采取一些
简单行动
人脸的摄像头、 可以听懂语言 的音箱
人类高效地完成 “看”和“听” 相关的工作
阶
能理解会思考： 例：完全独立
价值：可以全面
段
机器开始像人 驾驶的无人驾
认知智能 类一样能理解、 驶汽车、自主
思考与决策
行动的机器人
辅助或替代人类 部分工作
AI的发展目前处 于感知智能的初
CS433 Parallel and Distributed Computing
Lecture 8 Ascend NPU
Prof. Xiaoyao Liang 2019/11/21
1
人工智能基础概览
人工智能（Artificial Intelligence）：
研究、开发用于模拟、延伸和扩展人的智能的理论、方法、 技术及应用系统的一门新的技术科学。1956年由约翰.麦卡 锡首次提出，当时的定义为“制造智能机器的科学与工 程”。人工智能的目的就是让机器能够像人一样思考，让 机器拥有智能。时至今日，人工智能的内涵已经大大扩展， 是一门交叉学科。
第三次浪潮：深 度学习，谷歌 Brain项目，学 习什么是“猫”。 ImageNet识别 率大幅提升达到 84%
1956
达特矛斯 会议提出 AI概念
1974
1980s
政府投资主导
第一次低谷：专 家系统等算法由 于在当时存在知 识获取难等问题， 导致很多项目失 败
1990s 1996
2006
第二次低谷：计算机能力难以 模拟复杂度高及规模大的神经 网络。LISP 机市场崩塌。经费 危机，美国取消AI预算，日本 第五代计算机项目失败并退出 市场
输出层
人类神经网络
输入 层
隐藏 层
输出 层
感知器
隐藏层
输入层
深度神经网络
前馈神经网络
• 前馈神经网络是一种最简单的神经网络，各神经元分层排列。每个神经元 只与前一层的神经元相连，同一层的神经元之间没有互相连接，层间信息 的传送只沿一个方向进行。
2012 2016 企业投资主导
人工智能产业生态
人工智能的四要素是数据、算法、算力、场景。要满足这四要素，我 们需要将AI与云计算、大数据和物联网结合以服务于智能社会。
人工智能应用技术方向
• 现在AI的应用技术方向主要 分为：
图像识别（ >96.5% ）： ➢ 人脸识别（99.8%，人眼97.5%） ➢ 车牌（99.7%） 、商标识别等 ➢ 图片搜索（>80%) 、分类等 ➢ 唇语（92%，远超人类专家）
2006-至今 第三次浪潮
1976-2006 第二次浪潮
深度强化学习+云计算大数据
➢ 卷积神经网络模型与参数训练技巧的 进步；
➢ 硬件的进步：摩尔定律，可观的计算 能力，云计算；
➢ 互联网+海量大数据集，深度学习的 准确度是随着数据的增长而增加。
知识工程+机器学习
➢ 知识工程体现为各种专家系统，比如 医学、工程学，知识的总结与获取较 难，部分专家不愿意分享经验；
layer)和全连接层(fully_connected layer)。
输入图像
3特征图 3特征图 5特征图 5特征图
输出层
卷积层
池化层 卷积层 池化层
全连接层
鸟 P鸟
卷积+非线性
最大池化
卷积层+ 池化层
向量化 全连接层
日落 P日落 狗 P狗 猫 P猫
多分类
卷积神经网络的重要概念
• 卷积核（Convolution Kernel ），根据一定规 则进行图片扫描并进行卷积计算的对象称为卷积 核。卷积核可以提取局部特征。
第一次浪潮： AI算法-加 强式学习、 感知机、专 家系统等
第二次浪潮：知识工程 系统-美日立项AI研究， 发展更可视化的决策树 模型和突破早期感知机 局限的多层人工神经网 络
复苏期：传 统机器学习， 1997年IBM 深蓝战胜国 际象棋世界 冠军
Geoffrey Hinton在 《科学》杂志 发表论文，开 启深度学习时 代
语音，语言，语义识别： ➢ 语音识别(97% ~99%) ➢ 语音-文本转换 （>95%） ➢ 自动翻译 (>90% 英文<->德、法等） ➢ 个人助理/ChatBot ➢ 语调情感识别
其他应用： ➢ 智能库存管理 ➢ 疾病辅助诊疗 ➢ DC自动运维 ➢ 商品智能推荐 ➢ ……
国内外人工智能企业应用技 术分布
• 卷积核尺寸（Kernel Size），卷积核是一个3维 的矩阵，可以用一个立方体图示，宽w，高h，深 度d。深度d由输入的通道数决定，一般描述卷积 核尺寸时，可以只描述宽w和高h。
级阶段
深度学习发展
感知机
XOR
多层感 知机
黄金时 期
AI寒冬
19
19
19
57
70
86
SVM
深度网 络
19
20
95
06
神经网络基础
• 人工神经网络，简称神经网络（Artificial Neural Network，ANN）：是 由人工神经元互连组成的网络，它是从微观结构和功能上对人脑的抽象、 简化，是模拟人类智能的一条重要途径，反映了人脑功能的若干基本特征 ，如并行信息处理、学习、联想、模式分类、记忆等。
2018中国人工智能发展报 告
人工智能当前所处的阶段 —— 感知智能的初级阶段
表现
示例
价值
能存会算：机 例：分布式计
价值：能够帮助
人
器开始像人类
计算智能 一样会计算，
工
传递信息
智
能听会看：机
算、神经网络 例：可以识别
人类存储和快速 处理海量数据， 是感知和认知的 基础 价值：能够帮助
能
器开始看懂和
输入 层
隐藏层 1
输出 隐藏层 层 2
卷积神经网络
• 卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经
网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于图像处
理有出色表现。它包括卷积层(convolutional layer)，池化层(pooling
➢ 将各种机器学习算法引入人工智能， 让机器从数据中自动学习，获得知识。
1956-1976 第一次浪潮
符号主义+逻辑方法
➢ 基于决策论的逻辑主义推理方法； ➢ 用机器证明的办法去推理知识，如通
过逻辑程序语言证明数学定理； ➢ 统计方法中，引入符号主义进行语义
处理，实现人机交互。
人工智能发展历史
1959年， Arthur Samuel 提 出了机器学 习理论
感知智能 听懂，做出判
三
百度文库
断，采取一些
简单行动
人脸的摄像头、 可以听懂语言 的音箱
人类高效地完成 “看”和“听” 相关的工作
阶
能理解会思考： 例：完全独立
价值：可以全面
段
机器开始像人 驾驶的无人驾
认知智能 类一样能理解、 驶汽车、自主
思考与决策
行动的机器人
辅助或替代人类 部分工作
AI的发展目前处 于感知智能的初
CS433 Parallel and Distributed Computing
Lecture 8 Ascend NPU
Prof. Xiaoyao Liang 2019/11/21
1
人工智能基础概览
人工智能（Artificial Intelligence）：
研究、开发用于模拟、延伸和扩展人的智能的理论、方法、 技术及应用系统的一门新的技术科学。1956年由约翰.麦卡 锡首次提出，当时的定义为“制造智能机器的科学与工 程”。人工智能的目的就是让机器能够像人一样思考，让 机器拥有智能。时至今日，人工智能的内涵已经大大扩展， 是一门交叉学科。
第三次浪潮：深 度学习，谷歌 Brain项目，学 习什么是“猫”。 ImageNet识别 率大幅提升达到 84%
1956
达特矛斯 会议提出 AI概念
1974
1980s
政府投资主导
第一次低谷：专 家系统等算法由 于在当时存在知 识获取难等问题， 导致很多项目失 败
1990s 1996
2006
第二次低谷：计算机能力难以 模拟复杂度高及规模大的神经 网络。LISP 机市场崩塌。经费 危机，美国取消AI预算，日本 第五代计算机项目失败并退出 市场