第二章 算法技术让人工智能更聪明
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
无监督学习
特点 应用
样本数据只有特征自变量(X)，没有目标变量(Y)。算法在输入数据的 过程中自己发现数据中的规律或模式。
(1).关联问题 关联规则学习目的是从数据中发现强规则。如通过分析 数据发现，买了商品A的顾客有可能还会买商品B (2).聚类问题 聚类方法可以发现数据内部的组群关系。如确定衣服尺 码的大小。
机器学习
2.机器学习中的基础知识
超参数及超参数寻优
超参数的寻优 一般使用经验法则或通过反复试验的方法，来探寻算法超参数的最优值。
超参数寻优的基本思路 尝试不同的超参数组合来训练模型，通过比较不同组合得到的模型表现， 最终确定最优的超参数组合。
网格搜索（Grid Search）
随机搜索（Random Search）
如果要解决的问题 需要模型具备很好 的可解释性，可以 考虑决策树算法。
用于贷款审批的决 策树模型
机器学习
（二）机器学习的常见算法
举例：用于贷款审批的决策树模型
假设该模型通过年龄、学历、是否拥有房产等特征， 对贷款申请人做出批准或拒绝的决策，如图2-5所示。 输入的申请人特征会按照决策树的结构自上而下进行 条件判断，最终分类到某个叶子节点，根据模型对该 叶子节点定义的属性，来判断是否通过该申请人的贷 款。如，某申请人年龄为40岁，但没有房产，若其 月收入超过1.5万元，模型认定可以通过其贷款申请。 决策树具有很好的可解释性，银行可以向被拒绝贷款 的客户解释拒绝原因，例如该客户没有房产且月收入 小于1.5万元
机器学习
（二）机器学习的常见算法
集成学习算法
概念
应用
举例
集成学习就是将多个 弱监督模型组合使用， 以期得到一个更好更 全面的模型。即便某 一个弱模型得到了错 误的预测，其他的弱 分类器也可以将错误 纠正回来。
集成学习在任何规 模的数据集上都有 很好的应对策略。
Bagging
和
Boosting
机器学习
机器学习
3.机器学习的“学习”过程
首先准备用于机器学习算法的数据集，以二维矩阵
A 形式表示，每行代表一条学习样本，每列代表一个
变量，包括特征自变量（X）及目标变量（Y）
选择一种机器学习算法并确定其目标函数； C
使用验证集评估不同超参数组合下的 E
模型效果，选择最优模型；
B 将数据集划分为训练集、验证集和测试集；
目标函数：机器学习算法学习的方向
意义
机器学习算法通过学习输入数据，在求解目标函数 的极值的过程中，训练得到算法参数的最优值，也 即求解模型参数。
举例：逻辑回归算法
机器学习
2.机器学习中的基础知识
基于梯度的参数优化方法
基于梯度的参数优化方法指利用 导数求目标函数的极值（最值）
机器学习
2.机器学习中的基础知识
机器学习
1.机器学习算法的技术分类
半监督学习
特点
样本数据部分被标识，部分没有被标识。这种学习模型可以用来进行 预测，但是模型首先需要学习数据的内在结构以便合理地组织数据来 进行预测。
应用
(1).分类问题 (2).回归问题
机器学习
2.机器学习中的基础知识
数据：机器学习算法的“学习资料”
训练数据, 用 来训练模型
人类越来越需要人工智能！
wk.baidu.com
机器学习
人工智能是未来的发展趋势，什么是人工智能？
机器学习
机器学习是实现人工智能应用的算法技术之 一，也是人工智能算法技术研究领域的一个 分支. 因此，掌握‘机器学习’符合当下人才
培养的时代需求.
机器学习
(一)
机器学习的概念
(二) 机器学习的常见算法
(三)
强化学习
机器学习
超参数及超参数寻优
参数：可以从数据中学习得到
超参数：无法从数据里学习得到， 需要靠人的经验来设定
机器学习算法参数是由样本数据学习 得到，不需要提前设置；机器学习参 数通常作为最终模型的一部分保存； 使用模型进行预测时，需要使用保存 的参数。
主要应用于模型参数的学习过程，无 法从样本数据中直接学习；超参数通 常使用启发式方法，在训练之前提前 设置；超参数定义关于模型更高层级 的概念，如模型复杂度等。
机器学习
1.机器学习算法的技术分类
有监督学习
特点
样本数据同时包含特征自变量(X)和目标变量(Y)。 然后使用有监督学习算法训练得到从特征自变量输 入到目标变量输出的映射函数：Y=f(X)。
应用
(1).分类问题 如判断“垃圾邮件”或“非垃圾邮件. (2).回归问题 如预测旅游人数
机器学习
1.机器学习算法的技术分类
的，是算法 的学习资料
验证数据，用 来评估不同参 数下模型效果， 选择最优模型
测试数据， 用来测试模
型效果，评 估泛化能力
训练集和验证集的划分方法有两种：“hold-out”和交互检验。
训练数据是算法真正用来“学习”（拟合）的数据。
机器学习
2.机器学习中的基础知识
数据：三者的关系
机器学习
2.机器学习中的基础知识
（二）机器学习的常见算法
举例：Bagging和Boosting
《人工智能概论》
第二章 算法技术让人工智能更聪明
主讲教师：XXX
目录
一 机器学习 二 深度学习 三 人工智能算法的应用
一 机器学习
情景导入
讯飞翻译机
AlphoGo
人脸识别
情景导入
是什么让计算机或者软件如此精通人性？
人工智能
为什么让计算机或者软件如此造化出神？
人工智能算法
计算机或者软件还能做什么精妙绝伦的事情？ 人工智能的应用
（一）机器学习的概念
简单的讲
广义上讲
实践上讲
机器学习是用数据 或以往的经验来优 化提升行为判断的 计算程序
机器学习是一种能 够赋予机器学习的 能力，让它完成直 接编程无法完成的 功能的方法
机器学习是一种通 过利用数据，训练 出模型，然后使用 模型预测的一种方 法
机器学习的思想：机器学习是对人类在生活中学习成长的一个模拟。
设定不同的算法超参数组合，在每组确定的超参数
D 下，使用训练集进行算法参数的寻优，得到该组超
参数下的最优参数模型；
F 使用测试集评估最优模型的效果，即
最终模型的泛化能力。
机器学习
(一)
机器学习的概念
(二) 机器学习的常见算法
(三)
强化学习
机器学习
（二）机器学习的常见算法
决策树
概念
应用
举例
决策树算法用树的结构 来构建分类模型，每个 节点代表着一个属性， 根据属性的划分，进入 这个节点的子节点直至 叶子节点，每个叶子节 点都代表一定的类别， 从而达到分类的目的。
特点 应用
样本数据只有特征自变量(X)，没有目标变量(Y)。算法在输入数据的 过程中自己发现数据中的规律或模式。
(1).关联问题 关联规则学习目的是从数据中发现强规则。如通过分析 数据发现，买了商品A的顾客有可能还会买商品B (2).聚类问题 聚类方法可以发现数据内部的组群关系。如确定衣服尺 码的大小。
机器学习
2.机器学习中的基础知识
超参数及超参数寻优
超参数的寻优 一般使用经验法则或通过反复试验的方法，来探寻算法超参数的最优值。
超参数寻优的基本思路 尝试不同的超参数组合来训练模型，通过比较不同组合得到的模型表现， 最终确定最优的超参数组合。
网格搜索（Grid Search）
随机搜索（Random Search）
如果要解决的问题 需要模型具备很好 的可解释性，可以 考虑决策树算法。
用于贷款审批的决 策树模型
机器学习
（二）机器学习的常见算法
举例：用于贷款审批的决策树模型
假设该模型通过年龄、学历、是否拥有房产等特征， 对贷款申请人做出批准或拒绝的决策，如图2-5所示。 输入的申请人特征会按照决策树的结构自上而下进行 条件判断，最终分类到某个叶子节点，根据模型对该 叶子节点定义的属性，来判断是否通过该申请人的贷 款。如，某申请人年龄为40岁，但没有房产，若其 月收入超过1.5万元，模型认定可以通过其贷款申请。 决策树具有很好的可解释性，银行可以向被拒绝贷款 的客户解释拒绝原因，例如该客户没有房产且月收入 小于1.5万元
机器学习
（二）机器学习的常见算法
集成学习算法
概念
应用
举例
集成学习就是将多个 弱监督模型组合使用， 以期得到一个更好更 全面的模型。即便某 一个弱模型得到了错 误的预测，其他的弱 分类器也可以将错误 纠正回来。
集成学习在任何规 模的数据集上都有 很好的应对策略。
Bagging
和
Boosting
机器学习
机器学习
3.机器学习的“学习”过程
首先准备用于机器学习算法的数据集，以二维矩阵
A 形式表示，每行代表一条学习样本，每列代表一个
变量，包括特征自变量（X）及目标变量（Y）
选择一种机器学习算法并确定其目标函数； C
使用验证集评估不同超参数组合下的 E
模型效果，选择最优模型；
B 将数据集划分为训练集、验证集和测试集；
目标函数：机器学习算法学习的方向
意义
机器学习算法通过学习输入数据，在求解目标函数 的极值的过程中，训练得到算法参数的最优值，也 即求解模型参数。
举例：逻辑回归算法
机器学习
2.机器学习中的基础知识
基于梯度的参数优化方法
基于梯度的参数优化方法指利用 导数求目标函数的极值（最值）
机器学习
2.机器学习中的基础知识
机器学习
1.机器学习算法的技术分类
半监督学习
特点
样本数据部分被标识，部分没有被标识。这种学习模型可以用来进行 预测，但是模型首先需要学习数据的内在结构以便合理地组织数据来 进行预测。
应用
(1).分类问题 (2).回归问题
机器学习
2.机器学习中的基础知识
数据：机器学习算法的“学习资料”
训练数据, 用 来训练模型
人类越来越需要人工智能！
wk.baidu.com
机器学习
人工智能是未来的发展趋势，什么是人工智能？
机器学习
机器学习是实现人工智能应用的算法技术之 一，也是人工智能算法技术研究领域的一个 分支. 因此，掌握‘机器学习’符合当下人才
培养的时代需求.
机器学习
(一)
机器学习的概念
(二) 机器学习的常见算法
(三)
强化学习
机器学习
超参数及超参数寻优
参数：可以从数据中学习得到
超参数：无法从数据里学习得到， 需要靠人的经验来设定
机器学习算法参数是由样本数据学习 得到，不需要提前设置；机器学习参 数通常作为最终模型的一部分保存； 使用模型进行预测时，需要使用保存 的参数。
主要应用于模型参数的学习过程，无 法从样本数据中直接学习；超参数通 常使用启发式方法，在训练之前提前 设置；超参数定义关于模型更高层级 的概念，如模型复杂度等。
机器学习
1.机器学习算法的技术分类
有监督学习
特点
样本数据同时包含特征自变量(X)和目标变量(Y)。 然后使用有监督学习算法训练得到从特征自变量输 入到目标变量输出的映射函数：Y=f(X)。
应用
(1).分类问题 如判断“垃圾邮件”或“非垃圾邮件. (2).回归问题 如预测旅游人数
机器学习
1.机器学习算法的技术分类
的，是算法 的学习资料
验证数据，用 来评估不同参 数下模型效果， 选择最优模型
测试数据， 用来测试模
型效果，评 估泛化能力
训练集和验证集的划分方法有两种：“hold-out”和交互检验。
训练数据是算法真正用来“学习”（拟合）的数据。
机器学习
2.机器学习中的基础知识
数据：三者的关系
机器学习
2.机器学习中的基础知识
（二）机器学习的常见算法
举例：Bagging和Boosting
《人工智能概论》
第二章 算法技术让人工智能更聪明
主讲教师：XXX
目录
一 机器学习 二 深度学习 三 人工智能算法的应用
一 机器学习
情景导入
讯飞翻译机
AlphoGo
人脸识别
情景导入
是什么让计算机或者软件如此精通人性？
人工智能
为什么让计算机或者软件如此造化出神？
人工智能算法
计算机或者软件还能做什么精妙绝伦的事情？ 人工智能的应用
（一）机器学习的概念
简单的讲
广义上讲
实践上讲
机器学习是用数据 或以往的经验来优 化提升行为判断的 计算程序
机器学习是一种能 够赋予机器学习的 能力，让它完成直 接编程无法完成的 功能的方法
机器学习是一种通 过利用数据，训练 出模型，然后使用 模型预测的一种方 法
机器学习的思想：机器学习是对人类在生活中学习成长的一个模拟。
设定不同的算法超参数组合，在每组确定的超参数
D 下，使用训练集进行算法参数的寻优，得到该组超
参数下的最优参数模型；
F 使用测试集评估最优模型的效果，即
最终模型的泛化能力。
机器学习
(一)
机器学习的概念
(二) 机器学习的常见算法
(三)
强化学习
机器学习
（二）机器学习的常见算法
决策树
概念
应用
举例
决策树算法用树的结构 来构建分类模型，每个 节点代表着一个属性， 根据属性的划分，进入 这个节点的子节点直至 叶子节点，每个叶子节 点都代表一定的类别， 从而达到分类的目的。