第八章 机器学习
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• 转化过程中进行语法检查和语义分析
3、并入知识库：
• 一致性检查，防止矛盾，冗余，环路等
4、评价：
• 用一些标准例子对新知识进行经验测试， 若出现不一致，表示新知识有问题，反馈 给指导者。
12
8.4 归纳学习
归纳推理：从个别到一般，从部分到整体 的一类推论行为 归纳出的结论不能绝对保证它的正确性， 只能以某种程度相信它为真，这是归纳推 理的一个重要的特征 例：有翅膀的动物会飞，长羽毛的动物会 飞，但鸵鸟有羽毛，有翅膀却不会费
5
8.1.3 机器学习的发展
(1)神经元模型的研究 (2)符号学习的研究 (3)连接学习的研究
6
8.1.4 机器学习的分类
(1)按学习方法分类
机械式学习 指导式学习 示例学习 类比学习 解释学习
7
8.1.4 机器学习的分类
(2)按推理方式分类
基于演绎的学习：是从已知前提逻辑地推出结 论的一种推理。 基于归纳的学习：是从特殊事物或大量实例概 括出一般规则或结论的一种推理。
4
8.1.2 学习系统
环境 学习 知识库 执行与评价
学习是通过对环境的搜索取得外部信息，然后分 析，综合类比，归纳获得知识，将知识送入知识 库并进行适当的组织，拟定用于处理系统面临的 现实问题，评价用于验证执行环节执行的效果。 评价有两种： ①由系统对执行环节得到的结果进行评价 ②由人来协助完成评价工作
学习是一个有特定目的的知识获取过程， 其内在行为是获取知识，积累经验，发现 规律，外部表现是改进性能，适应环境， 实现系统的自我完善。
2
8.1 基本概念
机器学习 是计算机能模拟人的学习行为，自动地 通过学习获取知识和技能，不断改善性 能，实现自我完善。 机器学习的研究围绕三个方面：
17
8.5 类比学习
类比推理：有新情况与记忆中的已知情况 在某些方面相似，从而推出他们在其他相 关方面也相似。 ①源域S：过去曾经解决过且与当前问题 类似的问题以及相关知识 ②目标域T：当前尚未完全认识的域，它 是遇到的新问题
18
8.5 类比学习
推理过程
①回忆与联想 ②选择 ③建立对应关系 ④转换
19
8.5 类比学习
属性类比学习 转换类比学习
20
第八章 机器学习
8.1 基本概念 8.2 机械式学习 8.3 指导式学习 8.4 归纳学习 8.5 类比学习 8.6 基于解释的学习 8.7 学习方法的比较与展望
1
8.1 基本概念
学习
①学习是系统改进其性能的过程 ②学习是获取知识的过程 ③学习是技能的获取（骑自行车、弹钢琴） ④学习是事物规律的发现过程
• 学习机理的研究：对人类学习机制的研究 • 学习方法的研究：研究人类学习过程 • 面向任务的研究
3
8.1.2 学习系统
学习系统：是能够在一定程度上实现机器学 习的系统。 一个学习系统应具有如下条件和能力。
(1)具有适当的学习环境。 环境：学习系统进行学习时的信息来源。 (2)具有一定的学习能力。 学习，验证。 (3)能应用学习到的知识求解问题。 把学到的信息用于未来的估计,分类,决策,控制。 (4)能提高系统的性能。
10
8.3 指导式学习
由外部环境向系统提供一般性的指示或建 议，系统把它们具体的转化为细节知识并 送入知识库中。 指导式学习过程有下列四步骤组成： 1、征询指导者的指示或建议
• 简单征询；复杂征询；被动征询；主动征询 • 系统应具有识别、理解自然语言的能力
11
8.3 指导式学习
2、把征询意见转换为可执行的内部形式：
8
8.1.4 机器学习的分类
(3)按综合属性分类
归纳学习 分析学习 连接学习 遗传算法 分类器系统
9
8.2 机械式学习
机械式学习—死记学习，是一种最简单， 最原始的学习方法。把经过评价所取得的 知识存储到知识库中，求解问题时从知识 库种检索出相应的知识，直接用来求解问 题 机械式学习实质上是用存储空间来换取处 理时间，要全面权衡时间与空间的关系
15
8.4.2 示例学习
是通过从环境中取得若干与某概念有关的 例子，经归纳得出一般性概念的一种学习 方法
经验 示例空间 知识库
环境
解释
百度文库形成知识
16
8.4.3 观察与发现学习
对事例进行概念聚类形成概念描述机器发 现:发现规律，产生定律或规则
①概念聚类 基本思想是把事例按一定的方式和准则进行分 组，不同组代表不同的概念，对每个组进行特 征概括，得到一个概念的语义符号描述 ②机器发现 是从观察的事例或经验数据中归纳出规律或规则 经验发现：从经验数据中发现规律和定律 知识发现：从已观察的事例中发现新的知识
13
8.4 归纳学习
(1)枚举归纳 (2)联想归纳 (3)类比归纳 (4)逆推理归纳 (5)消除归纳
14
演绎推理与归纳推理的差别
演绎推理 归纳推理 (1)从一般到个别 从个别到一般 (2)保真性E→H 主观不充分，置信推理 (3)用三段论 大前提 结论具有更大的范围 小前提 结论
3、并入知识库：
• 一致性检查，防止矛盾，冗余，环路等
4、评价：
• 用一些标准例子对新知识进行经验测试， 若出现不一致，表示新知识有问题，反馈 给指导者。
12
8.4 归纳学习
归纳推理：从个别到一般，从部分到整体 的一类推论行为 归纳出的结论不能绝对保证它的正确性， 只能以某种程度相信它为真，这是归纳推 理的一个重要的特征 例：有翅膀的动物会飞，长羽毛的动物会 飞，但鸵鸟有羽毛，有翅膀却不会费
5
8.1.3 机器学习的发展
(1)神经元模型的研究 (2)符号学习的研究 (3)连接学习的研究
6
8.1.4 机器学习的分类
(1)按学习方法分类
机械式学习 指导式学习 示例学习 类比学习 解释学习
7
8.1.4 机器学习的分类
(2)按推理方式分类
基于演绎的学习：是从已知前提逻辑地推出结 论的一种推理。 基于归纳的学习：是从特殊事物或大量实例概 括出一般规则或结论的一种推理。
4
8.1.2 学习系统
环境 学习 知识库 执行与评价
学习是通过对环境的搜索取得外部信息，然后分 析，综合类比，归纳获得知识，将知识送入知识 库并进行适当的组织，拟定用于处理系统面临的 现实问题，评价用于验证执行环节执行的效果。 评价有两种： ①由系统对执行环节得到的结果进行评价 ②由人来协助完成评价工作
学习是一个有特定目的的知识获取过程， 其内在行为是获取知识，积累经验，发现 规律，外部表现是改进性能，适应环境， 实现系统的自我完善。
2
8.1 基本概念
机器学习 是计算机能模拟人的学习行为，自动地 通过学习获取知识和技能，不断改善性 能，实现自我完善。 机器学习的研究围绕三个方面：
17
8.5 类比学习
类比推理：有新情况与记忆中的已知情况 在某些方面相似，从而推出他们在其他相 关方面也相似。 ①源域S：过去曾经解决过且与当前问题 类似的问题以及相关知识 ②目标域T：当前尚未完全认识的域，它 是遇到的新问题
18
8.5 类比学习
推理过程
①回忆与联想 ②选择 ③建立对应关系 ④转换
19
8.5 类比学习
属性类比学习 转换类比学习
20
第八章 机器学习
8.1 基本概念 8.2 机械式学习 8.3 指导式学习 8.4 归纳学习 8.5 类比学习 8.6 基于解释的学习 8.7 学习方法的比较与展望
1
8.1 基本概念
学习
①学习是系统改进其性能的过程 ②学习是获取知识的过程 ③学习是技能的获取（骑自行车、弹钢琴） ④学习是事物规律的发现过程
• 学习机理的研究：对人类学习机制的研究 • 学习方法的研究：研究人类学习过程 • 面向任务的研究
3
8.1.2 学习系统
学习系统：是能够在一定程度上实现机器学 习的系统。 一个学习系统应具有如下条件和能力。
(1)具有适当的学习环境。 环境：学习系统进行学习时的信息来源。 (2)具有一定的学习能力。 学习，验证。 (3)能应用学习到的知识求解问题。 把学到的信息用于未来的估计,分类,决策,控制。 (4)能提高系统的性能。
10
8.3 指导式学习
由外部环境向系统提供一般性的指示或建 议，系统把它们具体的转化为细节知识并 送入知识库中。 指导式学习过程有下列四步骤组成： 1、征询指导者的指示或建议
• 简单征询；复杂征询；被动征询；主动征询 • 系统应具有识别、理解自然语言的能力
11
8.3 指导式学习
2、把征询意见转换为可执行的内部形式：
8
8.1.4 机器学习的分类
(3)按综合属性分类
归纳学习 分析学习 连接学习 遗传算法 分类器系统
9
8.2 机械式学习
机械式学习—死记学习，是一种最简单， 最原始的学习方法。把经过评价所取得的 知识存储到知识库中，求解问题时从知识 库种检索出相应的知识，直接用来求解问 题 机械式学习实质上是用存储空间来换取处 理时间，要全面权衡时间与空间的关系
15
8.4.2 示例学习
是通过从环境中取得若干与某概念有关的 例子，经归纳得出一般性概念的一种学习 方法
经验 示例空间 知识库
环境
解释
百度文库形成知识
16
8.4.3 观察与发现学习
对事例进行概念聚类形成概念描述机器发 现:发现规律，产生定律或规则
①概念聚类 基本思想是把事例按一定的方式和准则进行分 组，不同组代表不同的概念，对每个组进行特 征概括，得到一个概念的语义符号描述 ②机器发现 是从观察的事例或经验数据中归纳出规律或规则 经验发现：从经验数据中发现规律和定律 知识发现：从已观察的事例中发现新的知识
13
8.4 归纳学习
(1)枚举归纳 (2)联想归纳 (3)类比归纳 (4)逆推理归纳 (5)消除归纳
14
演绎推理与归纳推理的差别
演绎推理 归纳推理 (1)从一般到个别 从个别到一般 (2)保真性E→H 主观不充分，置信推理 (3)用三段论 大前提 结论具有更大的范围 小前提 结论