(完整版)第七章机器学习人工智能课程北京大学

第七章机器学习

教学内容：机器学习是继专家系统之后人工智能应用的又一重要研究领域。本章主要介绍机器学习的有关知识及其主要的几种学习方法，并介绍了知识发现的相关内容。

教学重点：机器学习的基本结构、类比学习、神经学习、知识发现

教学难点：学习系统的结构，知识发现的处理过程，

教学方法：课堂教学为主。注意结合学生已学的内容。及时提问、收集学生学习情况，多实用具体实例来加以说明，注意难易结合，将课程讲述得较为浅显易懂。

教学要求：重点掌握类比学习和知识发现，掌握机器学习的发展史和神经学习，了解解释学习、归纳学习，一般了解机械学习。

7.1 机器学习的定义和发展历史

教学内容：本小节主要介绍了机器学习的定义以及其发展的过程，为后面的进一步学习打下基础。

教学重点：机器学习的定义

教学难点：对定义的准确把握和理解

教学方法：通过举例引入机器学习的定义，在讲述发展历史时，简介各阶段的具体产物，让学生有较为具体的感受和体会。

教学要求：重点掌握机器学习的定义，了解机器学习的发展史。

7.1.1 机器学习的定义

1.机器学习的基本概念：

按照人工智能大师西蒙的观点，学习就是系统在不断重复的工作中对本身能力的增强或者改进，使得系统在下一次执行同样任务或类似任务时，会比现在做得更好或效率更高。

2.机器学习的定义

机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。

举例：列举1959年美国的塞缪尔设计的一下棋程序，由这一事件引出关于机器学习的概念的相关讨论。

提问：讨论关于机器学习的各种概念的提出以及其区别。

7.1.2机器学习的发展史

机器学习是人工智能应用研究较为重要的分支，它的发展过程大体上可分为4个时期：

1.第一阶段是在50年代中叶到60年代中叶，属于热烈时期。在这个时期，所研究的是“没有知识”的学习，即“无知”学习；其研究目标是各类自组织系统和自适应系统；指导本阶段研究的理论基础是早在40年代就开始研究的神经网络模型。在这个时期，我国研制了数字识别学习机。

2.第二阶段在60年代中叶至70年代中叶，被称为机器学习的冷静时期。本阶段的研究目标是模拟人类的概念学习过程，并采用逻辑结构或图结构作为机器内部描述。这个时期正是我国“史无前例”的十年，对机器学习的研究不可能取得实质进展。

3.第三阶段从70年代中叶至80年代中叶，称为复兴时期。在这个时期，人们从学习单个概念扩展到学习多个概念，探索不同的学习策略和各种学习方法。本阶段已开始把学习系统与各种应用结合起来，中国科学院自动化研究所进行质谱分析和模式文法推断研究，表明我国的机器学习研究得到恢复。1980年西蒙来华传播机器学习的火种后，我国的机器学习研究出现了新局面。

4.机器学习的最新阶段始于1986年。一方面，由于神经网络研究的重新兴起，另一方面，对实验研究和应用研究得到前所未有的重视。我国的机器学习研究开始进入稳步发展和逐渐繁荣的新时期。

讨论：根据对四个时期的划分和分段了解，讨论机器学习在现实生活中的具体运用及其影响。

7.2 机器学习的主要策略与基本结构

内容与作用：本小节概括了机器学习的主要策略，同时给出了机器学习的基本结构，让学生对机器学习的机制有了基本的认识。

教学重点：机器学习的基本结构。

教学难点：机器学习基本结构的内在联系。

教学方法：通过概括介绍让学生了解几种基本的策略，按从易到难的顺序，层层铺垫，为后面的学习埋下伏笔。详细讲述机器学习的基本结构，通过图示让更为形象的说明。

教学要求：重点掌握机器学习的基本结构，了解机器学习的几种主要策略，一般了解影响学习系统设计的因素。

7.2.1 机器学习的主要策略

学习过程与推理过程是紧密相连的，按照学习中使用推理的多少，机器学习所采用的策略大体上可分为4种棗机械学习、示教学习、类比学习和示例学习。学习中所用的推理越多，系统的能力越强。

1.机械学习就是记忆，是最简单的学习策略。这种学习策略不需要任何推理过程。

2.比机械学习更复杂一点的学习是示教学习策略。系统在接受外部知识时需要一点推理，翻译和转化工作。

3.类比学习系统只能得到完成类似任务的有关因此，他比上述两种学习策略需要更多的推理。

4.采用示例学习策略的计算机系统，事先完全没有完成任务的任何规律性的信息，因此需要推理是最多的。

讨论：通过对比四种主要策略，讨论其各自的优缺点以及其适用的环境。

7.2.2 机器学习系统的基本结构

1.基本结构

图7.1表示学习系统的基本结构：

图 7.1 学习系统的基本结构

通过对这个简单模型的讨论，总结出设计学习

系统应当注意的某些总的原则：

环境向系统的学习部分提供某些信息，学习部

分利用这些信息修改知识库，以增进系统执行部分完成任务的效能，执行部分根据知识库完成任务，同时把获得的信息反馈给学习部分。在具体的应用中，环境，知识库和执行部分决定了具体的工作内容，学习部分所需要解决的问题完全由上述3部分确定。

举例：以人为例，说明机器学习和人学习一样，有着其自身的规律和基本过程。而且，其学习过程也有着共性。

提问：能否就机器学习的基本结构，举出相关的例子，并参照其基本结构对其进行分析。

2.影响学习系统设计的重要因素

(1).影响学习系统设计的最重要的因素是环境向系统提供的信息。整个过程要遵循“取之精华，弃之糟粕”的原则，同时谨记“实践是检验真理的唯一标准”。

(2).知识库是影响学习系统设计的第二个因素。知识的表示有多种形式，在选择表示方式时要兼顾以下4个方面：

表达能力强。所选择的表示方式能很容易地表达有关的知识。

易于推理。为了使学习系统的计算代价比较低，希望知识表示方式能使推理较为容易。

容易修改知识库。学习系统的本质要求它不断地修改自己的知识库，当推广得出一般执行规则后，要加到知识库中。

知识表示易于扩展。

学习系统不能在全然没有任何知识的情况下凭空获取知识，每一个学习系统都要求具有某些知识理解环境提供的信息，分析比较，做出假设，检验并修改这些假设。因此，更确切地说，学习系统是对现有知识的扩展和改进。

举例：可举特征向量的例子来说明表达能力和推理的问题。