人工智能[第六章机器学习]山东大学期末考试知识点复习

第六章机器学习

机器学习就是计算机自动获取知识，它是知识工程的3个分支(获取知识、表示知识、使用知识)之一，是人工智能中的一个重要的研究领域，一直受到人工智能和认知心理学家们的普遍关注。机器学习涉及计算机科学、脑科学、生理学、心理学等多个学科，涉及的面比较宽，许多理论和技术上的问题尚处于研究阶段。

1．1 机器学习概述

1．机器学习的概念

机器学习是研究如何使用计算机来模拟人类学习活动的一门学科。人类学习是一个有特定目的的知识获取过程，其内在行为是获取知识、积累经验、发现规律，其外在表现是使系统性能得到改进、系统实现自我完善、自适应环境。因此，机器学习就是研究计算机获取新知识、识别现有知识、不断改善性能、实现自我完善的方法。

2．机器学习研究的目标

机器学习研究的目标有3个：人类学习过程的认知模型；通用学习算法；构造面向任务的专用学习系统的方法。

①人类学习过程的认知模型。这一方向是对人类学习机理的研究。这种研究不仅对人类的教育，而且对开发机器学习系统都有重要的意义。

②通用学习算法。这个方向是对人类学习过程的研究，探索各种可能的学习方法，建立起独立于具体应用领域的通用学习算法。

③构造面向任务的专用学习系统(工程目标)。这一方向是要解决专门的实际问题，并开发完成这些专门任务的学习系统。

3．研究机器学习的意义

机器学习能以惊人的速度进行，并且机器不会疲倦、不用休息。

人类的知识不具有继承性，而机器的知识可以具有继承性。如果计算机具有学习的功能，就可以把学习不断地延续下去，避免大量的重复学习，使知识积累达到新的高度。

利用机器学习有利于知识的传播。只要有一台机器“学会”了，其他机器只要简单的“复制”一下也就“学会”了，非常容易实现知识的快速传播。

因此，研究机器学习将会对人类社会产生影响，尤其对今天信息化社会来说，这种影响将是十分深远的。

4．机器学习的主要策略

学习过程与推理过程是紧密相连的，学习中使用的推理方法称为学习策略。学习系统中推理过程实际上就是一种变换过程，它将系统外部提供的信息变换为符合系统内部表达的新的形式，以便对信息进行存储和使用。这种变换的性质决定了学习策略的类型。几种基本策略是：机械学习、传授学习、演绎学习、类比学习和归纳学习。归纳学习又分为实例学习、观察与发现学习。人类的学习往往同时使用多种策略。这里划分不同的策略，不仅是为了介绍不同的方法，而且是便于设计学习系统。虽然现有的学习系统还只使用单一的策略，多种策略系统将是未来研究发展的目标。

①机械学习。机械学习又称记忆学习，是最简单的学习策略。这种学习策略不需要任何推理过程。外面输入知识的表示方式与系统内部表示方式完全一致，不需要任何处理和变换。

②传授学习。传授学习又称指导式学习或指点学习。在使用传授学习系统时，外界输入知识的表达方式与内部表达方式不完全一致，系统在接受外部知识时，需要一点推理、翻译和转化工作。

③演绎学习。在演绎学习中，学习系统由给定的知识进行演绎的保真推理，并存储有用的结论。这种策略近几年才作为一种独立的学习策略。演绎学习包括知识改造、知识编译、产生宏操作、保持等价的操作和其他保真变换。

④归纳学习。归纳学习是应用归纳推理进行学习的一类学习方法。按其有无教师指导，可以分为实例学习及观察与发现学习。实例学习又称为概念获取，它是通过向学习者提供某一概念的一组正例和反例，使学习者从这些正反例中归纳推理出概念的一般描述，这个描述应能解释所有给定的正例并排除所有给定的反例。观察与发现学习又称为描述的一般化。这类学习没有教师的指导，它要产生解释所有或大多数观察到的规律和规则。这类学习包括概念聚类、构造分类、曲线拟合(使方程符合数据)、发现并解释观察到的定律并形成理论。

⑤类比学习。类比学习就是在遇到新的问题时，可以学习以前解决过的类似问题的解决办法，来解决当前的问题。所以寻找与当前问题相似的已知问题就很重要，并且必须要能够发现当前任务与已知任务的相似之点，由此制定出完成当前任务的方案。类比学习可以由系统已有的某一领域知识得到另一领域中类似的知识。

⑥基于解释的学习。基于解释的学习属于演绎学习方法的一种，是近年来出现的一种机器学习方法。这种方法通过运用相关的领域知识，对当前提供的单个问题求解实例进行分析，构造出求解过程的因果解释结构，并通过对该解释结构一般化处理获取相应知识，以便用于指导以后求解类似的问题。

1．2 机器学习系统的基本模型

以Simon的关于学习的定义作为出发点，建立起如图6．1所示的机器学习系统的基本模型。通过对这一基本模型的讨论，总结出设计学习系统时的一些原则。

一般情况下，一个人的学习过程总是与他所处的环境以及他所具备的知识有关。同样，机器学习过程也与外界提供的信息环境以及机器内部所存储的知识库有关。

在图6．1的学习系统基本模型中，包含了4个基本组成环节。“环境”和“知识库”是以某种知识表示形式表达的信息的集合，分别代表外界信息来源和系统所具有的知识；学习环节和执行环节代表两个过程。“环境”向系统的“学习环节”

提供某些信息，而“学习环节”则利用这些信息对系统的“知识库”进行改进，以增进系统“执行环节”完成任务的效能，“执行环节”根据知识库中的知识来完成某种任务，同时把获得的信息反馈给“学习环节”。下面讨论系统中各环节。

1．3 机械学习

机械学习的过程是这样进行的：执行机构每解决一个问题，系统就记住这个问题和它的解。可以把执行机构抽象地看成某一函数F ，该函数的输入是(x1，x2，…，x n )，经推导计算后输出为(y1，y2，…，y m )，如果经过评价得知该计算

是正确的，则就把联想对：

[(x1，x2，…，x n )，(y1，y2，…，y m )]

存入知识库中，在以后需要计算F(x1，x2，…，x n )时，系统的执行机构就

直接从知识库中把(y1，y2，…，y m )检索出来，而不需要再重复进行计算。图6．2

描述了这一简单的机械学习模型。

机械学习系统可以把某些计算任务简化为存取任务，而记忆(数据存储)则是这种简化数据的计算处理，以空间换取时间的手段。因此，机械学习系统的设计要考虑3个问题：存储结构、环境的稳定性和存储信息的适用性以及存储与计算的权衡。

1．4 传授式学习

传授式学习的学习过程包括下列5个步骤：

①征求教授者的指示或建议。这是请求教授者或者专家提出建议或指示。对专家的要求有时是简单的，即请专家提供一般的建议；有时是复杂的，即请专家识别知识库的欠缺，并提出修改方法。有些系统是被动的，它会消极等待专家提出建议；而有些系统则是主动的，它会把专家注意力引向特定的问题。

②解释。解释就是把教授者的建议转成内部表示形式，属知识表示问题。所