工智能及专家系统敖志刚第5章智能学习系统-文档资料

第5章 智能学习系统
3. 机器学习的途径
• ⑵ 示教式学习。在机器学习过程中，由人 作为示教者或监督者，给出评价准则或判断 标准，对系统的工作效果进行检验，选择或 控制训练集，对学习过程进行指导和监督。 • ⑶ 自学式学习。在机器学习过程中，不需 要人作为示教者或监督者，而由系统本身的 监督器实现监督功能，对学习过程进行监督， 提供评价准则和判断标准，通过反馈进行工 作效果检验，控制选例和训练。 • ⑷ 机器感知。通过机器视觉、机器听觉、 触觉等途径，直接感知外部世界，输入自然 信息，获取感性和理性知识。
第5章 智能学习系统
第5章 智能学习系统
1. 什么是学习
• 学习是一种综合性的心理活动，它与记忆、思 维、知觉、感觉等多种心理活动密切联系； • 西蒙 ：“学习“系统积累经验，改善性能的 过程”； • 明斯基 ：“学习是我们头脑里有用知识的变 化”； • 维纳：“学习是系统自我完善的过程”； • 巴甫洛夫“学习是条件反射的形成过程”。
第5章 智能学习系统
3. 机器学习系统的基本要求
• 具有适当的学习环境。 • 具有一定的学习能力。 • 能够运用所学知识求解问题。
• 能通过学习提高自身性能。如果不能 够通过学习增长知识、提高技能、改 进性能，就谈不上是一个真正的学习 系统。
4. 机器学习系统的类型
第5章 智能学习系统
• 按学习能力分类：示教式学习系统、自学 式学习系统。 • 按学习方法分类：强记学习系统、指导式 学习系统、示例学习系统、类比学习系统。 • 按照学习的推理策略分类：机械式学习系 统、传授学习系统、演绎学习系统、归纳 学习系统、解释学习系统。 • 按学习内容分类：概念学习系统、过程学 习系统。
第5章 智能学习系统
5．2 智能学习系统的基本模型
• 学习系统的基本模型
环境
学习环节
知识库
执行环节
• 环境和知识库是以某种知识表示形式表达的信息的 集合，分别代表外界信息来源和系统具有的知识。 学习环节和执行环节代表两个过程。学习环节处理 环境提供的信息，以便改善知识库中的显式知识。 执行环节利用知识库中的知识来完成某种任务，并 把执行中获得的信息回送给学习环节。
第5章 智能学习系统
机械学习系统主要考虑的问题
机械学习（记忆学习的设计要考虑三个问题：存储结构、 稳定性和记忆与计算的权衡。 1.存储结构 只有读取所用时间少于重新计算所用时间时，机械学习 （记忆学习才有实用价值。为了快速读取存储的内容，就要合 理组织存储结构。在数据结构和数据库等领域已经详尽研究了 排序、检索和杂凑方法等有关问题。 2.环境稳定性 使用机械学习（记忆学习）时，总是认为保存的信息以后 仍然有效。如果环境变化快，保存的信息就会失效而不能再使 用。例如记忆的50年代汽车修理费用不能用来估计80年代汽车 修理费用。解决方法是随时监视环境的变化，不断更新保存的 信息。
第5章 智能学习系统
4.机器学习系统的类型
• 按知识表达方式分类：数值学习系统、 符号学习系统（产生式规则、与/或图等， 又可分为:产生式学习系统、网络式学习 系统，语义网络学习系统、逻辑学习系 统） • 按照应用领域分类：专家系统学习、机 器人学习、自然语言理解学习； • 按照对人类学习的模拟方式分类：从功 能上模拟的符号学习、从结构上模拟的 连接学习等系统。
第5章 智能学习系统
1．环境
• 系统中的环境包括工作对象和外界条件。比如在医疗系统中， 环境就是病人当前的症状、物化检验的报告和病历等信息； 在模式识别中，环境就是待识别的图形或景物；在控制系统 中，环境就是受控的设备或生产流程。 • 环境提供给系统的信息水平和质量对于学习系统有很大的影 响。信息的水平是指信息的一般性程度，也就是适用范围的 广泛性。高水平的信息往往比较抽象，适用面更广泛，而低 水平的信息往往比较具体，只适用于个别问题。如果环境提 供较抽象的高水平信息，学习环节就要补充遗漏的细节，以 便执行环节能用于具体情况。如果环境提供较具体的低水平 信息，即在特殊情况执行任务的实例，学习环境就要由此归 纳出规则，以便用于完成更广的任务。信息质量对学习难度 有明显的影响。例如，若施教者向系统提供准确的示教例子， 而且提供例子的次序也有利于学习，则容易进行归纳。若示 教例子中有干扰，或示例的次序不合理，则难以归纳。
第5章 智能学习系统
5．3．1 机械式学习
• 简单的机械式学习模型 f 存储 (y1,y2,…,yk) (x1,x2,…,xn) [(x1,x2,…,xn), (y1,y2,…,yk)] 输入模式 执行函数 输入输出模式对
输出模式
• 过程:执行元素每解决一个问题，系统就记住这个问题和 它的解，以后一旦再遇到此类问题，系统就不必重新进行 计算，而可以直接找出原来的解去使用。可以把执行元素 抽象地比作一个函数f，该函数在得到环境的输入模式（x1， x2，…，xn）后，计算并输出模式（y1，y2，…，yk），则 机械学习系统就是要简单地把这一输入输出模式对: [（x1， x2，…，xn），（y1，y2，…，yk）]存放在知识库中，当以 后再需要计算f（x1，x2，…，xn）时，系统执行元素就可 以直接从存储器中把（y1，y2，…，yk）检索出来，而不需 要再重新进行计算。
第5章 智能学习系统
4．执行环节
• 执行环节利用知识库的知识，进行识别、论证、决 策、判定，采取相应的行动完成某种任务的过程， 并把完成任务过程中所获得的一些信息反馈给学习 环节，以指导进一步的学习。它是整个学习系统的 核心，它与学习环节之间是相互联系的。
• 执行环节实际上是由工作环节和评价环节两部分组 成，工作环节用于处理系统面临的现实问题，比如 定理证明、智能控制、自然语言处理、机器人行动 规划等；评价环节用来验证、评价工作环节执行的 效果，比如结果的正确性等。
第5章 智能学习系统
2．学习环节
• 学习环节是系统的学习机构，是学习系统 的核心，主要任务是采集环境信息、接受 监督指导、进行学习推理、修改知识库。 学习环节是将外界信息加工为知识的过程， 在从环境获取外部信息后，再对这些信息 进行分析、综合、类比、归纳、推理等思 维过程加工形成知识，并把这些知识放入 知识库中。
第5章 智能学习系统
学习的基本概念
• 学习是一个知识和能力的增长过程。 其内在行为是知识获取（获得知识、 积累经验、发现规律，新知识结构的 建立和改进等）；其外部表现是能力 的改善（改进性能、适应环境、实现 自我完善等），使其变得更快、更精 确、更健全；学习是技巧的获得，是 理论的形成，是假设的验证，是演绎 的推理。
第5章 智能学习系统
5．反馈信息
• 所有的学习系统都必须有从“执行环 节”到”学习环节”的反馈信息，这 种反馈信息是根据执行环节的执行情 况，对学习环节所获知识的评价。学 习环节主要根据这些反馈信息，来决 定是否还需要从环境中进一步索取信 息，以修改、完善知识库中的知识。
第5章 智能学习系统
5．3 机器学习的几种常用方法
第5章 智能学习系统
5.1.2 机器学习系统
1. 机器学习系统的概念
机器学习系统是指能够在一定程度 上实现机器学习的系统，是指能够 根据某种过程或环境中的未知特征 获取信息，改进系统性能，不断使 知识库完善，可将获取的信息用于 未来的估计、分类、决策或控制， 对环境的响应是令人满意的系统。
第5章 智能学习系统
第5章 智能学习系统
5. 学习系统的性能评价
• ⑴ 分类精度：是否能够对输入的数据进行正确、 精确的分类。此类系统性能由待分类模式的规模 (大规模(成千上万种)、中规模(几千种)、小规模 (几十、几百种)) ；待分类样本的性质、质量；系 统学习方法等多种因素决定。如，分类结果是精 确的还是模糊的、多义性的；给出分类结果的同 时是否还可以给出分类结果的可信度和分类精确 度等。 • ⑵ 解答的正确性和质量：好的质量包括：可读性、 稳定性等多方面的因素。 • ⑶ 学习的速度：一个很费时的学习方法，某种意 义上也是很难实现的。
第5章 智能学习系统
机械学习系统主要考虑的问题
3.记忆与计算的权衡 为了确定是利用存储的信息还是重新计算，要比 较二者的代价。例如在数学用表中有三角函数表，可 直接查表不必计算。因为计算比查表复杂。但在数学 用表中不列出两数乘积表，因计算并不复杂。可用两 种方法选择是记忆还是计算。一种是代价效益分析法。 它在首次得到一个信息时，确定是否有必要保存它。 这时要考虑该信息以后使用的概率、存储空间和计算 代价。另一种是有选择的放弃。保存的内容在读取时 加上时间标志，这就是最后使用的时间。保存一项新 内容时，要删除一项旧内容，这是未使用的时间最长 的旧内容。
第5章 智能学习系统
3．知识库
• 知识库是用于存储、记忆、积累、增删、修改、 扩充、更新知识的系统，是以某种形式表示的知 识集合，用来存放学习环节所得到的知识；根据 所存储知识记忆的稳定度，可分为长期记忆、中 期记忆和短期记忆的知识库系统。 • 对知识库中的内容，其初始知识，是非常重要的。 学习系统不可能在没有任何知识的情况下凭空获 取知识，它总是先利用初始知识去理解环境提供 的信息，并依此形成和改进假设。学习系统的学 习过程实质上就是对原有知识库的扩充和完善过 程。
第5章 智能学习系统
2. 机器学习
• 机器学习是研究怎样让机器(计算机或智能机)获 取知识的问题，有以下二种定义: • 狭义机器学习。指人们通过系统设计、程序编制 和人-机交互，使机器获取知识。因此，狭义机 器学习也可称为“人工知识获取”。 • 广义机器学习。除了上述人工知识获取之外，机 器还可以自动或半自动地获取知识。如，在系统 调试和运行过程中，通过机器学习进行知识积累， 或者，通过机器感知直接从外部环境获取知识， 对知识库进行增删、修改、扩充和更新。因此， 广义机器学习包括人工知识获取、机器自动和半 自动知识获取。
2. 机器学习系统的特征
• 目的性：一个系统必须知道要学习什么。
• 结构性：系统必须具备适当的结构来记忆 已经学到的知识，即能够对知识表示和知 识组织形式进行修改和完善。 • 有效性：系统学到的新知识必须有益于改 善系统的行为。 • 开放性：系统的能力应该能够在其实际使 用过程或同环境的交互过程中不断进化。
第5章 智能学习系统
第5章 智能学习系统
敖志刚 编制
第5章 智能学习系统
第5章 智能学习系统
敖志刚 编制
第5章 智能学习系统
第5章 智能学习系统
• • • • • • • • • • 5．1 机器学习的基本概念 5．1．1 机器学习 5．1．2 机器学习系统 5．2 智能学习系统的基本模型 5．3 机器学习的几种常用方法 5．3．1 机械式学习 5．3．2 指导式学习 5．3．3 示例学习 5．3．4 类比学习 5．3．5 解释学习
5．3．1 机械式学习
• 机械式学习又被称为记忆学习或死记硬背式学习， 是一种最基本最简单的学习方法。它没有足够的 能力独立完成智能学习，但对任何系统来说都是 十分重要的，不需要进行任何计算和推理。在把 环境提供的知识存储起来以后，它所需做的唯一 工作就是检索。 • 在机械学习系统中，知识已经以某种方式获取， 并且是一种直接可使用的形式，不需系统进一步 加工。其他更高级的学习系统首先从实例或者从 指导获取知识，然后再记忆。因而所有学习系统 都是建立在机械学习的基础之上，即对知识库中 的知识进行存储、维护和检索。
第5章 智能学习系统
3. 机器学习的途径
• 一般情况下，机器学习的途径就是依靠人工智能系统的设计师、知识 工程师、程序编制人员、专家或用户，通过系统设计、 程序编制及人机交互或辅助工具，将人的知识移植到 机器的知识库中，使机器获取知识。 人工移植的方式有以下二种: ① 静态移植。在系统设计过程中，通过知识表达， 程序编制，建立知识库，进行知识存储、编排和管理， 使系统获取所需的先验知识或静态知识。 ② 动态移植。在系统运行过程中，通过常规的人机 交互方法，如“键盘-显示器”的输入/输出交互方式， 对机器的知识库进行人工的增删、修改、扩充和更新。