人工智能课件6

在数据库中挖掘不同类型的知识。 结合背景知识。 数据挖掘查询语言。 数据挖掘结果的表示和显示。 处理噪音和不完全数据。 模式评估——兴趣度问题。
⑵ 性能问题。
数据挖掘算法的的运行时间必须是可预计的和 可接受的。 开发并行、分布式挖掘算法。
（3）数据库类型的多样性问题：
关系和复杂数据类型的处理：对于不同类 型的数据，应该有不同的数据挖掘系统。 由不同数据库和全球信息系统挖掘信息： Web 挖掘已经成为数据挖掘的一个非常具 有挑战性的领域。 超大规模数据库和高维数据问题； 数据丢失问题； 变化的数据和知识问题； 等等
第六章
机器学习
Machine Learning
机器学习是一门研究使用计算机 获取新的知识和技能，提高现有 计算机求解问题能力的科学
机器学习 规律： 购买尿布的多为青年男性，他们往 往在购买尿布之后，还要顺手买上 一听啤酒。 计算机分析、归纳、整理、运算销售记录
数据挖掘
数据分析技术
有用的信息
数据管理技术
四、数据挖掘的应用
⑴ ⑵ ⑶ ⑷ ⑸ ⑹ ⑺ ⑻ ⑼ 电信 ：客户群体划分、客户流失分析、客户信用； 银行：聚类交叉销售、数据库营销、背景分析； 百货公司/超市：购物篮分析 预测准客户的需要； 保险：细分，交叉销售，流失原因分析、欺诈发现； 信用卡： 欺诈探测，细分； 电子商务：网站日志分析； 税务部门：偷漏税行为探测； 警察机关：犯罪行为分析； 医学： 医疗保健。
3、自学式学习 由智能系统本身指导和监督学习过程。
4、机器感知 系统运行过程中，通过机器感觉获取知识。 •机 器 视 觉 ： 如 文 字 识 别 、 图 像 识 别 •机 器 听 觉 ： 如声音识别、语音识别
三、机器学习系统
指能够在一定程度上实现机器学习， 获取信息，改进系统性能，不断完善知识 库，并将获取的信息用于未来的估计、分 类、决策或控制的系统。
数据源
数据仓库
各分公司 数据集市
分 析 数据集市
数据挖掘 数据集市
数据挖掘库从数据仓库中得出
三、数据挖掘系统的分类
⑴ 根据数据模型：分为有关系的、面向对象的、或数 据仓库的数据挖掘系统。 ⑵ 根据所处理的数据类型：分为空间的、时间序列 的、 文本的、多媒体的数据挖 掘系统，或WWW 数据挖 掘系统。 ⑶ 根据数据挖掘的功能：分为特征、关联、偏差分 析、 类似性分析等数据挖掘系 统。 ⑷ 根据所挖掘的知识的抽象层：分高抽象层、原始数
机器学习
经典定义：利用经验改善系统自身的性能 主要做智能数据分析
典型任务：预测
二、机器学习的途径
1、人工移植 通过编程建立知识库，进行知识的存 储和管理 --------“静态移植” ； 通过人机交互的方式对智能系统的知识库 进行人工的修改、扩充和更新---- “动态 移植”。
2、示教式学习 在机器学习的过程中，加入人的指导和监 督。
入侵检测：
是否是入侵？是何种入侵？
如何检测？
•历史数据：以往的正常
访问模式及其表现、以往 的入侵模式及其表现……
•对当前访问模式分类
典型的预测型机器学习问题
五、解释学习（Explanation-Based Learning）
1 9 8 6 年 ， Mitchell 等 提 出 基 于 解 释 的 学 习 方法。 定义：解释学习是一种分析学习方法，由给定的 领域知识进行演绎推理，存储有用结论， 经过知识的编辑，产生适合于以后求解类似问题 的知识。
6.4.4 数据挖掘的方法与工具
1、分析和预测方法。
数据挖掘中大量采用统计分析方法，如 描述统计、概率论、回归分析（线性回 归、非线性回归、多元回归、泊松回归、 对数回归）、时间序列分析、多元分析 等。
6.4.4 数据挖掘的方法与工具
2、 粗糙集。
把那些无法确认的个体都归属于边界线区 域，而这种边界线区域被定义为上近似集和下近 似集之差集。 粗糙集理论主要特点在于它恰好反映了人们 用粗糙集方法处理不分明问题的常规性。
示例空间
规则空间
解释空间
存放人们向系统提供的训练例子集合 。 示例空间的例子应该是无二义性 。 要考虑两个问题：例子的质量和示例空间的搜索方 法。
验证过程
示例空间
规则空间
解释空间
解释过程：从搜索到的示例中抽象出所需的信 息，并对这些信息进行综合、归纳，形成一般 性的知识。
归纳推理常用的有以下几种： ①把常量化为变量：扩大条件的范围。
数据挖掘与传统分析方法区别
传统的数据分析——如查询、报表等。 数据挖掘是在没有明确假设的前提下去挖掘信 息、发现知识，所得到的信息应具有先未知， 有效和可实用三个特征。即数据挖掘是要发现 那些不能靠直觉发现的信息或知识，甚至是违 背直觉的信息或知识，挖掘出的信息越是出乎 意料，就可能越有价值。
二、数据挖掘和数据仓库
操作化：把解释后的建议 转换成具体的知识 评价 归并:这一步把新知识加入知识库
三、示例学习（Learning from Examples） （实例学习）
属于归纳学习
任务：从已知的正例和反例中归纳出 一个一般性的知识，解释所有的正 例，排除所有的反例。
1、学习模型
验证过程
示例空间
规则空间
解释空间
验证过程
3、模糊集。
模糊集合论用隶属程度来描述差异的中间过 渡，是一种用精确的数学语言对模糊性进行描述的 方法。
4、聚类分析。
聚类是对物理的或抽象的对象集合分组的过 程。聚类生成的组为簇，簇是数据对象的集合。簇 内部任意两个对象之间具有较高的相似度，而属于 不同簇的两个对象间具有较高的相异度。
解释学习的描述框架： 要学习的目标概念 已知： 目标概念 GC 训练实例 TE 领域知识 DT 操作性标准 OC 是为学习系统提供的一 个实例，它能够充分说 明目标概念；
相关领域的事实和规 用于指导学习系统对描述目标 则，在学习系统中作为 求出：满足OC的关于GC的充分概念描述。 概念进行取舍，使得通过学习 背景知识 产生的关于目标概念GC的一般 性描述成为可用的一般性知 识。
6.4 数据挖掘
6.4.1 数据挖掘的概念
信息社会，人们积累的数据越来越多。激增 的数据背后隐藏着许多重要信息，人们希望能对 其进行更高层次的分析。
一、数据挖掘 (Data Mining)的定义
通过采用自动或半自动的手段，对数据进行 一定的处理，从大量的、不完全的、有噪声的、 模糊的、随机的实际应用数据中，发现和提取有 意义的、隐含在其中的、人们事先不知道的、但 又是有效的、新颖的、潜在有用的、最终可被理 解的信息和知识的过程。
二、指导式学习 (Learning by being told )
核心问题是如何把由外部环境向系统提供 的、不能被直接执行的知识或建议转化为可 执行的知识。 适用于 专家系统
1、学习过程：步骤
请求：向指导者请求建议或指示 解释：接受建议并将其转化 成机器的内部表示形式 如果专家的建议 是用自然语言提 出的，那么解释 过程应包括自然 语言理解。
6.4.2 数据挖掘的功能和主要问题
一、数据挖掘的功能
⑴ 自动预测趋势和行为。 ⑵ 关联分析。若两个或多个变量的取值之间存在某 种规律性，就称为关联。 ⑶ 聚类。数据库中的记录可被化分为一系列有意义 的子集，即聚类。聚类技术主要包括传统的模式 识别方法和数学分类学。 ⑷ 概念描述。就是对某类对象的内涵进行描述，并 概括这类对象的有关特征。 ⑸ 偏差检测。偏差包括很多潜在的知识，如分类中 的反常实例、不满足规则的特例、观测结果与模 型预测值的偏差、等。偏差检测的基本方法是， 寻找观测结果与参照值之间有意义的差别。
3. 商业银行数据挖掘成功案例
例如，美国Firstar银行等使用的Marksman数据挖 掘工具，能读取800到1000个变量并且给它们赋值， 可以根据消费者的家庭贷款、赊帐卡、储蓄、投资 产品等，将客户分类，进而预测何时向哪类客户提 供哪种产品 。
4. 沃尔玛的经典案例
一般看来，啤酒和尿布是顾客群完全不同的商 品。但是沃尔玛一年内数据挖掘的结果显示，在 居民区中尿布卖得好的店面啤酒也卖得很好。原 因其实很简单，一般太太让先生下楼买尿布的时 候，先生们一般都会犒劳自己两瓶啤酒。因此啤 酒和尿布一起购买的机会是最多的。这是一个现 代商场智能化信息分析系统发现的秘密。这个故 事被公认是商业领域数据挖掘的诞生。
6.2 机器学习系统的基本模型
指工作对象和 外界条件 。环 境应能向系统 提供正确的信 息。 环境 从环境中获取外部信息 后，对信息进行分析、综 合、归纳、推理。 知识库是系统记忆装置，用来存 执行环节由工作环节和 评价环节两部分组成 放经学习环节得到的知识。 知识库 执行环节
学习环节
6.3
机器学习的常用方法
验证过程
示例空间
规则空间
解释空间
规则空间：构成知识库。
验证过程
示例空间
规则空间
解释空间
从示例空间中选择新的示例，对刚归纳出的 规则做进一步的修改和验证。
四、类比学习（Learning by Analogy ）
1) 利用相似性来认识新事物； 2) 通过类比推理获取新知识。 类比学习的基础是类比推理，类比推理的基础 是相似性。
⑸ 根据所用的技术：分为机器学习、统计、可视 化、模式识别、神经网络等。 ⑹ 根据挖掘任务：分为预测模型发现、数据总结与 聚类发现、序列模式发现、相似模式发现、依赖 关系或依赖模型发现等。 ⑺ 根据挖掘对象：分为关系型数据库挖掘、面向对 象数据库挖掘、空间数据库挖掘、文本数据源挖 掘、多媒体数据库挖掘、Web数据库挖掘等。
机器学习
数据库
上帝给我们大海，也许只想给我们盐 盐的利润有限，大家就拼命去提取铀
数据挖掘
重要性
工业过 程控制 生物 信息学 计算 金融学 信息 安全