第6章数据仓库原理设计与应用

2.关联规则的应用目标 关联规则的应用目标 置信度或正确率可以定义为： 置信度或正确率可以定义为：
置信度( A => B ) =
包含A和B的元组数 包含A的元组数
(6.5)
覆盖率可以定义为
包含A和B的元组数 覆盖率( A => B ) = 元组总数
“兴趣度”为目标的关联规则 兴趣度”
3.关联规则的算法 关联规则的算法 Apriori算法 Apriori算法 找出所有支持度大于最小支持度的项集，这些项集称为频集，包含k 1 ． 找出所有支持度大于最小支持度的项集 ， 这些项集称为频集 ， 包含 k个项的频集 称为k 项集。 称为k-项集。 使用第1步找到的频集产生所期望的规则。 2．使用第1步找到的频集产生所期望的规则。 Apriori算法的第1步采用了递归方法，算法表示为 Apriori算法的第1步采用了递归方法， 算法的第 itemsets};//产生频繁 项集L 产生频繁1 L1={large 1-itemsets};//产生频繁1项集L1 (k=2 //循环产生频繁 项集L 直到某个r 循环产生频繁2 for (k=2;Lk-1≠○;k++) do //循环产生频繁2项集L2直到某个r使Lr为空 ○ begin =apriori//产生 产生k Ck=apriori-gen(Lk-1);//产生k-项集的候选集 for all transactions t∈D do begin ,t);//事务 事务t Ct=subset(Ck,t);//事务t中包含的候选集 for all candidates c∈Ct do count++; c.count++; end ={c∈ |c.count≥minsup} Lk={c∈Ck|c.count minsup} end Answer=UkLk
现代数据挖掘技术与发展
6.1知识挖掘系统的体系结构 知识挖掘系统的体系结构 6.2现代挖掘技术及应用 现代挖掘技术及应用 6.3知识发现工具与应用 知识发现工具与应用 6.4数据挖掘技术的发展 数据挖掘技术的发展 练 习
6.1知识挖掘系统的体系结构 6.1知识挖掘系统的体系结构
6.1.1知识发现的定义 知识发现的定义 知识发现是用一种简洁的方式从大量数据中抽取信息的一种技术，所抽取 的信息是隐含的、未知的，并且具有潜在应用价值。 知识发现可看成是一种有价值信息的搜寻过程，它不必预先假设或提出问题， 仍然能够找到那些非预期的令人关注的信息，这些信息表示了不同研究对 象之间的关系和模式。它还能通过全面的信息发现与分析，找到有价值的 商业规则。 知识发现意味着在数据仓库或数据集市的几千兆、几万兆字节数据中寻找预 先未知的商业模式与事实。 6.1.2 知识发现系统的结构 知识发现系统的结构由知识发现系统管理器、知识库、商业分析员、数据仓 库的数据库接口、数据选择、知识发现引擎、知识发现评价和知识发现描 述等部分组成（图6.1）。
6.2.2 神经网络型现代挖掘技术
4.神经网络的应用 神经网络的应用
连接 47岁 节点 借贷拖欠？
收入6500元 年龄
0.47
Weight=0.7
0.39
收入
0.65
Weight=0.1 0.47（0.7）+0.65（0.1）＝0.39
6.2.3 遗传算法型现代挖掘技术
1.遗传算法的基本原理 遗传算法的基本原理 达尔文的“适者生存”理论、 达尔文的 “ 适者生存 ” 理论 、 继承的信息由基因携带 、 多个 基因座、 基因组成了染色体 、基因座、等位基因 、基因型和表现 型 染色体对应的是一系列符号序列，通常用0 染色体对应的是一系列符号序列，通常用0、1的位串表示 进行生物的遗传进化。在这一过程中包括三种演化操作： 进行生物的遗传进化。在这一过程中包括三种演化操作：在父 代基因群中的双亲选择操作、两个父代双亲产生子代基因 代基因群中的双亲选择操作、 的交叉操作和在子代基因群体中的变异操作。 的交叉操作和在子代基因群体中的变异操作。 两种数据转换：从表现型到基因型的转换， 两种数据转换：从表现型到基因型的转换，另一种是从基因型 到表现型的转换 遗传算法实质上是一种繁衍、 遗传算法实质上是一种繁衍、检测和评价的迭代算法 最大优点是问题的最优解与初始条件无关， 最大优点是问题的最优解与初始条件无关，而且搜索最优解的 能力极强
6.2.3 遗传算法型现代挖掘技术
2.遗传算法的处理过程 遗传算法的处理过程 （1）编码并生成祖先群体 要用遗传算法解决问题，首先要定义有待解决的问题： 要用遗传算法解决问题，首先要定义有待解决的问题： F=f(a,b,c),F∈R ,(a,b,c)∈Ω F=f(a,b,c) 是 属 于 实 数 域 R 的 一 个 实 数 ， 也 是 每 一 组 解 (ai,bi,ci)∈Ω 的 适 应 度 的 度 量 ， 算 法 的 目 标 是 找 一 个 (ao ,bo ,co)，使F=f(ao ,bo ,co)取最大值。 取最大值。 （2）计算当前基因群体中所有个体的环境适合度 （3）用适应函数评价每一个体对环境的适应度 （4）选择适应度好的生物个体进行复制 （5）选择适应度好的生物个体进行复制交叉配对繁殖 （6）新生代的变异操作
知识发现 管理器
知识发现 描述
知识库
知 识 发 现评 价
商业分析员
数据仓库 数 据 库 接 口 数 据 选 择 知识 发现 引擎
图6.1 知识发现系统结构
1.知识发现系统管理器 1.知识发现系统管理器 控制并管理整个知识发现过程 2.知识库和商业分析员 知识库和商业分析员 知识库包含了源于各方面的知识。 知识库包含了源于各方面的知识。商业分析员要按一种有 效的方式指导关注信息的发现。 效的方式指导关注信息的发现。 3.数据仓库的数据库接口 数据仓库的数据库接口 知识发现系统的数据库接口可以直接与数据仓库通信。 知识发现系统的数据库接口可以直接与数据仓库通信。 4.数据选择 数据选择 确定从数据仓库中需要抽取的数据及数据结构 5.知识发现引擎 知识发现引擎 将知识库中的抽取算法提供给数据选择构件抽取的数据 6.发现评价 发现评价 有助于商业分析员筛选模式， 有助于商业分析员筛选模式，选出那些关注性的信息 7.发现描述 发现描述 发现、 发现、评价并辅助商业分析员在知识库中保存关注性发现 结果以备将来引用,并保持知识发现与管理人员的通信。 结果以备将来引用,并保持知识发现与管理人员的通信。
第6章现代数据挖掘技术与发展
本章学习目标： (1) 通过知识挖掘系统的体系结构的学习掌握知识发现的定义和知识 发现系统的结构 。 (2) 通过现代挖掘技术及应用的学习掌握规则型、神经网络型、遗传 算法型、粗糙集型和决策树型现代挖掘技术。 (3) 通过知识发现工具与应用的学习掌握知识挖掘工具的系统结构、 运用中的问题和知识挖掘的价值。 (4) 经过数据挖掘技术的发展的学习了解文本挖掘、Web挖掘、可视 化数据挖掘、空间数据挖掘和分布式数据挖掘。
6.2现代挖掘技术及应用 6.2现代挖掘技术及应用
6.2.1 规则型现代挖掘技术及应用 1.关联规则的基本概念 关联规则的基本概念
buys(x,“computer”)=>buys(x,“finacial_management_software”) age(“30..40”)∧income(“42000..50000”)=>buys(x,“high_resolution_TV”) 布尔关联规则 量化关联规则 单维规则 多维关联 多层关联规则 单层关联规则 age(“30..40”)=>buys(x,“IBM computer”) (6.3) age(“30..40”)=>buys(x,“computer”) (6.4)
6.2.3 遗传算法型现代挖掘率和覆盖率
规划覆盖 率 覆盖率高 覆盖率低 正确率低 规划很少是正确的，但可以 使用 规划很少是正确的，一般不 被使用 正确率高 规划多数情况下是正确的，而且 可以经常使用 规划多数情况下是正确的，但很 少被使用
规划覆盖率和正确率的平衡
6.2.2 神经网络型现代挖掘技术
1.神经网络及其学习方法 神经网络及其学习方法
神经网络的工作过程主要分两个阶段：学习阶段和工作阶段。 神经网络的工作过程主要分两个阶段：学习阶段和工作阶段。 学习方式则有三种：有教师（监督）学习、无教师（监督） 学习方式则有三种：有教师（监督）学习、无教师（监督）学 习和强化学习。 习和强化学习。
6.2.2 神经网络型现代挖掘技术
2.基于神经网络的数据挖掘 基于神经网络的数据挖掘 （1）基于自组织神经网络的数据挖掘技术 一种无教师学习过程 、 可以提取一组数据中的重要特征或某 种内在知识 （2）模糊神经网络类型数据挖掘技术 模糊BP网络、模糊Kohonen聚类网络、模糊推理网络、模糊ART BP网络 Kohonen聚类网络 模糊BP网络、模糊Kohonen聚类网络、模糊推理网络、模糊ART 模型等 模糊BP网络中， BP网络中 模糊BP网络中，样本的希望输出值改为样本相对各类的希望隶 属度 输出表达方面实现了模糊化， 输出表达方面实现了模糊化，而且将样本的隶属度引入了权系 数的修正规则中，使权系数的修正规则也实现了模糊化。 数的修正规则中，使权系数的修正规则也实现了模糊化。
步算法较为简单。如果只考虑规则的右边只有一项的情况， 第2 步算法较为简单。如果只考虑规则的右边只有一项的情况，给定一个频 那么只有包含集合{ 集 Y=I1,I2,I3,…,Ik,k 2,Ij∈I ， 那么只有包含集合 { I1,I2,I3,…,Ik} 中 ,I ,k≥2 ,I 的项的规则最多有k 这种规则形如I 的项的规则最多有k条。这种规则形如I1,I2,I3,…Ii-1,Ii+1…,Ik→Ii,。这 I ,I I i+1 些规则置信度必须大于用户给定的最小置信度。 些规则置信度必须大于用户给定的最小置信度。
数据库D 事务标识 A1 A2 A3 A4 项集 1,3,4 项集 扫 描 数 {1} 据 2,3,5 {2} 库D 1,2,3,5 {3} 2,5 {4} {5} 由L1产生C2 项集 {1,2} {1,3} {1,5} {2,3} {2,5} {3,5} 由L2产生C3 项集 {2,3,5} 项集 扫 描 数 {1,2} 据 {1,3} 库D {1,5} {2,3} {2,5} {3,5} 扫描数据 库D C2 支持度 1 2 1 2 3 2