决策树算法及应用拓展教材ppt(41张)
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(如, information gain)
停止分割的条件
一个节点上的数据都是属于同一个类别 没有属性可以再用于对数据进行分割
伪代码(Building Tree)
Procedure BuildTree(S) 用数据集S初始化根节点R 用根结点R初始化队列Q While Q is not Empty do { 取出队列Q中的第一个节点N if N 不纯 (Pure) { for 每一个属性 A 估计该节点在A上的信息增益 选出最佳的属性，将N分裂为N1、N2 } }
决策树使用: 对未知数据进行分割
按照决策树上采用的分割属性逐层往下，直到一个叶子节点
决策树算法
基本算法（贪心算法）
自上而下分而治之的方法 开始时，所有的数据都在根节点 属性都是种类字段 (如果是连续的，将其离散化) 所有记录用所选属性递归的进行分割 属性的选择是基于一个启发式规则或者一个统计的度量
属性选择的统计度量
信息增益——Information gain (ID3/C4.5)
所有属性假设都是种类字段 经过修改之后可以适用于数值字段
基尼指数——Gini index (IBM IntelligentMiner)
能够适用于种类和数值字段
信息增益度度量(ID3/C4.5)
任意样本分类的期望信息：
>40 medium no fair
>40 low
yes fair
>40 low
yes excellent
31…40 low
yes excellent
<=30 medium no fair
<=30 low
yes fair
>40 medium yes fair
<=30 medium yes excellent
Decision Tree (结果输出)
age?
<=30 ov30e.r.c4a0st
student?
yes
>40 credit rating?
no
yes
no
yes
excellent fair
no
yes
决策树算法及应用拓展教材(PPT41页)
决策树算法及应用拓展教材(PPT41页)
基尼指数 Gini Index (IBM
A为属性，具有V个不同的取值 信息增益：Gain(A)= I(s1,s2,……,sm) － E(A)
训练集(举例)
ID3算法
age income student credit_rating
<=30 high
no fair
<=30 high
no excellent
30…40 high
no fair
31…40 medium no excellent
31…40 来自百度文库igh
yes fair
>40 medium no excellent
buys_computer no no yes yes yes no yes no yes yes yes yes yes no
使用信息增益进行属性选择
Class P: buys_computer = “yes”
I(s1,s2,……,sm)=－∑Pi log2(pi) (i=1..m)
其中，数据集为S，m为S的分类数目， Pi
|
Si
|
|S|
Ci为某分类标号，Pi为任意样本属于Ci的概率，
si为分类Ci上的样本数 由A划分为子集的熵：
E(A)= ∑(s1j+ ……+smj)/s * I(s1j+ ……+smj)
概述(二)
捕捉新旧数据变化的目的：
挖掘出变化的趋势
例：啤酒——尿布
阻止/延缓不利变化的发生
例：金融危机——银行的信贷策略
差异挖掘算法的主要思想：
合理比较新/旧数据的挖掘结果，并清晰的 描述其变化部分
预备知识一(Building Tree)
基本思想： 用途：提取分类规则，进行分类预测
决策树算法及应用拓展教材(PPT41页)
决策树算法及应用拓展教材(PPT41页)
预备知识二(Pruning Tree)
目的：
消除决策树的过适应(OverFitting)问题 实质：消除训练集中的异常和噪声
两种方法：
先剪枝法(Public 算法) 后剪枝法(Sprint 算法)
决策树算法及应用拓展教材(PPT41页)
IntelligentMiner)
集合T包含N个类别的记录，那么其Gini指标就是
pj 类别j出现的频率
gini(T ) 1
n
p2j
j 1
如果集合T分成两部分 N1 and N2 。那么这个分割的
Gini就是
ginisplit
(T
)
N1 N
gini(T
1)
N2 N
gini(T
2)
提供最小Ginisplit 就被选择作为分割的标准(对于每个 属性都要遍历所有可以的分割方法).
决策树算法及应用拓展
内容简介：
概述 预备知识
决策树生成(Building Decision Tree) 决策树剪枝(Pruning Decision Tree)
捕捉变化数据的挖掘方法 小结
概述(一)
传统挖掘方法的局限性
只重视从数据库中提取规则，忽视了库中 数据的变化
挖掘所用的数据来自稳定的环境，人为干 预较少
Class N: buys_computer = “no”
E(age) 5 I (2,3) 4 I (4,0)
14
14
5 I (3,2) 0.971 14
Hence
I(p, n) = I(9, 5) =0.940 Gain(age) I ( p, n) E(age)
Compute the entropy for age:
input 判定树分类算法 output 训练集
决策树
使用决策树进行分类
决策树
一个树性的结构 内部节点上选用一个属性进行分割 每个分叉都是分割的一个部分 叶子节点表示一个分布
决策树生成算法分成两个步骤
树的生成 开始，数据都在根节点 递归的进行数据分片
树的修剪 去掉一些可能是噪音或者异常的数据
age pi
<=30 2
30…40 4
>40
3
ni I(pi, ni) 3 0.971 00 2 0.971
Similarly
Gain(income) 0.029 Gain(student) 0.151 Gain(credit _ rating) 0.048
决策树算法及应用拓展教材(PPT41页)
停止分割的条件
一个节点上的数据都是属于同一个类别 没有属性可以再用于对数据进行分割
伪代码(Building Tree)
Procedure BuildTree(S) 用数据集S初始化根节点R 用根结点R初始化队列Q While Q is not Empty do { 取出队列Q中的第一个节点N if N 不纯 (Pure) { for 每一个属性 A 估计该节点在A上的信息增益 选出最佳的属性，将N分裂为N1、N2 } }
决策树使用: 对未知数据进行分割
按照决策树上采用的分割属性逐层往下，直到一个叶子节点
决策树算法
基本算法（贪心算法）
自上而下分而治之的方法 开始时，所有的数据都在根节点 属性都是种类字段 (如果是连续的，将其离散化) 所有记录用所选属性递归的进行分割 属性的选择是基于一个启发式规则或者一个统计的度量
属性选择的统计度量
信息增益——Information gain (ID3/C4.5)
所有属性假设都是种类字段 经过修改之后可以适用于数值字段
基尼指数——Gini index (IBM IntelligentMiner)
能够适用于种类和数值字段
信息增益度度量(ID3/C4.5)
任意样本分类的期望信息：
>40 medium no fair
>40 low
yes fair
>40 low
yes excellent
31…40 low
yes excellent
<=30 medium no fair
<=30 low
yes fair
>40 medium yes fair
<=30 medium yes excellent
Decision Tree (结果输出)
age?
<=30 ov30e.r.c4a0st
student?
yes
>40 credit rating?
no
yes
no
yes
excellent fair
no
yes
决策树算法及应用拓展教材(PPT41页)
决策树算法及应用拓展教材(PPT41页)
基尼指数 Gini Index (IBM
A为属性，具有V个不同的取值 信息增益：Gain(A)= I(s1,s2,……,sm) － E(A)
训练集(举例)
ID3算法
age income student credit_rating
<=30 high
no fair
<=30 high
no excellent
30…40 high
no fair
31…40 medium no excellent
31…40 来自百度文库igh
yes fair
>40 medium no excellent
buys_computer no no yes yes yes no yes no yes yes yes yes yes no
使用信息增益进行属性选择
Class P: buys_computer = “yes”
I(s1,s2,……,sm)=－∑Pi log2(pi) (i=1..m)
其中，数据集为S，m为S的分类数目， Pi
|
Si
|
|S|
Ci为某分类标号，Pi为任意样本属于Ci的概率，
si为分类Ci上的样本数 由A划分为子集的熵：
E(A)= ∑(s1j+ ……+smj)/s * I(s1j+ ……+smj)
概述(二)
捕捉新旧数据变化的目的：
挖掘出变化的趋势
例：啤酒——尿布
阻止/延缓不利变化的发生
例：金融危机——银行的信贷策略
差异挖掘算法的主要思想：
合理比较新/旧数据的挖掘结果，并清晰的 描述其变化部分
预备知识一(Building Tree)
基本思想： 用途：提取分类规则，进行分类预测
决策树算法及应用拓展教材(PPT41页)
决策树算法及应用拓展教材(PPT41页)
预备知识二(Pruning Tree)
目的：
消除决策树的过适应(OverFitting)问题 实质：消除训练集中的异常和噪声
两种方法：
先剪枝法(Public 算法) 后剪枝法(Sprint 算法)
决策树算法及应用拓展教材(PPT41页)
IntelligentMiner)
集合T包含N个类别的记录，那么其Gini指标就是
pj 类别j出现的频率
gini(T ) 1
n
p2j
j 1
如果集合T分成两部分 N1 and N2 。那么这个分割的
Gini就是
ginisplit
(T
)
N1 N
gini(T
1)
N2 N
gini(T
2)
提供最小Ginisplit 就被选择作为分割的标准(对于每个 属性都要遍历所有可以的分割方法).
决策树算法及应用拓展
内容简介：
概述 预备知识
决策树生成(Building Decision Tree) 决策树剪枝(Pruning Decision Tree)
捕捉变化数据的挖掘方法 小结
概述(一)
传统挖掘方法的局限性
只重视从数据库中提取规则，忽视了库中 数据的变化
挖掘所用的数据来自稳定的环境，人为干 预较少
Class N: buys_computer = “no”
E(age) 5 I (2,3) 4 I (4,0)
14
14
5 I (3,2) 0.971 14
Hence
I(p, n) = I(9, 5) =0.940 Gain(age) I ( p, n) E(age)
Compute the entropy for age:
input 判定树分类算法 output 训练集
决策树
使用决策树进行分类
决策树
一个树性的结构 内部节点上选用一个属性进行分割 每个分叉都是分割的一个部分 叶子节点表示一个分布
决策树生成算法分成两个步骤
树的生成 开始，数据都在根节点 递归的进行数据分片
树的修剪 去掉一些可能是噪音或者异常的数据
age pi
<=30 2
30…40 4
>40
3
ni I(pi, ni) 3 0.971 00 2 0.971
Similarly
Gain(income) 0.029 Gain(student) 0.151 Gain(credit _ rating) 0.048
决策树算法及应用拓展教材(PPT41页)