一种改进的基于粗糙集的决策树算法

法。该算法通过将计算属性相对于划分 的重要度作为选 择扩展 属性根 结点 的标 准 ， 递９ ３ － 地 生成决策 树， 可 以克服 Ｉ Ｄ ３算法偏 向于选 择取值 较多的属性的不足。
【 关键 词】 粗糙集 ； 属性重要度 ； 决策树
Ｔｈｅ Ａｐ ｐｌ ｉ ｃ ａ ｔ ｉ ｏ ｎ ｏ ｆ Ａｔ ｔ ｒ ｉ ｂ ｕｔ ｅ Ｒｅ ｄ ｕ ｃ ｔ ｉ ｏ ｎ Ｂａ ｓ ｅ ｄ ｏ ｎ Ｒｏ ｕ ｇ ｈ Ｓ ｅ ｔ ｉ ｎ Ｈｉ ｇ ｈ ｅ ｒ Ｅｄ ｕ ｃ ａ ｔ ｉ ｏ ｎ Ａｓ ｓ ｅ ｓ ｓ ｍｅ ｎ ｔ
扩展属性根结点的标准 ， 并递归地生成决策树。该
算法 可 以克 服 Ｉ Ｄ ３算 法 偏 向 于 选 择 取 值 较 多 的属
性 的不 足 。
１ 粗糙集理论相关概念
定义 １ 一个 信息 表 的知识 表达 系统 Ｓ可 表示
为： Ｓ ＝＜ Ｕ， Ｒ， Ｖ ， ｆ＞。 其中 ： 是对象集合 ， 也
Ｊ ｕ ｎ． ２ ０１ ３
Ｖｏ １ ． １ ３ Ｎｏ ． ３
第１ ３ 卷 第 ３期
一
种 改进 的基 于粗 糙 集 的决 策 树 算 法
吴 学辉
（ 运城学院 ， 山西 运 城 ０ ４ ４ ０ ０ ０ ）
【 摘
要 】 将数据挖掘 中的决策树与粗糙 集理论 进行 了有机 结合 ， 提 出了一种基 于粗糙 集技 术 的决 策树 构造 算
称 为论 域 ， ＝Ｃ Ｕ Ｄ是 属性集 合 ， 子集 ｃ称 为条 件 属性 ， 子 集 Ｄ称 为结果 属性集 ， ＝Ｕ 是 属性
ｒ ∈ Ｒ
差， 难 以发现有用 的规则。将粗糙 集与决策树结合 起来 ， 首先 ， 利用粗糙集进行属性约简 ， 去除冗余属
性， 然后 ， 利用决策树方法构建决策树 ， 产生分类规
０ 引 言
粗糙集理论作为处理各种不完备信息的有效工
具， 一方 面 由于它 的数 学 基础 成 熟 且 不 需 要先 验 知
本文 以粗糙 集 和 数 据挖 掘 理 论 为 出发点 ， 将数 据挖 掘 中的决 策树 技术 与粗糙 集 理论进 行 了有机 的
结合 ， 提出了一种基于粗糙集技术的决策树算法 ， 该
算 法 通过将 计算 属性 相对 于划 分 的重要 度作 为选 择
识； 另一方面在于它的易用性。粗糙集在消除冗余
信息 、 处 理 大数据 集等 方 面也有 其特 殊 的优势 ， 所 以 应 用于数 据 挖掘 阶段 的数据 预处 理 、 属性 约简 等 ， 但 是 它 的分 类 缺乏交 互 验证 功能 ， 因此 ， 分类 结果 不够 稳定 ， 精 度也 不 高 。 ＿ １ 决 策 树 方法 具 有 分类 精 度 高 、 生成 的模 式 简单 、 对 噪声 数据 有很 好 的健壮 性 ， 但是 当数 据集 中的属性 过 多 时 ， 生 成 的 决 策树 结 构 性 较
２ ０ １ ３ 年 ６ 月
廊 坊师范学院学报（ 自然科学版 ）
Ｊ ｏ ｕ ｒ ｎ ａ ｌ ｏ ｆ Ｌ ａ ｎ ｇ ｆ ａ ｎ ｇ Ｔ ｅ ａ ｃ ｈ ｅ ｒ ｓ Ｃ ｏ Ｈ ｅ ｇ ｅ （ Ｎ ａ ｔ ｕ ｒ ｌ ａ Ｓ ｃ ｉ ｅ ｎ ｃ ｅ Ｅ ｄ ｉ ｔ ｉ ｏ ｎ ）
ｘｕ ｅ － ｈ ｕ
【 Ａ ｂ ｓ ｔ ｒ ａ ｃ ｔ 】 Ａ ｔ ｅ ｍ ｏ ｔ ｈ ｏ ｄ ｔ ｏ ｄ ｅ ｓ ｉ ｇ ｎ ｔ ｈ ｅ ｄ ｅ ｃ ｉ ｓ ｉ ｏ ｎ ｔ ｒ ｅ ｅ ｂ ａ ｓ ｅ ｄ ｏ ｎ ｒ ｏ ｕ ｇ ｈ ｓ ｅ ｔ ｉ ｓ ｐ ｒ ｏ ｐ ｏ ｓ ｅ ｄ ｂ ｙ ｃ ｏ ｍ ｂ ｉ ｎ ａ ｔ ｉ ｎ ｇ ｒ ｏ ｕ ｇ ｈ ｓ ｅ ｔ ａ ｎ ｄ ｄ ｅ ｃ ｉ ｓ ｉ ｏ ｎ
ｖ ａ ｌ ｕ ｅ ｓ ．
【 Ｋ ｅ ｙ ｗ ｏ ｒ ｄ ｓ 】 ｄ ｅ ｃ ｉ ｓ ｉ ｏ ｎ ｔ ｒ ｅ ｅ ； ｒ ｏ ｕ ｇ ｈ ｓ ｅ ｔ ； ａ ｔ ｔ ｒ ｉ ｂ ｕ ｔ ｅ ｉ ｍ ｐ ｏ ｒ ｔ ａ ｎ ｃ ｅ
［ 中图分类号 ］Ｔ Ｐ １ ８ ［ 文献标 识码 ］Ａ ［ 文章编号］１ ６ ７ ４—３Hale Waihona Puke Baidu２ ２ ９ （ ２ ０ １ ３ ） ０ ３— ０ ０ ３ ３ —０ ４
ｔ ｒ ｅ ｅ ｏ ｆ ｄ ａ ｔ ａ ｍｉ ｎ ｉ ｎ ｇ ． Ｔｈ ｉ ｓ ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ ｃ ｏ ｎ ｓ ｔ ｒ ｕ ｃ ｔ ｓ ａ ｄ ｅ ｃ ｉ ｓ ｉ ｏ ｎ ｔ ｒ ｅ ｅ ｒ ｅ ｃ ｕ ｒ ｓ ｉ ｖ ｅ ｌ ｙ ｂ ｙ ｃ ｌｃ ａ ｕ ｌ ａ ｔ ｉ ｎ ｇ ｔ ｈ ｅ ｉ ｍｐ ｏ ｒ ｔ ａ ｎ ｃ ｅ ｏ ｆ ｐ ｒ ｏ ｐ ｅ ｒ ｔ ｉ ｅ ｓ ｏ ｆ ｔ ｈ ｅ
则， 最终可 以形成新 的分类方法。
取值集合 ， ， 表示属性 ｒ ∈ 的属性值范围， 即属 性 ｒ 的值域 ， 厂 ： Ｕ×Ｒ— 是一个信息函数 。 ２ ］
［ 收稿 日期］ ２ ０ １ ３ — ０ ４ — ０ ２ ［ 作者简介］ 吴学辉 （ １ ９ ７ ８ 一 ） ， 男， 硕士 ， 运城学院计算机科学与技术系讲师 ， 研究方 向 ： 数据挖掘 。
ｒ ｅ ｌ ａ ｔ ｉ ｖ ｅ ｄ ｉ ｖ ｉ ｓ ｉ ｏ ｎ． Ｔｈ ｅ ｌｇ ａ ｏ ｒ ｉ ｔ ｈ ｍ ｃ ａ ｎ ｏ ｖ ｅ ｒ ｃ ｏ ｍｅ ｓ ｏ ｍｅ ｓ ｈ ｏ ｒ ｔ ｃ ｏ ｍｉ ｎ ｇ ｓ ｏ ｆ Ｉ Ｄ３ ｌｇ ａ ｏ ｉ ｒ ｔ ｈ ｍ ｗｈ ｉ ｃ ｈ ｔ ｅ ｎ ｄ ｅ ｄ ｔ ｏ ｃ ｈ ｏ ｏ ｓ ｅ ｍｏ ｒ ｅ ｐ ｒ ｏ ｐ ｅ ｒ ｔ ｙ