决策树算法的研究及实例分析

合集下载

相关主题

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

分类对象：在程序中输入的数据或称训练集（ｔｒａｉｎｉｎｇｓｅｔ）样本，是由每个包含若干个属性（ａｔｔｒｉｂｕｔｅ）的数据库所记录（ｒｅｃｏｒｄ）组成的一个特征向趋训练集中的每条记录还必须由系统的输入一个特定的类标签（ｃｌａｓｓｌａｂｅ１）与之相对应的．如一个样本向量（，，， …，；Ｃ）的形式中，表示其中属性值，Ｃ表示它的类别．分类的评价方法：
ｃｏｎｓｕｍｉｎｇ．
Ｋｅｙｗｏｒｄｓ：ｄｅｃｉｓｉｏｎｔｒｅｅａｌｇｏｉｔｒｈｍ；ＩＤ３ａｌｇｏｉｔｒｈｍ；ｃｏｍｐｒｅｈｅｎｓｉｖｅｅｖａｌｕａｔｉｏｎ；ｃｌａｓｓｉｉｃｆａｔｉｏｎａｎｄｐｒｅｄｉｃｔｉｏｎ
ｉｎ — ｄｅｐｔｈｒｅｓｅａｒｃｈｉｓｃｏｎｄｕｃｔｅｄｉｎｔｏＩＤ３ａｌｇｏｒｉｔｈｍ．Ｆｉｎａｌｌｙ，ｔｈｉｓｌｇａｏｒｉｔｈｍｏｆｄｅｃｉｓｉｏｎｔｒｅｅｉｓｕｓｅｄｔｏｃｏｍｐｒｅｈｅｎｓｉｖｅｌｙｅｖａｌｕａｔｅｓｔｕｄｅｎｔｓ ’ ｐｅｒｆｏｒｍａｎｃｅ．ＩＤ３ｌｇａｏｒｉｔｈｍ，ｈｏｗｅｖｅｒ，ｈａｓｉｔｓｄｉｓａｄｖａｎｔａｇｅｓ，ｆｏｒｅｘｍｐｌｅ，ｃｏｍｐｌｅｘｃａｌｃｕｌａｔｉｏｎａｎｄｔｉｍｅ —
ｃｏｎｃｅｐｔｓａｓｉｎｆｏｒｍａｔｉｏｎｇａｉｎ，ｔｏｔａｌｓｙｓｔｅｍｅｎｔｒｏｐｙ，ａｎｄｉｎｆｏｒｍａｔｉｏｎａｌｅｎｔｒｏｐｙ，ａｓｗｅｌｌａｓｔｈｅｃｏｍｐｕｔａｔｉｏｎａｌｏｒｆｍｕｌａ．Ａｎｄ
Ａｂｓｔｒａｃｔ：Ｄｅｃｉｓｉｏｎｔｒｅｅａｌｇｏｒｉｔｈｍｉｓｖｉｅｗｅｄａｓｏｎｅｏｆｔｈｅｃｏｒｅｔｅｃｈｎｉｃｌａａｌｇｏｒｉｔｈｍｓｏｆｃｌａｓｓｉｉｆｃａｔｉｏｎａｎｄｐｒｅｄｉｃｔｉｏｎｗｈｉｃｈｉｓ
摘要：分类与预测是数据挖掘技术中的一个重要研究领域．而决策树算法又是分类与预测的核心技术算法之一．描
述ＩＤ３的主要算法，介绍信息增益、系统总熵和信息熵的概念及其计算公式；然后对ＩＤ３算法进行了深入地研究与分析；最后把决策树中的ＩＤ３算法运用在学生综合测评中．ＩＤ３算法最大的缺点是运算复杂，而且要花费较多的时间．关键词：决策树算法；ＩＤ３算法；综合评价；分类与预测
第１１卷第３期２０１３年９月
南京工程学院学报（自然科学版）
ＪｏｕｒｎａｌｏｆＮａｍｉｎｇＩｎｓｔｉｔｕｔｅｏｆＴｅｃｈｎｏｌｏｇｙ（ＮａｔｕｒｌａＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）
Ｖｏ１．１１，Ｎｏ．３
Ｓｅｐ．，２０１３
文章编号：１６７２— ２５５８（２０１３）０３— ００５８— ０４
决策树算法的研究及实例分析
周桂如
（福建船政交通职业学院公共教学部，福建福州３ｓｉｄｅｒｅｄａｋｅｙａｒｅａｉｎｄａｔａｍｉｎｉｎｇｔｅｃｈｎｏｌｏｇｙ．ＴｈｉｓｐａｐｅｒｄｅｓｃｒｉｂｅｓｔｈｅｍａｊｏｒａｌｇｏｉｒｔｈｍｏｆＩＤ３ａｎｄｉｎｔｒｏｄｕｃｅｓｓｕｃｈ
中图分类号：ＴＰＩ８１
ＲｅｓｅａｒｃｈｉｎｔｏＤｅｃｉｓｉｏｎＴｒｅｅＡｌｇｏｒｉｔｈｍａｎｄＣａｓｅＳｔｕｄｉｅｓ
ＺＨ０ＵＧｕｉ — ｒｕ
（Ｄｅｐｔ．ｏｆＰｕｂｌｉｃＣｏｕｒｓｅｓＴｅａｃｈｉｎｇ，ＦｕｊｉａｎＣｈｕａｎｚｈｅｎｇＣｏｍｍｕｎｉｃａｔｉｏｎｓＣｏｌｌｅｇｅ，Ｆｕｚｈｏｕ３５０００７，Ｃｈｉｎａ）