一种基于粗糙集启发式的特征选择算法

合集下载

相关主题

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

定义２（［可辨识矩阵）可辨识矩阵由华沙大学数学家
关键词特征选择，粗糙集理论，启发式算法，不确定性系数，互信息
ＡｖｌＦｅｔｒｅｅｔｏＨｅｉｔｃＡｌｏｉｈｓｄｎｕｈｅＮｏｅａｕｅＳｌｃｉｎｕｒｓｉｇｒｔｍＢａｅｏＲｏｇＳｔＴｈｅｒｏｙ
１
Ｉ
’Ｉ置
ｌ古
行的。
．
特征选择（ｇ属性约简）ｔ称是数据挖掘中的基本问题之
一
２粗糙集理论
粗糙集理论从集合的视角对知识进行定义，把知识看作
是关于论域的划分，而对知识进行分析和处理。从定义１］信息系统Ｌ一（Ａ，Ｆ）［５Ｕ，Ｖ，。其中Ｕ＝｛１ｚ，
。
通过对样本数据进行特征选择，以去掉不相关的和冗可
余的特征，使机器学习过程复杂度和时间降低。特征选择是根据某种标准，通过选择相关特征和丢弃不相关、冗余特征来
形成一个优化特征子集的处理过程［。特征选择也是一个搜１］索和ห้องสมุดไป่ตู้价的过程。特征选择能为特定的应用在不失去数据原
维普资讯
计算机科学２０Ｖｏ．４ｏ６０７１３Ｎ．
一
种基于粗糙集启发式的特征选择算法
梁琰何中市（重庆大学计算机学院重庆４０４）００４
摘
要
本文基于粗糙集中关于非精确集和精确集理论思想，出了一个新的特征度量指标，提即相对互信息比Ｒ，ＭＩ
ａｇｒｔｅｔｄＯｈｌｏｉｍＳｈｉｔｓｅｎｔｅＵＣＩｄｔｓｔ，ｅｐｒｍｅｔｒｓｌｓｓｏｔａａａｅｓｘｅｉｎｅｕｔｈＷｈｔＭＭ１ＵＣｅｓｂｅａｄｃｎｆｎｏｄｆａｕｅ＿ｉｆｉｌｎａｉｄａｇｏｅｔｒＳａ
由此，设计了一种基于粗糙集的启发式特征选择算法ＭＲ－。首先利用可辨识矩阵，算出条件属性相对于决策ＭＩＵＣ计属性的核，以核形成当前候选特征子集作为基准点，以最大化相对互信息和不确定性系数为原则，筛选剩余特征。通
过对比实验，结果表明，文提出的算法在多数情况下能够得到较优的特征子集，本算法是有效的，实可行的。切
ｚ，，是论域，是属性集合， … ｚ｝ＡＡ—ＲＵＤ，是条件属性Ｒ集，是决策属性集，是属性值集合，ＤＦ是Ｕ×Ａ— 的映
射。
有价值的基础上选择最小的属性子集，除不相关和冗余的去
属性；它提高了数据的质量，加快了数据挖掘的速度。特征选
ＬＩＡＮＧｎＨＥＺｏｇＳｉＹａｈｎ－ｈ
（ｌｇｆＣｍｐｕｅｃｅｃＣｏｌｅｏｅｏｔｒＳｉｎｅ，ＣｈｇｉｇＵｎｖｒｉｙ，Ｃｈｎｇｉｇ４０４ｏｎｑｎｉｅｓｔｏｑｎ００４）
ＡｂｔａｔＩｈｓｐｐｒｅｆａｕｅｍｅｓｒｍｅｔＲＭＩ（ｔｆＭｕｕｌｎｏｍａｉｎｉｒｓｎｅａｅｎｔｅｃｎｓｒｃｎｔｉａｅ．ａｎｗｅｔｒａｕｅｎＲａｉｏｔａｆｒｔ）Ｓｐｅｅｔｄｂｓｄｏｈｏ — ｏＩｏｃｐｆｒｕｈｓｔｔｅｒｂｕｅｔｉｅｎｎｅｔｉｅ．Ｔｈｎａｎｖｌｈｕｉｔｌｏｉｍ，ＭＲＭＩｅｔｏｏｇｅｈｏｙａｏｔｃｒａｎｓｔａｄｕｃｒａｎｓｔｅｏｅｅｒｓｉａｇｒｔｃｈ＿ＵＣ（ｇｒｔｍＡｌｏｉｈｂｓｄｏａｉｌｔｆＲＭＩａｄＵｎｅｔｉｔｏｆｉｉｎ）ＳｐｏｏｅｒＦｔｒｅｅｔｎｂｓｄＯｏｇｅｈ — ａｅｎＭｘｍａｉｏＲａｏｎｃｒａｎｙＣｅｆｅｔ．ｉｒｐｓｄｆｅｕｅＳｌｃｉａｅｎｒｕｈｓｔｔｅｃｏａｏｏｙＦｒｔｒ．ｉｓｌｈｒＳｏｔｉｅｙｄｓｅｎｂｅｍａｒｘａｄｆｒｄａａｄｄｔｅｔｒｕｓｔＷｉｈｔｒｉｇｙ，ｔｅＣｅｉｂａｎｄｂｉｃｒｉｌｔｉｎｃｍｅｓａｃｎｉａｅｆｕｅｓｂｅ．ｏ）ａｔｔｅｓａｔｎｈｏｎｆＣｅｈｅｔｆａｕｅｒｉｅｅｔｒｔｌＯｍａｉｚｈＲＭＩａｄＵｎｅｔｉｔｅｆｃｅｔＦｎｌｈｐｉｔｏｒ．ｔｅｒｓｅｔｒｓａｅｆｔｒｄｉｅａｉｅｙｔｘｍｉｅｂｔｏｌｖｏｎｃｒａｎｙＣｆｉｉｎ．ｉａｌｔｅｏｙ
ｓｂｅｎｍｏｔｃｓｓｕｓｔｉｓａｅ．
ＫｅｗｏｄＦｔｒｅｅｔｏｙｒｓａｅｕｅｓｌｃｉｎ，Ｒｏｇｅｈｏｙ，Ｈｅｒｓｉｌｏｉｈ，Ｕｎｅｔｉｔｏｆｉｉｎ，Ｍｕｕｌｉｆｒｔｏｕｈｓｔｔｅｒｕｉｔｃａｇｒｔｍｃｒａｎｙｃｅｆｅｔｃｔａｎｏｍａｉｎ