特征选择常用算法综述

2.2.2 启发式搜索
(1)序列前向选择( SFS , Sequential Forward Selection )
算法描述：特征子集X从空集开始，每次选择一个特征x加入特征子集X，使得特征函 数J( X)最优。简单说就是，每次都选择一个使得评价函数的取值达到最优的特征加入，其实就 是一种简单的贪心算法。
23 4 5678
搜索
posts ­ 19, comments ­ 255, trackbacks ­ 0, articles ­ 0 特征选择常用算法综述 Posted on 2011­01­02 14:40 苍梧 阅读(36823) 评论(12) 编辑 收藏
1 综述
(1) 什么是特征选择 特征选择 ( Feature Selection )也称特征子集选择( Feature Subset Selection , FSS ) ，或属性选
<1>序列浮动前向选择( SFFS , Sequential Floating Forward Selection )
算法描述：从空集开始，每轮在未选择的特征中选择一个子集x，使加入子集x后 评价函数达到最优，然后在已选择的特征中选择子集z，使剔除子集z后评价函数达到最优。
<2>序列浮动后向选择( SFBS , Sequential Floating Backward Selection )
­­chrischeng
2. Re:那些优雅的数据结构 (1) : BloomFilter——大规 模数据处理利器
你好，请问一下表1D1 D2 D3 M11 2 3 1002 3 1 503 2 1 80表2d1 d2 d3 m1 flag2 3 1 60 U1 2 3100 D4 3 4 30 I 我......
择( Attribute Selection ) ，是指从全部特征中选取一个特征子集，使构造出来的模型更好。
(2) 为什么要做特征选择 在机器学习的实际应用中，特征数量往往较多，其中可能存在不相关的特征，特征之间也
可能存在相互依赖，容易导致如下的后果： 特征个数越多，分析特征、训练模型所需的时间就越长。 特征个数越多，容易引起“维度灾难”，模型也会越复杂，其推广能力会下降。
随笔分类(19)
Linux相关(5) 多媒体·信号处理(2) 机器学习(5) 数据结构·算法(4)
2.1 特征选择的一般过程
特征选择的一般过程可用图1表示。首先从特征全集中产生出一个特征子集，然后用评价函 数对该特征子集进行评价，评价的结果与停止准则进行比较，若评价结果比停止准则好就停 止，否则就继续产生下一组特征子集，继续进行特征选择。选出来的特征子集一般还要验证其 有效性。
算法评价：缺点是只能加入特征而不能去除特征。例如：特征A完全依赖于特征B 与C，可以认为如果加入了特征B与C则A就是多余的。假设序列前向选择算法首先将A加入特 征集，然后又将B与C加入，那么特征子集中就包含了多余的特征A。
(2)序列后向选择( SBS , Sequential Backward Selection )
(3) 停止准则( Stopping Criterion ) 停止准则是与评价函数相关的，一般是一个阈值，当评价函数值达到这个阈值后就可停
止搜索。
(4) 验证过程( Validation Procedure )
数学·趣题(3)
在验证数据集上验证选出来的特征子集的有效性。
随笔档案(19)
( 2) 距离 (Distance Metrics ) 运用距离度量进行特征选择是基于这样的假设：好的特征子集应该使得属于同一类的样
遗传算法可参考 遗传算法入门 。
算法描述：首先随机产生一批特征子集，并用评价函数给这些特征子集评分，然后通 过交叉、突变等操作繁殖出下一代的特征子集，并且评分越高的特征子集被选中参加繁殖的概 率越高。这样经过N代的繁殖和优胜劣汰后，种群中就可能产生了评价函数值最高的特征子 集。
随机算法的共同缺点：依赖于随机因素，有实验结果难以重现。
算法描述：从特征全集O开始，每次从特征集O中剔除一个特征x，使得剔除特征x后 评价函数值达到最优。
算法评价：序列后向选择与序列前向选择正好相反，它的缺点是特征只能去除不能加 入。
另外，SFS与SBS都属于贪心算法，容易陷入局部最优值。
(3) 双向搜索( BDS , Bidirectional Search )
最新随笔
1. Let’s Play Games! 2. 机器学习中的相似性度量 3. 神经网络编程入门 4. MPEG­7实例入门 5. 那些优雅的数据结构(1) : BloomFilter——大规模数据 处理利器 6. 特征选择常用算法综述 7. 遗传算法入门 8. 二进制与三进制的那些趣 题 9. 色彩学基础知识 10. 大白话解析模拟退火算 法
算法描述：与SFFS类似，不同之处在于SFBS是从全集开始，每轮先剔除特征， 然后加入特征。
算法评价：序列浮动选择结合了序列前向选择、序列后向选择、增L去R选择的特 点，并弥补了它们的缺点。
(6) 决策树( Decision Tree Method , DTM) 算法描述：在训练样本集上运行C4.5或其他决策树生成算法，待决策树充分生长后，再
综上所述，特征选择过程一般包括产生过程，评价函数，停止准则，验证过程，这4个部 分。
(1) 产生过程( Generation Procedure ) 产生过程是搜索特征子集的过程，负责为评价函数提供特征子集。搜索特征子集的过程
有多种，将在2.2小节展开介绍。
(2) 评价函数( Evaluation Function ) 评价函数是评价一个特征子集好坏程度的一个准则。评价函数将在2.3小节展开介绍。
导航
博客园 首页 新随笔 联系
订阅 管理
公告
昵称： 苍梧 园龄： 6年2个月 粉丝： 573 关注： 2 +加关注
<
2015年7月
>
日一 二 三四五六
28 29 30 1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31 1
­­apchy09
3. Re:遗传算法入门
写的太好了，通俗易懂
­­猛龙过蒋
4. Re:大白话解析模拟退火 算法
真心感谢额，好文
­­XU東—昇
5. Re:神经网络编程入门
神经网选择的过程 ( M. Dash and H. Liu 1997 )
2.2 产生过程
产生过程是搜索特征子空间的过程。搜索的算法分为完全搜索(Complete)，启发式搜索 (Heuristic)，随机搜索(Random) 3大类，如图2所示。
特征选择能剔除不相关(irrelevant)或亢余(redundant )的特征，从而达到减少特征个数，提 高模型精确度，减少运行时间的目的。另一方面，选取出真正相关的特征简化了模型，使研究 人员易于理解数据产生的过程。
找找看 谷歌搜索
2 特征选择过程
常用链接
我的随笔 我的评论 我的参与 最新评论 我的标签
在树上运行剪枝算法。则最终决策树各分支处的特征就是选出来的特征子集了。决策树方法一 般使用信息增益作为评价函数。
2.2.3 随机算法
(1) 随机产生序列选择算法(RGSS, Random Generation plus Sequential Selection) 算法描述：随机产生一个特征子集，然后在该子集上执行SFS与SBS算法。 算法评价：可作为SFS与SBS的补充，用于跳出局部最优值。
图4. Wrapper原理 (Ricardo Gutierrez­Osuna 2008 )
下面简单介绍常见的评价函数。
(1) 相关性( Correlation) 运用相关性来度量特征子集的好坏是基于这样一个假设：好的特征子集所包含的特征应
该是与分类的相关度较高（相关度高），而特征之间相关度较低的（亢余度低）。 可以使用线性相关系数(correlation coefficient) 来衡量向量之间线性相关度。
2.3 评价函数
评价函数的作用是评价产生过程所提供的特征子集的好坏。 评价函数根据其工作原理，主要分为筛选器(Filter)、封装器( Wrapper )两大类。 筛选器通过分析特征子集内部的特点来衡量其好坏。筛选器一般用作预处理，与分类器的 选择无关。筛选器的原理如下图3：
图3. Filter原理(Ricardo Gutierrez­Osuna 2008 ) 封装器实质上是一个分类器，封装器用选取的特征子集对样本集进行分类，分类的精度作 为衡量特征子集好坏的标准。封装器的原理如图4所示。
算法描述：广度优先遍历特征子空间。
算法评价：枚举了所有的特征组合，属于穷举搜索，时间复杂度是O(2n)，实用性不 高。
(2)分支限界搜索( Branch and Bound )
算法描述：在穷举搜索的基础上加入分支限界。例如：若断定某些分支不可能搜索出比 当前找到的最优解更优的解，则可以剪掉这些分支。
2011年3月 (3) 2011年1月 (3) 2010年12月 (4) 2010年11月 (2) 2010年8月 (1) 2010年7月 (2) 2010年6月 (1) 2010年5月 (1) 2009年8月 (1) 2009年5月 (1)
最新评论
1. Re:大白话解析模拟退火 算法
从POJ跳过来的~感谢您的分 享
算法评价：增L去R选择算法结合了序列前向选择与序列后向选择思想， L与R的选择 是算法的关键。
(5) 序列浮动选择( Sequential Floating Selection ) 算法描述：序列浮动选择由增L去R选择算法发展而来，该算法与增L去R选择算法的
不同之处在于：序列浮动选择的L与R不是固定的，而是“浮动”的，也就是会变化的。 序列浮动选择根据搜索方向的不同，有以下两种变种。
图2. 产生过程算法分类 ( M. Dash and H. Liu 1997 )
下面对常见的搜索算法进行简单介绍。
2.2.1完全搜索
完全搜索分为穷举搜索(Exhaustive)与非穷举搜索(Non­Exhaustive)两类。 (1) 广度优先搜索( Breadth First Search )
(3) 定向搜索 (Beam Search )
算法描述：首先选择N个得分最高的特征作为特征子集，将其加入一个限制最大长度的 优先队列，每次从队列中取出得分最高的子集，然后穷举向该子集加入1个特征后产生的所有 特征集，将这些特征集加入队列。
(4) 最优优先搜索 ( Best First Search ) 算法描述：与定向搜索类似，唯一的不同点是不限制优先队列的长度。
(2) 模拟退火算法( SA, Simulated Annealing ) 模拟退火算法可参考 大白话解析模拟退火算法 。 算法评价：模拟退火一定程度克服了序列搜索算法容易陷入局部最优值的缺点，但是 若最优解的区域太小（如所谓的“高尔夫球洞”地形），则模拟退火难以求解。
(3) 遗传算法( GA, Genetic Algorithms )
图2. 双向搜索 (4) 增L去R选择算法 ( LRS , Plus­L Minus­R Selection )
该算法有两种形式: <1> 算法从空集开始，每轮先加入L个特征，然后从中去除R个特征，使得评价 函数值最优。( L > R )
<2> 算法从全集开始，每轮先去除R个特征，然后加入L个特征，使得评价函数 值最优。( L < R )
算法描述：使用序列前向选择(SFS)从空集开始，同时使用序列后向选择(SBS)从全集 开始搜索，当两者搜索到一个相同的特征子集C时停止搜索。
双向搜索的出发点是
。如下图所示，O点代表搜索起点，A点代表搜索目
标。灰色的圆代表单向搜索可能的搜索范围，绿色的2个圆表示某次双向搜索的搜索范围，容
易证明绿色的面积必定要比灰色的要小。