融合改进遗传和人工蜂群的SVM参数优化算法
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Abstract：Aiming at the problems that genetic algorithm can’t make good use of system output information, it’s easily to fall into prematurity, and artificial bee colony algorithm is slow at the beginning of the search, this paper combines improved genetic algorithm and artificial bee colony algorithm to achieve complementary, and takes the classification accuracy of SVM test set as fitness function to propose Genetic-Artificial Bee Colony Algorithm（G-ABCA）of support vector machine parameter optimization, and compares G-ABCA with improved genetic algorithm and artificial bee colony algorithm by simulation experiment. The experiment results show that the performance of G-ABCA in support vector machine parameter optimization is better than other algorithms, G-ABCA greatly improves the classification accuracy of SVM, and it is step-by-step convergent. Key words：genetic algorithm; artificial bee colony algorithm; combination; support vector machine; parameter optimization
36 2016，52（18）
Computer Engineering and Applications 计算机工程与应用
融合改进遗传和人工蜂群的 SVM 参数优化算法
高雷阜，佟 盼
GAO Leifu, TONG Pan
辽宁工程技术大学 理学院，辽宁 阜新 123000 College of Science, Liaoning Technical University, Fuxin, Liaoning 123000, China
GAO Leifu, TONG Pan. Algorithm of SVM parameter optimization by combining improved genetic and artificial bee colony. Computer Engineering and Applications, 2016, 52（18）：36-39.
摘 要：针对遗传算法不能充分利用系统中的反馈信息，易陷入“早熟”，以及人工蜂群算法在搜索初期寻优速度慢 的问题，将改进的遗传算法与人工蜂群算法融合，实现二者互补，并将由支持向量机训练得到的测试集分类准确率 作为算法的适应度函数，提出遗传-人工蜂群算法（G-ABCA），以实现对支持向量机参数的优化选择。通过仿真实 验，将其在支持向量机参数寻优中的性能与改进的遗传算法、人工蜂群算法进行比较，实验结果表明：遗传-人工蜂 群算法有效地提高了支持向量机的分类准确率，而且算法是逐步收敛的，其表现优于其他算法。 关键词：遗传算法；人工蜂群算法；融合；支持向量机；参数优化 文献标志码：A 中图分类号：TP18 doi：10.3778/j.issn.1002-8331.1411-0111
研究表明，参数的选择对于支持向量机的求解性能 有着重要意义[2-3]。目前，将智能算法融入到 SVM 的参数 选择当中是 SVM 参数优化的主要方法，于明等人基于 Karaboga[4] 在 2005 年 提 出 的 一 种 基 于 蜜 蜂 采 蜜 的 群
Hale Waihona Puke 体 智 能 算 法 —— 人 工 蜂 群 算 法（Artificial Bee Colony Algorithm，ABCA），提出了一种新的 SVM 参数选择方 法 [5] ，但 是 该 方 法 在 搜 索 初 期 寻 优 速 度 较 慢 ，从 而 导 致 整个算法的计算时间较长。蒋华荣等人利用遗传算法 （Genetic Algorithm，GA）优化子空间，提出优化 SVM 参 数 的 GS-SVM 算 法 [6]，但 是 其 测 试 准 确 率 仅 在 少 数 实 验 数 据 集 上 优 于 其 他 算 法 ，且 不 能 充 分 利 用 系 统 的 反 馈 信 息 。 李 威 霖 等 人 利 用 粒 子 群 算 法（Particle Swarm Algorithm，PSA）优化最小二乘支持向量机参数，并将其 应用于车刀磨损量识别 。 [7] 此外，常用的智能算法还有 蚁 群 算 法（Ant Colony Algorithm，ACA）、人 工 鱼 群 算 法（Artificial Fish Swarm Algorithm，AFSA）等 。 但 是
1 引言
支持向量机（Support Vector Machine，SVM）是 1995 年由 Vapnik[1]等人提出的一种机器学习方法，该方法以 统计学习理论中的 VC 维和结构风险最小化原理为基 础 ，借 助 核 函 数 将 线 性 不 可 分 问 题 转 化 为 线 性 可 分 问 题，使问题最终转化为求解凸二次规划问题，克服了“维 数灾难”和“过学习”，在小样本、非线性以及高维模式识 别中具有突出优势，现已在诸多应用领域取得很好的效 果，成为机器学习领域的研究热点。
36 2016，52（18）
Computer Engineering and Applications 计算机工程与应用
融合改进遗传和人工蜂群的 SVM 参数优化算法
高雷阜，佟 盼
GAO Leifu, TONG Pan
辽宁工程技术大学 理学院，辽宁 阜新 123000 College of Science, Liaoning Technical University, Fuxin, Liaoning 123000, China
GAO Leifu, TONG Pan. Algorithm of SVM parameter optimization by combining improved genetic and artificial bee colony. Computer Engineering and Applications, 2016, 52（18）：36-39.
摘 要：针对遗传算法不能充分利用系统中的反馈信息，易陷入“早熟”，以及人工蜂群算法在搜索初期寻优速度慢 的问题，将改进的遗传算法与人工蜂群算法融合，实现二者互补，并将由支持向量机训练得到的测试集分类准确率 作为算法的适应度函数，提出遗传-人工蜂群算法（G-ABCA），以实现对支持向量机参数的优化选择。通过仿真实 验，将其在支持向量机参数寻优中的性能与改进的遗传算法、人工蜂群算法进行比较，实验结果表明：遗传-人工蜂 群算法有效地提高了支持向量机的分类准确率，而且算法是逐步收敛的，其表现优于其他算法。 关键词：遗传算法；人工蜂群算法；融合；支持向量机；参数优化 文献标志码：A 中图分类号：TP18 doi：10.3778/j.issn.1002-8331.1411-0111
研究表明，参数的选择对于支持向量机的求解性能 有着重要意义[2-3]。目前，将智能算法融入到 SVM 的参数 选择当中是 SVM 参数优化的主要方法，于明等人基于 Karaboga[4] 在 2005 年 提 出 的 一 种 基 于 蜜 蜂 采 蜜 的 群
Hale Waihona Puke 体 智 能 算 法 —— 人 工 蜂 群 算 法（Artificial Bee Colony Algorithm，ABCA），提出了一种新的 SVM 参数选择方 法 [5] ，但 是 该 方 法 在 搜 索 初 期 寻 优 速 度 较 慢 ，从 而 导 致 整个算法的计算时间较长。蒋华荣等人利用遗传算法 （Genetic Algorithm，GA）优化子空间，提出优化 SVM 参 数 的 GS-SVM 算 法 [6]，但 是 其 测 试 准 确 率 仅 在 少 数 实 验 数 据 集 上 优 于 其 他 算 法 ，且 不 能 充 分 利 用 系 统 的 反 馈 信 息 。 李 威 霖 等 人 利 用 粒 子 群 算 法（Particle Swarm Algorithm，PSA）优化最小二乘支持向量机参数，并将其 应用于车刀磨损量识别 。 [7] 此外，常用的智能算法还有 蚁 群 算 法（Ant Colony Algorithm，ACA）、人 工 鱼 群 算 法（Artificial Fish Swarm Algorithm，AFSA）等 。 但 是
1 引言
支持向量机（Support Vector Machine，SVM）是 1995 年由 Vapnik[1]等人提出的一种机器学习方法，该方法以 统计学习理论中的 VC 维和结构风险最小化原理为基 础 ，借 助 核 函 数 将 线 性 不 可 分 问 题 转 化 为 线 性 可 分 问 题，使问题最终转化为求解凸二次规划问题，克服了“维 数灾难”和“过学习”，在小样本、非线性以及高维模式识 别中具有突出优势，现已在诸多应用领域取得很好的效 果，成为机器学习领域的研究热点。