一种集成学习的差分进化算法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
收稿日期"0 1 8 -0 6 -0 2
基 金 项 目 ：国 家 自 然 科 学 基 金 面 上 项 目 （6177 32 10);国 家 自 然 科 学 基 金 面 上 项 目 （1775025)
作 者 简 介 :谢 宇 （977— ），男 ，安 黴 芜 湖 人 ，讲 师 ，博 士 ，主 要 从 事 模 式 识 Leabharlann Baidu 和 进 化 计 算 研 究 。 通 信 作 者 ：王 庆 龙 （968— ），男 ，安 黴 六 安 人 ，教 授 ，博 士 ，主 要 从 事 过 程 控 制 和 新 能 源 领 域 研 究 。
了优异的平均分类正确率。
关 键 词 ：集 成 学 习 ；差 分 进 化 ；进 化 计 算 ；种群规模
中 图 分 类 号 ：TP301
文 献 标 识 码 ：A
文 章 编 号 " 6 7 2 - 755X(2018)02 - 0019 - 0"
(1. Hefei
Differential Evolution Algorithm Based on Integrated Learning
谢 宇 1 2 , 王 庆 龙 ^ ，赵 春 霞 2 " ( 1 . 合 肥 学 院 电 子 信 息 与 电 气 工 程 系 ，安 黴 合 肥 230601 ( . 南 京 理 工 大 学 计 算 机 科 学 与 工 程 学 院 ，江 苏 南 京 21009")
摘 要 ：提 出 一 种 使 用 种 群 规 模 线 性 调 节 机 制 的 集 成 学 习 差 分 进 化 算 法 。该 算 法 在 每 次 迭 代 后 根 据 适 应 度 值 对
feature subs
集成学习（Ensemble Learning)是机器学习的一个重要的研究方向，它通过某种方式将一些简单的分 类器组合成一个集成学习机来解决同一个问题，以期取得比单个分类器更好的性能[1]。 有研究者使用一 组神经网络的组合来解决他们遇到的问题，实验结果表明使用这一组神经网络形成的集成，比最好的个体 神经网络的性能还要好[1]。 W ang等[2]在进化计算领域也使用了类似的集成方法，该方法叫做组合试验 向量产生策略和控制参数的差分进化算法（C〇D E) ，算法对多个策略和多个参数组合进行了集成。 在 CoDE 算法中使用的三 种 DE 策略分别是：DE/rand/1/bin、DE/rand/2/bin 和 DE/current-to-rand/1/bin。 而对于尺度因子和变异概率因子，这里选择的三 种组合分别为适合处理可分解问题的D F = 1 .0 , 0 = 0.1 ] 组合，可以保持种群多样性以及适合全局搜索的DF=1. 0 ，C r=0. 9]组合，以及可以加速种群收敛的[_F = 0. 8 ，C r=0. 2]组合。 在 CqD E 算法中，每个策略都从参数池里随机选择一组参数，用三 种不同的策略分
种 群 中 的 个 体 进 行 排 序 ，剔 除 适 应 度 最 差 的 个 体 来 改 变 种 群 规 模 （population size，N P ) & 这 使 得 个 体 的 数 量 随
着 评 估 次 数 的 增 加 而 线 性 减 小 ，有 效 提 高 了 收 敛 性 。将 该 算 法 应 用 到 测 试 函 数 集 以 及 进 行 特 征 子 集 选 择 时 获 得
this paper，which uses population scale linear regulation mechanism. After each iteration，the
individuals in the population are sorted according to the fitness value，and the worst fitness in
XIE Y u 1，，WANG Qing-long1 " ，ZHAO Chun-xia2"
University,
Hefei 230601, China; 2. Nanjing University
of Science
and Technology， Nanj
Abstract：A differential evolution (DE) algorithm based on intergrated learning is proposed in
proves the convergence. The algorithm
is applied
to
test function set and
tion，and the average classification accuracy is obtained.
Key words：integrated learning；differential evolution；evolutionary computation；population size
第 3"卷 第 2 期 2018年 6 月
金陵科技学院学报 JOURNAL OF JINLING INSTITUTE OF TECHNOLOGY
D O I：10.16515/j.cnki.32-1722/n.2018.02.0005
V ol.3"! No.2 Ju n e，2018
一种集成学习的差分进化算法
赵 春 霞 （96"— ），女 ，北 京 人 ，教 授 ，博 士 ，主 要 从 事 模 式 识 别 和 智 能 机 器 人 领 域 研 究 。
20
金陵科技学院学报
第 3"卷
别给目标向量产生一个试验向量，根据产生的试验向量的适应度值来选择一个个体进人下一次迭代。
1 LCoDE算法
c 〇d e 算法的种群规模是保持不变的，而且使用的迭代终止条件是适应度评估次数达到预先设定的
dividuals are eliminated to change the population size (NP) . This makes the number of individ
uals decrease linearly with the increase of the number of evaluations，which effectively im
基 金 项 目 ：国 家 自 然 科 学 基 金 面 上 项 目 （6177 32 10);国 家 自 然 科 学 基 金 面 上 项 目 （1775025)
作 者 简 介 :谢 宇 （977— ），男 ，安 黴 芜 湖 人 ，讲 师 ，博 士 ，主 要 从 事 模 式 识 Leabharlann Baidu 和 进 化 计 算 研 究 。 通 信 作 者 ：王 庆 龙 （968— ），男 ，安 黴 六 安 人 ，教 授 ，博 士 ，主 要 从 事 过 程 控 制 和 新 能 源 领 域 研 究 。
了优异的平均分类正确率。
关 键 词 ：集 成 学 习 ；差 分 进 化 ；进 化 计 算 ；种群规模
中 图 分 类 号 ：TP301
文 献 标 识 码 ：A
文 章 编 号 " 6 7 2 - 755X(2018)02 - 0019 - 0"
(1. Hefei
Differential Evolution Algorithm Based on Integrated Learning
谢 宇 1 2 , 王 庆 龙 ^ ，赵 春 霞 2 " ( 1 . 合 肥 学 院 电 子 信 息 与 电 气 工 程 系 ，安 黴 合 肥 230601 ( . 南 京 理 工 大 学 计 算 机 科 学 与 工 程 学 院 ，江 苏 南 京 21009")
摘 要 ：提 出 一 种 使 用 种 群 规 模 线 性 调 节 机 制 的 集 成 学 习 差 分 进 化 算 法 。该 算 法 在 每 次 迭 代 后 根 据 适 应 度 值 对
feature subs
集成学习（Ensemble Learning)是机器学习的一个重要的研究方向，它通过某种方式将一些简单的分 类器组合成一个集成学习机来解决同一个问题，以期取得比单个分类器更好的性能[1]。 有研究者使用一 组神经网络的组合来解决他们遇到的问题，实验结果表明使用这一组神经网络形成的集成，比最好的个体 神经网络的性能还要好[1]。 W ang等[2]在进化计算领域也使用了类似的集成方法，该方法叫做组合试验 向量产生策略和控制参数的差分进化算法（C〇D E) ，算法对多个策略和多个参数组合进行了集成。 在 CoDE 算法中使用的三 种 DE 策略分别是：DE/rand/1/bin、DE/rand/2/bin 和 DE/current-to-rand/1/bin。 而对于尺度因子和变异概率因子，这里选择的三 种组合分别为适合处理可分解问题的D F = 1 .0 , 0 = 0.1 ] 组合，可以保持种群多样性以及适合全局搜索的DF=1. 0 ，C r=0. 9]组合，以及可以加速种群收敛的[_F = 0. 8 ，C r=0. 2]组合。 在 CqD E 算法中，每个策略都从参数池里随机选择一组参数，用三 种不同的策略分
种 群 中 的 个 体 进 行 排 序 ，剔 除 适 应 度 最 差 的 个 体 来 改 变 种 群 规 模 （population size，N P ) & 这 使 得 个 体 的 数 量 随
着 评 估 次 数 的 增 加 而 线 性 减 小 ，有 效 提 高 了 收 敛 性 。将 该 算 法 应 用 到 测 试 函 数 集 以 及 进 行 特 征 子 集 选 择 时 获 得
this paper，which uses population scale linear regulation mechanism. After each iteration，the
individuals in the population are sorted according to the fitness value，and the worst fitness in
XIE Y u 1，，WANG Qing-long1 " ，ZHAO Chun-xia2"
University,
Hefei 230601, China; 2. Nanjing University
of Science
and Technology， Nanj
Abstract：A differential evolution (DE) algorithm based on intergrated learning is proposed in
proves the convergence. The algorithm
is applied
to
test function set and
tion，and the average classification accuracy is obtained.
Key words：integrated learning；differential evolution；evolutionary computation；population size
第 3"卷 第 2 期 2018年 6 月
金陵科技学院学报 JOURNAL OF JINLING INSTITUTE OF TECHNOLOGY
D O I：10.16515/j.cnki.32-1722/n.2018.02.0005
V ol.3"! No.2 Ju n e，2018
一种集成学习的差分进化算法
赵 春 霞 （96"— ），女 ，北 京 人 ，教 授 ，博 士 ，主 要 从 事 模 式 识 别 和 智 能 机 器 人 领 域 研 究 。
20
金陵科技学院学报
第 3"卷
别给目标向量产生一个试验向量，根据产生的试验向量的适应度值来选择一个个体进人下一次迭代。
1 LCoDE算法
c 〇d e 算法的种群规模是保持不变的，而且使用的迭代终止条件是适应度评估次数达到预先设定的
dividuals are eliminated to change the population size (NP) . This makes the number of individ
uals decrease linearly with the increase of the number of evaluations，which effectively im