粒子群优化算法及其应用研究

摘要

在智能领域，大部分问题都可以归结为优化问题。常用的经典优化算法都对问题有一定的约束条件，如要求优化函数可微等，仿生算法是一种模拟生物智能行为的优化算法，由于其几乎不存在对问题的约束，因此，粒子群优化算法在各种优化问题中得到广泛应用。

本文首先描述了基本粒子群优化算法及其改进算法的基本原理,对比分析粒子群优化算法与其他优化算法的优缺点，并对基本粒子群优化算法参数进行了简要分析。根据分析结果,研究了一种基于量子的粒子群优化算法。在标准测试函数的优化上粒子群优化算法与改进算法进行了比较,实验结果表明改进的算法在优化性能明显要优于其它算法。本文算法应用于支持向量机参数选择的优化问题上也获得了较好的性能。最后,对本文进行了简单的总结和展望。

关键词：粒子群优化算法最小二乘支持向量机参数优化适应度

目录

摘要...................................................................... I 目录....................................................................... II 1.概述. (1)

1.1引言 (1)

1.2研究背景 (1)

1.2.1人工生命计算 (1)

1.2.2 群集智能理论 (2)

1.3算法比较 (2)

1.3.1粒子群算法与遗传算法(GA)比较 (2)

1.3.2粒子群算法与蚁群算法(ACO)比较 (3)

1.4粒子群优化算法的研究现状 (4)

1.4.1理论研究现状 (4)

1.4.2应用研究现状 (5)

1.5粒子群优化算法的应用 (5)

1.5.1神经网络训练 (6)

1.5.2函数优化 (6)

1.5.3其他应用 (6)

1.5.4粒子群优化算法的工程应用概述 (6)

2.粒子群优化算法 (8)

2.1基本粒子群优化算法 (8)

2.1.1基本理论 (8)

2.1.2算法流程 (9)

2.2标准粒子群优化算法 (10)

2.2.1惯性权重 (10)

2.2.2压缩因子 (11)

2.3算法分析 (12)

2.3.1参数分析 (12)

2.3.2粒子群优化算法的特点 (14)

3.粒子群优化算法的改进 (15)

3.1粒子群优化算法存在的问题 (15)

3.2粒子群优化算法的改进分析 (15)

3.3基于量子粒子群优化(QPSO)算法 (17)

3.3.1 QPSO算法的优点 (17)

3.3.2 基于MATLAB的仿真 (18)

3.4 PSO仿真 (19)

3.4.1 标准测试函数 (19)

3.4.2 试验参数设置 (20)

3.5试验结果与分析 (21)

4.粒子群优化算法在支持向量机的参数优化中的应用 (22)

4.1支持向量机 (22)

4.2最小二乘支持向量机原理 (22)

4.3基于粒子群算法的最小二乘支持向量机的参数优化方法 (23)

4.4 仿真 (24)

4.4.1仿真设定 (24)

4.4.2仿真结果 (24)

4.4.3结果分析 (25)

5.总结与展望 (26)

5.1 总结 (26)

5.2展望 (26)

致谢 (28)

参考文献 (29)

Abstract (30)

附录 (31)

PSO程序 (31)

LSSVM程序 (35)

1.概述

1.1引言

最优化问题是在满足一定约束条件下，寻找一组参数值，使得系统的某些性能指标达到最大或者最小。它广泛的存在于农业，国防，工程，交通，金融，能源，通信，材料等诸多领域。最优化技术在上述领域的应用已经产生了巨大的经济效益和社会效益。国内外的实践证明，在同样条件下，经过优化技术的处理，对系统效率的提高，能耗的降低，资源的合理利用及经济效益提高均有显著的效果，而且随着处理对象规模的增大，这种效果也更加显著。但随着处理对象规模的增大，优化问题也越来越复杂，而经典的优化技术对问题的约束比较大，如梯度下降法要求优化函数是可导等，因此，对于新型优化算法的研究具有重要的意义[1]。

1.2研究背景

1.2.1人工生命计算

人们从生命现象中得到启示，发明了许多智能的优化方法来解决复杂优化问题。现在已有很多源于生物现象的计算技巧。例如，人工免疫模拟生物免疫系统的学习和认知功能，人工神经网络是简化的大脑模型, 遗传算法是模拟基因进化的过程。在计算智能(computational intelligence)领域有两种基于群体智能swarm intelligence的算法，粒子群优化算法(particle swarm optimization)和蚁群算法(ant colony optimization)。蚁群优化算法模拟了蚂蚁群体在路径选择和信息传递方面的行为，而粒子群优化算法模拟群居动物觅食迁徙等群体活动中个体与群体协调合作的工作过程。这类借鉴了模拟生命系统行为功能和特性的科学计算方法称为人工生命计算。人工生命计算包括两方面的内容，研究如何利用计算技术研究生物现象和研究如何利用生物技术研究计算问题。人工神经网络，粒子群优化算法，遗传算法，蚁群优化算法等都属于人工生命计算的范畴[2]。

本文详细介绍的粒子群优化算法是其中的一种新兴计算方法。它同遗传算法类似，同属随机迭代优化工具。同遗传算法等其他人工生命计算相比，粒子群算法概念简单，容易实现，调节参数较少。目前粒子群算法越来越引起人们的关注。