基于粒子群的SVM分类算法
基于粒子群算法的煤气化过程LS_SVM预测模型
基于粒子群算法的煤气化过程LS_SVM预测模型谢文君;曹根牛;李怀毅【摘要】针对最小二乘支持向量机参数选择对模型性能的重要影响,并且以往的参数优选方法效果差且耗时长这一问题,提出基于粒子群算法优化最小二乘支持向量机预测模型.该模型用最小二乘支持向量机理论建立,用粒子群算法优化模型参数.论文将此模型用于预测评价固定床煤气化气化效果的三个主要性能指标(气体热值、气化效率、气体产率),通过现场实际数据仿真结果表明,该算法有效地提高了模型预测精度,验证了此模型的可靠性和可用性.%According to the least squares support vector machine (LS_SVM) parameter selection has important influence on the model of performance,and conventional parameter optimization methods' effect is poor and time-consuming,this paper present a least squares support vector machine prediction model which based on particle swarm algorithm.The model based on least squares support vector machine theories,and with particle swarm algorithm to optimize the model parameters.In this paper we use the model to predict three main performance indexes of evaluating coal gasification effect of the fixed bed (gas heating value,gasification efficiency,gas production rate),through the practical data's simulation results show that the algorithm can effectively improve the prediction accuracy of the model,and the model's reliability and usability has been verified.【期刊名称】《计算机系统应用》【年(卷),期】2013(022)005【总页数】4页(P81-84)【关键词】最小二乘支持向量机;粒子群优化算法;参数优化;煤气化过程【作者】谢文君;曹根牛;李怀毅【作者单位】西安科技大学理学院,西安710054;西安科技大学理学院,西安710054;黄河上游水电开发有限责任公司,西宁810000【正文语种】中文近年来, 我国煤炭资源十分紧缺, 人们为了达到有效利用煤炭资源并且尽可能多的得到高品质合成气的双赢目地, 对评价煤气化效果的主要性能指标的预测显得尤为重要. 但是, 由于煤气化过程涉及了许多物理化学反应, 是一个复杂的、强非线性的耦合性系统, 因此很难分析其内部机理建立准确的预测模型.目前建立的煤气化过程预测模型有 BP神经网络预测模型[1]、运用拉格朗日方法建立的预测模型[2]等. 最小二乘支持向量机算法具有可靠的全局最优性,适用于小样本、非线性问题, 并且避免了维数灾难, 已成功应用于实际复杂过程的建模, 文献[3-5]利用最小二乘支持向量机算法建立煤气化相关参数的预测模型并取得了一定的成果. 预测模型中参数的选取对模型的学习精度和泛化能力十分重要, 已有的文献[6-8]中通常采用梯度下降法、试凑法或遍历法来选取预测模型参数, 但这些方法不仅耗时长且有可能陷入局部最优解. 因此, 本文将具有全局优化性能的粒子群优化算法与最小二乘支持向量机模型结合, 采用粒子群算法优化最小二乘支持向量机参数, 从而提高模型预测精度.1 粒子群优化算法原理粒子群算法(PSO)源于对鸟群捕食行为的研究,是一种进化算法. 粒子群算法的数学描述如下:随机初始化粒子群其中分别为第i个粒子在d维空间上的位置和速度.计算每个粒子的适应度值, 得到第i个粒子的自身最优解 ip和整个粒子群的最优解 gp. 每次迭代时, 每个粒子根据公式(7)(8)跟新自己的速度和位置. 如此反复迭代,直达到最大迭代次数.其中,表示粒子个数, d j,,2,1……=表示维数. w为惯性权重,为正的学习因子,为0到1之间的均匀分布的随机数, t为迭代次数.2 预测实例与分析2.1 基于LS_SVM的固定床煤气化过程预测模型建立氧煤比是氧气的进料量与煤的进料量的比值, 气化过程中, 氧煤比的增大会提高合成气中有效气体成分含量, 增加合成气热值和碳转化率. 但是,随着氧气量的增加出口煤气中无效气体成分随之增加, 从而降低气化效率. 水煤比是水蒸气的进料量与煤的进料量的比值, 气化过程中, 加入的水蒸气会提高合成气中有效气体含量, 但水煤比过高时, 会使出口气体中无效气体成分增加, 直接影响气化效果[9].综上分析, 氧煤比和水煤比是煤气化过程中重要的工艺参数, 其值将直接影响出口煤气中的气体组成[10]、气化效率、气体热值和产气率等.本文以氧煤比和水煤比作为模型的输入量, 以气体热值、气化效率和产气率为模型输出量, 建立固定床煤气化过程的LS_SVM预测模型, 如图1所示.图1 固定床煤气化过程支持向量机模型对给定的训练样本是输入数据,nRyi∈是对应的输出数据,l为训练样本个数, n为数据向量空间维数. 由最小二乘支持向量机算法[11]可得到函数估计:其中,为核函数. 参数a和b为:上式中,其中, c为惩罚参数.2.2 基于PSO的LS_SVM参数优化算法本文选用高斯径向基核函数(RBF), 则已建立的最小二乘支持向量机模型为:其中包含两个未知参数: 惩罚因子C, 核函数宽度通过对模型参数对的最优选择可使得最小二乘支持向量机模型达到最佳状态. 每一个粒子代表LS_SVM模型中的一对参数选取均方差作为适应度函数:其中, E表示适应值, l表示样本个数, iy是第i个样本的实际输出值, iy是第i个样本的预测输出值.粒子群优化LS_SVM参数步骤下:1)PSO的参数设置: 设置粒子种群数N、最大迭代次数M、粒子维数d、最大速度maxV , 惯性权重w,学习因子 1c和 2c;2)群定训练样本集, 根据经验和试算确定（）2,Cσ的大致范围, 初始化各粒子的位置向量 iX和速度向量 iV,设粒子i的当前最优位置为3)将训练样本以及各粒子位置带入线性方程组(4)中, 计算出每个粒子相对应的模型参数再将每个粒子对应的模型参数和训练样本带入(5)式计算出每个粒子的预测值;4)将训练样本输出值和已计算出的预测值带入(6)式中, 计算出每个粒子的适应度值;5)根据计算出的每个粒子的适应度值, 将当前各粒子的位置存储在各粒子的最优位置 ip中, 将粒子群中适应度值最优的个体的位置存储在全局最优 gp中;6)根据(1)(2)式更新粒子的速度和位置;7)对更新的每个粒子计算其适应度值, 将其适应度值与其上一代最优值比较, 若较好,则将更新的粒子作为当前最优的位置 ip;8)比较当前所有粒子的个体最优位置 ip和全局最优位置 gp的适应度值, 若 ip优于 gp, 则更新 gp;9)若迭代次数已达到最大迭代次数或用已搜索到的最优位置计算出的适应值已满足给定适应值的要求时, 则停止迭代, 否则转步骤6);10)将测试样本输入已训练好的LS_SVM模预测型中, 检验此模型的可靠性.3 仿真结果与验证本文选取煤炭粒度为5～50mm的陕北神府煤为气化原料, 在 3.0MP压力下以固定床煤气化过程为例.选用30组样本数据, 其中20组为PSO_LSSVM的训练样本, 10组为检验样本. 通过试算法选取优化参数范围为粒子群种群规模N=100, 最大迭代次数 M=100, 学习因子基于MATLAB软件平台, 经PSO优化, 得到LS_SVM 模型最优参数为(998.8724, 0.1001), 参数优化过程如图2所示, 从图中可看出, 经过20次迭代后, 最优适应度值达到最小值为了检验 PSO优化LS_SVM 参数的实际效果, 选取遗传算法优化LS_SVM 模型参数作为对比. 采用遗传算法优化LS_SVM, 模型参数优化结果为(944.6351,0.1607).通过两种算法对模型训练的基础上, 采用10组数据对模型进行仿真验证. 图3、图4、图5分别给出了采用两种优化算法建立的LS_SVM预测模型对10个测试数据的测试结果, 测试结果分别为气体热值、气化效率和气体产率的检验样本的拟合效果图. 表 1为两种算法检验误差比较. 为了将两种算法进行性能比较, 表 2给出了两种算法得出的最优适应度值、适应度值达到最优时的最大迭代次数的比较结果. 图2 PSO参数寻优过程图3 气体热值检验样本拟合结果图4 气化效率样本检验拟合结果图5 气体产率样本检验拟合结果表1 两种算法的检验误差训练方法训练样本数参数对(,)Cσ 的训练结果检验样本数气体热值平均相对误差（%）气化效率平均相对误差（%）气体产率平均相对误差（%）PSO_LSSVM 20 (998.8724,0.1001) 10 1.42% 1.89%2.59%GA_LSSVM 20 (944.6351,0.1607) 10 2.75%3.48%4.48%由检验拟合图 3-5和表 1可得出, 测试阶段, 由PSO_LSSVM 模型训练得出的气体热值的平均相对误差为1.42% ; 气化效率的平均相对误差为1.89% ; 气体产率的平均相对误差为 2.59%. 而 GA_LSSVM 模型训练的气体热值、气化效率、气体产率的平均相对误差分别为 2.75%, 3.48%, 4.48% . 从而明显得出: 在优化固定床煤气化过程LS_SVM预测模型时, 粒子群算法比遗传算法的测试误差小, 因此, 粒子群算法比遗传算法在优化预测模型方面更准确, 即PSO_LSSVM模型比GA_LSSVM模型具有更好的学习能力和泛化能力.由表 2可得出, 与遗传算法相比, 使用粒子群算法优化煤气化过程LS_SVM预测模型参数, 对煤气化过程指标的预测具有良好的效果, 同时PSO具有更快的收敛速度和更优的适应度值. 因此, PSO_LSSVM煤气化过程预测模型具有更好的实用性. 表2 PSO与GA比较结果LS_SVM PSO GA C 998.8724 944.6351 2 σ 0.1001 0.1607最优适应度值4 2.0657 10−× 4 2.1142 10−×最大迭代次数 20 264 结语煤气化过程内部机理十分复杂, 因而很难建立准确的机理模型. 本文在分析了煤气化过程的一些主要影响因素和性能指标的基础上, 运用最小二乘支持向量机理论, 以氧煤比和水煤比为模型输入变量, 以气体热值、气化效率和气体产率为模型输出变量, 建立了固定床煤气化过程的预测模型. 为了使该预测模型有较好的学习精度和泛化能力, 利用PSO优化模型参数. 通过实验数据检测, PSO比GA在LS_SVM 参数优化方面效果更好.本文基于LS_SVM建立的固定床煤气化过程预测模型为多输入多输出模型, 而大多数文献中都是建立的多输入单输出或单输入单输出模型, 这些模型在相关应用邻域具有一定的局限性. 因此, 本文建立的多输入多输出模型在对其他领域的应用具有实际的指导意义和参考价值.参考文献【相关文献】1 Cui yang,Xu Long.Prediction model of coal catalytic gasification based on the improved BP neural network.Journal of Fuel Chemistry and Technology,2011,39(2):90−93.2 Jun Xie,Wenqi Zhong.Eulerian-Lagrangian method for threedimensional simulation of fluidized bed coal gasificaion.Advanced Powder Technology,2012,66(6):1285−1295.3 王春林.大型电站锅炉配煤及燃烧优化的支持向量机建模与实验研究.浙江:浙江大学,2007.4 陶少辉,史书阳等.LS_SVM 模型在线校正的替代法及软测量应用.化工自动化及仪表,2010,37(8):15−18.5 HC Yang,SB Zhang,KZ Deng,PJ Du.Research into a feature method of hyperspectral imagery using PSO and SVM.Journal of China University of Mining &Technology,2007,17(4):473−478.6 WRIGHT A H.Genetic Algorithms for Real Parameter Optimization.Foundations of Genetic Algorithms[M].Rawlins G J E,EDSGA:Morgan Kaufmann,1991:205−218.7 V Cherkassky,Y Ma.Practical selection of SVM parameters and noise estimation for SVM regression.Neuarl networks,2004,17(1):113−126.8 Wenjian Wang,Zongben Xua,Weizhen Lu,et al.Determination of the spread parameter in the Gsussian Kernel for classification and regression.Neurocomputing,2003,55(3):271−290.9 张大晶.浅析相关参数对气流床粉煤加压气化的影响.煤化工,2008,138(5):44−46.10 陈超,姚洪,岳良等.氧煤比与蒸汽煤比对粉煤气化炉影响的数值模拟分析[C].华中科技大学煤燃烧国家重点实验室,2010.11 邓乃杨,田英杰.数据挖掘中的新方法——支持向量机[M].第2版.北京:科学出版,2006,12.。
基于SVM数据融合的实时粒子滤波算法
基于SVM数据融合的实时粒子滤波算法
蒋蔚;伊国兴;曾庆双
【期刊名称】《系统工程与电子技术》
【年(卷),期】2010(032)006
【摘要】采用粒子滤波的目标跟踪算法在粒子数目较多时计算量大、实时性差,针对该问题提出了一种新的基于支持向量机数据融合的实时粒子滤波算法.该算法在估计窗实时粒子滤波的基础上,使用支持向量机融合窗内不同时刻粒子集,并根据融合的结果更新粒子权值,实现对目标状态的快速跟踪.相对于原算法采用最小化Kullback-Leibler距离来调整估计窗混合分布的权值,该方法的计算复杂度低、速度快,进一步提高了算法的实时性.对纯角度目标跟踪问题的仿真结果表明了该算法的可行性和有效性.
【总页数】5页(P1334-1338)
【作者】蒋蔚;伊国兴;曾庆双
【作者单位】哈尔滨工业大学航天学院,黑龙江,哈尔滨150001;哈尔滨工业大学航天学院,黑龙江,哈尔滨150001;哈尔滨工业大学航天学院,黑龙江,哈尔滨150001【正文语种】中文
【中图分类】TP391
【相关文献】
1.基于粒子滤波算法的非刚性目标实时跟踪 [J], 李静;陈兆乾;秦小麟
2.基于权重一致性优化的实时Marginalized粒子滤波算法 [J], 胡振涛;刘先省;金
勇;侯彦东
3.实时Marginalized粒子滤波算法研究 [J], 马涛;杨展辉
4.基于FPGA实现粒子滤波算法的实时细胞跟踪系统设计 [J], 毛丽民;卢振利;浦宇欢;刘叔军;朱培逸
5.基于改进PDF的粒子数量在线可调粒子滤波算法 [J], 袁帅; 苏航
因版权原因，仅展示原文概要，查看原文内容请购买。
基于小波分解和粒子群优化的LSSVM的风速组合预测
基于小波分解和粒子群优化的LSSVM的风速组合预测【摘要】为了提高风电场风速预测的准确性，本文提出了一种组合预测的方法，它结合了小波分析和粒子群（PSO）优化的偏最小二乘支持向量机（LSSVM）。
首先对原始的风速数据进行小波变换，然后将得到的数据输入LSSVM模型预测风速，并且采用PSO算法对LSSVM模型的参数进行优化。
通过案例研究和分析，可以看到提出的模型具有较高的预测精度，具有一定的实用价值。
【关键词】小波分解；粒子群优化算法；偏最小二乘支持向量机；风速预测引言本文尝试用运小波变换的多分辩分析法对风速序列进行分解，结合LSSVM 的小样本学习能力强和计算简单等特点，将小波分解后的低频序列采用LSSVM 进行训练和预测，同时运用粒子群算法（Particle Swarm Optimization，PSO）对LSSVM所选择的核函数进行参数优化。
运用WT-PSO-LSSVM模型对实际风速数据进行了预测，并与其它模型进行比较，从比较结果可以看到本文提出的方法具有良好的预测能力。
1.WT-PSO-LSSVM优化模型1.1小波变换小波变换（WT）是由一基本母小波[1]通过伸缩因子和平移因子产生一个函数族，然后通过函数族对信号进行分析：（1）对能量有限函数，其连续小波变换定义为：（2）其中为的共轭函数。
对于离散的数据序列，一般采用离散小波变换对时间序列进行分解与重构。
1.2 LSSVM原理建立LSSVM[2]预测模型，设训练样本集为：，样本集对于的决策函数为。
模型的训练转换为最小化结构风险函数：（3）满足的约束条件有：（4）相应的拉格朗日函数为：（5）式中：为拉格朗日乘子；、为模型参数；为正规化参数；为训练集预测误差向量。
根据优化条件可得：（6）消去上式中的和可得到：（7）式中：；；。
是一个方阵，第行列元素为。
因此本文选用径向基函数（Radial Basis Function，RBF）作为LSSVM的核函数：（8）最终确定的决策函数为：（9）1.3粒子群算法（PSO）粒子群优化算法（PSO）是计算智能领域的一种群体智能的优化算法，该算法最早是由Kennedy和Eberhart在1995年提出的并源于对鸟群捕食的行为研究。
基于自适应变异的粒子群算法 svm
基于自适应变异的粒子群算法svm1.引言1.1 概述本文将介绍基于自适应变异的粒子群算法(SVM)。
粒子群算法作为一种优化算法已经在解决多个问题上展示了卓越的性能。
然而，传统的粒子群算法在处理高维数据时可能会遇到一些困难，导致性能下降。
为了解决这个问题，本文提出了一种自适应变异的方法。
首先，我们将介绍粒子群算法的基本原理和流程。
粒子群算法通过模拟鸟群中鸟类的行为，实现对解空间的搜索和优化。
在算法中，每个粒子代表一个可能的解，通过不断地调整速度和位置来寻找最优解。
该算法的优点是简单易实现且具有较好的全局搜索能力。
然而，对于高维数据而言，传统的粒子群算法可能面临维度灾难的挑战。
维度灾难是指在高维空间中，数据的稀疏性导致搜索效率低下。
为了克服这个问题，我们引入了自适应变异的概念。
通过对粒子的速度和位置进行自适应调整，可以有效地提高算法在高维数据上的性能。
此外，本文还将介绍支持向量机(SVM)的基本原理和应用。
SVM是一种经典的机器学习算法，通常用于分类和回归任务。
与其他分类算法相比，SVM具有较好的泛化性能和鲁棒性。
通过将SVM与自适应变异的粒子群算法相结合，我们可以进一步提高SVM的分类性能。
总之，本文将详细介绍基于自适应变异的粒子群算法(SVM)的原理和应用。
通过对粒子的速度和位置进行自适应调整，我们可以提高算法在高维数据上的搜索效率。
同时，将该算法与支持向量机相结合，可以进一步提高分类性能。
在接下来的章节中，我们将对粒子群算法、自适应变异和SVM进行详细的分析和讨论。
文章结构部分主要是对整篇文章的框架和内容进行介绍。
下面是文章结构的内容：1.2 文章结构本文主要介绍基于自适应变异的粒子群算法(SVM)。
文章的结构如下：引言：首先进行概述，简要介绍本文要解决的问题和方法。
正文：2.1 粒子群算法：首先对粒子群算法进行详细的介绍，包括其原理、算法流程和在优化问题中的应用等。
通过对粒子群算法的研究，为后面介绍基于自适应变异的粒子群算法做铺垫。
基于粒子群的SVM分类算法
ｃａｔｅ删ｏｎ ｉｓ＾砖ｓｈ删０Ｐ血血出∞鼬Ｉ肌０ｆ
ｈａｓ ｒａｎｄｏｍ
ｃＩａｓｄ血ａ６∞ａｌｇｏｒ／ｔｈｍ ｂ∞ｅｄ ０１１ Ｐａｒｔｉｃｌｅ Ｓｗｍｍ（聃ｉ・
ｈｉ曲ｄ／・
ｔｏ
ｔｈｅ。ｐＩ诚ｍ岫ｌ
Ｏｉｌ
ｔｈｅ Ｐｓｏ
ｔｅｃｌｍｌｏｇｙ，ｗｈｉｃｈ
ａｎｄ ｄｉｒｅｃｔｅｄ ｓｅａｒｃｈ ａｂｉｌｉｔｙ
的粒子作为种群的最优位置Ｐ：和粒子自身的局部
最优位置Ｐ：；
（３）根据式（６）和式（７）分别调整粒子的速度及
的全局最优解，匕＝［如，％，…Ｐ匆］．ＰＳＯ是一种
基于迭代的优化技术．对于第ｎ次迭代，粒子根据公
式（６）更新其速度，根据公式（７）更新其位置０１：
位置，比较适应度值，更新种群的最优位置Ｐ；和粒
子自身的局部最优位置面；
杼归一仡，使得对予躐性可分的祥本集（魁，弛），ｆ＝
１，２，…＃，＃∈掣，，《｛＋１，一１；，满是 嚣［（聱－箴）＋鑫】一１乏晷，ｉ＝ｌ，…肆＋ ≤１）
筵诤冀§‘＝瓣一黑，产；裂％‘鼍）；
（４≥球缮决策葫鼗
鼗对分类趣蘸等予甜ｌ∞＃，使惩鹱最大等徐予篾 ｜ｌ”ＩＩ ２最小．满足式（１）且使去ＪＩ钟旷最小的分类 ‘
前很多学者研究ＳＶＭ方法进行文本分类．
支持向量机的目的是找到最优分类面，通常把 求解最优分类面的的问题转化为其对偶问题．对偶 优化问题仍是一个高维多约束问题．对于文本分类 问题，由于文本空间的规模巨大，多采用ＳＭＯ的分
最优分类面的精度，降低文本分类的学习时间． 本文提出的ＰＳＯＳＶＭ算法是将粒子群优化算法
ｃｈ＆ｉｆｉｃａｄｍ
块算法来降低文本集的规模，但是支持向量机优化
０引言
支持向量机（ＳＶＭ：Ｓｕｐｐｏｒｔ
基于粒子群优化的Wv-SVM燃气负荷预测
过粒子群优化算法 确定小 波核 支持 向量机 的参 数 ，利用支持向量机（Ｖ 解决 非线性 回归和 时间序列 问题 。实验结果证 明，该预 测模 型的 Ｓ Ｍ） 预测精度 比 Ｂ 神经 网络和 传统 高斯核 Ｓ Ｍ 高 。 Ｐ Ｖ 关健词 ：支持向量机 ；核函数 ；粒子群优化 ；燃气负荷 ；小波 ；预测模型
Ｗ ＶＳ ． ＶＭ ａ ａ ｒ ｃ ｓ ｓ ｄ Ｏ ｒ ｉ ｌ ｗａ ｍ ｔｍ ｉ ａ ｉ ｎ Ｇ ｓＬｏ ｄ Ｆｏ ｅ ａ ｔＢａ ｅ ｎ Ｐａ ｔ ｅＳ ｃ ｒ Ｏｐ ｉ ｚ ｔｏ
ＬＡＩＺ ａ －ｉ ． ｈ ｏ ｌ ＸＵ ａ － ｈ ｎｇ ｎ Ｘｉ ｏ ｚ ｏ （ ｃ ｏ ｌ ｆ ｎ ｏｍａ ｏ ｅ ｈ ｎ ｃ ｌ ｎ ｌ ｔ ｃ ｌ ｎ ｉｅ ｒ ｇ Ｓ ａ ｇ ａ Ｎｏ ｍａ Ｕｎｖ ｒｉ ， ｈ ｎ ｈ ｉ ０ ２ ４ Ｃ ｉａ Ｓ ｈ ｏ ｆ ｒ ｔ ｎ ｃ ａ ｉａ ａ ｄＥ ｅ ｒ ａ Ｅ ｇ ｎ ｅｉ ， ｈ ｎ ｈ ｉ ｒ ｌ ｉｅｓ ｙ Ｓ ａ ｇ ａ ２ ０ ３ ， ｈｎ ） ｏＩ ｉ Ｍ ｃｉ ｎ ｔ
Ｄ０Ｉ １ ． ６０ｉ ｎ１ ０ —４ ８ ０ ２０ ． ０ ： ０３ ９ ．ｓ ． ０３ ２ ． １ ． ０ ９ ｓ ０ ２ ５ ６
１ 概述
天然气 已成为世界第三大能源 …，燃气预测有极其 重要
的意义 。当前预测模型 的研究 已取得不少研究成果 ，文献［】 ２ 采用线性 回归模型 ，但这种方法很难解决非线性关系问题。
文献【］ 用时间序列模型 ，这种预测模型忽 略了影响负荷预 ３使
测 的其他 因素 ，不能充 分利 用负荷值随温 度、季节 、日期类
变化 ，平均温度高时燃气使 用量低 ，平均温 度低 时燃气使 用
量高。
利用粒子群算法优化SVM分类器的超参数
龙源期刊网
利用粒子群算法优化ＳＶＭ分类器的超参数作者：王东吴湘滨
来源：《计算机应用》2008年第01期
摘要：利用粒子群算法在求解组合优化问题时具有的全局搜索特性，设计并实现了支持
向量机分类器中超参数的优选粒子群算法，扼要地叙述了算法实现中个体编码和适应度函数，通过在国际标准数据集上的实验验证了算法的有效性和高效性，最后列举了一些在上述工作基础上可开展的深入性工作。
关键词：支持向量机；分类器；参数优化；粒子群优化算法。
粒子群算法和SVM的网络入侵检测
粒子群算法和SVM的网络入侵检测罗尚平;刘才铭【摘要】As the accuracy of the current neural network detection algorithm to detect and intercept network intrusion in strong interference is not high enough,a detection method based on particle swarm optimization algorithm and support vector machine to deal with the network intrusion is put forward,and the feature signal model of network intrusion is built. The two-or-der adaptive lattice IIR notch filter is adopted for anti-jamming processing of intrusion information. The particle swarm optimiza-tion algorithm is used to extract the optimal solution of network intrusion features in adaptive optimizing mode. SVM is em-ployed for intrusion information classification to realize the effective detection of network intrusion. The simulation test results show that the method has high accurate intercepting probability and low false dismissal detection probability for network intru-sion detection. It can guarantee the network security.%针对当前的神经网络检测算法在强干扰下的网络入侵检测准确拦截性不好的问题,提出一种基于粒子群算法和支持向量机的网络入侵检测方法.构建网络入侵的特征信号模型,采用二阶自适应格型IIR陷波器进行入侵信息的抗干扰处理;粒子群算法进行自适应寻优提取网络入侵特征的最优解,SVM进行入侵信息分类,实现网络入侵有效检测;并进行仿真测试.结果表明,采用该方法进行网络入侵检测的准确拦截概率较高,误检和漏检概率较低,保障了网络安全.【期刊名称】《现代电子技术》【年(卷),期】2017(040)010【总页数】4页(P31-34)【关键词】粒子群算法;支持向量机;网络入侵;检测算法【作者】罗尚平;刘才铭【作者单位】乐山师范学院计算机科学学院,四川乐山 614004;乐山师范学院计算机科学学院,四川乐山 614004【正文语种】中文【中图分类】TN711-34;TP393随着网络信息技术的快速发展，大量的信息数据通过网络实现信息传输和信息存储，网络安全受到人们的极大关注，网络安全分为网络系统安全和网络信息安全。
基于微粒群算法的LS-SVM时间序列预测
基于微粒群算法的LS-SVM时间序列预测林庆;白振兴【摘要】将微粒群算法引入到最小二秉支持向量机(LS-SVM)时间序列预测,建立预测模型.思路来自微粒群算法可以在超平面空间中实现优化搜索,因此,将微粒群算法中的微粒运动公式进行修正,从而实现对LS-SVM的训练.然后用训练过的LS-SVM 进行预测,即得到最终结果.将此方法应用于销售量预测,结果表明,此模型有更高的预测精度,而且在不同的LS-SVM学习参数下模型的误差相对稳定.【期刊名称】《现代电子技术》【年(卷),期】2008(031)014【总页数】4页(P147-150)【关键词】支持向量机;微粒群算法;时间序列预测;超平面空间【作者】林庆;白振兴【作者单位】空军工程大学工程学院,陕西,西安,710038;空军工程大学工程学院,陕西,西安,710038【正文语种】中文【中图分类】TP18120世纪90年代由Vapnik[1]提出的支持向量机技术，是基于学习统计理论的数据挖掘的一项新技术，是人工智能发展的新分支，近年来其理论研究和算法实现方面都有突破性进展，开始成为克服“维数灾难”和“过学习”等传统困难的有利手段。
微粒群算法(Particle Swarm Optimization，PSO)是由James Kenndy博士和Russell Eberhart博士于1995年提出的一种演化计算技术[2]。
该算法中将鸟群运动模型中的栖息地类比于所求问题解空间中可能解的位置，通过个体间的信息传递，导引整个群体向可能解的方向移动，在求解过程中逐步增加发现较好解的可能性。
训练支持向量机需要求解一线性约束二次最优问题。
微粒群算法是来自群体智能的直观而易于实现的算法，而且被认为是一种新型的训练支持向量机的方法[3]。
该方法无需复杂的数学计算。
在支持向量机的优化问题中，线性微粒群优化算法是一种较好的可选方法。
1 最小二乘支持向量机J.A.K.Suykens[4]在1999年首次提出LS-SVM支持向量机(Least Squares Support Vector Machines，LS-SVM)用于解决分类和函数估计问题。
基于粒子群优化的PSO-SVM的瓦斯时间序列突出预测方法
其中，
解层次。
为小波系数 ； ＝ｃ ｒ ｘ ／ ２Ｉ ｎＮ ，
．
为噪声标准差，Ｎ 为分
１ Ｓ Ｖ Ｍ实现原 则
实现 Ｓ ＶＭ原 则 可以有 两个思 路 ： （ １ ） 求 出每 个 子集 的 最小 经验 风险 ，选 择 使最 小 经验风 险 和置 信范 围之和 最小 的子集 。显然 ，对 于子集 数 目不 大的 情况 ，这种方 法 尚能 应付 ，当子 集数 目趋于 无穷时 ，这种 方法是 不可 行的 。 （ ２ ） 设 计 某种 函数 集 的结 构使 得每 个子 集都 能 取得 最小 的 经验 风险 （ 如 经验 风 险为 零 ） ，然 后 ，只 需选 择 使 置信 范 围最 小 的子 集 ，经 验风 险和置 信范 围同时 为最小 。
的主 要研 究问题 之一 。
ｆ ｓ ｉ ｇ ｎ Ｗ ， ｊ ￣ （ ｌ ＿ 五 ） Ｉ ＞
，
，
㈩
本 文 利 用 ￡一 Ｓ ＶＲ进 行 煤矿 瓦斯 时 间 序 列 进 行 预 测 的基 础 上 ，针 对 ￡一 ｓ Ｖ Ｒ中的参 数 选 择 问题 ，提 出 了基 于 粒子 群 优化 的 ￡ 一 ｓ Ｖ Ｒ 进 行 煤矿 瓦斯时 间序 列预 测的方 法 。利用 粒子 群优化 算 法 进行 模型 的参数选 择 ，从而达 到高效 准确 的预测 目的 。
图１ 所示 。
摘 要 本 文对霍 尔辛赫 矿安 全监测 系统 的瓦斯 浓度 时间序 列利 用软阈值 小 波去 噪 法进行 去 噪 ；分析 支持 向量机 不敏 感损 失参数 ８ 和Ｅ Ｂ Ｆ 核 函 数参 数 。基于粒 子群 算法对 支持 向量机 瓦斯 浓度 模型进 行优 化 ，结 合 最优 参 数对 进行 ￡－ Ｓ Ｖ Ｂ 模 型 预 测 ，对预 测误 差 进行 分 析 ，并将 训练样 本 的大 小对预测精 度 的影响做 出 了比较 。 关 键词 柱子群优 化 ； 支持 向量 机 ；煤矿 ；瓦斯 突出预 测
pso-svm算法原理
pso-svm算法原理PSOSVM算法原理PSOSVM（Particle Swarm Optimization Support Vector Machine）是一种基于粒子群优化（PSO）的支持向量机（SVM）算法。
PSO算法是一种经典的全局优化算法，通过模拟鸟群或鱼群等生物群体行为，寻找最优解。
SVM算法是一种常用的机器学习算法，用于分类和回归问题。
PSOSVM算法结合了PSO算法的全局搜索能力和SVM算法的分类性能，能够在高维数据集中寻找到最佳的分类超平面。
下面将一步一步解释PSOSVM算法的原理。
1. 数据准备PSOSVM算法的输入是一个包含已知分类标签的训练数据集。
训练数据集由一组特征向量和相应的类标签组成。
特征向量描述了数据样本的特征，而类标签指示了每个样本的分类。
2. 初始化粒子群和SVM参数PSOSVM算法首先需要初始化粒子群，即一组粒子的初始位置和速度。
每个粒子代表了一个SVM模型的候选解。
粒子的位置表示了SVM模型的参数向量（例如权重向量和截距）的取值，而粒子的速度表示了参数向量的更新速度。
此外，初始化也需要设置PSO的参数，如惯性权重、加速度系数和迭代次数等。
这些参数决定了算法的搜索效率和精度。
3. 粒子运动和更新在PSOSVM算法中，粒子的运动可通过以下过程实现：- 计算粒子的适应度（即分类性能）：根据当前粒子位置和速度，计算对应SVM模型的分类性能，通常使用交叉验证等方法评估。
- 更新粒子的最佳位置：比较当前粒子的适应度与历史最佳适应度，更新粒子的最佳位置，即当前拥有最好性能的SVM模型参数。
- 更新粒子的速度和位置：根据粒子自身的历史行为和群体最优行为，更新粒子的速度和位置。
这个过程使用加速度系数和随机数来控制粒子的移动速度和方向，以实现全局搜索。
- 限制粒子的位置和速度：为了保证SVM模型参数的可行解和避免搜索过程出现过度迭代，需要根据问题的约束条件限制粒子的位置和速度。
基于粒子群优化SVM的高速公路交通事件检测
交 。 。 粒子群优化算法对支持向量机的参数进行优化 ， 进而利用测试集数据对该模型进行验ｉ ｉ Ｅ ｃ ｌ Ｌ 较， 获得满意的检测效果。 亘 、 １ Ｅ ∞
关键词 ： 交通 事 件 检 测 ； 支 持 向量 机 ； Ｉ － ８ ８ ０ 数据库 ； 粒 子 群 优 化
中图 分 类 号 ： Ｕ４ ４ ６
Ｏ 要 ： 摘 为了更加准确地检测出高速公路上的偶发性交通事件 ， 采用一种粒子群优化 Ｓ ＶＭ 参数的高速公路交通事件检测 ｇ
算法 ， 提 升事 件检 测效 果 。文 中运用 高速 公 路实 测数 据集 （ １ ＿ ８ ８ Ｏ ） ， 对 支 持 向量 机 算 法进 行 分 类 性 能测 试 ， 并 且 采用 改 进 的
叮
ｍｅ ａ ｓ ｕ ｒ ｅ ｄ ｄ ａ ｔ ａ ｓ ｅ ｔ （ Ｉ 一 ８ ８ ０） ｉ ｓ ａ ｄ ｏ ｐ ｔ ｅ ｄ ａ ｎ ｄ ｔ ｈ ｅ ｓ ｕ ｐ ｐ ｏ ｒ ｔ ｖ ｅ ｃ ｔ ｏ ｒ ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ ｉ ｓ ｔ ｅ ｓ ｔ ｅ ｄ ｆ ｏ ｒ ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ ｐ ｅ ｒ ｆ ｏ ｒ ｍａ ｎ ｃ ｅ ． Ｔｈ ｅ ｉ ｍｐ ｒ ｏ ｖ ｅ ｄ ｐ ａ ｒ ｔ ｉ ｃ ｌ ｅ ｓ ｗａ ｒ ｍ ｏ ｐ ｔ ｉ ｍｉ ｚ ａ ｔ ｉ ｏ ｎ ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ ｉ ｓ ｕ ｓ ｅ ｄ ｔ ｏ ｏ ｐ ｔ ｉ ｍｉ ｚ ｅ ｔ ｈ ｅ ｐ ａ ｒ ａ ｍｅ ｔ ｅ ｒ ｓ ｏ ｆ ｓ ｕ ｐ ｐ ｏ ｒ ｔ ｖ ｅ ｃ ｔ ｏ ｒ ｍａ ｃ ｈ ｉ ｎ ｅ ，ａ ｎ ｄ ｔ ｈ ｅ ｎ ｔ ｈ ｅ ｍｏ ｄ ｅ ｌ ｕ ｎ ｄ ｅ ｒ ｔ ｅ ｓ ｔ ｉ ｓ ｖ ａ ｌ ｉ ｄ ａ ｔ ｅ ｄ，ｒ ｅ ｓ ｕ ｌ ｔ ｉ ｎ ｇ ｉ ｎ ｔ ｈ ｅ ｓ ａ ｔ ｉ ｓ ｆ ａ ｃ ｔ ｏ ｒ ｙ ｅ ｆ ｆ ｅ ｃ ｔ ． Ｋｅ ｙ ｗｏ ｒ ｄ ｓ ： ｔ ｒ ａ ｆ ｆ ｉ ｃ ｉ ｎ ｃ ｉ ｄ ｅ ｎ ｔ ｄ ｅ ｔ ｅ ｃ ｔ ｉ ｏ ｎ；ｓ ｕ ｐ ｐ ｏ ｒ ｔ ｖ ｅ ｃ ｔ ｏ ｒ ｍａ ｃ ｈ ｉ ｎ ｅ ｓ ；Ｉ 一 ８ ８ ０ ｄ ａ ｔ ａ ｂ ａ ｓ ｅ ；ｐ ａ ｒ ｔ ｉ ｃ ｌ ｅ ｓ ｗａ ｒ ｍ ｏ ｐ ｔ ｉ ｍｉ ｚ ａ ｔ ｉ ｏ ｎ
基于粒子群优化SVM的电能质量复合扰动分类的研究
关 键词 ：暂 态电能质 量复合 扰 动 ；分类 ； 尔伯 特． 变换 ；支持 向量机 ； 子群优 化 算 法 希 黄 粒
中图分 类号 ： Ｍ １ Ｔ ７２ 文献 标 志码 ：Ａ
Ａ Ｒ ｓａ ｃ ｂ ｕ ｌｓｉｃ ｔ ｎ ｏ ｏ ｒＱ ａｉ ｅｅ ｒｈ ａ ｏ ｔＣ ａｓ ａｉ ｆ ｗｅ ｕ ｌｙ ｉ ｆ ｏ Ｐ ｔ
ｄ ｄ ｆｒ ｃａ ｓｆ ａ ｉｎ ｗｈ ｃ ａ ｅ ｕ ｅ ｓ ｒ ｉ ｅ ａ ａ ｉｐ ｔ ｎ ｏｔ ｅ Ｐ Ｏ． ＶＭ Ｏ ａ ｏ ａ ｈ ｅ ｅ ｔ ｅｃ ａ ． ｅ ｏ ｌ ｓｉ ｃ ｔ ｉｈ ｃ ｎ ｂ ｓ ｄ ａ ａｎ ｄ ｄ ｔ ｕ ｔ Ｓ Ｓ ｉ ｏ ｔ ｎ ｉ ｈ Ｓ ｓｔ ｃ ｉｖ ｈ ｌｓ
胡 坤等 ： 于粒 子群优化 Ｓ Ｍ的 电能质量复合扰 动分类的研究 基 Ｖ
３３ ５
种 复合 扰 动类 型 ， ： 波和 暂 降 ， 波 和暂升 ， 波 即 谐 谐 谐
和脉冲 ， 变和暂降 ， 变和暂升 ， 变和脉 冲， 闪 闪 闪 谐
波 、 变 和 暂 降 ， 波 、 变 和暂 升 ， 波 、 闪 谐 闪 谐 闪变 和 脉 冲， 这些 扰 动类 型也 是本 论 文研究 的对象 。
频 率 的变 化 ， 笔者 从 图 ２可 以看 出该 复 合 扰 动 信 号 中含 有 基频 信 号 （ ５ ｚ ， 外 还含 有 ３次 谐 波 ｆ＝ ０Ｈ ） 另
（ ＝１０ Ｈ ） ０ １Ｓ０ ２ ｓ０ ３Ｓ和 ０ ４ Ｓ 别 为 瞬 厂 ５ ｚ ；． 、． 、 ． ． 分
（ ＝ Ｙ ｒ ３ 含
向量机 的暂 态 电能质 量复合扰 动检 测 分 类 的方 法 。利 用 希 尔伯 特． 变换提 取 分 类 所 需 的特 征 向 黄
基于改进莱维飞行粒子群算法的SVM参数优化[发明专利]
![基于改进莱维飞行粒子群算法的SVM参数优化[发明专利]](https://img.taocdn.com/s3/m/99ce3dda31126edb6e1a10ab.png)
专利名称：基于改进莱维飞行粒子群算法的SVM参数优化专利类型：发明专利
发明人：郭晓金,郭彩杏,柏林江
申请号：CN201811477131.3
申请日：20181205
公开号：CN109344956A
公开日：
20190215
专利内容由知识产权出版社提供
摘要：本发明涉及数据挖掘算法和随机搜索算法的结合问题，提出基于改进莱维飞行粒子群算法的SVM参数优化算法。
随着大数据时代的到来，如何提高数据挖掘算法的性能成为研究热点。
传统PSO算法优化SVM参数时，存在易陷入局部极值、后期震荡严重问题。
莱维飞行具有短距离的搜索兼偶尔长距离的行走相结合的特性，可以从根本上克服PSO算法易陷入局部极值的问题；考虑到算法后期震荡严重，改进粒子位置更新公式，引入动量项，可以减缓算法震荡；同时考虑到惯性权重的取值权衡着局部搜索和全局搜索，本发明基于粒子间距离的自适应惯性权重，可以提高算法收敛速度，从而提高PSO算法寻优能力，进而找到最优SVM分类模型。
申请人：重庆邮电大学
地址：400065 重庆市南岸区崇文路2号
国籍：CN
更多信息请下载全文后查看。
基于混沌粒子群算法和小波SVM的P2P流量识别方法
基于混沌粒子群算法和小波SVM的P2P流量识别方法
王春枝;张会丽;叶志伟
【期刊名称】《计算机科学》
【年(卷),期】2015(42)10
【摘要】针对对等网络(Peer-to-Peer,P2P)流量具有的多尺度和突变性等问题,提出了基于小波核函数的支持向量机(Support Vector Machine,SVM)的P2P流量识别算法.进一步,对常用的SVM参数训练方法训练时间过长和易陷入局部极优值等缺陷进行分析,使用混沌粒子群算法对SVM参数进行优化以提高参数训练效率和识别准确率.最后利用真实的校园网网络流量数据对所提方法的有效性进行测试,结果表明,相对于使用传统核函数和参数训练方法的支持向量机P2P流量识别方法,所提方法具有更高的P2P流量识别正确率和计算效率.
【总页数】5页(P117-121)
【作者】王春枝;张会丽;叶志伟
【作者单位】湖北工业大学计算机学院武汉430068;湖北工业大学计算机学院武汉430068;湖北工业大学计算机学院武汉430068
【正文语种】中文
【中图分类】TP181;TP393
【相关文献】
1.采用两阶段策略模型(KTSVM)的P2P流量识别方法 [J], 丁要军;蔡皖东
2.基于AdaBoost-SVM的P2P流量识别方法 [J], 刘悦;李雪
3.一种基于小波变换和PSR-LSSVM的P2P网络流量预测模型 [J], 杨袆;周亚建
4.一种基于混沌粒子群算法和支持向量机的 P2 P流量识别方法 [J], 王春枝;张会丽;叶志伟;陈宏伟
5.基于聚类和流量传播图的P2P流量识别方法 [J], 苏阳阳; 孙冬璞; 李丹丹; 孙广路
因版权原因，仅展示原文概要，查看原文内容请购买。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
杼归一仡，使得对予躐性可分的祥本集（魁，弛），ｆ＝
１，２，…＃，＃∈掣，，《｛＋１，一１；，满是 嚣［（聱－箴）＋鑫】一１乏晷，ｉ＝ｌ，…肆＋ ≤１）
筵诤冀§‘＝瓣一黑，产；裂％‘鼍）；
（４≥球缮决策葫鼗
鼗对分类趣蘸等予甜ｌ∞＃，使惩鹱最大等徐予篾 ｜ｌ”ＩＩ ２最小．满足式（１）且使去ＪＩ钟旷最小的分类 ‘
线，它们之间的距离叫做分类间隔．髓将两类鹾确 分阡（翊练错磊翠为ｏ），丽虽使分类闻隔溅天静分 类线为最优分类线，矮方程为＊・∽＋６：０，对它避
ｒｎ。ｉｎ专蓦壹ｙ。＇ｒｆｌ；！搴＜每，％）一壹母（４）
上
８．ｔ。五，碑；＝０，
Ｏ蔓龇≤ｅ，ｉ＝１，…ｉ
得最饩鳃口’＝（ｎ？，…ｎ？）‘ｏ （３）选择口‘的一个小于Ｇ的礁努量口？，并据
辫予线性霹努鲻越，求最挠努类蘑嚣翔艨粼海
羧下药谯纯阕戆； 赫‰，｝｛嚣ｔ嚣》 ≤２）
哥调繁瀚逮麓运囊，戳自巍躯簸镶经鬟（嚣都最铙） 为局部向鼯，以全局粒子的最优位溉（奈局最优）为 垒两超导谶符移动，直到金竭傀纯位嚣．第ｉ夸整
子在嚣缳攘索空趟里戆整嚣袭承为矢藿薹＝［鼍；，
￥，ｔ．咒（＜＂・砘）＋６）麓Ｉ．
Ｃ２为正常数（称为学习因子）；ｚ是约束因子；ｒａｎｄｌ， ｒａｎｄ２是［ｏ，１］上的随机数；＂是惯性权重函数． ＰＳＯ的基本算法…步骤描述如下： （１）初始化粒子群，即随机设定各粒子的初始 位置ｚ和初始速度ｙ； （２）计算机每个粒子的适应度值；
６．＿孔一砉＂？ｅｘｐ（一铲）； ，（小咖（壹也唧（一掣）“）．
（４）对每个粒子，比较它的适应度值和种群所
坠：！！型壁塑曼里型竺堂
表ｌ实验结果比较 算法
ｓｖｈＩ Ｐｓ０ＳＶＭ
特征维数为１００
特征维敬为１０００
经历的最好位置跆适应值，如果更好，更新Ｐａ；
（５）根据式（６）和（７）调整粒子的速度和位置； （６）如果达到结束条件（足够好的位置或最大
误分率（％）训练时同（ｓ）误分率（％）训练时间（８）
Ｏｐｔｉｍｌｚａｆｉｏｎ，简称ＰＳ来自）”’算法是一种基于群体智能 方法的优化技术，尤其适合高维的多约束及多目标 优化问题．ＰＳＯ同遗传算法类似，系统初始化为一
组随机解，通过有指导的迭代搜寻快速逼近优化目
标的最优值．ＰＳＯ方法用于支持向量机对偶问题的 优化，可从根本上降低优化过程的计算代价，提高优
化问题解的精度，从而提高支持向量机文本分类的
Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ
ｏｎ
ｔｅｘｔ
ｃｌａｓｓｉｆｉｃａｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ
ｐａｒｔｉｃｌｅ ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ
ＪＩＡＮＧ Ｈｕｉ—ｎａ“２ ａｎｄ ＺＨＡＮＧ
２．Ｓｃｈｏｏｌ ０ｆ Ｉｎｆｏｒｍａｔｉｏｎ
Ｇ＂ｙｉ哥
Ｔｅｅｔｍｏｌｏｇｙ，Ｂｅｌｊｉｎｇ １０２６１７，Ｃｈｉｎａ）
的粒子作为种群的最优位置Ｐ：和粒子自身的局部
最优位置Ｐ：；
（３）根据式（６）和式（７）分别调整粒子的速度及
的全局最优解，匕＝［如，％，…Ｐ匆］．ＰＳＯ是一种
基于迭代的优化技术．对于第ｎ次迭代，粒子根据公
式（６）更新其速度，根据公式（７）更新其位置０１：
位置，比较适应度值，更新种群的最优位置Ｐ；和粒
子自身的局部最优位置面；
ｇ．ｔ．∑艚ｉ＝０十
４ｌ龟Ｏ。ｉ＝１，２，…Ｚ
瑟莅爨傀分类嚣串鬈囊逶囊斡悫援撼熬联％，辑）就 可以将莱一嚣线性分类问题变按成一个线性分类。 辩予ｌ｝线姓分类鞫嚣，支旃翔量寥ｔ方法辩算洼如下：
（１）设嚣巍谢练集｝。｛（《ｌ，ｙ｛），…（秘，款》ｉ∈ （昱ｘ ｙ）‘，麓中瓤《Ｘ＝群，抑《Ｙ兰｛一１，＋ｔ｝，
前很多学者研究ＳＶＭ方法进行文本分类．
支持向量机的目的是找到最优分类面，通常把 求解最优分类面的的问题转化为其对偶问题．对偶 优化问题仍是一个高维多约束问题．对于文本分类 问题，由于文本空间的规模巨大，多采用ＳＭＯ的分
最优分类面的精度，降低文本分类的学习时间． 本文提出的ＰＳＯＳＶＭ算法是将粒子群优化算法
（１．Ｓｃｈｏｏｌ ０ｆＩｎｆｏｒｍａｔｉｏｎＳｃｉｅｎｃｅ＆Ｔｅｃｈｎｏｌｏｇｙ，Ｂｅｉｊｉ旭ＵｎｉｖｅｒｓｉｔｙｄＣｈｅｍｉｍｄＴｅｃｈｎｏｌｏｇｙ．Ｂｅｉｊｉｎ９１０３０２９，Ｃｈｉｎａ； Ｅｎｇｉｎｅｅｒ。Ｂｅｉｊｉｎｇ Ｉｔｌ面ｔｕｌｅ ｄ
Ｐｅｔｍｃｈｅｍｉｃａｌ
Ａｂｓｔｒａｃｔ：Ａ
ｎｅｗ ｔｅｘｔ
ｃｈ＆ｉｆｉｃａｄｍ
块算法来降低文本集的规模，但是支持向量机优化
０引言
支持向量机（ＳＶＭ：Ｓｕｐｐｏｒｔ
Ｖｅｃｔｏｒ
的计算代价仍然很大．粒子群优化（Ｐａｒｔｉｃｌｅ
Ｍａｃｈｉｎｅｓ）…是
Ｓｗａｒｍ
建立在统计学习理论的ＶＣ维理论和结构风险最小
原理基础上一种机器学习方法．支持向量机具有理 论完备、适应性强、全局优化、泛化性能好等优点，目
ｈｏｓｅｄ
ｃａｔｅ删ｏｎ ｉｓ＾砖ｓｈ删０Ｐ血血出∞鼬Ｉ肌０ｆ
ｈａｓ ｒａｎｄｏｍ
ｃＩａｓｄ血ａ６∞ａｌｇｏｒ／ｔｈｍ ｂ∞ｅｄ ０１１ Ｐａｒｔｉｃｌｅ Ｓｗｍｍ（聃ｉ・
ｈｉ曲ｄ／・
ｔｏ
ｔｈｅ。ｐＩ诚ｍ岫ｌ
Ｏｉｌ
ｔｈｅ Ｐｓｏ
ｔｅｃｌｍｌｏｇｙ，ｗｈｉｃｈ
ａｎｄ ｄｉｒｅｃｔｅｄ ｓｅａｒｃｈ ａｂｉｌｉｔｙ
ｆ＝１，…￡；
｛ＳＶＭ方法ｆ３１
支持向量执方法【ｌ’是墩统计学习的Ｖｃ维道论 裁缝搀藏险最小器联海基础瓣一个分类技拳。
ｓ、珊从线性可分的最优分类面发展稍来，基本
嚣撼霹爨整１麴嚣缝幢擐说蘸．鍪串，实一豁焱秘空
（２）选撵核函数置（＊，ｇ’）和惩罚参数ｃ，构造
黪求孵最傀傲同憝
，§赢袋表嚣类襻拳，Ⅳ冀分类线，龋、琶努剃鸯道 骞类孛蒜势类线最近鳓棒奉萎乎褥子努黉线酶壹
５３．５ ５２．８ １５４ ９０ ３９．１ ３８．８ ３７１ １３２
迭代次数），则结束，否则转步骤（２）． ３
实验表明ＳＶＭ分类算法有特征维数增加的情
况下，分类的误分率也有所减小，而同时训练时间增
ＰＳＯＳＶｂｌ算法 ＳⅧ算法进行文本分类时，最终归结为式（４）
长较多；而利用基于粒子群优化算法的ＳＶＭ文本分 类算法能有效地减少训练时间，并且分类的误分率 也有所减小．所以本文提出的ＰＳＯＳＶＭ文本分类算 法能够提高训练ＳＶＭ分类参数的速度，并且提高了
ＳＶＭ分类算法的分类精度．
参考文献：
函数优化问题．粒子群算法在函数优化问题上可以
得到很好的运用．
有关支持向量机算法的参数选择：①支持向量
机的口上限ｃ＝２：②核函数选择高斯核：＊（ｚ，：）＝
［１］张学工．关于统计学习理论与支持向量机［Ｊ］．自动化
学报，２０００，２６（１）：３２—４２．
唧ｃ一屿笋，．
下面是基于粒子群算法的ｓｖＭ分类算法描述：
ｗｉｄ＇ａｂ ｍＩｉｌｌｉｌｌｇ ｄｏｃｕｍｅｍ ｓｅｔ．Ｉｔ ｒｅｄｕｃｅｓ ｅｏｍｐｍａｔｉｏｎａｌ ｔｉｍｅ ａｎｄ ｉⅡｑ№ｖ∞ｔｈｅ ｔｒａｉｎｉｎｇ ｓｐｅｅｄ．Ｋｘｐｅｒ－
ｂａｓｅｄ∞Ｒｅｍｅｍ－２１５７８吐ｕ幅ｉ拓叩钾ｄｉ啦∞．
Ｓｗｍｍ
Ｍｒｄｓ：Ｐａｒｔｉｃｌｅ
０ｐ咖ｉ删ｍ；Ｓｕｐｐｏｒｔ Ｖｅｃｔｍ＂Ｍａｃｈｉｎｅ；ｉｍｅｌｉｌｇｅｍ ｏｐｔｉｎ伽ｏｎ；ｔｅｘｔ
应用到支持向量机的文本分类问题，分析了支持向
收稿日期：２ｕ０６－ｏＢ２３ 作者简介：江慧娜（１％１．）．女，助教．硕士，研究方向为文本分类
露轻期
扛慧挪，等：囊子粒子群麴ＳＶＭ分类舞法
鬣机方法和粒子群方法的基本思懋，提出罄予粒子
群侥纯算法的ＳＶＭ势类算法，以Ｒｅｕｔｅｒｓ，２１５７８文
本集为实验对象，比较了ＳＶＭ和ＰＳＯＳＶＭ的嶷奉分 震学习时间和分类精廉．
２粒子瓣优化算法‘４】
藏：｝秣惫嬲攀法是夫范薅释体餐爨方法瓣一个
∞口蜘神＾｝域
袋员”】，翅子释决垒届往纯窝蘧。簿法蓬撬麓戆一 群粒子，每个粒子代表舞空阏的一个佞选瓣，瓣靛撬 劣程鹰由撼虚度函数决定．种群中的任一粒予，以
‰１弛删州妇幽删砸随瓤ｔｈｅ《ｌ㈣蜡
ｔｈｅ
图１找靛埘分情况下的最优分类拣
ｄｉ埘ｄｅｄ ｂ触嘶押
蚶１＝ｚ（删：＋ｃｌ ｒａｎｄｌ（ｐ；一ｘ：）＋
ｔ：２咄（ｐ二一ｘ：）），
（４）到达迭代次数或者Ｉｐ：”一ｐ：ｌ＜￡，则输出
（６） （７） ｐ：“．否则转步骤３）；
蚶１＝ｘ：＋蚶１．
其中，ｎ是迭代次数；ｄ是搜索空间的维数；Ｍ是粒 子群中粒子数日；∥：是第ｎ次迭代粒子ｉ飞行速度
矢量的第ｄ维分量；ｘ：是第ｎ次迭代粒子ｌ位置矢 量的第ｄ维分量；ｐ。是粒子ｉ个体最好位置Ｐｉ的第 ｄ维分量；踟是种群的最好位置只第ｄ维分量；ｃ．，
≤３》
粒子囊翦位鬣；②靛子当前速度；⑨粒子当前位置与
塞毫豢努藏霞之藕麴距蒜；④粒予舞蓠蕴置与群捧
１６
山东大学学报（理学版）
第４１卷
最好位置之问的距离． 粒子通过动态跟踪两个优化值来更新其速度和
（４）计算粒子的适应度． （２）比较种群粒子的适应度值，适应度值最小
位置：—个是粒子ｉ从初始到当前位置搜索的局部最 优解，只＝［Ｐ１．，如，…Ｐ。］；另一个是粒子种群目前
＊。，…硒】，飞行速度表忝务必爨酢＝￡％，‰，… 物】。每个牧子都由适应度函数决定其适应壤，并记
录目前为炽自身的最好位置ｎ和种群的最好位置 Ｐｌ，每个靛予壤据下列信惠改变熬渡蕊警嘉蓦氆置：国
利用ｂ删优化方法可以把上述最优分类面
蠲越转诧为其对偶辩繇：
ｊ ｌ Ｉ ｆ
ｉ＝１，２，…ｌ
哩畴；娶蓬雏辩ｎ礴《藏’萼）一委≈
第４ｌ卷
第垃期
￥ｕｐｐ．２
Ⅷ．４ｌ
山东大学学报（理学版） ＪＯＵＲＮＡＬ ＯＦ ＳＨＡＮＩＸ）ＮＧ ＵＮＩＶＥＲｓｒｒＹ