浅谈优化算法

于

兰，宋晓君，哈尔滨电力职业技术学院。

作者简介：［摘要］随着工程问题复杂性的提高，限制因素的增多，常规的优化算法已无法解决。受到生物免疫等理论的启

发，一些非传统的优化手段逐渐发展起来，通过仿照相应的机理而设计出的算法可以找到某些复杂系统的最优解。

［关键词］优化；最优解［中图分类号］ＴＰ３９３．０２［文献标识码］Ａ［文章编号］１００９－５４８９（２０１１）０７－０２９４－０１

最优化是一门应用相当广泛的科学，讨论决策问题的最佳选择之特性，构造寻求最优解的计算方法，研究这些计算方法的理论性质及实际计算表现。伴随着计算机的高速发展和优化算法的进步，规模越来越大的优化问题得到解决。因为最优化问题广泛鉴于经济计划、工程设计、生产管理、交通运输、国防的重要领域，并已受到政府部门、科研机构和产业部门的高度重视。

1、局部搜索与经典优化算法

在函数优化中，常利用距离的概念通过附加扰动来构造邻域函数，采用不同的概率分布如高斯（分布、柯西分布、均匀分布等）或下降策略，将实现不同性质的状态转移。

局部搜索算法是基于贪婪思想利用邻域函数进行搜索的，它通常描述为从一个初始解出发，利用邻域函数持续在当前解的邻域中搜索比它更好的解，若能够找到这样的解，就把它作为新的当前解，然后重复上述过程否则结束搜索过程，并以当前解作为最终解。局部搜索算法尽管具有通用易实现的特点，但搜索性能完全依赖于邻域函数和初始解。邻域函数设计不当或初始解选取不合适，则算法最终的性能会很差。

经典的优化方法根据决策变量、目标函数和要求不同，通常将问题划分为线性规划、非线性规划以及随机规划、非光滑规划、多目标规划等，相应的有一些较成熟的常规算法，如应用于线性规划问题的单纯形法、共扼梯度法、序列二次规划法等，应用于整数规划问题的分支定界法等。这些方法一般有较严格的数学理论，但当模型复杂的时候，如变量的维数多、约束方程数多、非线性强等，不能用显示方程表达时，这些方法往往不能进行有效求解，或者求解的时间过长，如组合优化问题中的组合爆炸或者求解的效果差，如陷入局部极值、初始值直接影响寻优的结果等。

2、现代启发式算法

现代启发式算法是一类随机型的全局搜索算法，只需要适应度信息而无需问题其它特殊信息，以及算法表现出的高效的全局优化特性，为获得复杂问题的全局最优解提供了新的思路和手段，在诸多领域得到广泛的关注和应用。这类算法中包括有模拟退火、进化算法、禁忌搜索、免疫算法、粒子群优化算法以及蚁群优化算法等。

2.1模拟退火。模拟退火法的灵感源于固体晶体的物理退火过程。在物理上的退火过程，一个固体首先被熔化，然后缓慢地冷却，这个冷却的过程是在一个温度比较低的条件下进行的，用比较长的时间来获得一个处于最小能量状态的完美的晶格结构。把这个物理过程转换为针对组合优化问题的局部搜索算法，它把问题的解集关联到物理系统的状态上，把目标函数对应固体的物理能量，而最优解对应于最小能量状态。

2.2进化计算。进化计算的研究起源于世纪年代末，成熟于20世纪80年代。在20世纪60年代中叶，Holland 提出遗传算法，Rechenberg 和Schwefel 提出进化策略，Fogel 提出了进化规则，形成进化算法的三大主流研究方向。这三种算法在利用进化机制提高计算机求解问题能力的目标和基本思路上是一致的，但是在具体做法上则有所区别，甚至对于一些基本问题的观点有根本上的分歧。遗传算法强调染色体的操作，进化策略强调个体级的行为变化，而进化规划在强调种群级上的行为变化。这三种算法是彼此独立发展起来的，可以用来解决优化和机器学习等问题。进化算法的两个主要特点是群体搜索策略及群体中

个体之间的信息交换，其优越性主要表现在首先，进化算法有较

好的全局寻优性能，能以很大的概率找到全局最优解其次，由于算法固有的并行性，进化算法非常适合于并行计算，进化算法采用自然进化原理的启发机制，能够在有限的时间内得到问题合理的解，此外，算法的可扩展性好，且易于同其他技术混合等因素。进化算法己经在最优化、机器学习和并行处理等领域得到了越来越广泛的应用。

2.3禁忌搜索。禁忌搜索，它是一种全局逐步寻优算法，是对人类智力过程的一种模拟。算法通过引入一个灵活的存储结构和相应的禁忌准则来避免迂回搜索，并通过藐视准则来赦免一些被禁忌的优良状态，进而保证多样化的有效探索以最终实现全局优化。相对于模拟退火和进化计算，是具有不同搜索特点的又一种现代启发式算法。

简单禁忌搜索算法的步骤可描述如下：（1）给定算法参数，随机产生初始解，置禁忌表为空；（2）判断算法终止条件是否满足若是，结束算法并输出优化结果否则，继续下一步骤；（3）利用当前解的邻域函数产生其所有或若干邻域解，并从中确定若干候选解；（4）对候选解判断藐视准则是否满足？若成立，用满足藐视准则的最佳状态y 替代x 成为新的当前解，即x=y ，并用与y 对应的禁忌对象替换最早进入禁忌表的禁忌对象，同时用y 替换“best so for ”状态，然后转步骤；（6）否则，继续一下步骤；（5）判断候选解对应的各对象的禁忌属性，选择候选解集中非禁忌对象对应的最佳状态为新的当前解，同时用与之对应的禁忌对象替换最早进入禁忌表的禁忌对象元素；（6）转步骤（2）。

2.4免疫算法。免疫是生物体的特异性生理反应，由具有免疫功能的器官、组织、细胞、免疫效应分子及基因等组成。免疫系统通过分布在全身的不同种类的淋巴细胞识别和清除侵入生物体的抗原性异物。当生物系统受外界病毒侵害时，便启动自身的免疫系统，其目标是尽可能保证整个生物系统的基本生理功能得到正常运转。当人工免疫系统受到外界攻击时，内在的免疫机制被启动，其目标是保证整个智能信息系统的基本信息处理功能正常运作，免疫算法加，认具有良好的系统应答性和自主性，对干扰具有较强维持系统自平衡的能力，自我—非自我的抗原识别机制使免疫算法具有较强模式分类能力。此外，免疫算法还模拟了免疫系统的学习、记忆、遗忘的知识处理机制，使其对分布式复杂问题的分解、处理和求解表现出较高的智慧性和鲁莽性。

在实际中，问题的求解总是和问题本身的特点及其条件联系在一起的，免疫算法解决问题也遵循这样的思路。首先，需要对所求解的问题进行具体分析，从中提取出最基本的特征信息其次，对特征信息进行处理，以将其转化为求解问题的一种方案最后，将此方案以适当形式转化成免疫算子以实施具体的操作。

3、结论

优化是十分复杂的问题，很多组合优化和全局优化往往为NP —Hard 问题。对于连续优化问题，当目标函数非凸，或可行区间非凸时，会有多个局部最小解。而当目标函数性状呈病态时，也会因数值计算难免的误差而导致优化失败。随着计算复杂性理论的发展,人们认识到,要解得复杂问题的精确最优解,其计算代价太高了,实际应用中能得到近似解或满意解便可。这一认识随机优化算法的发展提供了机遇。

浅谈优化算法

于兰，宋晓君

（哈尔滨电力职业技术学院，黑龙江哈尔滨150030）

２９４二

○一一

年第七期

华章

M a g n i f i c e n t W r i t i n g