常用最优化方法评价准则

常用无约束最优化方法评价准则

方法算法特点适用条件

最速下降法属于间接法之一。方法简便，但要计算一阶偏导

数，可靠性较好，能稳定地使函数下降，但收敛

速度较慢，尤其在极点值附近更为严重

适用于精度要求不高或用于对

复杂函数寻找一个好的初始

点。

Newton法属于间接法之一。需计算一、二阶偏导数和Hesse

矩阵的逆矩阵，准备工作量大，算法复杂，占用

内存量大。此法具有二次收敛性，在一定条件下

其收敛速度快，要求迭代点的Hesse矩阵必须非

奇异且定型（正定或负定）。对初始点要求较高，

可靠性较差。

目标函数存在一阶\二阶偏导

数，且维数不宜太高。

共轭方向法属于间接法之一。具有可靠性好，占用内存少，

收敛速度快的特点。

适用于维数较高的目标函数。

变尺度法属于间接法之一。具有二次收敛性，收敛速度快。

可靠性较好，只需计算一阶偏导数。对初始点要

求不高，优于Newton法。因此，目前认为此法是

最有效的方法之一，但需内存量大。对维数太高

的问题不太适宜。

适用维数较高的目标函数

（n=10～50）且具有一阶偏导

数。

坐标轮换法最简单的直接法之一。只需计算函数值，无需求

导，使用时准备工作量少。占用内存少。但计算

效率低，可靠性差。

用于维数较低（n<5）或目标函

数不易求导的情况。

单纯形法此法简单，直观，属直接法之一。上机计算过程

中占用内存少，规则单纯形法终止条件简单，而

不规则单纯形法终止条件复杂，应注意选择，才

可能保证计算的可靠性。

可用于维数较高的目标函数。

常用约束最优化方法评价标准

方法算法特点适用条件

外点法将约束优化问题转化为一系列无约束优化问题。

初始点可以任选，罚因子应取为单调递增数列。

初始罚因子及递增系数应取适当较大值。

可用于求解含有等式约束或不等

式约束的中等维数的约束最优化

问题。

内点法将约束优化问题转化为一系列无约束优化问题。

初始点应取为严格满足各个不等式约束的内点，

障碍因子应取为单调递减的正数序列。初始障碍

因子选择恰当与否对收敛速度和求解成败有较大

影响。

可用于求解只含有不等式约束的

中等维数约束优化问题。

混合罚函数法将约束优化问题转化为一系列无约束优化问题，

用内点形式的混合罚函数时，初始点及障碍因子

的取法同上；用外点形式的混合罚函数时，初始

点可任选，罚因子取法同外点法相同。

可用于求解既有等式约束又有不

等式约束的中等维数的约束化问

题。

约束坐标轮换法由可行点出发，分别沿各坐标轴方向以加步探索

法进行搜索，使每个搜索点在可行域内，且使目

标函数值下降。

可用于求解只含有不等式约束，

且维数较低（n<5），目标函数的

二次性较强的优化问题。

复合形法在可行域内构造一个具有n个顶点的复合形，然

后对复合形进行映射变化，逐次去掉目标函数值

最大的顶点。

可用于求解含不等式约束和边界

约束的低维优化问题。