最优化方法

最优化方法学习体会

敖成凯

1107010265

应数111

在国民经济各部门和科学技术的各个领域中都普遍存在着一些问题，然而解决这些问题可以运用最优化方法，我很幸运在大三的时候能学习到它，让我知道最优化方法是一个重要的数学分支，它所研究的问题是讨论在所有方案中什么样的方案达到事先规定的最优目标的方案，它所利用的方法便是最优化方法。

随着社会的发展，计算机广泛应用的今天，运用最优化解决问题的领域不断扩大，深度不断深化，使得最优化也不断地得到普及和发展。固学习最优化显得非常有必要，在学习过程中我们以方法为主，不追求理论的系统性和完整性，注重实用性和先进性一级结构模块化。

在整个学习过程前，我们已经具备了数学基础知识。再学习过程中，我们充分利用其实用性，将实际问题转化为最优化问题，然后对问题求解。在书中的有许多例子让我们得以领悟，又在电脑上不断实习和运用，使得我们在注意实用性的同时又得到了思维的启迪。

下面介绍下我学习到的知识（个人觉得最优化和运筹学有关）：

1、一般线性规划问题的标准形式

1

min

n j j j c x =∑ 1..,1,...,,0,

1,...,.

n ij j i j j s t a x

b i m x j n ===≥=∑

我们学习运用松弛变量将一般问题化为标准问题；同时掌握基本可行解的存在问题，通过学习和证明线性规划定理（1若有可行解，则一定有基本可行解。2若有最有解，则一定有最优可行解。）

2、熟练掌握（对偶）单纯形法、大M 法和灵敏度分析的概念及其计算步骤。 单纯形法是一种是用方便、行之有效的重要算法，它已成为线性规划的中心内容。其计算步骤如下：

1）选择进基变量

2)选择离基变量

3)旋转运算

4)若底行元素均为非负，算法终止，否则会到1）。

大M 法：在约束中增加人工变量a x ，同时修改目标函数，加上罚项T a Me x ，其中M 是很大的正数，这样，在极小化目标函数的过程中，由于M 的存在，将迫使人工变量离基。

对偶单纯行法：可以从另一角度考虑问题。

灵敏度分析：在原有条件下的问题，在新加条件后，看原来结果是否利用。

3、掌握最速下降法的概念及其算法，并且能够讨论最速下降算法的收敛性。掌握牛顿法，能够熟练运用牛顿迭代公式：(1)()2()()()()k k k k x x f x x x +=-∇- ，掌握共轭梯度法及其相关结论，以及其收敛性的讨论。

最速下降法：迭代公式为(1)()()k k k k x x d λ+=-。

共轭梯度法：共轭梯度法是把共轭性与最速下降法相结合，利用已知点处的梯度构造一组供各方向，并沿这组方向进行搜索，求出目标函数的极小点，根据共轭方向的基本性质，这种方法具有二次终止性。

牛顿修正法：对于原始牛顿法和阻尼牛顿法都有共同缺点，一是可能出现

Hesse 矩阵奇异的情形，因此不能确定后继点；二是即使 2()f x ∇非奇异，也未

必正定，因而牛顿方向不一定是下降方向，这就可能导致算法失效。

4、约束非线性规划中，寻求最优条件，解决二次规划问题，掌握可行方向法，惩罚函数法，等等。

二次规划问题属于最简单的约束非线性规划问题，约束为线性的而目标函数是二次函数的最优化问题。这里提的一个线性互补问题，运用到Lemke方法。

可行方向法：把无约束极小化问题的下降迭代算法的思路推广至约束极小化问题时，在每个迭代点处，应寻找一个下降可行方向然后确定沿此方向移动的步长，得到下一个迭代点。这里学到了Zoutendijk可行方向法。

惩罚函数法：有三种方式。外点法，内点法，乘子法。

序列二次规划法：当解已经得到一个迭代点时，想要得到下一个更好的迭代点时，我们就在问题得到一个迭代点处的近视模型特别是二次规划模型替代，以一序列二次规划的解逼近的解。

5、在多目标规划中运用偏离和多目标规划解的概念，掌握多目标线性规划的解法。

6、在离散性优化问题中掌握线性整数规划和0-1规划的隐枚举法。

7、运用MATLAB解线性规划例子，无约束非线性规划例子，约束非线性规划例子。

在这一个学期学习过后，我掌握了一些最优化的基本方法，学会了MATLAB 的运用，数学知识可以可以解决实际问题，只需要把实际问题转化为数学模型，利用最优化方法寻求我们想要的最好解决结果。

其实，在这时期的学习过程，我遇到过许多的困难，看不懂的定理定义，不会写的代码，想不通的计算过程，但是在不断看书，上网查讲解，找资料，我渐渐地把困难解决，使得我的数学知识得到巩固，使我在生活中遇到有关数学的问题能够自己解决。

社会在发展，我们同样需要进步，只有不断学习，才能与世界同步。最优化方法的学习，让我巩固了学过的运筹学，同时在数学建模上有很大的帮助，也许在以后的工作中，我可以利用它解决我工作中需要寻求得最有最优方案。

2014.6.6