西电最优化大作业

最优化大作业

学院电子工程学院

专业

学号

姓名

1.第一题

分别用牛顿法和变尺度法求解优化问题.

Minf(x)=x12-2x1x2+4x22+x1-3x2.

牛顿法

初始点选择

[2 2]T

迭代步骤

已知目标函数f(X)及其梯度g(X),Hesee矩阵G（X），终止限ε.（1）选定初始点X0；计算f0=f(X0),g0=g(X0);置k=0.

（2）计算Hesee矩阵

（3）由方程G k P k=-g k解出P k。

（4）计算X k+1=X k+P k，f k+1=f（X k+1），gk+1=g（X k+1）.

（5）判别终止条件是否满足，若满足，则打印结果。否则令k=k+1,转（2）.

实验结果如下：

变尺度法

初始点选择

[0 0]T

迭代步骤

（1）选定初始点X0；计算F0=F(X0),G0=G(X0)；选定初始矩阵H0，要求H0对称正定。置k=0

（2）计算搜索方向P K=-H K G K.

（3）作直线搜索X K=1=ls(X K+1),S K=X K+1-X K,y k=g k+1-g k。

（4）判别终止条件是否满足：若满足，则X k+1就是所求的极小点，打印，结束。否则转（5）。

（5）计算H K+1=H K+E K.

（6）K=K+1.转（2）。

实验结果如下：

2.第二题

利用外点法和内点法解下列约束问题. minf(x)=(x1-3)2+(x2-2)2

s.t. h(x)=x1+x2-4≤0

外点法

初始点选择

[2 1]T

迭代步骤

给定终止限ε（可取ε=6-

10）.

（1）.选定初始点0X ，惩罚因子01>M （可取11=M ）. 惩罚因子放大系数10=C ，置1=k .

（2）.假设已获得迭代点1-k X ，以1-k X 为初始点，求解无约束问题

),(min k M X F . 设其最优点为k X .

（3）.若εα≤)(X M k 则k X 就是所要求的最优解，打印输出))(,(k k X f X ，结束； 否则转至过程（4）.

（4）.置,1,1+==+k k CM M k k 转至过程（2）.

实验结果如下：

内点法

初始点选择

[2 1]T

算法步骤

(1)构造增广函数F(X,r k)=f（X）+r k1/g（x）。

(2)选定后初始点X0,初始障碍r1=10惩罚因子缩小系数c<1,=1.

(3)假设已获迭代点X K-1以X K-1为初始点，求解minF(X,M K).设其

最优点为X K.

(4)R/g(x) <0.001所要求的最优解，打印结果，否则转（5）

(5)置r k+1=cr k,k=k+1,转（3）

实验结果如下：

心得：

对两道问题的求解，使得我对于最优化的几种重要算法有了进一

步的理解与认知，首先，牛顿法收敛速度快,具有二次收敛的优点，但是它对初始点的要求严格，且Newton方向构造困难，计算量相当复杂，除了梯度要求以外，还要计算Hesse矩阵及逆矩阵，占用机器内存大。变尺度法（本题采用的是DFP算法），由于DFP算法对于一维搜索的不精确和计算误差的累积可能导致某一轮H k奇异，但仍不失为一种解决无约束最优化问题的最有效的方法。对于外点法，是通过一系列惩罚因子，求F(X,M k)的极小点来逼近原约束问题的最优点，而随着惩罚因子的增大，迫使惩罚项的值逐渐减小，从而使F(X,M k)的极小点沿某一轨迹接近于最优点，但要注意的是M k的取值并不是越大越好。内点法的优点在于每次迭代点都是可行点，但要适当控制步长，保证搜索在可行域内进行。通过此次的实践编程，在同学的帮助下，我进一步学会了matlab编程的方法，提高了对于专业课的认知。