最优化理论与应用实验报告

最优化理论与应用实验报告

季晓南

实验目的：

实践所学的最优化方法。

工程描述：

本工程使用编写,主要包括以下几个文件:

: 实现最优化方法的基本步骤

: 实现非精确一维搜索

: 实现基本函数操作

: 工程的基本配置

: 主要函数的声明

具体请参考每个函数的注释。

● 代码可读性高，模块化强，采用了一致的代码规范，尽管这在一定程度上牺牲了效率，

但本着实验的目的，作者坚持这样做了。

● 用户可以通过改变中的( )和( )来改变输入函数。

● 对于不同的标准，如非精确一维搜索和，校正以及共轭梯度法中的和公式，用户都可以

通过改变中的宏定义实现。

● 每次实验的结果和参数都会自动保存，这样有助于分析数据。

数据分析：

给定二次函数 ()x 22121f()=x +3x 2

（一）一维搜索

1. 非精确一维搜索参数对迭代次数的影响

由准则：

T k k k k k f(x +s f(x +g s ρ≤））

()1 (1)T k k k k k f(x +s f(x +g s ρ≥-）） ()2

可知:越大的ρ对应着越精确的搜索区间，取0.3ρ=使用再开始的共轭梯度法求解，得到迭代次数为，取0.4ρ=得到迭代次数为次，见同文件夹下的数据文件。

2. 准则与准则的比较

由准则

T T k+1k k k g d g d σ≥ ()'

2

σ=，打开宏，可以发现使用再开始共轭梯度法时，两次迭代就得到解。

在中修改0.5

见同文件夹下的数据文件。

3．非精确一维搜索参数对一维搜索速度的影响

对二次函数，参数的选择对一维搜索的参数选择是不敏感的。

（二）不同方法的比较

．最速下降法

最速下降法的效率是最低的，因为测试函数的等值线是一个椭球，搜索方向形成锯齿状曲线，故收敛速度慢。

2．共轭梯度法

若选择合适的参数，使用共轭梯度法，具有二次收敛性。在准则下，分别采用和公式生成共轭方向，发现要比的效果好。

3．拟牛顿方法

因拟牛顿法也是共轭方向法，故选择合适的参数，拟牛顿法也有二次收敛性。在准则下，分别采用和校正，发现要比要好。