第一章 非线性规划理论(1)

第一章非线性规划理论（1）

第一节非线性优化规划模型及其解的概念, 第二节凸函数与凸规划, 第三节下降迭代算法

第四节一维搜索方法

第一节非线性优化规划模型及其解的概念

线性规划的目标函数和约束条件都是其自变量的线性函数，如果目标函数或约束条件中含有自变量的非线性函数，则这样的规划问题就是非线性规划。有些实际问题可以表示成线性规划，但有些实际问题则需要用非线性规划模型来表达。

例1 求，使得

（1）

该数学模型中目标函数是一个二次函数，因此它是一个非线性规划。

又如：求，使得

（2）

是一个非线性规划。

1.1 非线性规划问题的数学模型

非线性规划数学模型的一般形式为

（3）

其中是维欧氏空间中的向量（点），是目标函数，为约束条件，、都是元实函数。

说明：

（1）由于我们有，当需使目标函数极大化时，只需使其负值极小化即可，因而仅考虑极小化的情况不失一般性。

（2）若某约束条件是“”不等式，仅需要在约束两端乘以“－1”，即可将这个约束变为“”。又由于约束等价于

因而我们可以将非线性规划模型写成下面的形式：

（4）

或

（5）

模型中的称为非线性规划的可行域，而中的元素称为可行解。

1.2 二维问题的图解法

当只有两个决策变量时，求解非线性规划也可以像线性规划那样用图解法。

例2

解：先画出可行域

X2

A

B

C

D

O x1

可行域

等值线

最优解

画出抛物线

，

即图中的曲线，再画出

直线，即图中的

直线，得可行域。

画出等值线

，图中有一条等值线与抛物线

交于B点，当动点从A点出发延

抛物线移动时，动点从A移向B时，目标函数值下降，动点从B移向C 时，目标函数值上升，所以在可行域范围内B点的函数值最小，所以B 点是一个极小点。当动点由C点向D点移动时，目标函数再次下降，在D（4，1）点目标函数值最小，所以D点是最优解。

本例中，B点称为局部极小点，而D点称为全局极小点，即最小点。

1.3 非线性规划的基本概念

1.3.1关局部极小和全局极小的定义

设为定义在维欧氏空间的某一个区域上的元实函数，对于，如果存在某一个使得所有与距离小于的都有，则称为在上的局部极小点，而为局部极小值。如果当时，有，则称为在上的严格局部极小点，而为严格局部极小值。

设为定义在维欧氏空间的某一个区域上的元实函数，如果存在，对于所有，都有，则称为在上的全局极小点，而为全局极小值。如果当时，有，则称为在上的严格全局极小点，而为严格全局极小值。

若将上述的不等式反向，即可得到相应极大点和极大值的定义。

1.3.2 多元函数极值点存在的条件

我们知道对于二阶可微的一元函数极值点存在的条件为

必要条件：

充分条件：对于极小点：且

对于极大点：且

对于无约束多元函数，其极值点存在的必要条件和充分条件与一元函数类似。

1、极值点存在的必要条件

下面的定理1给出了元实函数在点取得极值的必要条件。

定理1 设是维欧氏空间的上的某一个开集，在上有连续的一阶偏导数，且在取得局部极值，则必有

（6）

或写成（7）

此处（8）

为在点处的梯度。满足条件

的称为的驻点或稳定点。

注：由数学分析知识可知，函数的梯度有两个重要性质：

（1）函数在某点的梯度与函数过该点的等值面（或等值线）正交；

（2）梯度向量的方向是函数值增加最快的方向，而负梯度向量的方向是函数值减少最快的方向。

2、二次型

二次型是的二次齐次函数

（9）

式中，即矩阵

（10）

为对称矩阵。

一个二次型唯一对应一个对称矩阵，反之一个对称矩阵也唯一确定一个二次型。

若对于任意，实二次型，则称二次型是正定的，也称对称矩阵为正定的；

若对于任意，实二次型，则称二次型是负定的，也称对称矩阵为负定的；

若对于任意，实二次型，则称二次型是半正定的，也称对称矩阵为半正定的；

若对于任意，实二次型，则称二次型是半负定的，也称对称矩阵为半负定的。

由线性代数知道，实二次型是正定（对称矩阵为正定）的充要条件是对称矩阵左上角各阶主子式都大于零，即

（11）

实二次型是负定（对称矩阵为负定）的充要条件是对称矩阵左上角各阶主子式负正相间，即

（12）

（13）

3、极值点存在的充分条件

下面的定理2给出了元实函数在点取得极小值的充分条件。

定理2 设是维欧氏空间的上的某一个开集，在上具有连续的二阶偏导数，若，且正定，则为的严格局部极小点。

其中（14）

为在点处的海赛（Hesse）矩阵。

第二节凸函数与凸规划

2.1 凸函数与凹函数

1、定义

设是定义在维欧氏空间的上的某一个凸集上的函数，若，，恒有

（15）

则称为定义在的凸函数。

若，，恒有

（16）

则称为定义在的严格凸函数。

若将式子（15）和（16）中不等号反向，即可得出凹函数和严格凹

函数的概念。容易看出，若是凸函数（严格凸函数），则为凹函数（严格凹函数），凸函数和凹函数的几何意义如图所示。

O

O

凸函数凹函数

2、性质

性质1 设是定义在上的凸函数，，则也是凸函数。

性质2 设在凸集上的函数，是任意实数，则水平集

是凸集。

3、凸函数的判别

要判定一个函数是否为凸函数，可以直接使用凸函数的定义，也可以采用下面的判别法。

（1）一阶条件

设是维欧氏空间的上的某一个开凸集，在上可微，则为上的凸函数的充要条件是：恒有

（17）

而为上的严格凸函数的充要条件是：，恒有

（18）