非线性规划的基本概念和基本原理

f(X2)
f(x1+(1- )x2 )
f(X1)
X1
x1+(1-
)x2
X2
X
35
f ( x)
f (x(1) (1 ) x(2) )
凹函数
o x (1)
f ( x)
x ( 2)
f ( x(1) ) (1 ) f ( x(2) ) x
非凸非凹函数
o x (1)
相应不等式反号，得到相应极大点，极大值定义。
8
定义
如果X满足（P）的约束条件
(i=1,2,….m)
hi(X)=0
gj(X) 0 (j=1,2….l)
则称X En 为（P）的一个可行解。 记（P）的所有可行解的集合为D， D称为（P）可行域。
9
定义 X*称为（P）的一个（整体）最优解，如 果X* D，满足 f(X) f(X*)， X D。 定义 X*称为（P）的一个（局部）最优解，如 果X* D，且存在一个X*的邻域 N(X* ,)= 满足 f(X) f(X*)， X D N(X* ,)
30
一、凸函数的定义
设R为凸集, X (1) , X ( 2) R及 (0, 1) 若f (X (1) (1 ) X ( 2) ) f ( X (1) ) (1 ) f ( X ( 2) ) 则称f ( X )为R上的凸函数. 若f (X (1) (1 ) X ( 2) ) f ( X (1) ) (1 ) f ( X ( 2) )
10
X En X- X* < , >0
局部最优解
f(X)
整体最优解
11
2.梯度向量 f(X)=grad f(X) =(f/x1 ,f/x2 ,…..,f/xn)T 区间内连续的梯度的性质： ①在某点的f(X（0）)必与函数过该点的等值面的 切平面相垂直。 ②梯度方向是函数值增加最快的方向（函数变化 率最大的方向） 负梯度方向是函数值减小最快的方向。
第七章
非线性规划的基本概念 和基本原理
1
7.1 数学模型和基本概念
非线性规划是运筹学中包含内容最多， 应用最广泛的一个分支，计算远比线性 规划复杂。
2
一、数学模型 例 某单位拟建一排 厂房，厂房建筑平面如图 所示。由于资金及材料的 限制，围墙及隔墙的总长 度不能超过80米。为使建 筑面积最大，应如何选择 长宽尺寸？
* 若存在 X * S , 0 ，令 N { X | X X , 0} ， * * X S N ( X * ), X X * 都有 f ( X ) f ( X ) ， 则称 X 为 f ( X * ) 为严格局部极小值。 该问题的严格局部极小点，
驻点x*=(1,1,-2)
4
H(X) =2f(X) =
0
10 2
2
2 2
27
0 2
4
H(X) =2f(X)=
0
10
2
2
0
2
4 各阶主子式：4>0, 4 0 0 10 2 2 =24>0 0
2
0 10
2Hale Waihona Puke =40>0 H(X)正定， X*=(1,1,-2)， f(X*)=0
28
2
2
2
例 利用极值条件解无约束非线性规划问题
14
2f/xnx1 2f/xnx2 …..

2f(X)是对称矩阵。（ f(X)二阶偏导数连续时，混 合偏导数和取导数的顺序无关） f(X)是二次函数，则可写成 f(X)＝1/2XTAX+BTX+C 则 2f(X)＝A （与X的位置无关）


15
4、正定矩阵、负定、半定、不定 正定：特征值>0；各阶主子式>0(Ai>0) 半正定：特征值≥0；detA=0, Ai ≥ 0
解 因为
1 3 1 3 2 min f ( X ) x1 x2 x2 x1 4 3 3 f f
x1 x12 1 ，
2 1
2 x2 2 x2
2 0 f (X3) 0 2
2
2 0 f (X4) 0 2
解： a 5 0 11
5 A 2 2 2
5 2 26 0 2 6
2
6 0 80 0 0 4
A负定
17

例：判定正定性
2 5 2 A 2 6 0 0 4 2 1 0 1 B 1 0 3 1 3 0
5
一般模型 Min f(X)
s.t. hi(X) = 0
(i=1,2,….m)
（P）
gj(X) 0 (j=1,2….l)
X En f(X) hi(X) gj(X) 为En上的实函数。
或
(1) min f(x) g j(x) 0 ,j 1,2, ,l
目标函数 (2) 约束条件
o如果H(x) 不定的，该驻点X*就不是f(X)极值点。
22
二、极值点的必要条件和充分条件
最优性条件的研究是非线性规划理论研究的一个 中心问题。
为什么要研究最优性条件？ o本质上把可行解集合的范围缩小。 o它是许多算法设计的基础。
23
无约束问题的最优性条件 （P1） Min f(X) X En 定理3（一阶必要条件） 设f(X)在X*点可微，则X*为（P1） 的一个局部极值点，一定有 f(X*)=grad f(X*)=0（ X*称为驻点）
负定：特征值<0； Ai <0(i为奇）, Ai >0(i为偶）
半负定：特征值≤0； detA=0，Ai ≤0(i为奇）, Ai ≥0(i为偶） 不定：特征值有> 0及< 0；除了上述情况外即为不 定。
16

例：判定正定性
2 5 2 A 2 6 0 0 4 2 1 0 1 B 1 0 3 1 3 0
x1
x2
max f ( x ) x1 x2 2 x1 5 x2 80 x1 , x2 0
f(x)为非线性函数
3
分析：设长为 x1 米， 宽为 x2 米，则有
例 设某物理过程具有如下规律
用试验法 求得ti时的 (ti )值, i 1,2, , m。 现要确定参数 x1, x2 , x3 , 使所得试验点构成的曲线与理论曲线误差平 方和为最小，且满足 x1 x2 1, x3 非负。
此时h( x ) 0事实上不起约束作用 , x *直接由 min f ( x )求得.
非线性规划的最优解可能在可行域的 任一点达到。
21
一、用海赛矩阵判断驻点的性质
o若H(x)为正定，该驻点X*是严格局部极小值点； o若H(x)为负定，该驻点X*是严格局部极大值点；
o若H(x)为半正定（半负定），则进一步观察它在 该点某邻域内的情况，可能是可能不是；
6
二、基本概念
1、全局极值和局部极值
f ( X ) 为目标函数，S 为可行域。若存在 X * S ， X S ，都 * 有 f ( X ) f ( X * )，则称 X 为该问题的全局极小点，
f ( X * ) 为全局极小值。
f ( X ) 为目标函数，S 为可行域。若有X * S , X X * ， X S ， * * 都有 f ( X ) f ( X ) ，则称 X 为该问题的严格全局极小点，
(t ) x1 x2e x3t
4
分析：
min f ( x) [ (ti ) ( x1 x2 e x3ti )]2
i 1 m
x1 x2 1 x3 0
f(x)为非线性函 数，求最小。
非线性规划： 目标函数或（和）约束条件为非线性函数 的规划。
24
无约束问题的最优性条件
（P1）
Min f(X)
X En
定理4（二阶必要条件） 设f(X)在X*点二阶可微，如果X*为 （P1） 的一个局部极小点，则有 f(X*) =0 和 H（ X* ）为半正定。
25
无约束问题的最优性条件
（P1）
Min f(X)
X En
定理5（二阶充分条件）
x2 x 1 0 2 令 f ( X ) 0 即 求得到4个驻点： x 2 x 0 2 2 1 1 1 1 X4 X1 X 2 X3 2 0 0 2 0 2 x1 2 f (X ) 0 2 x 2 2 2 0 2 0 2 2 f ( X1) f (X 2 ) 0 2 0 2
* 得到最优解x1
6
2 o

2
D(3,3)

* x2
3,
6
x1
最小值 min f ( x) f ( x* ) 2.
20
6
x2
min f ( x) ( x1 2) 2 ( x2 2) 2 x1 x2 6 0
2 o

2 6
分析：
x1
若h( x ) x1 x2 6 0, * * * x1 2, x2 2, f ( x ) 0, 最优解位于可行域内部 ,
几何解释
31
f(X)
X
32
f(X) f(X2)
f(X1)
X1
X2
X
33
f(X)
f( x1 ) +(1- ) f( x2)
f(X2)
f(x1+(1- )x2 )
f(X1)
X1
x1+(1-