第五章 无约束非线性规划[1]

故驻点（０，０）不是极值点，而是一个鞍点
极值存在的条件
例3 试求函数f(x1,x2)=2x12-8x1+2x2２-4x2+20的 极值和极值点． 解：令
f ( x1 , x2 ) 4 x1 8 0 x1 f ( x1 , x2 ) 4 x2 4 0 x2
Hale Waihona Puke Baidu
得（2,1）点为驻点
x X
MP的可行解或可行点
向量化表示
令
g( x) ( g1 ( x),...,g p ( x))T
h( x) (h1 ( x),...,hp ( x))T ，
g : R n R p , h : R n R q ，那么(UMP)可简记 其中，
为
m i n f ( x ) s .t . g(x) 0 min f ( x ) 或者 x X h( x ) 0
f ( X *) f ( X *) f ( X *) 0 x1 x2 xn 5.1
或
f ( x*) 0
5.2
极值存在的条件
其中，
f ( X *) f ( X *) f ( X *) 0 f ( x*) , , , x x2 xn 1
f ( x); gi ( x), i 1,..., p; hj ( x), j 1,...,q : Rn R ,
如下的数学模型称为非线性规划模型 (UMP)：
m i n f ( x ) s .t . g i ( x ) 0, i 1,..., p h j ( x ) 0, j 1,...,q
4 x13 2 x1 x2 x32 2 2 f ( x) 6 x2 x1 4 x3 6 x3 4 x2 2 x1 x3
极值存在的条件
又因为 2
f 2 f 2 f 12x12 2 x2 , 2 x1 , 2 x3 2 x1 x2 x1 x3 x1 2 f 12x2 , 2 x2
凸函数的性质
定理 5.2.1 设 S R n 是非空凸集。 （1） 若 f : Rn R 是 S 上的凸函数， 0 ，则 f 是 S 上 的凸函数； n （2） 若 f 1 , f 2 : R R 都是 S 上的凸函数，则 f 1 f 2 是 S 上的凸函数。
定理 5.2.2 设 S R n 是非空凸集， f : Rn R 是凸函数， c R ，则集合
Z H ( x*)Z 0
T
(5.3)
则f(x)在Ｘ取严格局部极小值，此处 Ｈ （ x*) 为 f(x) 在 点 Ｘ ＊ 处 的 海 赛 （Hesse)矩阵．
极值存在的条件
此 处 Ｈ （ x*) 为 f(x) 在 点 Ｘ ＊ 处 的 海 赛 （Hesse)矩阵．
2 f ( x*) 2 x1 2 f ( x*) H ( x*) x x 2 1 2 f ( x*) xn x1 2 f ( x*) x1x2 2 f ( x*) 2 x2 2 f ( x*) xn x2 2 f ( x*) x1xn 2 f ( x*) x2 xn 2 f ( x*) 2 xn
f (2,1) 2 2 8 2 2 1 4 1 20 10
2 2
凸函数和凸规划
凸函数及其性质
凸规划及其性质
凸函数及其性质
定义 5.2.1 设 S R n 是非空凸集， f : S R ，如果对任意的 (0,1)
f (x 1 (1 ) x 2 ) f ( x 1 ) (1 ) f ( x 2 ) ， x 1 , x 2 S 有
则称 f 是 S 上的凸函数，或 f 在 S 上是凸的。如果对于任意的 (0,1) 有
f (x (1 ) x ) f ( x ) (1 ) f ( x ) ，
1 2 1 2
x1 x 2 则称 f 是 S 上的严格凸函数，或 f 在 S 上是严格凸的。
若- f 是 S 上的（严格）凸函数，则称 f 是 S 上的（严格） 凹函数，或 f 在 S 上是（严格）凹的。
例3
非线性规划问题
某公司经营两种设备，第一种设备每 件售件 30 元，第二种设备每件售件 450 元，根据统计，售出一件第一种 设备所需要的营业时间平均是 0.5 小 时，第二种设备是（2+0.25x2）小 2 时，其中 x 是第二种设备的售出数 量。已知该公司在这段时间内的总营 业时间为 800 小时，试决定使其营业 额最大的营业计划。
2 f ( x1 , x2 ) 4 0, 2 x1 2 f ( x1 , x2 ) 4 2 x2 2 f ( x1 , x2 ) 2 f ( x1 , x2 ) 0 x1x2 x1x2
极值存在的条件
其海赛矩阵之行列式
4 0
0 4
16 0
可知（2,1）点为极小点,其极小值为:
， 则称 x * 是(MP)的严格局部最优解或严格局部极小点， f ( x * ) 是(MP)的严格局部最优值或严格局部极小点。 称
f ( x ) f ( x), x N ( x ) X , x x
* *
*
极值存在的条件
１必要条件：设Ｒ是n维欧氏空间的某 一区域，f(X)为定义在Ｒ上的实值函数， Ｘ＊是区域Ｒ的内点，若f(Ｘ）在Ｘ＊处 可微，且在该点取得局部极小值，则必 有

t
min [ i (c1 c 2 t i e c3t i )]2
i 1
n
例2 构件容积问题
设计一个右图所示的由圆锥和圆柱面 围成的构件，要求构件的表面积为 S， 圆锥部分的高 h 和圆柱部分的高 x2 之 比为 a。确定构件尺寸，使其容积最 大。
x3
x2 x1
max V (1 a / 3)x12 x2 2 s.t. x1 x12 a 2 x2 2x1 x2 x12 S x1 0, x2 0
x1 2 x1 0 f ( x1 , x2 ) 2 x2 0 x2
得 （ ０ ， ０ ） 点 为 驻 点 ， x1=0 是 一 无 函 数 f(x1,0)=-x12的极大点，而x2=0却是一元函数 f(0,x2)=x22的极小点，即：
f ( x1,0) f (0,0) f (0, x2 )
H S ( f , c) x S f ( x) c
是凸集。
凸函数的判定
定理 5.2.3 设 S R n 是非空开凸集， f : S R 可微，则 （1） f 是 S 上的凸函数的充要条件是 f ( x 1 )T ( x 2 x 1 ) f ( x 2 ) f ( x 1 ) ， x 1 , x 2 S f ( x 1 ) f ( x 1 ) T ,...., ) 是函数 f 在点 x 1 处的一阶 其中 f ( x 1 ) ( x 1 x n 导数或梯度。 （2） f 是 S 上的严格凸函数的充要条件是 f ( x 1 )T ( x 2 x 1 ) f ( x 2 ) f ( x 1 ) ， x 1 , x 2 S , x 1 x 2
为函数f(x)在Ｘ＊处的梯度，梯度的方向 为f(X)的等值面（等值线）的法线方向， 沿这个方向函数值增加最快． 满足上式的点称为驻点，在区域内部， 极值点必为驻点；但驻点不一定是极值 点．
极值存在的条件
２充分条件：设Ｒ是n维欧氏空间的某一 区域，f(X)为定义在Ｒ上的实值函数，Ｘ ＊ 是区域Ｒ的内点，f(Ｘ）在Ｒ上二次连 续可微，若f(Ｘ）在Ｘ ＊ 且处满足（5．１） 或（5．２）式，且对任何非零矢量均有
所以
2 f 4, x2 x3
2 f 6 2 x1 2 x3
12x12 2 x2 2 f ( x) 2 x1 2 x3
2 x1 12x2 4
2 x3 4 6 2 x1
即为Hesse矩阵
极值存在的条件
例 2 试 研 究 函 数 f(x1,x2)=x22-x1 ２ 的 驻 点． f ( x1 , x2 ) 解：令
第五章 无约束非线性规划
(Nonlinearly Unconstrained Programming)
非线性函数和非线性规划的概念（理 解） 最优性条件(掌握） 一维搜索（掌握） 最速下降法与共轭梯度法（掌握） 牛顿法与拟牛顿法（掌握）
一非线性函数和非线性规划的概念
线性函数:(1) f(kx)=kf(x) (2) f(x1+x2)=f(x1)+f(x2) 则非线性函数就是不满足以上两个条件的函 数．
通 常 情 况 下 ， 目 标 函 数 f(x) 和 约 束 条 件 hi(X)和gi(X)为自变量Ｘ的非线性函数
非线性规划
g ( x) 0, i 1,..., p 约束集或可行域 n i X x R h j ( x) 0, j 1,...,q
最优解和极小点
定义 5.1.2 对于非线性规划(MP)，若 x * X ，并且存在 x 的一个领域
*
N ( x * ) x R n x x * ( 0, R) ，使


f ( x* ) f ( x), x N ( x* ) X ，
x * 是(MP)的局部最优解或局部极小点，称 f ( x * ) 是 则称 (MP)的局部最优值或局部极小点。如果有
例3
非线性规划问题
解：为其建立数学模型： 设该公司计划经营第一种设备 x1 件，第二种设备 x2 件，根据题意，其 其数学模型为：
MAX x1 , x2 0
f ( X ) 30x1 450x2
2 2
0.5 x1 2 x2 0.25x 800
非线性规划
x ( x1 ,..., xn )T R n ， 设
当p=0,q=0时，称为无约束非线性规划或者无约束最优 化问题。
否则，称为约束非线性规划或者约束最优化问题。
最优解和极小点
定义 5.1.1 对于非线性规划(MP)，若 x * X ，并且有 f ( x * ) f ( x), x X 则称 x * 是(MP)的整体最优解或整体极小点，称 f ( x * ) 是 (MP)的整体最优值或整体极小值。如果有 f ( x * ) f ( x), x X, x x * 则称 x * 是(MP)的严格整体最优解或严格整体极小点，称 * f ( x ) 是(MP)的严格整体最优值或严格整体极小值。
(5.4)
极值存在的条件
例１ 求目标函数
f ( x) x 2x 3x x x 4x2 x3 x x
4 1 3 2 2 3 2 1 2
2 1 3
的梯度和Hesse矩阵
解:因为 f 3 2 4 x1 2 x1 x2 x3 x1 ,所以
f 2 2 6 x2 x1 4 x3 x2 f 6 x3 4 x2 2 x1 x3 x3
非线性规划：如果目标函数或约束条件中， 有一个或多个是变量的非线性函数，就称为 非线性规划．
非线性规划问题
例1 曲线的最优拟合问题
已知某物体的温度 与时间 t 之间有如下形 式的经验函数关系： c1 c2 t e c3t (*) 其中 c1 ， c2 ， c3 是待定参数。现通过测试获 得 n 组 与 t 之间的实验数据 ( t i , i ) ，i=1， 2，…,n。试确定参数 c1 ， c2 ， c3 ，使理论 曲线(*)尽可能地与 n 个测试点 ( t i , i ) 拟 合。