第6章 北大高微讲义库恩-塔克条件

（即下等值集）必定是一个凸集合。
16
第6章 库恩 --- 塔克条件
证明：
令x1，x2为g(x)定义域上的任意两点，（其中x=(x1,...xn )） 根据约束条件有 g(x1) ≤ r, g(x2) ≤ r （1） 因为g(x)是凸函数，故有:g(tx1 +(1−t)x2)
≤ tg(x1) + (1−t)g(x2 ) ≤tr +(1−t)r = r 说明：对于是凸函数g(x)来说，如果g(x1) ≤ r, g(x2) ≤ r, 则有g(tx1 +(1−t)x2) ≤ r。 ⇒凸函数g(x)关于r的下等值集 必定是一个凸集合。
（P2'）
F.O.C. ∂z = ∂z = ∂z = 0 ∂x1 ∂x2 ∂x3
∂z = ∂z = 0 ∂s1 ∂s2
∂z = ∂z = 0
∂λ1 ∂λ2
5
第6章 库恩 --- 塔克条件
（3）关于（P1）最优解的推导 第三步：加上选择变量非负的要求。 于是，
F.O.C. 改写为：
∂z ≤0, ∂x j
)
（ 2）
(
2
)式
右
边
第
二
部
分
可
以
拆
分
为
T1
+
T
，
2
其
中
∑ T1 =
m j
∂z ∂x j
xj
≤
0
(Q 边 际 条 件
∂z ∂x j
≤
0。 且 x j
≥
0。)
∑ T2 =
m j
∂z ∂x j
xj
=
0
(Q 互 补 松 弛 条 件
∂z ∂x j
xj
=0
)
∴ T1 + T2 ≤ 0
∑ ∴
m j
∂z ∂x j
Max x
f (x1, x2,..., xn)
s.t. gi(x1, x2,..., xn) ≤ri i =1,2,...,m
x1, x2,..., xn ≥0
15
第6章 库恩 --- 塔克条件
3、对 K—T条件的理解 （1）关于极大值问题的K—T条件
命题 如果g(x)是凸函数，则g(x)≤r的水平集合
∂z ≤ 0, ∂λ i
λi ≥ 0
且 λi
⋅
∂z ∂λ
=
i
0
i = 1, 2, ..., m
13
第6章 库恩 --- 塔克条件
（2）极小值问题： 数学定理：
如果f 函数是凸函数，gi 是凹函数，则K-
T条件是极小值的充要条件。
14
第6章 库恩 --- 塔克条件
3、对 K—T条件的理解 （1）关于极大值问题的K—T条件
Q λ i ≥ 0 , ri − g i ( x ) ≥ 0 ( 根 据 不 等 式 约 束 条 件 )
m
∑ ∴ λ i ( ri − g i ( x ) ) ≥ 0 i =1
m
∑ 然 后 ， 对 于 ·不 等 式 右 边 的 λ i ( ri − g i ( x ) ) 而 言 ， i =1
∑ Q
m
m
∑ ∑ f ( x ) + λ i ( ri − g i ( x ) ) ≤ f ( x ) + λ i ( ri − g i ( x ) ) ∀ x ( 3 ')
i =1
i =1
m
∑ 首 先 ， 对 于 ·不 等 式 左 边 的 λ i ( ri − g i ( x ) ) 部 分 而 言 ， i =1
（2）关于约束条件是不等式的要求： 在（1）的基础上加入不等约束的要求
Max x
y=
f (x1, x2 , x3 )
（P1）
s.t. g1(x1, x2 , x3 )≤ r1
g 2 (x1, x2 , x3 )≤ r2
且 x1, x2 , x3 ≥ 0
3
第6章 库恩 --- 塔克条件
（3）关于（P1）最优解的推导
≥tg(x1) +(1−t)g(x2) ≥tr +(1−t)r = r 说明：对于是凹函数g(x)来说，如果g(x1) ≥ r, g(x2) ≥ r, 则有g(tx1 +(1−t)x2) ≥ r。 ⇒ 凸函数g(x)关于r的上等值集 必定是一个凸集合。
Biblioteka Baidu图示 20
4、库恩 --- 塔克充分性定理
定理：给定非线性规划
命题 如果g(x) 是凹函数，则g(x)≥r 的水平集合
（即上等值集）必定是一个凸集合。
19
第6章 库恩 --- 塔克条件
证明：
令x1，x2为g(x)定义域上的任意两点，（其中x=(x1,...xn )） 根据约束条件有 g(x1) ≥ r, g(x2) ≥ r （1） 因为g(x)是凹函数，故有:g(tx1 +(1−t)x2)
K −T条件：
∂z ≤ 0, ∂x j ∂z ≥ 0, ∂λ i
xj ≥ 0 λi ≥ 0
且
xj
⋅
∂z ∂x
=
j
0
且
λi
⋅
∂z ∂λ
=
i
0
j = 1, 2 , ..., n
i = 1, 2, ..., m
10
第6章 库恩 --- 塔克条件
（1）极大值问题： 数学定理：
如果 f 函数是凹函数，gi 是凸函数，则
Z ( x1 , x2 , ..., xn , λ1 , ..., λm )
m
∑ = f ( x1 , x2 , ..., xn ) + λi (ri − g i ( x1 , x2 , ..., xn )) i =1
K −T条件：
∂z ≥ 0, ∂x j
xj ≥ 0
且xj
⋅
∂z ∂x
=
j
0
j = 1, 2, ..., n
21
第6章 库恩 --- 塔克条件
证明：
上述极大值问题对应的拉格朗日函数可以
写为 m ∑ Z = f ( x) + λi (ri − g i ( x)) i =1
（1）
凹函数
凹函数
z(x)为凹函数
由凹函数的性质可知：过凹函数z( x)点作
切线，则在任意的x≠ x 点上，有
∑ Z（x）≤
Z(x) +
s.t. gi (x1, x2,..., xn) ≤ ri i =1,2,...,m
x1, x2,..., xn ≥ 0
9
第6章 库恩 --- 塔克条件
（1）极大值问题：
拉 格 朗 日 函 数：
Z ( x1 , x2 , ..., xn , λ1 , ..., λm )
m
∑ = f ( x1 , x 2 , ..., xn ) + λ i ( ri − g i ( x1 , x2 , ..., x n )) i =1
= −λ
i≤
0
⇒
λ i≥0
于是（2）式可改写为： λ i≥0， si ≥ 0 且si ⋅λ i= 0
(4)
由（3）式得，
∂z ∂λi
= ri
−gi(⋅) −si
=0
⇒
si = ri − gi (⋅)
于是（4）式可写成：ri −gi(⋅)≥0， λ i≥ 0 且λi（⋅ ri −gi(⋅)）=0 (5)
∂z ≤0, ∂x j
xj ≥ 0
and
xj
⋅ ∂z ∂x j
=0
j = 1, 2,3
∂z ≥ 0, ∂λi
λi ≥ 0
and
λi
⋅
∂z ∂λi
=0
i = 1, 2
⇓
⇓
⇓
边际条件 非负条件 互补松弛条件
8
第6章 库恩 --- 塔克条件
2、 K—T条件的标准形式 • （1）极大值问题：
Max x
f (x1, x2,..., xn)
(
xj
−
xj
)
≤
0
∴ z( x ) ≤ z( x ), ∀x
(3)
23
第 二 步 ： 给 定 x、λ， 要 证 明 ： f ( x ) ≤ f ( x ) ∀ x。 由 第 一 步 证 明 的 结 果 （ 3） 式 ， 即 z(x) ≤ z(x) ∀x, 再 根 据 （ 1） 式 ， 可 得
m
m
∑ ∑ f ( x ) + λ i ( ri − g i ( x ) ) ≤ f ( x ) + λ i ( ri − g i ( x ) ) ∀ x ( 3 ')
xj ≥ 0
and
∂z ≤ 0, ∂si
si ≥ 0
and
∂z = 0 ∂λi
xj
⋅
∂z ∂x j
=0
si
⋅
∂z ∂si
=0
j = 1, 2,3 i = 1, 2
(1) (2) (3)
6
第6章 库恩 --- 塔克条件
（3）关于（P1）最优解的推导
第四步：再加上不等式约束的要求（即消去si）。
由（2）式得，∂z ∂si
图示 17
第6章 库恩 --- 塔克条件
3、对 K—T条件的理解 （1）关于极小值问题的K—T条件
Min x
f (x1, x2,..., xn)
s.t. gi (x1, x2,..., xn) ≥ ri i =1,2,...,m
x1, x2,..., xn ≥ 0
18
第6章 库恩 --- 塔克条件 3、对 K—T条件的理解 （1）关于极小值问题的K—T条件
4
第6章 库恩 --- 塔克条件
（3）关于（P1）最优解的推导
第二步：
假设去掉选择变量的非负要求，于是有：
Z(x1, x2, x3, s1, s2, λ1,λ2)
= f (x1, x2, x3) + λ1(r1 − g1(x1, x2, x3) − s1) + λ2(r2 − g2(x1, x2, x3) − s2)
i =1
i =1
m
∑ 首 先 ， 对 于 ·不 等 式 左 边 的 λ i ( ri − g i ( x ) ) 部 分 而 言 ， i =1
Q λ i ≥ 0 , ri − g i ( x ) ≥ 0 ( 根 据 不 等 式 约 束 条 件 )
m
∑ ∴ λ i ( ri − g i ( x ) ) ≥ 0 i =1
K-T条件是极大值的充要条件。
11
第6章 库恩 --- 塔克条件
（2）极小值问题：
Min x
f (x1, x2,..., xn)
s.t. gi (x1, x2,..., xn ) ≥ ri i =1, 2,..., m
x1, x2,..., xn ≥ 0
12
第6章 库恩 --- 塔克条件
（2）极小值问题： 拉 格朗日函数：
一、K—T条件 • 在最优化问题中，若
– 选择变量要求非负 – 约束条件是不等式 则需要用K—T条件来解决问题。 1、 K—T条件初步理解 （1）关于选择变量非负的要求 Max y = f (x)
s.t. x ≥ 0
f ' (x) ≤ 0, x ≥ 0, and f ' (x) ⋅ x = 0 2
第6章 库恩 --- 塔克条件
Max π = f (x) s.t. g i ( x ) ≤ γ i
且x ≥ 0
x = ( x1 L xn )
i=1,2L m
如果满足以下条件：
（a）目标函数f(x)在非负象限连续可微，且为凹函 数；
（b）每个约束条件g(x)在非负象限连续可微，且为 凸函数；
（c）点 x 满足K—T极大值条件。
那么， x 为π=f(x) 的整体极大化解。
n j =1
∂z ∂xj
(x
j −x
j)
∀x（2）
22
第6章 库恩 --- 塔克条件
第 一 步 ： 给 定 x、λ， 要 证 明 ： z ( x ) ≤ z ( x ) ∀x。
由 于 Z ( x )是 凹 函 数 ， 因 此 有
∑ Z ( x ) ≤
Z( x
)+
n j=1
∂z ∂x j
(x
j−x
j
第一步：
加入两个虚设变量s1、s2 ≥ 0，将（P1）处理
成以下的等价形式（P2）。（即：去掉不等式约
束条件）
Max x,s
y=
f ( x1, x2 , x3 )
（P2）
s.t. g1 ( x1, x2 , x3 ) + s1 = r1
g 2 ( x1, x2 , x3 )+ s2 = r2
且 x1, x2 , x3 , s1, s2 ≥ 0
第1部分 消费者行为理论
• 第1章 消费者的最优决策 • 第2章 比较静态分析 • 第3章 显示偏好理论 • 第4章 需求 • 第5章 消费者的福利变化 • 第6章 库恩 --- 塔克条件 • 第7章 不确定条件下的个人选择
1
第6章 库恩 --- 塔克条件 （Kuhn—Tucker condition）
m
∑ 然 后 ， 对 于 ·不 等 式 右 边 的 λ i ( ri − g i ( x ) ) 而 言 ， i =1
∑ Q
m
λ i ( ri −
i =1
g i ( x ))
=
λi
⋅
∂z ∂λi
=0
(根 据 互 补 松 弛 条 件 )
m
∑ ∴ λ i ( ri − g i ( x ) ) = 0
i =1
m
λ i ( ri −
i =1
因 此 ， 由 （ 1） 可 得 ： f ( x ) ≤ f ( x ), ∀ x
24
第 二 步 ： 给 定 x、λ， 要 证 明 ： f ( x ) ≤ f ( x ) ∀ x。 由 第 一 步 证 明 的 结 果 （ 3） 式 ， 即 z(x) ≤ z(x) ∀x, 再 根 据 （ 1） 式 ， 可 得
如果在（P2'）中消去si，则有
∂z ∂λi
=
ri
−
gi
(⋅)
于是（5）式可写为
∂z ∂λi
≥
0，
λ
i
≥
0
且λi
⋅
∂z ∂λi
=0
(6)
7
第6章 库恩 --- 塔克条件
（3）关于（P1）最优解的推导
最后，将式（1）和（6）结合在一起，
便得到非负以及不等式约束下的（P1）最优解
的条件，即K-T条件。