拉格朗日乘子优化方法

2 2
f 1 1 2x x 0 x 2 2
1 2 解得, x ; y 5 5
1 1 1 解出, y 1 x x, 2 2 2
问题是大多数情况下解不出y，怎么办？ 拉格朗日乘子法将受约束优化问题 转换为无约束优化 拉格朗日乘子法：
通过算例，结果正确 现在给出一般性验证 验证思路：以优化两个自变量为例 用拉格朗日乘子法解得最优值条件 与假设解出y，并带入到优化函数中，而导出 的最优值条件比较 如果得到的两个最优值条件完全一致 证明拉格朗日乘子法正确 拉格朗日乘子法
min L f ( x, y) G( x, y)
拉格朗日乘子法：
拉格朗日乘子法
大连海事大学
任 光
2011年12月1日
拉格朗日乘子法 基础知识
min f ( x)
x1 x 式中, x 2 xn
j 1,2, m, mn
满足：G j ( x) 0,
通过例子，介绍拉格朗日乘子法的解法过程
例： f ( x,来自百度文库y) x 2 y 2 min
约束条件：x 2 y 1
即： G( x, y) x 2 y 1 0
例：f ( x, y) x y
2
2
约束条件：x 2 y 1
两种解法：
1 1 1 解出, y 1 x x, 2 2 2
带入f ( x, y ( x) ) 1 1 f ( x, y ( x) ) x x 2 2
这是用拉格朗日乘子法得到的结果
假设能从G(x,t)解出y ，并带入到优化函数
约束条件：G( x, y) 0
min f ( x, y( x)))
f ( x, y ) f ( x, y ) dy 0 x y dx
G ( x, y ) G ( x, y ) G ( x, y ) dG( x, y ( x)) dx dy 0 dy x x y dx
G( x, y) 0
f ( x, y ) G ( x, y ) f ( x, y ) G ( x, y ) 0 x y y x
G ( x, y ) y
f ( x, y ) G ( x, y ) f ( x, y ) G ( x, y ) 0 y x x y
谢谢诸位！
min L f ( x, y) G( x, y)
f ( x, y) G( x, y ) 0 x x f ( x, y ) G ( x, y ) 0 y y
f ( x, y ) x G ( x, y ) x
f ( x, y ) G ( x, y ) f ( x, y ) G ( x, y ) 0 y x x y
L 2x 0 x
2

2
L 2 y 2 0 y
;
y
2 5
约束条件：x 2 y 1
带入约束方程
- 2 1; 解得 -
1 2 解得 x ; y 5 5
1 2 解得, x ; y 5 5
结果与解出y带入到优化函 数求出的解完全一致
min f ( x)
满足：G j ( x) 0,
j 1,2, m,
mn
构造拉格朗日函数
min L f ( x, y) G( x, y)
构造拉格朗日函数
L f ( x, y) G( x, y) x 2 y 2 x 2 y 1
解得： x