数值最优化方法-罚函数方法

i 1 i l 1
SUMT技术
12
外罚函数法的计算步骤
Step 1 初始点 和 初始罚因子
k 1。
又是一个 伏笔！！
Step 2 以 xk 1 为初始点，求无约束问题 有道理吗？
x k x k 。 ~ Step 3 若 k P xk （为什么这个是收敛准则） ，则
2 2 P x1 , x 2 , x1 x2 x1 x 2 2


2
2 x1 x 2 2 1
当 时， x1 x 2 1 即无约束优化问题最优解的极限为原问题的解。
* *
4
将此问题更一般化，对于等式约束问题。
min f ( x ) s.t. ci ( x) 0
其中的 表示很大的正数。
P x1 , x 2 , x x
2 1

2 2
x
1
x 2 2
2
这种形式唯一吗？？
它的解是多少。
3
2 2 min f x1 , x2 x1 x2 s.t. x1 x 2 2 0
其中的 表示很大的正数。
考虑如下理想的罚函数
2 2 x1 x2 F x1 , x 2
x1 x 2 2 x1 x 2 2
能算不？？？ 计算机是否认识无穷大？
怎么办？ 再想！～～～
2
2 2 min f x1 , x2 x1 x2 s.t. x1 x 2 2 0
通常取 2 为什么？
7
具体实施的时候，真的取一个很大的 吗？
求解一系列的无约束极小问题 minP x, k
k ，这样和取 有什么区别。
8
举例 s.t.
2 2 min f x1 , x2 x1 x2
x1 1 0
伏笔：这里发生了一件很重要的事情！ ！ ！ ！~~
得到 以 xk 为 近 似 最 优 解 ， 停 止 。 否 则 ， 令
~ minP x, k f ( x) k P x
k 1 c k , k k 1 ，转 Step 2。
那么这类方法是否能收敛呢？？
13
~ min P x ,k f ( x ) P x k
类似的构造
~ P x, f ( x) P x
其中
m ~ P x min0, ci ( x ) 1 i 1
惩罚项所具有的性质应该怎么样呢？ 怎么取呢？
想一想 有没有其他形式的惩罚项。
6
一般约束优化问题
min f ( x ) s.t. ci ( x) 0
外罚函数
一般约束优化问题
min f ( x ) s.t. ci ( x) 0
ci ( x) 0 i I 1,2, , m
i E 1,2, , l
已经有的工具，无约束优化的方法 怎么样利用？？
想！。。。。。
1
一个“罚”的例子
2 2 min f x1 , x2 x1 x2 s.t. x1 x 2 2 0
0, x1 1 P x1 , x2 , x x min
2 1 2 2


2
有没有发现“伏笔”
9
2 2 x x 1 2 P x1 , x 2 , 2 2 2 x x x 1 2 1 1
x1 1 0 x1 1 0
ci ( x) 0 i I l 1,2,, m
i E 1,2, , l
怎么构造罚函数？
~ P x, f ( x) P x l m ~ P x ci ( x ) min0, ci ( x )
i 1 i l 1
1
1
所以这类方法都是从可行域的外部趋向于最优解的，因 此我们陈这类方法为外罚函数法。 通过求解一系列的无约束优化问题，来求解约束优化问 题的方法，又称之为序列无约束极小化技术 (Sequential Unconstrained Minimization Technique)，简称 SUMT。 所以外罚函数方法又称为 SUMT 外罚函数法。
iE
l
P x , f ( x ) ci ( x )
i 1
Leabharlann Baidu

1
其中的 0 为参数，成为惩罚因子。定义惩罚项
l ~ P x ci ( x ) i 1
仔细想想惩罚项的应该具有的性质。
5
对于不等式约束 怎么办？
min f ( x ) ci ( x) 0 i I 1,2, , m
11
Previously
• 外罚
一般约束优化问题
min f ( x ) s.t. ci ( x) 0
ci ( x) 0 i I l 1,2,, m
i E 1,2, , l
怎么构造罚函数？
~ P x, f ( x) P x l m ~ P x ci ( x ) min0, ci ( x )
x1
1
理由充分吗？
， x2 0
*
当 时可得最优解 x (1,0)
10
我们容易发现， 时， P x, 的最优解趋向于
小结
x* ， 即趋向于原来问题的最优解。 但是， 我们也能发现，
x 往往是不可行的。
例如上面的例子中 x1
故
P x1 , x 2 , 2 x2 x 2
Px1 , x2 , 2 x1 x1 2 x1 2 x1 1
x1 1 0 x1 1 0
令 P x1 , x 2 , P x1 , x 2 , 0 x1 x 2