2-3算法的收敛性

2
算法收敛速度概念
(k)
设 x 设
的极限为 x
k
ቤተ መጻሕፍቲ ባይዱ

lim
x
(k 1 ) (k)
x

x x
α
q
其中，α 0 ,q 0 是与 k 无关的常数。
(1)
当 α 1 ,q 0 时，点列 { x } 称为 具有线性收敛速度；
(k)
(2)
当 1 α 2 ,q 0 , α 1 ,q 0 时，点列
这个收敛标准有两个难点： （1） x 未知； (k) （2） k充分大时，要求每一个 x 都充 分接近于 x

依范数收敛一般用于理论分析中。 下面是比较实用的收敛标准。 ● 全局收敛性 标准1：对于任意初始点 x 0 ，由算法产生 的点列 x (k) 的任何聚点都是极小点（或平 稳点）。
{ x } 称为具有超线性收敛速度。
(k)
(k) α 2 ,q 0 （3） 当 时，点列 { x } 称为
具有二阶收敛速度。
非线性规划
第二章 无约束最优化方 法的结构
§2.3
算法的收敛性
1 算法收敛性概念 求解最优化问题的基本方法是迭代算法。 (1) 给定初始点 x ，并在得出 x (k) 之后按照 某种规则产生一个新的点 x (k 1 ) . 去，得到一个点列 x (k) 如此迭代下
x （的一个子列）的极限是最优化问题的最
(k)
若某个 x
(k)
是最优化问题的最优解，或者
优解，则称算法产生的点列是收敛的，或称算法 是收敛的。
● 依范数收敛 某算法产生点列 x (k) 若存在 x 使得
(k) 则称 x 依范数收敛到 x
x x 0, (k)

(k) ，简称 x 收敛于
k
x

标准2：对于任意初始点 x (k) 的点列 x 满足
lim inf g x
k (k)
0
，由算法产生
0
一个算法是有效算法首先应具有全局收敛 性。
● 局部收敛性 对于初始点 x 0 充分接近极小点（或平稳 稳点）x 时，即 x 0 在 x 的邻域内时，x (k) 才收敛，那么，这种算法称为具有局部收敛性。