第五章 迭代法51迭代过程的收敛性 迭代加速

证明：略
迭代加速法的优点： 1.加快迭代过程的收敛速度 2.将发散的迭代格式加工成收敛的
1 2.375 2 12.4 3 1904
精确解x* =
1.3247179...
怎么判断迭代公式收敛或发散呢？
压缩映像原理
定理 (压缩映像原理，不动点原理) 4.1 设 (x)C[a, b] 且一阶导数连续，若 (1) a (x) b 对一切 x[a, b] 都成立 封闭性
(2) 0 L < 1，使得 | ’(x) | L 对 x[a, b] 成立 压缩性 则函数 f (x) = x - (x) 在 [a, b] 中有唯一的零点 x*。 x* 称为 (x) 的不动 点 f(x) 在[a, b] 上有零点。 唯一性：反证法，假设存在 x*, y*[a, b] 使得
1 L Lk xk x * xk 1 xk xk xk 1 x1 x0 1 L 1 L 1 L
全局收敛与局部收敛
定理的条件保证了不动点迭代的全局收敛性。 即迭代的收敛性与初始点的选取无关。 定理中的条件 | ’(x) | L < 1 可以适当放宽 定理 (2’) ’(x) 在 x* 的某个邻域内连续，且 | ’(x*) |
为了避免计算导数, 还可以进行如下改进:
xk 1 x* '(k )( xk x*) xk 2 x* '(k 1 )( xk 1 x*)
'( k ) '( k 1 ) 设：
x* xk
xk 1 xk
2
xk 1 x * xk x * xk 2 x * xk 1 x *
方法 3
方法 4
0 1 2 精确值： 3 3 1.7320508...
x0 x1 x2 x3
2 3 9 87
2 1.5 2 1.5
2 2 1.75 1.75 1.734375 1.732143 1.732361 1.732051
怎么判断收敛的迭代公式的速度快慢呢？
收敛性的阶
后验估计: 先验估计:
1 | x k x* | | xk 1 xk | 1 L
Lk | xk x* | | x1 x0 | 1 L
可用| x k+1-xk | 来 控制收敛精 度, L 越小收敛越快.
证: (a) 由压缩映像定理可知，不动点 x* 存在且唯一。
| xk x*| ( xk1 ) ( x*) | '( ) | | xk1 x*| L | xk1 x*|
| xk x*| L | xk1 x*| L2 | xk2 x*| Lk | x0 x*|
lim | xk x* | 0
k
即 lim xk x *.
k
(b) | xk1 x*| L | xk x*|
| xk1 xk | | ( xk1 x*) ( xk x*) | xk x * xk1 x * (1 L) xk x * 1 xk x * xk 1 xk 1 L 又 | xk1 xk | ( xk ) ( xk1) | '( ) | | xk xk1 | L | xk xk1 |
迭代加速
* 设： '( ) '( x ) '( ) D 简化：
x*
xk 1
xk 1 Dxk ( xk ) Dxk 1 D 1 D
1 D
( xk ) Dxk
“迭代-加速”格式
( x ) Dx ( x ) 迭代函数由 变为 ( x )
定理 设 (x)C[a, b] 且一阶导数连续，若 4.1 (1) a (x) b 对一切 x[a, b] 都成立 (2) 0 L < 1，使得 | ’(x) | L 对 x[a, b] 成立 则有 (a) 对任意 x0[a, b]，由 xk+1 = (xk) 产生的迭代序列 xk k 0 均收敛到 (x) 在 [a, b] 中的唯一不动点 x*。 (b) 有如下的误差估计
xk 2 2 xk 1 xk
yk ( xk ), zk ( yk ) 2 y x k k xk 1 xk zk 2 yk xk
Aitken 加速
Aitken加速的收敛阶
定理 设 (x) 在不动点 x* 的某个邻域内具有二阶连续导数， ’(x*)=L1 且 L0 ，则Aitken加速二阶收敛到 x* 。
(x*) = x*
简证： f(a) = a - (a) 0 , f(b) = b - (b) 0 x* = (x*) y* = (y*)
x * y * ( x*) ( y*) | '( ) |x * y * L x * y * 矛盾！
收敛性分析
1 D
( x) 等价于 x ( x), 所以此格式定义合理。 x '( x ) D '( x ) 0, 故选择适当的D, 可能使 | '( x) || '( x) |,
1 D
从而此迭代格式应该比原迭代格式的收敛速度更快！
埃特金(Aitken)加速
第五章 方程求根的迭代法
第一节 迭代过程的收敛性
迭代法的思想 压缩映像原理 局部收敛性 收敛性的阶
非线性方程的根Байду номын сангаас
求 f (x) = 0 的根
代数方程： f (x) = a0 + a1x + . . . + anxn 超越方程： f (x) 含超越函数，如 sin(x), ex, lnx 等 实根与复根 根的重数
p! xk 1 x*
并且有
( p ) (k )
p!
( xk x*)
p
ek 1 1 ( p) ( x*) p k e p! k lim
必要性(不证). 设迭代 xk+1 = (xk) 是 p 阶收敛。 迭代两边取极限 ，由 (x) 的连续性可知 x* = (x*) 。
第五章 方程求根的迭代法
第二节 迭代加速
迭代加速
设有不动点迭代：xk1 ( xk )
xk 1 x* ( xk ) ( x*) '( )( xk x*)
x* xk 1 '( ) xk 1 '( )
（ 在 xk 和 x* 之间）

x x0 x*
p1

x
x1
例
x3x1 = 0, [1,2], 取 x0=1.5
k 1
3 x x 迭代公式1： k 1 k 1
迭代公式2： x 计算结果：
公式1：
( xk 1)
1 3
k 0
公式2：
xk 1.5
k 0
xk 1.5
1 1.35721 2 1.33086 3 1.32588 4 1.32494 5 1.32476 6 1.32473 7 1.32472
ek 1 xk 1 x* ( xk ) ( x*) '( )ek ek 1 lim '( x*) 0 取极限得 k 线性收敛. e k
p 阶收敛
定理 4.3
设迭代 xk+1 = (xk) ，若 (p)(x) 在 x* 的某邻域内连续， 则该迭代法具有 p 阶收敛的充要条件是
f (x) = ( x – x*)m ·g(x) 且 g(x*) 0, 则 x* 为 f (x) 的 m 重根
有根区间：[a, b] 上存在 f (x) = 0 的一个实根 研究 内容: 在有根的前提下求出方程的近似根。
迭代法的思想
基本思想
f (x) = 0 f (x) 的零点x* xk+1 = (xk)
动点，也就是 f (x) 的零点。
几何含义：求曲线 y = (x) 与直线 y = x 的交点
y p1 p0
y=x y= (x)
y p0
y=x

p1 x x0 y y=(x) p0 x* x1

y= (x) x
x0 y
x1 x2 x* y= (x) y=x
y=x
p0 p1 x1 x0 x*
( x*) x*, '( x*) ''( x*) ( p1) ( x*) 0, ( p ) ( x*) 0
ek 1 1 ( p) lim p ( x*) k e p! k 证明：充分性. 根据泰勒展开有 ( p ) (k ) xk 1 ( xk ) ( x*) '( x*)( xk x*) ... ( xk x*) p
定义 设迭代 xk+1 = (xk) 收敛到 (x) 的不动点 x*。 记 绝对误差ek = xk x*，若 lim ek 1 C 0 (C为常数) k e r k 则称该迭代为 r 阶收敛。 (1) 当 r =1 时称为线性收敛，此时 |C| < 1； (2) 当 r =2 时称为二次收敛，或平方收敛； (3) 当 r >1 时称为超线性收敛。 不动点迭代中，若 ’(x*) 0，且迭代收敛，则
设 p0 是满足
'( x*) '( x*) ( p 1) ( x*) 0, ( p ) ( x*) 0
0 0
的最小正整数。 由充分性的证明过程可知迭代 p0 阶收敛。
ek 1 ek 1 1 p0 p p0 又 p ek ek ek
若 p0 < p， 与迭代 p 阶收敛矛盾, 若 p0 > p， 与迭代 p0 阶收敛矛盾. p0 = p
这种在 x* 的邻域内具有的收敛性称为局部收敛性。
具有局部收敛性的迭代计算上不一定收敛，它是否收敛还 要看初值是否取的恰当； 而不具有局部收敛性的迭代对任何初值都不可能收敛。
例 用不同方法求 x23 = 0的根 3 , 取 x0=2.
2 xk 3 迭代公式1：xk 1 xk 迭代公式2： xk 1 3 / xk 2 x x ( x 迭代公式3： k 1 k k 3) / 4 迭代公式4：xk 1 ( xk 3 / xk ) / 2 计算结果：k xk 方法1 方法 2
4.2
<1 由 ’(x) 的连续性及 | ’(x*) | <1 即可推出： 若(x)的一阶导数连续, 且满足条件(2’), 则一定存在 x* 的某个 邻域 N(x*) =[x*- , x* + ], 使得对 x N(x*)都有| ’(x) | L < 1, 则由 x0 N(x*) 开 始的迭代都收敛。
设： '( ) '( xk )
xk 1 '( xk ) xk x* 1 '( xk )
k )x k ( x ) '( x k x k 1 1 '( xk )
x k ) 如何避免计算导数？ 缺点：每次迭代需计算 '(
等价变换
x = (x) 称为迭代函数
(x) 的不动点x*
不动点迭代
具体做法：
从一个给定的初值 x0 出发，计算 x1 = (x0), x2 = (x1), … x 若 k k 0 收敛，即存在 x* 使得 lim x k x *，则由 的连续
k
xk 1 lim xk 可得 x* = (x*)，即 x* 是 的不 性和 lim k k