2.2 迭代法的一般形式与收敛性定理

k
2.2.2 迭代法的收敛性
定义 利用迭代公式构造序列 x ( k ) , 以求 得方程组 的近似解的算法称为解式的简单迭代法。 若迭代序列 x ( k ) 收敛，则称此迭代法是收敛的。
x
k 1
Hx
k
f,
x Hx f
* *
k * x x 两式相减，知误差向量 满足下列迭代关系：
则
k
B ( H )
k
两边取对数得: k ln ( H ) ln k
ln ln ( H )
定义:
ln ( H )
为迭代法(2.2.3)的渐近收敛速 度。
解线性方程组的迭代法
线性方程组
a11 x1 a12 x2 a x a x 21 1 22 2 an1 x1 an 2 x2 a1n xn b1 a2 n xn b2 ann xn bn
等价变换
迭代矩 阵
x(k+1)=Hx(k) +f
H 并不是 唯一的, 因此迭代 格式也不 是唯一的!
e. g. A I A I x I A x b
A D A D x I D 1 A x D 1b x D 1 (b Ax ) a ii 0 A L D U x D 1 L U x D 1b aii 0
kk 1 ， ， k
lim k lim
k k k
k

k
lim
k
1 k
k 1
0.
x 是线性方程组Ax=b的解
x* Hx* g
x
k 1
*
Hx
k
f
0 引理2.1：迭代法对任何初始近似 x 均收敛的 充分必要条件是 H k 0 k
设aii0 (i=1,2,,n)，并将A写成三部分
0 a11 a 21 0 a 22 A a n 1 ,1 a n 1 , 2 0 a nn a n 2 a n , n 1 a n1 0 a12 a1,n1 a1n 0 a 2 , n 1 a 2 n 0 a n 1, n 0 D LU. 0
( i , j 1,2, , n)
k
则称{ A k }收敛于A，记为lim A k A .
例 设矩阵序列 1 2 2 A 0 , A 0 且 | | 1，考查其极限 .
k 2 k ， , A 2 0
x ( k 1) x* H ( x ( k ) x* )
由此递推：x ( k 1) x* H k 1 ( x ( 0) x* ), k 0,1,2,
x 是线性方程组Ax=b的解
x* Hx* g
x
k 1
*
Hx
k
f
0 x 引理2.1：迭代法对任何初始近似 均收敛的
复习：矩阵的谱半径 设λ是矩阵A相应于特征向量x的特征值，即 Ax＝λx 向量-矩阵范数的相容性，得到 |λ| || x ||=||λx|| =|| Ax|| ≤ || A || ||x|| 从而，对A的任何特征值λ均成立 |λ|≤|| A || （ 3）
设n阶矩阵A的n个特征值为λ1,λ2，…λn，称 ( A) max i
H
p k
q 1 x R n , lim x x and
0 k k p
x x*
q k k 1 x x 1 q qk 1 0 x x 1 q
p
p
后验估计 Posterior error – estimated 先验估计 Prior error— estimated
计算中判断迭代终止条件的方法：
|| x ( k 1) x ( k ) || , x* x ( k 1)
如何判断迭代法是收敛 的？？
收敛条件
1. lim x k x* lim H k 0
k k
2.
lim H k 0 H 1
x
3.
k
0.1 0.5 f , 其中 H ， 0.8 0.1
讨论该迭代法的收敛性。
例2 设 x
k 1
Hx
k
0.9 0 f , 其中 H ， 0.3 0.8
讨论该迭代法的收敛性。
2.2.3 迭代法的收敛速度
定理2.5 当 H 1 时，由迭代法式所定义的 序列 {x( k ) } 满足如下估计式：
0 a12 0 U
a1n a2 n 0
H k 0 k 的充要条件是 ( H ) 1 引理2.2：
定理2.4：迭代法对任何初始近似均收敛的充分 必要条件是迭代矩阵H的谱半径 ( H ) 1
推论：若 H 1 ( 允许为任何一种相容的矩阵范 数) ，则迭代法收敛。
例1 设 x
k 1
Hx
若 lim x ( k ) x*,则称迭代法收敛，且 x * 为方程的解。
k
否则此迭代法发散。
判断收敛的方法：
(k ) (k ) 若 lim || x x * || ＝ lim || || 0, 则此迭代法收敛。 k k
( k 1 )＝x ( k 1 ) x* Hx ( k ) f Hx * f H ( x ( k ) x*) H ( k ) H k 1 ( 0 ) 即有 ( k ) 0, H k 0
即
A=D-L-U
a11 a 21 A a n1 0 a L 21 a n1
a12 a22 an 2
a1n a2 n ann 0
a11 D
a22
ann
0 an 2
充分必要条件是
H k 0k
k H 引理2.2： 0 k 的充要条件是 ( H ) 1
定理2.4：迭代法对任何初始近似均收敛的充分 必要条件是迭代矩阵H的谱半径
( H ) 1
(k ) 定义 设矩阵序列A k (a ij ) R nn , A (a ij ) R nn，若 (k ) lim a a ij ij k
a11 a12 a a 21 22 an1 an 2
a1n x1 b1 x b a2 n 2 2 ann xn bn
Ax=b
怎样设计迭代格 式? Ax=b x=Hx+f
迭代法思想： 第一步 第二步
将Ax b转化为等价方程组： x Hx f 设x * 为精确解，x* Hx * f
构造迭代格式，任取初 始向量x ( 0 ) , 按逐次代
H 与k无关，称为 入方法构造 { x(k ) } 一阶定常迭代法
x
( k 1 )
Hx
(k )
f
收敛？发散？
x
(k )
x
*
来自百度文库H 1 H
k
x( k ) x( k 1)
x
(k )
H x x (1) x (0) 1 H
*
现在讨论使误差减少初始误差的 倍所需的最 少迭代次数
x
(k )
x H x (0) x *
*
k
(k ) * (0) * x x x x 若要求
1 i n
为矩阵A的谱半径。
2.2 迭代法的一般形式 与收敛性定理
2.2.1 迭代法的一般形式
已知线性代数方程组
Ax b
首先将方程组改写成等价的形式
x Hx g
从而建立迭代式：
称
x
xk
k 1
为迭代序列，并称H为迭代矩阵。
Hx g k 0,1,2