迭代法收敛性分析

1 2 2
A1 1 1
1

2 2 1
2 1 1
A2 1 1
1

1 1 2
试分析Jacobi 迭代法和 Seidel 迭代法的敛散性
0 2 2 A1=[1,2,-2;1,1,1;2,2,1] (1) BJ 1 0 1 D=diag(diag(A1));
(1) ||X(k)X *| | ||B|| ||X(k)X(k1)||
1||B||
(2) ||X(k)X*| | ||B|k | ||X(1)X(0)||
1||B||
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1133 /18
证 由||B||<1,有
limX(k) X*
22/18
原方程: A X = b 计算格式: X(k+1) = B X(k) + f
设方程组的精确解为 X*,则有 X* = B X* + f
X(k+1) – X*= B(X(k) – X*)
记 (k) = X(k) – X* ( k = 0, 1, 2, 3, ······ )
则有
(k+1) = B (k) (k) = B (k-1) ( k = 1, 2, 3, ······ )
88ห้องสมุดไป่ตู้18
注1: AX = b X = BX + f ( I – B )X = f
X = ( I – B )-1 f
注2: 若 limBk 0 则 k ( I - B)-1 = I + B + B2 + ······+ Bk + ······
事实上 ( I - B)( I + B + B2 + ······+ Bk ) =I –
误差估计:
||X(k)X *| | ||B|| ||X(k)X(k1)|| 1||B||
||X(k)X*| | ||B|k | ||X(1)X(0)|| 1||B||
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1155 /18
n
定义4.1 A=(aij)n×n, 如果 | a ii | | a ij |
n
ji
|aij|}1
j1
博学之，审问之，慎寺之j，i明辩之，
1177 /18
笃行之。精心整理，欢迎收藏
简单迭代法 X (k1)X (k)(bA(k X ))
迭代矩阵: BIA
设矩阵A对称正定,则特征值 0,由于B是A
的多项式,故 B 的特征值为
1
(B)1 | |1 02/ 当不等式 02/||A|| 成立时
证: 由于矩阵A严格对角占优
n
| a ii | | a ij | j1 ji
1 n
| aii
|
| aij
j 1
|

1
ji
由A矩阵构造Jacobi迭代矩阵BJ = D-1(D – A)
第 i 行绝对值求和
1 n
| a ii
|
| a ij
j1
|
所以
||BJ
| | m 1ina{|xa1ii|
Xk∈Rn : X1, X2, ···, Xk , ·······
lk im Xk X*
lk im ||XkX*||20
利用向量范数等价性, 对任意范数 || ·||
lk im Xk X*
lk i m ||XkX*| | 0
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1144 /18
所以 ||X(k)X *| | 1 ||X(k1)X(k)||
1||B||
X(k+1)–X(k) =B(X(k) – X(k-1) )
||X(k+1)–X(k)|| ≤ ||B || || X(k) – X(k-1) ||
k
X(k+1)–X* =B(X(k) – X* )
|| X(k+1) – X* || ≤ ||B|| || X(k) – X* ||
||X(k+1) – X(k) ||= ||(X*– X(k)) – (X* – X(k+1))|| ≥||(X*– X(k)) || – ||(X* – X(k+1))|| ≥ ||(X*– X(k))|| –||B|| ||(X* – X(k))|| = ( 1 - || B ||) ||(X* – X(k))||
对矩阵A2,求A2 X = b 的Jacobi迭代法发散, 而Gauss-Seidel迭代法收敛.
除非BJ是非负矩阵时,两种迭代法有联系。
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1122 /18
误差估计定理
定理4.2 :设X*为方程组 AX=b 的解 若||B||<1,则对迭代格式 X(k+1) = B X(k) + f 有
迭代法
x(k+1) = B x(k) + f 收敛 <=> limBk 0 k limJk 0 k
lkimik 0
(i = 1, 2,···, r)
| i | 1 m 1iar x|i |1
(i = 1, 2,···, r)
谱半径 (B) < 1
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
《数值分析》 10
迭代法的收敛性分析 迭代矩阵谱半径 误差估计定理 对角占优矩阵
博学之，审问之，慎寺之，明辩之，
1
笃行之。精心整理，欢迎收藏
平面点列: (x1 , y1),(x2 ,y2), ···, (xk , yk),······
lk i(m xk,yk)(x*,y*)
lk i m (xkx*)2(yky*)20
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
33/18
(k) = B (k-1)=B2 (k-2)=···=Bk (0)
(1) lim (k) 0 lim B k0
k
k
(2) lim (k) 0 ||B| |1 k
lim [X(k)X*]0
2 2 0 B1=D\(D-A1); max(abs(eig(B1)))
(BJ)1 Ans= 1.2604e-005
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1100 /18
0 2 2 BS 0 2 3
0 0 2
DL=tril(A1) B1=DL\(DL-A1) max(abs(eig(B1)))
(B) ≤ || B ||
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
66/18
定理4.1 迭代法 X(k+1) = B X(k) + f 收敛
谱半径ρ(B) < 1 证: 对任何 n 阶矩阵B都存在非奇矩阵P使
B = P –1 J P
其中, J 为B的 Jordan 标准型
J1

J



J2



J
r
nn
其中, Ji 为Jordan块
i
Ji



1

1

i ni ni
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
77/18
其中,λi 是矩阵B的特征值, 由 B = P –1 J P B k = (P –1 J P) (P –1 J P) ···(P –1 J P)= P –1 J k P
( k = 1, 2, 3, ······ )
|| (k)|| ≤ || B||k || (0)||
|| B|| < 1
li|m |(k)| |li|m B ||k | |(0 )| |0
k
k
所以
lim(k) 0
k
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
j1
则称A为严格对角占优阵.
ji
例4.1

9x1 x2 x3 7 x1 10x2 x3 8
9 A 1
1 10
1 1
x1 x2 15x3 13
1 1 15
9 > |-1| + |-1|
|a11| > |a12| + |a13|
B注k+31: X(k) =B X(k-1) + f = B(B X(k-2) + f) + f =····
= Bk X(0) + ( I + B + ····+ Bk-1)f
≈ ( I – B )-1 f
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
99/18
例 线性方程组 A X = b, 分别取系数矩阵为
k
limX(k) X*
k
迭代格式 X(k+1) = B X(k) + f 收敛 ！
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
44/18
命题 若||B||<1,则迭代法 X(k+1) =B X(k) +f 收敛
证: 由(k) = B (k-1),得 || (k)|| ≤ || B|| || (k-1)||
博学之，审问之，慎寺之，明辩之，
1111 /18
笃行之。精心整理，欢迎收藏
0 1/ 2 1/ 2 BS 0 1/ 2 1/ 2
0 0 1/ 2
(BS)1/2
DL=tril(A2) B2=DL\(DL-A2) max(abs(eig(B2)))
Ans= 1/2
对矩阵A1,求A1 X = b 的Jacobi迭代法收敛, 而Gauss-Seidel迭代法发散;
简单迭代法收敛.
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1188 /18
(BS)2 Ans= 2
(2) A2=[2, -1, 1; 1, 1, 1; 1, 1, -2]
0 1/ 2 1/ 2
BJ


1
0
1

1/ 2 1/ 2 0
D=diag(diag(A2)) B2=D\(D-A2) max(abs(eig(Bj)))
(BJ)1.1180Ans= 1.1180
55/18
矩阵B 的谱
设n阶方阵B 的n个特征值为: 1 ,2,,n
则称集合 {1 ,2,,n}
为B 的谱. 记为 ch B
特征值取模最大
矩阵B的谱半径 (B)m 1kna|xk|
注1: 当B是对称矩阵时, ||B||2 = (B)
注2: 对 Rn×n 中的范数|| ·||,有
10 > |-1| + |-1|
|a22| > |a21| + |a23|
15 > |-1| + |-1|
|a33| > |a31| + |a32|
博学之，审问之，慎寺之，明辩之， 笃行之。精心整理，欢迎收藏
1166 /18
定理4.3 若Ax=b的系数矩阵A是严格对角占优 矩阵,则Jacobi迭代和Seidel迭代均收敛