数值分析(李庆扬)第六章

B M 1 N M 1 (M A) I M 1A, f M 1b
Jacobi 迭代法
a 11 x 1 a 12 x 2 a 1n x n b 1 a 21 x 1 a 22 x 2 a 2n x n b 2 a n1 x 1 a n1x 2 a nn x n b n 若系数矩阵非奇异即 a ii 0 (i 1, 2, , n), 则有
高斯—塞德尔（Gauss-Seidel)迭代法
a 11 x1 a 12 x 2 a1n x n b1 a 21 x1 a 22 x 2 a 2n x n b 2 a n1 x1 a n1 x 2 a nn x n b n 若系数矩阵非奇异即
近似解向量x 和x
(k )
( k 1)
。若把迭代公式改写成
(k ) (k ) (k ) ( k 1) b13 x 3 b1n x n g x b 1 12 x 2 1 ( k 1) (k ) (k ) ( k 1) b 23 x 3 b 2 n x n g x2 b 21 x 1 2 ( k 1) ( k 1) ( k 1) ( k 1) b n1 x1 b n 2 x 2 b n ,n 1 x n 1 g n xn 这样，在整个计算过程中，只需用n个单元存储近似
a
ii
0 (i 1, 2, , n), 则有
x 1 x2 xn
b x b x b x g b x b x b x g
12 2 13 3 1n n 21 1 23 3 2n n
1 2

b x b x b x
n1 1 n2 2 n3
第六章、解线性方程组的迭代法
直接法: 经过有限次运算后可求得方程组精确解的方法 (不计舍入误差!) 迭代法：从解的某个近似值出发，通过构造一个无穷序列去 逼近精确解的方法。（一般有限步内得不到精确解）
直接法比较适用于中小型方程组。对高阶方程组，既使系数
矩阵是稀疏的，但在运算中很难保持稀疏性，因而有 存储量大，程序复杂等不足。 迭代法则能保持矩阵的稀疏性，具有计算简单，编制程序容 易的优点，并在许多情况下收敛较快。故能有效地解
x 1 x2 xn
b x b x b x g b x b x b x g
12 2 13 3 1n n 21 1 23 3 2n n
1 2

b x b x b x
n1 1 n2 2 n3
3


g
n
其中bij
aij aii
, (i j , i, j 1, 2, , n), g i
bi (i 1, 2, , n). aii
0 b12 b13 b1n 1 b1n b 0 b b b 23 2 n 1 2n 若记 B 21 bn1 bn 2 bn 3 bnn 1 0 则方程组可简记为 x Bx g
移项得 又
x
( k 1)
~ ( k 1) ~ ( k ) Lx Ux g
0 b12 ~ 0 0 U 0 0 b1n b2 n 0
(g
1, g 2,, g n)
T
(b1
a11, b 2 a 22 , , b n a nn)
T

D b
1
收敛与解
Jacobi 迭代 若收敛
*
x
（k）
（n 1）
Bx g
*
（n）
n 0，，， 1 2
{x } x
，则
x
即
Bx g
*
( I B) x* g D 1 Ax* D 1b Ax* b
3


g
n
其中bij
aij aii
, (i j , i, j 1, 2, , n), g i
bi (i 1, 2, , n). aii
迭代公式x ( k 1) Bx ( k ) g (k 0,1, 2,)用方程组表示为
(k ) (k ) (k ) ( k 1) b13 x 3 b1n x n g x b 1 12 x 2 1 (k ) (k ) (k ) ( k 1) b 23 x 3 b 2 n x n g x2 b 21 x1 2 ( k 1) (k ) (k ) (k ) b n1 x1 b n 2 x 2 b n,n 1 x n 1 g x n n 因此，在Jacobi迭代法的计算过程中，需同时保留两个
其中 为向量范数，则称序列{x ( k ) }收敛于x，记为 lim x ( k ) x
k
定理：R n中的向量序列{x ( k ) }收敛于R n中的向量x当且仅当 lim xi( k ) xi
k
(i 1, 2, , n)
(k ) (k ) T 其中x ( k ) ( x1( k ) , x2 , , xn ) , x ( x1 , x2 , , xn )T 。
故如果序列收敛, 则收敛到解.B 称迭代矩阵.
10x1 x2 2 x3 72 例：用Jacobi迭代法求解 x1 10 x2 2 x3 83 x x 5 x 42 3 1 2 解： B I D 1 A 1 0 0 10 1 0 0 10 1 2 0 0.1 0.2 0 1 0 1 10 2 0.1 0 0.2 0 1 0 10 0 0 1 1 1 5 0.2 0.2 0 1 0 0 5 g D 1b (7.2,8.3,8.4)T 取x (0) (0, 0, 0)T , 代入迭代式，得x(1) Bx (0) g (7.2,8.3,8.4)T x (2) Bx (1) g (9.71,10.70,11.5)T x (9) (10.9994,11.9994,12.9992) 精确解为x (11,12,13)T .
k (k ) 定理：设{ A( k ) } ( aij ) ( k 1, 2,), A ( aij )均为n阶方阵，
则矩阵序列{ A( k ) }收敛于矩阵A的充要条件为
(k ) lim aij aij k
(i, j 1, 2, , n)
证明略。 定理表明，向量序列和矩阵序列的收敛可以归结为对应 分量或对应元素序列的收敛。 若按x ( k 1) Mx ( k ) g 产生的向量序列{x ( k ) }收敛于向量x, 则有 x lim x ( k 1) lim[ Mx ( k ) g ] Mx g
(k )
问题是在什么条件下
lim
k
(k )
0
也即
M 0
k
§2.基本迭代法
设有
Ax b
其中A为非奇异矩阵
将A分解成
AM N
其中M是可选择的非奇异矩阵,且使Mx=d容易求解
由此,原问题就可转化为等价方程
得:
Mx Nx b
x M Nx M b
1
1
可构造迭代法
x ( 0) 初始向量 ( k 1) (k ) x B x f (k 0,1,2...)
g1 g g 2 gn
（1） （0） 选初值向量x (0) 代入 x (1) , x Bx g，代入x (1)
x (2) ，如此继续下去，就产生一个向量序列{x ( k ) } 满足 迭代法。 x ( k 1) Bx ( k ) g (k 0,1, 2,) 此过程所给出的迭代法称为Jacobi迭代法，又称简单
(0) (0) 1.输入A (aij ), b (b1 , , bn ), 维数n, x (0) ( x1(0) , x2 , , xn ),
, 最大容许迭代次数N .
2.置k 1. 3.对i 1, 2, , n xi (bi aij x (0) j ) / aii
k k
即x是方程组Ax b的解。
引入误差向量
(k ) (k ) lim x x lim 0 所以 等价于 k k

( k 1)
x
( k 1)
x
由
x ( k 1) Mx ( k ) g
x Mx g
则可得


( k 1)
(k )
M ( k 1) k ( 0) M M
Jacobid迭代的矩阵形式
0 b12 b21 0 B bn1 bn 2
b b
b12 b1n 1 0 0 1 b2 n 0 1 0 b21 1 2n 0 0 0 1 bn1 bn 2 1
1n
1 a11 a11 1 a 21 a 22 I 1 a nn a n1
a12 a1n a 22 a 2n 1 I- D A a n2 a nn
同样
g
j 1 j i n
4.若 x x (0) , 输出x, 停机；否则转5。 5.若k N , 置k 1 k , xi xi(0) (i 1, 2, , n), 转3； 否则，输出失败信息，停机。 评价：公式简单，每迭代一次只需计算一次矩阵和向量 的乘法，不改变M 的稀疏性，需两组工作单元，存x ( k ) , x ( k 1） 。
证：由定义， {x ( k ) }收敛于x即 lim x ( k ) x 0
k
而对任意1 i n，有0 xi( k ) xi max x (jk ) x j x ( k ) x
1 j n

由极限存在准则得 即
k
lim xi( k ) xi =0
解分量。而且通常认为，近似解可能比老近似解更接 近精确解，因此，可望这种迭代会更有效。 选取初始向量x (0) , 用上式迭代产生近似解序列{x ( k ) }, 这种方法叫Gauss Seidel迭代法。 评价：与Jacobi相比，只需一组工作单元存放近似解。
用矩阵可表示为:
0 0 ~ b21 0 L b n1 bn 2
k
(i 1, 2, , n)
lim xi( k ) xi
(i 1, 2, , n)
定义：设{ A( k ) }为n阶方阵序列，A为n阶方阵，如果 lim A( k ) A ห้องสมุดไป่ตู้0
k
其中 为矩阵范数，则称序列{ A( k ) }收敛于矩阵A，记为 lim A( k ) A
一些高阶方程组。
§1.引言
迭代法的基本思想是构造一串收敛到解的序列，即建立一种 从已有近似解计算新的近似解的规则。由不同的计算规则得到不 同的迭代法，本章介绍单步定常线性迭代法。
定义：设{x ( k ) }为R n中的向量序列，x R n，如果 lim x ( k ) x 0
k