解线性方程组的迭代法

19
例题
例3 用GaussSeidel 迭代格式解方程组
8 x1 x 2 x3 1 2 x1 10 x 2 x3 4 x x 5x 3 2 3 1 精确要求为ε =0.005
解 GaussSeidel 迭代格式为
(k ) (k ) x1( k 1) ( x 2 x3 1) / 8 ( k 1) ( k 1) (k ) x ( 2 x x 4) / 10 2 1 3 ( k 1) ( k 1) ( k 1) ( x1 x 2 3) / 5 x3
x
( 4) i
x
( 3) i
0.005,
(i 1,2,3)
21
高斯-赛德尔迭代法
2. Gauss—Seidel 迭代法的矩阵表示
将A分裂成A =L+D+U，则 Ax b 等价于 ( L+D+U )x = b ，于是,则高斯—塞德尔迭代过程
Dx
故
( k 1)
Lx
( k 1)
8
例题
解：从方程组的三个方程中分离出 x1 , x2 和 x3
3 1 5 x 2 x3 x1 8 4 2 4 1 x3 3 x 2 x1 11 11 1 1 3 x3 2 x1 4 x 2
9
例题
建立迭代公式
3 (k ) 1 (k ) 5 ( k 1) x 2 x3 x1 8 4 2 4 (k ) 1 (k ) ( k 1) x1 x3 3 x2 11 11 1 (k ) 1 (k ) ( k 1) x1 x 2 3 x3 2 4
( 0) ( 0) T 取初始向量 x ( 0) ( x1( 0) , x2 , x3 ) (0,0,0) T
进行迭代, 可以逐步得出一个近似解的序列：
(k ) (k ) ( x1( k ) , x2 , x3 ) （k=1, 2, …）
10
例题
直到求得的近似解能达到预先要求的精度，则迭代
迭代解离精确解 x1 1, x2 1 越来越远迭代不收敛
7
6.2 雅可比迭代法与高斯-赛德尔迭代法
1 雅可比（Jacobi）迭代法 1.雅可比迭代法算法构造
例2 用雅可比迭代法求解方程组
8 x1 3x 2 2 x3 20 4 x1 11x 2 x3 33 6 x 3x 12 x 36 2 3 1
，最终获得满足精度要求的方程组的近似解。 设 A R nn 非奇异，b R n，则线性方程组 Ax b 有惟一解 x A 1b ，经过变换构造出一个等价
同解方程组
x Gx d
3
迭代法的基本思想
x
(k )
x

(k ) 1
,x
(k ) 2
, , x
(k ) T n

将上式改写成迭代式 x ( k 1) Gx ( k ) d (k 0,1,) ( 0) ( 0) (0) ( 0) T 选定初始向量 x x1 , x2 ,, xn ,反复不断地 使用迭代式逐步逼近方程组的精确解,直到满足精 度要求为止。这种方法称为迭代法
(k=0,1,2,…)
18
高斯-赛德尔迭代法
3 高斯-塞德尔（Gauss-Seidel）迭代法
1. 高斯-塞德尔迭代法的基本思想 在Jacobi迭代法中，每次迭代只用到前一次的
迭代值，若每次迭代充分利用当前最新的迭代值，
即在求 x
( k 1) i
( k 1) ( k 1) ( k 1) x , x , , x 时用新分量 1 2 i 1
1
x
( k 1)
Bx
(k )
f
称为雅可比迭代公式, B称为雅可比迭代矩阵 其中
0 a 21 B ( I D 1 A) a 22 a n1 a nn a12 a11 0 an2 a nn a1n a11 a2n a 22 0
过程终止，以最后得到的近似解作为线性方程组的
解。当迭代到第10次有
(10) (10) T x (10) ( x1(10) , x2 , x3 ) (3.000032,
1.999838 ,
0.9998813) T
计算结果表明，此迭代过程收敛于方程组的精 确解x*= (3, 2, 1)T。
11
例题
16
雅可比（Jacobi）迭代法
在例2中,由迭代公式写出雅可比迭代矩阵为
3 2 0 8 8 4 1 B I D 1 A 0 11 11 6 3 0 12 12
雅可比迭代矩阵表示法，主要是用来讨论其收敛 性，实际计算中，要用雅可比迭代法公式的分量 形式。即
j 1 ij
n
j
bi
i 1,2,, n
12
例题
若 aii 0 (i 1,2,, n) ,分离出变量 x i
n 1 xi (bi aij x j ) aii j 1 j i
i 1,2, , n
据此建立迭代公式
xi( k 1)
n 1 (bi aij x (jk ) ) aii j 1 j i
, 故 x * 是方程组 Ax b 的解。 并非全部收敛
* * (k ) *, 则 k 时， x Gx d x x
对于给定的方程组可以构造各种迭代公式。
5
例题
例1 用迭代法求解线性方程组
2 x1 x2 3 2 x1 5 x2 3
解 构造方程组的等价方程组
(k 0,1,)
23
在什么条件下迭代序列 x ( k ) 收敛？
迭代法的收敛性
定理1 迭代公式 x ( k 1) Gx ( k ) d
(k 0,1,)
更少的计算量就可获得满意的解。因此，迭代法亦
是求解线性方程组，尤其是求解具有大型稀疏矩阵
的线性方程组的重要方法之一。
2
迭代法的基本思想
2 迭代法的基本思想
迭代法的基本思想是将线性方程组转化为便于 迭代的等价方程组，对任选一组初始值 xi( 0) (i 1,2,, n)
，按某种计算规则，不断地对所得到的值进行修正
i 1,2, n
上式称为解方程组的Jacobi迭代公式。
13
雅可比（Jacobi）迭代法
2. 雅可比迭代法的矩阵表示
设方程组 Ax b 的系数矩阵A非奇异，且主对 角元素 aii 0(i 1,2,, n) ，则可将A分裂成
0 0 a12 a13 a1n a11 a 0 0 a a 23 2n 21 a 22 A a31 a32 0 0 a n 1n a nn a a a 0 0 nn1 n1 n 2
Ux
b
Βιβλιοθήκη Baidu(k )
b
因为 D 0 ,所以 D L D 0
( D L) x
( k 1)
Ux
(k )
x ( k 1) ( D L) 1Ux ( k ) ( D L) 1 b
令
G1 ( D L) 1U , d1 ( D L) 1 b
(k ) (k ) 如果 x ( k ) x1( k ) , x 2 ,, xn T
存在极限
x x , x , , x
* * 1 * 2

* T n
则称迭代法是收敛的，否则就
4
是发散的。
迭代法的基本思想
收敛时，在迭代公式
x ( k 1) Gx ( k ) d
中当
(k 0,1,)
第6章 解线性方程组的迭代法
§6.1 迭代法的基本概念 §6.2 雅可比迭代法与高斯-赛德尔迭代法
1
6.1 迭代法的基本概念
1 引言
我们知道，凡是迭代法都有一个收敛问题，有 时某种方法对一类方程组迭代收敛，而对另一类方 程组进行迭代时就会发散。一个收敛的迭代法不仅 具有程序设计简单，适于自动计算，而且较直接法
20
例题
取初始迭代向量 x (0) (0 ,0 ,0) T ,迭代结果为：
x
x
(1)
(0.1250, 0.3750, 0.5000)
(0.2344, 0.3031, 0.4925)
T
( 2)
T
x
( 3)
(0.2245, 0.3059, 0.4939)
T
x* ≈ x ( 4) (0.2250 , 0.3056, 0.4936) T
17
雅可比（Jacobi）迭代法
( k 1) 1 (k ) (k ) (k ) x ( a x a x a x 12 2 13 3 1n n b1 ) 1 a11 ( k 1) 1 (k ) (k ) (k ) (a 21 x1 a 23 x3 a 2 n x n b2 ) x2 a 22 1 ( k 1) (k ) (k ) (k ) x ( a x a x a x n1 1 n2 2 n n 1 n 1 bn ) n a nn
22
则高斯-塞德尔迭代形式为： x ( k 1) G1 x ( k ) d1
迭代法的收敛性
我们知道, 对于给定的方程组可以构造成简单迭代公 式、雅可比迭代公式、高斯-塞德尔迭代公式，但并 非一定收敛。现在分析它们的收敛性。 对于方程组 Ax b 经过等价变换构造出的等价方 程组
x ( k 1) Gx ( k ) d
x1 x1 x2 3 x2 2 x1 4 x2 3
据此建立迭代公式
(k ) ( 0) ( 0) x1( k 1) x1( k ) x2 3 取 x1 x2 0 ( k 1) (k ) (k ) x 2 x 4 x 计算得 1 2 3 2
考察一般的方程组，将n元线性方程组
a11 x1 a12 x 2 a1n x n b1 a x a x a x b 21 1 22 2 2n n 2 a n1 x1 a n 2 x 2 a nn x n bn
写成
a x
x ( k 1) D 1 ( L U ) x ( k ) D 1b
D 1 ( A D) x ( k ) D 1b
( I D A) x
1 (k )
D b
1
15
雅可比（Jacobi）迭代法
令 则有
B ( I D A)
1
f D b
（k = 0,1,2…）
记作
A= L+D +U
14
雅可比（Jacobi）迭代法
则 Ax b 等价于 ( L D U ) x b 即
Dx ( L U ) x b
x D 1 ( L U ) x D 1b
因为 aii 0(i 1,2,, n) ，则 这样便得到一个迭代公式
6
例题
x1(1) 3 (1) x2 3, x1( 2) 3 ( 2) x2 3, x1(3) 9 ( 3) x2 9, x1( 4) 15 ( 4) x2 15, x1(5) 33 ( 5) x2 33,
(k ) k) 代替旧分量 x1( k ) , x2 ,, xi( 1 , 就得到高斯-赛德尔迭代
法。其迭代法格式为： i 1 n 1 xi( k 1) (bi aij x (jk 1) aij x (jk ) ) aii j 1 j i 1
(i=1,2,…,n
k=0,1,2,…)