3e基本的矩阵迭代法

10
举例
例：分别用 Jacobi、G-S、SOR 迭代解线性方程组
2 1 0 x1 1 1 3 1 x2 8 0 1 2 x 5 3
2 x* 3 1
定义：设 ARnn，若 | aii |
j 1, j i

n
| aij |
( i = 1, 2, ... , n )
且至少有一个不等式严格成立，则称 A 为 弱对角占优； 若所有不等式都严格成立，则称 A 为 严格对角占优。
19
Jacobi、G-S 收敛性
引理3-2：若 A 严格对角占优，则 A 非奇异 定理3-25：若 A 严格对角占优，则 Jacobi 迭代和 G-S 迭代均
max xi yi ?
1i n
³ ≠
<
k N?
= 输出迭代 失败标志
输出 y1 , y2 , , yn
结束 图3-3 雅可比迭代法框图
5
Gauss-Seidel 迭代
( k 1) (k) (k) (k) x1 b1 a12 x2 a13 x3 a1 n xn a11 ( k 1) (k) (k) (k) x b a x a x a x 2 2 21 1 23 3 2 n n a22 ( k 1) (k) (k) (k) x b a x a x a x n n1 1 n2 2 n , n 1 n 1 ann n
1
—— SOR (Successive Over-Relaxation) 迭代方法
迭代矩阵记为： L D L
(1 ) D U
SOR 的优点：通过选取合适的 ，可获得更快的收敛速度 SOR 的缺点：最优参数 的选取比较困难
9
Jacobi 迭代
(1) 迭代法收敛 (2) (3) (4)
x ( k ) x q k x (0) x
q x x x ( k ) x ( k 1) 1 q k q x ( k ) x x (1) x (0) 1 q
(k)
证明：P112
18
系数矩阵法---对角占优矩阵
22
举例
1 a a 解法二： Jacobi 的迭代矩阵为 J a 1 a a a 1
迭代可得：
x(1) = ( 0.5000, 2.8333, -1.0833 )T
x(9) = ( 2.0000, 3.0000, -1.0000 )T
12
举例
( k 1) (k) (k) (k) x1 x1 1 2 x1 x2 2 ( k 1) (k) ( k 1) (k) (k) SOR 迭代： x x 8 x 3 x x 2 2 1 2 3 3 ( k 1) (k) ( k 1) (k) x x 5 x 2 x 3 2 3 2 3
Jacobi 、 G-S 、 SOR x D (L U)x D b
( k 1) 1 (k) 1
M D, N L U
xi( k 1)
i 1 n (k) (k) bi aij x j aij x j aii j 1 j i 1
i = 1, 2, … , n， k = 0, 1, 2, …
4
开始
读入aij , bi , 方程阶数 n, , N
1 k
k 1 k yi xi i 1, 2, ,n
n b a x a y i ij j ii i j 1 j i i 1, 2, , n
G-S 迭代 M D L, N U
x
x
( k 1)
D L Ux
1
(k)
D L b
1
( k 1) i
i 1 n ( k 1) (k) bi aij x j aij x j aii j 1 j i 1
收敛
定理：若 A 对称，且对角线元素均大于 0，则
(1) Jacobi 迭代收敛的充要条件是 A 与 2D-A 均正定； (2) G-S 迭代收敛的充要条件是 A 正定。
20
SOR 收敛性
SOR 收敛的必要条件
定理：若 SOR 迭代收敛，则 0 < < 2。
SOR 收敛的充分条件 定理：若 A 对称正定，且 0 < < 2，则 SOR 迭代收敛。
迭代矩阵记为： G D L U
1
7
SOR 迭代
在 G-S 迭代中
( k 1) xi( k 1) bi ai 1 x1 k 1) (k) ai , i 1 xi( a x 1 i , i 1 i 1 (k) ai ,n xn aii
SOR 迭代 M 1 D L , N 1 (1 ) D U

x ( k 1) D L
1
(1 ) D U x ( k ) D L b
1
x
( k 1) i
x
(k) i
i 1 n ( k 1) (k) bi aij x j aij x j aii j 1 j i
D diag(a11 , a22 ,
0 a 21 L an1 0 an, n1
, ann )
0 , U 0
a12 0
a1n an1, n 0 3
Jacobi 迭代
Jacobi 迭代
取初始向量 x(0) = ( 0, 0, 0 )，迭代过程中小数点后保留 4 位。
解：
( k 1) (k) x1 1 x2 2 ( k 1) (k) (k) Jacobi 迭代： x2 8 x1 x3 3 ( k 1) (k) x 5 x 2 2 3
( B) 1
定理：若存在算子范数 || ·||，使得 ||B|| <1，对任意的初始向量 x(0)，上述迭代格式收敛。
15
收敛性
收敛性定理
谱半径 (A) max i
1i n
(A) A
Jacobi 迭代收敛的充要条件 (J)<1 G-S 迭代收敛的充要条件 (G)<1 SOR 迭代收敛的充要条件 (L)<1
定理：若 A 严格对角占优，且 0 < 1，则 SOR 迭代收
敛。
21
举例
1 a a 例：设 A a 1 a ，给出 Jacobi 和 G-S 收敛的充要条件 a a 1
解： A 对称，且对角线元素均大于 0，故
(1) Jacobi 收敛的充要条件是 A 和 2D-A 均正定 (2) G-S 收敛的充要条件是 A 正定
令 M = D，N = L + U，可得 雅可比 (Jacobi) 迭代方法
x
( k 1)
D (L U)x
1
1
(k)
D b
1
k = 0, 1, 2, …
迭代矩阵记为： J D ( L U )
分量形式：
xi( k 1)
i 1 n bi aij x j aij x j aii j 1 j i 1
8
SOR 迭代
写成矩阵形式: 可得
x
( k 1)
x ( k 1) x ( k ) D 1 b Lx ( k 1) Ux ( k ) Dx ( k )
D L
1
(1 ) D U x
1
(k)
D L b
取 = 1.1，迭代可得
x(1) = ( 0.5500, 3.1350, -1.0257 )T
x(7) = ( 2.0000, 3.0000, -1.0000 )T 如何确定 SOR 迭代中的最优松弛因子是一件很困难的事
13
14
收敛性分析
x
( k 1)
Bx
(k)
f
定理：对任意初始向量 x(0)，上述迭代格式收敛的充要条件是
A 正定 2D-A 正定
D1 1 0, D2 1 a2 0, D3 (1 a)2(1 2a) 0 0.5 a 1 D1 1 0, D2 1 a2 0, D3 (1 a)2(1 2a) 0 0.5 a 0.5
Jacobi 收敛的充要条件是：-0.5<a<0.5 G-S 收敛的充要条件是：-0.5<a<1
迭代可得： x(1) = ( 0.5000, 2.6667, -2.5000 )T
x(21) = ( 2.0000, 3.0000, -1.0000 )T
11
举例
( k 1) (k) x1 1 x2 2 ( k 1) ( k 1) (k) G-S 迭代： 8 x1 x3 3 x2 ( k 1) ( k 1) x 5 x 2 2 3
Jacobi 迭代收敛的充分条件 ||J|| <1 G-S 迭代收敛的充分条件 ||G|| < 1 SOR 迭代收敛的充分条件 ||L|| < 1
16
17
收敛性分析
x
( k 1)
Bx
(k)
f
B = M-1N
定理：若存在算子范数 || ·||，使得 ||B|| = q <1，则
6
Gauss-Seidel 迭代
写成矩阵形式:
x ( k 1) D 1 b Lx ( k 1) Ux ( k )
可得
x
( k 1)
D L Ux
1
(k)
D L b
1
k = 0, 1, 2, …
此迭代方法称为 高斯-塞德尔 (Gauss-Seidel) 迭代法
( k 1) , 在计算 xi( k 1) 时，如果用 x1 则可能会得到更好的收敛效果。
百度文库
k 1) (k) , xi( x 代替 1 1 ,
k) , xi( 1 ，
( k 1) (k) (k) (k) x1 b1 a12 x2 a13 x3 a1 n xn a11 ( k 1) ( k 1) (k) (k) b2 a21 x1 a23 x3 a2 n xn a22 x2 ( k 1) ( k 1) ( k 1) ( k 1) x b a x a x a x n n1 1 n2 2 n , n 1 n 1 ann n
x
(k) i
i 1 n ( k 1) (k) bi aij x j aij x j aii j 1 j i
为了得到更好的收敛效果，可在修正项前乘以一个 松弛因子
，于是可得迭代格式
xi( k 1)
i 1 n (k) ( k 1) (k) xi bi aij x j aij x j aii j 1 j i
计算方法
第三章 线性方程组的迭代解法
—— 基本的矩阵分裂迭代法
1
本讲内容
矩阵分裂迭代法的典型代表
Jacobi 迭代算法
Gauss-Seidel 迭代算法
SOR 迭代算法
收敛性分析
2
Jacobi 迭代
考虑线性方程组
Ax = b
其中 A=(aij)nn 非奇异，且对角线元素全不为 0。 将 A 分裂成 A = D - L- U， 其中