计算方法--第3章逐次逼近(线性方程组的迭代解法)

⎛ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝
b1 ⎞ ⎟ a1 1 ⎟ b2 ⎟ ⎟ a 22 ⎟ M ⎟ ⎟ bn ⎟ ⎟ a nn ⎠
=
注意:
⎛ ⎜ 0 ⎜ ⎜ a21 ⎜− a ⎜ 22 ⎜ M ⎜ − an1 ⎜ a ⎝ nn
B
L L O L
D −1
a ⎞ − 1n ⎟ ann ⎟ a ⎟ − 2n ⎟ a22 ⎟ M ⎟ 0 ⎟ ⎟ ⎠ ⎛ b1 ⎞ ⎜ ⎟ a11 ⎟ ⎜ ⎜b ⎟ ⎜ 2 ⎟ ⎜ a22 ⎟ ⎜ M ⎟ ⎜ ⎟ ⎜ bn ⎟ ⎜ ⎟ ann ⎠ ⎝
迭代法（3-5）或（3-6）称为Jacobi迭代法。
例1 将线性方程组
⎧8 x1 − 3 x2 + 2 x3 = 20 ⇒ ⎪ ⎨4 x1 + 11x2 − x3 = 33 ⇒ ⎪2 x + x + 4 x = 12 ⇒ 3 ⎩ 1 2
解：写成Jacobi迭代格式（3-5）：
1 (k ) (k ) x1 = (3 x2 − 2 x3 + 20) 8 ( k +1) 1 (k ) (k ) x2 = (− 4 x1 + x3 + 33) 11 ( k +1) 1 (k ) (k ) x3 = (− 2 x1 − x2 + 12) 4
x
( k +1) 3
−x
(k ) 2
)
x
( k +1) 3
(0) T 取初始向量 x = (0,0,0) ，得到
x1(1) = 2.5
( x21) = 3 − 0.363636 × 2.5 ≈ 2.0909091
( x31) = 3 − 0.5 × 2.5 − 0.25 × 2.0909091 ≈ 1.768939
第3章
逐次逼近法
求解线性方程组的迭代解法
本章主要介绍求解线性方程组、非线性方程 之 迭代解法
3.1 解线性方程组的迭代法
前面已经介绍了用直接法求解线性方程组：
Ax = b
n× n n n 其中 A ∈ R , b ∈ R , x ∈ R
（3-1）
在用直接法求解的过程中，我们发现系数矩阵A在不断 变动，如果A的阶数较大时，占用计算机的内存就很大，而 且程序较复杂，对程序设计的技巧要求也较高。 因此，我们希望找到一种在求解过程中系数矩阵不变, 且程序设计又不复杂的求解方法，这种方法就是迭代法。
20 = ， 8
x
(1) 2
33 = = 3， 11
x
(1) 3
12 = =3； 4
( 2) 1
1 = (20 + 3 × 3 − 2 × 3) ≈ 2.875 …， x1(10 ) ≈ 3.00032 8
20 1⎛ ⎞ = ⎜ 33 + 4 × + 3 ⎟ ≈ 2.3636 …， 8 11 ⎝ ⎠
k = 0, 1, 2, L ;
（3-9）
i = 1, 2, L, n
称为Gauss-Seidel迭代法。
x
( k +1) i
⎛ ⎞ n 1⎜ (k ) ⎟ = ⎜ bi − ∑ aij x j ⎟ (i = 1, 2, L, n) Jacobi迭代法 aii ⎜ j =1 ⎟ j ≠i ⎝ ⎠
若记
也可写成
lim x ( k ) = x *
k →∞
即
lim xi( k ) = xi* , i = 1, 2, L , n k →∞
称该迭代法收敛，否则称迭代法发散。
由于
lim x
k→∞
( k +1)
= B lim x ( k ) + f
k →∞
x * ，满足 所以收敛迭代法的极限向量
x = Bx + f
Ax = b ⇔ ⇒
如果已导出（3-1）的等价方程组（3-2）后，计算（3-1） 的解就变成求序列的极限。 取初始向量
x
(0)
代入 x = Bx + f 的右端。
x
(1)
= Bx
(1)) 0
+f +f
x
x
( 2) ( 3)
= Bx + f Bx
((2 ) 1
= Bx
( 2)
M
其一般形式为
x
( k +1)
( x1(k +1) , x 2k +1) , L, xi(-k1+1)已经算出。一般说来，后面的 ( k +1) (k ) 计算值 xi 比前面的计算值 xi 要精确些。 故对
Jacobi迭代法（3-5）可作如下改进。
x
( k +1) 1
( x2k +1)
1 ( ( = (20 + 3 x2k ) − 2 x3k ) ) 8 ( = 1 (33 − 4 x(k ) + x3k ) ) 1 11
D −1
f
=
⎛ 1 ⎜ ⎜ a11 ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝
1 a22
⎞ ⎟ ⎟ ⎟ ⎟ ⎟ O ⎟ 1 ⎟ ann ⎟ ⎠
b ⎛ b1 ⎞ ⎜ ⎟ ⎜ b2 ⎟ ⎜M⎟ ⎜ ⎟ ⎜b ⎟ ⎝ n⎠
则Jacobi迭代法可写成为：
x
(k +1)
D −1 ( L + U ) x =
−1
(k )
+ D −1b
* *
即为方程组（3-2）的解，从而也是（3-1）的解。 因此，使用迭代法求解就是求向量序列 x ( 0 ) , x (1) , x ( 2 ) , L 的极限向量x*。
3.1.1 简单迭代法
简单迭代法也称基本迭代法，有些迭代法可以通过对基本迭 代法的加速或变形而得到。设线性方程组的一般形式为
a11 x1 + a12 x2 + L + a1n xn = b1 a21 x1 + a22 x2 + L + a2 n xn = b2
则
A = D − L −U
下面考察Jacobi迭代法和Gauss-Seidel迭代法的 收敛性。
观察Jacobi迭代法
x
( k +1) i
1 = − aii
aij x (jk ) + ∑
j =1 j ≠i
n
bi aii
(i = 1, 2, L , n)
则其矩阵的表示形式为：
⎛x ⎞ ⎜ ⎟ ⎜x ⎟ ⎜ M ⎟ ⎜ ⎟ ⎜ x(k +1) ⎟ ⎝ n ⎠
an1 x1 + an 2 x2 + L + ann xn = bn
M
其中矩阵A=(aij)n×n为非奇异， 且aii≠0 (i=1, 2, …, n)。 对上式移项和变形后可得等价的方程组：
1 x1 = ( b1 − a12 x2 − L − a1n xn ) a11 M 1 xi = ( bi − ai1 x1 − L − aii −1 xi −1 − aii +1 xi +1 − L − ain xn ) aii M 1 ( bn − an1 x1 − L − ann−1 xn−1 ) xn = ann
x
( 5) 1
≈ 2.999843 ,
x
(5) 2
( x35) ≈ 1.000061 。 ≈ 2.000072 ,
M
终止条件为： x ( k +1) − x ( k ) ≤ 10 −5
将迭代格式可写成如下的分量形式，即
x
(k +1) i
=
1 aii
i −1 n ⎛ ⎞ ( k +1) ⎜ bi − ∑ aij x j − ∑ aij x (jk ) ⎟ ⎜ ⎟ j =1 j = i +1 ⎝ ⎠
使用迭代法求解（3-1）时，首先要将它变形，变成如下形 状的等价方程组
x = Bx + f
其中
（3-2）
n
B∈R
n× n
, f ∈R ,x∈R
n
即 即（3-1）的解是（3-2）的解，反之，（3-2）的解也是 （3-1）的解。用不同的方法构造（3-2）就可得到不同的 （3-1） 迭代法。 （3-2）中的矩阵B称为迭代矩阵。
( k +1)
x
( k +1) i
⎛ ⎞ n 1⎜ (k ) ⎟ = ⎜ bi − ∑ aij x j ⎟ aii ⎜ j =1 ⎟ j ≠i ⎝ ⎠
(i = 1, 2, L, n) （3-5）
⎧ ( k +1) 1 + 3 ( k ) 20 ( xx −= x (20 2 x x2= − 2 x3k ) ) ⎪ ⎧8 1 1 3 8 2 + 3 ⎪ ⎪ ⎪ ( + 11 2 − x3 ( ⎨4 xk1+1) = 1x(33 − 4 x=k )33x3( k ) ) + ⎨ x2 1 ⎪2 x + x11+ 4 x = 12 ⎪ 2 3 ⎩ 1 ⎪ ( k +1) 1 (k ) (k ) ⎪ x3 = 4 (12 − 2 x1 − x2 ) ⎩
x ( 0) = (0,0,0)T ⎛ ⎞ n 1⎜ ( k +1) (k ) ⎟ = (1) ⎜ bi − ∑ aij x j (1⎟ 12 20xi 33 (1) x3 ) = =3； x1 = ， x2aii= =j 31， = ⎜ 11 ⎟ 4 8 j ≠i ⎝ ⎠
取初始向量
x
x
x
(1) 1
= Bx
(k )
+f
( k = 0, 1, 2, L)
（3-3）
Hale Waihona Puke 通常称使用（3-3）式求解的方法为迭代法，也称迭代过 程或迭代格式。