第五章线性方程组迭代解法 51 基本迭代方法

第五章线性方程组迭代解法5.1 基本迭代方法
5.1.1 迭代公式的构造
5.1.2 Jacobi 迭代法和Gauss-Seidel迭代法
第五章线性方程组迭代解法第五章线性方程组的迭代解法
教学目的
1. 掌握Jacobi迭代法，G-S迭代法解大型线性方程组的
方法及其收敛性的判别方法；
2. 掌握SOR迭代法及收敛的必要条件(0<ω<2 )；
3. 了解三种迭代法之间的改进关系从而掌握该思想方
法；
4. 理解迭代法基本定理。

教学重点及难点
重点是三种迭代法及收敛性的判别方法；
难点是迭代法基本定理及三种迭代法收敛定理的证明。

第五章线性方程组迭代解法
第5章
线性方程组的迭代解法
首先看一个形成大型方程组的例子。

考虑下面的Poisson 方程
,
10,10,0≤≤
≤≤
=+y x u
u
xx
xx
的离散逼近，其边界条件为：
.
10,1)1,(,)0,(,10,1),1(,),0(2
2<<==<<==x x u x
x u y y u y y u 取进行网格剖分,用二阶导数,按逐行自左至右和自下而上的自然次序离散华可得下列线性方程组
25.0=Δ=Δy x
第五章线性方程组迭代解法
⎟⎟⎟
⎟⎟⎟⎟
⎟
⎟⎟⎟⎟⎟⎠
⎞⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎝⎛=⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎝⎛⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎝
⎛−−−−−−−−−−−−−−−−−−−−−−−−215625.11025.05625.125.0125.0411141
1
141
14
1
11
1411
1
1411
4
11
1411
14987654321u u u u u u u u u 其中
是的近似值。

这是一
种特殊形状的稀疏矩阵。

随着和的减少，所得到的方程组的阶
数将增大。

对于大型线形代数方程组，常用迭代解法。

它是从某些初始向量出
)3,2,1,(33=−+j i u j i ),(y j x i u ΔΔx Δy Δ
第五章线性方程组迭代解法
发，用设计好的步骤逐次算出近似解向量，从而得到向量序列。

一般的计算公式是
称之为多步迭代法．若只与有关，且是线性的，即
{}
)(k x )(k x )
1(+k x
.
,1,0),,,,()
()
1()()
1(L L ==−−+k x
x
x F x
m k k k k k )
1(+k x
)
(k x k F ,
1,0,)
()
1(L =+=+k f x B x
k k k k 其中，称为单步线性迭代法，称为迭代距阵。

若和都与k 无关，即
)
(n n k R
B ×∈k B k B k
f ,
1,0,)
()
1(L =+=+k f Bx
x
k k 称为单步定常线性迭代法。

本章主要讨论具有这种形式的各种迭代方法。

第五章线性方程组迭代解法
5.1 基本迭代方法
5.1.1 迭代公式的构造
设，，A 非奇异，
满足方程组Ax=b 。

（5.1.1）
n
n R
A ×∈n R b ∈n
R x ∈如果能找到距阵，向量，使可逆，而且方程组
x=Bx+f
(5.1.2)
n n R B ×∈B I −n
R f ∈*
x n R x ∈)0({}
k
x *x 的唯一解就是方程组（5.1.1）的解，则可从（5.1.2）式构造一个定常的线
性迭代公式
（5.1.3）
给定初始向量, 由(5.1.3)可以产生序列,若它有极限, 显然
就是(5.1.1)和(5.1.2)的解。

(1)
()
k k x
Bx
f +=+。

第五章线性方程组迭代解法
定义 5.1若对任意初始向量，迭代公式（5.1.3）产生的
序列都有
n R x ∈)0({}
)(k x ,
lim *
)
(x x
k k =∞
→则称迭代法（5.1.3）是收敛的。

从（5.1.1）出发，可以由不同的途径得到各种不同的等价方程组（5.1.2），从而得到不同的迭代法（5.1.3）。

例如，设A 可以分解为
，其中M 非奇异，则由（5.1.1）可得
N M A −=.
1
1
b M Nx M x −−+=令就可以得到（5.1.2）的形式。

不同的分解方式
，可的不同的B 和f , 下面给出对应不同分解方式的常用迭代
计算公式。

,11b M Nx M B −−==N M A −=
第五章线性方程组迭代解法
5.1.2 Jacobi 迭代法和Gauss-Seidel 迭代法
1. Jacobi 迭代法
记，可以把A 分解为
)(ij a A =,
U L D A −−=（5.1.4）
其中.000,000,11121,1
21⎟⎟
⎟⎟⎟
⎠⎞⎜⎜⎜⎜
⎜⎝⎛−=⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎝⎛−=−−n
n n n n n a a a U a a a L O M O L L O O M ),
,,,(2211nn a a a diag D L =现设D 非奇异，即。

方程组（5.1.1）等价于
n i a ii ,,2,1,0L =≠.
)(1
1
b D
x U L D
x −−++=
第五章线性方程组迭代解法
用J 法计算向量序列，要用两组单元存放向量和。

迭代法可以写成分量形式
{}
)(k x )(k x )1(+k x .,,2,1,/)()(1
)(1
1
)1(n i a x
a x
a b x
ii k j
n
i j ij
k j
i j ij i k i
L =−
−=∑∑+=−=+（5.1.8）
由此构造迭代公式：
,
,1,0,)
()
1(L =+=+k f x
B x
J k J k （5.1.5）
其中迭代距阵和向量为
J B J f ,
)(1
1
A D I U L D
B J −−−=+=（5.1.6）（5.1.7）
称（5.1.5）为解（5.1.1）的Jacobi 迭代法，简称J 法。

.
1
b D f J −=2. Gauss-Seidel 迭代法
在J 法中，计算时，分量已经算出，所以可考虑)1(+k i x (1)(1)
11
,,k k i x x ++−L
第五章线性方程组迭代解法
对J 法进行修改。

在每个分量计算出来之后，下一个分量的计算就利用最新的计算结果。

这样，在整个迭代过程中只要使用一组单元存放迭代向量，其分量形式的计算结果为
.,,2,1,/)()(1
)1(1
1
)1(n i a x
a x
a b x
ii k j
n
i j ij
k j
i j ii i k i
L =−
−=∑∑+=+−=+（5.1.9）
这就是Gauss-Seidel 迭代法，简称GS 法
将（5.1.9）写成距阵形式
),
()
()
1(1)
1(b Ux
Lx D x
k k k ++=+−+经整理有
,
,1,0,)
()
1(L =+=+k f x
B x
GS k GS k （5.1.10）
其中迭代距阵和向量为
GS B GS f ,
)(1U L D B GS −−=(5.1.11)
第五章线性方程组迭代解法
.
)(1
b L D f GS −−=(5.1.12)
Jacobi 迭代法和Gauss-Seidel 迭代法的分量形式供计算编程用，它们
的距阵形式供研究迭代序列是否收敛等理论分析用。

例５.１
用Ｊ法和ＧＳ法分别求解方程组
,14514103131021310321⎟⎟⎟⎠
⎞⎜⎜⎜⎝⎛−=⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛−x x x 其准确解为。

T x )1,1,1(*=解
用J 法计算，按（5.1.8）有
⎪⎩⎪⎨⎧+−−=++=+−=+++.
10/)14 3(,10/)53 2(,10/)143- ()(2)(1)1(3
)
(3)(1)1(2)
(3)(2)1(1k k k k k k k k k x x x x x x x x x
第五章线性方程组迭代解法
用GS 法计算，按（5.1.9）有
⎪⎩⎪⎨⎧+−−=++=+−=++++++.
10/)14 3(,10/)53 2(,
10/)143- ()1(2
)1(1
)1(3
)(3
)
1(1)1(2)(3)(2
)1(1
k k k k k k k k k x
x
x x x x x x x 取，J 法迭代4次的计算结果是
T x )0,0,0()0(=.
0356.0,)9906.0,9645.0,9906.0(*)
4()
4(=−=∞
x
x
x
T
GS 法迭代4次的计算结果是
.
0085.0,)0021.1,99578.0,99154.0(*)
4()
4(=−=∞
x
x
x
T 从计算结果看，本例用GS 法显然比用J 法收敛快。