第六章6.1-6.2迭代法思想

4
迭代格式
例：用迭代思想求解线性方程组
8 x1 − 3 x 2 + 2 x 3 = 20 4 x1a + 11 x 2 − x 3 = 33 6 x + 3 x + 12 x = 36 2 3 1
( 3,2,1)T 精确解为： 精确解为：
5
迭代格式
解：根据迭代的思想，建立迭代的计算规则。 根据迭代的思想，建立迭代的计算规则。 改写为如下形式： 将AX=b改写为如下形式： 改写为如下形式
16
雅克比(Jacobi)迭代法 迭代法 雅克比
x ( 0 ) = (0,0,0)T ,计算如下 计算如下: 取 计算如下
k 1 2 … x1(k) 0.72 0.971 … x2(k) 0.83 1.07 … x3(k) 0.84 1.15 …
11 1.099993 1.199993 1.299991 12 1.099998 1.199998 1.299997
D
L
A=
D
U
-U
27
-L
Jacobi迭代法的矩阵描述 迭代法的矩阵描述
当选分裂矩阵为D时 当选分裂矩阵为 时，对应得到的即 迭代法。 为Jacobi迭代法。 迭代法 A=D-(L+U)=M-N; M=D, N=L+U
B = M −1 N = D −1 ( L + U )
f = M −1 b = D −1 b
雅可比迭代法可写为矩阵形式
x ( k + 1 ) = D −1 ( L + U ) x ( k ) + D − 1 b
20 3 2 x1 = 8 + 8 x 2 − 8 x 3 33 4 1 − x1 + x 3 x2 = 11 11 11 36 6 3 x 3 = 12 − 12 x1 − 12 x 2
3 0 8 x1 x = − 4 0 2 11 x3 6 3 − 12 − 12 2 20 − 8 x1 8 1 33 x2 + 11 11 x 3 36 0 12
X X
(0) (k +1)
初始向量 = BX
(k )
+ f
X = M NX + M b
−1
−1
得： B = M − 1 N = M − 1 ( M − A ) = I − M − 1 A
f = M −1 b
选择不同的分裂矩阵M可以得到不同的迭代法。 选择不同的分裂矩阵 可以得到不同的迭代法。 可以得到不同的迭代法
19
高斯－塞德尔 高斯－塞德尔(Gauss-Seidel)迭代 迭代
或简写为： 或简写为：
x i( k + 1 )
1 = [bi − aii
i −1
∑
j =1
aij x (j k + 1 )
−
j = i +1
aij x (j k ) ] ∑
n
i = 1, 2, ⋯ n
称为高斯 塞德尔 称为高斯—塞德尔（Gauss — Seidel）迭代法。 高斯 塞德尔（ ）迭代法。
23
上例计算结果表明，Gause − seidel迭代 法比Jacobi迭代法效果好。事实上，对有 些问题Gause − seidel迭代法确实比Jacobi 迭代法收敛得快，但也有Gause − seidel迭 代比Jacobi迭代收敛得慢，甚至还有Jacobi 迭代收敛，Gause − seidel迭代发散的情形。 评价：与Jacobi相比，只需一组工作单 元存放近似解。
20
高斯－塞德尔 高斯－塞德尔(Gauss-Seidel)迭代 迭代
迭代法解上题。 例2 用Gauss—Seidel 迭代法解上题。
10 x1 − x2 − 2 x3 = 7.2 − x1 + 10 x2 − 2 x3 = 8.3 − x − x + 5 x = 4 .2 1 2 3
13
雅克比(Jacobi)迭代法 迭代法 雅克比
或简写为： 或简写为：
n 1 i−1 (k+1) (k) (k) x i = ( −∑a i j x j − ∑ai j x j +b i ) aii j=1 j =i+1
( i = 1,2, ⋯, n)
称为雅可比 迭代法， 称为雅可比(Jacobi)迭代法，也称作简单迭 雅可比 迭代法 代法。 代法。
22
高斯－塞德尔 高斯－塞德尔(Gauss-Seidel)迭代 迭代
计算如下： 取 x(0)=(0,0,0)T 计算如下： k 1 … 8 x1(k) 0.72 … 1.099998 x2(k) 0.902 … 1.199999 x3(k) 1.1644 … 1.3
Jacobi法需要12次迭代。。。 Jacobi法需要12次迭代。。。 法需要12次迭代
, x2
( k +1 )
时，
, ⋯ x i −1
( k +1 )
Байду номын сангаас
已经计算得到了， 已经计算得到了，所以
可以将原来的迭代进行改善。 可以将原来的迭代进行改善。
18
高斯－塞德尔 高斯－塞德尔(Gauss-Seidel)迭代 迭代
(k+1) 1 x1 = ( −a12x(k)−a13x(k)− ⋯ −a1n x(k) +b1 ) 2 3 n a11 x(k+1)= 1 (−a x(k+1) −a x(k)− ⋯ −a x(k) +b ) 21 1 23 3 2n n 2 2 a 22 ⋮ x(k+1)= 1 (−a x(k+1)− ⋯ −a x(k+1) +bn) n n1 1 nn−1 n−1 ann
26
Jacobi迭代法的矩阵描述 迭代法的矩阵描述
如果将矩阵A改写成形式： 如果将矩阵 改写成形式：A=D-L-U 改写成形式
a11 A= a 22 0 − a − 21 ⋮ ⋱ a nn − a n1 0 ⋮ − an 2 0 − a12 ⋯ − a1n 0 ⋯ − a2n − ⋱ ⋮ ⋱ ⋮ ⋯ 0 0
X =
B
X+f
6
迭代格式
取初始向量为
X ( 0 ) = (0,0,0)T
，代入迭代
格式计算得到： 格式计算得到： (1) = ( 2.5,3,3)T X 以此类推，反复利用迭代式， 次迭 以此类推，反复利用迭代式，10次迭 代后得： X ( 10 ) 代后得：
= ( 3 . 000032 ,1 . 999838 , 0 .999881 ) T
构造的迭代格式X 构造的迭代格式 = BX+f ，在k不断 不断 增大时， 逼近精确解。 增大时，计算得到的 X (k ) 逼近精确解。
7
迭代格式
将方程组 AX=b ( |A|≠0 ) 转化为与其 ≠ 等价的方程组 X = BX+f 。 取初始向量 依此类推 X X(0)
(2)
X ( 1 ) = BX ( 0 ) + f ，
第二节 基本迭代法
10
雅克比(Jacobi)迭代法 迭代法 雅克比
设方程组
a11 x1 + a12 x2 + ⋯ + a1n xn a x + a x + ⋯+ a x 21 1 22 2 2n n an1 x1 + an2 x2 + ⋯ + ann xn = b1 = b2 ⋮ = bn
17
高斯－塞德尔 高斯－塞德尔(Gauss-Seidel)迭代 迭代
迭代可以看出， 由Jacobi迭代可以看出，每次计算 xi 迭代可以看出 新值时， 新值时，用的都是 x j
x1
( k +1 )
( k +1 )
(k )
( j ≠ i ) ，即 x j ( j ≠ i )
( k +1 )
的旧值，但事实上， 的旧值，但事实上，在计算 xi
第六章 解线性方程组的迭代法
第一节 引言
1
迭代法的基本思想
对于线性方程组AX=b,迭代法的基本思 迭代法的基本思 对于线性方程组 想是： 想是： 出发， 从某一个给定的初始值 X (0 ) 出发，按照 一个适当的计算法则逐次计算生成序列
X (0 ) , X (1) , X (2 ) ⋯ X (k ) , ⋯
24
迭代法的矩阵描述
迭代法基本思想的矩阵描述： 迭代法基本思想的矩阵描述：
A= M −N
分裂矩阵； 分裂矩阵； 的某种近似。 是A的某种近似。 的某种近似
∴ AX = b → ( M − N ) X = b → MX = NX + b
X = M NX + M b
25
−1
−1
迭代法的矩阵描述
与一阶定常迭代对照
15
雅克比(Jacobi)迭代法 迭代法 雅克比
解： 雅可比 迭代 格式为
( k +1) 1 ( ( x1 x2k ) + 2 x3k ) + 7.2) = ( 10 ( k +1) 1 ( k ) (k) = ( x1 + 2 x3 + 8.3) x2 10 x ( k +1) 1 ( x ( k ) x ( k ) = + 4.2) 3 1 + 2 5
(1)
= BX
+ f
X(k+1) = BX(k) + f 一阶定常迭代。 一阶定常迭代。
（k=0,1,2,⋯) ⋯
8
那么，对于任何一个方程组x = Bx + f ， 由迭代法产生的向量序列x 是否一定
(k )
逐步逼近方程组的解呢？
x1 = 2 x2 + 5 x2 = 3 x1 + 5
9
其中 aii(i)≠0 ( i=1 , 2 , …, n)
12
雅克比(Jacobi)迭代法 迭代法 雅克比
建立迭代格式： 建立迭代格式：
(k+1) 1 ( ( ( x1 = ( − a12x2k) − a13x3k) − ⋯ − a1n xnk) + b1 ) a11 k x(k+1) = 1 (−a x((k)+1) − a x(k) − ⋯ − a x(k) + b ) 2 21 x 1 23 3 2n n 2 a22 ⋮ x(k+1) = 1 (−a x(k) − ⋯ − a ( k) + bn ) n n1 1 n n−1 xn−1 ann
；
{ X ( k ) } 的收敛性； 的收敛性； 证明所得向量序列
是原问题的近似解， 若{ X (k ) }收敛于 x∗ ，则 x∗ 是原问题的近似解， 该近似解的误差如何估计。 该近似解的误差如何估计。
3
初始近似向量的选择
实际计算中， 实际计算中，通常取 X (0 )为元素全零 或全1的向量。 或全 的向量。 的向量 初始向量的选取对迭代序列的收敛 性没有影响。 性没有影响。
11
雅克比(Jacobi)迭代法 迭代法 雅克比
等 价 方 程 组
x1 x2 xn 1 = [ − a12 x2 − ⋯ − a1n xn + b1 ] a11 1 [−a21 x1 − − ⋯ − a2 n xn + b2 ] = a22 ⋮ 1 [−an1 x1 − an2 x2 − ⋯ = + bn ] ann
，当序列收敛于 X ∗ ，即
∗
极限
lim X (k ) = X ∗
k →∞
,则 X 是方程组 则 是方程组AX=b的解。 的解。 的解
2
迭代法需要解决的问题
选择一个初始近似向量 X (0 ) ； 构造一种计算法则（迭代格式），由 构造一种计算法则（迭代格式），由 ），
X
( k −1 )
计算 X
(k )
14
雅克比(Jacobi)迭代法 迭代法 雅克比
例1 用雅可比迭代法解方程组
10 x1 − x2 − 2 x3 = 7.2 − x1 + 10 x2 − 2 x3 = 8.3 − x − x + 5 x = 4 .2 1 2 3
1. 1 ∗ x = 1. 2 1. 3
21
高斯－塞德尔 高斯－塞德尔(Gauss-Seidel)迭代 迭代
迭代的迭代格式为： 解： Gauss-Seidel迭代的迭代格式为： 迭代的迭代格式为
( k +1) 1 (k) (k) x2 + 2 x3 + 7.2) = ( x1 10 ( k +1) 1 ( k +1) (k) = ( x1 + 2 x3 + 8.3) x2 10 x( k +1) 1 ( x( k +1) x( k +1) = + 2 + 4.2) 1 3 5