迭代公式的建立ppt课件

0.4x2(k)
2
9
迭代计算
x(0) 0 [0, 0, 0]T
x(1) 1

0.3
x (1) 2
1.5


x1(k x2(k
1) 1)

0.2x2(k) 0.1x3(k) 0.3
0.2x1(k )
0.1x3(k) 1.5

x3(k
1)

0.2x1(k )
将L+U= A - D代入
x(k1) D1b D1(D A) x(k ) (I D1A) x(k) D1b
写成
x(k1) Gx(k ) d
雅可比迭代矩阵
G I D1A
d D1b
27
雅可比迭代的矩阵形式为 x(k1) Gx(k) d
第五章 线性代数方程组的迭代法
5.1 迭代公式的建立 5.2 向量和矩阵的范数 5.3 迭代过程的收敛性
1
5.1 迭代公式的建立 设线性代数方程组
写成矩阵形式 Ax=b 其中
2
迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法。
基本思想：对给定的方程组 Ax b ，写成等价的形式
x Gx d
a x ( k 1) ij j j 1

n
a
ij
x
( j
k
)
)
j i 1
参数 称为松弛因子。
可以证明，为了保证迭代过程收敛，必须要求
0 2。
20
迭代-加速的形式
x ( k 1) i

(1 ) xi( k )


aii
( bi

i 1
a x ( k 1) ij j j 1
ji1
(i 1,2, , n)
高斯-塞德尔迭代公式的特点是：一旦求出变元xi的 某个新值xi(k+1)后，就改用新值xi(k+1)代替老值xi(k)进行 这一步以后剩下的计算。因此，可将新值存放在老值 所占用的单元内，公式可表为下列动态形式：
i1
(bi aijx j ) / aii xi ,
0.97 0.989 …
3
0.91 16 4
80
x2(k) 0 1. 1.76
1.989 …
5
1.92 1.97 7
60 00
x3(k) 0 2. 2.66 2.86
2.982 …
0
40 2.95 3
40
11
5.1.2 高斯-塞德尔迭代
设计思想：
雅可比迭代收敛时，新值xi(k+1) 比老值xi(k) 更准确； 在雅可比迭代中，算出新值xi(k+1)后，用新值xi(k+1)代 替用于后面计算的老值xi(k) ，期望这样会收敛得更快 些，即为高斯-塞德尔(Gauss-Seidel)迭代。
0.4x2(k)
2
x (1) 3

2


x1(2 x2(2
) )

0.2
x(1) 2

0.1x3(1)

0.3

0.8
0.2
x(1) 1
0.1x3(1) 1.5 1.76

x3(2
)

0.2
x(1) 1

0.4
x(1) 2
2

2.66
10
2
k 01
345
…
x1(k) 0 0. 0.80
j 1
n
aij x j(k ) )
j i 1
,
(i 1, 2,L
, n)
分量形式

x1(k
1)


1 a11
(b1
a12 x2(k )
a13 x3(k )
L
a1n xn(k ) )

x2(k
1)


1 a22
(b2
a21x1(k )
a23 x3(k )
L
14
例 用高斯-塞德尔迭代法求解方程组
解 方程组化为等价的方程组
x1
0.2x2 0.1x3 0.3

x2

0.2x1
0.1x3 1.5
x3 0.2x1 0.4x2 2
构造高斯-塞德尔迭代公式


x1(k x2(k
1) 1)

0.2x2(k ) 0.2 x1( k 1)
x ( k 1) i


aii
(bi

i 1
a x ( k 1) ij j j 1

n
aij
x
( j
k
)
)

(1


) xi( k )
j i 1
松弛因子 的取值对迭代加速公式的收敛
速度影响极大。
实际计算时，可以根据方程组的系数矩阵的
性质，并结合实践计算的经验来选取合适的松弛
0
1
2
3…
0 0.3 0.8804
…
0.98428
0 1.56 1.9444 1.99224 … 8
0 2.684 2.9538 2.99375 … 7
17
小结 ➢一般情况下高斯-塞德尔迭代法比雅
可比迭代法好；
➢但情况并不总是这样，也有高斯-塞
德尔迭代法比雅可比迭代法收敛得慢， 甚至有雅可比迭代法收敛而高斯-塞 德尔迭代法反而发散的例子。

,
d
b2


a22

M
M
M


M
0


bn

ann

G为雅可比迭代矩阵。
28
高斯-塞德尔法的迭代格式
x (k 1) i
4
5.1.1 雅可比迭代公式
设线性方程组
其中系数矩阵非奇异，且主对角元aii≠0， (i =1,2,…,n)，由第i 个方程解出xi，有


x1

1 a11
LLL
(b1 L

a12
x2

a13x3

L
a1n xn )


xn

1 ann
(bn
an1x1

an2 x2
L
ann1xn1)
xi

1 aii
(bi

n
aij x j )
j1 ji
,
(i 1,2,L
, n)
5
建立迭代格式

x1(k
1)


1 a11
(b1
a12 x2(k )
a13 x3(k )
L
a1n xn(k ) )

x2(k
1)


1 a22
(b2
a21x1(k )

x3(k
1)

0.2x1(k 1)
0.4x2(k1)

2
迭代计算： x(0) 0 [0, 0, 0]T
x1(1) 0.3
x
(1) 2

1.56
x (1) 3

2.684
x1(2) 0.8804
x(2) 2

1.94448
x(2) 3

2.95387
16
计算结果:
k x1(k) x2(k) x3(k)
a2n xn(k ) )

L
L
L
L

xn(k
1)


1 ann
(bn

an1x1(k )

an2 x2(k )
L

a x(k) nn1 n1
)
矩阵形式 x(k1) D1(b Lx(k ) Ux(k ) )
26
雅可比迭代的矩阵形式
x(k1) D1(b Lx(k ) Ux(k ) ) D1b D1(L U ) x(k )

i 1
aij
x
(k j
1)
j 1

n
aij
x
(k j
)
)
j i 1
加速
x (k 1) i
xi(k 1)
(1 )xi(k )
i 1, 2,
,n
19
或合并写成迭代-加速的形式
x ( k 1) i

(1 ) xi( k )


aii
( bi

i 1

n
a
ij
x
( j
k
)
)
j i 1
1) 1 时迭代格式就是高斯-塞德尔迭代格式。
2) 0< 1 叫低松弛因子。
3)
由于迭代值
x ( k1) i
通常比
xik
精确，所以在加速
公式中加大
x ( k 1) i
的比重，尽可能扩大它的效果，
取松弛因子1 2 ，叫超松弛法。
21

n
aij x j(k ) )
j1
ji
(i 1,2,L ,n)
8
例 用雅可比迭代法求解方程组 解 从3个方程分离出
10x1 2x2 x3 3 2x1 10x2 x3 15 x1 2x2 5x3 10
x1
0.2x2 0.1x3 0.3
18
5.1.3 超松弛法
(SOR—Successive Over-
Relaxation)
将高斯-塞德尔迭代前一步计算结果
x(k ) i
与这一步
的计算结果 xi(k 1) 适当加权平均，可期望得到更好的近似
值 xi(k 1) ，即有松弛法，其迭代格式
迭代
x(k1) i

1 aii
(bi

x2

0.2x1
0.1x3 1.5

x3

0.2x1

0.4 x2

2
构造雅可比迭代公式


x1(k x2(k
1) 1)

0.2x2(k) 0.1x3(k) 0.3
0.2x1(k )
0.1x3(k) 1.5 , k

0,1, 2,L

x3(k
1)

0.2 x1( k )
, n)
ji
取初值 x1(0) , x2(0) ,L , xn(0) ，进行迭代。 这种方法称为雅可比(Jacobi)迭代公式。
6
雅可比迭代公式
x (k1) i

1 aii
(bi
n
aij x j(k ) ),
j1
(i 1,2,
, n)
ji
即
x (k1) i

1 aii
高斯-塞德尔迭代公式：
x (k1) i

1 aii
(bi

i 1
a x (k1) ij j j1

n
aij x j(k ) ),
ji1
(i 1,2, , n)
12
x (k1) i

1 aii
(bi

i 1
a x (k1) ij j j1

n
aij x j(k ) ),
j1 ji
(i 1,2,L ,n)
用两次迭代的偏差 终止。
max
1in
yi
来xi 控 制 迭代过程的
13
高斯-塞德尔 迭代 算法框图
x (k1) i

1 aii
(bi

i1
aij
x
( j
k
1)
j 1

n
aij x j(k ) )
j i 1
(i 1, 2,L , n)
G I D1A d D1b

0

G




a21 a22
M

M



an1 ann
a12 a11 0
an2 ann
a13 L a11
a23 L a22 O O
an3 L ann

a1n a11

b1

a11


a2n a22
a23 x3(k )
L
a2n xn(k ) )

L
L
L
L

xn(k
1)


1 ann
(bn an1x1(k ) an2 x2(k ) L

a x(k) nn1 n1
)
写成
x (k1) i

1 aii
(bi
n
aij x j(k ) ),
j1
(i 1,2,
0.1x3(k) 0.3 0.1x3(k) 1.5, k

0,1, 2,L
( k 1)
0.4x2(k1)
2
15
高斯-塞德尔 迭代公式


x1(k x2(k
1) 1)

0.2x2(k ) 0.2x1(k 1)
0.1x3(k) 0.3 0.1x3(k) 1.5
因子。
22
5.1.4 迭代公式的矩阵表示
n个未知量n个方程的线性代数方程组
矩阵形式 Ax=b 其中
23
令系数矩阵
其中D为对角阵，L和U分别为严格下三角阵和严格上 三角阵。
L+U=A - D
24
25
雅可比迭代公式
x (k1) i

1 aii
(bi
i 1
aij x j(k )
(bi

i 1 j 1
aij x j(k )

n
aij x j(k ) )
j i 1
,
(i 1, 2,L
, n)
x ( k 1) i

x(k) i

1 aii
(bi

n
aij
x
(k j
)
)
j 1
(i=1,2,…,n)
7
雅可比迭代 的算法框图
x (k1) i

1 aii
(bi
构造一个迭代公式
x(k1) Gx(k ) d
当给定初始向量 x(0) ，进行迭代，生成向量序列
x(1) , x(2) , , x(k ) ,
当向量序列收敛到某个极限向量 x ，即 lim x(k ) x k
则 x 是方程组 Ax b 的精确解，即满足 Ax* b
3
对给定的方程组 Ax b ，如何写成等价的形式 x Gx d 例 如： 设 A M N ， 则有 (M N )x b ， Mx Nx b ， x M 1Nx M 1b ，写成迭代公式 x(k1) Gx(k ) d 其中 G M 1N ， d M 1b 。 又 ， 如 方 程 组 Ax b ， 写 成 Ax b 0, x x Ax b ， x (I A)x b 写成迭代公式 x(k1) Gx(k ) d 其中 G I A ， d b 。