第四章线性方程组和非线性方程组的迭代法

Ax b D L U x b Dx L U x b D
k 1
x Lx
k 1
Ux
k
b (Jacobi :Dx
k 1
Lx
k
Ux
k
d )
其分量形式:
xi
k 1
n 1 i 1 k 1 k a ij x j a ij x j b i i 1, 2 , n j i 1 a ii j 1

由上述迭代矩阵的结构可以看出,对于Jacobi 迭代的收敛问题有 比较简单的判别法: 如果方程组的系数矩阵A是严格主对角占优的,则Jacobi 迭代法 对于任意的初始向量都是收敛的. 这个条件等价于 B 1
9
二 Gauss-Seidel迭代法 把Jacobi迭代稍做改进得:
i k 1 1 x k x k x i k 1 x k x k x k x i i i i i


13
第四节 解非线性方程组的迭代法
f 1 ( x1 , x 2 , , x n ) 0 f 2 ( x1 , x 2 , , x n ) 0 f ( x , x , , x ) 0 n n 1 2
一 一般迭代法 与单个非线性方程迭代法类似,先化为等价的方程组
f 1 ( x1 , x 2 , , x n ) 0 f 2 ( x1 , x 2 , , x n ) 0 f ( x , x , , x ) 0 n n 1 2 x1 g 1 ( x1 , x 2 , , x n ) x 2 g 2 ( x1 , x 2 , , x n ) x g ( x , x , , x ) n 1 2 n n
x x
*
k

1 1 B
x
k 1
x
k

B
k
1 B
x
1
x
0
5
注意：这个定理的条件是收敛的充分条件,不是充要条件. 与单个方程的结论类似 B 越小,收敛越快. 定理:由上述迭代格式构造的序列收敛的充要条件是 ： (B )< 1 同理, (B ) 越小,收敛越快.
Ja co b i : x i
k 1
n 1 i 1 k k a ij x j a ij x j b i i 1, 2 , n j i 1 a ii j 1
11
对于G-S 迭代的收敛问题也有比较简单的判别法: 如果方程组的系数矩阵A是严格主对角占优的,则 G-S 迭代法对于任意的初始向量都是收敛的. 如果方程组的系数矩阵正定, 则 G-S 迭代法对于任意的初始向量都是收敛的. 注意:上述条件都是收敛的充分条件
1
a1 3 a 23

1
a1 n a2n 0
Ax b D P x b Dx Px b x D Px D b x Bx d
由此可得到Jacobi迭代法:
x
k 1
D P x
三种常用的矩阵范数:
A A A
1
则称
A
为
A
的范数.
m ax{ a ij }
1 j n i 1
n
称列范数
2

m ax ( A A )
T

n m ax a ij 1 i n j 1
称行范数
3
定义: A是n阶方阵, x是n维列向量，如果满足 A x A x 则称这种矩阵范数和向量范数是相容的。这样的矩阵范 数称为矩阵的自然范数。 上述三种常用的矩阵范数都是自然范数。

1

k
D b
1
在实际计算时常常采用其分量形式:
xi
k 1
n 1 i 1 k k a ij x j a ij x j b i i 1, 2 , n j i 1 a ii j 1
8
0 a 21 1 a 22 B D P a n1 a nn
取初值:
x
0
0 2.5 1 0 x 2.18 0 1.21
Gauss-Seidel迭代法是充分利用了有效信息,以改善 计算效果 Jacobi 迭代需要两套储存单元, 而G-S迭代只需一套储存单元.
10
G-S迭代法的一般形式
14
g 1 ( x1 , x 2 , , x n ) g 2 ( x1 , x 2 , , x n ) g (x) g ( x , x , , x ) n n 1 2

称为迭代向量函数
由此就可以建立一个迭代格式:
x k 1 g ( x k , x k , , x k ) 1 1 1 2 n k 1 k k k g 2 ( x1 , x 2 , , x n ) x2 k 0 ,1, 2 , k 1 k k k xn g n ( x1 , x 2 , , x n )
取初值:
0
x
0 2.5 3 1 10 0 x 3 x 1.999 0 3 0.99988
7
Jacobi迭代法的一般形式
a1 1 A DP a 22 a nn 0 a 21 a n1 a1 2 0 an2
{x
*
k
} 是一个向量序列, x
* * * k
k
( x1 , x 2 , , x n )
k
*
k
k
x ( x1 , x 2 , , x n ), 如 果 lim x i
k
x i , i 1, 2, , n
lim x
k
则称向量序列收敛,记为
12
三 松弛迭代法
这是在G-S迭代基础上的一种加速方法,它分为迭代和加速两个过程 n 迭代: k 1 1 i 1 k 1 k
xi
加速:
xi
k 1
a ij x j a ii j 1
a ij x j
j i 1
bi
a1 1 A D L U a 22 a nn 0 a 21 a n1 0 0 an2 0 0 0 0 0 0 a1 2 0 a1 n a2n 0
k
x
*
1
定义: x 是一个向量, f ( x ) 是一个实值函数,记为 f ( x ) x 如果这个函数满足下列三条:
(1) x 0,且 x 0 x 0； ( 2 ) 对 任 意 常 数 c , cx c x ; (3) x y x y .
则称 x 为 x 的范数,上述三个条件又称范数公理. 范数是绝对值概念的一种推广 三种常用的向量范数:
k 1 1 k k x1 ( 3 x 2 2 x 3 20 ) 8 k 1 1 k 1 k x2 ( 4 x1 x 3 33) 11 1 k 1 k 1 k 1 x3 ( 6 x1 3 x2 36 ) 12
Ax Ax Ax
1 2
A A A
1 2
x x
1 2
x
定义: A是n阶方阵，A的特征值为：1 , 2 , n , A m ax i
称为A的谱半径。
定理：对任意方阵A必有 A A
1 i n
4
第二节 迭代法的基本概念和收敛条件 线性方程组的迭代法的基本思想与第二章单个方程的迭代法类似 首先将f (x) = Ax – b = 0转化为等价的方程组 x = Bx+d，这里B是 一个常数矩阵，称为迭代矩阵，x是一个常向量。 对于给定的初始向量 x 0 ，由迭代格式： k 1 B x k d , k 0,1, 2, x 就可以构造出一个向量序列{ x k }使之收敛于方程组的精确解。 线性方程组迭代法的收敛定理： 定理:对于方程组x=Bx+d,如果 B 1 则有以下结论: (1) 该方程组有唯一解; 0 (2) 对于任意给定的初始向量 x ,由上述迭代格式 构造的向 k 量序列{ x } 收敛于方程的精确解 x * ; (3) 有误差估计式:
k 1 1 k k x1 ( 3 x 2 2 x 3 20) 8 k 1 1 k k x2 ( 4 x1 x 3 33) 11 1 k 1 k k x3 ( 6 x1 3 x 2 36) 12
6
第三节 解线性方程组的迭代法 一 Jacobi迭代法 1 先看一个例子: x (
8 x1 3 x 2 2 x 3 20 4 x1 11 x 2 x 3 33 6 x 3 x 12 x 36 2 3 1
3 x 2 2 x 3 20 ) 1 8 1 ( 4 x1 x 3 33) x2 11 1 x ( 6 x1 3 x 2 36 ) 3 12
第四章 线性方程组和非线性方程组的迭代法
第一节 引言 与第二章单个方程的想法类似,我们按某种方式构造一个序列, k k 1 k x x （ ), k 0,1, 2, 使这个序列 { x } 收敛到精确解. 由于方程组的解是一个向量,所以现在要构造的是一个向量序 列,而且还涉及向量序列的收敛问题. 定义:
x x x
1
xi
i 1
n
2

xi
2
m ax x i

2
定理:
k
lim x
k
x lim x
k
*
k
x
*
0
定义:A是n阶方阵, f ( A )是A的一个非负实值函数,记为 f ( A ) A
如果满足下列范数公理
(1) A 0,且 A 0 A 0； ( 2 ) 对 任 意 常 数 c , cA c A ; (3) A B A B ; (4) AB A B

a1 2 aBaidu Nhomakorabea 1 0

a1 3 a1 1 a 23 a 22



an2 a nn
a1 n a1 1 a2n a 22 0
b1 a 11 b2 1 d D b a 22 b n a nn
一般迭代法的收敛条件与单个方程迭代法的收敛条件很类似
15
定理 设D是n 维空间的一个连通区域,若迭代向量函数g(x) 满足:
(1)
x D g (x) D