第6章 逐次逼近法

其中： BG (D L)1U, fG (D L)1b
四、迭代法的收敛性
定理：迭代法 x(k1) Bx(k) f 对任意 x(0) , f 收敛的充要条件是 (B) 1。
定理：设 x*为线性方程组的精确解，若 B 1，则迭代法 x(k1) Bx(k) f 收敛，且
有
x * x (k) B x(k) x(k1) 1 B
第 6 章 逐次逼近法
[教学目的与要求]
1．理解方程求根数值解法的基本思想； 2．掌握根的隔离的基本方法、二分法求根的基本思想与过程； 3．理解简单迭代法的基本思想、迭代函数的收敛性； 4．掌握埃特金迭代法； 5．掌握牛顿迭代法与插值法； 6．掌握迭代法的控制条件
[重点与难点]
重点：二分法、迭代法的基本思想、埃特金和牛顿迭代法。
x1 = 0.4771 x2 = 0.3939 …
x6 = 0.3758 x7 =0.3758 因为 x6 和 x7 已趋于一致，所以取 x7 = 0.3758 为原方程在[0, 1]内的一个根的近似值。 2、迭代的几何意义 3、迭代过程的收敛性 一个方程的迭代格式并不是唯一的，且迭代也不总是收敛的。如上例中取等价方程为
0
即
lim
k
xk
x*
（2）由定理中的条件得
xk1 xk x* xk (x* xk1 ) x* xk x* xk1 x* xk ( x*) (xk ) x* xk ( ) x* xk x* xk L x* xk (1 L) x* xk
x 10x 2
得迭代格式
xk1 10xk 2
仍取 x0 = 1 算得：
x1 10 2 8
x2 108 2 108
8
x3 10108 2,
显然，该迭代是散的。
设 f(x)=0 的 根为α，迭代函数为 (x) ，则有： () xn1 (xn ) xn1 (xn ) ( ) xn1 ( )(xn ) xn1 ( ) | q | xn
4）若
lim
n
xk
x* ，则序列中含有满足精度要求的近似根
例：求方程 f (x) x 10x 2 0 的一个根
解： 将原方程改为等价方程为：
x 10x 2 0 10x x 2 x lg(x 2)
由此得迭代格式：
xk1 lg(xk 2)
因为 f (0) = 1>0 f (1) = -7 <0，则方程在[0, 1]中必有一实根，取初始值 x0 = 1，可逐次 算得
j 1
ji
(i 1,2,, n)
x (k 1) i
1 aii
(bi
n
aij
x
(k j
)
)
j 1
ji
(i 1,2,, n)
Ax b (D L U)x b Dx (L U )x b x D 1 (L U )x D 1b x (k1) BJ x (k ) f J
6
其中： BJ D1(L U), f J D1b
解决方法： 确定一个初始的近似根，然后再将初始的近似根逐步加工成满足精度要求的结果。为
此，需两个条件。 (1)初始近似根 x0 (2)由近似值 xk 获得近似值 xk+1 的方法或公式
6.1 基本概念
一、向量范数 1、向量范数
定义：对于 n 维向量空间中任意一个向量 x，若存在唯一一个实数 x R 与 x 对应，
且满足
1）正定性： x 0,且xRn, x 0 x 0;
1
2）齐次性： x x ，x Rn, R;
3）三角不等式： x y x y ，x, y Rn.
则称 x 为向量 x 的范数。
2、常用的向量范数 1）1-范数
x 1
x1
x2
xn
2）2-范数
x
2
( x1
2
x2
2
xn
2
)
称为矩阵 A 的算子范数。 3、常用的算子范数 1）列范数
A
max x0
Ax
x
n
A 1
max
1 jn i1
aij
2）行范数
n
A
max 1in j1
aij
3）2-范数
A 2
max ( AT A)
max (AT A)：矩阵 AT A 的绝对值最大的特征值
例：求矩阵 A 的各种常用范数
1 2 0 A 1 2 1
cond ( A) A A1
为矩阵 A 的条件数 4、常用条件数：
1） cond ( A)1
A 1
A1 1
2） cond ( A)
A
A1
3） cond( A)2
A 2
A1
2
6.2 解线性方程组的迭代法
一、基本思想
max ( AT A)
1 min ( AT A)
max ( AT A) min ( AT A)
xi
1 aii
(bi
n
aij x j )
j 1
ji
(i 1,2,, n)
x (k 1) i
1 aii
(bi
i 1
a x (k 1) ij j j 1
n
bij x j (k ) )
j i 1
3、矩阵形式
(i 1,2,, n)
Ax b (D L U)x b Dx (L U )x b Dx(k1) Lx (k1) Ux(k ) b x(k1) (D L)1Ux(k) (D L)1b x (k 1) BG x (k ) fG
证明：
因为 x x Ax A x ，则有 A
即 (A) A
定理：若 A 1，则 I A 为非奇异阵，且
(I A)1 1 1 A
二、误差分析介绍
定义：如果线性方程组 Ax b 中，A 或 b 的元素的微小变化，就会引起方程组解的巨
大变化，则称该方程组为“病态”方程组，矩阵 A 称为“病态”矩阵，否则称方程组为“良 态”方程组，矩阵 A 称为“良态”矩阵。
2、系数矩阵 A 的扰动对方程组解的影响
设系数矩阵 A 有误差A ，解有误差x ，则
4
(A A)(x x) b A x Ax A x 0 (A A)x Ax A(I A1A)x A x x (I A1A)1 A1A x x (I A1A)1 A1 A x
定理：若线性方程 Ax b 中的 A 为严格对角占优矩阵，则 Jacobi 法和 G-S 法均收敛。 6.3 非线性方程的迭代解法
一、简单迭代法 1、迭代法的基本思想
1）将 f (x) = 0 化为等价方程 x (x) （称 (x) 为迭代函数）
2）建立迭代式 xk1 (xk )
7
3）选取初值 x0 产生迭代序列{xk }
难点：收敛性、迭代法的控制条件。
[教学安排]
主要内容 6.1 基本概念 6.2 解线性方程组的迭代法 6.3 非线性方程的迭代解法
6.4 迭代法的加速
[授课内容]
学时 2 2 2
P160 2，3 题
P161 8，9 题
P161 11 题
课后作业
本章主要问题： 求方程 f(x) =0 的根 (1) 多项式方程：五次或五次以上的代数方程，没有求根公式。 (2) 超越方程：难以找到精确解。
满足
1）正定性： A 0,且A Rn , A 0 A 0;
2）齐次性： A A ，A Rn , R;
3）三角不等式： A B A B ，A, B Rnn.
4) AB A B ，A, B Rnn.
则称 A 为矩阵 A 的范数。
2、算子范数
2
定义：设 x Rn , A Rnn ，且 x 是一种向量范数，则 v
所以 x* x* 0 即 x* x*
3）由微分中值定理及本定理中的条件可得
10
x* xk1 (x* ) (xk ) ' ( ) x* xk L x* xk L2 x* xk1 Lk1 x* x0
又因为 L<1 所以
lim
k
x*
xk 1
lim Lk k
x* xk1
(x1(0)
,
x (0) 2
,
x (0) 3
)
(0,0,0)
进行迭代求解，得
x1 1.10000, x2 1.20000, x3 1.30000
二、简单迭代法（Jacobi 迭代法） 1、一般形式
2、矩阵形式
n
aij x j bi
j 1
(i 1,2,, n)
xi
1 aii
(bi
n
aij x j )
(xk) (k = 0, 1, …)收敛于 x*。
9
（2）
x* xk
1 1 L
xk 1 xk
x* xk
Lk 1 L
x1 x0
(k 1,2,)
证明： （1）首先证 x*的存在性，再证其唯一性 1）存在性： 令 g(x)=x-(x) 因为 (x)在[a,b]上具有连续的一阶导数 所以 (x)在[a,b]上连续，即 g(x) 在[a,b]上连续 又因为当 x[a, b]时，(x)[a, b] 故有
三、Gauss-Seidel 迭代法 1、思想：每次迭代时充分利用当前最新的迭代值。即在进行第 k+1 次迭代计算分量
xi (k1) 时，前面的 i-1 个分量用已经算出的 k+1 次迭代值，后面的 n-i+1 个分量则用上次的
迭代值。 2、一般形式
n
aij x j bi
j 1
(i 1,2,, n)
即若|q|<1，则 n+1 次的迭代值比 n 次的迭代值要小。 定理：设迭代函数 (x)在[a,b]上具有连续的一阶导数，且满足 （1）当 x[a, b]时，(x)[a, b]
（2） L (0,1) ，对 x [a,b]有 '(x) L
则有 （1）方程 x = (x)在[a, b]上有唯一的根 x*,并且对任意初值 x0[a, b]时，迭代序列 xk+1=
0 1 1
解：
A max{11 0,2 2 1,0 11} 5 1
A max{1 2 0,1 2 1,0 11} 4
1 1 0 1 2 0 2 0 1
AT
A
2
2
1 1 2 1 0
9
1
0 1 1 0 1 1 1 1 2
2 det (I AT A) 0
1、常数项 b 的扰动对方程组解的影响
设常数项 b 有误差b ，解有误差x ，则
A(x x) b b Ax b x A1b x A1b
x A1 b
又因为
Ax b b Ax b Ax 1 A
xb
所以有
x A A1 b
x
b
即由常数项产生的相对误差，可能将解的相对误差放大 A A1 倍。
5
Ax b x Bx f x(k1) Bx(k) f
取初始向量 x(0) 逐步代入迭代式求解
例：求解方程组
10x1 x2 2x3 7.2 x1 10x2 2x3 8.3 x1 x2 5x3 4.2
解：将方程组同解变形为
x1 0.1x2 0.2x3 0.72
1 2
3）∞-范数
x
max 1in
xi
4）p-范数(p≥1)
x
p
(
x1
p
x2
p
xn
p
1
)p
例：求向量 x (1,4,3,1)T 的各种常用范数
解：
x 1
x1
x2
x4
9
x
2
(
x1
2
x2
2
x4
2
1
)2
3
3
x max 1i4
xi
4
二、矩阵范数
1、矩阵范数
定义：对于空间 Rnn 中任意一个矩阵 A，若存在唯一一个实数 A R 与 A 对应，且
x
2
0.1x1
0.2x3
0. 2
0.84
建立迭代式
x (k 1) 1
x (k 1) 2
0.1x2(k) 0.1x1(k)
0.2 x3 ( k ) 0.2 x3 ( k )
0.72 0.83
x3
(
k
1)
0.2x1(k)
0.2x2(k)
0.84
取初值
1
0 9
1
1 1 0 2
1 9.1428,2 2.9211,3 0.9361
A 2
max ( AT A)
0.9361 3.0237
4、谱半径
定义：设 A R nn 的特征值为 i (i 1,2,, n) ，称
3
为矩阵 A 的谱半径。
(
A)
max
1in
i
定理：设 A R nn ，则 (A) A 。
设 A1A 1 则有
所以有
(I A1A)1
1
1 A1A
x (I A1A)1 A1 A x
x A1 A
A1 A
x 1 A1A 1 A1 A
A A1 A
x
A
x 1 A A1 A
A
即由系数矩阵产生的相对误差，可能将解的相对误差放大 A A1 倍。
3、条件数
定义：设 A 为非奇异矩阵， • 为矩阵的算子范数，则称
g(a) a (a) 0 g(b) b (b) 0
所以存在 x* [a,b], g(x* ) 0
即 x* (x*)
2）唯一性
设 x* 满足 x* (x*)
则 x* x* (x*) (x*) ()(x* x*)
即 (x* x*)[1()] 0
又因为 '() L 1
1 '( ) 0