第6章解线性方程组的迭代法收敛性
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
迭代法的收敛性
邹昌文
迭代法的矩阵写法
1.Jacobi迭代法（J法）
Ax b
令A D L U
0
其
中D
a11
ann
,
L
a21
an1
U
0
0 0
a12
0 0
a1n
an1n 0
A=
0 0
0 0
an2 0
-U
D
-L
(D LU)x b
Dx (L U )x b
(
Bx
(
k
)
f ) (Bx *
f)
B(
x
(
k
)
x*)
Be
(
k
)
e(k ) Bke(0)
||
e
(k
)
||
||
B
||
||
e
(k
1)
||
...
||
B
||k
||
e
(0)
||
充分条件: ||B|| < 1 || B ||k 0 as k
必要条件:
e
(
k
)
0
as
||任e(何k)等|算| 价子0于范对数有 k|| Ak A || 0 aBs kk ？
Jr
✓ “Ji ”
首先1需i n要i，ni 一i个r1 n引i 理n
，/ Leim为mAa
的/ eigen
1
value。
对任意1 > 0,
存在算 子范数
|| ·||
使得 || A ||
(A)
。
令
由
D(B )
<1
可2 知存 ，在则算有子D范1P数1AP||D· ||
1
使得
||
Br
||<
1。
令BG ( D L)1U , fG ( D L)1 b
则GS迭 代 矩 阵 为 ：x BG x fG
Gauss-Seidel 迭代阵
迭代法的收敛性 / Convergence of Iterative methods /
x
(
k
1)
Bx
(
k
)
f
的收敛条件
e
(k
1)
x (k1)
x*
)
f
收敛
Bk 0
证明： Bk 0 || Bk || 0
max x0
||
Bk
x
||
|| x ||
0
||
B
k
x
||
0
对任意非零向量
x
成立
B
k
x
那0什收么对敛条任呢件意？可非保零证 向Bk量
x
成立
{从ex(任k()k意) }Bx收k(e0敛)(0出) “则“发xb0”i，(jk”：有)：a记取s对||0|Bk|ex任xk((x0i||))意||第非(|x0|i.B(位零.0.k)1|.向|..0x量)*0T，则
由Th1，i
(B)
B r
q<1
1不可能是B的特征值 det( E B) 0
(E B)x f有唯一解
xk1 x* Bxk f (Bx* f) B( xk x* )
xk1 x*
r
B( xk x* ) r
B r
xk x*
r
q xk x* r q2 xk1 x* r
定义 设：A (aij )nn , Ak (ai(jk) )nn Rnn .
lim
k
Ak
A 是指
lkimai(jk ) aij
对所有 1 i, j n 成立。
定定义义：谱半 径 矩阵A Rnn的所 有特征值i
(i 1,n)的模的最大值称为A的谱半径，记作( A)
即( A)
max
n1
|| Bk || || B ||k 0 as k
Bk 0
r
易证：|| A || || D1P 1 APD ||1 max( | i | ) ( A)
迭代从是 所任由以意只|| x向要 ||取v量 |出| (<P发D，)收1就x敛有||1 导|| A出||的 <算子B1(Ak范i)r 数 。0。
定理 Bk 0 ( B ) < 1
证明：“” 若 是 B 的eigenvalue, 则J1k 是 B k 的eigenvalue 。
证明：则对 A[做(BJ)o]rkd=an[分m解ax，|有 |P]k1A=P|mk |... (B，k其) 中 || Bk || 0
i (1B)0< 1
(B)<1
定T理h2.若 迭 代 过 程xk1 Bxk f中 迭 代 矩 阵 的 某
范 数 B < q < 1,则 r
1）x0 Rn ,方 程x Bx f存 在 唯 一 解 ， 且
xk x* , x*为 解
2）xk
x*
r
1 1q
xk1 xk
r
3)
xk
x*
r
qk 1q
x1 x0
r
证：下只证（1），x Bx f存在唯一解
a
ij
ann
| D| am1(m与xDm此|类L 似Ua)m|i x|iD1| x||mD| |LamiU| |
证证明明：：若任不何然一，个即| de|t(A1) 都= 0不，可则能A是是对奇应异迭阵代。阵的
特征根存，在即非|零I向量B
|
x0
0
。
( x1 ,
x2 ,
xn )T使得 Aa1x10
a0 .ij
|JaIco关bBi记:于| B|G| xJamI=u|ssDDm-1Si1a1e((nxiLdL| ex+li迭U|U)代|) 的i证n1 am明i xi 0
0 xk1 x* r qk1 x0 x* r
又0 < q < 1 k , xk x*
注：
判 断 迭 代 是 否 收 敛 的 一种 充 分 条 件 是 ：
某种范数B < 1 (B) < 1 r
特 别 考 虑1, 范 数
定理 （充分条件）若A 为严格对角占 优阵 / strictly
1 i n
ห้องสมุดไป่ตู้
i
定T理h1.矩阵A的谱半径不超过任一范数 A r
证 ： 设为A的 任 一 特 征 向 量 对 应 的特 征 值
Ax x ( x 0)
Ax x x A x
r
r
r
rr
A r
(A) A r
定理
设
x
Bx
f
存在唯一解，则从任意
x
(
0)
出发，
迭代
x
(
k
1)
Bx
(
k
x D1(L U )x D1b
令BJ D1 (L U ), fJ D1b
则 矩 阵 迭 代 格 式 为 ：x BJ x fJ
Jacobi 迭代阵
Gauss Seidel迭代法（GS法）
Dx k1 Lxk1 Ux k b (D L)xk1 Uxk b
xk1 ( D L)1Ux k ( D L)1 b
diagonally dominant matrix / 则解 Ax b的Jacobi 和 Gauss -
Seidel 迭代均收敛。
证明：首先需要一个引理 / Lemma /
显然
若A 为SDD阵，则det(A) 0，且所有的 aii 0。
我们需要对 Jacobi 迭代和 Gauss-Seidel迭代分别
邹昌文
迭代法的矩阵写法
1.Jacobi迭代法（J法）
Ax b
令A D L U
0
其
中D
a11
ann
,
L
a21
an1
U
0
0 0
a12
0 0
a1n
an1n 0
A=
0 0
0 0
an2 0
-U
D
-L
(D LU)x b
Dx (L U )x b
(
Bx
(
k
)
f ) (Bx *
f)
B(
x
(
k
)
x*)
Be
(
k
)
e(k ) Bke(0)
||
e
(k
)
||
||
B
||
||
e
(k
1)
||
...
||
B
||k
||
e
(0)
||
充分条件: ||B|| < 1 || B ||k 0 as k
必要条件:
e
(
k
)
0
as
||任e(何k)等|算| 价子0于范对数有 k|| Ak A || 0 aBs kk ？
Jr
✓ “Ji ”
首先1需i n要i，ni 一i个r1 n引i 理n
，/ Leim为mAa
的/ eigen
1
value。
对任意1 > 0,
存在算 子范数
|| ·||
使得 || A ||
(A)
。
令
由
D(B )
<1
可2 知存 ，在则算有子D范1P数1AP||D· ||
1
使得
||
Br
||<
1。
令BG ( D L)1U , fG ( D L)1 b
则GS迭 代 矩 阵 为 ：x BG x fG
Gauss-Seidel 迭代阵
迭代法的收敛性 / Convergence of Iterative methods /
x
(
k
1)
Bx
(
k
)
f
的收敛条件
e
(k
1)
x (k1)
x*
)
f
收敛
Bk 0
证明： Bk 0 || Bk || 0
max x0
||
Bk
x
||
|| x ||
0
||
B
k
x
||
0
对任意非零向量
x
成立
B
k
x
那0什收么对敛条任呢件意？可非保零证 向Bk量
x
成立
{从ex(任k()k意) }Bx收k(e0敛)(0出) “则“发xb0”i，(jk”：有)：a记取s对||0|Bk|ex任xk((x0i||))意||第非(|x0|i.B(位零.0.k)1|.向|..0x量)*0T，则
由Th1，i
(B)
B r
q<1
1不可能是B的特征值 det( E B) 0
(E B)x f有唯一解
xk1 x* Bxk f (Bx* f) B( xk x* )
xk1 x*
r
B( xk x* ) r
B r
xk x*
r
q xk x* r q2 xk1 x* r
定义 设：A (aij )nn , Ak (ai(jk) )nn Rnn .
lim
k
Ak
A 是指
lkimai(jk ) aij
对所有 1 i, j n 成立。
定定义义：谱半 径 矩阵A Rnn的所 有特征值i
(i 1,n)的模的最大值称为A的谱半径，记作( A)
即( A)
max
n1
|| Bk || || B ||k 0 as k
Bk 0
r
易证：|| A || || D1P 1 APD ||1 max( | i | ) ( A)
迭代从是 所任由以意只|| x向要 ||取v量 |出| (<P发D，)收1就x敛有||1 导|| A出||的 <算子B1(Ak范i)r 数 。0。
定理 Bk 0 ( B ) < 1
证明：“” 若 是 B 的eigenvalue, 则J1k 是 B k 的eigenvalue 。
证明：则对 A[做(BJ)o]rkd=an[分m解ax，|有 |P]k1A=P|mk |... (B，k其) 中 || Bk || 0
i (1B)0< 1
(B)<1
定T理h2.若 迭 代 过 程xk1 Bxk f中 迭 代 矩 阵 的 某
范 数 B < q < 1,则 r
1）x0 Rn ,方 程x Bx f存 在 唯 一 解 ， 且
xk x* , x*为 解
2）xk
x*
r
1 1q
xk1 xk
r
3)
xk
x*
r
qk 1q
x1 x0
r
证：下只证（1），x Bx f存在唯一解
a
ij
ann
| D| am1(m与xDm此|类L 似Ua)m|i x|iD1| x||mD| |LamiU| |
证证明明：：若任不何然一，个即| de|t(A1) 都= 0不，可则能A是是对奇应异迭阵代。阵的
特征根存，在即非|零I向量B
|
x0
0
。
( x1 ,
x2 ,
xn )T使得 Aa1x10
a0 .ij
|JaIco关bBi记:于| B|G| xJamI=u|ssDDm-1Si1a1e((nxiLdL| ex+li迭U|U)代|) 的i证n1 am明i xi 0
0 xk1 x* r qk1 x0 x* r
又0 < q < 1 k , xk x*
注：
判 断 迭 代 是 否 收 敛 的 一种 充 分 条 件 是 ：
某种范数B < 1 (B) < 1 r
特 别 考 虑1, 范 数
定理 （充分条件）若A 为严格对角占 优阵 / strictly
1 i n
ห้องสมุดไป่ตู้
i
定T理h1.矩阵A的谱半径不超过任一范数 A r
证 ： 设为A的 任 一 特 征 向 量 对 应 的特 征 值
Ax x ( x 0)
Ax x x A x
r
r
r
rr
A r
(A) A r
定理
设
x
Bx
f
存在唯一解，则从任意
x
(
0)
出发，
迭代
x
(
k
1)
Bx
(
k
x D1(L U )x D1b
令BJ D1 (L U ), fJ D1b
则 矩 阵 迭 代 格 式 为 ：x BJ x fJ
Jacobi 迭代阵
Gauss Seidel迭代法（GS法）
Dx k1 Lxk1 Ux k b (D L)xk1 Uxk b
xk1 ( D L)1Ux k ( D L)1 b
diagonally dominant matrix / 则解 Ax b的Jacobi 和 Gauss -
Seidel 迭代均收敛。
证明：首先需要一个引理 / Lemma /
显然
若A 为SDD阵，则det(A) 0，且所有的 aii 0。
我们需要对 Jacobi 迭代和 Gauss-Seidel迭代分别