第5节_迭代法的收敛性

x ≠0
Bx x
≥
Bx1 ቤተ መጻሕፍቲ ባይዱ1
= 1,与已知矛盾！
线性方程组迭代法收敛性
推论1：对任意初始向量x (0)和右端项g，若 M < 1, 由迭代式 x ( k +1) = Mx ( k ) + g产生的向量序列{ x ( k ) }收敛.
证明：矩阵范数性质3：ρ ( A) ≤ || A ||
迭代法收敛与否只决定于迭代矩阵的谱半径，与初始向 量及右端项无关。 对同一方程组，由于不同的迭代法迭代矩阵不同，可能 出现有的方法收敛，有的方法发散的情形。
且至少有一个i值，使上式中不等号严格成立，则称A为弱 对角占优阵。若对所有i，上式不等号均严格成立，则称A 为严格角占优阵。
定义：如果矩阵A不能通过行的互换和相应的列互换成 A11 为形式 A = 0 A12 ,其中A11，A22为方阵，则称A为不可约。 A22
1 1 0 2 1 0 P = I13 例： A = 1 1 0 PT AP = 0 1 1 → 0 1 2 0 1 1
k →∞
证：设u为A特征值λ对应的特征向量， 则：Ak u = λ Ak -1u =...=λ k u 即：λ k为矩阵Ak的特征值。
ρ 所以：（Ak） [ ρ ( A)]k =
线性方程组迭代法收敛性
1- ρ ( A) > 0， 2 定理：设A为任意n阶方阵， 存在矩阵范数 ，使得 则对任意正数ε , 存在矩阵 1 + ρ ( A) A ≤ ρ ( A) + ε = <1 范数 ，使得： 2 证： 充分性：若ρ ( A) < 1 ，取ε = 则有： A = 0 lim
Gauss-Seidel迭代收敛性：
其特征方程
λ
1 λI - B = 2 1 2
1 2
λ
1 2 1 1 3 3 =λ - λ+ 2 4 4
1 λ 2 1 = (λ - ) 2 (λ + 1) = 0 2 1 得λ1 = λ2 = , λ3 = -1, 因而ρ ( B) = 1 2 ⇒ Jacobi迭代法不收敛。
k →∞ k →∞
谱半径
引理：设A为 n阶方阵，则lim Ak = 0的充要条件为ρ ( A) < 1。
k →∞
由矩阵收敛的定义知 lim Ak = 0 又因 ρ(A) ≤ A ⇒ 0 ≤ ρ ( Ak ) ≤ Ak
k →∞
由夹逼定理，有 lim[ ρ ( Ak )]=0 。 又由于： ρ ( Ak ) = [ ρ ( A)]k 则： lim[ ρ ( A) k ]=0 ⇒ ρ ( A) < 1
步迭代与第k步迭代关系 第1步迭代与第 步迭代关系。 步迭代与第 步迭代关系。
线性方程组迭代法收敛性
定理：对任意初始向量x (0)和右端项g，由迭代式x ( k +1) = Mx ( k ) + g产生的 向量序列{x ( k ) }收敛的充要条件是ρ ( M ) < 1.
证: 必要性 : 设存在n维向量x* ,使得 lim x ( k ) = x*
迭代法收敛性：
Jacobi迭代法的迭代矩阵为 0 -2 2 B = I - D -1 A = -1 0 -1 -2 -2 0 λ 2 -2 其特征方程为 λ I - B = 1 λ 1 = λ 3 = 0 2 2 λ 因此有λ1 = λ2 = λ3 = 0,于是ρ ( B) = 0 < 1, 所以Jacobi迭代法收敛。
k k →∞
A ≤ ρ ( A) + ε
k -1
由算子范数相容性，可得： 0≤ A ≤ A
k
A ≤ ... ≤ A ,
k
由夹逼定理，可得： lim Ak = 0.
k →∞
线性方程组迭代法收敛性
性质：x ( k ) − x* = M k ( x (0) − x* ) 证明：如果x*存在，则x*满足： x* = Mx* + g x ( k ) - x* = Mx ( k -1) + g − Mx* − g = M ( x ( k -1) − x* ) = M 2 ( x ( k -2) − x* ) = ... ... = M k ( x (0) - x* )
-1
(1- ω ) D + ωU = (1- ω ) n a11a22 ...ann ⇒ det( M ) = (1- ω ) n < 1 ⇒ 0 < ω < 2。
特殊矩阵收敛性的判定：
定义：若n阶方阵A = (aij )满足 aii ≥ ∑ aij (i = 1, 2, L, n)
j =1 j ≠i n
法为SOR法的特例。 法的特例。 注：Gauss-Seidel法为 法为 法的特例
Gauss-Seidel迭代收敛性：
1 1 1 2 2 1 1 例：Ax = b, A = 讨论用三种迭代法求解的收敛性。 1 2 2 1 1 1 2 2 解：因A为对称且其各阶主子式皆大于零，故A为对称正定矩阵。 由判别条件3，Gauss - Seidel迭代法与松弛法(0 < ω < 2)均收敛。 A不是严格对角占优阵，故不能用条件1判断。 1 1 0 - 2 2 1 1 Jacobi迭代法的迭代矩阵为B = I - D -1 A = 0 2 2 1 1 0 2 2
第三章 线性方程组求解的数值方法
第五节 迭代法的收敛性
迭代法收敛性
• 收缩映射原理（Contraction Principle）：
∀x1 , x2 , ∃ 0 < L < 1, f ( x)满足： f ( x1 ) − f ( x2 ) ≤ L x1 − x2 ，则x ( k +1) = f ( x ( k ) )收敛
三种算法收敛性各有优劣。 三种算法收敛性各有优劣。
Gauss-Seidel迭代收敛性：
注意：改变方程组中方程的次序，即将系数矩阵作行交换， 会改变迭代法的收敛性。 3 -10 例：Ax = b, A = 9 -4 Jacobi与Gauss - Seidel迭代的迭代矩阵分别为 10 0 -3 B= , - 9 0 4 谱半径分别是ρ ( B) = 10 0 3 M = 0 15 2 30 15 , ρ ( M ) = ，均不收敛。 2 2
Gauss-Seidel迭代收敛性：
设有线性方程组Ax = b,下列结论成立： 1.若A为严格对角占优阵或不可约弱对角占优阵，则 Jacobi迭代法和Gauss - Seidel迭代法均收敛。（教材定理3.3） 2.若A为严格对角占优阵， < ω ≤ 1, 则松弛法收敛。 0 3.若A为对称正定阵，则松弛法收敛的充要条件为0 < ω ≤ 2。
k →∞ k →∞
即由迭代公式x ( k +1) = Mx ( k ) + g产生的向量序列{ x ( k ) }收敛.
线性方程组迭代法收敛性
性质：若矩阵B的某个算子范数 B < 1, 则必有I ± B可逆 证明：反证法：设( I ± B) x = 0有非零解，即： ∃x1 ≠ 0, 使得( I ± B ) x1 = 0,即： ± Bx1 = x1 B max
线性方程组迭代法收敛速度
性质：x ( k ) − x* = M k ( I − M )-1 ( x (0 ) − x (1) ) 证明：如果x*存在，则x*满足： x* = ( I - M )-1 g x ( k ) - x* = M k ( x (0 ) − x* ) = M k [ x (0) − ( I − M )-1 g ] = M k ( I − M )-1[( I − M ) x (0) − g ]
证明：
x ( k +1) − x ( k ) = f ( x ( k ) ) − f ( x ( k −1) ) ≤ L x ( k ) − x ( k −1) ≤ L f ( x ( k −1) ) − f ( x ( k − 2) ) ≤ L2 x ( k −1) − x ( k − 2) ...... ≤ Lk −1 f ( x (1) ) − f ( x (0) ) ≤ Lk x (1) − x (0)
Gauss-Seidel迭代收敛性：
若交换方程的次序，得Ax = b的同解方程组A' x = b' , 3 -10 9 -4 ' A= → A = 3 -10 9 -4 A'为严格对角占优阵，因而对方程组A' x = b'用 Jacobi与Gauss - Seidel迭代求解均收敛。
迭代法收敛性：
x1 + 2 x2 - 2 x3 = 1 例：对方程组 x1 + x2 + x3 = 2 2 x + 2 x + x = 3 2 3 1 讨论Jacobi迭代法与Gauss - Seidel迭代法的收敛性。 解：求迭代矩阵判别其谱半径是否小于1。 1 A = 1 2 0 L = -1 -2 2 -2 1 1 2 1 0 0 0 -2 0 0 1 0 D = 0 1 0 0 0 -2 U = 0 0 0 0 0 0 1 2 -1 0
f ( x)
f ( x)
ξ ∀ξ > 0, ∃K = log L ( x1 − x0
) , ∀k > K ,满足：
f ( x)
x ( k +1) − x ( k ) ≤ ξ
∴序列{x ( k ) } 收敛
x 表示取大于x的整数
收缩映射
线性方程组迭代法收敛性
证：必要性： 若 lim Ak = 0
k →∞