第6章 解线性方程组的迭代法
第6章 求解线性代数方程组和计算矩阵特征值的迭代法
数值计算与MATLAB1《数值计算与MATLAB 》第6章求解线性代数方程组和计算矩阵特征值的迭代法§1 求解线性代数方程组的迭代法§2 方阵特征值和特征向量的计算§3 矩阵一些特征参数的MATLAB计算《数值计算与MATLAB 》6.1 求解线性代数方程组的迭代法1、迭代法的基本原理如果线性方程组Ax=b的系数矩阵A非奇异，则方程组有唯一解。
把这种方程中的方阵A分解成两个矩阵之差：A=C-D若方阵C是非奇异的，把A它代入方程Ax=b中，得出 (C-D)x=b，两边左乘C-1，并令 M=C-1D，g= C-1b，移项可将方程Ax=b变换成：x=Mx+g据此便可构造出迭代公式： xk+1=Mx k+g，M=C-1D称为迭代矩阵。
《数值计算与MATLAB 》2. 雅可比（Jacobi）迭代法如果方程组Ax=b的系数矩阵A非奇异，aii≠0，若可以把A 分解成： A=D-L-U=D+(-L)+(-U)，D=diag(a11,a22,…,a nn)；-L是严格下三角阵；-U是严格上三角矩阵；x= D-1((L+U)x +b)=D-1(L+U)x+ D-1bx k+1=D-1((L+U)x k+b)= D-1(L+U)x k + D-1bMM=D-1(L+U)称为雅可比迭代矩阵《数值计算与MATLAB 》⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=67-4121-26-3-115-12A⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=61-3-2D⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=74-1-2-1-L⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=2-61-51-UM=D-1(L+U)=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡7/62/3-1/6-222-1/31/2-5/21/2-《数值计算与MATLAB 》雅可比迭代公式的向量形式x k=[( x k) 1,( x k) 2, …,(x k) n]T, k=0,1,2,……，D-1=diag( , ,… ,)，11a122a1nna1))((1)(11∑≠=++-=nijjijijiiikbxaaxk《数值计算与MATLAB》3. 赛德尔（Seidel）迭代法))((1)(11∑≠=++-=nijjijijiiikbxaaxkM= (D-L)-1U称为赛德尔迭代矩阵《数值计算与MATLAB 》4. 迭代法的敛散性方阵的谱半径《数值计算与MATLAB 》向量范数非负性：||x||≥0齐次性：||ax||=|a|||x||；三角不等式：||x||+||y||≥||x+y||。
(完整版)6.4超松弛迭代法
0.75 x2( ( k 1)
6 0.25x3(k
)
7.5
x (k 1) 3
0.25x2(k1)
6
②取ω=1.25 ，即SOR迭代法：
xx21((kk11))
0.25x1(k) 0.9375x2(k) 7.5 0.9375x1(k1) 0.25x2(k) 0.3125x3(k)
-5.0183105
3.1333027
4.0402646
-5.0966863
4
3.0549316
3.9542236
-5.0114410
2.9570512
4.0074838
-4.9734897
5
3.0343323
3.9713898
-5.0071526
3.0037211
4.0029250
-5.0057135
6
3.0214577
3.9821186
-5.0044703
2.9963276
4.0009262
-4.9982822
7 3.0134110
3.9888241
-5.0027940
3.0000498
4.0002586
-5.0003486
迭代法若要精确到七位小数， Gauss-Seidel迭代法需要34次迭代； 而用SOR迭代法(ω=1.25)，只需要14次迭代。
因子ω。
返回引用
opt
(1
2
1 [(BJ )]2 )
（4）
这时，有ρ(Bopt
)=
ω
opt
-
1。
SOR法分类与现状
通常，
(1)当ω>1 时，称为超松弛算法； (2)当ω<1 时，称为亚松弛算法。
第六章6.3迭代法的收敛性
4 2 1
1 5 1
1
2
3
问题：该矩阵具有怎样的特点？ 结论：该矩阵是严格对角占优阵
定义：如果矩阵A的元素满足
jn
| aii | | aij | i 1,2,3,, n j 1 ji
则称A为严格对角占优矩阵。
9
特殊方程组迭代法的收敛性
定理：若线性方程组AX=b的系数矩阵A为 严格对角占优矩阵，则解该方程组的Jacobi 迭代法和G-S迭代法均收敛。
则: (k1) B (k ) B2 (k 1) Bk1 (0)
注意 (0) x(0) x * 为非零常数向量
因此迭代法收敛的充要条件
lim (k1) lim( x(k1) x*) 0
k
k
可转变为
lim Bk1 0
k
2
一阶定常迭代法的收敛性
定理：迭代格式 x(k1) Bx(k ) f 收敛 的充要条件为：lim Bk 0
k
lim Bk 0
k
即: (B) 1
B的所有特征值的绝对值小于1
B的谱半径
根据矩阵与其Jordan标准形及特征值的关系
3
一阶定常迭代法的收敛性
定理：设B为n阶实矩阵，则 lim Bk 0 k
的充要条件是 (B) 1
定理：迭代格式 x(k1) Bx(k ) f 收敛 的充要条件为：(B) 1
4
一阶定常迭代法的收敛性
例：判别下列方程组用Jacobi迭代法和G-S 法求解是否收敛。
1 2 2 x1 1 1 1 1 x2 1 2 2 1 x3 1
5
一阶定常迭代法的收敛性
解: (1) 求Jacobi法的迭代矩阵
1 0 0 0 2 2
线性方程组的迭代式求解方法
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ，如果这一迭代格式收敛，对这个式子不断迭代计算就可以得到方程组的解。
道理很简单：对 x^{(k+1)}=bx^{(k)}+f 两边取极限，显然如果收敛，则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ，从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入，从而能够实现循环往复的求解，方法收敛时，计算次数越多越接近真实值。
2.收敛条件充要条件：迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件： \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ，从而进行迭代求解呢？一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 )：\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ，则Jacobi法的迭代格式（也称分量形式）为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式（也称向量形式）为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地，若 A 对称正定且为三对角，则 \rho^2(B_J)=\rho (B_G)<1 。
_第六章_线性方程组的数值解法迭代法
b 1
a 11
b2
f
a 22 bn
a nn
x(k1) B0x(k)f
--------(5)
第四节 解线性方程组的迭代法
令：
0 0 0
L
a 21
0
0 A的下三角部分矩阵
a n1 a n 2 0
0
U
0
a12 0
a1n a2n
A的上三角部分矩阵
第三节 向量范数和矩阵范数
（2）范数的另一个简单例子是二维欧氏空间的长度
0M x2 y2
欧氏范数也满足三个条件：
（勾股定理）
设x = (x1, x2) ① x 0 x >0 ② ax = a x a为常数 ③ x+ y ≤ x + y 前两个条件显然，第三个条件在几何上解释为三角形一边的长度不大于其它 两边长度之和。因此，称之三角不等式。
满足：
① A0,且A0,当且A 仅 0当
，若 A
正定
② A A,为任意实数
奇次
③ ABAB,A和 B为任意 n阶两 方个 三阵 角不等
则称 A 为矩阵A的范数。
第三节 向量范数和矩阵范数
2、矩阵范数与向量范数的相容性 对于任意的n维向量x，都有：
Ax A x
这一性质称为矩阵范数与向量范数的相容性。
n
A
max
1in
j1
aij
A的每行绝对值之和的最大值, 又称A的行范数
第三节 向量范数和矩阵范数
（3）矩阵的2范数
2范数 ||A|2 | ： (AT A )
(AAT) ?
矩阵的谱半径：
矩阵B的诸特征值为： i(i1,2, ,n)
解线性方程组的迭代法
0.9906
0.0355
5 1.01159 0.9953
1.01159 0.01159
6 1.000251 1.005795 1.000251 0.005795
7 0.9982364 1.0001255 0.9982364 0.0017636
可见,迭代序列逐次收敛于方程组的解, 而且迭代7次得到精确到小数点后两位的近似解.
a11x1 a12x2 a13x3 b1 a21x1 a22x2 a23x3 b2 a31x1 a32x2 a33x3 b3
从而得迭代公式
x1
a12 a11
x2
a13 a11
x3
b1 a11
x2
a21 a22
x1
a23 a22
x3
b2 a22
x3
a31 a33
M 00.8 00..75
但(M)=0.8<1,所以迭代法 x(k+1)=Mx(k)+g 是收敛的.
由(3.5)式可见,‖M‖越小收敛越快,且当‖x (k) -x(k-1) ‖很小时,‖x(k) –x*‖就很小,实际中用‖x (k) x(k-1) ‖<作为
迭代终止的条件。 例如，对例1中的Jacobi迭代计算结果
+‖x(k+1) –x*‖‖M‖‖x(k) –x(k-1)‖+‖M‖‖x(k) –x*‖ 从而得‖x(k) –x*‖‖M‖‖x (k) -x(k-1) ‖/（1- ‖M‖）
(3.5) (3.6)
估计式(3.5)得证。利用(3.5)式和
‖x(k+1) 得到
-x(k)
‖‖M‖‖x
(k)
-x(k-1)
‖
解线性方程组 的迭代法
第六章 解线性方程组的迭代法.ppt
称 J 为解 Ax b的雅可比迭代法的迭代阵.
（2.5）
15
研究雅可比迭代法(2.5)的分量计算公式.
记 x(k ) ( x1(k ) ,, xi(k ) ,, xn(k ) )T ,
由雅可比迭代公式(2.5), 有
Dx(k1) (L U )x(k ) b,
或
i1
n
aii
9
定义1 (1) 对于给定的方程组 x Bx f，用公式(1.6) 逐步代入求近似解的方法称为迭代法(或称为一阶定常迭代 法，这里 B与 k无关).
(2) 如果 lim x(k) 存在(记为 x * )，称此迭代法收敛， k
显然 x *就是方程组的解，否则称此迭代法发散. 研究 {x(k )}的收敛性. 引进误差向量
22
例2 用高斯-塞德尔迭代法解线性方程组(1.2).
8x1 3x2 2x3 4x1 11x2 x3
20, 33,
6x1 3x2 12x3 36.
（1.2）
取 x(0) (0, 0, 0)T， 按高斯-塞德尔迭代公式
x ( k 1) 1
记为 Ax b , 其中
（1.2）
8 A4
6
3 2 11 1, 3 12
x1 x x2 ,
x3
20 b 33 .
36
方程组的精确解是 x* (3, 2, 1)T . 现将(1.2)改写为
4
12
于是，求解 Ax b转化为求解 Mx Nx b，即求解
Ax b 求解x M 1Nx M 1b.
可构造一阶定常迭代法
高斯-赛得尔迭代法
b12x2(k) b13x3(k)
x2(k
1)
b x (k1) 21 1
b23x3(k)
b x (k) 1n1 n1
b1n xn(k)
g1
b x( 2n1 n1
k
)
b2nxn(k)
g2
x (k1) n
b x (k1) n1 1
bn2
x (k1) 2
bn3x3(k1)
b x (k1) nn1 n1
9
解线性方程组的迭代法
例 用Gauss-Seidel迭代法求线性方程组
10x1 x2 2x3 72,
x1 10x2 2x3 83,
x1 x2 5x3 42,
x1 0.1x2 0.2x3 7.2 x2 0.1x1 0.2x3 8.3 x3 0.2x1 0.2x2 8.4
x )
x (k 1) 2
0.4x2(k )
0.7( x1(k 1)
x (k) 3
)
x (k 1) 3
0.4x3(k ) 0.7(1.8 x2(k1) )
20
解线性方程组的迭代法
x (k 1) 1
0.4x1(k )
0.7(1 x2(k) )
参数 , 误差限 , 最大容许迭代次数N.
2. 置 k 1.
3.计算
18
解线性方程组的迭代法
n
x1 (1 ) x1(0) (b1
a1
j
x(0) j
)
/
a11
j2
i 1
n
xi (1 )xi(0) (bi aij x j
aij
x
(0) j
)
/
aii
j 1
数值分析实验报告--实验6--解线性方程组的迭代法
1 / 8数值分析实验六：解线性方程组的迭代法2016113 张威震1 病态线性方程组的求解1.1 问题描述理论的分析表明，求解病态的线性方程组是困难的。
实际情况是否如此，会出现怎样的现象呢？实验内容：考虑方程组Hx=b 的求解，其中系数矩阵H 为Hilbert 矩阵，,,1(),,,1,2,,1i j n n i j H h h i j n i j ⨯===+-这是一个著名的病态问题。
通过首先给定解（例如取为各个分量均为1）再计算出右端b 的办法给出确定的问题。
实验要求：（1）选择问题的维数为6，分别用Gauss 消去法、列主元Gauss 消去法、J 迭代法、GS 迭代法和SOR 迭代法求解方程组，其各自的结果如何？将计算结果与问题的解比较，结论如何？（2）逐步增大问题的维数（至少到100），仍然用上述的方法来解它们，计算的结果如何？计算的结果说明了什么？（3）讨论病态问题求解的算法1.2 算法设计首先编写各种求解方法的函数，Gauss 消去法和列主元高斯消去法使用实验5中编写的函数myGauss.m 即可，Jacobi 迭代法函数文件为myJacobi.m ，GS 迭代法函数文件为myGS.m ，SOR 方法的函数文件为mySOR.m 。
1.3 实验结果1.3.1 不同迭代法球求解方程组的结果比较选择H 为6*6方阵，方程组的精确解为x* = (1, 1, 1, 1, 1, 1)T ，然后用矩阵乘法计算得到b ，再使用Gauss 顺序消去法、Gauss 列主元消去法、Jacobi 迭代法、G-S 迭代法和SOR 方法分别计算得到数值解x1、x2、x3、x4，并计算出各数值解与精确解之间的无穷范数。
Matlab 脚本文件为Experiment6_1.m 。
迭代法的初始解x 0 = (0, 0, 0, 0, 0, 0)T ，收敛准则为||x(k+1)-x(k)||∞<eps=1e-6，SOR方法的松弛因子选择为w=1.3，计算结果如表1。
线性代数方程组迭代法PPT课件
超松弛法
收敛速度快
总结词
总结词
计算量较大
ABCD
详细描述
超松弛法具有较快的收敛速度，尤其对于大型线 性方程组，能够显著减少迭代次数。
详细描述
由于超松弛法的计算量较大，因此在实际应用中 可能需要考虑计算效率的问题。
CHAPTER 04
迭代法的实现步骤
初始化
设置初值
为方程组的解向量设定一个初始值。
迭代法的应用场景
当方程组的系数矩阵难以直接求解时 ，迭代法可以作为一种有效的替代方 案。
在科学计算、工程技术和经济领域中 ，许多问题可以转化为线性代数方程 组求解，而迭代法在这些领域有广泛 的应用。
迭代法的优缺点
优点
迭代法通常比直接法更加灵活和通用，对于大规模和高维度的线性代数方程组， 迭代法更加高效。
缺点
迭代法需要选择合适的迭代公式和参数，并且需要满足收敛条件，否则可能无 法得到正确的解。此外，迭代法的计算过程比较复杂，需要较高的计算成本。
CHAPTER 02
迭代法的基本原理
迭代法的数学模型
迭代法是一种求解线性代数方程组的数值方法，通过不断迭代逼近方程的 解。
迭代法的数学模型通常表示为：$x_{n+1} = T(x_n)$，其中$x_n$表示第 $n$次迭代时的近似解，$T(x)$表示迭代函数。
03
非线性方程组的迭代法在求解优化问题、控制问题 等领域有广泛应用。
在优化问题中的应用
01
迭代法在优化问题中也有广泛应用，如求解无约束优化问题、 约束优化问题和多目标优化问题等。
02
常见的优化问题迭代法包括梯度下降法、牛顿法和共轭梯度法
等。
这些方法通过不断迭代来逼近最优解，广泛应用于机器学习、
数值分析第六章线性方程组迭代解法
数值分析第六章线性方程组迭代解法线性方程组是数值分析中的重要内容之一，其求解方法有很多种。
其中一种常用的方法是迭代解法，即通过不断迭代逼近方程组的解。
本文将介绍线性方程组迭代解法的基本思想和常用方法。
线性方程组可以用矩阵形式表示为Ax=b，其中A是系数矩阵，b是常数向量，x是未知向量。
线性方程组的解可以是唯一解，也可以是无穷多个解。
迭代解法的基本思想是通过不断迭代，并利用迭代序列的极限，逼近线性方程组的解。
迭代解法适用于大型的线性方程组，而直接求解法则适用于小型的线性方程组。
常用的迭代解法有雅可比迭代法、高斯-赛德尔迭代法和逐次超松弛迭代法。
雅可比迭代法是最简单的线性方程组迭代解法之一、它的基本思想是将线性方程组的每个方程都单独表示为未知数x的显式函数，然后通过不断迭代求解。
雅可比迭代法的迭代公式为：x(k+1)=D^(-1)(b-(L+U)x(k))其中，D是A的对角元素构成的对角矩阵，L是A的下三角矩阵，U 是A的上三角矩阵，x(k)是第k次迭代的解。
高斯-赛德尔迭代法是雅可比迭代法的改进版。
它的基本思想是将每个方程的解带入到下一个方程中，而不是等到所有方程都迭代完毕后再计算下一组解。
高斯-赛德尔迭代法的迭代公式为：x(k+1)=(D-L)^(-1)(b-Ux(k))其中，D是A的对角矩阵，L是A的下三角矩阵（除去对角线），U是A的上三角矩阵（除去对角线），x(k)是第k次迭代的解。
逐次超松弛迭代法是对高斯-赛德尔迭代法的改进。
它引入了松弛因子w，通过调节松弛因子可以加快收敛速度。
逐次超松弛迭代法的迭代公式为：x(k+1)=(D-wL)^(-1)[(1-w)D+wU]x(k)+w(D-wL)^(-1)b其中，D是A的对角矩阵，L是A的下三角矩阵（除去对角线），U是A的上三角矩阵（除去对角线），w是松弛因子，x(k)是第k次迭代的解。
线性方程组迭代解法需要设置迭代停止准则，通常可以设置迭代次数上限或者设置一个精度要求。
线性方程组的迭代法
1 20 D 1b
1 8
24 1.2 12 1.5 1 15 30 2
x1( k 1) 0 0.1 0.15 x1( k ) 1.2 ( k 2) x ( k ) 1.5 0 0.125 2 x2 0.125 ( ( x3k 1) 0.133 3 0.2 0 x3k ) 2.0
将方程组AX=b的系数A分解成 A=D+L+U 其中D=diag(a11,a22,,ann) ，L和U分别是A的 对角线下方元素和上方元素组成的严格下三角 阵与严格上三角阵. 即
0 0 a2 1 0 A a n1 an 2
0 a1 1 0 0 0 a1 2 0 0 a2 2 0 0 0 0 0 0 an n 0 0
k 1 r k 1 0 0 (k )
所以Gauss-Seidel迭代 法收敛.
定理 超松弛法收敛的必要条件为 0<<2
证 设其迭代矩阵G的特征值为1,2,, n , 由于迭代收敛,故有 max i 1 1 i n 从而 det G 12 n (max i ) n 1
a
j 1 j i
n
ij
aii
n
(i 1,2, , n )
aij aii 1
故
GJ
max
1i n j 1 j i
从而Jacobi迭代收敛
* * * * 设方程组的精确解为 X ( x1 , x2 , xn )
第6章 解线性方程组的迭代法
有 lim || Ak x || 0.所以就有定理的右边成 立。
k
反之，若定理的右边成 立，取x为第j个坐标向量e j， 则 lim Ak e j 0, 表示Ak的第j列元素极限均为零，当
k
j 1,2, , n时就证明了lim Ak 0，证毕。
k
给出的迭代法
( ( x1( k 1) (3x2k ) 2 x3k ) 20) / 8 ( k 1) (k ) (k ) x2 (4 x1 x3 33) / 11 的收敛性。 ( ( x3k 1) (6 x1( k ) 3x2k ) 36) / 12
第6章
解线性代数方程组的迭代法
§1 引言
考虑线性方程组
a11x1 a12 x2 a1n xn b1 a x a x a x b 21 1 22 2 2n n 2 an1x1 an2 x2 ann xn bn
(1.4)
即
x(k+1)=B0x(k)+f， (k=0,1,2,„)
x (10 ) (3.0000321.999838 0.9998813T , , , ) ε
(10 )
0.000187其中ε ,
(k )
(10 )
x
(10 )
x *.
从此例可以看出，由迭 代法产生的向量 序列x 逐步逼近此方程的精确 解。
3 8
0
3 12
2 8 1 11 0
20 x1 8 x 33 . 2 11 x3 36 12
任取初值,如x(0)=(0,0,0)T,代入(1.3)得到x(1)= (2.5,3,3)T. 反复迭代
(数值分析)第六章 解线性方程组的迭代法
华长生制作
1
定义1 设 中的向量序列，若有向 k n x 量 x R ，使 lim x x 0 ，则称 k lim x x 收敛于 x ，记为 k
x
k
是R
n
(k)
k
nn A R 定义2 设 是 中的矩阵序列，若有矩 n n lim A A 0 A A R 阵 ，使 ，则称 lim A A 收敛于A，记为
k 1 k x B x f
华长生制作
17
定理5.
设 方 程 x = B x + f 有 惟 一 解 x , 若 B 1 , 则 由
简 单 迭 代 法 产 生 的 向 量 序 列 x 满 足
x x
(k )
x x
B 1 B B
k
k
x( k ) x( k 1) x1 x 0
( 0 ) 取初始向量 x ,代入 ( 2 ), 可得
( 1 ) ( 0 ) x Bx f
依此类推
华长生制作 11
(2 ) ( 1 ) x Bx f
(k) x(k1) Bx f
--------(3)
( k 0 , 1 , 2 , )
这种方式就称为迭代法 ,以上过程称为迭代过程
k
k n l i m Ax 0 , x R 0 的 充要条件是
lim Ak 0.
k
R 定理 4 设矩阵 B ，则 k 的充分 m a x B B . 必要条件是 B 的谱半径 (B) 1 ，其中 i 1 i n
( n n )
经济学解线性方程组的迭代法
a22
0 a21
0
ann
an1,1
an1
an1,2 an 2
0
an,n1
0
0 a12
0
a1,n1 a2,n1
0
a1n
a2n
DLU.
an1,n
0
（2.4）
13
6.2.1 雅可比迭代法
由 aii 0(i ，1,选2,取 ,为n) 的对角M元素A部分， 即选取 M (对D角阵)， A ，D N 由(2.3)式得到 解 Ax 的b雅可比(Jacobi)
,
再将 x(分1) 量代入(1.3)式右边得到 ，x反(2)复利用这个计 算程序，得到一向量序列和一般的计算公式(迭代公式)
x1(0)
x(0) x2(0) ,
x3(0)
x1(1)
x1(k )
x(1) x2(1) , , x(k ) x2(k ) ,
x3(1)
x3( k
迭代法产生的向量序列 x(k不) 一定都能逐步逼近方程组
的解 x.*
如对方程组
x1 2x2 x2 3x1
5, 5.
7
构造迭代法
x ( k 1) 1
x ( k 1) 2
2 x2(k 3x1(k
) )
5, 5.
则对任何的初始向量，得到的序列都不收敛.
对于给定方程组 x ，Bx f 设有唯一解 x*， 则
由雅可比迭代公式(2.5), 有
Dx(k1) (L U )x(k ) b,
或
i1
n
aii xi(k1)
)
5
x ( k 1) 1
(3x2(k )
2x3(k )
20)/8,
第六章 解线性方程组的迭代法-2
j= 1 j=i i− 1 n
21
(2) 如 p > p0 则 0 ← p 果 p
(3) xi ←xi + p
6. 输 p0 出 7. 如 p0 <eps 则 出k,ω,x, 停 果 输 机
8. 如 k< N0 则 3 果 转
A 11 A 21 A= M A q1 A 12 A 22 M A2 q L Aq A 1 11 L Aq 2 , D= M L A qq A 22 , O A qq
24
0 −A 21 L= M −A q1
0 M −A 2 q
0 − A 12 0 , U = O L 0
L −Aq 1 L −A q 2 . O M 0
q
n , , 且 A (i =1 2,L q) 为 ni ×ni非奇异矩阵， ∑ i =n. ii
i= 1
对 x及 b同样分块
aii ≥ ∑ aij
1 j= j ≠i n
(i =1 2,L n). , ,
弱对角占优阵. 弱对角占优阵 且上式至少有一个不等式严格成立，称 A为弱对角占优阵
1
定义4 (可约与不可约矩阵) 设 A = (aij )n×n (n ≥ 2) , 定义4 如果存在置换阵 P使
A P AP = 11 0
之根. 记
λa 11 λa21 C ≡λ(D−L)−U = M λa n1
λa22
M λan2
a 12
an 1 L a2n , M L λann L
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
误差向量
ε(k)=x(k)-x*=Bkε(0), ε(0)=x(0)-x*.
由设ρ(B)<1，应用定理3，有
lim Bk
k
0,于是对于任意x(0) 有lkim k
0,
即lim xk x*.
k
必要性. 设对任意x(0) 有 lim xk x*, k
其中x(k+1)=Bx(k)+f.显然，极限x*是线性方程组（1.7）的解，且对
2x3(k )
20) /
x(k 1) 2
(4 x1( k )
x3(k )
33)
8 /11
的收敛性。
x(k 1) 3
(6 x1( k )
3x2(k )
36)
/12
解 先求迭代矩阵B0的特征值。由特征方程
3 1
84
det(I
- B0)
4 11
1 0 11
11
24
可得
可得 det(I - B0 ) 3 0.034090909 0.039772727 0，
误差向量 (k) x (k) x* B k (x(0) x*) B k (0)
得 || (k) |||| B k |||| (0) ||, || (0) || 0于是
|| (k) || || B k || || (0) ||
所以 || B k || 是迭代k次后误差向量 (k)的范数与初始误差
4
11
1
x2
33
.
6 3 12 x3 36
精确解x*=(3,2,1)T. 改写(1.2)为
x1
x2
1 8
(3x2
2 x3
20),
1 11
( 4
x1
x3
33),
x3
1 12
(6 x1
3x2
36).
或写为x=B0x+f,即
x1
x2
x3
0
4 11
6 12
3 8
0
3 12
2 8
迭代法的基本定理是在理论上是重要的，由于ρ(B)<‖B‖，下面 利用矩阵B的范数建立判别迭代法收敛的充分条件 定理6（迭代法收敛的充分条件） 设有线性方程组
x=Bx+f, B∈Rn×n, 及一阶定常迭代法
x(k+1)=Bx(k)+f. 如果有B的某种算子范数‖B‖=q<1,则
（1）迭代法收敛，即对任意x(0)，
1
11
0
x1 x2 x3
20
8 33 11
36
12
.
(1.3)
任取初值,如x(0)=(0,0,0)T,代入(1.3)得到x(1)= (2.5,3,3)T. 反复迭代
x1(k 1) (3x2(k ) 2x3(k ) x2(k 1) (4x1(k ) x3(k
20) / ) 33)
越小, ln (B)越大，迭代法收敛越快。
（1.12）可用
k ln s ln 10
R(B) R(B)
作为迭代法（1.11）式所需的迭代次数的估计。
• 例如在例1中迭代矩阵B的谱半(B) 0.3592。
若要求
|| (k) || (0)
下面给出迭代法收敛的一个充分必要条件。
定理5 设有方程组
x Bx f 及一阶定常迭代法
(1.7)
x(k1) Bx(k ) f
(1.8)
则对任意初始向量x(0)迭代法(1.8)收敛 (B) 1.
证明 充分性.设ρ(B)<1，易知Ax=f（其中A=I-B）有唯一解，记
为x*,则
x*=Bx*+f,
定
理
1
lim
k
A
k
A lim k
Ak
A
0，其中 || || 为矩阵
的任一算子范数 .
定理2
lim
k
Ak
0
x
Байду номын сангаас
Rn
,
lim
k
Ak
x
0.
证明：对任一种矩阵从属范数有
|| Ak x |||| Ak |||| x || .
若 lim k
Ak
0,则 lim || k
Ak
||
0，故对一切x Rn ,
近似解的方法称为迭代法(一阶定常迭代法).
(2)若 lim x(k)存在(记为x*)，则称此迭代法收敛,显然x *
k
是解,否则迭代法发散.
由以上讨论，需研究 {x(k)}的收敛性 .
引进误差向量ε(k) x(k) x*,则由(1.6) (1.5)得 ε(k1) Bε(k) Bk ε(0).
另一方面对任意ε>0,记
Bε= [ρ(B)+ε]-1B,
显然由ρ(Bε)<1.由定理3有
lim
k
Bk
0,
所以存在正整数N=N(ε),使
K>N时，
Bk
|| Bk || (B) k 1,
即k>N时有
1
(B) || Bk || k (B)
由ε任意性即得定理结论
迭代法及其收敛性 设有方程组Ax b,其中A为非奇异矩阵，下面建立它
两边取对数得
ln
||
Bk
1
|| k
1
ln
k
即
k
ln 1
s ln 10
1
ln || B k || k ln || B k || k
(1.12)
1
它表明迭代次数k与 ln || B k || k 成反比。
1
定 义 4 迭代法平均收敛速度定义为Rk (B) ln || Bk ||k .
有
lim
k
||
Ak
x
||
0.所以就有定理的右边成立。
反
之，若定理的右
边成立
，取x为第j个坐标向量e
，
j
则 lim k
Ak e j
0, 表示Ak的第j列元素极限均为零，当
j
1,2,
, n时就证明了lim k
Ak
0，证毕。
下面讨论一种与迭代法x(k1) Bx(k) f有关的矩阵序列 的收敛性，这种序列由矩阵的幂构成，即{Bk }，其中B Rnn. 定 理 3 设矩阵B (bi(jk) ) Rnn , 则下列三个条件等价: (1) lim Bk 0;
向量 (0)的范数之比的最大值。这样迭代k次后，平均每
1
次迭代误差向量范数的压缩率可看成是|| B k ||k ,若有迭
代k次后有
|| (k) || || B k || , || (0) ||
其中 1, 10-s.
1
1
1
因为 (B) 1，故 || B k || k 1，由 || B k || k k
k
x(k) i
xi
(i 1,2, , n)
则称向量序列{x(k)}收敛于x，记为lim x(k) x. k
显然，lim x(k) x lim || x(k) - x || 0,其中|| || 为任意一种向量范数。
k
k
定 义 3 设矩阵序列 Ak (ai(jk ) ) Rnn , A (aij ) Rnn，若
收敛： lim ε(k) 0 lim Bk 0.
k
k
要研究B满足什么条件下Bk 0(k ).
定 义 2 设向量序列{x(k )} Rn，x(k ) (x1(k ) , x2(k ) , , xn(k ) )T Rn ,
若存在x (x1, x2 , , xn )T Rn , 使
lim
序列x ( k )逐步逼近此方程的精确解。
(1.4)
一般地，由Ax b变形得到等价的 x Bx f .
设有唯一解x*,则
x* Bx *f
(1.5)
又设任取初值x (0) , 则可构造迭代序列
x(k 1) Bx(k ) f
(1.6)
定义1 (1)对于方程组x Bx f，用公式(1.6)逐步代入求
的迭代法。 将A分裂为A M N,其中M为可选择的非奇异矩阵，
且使Mx d容易求解，一般选择为A的某种近似，称M为 分裂矩阵。于是Ax b x M 1Nx M 1b,也就是 x Bx f .从而可构造一阶定常迭代法 :
x(k 1) Bx(k ) f 其中B M 1N M 1(M A) I M 1A, f M 1b. 称B I M 1A为迭代法的迭代矩阵，选取M阵，就得到解 Ax b的各种迭代法。
零元素多，适合用迭代法。
我们将介绍迭代法的一般理论及雅可比迭代法、高 斯—塞德尔迭代法、超松弛迭代法，研究它们的收 敛性。
例1 求解线性方程组
8 x1 4 x1
3x2 2 11x2
x3 x3
20, 33,
6x1 3x2 12x3 36.
(1.2)
记为Ax=b,即
8 3 2 x1 20
例5
迭代法x ( k 1)
Bx(k )
f
, 其中B
0.9 0.3
00.8，f
12,显然 B 1.1，
B 1.2，B 1.043，B 1.54，，表明B的各种范数均大于1，但
1
2
F
由于（B） 0.9 1,故由此迭代法产生的迭代序列 x(k) 是收敛的。
下面考察迭代法的收敛速度，假定(B) 1，由于
第6章 解线性代数方程组的迭代法
§1 引言
考虑线性方程组
也就是
a11x1 a12x2 a1nxn b1
a21x1 a22x2
a2nxn
b2
an1x1 an2x2 annxn bn