第六章-线代迭代法_数值分析
应用数值分析课件-6.3迭代法的收敛定理
返回节
OK! Let’s have a break!
定理
2
一、基本收敛定理
由 可推知
可见
X(k+1)=BX(k)+f 及 X *=B X *+f
εk+1 = X (k+1) - X *= B（X (k) - X *）
= ·············
= B k+1（X(0) -X *）
=
B
k+1
ε 0
X(k) X* B k 0
(k∞ )
利用矩阵的Jordan标准形，可以证明(前一章中的结论)
无法直接判断Jacobi 迭代法和G-S迭代法的收敛性，但如果将
方程组的次序修改为
11.02.20x11x1
9.05x2 4.33x2
0.12x3 2.67x3
1.43 3.22
1.25x1 3.69x2 12.37x3 0.58
由于系数矩阵A是严格对角占优阵，因此用Jacobi 迭代
反复利用 || X (k+1) - X*||=||BX (k)- BX*||=||B(X (k)- X*)|| ≤‖B‖.‖X (k)- X*‖,
可以得到
||X (k)- X*||≤‖B‖k ·‖X(0)- X*‖，
可见X (0)越接近X*，序列{ X (k)}收敛越快，收敛速度 与初值X (0)的选取有关。
对于给定的线性方程组，借助于定理6.3和定理6.4可以 直接判断Jacobi 迭代法和G-S迭代法的收敛性。
但同时应当注意，迭代法收敛与否与方程组中方程排列 顺序有关，如线性方程组
数值分析--第6章 解线性方程组的迭代法
数值分析--第6章解线性方程组的迭代法第6章 解线性方程组的迭代法直接方法比较适用于中小型方程组。
对高阶方程组，即使系数矩阵是稀疏的，但在运算中很难保持稀疏性，因而有存储量大，程序复杂等不足。
迭代法则能保持矩阵的稀疏性，具有计算简单，编制程序容易的优点，并在许多情况下收敛较快。
故能有效地解一些高阶方程组。
1 迭代法概述迭代法的基本思想是构造一串收敛到解的序列，即建立一种从已有近似解计算新的近似解的规则。
由不同的计算规则得到不同的迭代法。
迭代法的一般格式(1)()(1)()(,,,),0,1,k k k k m kF k +--==x x x x式中(1)k +x 与()(1)(),,,k k k m --x x x 有关，称为多步迭代法。
若(1)k +x 只与()k x 有关，即(1)()(),0,1,k k kF k +==x x称为单步迭代法。
再设kF 是线性的，即(1)(),0,1,k kk kk +=+=x B x f式中n nk ⨯∈B R ，称为单步线性迭代法。
kB 称为迭代矩阵。
若k B 和kf 与k 无关，即(1)(),0,1,k k k +=+=x Bx f称为单步定常线性迭代法。
本章主要讨论具有这种形式的各种迭代方法。
1.1 向量序列和矩阵序列的极限由于nR 中的向量可与nR 的点建立——对应关系，由点列的收敛概念及向量范数的等价性，可得到向量序列的收敛概念。
定义6.1 设(){}k x 为n R 中的向量序列，nx R ∈，如果()lim 0k k x x →∞-=其中为向量范数，则称序列(){}k x 收敛于x ，记为()lim k k x x →∞=。
定理6.1 nR 中的向量序列(){}k x 收敛于nR 中的向量x 当且仅当()lim (1,2,,)k i i k x x i n →∞==其中()()()()1212(,,,),(,,,)k k k k T Tnnx x x x x x x x ==。
第六章 迭代法-数值分析
由极限存在准则得 即
k
lim xi( k ) xi =0
k
(i 1, 2, , n)
, n)
lim xi( k ) xi
(i 1, 2,
定义：设{ A( k ) }为n阶方阵序列，A为n阶方阵，如果 lim A( k ) A 0
k
其中 为矩阵范数，则称序列{ A( k ) }收敛于矩阵A，记为 lim A( k ) A
g
n
其中bij
aij aii
, (i j , i, j 1, 2,
, n), g i
bi (i 1, 2, aii
, n).
迭代公式x ( k 1) Bx ( k ) g (k 0,1, 2, )用方程组表示为
(k ) (k ) (k ) ( k 1) b13 x 3 b1n x n g x b 1 12 x 2 1 (k ) (k ) (k ) ( k 1) b 23 x 3 b 2 n x n g x2 b 21 x 1 2 ( k 1) (k ) (k ) (k ) b n1 x1 b n 2 x 2 b n,n 1 x n 1 g x n n 因此，在Jacobi迭代法的计算过程中，需同时保留两个
k k
即x是方程组Ax b的解。
引入误差向量
k
(k ) (k ) lim x x lim 0 所以 等价于 k
( k 1)
x
( k 1)
x
由
x ( k 1) Mx ( k ) g
x Mx g
则可得
( k 1)
数值分析第六章线性方程组迭代解法
1)
b2 a21x1(k) a23x3(k)
xn( k
1)
bn an1x1(k) an2 x2(k)
a1n
x(k) n
a11
a2n xn(k) a22
an,n1
x(k) n1
ann
x(k1) D1(L U ) x(k) D1b
D1(D A) x(k) D1b
(I D1A) x(k) D1b x(k) D1(b Ax(k) )
x(7) = ( 2.0000, 3.0000, -1.0000 )T 如何确定 SOR 迭代中的最优松弛因子是一件很困难的事
26
收敛性
收敛性定理 Jacobi 迭代收敛的充要条件 (J)<1 G-S 迭代收敛的充要条件 (G)<1 SOR 迭代收敛的充要条件 (L)<1
Jacobi 迭代收敛的充分条件 ||J|| <1 G-S 迭代收敛的充分条件 ||G|| < 1 SOR 迭代收敛的充分条件 ||L|| < 1
x1( k x2( k
1) 1)
1
x(k) 2
2
8
x ( k 1) 1
x(k) 3
3
x3(k1)
5
x ( k 1) 2
2
迭代可得： x(1) = ( 0.5000, 2.8333, -1.0833 )T
x(9) = ( 2.0000, 3.0000, -1.0000 )T
25
举例
SOR 迭代：
x(k1) i
bi
i 1
a x(k1) ij j
n
aij
x(jk
)
aii
j 1
j i 1
数值分析课件_Chapter_6线性方程组的迭代解法共74页
16、业余生活要有意义，不要越轨。——华盛顿 17、一个人即使已登上顶峰，也仍要自强不息。——罗素·贝克 18、最大的挑战和突破在于用人，而用人最大的突破在于信任人。——马云 19、自己活着，就是为了使别人过得更美好。——雷锋 20、要掌握书，莫被书掌握；要为生而读，莫为读而生。——布尔沃
数值分析课件_Chapter_6线性方程组 的迭代解法
6、法律的基础有两个，而且只有两个……公平和实用。——伯克 7、有两种和平的暴力，那就是法律和礼节。——歌德
8、法律就是秩序，有好的法律才有好的秩序。——亚里士多德 9、上帝把法律和公平凑合在一起，可是人类却把它拆开。——查·科尔顿 10、一切法律都是无用的，因为好人用不着它们，而坏人又不会因为它们而变得规矩起来。——
第6章 解线性代数方程组的迭代法 数值分析 第五版 教学课件
收l敛 iε ( m k ) 0 ： liB m k 0 .
k
k
要研 B 满 究 足什B 么 k 0条 k( 件 ) . 下
2020/10/29
2020/10/29
取初x 始 (0)， 向量 x(k1)B(kx )f,k0,1, ,
(2.3)
其B 中 M 1NM 1(M A )IM 1A ,fM 1b.
2020/10/29
2020/10/29
一般地 A xb ， 变由 形得x 到 B等 xf.价的
设x * 有 则 , 解
Hale Waihona Puke x * B * x f(1
又设任x(0 取 ),则初 可值 构造迭代序
x(k1)B(k x)f
(1.
定1(义 1 对 ) 于x方 B 程 xf， 组 用 (1.6)公 逐式 步
0
1 1
4
(ai ,bi , ci都不为零 )，
1 0 2 1 2 3
1 2 3
C 2 1 2 0 1 2，D 3 2 1.
1 0 3 0 1 3
0 1 2
2020/10/29
2020/10/29
2020/10/29
证明 若矩阵A按行严格对角占优，或按行(或列)弱对角占优不可约，
则GS迭代收敛。假若不然，ρ(BG)≥1，即迭代矩阵BG的某一特征
2020/10/29
2020/10/29
2020/10/29
2020/10/29
an1 an2 an,n1 ann
i 1 n i 1 n
|2020/|10/2|9a i|i ( )| | j 1 |a i|j j i 1 |a i| j j 1 |a i|j j i 1 |a i|.j
计算方法第六章迭代法
计算方法第六章迭代法迭代法是一种重要的数值计算方法，在数学和计算机科学中有广泛的应用。
本章将介绍迭代法的基本概念、原理和应用，以及相关的数学原理和计算技巧。
首先，我们来了解迭代法的基本概念。
迭代法是通过逐步逼近的方式得到一个问题的解。
迭代法的基本思路是从一个初始值开始，通过重复计算和更新，得到更加接近最终解的近似值。
迭代法的优点是简单和灵活，但需要注意选择合适的迭代公式和初始值，以及控制迭代的停止条件。
迭代法的原理可以用以下的一般形式表示：```x_(n+1)=f(x_n)```其中，x_n表示第n次迭代得到的近似值，x_(n+1)表示第(n+1)次迭代的近似值，f是一个函数，表示迭代公式。
迭代法的思想是通过不断迭代更新x的值，直到满足一些停止条件为止。
迭代法的应用非常广泛，特别是在求解非线性方程和优化问题方面有重要的应用。
在求解非线性方程时，我们可以将方程转化为形式为f(x)=0的等式，然后通过迭代法逼近方程的根。
在优化问题中，我们可以通过最小化或最大化一个函数来寻找最优解，也可以使用迭代法逐步逼近最优解。
在迭代法的实际应用中，我们需要注意一些数学原理和计算技巧。
首先，迭代法的收敛性是关键的，即通过迭代公式逐步逼近的值是否趋于问题的解。
在评估迭代法的收敛性时，常用的方法有判断迭代序列的极限是否存在和是否满足一些收敛条件。
其次，选择合适的迭代公式和初始值对于迭代法的成功应用非常重要。
迭代公式应该是简单和有效的，能够在迭代过程中逐步逼近问题的解。
初始值的选择也会直接影响迭代的结果，通常需要根据问题的特点和经验进行选择。
另外，迭代法的计算精度和计算效率也是需要考虑的问题。
在迭代过程中，我们需要根据问题的要求不断调整迭代的次数和迭代的停止条件，以达到较高的计算精度。
同时，我们也需要通过优化迭代公式和使用更加高效的计算技巧来提高计算的效率。
最后，迭代法的应用还可以进一步扩展到其他领域。
例如，在图像处理中，我们可以使用迭代法逐步改进图像的质量；在机器学习中，我们可以使用迭代法来调整模型的参数，以求得更好的拟合效果。
_第六章_线性方程组的数值解法迭代法
b 1
a 11
b2
f
a 22 bn
a nn
x(k1) B0x(k)f
--------(5)
第四节 解线性方程组的迭代法
令：
0 0 0
L
a 21
0
0 A的下三角部分矩阵
a n1 a n 2 0
0
U
0
a12 0
a1n a2n
A的上三角部分矩阵
第三节 向量范数和矩阵范数
（2）范数的另一个简单例子是二维欧氏空间的长度
0M x2 y2
欧氏范数也满足三个条件：
（勾股定理）
设x = (x1, x2) ① x 0 x >0 ② ax = a x a为常数 ③ x+ y ≤ x + y 前两个条件显然，第三个条件在几何上解释为三角形一边的长度不大于其它 两边长度之和。因此，称之三角不等式。
满足：
① A0,且A0,当且A 仅 0当
，若 A
正定
② A A,为任意实数
奇次
③ ABAB,A和 B为任意 n阶两 方个 三阵 角不等
则称 A 为矩阵A的范数。
第三节 向量范数和矩阵范数
2、矩阵范数与向量范数的相容性 对于任意的n维向量x，都有：
Ax A x
这一性质称为矩阵范数与向量范数的相容性。
n
A
max
1in
j1
aij
A的每行绝对值之和的最大值, 又称A的行范数
第三节 向量范数和矩阵范数
（3）矩阵的2范数
2范数 ||A|2 | ： (AT A )
(AAT) ?
矩阵的谱半径：
矩阵B的诸特征值为： i(i1,2, ,n)
数值分析实验报告--实验6--解线性方程组的迭代法
1 / 8数值分析实验六：解线性方程组的迭代法2016113 张威震1 病态线性方程组的求解1.1 问题描述理论的分析表明，求解病态的线性方程组是困难的。
实际情况是否如此，会出现怎样的现象呢？实验内容：考虑方程组Hx=b 的求解，其中系数矩阵H 为Hilbert 矩阵，,,1(),,,1,2,,1i j n n i j H h h i j n i j ⨯===+-这是一个著名的病态问题。
通过首先给定解（例如取为各个分量均为1）再计算出右端b 的办法给出确定的问题。
实验要求：（1）选择问题的维数为6，分别用Gauss 消去法、列主元Gauss 消去法、J 迭代法、GS 迭代法和SOR 迭代法求解方程组，其各自的结果如何？将计算结果与问题的解比较，结论如何？（2）逐步增大问题的维数（至少到100），仍然用上述的方法来解它们，计算的结果如何？计算的结果说明了什么？（3）讨论病态问题求解的算法1.2 算法设计首先编写各种求解方法的函数，Gauss 消去法和列主元高斯消去法使用实验5中编写的函数myGauss.m 即可，Jacobi 迭代法函数文件为myJacobi.m ，GS 迭代法函数文件为myGS.m ，SOR 方法的函数文件为mySOR.m 。
1.3 实验结果1.3.1 不同迭代法球求解方程组的结果比较选择H 为6*6方阵，方程组的精确解为x* = (1, 1, 1, 1, 1, 1)T ，然后用矩阵乘法计算得到b ，再使用Gauss 顺序消去法、Gauss 列主元消去法、Jacobi 迭代法、G-S 迭代法和SOR 方法分别计算得到数值解x1、x2、x3、x4，并计算出各数值解与精确解之间的无穷范数。
Matlab 脚本文件为Experiment6_1.m 。
迭代法的初始解x 0 = (0, 0, 0, 0, 0, 0)T ，收敛准则为||x(k+1)-x(k)||∞<eps=1e-6，SOR方法的松弛因子选择为w=1.3，计算结果如表1。
数值分析第六章线性方程组迭代解法
数值分析第六章线性方程组迭代解法线性方程组是数值分析中的重要内容之一，其求解方法有很多种。
其中一种常用的方法是迭代解法，即通过不断迭代逼近方程组的解。
本文将介绍线性方程组迭代解法的基本思想和常用方法。
线性方程组可以用矩阵形式表示为Ax=b，其中A是系数矩阵，b是常数向量，x是未知向量。
线性方程组的解可以是唯一解，也可以是无穷多个解。
迭代解法的基本思想是通过不断迭代，并利用迭代序列的极限，逼近线性方程组的解。
迭代解法适用于大型的线性方程组，而直接求解法则适用于小型的线性方程组。
常用的迭代解法有雅可比迭代法、高斯-赛德尔迭代法和逐次超松弛迭代法。
雅可比迭代法是最简单的线性方程组迭代解法之一、它的基本思想是将线性方程组的每个方程都单独表示为未知数x的显式函数，然后通过不断迭代求解。
雅可比迭代法的迭代公式为：x(k+1)=D^(-1)(b-(L+U)x(k))其中，D是A的对角元素构成的对角矩阵，L是A的下三角矩阵，U 是A的上三角矩阵，x(k)是第k次迭代的解。
高斯-赛德尔迭代法是雅可比迭代法的改进版。
它的基本思想是将每个方程的解带入到下一个方程中，而不是等到所有方程都迭代完毕后再计算下一组解。
高斯-赛德尔迭代法的迭代公式为：x(k+1)=(D-L)^(-1)(b-Ux(k))其中，D是A的对角矩阵，L是A的下三角矩阵（除去对角线），U是A的上三角矩阵（除去对角线），x(k)是第k次迭代的解。
逐次超松弛迭代法是对高斯-赛德尔迭代法的改进。
它引入了松弛因子w，通过调节松弛因子可以加快收敛速度。
逐次超松弛迭代法的迭代公式为：x(k+1)=(D-wL)^(-1)[(1-w)D+wU]x(k)+w(D-wL)^(-1)b其中，D是A的对角矩阵，L是A的下三角矩阵（除去对角线），U是A的上三角矩阵（除去对角线），w是松弛因子，x(k)是第k次迭代的解。
线性方程组迭代解法需要设置迭代停止准则，通常可以设置迭代次数上限或者设置一个精度要求。
李庆杨数值分析第六章线性方程组的迭代法
y
n k=M? y 输出迭代 失败标志 输出 y1, y2,„ yn
§ 6.3 高斯-塞德尔（Gauss-Seidel）迭代法
§ 6.3.1 高斯-塞德尔迭代法的基本思想
在 Jacobi 迭代法中，每次迭代只用到前一次 的迭代值，若每次迭代充分利用当前最新的迭代值
( k 1) ( k 1) k 1) , x2 ,, xi( ，即在求 xi( k 1) 时用新分量 x1 1
据此建立迭代公式 写成 aij x j bi
j 1 n
i 1,2,, n
n 1 1) (k ) x ( i 1 , 2 , , n ) 0 若 , 分离出变量 xi( ka ( b a x ) i 1 , 2 , i n ii i ij j aii j 1 j n i 1 xi (bi aij x j ) i 1,2,, n 上式称为解方程组的 Jacobi迭代公式。 aii j 1
第六章 解线性方程组的迭代法
我们知道，凡是迭代法都有一个收敛问题 ，有时某种方法对一类方程组迭代收敛，而 对另一类方程组进行迭代时就会发散。一个 收敛的迭代法不仅具有程序设计简单，适于 自动计算，而且较直接法更少的计算量就可 获得满意的解。因此，迭代法亦是求解线性 方程组，尤其是求解具有大型稀疏矩阵的线 性方程组的重要方法之一。
x ( x x 1) / 8 ( k 1) ( k 1) (k ) (2 x1 x3 4) / 10 x2 ( k 1) ( k 1) ( k 1) x ( x x 3 ) / 5 3 1 2
( k 1) 1 (k ) 2 (k ) 3
如果
存在极限
x
(k )
x*
第6章线性方程组的迭代解法详解
解:对于 向量 x＝(1，－3，2，0)T ，根据定义 可以计算出：
|| x||1＝| 1 |＋|－3 |＋| 2 |＋| 0 |＝6
x
2
1 3 2
2 2
2
0
2
1 2
14
x
max 1 , 3 , 2 , 0
再由 Ax =b，得到 || b||= || Ax || ≤||A || ||x||
2018/11/1 第六章 线性方程组的迭代解法 16
于是，由 || △x ||≤||A-1 || ||△b||
及 ||b || ≤||A || ||x||
1 x
A b
得到解的相对误差为 x A x
x x
收敛于
k
2018/11/1
第六章 线性方程组的迭代解法
14
四、矩阵的条件数
方程组 Ax b 中扰动对结果的影响
x1 x2 2 x1 1.0001 x2 2
x1 x2 2 x1 1.0001 x2 2.0001
x1 2, x2 0
k
（k）＝A，或 A（k）→A。 称{ A（k）}收敛于A， 记作 lim A k
(k ) 定理：设有n×n矩阵序列 A( k ) (aij ), k 1, 2, n×n矩阵A＝（aij）的充要条件为 (k ) lim aij aij , i , j 1,2 , , n
多大算病态没有标准。如果主元很小或者元素数量级相差大，可能是病态
cond ( A) A A1 AA 1 1
2018/11/1 第六章 线性方程组的迭代解法 18
数值分析-- 解线性方程组的迭代法
算法1(高斯 塞德尔迭代法) 设Ax b, A Rnn非奇异，
且aii 0(i 1,2,, n),数组x(n)开始存放x(0),后存放x(k),
N0为最大迭代次数.
1. xi 0.0(i 1,2,,n),
2. 对于k 1,2,, N0,
i1
n
xi
( bi
j1aij x j
j i 1
aij
A D LU,
其中
a11 D
a22
0
,
L
a21 annan1 Nhomakorabea0
an,n1
0
,U
0
a12 0
a1n
.
an1,n
0
就有
Dx(k1) Lx(k) Ux(k) b
雅可比迭代法的矩阵表示形式为
x(k1) D1(L U ) x(k) D1b BJ x(k) f
a21x1
a22x2
a2n xn
b2
an1x1 an2x2 annxn bn
Ax=b.
(2.1)
进行矩阵分裂
A=M-N,
(2.2)
其中M为可选择的非奇异矩阵,且使Mx=d容易求解.
于是,
Ax=b⇔x=M-1Nx+M-1b.
可得一阶定常迭代法:
取初始向量x(0)，
x
(
k
1)
Bx(k )
零元素多，适合用迭代法。
我们将介绍迭代法的一般理论及雅可比迭代法、高 斯—塞德尔迭代法、超松弛迭代法，研究它们的收 敛性。
例1 求解线性方程组
8 x1 4 x1
3x2 2 11x2
x3 x3
20, 33,
6x1 3x2 12x3 36.
第六章解线性方程组的迭代法
a11
A
a22
0
-
a21
0
ann
an1
an2
D LU
x M 1Nx M 1b
这样，可构造迭代法：
0 a12
-
0
0
a1n
a2n
0
取x(0)为初始向量
x(k
1)
Bx(k )
f
(k 0,1,
)
其中：B M 1N M 1(M A) I M 1A, f M 1b, 称 B I M 1A
为迭代法的迭代矩阵，选取 M 阵，就得到解 Ax b 的各
种迭代法。
6.2 基本迭代法
设 aii 0(i 1, 2, , n) ，并将 A 写为三部分：
Jacobi迭代法的分量表示
记 x(k) (x1(k) , , xi(k) , , xn(k) )T 由Jacobi迭代公式可得：Dx(k1) (L U )x(k) b ，写成分量
i1
n
形式即为：aii xi(k1) aij x(jk)
aij
x(k) j
13 15
例：用迭代法求解线性方程组：
9x1 x2 x3 7 x1 10x2 x3 8
x1 x2 15x3 13
记为：Ax b，其中：
9 1 1 x1 7
A
1
10
1 ,
x
x2
数值分析分章复习(第六章线性方程组迭代解法)
第六章 线性方程组迭代解法要点：（1）线性方程组迭代格式：Jacobi 迭代，G-S 迭代 （2）矩阵范数计算，矩阵谱半径计算（3）线性方程组迭代格式(1)()k k x Bx f +=+的收敛性判断（4）Jacobi 迭代，G-S 迭代收敛的判断 （5）线性方程组的性态 复习题：1、已知线性方程组为123211*********x x x -⎡⎤⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥-⎣⎦⎣⎦⎣⎦（1）写出Jacobi 迭代格式和Seidel 迭代格式； （2）写出Jacobi 迭代矩阵和Seidel 迭代矩阵； （3）判别这两种迭代法的收敛性。
解：(1) Jacobi 迭代格式： (1)()()123(1)()()213(1)()()312111222311122k k k k k k k k k x x x x x x x x x +++⎧=-+⎪⎪⎪=--+⎨⎪⎪=+-⎪⎩Gauss-Seidel 迭代格式：(1)()()123(1)(1)()213(1)(1)(1)312111222311122k k k k k k k k k x x x x x x x x x ++++++⎧=-+⎪⎪⎪=--+⎨⎪⎪=+-⎪⎩（2）Jacobi 迭代矩阵：111022()10111022J B D L U -⎛⎫- ⎪ ⎪=+=-- ⎪ ⎪⎪⎝⎭Gauss-Seidel 迭代矩阵：11102211()0221002GS B D L U -⎛⎫- ⎪ ⎪⎪=-=-- ⎪ ⎪⎪- ⎪⎝⎭ （3） 35||4J I B λλλ-=+，得J B的特征值为12,30, 2λλ==±()12J B ρ=>， 可见Jacobi 迭代格式不收敛另外， 21||()2GS I B λλλ-=+，得GS B 的特征值为12,310, 2λλ==-1()12GS B ρ=<， 可见Gauss-Seidel 迭代格式收敛2、设方程组1312123879897x x x x x x x -+=⎧⎪-+=⎨⎪--=⎩试问，是否可以适当调整方程的排列顺序，使得用Gauss-Seidel 迭代法求解时收敛？说明收敛原因解：可通过方程顺序交换，等价为以下方程组1231213979887x x x x x x x --=⎧⎪-+=⎨⎪-+=⎩这样，系数矩阵911190108--⎛⎫⎪- ⎪ ⎪-⎝⎭为严格对角占优矩阵，对该方程组使用Jacobi 迭代和Gauss-Seidel 迭代均收敛3、对方程组⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡43132121x x ，验证Jacobi 迭代法的收敛性，若发散，则说明理由， 并调整方程顺序使得Jacobi 迭代收敛。
数值分析 第五版 李庆扬 第6章 解线性方程组的迭代法
( 2.6)
由(2.6)式可知，雅可比迭代法计算公式简单， 每迭代一次只需计算一次矩阵和向量的乘法且计算 过程中原始矩阵A始终不变.
上页 下页
6.2.2 高斯－赛德尔迭代法
在 Jacobi 迭代中，计算 xi(k+1)(2 i n)时，使用 xj(k+1)代替xj(k) (1 j i-1)，即有 建 立 迭 代 格 式
上页
下页
于是，求解Ax=b转化为求解Mx=Nx+b ，即求解
Ax b 求解 x M 1 Nx M 1b.
可构造一阶定常迭代法
x ( 0 ) (初始向量)， ( k 1) (k ) x Bx f ( k 0,1, , ),
( 2.3)
其中 B=M-1N=M-1(M-A)=I-M-1A ， f=M-1b. 称 B=I-M-1A为迭代法的迭代矩阵，选取M矩阵，就得 到解Ax=b的各种迭代法. 设aii0 (i=1,2,,n)，并将A写成三部分
x ( k 1) ( D L) 1Ux ( k ) ( D L) 1 b
上页 下页
下面给出雅可比迭代法(2.5)的分量计算公式, 记
x
(k )
( x ,, x ,, x ) ,
(k ) 1 (k ) i (k ) T n
由雅可比迭代法(2.5)有
Dx( k 1) ( L U ) x ( k ) b,
每一个分量写出来为
aii xi( k 1) aij x (jk )
代入(1.3)式右边(若(1.3)式为等式即求得方程组的解， 但一般不满足)，得到新的值 x(1)=(x1(1), x2(1), x3(1))T =(3.5, 3, 3)T ，再将x(1)分量代入(1.3)式右边得到 x(2)， 反复利用这个计算程序，得到一向量序列和一般的计
(数值分析)第六章 解线性方程组的迭代法
华长生制作
1
定义1 设 中的向量序列，若有向 k n x 量 x R ，使 lim x x 0 ，则称 k lim x x 收敛于 x ，记为 k
x
k
是R
n
(k)
k
nn A R 定义2 设 是 中的矩阵序列，若有矩 n n lim A A 0 A A R 阵 ，使 ，则称 lim A A 收敛于A，记为
k 1 k x B x f
华长生制作
17
定理5.
设 方 程 x = B x + f 有 惟 一 解 x , 若 B 1 , 则 由
简 单 迭 代 法 产 生 的 向 量 序 列 x 满 足
x x
(k )
x x
B 1 B B
k
k
x( k ) x( k 1) x1 x 0
( 0 ) 取初始向量 x ,代入 ( 2 ), 可得
( 1 ) ( 0 ) x Bx f
依此类推
华长生制作 11
(2 ) ( 1 ) x Bx f
(k) x(k1) Bx f
--------(3)
( k 0 , 1 , 2 , )
这种方式就称为迭代法 ,以上过程称为迭代过程
k
k n l i m Ax 0 , x R 0 的 充要条件是
lim Ak 0.
k
R 定理 4 设矩阵 B ，则 k 的充分 m a x B B . 必要条件是 B 的谱半径 (B) 1 ，其中 i 1 i n
( n n )
数值分析--第6章 解线性方程组的迭代法
数值分析--第6章解线性方程组的迭代法第6章 解线性方程组的迭代法直接方法比较适用于中小型方程组。
对高阶方程组，即使系数矩阵是稀疏的，但在运算中很难保持稀疏性，因而有存储量大，程序复杂等不足。
迭代法则能保持矩阵的稀疏性，具有计算简单，编制程序容易的优点，并在许多情况下收敛较快。
故能有效地解一些高阶方程组。
1 迭代法概述迭代法的基本思想是构造一串收敛到解的序列，即建立一种从已有近似解计算新的近似解的规则。
由不同的计算规则得到不同的迭代法。
迭代法的一般格式(1)()(1)()(,,,),0,1,k k k k m kF k +--==x x x x式中(1)k +x 与()(1)(),,,k k k m --x x x 有关，称为多步迭代法。
若(1)k +x 只与()k x 有关，即(1)()(),0,1,k k kF k +==x x称为单步迭代法。
再设kF 是线性的，即(1)(),0,1,k kk kk +=+=x B x f式中n nk ⨯∈B R ，称为单步线性迭代法。
kB 称为迭代矩阵。
若k B 和kf 与k 无关，即(1)(),0,1,k k k +=+=x Bx f称为单步定常线性迭代法。
本章主要讨论具有这种形式的各种迭代方法。
1.1 向量序列和矩阵序列的极限由于nR 中的向量可与nR 的点建立——对应关系，由点列的收敛概念及向量范数的等价性，可得到向量序列的收敛概念。
定义6.1 设(){}k x 为n R 中的向量序列，nx R ∈，如果()lim 0k k x x →∞-=其中为向量范数，则称序列(){}k x 收敛于x ，记为()lim k k x x →∞=。
定理6.1 nR 中的向量序列(){}k x 收敛于nR 中的向量x 当且仅当()lim (1,2,,)k i i k x x i n →∞==其中()()()()1212(,,,),(,,,)k k k k T Tnnx x x x x x x x ==。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
38
有时候，对系数矩阵A进行适当地改变，就 可以变“不收敛”为“收敛”。
例如，对于方程组 2 x1 5 x2 1 10 x1 4 x2 3 其Jacobi迭代法的迭代矩阵是 0 2.5 GJ 2.5 0
39
它的两个特征值为1,2 = 2.5. 由于 (G J ) 1， 所以Jacobi迭代法 不收敛.GS 法的迭代矩阵是 2 0 0 5 0 2.5 GG 10 4 0 0 0 6.25 可见， (G J )=6.25 1， 故GS 法也不收敛. 如果把原方程组中的两个 方程交换次序,则得 10 x1 4 x2 3 2 x1 5 x2 1 由于系数矩阵是主对角按行严格占优阵，所以Jacobi和GS迭代法 都是收敛.
1
40
3 超松弛迭代法
41
42
43
44
45
46
47
48
49
50
51
52
53
4 共轭梯度法
.
54
.
55
4.1 最速下降法
.
56
.
57
.
58
4.2 共轭梯度法
.
59
.
60
.
61
62
.
63
.
64
作业Biblioteka 65.66
.
67
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
用某种迭代法求解线性方程组是否收敛只取决 于方程组的系数矩阵A，对于一个给定的系数 矩阵A • Jacobi迭代法和GS法可能都收敛，也可能都 不收敛； •可能Jacobi迭代法收敛，而GS法不收敛； •可能GS法收敛，而Jacobi迭代法不收敛。 •都收敛时，可能 Jacobi 迭代法收敛的快，也 可能GS法收敛的快。
2016年11月19日 研究生部
第六章：解线性方程组的迭代法
内容提要 1 .迭代法的基本概念 2 .Jacobi与Gauss-seidel迭代法 3. 超松弛迭代法 4.共轭梯度法
2
1 迭代法的基本概念
1 .1 引言
3
4
.
5
6
7
8
9
10
11
12
13
14
15
2 Jacobi与Gauss-seidel迭代法