线性代数方程组的迭代解法
第三章 线性方程组的迭代解法
其中
v x (0) = ( x1(0) , x2 (0) ,…, xn (0) )
是迭代初值。 是迭代初值。
写成矩阵形式： 写成矩阵形式： 矩阵形式
A=
D
U
v v Ax = b ⇔ ⇔ ⇔
v v (D + L + U )x = b v v v Dx = −( L + U ) x + b v v v −1 −1 x = −D (L + U )x + D b
( ( a 111 ) a 121 ) ... a 1( 1 ) n
A
( ( ( a ij2 ) = a ij1 ) − m i 1 a 1 1j ) (2) b i = b i( 1 ) − m i 1 b1( 1 ) ( i , j = 2 , ..., n )
− 共进行 n ？1 步
(1 ( ( a12) ... a11) x1 b11) n b( 2) ( 2) ( 2) a22 ... a2n x2 2 . . = . ... . . . . . . ( n) (n ann) xn bn
… … …
…
( ( ( ( ( xnk +1) = 1 (−an1 x1k +1) − an 2 x2k +1) − an3 x3k +1) − L − ann−1 xnk +1) + bn ) −1 ann v v ( k +1) v ( k +1) v (k ) −1 −1 写成矩阵形式 矩阵形式： 写成矩阵形式： x = − D ( Lx + Ux ) + D b v (k +1) v (k ) v ⇔ (D + L)x = −U x + b v v ( k +1 ) −1 v ( k ) −1 ⇔ x = − ( D + L ) Ux + ( D + L ) b v Gauss-Seidel B vf v ( k + 1) v(k ) 迭代阵
chapter03线性代数方程组迭代解法PPT课件
不完全分解
当矩阵无法进行完全分解时，迭代法可以作为 替代方案进行求解。
数值稳定性
对于某些数值不稳定的问题，迭代法可以提供更稳定的近似解。
迭代解法的优缺点分析
优点
适用于大规模问题，计算量相对较小； 适用于不完全分解和数值不稳定问题； 能够提供近似解，满足工程精度要求。
缺点
需要设定初始解向量或近似解向量； 迭代过程可能不收敛或收敛速度慢； 对于某些问题可能无法得到准确解。
SOR方法案例分析
01
SOR（Successive Over-Relaxation）方法是一种改进
的迭代方法，通过引入松弛因子来加速收敛。
02
SOR方法适用于系数矩阵为稀疏、对称正定的情况，
广泛应用于实际工程问题。
03
SOR方法的收敛速度与松弛因子的选择有关，选择合
适的松弛因子可以加快收敛速度。
Jacobi方法案例分析
松弛方法
松弛方法是另一种改进的迭代 算法，用于求解线性代数方程
组。
该方法通过引入松弛因子来调 整迭代过程中的系数矩阵，以
提高收敛速度和稳定性。
松弛方法适用于系数矩阵为非 对角占优的情况，尤其在处理 稀疏矩阵时具有优势。
总结词：松弛方法是一种适用 于非对角占优矩阵的迭代算法 ，通过调整松弛因子提高收敛 速度和稳定性。
收敛速度与系数矩阵
收敛速度与系数矩阵的特征值和范数有关，不同的迭 代法适用于不同的系数矩阵情况。
加速迭代法
为了提高迭代法的收敛速度，可以采用一些加速技巧， 如预处理技术、共轭梯度法等。
03 几种常见的迭代解法
Gauss-Seidel迭代法
Gauss-Seidel方法是一种迭 代算法，用于求解线性代数
计算方法3_线性方程组迭代解法
计算方法3_线性方程组迭代解法线性方程组的迭代解法是解决线性方程组的一种常见方法，常用于大规模的线性方程组求解。
该方法通过不断迭代更新解的近似值，直到满足一定的收敛准则为止。
线性方程组的迭代解法有很多种，其中最经典的是雅可比迭代法、高斯-赛德尔迭代法和超松弛迭代法。
本文将分别介绍这三种迭代解法及其计算方法。
雅可比迭代法是一种比较简单的线性方程组迭代解法，它的基本思想是先将线性方程组转化为对角占优的形式，然后通过迭代求解逐渐接近精确解。
雅可比迭代法的迭代公式为：其中，x^(k+1)是第k+1次迭代的近似解，n是未知数的个数，a_ij 是系数矩阵A的元素，f_i是方程组的右端向量的元素。
雅可比迭代法的计算步骤如下：1.将线性方程组转化为对角占优的形式，即保证矩阵A的对角元素绝对值大于其它元素的绝对值。
2.初始化向量x^(0)，设定迭代终止准则。
3.根据雅可比迭代公式，计算x^(k+1)。
4.判断迭代终止准则是否满足，如果满足，则停止迭代，返回近似解x^(k+1)；否则，继续进行下一次迭代。
高斯-赛德尔迭代法是雅可比迭代法的改进方法，它的基本思想是在每次迭代计算x^(k+1)时，利用已经计算出的近似解作为x的一部分。
高斯-赛德尔迭代法的迭代公式为：其中，x^(k+1)_i是第k+1次迭代的近似解中第i个未知数的值，x^(k)_i是第k次迭代的近似解中第i个未知数的值。
高斯-赛德尔迭代法的计算步骤如下：1.将线性方程组转化为对角占优的形式。
2.初始化向量x^(0)，设定迭代终止准则。
3.根据高斯-赛德尔迭代公式，计算x^(k+1)。
4.判断迭代终止准则是否满足，如果满足，则停止迭代，返回近似解x^(k+1)；否则，继续进行下一次迭代。
超松弛迭代法是对高斯-赛德尔迭代法的一种改进方法，它引入了松弛因子ω，通过调整参数ω的值，可以加快迭代的收敛速度。
超松弛迭代法的迭代公式为：其中，0<ω<2，x^(k+1)_i是第k+1次迭代的近似解中第i个未知数的值，x^(k)_i是第k次迭代的近似解中第i个未知数的值。
线性方程组的迭代式求解方法
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ，如果这一迭代格式收敛，对这个式子不断迭代计算就可以得到方程组的解。
道理很简单：对 x^{(k+1)}=bx^{(k)}+f 两边取极限，显然如果收敛，则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ，从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入，从而能够实现循环往复的求解，方法收敛时，计算次数越多越接近真实值。
2.收敛条件充要条件：迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件： \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ，从而进行迭代求解呢？一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 )：\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ，则Jacobi法的迭代格式（也称分量形式）为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式（也称向量形式）为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地，若 A 对称正定且为三对角，则 \rho^2(B_J)=\rho (B_G)<1 。
第四章 线性方程组迭代解法
得 A A 的特征值
故 A 15
:
1 15
Ax
2
221 ,
2
2 15
2
221
x
2
221 ,
( 7 ) ( 11 ) 170 A
2
2
返回
前进
向量序列与矩阵序列的极限
与求解方程类似，需要讨论的问题是：如何建 立迭代公式，向量序列的收敛条件是什么，若向量 序列{x(k)}收敛，如何进行误差估计？
}为 n 阶方阵序列， A 为 n 阶方阵，如果对于
k
任何矩阵范数都有： 则称序列
lim
A
(k )
A 0 A
(k )
A 收敛于矩阵
(k )
A , 记为 lim
k
A
与向量序列类似，也有：
定理2
设A
(k )
x 如果对任何向量范数都 收敛于 x 0 则称序列 x
(k ) (k ) (k ) k
有： x,
记为 lim x
x
返回
前进
向量序列与矩阵序列的极限（续）
n维点列收敛的一种等价描述是其对应坐标序列均 收敛，向量序列也有类似的结论。 定理1
R 中的向量序列
当且仅当 n
x 收敛于
j 1
n
a ij max
n1 i ຫໍສະໝຸດ nbj 1n
ij
A
B
（ 4）：
AB
max
1 i n
a
j 1 k 1 n
ik
b kj max max 1 i n
1 i n
线性方程组迭代解法
输入最大迭代次数N， k=1；误差ε ② 迭代
计算X ( E D A) X
(1)
1
(0)
D b
1
(1) (1) (1) (1) ③ 控制 如果||X（1）-X（0）||<ε，则输出X ( x1 , x2 xn )
否则 如果k<N ,k=k+1，置X（1） =X（0）转②继续； 如果k>=N ，算法失败。
ji
可写成形如
x
( k 1) i
(bi a x
j 1 (k ) ij j
i 1
j i 1
a x
n
(k ) ij j
) / aii
(i 1,2,, n) (3-９)
在Jacobi 迭代中，是用X(k)的全部分量来计算 X(k+1)的全部分量的。 我们应该注意到，在计算新分量xi(k+1)时，分量 x1(k+1), x2(k+1), … , xi-1(k+1)都已经算出。
由于Gauss-Seidel迭代法逐次用计算出来的新值 代替旧值，所以在收敛的条件下，它要比Jacobi迭 代法收敛速度快。
返回节
Gauss-seidel迭代法的主要步骤
分量计算步骤为：
① 准备
X (0) ( x1(0) , x2(0) xn(0) ) 输入A,b,迭代初值
输入最大迭代次数N， k=1；误差ε
按系数矩阵中 零元素的个数： 按未知量 的个数： 按系数矩 阵的形状
稠密线性 方程组
稀疏线性 方程组 低阶线性 方程组
对角占 优方程组
高阶线性 (如1000) 方程组
对称正定 方程组 三角形 方程组
(离散数学) 线性代数方程组的解法(迭代)
22
1 (k ) (k ) (k ) [b1 0 x1 a12 x2 .......... a1n xn ] a11
x
( k 1 ) n
1 (k ) (k ) (k ) [bn an1 x1 an 2 x2 .......... 0 xn ] ann
第三章
解线性方程组的迭代法
一.简单迭代法 1.迭代法建立. 考虑 Ax b
Ax b x Bx g
(矩阵B不唯一)
对应写出
x ( k 1) Bx ( k ) g 取定初始向量 x (0)
( k 0,1,2,)
( 3.4)
( 1) ( 2) (k ) ( k 1) x , x , , x , x , 产生向量序列
( k 1 ) x2
（3.10）
( k 1 ) xn
称为与Jacobi迭代法（3.7）对应的Seidel方法, 其收敛情况如下： (1)使用一般的Seidel方法（3.9）的收敛性判别法 (2)若系数矩阵A对称正定，则求解方程组（3.5）的 与Jacobi迭代法对应的Seidel方法（3.10）对任意 (0) x 收敛。 （证略）
x
(k ) n
(3.9)
(k ) n
( k 1) n
b
n1
x
( k 1) 1
n2xΒιβλιοθήκη ( k 1 ) 2 b nn
x
为与(3.8)对应的 Seidel 迭代法，其迭代矩阵 B s 可用 “代入法”求得。
Seidel 迭代法(3.9)的收敛性
（1）Seidel 迭代法(3.9)对任意
(3) 设方程组（ 3.5 ）的系数矩阵 A 按行严格对角占优 n 即：
解线性代数方程组的迭代法
对任意 x (0)，均有
. lim x(k) x*
k
②同一个简单迭代法可以关于某一个 x (0)收敛，而关
于另外 x (0)不收敛。
③ Ax
b
变形为
x
Bx
g
的方式不唯一。
④
当收敛时，只要 k
充分大，则可用
x（k 1）作为
x
*
的
近似值。
2019/12/10
就是方程组的解。此时称简单迭代法
x (k1) Bx (k) g ，k 0,1,关于初始向量x (0) 收敛。
2019/12/10
14
简单迭代法的构造（续）
①如果对初始向量 x (0)， lim x(k) x*，则称此简单迭 k
代法关于初始向量 x (0)收敛。一般谈及收敛，是指
即 lim x(k) x* k
2019/12/10
5
序列收敛的等价条件（续）
必要性
lim x(k) x*
k
lim x(k) x* 0
k
由等价性知：
c1
x
(k
)
x*
x(k) x*
c2
x(k) x*
有
lim x(k) x* 0
k 1in
j 1
a(k) ij
aij
)
0
也即 lim max k 1i, jn
a(k) ij
aij
0
故
lim
k
a(k ij
)
aij
证毕
Remark
①.向量序列、矩阵序列的收敛性等价于按分量、按元
解线性方程组的迭代法
|| x || 0 (非负性) ； （1）|| x || 0 ，当且仅当 x 0 时，
（2） || x ||| | || x || (齐次性)； （3） || x y |||| x || || y || (三角不等式). 则称 || x || 为向量 x 的范数 (或模).
4.1.2 向量范数和向量序列的极限
常用的向量范数：设 x R n （1）向量的 - 范数 (最大范数)： || x || max | xi |
1 i n
|| x ||1 （2）向量的 1 - 范数 (绝对值范数)：
（3）向量的 2 - 范数：|| x ||2 ( x , x ) (
|| A ||2 3+2 2 , || A ||F 6
4.1.3 矩阵范数和矩阵序列的极限
(k ) ) R nn ，如果存 定义5 (矩阵序列的极限) 设有矩阵序列 Ak (aij
在 A (aij ) R nn，使
k (k ) lim aij aij ,
i, j 1, 2,
（4） || AB |||| A || || B || ； 则称 || A || 为矩阵 A 的范数.
4.1.3 矩阵范数和矩阵序列的极限
相容性： 设有矩阵范数 || ||s 和向量范数 || ||t ，如果对任何向量 x R n 及矩阵 A R nn ，有/2 || A ||F ( aij ) i , j 1 n
它是与向量 2-范数相容的矩阵范数，但不是从属范数.
4.1.3 矩阵范数和矩阵序列的极限
8 线性代数方程组的迭代法
写成矩阵形式：
Ax b ( D-L-U ) x b
-U
A=
D
x D1 ( L U ) x D1b D1 ( L U )=D1 ( D A) I D1 A-Lx( k Nhomakorabea)D
1
(L U )x
(k )
D b
1
(4)
B
(4)即为雅克比（Jacobi）迭代公式
x x 3 2x 4x 3
(k ) 1 (k ) 1 (k ) 2 (k ) 2
( 0) ( 0) 取 x1 x2 0
计算得：
x1(1) 3 (1) x2 3 ,
x1(2) 3 (2) x2 3 ,
x1(3) 9 (3) x2 9 ,
第八章
线性方程组的迭代解法
主要内容
第一节 引言 第二节 基本迭代法
1. Jacobi迭代法
2. Gauss-Seidel迭代法
3. SOR迭代法
第三节 迭代法的收敛性
§1 引言
考虑线性方程组 Ax b
其中A为非奇异矩阵。
定义上:
直接法: 经过有限次运算后可求得方程组精确解的方法(不计 舍入误差!) 迭代法：从解的某个近似值出发，通过构造一个无穷序列去 逼近精确解的方法。（一般有限步内得不到精确解）
( k 1) 1
U
…
…
…
…
( k 1) xn
1 ( k 1) ( k 1) ( k 1) (bn an1 x1 an 2 x 2 an 3 x 3 ann
0 a21 0 L a31 a32 0 a a a n2 n3 n1 ann
第三章 线性方程组的迭代解法
定理3.2 若 ||B|| =q<1，则由迭代格式x(k+1)=Bx(k)+f 和任意初始 向量x(0)产生的迭代序列x(k)收敛于准确解x*. 本定理是迭代法收敛的充分条件，它只能判别收敛的情况，当 ||B|| ≥1时,不能断定迭代不收敛.但由于||B||,特别是||B|| 1和||B|| ∞ 的计算比较容易，也不失为一种判别收敛的方法。 同时当||B|| <1时可以用来估计迭代的次数，或用来设置退出 计算的条件. 这时有定理3.3和定理3.4 定理3.3 若||B|| =q<1，则迭代格式x(k+1) =Bx(k)+f产生的向量序 k 列 {x(k)}中 q (k ) * (0) (1 )
3.2 几种常用的迭代法公式 3.2.1 Jacobi迭代法
先看一个算例：
10 x 1 2 x 2 x 3 3 例1 2 x 10 x x 15 1 2 3 x 2 x 5 x 10 1 2 3
从以上三个方程中分别解出x1, x2, x3
|| x x || 1 q || x x || ( 3 . 17 )
利用此定理可以在只计算出x(1)时，就估计迭代次数k，但估 计偏保守，次数偏大. 称为事前误差估计. 13 结束
x2
x3
0
0
可见它对这一方程组比Jacobi迭代法收敛快一些。
Gauss-Seidel迭代法的公式如下：
xi
( k 1)
bi a ii
1 i 1 a ij x (j k 1 ) a ii j 1
n
a ij x j
(k )
j i 1
i 1, 2 , n k 0 ,1, 2 ,
第五章解线性代数方程组的迭代法
第五章 解线性代数方程组的迭代法迭代法是解线性代数方程组的另一类重要方法，特别适于求解系数矩阵为稀疏阵的大型线性代数方程组．它的基本思想是，从任一初始向量(0)X出发，按某一规则，逐次构造一个向量序列(){}k X ，当()k X 收敛于*X ，使*X 是所给方程组的解．于是，就有下列问题需要讨论：（１）构造迭代格式 （２）收敛性及误差估计本章将介绍几种实用的迭代法，并讨论其收敛条件．§１ Jacobi 迭代法１.１迭代格式的构造设所给方程组为X BX F =+ (1.1)其中，B 是n 阶方阵，F 是已知向量，X 是未知向量．任取(0)n X R ∈，代入(1.1)的右端，算得的结果记为(1)X ，再以(1)X 代入(1.1)的右端，算得的结果记为(2)X，如此进行下去，便得到迭代格式(1)(),0,1,,k k X BX F k +=+= (1.2)此格式称为Jacobi 迭代法，称B 为迭代矩阵．显然，若()*lim k x XX →∞=存在，则有 **X BX F =+(1.3)即*X 为(1.1)的解．注：若方程组由下面形式给出AX b = (1.4)则需要把它改写成便于迭代的形式(1.1)，其方法是多种多样的，最一般的方法是将A 分解为两个矩阵之差A M N =-，(1.5)其中矩阵M 可逆，于是(1.4)成为11X M NX M b --=+(1.6)令1B M N -=，1F M b -=，即得(1.1)．必须指出，(1.5)中的M 应是便于求逆的，M 的最简单选择是把它选为对角阵，通常，当A 的对角元素全不为零时，就把M 选为A 的对角线，于是A D E =-其中D 是具有A 的对角元素的对角阵，而E 在对角线上的元素为零．此时关系式(1.6)成为11X D EX D b --=+式中，1D -是简单的对角阵，它的对角元素是D 的元素的倒数．１.２ Jacobi 迭代法若由迭代法(1.2)所构成的向量序列(){}k X 收敛，则称迭代格式(1.2)收敛，或称Jacobi 迭代法收敛．以(1.2)式减去(1.3)式得(1)*()*()k k X X B X X +-=-2(1)*()k B X X -=- (1)(0)*()k B X X +=-所以，为使()*k X X =（当k →∞时），必要而且只要0k B →，而0kB →（k →∞）的充要条件是矩阵B 的谱半径()1B ρ<．故有定理１ 对任意右端向量F 和初始向量(0)X ，迭代格式(1.2)收敛于(1.1)的解*X 的充要条件是()1B ρ<．由定理１可以看出，迭代是否收敛只与迭代矩阵的谱半径有关，而迭代矩阵B 是由系数矩阵A 演变过来的，所以迭代是否收敛是与系数矩阵A 以及演变的方式有关，与右端向量和初始向量的选择无关．在具体问题中，谱半径是很难计算的，但由于() ||||B B ρ≤，所以可以用||||B 来作为()B ρ的一种估计．当||||1B <时迭代格式一定收敛，不过这只是收敛的充分条件．定理２ 若||||1B <，则迭代格式(1.2)收敛于(1.1)的解*X ，且有误差估计 ()*()(1)||||||||||||1||||k k k B X X X X B --≤--(1.7)或()*(1)(0)||||||||||||1||||kk B X X X X B -≤--(1.8) 证明 因为() ||||1B B ρ≤<，所以迭代格式(1.2)收敛．其次，由关系式()*(1)*()k k X X B X X --=-有()*(1)*|||| ||||||||k k X X B X X --≤⋅-()()* |||| (||||||||)k k B X X X X ≤⋅-+-（k-1） ()()* ||||||||||||||||)k k B X X B X X ≤⋅-+⋅-（k-1）从而有()*()(1)||||(1||||) ||||||||k k k X X B B X X ---≤⋅-因此(1.7)式成立．又从(1.2)式有()(1)(1)(2)1(1)(0)()()k k k k k X X B X X B X X -----=-==-,所以()(1)1(1)(0)|||| ||||||||k k k X X B X X ---≤-．将此式代入(1.7)中，便得到(1.8)式．定理２证完．依定理２可知，当11||||max ||1nij ji B b ==<∑或 1||||max||1nijij B b∞==<∑时，Jacobi 迭代法收敛．除了用定理１、定理2来判别迭代法的收敛性外，还可根据方程组系数矩阵的特点给出一些收敛性的判别条件。
3线性方程组的迭代解法
三、逐次超松弛法(SOR方法)
逐次超松弛法(Successive Over Relaxation Method)可 看成是Gauss-Seidel方法的加速，Seidel迭代法是SOR方法的 特例。将Seidel方法的迭代公式
改写为
x(k1) i
1 aii
(bi
i 1
a x(k 1) ij j
k
0
1
2
3
4
5
6
x1
0
2.5000 2.9773 3.0098 2.9998 2.9999 3.0000
x2
0
2.0909 2.0289 1.9968 1.9997 2.0001 2.0000
x3
0
1.2273 1.0041 0.9959 1.0002 1.0001 1.0000
可见Gauss-Seidel迭代法比Jacobi迭代法收敛要快一些。
x（k 1) BJ x(k ) f J
0
其中
a21
a22
BJ D1(L U )
an1 ann
a12 a11 0
an2 ann
a13 a11
a23 a22
7
a1n1 a11
a2n1 a22
ann1 ann
a1n
a11
a2 n
a22 , fJ D1b
0
二、 Gauss-Seidel 迭代法
x(k ) i
xi(k )
x(k ) i
1 aii
bi
i 1
a x(k 1) ij j
j 1
n
aij
x(jk
)
j i
为加快收敛，在增量 xi(k ) 前加一个因子
第6章 解线性方程组的迭代法
有 lim || Ak x || 0.所以就有定理的右边成 立。
k
反之，若定理的右边成 立，取x为第j个坐标向量e j， 则 lim Ak e j 0, 表示Ak的第j列元素极限均为零，当
k
j 1,2, , n时就证明了lim Ak 0，证毕。
k
给出的迭代法
( ( x1( k 1) (3x2k ) 2 x3k ) 20) / 8 ( k 1) (k ) (k ) x2 (4 x1 x3 33) / 11 的收敛性。 ( ( x3k 1) (6 x1( k ) 3x2k ) 36) / 12
第6章
解线性代数方程组的迭代法
§1 引言
考虑线性方程组
a11x1 a12 x2 a1n xn b1 a x a x a x b 21 1 22 2 2n n 2 an1x1 an2 x2 ann xn bn
(1.4)
即
x(k+1)=B0x(k)+f， (k=0,1,2,„)
x (10 ) (3.0000321.999838 0.9998813T , , , ) ε
(10 )
0.000187其中ε ,
(k )
(10 )
x
(10 )
x *.
从此例可以看出，由迭 代法产生的向量 序列x 逐步逼近此方程的精确 解。
3 8
0
3 12
2 8 1 11 0
20 x1 8 x 33 . 2 11 x3 36 12
任取初值,如x(0)=(0,0,0)T,代入(1.3)得到x(1)= (2.5,3,3)T. 反复迭代
第七章 线性代数方程组的迭代解法
0 0⎞ −ω*2 ⎞ ⎛ 8 ⎛(1−ω)*8 ω*3 ⎛ω*20⎞ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ω*4 11 0 ⎟ x(k+1) = ⎜ 0 (1−ω)*11 ω*1 ⎟ x(k) +⎜ω*33⎟ ⎜ ⎜ω*6 ω*3 12⎟ ⎜ 0 ⎟ ⎜ω*36⎟ 0 (1−ω)*12⎠ ⎝ ⎠ ⎝ ⎝ ⎠
1
1.2
1.4
1.6
华北电力大学数理学院
School of mathematics & physics
§7.1 经典迭代法
>> a=[8 -3 2;4 11 -1;6 3 12];b=[20;33;36]; epsl=1e-4;oma=0.9656; y=sordai(a,b,oma,epsl)
k
x(k )
2.5000e+000 3.0000e+000 3.0000e+000 2.3636e+000 2.0455e+000 1.9478e+000 1.9840e+000 2.0000e+000 2.0026e+000 2.0006e+000 1.9999e+000 1.9999e+000 2.0000e+000 2.0000e+000 1.0000e+000 9.7159e-001 9.2045e-001 1.0010e+000 1.0038e+000 1.0031e+000 9.9983e-001 9.9974e-001 9.9988e-001 1.0000e+000 1.0000e+000
n ⎧ ( k +1) = (bi - ∑ aij x (jk ) ) / aii xi ⎪ ⇔ ⎨ j =1, j ≠ i ⎪i = 1 : n ⎩
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
,n
二、 Gauss-Seidel迭代法
在J迭代公式中，计算
( k 1) x1( k 1) , x2 ,
) xi( k 1时，利用已经算出来的新的
k 1) , xi( 1 值，从而得到G-S迭代法。
G-S迭代法是J迭代法的一种改进
G-S迭代法的分量形式：
bi aij x
j 1 i 1 ( k 1) j
(k ) 3
10 (k ) (k ) ( 5 2 x1 3 x3 ) ( k 1) x2 ( 10) (k ) (k ) (14 x1 3 x2 ) ( k 1) x3 10
x
( k 1) 1
x
x
( k 1) 1
( k 1) 2
( 10) ( k 1) ( k 1) (14 x1 3 x2 ) ( k 1) x3 10 T Jacobi迭代法 取初值 x (0 0 0)
1 2
1 2
AD 是对称正定的。 对 x R ( 0)
x Ax y D AD y 0
T T
1 2
2 D A D (2 I D AD ) D
而矩阵 2 I D
1 2 1 2
1 2
1 2
1 2
同理可证
AD 是对称正定的
2D A 0
充分性 因为 A 正定，所以 D
ji
|a
j 1 jm
n
mj
|
对 k J ，有 由此可知，当
akk akj
jk
xj xk
xk x j
时，akj
0
否则与弱对角占优矛盾！ 但对于 k J , 所以
jJ
都有
xk x j
与不可约矛盾
akj 0 k J , j J
Th6.9 如果 A (aij )nn 为严格对角占优或为不可约
第六章 线性代数方程组的迭代解法
/*Iterative Method for Solving Linear Algebraic Systems*/
求解 A x b, A R
迭代法
nn
det( A) 0
从一个初始向量出发,按照一定的递推 格式,产生逼近方程组的近似解序列。
与解f (x)=0 的不动点迭代相似 ， 将方程组 A x b 思 等价改写成 x B x f 形式，从而建立迭代格式 路 ( k 1) (k ) (k ) (0) { x } x B x f ，从 x 出发，生成迭代序列 迭代法是一种逐次逼近的方法,与直接法比较, 具有: 程序简单,存储量小的优点。特别适用于求解系数 矩阵为大型稀疏矩阵 /* sparse matrices */ 的方程组。
的G-S法收敛，而J法不一定收敛。
例2：判定用J法和G-S法求解下列方程组的收敛性：
det( D L U ) 0
1
矛盾！
如果 A 为严格对角占优矩阵，易证
B 1 其中B 为J法的迭代矩阵
Th6.10 如果 A 是对称矩阵，且有正的对角元，则
求解方程组 Ax b的J法收敛的充要条件是矩阵 A
和 2D 证明： 记D
1 2
A 均为正定的，其中 D diag(a11 ,
B 1 Gauss-Seidel迭代法收敛的充分条件是 G 1
如例1：利用J和G-S迭代法求解方程组
10 3
1
2 10 3
x1 x2
14 5
3
10 x3
14
10 3
系数矩阵 A
2 10 3
1
1,2 0.05 0.384i 3 10 3 0.1
0
1
Jacobi迭代矩阵
aii 0, i 1, 2, , n ，且 A 非奇异。
自己看
Th6.8 如果 A (aij )nn 不可约且弱对角占优，则
aii 0, i 1, 2, , n ，且 A 非奇异。 证明：首先证明 aii 0, i 1, 2, , n 设 k , akk 0
A 是弱对角占优， 由条件：
如果 aii
相应的迭代格式
x( k 1) Bx( k ) f ; k 0,1, 2,
上述方法称为Jacobi迭代法，简称J法或简单迭代法
分量形式：
x
( k 1) i
bi aij x
j 1
i 1
(k ) j
j i 1
a
n
ij
x
(k ) j
a ii
; i 1, 2,
x
( k 1) i
j i 1
a
n
ij
x
(k ) j
a ii
; i 1, 2,
,n
例1：利用Jacobi和Gauss-Seidel迭代法求解方程组
10 3
1
1
2 10 3
解：
Jacobi 迭 代 格 式
x1 x2
14 5
3
10 x3
(14 3 x
(k ) 2
14
x )
(14 3 x
(k ) 2
x )
(k ) 3
G-S
似 解
1.0002507)
0.9999541)
0.9999981)
Gauss-Seidel迭代法 取初值 计 算 结 果
要求 精度
x (0 0 0)
T
迭代 方 程 组 的 近 次数 0.001 5 (0.9997916 0.9998479 0.0001 7 (0.9999929 0.9999949 0.00001 8 (1.0000013 1.0000009
0
是可约的
2
r1 r3
1 1
c1 c3
2
1 1
1 1
2
1
0
0
0
0
1
1 1 0
0 1 1
若系数矩阵是可约的，则可通过行与列重排化为 （*）式，从而可以将方程组简化为低阶方程组。
Def 6 （补充:可约矩阵的等价定义）
A R
子集 J
n n
是可约矩阵，当且仅当存在一个下标的非空
计 算 结 果
迭代 方 程 组 的 近 次数 0.001 9 (1.0002507 1.0000694 0.0001 10 (0.9999541 1.0001253 0.00001 14 (0.9999981 1.0000020 要求 精度
迭 代 格 式
10 ( k 1) (k ) ( 5 2 x1 3 x3 )
G 1 227
500
B
2
5
1 0 2 0.04914 3 0.18314
Def 5
设 A (aij ) Rnn满足 否则称 A 为不可约的
n
aii aij
j 1 ji
i 1, 2,
ij
, n称 A 为严格对角占优矩阵 , n 且至少有一个严格
如果 aii
( k 1) 1 1 ( k 1) (k ) 1
似 解
1.0000664) 1.0000022) 0.9999996)
G-S迭代法的迭代矩阵：
由迭代公式
x
D Lx
1 1
D Ux
(k )
f
1
x
( k 1)
( I D L) D Ux
( I D L) f ( D L) U
§2 Jacobi和Gauss-Seidel迭代法
一、 Jacobi迭代法
设方程组 Ax b; A (aij )nn , b (bi )1n ;det( A) 0
D LU 其中 D diag(a11 , a22 , , ann )
0
将系数矩阵分裂为：A
L a31 a32 0
1 2
, ann )
D D
其中 D
1
1 2
diag( a11 , a22 ,
1 2 1 2
, ann )
1 2 1 2
迭代矩阵
B I D A D ( I D AD ) D
D AD
、 I
1 2
1 2
矩阵 B 和I
1 2相似，故有相同的特征值；且
D AD
a
j 1 ji
n
i 1, 2,
不等式成立，则称 A为弱对角占优矩阵。
Def 6
T
设 A R
n n
，如果能找到排列阵 P ，使得
A11 () P AP 0
A12 其中 A11与 A22均为方 A22 阵，称 A为可约的
1 1 0
例如： 矩阵 A 1
0
1
1
迭代矩阵 G ( I D1 L)1 D1U
三、 Jacobi和Gauss-Seidel迭代法的收敛性
Th6.6
Jacobi迭代法收敛的充要条件是 ( B ) 1
Gauss-Seidel迭代法收敛的充要条件是 (G ) 1
推论1：Jacobi迭代法收敛的充分条件是
akj 0; j 1, 2, , n
与 A不可约矛盾！
交换 A 的第k、n行与k、n列，则矩阵 A 变为
A11 P AP 0
T
A12 0
其次证明 A是非奇异的
则存在非零向量
设 det( A) 0
x ( x1 , x2 ,
且令