第二章线性方程组的数值解法PPT课件
数值计算方法-第2章-线性方程组的直接解法
(k ) (k ) (k ) (k ) a max a A , b 在矩阵 的第 k 列中找 i k ik k in
( k 1) ( k 1) A , b 交换第k行与ik行, 进行第k次消元, 得
第2章 线性方程组的直接解法
n阶线性方程组: 记:
a1n b1 x1 b x a2 n 2 2 , x b , bn ann x n
a11 a Ai 21 an1 a1n b2 a2 n bn ann b1
消元过程: 只统计乘除法的次数. 除法次数: 2. for k=1 to n step 1 …… n次循环 n n 1 (n k ) k 2.2 for i=k+1 to n step 1 …… n-k次循环 k 1 k 1 aik/akk→aik ……每次k循环: n-k次除法 n(n 1) 2 for j=k+1 to n step 1 …… n-k次循环 : aij-aik*akj→aij … 每次k循环:(n-k)2次乘 乘法次数 n n 2 (n k ) (n k ) end for ( j ). k 1 k 1 bi-aik*bk→bi …每次k循环: n-k次乘法 n 1 n 1 2 k k end for ( i ). k 1 k 1 end for ( k ). n(n 2 1) 3 3. for k=n to 1 step -1 …… n次循环 3.1 计算 bk/akk→bk ……每次k循环: 1次除法 回代过程: 3.2 for i=1 to k-1 step 1 …… k-1次循环 乘除法次数: n bi-aik*bk→bi … 每次k循环: k-1次乘法 k n(n 1) 2 end for (i).(移第k列) k 1 end for ( k ). 总的乘除法次数: n3 3 n2 n 3, Gauss消去法时间复杂度: O(n3)
第2章 线性方程组的数值解法
第2章 线性方程组的数值解法2.1 引言在自然科学研究和工程技术的应用中，许多问题的解决，诸如非线性问题线性化、求微分方程的数值解最终都归结为线性方程组的求解问题. 我们在后面章节中的样条插值、曲线拟合、数值代数等，也需要求解线性方程组。
一般地，设n 阶线性方程组(linear system of equations of order n )为11112211211222221122,,,n n n n n n nn n n a x a x a x b a x a x a x b a x a x a x b +++=⎧⎪+++=⎪⎨⎪⎪+++=⎩ (2.1.1) 表示成矩阵形式=Ax b , (2.1.2)其中()111212122212n n ij n nn n nn a a a a a a a a a a ⨯⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎣⎦ A ，12n x x x ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦ x ，12n b b b ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦b , (2.1.3) A 为系数矩阵(coefficient matrix).目前在计算机上经常使用的、简单有效的线性方程组的数值解法大致分为两类：直接法(direct method)和迭代法(iterative method). 其中直接法适用于以稠密矩阵为系数矩阵的中低阶线性方程组，而迭代法主要用于求解以稀疏矩阵为系数矩阵的高阶线性方程组。
本章首先介绍解线性方程组的两种常用的直接法：Gauss 消去法与矩阵三角分解法；然后介绍解线性方程组的三种常用的迭代法：Jacobi 迭代法、Gauss-Seidel 迭代法、超松弛法(SOR 法)，并讨论它们的收敛性。
最后，讨论了线性方程组的性态。
2.2 Gauss 消去法Gauss 消去法（Gaussian elimination method ）的基本思想是使用初等行变换将方程组转化为一个同解的上三角形方程组，再通过回代，求出该三角形方程组的解.2.2.1 Gauss 消去法Gauss 消去法包括消元和回代两个过程. 下面先举例说明Gauss 消去法求解线性方程组的主要过程.例2.2.1 求解线性方程组123123123471,2581,3611 1.x x x x x x x x x ++=⎧⎪++=⎨⎪++=⎩ 解 将该线性方程组写成增广矩阵(augmented matrix)的形式1471258136111⎡⎤⎢⎥⎢⎥⎢⎥⎣⎦用Gauss 消去法求解过程如下：1．消元过程12213323323214711471147125810361036136111061020020r r r r r r r r r -+→-+→-+→⎡⎤⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥−−−−→---−−−−→---⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥---⎣⎦⎣⎦⎣⎦,从而原方程组等价地变为上三角形方程组123233471,361,20.x x x x x x ++=⎧⎪--=-⎨⎪=⎩2．回代过程从第3 个方程解出30x =，将其代入第2 个方程得()2216/31/3x x =--+=，再将30x =及21/3x =回代到第1个方程，解出1231471/3x x x =--=-. 从而得到原方程组的解123113,0.x x x =-==对于一般线性方程组(2.1.1)，使用Gauss 消去法求解分为以下两步：1．消元过程为方便起见，记()(0)(0),ijn na ⨯==A A ()T(0)(0)(0)(0)1,12,1,1,,,n n n n a a a +++== b b ，则方程组(2.1.1)为()()()()()()()()()()()()000011112211,1000021122222,100001122,1,,.n n n n n n n n nn n n n a x a x a x a a x a x a x a a x a x a x a +++⎧+++=⎪+++=⎪⎨⎪⎪+++=⎩ (2.2.1) 第1次消元：若()0110a ≠，对方程组(2.2.1) 执行初等行变换11i i i r l r r -→, 2,3,,i n = ,得第1个导出方程组——————————————————————————高斯 (Carl Friedrich Gauss 1777年4月30 日 – 1855年2月23 ) 是德国数学家、天文学家，在许多科学领域都做出了杰出的贡献，他为现代数论、微分几何(曲面论)、误差理论等许多数学分支奠定了基础. 他的数学研究以简明、严谨、完美而著称于世. 他在数学上与阿基米德、牛顿和欧拉齐名，被称为“数学王子”，被公认为有史以来最伟大的数学家之一.()()()()()()()()()()000011112211,111122222,111122,1,,,n nn n n n n nn n n n a x a x a x a a x a x a a x a x a +++⎧+++=⎪⎪++=⎨⎪⎪++=⎩(2.2.2)其中()()1111/i i l a a =，()()()10011,2,3,,;2,3,, 1.ij ij i j a a l a i n j n =-==+第2次消元：若()1220a ≠，对方程组(2.2.2)执行初等行变换22,i i i r l r r -→ 3,4,,i n = ,得第2个导出方程组()()()()()()()()()()()()()()()0000011112213311,1111122223322,122233333,122233,1,,,,n nn n n n n nn n nn nn n a x a x a x a x a a x a x a x a a x a x a a x a x a ++++⎧++++=⎪⎪+++=⎪⎪++=⎨⎪⎪⎪++=⎪⎩(2.2.3)其中()()112222/i i l a a =，()()()21122,3,4,,;3,4,, 1.ij ij i j a a l a i n j n =-==+第k 次消元：若()10k kka -≠，对第1k -个导出方程组执行初等行变换i ik k i r l r r -→，1,2,,i k k n =++ , 得第k 个导出方程组()()()()()()()()()()()()()()()000001111221,1111,110112221,1122,11,111,1,1,11,1,,,,k k n nn k k n n n k k k k k k k n nk n k k k n k k nn n n n a x a x a x a x a a x a x a x a a x a x a a x a x a +++++++++++++++⎧+++++=⎪⎪++++=⎪⎪⎨++=⎪⎪⎪⎪++=⎩(2.2.4)其中()()11k k ik ikkkl a a --=，()()()11,k k k ij ij ik kj a a l a --=- 1,,;1,, 1.i k n j k n =+=++ 重复上述过程1n -次，得到第1n -个导出方程组()()()()()()()()()()()()()()0000011112213311,1111122223322,122233333,111,1,,,.n n n n n n n nn n n nn nn n a x a x a x a x a a x a x a x a a x a x a a x a +++--+⎧++++=⎪⎪+++=⎪⎪++=⎨⎪⎪⎪=⎪⎩(2.2.5)其中()()()()()1111,,1,2,,1;1,,;1,, 1.k k kk k ik ikkkij ijik kjl a a a a l a k n i k n j k n ----==-=-=+=++ (2.2.6)这样，通过消元过程就将方程组(2.1.1)化成了等价的上三角形方程组(2.2.5).2．回代过程回代过程就是求上三角形方程组(2.2.5)的解. 若()10n nna -≠，则从最后一个方程开始，先求出()()11,1,/n n n n n n n x a a --+=，再由第1n -个方程解出1n x -，依此类推可解出221,,,n x x x - . 一般(2.2.7)定义 2.2.1 由式(2.2.2)-(2.2.7)确定的求解线性方程组的算法称为Gauss 消去法(Gaussian elimination method)，包括消元(elimination)和回代(backward substitution)两个过程。
线性方程组解PPT课件
VS
详细描述
高斯消元法的基本思想是将线性方程组转 化为上三角矩阵，然后通过回代过程求解 未知数。在消元过程中，通过行变换将方 程组的系数矩阵变为上三角矩阵，然后通 过回代过程求解未知数。该方法具有较高 的计算效率和精度，适用于大规模线性方 程组的求解。
迭代法
总结词
迭代法是一种求解线性方程组的方法，通过不断迭代逼近解的过程。
在物理领域的应用
力学系统
利用线性方程组描述多体系统的 运动状态，分析系统的平衡点和 稳定性，以及如何通过调整系统
参数实现稳定运动。
电路分析
通过线性方程组表示电路中的电流 和电压关系，分析电路的阻抗、导 纳和转移矩阵等参数，为电路设计 和优化提供依据。
波动方程
利用线性方程组描述波动现象，如 声波、光波和水波等，分析波的传 播规律和特性。
线性方程组解ppt课件
目录 CONTENT
• 线性方程组的基本概念 • 线性方程组的解法 • 线性方程组的解的性质 • 线性方程组的应用 • 线性方程组解的软件实现
01
线性方程组的基本概念
线性方程组的定义
线性方程组
由有限个线性方程组成的方程组，其中每个方程包含一个或多个 未知数。
线性方程
形如 ax + by + c = 0 的方程，其中 a, b, c 是常数，x 和 y 是未 知数。
详细描述
迭代法的基本思想是通过不断迭代逼近解的过程，最终得到线性方程组的近似解。迭代法有多种形式，如雅可比 迭代法、高斯-赛德尔迭代法和松弛迭代法等。这些方法通过迭代更新解的近似值，最终得到满足精度要求的解。 迭代法适用于大规模线性方程组的求解，但计算效率相对较低。
矩阵求解法
总结词
数值分析第二章解线性方程组的直接方法
a2(22) x2 ... a2(2n) xn b2(2) ,
..............
an(nn) xn bn(n) .
对此方程组进行回代，就可求出方程组的解.
xn
xiΒιβλιοθήκη bn(n) (bi(i )
an(nn) ,
n
ai(ji ) x
j i 1
j
)
ai(ii ) ,
i n 1,n 2,,1.
x3 x3
1 1
4x1 2x2 2x3 3
消去后两个方程中的x1得
x1
2 x2 5 x2
x3 1 2x3 2
6x2 6x3 1
再消去最后一个方程的x2得
x1
2 x2 5 x2
x3 1 2x3 2
42 5
x3
7 5
消元结束.
x1
1 2
经过回代得解:
x2
1 3
互换, 因而程序比较复杂, 计算时间较长.
• 列主元素法的精度虽然稍低于全主元素法, 但其
计算简单, 工作量大为减少, 且计算经验与理论实
践均表明, 它与全主元素法同样具有良好的数值稳
定性.
• 列主元素法是求解中小型稠密线性方程组的最好
方法之一.
27
§2 直接三角分解法
Gauss消元法的矩阵表示
a12
a13
a 1 0 a21 a22 a23 a21 aa11 a22 aa12 a23 aa13
b 0 1 a31 a32 a33 a31 ba11 a32 ba12 a33 ba13
28
n=3时Gauss消元法的矩阵表示
a11 a12 a13 A a21 a22 a23
【推荐】数值计算方法：第二章 线性方程组的数值解法.ppt
2.4 经典迭代法(Classic Iterative Methods)
迭代法思想：
42
2.4.1 Jacobi迭代法 (以对角元为分母)
43
建立迭代格式
将初值
代入后迭代得
将上述过程一般化
44
以分量表示方程组得
对角元对应的量 移到左边，其它 量在右边便得 ：
从而可建立迭代格式
Jacobi迭代
20
比较第k列, j=k,k+1,…,n
21
比较第k行, i=k+1,…,n
22
先解Ly = b 再解Ux = y
23
例 2.4 试用Crout分解法解线性方程组
解
24
25
26
2.2.2 对称正定矩阵分解法
若A 为对称正定矩阵，则容易证明存在下三角
矩阵L，使得
。这称为矩阵的乔里斯
基（Cholesky）分解。
50
定理 2.1 设方程组Ax=b的精确解为x*。如果存在一 个矩阵范数使得（2.4.9）中的迭代矩阵满足条件
则由(2.4.9)确立的迭代任何初始向量均收敛。且
证 迭代式相减取范数得
进一步递推得
定理得证。
51
利用定理2.1很容易判别迭代法的收敛性。以常用 矩阵范数为例，有下列结论。 推论 2.1 若(2.4.9)迭代矩阵 满足条件
解 相应的迭代公式为
Jacobi迭代
令 由Jacobi迭代得
由Gauss-Seidel迭代得
Gauss-Seidel迭代 取四位小数迭代计算
49
2.4.3 一般 迭代法的收敛性
定义3.2 设
相应的迭代格式为
如果存在某个向量范数使得
线性方程组的数值解法LU分解法市公开课金奖市赛课一等奖课件
推论 2 D 并入 L，则
A (L D)R L U
此时， L 是下三角阵， U 是单位上三角阵，称之为
Crout 分解.
第8页
矩阵分解理论
推论 3 如果 A AT ,则A LDLT
其中，L 是单位下三角阵，D 是对角阵.
由a2 j l21u1 j 1 u2 j 得u2 j a2 j l2iu1 j ( j 2,3,..., n)；
再由ai2 li1u12 li2u22
得li 2
ai 2
li1u12 u22
(i 3,4,..., n)。
第14页
Doolittle分解
第k步时：计算ukk , ukk1,n j k
i 1
yi bi lij y j i 1,2,..., n j 1 n
xi ( yi uij x j ) / uii i n, n 1,...1 j i 1
x 可获解 (x1, x2 ,..., xn )T。
第18页
例题
例1.试用Doolittle分解求解方程组.
2 5 6 x1 10
3.5 LU分解法 我们知道对矩阵进行一次初等变换，就相
称于用相应初等矩阵去左乘本来矩阵。因 此我们从这个观点来考察Gauss消元法并 用矩阵乘法来表示，即可得到求解线性方 程组另一个直接法：矩阵三角分解。
第1页
高斯消元过程矩阵表示
第1步等价于
:
a (1) 11
0时，将a（211）, a（311）,..., a（n11）消零, 令li1
d1
令
U1
d2
d
n
第29页
第2章 - 线性方程组求解的数值方法ppt课件
) a 1(1 n (2) a 2n (2) a mn
x1 x2 xm
b 1( 1 ) (2) b2 b (2) m
，
( 2 ) 记为 Ax b
( 2 )
1 , 2 , , s ， s min( m 1 , n ) （2）第k步（ k ）
设已完成上述消元过程第1步，第2步，„，第k-1步，且
( 1 ) ( k 1 ) a 0 , , a 0 11 k 1 , k 1
(E )2 (E) E
2 1 2 1 4 7 1 ( 1 4 7 1 1 4 7 1 (E )3 E ) 2 ( E ) E ( E ) E 3 2 3 1 3 3 ~ A 2 5 8 1 0 3 6 1， 0 3 6 1 0 0 6 10 2 3 6 11 1 0 2 0
(1 ) b 1 1( 1 ) x 2 b 2 x m b m( 1 )
x
(1) a11 (1) a 21 a (1) m1
(1) a12 (1) a 22 (1) am 2
第2章 - 线性 方程组求解的 数值方法
题的解决都需要 用到线性方程组的求解。因此，求解线性方程组的问题 是一个在科学技术中常见的普遍问题。 一般地，这些线性方程组的系数矩阵大致可分为两类： 1）低阶稠密矩阵 2）大型稀疏矩阵 解线性方程组的数值解法：有直接法和迭代法两类。 直接法：计算过程没有舍入误差，经过有限次四则运算 可求得方程组的精确解。（实际计算有舍入误差） 高斯消元法，矩阵分解法 迭代法：核心是迭代求解的收敛条件和收敛速度。 雅可比（Jacobi）迭代，高斯-赛德尔（Gauss-Seidel） 迭代
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
bn( 2
)
其中
行后再消元
[ A(2) | b(2) ]
a(2) ij
a(1) ij
a(1) i1
a(1) 11
a(1) 1j
b(2) i
b(1) i
a(1) i1
a(1) 11
b(1) 1
j 2,3,..., n
——减减去去第b11(1行)的的aa1i((aa1111))1i((1111倍)) 倍
i 2,3,..., n
11/114
a(k ij
1§) 2a.1i(jk
)
G aaauki((kkkks)) sai(消jk) 去j法
k
1,
k
2,...,
n
b(i(2k)1)
第bki(k次) a01(消11aa) ki((kkkk元)) b。k(k)
a(1) 1k
a(1) 1n
b(1) 1
数值计算方法
第二章 线性方程组的数值解法
2/114 第二章 线性方程组的数值解法
§2.0 引 言 §2.1 Gauss消去法 §2.2 矩阵的三角分解 §2.3 QR分解和奇异值分解
3/114 §2.0 引 言
在自然科学和工程技术中很多问题的解决常常归结为 解线性代数方程组。
例如：电学中的网络问题 用最小二乘法求实验数据的曲线拟合问题 解非线性方程组问题 用差分法或者有限元方法解常微分方程 偏微分方程边值问题等 都导致求解线性代数方程组。
用回代法解此三角形方程组（简单形式）得原方程组的
解。
例如：
[
A
|
b]
1 1
1 3
1 6 2 1
2 2 1 1
1 1 1 6
0
2
3
5
0 4 1 11
1 1 1 6
0
2
3
5
0 0 7 21
9/114 §2.1 Gauss消去法
下面讨论一般的解n阶方程组的高斯消去法。
1. 消去过程
迭代法是解大型稀疏矩阵方程组(尤其是由微分方程离 散后得到的大型方程组)的重要方法。
第6章介绍迭代法解线性方程组。
8/114 §2.1 Gauss消去法
直接法的基础
高斯(Gauss)消去法是解线性方程组最常用的方法之一
它的基本思想是通过逐步消元（行的初等变换），把
方程组化为系数矩阵为三角形矩阵的同解方程组，然后
将原方程组记为
A(1)x =b(1)
其中A(1)=(aij(1))nn=(aij)nn ，b(1)=b (1) 第一次消元。
[ A(1)
|
b(1) ]
aa12((1111))
a(1) 12
a(1) 22
a(1) 1n
a(1) 2n
b1(1) b2(1)
a1(11)
0
a(1) 12
a(2) 22
4/114 §2.0 引 言
这些方程组的系数矩阵大致分为两种 一种是低阶稠密矩阵(例如，阶数大约为≤150) 另一种是大型稀疏矩阵(即矩阵阶数高且零元素较多)
5/114 §2.0 引 言
设有线性方程组Ax = b，其中
a11
A
a21
a12
a22
a1n a2n
x1
b1
为非奇异阵，x
an(11)
a(1) 12
a(1) 22
a(1) n2
aaa12n注至(((111nnn))) ：少bbb12n(((若有111))) a一11个(1)元=a素001(110) 不，aaa为则12n(((212222)))0在，第 可1交列aaa12n(((换中122nnn)))
b(1) 1
a(k kk
a(k) ik
a(k) kk )
倍
)
倍
i k 1, k 2,..., n
注：为减少计算量，令 则
， lik
a(k) ik
a(k) kk
a ( k 1) ik
a(k ij
)
b( k 1) i
b(k ) i
lik bk(k )
j k 1, k 2,..., n i k 1, k 2,..., n
本章将阐述这类算法中最基本的高斯消去法及其某些 变形。
这类方法是解低阶稠密矩阵方程组的有效方法，近十 几年来直接法在求解具有较大型稀疏矩阵方程组方面取 得了较大进展。
7/114 §2.0 引 言
2. 迭代法
就是用某种极限过程去逐步逼近线性方程组精确解的 方法。
迭代法具有需要计算机的存贮单元较少、程序设计简 单、原始系数矩阵在计算过程中始终不变等优点，但存 在收敛性及收敛速度问题。
12/114 §2.1 Gauss消去法
1. 消去过程
(2) 第k次消元。
a( k 1) ij
a(k) ij
a(k) ik
a(k) kk
a(k) ij
b( k 1) i
b(k) i
a(k) ik
a(k) kk
b(k) k
j k 1, k 2,..., n
— —
减去第k行的
减去bk(
k
)的
a(k ik
x2
，b
b2
an1 an2 ann
xn
bn
关于线性方程组的数值解法一般有两类： 直接法与迭代法。
6/114 §2.0 引 言
1. 直接法
就是经过有限步算术运算，可求得方程组精确解的方 法(若计算过程中没有舍入误差)。
但实际计算中由于舍入误差的存在和影响，这种方法 也只能求得线性方程组的近似解。
a(1) 1n
a(2) 2n
b(1) 1
b(2) 2
an(11)
a(1) n2
a(1) nn
bn(1)
0
a(2) n2
a(2) nn
b(2) n
[ A(2) | b(2) ]
10/114 §2.1 Gauss消去法
1. 消去过程
(1) 第一次消元。
[ A(1)
|
b(1) ]
aa12((1111))
[ A(k) | b(k) ]
a(k) kk
a(k) kn
bk( k
)
a(k) nk
a(k) nn
bn( k
)
— —
减去第k行的
减去bk(
k
)的
a(k ik
a(k kk
a(k) ik
a(k) kk )
倍
)
倍
i k 1, k 2,..., n
a1(11)
a(1) 1k
13/114 §2.1 Gauss消去法
1. 消去过程
(3) 当k = n – 1时得
a1(11)
a(1) 1 k 1
a(1) 1n
b(1) 1
a(k) kk 0
a(k) k ,k1
a( k 1) k 1, k 1
a(k) kn
a( k 1) k 1, n
b(k) k
b( k 1) k 1
[ A(k1)
|
b(k1) ]
0
a( k 1) n, k 1
a( k 1) nn
bn(k1)