第五章-解线性方程组的直接方法分解
数值分析--解线性方程组的直接方法
值 为A的特征值,x为A对应的特征向量,A的全体特征值
分 析
称为A的谱,计作 ( A),即 ( A) {i ,i 1,2,, n}, 则称
》
( A)
max
1in
|
i
|
为矩阵A的谱 半 径.
三、特殊矩阵
第5章 解线性方程组的直接方法
1) 对角矩阵
2) 三对角矩阵
3) 上三角矩阵
4) 上海森伯(Hessenberg)阵
分 析
1.00x 1.00y 2.00
》 解法1: 1.00105 x 1.00 y 1.00
(1.00 1.00105) y (2.00 1.00105)
1.00105 x 1.00 y 1.00
1.00
105
y
1.00
105
x 0.00,
y 1.00
第5章 解线性方程组的直接方法
1
Ly b y 3,Ux y x 1.
2
1
第5章 解线性方程组的直接方法
§3 高斯主元素消去法
若ak(kk) 0,或ak(kk)很接近于0,会导致其他元素数量级严重 增长和舍入误差的扩散,使得计算结果不可靠.
《例3’采用3位十进制,用消元法求解
数 值
1.00105 x 1.00y 1.00
L21L1 U2U11
L21L1
U
U 1
21
I
(因为上式右边为上三角矩阵,左边为单位下三角矩阵
从而上式两边都必须等于单位矩阵)
《 数
L1 L2 , U1 U2
1 1 1
值分例2
析
.例1中,A
0
4
-1,将A作LU分解。
用直接三角分解法解线性方程组
三角阵。等式左边是单位下三角阵,右边是上三角阵,要使等式
成则立L , L只1 ,能U等于U单1,位即矩此阵三I。角于分是解L唯1一L1。
UU
1 1
I,
1 2 1
1 2 1
例7 解:
设 A 3 7
1
,试将A进行三角分解。
1 1 3
由高斯消去法得到
m21
3 1
3,m31
1 1
1
m 32
L1
1 1
0 0 1 2
例:
求
0 1 2
0 1 0
3 0 1
103的PLU分 解 。
解:用1,2, ,n的排列表示n阶置换阵P,其中排列的第i个元素
j,表示P的i行非零元素位于j列。则分解过程如下:
1 0 0 1 2
3 1 1 0 1
3 1 1 0
2 0
43
1 2
0 1 0
3 0 1
0 1 3
Ux j y j
Ly
j
bj
n1
k
n(n 1)
n2
n 次乘法
k 1
2
22
Ux j y j n k n(n 1) n2 n 次乘除法
k 1
2
22
即共需n 2 次乘除法运算。
n 2 次 乘 除 法
三角分解法的存放元素的方法:
以A (a ij )33 为例,
a11 A a21
1 mk1,k 1
k,
Lk1
1 mk1,k 1
k
mnk
1
mn,k
1
A ( L11 L21
L1 n1
)U
LU,1
a (1) 11
解线性方程组的直接法
a23x3 a33x3
a24x4 a34x4
b2 b3
a41x1 a42x2 a43x3 a44x4 b4
增广矩阵 a11 a12 a13 a14
A
a21
a22 a23
a24
a31
a32 a33
a34
a41 a42 a43 a44
b1
b2
b3
b4
32
计算3个消元因子(乘子向量)
-3x1 + x2 + 3x3 + 2x4 =6
1 2 1 4 13
1 2 1 4 13
2 0 4 3 28 4 2 2 1 20 -3 1 3 2 6
-主元行*2 -主元行*4 -主元行*-3
0 –4 2 -5 2 0 –6 –2 –15 -32 0 7 6 14 45
24
1 2 1 4 13
0 –4 2 -5 2
消元过 程
回代:x4=2,x3=4,
x2=-1,x1=3
25
有回代的高斯消去法
(Gaussian Elimination with Back Substitution)
如果A是NN非奇异矩阵(存在A-1),则存 在 线性方程组UX=Y与线性方程组AX=B等价,这 里U 是上三角矩阵,并且akk0。当构造出U和Y后, 可用回代法求解UX=Y,并得到方程组的解X。
16
➢ 高斯消元法: 思 首先将A化为上三角阵 ,再回代求解。
路
=
17
4 初等变换(Elementary Transformation) 下列三种变换可使一个线性方程组变换成另一
个等价的线性方程组 交换变换:对调方程组的两行 比例变换:用非零常数乘方程组的某一行 替换变换:将方程组的某一行乘一个常数再加到
数值分析课件 (第5、6章)
(1 ( La1n) b11) (2) (2) a L 2n b2 = A(3) : b(3) LM M (3) (3) Lamn bn
[
]
( ( ( aij3) = aij2) −mij a22) j (3) ( bi = bi(2) −mi2b22)
(i = 3,L m j = 3,L n) , ; , (i = 3,L m) ,
[
]
( ( ( aij2) = aij1) − mij a11) j (2) bi = bi(1) − mi1b(1) 1
研究生公共课程数学系列
(i = 2,L m j = 2,L n) , ; , (i = 2,L m) ,
机动 上页 下页 首页 结束
(2)
[A
(2)
: b(2)
]
(1 (1 a11) a12) (2 0 a22) = M M (2) 0 am2
(n)
续 述 程 到 成 s 消 计 。 继 上 过 , 直 完 第步 元 算
后 到 原 程 等的 单 程 A 最 得 与 方 组 价 简 方 组 (s+1) x = b,(s+1) 中( ) 上 形 其 A s+1 为 梯 。
(1 (1 (1 a11) a12) L a1n) (2 ( a22) L a22) n = O M (n ann)
( a2k ) k m = (k ) ik akk
(k (akk ) ≠0)
−−−−−→
(i=k+1,Lm) ,
(1 (1 ( a11) a12) L a11) k (2 ( a22) L a22) k O M (k akk ) M 0
解线性方程组的矩阵三角分解法 共16页PPT资料
计算 LU 分解
利用矩阵乘法直接计算 LU 分解
1 l21 ln1
u11 u121 源自u22 ln,n1 1
u1n a11 a12 u2na21 a22
unn an1 an2
a1n a2n
ann
LU =A
比较等式两边的第一行得:u1j = a1j ( j = 1,…, n )U 的第一行
1 AL D L T l21 1
d1
d2
ln 1
ln,n1 1
1l21 1 dn
ln 1 ln2
1
计算公式
n
j1
aij likdkljk likdkljklijdjljj
k1
k1
aij likdkljk likdkljklijdjljj
n
j1
aij likljk likljkljjlij
k1
k1
a1n a2n
ann
9
Cholesky 分解算法
算法 :(Cholesky 分解 )
for j = 1 to n
1
l jj
ajj
j1
l
2 jk
2
,
k1
j1
lij aij likljk ljj ,
8
计算 Cholesky 分解
Cholesky 分解的计算
直接比较等式两边的元素
l11 l21 ln1
l11 l21
l22
l22
ln,n1 lnn
计算公式
ln1 a11 a12 ln2a21 a22
第5章_线性方程组的解法
k 1
326
0
0
0
a(n) nn
bn(n
)
a1(11)
a(1) 12
a(2) 22
... ... ...
a(1) 1n
a(2) 2n ...
a(n) nn
x1
x2
... xn
bb12((12))
...
bn(n)
回代:
xn
b(n) n
/
a
(n nn
11
3种常用范数:
2-范数(长度)
n
1-范数
x ( 2
xi2 )1/2
i 1
∞-范数
n
x 1
xi
i 1
x
max
1 i n
xi
12
矩阵的范数: 对于给定的n阶方阵A,将比值 Ax / x 的上确界 称为矩阵A的范数
直接由定义知,对于任意向量x,有:|| A x ||≤|| A || || x || 基本性质:
det
a11
an1
a1i1
ani1
b1
bn
a1i1
a1n
ani1 ann
(1)计算n+1个n阶行列式. (计算一个n阶行列式就需要做(n-1)n!次乘法. 要计算n+1个n阶行列式,共 需做(n2-1)n!次乘法). (2)做n次除法才能算出xi(i=1,… n). (3)用此法,需作乘除法的运算: N=(n2-1)n!+n 例如,当n=10(即求解一个含10个未知量的方程组), 次数共为32659210次; 当n=100,1033次/秒的计算机要算10120年
a(1) 13
a(2) 23
高斯消去法
mi1
a (1) i1
/
a (1) 11
(i 2, 3,L , m)
用-mi1 乘方程组的第一个方程加到第i个方程,则原方程组同
解方程组为:
a1(11)
0
M 0
a1(12) a2(22)
M am(22)
L L M
a1(1n) a2(2n)
M
x1
x2
M
b1(1) b2(2)
M
L am(2n) xn bm(2)
2020/6/3
数值分析
引言
在自然科学和工程技术中许多问题的解决转化为解线性方 程组,而这些方程组的系数矩阵大致分为两种,一种是低阶稠 密矩阵,一种是高阶稀疏矩阵。
解线性方程组的数值解也有两种: 直接法,就是经过有限步算术运算,可以求得线性方程 组的解,但实际计算时有舍入误差的存在和影响,所以求 得的结果也只能是近似解对低阶稠密矩阵和部分大型稀疏 矩阵有效。
第五章 解线性方程组的直接方法
5.1 高斯消去法 5.2 高斯主元素消去法 5.3 矩阵的三角分解 5.4 误差分析
2020/6/3
数值分析
【本章重点】 1.Gauss 消去法和列主元消去法及其实现条件。 2.矩阵的三角分解,含LU分解和LLT 分解及三对角方程组的追
赶法。 3.向量和矩阵范数的定义及性质。 4.矩阵条件数及病态矩阵定义和解方程组直接法的误差估计。
即
a(1) 11
0
M
a(1) 12
a(2) 22 M
L L M
a(1) 1n
a(2) 2n M
x1
x2
M
b(1) 1
b(2) 2 M
0
0
数值计算方法-第5章_解线性方程组的直接法
本章讲解直接法
5.1 消元法
我们知道,下面有3种方程的解我们可以直接求出:
①
n次运算
A
diag(a11, a22 ,
, ann )
xi
bi aii
,i
1,
,n
②
(n+1)n/2次运算
l11
A
l21 ln1
l22 ln2
(aik
k 1
liklkr ) r 1 lkk
,i k 1, , n
因此不常用
又 l11
1
l11
l21 l22
ln1
ln2
lnn
l '21 l 'n1
1 l'n2
1
l22
lnn
则有
A L~D~D~T L~T LDLT
L~
D~
1
L
l21 ln1
lnn
xi
bi
i 1
lij x j
j 1
lii
,i
1,
,n
③
(n+1)n/2次运算
u11
A
u12 u22
u1n
u2n unn
xi
bi
n
uij x j
j i 1
uii
,i
n,
,1
对方程组,作如下的变换,解不变 ①交换两个方程的次序 ②一个方程的两边同时乘以一个非0的数 ③一个方程的两边同时乘以一个非0数,加到另一个方程
1 ln2
1
d1
D
d2
dn
a11 a12
a21 a22
第五章 小行星轨道方程计算问题——线性方程组求解的直接法
第五章 小行星轨道方程计算问题——线性方程组求解的直接法5.1 小行星轨道方程问题5.1.1 问题的引入一天文学家要确定一颗小行星绕太阳运行的轨道,他在轨道平面内建立以太阳为原点的直角坐标系,其单位为天文测量单位,在5个不同的时间对小行星作了5次观察,测得轨道上的5个点的坐标数据如下表:表5.1.1 轨道上的5个点的坐标数据5.1.2 模型的分析由开普勒第一定律知,小行星轨道为一椭圆,设椭圆的一般方程为:221234522210a x a xy a y a x a y +++++=,需要确定系数()1,2,3,4,5i a i =。
利用已知的数据,不妨设()(),1,2,3,4,5i i x y i =,欲确定系数i a 等价于求解一个线性方程组:221121131415122122223242522213233334353221424434445422152553545552221022210222102221022210a x a x y a y a x a y a x a x y a y a x a y a x a x y a y a x a y a x a x y a y a x a y a x a x y a y a x a y ⎧+++++=⎪+++++=⎪⎪+++++=⎨⎪+++++=⎪⎪+++++=⎩ 可写成矩阵的形式:AX b = 其中,2211111122222222223333332244444422555555222222222222222x x y y x y x x y y x y A x x y y x y x x y y x y x x y y x y ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦,12345a a X a a a ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎣⎦,11111b -⎡⎤⎢⎥-⎢⎥⎢⎥=-⎢⎥-⎢⎥⎢⎥-⎣⎦。
5.1.3 模型的假设假设:(1)小行星轨道方程满足开普勒第一定律; (2)以上所测得数据真实有效。
数值分析第五章解线性方程组的直接法
数值分析第五章解线性方程组的直接法解线性方程组是数值分析中的一个重要问题,对于大规模的线性方程组来说,直接法是一种常用的求解方法。
本文将介绍解线性方程组的直接法,包括高斯消元法和LU分解法,并对其稳定性和计算复杂度进行讨论。
高斯消元法是一种常用的直接法,用于求解非奇异线性方程组。
其基本思想是通过初等行变换将线性方程组转化为上三角方程组,然后通过回代求解得到方程的解。
高斯消元法的步骤如下:1.将线性方程组表示为增广矩阵[A,b],其中A是系数矩阵,b是常数向量。
2.从第一行开始,选择一个非零元素作为主元,通过行变换将主元下方的元素全部消为零。
3.重复第2步,直到矩阵变为上三角矩阵。
4.通过回代求解上三角矩阵,得到方程组的解。
高斯消元法的主要优点是简单直接,容易实现,但存在一些问题。
首先,如果系数矩阵A是奇异矩阵,即行列式为零,那么高斯消元法无法得到方程组的解。
其次,如果系数矩阵A的其中一行或几行接近于线性相关,那么在消元过程中会引入大量的舍入误差,导致计算结果不准确。
这也说明了高斯消元法的稳定性较差。
为了提高稳定性,可以使用LU分解法来解线性方程组。
LU分解法将系数矩阵A分解为两个矩阵L和U的乘积,其中L是下三角矩阵,U是上三角矩阵。
这样,原始的线性方程组可以表示为LUx=b,进而可以通过两个步骤来求解方程组:1.进行LU分解,将系数矩阵A分解为L和U。
2.分别用前代和回代的方法求解方程组Ly=b和Ux=y。
LU分解法相对于高斯消元法的优点是,可以在求解多个右端向量时,避免重复计算LU分解,从而提高计算效率。
同时,LU分解法的稳定性也较高,对于多个右端向量求解时,舍入误差的累积相对较小。
然而,LU分解法也存在一些问题。
首先,LU分解法的计算复杂度较高,需要进行两次矩阵乘法和一次矩阵向量乘法,而且LU分解过程中需要对系数矩阵A进行大量的行变换,增加了计算量。
其次,当系数矩阵A的一些元素非常小或非常大时,LU分解法容易出现数值不稳定的情况,即舍入误差的累积较大,导致计算结果不准确。
高斯消去法
(Direct Method for Solving Linear Systems)
在工程技术、自然科学和社会科学中,经常遇到的许 多问题最终都可归结为解线性方程组,如电学中网络问题、 用最小二乘法求实验数据的曲线拟合问题,工程中的三次 样条函数的插值问题,经济运行中的投入产出问题以及大 地测量、机械与建筑结构的设计计算问题等等,都归结为 求解线性方程组或非线性方程组的数学问题。因此线性方 程组的求解对于实际问题是极其重要的。
关于线性方程组的数值解法有两大类:
① 直接法:就是经过有限步算术运算,可求得方程组精 确解的方法(若计算过程中没有舍入误差),如克莱姆 法则就是一种直接法,但实际上由于舍入误差的存在, 这类方法也只能求得线性方程组的近似解。 直接法中具有代表性的算法是高斯(Gauss)消去 法。其特点是准确,可靠,理论上得到的解是精确的. 这类方法是解低阶稠密矩阵方程组的有效方法.
(2)
或简单地记为:
A x b ,
A (a ij)n n,x(x1 ,x2,Lxn)T ,b (b 1 ,b 2,Lb n)T .
5.2 Gauss消去法
第五章方程组的直接解法
G auss消 去 法 是 一 个 古 老 的 求 解 线 性 方 程 组 的 方 法 。 由 它 改 进 的 选 主 元 法 是 目 前 计 算 机 上 常 用 的 有 效 的 求 解 低 阶 稠 密 矩 阵 线 性 方 程 组 的 方 法 。
此 例 可 见 G a u ss消 去 法 的 基 本 思 想 是 : 用 矩 阵 得 初 等 行 变 换 将 系 数 矩 阵 A 化 为 具 有 简 单 形 式 的 矩 阵 ( 如 上 三 角 阵 , 单 位 矩 阵 等 ) , 而 三 角 形 方 程 组 是 很 容 易 回 代 求 解 的 。
第5章 解线性方程组的直接方法
第5章
解线性方程组的直接方法
定理3 若A∈Rnⅹn 为对称矩阵.如果det(Ak) >0(k=1,2,…,n),
或A得特征值λi>0(i=1,2, …,n ).则A为对称正定矩阵。
《 数 值 分 析 》
有重特征值的矩阵不一定相似于对角矩阵,那么一般n阶 矩阵A在相似变换下能简化到什么形状?
定理4(若尔当(Jordan)标准型) 设A为n阶矩阵,则 存在一个非奇异矩阵P使得
a1(1) x1 b1(1) n ( 2) ( 2) a2 n x2 b2 ( k ) . (2.8) (k ) akn xk bk (k ) (k ) ann xn bn
(2.12 )
(2.7)
简记为
A(2)X=b(2) ,
( ( ( aij2) aij1) mi1 a11) , j
其中A(2),b(2)的元素计算公式为
(i, j 2,3,, n),
bi( 2) bi(1) mi1 b1(1) , (i 2,3,, n).
第k步:若
(k akk ) 0,
a11 ... ... Ak ak1 ... ... , akk
《 数 值 分 析 》
a
1k
k 1,2, n.
(3)A的特征值λi>0(i=1,2, …,n ). (4)A的顺序主子式都大于零,即det(Ak) >0(k=1,2,…,n)
(1))=(a
), b(1)=b. ij
第5章 解线性方程组的直接方法 (1)消元过程 1 (1 第1步:设 a (1) 0,首先计算乘数 mi1 ai(1 ) / a11) , i 2,3n, 11 用-mi1乘(2.1)的第1个方程组,加到第i个中,消去方程组(2.1)的从 第2个方程到第n个方程中的未知数X1,得到与方程组(2.1)等价的线性方 程组 《 数 值 分 析 》
数值分析第五章线性方程组直接解法
x3 1 x2 8 7x3 1
x1 2 2x2 2x3 2
3
Gauss 消去法
考虑 n 阶线性方程组:
a11x1 a12x2 ... a1nxn b1
a21
x1
a22 x2
...
a2n xn
b2
an1x1 an2x2 ... annxn bn矩阵形式Biblioteka Ax b109 1
1
0 109 109
列主元Gauss消去法:
109 1 1
1
1 2
1 1 2 109 1 1
x2 1, x1 0
x1 x2
1 1
数值分析
第五章 解线性方程组的直接方法
—— 矩阵三角分解法
18
LU 分解
1、LU分解 将 Gauss 消去过程中第 k-1 步消元后的系数 矩阵记为:
10
LU 分解存在唯一性
LU 分解存在
高斯消去法不被中断
所有顺序主子式不为零
a(k) kk
0
定理:若 A 的所有顺序主子式不为零,则 A 存在 唯一的 LU分解
11
列主元 Gauss 消去法
Gauss 消去法有效的条件是: 主元全不为零
例:解线性方程组
0 1
1 0
x1 x2
1 1
列主元 Gauss 消去法
( k = 1, …, n-1)
a(k) nk
a(k) nn
A L A 则 A(k) 与 A(k+1) 之间的关系式可以表示为: (k1)
(k) k
其中: 1
Lk
1 mk1,k 1
mik
a(k) ik
a(k) kk
( i = k + 1, …, n )
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
§5.1 §5.2 §5.3 §5.4 §5.5 §5.6 §5.7 引言与预备知识 高斯消去法 高斯主元素消去法 矩阵的三角分解法 向量和矩阵的范数 误差分析 矩阵的正交三角化及应用
§5.1 引言与预备知识(返回)
线性方程组的数值解法
向量和矩阵(返回)
矩阵的基本运算 特殊矩阵 可逆阵有关定理 对称正定阵有关定理 Jordan标准型定理
矩阵的QR分解(Givens变换法)
Householder变换法QR分解
Givens变换法QR分解(返回)
求解超定方程组(返回)
练习
练习
矩阵的基本运算(返回)
特殊矩阵(返回)
可逆阵有关定理(返回)
对称正定阵有关定理(返回)
Jordan标准型定理(返回)
§5.2 高斯消去法(引例)
高斯消去法第k次消元(继续)
高斯消去法回代求解(继续)
高斯消去法计算复杂度(继续)
高斯消去法的可行条件(算法)
LU分解法解方程组例题(返回)
对称阵的分解(返回)
平方根分解计算公式(返回)
用LDLT分解法解方程例题
解三对角方程的追赶法(继续)
追赶法的计算公式(例题)
追赶法计算例题(返回)
§5.5 向量和矩阵的范数(返回)
向量的范数 向量范数的连续性定理 向量范数的等价性定理 矩阵的范数 矩阵的算子范数 矩阵的谱半径
Householder变换 Givens变换 矩阵的QR分解 求解超定方程组
Householder变换(约化定理)
Householder变换几何意义
w v
y
S
x
v y
Householder约化定理(返回)
Givens变换(约化定理)
Givens约化定理(返回)
向量的范数(返回)
向量范数的连续性定理
向量范数的等价性定理(极限)
向量序列的极限(返回)
矩阵的范数(返回)
矩阵的算子范数(返回)
矩阵无穷范数的证明
矩阵2-范数的证明
矩阵的谱半径(返回)
§5.6 误差分析(返回)
常用条件数及性质(返回)
§5.7矩阵的正交三角化及应用(返回)
高斯消去算法(返回)
高斯消去法引例
§5.3 高斯主元素消去法(全主元)
全主元消去法(返回)
§5.4 矩阵的三角分解法(返回)
LU(Doolittle)分解 对称阵的分解 解三对角方程的追赶法
LU分解
LU分解计算公式(解方程)
利用LU分解法解方程组(例题)
LU分解法解方程组例题(继续)