[muchong

ln,k
1
1
Lk1
1
lk 1,k .
.
. ln,k
§4 Matrix Factorization – Matrix Form of G.E.
1
L11
L21
...
L1 n1
1
li, j
1
记为 L
1
a(1) 11
记U=
A LU a(1) 12
a(2) 22
seHo...nd...lesdFs...ovCfiyyfooWasebu/foUs*rcaealphmgIuvtht12tr(u(...eewaehx1h2nenoleea))vndcsmaornnthteiinirvhfyttzsreisiya’exoeeyctaioryAm,uLGtydfbsAwuoop..aypEbl单yirlohfscktyelemihegwatohnra位esmv?iueostaevmtre??ewr,eoib下foa-!?itnrtfxnhnoiWeroate三ilmegsrayndhnunedh角ylgaaurv阵leartomatrix
1
00 1
4
LU
3 5 10 0 24
求解
LY (14,18,20)T ，得Y (14,10,72)T
UX (14,10,72)，T 得 X (1,2,3)T
§4 Matrix Factorization – Choleski
➢ 平方根法 /* Choleski’s Method */：
cn1
与anG.Eb.n类 似xn， 一 fn旦
Step 1: 对 A1作Cro三uti对=分角0解则1阵算都1 法可中以断用，此 故方并法非分任解何。
2
直接比较等式两边
A
的元素，可得到计
n1
算公式。
Step
2:
n
追——即解 L
n
y
f ：y1
f1
1
,
1 yi
(
fi
根据不等式 | i | 1 , | bi | | ai || bi i i1 | | bi | | ai |
可知：分解过程中，矩阵元素不会过分增大，算法
保证稳定。
i
bi
ai i1,
i
ci
i
,i
ai
1
c1 b1
运算量为 O(5n)。
§5 线性方程组的误差分析
/* Error Analysis for Linear system of Equations */
求解
A
x
b
时，A
和
b
的误差对解
x有何影响？
➢
设
A
精确， b有误差
b，得到的解为
x
x，即
A( x
x)
b
b
绝对误差放大因子
x
A1
b
||
x ||||
A1
|| ||
b
||
又 || b || || Ax || || A || || x ||
相对误差放大因子
1 || A || || x || || b ||
Step 1: u1j = a1j; lj1 = aj1 / u11; ( j = 1, …, n ) Step 2: compute a and b for i = 2, …, n1;
Step 3:
n1
unn ann lnk ukn
k 1
§4 Matrix Factorization – Doolittle
§4 Matrix Factorization – Choleski
Algorithm: Choleski’s Method
To factor the symmetric positive definite nn matrix A into LLT, where L is lower triangular.
Input: the dimension n; entries aij for 1 i, j n of A.
Output: the entries lij for 1 j i and 1 i n of L.
Step 1 Set l11 a11 ; Step 2 For j = 2, …, n, set l j1 a j1 / l11 ;
注： L 为一般下三角阵而 U 为单位上三角阵的分解称为
Crout 分解。 实际上只要考虑
AT
的
LU
分解，即AT
L~U~
，则
A U~T L~T 即是 A 的 Crout 分解。
§4 Matrix Factorization – Doolittle
➢ 道立特分解法 /* Doolittle Factorization */： —— LU 分解的紧凑格式 /* compact form */
例：
2 1 1 A 1 2 3
再求 第一 列
1 3 1
i 1
uij aij lik ukj k 1 i 1
l ji (a ji l jk uki ) / uii k 1
解：
2 A 1
1
1 2 3
1 3 1
1 1
2
1
2
1 7
5
2
1
1 5
2
1 7
2
54
10
§4 三角分解法 /* Matrix Factorization */
➢ 高斯消元法的矩阵形式 /* Matrix Form of G.E. */：
Step 1: li1 ai1 / a11 (a11 0)
记 L1 =
1
l21 1 .
.
. ln1
，则 L1[ A(1)
b(1) ]
a(1) 11
min( i , j )
ai j
li k uk j
k 1
§4 Matrix Factorization – Doolittle
固定 i :
i 1
对 j = i, i+1, …, n 有 aij lik ukj uij
lii = 1
k 1
i 1
uij aij lik ukj
a
k 1
先求第 一行
3 1 2
3 1 (1) 2
( 5) 2
1 1 7*7 2 52
2 1 2
§4 Matrix Factorization – Doolittle
例 用直接三角分解法求解
1 2 3 x1 14
2
5
2
x
2
18
3 1 5 x3 20
解：用分解公式计算得
1 0 01 2 3
A 2
|| x || || A || || A1 || || b ||
|| x ||
|| b ||
§5
Error
Analysis
for
a; 21
,
a22
,
An,
siet
(i l ji
1) a ji
/2
..., an1 ,
i 1j
k 1
l
jk
lik
..., ann
lii ;
Βιβλιοθήκη Baidu
Step 6 Set lnn 运ann算 量nk为11 ln2kO;(n3/6)， 比普通LU
Step 7 Ou分tpu解t (少lij 一for半j =，1但, …有, i annd次i 开= 1方, …。, n用);A = LDLT STOP. 分解，可省开方时间(p.173)。
...
a(1) 1n
b1(1)
A b (2) (2)
1
Step n 1:
Ln1Ln2 ... L1
Ab
a1(11)
a(1) 12
a(2) 22
...
a(1) 1n
...
a(2) 2n
... ...
b(1) 1
b(2) 2
...
1
其中
Lk =
1 lk 1,k
a(n) nn
b(n) n
称AAA 正的 的 的定顺特全若A序征部不A主值顺然设对即x1xkT子序，x对/T对任A因*yAIk阵主e则为应x称x意为i,gk子A特e/性A，*d0xn(0e1式l存x征Axtxe显v则(。Ta0aA在dx值Ad1然,l)ux)Tiaex存nT0Te非Ait。igAA存*x(在n/p零0T对的Ax1r在,xTikyi解nix任其非A>)非cTIx。i>意中零y00p零xT,a00A使特 lxx解As其k第得u征。，1b中Aix(向m0x0位A即kyAayx量2tR1riy)0kcT(xT有0e,A.sR..y1*nA。/...A001k)T亦对
阵，且满足 | b1 || c1 | 0, | bn || an | 0, ai 0 , ci 0 ，则追赶 法可解以 A 为系数矩阵的方程组。
注：
如所果有元AT素是h非eo严yfIt零H格tshmae。et对yeimsd,a|f角Wownyamshit占ietrithal|nihlLtex优,aaAdhfnato阵orRttleweh|lmG，soaevwliedEjead则ai|irr?ainnygag不g?egoL?oini要n?AsnaeaR求lqllyGue三anElt对i.rtyie角:s 线上的 ji
§4 Matrix Factorization – Tridiagonal System
➢ 追赶法解三对角方程组
/* Crout Reduction for Tridiagonal Linear System */
b1 c1 a2 b2 c2
x1 f1
x2
f2
an1
bn1
——对称 /* symmetric */ 正定 /* positive definite */
矩阵的分解法
定义 一个矩阵 A = ( aij )nn 称为对称阵，如果 aij = aji 。
定义
一个矩阵
A
称为正定阵，如果
x T
Ax
0
对任意非
零向量
x
都成立。
回顾：对称正定阵的几个重要性质
A1 亦对称正定，且 aii > 0
思路反复通计过算比, 较法直接导出L 和 U 的计算公式。
很浪a...1费1 哦...
...
an1 ...
…a1...…n
...
ann
1
l
21
ln...1
1 ... ...
u11 ...
...
1
u1n
...
...
unn
min( i , j )
ai j
li k uk j
k 1
i 1
将对称 正定阵 A 做 LU 分解
§4 Matrix Factorization – Choleski
U=
uij
u11 u22
=
1
1 uij / uii
记为 DU~
A 对称 记 D1/2 =
L U~T
u11 u22
unn
unn
1
即 A LDLT 则 L~ L仍D1是/ 2 下三角阵
LDU~ LUA AL~L~AT T (LDU~)T U~T DLT
证明：由§2中定理可知，LU 分解存在。下面证明唯一性。
若不考唯虑一A非，奇则异可，设奇A异=时L1见U1教=材L2pU1270，的推证出明。
I ✓ U1
U
1 2
L11
L2
U2
U
1 2
L11
L2
Upper-triangular
Lower-triangular With diagonal entries 1
定理 设矩阵A对称正定，则存在非奇异下三角阵 L Rnn
使得 WASihnycLeiLsdTue。ti(iA若>k)0限>?定 L 对角元为正，则分解唯一。
0
注： 对于对称正定阵 A ，从 aii
i k 1
li2k
可知对任意k
i
有 | lik | aii。即 L 的元素不会增大，误差可控，不
需选主元。
HW: p.203 #9, #10, #11
Step 3 For i = 2, 因…,为nA1,对do称st，eps所4 以and只5需存半个 A，即
StepA4nS(ent lii1) / a2ii
Step 5 F其or中j = i+a1i,j …,
a ,l i1112
k1 ik
ri
i
yi1 )
(i 2, ... , n)
Step 3: 赶——即解U
x
y
：xn
yn ,
xi
yi i xi1
(i n 1, ... , 1)
§4 Matrix Factorization – Tridiagonal System
定理 若 A 为对角占优 /* diagonally dominant */ 的三对角
*/
a(n) nn
A 的 LU 分解
/* LU factorization */
§4 Matrix Factorization – Matrix Form of G.E.
定理 设A为n阶矩阵，如果A的顺序主子式 /* determinant
of leading principal submatrices */ Di 0 (i 1,2,, n 1) ，则 A 的 LU 分解唯一（其中 L 为单位下三角阵）。
i 1
将 i ，j 对换，对 j = i, i+1, …, n 有 一a ji般 采用l jk列uki主 l元ji uii
法增 强稳k定1 性。但注意
i 1
l ji (a ji l jk uki ) / uii k 1
b 也必须做相应的
b 行交换。
Algorithm: Doolittle Factorization