第四章矩阵因子分解

2.取L= L11：因为L1是一系列初等下三角矩阵乘积（对应
初等行变换），所以L是单位下三角矩阵。
例 1 求下列矩阵的LU分解：
1 2 1
A
3
1
0
1 1 2
解：
1 2 1 1 0 0
( A,
I)
3
1
0 0 1 0
1 1 2 0 0 1
1 2 1 1 0 0 0 5 3 3 1 0 0 1 3 1 0 1
对角矩阵D=diag(d1,d2,…dn)和单位上三角矩阵U ，使得 A=LDU
的充要条件是A的所有顺序主子式均非零，即
1...k k A1...k0,k1,2,..n. 1
并且
d1
a11,dk
k k1
,k
2,...n,
矩阵的LU分解方法
矩阵的LU分解方法有很多种，这里主要介绍初等行变换消 元法 步骤： 1. 通过初等行变换将A化为上三角矩阵U： （A，I）（U，L1）
（主对角线上元素全为1的下三角矩阵）与唯一的上三角矩 阵U ，使得
ALU 的充要条件是A的所有顺序主子式均非零，即
kA1 1....k k..0,k1,2,.n ..1
矩阵的LU分解也称为Doolitte分解 若L为下三角矩阵,U为单位上三角矩阵,称为Crout分解。
定理2 ( LDU分解定理 ) 设A是n阶非奇异矩阵，则存在唯一的单位下三角矩阵L，
初等下三角矩阵性质
(1)det(Li)=1,
No 1
1
0
Image L1 i
l 1 i 1 i
0
0
l ni
1
(2)用初等下三角矩阵左乘矩阵A，等于将A的第i行依次乘以
-li+1i,…,-lni 分别加到第i+1行到第n行上去。
No (3)设A=(aij) nn,且a jj 0，并且取
1,2…n的一个排列.
➢ P是排列阵的充要条件是P为一系列形如P(i,j)的初等交换
矩阵的乘积.
排列阵的性质：
1. P是排列阵，则PT和P-1也是排列阵，且PT=P-1
2. P1 ，P2是排列阵，则P1P2是排列阵
3.
P
( e i1
,ein
),
A
A1
An
(a1 , a n
A
LU
3
1
0 0 5
1 1 / 5 1 0 0
1
3
12 / 5
说明
1. 即使矩阵A非奇异，如果A不满足前n-1个顺序主子式 非零，未必能做LU分解，
2.适当改变非奇异矩阵的行的次序，可使改变后的矩阵 做LU分解，引入排列阵的概念
定义1 设e1, e2,…, en是n阶单位矩阵I的n个列向量，矩阵 P=(ei1, ei2, ,…, ein )称为一个n阶排列阵，其中i1, i2,…, in是
例1 求下面矩阵的满秩分解
1 2 1 0 1 2
1
2
2
1
3
3
2 4 3 1 4 5
4 8 6 2 8 10
解 思路：对矩阵A实施初等行变换得简化阶梯形矩阵H （阶梯型的非零行的第一个非零元为1，其所在的列其它元 素为0）,取A的r个使H阵满秩的列为B，将H全为零的行去掉 后即可构成行满秩矩阵C。
矩阵 GCnnn满足
B B1G , C G 1C 1
§4.3 矩阵的三角分解
定义1 如果方阵A可以分解成一个单位下三角矩阵L与一个上三 角矩阵U的乘积
A LU
则称其为A的 LU 分解或三角分解。
初等下三角矩阵
1
0
No
Li
1 li1i 1
Image
0
0
l ni
1
Image lk
i
akj ajj
,ki
1,...n,
则LiA在(i+1,j),(i+2,j)…(n,j)的位置上为0
(4)
1
0
1
No Li L j
li1i
Image 0
0
1 l j1 j
l ni
l nj 0 1
定理1 ( LU分解定理 ) 设A是n阶非奇异矩阵，则存在唯一的单位下三角矩阵L
1 2 1 1 0 0
0 5
3
3 1 0
0 0 12 / 5 2 / 5 1 / 5 1
从而得 L1 A U , 这里
1 0 0 1 2 1
L1
3
1 0 ,U 0 5
3
2 / 5 1 / 5 1 0 0 12 / 5
因为 所以
1 0 0
L
L11
3
1 0
1 1 / 5 1
1 0 0 1 2
第4章 矩阵的因子分解
（Matrix Factorization and Decomposition）
教学要求 ➢掌握矩阵的满秩分解； ➢掌握矩阵的三角分解； ➢掌握矩阵的正交分解； ➢掌握Schur定理和正规矩阵的定义； ➢熟练掌握矩阵的奇异值分解；
数据集中可能包含大量特征，维灾难使得数据分析很 困难，
2 0
0 1
1 1
1 2
1 1
C
26 2
同样，我们也可以选取
1
B 1 2 4
0
1 1
C 42 2
2
1 C 0
2 0
1 1
0 1
1 2
2 1
源自文库
C 26 2
由上述例子可以看出矩阵的满秩分解形式并不唯一。
但是不同的分解形式之间有如下联系：
注：如果 A BC B1C1 均为矩阵A 的满秩分解，那么存在
1 2 1 0 1 2 1 2 0 1 1 1
1
22
13
3
0
0
1
1
2 1
2 4 3 1 4 5 0 0 0 0 0 0
4 8 6 2 8 10 0 0 0 0 0 0
由此可知rank(A)=2，且该矩阵第一列、第三列是线性无关的。
选取
1
B 1 2 4
1
2 3
C 42 2
6
1 C 0
§4.2 矩阵的满秩分解
满秩分解定理：设 ACrmn为任意矩阵，则存在 B C rm r,C C rrn 使得 A=BC,
其中B为列满秩矩阵,C为行满秩矩阵.
➢任一非（行或列）满秩的非零矩阵可表示为一列满秩矩 阵和一行满秩矩阵的积； ➢B的列可取为A的列的任一极大线性无关组； ➢C可取为其行为A的行所生成的空间的基, 然后用定理确 定矩阵B。 ➢应用于极小最小二乘解和极小范数最小二乘解的算法中 。
1.维归约（降维）：利用旧属性的线性组合得到新属性， 使得新属性相互正交，捕获到数据的最大变差（PCA：主 成分分析(principle components analysis)和SVD）
2.选择特征子集：嵌入（决策树分类其），过滤和包装 （搜索，特征加权等）
）
矩阵的各种分解在矩阵计算中也扮演相当重要的角色。 由于变换即矩阵，所以各种分解从根本上看是各种变换， 其目的是将矩阵变换成特殊的矩阵。