05.矩阵理论与方法_矩阵分解

n 定理：设任意非零列向量 x R , n 1和单位列向量 z R ，则存在
n
Householder矩阵 H ，使得 Hx x z 。

T 例：设 x (2, 1, 2) ，用Householder变换将 x 转化为与 e1 同方向的向量。

定理：Givens矩阵是两个Householder矩阵的乘积。


ˆ LDU PA LU ˆ 为上三角矩阵，D 为对角矩阵，而 U 为单 其中 L 为单位下三角矩阵，U
位上三角矩阵。
14
Givens矩阵与Givens变换

定义：设实数 c , s 满足 c 2 s 2 1 ，称
1 (i ) c s Tij (i j ) ( j) s c 1 (i ) ( j)

注：Householder变换将列向量 x 映射为关于“与 u 正交的 n 1维超平面 空间”对称的向量 y 。

性质：

T H H 1. T 2. H H I 2 3. H I 1 4. H H
5. det H 1
18
Householder矩阵与Householder变换
当 i2 j2 0时，取
c
i
2 i 2 j

,s
j i2 j2
16
2 2 则有 i i j 0, j 0 。
Givens矩阵与Givens变换

定理：设 x (1,..., n )T 0 ，则存在有限个Givens矩阵的乘积，记作 T ， 使得 Tx x e1 。 推论：设任意非零列向量 x 和单位列向量 z ，则存在有限个Givens矩阵 的乘积 T ，使得 Tx x z 。
为Givens矩阵（初等旋转矩阵），也可记作 Tij Tij (c, s) 。由Givens矩阵 确定的线性变换称为Givens变换（初等旋转变换）。

注：存在角度 ，使得 c cos , s sin 。
15
Givens矩阵与Givens变换

性质：Givens矩阵是正交矩阵，且满足：
7
矩阵的三角分解

定义：若 n阶矩阵 A能够分解为一个下三角矩阵 L 和一个上三角矩阵 U 的 乘积，则称其为三角分解或 LU分解。 注：矩阵 A 的LU分解不唯一。

定义：若 n 阶矩阵 A 能够分解为 A LDU，其中 L为单位下三角矩阵，U D 为对角矩阵，则称其为矩阵的LDU分解。 为单位上三角矩阵，

(0) ( r 1) 依次类推，可得 A(0) 的 r 阶顺序主子式 r a11 arr 0, r 1,..., n 1， 以及相应的Frobenius矩阵和上三角矩阵。
(0) a11 U (0) a12 (1) a22 (0) a13 (1) a23

n 阶矩阵 A 存在唯一的LDU分解的充要条件是 A 的前 n 1阶顺序主子 定理： 式 k 0, k 1,..., n 1 。且有
k D diag (d1 ,..., d n ), d k , k 1,..., n, 0 1 k 1 推论：设 A 是 n 阶非奇异矩阵， A 有三角分解 A LU 的充要条件是 A的 顺序主子式 k 0, k 1,..., n 1。
矩阵理论与方法
第4章 矩阵分解 庄 伯 金
Bjzhuang@bupt.edu.cn
1
主要内容


矩阵的LU分解 矩阵的QR分解 矩阵的满秩分解 矩阵的奇异值分解
2
线性方程组中的高斯消元法

记线性方程组

若令 A aij

a111 ... a1n n b1 a ... a b 21 1 2n n 2 an11 ... ann n b2

n 2) a((n 1)( n 1)
1 1 (0) L A( n1) n1...L 1 A

a1(0) n (1) a2 n ( n 2) a( n 1) n ( n 1) ann
6
高斯自然顺序主元素消元法

令 则有
L L1...Ln1 A LU

第k 行


11
矩阵的CROUT分解算法

矩阵 A 的Crout分解的迭代实现 2.计算U矩阵第1行元素
4.计算U矩阵第2行元素
6.计算U矩阵第3行元素 1.计算 L矩阵 3.计算 8.计算U矩阵第4行元 第1列 L矩阵 5.计算 素 元素 第2列 L矩阵 7.计算 „ 元素 第3列 L矩阵 元素 第4列 „ „ 元素 „ „

8
矩阵的三角分解

2 1 3 例：求矩阵 A 1 2 1 的LDU分解。 2 4 2
9
矩阵的CROUT分解算法

为矩阵 LD，则称 A LU 定义：若 n 阶矩阵 A存在分解 A LDU ，令 L 的Crout分解。


1 u12 u1n l11 l 1 u l 2n 21 22 U L 1 l l l nn n1 n 2 两边的元素，可递推得到 L ,U中各项元素。 对比矩阵等式 A LU ai1 li1 li1 ai1 第1 列 a1 j , j 1 a1 j l11u1 j , j 1 u1 j 第1 行 l11 aik li1u1k li 2u2k ... li (k 1)u(k 1)k lik 1,(i k ) 第k 列
记
lik aik (li1u1k li 2u2k ... li (k 1)u(k 1)k )
10
矩阵的CROUT分解算法
akj lk1u1 j lk 2u2 j ... lkk ukj ,( j k ) 1 ukj akj (lk1u1 j lk 2u2 j ... lk ( k 1)u( k 1) j ) lkk 5 2 4 0 2 1 2 1 的Crout分解。 例：求矩阵 A 4 2 5 0 0 1 0 2 ,U 合并写在同一个矩阵中，即 矩阵 A 的Crout分解中，可将两矩阵 L u12 u1( n 1) u1n l11 l l u u 22 2( n 1) 2n 21 l l l u ( n 1)( n 1) ( n 1) n ( n 1)1 ( n 1)2 ln1 ln 2 ln ( n 1) lnn
，x (1 ,..., n )T ，b (b1 ,..., bn )T ，则有
nn
Ax b

可利用高斯消元法求解线性方程组
3
高斯自然顺序主元素消元法

考虑一种理想情况，在消元过程中，矩阵对角元素始终不为零，则可以按 对角元素的自然顺序进行消元，即不用进行行或列交换。
(0) (0) a11 a12 a1(0) n (0) (0) (0) a21 a22 a2 n (0) (0) A A 记 ，其中 a11 0 (0) (0) (0) an1 an 2 ann ai(0) 1 , i 2,..., n ，构造Frobenius矩阵 令 ci1 (0) a11
12
矩阵的Doolittle分解算法

为矩 DU ，则称 A LU 定义：若 n 阶矩阵 A 存在分解 A LDU ，令U 阵的Doolittle分解。
Doolittle分解算法与Crout分解算法类似，只是将其中的行和列的计算顺 序和公式对调。
ห้องสมุดไป่ตู้

13
矩阵的三角分解

矩阵 A 的LDU分解和LU分解都需要 A 满足前 n 1 阶顺序主子式非零。若 不满足该条件，则可对 A 进行初等行（列）变换，使之满足条件。 定理：设 A 是 n 阶非奇异矩阵，则存在置换矩阵 P，使得 PA 的 n 个顺 序主子式非零。 推论：设 A 是 n 阶非奇异矩阵，则存在置换矩阵 P ，使得
19
矩阵的QR（正交三角）分解

定义：如果实（复）非奇异矩阵 A 能够化成正交（酉）矩阵 Q 与实（复） 非奇异上三角矩阵 R 的乘积，即
A QR
则称 A QR 为 A 的QR分解。

定理：设 A 是 n 阶实（复）非奇异矩阵，则 A 存在QR分解 A QR ，且除 去一个对角元素的绝对值（模）为1的对角矩阵因子外，QR分解式唯一。 定理：设 A是 m n 实（复）矩阵，且其 n 个列向量线性无关，则 A有分 A QR 解 其中 Q 是 m n实（复）矩阵，且满足 Q Q I (Q Q I ) ， R 是 n 阶实 （复）非奇异上三角矩阵。该分解除去相差一个对角元素的绝对值（模） 为1的对角矩阵因子外是唯一的。
T 例：设 x (3, 4,12) ，用Givens变换将 x转换为与 e1 同方向的向量；用


Givens变换将 x 转换为与 e2 同方向的向量。
17
Householder矩阵与Householder变换

定义：设单位列向量 u R n，称矩阵
H I 2uuT
为HouseHolder矩阵（初等反射矩阵），由Householder矩阵确定的线性变 换称为Householder变换（初等反射变换）。


1 c 1 L1 21 c 1 n1
1 c 1 21 1 L1 c 1 n1
4
高斯自然顺序主元素消元法


(0) (0) a11 a12 a1(0) n (1) (1) 0 a a 1 (0) 22 2n L1 A A(1) (1) (1) 0 a a n2 nn 1 (0) 1 因为 det( A(1) ) det(L1 A ) det(L1 )det( A(0) ) det( A(0) )
可得：
(1) (0) (1) 由最初的假设，应有 a22 0 ，即 A(0)的二阶顺序主子式 2 a11 a22 0 。
ai(1) 2 令 ci 2 (1) , i 3,..., n，构造Frobenius矩阵 a22 1 1 1 1 1 L2 c32 1 L2 c32 1 1 1 cn 2 cn 2

1. Tij (c, s) Tij (c, s) Tij (c, s)
1
T

2. det Tij (c, s) 1 性质：设 x (1 ,..., n )T，y Tij x (1,...,n )T，则有
i ci s j j si c j , k i, j k k
5
高斯自然顺序主元素消元法

可得：
1 (1) (2) L A A 2
(0) a11 0 0 0
(0) a12 (1) a22
0 0
(0) a13 a1(0) n (1) (1) a23 a2 n (2) (2) a33 a3 n (2) (2) an a 3 nn