矩阵分解4矩阵的奇异值分解

是m阶酉矩阵，且 U1H U1 Er ,
U
H 2
U
2
O
于是
UH AV UH AV1
AV2
U1H
U
H 2
U1Σ
O
U1H U `1 Σ
U
H 2
U1
Σ
O O
Σ O
O O
所以
A
U
Σ O
O O
V
H
(证毕) 由上述定理的证明过程可知,A的奇异值是由A唯一确定的,
但是,由于酉矩阵U和V是不唯一的,故A的奇异值分解(2.41) 式也是不惟一的.
,则A称酉相似于B.
性质1 若A是n阶实对称矩阵，i (i 1,2, , n) 是的特征值，则
恒存在正交阵Q，使得QAQ diag (1, 2 , , n )
而且Q的n个列向量是的一个完备的标准正交特征向量系。
性质2 若 A Rnn ，是非奇异矩阵，则存在正交阵P和Q，
使得
P T AQ diag (1, 2 , , n )
定义2.16 A C nn 共轭转置矩阵记为 AH,即 AH AT .
定义2.17 若 AH A ,则称A为Hermit矩阵.
定义2.18 设 A C nn ,若 AH A AAH,则称A为正规矩阵.
定义2.19 设 A C nn ,若AH A AAH E,则称A为酉矩阵.
定义2.20 设 A C nn ,若存在酉矩阵P,使得 P H AP B
0
1
1
2 1
2
1
3 0
0
0 1
2 1 2
0
1
2
1
2
0
构造
.
0
U 2 0,
正规矩阵.根据性质4,存在n阶酉矩阵V,使得
V
H (AH
A)V
λ1
λn
Σ2 O
O O
或
AH
AV
V
Σ2 O
O O
其中:
1
Σ2
r
设V有分块形式
V V1
V2
,V1
C nr r
,V2
C n(nr) nr
则有
AH AV AH AV1
AH AV2 V1
V2
Σ2 O
O O
V1 Σ 2
，
1
1
1
x1 1, x2 1, x3 1
2
0
1
从而正交矩阵
1
6
V
1
6 2
6
1 2 1 2
0
1
3
1
3 1
3
,
，
以及
rankA
wenku.baidu.com
2, Σ
3 0
10
计算
U1
AV1 Σ
1
1 0
0
0 1 0
1
11 0
6 1
6 2
6
1 1
6 2
，V1
1
6 2
6
1
2
λ1 V H ( AH A)V
成立的正交矩阵为
λn
Σ2 O
O O
5 0
00
V V1
1
V2
5 2
5
25， 其中
1 5
1 2
V1
5 2
,V2
5
5 1 5
经计算
,
U1
将U1扩张成 R
1 AV1 Σ 1 0 3 的正交标准基 0
002
1
5 2
5
1 5
1 0 0
令U1 AV1 Σ 1 (u1 ,u2 , ,ur )，则 U1HU1 Er
根据线性代数理论知，可将两两正交的单位列向量 u1 ,u2 , ,ur
扩充为 C m的标准正交基 u1 ,u2 , ,ur , ur1, , um
，记矩阵 U 2 (ur1, , um ) ，则
U U1 U2 (u1 , ,ur ,ur1 , ,um )
O
即
AH AV1 V1 Σ 2 AH AV2 O ,
由 AH AV1 V1 Σ 2 ,得
V1H AH AV1 Σ 2
或 ( AV1 Σ 1 )H ( AV1 Σ 1 ) Er
,
其中.
1
Σ
1
r
r
由 AH AV2 O ,得 (AV2 )H (AV2 ) O 或 AV2 O
1 0 0
U U1
U
2
0
1
0
则A的奇异值分解是
1
A
U
Σ O
O O
V
H
0
0
0 1 0
0 0
0 5 0 0 1 0
01
0 0
1
5 2
5
2
5
1 5
例11
设矩阵
A
1 0
0 1
1 1
，求它的奇异值分解.
0 0 0
解 经过计算，矩阵
A
H
A
1 0
0 1
1
1
1 1 2
的特征值为 1 3, 2 1, 3 0 ,对应的特征向量分别是
A Pdiag (1 , 2 , , n )Q 1
称上式是A的正交对角分解.
性质4 (1) 设 AC mn ,则A酉相似于对角阵的充分必要条件
是A为正规矩阵;
(2) 设 A R nn ,且A的特征值都是实数,则正交相似于对角矩
阵的充要条件A是为正规矩阵.
二.矩阵的奇异值分解
现在开始论述矩阵的奇异值分解。
V
H
（2.41）
其中矩阵 Σ diag(1, 2 , , r ) ,而数 1, 2 , , r
是矩阵A的所有非零奇异值.称式（2.41）是矩阵A的奇异值分解.
证 根据性质3, AH A 是Hermit矩阵,且其特征值均是非负实数,
且
1 2 r r1 n 0
记为 AH A
显然, 是
1 2
例10 求矩阵 A 0 0 的奇异值分解.
0 0
解: 可以求得矩阵
1 2
A
H
A
1 2
0 0
0 0
0 0
0 0
1 2
42
的特征值是 1 5, 2 0 ,对应的特征向量可取为
x1 (1, 2)T , x2 (2,1)T，于是可得 rankA rankAH A 1
，奇异值为 1 5, 2 0 ， Σ ( 5)11 ，且使得
定义2.21 设 A Cr mn (r 0) ，AH A的特征值为
1 2 r r1 n 0
则称 i i (i 1,2, , n) 是A的奇异值；规定零矩阵0的奇异值
都是0.
定理2.9 设 A Cr mn (r 0), 则存在m阶酉矩阵U和n阶酉
矩阵V,使得
A
U
Σ O
O O
§4 矩阵的奇异值分解 矩阵的奇异值分解在矩阵理论中的重要性是不言而喻的，它在
最优化问题、特征值问题、最小二乘方问题、广义逆矩阵问题
和统计学等方面都有十分重要的应用。
一.预备知识 为了论述和便于理解奇异值分解，本节回顾线性代数有关知识。
定义2.14 若实方阵Q满足QT Q E,则称Q是正交矩阵. 定义2.15 若存在正交矩阵P,使得 PT AP B,则称A正交相似于B.
其中. i 0, (i 1,2, , n)
性质3 (1) 设 A Cr mn (r 0),则 AH A是Hermit矩阵,且其特征值
均是非负实数;
(2) rank(AH A) rankA ;
(3) 设 AC mn , 则 A O 的充要条件为 AH A O .
把性质2中的等式改写为