我所理解的奇异值分解

我所理解的奇异值分解
我所理解的奇异值分解SVD
1、奇异值与奇异值分解定理奇异值定理：
设m n A C ?∈，r=rank(A)，则⼀定存在m 阶⾣矩阵U 和n 阶⾣矩阵V 和对⾓矩阵1212(,,
,)(1,2,,)r r i diag i r σσσσσσσ∑=≥≥≥=，且，⽽，使得H A U V =∑，称为A 的奇异值分解。

复数域内的奇异值：
设(0)m n H r A C r A A ?∈>，的特征值为1210r r n λλλλλ+≥≥
≥>===
则称1,2,
,)i i n σ==为A 的正奇异值；当A 为零矩阵时，它的奇异值都是零。

易见，矩阵A 的奇异值的个数等于A 的列数，A 的⾮零奇异值的个数等于rank(A)。

2、奇异值分解的理解
奇异值σ跟特征值类似，在矩阵Σ中也是从⼤到⼩排列，⽽且σ的减少特别的快，在很多情况下，前10%甚⾄1%的奇异值的和就占了全部的奇异值之和的99%以上了。

也就是说，我们也可以⽤前r ⼤的奇异值来近似描述矩阵。

r r r T r r r T v u v u v u V U V U A σσσ+++=∑=∑= 222111即A 可表⽰为r 个秩为⼀的举证的和，这是A 得奇异值分解的紧凑格式。

3、奇异值分解特征
奇异值分解的第⼀个特征是可以降维。

A 表⽰ n 个 m 维向量 ,通过奇异值分解可表⽰成 m + n 个 r 维向量 ,若A 的秩 r 远远⼩于m 和 n ,则通过奇异值分解可以⼤⼤降低 A 的维数。

可以计算出 ,当 r
奇异值分解的第⼆个特征是奇异值对矩阵的扰动不敏感 ,⽽特征值对矩阵的扰动敏感。

在数学上可以证明 ,奇异值的变化不会超过相应矩阵的变化 ,即对任何相同阶数的实矩阵A 、B ,按从⼤到⼩排列的奇异值i σ和i ω,有
2B A i i i -≤-∑
ωσ.
奇异值的第三个特征是奇异值的旋转不变性。

即若 P 是正交阵 ,PA 的奇异值与A 的奇异值相同。

奇异值的⽐例和旋转不变性特征在数字图像的旋转、镜像、平移、放⼤、缩⼩等⼏何变化⽅⾯有很好的应⽤。

奇异值的第四个特征是容易得到矩阵 A 的秩为 k (k ≤r)的⼀个最佳逼近矩阵。

奇异值的这个特征可以应⽤于信号的分解和重构 ,提取有⽤信息 ,消除信号噪声。

4、奇异值分解的应⽤
彩⾊图像⽔印的应⽤
⼈脸识别中的应⽤
时间序列分析中的应⽤
5、问题
在奇异值分解特征⼀节，奇异值分解的第⼀个特征降维的相关描述中，将矩阵A 表⽰n个m维向量 ,通过奇异值分解可表⽰成m+n个 r维向量。

这⾥的m+n 个如何计算得来。

6、参考⽂献
[1]罗⼩桂,何雁. 矩阵奇异值分解在计算技术中的应⽤[J].计算机与现代化.2006年.第6期：67—68.
[2]基于奇异值分解的彩⾊图像⽔印算法*
曾⽂权,熊祥光,余爱民. 基于奇异值分解的彩⾊图像⽔印算法[J].计算机应⽤研究.2013年.第30卷第10期：3114—3116.
[3]李慧.奇异值分解在时间序列分析中的应⽤[C],北京交通⼤学硕⼠学位论⽂,2009年.
[4] 张要罗.奇异值分解在⼈脸识别中的应⽤.
MP1432156
王荣
2014-4-16。