我所理解的奇异值分解

我所理解的奇异值分解SVD

1、 奇异值与奇异值分解定理 奇异值定理：

设m n A C ⨯∈，r=rank(A)，则一定存在m 阶酉矩阵U 和n 阶酉矩阵V 和对角矩阵1212(,,

,)(1,2,,)r r i diag i r σσσσσσσ∑=≥≥≥=，且，而 ，使得H A U V =∑，称为A 的奇异值分解。

复数域内的奇异值：

设(0)m n H r A C r A A ⨯∈>，的特征值为1210r r n λλλλλ+≥≥

≥>===

则称1,2,

,)i i n σ==为A 的正奇异值；当A 为零矩阵时，它的奇异值都是零。易见，矩阵A 的奇异值的个数等于A 的列数，A 的非零奇异值的个数等于rank(A)。

2、 奇异值分解的理解

奇异值σ跟特征值类似，在矩阵Σ中也是从大到小排列，而且σ的减少特别的快，在很多情况下，前10%甚至1%的奇异值的和就占了全部的奇异值之和的99%以上了。也就是说，我们也可以用前r 大的奇异值来近似描述矩阵。 r r r T r r r T v u v u v u V U V U A σσσ+++=∑=∑= 222111即A 可表示为r 个秩为一的举证的和，这是A 得奇异值分解的紧凑格式。

3、 奇异值分解特征

奇异值分解的第一个特征是可以降维。A 表示 n 个 m 维向量 ,通过奇异值分解可表示成 m + n 个 r 维向量 ,若A 的秩 r 远远小于 m 和 n ,则通过奇异值分解可以大大降低 A 的维数。可以计算出 ,当 r

奇异值分解的第二个特征是奇异值对矩阵的扰动不敏感 ,而特征值对矩阵的扰动敏感。在数学上可以证明 ,奇异值的变化不会超过相应矩阵的变化 ,即对任何相同阶数的实矩阵A 、B ,按从大到小排列的奇异值i σ和i ω,有

2B A i i i -≤-∑

ωσ.

奇异值的第三个特征是奇异值的旋转不变性。即若 P 是正交阵 ,PA 的奇异值与A 的奇异值相同。奇异值的比例和旋转不变性特征在数字图像的旋转、 镜像、 平移、放大、缩小等几何变化方面有很好的应用。

奇异值的第四个特征是容易得到矩阵 A 的秩为 k (k ≤r)的一个最佳逼近矩阵。奇异值的这个特征可以应用于信号的分解和重构 ,提取有用信息 ,消除信号噪声。

4、奇异值分解的应用

彩色图像水印的应用

人脸识别中的应用

时间序列分析中的应用

5、问题

在奇异值分解特征一节，奇异值分解的第一个特征降维的相关描述中，将矩阵A 表示n个m维向量 ,通过奇异值分解可表示成m+n个 r维向量。这里的m+n 个如何计算得来。

6、参考文献

[1]罗小桂,何雁. 矩阵奇异值分解在计算技术中的应用[J].计算机与现代化.2006年.第6期：67—68.

[2]基于奇异值分解的彩色图像水印算法*

曾文权,熊祥光,余爱民. 基于奇异值分解的彩色图像水印算法[J].计算机应用研究.2013年.第30卷第10期：3114—3116.

[3]李慧.奇异值分解在时间序列分析中的应用[C],北京交通大学硕士学位论文,2009年.

[4] 张要罗.奇异值分解在人脸识别中的应用.

MP1432156

王荣

2014-4-16