矩阵分解

矩阵分解

在矩阵运算中，把矩阵分解成形式比较简单或具有某种特性的一些矩阵的乘积，在矩阵理论的研究和应用中，具有重要的意义。一方面，矩阵分解能够明显反映出原矩阵的某些数值特征，如矩阵的秩、行列式、特征值及奇异值等，令一方面分解的方法与过程往往提供了某些有效地数值计算方法和理论分析根据。常见的矩阵分解方法有：三角分解、QR 分解、满秩分解、奇异值分解。下面将主要从这四个方面进行分别介绍。

一、三角分解

定义： 设n n n C A ⨯∈，如果存在下三角矩阵n n n C L ⨯∈和上三角矩阵n n n C R ⨯∈，使得

LR A = （1） 则成A 可以作三角分解。

A 可以作三角分解的充分必要条件是A 的k 阶顺序主子式)1,2,1(0det -=≠=∆n k A k k ，而k A 为A 的k 阶顺序主子式（证明略）。

如果A 可以分解成LR A =，其中L 是对角元素为1的下三角矩阵（称为单位下三角矩阵），R 是上三角矩阵，则称之为A 的Doolittle 分解；L 是下三角矩阵，R 为对角元素为1的上三角矩阵，则称之为A 的Crout 分解。

如果A 可以分解为LDR A =，其中L 为单位下三角矩阵，D 为对角

矩阵，R 为单位上三角矩阵，则称之为A 的LDR 分解。设n n n C A ⨯=，则A 有唯一LDR 分解的充分必要条件是)1,,2,1(0-=≠∆n k k 。此时对角矩阵),,,(21n d d d diag D =的元素满足 ),,3,2(,111n k d d k k k =∆∆=

∆=- （2）

证明从略。

假设n n C A ⨯∈是Hermite 正定矩阵，则存在下三角矩阵n n C G ⨯∈，使得H GG A =,则称之为A 的Cholesky 分解。

综合分析：方阵的三角分解存在的充要条件是：A 的k 阶顺序主子式)1,2,1(0det -=≠=∆n k A k k ，但是方阵的三角分解不是唯一的，比如A 可以表示成))((1R D LD LR A -==,其中，D 为对角元素均不为0的对角矩阵。为了规范化才有了Doolittle 分解和Crout 分解形式。矩阵的LDR 分解建立在普通LR 分解的基础上。而Cholesky 分解则是A 为Hermite 正定矩阵时的一种特殊形式。

二、QR 分解

定义：设n n C A ⨯∈，如果存在n 阶酉矩阵Q 和n 阶上三角矩阵R ，使得 QR A = （3） 则称之为A 的QR 分解或酉-三角分解。当n n R A ⨯∈时，称之为A 的正交-三角分解。

值得注意的是，任意n n C A ⨯∈都可以作QR 分解。当n n n C A ⨯∈（即A

为满秩矩阵）时，A 可以得到唯一A=QR 分解形式，其中，Q 是n 阶酉矩阵，n n n C R ⨯∈是具有正对角元的上三角矩阵。

矩阵的QR 分解通常有三种方法，即Householder 变换，Givens 变换和Schimidt 正交化。

三、满秩分解

定义：设)0(>∈⨯r C A n m r 。如果存在r m r C F ⨯∈（列满秩）和n r r C G ⨯∈（行满秩），使得

FG A = （4） 其中，矩阵的满秩分解总是存在的。而矩阵的满秩分解并不是唯一的（同三角分解）。

四、奇异值分解

定义：设)0(>∈⨯r C A n m r ，则存在m 阶酉矩阵U 和n 阶酉矩阵V ，使得 ⎥⎦

⎤⎢

⎣⎡∑=000AV U H （5）

其中，),,,(21r diag σσσ =∑，而),,2,1(r i i =σ为A 的非零奇异值。将上式改写为

H V U A ⎥⎦⎤⎢

⎣⎡∑=000 (6) 则称之为A 的奇异值分解。

矩阵的奇异值分解就是矩阵在酉等价下的一种标准型（酉等价的具体形式为：设n m C B A ⨯∈,，若存在m 阶酉矩阵U 和n 阶酉矩阵V ，使得B AV U H =,则称A 与B 酉等价）。