矩阵分解方法的探讨

矩阵分解方法的探讨The discussion about decomposition of Matrix摘要矩阵是数学研究中一类重要的工具之一, 有着非常广泛的应用, 矩阵分解对矩阵理论及近代计算数学的发展起了关键作用. 本文从矩阵的LU分解、矩阵的QR分解、矩阵的满秩分解等几个方面对矩阵分解方法进行了论述: 给出了矩阵分解的几种方法.关键词: 矩阵, 对称正定矩阵,矩阵的三角分解；矩阵的满秩分解；矩阵的QR分解.AbstractThe matrix is a important tool in class of mathematical research, and it has a very wide range of applications, matrix decomposition plays a key role in matrix theory and development of modern computational mathematics. This article begin at the discuss from the matrix of LU decomposition、Matrix of the QR Decomposition、Matrix decomposition of full rank and so on. given a matrix factorization method.Keywords: Matrix; Symmetric positive definite matrix, Triangular decomposition of matrix; matrix full rank decomposition; QR decomposition of matrix.目录摘要 (I)Abstract ................................................. 错误!未定义书签。

0 引言 (1)1 矩阵的三角(LU)分解 (1)1.1 矩阵的三角分解基本概念与定理 (1)1.2 常用的三角分解公式 (7)1.2.1 杜利特分解 (7)1.2.2 克劳特分解 (7)1.2.3 乔累斯基分解 (8)2 矩阵的满秩分解 (15)2.1 矩阵的满秩分解基本概念与定理 (15)3 矩阵的QR分解 (18)3.1 矩阵的QR分解基本概念与定理 (18)3.2 矩阵QR分解的常用方法 (20)3.2.1利用Householder矩阵变换 (20)3.2.2利用QR分解公式 (20)3.2.3利用列初等变换法 (21)参考文献 (24)0 引言矩阵的三角分解、正交三角分解、满秩分解将矩阵分解为形式比较简单或性质比较熟悉的一些矩阵的乘积,这些分解式能够明显地反映出原矩阵的许多数值特征,如矩阵的秩、行列式、特征值及奇异值等. 另一方面, 构造分解式的方法和过程也能够为某些数值计算方法的建立提供了理论依据. 本文从矩阵的LU 分解； 矩阵的QR 分解； 矩阵的满秩分解等几个方面对矩阵分解方法进行论述: 探讨矩阵分解的方法.1 矩阵的三角分解1.1 矩阵的三角分解基本概念与定理定义 1.1[]5 设m n A C ⨯∈,如果存在下三角矩阵m n L C ⨯∈和上三角矩阵n m U C ⨯∈, 使得A=LU , 则称A 可作三角分解或LU 分解.定义 1.2 设A 为对称正定矩阵, D 为行列式不为零的任意对角矩阵,则T A A =,U 为一个单位上三角矩阵, 且有A LDU =成立：1) 如果L 是单位下三角矩阵, D 是对角矩阵, U 是单位上三角矩阵, 则称分解D A L U =为LDU 分解.2) 如果L=LD 是下三角矩阵, 而U 是单位上三角矩阵, 则称三角分解A LU =为克劳特()Crout 分解;3) 如果U DU =是单位下三角矩阵, U 为上三角矩阵, 则称三角分解A LU =为杜利特()Doolittle 分解;4) 如果11D A L U LDD DU LD U --===, 称为不带平方根的乔累斯基()Cholesky 分解;5) 如果12LD L =, 12D U U =, 则1122A LDU LD D U LU ===, 由于T U L =, 则T A LL =, 称为带平方根的乔累斯基()Cholesky 分解.定理 1.1 n 阶非奇异矩阵A 可作三角分解的充要条件是k 0A ≠()1,2,,1k n =-,这里A k 为A 的k 阶顺序主子阵, 以下同.证明 必要性. 设非奇异矩阵A 有三角分解A LU =, 将其写成分块形式k 12k122122212222A L 0U =A A 0U kA U L L ⎛⎫⎛⎫⎛⎫⎪⎪⎪⎝⎭⎝⎭⎝⎭这里A k , k L 和k U 分别为A , L 和U 的k 阶顺序主子阵. 首先由0A ≠知L 0≠,U 0≠, 从而L 0k ≠,U 0k ≠; 因此A =L U 0k k k ≠()1,2,,1k n =-.充分性. 对阶数n 作数学归纳法. 当n=1时, 1A =（11a ）=（1）（11a ）,结论成立. 设对n k =结论成立, 即k =k k A L U , 其中k L 和k U 分别是下三角矩阵和上三角矩阵. 若k 0A ≠,则由k A =L k k U 易知L k 和k U 可逆. 现证当1n k =+时结论也成立, 事实上-1kk k k1TT 1T 1-1k+1,1k 1,1k k k A c 0c A =10c kkk T kk k k k k L U L r a r U a r U L +--+++⎛⎫⎛⎫⎛⎫= ⎪ ⎪ ⎪ ⎪-⎝⎭⎝⎭⎝⎭. 由归纳法原理知A 可作三角分解.定理 1.1 给出了非奇异矩阵可作三角分解的充要条件, 由于0110A ⎛⎫= ⎪⎝⎭不满足定理1.1的条件, 所以它不能作三角分解. 但110000110011211011202A ⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫ ⎪=== ⎪ ⎪⎪ ⎪⎪⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭. 上例表明对于奇异矩阵,它还能作三角分解未必要满足定理1.1的条件.首先指出,一个方阵的三角分解不是唯一的, 从上面定义来看,杜利特分解与克劳特分解就是两种不同的三角分解,其实,方阵的三角分解有无穷多, 这是因为如果D 是行列式不为零的任意对角矩阵, 有1()()A LU CD D U LU -==,其中,L U 也分别是下、上三角矩阵, 从而A LU =也使A 的一个三角分解. 因D 的任意性, 所以三角分解不唯一. 这就是A 的分解式不唯一性问题, 需规范化三角分解.定理 1.2 （LDU 基本定理）设A 为n 阶方阵,则A 可以唯一地分解为A=LDU (1.1) 的充分必要条件是A 的前1n -个顺序主子式k 0A ≠()1,2,,1k n =-.其中L ,U 分别是单位下、上三角矩阵, D 是对角矩阵D=diag ()12,,,n d d d ,1kk k A d A -=()1,2,,k n =, 01A =.证明 充分性. 若k 0A ≠()1,2,,1k n =-, 则由定理1.1, 即实现一个杜利特分解A LU =, 其中L 为单位下三角矩阵, U 为上三角矩阵,记11121222n n nn u u u u u U u ⎛⎫⎪⎪= ⎪ ⎪⎝⎭=()()()()()()1111112122222n n n nn a a a a a a ⎛⎫ ⎪⎪ ⎪ ⎪⎪⎝⎭=()n A , 因为()u 0i ii ii a ≡≠()1,2,,1i n =-.下面分两种情况讨论：1) 若A 非奇异,由式(1)有n ∆=()()()121122n nn a a a =0A ≠, 所以()0n nn nn a u =≠, 这时令()()()()121122diag n nnD a a a =, 则()()()1121122111,,,n nn D diag a a a -⎛⎫= ⎪ ⎪⎝⎭. 于是有1()A LU LD D U LDU -=== (1.2) 是A 的一个LDU 分解.2)若A 奇异,则()u 0i ii ii a ≡=,此时令()()()12111221,1(,,,,0)n n n D diag a a a ---=,()()()()121n-111221,1,,,n n n D diag a a a ---=, α=()1n 1u ,,,Tn u n -,则100n T U U α-⎛⎫≡ ⎪⎝⎭=1111110=DU 0001n nn n T T U D U D α------⎛⎫⎛⎫ ⎪⎪⎝⎭⎝⎭, 因此不论哪种情况, 只要k 0A ≠()1,2,,1k n =-, 总存在一个LDU 分解式(1.1),1a kkk kk k A d A -==()1,2,,1k n =-,01A =.再证这个分解是唯一的, 仍分两种情况讨论：1) 当A 非奇异时,有0A ≠, 0D ≠, 0U ≠, 0L ≠, 所以L 、D 、U 均非奇异. 若还存在另一个LDU 分解111A L DU =, 这里1L , 1D , 1U 也非奇异, 于是有111LDU L DU = (1.3)上式两端左乘以11L -以及右乘以1U -和1D -, 得111111L L DU U D ---=, (1.4) 但式(1.4)左端是单位下三角矩阵, 右端是单位上三角矩阵, 所以都应该是单位阵, 因此1L L I -=, 1111DU U DI --=, 即1L L =,1111U U D D --=. 由后一个等式类似地可得11U U I -=, 11D D I -=, 即有1U U =, 1D D =.2) 若A 奇异, 则式(1.3)可写成分块形式1111100001000110001T T T T TL D U L D Uααββ⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫= ⎪⎪⎪ ⎪⎪⎪⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭, 其中1L , 1L 是1n -阶单位下三角阵; U , 1U 是1n -阶上三角阵; D , 1D 是1n -阶对角阵; α, 1α, β, 1β是1n -维列向量. 由此得出111111TT T T111111L D U L D LDU LD =D U D DU D ααββαββα⎛⎫⎛⎫⎪ ⎪⎝⎭⎝⎭, 其中1L , 1D , 1U 和L , D , U 均非奇异, 类似于前面的推理, 可得1L =L , 1D =D , 1U =U , 1=αα, T T 1=ββ.必要性. 假定A 有一个唯一的LDU 分解, 写成分块的形式便是1111A00=0101n n n n T T nn n x D L U y a d αβ----⎛⎫⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭, (1.5) 其中1n L -, 1D n -, 1n U -, 1n A -分别是L , D , U , A 的1n -阶顺序主子矩阵;x , y , α, β为1n -维列向量. 由式(1.5)有下面的矩阵方程:1111n n n n A L D U ----=, (1.6)11T T n n y D U β--=, (1.7)11n n x L D α--=, (1.8)1T nn n na D d βα-=+. (1.9)否则, 若10n A -=, 则由式(1.6)有111110n n n n n A L D U D -----===.于是有1110n n n L D D ---==, 即11n n L D --奇异. 那么对于非其次线性方程组(1.8)有无穷多非零解, 不妨设有α', 使11n n L D x α--'=, 而α'=α.同理, 因11n n D U --奇异, ()1111TT Tn n n n L D U D ----=也奇异, 故有ββ'≠, 使11T T n n U D y β--=, 或11T Tn n D U y β--'=. 取1T n nn n d a D βα-'''=-, 则有1111000101n n n n T Tnn n A x D L U y a d αβ----'⎛⎫⎛⎫⎛⎫⎛⎫= ⎪ ⎪ ⎪ ⎪''⎝⎭⎝⎭⎝⎭⎝⎭, 这与A 的LDU 分解的唯一性矛盾, 因此10n A -≠.考察1n -阶顺序主子矩阵1n A -由式(1.6)写成分块形式, 同样有2222n n n n A L D U ----=. 由于10n D -≠, 所以20n D -≠, 可得222220n n n n n A L D U D -----==≠, 从而20n A -≠. 依此类推可得0k A ≠()1,2,,1k n =-.综上所述, 定理证明完毕.推论 1[]3设A 是n 阶方阵, 则A 可惟一进行杜利特分解的充分必要条件是A 的前1n -个顺序主子式11110kk k kka a A a a =≠,1,2,,1k n =-,其中L 为单位上三角矩阵, 即有1112121222313212,11111n n nn n n n n u u u l u u l l A u ll l -⎛⎫⎛⎫⎪ ⎪ ⎪ ⎪⎪= ⎪ ⎪ ⎪ ⎪⎝⎭⎪⎝⎭并且若A 为非奇异矩阵, 则充要条件可换为: A 的各阶顺序主子式全不为零, 即:0k A ≠,1,2,,k n =.推论 2[]3 n 阶方阵A 可惟一地进行克劳特分解111212122212111n n n n nn l u u l l u A LU l l l ⎛⎫⎛⎫⎪⎪ ⎪⎪== ⎪⎪⎪⎪⎝⎭⎝⎭ 的充要条件为11110kk k kk a a A a a =≠, 1,2,,1k n =-.若A 为奇异矩阵, 则0nn l =, 若A 为非奇异矩阵, 则充要条件也可换为0k A ≠, 1,2,,k n =.定理 1.3[]3 设A 为对称正定矩阵, 则A 可惟一地分解为T A LDL =, 其中L 为下三角矩阵, D 为对角矩阵, 且对角元素是L 对角线元素的倒数. 即11212212n n nn l l l L l l l ⎛⎫⎪⎪= ⎪⎪⎝⎭, 1122111nn l l D l ⎛⎫ ⎪ ⎪ ⎪⎪= ⎪ ⎪⎪ ⎪ ⎪⎝⎭.其中11/j ij ij ik jk kk k l a l l l -==-∑, 1,2,,n i =, 1,2,,j i =.1.2 常用的三角分解公式1.2.1 杜利特分解设A 为n 阶方阵, 如何确定L 和U 这两个三角矩阵呢, 设=LU A , 其中11212212L=n n nn l l l l l l ⎛⎫⎪ ⎪ ⎪⎪⎝⎭, 11121222U=n n nn u u u u u u ⎛⎫⎪ ⎪⎪ ⎪⎝⎭按矩阵的乘法, 有min(,)1i j ij is sj s a l u ==∑,,1,2,i j n =由于1kk l =, 所以有11k kj kj ks sj s a u l u -==+∑, ,1,j k k n =+.故得11k kj kj ks sj s u a l u -==-∑,,1,j k k n =+.同理11k ik ik is sk kk s l a l u u -=⎛⎫=- ⎪⎝⎭∑, 1,2,i k k n =++即得到三角矩阵L 和U .1.2.2 克劳特分解设A 为n 阶方阵（不一定对称）, 有分解式A LU =, 即1111111211111,1,111111j n jn i ij in i iij jj n n njnn n nn a a a l u u u a a a l l u u a a a l l --⎛⎫⎛⎫⎛⎫⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭当i j ≥时（下三角位置）, 有111j i ij ik kj ik kj ij k k a l u l u l -====+∑∑,得11j ij ij ik kj k l a l u -==-∑, 1,2,i n =, 1,2,,j i =;当i j <时（上三角位置）, 有111ji ij ik kj ik kj ii ij k k a l u l u l u -====+∑∑, 1,2,i n =, 1,2,,j i =;得1/iij ij ik kj ii k u a l u l =⎛⎫=- ⎪⎝⎭∑, 1,2,1i n =-, 1,2,j i i n =++.这样即可得到三角矩阵L 和U .1.2.3 乔累斯基()Cholesky 分解设A 为对称正定矩阵, 存在一个实的非奇异下三角矩阵L , 且L 的对角元素为正时, 有惟一的分解式T A LL =.即111111111111j n i ii i ii jjnj n ninn n ninn nn a l l l l a a l l l l a a a l l l l ⎛⎫⎛⎫⎛⎫⎪ ⎪⎪ ⎪ ⎪⎪ ⎪ ⎪⎪= ⎪ ⎪⎪ ⎪ ⎪⎪ ⎪ ⎪⎪⎝⎭⎝⎭⎝⎭, 当i j ≥时, 有111jj ij ik jk ik jk ij jj k k a l l l l l l -====+∑∑, 也即11/j ij ij ik jk jj k l a l l l -=⎛⎫=- ⎪⎝⎭∑, i j ≥.特别地, 当i j =时, 有ij l =i =1,2,,n .例 1.1 求矩阵5240212142500102A -⎛⎫ ⎪-⎪= ⎪-- ⎪⎝⎭的LDU 分解和Doolittle 分解.解 对A 作矩阵1121540150001L ⎛⎫ ⎪ ⎪ ⎪= ⎪-⎪ ⎪⎪⎝⎭, 所以11121540150001L -⎛⎫⎪ ⎪- ⎪= ⎪- ⎪ ⎪ ⎪⎝⎭ 计算()1115240120155=2900550102L A A --⎛⎫⎪ ⎪- ⎪=⎪-⎪⎪ ⎪⎝⎭对()1A 作矩阵2L =1010210102⎛⎫⎪ ⎪ ⎪- ⎪⎝⎭, 121010210501L -⎛⎫ ⎪⎪= ⎪ ⎪-⎝⎭ 计算()()121252401201=5500120023L A A --⎛⎫ ⎪⎪-=⎪ ⎪ ⎪ ⎪-⎝⎭对()2A 作矩阵3101L =0010001⎛⎫⎪ ⎪ ⎪⎪⎝⎭, -13101L =00100-21⎛⎫ ⎪⎪ ⎪ ⎪⎝⎭, 计算()()23-1352-4012-1L A==A 5512-7⎛⎫⎪⎪ ⎪ ⎪ ⎪ ⎪⎝⎭令1231215L=L L L =4--2150521⎛⎫⎪ ⎪ ⎪⎪ ⎪ ⎪ ⎪⎝⎭可得A 的Doolittle 分解为()3A=LA , A 的LDU 分解为5241-05511-25A=L 5112-71⎛⎫⎛⎫ ⎪⎪ ⎪⎪ ⎪⎪ ⎪⎪ ⎪⎪ ⎪⎪⎝⎭⎝⎭. 例 1.2 求三阶方阵2-13A=121243⎛⎫⎪ ⎪ ⎪⎝⎭的LU 分解与LDU 分解. 解 因为1A =20≠, 22-1A ==5012≠, 3A =A =50≠所以A 有唯一的LU 分解和LDU 分解. 且110.51101L ⎛⎫ ⎪= ⎪ ⎪⎝⎭, ()11121300.250.5050L A A --⎛⎫ ⎪=-= ⎪ ⎪⎝⎭由()1A 可计算2L 及()2A 如下:2101021L ⎛⎫ ⎪= ⎪ ⎪⎝⎭, ()()12122130 2.50.5001L AA --⎛⎫ ⎪=-= ⎪ ⎪⎝⎭于是1210.51121L L L ⎛⎫⎪== ⎪ ⎪⎝⎭因此A 的LU 分解为12130.5100.250.5121001A -⎛⎫⎛⎫ ⎪⎪=- ⎪⎪ ⎪⎪⎝⎭⎝⎭且A 的LDU 分解为1210.5 1.50.51 2.510.212111A -⎛⎫⎛⎫⎛⎫ ⎪⎪⎪=- ⎪⎪⎪ ⎪⎪⎪⎝⎭⎝⎭⎝⎭例 1.3 已知范德蒙()Vandermonde 矩阵123n 2222123222212311111231111n n n n n nn n n n n V αααααααααααααααα--------⎛⎫⎪ ⎪ ⎪=⎪⎪ ⎪ ⎪ ⎪⎝⎭, 求V 的三角分解.解 由于范德蒙矩阵V 满足定理1.2的条件, 于是有唯一的三角分解: V LU =, 结合范德蒙矩阵的特点, 先对范德蒙矩阵V 进行一系列初等行变换.用n 阶矩阵11111111111L αααα-⎛⎫ ⎪- ⎪ ⎪-=⎪ ⎪ ⎪- ⎪ ⎪-⎝⎭左乘范德蒙矩阵V 得,()()()()()()()()()()()()213112213311114442213311333221331122222133131111100000n n n n n n n n n n n n n n n n n L V αααααααααααααααααααααααααααααααααααααααααα----------⎛⎫⎪--- ⎪ ⎪--- ⎪=⎪ ⎪--- ⎪--- ⎪ ⎪---⎝⎭记21222101111L ααα-⎛⎫⎪ ⎪ ⎪-=⎪ ⎪ ⎪- ⎪ ⎪-⎝⎭则()()()()()()()()()()()()21311323121112144332312133332312111110000000n n n n n n n n n n n n n L L V αααααααααααααααααααααααααααααααααα------⎛⎫⎪--- ⎪⎪----=⎪ ⎪⎪---- ⎪ ⎪----⎝⎭一般地,记1111111kk kkkL αααα-⎛⎫ ⎪ ⎪ ⎪ ⎪- ⎪= ⎪- ⎪ ⎪ ⎪- ⎪ ⎪-⎝⎭,1,2,,1k n =-.1k L d - 左上角是k 阶单位矩阵. 依次相乘有()()()()()()2131n-11n 12223n-1n1111-1-112122n-1n 111n 111111L L V=U=j j j j j j n n n j j j j n j j L αααααααααααααααααααα===----==-=⎛⎫ ⎪---- ⎪ ⎪--- ⎪⎪ ⎪⎪ ⎪-- ⎪ ⎪⎪- ⎪⎝⎭∏∏∏∏∏∏ 从而12n-1U V L L L =,其中k 212111L =111k k kk n k n k k k k kαααααααα---⎛⎫ ⎪ ⎪ ⎪⎪⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭, 1,2,,1k n =-. (1.10)在对U 进行一系列初等列变换. 记11111111111U -----⎛⎫⎪ ⎪ ⎪=⎪ ⎪ ⎪ ⎪ ⎪⎝⎭11213111111,,,,n D diag αααααα-⎛⎫= ⎪---⎝⎭有()()()3212211112211111100001111n n n n n j n j j j n n j j UU D αααααααααααα------==-=⎛⎫⎪ ⎪ ⎪---⎪ ⎪=⎪-- ⎪ ⎪⎪ ⎪- ⎪⎝⎭∏∏∏一般地,记1111111kU -⎛⎫ ⎪ ⎪ ⎪--= ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭1121111,1,1,,,,k k k k k k n k D diag αααααα-++⎛⎫ ⎪= ⎪---⎝⎭个所以k 1211111D U=kk kk kn k αααααα++⎛⎫ ⎪ ⎪ ⎪⎪-⎪ ⎪- ⎪ ⎪⎪-⎝⎭, 1,2,,1k n =-. (1.11)于是()()1211111.n n n V L L L D U DU ---=其中k L 由式(1.10)给出, 为下三角矩阵. 而k k D U 由式(1.11)给出, 为稀疏上三角矩阵.2 矩阵的满秩分解2.1 矩阵的满秩分解基本概念与定理定义2.1[]4 若矩阵A 的行(列)向量线性无关, 则称A 为行(列)满秩矩阵. 定义2.2[]2 设A 是秩为r （r>0）的m n ⨯矩阵, 若存在m r ⨯列满秩矩阵F 和r n ⨯行满秩矩阵G , 使得A=FG （2.1） 则称（2.1）式为矩阵A 的满秩分解.定义2.3[]2 设H 是m n ⨯的矩阵, ()rank H r =, 满足1)H 的前r 行中每一行至少含有一个非零元素, 且每行第一个非零元素是1, 而后m r -行元素均为0;2)设H 中的第i 行的第一个非零元素1位于第()j 1,2,,i i r =列, 有12r j j j <<<3)H 的第1j , 2j ,, r j 列构成m 阶单位矩阵I 的前r 列.则称H 为A 的H ermite 标准型.定理2.1 设A 为任一秩为r 的m n ⨯矩阵, 则A 必有满秩分解式A=FG , 其中F 为列满秩的, G 为行满秩的.证明 因为A 的秩为r , 所以存在m 阶可逆矩阵P 和n 阶可逆矩阵Q , 使得E 0PAQ=00r⎛⎫⎪⎝⎭若令r -1E F=P 0⎛⎫⎪⎝⎭,()-1G=E 0Q r则F 为m n ⨯列满秩矩阵, G 为r n ⨯行满秩矩阵, 且有()-1-1-1-1E 0E A=P Q =P E 0Q =FG 000rr r ⎛⎫⎛⎫ ⎪ ⎪⎝⎭⎝⎭结论成立. 若记()12r F=,,,ααα, ()T 12r G =,,,βββ则有T T T 1122A=FG=+++r r αβαβαβ (2.2)这里(2.2)式也是A 的满秩分解的一种表示.定理 2.2 任何非零矩阵A P m n ⨯∈都存在满秩分解.证明 设()0r A r =>. 则可通过初等变换将A 化为阶梯形矩阵B , 即G =0A B ⎛⎫→ ⎪⎝⎭行, G P r n ⨯∈且秩()G =r .于是存在有限个m 阶初等矩阵的乘积P , 使得G PA=B=0⎛⎫⎪⎝⎭或者 -1A=P B .于是110G A P B P --⎛⎫== ⎪⎝⎭将1P -作相应的分块,()1P FS -=, m n F P ⨯∈, ()m n r S P⨯-∈.则有()100G A P B FS F G S FG -⎛⎫===⋅+⋅= ⎪⎝⎭. 其中F 为列满秩矩阵,G 为行满秩矩阵.由于初等行变换有三种变换：1、调换两行;2、某一行乘以一个非零常数;3、某一行乘以一个非零常数加到另一行. 实际上只用第三种初等变换方法就可以将其化为阶梯形.值得指出的是, A 的满秩分解式为(2.1)与(2.2)并不是惟一的. 现对任一r 阶可逆方阵H , 总有()()-1A=FG=FH H G =FG (2.3) 成立, 且F , G 分别为m r ⨯列满秩矩阵与r n ⨯行满秩矩阵. 因而(2.3)式也是A 的一个满秩分解式.定理2.3[]3 设r r r A C ⨯∈, 且A BC BC ==均为A 的满秩分解, 则1) 存在矩阵r r r Q C ⨯∈, 使得B BQ =, 1C Q C -=.2) ()()()()1111HHHH HHHH CCC B B B CCC B B B ----=.定理 2.4[]2 设A 是m n ⨯的矩阵, ()0rank H r =>, 其H ermite 标准型为H , 则在A 的满秩分解中, 可取F 为由A 的1j , 2j ,, r j 列构成的m r ⨯的矩阵, G 为H 的前r 行构成的r n ⨯的矩阵.定理2.5[]1 矩阵满秩分解的存在性定理1) 设()A C 0m nr r ⨯∈>, 则使用初等行变换可将A 化为Hermite 标准型; 2) 设()A C 0m nrr ⨯∈>, 则存在m r r F C ⨯∈和r n r G C ⨯∈, 使得A FG =. 例 2.1 已知A 是一个23⨯矩阵12-324-6⎛⎫⎪⎝⎭, 则A 的秩为1, 且它的满秩分解为()1A=FG=12-32⎛⎫⎪⎝⎭显然, 分块矩阵()E 0E =E 0000r r r ⎛⎫⎛⎫ ⎪ ⎪⎝⎭⎝⎭例 2.2 求矩阵133226951330A ⎛⎫ ⎪= ⎪ ⎪--⎝⎭的满秩分解.解 由题可知, ()20rank A =>, 由定理2.4 可得32211231221332133200310031000620000r r r r r r r r G A ---+⎛⎫⎛⎫⎛⎫ ⎪ ⎪−−−→−−−→−−−→ ⎪ ⎪ ⎪⎝⎭ ⎪ ⎪⎝⎭⎝⎭，其中13320031G ⎛⎫= ⎪⎝⎭ 321100100100100010010210210020101001121P E E E ⎛⎫⎛⎫⎛⎫⎛⎫⎪⎪⎪ ⎪==-=- ⎪⎪⎪ ⎪ ⎪⎪⎪ ⎪--⎝⎭⎝⎭⎝⎭⎝⎭则1100210121P -⎛⎫⎪= ⎪ ⎪-⎝⎭对单位下三角矩阵求逆矩阵等于把严格下三角部分元素变号即可.取1P -的前两列构成102112F ⎛⎫ ⎪= ⎪ ⎪-⎝⎭, 则10133221003112A FG ⎛⎫⎛⎫⎪== ⎪ ⎪⎝⎭ ⎪-⎝⎭.例2.3 求矩阵1111111111111111-⎛⎫ ⎪---⎪ ⎪-- ⎪--⎝⎭的满秩分解. 解 111110111101111111000011110000A B -⎛⎫⎛⎫⎪ ⎪-----⎪ ⎪=−−→= ⎪ ⎪-- ⎪ ⎪--⎝⎭⎝⎭行, ()2rank B =且B 中的第1列和第2列为单位矩阵的前两列, 故1111100011011111A -⎛⎫ ⎪-⎛⎫ ⎪= ⎪ ⎪----⎝⎭ ⎪⎝⎭3 矩阵的QR 分解3.1矩阵的QR 分解基本概念与定理定义3.1[]5 设n u R ∈是单位列向量,即1T u u =, 称矩阵2H H I uu =-为Householder 矩阵. 由Householder 矩阵确定的n R 上的现线性变换y Hx =称为Householder 变换. 若u 不是单位向量, 则定义222TH I uu u=-为Householder 矩阵, 对应的变换成为Householder 变换.Householder 矩阵具有如下性质: 1)T H H =（对称矩阵）; 2)T H H E =（正交矩阵）; 3)2H E =（对合矩阵）; 4)1H H -=（自逆矩阵）;5)00rEH ⎛⎫⎪⎝⎭是1n +阶Householder 矩阵; 6)1H =-.定义3.2[]5如果实（复）非奇异矩阵A 能够转化成正交（酉）矩阵Q 与实（复）非奇异上三角矩阵R 的乘积, 即A QR =,则称上式为A 的QR 分解.定理 3.1[]5任何实的非奇异n 阶矩阵A 可分解为正交矩阵Q 和上三角矩阵R 的乘积,且除去相差一个对角线元素之绝对值全等于一定对角矩阵因子D 外, 分解式A QR =是惟一的.定理3.2[]3设A 为m n ⨯复矩阵()m n ⨯, 且n 个列向量线性无关, 则A 有分解式A UR =,其中U 是m n ⨯复矩阵, 且满足H U U I =, R 是n 阶复非奇异上三角矩阵, 且除去相差一个对角线元素的矩阵行列式全为1的对角矩阵因子外, 分解式A UR =是惟一的.推论[]3 设A 为m n ⨯实（复）矩阵, 且其n 个列向量线性无关, 则存在m 阶正交（酉）矩阵Q 和n 阶非奇异实（复）上三角矩阵R , 使得0R QA ⎛⎫= ⎪⎝⎭定理 3.3[]8 如果在非奇异矩阵A 的QR 分解中规定上三角阵R 的各个对角元素的符号, 则A 的QR 分解式惟一的.定理3.4 设A 为任意的m n ⨯矩阵, 且()rank A r =, 则存在m 阶正交矩阵T H 与n 阶正交矩阵K , 使得T H AK R =或T A HRK =， 这里R 为m n ⨯矩阵, 他可以表示为一个准对角矩阵形式:11000R R ⎛⎫= ⎪⎝⎭其中11R 是r 阶的下三角非奇异方阵, T H AK R =或T A HRK =又称为A 的正交三角分解.定理3.5 设m n A C ⨯∈, 则存在酉矩阵m m Q C ⨯∈, 使得A QR =, 其中m n R C ⨯∈是阶梯型矩阵.3.2 矩阵QR 分解的常用方法3.2.1 利用Householder 矩阵变换将矩阵A 的列向量一次实施Householder 矩阵变换, 简记H , 使之化为以具有1个非零元, 2个非零元,…, n 个非零元作为列向量的上三角矩阵R , 即若有121n H H H A R -=,则121n Q H H H -=.3.2.2 利用QR 分解公式 设()12,,,n A ααα=, ()12,,,Tn Q q q q =, Q 为（列）正交矩阵, R 为上三角矩阵, 即11121222000r r rr d d d d d R d ⎛⎫⎪⎪= ⎪⎪⎝⎭, 若A 有QR 分解, 则由A QR =, 有1111d q α=,11111q d α==, 即111d α=, 111q αα=,… 得A 的QR 分解公式:111d α=,111q αα=, Tkj k i d q α=,1,2,,1k i =-,ii i ji i d d q α=-∑,i ji i i iid q q d α⎛⎫- ⎪⎝⎭=∑,i =1, 2, …, r . 利用对矩阵A 的列向量进行标准正交化得到Q , 且T R Q A =3.2.3 利用列初等变换法 步骤如下:1)构造矩阵T A A P A ⎛⎫= ⎪⎝⎭;2)对P 作初等列变换将T A A 化为下三角矩阵1R , 同时A 化为列正交矩阵1Q ;3)对上述得到的矩阵11R Q ⎛⎫⎪⎝⎭, 再利用初等列变换化1Q 的各列向量为单位向量, 则1Q 化为列正交矩阵, 同时1T R R =, 即1T R R =.例 3.1 已知31000410A ⎛⎫ ⎪= ⎪ ⎪⎝⎭, 求A 的QR 分解.解 由Householder 变换易得10.600.80100.800.6H ⎛⎫ ⎪= ⎪ ⎪-⎝⎭令115140002A H A ⎛⎫⎪== ⎪ ⎪⎝⎭又2100001010H ⎛⎫ ⎪= ⎪ ⎪⎝⎭可使215140200H A R ⎛⎫ ⎪== ⎪ ⎪⎝⎭从而120.60.800010.80.60Q H H ⎛⎫ ⎪== ⎪ ⎪-⎝⎭例 3.2 用正交化方法求矩阵011110101A ⎛⎫ ⎪= ⎪ ⎪⎝⎭的QR 分解.解 由已知, 把列向量()10,1,1Ta =, ()21,1,0T a =, ()31,0,1Ta =正交化可得()110,1,1Tb a ==2211111,,222Tb a b ⎛⎫=-=- ⎪⎝⎭332111222,,32333Tb a b b ⎛⎫=--=- ⎪⎝⎭构造矩阵0Q ⎛⎫ ⎪ ⎪=⎪⎪⎭, R = ⎝则有A QR =.例 3.2 将矩阵132111A ⎛⎫ ⎪= ⎪ ⎪⎝⎭分解为QR 形式.解 取121311T A ⎛⎫= ⎪⎝⎭, 则66611TA A ⎛⎫= ⎪⎝⎭, 用-1乘以第一列加到第二列, 则有1206660611651312212111100T T A A R P A Q ⎛⎫ ⎪ ⎪⎛⎫⎛⎫⎪ ⎪ ⎪⎪⎪ ⎪⎛⎫⎛⎫⎪ ⎪ ⎪==→= ⎪ ⎪⎪ ⎪ ⎪⎝⎭⎝⎭- ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎪⎪⎭第列第列, 即0R = ⎝, 0Q ⎫⎪⎪=⎪⎪⎭参考文献[1] 张贤达. 矩阵分析及应用[M]. 北京: 清华大学出版社, 2004.[2] 刘慧, 袁文燕, 姜冬青. 矩阵论及应用[M]. 北京: 化学工业出版社, 2003.[3] 方保镕, 周继东, 李医民. 矩阵论[M]. 北京: 清华大学出版社, 2004.[4] 刘丁酋. 矩阵分析[M]. 武昌: 武汉大学出版社, 2003. 8.[5] 廖安平, 刘建州. 矩阵论[M]. 长沙: 湖南大学出版社, 2005. 7.[6] 张凯院, 徐仲．矩阵论同步学习辅导[M]. 西安: 西北工业大学出版社, 2002. 10．[7] 关红钧, 苏艳华. 关于n 阶矩阵的三角分解[J]. 沈阳航空工业学院学报, 18:4(2001), 38-40.[8] 冯天祥, 李世宏. 矩阵的QR 分解[J]. 西南民族学院学报, 20:4(2001),418-421.[9] 吴强. 基于矩阵初等变换的矩阵分解法[J]. 数学理论与应用, 20:4(2000), 105-107.[10] Fuzhen zhang, Matrix Theory, Springer, 1999.[11] Horn R A, Johnson C R. 1989. Matrix Analysis(矩阵分析),杨奇.天津：天津大学出版社[12] D J Field What is the goal of sensory coding？4(1994).[13] M Heiler.C Schnorr Learning sparse representations by non-negative matrix factorization Matrix factorization and sequential cone programming7 (2006).。