(完整word版)矩阵分解及其简单应用
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
对矩阵分解及其应用
矩阵分解是指将一个矩阵表示为结构简单或具有特殊性质若干矩阵之积或之和,大体分为三角分解、QR 分解、满秩分解和奇异值分解。矩阵的分解是很重要的一部分内容,在线性代数中时常用来解决各种复杂的问题,在各个不同的专业领域也有重要的作用。秩亏网平差是测量数据处理中的一个难点,不仅表现在原理方面,更表现在计算方面,而应用矩阵分解来得到未知数的估计数大大简化了求解过程和难度。
1. 矩阵的三角分解
如果方阵A可表示为一个下三角矩阵L和一个上三角矩阵U之积,即A=LU 则称A可作三角分解。矩阵三角分解是以Gauss消去法为根据导出的,因此矩阵可以进行三角分解的条件也与之相同,即矩阵A的前n-1个顺序主子式都不为0, 即?k工0.所以在对矩阵A进行三角分解的着手的第一步应该是判断是否满足这个前提条件,否则怎么分解都没有意义。矩阵的三角分解不是唯一的,但是在一定的前提下,
A=LDU勺分解可以是唯一的,其中D是对角矩阵。矩阵还有其他不同的三角分解,比如Doolittle 分解和Crout 分解,它们用待定系数法来解求 A 的三角分解,当矩阵阶数较大的时候有其各自的优点,使算法更加简单方便。
矩阵的三角分解可以用来解线性方程组Ax=b。由于A=LU,所以Ax=b可以变换成LU x=b,即有如下方程组:
Ly = b
{
{Ux = y
先由Ly = b依次递推求得y i, y2, ........ ,y n,再由方程Ux = y依次递推求得X n,
x n-1 , ... ,X1 .
必须指出的是,当可逆矩阵A不满足?k工0时,应该用置换矩阵P左乘A以便使PA 的n个顺序主子式全不为零,此时有:
Ly = pb
{
{ Ux = y 这样,应用矩阵的三角分解,线性方程组的解求就可以简单很多了。
2. 矩阵的QF分解
矩阵的QR分解是指,如果实非奇异矩阵A可以表示为A=QR其中Q为正交矩阵,R为实非奇异上三角矩阵。QR分解的实际算法各种各样,有Schmidt正交方
法、Give ns方法和Householder方法,而且各有优点和不足。
2.1 . Schmidt正交方法的QR分解
Schmidt正交方法解求QR分解原理很简单,容易理解。步骤主要有:1)把
A写成m个列向量a= (a〔,a2, ... ,a m),并进行Schmidt正交化得ct = (a 1,
a 2,.. , a m ) ;2)单位化,并令Q= (B 1,B 2, . , B m ),R=diag (a 1,
,a m ) K其中a= K; 3) A=QR.这种方法来进行QR分解,过程相对
OC 2,
较为复杂,尤其是计算量大,尤其是阶数逐渐变大时,就显得更加不方便。
2.2 . Give ns方法的QR分解
Give ns方法求QR分解是利用旋转初等矩阵,即Give ns矩阵T j (c,s)来得到
的,T j (c,s)是正交矩阵,并且det(T j (c,s))=1 。T j (c,s)的第i行第i列和第j
行第j列为cos=,第i行第j列和第j行第i列分别为sinO和-sin 2,其他的
都为0.任何n阶实非奇异矩阵A可通过左连乘T j (c,s)矩阵(乘积为T)化为上三角矩阵R,另Q=T,就有A=QR该方法最主要的是在把矩阵化为列向量的基础上找出c和s,然后由此把矩阵的一步步向上三角矩阵靠近。Give ns方法相对Schmidt正交方法明显的原理要复杂得多,但是却计算量小得多,矩阵T j (c,s)
固有的性质很特别可以使其在很多方面的应用更加灵活。
2.3 . Householder 方法的QR分解
Householder方法分解矩阵是利用反射矩阵,即Householder矩阵H= E-
2uu T,其中u是单位列向量,H是正交矩阵,detH = -1。可以证明,两个H矩阵的乘积就是Give ns矩阵,并且任何实非奇异矩阵A可通过连乘Householder 矩阵(乘积为S)化为上三角矩阵R,则A= QR这种方法首要的就是寻找合适的单位列向量去构成矩阵H,过程和Give ns方法基本相似,但是计算量要小一些。
矩阵的QR分解可以用来解决线性最小二乘法的问题,也可以用来降低矩阵求逆的代价。矩阵的求逆是件不小的工程,尤其是阶数慢慢变大的情况时,而用先把矩阵QR分解成正交矩阵和上三角矩阵,就容易多了,况且正交矩阵的转置就是逆,这一点是其他的矩阵分解无法比拟的。在解求线性方程组中,如果系数矩阵的阶数比较大,可以利用QR分解来使计算简单化。另外,QR分解考虑的是n阶矩阵,其他的矩阵是不能用这种方法进行分解,由于QR分解的这一前提条件,使得下面提到的满秩矩阵分解和奇异值分解就有了其特殊的意义。
3. 满秩分解
满秩分解也称最大秩分解,前面的QR分解是面对n阶矩阵的,而满秩分解可以处理长方阵。满秩分解是指,把秩为r的mxn矩阵A分解成A=FG其中F 是秩为r的mxr阶矩阵,G是秩为r的rxn阶矩阵。满秩矩阵的解求可以通过初等变换法,但是必须经过多次求逆,所以就利用Hermite 行标准形来完成。把矩阵A经过变换成为Hermite行标准形B,B的j i,j 2, ......................................................................................... ,j r列为单位矩阵I m的
前r列,另A的第j i,j 2,……,j r列为矩阵F,B的前r行为矩阵G,则有A=FG 在广义逆中,满秩分解有很多的应用。在证明A{1}的存在性时就需要用到Hermite行标准形来得到“对于任一的矩阵,总是存在非奇异矩阵Q和置换矩阵P,使QAP= (E r 00) ”,之后才能构造X= P(E r:)Q来证明A {1}是存在的。用矩阵的满秩分解还能构造A+,若矩阵A有满秩分解,即A=FG则可以证明有A+ =
G H(F H AG H)-1 F H。
4. 奇异值分解矩阵的奇异值分解是线性代数中一种重要的矩阵分解,在最优化问
题、特征
值问题、最小二乘问题和广义逆问题及统计学问题中都有重要的应用。对秩为r 的mxn阶矩阵A进行奇异值分解的步骤是:1)求得AA的特征值Y,Y,……Y,
2
及对应的特征向量并正交单位化,得矩阵V,使得V H(A H A)V=M 00], M =
diag(仃Y,……Y n); 2)将V的前r列作为V,令5 = AV1H-1,再扩张U成m 阶的矩阵U; 3)那么A= 5》0] V H。从计算过程中可以看出,矩阵的奇异值分解解求是由矩阵的特征值开始的,因此这种分解自然和特征值的问题有莫大联系的。
在广义逆问题中,矩阵的奇异值分解的作用一样不可代替。在证明A{1,2,3}的存在性时,首先就需要用奇异分解来得到一个结论:r(A H A)= r(AA H)= r(A H)=
r(A),由此得到的A H可以由AA表示,再去证明A {1,2,3}应该满足的条件就方便得多了。另外,在构造A+的过程中也有应用,若A有奇异值分解A+ =
U(M 0))V H,则有可以得到A = V(M-1 0 )。
5. 奇异值分解应用于秩亏网平差
在经典平差中,都是以已知的起算数据为基础,将控制网固定在已知数据上,比如水准网必须至少知道已知网中某一点的高程,平面网至少要已知一个点的坐标、