矩阵分解及应用
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
引言
数学是人类历史中发展最早,也是发展最为庞大的基础学科。
许多人说数学是万理之源,因为许多学科的研究都是以数学做为基础,有了数学的夯实基础,人类才铸就起了众多学科的高楼大厦,所以数学的研究和发展一直在不断的发展壮大。
在数学中有一支耀眼的分支,那就是矩阵。
在古今矩阵的研究发展长河中产生了许多闪耀星河的大家。
英国数学大家詹姆斯•约瑟夫•西尔维斯特,一个数学狂人,正是他的孜孜不倦的研究使得矩阵理论正式被确立并开启了矩阵发展的快速发展通道。
凯莱和西尔维斯特是非常要好的朋友,他也是一位非常伟大的数学大师,正是他们伟大的友谊,加上两人的齐心协力最后他们共同发展了行列式和矩阵的理论。
后来高斯在矩阵方面的研究取得重要的成就,尤其是高斯消去法的确立,加速了矩阵理论的完善和发展。
而在我国,矩阵的概念古已有之。
从最早的数学大家刘徽开始我们古代数学大家都已或多或少的研究了矩阵。
尤其在数学大家刘徽写的《九章算术》中,它最早提出了矩阵的类似定义。
而且是将矩阵的类似定义用在了解决遍乘直除问题里了。
这已经开始孕育出了最早的矩阵形式。
随着时间转移,矩阵的理论不断的完善,在对于那些大型矩阵的计算中如果用基本方法显得过于繁重,于是发展出了矩阵的分解,随着对矩阵分解的不断研究完善,矩阵分解方法和理论也日趋成熟
矩阵经常被当做是数学工具,因为在数学问题中要经常用上矩阵的知识。
矩阵是一个表格,要掌握其运算法则,作为表格的运算与数的运算既有联系又有差别,在所有矩阵的运算方法中,矩阵的分解是他们中一种最重要并且也是应用最广泛。
矩阵分解主要是对高斯消去法的延续和拓展。
在一些大型的矩阵计算中,其计算量大,化简繁杂,使得计算非常复杂。
如果运用矩阵的分解,将那些大型矩阵分解成简单的矩阵的乘积形式,则可大大降低计算的难度以及计算量。
这就是矩阵分解的主要目的。
而且对于矩阵的秩的问题,特征值的问题,行列式的问题等等,通过矩阵的分解后都可以清楚明晰的反应出来。
就连矩阵的奇异性也显而易见。
在另一方面,对于哪些大型的数值计算问题,矩阵的分解方式以及分解过程也可以作为其计算的理论依据。
第一章矩阵的基本知识储备
矩阵的知识体系涉及的知识多而且琐碎,所以先对其整体知识性构建基本的 知识体系。
即首先对矩阵的基本知识进行储备。
所以本文将首先进行基本知识的 总结和概述。
1.1矩阵的基本知识
(i =1,2.・.m;j =1,2...n )排成的m 行n 列的数表:
上面式子也可写为: ^A m ^(a ij )m ^(a ij ).这个所述的m n 个数也称之为矩阵 A 的元素,即简称它是元。
实矩阵:指的是元素全是实数的矩阵。
同理知道复矩 阵即为元素是复数的矩阵。
下面所述几种比较特殊的矩阵:
(1) 方阵指的是行数和列数相等的矩阵。
简记 A n n
(2) 仃向量:A n =(31, a 1,..., a n )。
_aj
(3) 列向量:B="。
(4) 对角矩阵(对角阵)。
把它记做是:A 二diag(‘1,‘2,..., n )
a ii
a 21 _a m1
a in a 2n
a m1 a mn
定义:由m n 个数a ij a 22 n
(5)元素全是0的矩阵叫做零矩阵。
(6)对于主对线的左下方,如果其元素都是0,则称它是上三角矩阵,否则称作是下三角矩阵。
例如:
a i1 a
i2 ... a in I
A 0 a22 (2)
■ ■ ■■ ■ ■■ ■ ■ ■ ■ ■
-0 0 ... a nn 一
(8)对角矩阵中元素都为1的对角阵叫做是对角方阵。
1.2 :可逆矩阵(非奇异方阵)的定义
可逆矩阵的定义和线性代数是紧密联系在一起的,即给定一个方阵A,它是
n阶方阵,如果存在和A同为n阶的方阵B,使得AB=BA = E (或
AB二E, BA二E中总有一个成立),E指的是阶数为n的单位矩阵,那么A就是可逆矩阵,B则叫做A的逆矩阵,即A J =B。
方阵A的逆矩阵如果是存在的话,把矩阵A 称作是非奇异方阵或者是可逆方阵也可以是满秩矩阵。
如果 A = 0 ,那么
矩阵A通常被称作是奇异矩阵(降秩矩阵)。
对于矩阵A,如果他不是满秩的矩阵,也就是它的行列式的值是不等于零的,即满足条件:丨A|M 0。
那么A则必
定是可逆的。
上面叙述的性质也是我们在学习中经常用于判断矩阵可逆的充分必要的条件。
而对于下面叙述的条件是与上述判断矩阵可逆的条件是等价的:
(1) 矩阵A是可逆的的矩阵。
(2) A的行列式不为零。
(3) A 的秩等于n (即矩阵A是满秩矩阵)。
(4 ) A等价于单位矩阵E
(5 ) A仅仅用初等行变换就可以化成单位矩阵E
1.3 :共轭转置的定义(A),j二兀。
其中()i,j表示矩阵i行j列上的元素,门表示标量的复共轭。
这一定义也可以写作:A = (A)^ A T,其中A T是矩阵A的转置,A表示对矩阵A中的元素取复共轭()。
通常情况下我们用记号A*或A H来表示矩阵A的共轭转
置。
对于在某种情况下极易混淆,就是在特定情况下」表示只对矩阵元素取复共轭,而对矩阵做转置,概念不能混淆。
比如,对于矩阵A假如等于如下:
—;3+i 51
A —
]2—2i i 一
那么由上面所述的性质定理可以得到矩阵A的共轭转置:
A*," 2 2i
:5 -i J
假如矩阵A的元素都是实数,即矩阵A是实矩阵,那么共轭转置矩阵A*与矩阵A 的转置矩阵A T是相等的。
复数的推广中经常用到的是复值方块矩阵,而共轭转置是对共轭复数的推广应用。
共轭矩阵的基本性质:
(1) 如果矩阵A和矩阵B的维数相等,贝U: (A B)*二A* • B*
(2 ) (rA)*二r*A*,并且其中r是复数,厂为r的复共轭。
(3) 对于m行n列的矩阵A以及n行p列矩阵的矩阵B,有(AB)*二B* A*。
(4) (A*)* 二 A
(5 )假如A 是方阵,那么有det(A*) =(det A)*,并且有tr (A*) = (trA)*,
如果矩阵A可逆,则仅当在矩阵A的共轭转置A*是可逆矩阵,且满足,(A)」=(A J).
对于共轭矩阵A*它的特征值相较于矩阵A的特征值,它是矩阵A特征值的复
共轭。
1.4 :酉矩阵的定义:
n阶复方阵U,当矩阵U的n个列向量同时也是矩阵U空间的标准正交基的时候,我们把矩阵U叫做是酉矩阵。
酉矩阵的判断方法:对于那些方阵本身即U矩阵乘以方阵的共扼转置即U
的共轭转置最后的结果是单位阵,那么就可以判定矩阵U肯定是酉矩阵。
换一种表达就是对于酉矩阵有:其逆矩阵和伴随矩阵相等。
并且对于酉等价指的是从标准的正交基变换到标准正交基的一种特殊的基变换的方式。
也可以用如下定义来描述酉矩阵:即如果一个复矩阵U它是n行n列的,并且同时满足条件:U*U二UU* =l n。
而对于I n,它是一个n阶的单位矩阵,对于矩阵U*,它是U的共轭转置矩阵,这也就是矩阵U的酉矩阵,如果对于矩阵U, 其他的共轭转置U*是原来矩阵U的逆矩阵时,即时U」=U*.
在酉矩阵中有一种特殊情况:即对于酉矩阵,如果它的所有元素都是实数的话,可以判定它为正交矩阵。
且其和正交矩阵G有着差不多的性质:即他们不管怎么变化都不会改变实向量内积,即:
(G x, G y) = (x, y)。
同时,酉矩阵U也是不会改变两个复向量的内积的:(U x,U y) = (x,y),下列条
件和U是n阶方阵是等价的:
页眉内容
(1)对于U是酉矩阵的话,那么U*也一定是酉矩阵。
(2)对于U矩阵,他的列向量同时也构成了G n上的一组正交基在它所对应的内积空间下。
同时也可以推断出它的行向量也构成一组正交基在内积空间G n下。
酉矩阵U的性质:
(1) U是可逆矩阵;
(2) U」二U*矩阵U的逆矩阵等于矩阵U的转置矩阵,同时有U*是酉矩阵;
(3) det(J)=1;
(4) U X 2 = X 2 ;
第二章矩阵的三角分解
矩阵的三角分解是所有矩阵分解知识中第一个被提出来并被完善的。
矩阵的三角分解在矩阵的分解中有着基础的作用。
最早的时候是高斯在研究矩阵消去的时候发现了三角法,后面在弗罗博扭波斯的大力研究发展下,矩阵的三角分解取得了极大的突破。
本章节主要对矩阵的三角分解进行详细的探讨。
值得一提的是在19世纪,西方数学进入中国后,许多中国的有识之士结合中国数学发展和西方数学知识,为整个数学知识的推动起了很大的作用。
2.1 :对于高斯消去法的方法和它的计算思路的初步探讨例1,解方程组:
2X! X2 X3=7
丿4X, +5X2 -X3=11,
Xr _X2 +X3=0
解:首先我们先写出该方程组的矩阵形式:AX二b,并且有:
_2 1 q 「7] A=4 5 -1,b=11.
1「1」m
第一步,那就是消元的过程:对增广矩阵进行消元:
12117
〕
■2117 1■2 1 1 7 1
(A b)=45-11103-3-3->03-3 -3
i1-110一0—1.5-0.5-3.5一00=1 =5即得方程组:
2X“ +X2+ X3 = 7
«3X2 _3X3 = -3 .
、_X3 = -5
第二步,回代过程:
[ X3=(-5)/(-1) = 5
«X2=(-3+3X3)/3 = (-3 + 3P)/3 = 4
X = (7 _ X2 _X3)/2 = (7 _4 _5),'2 = -1
上面所用的方法是高斯消去法中最基本的一种方法。
2.2 :高斯消去法的基本计算过程和它的计算公式
页眉内容
设线性方程组:
a ii X i +412X 2 +…+ a i n X n a 2l X i
422X 2 ' ... ' a 2n X n
a
m1 X
1 ' a m2
X
2 '…'a mn X n
方程组可以写成下面的矩阵形式:
二
b i
a 11 %
..
a
1n 1 X
1
a
21
a
22
.
a
2n
X 2
—
b 2
.a m1
a
m2
. ..a mn
A 一 1 b
n
一
同时也把上面式子简记为Ax =b,初始的方程组写作:AX 二b 写作A ⑴X =b ⑴.
(1)对式子的第一次消元(k=1),先消去2到n 这(n-1)个方程组中的咅,如
设af = 0,要做到:
a (1)
a (1)
第i 个方程-(减去)第1个方程-^,口1=-^‘这时a (2) =0, i=2,3,…,m,而且右
an an 端和它的系数有:
a (2) =ai (1) —口崗常卫日,…,m; j=2,…,n)
b (2)
=bj ⑴一 mb ⑴,(i =2,...m)
(2)第k 次消元(k =1,2, .., s = min (m -1,n ))假设已完成,即上述消元从第 步到第k 步计算都以完成。
与其相等价的方程组我们已经算好:
简记上式为:A (k )x =b (k ),如果设a ;:〉= 0,第i 个方程-(减去)第k 个方程则得到:
「事事. ..事
a
-
a 21 a 22). ..a 2^
b 2 T
■am 1
} a m2 . ..a mn
b n
一
(1) (1) an a 12 (1) a 1k (1) a 1,k -1
(1) a 1 n _X T a (k)
a kk
a (k
)
a a (k
) a
k,k 1 J"
a
k 1 ,k -1
a (k) a
kn J" a
(k) k (k) k 1
bL b k k)
a mv
a mh
a
(k) mn
(k) n
>m k)
0 (A:b)=
a mn
b
斜
(1)
a
(k) ik
a kk
o
,a (k k)
a kk
=0, i = k,...,m, A (k 1)x = b (k 1)
对于A(k 1)和b(k 1),下面的公式是对他们的元素的:
a(k*)=a(k)—m ik a kj k),(i =k j =k + 1,…,n)
b(s)=b(k)—m k b k k),(i =k+1,...,m_
(3) 延续上述计算,且使aS? =0(k =12…,s), —直到第s 步消元计算结束 得到了: A (s1)x 二b (s1),即是A (s1)x =b (s1),这个方程组是与原来的方程组等价的。
而对于与原来方程组等价的方程组里面有:对于 A (s1),他的形状是上梯形的。
akJ =0(k =1,2,..., n)是成立的。
则在求解下式的时候就可以得到求解公式是:
X n 七\船,
n
X i =(b i (i)
- 7 a (i )X j )
求解过程称做回代过程。
有了上面的对基本的知识的理解和储备,那么我们就可 以
轻松的理解下面的这些基本定理: 定理1:设线性方程组Ax 二b,A 是n 阶实矩阵,即:A R nn ,如果有
a k 『=0(k =1,2,3,…,n),则运用高斯消去法可以将线性方程组 Ax =
b 转化成与三角
形方程组等价,计算步骤如下: a) 消去计算(k=1,2,…,n-1)
m ik =a ik k)/a k k 〉(i = k +1,..., n_ «a 『力=a j k) — m ik ajli, j = k+1,...,n).
b i (kH
° =b :k) —m ik b k k)
(i =k+1,..., n)
b) 回代计算:
要想得到与原来的方程组等价的方程组 就有如下: A ⑸x =b ⑸,就得只在当m=n 的条件下,也 蠹]「X 11 b ⑴
1 b 22)
a 22) X 2
=
1 b n n) 一
由上式约化的过程称为消元过程。
如果 A R n n 它是非奇异的矩阵,同时
n - 1,n 一 2,・・. ,1).
(i = n —1,n — 2, (1)
X i =(b『—{ a j)X j) /a絆
j=L^ /
前提:矩阵A它是非奇异的矩阵,同时有:我们可以运用高斯消去的方法(也就是做两行进行交换的初等变换)把原始的方程组Ax = b化简成诸如上述形式的式子。
这样对于下面的定理就可以很轻松的理解:
定理2:因为对于系数矩阵A,它的各个阶的顺序主子式都是不是0的,所以高斯消去法才可以运算到底。
高斯消去法能进行到底,就是因为上述定理,这也是充分必要条件。
定理2也表明:若阶顺序主子式不等于零则需满足a kk)=0。
他们相互之间同时也是充分必要的条件。
但是通过这个我们也就可以看出高斯顺序消元法的一些不足之处,最为突出的是在条件亦=0时,这时的方程组不一定是没有解的,这时候运用高斯顺序消元法的话,它的首要条件就没有满足,那么它的第一步运算也就不能够进行下去可。
这时就可以用到列主元消元法。
下面的这种表达也归为是高斯消去法的一种方式,即:
形如
(1
0 (1)
L
k= 0 …l“,k 1
3 3 3 3 +
2 …Ink 0 …1>
例如当k=1时,有
,1
1
21
1
L-1= I31 0 1
9 9 9并且有:
2
a
kk i 二k 1, ,n
并且对于主对角线元素,他们全都是 1 ,而剩余的元素就都是0
k =1,2, ,n-1
广1
_l21
,L「= T31 0
* a1
a +
<_l n1 0
0… 1?
L J A = a ii
a i2a i3 …a in
a22)a(i)…
a23
a2i n
)
a32)
a
Ji) a33
3 +
a3i n
)
a
a⑴
62
J。
a n3 …a⑴6n
其中:容易看出a
ij =
a
ij -
l
ii
a
ij
i =2,3「,n; j =1,2/ ,n
L
k = E n
1
k
e
k k =1,2/ ,n -1
L
k
= E + 丨 k e k L :L 「= E -1 k e k 一1 j e j
k, j =1,2, ,n-1,k= j
那么有L 对应于A 的矩阵是单位的下三角矩阵。
则有L 'A ^A 1 , L^A 1二A 2,…丄二A n ,这样的表达方式就是高斯消 元的过程的矩阵形式。
2.3 :方法细述
定义:三角分解指的是那些将正方阵分解成由上三角阵和下三角阵组成的分解方 法。
同时这样的分解方法称为LU 分解法。
在较大的矩阵行列式值的计算过程中, 进行直接的计算非常繁琐,而进行矩 阵的分解可以大大简化运算,所以三角分解方法主要用于简化计算。
矩阵三角分 解是建立在高斯消去法上,高斯消去法是三角分解的基础。
所以矩阵符合三角分 解的条件和满足高斯消去法的条件一致,即矩阵A 需满足其前n-1阶顺序主子式 不等于零,上面的条件也经常被用于判断矩阵 A 是否是可以进行三角分解的前提 条件,如果不能够满足这个条件的话,那么再怎么进行分那都是没有任何的意义。
在矩阵的三角分解法中,分解方法并不唯一,而是不同情况有着不同的分解 页
眉内容
其中: 特别的 L 二 L 1L 2 L n 」
1
l
21
l
31
1
l
32
J n1
l n2 l n3
般地,设A
(k )
a 12
a
1k
a t k 1
-
a 1 n a
(1) ... a 22
+
a (1) a 2k a (1
) ... a
2,k 1 a
a
a
2n
a
a (2) a kk
a (k J) ... k,k 1 a (k-1) a kn
a (k)
... a
k -1,k 1
a
+ a (k ) a
k -1,n a
a
(k) ...
a
n, k 1
a
(k) a nn
a
ii
法。
但在某些特定的条件下,A二LDU的分解就只有唯一的存在,D指的是一个对角矩阵。
Doolittle 分解、Crout分解以及Cholesky分解是矩阵三角分解众多方法中最常用的三种。
且对于这三种三角分解,他们在进行三角分解时均要使用待定系数法。
且在计算阶数较大矩阵时,上述三种方法各有优点,都可使算法简单方便。
(1)Doolittle 分解:任意方阵A,进行初等变换化为两三角阵乘积。
即进
行:PA-LU(P:置换阵,L:下三角阵,U:上三角阵)。
最后得到A二LU , 这就是Doolittle 分解。
对于Doolittle 分解有:假设Aw R nxn,如果A的前n-1 阶的顺序主子式都不是等于0的,那么Doolittle 分解就可以实现,也就是
A = LU,在这种条件下三角分解式是唯一的。
(2 ) Crout分解:在Doolittle 分解中有A=LU,如果把Doolittle 分解中L
换成下三角矩阵,U换成是单位上三角矩阵•此时分解依然是成立的。
则此时的这种分解称为Crout分解。
如果n阶方阵A,它的k阶主子式均不等于0,
(k=1,2,...., n 一1),则矩阵A的Doolittle 分解和Crout分解都是唯一存在。
定义:对于式子A二LR,如果A满足A C r n n并且假设存在这样的下三角矩
阵:C nn和上三角矩阵R C nn,那么称A是可以进行三角分解。
三角分解有一些基本的定理:
1)矩阵A可进行三角分解的条件:对于矩阵A,其前r个顺序主子式全都都不等于零,同时A满足条件A c n n,即::k =0, k =1,2, ,r
o
2)假设有m行n列的矩阵A ( A C mn)。
满足:- 0(k =1,2..., n-1),即前n-1 阶顺序主子值不等于0。
同时满足:L单位下三角阵,U单位上三角阵,D对角矩
阵,即 D 二diag(d1 ,d2,...,d n),且满足4 =厶仆d k二—(k 二2,3,..., n).那么A就可以唯一分解为A二LDU,这也是矩阵A可以进行唯一分解的充要条件。
2-13
例:求矩阵A= 1 2 1的LU分解和LDU分解
'2 4 2_|
解:因为J =2, —=5,所以A有唯一的LU分解,令:
则有:_1
1
2 -1 『A(0)=|o 5
.0 5
2 -1
申⑴=0 5
2 卫0
3 * j
--=A⑴,再令1_2= 0
2
-1 0
1 _1
,故有L: = 0 1
1 一卫_2
3【
--=A(2).由此知道L =L丄2
2
■
1
2
,则有:
1
1 于是A = A(0)的LDU
2 1
2.4 :矩阵的三角分解的计算方法以及其格式的初步探讨 (1)直接计算法:直接计算法是高斯消去法的一种延伸,它是三角分解最基本 的方法。
直接计算法相比高斯消去法,其本质基本未变,就是将原方程组化成由 一个或者是由若干个三角形方程组组成的过程。
直接计算三角分解的方法并不唯
,这需要我们根据实际的情况选用合适的计算方法。
对于方程组
Ax 二b 首先
7
?
它是非线性方程组。
对于此方程组有:
矩阵A 是此方程组的系数矩阵,X 是此方程组中的未知的向量,b 是方程组中的 常
数项。
在Ax=b 此线性方程组中,若其系数矩阵A 可分解由两个三形矩阵L 和
就是我们经常说的矩阵的直接三角形分解法
a )Doolittle 分解法(直接三角分解)•在实际计算中,用最基本的直接计算 法进行三角分解也是很繁琐的,如果运用LU 分解的紧凑格式,则可以大大的降低 计算复杂度。
所以下面将讨论LU 分解的紧凑格式。
首先:对于下面的式子,总满 足:A ,
C ;n ,并且矩阵A 它是能够进行三角分解。
由:A=~R 方法,有:
分解为: 从而可得到A 的LU 分解为: 1 , 1 5
-1 0 - 2 2 」2 1 一 0 0 0 一
0 0
A = 4A ⑵
2
1 5
1
_
1 1
2 01「2
-1 5
2 0
3 1
1 _
2 0
玄 a 12
. ..a 1 n ■xj a
21 a
22
. a
2n
,x =
X 2
_a n1 a
n2
.
a
nn -
1
b 2
的构成形式,即A = LU 那么有:
A 二
b 二
b 一
Ax = b= LUx = b
o
这样的分解方法
a i1 a i2
a 21 a 22
a a
■
・
fn1 a
n2
a
i n
a
2n
a
nn j
I
n1
°11 r
12
r
22
n,n A
a ij 二 W j = 1,2, ,n , a ii = 1沙1
(i = 2,3,…,n),
k_J
则有 a kj 八 Gm % j = k,k 1, n;k 二 2,3, ,n ,
kJ
a ik =」it r tk l ikhk i = k 1,k 2, n; k = 2,3, ,n .
由上我们不难得出如下紧凑型计算公式对于矩阵 A :
由此类推,就可得出Crout 分解的紧凑计算格式是:
S 二 a i1
a
1 j
「1 j
1
111
k -4
i l ik =
a
ik
-z ! it r tk
t m
1 /
k4 r
kj 二 1 1 a kj - -邑 l kt r tj |
1. l kk
tm
例:上面已经给出了 Doolittle
(i = 1,2「,n),
(j 二 2,3/ ,n),
(i = k,k T 「, n;— 2,3/ , n), (j - k 1^ ,n;k = 2,3,
n).
方法,下面用Doolittle 方法实际解下列
方程组:
2
10
0 -3 -4 -12 I 1 2 3 .4
14
9
解:
(U 11, U 12, U 13, U 14
r
ij
1
i1
1
ik
=a 1j
On
「11
k d
=a kj
1
kt r tj
kJ
a
ik
(j
,n),
(i 二 2,3/ , n),
(j = k,k 1, ,n; k 二 2,3, ,n),
八 l it r tk (i = k 1, ,n;k = 2,3,
,n).
-3_ _x j ■10 1 13
X 2
5
-4
X 3
-2 T3 一
X 4 一
[ 一7 一
=(2,10,0,-3) > 5j 二 au
共享知识分享快乐
(1,I21,I31」41)T=(1,一1.5,0.5,2)丁> l i!a ii
U ii
共享知识分享快乐
(0巴2巴3巴4) =(0,11,-12,8.5)
(0,%,』=(OI,-3II,-6II)T
(0,0, U
33, U34)= (0,0, 'll, 2]"
(0,0,1,143) =(0,0,1, _9)T
、,
(0,0,0, u44) = (0,0,0,-4)
r -1
二 a. l. u.. rj
rk kj
k
r -1 a—送L k u k
ir •—ik kr 二k=1
u
解Ly = b,得:
(y i,y2,y3,y4,)T=(10,20,-17 11,-16)T 解Ux =y,得:
n
y「- ' U rj X j
nn
j甘卅,人
U
(X i,X2,X3, X4)T=(1,2,3,4)T
从上可一般的直接计算法计算过程特别繁琐。
如果我们使用上面所述的Doolittle 紧凑分解法则可大大减小运算。
过程如下:
a 11a
i2
a
i3
a
i4
a
i5
一2100-3
101 I2
3
. a21a
22
a
23
a
24
a
25-3-4-121352
A ==T A
a
31
a 32a33a34a35123_4-21
^41 a 42a43a44a45 _149-137」:2
4
10
-4
2
14
-3
10
-12 13
-4
—
13
-2
「2
3
2 1 10
11
3
1
1
6
1
1
-12
3
11
-9
-3
17
2
2
_
11
-13
10
20
17
11
7
「2
3
10 0
11 -12
3 3
11 11
卫-9
11
17
2
2
11
-4
11
X22
X33
X4
一l4_
所以有:x
■xj TI
*2 例题:求矩阵A = 1 <1
-1 3、
2
1的Crout 分解 4 2
」
解:首先算出:
因此矩阵A 的Crout 分解如下
1 进行交叉计算(就是指一行一列的进行交叉计算),同时也要把计算得到的 值存放到矩阵A 相对应的位置,最后要得到完整的 U,L 矩阵。
2 最后一步就是计算列向量y,然后就是得到X,这也就是方程组的解。
2.5 :列主元法
列主元三角分解法:在直接三角法中,在一些情况下会出现一些误差,所以 这时我们就要选择列主元三角分解法。
比如在矩阵的直接三角分解中,当 山"
的时候我们不难看出计算会出现中继,而当 U n 的绝对值非常小时,照搬分解公 式进行计算有可能会引起舍入误差的累计。
但是如果矩阵A 是非奇异的,那么我 们就可以通过交换A 的行实现矩阵PA 的LU 分解。
因此列主元分解法的目标与高
a
ii
11
l
31
=a 31 = 2
a
12 r
12
|-
l
11
l
22
一丨 21r 12
32 -a 32 - l 31 r
12
r
23
a 23 - l 21r
13
-
l
22
l
33
-l 31 r 1^ _ l 32r
23
- 1
a
13 11
共享知识分享快乐
通过上面的例子我们就可以总结出矩阵直接三角分解法的解题步骤依次是:
(1)第一步写出原来方程组的系数矩阵A,然后根据三角分解公式分别求出U 矩阵的行元素和L矩阵的列元素。
斯列主元消去法的原理相同,为了消除因数过小而产生的误差扩散。
列主元三角分解法的解题步骤:
1)先列出增广矩阵Ab,然后对增广矩阵Ab求出其第一列的主元a h1,在计算中,
为了获得矩阵主元,需进行换行运算,主要是对矩阵U的第一行元素与矩阵L 的第一列元素。
2)重复上述的行列交换,并进行交叉计算,而对于得到的计算值,我们要将其
存放到矩阵A的对应位置。
到第K步的时候:需要求出主元Skk,并且交换行
3)为了可以得带整个U,L矩阵,我们要求出矩阵U第k行的元素以及矩阵L第k列的元素。
算完后算出列向量y,最后就可以得到X,也就是方程组解x。
2.6常用Cholesky分解(对称正定三角矩阵的分解)
定义:在学习工科时,尤其是工程方面的知识时,经常会碰到一些工程计算的实际冋题,而我们在解决许多工程计算冋题时,尤其是哪些复杂的工程计算冋题。
通常都有用到线性方程方面的知识。
在线性方程组的求解中,我们经常用到一个线性方程组的普遍性质。
即对于线性方程组,其系数矩阵通常都存在这样性质:对称正定性。
因此如果我们能巧妙利用对称正定矩阵具有的对称正定性这一性质,则我们在实际求解中就可以快速的求解出对称正定方程组。
而在此求解对称正定方程组
的方法中,有一个明显的优点,即利用这种求解对称正定方程组的分解过程中,无需事先选取确定主元。
因为具有这一特点,使得这种计算相较于其他算法有个特别的优点,就是它的数值稳定性是非常好的相比其他方法。
首先:设A C n n是Hermite正定矩阵,则存在下三角矩阵G C n n,使得
A二GG H,称之为A的Cholesky分解。
如果给定一个n阶方阵A。
并且这个方阵是对称正定阵,且同时也满足条件:
det(A) 0,A—A,而A的顺序主子式:detA 0,k=1,2,..., n.则方阵A可以进行LU 分解。
写做:A二LU。
U nn ) = [ diag (、U ii , x U 22,■-., •、、 U nn )] 2
)
i i i i
= LD^D 2U o =(LD 空)(D ㊁U o ).
由于有:A = LU=LDU °是唯一的。
而U o 是单位上三角矩阵,U T 是单位下
三角矩阵。
而A 为对称正定矩阵即:A T 二A.所以就可得到
i
I
A T =(LDU o )T =U J D T L T =LDL T •并且满足 L 二U
T ,(LD T = D^U o .综合上面所述
i
进
行整体分析,就可以看出如果矩阵 A 是n 阶对称正定矩阵,同时令L i=LD3 则可以得到A 二L i L T .
U
22 氏3 . L^2n
氏2
U =
屯3 .
U 3n
=
屯3
Uin
一
U l2 Uli 1
Ul 3
Uli
U
23
U 2
2
Ui
n
U i U 2
n
U = DU 0.
丄
U nJ
1n
i -
U
n _I ,
nJ.
i
D = diag ( U ii , U 22
U =DU 0 =D 2D 2U 0
Ul i U|2 Ui 3 ... U n U l
定理:如果方阵A 是对称正定矩阵,那么对于方阵A , —定可以分解成两个矩阵的 乘积,即A 二LL T ,这里面矩阵L 是一个主对角元全数正数的下三角阵。
并且对于 该分解,它的分解是唯一存在的。
这就是Cholesky 分解。
它实质是指的一种和对 称正定矩阵关联的分解法。
如果矩阵A 满足A C nn 即矩阵A 是n 阶实方阵,且同时也是Hermite 正定矩阵, 那么一定存在这样的下三角矩阵 G C n n ,使得A = GG H 成立,对于矩阵A 。
令 A =
(a ij ),G -(g ij )为下三角矩阵,则由A=GGT 可得到:
a j =^gii g ji - g i2g j2 ' ... - g j g jj (i j)
且有:
由上述,对于Hermite 正定矩阵A 的Cholesky 分解的紧凑计算格式如下
i 二 2,3厂,n ,
对于分块矩阵,它是矩阵的一种特殊处理办法。
其不改
变矩阵计算的基本方法。
所以对于分块矩阵的块三角分解:只需将块看成是一个元素,则就可以进行块分 解。
也就是进行LU 分解丄DU 分解以及UL 分解对于矩阵A 的块。
它的块分解如下:
A 11 A 12
_ I n1
0 A1 A 12
_ 丨 n1 0
A 11
0 I
n1
A A 22 一_每吋 I n2 _0
[飞小;1
I n2 _0
_0
其中
a i
2 2 2 g i1
- g i2 …
gii
g kk
g
ik
kk
kt k -1
ik
-z
it
kt
g kk
t =1
k = 2,3厂,n ,
i = k1, ,n;k=2,3, , n .
g i1 i1 11
A 11 A 2
I
n1
I n2
心—A22 - A21 AI1 A
'■ = AI1 ~■ AI2
A 22 A 21
A^ = det A 1l det(A 2 - A J A I A Z ) = det(A j - A 2A 2A 21)detA 22
A 22
例:设A R mn ,B R m n ,则有:
于是有:
AI1 det Ai
det(l m AB)二 det(l n BA)
证明:
注:若 a,b^ R n 滅,则有 det(l n +ba T ) =det(1 +a T b) =1 + a T b
2.7 :矩阵的三角分解与解线性方程:
在科学和工程问题的研究中,我们发现许多的变量都是呈线性关系,即使对 于哪些不是线性的问题,我们也可以通过合理的转换化为线性化的问题, 所以在 数学学习中扎实掌握线性方程组在数学中的解决方法格外重要。
而对于方程组 AX 二
B 的系数矩阵A 如果能做出三角分解,那么对于此线性方程组的求解就很方 便。
而
因为A 二LU ,所以方程组AX 二B 可以写成(LU )X =B 既是L(UX ) = B,这样 做就可以讲方程组的求解归纳为两个系数矩阵为三角矩阵的那种易于求解的方 程组:L 一
B,UX 二 1。
其中有:2 -(
■-2,..., ■-n )'
对于前面出现的式子1 =(5。
...,」)它的分量s..「n
在第一个方程组可 以直接
得到,因为它的分量在每个方程组中一次递增出现。
如对于第一个方程组, 它只含有'-1,而对于第二个方程组则含有 -1, -2等;X 的分量可以容易的从第二 个方程组中求解得到答案,又因为 U 是上三角阵,它的第n 个方程组只含有x n ,第 n-1个方程只含有X n ,X n4等等 例:求解方程组:
2X 2 3x3-2 * 2% +2x 2 +x 3 =3 3% + 4x 2 + 3x 3 = 4
1 2 3 2 2 1 ,X ■3 4 3J
先将矩阵A 实施初等变换为上三角矩阵: 页眉内容
det
Jn B 【 J A
A m 一
二 det(l m - AB)二 det(l n BA) 解:写出方程组是: AX = B ,其中有:
_
xj
X 2 -X 3 j
B -
j 2 3
〕 j 2 31 j
2 3] A = 2 2 1 —2r
1
J t r
2
------------------- ? 0 —2 —5
T
0 -2 -5 3 4 3_
i i 0 -2 6 _
-
0 0 -1
这其实是将如下的三个初等矩阵依次左乘以矩阵 A.
--100
〕一1001j
巳2(»-210耳(-3)=010E23(-1) = 0 001
一1 i-301一卫0 1 -1
既是有:E23(-1)・巳3(-3)・E12(工)・A二u.
1 2 3
而其中也有:U = 0 -2 -5
0 0 -1_
由于进行初等变换对单位矩阵即,E23( - 1),巳3(-3),巳2(-2)得到的依然是单位矩阵,而单位矩阵是非奇异方阵,因此E; (-2), Eg (-1),E2?(-1)均存在。
如下成立:
1 1 1
EQ(-2)吃石(-3)咗23(-1)诈23(-1),
巳3(-3)・巳2(-2)・A =巳;(—2)・弟(-3)・Eg(-1)・U .
因此:
A = Eg(-2)胡-3) 1) U .
而又有巳;(-2),巳;(-3), E=(-1)恰好可以把%(-2),耳(-3), E23(-1)的非对角元素变号。
既有:
1 0
巳;(-2)=2 1
0 0 然后令L =巳;(-2) E;(-3) 01 ~1
0 E1:(-3)= 0
1」.3
01
0 E<(-1)=
1
■
1
■
01
1 E2^-1),则有:
L= 2 1 0 j 0 1 0|卩 1 0
0 o 1丄3 o 1」L O o
1」
所以是:
1 0 0
L= 2 1 0
'3 1 k
故有A二LU ,所以得到:
10 0 12 3
A= 2 1 0 0 -2 -5
3 1 1」[0 0 -1一
由上面的解题法我们就可以把方阵A分解成由两个矩阵乘积的形式,并且对于这个乘积矩阵中的L,它的主对角元素全都是1,既L是单位下三角阵。
U为上三角阵。
所以对于此房出租变为(LU)X=B,也可变成L(UX ) = B.令UX =-则有U = B,
其中-~(:1,:3)于是:
10 0 1 2
2 1 0 卜3
〕3 1U p d 殳
就是:
-优1可
2宫+02|= 3 .
网样2化\如
这样可以求得:
Fl
=I-1
1-k
又解得:
_1 2 Mf X j _21
也就是:
X +2X2 +3Xj「2【
-2X2-5X3= -1
_X3 _i_1 一
这样最终求得:
xj_31
X2=_ 2
公3 -■1
」
人=3所以初始方程组的解就是:x
2 = -2
X3 = 1
第三章矩阵的满秩分解
在上一章着重讨论总结了QR分解,而对于QF矩阵分解,其中适用于n阶方阵,而不适合对长方阵的处理。
但是满秩分解可以很好的用做处理大型长方阵,有时我们将矩阵满秩分解也叫做最大秩分解,下面我们将详细对满秩分解进行探讨。
3.1 :定义
定义:设矩阵A是存一个秩为r的m亍n列复矩阵。
且存在两个复矩阵F和G,他们的秩和矩阵A的秩一样都是r,并且复矩阵F和G满足A二FG,我们把这种复矩阵分解成两个秩相同复矩阵乘积的形式称作复矩阵满秩的分解。
在满秩分解中有易被忽略的分解叫做平凡分解,它是满秩分解中一种特殊的分
解。
矩阵A行列式有A =0,即A是满秩矩阵(行满秩或列满秩)。
此时存在一个单位
矩阵,其乘以A自身的乘积恰好为矩阵A.我们把这样的满秩分解形式称作是平凡分
解(即是:假设对于长方阵A满足:A C m n,并且存在列满秩的矩阵B 和行满秩的矩阵C(B C r mr,C C;n)使得A二BC成立把这种分解我们称之为矩阵满秩分解)。
注释:(1):在分解唯一性上满秩分解和三角分解一样,分解都不唯一。
(- D • C;r(即D是可逆的r阶方阵),则有:
A 二FG 二F DD ' G 二FD D ‘G 二FG )
且:
F, C r mr,G「C r rn.
(2):满秩分解存在性定理:如果有m n复矩阵A的秩为r 0,则矩阵A
有满秩分解。
(矩阵只要非0,则均可以进行满秩分解)证明:对于此定理的证明选用构造性证明法。
首先假设A c m n,则有单位矩阵E, 其是初等变换矩阵且满足E・c m m,然后有:
EA = B=…T (G E CT)。