第4章 矩阵的分解
第四章 正规矩阵与矩阵的分解
第一节 正规矩阵
【Schur 三角化定理】设n n
A ⨯∈
，则存在酉矩阵U ，使*U AU B =，其中B 为一
个上三角矩阵.
【酉矩阵】n 阶复方阵U 的n 个列向量是U 空间的一个标准正交基.
1H H H n U U UU E U U -==⇔=
性质：设有矩阵A ，B ，则
（1）若A 是酉矩阵，则1A -也是酉矩阵；
（2）若A ，B 是酉矩阵，则AB 及BA 也是酉矩阵；
（3）若A 是酉矩阵，则|det()|1A =；
（4）A 是酉矩阵⇔A 的n 个列向量是两两正交的单位向量. 【定理4.1.1】矩阵A 可以酉对角化⇔**AA A A =.
*U AU T =是上三角矩阵，*********()()AA UTU UTU UTU UT U UTT U === *********()()A A UTU UTU UT U UTU UT TU ===，故****A A AA T T TT =⇔=
A 可以酉对角化，则∃酉矩阵U 使*U AU D =
***************()()()()AA U DU U DU U DUU D U U DD U
U D DU U DU U DU A A ======
【定义4.1.1】设n n
A ⨯∈
，若**AA A A =，则称A 是正规矩阵.
【引理4.1.1】设A 为正规矩阵，若A 又为三角矩阵，则A 为对角矩阵. 【定理4.1.2】设n n
A ⨯∈
，则A 为正规矩阵⇔A 有n 个两两正交的单位特征向量.
【推论4.1.1】正规矩阵属于不同特征值的特征向量是两两正交的.
第四章 矩阵分解
矩阵分析第四章 矩阵分解§4.1: 矩阵的满秩分解 §4.2: 矩阵的正交三角分解 §4.3: 矩阵的奇异值分解 §4.4: 矩阵的极分解 §4.5: 矩阵的谱分解矩阵分解前言矩阵分解定义: 将一个已知矩阵表示为另一些较为简单或 较为熟悉的矩阵的积(或和)的过程称为矩阵分解. 例:(1)对任意n阶正规矩阵A,存在酉阵U∈Un×n使 A=Udiag(λ1,…,λn)U*, 其中λ1,…,λn为A的所有特征值的任一排列. (2)对任意n阶正定矩阵A,存在可逆阵Q∈Cnn×n使A=Q*Q,或存 在唯一正定阵B使A=BB. 矩阵分解意义:有利于研究已知的矩阵. 例如,利用正定阵A的平方根B为正定阵可证: 对任意Hermite阵H,AH或HA都有实特征值.1( AH∼(A1/2)-1AHA1/2=A1/2HA1/2∈Hn×n )2初等变换与初等矩阵(p73)三类初等变换: (行(列)变换←→左(右)乘) (1)将矩阵A的两行互换等价于用第一类初等矩阵P(i,j)左 乘A; (2)将矩阵A的第i行乘以k≠0等价于用第二类初等矩阵 P(i(k))=diag(1,…,1,k,1,…,1)左乘A. (3)将矩阵A的第j行乘以k≠0后再加到第i行等价于左乘第 三类初等矩阵P(i,j(k)).P (i , j ) =⎛1 ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ 1 0 1 1 1 0 1 1初等变换与初等矩阵举例⎛1 ⎞⎛ 1 4 7 ⎞ ⎛ 1 4 7 ⎞ ⎜ 0 1 ⎟⎜ 2 5 8 ⎟ = ⎜ 3 6 9 ⎟ ; ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎜ 1 0 ⎟⎜ 3 6 9 ⎟ ⎜ 2 5 8 ⎟ ⎝ ⎠⎝ ⎠ ⎝ ⎠ ⎛1 4 7⎞⎛1 ⎞ ⎛ 1 7 4⎞ ⎜ 2 5 8⎟⎜ 0 1⎟ = ⎜ 2 8 5⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎜ 3 6 9⎟⎜ 1 0⎟ ⎜ 3 9 6⎟ ⎝ ⎠⎝ ⎠ ⎝ ⎠⎛1 ⎞⎛1 4 7⎞ ⎛ 1 4 7 ⎞ ⎜ ⎟⎜ ⎟ ⎜ ⎟ 0.2 ⎟ ⎜ 2 5 8 ⎟ = ⎜ 0.4 1 1.6 ⎟ ; ⎜ ⎜ 1⎟⎜ 3 6 9 ⎟ ⎜ 3 6 9 ⎟ ⎝ ⎠⎝ ⎠ ⎝ ⎠⎛1 4 7⎞⎛1 ⎞ ⎛ 1 4 7 / 9⎞ ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎜ 2 5 8⎟⎜ 1 ⎟ = ⎜ 2 5 8/9⎟ ⎜ 3 6 9⎟⎜ 1/ 9 ⎟ ⎜ 3 6 1 ⎟ ⎝ ⎠⎝ ⎠ ⎝ ⎠---- i ---- j⎞ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ 1⎠P (i , j ( k )) =⎛1 ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝1k 1⎞ ⎟ ⎟ ⎟ ---⎟ ⎟ ⎟ ---⎟ ⎟ ⎟ 1⎠i j3⎛1 ⎞⎛ 1 2 3⎞ ⎛ 1 2 3 ⎞ ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎜ −4 1 ⎟ ⎜ 4 5 6 ⎟ = ⎜ 0 −3 −6 ⎟ ; ⎜ 1⎟⎜ 7 8 9⎟ ⎜ 7 8 9 ⎟ ⎝ ⎠⎝ ⎠ ⎝ ⎠−3 ⎞ ⎛ 1 2 0 ⎞ ⎛ 1 2 3⎞⎛1 ⎜ ⎟⎜ ⎟ ⎜ ⎟ ⎜ 4 5 6⎟⎜ 1 ⎟ = ⎜ 4 5 −6 ⎟ ⎜7 8 9⎟⎜ 1 ⎟ ⎜ 7 8 −12 ⎟ ⎝ ⎠⎝ ⎠ ⎝ ⎠4初等变换与初等矩阵的性质3类初等矩阵都是可逆的(行列式不为0). 将A依次作初等矩阵P1,…,Pr对应的行(列)初等变换等价 于左(右)乘A以可逆矩阵Pr…P1(P1…Pr). 可适当选第一类初等矩阵的乘积P使PA(AP)的行(列)是A 的行(列)的任意排列; 可适当选第三类初等矩阵 P(i,j(k))中的k使P(i,j(k))A的(i,j)元变为0; 可适当选第二类初等矩阵P(i(k))中的k使P(i(k))A的非 零(i,i)元变为1. 存在初等矩阵的乘积P和Q,使PAQ= ,其中r=rankA.初等变换与初等矩阵的性质续命题:设A∈Crm×n前r列线性无关,则用初等行变换可把A变为⎛ Er ⎜ ⎝ 0 ⎛1 ⎜ ⎜ D⎞ ⎜ = ⎜ ⎟ 0 ⎠ ⎜ ⎜ ⎜ ⎜ ⎝ 1 1 * * * * *⎞ ⎟ *⎟ *⎟ ⎟ *⎟ ⎟ ⎟ ⎟ ⎠一般地,∀A∈Crm×n都存在m,n阶可逆阵P和Q使PAQ=5证:因前r列线性无关,故用第一类初等矩阵左乘可使A的 (1,1)元≠0. 再用第二类初等矩阵左乘可使a11=1; 最后用若干第三类初等矩阵左乘可使A的第一列=e1. 因前2列线性无关,故新的第2列与e1线性无关且≠0, 故用第一类行变换可使(2,2)元≠0,…可使A的第2列=e2. ….可使A的第r列=er.此时空白处必为0元.安徽大学 章权兵1
经济应用数学 第4章 矩 阵
4.3.2 矩阵的秩
定义2 矩阵 Amn 经过有限次初等行变换后，变成阶梯型矩阵，其非
零行的行数称为矩阵A的秩，记作 R(A) ．
§4.2 矩阵的运算
4.2.1 矩阵相等
定义1 两个行数相等、列数相等的矩阵 A (aij )mn ，B (bij )mn ，如果 对应位置上的元素均相等，即 aij bij (i 1，2，，m ；j 1，2 ，，n) ，那 么称这两个矩阵相等，记作 A B．
4.2.2 矩阵的加法和减法
E
1 0
0 1
，三阶单位阵
E
1 0 0
0 1 0
0 0 1
7．三角矩阵
主对角线下方的元素都为0的方阵称为上三角矩阵，如
3 4 5 1 6 5 0 0 7 ，0 3 1 ． 0 0 3 0 0 2
§4.1 矩阵的概念
主对角线上方的元素都为0的方阵称为下三角矩阵，如
2 0 0 0
3
5
1
4 0 6
（2）(k μ)A kA μA (分配律) ；
（3）k(A B) kA kB (分配律) ．
4.2.4 矩阵的乘法
1．矩阵乘法的定义
第四章矩阵的分解
a d l l d l l d l i j i j 1 i 1 j 1 j 1 i , j 1 j , j 1 j ij
2 2 a d l d l d ii 1 i 1 i 1 i , i 1 i
递推公式：
j 1 1 l a d l ljk ) ij ( ij k ik d k 1 j
lnn
1 u12 u1n 1 u2n U 1
Crout分解
证明： ALU
l1 1 l21 L 可逆 ln1 l22 ln 2 lnn
u11 U 可逆 u12 u 22 u1n u2n u nn
(0) a11 0 0
(0) (0) a12 a1 n (1) (1) a22 a2n (n1) ann
L L L L 1 2 n 1
1 1 1 1 L L L L n 1n 2 1
，
，则 1
1 1 L 2 1 c 32 cn2 1
1
1
计算A(2)=L2-1A(1), 其前两列主元以下的元素全为零； 重复上述过程，在步n-1后得到的A(n-1)为上三角阵。
第4章_矩阵的分解 2 矩阵分析简明教程 曾祥金 张亮
矩阵的分块
常见的矩阵标准形与分解
常见的标准形
等价标准形 相似标准形 合同标准形
本节分解：
Amn
pmm
Ir
0
0 0Qnn
Ann PJAP1
Ann CCT
AT=A
三角分解
满秩分解
等价标准形
可对角化矩阵的谱分解
相似标准形
4.1 LU分解(图灵Turing, 1948)
LU分解：AFnn， 存在下三角形矩阵L ， 上三角形矩阵U ，使得A=LU。
对ACmn 做行初等变换得行最简形H，取H的前r行所成 矩阵为C，取A的列向量组的最大无关组所成矩阵为B， 则 B Cmr，CCrn ，其秩序均为r，且A=BC。
例 P098 例4.3.2； 例 P098 例4.3.1（此矩阵为列满秩矩阵）
4.4 奇异值分解(Singular Value Decomposition)
0 0
2、矩阵U，V的空间性质： 左奇异向量
➢
V=[v 1，v2，，vr ， ，v n] 量是空间C n的标准正交基。
=[V1
V2]C n×n的列向
➢ V2的列向量是空间N（A）的标准正交基。 ➢ V1的列向量是空间 N （A） 的标准正交基。
➢ U向=量[u是1，空u间2，Cm，的u标r ，准正，交u基m]。=[U1 U2]C m×m的列
第四章 矩阵
16.分块矩阵的秩
1) 秩（A,B）=秩（B,A）
2)
秩（A,B）=秩（ A） B
3)
秩（ A 0
0 ）=秩A+秩B B
4) 秩（0 A ）=秩AB+n
B En
5) 秩（ B BC）=秩B+秩ABC
AB 0
17.矩阵的分解
P 204
.11,12,
P394
.14
二.典型例题 例1.求出满足 A2 E 的一切二阶方阵A.
相似矩阵有相同的特征多项式，特征值，行列式,迹。
Байду номын сангаас
11.对称矩阵 1）对称矩阵合同于一对角矩阵 (ch5,th2) (P213)
即 CAC 为对角阵，其中，C可逆。
2)设 A是复对称矩阵，则存在复矩阵 C，使得
CAC
Er 0
0
0
C可逆,秩A=r,(P221,th3)
3)设 A是实对称矩阵，则存在实矩阵 C，使得
A, B,C,O 为 m n 矩阵。
乘法：（P167） 1）结合律： ( AB)C A(BC)
2）左分配律：A(B C) AB AC 右分配律：(A B)C AC BC
3）零矩阵 AO O,OB O 数乘：（P172）
1）分配律：k(A B) kA kB
(k l) A kA lA
矩阵理论第四章
下面给出一种较简单的方法，为此先给出下面的定义.
定义 4.2.2 设 B Crmn (r 0) ，且满足 （1） B 的前 r 行中每一行至少含一个非零元素（称为非零行），且第一
个非零元素为 1，而后 (m r) 行的元素全为零（称为零行）； （2） 若 B 中第 i 行的第一个非零元素（即 1）在第 ji 列 (i 1, 2,..., r) ，
引理 5.5.2 设 A Cmn ，则 （1） AH A 与 AAH 的特征值均为非负实数； （2） AH A 与 AAH 的非零特征值相同，
且非零特征值的个数等于 rank(A) .
证明 （1）设 为 AH A 的任一特征值， x 为 对应的特征向量，则有 ( AH A)x x, x 0 显然 AH A是 Hermite 矩阵，所以 是实数，且有
于是
A
P1
E 0
mr
E
0 Q1. rn
记
P
1
E 0
F
,E
0Q1 G.
则 F 为列满秩矩阵， G 为行满秩矩阵,得
A FG .
证毕
显然,满秩分解是不唯一的.
事实上 D Crrr （ r 阶可逆方阵），
则 A FG F (DD-1)G (FD)(D-1G) F1G1，
且 F1 Crmr ,G1 Crrn .
2 1
1
矩阵分析第4章习题解
第4章
1、 求矩阵A 的满秩分解
2123111010(1)2
5141,(2)01111;1312123
13112101212011101
221333614236(3),(4)24314524022274
8
6
2
8
106
1217
5
73A A A A -⎡⎤⎡⎤
⎢
⎥⎢⎥=-=⎢⎥⎢
⎥⎢⎥⎢⎥-⎣⎦⎣⎦⎡⎤⎡⎤⎢⎥⎢⎥⎢
⎥⎢
⎥==⎢⎥
⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦
解：2
1231(1)2
51411
3
1
2
1A -⎡⎤
⎢
⎥
=-⎢⎥⎢⎥-⎣⎦用行初等变换1
0806~011010
5
1
4-⎡⎤
⎢⎥-⎢⎥⎢⎥-⎣⎦
所以2
132
541
32B ⎡⎤⎢
⎥=⎢⎥⎢⎥⎣⎦，108060110100
5
1
4C -⎡⎤
⎢⎥
=-⎢
⎥⎢⎥-⎣⎦，即A B C = 11010(2)0
111123
1
3
1A ⎡⎤
⎢
⎥
=⎢⎥⎢⎥⎣⎦
用行初等变换11010~011110
0⎡⎤
⎢⎥⎢⎥⎢⎥⎣⎦
所以取100
12
1B ⎡⎤
⎢
⎥
=⎢⎥
⎢⎥⎣⎦，110100
1
1
1
1C ⎡⎤
=⎢⎥⎣⎦
，即A B C = 121012122133
(3)24314548
6
2
8
10A ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦121012001121,~0000000
0⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦
1011214
2B ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦
，12101200
1
1
2
1C ⎡⎤=
⎢
⎥⎣⎦
12011103
614236(4)24022276
12
1
7
5
73A ⎡⎤⎢⎥⎢
⎥=⎢⎥⎢⎥⎣⎦120110001110~0000010
0⎡⎤⎢⎥-⎢⎥⎢⎥⎢⎥⎣⎦
10103136
20276
1
73B ⎡⎤
⎢⎥
⎢
⎥=⎢⎥
04南航戴华《矩阵论》第四章l矩阵的因子分解
mn
,则
AH A与AAH的特征值均为非负实数 ；
(2)
A A与AA 的非零特征值相同，并 且非零特征 值的个数(重特征值按重数计算 )等于rank( A).
定义4.6.1 设A C mn , 如果存在非负实数 和非零向量
u C , v C 使得
n m
Au v, AH v u (4.6.2) 则称σ为A的奇异值，u 和v 分别称为A对应于奇异值 σ的右奇异向量和左奇异向量。
0 V AU 0 0
H
(4.6.5)
其中 diag( 1 ,, r )，且 1 r 0.
(4.6.5)称为矩阵 A的奇异值分解.
• 奇异值分解的计算 • 奇异值分解的应用
k d1 a11 , d k , k 2,, n k 1
分解式 A LDU 称为矩阵A的LDU分解。 一般说来，即使A是n阶非奇异矩阵， A未必 能作LU分解和LDU分解。
定义4.3.1 设ei是n 阶单位矩阵的第i列(i=1,2,…n)， 以e1, e2 ,, en为列作成的矩阵 [ei , ei , , ei ] 称为 n 阶 排列矩阵，其中 i1 , i2 ,, in 是1,2,…n的一个排列。
4.4
QR 分解
• 什么是矩阵的QR分解？ • 矩阵的QR分解是否存在？如果存在，QR分解 是否唯一？ • 如何计算矩阵的QR分解？ • QR分解有什么应用？ 定理4.4.1 设 A是 n 阶非奇异实（复）矩阵，则 存在正交（酉）矩阵 Q 和非奇异实（复）上三 角矩阵 R使得
第4章 矩阵分解-1
A
3
1
0
1 1 2
r13 (1)
0 5
3
0 1 3
r2
3
(
1 5
)
1 2 1
0 5
3
U
0 0 12 / 5
矩阵分析简明教程
R23
(
1 5
) R13
(1) R12
(3)
A
U
.
A
[
R23
(
1 5
)
R13
(1)
R12
(
3)]1U
[
R12
(
3)]1[
R13
(1)]1[
R23
(
1 5
)]1U
LU
3
3 1 0
0 0 12 / 5 2 / 5 1 / 5 1
从而得 PA U , 这里
1 0 0 1 2 1
P
3
1 0 ,U 0 5
3
2 / 5 1 / 5 1 0 0 12 / 5
矩阵分析简明教程
因为
1 0 0
L
P 1
3
1 0
1 1 / 5 1
所以 A LU
1 0 0 1 2 1
H E 2u uH
为Householder 矩阵（初等反射矩阵），对应 的变换为Householder 变换（初等反射变换）
第4章矩阵的分解
Remark: 这样的分解称之为QR分解。
实施步骤
A (1,2 ,...,n )
G-S正交化
单位化
1, 2 ,..., n
1, 2 ,..., n
1 A (1 , 2 ,..., n ) ( 1 , 2 ,..., n ) QR
di
i ,
i 1,2,..., r.
二、矩阵的奇异值分解
1、Theorem 4.4.1（P099）
设AC m×n，秩（A）=r，则存在酉矩阵 UC m×m，VC n×n，使得
d1 D 0 其中 0 0 , D dr
4.4 奇异值分解(Singular Value Decomposition)
Problem: 矩阵的奇异值分解是酉等价型的分
D 0 D 矩阵A等价于= 0 0 mn
解: AC m×n，酉矩阵UC m×m, VC n×n ,使得A=U VH。 d
各种标准形的理论和计算方法 矩阵的分块
4.1 LU分解(图灵Turing, 1948)
LU分解：ACnn， 若A的顺序主子式不 为零，则存在唯一的主对角线上元素全 为1的下三角形矩阵L 与唯一的上三角形 矩阵U ，使得A=LU. 例如：
1 0 7 1 3 2 0 3 A 1 1 1 1 0 0 1 0 7 1 0 0 2 21 LU 1 9 1 0 0 2 2
第4章-矩阵分解
若1 0 ，则取 1 0 ；
若1 0 ，就取 1
1
1H1
1 ；令 2
2
(
H 1
2
)
1
，
若 2 0 ，则取 2 0 ；
若 2 0 ，就取 2
1
2H 2
2 ；
如此继续下去，求得 1 , 2 k1 后，
k 1
令 k k
(
H i
k
)
i
，
i 1
若 k 0 ，则取 k 0 ；
1
P
1
A
P
0
r12 2
r n11n 1
r
n2 2n
n
0
b12
2
b1n
b2n
，
n
对给定的 0 ，可选择 r ，使得 bij 成立． 1i jn
现在我们介绍另一重要定理，它为计算特征值的数值方 法提供了重要理论依据．
定理 4.2.3 （ QR 分解定理）设 A 为 n 阶复数矩阵，则存在酉 矩阵 Q 及上三角矩阵 R ，使得
F1 , F2
G1 G2
，
从而
rank ( A1 A2 ) rank (F1, F2 ) rank (F1 ) rank (F2 ) rank ( A1 ) rank ( A2 ) ．
4.2 舒尔定理及矩阵的QR分解
cholesky矩阵分解
cholesky矩阵分解
Cholesky分解是一种矩阵分解方法，用于将一个对称正定矩阵分解为一个下三角矩阵和它的转置的乘积。这个分解的形式可以写作A=LL^T，其中A是一个对称正定矩阵，L是一个下三角矩阵，L^T 是L的转置。
Cholesky分解有很多应用，其中最常见的是用于解线性方程组和计算多元正态分布的条件分布。在实际计算中，Cholesky分解比LU分解更加高效，尤其是在需要重复求解方程组的情况下。
Cholesky分解的计算步骤如下：
1. 对于对称正定矩阵A，计算L的第一列元素，L(1,1) =
√(A(1,1))。
2. 对于j=2到n，计算L的第j列元素：
L(j,1) = A(j,1) / L(1,1)，。
L(j,j) = √(A(j,j) ∑(k=1到j-1) L(j,k)^2)，。
L(i,j) = (A(i,j) ∑(k=1到j-1) L(i,k)L(j,k)) / L(j,j) (i=j+1到n)。
3. 最终得到的L就是A的Cholesky分解。
Cholesky分解的优点在于它的稳定性和计算效率。然而，Cholesky分解只适用于对称正定矩阵，对于非对称或不定矩阵，需
要使用其他的矩阵分解方法。
总之，Cholesky分解是一种重要的矩阵分解方法，具有广泛的
应用领域，特别是在数值计算和统计学中。希望这个回答能够满足
你的需求。
第4章_线性代数[2009]
![第4章_线性代数[2009]](https://img.taocdn.com/s3/m/c172076858fafab069dc0277.png)
例2
A = [5 2 -4;2 8 2;-4 2 5]
A*A - 9*A
例3、A1=magic(3) A1 = 8 1 6 3 5 7 4 9 2 det(A1) ans = -360 diag(A1) 8 ans = 5 2 eig(A1) 15 ans = 4801/980 -4801/980
k 1
k
yk ) xk 0
m
xka
k 1
m
xk b
k 1
m
xk yk
k 1
m m xk k 1
线性函数拟合:
m
(x) = a + bx
[( a bx j ) y j ] min
2
求 a, b,使
多项式拟合:
m
j1
(x) = a0 + a1x + ··+ anxn ·· ··
n 2
求 a0, a1,··,an , 使 ·· ··
[( a 0 a 1 x k a n x k ) y k ] min
例14. 简单迁移模型:每年A镇的人口10%迁往B镇;B镇 的人口15%迁往A镇. 假设某年A、B两镇人口各有120 人和80人.问两年后两镇人口数量分布如何? 设两镇总人口不变,人口流动只限于两镇之间.引入变量: x1(k) 表示 A 镇第 k 年人口数量; x2(k) 表示 B 镇第 k 年人口数量. 由第 k 年到第 k+1 年两镇人口数量变化规律如下
矩阵分解及应用
引言
数学是人类历史中发展最早，也是发展最为庞大的基础学科。许多人说数学是万理之源，因为许多学科的研究都是以数学做为基础，有了数学的夯实基础，人类才铸就起了众多学科的高楼大厦，所以数学的研究和发展一直在不断的发展壮大。在数学中有一支耀眼的分支，那就是矩阵。在古今矩阵的研究发展长河中产生了许多闪耀星河的大家。英国数学大家詹姆斯·约瑟夫·西尔维斯特，一个数学狂人，正是他的孜孜不倦的研究使得矩阵理论正式被确立并开启了矩阵发展的快速发展通道。凯莱和西尔维斯特是非常要好的朋友，他也是一位非常伟大的数学大师，正是他们伟大的友谊，加上两人的齐心协力最后他们共同发展了行列式和矩阵的理论。后来高斯在矩阵方面的研究取得重要的成就，尤其是高斯消去法的确立，加速了矩阵理论的完善和发展。
而在我国，矩阵的概念古已有之。从最早的数学大家刘徽开始我们古代数学大家都已或多或少的研究了矩阵。尤其在数学大家刘徽写的《九章算术》中，它最早提出了矩阵的类似定义。而且是将矩阵的类似定义用在了解决遍乘直除问题里了。这已经开始孕育出了最早的矩阵形式。
随着时间转移，矩阵的理论不断的完善，在对于那些大型矩阵的计算中如果用基本方法显得过于繁重，于是发展出了矩阵的分解，随着对矩阵分解的不断研究完善，矩阵分解方法和理论也日趋成熟
矩阵经常被当做是数学工具，因为在数学问题中要经常用上矩阵的知识。矩阵是一个表格，要掌握其运算法则，作为表格的运算与数的运算既有联系又有差别，在所有矩阵的运算方法中，矩阵的分解是他们中一种最重要并且也是应用最广泛。矩阵分解主要是对高斯消去法的延续和拓展。
第四章 第二节 矩阵三角分解法
1、 平方根法
设对称正定阵A具有形如 (3.4) 的分解：
A LLT
(3.5)
其中
l11 0 0 0 l l22 0 L 21 ln1 ln 2 lnn
和 Doolittle分解一样，比较 (3.5) 式两端对应元素， 可以依次算出 lik ，今设从第1列到第k-1 列的元素 均已算出，现在来计算L的第k列元素 lkk , lk 1,k , , lnk , 由关系式 (3.5) ，有
法求解方程组所需要的计算量和用 Gauss 消元法
计算需要的计算量基本相同，但这种方法把 对系
数矩阵的计算和对右端项的计算分开了，这就使
我们在计算系数矩阵相同而右端项不同的一系 列方程组时变得特别方便。
与此类似，如果A存在LU分解，则有
A LU LDU LU
2.4
其中，D 是以 uii 为对角元素的对角矩阵， U 是单位上三角矩阵， L LD 是下三角矩阵， 和 Doolittle 分解一样,我们可以依次得矩阵 L 和 U 的元素 lik 和 ukj ， 从而将矩阵A分解为 A LU 这样的分解称为 Crout 分解。
j 1 k 1
3.7
对 k 1, 2, , n ，重复n次 (3.6) 3.7 的计算后， 便求得矩阵L。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1 2 例 设 A 1 2， 求A+。 1 2
3、M-P广义逆的性质
Theorem 4.5.2 (P103) ： 1. （ A + ）+=A 2. （A + ） H =（A H ）+ 3. （A）= +A+ 4. A列满秩，则A+=（ A H A ） –1A H ，A行满 秩，则A+=AH （AAH） –1。 5. A有满秩分解：A=BC，则A+=C+B+。
一、矩阵A的奇异值及其性质
1、矩阵AHA和AAH的性质：
AC m×n，AHAC n×n，AAHC m×m ， 都是Hermite矩阵。 Theorem 2.7.8（P052）
1. 秩（A）＝秩（AHA）=秩（AAH）。 2. AHA 和AAH 的非零特征值相等。 3. AHA和AAH 是半正定矩阵。 AHA和AAH 的特征值是非负实数：1 2 n
Er A P 0 0 Er Q P Er 0 0 0 Q BC
列 满 秩
行满秩
满秩分解的实现：向量组最大无关组的求法
例 求矩阵A的满秩分解
1 1 2 3 A (1 , 2 , 3 , 4 ) 1 0 1 0 0 1 1 3 1 0 1 0 1 1 行初等 0 1 1 3 , B 1 0 , A BC 0 0 0 0 0 1 1 0 1 0 C 0 1 1 3
压缩数字化图形存储量的方法主要是应用矩阵的奇 异值分解和矩阵范数下的逼近。如果图象的数字矩 阵A的奇异值分解为：A=UVT， 其展开式：
A u v u v u v
H 1 1 1 H 2 2 2
H r r r
压缩矩阵A的方法是取一个秩为k （kr）的矩阵Ak 来逼近 矩阵A。 Ak按如下方法选取：
Step2.令 U1 AV1D1, 得U1=[u1，u2，… ，ur],
扩充为标准正交基 酉矩阵U。
1 2 例 求矩阵A的奇异值分解，A= 0 0 。 0 0
2、矩阵U，V的空间性质：
左奇异向量
V=[v 1，v2，，vr ， ，v n] =[V1 V2]C n×n的列向 量是空间C n的标准正交基。 U=[u 1，u2，，ur ， ，u m] =[U1 U2]C m×m的列 向量是空间C m的标准正交基。
Ak u v u v u v
H 1 1 1 H 2 2 2
H k k k
有在秩为k （kn）的所有矩阵中，矩阵Ak所对应的图象和 矩阵A所对应的图象最相近。一般的，k越大图象就越清晰。 经典的方法是选取接近 k，使 Ak 的存储量比 A的存储量减少 20%。
存储矩阵Ak只需要存储k个奇异值，k个m维向 量ui和n维向量vj的所有分量，共计k（m+n+1） 个元素。 如果m=n=1000，存储原矩阵A需要存储 1000×1000个元素。取k=100时，图象已经非 常清晰了，这时的存储量是100（2000+1） =200100个数。 和矩阵A比较，存储量减少了80%。
总结：矩阵的满秩分解的做法
对ACmn 做行初等变换得行最简形H，取H的前r行所成 矩阵为C，取A的列向量组的最大无关组所成矩阵为B， 则 B Cmr，CCrn ，其秩序均为r，且A=BC。
例 P098 例4.3.2； 例 P098 例4.3.1（此矩阵为列满秩矩阵）
4.4 奇异值分解(Singular Value Decomposition)
A–1 = A + ；
例 求下列特殊矩阵的广义逆； 零矩阵0； + 0 =0 m × n 对角矩阵
n×m
2、M-P 广义逆的惟一性
Theorem 如果A有M-P广义逆，则A的M-P广义逆 是惟一的。 3、M-P广义逆的存在性及其求法
Theorem 任何矩阵都有M-P广义逆。 求法： • 设A满秩分解A=BC，则
(1 , 1 ) ... ( n , 1 ) 2 ... ( n , 2 ) n
4.2 QR分解
例 P090 例4.2.1
此例中矩阵是列满秩的
例 P091 例4.2.2
此例表明即使矩阵不是列满秩的，也可以用G-S正交化 方法，但是其QR分解不是唯一的。
Remark: 这样的分解称之为QR分解。
实施步骤
A (1,2 ,...,n )
G-S正交化
单位化
1, 2 ,..., n
1, 2 ,..., n
1 A (1 , 2 ,..., n ) ( 1 , 2 ,..., n ) QR
Problem: 矩阵的奇异值分解是酉等价型的分
D 0 D 矩阵A等价于= 0 0 mn
解: AC m×n，酉矩阵UC m×m, VC n×n ,使得A=U VH。 d
1
d2
dr
奇异值分解基本适用于内积空间中与矩阵秩相 关的问题 A的奇异值分解依赖于正规矩阵A HA 的酉相似 分解的。
A C (CC ) (B B) B
H H 1 H 1
H
• 奇异值分解可以用于求广义逆(Theorem 4.5.3,P105) 设A奇异值分解 ：（可以不讲）
D D 0 H A V U ，则 A V 0 0 0
1
0 H U 0
a1 a 例 设向量 2 的M-P广义逆。 an
2、奇异值的定义： （P099） AC m×n，秩（A）=r，设AHA的特征值1 2 r 0，r+1= r+2 == n =0，则矩阵的奇异值
di
i ,
i 1,2,..., r.
二、矩阵的奇异值分解
1、Theorem 4.4.1（P099）
设AC m×n，秩（A）=r，则存在酉矩阵 UC m×m，VC n×n，使得
4.5 Moore-Penrose（M-P）广义逆
由Moore 1920年提出，1955年由Penrose发展。 1、 Definition设A C m n ，如果 XC n m ，使得 1. AXA=A 2. XAX=X 3. （AX）H = AX 4. （XA）H =XA 则称G为A的M-P广义逆，记为G=A+。 例 讨论原有的逆的概念和M-P广义逆的关系。
4.2 QR分解(不做要求)
对于一般的方阵，无论其是否列满秩，都 可以利用Householder方法得到QR分解。
4.3 满秩分解
已知的结论
Er 0 Er Amn ~ , i.e., A P 0 0 0 矩阵的满秩分解 0 Q， P, Q可逆 0
对秩为r 的矩阵AFmn ，存在秩为r的矩 阵 B Fmr，CFrn ，使得A=BC为A 的满 秩分解。
A +与A–1 性质的差异比较：
（AB）–1=B –1 A –1 ，一般不成立（AB）+=B+A+。(只有满秩分解成立) （A–1）k =（Ak） –1 ，但不成立（A+）k=（Ak）+
各种标准形的理论和计算方法 矩阵的分块
常见的矩阵标准形与分解 常见的标准形
等价标准形 相似标准形 合同标准形
I r 0 Amn pmm Qnn 0 0 1 Ann PJ A P
Ann CCT
AT=A
本节分解：
三角分解
满秩分解
等价标准形
可对角化矩阵的谱分解
U1 的列向量是R（A）的标准正交基。 U2的列向量是R （A）的标准正交基。 右奇异向量
V2的列向量是空间N（A）的标准正交基。 V1的列向量是空间 N （A） 的标准正交基。
例题：图像的数字化技术与矩阵的奇异值分解
计算机处理图像技术的第一步是图像的数字化 存储技术，即将图像转换成矩阵来存储。 转换的原理是将图形分解成象素（pixels）的一 个矩形的数阵，其中的信息就可以用一个矩阵 A=（a ij）m×n来存储。矩阵A的元素a ij是一个 正的数，它相应于象素的灰度水平（gray level） 的度量值。 由于一般来讲，相邻的象素会产生相近的灰度 水平值，因此有可能在满足图像清晰度要求的 条件下，将存储一个m×n阶矩阵需要存储的 m×n个数减少到n+m+1的一个倍数。
d1 D 0 其中 0 0 , D d r
A UV H ,
证明思想： D2 Step1. AHA正规，VHAHAV= 酉矩阵V。
V [V1,V2 ], V1 [ 1,..., 2 ]
， 0
Application: 可以简化求解线性方程的算法
Ax LUx b Step1: Ly b Step2 : Ux y
4.2 QR分解
1. 利用Gram-Schmidt正交化过程的QR分解 Theorem 设矩阵ACmn ，R(A)=n(列满秩)。则 存在非奇异上三角阵R，和矩阵Q，QHQ=E，使 得A=QR。
相似标准形
4.1 LU分解(图灵Turing, 1948)
LU分解：AFnn， 存在下三角形矩阵L ， 上三角形矩阵U ，使得A=LU。
1 0 7 1 A 3 2 0 3 1 1 1 1 0 0 1 0 7 1 0 0 2 21 LU 1 9 1 0 0 2 2
第4章、 矩阵的分解
Matrix Factorization and Decomposition
矩阵分解的概述
矩阵的分Leabharlann Baidu： 矩阵分解的原则：
实际应用的需要 显示原矩阵的某些特性 矩阵化简的方法之一 A=A1+A2+…+Ak A=A1A2 …Am 矩阵的和 矩阵的乘积
理论上的需要 计算上的需要
主要技巧：