第4章 矩阵分解

合集下载

第4章 矩阵的分解

第4章 矩阵的分解
1
Problem: 矩阵的奇异值分解是酉等价型的分 矩阵的奇异值分解是酉等价型 酉等价型的分
D 0 D= 矩阵A等价于Σ 矩阵A等价于Σ= 0 0m×n m×
d2
O dr
奇异值分解基本适用于内积空间中与矩阵秩相 关的问题 A的奇异值分解依赖于正规矩阵A HA 的酉相似 的奇异值分解依赖于正规矩阵A 分解的。 分解的。
三角分解 满秩分解 等价标准形 相似标准形
可对角化矩阵的谱分解
4.1 LU分解(图灵Turing, 1948) LU分解 图灵Turing, 分解(
LU分解: LU分解:A∈Fn×n, 存在下三角形矩阵L , 存在下三角形矩阵L 分解 上三角形矩阵U 使得A=LU。 上三角形矩阵U ,使得A=LU。
A–1 = A + ;
例 求下列特殊矩阵的广义逆; 求下列特殊矩阵的广义逆; 零矩阵0 零矩阵0; 0 + m×n =0 对角矩阵Λ 对角矩阵Λ
n×m
2、M-P 广义逆的惟一性
4.2 QR分解 QR分解
例 P090 例4.2.1
此例中矩阵是列满秩的
例 P091 例4.2.2
此例表明即使矩阵不是列满秩的,也可以用G 此例表明即使矩阵不是列满秩的,也可以用G-S正交化 方法,但是其QR分解不是唯一的 分解不是唯一的。 方法,但是其QR分解不是唯一的。
4.2 QR分解 QR分解
计算机处理图像技术的第一步是图像的数字化 存储技术,即将图像转换成矩阵来存储。 存储技术,即将图像转换成矩阵来存储。 转换的原理是将图形分解成象素(pixels) 转换的原理是将图形分解成象素(pixels)的一 个矩形的数阵, 个矩形的数阵,其中的信息就可以用一个矩阵 A=( A=(a ij)m×n来存储。矩阵A的元素a ij是一个 来存储。矩阵A的元素a 正的数,它相应于象素的灰度水平( level) 正的数,它相应于象素的灰度水平(gray level) 的度量值。 的度量值。 由于一般来讲, 由于一般来讲,相邻的象素会产生相近的灰度 水平值, 水平值,因此有可能在满足图像清晰度要求的 条件下,将存储一个m 条件下,将存储一个m×n阶矩阵需要存储的 m×n个数减少到n+m+1的一个倍数。 个数减少到n+m+1的一个倍数 的一个倍数。

矩阵分析第四章

矩阵分析第四章
−1
Er m× r r×n ( ) 其中 : B = P ∈ C , C = E D ∈ C r r r 0
若A的前r个列线性相关, 则∃P∈Cmm×m, Q∈Cnn×n使
D −1 E r −1 ( ) ⇒ A = P E D Q = BC r 0 0 −1 E r m× r −1 r ×n ( ) 其中 : B = P ∈ C , C = E D Q ∈ C r r r 0
Er PAQ = 0
1 3 2 1 4 1 3 2 1 4 r ←r −r −r → 2 6 1 0 7 例 1: A = 2 6 1 0 7 3 9 3 1 11 0 0 0 0 0
3 3 2 1
1 3 2 1 4 1 3 2 1 4 r ←r − 2r ( −1 / 3) r − − → 0 0 − 3 − 2 − 1 − − → 0 0 1 2 / 3 1 / 3 0 0 0 0 0 0 0 0 0 0
令 k1AHx1 + k2AHx2 + L + kpAHxp = 0 上式两边左乘A, 得: λi(k1x1 + k2x2 + L + kpxp) = 0 ⇒ k1 = k2 = L = kp = 0 表明AHxj, j = 1, 2, L, p是线性无关的. 因此, AAH的p重特征值也是 AHA的p重特征值. 再由AAH 与AHA的大于零的特征值个数相同, 可知: λi = µi > 0, i = 1, 2, L, r. 定义:设 定义: 设A∈Crm×n, AAH的正特征值为λi, AHA的正特征值为 µi. 称
2 2 1 2

第四章 矩阵分解

第四章 矩阵分解

定理1.2:若 A BC B1C1 均为A的满秩分解,那么
(1)存在 CrrR , 使得B B1 , C 1C1 (2)C H (CC H )1 (BH B)1 BH C1H (C1C1H )1 (B1H B1 )1 B1H
4.2 矩阵的正交分解 (UR、QR分解)
证明:
AAH 是正规矩阵,所以存在酉矩阵使得
H U H AAH U 0
0 0
U U1 U2
U1 U mr
U2 U m( mr )
0 0
U1H H H H AA U1 U 2 0 U 2
U1H H H H AA U1 U 2 0 U 2
则称 i
i (i 1,2,, n) 为 A 的奇异值.
本书中只考虑i=1,3,…,r时非零奇异值
1 0 3 2 5 17 H A 1 1 例如,对于 ,A A 2 2 的特征值是 1 2 , 1 1
A UR
U U rmr
R 是 r 阶正线上三角阵
推论2.2:设 A Crrn , 则 A 可以唯一的分解为
A LU
U U rrn
L 是 r 阶正线下三角阵
mn A C 推论2.3:设 , 则 A 可以分解为 r A U1R1L2U 2 R1 是 r 阶正线上三角阵 U1 Urmr L2 是 r 阶正线上三角阵 U U rn
nn 定理2.1:设 A Cn , 则 A 可以唯一的分解为
A UR
A RU 1 1
nn
R 是正线上三角阵
U , U1 U
证明:
R1 是正线下三角阵

第四节矩阵谱分解

第四节矩阵谱分解

A = PΛP −1 , AT = ( PT ) −1 ΛPT
其中
Λ = diag (λ1 , λ2 , ⋯ , λn )
这表明A 也与对角矩阵相似, 这表明 T也与对角矩阵相似,故AT也是单纯矩阵
个线性无关的特征向量 设y1,y2, …,yn是AT的n个线性无关的特征向量 则 个线性无关的特征向量.则 ( y1,y2, …,yn ) = (PT )-1 = (P-1 ) T
n× n 设单纯矩阵 A ∈ C 的谱为 λ1 , λ2 ⋯, λs ,其代数重数分为
m1 , m2 , ⋯, ms 则存在唯一的 Ei ∈ C n×n , i = 1,2, ⋯ , s 使
(1)
(2)
A = ∑ λi Ei ;
i =1
s
Ei , i = j Ei E j = o, i ≠ j
∀A ∈ R n×n , ∃P ∈ R n×n , P −1 = PT ,
λ1 * ⋯ ⋯ * λ2 ⋱ ⋮ P −1 AP = ⋱ ⋱ ⋮ ⋱ * λn
其中λ1,λ2, λn为A的特征值. ⋯
引理 证明
正规上三角矩阵是对角矩阵 设n阶矩阵A是正规上三角矩阵,则 阶矩阵A是正规上三角矩阵,
第六节
主要内容: 主要内容:
矩阵谱分解
一、单纯形矩阵的谱分解 二、正规矩阵与酉对角化 三、正规矩阵的谱分解
一、单纯形矩阵的谱分解 左特征向量 给定n阶矩阵 , 的特征值。 给定 阶矩阵A,λ是A的特征值。由于 T与A有相同的 阶矩阵 的特征值 由于A 有相同的 特征值, 特征值,设Y是AT的属于λ的特征向量,则 是 的属于λ的特征向量,
Y 1T T Y2 = ( X 1 , X 2 , ⋯ , X s ) ⋮ Y T s

第4章 矩阵分解

第4章 矩阵分解

---- i
---- j
左乘A; ②将矩阵A的第i行乘以k0等价于用第二类初等 矩阵P(i(k))=diag(1,…,1,k,1,…,1)左乘A. ③将矩阵A的第j行乘以k0后 ---- i 再加到第i行等价于 P(i,j(k))= ---- j 左乘第三类初等矩阵
1 1 k 1 1
第四章 矩阵分解前言
矩阵分解定义: 将一个已知矩阵表示为另一些较 为简单或较为熟悉的矩阵的积(或和)的过程 称为矩阵分解. 例:①对任意n阶正规矩阵A,存在酉阵UUnn 使A=Udiag(1,…,n)U*,其中1,…,n为A的所有 特征值的任一排列. ②对任意n阶正定矩阵A,存在可逆阵QCnnn使 A=Q*Q,或存在唯一正定阵B使A=BB. 矩阵分解意义:有利于研究已知的矩阵.例如,利 用正定阵A的平方根B为正定阵可证:对任意 Hermite阵H,AH或HA都有实特征值.
存在定理中矩阵B,C的决定
对于A的前r列线性无关的情形:
E PA r 0 Er A P 0
1
D Er Er 0 0 D 1 Er P Er 0 0
D D BC D
其中
E B P 1 r ; C Er 0
1/ 7 3 / 7 1 0 P P(1, 2(3)) P(2(1/ 7)) P 2,1(2) , PA 2 / 7 1/ 7 0 1
1 A 2 0
0 0 0
3 1 3 1 , 没有P C3 3使 PA 0
(AH(A1/2)-1AHA1/2=A1/2HA1/2Hnn)
拟讲满秩分解,正交三角分解,奇异值分解和极分解.

第4章_矩阵的分解 2 矩阵分析简明教程 曾祥金 张亮

第4章_矩阵的分解 2 矩阵分析简明教程 曾祥金 张亮

➢ U1 的列向量是R(A)的标准正交基。 右奇异向量 ➢ U2的列向量是R (A)的标准正交基。
例题:图像的数字化技术与矩阵的奇异值分解
计算机处理图像技术的第一步是图像的数字化 存储技术,即将图像转换成矩阵来存储。
转换的原理是将图形分解成象素(pixels)的一
个矩形的数阵,其中的信息就可以用一个矩阵
矩阵的分块
常见的矩阵标准形与分解
常见的标准形
等价标准形 相似标准形 合同标准形
本节分解:
Amn
pmm
Ir
0
0 0Qnn
Ann PJAP1
Ann CCT
AT=A
三角分解
满秩分解
等价标准形
可对角化矩阵的谱分解
相似标准形
4.1 LU分解(图灵Turing, 1948)
LU分解:AFnn, 存在下三角形矩阵L , 上三角形矩阵U ,使得A=LU。
Remark: 这样的分解称之为QR分解。
Application: 可以求最小二乘解
实施步骤
A (1,2,...,n) 1, 2 ,..., n 1, 2,..., n
G-S正交化 单位化
1
A
(1,2
,...,
n
)
(
1,
2
,...,
n
)
QR
(1, 1 ) 2
... ...
( n , ( n ,
Problem: 矩阵的奇异值分解是酉等价型的分
解: AC m×n,酉矩阵UC m×m, VC
n×n ,使得A=U VH。
d1
矩阵A等价于=
D
0
0 0mn
D
d2
d
r

矩阵分解(第四章)

矩阵分解(第四章)
(2)施密特正交化将特征向量化,单位化得到酉矩阵V
(3)求U矩阵,令V的前r列为V1,U1=AV1Σ-1*构造U2(使U2HU1=0),即设U1Hx=0,x即为U2,U={U1,U2}
【*这个公式可以这样记:A=UΣVH→U=AV(H)-1Σ-1=AV(酉矩阵性质)Σ-1】
【* 即在gik的所在处画一条竖线和一条横线,gik的i行所有元素从1至i-1分别乘以第k列的元素取共轭的值。】
2
1,A为n阶方阵,A=QR,Q为n阶酉矩阵,R为n阶上三角矩阵。
2,任意n阶方阵都可以作QR分解。
3,QR分解过程:将A施密特正交化
P1=a1
P2=a2 - P1=a2 -λ21P1
P3=a3 - P1 - P2=a3 -λ31P1-λ32P2
矩阵分解
1,
1,Doolittleห้องสมุดไป่ตู้解;
A=LR,其中L为单位下三角矩阵,R为上三角矩阵
【先行后列】
2,Crout分解:
A=LR,其中L为下三角矩阵,R为单位上三角矩阵
【先列后行】
3,LDR分解:
L为单位下三角矩阵,D为对角阵,R为单位下三角矩阵。
【数值分析常用】
4,Cholesky分解:
设A∈Cn×n是Hermite正定矩阵,则存在下三角矩阵G∈Cn×n,使得A=GGH。
通式Pn= an-Σk=1n-1Pk
【注,此处课本的写法为a2= p2 +λ21P1,…,λ的取值一样】
ei=Pi/ ; 二范数,模长。
Q= ,R=
3
1,A∈ ,若A可分解为A=FG,其中F为 ,G为 ,则称之为满秩分解。
2,[A丨I]→[PA丨P]→ 该过程为按行变换化为阶梯型,故PA={ }→A=P-1{ }

矩阵分析第四章.

矩阵分析第四章.

B1(θ1θ2)C1 = B1C1
因此有:
B1HB1(θ1θ2)C1C1H = B1HB1C1C1H
其中B1HB1, C1C1H都是可逆矩阵, 因此
θ1θ2 = E ⇒ θ2 = θ1−1
(2) 将(1)的结果代入CH(CCH)−1(BHB)−1BH即可得到.
第二节 矩阵的正交三角分解(UR, QR分解)
0 0 0 0 0
0 0 0 0 0
1 3 0 −1/ 3 10 / 3
r1←r1 −2r2 → 0 0 1 2 / 3 1/ 3
0 0 0 0
0
取第1列和第3列构成E2, 则B由A的第1列和第3列构成, 即
1 2 B = 2 1,
3 3
而C就是变换后的前2行,即
C
=
1 0
3 0
β1 k β 21 1
+
β
2
Lα3L=Lk31β1 + k32β2 + β3
α r = kr1β1 + kr2 β2 + L + kr,r−1βr−1 + βr
并设 ν1 =|| β1 ||−1 β1,ν 2 =|| β2 ||−1 β2 , L,ν r =|| βr ||−1 βr , 则:
α1 = k1′1ν1 α 2 = k2′1ν1 + k2′2ν 2 α3 = k3′1ν1 + k3′2ν 2 + k3′3ν 3
A = U1RLU2.
证明: 自己练习
− 2 1 − 2
例1:求矩阵A的UR分解, 其中
1 1 1
A=
1 1
−1 −1
0 1
解:设A = (α1, α2, α3), 用Schmidt方法将α1, α2, α3标准正交

矩阵分析与计算--04-矩阵分解-01-Jordan标准型

矩阵分析与计算--04-矩阵分解-01-Jordan标准型
d i ( ) d i 1 ( ), i 1,2, r 1,
则 A( ) 的 k 级行列式因子为
Dk ( ) d1 ( )d 2 ( ) d k ( ), k 1,2, r.
26
2)(定理4) 矩阵的Smith标准形是唯一的. 证:设 矩阵 A( ) 的标准形为
A( ) 与C ( ) 等价.
16
2) A( )与 B( ) 等价 存在一系列初等矩阵
P1 PS , Q1 Qt 使 A( ) P1 PS B( )Q1 Qt .
17
七、λ-矩阵的对角化
都等价于下列形式的矩阵
d1 ( ) d 2 ( )
19
1 2 1 1 2 0 [1,3] 1 3 1 1 2 1 2 1 1 3 1 0 2 0 3 2 0 0 1 2 0 [21(2 1),[31( 1)]] 0 3 2
2.(定理2)任意一个非零的 s n 的 一矩阵 A( ) 称之为 A( )的 Smith标准 形.
d r ( )
0
0
其中 r 1, d i ( ) ( i 1,2, 多项式,且
, r ) 是首项系数为1的
d i ( ) d i 1 ( ) ( i 1,2,
1
( )
1
i行 j行 1
14
② 初等矩阵皆可逆.
p( i , j )1 p( i , j )
p( i (c ))1 p( i ( 1 c ))
p( i , j( ( ))) p( i , j( ( )))

某211高校研究生课程《矩阵论》第4章l矩阵的因子分解剖析

某211高校研究生课程《矩阵论》第4章l矩阵的因子分解剖析

(4.6.1)
引理4.6.2 设A C mn ,则
(1) AH A与AAH的特征值均为非负实数 ; (2) AH A与AAH的非零特征值相同,并且非零特征
值的个数(重特征值按重数计算)等于rank ( A).
定义4.6.1 设ACmn ,如果存在非负实数和非零向量
u Cn, v Cm使得
Au v, AH v u
定理4.6.1 若A是正规矩阵,则 A的奇异值是A的特征 值的模。
定理4.6.2 设 A是 m n 矩阵,且rank(A) = r,则存在 m阶酉矩阵V 和 n 阶酉矩阵U使得
V
H
AU
0
0 0
(4.6.5)
其中 diag(1,, r ),且1 r 0.
(4.6.5)称为矩阵 A的奇异值分解.
d1 a11 ,
dk
k k 1
,
k 2,, n
分解式 A LDU称为矩阵A的LDU分解。
一般说来,即使A是n阶非奇异矩阵, A未必 能作LU分解和LDU分解。
定义4.3.1 设ei是n 阶单位矩阵的第i列(i=1,2,…n), 以e1, e2,, en为列作成的矩阵[ei1 , ei2 , , ein ] 称为 n 阶 排列矩阵,其中 i1, i2 ,, in 是1,2,…n的一个排列。
推论4.5.2 若 A是n 阶实对称矩阵,则 A正交相似于实 对角矩阵,即存在n 阶正交矩阵 Q 使得
QT AQ
(4.5.13)
其中 diag(1,, n ),i (i 1,, n)是A的实
特征值。
4.6 奇异值分解
引理4.6.1 设A C mn ,则
rank( AH A) rank( AAH ) rank( A)

矩阵理论第四章

矩阵理论第四章

1. Hermite 矩阵的谱分解
设 A 为 Hermite 矩阵,则存在酉矩阵 U ,使
1
O
U H AU
2
.
O
n
将U 写成列向量形式,即U u1 u2 ... un ,则
2. 非奇异矩阵的酉对角分解
定理 5.5.1 设 A 为 n 阶非奇异矩阵, 则存在 n 阶酉矩阵U 及V ,使得
A( 2 )
L-21A(1 )
0
a( 0 ) 12
a( 1 ) 22
0
a( 0 ) 13
a( 1 ) 23
a( 2 ) 33
a( 2 ) n3
a( 0 1n
a(1 2n
) )
a( 2 3n
)
a( 2 nn
)
即 A(1) L2 A( 2 )
依此类推,进行到第(r-1)步,则可得到

A

r
阶顺序主子式 r
于是
A
P1
E 0
mr
E
0 Q1. rn

P
1
E 0
F
,E
0Q1 G.
则 F 为列满秩矩阵, G 为行满秩矩阵,得
A FG .
证毕
显然,满秩分解是不唯一的.
事实上 D Crrr ( r 阶可逆方阵),
则 A FG F (DD-1)G (FD)(D-1G) F1G1,
且 F1 Crmr ,G1 Crrn .
第四章 矩阵分解
所谓矩阵分解,就是将一个矩阵写 成结构比较简单的或性质比较熟悉 的另一些矩阵的乘积.
即可将 A0 第 1 列上从第 2 到第 n 个元素全化为零.

a(0) 11

第4章 矩阵分解-1

第4章  矩阵分解-1

3 1 2
H2H1A
0
1
1
R
0
0
0
矩阵分析简明教程
Q
H
H 1
21
1 3
1
2 2
2 1 2
2
2 1
所求的QR分解为
A QR
8
0 1 1
矩阵分析简明教程
1 5
x1 2x2 x3 5x2 3x3
0 1
12 5
x3
4 5
(
5 12
)
3 5
x1
2x2 x2
1 3 0
x3
1 3
(2)
x1 x2
1 3 0
x3 1 3
(II )
矩阵分析简明教程
用矩阵形式表示,系数矩阵
1 2 1 r12 (3) 1 2 1
角方阵 R ,使得
A QR
当 m = n 时 ,Q 就 是 酉 矩 阵 或 正 交 矩 阵 。
矩阵分析简明教程
例 1 将下列矩阵进行QR分解:
1 2 2
A
1 0
0 1
2 1
4
矩阵分析简明教程
解: 1 (1,1,0, )T, 1 1 (1,1,0)T
1
||
1 1
||
1 (1,1, 0)T 2
定理4.2.3 设 e1 1, 0,, 0T C n ,
x1 , x2 ,, xn T C n , 0

x1
x1 ,
,
x1
0 ,u
e1
x1 0
e1
H E 2uuH是n 阶Householder矩阵,且
H -e1
矩阵分析简明教程
定理4.2.4(QR分解)设 A为 任 一 n 阶 矩 阵 则必存在 n 阶酉矩阵 Q 和 n 阶上三角方

第4章-矩阵分解

第4章-矩阵分解

于是存在 m 阶可逆矩阵 P ,使得 PA B 或者 A P1B . 将 P 1
分块为 P 1 (F , S ) ,其中
F C mr 且 rankF r , S C m(mr) 且 rankS m r ,
则有
A P1B (F, S)G0 FG, 其中 F 是列满秩矩阵, G 是行满秩矩阵.
若 k 0 ,就取 k
1
kH k
k ,( k
2,3,n) .
可以验证 1, 2 , n 为“正交向量组”,且每个向量或为零向量, 或为单位向量.而且每个 j 是1, 2 j 的线性组合.反过来上述作 法也保证了每个 j 是 1 , 2 j 的线性组合.因此存在复数 rij 使得
P (e j1 , e j2 ,, e jn ) 称为置换矩阵,这里 j1 j2 jn 是1,2,, n 的一个全排列.
0 0 1 0
例如,矩阵
P
(e3
,
e4
,
e1
,
e2
)
=
0 1 0
0 0 1
0 0 0
1 0 0
就是一个
4
阶置换
矩阵.
置换矩阵 P (e j1 , e j2 ,, e jn ) 有如下一些性质: (1) P 是正交矩阵; (2)对任意 A C mn , AP 是将 A 的列按 j1 , j2 ,, jn 的次序
1
P
1
A
P
0
r12 2
r n11n 1
r
n2 2n
n
0
b12
2
b1n
b2n

n
对给定的 0 ,可选择 r ,使得 bij 成立. 1i jn

第四章 正规矩阵与矩阵的分解

第四章 正规矩阵与矩阵的分解

第一节 正规矩阵【Schur 三角化定理】设n nA ⨯∈,则存在酉矩阵U ,使*U AU B =,其中B 为一个上三角矩阵.【酉矩阵】n 阶复方阵U 的n 个列向量是U 空间的一个标准正交基.1H H H n U U UU E U U -==⇔=性质:设有矩阵A ,B ,则(1)若A 是酉矩阵,则1A -也是酉矩阵;(2)若A ,B 是酉矩阵,则AB 及BA 也是酉矩阵;(3)若A 是酉矩阵,则|det()|1A =;(4)A 是酉矩阵⇔A 的n 个列向量是两两正交的单位向量. 【定理4.1.1】矩阵A 可以酉对角化⇔**AA A A =.*U AU T =是上三角矩阵,*********()()AA UTU UTU UTU UT U UTT U === *********()()A A UTU UTU UT U UTU UT TU ===,故****A A AA T T TT =⇔=A 可以酉对角化,则∃酉矩阵U 使*U AU D =***************()()()()AA U DU U DU U DUU D U U DD UU D DU U DU U DU A A ======【定义4.1.1】设n nA ⨯∈,若**AA A A =,则称A 是正规矩阵.【引理4.1.1】设A 为正规矩阵,若A 又为三角矩阵,则A 为对角矩阵. 【定理4.1.2】设n nA ⨯∈,则A 为正规矩阵⇔A 有n 个两两正交的单位特征向量.【推论4.1.1】正规矩阵属于不同特征值的特征向量是两两正交的.【定理4.1.3】设()i j n n A a ⨯=是复矩阵,1λ,2λ,……,n λ为A 的n 个特征值,则 (1)(Schur 不等式)221,1||||n nii ji i j aλ==≤∑∑(2)A 为正规矩阵⇔221,1||||nni i j i i j a λ===∑∑(3)*2,,1tr()||ni ji j AA a==∑【推论】设A 为正规矩阵且幂零,则0A =.【定义4.1.2】设a 与b 是实数,且0b ≠,则称二阶实矩阵a b b a ⎛⎫ ⎪-⎝⎭为一个Schur 型. 【定理4.1.4】(实正规矩阵)设A 是n 阶实矩阵,则A 是正规矩阵⇔存在正交矩阵Q 使得12T s Q AQ A A A =⊕⊕⊕其中每个i A 或者是一阶实矩阵,或者是一个Schur 型. 【推论4.1.2】设A 是n 阶实矩阵.(1)A 是对称矩阵⇔存在正交矩阵Q ,使得T Q AQ 是对角矩阵; (2)A 是反对称矩阵⇔存在正交矩阵Q ,使得120T s Q AQ A A A =⊕⊕⊕⊕其中每个00i i i b A b ⎛⎫= ⎪-⎝⎭,从而反对称矩阵的非零特征值为纯虚数;(3)A 是正交矩阵⇔存在正交矩阵Q ,使得12()T s t s Q AQ I I A A A =⊕-⊕⊕⊕⊕其中每个i A 是二阶Givens 旋转矩阵,从而正交矩阵的特征值的模均为1. 设B 是n 阶复矩阵.(4)B 是Hermite 矩阵⇔存在正交矩阵U ,使得T U BU 是实对角矩阵; (5)B 是反Hermite 矩阵⇔存在正交矩阵U ,使得T U BU 是纯虚数对角矩阵(即实部为0);(6)B 是酉矩阵⇔存在酉矩阵U ,使得T U BU 是对角元素的模均为1的对角矩阵,从而酉矩阵的特征值的模均为1;(7)Hermite 矩阵A 正定⇔A 的所有顺序主子式均大于0; 【引理4.1.2】Hermite 阵或实对称矩阵A 在某一个k 维子空间上正定⇔A 至少有k 个特征值(包括重数)大于零.第二节 正规矩阵的谱分解设A 是正规矩阵,则由定理4.1.1知,存在酉矩阵U 使得*12(,,,)n U AU diag λλλ=.因而*12(,,,)n A Udiag U λλλ=.令12(,,,)n U ααα=,则12*1*212****111222(,,,)n n n n n nA αλλααααλαλααλααλαα⎛⎫⎛⎫ ⎪⎪ ⎪ ⎪= ⎪⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭=+++ (4.2.1)由于12,,,n λλλ为A 的特征值,12,,,n ααα为A 对应的两两正交的单位特征向量,故式(4.2.1)称为正规矩阵A 的谱分解或特征(值)分解。

《矩阵的分解》课件

《矩阵的分解》课件
矩阵分解的算法实 现
高斯消元法
基本思想:通过行变换将矩阵 化为上三角矩阵或对角矩阵
步骤:选择主元素、消元、回 代
应用:求解线性方程组、求逆 矩阵、求特征值和特征向量
优点:计算量小,易于实现, 适用于稀疏矩阵和带状矩阵
迭代法
迭代法的基本思想:通过不断迭代, 逐步逼近目标解
迭代法的应用:在矩阵分解、数值 优化、图像处理等领域有广泛应用
U:上三角矩阵,对角线以上元素为0
LDU分解的应用:求解线性方程组、计算矩阵的逆矩阵等
平方根分解
平方根分解的定义:将矩阵分解为 两个矩阵的乘积,其中一个矩阵是 单位矩阵,另一个矩阵是矩阵的平 方根。
平方根分解的应用:平方根分解在 数值计算、线性代数、优化等领域 有着广泛的应用。
添加标题
添加标题
添加标题
添加标题
添加标题
添加标题
迭代法的步骤:设定初始值,计算 迭代函数,更新迭代值,直到满足 停止条件
迭代法的优缺点:优点是简单易实 现,缺点是收敛速度慢,容易陷入 局部最优解
共轭梯度法
共轭梯度法是一种求解线性方程组的迭代方法 共轭梯度法的基本思想是利用共轭梯度方向进行迭代 共轭梯度法的优点是收敛速度快,稳定性好 共轭梯度法的缺点是计算量大,需要存储大量的中间结果
a. 选取一组向量 b. 计算向量组的内积 c. 计算向量组的正交化向量 d. 重复步骤b和c,直到所有向量都正交
优点: a. 简单易行 b. 适用于任意维数的向量组
a. 简单易行 b. 适用于任意维数的向量组
应用: a. 矩阵的正交分解 b. 线性代数的其他领域
a. 矩阵的正交分解 b. 线性代数的其他领域
添加标题
添加标题

第四章 矩阵分解(改)

第四章  矩阵分解(改)

第四章 矩阵分解基于理论研究和计算的需要,往往有必要把矩阵分解为具有某种特性的矩阵之和或积,这就是我们所说的矩阵分解.本章将介绍一些常用的分解方法,某些在《计算方法》中已涉及的分解,我们这里就不再提起了.§4.1 矩阵的正交三角分解60年代后以Givens 与Householden 变换发展起来的矩阵的QR 分解在计算数学中扮演了十分重要的角色,尤其是以QR 分解所建立的QR 方法,已对数值线性代数理论的近代发展起了关键作用.定义1 如果一个上三角矩阵的主对角线元素全为正实数,则称该矩阵为一个正线上三角矩阵.定理1 (正交三角分解) 设A 为n 阶实满秩矩阵,则必有n 阶正交矩阵Q 及n 阶正线上三角矩阵R ,使得QR A =.证 设A 按列分块为()n A ααα ,,21=,则12,,,n ααα 为欧氏空间n R 的一组基,利用施密特正交化方法可以得到一组正交基11βα=, ()(),,,21122111122ααιαββββαβ+=+-=… … … …n n n n n n n ααιαιαιβ++++=--1,12211再单位化得一组标准正交基1111αεb =,2221122ααεb b += , (1)… … … …n nn n n n n n n b b b b ααααε++++=--1,12211其中iii b β1=>0,令⎪⎪⎪⎪⎪⎭⎫⎝⎛=nn n n b b b b b b B 22211211, 显然B 为正线上三角矩阵.且有()()1212,,,,,,n n B εεεααα= .(2)再令()12,,,n Q εεε= ,则Q 为正交矩阵.记1-=B R ,则R 仍为正线上三角矩阵.由(2)即得QR A =.定理证毕.实满秩矩阵的QR 分解是唯一的. 例1 求矩阵122212121A ⎛⎫⎪= ⎪ ⎪⎝⎭的QR 分解解 记A 的三个列向量依次为123,,ααα,用施密特正交化方法得11(1,2,1)T βα==, 212(1,1,1)T ββα=-+=-,32131711(,0,)3622T βββα=--+=-.单位化得111Tε===,2212T ε==+=, 33123(322T ε==-=-. 令⎪⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛--=22316103162223161),,(321εεεQ ,则Q 为正交矩阵.且 ()123,,,Q B ααα=其中030B ⎪⎪=-⎪ ⎪ ⎪ ⎪⎝⎭,经计算得10002R B - ⎪⎪== ⎪ ⎪ ⎪ ⎪⎝⎭,便有QR A =. 对于复满秩矩阵,类似地有UR 分解定理。

第四章正规矩阵与矩阵的分解

第四章正规矩阵与矩阵的分解

第一节 正规矩阵
由 Schur 三角化定理, 任何一个矩阵都可以酉三角化, 因此一个“好矩阵”当能够酉对角 化. 但是以往判断一个矩阵能否 (酉) 对角化需要借助于特征值与特征向量, 这是极其不方便 的, 因为我们知道寻找矩阵的特征值与特征向量常常是极为困难的工作. 本节的目的即是给出 一类可以酉对角化的“好矩阵”一个直接的判断, 即下述
第四章 正规矩阵与矩阵的分解
除特别说明, 本章讨论的矩阵都是复数矩阵.
引 言 矩阵如何快速计算?
在第一章中, 我们已经看到如果将一个小秩矩阵分解为两个满秩矩阵的乘积, 则可以
快速地计算该矩阵的高次幂. 实际上, 利用初等变换求可逆矩阵 A 的逆矩阵, 其本质就是
将矩阵 A 分解为若干较为简单的矩阵 (即初等矩阵) 的乘积. 解线性方程组的 Gauss 消元法
定理 4.1.1 矩阵 A 可以酉对角化 ⇐⇒ AA∗ = A∗A.
证 由 Schur 三角化定理, 存在酉矩阵 U 使得 U ∗AU = T 为上三角矩阵. 显然 AA∗ = A∗A ⇐⇒ T T ∗ = T ∗T . 因此不妨设 A 是上三角矩阵.
必要性是显然的, 因为如果 A 可以酉对角化, 则存在酉矩阵 U 使得 U ∗AU = D 为对角矩 阵, 因此
将正规矩阵 A 酉对角化的酉矩阵的每一列都是 A 的特征向量, 由酉矩阵的构造可得 (细 节见习题 4)
定理 4.1.2 设 A ∈ Cn×n, 则 A 为正规矩阵 ⇐⇒ A 有 n 个两两正交的单位特征向量.
推论 4.1.1 正规矩阵属于不同特征值的特征向量是相互正交的.
正规矩阵有许多良好的数字特性, 比如下面的
实际上在第三章习题 5 中, 我们已经看到了实正规矩阵在正交变换下的最简形式如下

矩阵分析 第四章 矩阵分解

矩阵分析 第四章 矩阵分解

按照分解的存在性可知
A UR 其中 U U nn , R 是正线上三角矩阵。
T
于是
TU T RU A R 1 1
R1 是正线下三角矩阵,而 U1 U nn 其中
此结论也可以被推广为
定理:设 解为
A Cr
m r
,则
A 可以唯一地分
m r
A UR
其中 R 是 r 阶正线上三角矩阵,U U r ,即 U 是一个次酉矩阵。
0 1 0 1 1 0 2 0 1 1 (3) 0 3 0 2 2
解 :(1)对此矩阵只实施行变换可以 得到
1 1 (1) 2 4
2 1 0 1 2 2 1 3 4 3 1 4 8 6 2 8 2 1 0 1 0 0 0 0
1 r4 r3 0 r3 (r1 r2 ) 0 r2 r1 0
A
B B1 , C C1
1
(2)
C (CC ) ( B B ) B
H H 1 H
H
H 1
H
1
H 1 H
C1 (C1C1 ) ( B1 B1 ) B1
H H 1
证明:A BC B C H H B1C1C 1 1 BCC
H
同理
B B1C1C (CC ) B11 ,1 C1C (CC )
0 0 1 1 0 0 0
所以 Rank ( A) 2 ,且容易看出此矩阵的 第二列和第四列是线性无关的,选取
1 1 2 1 C 32 , B 2 3 2 0 1 0 0 0 25 C C2 0 0 0 1 1
解:(2)对此矩阵只实施行变换可以得到
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

(4.1.1) ) . 证明 rankA = r 时,根据矩阵的初等变换理论,对 A 进行初等 根据矩阵的初等变换理论, 行变换, 行变换,可将 A 化为阶梯形矩阵 B ,即
G A → B = , G ∈ C r×n , rankG = r . 0 −1 −1 于是存在 m 阶可逆矩阵 P ,使得 PA = B 或者 A = P B . 将 P −1 分块为 P = ( F , S ) ,其中
2 1 0 0 −1 0 1 ( A, E ) = 1 2 − 1 1 ⋮0 1 0 2 2 − 2 − 1 0 0 1 − 1 0 1 2 1 0 , 所以 B = 0 2 0 3 P = 1 1 0 0 0 0 1 − 1
3×2 矩阵,从而有 × 矩阵,
0 1 1 A = 2 1 2i 0 0
又如在例 4.1.1 中
1 0 . 2 0 1
所以
1 0 −1 − 2 2 −1 0 1 行 3 A = 1 2 −1 1 → 0 1 0 = B, 2 2 2 − 2 − 1 0 0 0 0 − 1 0 1 0 − 1 − 2 3 . A = 1 2 0 1 0 2 2 2
注意到 ε 1
T
及向量组( λ1ε 1 = λ1 | ε 1 |= λ1 及向量组(4.2.1)的正交性,则有 )的正交性,
ε 1T T η 2′ λ1 ∗ H ′ ′ U 1 AU 1 = (λ1ε 1 Aη 2 ⋯ Aη n ) = 0 A ⋮ 1 η ′T n n −1 易知 n − 1 阶方阵 A1 的特征值为 λ 2 , ⋯, λ n . 设 ε 2 ∈ C 为 A1 的属于 λ 2 的单位特征向量,又重复上述步骤, 的单位特征向量,又重复上述步骤,则又有 n − 1 阶酉矩阵 U 2 ,使得
4.1 矩阵的满秩分解
本节介绍将非零矩阵分解为列满秩矩阵与行满秩矩阵的 乘积问题. 乘积问题.
定义 4.1.1 设 A ∈ C 矩阵 F ∈ C
m× r
m× n
且rankA = r (r > 0) ,如果存在列满秩
r ×n
和行满秩矩阵 G ∈ C
,使得 (4.1.1) )
A = FG
则称式(4.1.1)为矩阵 A 的满秩分解. 则称式( ) 满秩分解.
证明 由 A → B 知,存在 m 阶可逆矩阵 P ,使得 PA = B 或

− 根据定理(4.1.1),将 P 者 A = P B ,根据定理 , −1 −1
分块为
P −1 = ( F , S ) , F ∈ C m× r , rank ( F ) = r ; S ∈ C m ×( m − r ) , rankS = m − r . 矩阵. 可得满秩分解 A = FG ,其中 G 为 B 的前 r 行构成的 r × n 矩阵.
m×n
重新排列所得到的矩阵. 重新排列所得到的矩阵. 我们已知,任意非零矩阵 A ∈ C 我们已知,
设 A∈C
m×n
且rankA = r ,可通过初等
行线性无关. 行变换化为行最简形矩阵 B ,且 B 的前 r 行线性无关
定理 4.1.2
, rankA = r (r > 0) 的行最简形矩阵为
B ,那么,在 A 的满秩分解(4.1.1)中,可取 F 为 A 的 j1 , j 2 , ⋯, j r 那么, 的满秩分解( ) 矩阵, 矩阵. 列构成的 m × r 矩阵, G 为 B 的前 r 行构成的 r × n 矩阵.
(
)
从而Байду номын сангаас
rank ( A1 + A2 ) ≤ rank ( F1 , F2 ) ≤ rank ( F1 ) + rank ( F2 ) = rank ( A1 ) + rank ( A2 ) .
4.2 舒尔定理及矩阵的 舒尔定理及矩阵的QR分解 分解
舒尔(Schur)定理在理论上很重要,它是很多重要定理 定理在理论上很重要, 舒尔 定理在理论上很重要 证明的出发点. 而矩阵的QR分解在数值代数中起着重要作 证明的出发点. 而矩阵的 分解在数值代数中起着重要作 用,是计算矩阵特征值及求解线性方程组的一个重要工具.下 是计算矩阵特征值及求解线性方程组的一个重要工具 下 面的讨论是在酉空间C 内进行的. 面的讨论是在酉空间Cn内进行的.
利用矩阵的满秩分解处理一些矩阵问题时,有时会十分方便. 利用矩阵的满秩分解处理一些矩阵问题时,有时会十分方便. 矩阵, 例 4.1.3 设 A1 与 A2 都是 m × n 矩阵,证明
rank ( A1 + A2 ) ≤ rank ( A1 ) + rank ( A2 ) . 则结论显然成立. 证明 如果 A1 = 0 , 或者 A2 = 0 , 则结论显然成立 . 如果 A1 ≠ 0 且 A2 ≠ 0 ,设 A1 与 A2 的满秩分解分别为 A1 = F1G1 , A2 = F2 G2 ,则有 G1 A1 + A2 = F1G1 + F2G2 = F1 , F2 , G 2
矩阵. 矩阵.
的满秩分解时, 利用定理 4.1.2 求 A 的满秩分解时,需要首先求出 A 的行最简 因此不需求之. 形矩阵 B ,但并未用到变换矩阵 P ,因此不需求之.
0 0 1 的满秩分解, 例 4.1.2 求矩阵 A = 2 1 1 的满秩分解,其中 i = − 1 . 2i i 0 1 0 1 0 0 1 2 行 A = 2 1 1 → 0 0 1 = B , 解 2i i 0 0 0 0 的前两列,所以, 因为 B 的第 1 列和第 3 列构成 E 3 的前两列,所以, F 为 A 的第 1 列和第 3 列构成的
上例中, 上例中,求列满秩矩阵 F 时,需要求出矩阵 P 及其逆矩阵 P 计算量较大. 为了避免这些运算,引入下面的定义. 计算量较大. 为了避免这些运算,引入下面的定义
−1

定义 4.1.2 以 n 阶单位矩阵 E n 的 n 个列向量 e1 , e2 , ⋯ , en 为列构成 的 n 阶矩阵

F ∈ C m× r 且 rankF = r , S ∈ C m×( m − r ) 且 rankS = m − r ,
则有
G A = P B = ( F , S ) = FG , 0 列满秩矩阵, 行满秩矩阵. 其中 F 是列满秩矩阵, G 是行满秩矩阵.
−1
的满秩分解(4.1.1)不是唯一的, 不是唯一的, 注 4.1.1 矩阵 A 的满秩分解 不是唯一的 这是因为若取 D 阶非奇异矩阵,则式( 是任一个 r 阶非奇异矩阵,则式(4.1.1)可改写为 )
是满秩(列满秩或行满秩)矩阵时, 当 A 是满秩(列满秩或行满秩)矩阵时, A 可分解为一个因子 是单位矩阵, 本身,称此满秩分解为平凡分解 平凡分解. 是单位矩阵,另一个因子是 A 本身,称此满秩分解为平凡分解.
定理 4.1.1 设 A ∈ C
m× n
, rankA = r (r > 0) , 则 A 有满秩分解
P = (e j1 , e j2 ,⋯ , e jn )
称为置换矩阵, 的一个全排列. 称为置换矩阵,这里 j1 j2 ⋯ jn 是1,2, ⋯ , n 的一个全排列. 置换矩阵
0 0 例如, 例如,矩阵 P = (e3 , e 4 , e1 , e2 ) = 1 0
矩阵. 矩阵
第4章
矩阵分解
把矩阵分解为形式比较简单或具有某种特性的一些矩 阵的乘积,在矩阵理论的研究与应用中, 阵的乘积,在矩阵理论的研究与应用中,都是十分重要 的.因为这些分解式的特殊形式一方面能明显地反映出原 矩阵的某些数值特征,如矩阵的秩、行列式、特征值及奇 矩阵的某些数值特征,如矩阵的秩、行列式、 异值等, 异值等,另一方面分解的方法与过程往往提供了某些有效 的数值计算方法和理论分析根据. 的数值计算方法和理论分析根据.本章将介绍在广义逆矩 阵等理论中常用的矩阵满秩分解和奇异值分解, 阵等理论中常用的矩阵满秩分解和奇异值分解,最后介绍 矩阵的QR分解以及 分解以及Schur定理. 定理. 矩阵的 分解以及 定理
A = ( FD)( D G ) = F G ,
的另一个满秩分解. 这是 A 的另一个满秩分解 的证明过程表明, 注 4.1.2 定理 4.1.1 的证明过程表明,可以使用矩阵的初等行变 换方法求矩阵的满秩分解. 换方法求矩阵的满秩分解.
−1
~ ~
2 −1 0 1 的满秩分解. 例 4.1.1 求矩阵 A = 1 2 − 1 1 的满秩分解. 2 2 − 2 − 1 为此, 解 需要求出阶梯形矩阵 B 及诸初等矩阵的乘积 P . 为此,对 进行初等行变换, 距阵 ( A, E ) 进行初等行变换, A 所在的位置成为阶梯形矩阵 B 时, 当 E 所在的位置就是进行初等行变换对应的初等矩阵的乘积 P .
− 1 0 1 2 1 0 0 行 → 0 2 0 3⋮1 1 0 0 0 0 0 1 − 1 1 0 1 0 0 . ,可求得 −1 P = − 1 1 0 0 − 2 1 1 1
于是有
1 0 − 1 0 1 2 A = − 1 1 0 2 0 3 . − 2 1
下面确定列满秩矩阵 F ,参照 A 的行最简形矩阵 B 作 n 阶置换 矩阵
P1 = (e j1 , ⋯, e jr , e jr +1 , ⋯, e jn ) ,
划分 A = (α 1 , α 2 , ⋯, α n ) , B = ( β 1 , β 2 , ⋯ , β n ) ,则有
相关文档
最新文档