第3章 矩阵的分解

2,奇异值的定义: (P.72) 奇异值的定义: 72) A∈C m×n,秩(A)=r,设AHA的特征值λ1 ≥ λ2 ≥… 的特征值λ =0. ≥ λr > 0,λr+1= λr+2 =…=λ n =0.,则矩阵的奇异值
σi =
λi , i = 1,2 ,..., r .
3,特殊矩阵的奇异值: 特殊矩阵的奇异值: 定理3 13( 82): 定理3.13(P.82):
方法1 方法1: 方法2 方法2 例题1 例题1( P.68, eg4 ) 方法3 方法3 实用方法:方法3 实用方法:方法3
例题2 例题2 ( P.69,eg5)
例题3 例题3( P.70,eg6)
三,可对角化矩阵的谱分解
将方阵分解成用谱加权的矩阵和
λI A = ( λ λ1 ) ( λ λ2 ) ( λ λs )
QR分解 QR分解
2 2
1
定理3 定理3.8(P.76) :设矩阵A∈Cm×n是列满秩的矩阵,则 是列满秩的矩阵, 矩阵A可以分解为A=QR,其中Q 矩阵A可以分解为A=QR,其中Q ∈Cm×n的列向量是标准 正交的向量组, 正交的向量组,R ∈Cn×n是主对角线上元素为正数的上三
角形矩阵. 角形矩阵.
i
σr
σi
扩充为标准正交基 酉矩阵U. 酉矩阵U
1 1 例题1 求矩阵A的奇异值分解, 例题1 求矩阵A的奇异值分解,A= . 0 1 1 0 1 0 1 0 1 1 求矩阵A的奇异值分解, 求矩阵A的奇异值分解,A= 0 0 0
2,正规矩阵的基本特性 定理3 .78 定理3.10 (P.78 ) : A∈Cn×n正规A酉相似于对角形. 正规 酉相似于对角形.
推论:正规A 推论:正规A∈Cn×nA有n个标准正交的特征 向量构成空间C 的标准正交基. 向量构成空间Cn 的标准正交基.
定理3 11( .80 )(正规矩阵的谱分解 定理3.11(P.80 )(正规矩阵的谱分解) 正规矩阵的谱分解) Hermite A正规A有如下谱分解: 正规 有如下谱分解: 性
2, 矩阵可以对角化的一个充要条件 定理3 定理3.5(P.73 ) 矩阵A可以相似对角化当且仅当矩阵A 矩阵A可以相似对角化当且仅当矩阵A有谱 2 分解 P =P
A = ∑ λi Pi
i =1 s
,满足条件: 满足条件:
Pi Pj = 0
i
i
i≠ j
∑
i =1
s
Pi = I
充分性的证明: 充分性的证明 在A有谱分解时 Cn=V λ1⊕V λ2 ⊕ … ⊕ V λn
A = 4 7 7 2 4 5 LU和LDV分解 分解. 求A的LU和LDV分解.
结论:如果矩阵A 结论:如果矩阵A能用两行互换以外的 初等行变换 化为阶梯形, LU分解 分解. 化为阶梯形,则A有LU分解.
三角分解的存在性和惟一性
定理3 定理3.1 (P.62) :
矩阵的k 阶主子式:取矩阵的前k行,前k列得到 矩阵的k 阶主子式:取矩阵的前k 的行列式,k=1, 的行列式,k=1,2, … ,n. 定理: A∈Fn×n有惟一LDV分解的充要条件是A的顺 定理: 有惟一LDV分解的充要条件是 分解的充要条件是A 序主子式A 非零, =1, 序主子式Ak非零,k =1,2,…,n-1. 证明过程给出了LDV分解的一种算法. 证明过程给出了LDV分解的一种算法. 分解的一种算法 定理3.2( .64) 定理3.2(P.64)设矩阵A∈Fn×n ,rank(A)=k(≤ rank( =k( n),如果A的j阶顺序主子式不等于0, j =1,2,…,k, ),如果 如果A 阶顺序主子式不等于0 =1, LU分解 分解. 则 A有LU分解. 定理条件的讨论 例题2 例题2 (P.65 eg2) .65 LU分解的应用举例 LU分解的应用举例
三角分解 满秩分解 等价标准形 相似标准形
可对角化矩阵的谱分解
一,矩阵的三角分解
方阵的LU和LDV分解 方阵的LU和LDV分解(P.61) 分解( .61
LU分解:A∈Fn×n, 存在下三角形矩阵L , LU分解: 存在下三角形矩阵L 分解 上三角形矩阵U 使得A=LU. 上三角形矩阵U ,使得A=LU. LDV分解 LDV分解:A∈Fn×n, L,V分别是主对角线 分解: 元素为1的下三角形和上三角形矩阵, 元素为1的下三角形和上三角形矩阵,D为 对角矩阵,使得A=LDV. 对角矩阵,使得A=LDV. 已知的方法:Gauss已知的方法:Gauss-消元法 例题1 .61eg1 例题1 (P.61eg1)设 2 2 3
二,矩阵的奇异值分解
1,定理3.14 定理3 14(P.83)
任何矩阵A 任何矩阵A∈C m×n,秩(A)=r,则存在酉矩 阵 U∈C m×m,V∈C n×n,使得 σ 1 σ 1 σ σ2 2
0
VH = σr 0 0 证明思想: 证明思想: 2 AHA正规,VHAHAV= 正规, 酉矩阵V 0 ,酉矩阵V. Avi ,i=1,2,…,r,得U1=[u1,u2, … ,ur] 令 =1, u = A =U
二,矩阵的满秩分解
列 满 秩
定义3.2 (P.66 ) 行满秩 .66 如果存在秩为r 对秩为r 的矩阵A 对秩为r 的矩阵A∈Fm×n ,如果存在秩为r的矩阵 B ∈Fm×r,C∈Fr×n ,则A=BC为A 的满秩分解. A=BC为 的满秩分解. 定理3.2:任何非零矩阵A 定理3.2:任何非零矩阵A∈Fm×n都有满秩分解. 都有满秩分解. 满秩分解的求法: 满秩分解的求法:
已知:欧氏空间中的对称矩阵A 已知:欧氏空间中的对称矩阵A可以正交 相似于对角形. 相似于对角形. 讨论:一般方阵A 讨论:一般方阵A ,在什么条件下可以 酉相似于对角矩阵? 酉相似于对角矩阵? 在内积空间中讨论问题,涉及: 在内积空间中讨论问题,涉及:
空间 Cn, Cn×n, 酉矩阵U 酉矩阵U,UHU=I, U – 1=UH U=I, 酉相似: 酉相似: UHAU=J U–1 AU=J 重点: 重点:理论结果
第3章, 矩阵的分解
Matrix Factorization and Decomposition
矩阵分解的概述
矩阵的分解: 矩阵的分解: 矩阵分解的原则: 矩阵分解的原则:
实际应用的需要 显示原矩阵的某些特性 矩阵化简的方法之一 A=A1+A2+…+Ak A=A1A2 …Am 矩阵的和 矩阵的乘积
一, Schur 分解
1, 可逆矩阵的UR分解 可逆矩阵的UR分解
定理3 定理3.7(P.74)A∈Cn×n为可逆矩阵,则存在酉矩 为可逆矩阵, 和主对角线上元素皆正的上三角矩阵R 阵U和主对角线上元素皆正的上三角矩阵R,使 A=UR.( A=UR为矩阵 的酉分解) 为矩阵A 得A=UR.( 称A=UR为矩阵A的酉分解) 8 2 证明:源于Schmidt正交化方法 正交化方法. 证明:源于Schmidt正交化方法. 2 A= 1 7 1 例题1 求矩阵A UR分解 分解, 例题1 求矩阵A的UR分解,其中
A = ∑ λi Pi
i =1
s
Pi = Pi , Pi = Pi Pi Pj = 0 i ≠ j
2 H
∑
i =1
sFra Baidu bibliotek
Pi = I
3,正规性质的应用举例 例题1 .79 eg12) 例题1(P.79 ,eg12) 例题2 例题2 设A∈Rn×n,AT=–A,证明
1. A的特征值是零和纯虚数. 的特征值是零和纯虚数. 2. 矩阵A的秩是偶数. 矩阵A的秩是偶数.
3. 幂等矩阵的性质 定理3 .72 =P, 定理3 .4(P.72)P∈Fn×n ,P2=P,则
矩阵P 和矩阵( 矩阵PH和矩阵(I–P)仍然是幂等矩阵. 仍然是幂等矩阵. P 的谱{0,1},P 可相似于对角形. 的谱{0,1}, 可相似于对角形. Fn = N(P)⊕ R(P) N( N(P)=V λ=0 ,R(P)=Vλ=1 P和(I – P)的关系 N(I – P)=R(P),R( I – P )=N(P) =R( ),R =N(
A∈C m×n,AHA∈C n×n,AAH∈C m×m , A 都是Hermite矩阵 矩阵. 都是Hermite矩阵. 定理3 12 定理3.12(P.82)
1. 秩(A)=秩(AHA)=秩(AAH). )=秩 2. AHA 和AAH 的非零特征值相等. 的非零特征值相等. 3. AHA和AAH 是半正定矩阵. 是半正定矩阵. AHA和AAH 的特征值是非负实数:λ1 ≥ λ2 ≥… ≥ λn 的特征值是非负实数:
Hermite 矩阵的谱分解 定理3 .73 是秩为k的半正定的Hermite 定理3 .6(P.73)设A是秩为k的半正定的Hermite
矩阵,则A可以分解为下列半正定矩阵的和. 可以分解为下列半正定矩阵的和. 矩阵, A=v1v1H+v2v2H+…vkvkH A=v
§3.2 Schur 分解和正规矩阵
理论上的需要 计算上的需要
主要技巧: 主要技巧:
各种标准形的理论和计算方法 矩阵的分块
§3.1 常见的矩阵标准形与分解
常见的标准形
等价标准形 相似标准形 合同标准形
I r 0 Am×n = pm×m Qn×n 0 0 1 An×n = PJ A P
An×n = C∧C T
AT=A
本节分解: 本节分解:
正规矩阵A的奇异值等于A的特征值的模长. 正规矩阵A的奇异值等于A的特征值的模长. 正定的Hermite矩阵 的奇异值就是A的特征值. 矩阵A 正定的Hermite矩阵A的奇异值就是A的特征值. 酉等价矩阵的奇异值相等. 酉等价矩阵的奇异值相等.
A和B酉等价,则AHA和BHB酉相似. 酉等价, 酉相似. 奇异值是酉等价的不变性质. 奇异值是酉等价的不变性质.
r1 r2
谱:设A∈Fn×n ,
rs
则A的谱={λ1,λ2,…,λs}. 的谱={λ
1. 可对角矩阵的谱分解
分解分析: 分解分析: 分解结果: 分解结果:
s
∑
i =1
s
Pi = I
2
A = ∑ λi Pi
i =1
,P具性质 具性质:
Pi = Pi Pi Pj = 0 i ≠ j
幂等矩 阵
意义: 意义:可对角化矩阵可以分解成以谱加权的幂等矩阵的加权和
2 ,Schur 分解 定理3.7( 对矩阵A 定理3.7(P.74 )对矩阵A∈Cn×n,存在酉 矩阵U和上三角矩阵T 矩阵U和上三角矩阵T,使得 λ1 UHAU=T= λ 证明要点: 证明要点: A=PJ AP–1 , P=UR A= PJ AP–1 =U(RJR–1 )UH =UTUH. =U(
0 矩阵A等价于∑ 矩阵A等价于∑= 0 0
σ 1 σ2 = m× n σr
奇异值分解基本适用于内积空间中与矩阵秩相 关的问题 A的奇异值分解依赖于正规矩阵A HA 的酉相似 的奇异值分解依赖于正规矩阵A 分解的. 分解的.
一,矩阵A的奇异值及其性质 矩阵A
1,矩阵AHA和AAH的性质: 矩阵A 的性质:
§3 . 3 矩阵的奇异值分解
Singular value decomposition (SVD)
§3.3 矩阵的奇异值分解
概述: 概述
矩阵的奇异值分解是酉等价型的分解: 矩阵的奇异值分解是酉等价型的分解: A∈C m×n, 酉等价型的分解 酉矩阵U V∈ 使得A=U 酉矩阵U∈C m×m, V∈C n×n ,使得A=U ∑VH.
2
λn
二,正规矩阵(Normal Matrices) 正规矩阵(
1, 定义3.3(P.77 )A是正规矩阵 AHA=AAH. 定义3 常见的正规矩阵: 常见的正规矩阵:
对角矩阵 对称和反对称矩阵:AT=A,AT=–A. 对称和反对称矩阵: =A, Hermite矩阵和反 Hermite矩阵和反Hermite矩阵:AH=A,AH=–A 矩阵和反Hermite矩阵 矩阵: =A, 正交矩阵和酉矩阵: =I, =I. 正交矩阵和酉矩阵:ATA=AAT=I,AHA=AAH=I. 例题1 .78 10) 为正规矩阵, 酉相似于A 例题1 (P.78,eg 10)设A为正规矩阵,B酉相似于A, 证明B也是正规矩阵. 证明B也是正规矩阵. 正规是酉相似的不变性质 例题2 例题2,A∈Fm×n,矩阵AHA 和矩阵AAH是正规矩阵. 矩阵A 和矩阵AA 是正规矩阵.