第4章 矩阵的广义逆
矩阵论广义逆
矩阵论广义逆矩阵是线性代数中的重要概念,广义逆是矩阵论中的一个关键概念。
在矩阵论中,广义逆用于解决矩阵方程的求解问题。
本文将介绍矩阵论中的广义逆以及其应用。
1. 广义逆的定义在矩阵论中,矩阵的广义逆是指对于任意矩阵A,存在一个矩阵X,满足以下条件:1) AXA=A2) XAX=X3) (AX)^T=AX4) (XA)^T=XA广义逆的存在性和唯一性是矩阵论中的一个重要问题,对于满足以上条件的矩阵X,我们称其为A的广义逆,记作A⁺。
2. 广义逆的性质广义逆具有以下性质:1) AA⁺A=A2) A⁺AA⁺=A⁺3) (A⁺)^T=A⁺4) (AA⁺)^T=AA⁺广义逆的性质使得它在矩阵方程的求解中具有重要作用。
3. 广义逆的应用广义逆在矩阵方程的求解中有广泛的应用,下面介绍其中几个常见的应用:3.1 线性方程组的求解对于线性方程组Ax=b,如果A的广义逆A⁺存在,那么方程的解可以表示为x=A⁺b。
广义逆的存在性保证了线性方程组的解的存在性,并且通过广义逆的计算,可以得到解的一个特解。
3.2 最小二乘问题的求解最小二乘问题是指在给定线性方程组Ax=b无解时,求解使得||Ax-b||^2最小的x。
如果A的广义逆A⁺存在,那么最小二乘问题的解可以表示为x=A⁺b。
广义逆的计算可以通过奇异值分解等方法来实现。
3.3 线性回归分析线性回归分析是统计学中的一种重要方法,用于建立自变量与因变量之间的线性关系。
在线性回归分析中,广义逆可以用于求解回归系数,得到最佳拟合直线,并用于预测和推断。
4. 广义逆的计算方法广义逆的计算方法有多种,常见的包括伪逆法、奇异值分解法等。
伪逆法是通过对矩阵A进行分解或变换,得到A的伪逆矩阵。
奇异值分解法则是通过对矩阵A进行奇异值分解,得到A的伪逆矩阵。
这些计算方法都是基于矩阵的特征和性质进行推导和求解的。
5. 广义逆的应用举例以线性方程组的求解为例,假设有如下线性方程组:2x+y=3x+3y=9将其转化为矩阵形式为:A=[2 1; 1 3]b=[3; 9]求解线性方程组的解可以通过计算广义逆来实现。
矩阵的广义逆
矩阵的广义逆矩阵的广义逆,也称为矩阵的伪逆或摩尔-彭若斯广义逆,是指对于任意一个矩阵A,存在一个矩阵A+,使得满足AA+A = A和A+AA+ = A+。
有时也会写作A†来表示矩阵A的广义逆。
对于一个非方阵矩阵,它的伪逆可以分为两种情况:1. 如果矩阵 A 的行数小于列数,那么 A 的伪逆定义为满足 A A+ A = A 的矩阵 A+。
而对于方阵矩阵,它的伪逆和逆矩阵可以等价。
即 A A-1 A = A。
矩阵的广义逆具有以下的性质:1. A+ 也是广义逆矩阵。
即 A++ = A+。
2. A+ 的列空间就是 A 的列空间的伪逆。
即Col(A+) = Col(A)⊥。
其中⊥ 表示正交补。
6. 若 A 是满秩的,则其广义逆 A+ 就是其逆 A-1。
广义逆的应用相当广泛,其中一个典型的例子就是矩阵最小二乘问题。
在最小二乘问题中,我们需要求解一个线性方程组 Ax = b,其中矩阵 A 不一定满秩。
在这种情况下,我们可以使用广义逆来求解这个问题。
具体方法是通过求解矩阵 (ATA)+ ATb 来得到线性方程组的近似解。
由于经过广义逆变换后的矩阵 A+ 可以在秩不足的情况下仍然存在,因此我们可以使用广义逆来获得一个较好的近似解。
同时,广义逆还可以用于求解线性回归、广义线性回归和主成分分析等问题。
总之,矩阵的广义逆是线性代数中一个非常常用的概念,具有广泛应用和重要的数学意义。
通过理解和掌握广义逆的性质和应用,可以帮助我们更好地处理线性方程组等问题,从而有效提高数据分析和科学计算的效率和准确性。
矩阵广义逆求法
推论:设A Cmn, 1 )当r n时(列满秩),A+ =(AH A)1 AH, r 2)当r m时(行满秩),A+ =AH (AAH )1.
证明:当r n时, A AI n BC为A的满秩分解,由定理可得 1) A + =(A H A) 1 A H; 2)当r m时, A I m A BC ,
54 75 33 1 32 43 1 BH 234 130 182 78 34 53 15
3 1 2)因B列满秩,B =(B B) B = (1,3) (1,3) (1,3). 10 1
注:当r ( A) 1时,非零特征值只有1个,则A =
+
1
1
AH .
此时,设A=(aij ) mn , r ( AH A) r ( A) 1, 可知 1 n 0 H tr ( A A) 1 =tr j 1 0
a
i 1
利用奇异值分解求A +的简化步骤: 1)求出A H A的r个非零特征值1, , r , i 0; 2)求出A H A对应于特征值1, , r的标准正交特征向量
1 , , r .令V1 =(1 , , r );
1-1 H H + 3)则A V1 V1 A r-1
1 2 1 解:A 0 1 -1 0 1 -1 1 2 1 B= 2 5 ,C= 0 4 9 5 1 0 3 -3 4 0 1 -1 4 ,令 4 0 0 0 0 0 3 -3 . 1 -1 4
上述定理可简化:
Sr 定理3:设A C ,在A奇异值分解A=U 0 令V=(x1 , , x r ,x r 1 , ,x n )=(V1 ,V2 ).则
求矩阵的广义逆
0 是A 的广义逆. (证毕)
一般地, 我们有: 如果m ×n 矩阵A 是满秩的, 且A 的 r ( r= m in (m , n) ) 阶子式 i1 i2 … ir
N j1 j2 … jr 的行列式不等于零, 则当m ≤n 时,
第4期
张静 求矩阵的广义逆
381
N-1 1
P
j1
2 j2
…m … jm
≠0 可知A 是满秩的, 但反之不成立.
例 设
125
A=
.
210
因为 A = - 18≠0 , 所以用伴随矩阵法求得A 的广义逆 G 1:
G1 =
1 A
A3
=
-
1
1 18
-
2
-3
-7 - 4=
3
-
1 18
1 9
1 6
又因为, A 的二阶子式:
7 18
2 9
-
1 6
12 N
=
1 2 ≠ 0, N 1 2
下面给出求矩阵广义逆的初等变换法: 本文只对m ≤n 的情形进行讨论, 当m ≥n 时, 利用列式相应的性质可得相应的结论. 用
1 2 …m N j 1 j 2 … jm
表示矩阵 A 的位于 1, 2, …, m 行; j 1, j 2, …jm 列的元素构成的A 的 m 阶子式.
定理 2 设 m ×n 矩阵 (m ≤n)A = (a ij ) , 如果 N
i1 i2 … ir N j1 j2 … jr
(r= m in (m , n) ) 的行列式不等于零, 则
1 2 …m
N-1
p
j1Βιβλιοθήκη j2…jm0
或 N i i1 1
广义可逆矩阵
广义可逆矩阵
广义可逆矩阵通常是指在广义意义下可逆的矩阵。
在数学中,一个矩阵是可逆的,意味着它存在逆矩阵,使得两者相乘得到单位矩阵。
然而,在某些情况下,矩阵可能不是方阵,但仍然存在“广义逆”,这种逆称为“广义逆”。
对于一个m×n 的矩阵A,如果存在一个n×m 的矩阵B,使得A×B 和B×A 都是对应维度的单位矩阵,那么矩阵 A 被称为广义可逆矩阵,B 被称为 A 的广义逆。
广义逆矩阵的存在性通常与矩阵的秩和行列式等相关。
广义可逆矩阵在线性代数和应用数学中具有重要意义,尤其在处理非方阵和奇异矩阵时具有重要应用价值。
对于广义可逆矩阵的研究和应用,涉及到众多数学领域,例如最小二乘法、线性方程组的求解、图像处理等。
广义逆矩阵与线性最小二乘
广义逆矩阵与线性最小二乘广义逆矩阵及其应用是线性代数中一个重要的研究方向。
在许多实际问题中,我们需要找到一种方法来解决超定方程组的问题。
而广义逆矩阵就是解决这类问题的有效工具之一。
本文将介绍广义逆矩阵的定义和性质,并探讨其在线性最小二乘问题中的应用。
一、广义逆矩阵的定义广义逆矩阵,也被称为伪逆矩阵,是矩阵理论中的一种扩展。
对于任意的实矩阵A,它的广义逆矩阵记作A⁺。
如果存在一个矩阵B,满足以下条件:1)ABA=A;2)BAB=B;则矩阵B为A的广义逆矩阵。
二、广义逆矩阵的性质广义逆矩阵具有以下性质:1)(A⁺)⁺=A,即广义逆矩阵的广义逆矩阵等于原矩阵本身;2)(AB)⁺=B⁺A⁺,即矩阵乘法的广义逆等于矩阵广义逆的乘法;3)(Aᵀ)⁺=(A⁺)ᵀ,即转置矩阵的广义逆等于广义逆的转置;4)如果A是满秩矩阵,则A⁺=A⁻¹,即广义逆矩阵等于逆矩阵。
三、广义逆矩阵的应用1. 线性最小二乘线性最小二乘问题是指在一组超定方程中,通过最小化误差的平方和,找到最佳的解。
设A为一个m×n的实矩阵,b为一个m维实向量,我们的目标是找到一个n维实向量x,使得||Ax-b||²取得最小值。
利用广义逆矩阵,线性最小二乘问题可以转化为求解如下方程的问题:A⁺Ax = A⁺b其中,A⁺表示A的广义逆矩阵。
解x = A⁺b即可得到最小二乘解。
2. 线性方程组的逼近解对于一个不一定可逆的矩阵A,我们可以通过广义逆矩阵来逼近求解线性方程组Ax=b。
即使A不是方阵,也可以通过广义逆矩阵来找到一个近似解。
通过求解A⁺Ax=A⁺b,我们可以得到一个逼近解x = A⁺b。
这在实际问题中往往是非常有用的,特别是当我们无法求解方程组的精确解时。
四、总结广义逆矩阵是一种重要的工具,在线性代数中广泛应用于解决超定方程组的问题。
它具有许多重要的性质,使得它成为线性最小二乘和逼近解的有力工具。
通过合理利用广义逆矩阵,我们可以在实际问题中找到最佳的解,为相关领域的研究和应用提供了新的途径。
一类环上矩阵的广义逆
一类环上矩阵的广义逆1简介在矩阵论中,一类环上矩阵的广义逆是一个非常重要的概念。
矩阵广义逆是矩阵的一种补充,可以通过广义逆来求解线性方程组的最小二乘解。
本文将介绍一类环上矩阵的广义逆,同时探讨其应用和相关定理。
2什么是环环是一种基本的数学结构,是一个集合和两个运算符的组合,分别是加法和乘法。
这两个运算符都满足特定的属性,比如加法满足结合律、交换律和有单位元素,乘法满足结合律和分配律。
环可以是交换的,也可以是非交换的。
3环上的矩阵在环上,我们可以定义矩阵的加法和乘法。
一个环上的矩阵是一个元素来自于环的矩形阵列,其中每个元素都可以通过环上的加法和乘法进行运算。
具体来讲,如果R是一个环,那么一个R上的m x n 矩阵可以写成以下形式:A=[aij],i=1,2,…,m;j=1,2,…,n;其中aij是环R的一个元素。
4一类环上矩阵的广义逆对于一个环上的矩阵A,如果存在一个矩阵X使得以下条件成立:AXA=A那么X就被称为矩阵A的一个广义逆。
通常用+表示,即A+。
值得注意的是,环上的矩阵广义逆并不一定唯一,但一个环上的矩阵最多只能存在一个左广义逆和一个右广义逆。
5广义逆的应用广义逆有着广泛的应用,其中最重要的应用是求解线性方程组的最小二乘解。
这里,我们以线性方程组Ax=b为例。
如果矩阵A没有逆矩阵,那么我们可以使用广义逆来求解Ax=b的最小二乘解,即:x=A+bA+(I-AXA+)b其中,A+是矩阵A的广义逆。
值得一提的是,广义逆还有许多其他的应用,比如在图像处理、统计学和控制论中,广义逆被广泛地用来处理数据。
6广义逆的性质广义逆有着许多的重要性质,比如:-A+AA+A=A+,AA+A+A+=A+-(A+)+=A+,(A*)+=(A+)*-(AB)+=B+A+-(A⊕B)+=A+A⊕B+B+其中,A*,A⊕B表示矩阵的转置和矩阵的Kronecker乘积,分别。
7结论在本文中,我们介绍了一类环上矩阵的广义逆,讨论了其应用和相关定理。
矩阵的广义逆行列式
矩阵的广义逆行列式
矩阵的广义逆行列式是指一个矩阵在广义逆的定义下所对应的行列式。
在线性
代数中,给定一个矩阵A,如果存在一个矩阵B使得AB和BA都是广义单位矩阵(设为I),则B被称为矩阵A的广义逆,记作A⁺。
对于一个矩阵A的广义逆行列式,我们可以通过以下步骤计算得出。
首先,我们需要求出A的广义逆矩阵A⁺,这可以通过奇异值分解(SVD)来得出。
将矩阵A
作SVD,可以得到矩阵A的奇异值分解形式为A = UΣV^T,其中U和V是正交矩阵,Σ是对角阵。
我们可以将矩阵Σ的对角元素进行求逆,得到Σ的伪逆矩阵Σ⁺。
然后,将U
和V^T进行转置操作,得到U^T和V的转置矩阵(V^T)^T=V,分别表示U和V的伪逆矩阵。
通过上述步骤,我们可以得到矩阵A的广义逆矩阵A⁺=VΣ⁺U^T。
最后,我
们可以计算矩阵A的广义逆行列式。
由于矩阵A⁺并不一定是方阵,所以其行列式并不能简单地通过行列式的计算公式求得。
因此,矩阵的广义逆行列式并不是一个常见或常规的矩阵特征。
在求解过程中,我们更关注广义逆矩阵A⁺的性质,如A⁺A和AA⁺的性质,以及广义逆在线性方程组求解、最小二乘问题等方面的应用。
总结而言,矩阵的广义逆行列式是一个复杂且非常规的特征,不能通过简单的
行列式计算公式直接求得。
对于矩阵A的广义逆行列式的计算,我们首先需要求
出A的广义逆矩阵A⁺,然后可以通过该矩阵的性质进行进一步的研究和应用。
利用矩阵的广义逆求线性方程组的解
从而原方程的基础解系可取 a
1
=(1 ,2,0, 0) ,a
2
=(-5,0,5,2) ,其全 部解为 k 1 a 1 +k 2 a 2 其中 k 1 k 2 为任意数。 运算并不简单,但方法可取。
E G0 A = Q0−1 r 0
0 Q0 , 0
−1 M −1 (G0 A) M = ( M −1Q0 ) ,
* 0 可见 E n-G 0A 是对 经行 0 En− r
与列的互换后所得矩阵,因而仍然恰有
r 个零列。
推论 1 若 m × n 矩阵 r < n 的秩 则 En-G0A中的 n- r 个非零列向量恰是 齐次线性方程组 A X = 0 的一个基础解 系。
1 0 G0 A = 所以 0 0
r Q0−1 = R1 O
R2 , R3
一个 P S Q 分解式。 (显然, 上述分解式 一般不唯一) 。 定义 1.3 称主对角线上的元素全为 1 的上三角形矩阵为特殊上三角形矩 阵;称后 k 行的分块为(0,Ek)的 n 阶特 殊上三角形矩阵为 n 阶单位特殊上三角 形矩阵。
1 5 1 0 1 − 2 0 2 0 0 0 1 − 5 2 1 0 0 0 0 1 0 0 0 0 → 0 1 0 0 0 0 1 0 0 0 0 0 1 0
1 基本概念
定义 1.1 设 A 为 m × n 矩阵。如 果 n × m 矩阵 G 满足 AGA=A,称 G 为 A 的一个广义逆。 定义 1.2 设 m × n 矩阵 A 的秩为 r,若存在 m 阶可逆矩阵 P 和 n 阶可逆矩
E 阵Q 使A= P r 0 0 Q 则称此式为 A 的 0
广义逆的四个定义
广义逆的四个定义
广义逆是线性代数中的一个重要概念,它有四个不同但等价的定义。
以下是对
这四个定义的详细描述:
1. 非奇异广义逆:设A是一个m×n的矩阵,若存在一个n×m的矩阵B,使得ABA=A,且BAB=B,则称矩阵B是矩阵A的非奇异广义逆。
2. Moore-Penrose广义逆:给定一个m×n的矩阵A,它的Moore-Penrose广义
逆是一个n×m的矩阵,记为A⁺。
满足下列四个性质:
- A⁺A A⁺ = A⁺ (良定义性)
- AA⁺ A = A (右逆性)
- (AB)⁺ = B⁺A⁺ (分配性)
- (A⁺A)⁺ = A⁺A (对称性)
3. Drazin广义逆:对于一个方阵A,如果存在正整数k和一个矩阵B,满足ABA=A^kBA=A^(k-1)B,则称矩阵B是矩阵A的Drazin广义逆。
4. 右逆广义逆:对于一个m×n的矩阵A,如果存在一个n×m的矩阵B,使得
AB是一个n×n的单位矩阵,则称矩阵B是矩阵A的右逆广义逆。
这些定义提供了不同的角度来理解广义逆的含义和性质。
在线性代数和应用中,广义逆在求解线性方程组、最小二乘法、矩阵分解等方面有着广泛的应用。
在实际问题中,选择合适的广义逆定义可以更好地解决各种问题。
因此,理解这四个定义的含义和特性对于广义逆的研究和应用至关重要。
第4章--矩阵的广义逆
Er 0
0 0
mn
,则
A
Er G21
Er 0
0 0
Er G21
G12 G22
nm
,
其中 G12 , G21, G22 是任意给定的.
G12 G22
nm
,
即
证明 因为对任意的
Er G21
G12 G22
,都有
nm
AL1
1 0
2 1
00
9
例2
设矩阵A为
A
1 0
2 1
21
求A的一个右逆矩阵AR1.
解
1 2 1
A E3
0 1 0
1 0 1
2
0
0
0
0
1
1 0 0
0 1 2
1
2
则称G为A的广义逆矩阵,记为G A .
定理1设 A C m n , 则A 存在广义逆矩阵A 的
充要条件是存在G C nm , 使其满足AGA A
14
定理1 设 A C m n , 则A 存在广义逆矩阵A 的
充要条件是存在G C nm , 使其满足 AGA A
按照定义 2 可推得,满足 1 个,2 个,3 个,4 个 M-P 方程的广义逆
矩阵共有 15 类,即
C41
C
2 4
C43
C
4 4
15
.
但应用较多的是以下 5 类:
A{1}, A{1, 2}, A{1, 3}, A{1, 4}, A{1, 2, 3, 4}.
矩阵论学习-(矩阵广义逆)-1
AC = Im , 则称 A 有右逆 , C 是 A 的一个右逆 , 记为 AR- 1 = C .
定理 1 .1 A∈ Cm × n (1 ) A 有左逆 r( A ) = n( 即 A 是列满秩 )
C - 1 BL- 1 A - 1 是 ABC 的一个左逆 .
(2 ) 若 B 是一个右可逆 , r( B) = m , r ( ABC) = r( B) = m , 故 ABC 是右可 逆
的,且
C-
B 1 - 1 R
A-
1是
ABC
的一个右逆
.
例 4 .1-5 A∈ Rm × n 是一个行满秩矩阵 , 证明 A 有右逆为
( I + AL- 1 B - I) - 1 AL- 1 B =
( AL- 1 B) - 1 ( AL- 1 B) = In ,
即
[(
I+
C) -
1
AL- 1 ] B =
In , 故
B 的左逆为
BL-
1
=
(
I+
C) -
A 1 - 1 L
.
§4 .2 矩阵广义逆
[内容提要]
1 . Moore-Pe nrose 广义逆 A + 定义 2 .1 设 A∈ Cm × n , 若矩阵 G∈ Cn× m , 满足下面四个条件 :
(2 ) 求 A 的一般左逆 . r ( Am × n ) = n , 则存在 P , 使得
PA =
In 0
,
第四章 矩阵广义逆
131
矩阵论-广义逆与线性方程组
满足
0
x0
min Axb
x,
其中,• 为Cn中内积诱导的范数.
3.方程组不相容时,需要求出这样的x
满足
0
Ax0 -b
min xC n
Ax b
,
这时,称x0为方程组的最小二乘解.
4.一般,矛盾的方程组的最小二乘解并不唯一,需要求出具有
极小范数的向量x0,即x0使 x0
min min Ax-b
例3
求Ax=b的极小范数解,其中A=
1 0
2 -1
-1
2
,
b
1 2 .
解:由r(A)=r(A,b)=2知方程组相容.
5 4
有例2知,
A
+
=
1 14
6 3
2
,
从而极小范数解为
8
5 4
13
x
A
+
b
1 14
6 3
82
1 2
1 14
10 19
.
三、不相容线性方程组的最小二乘解与A{1,3}
第四节 广义逆与线性方程组
考察非齐次线性方程组
Ax=b
(1)
其中A Cmn , b Cm给定, x Cn待定.
若存在x Cn使(1)式成立,则称此方程组相容,否则称为 不相容或矛盾.
关于方程组(1)的几个问题: 1.方程组(1)相容的条件是什么?相容时,如何求其通解?
2.方程组相容时,如何求其通解中极小范数解?即解x
X=A(1) DB(1) +Y-A(1)AYBB(1).(2) 其中Y Cnq为任意.
证明::若AA(1)DB(1)B D,令X=A(1)DB(1)则满足AXB=D. :若AXB=D有解,则D=AXB=AA(1) AXBB(1) B=AA(1) DB(1) B.
广义逆矩阵求法
这表明
AA A( A ) A 是 AX 的一个解。
反之,对于 AX 的任意一个解 ,我们要 证存在 A 的一个广义逆 A ,使得 A 。 设 A 是 s n 矩阵,它的秩为 r ,且
I r 0 A P Q 0 0 其中 P 与 Q 分别是 s 阶、n 阶可逆矩阵。由于 A 的广义逆具有形式(3),因此我们要找矩阵 B, C , D ,使 I B 1 1 r Q P C D
Ir Q C
1
0 1 P 0 0 1 P 0
从而只要取
则
A
Ir A Q C
定理(齐次线性方程组解的结构定理):数域 K上n 元齐次线性方程组 AX 0 的通解为
X ( I nn A A) Z
其中 A 是 A 的任意给定的一个广义逆,Z 取遍 n K 中任意列向量。 证明:任取 Z K n ,我们有
1
A[( I nn A A) Z ] ( A AA A) Z 0Z 0 所以 X ( I nn A A) Z 是方程组 AX 0 的
解。
反之,设 是方程组 AX 0 的解,要证存在 n Z K ,使得 ( I nn A A) Z。取 Z 我们有
即
I r B 1 Q P C D 先分析 Q 与 P 1 之间的关系。由已知 A ,
因此我们有
I r 0 1 0 0 Q P 1 分别把 Q , P 分块,设 行 Y1 }r Q Y2 }n r行
(6)
行 Z1 }r P Z 2 }s r行
1
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
例题1 设W是C n 的子空间,证明 存在到W的投影 变换, 使R()=W。
3、正交投影的性质
定理4.16(P . 104)设W是C n的子空间,x0C n, x 0 W,如果是空间C n向空间W的正交投影, 则
( x0 ) x0 y x0
y W
含义:点(x0)是空间 W 中与点x 0距离最近的点。
讨论:对任何满足式( ¤) 的左逆B,X=Bb都是方程组的
解,如何解释方程组的解是惟一的?
§ 4. 2 广义逆矩阵
思想:用公理来定义广义逆。 一、减号广义逆 定义4 . 2 (P . 95) A C m n ,如果,G C n m使得,
AGA=A,则矩阵G为的A减号广义逆。或{1}逆。A的 减号逆集合A{1}={A1–1,A2–1, , Ak–1} 例题1 A C nn可逆,则A–1 A{1}; A单侧可逆,则A –1LA{1};A–1RA{1}。 减号逆的求法:定理4.5(P . 95) 减号逆的性质:定理4.6 (P . 96)
• 设A满秩分解A=BC, 则A + =CH (CCH )–1(BH B)–1BH 。 • (定理4.9)设A奇异值分解 :
H A U V ,则 0 0
1 0 H A V U 0 0
例题1 求下列特殊矩阵的广义逆;
零矩阵0; 1阶矩阵( 数) a; a1 对角矩阵
4、A + A与AA +的性质 定理4.15(P . 104)
A + A的性质:
• (A + A)2 = A + A,(A + A)H = A + A • C n =R(A + ) N(A) • R (A + )= N(A)
A A +的性质:
• (A A + )2 = A A + ,(A A + )H = A A + • C m=R(A ) N(A + ) 含义: • R (A + )= N(A) A + A 是正交投影,将向量 x 投影到空间R(A + )中。 A A + 是正交投影,将向量 x 投影到空间R( A )中。
R
讨论:可逆矩阵An n的左、右逆和逆的关系 可逆矩阵A的左、右逆就是矩阵A的逆A A–1=(AHA)–1AH =AH(AAH)–1
二、单侧逆和求解线性方程组AX=b
讨论
AX=b 有解与左、右逆存在的关系。 借助于左、右逆求AX=b的形如X=Bb的解。
1、右可逆矩阵 定理4 4 (P . 95)
第 4章
矩阵的广义逆
The Pseudoinverse
矩阵的广义逆
概述: 矩阵的逆:A n n ,B n n ,B A= A B =I, 则B=A –1 广义逆的目标:逆的推广
对一般的矩阵 A m n可建立部分逆的性质。 当矩阵A n n可逆时,广义逆与逆相一致。 可以用广义逆作求解方程组AX=b的理论分析。
0 + m×n =0
n×m
例题2
a 2 设向量 an
的M-P广义逆。.
1 1 2 例题3 设 A 0 2 2 , 1 0 1
求A+。
4、M-P广义逆的性质 定理4.12 (P . 100) :则A满足下列性质:
( A + )+=A (A + ) H =(A H )+ (A)= +A+ A列满秩,则A+=( A H A ) –1A H ,A行满秩,则 A+=AH (AAH) –1。 5. A有满秩分解:A=BC,则A+=C+B+。 1. 2. 3. 4.
A +与A–1 性质的差异比较:
(AB)–1=B –1 A –1 ,一般不成立(AB)+=B+A+。(只有满秩分解成立) (A–1)k =(Ak) –1 ,但不成立(A+)k=(Ak)+
§ 4. 3 投影变换(为讨论A + 的应用做准备)
问题:逆在什么情形下是有用的? 一、投影变换和投影矩阵
定义4.4(P . 101)设Cn=L M ,向量x Cn, x=y+z, y L, z M, 如果线性变换 : C nCn , (x)=y, 则称为从 Cn 沿子空间M到子空间L的投 影变换。 R( )=L; N( )=M, Cn=R( ) N( )
4.4 最佳最小二乘解
一、最佳最小二乘解 A m×n X n ×1 =b m×1
1、AX=b的最佳最小二乘解 定义4. 6(P . 105) 有解bR(A) 无解b R(A)
u 是最小二乘解
Au b Ax b
x0 2 u
2
x C
n
x0是最佳最小二乘解
2、 AX=b的最佳最小二乘解的计算 定理4. 17 设方程组AX=b,则A +b 是AX=b 的最佳最小二乘解。
A –1R =AH(AAH)–1=A + ; 若 A + ,则A + 是 A{1} 。
A–1 = A + ; A–1L = (AHA)–1AH=A +;
2、M-P 广义逆的惟一性 定理4.9 (P . 98)如果A有M-P广义逆,则A的
M-P广义逆是惟一的。
3、M-P广义逆的存在性及其求法
定理4.8(P . 99)任何矩阵都有M-P广义逆。 求法:
§ 4. 1 矩阵的左逆与右逆
一、满秩矩阵和单侧逆 1、左逆和右逆的定义
定义4. 1 (P . 93)
• A C m n, B C n m,BA=In,则称矩 1 阵B 为矩阵A 的左逆,记为 B = AL 。
•A C m n , C C n m ,AC=Im,则称矩阵C 为 1 A 矩阵A 的右逆,记为 C= R 。
二、正交投影和正交投影矩阵 1. 正交投影的定义:
定义4.5 (P . 103) 设 :C nCn 是投影变换, C n =R() N(),如果 R () =N(),则称为正交投影。
2 正交投影矩阵 A 2 =A
定理4.14(P . 103)是正交投影 投影矩阵A满足:AH=A
例题1 矩阵A的左逆A=
1 0 0 1 2 1
。
2、左逆和右逆存在的条件 1 A1 存在矩阵A列满秩 AL 的存在性 L
直观分析
A
1 = L
(AHA)–1AH
1. 2. 3. 4.
定理4. 1(P . 93) 设A C mn ,下列条件等价 A左可逆 A的零空间N(A)={0}。 mn,秩(A)=n,即矩阵A是列满秩的。 矩阵AH A可逆。
3),(3,5),(4,7)的分布呈直线趋势,求最佳 拟合直线。
方法:将误差向量表示为 e =A –b,求方程组
A–b=0的最小二乘解,由给出拟合参数。
例题1 (P . 106,eg8)
1 1 2 0 2 2 A 例题2、设, 1 0 1
,=
1 1 2
1. 证明 R(A) 2. 在列空间R(A)上找一点X0 ,X0距离 最近。
二、最佳拟合曲线
问题:在实际问题中,已知变量X和变量Y之间 存在函数关系Y=F(X),但不知道F(X)的具 体形式,由观察和实验数据寻求经验公式: Y=f(X),使得误差最小。 例题1(P . 107,eg9) 一组实验数据(1,2),(2,
二、Moore-Penrose(M-P)广义逆
由Moore 1920年提出,1955年由Penrose发 展。 1、 定义4.3 (P . 98)设矩阵A C m n ,如果
GC n m ,使得
1. AGA=A 2. GAG=G 3. (AG)H = AG 4. (GA)H =GA
则称G为A的M-P广义逆,记为G=A+。 例题2 讨论原有的逆的概念和M-P广义逆的关系。
1 0 0 1 例题2 求矩阵A = 的左逆。 2 1
矩阵右逆的存在性 定理4 . 2 (P . 94)A C m n ,则下列条件等价:
1. 2. 3. 4. 矩阵A右可逆。 A的列空间R(A)=Cm n m ,秩(A)=m,A是行满秩的。 矩阵A AH 可逆 1 A =AH(AAH)–1
1. A C m n右可逆,则bCm,AX=b有解。 1 2. X= AR b 是方程组AX=b的解。
二、单侧逆和求解线性方程组AX=b
2、左可逆矩阵
求解分析: 定理4 3 (P . 94)设矩阵A C m n左可逆,B是矩阵A 的任何一个左逆,则 1. AX=b有形如X=Bb的解的充要条件是 ( Im–AB )b=0 (¤ ) 2. 当(¤ )式成立时,方程组的解是惟一的,而且惟一解是 X=(AHA)–1AH b 证明:
I r 0 投影的矩阵和变换性质:
投影变换的矩阵
{ 1 , 2 ,, n }
L和M是的不变子空间;L=I; M =0
0 0
1. 定理4 .13(P . 101) 是投影 是幂等变换 2. 推论: 为投影变换的充要条件是变换矩阵是 幂等矩阵