矩阵的广义逆 ppt课件
合集下载
第4章 矩阵的广义逆
定义 3 设 A 为一个 m n 复矩阵，若有一个 n m 复矩阵 G 存在， 使（ 1 ）成立，即 AGA A ，则称 G 为 A 的一个 {1}-广义逆，记为
G A{1} 或 G A{1} ，也称 G 为 A 的一个减号广义逆，记为 G A ， 即有 AA A A ． （5）
A为列满秩
7
推论 设 A C mn , 则
(1) A左可逆的充要条件是 N ( A) {0};
( 2) A右可逆的充要条件是 R( A) C m .
证 充分性：N ( A) {0}
rank ( A) n
必要性： A左可逆
Ax 0只有零解
A为列满秩
1 ALபைடு நூலகம்A En
x N ( A)
由于 M-P 的 4 个方程都各有一定的解释，并且应用起来各有方 便之处，所以出于不同的目的，常常考虑满足部分方程的 G ，总之， 按照定义 2 可推得，满足 1 个，2 个，3 个，4 个 M-P 方程的广义逆 矩阵共有 15 类，即
1 2 3 4 C4 C4 C4 C4 15 ．
使得
AGb b ( b R( A))
m n
则称G为A的广义逆矩阵 , 记为G A .
定理1设 A C
, 则A 存在广义逆矩阵A 的
充要条件是存在 G C nm , 使其满足AGA A
14
定理1 设 A C
m n
, 则A 存在广义逆矩阵A 的
nm
充要条件是存在 G C
15
由AGA A可得： AGAx0 Ax0 b 即，AGb b, 说明x Gb是方程 Ax b 的解. G是A的减号逆 , G A . m n nm 设 A C , 且 A C 是A的一个广义 推论 1 逆矩阵A , 则
矩阵论-61_64广义逆矩阵
第六章 广义逆矩阵
6.1 广义逆矩阵的概念与性质 6.4 广义逆矩阵与线性方程组的求解
逆矩阵的概念
➢ 矩阵不一定是方阵； ➢ 即便是方阵也不一定可逆；
推广：广义逆矩阵
1. 该矩阵对于不可逆矩阵甚至长方矩阵都存在； 2. 它具有通常逆矩阵的一些性质； 3. 当矩阵可逆时，它还原到通常的逆矩阵。
6.1 广义逆矩阵的概念与性质
证 方程 XA A(1,4) A的通解为 X A (1,4) AA (1,4) Y YAA(1,4) ,Y C nm
令 Y=A(1,4)+Z ，即得式
证毕
定义
1
0
0 0
定理6.5 设 ACmn, B Cnp, C, 则
（1） ( A(1) )H AH 1;
（2） A(1) A1;
（3） 若S 和T 非奇异，则
T 1A(1)S 1 (SAT )1 （4） rankA(1) rankA
（5）AA(1)和 A(1)A 均为幂等矩阵且与 A同秩. （6） R( AA(1) ) R( A), N ( A(1) A) N ( A),
其中 yCn 任意.
注： I A1 A y N A 是 Ax=O 的通解.
例6.28 设A C mn , b C m , X C nm ，若对于
使得方程 Ax=b 相容的所有 b ，x=Xb都是解， 则 XA{1}。
证 设 aj为 A 的第 j 列，则方程组相容.
由于 x=Xaj 是方程组的解，即 Ax = a j
于是
x0 2 y0 2 y1 2 y0 2
而
b Ax0 Ay0 Ay1 Ay0
这与 x0 是 Ax=b 的极小范数解矛盾.
唯一性. 若还有 y0R(AH) 且 Ay0=b, 则 A( x0 y0 ) Ax0 Ay0 0
6.1 广义逆矩阵的概念与性质 6.4 广义逆矩阵与线性方程组的求解
逆矩阵的概念
➢ 矩阵不一定是方阵； ➢ 即便是方阵也不一定可逆；
推广：广义逆矩阵
1. 该矩阵对于不可逆矩阵甚至长方矩阵都存在； 2. 它具有通常逆矩阵的一些性质； 3. 当矩阵可逆时，它还原到通常的逆矩阵。
6.1 广义逆矩阵的概念与性质
证 方程 XA A(1,4) A的通解为 X A (1,4) AA (1,4) Y YAA(1,4) ,Y C nm
令 Y=A(1,4)+Z ，即得式
证毕
定义
1
0
0 0
定理6.5 设 ACmn, B Cnp, C, 则
（1） ( A(1) )H AH 1;
（2） A(1) A1;
（3） 若S 和T 非奇异，则
T 1A(1)S 1 (SAT )1 （4） rankA(1) rankA
（5）AA(1)和 A(1)A 均为幂等矩阵且与 A同秩. （6） R( AA(1) ) R( A), N ( A(1) A) N ( A),
其中 yCn 任意.
注： I A1 A y N A 是 Ax=O 的通解.
例6.28 设A C mn , b C m , X C nm ，若对于
使得方程 Ax=b 相容的所有 b ，x=Xb都是解， 则 XA{1}。
证 设 aj为 A 的第 j 列，则方程组相容.
由于 x=Xaj 是方程组的解，即 Ax = a j
于是
x0 2 y0 2 y1 2 y0 2
而
b Ax0 Ay0 Ay1 Ay0
这与 x0 是 Ax=b 的极小范数解矛盾.
唯一性. 若还有 y0R(AH) 且 Ay0=b, 则 A( x0 y0 ) Ax0 Ay0 0
矩阵的广义逆及其应用.ppt
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
§1 广义逆矩阵
(6) 若F是列满秩矩阵，则 F (F H F )1 F H
(7) 若G是行满秩矩阵，则 G GH (GGH )1
(8) 若矩阵A的满秩分解为A FG，则有 A G F ；
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
第五章 矩阵的广义逆
§1 广义逆矩阵 一、矩阵的广义逆
设A Rnn，对于线性方程组 Ax b，当A可逆时， 方程组有唯一解：x A1b.
若矩阵 A不可逆时，如何求解方程组 Ax b?
更一般，当矩阵 A Rmn不是方阵时，如何讨论 方程组 Ax b的解， 其中x Rn，b Rm ? 为了分析和解决上述问题，引入广义逆的概念.
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
§1 广义逆矩阵
定理2：设A Rmn，b Rm，x Rn，若性方程组 Ax b 是相容的，即方程组Ax b 有解，则其
通解为： x Ab (In A A)t，t是任意n 1向量. 证明：首先证明t Rn，x Ab (In A A)t是 方程组的解，然后证明方程组的任一解x，均可 表示成x Ab (In A A)t的形式.
A
1
1
1
2
(3)(1)3
0
3 3 2 4
0
1 2 4
0
1
2
0 4 8
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
§1 广义逆矩阵
1
A
0
0
1 2 4 (1)(2)2 1 1 0 0
第五章 矩阵的广义逆
§1 广义逆矩阵
(6) 若F是列满秩矩阵，则 F (F H F )1 F H
(7) 若G是行满秩矩阵，则 G GH (GGH )1
(8) 若矩阵A的满秩分解为A FG，则有 A G F ；
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
第五章 矩阵的广义逆
§1 广义逆矩阵 一、矩阵的广义逆
设A Rnn，对于线性方程组 Ax b，当A可逆时， 方程组有唯一解：x A1b.
若矩阵 A不可逆时，如何求解方程组 Ax b?
更一般，当矩阵 A Rmn不是方阵时，如何讨论 方程组 Ax b的解， 其中x Rn，b Rm ? 为了分析和解决上述问题，引入广义逆的概念.
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
§1 广义逆矩阵
定理2：设A Rmn，b Rm，x Rn，若性方程组 Ax b 是相容的，即方程组Ax b 有解，则其
通解为： x Ab (In A A)t，t是任意n 1向量. 证明：首先证明t Rn，x Ab (In A A)t是 方程组的解，然后证明方程组的任一解x，均可 表示成x Ab (In A A)t的形式.
A
1
1
1
2
(3)(1)3
0
3 3 2 4
0
1 2 4
0
1
2
0 4 8
高等工程数学 理学院 杨文强
第五章 矩阵的广义逆
§1 广义逆矩阵
1
A
0
0
1 2 4 (1)(2)2 1 1 0 0
第六章广义逆矩阵
第六章广义逆矩阵§6.1 投影矩阵一、投影算子与投影矩阵v设L和M都是C n的子空间，且LÅM=C n．于是任意xÎC n都可唯一分解为x=y+z，yÎL，zÎM，称y是x沿着M到L的投影．v定义将任意xÎC n变为沿着M到L的投影的变换称为沿着M到L的投影算子，记为PL,M ，即PL,Mx=y。
v显然，R(P L,M)=L，N(P L,M)=M．v投影算子P L,M是一个线性算子。
v定义投影算子P L,M在C n的基e1,…,e n下的矩阵称为投影矩阵．记为P。
L,Mv幂等矩阵：A2=Av引理设AÎC n×n是幂等矩阵，则N(A)=R(I-A)。
证明：A2=AÞA(I-A)=OÞ对任意xÎR(I-A),存在yÎC n,x=(I-A)y，必有Ax=0。
故R(I-A)ÌN(A)Þdim R(I-A)£dim N(A)=n-dim R(A)即rank(I-A)£n-rank A。
考虑到I=A+(I-A)Þn£rank A+rank(I-A)有rank(I-A)=n-rank A，使得dim R(I-A)=n-dim R(A)=dim N(A)，即得N(A)=R(I-A)。
v定理：P为投影矩阵的充要条件是P为幂等矩阵为投影矩阵，则对任意xÎC n有证明：设P=PL,MP2L,M x = P L,M (P L,M x) = P L,M y = y = P L,M x故P为幂等矩阵。
反之，设P为幂等矩阵n则对任意xÎC有x=x-Px+Px=(I-P)x+Px，其中(I-P)xÎN(P)，PxÎR(P)，使得C n=N(P)+R(P)。
设zÎN(P)∩R(P)，由于N(P)=R(I-P)故存在u，vÎC n使得z=Pu=P2u=P(I-P)v Þz=Pu=(I-P)v=0故N(P)∩R(P)={0}。
工程矩阵理论(第6章-矩阵的广义逆)
线性方程组求解
矩阵的广义逆可以用于求解线性方程组，特别是当系数矩阵奇异或接近奇异时，广义逆提供了有效的 解决方案。
最小二乘解
在最小二乘问题中，广义逆可以找到使得残差平方和最小的解，这在数据分析和统计中非常有用。
在控制论中的应用
系统稳定性分析
在控制系统中，广义逆可以用于分析 系统的稳定性，通过计算系统的极点 来评估系统的动态行为。
04
矩阵的广义逆的存在性条件
存在性条件
矩阵A的秩为n
矩阵A的秩必须等于其维数n，即 $rank(A) = n$，以保证存在一个广义逆 矩阵。
VS
线性方程组有解
矩阵A所对应的线性方程组必须有解，即 系数矩阵A的行列式值不为零，即 $det(A) neq 0$。
唯一性条件
要点一
矩阵A为非奇异矩阵
矩阵A必须是非奇异矩阵，即其行列式值不为零，即 $det(A) neq 0$，以保证广义逆矩阵的唯一性。
程实际需求。
工程实例三：最优化问题求解
总结词
最优化问题求解是矩阵广义逆的一个重要应用方向。
详细描述
在工程领域中，经常需要解决各种最优化问题，如线 性规划、二次规划、非线性规划等。这些问题的数学 模型通常可以转化为矩阵形式。通过利用矩阵的广义 逆，可以高效地求解这些最优化问题，为工程实践提 供更好的解决方案。
最小二乘法的优点是简单易行，适用于大规模数据的计算。 但是，它只能找到一个近似解，而不是精确解。
迭代法
迭代法是一种通过不断迭代来逼近解的方法。在矩阵的广 义逆中，迭代法可以用来求解线性方程组的迭代解。通过 不断迭代更新解向量，最终逼近方程组的解。
迭代法的优点是适用于大规模数据的计算，且可以找到精 确解。但是，迭代法的收敛速度较慢，需要多次迭代才能 得到满意的结果。
矩阵的广义逆可以用于求解线性方程组，特别是当系数矩阵奇异或接近奇异时，广义逆提供了有效的 解决方案。
最小二乘解
在最小二乘问题中，广义逆可以找到使得残差平方和最小的解，这在数据分析和统计中非常有用。
在控制论中的应用
系统稳定性分析
在控制系统中，广义逆可以用于分析 系统的稳定性，通过计算系统的极点 来评估系统的动态行为。
04
矩阵的广义逆的存在性条件
存在性条件
矩阵A的秩为n
矩阵A的秩必须等于其维数n，即 $rank(A) = n$，以保证存在一个广义逆 矩阵。
VS
线性方程组有解
矩阵A所对应的线性方程组必须有解，即 系数矩阵A的行列式值不为零，即 $det(A) neq 0$。
唯一性条件
要点一
矩阵A为非奇异矩阵
矩阵A必须是非奇异矩阵，即其行列式值不为零，即 $det(A) neq 0$，以保证广义逆矩阵的唯一性。
程实际需求。
工程实例三：最优化问题求解
总结词
最优化问题求解是矩阵广义逆的一个重要应用方向。
详细描述
在工程领域中，经常需要解决各种最优化问题，如线 性规划、二次规划、非线性规划等。这些问题的数学 模型通常可以转化为矩阵形式。通过利用矩阵的广义 逆，可以高效地求解这些最优化问题，为工程实践提 供更好的解决方案。
最小二乘法的优点是简单易行，适用于大规模数据的计算。 但是，它只能找到一个近似解，而不是精确解。
迭代法
迭代法是一种通过不断迭代来逼近解的方法。在矩阵的广 义逆中，迭代法可以用来求解线性方程组的迭代解。通过 不断迭代更新解向量，最终逼近方程组的解。
迭代法的优点是适用于大规模数据的计算，且可以找到精 确解。但是，迭代法的收敛速度较慢，需要多次迭代才能 得到满意的结果。
2-2 广义逆矩阵
§2 矩阵的广义逆一、广义逆矩阵的概念定义1 设任意一个矩阵n m R A ⨯∈，若存在矩阵m n R X ⨯∈，满足 AXA =A （1） XAX =X （2） (AX )T =AX （3） (XA )T =XA （4） 这四个方程中的一个、两个、三个或全部，则称X 为A 的广义逆矩阵。
由上面的定义可知，广义逆矩阵有15C C C C 44342414=+++中之多。
本节介绍应用广泛的减号广义逆和加号广义逆。
定义2 对矩阵n m R A ⨯∈，一切满足方程组A AXA =的矩阵X ，称为矩阵A 的减号逆或g-逆。
记为-A 。
例如，⎪⎭⎫ ⎝⎛=010001B ，⎪⎭⎫ ⎝⎛=100001C 都是⎪⎪⎭⎫ ⎝⎛=010101A 的减号逆。
下面的定理解决了-A 的存在性和构造性问题。
定理1(秩分解) 设A 为n m ⨯矩阵，r A R =)(，若Q O O O I P A r ⎪⎭⎫ ⎝⎛=，或⎪⎪⎭⎫ ⎝⎛=--O O O I AQ P r 11 这里P ,Q 分别为n n m m ⨯⨯,的可逆阵，则12221121---⎪⎭⎫ ⎝⎛=P G G G I Q A r (5) 其中222112,,G G G 是相应阶数的任意矩阵。
证明 设X 为A 的广义逆，则有Q O O O I P Q O O O I QXP O O O I P A AXA r r r ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⇔= ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⇔O O O I O O O I QXP O O O I r r r 若记⎪⎪⎭⎫ ⎝⎛=22211211G G G G QXP 则上式，⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⇔00000011r I G r I G =⇔11 于是， 12221121--⎪⎪⎭⎫ ⎝⎛=⇔=P G G G I Q X A AXA r 其中222112,,G G G 任意. 证毕.定理1不但表明矩阵的减号逆总是存在的，通常也是不唯一的，而且还给出了计算减号逆的方法。
矩阵分析第8章课件
A
P1
Er 0
0 0
Q1
A
其次证明任意减号逆A-都可写成(8.1.4)的形式
其次证明任意减号逆A-都可写成(8.1.4)的形
式证:对任W意C减rr 号, Z逆CA(-nr)C(mnr)m,,X令CAr-(=mrQ),WYYCXZ(nPr)r
其中 AA-A=A
PAA-AQ=PAQ=
Er 0
00
上P式AQ左WY 边XZ =PAQ
证:我们知道:对每个ACmn,R(A),N(A)都是Cm, Cn的子空间, dim R(A)= rank A, dimN(A)=n-rank A. xR(AA-),x=AA-z=AyR(A) R(AA-)是R(A)子空间.因 dimR(A)=rank A=rank AA-=dimR(AA-), 故由下列命题即得R(AA-)=R(A).
这是(SAT)-1=T-1A–1S-1推广
(SAT)(T-A–S-)(SAT)=SAA–AT=(SAT)
定理8.1.2:设ACmn,R,A-表示A的减号逆,则 ④ AA-,A-A都是幂等矩阵,即其平方等于自己的 矩阵;并且 rank A=rank(AA-)=ramk(A-A).
证: (AA-)2=AA-AA-=AA-;
(A-A)2=A-AA-A=A-A. rank A=rank (AA-A)rank (AA-)rank A.
rank A=rank(AA-)
同理可证 rank A=rank(A-A).
定理8.1.2:设ACmn,R,A-表示A的减号逆,则 ⑤ R(AA-)=R(A),N(A-A)= N(A) 其中,A的值域 R(A)={Ay|yCn} Cm A的核(或A的解空间) N(A)={x|Ax=0} Cn
第六章 广义逆矩阵
100
= 0 1 0 .
000
由 例 6.1.3 可知, α 在 L 上的正交投影向量为
100
1
1
PLα = 0 1 0 0 = 0 .
000
1
0
(实际上 PLα 无需计算即可“猜”到, 为什么?)
定义 6.1.1 设矩阵 A ∈ Cm×n, 若矩阵 X ∈ Cn×m 满足 Penrose 方程组 (6.0.4), 则称 X 为 A 的一个 Penrose 广义逆 (矩阵).
x = R−1U ∗b
(6.0.1)
(或者由原方程的正规化方程 A∗Ax = A∗b 求得, 因为此时系数矩阵 A∗A 可逆.) 如果记 A = R−1U ∗, 则有 A A = In, 因此, 如果 A 是方阵, 则 A 确为 A 的逆矩阵. 但若 n < m, 则有
AA =
In 0 0 0 m×m
第一节 投影矩阵与 Moore-Penrose 广义逆矩阵
本节我们将证明 Moore 方程组与 Penrose 方程组是等价的, 因此矩阵的 Moore 广义逆 与 Penrose 广义逆实际上是相同的. 为此需要研究 Moore 方程组中的投影矩阵 PR(A) 与 PR(X). 回顾第二章, 若 C 上 n 阶方阵 A 满足 A2 = A, 则有
55Eliakim Hastings Moore(1862-1932), 美国数学家, 是二十世纪初美国数学的奠基人, 曾任美国数学会主席. 56Sir Roger Penrose(1931-), 著名英国数学家, 物理学家, 哲学家. 1988 年 Wolf 奖得主. 与 Stephen Hawking (霍 金) 合作证明了广义相对论的奇点存在性.
06.矩阵理论与方法_广义逆矩阵
定理：设矩阵 Y , Z A{1} ，令 X YAZ ，则
X A{1, 2} 定理：给定矩阵 A 和 X A{1} ，则 X A{1, 2} 的充要条件是 rankX rankA
9
练习
P296 1、2、3、5、7 P307 7、8、9
10
定理：对任意 A C mn ， A 存在且唯一。 定义：对任意 A C ，若 X C nm 满足Penrose方程中的 (i ), ( j ),..., (l )等 ( i , j ,...,l ) 方程，则称 X为 A 的 {i, j,..., l}-逆，记为 A ，其全体记为 A{i, j,..., l}。
(1) A ( A){1} 2.
3.若 S , T 非奇异，则 T 1 A(1) S 1 (SAT ){1} 。 4. rankA(1) rankA 5. AA(1) 和 A(1) A 均为幂等矩阵，且与 A 同秩。
(1) (1) (1) H H 6. R( AA ) R( A), N ( A A) N ( A), R(( AA ) ) R( A )
mn
注：由于 {i, j,..., l} {1, 2,3, 4} ，所以 A A{i, j,..., l}，即 A( i , j ,...,l ) 总存在。 4 注： A 的广义逆矩阵共有 2 1 15 类。
注：应用较多的广义逆矩阵为以下5类：
A{1}, A{1, 2}, A{1,3}, A{1, 4}, A{1, 2,3, 4}
8
广义逆矩阵的性质及构造
AA(1) I m 等价于 rankA m 。 7. A(1) A I n 等价于 rankA n ，
矩阵理论课件-第三章 矩阵的广义逆
注2：由定理2知
A In
I
m
初等变换
PAQ Q
P
Ir 0 Q
0 0
P
1 0 -1 1
例：设A=
0
2
2
2 ，求A{1}.
-1 4 5 3
解：由
A I4
I3 0
初等变换
I2 0 Q
0 0
P ，这里
0
1 0 1 1
1 0
P=
0
1/ 2
1 2
0 0 1
,
这里只是给出了A{1}的一个构造性描述,在使用上并不直接， 因为还要求出一个A(1).
推论2：方程组(1)相容的充要条件是AA(1)b b,且其通解为 x=A(1)b+(I-A(1)A) y, y Cn任意.
证明：定理1中，取D=b Cm,B=1即得.
注1:因为A+ A{1},故Ax=b相容时，通解为 x=A+b+(I-A+A) y, y Cn.
证明：由A的奇异值分解(r(A)=r),有A=V
Sr 0
0 0
U
H，其中
Sr diag{1, , r},i 0,U和V是酉阵.
令G=U
Sr1 0
AGA=V
Sr 0
0 0
VH
,
可以验证G满足方程1）-4）.如第1)3)方程
0 0
U
H
U
Sr1 0
0 0
VH
V
Sr 0
X=A(1) DB(1) +Y-A(1)AYBB(1).(2) 其中Y Cnq为任意.
证明：：若AA(1)DB(1)B D,令X=A(1)DB(1)则满足AXB=D. :若AXB=D有解,则D=AXB=AA(1) AXBB(1) B=AA(1) DB(1) B.
6 矩阵的广义逆
H H
9. A AB A AC AB AC
16
例8
证明：若A是Hermite矩阵， 则A也是Hermite矩阵。
17
例9
设A是正规矩阵，证明： (A ) (A ) .
2 2
18
定理3
x, 若x R ( A) 1. AA x ; H , 若x K ( A )
5.AH AH AA A AAH ;
15
定理1（续）
6.( A A) A ( A ) ; ( AA ) ( A ) A ;
H H H H
7.A ( AH A) AH AH ( AAH ) ; 8.若U ,V是酉矩阵， 则(UAV) V A U ;
O , B B O
11
例6
A 3. A O
1 4.
O, A O
A n n 1 j , 若 j 0 其中， j 0，若 j 0
H
19
第三节 广义逆矩阵的应用
当线性方程组Ax b无解时， 如何求最好的近似解， 即求x使得 Ax - b 2 最小？
20
最小二乘解
定义：设A C
sn
, x0 C , 若
n
xC
b Ax 0 min b Ax n
则称x0是线性方程组Ax b的最小二乘解。
长度最小的最小二乘解称为极小最小二乘解。
21
定理4
是Ax b的最小二乘解 是A Ax A b的解。
H H
22
9. A AB A AC AB AC
16
例8
证明：若A是Hermite矩阵， 则A也是Hermite矩阵。
17
例9
设A是正规矩阵，证明： (A ) (A ) .
2 2
18
定理3
x, 若x R ( A) 1. AA x ; H , 若x K ( A )
5.AH AH AA A AAH ;
15
定理1（续）
6.( A A) A ( A ) ; ( AA ) ( A ) A ;
H H H H
7.A ( AH A) AH AH ( AAH ) ; 8.若U ,V是酉矩阵， 则(UAV) V A U ;
O , B B O
11
例6
A 3. A O
1 4.
O, A O
A n n 1 j , 若 j 0 其中， j 0，若 j 0
H
19
第三节 广义逆矩阵的应用
当线性方程组Ax b无解时， 如何求最好的近似解， 即求x使得 Ax - b 2 最小？
20
最小二乘解
定义：设A C
sn
, x0 C , 若
n
xC
b Ax 0 min b Ax n
则称x0是线性方程组Ax b的最小二乘解。
长度最小的最小二乘解称为极小最小二乘解。
21
定理4
是Ax b的最小二乘解 是A Ax A b的解。
H H
22
第 14 讲 广义逆矩阵 (2)
(4) ������+ = (������������ ������)+ ������������ = ������������ (������������������ )+
证明：(1) ������+ ������������+ = ������+ （利用Penrose-Moore 的第二个方程
2
于是，������ ������ ������ 和������������������ 都是������阶的可逆矩阵，且
������ − = (������ ������ ������)−1 ������ ������ ，������ − = ������������ (������������������ )−1
������ + ������ ������ + ������ ������ + ������ ������
= (������+ ������)������ =
3
CQU
11
A+的性质
由定理1
(������������ ������)+ = ������1 − ������1 − = ������1 ������ (������1 ������1 ������ )−1 (������1 ������ ������1 )−1 ������1 ������ =(������ ������ ������������)������ [ ������ ������ ������������ ������ ������ ������������
(4) (������������)������ = (������������������− ������ − )������ =(������������ − )������ = (������ − )������ ������ ������
矩阵论学习-(矩阵广义逆)-1
左逆 , B 是 A 的一个左逆 , 记为 AL- 1 = B .同样 , 对于 A∈ Cm× n , 若存 在 C∈ Cn× m , 使得
AC = Im , 则称 A 有右逆 , C 是 A 的一个右逆 , 记为 AR- 1 = C .
定理 1 .1 A∈ Cm × n (1 ) A 有左逆 r( A ) = n( 即 A 是列满秩 )
C - 1 BL- 1 A - 1 是 ABC 的一个左逆 .
(2 ) 若 B 是一个右可逆 , r( B) = m , r ( ABC) = r( B) = m , 故 ABC 是右可 逆
的,且
C-
B 1 - 1 R
A-
1是
ABC
的一个右逆
.
例 4 .1－5 A∈ Rm × n 是一个行满秩矩阵 , 证明 A 有右逆为
( I + AL- 1 B - I) - 1 AL- 1 B =
( AL- 1 B) - 1 ( AL- 1 B) = In ,
即
[(
I+
C) -
1
AL- 1 ] B =
In , 故
B 的左逆为
BL-
1
=
(
I+
C) -
A 1 - 1 L
.
§4 .2 矩阵广义逆
[内容提要]
1 . Moore－Pe nrose 广义逆 A + 定义 2 .1 设 A∈ Cm × n , 若矩阵 G∈ Cn× m , 满足下面四个条件 :
(2 ) 求 A 的一般左逆 . r ( Am × n ) = n , 则存在 P , 使得
PA =
In 0
,
第四章 矩阵广义逆
131
AC = Im , 则称 A 有右逆 , C 是 A 的一个右逆 , 记为 AR- 1 = C .
定理 1 .1 A∈ Cm × n (1 ) A 有左逆 r( A ) = n( 即 A 是列满秩 )
C - 1 BL- 1 A - 1 是 ABC 的一个左逆 .
(2 ) 若 B 是一个右可逆 , r( B) = m , r ( ABC) = r( B) = m , 故 ABC 是右可 逆
的,且
C-
B 1 - 1 R
A-
1是
ABC
的一个右逆
.
例 4 .1－5 A∈ Rm × n 是一个行满秩矩阵 , 证明 A 有右逆为
( I + AL- 1 B - I) - 1 AL- 1 B =
( AL- 1 B) - 1 ( AL- 1 B) = In ,
即
[(
I+
C) -
1
AL- 1 ] B =
In , 故
B 的左逆为
BL-
1
=
(
I+
C) -
A 1 - 1 L
.
§4 .2 矩阵广义逆
[内容提要]
1 . Moore－Pe nrose 广义逆 A + 定义 2 .1 设 A∈ Cm × n , 若矩阵 G∈ Cn× m , 满足下面四个条件 :
(2 ) 求 A 的一般左逆 . r ( Am × n ) = n , 则存在 P , 使得
PA =
In 0
,
第四章 矩阵广义逆
131
第 15 讲 广义逆矩阵的应用
于是， ������
2 2
− ������ − − = [������− ������ + ������ − ������ ������ ������] ∙ ������ ������ + ������ − ������ ������ ������ ������ ������ ������ ������ 2 2
������
− − ������− ������ ������ − ������������ ������������������ ������ ������
������ − ������ − ������ − + ������ ������ [(������− ������ ������) −(������������ ������) (������������ ������) ] ������������ ������
定理2(TH7.5.1) 齐次线性方程组������������ = 0 ，A∈ ������ ������×������ 的通解是
������ = ������ − ������− ������ ������, ������ ∈ ������ ������ 是任意向量。
证明：设 ������ = ������| ������ − ������− ������ ������, ������ ∈ ������ ������ ，只需证明 ������ = ������(������) 即可。
2 2
+ ������− ������ ������
������
− ������− ������ ������ − ������������ ������ ������
− ������]������ ������− ������ + ������ ������ [������− ������ − ������ ������ ������ ������
6-1广义逆
I r I r O 例1 若 A ，则 A O O mn nm
，其中 任意选取。
I r O I r O O mn
nm
I r I r O O O mn O
x1 1,0,0 , x2 0,1,0 , x3 0,0,1 .
T T T
令 V x1 , x2 , x3 V1 , V2 , 其中 V1 x1 , x2 , V2 x3 , 设 U AV 1 1 1
范数 Ax b 2 为最小，称 x为Ax b的最小二乘解。
定理3 设A是Amn的减号逆，且 ( AA ) H AA , 那么，
b C m , x Ab就是它的最小二乘解。
定义3 设A C mn , 如果存在 X C nm , 使得
H AXA A 且 AX） AX （
rankA r , 若 r 0, 则A是 m n 阶零矩阵，可以
n m阶零矩阵满足四个方程。
验证
设r 0,由满秩分解定理知，存B Crmr , C Crrn , 在 使得A BC
令X C H (CC H ) 1 ( B H B) 1 B H
可以验证X满足广义逆矩阵方程
矩阵A中分别有两行、两列对应成比例，因此A既不是行 满秩也不是列满秩
首先利用初等行变换求出A的Hermite标准型H为：
1 2 0 1 H 0 0 1 1, 0 0 0 0
1 2 A BC ，则 B 1 1 , 设A的满秩分解为 1 2
如果矩阵A是行满秩的，A有满秩分解A=ImA， 则A+的表达式为 H H 1
，其中 任意选取。
I r O I r O O mn
nm
I r I r O O O mn O
x1 1,0,0 , x2 0,1,0 , x3 0,0,1 .
T T T
令 V x1 , x2 , x3 V1 , V2 , 其中 V1 x1 , x2 , V2 x3 , 设 U AV 1 1 1
范数 Ax b 2 为最小，称 x为Ax b的最小二乘解。
定理3 设A是Amn的减号逆，且 ( AA ) H AA , 那么，
b C m , x Ab就是它的最小二乘解。
定义3 设A C mn , 如果存在 X C nm , 使得
H AXA A 且 AX） AX （
rankA r , 若 r 0, 则A是 m n 阶零矩阵，可以
n m阶零矩阵满足四个方程。
验证
设r 0,由满秩分解定理知，存B Crmr , C Crrn , 在 使得A BC
令X C H (CC H ) 1 ( B H B) 1 B H
可以验证X满足广义逆矩阵方程
矩阵A中分别有两行、两列对应成比例，因此A既不是行 满秩也不是列满秩
首先利用初等行变换求出A的Hermite标准型H为：
1 2 0 1 H 0 0 1 1, 0 0 0 0
1 2 A BC ，则 B 1 1 , 设A的满秩分解为 1 2
如果矩阵A是行满秩的，A有满秩分解A=ImA， 则A+的表达式为 H H 1
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
意。
A-b为AX=b的特解, (In-A-A)Z为AX=0的通解.
E.H. Moore and Roger Penrose
二、Moore-Penrose (M-P) 广义逆
由Moore 1920年提出，1955年由Penrose独 立研究和发展。
1、 定义4.3 (P.98) 设矩阵 A Cmn，如果
A
L
1
的存在性
直观分析
➢
A
1 L
存在 矩阵A列满秩
➢
A
1 L
=
(AHA)–1AH
定理4.1(P.93) 设 A Cmn ，下列条件等价
1. A左可逆;
BA = In
2. A的零空间 N(A) = {0}; Ax = 0 x = BAx = 0
3. m n，秩(A) = n，即A是列满秩的; n-r(A) = 0
1. 矩阵A右可逆;
AC = Im
2. A的列空间 R(A) = Cm ; x = ACx
x R(A)
3. n m, 秩(A) = m, 即A是行满秩的r;(A)=dimR(A)
4. 矩阵 AAH 可逆，且
A
R
1
= AH(AAH)–1
r(AAH) = r(A)
讨论：可逆矩阵Ann的左、右逆和逆的关系 ➢ 可逆矩阵A的左、右逆就是矩阵A的逆A
GCnm ，使得
4.
矩阵AHA可逆，且
A
L
1
= (AHA)–1AH 。r(AHA) = r(A)
1 0
如前例 矩阵 A =
0
1
左可逆，AT右可
逆。如何求左或右逆？ 2 1 可用行或列初等变换！
m r(A) C r(A )m ,n
矩阵右逆的存在性
AAH(AAH)1I
定理4.2 (P.94) 设A Cmn ，则下列条件等价：
定义4.2 (P.95) A Cm n ，如果，G Cn m使得
AGA=A，则称矩阵G为A的减号广义逆，或{1}-逆。 A的减号逆集合记为A{1} = {A1–，A2–， ， Ak–}
例题1 A Cnn 可逆，则 A–1 A{1}； A单侧可逆，则A–1LA{1}；A–1RA{1}。
若A = 0 Cmn，则 A{1} = Cmn。
(2) AA-与A-A都是幂等阵，且
rank(A) = rank(AA-) = rank(A-A);
(3) R(AA-) = R(A), N(A-A) = N(A)。
定理4.8 (P.97)设ACmn, A-A{1}。若AX = b有解，
则其通解可表示为：X = A-b+(In-A-A)Z，ZCn任
任一矩阵的减号逆总存在，且一般不惟一！
§4. 2 广义逆矩阵
AA-A=A
减号逆的性质：定理4.6 - 定理4.8
定理4.6 (P.96)设ACmn，则A的{1}-逆惟一当且仅当
m = n，且A-1存在（即A可逆）。
定理4.7 (P.96)设ACmn，则 A- 满足
(1) rank(A) <= rank(A-);
§4. 2 广义逆矩阵
减号逆的求法：初等变换求等价标准型
定理4.5(P.95)设ACmn, rank(A) = r, 若存在可逆阵P，
Q使 PAQ =
Ir 0
0 0
,
则 G A{1} 当且仅当
GQVIr W UP, 其中 U，V，W任意。
证由明AG思A路=：A令可推出G:XQ=(Q Ir1。GP 1)PQV XW UP
X=AH(AAH)–1 b 是一个解。 由AC=I，知 ACb=Ib=b，又AAH可逆，得证。
二、单侧逆和求解线性方程组AX=b
2、左可逆矩阵
求解分析：
定理4 3 (P.94) 设矩阵A Cm n左可逆，B是
矩阵A的任何一个左逆，则
1. AX=b有形如X=Bb的解的充要条件是
( Im–AB )b=0
C
=
1 R
1 0
例 A不 必 右左的逆题 存 要右存1在 条在逆求！件？矩阵A的左逆：A =
0 2
1
1
AL1
1
0
0 1
0 0
§ 4. 1 矩阵的左逆与右逆
一、满秩矩阵和单侧逆
1、左逆和右逆的定义
m r(A) C r(A )n
定义4.1 (P.93)
nr(B) A r(A )m
• A Cmn， B Cnm，BA=In，则称矩阵B
第4章 矩阵的广义逆
The Pseudoinverse
矩阵的广义逆
概述：
矩阵的逆：Ann ， Bnn ，BA= AB = I, 则 B=A–1 广义逆的目标：推广逆的概念
对一般的矩阵 Amn可建立逆的部分性质。 当矩阵Ann可逆时，广义逆与逆相一致。 应用：广义逆可以作为方程组AX=b求解和最小二 乘法的理论分析工具。 若A可逆，推出：BA=I，AB = I，进而有 ABA = A，BAB = B，(AB)H = AB，(BA)H = BA， 由此可引出多种广义逆。这里重点讨论三种：单侧逆， 减号逆和加号逆。
§ 4. 1 矩阵的左逆与右逆
一、满秩矩阵和单侧逆
1、左逆和右逆的定义
m r(A) C r(A )n
定义4.1 (P.93)
nr(B) A r(A )m
• A Cmn， B Cnm，BA=In，则称矩阵B
为矩阵A的左逆，记为
B
=A
L
1
• A Cmn ， C Cnm，AC=Im，则称矩阵C
为矩阵A的右逆，记为
为矩阵A的左逆，记为
B
=A
L
1
• A Cmn ， C Cnm，AC=Im，则称矩阵C
为矩阵A的右逆，记为
C
=A
1 R
1 0
例 左 必 右左逆题 逆 要存1不 条在求唯件矩一阵！A的左逆：A =
0
0
1
0
AL1
1
0
0 1
a b
2、左逆和右逆存在的条件
nr(B) A r(A )m ,n (AHA)1AHAI
➢ A–1 = (AHA)–1AH = AH(AAH)–1
二、单侧逆和求解线性方程组AX=b
讨论
方程组AX=b 有解与左、右逆存在的关系。 借助于左、右逆求AX=b的形如X=Bb的解。
1、右可逆矩阵
定理44 (P.95)
1. 2.
AX=ACRm1bn是右方可程逆组，则AX=bb的Cm解，，A特X=别b地有，解。
(¤)
当(¤)式成立时，方程组的解是惟一的，而且惟
一解是X = (AHA)–1AHb
讨程论组证：的明对解1A：任，H1A何如.Xb满何=A足解X式释=A(方B¤程A) 的X组=左的A逆B解bB是；，惟2X. 一X=B=的b(？A都H是A)方–
§4. 2 广义逆矩阵
思想：用公理来定义广义逆。
一、减号广义逆