mp广义逆矩阵的秩
第六章 广义逆矩阵
100
= 0 1 0 .
000
由 例 6.1.3 可知, α 在 L 上的正交投影向量为
100
1
1
PLα = 0 1 0 0 = 0 .
000
1
0
(实际上 PLα 无需计算即可“猜”到, 为什么?)
定义 6.1.1 设矩阵 A ∈ Cm×n, 若矩阵 X ∈ Cn×m 满足 Penrose 方程组 (6.0.4), 则称 X 为 A 的一个 Penrose 广义逆 (矩阵).
(1) AXA = A
(2) XAX = X (3) (AX)∗ = AX (4) (XA)∗ = XA
(6.0.4)
则称 X 是矩阵 A ∈ Cm×n 的广义逆矩阵. 方程组 (6.0.3) 与 (6.0.4) 分别称为 Moore 方程组 与 Penrose 方程组. 注意, Moore 方
程组虽然只有两个方程, 却涉及了四个矩阵, 其中除了 A 之外, 其余三个均是未知的 (尽 管矩阵 PR(A) 仅与 A 有关), 而 Penrose 方程组尽管有四个方程, 但却仅涉及两个矩阵! 因 此 Penrose 方程组更易于研究和应用. 历史的进展正是如此, 自 Penrose 的广义逆矩阵的论文发
其中, X 的列是子空间 L 的任意一组基. 特别, 若 α1, α2, · · · , αr 是 L 的一组标准正交基,
广义逆矩阵及其计算方法
2020年4月第41卷第2期湘南学院学报Journal of Xiangnan UniversityApr.,2020Vol.41No.2广义逆矩阵及其计算方法欧阳光(湘南学院数学与金融学院,湖南郴州423000)摘要:本文讨论广义逆矩阵的一般概念,并给出加号逆矩阵的一种计算方法.关键词:关键词:矩阵,逆矩阵,广义逆矩阵,满秩分解,计算方法中图分类号:0157文献标识码:A DOI:10.3969/j.issn.1672-8173.2020.02.001本文用通俗的方法讨论广义逆矩阵及其性质,并给出加号逆矩阵的一种切实可用的计算方法.以下的讨论限定在实数范围内,文中所涉及的线性空间是欧氏空间⑴.1预备定理引理1(矩阵的等价分解)设A为任意的mxn矩阵,如果rk(A)=r,那么存在肌级可逆矩阵卩和〃级可逆矩阵Q使得A=,其中厶为厂级单位阵.证明由皿(A)=r,则存在m级可逆矩阵珂和〃级可逆矩阵Q o使得盼Q就鳥或心冷加,令P二二Qo",便有A二卩f证毕.下面介绍可逆矩阵卩和Q的计算方法[i].(\1-n例1设A=21f[,首先将A拼成形于F药〕的矩阵,对4进行一系列矩阵的初等行变换, -111包*丿11-1-1丿同时,对妇也进行一系列相应矩阵的初等行变换;对川进行一系列矩阵的初等列变换,同时,对也进行一系列相应矩阵的初等列变换.把A变换成阶梯矩阵(其中r=rk(A))的同时,兀就变换成了卩。
4就变换成了Qo.(11-11000、20-20100 -1010010 1-1-10001 100010<001丿<1001000、11010TT000-1110一卩2珂] 0000011k J 1-11010<001丿收稿日期:2019-06-30作者简介:欧阳光(1948—),男,湖南宜章人,教授,本科,研究方向:线性统计模型,EV模型.湘南学院学报(自然科学版)2020年4月(第41卷)第2期(1000)/、(11_1)令P=Po1=2J,Q=Qo1=010便有A=pp2J q.-1200〔001丿1°°丿11-201丿'7引理2(矩阵的正交分解)设4为任意的mxn矩阵,如果rk(A)=r,那么存在矶级正交矩阵H和〃级正交矩阵K,使得A=HRK,其中尺二0],Ri为厂级可逆矩阵.引理3(矩阵的满秩分解)设4为任意的mxn矩阵,如果皿(A)=r,那么存在m x r级矩阵F^rXn 矩阵G,且渔(F)二渔(G)二厂,使得川二FG,称为矩阵4的满秩分解.证明由于rk(A)=厂,由引理1则存在m级可逆矩阵P和〃级可逆矩阵Q使得A二P^r=(I r0)Q,令F二彳;I,G二(厶0)Q,易见F为mxr矩阵,渔(F)二厂,G为厂x〃矩阵,渔(G)二厂,便有A=FG.证毕.上面的证明中令卩二(巧,匕)其中巧为mxr矩阵,则F二彳;|二(巧,卩2)];|二巧•因此4二FG中的满列秩矩阵F就是矩阵A的等价分解式中矩阵P的前厂.同理A=FG中的满行秩矩阵G就是矩阵A的等价分解式中矩阵Q的前厂行.例2(续例1)矩阵4如例1所给,且rk(A)=2,由上面的说明可令厂10、2-2<11-1^F=4n,G=I1n.那么,矩阵占的满秩分解为A=FG.-12(010丿d-2丿2广义逆矩阵对行列式不等于零的卩级方阵A我们定义了它的逆矩阵,然后对于线性方程组Ax=b(其中A是〃级方阵,丨A I00,x二(%1,%2,…,Q=(b\,b2,…,bj)的解,可用4“来表示为%=A~r b.对于一般线性方程Ax=b,其中A是mxn矩阵,肌不一定等于〃,即^m=n,I Al也可能等于零,在这种情况下方程组的解是否可用类似于这样的矩阵来表示呢?这就要对一般的mxn矩阵定义它的逆矩阵.1935年和1955年Moore和Penrose给出了以下定义⑸切.定义1nxm矩阵X称为mxn矩阵A的广义逆矩阵,如果X满足以下四个条件:(1)AXA=A,(2)X4X二X,(3)(4X)‘二4X,(4)(X4)‘二X4中的一部分或全部.对于mxn矩阵A,我们将满足定义1中条件(1)的所有的或其中一个A的广义逆矩阵记为如1},简记作4一,称为4的减号逆矩阵或减号逆;将满足定义1中条件(1)和(2)的所有的或其中一个A的广义逆矩阵记为;等等;而将满足定义1中全部条件的矩阵A的广义逆矩阵1,2,3,4}简记作,称为4的加号逆矩阵或加号逆.设A是矶X孔矩阵,皿(A)二r,如果川的等价分解A=P X000Q,其中P,Q是可逆矩阵,则有A'=卩“,其中E,C,D分别为适当阶数的任意矩阵.可见,对任意的mxn矩阵A,A~存在且有无穷多个称为自反广义逆,且有以下结论:设A是X0 00Q,其中P,Q是可逆矩阵,则A{1,2}=Q1m X n矩阵,皿(A)=r,如果A的等价分解A=BC CB卩二其中E,C分别为适当阶数的任意矩阵P欧阳光:广义逆矩阵及其计算方法以下假定4+,B+存在,称A{1,3}为最小二乘广义逆,且有A{1,3}=A+P a+(I-A+A)U^中P为任意适当阶数的矩阵,巧=A(AN)+4;称A{1,4}为最小范数广义逆,且有A{1,4}=P a.A++U(I-AA+),其中U为任意适当阶数的矩阵.可见它们均可用加号逆表示,因此下面我们着重讨论加号逆矩阵.首先我们有(1)<=A{1,2,3,4}U4{1}=▲「.(2)3)+=4(3)(T=0.(4)如果I A\M0则4十■"•⑸设R=f骨,则珂蔦)定理1设A=巧6卩2,其中巧,卩2都是正交矩阵,如果少存在侧=P2BP;.定理2(存在唯一性)设▲为mx n矩阵,则A+存在且唯一.证明当4=0时,由上面(3)可知0+存在,当AM0时,不妨设泌(A)=r,(rM0)由引理2,存在正交矩阵H,K使得4=彳“°]k,其中I RJ M0,而卜.(00丿(00丿(00丿由定理1A+=k(R1H'=k(R1°]h‘.这就证明了0的存在性下面证明其唯一性30丿{00丿设£,X2为A的加号逆矩阵,那么X]=X1AX1=X1AX2AX1=X^AX^XAXJ'=X^'AXiA=X^'^AX^)'=X x X2A=X i(AX2)'=X1AX2=X1AX2AX2=(X.A)"(x2a)X-ax\ax2x2-(ax.a Y x.'x,=ax2x2=(x2a)x2=x2ax2=x2.唯一性得证,证毕.由广义逆矩阵定义容易验证.定理3对于mXn矩阵A,(A)+=(A+Y引理4设4为mx n矩阵,X]和X2分别为n x s矩阵.那么A AX,=AAX2成立的充分必要条件是=ax2证明注意到对于任意的X e R",AAX=0成立的充分必要条件是AX=0.从而往证4%(禺-X?)=0 成立的充分必要条件是A(X|-X?)=0,只要令X]=(5,012…,a,)e R n,i=l,2,---,s,X2=(仗屆…©),0;w R”,「=1,2,…,s.则AA(X,-X2)=(AA(ai-j SJ,AA(a2-/32),AA(a s-j85)),易见引理4成立.定理4设▲为m x n矩阵,那么(AA)+A=少又(必‘)+A=(A)+.证明H AA(A'A)+AA=A A=A A Z由弓A(AA)+AA=A,由定义可证定理4.定理5设A为mx n矩阵,那么,(AA)+=A\AY又(AA)+=(A)+A+.证明由定理3、定理4有(AA)+=(A'A)+AA(AA)+=A+A(AA)+=A+[(A(AA)+)']'=A+[((AA)+)'A]'=A+((AA)+A')'=A+(A+)'=A+(A)+.由4与4的对称性易得(44)+=(A)+A+.定理6rk(A+)=rk(AA+)=rk(A+A)=rk(A).定理7设▲为mxn矩阵,那么AA+,A+A,I n-A+A,I m-AA+均为無等阵.引理5设A?=▲则”(A)=承(A),其中"(A)表示矩阵A的迹.定理8设A为mxn矩阵,那么図(Z”-A+A)=n-r,中r=図(4).证明因为Z”-A+A,A+A均为幕等阵,由引理5及定理6可得,rk(I n-A+A)=tr(I n-A+A)=tr(I n)-tr(A+A)=n-rk(A+A)=n-rk(A)=n-r,证毕.定理9设A为m X7i矩阵,那么(1)rk(A)=“的充分必要条件是©A=I n;(2)rk(A)=m的充分必要条件是44*=1”.证明仅证(1)即可.充分性:由=Z”及定理6有n=rk(I n)=rk(A+A)=rk(A)泌要性:由定理8及rk{A)-n可知rk{I n-A+A)-n-rk(A)-n-n-0,从而Z”-A+A=0,故A+A-I n.证毕.定理10设A为m X n矩阵,如果rk(A')=zn,那么A*=A(AA)_1.如果rk(A)-n,那么A*=湘南学院学报(自然科学版)2020年4月(第41卷)第2期(XX)_1X3加号逆矩阵的计算方法定理11设mxn矩阵A有满秩分解A=FG,其中F为mXr矩阵,G为rXn矩阵且rk(F)=rk(G)=rk(A)=r么A+=G+F+.证明因为F为mxr矩阵,且rk(F)=r,又G为rXn矩阵,且渔(G)二厂,由定理9有FF二厶,GG*二厶.令X二G F+,我们有AXA=FGG F FG=FG=A,XAX=GFFGGF+=GF+=X,AX=FGGF+=I r.因而(AX)'=AX.又XA=G F FG=G G=(G+G)^二(&4)‘,因此A*二G F+.证毕.定理12设mxn矩阵A有满秩分解A=FG,其中F为mXr矩阵,G为rXn矩阵且rk(F)=rk(G)二皿(A)=r那么A+=G\GG)_1(FF)_1F为任意m x n矩阵加号逆矩阵的计算方法.例3矩阵4如例1所给,由例2有A满秩分解A=FG,其中FG如例2所给,因此,A+厂10、G《GG")T(RF)TF二11J-10丿1~21~2(3_720?0-22-2)1311)lo20~20202133y lo10"10i31110202020J322八52、5参考文献:[1]北京大学数学系几何与代数教研室代数小组.高等代数(第二版)[M].北京:高等教育出版社,198&[2]钱吉林.矩阵及其广义逆[M].武汉:华中师范大学出版社.1990.[3]王松桂,杨振海.广义逆矩阵及其应用[M].北京:北京工业大学出版社,1996.[4]杨桂元.广义逆矩阵的应用[M].北京:高等教育出版社,2007.[5]高珍珍.广义逆矩阵及其应用[J].伊犁师范学院学报(自然科学版),2011,5(4):1-7[6]周玉兴,涂火年.几类广义逆矩阵的关系及其应用[J].吉首大学学报(自然科学版),2015,36(1):11-13.The Generalized Inverse Matrix and Its Calculation MethodOuyang Guang(School of Mathematics and Finance,Xiangnan University,Chenzhou423000,China)Abstract:In this paper,the general concept of generalized inverse matrix is discussed,and a method for calculating the plus sign inverse matrix is given.Key words:matrix;inverse matrix;generalized inverse matrix;calculation。
22 广义逆矩阵
§2 矩阵的广义逆一、广义逆矩阵的概念定义1 设任意一个矩阵n m R A ⨯∈,若存在矩阵m n R X ⨯∈,满足 AXA =A (1) XAX =X (2) (AX )T =AX (3) (XA )T =XA (4) 这四个方程中的一个、两个、三个或全部,则称X 为A 的广义逆矩阵。
由上面的定义可知,广义逆矩阵有15C C C C 44342414=+++中之多。
本节介绍应用广泛的减号广义逆和加号广义逆。
定义2 对矩阵n m R A ⨯∈,一切满足方程组A AXA =的矩阵X ,称为矩阵A 的减号逆或g-逆。
记为-A 。
例如,,都是的减号逆。
下面的定理解决了-A 的存在性和构造性问题。
定理1(秩分解) 设A 为n m ⨯矩阵,()rank A r =,若, 或这里P ,Q 分别为n n m m ⨯⨯,的可逆阵,则12221121---⎪⎭⎫ ⎝⎛=P G G G I Q A r (5) 其中222112,,G G G 是相应阶数的任意矩阵。
证明 设X 为A 的广义逆,则有Q O O O I P Q O O O I QXP O O O I P A AXA r r r ⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⇔=⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⇔O O O I O O O I QXP O O O I r r r 若记则上式,⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛⇔00000011r I G r I G =⇔11 于是, 12221121--⎪⎪⎭⎫ ⎝⎛=⇔=P G G G I Q X A AXA r 其中222112,,G G G 任意. 证毕.定理1不但表明矩阵的减号逆总是存在的,通常也是不唯一的,而且还给出了计算减号逆的方法。
推论:若A 右逆,则;若A 左逆,则()1112n A Q I G P ---=。
例 1 设, 求-A 。
解 经过初等变换可得 ⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛--→⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛-=⎪⎪⎭⎫ ⎝⎛00100002100050110010210010010000010000011021001121032I I A 于是,故⎪⎪⎭⎫ ⎝⎛+-+--+--=⎪⎭⎫ ⎝⎛-⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛-=⎪⎭⎫ ⎝⎛=---21121121121121212241251025110211001100210501t t t t t t t t t t t P G I Q A 其中21,t t 是任意数。
第八章 矩阵的广义逆
第八章矩阵的广义逆前言初等变换和标准形初等变换和标准形举例
§8.1 广义逆矩阵减号逆的概念
减号逆存在定理及求法减号逆存在定理及求法续
关于减号逆公式的注一个减号逆确定所有减号逆1减号逆的主要性质续减号逆的主要性质续
减号逆的主要性质续左逆与右逆的概念矩阵左逆与右逆的求法自反广义逆的概念
自反广义逆的存在与唯一性自反广义逆的唯一性自反广义逆与左(右)逆的关系用满秩分解求自反广义逆
自反广义逆的求法自反广义逆的求法续§8.2 伪逆矩阵
伪逆的存在性求伪逆举例
伪逆的唯一性
伪逆的性质
⎞
⎛−101求伪逆举例
§8.3 广义逆与线性方程组
一般矩阵方程有解的条件一般矩阵方程的通解
用减号逆求解相容线性方程组举例相容线性方程组的最小模解0130
−
相容方程组最小模解的充要条件
相容方程组最小模解的充要条件续
求相容方程组最小模解举例
Ax,即‖Ax-b‖>0.
不相容方程组的最小二乘解
R(A)
Ax 0
不相容方程组的最小二乘解举例用广义逆求最小二乘解定义8.3.2:线性方程组Ax=b 的一个最佳最小二乘
矩阵方程的最小二乘解。
第六章广义逆矩阵
第六章广义逆矩阵§6.1 投影矩阵一、投影算子与投影矩阵v设L和M都是C n的子空间,且LÅM=C n.于是任意xÎC n都可唯一分解为x=y+z,yÎL,zÎM,称y是x沿着M到L的投影.v定义将任意xÎC n变为沿着M到L的投影的变换称为沿着M到L的投影算子,记为PL,M ,即PL,Mx=y。
v显然,R(P L,M)=L,N(P L,M)=M.v投影算子P L,M是一个线性算子。
v定义投影算子P L,M在C n的基e1,…,e n下的矩阵称为投影矩阵.记为P。
L,Mv幂等矩阵:A2=Av引理设AÎC n×n是幂等矩阵,则N(A)=R(I-A)。
证明:A2=AÞA(I-A)=OÞ对任意xÎR(I-A),存在yÎC n,x=(I-A)y,必有Ax=0。
故R(I-A)ÌN(A)Þdim R(I-A)£dim N(A)=n-dim R(A)即rank(I-A)£n-rank A。
考虑到I=A+(I-A)Þn£rank A+rank(I-A)有rank(I-A)=n-rank A,使得dim R(I-A)=n-dim R(A)=dim N(A),即得N(A)=R(I-A)。
v定理:P为投影矩阵的充要条件是P为幂等矩阵为投影矩阵,则对任意xÎC n有证明:设P=PL,MP2L,M x = P L,M (P L,M x) = P L,M y = y = P L,M x故P为幂等矩阵。
反之,设P为幂等矩阵n则对任意xÎC有x=x-Px+Px=(I-P)x+Px,其中(I-P)xÎN(P),PxÎR(P),使得C n=N(P)+R(P)。
设zÎN(P)∩R(P),由于N(P)=R(I-P)故存在u,vÎC n使得z=Pu=P2u=P(I-P)v Þz=Pu=(I-P)v=0故N(P)∩R(P)={0}。
广义逆矩阵
广义逆矩阵方程
设A是n阶非奇异矩阵,则存在唯一的逆矩阵A-1, 它具有如下性质:
AA1 I
A1 A I
AA1 A A
A1 AA1 A1
或者说, A-1是下述矩阵方程组的解
AXA A
(P1 )
XAX X
AX H AX
(P2 ) (P3 )
XAH XA (P4 )
Al --最小二乘广义逆
A{1,4},它的形式记为
Am 最小范数广义逆
广义逆A-
A{1}是指仅满足第一个Penrose方程的广义逆,即若
AA-1A=A, 则记 A A{1}
说明: 1)利用初等行变换,可以求得A-
2)A的减号逆A-不唯一。
例:设
A
1 1
0 0,
1 0
设r 0,由满秩分解定理知,存在B Crmr ,C Crrn , 使得A BC
令X C H (CC H )1(BH B)1 BH
可以验证X满足广义逆矩阵方程
对于矩阵方程
几类弱逆
AXA A
(P1)
XAX X
AX H AX
(P2 ) ( P3 )
XAH XA (P4 )
首先利用初等行变换求出A的Hermite标准型H为:
1 2 0 1 H 0 0 1 1,
0
设A的满秩分解为 A
0
0
BC
0
,则
B
2 1
1 1 ,
C 1 2 0
1
1 2
0 0 1 1
于是
A C H (CC H )1(BH B)1 BH
x min Ax b xC n
广义逆矩阵(Pseudoinverse)神经网络
广义逆矩阵(Pseudoinverse)在神经网络学习算法中的应用早在20世纪20年代初期,E.H.Moor 就提出了广义逆矩阵的概念,但长期以来广义逆矩阵的研究却没有受到人们的注意。
直到1955年,随着科学技术的迅猛发展,特别是电子计算机的出现,推动了计算科学的进步。
R.Penrose又独立提出广义逆矩阵的概念后,情况才开始发生了变化。
由于广义逆矩阵在测量学,统计学等多领域中得到了广泛应用,产生了巨大的推动力量,使其在之后的近四十年的时间得到了迅猛发展,形成了完整的理论体系。
一.广义逆矩阵若A为非奇异矩阵,则线性方程组Ax=b的解为x=A1-b,其中A的逆矩阵A1-满足A1-A=A A1-=I(I为单位矩阵)。
若A是奇异阵或长方阵,Ax=b可能无解或有很多解。
若有解,则解为x=Xb+(I-XA)у,其中у是维数与A 的列数相同的任意向量,X是满足AXA=A的任何一个矩阵,通常称X为A的广义逆矩阵,用A g-、A-或A1-等符号表示,有时简称广义逆或伪逆。
当A 非奇异时,A1-也满足A A1-A=A,且x= A1-b+(I- A1-A)у= A1-b。
故非异阵的伪逆矩阵就是它的逆矩阵,说明伪逆矩阵确是通常逆矩阵概念的推广。
1955年R.彭罗斯证明了对每个m×n阶矩阵A,都存在唯一的n×m阶矩阵X,满足:①AXA=A;②XAX=X;③(AX)H=AX;④(XA)H=XA。
通常称X为A的穆尔-彭罗斯广义逆矩阵,简称M-P逆,记作A1-。
当A非奇异时,A1-也满足①~④,因此M-P逆也是通常逆矩阵的推广。
在矛盾线性方程组Ax=b的最小二乘解中,x=A1-b是范数最小的一个解。
若A是n阶方阵,k为满足(图1)的最小正整数(rank为矩阵秩的符号),记作k=Ind(A),则存在唯一的n阶方阵X,满足:(1) AkXA=Ak;(2) XAX=X;(3) AX=XA。
通常称X为A的德雷津广义逆矩阵,简称D逆,记作Ad,A(d)或AD等。
5.1Moore-penrose广义逆矩阵
注意到若V是内积空间,则子空间U有唯一正交补
间U上的投影变换PU ,U 由唯一决定,称 PU ,U 为正交投影,
简记为 PU 于是作为逆矩阵的推广我们希望TBA 与 TAB 是正交
投影变换!
于是提出问题:对A是n阶矩阵,则构作 F n 上的 线性变换
TA F n F n x Ax
那么矩阵A满足什么条件TA 才是正交投影变换呢? 我们引入一个概念 定义2 n阶矩阵A若满足 A 2 A 且 A H A, 则
5.1
† A Moore-penrose 广义逆矩阵
一 Moore-penrose 广义逆矩阵的定义
二 Moore-penrose 广义逆矩阵存在性与性质
三 Moore-penrose 广义逆矩阵求法
一 Moore-penrose 广义逆矩阵的定义
(一)传统可逆定义的缺点
对矩阵A若存在矩阵B满足 AB BA E
不到,为得到逆矩阵在任意矩阵上推广,我们放弃
与 TAB 是整个空间上的恒等映射要求,只要求它们 各自是在 span 1 , , n 与 span 1 , m 上的恒等映射!
TAB
注意到
Im TBA span 1 , m F n , Im T AB span 1 , , n F m
Im T A , Im T A , 各自正交规范基以顺序形成 F n 的一个基,
将其做成矩阵U,则U是酉矩阵且 U H AU diag(1, 1, 0, , 0) 即 A U diag(1, 1, 0, , 0)U H , 由此可得 A H A, 且 A H A。
(四) Moore-penrose 广义逆矩阵的定义
矩阵论第8章广义逆矩阵及其应用
由定义不难看出:
A A{1,2} A{1} ;A A{1,3} A{1} ;A A{1,4} A{1} .
1 例 8.1.1 设 A 1
1
0 0 0
,
B
1 0
0 1
0 0
,
C
1 0
0 0
0 1
,由于
ABA A, ACA A ,
所以, B 与 C 均为 A 的减号逆.
同理 G1 A G2 A .
所以 G1 G1 AG1 G1 AG2 G2 AG2 G2 ,
故加号逆是唯一的.
8.1.3 广义逆矩阵的计算: 1. 减号逆 AGA A
定 理 8.1.2 设 A 是 m n 矩 阵 , rank( A) r , 非 奇 异 矩 阵
P C mm , Q C nn
本章着重介绍几种常见的广义逆矩阵及其在解线性方程组中 的应用.
8.1 矩阵的几种广义逆
8. 1. 1 广义逆矩阵的基本概念
定 义 8.1.1 设 A C mn 为 任 意一个 复 数 矩阵 , 如果 存 在复 矩 阵
G C nm ,满足 AGA A , GAG G ,
(8.1.1) (8.1.2)
P
3 0 2
2 0 1
7 1 1 0 4 g31
0 1
1 g32
0
10
3 7g31 g31
2 4g31
2 7g32 g32 ,
1 4g32
其中, g31 , g32 是任意常数.
特别地,取 g31 0, g32 0 ,得 A 的一个减号逆:
A
3 0
2
2 0 . 1
1 2
3 1
广义逆矩阵(Pseudoinverse)神经网络
广义逆矩阵(Pseudoinverse)在神经网络学习算法中的应用早在20世纪20年代初期,E.H.Moor就提出了广义逆矩阵的概念,但长期以来广义逆矩阵的研究却没有受到人们的注意。
直到1955年,随着科学技术的迅猛发展,特别是电子计算机的出现,推动了计算科学的进步。
R.Penrose又独立提出广义逆矩阵的概念后,情况才开始发生了变化。
由于广义逆矩阵在测量学,统计学等多领域中得到了广泛应用,产生了巨大的推动力量,使其在之后的近四十年的时间得到了迅猛发展,形成了完整的理论体系。
一.广义逆矩阵若A为非奇异矩阵,则线性方程组Ax=b的解为x=A1-b,其中A的逆矩阵A1-满足A1-A=A A1-=I(I为单位矩阵)。
若A是奇异阵或长方阵,Ax=b可能无解或有很多解。
若有解,则解为x=Xb+(I-XA)у,其中у是维数与A的列数相同的任意向量,X是满足AXA=A的任何一个矩阵,通常称X为A的广义逆矩阵,用A g-、A-或A1-等符号表示,有时简称广义逆或伪逆。
当A非奇异时,A1-也满足A A1-A=A,且x=A1-b+(I-A1-A)у=A1-b。
故非异阵的伪逆矩阵就是它的逆矩阵,说明伪逆矩阵确是通常逆矩阵概念的推广。
1955年R.彭罗斯证明了对每个m×n阶矩阵A,都存在唯一的n×m阶矩阵X,满足:①AXA=A;②XAX=X;③(AX)H=AX;④(XA)H=XA。
通常称X 为A的穆尔-彭罗斯广义逆矩阵,简称M-P逆,记作A1-。
当A非奇异时,A1-也满足①~④,因此M-P逆也是通常逆矩阵的推广。
在矛盾线性方程组Ax=b的最小二乘解中,x=A1-b是范数最小的一个解。
若A是n阶方阵,k为满足(图1)的最小正整数(rank为矩阵秩的符号),记作k=Ind(A),则存在唯一的n阶方阵X,满足:(1)AkXA=Ak;(2)XAX=X;(3)AX=XA。
通常称X为A的德雷津广义逆矩阵,简称D逆,记作Ad,A(d)或AD等。
第8章广义逆矩阵及其应用
同理可证(2).
这里要特别指出的是,对于行或列满秩的矩阵 A , AR1 与 AL1 是不可能同时存在的,当且仅当 A 为满秩矩阵时 AR1 与 AL1 才同时存在,并且都等于逆矩阵 A1 ,另外,由右逆与左逆的定
义不难看出右逆与左逆满足 M-P 方程(8.1.1),(8.1.2),从而有 下面结论.
( AG) H AG ,
(8.1.4)
4 个方程的全部或一部分,则称 G 为 A 的一个广义逆矩阵,并把上
面 4 个方程叫做穆尔-彭诺斯(M-P)方程.进一步,如果 G 满足
M-P 的 4 个方程式,则称 G 为 A 的穆尔-彭诺斯广义逆,记为
G A{1,2,3,4} ,一般地,如果 G 满足 4 个 M-P 方程式中的第
在,使(8.1.1)与(8.1.2)都成立,即
AGA A GAG G
则称 G 为 A 的一个{1,2}-广义逆,记为 G A{1, 2} 或 G A{1,2} ,也称 G
为 A 的一个自反减号广义逆,记为 G Ar ,即有
AAr A A , Ar AAr Ar .
(8.1.10)
显 然 , 自 反 减 号 逆 Ar 是 一 种 特 殊 的 减 号 逆 A , 它 满 足 自 反 性
P C mm , Q C nn 使得
PA
Q
Er 0
00 ,
则 A 的减号逆矩阵存在,且可表示为
(8.1.7)
A
Q
Er G21
G12 G22
P
,
(8.1.8)
其中 G12,G21,G22 分别是 r (m r) ,(n r) r ,(n r) (m r) 的任意
矩阵.
广义逆矩阵教案ppt课件
可逆方矩阵 .
返回
定 理 4设 A Cm n是左可 ,A L 1 逆 是 A 的 矩左 阵逆 矩 阵 ,则 方 程 Ax组 b有 解 的 充 要 条 件 是
(E mAL A 1)b0(1)
若(1)式成,则 立方程 Ax组 b有唯一解 x(AHA)AHb.
证 充分性: N(A){0} Ax0只有零解
ran(Ak)n A为列满秩
必要性: A左可逆
AL1AEn
返回
xN(A) xEnxAL 1(A)xAL100
N(A){0}
初等变换求左(右)逆矩阵:
(1)P(AEm)E0n G *
(2)EAnQEGm *0
返回
例 1 设矩阵 A为 1 2
A 0 1 0 0
证 : 必要性: 设 x0是 方A程 xb的 组解
(AL 1 A )A ( 0)x (AL 1 A )bA(AL1A)x0 AEnx0
Ax0 b
(EmAL A1)b0
返回
充分性: (EmAL A1)b0 x0 AL1b Ax0AAL1b b
唯一性:
设 x0,x1Βιβλιοθήκη A xb的解A (x 1 x 0 ) A 1 x A 0 x 0 x1x00
1 0 1
2
0
0
0
0
1
1 0 0
0 1 2
1
2
1
0 1 0
0
0
1
1 0 0 0 1 0
1
2
3
0 1 2
0
0
1
1 0 0
0 1 0
1
毕业论文-矩阵的广义逆及其应用模板
矩阵的广义逆及其应用摘要:矩阵的广义逆,即Moore-Penrose逆,在众多理论与应用科学领域,例如微分方程、数值代数、线性统计推断、最优化、电网络分析、系统理论、测量学等,都扮演着不可或缺的重要角色。
本文首先介绍了广义逆的定义以及广义逆的性质,主要内容是矩阵广义逆的应用,包括广义逆在分块矩阵理论中的各种应用,广义逆的Cramer法则和广义逆的计算,并对部分理论给出简单的解释,同时加以举例说明。
关键词:分块矩阵;广义逆;Moore—Penroce逆;Cramer法则.The generalized inverse matrix and its applicationAbstract: The generalized inverse of matrix, i.e. the inverse of Moore-Penrose, plays an indispensable role in many fields of theories and applied sciences, such as differential equation, numerical algebra, linear statistical inference, optimization, the analysis of electrical network, system theory and surveying, etc.The thesis introduces the definition and the property of the generalized inverse for the first place, and its primary content is the application of generalized inverse matrix including its all kinds of applications in the block matrix theory, its Cramer rule and its calculation. Besides, brief explanations are given to some theories with illustrations.Key words: block matrix; generalized inverse; inverse of Moore-Penrose; Cramer rule.1引言矩阵的广义逆概念是由美国学者E.H.Moore 首先提出的,但在此后的30多年里,矩阵的广义逆很少被人们所注意,直到1955年英国学者R.Penrose 利用四个矩阵方程给出了广义逆矩阵的简洁实用的新定义之后,广义逆矩阵的理论与应用才进入了迅速发展的时期。
广义逆矩阵及其应用
第七章广义逆矩阵及其应用广义逆矩阵是通常逆矩阵的推广,这种推广的必要性,首先是从线性方程组的求解问题出发的,设有线性方程组Ax=b (0 — 1)当A是n阶方阵,且detA≠0时,则方程组(0-1)的解存在、唯一,并可写成x=Ab (0 — 2)但是,在许多实际问题中所遇到的矩阵A往往是奇异方阵或是任意的m×n矩阵(一般m≠n),显然不存在通常的逆矩阵A,这就促使人们去想象能否推广逆的概念,引进某种具有普通逆矩阵类似性质的矩阵G,使得其解仍可以表示为类似于式(0—2)的紧凑形式?即x=Gb (0 — 3)1920年摩尔(E. H. Moore)首先引进了广义逆矩阵这一概念,其后三十年未能引起人们重视,直到1955年,彭诺斯(R. Penrose)以更明确的形式给出了Moore 的广义逆矩阵的定义之后,广义逆矩阵的研究才进入了一个新的时期,由于广义逆矩阵在数理统计、系统理论、最优化理论、现代控制理论等许多领域中的重要应用为人们所认识,因而大大推动了对广义逆矩阵的研究,使得这一学科得到迅速的发展,已成为矩阵的一个重要分支。
本章着重介绍几种常用的广义逆矩阵及其在解线性方程组中的应用。
§1 矩阵的几种广义逆1.11955年,彭诺斯(Penrose)指出,对任意复数矩阵Amxn,如果存在复矩阵Anxm,满足广义逆矩阵的基本概念−1−1AXA=A (1—1)XAX=X (1—2)(AX)H=AX (1—3)(XA)H=XA (1—4)则称X为A的一个Moore—Penrose广义逆,并把上面四个方程叫做Moore—Penrose方程,简称M—P方程。
由于M—P的四个方程都各有一定的解释,并且应用起来各有方便之处,所以出于不同的目的,常常考虑满足部分方程的X,叫做弱逆。
为引用的方便,我们给出如下的广义逆矩阵的定义。
定义1—1 设A∈Cmxn,若有某个X∈Cmxn,满足M—P方程(1—1)~(1—4)中的全部或其中的一部分,则称X为A的广义逆矩阵。
广义逆矩阵的求法探讨
当rankA m; 在一般情况下; 当rankA m; 在一般情况下;
是 A 的一个极小范数逆【1‘2】.
引理 1.3 对于任意矩阵 A ,它的最小二乘逆 Al 总存在 ,但不唯一,并且
( AAT ) 1 AT , Al T T ( AA ) A , 当rankA m; 在一般情况下;
证明 先证必要性,由条件有 m 阶及 n 阶可逆矩阵 P,Q ,使 E PAQ r 0 那么 E A P 1 r 0 根据 G 应满足的 AGA A , 有 E P 1 r 0 0 1 1 Er Q GP 0 0 0 1 E Q P 1 r 0 0 0 1 Q 0 0 1 Q 0 0 0
第 1 页,共 21 页
的矩阵(记为 A )存在,使下式成立,则称 A 为 A 的减号广义逆或者 g 逆:
AA A A
式,可见减号广义逆 A 是普通广义逆矩阵 A 的推广; 另外,由 AA A A 得 ( AA A)T AT,即AT ( A )T AT . 可见,当 A 为 A 的一个减号广义逆时, ( A )T 就是 AT 的一个减号广义逆. 定义 1.3 设 A Crmn,AH A 的特征值为
E P 1 r 0
0 1 Q A 0
引理 1.1 对于任意的矩阵 A ,它的减号逆 A 总存在,但不唯一,并且
AT ( AAT ) 1 , A ( AAT ) 1 AT , C T (CC T )( DT D) 1 DT , 是 A 的一个减号逆
因此 G Y , 说明 A 是唯一的,且 1 A V r 0
0 H U 0
若 A 是非奇异矩阵,容易验证 A 满足 4 个 Penrose 方程,此时 A A .由此可见
第五章-广义逆矩阵
第五章 广义逆矩阵广义逆矩阵是E. H. More 于1920年首次提出的,1995年R. Penrose 利用矩阵方程组给出它更为明确简便的定义。
其后,广义逆矩阵在理论和应用方面都得到了迅速发展。
它在微分积分方程、数理统计、最优化、测量学等应用科学中发挥了重要作用,更是研究最小二乘等问题不可缺少的工具。
广义逆矩阵是矩阵论的一个重要分支。
第一节 广义逆矩阵的概念对于线性方程组Ax =b ,当方阵A 可逆时,其有唯一解x =A -1b 。
但是,在许多实际应用中更多涉及到的是系数矩阵A 是奇异方阵或长方阵的情形。
这就从客观上要求人们去探索把通常逆矩阵进行推广的问题。
若A 是可逆的,即有逆矩阵A -1,则A -1必满足下面四个等式AA -1A =AA -1AA -1=A -1(AA -1)H =AA -1(A -1A )H =A -1A若A 是一个一般的矩阵,是否有矩阵X 存在,满足AXA =A (1) XAX =X (2) (AX )H =AX (3) (XA )H =XA (4) 这四个方程中的一个、二个、三个或全部呢?这就引出了广义逆矩阵的定义。
定义1 设A ∈C m ×n ,如果X ∈C n ×m 满足(1)—(4)式中的一个、二个、三个或全部,则称X 为A 的广义逆阵。
由上定义可知,广义逆阵有1544342414=+++C C C C 种之多。
为了方便,引进一些记号:A (i )为满足第i 个方程的广义逆矩阵,即第i 个方程的解矩阵,A {i }为第i 个方程的解集,即A (i )的全体。
同样有记号A (i ,j ),A (i ,j ,k ),A (1,2,3),A {i ,j },A {i ,j ,k },A {1,2,3,4}。
如,A (1,3)为满足第1、第3个方程的广义逆矩阵,A {1,3}为所有A (1,3)的全体构成的集合。
在这15种广义逆矩阵中,常用的有A {1},A {1,3},A {1,4},A {1,2,3,4}。
矩阵论学习-(矩阵广义逆)-1
AC = Im , 则称 A 有右逆 , C 是 A 的一个右逆 , 记为 AR- 1 = C .
定理 1 .1 A∈ Cm × n (1 ) A 有左逆 r( A ) = n( 即 A 是列满秩 )
C - 1 BL- 1 A - 1 是 ABC 的一个左逆 .
(2 ) 若 B 是一个右可逆 , r( B) = m , r ( ABC) = r( B) = m , 故 ABC 是右可 逆
的,且
C-
B 1 - 1 R
A-
1是
ABC
的一个右逆
.
例 4 .1-5 A∈ Rm × n 是一个行满秩矩阵 , 证明 A 有右逆为
( I + AL- 1 B - I) - 1 AL- 1 B =
( AL- 1 B) - 1 ( AL- 1 B) = In ,
即
[(
I+
C) -
1
AL- 1 ] B =
In , 故
B 的左逆为
BL-
1
=
(
I+
C) -
A 1 - 1 L
.
§4 .2 矩阵广义逆
[内容提要]
1 . Moore-Pe nrose 广义逆 A + 定义 2 .1 设 A∈ Cm × n , 若矩阵 G∈ Cn× m , 满足下面四个条件 :
(2 ) 求 A 的一般左逆 . r ( Am × n ) = n , 则存在 P , 使得
PA =
In 0
,
第四章 矩阵广义逆
131
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
mp广义逆矩阵的秩
MP广义逆矩阵是一种特殊的广义逆矩阵,它是由Mazur-Penrose泛函诱导出来的。
这种广义逆矩阵具有一些重要的性质,其中之一就是它可以表示为原矩阵与其转置矩阵的奇异值分解(SVD)的特定组合。
接下来,我们来看一下MP广义逆矩阵的秩的计算方式。
设原矩阵为A,其秩记为r(A)。
根据奇异值分解,我们有:
A = UΣV*
其中U和V是正交矩阵,Σ是对角矩阵,对角线上的元素即为奇异值。
对于MP广义逆矩阵,我们可以将其表示为:
A+ = VΣ+U*
其中Σ+是Σ的Moore-Penrose逆,即Σ+ΣΣ+=ΣΣ+Σ+=I,同时Σ+Σ=ΣΣ+Σ+=A。
由于Σ是对角矩阵,所以其Moore-Penrose逆也是对角矩阵,且对角线上的元素为奇异值的倒数。
因此,我们可以得到MP广义逆矩阵的秩的计算公式:r(A+) = rank(Σ+) = sum(1/σ)
其中σ表示奇异值。
由于奇异值的倒数就是MP广义逆矩阵的对角线上的元素,所以我们可以得到结论:MP广义逆矩阵的秩等于原矩阵奇异值的倒数之和。
最后,我们来看一下MP广义逆矩阵的秩的性质。
由于MP广义逆矩阵是原矩阵与其转置矩阵的奇异值分解的特定组合,所以它具有与原矩阵相似的性质。
具体来说,如果原矩阵是满秩的,则其MP广义逆矩阵也是满秩的;如果原矩阵是行满秩或列满秩的,则其MP广义逆矩阵也是行满秩或列满秩的。
此外,MP广义逆矩阵还可以保持原矩阵的正定性、奇异性等性质。
总之,MP广义逆矩阵的秩是一个重要的概念,它与原矩阵的秩有一定的关系。
同时,MP广义逆矩阵还具有一些其他的重要性质,这些性质可以应用于不同的数学领域和实际应用中。