第六章 广义逆矩阵(课堂PPT)

1. 定义 将任意xCn变为沿着M到L的投影的变换称为 沿着M到L的投影算子，记为PL,M，即 PL,M x=y。
❖ 显然， R(PL,M)=L， N(PL,M)=M． ❖ 投影算子PL,M是一个线性算子。
3
2.定义 投影算子PL,M在Cn的基e1,…,en下的矩阵称为投 影矩阵．记为PL,M。
3.幂等矩阵：A2=A
故P为幂等矩阵。反之，设P为幂等矩阵，则：对任意xCn 有 x=x-Px+Px=(I-P)x+Px ， 其 中 (I-P)xN(P) ， PxR(P) ， 使得Cn=N(P)+R(P)。设zN(P)R(P)，由于N(P)=R(I-P) 故 存在u，v Cn 使得 z=Pu=P2u=P(I-P)v z=Pu=(I-P)v=0
PL
[ X ,O][X ,Y ]1
( X H X )1 X H
[X ,O]
(Y
HY )1Y
H
X ( X H X )1 X H
说明：令
[
X
,Y
]1
A B
，则有
I [X ,Y ][X ,Y ]1 [X ,Y ]BA XA YB 两边左乘 XH 得 X H X H XA X HYB ( X H X ) A
第六章
广义逆矩阵
1
知识要点
❖ 投影矩阵 ❖ 广义逆矩阵 ❖ 相容方程组的最小范数解 ❖ 矛盾方程组的最小二乘解 ❖ 矛盾方程组的最小范数最小二乘解 ❖ 总体最小二乘技术
2
§6.1投影矩阵
一、投影算子与投影矩阵 设L和M都是Cn的子空间，且LM=Cn ．于是任意 xCn都可唯一分解为x=y+z，yL，zM，称y是x沿 着M到L的投影．
6
二、正交投影算子与正交投影矩阵
1.定义：设L是Cn的子空间，则称沿着L到L的投影算子 PL,L为正交投影算子，简记为PL；正交投影算子在Cn 的基e1,…,en下的矩阵称为正交投影矩阵，记为PL ．
2. 定理 矩阵P为正交投影矩阵的充要条件是P为幂等 Hermite矩阵．
证：若P=PL是正交投影矩陈, 由前述定理知，它是幂等矩阵。把 任意xCn分解为x=y+z，yL，zL，则PLx=yL，(I-PL)x = z
故 N(P)R(P) = {0}。这样 Cn = N(P)R(P)，这意味着对任意 xCn，Px是x沿着N(P)到R(P)的投影，故而P=PR(P), N(P)
5
5. 投影矩阵PL,M的构造方法
设 dimL=r，则 dimM=n-r，在子空间L和M中分别取基底 X=(x1,…,xr) 和 Y=(y1,…,yn-r)，于是有PL,M[X,Y]=[X,O]。由
于(X,Y)为Cn的一个基底，故[X,Y]可逆，于是得 PL,M=[X,O][X,Y]-1
例：设L是由向量[1,0]T张成的子空间，M是由向量[1,－1]T张 成的子空间，则可求得平面上沿着M 到L的投影矩阵为
1 0 1
1
1
PL,M=0 0 0 1
1 0 1 1 1 1 0 0 0 1 0 0
L使得PLx正交于(I-PL)x，即xHPLH(I-PL)x=0，x的任意性使得
PLH(I-PL)= O，即
7
PLH=PLHPLPLH=PLHPL=(PLHPL)H =(PLH)H=PL 即PH=P， P为幂等Hermite矩阵。 反之，设P为幂等Hermite矩阵，由幂等性知
P=PR(P),N(P)，N(P)=R(I-P) 对任意 Px与(I-P)y，有
有rank(I-A)=n-rankA，使得dimR(I-A)=n-dimR(A)=dimN(A)，即
得N(A)=R(I-A)。
4
4.定理：P为投影矩阵的充要条件是P为幂等矩阵
证：设P=PL,M为投影矩阵，则对任意xCn有 P2L,M x = PL,M (PL,M x) = PL,M y = y = PL,M x
引理 设ACn×n是幂等矩阵，则 N(A)=R(I-A)。
证：A2=A A(I-A)=O 对任意 xR(I-A)即x=(I-A)y，yCn， 必有Ax=0。故 R(I-A)N(A) dim R(I-A) dim N(A) = n-dim R(A)
即 rank(I-A) n-rankA。考虑到 I=A+(I-A) n rankA+rank(I-A)
<Px,(I-P)y>=xHPH(I-P)y=xHP(I-P)y=xH(P-P2)y=0
即得：R(P)N(P)。因此P为正交投影矩阵。
8
3. 正交投影矩阵PL的构造方法
设 dimL=r ， 则 dimL=n-r 。 在 子 空 间 L 和 L 中 分 别 取 基 底
X=(x1,…,xr)和Y=(y1,…,yn-r) 满足 XHY=Or(n--r)，于是
即 A=(XHX)-1XH ，同理可得 B=(YHY)-1YH
9
例：设L是由向量[1,2,0]T和[0,1,1]T张成的子空间，则 可求得正交投影矩阵为
1 0
X 2
0
1 1
XH
X
5 2
2 2
,
XHX
1 1 2 6 2
2
5
ห้องสมุดไป่ตู้
2 2 2
PL X
XHX
1
XH
1 6
2
5
1
2 1 5
10
三、正交投影原理及其应用
1.正交投影原理 令M是向量空间H的子空间，如果对于H中的 向量 x，在M中有一向量x，使得x-x正交于M中的所有向量y， 即(x-x,y)=0，则||x-x||||x-y||对于所有向量yM都成立，并且 等号仅当y= x时成立。
证：||x-y||2=||x-x+x-y||2=||x-x||2+2(x-x, x-y)+||x-y||2，故(x-x, x-y)=0 使得||x-x||2||x-x||2+||x-y||2=||x-y||2并且等号仅当 y=x 时成立。
2.x=PMx为x在M的投影，x-PMx为x在M的投影。 3.W-H方程：使用线性滤波d=(h,x)从观测随机向量x估计希望
信号d，则由(d-(h,x), x)=0有W-H方程rdx=Rxxh，其中互相关 向量rdx= (d,x)=E(d,x)，自相关矩阵Rxx=E(xxT) 。
11
四.子空间分析
1.观测空间：观测x=信号s+噪声n，其中s与n不相关，观测 矩阵X=信号矩阵S+噪声矩阵N =(x1,…,xn)，观测空间 Span(X)=Span{x1,…,xn}