(正交)投影

投影

变换P是在线m上的正交投影。

在线性代数和泛函分析中，投影是从向量空间映射到自身的一种线性变换，是日常生活中“平行投影”概念的形式化和一般化。同现实中阳光将事物投影到地面上一样，投影变换将整个向量空间映射到一个它的一个子空间，并且在这个子空间中是恒等变换[1]。

定义

投影的严格定义是：一个从向量空间V射到它自身的线性变换P是投影，当且仅当。另外一个定义则较为直观：P是投影，当且仅当存在V的一个子空间W，使得P将所有V中的元素都映射到W 中，而且P在W上是恒等变换。用数学的语言描述，就是：，使得，并且

简单例子

在现实生活中，阳光在地面上留下各种影子。这就是投影变换最直白的例子。可以理想化地假设阳光都是沿着同一个方向（比如说垂直于地面的角度）照射而来，大地是严格的平面，那么，对于任意一个物体（比如说一只正在飞行的鸟），它的位置可以用向量 (x, y, z) 来表示，而这只鸟在阳光下对应着一个影子，也就是 (x, y, 0)。这样的一个变换就是一个投影变换。它将三维空间中的向量 (x, y, z) 到映射到向量 (x, y, 0) 。这是在x-y平面上的投影。这个变换可以用矩阵表示为

因为对任意一个向量 (x, y, z) ，这个矩阵的作用是：

注意到如果一个向量原来就是表示地面上的一点的话（也就是说它的z分量等于0），那么经过变换P后不会有改变。也就是说这个变换在子空间x-y平面上是恒等变换，这证明了P的确是一个投影。另外，

所以P = P2，这也证明P的确是投影。

基本性质

变换T是沿着k方向到直线m上的投影。T的像空间是m而零空间是k。

这里假定投影所在的向量空间V是有限维的（因此不需要考虑如投影的连续性之类的问题）。假设子空间U与W分别为P的像空间与零空间（也叫做核）。那么按照定义，有如下的基本性质:

1.P在像空间U上是恒等变换：

2.整个向量空间可以分解成子空间U与W的直和：。

也就是说，空间里的每一个向量，都可以以唯一的方式写成两个向量与的和：，并且满足、。事

实上，每一个向量都可以写成。显然在像空间中，而另一方面

，所以在零空间中。

用抽象代数的术语来说，投影P是幂等的线性变换（P2 = P）。因此它的极小多项式是。因式分解后可以看到，这个多项式只有相异的单根（没有多重根），因此P是可对角化矩阵。极小多项式也显示出了投影的特性: 像空间与零空间分别是是对应于特征值1和0的特征空间，并给出了整个空间的一个直和分解。正如日常生活中阳光沿着一定的方向将影子投射到地面上，一般的投影变换也可以称为是沿着W到U上的投影。由于向量空间分解成直和的方式一般不是唯一的（阳光可以顺着不同的方向照射），给定一个子空间V（地面），一般的说有很多到V的投影（沿不同的W）。

正交投影

如果向量空间被赋予了内积，那么就可以定义正交和其它相关的概念(比如线性算子的自伴随性)了。在内积空间（赋予了内积的向量空间）中，有正交投影的概念。具体来说，正交投影是指像空间U和零空间W相互正交子空间的投影。也就是说，任意，，它们的内积都等于0。一个投影是正交投影，当且仅当它是自伴随的变换，这意味着正交投影的矩阵有特殊的性质。如果投影是在实向量空间中，那么它对应的矩阵是对称矩阵: 。如果投影是在虚

向量空间中，那么它的矩阵则是埃尔米特矩阵:。实际上，如果投影是自伴算子，那么

（表示的伴随算子）

所以是正交投影。反过来如果是正交投影，那么

，

然而，所以

鉴于是任取的，必然有。所以是一个自伴算子，因此也是自伴算子。

例子

正交投影的最简单的情况是到（过原点）直线上的正交投影。如果u 是这条直线的单位方向向量，则投影给出为

这个算子保留u不变（），并且它作用在所有正交于u的向量上都是0（如果，那么

），证明它的确是到包含u的直线上的正交投影[2]。

这个公式可以推广至到在任意维的子空间上的正交投影。设u1, …, u k是子空间U的一组正交基，并设A为一个n×k的矩阵，它的列向量是u1, …, u k。那么投影：

[3]

也是正交的。矩阵A T是在U的正交补变为零的偏等距同构，而A 是把U嵌入底层向量空间的等距同构。P A的值域因此是A的“终空间”(final space)。A T A是在U上的恒等算子也是明显的。

正交条件也可以去除。如果u1, …, u k是(不必须正交)基，而A是有这些向量作为列的矩阵，则投影是

。[4]

矩阵A T仍把U嵌入到低层向量空间中但一般不再是等距的。矩阵(A T A)−1是恢复规范的“规范化因子”。例如，秩-1 算子uu T不是投影，如果 ||u|| ≠ 1。在除以u T u= \|u\|2之后，我们得获得了到u所生成的子空间的投影u(u T u)−1u T。

所有这些公式对于复数内积空间也成立，假如用共轭转置替代转置。