内积空间中的正交与投影
内积空间中正交和投影
则有 x x0 M
定理 2.3.8 设 M 是希尔伯特空间 X 的线性闭子空间， 则 X 中的元素 x 在 M 中存在唯一的正交投影 x0 ，即有
x x0 y ， x0 M ， y M
定义232正交补中所有与m正交的矢量组成之集合定理233勾股定理若为内积空间232正交投影定义234正交投影设上的正交投影上式也称作x的正交分解
⑶ 若对 x M 和 y N 都有 x, y 0 ，则称 M 与 N 正交，记作 M N ；
⑷ 设 X 为线性空间， M , N 是 X 的两个子空间， 且 M N 。若对于某个 x X 可唯一地表示成
x yz， yM ， zN
则称 X 为 M , N 的正交和，并表示成 X M N 。
定 义 2.3.2 （ 正 交 补 ） 设 X 为 内 积 空 间 ， M X ，称 X 中所有与 M 正交的矢量组成之集合 为 M 的正交补，记作 M ，即
M x x X, x M
定理 2.3.3（勾股定理）若 x1, x2 ,L , xn 为内积
空间 X 中彼此正交的矢量组，则有
n
2
n
xk
xk 2
k 1
k 1
2.3.2 正交投影 定义 2.3.4（正交投影）设 M 为内积空间 X 的线
性子空间， x X ，如果 x0 M ， y M ，使得
x x0 y
则称 x0 是 x 在 M 上的正交投影，上式也称作 x 的正交
分解。
定理 2.3.5（正交投影的唯一性）设 M 为内积空间 X 的线性 子空间， x X ，若 x 在 M 上有正交投影，则该投影是唯一的。
引理 2.3.6 若 M 是希尔伯特空间 X 的一个线性闭子空间， x X ，定义 x 到 M 的距离为
第3讲 实内积空间汇总
第3讲 实内积空间内容：1. 实内积空间2. 正交基及正交补与正交投影3. 内积空间的同构4. 正交变换与对称变换在线性空间中，元素（向量）之间的运算仅限于元素（向量）的线性运算．但是，如果以向量作为线性空间的一个模型，则会发现向量的度量(即长度)与向量间的位置关系在线性空间的理论中没有得到反映，而这些性质在许多实际问题中却是很关键的．因此，将在抽象的线性空间中引进内积运算，导出内积空间，并讨论正交变换与正交矩阵及对称变换与对称矩阵．§1 内积空间在解析几何中，向量的长度与夹角等度量性质都可以通过向量的数量积来表示，而向量的数量积具有以下的代数性质：对称性),(),(αββα=；可加性 ),(),(),(γβγαγβα+=+；齐次性R k k k ∈∀=),,(),(βαβα；非负性0),(≥αα，当且仅当0=α时,0),(=αα．以数量积为基础,向量的长度与夹角可表示为： ),(ααα=，βαβαβα⋅>=<),(,cos ．可见数量积的概念蕴涵着长度与夹角的概念，将该概念推广至抽象的线性空间．定义1.1 设V 是实线性空间，若对于V 中任意两个元素（向量）α和β，总能对应唯一的实数，记作),(βα，且满足以下的性质：(1) 对称性 ),(),(αββα=(2) 可加性 ),(),(),(γβγαγβα+=+(3) 齐次性 R k k k ∈∀=),,(),(βαβα(4) 非负性 0),(≥αα，当且仅当0=α时，0),(=αα． 则称该实数是V 中向量α和β的内积．称内积为实数的实线性空间V 为欧几里得(Euclid)空间，简称为欧氏空间．称定义了内积的线性空间为内积空间．例 1.1 在n 维向量空间n R 中,任意两个向量：T n x x x ),,,(21 =α，T n y y y ),,,(21 =β，若规定：βαβαT nk k k n n y x y x y x y x ==+++=∑=12211),( ，则容易验证,这符合内积的定义，是n R 中向量α和β的内积．另外，若规定:∑==nk k k y kx 1),(βα，0>k ，同样可验证，这也是n R 中向量α和β的内积．由此可见，在同一个实线性空间的元素之间，可以定义不同的内积，即内积不是唯一的．从而，同一个实线性空间在不同内积下构成不同的欧氏空间．例 1.2 在[]b a ,上连续的实函数的实线性空间[]b a C ,中，对任意函数[]b a C x g x f ,)(),(∈，定义：⎰=ba dx x g x f g f )()(),(，则可以证明这是[]b a C ,上)(x f 与)(x g 的一种内积．欧氏空间V 中的内积具有如下的性质：(1) V o o ∈∀==ααα,0),(),((2) R k V k k ∈∀∈∀=,,),,(),(βαβαβα(3) V ∈∀+=+γβαγαβαγβα,,),,(),(),((4) ),(),(1111∑∑∑∑=====n j ni j i j i n i n j j j i i y x l k y l x k事实上，由定义1.1有：0),(0),0(),(===αβαβαo ；),(),(),(),(βααβαββαk k k k ===；),(),(),(),(),(),(γαβααγαβαγβγβα+=+=+=+；因此,性质(1)至(3)成立，再结合数学归纳法容易验证性质(4)也成立．定义1.2 设α是欧氏空间V 中的任一元素（向量），则非负实数),(αα称为元素（向量）α的长度或模，记作α．称长度为1的元素（向量）称为单位元素（向量），零元素（向量）的长度为0．由定义1.2易知，元素（向量）的长度具有下列性质： (1) V R k k k ∈∀∈∀⋅=ααα,,(2) 当o ≠α时,,11=αα即αα1是一个单位元素（向量）．通常称此为把非零元素（向量）α单位化．定理1.1 (Cauchy-Schwarz 不等式)． 设βα,是欧氏空间V 中的任意两个元素（向量），则不等式βαβα⋅≤),(，对V ∈∀βα,均成立，并且当且仅当α与β线性相关时，等号成立．证明：当α与β至少有一个是零元素（向量）时，结论显然成立．现在设βα,均为非零元素（向量），则)),(),(,),(),((ββββααββββαα--[]0),(),(),(2≥-=βββααα， 因此有[]),(),(),(2ββααβα≤， 即βαβα⋅≤),(．而且当且仅当ββββαα),(),(=，即α与β线性相关时，等号成立．定义1.3 设x 与y 是欧氏空间V 中的任意两个元素（向量），则称yx y x ),(arccos =θ为x 与y 的夹角，记作,,><y x 即 ),0(,),(arccos ,πθ≤><≤=>=<y x yx y x y x ． 例 1.3 试证明欧氏空间V 中成立三角不等式V y x y x y x ∈∀+≤+,,．证明 因),(2y x y x y x ++=+),(),(2),(y y y x x x ++=，由Schwarz Cauchy -不等式，有 222222)(2),(2y x y y x x y y x x y x +=++≤++=+， 即有 y x y x +≤+ ．§2 正交基及正交补与正交投影1 正交基定义 2.1 设y x ,是欧氏空间V 中的任意两个元素（向量），如果0),(=y x ，则称元素（向量）x 与y 正交，记作.y x ⊥．由定义2.1易知，零元素（向量）与任何元素（向量）均正交．若,o x ≠由于,0),(>x x 所以非零元素（向量）不会与自身正交，即只有零元素（向量）才与自己正交．例 2.1 在2R 中,对于任意两个向量x 与y 的内积，定义：(1)y x y x T =1),(；(2) Ay x y x T =),(，其中⎥⎦⎤⎢⎣⎡=2111A ．由此所得的两个欧氏空间分别记为21R 与22R ，试判断向量T x )1,1(0=与T y )1,1(0-=在21R 与22R 中是否正交？解 由于 011)1,1(),(100=⎪⎪⎭⎫⎝⎛-=y x ；01112111)1,1(),(200≠=⎪⎪⎭⎫ ⎝⎛-⎥⎦⎤⎢⎣⎡=y x ． 故向量x 与y 在21R 中正交,在22R 中不正交．说明：两元素（向量）正交与否由所在空间的内积确定． 此外，在欧氏空间V 中也有勾股定理，即当y x ⊥时,有 222y x y x +=+.可将其推广至多个元素（向量），即当m ααα,,,21 两两正交时，有22221221m m αααααα+++=+++ ．定义2.2 欧氏空间V 中一组非零元素（向量），若两两正交，则称其为一个正交元素（向量）组．定理 2.1 若m ααα,,,21 是欧氏空间V 中一个正交元素（向量）组，则m ααα,,,21 线性无关．证明 设有一组数m k k k ,,,21 ,使o k k k m m =+++ααα 2211，在上式两边分别用),2,1(m i i =α作内积，可得),,2,1(,0),(),(),(21m i k k k i m m i i ==+++αααααα， 由于j i ≠时,0),(=j i αα故可得),,2,1(0),(m i k i i i ==αα，又 0≠i α时, 0),(>i i αα, 从而有),2,1(0m i k i ==，所以m ααα,,,21 线性无关．推论：在n 维欧氏空间中，正交元素（向量）组所含元素（向量）的个数不会超过n 个．定义2.3 在n 维欧氏空间V 中，由n 个元素（向量）构成的正交元素（向量）组称为V 的正交基；由单位元素（向量）组成的正交基叫作标准正交基．定理 2.2 (Schmidt 正交化方法) 设n ααα,,,21 是n 维欧氏空间V 的任意一个基，则总可将其进行适当运算后化为V 的一个正交基，进而将其化为一个标准正交基．证明 因为m ααα,,,21 线性无关，所以),,2,1(0n i i =≠α． 首先, 取11αβ=；其次, 令1111222),(),(ββββααβ-=，则可得两个正交元素（向量）21,ββ；再次, 令222231111333),(),(),(),(ββββαββββααβ--=，则得到三个正交元素（向量）.,,321βββ依此进行下去，一般有),,3,2(),(),(),(),(),(),(111122221111n i i i i i i i i i i =----=----ββββαββββαββββααβ 这样得到V 的一个正交基．再将其单位化，令 ),,2,1(1n i i i i ==ββγ，则可得V 的一组标准正交基n γγγ,,,21 ．例2.1 在4R 中,将基T )0,0,1,1(1=α,T )0,1,0,1(2=α,T )1,0,0,1(3-=α, T )1,1,1,1(4--=α,用Schmidt 正交化方法化为标准正交基．解 先正交化令 ;)0,0,1,1(11T ==αβ ;)0,1,21,21(),(),(1111222T -=-=ββββααβ ;)1,31,31,31(),(),(),(),(222231111333T -=--=ββββαββββααβ T )1,1,1,1(),(),(),(),(),(),(33334222241111444--=---=ββββαββββαββββααβ 再单位化令 T )0,0,21,21(1111==ββγ T)0,62,61,61(1222-==ββγ T )123,121,121,121(1333-==ββγ T )21,21,21,21(1444--==ββγ则 4321,,,γγγγ 就是所要求的标准正交基．例2.2 设n εεε,,,21 是n 维欧氏空间V 的一个标准正交基， n n x x x x εεε+++= 2211，n n y y y y εεε++= 2211，则有),(),(11∑∑===n j j j n i i i y x y x εε∑==n i ii y x 1．在标准正交基下，V 中任意两个元素（向量）的内积等于它们对应坐标的乘积之和．定义2.4 设n εεε,,,21 是n 维欧氏空间V 的一个基，x ，y 在其基下的坐标表示分别为T n x x x x ),,,(21 =，T n y y y y ),,,(21 =，（∑==n i i i x x 1ε，∑==n i i i y y 1ε），则有Gy x y g x y x y x y x T j nj i ij i j j n j i i i n j j j n i i i ====∑∑∑∑======111111),(),(),(εεεε．其中，)(ij g G G =为n 阶方阵，n j i g j i ij ,,2,1,),,( ==εε．称G 为度量矩阵，它为对称可逆矩阵．2 正交补与正交投影定义 2.5 设1W 和2W 是欧氏空间V 的两个子空间，若对任意的21,W y W x ∈∈总有0),(=y x 成立，则称1W 与2W 正交，记作21W W ⊥.若对某个确定的x 及任意的W y ∈，总有0),(=y x 成立，则称x 与W 正交，记作x W ⊥．例 2.3 设{}R y x y x W ∈=,)0,,(1,{}R z z W ∈=),0,0(2 ,则容易得1W 和2W 均为3R 的子空间,且 12W W ⊥．定理2.3 设s W W W ,,,21 是欧氏空间V 的子空间，且两两正交，则s W W W +++ 21是直和．证明 设),,2,1(s i W i i =∈α且 o s =+++ααα 21,分别用iα在上式两边作内积，得0),(=i i αα,即),,2,1(s i oi ==α,即s W W W +++ 21是直和．定义 2.6 设1W 和2W 是欧氏空间V 的两个子空间，若21W W ⊥，且V W W =+21，则称1W 与2W 互为正交补，记作⊥=21W W 或12W W V ⊕=． 定理 2.4 欧氏空间V 的任一个子空间W ，都存在唯一的正交补W ⊥．证明 先证存在性．设m εεε,,,21 是子空间W 的一个标准正交基，则可以扩充为V 的一个标准正交基：n m m εεεεε,,,,,1,21 +，显然：),,(1n m L W εε +⊥=．再证唯一性．设1W 与2W 都是W 的正交补，则1W W V ⊕=，2W W V ⊕=，令任意的o x W x ≠∈,2,则 W x ∉,且W y y x ∈∀=,0),(,所以1W x ∈ ,即12W W ⊂．同理有 21W W ⊂.因此得 12W W =．定理2.4既证明了欧氏空间中任意子空间的正交补是存在且唯一的，又给出了正交补的计算方法．另外，V 中的任一向量x 都可唯一地分解为⊥∈∈+=W z W y z y x ,,．由此可引进正投影的概念．定义2.7 设x 是欧氏空间V 中任意的一个元素（向量），W 是V 的一个子空间，且x 被分解为.,,⊥∈∈+=W z W y z y x ,则称y 元素（向量）为x 元素（向量）在子空间W 上的正投影(又称内投影)．显然W W =⊥⊥)(，故z 为元素（向量）x 在⊥W 上的正投影．例2.4 设 {}R x x W ∈=)0,0,(,则W 是3R 的一个子空间，且它的正交补为{}R z y z y W ∈=⊥,),,0(.若3),,(R c b a ∈=α,α在W 上的正投影为)0,0,(a ,在⊥W 上的正投影为),,0(c b .§3 实内积空间的同构定义3.1 设V 与U 是两个欧氏空间,若存在V 到U 的一个一一对应σ,使(1) U V ∈∈∀+=+)(),(;,),()()(βσασβαβσασβασ(2) U k R k V k k ∈∈∀∈∀=)(;,),()(ασαασασ(3) U V ∈∈∀=)(),(;,),,())(),((βσασβαβαβσασ则称σ为V 到U 的一个同构映射，并称欧氏空间V 与U 同构．同构作为欧氏空间的关系与线性空间的同构相同，因此有：同构的有限维欧氏空间必有相同的维数；任意一个n 维欧氏空间均与n R 同构．此外，欧氏空间的同构还具有以下性质：反身性:任意一个欧氏空间V 均与自己同构；对称性:若V 与V '同构,则V '与V 同构；传递性:若V 与V '同构, V '与V ''同构,则V 与V ''同构．事实上，(1) V 到V 的恒等映射是一个同构映射；(2)设σ是V 到V '的同构映射，记1-σ为σ的逆映射，则对V ∈∀βα,有βαβασσβσασσ+=+=+--))(())()((11))(())((11βσσασσ--+=， ))(())(())((111ασσαασσασσ---===k k k k ，))(),((),()))(()),(((11βσασβαβσσασσ==--，即1-σ是V '到V 的一个同构映射．(3) 传递性的证明留作习题．§4 正交变换与对称变换1 正交变换与正交矩阵定义 4.1 设V 是一个欧氏空间,σ是V 上的线性变换，如果对任意的元素（向量）V ∈βα,,均有),())(),((βαβσασ=成立,则称σ是V 上的一个正交变换．例如，恒等变换是一个正交变换，坐标平面上的旋转变换也是一个正交变换．正交变换可以从以下几个方面来刻画．定理4.1 设σ是欧氏空间V 上的一个线性变换，则下列命题是等价的：(1) σ是一个正交变换；(2) 保持元素（向量）的长度不变,即对任意的V ∈α,有αασ=)(；(3) V 中的任意一个标准正交基在下的象仍是一个标准正交基；(4) 在任一个标准正交基下的矩阵是正交矩阵，即E A A AA T T ==．证明 采用循环证法。
5_内积空间与希尔伯特空间(讲稿)
其中的投影定理是一个理论和应用上都极其重要的定理，利用投影
定理可以将内积空间分解成两个字空间的正交和。这是内积看所特
有的性质，这个定理在一般的巴拿赫空间中并不成立（因为巴拿赫
空间中没有正交性的概念）。在实际应用中，投影定理还常被用来
判定最佳逼近的存在性和唯一性。
机动 目录 上页 下页 返回 结束
第12页
定理14 (投影定理) 设M是希尔伯特空间H的闭线性子空间,则对
xH在M中存在唯一的正交投影x0, 使得
x =x0+x1
(其中x1M).
证 xH, 令x到M的距离
{yn}M, 使得||yn-x||d (n) (下确界定义)
机动 目录 上页 下页 返回 结束
1) 证明 {yn}是基本列 M是H的线性子空间ym,ynM,有
(2) 距离函数 (x, y) x y x y, x y 称为由内积诱导的距离。
注: (1) 内积与由内积诱导的范数的三角不等式关系—— 许瓦兹不等式 x, y x y . (2) 内积与由内积诱导的范数的等式关系：
x, y 1 ( x y 2 x y 2 i x iy 2 i x iy 2) 4
<·,·>:HHK, 使得：对x,y,zH,K,满足
第2页
则称<x, y>为数域K中x与y的内积,而称定义了内积的空间H为 内积空间。 注：1) 当数域K为实数域时，称H为实的内积空间；
当数域K为复数域C时，则称H为复的内积空间。
机动 目录 上页 下页 返回 结束
第3页
2 由内积诱导的范数及由内积诱导的距离 定义2 (1) 范数 x x, x 称为由内积诱导的范数。
机动 目录 上页 下页 返回 结束
第3讲 实内积空间
第3讲 实内积空间内容：1. 实内积空间2. 正交基及正交补与正交投影3. 内积空间的同构4. 正交变换与对称变换在线性空间中，元素（向量）之间的运算仅限于元素（向量）的线性运算．但是，如果以向量作为线性空间的一个模型，则会发现向量的度量(即长度)与向量间的位置关系在线性空间的理论中没有得到反映，而这些性质在许多实际问题中却是很关键的．因此，将在抽象的线性空间中引进内积运算，导出内积空间，并讨论正交变换与正交矩阵及对称变换与对称矩阵．§1 内积空间在解析几何中，向量的长度与夹角等度量性质都可以通过向量的数量积来表示，而向量的数量积具有以下的代数性质：对称性),(),(αββα=；可加性 ),(),(),(γβγαγβα+=+；齐次性R k k k ∈∀=),,(),(βαβα；非负性0),(≥αα，当且仅当0=α时,0),(=αα．以数量积为基础,向量的长度与夹角可表示为： ),(ααα=，βαβαβα⋅>=<),(,cos ．可见数量积的概念蕴涵着长度与夹角的概念，将该概念推广至抽象的线性空间．定义1.1 设V 是实线性空间，若对于V 中任意两个元素（向量）α和β，总能对应唯一的实数，记作),(βα，且满足以下的性质：(1) 对称性 ),(),(αββα=(2) 可加性 ),(),(),(γβγαγβα+=+(3) 齐次性 R k k k ∈∀=),,(),(βαβα(4) 非负性 0),(≥αα，当且仅当0=α时，0),(=αα． 则称该实数是V 中向量α和β的内积．称内积为实数的实线性空间V 为欧几里得(Euclid)空间，简称为欧氏空间．称定义了内积的线性空间为内积空间．例 1.1 在n 维向量空间n R 中,任意两个向量：T n x x x ),,,(21 =α，T n y y y ),,,(21 =β，若规定：βαβαT nk k k n n y x y x y x y x ==+++=∑=12211),( ，则容易验证,这符合内积的定义，是n R 中向量α和β的内积．另外，若规定:∑==nk k k y kx 1),(βα，0>k ，同样可验证，这也是n R 中向量α和β的内积．由此可见，在同一个实线性空间的元素之间，可以定义不同的内积，即内积不是唯一的．从而，同一个实线性空间在不同内积下构成不同的欧氏空间．例 1.2 在[]b a ,上连续的实函数的实线性空间[]b a C ,中，对任意函数[]b a C x g x f ,)(),(∈，定义：⎰=ba dx x g x f g f )()(),(，则可以证明这是[]b a C ,上)(x f 与)(x g 的一种内积．欧氏空间V 中的内积具有如下的性质：(1) V o o ∈∀==ααα,0),(),((2) R k V k k ∈∀∈∀=,,),,(),(βαβαβα(3) V ∈∀+=+γβαγαβαγβα,,),,(),(),((4) ),(),(1111∑∑∑∑=====n j ni j i j i n i n j j j i i y x l k y l x k事实上，由定义1.1有：0),(0),0(),(===αβαβαo ；),(),(),(),(βααβαββαk k k k ===；),(),(),(),(),(),(γαβααγαβαγβγβα+=+=+=+；因此,性质(1)至(3)成立，再结合数学归纳法容易验证性质(4)也成立．定义1.2 设α是欧氏空间V 中的任一元素（向量），则非负实数),(αα称为元素（向量）α的长度或模，记作α．称长度为1的元素（向量）称为单位元素（向量），零元素（向量）的长度为0．由定义1.2易知，元素（向量）的长度具有下列性质： (1) V R k k k ∈∀∈∀⋅=ααα,,(2) 当o ≠α时,,11=αα即αα1是一个单位元素（向量）．通常称此为把非零元素（向量）α单位化．定理1.1 (Cauchy-Schwarz 不等式)． 设βα,是欧氏空间V 中的任意两个元素（向量），则不等式βαβα⋅≤),(，对V ∈∀βα,均成立，并且当且仅当α与β线性相关时，等号成立．证明：当α与β至少有一个是零元素（向量）时，结论显然成立．现在设βα,均为非零元素（向量），则)),(),(,),(),((ββββααββββαα--[]0),(),(),(2≥-=βββααα， 因此有[]),(),(),(2ββααβα≤， 即βαβα⋅≤),(．而且当且仅当ββββαα),(),(=，即α与β线性相关时，等号成立．定义1.3 设x 与y 是欧氏空间V 中的任意两个元素（向量），则称yx y x ),(arccos =θ为x 与y 的夹角，记作,,><y x 即 ),0(,),(arccos ,πθ≤><≤=>=<y x yx y x y x ． 例 1.3 试证明欧氏空间V 中成立三角不等式V y x y x y x ∈∀+≤+,,．证明 因),(2y x y x y x ++=+),(),(2),(y y y x x x ++=，由Schwarz Cauchy -不等式，有 222222)(2),(2y x y y x x y y x x y x +=++≤++=+， 即有 y x y x +≤+ ．§2 正交基及正交补与正交投影1 正交基定义 2.1 设y x ,是欧氏空间V 中的任意两个元素（向量），如果0),(=y x ，则称元素（向量）x 与y 正交，记作.y x ⊥．由定义2.1易知，零元素（向量）与任何元素（向量）均正交．若,o x ≠由于,0),(>x x 所以非零元素（向量）不会与自身正交，即只有零元素（向量）才与自己正交．例 2.1 在2R 中,对于任意两个向量x 与y 的内积，定义：(1)y x y x T =1),(；(2) Ay x y x T =),(，其中⎥⎦⎤⎢⎣⎡=2111A ．由此所得的两个欧氏空间分别记为21R 与22R ，试判断向量T x )1,1(0=与T y )1,1(0-=在21R 与22R 中是否正交？解 由于 011)1,1(),(100=⎪⎪⎭⎫⎝⎛-=y x ；01112111)1,1(),(200≠=⎪⎪⎭⎫ ⎝⎛-⎥⎦⎤⎢⎣⎡=y x ． 故向量x 与y 在21R 中正交,在22R 中不正交．说明：两元素（向量）正交与否由所在空间的内积确定． 此外，在欧氏空间V 中也有勾股定理，即当y x ⊥时,有 222y x y x +=+.可将其推广至多个元素（向量），即当m ααα,,,21 两两正交时，有22221221m m αααααα+++=+++ ．定义2.2 欧氏空间V 中一组非零元素（向量），若两两正交，则称其为一个正交元素（向量）组．定理 2.1 若m ααα,,,21 是欧氏空间V 中一个正交元素（向量）组，则m ααα,,,21 线性无关．证明 设有一组数m k k k ,,,21 ,使o k k k m m =+++ααα 2211，在上式两边分别用),2,1(m i i =α作内积，可得),,2,1(,0),(),(),(21m i k k k i m m i i ==+++αααααα， 由于j i ≠时,0),(=j i αα故可得),,2,1(0),(m i k i i i ==αα，又 0≠i α时, 0),(>i i αα, 从而有),2,1(0m i k i ==，所以m ααα,,,21 线性无关．推论：在n 维欧氏空间中，正交元素（向量）组所含元素（向量）的个数不会超过n 个．定义2.3 在n 维欧氏空间V 中，由n 个元素（向量）构成的正交元素（向量）组称为V 的正交基；由单位元素（向量）组成的正交基叫作标准正交基．定理 2.2 (Schmidt 正交化方法) 设n ααα,,,21 是n 维欧氏空间V 的任意一个基，则总可将其进行适当运算后化为V 的一个正交基，进而将其化为一个标准正交基．证明 因为m ααα,,,21 线性无关，所以),,2,1(0n i i =≠α． 首先, 取11αβ=；其次, 令1111222),(),(ββββααβ-=，则可得两个正交元素（向量）21,ββ；再次, 令222231111333),(),(),(),(ββββαββββααβ--=，则得到三个正交元素（向量）.,,321βββ依此进行下去，一般有),,3,2(),(),(),(),(),(),(111122221111n i i i i i i i i i i =----=----ββββαββββαββββααβ 这样得到V 的一个正交基．再将其单位化，令 ),,2,1(1n i i i i ==ββγ，则可得V 的一组标准正交基n γγγ,,,21 ．例2.1 在4R 中,将基T )0,0,1,1(1=α,T )0,1,0,1(2=α,T )1,0,0,1(3-=α, T )1,1,1,1(4--=α,用Schmidt 正交化方法化为标准正交基．解 先正交化令 ;)0,0,1,1(11T ==αβ ;)0,1,21,21(),(),(1111222T -=-=ββββααβ ;)1,31,31,31(),(),(),(),(222231111333T -=--=ββββαββββααβ T )1,1,1,1(),(),(),(),(),(),(33334222241111444--=---=ββββαββββαββββααβ 再单位化令 T )0,0,21,21(1111==ββγ T)0,62,61,61(1222-==ββγ T )123,121,121,121(1333-==ββγ T )21,21,21,21(1444--==ββγ则 4321,,,γγγγ 就是所要求的标准正交基．例2.2 设n εεε,,,21 是n 维欧氏空间V 的一个标准正交基， n n x x x x εεε+++= 2211，n n y y y y εεε++= 2211，则有),(),(11∑∑===n j j j n i i i y x y x εε∑==n i ii y x 1．在标准正交基下，V 中任意两个元素（向量）的内积等于它们对应坐标的乘积之和．定义2.4 设n εεε,,,21 是n 维欧氏空间V 的一个基，x ，y 在其基下的坐标表示分别为T n x x x x ),,,(21 =，T n y y y y ),,,(21 =，（∑==n i i i x x 1ε，∑==n i i i y y 1ε），则有Gy x y g x y x y x y x T j nj i ij i j j n j i i i n j j j n i i i ====∑∑∑∑======111111),(),(),(εεεε．其中，)(ij g G G =为n 阶方阵，n j i g j i ij ,,2,1,),,( ==εε．称G 为度量矩阵，它为对称可逆矩阵．2 正交补与正交投影定义 2.5 设1W 和2W 是欧氏空间V 的两个子空间，若对任意的21,W y W x ∈∈总有0),(=y x 成立，则称1W 与2W 正交，记作21W W ⊥.若对某个确定的x 及任意的W y ∈，总有0),(=y x 成立，则称x 与W 正交，记作x W ⊥．例 2.3 设{}R y x y x W ∈=,)0,,(1,{}R z z W ∈=),0,0(2 ,则容易得1W 和2W 均为3R 的子空间,且 12W W ⊥．定理2.3 设s W W W ,,,21 是欧氏空间V 的子空间，且两两正交，则s W W W +++ 21是直和．证明 设),,2,1(s i W i i =∈α且 o s =+++ααα 21,分别用iα在上式两边作内积，得0),(=i i αα,即),,2,1(s i oi ==α,即s W W W +++ 21是直和．定义 2.6 设1W 和2W 是欧氏空间V 的两个子空间，若21W W ⊥，且V W W =+21，则称1W 与2W 互为正交补，记作⊥=21W W 或12W W V ⊕=． 定理 2.4 欧氏空间V 的任一个子空间W ，都存在唯一的正交补W ⊥．证明 先证存在性．设m εεε,,,21 是子空间W 的一个标准正交基，则可以扩充为V 的一个标准正交基：n m m εεεεε,,,,,1,21 +，显然：),,(1n m L W εε +⊥=．再证唯一性．设1W 与2W 都是W 的正交补，则1W W V ⊕=，2W W V ⊕=，令任意的o x W x ≠∈,2,则 W x ∉,且W y y x ∈∀=,0),(,所以1W x ∈ ,即12W W ⊂．同理有 21W W ⊂.因此得 12W W =．定理2.4既证明了欧氏空间中任意子空间的正交补是存在且唯一的，又给出了正交补的计算方法．另外，V 中的任一向量x 都可唯一地分解为⊥∈∈+=W z W y z y x ,,．由此可引进正投影的概念．定义2.7 设x 是欧氏空间V 中任意的一个元素（向量），W 是V 的一个子空间，且x 被分解为.,,⊥∈∈+=W z W y z y x ,则称y 元素（向量）为x 元素（向量）在子空间W 上的正投影(又称内投影)．显然W W =⊥⊥)(，故z 为元素（向量）x 在⊥W 上的正投影．例2.4 设 {}R x x W ∈=)0,0,(,则W 是3R 的一个子空间，且它的正交补为{}R z y z y W ∈=⊥,),,0(.若3),,(R c b a ∈=α,α在W 上的正投影为)0,0,(a ,在⊥W 上的正投影为),,0(c b .§3 实内积空间的同构定义3.1 设V 与U 是两个欧氏空间,若存在V 到U 的一个一一对应σ,使(1) U V ∈∈∀+=+)(),(;,),()()(βσασβαβσασβασ(2) U k R k V k k ∈∈∀∈∀=)(;,),()(ασαασασ(3) U V ∈∈∀=)(),(;,),,())(),((βσασβαβαβσασ则称σ为V 到U 的一个同构映射，并称欧氏空间V 与U 同构．同构作为欧氏空间的关系与线性空间的同构相同，因此有：同构的有限维欧氏空间必有相同的维数；任意一个n 维欧氏空间均与n R 同构．此外，欧氏空间的同构还具有以下性质：反身性:任意一个欧氏空间V 均与自己同构；对称性:若V 与V '同构,则V '与V 同构；传递性:若V 与V '同构, V '与V ''同构,则V 与V ''同构．事实上，(1) V 到V 的恒等映射是一个同构映射；(2)设σ是V 到V '的同构映射，记1-σ为σ的逆映射，则对V ∈∀βα,有βαβασσβσασσ+=+=+--))(())()((11))(())((11βσσασσ--+=， ))(())(())((111ασσαασσασσ---===k k k k ，))(),((),()))(()),(((11βσασβαβσσασσ==--，即1-σ是V '到V 的一个同构映射．(3) 传递性的证明留作习题．§4 正交变换与对称变换1 正交变换与正交矩阵定义 4.1 设V 是一个欧氏空间,σ是V 上的线性变换，如果对任意的元素（向量）V ∈βα,,均有),())(),((βαβσασ=成立,则称σ是V 上的一个正交变换．例如，恒等变换是一个正交变换，坐标平面上的旋转变换也是一个正交变换．正交变换可以从以下几个方面来刻画．定理4.1 设σ是欧氏空间V 上的一个线性变换，则下列命题是等价的：(1) σ是一个正交变换；(2) 保持元素（向量）的长度不变,即对任意的V ∈α,有αασ=)(；(3) V 中的任意一个标准正交基在下的象仍是一个标准正交基；(4) 在任一个标准正交基下的矩阵是正交矩阵，即E A A AA T T ==．证明 采用循环证法。
丘维声高等代数第十章2
(k) = k
因此，是 V 上的线性变换。▌ 性质 实内积空间 V 上的正交变换是 V 到自身 的同构映射。 证明 只需证明正交变换是单射：设是 V 上 的正交变换，任取 , V ，若 =，则
| |2 ( , ) ( ( ), ( )) | ( ) |2 | |2 | |2 0
所以
2 , U
从而 2 U ，由此得 1 2 U U ，即
V U U
所以 ( , ) 0 设 U U ， 则 U 且 U ， 从而 ，即U U { } 。 综上所述，V U U 。 ▌
T 1
4.326 A 1.739
T
由 X 是 () 的最小二乘解，可得
k 1.739kg / cm
于是，此弹簧的受力方程为
12
y 4.326 1.739 x
▌
推论 设 AX 是不相容线性方程组，这里
A R mn , R m 。若 rank( A ) = n，则此方程组有
AX AX ( AX , AX ) 0 ( AX )T AX 0 ( AX )T A 0 AT ( AX ) 0
AT AX AT
故 X 应为线性方程组
AT AX AT
③
的解。 可以证明 对任意 A R mn , R m ，线性方
1
( 2 , j ) ( 1 , j ) ( , j ) (1 , j ) ( , j ) ( , 1 )( 1 , j ) ( , m )( m , j ) ( , j ) ( , j )( j , j ) ( , j ) ( , j ) 0
泛函分析第4章内积空间
泛函分析第4章内积空间第四章介绍的是内积空间，是泛函分析中非常重要的一个概念。
内积空间是在向量空间上赋予了内积运算的结构，它将几何空间的概念引入到向量空间中，从而使得我们能够定义向量的长度、角度等几何概念。
在内积空间中，我们首先需要定义内积的概念。
内积是一个数学结构，它将两个向量映射到一个实数上。
在内积空间中，内积满足一系列性质，如线性性、对称性和正定性等，这些性质保证了内积的合理性和实用性。
比如，线性性保证了内积对于向量的加法和标量乘法是线性的，对称性保证了内积的对换性质。
通过内积，我们能够定义向量的长度和角度。
向量的长度可以通过内积定义一个标准，即向量与自身的内积的平方根。
这个定义与我们熟悉的欧氏几何空间中的向量长度一致。
而向量的角度可以通过内积定义出余弦值，从而表示两个向量之间的夹角。
这个定义使得我们能够对向量的方向进行描述。
内积空间还引入了正交的概念。
在内积空间中，两个向量相互垂直时称为正交。
正交向量在几何空间中有很重要的应用，比如可以作为一组基底，并且正交向量之间的内积为零，这使得我们能够对向量进行分解和投影等操作。
内积空间还引入了内积的连续性概念。
通过内积的连续性，我们可以定义向量的极限、收敛等概念。
这使得内积空间成为了一个完备的空间，即任何一个柯西序列都存在一个极限。
内积空间是泛函分析中非常有用的一个概念。
它不仅能够将几何概念应用到向量空间中，还能够定义向量的长度和角度等概念，从而使得向量空间具有了更强的几何性质。
在泛函分析中，内积空间是研究函数空间、傅里叶变换等问题的基础。
因此，对于内积空间的理解和掌握是非常重要的。
总之，第四章介绍的内积空间是泛函分析中非常重要的一个概念。
它通过引入内积的概念，使得向量空间具有了几何性质，定义了向量的长度、角度等几何概念。
内积空间是泛函分析中非常有用的一个工具，对于研究函数空间、傅里叶变换等问题具有重要的意义。
因此，对于内积空间的理解和掌握是泛函分析学习的重点。
内积空间的正交基与正交投影
内积空间的正交基与正交投影内积空间是数学中一个重要的概念，它在向量空间中定义了向量之间的内积运算。
在内积空间中，有两个重要的概念：正交基和正交投影。
本文将介绍内积空间的概念，探讨正交基的性质以及正交投影的应用。
一、内积空间的定义和性质内积空间是一个向量空间，其中定义了向量间的内积运算。
一个内积空间必须满足以下条件：1. 正定性：对于任意非零向量x，有内积⟨x, x⟩大于0，并且仅当x 为零向量时等于0。
2. 线性性：对于任意向量x、y和标量a，有内积的线性性质：⟨ax + y, z⟩ = a⟨x, z⟩ + ⟨y, z⟩。
3. 对称性：对于任意向量x和y，有内积的对称性质：⟨x, y⟩ = ⟨y, x⟩。
内积空间的一个重要性质是Cauchy-Schwarz不等式，它表明对于任意向量x和y，有|⟨x, y⟩| ≤ ∥x∥∥y∥，其中∥x∥和∥y∥分别表示向量x和y的范数。
二、正交基的定义和性质在内积空间中，如果一个向量组中的向量两两正交且非零，那么这个向量组称为正交基。
正交基的一个重要性质是，内积空间中的任意向量都可以由正交基线性表示。
假设V是一个n维内积空间，{v_1, v_2, ..., v_n}是V的一个正交基，那么对于任意向量x ∈ V，可以将x表示为线性组合的形式：x =c_1v_1 + c_2v_2 + ... + c_nv_n，其中c_1, c_2, ..., c_n为常数。
三、正交投影的定义和应用正交投影是内积空间中的一个重要应用，它可以将一个向量投影到另一个向量上，得到其在后者上的正交投影。
设V是一个内积空间，W是V的一个子空间，对于任意向量x ∈V，将其正交投影到W上的向量记作Proj_W(x)。
那么Proj_W(x)满足以下两个条件：1. Proj_W(x) ∈ W，即正交投影的结果在子空间W中。
2. 向量x - Proj_W(x)与W上的所有向量正交，即内积⟨x -Proj_W(x), w⟩ = 0，对于任意w ∈ W成立。
矩阵论第2章内积空间综述
(2) , V , x11 x2 2 xnn ; y11 y2 2 yn n ;
y1
则
n
,
i 1
n
xi y j i , j
j 1
x1,
x2
,,
xn
A
y2
xT
Ay
yn
即抽象的向量的内积可通过他们在基下的坐标及度量矩阵 的双线性函数来计算。
定理2：设 1,2,与,n 1为,2n,维,欧n 氏空间V的基，它们 的度量矩阵为A和B，，C是1,2,到,n 1,的2 ,过,渡n 矩阵，则 B CT AC （证明详见P26-27） 即同一欧氏空间不同基的度量矩阵是相合矩阵。
A
0
2 3
0
2
3
0
2
5
（2）求 f (x) 1与x x2 g(x的) 内1积4。x 5x2
方法一：利用定义，直接计算
f
( x),
g(x)
1
1
f
(x)g(x)dx
方法二：利用基的度量矩阵及向量在基下的坐标可求两 个向量的内积。
f (x), g(x) 在基1，x,x2的坐标分别为 (1,1,1)T , (1,4,5)T ,
例5 设欧氏空间 P[x]3中的内积为 f (x), g(x)
1
f (x)g(x)dx
1
（1）求基1，x,x2的度量矩阵；
（2）求 f (x) 1与x x2 g(x的) 内1积4。x 5x2
解：设基1，x,x2的度量矩阵为 A (aij )33 ,
a11 (1,1)
1
11dx
2
矩阵，则 B CH AC
练习P38 1;2;3
即同一酉空间不同基的度量矩阵是复相合矩阵。
投影定理
定义(4) 当X=Y+Z，且Y垂直Z时，
下面给出正交投影的概念
定义(5) 当Y是Hilbert空间X的闭子空间时,对每个 xX, 存在唯一的 yY及 zY ,使 xyz .称y为x在空间Y
上的正交投影,简称为投影.
投影定理
主要定义:
定义(1)设X是线性空间, x,y 是X中的两点, 称集合
z x ( 1 ) y |0 1
为X中连接x和y的线段,记为[x,y].如果M是X的子集,对 M中的任何两点x,y,必有[x,y],则称M为X中的凸集.
定义(2)设X是内积空间,则
x,yX, xyx,y0
当今，落地式铣镗床发展的最大特点是 向高速 铣削发 展，均 为滑枕 式(无 镗轴)结 构，并 配备各 种不同 工艺性 能的铣 头附件 。该结 构的优 点是滑 枕的截 面大， 刚性好 ，行程 长，移 动速度 快，便 于安装 各种功 能附件 ，主要 是高速 镗、铣 头、两 坐标
双摆角铣头等，将落地铣镗床的工艺 性能及 加工范 围达到 极致， 大大提 高了加 工速度 与效率 。
卧式镗铣床运行速度越来越高，快速 移动速 度达
到25～30m/min，镗杆 最高转 速6000r/min。 而卧式 加工中 心的速 度更高 ，快速 移动高 达50m/min， 加速度5m/s2， 位置精 度0.008～0.01m m， 重复定 位精度 0.004～ 0.005mm。
落地式铣镗床铣刀
由于落地式铣镗床以加工大型零件 为主， 铣削工 艺范围 广，尤 其是大 功率、 强力切 削是落 地铣镗 床的一 大加工 优势， 这也是 落地铣 镗床的 传统工 艺概念 。而当 代落地 铣镗床 的技术 发展， 正在改 变传统 的工艺 概念与 加工方 法，高 速加工 的工艺 概念正 在替代 传统的 重切削 概念， 以高速 、高精 、高效 带来加 工工艺 方法的 改变， 从而也 促进了 落地式 铣镗床 结构性 改变和 技术水 平的提 高。
欧氏空间内积的性质及应用
欧氏空间内积的性质及应用欧氏空间是指以欧几里德度量为基础的向量空间，其中的向量可以进行加法、数乘和内积运算。
欧氏空间内的内积是一种常见的运算，具有一些重要的性质和应用。
本文将详细介绍欧氏空间内积的性质及其应用。
一、欧氏空间内积的性质：1. 正定性：在欧氏空间中，内积满足正定性，即对于任意非零向量x，有内积⟨x,x⟨>0。
这一性质保证了内积能够给出向量的大小和方向信息，且仅当向量为零向量时，内积为0。
2. 对称性：内积是对称的，即对于任意向量x和y，有⟨x,y⟨=⟨y,x⟨。
这一性质表明内积不依赖于向量的顺序。
3. 线性性：内积具有线性性，即对于任意向量x，y和z，以及任意标量a，有⟨ax+y,z⟨=a⟨x,z⟨+⟨y,z⟨。
这一性质是内积运算的基本性质，使得内积可以方便地与向量的其他运算（如加法、数乘等）结合使用。
4. 正交性：如果两个向量的内积为0，则它们被称为正交向量。
欧氏空间中的正交向量在几何上相互垂直，且具有一些重要的性质，如正交向量的线性无关性。
正交向量在许多应用中起到关键作用，如最小二乘法和信号处理等领域。
5. 柯西-施瓦茨不等式：欧氏空间中的内积满足柯西-施瓦茨不等式，即对于任意向量x和y，有⟨x,y⟨≤∥x∥∥y∥，其中∥x∥和∥y∥分别表示向量x和y的范数。
这一不等式给出了内积和向量范数之间的关系，具有重要的几何意义。
6. 三角不等式：欧氏空间中的内积满足三角不等式，即对于任意向量x和y，有∥x+y∥≤∥x∥+∥y∥，其中∥x∥和∥y∥分别表示向量x和y的范数。
这一不等式给出了向量加法和内积之间的关系，保证了向量范数的一致性。
7. 等距性：欧氏空间中的内积具有等距性，即对于任意向量x和y，有∥x+y∥^2=∥x∥^2+2⟨x,y⟨+∥y∥^2。
这一性质可以被视为勾股定理的推广，将向量加法和内积结合在一起，描述了欧氏空间中的距离关系。
二、欧氏空间内积的应用：1. 几何：欧氏空间的内积可以用于计算向量之间的夹角和距离。
内积空间中的正交和投影
投影的性质
投影是非扩张的，即 $|mathbf{P}_{U}(mathbf{a})| leq
|mathbf{a}|$。
正交在解析几何、线性代数和物理等领域中都有广泛的应用，例如在解决物理问题、 图像处理和机器学习等领域中经常需要用到向量的正交。
02
内积空间中的投影
投影的定义
投影是将一个向量从内积空间投影到另一个子空间的过程。具体来说，给定向量$mathbf{a}$和子空间 $U$，投影$mathbf{P}_{U}(mathbf{a})$是满足$mathbf{P}_{U}(mathbf{a}) in U$且使 $mathbf{P}_{U}(mathbf{a}) perp mathbf{u}$的向量，其中$mathbf{u} in U$。
当子空间是超平面时，投影表示将向量投射到超平面 的法线方向上，使向量与超平面的距离最近。
投影在优化和机器学习中有广泛应用，例如在求解约 束优化问题时，可以将目标函数在约束条件下的解看
作是原问题解在约束子空间上的投影。
03
投影和正交的应用
在线性代数中的应用
线性子空间
投影可以将一个向量投射到指定的线性子空间上，通过计算向量的投影，可以得 到向量在子空间上的分量。
内积空间中的正交和投影的重要性
• 正交和投影是内积空间中的重要概念，它们在数学、物理和工程等领域中有着广泛的应用。正交表示两个向量相互垂直， 而投影则表示一个向量在另一个向量上的分量。这些概念在解决实际问题时非常有用，例如在信号处理、图像处理、量子 力学等领域中都有广泛的应用。
内积空间的标准正交基
( ml2 sin 2
E e2 )
4 0r
)
r2
0 ]R
0
Pn (x)
2 k 0
(1)k
(2n 2k)! 2n k!(n k)!(n
2k )!
xn2k
Pn ( x)
1 2n n!
dn dx n
(x2
1)n
为勒让德多项式的级数表示．
注意到 x cos , 故可方便地得出前几个勒让德多项式:
P0 (x) 1
P1(x) x cos
P2 (x)
k 1
定理2.4.6 若（en）是内积空间X的标准 正交系，M = Span {e1, e2, … , en }， x ∈ X，对任意的 m 维数组（ α1, α2 , … , αn）有
m
m
x kek x x,ek ek
k 1
k 1
2.4.3 内积空间的标准正交基 定义2.4.7（内积空间的完全标准正交系或 标准正交基）
x∈X，级数
m
x0 x, ei ei
i 1
是 x 在M上的正交投影。
而且有：
m
x0 2 x, ei 2
i 1
x x0 2 x 2 x0 2
定理2.4.5 若（en）是内积空间X（无穷维 的）的标准正交系， x ∈ X，则有下列贝 塞尔不等式成立：
x, ek 2 x 2
中的标准正交基，则任意的 x ∈ X 都可 以
表示为
x x, ek ek
k 1
定义（完备的） 设（en）是内积空间X 中的标准正交系，如果对于每一个x∈X，
帕塞法耳等式
x 2 x, ek 2
k 1
恒成立，则称（en）是完备的。
内积空间正交与投影
内积空间正交与投影内积空间是线性代数中的一个重要概念，它在理论和应用中都有广泛的应用。
在内积空间中，正交和投影是两个重要的概念和操作。
本文将介绍内积空间中正交和投影的概念，以及它们的性质和应用。
一、内积空间内积空间是一个定义了内积运算的线性空间。
内积是一种将向量对应到一个复数的运算，它满足线性性、对称性、正定性和共轭对称性。
内积运算可以用来衡量向量之间的夹角、长度和相似性。
在内积空间中，我们可以定义向量的正交性。
如果两个向量的内积为零，则称它们是正交的。
内积为零意味着两个向量之间没有共享的部分，它们在空间中相互垂直。
二、正交性的性质正交的向量在内积空间中具有一些重要的性质。
1. 任意向量与零向量正交：对于任意向量v，它与零向量的内积为零，即< v, 0 > = 0。
这是因为零向量不包含任何信息，与任意向量都没有共享的部分。
2. 向量与自身正交：对于任意向量v，它与自身的内积等于它的长度的平方，即< v, v > = ||v||^2。
这是因为内积可以表示向量的长度和夹角，向量与自身夹角为零。
3. 三角不等式：对于任意两个向量v和w，它们的内积的绝对值不超过它们的长度的乘积，即|< v, w > | ≤ ||v|| ||w||。
这个性质表明，内积可以衡量向量之间的相似性和夹角，两个向量之间的内积越大，它们越相似。
三、投影在内积空间中，我们可以利用向量的投影来进行向量的近似表示和问题的简化。
投影可以将一个向量分解成两个正交向量的和，其中一个向量是原向量在另一个向量上的投影，另一个向量是原向量与投影正交的部分。
投影的计算公式为：projv(w) = < w, v > / ||v||^2 * v。
其中，projv(w)表示向量w在向量v上的投影。
投影的应用非常广泛，例如在最小二乘法中，可以利用向量的投影来寻找一个向量在一个子空间上的最佳近似；在图像处理中，可以利用投影来实现图像的压缩和重构。
《内积空间》课件
混合积运算结果是一个标量，记作 $mathbf{a} cdot (mathbf{b} times mathbf{c})$。混合积可以用来判断三 个向量的共面情况：若混合积为零， 则三个向量共面。
05
内积空间中的正交与投影
正交的定义与性质
总结词
正交是内积空间中两个非零向量的特殊关系，具有方向无关性、正交性质和几何 意义。
01 线性映射的定义
线性映射是从一个向量空间到另一个向量空间的 映射，满足加法、数乘等线性性质。
02 线性映射的性质
线性映射保持向量的加法、数乘等基本性质，即 对于任意向量x、y和任意实数k，有 L(x+y)=L(x)+L(y)和L(kx)=kL(x)。
03 线性映射的例子
矩阵表示的线性变换、投影变换等都是线性映射 的例子。
矩阵的范数
矩阵范数的定义
矩阵的范数是定义在矩阵上的一个非负实数，表示矩阵的“大小 ”或“强度”。常用的矩阵范数包括谱范数、Frobenius范数和无
穷范数等。
范数的性质
矩阵范数具有与向量范数类似的性质，如非负性、正齐性 、三角不等式和归一化等。
范数的应用
矩阵范数在数值分析、线性代数、控制理论和机器学习等领域 都有应用，如求解线性方程组、矩阵分解和特征值计算等。
在机器学习中的应用
特征提取
内积空间中的向量可以用来表示机器学习中 的特征，通过计算特征向量之间的内积，可 以得出特征之间的相似性和关联性，从而实 现特征的提取和降维处理。
分类器设计
在机器学习中，分类器的设计往往需要用到 内积空间中的向量表示，通过计算样本向量 与分类器向量之间的内积，可以得出样本所
向量的加法与数乘
向量的加法
内积空间中的正交性
内积空间中的正交性Inner Product Spaces and Orthogonality在三维空间中，如右图1所示任取一平面M ,空间中的每一个矢量x必能分解成两个直交的向量和，其中一个向量耳在平面M上，另一个向量乙与平面M垂直，即x = x0 + z ,“丄z.这种向量的分解形式，在一般的内积空间是否成立图2.4.1三维空间向量的分解，向量x = x0 + z其中兀丄乙2.4.1正交分解定义2.4.1正交设X是内积空间，x, y&X ,如果(x,刃=0,则称x与y正交或垂直，记为x丄)，•如果X 的子集A 中的每一个向量都与子集B中的每一个向量正交，则称A与B正交，记为A丄3 .特别记X丄A,即向量x与人中的每一个向量垂直.定理2.4.1勾股定理设X是内积空间,X,yex,若兀丄〉，，则卜+y『=|卜『+ |卜『・证明卜+y『=(x+y,x + y)= (x,x) + (x,y) + (y,x) + (y,刃= (x,x)+ (>,>)=II<+II4. □注仁在内积空间中，是否存在卜+y『=||x『 + |卜『=>兀丄y显然由ll-v+yf = (A-, x) + (A-, y) + 059 + (y, y)=卜『+ 卜『+ 2Re(x,y), 可知在实内积空间中卜+〉，『=卜『+||y『n X丄y成立.定义2.4. 2 正交补Orthogonal comp I ement设X是内积空间，MuX,记M丄={x|x丄M,xeX},则称M丄为子集M的正交补.显然有X -={0}, {0}丄=X 以及M丄0 M = {0}.性质2.4.1设X是内积空间，Mu X ,则M-是X的闭线性子空间.证明(1) M丄是X的线性子空间Vx, y e M丄，已 K、g e M ,有(ax+0y, Z)= (ax, z) + (0y, z) = a(A, Z)+0(y, z) = 0 ,于是ax+/3y e M丄，因此M丄是X的线性子空间.(2) M丄是X的闭子空间设{x } U M丄，且依范数A；T兀(n TOO),于是火G M ,有(■'o, Z) = (lim A;,z) = lung, Z)= 0 ."Tao n—►»因此丄，即M-是X的闭子空间.口注2：由于完备度量空间中的子空间完备的充要条件是子空间闭，因此在Hilbert空间中(完备的内积空间)，任意子集M的正交补M丄是完备的子空间，即Hilbert空间的正交补M丄也是Hi Ibert空间.定义2.4.3正交分解设M是内积空间X的子空间，xeX,如果存在丄，使得x=x° + z,则称比为x在M上的正交投影或正交分解.引理2.4.1设X是内积空间，M是X的线性子空间，xeX,若存在yeM ,使得= d(x,M),那么x- y丄M ・证明令z = x-y,若？不垂直于M,则存在e M ,使得(乙片)工0,显然儿工0 .因为VaeK t有=|忖「一a（〉i，Z）-圧（◎ ”）+ a应yj=hl!' 一 &（z，>\）~ a［（”,乙）-压（”,儿）］特别取& =上上2,贝ij可得CviOjh-^if = hlf -叱'刃）=ltf"7^7 -1灿'=ll A->if="少八即知||z-ayj|< J（x,Af）.又由于ay\ e M ,所以II2-a”II = |卜一y一Sill = ||x—（>' + a”）|| >d（x,M）.产生矛盾，故x-y丄M. □定理2.4.1投影定理设M是Hilbert空间H的闭线性子空间，则H中的元素x在M中存在唯一的正交投影, 即Fx 已H、x = x0 + z ,其中丄.（或表示为H = M ®M~'）证明（1）寻找几进行分解.Px 已 H，设d（x y M） = inj｛|卜- >'］｝ = a > 0,则存在｛y n｝ u M ,使得|卜”—x||Td （〃T8）,首先证｛儿｝是M中的基本列，因为\fm,neN有||儿厂儿『=||（几一Q + （x-儿）『=2II 儿~4 + 2 卜-儿『-||（v n - x） - （A-儿）『=2||儿-第+2卜-儿『-彳卜九+儿）-彳因为儿及M是子空间，知*（儿+儿）GM,所以£（儿,+儿）-彳"，于是|卜”,一儿『S2||儿7『+2|卜一儿『—4/ T OQ M T QC）故｛儿｝是旳中的基本列，又因M是闭子空间，即为完备空间，所以｛儿｝是"中的收敛列.不妨设儿T入（“ ->oc）,则有« = ||.V-X0|| = J(A\;W) •令7 = x-A0,因此有X = x o + z t其中A o e A/ ,且根据前面引理知乙eM丄.(2)分解的唯一性.假设还存在z’eM丄使得+ 那么有0 = (x o-x1) + (<-^1) , Z~Z t丄,于是只需0的分解具有唯一性.若0 =丫+疋，y'eM , 丄，则0 = (0$) = (V + z\y1) = (>-\y1) + (鸣V) = ||y,||2可见〉"=0及z' = 0,即0的分解具有唯一性.口例2.4.1证明在内积空间上，x丄，的充要条件是VaeK有卜+巧阻卜||.证明必要性=> 若x丄y,则有(x, y) = 0 > \/aeK有(x,ay) = &(x,y) = 0 ,于是由勾股定理«：||x+ay||= = |M|=+|H|2>H2-充分性U若VaeK有|卜+ ay|| > ||.v|| ,且y工0时，0外+讨-卜『=(x+ ay y x+ ay)-(x,x)=(x, x) + Q(” x) + 讯兀刃 + Q 颈•” y) - (兀X)=o(y, x)+可(巧y)+a(y, y)]特别取于是，(>',y)0<||x + « y||： -||.r||==-沁(y, x) = -< 0"-"""(y,>) ||y||-故(x,y) = O,即x丄y. □2.4. 2标准正交系在三维空间中，任何一向量a可写成a = ①冬+6®，其中5= (1,0,0) , e2 = (0,1,0) , (0,0,1) , q =(羽勺)9a2 =(0灼),a3 = (a.ej ,显然当心丿时9化丄勺，而(弓,弓)=1・可见a = a勺)勺+ (a迢旭+ (a,勺)勺，那么在有限维内积空间中是否具有同样的结论呢定义2.4.4标准正交系设X是内积空间，亿｝是X中的点列，若满足则称仅｝为乂中的标准正交系.例2.4.2在"维内积空间川中，向量组勺= (1,0,•••,()), 6 =(0丄0,・..,0),…，e” =(0,...,0,1),是卅的一个标准正交系.口例2.4.3在尸中,向量勺=(0,...,0丄,0,…,0,. .) (” = 1,2,・..),则｛e”｝是广的一个标准正交n系・□例2.4.4在Z?[-龙虫]中，对于f.g e Z?[-龙，/r],定义内积为则下列三组向量均是芒[-兀刃的标准正交系,仇｝ = ｛匕|耳=cos/*〃= l,2,・・・｝;｛—｝二｛匕卜” =sin/u‘ = l,2,・・・｝;. 1｛q｝ = ｛q，S，4 5 =厉=cos/u；s =sinm‘ = l,2,・・・｝・□注3:如果线性空间上中的点列迢｝的任意有限个元素线性独立，则称亿｝为线性独立系.可验证标准正交系是线性独立系.设g,q：,・..,eQ是标准正交系｛叮的一个有限子集，如果存在％,如…心&K使得那么对于任意的^(1<;<^)k kJ =勺(％，气)=(勺％心)=另(匕勺心)=(Z叽心)=(0,e nf) = °・r-l /-I反过来，任何一个线性独立系经过正交化后为标准正交系.定理2・4・2设｛叮为内积空间X 的标准正交系,0,蛰…他｝ u ｛叮,记M =…，ej 9 k 那么VxeX ,兀0 =艺（兀叫圮,是丫在M 上的正交投影•即兀wM , X = x 0 + z » （A -X 0）丄M • i -i k 证明 显然x 0 e M , Vy e M ,由于存在a^a z e^,a k eK ,使得丫 =乞01仏、于是 j-i k k （x-q,y ） = （x -另（x,q 冷迓qej i-i j-i=a ，Z 叭）（x ，气圮,，Z 叭）/-Ir-1 i-1X k =£爲（x,s ）-£q（yq ）（sc ）=o ・□ j -i i-i 注4：上述定理中的M 为R 维闭子空间，作为内积空间M 与用同构，M 也是完备的子 空间，根据投影定理，x 在M 上的正交投影忑唯一存在.定理2.4.3设｛£｝为内积空间X 中任意的一组线性独立系，则可将｛兀｝用格拉姆-施密 特（Gram-Schmidt ）方法化为标准正交系亿｝,且对任何自然数“，有噱〉，阳wKX n =艺冰匕'€n =艺血X »&-1 1-1同时span ｛e ｛灼,…％｝ = spcu^,兀,…,亠｝ •记M] =$/"/"｛©｝,根据上述定理可将"在A/】上做正交分 解x 2 =（心勺）勺+ v 2,即冬丄勺，v 2 e ,得v 2 = x 2 一 （x“勺）弓•七=（吃，勺）勺+11吋I 勺.记M z = span ｛e^e 2｝,将x 3在上做正交分解“=（坷，勺）勺+（“,勺）勺+岭，则些工0及V 3 e M ；,得v 3 = x 3 -（.Xj,e x ）e^ -（x 3,e 2）e 2 ,可令® =行，从而治A 3是勺,冬,勺的线性组合，e 3是 A P X 2V ¥3的线性组合.ZI-1以此类推，可令叫=£-£（耳,必，且有勺心…41正交，进而令0/-I于是令"计则有脸卜1,6丄勺，且有证明令勺二 则有甌卜1n-1 n-1 nx n =匕+》（£,◎）©=II 气」Is+2L （暫用）勺=•r-i i-i i-i 同时可得e”是丑,兀,…，兀的线性组合.口。
泛函分析第4章内积空间
第四章 内积空间在第三章中，我们把n 维Euclid 空间n R 中的向量的模长推广到一般线性空间中去，得到了赋范线性空间的概念。
但在n R 中可以通过两个向量的夹角讨论向量与方向的问题。
这对仅有模长概念的赋范线性空间是做不到的。
我们知道，n R 中向量的夹角是通过向量的内积描述的，因此在本章我们引入了一般的内积空间的概念。
4.1 内积空间的基本概念首先回忆几何空间3R 中向量内积的概念。
设123(,,)x t t t =，123(,,)y s s s R =∈，设x 与y 夹角为ϕ，由解析几何知识可得112233cos t s t s t s x yϕ++=⋅其中， 13221()k k x t ==∑，13221()k k y s ==∑令31,k k k x y t s ==∑，称为x 与y 的内积，不难证明它有如下性质：（1）3,0,,,0;x y x R x x x θ≥∀∈=⇔=且 （2）3,,,,;x y y x x y R =∀∈（3）3121212,,,,,,;x x y x y x y x x y R +=+∀∈ （4）3,,,,,.x y x y R x y R λλλ=∀∈∀∈注：由定义可得x =内积我们可以讨论如向量的直交及投影等重要几何问题。
现在我们引入一般的内积空间的概念。
【定义 4.1】 设X 为数域F 上线性空间，若对任两个元素（向量）x ，y X ∈，有惟一F 中数与之对应，记为,x y ，并且满足如下性质：（1）,0,,,0;x y x X x x x θ≥∀∈=⇔=且（2）,,,,;x y y x x y X =∀∈（3）121212,,,,,,;x x y x y x y x x y X +=+∀∈ （4）,,,,,;x y x y F x y X λλλ=∀∈∀∈则称,x y 为x 与y 的内积，有了内积的线性空间叫做内积空间，当F 为实数域R （或复数域C ），叫X 为实（或复）内积空间。
内积空间的正交补基与正交补投影
内积空间的正交补基与正交补投影内积空间是线性代数中的一种重要概念，它在向量空间的研究中具有广泛的应用。
在内积空间中，我们可以通过正交补基和正交补投影来描述向量的性质和空间的关系。
本文将介绍内积空间的概念，正交补基的定义和性质，以及如何利用正交补投影进行向量的分解。
一、内积空间的概念内积空间是指具有内积运算的向量空间。
在这个空间中，我们可以定义两个向量之间的内积，记作⟨x，y⟩，其中x和y为内积空间中的向量。
内积满足以下性质：1. 对称性：⟨x，y⟩ = ⟨y，x⟩2. 线性性：⟨kx，y⟩ = k⟨x，y⟩，⟨x1 + x2，y⟩ = ⟨x1，y⟩ + ⟨x2，y⟩，其中k为标量。
3. 正定性：⟨x，x⟩≥ 0，当且仅当x = 0时，⟨x，x⟩ = 0。
在内积空间中，我们可以定义向量的长度（或者称为模）和向量之间的夹角。
向量的长度由内积的平方根给出，即∥x∥ = √⟨x，x⟩。
向量之间的夹角可以通过余弦定理进行计算，即cosθ = ⟨x，y⟩ /(∥x∥∥y∥)，其中θ为两个向量之间的夹角。
二、正交补基的定义和性质在内积空间中，我们可以定义正交补基。
对于内积空间中的一个子空间V，其正交补子空间记作V⊥，它由与V中任意向量正交的向量组成。
具体而言，V⊥中的向量与V中的任意向量的内积为0，即⟨x，y⟩= 0，其中x属于V，y属于V⊥。
V⊥中的向量与V中的向量正交，相互垂直。
正交补基是指V中的一组线性无关向量，它与V⊥中的一组线性无关向量共同组成了整个内积空间的一组基。
换句话说，正交补基是一组既包含V中的基向量，又包含V⊥中的基向量的基。
正交补基的性质如下：1. V中的基向量与V⊥中的基向量互为正交。
2. V中的基向量与V中的其它基向量正交。
3. V⊥中的基向量与V⊥中的其它基向量正交。
通过使用正交补基，我们可以方便地对向量进行分解和表示。
三、正交补投影的概念和应用正交补投影是利用正交补基来进行向量的分解和表示的重要方法。
矩阵分析引论--第二章 内积空间-内积空间的同构、正交变换、点到子空间的距离
(T ,T ) ( , ) , , V ,
则T 一定是线性变换，因而是正交变换.
( , ) 0 0. (T( ) T T , T( ) T T ) 0,
T( ) T T , (T(k ) kT ,T(k ) kT ) 0, T(k ) kT .
第二章第三四五节 内积空间的同构与正交变换、最小二乘法
定义2-8：设V是内积空间， , V , 则d( , ) 称为向量与的距离.
距离具有以下性质：
(1) d( , ) d( , ); (2) d( , ) d( , ) d( , ); (3) d( , ) 0,等号成立当且仅当 .
(4) T 在V 的任一标准正交基下的矩阵是正交矩阵.
目录 上页 下页 返回 结束
第二章第三四五节 内积空间的同构与正交变换、最小二乘法
定理2-6的证明
证 (1) (2), (T,T ) (, ), 取 = , 即可得.
(2) (3), 取 i j , 由 | T || | 可得
(T(i j ),T(i j )) (i j ,i j ), 整理可得 (T i ,T i ) 2(T i ,T j ) (T j ,T j )
例2: 设T是内积空间V 的一个线性变换. 证明： T是正交变换的充要条件是：T 保持任意两向 量的距离不变，即
| T T || |, , V .
目录 上页 下页 返回 结束
第二章第三四五节 内积空间的同构与正交变换、最小二乘法
思考：内积空间的保持距离不变的变换是否一
定是线性变换？ 平移变换:T = +0.
线性空间同构
(2) (k ) k ( ); (3) ( ( ), ( )) ( , ). ——保内积不变
内积空间及其在几何学研究中的应用
内积空间及其在几何学研究中的应用内积空间是线性代数中的一个重要概念，它在许多数学领域，特别是几何学中具有广泛的应用。
内积空间是一个向量空间，其上定义了一种特殊的二元运算，称为内积。
本文将介绍内积空间的定义、性质和在几何学研究中的应用。
首先，我们来定义内积空间。
在定义内积空间之前，我们需要先了解一下向量的长度以及向量之间的夹角。
向量的长度可以通过向量的模来表示，记为∥x∥。
向量x和x之间的夹角可以表示为x，其中0≤x≤x。
当x=x/2时，向量x和x垂直；当0≤x <x/2时，向量x和x之间的夹角x越小，它们的相关性越强。
接下来，我们定义内积空间。
内积空间是一个实数或复数域上的向量空间，其中定义了一个满足一定性质的二元运算，称为内积。
对于内积空间中的任意两个向量x和x，其内积定义为〈x,x〉。
内积满足以下几个性质：1. 对于任意向量x和x，有〈x,x〉=〈x,x〉，即内积具有对称性。
2. 对于任意向量x和x以及标量x，有〈xx,x〉=x〈x,x〉，即内积与标量的乘法可以交换。
3. 对于任意向量x、x、x以及标量x和x，有〈xx+xx,x〉=x〈x,x〉+x〈x,x〉，即内积具有线性性质。
内积空间的应用非常广泛，特别是在几何学中。
内积空间可以用来定义向量的长度、向量之间的夹角以及向量的投影等概念，从而在几何学中提供了一种更加直观和易于理解的描述方式。
首先，内积空间可以用来定义向量的长度。
在内积空间中，向量x的长度可以通过计算其自身与自身的内积的平方根来得到，即∥x∥=√〈x,x〉。
通过内积空间中向量的长度，我们可以比较不同向量的大小，从而得到一种度量向量大小的标准。
其次，内积空间还可以用来定义向量之间的夹角。
对于内积空间中的向量x和x，它们之间的夹角x可以通过如下方式计算：cos x=〈x,x〉/(∥x∥∥x∥)。
通过计算向量的内积和长度，我们可以判断向量之间的夹角大小，从而进一步揭示向量之间的相关性。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
注3若 在 上有投影，则投影必定是唯一的。
定理5.2.1设 是积空间 的线性子空间， . 若 是 在 上的投影，则
,(5.2.2)
且 是 中使(5.2.2)成立的惟一向量。
证因为 是 在 上的投影，所以 .
对于 ，因为 ，而 ，所以
.
这样的点列称为“极小化”序列。
下面证明 是基本点列。由平行四边形公式得：
.(5.2.5)
因为 是凸集，所以 ，因此 . 由(5.2.5)得：
.
令 ，则有
.
所以 是基本点列。
因为 是完备的，所以 ，使得 . 这时
.
若 ，使得 ，则点列 显然是“极小化”序列。这说明 ，也就是说在 中使 的元 是唯一的。
(3)若 ，则 ；
(4)对 ，恒有 ；
注 不意味着 .
(5)勾股弦定理：当 时， .
引理5.2.1设 是积空间， ，则 是 的闭线性子空间。
证（自证！）
注因为 未必是 的闭线性子空间，所以一般地， ，但有 .
若 是 的闭线性子空间，则 .
推论设 ，若 是 成的闭线性子空间，则
.
证因为 ，所以 .
反过来，若 ，即 ，这时 .
即：存在 ，使得 ，且这种分解是唯一的。
特别地，当 时， .
证由引理5.2.2，有 ，使得 .
由引理5.2.3得： . 记 ，则
，且 ，
就是 在 上的投影。
下证唯一性。设另有分解 ，其中 .因为
，
而 ，故 ，由此得
.
特别地，当 时，因为
,
所以 .证毕！
推论1设 是积空间 中的完备线性子空间，且 ，则在 中必有非零元素。
，
故由“勾股定理”得
(5.2.3)
显然(5.2.3)式只有当 时，等号才成立。
由(5.2.3)知：(5.2.2)式成立，且(5.2.2)式中右边的下确界只有当 时才能达到。 证毕！
5.2.2投影定理
引理5.2.2（变分引理）设 是积空间 中完备的凸集， . 记
(5.2.4)
则必有唯一的 ，使得 .
证由下确界的定义，必定有 中的点列 ，使得
5.2积空间中的正交与投影
5.2.1 正交和投影
定义5.2.1设 是积空间， ，若 ，则称 与 正交，记作 .
设 ，当 与 中所有向量都直交时，称 与 正交，记作 .
设 ，若对 ，都有 ，则称 与 正交，记作 .
设 ，记 ，并称之为 的正交补（集）。
注 .
正交性质：
(1)若 ，则 ；
(2)若 ，则 ;
若 ，则由推论1知：必有非零元素 ( ).
由 ，由 得： .
因此 ，于是 . 这与 矛盾。故 .证毕！
由引理5.2.1知： 是 的闭子空间, 而 是包含 的最小的闭集，所以
或
得： .综上所述，有 .证毕！
定义5.2.2设 是积空间， 是 的两个线性子空间，若 ，则称
为 与 的正交和，记作 .
命题5.2.1设积空间 能分解为 与 的线性和
则它为正交和 .
In fact,“ ”设 ，则由定义5.2.3知： . 于是
唯一性另证：若 ，使得 ，则由平行四边形公式得：
故
证毕！
引理5.2.3设 是积空间 中的线性子空间， ， .若 ，则
，即 .
证任取 ，对任意数 ，因为 ，所以
.(5.2.6)
令 (这是使(5.2.6)式右端取极小值的 )，就得到
.
因为 ，所以 . 这就证明了 . 证毕！
定理5.2.2（投影定理）设 是积空间 中的完备Байду номын сангаас性子空间，则对 ， 在 上的投影唯一地存在。
证因为 ，取 ， 在 上的投影记为 ，则
，即 .
但是 ，因此 ，即 中有非零元素。证毕！
推论2设 是Hilbert空间 中的线性子空间，则 .( )
特别地，若 ，则 在 中稠密。( )
证由引理5.2.1， 是 的闭线性子空间，因而是完备的。
显然 ，而 是包含 的最小闭集，所以 .
另一方面， 也是Hilbert空间 的闭线性子空间。
，
故 . 同理可证 .
“ ”设 ，往证 .因为 已经分解为 与 的线性和：
，
所以，要证明 ，只需证明 .
因为 ，所以显然有 .证毕！
定义5.2.3设 是积空间 的线性子空间， . 若存在 ，使得
(5.2.1)
则称 是 在 上的（正交）投影，或 在 上的投影分量。
注1 是 在 上的（正交）投影，或 在 上的投影分量。