第2章 内积空间

对比 R n 中的结论， 可用
(a , b ) cos a , b || a || || b ||
定义a 与b 在内积空间中的夹角 a , b .
8
向量的正交
定义. 设V 是实内积空间，a , b V ,
若 (a , b ) 0 , 则称 a 与b 正交，记作 a b 。
由 || a + b ||2 (a + b , a + b ) || a ||2 +2(a , b )+ || b ||2 知
最小二乘法
AX b, A aij R , b b1 , b2 , , bn 可能无解，即任意 x1 , x2 , , xn 都可能使
1.问题提出，实系数线性方程组
( )
n s
（ 1）
( ai 1 x1 + ai 2 x2 + i 1
n
+ ain xn bi )
由归纳法假设可知 ( bi , b j ) 0 (1 i, j k , i j ))
(b k , b j ) (ak , b j ) (b j , ak ) 0
即 b1 , b 2 ,
14
, b r 是正交向量组。 , b r 标准化可得到一组标准正交基。
将 b1 , b 2 ,
a
并且等号成立当且仅当 b = d。
a b W , b d W，
d
W
a b b d，
b
a b + b d a d，
||a b ||2 + || b d ||2 ||a d ||2 ， （勾股定理）
即 || a b || || a d ||
1
对称性 线性性 非负性
则称 (a, b ) 为a 与b 的内积，V 为实内积空间。
例. 线性空间 R n { ( x1 , x2 , , xn )T | x1 , x2 , , xn R }
a ( x1 , x2 , , xn )T , b ( y1 , y2 , , yn )T
定理: 设T 是实内积空间V 的线性变换，a, b V ，
则下列命题等价， e1 , e2 , , en是V 的标准正交基，
(1) (T (a ), T ( b )) (a , b ), 即T 保持向量的内积不变；
(2) (T (a ), T (a )) (a , a ), 即T 保持向量的长度不变；
13 13
下面用归纳法说明 b1 , b 2 ,
k 1
, b r 是正交向量组
(b i , ak ) ( b k , b j ) (a k b i , b j ) (1 j k ) i 1 ( b i , b i ) k 1 (b i , ak ) (a k , b j ) (b i , b j ) i 1 ( b i , b i )
18
正交补的存在唯一性
定理: 设W 是实内积空间V 的子空间，则W 的正交补
存在且唯一，记该正交补为 W ，并且
W { a | a W , a V }
定理: 设W 是实内积空间V 的有限维子空间，则
V W W
19
向量的正投影
定义: 设W 是实内积空间V 的子空间，于是V W W ,
6
Cauchy-Schwaz的两种特殊形式
(1)
xi yi
i 1
n
x
i 1
n
2 i
2 y i i 1
n
(2)

b
a
f ( x ) g ( x )dx

b
a
f ( x )dx
2

b
a
g 2 ( x )dx
7
向量的夹角
由Cauchy-Schwaz不等式可知
1 (a , b ) 1, || a || || b ||
2
（ 2）
0 0 0 不等于零，设法找实数组 x1 , x 2 , , x n 使（2）最小 0 0 0 这样的 x1 , x 2 , , x n 为方程组（1）的最小二乘解， 此问题叫最小二乘法问题.
2.问题的解决 设
Y a1 j x j , a2 j x j , j 1 j 1
a 与b 正交 || a + b ||2 || a ||2 + || b ||2
这就是实内积空间中的勾股定理。
9
2.2 欧氏空间的正交基
定义：设a1， a 2， , a s是实内积空间 V 的一组非零向量，
若它们两两正交，则称其为一个正交向量组。 定理：正交向量组必是线性无关的。
若 a1， a 2， , a n是n维内积空间 V 的一个正交向量组，
22
x12 x21 x22 0 x22 2 2 x11 x12 y11 在W上定义( X , Y ) xij yij , 其中X ，Y x y x i 1 j 1 21 22 21 (1) 证明： ( X , Y )是W的一个内积； (2) 求W的一组标准正交基 .
定义内积
(a , b ) x1 y1 + x2 y2 + + xn yn a T b
称为内积空间 R n的标准内积。
2
例. 线性空间 R n { ( x1 , x2 , , xn )T | x1 , x2 , , xn R } A为 n 阶实正定矩阵，
a ( x1 , x2 , , xn )T , b ( x1 , x2 , , xn )T
定理5 设g 1 , g 2 ,..., g n;1 ,2 ,...,n 都是n维欧氏空间V中的标准正交基， 并且 (1 ,2 ,...,n ) (g 1 , g 2 ,..., g n )A 则A是正交矩阵.
16
题型
x11 已知R 的子空间W X x 21
5
向量长度
定义. 设V 为实内积空间，称 (a , a ) 为向量a 的长度， 记作 ||a ||。
定理. 设V 是实内积空间，a , b V , k R ，则 正定性 齐次性
(1) || a || 0, 且 || a || 0 当且仅当a 0； ( 2) || ka || | k | || a || ； Cauchy-Schwarz 不等式 ( 3) | (a , b ) | || a || || b ||, 等号成立当且仅当a , b 线性相关； (4) || a + b || || a || + || b || 。 三角不等式
定义内积
(a , b ) a T Ab
3
例. 线性空间C[a, b]，f , g∈C[a, b] 定义内积
( f , g ) f ( x) g ( x)dx
a b
4
由定义知
(5) (a , b +g ) = (a, b ) + (a, g ) (6) (a, kb ) = k(a, b )
2.5 正交变换
定义: 设T 是实内积空间V 的线性变换，若a, bV 有
(T (a ), T ( b )) (a , b )
则称T 为V 的正交变换。
||a || (a , a )
等式(T (a ), T (a )) (a , a ) 可看做 T保持向量的长度不变；
正交变换的特征刻画
2.1 实内积空间
定义.设V 是一个实线性空间，R为实数域， 若a, b V, 存在唯一的 rR与之对应， 记作(a, b ) = r, 并且满足
(1) (a, b ) = (b, a ) (2) (a +b, g ) = (a, g ) + (b, g ) (3) (ka, b ) = k(a, b ) (4) (a, a )≥0, (a, a ) = 0 a = 0 实内积空间也称欧几里得(Euclid)空间。
y12 , y22
2.4 正交补
定义: 设W, U是实内积空间V 的子空间，
(1) a V , 若b W, 都有(a, b ) = 0, 则称a 与W 正交，记作a W ; (2) 若a W, b U, 都有(a, b ) = 0, 则称W 与U 正交，记作W U ; (3) 若W U，并且W + U = V, 则称U 为W 的正交补。 注意：若W U，则 W与U 的和必是直和。
n n n
, anj x j AX . （3） j 1
2

用距离的概念，（2）就是 Y b .
由（3）知
Y x1a1 + x2a 2 + + xsa s , A a1 ,a 2 , ,a s
找X 使（2）最小，等价于找子空间 L(a1 ,a 2 , 中向量 Y使 b到它的距离 ( Y b ) 比到 L(a1 ,a 2 , 中其它向量的距离都短. 设 C b Y b AX , 为此必 C L(a1 ,a 2 ,
a V , 有a b + g , 其中b W， g W ，
则称向量b 为向量a 在W上的正投影，
称向量长度||g ||为向量a 到W 的距离。
g a d
W
O
b
垂线最短定理
定理: 设W 是实内积空间V 的子空间，aV , b 为a 在W 上的正投影，则 dW, 有
|| a b || || a d ||
11
Gram-Schmidt 正交化过程
Gram-Schmidt 正交化过程： 设 a1 , a 2 ,, a n 是内积空间V 中线性无关的向量组， 则V 中存在正交向量组 b1 , b 2 ,, b n ，通过如下过程得到
12
令
b 1 a1 ;
( b1 ,a 2 ) b2 a2 b1; ( b1 , b1 ) ( b1 ,a r ) (b 2 ,a r ) br ar b1 b2 ( b1 , b1 ) (b 2 , b 2 ) 则 b1 , b 2 , , b r 是正交向量组 ( b r 1 , a r ) b r 1 ( b r 1 , b r 1 )
则称其为V 的一个正交基。
10
定义：设a1， a 2， , a n是实内积空间 V 的一正交基，
且其中每个向量的长度都是 1，
则称其为 V 的一个标准正交基。
注意：向量在标准正交基下的坐标是该向量在对应的 基向量上的正投影，即
xi (a , a i ) ( x1a1 + x2a 2 + + xna n , a i )
,a s ) ,a s )
,a s )
这等价于 (C ,a1 ) (C ,a 2 )
(C ,a s ) 0, （4）
C 0,a 2 C 0, 即 a1
C 0, ,a s
这样（4）等价于 A ( b AX ) 0 或 AAX Ab （5）
例题
x1 + x2 1 x +x 2 1 3 求方程组 的最小二乘解 . x1 + x2 + x3 0 x1 + 2 x2 x3 1
几个定理和推论
定理1：n 维实内积空来自百度文库V 必存在标准正交基。 推论1：n 维实内积空间V 中任一正交向量组都可扩充成
V 的一个正交基。 定理2：设 a1 , a 2 ,, a n 是n维欧氏空间V 的一组基， 则V 中存在标准正交基 g 1 , g 2 , , g n ，使得
(a1 , a2 , , an ) (g 1 , g 2 , , g n ) R
(3) T (e1 ), T (e2 ), , T (en ) 是V 的标准正交基；
其中R是主对角元为正数的上三角矩阵
15
几个定理和推论
定理3 设g 1 , g 2 ,...,g n是n维欧氏空间V中的一组标准正交基， 对任意a V , a x1g 1 + x2g 2 + xng n , 则 xi (a , g i ), i 1,2,...,n.
定理4 设g 1 , g 2 ,..., g n是n维欧氏空间V中的一组标准正交基， 对任意a , b V , 若 a x1g 1 + x2g 2 + xng n , b y1g 1 + y2g 2 + yng n , 则 (a ,b )= x1 y1 + x2 y2 + xn yn