数值分析(03)内积空间与内积空间中的正交系

数值分析
数值分析
(2) A为对称正定矩阵，x , y R n , 定义内积 ( x , y ) x T Ay
a11 取A
i , j 1
xa
i
n
ij
yj
ann
( x , y ) x T Ay xi a ii yi
i 1
数值分析
第二节 内积空间与内积空间中的正交系
一、内积和内积空间的基本概念
定义2-12 :设V是实数域R上的线性空间,如果α , V β 都有一个实数记为(α , )与其对应,且满足以下条件, β 则称实数(α , )为向量α , 的内积. β β ①对称性(α , ) (β , ) β α ②可加性(α β , ) (α , )(β , ); γ γ γ ③齐次性(kα , ) k(α , ),k R; β β ④正定性(α , ) 0,且当且仅当α 0时才有 α (α , ) 0 α
i , j 1
数值分析
xa
i
n
ij
yj
T T T T
证 : (1)
( x, y ) x Ay ( x Ay ) y A x y Ax ( y, x )
T T
(2)
(3)
( x z, y ) ( x z ) Ay x Ay z Ay ( x, y ) ( z, y )
证明：以二阶矩阵为例证明 10 取x ee2 得x T Ax 11 22 0 0 x 1 , 得x T Ax a a 取 , 01
数值分析
数值分析
(2) A是正定阵, A 也是正定阵； （由i 0证明） (3) A R nn , 若A是非奇异的, 则AT A是n 阶实对称正定阵；
n
数值分析
数值分析
对称正定阵A R nn x T Ax 0, x 0 a11 ... a1k det( Ak ) 0, Ak : : k 1, 2, ..., n a ... akk k1 i 0 ( i 1, 2, ..., n)
(1) R 中, x , y R ,
n n
( x, y)
x y
i 1 i
n
i
( x i ) ( yi ) x y
i 1 i 1
n
1 2 2
n
1 2 2
(2)C [a , b]中, f ( x ), g( x ) C [a , b]

b
a
f ( x ) g ( x )dx (
a ii x i2
i 1
n
数值分析
数值分析
( 3) f ( x ) C [a , b], b f ( x )2 f f ( x ), f ( x ) a 称 f 为[a , b]上连续函数 ( x )的内积范数。 f (4) f ( x ) C [a , b],
称为在C[a , b]中带权 ( x )的内积. ( f , g ) ( x ) f ( x ) g( x )dx
a b
若 ( x ) 1, 则 b ( f , g ) f ( x ) g ( x )dx
a
数值分析
数值分析
定义2-13 设[a , b]是有限或无限区间, ( x )是定义 在[a , b]上的非负可积函数, 若其满足 (1) ( x )dx 0; (2) x n ( x )dx存在, n 0,1...;
b a
b
a
f ( x ) dx ) ( g ( x ) dx )
2 a
2
1 2
b
1 2
思考 : ( f , g ) ( x ) f ( x ) g( x )dx 写出Cauchy Schwarz不等式的表达形式.
数值分析
数值分析
用内积范数表示 Schwarz不 等 式 的 形 式 是 ( , )
由Schwarz不等式可以证明内积范 数公理中的 三角不等式 .
证明：三角不等式
证：在内积空间V 中, , V , 有 2 ( , ) ( , ) 2( , ) ( , ) 2 2 2 ( )2 所以
定义 2-17 在内积空间V 中取一组基 { 1 , 2 , , n },
n
0 i j 若 ( i , j ) ij ( i , j 1, , n) 1 i j 则称基 是V n中的标准正交基.
数值分析
数值分析
1 2 1 2 0 0 1 2 1 2 0 0 e1 , e 2 0 , e 3 1 2 , e4 1 2 . 0 1 2 1 2 0 0
对两个不为 零的向量 , , 若( , ) 0, 则 称和 是 正 交 的 记 为 . ,
数值分析
数值分析
前述三种空间关系
线性空间
(,)
内积 空间
|| ||
赋范线性空间
(,) || ||
1 2
数值分析
数值分析
四、内积空间中的正交基和标准正交基 若1 , 2 , , r 是一组两两正交的非零向量, 则1 , 2 , , r 线性无关.
x, x
2 2 2 x1 x 2 x n ,
称 x 为 n 维向量 x 的内积范数 .
(2) x R n , A为n阶对称正定矩阵, x的A范数定义为 x
A

xT Ax
i , j 1
xa
i
n
ij
xj
特别，A为n阶对角阵, x的A范数,定义为 x
A

x T Ax
y1 y2 y , y n
(2) A为对称正定矩阵，x , y R n , 定义内积 ( x , y ) x T Ay
T
i , j 1
xa
i
n
ij
yj
a11 a12 y1 x Ay x1 x 2 y a21 a22 2 a11 x1 y1 a12 x1 y2 a21 x2 y1 a22 x 2 y2
证明 : 任取实数k , 考虑内积 ( k , k ) ( , ) 2k ( , ) k 2 ( , ) 0 利用一元二次方程根的判别式, 有4( , )2 4( , )( , ) 0 所以有( , )2 ( , )( , ) 当 k ( k R, 非 零), 显 然 定 理 中 等 号 成 立 之, 如 果 等 号 ;反
( 4) ( x ) e
n n
x2
x
3. R 中的内积 A, B R
n n
, 定义内积( A, B )
i , j 1
a b
n
ij ij
数值分析
数值分析
三、内积范数
由内积定义的范数称为内积范数，定义2-14
( , )
(1) x R n , x
成 立, 则 , 必 线 性 相 关因 为 若 , 线 性 无 关 则k R, . , 非 零, 都 有 k 0.从 而( k , k ) 0 所 以 等 号 不 成 立矛 盾. ,
数值分析
数值分析
在不同的空间中 , Cauchy Schwarz不等式有 不同的表达形式 .
0 3 2 例 A 2 4 2 , 0 2 5 3 2 3 0, 0, A 40 2 4
数值分析
数值分析
x Ax 0,
T T
x 0
正定矩阵的性质 (1) 正定阵主对角元恒正；
a11 a12 x1 二次型：x Ax x1 x2 x a21 a22 2 2 2 a11 x1 a12 x1 x2 a21 x1 x2 a22 x2 1 2 x1 2 2 x1 4 x1 x2 5 x2 x1 x2 2 5 x 2
同理可得2 r 0. 故 1 , 2 ,, r 线性无关.
数值分析
数值分析
内积空间 Vn中的标准正交基
定义 2-16 在内积空间V n中取一组基S {v1 , v 2 , , v n } i j 0 若 (vi , v j ) 0 i j 则称基S是V n中的正交基.
数值分析
数值分析
由Schwarz不 等 式, 当 , 不 是 零 向 量 时 ( , )

1,
即
1
( , )

1
定义 V 定义2-15 内 积 空 间 中 任 意 两 个 向 量 和 的 夹 角
arccos
( , )

， 且 [0, ]
证明
设有 1 , 2 ,, r 使 11 2 2 r r 0
用 1 与上式作内积得 ,
(1 , 11 r r ) 1 (1 , 1 ) 0
由 1 0 ( 1 , 1 ) 1
2
0, 从而有1 0 .
1 2 1 2
b ( x ) f ( x )2 f f ( x ), f ( x ) a 称 f 为[a , b]上连续函数 ( x )的带权 ( x )的内积范数。 f
数值分析
数值分析
定理2-6 : (Cauchy Schwarz不等式) 设 , 是内积空间V 中任意两个向量, 则有 ( , )2 ( , )( , ) 等号只Biblioteka Baidu当且仅当 和 是线性相关时才成立.
T T T
( kx, y ) ( kx )T Ay kxT Ay k ( x , y )
( 4)
( x , x ) x T Ax
i , j 1
xa
i
n
ij
xj 0
数值分析
数值分析
二、几种线性空间中内积的定义 2. C[a , b]中的内积 f ( x ), g( x ) C[a , b], 对于给定的权函数 ( x ) 0,
a a b b
(3)若对[a , b]上的非负连续函数g ( x )有 ( x ) g ( x )dx =0，
a
b
则必有g ( x ) 0; 则称 ( x )是[a , b]上的一个权函数.
数值分析
数值分析
常见的权函数有 : (1) ( x ) 1 1 x 1 1 ( 2) ( x ) 1 x 1 2 1 x ( 3) ( x ) e x 0 x
(3)( , 0) (0, ) 0
数值分析
数值分析
二、几种线性空间中定义的内积 1. Rn中的内积
(1)x , y R n , 定义内积 ( x , y ) x T y x i yi
i 1 n
x1 x2 x , x n
（由xT Ax 0, x 0证明） T T T 证明：x A Ax ( Ax ) ( Ax ) x 0, A可逆， Ax 0
1
xT AT Ax ( Ax )T ( Ax ) 0
数值分析
(2) A为对称正定矩阵，x , y R n , 定义内积 ( x , y ) x T Ay
定义了内积的线性空间称为内积空间
数值分析
数值分析
内积的基本性质:
(1)( , k ) k ( , )
证 : ( , k ) ( k , ) k ( , ) k ( , )
(2)( , ) ( , ) ( , )