数值分析8(向量范数与矩阵范数)

20:22
16/16
20:22
11/16
A 2 ( A A), 其中 ( B ) max{| i ( B ) |}
T i
2 T T 证: 2 这表明矩阵ATA是对称半正定的, 是非负。设矩阵ATA的特征值为
|| Ax || x A Ax 0
1 2
所以它的特征值 都
n 0
并设对应的特征向量为
v1 , 由于ATA是对称,故 v1 ,
vi
20:22
2
1, i 1,
, vn , v n 是Rn的标准正交基: T , n vi v j 0, i j
12/16
对于向量 x 可被特征向量系所表示 x ck v k
n n k 1
n n
n
T T T || Ax ||2 x A Ax ( c v k k )( ck k vk ) 2
Matlab内部函数: norm(A,p)。
20:22
9/16
矩阵算子范数
设 ||x||是Rn上的向量范数,A∈Rn×n,则A的非 负函数 || Ax ||
|| A || max
x 0
|| x ||
称为矩阵A的算子范数(或诱导范数)。 注1 矩阵算子范数由向量范数诱导出, 如
|| Ax ||2 || A ||2 max x 0 || x || 2
1 i n
, xn

Matlab内部函数: norm(x,p)。特别的, norm(x) 等价于norm(x,2)。 范数概念是我们熟悉的距离概念的一种自然的 推广。 k *
lim || x x || 0
k
则称序列{xk}在范数||.||下收敛于x*。
20:22
4/16
例1 证明||x||2是 Rn 上的一种范数 证明柯西不等式: | xTy |≤ ||x||2· || y||2 对任意实数λ, 有(x - λy)T(x - λy)≥0 判别式 xTx – 2λxTy + λ2yTy ≥0 | xTy |2 – (xTx)(yTy) ≤0 | xTy |≤ ||x||2· || y||2
x
i 1
n
2 i
x1 x2 xn
2
2
2
是向量 x 的范数。
20:22
3/16
常用的范数:
x 1 xi x1 x2 xn
i 1
n
|| x ||2
x

2 x i x1 x2 xn 2 2 i 1
n
2
max xi max x1 , x2 ,
《数值分析》8
向量范数与矩阵范数
20:22
1/16
20:22
2/16
定义3.1 设 Rn是n维向量空间,如果对任意x∈Rn, 都有一个实数与之对应,且满足如下三个条件: (1)正定性: ||x||≥0,且||x||=0 <=> x = 0 ; (2)齐次性: x x λ为任意实数
(3)三角不等式: x y x y 则称||x||为向量x的范数 。 注:向量范数是向量长度概念的推广。例如 ( y ∈Rn )
20:22
5/16
正交矩阵乘向量,则向量2范数不变 ATA= I , y =Ax
y y ( Ax ) ( Ax ) x A Ax x x
T T T T T

|| y ||2
y y
T
x x || x ||2
T
20:22
6/16
例2 范数意义下的单位向量: x=[x1, x2]T
c 1 c
k 1 2 k k k 1
n
k 1
k 1
2 k

A 2 max
x 0
Ax x
2
2

2 1 ck k 1 2 c k k 1 n
1
特别取最大特征值对应的单位特征向量v1
Av1 2 v A Av1 v 1v1 1
T 1 T
n
A max aij
1 i n j 1
i 1 n
矩阵1范数 (列和范数)
无穷大范数(行和范数 )
i
A 2 ( AT A), 其中 ( B ) max | i ( B ) | 称为矩阵B的谱半径, A 2 也称为谱范数。
预备知识(对称矩阵可对角化): 对于任意实对称矩阵,都存在一个正交矩阵V, 使VTAV=V-1AV成对角阵。
征值对应特征向量满足Ax x。
则xx 不是零矩阵。 对于任意矩阵范数 . ,由范数定义有
T
( A) xxT xxT AxxT A xxT
例5 设||.||为Rn×n 上任意一种矩阵范数, 则对
有1 I , 特别的 . 为算子范数则 I =1。
20:22
15/16
参考文献: 1. 张贤达, 矩阵分析与应用,(清华大学) 2. Horn, Johnson, Matrix Analysis, (Cambridge) 3. 黄廷祝, 矩阵理论 (高等教育出版社)
1
1
1 -1 -1 1 || x ||1 = 1
-1
-1 || x ||2 = 1 1 -1 1
7/16 参考文献: Sparse and Redundant Representations: 20:22 From Theory to Applications in Signal and Image Processing
注2 A-1的算子范数可表示为
1 || A x || || y || 1 1 || A || m ax m ax x 0 y 0 || Ay || || Ay || || x || m in y 0 || y || 20:22
10/16
A 1 max aij
1 j n
max | xk ||| x ||1 n max | xk |
|| x || || x ||1 n || x ||
|| x || || x ||1 n || x ||
1 k n
1 k n
c1 || x ||s || x ||t c2 || x ||s
上述性质被称为范数的等价性。它的意 义在于如果一个向量序列在一种向量范数意 义下收敛, 则在其它向量范数的意义下收敛。
T || x y ||2 ( x y ) ( x y) 2 xT x xT y yT x yT y 2 T 2 || x ||2 2 | x y | || y ||2
2 || x ||2 2 || x || || y || || y || 2 2 2 2 || x y ||2 || x ||2 || y ||2 (三角不等式)
20:22
8/16
Frobenius范数
|| A ||F ( aij )
j 1 i 1义3.2 对 A ∈ Rn×n ,存在实数||A||满足: (1)正定性: ||A||≥0,且||A||=0 A = 0 ; (2)齐次性: A A λ为任意实数 (3)三角不等式: A B A B (次加性) (4)相容性: || AB |||| A |||| B || (次乘性) 则称 ||A|| 是矩阵 A 的一个范数。
2
20:22
A 2 max
x 0
Ax x
T 1
2 2
Av1
2
1
13/16
总结:
矩阵范数 算子范数
算子范数: 矩阵1范数, 矩阵无穷范数, 矩阵2范数
14/16
20:22
例4 设||.||为Rn×n 上任意一种矩阵范数, 则对 任意的A ∈ Rn×n , 有 ( A) A 。 证明: 设 ( A) max | i |, x 0是模最大特
-1 || x ||∞ = 1
|| x ||2 x x || x ||1 | x1 | | x2 | || x || max{| x1 |,| x2 |}
2 1 2 2
例3 设x=(x1, x2, · · · · , xn)T,证明
证明: 所以
|| x ||1 | x1 | | x2 | | xn |