向量范数3-1,3-2,3-3

n
1 p
lder 范数 (1 p ) p-范数或 Ho
说明：在p范数中，若取p<1时,它不是范数；
1-范数，2-范数是p分别取1，2时的p范数
而对于p范数与∞－范数有下面的关系
定理
在向量空间C n中, 向量范数满足
lim X
p p
X

X C
n
1 p
证明 则 因为

与

，如果存在常数ｍ和Ｍ

(0 m M ) 使得 m A A
则称范数

M A
与

等价
在 C nn 上常用的矩阵范数有：
A
AF
m1
aij
i, j
2
A
aij i, j
tr AH A
1 2
m
n max aij
lim X
p
p
xk max xi X
i

说明：我们也可以通过已知的范数构造新的向量范数.
例 设A C mn是列满秩矩阵， 是C m上的范数，则
x
是C n上的范数 .

Ax , x C n
例 设A是n阶正定实对称矩阵，在向量空间Rn中, 定 1 义向量函数为 T 2
1）正定性 2）齐次性
x 0
且
x x , C
3）三角不等式
x y x y
则称
x 为向量x的范数。
范数的性质： (1) x x
(2) x y x y
性质（1）利用范数的齐次性即可证明。 下面证明（2）。根据三角不等式，有
x x y y x y y

AX

AX H A X H A X
即矩阵范数与向量范数相容
算子范数
定义 设

即由向量范数构造矩阵范数
和


分别是 C m 和 C n
mn
A C 上的同种类型的向量范数，
A max
x0
定义 C mn 上的非负实值函数
Ax x

max Ax ,
x

1
对于矩阵谱范数有下面的性质：
定理3 设 A C mn 则
(1) A H
2
A2
（2）2-范数是酉不变的
1 , 2 ,, n 是A的特征值，则 （3）若矩阵A是正规矩阵，
A 2 max j
j
2 1 0 例：设 A 0 2 3 1 2 0
( D1 )
则 A 是矩阵A的范数并且与



相容。
为了书写简明，均不注明范数属于哪个空间，由范数 中的矩阵(或向量)加以区别） 首先由定义可知
A
Ax x
, 即
Ax
A x
再证明定义的第二个等号成立。记
y x x
x0
则
y 1
x max max A max Ay max Ax x 0 x 0 y 1 x 1 x x
x y

max xi yi max xi yi xk yk
1i n
1i n

1i n
max xi max yi x
1i n

y

反例：设 x R1 , 若令 x x 2 , 显然，它满足范数定义中的正定性，但不满足齐 1 次性，因此它不是 R 中的范数。

M x
2
n C 再利用范数等价的传递性可知： 上的任意两个范
向量范数的等价性表明：按不同向量范数定义的向量的收敛性 具有一致性。
注：对于无穷维线性空间，没有这个性质，如， 对于 C[0，1]上的如下两范数
f ( x)
2 2 0 f ( x) dx 1 1 2
f ( x)
xi 当X=0时，结论显然成立。设 X 0, x k max i
X
p
( x k
i 1
n
p
xi xk
p
p
) x k (
i 1
n
xi xk
p
)
1 p
xk
1 (
i 1 n
p
xi
i 1
p 1 p
n
n xk
1 p
p
故
xi xk
) n 1( p )
所以
定理
对 x ( x , x ,, x )T C n C n R 分别定义三个函数 1 2 n
x
x
1

x
i 1
n i 1
n
i
1 2
1－范数，
)
2
( xi
2
2－范数(或Euclid范数)
x

max xi
1 i n
∞－范数(或最大值范数)。
它们均构成范数。 说明：在同一个向量空间，可以定义多种向量范数，而对 于同一个向量，不同定义的范数，其大小可能不同。
A 2 max ( A H A)
X
A
X AX


X x1 , x2 , , xn R n
T
试证上述函数是向量范数，称为向量的加权范数或椭圆范数。 证明 因为A是正定对称矩阵，故存在可逆矩阵P，使得
P T AP I
从而
A P
X
A

1 2 A
T 1
P P
T T 1 2
1

1 T
1 2
P 1 B T B
计算 A 1 , A 2 , A , A
F
A 1 max aij 5 1 j n
i 1
m
A max aij 5 1i m
j 1
1 2
n
A
F
2 aij 23 i, j
因为
5 0 0 H A A 0 9 6 0 6 9
再证明(D1)式中的最大值可以达到。
由
Ax
Ax 是C
n
的连续函数，D
T
Dn x x1 , x 2 , , x n
知 Ax 在D n上取到最大值。

n
是C n中的有界闭集，
x 1

最后证明
A 成为矩阵范数
A Ax0 x0 0;
正定性: 设 A 0, 则存在 x0 0 C n , 使 Ax0 0,
AX A X
A C mn , X C n
则称矩阵范数与向量范数是相容的。 定理2 设 是 C 上的相容矩阵范数，则在 C n 上存 在与 相容的向量范数
n n
证明：任取一非零向量 C
n
定义向量X的范数为
X
容易验证


X H
n
X C n
是 C 上的向量范数，并且
范数等价性
对于两个向量范数


与

，如果存在常数ｍ和Ｍ
(0 m M)
则称范数

使得 m x
与


x

M x

等价
容易证明：向量范数的等价具有自反性、对称性和传递性.
定理
向量空间 C n 中的任意两个向量范数等价。
n C 说明：我们证明 上的任一范数都与2-范数等价，
再利用范数等价的传递性即可。 证明
x

2
y
2

2
两边开方即得证。
实例2
在向量空间C n中, 向量分量的最大模是一种 向量范数，称为∞ -范数。
x
证明
x

max xi
1 i n
范数定义中的条件(i)显然成立， 现验证条件(ii)和(iii)也成立

max xi max xi x
1i n 1i n
成立 ai bi [ ai ] [ bi ]
i 1 i 1 i 1 n n p
1 p
a a1 , a2 ,, an , b b1 , b2 ,, bn
n q
1 q
利用上面的两个引理可以证明：在向量空间 Cn中，有下面的范数：
x
p
( xi )
p i 1
2
(n 0,1,2,)
第二节 矩阵范数
主要内容： 1· 矩阵范数的定义、性质
2· 算子范数（由向量诱导的矩阵范数）
3· 几种常用的矩阵范数
定义
mn mn A C C R 满足： 设 定义一个实值函数
（1）正定性
（2）齐次性 （3）三角不等式 (4)相容性 则
A 0
且
A 0 A 0
对 A, B
存在向量 x2 , x2 1
满足
AB ( AB) x2 A Bx2 A B x2
从而
AB A B
我们称由(D1) 式所定义矩阵范数为由向量范数诱导 的矩阵范数，也称矩阵的算子范数。
A max Ax ,
x

1
( D1 )
说明：由向量导出的矩阵范数是相容范数

max f ( x)
0 x 1
若取
f n ( x) xn
n 0,1,2,
1 , 2n 1 f n ( x) 1
则显然有： f n ( x) 2
n 0,1,2,
所以，对于任意两个实数 0 c1 c2 ，以下不等 式都不可能对所有的n都成立：
c1 f n ( x) 2 f n ( x) c2 f n ( x)
第二章
主要内容
一、向量范数
范数理论
二、矩阵范数与算子范数 三、范数的应用
第一节 向量范数
主要内容：
1· 向量范数的定义及几种常见的向量范数
2· 向量范数的等价性
一、向量范数的定义 对于向量空间 C n 上的任意向量 如果函数
x
, 对应一个实值函数 x
x 0 x 0
Cn R
满足：
于是
齐次性: 由 A max x 0
Ax
x
max
x 0
x 0
Ax
x
x A;
max
Ax
三角不等式和相容性：
n x C A B 对于矩阵 存在 1
x1 1 满足
A B ( A B) x1 Ax1 Bx1 Ax1 Bx1 ( A B)
T
X AX
T

所以 X
X B BX (BX ) X AX 是向量范数。
T
( BX )

1 2
BX
2
定理:设
x 是 C n 上的向量范数, 则 x 是 x1 , x 2 , , x n
的连续函数。
对同一个向量用不同的范数度量其值一般是不等的 ，即 在不同的范数下，两个向量之间的距离是不等的。但我 们将证明它们没有实质上的区别，即范数具有下面所说 的等价性
证明 易验证条件(i)和(ii)成立，现验证条件(iii)也 成立。 下面用到了Chauchy-Schwarz不等式。
x y
2 2
x y , x y ( x, x ) ( x, y ) ( y , x ) ( y , y )
x
2 2
2 x
2
y
2
y
2 2
A A
C, A C mn
A B A B
AB A B
(A, B C nn )
A 称为A的相容矩阵范数。
矩阵范数的性质： (1) A A
( 2) A B A B
矩阵范数同向量范数具有类似的性质，比如等价性：
对于两个矩阵范数

n C 首先任一向量范数是 上的一个连续函数
定义Dn是C n的单位球面(有界闭集)
Dn x ( x1 , x2 ,, xn )T C n

x 2 1

x 0
x Dn x2
因为


是连续函数，
故它在Dn上取到最大值m和最小值M
m
x x2


x x
2
M
mx2 x
数都等价。
i, j
n H 1 2 i 1


1 2
( i ( A A))
称范数 定理1

F
为Frobenius范数或简称F－范数
矩阵Frobenius范数是酉不变的。
mn
mm nn U C V C 则对任意酉矩阵
即设 A C
成立 UAV
F
A
F
对于 C
mn
m n C , C 的矩阵范数与 上的同类向量范数，如果有
x y
x y
n 对任意的 x , y C ，可以利用范数定义向量间的距离如下：
d ( x, y) x y
实例1
在向量空间C n中, 向量的长度是一种向量范数， 称为2-范数或欧氏范数。
x
2
( xi
i 1
n
2
)
1 2
x ( x1 , x2 ,, xn )T C n
根据常用的向量1-范数，2-范数及 -范数得到相应的矩 阵算子范数
A 1 max aij
1 j n i 1 m
列和范数
A 2 max ( A H A)


1 2
谱范数
A max aij
1i m j 1
n
行和范数
谱范数使用起来不方便，但它却有一些特殊的性质，在理 论推导中非常重要。
x 1,2,3
T
x1 6
x 2 14Fra Baidu bibliotek
x

3
引理3.1.1
如果实数
p 1, q 1,
1 1 1 p q
则对于任意非负实数a，b，成立
a p bq ab p q
lder 不等式） o 引理3.1.2（ H 如果实数 p 1, q 1, 1 1 1 则对于任意数组 p q