向量与矩阵的范数

ij
X
2
( xi )
i 1
n
2 12
( X H X )1 2
2
根据Holder不等式可以得到
AX
m 2 2

n

i 1 ij
m
aij x j
j 1 2 n 2 j 1
n

( aij x j ) 2
i 1 j 1
m
n
[( a
i 1 j 1 m n i 1 j 1 2 F
上的任意一种向量范数 ，由等价性知
x(k ) x

x(k ) x x(k ) x .

从而 k
lim x( k ) x

0
的充要条件是 lim
k
x( k ) x 0
。
2.2 矩阵范数 定义 对于任何一个矩阵 A C ，都 有一个实数 A 与之对应，且满足 （1）非负性：当 A 0, 当 A 0, A 0
i 1
i
) ，根据
1
( ai bi )
p i 1
1
p
( ai )
p i 1
n
p
( bi )
p i 1
n
1
p
几种常用的范数 T 定义：设向量 a a1 , a2 , , an ，对任 n 意的数 p 1 ，称 p 1p a p ( ai )
为向量
a
Holder不等式：设
a a1 , a2 , , an , b b1 , b2 , , bn C
T T
n
a
i 1
n
i
bi ( ai ) ( bi )
p p q i 1 i 1
n
1
n
1
q
1 1 1 p q
bi ai v 证：令 u ， ，其中 n m
n m1 n

n
i 1 j 1 k 1
Hale Waihona Puke Baidua
n
ik
bkj aik bkj
i 1 j 1 k 1
[( aik )( bkj )]
i 1 j 1 n k 1 k 1 n
[( aik )( bkj )]
i 1 k 1 n j 1 k 1 n
Ax Ax Am x
H m
A m x
H m
算子范数(如何由向量范数构造与之相容的矩阵范数？) 定理 设 x 是向量的范数，则 Ax A max x0 x
满足矩阵范数的定义，且 A 是与向量范 x 相容的矩阵范数。上面所定义的矩阵范数称 为由向量范数 x 所导出的从属范数或算子范 数。 证明 首先我们验证此定义满足范数的四条性 质。非负性，齐次性与三角不等式易证。现在 考虑矩阵范数的相容性。
H i 1
n
（3）对于任意
A
F
n 阶酉矩阵 U ,V
UA
F
都有等式
F
AH
F
AV
F
UAV
（酉不变性）
关于矩阵范数的等价性定理。
定理 设
A,
A 是矩阵 A 的任意两
种范数，则总存在正数 d1 ,
d 2 使得
m n
d1 A

A d 2 A , A C
与向量范数的相容性
n
1 p q
( bi ) ( ai bi )
i 1 i 1 n 1 p p n 1 p p n
1 p q
[( bi ) ( bi ) ]( ai bi )
i 1 i 1
1 p q
此不等式两端同除以 (
1 1 1 可得 p q
n
a b
i 1 i
n
1 p q
AB
m
n max
i, j i ,k
a
k 1 k, j
n
ik kj
b n max aik bkj
i, j k 1
n
n n max aik max bkj n max aik n max bkj
i ,k k, j
A
m
B

m
因此
A m为矩阵 A 的范数。
例3
所定义的 b是 C n 上的向量范数。
x b Ax a , x C
n
定义 b 是 C 上定义的两 种向量范数，如果存在两个正数 d1 , d 2 使得
设 a,

n
d1 b a d2 b , C
则称向量范数 定理
n
n
a,
b等价。
C 上的任意两个向量范数都是等价的。
代入上述不等式，则有
p
m ai i 1
q
n
p

1
p
n , n bi i 1
q

1
q
ai bi 1 ai 1 bi ( ) p q mn p m q n n n 1 1 p ai bi mn( pm p ai qnq i 1 i 1
第二章 范数理论 2.1 向量范数 定义：若对任意 x C n 都有一个实数 x 与 之对应，且满足： （1）非负性：当 x 0, x 0 只 有且仅有当 x 0, x 0. （2） 齐次性： kx k x , k 为任 意数。 n （3） 三角不等式：对任意 x, y C ， 都有 x y x y .
p
i
ai bi ai bi
i 1 p q
i 1 n
p q p q
ai ai bi
bi ai bi
i 1
n
对上式由Holder不等式可得
a b
i 1 i
n
p
i
( ai ) ( ai bi )
i 1 n i 1 1 n p p
n
1 p p
AB
n
2 F n
aik bkj ( aik bkj )
i 1 j 1 k 1 n 2 i 1 j 1 k 1 n 2
n
n
n
2
n
n
n
2
[( aik )( bkj )]
i 1 j 1 n k 1 k 1 n
( aik )( bkj )
(k ) 1 (k ) 2 (k ) T n
j
max
j
(k ) j
j x
(k )
x

j( k ) j
j 1
k
n
可见 lim
k
(k ) j
j ,( j 1, 2, n)
的充要条件是
lim x ( k ) x

0.
Cn 对于
nn
A 0 ，当且仅
（2） 齐次性： kA k A , k 为任意复数。 A, B C nn 都有 （3） 三角不等式：对任意 A B A B nn （4）相容性：对于任意 A, B C ，都有 AB A B 则称 A 是矩阵 A 的范数。
例1 对于任意
m
1
A (aij ) C ，定义
1 1 n mn( ) ai p q i 1
p
b
i 1
1 q
n
q
i
)

1
p
n bi i 1
q

Minkowski不等式：设
T
a a1 , a2 , , an , b b1 , b2 , , bn C
则称 x 为C n 上向量 x 的范数，简称向量范数。
例： 在 n 维线性空间 C n 中，对于任意的 向量 (a , a ,, a )T C n 定义
1 2 n
(1) (2) (3)
1 ai
i 1
n
2 ( ai )
i 1
n
2 12


max ai
1i n
的 p 范数。
a 1 ai
i 1
n
i 1
n
（1）1－范数
（2）2－范数(也称为欧氏范数)
a 2 ( ai )
2 1 2
(a H a)1 2
1 i n
（3）－范数
i 1
a

max ai
利用向量范数可以构造新的向量范数。
a是 C m 上的向量范数，且 例1 设 mn A C , rank ( A) n ，则由
向量范数的应用：
C 中的向量序列 {x ( k ) } ，其中 定义：给定
( ( {x(k ) } (1( k ) , 2k ) ,nk ) )T , k 0,1, 2,
n
如果
(j k ) j , ( j 1, 2, n) lim
k
则称向量序列 {x } 收敛于{x} (1 , 2 ,n ) , {x ( k ) } 收敛，记为 lim x( k ) x, ( j 0,1, 2,n) 简称
2 2 i 1 k 1 2 F j 1 k 1
n
n
A
B
2 F
于是有
AB F A F B F
Frobenious范数的性质：
（1）如果 A
2
1
n i 1
2 n
2 2
，那么
A F i
（2） A
2 F H
Tr ( A A) i ( A A)
定义 设 x 是向量范数， A 是矩阵范 数，如果对于任何矩阵 A 与向量 X 都有
Ax

A

x

则称矩阵范数 A 与向量范数 x 是相容 的。 例1 矩阵的Frobenius范数与向量的2-范数 1 是相容的. m n 2 2 证明 因为 A ( a )
F

i 1 j 1
(k )
T
k
不收敛的向量序列称为是发散的。
C 中的向量序列 {x ( k ) }收敛于 x 的充要 定理：
条件是对于 C n 上的任意一种向量范数 ，都 x( k ) x 0 。 有 lim k
证明：设 x 则有 (k )
j
n
(k )
x (1 , 2 ,n )T , ( , , ) ,
证明：
1, 2 ,
' '

都是 C n上的范数，并且还有
(1)


1n
2
(2) (3)
2 1 n
2
'
n
引理 设 u , v 均为非负实数，则总有
u v uv p q
p
q
p 1, q 1 1 1 1 p q
T
n
则对任何 p 1 都有
( ai bi )
p i 1
n
1
p
( ai )
p i 1
n
1
p
( bi )
p i 1
n
1
p
p 证明 以 q 代入下式 p 1 n n p ai bi ai bi ai bi
i 1 n
p 1
则
a b
i 1 i n i 1
对于任意 A C nn ，定义
n n 2 1 H 1 H 1 2 i 1 j 1
A F ( aij ) 2 [Tr ( A A)] 2 [Tr ( AA )]
可以证明 A F也是矩阵 A 的范数。我们称此 范数为矩阵 A 的Frobenious范数。 证明 此定义的非负性，齐次性是显然的。 利用Holder不等式和Minkowski不等式容易 证明三角不等式。现在我们验证乘法的相容 性。 nn nn 设 A C , B C ，则
由 A max
x0
Ax x

A
Ax x
x0
Ax A x
AB

max
ABx x


max(
x0
A Bx x


)
A max
x0
Bx x
A B

因此 A 的确满足矩阵范数的定义。
由向量 P--范数 x 矩阵P--范数。即
n
nn
A m aij
i 1 j 1
可以证明如此定义的 数。
A m为矩阵 A 的 m1 范 1
证明 只需要验证此定义满足矩阵范数的 四条性质即可。非负性，齐次性与三角不 等式容易证明。现在我们验证乘法的相容 nn nn 性。设 A nC n , nB C ，则 n n n
AB
n
n
( aik )( bkj ) A
i 1 k 1 j 1 k 1
n
n
m1
B
m1
例2 设矩阵 A C

nn
，证明：
A m n max aij
i, j
是矩阵的
m 范数。
证明：非负性，齐次性和三角不等式容易 证得。现在我们考虑相容性。设 nn nn A C , B C ，那么
p 所诱导的矩阵范数称为
)( x j )]
n 2
( aij )( x j )
2 j 1
A
X
2 2
于是有
AX
2
AF X
2
如何由矩阵范数构造与之相容的向量范数？
定理2 设 x 使得
A m是矩阵范数，则存在向量范数
Ax A m x
证明 对于任意的非零向量 ，定义向量范 x x H 数 ，容易验证此定义满足向量 m 范数的三个性质，且