矩阵范数理论及其应用

p p
n 定理 1：对于 n 维向量 x C ， lim x
x 。
注：几何意义上，向量 PQ 的 2-范数、 ∞-范数和1-范数分别是斜边 PQ 长度、直角边 PR 长 度以及两直角边 PR 和 RQ 的长度之和。
三、范数的等价性
定义 3：对任意 x V ，满足不等式 C1 x

x
性质 2：设 P 为 n 阶可逆矩阵，对于 n 维向量 x Cn ， x 为 C n 中的一个范数，令 1
x 2 Px 1 ，则 x 2 也为 C n 中 x 的范数。
证明：(1)非负性： x 0 时， Px 0 ， x (2)齐次性： ax
2
2
Px 1 0 ； x 0 时 , x 2 0 1 0 。
2

C2 x 的两种范数称为是等价的。

n 定理 2：对于 n 维向量 x C ，总成立着 x
x 1 n x 2， x
x 2 n x ，
x

x 1 n x ， x

x
p
n x 。
p
定理 3：设 1 , 2 ,
n
, n 是 n 维赋范线性空间 E 的一组基，则存在正数 A, B ，使得对一切
定义 1：设 A C 为 A 。
F
n n
，称 [tr ( A A)]
H
1
2
( aij ) 2 为 A 的 Frobenius 范数或 F -范数，记
2 1 i , j 1
n
F
性质 1： A
满足范数公理构成 C
nn
中范数，并且 E
n n
F
n 1。
nn
定理（ F -范数的酉不变性）：设 A C
n
n
, n 是 n 维赋范线性空间 E 的一组基，对任何 x k k E ，令
k 1
n , n ， 则 T 为 E 到 P 上的同构映射， 并且由 A x Tx B x 可知，T 与
n
Tx 1 , 2 ,
T 1 均为连续映射，从而 E 与 P n 是同胚的。
1
n 2 2 x k k E ，成立着 A x k B x 。 k 1 k 1
证明： x

k 1 k
n
k
0 时，令 y
x

k 1
n
， f (1 , 2 ,
2 k
, n ) y ，则 f (1 , 2 ,
1i n 1i n j 1 1i n j 1 1i n j 1
n
n
n
令 M max
1i n
a
j 1
n
ij
，则 Ax

M x ，从而 A
a( Px) 1 a Px 1 a x 2 ， a K ， x V 。
2
(3)三角不等式： x y
n
Px Py 1 Px 1 Py 1 x 2 y 2 ， x, y V 。
因此， x 2 为 C 中 x 的范数。 注：内积空间是赋范线性空间，但赋范线性空间不一定构成内积空间。
a
x b B x a。
n b
x b 等价时， lim xn 推论：范数 x a ，
n
a
0 等价于 lim xn
0。
注：在 C 中，各种 p -范数均是等价的，从而对于不同的问题可灵活选用适当的范数。 结论 2： n 维赋范线性空间必与 n 维向量空间 P 同构并且同胚。 设 1 , 2 ,
,n。 i a i j j， i 1, 2,
j 1
Ax 1 y 1 i aij j ( aij j )
i 1 i 1 j 1 i 1 j 1
n
n
n
n
n
( aij j ) ( j
j 1 i 1 j 1
F
n， 相容性： AB A B ， E 1 ）
3、算子范数（定义，列范数，行范数，谱范数） 4、矩阵范数的应用（矩阵序列及幂级数的收敛性，矩阵条件数，摄动理论、矩阵的谱半径）
§ 4.1 向量范数及其性质
一、范数与赋范线性空间
定义 1：如果线性空间 V 中的任一向量 x ，都对应 —个实值函数 f ( x) （记为 x ） ，并满足 以下三个条件（称为范数公理）： (1)非负性： x 0 时 ,
注 2：当 x 0 时， 例 3： Ax
Ax V xV
x 2。
A(
x ) xV
A
V
M
，从而 max
x 0
Ax V xV
A
M
。
2
A
F
注：视矩阵为线性变换时，通常要求线性变换是连续即有界的，因此自然有了相容性（包括 范数的相容性）要求。
§ 4.3 矩阵的算子范数
一、算子范数的概念
定义： A T max
j 1
设 A ( aij ) C
n
n n
， x (1 , 2 ,
, n )T C n ， 令 Ax y (1 ,2 ,
,n )T ， 其 中
,n。 i a i j j， i 1, 2,
j 1
Ax

y

max i max aij j max ( aij j ) x max aij 。
i , j 1
n
2 1
2
[tr ( AAH )] 2 AH
AH
1
F
及 Q H 也为酉矩阵可得，
AQ
F
( AQ) H
F
Q H AH
F
F
A F。
推论：酉(或正交 )相似变换下矩阵的 F -范数保持不变。 定义 2：设 A C 性质 2： A
n n
，称 A
M1

i , j 1
x 0
Ax V xV
。
注：一般算子范数的求解步骤：1、 Ax
V
K x V ；2、 x0
V
=1 ， Ax0
V
=K 。
二、算子范数的性质
性质 1： Ax 性质 2： AB
V
AT xV。 AT B T。
x V 1 V
T
性质 3： A T max Ax 性质 4： E
T
A M （假设 A M 与 x V 具有相容性）。
,T 0) ，则 x0 1 1 ，并且
n
Ax0 1 aij0 M ，因而 A 1 M 。由此可得， A 1 max aij 。
i 1 1 j n i 1
2、行范数： x

max ai ， A max aij 。
1 i n
n
1i n
2 1 i 1
n
x

max i ，称为 x 的 -范数，记为 x ，由此诱导出的距离称为棋盘距离（也
1i n
称契比雪夫距离）。
x
x
p
( i ) p ，称为 x 的 p -范数，记为 x p 。
p i 1
n
1
P
Px 2 x H P H Px ，称之为加权范数或椭圆范数，其中 P 为可逆矩阵。
结论 3： n 维向量序列 xk (1 , 2 ,
k k

, nk )T C n 收敛于向量 x (1 , 2 ,
, n ，即按坐标收敛。
, n )T C n 的
充分必要条件为 lim i i , i 1, 2,
k k
§ 4.2 矩阵范数及其相容性
一、常见的矩阵范数
n
n
n
aij ) x 1 max aij 。
i 1 1 j n i 1
n
n
令 M max
1 j n
a
i 1 n i 1
n
ij
，则 Ax 1 M x 1 ，从而 A 1 M 。
j0
不妨设 M
n
a
ij0
， 1 j0 n 。取 x0 (0,
, 0,1, 0,
第四章 矩阵范数理论及其应用
知识要点： 1、向量范数及其性质（范数与赋范空间，n 维向量的 1-范数 x 1 、2-范数 x 2 、 p -范数 x 和 范数 x

p
， lim x
p
p
x ， x
Pa
Px a ， x
P
Px 2 x H P H Px ，有限维赋范
空间的范数是等价的） 2、 矩阵范数及其相容性 （ Frobenius 范数， E
, n )
是有界闭集超球面

k 1
n
2 k
1 上连续函数，从而必能取到最小值 m 和最大值 M ，且显然
m 0 。取 A
1 1 , B ，即可证得定理的结论。 M m
x b， 结论 1：有限维赋范空间的范数是等价的，即对于 n 维赋范线性空间 E 中的范数 x a ，
存在正数 A, B ，使得对一切 x E ，成立着 A x
中范数，且 P, Q C
F
都是酉矩阵，则
n n
PA
F
AQ
F
A F ，即给 A 左乘或右乘以酉矩阵后其
值不变 (在 A R
时P 和
Q 都是正交矩阵 )。
证明： PA
F
[tr ( AH P H PA)] 2 [tr ( AH A)] 2 A F 。
1
1
由 A
F
( aij )
a
n
ij
为 M 1 -范数， A
M
n max aij 为 M -范数。
1i , j n
M1
M1
, A
M
满足范数公理构成 C nn 中范数，并且 E
n 1， E
M
n 1 。
二、矩阵范数的相容性
定义 3：满足条件 AB A B 的矩阵范数称为具有相容性。 注：工程应用中的矩阵范数常要求满足非负性、齐次性、三角不等式和相容性，因此下文中 矩阵范数总假定具有相容性。 性质 3：满足相容性的矩阵范数必有 E 1 。 性质 4：若 A 可逆，则 A A 例 1： Frobenius 范数 A 例 2： M 1 -范数 A
二、 n 维向量的 p -范数 (1 p )
定义 2：对于 n 维向量 x (1 , 2 ,
n
, n )T C n ，
x 1 i ，称为 x 的 1-范数，记为 x 1 ，由此诱导出的距离称为街区距离。
i 1
x 2 ( i ) 2 ，称为 x 的 2-范数，记为 x 2 ，由此诱导出的距离称为欧氏距离。
x ＞ 0； x 0 时 , x =0。
(2)齐次性： ax = a x , a K ， x V 。 (3)三角不等式： x y ≤ x + y ， x, y V 。 则称 x 为 V 上向量 x 的范数（ norm）， V 称为赋范线性空间（ normed linear space）。 易证 x y 满足距离公理， 称之为 x 与 y 的范数诱导的距离。 若 xn x 0 ， 则称 xn 收敛于 x ，记为 xn x 。 例 1：对于连续函数空间 C[a, b] 中的向量 f ( x) ，可如下定义范数为： f (t ) 1
1。
三、常见的算子范数
1、列范数： x 1
ห้องสมุดไป่ตู้
ai ， A 1 max aij 。
i 1 1 j n i 1
n n
n
n
设 A ( aij ) C
n
， x (1 , 2 ,
, n )T C n ， 令 Ax y (1 ,2 ,
,n )T ， 其 中

b
a
f (t ) dt ，
f (t )

max f (t ) ， f (t )
a t b
p
b p f (t ) dt a
1
p
， 1 p 。分别称之为 1-范数， -
范数， p -范数。 注：需要用到数学专业的一些函数不等式，才能证明上述范数的正确性。 性质 1：对于赋范线性空间 V 上任意的 x ，定义实函数 f ( x ) x ，则 f ( x ) 为 V 上的连续 函数，即 x x0 时， f ( x ) f ( x0 ) ，其中 x0 V 。 证明：由 f ( x) f ( x0 ) x x0 x x0 可知， x x0 时， f ( x ) f ( x0 ) 。 因此， f ( x ) 为 V 上的连续函数。
M1
1
1。
F
具有相容性。
M
和 M -范数 A
具有相容性，但范数 A max aij 不具有相容性。
1i , j n
三、矩阵范数与向量范数的相容性
定义 4：若 Ax 注 1： x
V V
A
M
x V ，则称矩阵范数 A M 与向量范数 x V 具有相容性。
0 时， Ax V 0 ，即 Ax V 是 x 的连续函数或 Ax 是 V 上线性连续算子。