中科院矩阵分析_第二章

第 2 章范数理论及其应用
2.1向量范数及I p范数
定义：如果V 是数域K 上的线性空间，且对于
V的任一向量x，对应一个实数值ixil,它满足以下三个条件：
1）非负性：||x|| 0,且||x||=0 x=0; 2）齐次性：iikxii=iki iixii，k K；
3）三角不等式：||x+y|| ||x||+||y||.
则称||x|为V上向量x的范数，简称为向量范数。

可以看出范数||||为将V映射为非负数的函数。

注意：2）中|k|当K为实数时为绝对值，
当K 为复数域时为复数的模。

虽然向量范数是定义在一般的线性空间上的，但是由于前面的讨论，我们知道任何n 维线性空间在一个基下都代数同构于常用的n维复（或实）列向量空间, 因此下面我们仅仅讨论n 维复（或实）列向量空间就足够了下面讨论如下：1•设||||为线性空间V n的范数，任取它的一个
基X i,X2,…,X n,则对于任意向量X,它可以表示为
x= 1X1+ 2X2+ …+ n X n
其中，（1, 2,…,n）T为X的坐标。

由此定义C n（或R n）中的范数如下：
|| ||C = （） = || 1X1+ 2X2+ …+ n X n||
则容易验证|| ||C确实为C n中的范数.
2•反之，若|| |C为C n中的范数，定义V n的范数如下：||X||= （X）=|| ||c
其中X= 1X1+ 2X2+ …+ n X n。

则容易验证（X）确实为V n的范数。

这个例子充分说明了一般线性空间的范数和n维
复（或实）列向量空间的范数之间的关系。

这也是为我们只讨论n 维复（或实）列向量空间的范数的理由.
范数首先是一个函数，它将线性空间的任意向量映射为非负实数。

范数与函数
性质 1. 范数是凸函数，
即|| （1 ）X+ y|| （1 ）||X||+ ||y||
其中0
向量的范数类似于向量长度。

性质 2. (范数的乘法) 若|| ||为线性空间V 上的向量范数，则k|||| 仍然为向量范数, 其中k > 0.
性质3.设||||comp为R m上的范数，且对x (R+)m为单调增加的(即，若x,y (R+)m, 且X i y那么IXI Comp lyil comp 成立•),那么，对于给定的m个n维线性空间V上的范数||||i,i=1,2,…,m，我们可以定义一个复合范数为llxll=llU(x)ll comp , 其中，
U(X)=( ||X||1,||X|2,…,||x||m)T. 证明：非负性和齐次性是显然的，仅需
证明三角不等式。

llX+yll=ll U(X+y)ll comp
l|U(x)+U(y)|| comp(因U(x+y) U(x)+U(y)) llU(X)ll comp+ll
U(y)ll comp
=llxll+ll yll
例如•若||||f和||||g为线性空间V上的两个向量范数，则
(1) . llll f + |||g为V上向量范数。

(2) . max{ || |f, ||||g }为V 上向量范数。

⑶[(lll f)2+ (ll ll g)2]1/2
为V 上向量范数。

性质 4. (范数的合成)
设n 维线性空间V= V1 V2 … V m, 且|川i,i=1,2,…,m,为线性子空间V i 上的范数，而||||comp为R m上的范数，且对x (R+)m为单调增加的(即，若x,y (R+)m,
且X i y i,那么|X||comp ||y||comp 成立•)，则对任意x V,存在唯一的分解
X=X i+X2 +…+X m
其中x i V i,
这时定义x 的范数为llxll=llU(x)ll comp, 其中，U(X) =
( ||X i||i,||X2||2,…,|X m||m)T. 证明类似于性质3.(略)
定义：线性空间V的闭凸集若满足,x ，则x 其中| | 1，那么为均衡闭凸集。

性质 5. (范数与凸集,又称为范数的几何性质)
若|| ||为线性空间V 上的
向量范数，集合二{x: ||x|| 1}为V上均衡闭凸集。

反之，若为V 上的均衡闭凸集，且含有内点，即包含一个小的单位球。

则可以定义函数P(x) 如下：当x 0 时，
P(x)= min { > 0:x/ }
当x=0时，P(x)=O.则P(x)为V上的范数。

证明：1). 显然P(x) 0, 且P(0)=0.
下面我们证明若P(x)=0, 则x=0;
用反证法，设x 0,则由P(x)的定义，任给
>P(x)=0, 则有x/ 。

因为为有界集。

即存在常数M>0 使得
对任意y , ||y|| M. 其中||||为某一给定的范数。

令y=x/，则得到||x/ || M,即||x|| M,由于为任意大于0的数，若令0则有||x||=0。

因||||为范数，
从而x=0. 这样，我们就证明了1).
2) .若x=0,贝S P(k x)=|k|P(x)显然成立。

假设x 0, 由于x/P(x) ,且
任何P(x), x/ ;
而任何< P(x), x/ .
显然k x/P(kx),则[(k/|k|) {x /[ P(kx)/|k|] } 注意k/|k|的幅度为1,从而由的均衡性，我们有x /[ P(kx)/|k|] ，这样由定义有
P(x) P(kx)/|k|, 即
|k|P(x) P(kx). ( )
同样由于x/P(x)，注意到k/|k|的幅度为1,
从而(kx)/(|k| P(x))，由定义有
P(kx) |k|P(x) ( )
联合( )和( ), 我们有P(kx)=|k| P(x).
(3) . 设x 0,y 0, 则x/P(x) , y/P(y) ,
令=P(y)/(P(x)+P(y)), 由于为凸集,
从而
(x+y)/(P(x)+P(y))=(1 ) x/P(x)+ y/(P(y) ,
这样有P(x+y)的定义，我们有
P(x+y) P(x)+P(y).
当x 和y 有一个或全部为0 时,显然三角不等式
仍然成立。

联合1）, 2）和3）,从而P（x）为范数。

这个性质说明了范数和均衡凸集之间的
例1:向量的p范数：
||x||p二{|X1|P+|X2|P+ …+|X n|P}1/p
取p=1,2,和便分别得到1范数，2范数和范数。

即||x|1 = |X1| + |X2| +…+|X n| ||X|2={|X1|2+|X2|2+ …+|X n|2}1/2 ||X||二max i |刈
其中||||2范数为由内积导出的范数。

Holder不等
式
n
|a i b |
i 1
p,q>1, 1/p+1/q =1.
例2.若A为可逆变换，|||为线性空间V的范数，则||x|| =||Ax||仍为V的范数.
例3.（加权范数）设A为实对称正定矩阵，对x R n,定义||X||=（X T A X）1/2称为加权范数。

范数有无穷多，但它们彼此等价。

即定理（范数的等价定理）：设||x||和||x||为有限维线性空间的任意两个范数，则存在与X无关的两个大于0常数C1,C2使得下面式子成立：
C1||X|| || X|| C2||X||
证明思路1）范数等价为等价关系，满足传递性;
2）任意范数为坐标函数的连续函数；
3）在单位超球面上有大于零的极大极小值，
与2-范数等价。

利用范数等价证明: 向量收敛的两个定义一致性. 即：
均衡凸集与范数
n
1/p
|a i |p
i 1
n
1/q
|b i|q
i 1
向量序列｛x(n)｝收敛于x指每个分量数列｛K(n) X i｝收敛于0 向量序列｛x(n)｝收敛于x指范数数列｛||x(n) x||｝收敛0。

矩阵范数
定义2.3设A C m n,定义一个实值函数它满足以下三个条件：
1) 非负性：||A|| 0,且||A||=0 A=0;
2) 齐次性：||kA||=|k| ||A||，k C；
3) 三角不等式：||A+B|| ||A||+||B||.
则称||A||为A的广义矩阵范数。

很明显矩阵按广义范数收敛和分量收敛是等价的。

即：
1•矩阵序列A(n)收敛于A指矩阵的每个元素数列a j(n) a j收敛于0 2•矩阵序列A(n)收敛指矩阵的广义范数数列｛ ||A(n) A || ｝收敛于0。

广义矩阵范数可以看成将矩阵按列写成向量的形式，然后定义的向量范数。

a1
A=[a i,a2,…,a n],写成vec(A)二a2
这样，对vec(A)定义向量范数，就可以得到相应的广义矩阵范数了。

这样所有已经讨论的关于向量范数的性质和构造方法都可以用来构造相应的广义矩阵范数了。

若对C m n ,C n 1 ,C m 1的同类广义矩阵范数||.|| 有
4) . 相容性：||AB|| ||A||||B|| 则称||A||为A的矩阵范数。

对于方阵可以有如下定义的相容性：
若对C n n的广义矩阵范数||.||,若有
4）. 相容性：||AB|| ||A|| ||B|| 则称||A||为A的矩阵范数。

可见对于方阵的广义矩阵范数的相容性定义，不需要讨论这个广义矩阵范数的定义规则是否可以应用于其他维数大小的矩阵。

这个是很好理解的，毕竟方阵是线性空间中变换的矩阵表示形式，而一般矩阵是两个不同线性空间之间线性映射的矩阵表示性质。

性质：若||||为C n n的相容的矩阵范数, 则||X|| =||SXS ［仍为相容的矩阵范数。

向量范数和矩阵范数的相容性：
定义2.4对于C m n上的矩阵范数||.|M和C m 与C n的同类范数||.|V,如果
l|Ax||v ||A||M ||X|V，任给A C m n，x C n
则称矩阵范数||.|M和向量范数||.|V相容。

（在这个定义中，同类的向量范数||.|V不一定就是由矩阵范数||.||M 导出来的）
定理（存在性）任给||.|M是C m n上的矩阵范数, 存在c m和c n上的同类向量范数满足
||Ax||vm ||A||M ||x|Vn任给A C mn，x C n 证明：任取C n中不为0的向量a,
定义||x|Vm = ||X a H||M , x C m;
设l|.|N为和l|.|M同类的为c n n的矩阵范数，定义||y||Vn=||ya H||N, y C n;
易验证||x|Vm, ||y|Vn分别为C m,C n的向量范数。

从而利用矩阵范数相容性可得任给y C n, ||Ay||Vm=||Aya H||M=||A（ya H）||M
||A||M||ya H||N=||A||M||y||Vn 从而成立结论。

（此处，实际上定义的同类向量范数为
||x||=||xa H||,和x的维数无关。

而右边就是那个同类的矩阵范数||
|M。

)
例：Frobenius范数或称F-范数和||.|2范数相容. 二[Tr(A H A)]1/2=( |可|2)1/2
从属(算子)范数
定义:设C m与C n的同类范数||.|，对于c mn上的矩阵A定义函数：||A||=max||Ax||
是C m n上矩阵范数，且与已知的向量范数相容. 称为之由向量导出的范数，从属范数或算子范数。

这时我们实际上将A看作线性映射的矩阵表示
定理设A=(a j) C m n,x=( 1, 2,…,n)T C n
则从属于向量x的三种范数||x|1,||x|2和||x|| 的矩阵范数依次是：
m
1) ||A||1=max |a j|;(列范数)
j
i 1
2) ||A||2=「1，其中1为A H A的最大特征值；
m
3) ||A|| =max |a ij |;(行范数)
i
j 1
必须特别注意，所有广义矩阵范数都是相互等价的。

范数的应用
1.矩阵非奇异性条件
定理：设A C n n,且对C n n的某矩阵范数||.|| 满足||A||<1则矩阵I A非奇异，且有
1) ||(I A) 1|| ||I||/(1 ||A||)
2) ||I (I A) 1|| ||A||/(1 ||A||)
证明需要利用给定矩阵范数存在和它相容的向量范数。

逆矩阵的摄动
定理2.8设矩阵A, B C n n, A非奇异，且对
C n n的某矩阵范数||.|满足||A乜||<1,则
1) 矩阵A+B 非奇异；
2) F=I (I+A 1B) 1,||F|| || A 1B ||/(1 || A 1B ||)
3) IIA 1 (A+B) 1||/|| A 1|| ||A 1B||/(1 ||A 1B||) 特别地 设 B= A,
cond(A)=||A|| || A 1||
则有
con d(A)LAU
HA 1 (A+ A) 1|| 川 A 1|| ---------------
1 cond(A)—— ||A||
其中Cond(A)称为A 的条件数，反映矩阵 的摄动对其逆的影响。

矩阵的谱半径及其性质
定义设A C n n 的n 个特征值为1, 2,…,n , 称(A)= max i | i |为A 的谱半径. 定理.设A C n n ,则对A 的任何一种矩阵 范数||.|有 (A) ||A||.
证明：对矩阵范数构造相应的相容向量范数
||.|Vn ，从而有
设为A 的任意特征值，x 为相应特征向量， 则有 | | ||x||Vn =||
X||Vn =||Ax||Vn
||A||||x|Vn .
从而有| | ||A||,由题设
(A) ||A||.
定理2.10设A C n n ,对于任意的正数＞0, 存在某种矩阵范数|||M ,使得
(A)+
1.29,存在可逆矩阵
n 1
其中i 等于0或1。

记对角元矩阵为，即
=diag( 1, 2,…,n )
令 D=diag(1,,…,n 1),S=PD,那么
||A||M 证明：根据定理 P C n n 使得
P 1AP= + ~
0 1
0 2
S1AS= + ~
显然有||S1AS||i=|| + ~|1 (A)+
从而定义矩阵X c nn的范数为
l|X|M=||S 1XS||I
从而有
||A||M=||S1AS||I(A)+
证毕.
注意，我们给出的范数定义和矩阵A有关。

实际上不存在这样的矩阵范数对任意矩阵都成立。

矩阵A的矩阵范数与谱:
矩阵范数|| ||
||A||2
矩阵A。