线性方程组解法 第2节 向量范数等价性证明

则 A ( A). 2
如果 B， 1 则 I 为非B奇异矩阵，
且
(I B)1 1 , 1 B
其中‖·‖是指矩阵的算子范数.
证明
用反证法.
有非零解， 即存在
若 det( I, B) 0 x0 0 使 Bx0, x0,
则 (I B)x 0 Bx0 1 x0
故 x0 Bx，0 B x0
1
n
(b) x 1
xi
i1 n
xj
nxj
n x ，
i 1
i 1
即x x
x
x1
n nx
1
x
。
注：
Rn上一切范数都等价（证 明见后）。
向量范数概念可以推广到矩阵.
R nn
中的向量R，n2
R中矩nn阵的一种范数
F ( A)
1
A
F
i,
n
ai2,
j 1
j
2
,
称为 的AFrobenius范数.
x*R n , 记
x(k ) (x1(k ) , x2(k ) , , xn(k ) )T , x* (x1*, x2*, , xn* )T .
如果
lim
k
xi(k
)
xi* (i
1,2,
, n),
则称
x收(敛k ) 于向量 ，
x*
记为
lim x(k ) x*.
k
25
定理7
( N的(连x)续性)
B 1 与假设矛盾.
又由
(I B，)有(I B)1 I
16
(I B)1 I B(I B)1,
从而
(I B)1 I B (I B)1 , (I B)1 1 . 1 B
17
向量范数等价性证明
向量范数概念是三维欧氏空间中向量长度概念的推广， 在数值分析中起着重要作用.
定义1
设
x (x1, x2 , , xn )T , y ( y1, y2 , , yn )T R（n 或 ）C.n
将实数
（或复数 称为向量
n
(x, y) yT x xi yi i 1
( x, y) ）y H x n xi yi i1
的x数, 量y 积.
18
将非负实数
1
x
2
1
(x, x) 2
x ||1
n
||
x ||2
；
定理19
范数的等价性
x, y Rn，有
(1) || x || || x ||2
n
||
x
||
；
(2) || x ||2 || x ||1
n
||
x
||2
；
(3)
||
x || ||
x ||1
n
||
x ||
。
证明： 记x x1
xn
T,
n
||
x ||
2定. 义常1用0的向设量x范数( x1,
（1）向量的“∞”范数： （2）向量的“1”范数：
,
xn )T Rn (或 x C n )
N
(x)
||
x ||
max
1inn
xi
N 1 ( x) || x ||1 xi
x ；
；
y
x y
（3）向量的“2”范数：
N2(x)
x ( x, x)i1/12 ( n 2
1in
i
(特征值上界)
设 A , R nn
则 ( A), A
即 的A谱半径不超过 的任何一A种算子范数(对 亦对).
A F
证明
x 设 是 的任A一特征值， 为相应的特征向量，
则 Ax， x 由相容性条件 (5.7) 得
注意到
x x Ax A x ,
x, 即得0
A
15
定理4 定理5
如果 A 为R对n称n矩阵，
R上n的2 2范数
显A然满足正定性、齐次性及三角不等式. F
定义 实值函数
(矩阵的范数) N (, A) A
如果矩阵 满足条件
A R nn
5
1. A 0 ( A 0 Ax0 ) (正定条件),
（5.4）
2. cA c A , cRn (齐次条件);
3. A B A B (三角不等式);
如果向量
个实值函数 N，(x满)足条件x：
x(或 R)的n某 Cn
1. x 0 ( x 0 当且仅当x0 ) ( 正定条件），
2. x x , Rn (或Cn ),
（1）
3. x y x y ( 三角不等式），
则称 N是( x)(或 R)上n的一个C向量n 范数(或模).
由(3)
x x y y x y y .
种度量.
也可以用其他办法来度量向量的“大小”.
例如，对于
x 可(以x1用, x一2个)T 的函R数2 ,
x
N (x)
来m度a量x i 1,2
x的i “大小”，x而且这种度量“大小”的方法计算起来比欧
氏范数方便.
一般要求度量向量“大小”的函数 满足正定N性、( x) 齐次性和三角不等式.
21
定义2
(向量的范数)
x0, 1 且 A的x第0 个分量i0为
，n ai0 j x j n ai0 j
j 1
j 1
这说明
11
n
n
Ax0
max
1in
aij x j
j1
ai0 j
j1
.
3. 由于对一切
xR n , Ax 2 ( Ax, Ax) ( AT Ax,x)0, 2
从而 A的T特A征值为非负实数，
A 2
max ( AT A)
15
221 5.46.
对于复矩阵(即
)定理A18中C的n第n 1,2项显然也成立，3应改为
A
2
max x0
x
H AH Ax xH x
1/ 2
max ( AH A).
14
定义
设 A 的R特征nn值为
, i (i 1,2, , n) 称
为 的A谱半径.
定理3
(
A)
max
2 i
n i 1
y i2
注：证“1”范数时，用
n
n
n
xi yi xi yi 。
3. 范数的等价性 定理20 x, y
R
i 1
n，有
(1) || x || || x ||2 n || x ||
(3)
||
x ||
||
x ||1
n
||
x ||
。
；
(2)
||
i 1
x ||2
||
i 1
aij x j
j1
max i
aij
j1
xj
n
t max i
j1
aij .
10
这说明对任何非零 ， x R n 有
Ax
.
x
（5.8）
接下来说明有一向量 ,
x0 0
使
Ax0 .
x0
n
设
，
ai0 j 取向量 x0 ( x, 1, , xn )T 其中
j 1
显然
x j sgn( ai0 j ) ( j 1,2, ,n).
(称为A的列范数),
9
3.
A 2
max ( AT A)
(称为A的2范数）.
其中 max表(示AT A的) 最大特A征T值A.
证明
只就1，3给出证明，2同理.
1. 设 则
x ,(不x1妨,设 , xn. )T 0
记
A0
t
x
max
1in
xi ,
n
max 1in
j1
aij ,
n
n
Ax max 1in
上
由 即对柯证事西|明实|xx|：上,不 |yx，y等 只||R22验 式 y|n|||,x证2||（ |(有 ||||xx三|xx|y||||||x,||2222角||x222y||)不 222(||x|||y等 |||y|||xx|||x2|式y2|y|||,)|22|||2x|， |2||||2xyy。并 |y|||||||)22y且 2||(以2|||x|,||,则“ yyyx||)|||2|22222”。2(范x,数y)i为n1( 例 xy,iCy。 ya)，iuc2hy不等in1式x
xi
即xx xx
i 1
(b)
x 2 1
n
i 1
xi
nn xx ；
n i 1
xj
2
n xj
2
n ||
x
||2
x
2
2 2
n
2
xi
i1 n
n xi
i 1
x
2
1
2 n
x
2
2
x
2
x 1
x
nx ,
，
1
nx ， 2
22
11
(3)
22 (a) x x j
n
xi
x
，
22
从而有
y yxx yx x .
4. x y x y .
几种常用的向量范数.
1. 向量的 -范数(最大范数)：
x
max
1in
xi
.
2. 向量的1-范数：
n
x 1
xi .
i 1
23
（2）
3. 向量的2-范数：
1
n
1
x (x, x) 2 ( 2
xi2 ) 2 .
i 1
也称为向量 的欧x氏范数.
3. (x, y) ( y,x)(或(x, y) ( y,x));
4. (x1 x2, y) (x1, y) (x2, y);
5. (Cauchy-Schwarz不等式)
来自百度文库
(x, y) x y ,
2
2
等号当且仅当 与 线x性相y关时成立；
6. 三角不等式
x y x y .
2
2
2
20
向量的欧式范数可以看成是对 中向量“大小R”n的一
Ax A x .
（5.5）
定义
(矩阵的算子范数)
设 x , R n， A R nn
给出一种向量范数 (如 x 或∞)，相v 应地1,定2义一个矩阵的非负函数 v
Ax
A max
v.
v
x0
x
v
可以验证 满足A定义4，所以 是 v
个范数，称为 的算子范数.
A
上矩阵A的一 v
R nn
（5.6）
7
定理1
v A B .
v
x0
x
v
v
v
显然这种矩阵范数 依赖于具A体的向量范数 .
x
v
v
也就是说，给出一种具体的向量范数 ，相应地就可x 得到一种矩阵范数 . v
定理2
A v
设 x , R n，则A R nn
n
1.
A
max
1in
j1
aij
(称为A的行范数),
n
2.
A max 1 1 jn
i1
aij
2
ci21
i1 n ci2
1.
i1
另一方面，取 ，则x上式等u1号成立，故
Ax
A max
2
2
x0 x
1
max ( AT A).
2
例
设 A ，13计算4的2各 种范数. A
解
A max{ 1 3, 2 4}6,
1
13
A max{ 1 2 , 3 4}7,
A 12 (2)2 (3)2 42 5.477, F
4. AB A B .
则称 N ( A)上的R一n个n矩阵范数(或模).
上面定义的
F ( A) 上的A一F个矩阵范R数n.n
由于在大多数与估计有关的问题中，矩阵和向量会同
时参与讨论，所以希望引进一种矩阵的范数，它和向量范
数相联系而且和向量范数相容的.
6
即对任何向量 及x R n都成立A R nn
max |
1in
xi
||
xj
|，
于是有
(1) (a) || x ||2 | x j |2 | xi |2 || x ||22 || x || || x ||2 ，
i 1
(b)
||
x
||22
n
xi 2
||即x
||x
||x
(2)
|x|2
2 n n||
(a) x
xx||i； 1n
2
2
n i 1
xi2 2
或
1
x 2
1
(x, x) 2
n i1
xi 2 2
称为向量 的欧x 氏范数 .
关于范数，成立如下定理.
定理6
设 x, yR（ n 或Cn ), 则
1. (x,x)0, 当且仅当x 0 时成立；
19
2. (x, y) (x, y), 为实数, (或(x, y) (x, y), 为复数）；
设非负函数
为 R上任n 一向量范数，
则 N是(x的) 分量x
的连续函数.
N (x) x
x1, x2 , , xn
证明
n
n
设 x xiei , y yiei ,
xi 2 )1/ 2；
（4）向量的能量范数：
设A R nn为对称正i1定阵，x R n ,
NA(x)
x ( Ax, x)1/ 2 ( A
n
aij xi x j )1 2
称为向量的能量范数。
i, j1
定理19 设x Rn (或x
(或C n上)的向量范数。
C
n
)，则N
x,
N
1
x,
N
2
x是R
n
设 是x v 上一R个n向量范数，
上矩阵的范数，且满足相容条件
证明
Ax A x .
v
v
v
由(5.6)相容性条件(5.7)是显然的.
现只验证定义4中条件(4).
由(5.7)，有
则 是A v
R nn
（5.7）
ABx
v
A v
Bx
v
A v
B
v
x
.
v
当 x时，0有
ABx
v A B .
x
v
v
v
8
故
ABx
AB max
4. 向量的 -范数：p
其中
n
x ( p
xi p )1/ p ,
i 1
p . [1, )
可以证明向量函数
是 N上(向x)量的范x数, p
Rn
且容易说明上述三种范数是 -范数的特p殊情况.
24
例 解 定义3
计算向量 x 的(1各,种2范,3数)T.
x 6, x 3, x 14.
1
2
设 {x为(k )}中一向R量n序列，
1 2 n 0.
为A对T 称A矩阵，设
为 的u相1,应u于2 ,(5.9), un A
的特征向量且
，又设 为任一非零向量，
(ui , u j ) ij
xRn
于是有
n
x ciui , i 1
（5.9）
12
其中 为c组i 合系数，则
n
Ax 2 2 x2
( AT Ax, x) ( x, x)
向量范数
1. 向量范数的定义
函数 （（（123N定）））义正齐三x9定次角（性 性 不向等量x式范，数若）xx满x足0对 ,：yxx于，向其 0量 x中x yRx,nR或 (x或 0,x或 y记 CRCn为n)的；或某 ；个C实n值。非负
称N
(
x)
||
x
||
是R
n
上
或C n
一个向量范数或模。