3.1向量和矩阵的范数1

第三章 线性方程组的数值解法
3.1 向量与矩阵的范数 3.2 直接法 3.3 迭代法 3.4 迭代法的收敛性分析
例
设有方程组
1 1
1 1.0001
x1 x2
2 2.
分析
记为Ax
b,它的精确解为x
2 0
现在考虑常数项的微小变化对方程组解的影响，
即考察方程组
1 1
1 1.0001
y1 y2
x2 2 ...
xn
2
1
)2
--------(1)
x的2 范数或欧氏范数
x 1 x1 x2 ... xn
--------(2)
x的1 范数或平均范数
x
max 1in
xi
--------(3)
x的 范数或最大范数或切比雪夫范数
x
p
(
x1
p
x2
p ...
xn
p
1
)p
--------(4)
x的p 范数, p 1
显然由于 x 和 x 是 x 当p 1和p 2时的特例，并且由于
1
2
p
max
1in
xi
(
x1 p
x2
p ...
xn
p
)
1 p
(n max
1in
xi
p)1p
1
n
p max 1in
xi
max 1in
xi
( p )
x
ห้องสมุดไป่ตู้
p
x ( p 时),
所以
x
也是
x
的特例
p
例3 求下列向量的各种常用范数
2 2.0001
2 2
0 0.0001
b
b
y
x
x
1 1
为其解
可见 :常数项b的第2个分量只有 1 的微小变化， 10000
方程组的解却变化很大.
为了研究线性方程组近似解的误差估计和迭代的 收敛性，需要对n维向量空间中的向量以及矩阵引进 “大小”的概念。
二维向量和三维向量都可以度量其大小和长度
高维向量的"长度"能否定义呢?
（一） 向量的范数 定义3.1
按某种规则(或映射)
对于复线性空间 Cn中的向量范数可以类似 定义 由(3)可推出不等式： x y x y .
在向量空间Rn (C n )中,设x (x1, x2 ,..., xn )T
常用的向量 x 的范数有:
x (x, x) xＴ x 2
x2
(
x1 2
证明
n
n
对任何 x (x1,x2,...,xn )T xiei , y yiei ,其中
i1
i1
ei Rn,i=1,2,...,n,除第i个分量为1外，其余分量为0.
n
x y x y (xi yi )ei i 1
n
| xi yi | ei i 1
n
x y
ei 0, 当 x y 时.
定义3.3 如果向量序列{x(k)}⊂Rn和向量 x∈Rn满足
lim x(k) j
xj,
j 1, 2,..., n,
k
则称向量序列{x(k)}收敛于向量 x，记为
lim x(k) x 或 x(k) x(k ).
k
定理3.3 向量序列{x(k)}收敛于 x 的充分必要条件是
lim x(k) x 0， k
i 1
❖ 有限维向量空间的范数等价性定理
定理3.2 设 与 ' 为向量空间Rn 中的两种范数，
则存在正常数c和C，使得下面不等式成立：
c x ' x C x ' , xRn.
证明 只需证明Rn 中任何范数与 2 等价。考虑单位球面 S2 {x Rn : x 2 1}. S2是有界闭集，因而 x 在其上达 到最大值C和最小值c，显然，C c 0. 于是，
x Rn，x 0，c
x x2
C，（因为
x x
2
S2）
即 c x 2 x C x 2 . 当 x 0，不等式也成立。
容易验证：
3种范数相
（1） ‖x‖2≤‖x‖1≤ n1/2‖x‖2； 互等价
（2）‖x‖∞≤‖x‖2≤ n1/2‖x‖∞；
（3）‖x‖∞≤‖x‖1≤ n‖x‖∞。
❖ 向量序列的收敛性
从向量的长度或模谈起
例 1 复数 x = (a, b) = a i + b j 的长度或模指的是量
|| x || a2 b2 显然复向量 x 的模 || x || 具有下列三条性质：
(1) || x || 0 ，当且仅当 x 时，等号成立。 (2) || x || | | || x || ; ( R)
（3） ||x y|| ||x|| ||y||。 (x、y R)
例 2 n 维欧氏空间中向量 x 的长度或模定义为
|| x || ( x, x) x12 x22 ... xn2
显然向量 x 的模 || x || 也具有下列三条性质：
(1) || x || 0 ，当且仅当 x 时，等号成立。 (2) || x || | | || x || ; ( R) （3） ||x y|| ||x|| ||y||。(x、y Rn )
(2) (齐次性) A A ，A Rnn, R;
(3) (三角不等式) A B A B ，A, B Rnn. (4) AB A B ，A, B Rnn.
其中 为向量的任意一种范数。
证明：
lim x(k) x
k
lim x(k) x 0. k
由向量范数的等价性定理可得到结论：如果在一 种范数意义下向量序列收敛时，则在任何一种范数意 义下向量序列亦收敛
3.1.2 矩阵的范数
定义3.4 对于空间Rnn中任意一个矩阵 A,
若存在惟一一个实数 A R与A对应，且满足 (1) (正定性) A 0,且A Rnn, A 0 A 0;
x (1,4,3,1)T
解 x 1 x1 x2 ... x4 9
x2
(
x1 2
x2
2 ...
x4
2
1
)2
x
max 1i4
xi
4
27 3 3
向量范数是其分量的连续函数，即有下述定理： 定理3.1（向量范数连续性定理）
设 是向量空间Rn 中的一种范数，则 x 是关于x的
分量 x1,x2,...,xn 的连续函数。
"范数"是对向量和矩阵的一种度量,实际上是二 维和三维向量长度概念的一种推广
§3.1 向量与矩阵的范数
对于实数和复数，由于定义了它们的绝对 值或模，这样我们就可以用这个度量来表示它 们的大小（几何上就是长度），进而可以考察 两个实数或复数的距离。
对于n 维线性空间，定义了内积以后， 向量就有了长度（大小）、角度、距离等度量 概念，这显然是3维现实空间中相应概念的推 广。利用公理化的方法，可以进一步把向量长 度的概念推广到范数。