3.1向量和矩阵的范数1
向量范数
计算方法
2
常用向量范数
设向量 x = ( x1 , x2 ,..., xn ) || x ||1 = ∑ | xi |
n i =1 n
T
|| x ||2 = ( ∑ | xi | ) = ( x , x ) = ( x T x )
i =1
1 2 2
1 2
1 2
|| x ||∞ = max{| xi |}
定义
设λi(i = 1,2 ,...,n)为矩阵 A的特征值 , 则称
1≤ i ≤ n
ρ ( A) = max{| λi |}
的谱半径。 为矩阵 A的谱半径。 矩阵A的谱半径 ρ ( A)不是A的一种范数 , 但易证
ρ ( A) ≤ A
定义2 定义2
若
Ax ≤|| A || ⋅ || x || ∀x ∈ R n , ∀A ∈ R n× n
称矩阵范数与向量范数是相容的. 称矩阵范数与向量范数是相容的. 相容的
2 − 1 例4 ： 设矩阵 A = − 2 4 , 求 || A ||1 , || A ||2, || A ||∞ 。 解： || A || = max{ 2+ | −2 |, | −1 | +4} = 5 1
1≤ i ≤ n
计算方法
T || || 例3：已知 x = (1, 2, − 3 ) , 求 || x ||1 ， x ||2 ， x ||∞
解： x
1
= x1 + x2 + x3 = 1+2+3= 6
2 2 x12 + x2 + x 3 = 1 + 4 + 9 = 14
x2=
x
∞
数值分析8(向量范数与矩阵范数)
20:22
16/16
20:22
11/16
A 2 ( A A), 其中 ( B ) max{| i ( B ) |}
T i
2 T T 证: 2 这表明矩阵ATA是对称半正定的, 是非负。设矩阵ATA的特征值为
|| Ax || x A Ax 0
1 2
所以它的特征值 都
n 0
并设对应的特征向量为
v1 , 由于ATA是对称,故 v1 ,
vi
20:22
2
1, i 1,
, vn , v n 是Rn的标准正交基: T , n vi v j 0, i j
12/16
对于向量 x 可被特征向量系所表示 x ck v k
n n k 1
n n
n
T T T || Ax ||2 x A Ax ( c v k k )( ck k vk ) 2
Matlab内部函数: norm(A,p)。
20:22
9/16
矩阵算子范数
设 ||x||是Rn上的向量范数,A∈Rn×n,则A的非 负函数 || Ax ||
|| A || max
x 0
|| x ||
称为矩阵A的算子范数(或诱导范数)。 注1 矩阵算子范数由向量范数诱导出, 如
|| Ax ||2 || A ||2 max x 0 || x || 2
1 i n
, xn
Matlab内部函数: norm(x,p)。特别的, norm(x) 等价于norm(x,2)。 范数概念是我们熟悉的距离概念的一种自然的 推广。 k *
lim || x x || 0
k
则称序列{xk}在范数||.||下收敛于x*。
矩阵论课件 3-1向量范数
x 2 1
x Dn x2
x 0
因为
是的连续函数，
故它在Dn上取到最大值m和最小值M
m x x2
x x
2
M
mx2 x
M x
2
例
设A C x
(n)
mn
, y
( m)
( m)
( y C m )是范数，则
n
Ax
, x C 也是范数。
(m)
证明
x 0 Ax 0 Ax x
(n)
0 x
(m)
(n)
0
A(x)
(n)
(m)
Ax
x
(n)
x y
A( x y) Ax
( m)
( m)
Ax Ay
( m)
( m) ( n)
Ay
x
( n)
y
在赋范向量空间C n中, 向量的距离定义为
X
A
X AX
T
1 2
X x1 , x2 , , xn
T
试证上述函数是向量范数，称为向量的加权范数或椭圆范数。
证明 因为A是正定对称矩阵，故存在可逆矩阵B，使得A = B T B，进而有
X
A
X AX
T
X
1 2
T
B BX
1 2
T
(BX )
1 2
T
( BX )
p
1 p
n
n
p
1 p
n
p
1 p
i 1
i 1
i 1
《向量和矩阵的范数》PPT课件
h
1
三种常用范数 给定 x (x1, x2 , , xn )T
n
1-范数：
x 1
x1
x2
xn xi
i 1
2-范数： x 2
x12 x22
1
xn2
n
i 1
xi2
2
? 范数： x max{ x1 , x2 ,
,
xn
}
max{
1in
xi
}
h
2
一般范数 给定 x (x1, x2 , , xn )T
1
(n max 1in
xi
p)p
故有 x x n p x
p
令
p
1
, n p
1limxFra bibliotekxp
p
h
4
范数的等价性 对于任意向量 x R n ，如果存在正数
c1, c2 ，均有
x
p c1
x, q
x q c2
x
，则称范数
p
x
与
p
x 等价。 q
范数的等价关系具有传递性。如果范数 x 与 x 等价，
（5） I 1，其中 I 为单位阵。
h
14
矩阵范数的另一个等价定义
设 A R nn , x Rn ，矩阵 A 的范数 A max Ax
x 1
h
15
常用的矩阵范数
设 A[aij]nn常用的矩阵范数有行（无穷）范数和列（一）范数。
例如
A
3 0
2
4
n
A
maxaij
1in j1
n
A 1
maxaij
Rnn 上的矩阵序列 A(k) 是收敛于A 的充要条件为
3.1向量和矩阵的范数1
可得AT A的特征值为
1 9.1428, 2 2.9211, 3 0.9361
max ( AT A) 9.1428
A 2 max ( AT A) 3.0237 A1
容易计算
A
A2
计算较复杂
对矩阵元素的 变化比较敏感 性质较好
(理论上)使用最广泛
矩阵序列的收敛性
k
定理3.6，Rn×n 中矩阵序列{A(k)} 收敛于矩阵A 的充分必要条
件是
lim A
k
(k )
A 0，
其中 为矩阵的任意一种范数。
定理3.7设A为任意n阶方阵，则对任意矩阵范 数||A||，有： ρ(A)≤||A||
证:设λ为A的任意一个特征值, X为对应的特征向量 AX= λ X 两边取范数,得:
5
解
A 1 max aij max{ 2 ,5 ,2} 5
1 j n i 1
n
A max aij max{ 3 , 4பைடு நூலகம்,2} 4
1 i n j 1
1i n
由于
A 2 max ( AT A)
因此先求AT A的特征值
1 T A A 2 0
则称 A 为矩阵A 的范数.
由于大多数与估计有关的问题中，矩阵和向量会同时 参与运算，所以希望引进一种矩阵范数，它和向量范数 相联系而且和向量范数相容，即
Ax A . x
为此我们引进矩阵的算子范数
定义3.5
设x R n , A R nn , v 为一种向量范数
则
Ax x
v
v
对所有的x 0有最大值, 令
lim x
向量与矩阵的范数
那么
n
X X H *
xi
X 1
i 1
矩阵旳谱半径及其性质
定义：设 A C mn ，A 旳 n 个特征值为 1, 2, , n ，我们称
( A) max{ 1 , 2 , , n }
为矩阵 A 旳谱半径。 例 1 ：设 A C mn ，那么
( A) A
这里 A 是矩阵 A 旳任何一种范数。
F
F
于是有
AB A B
F
F
F
例 4 ：对于任意 A C nn ，定义
A
[Tr
(
AH
A)]
1 2
证明如此定义旳 A 是矩阵 A 旳范数。
证明： 首先注意到这么一种基本事实，
即
[Tr( AH
1
A)] 2
(
m
n
aij
2
)
1 2
i1 j1
由一种例题可知此定义满足范数旳性质。
Frobenious范数旳性质：
(1)' n
1
(2)' n
2
1
2
(3)' n
2
引理（Hoider不等式）：设
a1, a2, , an T , b1, b2, , bn T Cn
则
n
n
aibi (
ai p ) 1 p ( n
bi
q)
1 q
i 1
i 1
i 1
其中 p 1,
q1 且
1p
是矩阵范数。
证明：非负性，齐次性和三角不等式轻易 证得。目前我们考虑乘法旳相容性。设
A C nn , B C nn ，那么
n
n
AB
向量与矩阵范数
向量与矩阵范数在欧氏空间与酉空间中，我们通过向量的内积定义了下列的长度，对于一般的线性空间，能否引入一个类似于长度而又比其更广泛的概念呢？这就是范数的概念。
向量范数与矩阵范数是应用非常广泛的重要概念，从范数可导出向量与向量，矩阵与矩阵之间的距离，进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1．1 设V 是数域()或C R 上的线性空间，如果对于任意V ∈x 按照某种法则对应于一个实数x，且满足：1） 非负性0≥x .当且仅当=x 0时，0=x ； 2） 齐次性k k =x x；3） 三角不等式 对任意,V ∈x y 总有，+≤+x y x y；则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出，向量范数是定义在线性空间上的非负实值函数，它具有下列性质：（1） 当≠x 0时，11||||=x x ；（2） 对任意向量V ∈x ，有||||||||-=x x ；（3）||||||||||||||y -≤-x y x ； （4）||||||||||||||y -≤+x y x .性质（1）与（2）是显然成立的，下面证明性质（3） 因为||||||||||||||||=-+≤-+x x y y x y y ， 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y ， 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质（3）中的y ，便得到性质（4）.n C 上最著名的范数是p 范数，也称赫尔德（hölder ）范数11()nppi pk x ==∑x，T 12(,,,)n n x x x =∈x C .这里1p ≤<∞，其中最常用的是1,2p =时的p 范数，即11nik x ==∑x ；12221()ni k x ==∑x 。
矩阵范数和向量范数的关系
矩阵范数和向量范数的关系矩阵范数和向量范数是线性代数中常用的概念，它们之间存在一定的关系。
本文将从矩阵范数和向量范数的定义、性质以及它们之间的联系等方面进行阐述。
我们来介绍矩阵范数和向量范数的定义。
矩阵范数是定义在矩阵上的一种范数，它可以将一个矩阵映射为一个非负的实数。
常见的矩阵范数有Frobenius范数、1-范数、2-范数和∞-范数等。
以Frobenius范数为例，对于一个矩阵A，它的Frobenius范数定义为矩阵元素平方和的平方根，即∥A∥F = √(∑∑|aij|^2)。
向量范数是定义在向量空间中的一种范数，它可以将一个向量映射为一个非负的实数。
常见的向量范数有1-范数、2-范数和∞-范数等。
以2-范数为例，对于一个向量x，它的2-范数定义为向量元素平方和的平方根，即∥x∥2 = √(∑|xi|^2)。
矩阵范数和向量范数之间存在一定的联系。
首先，对于一个n维向量x，可以将其看作是一个n×1的矩阵。
此时，向量范数就可以看作是矩阵范数的一种特殊情况。
例如，向量的2-范数就是矩阵的2-范数。
因此，矩阵范数可以看作是向量范数的推广。
矩阵范数和向量范数之间满足一些性质。
例如，对于一个矩阵A和一个向量x，满足以下性质：1. 三角不等式：对于任意的矩阵A和向量x，有∥A∥ + ∥x∥ ≤∥A + x∥。
2. 齐次性：对于任意的矩阵A和实数α，有∥αA∥ = |α|∥A∥。
3. 子多重性：对于任意的矩阵A和B，有∥AB∥ ≤ ∥A∥∥B∥。
我们来讨论矩阵范数和向量范数的联系。
通过定义可以看出，矩阵范数和向量范数都是对于矩阵或向量的度量。
矩阵范数可以看作是对矩阵的度量，而向量范数可以看作是对向量的度量。
矩阵范数和向量范数都满足范数的定义，即满足非负性、齐次性和三角不等式。
在应用中，矩阵范数和向量范数有着广泛的应用。
矩阵范数可以用于矩阵的相似性度量、矩阵的特征值估计等问题。
而向量范数可以用于向量的相似性度量、向量的正则化等问题。
向量和矩阵的范数
向量和矩阵的范数一、引言向量和矩阵是线性代数中最基本的概念之一，而范数则是线性代数中一个非常重要的概念。
范数可以用来度量向量或矩阵的大小，也可以用来衡量它们之间的距离。
在本文中，我们将讨论向量和矩阵的范数。
二、向量范数1. 定义向量范数是一个函数，它将一个向量映射到一个非负实数。
它满足以下条件：（1）非负性：对于任意的向量x，有||x||≥0；（2）齐次性：对于任意的标量α和向量x，有||αx||=|α|·||x||；（3）三角不等式：对于任意的向量x和y，有||x+y||≤||x||+||y||。
2. 常见范数（1）L1范数：也称为曼哈顿距离或城市街区距离。
它定义为所有元素绝对值之和：||x||1=∑i=1n|xi| 。
（2）L2范数：也称为欧几里得距离。
它定义为所有元素平方和再开平方根：||x||2=(∑i=1nxi^2)1/2 。
（3）p范数：它定义为所有元素p次方和的p次方根：||x||p=(∑i=1n|xi|^p)1/p 。
（4）无穷范数：它定义为所有元素绝对值中的最大值：||x||∞=ma xi|xi| 。
三、矩阵范数1. 定义矩阵范数是一个函数，它将一个矩阵映射到一个非负实数。
它满足以下条件：（1）非负性：对于任意的矩阵A，有||A||≥0；（2）齐次性：对于任意的标量α和矩阵A，有||αA||=|α|·||A||；（3）三角不等式：对于任意的矩阵A和B，有||A+B||≤||A||+||B||。
2. 常见范数（1）Frobenius范数：也称为欧几里得范数。
它定义为所有元素平方和再开平方根：||A||F=(∑i=1m∑j=1naij^2)1/2 。
（2）一范数：它定义为每列元素绝对值之和的最大值：||A||1=maxj(∑i=1m|aij|) 。
（3）二范数：它定义为矩阵A的最大奇异值：||A||2=σmax(A) 。
（4）∞范数：它定义为每行元素绝对值之和的最大值：||A||∞=maxi(∑j=1n|aij|) 。
第3章 范数
1
2
例题：设x = (3,12,0,4 ) , 计算 x 1 , x ∞ , x
T
2
x 1 = 3 + 12 + 0 + 4 = 19 x
∞
= max{3,12,0,4} = 12
x 2 = 32 + (12) 2 + 0 2 + (4) 2 = 13
向量和矩阵的范数
2 矩阵范数 定义
任一矩阵A ∈ R n×n，都对应于一个实数N ( A)( N ( A)为R n×n上的实值函数 ), N ( A) = A ，且满足以下条件：
1≤i ≤ n
( A的特征值按模的最大值)
为矩阵的谱半径。
若λi为实数，则λi 是指绝对值 若λi为复数（λi = a + bi），则λi 是指模, λi = a 2 + b 2
例题
1 0 1 设A = 2 2 1, 计算A的谱半径。 1 0 0 λ 1 0 1
解： λI A) = 2 det( 1
几种矩阵范数
设x ∈ R n , A ∈ R n×n , 则
(1) A 1 = max ∑ aij
1≤ j ≤ n n
( A的列范数 )
(2) A ∞ = max ∑ aij
1≤i ≤ n j =1
i =1 n
( A的行范数 )
(3) A 2 = λmax ( AT A) (其中λmax ( AT A)表示矩阵AT A的绝对值( 模)最大的特征值)
a11 a12 a13 三阶方阵A = a21 a22 a23 则A的行列式 a31 a32 a33 det( A) = a11a22 a33 + a21a32 a13 + a12 a23a31 a13 a22 a31 a12 a21a33 a23 a32 a11
向量范数和矩阵范数
2. L1范数：对于n维向量x=(x1, x2, ..., xn)，它的L1范数定义为 ||x||1 = |x1| + |x2| + ... + |xn|。它表示向量各个元素的绝对值之和。
向量范数和矩阵范数
3. 无穷范数（L∞范数）：对于n维向量x=(x1, x2, ..., xn)，它的无穷范数定义为 ||x||∞ = max(|x1|, |x2|, ..., |xn|)。它表示向量各个元素的绝对值的最大值。
矩阵范数是对矩阵进行度量或衡量的方式，它是一个将矩阵映射到非负实数的函数。常见 的矩阵范数有谱范数、F范数和1-范数。
1. 谱范数：对于n×n矩阵A，它的谱范数定义为 ||A||2 = max(σ)，其中σ是A的特征值的 模的最大值。谱范数衡量了矩阵的最大特征值的大小，表示矩阵的最大奇异值。
向量范数和矩阵范数
2. F范数：对于m×n矩阵A，它的F范数定义为 ||A||F = √(∑∑|aij|^2)，其中aij表示A的第i 行第j列的元素。F范数衡量了矩阵所有元素的平方和的平方根。
3. 1-范数：对于m×n矩阵A，它的1-范数定义为 ||A||1 = max(∑|aij|)，其中∑表示对所有 列求和。1-范数衡量了矩阵列向量绝对值之和的最大值。
向量范数和矩阵范数
向量范数是对向量进行度量或衡量的方式，它是一个将向量映射到非负实数的函数。常见 的向量范数有欧几里得范数（L2范数）、L1范数和无穷范数（L∞范 ..., xn)，它的欧几里得范数定义为 ||x||2 = √(x1^2 + x2^2 + ... + xn^2)。它表示向量的长度或大小，也可以理解为向量的2范数。
向量和矩阵的范数
一、向量的范数定义1 设x=(x1 ,x2,…,x n )n ,y=(y1 ,y2,…,y n )n∈R n (或C n )。
将实数(或复数),称为向量x,y的数量积。
将非负实数或称为向量x的欧氏范数。
对向量x,y的数量积有：1. (αx,y)=α(x,y).α为实数(或(x,αy)=(x,y),α为复数);2. (x,y)=(y,x)[(x,y)=(,)];3. (x1 +x2 ,y)=(x1 ,y)+(x2 ,y);4. (Cauchy-Schwarz不等式)(5.1)等式当且仅当x与y线形相关时成立。
对向量x的欧氏范数有：1. ‖x‖2≥0, ‖x‖2 =0当且仅当x=0时成立;2. ‖αx‖2=|α|‖x‖2，任意的α∈R(或α∈C),3. ‖x+y‖2≤‖x‖2 +‖y‖2 (三角不等式)，(5.2)注(5.1)和(5.2)有下面的事实得到(x+ty,x+ty)=(x,x)+2(x,y)t+(y,y)t2≥0由一元二次方程根的判别定理可知(5.1)成立；取t=1,再利用(5.1)得即得(5.2)。
定义2(向量的范数) 如果向量x∈R n (或C n )的某个实值函数N(x)=‖x‖, 满足条件：(1) ‖x‖≥0(‖x‖=0当且仅当x=0)(正定条件)，(2) ‖αx‖=|α|·‖x‖，任意的α∈R(或α∈C),(3) ‖x+y‖≤‖x‖+‖y‖(三角不等式)，则称N(x)是R n (或C n )上的一个向量范数(或模)。
下面我们给出几种常用的向量范数。
1. 向量的∞-范数(最大范数)：(5.3)2. 向量的1-范数：3. 向量的2-范数：(5.4)4. 向量的p-范数：(5.5)例6 计算向量x=(1,-2,3)T的各种范数。
解：定理6(N(x)的连续性) 设非负函数N(x)=‖x‖为R n上任一向量范数，则N(x)是x的分量x1 ,x2,…,x n的连续函数。
证明设其中e i=(0,…,1,0,…,0)T, . 只须证明当x→y时N(x)→N(y)即成。
向量范数与矩阵范数
任2种范数在刻画收敛性时等价
定理1.2 对 Rn 上的任意二种向量范数|| ·||a ,|| ·||b ,
均有与向量 x 无关的常数 m 与 M (0<m<M)，使 下列的关系成立
m x x M x , x Rn.
a
b
a
证明略.
意义：向量x的某一种范数可以任意小（大）时， 该向量的其它任何一种范数也会任意小（大）。
|1| | 2 | | 3 |,
A
1
max
|
5
|
|1|
|
8
|,
14,
| 2 | | 0 | | 2 |
1 5 2
A 2 1
0
3 8 2
|1| | 5 | | 2 |,
A
max
|
2
|
|1|
|
0
|,
13,
| 3 | | 8 | | 2 |
A F
12 22 32
52
12
82
22
02
22
112,
14 21 4
AT
A
21
90
26
4 26 8
❖定义 Rn 上的实值函数‖·‖称为向量范数，如果 对任意的 x, y∈Rn, 它均满足下列3条性质:
(1)正定性: || x ||,且 0 x 0;|| x || 0
(2)齐次性:对 k ,有R
矩阵和向量的一范数
矩阵和向量的一范数
矩阵和向量是线性代数中的重要概念，它们广泛应用于多个领域，例如科学、工程、经济学、统计学等。
其中，矩阵和向量的一范数是两种数学对象的重要度量方式之一。
矩阵是一种数学对象，是一组数按照矩形排列的数表。
矩阵的一范数是由所有矩阵中元素的绝对值之和组成的。
例如，对于一个3×3的矩阵A，其一范数可以表示为：
换句话说，矩阵的一范数是矩阵中元素绝对值之和的最大值。
它的计算可以简单地遍历矩阵中的每一个元素，并计算出它们的绝对值之和。
向量是矩阵的一种特殊情况，只有一个维度，可以看作是一个
1×n的矩阵。
向量的一范数是由向量中所有元素的绝对值之和组成的。
例如，对于一个n维向量x，其一范数可以表示为：
换言之，向量的一范数就是向量中每个元素的绝对值之和。
向量的一范数也可以称作“曼哈顿距离”，因为它计算的是从原点出发到向量终点的曼哈顿距离。
矩阵和向量的一范数是两种数学对象的度量方式。
它们广泛应用于多个领域，例如统计学、机器学习和深度学习等。
作为一个度量方式，一范数可以用于回归分析、模型参数正则化等多个应用场景。
在模型参数正则化中，一范数正则化可以用于对模型进行稀疏化处理，即通过最小化一范数来找到最重要的特征，去掉无用的特征，从而达到简化模型的目的。
另外，一范数还常用于检查向量中存在的异常值和异常数据点等。
总之，矩阵和向量的一范数是线性代数中重要的度量方式之一，广泛用于回归分析、模型参数正则化和异常检测等领域。
它们的计算简单明了，容易理解，是数学工具箱中不可或缺的组成部分。
向量和矩阵的范数课件
对于任意向量x和任意实数a，||x + a|| = ||x||。
三角不等式
对于任意向量x和y，||x + y|| ≤ ||x|| + ||y||。
向量范数的计算方法
欧几里得范数
对于向量x = [x1, x2, ..., xn]^T，||x|| = sqrt(Σ(xi^2))。
无穷范数
对于向量x = [x1, x2, ..., xn]^T，||x|| = max(abs(xi))。
定义
向量是一个具有n个实数或复数分量 的一维数组，通常表示为 $mathbf{a} = (a_1, a_2, ldots, a_n)$。
表示
向量可以用箭头表示，例如 $mathbf{a}$，并在每个分量旁标出 其数值。
矩阵的定义和表示
要点一
定义
矩阵是一个由m行n列的实数或复数组成的矩形阵列，表示 为$A = begin{bmatrix} a_{11} & a_{12} & ldots & a_{1n} a_{21} & a_{22} & ldots & a_{2n} vdots & vdots & ddots & vdots a_{m1} & a_{m2} & ldots & a_{mn} end{bmatrix}$。
在数值分析中的应用
1 2 3
数值稳定性
范数可以用于评估算法的数值稳定性，例如，在 求解线性方程组时，范数可以用于衡量算法的收 敛性和误差。
矩阵近似
范数可以用于衡量矩阵的近似程度，例如，在计 算矩阵的逆或特征值时，范数可以用于评估算法 的精度。
数值逼近
向量范数和矩阵范数
使得 A = P H B ，因此 || x ||A = ( Px ) H ( Px ) = || P x ||2 这从几何上可以看成是求可逆变换 P 后的像的“长
度” || Px ||2 。这说明P 只要是列满秩的矩阵即可。 如果 P = diag ( w1 , L , wn ) ，此时 || x ||A = ( 这就是加权范数或椭圆范数名称的由来。
|| A ||m ¥ º max | ai j |
1＃i m 1＃ j n
定义的 || ||m 是 F mn 上的（广义）矩阵范数，称为
l 范数。
数学系 李继根（jgli@）
例 3 对任意
A (ai j ) F
m n i= 1 j = 1
mn
，由
1/2
骣 琪 || A ||F º 琪 邋 琪 琪 è
骣 p || x || p º 琪 | x | , p ³ 1 琪 å i 琪 琪 桫 i= 1 定义的 || || p 是 F n上的向量范数，称为p -范数或 l p
范数。
数学系 李继根（jgli@）
特别地，p=1时，有
例 5 对任意
x ( x1 , x2 , , xn ) F ，由
|| f ( t ) ||2 º
ò ò
a
b
| f ( tห้องสมุดไป่ตู้) | pdt
b a
| f ( t ) |2dt
|| f ( t ) ||¥ = max | f ( t ) |
a＃t b
数学系 李继根（jgli@）
例 9 若矩阵
AC
n n
为Hermite正定矩阵，则由
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
3.1 向量与矩阵的范数 3.2 直接法 3.3 迭代法 3.4 迭代法的收敛性分析
例
设有方程组
1 1
1 1.0001
x1 x2
2 2.
分析
记为Ax
b,它的精确解为x
2 0
现在考虑常数项的微小变化对方程组解的影响，
即考察方程组
1 1
1 1.0001
y1 y2
x2 2 ...
xn
2
1
)2
--------(1)
x的2 范数或欧氏范数
x 1 x1 x2 ... xn
--------(2)
x的1 范数或平均范数
x
max 1in
xi
--------(3)
x的 范数或最大范数或切比雪夫范数
x
p
(
x1
p
x2
p ...
xn
p
1
)p
--------(4)
x的p 范数, p 1
显然由于 x 和 x 是 x 当p 1和p 2时的特例，并且由于
1
2
p
max
1in
xi
(
x1 p
x2
p ...
xn
p
)
1 p
(n max
1in
xi
p)1p
1
n
p max 1in
xi
max 1in
xi
( p )
x
ห้องสมุดไป่ตู้
p
x ( p 时),
所以
x
也是
x
的特例
p
例3 求下列向量的各种常用范数
2 2.0001
2 2
0 0.0001
b
b
y
x
x
1 1
为其解
可见 :常数项b的第2个分量只有 1 的微小变化， 10000
方程组的解却变化很大.
为了研究线性方程组近似解的误差估计和迭代的 收敛性，需要对n维向量空间中的向量以及矩阵引进 “大小”的概念。
二维向量和三维向量都可以度量其大小和长度
高维向量的"长度"能否定义呢?
（一） 向量的范数 定义3.1
按某种规则(或映射)
对于复线性空间 Cn中的向量范数可以类似 定义 由(3)可推出不等式： x y x y .
在向量空间Rn (C n )中,设x (x1, x2 ,..., xn )T
常用的向量 x 的范数有:
x (x, x) xＴ x 2
x2
(
x1 2
证明
n
n
对任何 x (x1,x2,...,xn )T xiei , y yiei ,其中
i1
i1
ei Rn,i=1,2,...,n,除第i个分量为1外，其余分量为0.
n
x y x y (xi yi )ei i 1
n
| xi yi | ei i 1
n
x y
ei 0, 当 x y 时.
定义3.3 如果向量序列{x(k)}⊂Rn和向量 x∈Rn满足
lim x(k) j
xj,
j 1, 2,..., n,
k
则称向量序列{x(k)}收敛于向量 x，记为
lim x(k) x 或 x(k) x(k ).
k
定理3.3 向量序列{x(k)}收敛于 x 的充分必要条件是
lim x(k) x 0， k
i 1
❖ 有限维向量空间的范数等价性定理
定理3.2 设 与 ' 为向量空间Rn 中的两种范数，
则存在正常数c和C，使得下面不等式成立：
c x ' x C x ' , xRn.
证明 只需证明Rn 中任何范数与 2 等价。考虑单位球面 S2 {x Rn : x 2 1}. S2是有界闭集，因而 x 在其上达 到最大值C和最小值c，显然，C c 0. 于是，
x Rn，x 0，c
x x2
C，（因为
x x
2
S2）
即 c x 2 x C x 2 . 当 x 0，不等式也成立。
容易验证：
3种范数相
（1） ‖x‖2≤‖x‖1≤ n1/2‖x‖2； 互等价
（2）‖x‖∞≤‖x‖2≤ n1/2‖x‖∞；
（3）‖x‖∞≤‖x‖1≤ n‖x‖∞。
❖ 向量序列的收敛性
从向量的长度或模谈起
例 1 复数 x = (a, b) = a i + b j 的长度或模指的是量
|| x || a2 b2 显然复向量 x 的模 || x || 具有下列三条性质：
(1) || x || 0 ，当且仅当 x 时，等号成立。 (2) || x || | | || x || ; ( R)
（3） ||x y|| ||x|| ||y||。 (x、y R)
例 2 n 维欧氏空间中向量 x 的长度或模定义为
|| x || ( x, x) x12 x22 ... xn2
显然向量 x 的模 || x || 也具有下列三条性质：
(1) || x || 0 ，当且仅当 x 时，等号成立。 (2) || x || | | || x || ; ( R) （3） ||x y|| ||x|| ||y||。(x、y Rn )
(2) (齐次性) A A ，A Rnn, R;
(3) (三角不等式) A B A B ，A, B Rnn. (4) AB A B ，A, B Rnn.
其中 为向量的任意一种范数。
证明：
lim x(k) x
k
lim x(k) x 0. k
由向量范数的等价性定理可得到结论：如果在一 种范数意义下向量序列收敛时，则在任何一种范数意 义下向量序列亦收敛
3.1.2 矩阵的范数
定义3.4 对于空间Rnn中任意一个矩阵 A,
若存在惟一一个实数 A R与A对应，且满足 (1) (正定性) A 0,且A Rnn, A 0 A 0;
x (1,4,3,1)T
解 x 1 x1 x2 ... x4 9
x2
(
x1 2
x2
2 ...
x4
2
1
)2
x
max 1i4
xi
4
27 3 3
向量范数是其分量的连续函数，即有下述定理： 定理3.1（向量范数连续性定理）
设 是向量空间Rn 中的一种范数，则 x 是关于x的
分量 x1,x2,...,xn 的连续函数。
"范数"是对向量和矩阵的一种度量,实际上是二 维和三维向量长度概念的一种推广
§3.1 向量与矩阵的范数
对于实数和复数，由于定义了它们的绝对 值或模，这样我们就可以用这个度量来表示它 们的大小（几何上就是长度），进而可以考察 两个实数或复数的距离。
对于n 维线性空间，定义了内积以后， 向量就有了长度（大小）、角度、距离等度量 概念，这显然是3维现实空间中相应概念的推 广。利用公理化的方法，可以进一步把向量长 度的概念推广到范数。