向量和矩阵范数
第五章--向量范数和矩阵范数
当 x 时，|| x ||A 0 ；当 x θ 时由 A 对称
正定知 xH Ax 0 ，即 || x ||A 0 。
对于任意 k C ，有 || k x ||A (kx)T A(kx) | k | xT Ax | k | || x ||A
由于 A 为Hermite正定矩阵，故存在酉矩阵 U ，使得
|| x ||2
| x1 |2 | x2 |2
| xn |2
定义的|| ||2 是 F n上的向量范数，称为2-范数或 l2
范数，也称为 Euclid 范数。
例 7 对任意 x ( x1, x2, , xn) T F n，由
|| x ||p
1/ p n
| xi |p , p 1
i1
定义的|| ||p 是 F n 上的向量范数，称为p -范数或 lp
UT AU Λ diag( λ1, λ2, , λn)
这里 A 的特征值 λi (i 1, 2, , n) 都为正数。
从而有
A UΛUT U Λ Λ UT BT B
此时
|| x ||A xT Ax xT BT Bx (Bx)T Bx || Bx ||2
因此对任意 y C n ， || x y ||A || B( x y) ||2
数 || A || 表示对于任意向量 x F n ， A 可以 “拉伸”向量 x 的最大倍数，即使得不等式
|| A x || C || x || 成立的最小的数 C 。称 || A || 为范数 || || 和 || ||
j1
n
| xj
j1
yj |; yj |;
yj |;
1
yj |m m;
以及与椭圆范数类似的Mahalanobis距离：
向量和矩阵的范数
|| k Ax || | k ||| Ax || 2) || k A || max max | k ||| A || x0 x0 || x || || x || || Ax || 3) 由 || A || max ，则 || Ax |||| A |||| x || x R n x 0 || x || 于是 || ( A B ) x || || Ax Bx |||| A |||| (|| A || || B ||) || x ||
法则对应于一非负实数 ||
n
则称 || x || 为向量x的范数。
常见的向量范数
设向量x ( x1 , x2 ,..., xn )T || ||
x || | x |
1 i 1 i
n
x || || x ||
( | xi | ) ( x, x) ( xT x) 2
i 1
3.5 病态方程组与矩阵的条件数
例3.5.1 设线性方程组 0.99 x1 1.99 1 0.99 0.98 x 1.97 2 试分析系数矩阵和右端项有微小扰动, 解将产生 什么样的变化 ? 解 该方程组的精确解为x (1,1)T 。
||
Hale Waihona Puke x ||2 n ||
x ||
1 例如 : || n
1 n x ||1 | xi | || n i 1
x ||
max{| xi |} | xi |
1i n i 1
n
向量的收敛性
定义3.4.2 设R n中一向量序列{ x ( k ) }( k 1,2,...), 其中 (i 1,2,..., n)
向量与矩阵的范数
那么
n
X X H *
xi
X 1
i 1
矩阵旳谱半径及其性质
定义：设 A C mn ，A 旳 n 个特征值为 1, 2, , n ，我们称
( A) max{ 1 , 2 , , n }
为矩阵 A 旳谱半径。 例 1 ：设 A C mn ，那么
( A) A
这里 A 是矩阵 A 旳任何一种范数。
F
F
于是有
AB A B
F
F
F
例 4 ：对于任意 A C nn ，定义
A
[Tr
(
AH
A)]
1 2
证明如此定义旳 A 是矩阵 A 旳范数。
证明： 首先注意到这么一种基本事实，
即
[Tr( AH
1
A)] 2
(
m
n
aij
2
)
1 2
i1 j1
由一种例题可知此定义满足范数旳性质。
Frobenious范数旳性质：
(1)' n
1
(2)' n
2
1
2
(3)' n
2
引理（Hoider不等式）：设
a1, a2, , an T , b1, b2, , bn T Cn
则
n
n
aibi (
ai p ) 1 p ( n
bi
q)
1 q
i 1
i 1
i 1
其中 p 1,
q1 且
1p
是矩阵范数。
证明：非负性，齐次性和三角不等式轻易 证得。目前我们考虑乘法旳相容性。设
A C nn , B C nn ，那么
n
n
AB
向量与矩阵范数
向量与矩阵范数在欧氏空间与酉空间中，我们通过向量的内积定义了下列的长度，对于一般的线性空间，能否引入一个类似于长度而又比其更广泛的概念呢？这就是范数的概念。
向量范数与矩阵范数是应用非常广泛的重要概念，从范数可导出向量与向量，矩阵与矩阵之间的距离，进而引进向量序列和矩阵序列收敛性问题.它是矩阵分析与计算的基础.§1 向量范数定义1．1 设V 是数域()或C R 上的线性空间，如果对于任意V ∈x 按照某种法则对应于一个实数x，且满足：1） 非负性0≥x .当且仅当=x 0时，0=x ； 2） 齐次性k k =x x；3） 三角不等式 对任意,V ∈x y 总有，+≤+x y x y；则称实数x为线性空间V 上向量x 的范数.简称向量范数.定义了范数的线性空间V 称为赋范线性空间.由定义1.1可以看出，向量范数是定义在线性空间上的非负实值函数，它具有下列性质：（1） 当≠x 0时，11||||=x x ；（2） 对任意向量V ∈x ，有||||||||-=x x ；（3）||||||||||||||y -≤-x y x ； （4）||||||||||||||y -≤+x y x .性质（1）与（2）是显然成立的，下面证明性质（3） 因为||||||||||||||||=-+≤-+x x y y x y y ， 所以||||||||||||-≤-x y x y .同理可证||||||||||||||()||||||-≤-=--=-y x y x x y x y ， 即||||||||||||-≥--x y x y .综上有||||||||||||||y -≤-x y x .若用y -代替性质（3）中的y ，便得到性质（4）.n C 上最著名的范数是p 范数，也称赫尔德（hölder ）范数11()nppi pk x ==∑x，T 12(,,,)n n x x x =∈x C .这里1p ≤<∞，其中最常用的是1,2p =时的p 范数，即11nik x ==∑x ；12221()ni k x ==∑x 。
矩阵范数和向量范数的关系
矩阵范数和向量范数的关系矩阵范数和向量范数是线性代数中常用的概念，它们之间存在一定的关系。
本文将从矩阵范数和向量范数的定义、性质以及它们之间的联系等方面进行阐述。
我们来介绍矩阵范数和向量范数的定义。
矩阵范数是定义在矩阵上的一种范数，它可以将一个矩阵映射为一个非负的实数。
常见的矩阵范数有Frobenius范数、1-范数、2-范数和∞-范数等。
以Frobenius范数为例，对于一个矩阵A，它的Frobenius范数定义为矩阵元素平方和的平方根，即∥A∥F = √(∑∑|aij|^2)。
向量范数是定义在向量空间中的一种范数，它可以将一个向量映射为一个非负的实数。
常见的向量范数有1-范数、2-范数和∞-范数等。
以2-范数为例，对于一个向量x，它的2-范数定义为向量元素平方和的平方根，即∥x∥2 = √(∑|xi|^2)。
矩阵范数和向量范数之间存在一定的联系。
首先，对于一个n维向量x，可以将其看作是一个n×1的矩阵。
此时，向量范数就可以看作是矩阵范数的一种特殊情况。
例如，向量的2-范数就是矩阵的2-范数。
因此，矩阵范数可以看作是向量范数的推广。
矩阵范数和向量范数之间满足一些性质。
例如，对于一个矩阵A和一个向量x，满足以下性质：1. 三角不等式：对于任意的矩阵A和向量x，有∥A∥ + ∥x∥ ≤∥A + x∥。
2. 齐次性：对于任意的矩阵A和实数α，有∥αA∥ = |α|∥A∥。
3. 子多重性：对于任意的矩阵A和B，有∥AB∥ ≤ ∥A∥∥B∥。
我们来讨论矩阵范数和向量范数的联系。
通过定义可以看出，矩阵范数和向量范数都是对于矩阵或向量的度量。
矩阵范数可以看作是对矩阵的度量，而向量范数可以看作是对向量的度量。
矩阵范数和向量范数都满足范数的定义，即满足非负性、齐次性和三角不等式。
在应用中，矩阵范数和向量范数有着广泛的应用。
矩阵范数可以用于矩阵的相似性度量、矩阵的特征值估计等问题。
而向量范数可以用于向量的相似性度量、向量的正则化等问题。
向量和矩阵的范数
向量和矩阵的范数一、引言向量和矩阵是线性代数中最基本的概念之一，而范数则是线性代数中一个非常重要的概念。
范数可以用来度量向量或矩阵的大小，也可以用来衡量它们之间的距离。
在本文中，我们将讨论向量和矩阵的范数。
二、向量范数1. 定义向量范数是一个函数，它将一个向量映射到一个非负实数。
它满足以下条件：（1）非负性：对于任意的向量x，有||x||≥0；（2）齐次性：对于任意的标量α和向量x，有||αx||=|α|·||x||；（3）三角不等式：对于任意的向量x和y，有||x+y||≤||x||+||y||。
2. 常见范数（1）L1范数：也称为曼哈顿距离或城市街区距离。
它定义为所有元素绝对值之和：||x||1=∑i=1n|xi| 。
（2）L2范数：也称为欧几里得距离。
它定义为所有元素平方和再开平方根：||x||2=(∑i=1nxi^2)1/2 。
（3）p范数：它定义为所有元素p次方和的p次方根：||x||p=(∑i=1n|xi|^p)1/p 。
（4）无穷范数：它定义为所有元素绝对值中的最大值：||x||∞=ma xi|xi| 。
三、矩阵范数1. 定义矩阵范数是一个函数，它将一个矩阵映射到一个非负实数。
它满足以下条件：（1）非负性：对于任意的矩阵A，有||A||≥0；（2）齐次性：对于任意的标量α和矩阵A，有||αA||=|α|·||A||；（3）三角不等式：对于任意的矩阵A和B，有||A+B||≤||A||+||B||。
2. 常见范数（1）Frobenius范数：也称为欧几里得范数。
它定义为所有元素平方和再开平方根：||A||F=(∑i=1m∑j=1naij^2)1/2 。
（2）一范数：它定义为每列元素绝对值之和的最大值：||A||1=maxj(∑i=1m|aij|) 。
（3）二范数：它定义为矩阵A的最大奇异值：||A||2=σmax(A) 。
（4）∞范数：它定义为每行元素绝对值之和的最大值：||A||∞=maxi(∑j=1n|aij|) 。
向量与矩阵的范数
a12 a1n A 1 max ai j 列范数 1j n i1 n a22 a2n A max aij 行范数 1i n j1 T an2 ann A 2 λm a x( A A) AF
|λ | || X ||= ||λ X ||= || A X || ≤|| A || || X ||
由X ≠0 ,所以 || X || >0 ,
计算方法三⑤
故有:
|λ | ≤|| A ||
所以特征值的最大值≤||A||，即ρ(A)≤||A||
18/35
定理3.7 设A为任意n阶方阵，则对任意 矩阵范数||A||，有： ρ(A)≤||A|| 定理3.8 设A为n阶对称方阵，则有: ||A||2= ρ(A)
1 2 3 A 4 5 6 7 8 0
计算方法三⑤
14/35
例6. 计算矩阵A的各种范数
1 2 A= 3 4 2 3 4 1 3 4 1 2 4 1 2 9
解：A=[1,2,3,4;2,3,4,1;3,4,1,2;4,1,2,9]; n1=norm(A,1), n2=norm(A), n3=norm(A,inf)，n4=norm(A, 'fro') n1=16，n2=12.4884，n3=16，n4=13.8564
解: E A ( 1) ( 2)
2
(A) 2
计算方法三⑤
17/35
矩阵范数与谱半径之间的关系为: ρ(A) ||A|| 定理3.7设A为任意n阶方阵，则对任意矩阵范 数||A||，有： ρ(A)≤||A||
证:设λ为A的任意一个特征值, X为对应的特征向量 AX= λ X 两边取范数,得: || A X || = ||λ X || =|λ | || X ||
第3章 范数
1
2
例题：设x = (3,12,0,4 ) , 计算 x 1 , x ∞ , x
T
2
x 1 = 3 + 12 + 0 + 4 = 19 x
∞
= max{3,12,0,4} = 12
x 2 = 32 + (12) 2 + 0 2 + (4) 2 = 13
向量和矩阵的范数
2 矩阵范数 定义
任一矩阵A ∈ R n×n，都对应于一个实数N ( A)( N ( A)为R n×n上的实值函数 ), N ( A) = A ，且满足以下条件：
1≤i ≤ n
( A的特征值按模的最大值)
为矩阵的谱半径。
若λi为实数，则λi 是指绝对值 若λi为复数（λi = a + bi），则λi 是指模, λi = a 2 + b 2
例题
1 0 1 设A = 2 2 1, 计算A的谱半径。 1 0 0 λ 1 0 1
解： λI A) = 2 det( 1
几种矩阵范数
设x ∈ R n , A ∈ R n×n , 则
(1) A 1 = max ∑ aij
1≤ j ≤ n n
( A的列范数 )
(2) A ∞ = max ∑ aij
1≤i ≤ n j =1
i =1 n
( A的行范数 )
(3) A 2 = λmax ( AT A) (其中λmax ( AT A)表示矩阵AT A的绝对值( 模)最大的特征值)
a11 a12 a13 三阶方阵A = a21 a22 a23 则A的行列式 a31 a32 a33 det( A) = a11a22 a33 + a21a32 a13 + a12 a23a31 a13 a22 a31 a12 a21a33 a23 a32 a11
向量和矩阵的范数
证明:略
第一章 绪论
例4 设矩阵A与矩阵B是对称的，求证
常用的矩阵范数
第一章 绪论
n
(1)
A
1
max 1 jn i1
aij
A的每列绝对值之和大 的值 最, 称A的列范数
n
(2)
A
max
j1
aij
A的每行绝对值之和大 的值 最, 称A的行范数
(3)
A
2
ma(xATA)
称A的2范数
其中 ma(xATA)为ATA的特征值的绝大 对值 值的最
例2
对于某种向 x和 量算 范子 数A范 , 数
AxA x
而
Ax x x
因此
x A x
即 所以
A
(A) A
第一章 绪论
即矩A阵 的谱半径不超任 过何 矩一 阵种 的算子范数
定理1. 设是Rnn上的一种算,子 A范 Rnn数 ,
若 A 满A 足 1,则 IA 非奇 ,且异
(I A)1 1 1 A
1 jn i1
aij
ma {2,x5,2}5 1jn
n
A
max
1in
j1
aij
m{a3,4 x,2}4 1in
A 2 ma(xATA)
第一章 绪论
因此先A求 TA的特征值
第一章 绪论
1 1 0 1 2 0 2 0 1
AT A
2 0
2 1
1 1
1 0
2 1
1 1
0 1
9 1
1 2
A2
容易计算 使用最广泛
计算较复杂
对矩阵元素的 变化比较敏感
性质较好 使用最广泛
研究生数值分析(2)向量范数与矩阵范数
我们用其度量向量 X (x1, x2, x3)T 的“大小”。
实质上向量范数 X 是一个实值函数， 它满足如下3个条件： (1非负性). 对任意 X R3 ，都有 X 0
当且仅当 X 0 X 0
(2齐次性). 对任意 a R 和向量 X R3 ,
aX a X
(3三角不等式). 对任意 X ,Y R3 , 都有
n
X 2 2
xi
2
n max{
x1 2 ,
x2 2 ,, xn 2} n
X
2
i 1
即有 X n X ，故有 X X n X
2
2
例5 设
X (1, 2, 3)
，求
X ,X ,X
1
2
解：由向量 X 的1，2， 范数定义
X 1 2 3 6 1
X r X 0
rr
r
证毕。
常用的3种算子范数的定义与算式为：p10-11
AX
n
1―范数（列模）
A max
1
X 0
X
1 1
max 1 jn
i 1
aij
2―范数（谱模）
AX
A max 2
X 2
X 0
max ( AT A)
2
∞―范数（行模）
AX
n
A max
X 0
X (1)2 22 (3)2 14 2
X max{ 1 , 2 , 3} 3
(2) 矩阵的范数
定义2 设 N(A) A 是定义在 Rnn 上的实值函数， 如果它满足4个条件：
向量范数和矩阵范数
2. L1范数：对于n维向量x=(x1, x2, ..., xn)，它的L1范数定义为 ||x||1 = |x1| + |x2| + ... + |xn|。它表示向量各个元素的绝对值之和。
向量范数和矩阵范数
3. 无穷范数（L∞范数）：对于n维向量x=(x1, x2, ..., xn)，它的无穷范数定义为 ||x||∞ = max(|x1|, |x2|, ..., |xn|)。它表示向量各个元素的绝对值的最大值。
矩阵范数是对矩阵进行度量或衡量的方式，它是一个将矩阵映射到非负实数的函数。常见 的矩阵范数有谱范数、F范数和1-范数。
1. 谱范数：对于n×n矩阵A，它的谱范数定义为 ||A||2 = max(σ)，其中σ是A的特征值的 模的最大值。谱范数衡量了矩阵的最大特征值的大小，表示矩阵的最大奇异值。
向量范数和矩阵范数
2. F范数：对于m×n矩阵A，它的F范数定义为 ||A||F = √(∑∑|aij|^2)，其中aij表示A的第i 行第j列的元素。F范数衡量了矩阵所有元素的平方和的平方根。
3. 1-范数：对于m×n矩阵A，它的1-范数定义为 ||A||1 = max(∑|aij|)，其中∑表示对所有 列求和。1-范数衡量了矩阵列向量绝对值之和的最大值。
向量范数和矩阵范数
向量范数是对向量进行度量或衡量的方式，它是一个将向量映射到非负实数的函数。常见 的向量范数有欧几里得范数（L2范数）、L1范数和无穷范数（L∞范 ..., xn)，它的欧几里得范数定义为 ||x||2 = √(x1^2 + x2^2 + ... + xn^2)。它表示向量的长度或大小，也可以理解为向量的2范数。
第五章 向量与矩阵的范数
A
F
= ( ∑∑ aij )
2 i =1 j =1
X
2
= ( ∑ xi )
i =1
n
2 12
= (X X )
H
12
根据Hoider不等式可以得到 不等式可以得到 根据
AX ≤
m 2 2
=
n
∑ ∑
i =1
m
n
2
j =1
a ij x
n
j
≤
2 j
∑
m
i =1
( ∑ a ij x j ) 2
j =1
n
∑ [( ∑
AB = n max
i, j i ,k
∑a
k =1 k, j
n
ik kj
b ≤ n max ∑ aik bkj
i, j k =1
n
≤ n ⋅ n max aik max bkj = n max aik ⋅ n max bkj
i ,k k, j
= A B
因此 的范数。 A 为矩阵 A 的范数。
例3
p
= ( ∑ ai )
p i =1
n
1
p
∑a
i =1
n
i
（2）2－范数 ） －
α 2 = ( ∑ ai ) = (α α )
2 12 H i =1
n
12
也称为欧氏范数。 也称为欧氏范数。 欧氏范数 （3）∞ －范数 α ∞ = lim α ） p →∞ 定理
p
α
∞
= max ai
1≤i ≤ n
证明 令
第五章
向量与矩阵的范数
定义： 定义： 设 V 是实数域 R （或复数域 C ）上 维线性空间， 的 n 维线性空间，对于 V 中的任意一个向量 α 按照某一确定法则对应着一个实数，这个 按照某一确定法则对应着一个实数， 范数， 实数称为 α 的范数，记为 α ，并且要求 范数满足下列运算条件： 范数满足下列运算条件： （1）非负性：当 ）非负性： 有且仅有当 α = 0, （2） 齐次性： ） 齐次性： 意数。 意数。
3.3向量和矩阵的范数
y
2
定理1：设 x R n , 则x的三种基本范数l, l 2 , l满足下面的不等式关系 ： 1
(1) x 2 x 1 n x (2) x (3) x
2
x2 n x x1n x
对于以上三种范数而言，它们的值是不同的。但有 如下的定义： 定义2(范数等价)：x R n， 对于任意两种范数 x 和 x 总存在两个与x无关的正实常数c1,c2,使得
k
记为： x (k) x * . lim
k
例如：按照
l 范数的定义 x (k) x * max x i( k ) x * i
1i n
故， x ( k ) x * x (k) x * lim
k
0(k ).
定理3 ：
设{x ( k ) }是R n中的一个向量序列，且 * R n，则lim x ( k ) x * x
例：有了距离，对
方程组Ax b的数值计算解x c与其准确解x *之间 的误差就可以度量了。 如定义其绝对误差为 x c x * ，相对误差为 x c x* x
*
。
例： x* (0.0002140.0003090.000397T 设 , , )
x (0.0001860.0003420.000504T , , ) c 当限定范数为 1范数时，请计算 与x* l x c 之间的绝对误差和相对 误差。
lim l p ( x i )
p i 1
n
p
1
p
在R n空间中，向量 [ x1 , , x n ]T 和y [ y1 , , y n ]T 的内积记作( x , y), x 可定义为 (x, y) x i y i x T y.
矩阵和向量范数详解-数值计算方法
度量。Rn空间的向量范数 || ·|| 对任意x, y R满n足条件：
(1)
|| x|| 0 ;
|| x|| 0
x
0
（正定性)
(2) || x|| | | || x|| 对任意 C (齐次性)
(3) || x y|| || x|| || y|| （三角不等式)
定义：向量X
( x1,
gg
范数是绝对值的概念的推广，绝对值是一维概念，绝对 值的几何意义就是长度，那么很自然就有了：n维向量长度 就是范数。范数可以推广到无穷维空间。
1. 范数
向量范数和向量的模
向量的模表示的是向量的大小，比如向量
X ( x1, x2...x的n )模为
X x12 x22 ...xn2
向量的范数用于衡量一个向量的大小，是更广义
向量和矩阵范数
主要内容
1、什么是范数 2、向量范数 3、矩阵范数
2
1. 范数
范数是什么？
范数具有“长度”的概念，在线下代数、泛函分析 等相关数学领域，范数表征的是矢量空间中所有矢量的 正长度和大小。范数是对向量和矩阵的一种度量,实际 上是二维和三维向量长度概念的一种推广。
简单来说向量范数可以理解为向量的长度，矩阵范 数可以理解为矩阵的变化大小。
意义：矩阵的谱或叫矩阵的谱半径，在特征值估计、广义逆矩阵 等理论的建树中，都占有极其重要的地位；
定理 对任意算子范数 || ·|| 有( A) || A ||
即 A 的谱半径是A的任意一种范数的下界
证明：由算子范数的相容性，得到 || Ax|| || A || || x||
将任意一个特征根 所对应的特征向量 u代入 | | || u|| || u|| || Au|| || A || || u||
向量和矩阵的范数
Ａ的列范数 Ａ的“2”范 数或Ａ的谱
范数
其中 max ( A A)为A A的最大特征值。
T T
第一章 绪论
例2
求矩阵A的各种常用范数
1 2 0 3 A 1 2 1 4 0 1 1
2
n
5
2
2
解:
A 1 max aij 1 j n
i 1
"范数"是对向量和矩阵的一种度量,实际上是二维和三维
向量长度概念的一种推广.
数域:数的集合,对加法和乘法封闭.
有理数、实数、复数数域
线性空间:可简化为向量的集合,对向量的加法和数量乘 法封闭,也称为向量空间。
第一章 绪论
5.4.1 向量范数 ( vector norms )
二维，三维的长度概念：
T 2 2 2 R 中，x R ， x x1 x2，其中x x1 , x2 ； T 3 3 2 2 2 R 中, x R ， x x1 x 2 x 3 , 其中x x1 , x 2 , x 3 。
② x 也是 x p 的特例
xi ( x1 因为 max 1i n
p
x2
p
xn
p
)
1
p
(n max xi )
1 i n
p
1
p
n
1
p
xi ( p ) max xi max 1i n
1 i n
x
p
x
( p 时),
所以 x 也是 x p的特例
A 4
3.0237
3.6056
A2
AF
数值分析5-5(向量和矩阵的范数)
n
1
A F ( xij 2 )2
i , j1
称为Frobennius－范数
举例：
A
1 3
2 4
计算A的各种范数.
解：
n
A
max
1in
j1
aij
max{1 2,3 4} 7
n
A
1
max
1 jn
i 1
|
aij
|
max{1
3,2
x p ( xi p ) p
i 1
称为∞－范数或最大范数 称为1－范数 称为2－范数
称为p－范数
举例：计算向量 x=(1, -2, 3)T的各种范数.
解：
n
x 1 | xi | 6
i 1
n
1
x 2 ( xi 2 )2 14
i 1
x
max
1in
xi
3
3. 向量范数的性质
3) x y x y , x, y Rn(三角不等式)
则称‖x‖为向量的范数
2. 常用的向量范数
在 Rn上的向量x =(x1,…,xn)T∈Rn ，三种常 用的范数为：
x
max
1in
xi
n
x 1 | xi |
i 1
n
1
x 2 ( xi 2 )2
i 1
n
1
第五章 解线性方程组的直接法 §5 向量和矩阵的范数
一、向量的范数
二、矩阵的范数 三、小结
一、向量的范数
1. 向量范数的定义
设对任意向量 x∈Rn，按一定的规则有一实 数与之对应，记为‖x‖，若‖x‖满足
向量和矩阵的范数
一、向量的范数定义1 设x=(x1 ,x2,…,x n )n ,y=(y1 ,y2,…,y n )n∈R n (或C n )。
将实数(或复数),称为向量x,y的数量积。
将非负实数或称为向量x的欧氏范数。
对向量x,y的数量积有：1. (αx,y)=α(x,y).α为实数(或(x,αy)=(x,y),α为复数);2. (x,y)=(y,x)[(x,y)=(,)];3. (x1 +x2 ,y)=(x1 ,y)+(x2 ,y);4. (Cauchy-Schwarz不等式)(5.1)等式当且仅当x与y线形相关时成立。
对向量x的欧氏范数有：1. ‖x‖2≥0, ‖x‖2 =0当且仅当x=0时成立;2. ‖αx‖2=|α|‖x‖2，任意的α∈R(或α∈C),3. ‖x+y‖2≤‖x‖2 +‖y‖2 (三角不等式)，(5.2)注(5.1)和(5.2)有下面的事实得到(x+ty,x+ty)=(x,x)+2(x,y)t+(y,y)t2≥0由一元二次方程根的判别定理可知(5.1)成立；取t=1,再利用(5.1)得即得(5.2)。
定义2(向量的范数) 如果向量x∈R n (或C n )的某个实值函数N(x)=‖x‖, 满足条件：(1) ‖x‖≥0(‖x‖=0当且仅当x=0)(正定条件)，(2) ‖αx‖=|α|·‖x‖，任意的α∈R(或α∈C),(3) ‖x+y‖≤‖x‖+‖y‖(三角不等式)，则称N(x)是R n (或C n )上的一个向量范数(或模)。
下面我们给出几种常用的向量范数。
1. 向量的∞-范数(最大范数)：(5.3)2. 向量的1-范数：3. 向量的2-范数：(5.4)4. 向量的p-范数：(5.5)例6 计算向量x=(1,-2,3)T的各种范数。
解：定理6(N(x)的连续性) 设非负函数N(x)=‖x‖为R n上任一向量范数，则N(x)是x的分量x1 ,x2,…,x n的连续函数。
证明设其中e i=(0,…,1,0,…,0)T, . 只须证明当x→y时N(x)→N(y)即成。
向量范数与矩阵范数
任2种范数在刻画收敛性时等价
定理1.2 对 Rn 上的任意二种向量范数|| ·||a ,|| ·||b ,
均有与向量 x 无关的常数 m 与 M (0<m<M)，使 下列的关系成立
m x x M x , x Rn.
a
b
a
证明略.
意义：向量x的某一种范数可以任意小（大）时， 该向量的其它任何一种范数也会任意小（大）。
|1| | 2 | | 3 |,
A
1
max
|
5
|
|1|
|
8
|,
14,
| 2 | | 0 | | 2 |
1 5 2
A 2 1
0
3 8 2
|1| | 5 | | 2 |,
A
max
|
2
|
|1|
|
0
|,
13,
| 3 | | 8 | | 2 |
A F
12 22 32
52
12
82
22
02
22
112,
14 21 4
AT
A
21
90
26
4 26 8
❖定义 Rn 上的实值函数‖·‖称为向量范数，如果 对任意的 x, y∈Rn, 它均满足下列3条性质:
(1)正定性: || x ||,且 0 x 0;|| x || 0
(2)齐次性:对 k ,有R
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
|| x ||
|| b ||
➢ 设 精b确，A有误差 ，得到的A 解为
，即 x x
|| A || || A1 || 是关键
( A 的A误的A差状)放态(大数x因(条子件，数称x)，)为 b
记为cond (A) ,
A(x x) A(x x) b (A A)x (A A) x b
I A 1 1
1 || A ||
证明： ① 若不然，则
(I A有)x非零0解，即存在非零向量 使得
x0
Ax0 x0
|| Ax0 || 1 || x0 ||
|| A || 1 ✓
② (I A)1 A(I A)1 (I A)(I A)1 I
(I A)1 I mA(I A)1
，即
A(x x) b b
x x
绝对误差放大因子
x A1 b
|| x |||| A1 || || b ||
相对误差放大因子
又 || b || || Ax || || A || || x || 1 || A || || x || || b ||
|| x || || A || || A1 || || b ||
主要性质
性质1:‖-x‖=‖x‖
性质2:｜‖x‖-‖y‖｜≤‖x-y‖
性质3: 向量范数‖x‖是Rn上向量x的连续函数.
范数等价:设‖·‖A 和‖·‖B是R上任意两种范数，若存在
常数 C1、C2 > 0 使得
,则称
‖·‖A 和‖·‖B 等价。
定理1.4.1 Rn 上一切范数都等价。
定义2:设｛xk｝是Rn上的向量序列， 令 xk=(xk1,xk2,…，xkn)Ｔ, k=1,2，….,
|| A1A |||| A1 || || A || 1 )
|| x ||
|| x ||
|| 1
|| (I A)1 || 1 || A || || (I A)1 ||
§1.5 线性方程组的性态（误差分析）
( Error Analysis for Linear system of Equations )
思考:求解 A x时, Ab和 的误差b对解 有何影响？x
➢ 设 A 精确， 有误b差 ，得到 的b 解为
x A1 A(x x)
|| x || || A1 || || A || || x x || || A || || A1 || || A ||
|| A ||
(A A) x Ax A(I A1 A) x Ax
x (I A1 A)1 A1 Ax
(只要 A充分小，使得
证明： 由算子范数的相容性，得到
|| Ax|| || A || || x||
将任意一个特征根 所对应的特征向量 代入
u
| | || u|| || u|| || Au|| || A || || u||
命题(P26，推论1） 若A对称，则有:|| AA对||2称 ( A)
证明： || A ||2 max ( AT A) max ( A2 )
又设x*＝（x1*，x2*，…，xn*)Ｔ是Rn上的向量.
如果lim xki=xi对所有的i=1,2,…，n成立， 那么,称向量x*是向量序列｛xk｝的极限 ， 若一个向量序列有极限,称这个向量序列是收敛的. 定理1.4.对2 任意一种向量范数‖·‖而言，向量 序列｛xk｝收敛于向量x*的充分必要条件是
若 是 A 的一个特征根，则2 必是 A2 的特征根。
max ( A2 ) 2 ( A) 对某个 A 的特征根 成立
又：对称矩阵的特征根为实数，即 2(A) 为非负实数，
故得证。
所以2-范数亦称为谱范 数。
定理1.4.4 若矩阵 A 对某个算子范数满足 ||A|| < 1，则必有
①. I A 可逆； ②.
由|| A向||量p 范mxa数0x ||||||A·x|x|p||导|p|p 出 m|关|x| |ap 于x1 ||矩Ax阵|| pxA则y利R|用可n||||C证nAA|的|aBx（ux|c||例|hp|p|py26|不）|||范A|A等。| |||y|式p数p ||||||2xB:||||pp
1 1
,
B
1 1
1 1
2 2
AB
2
2
|| A ||1,|| B ||1,|| AB || 2
从而 || AB |||| A ||g|| B ||
➢相容性
（1）矩阵范数与矩阵范数的相容:‖AB‖≤‖A‖‖B‖ （2）矩阵范数与向量范数
设A∈M，‖A‖是矩阵范数,x∈Rn，‖x‖是 向量范数.如果满足不等式:
(3) || A B || || A|| || B ||
若还满足(4),称为相容的矩阵范数 (4) || AB || || A || ·|| B ||
例5: 设A＝(aij)∈M. 定义
||
A ||
1 n2
n
| aij
i , j 1
|
证明：这样定义的非负实数不是相容的矩阵范数.
证明：设
A
1 1
‖Ax‖≤‖A‖‖x‖
则称矩阵范数‖A‖与向量范数‖x‖相容.
nn
Frobenius范数:|| A ||F | aij |2 (向量|| ·||2的直接推广) i 1 j1
可以证明,对方阵 A R 和 nn x Rn有: ，|| Ax ||2 || A ||F || x ||2
算子范数 ( operator norm ),又称为从属的矩阵范数:
lim ||
k
xk
x*
|| 0
➢ 矩阵范数 ( matrix norms ) 定义3:对任意 A, B ,R称m|n| ·|| 为Rmn空间的矩阵范数, 指|| ·||满足(1)-(3)：
(1) || A|| 0; || A|| 0 A 0
(2) || A|| | ||| A|| 对任意 C
常用的算子范数： n || A || max | aij | （行和范数） 1i n j 1 n || A ||1 max | aij | （列和范数） 1 jn i 1
|| A ||2 max ( AT A) （谱范数 ( spectral norm ) ）
定理1.4.6 对任意算子范数 || ·|| 有: ( A) || A ||