北理版矩阵分析课件(5)
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
例 :设 b 是 C m 上的向量范数,且 mn A C , rank ( A) n ,则由
a
A b , C
n
a 是 C n 上的向量范数。 所定义的
例 : 设 V 数域 F 上的 n 维线性空间,
中的任意一个向量 可唯一地表示成
n i 1
1 , 2 ,, n 为其一组基底,那么对于 V
,证明:
A n max aij
i, j
是矩阵范数。 证明:非负性,齐次性和三角不等式容易 证得。现在我们考虑乘法的相容性。设 nn nn A C , B C ,那么
AB n max
i, j i ,k
a
k 1 k, j
n
ik kj
b n max aik bkj
i, j k 1
定义:设
A C , A 的 n 个特征值为 1 , 2 ,, n ,我们称 ( A) max{ 1 , 2 ,, n }
mn
为矩阵 A 的谱半径。 mn 例 1 :设 A C ,那么
( A) A
这里
A 是矩阵 A 的任何一种范数。
A 是一个正规矩阵,则 ( A) A 2
'
a1 , a2 ,, an , b1 , b2 ,, bn C
T T
引理(Hoider不等式):设
n
则
ab
i 1
n
i i
( ai ) ( bi )
p 1 p q i 1 i 1
n
n
1
q
p 1, q 1 且 1 p 1 q 1 。 其中
n
n n max aik max bkj n max aik n max bkj
i ,k k, j
A B
因此
A 为矩阵 A 的范数。
例 3 :对于任意
AC
m n
mn
,定义
2 1 2
A
F
( aij )
i 1 j 1
可以证明 A 也是矩阵 A 的范数。我们称此 范数为矩阵 A 的Frobenious范数。 证明:此定义的非负性,齐次性是显然的。 利用Minkowski不等式容易证明三角不等式。 现在我们验证乘法的相容性。 ml l n 设 A C , B C ,则
5 0 0 H 0 9 6 A A 0 6 9 所以 A 2 15 。
练习 :设
0 1 i 1 0 0 A i 0 0
或
1 0 0 0 1 0 A 0 0 1
分别计算这两个矩阵的 和 A F 。
AX
A
X
则称矩阵范数 A 与向量范数 X 是相容 的。 例 1 :矩阵的Frobenius范数与向量的2-范 数是相容的. 1 证明 : 因为 m n 2
A
F
( aij )
2 i 1 j 1
X
2
( xi )
i 1
n
2 12
(X X )
H
12
根据Hoider不等式可以得到
p i 1
n
1
p
1
由此可知
lim
p
p
x max ai
1i n
定义:设 a , b 是 n 维线性空间 V 上定义的两种向量范数,如果存在两个与 无关的正数 d1 , d 2 使得
d1
b
a
d 2 b , V
定理:有限维线性空间 V 上的任意两个向 量范数都是等价的。 利用向量范数可以去构造新的范数。
AX X
2 2 2 2 2
例 2 :设
H i 1 j 1
2
由一个例题可知此定义满足范数的性质。
Frobenious范数的性质:
(1)如果 A
1
2
2 n
n 2 2
n
,那么
A F i
i 1
(2) A
2 F
TR( A A) i ( A A)
H H i 1
(3)对于任何 m 阶酉矩阵 U 与 n 阶酉矩阵
i 1 j 1 k 1 p i 1 j 1 k 1
m
n
p
m
n
p
[( aik )( bkj )]
i 1 j 1 m k 1 k 1 p
m
n
p
( aik )( bkj )
i 1 k 1 j 1 k 1
p
n
A B
例 2 :设矩阵
AC
nn
p
p
常用的矩阵P--范数为 定理:设 (1)
A 1, A 2 和 A
。
AC
mn
,则
m
A 1 max( aij ) ,
j i 1
j 1, 2, , n
我们称此范数为矩阵A 的列和范数。
(2)
A 2 max( j ( A A)) , j ( A A)
H 2 H j
1
表示矩阵AH A 的第 j 个特征值。我们称此范 数为矩阵 A 的谱范数。 (3)
T
为向量 的 p 范数。 常用的 p 范数: 1 (1)1-范数
p
( ai )
p i 1
n
1
p
a
i 1
n
i
(2)2-范数
2 ( ai ) ( )
2 12 H i 1
n
12
也称为欧氏范数。 (3) -范数 定理:
lim
p
p
H 1 H 2 H
A 1, A 2 , A
AC A
mn
例 2 :证明:对于任何矩阵
都有
A A
A
T 1 T 2
A
2
A2
2
A A A2
2
A2 A1 A
如何由矩阵范数构造与之相容的向量范数? 定理:设 X 使得
A * 是矩阵范数,则存在向量范数
AX A * X
证明:对于任意的非零向量 ,定义向量范 H 数 X X ,容易验证此定义满足向 * 量范数的三个性质,且
AB i max
X 0
ABX X
max(
X 0
A( BX ) BX BX
X
)
max
BX 0
A( BX ) BX AX X
i
max
X 0
BX X
max
X 0
max
X 0
BX X
Ai B
因此
A i 的确满足矩阵范数的定义。
最后证明
AB
m
2 F n
aik bkj ( aik bkj )
i 1 j 1 k 1 l 2 i 1 j 1 k 1 l 2
m
n
l
2
m
n
l
2
[( aik )( bkj )]
i 1 j 1 m l k 1 k 1 l
( aik )( bkj )
max ai
1i n
证明:令
x max ai
1i n
,则
yi
于是有
ai x
, i 1,2,, n
n 1
另一方面
p
x( yi )
p i 1
n p
p
1 yi n
i 1
1 ( yi )
p i 1
n
1
p
n
1
p
故
p
lim( yi )
m
n
n
A
X
2 2
wk.baidu.com
于是有
AX
例 2 :设
2
A
F
X
2
X 是向量的范数,则
A i max
X 0
AX X
满足矩阵范数的定义,且 A i 是与向量范 X 相容的矩阵范数。 证明:首先我们验证此定义满足范数的四 条性质。非负性,齐次性与三角不等式易 证。现在考虑矩阵范数的相容性。
设 B 0 ,那么
矩阵分析
• 主讲教师:魏丰
第五章
向量与矩阵的范数
定义: 设 V 是实数域 R (或复数域 C )上 的 n 维线性空间,对于 V 中的任意一个向量 按照某一确定法则对应着一个实数,这个 实数称为 的范数,记为 ,并且要求 范数满足下列运算条件: (1)非负性:当 有且仅有当 0,
例 1:对于任意
AC
m
mn
,定义
A aij
i 1 j 1
n
可以证明如此定义的 数。
A 的确为矩阵 A 的范
证明:只需要验证此定义满足矩阵范数的 四条性质即可。非负性,齐次性与三角不 等式容易证明。现在我们验证乘法的相容 m p pn , B C ,则 性。设 A C
AB aik bkj aik bkj
0, 0 0
只
(2) 齐次性: 意数。
k k , k 为任
(3) 三角不等式:对于 V 中的任意两个 向量 , 都有
n 例 : 在 n 维线性空间 C 中,对于任意的 n 向量 (a1 , a2 ,, an ) C 定义
mn
,用 A 相对
0 只有
(2) 齐次性: kA k A , k 为任 意复数。 (3) 三角不等式:对于任意两个同种形 状矩阵 A, B 都有
A B A B
(4)矩阵乘法的相容性:对于任意两个可以 相乘的矩阵 A, B ,都有
AB A B 那么我们称 A 是矩阵 A 的范数。
A max( aij ) , i 1, 2, , m
i j 1
n
我们称此范数为矩阵 A 的行和范数。 例 1 :设
2 1 0 0 2 3 A 1 2 0
计算 解:
A 1, A 2 ,A 和 A F 。 A1 5 A 5
A
F
23
因为
V 都有等式 H A F UA F A
F
AV
F
UAV
F
关于矩阵范数的等价性定理。 定理:设 A , A 是矩阵 A 的任意两 种范数,则总存在正数 d1 , d 2 使得
d1 A
A d 2 A , A C
m n
诱导范数
定义:设 X 是向量范数, A 是矩阵范 数,如果对于任何矩阵 A 与向量 X 都有
AX
m
2 2
aij x j ( aij x j )
i 1 j 1 i 1 j 1 n 2 n 2
m
n
2
m
n
2
[( aij )( x j )]
i 1 j 1 j 1
( aij )( x j )
2 2 i 1 j 1 2 F j 1
xi i , X x1 , x2 ,, xn F
n
又设 是 F 上的向量范数,则由
n
所定义的
V
V
X
是
V 上的向量范数。
矩阵范数
定义:对于任何一个矩阵 A C A 表示按照某一确定法则与矩阵 应的一个实数,且满足
(1)非负性:当 A 0, A A 0 且仅有当 A 0,
2 2 i 1 k 1 2 F j 1 k 1
n
A
B
2 F
于是有
AB
F
AF B
nn
F
例 4 :对于任意 A C
,定义
1
A [Tr ( A A)] 2 证明如此定义的 A 是矩阵 A 的范数。
H
证明: 首先注意到这样一个基本事实, 即 m n 1 2 1
[Tr ( A A)] 2 ( aij )
AX AX A* X
H *
A * X
H *
例:已知矩阵范数
A * A aij
i 1 j 1
m
n
求与之相容的一个向量范数。
解:取
0 1 0 。设 T X x1 x2 xn
T
那么
X X
H *
xi X
i 1
n
1
矩阵的谱半径及其性质
引理(Minkowski不等式):设
a1 , a2 ,, an , b1 , b2 ,, bn C
T T
n
则
( ai bi )
p i 1
n
1
p
( ai )
p i 1
n
1
p
( bi )
p i 1
n
1
p
其中实数 p 1 。
几种常用的范数 定义:设向量 a1 , a2 ,, an ,对任 意的数 p 1 ,称
(1) (2) (3)
1 ai
i 1
n
2 ( ai )
i 1
n
2 12
max ai
1i n
证明:
1, 2,
(1)
' '
都是 C n上的范数,并且还有
1n n
2
(2) (3)
2 1 n
2
A i 与 X 是相容的。
AX X
由上面的结论可知
Ai AX
这说明
Ai X
A i 与 X 是相容的。
定义:上面所定义的矩阵范数称为由向量范 数 X 所诱导的诱导范数或算子范数。由
向量 P--范数 X 阵P--范数。即
p
所诱导的矩阵范数称为矩
A
p
max
X 0
AX X
a
A b , C
n
a 是 C n 上的向量范数。 所定义的
例 : 设 V 数域 F 上的 n 维线性空间,
中的任意一个向量 可唯一地表示成
n i 1
1 , 2 ,, n 为其一组基底,那么对于 V
,证明:
A n max aij
i, j
是矩阵范数。 证明:非负性,齐次性和三角不等式容易 证得。现在我们考虑乘法的相容性。设 nn nn A C , B C ,那么
AB n max
i, j i ,k
a
k 1 k, j
n
ik kj
b n max aik bkj
i, j k 1
定义:设
A C , A 的 n 个特征值为 1 , 2 ,, n ,我们称 ( A) max{ 1 , 2 ,, n }
mn
为矩阵 A 的谱半径。 mn 例 1 :设 A C ,那么
( A) A
这里
A 是矩阵 A 的任何一种范数。
A 是一个正规矩阵,则 ( A) A 2
'
a1 , a2 ,, an , b1 , b2 ,, bn C
T T
引理(Hoider不等式):设
n
则
ab
i 1
n
i i
( ai ) ( bi )
p 1 p q i 1 i 1
n
n
1
q
p 1, q 1 且 1 p 1 q 1 。 其中
n
n n max aik max bkj n max aik n max bkj
i ,k k, j
A B
因此
A 为矩阵 A 的范数。
例 3 :对于任意
AC
m n
mn
,定义
2 1 2
A
F
( aij )
i 1 j 1
可以证明 A 也是矩阵 A 的范数。我们称此 范数为矩阵 A 的Frobenious范数。 证明:此定义的非负性,齐次性是显然的。 利用Minkowski不等式容易证明三角不等式。 现在我们验证乘法的相容性。 ml l n 设 A C , B C ,则
5 0 0 H 0 9 6 A A 0 6 9 所以 A 2 15 。
练习 :设
0 1 i 1 0 0 A i 0 0
或
1 0 0 0 1 0 A 0 0 1
分别计算这两个矩阵的 和 A F 。
AX
A
X
则称矩阵范数 A 与向量范数 X 是相容 的。 例 1 :矩阵的Frobenius范数与向量的2-范 数是相容的. 1 证明 : 因为 m n 2
A
F
( aij )
2 i 1 j 1
X
2
( xi )
i 1
n
2 12
(X X )
H
12
根据Hoider不等式可以得到
p i 1
n
1
p
1
由此可知
lim
p
p
x max ai
1i n
定义:设 a , b 是 n 维线性空间 V 上定义的两种向量范数,如果存在两个与 无关的正数 d1 , d 2 使得
d1
b
a
d 2 b , V
定理:有限维线性空间 V 上的任意两个向 量范数都是等价的。 利用向量范数可以去构造新的范数。
AX X
2 2 2 2 2
例 2 :设
H i 1 j 1
2
由一个例题可知此定义满足范数的性质。
Frobenious范数的性质:
(1)如果 A
1
2
2 n
n 2 2
n
,那么
A F i
i 1
(2) A
2 F
TR( A A) i ( A A)
H H i 1
(3)对于任何 m 阶酉矩阵 U 与 n 阶酉矩阵
i 1 j 1 k 1 p i 1 j 1 k 1
m
n
p
m
n
p
[( aik )( bkj )]
i 1 j 1 m k 1 k 1 p
m
n
p
( aik )( bkj )
i 1 k 1 j 1 k 1
p
n
A B
例 2 :设矩阵
AC
nn
p
p
常用的矩阵P--范数为 定理:设 (1)
A 1, A 2 和 A
。
AC
mn
,则
m
A 1 max( aij ) ,
j i 1
j 1, 2, , n
我们称此范数为矩阵A 的列和范数。
(2)
A 2 max( j ( A A)) , j ( A A)
H 2 H j
1
表示矩阵AH A 的第 j 个特征值。我们称此范 数为矩阵 A 的谱范数。 (3)
T
为向量 的 p 范数。 常用的 p 范数: 1 (1)1-范数
p
( ai )
p i 1
n
1
p
a
i 1
n
i
(2)2-范数
2 ( ai ) ( )
2 12 H i 1
n
12
也称为欧氏范数。 (3) -范数 定理:
lim
p
p
H 1 H 2 H
A 1, A 2 , A
AC A
mn
例 2 :证明:对于任何矩阵
都有
A A
A
T 1 T 2
A
2
A2
2
A A A2
2
A2 A1 A
如何由矩阵范数构造与之相容的向量范数? 定理:设 X 使得
A * 是矩阵范数,则存在向量范数
AX A * X
证明:对于任意的非零向量 ,定义向量范 H 数 X X ,容易验证此定义满足向 * 量范数的三个性质,且
AB i max
X 0
ABX X
max(
X 0
A( BX ) BX BX
X
)
max
BX 0
A( BX ) BX AX X
i
max
X 0
BX X
max
X 0
max
X 0
BX X
Ai B
因此
A i 的确满足矩阵范数的定义。
最后证明
AB
m
2 F n
aik bkj ( aik bkj )
i 1 j 1 k 1 l 2 i 1 j 1 k 1 l 2
m
n
l
2
m
n
l
2
[( aik )( bkj )]
i 1 j 1 m l k 1 k 1 l
( aik )( bkj )
max ai
1i n
证明:令
x max ai
1i n
,则
yi
于是有
ai x
, i 1,2,, n
n 1
另一方面
p
x( yi )
p i 1
n p
p
1 yi n
i 1
1 ( yi )
p i 1
n
1
p
n
1
p
故
p
lim( yi )
m
n
n
A
X
2 2
wk.baidu.com
于是有
AX
例 2 :设
2
A
F
X
2
X 是向量的范数,则
A i max
X 0
AX X
满足矩阵范数的定义,且 A i 是与向量范 X 相容的矩阵范数。 证明:首先我们验证此定义满足范数的四 条性质。非负性,齐次性与三角不等式易 证。现在考虑矩阵范数的相容性。
设 B 0 ,那么
矩阵分析
• 主讲教师:魏丰
第五章
向量与矩阵的范数
定义: 设 V 是实数域 R (或复数域 C )上 的 n 维线性空间,对于 V 中的任意一个向量 按照某一确定法则对应着一个实数,这个 实数称为 的范数,记为 ,并且要求 范数满足下列运算条件: (1)非负性:当 有且仅有当 0,
例 1:对于任意
AC
m
mn
,定义
A aij
i 1 j 1
n
可以证明如此定义的 数。
A 的确为矩阵 A 的范
证明:只需要验证此定义满足矩阵范数的 四条性质即可。非负性,齐次性与三角不 等式容易证明。现在我们验证乘法的相容 m p pn , B C ,则 性。设 A C
AB aik bkj aik bkj
0, 0 0
只
(2) 齐次性: 意数。
k k , k 为任
(3) 三角不等式:对于 V 中的任意两个 向量 , 都有
n 例 : 在 n 维线性空间 C 中,对于任意的 n 向量 (a1 , a2 ,, an ) C 定义
mn
,用 A 相对
0 只有
(2) 齐次性: kA k A , k 为任 意复数。 (3) 三角不等式:对于任意两个同种形 状矩阵 A, B 都有
A B A B
(4)矩阵乘法的相容性:对于任意两个可以 相乘的矩阵 A, B ,都有
AB A B 那么我们称 A 是矩阵 A 的范数。
A max( aij ) , i 1, 2, , m
i j 1
n
我们称此范数为矩阵 A 的行和范数。 例 1 :设
2 1 0 0 2 3 A 1 2 0
计算 解:
A 1, A 2 ,A 和 A F 。 A1 5 A 5
A
F
23
因为
V 都有等式 H A F UA F A
F
AV
F
UAV
F
关于矩阵范数的等价性定理。 定理:设 A , A 是矩阵 A 的任意两 种范数,则总存在正数 d1 , d 2 使得
d1 A
A d 2 A , A C
m n
诱导范数
定义:设 X 是向量范数, A 是矩阵范 数,如果对于任何矩阵 A 与向量 X 都有
AX
m
2 2
aij x j ( aij x j )
i 1 j 1 i 1 j 1 n 2 n 2
m
n
2
m
n
2
[( aij )( x j )]
i 1 j 1 j 1
( aij )( x j )
2 2 i 1 j 1 2 F j 1
xi i , X x1 , x2 ,, xn F
n
又设 是 F 上的向量范数,则由
n
所定义的
V
V
X
是
V 上的向量范数。
矩阵范数
定义:对于任何一个矩阵 A C A 表示按照某一确定法则与矩阵 应的一个实数,且满足
(1)非负性:当 A 0, A A 0 且仅有当 A 0,
2 2 i 1 k 1 2 F j 1 k 1
n
A
B
2 F
于是有
AB
F
AF B
nn
F
例 4 :对于任意 A C
,定义
1
A [Tr ( A A)] 2 证明如此定义的 A 是矩阵 A 的范数。
H
证明: 首先注意到这样一个基本事实, 即 m n 1 2 1
[Tr ( A A)] 2 ( aij )
AX AX A* X
H *
A * X
H *
例:已知矩阵范数
A * A aij
i 1 j 1
m
n
求与之相容的一个向量范数。
解:取
0 1 0 。设 T X x1 x2 xn
T
那么
X X
H *
xi X
i 1
n
1
矩阵的谱半径及其性质
引理(Minkowski不等式):设
a1 , a2 ,, an , b1 , b2 ,, bn C
T T
n
则
( ai bi )
p i 1
n
1
p
( ai )
p i 1
n
1
p
( bi )
p i 1
n
1
p
其中实数 p 1 。
几种常用的范数 定义:设向量 a1 , a2 ,, an ,对任 意的数 p 1 ,称
(1) (2) (3)
1 ai
i 1
n
2 ( ai )
i 1
n
2 12
max ai
1i n
证明:
1, 2,
(1)
' '
都是 C n上的范数,并且还有
1n n
2
(2) (3)
2 1 n
2
A i 与 X 是相容的。
AX X
由上面的结论可知
Ai AX
这说明
Ai X
A i 与 X 是相容的。
定义:上面所定义的矩阵范数称为由向量范 数 X 所诱导的诱导范数或算子范数。由
向量 P--范数 X 阵P--范数。即
p
所诱导的矩阵范数称为矩
A
p
max
X 0
AX X