范数
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
p p p
常用的算子范数： n
j 1 n
可证（例6）。 || A || m ax | aij | （行和范数） 1 i n
i 1
|| A ||1 m ax | aij | （列和范数） 1 j n
|| A ||2
max ( AT A) （谱范数 ( spectral norm ) ）
( Error Analysis for Linear system of Equations )
思考:求解 A x b 时, A 和 b 的误差对解 x 有何影响？ 设 A 精确，b 有误差 b ，得到的解为 x x ，即
A( x x) b b
1
绝对误差放大因子
常用向量范数：
|| x || 1
(1) || x || 0 ; || x || 0 x 0
Rn空间的向量范数
n || · ,对任意 x , y R 满足下列条件 ||
i1
n
| xi |
|| x ||
2
i1
n
| x |
i
2
|| x || max | x i |
|| 2
相容性
（1）矩阵范数与矩阵范数的相 容:‖AB‖≤‖A‖‖B‖ （2）矩阵范数与向量范数 设A∈M，‖A‖是矩阵范数,x∈Rn，‖x‖是 向量范数.如果满足不等式:
‖Ax‖≤‖A‖‖x‖
则称矩阵范数‖A‖与向量范数‖x‖相容.
Frobenius范数:
|| A ||F
| a ij |2 (向量|| ·||2的直接推广)
|| A || 1
② ( I A)1 A( I A)1 ( I A)( I A)1 I
( I A)1 I A( I A)1
|| ( I A)1 || 1 || A || || ( I A)1 ||
§1.5 线性方程组的性态（误差分析）
i 1 j 1
n
n
|| 可以证明,对方阵 A R nn和 x R n 有: ， Ax ||2 || A ||F || x ||2
算子范数 ( operator norm ),又称为从属的矩阵范数: 由向量范数 || · p 导出关于矩阵 A Rnn 的 p 范数: ||
利用Cauchy 不等式 则 || AB ||p || A ||p || B ||p || Ax ||p || A ||p max max|| Ax ||p y | ||x || || y || |x 2 2 x 0 || x|| p 1 || x ||p || Ax || || A || || x ||
1 1 2 例：Hilbert 阵 H n 1 2 n 1
1 n
cond (H2) = 27 cond (H6) = 2.9 106
cond (H3) 748
注：现在用Matlab数学软件可以很方便 求矩阵的状态数! 定义2: 设线性方程组的系数矩阵是非奇异的,如果 cond(A)越大,就称这个方程组越病态.反之,cond(A) 越小,就称这个方程组越良态.
1 i n
主要性质
性质1:‖-x‖=‖x‖
性质2:｜‖x‖-‖y‖｜≤‖x-y‖
性质3: 向量范数‖x‖是Rn上向量x的连续函数.
范数等价:设‖· A 和‖· B是R上任意两种范数，若存在 ‖ ‖ 常数 C1、C2 > 0 使得 ,则称 ‖· A 和‖· B 等价。 ‖ ‖
定理1.4.1 Rn 上一切范数都等价。
定理1.4.2 对任意一种向量范数‖· ‖而言，向量 序列｛xk｝收敛于向量x*的充分必要条件是
lim || xk x || 0
* k
矩阵范数 ( matrix norms )
定义3:对任意 A, B Rmn ,称|| · 为Rmn空间的矩阵 ||
范数, 指|| · ||满足(1)-(3)：
(1) || A || 0 ; || A || 0 A 0 (2) || A || | | || A || 对任意 C (3) || A B || || A || || B ||
若还满足(4),称为相容的矩阵范数 (4) || AB || || A || · B || ||
定理1.4.6 对任意算子范数 || ·|| 有: ( A) || A ||
证明：由算子范数的相容性，得到 || Ax || || A || || x ||
将任意一个特征根 所对应的特征向量 u 代入 | | || u || || u || || Au || || A || || u ||
定理1.4.4 若矩阵 A 对某个算子范数满足 ||A|| < 1，则必有
①. I A 可逆； ②.
I A
1
1 1 || A ||
证明：① 若不然，则 ( I A) x 0 有非零解，即存在非零向
x0 使得 量
Ax0 x0
|| Ax0 || 1 || x0 ||
例5:
设A＝(aij)∈M. 定义
1 || A || 2 n
i , j 1
| a
n
ij
|
证明：这样定义的非负实数不是相容的矩阵范数.
1 1 1 1 证明：设 A , B 1 1 1 1
2 2 || A || 1,|| B || 1,|| AB AB 2 2 || AB |||| A |||| B || 从而
命题(P26，推论1） 若A对称，则有: || A ||2 ( A)
证明：|| A ||2 max ( A A) max ( A )
T 2
A对称
若 是 A 的一个特征根，则2 必是 A2 的特征根。
max ( A2 ) 2 ( A) 对某个 A 的特征根 成立
又：对称矩阵的特征根为实数，即 2(A) 为非负实数， 所以2-范数亦称为 故得证。 谱范数。
|| x || || A1 || || b || xA b 相对误差放大因子 1 || A || 又 || b || || Ax || || A || || x || || x || || b ||
|| x || || b || 1 || A || || A || || x || || b ||
|| x || || A1 || || A || || x x || || A || || A || || A || || A ||
1
A( I A1 A) x Ax
x ( I A1 A)1 A1 Ax (只要 A充分小，使得
|| A1A || || A1 || || A || 1 )
1
|| A || || A || || A || 1 || x || || A || || A || || A || 1 || x || 1 || A || || A || 1 || A || || A1 || || A || || A ||
注:
cond (A) 与 所取的范数有关
常用条件数有：
cond (A)1 =‖A‖1 ‖ A 1‖1 cond (A) cond (A)2 =‖A‖ ‖ A 1‖
max ( AT A) / min ( AT A)
特别地，若 A 对称，则
max | | cond ( A)2 min | |
精确有误差得到的解为精确a有误差得到的解为只要a充分小使得是关键的误差放大因子称为a的状态数条件数记为cond所取的范数有关常用条件数有
§1.4 向量和矩阵范数
向量范数 ( vector norms )
定义1：
(2) || x || | | || x || 对任意 C (3) || x y || || x || || y ||
设 b 精确，A有误差 A ，得到的解为 x x ，即 || A || || A1 || 是关键 的误差放大因子，称为 ( A A的状态数(条件数)， b A)( x x) 记为cond (A) , A( x x) A( x x) b ( A A) x ( A A) x b ( A A) x Ax x A1 A( x x)
定义2:设｛xk｝是Rn上的向量序列， 令 xk=(xk1,xk2,…，xkn)Ｔ, k=1,2，…., 又设x*＝（x1*，x2*，…，xn*)Ｔ是Rn上的向量.
如果lim xki=xi对所有的i=1,2,…，n成立，
那么,称向量x*是向量序列｛xk｝的极限 ， 若一个向量序列有极限,称这个向量序列是收敛的.
常用的算子范数： n
j 1 n
可证（例6）。 || A || m ax | aij | （行和范数） 1 i n
i 1
|| A ||1 m ax | aij | （列和范数） 1 j n
|| A ||2
max ( AT A) （谱范数 ( spectral norm ) ）
( Error Analysis for Linear system of Equations )
思考:求解 A x b 时, A 和 b 的误差对解 x 有何影响？ 设 A 精确，b 有误差 b ，得到的解为 x x ，即
A( x x) b b
1
绝对误差放大因子
常用向量范数：
|| x || 1
(1) || x || 0 ; || x || 0 x 0
Rn空间的向量范数
n || · ,对任意 x , y R 满足下列条件 ||
i1
n
| xi |
|| x ||
2
i1
n
| x |
i
2
|| x || max | x i |
|| 2
相容性
（1）矩阵范数与矩阵范数的相 容:‖AB‖≤‖A‖‖B‖ （2）矩阵范数与向量范数 设A∈M，‖A‖是矩阵范数,x∈Rn，‖x‖是 向量范数.如果满足不等式:
‖Ax‖≤‖A‖‖x‖
则称矩阵范数‖A‖与向量范数‖x‖相容.
Frobenius范数:
|| A ||F
| a ij |2 (向量|| ·||2的直接推广)
|| A || 1
② ( I A)1 A( I A)1 ( I A)( I A)1 I
( I A)1 I A( I A)1
|| ( I A)1 || 1 || A || || ( I A)1 ||
§1.5 线性方程组的性态（误差分析）
i 1 j 1
n
n
|| 可以证明,对方阵 A R nn和 x R n 有: ， Ax ||2 || A ||F || x ||2
算子范数 ( operator norm ),又称为从属的矩阵范数: 由向量范数 || · p 导出关于矩阵 A Rnn 的 p 范数: ||
利用Cauchy 不等式 则 || AB ||p || A ||p || B ||p || Ax ||p || A ||p max max|| Ax ||p y | ||x || || y || |x 2 2 x 0 || x|| p 1 || x ||p || Ax || || A || || x ||
1 1 2 例：Hilbert 阵 H n 1 2 n 1
1 n
cond (H2) = 27 cond (H6) = 2.9 106
cond (H3) 748
注：现在用Matlab数学软件可以很方便 求矩阵的状态数! 定义2: 设线性方程组的系数矩阵是非奇异的,如果 cond(A)越大,就称这个方程组越病态.反之,cond(A) 越小,就称这个方程组越良态.
1 i n
主要性质
性质1:‖-x‖=‖x‖
性质2:｜‖x‖-‖y‖｜≤‖x-y‖
性质3: 向量范数‖x‖是Rn上向量x的连续函数.
范数等价:设‖· A 和‖· B是R上任意两种范数，若存在 ‖ ‖ 常数 C1、C2 > 0 使得 ,则称 ‖· A 和‖· B 等价。 ‖ ‖
定理1.4.1 Rn 上一切范数都等价。
定理1.4.2 对任意一种向量范数‖· ‖而言，向量 序列｛xk｝收敛于向量x*的充分必要条件是
lim || xk x || 0
* k
矩阵范数 ( matrix norms )
定义3:对任意 A, B Rmn ,称|| · 为Rmn空间的矩阵 ||
范数, 指|| · ||满足(1)-(3)：
(1) || A || 0 ; || A || 0 A 0 (2) || A || | | || A || 对任意 C (3) || A B || || A || || B ||
若还满足(4),称为相容的矩阵范数 (4) || AB || || A || · B || ||
定理1.4.6 对任意算子范数 || ·|| 有: ( A) || A ||
证明：由算子范数的相容性，得到 || Ax || || A || || x ||
将任意一个特征根 所对应的特征向量 u 代入 | | || u || || u || || Au || || A || || u ||
定理1.4.4 若矩阵 A 对某个算子范数满足 ||A|| < 1，则必有
①. I A 可逆； ②.
I A
1
1 1 || A ||
证明：① 若不然，则 ( I A) x 0 有非零解，即存在非零向
x0 使得 量
Ax0 x0
|| Ax0 || 1 || x0 ||
例5:
设A＝(aij)∈M. 定义
1 || A || 2 n
i , j 1
| a
n
ij
|
证明：这样定义的非负实数不是相容的矩阵范数.
1 1 1 1 证明：设 A , B 1 1 1 1
2 2 || A || 1,|| B || 1,|| AB AB 2 2 || AB |||| A |||| B || 从而
命题(P26，推论1） 若A对称，则有: || A ||2 ( A)
证明：|| A ||2 max ( A A) max ( A )
T 2
A对称
若 是 A 的一个特征根，则2 必是 A2 的特征根。
max ( A2 ) 2 ( A) 对某个 A 的特征根 成立
又：对称矩阵的特征根为实数，即 2(A) 为非负实数， 所以2-范数亦称为 故得证。 谱范数。
|| x || || A1 || || b || xA b 相对误差放大因子 1 || A || 又 || b || || Ax || || A || || x || || x || || b ||
|| x || || b || 1 || A || || A || || x || || b ||
|| x || || A1 || || A || || x x || || A || || A || || A || || A ||
1
A( I A1 A) x Ax
x ( I A1 A)1 A1 Ax (只要 A充分小，使得
|| A1A || || A1 || || A || 1 )
1
|| A || || A || || A || 1 || x || || A || || A || || A || 1 || x || 1 || A || || A || 1 || A || || A1 || || A || || A ||
注:
cond (A) 与 所取的范数有关
常用条件数有：
cond (A)1 =‖A‖1 ‖ A 1‖1 cond (A) cond (A)2 =‖A‖ ‖ A 1‖
max ( AT A) / min ( AT A)
特别地，若 A 对称，则
max | | cond ( A)2 min | |
精确有误差得到的解为精确a有误差得到的解为只要a充分小使得是关键的误差放大因子称为a的状态数条件数记为cond所取的范数有关常用条件数有
§1.4 向量和矩阵范数
向量范数 ( vector norms )
定义1：
(2) || x || | | || x || 对任意 C (3) || x y || || x || || y ||
设 b 精确，A有误差 A ，得到的解为 x x ，即 || A || || A1 || 是关键 的误差放大因子，称为 ( A A的状态数(条件数)， b A)( x x) 记为cond (A) , A( x x) A( x x) b ( A A) x ( A A) x b ( A A) x Ax x A1 A( x x)
定义2:设｛xk｝是Rn上的向量序列， 令 xk=(xk1,xk2,…，xkn)Ｔ, k=1,2，…., 又设x*＝（x1*，x2*，…，xn*)Ｔ是Rn上的向量.
如果lim xki=xi对所有的i=1,2,…，n成立，
那么,称向量x*是向量序列｛xk｝的极限 ， 若一个向量序列有极限,称这个向量序列是收敛的.