第五章 矩阵分析基础1

lim X k − X * = 0
k →∞
向量序列依范数收敛与依坐标收敛是等价的。 向量序列依范数收敛与依坐标收敛是等价的。 2．矩阵的范数 定义3： 定义 ：设A为n 阶方阵，Rn中已定义了向量范数 为 阶方阵， 则称 s u p A X
x =1
⋅ ，
的算子范数或模， 为矩阵A 的算子范数或模，
记为 A
k→∞
为 ρ (B) < 1 。
4. 矩阵的条件数
定义5 设矩阵 A 为非奇异矩阵，则称 为非奇异矩阵， 定义
cond ( A ) = A −1 A
条件数，其中 是矩阵的算子范数。 为矩阵 A 的条件数 其中 ⋅ 是矩阵的算子范数。 对矩阵 A 的任意一个算子范数
(1)
有
cond ( A ) = A − 1 A ≥ A − 1 ⋅ A = I = 1
1 X n
1
≤ X
∞
≤ X
1
X
X
∞
≤ X
≤ X
2
1
≤n X
∞
∞
∞
≤ n X
定义2：设给定Rn中的向量序列{ X k }，即 定义 ：设给定 中的向量序列{ }，
X 0 , X1 , L X k , L
其中
( ( X k = x1( k ) , x 2k ) , L , x nk )
(
)
T
若对任何i 若对任何 (i = 1, 2,…, n )都有 都有
L−1 (li ) = Li (−li ), Li = 1 ； i
1 −l21 1 (2) L = L1 (l1 )L 2 (l2 )L L n −1 (ln −1 ) = M M O −ln1 −ln 2 L 1
为单位下三角阵 ； (3) 任何一个单位下三角阵 L ∈ R n 都可分裂成
e = (1, 0,L , 0 ) ∈ R n 的常数倍，使得 的常数倍，
T
Hv = ce
T 其中， 是实数， 其中， c 是实数，并且 | c |= v v
5.2.4 Givens旋转矩阵 旋转矩阵 定义9 定义 将 n 阶单位阵 I n 改变第 i, j 行和第 i, j 列的四个 元素得到矩阵
T (2) 矩阵 H 是正交矩阵，即 Η Η = Ι; 是正交矩阵，
(3) H 变换保持向量长度不变，即对任意向量 变换保持向量长度不变，
v ∈ R n，Hv 2 = v
2
;
(4) 设S 为以 u 为法向量过原点的超平面，对任意的非零 为法向量过原点的超平面， ，有 对称。 向量 v ∈ R n 有 Hv 与v 关于超平面 S 对称。 定理5.2.3 对任意的非零向量 v ∈ R n，可以适当选择合适的 定理 可以适当选择合适的 满足 用其构造的 向量 u ∈ R n ，满足 u 2 = 1，用其构造的H矩阵可将v 变换为单位向量
A 1 = max ∑ aij
j i =1 n
（Ⅱ）与 x A
2
2
相容的矩阵范数是
=
λ1
为矩阵A 的最大特征值 的最大特征值。 其中λ1为矩阵 TA的最大特征值。 （Ⅲ）与 x
∞
相容的矩阵范数是
n i j =1
A ∞ = max ∑ aij
上述三种范数分别称为矩阵的1 范数、 范数和∞ 范数。 上述三种范数分别称为矩阵的1-范数、2-范数和∞-范数。
（2） （3）
X
∞
= max x i
1≤ i ≤ n
范数等价: 上任意两种范数， 范数等价: 设‖·‖A 和‖·‖B是R上任意两种范数，若存在 ‖ ‖ 常数 C1、C2 > 0 使得 ‖ 等价。 ‖·‖A 和‖·‖B 等价。 ‖ , 则称
定理1：定义在 是变量X分量的 定理 ：定义在Rn上的向量范数 X 是变量 分量的 一致连续函数。 一致连续函数。 X = f ( X )
ρ ( A) = max λi
1≤i ≤ n
定理5：矩阵A 的谱半径不超过 的任一相容矩阵范数，即 的任一相容矩阵范数， 定理 ：矩阵 的谱半径不超过A的任一相容矩阵范数
ρ ( A) ≤ A
并且如果A为对称矩阵， 并且如果A为对称矩阵，则
max λi = A 2 − (谱范数）
1≤i ≤ n
中的任意两个矩阵范数也是等价的。 注:Rn×n中的任意两个矩阵范数也是等价的。 定义5 ||为 上的矩阵范数，A,B∈R 定义5： 设|| · ||为Rn×n上的矩阵范数，A,B∈Rn×n ||A-B||为 之间的距离。 称 ||A-B||为A与B之间的距离 定义6 中的矩阵序列{ 定义6：设给定Rn×n中的矩阵序列{ Ak }，若
1 1 1 1 证明：设 A = , B = 1 1 1 1
2 2 AB = 2 2
从而
|| A ||= 1,|| B ||= 1,|| AB ||= 2
|| AB ||>|| A || || B ||
定理4： 阶方阵A 定理 ：设n 阶方阵 = (aij)n×n，则 × （Ⅰ）与 x 1 相容的矩阵范数是
注：（1） || A ||F = tr( A A)
T
矩阵的Frobenius范数不是算子范数 Frobenius范数不是算子范数。 （2） 矩阵的Frobenius范数不是算子范数。
3．矩阵的范数与特征值之间的关系 ．矩阵的范数与特征值之间的关系
定义4：矩阵 的诸特征值的最大绝对值称为A的谱半径 的谱半径， 定义 ：矩阵A 的诸特征值的最大绝对值称为 的谱半径， 记为： 记为：
lim xi( k ) = x i*
k →∞
则向量
* * X * = ( x1 , L, xn ) T
称为向量序列{ }的极限 或者说向量序列{ 的极限， 称为向量序列{ X k }的极限，或者说向量序列{ X k } 依坐标收敛于向量 X *，记为
k →∞
lim X k = X *
定理3：向量序列 依坐标收敛于X 定理 ：向量序列{Xk}依坐标收敛于 *的充要条件是 依坐标收敛于
aX = a ⋅ X
（3）三角不等式：即对任意两个向量 、Y∈ R n，恒有 ）三角不等式：即对任意两个向量X、
X +Y ≤ X + Y
三个常用的范数： 三个常用的范数： 设X = (x1, x2,…, xn)T，则有 （1）
X 1 = x1 + x2 + L xn
2 2 X 2 = X T X = x12 + x2 +L+ xn
1 O 1 cos θ J (i, j, θ ) = − sin θ i i j 1 O 1
sin θ 1 O 1 cos θ
j
称为Givens旋转矩阵，或称Givens变换， 为旋转角 旋转矩阵，或称 变换， 称为 旋转矩阵 变换 θ 为旋转角。
Frobenius范数: Frobenius范数: || A ||F = 范数
n×nຫໍສະໝຸດ Baidu
| aij |2 ∑∑
i =1 j =1
n
n
的直接推广) (向量|| · ||2的直接推广) 向量||
x∈Rn ，有 || Ax ||2≤|| A||F ⋅ || x ||2 可以证明, 可以证明 对方阵 A∈R 和
定理2 定理2：在Rn上定义的任一向量范数 X
都与范数 X
1
等价， 等价，
即存在正数 M 与 m ( M>m ) 对一切 ∈Rn，不等式 对一切X
mX
成立。 成立。
1
≤ X ≤M X
1
推论： 上定义的任何两个范数都是等价的。 推论：Rn上定义的任何两个范数都是等价的。
对常用范数，容易验证下列不等式： 对常用范数，容易验证下列不等式：
第五章
矩阵分析基础
§5.1 向量和矩阵的范数
1．向量的范数 定义1 表示定义在R 上的一个实值函数， 定义1：设X ∈ R n，||Ｘ|| 表示定义在 n上的一个实值函数， 称之为X的范数，它具有下列性质： 称之为 的范数，它具有下列性质： 的范数 非负性：即对一切X (1) 非负性：即对一切 ∈ R n，X ≠ 0, ||Ｘ|| >0 齐次性：即对任何实数a (2) 齐次性：即对任何实数 ∈ R，X ∈ R n， ，
则称矩阵
1 O T L i = L i ( l i ) = E ( l i , e i ;1) = I − l i e i =
1 − li +1, i M − l ni 1 O
1
为初等下三角阵。 初等下三角阵。 定理5.2.1 初等下三角阵 L i具有如下性质 具有如下性质： 定理 (1)
lim Ak − A = 0
k →∞
则称矩阵序列{ }收敛于矩阵 收敛于矩阵A 则称矩阵序列{ Ak }收敛于矩阵A，记为
lim Ak = A
k →∞
定理6 则由B 定理6 设B∈Rn×n，则由B的各幂次得到的 矩阵序列B k=0,1,2…) 矩阵序列Bk, k=0,1,2 )收敛于零矩阵 （
lim B k = 0 ）的充要条件
E(u, v; σ ) = I − σ uv T
n 阶单位矩阵， 的矩阵叫做实初等矩阵， 的矩阵叫做实初等矩阵，其中I 是 阶单位矩阵 实初等矩阵
5.2.2 初等下三角矩阵
T 定义7 定义 令向量 u = li = (0,L,0, li +1,i ,L, lni ) ，向量 v = ei σ = 1
为非零常数; (2) cond ( kA )= cond ( A ) , k 为非零常数; (3)若 (3)若
A = 1， 则
cond ( A) = A −1
注:
cond (A) 与 所取的范数有关
常用条件数有： 常用条件数有：
cond (A)1 =‖A‖1 ‖ A−1‖1 cond (A)∞ cond (A)2 =‖A‖∞ ‖A−1 ‖∞
= λmax ( AT A) / λmin ( AT A)
特别地， 对称， 特别地，若 A 对称，则
max | λi | cond ( A) 2 = min | λi |
§ 5.2 初等矩阵
初等矩阵对线性方程组的研究起着重要的作用， 初等矩阵对线性方程组的研究起着重要的作用，本节介绍 一般形式的初等矩阵，它是矩阵计算的基本工具。 一般形式的初等矩阵，它是矩阵计算的基本工具。 5.2.1 初等矩阵 定义6 设向量 u, v ∈ R n , σ ∈ R ，则形如 定义
T T T L = I − l1e1 − l 2 e2 − L − l n −1en −1
因此， 因此，对任一非奇异下三角阵L，都可分裂成一个非奇异 都可分裂成一个非奇异 对角阵和若干个下三角阵的乘积。 对角阵和若干个下三角阵的乘积。 (4) L i 左乘矩阵 A 的结果是从 A 的各行中减去第i行乘一个因子。 行乘一个因子。 初等下三角阵在矩阵的满秩分解、 初等下三角阵在矩阵的满秩分解、三角分解以及解线 性代数方程组的直接解法中起着重要的作用。 性代数方程组的直接解法中起着重要的作用。
。即
A = sup AX
x =1
矩阵范数的基本性质： 矩阵范数的基本性质： （1）当A = 0时， A ＝0，当A ≠ 0时， A > 0 ） 时 ， 时 （2）对任意实数k 和任意 ，有 kA = k A ）对任意实数 和任意A， 阶矩阵A、 有 （3）对任意两个 阶矩阵 、B有 ）对任意两个n阶矩阵
5.2.3 Householder矩阵 矩阵 定义8 定义 设向量 ω ∈ R n ，且 ω 2 = 1 ，称形如 且 称形如
Η (ω ) = Ε(ω , ω ; 2) = Ι − 2ωω T
矩阵， 变换、 为Householder矩阵，或称 矩阵 或称Householder变换、反射矩阵。 变换 反射矩阵。 要得到Householder矩阵，只要在初等矩阵 Ε(u, v;σ )中， 矩阵， 要得到 矩阵 取向量 u = v = ω ， = 2 即可。 σ 即可。 定理5.2.2 Householder矩阵 H 具有以下性质： 具有以下性质： 定理 矩阵 (1) 矩阵 H 是对称阵，即 ΗT = Η ； 是对称阵，
A+ B ≤ A + B
和任意矩阵A， （4）对任意向量 ∈Rn，和任意矩阵 ，有 ）对任意向量X
AX
≤
A
X
阶矩阵A、 ， （5）对任意两个 阶矩阵 、B，有 ）对任意两个n阶矩阵
AB ≤ A ⋅ B
例5:
设A＝(aij)∈M. 定义
1 | | A ||= n2
i, j =1
∑
n
| a ij |
证明：这样定义的非负实数不是相容的矩阵范数. 证明：这样定义的非负实数不是相容的矩阵范数.