逐次逼近法(1)(优选.)

解: A的F − 范数为
∑ ∑ A F
=
n i=1
n
a
2 ij
j=1
12
类似于向量的2-范数
但 A F 并不是从属于 x 2的算子范数
考虑单位矩阵 I
IF = n
I
υ
=
max x≠0
Ix υ
x
υ
= max x υ x≠0
x
υ
=
1
因此
A
F
是不从属于任意向量范数
⋅
的矩阵范数
υ
故而矩阵范数和算子范数并不完全是一回事
第六章 逐次逼近法
第六章 逐次逼近法
§6.1 基本概念 §6.2 线性方程组的迭代法 §6.3 非线性方程组的迭代法 §6.4 矩阵特征值问题的数值算法 §6.5 迭代法的加速
本章要点
本章主要介绍线性方程组的迭代法、非线性方程组 的数值方法 主要方法
基本迭代法、G-J迭代法、G-S迭代法、 Newton迭代法、SOR方法和Aitken加速方法
§6.1 基本概念
二维向量和三维向量都可以度量其大小和长度 高维向量的"长度"能否定义呢? "范数"是对向量和矩阵的一种度量,实际上是二维 和三维向量长度概念的一种推广 数域: 数的集合,对加法和乘法封闭 线性空间: 可简化为向量的集合,对向量的加法和
数量乘法封闭, 也称为向量空间
一、向量和矩阵的范数
0
−1 1
=
2 0 1
0 9 −1
1
−1 2
特征方程为
det( λI
−
AT A)
=
λ−2 0 −1
0
λ −9 1
−1 1 λ−2
=
0
可得 AT A的特征值为 λ1 = 9.1428 , λ2 = 2.9211 , λ3 = 0.9361
λmax ( AT A) = 9.1428 A 2 = λmax ( AT A) = 3.0237
定理1. 设 ⋅ 是R n×n上的一种算子范数 , B ∈ R n×n ,
若B满足 B < 1, 则I + B非奇异 ,且
证明略
(I + B)−1 < 1 1− B
--------(14)
推论：设 A ∈ R n×n可逆, 且 A−1 ≤ α , C ∈ R n×n , A − C ≤ β ,
且αβ < 1,则C可逆，且 C −1 ≤ α (摄动定理 ) 1− αβ
≤ 1−
1 A − 1δA
(19)式化为 A(I + A−1δA)δx = −δA ⋅ x
δx = −( I + A−1δA)−1 A−1δA ⋅ x --------(21)
δx ≤ (I + A−1δA)−1 ⋅ A−1 ⋅ δA ⋅ x
δx x
A−1 ⋅ δA ≤ 1 − A−1δA
A−1 ⋅ δA ≤ 1 − A−1 ⋅ δA
在向量空间 Rn (C n )中, 设x = ( x1 , x2 ,L , xn )T 常用的向量 x的范数有
x 2 = ( x1 2 + x2 2 + L + xn 2 )1 2 --------(1) x的2 − 范数或欧氏范数
x 1 = x1 + x2 + L + xn
--------(2)
1=
max
1≤ j≤n
i =1
aij
= max{2,5,2} = 5 1≤ j≤n
n
∑ A
=
∞
max
1≤i≤n
j=1
aij
= max{3,4,2} = 4 1≤i≤n
由于
A 2 = λmax ( AT A)
因此先求 AT A的特征值
AT A
=
1 2 0
−1 2 −1
0 1 1
⋅
1
−1 0
2 2 1
δx ≤ A ⋅ A−1 ⋅ δb
x
b
相对误差
--------(17) --------(18)
(18)式表明,由常数项产生的误差,最多可将解的 相对误差放大 A ⋅ A−1 倍
2.系数矩阵A的扰动对方程组解的影响 若系数矩阵 A存在误差 δA,则解也应存在误差 δx
( A + δA)( x + δx) = b
x1
p
+
x2
p
+L +
xn
p
) 1 p ≤ (n max 1≤i≤n
= n 1 p max 1≤i≤n
xi
→ max 1≤i≤n
xi
(p → ∞)
xi p ) 1 p
x p → x ∞ ( p → ∞时 ),
所以
x
也是
∞
x
的特例
p
且 x∞≤ x2≤ x1
例1.求下列向量的各种常用范数 x = (1,4,3,−1)T
若常数项 b存在误差 δb,则解也应存在误差 δx
即有
A(x + δx) = b + δb
--------(15)
所以
Aδx = δb
δx = A−1δb
δx = A−1δb ≤ A−1 ⋅ δb
--------(16)
又因为 可得
b = Ax ≤ A ⋅ x 1≤ A xb
(16)和(17)两式相乘,得
二、误差分析简介
定义6. 对于线性方程组 Ax = b,如果系数矩阵 A或 常数项 b的元素的微小变化 ,就会引起方程组解的 巨大变化 ,则称该方程组是 "病态"的, A为"病态"矩 阵.否则称为 "良态 "的.
1.常数项b的扰动对方程组解的影响
设Ax = b为一线性方程组 , A为非奇异矩阵 , x为其精确解
显然 A 2 = λmax ( AT A) = ρ( AT A)
对于某种向量范数 x υ 和算子范数 A υ ,
Ax υ ≤ A υ x υ
而
Ax υ = λx υ = λ ⋅ x υ
因此
λ ⋅ xυ≤ Aυ xυ
即
λ ≤ Aυ
所以
ρ(A) ≤ A υ
即矩阵A的谱半径不超过矩阵的 任何一种算子范数
x的 1 − 范数
x
∞
=
max
1≤i≤n
xi
--------(3) x的∞ − 范数或最大范数
x p = ( x1 p + x2 p + L + xn p ) 1 p
--------(4)
x的p − 范数 , p ≥ 1
显然
x 1和
x2
是
x
在p
p
=
1和p
=
2时的特例
并且由于
max
1≤i ≤n
xi
≤(
δA ⋅ x + Aδx + δA ⋅δx = 0
( A + δA)δx = −δA ⋅ x
--------(19)
在上式能直接使用范数吗？
( A + δA) = A(I + A−1δA)
如果假设
A−1δA < 1
--------(20)
则由定理1.,可知 I + A−1δA非奇异
且
( I + A−1δA)−1
解: x 1 = x1 + x2 + L + x4 = 9 x 2 = ( x1 2 + x2 2 + L + x4 2 )1 2 = 27 = 3 3
x
∞
=
max
1≤i≤4
xi
=4
定义2. 对于空间 R n×n中任意一个矩阵 A, 若存在唯一一个实数 A ∈ R与A对应，且满足
(1) (正定性 ) A ≥ 0,且∀A ∈ R n×n , A = 0 ⇔ A = 0; (2) (齐次性 ) α A = α ⋅ A ，∀A ∈ R n×n ,α ∈ R ; (3) (三角不等式 ) A + B ≤ A + B ，∀A, B ∈ R n×n . (4) AB ≤ A ⋅ B ，∀A, B ∈ R n×n . 则称 A 为矩阵 A的范数 . 对于复空间 C n×n中的矩阵范数可以类似 定义
A F = tr( AT A) = 2 + 9 + 2 = 3.6056
A1
A∞
A2
A F
容易计算
计算较复杂 不是从属范数
对矩阵元素的 变化比较敏感
较少使用
性质较好
使用最广泛
定义5. 设A ∈ R n×n的特征值为 λ1 , λ2 ,L , λn , 称 ρ( A) = max{ λ1 , λ2 ,L , λn } --------(13) 为矩阵 A的谱半径
例2. 设n阶方阵 A = (aij )n×n
∑ ∑ 设
A F
=
n i=1
n
a
2 ij
j =1
12
类似向量的 2-范数 --------(5)
不难验证其满足定义2的4个条件
因此 A F 是一种矩阵范数 称为Frobenius范数,简称F-范数
( ) ( ) 而且可以验证 A F = tr( AT A) 1 2 = tr( AAT ) 1 2
定义1. 对于 n维向量空间 Rn中任意一个向量 x, 若存在唯一一个实数 x ∈ R与x对应，且满足
(1) (正定性 ) x ≥ 0,且∀x ∈ R n , x = 0 ⇔ x = 0; (2) (齐次性 ) α x = α ⋅ x ，∀x ∈ Rn ,α ∈ R; (3) (三角不等式 ) x + y ≤ x + y ，∀x, y ∈ R n . 则称 x 为向量 x的范数 . 对于复线性空间C n中的向量范数可以类似定义