第6章线性方程组的迭代解法

第六章 线性方程组的迭代解法
1
求解线性方程组的数值解除了使用直接解法，迭代解 法也是经常采用的一种方法，这种方法更有利于编程计 算，本章将介绍这种方法。
§1 向量和矩阵的范数
为了对线性方程组数值解的精确程度，以及方程组 本身的性态进行分析，需要对向量和矩阵的“大小”引 进某种度量，范数就是一种度量尺度，向量和矩阵的范 数在线性方程组数值方法的研究中起着重要的作用。
AT A的最大特征值 2
算理论上重要
n
矩阵∞-范数：
A
max 1 i n
| aij |
j 1
行和
以上三种范数都满足矩阵范数的条件，通常将这三种 矩阵范数统一表示为|| A ||p，P＝1，2，∞。
2020/8/12
第六章 线性方程组的迭代解法
9
例6.2 设矩阵
1 A 3
2
4
求矩阵A的范数|| A ||p，P＝1，2，∞。 解 根据定义
lim x(k) x* 或 x(k ) x*
k
向量序列 {x(k)} 收敛于向量 x*，当且仅当它的每一
个分量序列收敛于xi*的对应分量，即
x(k)
x*
x(k) i
xi* , i
1,2,, n
||
x(k )
x*
||
max
1 i n
|
x(k) i
xi*
|
2020/8/12
第六章 线性方程组的迭代解法
（4）|| AB ||≤|| A || || B ||
则称|| A ||为矩阵A的范数。
可定义矩 阵极限
2020/8/12
第六章 线性方程组的迭代解法
8
设 n 阶矩阵 A＝（aij），常用的矩阵范数有：
n
矩阵1-范数：
A
1
max 1 j n
| aij
i 1
|
列和
矩阵2-范数： A 2
1 谱范数. 不好
4
解:对于 向量 x＝(1，－3，2，0)T ，根据定义 可以计算出：
|| x||1＝| 1 |＋|－3 |＋| 2 |＋| 0 |＝6
1
x 12 32 22 02 2 14 2
x max1 , 3 , 2 , 0 3
由此例可见，向量不同范数的值不一定相同，但这并不 影响对向量大小做定性的描述，因为不同范数之间存在如 下等价关系。
第六章 线性方程组的迭代解法
§1 向量和矩阵的范数 1.1 向量的范数 1.2 矩阵的范数
§2 迭代解法与收敛性 2.1 迭代法的构造 2.2 迭代法的收敛性条件
§3 常用的三种迭代解法 2.1 Jacobi迭代法 2.2 Gauss-Seidel迭代法 2.2 超松弛(SOR)迭代法
2020/8/12
A max| 1 | | 3 |, | 2 | | 4 | 6 1
A max| 1 | | 2 |,| 3 | | 4 | 7
由于
AT
A
1 2
3 1 4 3
2 10 4 14
14 20
则它的特征方程为:
I AT A 10 14
2 30 4 0
14
20
2020/8/12
7
二、矩阵的范数
矩阵范数是反映矩阵“大小”的一种度量，具体定义如下。 定义6.3 设||·||是以n阶矩阵为变量的实值函数，且满足 条件：
（1）|| A ||≥0，且|| A ||＝0时，当且仅当A＝0
（2）||αA||＝|α| || A||，α∈R
（3）||A＋B|| ≤ || A ||＋|| B ||
第六章 线性方程组的迭代解法
6
定义6.2 对于向量序列
x(k) ( x1(k) , x2(k) ,, xn(k) )T , k 1,2,,
及向量 x* ( x1* , x2* ,, xn* )T
如果
lim x(k) x* 0
k
收敛与取哪种范数无关
则称向量序列 x(k) 收敛于向量 x* 。记作
|| x＋y ||≤|| x ||＋|| y || 则称 ||·|| 为 Rn 空间上的范数，|| x ||为向量 x 的范数。
理论上存在多种多样的向量范数，但最常用的是如下 三种。
设向量x＝（x1，x2，…，xn）T，定义
2020/8/12
第六章 线性方程组的迭代解法
3
向量1-范数： 向量2-范数： 向量∞-范数：
一、向量的范数
定义6.1设||·||是向量空间Rn上的实值函数，且满足条件
2020/8/12
第六章 线性方程组的迭代解法
2
（1）非负性：对任何向量 x，
|| x ||≥0，且|| x ||＝0当且仅当x＝0
（2）齐次性：对任何实数和向量x
|| α x||＝| α | || x || （3）三角不等式：对任何向量x和y，都有 可引进极限
2020/8/12
第六章 线性方程组的迭代解法
5
定义（范数的等价性） Rn上两种范数||·||α 和||·||β 称为等价 的，如果存在着正数 m，M，使得：
m x x M x ,x Rn
范数的等价性表明，一个向量若按某种范数是一个小
量，则它按任何一种范数也将是一个小量。（等价有传递
性）容易证明，常用的三种向量范数满足下述等价关系。
的矩阵范数定义为
Ax
A max
x0
x
(也称为A的算子范数) 此式左端||A||表示矩阵范数，而右端 是向量Ax 和 x 的范数，利用向量范数所具有的性质不难 验证，由上式定义的矩阵范数满足矩阵范数的条件。
|| x ||∞ ≤|| x ||1 ≤ n|| x ||∞
|| x ||∞ ≤|| x ||2 ≤ |n| x ||∞
1
n || x || 2≤|| x ||1 ≤n|| x ||2
n
例如： x 1
xi
n max 1i n
xi
n x
i 1
定理6.2 n维向量x的一切范数都等价
2020/8/12
第六章 线性方程组的迭代解法
10
此方程的根为矩阵ATA的特征值，解得
1 15 221 2 15 221
1
因此 A 15 221 2 5.46 2
在线性方程组的研究中，经常遇到矩阵与向量的乘积
运算，若将矩阵范数与向量范数关联起来，将给问题的分
析带来许多方便。设||·||是一种向量范数，由此范数派生
n
x 1
xi
i 1
1
x
2
n i 1
x
2 i2ຫໍສະໝຸດ xmax 1 i n
xi
欧氏范数
x A (x1, x2) 2
O (0,0)
B
x
最大范数
容易验证，以上三种范数都满足向量范数的三个条件。
例6.1 设x＝（1，－3，2，0）T，求向量范数|| x ||p， P＝1，2，∞。
2020/8/12
第六章 线性方程组的迭代解法