线性代数方程组的解法

xi( k ) xi 若对 i 1, 2,, n 有 lim k
则称向量序列 { x ( k ) } 收敛于向量 x ( x1 , , xn )T
命题: 当 k 时 (k ) (k ) lim x x x x
k
(k ) x x 这是因为

0
(k ) (k ) max | x1 x1 |, ,| xn xn |



从而当 k 时， x ( k ) x 与 x ( k ) x
湘潭大学数学与计算科学学院 上一页
0 等价
8
下一页
定理 5.2
设 为 Rn 中的任一种范数，则序
列{x ( k ) }收敛于 x R n 的充分必要条件为
x( k ) x 0,
k 时.
利用向量范数的等价性及向量范数的连续性, 容易 得到定理5.2的证明
A B A B , A 、B R nn
定理5.3中的性质 1), 2) 和 3)是一般范数所满 足的基本性质，性质 4)、5) 被称为相容性条件， 一般矩阵范数并不一定满足该条件.
湘潭大学数学与计算科学学院 上一页 下一页 11
三种从属范数计算：
（1）矩阵的1-范数（列和范数）:
5 几种特殊矩阵
定义 5.5 若矩阵 A 满足条件
a
j 1 ji
n
ij
aii
, i 1,2, , n
且至少有一 i 个使不等式严格成立，则称矩阵 A 为按行对角占优矩阵。若 i 1, 2,, n 严格不等 式均成立，则称 A 为按行严格对角占优矩阵.
类似地，可以给出矩阵 A 为按列（严格）对角
A 1 max | aij |
j

n
（2）矩阵的-范数（行和范数）: A （3）矩阵的2-范数:
max | aij |
i j 1
i 1 n
A 2 1
T A A 的最大特征值 其中 1 :
湘潭大学数学与计算科学学院
上一页
下一页
12
1 2 求 A , p 1, 2, 例 已知矩阵 A , p 3 4
根据定义:
x 1 | xi | 13
i 1 4
2 x 2 xi i 1
4
1/ 2
51
x

max(| x1 |, ,| x4 |) 5
湘潭大学数学与计算科学学院
上一页
下一页
6
范数的等价性
定理 5.1 对于 Rn 中任意两种范数 p 和 q ，总存在常 数 m和 M ，使对一切 x R n 都有 m x q x p M x q. (*)
算过程中的舍入误差，那么通过有限步运算可以获得
方程解的精确结果. Gauss 逐步（顺序）消去法、 Gauss主元素法、矩阵分解法等；
湘潭大学数学与计算科学学院 上一页 下一页 3
(2) 迭代解法：所谓迭代方法，就是构造某种 极限过程去逐步逼近方程组的解. 经典迭代法有：
Jacobi 迭代法、Gauss Seidel 迭代法、
A 2 ( A A) 15 221 5.46
T
湘潭大学数学与计算科学学院 上一页 下一页 13
矩阵范数的等价定理： 对 A 、A

，存在常数 m 和 M ，使得：
m A A M A
几种常用范数的等价关系：
1 A A2 n A n 1 n A1 A2 n A1
湘潭大学数学与计算科学学院 上一页 下一页 19
4 矩阵的条件数
定义 5.4 对于给定的非奇异方阵 A , 我们称
A
1

A 为 A 的条件数 , 并记为 cond ( A) . 特别当矩
阵范数为 p 时,对应的条件数记为 cond p ( A) .
由定义 , cond ( A) A1 A A1 A I 1, 因 此,对于任意非奇异方阵 A ，都有 cond ( A) 1
湘潭大学数学与计算科学学院
上一页
下一页
9
5.1.2 矩阵的一些相关概念及记号
1. 矩阵的范数
对于 R n 上的任何向量范数,我们可以定义矩阵范数.
定义 5.1 若 是 Rn 上任意范数,则对任一 A Rnn Ax A max max Ax , x 0 x 1 x 称为 A 的由向量范数 导出的矩阵范数， 简称 A 的从属 范数.
A ( A) .
湘潭大学数学与计算科学学院
上一页
下一页
16
3. 矩阵级数的收敛性
(k ) 定义5.3 称矩阵序列 A( k ) ( aij ) R nn 是收敛的，
如果存在 A ( aij ) Rnn ，使得
(k) lim aij aij , i , j 1, 2, , n k
占优矩阵的定义.
湘潭大学数学与计算科学学院 上一页 下一页 22
定理 5.8 若 A 为严格对角占优矩阵，则 A 非奇异.
证明 我们只证按行严格对角占优的情形，这时有
a
j 1 j i
n
ij
| aii |,
i 1,2,, n
假设 Ax 0 有非零解 x ( x1, x2 ,, xn ) ,
上一页 下一页 14
湘潭大学数学与计算科学学院
2. 谱半径：
定义 5.2 设 A Rnn , 称其特征值的按模最大值 ( A) max{ : ( A)}
为 A 的谱半径，这里 ( A) 表示 A 的特征值全体.
此时
A 2 ( AT A)
n n 若 A R 为对称阵， A 2 ( A)
(1)
湘潭大学数学与计算科学学院
上一页
下一页
26
第五章 线性代数方程组的解法
5.1 预备知识
湘潭大学数学与计算科学学院
上一页
下一页
1
求解线性方程组 Ax b
a12 a1n a11 a a a 21 22 2n A an 2 ann an1
。
其中
且 | A | 0
湘潭大学数学与计算科学学院
上一页
下一页
10
定理5.3 矩阵的从属范数具有下列基本性质：
1） A 0 ，当且仅当 A 0 时， A 0 2) R ,
3)
A | | A
A B A B , A, B R nn ;
4) 5)
x Rn 时
Ax A x
解： 按定义
A1 6 A 7

1 3 1 2 10 14 A A 2 4 3 4 14 20
T
I A A
T
10
14
14 2 30 4 0 20
15 221
n
1/ p
x 1 | x1 | | x2 | | xn | | xi |
2 x 2 xi i 1 x max(| x1 |, ,| xn |)
n
湘潭大学数学与计算科学学院
n
1/ 2
i 1
上一页
下一页
5
例:
设 x (1, 3, 5,4)T , 求 x p , p 1, 2,
则存在下标1 i n ，使得 xi max x j 0 ,
1 j n
考虑 Ax 0 的第i 行 ai1x1 ai 2 x2 ain xn 0
从而
a ii x i a ij x j x i
j 1 j i n
a
j 1 j i
n
ij
两边约去 xi ，得
aii aij
j 1 j i
n
矛盾
上一页 下一页 23
湘潭大学数学与计算科学学院
定义 5.8 称矩阵 A Rnn 为一个稀疏矩阵是指 该矩阵的绝大多数元素是零. 一般说来，一个 n n矩阵，如果其非零元总数
O(n) ，就可称之为稀疏矩阵.
定义 5.9 如果矩阵 A Rnn 的所有元素均为非负 数, 则称之为非负矩阵，并简记 A 0 .
湘潭大学数学与计算科学学院
上一页
下一页
20
若矩阵 A 对称正定，设 0 min max 分别为 A 的最 小和最大特征值, 则由 A 的对称性可得
A 2 ( A) max , A1 ( A1 ) 1/ min ，
2
因此有
max cond 2 ( A) min
为了方便起见，对一般的非奇异矩阵（可能非对 称） ，常将下式
max{ i ( A) , i 1,2,, n} ， cond sp ( A) : min{ i ( A) , i 1,2,, n}
定义为矩阵 A 条件数，并称它为矩阵 A 的谱条件数.
湘潭大学数学与计算科学学院 上一页 下一页 21
( I A)1 1/(1 A ).
定理 5.7（Banach 引理）若矩阵 A Rnn 非奇异， E Rnn 且 A1 E 1，则 A E 非奇异，且
( A E ) 1 A1 1 A1 E
该定理将被应用于解方程组的扰动分析和 Gauss消去法的舍入误差分析.
湘潭大学数学与计算科学学院
上一页
下一页
24
§5.2 Gauss消去法、矩阵分解
湘潭大学数学与计算科学学院
上一页
下一页
25
2.1 Gauss消去法
下面通过简单例子导出一般算法。 设给定方程组
a11 x1 a12 x2 a13 x3 a14 x4 b1 , a21 x1 a22 x2 a23 x3 a24 x4 b2 , a31 x1 a32 x2 a33 x3 a34 x4 b3 , a41 x1 a42 x2 a43 x3 a44 x4 b4 .
x x1 , x2 ,, xn
T
b b1 , b2 ,, bn
T
湘潭大学数学与计算科学学院
上一页
下一页
2
利用 Cramer 法则求解时存在的困难是：当方程 组的阶数 n 很大时，计算量为 O( n!) O( n2 ) 常用计算方法: (1) 直接解法：它是一类精确方法，即若不考虑计
（ 因为 ( AT A) ( A2 ) ）
湘潭大学数学与计算科学学院
上一页
下一页
15
关于矩阵的谱半径与矩阵的范数之间有如下关系.
定理 5.4 设 A Rnn ，则有 （1）对任意一种 A 的从属范数 ，有
( A) A .
（2）对任给的 0，存在一种 A 的从属范数 ， 使得
例如：
1 x1 x2 x n
x

1
x 1n x

x

x2 n x

上一页 下一页 7
湘潭大学数学与计算科学学院
2 向量序列的收敛问题 设 x
(k)
n 中的一个给定 R R , k 1, 2,, 为
n
(k) (k) T 向量序列 x ( k ) ( x1 , , xn )
(k) A 此时称 为矩阵序列 A 的极限 记为
A lim A( k )
k
矩阵序列 A( k ) A 的充分必要条件为
A( k ) A 0 k
湘潭大学数学与计算科学学院 上一页 下一页 17
定理 5.5
k nn A k A R 设 .当 时， 0 的充
分必要条件是 ( A) 1.
定理 5.6（Neumann 引理）矩阵幂级数 Ak 收敛的
k 0
充分必要条件为 ( A) 1，且当 ( A) 1时有
I A Ak ( I A)1.
湘潭大学数学与计算科学学院
上一页
下一页
18
推论 5.1 当 A 1时，则 I A非奇异，且
逐次超松弛（SOR）迭代法等；
湘潭大学数学与计算科学学院
上一页
下一页
4
5.1.1 向量空间及相关概念和记号
1 向量的范数
设 是 n 维实向量空间 Rn 上的范数，最常用的向量
T x ( x , x , , x ) 范数是 p 范数： 1 2 n
p x p | xi | , p [1, ), i 1 其中 p 1, 2, 是最重要的,即：