线性代数方程组的解法

使得
A ( A) .
上一页 下一页 16
3. 矩阵级数的收敛性
定义5.3 称矩阵序列 A(k) (ai(jk) ) Rnn 是收敛的，
如果存在 A (aij ) Rnn ，使得
lim
k
a(k ij
)
aij ,
i, j 1, 2,L , n
此时称 A 为矩阵序列 A(k) 的极限 记为
上一页 下一页 8
定理 5.2 设 为Rn中的任一种范数，则序 列{x(k)}收敛于 x Rn的充分必要条件为
x(k) x 0, k 时.
利用向量范数的等价性及向量范数的连续性, 容易 得到定理5.2的证明
上一页 下一页 9
5.1.2 矩阵的一些相关概念及记号
1. 矩阵的范数
对于 Rn 上的任何向量范数,我们可以定义矩阵范数.
证明 我们只证按行严格对角占优的情形，这时有
n
aij | aii |, i 1, 2,L , n
j 1 ji
假设 Ax 0有非零解x (x1, x2,L , xn ),
则存在下标1 i n，使得 xi
max 1 jn
xj
0,
考虑 Ax 0的第i 行 ai1x1 ai2x2 L ain xn 0
condsp ( A)
:
max{ i ( A) min{ i ( A)
,i ,i
1,2,L 1,2,L
, n} ， , n}
定义为矩阵 A条件数，并称它为矩阵 A的谱条件数.
上一页 下一页 21
5 几种特殊矩阵
定义 5.5 若矩阵 A满足条件
n
aij aii , i 1, 2,L , n
)
x3
a(2) 44
x4
b4(2) ,
其中：aa1211
x1 x1
aai(j212) x2aij a13lix1 3 a1 ja,14 x4 bai(22)2 x2bi a2l3i1x3b1, a24 x4
i,bj1, bi 2,
2, 2,
3, 3,
4, 4.
(1)
显然方aa4311程xx11组 aa（43222xx）22 和aa433原3xx33方程aa4344组xx44（ b1b43）., 等价
a(2) 34
x4
b3(2) ,
a(2) 42
x2
a(2 43
)
x3
a(2) 44
x4
b4(2) ,
上一页 下一页 28
a11 x 1 a12 x2 a13 x3 a14 x4 b1 ,
a(2) 22
x2
a(2) 23
x3
a(2) 24
x4
b(2) 2
,
a(3 33
)
x3
a(3) 34
x4
b3(3) ,
此时 A ( AT A) 2
若 A Rnn 为对称阵， A ( A) 2 （ 因为 ( AT A) ( A2 ) ）
上一页 下一页 15
关于矩阵的谱半径与矩阵的范数之间有如下关系. 定理 5.4 设 A Rnn，则有
（1）对任意一种 A的从属范数 ，有
(A) A . （2）对任给的 0，存在一种 A的从属范数 ，
（4）
其中
a(4) 44
a(3) 44
l43
a(3) 34
,
a(4 44
)
x4
b4(4) .
b(4) 4
b(3) 4
l43
b(3) 3
,
l43
a(3) 43
a(2) 33
若a4(44) 0, 从（4）的最后一个方程组得到
x4
b(4) 4
/
a(4 44
)
,
上一页 下一页 29
再将 x4 代入（4）倒数第二个方程，可得：
定义 5.9 如果矩阵 A Rnn的所有元素均为非负 数, 则称之为非负矩阵，并简记 A 0.
上一页 下一页 24
§5.2 Gauss消去法、矩阵分解
上一页 下一页 25
2.1 Gauss消去法
下面通过简单例子导出一般算法。
设给定方程组
a11 x1 a12 x2 a13 x3 a14 x4 b1 ,
n
n
从而 a ii x i a ij x j x i a ij
j 1
j 1
ji
ji
n
两边约去 xi ，得 aii aij
矛盾
j 1
ji
上一页 下一页 23
定义 5.8 称矩阵 A Rnn为一个稀疏矩阵是指 该矩阵的绝大多数元素是零.
一般说来，一个n n矩阵，如果其非零元总数 O(n)，就可称之为稀疏矩阵.
上一页 下一页 27
以（2）的第
i
个方程 (i 3,4) 减去
li 2
a(2) i2
/
a(2) 22
a11 x1 a12 x2 a13 x3 a14 x4 b1 ,
得到
a(2) 22
x2
a(2) 23
x3
a(2 24
)
x4
b2(2) ,
(3)
a(3) 33
x3
a(3 34
)
x4
b3(3) ,
j 1 ji
且至少有一 i 个使不等式严格成立，则称矩阵 A 为按行对角占优矩阵。若 i 1, 2,L , n 严格不等 式均成立，则称 A 为按行严格对角占优矩阵. 类似地，可以给出矩阵 A 为按列（严格）对角
占优矩阵的定义.
上一页 下一页 22
定理 5.8 若 A为严格对角占优矩阵，则 A非奇异.
上一页 下一页 2
利用 Cramer 法则求解时存在的困难是：当方程 组的阶数 n 很大时，计算量为 O(n!) O(n2 ) 常用计算方法: (1) 直接解法：它是一类精确方法，即若不考虑计 算过程中的舍入误差，那么通过有限步运算可以获得 方程解的精确结果.
Gauss 逐步（顺序）消去法、 Gauss主元素法、矩阵分解法等；
A
、A
，存在常数 m
和 M ，使得：
m A A M A
几种常用范数的等价关系：
1
A A nA
n
2
1
A A nA
n1
2
1
上一页 下一页 14
2. 谱半径： 定义 5.2 设 A Rnn, 称其特征值的按模最大值
(A) max{ : (A)} 为 A的谱半径，这里 ( A)表示 A的特征值全体.
3) A B A B ,A, B Rnn;
4) x Rn 时 Ax A x 5) A B A B , A 、B Rnn
定理5.3中的性质 1), 2) 和 3)是一般范数所满 足的基本性质，性质 4)、5) 被称为相容性条件， 一般矩阵范数并不一定满足该条件.
上一页 下一页 11
I A L Ak L (I A)1.
上一页 下一页 18
推论 5.1 当 A 1时，则I A非奇异，且 (I A)1 1/(1 A ).
定理 5.7（Banach 引理）若矩阵 A Rnn非奇异， E Rnn且 A1 E 1，则 A E 非奇异，且
A1 ( A E)1
1 A1 E 该定理将被应用于解方程组的扰动分析和 Gauss消去法的舍入误差分析.
定义 5.1 若 是Rn上任意范数,则对任一 A Rnn
A max Ax max Ax ,
x0 x
x 1
称为 A的由向量范数 导出的矩阵范数，简称 A的从属
范数.
上一页 下一页 10
定理5.3 矩阵的从属范数具有下列基本性质： 1） A 0 ，当且仅当 A 0 时， A 0
2) R , A | | A
a(3) 43
x3
a(3 44
)
x4
b4(3) .
其中
a11axi(1j3) a1a2 xi(j22) al1i32x 3a2(2j)a,14 x4 i,b1j, 3, 4,
bi(3)a2(22)bxi(22)a2(l32i)2x3b2(2a)2(,42) x4 ib2(2)3, , 4.
(2)
依此方法继续a下3(22)去x2 ， a得3(32) x到3
a21 x1 a22 x2 a23 x3 a24 x4 b2 ,
(1)
a31 x1 a32 x2 a33 x3 a34 x4 b3 ,
a41 x1 a42 x2 a43 x3 a44 x4 b4 .
上一页 下一页 26
若 a11 0 ，则以第 i(i 2, 3,4) 个方程减去
范数是 p范数： x ( x1, x2 ,L , xn )T
x
p
n
|
xi
|p
1/
p
,
i1
p [1,),
其中 p 1,2,是最重要的,即：
n
x 1 | x1 | | x2 | L | xn | | xi |
x
2
n i 1
xi2
1/ 2
i 1
x max(| x1 |,L ,| xn |)
三种从属范数计算：
n
（1）矩阵的1-范数（列和范数）:
A
1
max j
i 1
|
aij
|
n
（2）矩阵的-范数（行和范数）:
A
max i
| aij
j 1
|
（3）矩阵的2-范数:
A 2
1
其中 1 : AT A 的最大特征值
上一页 下一页 12
例
已知矩阵
A
1 3
2 4
,
求
A , p 1, 2, p
上一页 下一页 3
(2) 迭代解法：所谓迭代方法，就是构造某种 极限过程去逐步逼近方程组的解.
经典迭代法有： Jacobi 迭代法、Gauss Seidel 迭代法、 逐次超松弛（SOR）迭代法等；
上一页 下一页 4
5.1.1 向量空间及相关概念和记号
1 向量的范数
设 是n维实向量空间Rn上的范数，最常用的向量
A lim A(k) k
矩阵序列 A(k) A 的充分必要条件为 A(k) A 0 k
上一页 下一页 17
定理 5.5 设 A Rnn.当k 时， Ak 0的充
分必要条件是(A) 1.
定理 5.6（Neumann 引理）矩阵幂级数 Ak 收敛的 k 0
充分必要条件为(A) 1，且当(A) 1时有
上一页 下一页 5
例 : 设 x (1, 3, 5,4)T , 求 x , p 1, 2, p
根据定义:
4
x 1
| xi | 13
i 1
x
2
4 i 1
1/ 2
xi2
51
x max(| x1 |,L ,| x4 |) 5
上一页 下百度文库页 6
范数的等价性
定理 5.1 对于Rn中任意两种范数 和 ，总存在常
li1 ai1 / a11 乘以第一个方程，这样方程组（1）
a11 x1 a12 x2 a13 x3 a14 x4 b1 ,
化为
a(2) 22
x2
a(2 23
)
x3
a(2) 24
x4
b2(2) ,
(2)
a(2) 32
x2
a(2 33
)
x3
a(2) 34
x4
b3(2) ,
a(2) 42
x2
a(2 43
若对 i 1, 2,L , n
有
lim
k
xi(
k
)
xi
则称向量序列{ x(k) } 收敛于向量 x ( x1,L , xn )T
命题: 当 k 时
x(k) x lim x(k ) x 0
k
这是因为
x(k) x max
|
x(k) 1
x1
|,L
,|
x(k) n
xn
|
从而当 k 时， x(k) x 与 x(k) x 0 等价
第五章 线性代数方程组的解法
5.1 预备知识
上一页 下一页 1
求解线性方程组 Ax b
其中
a11 a12 L a1n
A
a21
a22
L
a2n
L L L L L L L L L L
an1。
an2
L
ann
且 | A | 0
x x1, x2 ,L , xn T b b1, b2 ,L , bn T
p
q
数m和M ，使对一切 x Rn都有
m x x M x .
(*)
q
p
q
例如：
1
x x x
n1
2
1
x x n x
1
x x nx
2
上一页 下一页 7
2 向量序列的收敛问题
设 x(k) Rn , k 1, 2,L , 为 Rn 中的一个给定
向量序列 x(k) ( x1(k) ,L , xn(k) )T
解： 按定义 A 6 A 7
1
Q
AT
A
1 2
3 1 4 3
2 4
10 14
14 20
I AT A 10 14 2 30 4 0 14 20
15 221
A ( AT A) 15 221 5.46 2 上一页 下一页 13
矩阵范数的等价定理：
对
cond(A) 1
上一页 下一页 20
若矩阵 A对称正定，设0 min max 分别为 A的最
小和最大特征值, 则由 A的对称性可得
A 2 ( A) max , A1 2 ( A1) 1/ min ，
因此有
cond2 ( A)
max min
为了方便起见，对一般的非奇异矩阵（可能非对
称），常将下式
上一页 下一页 19
4 矩阵的条件数 定义 5.4 对于给定的非奇异方阵 A ,我们称
A1 A 为 A的条件数,并记为cond ( A).特别当矩 阵范数为 p时,对应的条件数记为cond p (A).
由定义,cond ( A) A1 A A1 A I 1,因 此,对于任意非奇异方阵 A，都有