Gauss消去法、 矩阵分解

,n1 )
定义
称
a1 k 为 A 的 k 阶顺序主子矩阵 akk
其中 k 1, 2,
,n
<< 第21页/共42页 >>
定理5.10 当且仅当 A 的所有顺序主子阵均非奇异时， A
有唯一的 LU 分解。
证明 根据
Ak Lk 1
L1 A
1 L k 1 Ak Lk Ak
, n 1,
记 lk (0,
, ln,k )T , k 1, 2,
则 Lk I lk e
Ak Lk 1
L1 A , bk Lk 1
<< 第18页/共42页 >>
L1b ( k 2,
, n)
用矩阵 L1 ,
, Ln1 依次左乘原给方程组 Ax b bn Ln1 Ln 2
我们称将方程组（1）按以上步骤化为等价方程组
（4）的过程为解线性方程组的消元过程 从（4）中得出解的过程称为高斯消去法的回代过程
<< 第5页/共42页 >>
一般情形
对于一般的 n 阶线性代数方程组 Ax b
a11 x1 a12 x2
即
a1n xn b1 , a2 n xn b2 , ann xn bn
<< 第4页/共42页
>>
再将
x4 代入（4）倒数第二个方程，可得：
( 3) ( 3) ( 3) x3 ( b3 a34 x4 ) / a33 ,
类似地，得到：
( 2) ( 2) ( 2) ( 2) x2 ( b2 a23 x3 a24 x4 ) / a22 ,
x1 ( b 1 a12 x2 a13 x3 a14 x4 ) / a11 ,
x1 x2 2
精确解为 x1 10.000 / 9.999, x2 9.998 / 9.999. 下面我们用三位浮点十进制数求解： （1） 按Gauss逐步消元法
103 0.100 x1 101 0.100 x2 101 0.100 105 0.100 x2 105 0.100
>>
<< 第7页/共42页
(k) ( k 1) aij aij
1) ai(,k k 1
其中
bi( k ) bi( k 1)
a
( k 1) k 1, k 1
( k 1) ak 1 j ,
i, j k ,
n,
1) ai(,kk 1 ( k 1) ak 1, k 1
( k 1) bk 1 ,
(1) 这里取 a1 j a1 j , j 1, 2,
, n, b1(1) b1 .
2. 回代过程
若通过消元过程原方程组已化为等价的三角形
方程组
<< 第8页/共42页 >>
(1) (1) a11 x1 a12 x2 ( 2) a22 x2
(1) (1) a1 x b n n 1 , ( 2) ( 2) a2 x b n n 2 ,
<< 第1页/共42页 >>
(1)
若 a11 0 ，则以第 i( i 2, 3,4) 个方程减去
li1 ai1 / a11 乘以第一个方程，这样方程组（1） a11 x1 a12 x2 a13 x3 a14 x4 b1 , ( 2) ( 2) ( 2) ( 2) a22 x2 a23 x3 a24 x4 b2 ,
(1) (1) a11 x1 a12 x2 ( 2) a22 x2 (1) (1) a1 x b n n 1 , ( 2) ( 2) a2 x b n n 2 ,
(k) akk xk
(k) (k) akn xn bk ,
(k) ankBiblioteka Baiduxk
(k) (k) ann xn bn .
§5.2 Gauss消去法、矩阵分解
2.1 Gauss消去法
下面通过简单例子导出一般算法。
设给定方程组
a11 x1 a12 x2 a13 x3 a14 x4 b1 , a21 x1 a22 x2 a23 x3 a24 x4 b2 , a31 x1 a32 x2 a33 x3 a34 x4 b3 , a41 x1 a42 x2 a43 x3 a44 x4 b4 .
1 L1 ]1 L1
1 T L I l e k k n 1 k 1
<< 第19页/共42页 >>
1 l 21 l n1
1 ln , n 1
1
由于 An 为上三角阵，记 An U ( uij ) ,于是得到
1 l 21 A L U l n1 0 u11 0 1 u1n unn
<< 第9页/共42页 >>
2.2
Gauss主元素消去法 Gauss逐步消去法有如下的缺点： •任一主元 a
(k)
(k) kk
0 ( k 1, 2,
, n) ，就无法做下去
•任一 akk 绝对值很小时,也不行（舍入误差的影响大）
<< 第10页/共42页 >>
例
二元线性方程组 104 x1 x2 1,
（4）
其中
(4) a44
(3) a (3) (3) a44 43 a 34 , (3) a33
(4) b4
(3) a (3) (3) b4 43 b 3 . (3) a33
(4) 若a44 0, 从（4）的最后一个方程组得到 (4) (4) x4 b4 / a44 ,
lk 1,1 l , H k k 2,1 l 1 n,1
得近似解
1 x2 10 0.100,
0, x1
完全失去近似意义。 x1
<< 第11页/共42页 >>
（2）变换方程的顺序然后消元
101 0.100 x1 101 0.100 x2 101 0.200 101 0.100 x2 101 0.100
A1 A, b1 b 其中：
而 Ak 和 bk的形式为：
<< 第16页/共42页 >>
(1)) a11 Ak
(k) akk
a
(k) nk
(1) (1) a1 b n 1 (k) (k) , bk bk akn (k) (k) ann bn
i , j 3,4, i 3,4.
b
( 3) i
b
( 2) i
li 2 b ,
( 2) 2
依此方法继续下去，得到
<< 第3页/共42页 >>
a11 x 1 a12 x2 a13 x3 a14 x4 b1 ,
( 2) ( 2) ( 2) ( 2) a22 x2 a23 x3 a24 x4 b2 , ( 3) ( 3) ( 3) a33 x3 a34 x4 b3 , (4) (4) a44 x4 b4 .
若 jk 并令 j为达到最大值 ak 的最小行标 j k ，
则交换 A 和 b 中的第 j 行和第 k 行， 再进行消元过程的第 k步。
<< 第13页/共42页 >>
(k) (k) l a / a 这时每个乘子 ik i ,k k ,k
都满足
li ,k 1,
2)
i k,
, n,
可以防止有效数字大量丢失而产生误差。
多使用列主元消去法。
<< 第15页/共42页 >>
2.3
矩阵的三角分解与Gauss消去法的变形 Gauss消去法的实质是将矩阵 A 分解为
A LU
()
其中 L --单位下三角矩阵， U --上三角矩阵。 事实上，线性方程组
Ax b
经过 k 步消元过程后，有等价方程组
Ak x bk ,
( 2) ( 2) ( 2) ( 2) a22 x2 a23 x3 a24 x4 b2 ,
a x3 a x4 b ,
( 3) 33 ( 3) 34 ( 3) 3 ( 3) ( 3) ( 3) a43 x3 a44 x4 b4 .
(3)
其中
( 3) ( 2) ( 2) aij aij li 2 a2 j ,
全主元消去法
(k) max a 定义 k k i , j n i , j .
此时交换 A 和 b 的行及 A 的列，使主元位置的元素 的绝对值具有给出的最大值 k ， 然后进行第 k 步消元过程
<< 第14页/共42页 >>
注意：因为有列的交换，因此未知量的
次序有改变，待求解过程结束后必须还原。
得近似解 x 10 0.100,
'' 2 1
x 10 0.100
'' 1 1
相当近似 x1
下面我们讨论选主元素的方法。
<< 第12页/共42页 >>
1)
列主元消去法 假设Gauss消去法的消元过程进行到 第 k (1 k n 1) 步，设
ak max a
kin (k) i ,k
（1）
可以直接验证 Ak 1 Lk Ak
<< 第17页/共42页 >>
1 其中 Lk
1 lk 1, k ln , k
, 0, lk 1, k ,
T k
1
(k) ai , k , li , k ( k ) akk 1
bi( 2) bi li 1 b1 ,
显然方程组（2）和原方程组（1）等价
<< 第2页/共42页 >>
2) ( 2) / a22 以（2）的第 i 个方程 ( i 3,4) 减去 li 2 ai(2 乘以第二个方程，得到
a11 x1 a12 x2 a13 x3 a14 x4 b1 ,
1 ln , n 1
(2)
<< 第20页/共42页 >>
Gauss逐步消去法等价于下述过程：
1. 将矩阵 A 作 LU 分解；
Ux L b 2. 求解三角形方程组 （回代过程）。
(注意上面的全部讨论中要求 a
a11 ak 1
(k) k ,k
1
0, k 1, 2,
( n) ( n) ann xn bn .
( n) a 且 nn 0 , 则逐步回代可得原方程组的解
xn b
( n) n
/a ,
( n) nn
n (k) (k) (k) xk bk akj x j / akk , j k 1 k n 1, n 2, , 2,1.
( 2) ( 2) ( 2) ( 2) a32 x2 a33 x3 a34 x4 b3 , ( 2) ( 2) ( 2) a42 x2 a43 x3 a44 x4 b4( 2) ,
化为
(2)
其中：
( 2) aij aij li 1 a1 j ,
i , j 2, 3,4, i 2, 3,4.
两边，得等价方程组 An x bn 其中 An Ln1 Ln2 乘积 Ln1
L1 A ,
L1b
L1 是下三角阵，且对角元全部等于1
令 L [ Ln1
L1 ]1
则 L 也是对角元等于1的下三角阵
1 T L I l e 我们可以计算得到 k k k
n 1
则
[ Ln1
a21 x1 a22 x2 an1 x1 an 2 x2
1. 消元过程 首先消去第一列除 a11 之外的所有元素，
<< 第6页/共42页 >>
( 2) 0, 设 a11 0, a22
( n1) , an 1, n1 0
总可由消元过程得到系数矩阵为上三角阵的线性代数 方程组，其第 k 步的结果为
我们得到
1 1 A L L 1 2
(3)
其中Ak 形如(1)式 我们可以将 LK 写成
Mk Lk Hk 0 I n k
其中M k和H k 表示如下
<< 第22页/共42页 >>
1 l 21 Mk l k1
A11 A 21
1 lkk 1