南大数值分析课件第三章 解线性方程组的直接法

(k ) (k ) (k ) a kk 0，计算因子 m ik a ik / a kk Step k：设
( ( ( a ijk 1 ) a ijk ) m ik a kjk ) ( k 1) (k ) (k ) bi b i m ik b k
( i k 1, ..., n )

x2 1 ,
x1 1

注：列主元法没有全主元法稳定。 例：1 1
10 1
9 9 10 2

1 0
10
9 9
10
9 10 10
9
x2 1 ,
x1 0

标度化列主元消去法 /* Scaled Partial Pivoting */
max | a ij | 。为省时间，si 只在初始时计 对每一行计算 s i 注意：这两个方程组 1 j n 在数学上严格等价。 a a kk 算一次。以后每一步考虑子列 .. 中 最大的 aik 为主元。
和
用Gaussian Elimination计算：
m 21 a 21 / a 11 10 8个 9 9 9 a 22 1 m 21 1 0 .0 ... 01 10 10 10
9
b 2 2 m 21 1 10
10 9 0
(1 ) (1 ) a 1 n x 1 b1 (2) (2) a2n x2 b 2 . . . . . . . . . (n) (n) a nn x n b n
a 12
(1 )
高斯-若当消去法 /* Gauss-Jordan Method */
与 Gaussian Elimination 的主要区别： 每步不计算 mik ，而是先将当前主元 akk(k) 变为 1; 把 akk(k) 所在列的上、下元素全消为0;
Axb 1 I x A b
| a i k , k | max | a ik | 0
k in
§1 Gaussian Elimination – Pivoting Strategies
10 9 例： 1
1 1
1 2

1 9 10
1 1
2 1

1 0
1 1
2 1

9
1 10
9
9 10 1
小主元 /* Small pivot element */ 可能导致计 算失败。
x 2 1,
x1 0
§1 Gaussian Elimination – Pivoting Strategies
全主元消去法 /* Complete Pivoting */
=
§1 Gaussian Elimination – The Method
消元
记
A
(1)
A (a
(1) ij
) n n
(1) , b
( b1 1 ) . b . . (1 ) bn
Step 1：设 a 11 0，计算因子 m i 1 a i 1 / a 11 ( i 2 , ..., n ) 将增广矩阵/* augmented matrix */ 第 i 行 mi1 第1行， 得到 其中 ( 2 ) (1) (1)
§1 Gaussian Elimination – Amount of Computation
运算量 /* Amount of Computation */
由于计算机中乘除 /* multiplications / divisions */ 运算的时 间远远超过加减 /* additions / subtractions */ 运算的时间，故 估计某种算法的运算量时，往往只估计乘除的次数，而且通 常以乘除次数的最高次幂为运算量的数量级。
xj ( i n 1 , ..., 1 )
a
Then we must find the What if we can’t (i) smallest integer a(n 定理 若A的所有顺序主子式k0?determinant of leading What ifunique 0 ?k i with find a nn ) /*? such ii No What if unique ( i ) No a ki 0 , and interchange solution exists. solution exists. principal submatrices */ k-th row with the i-th the 均不为0，则高斯消元无需换行即可 row.
第三章 解线性方程组的直接法
/* Direct Method for Solving Linear Systems */
求解 A x b
§1 高斯消元法 /* Gaussian Elimination */
高斯消元法： 思 首先将A化为上三角阵 /* upper-triangular matrix */， 路 再回代求解 /* backward substitution */。
(1)
(1 ) (1)
a 11
(1 )
a 12
(1)
... a 1 n
(1)
A
且计算
(2)
(2) b
(1 a 11 )
b1
(1)
a ij a ij m i 1 a 1 j (2) (1 ) (1) b i b i m i 1 b1 ( i , j 2 , ..., n )
每一步选绝对值最大的元素为主元素，保证 Step k: ① 选取 | a i
k
| m ik | 1。
jk
| max | a ij | 0 ;
k i , jn
② If ik k then 交换第 k 行与第 ik 行; If jk k then 交换第 k 列与第 jk 列; ③ 消元 注：列交换改变了 xi 的顺序，须记录交换次序，解完后 再换回来。 列主元消去法 /* Partial Pivoting, or maximal column pivoting */ 省去换列的步骤，每次仅选一列中最大的元。
进行到底，得到唯一解。
注：事实上，只要 A A ) ... ... A1 存在，则可通过逐 非奇异，即 ... det( i 次消元及行交换，将方程组化为三角形方程组，求出 a i 1 ... a ii 唯一解。
a 11
...
a1i
§1 Gaussian Elimination – Pivoting Strategies

且计算
Gaussian Elimination:
( ( ( a ijk 1 ) a ijk ) m ik a kjk ) ( k 1) (k ) (k ) b i m ik b k bi 3
(n k)2 次 (n k) 次
(k ) (k ) (k ) Step k：设 a kk 0 ，计算因子 m ik a ik / a kk ( i k 1, ..., n )
ik
. a nk
si
注：稳定性介于列主元法和全主元法之间。
§1 Gaussian Elimination – Pivoting Strategies
实际应用中直接调用Gauss Elimination 解3阶线性方程 组的结果：
结合全主元消去后的 结果：
§1 Gaussian Elimination – Gauss-Jordan Method
Scaled Partial Pivoting:
2
比 Gaussian Elimination多出O ( n ) 除法和
n2 O 3
比较，比列主
元法稳定。但若逐次计算 si(k)，则比全主元法还慢。

Gauss-Jordan Method:
3
运算量约为O n
。故通常只用于求逆矩阵，而不用于解方 程组。求逆矩阵即 A | I I | A 。
选主元消去法 /* Pivoting Strategies */
例：单精度解方程组 /* 精确解为
x1 1 1 10
9
10 9 x 1 x1

x2 x2

1 2
8个 x 2 2 x 1 0 .99 ... 9 899 ... */
8个 1 .00 ... 0100 ...
... ... ...
( i , j k 1 , ..., n )
a 22
(2)
共进行 n ？1 步
§1 Gaussian Elimination – The Method
回代
x n b n / a nn
(n)
(n)
bi
(i)
xi
j i 1
a
(i) ii
n
(i) ij
You’d better waitno longer Obviously we till we go Hey! the it better than What makes you throughIsn’tnext section need the backward Gaussian Elimination? say so? to draw your substitution! conclusion…
3 共进行n 1步
x n b n / a nn
(n) (n)
a ... a x b Gaussian Elimination a的总乘除次数为 a ... a n 3 x b n 1 ( i , j k n , ..., n ) n ，运算量为 级。 1 . . . . ... . .
k 1
n 1
bi
(i)
xi
j i 1
a
(i)
n
(i) ij
(n 次i 回代乘除次数： 1 +1) 次
xj ( i n 1 , ..., 1 )

n
2
n
3
a ii
1

n 1
3

n
2
2

5 6
n
( n i 1)
i 1
2

n 2
§1 Gaussian Elimination – Amount of Computation
(1 ) 11 (1 ) 12 (1 ) 1n 1 (1 ) 1
(n k) (n k + 2) 次 消元乘除次数：
2
(2) 22
(2) 2n
2
(2) 2
3

. 3 (n) a nn x n .
(n) bn
.
( n k )( n k 2 )

Complete Pivoting:
n3 Elimination多出O 比较，保证稳定，但费时。 3 n2 Elimination只多出O 比较，略省时，但不保 3
比 Gaussian
Partial Pivoting:
比 Gaussian 证稳定。
2
1
HW: p.42 #1 p.43 #6
§1 Gaussian Elimination – Amount of Computation
Lab 05. Matrix Inversion
Use Gauss-Jordan Method with Partial Pivoting to find the inverse of a given matrix. Input There are several sets of inputs. For each set: The 1st line contains an integer 100 n 0 which is the size of a matrix. n = 1 signals the end of file. The 2nd line contains nn real numbers