收敛阶,高斯消去法

第六章
方程组的数值解法
解线性方程组
Ax = b
直接法：理论，无舍入 误差，有限步，精确解 误差，有限步， 直接法：理论， 迭代法：格式， 迭代法：格式，无穷序 列 → 解向量 x
§6.1直接法 6.1直接法
一、 Gauss 消去法 设有
a 11 x 1 + a 12 x 2 + L + a 1 n x n = a 1 ,n + 1 a 21 x 1 + a 22 x 2 + L + a 2 n x n = a 2 ,n + 1
LLLLLLLLLLLLLLL
ຫໍສະໝຸດ Baidu
a n 3 x 3 + L + a nn x n = a n ,n + 1
(n(n-1) 原方程组化为
a11 x1 + a12 x2 + L + a1n xn = a1,n+1 a22 x2 + L + a2 n xn = a2 ,n+1
LLLLLLLLLLL
(上三角方程组) （3.2) 上三角方程组)
证：（ ） xn+1 − x* = ϕ ( xn ) − ϕ ( x* ) = ϕ '(ξ n )( xn − x* ) 1 xn+1 − x* xn − x
*1
= ϕ '(ξ n ) → ϕ ' ( x* ) > 0
∴ xn+1 = ϕ ( xn )线性收敛
(2)由6的证明有： 的证明有： f "(ξ n ) *
ann xn = an ,n+1
以上为消元过程。 以上为消元过程。 (n) 回代求解公式
an ,n +1 xn = ann n 1 xk = [ak ,n +1 − ∑ akj x j ] akk j = k +1 (k = n − 1, n − 2,...,1)
（3.3)
所以，此时Newton法至少二阶收敛. 所以，此时Newton法至少二阶收敛. Newton法至少二阶收敛
3.牛顿法的改进（重根情形） 牛顿法的改进（重根情形） 牛顿法的改进
f ( x ) = 0 在区间 [ a , b ]有 m 重根 x *, m ≥ 2
因此可令 f ( x ) = ( x − x *) m g ( x )
四、应用 （1）求行列式 ）
a11 ... a1n b11 ... b1n m m ... ... ... = ... = (−1) ... ... = (−1) b11...bnn an1 ... ann bnn
（2）求逆矩阵 (A ）
E) → ... → (E A )
−1
(以上过程都应选主元) 以上过程都应选主元)
五．矩阵三角分解法
Gauss消元，初等行变换，化原方程组为上三角型。 Gauss消元，初等行变换，化原方程组为上三角型。 消元
( A | b) → L → ( u | g ) = (<| 1) Lk Lk −1 L L2 L1 ( A | b) = ( u | g ) LK LK −1 L L2 L1 A = u
a i1 把 − a × 第 1 行，加到第 i 行。 11
问
以后各步类似。 题： a 11 = 0 或 a 11 ≈ 0 ? 以后各步类似。
二
列主元素消去法---计算结果可靠 列主元素消去法---计算结果可靠 --(1 )找行号 r1 使 a r 1 = max a i 1 ，对调 1 ↔ r1 行：
容易回代求解
回代求解很容易， 回代求解很容易，如
l11 y1 b1 l l y b 21 22 2 = 2 LL LL M M l n 1 l n 2 L l nn y n bn b1 y1 = l11
xn+1 − x = 2 f '( xn )
xn+1 − x* xn − x
*2
( xn－x* ) 2 , 故
> 0(二阶收敛)若 f "( x* ) ≠ 0 = 0(大于二阶收敛)若 f "( x* ) = 0
f "(ξn ) f "( x* ) = → 2 f '( xn ) 2 f '( x* )
定义3.2 定义3.2 若 L 为单位下三角阵（对角元全为1）， 为单位下三角阵（对角元全为1 U 为上三角阵， 为上三角阵，则称 A = LU 为Doolittle分解; Doolittle分解; 分解 若 L 是下三角， 是单位上三角，则称 A = LU 是下三角， 是单位上三角， U 为Crout分解。 Crout分解。 分解 定理3.1 定理3.1 n阶阵 有唯一Doolittle分解(Crout Doolittle分解(Crout） n阶阵 A( n ≥ 2)有唯一Doolittle分解(Crout）
迭代法的收敛阶(收敛速度 收敛速度) §5 迭代法的收敛阶 收敛速度
1.定义 设 定义
xn = x* . lim
n →∞
若有实数p>0,使 若有实数p>0,使 p>0,
* p
lim | x
n →∞
| x n +1 − x* |
n
−x |
= c (c ≠ 0)
则称 x n p阶收敛,相应的迭代法称为p阶方法. 阶收敛,相应的迭代法称为p阶方法. 特别, p=1时叫线性收敛, 特别, p=1时叫线性收敛, 时叫线性收敛 p=2时叫平方收敛 时叫平方收敛. p=2时叫平方收敛. 越大越好(why?) p越大越好(why?)
正割法和抛物线法（离散牛顿法） §5 正割法和抛物线法（离散牛顿法）
1. 正割法（割线法或弦截法） 正割法（割线法或弦截法） Newton迭代法
xk + 1 f ( xk ) = xk − f ′( x k )
需要求每个迭代点处的导数 复杂！
如果用数值导数代替 f ′( x ) f ′( x ) ≈
k −1 bk − ∑ l kj y j (k = 2,3, L , n) j =1 x n = y n u nn n 练习： 练习： x k = bk − ∑ ukj x j ukk (k = n - 1, L 2,1) j = k +1
1 yk = l kk
基本要求： 基本要求：
( 2 ) 找 r 2，使 a r
2
2
= max a i 2 ，对调 2 ↔ r 2 行 .
2≤ i≤ n
消元： 消元：用 a 22 把 a i 2消为 0 ( i = 3,4,L , n ) : ai 2 第 2行 × − a + 第 i 行 ，则 22 ai 2 a ij + a 2 j − L L a ⇒ a ij （ i = 3,4， , n ； j = 2,3， , n + 1） 22
A = ( L K L K − 1 L L 2 L1 ) − 1 u
记 L = ( L K L L1 ) −1
，则
A = LU
上三角） 三角因子分解） （下三角 × 上三角） 三角因子分解） （
的三角（因子）分解， 定义3.1 定义3.1 A = LU 叫 A 的三角（因子）分解，其中 L 是
U 下三角, 是上三角。 下三角, 是上三角。 三角分解不唯一, 三角分解不唯一,为此引入
2.定理2.7 2.定理2.7 定理
(1) 设 x n +1 = ϕ ( x n) (n = 0,1, 2,L)收敛到x = ϕ ( x)的根x*。 ′ 若ϕ x） C1且ϕ（x* ) ≠ 0, 则 x n +1 = ϕ ( x n)线性收敛； （ ∈
（2） 设 定 理 6的 条 件 成 立
则Newton迭代法求 f ( x ) = 0的单根x* （即f '( x* ) ≠ 0) 至少二阶收敛。
⇔A
的前n 个顺序主子式不为0.（证略） 的前n-1个顺序主子式不为0.（证略） 0.
为什么要讨论三角分解？若在消元法进行前能实 为什么要讨论三角分解？ 现三角分解 A = LU， 则
Ax = b ⇔ ( LU ) x = b ⇔
Ly = b (下三角方程组） 下三角方程组） Ux = y (上三角方程组） 上三角方程组）
f ( x k ) − f ( x k −1 ) （离散化） x k − x k −1
则Newton迭代法变为
初 值 x 0 , x1 ( 多 点 迭 代 ) f ( xk ) x k + 1 = x k − f ( x ) − f ( x ) ( x k − x k −1 ) k k −1
且 g ( x *) ≠ 0
(m −1)
f ( x *) = f ′( x *) = f ′′( x *) = L = f
( x *) = 0
f
(m)
( x *) ≠ 0
有3种解法：
（1）牛顿法 ）牛顿法： xn+1 = xn
−
f ( xn ) f '( xn )
（线性收敛）
f ( x) （至少2阶收敛） f '( x)
LLLLLLLLLLLLLLLLLLLLL ( 3 .1 )
a i 1 x 1 + a i 2 x 2 + L + a in x n = a i ,n + 1
LLLLLLLLLLLLLLLLLLLLL
a n 1 x 1 + a n 2 x 2 + L + a nn x n = a n ,n + 1
线性代数：方法不好时工作量非常大， 线性代数：方法不好时工作量非常大， 消去法。 工作量小的方法是 Gauss 消去法。 化为零； 消 元： 用 a 11 将 a i 1 ( i = 2 , L , n ) 化为零；
（2）若知道根的重数m : xn+1 = xn − m
(3)令u ( x) =
f ( x) ,则x*是u ( x) = 0的单根，故可用牛顿法求解u ( x) = 0 f '( x)
u ( x) f ( x) f '( x) xn+1 = xn − =xn − （至少2阶收敛） 2 u '( x) [ f '( x)] − f ( x) f ′′( x)
到此原方程组化为 a 11 x 1 + a 12 x 2 + a 13 x 3 + L + a 1 n x n = a 1 ,n + 1
a 22 x 2 + a 23 x 3 + L + a 2 n x n = a 2 ,n + 1 a 33 x 3 + L + a 3 n x n = a 3 ,n + 1
到此原方程组化为
a11 x1 + a12 x2 + L + a1n xn = a1,n+1 a22 x2 + L + a2 n xn = a2 ,n+1
LLLLLLLLLLLLLLLL
ai 2 x2 + L + ain xn = ai ,n+1
LLLLLLLLLLLLLLLL
an 2 x2 + L + ann xn = an ,n+1
是回代过程。 （3.3) 是回代过程。
说明： 说明： 也可采用无回代的列主元消去法( Gauss(1)也可采用无回代的列主元消去法(叫Gauss--Jordan消去法) Jordan消去法 --Jordan消去法)，但比有回代的列主元消 去法的乘除运算次数多。 去法的乘除运算次数多。 (2)有回代的列主元消去法所进行的乘除运算 量很小。 次数为 1 n 3 + n 2 − 1 n ，量很小。
1
1≤ i ≤ n
< 1 > a1 j ⇒ c j < 2 > a r ⇒ a1 j
1j
( j = 1,2,
L ,n + 1)
< 3 > c j ⇒ ar
1j
消元： 消元：用 a 11消 a i 1为 0 : ai1 第 第 1行 × − a 加到第 i 行 , 第 i 行第 j 个元素成为 11 ai1 a ij + a 1 j − ij a ⇒ a（ i = 2 , 3 , L , n ； j = 1, 2 , L , n + 1） 11
3 3
全主元消去法： 三、 Gauss 全主元消去法：
优点------计算结果更可靠； 优点------计算结果更可靠； ------计算结果更可靠 缺点------挑主元花机时更多， 缺点------挑主元花机时更多， ------挑主元花机时更多 次序有变动，程序复杂。 x1 ,L, xn 次序有变动，程序复杂。