3线性方程组解法课件-(精选、)

第3章线性方程组的解法本章探讨大型线性方程组计算机求解的常用数值方法的构造和原理，主要介绍在计算机上有效快速地求解线性方程组的有关知识和方法。

重点论述Jacobi迭代法、Seidel迭代法、Guass消元法及LU分解法的原理、构造、收敛性等内容。

3.1 实际案例3.2问题的描述与基本概念解线性方程组问题在线性代数中已有很优美的行列式解法，但对大型的线性方程组（阶数n>40）的求解问题使用价值并不大，因为其计算量太大。

实际问题中经常遇到自变量个数n都很大的线性方程组求解问题，这些线性方程组要借助计算机的帮助才能求出解。

n 个变元12,,,n x x x ⋯的线性方程组的一般形式为11112211211222221122n n n n m m mn n ma x a x a xb a x a x a x b a x a x a x b +++=⎧⎪+++=⎪⎨⎪⎪+++=⎩ （3.3）式中，a ij 称为系数，b i 称为右端项，它们都是已知的常数。

如果有***1122,,,n n x x x x x x ===使方程组（3.3）成立，则称值***12,,,n x x x为线性方程组的（3.3）的一组解。

本章在不作特别说明的情况下，主要讨论m=n 的线性方程组11112211211222221122n n n n n n nn n na x a x a xb a x a x a x b a x a x a x b +++=⎧⎪+++=⎪⎨⎪⎪+++=⎩的求解问题，且假设它有唯一解。

线性方程组的矩阵表示Ax b =式中A 称为系数矩阵，b 称为右端项。

数值分析中，线性方程组的数值解法主要分为直接法和迭代法两大类。

直接法是用有限次计算就能求出线性方程组“准确解”的方法（不考虑舍入误差）；迭代法是由线性方程组构造出迭代计算公式，然后以一个猜测的向量作为迭代计算的初始向量逐步迭代计算，来获得满足精度要求的近似解。

迭代法是一种逐次逼近的方法。

3.3线性方程组的迭代解法线性方程组迭代解法有Jocobi 迭代法、Seidel 迭代法及Sor 法等基本思想（与简单迭代法类比） 将线性方程组Ax b =等价变形为x Bx g =+以构造向量迭代格式()()1k k xBxg +=+用算出的向量迭代序列()()12,,x x 去逼近解。

1. 构造原理1）Jacobi 迭代法（1)将线性方程组（3.4）的第i 个变元i x 用其他n-1个变元表出，可得121))n n n n nn n a x a x a x ------- （3.5）称（3.5）为不动点方程组。

（2）将（3.5）式写成迭代格式(Jacobi 迭代格式):（3.6） （3）取定初始向量()()()()()000012,,,Tnxx x x =，代入，可逐次算出向量序列()()()12,,,k x x x ，这里()()()()()12,,,Tk k k k nxx x x =。

2）Seidel迭代法Seidel迭代格式:3）Sor 法用Seidel 迭代算出的()1k x+与()k x 相减得到差向量()()1k k x xx +∆=-采用加速技术做下一步迭代：()()()()()111k kkk x x x x x ωωω++=+∆=-+得Sor 法的迭代格式1,2,,n式中参数ω称为松弛因子，可以任意选取，当ω =1时，Sor 法就是Seidel 迭代法。

例如对线性方程组⎪⎩⎪⎨⎧=+--=-+-=--2453821027210321321321.x x x .x x x .x x x先将其写成不动点方程组1232133121(7.22)101(8.3)101(4.2)5x x x x x x x x x ⎧=++⎪⎪⎪=++⎨⎪⎪=++⎪⎩Jacobi迭代Seidel迭代由()()()() 111k k kx x xωω++=-+得Sor迭代2.迭代分析及向量收敛1） 三种迭代法的向量迭格式对 Ax=b ，将系数矩阵A 作如下分解A D L U =--112212121212,00000000,0000nn n n n n a a D a a a a a L U a a ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦--⎡⎤⎡⎤⎢⎥⎢⎥--⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥--⎣⎦⎣⎦则Ax=b 可以写成()D L U x b --=假设1D -存在，得Ax=b 的等价方程组()11x D L U x D b --=++由此可得到Jacobi 迭代的向量迭代格式()()()111k k xDL U xD b +--=++引入符号()1JB D L U -=+，1J g D b -=，则有 ● Jacobi 迭代的向量迭代格式()()1k kJ J x B x g +=+J B 称为Jacobi 迭代矩阵。

类似的，有● Seidel 向量迭代格式()()1k k S S xB xg +=+()1S B D L U -=-，()1S g D L b -=-。

s B 称为Seidel 迭代矩阵。

Sor 法的向量迭代格式()()1k k xB xg ωω+=+()()11B D L D U ωωωω-=--+⎡⎤⎣⎦，()1g D L b ωωω-=-。

B ω称为超松弛迭代矩阵。

三种迭代格式可用一个迭代格式()()1k k x B x g +=+2）向量收敛定义定义 3.1 设向量序列()()()()()12,,,Tk k k k nx x x x =及向量()****12,,,T nx x x x=都是nR 中的向量，如果有()*lim ,1,2,,k i i k x x i n →∞==成立,则称()k x 收敛于*x 。

简记为()*lim k k x x →∞=。

3）范数定义与科学计算中的常用范数定义3.2 设L 是数域K 上的一个线性空间，如果定义在L 上的实值函数()P x 满足 1) x L ∀∈，有()0P x ≥, 且()00P x x =⇔=； 2) ,x L K λ∀∈∈，有()()P x P x λλ=； 3) ,x y L ∀∈，有()()()P x y P x P y +≤+, 则称()P ⋅是L 上的一个范数，称()P x 为x 的一个范数。

范数的定义很象绝对值函数，故常用P⋅或⋅表示范数，而范数()P x 常记为P x 或x 。

这样，上面范数定义中的3个条件常写为1）x L ∀∈，有0x ≥, 且00x x =⇔=； 2）,x L K λ∀∈∈，有x x λλ=⋅； 3）,x y L ∀∈，有x y x y +≤+将其与绝对值比较，是否很象？实际上，很多有关绝对值的运算和结论可以平行引进到有关范数的运算和证明问题中。

数值分析中常用的线性空间有 ● n 维向量空间(){}12|,,,,n n k R a a a a a a R ==∈ ● 矩阵空间(){}|,m n m n m n ij ij m nR A A a a R⨯⨯⨯⨯==∈连续函数空[]()(){},|[,]C a b f x f x a b =在上连续函数空间[],C a b 是由闭区间[],a b 上所有连续函数组成的集合，其线性运算定义为 加法()()()():f g f g x f x g x ++=+ 数乘 ()()():f f x f x λλλ=⋅，λ为数在这些空间上，数值分析中常用的范数有(1)nR 的向量范数1)2)3) 式中向量()12,,,Tn x x x x =。

(2) n nR⨯的矩阵范数矩阵范数要满足如下四条1）n nA R ⨯∀∈，有0A ≥,且00A A =⇔=；2）,n nA R K λ⨯∀∈∈，有A A λλ=⋅； 3）,n nA B R ⨯∀∈，有A B A B +≤+4）,n nA B R ⨯∀∈相容性）与向量范数做对比由于线性方程组求解问题中，系数矩阵总是与向量联系在一起的，为描述这种联系，引入如下的算子范数概念。

定义3.3 设矩阵n nA R⨯∈为矩阵A的算子范数。

容易证明，矩阵A的算子范数也是矩阵范数，且满足不等式关系例：设⋅为矩阵的算子范数，证明若1B<，则I B +为非奇异矩阵，且()111I B B-+≤-证：用反证法。

若I B +为奇异矩阵，则其对应的方程组()0I B x +=有非零解x ，即有0x ≠，使()0I B x +=，得出Bx x =-两边取范数并作范数运算B x Bx x x ⋅≥=-=01x B >⇒≥，矛盾，得I B +非奇异。

()()()()()()()1111111I B I B II B I B I B I B I B I B B I B ------++=⇒+=-++≤++≤++()111I B B -∴+≤-常用的矩阵范数有如下4种 123）F4）2max λ是T A A 最大特征值。

以上4个矩阵范数中，12,,A A A∞是算子范数，F A 不是算子范数。

3）范数等价与向量极限定义3.4 设,⋅⋅是线性空间L上的p q两个范数，若存在正常数m和M，成立则称范数,⋅⋅是等价范数。

p q定理3.1 n R上的所有范数都是等价的。

定理3.2式中⋅是n R上任何一种范数。

4）谱半径及其与范数的关系定义3.5 设n nA R ⨯∈，,1,2,,k k n λ=是A的n 个特征值，则称实数为矩阵A 的谱半径。

注意k λ如果是复数，。

定理3.3 设A 为任意算子范数，则有证明 设k λ是A 的任意一个特征值，()k x 为对应的特征向量，则有()()k k k Ax x λ=取范数，得()()()()k k k k k k A x Ax x x λλ≥==因为()0k x≠，上式同除()k x ，得k A λ≤由k 的任意性可得()A A ρ≤。

3. 迭代法的收敛条件与误差估计1）收敛条件定理：线性迭代格式()()1k kx B x g+=+对任意初始向量()0x 都收敛的充要条件是迭代矩阵谱半径()1B ρ<。

引理3.4 设n nA R ⨯∈，则()lim 01k k A A ρ→∞=⇔<证明 必要性设()*lim k k x x →∞=，在()()1k k x B x g +=+中令k →∞，得**x B x g =+，两式相减并把k+1记为k ，得()()()()()()()12**2*0*k k k k x x B x x B x x B x x ---=-=-==-由()*lim k k x x →∞=及()0*,x x 的任意性，有lim 0k k B →∞=。

再由引理，可得()1B ρ<。

充分性因为()1B ρ<，则有I-B 非奇异（这里I 为单位矩阵），从而线性方程组()I B x g -=有唯一解*x ，即有()*I B x g -=展开有**x B x g =+。