数值分析第二章小结

第2章线性方程组的解法--------学习小结一、本章学习体会通过本章知识的学习我首先了解到求解线性方程组的方法可分为两类：直接法和迭代法。

计算机虽然运行速度很快，但面对运算量超级多的问题，计算机还是需要很长的时间进行运算，所以，确定快捷精确的求解线性方程组的方法是非常必要的。

本章分为四个小节，其中前两节Gauss消去法和直接三角分解法因为由之前《线性代数》学习的一定功底，学习起来还较为简单，加之王老师可是的讲解与习题测试，对这一部分有了较好的掌握。

第三节矩阵的条件数与病态方程组，我Ax 的系数矩阵A与左端向量b的元素往往是通首先了解到的是线性方程组b过观测或计算而得到，因而会带有误差。

即使原始数据是精确的，但存放到计算机后由于受字长的限制也会变为近似值。

所以当A和b有微小变化时，即使求解过程精确进行，所得的解相对于原方程组也可能会产生很大的相对误差。

对于本节的学习掌握的不是很好，虽然在课后习题中对课堂知识有了一定的巩固，但整体感觉没有很好的掌握它。

第四节的迭代法，初次接触迭代法，了解到迭代法就是构造一个无线的向量序列，使他的极限是方程组的解向量。

迭代法应考虑收敛性与精度控制的问题。

三种迭代方法的基本思想我已经掌握了，但是在matlab 的编程中还存在很大的问题。

在本节的学习中我认为我最大的问题还是程序的编写。

通过这段时间的练习，虽然掌握了一些编写方法和技巧。

相比于第一章是对其的应用熟练了不少，但在程序编写上还存在很多问题。

希望在以后的学习中能尽快熟练掌握它，充分发挥它强大的作用。

二、本章知识梳理2.1、Gauss消去法（次重点）Gauss消去法基本思想：由消元和回代两个过程组成。

a(k=1,2,```,n-1)均不为零的充分必要条件定理顺序Gauss消去法的前n-1个主元素)(k kk是方程组的系数矩阵A的前n-1个顺序主子式消元过程：对于 k=1,2,···,n-1 执行 （1）如果,0)(=ak kk则算法失效，停止计算，否则转入（2）。

（2）对于i=k+1,k+2,···n,计算 回代过程：a b x n nn n n n )()(/=2.1.2 列主元素Gauss 消去法（把）（n k k i a k kj ,,1,)(⋯+=中绝对值最大的元素交换到第k 行的主对角线位置）（重点）定理 设方程组的系数矩阵A 非奇异，则用列主元素Gauss 消去法求解方程组时，各个列主元素(k=1,2,```,n-1)均不为零。

消元过程：对于 k=1,2,···,n-1 执行 （1）选行号k i ，使)()(max k i ni k k k i kka a ≤≤=。

（2）交换A 与b 两行所含的数值。

（3）对于i=k+1,k+2,···n,计算 回代过程：a b x n nn n n n )()(/=2.2、直接三角分解法矩阵的三角分解 A=L U L-下三角阵，U-上三角阵 Doolitte 分解:L-单位下三角阵，U-上三角阵 Crout 分解：L-下三角阵，U-单位上三角阵定理 矩阵A 有唯一的Doolitte 分解的充分必要条件是A 的前n-1个顺序主子式不为0。

推论 矩阵A 有唯一的Crout 分解的充分必要条件是A 的前n-1个顺序主子式不为0。

A 的Doolitte 分解的计算公式 对于k=1,2,…,n 计算 2.2.2 选主元的Doolitte 分解法定理 若A 非奇，则存在置换阵Q 使QA 能作Doolitte 分解，即 QA=LU 。

其中 L 是下三角，U 是上三角矩阵。

解方程组的选主元Doolitte 分解法步骤为(1)作分解：QA=LU ；(2)求Qb ；(3)解方程 Ly=Qb,Ux=y 。

2.2.3 解三对角线性方程组的追赶法（了解）平方根法（矩阵A 的Cholesky 分解）：对于正定矩阵A ，若存在下三角阵，使得TLL A =即：⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡•⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡nn n n ni nn n n n nn n n n n l l l l l l l l l l l l l l l l l l l l a a a a a a a a a33323222312111321333231222111212222111211 2.3矩阵的条件数与病态方程组2.3.1 矩阵的条件数与线性方程组的的性态 矩阵条件数的定义对于非奇异矩阵A 称量1-A A 为矩阵A 的条件数，记作1)(-=A A A cond常用的条件数为∞-∞∞=1)(A A A cond ；2122)(-=A A A cond矩阵A 的条件数性质（1）对于任何非奇异矩阵A ，)()(,1)(1-=>=Acond A cond A cond ；（2）设A 可逆，k ≠0是常数，则有)()(A cond kA cond =cond(kA)=cond(A)；（3）设A 是非奇异的实对称矩阵，则nA cond λλ12)(=，其中λ1，λn 分别是矩阵A 的最大和最小的特征值；一般对任何可逆矩阵有nA cond λλ12)(≥（4）设A 是正交矩阵，则1)(2=A cond ；（5）若U 是正交矩阵，则222)()()(AU cond UA cond A cond ==；（6）)()()(B cond A cond AB cond ≤。

2.3.2 线性方程组性态的定义设线性方程组b Ax =的系数矩阵A 非奇异，若其条件数相对很大，则称此线性方程组是病态的；若条件数相对较小，则称此线性方程组是良态线性方程组。

（1）先对方程组的形态进行判断；（2）然后求解。

方法有高精度算术运算、平衡方法、残差校正法。

2.4迭代法（重点）凡是迭代法都存在收敛性与精度控制的问题。

2.4.1 迭代法的一般形式与收敛性1.一般形式：,2,1,0,)()1(=+=+k d GX X k k2.向量序列收敛（极限） （1）定义 按坐标收敛*)(*)(lim lim i k ik k k x x X X =⇔=∞→∞→（2）向量序列收敛的充要条件 按范数收敛 3.矩阵序列的收敛（极限） （1）定义 按坐标收敛,,,2,1,,2,1,lim lim )(n j m i a a A A ij k ijk k k ===⇔=∞→∞→；（2）矩阵序列收敛的充要条件 按范数收敛 0lim lim =-⇔=∞→∞→A A A A k k k k4.迭代收敛的条件（1）谱半径：设n*n 矩阵G 的特征值是,21n λλλ⋯，，称i ni G λρ≤≤=1max )(为矩阵G 的谱半径。

（2）迭代收敛的充要条件：o Gkk =∞→lim（3）迭代的充分条件：1<G（4）迭代终止的条εε<-<---)()1()()1()(k k k k k XX X X X 或（5）迭代收敛的速度)(ln )(B B R ρ-=2.4.2 Jacobi 迭代法迭代矩阵形式)(1U L D G J +-=-基本思想：从线性方程组的第i 个方程解出X i (i=1,2,```,n)，将AX=b 转化为同解方程组X=GX+d,从而构造迭代公式。

Jacobi 迭代收敛的条件： 充要条件：1)(<J G ρ 充分条件：a.1<J G ；b.A 为主对角线按行（或列）严格对角占优阵。

引理 严格对角占优阵可逆。

定理 如果方程组(2.2)的系数矩阵A 为主对角线按行（或按列）严格占优阵，则用Jacobi 迭代法求解必收敛。

2.4.3 Gauss-Seidel 迭代（异步迭代法）迭代矩阵形式U D L G G1)(-+-=重要条件： 1)(<G G ρ充分条件：a.1<G Gb.系数矩阵A 为主对角线按行（或列）严格对角占优阵；c.系数矩阵A 对称正定. 2.4.4 逐次超松弛迭代法（SOR迭代）迭代矩阵形式为：])11[()1(1U D L D G S +-+-=-ωω⎪⎩⎪⎨⎧+-=+-=++-=+=++∑∑)1()()1(111)()1()1(~)1()(1~k i k i k i i j ni j k j ij k j ij i ii k i x x x x a x a b a x ωω 0>ω为实数，称为松弛因子。

充要条件：1)(<S G ρ 必要条件：20<<ω 充分条件：a.1<s Gb.系数矩阵A 为主对角线按行（或列）严格对角占优阵，且10≤<ωc.系数矩阵A 为正定矩阵，20<<ω三、本章思考题收敛速度与松弛因子的选择有关，如何选择松弛因子？有没有最优的松弛因子b ω？ 答：通过学习我们知道SOR 方法中的松弛因子的取值直接影响到算法的收敛性和收敛速度。

松弛因子选取得当，可以加快收敛的速度，甚至可以使发散的迭代变成收敛。

1.为保证迭代过程的收敛，必须要求20<<ω而对于超松弛法取21<<ω2.存在最优的松弛因子b ω3.可以选取将松弛因子的区间（1,2）进行二等分松弛因子选中间值，选出较优的一个再进行二等分，逐次进行就能选取出最优的松弛因子b ω。

四、本章预测题为解方程组试写出一个必收敛的迭代公式，并说明收敛的理由。

解：把原方程改写为：由于此时的系数矩阵是主对角元素按行严格占优阵，固按此形式使用Jacobi迭代法必收敛，迭代公式为。