数值计算08-线性方程组数值解法(优选.)
线性代数方程组的数值解法讨论
线性代数方程组的数值解法讨论解线性方程组的方法，主要分为直接方法和迭代方法两种。
直接法是在没有舍入误差的假设下能在预定的运算次数内求得精确解。
而实际上，原始数据的误差和运算的舍入误差是不可以避免的，实际上获得的也是近似解。
迭代法是构造一定的递推格式，产生逼近精确解的序列。
对于高阶方程组，如一些偏微分方程数值求解中出现的方程组，采用直接法计算代价比较高，迭代法则简单又实用，因此比较受工程人员青睐。
小组成员本着工程应用，讨论将学习的理论知识转变为matlab 代码。
讨论的成果也以各种代码的形式在下面展现。
1 Jacobi 迭代法使用Jacobi 迭代法，首先必须给定初始值，其计算过程可以用以下步骤描述： 步骤1 输入系数矩阵A ，常熟向量b ，初值(0)x ，误差限ε，正整数N ，令1k =.步骤2 (0)11ni i ij jj ii j i x b a x a =≠⎡⎤⎢⎥=-⎢⎥⎢⎥⎣⎦∑，(0)j x 代表(0)x 的第j 个分量。
步骤3 计算11ni i ij j j ii j i y b a x a =≠⎡⎤⎢⎥=-⎢⎥⎢⎥⎣⎦∑，判断1max i i i n x y ε≤≤-<，如果是，则结束迭代，转入步骤5；否则，转入步骤4。
步骤4 判断k N =？如果是，则输出失败标志；否则，置1k k =+，i i x y ⇐，1,2,,i n =，转入步骤2。
步骤5 输出12,,n y y y 。
雅可比迭代代码function [x,k]=Fjacobi(A,b,x0,tol)% jacobi 迭代法 计算线性方程组% tol 为输入误差容限，x0为迭代初值max1= 300; %默认最多迭代300，超过要300次给出警告 D=diag(diag(A)); L=-tril(A,-1);U=-triu(A,1); B=D\(L+U); f=D\b; x=B*x0+f;k=1; %迭代次数while norm(x-x0)>=tol x0=x;x=B*x0+f; k=k+1;if(k>=max1)disp('迭代超过300次，方程组可能不收敛'); return; end%[k x'] %显示每一步迭代的结果 End2 高斯赛德尔迭代由Jacobi 迭代法中，每一次的迭代只用到前一次的迭代值，若每一次迭代充分利用当前最新的迭代值，即在计算第i 个分量(1)k i x +时，用最新分量11()k x +，12()k x +…(1)1k i x +-代替旧分量)1(k x ', )2(k x …)3(k x 就得到高斯赛德尔迭代格式，其数学表达式为：1(1)(1)()111(1,2,,)i n k k k ii ij j ij j j j i ii xb a x a x i n a -++==+⎛⎫=--= ⎪⎝⎭∑∑具体形式如下：()()()(1)()()()11221331111(1)(1)()()22112332222(1)(1)(1)(1)(1)112233,11111k k k k n n k k k k n n k k k k k n n n n n n n n nnx a x a x a x b a x a x a x a x b a x a x a x a x a x b a ++++++++--=----+=----+⋯⋯⋯⋯⋯⋯=-----+矩阵形式表示为：()(1)1(1)()(0,1,2,,),k k k k n +-+=++=x D Lx Ux b将(1)(1)()(0,1,2,,)k k k k n ++=++=Dx Lx Ux b 移项整理得： (1)1()1()()(0,1,2,,))k k x D L Ux D L b k n +--=-+-=记11(),()--=-=-M D L U g D L b ，则(1)()k k x x +=+M g高斯塞德尔迭代function [x,k]=Fgseid(A,b,x0,tol)%高斯-塞德尔迭代法 计算线性方程组 % tol 为误差容限max1= 300; %默认最高迭代300次D=diag(diag(A)); L=-tril(A,-1); U=-triu(A,1); G=(D-L)\U; f=(D-L)\b; x=G*x0+f;k=1; while norm(x-x0)>=tol x0=x;x=G*x0+f; k=k+1;if(k>=max1)disp('迭代次数太多，可能不收敛'); return; end% [k,x'] %显示每一步迭代结果 End3 超松弛迭代法在工程中最常遇到的问题便是线性代数方程组的求解,而线性代数方程组的求解一般可以分为两类,一类是直接法(精确法),包括克莱姆法则方法、LD 分解法等，另一类是迭代法（近似法），包括雅克比迭代法、高斯迭代法、超松弛迭代法等。
第三章线性方程组数值解法
a 11 Di xi , D det( A ), D i det D a n1
a 1i 1
b1 bn
a1i 1 a ni 1
a ni 1
a1 n a nn
第3章
线性方程组的数值解法
但Gram法则不能用于计算方程组的解，如n＝100，1033次/秒的计算机要算10120年
所以，Gauss消元法的可行条件为： a ( k ) 0 kk
《 计 算 方 法 与 实 习 》
因此，有些有解的问题，不能用Gauss消元求解
另外，如果某个 a kk
(k )
很小的话，会引入大的误差
第3章
线性方程组的数值解法
高斯主元素消元法是消去法的一种改进。它的基
本思想是在逐次消元时总是选绝对值最大的元素(称之 为主元)做除数,按消元法的步骤消元。
《 n次运算 ① 计 算 方 A diag ( a , a , , a ) x b i , i 1, , n 11 22 nn i 法 a ii 与 实② （n＋1）n/2次运算 习 i 1 》 l11
l 21 A l n1
l 22 ln 2 l nn
《 解线性方程组的方法可以分为2类： 计 ①直接法：准确，可靠，理论上得到的解是精确的,但由于计算中有舍入误差,故 算 得到的也是近似解. 方 法 ②迭代法：速度快，但有误差（雅可比迭代法、高斯—赛得尔迭代法） 与 实 习 》
第3章
线性方程组的数值解法
3.2 消元法
我们知道，下面有3种方程的解我们可以直接求出：
运算量： (n-2)*(1+n-1)=(n-2)n
数值分析第三章线性方程组解法
数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。
线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。
线性方程组的解法包括直接解法和迭代解法两种方法。
一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。
这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。
1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。
这种方法可以减少计算量，提高计算效率。
1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。
它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。
Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。
二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。
Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。
2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。
它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。
Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。
2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。
它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。
SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。
三、总结线性方程组解法是数值分析中的一个重要内容。
直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。
线性方程组的四种数值解法
线性方程组的四种数值解法(电子科技大学物理电子学院，四川 成都 610054)摘要：本文介绍了四种求解线性方程组的数值解法: 雅克比迭代法、高斯赛德尔迭代法、高斯消去法和改进的平方根法的基本原理和算法流程，通过求解具体方程，对四种求解方法进行了对比。
对于雅克比迭代法和高斯赛德尔迭代法，研究了两种算法对求解同一方程组的迭代效率差异，结果表明高斯赛德尔迭代法达到同样精度所需迭代次数较少。
对于高斯消去法，通过选择列主元的方法提高算法的准确度，计算结果表明高斯消去法计算精确，且运算复杂度也不是很高。
对于改进的平方根法，其运算复杂度低，但对于给定的方程组有着严苛的要求。
关键词：雅克比迭代法；高斯赛德尔迭代法；高斯消去法；改进的平方根法；线性方程组引言线性方程组的求解在日常生活和科研中有着极其重要的应用，但在实际运算中，当矩阵的维数较高时，用初等方法求解的计算复杂度随维数的增长非常快，因此，用数值方法求解线性方程组的重要性便显现出来。
经典的求解线性方程组的方法一般分为两类：直接法和迭代法。
前者例如高斯消去法,改进的平方根法等，后者的例子包括雅克比迭代法，高斯赛德尔迭代法等。
这些方法的计算复杂度在可以接受的范围内，因此被广泛采用。
一般来说，直接法对于阶数比较低的方程组比较有效；而后者对于比较大的方程组更有效。
在实际计算中，几十万甚至几百万个未知数的方程组并不少见。
在这些情况下，迭代法有无可比拟的优势。
另外，使用迭代法可以根据不同的精度要求选择终止时间，因此比较灵活。
在问题特别大的时候，计算机内存可能无法容纳被操作的矩阵，这给直接法带来很大的挑战。
而对于迭代法，则可以将矩阵的某一部分读入内存进行操作，然后再操作另外部分。
本文使用上述四种算法求解对应的方程组，验证各种算法的精确度和计算速度。
1 算法介绍1.1 雅克比迭代法 1.1.1 算法理论设线性方程组(1)b Ax的系数矩阵A 可逆且主对角元素 均不为零,令并将A 分解成 (2)从而(1)可写成令其中. (3)以B 1为迭代矩阵的迭代法(公式)(4)称为雅克比(Jacobi)迭代法(公式),用向量的分量来表示,(4)为(5)其中为初始向量.1.1.2 算法描述 1给定迭代初始向量X 0以及误差要求delta 2根据雅克比迭代公式计算出下一组向量 3判断X 是否满足误差要求，即||X k+1 – X k || < delta4若误差满足要求，则停止迭代返回结果；若否，则返回第二步进行下一轮迭代1.2 高斯赛德尔迭代法nna ,...,a ,a 2211()nna ,...,a ,a diag D 2211=()D D A A +-=()b x A D Dx +-=11f x B x +=b D f ,A D I B 1111--=-=()()111f x B x k k +=+⎩⎨⎧[],...,,k ,n ,...,i x a ba xnij j )k (j j i iii)k (i21021111==∑-=≠=+()()()()()Tn x ,...x ,x x 002010=1.2.1 算法理论由雅克比迭代公式可知,在迭代的每一步计算过程中是用的全部分量来计算的所有分量,显然在计算第i 个分量时,已经计算出的最新分量没有被利用，从直观上看,最新计算出的分量可能比旧的分量要好些.因此，对这些最新计算出来的第次近似的分量加以利用,就得到所谓解方程组的高斯—塞德尔（Gauss-Seidel ）迭代法.把矩阵A 分解成(6)其中,分别为的主对角元除外的下三角和上三角部分,于是,方程组(1)便可以写成即其中(7)以为迭代矩阵构成的迭代法(公式)(8)称为高斯—塞德尔迭代法(公式),用变量表示的形式为(9)1.2.2 算法描述 1给定迭代初始向量X 0以及误差要求delta2根据高斯赛德尔迭代公式计算出下一组向量()k x ()1+k x ()1+k ix ()()1111+-+k i k x ,...,x 1+k()1+k x()1+k jx U L D A --=()nna ,...,a ,a diag D 2211=U ,L --A ()b Ux x L D +=-22f x B x +=()()b L D f ,U L D B 1212---=-=2B ()()221f x B x k k +=+⎩⎨⎧[],...,,k ,n ,,i x a x a b a xi j n i j )k (j ij )k (j ij i ii)k (i21021111111==∑∑--=-=+=++3判断X 是否满足误差要求，即||X k+1 – X k || < delta4若误差满足要求，则停止迭代返回结果；若否，则返回第二步进行下一轮迭代1.3 高斯消去法 1.3.1 算法理论下面三种变换称为初等行变换：1.对调两行；2.以数k ≠0乘某一行中的所有元素；3.把某一行所有元素的k 倍加到另一行对应的元素上去。
数值计算方法线性方程组与矩阵计算
数值计算方法线性方程组与矩阵计算数值计算方法：线性方程组与矩阵计算数值计算方法是指利用计算机进行数值运算的一种方法。
在实际应用中，处理线性方程组和矩阵计算是数值计算方法中较为基础和重要的内容。
本文将介绍线性方程组的求解和矩阵计算的相关知识。
一、线性方程组求解方法线性方程组是指形如Ax=b的方程组，其中A是一个m×n的矩阵，x是未知向量，b是已知向量。
线性方程组的求解是数值计算中的一个核心问题，下面介绍几种常用的求解方法。
1.1 直接法直接法是一种通过有限次数的基本运算，得到线性方程组精确解的方法。
常用的直接法有高斯消元法和LU分解法。
高斯消元法通过将线性方程组的系数矩阵进行初等行变换，将其转化为一个上三角形式或下三角形式，从而求得方程组的解。
该方法的主要优点是精确解，但对于特定类型的矩阵，容易出现数值不稳定的问题。
LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，即A=LU。
然后，通过求解Ly=b和Ux=y两个方程组，得到线性方程组的解x。
这种方法不仅可以减少运算量，还可以提高数值稳定性。
1.2 迭代法迭代法是通过逐次逼近线性方程组的解，直到满足一定的精度要求。
常用的迭代法有雅可比迭代法和高斯-赛德尔迭代法。
雅可比迭代法是一种通过逐个分量的更新来逼近解的迭代方法。
它的基本思想是将线性方程组写成x=D^(-1)(b-Rx)的形式，其中D是A的对角矩阵，R是A的上三角部分和下三角部分的和。
然后，通过不断更新x，直至满足一定的收敛准则。
高斯-赛德尔迭代法是雅可比迭代法的改进方法。
它的原理与雅可比迭代法类似，不同之处在于每次更新x时，使用最新的已知分量。
二、矩阵计算方法矩阵计算是数值计算中的一个重要部分，涉及矩阵的加法、乘法、转置、逆矩阵等。
2.1 矩阵加法和乘法矩阵加法是指对应元素相加，形成一个新的矩阵。
矩阵乘法是指按照特定的规则将两个矩阵相乘，得到一个新的矩阵。
矩阵加法和乘法的运算规则与实数的加法和乘法类似，但需要满足矩阵乘法的封闭性和分配律。
线性方程组数值解法总结
好久没来论坛，刚刚发现以前的帖子现在那么火很欣慰，谢谢大家支持！今天趁着不想做其他事情，把线性方程组的数值解法总结下，有不足的地方希望大神指教！数学建模中也会用到线性方程组的解法，你会发现上10个的方程手动解得话把你累个半死，而且不一定有结果，直接用matlab的函数，可以，关键是你不理解用着你安心吗？你怎么知道解得对不对？我打算开个长久帖子，直到讲完为止！这是第一讲，如有纰漏请多多直接，大家一起交流！线性方程组解法有两大类：直接法和迭代法直接法是解精确解，这里主要讲一下Gauss消去法，目前求解中小型线性方程组（阶数不超过1000），它是常用的方法，一般用于系数矩阵稠密，而有没有特殊结构的线性方程组。
首先，有三角形方程组的解法引入Gauss消去法，下三角方程组用前代法求解，这个很简单，就是通过第一个解第二个，然后一直这样直到解出最后一个未知数，代码如下：前代法：function [b]= qiandai_method(L,b)n=size(L,1); %n 矩阵L的行数for j=1:n-1 %前代法求解结果存放在b中b(j)=b(j)/L(j,j);b(j+1:n)=b(j+1:n)-b(j)*L(j+1:n,j);endb(n)=b(n)/L(n,n);上三角方程组用回代法，和前面一样就是从下面开始解x，代码：后代法：function [y]=houdai_method(U,y)n=size(U,1); %n 矩阵L的行数for j=n:-1:2 %后代法求解结果存放在y中y(j)=y(j)/U(j,j);y(1:j-1)=y(1:j-1)-y(j)*U(1:j-1,j);endy(1)=y(1)/U(1,1);Gauss消去的前提就是这两个算法：具体思想是把任何一个线性方程组的系数矩阵A，分解为一个上三角和一个下三角的乘积，即A=LU，其中L为下三角，U为上三角。
那么具体怎么做呢？有高斯变换，什么是高斯变换？由于时间有限我不可能去输入公式，所以我用最平白的话把它描述出来。
【推荐】数值计算方法：第二章 线性方程组的数值解法.ppt
2.4 经典迭代法(Classic Iterative Methods)
迭代法思想：
42
2.4.1 Jacobi迭代法 (以对角元为分母)
43
建立迭代格式
将初值
代入后迭代得
将上述过程一般化
44
以分量表示方程组得
对角元对应的量 移到左边，其它 量在右边便得 ：
从而可建立迭代格式
Jacobi迭代
20
比较第k列, j=k,k+1,…,n
21
比较第k行, i=k+1,…,n
22
先解Ly = b 再解Ux = y
23
例 2.4 试用Crout分解法解线性方程组
解
24
25
26
2.2.2 对称正定矩阵分解法
若A 为对称正定矩阵，则容易证明存在下三角
矩阵L，使得
。这称为矩阵的乔里斯
基（Cholesky）分解。
50
定理 2.1 设方程组Ax=b的精确解为x*。如果存在一 个矩阵范数使得（2.4.9）中的迭代矩阵满足条件
则由(2.4.9)确立的迭代任何初始向量均收敛。且
证 迭代式相减取范数得
进一步递推得
定理得证。
51
利用定理2.1很容易判别迭代法的收敛性。以常用 矩阵范数为例，有下列结论。 推论 2.1 若(2.4.9)迭代矩阵 满足条件
解 相应的迭代公式为
Jacobi迭代
令 由Jacobi迭代得
由Gauss-Seidel迭代得
Gauss-Seidel迭代 取四位小数迭代计算
49
2.4.3 一般 迭代法的收敛性
定义3.2 设
相应的迭代格式为
如果存在某个向量范数使得
线性方程组的数值解法详解演示文稿
n
非行零交判换断的次元数素最个多数为为：：kn1(1nnk1()n12kn)(n
k 1
1)
1 2
n(n
1)
二、矩阵三角分解法
设有线性方程组：AX=b
a11 a12 a1n
x1
b1
A
a21
a22
a2
n
,
X
x2
,
b
b2
.
an1 an2 ann
xn
bn
矩阵三角分解法包括不选主元和选主元两种方法。
1、不选主元三角分解算法 当A非奇异时，可以将A作LU分解：
1 0
0 u11 u12 u1n
A
LU
l21
1
0
0
u22
,
ln1 ln,n1 1 0 0 unn
其中：(矩阵LU分解)
(1) u1 j a1 j (i 1,2,,n), li1 ai1 / u11(i 2,,n),
1
0 0
1
2，y
2 ,
x
0
.
1 1 1 0 0 1
1 1
§3 解线性方程组的迭代法
考虑线性方程组
a11x1 a12x2 a1nxn b1
a21x1
a22x2
a2n xn
b2
an1x1 an2x2 annxn bn
也就是
Ax=b.
进行矩阵分裂
A=M-N,
(2.1) (2.2)
其中
a1(11)
0
0
a1(12) a2(22)
an(22)
a1(1n) a2(2n)
an(2n)
线性方程组的数值解法及其应用
线性方程组的数值解法及其应用一、问题描述现实中的问题大多数是连续的，例如工程中求解结构受力后的变形，空气动力学中计算机翼周围的流场，气象预报中计算大气的流动。
这些现象大多是用若干个微分方程描述。
用数值方法求解微分方程（组），不论是差分方法还是有限元方法，通常都是通过对微分方程（连续的问题，未知数的维数是无限的）进行离散，得到线性方程组（离散问题，因为未知数的维数是有限的）。
因此线性方程组的求解在科学与工程中的应用非常广泛。
经典的求解线性方程组的方法一般分为两类：直接法和迭代法。
二、基本要求1）掌握用MATLAB软件求线性方程初值问题数值解的方法；2）通过实例学习用线性方程组模型解决简化的实际问题；3）了解用高斯赛德尔列主元消去法和雅可比迭代法解线性方程组。
三、测试数据1） 直接法：A=[0.002 52.88;4.573 -7.290];b=[52.90;38.44];2） 迭代法：A=[10 -1 -2;-1 10 -2;-1 -1 5];b=[7.2;8.3;4.2];四、算法程序及结果1）function[RA,RB,n,x]=liezy1(A,b)B=[A b];n=length(b);RA=rank(A);RB=rank(B);zhica=RB-RA;if zhica>0,disp('因为RA~=RB,所以此方程组无解.')returnif RA==RBif RA==ndisp('因为RA=RB=n,所以此方程组有唯一解.')x=zeros(n,1);C=zeros(1,n+1);for p=1:n-1[Y,j]=max(abs(B(p:n,p)));C=B(p,:);B(p,:)=B(j+p-1,:);B(j+p-1,:)=C;for k=p+1:nm=B(k,p)/B(p,p);B(k,p:n+1)=B(k,p:n+1)-m*B(p,p:n+1);endendb=B(1:n,n+1);A=B(1:n,1:n);x(n)=b(n)/A(n,n);for q=n-1:-1:1x(q)=(b(q)-sum(A(q,q+1:n)*x(q+1:n)))/A(q,q);endelsedisp('因为RA=RB<n,所以此方程组有无穷多解.')endend测试：A=[0.002 52.88;4.573 -7.290];>> b=[52.90;38.44];>> [RA,RB,n,x]=liezy1(A,b)因为RA=RB=n,所以此方程组有唯一解.RA =2RB =2n =2x =10.00001.00002）function Jacobi(A,b,x0,P,error,max1)[n n]=size(A);x=zeros(n,1);for k=1:max1for j=1;nx(j)=(b(j)-A(j,[1:j-1,j+1:n])*x0([1:j-1,j+1:n]))/A(j,j);endxerrx=norm(x-x0,P);x0=x;x1=A\b;if(errx<error)disp('迭代次数k,精确解x1和近似解x分别是：')kx1xreturnendendif(errx>=error)disp('请注意：Jacobi迭代次数已经超过最大迭代次数max1.') end测试：A=[10 -1 -2;-1 10 -2;-1 -1 5];>>b=[7.2;8.3;4.2];>>x0=[0;0;0];>>Jacobi(A,b,x0,inf,0.001,100)n =3x =0.7200迭代次数k,精确解x1和近似解x分别是：k =2x1 =1.10001.20001.3000x =0.7200五、应用举例1）营养学家配制一种具有1200卡，30g蛋白质及300mg维生素C的配餐。
数值分析(08)Gauss消元法解线性方程组
end X=backsub(A, b);
%回代求解
消元法是解线性方程组的基本方法，具有计算简 单的优点，但有时由于主元过小，使得计算结果严重 失真,实际中常采用选主元高斯消元法。
§1 Gaussian Elimination – Pivoting Strategies
选主元消去法 /* Pivoting Strategies */
参数表
MATLAB For Gaussian Elimination
function X=gauss(A,b) %Input—A is an n×n nonsingullar maOutput—X is the solution to the system AX=b
进行到底，得到唯一解。
注：事实上，只要 A A ) ... ... A1 存在，则可通过逐 非奇异，即 ... de t( i 次消元及行交换，将方程组化为三角形方程组，求出 a i 1 ... a ii 唯一解。
a11
... a1i
求解的全过程包括两个步骤：消元和回代
1 . 顺序消元
k 1, , n 1 i k 1, , n （1）mik aik ( k ) / akk ( k ) （2）aij ( k 1) aij ( k ) mik akj ( k )，j k 1, , n （3）bi ( k 1) bi ( k ) mik bk ( k )
常见是m n，称为欠定方程组（方程数少于未知数） 此时，从Ax b的无穷多个解中需求出2 范数最小的解。 即求 x , 使 || x ||2 min || x ||2 ，x满足Ax b。
r ( A) r ( A)方程组Ax b无解（即不相容）。 常见是m n，称为超定方程组（又称矛盾方程组） 此时，向量b不在A的列空间R( A)之中，原方程组 无解，但可求出最小二乘意义下的解 x。 即求 x使 || b Ax ||2 min 2
数值计算方法-线性方程组的解法
= = =
b(1) 1 , b(2) 2 , b(2) 3 .
)
(2) a22 = = = = = = = = = = = = = = = =⇒
9
顺序消去法
(2) 设 a22 ̸= 0，
(1) (1) (1) a11 x1 + a12 x2 + a13 x3 (2) (2) a22 x2 + a23 x3 (2) (2) x3 a32 x2 + a33 ( (3) + (2) × −
18
列主元消去法
列主元消去法 for k = 1 , 2 , · · · , n -1 (k) (k ) find ik ∈ k, · · · , n s . t . |ai | = maxk≤i≤n |aik |; k ,k interchange the k, ik - th rows in [A(k) , b(k) ] ; for i = k +1 , · · · , n
(k) (k) lik = aik / akk ;
for j = k +1 , · · · , n +1
(k+1) (k) (k ) aij = aij − lik · akj ;
end end end
19
高斯消去法
全主元消去法
全主元消去法
定义 1.4: 全主元消去法 全主元消去法选主元的范围更大，对于 A(1) | b(1) 来说，在整个 系数矩阵中选主元，即将绝对值最大的元素经过行列变换使其置 ( ) (1) 于 a11 的位置，然后进行消元过程得到 A(2) | b(2) ； 接下来在该矩阵中划掉第一行第一列后剩余的 n − 1 阶子系数矩 (2) 阵中选主元，并通过行、列交换置其于 a22 的位置，然后进行消 元；
计算方法线性方程组数值解法
d
2
a3b3c3
x3
d3
an
1bn1cn
1
xn
1
d
n
1
anbn xn dn
其系数矩阵为三对角形，元素满足以下条件：
|b1|>|c1|>0
|bi|≥|ai|+|ci|，且aici≠0 i=2，3，……n-1; |bn|≥|an|>0。
可以采用追赶法求解
4
线性代数方面的计算方法就是研究求解线 性方程组的一些数值解法与研究计算矩阵 的特征值及特征向量的数值方法。
5
设有线性方程组
a11x1 a12x2 a1nxn b1 a21x1a22x2a2nxnb2 an1x1 an2x2 annxn bn
式中，aij，bi为已知常数，xi为待求的未知量。记
u
2
2
u 2 n
u n 1,n 1u n 1,n
u n n
10
若uii≠0（i=1,2,……n）,则由下至上依次回代得
xn yn / unn
xn1 ( yn1 xi yi
un1,n xn ) / un1,n1
n
uij x j ) / uii
0
a
( 2
2 2
)
a
( 2
2) ,k 1
a
( 2
2) ,k
a
( 2
2) ,n
a
( 2
2) ,n 1
0 A(k)
0 0
a
( k
k) ,k
a
( k
k) ,k 1
a
k
k ,n
a
( k
k) 1,n
1
数值计算方法第3章解线性方程组的数值解法
可编辑ppt
1
引言
在自然科学和工程技术中很多问题的解决 常常归结为解线性代数方程组。例如电学中的 网络问题，船体数学放样中建立三次样条函数 问题，用最小二乘法求实验数据的曲线拟合问 题，解非线性方程组问题，用差分法或者有限 元法解常微分方程，偏微分方程边值问题等都 导致求解线性方程组，而且后面几种情况常常 归结为求解大型线性方程组。
a(k) kk
...
a(k) kn
bk(
k
)
... ... ... ...
a(k) nk
...
a(k) nn
bn(k )
可编辑ppt
19
高斯顺序消去法
则第k次消元: 令 lika aik((k kk))， ik1,..n.， ,k1,2,..n. ,1 则有
a i (k j1 ) a i (k ) j lia k k (k ) ， ji k 1 ,.n ;.j .k , 1 ,.n ..,
线性代数方面的计算方法就是研究求解线 性方程组的一些数值解法与研究计算矩阵的特 征值及特征向量的数值方法。
可编辑ppt
2
引言
关于线性方程组的数值解法一般有两类。
直接法：经过有限步算术运算，可求得方程 组的精确解的方法（若在计算过程中没有舍 入误差）
迭代法：用某种极限过程去逐步逼近线性方 程组精确解的方法
b i(k 1 ) b i(k) lib kk (k)， i k 1 ,.n ..,
a (1) 11
令
li1
a (1) i1
a (1) 11
,i
2 ,3 ,...,
n
a
(1 11
)
A（ 1）
线性方程组求解的数值方法52614共103页文档
(1)
an1x1 an2 x2 L ann xn bn
系数矩阵
a11 a12 L
A
a
21
a22
L
L L L
a
n1
an2
L
a1n
a
2
n
，
L
a
nn
x1
x
x
2
,
L
x
n
b1
b
b
2
。
L
b
n
5
若记 则(1)可写为
A=A (1)(ai(j1)),bb(1)，
A(1)xb(1)
ai(jk1)
a(k) ij
mij
a(k kj
)
i k 1,L ,n
j
k 1,L
, n
bi(k1)
b(k) j
mikbk(k) (i
k 1,L
, n)
n 1
除法： (n k )次 k 1
n1 乘法：(nk)(nk)2次 k1
乘除法： k n 1 1 2 (n k) (n k)2 1 6(2 n 3 3 n 2 5 n )n 3 3,
3
=
说明：整个计算过程可分为两部分： 1. 消元：把原方程组转化为系数矩阵为上三角矩阵的 方程组； 2. 回代：由系数矩阵为上三角矩阵的方程组求解
4
一般情形： n阶线性方程组的高斯消元法
a11x1 a12 x2 L a1n xn b1
aM21x1
a22 x2 M
L M
a2n xn b2 M
(n-k)2次乘法
i,jk1,L,n (n-k)次乘法
A(k+1)与A(k) 前 k 行元素相同，A(k+1)左上角为上三角阵
线性方程组的数值解法
线性方程组的数值解法
10
第n-1次消元得到的等价上三角形方程组A(n)x = b(n)
a(1) 11
a(1) 12
a(2) 22
a(1) 1n
a(2) 2n
x1 x2
b(1) 1
b(2) 2
(2.1.7)
a(n) nn
绝对值很大，势必造成误差的严重扩散，使得
计算结果失真。
li k
a(k ) ik
/
a(k ) kk
,
a(1) 1n
a(2) 2n
x1 x2
b(1) 1
b(2) 2
a(k) kn
b(k ) k
a(k 1) k 1,n
b(k 1) k 1
a(k 1) nn
3 1
5 0
6 2
l32= 1/3
1 1 1 3 0 3 5 6 0 0 5 / 3 0
写成与原方程组等价的线性方程组为
2019/11/8
线性方程组的数值解法
13
等价的线性方程组为
x1 x2 x3 3, 3x2 5x3 6, 5 3 x3 0.
x3 3, 3x3
0,
x1 2x2 x3 5.
2019/11/8
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
0
(k=1,2,…,n) ,则可通过高斯消元法求出Ax=b 的解。
引理
A的主元素
a(k) kk
0
(k=1,2,…,n) 的充要条件
是矩阵A的各阶顺序主子式不为零，即
a11
a1k
D1 a11 0 Dk
0, k 2, 3, , n
ak1
akk
定理2 Ax=b 可用高 斯消元法求解的充分必要条件是： 系数矩阵 A 的各阶顺序主子式均不为零。
Page 5
线性代数方程组的计算机解法常用方法：
直接法 迭代法
消去法 矩阵三角分解法
Page 6
直接法：经过有限步算术运算，可求得方程组
的精确解的方法（若在计算过程中没有舍入误差）
迭代法：用某种极限过程去逐步逼近线性方程
组精确解的方法 迭代法具有占存储单元少，程序设计简单，原
始系数矩阵在迭代过程中不变等优点，但存在收 敛性及收敛速度等问题
a(k) ik
a(k) kk
aijk
mik
a
k
kj
bik1 bik mikbkk
xn
bnn annn
bii
n
a
i
ij
x
j
,
xi
ji1
aiii
i, j k 1, k 2,, n
i n 1,,2,1
高斯消元法的条件
Page 20
定理1
如果在消元过程中A的主元素
a(k) kk
即:
a111
a112 a222
a11n a22n
x1 x2
bb1212
an22
an2n
xn
bn2
其中：
abiij22
aij1 bi1
mi1a11j mi1b11
i, j 2,3,, n
Page 14
第 k 次消元 2 k n 1 时，设第 k 1 次消元
8.1 消去法
Page 7
消去法在线性代数中已有详细的讨论，在此只 给出一些说明以及算法的具体描述。
消去法的基本思想：是通过将一个方程乘或除以
某个常数，以及将两个方程相加减，逐步减少方程中
的变元数，最终使每个方程只含一个变元，从而得出
所求的解。
高斯消去法
消去法常用方法： 选主元消去法
高斯－约旦消去法
其中 A 为系数矩阵，x 为解向量，b 为右端常向量P。age 3
a11 a1n
A
an1 ann
x1
x
xn
b1
b
bn
若矩阵A非奇异，即A 的行列式 det A 0 ，根据
克莱姆（Gramer）法则，方程组有唯一 解：
xi
Di D
i 1,2,, n
其中D 表示 det A ，Di 表示 D 中第 i 列换成 b 后
B=[5; -4; 7];
format rat
x1=A\B
%求得非齐次方程组Ax=B的一个特解x1
Y=null(A,’r’) %求得齐次方程组Ax=0 的基础解系Y
输出结果： x1 =
3 2 0 0
Y=
2/7 3/7
5/7 4/7
1
0
0
1
则方程组Ax=B的通解为: x=x1+k1*Y(:,1)+k2*Y(:,2)
8.1.1 高斯消去法 ——按自然顺序进行的消元法
Page 8
高斯消去法属于直接法，一般由“消元过程” 和“回代过程”两部分组成。先举几个简单实例，
再对一般n阶方程组说明高斯消去法的基本思想。
例 1 用高斯消元法求解方程组
Page 9
2 x1 8 x2 2x3 14
x1
6 x2
x3
13
2 x1 x2 2 x3 5
3
1 -5/7 -4/7
2
0
0
0
0
于是可得方程组Ax=B的通解为:
3 2/7 3/7
X
2
00
k1
5
/7 1 0
k2
4/7 0 1
例2：用Gauss消去法求解方程组：
5 x1 6 x2
1
x1
5x2 x2
6x3 5x3
6
x4
0 0
x3 5x4 6x5 0
x4 5x5 1
高斯消去法的计算量
以乘除法的次数为主
(1) 消元过程：
a ( k 1) ij
a(k) ij
likai(jk )
b( k 1) i
bi(k )
likbk(k )
j k 1, k 2,..., n
i k 1, k 2,..., n 第k步时(n – k) + (n – k) (n – k + 1)
= (n – k) (n – k + 2)
共有
n1
n3 n2 5
(n k)(n k 2) n
k 1
3 26
Page 21
高斯消去法的计算量
Page 22
以乘除法的次数为主
(1) 消元过程：n1
n3 n2 5
(n k)(n k 2) n
k 1
3 26
(2)
回代过程： xn
Page 23
以乘除法的次数为主
(1) 消元过程：n1
n3 n2 5
(n k)(n k 2) n
k 1
3 26
(2) 回代过程： n1
n
n2 n
1 (n i 1) (n i 1)
i 1
i 1
22
(3) 总次数为
MD n3 n2 n n3 O(n3 )
3
33
0
而精确值为
x1
1, 3
x2
2 3
显然该解与精确值相差
太远，为了控制误差，采用另一种消元过程。
解法二 为了避免绝对值很小的元素作为主元，先交 换两个方程，得到 1.0000x1 1.0000x2 1.0000
0.0003x1 3.0000x2 2.0001
消去第二个方程中的 x1 ,得
x2
6
2x3 2
1
x1
14
8 x2 2
2 x3
5
例 2 解方程组
2x1 x2 x3 7 4 x1 5x2 x3 11 x1 2 x2 x3 0
Page 10
解：消元
Page 11
2 4
1 5
1 1
7 11
42r1
r2
2 0
1 3
1 7 3 3
1 2 1
0
1 2
r1
r3
0 2.5 0.5 3.5
2 1 1 7
32.5 r2 r3
0
3
3
3
0 0 2 6
回代得
6 x3 2 3,
x2
3 3x3 3
2,
x1
7
x2 2
x3
1
Pa消ge去12法
下面讨论一般 n 阶线性方程组的高斯消去法。
记 Ax b 为 A1x b1 ，A1 和 b1 的元素
注：当n = 20时约为2670次，比克莱姆法则9.71020次 大大减少。
Matlab求解
Page 24
当系数矩阵A为N*N的方阵时，MATLAB会自行用高斯 消去法求解线性代数方程组。
在MATLAB中的求解 命令有：
x A\b x inv( A) * b x A ^ (-1) * b x b '/ A' x b '* inv( A')
所得的行列式。
Page 4
当阶数较高时用这种方法求解是不现实的。n 阶
n 行列式有n!项，每项又是 个数的乘积。对较大
的n ，其计算量之大，是一般计算机难以完成的。 而且，这时的舍入误差对计算结果的影响也较大。
例如，求解一个20阶线性方程组，用加减消元法需 3000次乘法运算，而用克莱姆法则要进行 9.7 1020次 运算，如用每秒1亿次乘法运算的计算机要30万年。
程序如下：
A=[5 6 0 0 0 15600 01560 00156 0 0 0 1 5];
R_A=rank(A) X=A\B
B=[1 0 0 0 1]'; %求秩 %求解
Page 28
高斯消去法的计算量
Page 29
定理：高斯消去法求解 n 阶线性方程组共需乘除法
次数近似为 n3 。 3
讨 论：
数值计算 第八章 线性方程组 的数值解法
第八章 线性方程组的数值解法 Page 2
• 问题的提出：
n阶线性代数方程组的一般形式为：
a11x1 a12 xx a1n xn b1
a2
1
x1
a22xx
a2n xn
b2
an1 x1 an2 xx ann xn bn
写成矩阵-向量形式 Ax b
bn( n ) a(n)
nn
bi(i )
n
ai(ji ) x j
xi
ji1
a(i) ii
i n 1, n 2,...,1
求xi中, 乘n–i次,除1次,共n–i+1次(i = 1,…,n–1)
共有
n1
n
n2 n
1 (n i 1) (n i 1)
i 1
i 1
22
高斯消去法的计算量
已完成，即有 Akx bk 其中：
a111
a112 a222
a223
a11n a22n
Ak
akkk
akkn
ankk
ankn