线性方程组的直接法和迭代法
线性代数求解方法和技巧
线性代数求解方法和技巧线性代数是数学中重要的一个分支，研究向量空间、线性变换和线性方程组等内容。
在实际问题中，我们常常需要用线性代数的方法来解决问题，因此掌握线性代数的求解方法和技巧对于理解和应用数学是非常重要的。
首先，我们讨论线性方程组的求解方法。
线性方程组是由一组线性方程组成的方程组，其中每个方程的未知数的次数都为1。
对于n个未知数和m个方程的线性方程组，我们有以下几种常用的求解方法：1. 列主元消元法：这是最常用的线性方程组求解方法之一。
它的基本思想是通过行变换将线性方程组化为一个三角形式，进而求解得到方程组的解。
在进行行变换时，要选择合适的列主元，即选择主元元素绝对值最大的一列作为主元素。
2. 矩阵求逆法：对于一个可逆的n阶方阵A，我们可以通过求A的逆矩阵来求解线性方程组Ax=b。
具体地，我们首先通过高斯消元法将方程组化为三角形式，然后根据三角形式的矩阵求逆公式来求解x。
3. LU分解法：对于一个n阶非奇异矩阵A，我们可以将其分解为一个下三角矩阵L和一个上三角矩阵U的乘积，即A=LU。
接着，我们可以通过LU分解来求解线性方程组Ax=b。
具体地，我们首先通过LU分解将方程组化为Lc=b和Ux=c两个方程组，然后依次求解这两个方程组得到x的值。
除了以上的求解方法，还有一些线性方程组的特殊情况和对应的求解方法：1. 齐次线性方程组：如果线性方程组右边的常数项都为0，即b=0，那么我们称为齐次线性方程组。
对于齐次线性方程组，其解空间是一个向量空间。
我们可以通过高斯消元法来求解齐次线性方程组，先将其化为三角形式，然后确定自由未知量的个数，最后确定解空间的基底。
2. 奇异线性方程组：如果线性方程组的系数矩阵A是奇异矩阵，即det(A)=0，那么我们称为奇异线性方程组。
对于奇异线性方程组，其解可能不存在，或者存在无穷多解。
我们可以通过计算矩阵A的秩来确定线性方程组的解的情况。
另外，在实际问题中，我们可能会遇到大规模的线性方程组，这时候求解方法和技巧还需要考虑到计算效率的问题。
线性代数方程组的数值解法讨论
线性代数方程组的数值解法讨论解线性方程组的方法，主要分为直接方法和迭代方法两种。
直接法是在没有舍入误差的假设下能在预定的运算次数内求得精确解。
而实际上，原始数据的误差和运算的舍入误差是不可以避免的，实际上获得的也是近似解。
迭代法是构造一定的递推格式，产生逼近精确解的序列。
对于高阶方程组，如一些偏微分方程数值求解中出现的方程组，采用直接法计算代价比较高，迭代法则简单又实用，因此比较受工程人员青睐。
小组成员本着工程应用，讨论将学习的理论知识转变为matlab 代码。
讨论的成果也以各种代码的形式在下面展现。
1 Jacobi 迭代法使用Jacobi 迭代法，首先必须给定初始值，其计算过程可以用以下步骤描述： 步骤1 输入系数矩阵A ，常熟向量b ，初值(0)x ，误差限ε，正整数N ，令1k =.步骤2 (0)11ni i ij jj ii j i x b a x a =≠⎡⎤⎢⎥=-⎢⎥⎢⎥⎣⎦∑，(0)j x 代表(0)x 的第j 个分量。
步骤3 计算11ni i ij j j ii j i y b a x a =≠⎡⎤⎢⎥=-⎢⎥⎢⎥⎣⎦∑，判断1max i i i n x y ε≤≤-<，如果是，则结束迭代，转入步骤5；否则，转入步骤4。
步骤4 判断k N =？如果是，则输出失败标志；否则，置1k k =+，i i x y ⇐，1,2,,i n =，转入步骤2。
步骤5 输出12,,n y y y 。
雅可比迭代代码function [x,k]=Fjacobi(A,b,x0,tol)% jacobi 迭代法 计算线性方程组% tol 为输入误差容限，x0为迭代初值max1= 300; %默认最多迭代300，超过要300次给出警告 D=diag(diag(A)); L=-tril(A,-1);U=-triu(A,1); B=D\(L+U); f=D\b; x=B*x0+f;k=1; %迭代次数while norm(x-x0)>=tol x0=x;x=B*x0+f; k=k+1;if(k>=max1)disp('迭代超过300次，方程组可能不收敛'); return; end%[k x'] %显示每一步迭代的结果 End2 高斯赛德尔迭代由Jacobi 迭代法中，每一次的迭代只用到前一次的迭代值，若每一次迭代充分利用当前最新的迭代值，即在计算第i 个分量(1)k i x +时，用最新分量11()k x +，12()k x +…(1)1k i x +-代替旧分量)1(k x ', )2(k x …)3(k x 就得到高斯赛德尔迭代格式，其数学表达式为：1(1)(1)()111(1,2,,)i n k k k ii ij j ij j j j i ii xb a x a x i n a -++==+⎛⎫=--= ⎪⎝⎭∑∑具体形式如下：()()()(1)()()()11221331111(1)(1)()()22112332222(1)(1)(1)(1)(1)112233,11111k k k k n n k k k k n n k k k k k n n n n n n n n nnx a x a x a x b a x a x a x a x b a x a x a x a x a x b a ++++++++--=----+=----+⋯⋯⋯⋯⋯⋯=-----+矩阵形式表示为：()(1)1(1)()(0,1,2,,),k k k k n +-+=++=x D Lx Ux b将(1)(1)()(0,1,2,,)k k k k n ++=++=Dx Lx Ux b 移项整理得： (1)1()1()()(0,1,2,,))k k x D L Ux D L b k n +--=-+-=记11(),()--=-=-M D L U g D L b ，则(1)()k k x x +=+M g高斯塞德尔迭代function [x,k]=Fgseid(A,b,x0,tol)%高斯-塞德尔迭代法 计算线性方程组 % tol 为误差容限max1= 300; %默认最高迭代300次D=diag(diag(A)); L=-tril(A,-1); U=-triu(A,1); G=(D-L)\U; f=(D-L)\b; x=G*x0+f;k=1; while norm(x-x0)>=tol x0=x;x=G*x0+f; k=k+1;if(k>=max1)disp('迭代次数太多，可能不收敛'); return; end% [k,x'] %显示每一步迭代结果 End3 超松弛迭代法在工程中最常遇到的问题便是线性代数方程组的求解,而线性代数方程组的求解一般可以分为两类,一类是直接法(精确法),包括克莱姆法则方法、LD 分解法等，另一类是迭代法（近似法），包括雅克比迭代法、高斯迭代法、超松弛迭代法等。
07线性代数方程组的解法
总计∑ n (k2k) n(n21)
k1
3
除法
n1
k
n(n1)
k1
2
回 代 总 计 算 量 n(n1) 2
总 乘 除 法 共 n 3 3 n 2 1 3 n (n 3 0 ,为 9 8 9 0 )
21
三、Gauss消去法的矩阵表示
每一步消去过程相当于左乘初等变换矩阵Lk
a x a x a x a b 得
到
(1)
同
解 (1)
方
程 (1)A(3组 )x=b(1() 3)
(1)
11 1
12 2
13 3
1n
1
a x a x (2) (2)
22 2
23 3
a x(3) 33 3
a b (2) (2)
2n
2
a b (3) (3)
11 1
12 2
1n n
1
b x 22 2
b2nxn g 2
称 消 元 过 程 。 逐 次 计 算 b出 nn x xn n, x gn 1 n,, x 1 称 回 代 过 1程 0 。
一、Gauss 消去法计算过程
a a b b 统一记 → 号 (1) ： , →(1)
(2) ,
2
(3)
(2)
2
1
0
1
L m 0 2
32
1
0 mn2 0
m a a
(2) (2)
i2
i2
22
i 3,4, ,n
数值分析第三章线性方程组解法
数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。
线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。
线性方程组的解法包括直接解法和迭代解法两种方法。
一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。
这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。
1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。
这种方法可以减少计算量，提高计算效率。
1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。
它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。
Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。
二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。
Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。
2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。
它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。
Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。
2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。
它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。
SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。
三、总结线性方程组解法是数值分析中的一个重要内容。
直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。
第五章 解线性方程组的迭代解法
定义迭代法为： 定义迭代法为：
x ( k + 1) = G J x ( k ) + g
其中Jacobi迭代矩阵：GJ = D1 ( L + U ) 迭代矩阵： 其中 迭代矩阵
g = D 1b = (7.2, 8.3, 8.4)T 取 x ( 0 ) = (0, 0, 0)T , 代入迭代式，得x(1) = Bx ( 0 ) + g = (7.2, 8.3, 8.4)T x ( 2 ) = Bx (1) + g = (9.71,10.70,11.5)T x (9 ) = (10.9994,11.9994,12.9992) 精确解为 x = (11,12,13)T .
记
A = D L U
其中 D = diag (a11 ,, ann ) , L, U 分别为 A 的 严格下、上三角形部分元素构成的三角阵 严格下、上三角形部分元素构成的三角阵. Gauss-Seidel方法的矩阵形式为 方法的矩阵形式为
x ( k +1) = D1 ( Lx ( k +1) + Ux ( k ) + b)
或者
x ( k +1) = ( D L)1Ux ( k ) + ( D L)1 b
( 这说明Gauss-Seidel方法的迭代矩阵为 D L)1U 方法的迭代矩阵为 这说明
从而有
定理5.2 定理5.2 Gauss-Seidel方法收敛的充分必要条件为 方法收敛的充分必要条件为
ρ (GG ) < 1 或
方程组的解的三种情况
方程组的解的三种情况线性方程组的解的三种情况如下：第一种是无解。
也就是说，方程之间出现有矛盾的情况。
第二种情况是解为零。
这也是其次线性方程组唯一解的情况。
第三种是齐次线性方程组系数矩阵线性相关。
这种情况下有无数个解。
线性方程组是各个方程关于未知量均为一次的方程组（例如2元1次方程组）。
对线性方程组的研究，中国比欧洲至少早1500年，记载在公元初《九章算术》方程章中。
1、解线性方程组的方法大致可以分为两类：直接方法和迭代法。
直接方法是指假设计算过程中不产生舍入误差，经过有限次运算可求得方程组的精确解的方法；迭代法是从解的某个近似值出发，通过构造一个无穷序列去逼近精确解的方法。
2、消去法：Gauss（高斯）消去法——是最基本的和最简单的直接方法，它由消元过程和回代过程构成，基本思想是：将方程组逐列逐行消去变量，转化为等价的上三角形方程组（消元过程）；然后按照方程组的相反顺序求解上三角形方程组，得到原方程组的解（回代过程）。
优缺点：简单易行，但是要求主元均不为0，适用范围小，数值稳定性差。
列主元素消去法——基本思想是在每次消元前，在要消去未知数的系数中找到绝对值大的系数作为主元，通过方程对换将其换到主对角线上，然后进行消元。
优点：计算简单，工作量大为减少，数值稳定性良好，是求解中小型稠密线性方程组的最好方法之一。
全主元素消去法——基本思想是在全体待选系数a(ij)（k）中选取主元，并通过行与列的互换把它换到a(kk)（k）的位置，进行消元。
优缺点：这种方法的精度优于列主元素法，它对控制舍入误差十分有效，但是需要同时作行列变换，因而程序比较复杂，计算时间较长。
3、直接三角分解法：消元过程实际上是把系数矩阵A分解成单位下三角形矩阵与上三角形矩阵乘积的过程，其中L为单位下三角形矩阵，U为上三角形矩阵。
这种分解过程称为杜利特尔（Doolittle分解)，也称为LU 分解。
当系数矩阵进行三角分解后，求解方程组Ax = b的问题就等价于求解两个三角形方程组Ly=b和Ux=y。
线性方程组的直接法和迭代法
线性方程组的直接法 直接法就就是经过有限步算术运算，无需迭代可直接求得方程组精确解的方法。
线性方程组迭代法 迭代法就就是用某种极限过程去逐步逼近线性方程组精确解的方法.该方法具有 对讣算机的存贮单元需求少，程序设计简单、原始系数矩阵在计算过程中不变等 优点,就是求解大型稀疏矩阵方程组的重要方法.迭代法不就是用有限步运算求 精确解，而就是通过迭代产生近似解逼近精确解•如Jacobi 迭代、Gauss- Seidel 迭代、S0R 迭代法等。
1. 线性方程组的直接法直接法就就是经过有限步算术运算，无需迭代可直接求得方程组精确解的方 法。
1.1 Cramer 法则Cramer 法则用于判断具有n 个未知数的n 个线性方程的方程组解的情况。
当 方程组的系数行列式不等于零时，方程组有解且解唯一。
如果方程组无解或者有 两个不同的解时，则系数行列式必为零。
如果齐次线性方程组的系数行列式不等 于零，则没有非零解。
如果齐次线性方程组有非零解，则系数行列式必为零。
定理1如果方程组Ax = b 中»= A 工0,则Ax = b 有解，且解事唯一的， 解为X 严 ¥，/岸,..％ 理,D 就是D 中第i 列换成向量b 所得的行列式。
Cramer 法则解n 元方程组有两个前提条件:1、 未知数的个数等于方程的个数。
2、 系数行列式不等于零例1 a 取何值时，线性方程组X] + 兀2 + 兀3 = adX] +兀2 +些=1有唯一解。
內+花+ 0勺=1所以当a 丰1时，方程组有唯一解。
定理2当齐次线性方程组Av = O, |4|乂0时该方程组有唯一的零解。
定理3齐次线性方程组Ar = 0有非零解＜=＞同=0。
1.2 Gauss 消元法Gauss 消元法就是线性代数中的一个算法，可用来为线性方程组求解，求出 矩阵的秩，以及求出可逆方阵的逆矩阵。
当用于一个矩阵时，高斯消元法会产生出 一 1 1 11 1 1解:|牛 a 1 1= () 1-6/ 1-« 1 1 a 00 G-1 =_(。
数值方法线性方程组的迭代法
迭代法的特点
若在求解过程中 xkx*(k) ，由 xk+1=(xk)产生的迭代 xk 向x*的逼近 ，在数次迭代求解 之后，由于机器跳动产生的xk 值误差或是有效数字产生的舍 入误差，都会在第k+1次迭代 计算中自动弥补过来或逐步纠 正过来。因此，在 迭代求解 过程中产生的各种误差是可以 忽略的，即迭代求解无累积误 差，实际上， xk只是解的一个 近似，机器的舍入误差并不改 变它的此性质。
x ( k ) x* B k ( x ( 0) x*) 由 x ( k ) x * B k ( x ( 0) x*) B k x ( 0) x * B k x ( 0) x *
lim
k
x(k ) x *
定理２：若||B||<1,则迭代法
对矩阵也有类似的结论
下一页
如果 矩阵 A=(aij)满足 n |aii|> |aij|
j=1,ji
i=1,2,……n,
则称方阵A是严格(行)对角占优的.
U
A=
a11 a21 … an1
a12 a13 … a22 a23 … … … … an3 an4 …
-4 2 1 1 -9 7 2 -6 10
定理１：对任意初始向量x(0)及任意右段向量 g，由此产生的迭代向 量序列{x(k)}收敛的充要条件是
B 1
证明：必要性：设｛x(k)｝收敛，其极限为 x*
x * Bx* g
，则
x ( k ) x * B x ( k 1) x * B k x ( 0 ) x * 两边取极限
引言
• 直接法是通过有限步运算后得到线性方程组的 解,解线性方程组还有另一种解法，称为迭代 法,它的基本思想是将线性方程组 Ax=b 化为 • x=Bx+f • 再由此构造向量序列{x (k)}: • x(k+1)=Bx (k)+f • 若{x (k)}收敛至某个向量x *,则可得向量x *就是 所求方程组 AX=b 的准确解. • 线性方程组的迭代法主要有Jocobi迭代法、 Seidel迭代法和超松弛(Sor)迭代法.
第三章 解线性方程组的直接法
第三章 解线性方程组的直接法3.1 引言许多科学技术问题要归结为解含有多个未知量x 1, x 2, …, x n 的线性方程组。
例如，用最小二乘法求实验数据的曲线拟合问题，三次样条函数问题，解非线性方程组的问题，用差分法或有限元法解常微分方程、偏微分方程的边值等，最后都归结为求解线性代数方程组。
关于线性方程组的数值解法一般有两类：直接法和迭代法。
1. 直接法直接法就是经过有限步算术运算，可求得线性方程组精确解的方法（假设计算过程中没有舍 入误差）。
但实际计算中由于舍入误差的存在和影响，这种方法也只能求得线性方程组的近似解。
本章将阐述这类算法中最基本的高斯消去法及其某些变形。
2. 迭代法迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法，迭代法需要的计算机存储 单元少、程序设计简单、原始系数矩阵在计算过程中不变，这些都是迭代法的优点；但是存在收敛性和收敛速度的问题。
迭代法适用于解大型的稀疏矩阵方程组。
为了讨论线性方程组的数值解法，需要复习一些基本的矩阵代数知识。
3.1.1 向量和矩阵 用nm ⨯R表示全部n m ⨯实矩阵的向量空间，nm C⨯表示全部n m ⨯复矩阵的向量空间。
()⎪⎪⎪⎪⎪⎭⎫⎝⎛==⇔∈⨯nn n n n n ij nm a a aa a aa a a a212222111211A R A 此实数排成的矩形表，称为m 行n 列矩阵。
⎪⎪⎪⎪⎪⎭⎫⎝⎛=⇔∈n n x x x 21x R x x 称为n 维列向量矩阵A 也可以写成)(n 21a ,,a ,a A = 其中 a i 为A 的第i 列。
同理⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=T T T n 21b b b A其中T i b 为A 的第i 行。
矩阵的基本运算：（1） 矩阵加法 )( ,n m n m R C ,R B ,R A B A C ⨯⨯⨯∈∈∈+=+=n m ij ij ij b a c . （2） 矩阵与标量的乘法 ij j a ci αα== ,A C （3） 矩阵与矩阵乘法 p nk kjik b acij ⨯⨯⨯=∈∈∈==∑m p n n m R C ,R B ,R A AB C ( ,1（4） 转置矩阵 ji ij T nm a c ==∈⨯ , ,A C RA（5） 单位矩阵 ()n n ⨯∈=R e ,,e ,e I n 21 ，其中 ()Tk e 0,0,1,0,0 = k=1,2,…,n（6） 非奇异矩阵 设nn ⨯∈RA ，nn ⨯∈RB 。
计算方法第三章线性方程组的直接解法
5 3
3 1
r3
r1 6
6 1 18 2
1 0
4 5 1 3
3 1
r3 r225
1 0
4 1
5 3
3 1
0 25 48 16
0 0 27 9
林龙
计算方法
6
化原方程组为三角方程组的过程为消元过程. 解三角方程组的过程为回代过程.
也可将上边的增广矩阵进一步化简.
1 4 5 3
1 0 7 1
xi
Di D
(i
1, 2,3,
)，由于方程含有n 1个
行列式.如对每个行列式按展开定理来计算.
用克莱姆法则求解,所需要的乘除运算量为
n!(n2 1) n次,若n 20用每秒一千万次的
计算机要三百万年,所以并不是凡直接法都
可以用来做实际运算.
林龙
计算方法
4
设有
§3.1直接法
a11x1 a12 x2 a21x1 a22 x2
解 : 10
7
0
7
r1 r2
5 1 5 6
林龙
计算方法
16
10 3 5
7 2 1
0 6 5
7 4 6
r2
3 10
r1
r3
5 10
r1
10
0
0
7 0.1 2.5
0 7 6 6.1 5 2.5
r2 r3
r3
1 25
r2
10 7 0 7 x3 1
0
2.5
5
2.5
x2
2.5 5x
nn
a11 a12 .... a1n 1 0 0
a21
a22
线性方程组与矩阵特征值求解的数值方法
线性方程组与矩阵特征值求解的数值方法线性方程组与矩阵特征值求解是线性代数中的两个重要问题。
线性方程组解决了形如Ax=b的方程组，其中A为一个m×n的矩阵，b为一个m 维的向量，求解x使得该方程组成立。
矩阵特征值求解是求解形如Ax=λx的特征值和特征向量问题，其中A为一个n×n的矩阵，λ为特征值，x为特征向量。
这两个问题在实际应用中有广泛的应用，如计算机图形学、仿真和优化等领域。
本文将介绍线性方程组和矩阵特征值求解的数值方法。
一、线性方程组的求解方法1.1直接法直接法是指通过一系列的代数运算和变换直接求解线性方程组的解。
经典的直接法有高斯消元法、LU分解法和Cholesky分解法等。
这些方法的时间复杂度通常为O(n^3)。
直接法的优点是解的精度高，稳定性好，适用于小规模的问题。
1.2迭代法迭代法是指通过迭代计算逼近线性方程组的解。
迭代法的基本思想是将原方程组转化为递推的形式，并选择一个初始解，通过递推计算得到趋于或精确的解。
常用的迭代法有Jacobi迭代法、Gauss-Seidel迭代法和SOR迭代法等。
这些方法的时间复杂度通常为O(n^2)。
迭代法的优点是适用于大规模问题，但收敛速度慢，精度较差。
二、矩阵特征值求解方法2.1幂法幂法是求解特征值最大的特征值与对应特征向量的方法。
假设有一个n×n的矩阵A，选择一个初始向量x(0)，通过迭代计算x(k)=Ax(k-1)/，Ax(k-1)，其中，·，表示向量的范数，直到收敛为止。
最后得到的x为特征向量，特征值为λ=(Ax·x)/(x·x)。
幂法的收敛速度较慢，但适用于特征值分布差异较大的情况。
2.2反幂法反幂法是求解特征值最小的特征值与对应特征向量的方法。
和幂法类似，反幂法选择一个初始向量x(0)，通过迭代计算x(k)=(A-λI)^-1x(k-1)/，(A-λI)^-1x(k-1)，其中I为单位矩阵，λ为近似的特征值，直到收敛为止。
线性方程组的直接解法迭代解法
广东金融学院实验报告课程名称：数值分析实验目的及要求实验目的：题一：通过数值实验，从中体会解线性方程组选主元的必要性和LU分解法的优点，以及方程组系数矩阵和右端向最的微小变化对解向最的影响。
比较各种直接接法在解线性方程组中的效果；题二：认识齐种迭代法收敛的含义、影响齐迭代法收敛速度的因素。
实验要求：题一：(1)在MATLAB中编写程序用列主元高斯消去法和LU分解求解上述方程组，输出曲b中矩阵A 及向量b和A二LU分解中的L及U, detA及解向量X.(2)将方程组中的2. 099999改为2. 1, 5. 900001改为5. 9,用列主元高斯消去法求解变换后的方程组，输出解向最x及detA,并与(1)中的结果比较。
(3)用MATLAB的内部函数inv求出系数矩阵的逆矩阵，再输入命令x=inv(A)*b,即可求出方程组的解。
请与列主元高斯消公法和LU分解法求出的解进行比较，体会选主元的方法具有良好的数值稳定性。
用MATLAB的内部曲数det求出系数行列式的值，并与(1)、(2)中输出的系数行列式的值进行比较。
(4)比较以上各种直接解法在解线性方程组中的效果。
题二：(1)选取不同的初始向M：X(0)及右端向最b,给泄迭代误差要求，用Jacobi迭代法和Gauss-Seidel迭代法求解，观察得到的序列是否收敛？若收敛，记录迭代次数，分析计算结果并得出你的结论。
列岀算法清单。
(2)用SOR迭代法求上述方程组的解，松弛系数血取1<69<2的不同的三个值，在< 10"5时停止迭代，记录迭代次数，分析计算结呆与松弛系数血的关系并得出你的结论。
(3)用MATLAB的内部函数inv求出系数矩阵的逆矩阵.再输入命令^inv(A)*b>即可求出上述各个方程组的解.并与上述三种方法求出的解进行比较。
请将比较结果列入卜表。
方程组的解X1 Xr■迭代次数误差楮确解Jacibi解法Gause・seidel 解法SOR 解法00= 60= 60=实验环境及相关情况（包含使用软件、实验设备、主要仪器及材料等）1. Win72. Mat lab 7.0实验内容及步骤（包含简要的实验步骤流程） 实验内容：题一：解卜列线性方程组'10 -7‘X 】、(8、-3 2.099999 62Xr5.9000015-1 5 -15、12> 0< 1 >题二研究解线性方程组 做=b 迭代法的收敛性、收敛速度以及SOR 方法中/佳松弛因子的选取问题, 用迭代法求解做二b,其中・4 -1r■7 A=4 -81 ,b =-21-2 ■1515实验结果（包括程序或图表、结论陈述.数据记录及分析等，可附页）题一：直接解法解线性方程组（1）列主兀高斯消去法与LU 分解求解列主元高斯消去法:编写matalab 程序（见附录gaosi.m ）,输出矩阵10.000 -7.000 0.000= 0.000 2.5000-5.000一 0.000 0.0006.0000020.000 0.000 0.000向量8 b =1 8.300 L5.0800J解向量:X = （0 ・-1 , 1 r I ）7 其中系数行列式的值det （A ）=762.00009LU 分解求解：编J matalab 程序（见附录zhjLU. m 和LU ・m ）,执行输出：-1.5 2.300 5.080-3.0001.000000.00000.5000 -25000001.0000 0.2000 -24000000.9600 10.0000 -7.0000 0.0000 1.0000n = 0.0000-0.0000010.0000 2.3000 —0.0000 0.000015000000 57500000.0000 0.0000 0.0000 5.0800在matlab 命令窗II 输入L*U ,可以得到A 二L*U ，即分解结果正确。
matlab求线性方程组的解
matlab求线性方程组的解求解线性方程分为两种方法–直接法和迭代法常见的方法一共有8种直接法Gauss消去法Cholesky分解法迭代法Jacobi迭代法Gauss-Seidel迭代法超松弛迭代法共轭梯度法Bicg迭代法Bicgstab迭代法这里我从计算代码的角度来解释一下，代码按以下顺序给出。
把方程组直接带入已知条件，就可以得到答案。
适用条件Gauss消去法：求解中小规模线性方程（阶数不过1000），一般用于求系数矩阵稠密而且没有任何特殊结构的线性方程组Cholesky分解法：对称正定方程优先使用，系数矩阵A是n 阶对称正定矩阵Jacobi迭代法非奇异线性方程组，分量的计算顺序没有关系Gauss-Seidel迭代法与Jacobi迭代法相似，但计算的分量不能改变超松弛迭代法Jacobi迭代法和Gauss-Seidel迭代法的加速版，由Gauss-Seidel迭代法改进而来，速度较快共轭梯度法需要确定松弛参数w,只有系数矩阵具有较好的性质时才可以找到最佳松弛因子。
但好处是不用确定任何参数，他是对称正定线性方程组的方法也是求解大型稀疏线性方程组最热门的方法Bicg迭代法本质是用双共轭梯度求解线性方程组的方法，对求解的方程没有正定性要求Bicgstab迭代法本质是用稳定双共轭梯度求解线性方程组的方法，对求解的方程没有正定性要求Gauss消去法第一、二个函数ltri、utri是一定要掌握的，后面的几乎每个函数都要用到ltri简单来说，当Ly=bb,L(非奇异下三角矩阵）已知求yfunction y =ltri(L,b)n=size(b,1);y=zeros(n,1);for j =1:n-1y(j)=b(j)/L(j,j);b(j+1:n)=b(j+1:n)-y(j)*L(j+1:n,j); endy(n)=b(n)/L(n,n);utri简单来说，当Ux=yy,U(非奇异上三角矩阵）已知求xfunction x =utri(U,y)n=size(y,1);x=zeros(n,1);for j = n:-1:2x(j)=y(j)/U(j,j);y(1:j-1)=y(1:j-1)-x(j)*U(1:j-1,j);endx(1)=y(1)/U(1,1);gauss算法，计算时粘贴过去就好function[L,U]=gauss(A)n=size(A,1);for k =1:n-1A(k+1:n,k)=A(k+1:n,k)/A(k,k);A(k+1:n,k+1:n)=A(k+1:n,k +1:n)-A(k+1:n,k)*A(k,k+1:n);endL=tril(A,-1)+eye(n);U=triu(A);使用例子已经知道一个线性方程组，这里我就不写出数学形式了，A是系数矩阵，直接把上面写好的函数复制过来在运算就可以。
线性方程组直接法
练习 利用LU分解法求解方程组
1 2 3 x1 2 1 3 5 x2 4. 1 3 6 x3 5
1001 2 3 2 1 答L： U 110 01 2 ， y 2 ,x 0 .
111 001 1 1
二、解三对角方程组的追赶法
在数值求解常微分方程边值问题、热传导方程和建立
二、向量和矩阵的范数
定义1 ( 向量范数) x 和 y 是 Rn 中的任意向量 , 向量范数‖•‖是定义
在 Rn上的实值函数, 它满足:
(1) ‖ x ‖≥0, 并且当且仅当 x=0 时, ‖ x ‖=0;
(2) ‖k x ‖=|k| ‖ x ‖, k 是一个实数;
(3) ‖ x + y ‖≤ ‖ x ‖+ ‖ y ‖
1 0 01 2 3
A 2 3
1 5
0 0 1 0
1 0
4
24
LU
3=-72/-24; 2=[-10+4*3]/1;
求解
1=[14-(2*2+3*3)]/1]
Ly (14, 18, 20)T , 得y (14, 10,72)T 同理当 ukk 0或 Ux (14, 10, 72)T , 得x (1, 2, 3)T 很小时，可用
子式 Di 0(i 1,2,,k)，即
a11 Di
ai1
a1i
aii
0aa1i((i1i1))
0 Di
Di1 0
由于高斯消去法过在程消中元可能ak(出 kk) 现 0的情况， 这时消去法将无；法即进使行主a元 k(kk) 素0但很小时， 用其作除数，会他导元致素其数量级的长严和重舍增
入误差的扩散，使最得后计也算的解不可靠。
线性方程组的几种求解方法
线性方程组的几种求解方法线性方程组是指由一系列线性方程组成的方程组。
求解线性方程组是在给定的约束条件下找到满足所有方程的解。
在数学和工程领域，线性方程组的求解是一项重要的任务，涉及到许多实际问题的建模和分析。
本文将介绍几种常见的线性方程组的求解方法。
1. 高斯消元法（Gaussian elimination）高斯消元法是求解线性方程组的最常用方法之一、它通过矩阵的初等行变换将线性方程组化简为阶梯形矩阵，然后通过回代求解未知数的值。
高斯消元法具有简单、直观的特点，适用于一般的线性方程组求解。
2. 列主元高斯消元法（Gaussian elimination with partial pivoting）列主元高斯消元法是高斯消元法的改进版本。
它在每一步选择主元时，选取列中绝对值最大的元素作为主元，以减小误差的传播。
这种方法可以提高数值稳定性，但相对于普通高斯消元法，计算量较大。
3. 克拉默法则（Cramer's rule）克拉默法则是一种用于求解线性方程组的代数方法。
它通过计算系数矩阵的行列式和各个未知数的代数余子式，得到每个未知数的值。
克拉默法则适用于方程组个数和未知数个数相等的情况，但由于计算行列式的复杂度高，不适用于大规模的线性方程组求解。
4. 矩阵分解法（Matrix factorization）矩阵分解法通过将系数矩阵分解为两个或多个特定形式的矩阵的乘积，从而简化线性方程组的求解。
常见的矩阵分解方法有LU分解、QR分解、Cholesky分解等。
矩阵分解法适用于大规模线性方程组的求解，具有高效、稳定的特点。
5. 迭代法（Iterative methods）迭代法是一种逐步逼近解的方法，通过迭代计算逐渐接近线性方程组的解。
常见的迭代法有雅可比迭代法、高斯-赛德尔迭代法和共轭梯度法等。
迭代法适用于大规模稀疏线性方程组的求解，具有快速收敛、节约存储空间的特点。
6. 特殊结构法（Special structure methods）对于具有特殊结构的线性方程组，可以利用其特殊性质设计相应的求解方法。
第5章 解线性方程组的直接方法
第5章
解线性方程组的直接方法
定理3 若A∈Rnⅹn 为对称矩阵.如果det(Ak) ＞0(k=1,2,…,n),
或A得特征值λi＞0（i=1,2, …,n ）.则A为对称正定矩阵。
《 数 值 分 析 》
有重特征值的矩阵不一定相似于对角矩阵，那么一般n阶 矩阵A在相似变换下能简化到什么形状？
定理4(若尔当（Jordan）标准型） 设A为n阶矩阵，则 存在一个非奇异矩阵P使得
a1(1) x1 b1(1) n ( 2) ( 2) a2 n x2 b2 ( k ) . (2.8) (k ) akn xk bk (k ) (k ) ann xn bn
（2.12 ）
(2.7)
简记为
A（2）X=b（2） ，
( ( ( aij2) aij1) mi1 a11) , j
其中A（2），b（2）的元素计算公式为
(i, j 2,3,, n),
bi( 2) bi(1) mi1 b1(1) , (i 2,3,, n).
第k步：若
(k akk ) 0,
a11 ... ... Ak ak1 ... ... , akk
《 数 值 分 析 》
a
1k
k 1,2, n.
（3）A的特征值λi＞0（i=1,2, …,n ）. （4）A的顺序主子式都大于零，即det(Ak) ＞0(k=1,2,…,n)
(1)）=(a
), b(1)=b. ij
第5章 解线性方程组的直接方法 （1）消元过程 1 (1 第1步：设 a (1) 0,首先计算乘数 mi1 ai(1 ) / a11) , i 2,3n, 11 用－mi1乘（2.1）的第1个方程组，加到第i个中，消去方程组（2.1）的从 第2个方程到第n个方程中的未知数X1，得到与方程组（2.1）等价的线性方 程组 《 数 值 分 析 》
直接法与迭代法在求解大规模稀疏线性方程组中的比较研究
直接法与迭代法在求解大规模稀疏线性方程组中的比较研究在科学和工程问题中，线性代数是一个非常重要的分支领域。
在大规模科学计算和工程计算中，线性方程组的求解是一个需要高效和准确的问题，这个问题的求解是计算机领域中的一个重要难题。
本文将比较和分析直接法和迭代法这两种用于求解大规模稀疏线性方程组的算法。
一、直接法在数学领域中，解决线性方程组是一项非常广泛的研究问题，而直接法是其中的一种传统方法。
在求解小规模的线性方程组时，直接法是一种非常有效的解题方法。
所谓直接法，就是通过对方程组的系数矩阵进行高斯消元等操作，将未知量解出来。
以高斯消元法为例，消元法将系数矩阵的行进行逐行的消元，使得系数矩阵化为一个上三角矩阵，然后通过回带法求解出未知量。
直接法主要有高斯消元法和LU分解法两种，其中高斯消元法是裸的的直接法。
直接法的优点是它的精度非常高，可以获得准确的解。
同时，在小规模的方程组中，直接法的性能也很好。
但是，直接法的缺点也是显而易见的：当方程组的维数大到一定程度时，直接法的时间复杂度会增加到难以计算的程度。
二、迭代法用于求解大规模稀疏线性方程组的另一种方法是迭代法。
迭代法是一种迭代逼近的方法，通过一系列逐步近似地计算来解决问题。
迭代法的核心思想是：场解逐渐逼近正确的解。
相比直接法，迭代法的时间复杂度要低得多。
迭代法包含以下几个步骤:1.选取一个初始解x0；2.给出逼近的准则和停止准则；3.通过计算产生下一个逼近解；4.不断重复以上步骤，直到满足停止准则为止。
迭代法在大规模线性方程组的求解中有着广泛的应用。
迭代法有很多优点，其中最重要的是相比直接法，迭代法的时间复杂度相对要低很多。
另外，迭代法还具有灵活性高，容易适应不同的求解目标等优点。
但是，迭代法也有许多缺点，其中最重要的是其求解精度相对直接法要低。
迭代法也比较复杂，算法实现有很多细节需要处理。
此外，迭代法的收敛速度非常慢，因此，在实际问题中需要通过参数制定来进行优化。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
线性方程组的直接法直接法就是经过有限步算术运算，无需迭代可直接求得方程组精确解的方法。
线性方程组迭代法迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法．该方法具有对计算机的存贮单元需求少，程序设计简单、原始系数矩阵在计算过程中不变等优点，是求解大型稀疏矩阵方程组的重要方法．迭代法不是用有限步运算求精确解，而是通过迭代产生近似解逼近精确解．如Jacobi 迭代、Gauss — Seidel 迭代、SOR 迭代法等。
1. 线性方程组的直接法直接法就是经过有限步算术运算，无需迭代可直接求得方程组精确解的方法。
1.1 Cramer 法则Cramer 法则用于判断具有n 个未知数的n 个线性方程的方程组解的情况。
当方程组的系数行列式不等于零时，方程组有解且解唯一。
如果方程组无解或者有两个不同的解时，则系数行列式必为零。
如果齐次线性方程组的系数行列式不等于零，则没有非零解。
如果齐次线性方程组有非零解，则系数行列式必为零。
定理1如果方程组Ax b =中0D A =≠，则Ax b =有解，且解事唯一的，解为1212,,...,n n D D Dx x x D D D===i D 是D 中第i 列换成向量b 所得的行列式。
Cramer 法则解n 元方程组有两个前提条件： 1、未知数的个数等于方程的个数。
2、系数行列式不等于零 例1 a 取何值时，线性方程组12312312311x x x a ax x x x x ax ++=⎧⎪++=⎨⎪++=⎩有唯一解。
解：211111111011(1)11001A a a a a a a ==--=---所以当1a≠时，方程组有唯一解。
定理2当齐次线性方程组0Ax =，0A ≠时该方程组有唯一的零解。
定理3齐次线性方程组0Ax =有非零解0A <=>=。
1.2 Gauss 消元法Gauss 消元法是线性代数中的一个算法，可用来为线性方程组求解，求出矩阵的秩，以及求出可逆方阵的逆矩阵。
当用于一个矩阵时，高斯消元法会产生出一个“行梯阵式”。
1.2.1 用Gauss 消元法为线性方程组求解eg ：Gauss 消元法可用来找出下列方程组的解或其解的限制：()()()123283211223x y z L x y z L x y z L +-=⎧⎪--+=-⎨⎪-++=-⎩这个算法的原理是：首先，要将1L 以下的等式中的x 消除，然后再将2L 以下的等式中的y 消除。
这样可使整个方程组变成一个三角形似的格式。
之后再将已得出的答案一个个地代入已被简化的等式中的未知数中，就可求出其余的答案了。
在刚才的例子中，我们将132L 和2L 相加，就可以将2L 中的x 消除了。
然后再将1L 和3L 相加，就可以将3L 中的x 消除。
方程组则变为：281112225x y z y z y z +-=⎧⎪⎪+=⎨⎪+=⎪⎩现在将24L -和3L 相加，就可将3L 中的y 消除，方程组变为：28111221x y z y z z +-=⎧⎪⎪+=⎨⎪-=⎪⎩这样就完成了整个算法的初步，一个三角形的格式(指:变量的格式而言,上例中的变量各为3,2,1个)出现了。
第二步，就是由尾至头地将已知的答案代入其他等式中的未知数。
第一个答案就是1z =-。
然后直接带入，立即就可得出第二个答案：3y =和最后一个答案2x =。
这样，我们利用高斯消元法解决了这个方程组。
2. 线性方程组迭代法迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法．该方法具有对计算机的存贮单元需求少，程序设计简单、原始系数矩阵在计算过程中不变等优点，是求解大型稀疏矩阵方程组的重要方法．迭代法不是用有限步运算求精确解，而是通过迭代产生近似解逼近精确解．如Jacobi 迭代、Gauss — Seidel 迭代、SOR 迭代法等。
2.1 Jacobi 迭代法2131321,11,2,1,2,1000...............00n n n n n n a a a L a a a a a ---⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦ 1122331,1,...n n n n a a a D a a --⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦1213 1.11,232,12,343,0...0...0......00n n n n n a a a a a a a a a U --⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦对于线性方程组Ax b =则A L D U =++，即将A 分解为一个严格下三角矩阵、一个对角阵和一个严格上三角矩阵之和，从而可写出Jacobi 迭代格式的矩阵表示形式为：(1)1()(1)()k k x D L U x D b +--=-++，其迭代矩阵1()J D L U -=-+)称为雅可比迭代矩阵.将线性方程组Ax b =变为一个通解方程组xBx f=+，对其进行迭代式改写，(1)(),0,1,2....k k x Bx f k +=+=矩阵B 为迭代矩阵()11112211211222221122n n n n n n nn n na x a x a xb a x a x a x b I a x a x a x b +++=⎧⎪+++=⎪⎨⎪⎪+++=⎩由方程组（I ）的第i 个方程解出1(1,2,)x in =，得到一个同解方程组：()()()112213311112212233222212211()1n n n n n n n n nn n n nn x a x a x a x b a x a x a x a x b a II x a x a x a x b a ⎧=----+⎪⎪⎪=----+⎪⎨⎪⎪⎪=---+⎪⎩构造相应的迭代公式()()()(1)()()()11221331111(1)()()()22122332222(1)()()()12211()1k k k k n n k k k k n nk k k k nn n n nn n n nn x a x a x a x b a x a x a x a x b a III x a x a x a x b a +++⎧=----+⎪⎪⎪=----+⎪⎨⎪⎪⎪=---+⎪⎩取初始向量()(0)(0)(0)(0)12,,T nxx x x=，利用（III ）反复迭代可以得到一个向量序列{}()k x ，利用此迭代格式求解方程组的解法称为Jacobi 迭代法。
用Jacobi 迭代求解下列方程组121232343243330424x x x x x x x +=⎧⎪+-=⎨⎪-+=-⎩输入A=[4 3 0;3 3 -1;0 -1 4]； b=[24;30;-24]；[x, k, index]=Jacobi(A, b, 1e-5, 100) 输出： x = -2.9998 11.9987 -3.0001 k = 100 index = 0所以解为：1x =-2.9998, 2x =11.9987, 3x =-3.00012.2 Gauss-Seide 迭代若L 、 U 、 D 为上述的L 、 U 、 D 。
则Gauss —Seidel 迭代法的矩阵表示为：(1)1(1)()()k k k x D Lx Ux b +-+=--+，现将(1)k x +显示化由(1)()()k k D L x Ux b ++=-+得：(1)1()1()()k k x D L Ux D L b +--=-+++，令1()G D L -=-+，1()g D L b -=+，则得：(1)()k k x Gx g +=+，此即为Gauss —Seidel 迭代法的矩阵表示形式，G 称为迭代阵。
由Jacobi 迭代法中，每一次的迭代只用到前一次的迭代值，若每一次迭代充分利用当前最新的迭代值，即在计算第i 个分量)1(+k ix 时，用最新分量)1(1+k x ，⋅⋅⋅+)1(2k x )1(1-+k i x 代替旧分量)(1k x ，⋅⋅⋅)(2k x )(1-k i x ，就得到所谓解方程组的Gauss-Seidel 迭代法。
其迭代格式为Tn x x x x )()0()0(2)0(1)0(，，，⋅⋅⋅= (初始向量)，)(11111)()1()1(∑∑-=-+=++--=i j i i j k j ij k j ij i ii i ix a x a b a x)210i 210(n k ⋅⋅⋅=⋅⋅⋅=，，，；，，，或者写为⎪⎩⎪⎨⎧--=⋅⋅⋅=⋅⋅⋅==∆+=∑∑-=-+=+++)(1)210i 210(1111)()1()1()()1(i j i i j k j ij k j ij i ii i i i k i k i x a x a b a x n k k x x x ，，，；，，，()()()(1)()()()11221331111(1)(1)()()22112332222(1)(1)(1)(1)()()1122,11,11(1)(1)1221111k k k k n n k k k k n n k k k k k k i i i i i i i i i in n i ii k k n n n n nn x a x a x a x b a x a x a x a x b a x a x a x a x a x a x b a x a x a x a +++++++--++++=----+=----+=-------+=--()(1)(1)()k k nn n n IV a x b ++⎧⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪--+⎪⎩用Gauss-Seide 迭代求解下列方程组121232343243330424x x x x x x x +=⎧⎪+-=⎨⎪-+=-⎩输入A=[4 3 0;3 3 -1;0 -1 4]； b=[24;30;-24]； x0=[0;0;0]；[v,sN,vChain]=gaussSeidel(A,b,x0,0.00001,11) 输出： v = 0.6169 11.1962 -4.2056 sN = 11 vChain =6.0000 10.0000 -6.0000 -1.5000 2.0000 -3.5000 4.5000 10.3333 -5.5000 -1.7500 3.6667 -3.4167 3.2500 10.6111 -5.0833 -1.9583 5.0556 -3.3472 2.2083 10.8426 -4.7361-2.1319 6.2130 -3.2894 1.3403 11.0355 -4.4468 -2.2766 7.1775 -3.2411 0.6169 11.1962 -4.2056 0 0 0 0 0 0 0 0 0 0 0 0 所以结果为：1x = 0.6169,2x =11.1962,3x =-4.2056 。