(整理)线性方程组的直接法
解线性方程组的直接方法
解线性方程组的直接方法一、高斯消元法高斯消元法是解线性方程组最常用的方法之一、它通过一系列的消元操作，将线性方程组转化为阶梯型方程组，从而求解未知数的值。
1.确定线性方程组的阶数和未知数的个数。
设线性方程组中有n个未知数。
2.将线性方程组写成增广矩阵的形式。
增广矩阵是一个n行n+1列的矩阵，其中前n列是线性方程组的系数矩阵，第n+1列是等号右边的常数。
3.通过初等行变换（交换行、数乘行、行加行）将增广矩阵化为阶梯型矩阵。
具体步骤如下：a.首先，找到第一个非零元素所在的列，将它所在的行视为第一行。
b.将第一行的第一个非零元素（主元）变成1，称为主元素。
c.将主元所在列的其他元素（次元素）变为0，使得主元所在列的其他元素只有主元素是非零的。
d.再找到第一个非零元素所在的列，将它所在的行视为第二行，并重复上述步骤，直到将增广矩阵化为阶梯型矩阵。
4.根据阶梯型矩阵求解未知数的值。
具体步骤如下：a.从最后一行开始，依次求解每个未知数。
首先，将最后一行中非零元素所在的列作为含有该未知数的方程，将该未知数的系数设为1b.将含有该未知数的方程中其他未知数的系数设为0，并对其他方程进行相应的变换，使得该未知数所在列的其他元素都为0。
c.重复上述步骤，直到求解出所有未知数的值。
高斯消元法的优点是简单易懂、容易实现，但当线性方程组的系数矩阵接近奇异矩阵时，计算精度可能会降低。
二、矩阵求逆法矩阵求逆法是解线性方程组的另一种直接方法。
它通过对系数矩阵求逆，然后与常数矩阵相乘，得到未知数的值。
1.确定线性方程组的阶数和未知数的个数。
设线性方程组中有n个未知数。
2.将线性方程组写成矩阵方程的形式，即Ax=b，其中A是一个n阶方阵，x和b分别是n维列向量。
3.求系数矩阵A的逆矩阵A^-1a. 首先，计算系数矩阵A的行列式det(A)。
b. 判断det(A)是否为0，如果det(A)=0，则该线性方程组无解或有无穷多解；如果det(A)≠0，则系数矩阵A可逆。
解线性方程组的直接方法
(1.5)
消去法的回代过程是解上三角形方程组(1.5).我们从方程组(1.5)的第三个方 x3 6 / 6 1 ; 程解得 然后将它代入第二个方程得到
x2 ( 5 x3 ) / 3 2;
最后，将 x3 1, x2 2 代第一个方程得到
x1 (3 2 x2 3 x3 ) / 2 2.
②
（n＋1）n/2次运算
i 1 l11 bi lij x j l21 l22 j 1 A xi , i 1, , n lii l l l nn n1 n 2
③
（n＋1）n/2次运算
n u11 u12 u1n bi uij x j u22 u2 n j i 1 A x , i n, ,1 i uii u nn
1,2,...,n)
（ 1 .2 ）
Ax b,
a1n a2 n , ann
§1 1.1 Gauss 消去法 本章主要介绍求解线性方程组(1.1)的直接法。所谓直接法，就是不考虑 计算过程的舍入误差时，经有限次数的运算便可求得方程组准确解的方法.我 们还将在§5中对计算过程中的舍入误差作一些初步分析．
a11 a 21 A, b ... an 2
之间有一对应关系.不难看出:
a12 a22 ... an 2
... ... ... ...
a1n a2 n ... ann
b1 b2 ... bn
（1.3）
（1）交换矩阵(1.3)的第p,q两行(记作 的第p,q两个方程；
(1.8)
(1.9)
(1.9)式是消元过程的一般计算公式.式中作分母的元素
数值分析--解线性方程组的直接方法
值 为A的特征值，x为A对应的特征向量，A的全体特征值
分 析
称为A的谱，计作 ( A),即 ( A) {i ,i 1,2,, n}, 则称
》
( A)
max
1in
|
i
|
为矩阵A的谱 半 径.
三、特殊矩阵
第5章 解线性方程组的直接方法
1) 对角矩阵
2) 三对角矩阵
3) 上三角矩阵
4) 上海森伯(Hessenberg)阵
分 析
1.00x 1.00y 2.00
》 解法1： 1.00105 x 1.00 y 1.00
(1.00 1.00105) y (2.00 1.00105)
1.00105 x 1.00 y 1.00
1.00
105
y
1.00
105
x 0.00,
y 1.00
第5章 解线性方程组的直接方法
1
Ly b y 3,Ux y x 1.
2
1
第5章 解线性方程组的直接方法
§3 高斯主元素消去法
若ak(kk) 0,或ak(kk)很接近于0，会导致其他元素数量级严重 增长和舍入误差的扩散，使得计算结果不可靠.
《例3’采用3位十进制，用消元法求解
数 值
1.00105 x 1.00y 1.00
L21L1 U2U11
L21L1
U
U 1
21
I
(因为上式右边为上三角矩阵，左边为单位下三角矩阵
从而上式两边都必须等于单位矩阵)
《 数
L1 L2 , U1 U2
1 1 1
值分例2
析
.例1中，A
0
4
-1，将A作LU分解。
计算方法2线性方程组直接法
04
矩阵的三角分解法
LU分解法
定义：将系数矩阵A分解为一个下三角 矩阵L和一个上三角矩阵U的乘积，即 A=LU。
适用范围：适用于所有可逆矩阵，特别 适用于中小型稠密矩阵。
迭代法收敛性判断
在迭代法求解方程组时，可以通过观察迭代过程中解向量的范数的变化情况来判断迭代法 是否收敛。如果解向量的范数逐渐减小并趋于零，则表明迭代法收敛。
方程组性态分析
方程组的性态是指方程组解的存在性、唯一性和稳定性等方面的性质。通过分析方程组的 系数矩阵的范数，可以对方程组的性态进行初步的判断。例如，如果系数矩阵的谱半径（ 即最大特征值的模）较小，则方程组往往具有较好的性态。
03
线性方程组在科学研究、工程技术和经济管理等领域具有广 泛的应用。
直接法的定义与分类
1
直接法是一种通过有限步四则运算求解线性方程 组的方法，具有计算精度高、稳定性好的特点。
2
直接法可分为高斯消元法、列主元消元法、全主 元消元法等多种方法，其中高斯消元法是最基本 的方法。
3
各种直接法的主要区别在于选主元和消元的过程 中采用不同的策略，以达到提高计算精度和稳定 性的目的。
对系数矩阵A进行Crout分解，得到下三角矩阵L和单位 上三角矩阵U。
利用后向代入法求解Ux=y，得到向量x。
求解步骤
利用前向代入法求解Ly=b，得到向量y。
适用范围：适用于所有可逆矩阵，特别适用于中小型稠 密矩阵。与LU分解法和Doolittle分解法相比，Crout 分解法在某些情况下具有更高的计算效率。
性质
解线性方程组的直接方法
解线性方程组的直接方法1.1 主元的选取与算法的稳定性1.1.1问题提出Gauss 消去法是我们在线性代数中已经熟悉的。
但由于计算机的数值运算是在一个有限的浮点数集合上进行的，如何才能确保Gauss 消去法作为数值算法的稳定性呢？Gauss 消去法从理论算法到数值算法，其关键是主元的选择。
主元的选择从数学理论上看起来平凡，它却是数值分析中十分典型的问题。
1.1.2实验内容考虑线性方程组n n n R b R A b Ax ∈∈=⨯,,编制一个能自动选取主元，又能手动选取主元的求解线性方程组的Gauss 消去过程。
1.1.3实验要求（1）取矩阵⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡=1415157,6816816816 b A ，则方程有解T x )1,,1,1(* =。
取10n =计算矩阵的条件数。
让程序自动选取主元，结果如何？（2）现选择程序中手动选取主元的功能。
每步消去过程总选取按模最小或按模尽可能小的元素作为主元，观察并记录计算结果。
若每步消去过程总选取按模最大的元素作为主元，结果又如何？分析实验的结果。
（3）取矩阵阶数20n =或者更大，重复上述实验过程，观察记录并分析不同的问题及消去过程中选择不同的主元时计算结果的差异，说明主元素的选取在消去过程中的作用。
（4）将上述矩阵A中的主元改为0.00006再重新作一次数值实验看看。
（5）选取其他你感兴趣的问题或者随机生成矩阵，计算其条件数。
重复上述实验，观察记录并分析实验结果。
1.1.4实验过程（1）程序：clear;clc;a=input('是否调整消元次序（是：1，否：0）');n=input('系数矩阵的阶数:');%构造题中给定形式的矩阵A(1,1)=6;A(1,2)=1;A(1,n+1)=7;%第n+1列取题中的bfor i=1:(n-2);A(i+1,i)=8;A(i+1,i+1)=6;A(i+1,i+2)=1;A(i+1,n+1)=15;end;A(n,n-1)=8;A(n,n)=6;A(n,n+1)=14;%自动消元if a==0;for i=1:(n-1);for j=(i+1):n;x=A(j,i)/A(i,i);for k=1:(n+1);A(j,k)=A(j,k)-x*A(i,k);end;end;end;y(n)=A(n,n+1)/A(n,n);for i=2:n;y(n-i+1)=A(n-i+1,n+1);for j=1:(i-1);y(n-i+1)=y(n-i+1)-A(n-i+1,n-j+1)*y(n-j+1);end;y(n-i+1)=y(n-i+1)/A(n-i+1,n-i+1);end;yend;%手动控制消元次序if a==1;for i=1:(n-1);A %显示每步消元的结果m=input('请选取作为主消元行的行号');for l=1:(n+1);c=A(i,l);A(i,l)=A(m,l);A(m,l)=c;end;for j=(i+1):n;x=A(j,i)/A(i,i);for k=1:(n+1);A(j,k)=A(j,k)-x*A(i,k);end;end;end;y(n)=A(n,n+1)/A(n,n);for i=2:n;y(n-i+1)=A(n-i+1,n+1);for j=1:(i-1);y(n-i+1)=y(n-i+1)-A(n-i+1,n-j+1)*y(n-j+1);end;y(n-i+1)=y(n-i+1)/A(n-i+1,n-i+1);end;yend;（2）数值实验结果及分析：1、根据要求当10n=时用Matlab算得Cond(A)=1727.6，让程序自动选主元，x=与精确解一致。
解线性方程组的直接方法主元素方法
17
设方程组
Ax b 的系数矩阵A的顺序主子式不为零
Ak
a11 a21
a12 a22
a1k a2 k akk
0, k 1,2,
, n 1,
ak1 ak 2
在Gauss消去法中,第一次消元时等价于用单位下三角阵
18
第二章 解线性方程组的直接方法
1 l 21 L1 l 31 l n1
(3)
等价于用矩阵
0 1 l32 ln 2
0 0 1 0
(i 3,4,, n)
(2) (2)
20
于是有
[ A , b ] L2 [ A , b ]
(3)
第二章 解线性方程组的直接方法
一般地，第k次消元等价于用矩阵
Lk 1 1 O lk 1 k lnk 1 O O 1
（2-13）
(k ) (k ) 左乘矩阵 [ A( k ) , b(k ) ], 其中 lik aik / akk (i k 1,, n)
经过
n 1
次消元后得到
21
21
第二章 解线性方程组的直接方法
(1) a11 [ A( n ) , b ( n ) ] 0
再用Gauss消去法求解，消元后得同解方程
(2 10b)
5.0 x1 0.96x 2 6.5 x3 0.96 4.12x 2 2.24x3 0.364 2.99x3 5.99
4
第二章 解线性方程组的直接方法
回代得解
x3 2.00, x2 1.00, x1 2.60
与准确解相同. 产生上述现象的原因在于舍入误差.因为按式(2-10)的 方程顺序进行消元时，主元
线性方程组的直接解法
线性方程组的直接解法
线性方程组（linear equation system）是一类几何问题，也是解决线性系统和代数问题的重要方法，线性方程组由多个联立方程组成，这些方程中也可能含有未知量。
直接解法是把数学模型转换为数值模型，并给出实现其解题步骤的算法，它不同于间接求解的方法，既不做任何假设，也不处理不确定性问题，只是简单地直接求解线性方程组。
解线性方程组的直接解法主要分为三种，分别是高斯消元法、列主元消去法和列坐标变换法。
高斯消元法是一种比较常用的方法，主要是把线性方程组的未知量从左到右一步步求出来，其中用到的主要技术是把矩阵中部分元素消去为零，以便求解不定线性方程组的未知量。
而列主元消去法则是以一列为主元，去消除其他联立方程中出现的此列中的变量，从而最终求出其他未知变量的值。
最后，列坐标变换法是将线性方程组转换为一个更有利于求解的矩阵，其中未知量可以直接求得解答。
除了这三种常见方法外，还有一些更特殊的直接解法，比如要解常微分方程的未知函数，可以用拉格朗日方法和分部积分方法，再比如求解雅各比方程的根，可以通过主副方程互解求解，这种方法也叫作特征根法。
综上，解线性方程组的直接解法有高斯消元法、列主元消去法、列坐标变换法等；特殊问题可以采用拉格朗日方法、分部积
分法和特征根法等。
每种方法都有自己的优势，因此在使用时，可以根据问题的特点，选择适合的方法来解决。
第三章 解线性方程组的直接法
第三章 解线性方程组的直接法3.1 引言许多科学技术问题要归结为解含有多个未知量x 1, x 2, …, x n 的线性方程组。
例如，用最小二乘法求实验数据的曲线拟合问题，三次样条函数问题，解非线性方程组的问题，用差分法或有限元法解常微分方程、偏微分方程的边值等，最后都归结为求解线性代数方程组。
关于线性方程组的数值解法一般有两类：直接法和迭代法。
1. 直接法直接法就是经过有限步算术运算，可求得线性方程组精确解的方法（假设计算过程中没有舍 入误差）。
但实际计算中由于舍入误差的存在和影响，这种方法也只能求得线性方程组的近似解。
本章将阐述这类算法中最基本的高斯消去法及其某些变形。
2. 迭代法迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法，迭代法需要的计算机存储 单元少、程序设计简单、原始系数矩阵在计算过程中不变，这些都是迭代法的优点；但是存在收敛性和收敛速度的问题。
迭代法适用于解大型的稀疏矩阵方程组。
为了讨论线性方程组的数值解法，需要复习一些基本的矩阵代数知识。
3.1.1 向量和矩阵 用nm ⨯R表示全部n m ⨯实矩阵的向量空间，nm C⨯表示全部n m ⨯复矩阵的向量空间。
()⎪⎪⎪⎪⎪⎭⎫⎝⎛==⇔∈⨯nn n n n n ij nm a a aa a aa a a a212222111211A R A 此实数排成的矩形表，称为m 行n 列矩阵。
⎪⎪⎪⎪⎪⎭⎫⎝⎛=⇔∈n n x x x 21x R x x 称为n 维列向量矩阵A 也可以写成)(n 21a ,,a ,a A = 其中 a i 为A 的第i 列。
同理⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=T T T n 21b b b A其中T i b 为A 的第i 行。
矩阵的基本运算：（1） 矩阵加法 )( ,n m n m R C ,R B ,R A B A C ⨯⨯⨯∈∈∈+=+=n m ij ij ij b a c . （2） 矩阵与标量的乘法 ij j a ci αα== ,A C （3） 矩阵与矩阵乘法 p nk kjik b acij ⨯⨯⨯=∈∈∈==∑m p n n m R C ,R B ,R A AB C ( ,1（4） 转置矩阵 ji ij T nm a c ==∈⨯ , ,A C RA（5） 单位矩阵 ()n n ⨯∈=R e ,,e ,e I n 21 ，其中 ()Tk e 0,0,1,0,0 = k=1,2,…,n（6） 非奇异矩阵 设nn ⨯∈RA ，nn ⨯∈RB 。
第4章线性方程组的数值解法(直接法)
为了减少计算过程中的舍入误差对解的影响， 应选择 绝对值尽可能大的主元作除数， 基于这种思想导出了选主 元消去法。
2. Gauss 列主元消去法 基本思想： 在第 k 步消元前，从 A( k ) 的第 k 列 n-k+1
准确到小数点后第9位的解为 x1 2.000010000, x2 0.999989999.
如果计算过程用四位十进制浮点数（仿机器实际计算） , 用第一个方程消去第二个方程中的, 得 10 4 0.1000 x1 10 0.2000 x2 10 0.2000 6 6 10 0.2000 x2 10 0.2000 由此解得 x2 1, x1 0, 显然它不是原方程的解.
适宜于求解大型(n 1000)稀疏的(零元素较多)线性方程组。
主要方法有：
1). 雅可比（Jacobi）迭代法 2). 高斯 — 赛德尔（Guass Seidel）法
是G S方法的加速 3). 超松弛（SOR）法： 优点：速度高，计算机存储量小，程序设计简单； 缺点：有误差，需要事先确定迭代算法的收敛性及收敛速度。
(1) a12 (2) a22
(1) a1 k (2) a2 k (k ) akk
(1) a1, k 1 (2) a2, k 1 (k ) ak ,k 1
(1) a1 n (2) a2 n
0 0 0
(k ) akn
0 0
( k 1) ( k 1) ak a 1,k 1 k 1,n
3). 改进的Gauss消去法： 实际计算中常用的有效方法。
如：列（行）主元法， 全主元法， LU分解法， 平方根法， 追赶法等
（2）迭代法： 利用不动点理论将方程组变形为某种等价的迭代公式，
(完整版)2.1,2.2线性方程组的直接法
第二章线性方程组的直接法一、 教学目标及基本要求通过对本章的学习，使学生掌握线性方程组的直接法求解。
二、 教学内容及学时分配本章主要介绍线性方程组的直接法。
具体内容如下：第 第31-32学时讲授内容：追赶法、误差分析。
三、 教学重点难点1. 教学重点：消去法、追赶法。
2. 教学难点：消去法。
四、 教学中应注意的问题多媒体课堂教学为主。
适当提问，加深学生对概念的理解。
五、正文直接法所谓直接法，就是经过有限步算术运算，可求出方程组精确解的方法（若计算过程中没有舍入差）。
但实际计算中由于舍入误差的存在和影响，这种方法也只能求得线性方程组的 近似解，如何避免舍入误差的增长是设计直接法时必须考虑的问题。
本章将介绍这类方法中最基本的高斯（Gauss ）消去法和矩阵分解法。
由于其准确性和可靠性，这类方法是解除稠 密线性方程组的有效方法。
最近直接法在求解较高阶稀疏线性方程组方面也取得了较大的进 展。
§2.1 消去法1约当消去法例1运用消去法求解方程组4x 1 2X 2 5X 34 (1)X 1 2X 2 71）将方程（1）的第一个方程中 X 1的系数化为1,并从方程组（1）的其余方程中消去 X 1 , 得:29-30学时讲授内容：消去法。
2x 1 x 2 3x3 1(7)x 1 0.5X 2 1.5x 3 0.54 X 2 X 32 （2）2.5X 21 .5X 3 6.52）将（2）中的第二个方程中 X 2的系数化为1,从其余方程中消去 X 2X 1 1 .375X 3 0.75X 2 0.25X 3 0.5（3）0.875X 3 5.25最后将方程（3）中第三个方程中X 3的系数化为1，从其余方程中消去X 3X 1 9 X 21 X 36上述算法就是所谓的约当消去法， 特点：每一步仅在一个方程中保留某个变元，而从其余各个方程中消去这个变元，最后，每个方程都变为仅含一个变元的形式， 从而得出所求的解。
第三章 解线性方程组的直接法
相等.
定理 线性方程组 AX = b 可以用简单高斯消元法求解的
充要条件是
系数矩阵
A的
k
阶顺序主子式
∆k
≠
0
(k
=1, 2, , n).
8
如果主对角元素 ak(kk) 的绝对值很小, 由第一章的误差分 析可知计算时将会产生很大的计算误差.
例 用简单高斯消元法求解方程组(用四位浮点数计算)
0.012x1 + 0.01x2 + 0.167 x3 = 0.6781,
a(2) 2n
b1(1) b2( 2 )
→
An
= 0
0
a(3) 33
a(3) 3n
b3( 3 )
.
0
0
0
a(n) nn
bn(n)
对应的同解上三角形方程组为
a(1) 11
x1
+
a(1) 12
x2
a(2) 22
x2
+
+
a(1) 1n
b
0.6781
12.10
981.0
r1 ↔ r3
14
例 用高斯全主元消元法求解方程组(用四位浮点数计算)
0.012x1 + 0.01x2 + 0.167 x3 = 0.6781,
x1
+
0.8334 x2
+
5.91x3
= 12.1,
3200
x1
+
1200 x2
+
第二章解线性方程组的直接方法总结
本章讨论n元线性方程组
a11 x1 a12 x2 ... a1n xn b1 a x a x ... a x b 21 1 22 2 2n n 2 ................................................ a n1 x1 a n 2 x2 ... a nn xn bn
i -1 i -1 i -1 i -1
xi 1 , xi 2 ,
xi bi
, xn 已全部计算出,则
i 1
i 1
ai i 1 xi 1
ain xn
i 1
aii
i 1
。
因此,回代公式为: n 1 n 1 xn bn ann i 1 i 1 xi bi i 1 ai ii11 xi 1 ain xn aii , i n 1, , 2,1
4 1 2 1 3 1 2
1 7 2 1 0 3 3 3 0 1.5 0.5 3.5
x3 5 1 5 x2 3 3 x3 3 3 3 5 3 4
若矩阵A非奇异,即det(A)≠0,则方程组(2.1)有唯一解。 所谓直接解法是指，若不考虑计算过程中的舍入误差， 经过有限次算术运算就能求出线性方程组的精确解的方法。 但由于实际计算中舍入误差的存在，用直接解法一般也只 能求出方程组的近似解。 Cramer法则是一种不实用的直接法，下面介绍几种实 用的直接法。
我们来叙述消 xk 的情况,在消
x1 , x2 , , xk 1 后的增广矩阵为:
0 a11 0 k 1 b 0 0 a12
第二章 解线性代数方程组的直接法(DOC)
第二章 解线性方程组的直接法本章研究的对象是n 阶线性方程组⎪⎪⎩⎪⎪⎨⎧=+++=+++=+++nn nn n n n n n n b x a x a x a b x a x a x a b x a x a x a .........22112222212111212111 （2.1）其矩阵形式为b AX = （2.1）′其中，)(ij a A =是方程组的系数矩阵，⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n x x x X ...21,⎪⎪⎪⎪⎪⎭⎫⎝⎛=n b b b b ...21分别为方程组的未知向量和常数向量。
所谓直接法，就是在不计舍入误差时，经过有限步运算能求得方程组精确解的方法。
下面介绍几种较实用的直接法。
2.1 Gauss 消去法 2.1.1 Gauss 顺序消去法高斯（Gauss ）消去法实质是消元法,只是步骤规范,便于编程。
它的基本做法是把方程组(2.1)转化成一个等价的三角方程组⎪⎪⎩⎪⎪⎨⎧==++=+++n n nn n n n n g x b g x b x b g x b x b x b 2222211212111 (2.2) 这个过程称为消元。
然后,逐个求出11,,,x x x n n -,这个过程称为回代。
(一) 高斯消去法的计算过程为了符号统一,把方程组(2.1)改写成下面形式⎪⎪⎩⎪⎪⎨⎧=+++=+++=+++)1()1(2)1(1)1()1()1(2)1(1)1()1()1(2)1(1)1( (212)22221111211n nn n n n n b x a x a x a b x a x a x a b x a x a x a n n n(2.3)用矩阵表示为)1()1(b X A = (2.3)′其中⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=)1()1(2)1(1)1(2)1(22)1(21)1(1)1(12)1(11)1(nn n n nn a a a a aa a aa A, ⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=)1()1()1()1(...21n b b b b 若0)1(11≠a ,用第二个方程减去第一个方程的)1(11)1(21/a a 倍,第三个方程减去第一个方程的)1(11)1(31/a a 倍,等等。
数值分析第五章解线性方程组的直接法
数值分析第五章解线性方程组的直接法解线性方程组是数值分析中的一个重要问题，对于大规模的线性方程组来说，直接法是一种常用的求解方法。
本文将介绍解线性方程组的直接法，包括高斯消元法和LU分解法，并对其稳定性和计算复杂度进行讨论。
高斯消元法是一种常用的直接法，用于求解非奇异线性方程组。
其基本思想是通过初等行变换将线性方程组转化为上三角方程组，然后通过回代求解得到方程的解。
高斯消元法的步骤如下：1.将线性方程组表示为增广矩阵[A，b]，其中A是系数矩阵，b是常数向量。
2.从第一行开始，选择一个非零元素作为主元，通过行变换将主元下方的元素全部消为零。
3.重复第2步，直到矩阵变为上三角矩阵。
4.通过回代求解上三角矩阵，得到方程组的解。
高斯消元法的主要优点是简单直接，容易实现，但存在一些问题。
首先，如果系数矩阵A是奇异矩阵，即行列式为零，那么高斯消元法无法得到方程组的解。
其次，如果系数矩阵A的其中一行或几行接近于线性相关，那么在消元过程中会引入大量的舍入误差，导致计算结果不准确。
这也说明了高斯消元法的稳定性较差。
为了提高稳定性，可以使用LU分解法来解线性方程组。
LU分解法将系数矩阵A分解为两个矩阵L和U的乘积，其中L是下三角矩阵，U是上三角矩阵。
这样，原始的线性方程组可以表示为LUx=b，进而可以通过两个步骤来求解方程组：1.进行LU分解，将系数矩阵A分解为L和U。
2.分别用前代和回代的方法求解方程组Ly=b和Ux=y。
LU分解法相对于高斯消元法的优点是，可以在求解多个右端向量时，避免重复计算LU分解，从而提高计算效率。
同时，LU分解法的稳定性也较高，对于多个右端向量求解时，舍入误差的累积相对较小。
然而，LU分解法也存在一些问题。
首先，LU分解法的计算复杂度较高，需要进行两次矩阵乘法和一次矩阵向量乘法，而且LU分解过程中需要对系数矩阵A进行大量的行变换，增加了计算量。
其次，当系数矩阵A的一些元素非常小或非常大时，LU分解法容易出现数值不稳定的情况，即舍入误差的累积较大，导致计算结果不准确。
解线性方程组的直接方法
解线性方程组的直接方法一、高斯消元法高斯消元法是解线性方程组的一种常用且直接的方法。
它的基本思想是通过一系列的代数运算，将方程组化为一个三角方程组，然后从最后一行开始，逐步回代求解未知数。
下面以一个二元一次方程组为例，说明高斯消元法的具体步骤：例如，给定方程组：a₁₁x₁+a₁₂x₂=b₁a₂₁x₁+a₂₂x₂=b₂其中，a₁₁,a₁₂,a₂₁,a₂₂,b₁,b₂为已知系数。
1.检查a₁₁的值是否为0，若为0则交换第一行与非零行。
2.将第一行的每个元素除以a₁₁，使a₁₁成为13.将第一行乘以(-a₂₁)并加到第二行上，使第二行的第一个元素变为0。
4.引入一个新的未知数y₂=a₂₁x₁+a₂₂x₂，并代入第二行，化简方程组。
5.使用回代法求解方程组。
高斯消元法的优势在于其直接的解题思路和较高的计算精度，但是其缺点是计算复杂度较高，对于大规模的方程组不太适用。
二、逆矩阵法逆矩阵法是解线性方程组的另一种直接方法，它通过求解方程组的系数矩阵的逆矩阵，并将其与方程组的常数向量相乘，得到方程组的解向量。
下面以一个三元一次方程组为例，说明逆矩阵法的具体步骤：例如，给定方程组：a₁₁x₁+a₁₂x₂+a₁₃x₃=b₁a₂₁x₁+a₂₂x₂+a₂₃x₃=b₂a₃₁x₁+a₃₂x₂+a₃₃x₃=b₃其中，a₁₁,a₁₂,a₁₃,a₂₁,a₂₂,a₂₃,a₃₁,a₃₂,a₃₃,b₁,b₂,b₃为已知系数。
1.计算系数矩阵A的行列式D=，A。
2. 求解系数矩阵A的伴随矩阵Adj(A)。
3. 计算逆矩阵A⁻¹=Adj(A)/D。
4.将常数向量b用列向量表示。
5.计算解向量x=A⁻¹b。
逆矩阵法的优势在于其求解过程相对简单，计算量较小，并且不需要对系数矩阵进行消元操作。
但是逆矩阵法的限制在于当系数矩阵不可逆时无法使用。
三、克莱姆法则克莱姆法则是解线性方程组的另一种直接方法，它通过定义克莱姆行列式和克莱姆向量，利用行列式的性质求解方程组的解向量。
线性方程组直接法
练习 利用LU分解法求解方程组
1 2 3 x1 2 1 3 5 x2 4. 1 3 6 x3 5
1001 2 3 2 1 答L： U 110 01 2 ， y 2 ,x 0 .
111 001 1 1
二、解三对角方程组的追赶法
在数值求解常微分方程边值问题、热传导方程和建立
二、向量和矩阵的范数
定义1 ( 向量范数) x 和 y 是 Rn 中的任意向量 , 向量范数‖•‖是定义
在 Rn上的实值函数, 它满足:
(1) ‖ x ‖≥0, 并且当且仅当 x=0 时, ‖ x ‖=0;
(2) ‖k x ‖=|k| ‖ x ‖, k 是一个实数;
(3) ‖ x + y ‖≤ ‖ x ‖+ ‖ y ‖
1 0 01 2 3
A 2 3
1 5
0 0 1 0
1 0
4
24
LU
3=-72/-24; 2=[-10+4*3]/1;
求解
1=[14-(2*2+3*3)]/1]
Ly (14, 18, 20)T , 得y (14, 10,72)T 同理当 ukk 0或 Ux (14, 10, 72)T , 得x (1, 2, 3)T 很小时，可用
子式 Di 0(i 1,2,,k)，即
a11 Di
ai1
a1i
aii
0aa1i((i1i1))
0 Di
Di1 0
由于高斯消去法过在程消中元可能ak(出 kk) 现 0的情况， 这时消去法将无；法即进使行主a元 k(kk) 素0但很小时， 用其作除数，会他导元致素其数量级的长严和重舍增
入误差的扩散，使最得后计也算的解不可靠。
第5章 解线性方程组的直接方法
第5章
解线性方程组的直接方法
定理3 若A∈Rnⅹn 为对称矩阵.如果det(Ak) ＞0(k=1,2,…,n),
或A得特征值λi＞0（i=1,2, …,n ）.则A为对称正定矩阵。
《 数 值 分 析 》
有重特征值的矩阵不一定相似于对角矩阵，那么一般n阶 矩阵A在相似变换下能简化到什么形状？
定理4(若尔当（Jordan）标准型） 设A为n阶矩阵，则 存在一个非奇异矩阵P使得
a1(1) x1 b1(1) n ( 2) ( 2) a2 n x2 b2 ( k ) . (2.8) (k ) akn xk bk (k ) (k ) ann xn bn
（2.12 ）
(2.7)
简记为
A（2）X=b（2） ，
( ( ( aij2) aij1) mi1 a11) , j
其中A（2），b（2）的元素计算公式为
(i, j 2,3,, n),
bi( 2) bi(1) mi1 b1(1) , (i 2,3,, n).
第k步：若
(k akk ) 0,
a11 ... ... Ak ak1 ... ... , akk
《 数 值 分 析 》
a
1k
k 1,2, n.
（3）A的特征值λi＞0（i=1,2, …,n ）. （4）A的顺序主子式都大于零，即det(Ak) ＞0(k=1,2,…,n)
(1)）=(a
), b(1)=b. ij
第5章 解线性方程组的直接方法 （1）消元过程 1 (1 第1步：设 a (1) 0,首先计算乘数 mi1 ai(1 ) / a11) , i 2,3n, 11 用－mi1乘（2.1）的第1个方程组，加到第i个中，消去方程组（2.1）的从 第2个方程到第n个方程中的未知数X1，得到与方程组（2.1）等价的线性方 程组 《 数 值 分 析 》
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第二章线性方程组的直接法在近代数学数值计算和工程应用中，求解线性方程组是重要的课题。
例如，样条插值中形成的关系式，曲线拟合形成的法方程等，都落实到解一个元线性方程组，尤其是大型方程组的求解，即求线性方程组（2.1）的未知量的数值。
（2.1）其中ai j，bi为常数。
上式可写成矩阵形式Ax = b，即（2.2）其中，为系数矩阵，为解向量，为常数向量。
当detA=D0时，由线性代数中的克莱姆法则，方程组的解存在且惟一，且有为系数矩阵的第列元素以代替的矩阵的行列式的值。
克莱姆法则在建立线性方程组解的理论基础中功不可没，但是在实际计算中，我们难以承受它的计算量。
例如，解一个100阶的线性方程组，乘除法次数约为（101·100！·99），即使以每秒的运算速度，也需要近年的时间。
在石油勘探、天气预报等问题中常常出现成百上千阶的方程组，也就产生了各种形式方程组数值解法的需求。
研究大型方程组的解是目前计算数学中的一个重要方向和课题。
解方程组的方法可归纳为直接解法和迭代解法。
从理论上来说，直接法经过有限次四则运算，假定每一步运算过程中没有舍入误差，那么，最后得到方程组的解就是精确解。
但是，这只是理想化的假定，在计算过程中，完全杜绝舍入误差是不可能的，只能控制和约束由有限位算术运算带来的舍入误差的增长和危害，这样直接法得到的解也不一定是绝对精确的。
迭代法是将方程组的解看作某种极限过程的向量极限的值，像第2章中非线性方程求解一样，计算极限过程是用迭代过程完成的，只不过将迭代式中单变量换成向量而已。
在用迭代算法时，我们不可能将极限过程算到底，只能将迭代进行有限多次，得到满足一定精度要求的方程组的近似解。
在数值计算历史上，直接解法和迭代解法交替生辉。
一种解法的兴旺与计算机的硬件环境和问题规模是密切相关的。
一般说来，对同等规模的线性方程组，直接法对计算机的要求高于迭代法。
对于中等规模的线性方程组，由于直接法的准确性和可靠性高，一般都用直接法求解。
对于高阶方程组和稀疏方程组（非零元素较少），一般用迭代法求解。
§1 消元法一、三角形方程组的解形如下面三种形式的线性方程组较容易求解。
对角形方程组（2.3）设，对每一个方程，。
显然，求解n阶对角方程的运算量为。
下三角方程组（2.4）按照方程组的顺序，从第一个方程至第个方程，逐个解出。
由方程，得。
将的值代入到第二个方程得将的值代入到第个方程得计算需要次乘法或除法运算，。
因此，求解过程中的运算量为上三角方程组（2.5）与计算下三角方程组的次序相反，从第个方程至第一个方程，逐个解出。
由第个方程。
将的值代入到第个方程得将的值代入到第个方程得解的通式计算需要次乘法或除法运算。
因此求解过程中的运算量为消元法的基本思想就是通过对方程组做初等变换，把一般形式的方程组化为等价的具有上述形式的易解方程组。
二、高斯消元法与列主元消元法高斯消元法高斯消元法是我们熟悉的古老、简单而有效的解方程组的方法。
下面是中学阶段解二元方程组（高斯消元法）的步骤：（2.6）（2.7）方程（2.6）乘以－3加到第（2.7）个方程中得代入（2.6）得。
其方法相当于对方程组的增广矩阵做行的初等变换：已是上三角矩阵，而为原方程组的等价方程组，已化成易解的方程组形式。
再用回代方法求解，得到：这就是高斯消元法解方程组的消元和回代过程。
一般地，可对线性方程组（2.1）施行以下一系列变换；（1）对换某两个方程的次序；（2）对其中某个方程的两边同乘一个不为零的数；（3）把某一个方程两边同乘一个常数后加到另一个方程的两边。
记变换后的方程组为：（2.8）显然方程组（2.1）与（2.8）是等价方程组，或者说它们有相同的解。
分别记方程组（2.1）与（2.8）的增广矩阵为：可以看出，实际上是由按一系列初等换后得到的（1）对换某两行元素；（2）中的某行乘一个不为零的数；（3）把的某一行乘一个常数后加到另一行。
高斯消元法就是通过以上（3）的变换，把化为等价的上三角形式。
下面我们以为例演示消元过程。
设方程组：（2.9）其增广矩阵为：（1）若，则将第一行乘以加到第二行上；将第一乘以加到第三行上；将第一行乘以加到第四行上得到（2.10）即其中：（2）若则将第二行乘以加到第三行上；将第二行乘以加到第四行上，得到（2.11）其中：（3）若则将第三行乘以加到第四行上，得到（2.12）其中：已是上三角矩阵，于是得到了与原方程等价的易解形式的方程组：（2.13）再对方程组（2.13）依次回代解出。
从式（2.12）可以得到系数矩阵的行列式的值为的对角元素的乘积。
即这也正是在计算机上计算方阵的行列式的常规方法。
要将上述解方程步骤推广到阶方程组，只需将对控制量“4”的操作改成对控制量的操作即可。
元方程组高斯消元法的步骤如下：对于约定有（2.14）经过以上消元，我们已得到与等价的方程组，其中已是一个上三角矩阵。
为简单起见，仍记的元素为（2.15）即已得到原方程组的解。
高斯消元法算法在算法中略去了变量，矩阵和向量的定义部分。
在消元过程中，将仍放在元素的位置上。
1．输入：方程组阶数n，方程组系数矩阵A和常数向量b。
2．FOR k:=1 TO n-1 //消元过程{ FOR i:=k+1 TO n{ // 假定FOR j:=k+1 TO n{ } // ENDFORJ} // ENDFORI} // ENDFORK3．FOR i:=n TO1 //回代求解{ s:=biFOR j:=i+1 TO n DO}4．输出方程组的解。
高斯消元法的运算量整个消元过程即式（2.14）的乘法和除法的运算量为回代过程即式（2.15）的乘除运算量为故高斯消元法的运算量为（2.16）高斯消元法的可行性在上面的消元法中，未知量是按照在方程组中的自然顺序消去的，也叫顺序消元法。
在消元过程中假定对然元素，消元步骤才能顺利进行，由于顺序消元不改变的主子式值，故高斯消元法可行的充分必要条件为的各阶主子式不为零。
但是，实际上只要方程组就有解。
故高斯消元法本身具有局限性。
另一方面，即使高斯消元法可行，如果很小，在运算中用它作为除法的分母，会导致其它元素数量级的严重增长和舍入误差的扩散。
这是高斯消元法的另一缺陷。
例2.1 方程组（2.17）（2.18）的精确解为：。
在高斯消元法计算中取5位有效数字。
解：方程（2.17）×（－1）/0.0003+方程（2.18）得：，代入方程（2.17）得。
由此得到的解完全失真，如果交换两个方程的顺序，得到等价方程组经高斯消元后有由此可看到，在有些情况下，调换方程组的次序对方程组的解是有影响的，对消元法中抑制舍入误差的增长是有效的。
如果不调换方程组的次序，取6位有效数字计算方程组的解，得到取9位有效数字计算方程组的解，得到由此可见有效数字在数值计算中的作用。
列主元消元法如果在一列中选取按模最大的元素，将其调到主干方程位置再做消元，则称为列主元消元法。
调换方程组的次序是为了使运算中做分母量的绝对值尽量地大，减少舍入误差的影响。
用列主元方法可以克服高斯消元法的额外限制，只要方程组有解，列主元消元法就能畅通无阻地顺利求解，同时又提高了解的精确度。
更具体地，第一步在第一列元素中选出绝对值最大的元素，交换第一行和第行的所有元素，再做化简为零的操作。
对于每个在做消元前，选出中绝对值最大的元素，对行和行交换后，再做消元操作，这就是列主元消元法的操作步骤。
由于，可证中至少有一个元素不为零，从理论上保证了列主元消元法的可行性。
列主元消元法与高斯消元法相比，只增加了选列主元和交换两个方程组（即两行元素）的过程。
列主元消元法算法1．输入：方程组阶数，方程组系数矩阵和常数向量项。
2．//选主元的消元过程{//选择// 交换第行和第行} // ENDFORI} // ENDFORK3．FOR i:=n TO 1 // 回代求解4．输出方程组的解。
如果对于第步，从行至行和从列至列中选取按模最大的，对第行和第行交换，对第列和第v列交换，这就是全主元消元法。
在k列和第v列交换时，还要记录下v的序号，以便恢复未知量xk和xv的位置。
3.1.3 高斯－若尔当（Gauss－Jordan）消元法高斯消元法将系数矩阵化为上三角矩阵，再进行回代求解；高斯－若尔当消元法是将系数矩阵化为对角矩阵，再进行求解，即对高斯消元法或列主元消元法得到的等价增广矩阵：用第4行乘加到第3行上，用第4行乘加到第2行上，用第4行乘加到第1行上，得到用第3行乘加到第2行上，用第3行乘加到第1行上，再用第2行乘加到第1行上，得到（2.19）为方便起见，仍记式（2.19）系数矩阵元素为，常数项元素为。
那么用初等变换化系数矩阵为对角矩阵的方法称为高斯－若尔当消元法。
从形式上看对角矩阵（2.15）比上三角矩阵（2.11）更为简单，易于计算，但是将上三角矩阵（2.11）化为对角矩阵（2.15 ）的工作量略大于上三角矩阵回代的工作量。
高斯—若尔当消元法求逆矩阵设为非奇异矩阵，方程组的增广矩阵为。
如果对应用高斯-若尔当消元法化为，则。
例2.2 用高斯-若尔当消元法求的逆矩阵。
解：解得：§2 直接三角分解法仍以为例，在高斯消元法中，从对方程组进行初等变换的角度观察方程组系数矩阵的演变过程。
第一次消元步骤将方程组（2.9）化为方程组（2.10），相当于用了三个初等矩阵左乘和。
记，容易验证，由得到其中将方程组（2.10）化为方程组（2.11），相当于用了两个初等矩阵左乘和。
记有·同理，将方程组（2.11）化为方程组（2.12），相当于用一个初等矩阵左乘和。
记，有完成了消元过程，有亦有所有消元步骤表示为：左乘一系列下三角初等矩阵。
容易验证，这些下三角矩阵的乘积仍为下三角矩阵，并有于是有或这里仍为下三角矩阵，其对角元素为1，称为单位下三角矩阵，而已是上三角矩阵。
记，则有结果表明若消元过程可行，可以将分解为单位下三角矩阵与上三角矩阵的乘积。
由此派生出解方程组的直接分解法。
由高斯消元法得到启发，对消元的过程相当于将分解为一个上三角矩阵和一个下三角矩阵的过程。
如果直接分解得到和，。
这时方程化为，令，由解出；再由，解出。
这就是直接分解法。
将方阵分解为，当是单位下三角矩阵，是上三角矩阵时，称为多利特尔（Doclittle）分解；当是下三角矩阵，是单位上三角矩阵时，称为库朗（Courant）分解。
分解的条件是若方阵的各阶主子式不为零，则多利特尔分解或库朗分解是可行和惟一的。
一、多利特尔分解多利特尔分解步骤若的各阶主子式不为零，可分解为，其中为单位下三角矩阵，为上三角矩阵，即（2.20）矩阵和共有个未知元素，按照的行元素的列元素的顺序，对每个列出式（2.16）两边对应的元素关系式，一个关系式解出一个或的元素。