解线性代数方程
第2章解线性代数方程组的迭代法
第二章解线性代数方程组的迭代法2. 1 引言在许多实际问题中，常常需要求解这样的线性代数方程组，它的系数矩阵数很高，但非零元素很少，人们称其为大型稀疏线性代数方程组，对于这类方程组，如果它乂不具有带状性，那么，再用直接法求解就不太有效，因为用直接法进行消元或矩阵的三角分解时，没有考虑到系数矩阵的稀疏性，破坏了系数矩阵的形状，导致了计算量的增加和存储单元的浪费，于是，人们常用迭代法求解大型稀疏线性代数方程组。
迭代法只需要存储系数矩阵的非零元素，这样，占用内存在单元较少，能解高阶线性代数方程组。
山于迭代法是通过逐次迭代来逼近方程组的解，因此，收敛性和收敛速度是构造迭代法时要注意的问题。
那么，是否可以构造一种适用于一般情况的迭代法呢？回答是否定的，这是因为不同的系数矩阵具有不同的性态，一般地，每一种迭代法都具有一定的适用范围，在本章的学习中将会看到，有时，某种方法对一类方程组迭代收敛，而对另一类方程组进行迭代时就会发散。
因此，我们应该学会针对具有不同性质的线性代数方程组，构造合适的迭代方法。
本章主要介绍一些基本的迭代法，并在一定的范围内讨论其中儿种方法的收敛法。
2. 2 基本迭代法考虑线性方程组如坷+如勺+…+气兀”二勺a2t x i+a22x2 + - + a2…x n =b2■•••••••••••(2. 1)采用矩阵和向量记号，我们可以把(2.1)式写成Ax = h(2.2)其中，为非奇异矩阵，设下面我们介绍雅可比(Jacobi)迭代，高斯-塞德尔(Gauss-Seidel)迭代与S0R迭代以及SS0R迭代的基本思想和算法。
为了方便地给出矩阵表示式，我们引进下列矩阵分裂：4SD-U,(2.3)其中-a2\-a n\(1)雅可比迭代的基本思想从式(2.1)的第i个方程中解出X t=(/ = 1,2,•••,«)我们把迭代前面的值代入上式右边，山计算得到等式左边的值作为一次迭代的新值，然后再把这个新值代入右边，再从左边得到一个新值，如此反复，就得到了雅可比迭代公式。
线性代数解方程
线性代数解方程线性代数是数学的一个分支，它的研究对象是向量，向量空间（或称线性空间），线性变换和有限维的线性方程组。
向量空间是现代数学的一个重要课题；因而，线性代数被广泛地应用于抽象代数和泛函分析中；通过解析几何，线性代数得以被具体表示。
线性代数的理论已被泛化为算子理论。
简介由于科学研究中的非线性模型通常可以被对数为线性模型，使线性代数被广为地应用于自然科学和社会科学中。
概念线性代数就是代数学的一个分支，主要处置线性关系问题。
线性关系意即数学对象之间的关系就是以一次形式去抒发的。
比如，在解析几何里，平面上直线的方程就是二元一次方程；空间平面的方程就是三元一次方程，而空间直线视作两个平面平行，由两个三元一次方程所共同组成的方程组去则表示。
所含n个未知量的一次方程称作线性方程。
关于变量就是一次的函数称作线性函数。
线性关系问题缩写线性问题。
求解线性方程组的问题就是最简单的线性问题。
历史线性代数做为一个单一制的分支在20世纪才构成，然而它的历史却非常久远。
“鸡兔同笼”问题实际上就是一个直观的线性方程组解的问题。
最古老的线性问题就是线性方程组的数学分析，在中国古代的数学著作《九章算术·方程》章中，已经并作了比较完备的描述，其中所述方法实质上相等于现代的对方程组的生员矩阵的行颁布初等变换，解出未知量的方法。
由于费马和笛卡儿的工作，现代意义的线性代数基本上出现于十七世纪。
直到十八世纪末，线性代数的领域还只限于平面与空间。
十九世纪上半叶才完成了到n维线性空间的过渡。
随着研究线性方程组和变量的线性变换问题的深入细致，行列式和矩阵在18～19世纪期间先后产生，为处置线性问题提供更多了有力的工具，从而促进了线性代数的发展。
向量概念的导入，构成了向量空间的概念。
凡是线性问题都可以用向量空间的观点予以探讨。
因此，向量空间及其线性变换，以及与此二者联系的矩阵理论，形成了线性代数的中心内容。
矩阵论始于凯莱，在十九世纪下半叶，因若当的工作而达到了它的顶点。
线性代数求解方法和技巧
线性代数求解方法和技巧线性代数是数学中重要的一个分支，研究向量空间、线性变换和线性方程组等内容。
在实际问题中，我们常常需要用线性代数的方法来解决问题，因此掌握线性代数的求解方法和技巧对于理解和应用数学是非常重要的。
首先，我们讨论线性方程组的求解方法。
线性方程组是由一组线性方程组成的方程组，其中每个方程的未知数的次数都为1。
对于n个未知数和m个方程的线性方程组，我们有以下几种常用的求解方法：1. 列主元消元法：这是最常用的线性方程组求解方法之一。
它的基本思想是通过行变换将线性方程组化为一个三角形式，进而求解得到方程组的解。
在进行行变换时，要选择合适的列主元，即选择主元元素绝对值最大的一列作为主元素。
2. 矩阵求逆法：对于一个可逆的n阶方阵A，我们可以通过求A的逆矩阵来求解线性方程组Ax=b。
具体地，我们首先通过高斯消元法将方程组化为三角形式，然后根据三角形式的矩阵求逆公式来求解x。
3. LU分解法：对于一个n阶非奇异矩阵A，我们可以将其分解为一个下三角矩阵L和一个上三角矩阵U的乘积，即A=LU。
接着，我们可以通过LU分解来求解线性方程组Ax=b。
具体地，我们首先通过LU分解将方程组化为Lc=b和Ux=c两个方程组，然后依次求解这两个方程组得到x的值。
除了以上的求解方法，还有一些线性方程组的特殊情况和对应的求解方法：1. 齐次线性方程组：如果线性方程组右边的常数项都为0，即b=0，那么我们称为齐次线性方程组。
对于齐次线性方程组，其解空间是一个向量空间。
我们可以通过高斯消元法来求解齐次线性方程组，先将其化为三角形式，然后确定自由未知量的个数，最后确定解空间的基底。
2. 奇异线性方程组：如果线性方程组的系数矩阵A是奇异矩阵，即det(A)=0，那么我们称为奇异线性方程组。
对于奇异线性方程组，其解可能不存在，或者存在无穷多解。
我们可以通过计算矩阵A的秩来确定线性方程组的解的情况。
另外，在实际问题中，我们可能会遇到大规模的线性方程组，这时候求解方法和技巧还需要考虑到计算效率的问题。
07线性代数方程组的解法
总计∑ n (k2k) n(n21)
k1
3
除法
n1
k
n(n1)
k1
2
回 代 总 计 算 量 n(n1) 2
总 乘 除 法 共 n 3 3 n 2 1 3 n (n 3 0 ,为 9 8 9 0 )
21
三、Gauss消去法的矩阵表示
每一步消去过程相当于左乘初等变换矩阵Lk
a x a x a x a b 得
到
(1)
同
解 (1)
方
程 (1)A(3组 )x=b(1() 3)
(1)
11 1
12 2
13 3
1n
1
a x a x (2) (2)
22 2
23 3
a x(3) 33 3
a b (2) (2)
2n
2
a b (3) (3)
11 1
12 2
1n n
1
b x 22 2
b2nxn g 2
称 消 元 过 程 。 逐 次 计 算 b出 nn x xn n, x gn 1 n,, x 1 称 回 代 过 1程 0 。
一、Gauss 消去法计算过程
a a b b 统一记 → 号 (1) ： , →(1)
(2) ,
2
(3)
(2)
2
1
0
1
L m 0 2
32
1
0 mn2 0
m a a
(2) (2)
i2
i2
22
i 3,4, ,n
常见的线性代数求解方法
常见的线性代数求解方法
1.列主元消去法
列主元消去法是一种经典的求解线性方程组的方法。
它通过将
方程组转化为上三角矩阵的形式来求解。
这个方法的关键在于选取
主元的策略。
一种常见的选取主元的策略是选择当前列中绝对值最
大的元素作为主元，然后进行消去操作，直到将矩阵转化为上三角
矩阵。
2.高斯-约当消去法
高斯-约当消去法是另一种常见的线性方程组求解方法。
它通
过消去矩阵的下三角部分来将线性方程组转化为上三角矩阵的形式。
这个方法也需要选择主元，常见的选择策略是选取当前行中绝对值
最大的元素作为主元，然后进行消去操作。
3.LU分解法
LU分解法是将矩阵分解为一对矩阵的乘积的方法。
这个方法的思想是先将矩阵分解为一个下三角矩阵和一个上三角矩阵，然后通过求解上三角矩阵和下三角矩阵的两个方程组来求解原始的线性方程组。
4.Jacobi迭代法
Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过将原始的线性方程组转化为一个对角矩阵和另一个矩阵的乘积的形式，然后通过迭代求解这个对角矩阵和另一个矩阵的方程组来逼近线性方程组的解。
5.Gauss-Seidel迭代法
Gauss-Seidel迭代法是另一种迭代求解线性方程组的方法。
它与Jacobi迭代法类似，但是在每一次迭代中，它使用前一次迭代得到的部分解来更新当前的解。
这个方法通常比Jacobi迭代法收敛得更快。
以上是一些常见的线性代数求解方法。
每种方法都有其特点和适用范围，我们可以根据具体情况选择合适的方法来求解线性方程组的问题。
线性代数方程组的解法
说明：线性方程组的初等变换是可逆的。 即，方程组（1）经初等变换化为一个新方 程组，那么新方程组也可以经过初等变换还 原为原方程组（1）。因而，方程组（1）与 它经过若干此初等变换之后得到的新方程组 是同解的。
⎧ a11 x1 + a12 x 2 + L + a1n x n = b1 ⎪ a x + a x + L+ a x = b ⎪ 21 1 22 2 2n n 2 ⎨ ⎪ LLLLLLLLLLLL ⎪a m 1 x1 + a m 2 x 2 + L + a mn x n = bm ⎩
L a1n ⎞ ⎟ L a2 n ⎟ L L⎟ ⎟ L amn ⎟ ⎠
矩阵A的 (m , n)元
这m × n个数称为 A的元素 , 简称为元素 (元 ).
元素是实数的矩阵称为实矩阵, 元素是复数的矩阵称为复矩阵.
例如
⎛ 1 0 3 5⎞ ⎟ 是一个 2 × 4 实矩阵, ⎜ ⎝ − 9 6 4 3⎠ ⎛ 1⎞ ⎜ ⎟ ⎜ 2⎟ ⎜ 4⎟ ⎝ ⎠
问题：是否每个矩阵都可以经过初等行变换化 为梯矩阵呢？ 定理1 任意m × n矩阵A总可以经初等行变换化为梯
矩阵及最简形。
证明 Step1 若A的元全为0, A已经是一个阶梯矩阵。
Step2 设非零矩阵A的第 j1 列是自左而右的第 一个非零列，设 a1 j ≠ 0 (否则，若 a ij1 非零，作 行变换 r1 ↔ ri ，总可使第j1列的第一个元非零)， 矩阵A的各行分别作行变换：
解
同理可得
−2 −2 1 1 −2 1 0 1 − 3 = −10, −1
D1 = 1 0
1
1 1
− 3 = −5, D2 = 2 −1 −1 1 = −5, 0
第三章线性代数方程组的直接解法
由此看出,高斯消去法解方程组基本思想是设
法通消常去把方按程照组的先系消数元矩,阵后A回的代主两对个角线步下骤的求元解素线,而性 将方A程x=组b化的为方等法价称的上为三高角斯形（方G程a组us,s然）后消再去通法过。回
代过程便可获得方程组的解。换一种说法就是用矩 阵行的初等变换将原方程组系数矩阵化为上三角形 矩阵,而以上三角形矩阵为系数的方程组的求解比较 简单,可以从最后一个方程开始,依次向前代入求出 未知变量 xn , xn1 , , x1 这种求解上三角方程组的 方法称为回代, 通过一个方程乘或除以某个常数,以 及将两个方程相加减,逐步减少方程中的变元数,最 终将方程组化成上三角方程组,一般将这一过程称为 消元,然后再回代求解。
3.2.2 高斯消去法算法构造 我们知道,线性方程组(3.1)用矩阵形式表示为
a11 a12 a21 a22 an1 an2
a1n
a2n
ann
x1 b1
x
2
b2
xn bn
每个方程只含有一个未知数,从而得出所求的解。
整个过程分为消元和回代两个部分。
（1）消元过程 第1步:将方程①乘上(-2)加到方程 ②上去,将 方程 ①乘上 1 加到方程 ③上去,这样就消去
2
了第2、3个方程的 x1 项,于是就得到等价方程 组
2x1 x2 3x3 1
2
x1
x2
3x3
1
4x2 x3 2
5 2
x2
3 2
x3
13 2
线性代数 线性代数方程组的解
当 r ( A) > r ( A) 时，
未知数表示． 未知数表示． 通解表达式中就出现 n-k 个任意常数． 个任意常数．
β k +1 , ⋯, β m 中至少有一个不等于零 . α11 α12 ⋯α1n β1 不妨设 β k +1 ≠ 0 . ......................... 此时第 k+1 个方程变成 α k 1 α k 2 ⋯α kn β k 0x1 + 0 x2 + ⋯ + 0 xn = β k +1 ≠ 0 0 0 ⋯ 0 β k +1 这是不可能的． 这是不可能的． ..................... 因此方程无解． 因此方程无解． 0 0 ⋯ 0 βm
4.2.1
Байду номын сангаас齐次线性代数方程组
定理 3 (1) 齐次线性方程组有非平凡解 齐次线性方程组有非平凡解的充分必要条件是 有非平凡解的充分必要条件是 r ( A) < n （系数矩阵的秩小于未知数的个数） 系数矩阵的秩小于未知数的个数） (2) 若齐次线性方程组有非平凡解， 齐次线性方程组有非平凡解，则通解中含有
四个未知数， 四个未知数，两个方程. 选 x2, x4 为自由未知量， 为自由未知量，
r ( A) = 2, n = 4 . 方 程 组有非 平 凡 解 .
令 x2 = t1 , x4 = t2 .
1
1 x1 = −2t1 + 5 t2 x2 = t1 则有 3 x = − t2 3 10 x = t2 4
通解表达式中包含两个任意常数 t1 , t2 . 令
−2 1/ 5 x1 1 0 x 2 . , α2 = x = , α1 = 0 −3/10 x3 0 1 x4
线性代数-线性方程组的解
0 0 0 0
R(A) = R(B) < 3,方程组有无穷多解 .
其通解为
x1 x2
=1− = x2
x2
−
x3
x3 = x3
(x2 , x3为任意实数 ).
(2) 当λ ≠ 1时,
1 1 λ
λ2
B ~ 0 1 −1 −λ
0
0
2+λ
(1
+
λ
)2
=
−2
x3
−
4 3
x4
,
( x3 , x4 可任意取值).
令 x3 = c1, x4 = c2，把它写成通常的参数 形式
x1
x2 x3
=
= =
2c2
+
5 3
c2
,
−2c2
−
4 3
c2
c1 ,
,
x4 = c2,
∴
x1 x2 x3 x4
=
c1
2 −2 1 0
+
c2
由于原方程组等价于方程组
x2 x3
− −
x3 x4
= a2 = a3
由此得通解：
x4 − x5 = a4
x1 = a1 + a2 + a3 + a4 + x5
x2 = a2 + a3 + a4 + x5 x3 = a3 + a4 + x5
x4 = a4 + x5
(x5为任意实数 ).
例５ 设有线性方程组
1 1 2 3 1 1 1 2 3 1
B
~
0 0 0
线性代数方程组求解
线性代数方程组求解线性代数方程组是线性代数中一个重要的概念，它描述了一组线性方程的集合。
求解线性代数方程组是线性代数中的一项基本任务，它对于解决实际问题和数学推理都具有重要意义。
本文将介绍线性代数方程组的求解方法，包括矩阵消元法和矩阵的逆。
矩阵消元法矩阵消元法是求解线性代数方程组的一种常用方法。
它通过消元和回代两个步骤来求解方程组。
具体步骤如下：1.构造增广矩阵：将线性方程组的系数矩阵和常数向量按列合并，得到增广矩阵。
2.初等行变换：对增广矩阵进行初等行变换，将其转化为阶梯形矩阵或行最简形矩阵。
3.回代求解：从最后一行开始，逐步代入求解未知数，得到方程组的解。
矩阵消元法的优点是简单直观，容易理解和实现。
然而，当矩阵的行数和列数较大时，矩阵消元法的计算复杂度会很高，需要消耗大量的时间和计算资源。
矩阵的逆除了矩阵消元法，我们还可以使用矩阵的逆来求解线性代数方程组。
矩阵的逆是一个与原矩阵相乘后得到单位矩阵的矩阵。
对于给定的线性方程组Ax=b，我们可以通过以下步骤求解：1.计算矩阵A的逆矩阵A^-1。
2.将方程组转化为x=A^-1b。
3.计算x的值。
求解矩阵的逆的方法有多种，包括伴随矩阵法和初等变换法等。
其中，伴随矩阵法是一种常用的求解逆矩阵的方法。
它通过求解伴随矩阵和矩阵的行列式来计算矩阵的逆。
使用矩阵的逆求解线性代数方程组的优点是计算速度快，尤其适用于行数和列数较大的情况。
然而，矩阵的逆并不是所有矩阵都存在，如果矩阵不存在逆矩阵或逆矩阵存在但计算困难，则无法使用矩阵的逆求解方程组。
小结线性代数方程组的求解是线性代数中的一个重要问题，涉及到实际问题的解决和数学推理。
本文介绍了两种求解线性代数方程组的方法：矩阵消元法和矩阵的逆。
矩阵消元法通过消元和回代的过程来求解方程组，简单直观但计算复杂度较高；矩阵的逆通过求解矩阵的逆矩阵来求解方程组，计算速度快但存在逆矩阵不存在的情况。
根据具体问题的需求和矩阵性质的条件，选择合适的方法来求解线性代数方程组是十分重要的。
6、解线性代数方程组的迭代法
(i, j 1,2,, n)
k
则称{ Ak }收敛于A，记为 lim Ak A.
例4 设矩阵序列 A 0
1 2 2 2 k kk 1 ， , Ak ， ， , A k 0 2 0 且 | | 1，考查其极限.lim kk lim k lim 1 0. k k k k k k 1
1. xi 0.0(i 1,2,, n), 2. 对于k 1,2,, N 0 ,
nn
非奇异，
且aii 0(i 1,2,, n), 数组x(n)开始存放x ( 0) , 后存放x ( k ) ,
xi (bi aij x j aij x j ) aii (i 1,2,, n), j 1 j i 1
(1.4)
即
x(k+1)=B0x(k)+f， (k=0,1,2,„)
x (10) (3.000032 , 1.999838 , 0.9998813 )T , ε (10)
0.000187 , 其中ε (10) x (10) x * .
一般地，由Ax b变形得到等价的x Bx f .
0 a11 0 a12 a1n a a22 0 21 0 ,U , L . D an1,n a ann 0 n1 an,n 1 0
(k )
并有一阶定常迭代法 x Bx f (3.3)
引进误差向量ε ( k ) x ( k ) x*,则 ε ( k 1) Bε ( k ) B k ε ( 0) .
第二章 解线性代数方程组的直接法(DOC)
第二章 解线性方程组的直接法本章研究的对象是n 阶线性方程组⎪⎪⎩⎪⎪⎨⎧=+++=+++=+++nn nn n n n n n n b x a x a x a b x a x a x a b x a x a x a .........22112222212111212111 （2.1）其矩阵形式为b AX = （2.1）′其中，)(ij a A =是方程组的系数矩阵，⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n x x x X ...21,⎪⎪⎪⎪⎪⎭⎫⎝⎛=n b b b b ...21分别为方程组的未知向量和常数向量。
所谓直接法，就是在不计舍入误差时，经过有限步运算能求得方程组精确解的方法。
下面介绍几种较实用的直接法。
2.1 Gauss 消去法 2.1.1 Gauss 顺序消去法高斯（Gauss ）消去法实质是消元法,只是步骤规范,便于编程。
它的基本做法是把方程组(2.1)转化成一个等价的三角方程组⎪⎪⎩⎪⎪⎨⎧==++=+++n n nn n n n n g x b g x b x b g x b x b x b 2222211212111 (2.2) 这个过程称为消元。
然后,逐个求出11,,,x x x n n -,这个过程称为回代。
(一) 高斯消去法的计算过程为了符号统一,把方程组(2.1)改写成下面形式⎪⎪⎩⎪⎪⎨⎧=+++=+++=+++)1()1(2)1(1)1()1()1(2)1(1)1()1()1(2)1(1)1( (212)22221111211n nn n n n n b x a x a x a b x a x a x a b x a x a x a n n n(2.3)用矩阵表示为)1()1(b X A = (2.3)′其中⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=)1()1(2)1(1)1(2)1(22)1(21)1(1)1(12)1(11)1(nn n n nn a a a a aa a aa A, ⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=)1()1()1()1(...21n b b b b 若0)1(11≠a ,用第二个方程减去第一个方程的)1(11)1(21/a a 倍,第三个方程减去第一个方程的)1(11)1(31/a a 倍,等等。
线性代数解方程组的方法
线性代数解方程组的方法
解线性方程组的方法：第一种消元法；第二种克拉姆法则；第三种逆矩阵法；第四种增光矩阵法；第五种计算机编程，随便用个软件，譬如Matlab，输入密令；目前这5中教为适用，适合一切齐次或者非齐次线性方程组。
第一种消元法,此法最为简单，直接消掉只剩最后一个未知数，再回代求余下的未知数，但只适用于未知数个数等于方程的个数，且有解的情况；
第二种克拉姆法则，如果行列式不等于零，则用常数向量替换系数行列式中的每一行再除以系数行列式就是解；
第三种逆矩阵法，同样要求系数矩阵可逆，直接建立AX=b与线性方程组的关系，X=A^-1.*b就是解；
第四种增光矩阵法，利用增广矩阵的性质(A,b)通过线性行变换，化为简约形式,确定自由变量,（各行中第一个非零元对应的未知数除外余下的就是自由变量）,对自由变量进行赋值,求出其它未知数，然后写成基础解析的形式。
第五种计算机编程，随便用个软件，譬如Matlab，输入密令。
第5章 求解线性代数方程组的直接法
数值计算与MATLAB1《数值计算与MATLAB 》第5章求解线性代数方程组的直接法§0 引言§1 线性代数方程组求解概论§2 恰定线性方程组求解§3 矩阵的三角分解§4 MATLAB实现《数值计算与MATLAB 》引言大量的科技与工程实际问题，常常归结为解线性代数方程组，有关线性方程组解的存在性和唯一性在“线性代数”理论中已经作过详细介绍，本章的主要任务是讨论系数行列式不为零的n阶非齐次线性方程组Ax=b的两类主要求解方法：直接法（精确法）和迭代法。
《数值计算与MATLAB 》5.1 线性代数方程组求解概论线性代数方程组的矩阵表示Ax=b⎪⎪⎩⎪⎪⎨⎧=+++=+++=+++mnmnmmnnnnbxaxaxabxaxaxabxaxaxa22112222212111212111《数值计算与MATLAB 》线性代数方程组解的性质AS≡b解的判别及其结构Ax=0：有非零解——系数矩阵的秩R(A)<n。
若R(A)=n，则方程组只有零解。
Ax=b：分三种类型：当R(A)=R(B)=n时，称方程组为恰定方程组，这时它有唯一解向量；当R(A)=R(B)<n时，称方程组为欠定方程组，这时它有无穷多解向量；当R(A)<R(B)时，称方程组为超定方程组或矛盾方程组，即保留方程个数大于未知量个数，一般意义下无解，但可求出其最小二乘解。
《数值计算与MATLAB 》5.2 恰定线性代数方程组求解克莱姆法则对于恰定方程组Ax=b，即满足R(A)=R(B)=n 的方程组求解，可用克莱姆（Cramer）法则得出唯一解。
利用Cramer法则求解所需乘除运算量为：N=(n+1)!(n-1)+n=n!(n2-1)+nAΔhhxdet《数值计算与MATLAB 》高斯消去法（消元法）消元过程回代过程顺序高斯消去法（Gauss－Jordan）列主元素消去法主元素消去法全主元素消去法《数值计算与MATLAB 》5.3 矩阵的三角分解高斯消去法和三角矩阵消元过程：实质上就是用一系列行初等变换，即P n-1P n-2...P1Ax= P n-1P n-2 (1)使方程组等价地变换成一个三角形回代过程：就是先求出，然后逐个由下往上进行回代，求得方程组的解。
线性代数方程组的解法
线性代数方程组的解法关键词：线性代数方程组；高斯消元法；列主元消元法；三角分解法；杜立特尔分解法；迭代法；雅可比迭代法；高斯-赛德尔迭代法1引言目前，解线性代数方程组在计算机上常用的的方法大致把它分为两类：“直接法”与“迭代法”.在线性代数中曾指出阶线性代数方程组有唯一的解，并且可以用克拉默法则求方程组的解，初次看来问题已经解决，但从使用效果看并不是这样的.因为求阶线性代数方程组，如果用克拉默法则，需要计算个阶行列式，每个阶行列式为项之和，每项又是个元素的乘积，所以计算中仅乘法次数就高达次，当较大时，它的计算量是非常惊人的.因为现在所碰到的很多问题都需要很大的计算量，故需要好用的算法来求解.先来回顾一下回代过程和迭代过程.(1)是一个三角形方程组，当有唯一解时，可以用反推的方式求解，也就是先从第个方程解得， (2)然后代入第个方程，可得到， (3)如此继续下去，假设已得到，， , ,代进第个方程即得的计算， (4)上述求解的过程叫做回代过程.定义1[1] (向量的范数) 若向量的某个实值函数满足1.是非负的，即且的充要条件是 ;2.是齐次的，即 ;3.三角不等式，即对，总是有.那么上向量的范数（或模）就是 .下面给几个最常遇到的向量范数.向量的“1”范数：(5)向量的“2”范数：(6)向量的范数：(7)例1设求 , , .解由式（5）,（6）及（7）知.定义2若矩阵的某个实值函数满足1.是非负的，即且的充要条件是 ;2.是齐次的，即 ;3.三角不等式，即对总有;1.矩阵的乘法不等式，即对总有，那么称为上矩阵的范数（或模）.表 1是矩阵几个常用算子范数的定义与算式.表 1范数名称记号定义计算公式“1”范数（又名列模）“2”范数（又名谱模）“”范数（又名行模）的极限就是方程组的解向量，这时候在给定允许的误差内，只要适当的大,就可以作为方程组在满足精度要求条件下的近似解.这种求近似解的方法就是解线性方程组的一类基本的迭代解法，其中称为迭代矩阵，公式（9）称迭代公式（或迭代过程）,由迭代公式得到的序列叫做迭代序列.如果迭代的序列是收敛的，则称为迭代法收敛；如果迭代的序列是不收敛，则称它是迭代法发散.定理3设 .如果约化主元素，则可以利用高斯消元的方法把方程组约化成三角形方程组来求解，其计算公式如下：（1）消元计算：对依次计算（2）回代计算：3用高斯消元法与列主元消元法解线性代数方程组（重点）！3.1 高斯消元法解方程组用高斯消元的方法求线性代数方程组的解的整个计算过程可分为两个环节，也就是利用按照次序消去未知数的方法，把原来的方程组转化成跟它同解的三角形方程组（这个转化的过程叫消元过程），再通过回代过程求三角形方程组的解，最终得到原来方程组的解.其中按照方程的顺进行消元的高斯消元法，又叫顺序消元法.3.2列主元消元法解方程组列主元消元法实际上是一种行交换的消元法，它跟顺序消元法比较而言，主要特点是在进行第次消元前，不管的值是否等于零，都在子块的第一列中选择一个元，使，并将中的第行元与第行元互相变换（相当于交换同解方程组中的第个方程），然后再进行消元计算得到结果.注：列主元素法的精度虽然稍低于全主元素法[1]，但它计算简单，相对比全主元素法它的工作的量大大减少，并且从计算经验和理论分析都可以表明，它与全主元素法同样拥有很好的值稳定性，列主元素法是求解中小型浓密型方程组的最好的方法之一.4用三角分解法解线性代数方程组4.1 矩阵的三角分解定义4把一个阶矩阵分解成两个三角矩阵相乘的形式称为矩阵的三角分解.常见的矩阵三角分解是其中是下三角形的矩阵,是上三角形的矩阵.定理5[1]（矩阵三角分解基本定理）设 .若的顺序主子式，那么存在唯一的杜利特尔分解其中是单位下三角形矩阵，为非奇异的上三角形矩阵.如果是单位下三角形的矩阵，是上三角形的矩阵，那么把这种分解法称为杜利特尔分解法，其中杜利特尔分解法是这种三角分解的一种特例，下面主要介绍利用杜利特尔分解法来求方程组的解.4.2 用杜利特尔分解法解线性代数方程组用杜利特尔分解法解方程组的步骤可以把它归纳为（1）实现分解，也就是1.按算式（11）（12）依次计算的第一行元与的第一列元；1.对按算式（13）（14）依次计算的第行元与的第列元.（2）求解三角形方程组，即按算式依次计算 .（3）求解三角形方程组，即按算式依次计算.利用杜利特尔分解法解方程组与高斯消元法是相似的，它重要的优点是：在利用分解，解有相同的系数矩阵的方程组时,用杜利特尔分解法非常方便，只用两个式子就可以得到方程组的解.5用迭代法解线性代数方程组用迭代法求方程组的解，需要考虑迭代过程的收敛性，在下面的讨论中，都假设方程组的系数矩阵的对角阵是不为零的.5.1 用雅可比迭代法解方程组对于一般线性方程组，如果从第个方程解出，就可以把它转化成等价的方程组. （15）从而可以得到对应的迭代公式（16）这就是解一般方程组的分量形式的雅可比(Jacobi)迭代公式.如果把它改成（17）并把系数矩阵表示成（18）其中则可以看出式的左右两端分别是向量和的第个分量，故因为可逆，所以于是就可以得到是雅可比迭代的公式.其中（称为雅可比迭代矩阵）， .5.2 用高斯-赛德尔迭代法解方程组高斯-赛德尔迭代法也是常用的迭代法，设线性代数方程组为，则高斯-赛德尔迭代法的迭代公式为（19）其中迭代法（19）就称为高斯-赛德尔迭代法.通过雅可比迭代法类似的途径，就可以得到矩阵的表达式其中（称为高斯-赛德尔迭代矩阵）， .高斯-赛德尔迭代法与雅可比迭代法都有算式简单、容易在计算机上实现等优点，但是用计算机来计算时，雅可比迭代法需要两组工作单元用来寄存与的量，而高斯赛-德尔迭代法只需一组工作单元存放或的分量.对于给定的线性方程组，用这两种方法求解可能都收敛或者都不收敛，也可能一个收敛另一个不收敛，两种方法的收敛速度也不一样.5.3 迭代法的收敛条件与误差分析定义6[1]矩阵全部的特征值的模的最大值，叫做矩阵的谱半径，记作 ,即.定理7[1]对任意初始向量迭代过程收敛的充要条件是；当时，越小，那么其收敛的速度是越快的.由定理7可知，用雅可比迭代法求解时，其迭代的过程是收敛的，而用高斯-赛德尔迭代法来求解,其迭代的过程是发散的.在不同条件下，收敛的速度是不同的，对同一矩阵，一种方法是收敛的，一种方法发散.第 7 页。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
解线性代数方程————————————————————————————————作者：————————————————————————————————日期：求解线性方程组的直接解法5.3特殊矩阵的三角分解①实对称矩阵的LDL T分解设A是实对称阵,且A的所有顺序主子式均不为零，则LDR分解中R=L T, 故可用以作LDL T分解.这就是说,当A的对角元素非零时，我们可以作LU分解,也就得到LDL T分解,L相同,是单位上三角阵,U的对角元素构成D.不过没有利用对称性,存储量运算量都未能节省—预计是一半。
试用n=3的计算表格说明如何实现节省。
d1=u11 =a11u12=a12l21=u12/d1u13=a13l31=u13/d1d2=u22=a22-l21u12u23=a23-l21u13l32=u23/d2u33=a33-l31u13-l32u23这样,可用上半部元素逐列计算D,L T。
也可用下半部元素逐行计算L,D。
引进輔助量t1, t2代替u1j,u2j,并利用对称性得到：d1=a11t1=a21l21= t1/d1d2= a22-t1l21t1=a31 l31=t1/d1t2=a32-t1l21l32=t2/d2d3=a33-t1l31-t2l32据此不难写出LDL T分解A=LDL T的计算公式和程序(逐行计算L,D).d1=a11for i=2:nfor j=1:i-1t j=a ij-l j1t1-l j2t2-…-l j,j-1t j-1l ij=t j/d jendd i=a ii-l i1t1-l i2t2-…- l i,i-1t i-1end存储约n(n+1)/2单元,乘加运算各约n3/6.利用LDL T分解解Ax=b分四步:1．分解A=LDL T2．解Lg=b 求g3．解Dy=g 求y4．解L T x=y 求x②实对称正定矩阵的LL T分解A实对称正定时顺序主子式皆正,可作LDL T,D的对角元素皆正,有正的平方根。
因此有LL T 分解A =LL T ,L 下三角阵,对角元素皆正,是LDL T 中的LD 1/2.乃可用上半部元素逐列计算L T .l 11=a 111/2 l 21= a 12/l 11 l 31=a 13/l 11l 22=(a 22-l 212)1/2 l 32=(a 23-l 21l 31)/l 22l 33=a 33-l 312-l 322也可用下半部元素逐行计算L .计算表格和算法安排如下:l 11=a 111/2l 21= a 21/l 11 l 22=(a 22-l 212)1/2l 31= a 31/l 11 l 32=(a 32-l 31l 21)/l 22l 33=(a 33-l 312-l 322)1/2l 11=a 111/2 for i =2:nfor j =1:i -1l ij =(a ij -l i 1l j 1-l i 2l j 2-…-l i ,j-1l j ,j-1)/d jjend2/121,2221)(-----=i i i i ii ii l l l a l Λ end存储量,运算量同LDL T 分解,但要n 次求平方根.利用LL T 分解解Ax =b 分三步:1．分解A =LL T2．解 Lg =b 求g 3．解 L T x =g 求x③ 三对角方程组的追赶法消去法或LU 分解用于三对角方程组有特殊形式,即称追赶法.设Ax =f : b 1x 1+ c 1x 2=f 1a i x i-1+b i x i +c i x i+1=f i i=2,3,n -1 a n x n-1+b n x n =f nA 是三对角阵,则L ,U 同样结构.L 的对角元素为α2,α3,…，αn ,U 的对角元素为β1,β2,…,βn ,上对角元素同A .1．分解A =LU : β1= b 1,αi =a i /βi-1,βi = b i -αi c i -1, i=2,3,…,n 2．解 Lg =f 求g : g 1=f 1,g i =f i -αi f i -1, i=2,3,…,n 3．解 U x =g 求x : x n =g n /βn ,x i =(g i -c i x i +1)/βi , i=n -1,n -2,…,1编程时，A 可用三个一维数组，f 用一个一维数组.L ,U 存入A 。
g ，x存入f 。
还有一种计算格式,消去时用主元素除主行元素,即分解A 为下三角矩阵和单位上三角矩阵之积,相当于对A T 作LU 分解.⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡→⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡--n nnn n nnn g g g a a f f f b a c c b a c b M M O O O O O M M O O O O O 2112221121122211)()()(βγγβγβ括号中是单位上三角矩阵的上对角元素.计算步骤:1．分解A =LU : β1=b 1,γ1=c 1/β1,βi =b i -a i γi -1,γi =c i /βi , i=2,3,…,n 2．解 Lg =f 求g : g 1=f 1/β1,g i =(f i -a i g i -1)/βi , i=2,3,…,n 3．解 U x =g 求x : x n =g n ,x i =g i -γi x i +1, i=n -1,n -2,…,1 三对角矩阵是带形矩阵的特例.所谓带形矩阵是那些主对角线附近几条对角线以外元素皆零的矩阵,即a ij ≠0,仅当-m 1<j-i <m 2.带形矩阵的LU 分解也保持结构.5.4 向量和矩阵的范数引入实数的绝对值和复数的模(也称绝对值)来表示实数和复数的”大小”,从而带来许多用处.例如,数列收敛的概念就是通过绝对值来表示的.范数这个概念就是这些表示”大小”的数值普遍化.它在研究数值计算方法的收敛性和稳定性中有着重要的应用. ① 向量的范数定义1. 如果向量)(n n C R x 或∈的某个实值函数x x N =)( ，满足条件：1. 正定性:║x ║≥0,║x ║=0 iff x =02. 齐次性:║c x ║=│c │║x ║, C c ∈∀3.三角不等式:①║x +y ║≤║x ║+║y ║ ② | y x - |y x -≤则称C n 中定义了向量范数║x ║为向量x 的范数。
可见向量范数是向量的一种具有特殊性质的实值函数。
常用向量范数有：（令x =( x 1,x 2,…,x n )T ）1-范数： ║x ║1=│x 1│+│x 2│+…+│x n │ 2-范数： ║x ║2=(│x 1│2+│x 2│2+…+│x n │2)1/2 ∞-范数： ║x ║∞=max(│x 1│,│x 2│,…,│x n │)易得║x ║∞≤║x ║2≤║x ║1≤n 1/2║x ║2≤n ║x ║∞P -范数： ).,1[,)(11∞∈=∑=P x xni P Pi P其中定理1.C n 中任意两种向量范数║x ║α,║x ║β是等价的,即m ,M >0使m ║x ║α≤║x ║β≤M ║x ║可根据范数的连续性来证明它.由定理1可得。
定理2.0lim lim )()(=-⇔=*∞→*∞→x x x x k k k k ，其中•为向量的任一种范数。
此时称{x (k )}收敛于x ,记作x (k ) →x (k →∞),或x x k k =∞→)(lim 。
② 矩阵的范数定义2.设R X C X n n ∈→∈•⨯:,满足1. 正定性:║X ║≥0,║X ║=0 iff X =02. 齐次性:║c X ║=│c │║X ║, C c ∈∀3. 三角不等式:║X +Y ║≤║X ║+║Y ║4. 相容性: ║XY ║≤║X ║║Y ║ 则称C n ⨯n 中定义了矩阵范数,║X ║为矩阵X 的范数.注意:矩阵X 可视为n 2维向量,故有前三条性质.因此定理1,2中向量的等价性和向量序列收敛的概念与性质等也适合于矩阵.第四条,是考虑到矩阵乘法关系而设.║Ax ║≤║A ║║x ║所谓由向量范数导出的矩阵范数与该向量范数就是相容的.定理3. 设A 是n ×n 矩阵,║•║是n 维向量范数则║A ║=max{║Ax ║/║x ║=1}= max{║Ax ║/║x ║，x ≠0}是一种矩阵范数,称为由该向量范数导出的矩阵范数或算子范数,它们具有相容性或者说是相容的。
单位矩阵的算子范数为1。
可以证明任一种矩阵范数总有与之相容的向量范数.例如定义:║x ║=║X ║,X =(xx …x )常用的三种向量范数导出的矩阵范数是1-范数:║A ║1= max{║Ax ║1/║x ║1=1}=∑=≤≤ni jj nj a 11max2-范数:║A ║2=max{║Ax ║2/║x ║2=1}=1λ,λ1是A T A 的最大特征值.∞-范数:║A ║∞=max{║Ax ║∞/║x ║∞=1}=∑=≤≤nj ij ni a 11max此外还有Frobenius 范数:∑==nj i ij Fa A1,212)(.它与向量2-范数相容.③ 矩阵譜半径定义3.设A 是n ×n 矩阵,λi 是其特征值,i =1,2,…,n .称i ni A λρ≤≤=1max )(为A 的譜半径.譜半径是矩阵的函数,但非矩阵范数.对任一矩阵范数有如下关系:ρ(A )≤║A ║因为任一特征对λ,x ,Ax =λx ,令X =(xx …x ),可得AX =λX .两边取范数,由矩阵范数的相容性和齐次性就导出结果.定理3. 矩阵序列I ,A ,A 2,…A k ,…收敛于零的充分必要条件是ρ(A )<1.5.5 误差分析① 病态现象例3给出一个方程组顺序消去法解的误差很大,主元素法解的误差很小.该方程组数据有微小变化时解的变化也小.但有些方程组不是这样的,数据有微小变化时解的变化大.换句话说后一种方程组对数据变化敏感,前一种方程组对数据变化不敏感,这两种方程组(和相应的矩阵)分别称为病态的和良态的. 例5. 病态方程组⎥⎦⎤⎢⎣⎡→⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡→⎥⎦⎤⎢⎣⎡110001.220001.1111,02220001.1111例6. 病态矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡--------=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=-28004200168014042006480270024016802700120012014024012016,7/16/15/14/16/15/14/13/15/14/13/12/14/13/12/11144H H H 4取五位有效数字,其逆误差在前面第二、三位上:⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡--2871.14310.0-1726.1144.20-4310.0-6650.12771.3- 246.491726.12771.3-1229.972.122144.20- 246.4972.122248.16② 扰动分析与矩阵条件数现在考虑系数、右端项有扰动时解的变化,也就是数据有误差时解的误差. 设Ax =b ,右端项有扰动A (x +δx )=b +δb ,A 可逆解皆存在惟一,其差δx =A -1δb, ║δx ║≤║A -1║║δb ║, ║δx ║/║x ║≤(║A -1║║A ║)║δb ║/║b ║再考虑系数有扰动(A +δA )(x +δx )=b.首先,当A 可逆,║A -1║║δA ║<1时A +δA 可逆.因为此时ρ(A -1δA )≤║A -1δA ║≤║A -1║║δA ║<1,I +A -1δA 可逆,从而A +δA=A (I +A -1δA )可逆.原方程与扰动方程解皆存在惟一,二方程相减有A δx = -δA (x +δx ), δx = -A -1δA (x +δx )两边取范数可得║δx ║≤║A -1║║δA ║(║x ║+║δx ║)从而有AAA AA A xxδδδ111---≤类似的方法不难导出一般情况下,即系数、右端项都有扰动时的估计:⎪⎪⎭⎫⎝⎛+-≤--A A x xA A AA A A xxδδδδδ111 注意到估计式表明:║A -1║║A ║不大,对解的影响也不大; ║A -1║║A ║越大,扰动对解的影响也越大.这就是说该向量是方程组敏感性以及病态或良态的度量，称为矩阵的条件数,记为Cond(A )ν=║A -1║ν║A ║ν.它有如下性质:1. Cond(A )≥12. Cond(c A )=Cond(A ),c ≠03. Cond(A )2=║A -1║2║A ║2=21λλ称为谱条件数。