数值分析讲义线性方程组的解法
数值分析--解线性方程组的直接方法
值 为A的特征值，x为A对应的特征向量，A的全体特征值
分 析
称为A的谱，计作 ( A),即 ( A) {i ,i 1,2,, n}, 则称
》
( A)
max
1in
|
i
|
为矩阵A的谱 半 径.
三、特殊矩阵
第5章 解线性方程组的直接方法
1) 对角矩阵
2) 三对角矩阵
3) 上三角矩阵
4) 上海森伯(Hessenberg)阵
分 析
1.00x 1.00y 2.00
》 解法1： 1.00105 x 1.00 y 1.00
(1.00 1.00105) y (2.00 1.00105)
1.00105 x 1.00 y 1.00
1.00
105
y
1.00
105
x 0.00,
y 1.00
第5章 解线性方程组的直接方法
1
Ly b y 3,Ux y x 1.
2
1
第5章 解线性方程组的直接方法
§3 高斯主元素消去法
若ak(kk) 0,或ak(kk)很接近于0，会导致其他元素数量级严重 增长和舍入误差的扩散，使得计算结果不可靠.
《例3’采用3位十进制，用消元法求解
数 值
1.00105 x 1.00y 1.00
L21L1 U2U11
L21L1
U
U 1
21
I
(因为上式右边为上三角矩阵，左边为单位下三角矩阵
从而上式两边都必须等于单位矩阵)
《 数
L1 L2 , U1 U2
1 1 1
值分例2
析
.例1中，A
0
4
-1，将A作LU分解。
数值分析与算法 简单迭代法求解线性方程组
简单迭代法求解线性方程组1．原理：将原线性方程组Ax=b中系数矩阵的主对角线移到一边并将其系数化为一，然后在给定迭代初值的情况下通过迭代的方法求解线性方程组的值。
2．C语言实现方式：(1)计算迭代矩阵：将系数矩阵的所有值分别处以各自所在行的主对角线值，然后将主对角线赋值为0。
(2)输入迭代初值，进行迭代将迭代初值存入y[n]矩阵，然后利用迭代式nn=nn+x[i][j]*y[j];y[i]=nn+b[i];经过有限次迭代得到误差要求以内的值3．源程序如下：#include<iostream>#include<math.h>#include<iomanip>using namespace std;#define kk 50 //定义最大方程元数int n,i,c,j,hh,gg,mm;double A[kk][kk],x[kk][kk],b[kk],y[kk],a[kk],z[kk],m,nn,d,e=1,w,fff ;void main(){cout<<"输入的方程元数"<<endl; //数据的输入cin>>n;cout<<"请输入方程系数矩阵:"<<endl;for(i=0;i<n;i++)for(j=0;j<n;j++)cin>>A[i][j];cout<<"请输入右边向量:"<<endl;for(i=0;i<n;i++)cin>>b[i];cout<<"输入你想要的迭代精度(建议1e-5以上)！"<<endl; cin>>fff;cout<<"输入最大迭代次数（建议300次以上）！"<<endl; cin>>mm;//计算出迭代矩阵for(i=0;i<n;i++){b[i]=b[i]/A[i][i];for(j=0;j<n;j++){if(i==j){x[i][i]=0;}else{x[i][j]=-A[i][j]/A[i][i];}}}//输出迭代矩阵cout<<"计算出迭代矩阵为："<<endl;for(i=0;i<n;i++){for(j=0;j<n;j++)cout<<x[i][j]<<" ";cout<<b[i]<<" ";cout<<endl;}//赋迭代初值cout<<"输入迭代初值"<<endl;for(i=0;i<n;i++)cin>>y[i];int f=1;//简单迭代法cout<<" ";for(i=1;i<n+1;i++)cout<<'\t'<<"X["<<i<<"]"<<" "<<'\t';cout<<"精度";cout<<endl;cout<<"迭代初值为： ";cout<<setiosflags(ios::fixed);for(i=0;i<n;i++)cout<<y[i]<<" ";cout<<endl;while(e>fff){for(i=0;i<n;i++){z[i]=y[i];nn=0;for(j=0;j<n;j++){nn=nn+x[i][j]*y[j];y[i]=nn+b[i];}e=fabs(z[0]-y[0]);if(fabs(z[i]-y[i])>e)e=fabs(z[i]-y[i]);if(i==0){cout<<setiosflags(ios::fixed);cout<<"第"<<setw(3)<<setprecision(3)<<f++<<"次迭代"<<" "; }cout<<setiosflags(ios::fixed);cout<<setw(8)<<setprecision(8)<<y[i]<<" ";}cout<<e;cout<<endl;if(f>mm){cout<<"迭代次数大于"<<mm<<"次"<<endl;cout<<"认为方程发散，迭代不收敛"<<endl;exit(1);}}cout<<endl;cout<<endl;cout<<"方程迭代了"<<f-1<<"次,达到你所要求的精度"<<fff<<endl;cout<<"最后结果为："<<endl;cout<<endl;for(i=0;i<n;i++){cout<<"X"<<"["<<i+1<<"]"<<"="<<y[i];cout<<endl;}exit(1);}4．实验数据和结果：按照提示依次输入方程元数，系数矩阵，右边向量和迭代初值。
数值分析——线性方程组直接解法
b
b2
an1
an2
ann
xn
bn
2020/8/22
第五章 线性方程组的直接解法
2
若系数矩阵A非奇异，即 det (A)≠0 ,则方程组有
惟一解 x =( x1, x2, …, xn )T .
根据 Gramer（克莱姆）法则，求解方程组（7.1）时， 要计算大量的行列式，所需乘法次数大约为
Gauss消去法由消元和回代两个过程组成，先讨论 一个具体的线性方程组的求解。
2020/8/22
第五章 线性方程组的直接解法
5
一、顺序Gauss消 例去7.1法. 用Gauss消去法解方程组 用增广矩阵进行进算
2 x1 4 x2 2 x3 2
x1
2 x2
3 x3
3
3 x1 2 x2 5 x3 1
a(1) 1n
a(2) 2n
a(3) 3n
b1(1) b2( 2 )
b3( 3 )
0
0
a(3) n3
a(3) nn
bn(3)
其中
a(3) ij
a(2) ij
l
i
a(2)
2 2j
,
i, j 3,4,, n
b(3) i
b(2) i
li
b(2)
2020/8/22
第五章 线性方程组的直接解法
4
§1 Gauss消去 法
Gauss（高斯）消去法是一种规则化的加减消元法
基 本思 想
通过逐次消元计算把需求解的线性方程组转化成 上三角形方程组，也就是把线性方程组的系数矩阵转 化为上三角矩阵，从而使一般线性方程组的求解转化 为等价（同解）的上三角形方程组的求解。
数值分析第三章线性方程组解法
数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。
线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。
线性方程组的解法包括直接解法和迭代解法两种方法。
一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。
这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。
1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。
这种方法可以减少计算量，提高计算效率。
1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。
它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。
Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。
二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。
Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。
2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。
它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。
Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。
2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。
它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。
SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。
三、总结线性方程组解法是数值分析中的一个重要内容。
直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。
数值分析第五章线性方程组-数值分析课件
即
(1) (1) (1) (1) a11 x1 a12 x 2 a1n x n b1 ( 2) ( 2) ( 2) a 22 x 2 a 2 n x n b2 (n) (n) a x b nn n n
3.2 解线性方程组的直接法（高斯消去法） 3.2.1 高斯消去法的基本思想 先用一个简单实例来说明Gauss法的基本思想 例3.1 解线性方程组
2 x1 x 2 3 x3 1 4 x1 2 x 2 5 x 3 4 x 2x 7 2 1
① ② ③
解: 该方程组的求解过程实际上是将一个方程乘或 除以某个常数,然后将两个方程相加减,逐步减少方 程中的未知数,最终使每个方程只含有一个未知数, 从而得出所求的解。整个过程分为消元和回代两个 部分。
( 3.3 )
解线性方程组（3.1）的高斯（Gauss）消去法的消元 过程就是对( 3.3 )的增广矩阵进行初等行变换。将例 3.1中解三阶线性方程组的消去法推广到一般的 n n 阶线性方程组并记 (1) aij aij , bi(1) bi (i, j 1,2,, n)
则高斯消去法的算法构造归纳为：
需要(n-1)2次乘法运算及(n-1)2次加减法运
算,
第k 步
1 2 3 … n-1 合计
加减法次 数 (n-1)2 (n-2)2 (n-3)2 … 1 n(n-1) (2n-1)/6
乘法次数
(n-1)2 (n-2)2 (n-3)2 … 1 n(n-1) (2n-1)/6
除法次数
(n-1) (n-2) (n-3) … 1 n(n-1)/2
(k ) 只要 akk 0 ,消元过程就可以进行下去,直到 经过n-1次消元之后，消元过程结束，得到与 原方程组等价的上三角形方程组,记为 A(n) x b 1) 11
数值分析第六章线性方程组迭代解法
1)
b2 a21x1(k) a23x3(k)
xn( k
1)
bn an1x1(k) an2 x2(k)
a1n
x(k) n
a11
a2n xn(k) a22
an,n1
x(k) n1
ann
x(k1) D1(L U ) x(k) D1b
D1(D A) x(k) D1b
(I D1A) x(k) D1b x(k) D1(b Ax(k) )
x(7) = ( 2.0000, 3.0000, -1.0000 )T 如何确定 SOR 迭代中的最优松弛因子是一件很困难的事
26
收敛性
收敛性定理 Jacobi 迭代收敛的充要条件 (J)<1 G-S 迭代收敛的充要条件 (G)<1 SOR 迭代收敛的充要条件 (L)<1
Jacobi 迭代收敛的充分条件 ||J|| <1 G-S 迭代收敛的充分条件 ||G|| < 1 SOR 迭代收敛的充分条件 ||L|| < 1
x1( k x2( k
1) 1)
1
x(k) 2
2
8
x ( k 1) 1
x(k) 3
3
x3(k1)
5
x ( k 1) 2
2
迭代可得： x(1) = ( 0.5000, 2.8333, -1.0833 )T
x(9) = ( 2.0000, 3.0000, -1.0000 )T
25
举例
SOR 迭代：
x(k1) i
bi
i 1
a x(k1) ij j
n
aij
x(jk
)
aii
j 1
j i 1
数值分析_第七章_解线性方程组的直接解方法
因‖R０‖＜１，故lim‖R０‖k→∞２k＝０．则２k‖Rk‖≤‖R０‖→０（k→∞），－１即Rk→０（k→∞）．Rk＝I－ACk，故当Rk→０时，Ck→A．四、习题１畅用Gauss消去法解方程组２x１＋x２＋x３＝４，３x１＋x２＋２x３＝６，x１＋２x２＋２x３＝５．２畅（１）设A是对称矩阵且a１１≠０，经过Gauss消去法一步后，A约化为a１１０证明A２是对称矩阵．（２）用Gauss消去法解对称方程组０畅６４２８x１＋０畅３４７５x２－０畅８４６８x３＝０畅４１２７，０畅３４７５x１＋１畅８４２３x２＋０畅４７５９x３＝１畅７３２１，－０畅８４６８x１＋０畅４７５９x２＋１畅２１４７x３＝－０畅８６．３畅（１）用表达式（７畅４）证明其中aij＝aij．（１）a１TA２．aij＝aij－li１a１j－li２a２j－…－li，k－１ak－１，j，i，j≥k，（k）（１）（１）（２）（k－１）（r）（２）使Gauss消去法中arj＝urj（j≥r），利用（１）证明urj＝arj－k∑lrkukj（j＝r，r＋１，…，n），＝１lir＝（air－k∑likukr）／urr（i＝r＋１，…，n）．＝１４畅设方程组x１＋２x２＋３x３＝１，５x１＋４x２＋１０x３＝０，３x１－０．１x２＋x３＝２．r－１r－１３１８（１）试用Gauss全主元消去法求解．（２）试用Gauss列主元消去法求解．５畅设A为n阶非奇异矩阵且有分解式A＝LU，其中L为单位下三角阵，U为上三角阵，求证A的所有顺序主子式均不为零．２，…，n－１）时，则有６畅由Gauss消去法证明：当Δi≠０（i＝１，A＝LU，其中L为单位下三角阵，U为上三角阵．７畅设A为n阶矩阵，若｜aii｜＞j∑｜aij｜（i＝１，２，…，n），则称A＝１j≠in为对角优势矩阵．试证明：设A是对角优势矩阵，又设经过Gauss消去法一步后，A具有形式a１１０α１TA２，则A２是对角优势矩阵．且由此推断：对于对称的对角优势矩阵，用Gauss消去法和部分（列）主元Gauss 消去法可得到同样的结论．８畅设Lk为指标是k的初等下三角矩阵，即１筹Lk＝１mk＋１，k…mnk１筹１．（除第k列对角元下元素外，Lk与单位阵I相同）求证当i，j＞k时，L珟k＝IijLkIij也是一个指标为k的初等下三角矩阵，其中Iij 为初等排列矩阵．９畅试推导矩阵A的Crout分解的计算公式：A＝LU，其中L为下三角矩阵，U 为单位上三角矩阵．１０畅设UX＝b，其中U为三角矩阵．（１）就U为上及下三角矩阵推导一般的求解公式．（２）计算解三角形方程组UX＝b的乘除法次数．３１９（３）设U为非奇异矩阵，试推导求U３２３T－１的计算公式．１１畅用平方根法（Cholesky分解）解方程组２２０３５９１－２１０３０１２５９１７０１－２１－２A＝－４－６４１８２x１x２x３x１x２x３００１－２８－１６．－２０，b＝５＝３．７１０＝１６．３０１１０－１－１１２畅用LDL分解法解方程组３３５－２A＝１００１３畅用追赶法解三对角方程组AX＝b，其中．１４畅求矩阵A的LU分解，并利用分解结果计算A．１５畅下述矩阵能否分解为A＝LU，其中L为单位下三角矩阵，U为上三角矩阵．若能分解，那么分解是否唯一？１A＝２４２４６３７０．６０．１０．５０．３１３１２３１１１６２５１５６１５．４６１，B＝２１，C＝２１６畅设A＝F唱范数．１７畅求证：，计算A的行范数、列范数、２唱范数及（１）‖X‖∞≤‖X‖１≤n‖X‖∞，３２０（２）‖A‖F≤‖A‖２≤‖A‖F．n×n１８畅设P∈R范数．定义且为非奇异矩阵，又设‖X‖为R上一向量‖X‖P＝‖PX‖．n试证明‖X‖P是R上向量的一种范数．１９畅设X∈R，X＝（x１，x２，…，xn），求证：p→∞nTn２０畅证明：当且仅当与Y线性相关且XY≥０时，才有Tlim（i∑｜xi｜＝１np）１＝１max｜xi｜＝‖X‖∞．≤i≤n‖X＋Y‖２＝‖X‖２＋‖Y‖２．２１畅设A∈Rn×n，求证特征值相等λ（AA）＝λ（AA）．TT２２畅证明：如果A＝（α１，α２，…，αn）是按列分块的，则‖A‖２F＝‖α１‖２＋‖α２‖２＋…＋‖αn‖２．２２２－１２３畅证明：如果‖B‖＜１，则‖I－（I－B）‖≤‖B‖．２４畅证明：对任何矩阵算子范数有‖I‖＝１（其中I是单位矩阵），‖A‖‖A－１‖≥１．nj≠i２５畅（１）如果A是对角优势矩阵，即｜aii｜＞j∑｜aij｜（i＝１，２，＝１…，n），证明aii≠０（i＝１，２，…，n）．（２）设A为对角优势矩阵，使A＝DB，其中D＝diag（aii），证明B＝I－C，其中‖C‖∞＜１，因此由定理（７畅１６），A是非奇异阵．（３）证明：如果应用Gauss消去法解对角优势方程组，则所有元素akk≠０．（k）２６畅设‖A‖s、‖A‖t为任意两种R明存在常数c１、c２＞０，使n×n上矩阵算子范数，证n×nc１‖A‖s≤‖A‖t≤c２‖A‖s（对一切A∈R）．３２１２７畅设A＝１００９９９９９８，计算A的条件数cond（A）ν（ν＝２，∞）．２８畅证明：如果A是正交阵，则Cond（A）２＝１．２９畅设A，B∈Rn×n且‖·‖为Rn×n上矩阵的算子范数，证明TT３０畅设A为对称正定矩阵，且其分解为A＝LDL＝WW，其中W＝L，求证：T１Cond（A·B）≤Cond（A）·Cond（B）．（１）cond（A）２＝（cond（W）２）．２（２）cond（A）２＝cond（W）２·cond（W）２．３１畅设对称正定矩阵A＝试计算‖A－１T２－１－１２，λ２，且找出b１‖２＝１／λ，‖A‖２＝λ２及cond２（A）＝（常数）及扰动δb，使‖δb‖２‖δX‖２＝cond２（A）．２２３２畅求下面两个方程组的解，并利用矩阵的条件数估计‖δX‖．２４０－１７９２４０－１７９畅５－３１９２４０２４０x１x２＝x１x２３４＝，即AX＝b，３４，即（A＋δA）（X＋δX）＝b．－３１９畅５３３畅已知Hilbert矩阵３２２１H３＝１１T１＝b时，若H３及b有微小误‖δX‖∞．∞７畅０００３－７T．（１）计算H３的条件数cond∞（H）．１１１３４７（２）解方程H３X＝差（取３位有效数字），估计解X的误差３４畅设A＝２畅０００１－２－１１，b＝，已知方程组AX＝b的精确解为X＝（３，－１）．（１）计算条件数cond∞（A）．计算剩余r＝b－AX珚．（２）若近似解X珚＝（２．９７，－１．０１），（３）利用定理７畅２０计算不等式右端，并与不等式左端比较，此结果说明什么？３５畅填空题（１）X＝（２，３，－４），则‖X‖１＝，‖X‖２＝，‖X‖∞TT＝．１－３２－１０２０１，则‖A‖１＝，ρ（A）＝．０－１则cond２（A）＝．２０a，为使A可分解为A＝LL，其中L为３２３T（２）A＝－１２－１１２（３）A＝（４）设A＝１０a２对角线元素为正的下三角形矩阵，a的取值范围，取a＝１，则L＝．五、习题解答１畅解为消去第２、３两个方程中的x１，取l２１＝，l３１＝．将第２个方程减去－l２１倍的第１个方程，第３个方程减去－l３１倍的第１个方程，得２x１＋x２＋x３－＝４，x２＋x３＝０，x２＋x３＝３．为消去第３个方程中的x２，取l３２＝－３．将第３个方程减去－l３２倍的第２个方程，得三角方程组２x１＋x２＋x３＝４，－１１x２＋x３＝０，３x３＝３．回代，算出方程组的解x３＝３／３＝１，x２＝０－１x３（１）－１＝１，x１＝（４－x２－x３）／２＝１．２畅解（１）记A＝（aij）＝（aij）．经Gauss消元一步后，A２的元素为a（２）ij（１）＝a（１）ij（１）i１（１）－a１j．１１（１）（１）（１）因A是对称的，所以有aij＝aji，ai１＝aj１，于是有３２４a故A２是对称的．（２）ij＝a（１）jij１（１）（２）－a１i＝aji．１１（１）（２）用Gauss消去法求解所给对称方程组，得X＝（４畅５８６０３５，－０畅６３１５２２８，２畅７３５１９９）．倡T ３畅解（１）因aij＝aij（k）（k－１）－li，k－１ak－１，j，（k－１）而故aij＝aij（k）（k－２）（１）aij（k－１）＝aij（k－２）－li，k－２ak－２，j，（k－２）（k－１）－li，k－２ak－２，j－li，k－１ak－１，j＝…（k－２）（１）（２）（k－２）（k－１）＝aij－li１a１j－li２a２j－…－li，k－２ak－２，j－li，k－１ak－１，j，i，j≥k．（２）由（１）有urj＝a又０＝air由此解出（r＋１）（r）rj＝arj－k∑lrkakj（j＝r，r＋１，…，n）．＝１（k）r－１＝air－li１u１r－li２u２r－…－lirurr．lir＝likukrair－k∑＝１rrr－１．４畅解（１）选主元为１０，将第一行与第二行交换，第１列与第３列交换，得１０x３＋４x２＋５x１＝０，３x３＋２x２＋x１＝１，x３－０．１x２＋３x１＝２．消去第２、３方程中的x３，得１０x３＋４x２＋５x１＝０，０畅８x２－０．５x１＝１，－０．５x２＋２．５x１＝１．第２次选的主元为２畅５．将上述第２个方程与第３个方程交３２５换，第２列与第３列交换，得１０x３＋５x１２畅５x１消去第３方程中的未知数x１，得１０x３＋５x１＋４x２＝０，２畅５x１－０．５x２＝２，０．７x２＝１．４．回代求得，x２＝２，x１＝１．２，x３＝－１．４．得（２）列主元为５，将第１行与第２行交换，再消去x１，５x１＋４x２＋１０x３＝０，１畅２x２＋x３＝１，－２．５x２－５x３＝２．列主元为－２．５，将第２行与第３行交换，再消去x２，得５x１＋４x２＋１０x３＝０，－２畅５x２－５x３回代求得x３＝－１．４，x２＝２，x１＝１．２．５畅证设A、L、U的k阶顺序主子矩阵分别为Ak、Lk、Uk（k＝１，２，…，n），显然Ak＝LkUk．由A＝LU分解的定义可知，L１U的各阶顺序主子式均不为零，即故det（Lk）＝１，det（Uk）≠０．det（Ak）＝det（Lk）det（Uk）≠０，k＝１，…，n，＝２，－１畅４x３＝１畅９６．＋４x２＝０，－０．５x２＝２，－０．５x１＋０．８x２＝１．即A的各阶顺序主子式均不为零．（i）６畅证因Δi≠０，（i＝１，２，…，n－１）（Δi是i阶顺序主子式），所以aii≠０（i＝１，２，…，n－１），则Gauss消去法可进行到底，即存３２６在指标为i的初等下三角阵Li，使Ln－１Ln－２…L１A＝U，故A＝L１其中L＝L１－１－１－１（２）－１…Ln－２Ln－１U＝LU，－１－１…Ln－２Ln－１为下单位三角阵，U是上三角阵．aij＝aij－（２）７畅证记A２＝（aij），则有i１a１j．１１nj≠in又A是对角优势矩阵，可知｜aii｜＞j∑｜aij｜，i＝１，２，…，n．故＝１∑｜a｜＝j∑j＝２＝２（２）ijj≠innnj≠ii１aij－a１j１１≤j∑｜aij｜＋j∑＝２＝２j≠i｜ai１｜｜a１j｜１１j≠in｜aij｜n∑｜a１j｜＝j∑｜aij｜－｜ai１｜＋＝１１１j＝２j≠ij≠i≤｜aii｜－＝｜aii｜－≤｜aii｜－≤aii－ni１（｜a１１｜－j∑｜a１j｜）＝２１１j≠ini１（｜a１１｜－j∑｜a１j｜＋｜a１i｜）＝２１１ni１｜a１i｜（｜a１１｜－j∑｜a１j｜＞０．）＝２１１i１（２）a１i＝｜aii｜（i＝２，…，n）．１１即A２也是对角优势矩阵．若A是对角优势矩阵，经Gauss消元一步后．A→A（２）＝a１１０αTA２．由上述证明及第２题结论知，A２仍是对角优势矩阵，即｜a｜＞j∑｜aij｜（i＝２，…，n）．＝２（２）ii（２）由对称性也有３２７｜a｜＞i∑｜a｜＝i∑｜aij｜，（j＝２，…，n）．＝２＝２（２）jj（２）ji（２）i≠ji≠jnn这正好与Gauss顺序消去而第二步消元前所选列主元应为a２２，（k）法的主元相同．以此类推第k次所选主元就是akk，所以用Gauss （２）顺序消去法和列主元消去法得到同样的结果．８畅证因１筹Lk＝１mk＋１，k…mnk０，１，０，…，０）．故ek＝（０，…，T第k列＝I－lkek．筹TT其中I是单位阵，lk＝（０，…，０，－mk＋１，k，…，－mik，…，－mn，k），L珟k＝IijLkIij＝Iij（I－lkek）Iij＝IijIIij－（Iijlk）（ekIij）＝I－lkek′TTT仍是指标为k的初等下三角阵，其中lk＝（０，…，０，－mk＋１，k，…，mjk，…，－mik，…，－mnk）．′T９畅解设A＝LU，即a１１a１２…a１na２１a２２…a２n…………an１an２…ann根据矩阵乘法，有ai１＝li１u１１＝li１，i＝１，…，n，a１j＝l１１u１j，得u１j＝３２８，j＝２，…，n．１１＝l１１l２１l２２……筹ln１ln２…lnn１u１２１…u２３筹……筹筹u１nu２n…un－１，n１．现设L的前k－１列与U的前k－１行已算好，因akk－１ik＝r∑＝１lirurk＝r∑＝１lirurk＋likukk（i＝k，…，n，ukk＝１），k－１所以lik＝aik－r∑＝１lirurk（i＝k，…，n）．同样akk－１kj＝r∑＝１lkrurj＝r∑＝１lkrurj＋lkkukj（j＝k＋１，…，n），k－１kj所以u－r∑＝１lkrurjkj＝akk，j＝k＋１，…，n．综上，Crout分解公式li１＝ai１，i＝１，２，…，n，u１j＝a１j／l１１，j＝２，…，n，lk－１ik＝aik－r∑＝１lirurk，i＝k，…，n，uk－１kj＝（akj－r∑＝１lkrurj）／lkk，j＝k＋１，…，n．１０畅解（１）设U为上三角阵，则有u１１……u１nx１b１u２２…u２nx２筹……＝b２…．unnxnbn由unnxn＝bn，得xn＝bn／unn．一般地，由uiixi＋ui，i＋１xi＋１＋…＋uinxn＝bi，得nxbi－j＝∑ijxji＝ui＋１ii（i＝n－１，n－２，…，１）．当U是下三角矩阵时，有３２９u１１u２１…un１u２２…un２筹…unnx１x２ (x)n＝b１b２…bn．由u１１x１＝b１，得x１＝b１／u１１．一般地，由ui１x１＋ui２x２＋…＋uiixi＝bi，i＝２，…，n，得xi＝（bi－j∑uijxj）／uii，i＝２，…，n．＝１（２）乘法次数，对固定的i有n－i次，i从１到n，所以总乘法次数R（n－i）＝i∑i＝R＝i∑＝１＝１除法次数D，D＝n．＋n故总的乘除法次数＝＋n＝．２nn－１i－１．（３）设Uu１１…筹－１＝V，这里V也是上三角阵，即u１n…unn v１１…筹v１n (v)nnj１＝UV＝１筹１．V按行计算，i＝n－１，…，１，vij＝－k＝i＋１∑uikvkjii，j＝i＋１，…，n．vii＝，i＝１，２，…，n．ii２２３＝２＞０，Δ３＝２３２２０３０１２＞０．１１畅解因系数矩阵顺序主子式Δ１＝３＞０，Δ２＝３２且系数矩阵对称，故为正定方程组．按照算法（７畅９）得３３０l１１＝，l２１＝２／，l３１＝，l２２＝则有３２３２２０３０１２由２／得再由２／y１＝－y１y２y３５＝３，７＝２／－２／－．，l３２＝－，l３３＝．５１１，y２＝－，y３＝．x１x２x３＝５／－１／，１／－得x３＝１１，x２＝，x１＝１．１２畅解此方程组的系数矩阵为对称正定矩阵，因此可用改进的平方根法，用算式（７畅１１）得到d１＝a１１＝３，t２１＝a２１＝３，l２１＝d２＝a２２－t２１l２１＝５－３＝２，t３２＝a３２－t３１l２１＝９－１＝８，l３２＝t２１３＝＝１，１３１５＝，１t３１＝a３１＝５，l３１＝３２８２＝＝４，d３＝a３３－t３１l３１－t３２l３２＝．２３３１１则A＝LDL＝T３１２１１１５／３２．１５／３２１２／３１由LY＝b，即１y１１０１１y２＝１６，５／３２１y３３０得y１＝１０，y２＝６，y３＝４／３．再解DLTX＝Y，得x３＝２，x２＝－１，x１＝１．１３畅解设－２１００１u１d１１－２１０l２１u２d２０１－２１＝l ３１u３００１－２l４１由分解公式（７畅１５）计算得d１＝１，d２＝１，d３＝１，u１＝－２，l２＝－１，u２＝－３，l３＝－２，u３＝－４，l４＝－３，u４＝－５．由公式（７畅１６）解１y１１－１１LY＝b＝痴y２１－２１y＝３０，－１y４－１得y１＝１，y２＝３，y３＝１，y４＝－１．再由公式（７畅１７）解３３２d３．u４－２UX＝Y痴１－x１１－４１－x２x３＝１３１，１－x４１３７６得x４＝，x３＝－，x２＝－，x１＝－．１４畅解由矩阵的三角分解公式（７畅６），计算得１－２４８A＝LU＝２１０１０－３２．３－１１００－７６１００－０．５０畅２－０畅１３６９－１－１L＝－２１０，U＝０畅１－０畅０４２１１．－５１１－０畅０１３１６所以－０畅２１５５０畅０６３１－０畅１３６９－１－１－１A＝UL＝０畅０１０５５０畅０５７８９－０畅０４２１１．０畅０６５３－０畅０１３１６－０畅０１３１６１５畅解设A能分解，则有１A＝LU＝l２１l３１０１l３２００１u１１００u１２u２２０u１３u３３u３３１＝２４２４６３１．７由分解公式（７畅６）知，u１１＝１，u１２＝２，u１３＝３，l２１＝２，l３１＝４，u２２＝０，而a３２＝l３２u２２＋l３１u１２＝０＋４×２＝８与a３２＝６矛盾，故A的LU分解不能进行．但A为非奇异阵，所以存在排列阵P，使PA＝LU．即将A的１行与２行交换，则可分解为LU．设B＝LU，则１２３１２３１１＝１１l２１l３１０１l３２００１u１１００u１２u２２０u１３u２３u３３３３３．由分解公式（７畅６）知，u１１＝u１２＝u１３＝１，l２１＝２，l３１＝３，u２２＝０．而由３＝l３１u１２＋l３２u２２，得３＝３＋l３２u２２．故l３２可任选，即B的三角分解存在且不唯一．因C的各阶顺序主子均不为０，故由定理７畅４知，C的三角分解存在且唯一．１６畅解A的行范数６＋０．５，０．１＋０．３｝＝１．１．‖A‖∞＝max｛０．A的列范数６＋０．１，０．５＋０．３｝＝０．８．‖A‖１＝max｛０．‖A‖F＝（０．３６＋０．２５＋０．０１＋０．０９）AA＝T１／２＝０．８４２６．０畅３３０畅３４．０畅６０畅５０畅１０畅３０畅６０畅１０畅６０畅３＝２０畅３７０畅３３｜λI－AA｜＝Tλ－０畅３７－０畅３３－０畅３３λ－０畅３４＝λ－０．７１λ＋０．０１６９＝０．所以λmax（AA）＝０．６８５，则‖A‖２＝１７畅证（１）由定义知，‖X‖∞≈０畅８３．n＝１max｜xi｜≤i∑｜xi｜≤i≤n＝１＝‖X‖１≤i∑max｜xi｜＝n‖X‖∞，＝１１≤i≤n∞n从而‖X‖２∞≤‖X‖１≤n·‖X‖TT．（２）由范数定义有‖A‖２＝λmax（AA）≤λ１（AA）＋λ２（AA）＋…＋λn（AA）TT＝AA的对角元之和＝i∑a＋i∑a＋…＋i∑ani＝１＝１＝１T２１i２２２i２nnn＝j∑∑a＝i∑∑aij＝‖A‖F．＝１i＝１＝１j＝１２２nnnn又‖A‖２＝λmax（AA）２T３３４≥＝从而TTT［λ１（AA）＋λ２（AA）＋…＋λn（AA）］１２‖A‖F．‖A‖F≤‖A‖２≤‖A‖F．注：此处用到了矩阵的特征值之和等于其对角线上元素之和的概念．从所证不等式也知道，矩阵的２唱范数可由F唱范数得到控制；矩阵的２唱范数与F唱范数是等价的．１８畅证只要证明‖X‖P＝‖PX‖满足范数定义的（１），（２），（３）．（１）因P非奇异，故对任意X≠0，PX≠0，则‖X‖P＝‖PX‖＞０；当X＝0时，PX ＝0，则‖X‖（２）对任意实数α，‖αX‖P＝‖PαX‖＝‖αPX‖＝｜α｜‖PX‖＝｜α｜‖X‖（３）‖X＋Y‖PPP＝‖PX‖＝０；当‖X‖P＝‖PX‖＝０时，则PX＝0，即X＝0．．＝‖P（X＋Y）‖＝‖PX＋PY‖≤‖PX‖＋‖PY‖＝‖X‖P＋‖Y‖P．综上所述，‖X‖P是R上的一种向量范数．１９畅证因‖X‖p∞n＝１max｜xi｜≤i∑｜xi｜≤n·１max｜xi｜＝n·‖X‖≤i≤n≤i≤n＝１‖X‖∞≤（i∑｜xi｜）＝１np１／ppnppp∞，两边开p次方有≤n‖X‖∞．１而plim＝１，故→∞２０畅证由Cauchy不等式，有｜（X，Y）｜≤‖X‖２‖Y‖２，且当且仅当X、Y线性相关时，有３３５lim（i∑｜xi｜）p→∞＝１pn１／p１＝‖X‖∞．｜（X，Y）｜＝‖X‖２‖Y‖２；又当且仅当XY≥０时，有｜（X，Y）｜＝（X，Y）．T故（X，Y）＝‖X‖２‖Y‖２当且仅当X、Y线性相关，且XYT≥０时，所以‖X＋Y‖２＝（X＋Y，X＋Y）＝（X，X）＋２（X，Y）＋（Y，Y）＝‖X‖２＋２‖X‖２‖Y‖２＋‖Y‖２２２＝（‖X‖２＋‖Y‖２）２当且仅当X、Y线性相关，且X，Y≥０时，即‖X＋Y‖２＝‖X‖２＋‖Y‖２迟痴X，Y线性相关，且XY≥０．T２１畅证由于I－A及记B＝μIATTOμI－AIμIAATTAμIAμIμIO２２AμI－AATT，．（７畅２６）（７畅２７）μIOAμIμIμI－AAATOμI．对（７畅２６）、（７畅２７）两式两边取行列式得μdet（B）＝μdet（μI－AA），nnnn２２T记λ＝μ≠０，故２μdet（B）＝μdet（μI－AA）．TTT２２畅证设A＝（α１α２…αn）按列分块，即αj＝（α１j，α２j，…，αnj）（j ＝１，２，…，n），则‖αj‖＝i∑αij．而＝１２２２Tndet（λI－AA）＝det（λI－AA）．‖α１‖＋‖α２‖２２nn２ij２２＋…＋‖αn‖＝j∑‖αj‖２＝１２２２nn２２n＝j∑（∑α）＝j∑∑αij＝‖A‖F．＝１i＝１＝１i＝１２３畅证因‖B‖＜１，由定理７畅１６知I－B可逆且‖（I－B）－１‖≤，所以３３６‖I－（I－B）－１‖＝‖（I－B）≤‖（I－B）≤－１－１（I－B－I）‖‖‖B‖‖B‖．２４畅证由矩阵算子范数定义有‖I‖＝maxX≠O由矩阵范数的相容性有‖A‖‖A优势矩阵，则j＝１j≠i０－１‖IX‖‖X‖＝max＝１．X≠O‖≥‖AA－１‖＝‖I‖＝１．２５畅证（１）用反证法．若有某个i０使ai０i０＝０，因A是对角∑｜ai０j｜＜｜ai０j０｜＝０．n这是不可能的．得证．（２）因A＝DB，即a１１A＝a２１…an１而１B＝a２１２２…n１nn１２１１１………………１n１１a２n２２…１＝１１１１３３７…………a１na２n…anna１１a２２筹ann１２１２２…n１nn a１２１１１………………a１n１１２n２２…１＝DB．＝０－－－a２１２２n１nn －１２１１０…………－１n１１＝I－C．a２n２２０‖C‖∞＝maxi∑j＝１nj≠iaijii＝max∑ij＝１n｜aij｜＜１i ij≠in｜aij｜＜｜aii｜）．所以由定理（这是因为A是对角优势矩阵，则j∑＝１j≠i７畅１６知，B＝I－C为非奇异阵．由（１）aii≠０，故D非奇异．因此A＝DB 非奇异．２，…，n．而a１１（３）设A为对角优势阵，由（１）知aii≠０，i＝１，＝a １１，所以a１１≠０．又设经Gauss消元一步后A具有形式：（１）（１）a１１０（２）（k）α１TA２．（２）由习题７知，A２也是对角优势矩阵．又由（１）知aii≠０，i＝２，…，n，即有a２２≠０．如此类推akk≠０．２６畅证因‖A‖s＝maxX≠O‖AX‖s．s对一切X都有由定理７畅１０知，存在a１，a２＞０，b１，b２＞０，a１‖AX‖s≤‖AX‖t≤a２‖AX‖s，与b１‖X‖s≤‖X‖t≤b２‖X‖s．于是１‖AX‖s‖AX‖t２‖AX‖s≤≤．１st２s令１２＝c１＝c２，故有１２c１‖AX‖s‖AX‖t‖AX‖s≤≤c２．sts３３８c１maxX≠0即‖AX‖s‖AX‖t‖AX‖s２max≤max≤c．X≠0X≠0stsc１‖AX‖s≤‖AX‖t≤c２‖AX‖s．１００９９A－１２７畅解A＝９９９８＝，则－９８９９‖A－１９９－１００．‖A‖∞＝１９９，‖A－１‖∞＝１９９，所以∞因A是对称矩阵，故cond（A）∞＝‖A‖‖∞＝１９９×１９９＝３９６０１．λmax（A）．min＝λ－１９８λ－１＝０，２cond（A）２＝由det（λI－A）＝得即λ－１００－９９－９９λ－９８λ１＝１９８畅００５０５０３，λ２＝－０畅００５０５０３５．cond（A）２＝λ１＝３９２０６．２T－１２８畅证因A是正交阵，故A＝Acond（A）２＝max＝min，则max＝１．minmax＝min－１－１２９畅证由条件数的定义及矩阵范数的相容性，有cond（AB）＝‖AB‖‖（AB）＝‖A‖‖AT－１‖‖‖A≤‖A‖‖B‖‖B‖‖‖‖B‖‖B＝cond（A）cond（B）．３０畅证（１）因A＝WW，所以cond（A）２＝‖A‖２‖A２－１－１T‖２＝‖WW‖２‖（WW）TT－１‖２＝‖W‖２‖W‖２＝（cond（W）２）．２２T（２）由习题２１知，λ（WW）＝λ（WW），则３３９‖W‖２＝TTTmax＝－T故由（１）得，cond（W）２＝‖W‖２‖Wmax＝‖W‖２．－１‖２＝‖W‖２‖W２T‖２＝cond（W）２．３１畅解由cond（A）２＝［cond（W）２］＝cond（W）２cond（W）２．｜λI－A｜＝λ－２１＝λ－４λ＋３＝０，２解得所以‖A设b＝－１λ１＝１，λ２＝３．‖２＝１，‖A‖２＝３，cond（A）２＝，δb＝１１，这时有λ２＝３．１１－１‖δX‖２‖δb‖２＝cond（A）２．２２事实上，设X＋δX＝Y，则A（X＋δX）＝b＋δb，即２－１解得y１＝又解得x１＝所以δX＝＝２－１２y１y２＝２０，４２，y２＝．２－１１１，x２＝－．－１２x１x２＝１－１，＋＝＝３．而cond（A）２＝３４０‖δb‖２＝cond（A）２２＝cond（A）２＝３，故‖δX‖２‖δb‖２＝cond（X）２．２２３２畅解记A＝T２４０－１７９－３１９２４０T，δA＝０－０畅５－０畅５０则AX＝b的解X＝（４，３），而（A＋δA）（X＋δX）＝b的解（X＋δX）＝（８，６）．故‖X‖而A－１∞＝４，‖δX‖＝２４０１７９－１－１∞＝４．，∞∞３１９２４０‖A‖‖δA‖‖δA‖cond∞（A）＝‖A∞‖‖∞∞＝６２６畅２，＝０畅５６０１２．＝０畅５，‖A由推论７畅１９畅２得‖δX‖∞∞‖δA‖∞∞０畅５６０１２≤＝≤１畅２７４，∞１－cond∞（A）∞∞‖δX‖∞≤１畅２７４‖X‖∞≤５畅１０，表明估计‖δX‖∞＝４略大，是符合实际的．９３３畅解（１）H３－１－３６１９２－１８０３０－１８０；１８０＝－３６３０‖H３‖∞＝所以cond∞（H３）＝７４８．－１，‖H３‖∞＝４０８，（２）方程组在H３及b有微小变化时为１畅０００畅５０００畅３３３０畅５０００畅３３３０畅２５００畅３３３０畅２５００畅２００x１＋δx１x２＋δx２x３＋δx３１畅８３＝１畅０８０畅７８３３４１简记为（H３＋δH３）（X＋δX）＝b＋δb，它的精确解为X＋δX＝（１畅０８９５１２５３８，０畅４８７９６７０６２，１畅４９１００２７９８）．T而H３X＝b的精确解X＝（１，１，１），于是δX＝（０畅０８９５，－０畅５１２０，０畅４９１０）．‖δH３‖∞‖δb‖∞－３≈０畅１８×１０＜０畅０２％，≈０畅１８２％３∞∞而‖δX‖∞≈５１畅２％．∞这表明H３及b的相对误差不超过０畅３％，而引起解的相对误差超过５０％．由推论７畅１９畅２，可得‖δX‖∞≤∞≤３∞１－cond∞（H３）３∞‖δb‖∞‖δH３‖∞＋３∞∞TT４０８（（０畅０００２）＋０畅００１８２）≤０畅８９７４＝８９畅７４％．这个估计结果比实际误差大是合理的．３４畅解（１）先算出A于是cond∞（A）＝‖A（２）r＝b－AX珚＝＝７畅０００３－７－１＝‖∞１００００２００００‖A‖－∞１００００２０００１２畅０００１－２＝，－１＝４０００１×３畅０００１≈１２００１２．－１１０畅０５－０畅０５．２畅９７－１畅０１７畅０００３－７－６畅９５０３－６畅９５∞∞（３）依定理７畅２０，右端为cond∞（A）而左端为３４２‖r‖＝１２００１２×０畅０５≤８５７畅１９２，‖X－X珚‖∞０畅０３＝＝０畅０１．∞这表明当A为病态矩阵时，尽管剩余‖r‖很小，误差估计仍然较大，因此，当A病态时用‖r‖大小作为检验解的准确度是不可靠的．３５畅解（１）‖X‖１＝９，‖X‖２＝２（３）由１１２０a＞０，得a＜３，故a的取值范围－＜a＜２，‖X‖∞＝５．２（２）‖A‖１＝４，ρ（A）＝１（｜λI－A｜＝（λ－１），λ１，２＝１）．０a２，取a＝１时，L＝１００００．２３４３。
数值分析小论文线性方程组的直接解法
数值分析小论文线性方程组的直接解法线性方程组的直接解法是指通过一系列的代数运算直接求解线性方程组的解。
线性方程组是数值分析中非常重要的问题，广泛应用于工程、科学、计算机图形学等领域。
在线性方程组的直接解法中，最常用的方法是高斯消元法，它是一种基于矩阵变换的方法。
高斯消元法将线性方程组表示为增广矩阵，并通过一系列的行变换将增广矩阵转化为行阶梯形矩阵，从而得到方程组的解。
高斯消元法的主要步骤包括消元、回代和得到方程组的解。
消元是高斯消元法的第一步，通过一系列的行变换将增广矩阵的元素转化为上三角形式。
在消元过程中，我们首先找到主元素，即矩阵的对角线元素，然后将其它行的元素通过消元操作转化为0，从而使得矩阵逐步变成上三角形矩阵。
回代是高斯消元法的第二步，通过一系列的回代操作求解线性方程组。
回代操作是从上三角形矩阵的最后一行开始，通过依次求解每个未知数的值，最终得到方程组的解。
高斯消元法的优点是算法简单易于实现，可以在有限的步骤内求解线性方程组，适用于一般的线性方程组问题。
但是高斯消元法也存在一些问题，例如当矩阵的主元素为0时，无法进行消元操作，此时需要通过行交换操作来避免这种情况。
另外，高斯消元法对病态矩阵的求解效果较差，容易引起舍入误差累积，导致解的精度下降。
在实际应用中，为了提高求解线性方程组的效率和精度，人们常常使用一些改进的直接解法，例如列主元高斯消元法和LU分解法。
列主元高斯消元法通过选择最大主元来避免主元为0的情况，进一步提高了求解线性方程组的精度。
LU分解法将矩阵表示为两个矩阵的乘积，从而将线性方程组的求解问题转化为两个三角形矩阵的求解问题，提高了求解效率。
综上所述，线性方程组的直接解法是一种基于矩阵变换的方法，通过一系列的代数运算求解线性方程组的解。
高斯消元法是最常用的直接解法之一，它简单易于实现，适用于一般的线性方程组问题。
在实际应用中，可以通过改进的直接解法来进一步提高求解效率和精度。
数值分析——线性方程组直接解法Hilbert矩阵
数值分析第一次上机实习报告——线性方程组直接解法一、问题描述设 H n = [h ij ] ∈ R n ×n 是 Hilbert 矩阵, 即11ij h i j =+- 对n = 2,3,4，…13,(a) 取11n n x R ⨯⎛⎫ ⎪=∈ ⎪ ⎪⎝⎭，及n n b H x =，用Gauss 消去法和Cholesky 分解方法来求解n n H y b =，看看误差有多大.(b) 计算条件数：2()n cond H(c) 使用某种正则化方法改善(a)中的结果.二、方法描述1. Gauss 消去法Gauss 消去法一般用于系数矩阵稠密且没有任何特殊结构的线性方程组。
设H =[h ij ]，y = (y 1,y 2,…，y n )T . 首先对系数矩阵H n 进行LU 分解，对于k=1,2，…n,交替进行计算：1111),,1,,1(),1,2,,k kj kj kr rj r k ik ik ir rk r kk u h l u j k k n l a l u i k k n u -=-=⎧=-=+⎪⎪⎨⎪=-=++⎪⎩∑∑…… 由此可以得到下三角矩阵L=[l ij ]和上三角矩阵U=[u ij ]. 依次求解方程组Ly=b 和Ux=y ，111,1,2,,1(),,1,,1i i i ir r r n i i ir r r i ii y b l y i n x y u x i n n u -==+⎧=-=⎪⎪⎨⎪=-=-⎪⎩∑∑…… 即可确定最终解。
2. Cholesky 分解法对于系数矩阵对称正定的方程组n n H y b =，存在唯一的对角元素为正数的下三角矩阵L ，使得H=LL T 。
因此，首先对矩阵H n 进行Cholesky 分解，即1122111()1()j jj jj jk k j ij ij ik jk k jj l h l l h l l l -=-=⎧=-⎪⎪⎨⎪=-⎪⎩∑∑ 1,i j n =+… L 的元素求出之后，依次求解方程组Ly=b 和L T x=y ，即1111111(),2,3,i i i ik k k ii b y l y b l y i n l -=⎧=⎪⎪⎨⎪=-=⎪⎩∑… 11(),1,2,n n nn n i i ki k k i nn y x l x y l x i n n l =+⎧=⎪⎪⎨⎪=-=--⎪⎩∑…1 由此求得方程组n n H y b =的解。
数值分析第二章 线性方程组的数值解法
（2.2）
a11 x1 a12 x2 a1n xn b1 a22 x2 a2 n xn b2 ann xn bn
（2.3）
2．顺序高斯消去法
a11 x1 a12 x2 a13 x3 a1n xn a1, n 1 a 21 x1 a 22 x2 a 23 x3 a 2 n xn a 2, n 1 a n1 x1 a n 2 x2 a n 3 x3 a nn xn a n , n 1
(1) a12 (1) a 22
(1) an 2
0
(1) a1 n (1) a2 n (1) a nn
?
A( 1 )
(1) (1) (1) a11 a12 a1 n (1) (1) (1) a21 a22 a2 n (1) (1) (1) an 2 ann a n1
(k ) (k ) m a 用 ik ik / akk 乘第k行
加到第i行中，得到
a (1) a (1) 1k 11 (k ) akk 0 0
(1) (1) x a1 b 1 n 1 (k ) (k ) (k ) akk 1 akn xk bk ( k 1) . ( k 1) ( k 1) x ak 1k 1 ak 1n k 1 bk 1 ( k 1) ( k 1) x ( k 1) ank 1 ann n b n (1) a1 k 1
写出原方程组的增广矩阵：
0.0120 0.0100 0.1670 0.6781 1.000 0.8334 5.910 12.10 1200 4.200 981.0 3200
数值计算方法-第3章--线性方程组的解法PPT课件
个顺序主子式
a a (1)
(1)
11
12
Dk
a(1) 21
a(1) 22
a(1) 1k
a(1) 2k
0
(k 1, 2,..., n 1).
a a (1)
(1)
k1
k2
a(1) kk
.
13
顺序Gauss消去法计算过程中的 akk(k) 称为主元素，在 第k步消元时要用它作除数,则可能会出现以下几种情况
.
是原方程组 Ax=b 的解向量。
27
对于
Ly =b
1
由
l21
1
l31
l32 1
y1 b1
y2
b2
y3
b3
ln1 ln2 lnn1 1 yn bn
.
解得
y1 yk
b1 bk
k 1 i 1
lki
yi
,
k 2,3,, n
28
对于 Ux =y
u11 u12 u1n x1 y1
2x3 6
⑤
x1 6 (x2 x3 ) 1
x2 x3 5 / 4 2
x3 (6) / (2) 3
用x3, x2的值求x1 把x3的值代入②求x2
.
8
从下向上逐步求解
对应的增广矩阵的变化
1 1 1 6 1 1 1 6
( A | b) 0
4
1 5 0
4
1
5
2 2 1 1 0 4 1 11
0.8334
5.910
12.10
0.0120 0.0100 0.1670 0.6781
3200
1200
4.200 981.0
《应用数值分析》课件数值分析5.5线性方程组的数值解法
雅可比迭代法不使用变量的最新信息计算xi(k+1)， 而由高斯-塞德尔迭代公式可知，计算x(k+1)的第 i
个分量xi(k+1)时，利用了已经计算出的最新分量 xj(k+1) (j=1,2,,i-1). 可看作雅可比迭代法的一种 改进. 高斯—塞德尔迭代公式每迭代一次只需计算
一次矩阵与向量的乘法.
G-S迭代法有一个明显的优点是：在计算时，只需 一组工作单元，以便存放近似解. 而J迭代法需要两 组工作单元，分别存放 x(k )和 x(k1).
例3 用Gauss-Seidel迭代法求解方程组,误差不超过1e-4
8 4 2
3 11 1
2 1 4
x1 x2 x3
123203
解: 取初值x(0) [0,0,0]T ,使用Gauss Seidel迭代法
，即有
x(k1) i
1 aii
bi
i 1
a x(k1) ij j
j 1
n
aij
x
(k j
)
ji 1
(i
1, 2
n) (7)
x(k) i
1 aii
bi
i 1
a x(k1) ij j
j 1
n ji
aij
x(jk
)
称该公式为求解方程组 Ax b的 Gauss-Seidel 迭代公式。
Dx(k1) Lx(k) Ux(k) b 改为 Dx(k1) Lx(k1) Ux(k) b
x(k1) ( D L)1U x(k) (D L)1b (8)
记作 x(k1) BG x(k) fG (k 0,1, 2, ) (9)
称(7)、 (8)式为解线性方程组(1)的Gauss-Seidel迭代法 (G-S法)
数值分析讲义——线性方程组的解法
数值分析讲义第三章线性方程组的解法§3.0 引言§3.1 雅可比(Jacobi)迭代法§3.2 高斯-塞德尔(Gauss-Seidel)迭代法§3.3 超松驰迭代法§3.7 三角分解法§3.4 迭代法的收敛性§3.8 追赶法§3.5 高斯消去法§3.9 其它应用§3.6 高斯主元素消去法§3.10 误差分析§3 作业讲评3 §3.11 总结§3.0 引言重要性：解线性代数方程组的有效方法在计算数学和科学计算中具有特殊的地位和作用.如弹性力学、电路分析、热传导和振动、以及社会科学及定量分析商业经济中的各种问题.分类：线性方程组的解法可分为直接法和迭代法两种方法.(a) 直接法：对于给定的方程组，在没有舍入误差的假设下，能在预定的运算次数内求得精确解.最基本的直接法是Gauss消去法，重要的直接法全都受到Gauss消去法的启发.计算代价高.(b) 迭代法：基于一定的递推格式，产生逼近方程组精确解的近似序列.收敛性是其为迭代法的前提，此外，存在收敛速度与误差估计问题.简单实用,诱人.§3.1 雅可比Jacobi 迭代法 (AX =b )1基本思想:与解f (x )=0 的不动点迭代相类似,将AX =b 改写为X =BX +f 的形式,建立雅可比方法的迭代格式：X k +1=BX (k )+f ,其中，B 称为迭代矩阵.其计算精度可控,特别适用于求解系数为大型稀疏矩阵(sparse matrices)的方程组. 2问题:(a) 如何建立迭代格式？(b) 向量序列{X k }是否收敛以及收敛条件? 3 例题分析:考虑解方程组⎪⎩⎪⎨⎧=+--=-+-=--2.453.82102.7210321321321x x x x x x x x x (1)其准确解为X *={1, 1.2, 1.3}. 建立与式(1)相等价的形式：⎪⎩⎪⎨⎧++=++=++=84.02.01.083.02.01.072.02.01.0213312321x x x x x x x x x (2) 据此建立迭代公式：⎪⎩⎪⎨⎧++=++=++=+++84.02.01.083.02.01.072.02.01.0)(2)(1)1(3)(3)(1)1(23)(2)1(1k k k k k k kk k x x x x x x x x x (3) 取迭代初值0)0(3)0(2)0(1===x x x ,迭代结果如下表. JocabiMethodP31.cpp迭代次数 x1 x2 x30 0 0 01 0.72 0.83 0.842 0.971 1.07 1.153 1.057 1.1571 1.24824 1.08535 1.18534 1.282825 1.095098 1.195099 1.2941386 1.098338 1.198337 1.2980397 1.099442 1.199442 1.2993358 1.099811 1.199811 1.2997779 1.099936 1.199936 1.29992410 1.099979 1.199979 1.29997511 1.099993 1.199993 1.29999112 1.099998 1.199998 1.29999713 1.099999 1.199999 1.29999914 1.1 1.2 1.315 1.1 1.2 1.34Jocobi迭代公式:设方程组AX=b, 通过分离变量的过程建立Jocobi迭代公式，即),,2,1()(1),,2,1(0,11n i x a b a x n i a b x a n ij j j ij i iii ii ni i j ij =∑-==≠∑=≠== 由此我们可以得到Jacobi 迭代公式：),,2,1()(11)1(n i x a b a xn ij j k i ij i iik i=∑-=≠=+[Jacobi 迭代公式的算法] 1: 初始化. n , (a ij ), (b j ), (x 1) , M . 2: 执行k =1直到M 为止. ① 执行i =1直到n 为止.ii nij j j ij i i a x a b u /)(1∑-←≠= ;② 执行i =1直到n 为止.i i u x ← ;③输出k , (x i ).另外，我们也可以建立Jacobi 迭代公式的矩阵形式. 设方程组AX =b ,其中，A =(a ij )n 为非奇异阵，X =(x 1,x 2,…,x n )T , b =(b 1,b 2,…,b n )T将系数阵A 分解为: A =U +D +L ,U 为上三角矩阵，D 为对角矩阵，L 为下三角矩阵.于是AX =b 可改写为 (U +D +L )X =b⇔ X =D -1b -D -1(U +L )X由此可得矩阵形式的Jocobi 迭代公式： X k +1=BX (k )+f □§3.2 高斯-塞德尔Gauss-Seidel 迭代法注意到利用Jocobi 迭代公式计算)1(+k ix 时，已经计算好)(1)(2)(1,,,k i k k x x x - 的值，而Jocobi 迭代公式并不利用这些最新的近似值计算，仍用)(1)(2)(1,,,k i k k x x x - .这启发我们可以对其加以改进,即在每个分量的计算中尽量利用最新的迭代值，得到),,2,1()(1111)1()1(n i x a x a b a xn i j k jij i j k j ij i iik i=∑-∑-=+=-=++上式称为Gauss-Seidel 迭代法. 其矩阵形式是X =-(D +L )-1UX +(D +L )-1b , X k +1=BX (k )+f .迭代次数 x1 x2 x3 0 0 0 0 1 0.72 0.902 1.1644 2 1.04308 1.167188 1.282054 3 1.09313 1.195724 1.2977714 1.099126 1.199467 1.2997195 1.09989 1.199933 1.2999656 1.099986 1.199992 1.2999967 1.099998 1.199999 1.2999998 1.1 1.2 1.3§3.3 超松驰迭代法SOR 方法1基本思想:逐次超松弛迭代法(Successive Over Relaxation Method,简写为SOR)可以看作带参数ω的高斯-塞德尔迭代法，是G-S 方法的一种修正或加速.是求解大型稀疏矩阵方程组的有效方法之一. 2 SOR 算法的构造:设方程组AX =b , 其中，A =(a ij )n 为非奇异阵，X =(x 1,x 2,…,x n )T , b =(b 1,b 2,…,b n )T . 假设已算出x (k )，),,2,1()(1111)1()1(n i x a x a b a xn i j k j ij i j k j ij i iik i=∑-∑-=+=-=++ (1)相当于用高斯-塞德尔方法计算一个分量的公式. 若对某个参数ω，作)1(+k ix与)(k i x 加权的平均,即)()1()()1()()1()(1k i k ik i k ik ik ix xx xxx-+=+-=+++ωωω (2)其中，ω称为松弛因子.用(1)式代入(2)式，就得到解方程组AX =b 的逐次超松弛迭代公式：⎪⎩⎪⎨⎧=∑-∑-=∆∆+==-=++),,2,1()()(11)1()()1(n i x a x a b a x x x x n ij k j ij i j k j ij i iii i k i k i ω (3) 显然，当取ω=1时，式(3)就是高斯-塞德尔迭代公式. 3 例题分析:利用SOR 方法解方程组⎪⎩⎪⎨⎧=+---=-+-=--3322242024321321321x x x x x x x x x (1) 其准确解为X *={1, 1, 2}. 建立与式(1)相等价的形式：⎪⎪⎩⎪⎪⎨⎧++=-+=+=132315.05.05.025.05.021*******x x x x x x x x x (2) 据此建立迭代公式：⎪⎪⎩⎪⎪⎨⎧++=-+=+=+++132315.05.05.025.05.0)(2)(1)1(3)(3)(1)1(23)(2)1(1k k k k k k kk k x x x x x x x x x (3)利用SOR 算法，取迭代初值1)0(3)0(2)0(1===x x x ,ω=1.5,迭代结果如下表.逐次超松弛迭代法次数 x1 x2 x3 1 0.625000 0.062500 1.750000 2 0.390625 0.882813 1.468750 3 1.017578 0.516602 1.8085944 0.556885 0.880981 1.7104495 1.023712 0.743423 1.8681036 0.746250 0.908419 1.8387377 0.997715 0.860264 1.9138948 0.864050 0.936742 1.9086059 0.986259 0.922225 1.94552310 0.928110 0.958649 1.94749311 0.985242 0.955944 1.96619812 0.961661 0.973818 1.96952113 0.988103 0.974699 1.97928914 0.979206 0.983746 1.98217215 0.991521 0.985318 1.98741616 0.988509 0.990038 1.98951317 0.994341 0.991414 1.99239718 0.993538 0.993946 1.99380619 0.996367 0.994950 1.99542420 0.996313 0.996342 1.99633121 0.997724 0.997018 1.99725422 0.997871 0.997798 1.99782223 0.998596 0.998234 1.998355GS迭代法须迭代85次得到准确值X*={1, 1, 2};而SOR方法只须55次即得准确值.由此可见，适当地选择松弛因子ω，SOR法具有明显的加速收敛效果. □§3.4 迭代法的收敛性1. 向量和矩阵范数 (a) 向量范数R n 空间的向量范数 || · || ,对任意n R y x ∈,, 满足下列条件：00||||;0||||)1(=⇔=≥x x x (正定性)||||||||||)2(x x⋅=αα (齐次性)||||||||||||)3(y x y x+≤+ （三角不等式）常见的向量范数有： (1) 列范数：(2) 谱范数：(欧几里德范数或向量的长度,模)(3) 行范数：(4) p 范数:上述范数的几何意义是:∞||||x =max(|x 2-x 1|,|y 2-y 1|) ; 1||||x =|x 2-x 1|+|y 2-y 1| ;2122122)()(||||y y x x x -+-=.向量序列}{)(k x依坐标收敛于向量x * 的充要条件是向量序列}{)(k x 依范数收敛于向量x *,即0||||lim *)(=-∞→x x k k .(b) 矩阵范数n m R ⨯空间的向量范数 || ·|| ,对任意 n m R B A ⨯∈,, 满足下列条件：|||||||| || AB || (4)||||||||||||)3(||||||||||)2(00||||;0||||)1(B A B A B A A A A A A ≤+≤+⋅==⇔=≥αα常见的矩阵范数有：∑==∞≤≤nj ij a A ni 1||max ||||1 (行和范数)∑==≤≤ni ij a A nj 11||max ||||1 (列和范数))(||||max 2A A A T λ= (谱范数)若A 对称，则有)()(2max max A A A T λλ=.矩阵A 的谱半径记为)(||||2A A ρ=,ρ(A ) =||max1i ni λ≤≤,其中λi 为A 的特征根。
工程硕士 数值分析 第三章 线性方程组的迭代解法
证明： ① x * x ( k ) B( x * x ( k 1) ) B ( x * x ( k ) x ( k ) x ( k 1 ) ) (k ) (k ) ( k ) ( k 1) || x * x || q(|| x * x || || x x ||)
其中
x (0) ( x1(0) , x2(0) ,, xn (0) )
是迭代初值。
写成矩阵形式：
A=
D
U
Ax b
(D L U )x b Dx ( L U ) x b 1 1 x D (L U )x D b
L
写成迭代法形式
( k 1 ) (k ) 1 1 x D (L U )x D b
( k 1) (k ) 即 x Bx f
1
1 其中 B D ( L U ), f D b
B称为Jacobi 迭代阵
§3.2 高斯-赛德尔(Gauss - Seidel )迭代法
Jacobi法可能不收敛；
而Jacobi法收敛时， Gauss-Seidel法也
可能不收敛。
§3.3 超松弛迭代法
换个角度看Gauss - Seidel 方法： i 1 n 1 ( k 1) ( k 1) xi [bi aij x j aij x (jk ) ] aii j 1 j i 1 ri( k 1) ( k 1 ) (k ) x i( k ) 其中ri(k+1) = bi aij x j aij x j a ii j i j i
( ( ( ( ( x1k 1) 1 ( a12 x2k ) a13 x3k ) a14 x4k ) a1n xnk ) b1 ) a11 ( ( ( ( ( x2k 1) 1 ( a21 x1k 1) a23 x3k ) a24 x4k ) a2 n xnk ) b2 ) a22 ( ( ( ( ( x3k 1) 1 (a31 x1k 1) a32 x2k 1) a34 x4k ) a3 n xnk ) b3 ) a33
数值分析第六章线性方程组迭代解法
数值分析第六章线性方程组迭代解法线性方程组是数值分析中的重要内容之一，其求解方法有很多种。
其中一种常用的方法是迭代解法，即通过不断迭代逼近方程组的解。
本文将介绍线性方程组迭代解法的基本思想和常用方法。
线性方程组可以用矩阵形式表示为Ax=b，其中A是系数矩阵，b是常数向量，x是未知向量。
线性方程组的解可以是唯一解，也可以是无穷多个解。
迭代解法的基本思想是通过不断迭代，并利用迭代序列的极限，逼近线性方程组的解。
迭代解法适用于大型的线性方程组，而直接求解法则适用于小型的线性方程组。
常用的迭代解法有雅可比迭代法、高斯-赛德尔迭代法和逐次超松弛迭代法。
雅可比迭代法是最简单的线性方程组迭代解法之一、它的基本思想是将线性方程组的每个方程都单独表示为未知数x的显式函数，然后通过不断迭代求解。
雅可比迭代法的迭代公式为：x(k+1)=D^(-1)(b-(L+U)x(k))其中，D是A的对角元素构成的对角矩阵，L是A的下三角矩阵，U 是A的上三角矩阵，x(k)是第k次迭代的解。
高斯-赛德尔迭代法是雅可比迭代法的改进版。
它的基本思想是将每个方程的解带入到下一个方程中，而不是等到所有方程都迭代完毕后再计算下一组解。
高斯-赛德尔迭代法的迭代公式为：x(k+1)=(D-L)^(-1)(b-Ux(k))其中，D是A的对角矩阵，L是A的下三角矩阵（除去对角线），U是A的上三角矩阵（除去对角线），x(k)是第k次迭代的解。
逐次超松弛迭代法是对高斯-赛德尔迭代法的改进。
它引入了松弛因子w，通过调节松弛因子可以加快收敛速度。
逐次超松弛迭代法的迭代公式为：x(k+1)=(D-wL)^(-1)[(1-w)D+wU]x(k)+w(D-wL)^(-1)b其中，D是A的对角矩阵，L是A的下三角矩阵（除去对角线），U是A的上三角矩阵（除去对角线），w是松弛因子，x(k)是第k次迭代的解。
线性方程组迭代解法需要设置迭代停止准则，通常可以设置迭代次数上限或者设置一个精度要求。
《应用数值分析》课件数值分析5.3线性方程组的数值解法
Step k：设ak(kk) ，0计算因子
mik
a(k) ik
/
a(k kk
)
(i k 1, ..., n)
且计算
a ( k 1) ij
b( k 1) i
a(k) ij
m
ik
a
(k kj
)
b(k ) i
mik bk(k )
(i, j k 1, ..., n)
n
bi (bi
aij * b j ) / aii
j i 1
2024/11/23
线性方程组的直接解法
11
计算量 /* Amount of Computation */
由于计算机中乘除 /* multiplications / divisions */ 运算的时 间远远超过加减 /* additions / subtractions */ 运算的时间，故 估计某种算法的运算量时，往往只估计乘除的次数，而且通 常以乘除次数的最高次幂为运算量的数量级。 (n k) 次
(k)
kk
k ,k1
0
a ( k 1) k 1,k 1
a(1) 1n
a(2) 2n
a(k) kn
a ( k 1) k 1,n
0
a ( k 1) n,k 1
a ( k 1) nn
第 6 章 不动点理论及应用 第 1 页 共 1 页
b(1) 1
b(2) 2
b( k ) k
b( k 1) k 1
b( k 1) n
xn
b(n) n
/
a(n) nn
n
b( i ) i
a
(i ij
数值分析第五章解线性方程组的直接法
数值分析第五章解线性方程组的直接法解线性方程组是数值分析中的一个重要问题，对于大规模的线性方程组来说，直接法是一种常用的求解方法。
本文将介绍解线性方程组的直接法，包括高斯消元法和LU分解法，并对其稳定性和计算复杂度进行讨论。
高斯消元法是一种常用的直接法，用于求解非奇异线性方程组。
其基本思想是通过初等行变换将线性方程组转化为上三角方程组，然后通过回代求解得到方程的解。
高斯消元法的步骤如下：1.将线性方程组表示为增广矩阵[A，b]，其中A是系数矩阵，b是常数向量。
2.从第一行开始，选择一个非零元素作为主元，通过行变换将主元下方的元素全部消为零。
3.重复第2步，直到矩阵变为上三角矩阵。
4.通过回代求解上三角矩阵，得到方程组的解。
高斯消元法的主要优点是简单直接，容易实现，但存在一些问题。
首先，如果系数矩阵A是奇异矩阵，即行列式为零，那么高斯消元法无法得到方程组的解。
其次，如果系数矩阵A的其中一行或几行接近于线性相关，那么在消元过程中会引入大量的舍入误差，导致计算结果不准确。
这也说明了高斯消元法的稳定性较差。
为了提高稳定性，可以使用LU分解法来解线性方程组。
LU分解法将系数矩阵A分解为两个矩阵L和U的乘积，其中L是下三角矩阵，U是上三角矩阵。
这样，原始的线性方程组可以表示为LUx=b，进而可以通过两个步骤来求解方程组：1.进行LU分解，将系数矩阵A分解为L和U。
2.分别用前代和回代的方法求解方程组Ly=b和Ux=y。
LU分解法相对于高斯消元法的优点是，可以在求解多个右端向量时，避免重复计算LU分解，从而提高计算效率。
同时，LU分解法的稳定性也较高，对于多个右端向量求解时，舍入误差的累积相对较小。
然而，LU分解法也存在一些问题。
首先，LU分解法的计算复杂度较高，需要进行两次矩阵乘法和一次矩阵向量乘法，而且LU分解过程中需要对系数矩阵A进行大量的行变换，增加了计算量。
其次，当系数矩阵A的一些元素非常小或非常大时，LU分解法容易出现数值不稳定的情况，即舍入误差的累积较大，导致计算结果不准确。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
数值分析讲义第三章线性方程组的解法§3.0 引言§3.1 雅可比(Jacobi)迭代法§3.2 高斯-塞德尔(Gauss-Seidel)迭代法§3.3 超松驰迭代法§3.7 三角分解法§3.4 迭代法的收敛性§3.8 追赶法§3.5 高斯消去法§3.9 其它应用§3.6 高斯主元素消去法§3.10 误差分析§3 作业讲评3 §3.11 总结§3.0 引言重要性：解线性代数方程组的有效方法在计算数学和科学计算中具有特殊的地位和作用.如弹性力学、电路分析、热传导和振动、以及社会科学及定量分析商业经济中的各种问题.分类：线性方程组的解法可分为直接法和迭代法两种方法.(a) 直接法：对于给定的方程组，在没有舍入误差的假设下，能在预定的运算次数内求得精确解.最基本的直接法是Gauss消去法，重要的直接法全都受到Gauss消去法的启发.计算代价高.(b) 迭代法：基于一定的递推格式，产生逼近方程组精确解的近似序列.收敛性是其为迭代法的前提，此外，存在收敛速度与误差估计问题.简单实用,诱人.§3.1 雅可比Jacobi 迭代法 (AX =b )1基本思想:与解f (x )=0 的不动点迭代相类似,将AX =b 改写为X =BX +f 的形式,建立雅可比方法的迭代格式：X k +1=BX (k )+f ,其中，B 称为迭代矩阵.其计算精度可控,特别适用于求解系数为大型稀疏矩阵(sparse matrices)的方程组. 2问题:(a) 如何建立迭代格式？(b) 向量序列{X k }是否收敛以及收敛条件? 3 例题分析:考虑解方程组⎪⎩⎪⎨⎧=+--=-+-=--2.453.82102.7210321321321x x x x x x x x x (1)其准确解为X *={1, 1.2, 1.3}. 建立与式(1)相等价的形式：⎪⎩⎪⎨⎧++=++=++=84.02.01.083.02.01.072.02.01.0213312321x x x x x x x x x (2) 据此建立迭代公式：⎪⎩⎪⎨⎧++=++=++=+++84.02.01.083.02.01.072.02.01.0)(2)(1)1(3)(3)(1)1(23)(2)1(1k k k k k k kk k x x x x x x x x x (3) 取迭代初值0)0(3)0(2)0(1===x x x ,迭代结果如下表. JocabiMethodP31.cpp迭代次数 x1 x2 x30 0 0 01 0.72 0.83 0.842 0.971 1.07 1.153 1.057 1.1571 1.24824 1.08535 1.18534 1.282825 1.095098 1.195099 1.2941386 1.098338 1.198337 1.2980397 1.099442 1.199442 1.2993358 1.099811 1.199811 1.2997779 1.099936 1.199936 1.29992410 1.099979 1.199979 1.29997511 1.099993 1.199993 1.29999112 1.099998 1.199998 1.29999713 1.099999 1.199999 1.29999914 1.1 1.2 1.315 1.1 1.2 1.34Jocobi迭代公式:设方程组AX=b, 通过分离变量的过程建立Jocobi迭代公式，即),,2,1()(1),,2,1(0,11n i x a b a x n i a b x a n ij j j ij i iii ii ni i j ij =∑-==≠∑=≠== 由此我们可以得到Jacobi 迭代公式：),,2,1()(11)1(n i x a b a xn ij j k i ij i iik i=∑-=≠=+[Jacobi 迭代公式的算法] 1: 初始化. n , (a ij ), (b j ), (x 1) , M . 2: 执行k =1直到M 为止. ① 执行i =1直到n 为止.ii nij j j ij i i a x a b u /)(1∑-←≠= ;② 执行i =1直到n 为止.i i u x ← ;③输出k , (x i ).另外，我们也可以建立Jacobi 迭代公式的矩阵形式. 设方程组AX =b ,其中，A =(a ij )n 为非奇异阵，X =(x 1,x 2,…,x n )T , b =(b 1,b 2,…,b n )T将系数阵A 分解为: A =U +D +L ,U 为上三角矩阵，D 为对角矩阵，L 为下三角矩阵.于是AX =b 可改写为 (U +D +L )X =b⇔ X =D -1b -D -1(U +L )X由此可得矩阵形式的Jocobi 迭代公式： X k +1=BX (k )+f □§3.2 高斯-塞德尔Gauss-Seidel 迭代法注意到利用Jocobi 迭代公式计算)1(+k ix 时，已经计算好)(1)(2)(1,,,k i k k x x x - 的值，而Jocobi 迭代公式并不利用这些最新的近似值计算，仍用)(1)(2)(1,,,k i k k x x x - .这启发我们可以对其加以改进,即在每个分量的计算中尽量利用最新的迭代值，得到),,2,1()(1111)1()1(n i x a x a b a xn i j k jij i j k j ij i iik i=∑-∑-=+=-=++上式称为Gauss-Seidel 迭代法. 其矩阵形式是X =-(D +L )-1UX +(D +L )-1b , X k +1=BX (k )+f .迭代次数 x1 x2 x3 0 0 0 0 1 0.72 0.902 1.1644 2 1.04308 1.167188 1.282054 3 1.09313 1.195724 1.2977714 1.099126 1.199467 1.2997195 1.09989 1.199933 1.2999656 1.099986 1.199992 1.2999967 1.099998 1.199999 1.2999998 1.1 1.2 1.3§3.3 超松驰迭代法SOR 方法1基本思想:逐次超松弛迭代法(Successive Over Relaxation Method,简写为SOR)可以看作带参数ω的高斯-塞德尔迭代法，是G-S 方法的一种修正或加速.是求解大型稀疏矩阵方程组的有效方法之一. 2 SOR 算法的构造:设方程组AX =b , 其中，A =(a ij )n 为非奇异阵，X =(x 1,x 2,…,x n )T , b =(b 1,b 2,…,b n )T . 假设已算出x (k )，),,2,1()(1111)1()1(n i x a x a b a xn i j k j ij i j k j ij i iik i=∑-∑-=+=-=++ (1)相当于用高斯-塞德尔方法计算一个分量的公式. 若对某个参数ω，作)1(+k ix与)(k i x加权的平均,即 )()1()()1()()1()(1k i k ik i k ik ik ix xx xxx-+=+-=+++ωωω (2)其中，ω称为松弛因子.用(1)式代入(2)式，就得到解方程组AX =b 的逐次超松弛迭代公式：⎪⎩⎪⎨⎧=∑-∑-=∆∆+==-=++),,2,1()()(11)1()()1(n i x a x a b a x x x x n ij k j ij i j k j ij i iii i k i k i ω (3) 显然，当取ω=1时，式(3)就是高斯-塞德尔迭代公式. 3 例题分析:利用SOR 方法解方程组⎪⎩⎪⎨⎧=+---=-+-=--3322242024321321321x x x x x x x x x (1) 其准确解为X *={1, 1, 2}. 建立与式(1)相等价的形式：⎪⎪⎩⎪⎪⎨⎧++=-+=+=132315.05.05.025.05.021*******x x x x x x x x x (2) 据此建立迭代公式：⎪⎪⎩⎪⎪⎨⎧++=-+=+=+++132315.05.05.025.05.0)(2)(1)1(3)(3)(1)1(23)(2)1(1k k k k k k kk k x x x x x x x x x (3)利用SOR 算法，取迭代初值1)0(3)0(2)0(1===x x x ,ω=1.5,迭代结果如下表.逐次超松弛迭代法次数 x1 x2 x3 1 0.625000 0.062500 1.750000 2 0.390625 0.882813 1.468750 3 1.017578 0.516602 1.8085944 0.556885 0.880981 1.7104495 1.023712 0.743423 1.8681036 0.746250 0.908419 1.8387377 0.997715 0.860264 1.9138948 0.864050 0.936742 1.9086059 0.986259 0.922225 1.94552310 0.928110 0.958649 1.94749311 0.985242 0.955944 1.96619812 0.961661 0.973818 1.96952113 0.988103 0.974699 1.97928914 0.979206 0.983746 1.98217215 0.991521 0.985318 1.98741616 0.988509 0.990038 1.98951317 0.994341 0.991414 1.99239718 0.993538 0.993946 1.99380619 0.996367 0.994950 1.99542420 0.996313 0.996342 1.99633121 0.997724 0.997018 1.99725422 0.997871 0.997798 1.99782223 0.998596 0.998234 1.998355GS迭代法须迭代85次得到准确值X*={1, 1, 2};而SOR方法只须55次即得准确值.由此可见，适当地选择松弛因子ω，SOR法具有明显的加速收敛效果. □§3.4 迭代法的收敛性1. 向量和矩阵范数 (a) 向量范数R n 空间的向量范数 || · || ,对任意n R y x ∈,, 满足下列条件：00||||;0||||)1(=⇔=≥x x x (正定性)||||||||||)2(x x⋅=αα (齐次性)||||||||||||)3(y x y x+≤+ （三角不等式）常见的向量范数有： (1) 列范数：(2) 谱范数：(欧几里德范数或向量的长度,模)(3) 行范数：(4) p 范数:上述范数的几何意义是:∞||||x =max(|x 2-x 1|,|y 2-y 1|) ; 1||||x =|x 2-x 1|+|y 2-y 1| ;2122122)()(||||y y x x x -+-=.向量序列}{)(k x依坐标收敛于向量x * 的充要条件是向量序列}{)(k x 依范数收敛于向量x *,即0||||lim *)(=-∞→x x k k .(b) 矩阵范数n m R ⨯空间的向量范数 || ·|| ,对任意 n m R B A ⨯∈,, 满足下列条件：|||||||| || AB || (4)||||||||||||)3(||||||||||)2(00||||;0||||)1(B A B A B A A A A A A ≤+≤+⋅==⇔=≥αα常见的矩阵范数有：∑==∞≤≤nj ij a A ni 1||max ||||1 (行和范数)∑==≤≤ni ij a A nj 11||max ||||1 (列和范数))(||||max 2A A A T λ= (谱范数)若A 对称，则有)()(2max max A A A Tλλ=.矩阵A 的谱半径记为)(||||2A A ρ=,ρ(A ) =||max1i ni λ≤≤,其中λi 为A 的特征根。