3.1-3.2线性方程组迭代解法
第三章 线性方程组的迭代解法
其中
v x (0) = ( x1(0) , x2 (0) ,…, xn (0) )
是迭代初值。 是迭代初值。
写成矩阵形式: 写成矩阵形式: 矩阵形式
A=
D
U
v v Ax = b ⇔ ⇔ ⇔
v v (D + L + U )x = b v v v Dx = −( L + U ) x + b v v v −1 −1 x = −D (L + U )x + D b
( ( a 111 ) a 121 ) ... a 1( 1 ) n
A
( ( ( a ij2 ) = a ij1 ) − m i 1 a 1 1j ) (2) b i = b i( 1 ) − m i 1 b1( 1 ) ( i , j = 2 , ..., n )
− 共进行 n ?1 步
(1 ( ( a12) ... a11) x1 b11) n b( 2) ( 2) ( 2) a22 ... a2n x2 2 . . = . ... . . . . . . ( n) (n ann) xn bn
… … …
…
( ( ( ( ( xnk +1) = 1 (−an1 x1k +1) − an 2 x2k +1) − an3 x3k +1) − L − ann−1 xnk +1) + bn ) −1 ann v v ( k +1) v ( k +1) v (k ) −1 −1 写成矩阵形式 矩阵形式: 写成矩阵形式: x = − D ( Lx + Ux ) + D b v (k +1) v (k ) v ⇔ (D + L)x = −U x + b v v ( k +1 ) −1 v ( k ) −1 ⇔ x = − ( D + L ) Ux + ( D + L ) b v Gauss-Seidel B vf v ( k + 1) v(k ) 迭代阵
线性和非线性方程组的解法
3.2.4 迭代的收敛性
♦ 松弛法的收敛性分析; – A = Q -R = (D -ωL)/ω –[(1-ω)D+ωU]/ω; – QX = RX + B; – Xk+1 = Q-1RXk + Q-1B; – Xk+1 = (D -ωL)-1[(1-ω)D+ωU]Xk + Q-1B; ♦ 收敛的必要条件; – 0<ω<2;
3.2.2 Gauss-Seidel迭代法
♦ Gauss-Seidel迭代法;
k x1 +1 k+1 x2 k xn +1
k x1 +1 k+1 x2 k xn +1
= = L =
= =
[b −(a x +L+ a x )]/ a [b −(a x + a x +L+ a
Hale Waihona Puke [b −(a x +L+ a x )]/ a [b −(a x + a x +L+ a
1 k 12 2 k 21 1 k 1n n
11
]
X [k] = D−1B − (I − D−1A) X [k−1]
[
]
3.2.1 简单迭代法
♦ 简单迭代法的特征; – X[k] = D-1B - (I - D-1A)X[k-1] – 一阶;
L =
– Xk+1 = ω·(D-1LXk+1 + D-1UXk+D-1B)+(1-ω)·Xk; – Xk+1 = ω·(D-1LXk+1 + D-1UXk+D-1B)+(1-ω)·Xk;
线性方程组解法归纳总结
线性方程组解法归纳总结在数学领域中,线性方程组是一类常见的方程组,它由一组线性方程组成。
解决线性方程组是代数学的基础知识之一,广泛应用于各个领域。
本文将对线性方程组的解法进行归纳总结。
一、高斯消元法高斯消元法是解决线性方程组的基本方法之一。
其基本思想是通过逐步消元,将线性方程组转化为一个上三角形方程组,从而求得方程组的解。
具体步骤如下:1. 将线性方程组写成增广矩阵的形式,即将系数矩阵和常数向量合并成一个矩阵。
2. 选取一个非零的主元(通常选取主对角线上的元素),通过初等行变换将其它行的对应位置元素消为零。
3. 重复上述步骤,逐步将系数矩阵转化为上三角形矩阵。
4. 通过回代法,从最后一行开始求解未知数,逐步得到线性方程组的解。
高斯消元法的优点是理论基础牢固,适用于各种规模的线性方程组。
然而,该方法有时会遇到主元为零或部分主元为零的情况,需要进行特殊处理。
二、克拉默法则克拉默法则是一种用行列式求解线性方程组的方法。
它利用方程组的系数矩阵和常数向量的行列式来求解未知数。
具体步骤如下:1. 求出系数矩阵的行列式,若行列式为零则方程组无解。
2. 对于每个未知数,将系数矩阵中对应的列替换为常数向量,再求出替换后矩阵的行列式。
3. 用未知数的行列式值除以系数矩阵的行列式值,即可得到该未知数的解。
克拉默法则的优点是计算简单,适用于求解小规模的线性方程组。
然而,由于需要计算多次行列式,对于大规模的线性方程组来说效率较低。
三、矩阵法矩阵法是一种将线性方程组转化为矩阵运算的方法。
通过矩阵的逆运算或者伴随矩阵求解线性方程组。
具体步骤如下:1. 将线性方程组写成矩阵的形式,其中系数矩阵为A,未知数矩阵为X,常数向量矩阵为B。
即AX=B。
2. 若系数矩阵A可逆,则使用逆矩阵求解,即X=A^(-1)B。
3. 若系数矩阵A不可逆,则使用伴随矩阵求解,即X=A^T(ATA)^(-1)B。
矩阵法的优点是适用于各种规模的线性方程组,且运算速度较快。
线性方程组的迭代式求解方法
线性方程组的迭代式求解方法迭代法解方程的基本原理1.概述把 Ax=b 改写成 x=Bx+f ,如果这一迭代格式收敛,对这个式子不断迭代计算就可以得到方程组的解。
道理很简单:对 x^{(k+1)}=bx^{(k)}+f 两边取极限,显然如果收敛,则最终得到的解满足 \lim_{k\rightarrow\infty } x^{(k)}=x^*=Bx^*+f ,从而必然满足原方程 Ax^*=b 。
迭代方法的本质在于这一次的输出可以当作下一次的输入,从而能够实现循环往复的求解,方法收敛时,计算次数越多越接近真实值。
2.收敛条件充要条件:迭代格式 x=Bx+f 收敛的充要条件是 \rho (B)<1充分条件: \Vert B\Vert <1即 \Vert B\Vert <1 \Rightarrow \rho(B)<1\Leftrightarrow 迭代收敛一、Jacobi迭代法怎样改写Ax=b ,从而进行迭代求解呢?一种最简单的迭代方法就是把第i行的 x_i 分离出来(假定 a_{ii} \ne 0 ):\sum_{j=1}^{n}a_{ij}x_j=b_i\Rightarrow x_i=\frac{b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j}{a_{ii}}\quad \\这就是Jacobi(雅可比)迭代法。
迭代格式给定x^{(0)}=\left[x_1^{(0)},x_2^{(0)},\cdots,x_n^{(0)}\rig ht]^T ,则Jacobi法的迭代格式(也称分量形式)为x_i^{(k+1)}=\frac{1}{a_{ii}}\left ( {b_i-\sum_{j=1,j\ne i}^{n}a_{ij}x_j^{(k)}}\right),\quadi=1,2,\cdots,n\\矩阵形式设 A=D-L-U。
Jacobi法的矩阵形式(也称向量形式)为x^{(k+1)}=B_Jx^{(k)}+D^{-1}b\\其中迭代矩阵 B_J=D^{-1}(L+U)收敛条件\begin{eqnarray} \left. \begin{array}{lll} \VertB_J\Vert <1 \\ A 严格对角占优\\ A, 2D-A对称正定\end{array} \right \} \end{eqnarray} \Rightarrow \rho (B_J)<1\Leftrightarrow 迭代收敛特别地,若 A 对称正定且为三对角,则 \rho^2(B_J)=\rho (B_G)<1 。
线性方程组迭代解法
§3.2(I) Jacobi 迭代法 (Jacobi iterative method)
数学问题的描述
Jacobi迭代法的主要步
骤
1. The mathematical form 2. The process of Jacobi iterative method
数学问题的描述
Ax=b x= M-1 Nx + M-1 b
B= M-1 N, f= M-1 b
注:选取M阵,就得到解 Ax=b 的各种迭代 法 Re.mark: We can obtain various iterative schemes
by choosing different M.
本章重点介绍三个迭代法,即:
0满足(k什么条∞)件时有
Bk+1 0
The convergence of {x(k) } Bk+1 0
The condition ?
基本迭代法 the based iterative technique
设有 Ax b, 其中AA为非(a奇ij )异矩Rn阵n . 将A分裂为 A M N ,
The process of iterative method
解线性方程组迭代法的主要步骤是:
1. 把所给的线性方程组Ax=b 化成如下形式的同解
方程组
Converting Ax=b into an equivalent form
x=Bx+f
(3-1)
2. 给出初始向量
X 0
x(0) 1
,
x20
Direct techniques are used for solving linear systems of small
线性方程组迭代解法
输入最大迭代次数N, k=1;误差ε ② 迭代
计算X ( E D A) X
(1)
1
(0)
D b
1
(1) (1) (1) (1) ③ 控制 如果||X(1)-X(0)||<ε,则输出X ( x1 , x2 xn )
否则 如果k<N ,k=k+1,置X(1) =X(0)转②继续; 如果k>=N ,算法失败。
ji
可写成形如
x
( k 1) i
(bi a x
j 1 (k ) ij j
i 1
j i 1
a x
n
(k ) ij j
) / aii
(i 1,2,, n) (3-9)
在Jacobi 迭代中,是用X(k)的全部分量来计算 X(k+1)的全部分量的。 我们应该注意到,在计算新分量xi(k+1)时,分量 x1(k+1), x2(k+1), … , xi-1(k+1)都已经算出。
由于Gauss-Seidel迭代法逐次用计算出来的新值 代替旧值,所以在收敛的条件下,它要比Jacobi迭 代法收敛速度快。
返回节
Gauss-seidel迭代法的主要步骤
分量计算步骤为:
① 准备
X (0) ( x1(0) , x2(0) xn(0) ) 输入A,b,迭代初值
输入最大迭代次数N, k=1;误差ε
按系数矩阵中 零元素的个数: 按未知量 的个数: 按系数矩 阵的形状
稠密线性 方程组
稀疏线性 方程组 低阶线性 方程组
对角占 优方程组
高阶线性 (如1000) 方程组
对称正定 方程组 三角形 方程组
线性方程组迭代法
线性方程组迭代法
线性方程组迭代法,又称坐标下降法,是一种用于解线性方程组的迭代求解方法,常用于线性规划以及单纯形法等技术。
早在上世纪50年代,此方法就在解决
线性规划问题中得到了广泛应用,到目前为止,这种技术仍然广泛使用。
线性方程组迭代法是一种基于不断迭代调整变量,使目标函数达到最优结果的
迭代求解法。
其基本步骤是:
(1) 初始化目标函数变量:首先,初始化线性方程组的目标函数的变量;
(2) 评估梯度:选择合适的算法计算目标函数的梯度;
(3) 根据该梯度更新变量:更新目标函数变量的值,使得在此次更新之后的值
更加有利于满足线性方程组的要求;
(4) 重复上述步骤,直到目标函数足够接近最优值为止;
线性方程组迭代法能够快速地求解出线性规划问题的最优解,因此,它在计算
机上经常被用来优化问题,进而提高系统运行效率。
随着网络技术的发展,线性方程组迭代法在互联网领域得到了广泛应用,这在大大缩短了计算机程序的运行时间,提高了互联网的效率。
同时,线性方程组迭代法也有助于提高系统的性能,改善用户的体验,提升企业的品牌形象。
数值分析讲义——线性方程组的解法
数值分析讲义第三章线性方程组的解法§3.0 引言§3.1 雅可比(Jacobi)迭代法§3.2 高斯-塞德尔(Gauss-Seidel)迭代法§3.3 超松驰迭代法§3.7 三角分解法§3.4 迭代法的收敛性§3.8 追赶法§3.5 高斯消去法§3.9 其它应用§3.6 高斯主元素消去法§3.10 误差分析§3 作业讲评3 §3.11 总结§3.0 引言重要性:解线性代数方程组的有效方法在计算数学和科学计算中具有特殊的地位和作用.如弹性力学、电路分析、热传导和振动、以及社会科学及定量分析商业经济中的各种问题.分类:线性方程组的解法可分为直接法和迭代法两种方法.(a) 直接法:对于给定的方程组,在没有舍入误差的假设下,能在预定的运算次数内求得精确解.最基本的直接法是Gauss消去法,重要的直接法全都受到Gauss消去法的启发.计算代价高.(b) 迭代法:基于一定的递推格式,产生逼近方程组精确解的近似序列.收敛性是其为迭代法的前提,此外,存在收敛速度与误差估计问题.简单实用,诱人.§3.1 雅可比Jacobi 迭代法 (AX =b )1基本思想:与解f (x )=0 的不动点迭代相类似,将AX =b 改写为X =BX +f 的形式,建立雅可比方法的迭代格式:X k +1=BX (k )+f ,其中,B 称为迭代矩阵.其计算精度可控,特别适用于求解系数为大型稀疏矩阵(sparse matrices)的方程组. 2问题:(a) 如何建立迭代格式?(b) 向量序列{X k }是否收敛以及收敛条件? 3 例题分析:考虑解方程组⎪⎩⎪⎨⎧=+--=-+-=--2.453.82102.7210321321321x x x x x x x x x (1)其准确解为X *={1, 1.2, 1.3}. 建立与式(1)相等价的形式:⎪⎩⎪⎨⎧++=++=++=84.02.01.083.02.01.072.02.01.0213312321x x x x x x x x x (2) 据此建立迭代公式:⎪⎩⎪⎨⎧++=++=++=+++84.02.01.083.02.01.072.02.01.0)(2)(1)1(3)(3)(1)1(23)(2)1(1k k k k k k kk k x x x x x x x x x (3) 取迭代初值0)0(3)0(2)0(1===x x x ,迭代结果如下表. JocabiMethodP31.cpp迭代次数 x1 x2 x30 0 0 01 0.72 0.83 0.842 0.971 1.07 1.153 1.057 1.1571 1.24824 1.08535 1.18534 1.282825 1.095098 1.195099 1.2941386 1.098338 1.198337 1.2980397 1.099442 1.199442 1.2993358 1.099811 1.199811 1.2997779 1.099936 1.199936 1.29992410 1.099979 1.199979 1.29997511 1.099993 1.199993 1.29999112 1.099998 1.199998 1.29999713 1.099999 1.199999 1.29999914 1.1 1.2 1.315 1.1 1.2 1.34Jocobi迭代公式:设方程组AX=b, 通过分离变量的过程建立Jocobi迭代公式,即),,2,1()(1),,2,1(0,11n i x a b a x n i a b x a n ij j j ij i iii ii ni i j ij =∑-==≠∑=≠== 由此我们可以得到Jacobi 迭代公式:),,2,1()(11)1(n i x a b a xn ij j k i ij i iik i=∑-=≠=+[Jacobi 迭代公式的算法] 1: 初始化. n , (a ij ), (b j ), (x 1) , M . 2: 执行k =1直到M 为止. ① 执行i =1直到n 为止.ii nij j j ij i i a x a b u /)(1∑-←≠= ;② 执行i =1直到n 为止.i i u x ← ;③输出k , (x i ).另外,我们也可以建立Jacobi 迭代公式的矩阵形式. 设方程组AX =b ,其中,A =(a ij )n 为非奇异阵,X =(x 1,x 2,…,x n )T , b =(b 1,b 2,…,b n )T将系数阵A 分解为: A =U +D +L ,U 为上三角矩阵,D 为对角矩阵,L 为下三角矩阵.于是AX =b 可改写为 (U +D +L )X =b⇔ X =D -1b -D -1(U +L )X由此可得矩阵形式的Jocobi 迭代公式: X k +1=BX (k )+f □§3.2 高斯-塞德尔Gauss-Seidel 迭代法注意到利用Jocobi 迭代公式计算)1(+k ix 时,已经计算好)(1)(2)(1,,,k i k k x x x - 的值,而Jocobi 迭代公式并不利用这些最新的近似值计算,仍用)(1)(2)(1,,,k i k k x x x - .这启发我们可以对其加以改进,即在每个分量的计算中尽量利用最新的迭代值,得到),,2,1()(1111)1()1(n i x a x a b a xn i j k jij i j k j ij i iik i=∑-∑-=+=-=++上式称为Gauss-Seidel 迭代法. 其矩阵形式是X =-(D +L )-1UX +(D +L )-1b , X k +1=BX (k )+f .迭代次数 x1 x2 x3 0 0 0 0 1 0.72 0.902 1.1644 2 1.04308 1.167188 1.282054 3 1.09313 1.195724 1.2977714 1.099126 1.199467 1.2997195 1.09989 1.199933 1.2999656 1.099986 1.199992 1.2999967 1.099998 1.199999 1.2999998 1.1 1.2 1.3§3.3 超松驰迭代法SOR 方法1基本思想:逐次超松弛迭代法(Successive Over Relaxation Method,简写为SOR)可以看作带参数ω的高斯-塞德尔迭代法,是G-S 方法的一种修正或加速.是求解大型稀疏矩阵方程组的有效方法之一. 2 SOR 算法的构造:设方程组AX =b , 其中,A =(a ij )n 为非奇异阵,X =(x 1,x 2,…,x n )T , b =(b 1,b 2,…,b n )T . 假设已算出x (k ),),,2,1()(1111)1()1(n i x a x a b a xn i j k j ij i j k j ij i iik i=∑-∑-=+=-=++ (1)相当于用高斯-塞德尔方法计算一个分量的公式. 若对某个参数ω,作)1(+k ix与)(k i x 加权的平均,即)()1()()1()()1()(1k i k ik i k ik ik ix xx xxx-+=+-=+++ωωω (2)其中,ω称为松弛因子.用(1)式代入(2)式,就得到解方程组AX =b 的逐次超松弛迭代公式:⎪⎩⎪⎨⎧=∑-∑-=∆∆+==-=++),,2,1()()(11)1()()1(n i x a x a b a x x x x n ij k j ij i j k j ij i iii i k i k i ω (3) 显然,当取ω=1时,式(3)就是高斯-塞德尔迭代公式. 3 例题分析:利用SOR 方法解方程组⎪⎩⎪⎨⎧=+---=-+-=--3322242024321321321x x x x x x x x x (1) 其准确解为X *={1, 1, 2}. 建立与式(1)相等价的形式:⎪⎪⎩⎪⎪⎨⎧++=-+=+=132315.05.05.025.05.021*******x x x x x x x x x (2) 据此建立迭代公式:⎪⎪⎩⎪⎪⎨⎧++=-+=+=+++132315.05.05.025.05.0)(2)(1)1(3)(3)(1)1(23)(2)1(1k k k k k k kk k x x x x x x x x x (3)利用SOR 算法,取迭代初值1)0(3)0(2)0(1===x x x ,ω=1.5,迭代结果如下表.逐次超松弛迭代法次数 x1 x2 x3 1 0.625000 0.062500 1.750000 2 0.390625 0.882813 1.468750 3 1.017578 0.516602 1.8085944 0.556885 0.880981 1.7104495 1.023712 0.743423 1.8681036 0.746250 0.908419 1.8387377 0.997715 0.860264 1.9138948 0.864050 0.936742 1.9086059 0.986259 0.922225 1.94552310 0.928110 0.958649 1.94749311 0.985242 0.955944 1.96619812 0.961661 0.973818 1.96952113 0.988103 0.974699 1.97928914 0.979206 0.983746 1.98217215 0.991521 0.985318 1.98741616 0.988509 0.990038 1.98951317 0.994341 0.991414 1.99239718 0.993538 0.993946 1.99380619 0.996367 0.994950 1.99542420 0.996313 0.996342 1.99633121 0.997724 0.997018 1.99725422 0.997871 0.997798 1.99782223 0.998596 0.998234 1.998355GS迭代法须迭代85次得到准确值X*={1, 1, 2};而SOR方法只须55次即得准确值.由此可见,适当地选择松弛因子ω,SOR法具有明显的加速收敛效果. □§3.4 迭代法的收敛性1. 向量和矩阵范数 (a) 向量范数R n 空间的向量范数 || · || ,对任意n R y x ∈,, 满足下列条件:00||||;0||||)1(=⇔=≥x x x (正定性)||||||||||)2(x x⋅=αα (齐次性)||||||||||||)3(y x y x+≤+ (三角不等式)常见的向量范数有: (1) 列范数:(2) 谱范数:(欧几里德范数或向量的长度,模)(3) 行范数:(4) p 范数:上述范数的几何意义是:∞||||x =max(|x 2-x 1|,|y 2-y 1|) ; 1||||x =|x 2-x 1|+|y 2-y 1| ;2122122)()(||||y y x x x -+-=.向量序列}{)(k x依坐标收敛于向量x * 的充要条件是向量序列}{)(k x 依范数收敛于向量x *,即0||||lim *)(=-∞→x x k k .(b) 矩阵范数n m R ⨯空间的向量范数 || ·|| ,对任意 n m R B A ⨯∈,, 满足下列条件:|||||||| || AB || (4)||||||||||||)3(||||||||||)2(00||||;0||||)1(B A B A B A A A A A A ≤+≤+⋅==⇔=≥αα常见的矩阵范数有:∑==∞≤≤nj ij a A ni 1||max ||||1 (行和范数)∑==≤≤ni ij a A nj 11||max ||||1 (列和范数))(||||max 2A A A T λ= (谱范数)若A 对称,则有)()(2max max A A A T λλ=.矩阵A 的谱半径记为)(||||2A A ρ=,ρ(A ) =||max1i ni λ≤≤,其中λi 为A 的特征根。
第三章 线性方程组的迭代解法
定理3.2 若 ||B|| =q<1,则由迭代格式x(k+1)=Bx(k)+f 和任意初始 向量x(0)产生的迭代序列x(k)收敛于准确解x*. 本定理是迭代法收敛的充分条件,它只能判别收敛的情况,当 ||B|| ≥1时,不能断定迭代不收敛.但由于||B||,特别是||B|| 1和||B|| ∞ 的计算比较容易,也不失为一种判别收敛的方法。 同时当||B|| <1时可以用来估计迭代的次数,或用来设置退出 计算的条件. 这时有定理3.3和定理3.4 定理3.3 若||B|| =q<1,则迭代格式x(k+1) =Bx(k)+f产生的向量序 k 列 {x(k)}中 q (k ) * (0) (1 )
3.2 几种常用的迭代法公式 3.2.1 Jacobi迭代法
先看一个算例:
10 x 1 2 x 2 x 3 3 例1 2 x 10 x x 15 1 2 3 x 2 x 5 x 10 1 2 3
从以上三个方程中分别解出x1, x2, x3
|| x x || 1 q || x x || ( 3 . 17 )
利用此定理可以在只计算出x(1)时,就估计迭代次数k,但估 计偏保守,次数偏大. 称为事前误差估计. 13 结束
x2
x3
0
0
可见它对这一方程组比Jacobi迭代法收敛快一些。
Gauss-Seidel迭代法的公式如下:
xi
( k 1)
bi a ii
1 i 1 a ij x (j k 1 ) a ii j 1
n
a ij x j
(k )
j i 1
i 1, 2 , n k 0 ,1, 2 ,
3线性方程组的迭代解法
三、逐次超松弛法(SOR方法)
逐次超松弛法(Successive Over Relaxation Method)可 看成是Gauss-Seidel方法的加速,Seidel迭代法是SOR方法的 特例。将Seidel方法的迭代公式
改写为
x(k1) i
1 aii
(bi
i 1
a x(k 1) ij j
k
0
1
2
3
4
5
6
x1
0
2.5000 2.9773 3.0098 2.9998 2.9999 3.0000
x2
0
2.0909 2.0289 1.9968 1.9997 2.0001 2.0000
x3
0
1.2273 1.0041 0.9959 1.0002 1.0001 1.0000
可见Gauss-Seidel迭代法比Jacobi迭代法收敛要快一些。
x(k 1) BJ x(k ) f J
0
其中
a21
a22
BJ D1(L U )
an1 ann
a12 a11 0
an2 ann
a13 a11
a23 a22
7
a1n1 a11
a2n1 a22
ann1 ann
a1n
a11
a2 n
a22 , fJ D1b
0
二、 Gauss-Seidel 迭代法
x(k ) i
xi(k )
x(k ) i
1 aii
bi
i 1
a x(k 1) ij j
j 1
n
aij
x(jk
)
j i
为加快收敛,在增量 xi(k ) 前加一个因子
第6章线性方程组的迭代解法
第六章 线性方程组的迭代解法
1
求解线性方程组的数值解除了使用直接解法,迭代解 法也是经常采用的一种方法,这种方法更有利于编程计 算,本章将介绍这种方法。
§1 向量和矩阵的范数
为了对线性方程组数值解的精确程度,以及方程组 本身的性态进行分析,需要对向量和矩阵的“大小”引 进某种度量,范数就是一种度量尺度,向量和矩阵的范 数在线性方程组数值方法的研究中起着重要的作用。
AT A的最大特征值 2
算理论上重要
n
矩阵∞-范数:
A
max 1 i n
| aij |
j 1
行和
以上三种范数都满足矩阵范数的条件,通常将这三种 矩阵范数统一表示为|| A ||p,P=1,2,∞。
2020/8/12
第六章 线性方程组的迭代解法
9
例6.2 设矩阵
1 A 3
2
4
求矩阵A的范数|| A ||p,P=1,2,∞。 解 根据定义
lim x(k) x* 或 x(k ) x*
k
向量序列 {x(k)} 收敛于向量 x*,当且仅当它的每一
个分量序列收敛于xi*的对应分量,即
x(k)
x*
x(k) i
xi* , i
1,2,, n
||
x(k )
x*
||
max
1 i n
|
x(k) i
xi*
|
2020/8/12
第六章 线性方程组的迭代解法
(4)|| AB ||≤|| A || || B ||
则称|| A ||为矩阵A的范数。
可定义矩 阵极限
2020/8/12
第六章 线性方程组的迭代解法
8
设 n 阶矩阵 A=(aij),常用的矩阵范数有:
第5章线性方程组的迭代法资料.
第一节 基本迭代方法 第二节 迭代法的收敛性
第三节 超松弛迭代法
1
§1 基本迭代方法
一、问题的提出
1.直接方法的缺陷(以Gauss消去法为代表): 对于低中阶数(n≤100)的线性方程组十分有效,但n
很大时,特别是由某些微分方程数值解所提出来的线性方程 组,由于舍入误差的积累以及计算机的存贮困难,直接方法 却无能为力。
...
a x (k) nn 1 n1
bn
可以缩写为:
x (k1) i
1 aii
i 1
aij x j(k )
j 1
n
aij x j(k )
j i 1
bi
(i 1,2, , n)
6
例1 用雅可比迭代法解线性方程组 10x1 x2 2x3 7.2
x1
10x2
2x3
8.3
解 生成雅可比迭代格式:
...
a2n
xn
b2
aii 0
an1 x1 an2 x2 ... ann xn bn
建立迭代格式:
x1
1 a11
x2
1 a22
a12 x2 ... a1n xn b1 a21 x1 ... a2n xn b2
... ... ... ...
xn
1 ann
an1 x1 ... ann1 xn1 bn
4
迭代法要解决的主要问题如下 :
1.如何构造迭代格式?
2.构造的格式所产生的序列在什么情况下收敛?
3.如果收敛,收敛的速率如何? 迭代方程
4.近似解的误差估计。 方程
迭代格式
Ax b x Bx f , x(k1) Bx(k) f , k 1, 2,L
计算机方法线性方程组的解法
高斯-塞德尔迭代格式
k k x1k 1 0.1x 2 0.2 x 3 0.72 k 1 k 1 k x 0 . 1 x 0 . 2 x 0.83 2 1 3 k 1 k 1 k 1 x 0 . 2 x 0 . 2 x 0.84 1 2 3
重要性:解线性代数方程组的有效方法在计算数学和
科学计算中具有特殊的地位和作用。如弹性力学、电
路分析、热传导和振动、以及社会科学及定量分析商 业经济中的各种问题。 求解线性方程组 Ax b 的求解方法,其中
A R nn
, x, b R n 。
* x* ( x1* , x2 , * T , xn )
… … …
…
( k 1 ) ( k 1 ) ( k 1 ) ( k 1 ) ( k 1 ) xn 1 ( a n1 x1 an 2 x2 an 3 x3 a nn 1 x n 1 bn ) a nn
写成矩阵形式: x( k 1) D1 ( Lx( k 1) Ux( k ) ) D1b
其准确解为X*={1.1, 1.2, 1.3}。
x1 0.1 x2 0.2 x3 0.72 x2 0.1 x1 0.2 x3 0.83 x 0.2 x 0.2 x 0.84 1 2 3
据此建立迭代公式:
(k ) (k ) x1(k +1) =0.1x2 +0.2x3 +0.72 (k +1) (k ) (k ) x2 =0.1x1 +0.2x3 +0.83 (k +1) (k ) (k ) x =0.2 x +0.2 x 1 2 +0.84 3
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
非奇异( |≠0),且 其中 A=(aij)nn 非奇异(|A|≠0),且a ii≠0 =1,2,…, 由式( (i=1,2, ,n), 由式(3-3)得
aii xi = bi − ∑aij x j
j ≠i
(i = 1,2,L, n)
(3-4) - )
Jacobi iterative method
迭代公式的构造 迭代公式的收敛性
Problem:
1. How to construct iterative scheme? 2. The convergence of iterative scheme.
研究
{ x (k)
}的收敛性
x(k+1)=Bx(k)+f
引进误差向量 e(k+1) = x(k+1) -x* (k=1,2,…..) 因此 e(k+1) =B e(k) (k=1,2, ..) 所以 e(k+1) = Bk+1 e(0) 要考察 {x(k) } 的收敛性, 就要研究B在什么条件下有 的收敛性, 就要研究B 亦即要研究 B 满足什么条件时有
成立, A=D则有 A=D-L-U 成立,而式(3-4)的矩阵形式为 DX =(L+U)X+b (3-5) - ) 等式两边乘以D-1,得 X= D-1(L+U)X+ D-1b
(3-6) - )
由此得到迭代公式( 由此得到迭代公式 The iterative scheme is :) ) ) X(k+1)= D-1(L+U)X(k)+ D-1b (3-7) ) ) (i = 1,2,L, n) 即 ( k+1) (k ) xi = (bi − ∑aij x j ) / aii ) (k = 0,1,2,L (3-8) ) j ≠i
数学问题的描述
Jacobi迭代法的主要步骤
1. The mathematical form 2. The process of Jacobi iterative method
数学问题的描述
设有线性方程组 即
Ax =b
a11x1 + a12 x2 +L+ a1n xn = b1 a21x1 + a22 x2 +L+ a2n xn = b2 M an1 x1 + an2 x2 +L+ ann xn = bn
Direct techniques are used for solving linear systems of small dimension. For large systems with high percentage of 0 entries, the direct methods are not efficient enough in term Of computer storage and computation amount. 返回节
第三章 线性方程组迭代解法
Iterative techniques for solving linear system
内容提要(content) 内容提要(content)
Introduction) 3.1 概 论(Introduction) 迭代法( iterative) 3.2(I) Jacobi 迭代法(Jacobi iterative) Gauss3.2(II) Gauss-Seidel 迭代法 (Gauss-Seidel iterative) (Gauss3.3 迭代法的收敛性 (The convergence of iterative method) 3.4 SOR法 (SOR method)) method)) 本章学习要点
若记
a11 a22 D= O ann 0 − a 0 21 L= L L − an1 − an2 L 0 0 − a12 L − a1n 0 L − a2n U= M 0
The three iterative schemes in the textbook: 1. Jacobi iteration 2. Gauss-Seidel iteration 3. SOR method
§3.2(I) Jacobi 迭代法 method) (Jacobi iterative method)
问题:如何判断可以终止迭代? 问题:如何判断可以终止迭代?
(0) 1
x=Bx+f
(0)
(
(0)
(0) T n
)
(3-1) ∈ Rn ,按迭 (3-2)
Hale Waihona Puke For given initial vector x0, the sequence s of approximate Solutions are generated by computing (3-2)
如果按上述迭代公式所得到的向量序列 { x(k)}收敛于某个向量x* ,则x* 就是方程组 Ax =b 的解,并称此迭代法收敛。否则,就叫不 的解,并称此迭代法收敛 否则, 收敛。 收敛或发散。 收敛或发散。 (3-1)、(3-2)中的矩阵 称为迭代矩阵 迭代矩阵。 式(3-1)、(3-2)中的矩阵B ,称为迭代矩阵。
概
论
引子 迭代法的基本思想 迭代法的主要步骤
引子(Introduction) 引子(Introduction)
直接法得到的解是理论上准确的,但是我们可以 直接法得到的解是理论上准确的, 看得出,它们的计算量都是n 数量级,存储量为n 看得出,它们的计算量都是n3数量级,存储量为n2量 这在n比较小的时候还比较合适(n<400), ),但是 级,这在n比较小的时候还比较合适(n<400),但是 对于现在的很多实际问题,往往要我们求解很大的n 对于现在的很多实际问题,往往要我们求解很大的n 的矩阵,而且这些矩阵(系数矩阵) 的矩阵,而且这些矩阵(系数矩阵)往往是含有大量的 0元素。对于这类的矩阵,再用直接法时就会耗费大 元素。对于这类的矩阵, 量的时间和存储单元。另一方面,实际计算结果精度 量的时间和存储单元。另一方面,实际计算结果精度 有时无法保证. 主要原因是在多次消去、 有时无法保证. 主要原因是在多次消去、回代过程中 四则运算的误差积累与传播无法控制. 四则运算的误差积累与传播无法控制. 因此我们有必 要引入一类新的方法:迭代法。 要引入一类新的方法:迭代法。
Ax=b
x= M-1 Nx + M-1 b B= M-1 N, f= M-1 b
的各种迭代法. 注:选取M阵,就得到解 Ax=b 的各种迭代法. 选取M
Remark: We can obtain various iterative schemes by choosing different M.
本章重点介绍三个迭代法, 本章重点介绍三个迭代法,即: 迭代法, 1)Jacobi迭代法, Gauss迭代法, 2)Gauss-Seidel 迭代法, 超松弛迭代法( 3)超松弛迭代法(SOR法) 及其收敛性。 及其收敛性。
返回节
这种迭代法, 这种迭代法,称为Jacobi迭代法。
Jacobi迭代的分量形式 Jacobi迭代的分量形式
a1n (k) b1 a12 (k) a13 (k ) (k+1) x1 = − a x2 − a x3 −L− a xn + a 11 11 11 11 x(k+1) = − a21 x(k ) − a23 x(k) −L− a2n x(k) + b2 a22 1 a22 3 a22 n a22 2 L an1 (k ) an2 (k ) ann−1 (k ) bn ( k+1) xn = − x1 − x2 −L− xn−1 + ann ann ann ann
The matrix A is always unchanged in the iterative process 计算过程中涉及到的中间变量 X ( K ) 及 X ( k +1) 需要两组 ,
工作单元x(n), y(n)来存储 来存储. 工作单元x(n), y(n)来存储.
Two computer storages x(n), y(n) are required.
L− a11 x1 == −−a12 x 2 −−a13 x 3 −− L −a1n x n ++b1 a11 x1= −a21 x1 a 12 x 2 a13 x 3L − a1n x n + b1 a 22 x 2 = −a x −−a 23 x 3 −− L −a 2n x n b2 21 1 a 22 x 2 a 23 x 3 a 2− x n ++ b 2 n − a 34 x 4 L a 3n x n b 3 33 x 3 = − a31 x1 − a32 x2 a − a 34 x 4 L − a 3n x n + b 3 a 33 x 3 = − a31 x1 − a32 x2 LL LL an L− n +b n n 2 n a nn x n ==−−a1 x1x−−aa2 xx −− L −aa,n−1 xx−1 a nn x n +b n n1 1 n2 2 n , n −1 n −1
返回节
迭代法的主要步骤
The process of iterative method
解线性方程组迭代法的主要步骤是: 解线性方程组迭代法的主要步骤是: 1. 把所给的线性方程组Ax=b 化成如下形式的同解 方程组 Converting Ax=b into an equivalent form 2. 给出初始向量 X = x , x2 ,Lx 代公式 x(k+1)=Bx(k)+f (k=0,1,2,…) 进行计算,其中k 进行计算,其中k 表迭代次数。