迭代格式二迭代法的收敛性一
7.2 迭代法及其收敛性
k4.1045
1/ 2
表 7.2.1 用不动点迭代法计算例7.2.1的结果
0 (a) 1.5 -0.625 6.447 -378.2 5.3697e7 -1.547e23 (b) 1.5 0.912871 2.454577 (c) (d) (e) 1.5 1.5 1.5 1.241638702 1.333333333 1.365079365 1.424290116 1.305205188 1.387624336 1.332682451 1.370291856 1.344991115 1.362217505 1.350582520 1.358732441 1.355350555 1.354767869 1.355301399 1.355384418 1.355301398 1.355288480 1.355303407 1.355301085 1.355301446 1.355301390
*
k
xk x L x0 x L max x0 a , b x0 ,
* k * k
从而 7.2.4 成立.
再由 7.2.3 , 对m k 1, 我们有
x m x k x m x m 1 x m 1 x m 2 x k 1 x k x m x m 1 x m 1 x m 2 x k 1 x k Lm 1 x1 x0 Lm 2 x1 x0 Lk x1 x0 Lk x1 x0 1 L L2 Lm k 1 .
(7.2.1)
其中 ( x )为连续函数,其取法不唯一,例如可取
方程(7.2.1)的解称为函数 ( x )的不动点, 求方程 (7.2.1)的解的问题称为不动点问题.
迭代法的收敛性与误差估计
迭代法的收敛性与误差估计一…的童滚.11/{安务刊迭代法的收敛性.与误差估计’\虞福星..Z冬}7.在许多工程技术问题中,常常会遇到求解一元非线性方程的问题.例如,代数方程一x—l一0或超越方程x+{x—l看上去形式很简单,但不易求出其准确根,只能求出方程达到一定精度的近似根.求解这类方程的方法很多,迭代法就是其中的一种.迭代法有许多优点:1.其算法的逻辑结构简单f2.收敛速度快I3.中间结果有扰动不会影响计算结论;4.计算误差容易控制.正因为如此,迭代法得到非常广泛的应用.一,迭代法的基本思想设有方程f(11=0首先,我们设法将式(1)代成下列等价形式x—g∽然后按式(2)构造迭代公式(1)(2)+l—g{-,k=o,1,2, (3)从给定的初始近似根x.出发,按迭代公式(3)可以得到一个敦列x.,x1,x2,...,x, (4)如果这个数列{}有极限,则称迭代公式(3)是收敛的,此时数列螅极限x=limx就是原方程(1)的根.二,迭代法的收敛性及误差估计具备怎样的条件,迭代公式(3)是收敛的,这就是我们要讨论的中心问题.对此,我们有定理:设方程x—g在(a,b)内有根x,若gt满足李普希茨条件,即对(a,b)内任意的x】和都有lg(x1)g(x2)l≤qlxl—x2l(5)q为某个正数,当q<1时,则方程在(a’b)内有唯一的根I且迭代公式(3)对任意初始近似值xo均收敛于根x;还有误差估计式一≤lXk--Xkil≤lXI--Xol(6)证明:先证唯一性由已知条件知,x’是方程x—g的根,即x一g66设i也是方程x=g(x)的根,则x=g于是1x一i1=1g)--g1由李普希茨条件,得1x一;1一Ig(-～g’;I≤q1x一il因为0<q<1,故必有x.=;,根的唯一性得证. 再证收敛性由李普希茨条件,得IXk+I--X.l=Ig’--g)l≤qI一x.I同样l一x’l≤qIXk一1一x.1,…,1x1--X.1≤qI～x’1于是有1+I—x’I≤?Ix.一x’1因为0<q<1,当k—o.时,一0,即有Ix…--X’j—O(k—oo)所以,limxx.k一收敛性得证.利用李普希茨条件,得l+1～f=fg’)--g(,一.I≤Ix,一一1I于是对任意正整数P,有l+p一1≤1Xk—p一+rII+1Xk+p一1--Xk+p一±1+…+1一1一I≤(q+qP 一+…+q)?j一l一lxr令P—oo,得一I≤一一l≤IX1--X0I三,选择迭代公式的原则如果方程(2)中的g’满足Ig’I]l≤M<IxE(a,b)则可取这里的M作为李普希茨(5)中的q,由式(6)可知,正数q越小,收敛速度越快.所以,选遗代公式要遵循使IgI在(a山)的最大值M为最小这个原则.由于把方程f㈨一0化成等价形式x;g的方法很多.例如,方程x一x一1—0可以化成以下四种形式(1)x一一167(2)x一+1㈣x=X--每=㈤x一一由此可得四个迭代公式x+?=x:一1(7);(8):(9)’(9)l一—)(,)式(1I)也可用牛顿切线法导出,可见牛顿切线法可视为谴代法的特殊情形.由于=苎【)所以.f(?f().因此,只要ll≤q<l,L”)J公式(II)就收敛68。
GaussSeidel迭代法
定理4 对 于 任 意 右 端 向 量 F 初 始 向量 X 0， Gauss Seidel 迭代法收敛的充分条件是
n
1
B max
1
j i1
bij
1;
n
2
B
max i
bij
j 1
1.
由此定理可知，条件(1）或(2）被满足时，则 Gauss Seidel 迭代法与 Jacobi 迭代法都收敛。
x (1) 1
b11
x (0) 1
b12
x (0) 2
L
b1n
x (0) n
f1
显然，迭代格式收敛的话，则 x11 比 x10 更接近于 X 的第一个分量 x1* 所以在计算x21时，我们不再像 Jacobi
迭代法那样以 x10 , x20 ,L xn0 代入(2.1)中第二式的右边 ， 而是把新算出的 x11 及 x20 , x30 ,L xn0 代入该式右边，得
例5 设方程组 AX b 的系数矩阵为
1 2 2
பைடு நூலகம்
A
1 2
1 2
1 1
试证明 Jacobi 迭代法收敛 ，而 Gauss Seidel 迭代法不收敛。
证明 显然， Jacobi 迭代法的迭代矩阵为
因为
0 2 2
B
2 2
0 2
01
2 2 I B 1 1 3
22
令 I B 0 ，则有
x2(k
1)
b21x1(k 1)
b22 x2(k)
b2n xn(k) f2 ,
xn
(
k
1)
bn1x1(k 1)
b x (k1) nn1 n1
bnn xn(k)
第5节_迭代法的收敛性
Bx x
≥
Bx1 ቤተ መጻሕፍቲ ባይዱ1
= 1,与已知矛盾！
线性方程组迭代法收敛性
推论1：对任意初始向量x (0)和右端项g，若 M < 1, 由迭代式 x ( k +1) = Mx ( k ) + g产生的向量序列{ x ( k ) }收敛.
证明：矩阵范数性质3：ρ ( A) ≤ || A ||
迭代法收敛与否只决定于迭代矩阵的谱半径，与初始向 量及右端项无关。 对同一方程组，由于不同的迭代法迭代矩阵不同，可能 出现有的方法收敛，有的方法发散的情形。
且至少有一个i值，使上式中不等号严格成立，则称A为弱 对角占优阵。若对所有i，上式不等号均严格成立，则称A 为严格角占优阵。
定义：如果矩阵A不能通过行的互换和相应的列互换成 A11 为形式 A = 0 A12 ,其中A11，A22为方阵，则称A为不可约。 A22
1 1 0 2 1 0 P = I13 例： A = 1 1 0 PT AP = 0 1 1 → 0 1 2 0 1 1
k →∞
证：设u为A特征值λ对应的特征向量， 则：Ak u = λ Ak -1u =...=λ k u 即：λ k为矩阵Ak的特征值。
ρ 所以：（Ak） [ ρ ( A)]k =
线性方程组迭代法收敛性
1- ρ ( A) > 0， 2 定理：设A为任意n阶方阵， 存在矩阵范数 ，使得 则对任意正数ε , 存在矩阵 1 + ρ ( A) A ≤ ρ ( A) + ε = <1 范数 ，使得： 2 证： 充分性：若ρ ( A) < 1 ，取ε = 则有： A = 0 lim
Gauss-Seidel迭代收敛性：
37第七节 迭代法及其收敛性
=(1-q) ||x(k) -x*||
数学学院 信息与计算科学系
故得
1 q ( k 1) (k ) x x x x x ( k ) x ( k 1) 1 q 1 q k q q x ( k ) x x ( k ) x ( k 1) x (1) x(0) 1 q 1 q
数学学院 信息与计算科学系
二、迭代法的收敛性
定义2 如果
lim A
k
k
(k )
A O
则称矩阵序列｛A(k)｝依范数收敛于A，记
lim A( k ) A
由范数的等价性可以推出，矩阵序列｛A(k)｝ 依某种范数收敛，则依任何一种范数它都收敛，故 下面不强调是在那种范数意义下收敛。
x
k 1
Bx( k ) f
k 0,1,2
其中B称为迭代矩阵。
数学学院 信息与计算科学系
若序列｛x(k)｝收敛，即
lim x ( k ) x
k
显然有
x Bx f
此极限 x＊就是方程组 Ax=b 的解。 定义1 如果序列｛x(k)｝的极限存在(记 x＊)， 则称迭代法收敛，x＊就是方程组 Ax=b 的解，否则 称此迭代法发散。
数学学院 信息与计算科学系
x(k+1) -x*= B( x(k) -x* ) , x(k+1) –x(k)= B( x(k) –x(k-1) )
即有
数值分析23迭代法的收敛性
1 2 2
A 1 1
1
2 2 1
故A分解后的各矩阵分别为
1
D
1
1
0 0 0
L
1
0
0
2 2 0
0 2 2
U 0 0 1 0 0 0
Jacobi迭代法的迭代矩阵为
0 2
1 2 2
2 A 1 1
2 2 1
0 2 1
于是迭代矩阵为
0 2 2
M (D L)1U 0 2 3 0 0 2
其特征方程为
2 2 | I M | 0 2 3 ( 2)3 0
0 0 2
故 (B) 2 1,
所以Gauss-Seidel迭代法发散。
请思考: (1) 若 记 不 住 Jacobi 迭 代 法 和 GaussSeidel迭代法的矩阵表示，怎么写出迭 代矩阵？
Ax b ,
其中A
9 3
4 10
显然Aˊ是严格对角占优阵，因此对方程组
Ax b 用Jacobi法和Gauss-Seidel法均收敛。
例 3 ： 设 A=(aij) 是 二 阶 方 阵 ， 且 a11a22≠0. 试 证 求 解 方 程 组 Ax=b 的 Jacobi 法 与 Gauss-Seidel 法 同时收敛或发散。
注：定理表明，迭代法收敛与否只决定于迭代 矩阵的谱半径，与初始向量及方程组的右 端项无关。对同一方程组，由于不同的迭 代法迭代矩阵不同，因此可能出现有的方 法收敛，有的方法发散的情形。
举例：解方程组
x1 x1
2x2 2x3 x2 x3 2
1
2 x1 2 x2 x3 3
讨论Jacobi法与Gauss-Seidel法的收敛性。
数值分析3.1.二分法、迭代法及收敛性
上述令p→∞, 及limxk+p=x* (p→∞)即得(2.6)式. 证毕. 注：误差估计式(2.5)原则上确定迭代次数，但它由 于含有信息 L 而不便于实际应用. 而误差估计式(2.6) 是实用的，只要相邻两次计算结果的偏差足够小即 可保证近似值 xk 具有足够精度.
注： 对定理1和定理2中的条件2º 可以改为导数，即 在使用时如果(x)∈C[a, b]且对任意x∈[a, b]有
显然f(x)∈C[a, b],且满足f(a)=(a)-a>0, f(b)=(b)-b<0, 由连续函数性质可知存在 x*∈(a, b) 使 f(x*)=0，即 x*=(x*)，x*即为(x)的不动点. 再证不动点的唯一性. 设x1*, x2*∈[a, b]都是(x) 的不动点，则由(2.4)得
可以如此反复迭代计算
xk+1=(xk) 到的序列{xk}有极限 (k=0,1,2,). (2.2)
(x)称为迭代函数. 如果对任何x0∈[a, b]，由(2.2)得
lim xk x .
k
则称迭代方程(2.2)收敛. 且x*=(x*)为(x)的不动点， 故称(2.2)为不动点迭代法.
例1 用二分法求方程 f(x)=x3-x-1=0在(1, 1.5)的实根, 要求误差不超过0.005.
解 由题设条件，即：
|x*-xn|≤0.005 则要
1 2
n 1
(b a)
1 2
n 1
(1.5 1)
1 2
n 2
0.005
2 由此解得 n 1 5.6,取 n=6, 按二分法计算过程见 lg 2
L2 xk 1 xk 2 Lk x1 x0 .
于是对任意正整数 p 有
迭代法和收敛性
x1(k x2(k
1) 1)
0.2x2(k) 0.1x3(k) 0.3
0.2x1(k )
0.1x3(k) 1.5 , k
0,1, 2,
x3(k
1)
0.2x1(k )
0.4x2(k )
2
迭代计算
x(0) 0 [0, 0, 0]T
x(1) 1
0.3
x(1) 2
1.5
x1(k x2(k
其中系数矩阵非奇异，且主对角元aii≠0，(i
=1,2,…,n)，由第i 个方程解出xi，有
x1
1 a11
(b1
a12 x2
a13 x3
x2
1 a22
(b2
a21x1
a23x3
xn
1 ann
(bn
an1x1
an2 x2
a1n xn ) a2n xn )
ann1xn1)
建立迭代格式
aij
x
( j
k
)
)
j i 1
加速
x ( k 1) i
( k 1)
xi
(1 ) xi(k )
i 1, 2, , n
或合起来写成迭代加速的形式
x (k 1) i
aii
(bi
i 1
a x (k 1) ij j j 1
n
aij
x
(k j
)
)
(1
)
xi( k
)
j i1
参数 称为松弛因子， 1 时迭代格式就是高斯-
x (k1) i
1 aii
(bi
n
aij x j(k ) ),
j1
(i 1,2,, n)
类矩阵两种迭代法的收敛性比较
类矩阵两种迭代法的收敛性比较引言：在科学计算中，线性方程组的求解是很普遍的问题。
尤其是在大型科学计算中，线性方程组的求解是最重要的任务之一。
线性方程组的求解有很多种方法，例如高斯消元法、LU分解法、迭代法等等，其中迭代法是一种高效的方法。
迭代法的思想是从一个初值解开始，逐步改进解的准确度，直到满足误差要求。
在本文中，我们将讨论两种类矩阵迭代法的收敛性比较，即雅可比迭代法和高斯-赛德尔迭代法。
1.雅可比迭代法（Jacobi Iterative Method）：雅可比迭代法是最简单的迭代法之一。
它是基于线性方程组的矩阵形式 Ax=b，将 A 分解成 A=D-L-U（D为A的对角线元素，L为A的下三角矩阵，U为A的上三角矩阵），其中 D 为对角线元素，L为严格下三角矩阵，U 为严格上三角矩阵。
则有如下迭代关系式： x^{(k+1)}=D^{-1}(L+U)x^{(k)}+D^{-1}b (1)其中，x^{(k)} 为 k 次迭代后的解，x^{(0)} 为初始解。
雅可比迭代法的迭代矩阵为M = D^{-1}(L+U)。
以下是雅可比迭代法的收敛性分析：定理1：若矩阵 A 为对称正定矩阵，则雅可比迭代法收敛。
证明：由于 A 为对称正定矩阵，所以存在唯一的解。
假设迭代后得到的解为 x^{(k)}，则我们可以用误差向量 e^{(k)} = x-x^{(k)} 表示剩余项，则有 Ax^{(k)}-b = e^{(k)}。
对 (1) 式两边同时乘以 A^-1，得：x^{(k+1)}=x^{(k)}-A^{-1}e^{(k)}。
(2)将 (2) 式代入 Ax^{(k)}-b = e^{(k)} 中，得：Ax^{(k+1)}-b = Ae^{(k)}.(3)由于 A 为对称正定矩阵，则存在 A=Q\\Lambda Q^{-1}，其中Q 为正交矩阵，\\Lambda 为对角矩阵。
因此，我们可以将 (3) 式转化为：\\| x^{(k+1)}-x \\|_{A} =\\| Q^{-1}A^{-1}Qe^{(k)}\\|_{\\Lambda} \\leq \\rho (Q^{-1}A^{-1}Q)\\|e^{(k)}\\|_{A}。
2.2 迭代法的一般形式与收敛性定理
设aii0 (i=1,2,,n)，并将A写成三部分
0 a11 a 21 0 a 22 A a n 1 ,1 a n 1 , 2 0 a nn a n 2 a n , n 1 a n1 0 a12 a1,n1 a1n 0 a 2 , n 1 a 2 n 0 a n 1, n 0 D LU. 0
则
k
B ( H )
k
两边取对数得: k ln ( H ) ln k
ln ln ( H )
定义:
ln ( H )
为迭代法(2.2.3)的渐近收敛速 度。
解线性方程组的迭代法
线性方程组
a11 x1 a12 x2 a x a x 21 1 22 2 an1 x1 an 2 x2 a1n xn b1 a2 n xn b2 ann xn bn
复习：矩阵的谱半径 设λ是矩阵A相应于特征向量x的特征值，即 Ax＝λx 向量-矩阵范数的相容性，得到 |λ| || x ||=||λx|| =|| Ax|| ≤ || A || ||x|| 从而，对A的任何特征值λ均成立 |λ|≤|| A || （ 3）
设n阶矩阵A的n个特征值为λ1,λ2，…λn，称 ( A) max i
x ( k 1) x* H ( x ( k ) x* )
由此递推：x ( k 1) x* H k 1 ( x ( 0) x* ), k 0,1,2,
x 是线性方程组Ax=b的解
x* Hx* g
x
k 1
*
迭代法的收敛性
即
det[I (D L)1U ] 0
从而 det(D L)1 det[(D L) U ] 0
所以
det[(D L) U ] 0
可得
因为
|aii| |aij | ji
i1
n
|||aii||| |aij ||| |aij |
j1
j i 1
i1
n
n
|| |aij| |aij| (||1) |aij|
(1)写出解该方程组旳Jacobi迭代旳迭代
阵，并讨论迭代收敛旳条件；
(2)写出解该方程组旳G-S迭代旳迭代阵， 并讨论迭代收敛旳条件。
17
补充例题
例：AX=b为二元线性方程组， 证明：解该方程组旳Jacobi迭代与G-S迭 代同步收敛或同步发散。
18
9
特殊方程组迭代法旳收敛性
4 1 1 问题：该矩阵具有怎样旳特点？
2 5 1 1
2
3
结论：该矩阵是严格对角占优阵
定义：假如矩阵A旳元素满足
jn
| aii | | aij | i 1,2,3,, n j 1 ji
则称A为严格对角占优矩阵。
10
特殊方程组迭代法旳收敛性
定理：若线性方程组AX=b旳系数矩阵A为 严格对角占优矩阵，则解该方程组旳Jacobi 迭代法和G-S迭代法均收敛。
2
一阶定常迭代法旳收敛性
则: (k 1) B (k ) B 2 (k 1) B k 1 (0)
注意 (0) x(0) x * 为非零常数向量
所以迭代法收敛旳充要条件
lim (k1) lim( x(k1) x*) 0
k
k
可转变为
lim Bk1 0
《迭代法及其收敛性》课件
2 建立迭代公式
根据问题的特性和已 知条件，建立迭代公 式。
3 判断迭代是否收敛
判断迭代得到的解是 否足够接近真实解， 停止迭代。
迭代法的例子
牛顿迭代法
用于求解方程的数值方 法，通过不断迭代逼近 方程的根。
埃特金迭代法
用于求解线性方程组的 数值方法迭代法
用于求解线性方程组的 数值方法，通过不断迭 代逼近方程组的解。
迭代法的收敛性
收敛性是指迭代得到的解越来越接近真实解，而收敛速度是指迭代得到的解 的收敛速度有快有慢。
收敛速度的度量方法
1 零点误差
迭代得到的解与真实 解之间的差距。
2 牛顿数列
迭代得到的解之间的 差值的变化规律。
3 收敛阶
《迭代法及其收敛性》 PPT课件
迭代法及其收敛性
迭代法是一种求解数值问题的方法，通过反复迭代得到更精确的解。这个PPT 课件将讲解迭代法的定义、步骤、例子以及收敛性的度量方法。
什么是迭代法？
迭代法是一种求解某些数值问题的方法，从一个猜测的解开始，通过反复迭 代得到更精确的解。
迭代法的步骤
1 猜测初始解
迭代得到的解的收敛 速度的量化指标。
如何判断迭代是否收敛？
1 绝对误差减小
迭代得到的解的绝对 误差逐渐减小。
2 相对误差减小
迭代得到的解的相对 误差逐渐减小。
3 后验估计准则
通过计算后验估计准 则判断迭代的结果是 否满足要求。
总结
1 迭代法是一种常用的数值求解方法 2 收敛性和收敛速度是迭代法的重要评价指标 3 判断迭代收敛的方法有多种，需要根据问题具体情况选择
SOR迭代法
ω
0.6 0.8 1 1.1 1.15 1.25 1.3 1.5 1.8
迭代次数 16 10 8 7 8 11 15 15 15
近似解与 5 5 5 5 5 5 5 4 1 准确解重 复合位数
使 SOR 法收敛最快的松弛因子通常称为最 优 松
弛因子。目前，只有少数特殊类型的矩阵，才有确定 的最优松弛因子的理论公式，但实际使用时也有一定 困难。通常的办法，是选不同的 进行试算，以确定
SOR迭代法常以这种形式进行计算。
格式（3.4）的矩阵形式为
X (k1) (1 ) X k D1 b LX k UX (k) ,
3.5
其中
a11
D
a22
O
0
0
,
ann
0 a12 L
U
0O
O
0
a1n
an1,n
0
显然，A D L U.
0
0
L
a21
O
OO
aij x(jk )
3.1
若记
i1
n
r(k)
i
(bi
a x(k 1) ij j
aij
x
(k j
)
),
j 1
j i
i 1,2,L ,n
则 3.1 式可写为
x( k 1) i
x(k) i
1 aii
r(k)
i
3.2
由此可以看出， Gauss Seidel 迭代法的第 k 1
步 ，相当于在第 k 步的基础上每一个分量增加
上述定理说明，对于任何系数矩阵 A，若要 SOR
法收敛，必须选取松弛因子 0,2 ， 然而，当松
弛因子满足条件 0 2 时，并不是对所有系数矩 阵 A 来说，SOR 法都是收敛的。但是，对一些特殊矩 阵来说，这一条件是充分的。
steffensen迭代法二阶收敛证明
Steffensen迭代法是一种用于求解非线性方程的迭代算法，它具有二阶收敛性，即在满足一定条件下，每次迭代后的误差平方会比上一次迭代时减小到一个更小的量级。
本文将对Steffensen迭代法的二阶收敛性进行证明，以帮助读者更好地理解和应用这一迭代算法。
1. Steffensen迭代法的基本思想Steffensen迭代法是一种通过构造辅助函数来提高迭代收敛速度的方法。
其基本思想是利用非线性方程f(x)=0的解可能存在的连续性，通过构造一个新的辅助函数g(x)来达到加速收敛的目的。
具体地，Steffensen迭代法的迭代格式为：\[ x_{n+1} = x_n - \frac{f(x_n)}{g(x_n)} , g(x_n)=\frac{f(x_n+f(x_n))-f(x_n)}{f(x_n)} \]其中f(x)为待求解的非线性方程，x为逼近方程根的迭代值，n为迭代次数。
2. Steffensen迭代法的二阶收敛性证明为了证明Steffensen迭代法的二阶收敛性，我们需要利用泰勒展开和收敛定理等数学工具进行推导和分析。
我们考虑在方程f(x)=0的根附近进行泰勒展开。
假设方程f(x)在根x处具有二阶连续导数（即f''(x)存在），则可以将f(x)在x处展开为泰勒级数：\[ f(x+h) = f(x) + hf'(x) + \frac{h^2}{2}f''(x) + O(h^3) \]其中h为很小的增量，O(h^3)表示高阶无穷小。
令x+h替换为x_n，即可得到：\[ f(x_n+h) = f(x_n) + hf'(x_n) + \frac{h^2}{2}f''(x_n) + O(h^3) \]其中h_n为待定的增量，根据Steffensen迭代法的迭代格式，我们可以得到：\[ g(x_n) = \frac{f(x_n+h_n)-f(x_n)}{f(x_n)} = \frac{hf'(x_n) +\frac{h^2}{2}f''(x_n) + O(h^3)}{f(x_n)} \]将g(x_n)展开为一阶泰勒级数，得：\[ g(x_n) = \frac{hf'(x_n)}{f(x_n)} +\frac{h^2}{2}\frac{f''(x_n)}{f(x_n)} + O(h^2) \]接下来，我们考虑迭代步长误差的范数，即e_{n+1} = x_{n+1} - x^*，其中x^*为方程f(x)=0的真实根。
第七讲二分法与迭代过程的收敛性
所以迭代公式
2 3
1
2 3
取x0=2 计算, 结果列表：
k xk xk-xk-1 0.08008 0.01227 0.00187 0.00027 0.00005
1.二分法的基本思想 条件: 函数f(x)在[a,b]上连续, 严格单调, 且
f(a)f(b)<0, 这时方程在区间内有且仅有一个实根x*.
二分法的基本思想 将含方程根的区间平分为两个小区间, 然后判断 根在哪个小区间, 舍去无根的区间, 而把有根的区间 再一分为二, 再判断根属于哪个更小的区间, 如此周 而复始, 直到求出满足精度要求的近似根.
k 1
ak
xk
bk
(b a )
由此得二分过程的结束原则：
先给定精度要求ε(>0)
(1)当|bk+1 – ak+1|<ε时结束二分计算, 取 x*≈xk;
(2)事先由ε估计出二分的最小次数 k+1, 取 x*≈xk. ba ba * k 1 由 x xk k 1 得2 ， 2 ln(b a ) ln
一、二分法
2.计算过程 具体计算过程
y a1 0 a b1 x* x 0
f (x )
y
0 a
f ( x) a1 x0 b * b1 x x
b x
1 第1次二分, 取中点 x0 (a b ) 2 若f(a)f(x0 )<0, 则 x*∈( a, x0 ), 令a1=a, b1=x0; 否则 x*∈(x0, b), 令a1=x0, b1=b.
答案: 计算结果见列表：
第二节迭代法及其收敛性1
10.3
局部收敛性与收敛阶 上面给出了迭代序列 {xk } 在区间 [a, b]上的收敛性，
通常称为全局收敛性. 定理的条件有时不易检验，实际应
用时通常只在不动点 x *的邻近考察其收敛性，即局部收 敛性. 定义7.2.1 设 ( x ) 有不动点 x * ，如果存在x * 的某个邻域
R : x x * ，对任意 x0 R ，迭代（2.2）产生的序列
xk p xk ( Lp 1 Lp 2 1) xk 1 xk 1 Lp xk 1 xk . 1 L 在上式中令 p 知 1 x * xk xk 1 xk . 1 L
Hale Waihona Puke 由此可见，只要相邻两次计算结果的偏差 xk 1 xk 足够小即可保证近似值 xk 具有足够精度. 对上述定理中的压缩性， 在使用时如果g ( x) C1[a, b] 且对任意 x [a, b] 有
仍取迭代初值 x0 1.5，则有
x1 2.375, x2 12.39.
结果会越来越大，不可能趋于某个极限. 这种不收敛的迭 代过程称作是发散的. 一个发散的迭代过程，纵使进行了 千百次迭代，其结果也是毫无价值的.
y p1 p0
y=x y= (x)
y p0
y=x
x1 x2 x* y= (x) y=x x x0 y y=(x) p0 x*
g ( x) 2 x 1, g ( x*) g ( 3 ) 2 3 1 1.
(2) xk 1 3 3 , g ( x) , xk x
g ( x )
3 , g ( x*) 1. 2 x
1 2 1 2 (3) xk 1 xk ( xk 3), g ( x) x ( x 3), 4 4 1 3 g ( x) 1 x, g ( x*) 1 0.134 1. 2 2 1 3 1 3 (4) xk 1 ( xk ), g ( x) ( x ), 2 xk 2 x
迭代法的收敛性
谱半径分别是 ρ ( B ) =
30 15 , ρ ( M ) = 。均不收敛。 2 2
若交换方程的次序，得 Ax = b的同解方程组 Ax=b,
' '
3 − 10 9 −4 ' A= → A = 3 −10 9 −4 A '为严格对角占优阵，因而对方程组 A ' x = b '用 Jacobi与 Gauss − Seidel 迭代求解均收敛。
k →∞
x* = Mx* + g 由迭代公式有 x ( k ) − x* = Mx ( k −1) + g − Mx* − g = M ( x ( k −1) − x* ) = M 2 ( x ( k − 2) − x* ) = M k ( x (0) − x* ) 于是有 lim M k ( x (0) − x* ) = lim( x ( k ) − x* ) = 0
其特征方程
λ
1 λI − B = 2 1 2
1 2
λ
1 2 1 3 1 3 = λ − λ + 2 4 4
1 λ 2 1 2 = ( λ − ) ( λ + 1) = 0 2
1 , λ 3 = − 1, 因 而 ρ ( B ) = 1 得λ1 = λ 2 = 2 ⇒ J a c o b i迭 代 法 不 收 敛 。
移项得 代入得
(I − M ) x (k ) − x*
−1
1 ≤ 1− M
k
M ≤ 1− M
x (1 ) − x ( 0 ) 。
由误差估计式 x
(k )
−x
*
≤
M
k
1− M
x (1) − x ( 0 )
数值分析中的迭代方法与收敛性分析
数值分析中的迭代方法与收敛性分析迭代方法是数值分析中一种重要的算法，用于求解数值问题。
迭代方法基于一个初始猜测解，并通过不断迭代逼近真实解。
本文将介绍迭代方法的基本原理以及如何进行收敛性分析。
一、迭代方法的原理迭代方法的基本原理是通过不断更新猜测解来逼近真实解。
假设我们要求解一个方程f(x)=0，其中f(x)表示一个函数。
我们可以通过选择一个初始猜测解x0，然后使用迭代公式x_{k+1}=g(x_k)来生成下一个近似解x_{k+1}，其中g(x_k)是一个迭代函数。
通过不断迭代，我们希望逐渐接近真实解。
二、常见的迭代方法在数值分析中，有许多常见的迭代方法被广泛应用于求解不同类型的数值问题。
以下是几种常见的迭代方法：1. 不动点迭代法不动点迭代法通过将方程f(x)=0转化为等价的x=g(x)的形式来求解。
其中g(x)是一个迭代函数，可以通过不断迭代x_{k+1}=g(x_k)逼近真实解。
不动点迭代法的收敛性通常需要满足收敛性条件，如Lipschitz条件或收缩映射条件。
2. 牛顿迭代法牛顿迭代法通过利用函数的导数信息来加速收敛速度。
迭代公式为x_{k+1}=x_k-\frac{f(x_k)}{f'(x_k)}，其中f'(x_k)表示函数f(x_k)的导数。
牛顿迭代法的收敛性通常需要满足局部收敛性条件，如满足Lipschitz条件和拟凸性条件。
3. 雅可比迭代法雅可比迭代法用于求解线性方程组Ax=b，其中A是系数矩阵，b是常数向量。
迭代公式为x_{k+1}=D^{-1}(b-(L+U)x_k)，其中D、L和U分别是矩阵A的对角线、下三角和上三角部分。
雅可比迭代法的收敛性要求系数矩阵A满足严格对角占优条件。
三、迭代方法的收敛性分析在使用迭代方法求解数值问题时，我们需要进行收敛性分析，以确定迭代方法是否能够逼近真实解。
常用的迭代收敛性分析方法包括：1. 收敛域分析收敛域分析用于确定迭代方法的收敛域，即迭代过程中能够保证收敛的初始猜测解的范围。
迭代法的收敛定理
一、基本收敛定理
The Fundamental convergence theorem
Theorem :for any initial value x (0) R n, the fundamental iterative method defined
by x(k+1)=Bx(k)+f (k=0,1,2,…) converges to the unique solution of x=Bx+f if only if
1.25 x1 3.69 x2 12.37 x3 0.58 10.01x1 9.05 x2 0.12 x3 1.43 1.22 x 4.33x 2.67 x 3.22 1 2 3
无法直接判断Jacobi 迭代法和G-S迭代法的收敛性，但如果 将方程组的次序修改为
对角占优矩阵
diagonally dominant matrix
如果线性方程组AX=b的系数矩阵A具有某种特殊性质 （如对称正定、对角占优等），则可从A本身直接得出某些 迭代法收敛性结论。 定义3.1 如果矩阵A满足条件
aii aij
j i
(i 1,2,
, n)
(2)
则称A是严格对角占优阵(strictly diagonally dominant matrix)； 如果矩阵A满足条件 aii aij (i 1,2, , n) (3)
在偏微分方程数值解中，有限差分往往导出对角占优的 线性代数方程组，有限元法中的刚性矩阵往往是对称正定阵， 因此这两个判断定理是很实用的。 对于给定的线性方程组，借助于定理3.3和定理3.4可 以直接判断Jacobi 迭代法和G-S迭代法的收敛性。 但同时应当注意，迭代法收敛与否与方程组中方程排列 顺序有关，如线性方程组
数值计算中的迭代法与收敛性分析
数值计算中的迭代法与收敛性分析数值计算是现代科学技术中不可或缺的一部分，主要解决数学问题的计算和应用问题的模拟。
其中，在数学问题的计算中，经常需要使用迭代法。
本文将从迭代法的基本概念、应用、收敛的定义和分类、收敛性分析以及优化中的迭代法等几个方面论述迭代法与收敛性分析。
一、迭代法的基本概念和应用迭代法是指通过对一个初值的反复迭代求解来逼近某个方程的解或某个函数的极值的方法。
通常来说，迭代法都需要给出迭代序列的计算公式，将初值代入迭代公式计算，得到下一项的迭代结果，不断迭代，直到达到预定的迭代次数或满足收敛精度要求为止。
在数值计算中，迭代法的应用十分广泛，例如求解非线性代数方程、求解常微分方程初值问题、解方程组、求解最优化问题等。
二、收敛的定义和分类在迭代方法求解问题时，我们需要考虑其迭代序列的收敛性问题。
收敛是指迭代序列随着迭代次数的增加，逐渐逼近欲求解的精确解。
在数值计算中，可以用迭代序列中后面几项的误差与该序列最后一项的关系来描述收敛情况。
如果迭代序列中的误差随着迭代次数的增加而逐渐趋于零，那么该迭代序列就是收敛的；反之，如果误差在某个阶段始终无法收敛，那么该迭代序列就是发散的。
按照算法的不同，迭代可以分为简单迭代和牛顿迭代等多种迭代方法。
而根据问题的不同性质，迭代的收敛性可以分为线性收敛和非线性收敛两种情况。
在常见的迭代算法中，如牛顿迭代等，通常都需要对迭代的收敛性进行分析，并根据问题特点选择适当的算法。
三、收敛性分析收敛性分析是数值计算中非常重要的一部分，其主要目的就是分析迭代序列的收敛性，找到迭代公式使其遵循收敛性的要求。
对于某些特定的迭代算法，分析收敛的方法也不相同。
下面我们以简单迭代法和牛顿迭代法两种常见的迭代算法为例，简单分析一下如何对其进行收敛性分析。
（1）简单迭代法的收敛性分析对于简单迭代法，其基本的思路就是对于方程f(x)=0，在x_0处展开泰勒公式，得到x_(k+1)和x_k間的关系式，根据其收敛的条件来选择迭代公式。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
a22
0 a 21 L an1
0
an,n1
0
0 a12 0 U 0
显然，A D L U .
二
SOR 迭代法的收敛性
由 3.5 式有
DX
k 1
1 DX k b LX
k 1
记
1 B D L [1 D U ] 1 F D L b
3.6
则有
X
k 1
B X F
k
3.7
其中，称 B 为 SOR 迭代矩阵。
由定理1及定理2直接得知： （1） SOR 迭代法收敛的充要条件是 B 1 。 （2） SOR 迭代法收敛的充分条件是 B 1 。
ai ,i 1 xi 1 ai ,i 1 xi 1 ain xn )
ai ,i 1 xi 1 ain xn )
ain xn
aii xi aii xi (bi ai1 x1 ai 2 x2 aii xi ai ,i 1 xi 1
SOR 迭代法收敛与否或收敛快慢都与松弛因
子 有关 。 关于 的范围，有如下定理。
定理6
SOR 迭代法收敛的必要条件是松弛
因子 应满足条件 0 2 。
因 SOR 法收敛，故 B 1 。记 B 的 特征值 为 1,2 , n 。因为n阶矩阵的n个 特征值之积等于其行列式之值，即 证明
( k 1) j
j i 1
a x
ij
n
(k ) j
即有
xi
k 1
(1 ) x
(k ) i
bi aij x aii j 1
i 1, 2,
i 1
( k 1) j
j i 1
a x
ij
n
(k ) j
,
3.4
,n
第三节 SOR 迭代法
一、 SOR 迭代格式 二
SOR 迭代法的收敛性
一、 SOR 迭代格式
SOR 是 Succesive
Over R e laxation
( 逐次超松弛 )
的缩写。SOR 迭代法是解大型稀疏矩阵方程组的有效 方法之一。它可以看作是
Gauss Seidel 迭 代 法 的加
速， Gauss Seidel 迭代法是 SOR 迭代的一种特殊形式。
(bi aij x
j 1
i 1
( k 1) j
aij x (jk ) ),
j i
n
i 1, 2,
,n
则 3.1 式可写为
xi( k 1) xi( k ) 1 (k ) ri aii
3.2
由此可以看出， Gauss Seidel 迭代法的第 k 1 步 ，相当于在第 k 步的基础上每一个分量增加
SOR迭代法常以这种形式进行计算。 格式（3.4）的矩阵形式为
X ( k 1) (1 ) X D 1 b LX UX ( k ) ,
k k
3.5
其中
a11 D 0 0 , ann a1n an1,n 0
k 1) ai ,i 1, xi( aii xi( k ) 1源自(k ) ain xn
x
(k ) i
i 1 n 1 ( k 1) (k ) bi aij x j aij x j aii j 1 j i
3.1
若记
ri
(k )
xi xi 1 (bi ai1 x1 ai 2 x2 aii aii xi ai ,i 1 xi 1
其 Gauss Seidel 迭 代 格 式 可写为 (aii 0) ：
xi( k 1) xi( k )
1 bi ai1 x1( k 1) aii
1 (k ) 一个修正量 a ri 。现在，为了获得更快的收敛 ii
效果，在修正项的前面乘以一个参数 ，便得到
逐次超松弛迭代格式
aii
x
( k 1) i
x
(k ) i
ri( k ) , i 1,2,
,n
3.3
称 为松弛因子，称 0 1 的 迭 代 过 程 3.3 为低松弛方法，对于一些方程组，用Gauss Seidel 迭代 法得不到收敛解或不收敛，但用低松弛方法却是收敛 的 。称 1 的迭代过程 3.3 为超 松 弛 方法, 此法 可以加速 Gauss Seidel 迭 代 方 法 的收敛。 1 的迭 代过程 3.3 就是 Gauss Seidel 迭代公式。 由迭代格式（3.3）
xi
k 1
x
(k ) i
有
xi
k 1
i 1 n 1 ( k 1) (k ) bi aij x j aij x j aii j 1 j i
x
(k ) i
xi
k
bi aij x aii j 1
i 1
将方程组 AX b 写成
ai1 x1 ai 2 x2 ai ,i 1 xi 1 aii xi (i 1, 2, ain xn bi , , n)
则有
aii xi bi ai1 x1 ai 2 x2 ai ,i 1 xi 1
UX
k
即
DX
k 1
LX
k 1
1 DX UX b
k k
于是有
( D L) X X
k 1 k 1
[1 D U ] X b
k k
( D L) 1[1 D U ] X ( D L) 1 b