浙大计算方法 6 迭代法的收敛性及非线性方程组的解法(6.9-10)
非线性方程和非线性方程组的迭代解法
敛：ｐ＝２，ｃ＞０称序列至少平方收敛；若ｋ≥ｋ．，时，有Ｘｋ＝ｘ４成立，或
ｌｉｍ堕：。二型 ＝０
“‘｜｜Ｘ“一Ｘ＋旷 则称事列（Ｘ）为超ｐ阶收敛
定义４［１３假定迭代序列（ｘ。｝收敛于ｘ＋，量
！抽婪∑梨，当ｘｔ≠ｘ·对ｋ≥ｋ。 。
（１）公式的建立
设ｘ＋是方程ｆ（ｘ）＝ｏ的解，ｆ（ｘ）在ｘ＋的某邻域Ａ＝｛ｘｊ ｘ—ｘ４≤６｝存在
二阶导数，且ＶＸ∈Ａ，ｆ’（Ｘ）≠０，设ｘ。∈△为ｆ的近似值，将ｆ（ｘ）在Ｘ。处 展为一次Ｔａｙｌｏｒ多项式ｆ（Ｘ）＝ｆ（ｘｋ）＋ｆ ７（ｘ。）（ｘ—ｘ。），记ｐ（Ｘ）＝ｆ（ｘ．）十 ｆ’（Ｘ：）（Ｘ—Ｘ．），显然Ｐ（Ｘ）≈ｆ（ｘ）．令Ｐ（ｘ）＝Ｏ，解得
应用这个方法求解了非线性偏微分方程ｕ．＋“萎生等｝＜如Ｖ＞。Ｑ，ｓ（ｕ）＝。，其中
Ｑ“ｕ）２与竿导，万—ｉｉＦ数值计算中得到的非线性方程组，并通过迭代公
式（４－３）与Ｎｅｗｔｏｎ法的数值实验结果的比较，晚明了在相同精度要求卜Ｉ求解这 个问题时，ｆ＝｝｝式ｆ ４—３）优于＼ｅｎｔＯｔｌ法的几个方面．
第一章解非线性方程的常用迭代格式
在第三章写出了这几个迭代公式的相应算法设计，并将这些格式的数值实验 结果与Ｎｅｗｔｏｎ法、 弦截法、Ｍｕｌｌｅｒ法的数值实验结果进行了比较，说明了这 几个迭代格式的有效性．
在第四章中将预测式迭代法推广到了求解非线性方程组，分析了它的收敛 性、收敛阶，给出了其算法设计并进行了数值实验证明了方法的有效性．特别地，
兰州大学 硕士学位论文 非线性方程和非线性方程组的迭代解法及 姓名：尚秀丽 申请学位级别：硕士 专业：计算数学 指导教师：周宇斌
20041101
计算方法 6 非线性方程迭代法资料
推论 设 C[a, b]满足上面的条件1),且对x [a, b],存在常数L (0,1)，使
| ( x) | L 1， 则 ( x)在[a, b]上存在唯一的不动点.
充分性条件
迭代法的全局收敛性
定理2.2. 设 C[a, b]满足定理2.1中的条件,则对x0 [a, b],由格式
产生的序列{xk }收敛到的不动点x* ,且有误差估计 收敛速度？误差估计？
1)如果对x [a, b],有a ( x) b,则 ( x)在[a, b]上一定存在不动点.
2)在条件1)的基础上，且存在常数L (0,1)，使对x, y [a, b]都有
| ( x) - ( y) | L | x - y |， 称为全局Lipschitz条件
则不动点唯一.
证明. 令g( x) x- ( x), 注意到，
是：a2 : a1; b2 : x1.
否：a2 : x1; b2 : b1. 可知,[a2,b2 ] [a1,b1]. 上述过程继续下去
长度为b - a . 22
可得出一系列有根区间 [ak ,bk ] [a2,b2] [a1,b1] [a,b]. 区间[ak ,bk ]的长度为b2-ka .
事前误差估计
| xk
-
x*
|
L 1 L
|
xk
xk 1
|,
k
1, 2,
| xk
事后误差估计
-
x*
|
Lk 1 L
|
x1
x0
|,
k
1, 2,
称序列是适定的，它表明 迭代法算出的每个点是有 意义的！
证明. 设x*是在[a, b]上的唯一不动点.由格式产生的序列{xk }[a, b],
计算方法第六章(迭代法)
3、插值加速法
由线性插值公式：
x xk x xk 1 y xk xk 1 xk 1 xk xk xk 1
x xk x xk 1 x xk xk 1 xk 1 xk xk xk 1
xk 1 xk 1 xk 2 x xk 1 2 xk xk 1
2.102599958448522 2.094749937881704 2.094556446501749 2.094551657513653 2.094551538972266 2.094551536038016
x=2.5 10 y=x x=(2*y+5)**(1.0/3.0) if (abs(x-y).lt.0.00000001) then goto 15 endif 15 x=2.5 goto 10 20 y=x x=(2*y+5)**(1.0/3.0) x=1.15*x+(1.0-1.15)*y if (abs(x-y).lt.0.00000001) then goto 30 endif goto 20 30 end
1 2 f ( ) f ( xk ) f ( xk )( xk ) f ( xk )( xk ) 2! 1 (n) 1 n f ( xk )( xk ) f ( n 1) ( k )( xk ) n 1 n! (n 1)!
f ( ) f ( xk ) f ( xk )( xk )
f ( xk ) f ( xk ) 2 改进牛顿法： xk 1 xk f ( xk ) 3 f ( xk ) 2 f ( xk )
牛顿迭代法的收敛性： 牛顿迭代法二阶收敛，两种改进牛顿迭代法三阶收敛
1 0 f ( ) f ( xk ) f ( xk )( xk ) f ( xk )( xk ) 2 2!
非线性方程迭代法
迭代法——非线性方程与方程组的数值解法7.1方程求根与二分法二分法，取中点判断左右区间[a,b]-----x 0=(b+a)/2---f(x0)是否为0是：零点为x 0；否，f(x 0)与f(a)同号，则x 0取代a ；f(x 0)与f(b)同号，则x 0取代b 重新计算区间；7.2不动点迭代法及其收敛性不动点：将f(x)=0写成隐式x=φ(x)，若x*满足f(x*)=0，则x*=φ(x*) ；反之亦然，则x*为函数φ(x)的一个不动点。
迭代函数：φ(x)选初值x 0，x 1=φ(x 0)……有x k+1=φ(x k ),k=0,1,2….。
lim k→∞x k =x ∗等价于{xk}等价于迭代方程收敛不动点存在性: φ(x)在[a,b]区间内满足：（1）任意∀x ϵ[a,b]，有a ≤φ(x)≤b ；（2）∃1>L >0，使得∀x ，y ∈ a,b 都有丨∅ x −∅ y 丨≤L 丨x −y 丨； 则φ(x)在[a,b]区间内存在唯一不动点x*收敛误差计算： 丨xk −x ∗丨≤L k1−L 丨x1−x0丨丨xk +1−xk 丨≤L k 丨x1−x0丨丨x ∗−xk 丨≤11−L 丨xk +1−xk 丨局部收敛性：φ(x)在x*的某个领域R ：丨x-x*丨≤δ，对任意x0属于R 迭代后产生的｛xk ｝属于R ，且收敛到x*则称为局部收敛。
P 阶收敛：设迭代过程x k+1=φ(x)收敛于方程x=φ(x)的根x*，如果当k →∞，则有迭代误差e k =x k -x*满足渐进关系式：e k +1e k p →C （非零常数）则称迭代过程P 阶收敛。
领域内p 阶收敛：φ（p ）在所求根x*的领域内连续，有φ’(x*)=φ”(x*)=…= φ（p-1）(x*)=0；φ（p ）(x*)≠0，则在x*领域内p 阶收敛7.3收敛加速法1．艾特金加速收敛法x*=x 2x 0−x 12x 2−2x 1+x 0=x 0−（x 1−x 0）2x 2−2x 1+x 0；x k+1=φ(x k )x k+2=φ(x k+1)X k +1 =x k −（x k +1−x k ）2x k +2−2x k +1+x k =x k -（Δx k ）2/Δ2x k2．史蒂文森迭代法y k =φ(x k )，z k =φ(y k )，x k+1=x k −（y k −x k ）2zk −2y k +x k ，k=0，1，…改写为不动点迭代法：x k+1=Ψ(x k )，k=0，1，…Ψ(x)=x-（φ（x ）−x ）2φ（φ（x ））−2φ（x ）+x若x*为Ψ(x)的不动点，则x*也是φ（x ）的不动点；反之，若x*是φ（x ）的不动点，当φ”(x)存在， φ’(x)≠1时，x*也是Ψ(x)的不动点； 史蒂文森迭代法是二阶收敛的。
第三组：非线性方程迭代解法
一：非线性方程的基本迭代方法简单迭代法非线性方程的一般形式f(x)=0 其中f(x)是一元非线性函数。
若存在常数s 使f(s)=0，则称s 是方程的根。
把方程转化为其等价的方程)(x x ϕ=，因而有)(s s ϕ=。
选定s 的初始近似值0x ，用迭代公式)(1k k x x ϕ=+，得到}{k x 收敛于s ，就求出了方程的解。
收敛性：)(s s ϕ=,)(x ϕ'在包含s 的某个开区间内连续。
如果|)(x ϕ'|<1则存在δ>0，0x ∈[s-δ,s+δ]时，由该迭代函数产生的迭代法收敛。
收敛速度：（}{k x 收敛于s ，k e 为s 与k x 的差值绝对值，则c e e r k k k =+∞→1lim，c 是常数，则该迭代是r 阶收敛）Newton 法为了使迭代的收敛速度更快，应尽可能使)(x ϕ在s 处有更多阶的导数等于零。
令)(x ϕ=)()(x f x h x +,)(x h 为待定函数，已知)(s ϕ'=0，推出)(x h =)(1x f '-。
这就得出了牛顿法的迭代形式 )()(1k k k k x f x f x x '-=+，（k=0、1、···） 牛顿法是二阶收敛的迭代方法，但是牛顿法的是局部收敛的，因此要求初值要靠近根。
求解中，对于每一个k 都要计算)(k x f '，而导数的计算比较麻烦，否则会产生很大误差。
割线法 在牛顿法基础上，用11)()(----k k k k x x x f x f 来代替)(k x f '，其中1-x 、0x 预先给定。
得到了割线法的迭代形式 )()())((111--+---=k k k k k k k x f x f x x x f x x ，（k=0、1、···） 割线法的收敛速度至少为1.618这样就避免了牛顿法求导数的繁琐程序单点割线法单点割线法就是在割线法的基础上，用))(,(00x f x 代替))(,(11--k k x f x ，得到的迭代形式 )()()(001k k k k k x f x f x f x x x x ---=+，（k=1、2、···） 单点割线法是一阶收敛的方法，它比割线法初值要少取一个点更加容易选取初值二：非线性方程的迭代解法的拓展修正的Chebyshev 法思想：将函数)(x f 在k x 处进行泰勒展开既 +-''+-'+≈!2)()())(()()(2k k k k k x x x f x x x f x f x f ，如果)(x f ≠0，先取线性部分来代替原来函数，既)(x f =)(k x f +))((k k x x x f -'=0，得到k x x -=)()(k k x f x f '-； 再用二次多项式部分代替原函数，既!2)()())(()()(2k k k k k x x x f x x x f x f x f -''+-'+==0，合并这两次的结果得到)()()))((2)()(1(2k k k k k k x f x f x f x f x f x x ''''⋅+-=，令1+=k x x ，得到就得到了新的迭代公式，这就是Chebyshev 方法的思想，该方法的迭代公式具有三阶收敛速度。
迭代法的收敛性
x* Mx* g 由迭代公式有 M (x
k k
x ( k ) x* Mx ( k 1) g Mx* g
( k 1)
x ) M (x
* 2 * k
( k 2) (k )
x ) M (x
* k
(0)
x )
*
于是有 lim M ( x
1 1 例：Ax b, A 2 1 2
1 2 1 1 讨论用三种迭代法求解的收敛性。 2 1 1 2 解：因A为对称且其各阶主子式皆大于零，故A为对称正定矩 1 2 阵。由判别条件3，Gauss-Seidel迭代法与松弛法(0 2) 均收敛。A不是弱对角占优阵，故不能用条件1判断。 0 1 -1 Jacobi迭代法的迭代矩阵为B I - D A 2 1 2 1 2 0 1 2 1 2 1 2 0
1,
1,由推论1无法判别收敛性。
对一些特殊的系数矩阵可给出几个常用的判 别收敛条件
设有线性方程组Ax b, 下列结论成立（收敛充分条件） 1.若A为严格对角占优阵或不可约弱对角占优阵，则 Jacobi迭代法和Gauss-Seidel迭代法均收敛。 2.若A为严格对角占优阵， 0 1, 则松弛法收敛。 3.若A为对称正定阵，则松弛法收敛的充要条件为 0 2。 10 1 2 2 1 0 B 1 2 1 上两例中： A 1 10 2 1 1 5 0 1 2 A为严格对角占优阵，故Jacobi与Gauss-Seidel迭 代均收敛。B为非严格对角占优阵，但为对称正定 阵， =1.4故松弛法收敛。
推论1 对任意初始向量x 和右端项g，若 M 1,由迭代
迭代法和其收敛性
(1) xk1 xk2 xk 3, g(x) x2 x 3,
g(x) 2x 1, g(x*) g( 3) 2 3 1 1.
3
3
(2)
xk 1
xk
,
g(x)
, x
g( x)
3 x2
,
g( x*)
1.
(3)
xk 1
xk
1 4
( xk2
3),
g(x)
x
1 4
(x2
3),
g(x) 1 1 x, g(x*) 1 3 0.134 1.
上g存(x在) [a, b]
因 a g，(x)下列b设
及 g(a) ，a定 g(b) b
义函数
f (x) g (x) x.
显然 f (x) C，[a且, b满] 足
f (a) g (a) a 0, f (b)
g(b) b，由0 连续函数性质可知存在
x使* (a, b)
f (x*) ， 0即
L xk1 x * Lk x0 x *.
因 0 L，故1 当 k时序列 收敛{到xk } .
x*
再证明估计式（2.5），由李普希兹条件有
xk1 xk g(xk ) g(xk1) L xk xk1 .
（2.6）
反复递推得
xk 1 xk Lk x1 x0 .
于是对任意正整数 p有
g在(x区) 间3x2 中
[1,2] g(x) 1
10.3 局部收敛性与收敛阶
上面给出了迭代序列 {在xk区} 间 上[旳a, b收]敛性， 一般称为全局收敛性. 定理旳条件有时不易检验，实际应 用时一般只在不动点 x *旳邻近考察其收敛性，即局部收 敛性.
定义7.2.1 设 有(x不) 动点 ，假x *如存在 旳某x个* 邻域 R : x x ，* 对任意 ，迭x0 代（R 2.2）产生旳序列 {xk }，R且收敛到 ，x则*称迭代法（2.2）局部收敛.
迭代法的收敛性
即
det[I (D L)1U ] 0
从而 det(D L)1 det[(D L) U ] 0
所以
det[(D L) U ] 0
可得
因为
|aii| |aij | ji
i1
n
|||aii||| |aij ||| |aij |
j1
j i 1
i1
n
n
|| |aij| |aij| (||1) |aij|
(1)写出解该方程组旳Jacobi迭代旳迭代
阵，并讨论迭代收敛旳条件；
(2)写出解该方程组旳G-S迭代旳迭代阵， 并讨论迭代收敛旳条件。
17
补充例题
例：AX=b为二元线性方程组， 证明：解该方程组旳Jacobi迭代与G-S迭 代同步收敛或同步发散。
18
9
特殊方程组迭代法旳收敛性
4 1 1 问题：该矩阵具有怎样旳特点？
2 5 1 1
2
3
结论：该矩阵是严格对角占优阵
定义：假如矩阵A旳元素满足
jn
| aii | | aij | i 1,2,3,, n j 1 ji
则称A为严格对角占优矩阵。
10
特殊方程组迭代法旳收敛性
定理：若线性方程组AX=b旳系数矩阵A为 严格对角占优矩阵，则解该方程组旳Jacobi 迭代法和G-S迭代法均收敛。
2
一阶定常迭代法旳收敛性
则: (k 1) B (k ) B 2 (k 1) B k 1 (0)
注意 (0) x(0) x * 为非零常数向量
所以迭代法收敛旳充要条件
lim (k1) lim( x(k1) x*) 0
k
k
可转变为
lim Bk1 0
西工大计算方法试题06-10(含答案)
一、考试内容线性方程组和非线性方程（组）的求解、矩阵特征值和特征向量的计算、微积分的计算、微分方程定解问题的求解等，都是工程、科技、统计等实际问题中大量碰到的数学问题，这些问题的精确解很难求出。
而《计算方法》则是一门适合于计算机计算求解的数值方法，它简单可行，能有效求出上述数学问题的近似解。
通过本课程的学习，要求学生能掌握利用计算机求解基本数学问题常用的数值计算方法，学会构造基本的计算格式，并能作一定的误差分析，使学生具备基本的科学计算能力。
主要有：1.了解计算方法的认务和特点；2.熟练掌握方程的的近似解法，包括二分法、迭代法、牛顿迭代法和弦割法3.熟练掌握线性代数方程组的解法，直接解法中的高斯消去法、矩阵的直接三角分解法，平方根分解法，解三对角方程组的追赶法；解线性方程组的迭代法，简单迭代法，雅可比迭代法，赛德尔迭代法，SOR方法及其收敛性4.熟练掌握矩特征值和特征向量的计算，乘幂法与反幂法，古典雅可比方法，雅可比过关法5.熟练掌握插值法，拉格朗日插值法，牛顿插值法，等距节点插值法，埃尔米特插值法，三次样条插值法6.熟练掌握最小二乘法与曲线拟合，掌握矛盾方程组与最小二乘法，数据的多项式拟合，可化为线性拟合模型的曲线拟合7.熟练掌握数值积分与数值微分，包括牛顿-柯特斯求积公式、复化求积公式、龙贝格求积算法、高斯型求积公式和数值微分；8. 熟练掌握常微分方程初值问题数值解法，包括欧拉法与梯形法、泰勒展开法与龙格-库塔法、线性多步法2006-2007第一学期一. 填空1） 近似数253.1*=x 关于真值249.1=x 有____位有效数字；2） 设有插值公式)()(111k nk k x f A dx x f ⎰∑-=≈，则∑=nk kA1=______；（只算系数）3） 设近似数0235.0*1=x ，5160.2*2=x 都是有效数，则相对误差≤)(*2*1x x e r ____； 4） 求方程x x cos =的根的牛顿迭代格式为______；5） 矛盾方程组⎪⎩⎪⎨⎧-=+=-=+1211212121x x x x x x 与⎪⎩⎪⎨⎧-=+=-=+121222212121x x x x x x 得最小二乘解是否相同______。
迭代法解非线性方程
则对一个任意接近 x*的初始值，迭代公式
xk1 ( xk )是 p阶收敛的，且有
lim
k
xk1 x * ( xk x*)p
( p)( x*)
p!
定理3可以利用泰勒展开式加以证明
二、弦截法
1. 弦截法的算法过程
(1)过两点(a,f (a)),(b,f (b))作一直线,它与x轴有一个交点,记为x1; (2)如果f (a)f (x1)<0,过两点(a,f (a)),(x1,f (x1 ))作一直线,它与x轴的交点 记为x2, 否则过两点(b,f (b)),(x1,f (x1 ))作一直线,它与x轴的交点记为x2； (3)如此下去,直到|xn-xn-1|< , 就可认为xn为 f (x)=0在区间[a,b]上的一 个根。
2. 弦截法的迭代公式
x1
a
ba f (b) f (a)
f (a),
xk
1
xk
1
a b
xk a f ( xk ) f (a)
xk b f ( xk ) f (b)
f (a), f (b),
f (a) f ( xk ) 0 f (a) f ( xk ) 0
3.弦截法的Matlab编程实现
function root=chord_cut(f,a,b,e)
%弦截法求函数f在区间[a,b]上的一个零点 %f函数名,a区间左端点,b区间右端点,e根的精度,root函数的零点
function [root,n]=chord_cut2(f,a,b,e)
%弦截法求函数f在区间[a,b]上的一个零点 %f函数名,a区间左端点,b区间右端点,e根的精度,root函数的零点,n迭代次数
2. 迭代法的收敛性
《迭代法及其收敛性》课件
2 建立迭代公式
根据问题的特性和已 知条件，建立迭代公 式。
3 判断迭代是否收敛
判断迭代得到的解是 否足够接近真实解， 停止迭代。
迭代法的例子
牛顿迭代法
用于求解方程的数值方 法，通过不断迭代逼近 方程的根。
埃特金迭代法
用于求解线性方程组的 数值方法迭代法
用于求解线性方程组的 数值方法，通过不断迭 代逼近方程组的解。
迭代法的收敛性
收敛性是指迭代得到的解越来越接近真实解，而收敛速度是指迭代得到的解 的收敛速度有快有慢。
收敛速度的度量方法
1 零点误差
迭代得到的解与真实 解之间的差距。
2 牛顿数列
迭代得到的解之间的 差值的变化规律。
3 收敛阶
《迭代法及其收敛性》 PPT课件
迭代法及其收敛性
迭代法是一种求解数值问题的方法，通过反复迭代得到更精确的解。这个PPT 课件将讲解迭代法的定义、步骤、例子以及收敛性的度量方法。
什么是迭代法？
迭代法是一种求解某些数值问题的方法，从一个猜测的解开始，通过反复迭 代得到更精确的解。
迭代法的步骤
1 猜测初始解
迭代得到的解的收敛 速度的量化指标。
如何判断迭代是否收敛？
1 绝对误差减小
迭代得到的解的绝对 误差逐渐减小。
2 相对误差减小
迭代得到的解的相对 误差逐渐减小。
3 后验估计准则
通过计算后验估计准 则判断迭代的结果是 否满足要求。
总结
1 迭代法是一种常用的数值求解方法 2 收敛性和收敛速度是迭代法的重要评价指标 3 判断迭代收敛的方法有多种，需要根据问题具体情况选择
非线性方程组的迭代解法
4.2 非线性方程组的迭代解法 一、 一般概念1.非线性方程组的一般形式⎪⎪⎪⎩⎪⎪⎪⎨⎧===0),,,(0),,,(0),,,(21212211x x x fx x x f x x x f n nn n⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=n x x x x 21令⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=)()()()(21x f x f x f x F n则向量形式如下：0)(=x F2.解非线性方程组的方法 （1）简单迭代法（2）线性化方法（即Newton 法）（3）求函数极小值的方法（即最速下降法） 二、简单迭代法RR nn x F →:)(把方程组：F （x ）=0 改写成等价形式，即)19.4)((0)(x G x x F =⇔=适当选取初始向量D x ∈0，利用上述的等价形式，构成迭代公式：)20.4(,2,1,0),()()1( ==+k x G xk k其中G （x ）为迭代函数 2.收敛性(1)非局部收敛定理（压缩映象原理）定理4.13 设G:R R nn D −→−⊂在闭区域D D⊂0上满足条件：（1）G 把D0映入自身， （2）G 在D0上是压缩映射，则有下列结论：（1）对任取的D x 0)0(∈,由迭代公式4.20产生的序列{}D x k 0)(∈，且收敛于方程组4.19在D0内的唯一解（2）成立误差估计式xxL x x L kk )0()1()(*1--≤- xx L xxk k kk L)1()()(*1---≤-下面给出简单迭代法（4.20）局部收敛定理定理4.14 设G:R R nn D −→−⊂，)int(*D x ∈是方程组4.19的解，G 在x *处可微。
若()xG *'的谱半径()()1*<'x G ρ,则存在开球{}D x x x D⊂<<-=0,*δδ，使对任意的D x0)0(∈，由迭代法4.20产生的序列{}D x k 0)(∈且收敛于x*。
注：（1）但是对于线性方程组来说，上述定理成为全局收敛性定理，而不是局部收敛性定理。
计算方法第六章迭代法
计算方法第六章迭代法迭代法是一种重要的数值计算方法，在数学和计算机科学中有广泛的应用。
本章将介绍迭代法的基本概念、原理和应用，以及相关的数学原理和计算技巧。
首先，我们来了解迭代法的基本概念。
迭代法是通过逐步逼近的方式得到一个问题的解。
迭代法的基本思路是从一个初始值开始，通过重复计算和更新，得到更加接近最终解的近似值。
迭代法的优点是简单和灵活，但需要注意选择合适的迭代公式和初始值，以及控制迭代的停止条件。
迭代法的原理可以用以下的一般形式表示：```x_(n+1)=f(x_n)```其中，x_n表示第n次迭代得到的近似值，x_(n+1)表示第(n+1)次迭代的近似值，f是一个函数，表示迭代公式。
迭代法的思想是通过不断迭代更新x的值，直到满足一些停止条件为止。
迭代法的应用非常广泛，特别是在求解非线性方程和优化问题方面有重要的应用。
在求解非线性方程时，我们可以将方程转化为形式为f(x)=0的等式，然后通过迭代法逼近方程的根。
在优化问题中，我们可以通过最小化或最大化一个函数来寻找最优解，也可以使用迭代法逐步逼近最优解。
在迭代法的实际应用中，我们需要注意一些数学原理和计算技巧。
首先，迭代法的收敛性是关键的，即通过迭代公式逐步逼近的值是否趋于问题的解。
在评估迭代法的收敛性时，常用的方法有判断迭代序列的极限是否存在和是否满足一些收敛条件。
其次，选择合适的迭代公式和初始值对于迭代法的成功应用非常重要。
迭代公式应该是简单和有效的，能够在迭代过程中逐步逼近问题的解。
初始值的选择也会直接影响迭代的结果，通常需要根据问题的特点和经验进行选择。
另外，迭代法的计算精度和计算效率也是需要考虑的问题。
在迭代过程中，我们需要根据问题的要求不断调整迭代的次数和迭代的停止条件，以达到较高的计算精度。
同时，我们也需要通过优化迭代公式和使用更加高效的计算技巧来提高计算的效率。
最后，迭代法的应用还可以进一步扩展到其他领域。
例如，在图像处理中，我们可以使用迭代法逐步改进图像的质量；在机器学习中，我们可以使用迭代法来调整模型的参数，以求得更好的拟合效果。
第二章 非线性方程(组)的迭代解法.
输入，，计算fa f (a), fb f (b);
注： 其中 , 为 精度控制参数!
若f f a 0, 则a x, f a f ; ab 为所求根，结束！ (4) 若 b a , 则x
否则，转(2)；
2
例1
计算f ( x) x3 4x2 10 0在[1 ， 2]内的实根。 可得 x* 1.36523, 共计算21次！ 取 109， 106，
则 0, 使得 x0 [ x * , x * ]但x0 x*,
由迭代
xn1 (xn )
证明：由泰勒公式和收敛阶定义可证！ 注: 1、给出了由迭代函数判断收敛速度的方法；
2、给出了提高收敛速度的方法!
School of Math. & Phys.
15
North China Elec. P.U.
Numerical Analysis
2018/10/11
J. G. Liu
例3 1 a 3 a2 1、证明xk 1 ( xk )和xk 1 xk 3 分别是求 2 xk 4 4 xk
a的平方收敛的迭代格式。
解： 迭代函数为
同理对xk 1 2 ( xk )证明！
School of Math. & Phys. 16
不妨设(x*) 0, 由(x)的连续性，则 δ 0, 当x x * δ 时，(x) 0。
当n充分大以后，[ an ,bn ] ( x * δ,x* δ ),于是当m为偶数时， x [an ,bn ], f ( x) 0,不变号了！(??)
(2) 二分法线性收敛; (3) 二分法可用来细化有根区间，这是它的一大优点! 故二分法可以用来确定迭代法的迭代初值!
迭代法解非线性方程
目录 上页 下页 返回 结束
求解非线性方程的迭代法
构造 f (x) = 0 的一个等价方程：x 从某个近似根 x0 出发，计算
( x)
xk 1 ( xk )
得到一个迭代序列
k = 0, 1, 2, ... ... 迭代公式
xk k 0
f (x) = 0 f (x) 的零点
xk 1 f ( xk ) xk , k 1,2, f ' ( xk )
目录 上页 下页 返回 结束
求解非线性方程的迭代法
2. 牛顿迭代公式
f ( xk ) xk 1 xk , k 1,2, f ' ( xk )
称上式为方程f(x)=0的牛顿迭代公式, 简称 牛顿法。 牛顿法具有明显的几何意义， y f ( xk ) f ' ( xk )( x xk ) 是曲线在点(xk, f(xk))处的切线方程。 xk+1就是切线与x轴交点的横坐标， 所以牛顿法就是用切线与x轴交点的横坐标 近似代替曲线与x轴交点的横坐标。 因此牛顿法也称切线法。
目录 上页 下页 返回 结束
求解非线性方程的迭代法
2. 弦截法的迭代公式
ba x1 a f (a ), f (b) f (a ) xk a xk 1 a f ( x ) f (a ) f (a ), k xk b x b f (b ), k 1 f ( xk ) f ( b ) f ( a ) f ( xk ) 0 f ( a ) f ( xk ) 0
目录 上页 下页 返回 结束
求解非线性方程的迭代法
3.弦截法的Matlab编程实现 function root=chord_cut(f,a,b,e)
迭代法的收敛性
谱半径分别是 ρ ( B ) =
30 15 , ρ ( M ) = 。均不收敛。 2 2
若交换方程的次序，得 Ax = b的同解方程组 Ax=b,
' '
3 − 10 9 −4 ' A= → A = 3 −10 9 −4 A '为严格对角占优阵，因而对方程组 A ' x = b '用 Jacobi与 Gauss − Seidel 迭代求解均收敛。
k →∞
x* = Mx* + g 由迭代公式有 x ( k ) − x* = Mx ( k −1) + g − Mx* − g = M ( x ( k −1) − x* ) = M 2 ( x ( k − 2) − x* ) = M k ( x (0) − x* ) 于是有 lim M k ( x (0) − x* ) = lim( x ( k ) − x* ) = 0
其特征方程
λ
1 λI − B = 2 1 2
1 2
λ
1 2 1 3 1 3 = λ − λ + 2 4 4
1 λ 2 1 2 = ( λ − ) ( λ + 1) = 0 2
1 , λ 3 = − 1, 因 而 ρ ( B ) = 1 得λ1 = λ 2 = 2 ⇒ J a c o b i迭 代 法 不 收 敛 。
移项得 代入得
(I − M ) x (k ) − x*
−1
1 ≤ 1− M
k
M ≤ 1− M
x (1 ) − x ( 0 ) 。
由误差估计式 x
(k )
−x
*
≤
M
k
1− M
x (1) − x ( 0 )
非线性方程组迭代解法
非线性方程组迭代解法不动点法( unmovepoints.m)%非线性方程组的不动点法function [x,n]=unmovepoints(fun,x0,eps)if nargin<3eps=1e-3;endx1=feval(fun,x0);n=1;while(norm(x1-x0))>=eps x0=x1;x1=feval(fun,x0);n=n+1;if n>100000disp(' 无法收敛!');breakendendx=x1;Newton 迭代法( newtons.m)% 非线性方程组的Newton 迭代法function [x,n]=newtons(fun1,fun2,x0,eps)if nargin<4eps=1e-3;endx1=x0-feval(fun1,x0)/feval(fun2,x0);n=1;while norm(x1-x0)>=epsx0=x1;x1=x0-feval(fun1,x0)/feval(fun2,x0); n=n+1;if n>100000disp(' 无法收敛!');breakendendx=x1;注：方程组的迭代与方程迭代不同之处在于收敛的判断不能用 abs 而应用norm (范数，默认值为向量各元素的平方和的开方；norm(xl-xO)即为向量x1与x0对应元素差的平方和的开方。
在对应的函数程序中应注意向量的运算与数量运算的区别。
)用以上方法求解下列非线性方程组：f 1 X =x 1 - 0.7 sinx ! -0.2cosx 2 =0 f 2 X = x 2 - 0.7 cos% 0.2sinx 2 =0函数：%非线性方程组函数(适用于不动点法) function f=non li nerequsl(x) f(1)=0.7*si n(x(1))+0.2*cos(x (2)); f(2)=0.7*cos(x(1))-0.2*si n(x (2));%非线性方程组函数(适用于Newt on 迭代法) function f=non li nerequs2(x) f(1)=x(1)-0.7*si n(x(1))-0.2*cos(x(2)); f(2)=x (2)-0.7*cos(x(1))+0.2*si n(x (2));%非线性方程组函数导数(适用于Newt on 迭代法) function f=non li nerequs3(x) f=[1-0.7*cos(x(1)),0.2*si n(x(2));0.7*si n(x(1)),1+0.2*cos(x(2))];命令：fsolve(@ non li nerequs2,[0.5,0.5])[x,n]=unmo vepo in ts( @non li nerequs1,[0,0],1e-6)[x,n]=n ewt ons(@non li nerequs2, @non li nerequs3,[0,0],1e-6)计算结果：(eps=0.000001)迭代方法X迭代次数n解析解[0.52652262191818 0.50791971903685] - fsolve[0.52652266171295 0.50791973020932] - 不动点法[0.526521300913880.50792028463452] 30 Newton 迭代法[0.526522793690200.50791961189450]16导数为f 2 f 2对多方程则类似。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
证 设λi为A的任意一个特征值，xi为对应的特征向量，则有
ixi Axi
两边取范数得
i xi ixi Axi A xi
i A
λi为A的任意一个特征值
2
(A) A
定理12 迭代法基本定理 迭代格式
14
例1. 用简单迭代法解方程组
4 x1 x1
x2 4 x2
0.1e x12
x1 1 /8 0
解: 作迭代格式
x1( k
1)
1 4
(1
x(k ) 2
0.1ex1(k ) )
x2(k 1)
1 4
[
x1( k
)
1 8
(
x1(
k
)
)2
]
取
x(0)
(
x(0) 1
,
x(0) 2
)T
(0, 0)T
令 k 0,1, 2,
x(1) 1
1 4
(1
x(0) 2
0.1ex1(0) )
0.225
x(1) 2
1 4
[
x1(
0)
1 8
(
x(0) 1
)2
]
0
15
x(1) 1
1 4
(1
x(0) 2
0.1ex1(0) )
J
D1 (L
U)
0
0
1 0
0
1
1 2
0 2
1 0
0 1 2
2 0 2
2 1 0
7
6.8.5 迭代法的收敛性(续）
det(I J)
det
1 2
2
2
2 1
3
0
所以 1,2,3 0 (J) max(| |) 0 1
作成迭代格式
x(k 1) i
i ( x1(k ) , x2(k ) ,
选取初始向量
xn(k ) ), i 1 n
x(0)
(
x1(
0)
,
x(0) 2
,
,
x(0) i
,
可得向量序列{x(k)}。
,
x(0) n
)T
令 k 0,1, 2,
如果方程组只有唯一解，且{x(k)}收敛，则得 逐次收敛于x的近似解x(k)。
[ x 1 (k 1)
41
1 8
( x1( k
1)
)2
]
18
取
x(0)
(
x(0) 1
,
x(0) 2
)T
(0, 0)T
令 k 0,1, 2,
x(1) 1
1 4
(1
x(0) 2
0.1ex1(0) )
0.225
x(1) 2
1 4
[
x(1) 1
1 8
(
x(1) 1
即Jaobi迭代法收敛
(2) 求高斯-赛德尔法的迭代矩阵
1 0 0 1 0 2 2
G
(D
L)1 U
1
2
1 2
0
1
0 0
0 0
1
0
8
G
0 0 0
2 2 0
2 3 2
1 0 2,3 2
F(X) 0
--------(3)
求解非线性方程组式（3），即求一个向量 X * (x1*, x2*, ..., xn*)T ，使得多元向量函数F( X ) 满足F ( X *) 0 。
为了简单起见，不对解非线性方程组的牛顿－拉夫逊方 法的收敛性进行分析（有兴趣的同学可以参考其他课本）， 仅讲授牛顿－拉夫逊方法的基本原理和步骤。
定理16 设解Ax = b 的SOR法收敛，则0<ω<2
11
6.9 非线性方程组的迭代解法 k 1,2,3,
12
3.9 非线性方程组的迭代解法
线性方程组存在直接解法（如高斯消元法，三角分解法 等），但是非线性方程组没有直接的解法，只能通过数值 迭代的方法加以求解。本节介绍非线性方程组的迭代解法：
3
6.8.5 迭代法的收敛性(续）
ε(k ) x * x(k ) Bkε(0) (k 1, 2, )
(B) 1时，lim Bk 0 limε(k) 0
k
k
即 lim x(k) x * k
必要性：设lim x(k) x * ，其中 x(k1) Bx(k) f k
(G) max(| |) 2 1
6.8.5 迭代法的收敛性(续）
所以高斯-赛德尔迭代法发散
或 特征方程为
det(I G) det[I (D L)1U] det(D L)1 det[(D L) U] 0 det(D L)1 0 det[(D L) U] 0
故x≈x(7)。
19
6.9.2 牛顿迭代法
是牛顿法向多元函数的扩展，其基本原理与解非线 性方程的牛顿法几乎一样。 设有非线性方程组
f1( x1, x2 , ..., xn ) 0
f2 ( x1,
x2 ,
...,
xn )
0
fn ( x1, x2 , ..., xn ) 0
设有非线性方程组
f1(x1, x2, ..., xn ) 0
f2
(
x1,
x2
,
...,
xn
)
0
fn (x1, x2 , ..., xn ) 0
--------(6.9.1)
13
6.9.1 简单迭代法
仿照方程求根的简单迭代法，将方程组（6.9.1）改写为
xi i (x1, x2 , xn ), i 1 n --------(6.9.2)
x1 x2
1
xn
2
xn
n
xn
则可证明， (x) L 1 时简单迭代收敛
17
类似于线性方程组的高斯赛德尔迭代法，非线性方程组高 斯赛德尔迭代格式为：
x(k 1) i
i ( x1(k 1) , x2(k 1) ,
,
x(k 1) i 1
6.8.5 迭代法的收敛性 设线性方程组 Ax b
等价方程组
x Bx f
相应的迭代格式是
x(k1) Bx(k) f (k 0,1, 2, )
问题：迭代矩阵B满足什么条件时，由迭代格式产生的向量 序列{x(k)}收敛到x*?
1
定理11
设B Rnn ,则lim Bk 0的充分必要条件是(B) 1 k
两边取极限得 x* Bx*f
从而有误差向量
ε(k) x * x(k) (Bx * f ) (Bx(k1) f ) Bε(k1) Bkε(0) (k 1, 2, )
定理11 设B Rnn,则lim Bk 4 0的充分必要条件是(B) 1 k
10
6.8.5 迭代法的收敛性(续）
定理14 设 Ax = b，如果A为严格对角占优阵，则Jacobi迭
代法和Gauss-Seidel 迭代法均收敛。
n
| aii | | aij |, (i 1, 2, , n) j 1 ji
A的每一行对角元素的绝对值都严格大于同行 其他元素绝对值之和。称A为严格对角占优 定理15 设Ax = b，如果A为对称正定矩阵，且0<ω<2，则 SOR 迭代法收敛。
( x2
x(k) 2
)
...
fi (xk x j
)
(xj
x(jk ) )
fi (xk xn
)
(
xn
xn( k
)
)]
...
fi (x(k))
n j1
fi (x(k ) x j
)
(xj
x(jk ) )
, i 1~ n
均取到线性项，得近似方程组
21
设 X (k ) ( x1(k ), x2(k ), ..., xn(k ) )T 为式（3）的一个近似估计解，将 函数F ( X ) 在X (k)处用多元函数泰勒级数展开。
fi(x)
fi
(x(k ) )
[ fi (x(k ) x1
)
( x1
x1(k ) )
fi (x(k ) ) x2
--------(1)
其中x1,x2,…,xn为未知变量，fi(x1,x2,…,xn)是关于未知 变量的非线性实函数，i=1,2,…n。
记
X ( x1, x2, ..., xn )T
F ( X ) ( f1( X ), f202( X ), ..., fn ( X ) )T
则式（1）可以改写为：
6.8.5 迭代法的收敛性(续）
ε(k ) x * x(k ) Bkε(0) (k 1, 2, )