第二节_牛顿迭代法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
( x0 , f ( x0 ))
y
x* x2 x x0 1
xk 1 xk f ( xk ) f ( xk )
x
k 0,1, 2,
f ( xk ) 0 只要 f C1,每一步迭代都有 lim xk x 而且 k ,则 x*就是 f 的根。
3. 牛顿迭代法的几何解释:
或弦截法
3. 初值近似问题-------二分法求初值或”下山算法
”
6. Newton法的改进(I)---重根情形
方法一. 若已知重数m(m>1),则利用m构造新的迭代公式:
xk 1 xk m f ( xk ) f ' ( xk )
此时, ( x ) x m 方法二. 取 ( x)
Newton迭代公式是一种特殊的不动点迭代,其 迭代函数为: f ( x) ( x) x f '( x )
•
• Newton迭代是局部线性化方法,它在单根附近 具有较高的收敛速度.
• 方法有效前提: f ( xk ) 0
牛顿迭代法的优缺点
优点: 在单根附近, 牛顿迭代法具有平方收敛的速
显然, p越大, 收敛速度也就越快
那么, 如何确定 p , 从而确定收敛阶呢?
如果迭代函数 ( x )在精确解x * 处充分光滑, 即处处可导
将( x)在x * 作Taylor 展开, 有
( x ) ( x *) ( x *)( x x *)
( x *)
1 m 2时,1 0 m
由定义1
该迭代法对 m( 2)重根是线性收敛的
例4.
设f (a) 0, 且f (a) 0, 证明迭代法
xk 1 xk f ( xk ) f ( xk )
至少是平方收敛的
注意例4与例3的迭代法是相同的,两例有何区别? 证明: 令
( x) x
* x f ( x ) 0 方程 的根 在几何上是曲线 y f ( x ) 与 x 轴的交 * x x 点的横坐标。若 k 是根 的一个近似,过曲线上横坐标为 xk 的点 P k 作曲线 y f ( x ) 的切线,则该切线与 x 轴交点的横坐
标即为 xk 1 。 y
( x0 , f ( x0 ))
度,所以在迭代过程中只要迭代几次就会得到很精
确解。
缺点:1. 重根情形下为局部线性收敛;
2. 牛顿迭代法计算量比较大:因每次迭代除 计算函数值外还要计算微商值;
3. 选定的初值要接近方程的解,否则有可能得
不到收敛的结果;
牛顿迭代法的改进
缺点克服:
1. 局部线性收敛------改进公式或加速 2.每步都要计算微商值-----简化Newton迭代法
为线性收敛
证明: 所以
xk 1
因为x * 是方程f ( x) 0的m重根, 故
f ( x) ( x x*)m g( x)
且g( x*) 0, m 2
f ( x ) m( x x*)m1 g( x) ( x x*)m g( x)
( xk x*)m g ( xk ) f ( xk ) x xk k m( xk x*)m 1 g ( xk ) ( xk x*)m g ( xk ) f ( xk ) ( xk x *) g ( xk ) xk m g( xk ) ( xk x *) g ( xk )
xk 1 x * xk x *
p
即迭代法 xk 1 ( xk )的收敛阶是 p
定理3-6 . 如果迭代法迭代函数 ( x)在根x * 附近满足: (1) ( x)存在p阶导数切连续; (2) ( x*) ( x*) ( p 1) ( x*) 0, 而 ( p ) ( x*) 0 则迭代法 xk 1 ( xk )的收敛阶是 p
xk 1
g ( xk ) ) x * ( xk x *)(1 m g( xk ) ( xk x *) g ( xk )
lim
k
xk 1 x * g ( xk ) lim(1 ) 1 1 k xk x * m g( xk ) ( xk x *) g ( xk ) m
2!
( x x *)2
( p 1) ( x*)
( p 1)!
( x x*) p 1
( p ) ( x*)
p!
( x x*) p
( p 1) ( x*) 0 如果 ( x*) ( x*)
( x*) 0 ( p) ( x*) ( x) ( x*) ( x x*) p
lim x n 注意到ξn 在xn 及x*之间,及 n
x n1 x* x n x*
2
x*
,故
f" ( n ) f " ( x* ) * 2 f ' ( xn ) 2 f' ( x )
0(二阶收敛)若 f "( x* ) 0 0(大于二阶收敛)若 f "( x* ) 0
可微 , 则可得
(1)Newton迭代公式在单根情况下至少2阶收敛;
( xn 1 x* ) f '' ( x * ) c (2)lim * 2 ' * 2 f (x ) n ( xn x )
f" ( n ) ( x * x n )2 2! f ( xn ) f" ( n ) f" ( n ) 2 x* x n ( x * x n ) x n1 ( x * x n )2 f ' ( xn ) 2 f ' ( xn ) 2 f ' ( xn ) 0 f ( x*) f ( x n ) f ' ( x n )( x * x n )
2 f ( x) 3 x
k 0,1, 2,
4、牛顿迭代法的局部收敛性定理 设 x* 为方程 f (x) = 0的根,在包含x*的某个开区间内 f ( x) 连 B ( x *) [ x , x ], f ( x ) 0 续,且 ,则存在 x* 的邻域 使得任取初值 x0 B ( x*),由牛顿迭代法产生的序列xk 以不 低于二阶的收敛速度收敛于x*.
3.5迭代法收敛阶与加速收敛
1、迭代法收敛阶与加速收敛
设ek xk x *
定义1.
若存在实数p 1和c 0满足
ek 1 lim k e k
c
--------(9)
则迭代法p阶收敛。p 1 ,c 1时线性收敛, 2 p 1超线性收敛, p 2时平方收敛
p! ( p 1)! ( p ) ( x *) , ( k ) p!
( p ) ( x *)
( p 1 ) ( x *)
( xk x *)
2. Newton迭代法收敛定理
定理 设 f(x*)=0, f ' ( x*) 0,且在 x* 的邻域上 f二次连续
不实用: m往往不确定.
f ( x) f ' ( x)
, ' ( x * ) 0 , 至少2阶收敛.
f ( x) ,再对函数F(x)用Newton迭代: f ' ( x)
( xk ) f ( xk ) f ' ( xk ) xk 1 xk ' xk ' ( xk ) [ f ( xk )]2 f ( xk ) f '' ( xk )
f ( x) 2( x
1 a
)
退化为二分法!!
1 等价于求方程 f ( x ) a x 2 0 解法二: 1
xk 1 f ( xk ) xk xk f ( xk ) a
2 xk
(a 0) 的正根
1 2 xk (3 axk ) 2
2 3 xk
( p)
而
p!
xk 1 ( xk ) ( x*)
xk 1 x *
( p ) ( x*)
p!
( xk x*) p
( p ) ( x *)
p!
( xk x *) p
( p 1) ( x*)
( p 1)!
( xk x *) p 1
k 0,1, 2,
等价于求方程 f ( x ) ( x 解法一:
xk 1 1 2 ( xk ) f ( xk ) a xk xk 1 f ( x k ) 2( xk ) a 1 1 ( xk ) k 0,1, 2, 2 a
1 a
)2 0
(a 0) 的根
证明:牛顿迭代法事实上是一种特殊的不动点迭代
f ( x) f 2 ( x) f ( x) f ( x) 其中 ,则 ( x) 1 f ( x ) f 2 ( x) f ( x*) f ( x*) ( x*) 0 1 收敛 f 2 ( x*)
( x) x
( x x* ) g ( x) ( x) mg ( x) ( x x* ) g ( x)
对 ( x)Baidu Nhomakorabea构造出相应的牛顿迭代格式,迭代函数为
( x) x ( x) f ( x) f ( x) x ( x) [ f ( x)]2 f ( x) f ( x)
f ( x) f ( x )
则
所以
f ( x ) f ( x ) [ f ( x )]2 f ( x ) f ( x ) ( x ) 1 [ f ( x )]2 [ f ( x )]2
( a ) 0
由定理2
该迭代法至少是平方收敛的
Newton迭代法的特征
证:将f(x)在 xn 处作2阶Taylor展开,并将解x*代入
注意到ξn 在xn 及x*之间,及
n
lim x n x *
,故
lim
x* x n
| xn 1 x* | c (c 0) n x x* | p n
f ( xn ) f" ( n ) f" ( n ) ( x * x n )2 x n1 ( x * x n )2 f ' ( xn ) 2 f ' ( xn ) 2 f ' ( xn )
第三节 牛顿迭代法与弦割法
1、牛顿法基本思想 将非线性方程线性化,以线性方程的解逼近非线性方程的解。 2. 牛顿迭代法的原理 将非线性方程线性化,如何实现??
取 x0 x*,将 f (x) 在 x0 处做一阶Taylor展开:
f ( x ) f ( x0 ) f ( x0 )( x x0 ) f ( ) ( x x 0 ) 2 , 2!
x* x2 x x0 1
x
例2.5:写出求 a (a 0) 的牛顿迭代格式;写出求 a (a 0) 的牛顿迭代格式,要求公式中既无开方运算,又无除法运算。
2 f ( x ) x a 0 (a 0) 的正根 f ( x) 2x 解: 等价于求方程
1
xk 1
2 f ( xk ) xk a 1 a xk xk ( xk ) f ( xk ) 2 xk 2 xk
( xk 1 x* ) f " ( x* ) lim ' * x ( x x * ) 2 2 f ( x ) k
所以,Newton法至少二阶收敛.
例3.
设x * 是方程f ( x) 0的m( 2)重根, 证明迭代法
xk 1 xk f ( xk ) f ( xk )
在 x0 和 x 之间
* 取 x x ,可将 (x* x0)2 看成高阶小量,则有:
0 f ( x*) f ( x0 ) f ( x0 )( x * x0 )
f ( x0 ) x* x0 f ( x0 )
x1
x1是如下线性方程的根!
y f ( x0 ) f ( x0 )( x x0 )
y
x* x2 x x0 1
xk 1 xk f ( xk ) f ( xk )
x
k 0,1, 2,
f ( xk ) 0 只要 f C1,每一步迭代都有 lim xk x 而且 k ,则 x*就是 f 的根。
3. 牛顿迭代法的几何解释:
或弦截法
3. 初值近似问题-------二分法求初值或”下山算法
”
6. Newton法的改进(I)---重根情形
方法一. 若已知重数m(m>1),则利用m构造新的迭代公式:
xk 1 xk m f ( xk ) f ' ( xk )
此时, ( x ) x m 方法二. 取 ( x)
Newton迭代公式是一种特殊的不动点迭代,其 迭代函数为: f ( x) ( x) x f '( x )
•
• Newton迭代是局部线性化方法,它在单根附近 具有较高的收敛速度.
• 方法有效前提: f ( xk ) 0
牛顿迭代法的优缺点
优点: 在单根附近, 牛顿迭代法具有平方收敛的速
显然, p越大, 收敛速度也就越快
那么, 如何确定 p , 从而确定收敛阶呢?
如果迭代函数 ( x )在精确解x * 处充分光滑, 即处处可导
将( x)在x * 作Taylor 展开, 有
( x ) ( x *) ( x *)( x x *)
( x *)
1 m 2时,1 0 m
由定义1
该迭代法对 m( 2)重根是线性收敛的
例4.
设f (a) 0, 且f (a) 0, 证明迭代法
xk 1 xk f ( xk ) f ( xk )
至少是平方收敛的
注意例4与例3的迭代法是相同的,两例有何区别? 证明: 令
( x) x
* x f ( x ) 0 方程 的根 在几何上是曲线 y f ( x ) 与 x 轴的交 * x x 点的横坐标。若 k 是根 的一个近似,过曲线上横坐标为 xk 的点 P k 作曲线 y f ( x ) 的切线,则该切线与 x 轴交点的横坐
标即为 xk 1 。 y
( x0 , f ( x0 ))
度,所以在迭代过程中只要迭代几次就会得到很精
确解。
缺点:1. 重根情形下为局部线性收敛;
2. 牛顿迭代法计算量比较大:因每次迭代除 计算函数值外还要计算微商值;
3. 选定的初值要接近方程的解,否则有可能得
不到收敛的结果;
牛顿迭代法的改进
缺点克服:
1. 局部线性收敛------改进公式或加速 2.每步都要计算微商值-----简化Newton迭代法
为线性收敛
证明: 所以
xk 1
因为x * 是方程f ( x) 0的m重根, 故
f ( x) ( x x*)m g( x)
且g( x*) 0, m 2
f ( x ) m( x x*)m1 g( x) ( x x*)m g( x)
( xk x*)m g ( xk ) f ( xk ) x xk k m( xk x*)m 1 g ( xk ) ( xk x*)m g ( xk ) f ( xk ) ( xk x *) g ( xk ) xk m g( xk ) ( xk x *) g ( xk )
xk 1 x * xk x *
p
即迭代法 xk 1 ( xk )的收敛阶是 p
定理3-6 . 如果迭代法迭代函数 ( x)在根x * 附近满足: (1) ( x)存在p阶导数切连续; (2) ( x*) ( x*) ( p 1) ( x*) 0, 而 ( p ) ( x*) 0 则迭代法 xk 1 ( xk )的收敛阶是 p
xk 1
g ( xk ) ) x * ( xk x *)(1 m g( xk ) ( xk x *) g ( xk )
lim
k
xk 1 x * g ( xk ) lim(1 ) 1 1 k xk x * m g( xk ) ( xk x *) g ( xk ) m
2!
( x x *)2
( p 1) ( x*)
( p 1)!
( x x*) p 1
( p ) ( x*)
p!
( x x*) p
( p 1) ( x*) 0 如果 ( x*) ( x*)
( x*) 0 ( p) ( x*) ( x) ( x*) ( x x*) p
lim x n 注意到ξn 在xn 及x*之间,及 n
x n1 x* x n x*
2
x*
,故
f" ( n ) f " ( x* ) * 2 f ' ( xn ) 2 f' ( x )
0(二阶收敛)若 f "( x* ) 0 0(大于二阶收敛)若 f "( x* ) 0
可微 , 则可得
(1)Newton迭代公式在单根情况下至少2阶收敛;
( xn 1 x* ) f '' ( x * ) c (2)lim * 2 ' * 2 f (x ) n ( xn x )
f" ( n ) ( x * x n )2 2! f ( xn ) f" ( n ) f" ( n ) 2 x* x n ( x * x n ) x n1 ( x * x n )2 f ' ( xn ) 2 f ' ( xn ) 2 f ' ( xn ) 0 f ( x*) f ( x n ) f ' ( x n )( x * x n )
2 f ( x) 3 x
k 0,1, 2,
4、牛顿迭代法的局部收敛性定理 设 x* 为方程 f (x) = 0的根,在包含x*的某个开区间内 f ( x) 连 B ( x *) [ x , x ], f ( x ) 0 续,且 ,则存在 x* 的邻域 使得任取初值 x0 B ( x*),由牛顿迭代法产生的序列xk 以不 低于二阶的收敛速度收敛于x*.
3.5迭代法收敛阶与加速收敛
1、迭代法收敛阶与加速收敛
设ek xk x *
定义1.
若存在实数p 1和c 0满足
ek 1 lim k e k
c
--------(9)
则迭代法p阶收敛。p 1 ,c 1时线性收敛, 2 p 1超线性收敛, p 2时平方收敛
p! ( p 1)! ( p ) ( x *) , ( k ) p!
( p ) ( x *)
( p 1 ) ( x *)
( xk x *)
2. Newton迭代法收敛定理
定理 设 f(x*)=0, f ' ( x*) 0,且在 x* 的邻域上 f二次连续
不实用: m往往不确定.
f ( x) f ' ( x)
, ' ( x * ) 0 , 至少2阶收敛.
f ( x) ,再对函数F(x)用Newton迭代: f ' ( x)
( xk ) f ( xk ) f ' ( xk ) xk 1 xk ' xk ' ( xk ) [ f ( xk )]2 f ( xk ) f '' ( xk )
f ( x) 2( x
1 a
)
退化为二分法!!
1 等价于求方程 f ( x ) a x 2 0 解法二: 1
xk 1 f ( xk ) xk xk f ( xk ) a
2 xk
(a 0) 的正根
1 2 xk (3 axk ) 2
2 3 xk
( p)
而
p!
xk 1 ( xk ) ( x*)
xk 1 x *
( p ) ( x*)
p!
( xk x*) p
( p ) ( x *)
p!
( xk x *) p
( p 1) ( x*)
( p 1)!
( xk x *) p 1
k 0,1, 2,
等价于求方程 f ( x ) ( x 解法一:
xk 1 1 2 ( xk ) f ( xk ) a xk xk 1 f ( x k ) 2( xk ) a 1 1 ( xk ) k 0,1, 2, 2 a
1 a
)2 0
(a 0) 的根
证明:牛顿迭代法事实上是一种特殊的不动点迭代
f ( x) f 2 ( x) f ( x) f ( x) 其中 ,则 ( x) 1 f ( x ) f 2 ( x) f ( x*) f ( x*) ( x*) 0 1 收敛 f 2 ( x*)
( x) x
( x x* ) g ( x) ( x) mg ( x) ( x x* ) g ( x)
对 ( x)Baidu Nhomakorabea构造出相应的牛顿迭代格式,迭代函数为
( x) x ( x) f ( x) f ( x) x ( x) [ f ( x)]2 f ( x) f ( x)
f ( x) f ( x )
则
所以
f ( x ) f ( x ) [ f ( x )]2 f ( x ) f ( x ) ( x ) 1 [ f ( x )]2 [ f ( x )]2
( a ) 0
由定理2
该迭代法至少是平方收敛的
Newton迭代法的特征
证:将f(x)在 xn 处作2阶Taylor展开,并将解x*代入
注意到ξn 在xn 及x*之间,及
n
lim x n x *
,故
lim
x* x n
| xn 1 x* | c (c 0) n x x* | p n
f ( xn ) f" ( n ) f" ( n ) ( x * x n )2 x n1 ( x * x n )2 f ' ( xn ) 2 f ' ( xn ) 2 f ' ( xn )
第三节 牛顿迭代法与弦割法
1、牛顿法基本思想 将非线性方程线性化,以线性方程的解逼近非线性方程的解。 2. 牛顿迭代法的原理 将非线性方程线性化,如何实现??
取 x0 x*,将 f (x) 在 x0 处做一阶Taylor展开:
f ( x ) f ( x0 ) f ( x0 )( x x0 ) f ( ) ( x x 0 ) 2 , 2!
x* x2 x x0 1
x
例2.5:写出求 a (a 0) 的牛顿迭代格式;写出求 a (a 0) 的牛顿迭代格式,要求公式中既无开方运算,又无除法运算。
2 f ( x ) x a 0 (a 0) 的正根 f ( x) 2x 解: 等价于求方程
1
xk 1
2 f ( xk ) xk a 1 a xk xk ( xk ) f ( xk ) 2 xk 2 xk
( xk 1 x* ) f " ( x* ) lim ' * x ( x x * ) 2 2 f ( x ) k
所以,Newton法至少二阶收敛.
例3.
设x * 是方程f ( x) 0的m( 2)重根, 证明迭代法
xk 1 xk f ( xk ) f ( xk )
在 x0 和 x 之间
* 取 x x ,可将 (x* x0)2 看成高阶小量,则有:
0 f ( x*) f ( x0 ) f ( x0 )( x * x0 )
f ( x0 ) x* x0 f ( x0 )
x1
x1是如下线性方程的根!
y f ( x0 ) f ( x0 )( x x0 )