数值分析3(不动点迭代)

迭代法回顾
设f(x) = 0的根为 x*,通过迭代计算产生序列:
x0 x1 ( x0 ) xn ( xn1 )
lim xn x
n
*
二分法:
0.5( xn1 an1 ), 如果f ( xn-1 ) f (an-1 ) 0 xn ( xn1 ) 0.5( xn1 bn1 ), 如果f ( xn1 ) f (bn1 ) 0
14:30
1/25
迭代的思想
设f(x) = 0的根为 x*,通过迭代计算,产生序列:
x0 x1 ( x0 ) xn ( xn1 )
lim xn x
n
*
迭代法研究包括方面: 迭代初值 迭代格式 判别收敛及收敛速度
14:30
2/25
《数值分析》3
不动点迭代法 不动点迭代的收敛性 迭代序列的收敛速度
序列收敛加速方法
14:30
3/25
引子
选 择 任 意 的 数 字 x 。 Matlab 中 输 入 命 令 x=your number。例如x = 3。
Matlab 中 输 入 命 令 x=sqrt(1+x) 。 命 令 计 算 (1+x)1/2 并用最新的结果替代以前的结果。重复上 述过程(up-arrow键), 得到如下结果: 3 2 1.7321 1.6529 1.6288 1.6213 1.6191 1.6184 1.6181 1.6181 1.6180 1.6180 1.6180
4/25
Matlab中等号是赋值算子。即计算等式右边的 值并将值存储到左边的变量。命令计算 (1+x)1/2并 用最新的结果替代以前的结果。重复上述过程得 到如下最后结果为1.6180(黄金比例 )。 而数学中等号的意思有所不同。方程
x 1 x
的根称为函数 f(x)=(1+x)1/2的不动点。函数 f(x) 有一个不动点(1+(5)1/2)/2。
启示: 两种不同的思路计算方程的根: 1) 寻 找根的显式计算公式; 2)通过重复简单的不 动点计算并赋值来逐步逼近方程的解。
5/25
不动点迭代(Fixed Point Iteration)
f (x ) 0
*
等价变换
x*称为不 动点
x* ( x* )
xn ( xn1 )
f (x) 的根
( x ) 的不动点
对于f(x)=0, 不动点可以构造为:
( x) x f ( x)
( x) x ( x) f ( x)
14:30
6/25
不动点迭代(Fixed Point Iteration)
x ( x)
选择适当的初始值x0,按照如下的迭代格式计算:
xn1 ( xn ), n=0,1,2,
基本思想是将非线性方程求解归结为一系列显 式的函数值计算。
xn , 则称迭代是收 如果数列{xn}有极限 x lim n * 敛的。 x 是非线性方程的根和 ( x ) 的不动点。
*
7/25
例1 方程 x3 + 4x2 – 10 = 0 在 [1, 2] 上有一个 根, 构造求根的不动点迭代格式。
(1) x
10 / x 4 x
( x ) 10 / x 4 x
xn 1 ( xn ) x0 1.5
(2) ( n = 0, 1, 2, · · · · · · )
x 10/( x 4) ( x) 10/( x 4)
xn 1 ( xn ) x0 1.5
( n = 0, 1, 2, · · · · · · )
8/25
14:30
xn1 10 / xn 4 xn
n 0 1 2 3 xn | xn – x* | 1.5000 0.8165 0.5487 2.9969 1.6317 (-8.65)1/2
10 x n1 xn 4
n 0 1 2 3 4 5 6
xn | xn - x * | 1.5000 1.3484 0.0168 1.3674 0.0022 1.3650 2.0e-04 1.3653 1.0e-04 1.3652 0 1.3652 0
什么样的迭代格式收敛？
14:30
9/25
中值定理: 若函数f(x) 满足:
(i)在[a,b]连续;
(ii)在(a,b)可导;
则在 (a, b) 内至少存在一点 ,使得
f (b) f (a ) f ( ) ba
14:30
10/25
引理 2.1 如果 ( x )在[a , b]上具有连续的一阶导数, 且满足条件(1) a ( x ) b 和 (2) | ( x ) | L 1 则 ( x )在[a , b]有唯一的不动点x *。
证 若 (a ) a 或 (b) b ,显然 ( x ) 有不动点
设 (a ) a , (b) b 则有 (a ) a , (b) b
记 ( x ) ( x ) x 则有 (a ) (b) 0 所以, 存在 x*使得 ( x*) 0 即 x ( x ) , 故 x* 是 ( x )的不动点。
* *
14:30
11/25
14:30
12/25
* * 如果 ( x ) 有两个不同的不动点 x1 x2 则有
* * x1 ( x1 )
x ( x )
* 2 * 2
两式相减得
* * * * x1 x2 ( x1 ) ( x2 )
* * x x 由拉格朗日中值定理知, 存在 介于 1 和 2 之间
* * * * * * x1 x2 ( x1 ) ( x2 ) ( )( x1 x2 )
* * * * * * | x x | | ( ) | | x x | L | x x 1 2 1 2 1 2 |

与L<1 条件矛盾 故不动点唯一。
14:30
13/25
引理 2.2 如果 ( x )在[a , b]上具有连续的一阶导数, 且满足条件(1) a ( x ) b 和(2) | ( x ) | L 1。 则对任意的x0 [a , b], 迭代格式xn +1 ( xn )产生的 序列{ xn }收敛到不动点x * , 且满足 1 | x xn | | xn 1 xn | 1 L
*
证 * * x ( x ) n | x n x || ( x n 1 ) ( x ) | n 1 * * * x ( x ) | ( ) | | x n 1 x |
| xn x | L | xn1 x |
* *
14:30
压缩映像
14/25
| xn x* | Ln | x0 x* |
lim | xn x | lim L | x0 x | 0 ( 0<L<1 )
* n * n n
所以
lim xn x
n
*
故迭代格式收敛
| x n x * || x n x n1 x n1 x * |
| x n x n1 | | x n1 x * || x n x n1 | L | x n x * |


14:30
(1 L) | xn x || xn xn1 | 1 * | x x n | | xn1 xn | 1 L
*
15/25
局部收敛定理
定理2.5 设x*为 ( x )的不动点, ( x )在x*的某邻域连 续且 ( x* ) 1, 则迭代法局部收敛。
思路 : 由连续函数的性质, 存在x*的某个邻域 R : |x -x* | ,使对于任意x 满足| ( x )| L 1。
14:30
16/25
收敛速度 数列的p阶收敛概念 设 lim x n x * , 若存在 a>0 , p>0 使得
| xn1 x* | lim a 则称数列{x } p 阶收敛。 p n n | x x* | n
特别: (1) 收敛阶p =1时,称为线性收敛; (2) 收敛阶p >1时,称为超线性收敛; (3) 收敛阶p =2 时,称为平方收敛。
n
序列的收敛阶数越高, 则收敛速度越快。
17/25
xn1 x* ( xn ) ( x*) ( )( xn x*)
| xn1 x* | lim | ( x*) | 0 n | x x* | n
xn1 x* ( xn ) ( x*) ( x*)( xn x*) +
( x*)
2
( xn x*)2
( p1) ( x*)
( p 1)!
( xn x*) p1
( p ) ( )
p!
( xn x*) p
14:30
18/25
定理2.6 设x*是 ( x) 的不动点,且 ( p1) ( x*) ( x*) ( x*) 0 而
( p)
( x*) 0 则 xn1 ( xn ) p阶收敛
p
| xn x* | ( p) | xn1 x* || ( xn ) ( x*) | | ( n ) | p! 其中, n 介于xn和x*之间. 所以
| xn1 x* | 1 1 ( p) ( p) lim lim| ( n ) | | ( x*) | p n | x x* | p! n p! n
由Taylor公式
故迭代法p阶收敛。
14:30
19/25
例2 用不同迭代格式求方程 x2-3=0的根。
2 (a) ( x ) x 1 4 ( x 3)
* ( x ) 1 1 x , 则 ( x ) 1 2 3 2
0.134 1
3 1 ( x ) ( x (b) 2 x)
( x )
1 2
(1
3 x2
* ), 则 ( x ) 0
(c) ( x ) x x 3
2
( x ) 2 x 1, 则 ( x* ) 2 3 1 1
(d) ( x) 3 / x
则 ( x * ) 1
20/25
xk x0 x1 x2 x3 x4
(a) 2 1.7500 1.7344 1.7324 1.7321
(b) 2 1.7500 1.7321 1.7321 1.7321
(c) 2 3 9 87 7653
(d) 2 1.5000 2 1.5000 2
21/25
不动点框架:
| ( x) | 1
收敛性
( x*) ( x*) ( p1) ( x*) 0 ( p ) ( x*) 0
收敛速度
x0 x1 ( x0 ) xn ( xn1 )
lim ( xn ) x
n
*
14:30
22/25
一个数学家就是一台把咖啡转化为数学定理的机器。 P. Erdos
Everyone loves a good cup of coffee, mathematicians especially. But did you know there is a beautiful pure mathematics theorem at work every time you make yourself a mug of that deliciously addictive stuff?
23/25
Brouwer’s Fixed Point Theorem says precisely “every continuous function from a compact subset in n-dimensional Euclidean space to the same subset has a fixed point”.