计算方法第四章(逼近法)

4.埃尔米特(Hermite)多项式：
区间 (-, ) 上权函数为 w(x) ex2 的正交多项式
Hk (x) (1)k ex2
dk dxk
(ex2 )
,
k
0,1, 2,L
H0 (x) 1, H1(x) 2x, H2 (x) 4x2 2 H3(x) 8x3 12x, H4 (x) 16x4 48x2 12 H5 (x) 32x5 160x3 120x,L L

5
2
i 1
(a
b e xi

yi )e xi

0
5a 2.238b 8.9 2.238a 1.39b 4.789 a 0.856 , b 0.924 y 0.856 0.924 ex
如果取逼近函数形为： y a b ex ce2x
第四章 函数最优逼近法
Hale Waihona Puke Baidu一、最优平方逼近 二、最优一致逼近
一、最优平方逼近
例1：距离 0.5
1
1.5
2 2.5 3
3.5
4
水深 1.55 1.98 2.45 3.15 3.21 4.12 4.96 5.32
例2：化学反应 分子扩散
时间 0.1 浓度 2.8
0.5 1 1.5 2 2 1.6 1.3 1.2
线性最小二乘问题的一般提法：
已知函数列 0(x),1( x),L ,n ( x) 线性无关，对于一组已
知点（观测值）(x1, y1), (x2 , y2 ),L , (xm, ym )，求函数列的一个
n
组合 P(x) aii (x) ，使之在加权最小二乘的意义下最佳逼 i0
近这些点，即求系数 ai (i 0,1,L , n) ，使下面的和取最小：
对于例2，设逼近函数形为：y a b e，x
该函数应该与已知点的某种差距最小。记：
5
S(a,b) (a b exi yi )2 ，可求 min S(a, b)
i 1
a,b
S
a

5
2
i 1
(a
b e xi

yi )

0

S b
通常情况下，我们会遇到这样的问题：在研究某种客观 现象的时候，需要建立所描述对象的量之间的函数关系式。
此时，我们对要研究的函数进行一系列观测，得到若干 组观测值，然后利用这些观测值构造函数表达式。
显然，由于观测误差等原因，构造出的函数不可能严格 过这些观测值的点。对此，我们要求构造出的函数在观测点 上的值与观测值差的平方和达到最小。这称为最小二乘拟合。
例：n维空间中的两个向量 x (x1, x2 ,L , xn ) , y ( y1, y2,L , yn )
n
定义：(x, y) xi yi
证明：这是内积i。1
n
例：设 {i } 是一组正实数，定义：(x, y) i xi yi
证明：这也是内积。
i 1
例：区间[a , b]上的所有连续函数全体构成一个线性空间C[a , b],
小值，则
S 0 (i 0,1,L , n) ai
如此得到一组方程，从中即可求出系数 ai (i 0,1,L , n) 。
引入记号：
m
( f , g) i f (xi )g(xi )
i 1
则得方程组：
n
(k , j )aj (k , y), k 0,1, 2,L , n
(Hk , Hk ) 2k (k!)2
5.切比雪夫 (Chebyshev) 多项式：
区间 [- 1 , 1 ]上权函数为w(x) 1 的正交多项式 1 x2
Tk (x) cos(k arccos x) 2k1 xk L , k 0,1, 2,L
T0 (x) 1, T1(x) x Tk1 2xTk (x) Tk1(x), k 0,1, 2,L
多项式，或称为变量x 和 y 之间的经验公式.
显然，S 达到最小值，则
S 0 , k 0,1,L , n ak
S
ak

2 m
m i 1
[ P( xi
)

yi
]
P( xi ak
)

2 m
m

n
a j xij yi xik
i1 j0


m
S(a1,L , an ) i[P( xi ) yi ]2
i 1
这里，求和中加了数 i 0 (i 1,L , m) ，代表求和的权重。称
P(x) 为基于函数列的对已知观测点的一个最小二乘逼近。
注意到 S 实际上是关于 ai (i 0,1,L , n) 的一个函数，欲取最

1 8
(35x4

30x2

3),
P5
(
x)

1 8
(63x5

70
x3
15
x)
LL
证明:
由分部积分法得(Pk , Pj )
1 [(x2 1) j ]( j)[(x2 1)k ](k) dx
1
1 [(x2 1) j ]( j) d[(x2 1)k ](k1) 0 1 [(x2 1)k ](k1)[(x2 1) j ]( j1) dx
j0
m
(k , y) ik (xi ) yi
i 1
称为正规方程组，从中即可求出系数。
类似，可以得到多元函数的线性最小二乘拟合：设多
元函数列 0 (x1, x2 ,L xn ),1(x1, x2 ,L xn ),L , j (x1, x2 ,L xn ),L 线
性无关，一组测量数据为 (x1i , x2i ,L xni , yi ), ( i 1, 2,L , m)
异。 (u1, u1) (u2, u1) L

(u1,
u2
)
(u2, u2 )
L
M
M
(u1,un ) (u2,un ) L
(un , u1)
(un
,
u2
)

M
(un ,un )
证明 :由c1u1 c2u2 cnun 0, 两边与ui作内积即得 .
1
2
3
4
5
6
7
8
9
0.58 0.81 1.01 1.32 1.49 1.67 1.93 2.18 2.395
得正规方程组：
94a50a0452a815a15.83141.962 a0 0.15342, a1 0.09845 a 1.424, b 0.2267 y 1.424e0.2267x
求拟合函数 l P(x1, x2 ,L xn ) a j j (x1, x2 ,L xn ) j0
使 S m i[P(x1i , x2i ,L xni ) yi ]2 最小。 i 1
则拟合系数 {a j} 同样满足上页蓝色的方程。只不过
m
( j ,k ) i j (x1i , x2i ,L xni )k (x1i , x2i ,L xni ) i 1
在这个空间上定义：
b
f (x) , g(x) C[a,b] , ( f , g) a f (x)g(x)dx
证明：这是一个内积。
定理：设( u , v )为空间X上的一个内积，对于空间中
的一组向量 u1, u2 ,L , un X ，它们线性无关的充
分必要条件是下面的所谓Gram（克拉姆）矩阵非奇
证明:
(1,1)

dx 2 ,


, m n
(sin nx,sin mx)
sin

nx
sin
mxdx


0,
m

, n

, m n
(cosnx, cosmx)
c

os
nx
c
osmxdx


0,
m

n
,

(cosnx,sin mx) cosnx sin mxdx 0.
2n {
m j0
aj
m i 1
x jk i

m i 1
xik
yi }
m
m
记： sl xil , tl xil yi
i 1
i 1
n
得正规方程组(法方程)： s jkaj tk , k 0,1,L , n
j0
2. 内积
定义：设 X 为 R 上的线性空间，对于 X 中的任意两
个向量 u，v，定义( u , v )，如果满足下面条件： (1) (u,v) (v,u) , (2) (u, v) (u, v) , R
(3) (u v, w) (u, w) (v, w) , u,v, w X
(4) (u,u) 0 , and (u,u) 0 iff u 则称( u , v )为空间X上的一个内积。
2：勒让德 (Legendre) 多项式：[-1,1]上权为1的正交多项式
Pk (x)

1 2k k !
dk dxk
(x2
1)k
,
k 0,1, 2,L
P0 (x) 1, P1(x) x, P2 (x) (3x2 1) / 2, P3(x) (5x3 3x) / 2
P4
(x)
区间 [0,）上权函数为 w(x) ex 的正交多项式
Lk (x) ex
dk dxk
(xkex )
,
k 0,1, 2,L
L0 (x) 1, L1(x) 1 x, L2 (x) 2 4x x2 L3(x) 6 18x 9x2 x3, L L
(Lk , Lk ) (k !)2
i 1
c e2xi

yi )e xi
0
S

c
5
2 (a b exi
i 1
c e2xi

yi )e2 xi
0
同样，对于例1，由于已知点几乎分布在一直线上，所以，设
拟合函数为 y a b x
a 0.998 b 1.01
1. 最小二乘拟合
例： C[- , ]中，证明下面函数两两正交： 1, cosx , sinx , cos2x , sin2x
3. 正交多项式
定义：满足 (k , j ) 0 (k j) , (k ,k ) 0 的函数系称为正交函数系，
如果该函数系是多项式，称为正交多项式系。
1： [- , ]中， 1, cosx , sinx , cos2x , sin2x， cos3x , sin3x , … ，cosnx , sinnx，…正交
最后结果如图
最小二乘拟合多项式：
设有变量 x 和 y 的一组数据：(xi , yi ), ,i 1, 2,L , m
对多项式 P(x) a0 a1x L an xn ，选择适当系数
后，使
S

m i 1
1 m [P(xi )
yi ]2
达到最小的多项式, 称为数据的最小二乘(平方)拟合
1
1

(1) j (2 j)!
1 [(x2
1
1)k
](k
j)
dx

0,
2
2k
1
,
k k

j j.
一般地， 有罗德里格(Rodrique)公式(见P102). 很多常用的正交多项式
都可由罗德里格公式推出. 如Legendre正交多项式， 此外还有下面的
3. 拉盖尔(Laguerre)多项式：
例3：观测得到某函数一组数据，求其近似表达式：
1
2
3
4
5
6
7
8
9
1.78 2.24 2.74 3.74 4.45 5.31 6.92 8.85 10.97
设拟合函数为 y aebx ，引入变换 Y lg( y)，拟合函数
为 Y lg(a) b lg(e)x a0 a1x ，数据变为：
5
min S
a ,b ,c
(a b e xi ce2xi yi )2
i 1
a 1.01 , c 0.998
b 0.987
S

a

5
2
i 1
(a
b e xi

c e2xi

yi )

0
S

b
5
2 (a b exi
定义：设 ( u , v )为空间X上的一个内积，对于 X 中的任意两 个向量u，v，如果 ( u , v ) ＝ 0，则称 u 与 v 正交。记为： uv。
例：3维空间中，证明下面向量两两正交 e1 (1, 0, 0) , e2 (0,1, 0) , e3 (0, 0,1)
例：区间[ -1, 1]上的所有连续函数全体构成一个线性空间 C[-1 , 1]，证明任意一个奇函数与偶函数正交。