第3章数值分析---最佳平方逼近
合集下载
最佳平方逼近
( f p*, f p*) 2( f p*, p * p) ( p * p, p * p)
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用
数值分析学习课件
对任意 u ≠ 0 ∈ R n +1 ，必有 Φ u ≠ 0 。 则 u T B u = u T Φ T Φ u =|| Φ u || 2 > 0 2 若不然， 若不然，则 存在唯一解 ⇒ B为正定阵，则非奇异，所以法方程组存在唯一解。 为正定阵，则非奇异，所以法方程组存在唯一 n +1 存在一个 u ≠ 0 ∈ R 使得 Φ u = 0 … 即
则 (ϕ i , ϕ j ) =
∫
1 0
x i x j dx =
1 i + j+1
Hilbert阵！ 阵
若能取函数族Φ={ ϕ0(x), ϕ1(x), … , ϕn(x), … }， ， 两两（ 使得任意一对ϕi(x)和ϕj(x)两两（带权）正交， 和 两两 带权）正交， 改进： 改进： 对角阵！ 就化为对角阵 则 B 就化为对角阵！ (ϕ k , y ) 这时直接可算出a 这时直接可算出 k = (ϕ k , ϕ k ) 正交多项式的构造： 正交多项式的构造： 多项式的构造 取为k 多项式，为简单起见， 将正交函数族中的ϕk 取为 阶多项式，为简单起见，可取 ϕk 的首项系数为 1 。
①
总体上尽可能小 尽可能小。 这时没必要取 P(xi) = yi , 而要使 P(xi) − yi 总体上尽可能小。 常见做法： 常见做法：
m
不可导， 不可导，求解困难
太复杂
使 max | P ( x i ) − y i | 最小 /* minimax problem */ 1≤ i ≤ m 使 ∑ | P ( x i ) − y i | 最小 使 ∑ | P ( x ) − y | 最小 /* Least-Squares method */ 定义 最佳平方逼近：即连续型 逼近，在 || f ||2 = 最佳平方逼近：即连续型L-S逼近 平方逼近 逼近，
最佳平方逼近
S(x) = a0ϕ0 (x) + a1ϕ1 (x) +L+ anϕn (x)
的全体是C[a, b]的一个子集，记为 的一个子集， 的全体是 的一个子集
Φ = Span{ϕ0 , ϕ1, L, ϕn}
并称 是生成集合的一个基底。 ϕ0 (x), ϕ1 (x), L, ϕn (x)是生成集合的一个基底。
f −P
2 2 *
2 2
= ( f − P, f − P)
j =0
≥ f −P
*
2 2
= ( f − P + P* − P, f − P* + P* − P)
+2 −P P −P = ( f − P* , f − P* ) + ( P* − P, P* − P) + 2(( ff − P**,,P** − P)) aj 因为 P * − P = ∑ (a * −a j )ϕ j ( x ) ， * − a j ∈ R, j
0, j ≠ k ((ϕ j (x), ϕk (x)) = A > 0, j = k k
( j, k = 0, 1, L ) ( Ak是 数) 常
则称函数系{ 的正交函数系， 则称函数系 ϕk (x)}是[a, b]上带权ρ (x)的正交函数系， 是 上带权 的正交函数系
特别地， 标准正交函数系。 特别地，当Ak ≡ 1时，则称该函数系为标准正交函数系。 时 则称该函数系为标准正交函数系
( f , g) = ∫ ρ(x) f (x)g(x)dx
a
b
为权函数的内积。 为 f (x) 与 g (x)在 [a, b]上以 ρ (x)为权函数的内积。 在 上以 为权函数的内积 内积的性质： 内积的性质： (1) (f, f )≥0，且 (f, f )=0 ⇔ f = 0； ， ； (2) (f, g) = (g, f )； ； (3) (f1 + f2, g ) = (f1, g) + (f2, g)； ； (4) 对任意实数 ，(kf, g) = k (f, g )。 对任意实数k， 。
第三章-2-最佳平方逼近
性质 5 设 k k 0是 [a, b] 上带权 (x) 的正交多项式
族，则n(x) (n>0) 有n个单重实根，且都位于 区间[a, b] 内。
几类重要的正交多项式 Legendre 多项式 Chebyshev 多项式
第二类 Chebyshev 多项式
Laguerre 多项式 Hermite 多项式
Chebyshev 多项式
切比雪夫多项式的性质：
(1) 递推公式： Tn1 ( x ) 2 xTn ( x ) Tn1 ( x )
cos(n+1) + cos(n-1) = 2cos cosn x = cos
mn 0, 1 T ( x )T ( x ) n m (Tn , Tm ) dx π / 2, m n 0 (2) 正交性： 2 1 1 x π, mn0 n T ( x ) ( 1) Tn ( x) (3) 奇偶性： n
性质1 性质2
n ( x)
为首一 n 次多项式。 [a, b] 上带权 (x) 的正交多
是 k k 0
项式族，且
H n span 0 ,1,...,n
性质 3 正交。
n ( x) 与所有次数不高于n-1次的多项式
正交多项式性质
性质 4
此 k k 0 满足如下三项递推公式：
数值分析及计算软件
第三章
函数逼近与计算
3.3 最 佳 平 方 逼 近 及正交多项式
最佳平方逼近问题：
若存在 Pn* ( x )H n , 使得
|| f ( x) Pn ( x) ||2 inf || f ( x) Pn ( x) ||2 ,
数值分析第3章
* 3
* f ( x) p3 ( x) 1 1 4 2 4－1 T4 ( X ) x x 2 2 2 8
f ( x) p ( x)
* 3
与零的偏差最小。
所以
* p3 ( x) 2x3 x2 8x 3
38
对区间为［a,b］的情形，
作变换
x=(b-a)t/2+(b+a)/2
41
推论1
设pn*(x)∈Pn［a,b］为对f(x)∈C［a,b］的最佳一 致逼近元. 若f(n+1)(x)在区间(a,b)上不变号，但 在x=a (或b)处不存在(但为无穷)而符号与(a,b) 内f(n+1)(x)的符号相同，则x=a(或b)属于f(x)pn*(x)的交错点组.
42
例2设f(x)= x. 求在P1［0,1］中对f(x)的最 佳一致逼近元.
n1
Tn ( x )
1 2
n1
max f ( x ) ( n 1,2,)
1 x 1
35
36
考虑两种特殊情形
（1） 当f(x)为［－１，１］上的n+1次多项式时，求 f(x)在Pn［－１,１］中的最佳一致逼近多项式. 不妨记f(x)=b0+b1x+…+ bn+1xn+1,|x|≤1,且设bn+1≠0 ， pn(x)为最佳一致逼近元. 由于首项系数为1的n+1次Chebyshev多项式Tn+1(x)无 穷模最小，
b
如果函数f(x), g(x) 在[a,b]上连续,满
a ( x ) f ( x ) g( x )dx 0
则称f(x)与g(x)在[a,b]上关于权 ( x ) 正交,如果[a,b] 上的连续函数系 k ( x ) 满足
* f ( x) p3 ( x) 1 1 4 2 4－1 T4 ( X ) x x 2 2 2 8
f ( x) p ( x)
* 3
与零的偏差最小。
所以
* p3 ( x) 2x3 x2 8x 3
38
对区间为［a,b］的情形，
作变换
x=(b-a)t/2+(b+a)/2
41
推论1
设pn*(x)∈Pn［a,b］为对f(x)∈C［a,b］的最佳一 致逼近元. 若f(n+1)(x)在区间(a,b)上不变号，但 在x=a (或b)处不存在(但为无穷)而符号与(a,b) 内f(n+1)(x)的符号相同，则x=a(或b)属于f(x)pn*(x)的交错点组.
42
例2设f(x)= x. 求在P1［0,1］中对f(x)的最 佳一致逼近元.
n1
Tn ( x )
1 2
n1
max f ( x ) ( n 1,2,)
1 x 1
35
36
考虑两种特殊情形
（1） 当f(x)为［－１，１］上的n+1次多项式时，求 f(x)在Pn［－１,１］中的最佳一致逼近多项式. 不妨记f(x)=b0+b1x+…+ bn+1xn+1,|x|≤1,且设bn+1≠0 ， pn(x)为最佳一致逼近元. 由于首项系数为1的n+1次Chebyshev多项式Tn+1(x)无 穷模最小，
b
如果函数f(x), g(x) 在[a,b]上连续,满
a ( x ) f ( x ) g( x )dx 0
则称f(x)与g(x)在[a,b]上关于权 ( x ) 正交,如果[a,b] 上的连续函数系 k ( x ) 满足
数值分析最佳平方逼近
9 9
第三章 函数逼近与计算
定义3.8 设 0(x), 1(x), … , n-1(x)在[a,b]上连续如果 a00(x)+a11(x)+… +ann(x)=0 对任意 x[a, b]成立
当且仅当 a0= a1=… =an=0，则称 0(x), 1(x), … , n-1(x) 在[a,b]上是线性无关的。
I 0 a k
(k 0,1,, n),
(k 0,1,, n),
(k 0,1,, n).
( ( x), ( x))a
j 0 k j
© 2009, Henan Polytechnic University §3 最佳平方逼近
n
j
( f ( x ), k ( x ))
b
则称{ k ( x)} 是 [a, b] 上带权 ( x )的正交函数族. 若 Ak 1，则称之为标准正交函数族. 三角函数族 1, cos x , sin x , cos 2 x , sin 2 x , 区间 [ , ]上的正交函数族.
© 2009, Henan Polytechnic University §3 最佳平方逼近
© 2009, Henan Polytechnic University §3 最佳平方逼近
1111
第三章 函数逼近与计算
3.3.2 函数的最佳平方逼近 对f ( x ) C[a, b]及C[a, b]中的一个子集 span{ 0 ( x ),1 ( x ),, n ( x )}
b b
b
b
I 2a0 0 ( x ), k ( x ) 2a1 1 ( x ), k ( x ) 即 ak 2an n ( x),k ( x) 2 f ( x),k ( x)
最佳平方逼近原理
最佳平方逼近原理最佳平方逼近原理是数值分析中的一个经典原理，用于寻找函数在给定定义域上的最佳平方逼近曲线。
在实际应用中，我们经常需要通过已知的离散数据点来近似拟合一个函数，最佳平方逼近原理就是为了解决这个问题而提出的。
最佳平方逼近原理的核心思想是，通过最小化残差平方和来选择最佳的曲线拟合函数。
残差平方和是指每个数据点与拟合曲线之间的差值的平方和，通过最小化残差平方和，我们可以找到能够最好地拟合数据点的曲线。
为了更好地理解最佳平方逼近原理，我们可以通过一个简单的例子来说明。
假设我们有一组包含有N个点的数据集{(x1,y1),(x2,y2),...,(xn,yn)}，我们需要找到一条曲线y=f(x)来拟合这些数据点。
首先，我们可以假设拟合曲线为一条直线y=ax+b，其中a为斜率，b为截距。
我们的目标是找到最佳的斜率a和截距b，使得拟合曲线能够最好地拟合数据点。
为了评估拟合曲线的好坏，我们可以定义残差ei为数据点yi与拟合曲线f(xi)之间的差值，即ei=yi-f(xi)。
然后，可以定义残差平方和E为所有残差的平方和，即E=∑(yi-f(xi))^2。
根据最佳平方逼近原理，我们需要选择最优的斜率a和截距b，使得E达到最小值。
这可以通过对E分别对a和b求偏导数，并令偏导数等于零来实现。
∂E/∂a=0和∂E/∂b=0的解可以分别表示为a=(N∑(xiyi)-∑xi∑yi)/(N∑(xi^2)-(∑xi)^2)和b=(∑yi-∑(xi/n)a))/N 通过求解这两个方程，我们可以得到最佳的斜率a和截距b，从而得到最佳的拟合曲线。
上述例子只是最佳平方逼近原理的一个简单应用，实际上，最佳平方逼近原理可以应用于更复杂的拟合曲线，如多项式拟合、指数拟合等。
在实际应用中，最佳平方逼近原理广泛应用于数据分析、信号处理、图像处理等领域。
通过最佳平方逼近原理，我们可以从大量的离散数据中提取有效的信息，利用拟合曲线来进行预测、分类、回归等操作。
最佳平方逼近
所求的
应该使下式达极小：
由
整理得到
计算积分后，得法方程组
解之得 从而得到最佳平方逼近一次多项式
三、正交基函数的选择 如果我们选择子空间
正交，即 则法方程
简化为
即 容易求得 并得到最佳平方逼近
例3.2. 已知
在区间 [-1，1]上两两正交，试求
在这个
区间上的最佳平方逼近二次多项式，并给出误差估计。
应该使
整体达最小。 通过这种度量标准求得拟合曲线y=f(x)的方法，
就称作曲线拟合的最小二乘法。 按照以上思想来求出f(x)的拟合曲线，首先需
要确定出f(x)所属的函数类，然后进一步求出具体 函数，具体按照以下步骤进行。
二、最小二乘法拟合曲线的步骤
第一步：根据如下已知点的坐标，在坐标系里描点
第二步：根据图示，确定曲线所属的函数类型，例 如多项式函数类、三角函数类、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为
而n+1元函数
在区间
上具有一阶连续导函数，因此根据
极值原理，在最小值点
处：
而 于是 即
利用内积 可以得到 这是一个含有n+1个变量的方程组，具体形式为：
再写成 矩阵形式为
这是关于n+1个变量
的线性方程组，并称
其为法方程组，或者正规方程组。
解此方程组，就可以得到 了f(x) 的最佳平方逼近：
，也就得到
同时，还需要给出连续函数
空间上的一个度量标准，下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间，对于C[a,b]中的任意函数
、 ，定义
实数
最佳平方逼近
(f q ,q p ) (f p ,q p ) 0 , 故 ( p q ,p q ) ( p f f q ,p q )
( p f,p q ) ( f q ,p q ) 0
这说明, p(x) q(x) 于 [a, b].
9
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
(x) 最佳平方逼近的函数 ( f p*, j )=0, j=0,1,…,n. 其中, {0x,1x, , nx}为子空间 Hn 的一组基.
证: () 反证法, 设有函数 kx, 使得 ( f p*, k) k 0 , 令 q(x) p*(x) kx k /(k, k), 显然, q(x)Hn . 利用内
积的性质, 可得
(f q ,f q ) (f p * ,f p * ) (2 k ,k k )(f p * ,k ) ( k 2 ( k ,k ,k ) k 2 )
(fp * ,fp * )( k,k 2k)(fp * ,fp * )
k
这说明, p*(x) 不是对 f (x) 最佳平方逼近的函数, 矛盾.
7
() 若 ( f p*, j )=0, j=0,1,…,n 成立, 对任意的 p(x)Hn ,有
( f p , f p ) ( f p * p * p , f p * p * p )
( f p * , f p * ) 2 ( f p * , p * p ) ( p * p , p * p )
(0,1) (1,1)
((10,,nn))cc10**((ff,,10))
(n,0) (n,1) (n,n)cn* (f,n)
由于 0x,1x, , nx 线性无关, 可以推得上系数阵是
( p f,p q ) ( f q ,p q ) 0
这说明, p(x) q(x) 于 [a, b].
9
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
(x) 最佳平方逼近的函数 ( f p*, j )=0, j=0,1,…,n. 其中, {0x,1x, , nx}为子空间 Hn 的一组基.
证: () 反证法, 设有函数 kx, 使得 ( f p*, k) k 0 , 令 q(x) p*(x) kx k /(k, k), 显然, q(x)Hn . 利用内
积的性质, 可得
(f q ,f q ) (f p * ,f p * ) (2 k ,k k )(f p * ,k ) ( k 2 ( k ,k ,k ) k 2 )
(fp * ,fp * )( k,k 2k)(fp * ,fp * )
k
这说明, p*(x) 不是对 f (x) 最佳平方逼近的函数, 矛盾.
7
() 若 ( f p*, j )=0, j=0,1,…,n 成立, 对任意的 p(x)Hn ,有
( f p , f p ) ( f p * p * p , f p * p * p )
( f p * , f p * ) 2 ( f p * , p * p ) ( p * p , p * p )
(0,1) (1,1)
((10,,nn))cc10**((ff,,10))
(n,0) (n,1) (n,n)cn* (f,n)
由于 0x,1x, , nx 线性无关, 可以推得上系数阵是
最佳平方逼近
a0 a 1 an
( f , 0 ) ( f ,1 ) = , ( f , n )
此方程组称为
法方程 .
n j=0 * a j j， k
可见，
( f (x)
) = 0 , k = 0 ,1 , L , n .
0， 1， ， n 在 [ a , b ]上 L
由定理，正交多项式系
定理：设 0 , L , n C [ a , b ], 记 Gram 矩阵为
G = G ( 0 , L , n ) ( 0 , 0 ) ( 1 , 0 ) = ( n , 0 ) ( 0 , 1 ) ( 1 , 1 ) ( n , 1 ) L L L L ( 0 , n ) ( 1 , n ) ( n , n )
r 1, ( f , g ) = a f ( x ) g ( x ) d x(1 ) (2) (3) (4)
( f , g) = (g, f ) ( cf , g ) = c ( f , g ) ( f1 f 2 , g ) = ( f1 , g ) ( f 2 , g ) ( f , f ) 0 , 当且仅当 f = 0 时 ( f , f ) = 0
满足內积定义的函数空 因此，连续函数空间 n 维欧氏空间 其內积定义为
n
间称为內积空间， C [ a , b ]上定义了內积就形成一 个內积空间。
T T
R 中两个向量內积定义：
n
设 f = ( f 1 , f 2 ,L , f n ) , g = ( g 1 , g 2 ,L , g n ) f = ( fk ) 2
b b 2
最佳平方逼近ppt课件
连续函数的内积
定 义 内 积 ： (f ,g ) wx ( )f (x )g (xd )x
a b
容易验证满足内积定义的4条性质
由 此 导 出 的 函 数 f( x ) 的 范 数 ： || f || (f, f) ( )f ( xd )x wx
2 a b
两 个 函 数 fxg ( ) 与 ( x ) 的 距 离
d i s t (f,g ) | | f g | | (f gf , g ) w ( x ) f ( x ) gx ( ) d x
2 a b
函 数 f( x ) 和 gx () 正 交 (f,g ) ( xf )( xgxd ) ()x 0 w
a b
0
2
2
8 ( xx , ) x x d x , 0 3
( e , 1 ) 1 d x e 1 e
x x 2 0
2
( e , x ) x d x e 1 e
x x 2 0
2
2 a a 1 0 2 1 e 法 方 程 组 为 8 2 2 a 1 0 a 1 e 3
2
a0=0.1945 ,
a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
例 题 ： 求 fx ( ) s i n ( x ) 在 [ 0 , 1 ] 的 最 佳 平 方 逼 近 二 次 多 项 式 。
. . . . . . . . . . . . . . . . . . . . .
数值分析第3章
(3) (u v, w) (u, w) (v, w), u, v, w X; (4) (u,u) 0, 当且仅当u 0 时，(u,u) 0. 则称 (u,为v)X上 与u 的内v 积.
20
定义了内积的线性空间称为内积空间. 定义中（1）的右端 (u称, v为) 的(u共,轭v)， 当K为实数域R时 (u, v) .(v, u) 如果 (u, v，) 则 称0 与 正交u ，这v 是向量相互垂 直概念的推广.
b a
f
2
(
x)dx
2
33
若 0 ,1,,n是 C[a, b]中的线性无关函数族，记 span{0 ,1,,n}, 它的格拉姆矩阵为
G G(0 ,1,,n )
(0 ,0 ) (0 ,1) (0 ,n )
(1
,
0
)
(1 , 1 )
(1
,
n
)
(n ,0 )
(n ,1 )
(
n
,
n
)
（1.17）
Hn span{1, x,, xn},
且 (a0 , a1,, an ) 是 p(x) 的坐标向量，H n 是 n 1维的.
8
对连续函数 f (x) C[a,b]，它不能用有限个线性无关的 函数表示，故 C[a,b]是无限维的，但它的任一元素 f (x) 均可用有限维的 p(x) Hn逼近，使误差
与数的乘法构成实数域上的线性空间， 记作 R n，称为 n维
向量空间.
4
对次数不超过 n( n为正整数)的实系数多项式全体，
按通常多项式与多项式加法及数与多项式乘法也构成数域
R上一个线性空间，用
H
表示，称为多项式空间.
n
所有定义在 [a,b] 上的连续函数集合，按函数加法和
20
定义了内积的线性空间称为内积空间. 定义中（1）的右端 (u称, v为) 的(u共,轭v)， 当K为实数域R时 (u, v) .(v, u) 如果 (u, v，) 则 称0 与 正交u ，这v 是向量相互垂 直概念的推广.
b a
f
2
(
x)dx
2
33
若 0 ,1,,n是 C[a, b]中的线性无关函数族，记 span{0 ,1,,n}, 它的格拉姆矩阵为
G G(0 ,1,,n )
(0 ,0 ) (0 ,1) (0 ,n )
(1
,
0
)
(1 , 1 )
(1
,
n
)
(n ,0 )
(n ,1 )
(
n
,
n
)
（1.17）
Hn span{1, x,, xn},
且 (a0 , a1,, an ) 是 p(x) 的坐标向量，H n 是 n 1维的.
8
对连续函数 f (x) C[a,b]，它不能用有限个线性无关的 函数表示，故 C[a,b]是无限维的，但它的任一元素 f (x) 均可用有限维的 p(x) Hn逼近，使误差
与数的乘法构成实数域上的线性空间， 记作 R n，称为 n维
向量空间.
4
对次数不超过 n( n为正整数)的实系数多项式全体，
按通常多项式与多项式加法及数与多项式乘法也构成数域
R上一个线性空间，用
H
表示，称为多项式空间.
n
所有定义在 [a,b] 上的连续函数集合，按函数加法和
数值计算方法_最佳平方逼近
25数值分析—最佳逼近━基于ＭＡＴＬＡＢ的实现与分析§１ 引 言所谓函数最佳逼近就是从指定的一类简单的函数中寻找一个和给定的函数“最贴近”的函数，从几何（空间）的角度看，函数最佳逼近就是从指定的一类简单的函数（点的集合）中寻找一个与给定的函数（定点）距离最短的函数（点）。
由于在函数空间中可以定义不同的距离，不同意义下的距离度量定义了不同的逼近准则。
令P 表示指定的一类简单的函数集合 １、函数最佳一致逼近： 基于的距离度量如下()[]()()d f P f x P x x a b ，，=-∈max （１）逼近准则：()[]()()x P x f P f d b a x P P -=∈P ∈P∈，max min ,min （２）２、函数最均方逼近：基于的距离度量如下()()()[][]d f P f x P x dx ab，=-⎰212（３）逼近准则()=P∈P f d P ,min minP ∈P()()[][]f x P x dx ab-⎰212（４）如果给定的是函数在若干点处的函数值：()()x f x i i ，，i =0，1，， n ，那么还有称为：３、最小二乘逼近： 基于的距离度量如下()()()[]d f P f x P x i i i n ，=-⎡⎣⎢⎤⎦⎥=∑012（５）逼近准则26()=P ∈P f d P ,min min P ∈P ()()[]f x P x i i i n-⎡⎣⎢⎤⎦⎥=∑012（６）４、插值逼近，其逼近准则为：()()i i x f x P =， ()n i x P ，，，， 10=P ∈ （７）对于函数最佳逼近问题而言，用于逼近的简单的函数集合一般选取次数不超过n 次的多项式函数全体()()()(){}P n k k x P x P x k n ==≤deg （８）即用多项式函数逼近给定的函数，其原因在于只需对自变量做加法、减法和乘法运算就能得到函数值是多项式函数显著的特点之一，因此，从计算的角度来说多项式函数是最简单的。
最佳平方逼近
(2) Rn中的最佳平方逼近
R n 中的最佳平方逼近称为离散情形的最佳平方 逼近，求离散情形最佳平方逼近的方法称为
最小二乘法
下节讨论
dis( x, y) || x y ||2 ( x y, x y)
( x y )
i i
2
连续函数空间C[a,b]中f(x)与g(x)的距离即为
dis( f ( x ), g ( x )) || f ( x ) g ( x ) ||2
2 ( f ( x ) g ( x )) dx a b
( f ( x), g( x)) a f ( x) g( x)dx ( f ( x), g( x)) a ( x) f ( x) g( x)dx
b b
若取 Pn [a ,b ] 中 n +1个线性无关元为 {1,x ,… ,x n },则 对任意的g(x)∈C[a,b], 求Pn[a,b]中对g(x)的最佳 平方逼近元pn(x)，就必须通过求解法方程组得到 最佳平方逼近元.
b
或
( f ( x), g( x)) a ( x) f ( x) g( x)dx
b
f ( x ), g ( x ) C[a, b] 其中(x) 称为权函数
它满足：
①在[a,b]的任何子区间上积分为正； ②(x) ≥0，且使(x) =0的点至多有限个； ③ 对f(x)=1, x, x２,…, 积分 a f ( x ) g ( x )dx 存在.
例1 求g(x)=x 在P1[0,1]中的最佳平方逼近元
解法一
这是C[0,1]上的最佳平方逼近问题. 取０＝１, １＝x, P1[0,1]＝span{1,x} 记 p1(x)=a０＋a１x (０,0)=1，(０,1)=1/2， (1,1)=1/3 ， (０,g)=2/3， (1,g)=2/5. 所以，关于a０，a１为未知数的法方程组为
最佳平方逼近
c1 4 5
4 15 4 5 x. 0 x 1
所求的最佳平方逼近元
素为 p ( x )
5.6.2 正交系在最佳平方逼近中的应用
当 0x,1x, , nx, 是正交系时,求解最佳平方逼 近式(5.82)中的系数非常容易. 目标: 求下面的最佳平方逼近式中的系数
（ 5.84）
函数 f 的 L-最佳平方逼近函数为
pL ( x )
n k 0
c k L k ( x ),
(L)
1 x 1
（5.85）
遇到区间[a,b], 通过下面的变换把问题转化到[-1,1]上处理.
x a b 2 b a 2 t.
函数 f (x) 的 Legendre 无穷级数
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
p * (x)
n
故
0
ck k ( x)
*
n * k
k 0
f
p *,
j
f , c
j k 0 j
k
,
j
(5.82)
n
ck k ,
1
( f , g)
1
f ( x ) g ( x )dx
L-正交多项式为 L0x, L1x, , Lnx, 用(5.83), 有
ck
(L)
( f , Lk ) ( Lk , Lk )
2k 1 2
1
1
L
k
( x ) f ( x )dx ,
k 0,1, 2, ..., n
4 15 4 5 x. 0 x 1
所求的最佳平方逼近元
素为 p ( x )
5.6.2 正交系在最佳平方逼近中的应用
当 0x,1x, , nx, 是正交系时,求解最佳平方逼 近式(5.82)中的系数非常容易. 目标: 求下面的最佳平方逼近式中的系数
（ 5.84）
函数 f 的 L-最佳平方逼近函数为
pL ( x )
n k 0
c k L k ( x ),
(L)
1 x 1
（5.85）
遇到区间[a,b], 通过下面的变换把问题转化到[-1,1]上处理.
x a b 2 b a 2 t.
函数 f (x) 的 Legendre 无穷级数
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
p * (x)
n
故
0
ck k ( x)
*
n * k
k 0
f
p *,
j
f , c
j k 0 j
k
,
j
(5.82)
n
ck k ,
1
( f , g)
1
f ( x ) g ( x )dx
L-正交多项式为 L0x, L1x, , Lnx, 用(5.83), 有
ck
(L)
( f , Lk ) ( Lk , Lk )
2k 1 2
1
1
L
k
( x ) f ( x )dx ,
k 0,1, 2, ..., n
第3章数值分析---最佳平方逼近
5 3 P ( x ) ( 63 x 70 x 15 x) / 8, 5
6 4 2 P ( x ) ( 231 x 315 x 105 x 5) / 16, 6
6
切比雪夫多项式 P61-64
当权函数 ( x)
1 1 x2
，区间为 [1, 1]时，由序
列 {1, x,, x n ,} 正交化得到的正交多项式就是切比雪夫 (Chebyshev)多项式.
1/ 2 1/ 3 1 /( n 2)
1 /( n 1) 1 /( n 2) （3.6） 1 /( 2n 1)
称为希尔伯特(Hilbert)矩阵.
T T 记 a (a0 , a1 ,, an ) , d (d 0 , d1 ,, d n ) , 则
2 2
min f ( x) P( x)
PH n
2 2
（1.19）
min
PH n
b
a
[ f ( x) P( x)]2 dx,
则称 P* ( x) 是 f ( x)在 [a, b]上的最佳平方逼近多项式.
若 f ( x) 是 [a, b]上的一个列表函数，在
a x0 x1 xm b
det G(0 , 1 ,, n ) 0 ( P56)
* 于是方程组（3.3）有唯一解 ak ak
(k 0,1, , n),
* * S * ( x) a0 0 ( x ) an n ( x).
10
若取 k ( x) x k , ( x) 1, f ( x) C[0, 1], 则要在 H n
0
(1 x 2 )dx 0.426d1 0.934d 0 0.0026.
6 4 2 P ( x ) ( 231 x 315 x 105 x 5) / 16, 6
6
切比雪夫多项式 P61-64
当权函数 ( x)
1 1 x2
，区间为 [1, 1]时，由序
列 {1, x,, x n ,} 正交化得到的正交多项式就是切比雪夫 (Chebyshev)多项式.
1/ 2 1/ 3 1 /( n 2)
1 /( n 1) 1 /( n 2) （3.6） 1 /( 2n 1)
称为希尔伯特(Hilbert)矩阵.
T T 记 a (a0 , a1 ,, an ) , d (d 0 , d1 ,, d n ) , 则
2 2
min f ( x) P( x)
PH n
2 2
（1.19）
min
PH n
b
a
[ f ( x) P( x)]2 dx,
则称 P* ( x) 是 f ( x)在 [a, b]上的最佳平方逼近多项式.
若 f ( x) 是 [a, b]上的一个列表函数，在
a x0 x1 xm b
det G(0 , 1 ,, n ) 0 ( P56)
* 于是方程组（3.3）有唯一解 ak ak
(k 0,1, , n),
* * S * ( x) a0 0 ( x ) an n ( x).
10
若取 k ( x) x k , ( x) 1, f ( x) C[0, 1], 则要在 H n
0
(1 x 2 )dx 0.426d1 0.934d 0 0.0026.
最佳平方逼近
同时，还需要给出连续函数
空间上的一个度量标准，下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间，对于C[a,b]中的任意函数
、 ，定义
实数
可以证明此实数满足性质：
这时，称
为与
的内积。
并称 为函数
（3.1） 的平方范数， 且满足以下性质：
（1）
，当且仅当
xi 1 2 3 4 5 6 7 8 zi 2.72 3.02 3.31 3.60 3.89 4.18 4.48 4.77
对
作线性拟合曲线，取
得正则方程组
解得 于是有 拟合曲线为：
练习 三
3-1 利用Legendre多项式
求函数
在
上的最佳均方逼近，并估计误差。
3-2 求 上权函数为
的正交多项
式前四项 3-3 求 ，使
由 得到法方程组第 j 行的元素为：
于是法方程组的系数矩阵为： 令右端第二个矩阵为：
则系数矩阵可以表示为： 再看法方程组的右端项：
由 得到
最后可以将法方程组表示为： 其中
这样会更快的写出法方程组来。
如果所求得最小二乘拟合函数为n次多项式，则： 这时：
误差：
三、数值例子
例3.3 根据如下离散数据拟合曲线并估计误差 x1 2 3 4 6 7 8
使得对于一切
都有：
不等式
说明，所求的 满足等式：
(3.2)
而
是由系数
唯一确定的，因此，只要我
们求出了满足(3.2)的
，就可以求出
f(x)最佳平方逼近。
令
(3.3)
则
这时等式
函数逼近最佳平方逼近ppt课件
16
切比雪夫多项式的性质:
(1)递推关系
T T n 0 (1x (x )) 1,2xT n 1 T ((x x)) T x n ,1(x).
(2.1
T n (x )的最 x n 的 高 系 2 n 次 1 ,( 数 n 1 幂 )为 .
事实上，只需由Biblioteka co(ns1)2cocsonscons1 (),n1. 代入 xco,s即得递.推关系式
21
3. 埃尔米特多项式
区间 ( , )上带(权 x)ex2的正交多项式
Hn(x)(1)nex2ddxnn(ex2), 称为 埃 尔 米 特.多 项 式
(2.16
22
• 最佳一致逼近多项式
一、基本概念及其理论 本节f(讨 x)C 论 [a,b],求多pn *项 (x)H 式 n,使得误
||f(x)pn *(x)| |mi|n |f(x)pn(x)| | .
p１(x)=4/5x+4/15
3
可见，对同一个被逼近函数，不同距离意 义下的逼近，逼近函数是不同的.
4
定义设 1 集S是 合数P域 上的线性空间 x1, ， ,xn元 S素 ,
如果存在不全1为 ,,零 n的 P,使 数得
1x1nxn0，
（ 1.1）
则称 x1,,xn线性相 . 否关则 ,若(1.1)只对 1n0成
(f,g)=∫ b(x)f(x)g(x)dx=0 a
则f称 (x)与 g(x)在 [a,b]上 带 权 ρ. ( x ) 正 交
设在 [a,b]给定函数 0(x族 ),1(x),,n(x),, 且满足 (i(x),k(x))A0k,,iikk,, (i,k0,1,2,) (2.2
则称函{数 n(族 x)}为[a,b]上带权ρ(x)的数正族.交函
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
就是在区间 [ , ] 上的正交函数族.
5
勒让德多项式 P59-61
P0 (x) 1, P1(x) x, 利用上述递推公式就可推出
P2 (x) (3x2 1) / 2, P3 ( x) (5x3 3x) / 2, P4 (x) (35x4 30x2 3) / 8, P5 ( x) (63x5 70x3 15x) / 8, P6 ( x) (231x6 315x4 105x2 5) /16,
3
定义5 若 f ( x), g ( x) C[a, b], ( x)为 [a, b] 上的权函数且满足
( f (x), g(x)) b (x) f (x)g(x)dx 0. （2.1） a
则称 f ( x)与g ( x)在 [a, b]上带权 ( x)正交.
4
若函数族 0 (x),1(x),,n (x), 满足关系
2 S ( x)
2
（3.1）
通常(x)
1.
min
S ( x)
b
a
( x)[
f
(x)
S
( x)]2
dx.
则称 S *(x)是 f (x)在子集 C[a, b]中的最佳平方逼近
函数.
8
由（3.1）可知该问题等价于求多元函数
I (a0 , a1,, an )
b
( x)[
0 min S ( x)
2
b
(k
( x)[
0,1,, f (x)
Sn)(,x)]2
dx.
a
即
I
ak
2 b (x)[ a
n
a j j (x)
j 0
f (x)]k (x)dx
(k 0,1,, n),
9
于是有
n
(k (x), j (x))a j ( f (x),k (x)) (k 0,1,, n).（3.3）
中求 n次最佳平方逼近多项式
此时
( j ( x),k ( x))
( j ,k )
b a
( x)
j
( x)k
( x)dx
0,
Ak
j 0,
k. j
k.
（2.2）
则称{k (x)}是 [a, b] 上带权 (x)的正交函数族.
若 Ak 1，则称之为标准正交函数族.
三角函数族
1, cos x, sin x, cos 2x, sin 2x,
则称相应的 P*(x)为最佳逼近函数.
通常将范数 取为 或 .
2
1
若取 ，即
f (x) P * (x) min f (x) P(x)
PH n
（1.18）
min max f (x) P(x) , PH n a xb
则称 P*(x) 是 f (x)在 [a, b]上的最优一致逼近多项式.
a
n
a j j (x) f (x)]2 dx
（3.2）
j 0
的最小值.
I (a0 , a1,, an )是关于 a0 , a1,, an 的多元函数，
利用多f (元x)函数S求* (x极) 值2 的m必in要条f 件(x) S (x) 2
（3.1）
I
ak
2 S ( x)
6
切比雪夫多项式 P61-64
当权函数 (x) 1 ，区间为 [1, 1]时，由序
1 x2
列 {1, x,, xn ,} 正交化得到的正交多项式就是切比雪夫
(Chebyshev)多项式. 它可表示为
Tn (x) cos(n arccos x),
x 1.
若令 x cos ， 则Tn (x) cos n , 0 .
j 0
k
0时, (
b
a 0 ( x) 0 ( x)dx)a0
(
b
a
1
(x)
0
( x)dx)a1
...
b
b
( a n (x) 0 (x)dx)an a f (x) 0 (x)dx
(3.3)式是关于 a0 , a1,, an 的线性方程组,称为法方程.
（2.10）
7
3.3.1 最佳平方逼近及其计算
对 f (x) C[a, b] 及 C[a, b] 中的一个子集
span{0 (x),1(x),,n (x)}
若存在 S*(x) a00 (x) ... ann (x) ，使
f (x) S * (x) 2 min f (x) S (x) 2
由于 0 (x),1(x),,n (x) 线性无关，故 det G(0 ,1,,n ) 0 (P56)
于是方程组（3.3）有唯一解 ak ak* (k 0,1,, n),
S * (x) a0*0 (x) an*n (x).
10
若取 k (x) xk , (x) 1, f (x) C[0, 1], 则要在 H n
求
P*
(
x)就是求
[a,
b]上使最大误差
max
a xb
f (x) P(x)
最小的多项式.
2
若取 ，即 2
f (x) P * (x) 2 min f (x) P(x) 2
2
PH n
2
（1.19）
min
b
[
f
(x)
P( x)]2
dx,
PH n a
则称 P*(x) 是 f (x)在 [a, b]上的最佳平方逼近多项式.
若 f (x)是 [a, b]上的一个列表函数， f (xi )(i 0,1,, m) ，要求 P* 使
m
f P * min
2
P
f
P
2
min P
[ f (xi ) P(xi )]2
i0
（1.20）
则称 P*(x) 为 f (x)的最小二乘拟合.
3.1.0 最佳逼近
函数逼近主要讨论给定 f C[a, b]，求它的最佳逼近 多项式的问题.
若
P*
(
x)
H
(次数不超过n次多项式),使误差
n
f (x) P*(x) min f (x) P(x) PH n
则称 P*(x) 是 f (x)在 [a, b]上的最佳逼近多项式.
若 P(x) span{0 ,1,,n}(由0 ,1,,n生成的函数空间
5
勒让德多项式 P59-61
P0 (x) 1, P1(x) x, 利用上述递推公式就可推出
P2 (x) (3x2 1) / 2, P3 ( x) (5x3 3x) / 2, P4 (x) (35x4 30x2 3) / 8, P5 ( x) (63x5 70x3 15x) / 8, P6 ( x) (231x6 315x4 105x2 5) /16,
3
定义5 若 f ( x), g ( x) C[a, b], ( x)为 [a, b] 上的权函数且满足
( f (x), g(x)) b (x) f (x)g(x)dx 0. （2.1） a
则称 f ( x)与g ( x)在 [a, b]上带权 ( x)正交.
4
若函数族 0 (x),1(x),,n (x), 满足关系
2 S ( x)
2
（3.1）
通常(x)
1.
min
S ( x)
b
a
( x)[
f
(x)
S
( x)]2
dx.
则称 S *(x)是 f (x)在子集 C[a, b]中的最佳平方逼近
函数.
8
由（3.1）可知该问题等价于求多元函数
I (a0 , a1,, an )
b
( x)[
0 min S ( x)
2
b
(k
( x)[
0,1,, f (x)
Sn)(,x)]2
dx.
a
即
I
ak
2 b (x)[ a
n
a j j (x)
j 0
f (x)]k (x)dx
(k 0,1,, n),
9
于是有
n
(k (x), j (x))a j ( f (x),k (x)) (k 0,1,, n).（3.3）
中求 n次最佳平方逼近多项式
此时
( j ( x),k ( x))
( j ,k )
b a
( x)
j
( x)k
( x)dx
0,
Ak
j 0,
k. j
k.
（2.2）
则称{k (x)}是 [a, b] 上带权 (x)的正交函数族.
若 Ak 1，则称之为标准正交函数族.
三角函数族
1, cos x, sin x, cos 2x, sin 2x,
则称相应的 P*(x)为最佳逼近函数.
通常将范数 取为 或 .
2
1
若取 ，即
f (x) P * (x) min f (x) P(x)
PH n
（1.18）
min max f (x) P(x) , PH n a xb
则称 P*(x) 是 f (x)在 [a, b]上的最优一致逼近多项式.
a
n
a j j (x) f (x)]2 dx
（3.2）
j 0
的最小值.
I (a0 , a1,, an )是关于 a0 , a1,, an 的多元函数，
利用多f (元x)函数S求* (x极) 值2 的m必in要条f 件(x) S (x) 2
（3.1）
I
ak
2 S ( x)
6
切比雪夫多项式 P61-64
当权函数 (x) 1 ，区间为 [1, 1]时，由序
1 x2
列 {1, x,, xn ,} 正交化得到的正交多项式就是切比雪夫
(Chebyshev)多项式. 它可表示为
Tn (x) cos(n arccos x),
x 1.
若令 x cos ， 则Tn (x) cos n , 0 .
j 0
k
0时, (
b
a 0 ( x) 0 ( x)dx)a0
(
b
a
1
(x)
0
( x)dx)a1
...
b
b
( a n (x) 0 (x)dx)an a f (x) 0 (x)dx
(3.3)式是关于 a0 , a1,, an 的线性方程组,称为法方程.
（2.10）
7
3.3.1 最佳平方逼近及其计算
对 f (x) C[a, b] 及 C[a, b] 中的一个子集
span{0 (x),1(x),,n (x)}
若存在 S*(x) a00 (x) ... ann (x) ，使
f (x) S * (x) 2 min f (x) S (x) 2
由于 0 (x),1(x),,n (x) 线性无关，故 det G(0 ,1,,n ) 0 (P56)
于是方程组（3.3）有唯一解 ak ak* (k 0,1,, n),
S * (x) a0*0 (x) an*n (x).
10
若取 k (x) xk , (x) 1, f (x) C[0, 1], 则要在 H n
求
P*
(
x)就是求
[a,
b]上使最大误差
max
a xb
f (x) P(x)
最小的多项式.
2
若取 ，即 2
f (x) P * (x) 2 min f (x) P(x) 2
2
PH n
2
（1.19）
min
b
[
f
(x)
P( x)]2
dx,
PH n a
则称 P*(x) 是 f (x)在 [a, b]上的最佳平方逼近多项式.
若 f (x)是 [a, b]上的一个列表函数， f (xi )(i 0,1,, m) ，要求 P* 使
m
f P * min
2
P
f
P
2
min P
[ f (xi ) P(xi )]2
i0
（1.20）
则称 P*(x) 为 f (x)的最小二乘拟合.
3.1.0 最佳逼近
函数逼近主要讨论给定 f C[a, b]，求它的最佳逼近 多项式的问题.
若
P*
(
x)
H
(次数不超过n次多项式),使误差
n
f (x) P*(x) min f (x) P(x) PH n
则称 P*(x) 是 f (x)在 [a, b]上的最佳逼近多项式.
若 P(x) span{0 ,1,,n}(由0 ,1,,n生成的函数空间