最佳平方逼近
3_最佳平方逼近问题
( 0 , * f ) 0 * ( 1 , f ) 0 ( , * f ) 0 n
yfnie@
5
几何意义
平方逼近误差
f
*
* *
2 2
( f , f )
* *
*
( , ) 2 ( , f ) ( f , f )
yfnie@
8
基于正交基的最佳平方逼近（续）
( 0 , f ) ( 1 , f ) ( n , f ) * C , , , ( , ) ( , ) ( n , n ) 0 0 1 1
*
T
( 0 , f ) ( 0 , 0 )
)
3
0
平方误差计算
直接计算：
b a
* 2x a b sin x 2 ( ) dx ba
2 1
2
间接计算：
ab ba ba * 1 sin( 2 t 2 ) 2 ( t ) dt 2
yfnie@ 16
求 (x ) c 0 0 c 1 1 c n n , 使 得
* * * *
n n n n * * f c i i , f c i i min f c i i , f c i i . i0 i0 ci R i0 i0
c0 ( f , 0 ) c1 ( f ,1 ) cn ( f , n )
即 { i } i 0 是线性空间
的一组正交基。
T
最佳平方逼近的误差
最佳平方逼近的误差
最佳平方逼近是一种数学方法，用于逼近一个函数或数据集。
这种方法通过选择一个简单的函数（如多项式）来逼近目标函数或数据集，使得逼近误差的平方和最小。
最佳平方逼近的误差是指逼近函数与目标函数之间的误差。
这个误差可以通过最小化逼近误差的平方和来获得。
具体来说，对于一个给定的数据集，我们可以选择一个多项式函数来逼近它。
然后，我们可以通过最小化逼近函数与数据集之间的平方误差来找到最佳的逼近多项式。
最佳平方逼近的误差可以通过以下步骤计算：
确定逼近函数的形式，例如多项式函数。
确定逼近函数的系数，使得逼近函数能够最佳地逼近目标函数或数据集。
计算逼近函数与目标函数或数据集之间的平方误差。
最小化平方误差，以获得最佳的逼近效果。
最佳平方逼近的误差通常是一个衡量逼近效果好坏的指标。
如果误差较小，则说明逼近效果较好；如果误差较大，则说明逼近效果较差。
在实际应用中，我们通常会选择一个合适的逼近函数和系数，以使得逼近误差最小化。
最佳平方逼近
n
因为 f p*, p * p cj c j f p*, j 0 及
j0
( p * p, p * p) 0, 故 ( f p, f p) ( f p*, f p*).
2 则 f (x) 1 1 t g(t), 1 x 1
2 先求g(t)在区间 [-1,1] 旳一次最佳平方逼近多项式.
由
c0 *
1 2
(g,
L0 )
1 2
1 1
1 2
1 tdt 2 , 3
c1
3 2
(g,
L1 )
3 2
1 1
t 2
1 tdt 2 . 5
可知
2
2
22
q1(t) 3 L0 (x) 5 L1(x) 3 5 t,
例6 定义内积 ( f , g)
1
f (x)g(x)dx
0
试在H1=Span{1,x}中谋求对于f(x)= x 旳最佳平方逼近
元素p(x).
解 法方程为
1 12
1 2
13
c0
c1
2 2
3 5
解得
c0
4, 15
c1
4 5
所求的最佳平方逼近元素为 p(x) 4 4 x. 0 x 1 15 5
(n
,n
)
cn*
( f ,n )
因为 0x,1x, , nx 线性无关, 能够推得上系数阵是
非奇异旳. 故 (5. 82) 有唯一解 { c*j }.
四、最佳平方逼近旳误差
记 ( f p*, f p*), 称其为最佳平方逼近误差, 利用
第二章最佳平方逼近
第二章 最佳平方逼近为了便于计算和分析，常常需要用一个简单的函数()x ϕ来近似代替给定的函数()f x ，这类问题称为函数逼近问题。
插值问题以及Taylor 展开问题都属于这类问题。
本章介绍另一种函数逼近问题，即最佳平方逼近。
最佳平方逼近问题的提法是：设()f x 是[],a b 上的连续函数，n H 是所有次数不超过n 的多项式的集合，在n H 中求()n P x *逼近()f x ，使()()()()()1/2222infnb n naP x H f Px f x P x dx f Pρ**∈⎡⎤-=-=-⎣⎦⎰此时称()n P x *为()f x 在[],a b 上的最佳平方逼近多项式。
我们将要研究()n P x *是否存在？是否唯一？如何求得()n P x *？首先介绍正交多项式及其性质。
§1、正交多项式正交多项式是函数逼近的重要工具，在数值积分中也有广泛的应用。
1.1正交函数系的概念定义1 设()x ρ定义在[],a b 上（有限或无限），如果满足条件：（1）()[]0,,x x a b ρ≥∈； （2）()()0,1,bnax x dx n ρ=⎰存在；（3）对非负连续函数()f x ，若()()0ba f x x dx ρ=⎰，则在[],a b 上一定有()0f x ≡那么称()x ρ是区间[],a b 上的权函数。
简称为权函数。
权函数()x ρ的一种解释是物理上的密度函数，相应的()bax dx ρ⎰表示总质量。
当()x ρ=常数时，表示质量分布是均匀的。
下面引进内积定义。
定义2 给定()[]()(),,,,f x g x C a b x ρ∈是[],a b 上的权函数，称 ()()(),()ba f g x f x g x dx ρ=⎰ ()1.1为函数()f x 与()g x 在[],a b 上的内积。
内积具有下列简单性质： ()f g g f （1）、（，）=，；()()()1212,)(,00.f g f g R f f g f g f g f f f ααα∈++≠>（2）、（，）=，；（3）、 （，）=（4）、 当时，， 此外，还有如下Cauchy-Schwarz 不等式()()()2,,,.f g f f g g ≤⋅ ()1.2我们知道，一个向量的长度的几何概念，对于函数空间及逼近有许多自然的应用。
最佳平方逼近原理
最佳平方逼近原理
最佳平方逼近原理（Least Squares Principle）是一种常用的数学方法，用于从一组数据中找到最佳的拟合曲线或函数。
该方法的基本思想是，通过最小化数据点到拟合曲线的垂直距离平方和来确定最佳的拟合曲线。
这种距离的平方和被称为残差平方和（residual sum of squares）。
在统计学和数学建模中，最佳平方逼近原理被广泛应用。
它可以用于拟合线性回归模型、多项式拟合、曲线拟合等问题。
通过使用最小二乘法（least squares method），可以计算出最佳拟合曲线或函数的参数，并对其进行优化。
最佳平方逼近原理的优点在于它能够提供一个简单而有效的方法来处理数据拟合问题。
它能够使我们得到一个与数据拟合最好的函数或曲线，并且具有较高的精度和可靠性。
然而，它也有一些限制，例如对于非线性问题，它可能无法提供最优解，需要使用其他方法来解决。
第三章-2-最佳平方逼近
性质 5 设 k k 0是 [a, b] 上带权 (x) 的正交多项式
族，则n(x) (n>0) 有n个单重实根，且都位于 区间[a, b] 内。
几类重要的正交多项式 Legendre 多项式 Chebyshev 多项式
第二类 Chebyshev 多项式
Laguerre 多项式 Hermite 多项式
Chebyshev 多项式
切比雪夫多项式的性质：
(1) 递推公式： Tn1 ( x ) 2 xTn ( x ) Tn1 ( x )
cos(n+1) + cos(n-1) = 2cos cosn x = cos
mn 0, 1 T ( x )T ( x ) n m (Tn , Tm ) dx π / 2, m n 0 (2) 正交性： 2 1 1 x π, mn0 n T ( x ) ( 1) Tn ( x) (3) 奇偶性： n
性质1 性质2
n ( x)
为首一 n 次多项式。 [a, b] 上带权 (x) 的正交多
是 k k 0
项式族，且
H n span 0 ,1,...,n
性质 3 正交。
n ( x) 与所有次数不高于n-1次的多项式
正交多项式性质
性质 4
此 k k 0 满足如下三项递推公式：
数值分析及计算软件
第三章
函数逼近与计算
3.3 最 佳 平 方 逼 近 及正交多项式
最佳平方逼近问题：
若存在 Pn* ( x )H n , 使得
|| f ( x) Pn ( x) ||2 inf || f ( x) Pn ( x) ||2 ,
3.3 最佳平方逼近
Байду номын сангаас
b
a
g ( x) ( x)dx 0
称满足上述条件的 (x)为[a, b]上的权函数。
5、Euclid范数及其性质
定义
设
f x C a, b ,
则称量
f
2
f x
b a
x f
2
x dx
f, f
称为
的Euclid范数。
性质
对于任何 下列结论成立： f, g C a, b ,
§3.3 最佳平方逼近
一、内积空间
1、定义
X对
（1） （2） （3） （4）
X设
为(实)线性空间,
在 X
上定义了内积是指
中每一对元素 ,
x, y
都有一实数，记为x, 与之对应， y
且这个对应满足:
x, x 0, x 0 x, x 0; x, y y, x , x, y X ; x, y x, y , x, y X ; R; x y, z x, z y, z , x, y, z X ;
a
b
f ( x), g ( x) C[a, b]
4、权函数的定义
设 (x)定义在有限或无限区间[a, b]上，如果具有下列性质：
(1) 对任意x [a, b]， (x) ≥0；
(2) 积分
b
a
x (存在， x)dx (n = 0, 1, 2, …)；
n
(3) 对非负的连续函数g (x) 若 则在(a, b)上g (x) 0。
x, y x
最佳平方逼近
(1,1) (2,1) L
A
(1,2
)
(2,2 )
L
L
LL
(1,m ) (2,m ) L
(m,1)
(m
,2
)
L
(m
,
m
)
称为函数1(x)，.....，m (x)的Gram矩阵，
A显然是对称矩阵。
若1(x)，.....，m (x)线性无关，则它们
0
3
(ex ,1) 2 ex 1dx e2 1 0
(ex , x) 2 ex xdx e2 1 0
法方程组为
2a0
2a0
2a1 8 3 a1
e2 1 e2 1
a0=0.1945 , a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
b w(x) f (x) g(x)2 dx a
函数f (x)和g(x)正交
b
( f , g) a w(x) f (x)g(x)dx 0
设次数不超过n的多项式空间为n ,显然 是C[a, b]的一个子空间，
n的基为1, x,..., xn ,则，p(x) a0 a1x ... anxn n 是f (x)在n的最佳逼近元的充分必要条件为
a0 (1,1) a1(x,1) ... an (xn ,1) ( f ,1)
a0 (1, x) a1(x, x) ... an (xn , x) ( f , x)
a0 (1, xn ) a1(x, xn ) ... an (xn , xn ) ( f , xn )
求解法方程组，得到a0，a1，...，an
第四章 3最佳平方逼近(1)
§3 最佳平方逼近摘要：介绍内积赋范线性空间中的最佳平方逼近的特征，最佳逼近元存在唯一性及求解；2,L a b ρ⎡⎤⎣⎦中的最佳平方逼近问题的讨论。
一、赋范线性空间定义1 线性空间X 称为赋范线性空间，如果其上赋予一个满足如下3条性质的函数：（1）0,00,;x x x x X ≥=⇔=∈ （2）,,;α=∈∈ax a x x X（3）,,.x y x y x y X +≤+∈ 则称是线性空间X 的范数。
例1 欧氏空间(欧几里德空间（Euclid ）)n:12221,,=⎛⎫=∈⎪⎝⎭∑nnk k x x x范数称为欧氏范数或2-范数。
例2 1-范数赋范线性空间n：11,,==∈∑nnk k x x x称为1-范数。
定义2 赋范线性空间中的最佳逼近：若Y 是赋范线性空间X 的一个线性子空间，x X ∈，则称量(),inf y Yx Y x y∈∆=-为子空间Y 对元素x 的最佳逼近，而使上式成立的元素*y 称为最佳逼近元，且Y 称为逼近子空间。
二、内积空间定义3 假设X 是一线性空间，如果其上赋予一个满足如下4条性质的二元函数(),：()()(1)(,)(,),,;(2)(,)(,),,,;(3)(,)(,)(,),,,;(4),0,;,00,ααα=∀∈=∀∈∈+=+∀∈≥∀∈=⇔=x y y x x y X x y x y x y X x y z x z y z x y z X x x x X x x x则称X 为内积空间。
例3 欧几里得空间n： (),,,=∈Tnx y x y x y内积→范数：2x ，2x 满足范数的3条性质。
内积空间→赋范线性空间定义4 内积空间中的最佳逼近：假设(1,2,,)ϕ=i i n 是内积空间X 中的n 个线性无关的元素，f X ∈，则子集{}12,,,ϕϕϕΦ=n n span对f 的最佳平方逼近定义为()2,min ϕϕ∈Φ∆Φ=-nn f f . （1） 使（1）成立的那个元素称为最佳逼近元素。
最佳平方逼近
所求的
应该使下式达极小：
由
整理得到
计算积分后，得法方程组
解之得 从而得到最佳平方逼近一次多项式
三、正交基函数的选择 如果我们选择子空间
正交，即 则法方程
简化为
即 容易求得 并得到最佳平方逼近
例3.2. 已知
在区间 [-1，1]上两两正交，试求
在这个
区间上的最佳平方逼近二次多项式，并给出误差估计。
应该使
整体达最小。 通过这种度量标准求得拟合曲线y=f(x)的方法，
就称作曲线拟合的最小二乘法。 按照以上思想来求出f(x)的拟合曲线，首先需
要确定出f(x)所属的函数类，然后进一步求出具体 函数，具体按照以下步骤进行。
二、最小二乘法拟合曲线的步骤
第一步：根据如下已知点的坐标，在坐标系里描点
第二步：根据图示，确定曲线所属的函数类型，例 如多项式函数类、三角函数类、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为
而n+1元函数
在区间
上具有一阶连续导函数，因此根据
极值原理，在最小值点
处：
而 于是 即
利用内积 可以得到 这是一个含有n+1个变量的方程组，具体形式为：
再写成 矩阵形式为
这是关于n+1个变量
的线性方程组，并称
其为法方程组，或者正规方程组。
解此方程组，就可以得到 了f(x) 的最佳平方逼近：
，也就得到
同时，还需要给出连续函数
空间上的一个度量标准，下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间，对于C[a,b]中的任意函数
、 ，定义
实数
计算方法 第五章第二节最佳平方逼近
n
2
i 0
a
i 0
上述方程组称为正规方程组。也可以写为
( p, j ) ( f , j )，j 0,1,..., n.
由于0 ( x), 1 ( x),..., n ( x) 线性无关，由性质5.2.3，该方程组 的系数矩阵非奇异，因而方程组存在惟一解。
可以证明，最佳平方问题的解存在惟一且就是正规方程组的解。
b
j i,
j i,
则称多项式族 {g n ( x)} 在[a, b] 上带权 ( x) 正交，并称 g n ( x)是[a, b] 上带权 ( x)的 n 次正交多项式。
一般情况下，当权函数 ( x)及区间[a, b] 给定后，人们 可通过Gram－Schmidt正交化过程，由{1, x,..., x n }构造 出相应的正交多项式。
2
的最小值。
由多元函数取极值的必要条件 S 0,
a j
j 0,1,..., n,
得
n aii ( x) f ( x) j ( x)dx 0， j 0,1,..., n. a ( x) i 0
b
于是有
)，j 0,1,..., n. ( , ) a ( f , S (a0 , ai1 ,...,jan ) :i ( x) j aii ( x) f ( x) dx
2
2
2
2
f g f g 2 f g
2
2
2
2
,
f , g Y.
二、 函数的最佳平方逼近
已知函数 f ( x) C[a,b] 及C[a,b]中的一个子集 span{0 , 1 ,..., n }，如果 p( x) span{0 , 1,..., n}，使得
最佳平方逼近与最小二乘拟合
最佳平方逼近与最小二乘拟合——两者的区别与联系 函数逼近是用一个多项式无限接近原函数，而拟合是将函数中的元素联系起来。
也就是说，最佳平方逼近是针对函数，最小二乘法是针对离散的点，二者在形式上基本一致。
另外，最小二乘拟合也称为离散型最佳平方逼近，两者的解法有很多相似之处。
一、 函数的最佳平方逼近 （一）最佳平方逼近函数的概念对[]b a C x f ,)(∈及[]b a C ,中的一个子集{}n span ϕϕϕφ,,,10⋯=，若存在φ∈)(*x S，使[]dx x S x f x S f Sf baS S ⎰-=-=-∈∈22222*)()()(infinf ρϕϕ，则称)(*x S 是)(x f 在子集[]b a C ,⊆φ中的最佳平方逼近函数。
（二）最佳平方逼近函数的解法为了求)(*x S ，由[]dxx S x f x S f Sf baS S ⎰-=-=-∈∈22222*)()()(infinf ρϕϕ可知，一般的最佳平方逼近问题等价于求多元函数dxx f x a x a a a I banj j j n 2010)()()(),,,(⎰∑⎥⎦⎤⎢⎣⎡-=⋯=ϕρ的最小值问题。
由于),,,(10n a a a I ⋯是关于n a a a ,,,10⋯的二次函数，利用多元函数极值的必要条件),,1,0(0n k a Ik⋯==∂∂，即),,,,1(2nn x x x G G =n),,1,0(0)()()()(20⋯==⎥⎦⎤⎢⎣⎡-=∂∂⎰∑=k dx x x f x a x a Ik b a n j j j kϕϕρ，于是有()()),,1,0(,,0n k f a k j nj j k ⋯==∑=ϕϕϕ。
()()),,1,0(,,0n k f a k j nj j k⋯==∑=ϕϕϕ是关于n 10,,,a a a ⋯的线性方程组，称其为法方程。
由于n ϕϕϕ,,,10⋯线性无关，故系数行列式()0,,,10≠⋯n G ϕϕϕ，于是方程组()()),,1,0(,,0n k f a k j nj j k⋯==∑=ϕϕϕ有唯一解),,1,0(*n k a a k k ⋯==，从而得到)()()(*0*0*x a x a x S n n ϕϕ+⋯+=。
4章§3 最佳平方逼近
( f , g) = ∫ ρ(x) f (x)g( x)dx
a
b
称为函数f(x)与g(x)在[a，b]上的内积.
容易验证这样定义的内积满足下列四条公理； 1) ( f , g)=(g, f ) ； 2) (cf , g)=c(f , g) ，c为常数； 3)
( f1 + f2 , g)=(f1, g) + ( f2 , g)； 4) ( f , f ) ≥ 0 ,当且仅当时 ( f , f )=0
f −S
* 2 2
= inf f − S 2 = inf
2 s∈ ϕ s∈
ϕ ∫
b
a
ρ (x)[ f (x) − S(x)]2 dx
(3.11)
则称 S*(x) 是 f (x) 在子集 ϕ ⊂ C[a, b]中的最佳平方逼近函数.为 了求 S*(x) ，由 3.11)可知该问题等价于求多元函数
I (a0 , a1,Lan ) = ∫ ρ(x)[∑a jϕ j (x) − f (x)]2 dx
用{1，x，…，xn)做基，求最佳平方逼近多项式，当n较大时，系数 矩阵(3.16)式是高度病态的(病态矩阵概念见第七章)，求法方程 (3.13)的解，舍人误差很大，这时要用正交多项式做基，才能求得 最小平方逼近多项式(见§5).
P* (x) ∈ Hn ，使 n
f − P* = k
2
∫ [ f (x) − P (x)] dx = inf
b a * n 2
P∈H
f −P 2
Pn* (x) 就是f(x)在[a，b]上的最佳平方逼近多项式.
我们要研究 P* ( x) 是否存在?
n
如何计算 P* (x) ?为此先介绍一些有关内积空间的预备知识. n
最佳平方逼近
4 15 4 5 x. 0 x 1
所求的最佳平方逼近元
素为 p ( x )
5.6.2 正交系在最佳平方逼近中的应用
当 0x,1x, , nx, 是正交系时,求解最佳平方逼 近式(5.82)中的系数非常容易. 目标: 求下面的最佳平方逼近式中的系数
（ 5.84）
函数 f 的 L-最佳平方逼近函数为
pL ( x )
n k 0
c k L k ( x ),
(L)
1 x 1
（5.85）
遇到区间[a,b], 通过下面的变换把问题转化到[-1,1]上处理.
x a b 2 b a 2 t.
函数 f (x) 的 Legendre 无穷级数
三、最佳平方逼近函数的求解
利用 ( f p*, j )=0, 可求出最佳平方逼近函数 p*. 设
p * (x)
n
故
0
ck k ( x)
*
n * k
k 0
f
p *,
j
f , c
j k 0 j
k
,
j
(5.82)
n
ck k ,
1
( f , g)
1
f ( x ) g ( x )dx
L-正交多项式为 L0x, L1x, , Lnx, 用(5.83), 有
ck
(L)
( f , Lk ) ( Lk , Lk )
2k 1 2
1
1
L
k
( x ) f ( x )dx ,
k 0,1, 2, ..., n
第3章数值分析---最佳平方逼近
6 4 2 P ( x ) ( 231 x 315 x 105 x 5) / 16, 6
6
切比雪夫多项式 P61-64
当权函数 ( x)
1 1 x2
，区间为 [1, 1]时，由序
列 {1, x,, x n ,} 正交化得到的正交多项式就是切比雪夫 (Chebyshev)多项式.
1/ 2 1/ 3 1 /( n 2)
1 /( n 1) 1 /( n 2) （3.6） 1 /( 2n 1)
称为希尔伯特(Hilbert)矩阵.
T T 记 a (a0 , a1 ,, an ) , d (d 0 , d1 ,, d n ) , 则
2 2
min f ( x) P( x)
PH n
2 2
（1.19）
min
PH n
b
a
[ f ( x) P( x)]2 dx,
则称 P* ( x) 是 f ( x)在 [a, b]上的最佳平方逼近多项式.
若 f ( x) 是 [a, b]上的一个列表函数，在
a x0 x1 xm b
det G(0 , 1 ,, n ) 0 ( P56)
* 于是方程组（3.3）有唯一解 ak ak
(k 0,1, , n),
* * S * ( x) a0 0 ( x ) an n ( x).
10
若取 k ( x) x k , ( x) 1, f ( x) C[0, 1], 则要在 H n
0
(1 x 2 )dx 0.426d1 0.934d 0 0.0026.
最佳平方逼近
同时，还需要给出连续函数
空间上的一个度量标准，下面通过内积给出平方范数。
二、连续函数的平方范数
已知所有连续函数构成的集合C[a,b]是一个线性
空间，对于C[a,b]中的任意函数
、 ，定义
实数
可以证明此实数满足性质：
这时，称
为与
的内积。
并称 为函数
（3.1） 的平方范数， 且满足以下性质：
（1）
，当且仅当
xi 1 2 3 4 5 6 7 8 zi 2.72 3.02 3.31 3.60 3.89 4.18 4.48 4.77
对
作线性拟合曲线，取
得正则方程组
解得 于是有 拟合曲线为：
练习 三
3-1 利用Legendre多项式
求函数
在
上的最佳均方逼近，并估计误差。
3-2 求 上权函数为
的正交多项
式前四项 3-3 求 ，使
由 得到法方程组第 j 行的元素为：
于是法方程组的系数矩阵为： 令右端第二个矩阵为：
则系数矩阵可以表示为： 再看法方程组的右端项：
由 得到
最后可以将法方程组表示为： 其中
这样会更快的写出法方程组来。
如果所求得最小二乘拟合函数为n次多项式，则： 这时：
误差：
三、数值例子
例3.3 根据如下离散数据拟合曲线并估计误差 x1 2 3 4 6 7 8
使得对于一切
都有：
不等式
说明，所求的 满足等式：
(3.2)
而
是由系数
唯一确定的，因此，只要我
们求出了满足(3.2)的
，就可以求出
f(x)最佳平方逼近。
令
(3.3)
则
这时等式
研究生数值分析(20)函数的最佳平方逼近
中寻求对f(x)的最佳平方逼近元素 pn (x)
现对该 Hn另取一组基底，即
H n Span L0 , L1 , L2 , , Ln } {
其中 Lj (x) 是 j 次Legendre多项式。此时，
法方程的解可直接得到，就是
( f , Lk ) 2k 1 1 c 1 Lk ( x) f ( x)dx ( Lk , Lk ) 2
以此为基底，生成空间 C[a，b] 的一个子空间
H n Span 0 , 1 ,, n } {
则 Hn中的任一个元素为
p ( x ) c j j ( x )
j 0 n
对空间C[a , b] 中的任意两个函数 f 和 g， 定义内积
( f , g ) ( x) f ( x) g ( x)dx
0
1 2 1 t dt , 3 2 t 6 1 t dt 15 2
可知
2 6 2 6 q1 (t ) L0 ( x) L1 ( x) t , 3 15 3 15 1 t 1
把 t =2x-1代人 q1 (t )
得
x
在区间[0，1]上的一次最佳平方
逼近多项式
n
这是一个以 c , c , , c 为未知数的 n+1 元线性方程组，称该式为法方程组和正规方程。 它的系数矩阵为
(0 , 0 ) (1 , 0 ) ( n , 0 ) ( , ) ( , ) ( , ) 1 1 n 1 0 1 G (0 , n ) (1 , n ) ( n , n )
( x) 的形式；
* ( x) （2）求最小二乘解，即求满足条件的近似解
[ ( xi ) yi ] min
最佳平方逼近
n
j =0
所以
= ( f − P , f − P* ) + ( P* − P, P* − P) + 2( f − P* , P* − P) f −P 2
2
*
j =0
= f −P
*
2 2
+ P −P ≥ f −P
* 2
2
*
2 2
, ∀P ( x ) ∈ S
是最优的。 即 P * ( x ) 是最优的。 (3) 均方误差
令
⋯ ∈ P( x) = ∑a j ϕ j ( x) ↔ a 0， a1， a n） R n + 1 （
b
2 f − P 2 = ∫a ω ( x )( f ( x ) − ∑ a jϕ j ( x )) dx ≡ I (a0 , a1 ,⋯ , a n )
2
j =0
n
f − P*
2 2
数分知识, 数分知识, * * = ∫ ω ( x )( f ( x ) − ∑ a *j ϕ j ( x ))2 dx ≡ I（a0，a1， a n） 它有稳定解 ⋯ * a
1 （）若 f ( x ) ∈ C [a , b]； (2) 函数类 S = Span{ϕ 0 ( x ), ϕ 1 ( x ),⋯ , ϕ n ( x )}， i ( x) ∈ C[a, b]， ϕ 线性无关， 且 ϕ 0 ( x ), ϕ 1 ( x ), ⋯ , ϕ n ( x )线性无关，则
f −P
2 2 *
2 2
= ( f − P, f − P)
j =0
≥ f −P
*
2 2
= ( f − P + P* − P, f − P* + P* − P)
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
正规方程组一般为病态方程组，当维数 较高时，病态严重，求解困难。 可以采取选择不同的基的方式，来改变 正规方程组的性态。 我们考虑最佳平方逼近多项式，采用正 交多项式做基函数。
2
b
a
函数f ( x)和g ( x)正交 ( f , g ) w( x) f ( x) g ( x)dx 0
a b
设次数不超过n的多项式空间为 n , 显然 是C[a, b]的一个子空间，
n的基为1, x,..., x n , 则，p( x) a0 a1 x ... an x n n 是f ( x)在 n的最佳逼近元的充分必要条件为
否则，就线性无关。 区间[a,b]上c11 ( x) .... cm m ( x) 0成立 就一定有c1 ... cm 0
假定1 ( x),....m ( x)是子空间S的基， 若函数g是最佳逼近元，则
( f g , 1 ( x)) 0,( f g , 2 ( x)) 0 ...., f g , m ( x)) 0 (
w( x) C[a, b]，w( x) 0，x [a, b] 称w( x)为权函数。
连续函数空间C[a, b]，给定权函数w( x) 对于f , g C[a, b]
最佳平方逼近多项式
给定函数f ( x) C[a, b], 求次数不超过n的 多项式p( x)，使得
b
a
w( x)( f ( x) p( x)) dx min
简记为Ax=b
求解这个方程，就能得到a， ，am， .....
从而得到f ( x)在子空间S中的最佳平方 逼近元g ( x) a11 ( x) ..... amm ( x)
(1 , 1 ) ( 2 , 1 ) ( , ) ( , ) 2 2 A 1 2 (1 , m ) ( 2 , m )
2
0
( x,sin x) x sin xdx 1,
2
0
2 a 8 b 1 法方程组为 2 3 8 a 24 b 1
2
a= 0.1148,b=0.6644, 这时，所求积分取最小值。
1.4
1.2
1
0.8
0.6
0.4
0.2
0
0
0.5
1
b a
..................... ( f p, x ) w( x) f ( x) (a0 a1 x ... an x n ) x n dx 0
n b a
这些方程称为法方程
a0 w( x)11dx a1 w( x) x 1dx ... an w( x) x n 1dx
这些方程称为法方程
(1 , 1 ) ( 2 , 1 ) ( , ) ( , ) 2 2 1 2 (1 , m ) ( 2 , m )
( m , 1 ) a1 ( f , 1 ) a ( f , ) ( m , 2 ) 2 2 ( m , m ) am ( f , m )
a0=1.8846 , a1=7.4880x, a2=7.4880
所以，最佳平方逼近二次多项式为 p(x)=1.8846 -7.4880x+7.4880x2
2 1.8 1.6 1.4 1.2 1 0.8 0.6 0.4 0.2 0
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
例题：求a, b, 使得 (a+bx-sinx)2dx达到最小。
n n n n n
求解法方程组，得到a0，a1，，an ...
从而，f ( x)的最佳平方逼近n次多项式为 p( x) a0 a1 x ... 0,2]的最佳
x
平方逼近一次多项式。
解：取一次多项式空间的基为 x, 权函数w( x) 1 1,
( f p,1) 0,( f p, x) 0,...,( f p, x ) 0
n
( f p,1) w( x) f ( x) (a0 a1 x ... an x n ) 1dx 0
b a
( f p, x) w( x) f ( x) (a0 a1x ... an x n ) xdx 0
1 (1,1) 11dx 1, (1, x) 1 xdx 0 0 2
1 1
1 1 1 (1, x ) 1 x dx , ( x, x) x xdx 0 0 3 3 1 1 1 2 2 1 2 2 2 2 ( x, x ) x x dx , ( x , x ) x x dx 0 0 4 5 1 2 (1,sin( x)) 1 sin( x)dx 0 1 1 ( x,sin( x)) x sin( x) dx , 0 2 1 2
(1,1) 11dx 2,
0
2
(1, x) 1 xdx 2,
0
2
2
( x, x )
x
0
8 x xdx , 3
x 2
(e ,1) e 1dx e 1
0
2
(e , x) e xdx e 1
x x 2 0
2
2a0 2a1 e 1 法方程组为 8 2 2a0 a1 e 1 3
2
p(x)称为函数f(x)的最佳平方逼近 n次多项式
其中w(x)为权函数，默认值为 w(x)=1 考虑空间C[a,b], 是一个线性空间， 其维数是无限维的。 次数不超过n 的多项式构成 C[a,b] 的n+1维子空间。 可以利用有限维子空间上的逼近定 理来研究最佳平方逼近问题。
连续函数的内积
定义内积： ( f , g ) w( x) f ( x) g ( x)dx
2 2 ( x 2 ,sin( x)) x 2 sin( x)dx , 3 0
1
a0 1 a1 1 a2 2 2 3 1 1 法方程组为 2 a0 1 a1 1 a2 3 4 1 2 2 1 1 3 a0 4 a1 5 a2 3
2
a0=0.1945 ,
a1=3.0000
最佳平方逼近一次多项式为 0.1945+3.0000x
8 7 6 5 4 3 2 1 0
0
0.2
0.4
0.6
0.8
1
1.2
1.4
1.6
1.8
2
例题：求f ( x) sin( x)在[0,1]的最佳 平方逼近二次多项式。
解：取二次多项式空间的基为 x, x2 ,权函数w( x) 1 1,
可设g ( x) a11 ( x) ..... amm ( x), 则
( f (a11 ( x) ..... amm ( x)), 1 ( x)) 0
( f (a11 ( x) ..... amm ( x)), 2 ( x)) 0
.......... ( f (a11 ( x) ..... amm ( x)), m ( x)) 0
a b
容易验证满足内积定义的4条性质
由此导出的函数f ( x)的范数： || f || ( f , f )
b
a
w( x) f 2 ( x)dx
两个函数f ( x)与g ( x)的距离
dist ( f , g ) || f g || ( f g , f g ) w( x) f ( x) g ( x) dx
( m , 1 ) ( m , 2 ) ( m , m )
称为函数1 ( x)， ，m ( x)的Gram矩阵， ..... A显然是对称矩阵。
若1 ( x)， ，m ( x)线性无关，则它们 ..... 的Gram矩阵正定。
2
0
解：实际上求sinx在区间[0, ]的最佳平方逼近 2 一次多项式。
取二次多项式空间的基为 x, 权函数w( x) 1 1,
(1,1) 11dx 2 ,(1, x) 1 xdx
2
2
2
8
0
( x, x) x xdx
2
0
3
24
0
(1,sin x) 1 sin xdx 1
1.5
最佳平方逼近问题的一般提法
给定函数f ( x) C[a, b], S C[a, b]是C[a, b] 中的有限维子空间，求g ( x) S , 使得
b
a
w( x)( f ( x) p( x))2 dx min
首先要找子空间S的基1 ( x),....m ( x)
1 ( x),....m ( x)要满足两条：
（）1 ( x),....m ( x)在给定区间[a,b]线性无关： 1
（2）1 ( x),....m ( x)的个数等于S的维数
函数在给定区间线性无关的定义
若存在不全为零的c1， ，cm，使得在区间[a,b] .... c11 ( x) .... cm m ( x) 0 称1 ( x),.... m ( x)线性相关，
a a a
b
b
b
w( x) f ( x) 1dx
a
b
a0 (1,1) a1 ( x,1) ... an ( x ,1) ( f ,1)