数值分析 Cht3 函数逼近与曲线拟合
Ch3函数逼近与曲线拟合省名师优质课赛课获奖课件市赛课一等奖课件
定理 若 f ( x) C[a, b], 则总存在Pn*( x) H , 使得 || f ( x) Pn* ( x) || En
定义(偏差点)
若 f ( x) C[a, b], P( x) Hn , 若在x x0上有
|
P( x0 )
f ( x0 ) |
max |
a xb
P(x)
内积与内积空间
定义 设X 是数域K上的线性空间,对u, v X , 存在K中的一个数(u, v)与之对应,满足 (1)(u, v) (v, u)
(2) ( u, v) (u, v), K
(3) (u v, w) (u, w) (v, w) (4) (u, u) 0,(u, u) 0 u 0 称( , ) 0为X 上的内积,定义了内积的线性空间 称为内积空间.
n ( x)
1 2n1
Tn ( x)与零的偏差最小,其偏差为
1 2n1
.
证明
n ( x)
1 2n1
Tn ( x)
xn
P* n1
(
x
)
max
1 x1
|
n
(
x
)
|
1 2n1
max
1 x1
|
Tn
(
x
)
|
1 2n1
, 又知道
k
xk cos n (k 0,1, 2,
, n)是切比雪夫交错点组,
由此知道Pn*1 ( x)是xn的区间[- 1,1]上的最佳逼近多项式,
1 2n n!
dn dx n
{( x2
1)n }
勒让德多项式旳性质
1. 正交性
0,
1 -1
Pn
数值分析 董玉林第三章 函数逼近与曲线拟合
3、交错点组
定义4
若函数 f x 在其定义域的某一区间 a,b
上存在 n 个点 xk | k 1, 2,..., n, 使得
1 f xk max f x
f x k 1, 2,..., n; ,
2 f xk f xk1 , k 1, 2,..., n 1;
则称点集 xk | k 1, 2,..., n 为函数 f x 在区间
为 f x 与 Pn x 在a,b 上的偏差。
. 注:显然 f , Pn 0, f , Pn 的全体组成一个集合, 它有下界0
若记集合的下确界为
En inf f , Pn inf max f x Pn x
Pn H n
Pn H n a x b
则称 En 为f x 在 a,b 上的最小偏差。
二、函数逼近问题的一般提法
对于函数类 A 中给定的函数 f ,x 要求在另一类 较简单的且便于计算的函数类 B中寻A找一个函
数 ,使P x与 之P差 x在 某f种x度量意义下最小。
注:本章中所研究的函数类 A通常为区间 a上,b的 连续函数,记做 ; C而a函,b数 类 通常是代B数多
项式或三角多项式。
四、一致逼近的概念
定义1 设函数 f 是x区间 上a,b的 连续函数,对于任意给定
的 ,如果存在多项式 P,使x不等式
f x Px
成立,则称多项式 P 在x区间 上a,一b致逼近于函数 。f x
五、一致逼近多项式的存在性
定理 1(维尔斯特拉斯定理) 若f (x)是区间[a, b]上的连续函数,则对于任意给定的
➢ 切比雪夫多项式的极值性质 Tn (x) 的最高次项系数为 2n-1 (n = 1, 2, …)。
➢ 在区间[-1,1]上,在所有首项系数为1的n次多项式 pn x
数值分析Ch3函数逼近与曲线拟合
正交,这就需要引进范数与赋范线性空间,内积
3.1 函数逼近的基本概念
• 定义 设集合 S 是数域 P 上的线性空间,元 素 x1 , x2 , , xn S ,若存在不全为零的数 1 , 2 , , n P ,使得 1 x1 2 x2 n xn 0 则称 x1 , x2 , , xn 线性相关,否则,若仅对
数 值 分 析
Computational Method
Chapter 3 函数逼近
第三章 函数逼近与曲线拟合 设函数 y f x 的离散数据(有误差)为
x y
,
x0 y0
x1 y1
x2 y2
xn yn
希望找到简单函数 Px 整体上有 是某度量, 0 是指定精度。
f x Px
1 x1
2 x2 x 2 , 1 1 1 , 1 x , x , 3 2 2 3 x3 3 1 1 2 , 2 1 , 1
xn , 1 xn , 2 xn , n1 1 2 n1 n xn 1 , 1 2 , 2 n1 , n1 k 1 xk , i i ( k 1,2,, n) 简写为: k x xk i 1 i , i
,
x
2
。
(连续) f x Ca, b
b
常见范数:
f x 1 f x dx • 1范数: a ,
• 2-范数:
f x 2
2 f x dx a b
1 2
f x max f x • 范数: , a ,b
数值分析第三章函数逼近与曲线拟合习题答案
第三章 函数逼近与曲线拟合1. ()sin 2f x x π=,给出[0,1]上的伯恩斯坦多项式1(,)B f x 及3(,)B f x 。
解:()sin ,2f x π=[0,1]x ∈伯恩斯坦多项式为0(,)()()nn k k kB f x f P x n==∑其中()(1)k n k k n P x x x k -⎛⎫=- ⎪⎝⎭当1n =时,01()(1)0P x x ⎛⎫=- ⎪⎝⎭1101()(,)(0)()(1)()1(1)sin(0)sin 022P x xB f x f P x f P x x x xππ=∴=+⎛⎫=-⨯+ ⎪⎝⎭=当3n =时,302212223331()(1)01()(1)3(1)03()(1)3(1)13()3P x x P x x x x x P x x x x x P x x x ⎛⎫=- ⎪⎝⎭⎛⎫=-=- ⎪⎝⎭⎛⎫=-=- ⎪⎝⎭⎛⎫== ⎪⎝⎭3302232233223(,)()()03(1)sin 3(1)sin sin 6323(1)(1)225632221.50.4020.098k k k B f x f P x n x x x x x x x x x x x x x x x x πππ=∴==+-+-+=-+-+-=++≈--∑ 2. 当()f x x =时,求证(,)n B f x x =证明:若()f x x =,则(,)()()nn k k k B f x f P x n ==∑ 00111(1)(1)11(1)(1)(1)(1)!(1)[(1)(1)1](1)(1)!1(1)11(1)1[(1)]n k n kk n k n kk n k n kk n k n k k n k n k k n n k x x k n k n n n k x x nk n n k x x k n x x k n x x x k x x x x-=-=-=-=----=-⎛⎫=- ⎪⎝⎭--+=-----+=---⎛⎫=- ⎪-⎝⎭-⎛⎫=- ⎪-⎝⎭=+-=∑∑∑∑∑3.证明函数1,,,n x x 线性无关 证明:若20120,n n a a x a x a x x R ++++=∀∈ 分别取(0,1,2,,)k x k n =,对上式两端在[0,1]上作带权()1x ρ≡的内积,得0101010211111n a a a n n n ⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪= ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭ ⎪+⎝⎭++ 此方程组的系数矩阵为希尔伯特矩阵,对称正定非奇异,∴只有零解a=0。
(整理)数值分析课件 第3章 函数逼近与曲线拟合
第三章 函数逼近与曲线拟合1 函数的逼近与基本概念1.1问题的提出多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令,因此为了计算大多数有解析表达式的函数的值,必须产生可用四则运算进行计算的近似式,一般为多项式和有理分式函数.实际上,我们已经接触到两种逼近多项式,一种是泰乐多项式,一种是插值多项式.泰乐多项式是一种局部方法,误差分布不均匀,满足一定精度要求的泰乐多项式次数太高,不宜在计算机上直接使用.例如,设()f x 是[1,1]-上的光滑函数,它的Taylor 级数0()k k k f x a x ∞==∑,()(0)!k k f a k =在[1,1]-上收敛。
当此级数收敛比较快时,11()()()n n n n e x f x s x a x ++=-≈。
这个误差分布是不均匀的。
当0x =时,(0)0n e =,而x 离开零点增加时,()n e x 单调增加,在1x =±误差最大。
为了使[1,1]-的所有x 满足()()n f x s x ε-<,必须选取足够大的n ,这显然是不经济的。
插值函数出现的龙格现象表明,非节点处函数和它的插值多项式相差太大。
更重要的是,实际中通过观测得到的节点数据往往有各种误差,此时如果要求逼近函数过全部节点,相当于保留全部数据误差,这是不适宜的。
如图1所示,给出五个点上的实验测量数据,理论上的结果应该满足线性关系,即图1中的实线。
由于实验数据的误差太大,不能用过任意两点的直线逼近函数。
如果用过5个点的4次多项式逼近线性函数,显然误差会很大。
实验数据真函数插值多项式逼近精确的线性逼近图11.2范数与逼近一、线性空间及赋范线性空间要深入研究客观事物,不得不研究事物间的内在联系,给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构,并将这样的集合称为空间.最常用的给集合赋予一种“加法”和“数乘”运算,使其构成线性空间.例如将所有实n 维数对组成的集合,按照“加法”和“数乘”运算构成实数域上的线性空间,记作n R ,称为n 维向量空间.类似地,对次数不超过n 的实系数多项式全体,按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间,用n H 表示,称为多项式空间.所有定义在[,]a b 上的连续函数集合,按函数加法和数与函数乘法构成数域R 上的线性空间,记作[,]C a b .类似地,记[,]p C a b 为具有p 阶连续导数的函数空间.在实数的计算问题中,对实数的大小、距离及误差界等是通过绝对值来度量的.实践中,我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题,因此有必要在一般线性空间上,赋予“长度”结构,使线性空间成为赋范线性空间.定义1 设X 是数域K 上一个线性空间,在其上定义一个实值函数,即对于任意,x y X ∈及K α∈,有对应的实数x 和y ,满足下列条件(1) 正定性:0x ≥,而且0x =当且仅当0x =;(2) 齐次性:x x αα=;(3) 三角不等式:x y x y +≤+;称为X 上的范数,定义了范数的线性空间就称为赋范线性空间.以上三个条件刻划了“长度”、“大小”及“距离”的本质,因此称为范数公理.对n X 上的任一种范数,n X ∀∈x,y ,显然有±≥-x y x y .n R 上常用的几种范数有:(1) 向量的∞-范数:1max i i nx ∞≤≤=x(2) 向量的1-范数:11n i i x ==∑x(3) 向量的2-范数:12221()n i i x ==∑x (4) 向量的p -范数:11()n p pi p i x ==∑x其中[1,)p ∈∞,可以证明向量函数()p N x x ≡是nR 上向量的范数. 前三种范数是p -范数的特殊情况(lim p p ∞→∞=x x ).我们只需表明(1).事实上1111111max max max n n p pp p i i i i i n i n i n i i x x x x ≤≤≤≤≤≤==⎛⎫⎛⎫≤≤≤ ⎪ ⎪⎝⎭⎝⎭∑∑及max 1p →∞=,故由数学分析的夹逼定理有1l i m ma x i p p i nx ∞→∞≤≤==x x 。
数值分析第三章
称为1 − 范数 , 称为 2 − 范数 .
(
b 2 ∫a f ( x )dx
),
1 2
三、内积与内积空间
R n中向量x及y定义内积 : ( x, y ) = x1 y1 + L + x n y n .
定义3 上的线性空间, 定义3 设X是数域 K ( R或C)上的线性空间,对 ∀u, v ∈ X, 中一个数与之对应, 并满足条件: 有K中一个数与之对应,记 为( u, v ),并满足条件: (1) ( u,v ) = (v , u), ∀u,v ∈ X ; (2) (αu,v ) = α ( u,v ), α ∈ R; (3) ( u + v , w ) = ( u,w ) + (v,w ), ∀u,v,w ∈ X ; (4) ( u, u) ≥ 0, 当且仅当 u = 0时, , u) = 0. (u 则称( u, v )为X上的u与v的内积. 定义了内积的线性空间 称 的共轭, 为内积空间. (v , u)为( u,v )的共轭,当 K = R时 (v , u) = ( u,v ).
2)
j =1
∑ α ju j = 0 ⇔ ( ∑ α ju j , ∑ α ju j ) = 0
j =1 n j =1
n
n
n
⇔ ( ∑ α j u j , uk ) = 0, k = 1,L, n.
j =1
∴ G非奇异 ⇒ u1 , u2 ,L, un线性无关 (反证法 );反之亦然 .
在内积空间X上可以由内积导出一种范数, 即对u ∈ X , 记 || u ||= (u , u ), Cauchy − Schwarz不等式得出. (1.10) 易证它满足范数定义的正定性和齐次性, 而三角不等式由
数值分析 第3章 函数逼近与曲线拟合)
在[a, b]上一致成立 。
定理:设X为一个内积空间,u1,u2,…,un∈X,矩阵
(u1, u1) (u2 , u1)
G
(u1, u2
(u1, un
) )
(u2 , u2 )
(u2 , un )
(un , u1)
(un , u2 )
(un
, un
)
称为格拉姆矩阵,则G非奇异的充分必要条件是 u1,u2,…,un线性无关 。
n1(x) (x an )n (x) n n1(x)
(n 0,1,...)
其中 0 (x) 1, -1(x) 0, n (xn (x),n (x)) /(n (x),n (x)), n (n (x),n (x)) /(n1(x),(n1(x))
(n 1,2,.....)
并且(
中找一个元素 * (x) 使 f (x) *(x) 在某种意义下
最小.
3、 范数的定义
设S为线性空间,x∈S,若存在唯一实数 || || 满足条件:
(1)‖x‖≥0;当且仅当x=0时,‖x‖=0; (正定性)
(2)‖αx‖=|α|‖x‖,α∈R; (齐次性)
(3)‖x+y‖≤‖x‖+‖y‖,x,y∈S. (三角不等式)
类较简单的便于计算的函数类B中,求函数 P(x) B , 使P(x)与f(x)
之差在某种度量意义下最小” . 函数类A通常是区间[a,b]上的连续 函数,记作C[a,b];函数类B通常是代数多项式,分式有理函数或 三角多项式.
2、函数空间 数学上常把在各种集合中引入某些不同的确定关系称为赋予
集合以某种空间结构,并将这样的集合称为空间.
1 2n n!
dn dxn
{(
实验三 函数逼近与曲线拟合
实验三 函数逼近与曲线拟合实验3.1(曲线逼近方法的比较) 问题提出:曲线的拟合和插值,是逼近函数的基本方法,每种方法具有各自的特点和特定的适用范围,实际工作中合理选择方法是重要的。
实验内容:考虑实验2.1中的著名问题。
下面的MATLAB 程序给出了该函数的二次和三次拟合多项式。
x=-1:0.2:1;y=1/(1+25*x.*x); xx=-1:0.02:1; p2=polyfit(x,y,2); yy=polyval(p2,xx); plot(x,y,’o’,xx,yy); xlabel(‘x’); ylabel(‘y’); hold on;p3=polyfit(x,y,3); yy=polyval(p3,xx); plot(x,y,’o’,xx,yy); hold off;适当修改上述MATLAB 程序,也可以拟合其他你有兴趣的函数。
实验要求:(1)将拟合的结果与拉格朗日插值及样条插值的结果比较。
(2)归纳总结数值实验结果,试定性地说明函数逼近各种方法的适用范围,及实际应用中选择方法应注意的问题。
实验3.2:(最小二乘拟合的经验公式和模型)1.(已知经验公式):某类疾病发病率为y ‰和年龄段x (每五年为一段,例如0~5岁为第一段,6~10岁为第二段……)之间有形如bxae y =的经验关系,观测得(1)用最小二乘法确定模型bxae y =中的参数a 和b (提示函数:lsqcurvefit ,lsqnonlin )。
(2)利用MATLAB 画出离散数据及拟合函数bxae y =图形。
(3)利用MATLAB 画出离散点处的误差图,并计算相应的均方误差。
2.(最小二乘拟合模型未知) 某年美国轿车价格的调查资料如表,其中i x 表示轿车的使用年数,i y 表示相应的平均价格,实验要求:试分析用什么形式的曲线来拟合表中的数据,并预测实验3.3(研究最佳平方逼近多项式的收敛性质)实验内容和要求:取函数xe xf =)(,在[-1,1]上以勒让德多项式为基函数,对于10,,1,0 =n 构造最佳平方逼近多项式)(x p n ,令)()()(x p x f x n n -=ε,将x x n ~)(ε的曲线画在一个图上。
函数逼近与曲线拟合
西安科技大学《数值分析》实验报告题目:函数逼近与曲线拟合院系(部):计算机科学与技术学院专业及班级:姓名:学号日期:2019/11/11一、实验名称函数逼近与曲线拟合二、实验目的及要求实验目的:⑴学会用最小二乘法求拟合数据的多项式,并应用算法于实际问题。
实验要求:⑴编写程序用最小二乘法求拟合数据的多项式,并求平方误差,做出离散函数()和拟合函数的图形;⑵用MATLAB的内部函数polyfit求解上面最小二乘法曲线拟合多项式的系数及平方误差,并用MATLAB的内部函数plot作出其图形,并与(1)结果进行比较。
三、实验中的算法描述1.设拟合多项式为:2.给点到这条曲线的距离之和,即偏差平方和:3.为了求得到符合条件的a的值,对等式右边求偏导数,因而我们得到了:4.将等式左边进行一次简化,然后应该可以得到下面的等式5.把这些等式表示成矩阵的形式,就可以得到下面的矩阵:⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡∑∑∑∑∑∑∑∑∑∑∑=====+==+====n i i n i n i i k n i k i ni k ini k i n i k i ni in i ini k ini iy y y a a x xx x xxx x 11i 110121111112111a n6. 将这个范德蒙得矩阵化简后得到⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡n k k n n k k y y y a a a x x x x x x 21102211111 7.因为Y A X =*,那么X Y A /=,计算得到系数矩阵,同时就得到了拟合曲线。
四、课程设计内容⑴实验环境:MATLAB2010b⑵实验内容:给定的数据点( )1) 用最小二乘法求拟合数据的多项式; 2) 用MATLAB 内部函数polyfit 函数进行拟合。
函数逼近与曲线拟合实验报告
数值分析实验报告一、实验题目:函数逼近与曲线拟合二、目的和意义:1.掌握曲线拟合的最小二乘法2.最小二乘法亦可用于解超定线性代数方程组3.探索拟合函数的选择与拟合精度间的关系三、计算公式(算法):由已知的离散数据点选择与实验点误差最小的曲线)(...)()()(1100x a x a x a x S n n ϕϕϕ+++= 称为曲线拟合的最小二乘法。
若记),()()(),(0i k i j m i i k j x x x ϕϕωϕϕ∑==k i k i mi i k d x x f x f ≡=∑=)()()(),(0ϕωϕ 上式可改写为),...,1,0(;),(n k d a k j no j j k -=∑=ϕϕ这个方程成为法方程,可写成矩阵形式.d Ga =其中,),...,,(,),...,,(1010T n T n d d d d a a a a ==⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=),(),(),()(),(),(),(),(),(101110101000n n n n n n G ϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕϕ 。
它的平方误差为:.)]()([)(||||2022i i mi i x f x S x -=∑=ωδ 1) 按照最小二乘法的性质构造Gram 矩阵G ,并求解Ga=d ;构造的时候首先构造一个零矩阵A ;2)然后开始构造Gram 矩阵(在下面程序里我们把克莱姆矩阵用A来表示)3)然后求列矩阵b,因为Aa=b,所以求a=A\b;(d就是列矩阵b); 4)然后找对应数据的最小二乘拟合方程和画出它的图像;四、结构程序设计:n=3M=zeros(n,12)%三行十二列的零矩阵M(1,:)=[0:5:55];%输入x值for i=2:nM(i,:)=power(M(1,:),i);end%内积求φiA=zeros(n,n);%n行n列零矩阵for i=1:nfor j=1:nA(i,j)=M(i,:)*M(j,:)'endend%Gram矩阵y=[0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64];y=y.*10.^(-4);b=[];for i=1:nb(i)=M(i,:)*y';endformat long;c=[];b=b'c=A\b%输出系数d=[];for i=1:nd(i)=c(n-i+1);endd(n+1)=0plot(M(1,:),y,'*');hold on x1=[0:1:55];plot(x1,polyval(d,x1)); legend('数据点','二次拟合') title('二次拟合')set(gcf,'color','w');%画图error=0,e=[];e=polyval(d,M(1,:))-y; error=e*e';e=sqrt(error)%求误差五、输出结果:首先是关于原问题的拟合拟合图像再考虑四次项时的拟合,即当n=4时输出结果如图所示可见四次拟合时误差会更小一些六、讨论和分析:拟合方程的选取至关重要,它决定了最大误差、平均误差的大小,即拟合曲线的接近程度。
数值分析实验报告--实验3--函数逼近与曲线拟合
数值分析实验三:函数逼近与曲线拟合1曲线逼近方法的比较1.1问题描述曲线的拟合和插值,是逼近函数的基本方法,每种方法具有各自的特点和特定的适用范围,实际工作中合理选择方法是重要的。
考虑实验2.1中的著名问题。
下面的MATLAB程序给出了该函数的二次和三次拟合多项式。
x=-1:0.2:1;y=1./(1+25*x.*x);xx=-1:0.02:1;p2=polyfit(x,y,2);yy=polyval(p2,xx);plot(x,y,’o’,xx,yy);xlabel(‘x’);ylabel(‘y’);hold on;p3=polyfit(x,y,3);yy=polyval(p3,xx);plot(x,y,’o’,xx,yy);hold off;实验要求:(1) 将拟合的结果与拉格朗日插值及样条插值的结果比较。
(2) 归纳总结数值实验结果,试定性地说明函数逼近各种方法的适用范围,及实际应用中选择方法应注意的问题。
1.2算法设计对于曲线拟合,这里主要使用了多项式拟合,使用Matlab的polyfit函数,可以根据需要选用不同的拟合次数。
然后将拟合的结果和插值法进行比较即可。
本实验的算法比较简单,此处不再详述,可以参见给出的Matlab脚本文件。
1.3实验结果1.3.1多项式拟合1.3.1.1多项式拟合函数polyfit和拟合次数N的关系1 / 13首先使用polyfit函数对f(x)进行拟合。
为了便于和实验2.1相比较,这里采取相同的参数,即将拟合区间[-1,1]等分为10段,使用每一段区间端点作为拟合的数据点。
分别画出拟合多项式的次数N=2、3、4、6、8、10时,f(x)和多项式函数的图像,如图1所示。
Matlab 脚本文件为Experiment3_1_1.m。
Figure 1 多项式拟合与拟合次数N的关系可以看出,拟合次数N=2和3时,拟合效果很差。
增大拟合次数,N=4、6、8时,拟合效果有明显提高,但是N太大时,在区间两端附近会出现和高次拉格朗日插值函数类似的龙格现象。
数值分析—第3章函数逼近与数据拟合法
称为广义多项式。
数值分析
三、函数的最佳平方逼近 对于给定的函数 f ( x) C[a, b] 如果存在 使
* ( x) Span 0 , 1 , , n } {
b
a
( x) f ( x) ( x) dx min
* 2
( x ) a
mn mn0 mn0
(2) 递推关系
相邻的三个切比雪夫多项式具有三项递推关系式: T0 ( x ) 1, T1 ( x ) x (n 1, 2, ) Tn1 ( x ) 2 x Tn ( x ) Tn1 ( x ) Tn (x) 的最高次项系数为 2n-1 (n = 1, 2, …)。
连续函数在[a, b]上线性无关的充分必要条件是它们 的Gramer行列式Gn 0,其中
( 0 , 0 ) ( 0 , 1 ) ( 0 , n ) G n G n ( 0 , 1 , , n ) (1 , 0 ) (1 , 1 ) (1 , n ) ( n , 0 ) ( n , 1 ) ( n , n )
(n 1, 2, )
(3) 奇偶性: 当n为偶数时,Pn (x)为偶函数; 当n为奇数时,Pn (x)为奇函数。 (4) Pn (x)的n个零点都是实的、相异的,且全
部在区间[-1, 1]内部。
数值分析
2.切比雪夫(Tchebyshev)多项式 称多项式
Tn ( x) cos(narc cos x)
Span{ 0 , 1 , , n }
并称 0 ( x), 1 ( x), , n ( x) 是生成集合的一个基底。 设函数系{
0 ( x), 1 ( x), , n ( x) ,…}线性无关,
第三章函数逼近和曲线拟合
S=span{ x1,..., xn}
并称该空间为n维空间。1,2 ,...,n P
称为x在这组基下的坐标。 例:n次多项式
p(x) Hn , p(x)=a0 + a1x ... an xn Hn span{1, x, x2 ,..., xn}
4
11
4.5
12
4.6
强 度 yi 编 号 拉伸倍数 xi
1.4
13
5
1.3
14
5.2
1.8
15
6
2.5
16
6.3
2.8
17
6.5
2.5
18
7.1
3
19
8
2.7
20
8
4
21
8.9
3.5
22
9
4.2
23
9.5
3.5
24
10
强 度 yi
5.5 5
5.5
6.4 6
5.3 6.5
7 8.5
8 8.1 8.1
6
内积与内积空间 定义3:设X为数域K(R或C)上的线性空
间,满足条件:
u, v X , k (u, v) K, st.
(1) (u, v) (v, u)
(2) (u, v) (u, v), for K
(3) (u v, w) (u, w) (v, w), for w X
(4) (u, u) 0, u 0 iff (u, u) 0
存在唯一实数 g ,满足条件:
(1) x 0; x 0 iff x 0
(2) x x , R
(3) x y x y , x, y R
第三章函数逼近和曲线拟合
②
m 很大;
yi 本身是测量值,不准确,即 yi f (xi) 而要使 P(xi) yi 总体上尽可能小。
这时没必要取 P(xi) = yi ,
使误差在某种度量意义下最小
常见做法:
太复杂
不可导,求解困难 problem */ |P ( x y 使 max 最小 /* minimax i) i|
x x . . . x 0
1 1 2 2 n n
( 1 . 1 )
则称 x 1, x 2,..., x n 线性相关,否则,若等式(1.1)只对
. . . 0 1 2 n
成立,则称为线性无关。
若线性空间S是由n个线性无关元素生成的,即:
xS , x 1 x . . . x 1 n n 则称 x 1, x 2,..., x n 为空间S的一组基,记为:
n
连续函数不能用有限个线性无关的函数表示,故连 续函数空间是无限维的,但它的任一元素可以用有 限维的多项式逼近,使误差为任意小。
) Cab [ , ] 则对任何 0 定理1:设 f(x 总存在一个代数多项式p(x),使
f( x ) px ( )
在[a,b]上一致成立。
范数与赋范线性空间
1 2
b a b a
f (x)dx
2
( f 2 ( x )d x )
称为 2 - 范数
例:求下列向量的1范数、2范数和无 穷范数
x (4 , 4 , 4 , 4 )T , x x x
y (6, 0, 0, 0 )T , y y y
m ax xi 4
1 i n
x i
¿ Ç
函数逼近与曲线拟合
函数逼近与曲线拟合3.1函数逼近的基本概念3.1.1 函数逼近与函数空间在数值计算中常要计算函数值,如计算机中计算基本初等函数及其他特殊函数;当函数只在有限点集上给定函数值,要在包含该点集的区间上用公式给出函数的简单表达式,这些都涉及到在区间上用简单函数逼近已知复杂函数的问题,这就是函数逼近问题.上章讨论的插值法就是函数逼近问题的一种.本章讨论的函数逼近,是指“对函数类A中给定的函数,记作,要求在另一类简单的便于计算的函数类B中求函数,使与的误差在某种度量意义下最小”.函数类A通常是区间上的连续函数,记作,称为连续函数空间,而函数类B通常为n次多项式,有理函数或分段低次多项式等.函数逼近是数值分析的基础,为了在数学上描述更精确,先要介绍代数和分析中一些基本概念及预备知识.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构,并将为样的集合称为空间.例如将所有实n维向量组成集合,按向量加法及向量与数的乘法构成实数域上的线性空间,记作,称为n维向量空间.类似地,对次数不超过n(n为正整数)的实系数多项式全体,按通常多项式与多项式加法及数与多项式乘法也构成数域上的一个线性空间,用表示,称为多项式空间.所有定义在上的连续函数集合,按函数加法和数与函数乘法构成数域上的线性空间,记作.类似地,记为具有p阶的连续导数的函数空间.定义1设集合S是数域P上的线性空间,元素,如果存在不全为零的数,使得, (3.1.1)则称线性相关.否则,若等式(3.1.1)只对成立,则称线性无关.若线性空间S是由n个线性无关元素生成的,即对都有则称为空间S的一组基,记为,并称空间S为n维空间,系数称为x在基下的坐标,记作,如果S中有无限个线性无关元素,…,则称S为无限维线性空间.下面考察次数不超过n次的多项式集合,其元素表示为, (3.1.2)它由个系数唯一确定.线性无关,它是的一组基,故,且是的坐标向量,是维的.对连续函数,它不能用有限个线性无关的函数表示,故是无限维的,但它的任一元素均可用有限维的逼近,使误差(为任给的小正数),这就是著名的Weierstrass定理.定理1(Weierstrass)设,则对任何,总存在一个代数多项式,使在上一致成立.这个定理已在“数学分析”中证明过.这里需要说明的是在许多证明方法中,伯恩斯坦1912年给出的证明是一种构造性证明.他根据函数整体逼近的特性构造出伯恩斯坦多项式, (3.1.3) 其中,其中,并证明了在上一致成立;若在上阶导数连续,则.这不但证明了定理1,而且由(3.1.3)给出了的一个逼近多项式.它与拉格朗日插值多项式很相似,对,当=1时也有关系式. (3.1.4) 这只要在恒等式中令就可得到.但这里当时还有,于是是有界的,因而只要对任意成立,则有界,故是稳定的.至于拉格朗日多项式,由于无界,因而不能保证高阶插值的稳定性与收敛性.相比之下,多项式有良好的逼近性质,但它收敛太慢,比三次样条插值效果差得多,实际中很少被使用.更一般地,可用一组在上线性无关的函数集合来逼近,元素,表示为. (3.1.5) 函数逼近问题就是对任何,在子空间中找一个元素,使在某种意义下最小.3.1.2 范数与赋范线性空间为了对线性空间中元素大小进行衡量,需要引进范数定义,它是空间中向量长度概念的直接推广.定义2.1.2 设为线性空间,,若存在唯一实数,满足条件:(1)正定性:,(2)当且仅当时,(3);(4)齐次性:,(5);(6)三角不(7)等式:,(8).则称为线性空间上的范数,与一起称为赋范线性空间,记为.例如,在上的向量,三种常用范数为类似地对连续函数空间,若可定义三种常用范数如下:可以验证这样定义的范数均满足定义3.1.2中的三个条件.3.1.3 内积与内积空间在线性代数中,中两个向量及的内积定义为.若将它推广到一般的线性空间,则有下面的定义.定义3.1.3设是数域上的线性空间,对,有中一个数与之对应,记为,它满足以下条件:(1);(2);(3);(4),当且仅当时,.则称为上与的内积.定义了内积的线性空间称为内积空间.定义中(1)的右端称为的共轭,当为实数域时.如果=0,则称与正交,这是向量相互垂直的概念的推广.关于内积空间性质有以下重要定理.定理3.1.2设为一个内积空间,对,有(3.1.6) 称为Cauchy-Schwarz不等式.[证明]当时(3.1.6)式显然成立.现设,则,且对任何数有.取,代入上式右端,得,即得时.定理证毕定理3.1.2设为一个内积空间,,矩阵(3.1.7)称为Gram矩阵,则G非奇异的充分必要条件是线性无关.[证明]G非奇异等价于,其充分必要条件是齐次方程组(3.1.8) 只有零解.而(3.1.9) 从以上的等价关系可知,等价于从(3.1.8)推出.而后者等价于从(3.1.9)推出,即线性无关.定理证毕在内积空间上可以由内积导出一种范数,即对于,记(3.1.10) 容易验证它满足范数定义的三条性质,其中三角不等式(3.1.11) 可由定理3.1.2直接得出,即两端开方即得(3.1.11).例1与的内积.设,,,则其内积定义为(3.1.12) 由此导出的向量2-范数为.若给定实数,称为权系数,则在上可定义加权内积为(3.1.13) 相应的范数为.不难验证(3.1.13)给出的满足内积定义的4条性质,当时,(3.1.13)就是(3.1.12).如果,带权内积定义为(3.1.14) 这里仍为正实数序列,为的共轭.在上也可以类似定义带权内积,为此先给出权函数的定义.定义3.1.4 设是有限或无限区间,在上的非负函数满足条件:(1)存在且为有限值;(2)对上的非负连续函数,如果,则.则称为上的一个权函数.例2上的内积.设,是上给定的权函数,则可定义内积. (3.1.15) 容易验证它满足内积定义的4条性质,由此内积导出的范数为. (3.1.16)称(3.1.15)和(3.1.16)为带权的内积和范数.特别常用的是的情形,即若是中的线性无关函数族,记,它的Gram矩阵为(3.1.17) 根据定理3.1.3可知线性无关的充分必要条件是.3.2 正交多项式正交多项式是函数逼近的重要工具,在数值积分中也有着重要的应用.3.2.1 正交函数族与正交多项式定义3.2.1 若,为上的权函数且满足, (3.2.1)则称与在上带权正交.若函数族满足关系(3.2.2)则称是上带权的正交函数族;若,则称之为标准正交函数族.例如,三角函数族就是在区间上的正交函数族.因为对有,而对,当时有定义3.2.2 设是上首项系数的次多项式,为上权函数,如果多项式序列满足关系式(3.2.2),则称多项式序列为在上带权正交,称为上带权的次正交多项式.只要给定区间及权函数,均可由一族线性无关的幂函数,利用逐个正交化手续构造出正交多项式序列;,(3.2.3) 这样得到的正交多项式序列有以下性质:(1)是具有最高次项系数为1的次多项式.(2)任何次多项式均可表示为的线性组合.(3)当时,,且与任一次数小于的多项式正交.(4)成立递推关系.其中这里.(5)设是在上带权的正交多项式序列,则的个根都是在区间内的单重实根.3.2.2 勒让德多项式当区间为[-1,1],权函数时,由正交化得到的多项式就称为勒让德(Legendre)多项式,并用表示.这是勒让德于1785年引进的,1814年罗德利克(Rodrigul)给出了简单的表达式由于是2次的多项式,求阶导数后得,于是得首项系数为,显然最高项系数为1的勒让德多项式为.(3.2.6) 勒让德多项式有下述几个性质:性质1正交性(3.2.7) [证明]令,则.设是在区间[-1,1]上的阶连续可微的函数,由分部积分知下面分两种情况讨论:(1)若是次数小于的多项式,则,故得(2)若,则,于是由于,故,于是(3.2.7)得证.性质2奇偶性(3.2.8)[证明]由于是偶次多项式,经过偶次求导仍为偶次多项式,经过奇次求导则为奇次多项式,故为偶数时为偶函数,为奇数时为奇函数,于是(3.2.8)成立.性质3递推关系(3.2.9) [证明]考虑+1次多项式,它可表示为两边乘以,并从-1到1积分,得.当时,的次数小于-1,上式左端积分为0,故得.当时.为奇函数,左端积分仍为0,故.于是.其中,代入上式整理可得(3.2.9).例1由利用性质3可得性质4在区间[-1,1]内有个不同的实零点.3.2.3 切比雪夫多项式当权函数,区间为[-1,1]时,由序列正交化得到的多项式就称为切比雪夫(Chebyshev)多项式,它可表示为(3.2.10) 若令,则.切比雪夫多项式有很多重要性质:性质1递推关系(3.2.11) 这只要由三角不等式.令即得.由(3.2.11)就可推出由递推关系(3.2.11)还可得到的最高次项系数是.性质6切比雪夫多项式在区间[-1,1]上带权正交,且(3.2.12) 事实上,令,则,于是性质7只含的偶次幂,只含有的奇次幂.这性质由递推关系直接得到.性质8在区间[-1,1]上的个零点此外,实际计算中时常要求用的线性组合,其公式为. (3.2.13) 例如:结果如下:3.2.4 其他常用的正交多项式一般说,如果区间及权函数不同,则得到的正交多项式也不同.除上述两种最重要的正交多项式外,下面再给出三种较常用的正交多项式.第二类切比雪夫多项式在区间[-1,1]上带权的正交多项式称为第二类切比雪夫多项式,其表达式为. (3.2.14) 令,可得即是[-1,1]上带权的正交多项式族.还可得到递推关系式.拉盖尔多项式在区间上带权的正交多项式称为拉盖尔(Laguerre)多项式,其表达式为. (3.2.15) 其正交性为和递推关系.3. 埃尔米特多项式在区间上带权的正交多项式称为埃尔米特多项式.其表达式为, (3.2.16) 其正交性为递推关系为.3.3 最佳一致逼近多项式3.3.1 基本概念及其理论本节讨论,在中求多项式,使其误差.这就是通常所谓最佳一致逼近或切比雪夫逼近问题.为了说明这一概念,先给出以下定义.定义3.3.1 设,,称. (3.3.1) 为与在上的偏差.显然,的全体组成一个集合,记为{},它有下界0.若记集合的下确界为(3.3.2)则称之为在上的最小偏差.定义3.3.2 假定,若存在,使得, (3.3.3)则称是在上的最佳一致逼近多项式或最小偏差逼近多项式,简称最佳逼近多项式.注意,定义并未说明最佳逼近多项式是否存在,但可证明下面的存在定理.定理4若,则总存在,使.为了研究最佳逼近多项式的特性,先引进偏差点的定义.定义3.3.3设,,若在上有,就称是的偏差点.若,称为“正”偏差点.若,称为“负”偏差点.由于函数在上连续,因此,至少存在一个点,使,也就是说的偏差点总是存在的.下面给出反映最佳逼近多项式特征的切比雪夫定理.定理3.3.2是的最佳逼近多项式的充分必要条件是在上至少有个轮流为“正”、“负”的偏差点,即有个点,使. (3.3.4) 这样的点组称为切比雪夫交错点组.[证明]只证充分性.假定在上有个点使(3.3.4)成立,要证明是在上的最佳逼近多项式.用反证法,若存在,使.由于在点上的符号与一致,故也在个点上轮流取“+”、“-”号.由连续性质,它在内有个零点,但因是不超过次的多项式,它的零点不超过.这矛盾说明假设不对,故就是所求最佳逼近多项式.充分性得证,必要性证明略,可参看[5].定理5说明用逼近的误差曲线是均匀分布的.由这定理还可得以下重要推论.推论1若,则在中存在唯一的最佳逼近多项式.证明略.利用定理5可直接得到切比雪夫多项式的一个重要性质,即定理3.3.3 在区间[-1,1]上所有最高次项系数为1的次多项式中与零的偏差最小,其偏差为.[证明]由于,且点是的切比雪夫交错点组,由定理5可知,区间[-1,1]上在中最佳逼近多项式为,即是与零的偏差最小的多项式.定理证毕例3求在[-1,1]上的最佳2次逼近多项式.解由题意,所求最佳逼近多项式应满足由定理3.3.3可知,当时,多项式与零偏差最小,故就是在[-1,1]上的最佳2次逼近多项式.3.3.2 最佳一次逼近多项式定理3.3.2给出了最佳逼近多项式的特性,但要求出却相当困难.下面讨论的情形.假定,且在内不变号,我们要求最佳一次逼近多项式.根据定理3.3.2可知至少有3个点,使由于在内不变号,故单调,在内只有一个零点,记为,于是,即.另外两个偏差点必是区间端点,即,且满足由此得到(3.3.5) 解出, (3.3.6) 代入(3.3.5)得. (3.3.7)这就得到了最佳一次逼近多项式,其几何意义如图3-3所示.直线与弦MN平行,且通过MQ的中点D,其方程为.图3-3一次最佳一致逼近多项式几何意义例4 求在上的最佳一次逼近多项式。
数值分析函数逼近与曲线拟合
f (x)
P1 ( x)
E1
a
x2
bx
最佳一次逼近多项式例题1(继续)
最佳一次逼近多项式例题2(返回)
切比雪夫定理图示(定理)
E2
P2 (x) f (x)
E3
E4
P4 (x) f (x)
P3 (x) f (x)
最佳平方逼近问题(返回)
法方程的建立(特例)
C[0,1]上的最佳平方逼近(例题)
C[0,1]上的最佳平方逼近例题(返回)
用正交函数做最佳平方逼近(返回)
最佳平方逼近多项式(例题)
最佳平方逼近多项式例题(返回)
线性模型例题(返回)
线性模型图例(返回)
指数模型例题(返回)
指数模型图例(返回)
双曲模型图例(返回)
S-曲线模型图例(返回)
§3.6最佳平方三角逼近与FFT(返回)
§3.2 正交多项式(返回)
正交函数族与正交多项式 正交多项式的性质 勒让德(Legendre)多项式 切比雪夫(Chebyshev)多项式 其他正交多项式
§3.3 最佳一致逼近多项式(返回)
偏差与偏差点 最佳一致逼近多项式 切比雪夫定理 最佳一致逼近多项式的构造 最佳一次逼近多项式
T0
T0
T3
T2 T3
TT11
T2
偏差与偏差点(返回)
最佳一致逼近多项式(返回)
切比雪夫定理(返回)
最佳一致逼近 多项式的构造(例题)
切比雪夫多项式 与零的偏差(定理)
最佳一致逼近例题(继续)
最佳一致逼近例题(返回)
最佳一次逼近多项式(例题)
最佳一次逼近多项式图示(返回)
哈尔(Haar)条件(法方程)
函数逼近与曲线拟合(演示)精编
第三章 函数逼近与曲线拟合1 函数的逼近与基本概念1.1问题的提出多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令,因此为了计算大多数有解析表达式的函数的值,必须产生可用四则运算进行计算的近似式,一般为多项式和有理分式函数.实际上,我们已经接触到两种逼近多项式,一种是泰乐多项式,一种是插值多项式.泰乐多项式是一种局部方法,误差分布不均匀,满足一定精度要求的泰乐多项式次数太高,不宜在计算机上直接使用.例如,设()f x 是[1,1]-上的光滑函数,它的Taylor 级数0()kk k f x a x∞==∑,()(0)!k k f a k =在[1,1]-上收敛。
当此级数收敛比较快时,11()()()n n n n e x f x s x a x ++=-≈。
这个误差分布是不均匀的。
当0x =时,(0)0ne=,而x 离开零点增加时,()n e x 单调增加,在1x =±误差最大。
为了使[1,1]-的所有x 满足()()nf x s x ε-<,必须选取足够大的n ,这显然是不经济的。
插值函数出现的龙格现象表明,非节点处函数和它的插值多项式相差太大。
更重要的是,实际中通过观测得到的节点数据往往有各种误差,此时如果要求逼近函数过全部节点,相当于保留全部数据误差,这是不适宜的。
如图1所示,给出五个点上的实验测量数据,理论上的结果应该满足线性关系,即图1中的实线。
由于实验数据的误差太大,不能用过任意两点的直线逼近函数。
如果用过5个点的4次多项式逼近线性函数,显然误差会很大。
1.2范数与逼近实验数据 真函数 插值多项式逼近 精确的线性逼近图1一、线性空间及赋范线性空间要深入研究客观事物,不得不研究事物间的内在联系,给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构,并将这样的集合称为空间。
最常用的给集合赋予一种“加法”和“数乘”运算,使其构成线性空间.例如将所有实n 维数对组成的集合,按照“加法”和“数乘”运算构成实数域上的线性空间,记作n R ,称为n 维向量空间.类似地,对次数不超过n 的实系数多项式全体,按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间,用nH 表示,称为多项式空间。
数值分析 第五章 曲线拟合和函数逼近
an xi n yi ) 0 an xi n yi ) xi 0
an xi n yi ) xi n 0
6
可以化为如下的法方程组或正则方程组:
1 xi n 1 xi
x x
i
i 2
x x x
i
2 3
i i
x x
x
,n 1
( xPk , Pk ) 由 ( Pk 1 , Pk ) 0 k 1 ( Pk , Pk )
2 x P i i k ( xi ) i 0 m
m
P ( x )
i 0 2 i k i
, k 0,1, 2,
, n 1
由 ( Pk 1 , Pk 1 ) 0 k
12
y 1 /(ax b) y x /(ax b) y 2 ax2 bx c y x /(ax bx c)
2
设y 1 / y 设y 1 / y , x 1 / x 设y y 2 x 设y y 设x 1 / x
b c y a 2 x x
求解线性方程组有 a 2, b 1.05 。
3
最小二乘原理
曲线拟合问题:对给定的数据 ( xi , yi ) (i 0,1,
, m) ,在取定的函 , m)
(i 0,1, 数类 中, 求函数 P( x) , 使偏差 ri P( xi ) yi ,
的平方和最小,即
2 r ( P ( x ) y ) i i i min 2 i 0 i 0 m m
,x 。
n
11
非线性最小二乘拟合
可化为线性拟合问题的常见函数类型
数值分析实验三 函数的数值逼近
数值分析实验三函数的数值逼近-插值与曲线拟合一、实验目的(一)学习MATLAB中多项式的表示及多项式运算(二)学习用典型的插值和拟合方法求函数的近似值或近似表达式(三)掌握拉格朗日、牛顿插值法的基本理论及MATLAB实现,解决一些实际问题。
二、实验内容(一)多项式表示及运算1、在MATLAB命令窗口中输入以下语句,观察结果,分析语句功能(1)p=[1,-5,6,-33],poly2sym(p)(2)syms xf=4*x^3+6*xsym2poly(f)分析函数poly2sym和sym2poly的功能。
2、多项式运算在MATLAB命令窗口中输入以下语句,观察结果p=[3,2,1]; a=1:2:5;polyval (p,a),分析函数polyval功能(二)拉格朗日插值法、Newton插值理论的MATLAB实现Lagrange插值的参考程序:X=[];Y=[]; %X,Y存放已知数据点syms x sn=length(X);s=0.0;for k=1:np=1.0;for j=1:nif j~=kp=p*(x-X(j))/(X(k)-X(j));endends=s+p*Y(k);ends; s=simplify(s);Newton插值的参考程序:X= [];Y= [];n=length(X);for i=1:1:n-1CS(i,1)=(Y(i+1)-Y(i))/(X(i+1)-X(i));endfor j=2:1:n-1for i=j:1:n-1CS(i,j)=(CS(i,j-1)-CS(i-1,j-1))/(X(i+1)-X(i+1-j));endendsyms N x bN=Y(1);a=0;b=(x-X(1));for i=1:1:n-1a=CS(i,i);N=N+a*(b);b=(b)*(x-X(i+1));endfprintf('插值多项式为')N用Lagrange或Newton插值完成课本P48 第2题, P34例5,P28 例2. (三)函数拟合理论的MATLAB实现1、多项式拟合的MATLAB实现(1)学习多项式拟合函数polyfit的使用,其调用格式为:p=polyfit(x,y,n)其中,参数x代表已知数据点自变量组成的向量;参数y代表已知数据点函数值组成的向量;参数n代表所求得拟合多项式系数向量;参数p代表拟合多项式的次数。
数值计算方法教案_曲线拟合与函数逼近
第三章 曲线拟合与函数逼近一.曲线拟合 1.问题提出:已知多组数据(),,1,2,,i i x y i N =,由此预测函数()y f x =的表达式。
数据特点:(1)点数较多。
(2)所给数据存在误差。
解决方法:构造一条曲线反映所给数据点的变化总趋势,即所谓的“曲线拟合”。
2.直线拟合的概念 设直线方程为y=a+bx 。
则残差为:ˆi i i e y y =-,1,2,,i N =,其中ˆi i ya bx =+。
残差i e 是衡量拟合好坏的重要标志。
可以用MATLAB 软件绘制残差的概念。
x=1:6;y=[3,4.5,8,10,16,20];p=polyfit(x,y,1); xi=0:0.01:7; yi=polyval(p,xi); plot(xi,yi,x,y, 'o'); y1=polyval(p,x); hold on for i=1:6plot([i,i],[y(i),y1(i)], 'r');end可以绘制出如下图形:三个准则: (1)max i e 最小 (2)1ni i e =∑最小(3)21N i i e =∑最小3.最小二乘法的直线拟合问题:对于给定的数据点(),,1,2,,i i x y i N =,求一次多项式y=a+bx ,使得总误差Q 最小。
其中()2211NNi i i i i Q e y a bx ====-+⎡⎤⎣⎦∑∑。
根据0,0.Q Qa b∂∂==∂∂ 22221222Ni i i i i i i Q y a b x y a y x b x ab =⎡⎤=++--+⎣⎦∑[]()12222Ni i i i i Q a y x b Na y b x a =∂=-+=-+∂∑∑∑ ()2212222Ni i i i i i i i i Q bx y x x a b x x y a x b =∂⎡⎤=-+=-+⎣⎦∂∑∑∑∑ 故有以下方程组(正则方程):2i iii i i aN b x y a x b x x y ⎧+=⎪⎨+=⎪⎩∑∑∑∑∑ 例1.给定数据表,求最小二乘拟合一次多项式解:N=5,51i i x =∑=702,51i i y =∑=758,521i i x =∑=99864,51i i i x y =∑=108396。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
正交性 (2.2),则称{ pn ( x )} 为以 ρ ( x )为权函数的 [a , b]
∞ 0
上的正交多项式序列 . 称 pn ( x )为以 ρ ( x )为权函数的 [a , b]上的 n次正交多项式 .
例1 考察R n与Cn的内积和范数 .
设x = ( x1 ,L, xn )T , y = ( y1 ,L, yn )T ∈ R n,则定义
内积 ( x, y) = ∑ xi yi
i =1
n
2 范数 || x ||2 = ∑ xi . i =1
n
n 1/2
1/2
若给定 ω i > 0(Fra biblioteki = 1,L, n)为权系数 , 则定义
a b
(2.1)
则称 f ( x )与 g ( x )在[a , b]上 带权 ρ ( x )正交 .
设在[a , b]给定函数族 ϕ 0 ( x ), ϕ 1 ( x ), L , ϕ n ( x ), L , 且满足 0, i ≠ k , (ϕ i ( x ), ϕ k ( x )) = ( i , k = 0,1,2, L) (2.2) Ak , i = k , 则称函数族 {ϕ n ( x )}为[a , b]上带权 ρ ( x )的正交函数族 . 特别地 , 当Ak ≡ 1时, 则称该函数系为 标准正交函数族 .
称为内积空间. (v , u)为( u,v )的共轭,当 K = R时 (v , u) = ( u,v ). 的共轭,
为一个内积空间, 定理 2 设X为一个内积空间,对 ∀u, v ∈ X , 有 | ( u, v ) |2 ≤ ( u, u)(v , v ). 称为Cauchy − Schwarz不等式.
例:
H n = span {1, x , x 2 L , x n }.
定理 1( 维尔斯特拉斯 ) 如果 f ( x ) ∈ C [a , b ],那么 ∀ ε > 0, ∃ 代数多项式 p( x ),使得 | f ( x ) − p( x ) |< ε , 对于一切 a ≤ x ≤ b . 或 || f ( x ) − p( x ) ||∞ < ε, 其中 || f ( x ) − p( x ) ||∞ = max | f ( x ) − p( x ) | .
1≤ i ≤ n
n
|| x ||1 = ∑ | x i | ,
i =1
称为1 − 范数,
n 2 || x ||2 = ∑ xi , 称为2 − 范数 . i =1 类似地, 类似地,对 C [ a , b ]上的 f ( x ),可定义三种常用范数 : || f ||∞ = max | f ( x ) | , 称为 ∞ − 范数, 范数, || f ||1 = || f ||2 =
则称 || ⋅ || 为线性空间 S上的范数,S与 || ⋅ || 一起称为 赋范线性空间 ,记为 X .
例如, 三种常用范数: 例如,对 R n上的向量 x = ( x1 ,L, xn )T ,有 三种常用范数: || x ||∞ = max | xi | , 称为∞ − 范数或最大范数, 范数或最大范数,
第3章 函数逼近与曲线拟合
§1 函数逼近的基本概念
一、函数逼近与函数空间
用简单函数逼近已知复 杂函数 . 函数逼近问题 : 对于函数类 A中给定的函数 f ( x ), 要求 在另一类较简单的便于 计算的函数类 B ⊂ A中找一个函 数p( x ), 使p( x )与 f ( x )的误差在某种度量意义 下达到最小 .
2 内积 ( x, y) = ∑ωi xi yi 范数 || x ||2 = ∑ωi xi . i =1 i =1 n n 若x , y ∈ C ,则定义加权内积 ( x , y ) = ∑ ω i xi y i .
n
i =1
定义4 定义4
设 ρ ( x )是区间 [a , b ]上的非负函数 , 如果
a≤ x≤b
对 f ( x ) ∈ C [a , b ]的 函数逼近问题 : 对 f ( x ) ∈ C [a , b ], 求 ϕ * ( x ) ∈ Φ = span {ϕ 0 , L , ϕ n }, 使得误差 f ( x ) − ϕ * ( x )在某种度量意义下最小 . 其中
ϕ 0 , L , ϕ n ⊂ C [a , b ]线性无关 .
(
1/ 2 b 2 ∫a ρ ( x ) f ( x )dx . || f (x)|| = b f 2(x)dx1/2. 2 ∫a
)
(
)
设ϕ 0 ,L,ϕ n ∈ C [a , b], 则Gram矩阵为
G = G (ϕ 0 , L , ϕ n ) (ϕ 0 , ϕ 0 ) (ϕ , ϕ ) 1 0 = M (ϕ , ϕ ) n 0 (ϕ 0 , ϕ 1 ) (ϕ 1 , ϕ 1 ) M (ϕ n , ϕ 1 ) L L L L (ϕ 0 , ϕ n ) (ϕ 1 , ϕ n ) M (ϕ n , ϕ n )
j =1 n j =1
n
n
n
⇔ ( ∑ α j u j , uk ) = 0, k = 1,L, n.
j =1
反之亦然 . ∴ G非奇异 ⇒ u1 , u2 ,L, un线性无关 (反证法 );
在内积空间 X上可以由内积导出一种 范数 , 即对 u ∈ X , 记 || u ||= ( u, u ), 由 Cauchy − Schwarz 不等式立得 . (1.10) 易证它满足范数定义的 正定性和齐次性 , 而三角不等式
定理3 为一个内积空间, 定理3 设 X为一个内积空间, u1 , u2 , L , un ∈ X , 矩阵 L ( un , u1 ) L ( un , u2 ) L M L ( un , un ) 矩阵, 称为 Gram 矩阵,则 G非奇异的充要条件是 u1 , u2 , L , un 线性无关 . ( u1 , u1 ) ( u2 , u1 ) (u , u ) ( u , u ) 2 2 1 2 G= M M ( u1 , un ) ( u2 , un )
可以为有限 或无限区间
满足条件 (1)
∫
b
a
x k ρ ( x )dx存在 , k = 0,1,2, L ;
(2) 对于[a , b ]上的非负连续函数 g ( x ), 若
∫
b
a
g ( x ) ρ ( x )dx = 0,
则在[a , b ]上 , g ( x ) ≡ 0; 就称 ρ ( x )为[a , b ]上的 权函数 .
性质: 由此得到的正交多项式 具有如下 性质: (1) pn ( x )的首项系数为 1. ( 2 )∀ Q n ( x ) ∈ H n 均可表为 p0 ( x ), p1 ( x ), L , pn ( x )的 线性组合 . ( 3 ) 当 k ≠ j时,p j , pk ) = 0, 且 pk ( x )与任一次数小于 ( k的多项式正交 .
只要给定[a , b]上的权函数 ρ ( x ), 均可由{1, x , L x n , L} 利用逐个正交化手续立 得正交多项式序列 : n−1 ( x n , p ) j n p0 ( x ) = 0, pn ( x ) = x − ∑ p j , n = 1,2,L. (2.3) j =0 ( p j , p j )
立,则称 x1 , L , x n线性无关 .
(1.1)
则称 x1 , L , x n线性相关 . 否则, 若(1.1)只对 α 1 = L = α n = 0成
若线性空间 S 是由 n 个线性无关元素 x1 , L , x n生成的 , L 即 ∀ x ∈ S , 都存在 α 1, , α n ∈ P , 使得 x = α 1 x1 + L + α n x n , 则称 x1 , L , x n为空间 S 的一组 基 ,记为 S = span { x1 , L , x n }. 并称 S 为 n维空间 .
C [a , b]:连续函数空间 C p [a , b] : 具有 p阶连续导数的函数空间
定义1 上的线性空间, 定义1 设集合 S是数域 P上的线性空间,元素 x1 , L , x n ∈ S , 如果存在不全为零的数 α 1 , L , α n ∈ P , 使得
α 1 x1 + L + α n x n = 0,
a≤ x≤b b ∫a | f ( x ) | d x,
1 2
称为 1 − 范数 , 称为 2 − 范数 .
(
b ∫a
f 2 ( x )d x ,
)
1 2
三、内积与内积空间
R n中向量 x及y定义内积 : ( x , y ) = x1 y1 + L, xn yn .
定义3 上的线性空间, 定义3 设X是数域K( R或C)上的线性空间,对∀u, v ∈ X, 中一个数与之对应, 并满足条件: 有K中一个数与之对应,记为( u, v ),并满足条件: (1) ( u,v ) = (v , u), ∀u,v ∈ X ; (2) (αu,v ) = α ( u,v ), α ∈ R; (3) ( u + v , w ) = ( u,w ) + (v,w), ∀u,v,w ∈ X ; (4) ( u, u) ≥ 0, 当且仅当u = 0时, , u) = 0. (u 则称( u, v )为X上的u与v的内积. 定义了内积的线性空间
为此 , 下面介绍代数和分析中 的一些基本概念 .
基本概念及预备知识 空间: 空间:数学上常把在各种集合中引入某些不同的确定 关系称为赋予集合以某种空间结构, 关系称为赋予集合以某种空间结构,并将这样的集合 称为空间. 称为空间 线性空间:在空间引入线性运算, 线性空间:在空间引入线性运算,称这样的集合为线 性空间. 性空间 例: R n:n维向量空间 H n:多项式空间