第五章+曲线拟合
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
6 1 6 ti i 0 6 Ri ti a i 0 i 0 b 6 6 2 t i ti Ri i 0 i 0
6
计算得: 解得:
7 245.3 a 565.5 245.3 9325.83 b 20049.445
i i
5.1 曲线拟合的概念(续)
而曲线拟合法不要求满足插值条件,而只要求其偏差 ri P xi yi i 0,1,, m 按某种标准最小,则函数称为拟合函数。 几何解释:求一条曲线,它未必经过所有已知点,但 它能反映出数据的基本趋势,且误差最小,效果比较好使 得数据点整体上较好地近似曲线。
n
n j a x j i i 0 j 0
m m 2 i 0
2 m n n k ak xik a x k i k 0 i 0 k 0
g xi 0
因此有
g xi ak xik 0
m xi i 0 m x n i i 0
i 0 m
m
i
x
i 0
2 i
x
i 0
m
n 1 i
a0 0 m xin 1 a1 0 i 0 an 0 m xi2 n i 0
第五章 曲线拟合
5.1
曲线拟合的概念 5.2 最小二乘法的基本原理 5.3 多项式拟合 5.4 最小二乘拟合多项式的存在唯一性
5.1 曲线拟合的概念
在科学实验和统计研究中,往往要从大量实验数 据 x , y i 0,1,, m 中去寻求自变量x和因变量y之间的函
i i
T 2A (A x b) 0 T T A Ax A b
上式是n阶方程组,称为原方程组对应的正规方程组(或正则方程 组,法方程组).故超定方程组的最小二乘解一定是相应的正规方 10 程组的解
5.3 多项式拟合
对于给定的一组数据 x , y i 0,1,, m ,求作n次多项式
a 70.572
b 0.291
可得R与t的拟合直线为 R 70.572 0.291t 。
5.3 多项式拟合(续)
R 70.572 0.291t
利用已有函数关系式,可以预测不同温度时,铜导 线的电阻值。例如,由R=0可得t=242.5;当温度为 t=242.5度时,铜导线R=0,即此时铜导线无电阻。
5.2 超定方程组的解
设有线性方程组
a11 x1 a12 x2 a1n xn b1 a21 x1 a22 x2 a2n xn b2
n
am1 x1 am 2 x2 amn xn bm
j 1
或 (i 1,2,, m) , Ax b aij x j bi
5.4 最小二乘拟合多项式的存在唯一性(续)
上机作业: 用最小二乘曲线拟合法完成实习题5:2的数据拟 合,并与插值法计算的近似结果进行比较:比较节 点处两种方法的近似函数值有何不同。
i 0
m
n i
5.4 最小二乘拟合多项式的存在唯一性(续)
可表示为
m j k xi ak 0 k 0 i 0
n
j 0,1,, n
式(4)
该奇次线性方程组必存在非零解。由式(4)的一组 非零解 ak k 0,1,, n 构造一个n次多项式
k 0
n k k
n
i 0,1,, m
即n次多项式 g x a x 有m+1个互异零点 xi i 0,1,, m 而m+1>n,与代数学基本定理矛盾,故假设成立, 因此法方程组式(3)必存在唯一解。
k 0
5.4 最小二乘拟合多项式的存在唯一性(续)
注意,定理中点 xi i 0,1,, m 互异的要求,只是 充分条件,而非必要条件。在实际应用中,一般是 m>>n,此时,即使有些点 xi 相同,定理的结论往 往仍然成立。
n
5.1 曲线拟合的概念(续)
插值法是寻求近似函数的方法之一,其与曲线拟 合法的区别: 插值法满足插值条件 Px y i 0,1,, m 插值法在一定程度上解决了由函数表求其近似表 达式的问题,但是其对于大数据量的情况下,其 存在 明显的缺陷: 运算量大 高次差值时存在龙格现象 分段低次插值表达式不统一
5.4 最小二乘拟合多项式的存在唯一性
定理:设点 x0 , x1 ,, xm 互异,则法方程组式(3)之解 存在而且唯一。 证:由Cramer法则知,只需证明法方程组式(3)的系 数矩阵非奇异,即可证得其解存在唯一解。用反证 法,假设法方程组式(3)的系数矩阵奇异,考虑其对 应的齐次线性方程组 m 1 x x
y
y P x
o
x
5.1 曲线拟合的概念(续)
本章主要介绍曲线拟合中最为常用的最小二乘法 的基本原理,与插值法类似,拟合函数的类型可有不 同的选择,主要讨论多项式拟合问题的求解方法。
5.1 曲线拟合的概念(续)
曲线拟合问题就是:对给定的数据 x , y i 0,1,, m , 在取定的函数类 中,求 Px ,使偏差 r Px y i 0,1,, m 的平方和最小,即 m m 式(1) 2 r P x y 2 min
5.3 多项式拟合(续)
由于式(2)中 Q 可看作是 a0 , a1 ,, an 的多元函数, 所以上述拟合多项式的构造问题可归结为多元函数的 极值问题。由多元函数极值的必要条件知,a j 0,1,, n 满足 Q 2 a x y x 0 j 0,1, , n a
i i
5.1 曲线拟合的概念(续)
通常实验数据 x , y i 0,1,, m 是带有误差的,如果 要求所得曲线精确无误通过的通过数据点,就会使曲 线保留实验误差,这是我们所不希望的。 因此,如何从函数表出发,寻找一个简单合理的 的函数近似表达式来拟合给定的一组数据,使得近似 曲线能反映数据的基本趋势,这正是我们下面要讨论 的曲线拟合方法。
g x ak x k
k 0 n
则由式(4)可得:
5.4 最小二乘拟合多项式的存在唯一性(续)
n m j k m n n a j xi ak a j ak xi j k j 0 i 0 j 0 k 0 k 0 i 0
数关系
y f x
,当然求得的只是 y Px 的近似表达式。
确定y与x之间的近似表达式 方法一 插值。几何上,插值曲线经过所有点 方法二 曲线拟合。求一连续曲线 y p ( x ), 使得 误差Q
[ p( x i ) y i ] 达到最小。
2 i0
5.3 多项式拟合(续)
例:测得温度 t i 时铜导线的电阻 R i 如下表,求电 阻R与温度t的近似函数表达式。
i
ti
Ri
5.3 多项式拟合(续)
解:
可以看出,分布形状近似为一条直线,所以,拟合 函数取为一次式 R a bt 。
5.3 多项式拟合(续)
所以法方程组源自文库:
i i i i i
i 0
i
i 0
i
i
从几何上讲,就是寻求在给定m+1个点 x0 , x1 ,, xm 处与 实验数据 x0 , y0 , x1 , y1 ,, xm , ym 的距离平方和最小的曲线 y P x ,这就是最小二乘曲线拟合问题。满足式(1) 的函数 Px 称最小二乘拟合函数,求最小二乘拟合 函数 Px 的方法称为曲线拟合的最小二乘法。
m 2 m n 2
它是一种最优近似解 . 最小二乘解的求法 : 设 x1 , x 2 , , x n是最小二乘解 , 则由高数知,多元函数 Q Q ( x1 , x 2 , , x n )必在该点偏导数为零:
9
5.2 超定方程组的解
Q x 1 a11 Q a12 x2 2 a 1n Q x n a21 a22 a2 n n a1 j x j b1 j 1 0 am 1 n a x b am 2 2 j j 2 0 j 1 0 amn n amj x j bm j 1
i i
n m
Pn x a0 a1 x an x ak x k
n k 0
n
使其满足
Q P xi yi
i 0 m 2
n ak xik yi 2 min i 0 k 0
m
式(2)
这样的曲线拟合问题叫做多项式拟合问题。满足式(2) 的多项式 Pn x 叫做最小二乘拟合多项式。特别地,当 n=1时,一次多项式拟合又叫做直线拟合。
m m n i
式(3)
称之为法方程组或正规方程组。法方程组的一个明 显特点是其系数矩阵为对称的,如果它非奇异,则 法方程组式(3)必存在唯一的一组解。
5.3 多项式拟合(续)
从式(3)中求出
ak k 0,1,, n ,从而可得多项式
n
Pn x ak x k
k 0
可以证明,上式 Pn x 确实使式(2)成立,即 Pn x 为所求的最小二乘拟合多项式。
j
m
n
j
i 0
k 0
k k i
j
i
i
即
m m j k xi ak xi j yi k 0 i 0 i 0 n
j 0,1,, n
这是关于系数 a0 , a1 ,, an 的线性方程组,可写成矩阵 形式:
5.3 多项式拟合(续)
m 1 m xi i 0 m x n i i 0 m xi x yi i 0 i 0 a0 i 0 m m m 2 n 1 xi yi xi xi a1 i 0 i 0 i 0 an m m m 2n n 1 n x x x i i i yi i 0 i 0 i 0
一.定义 若m>n时,方程数大于未知数个数,称为超定方程组,通常 无解。
8
5.2 超定方程组的解
因超定方程组无解,故偏差(残量)
i aij x j bi
j 1
n
( i 1, 2, , m )
不全为零.若能找到一组 x1 , x 2 , , x n , 使偏差平方和 Q i a ij x j bi (6.2) i 1 i 1 j 1 达最小,则称该 x1 , x 2 , , x n为超定方程组的最小二乘解 ,
6
计算得: 解得:
7 245.3 a 565.5 245.3 9325.83 b 20049.445
i i
5.1 曲线拟合的概念(续)
而曲线拟合法不要求满足插值条件,而只要求其偏差 ri P xi yi i 0,1,, m 按某种标准最小,则函数称为拟合函数。 几何解释:求一条曲线,它未必经过所有已知点,但 它能反映出数据的基本趋势,且误差最小,效果比较好使 得数据点整体上较好地近似曲线。
n
n j a x j i i 0 j 0
m m 2 i 0
2 m n n k ak xik a x k i k 0 i 0 k 0
g xi 0
因此有
g xi ak xik 0
m xi i 0 m x n i i 0
i 0 m
m
i
x
i 0
2 i
x
i 0
m
n 1 i
a0 0 m xin 1 a1 0 i 0 an 0 m xi2 n i 0
第五章 曲线拟合
5.1
曲线拟合的概念 5.2 最小二乘法的基本原理 5.3 多项式拟合 5.4 最小二乘拟合多项式的存在唯一性
5.1 曲线拟合的概念
在科学实验和统计研究中,往往要从大量实验数 据 x , y i 0,1,, m 中去寻求自变量x和因变量y之间的函
i i
T 2A (A x b) 0 T T A Ax A b
上式是n阶方程组,称为原方程组对应的正规方程组(或正则方程 组,法方程组).故超定方程组的最小二乘解一定是相应的正规方 10 程组的解
5.3 多项式拟合
对于给定的一组数据 x , y i 0,1,, m ,求作n次多项式
a 70.572
b 0.291
可得R与t的拟合直线为 R 70.572 0.291t 。
5.3 多项式拟合(续)
R 70.572 0.291t
利用已有函数关系式,可以预测不同温度时,铜导 线的电阻值。例如,由R=0可得t=242.5;当温度为 t=242.5度时,铜导线R=0,即此时铜导线无电阻。
5.2 超定方程组的解
设有线性方程组
a11 x1 a12 x2 a1n xn b1 a21 x1 a22 x2 a2n xn b2
n
am1 x1 am 2 x2 amn xn bm
j 1
或 (i 1,2,, m) , Ax b aij x j bi
5.4 最小二乘拟合多项式的存在唯一性(续)
上机作业: 用最小二乘曲线拟合法完成实习题5:2的数据拟 合,并与插值法计算的近似结果进行比较:比较节 点处两种方法的近似函数值有何不同。
i 0
m
n i
5.4 最小二乘拟合多项式的存在唯一性(续)
可表示为
m j k xi ak 0 k 0 i 0
n
j 0,1,, n
式(4)
该奇次线性方程组必存在非零解。由式(4)的一组 非零解 ak k 0,1,, n 构造一个n次多项式
k 0
n k k
n
i 0,1,, m
即n次多项式 g x a x 有m+1个互异零点 xi i 0,1,, m 而m+1>n,与代数学基本定理矛盾,故假设成立, 因此法方程组式(3)必存在唯一解。
k 0
5.4 最小二乘拟合多项式的存在唯一性(续)
注意,定理中点 xi i 0,1,, m 互异的要求,只是 充分条件,而非必要条件。在实际应用中,一般是 m>>n,此时,即使有些点 xi 相同,定理的结论往 往仍然成立。
n
5.1 曲线拟合的概念(续)
插值法是寻求近似函数的方法之一,其与曲线拟 合法的区别: 插值法满足插值条件 Px y i 0,1,, m 插值法在一定程度上解决了由函数表求其近似表 达式的问题,但是其对于大数据量的情况下,其 存在 明显的缺陷: 运算量大 高次差值时存在龙格现象 分段低次插值表达式不统一
5.4 最小二乘拟合多项式的存在唯一性
定理:设点 x0 , x1 ,, xm 互异,则法方程组式(3)之解 存在而且唯一。 证:由Cramer法则知,只需证明法方程组式(3)的系 数矩阵非奇异,即可证得其解存在唯一解。用反证 法,假设法方程组式(3)的系数矩阵奇异,考虑其对 应的齐次线性方程组 m 1 x x
y
y P x
o
x
5.1 曲线拟合的概念(续)
本章主要介绍曲线拟合中最为常用的最小二乘法 的基本原理,与插值法类似,拟合函数的类型可有不 同的选择,主要讨论多项式拟合问题的求解方法。
5.1 曲线拟合的概念(续)
曲线拟合问题就是:对给定的数据 x , y i 0,1,, m , 在取定的函数类 中,求 Px ,使偏差 r Px y i 0,1,, m 的平方和最小,即 m m 式(1) 2 r P x y 2 min
5.3 多项式拟合(续)
由于式(2)中 Q 可看作是 a0 , a1 ,, an 的多元函数, 所以上述拟合多项式的构造问题可归结为多元函数的 极值问题。由多元函数极值的必要条件知,a j 0,1,, n 满足 Q 2 a x y x 0 j 0,1, , n a
i i
5.1 曲线拟合的概念(续)
通常实验数据 x , y i 0,1,, m 是带有误差的,如果 要求所得曲线精确无误通过的通过数据点,就会使曲 线保留实验误差,这是我们所不希望的。 因此,如何从函数表出发,寻找一个简单合理的 的函数近似表达式来拟合给定的一组数据,使得近似 曲线能反映数据的基本趋势,这正是我们下面要讨论 的曲线拟合方法。
g x ak x k
k 0 n
则由式(4)可得:
5.4 最小二乘拟合多项式的存在唯一性(续)
n m j k m n n a j xi ak a j ak xi j k j 0 i 0 j 0 k 0 k 0 i 0
数关系
y f x
,当然求得的只是 y Px 的近似表达式。
确定y与x之间的近似表达式 方法一 插值。几何上,插值曲线经过所有点 方法二 曲线拟合。求一连续曲线 y p ( x ), 使得 误差Q
[ p( x i ) y i ] 达到最小。
2 i0
5.3 多项式拟合(续)
例:测得温度 t i 时铜导线的电阻 R i 如下表,求电 阻R与温度t的近似函数表达式。
i
ti
Ri
5.3 多项式拟合(续)
解:
可以看出,分布形状近似为一条直线,所以,拟合 函数取为一次式 R a bt 。
5.3 多项式拟合(续)
所以法方程组源自文库:
i i i i i
i 0
i
i 0
i
i
从几何上讲,就是寻求在给定m+1个点 x0 , x1 ,, xm 处与 实验数据 x0 , y0 , x1 , y1 ,, xm , ym 的距离平方和最小的曲线 y P x ,这就是最小二乘曲线拟合问题。满足式(1) 的函数 Px 称最小二乘拟合函数,求最小二乘拟合 函数 Px 的方法称为曲线拟合的最小二乘法。
m 2 m n 2
它是一种最优近似解 . 最小二乘解的求法 : 设 x1 , x 2 , , x n是最小二乘解 , 则由高数知,多元函数 Q Q ( x1 , x 2 , , x n )必在该点偏导数为零:
9
5.2 超定方程组的解
Q x 1 a11 Q a12 x2 2 a 1n Q x n a21 a22 a2 n n a1 j x j b1 j 1 0 am 1 n a x b am 2 2 j j 2 0 j 1 0 amn n amj x j bm j 1
i i
n m
Pn x a0 a1 x an x ak x k
n k 0
n
使其满足
Q P xi yi
i 0 m 2
n ak xik yi 2 min i 0 k 0
m
式(2)
这样的曲线拟合问题叫做多项式拟合问题。满足式(2) 的多项式 Pn x 叫做最小二乘拟合多项式。特别地,当 n=1时,一次多项式拟合又叫做直线拟合。
m m n i
式(3)
称之为法方程组或正规方程组。法方程组的一个明 显特点是其系数矩阵为对称的,如果它非奇异,则 法方程组式(3)必存在唯一的一组解。
5.3 多项式拟合(续)
从式(3)中求出
ak k 0,1,, n ,从而可得多项式
n
Pn x ak x k
k 0
可以证明,上式 Pn x 确实使式(2)成立,即 Pn x 为所求的最小二乘拟合多项式。
j
m
n
j
i 0
k 0
k k i
j
i
i
即
m m j k xi ak xi j yi k 0 i 0 i 0 n
j 0,1,, n
这是关于系数 a0 , a1 ,, an 的线性方程组,可写成矩阵 形式:
5.3 多项式拟合(续)
m 1 m xi i 0 m x n i i 0 m xi x yi i 0 i 0 a0 i 0 m m m 2 n 1 xi yi xi xi a1 i 0 i 0 i 0 an m m m 2n n 1 n x x x i i i yi i 0 i 0 i 0
一.定义 若m>n时,方程数大于未知数个数,称为超定方程组,通常 无解。
8
5.2 超定方程组的解
因超定方程组无解,故偏差(残量)
i aij x j bi
j 1
n
( i 1, 2, , m )
不全为零.若能找到一组 x1 , x 2 , , x n , 使偏差平方和 Q i a ij x j bi (6.2) i 1 i 1 j 1 达最小,则称该 x1 , x 2 , , x n为超定方程组的最小二乘解 ,