1.7_数据拟合(用MATLAB求解数学问题)

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
b = ∑ xi yi
i =1 n
xi2 ∑
i =1
n
(1.7.1)
只要 xi 不全等于 0,(1.7.1)式的分母就不等于 0. , 式的分母就不等于 然后, 然后,只要 xi 不全等于 0,就有 S ′′(b) > 0 ,所以 , b 是 S(β)的唯一极小值点,即 S(β)在 β=b 达到最小值 的唯一极小值点, 达到最小值. 的唯一极小值点 在
1.7.3 多项式拟合的原理
情况二 如果 N = m < k + 1 ,即不重复的数据点 即不重复的数据 数据点 是互异的(i=1,2,…,n),且待拟合的多项式的次数 的 xi 是互异的 , 过高,使得不重复的数据点的数目小于待定系数的个 过高,使得不重复的数据点的数目小于待定系数的个 数据点的数目 这时(1.7.5)式有无穷多解,也就是说图象经过全 式有无穷多解, 数,这时 式有无穷多解 也就是说图象经过全 部数据点 ( xi , yi ) (i=1,2,…,n)的插值多项式 y=p(x)存在 的插值多项式 存在 而且有无穷多个. 而且有无穷多个
nБайду номын сангаасn 2
其中: 等,可解得 S ( β 0 , β1 ) 的唯一驻点 (b0 , b1 ) ,其中:
b0 =
∑x ∑ y −∑x ∑x y
i =1 2 i i =1 n i i =1 i
n
n
n
n
n∑ x − ∑ xi i =1 i =1
n 2 i
i =1 2
i
i
, b1 =
n
(1.7.1)
计算确定,误差平方和由 计算确定,
SSE = ∑ ( yi − bxi )
i =1 n 2
计算得到,并作为衡量拟合效果的重要参考指标 计算得到,并作为衡量拟合效果的重要参考指标.
1.7.2 一次函数拟合的原理
数据拟合的最简单而且最常用的函数模型是一 是待定参数. 次函数 y = β1 x + β 0 ,其中 β0 和 β1 是待定参数 设已知的数据为 ( xi , yi ) (i=1,2,…,n), 则当 x = xi , 时,因变量 y 的实际值为 yi ,理论值为 β1 xi + β 0 ,误 差等于 yi − β1 xi − β 0 ,于是误差平方和为
S ( β 0 , β1 ) = ∑ ( yi − β1 xi − β 0 )
i =1 n 2
S 是 β 0 和 β1 的二元函数,会随着 β0 或 β1 变化 的二元函数, 变化.
1.7.2 一次函数拟合的原理
要按照最小二乘准则, 确定待定 β 0 和 β1 的值 分 的值( 要按照最小二乘准则, ( ,使得误差平方和 达到最小值. 别记作 b0 和 b1 ) 使得误差平方和 S 达到最小值 , 首先,计算函数 S ( β 0 , β1 ) 的驻点. 令 首先, 的驻点
∂S ∂β 0 = ∂S ∂β1 = 0
即得到被称为正规方程的线性方程组: 得到被称为正规方程的线性方程组: n n nβ 0 + ∑ xi β1 = ∑ yi i =1 i =1 n n n 2 ∑ xi β 0 + ∑ xi β1 = ∑ xi yi i =1 i =1 i =1
1.7.3 多项式拟合的原理
情况一 如果满足条件 m ≥ k + 1 ,即已知数据中 已知数据中 是互异的, 列满秩, 至少有 k+1 个 xi 是互异的,则矩阵 X 列满秩,矩阵 可逆,使误差平方和达到最小值的 X T X 可逆,使误差平方和达到最小值的至多 k 次多 项 式 是 存 在 且 唯 一 的 , 其 系 数 向 量 b = (bk , bk −1 , ⋅⋅⋅, b1 , b0 ) T 由公式
第1章
用MATLAB求解数学问题
1.7节 1.7节
数据拟合
数学建模常常会遇到数据拟合问题, 数学建模常常会遇到数据拟合问题, 即根据已知数据,按照最小二乘准则, 即根据已知数据,按照最小二乘准则,计 算出函数模型的待定参数。 算出函数模型的待定参数。本节介绍数据 拟合的数学原理和MATLAB实现。 实现。 拟合的数学原理和 实现
b = ( X T X ) −1 X T y 计算确定,相应的误差平方和为 计算确定,相应的误差平方和为
(1.7.6)
2
SSE = ∑ ( yi − b x − ⋅⋅⋅ − b1 xi − b0 )
n i =1 k k i
(1.7.7)
1.7.3 多项式拟合的原理
情况一(续) 特别的,如果满足 N = m = k + 1 , ( 特别的, 不重复的数据 数据点的 是互异的,而且待拟合的多项 即不重复的数据点的 xi 是互异的,而且待拟合的多项 式的次数恰好使得不重复的数据 点的数目 式的次数恰好使得不重复的 数据点的数目等于待定 数据 点的数目等于待定 系数的个数, 式存在唯一解( 系数的个数 ,则 (1.7.5)式存在唯一解(仍然由 式存在唯一解 仍然由(1.7.6) 式计算确定) 而且误差平方和 ,而且误差平方和(1.7.7)式恰好等于 0. 式计算确定) 而且误差平方和 , 式 计算所得的拟合多项式实际上是插值多项 这时,计算所得的拟合多项式实际上是插值多项 式,详见 5.1.2 小节.
(1.7.2)
1.7.2 一次函数拟合的原理
(1.7.2)式有唯一解当且仅当其系数矩阵行列式 式有唯一解当且仅当其系数矩阵行列式
∆ = n∑ xi2 − ∑ xi ≠ 0 i =1 i =1 根据柯西不等式等号成立的充要条件, 根据柯西不等式等号成立的充要条件,只要 xi 不全相
n i =1 k k i 2
1.7.3 多项式拟合的原理
误差平方和 S 是待定参数 β 0 、 β1 、……、 β k 共 ……、 k+1 个变量的多元函数,S 会随着 β 0 、 β1 、……、 β k 个变量的多元函数, ……、 的改变而变化. 的改变而变化 要按照最小二乘准则, ……、 要按照最小二乘准则,确定参数 β 0 、 β1 、……、 的值( ,使得误差平 、 , β k 的值(分别记作 b0 、 b1 、……、 bk ) 使得误差平 达到最小值. 方和 S 达到最小值
函 数 S ( β 0 , β1 ) 的 唯 一 的 极 小 值 点 , 即 S ( β 0 , β1 ) 在 时达到最小值. ( β 0 , β1 ) = (b0 , b1 ) 时达到最小值
1.7.2 一次函数拟合的原理
综上所述, 综上所述,根据已知数据 ( xi , yi ) (i=1,2,…,n),只 , 要 xi 不全相等,那么按照最小二乘准则,要拟合的一 不全相等,那么按照最小二乘准则, (1.7.3)式计 次函数 y = β1 x + β 0 的待定参数 β 0 和 β1 由 (1.7.3) 式计 算确定, 算确定,误差平方和由
1.7.3 多项式拟合的原理
分别代入 将已知数据 ( xi , yi ) (i=1,2,…,n)分别代入至多 k 次 分别代入至多 多项式 y=p(x)(也就是强令 y=p(x)的图象经过所有的 ( 的图象经过所有的 数据点 , ,得到有 数据点) 得到有 k+1 个未知数和 n 个方程的线性方 程组 x1k β k + ⋅⋅⋅ + x1β1 + β 0 = y1 (1.7.5) M x k β + ⋅⋅⋅ + x β + β = y n 1 0 n n k (1.7.5)式一般是超定方程组(不相容,无解) 特殊情 式一般是超定方程组 ,特殊情 式一般是超定方程组(不相容,无解) , 况下(1.7.5)式存在唯一解或存在无穷多解 式存在唯一解或存在无穷多解. 况下 式存在唯一解或存在无穷多解
当 x = xi 时,因变量 y 的实际值为 yi ,理论值为 误差是 β k xik + ⋅⋅⋅ + β1 xi + β 0 ,误差是 yi − β k xik − ⋅⋅⋅ − β1 xi − β 0 , 于是误差平方和的表达式为
S ( β 0 , β1 , ⋅⋅⋅, β k ) = ∑ ( yi − β x − ⋅⋅⋅ − β1 xi − β 0 )
1.7.1 正比例函数拟合的原理
设已知的数据为 ( xi , yi ) (i=1,2,…,n),要拟合的函 , 是待定参数. 数模型是正比例函数 y=βx,其中 β 是待定参数 , 当 x = xi 时,因变量 y 的实际值为 yi ,由正比例 函数模型得到的理论值为 β xi ,误差等于 yi − β xi . 误差平方和反映拟合的误差的总体情况: 误差平方和反映拟合的误差的总体情况: 反映拟合的误差的总体情况
1.7.3 多项式拟合的原理
记(1.7.5)式的矩阵形式为 Xβ=y,其中 式的矩阵形式为 , βk k x1 L x1 1 y1 M X = M O M M ,β = ,y= M β1 k y xn L xn 1 n n×1 n×( k +1) β 0 ( k +1)×1 对于已知数据 ( xi , yi ) (i=1,2,…,n),记 N 为不重复 , 的点的数目, 记 不重复的横坐标的数目, 的点的数目, m 为不重复的横坐标的数目, 显然有 n ≥ N ≥ m.
1.7.3 多项式拟合的原理
情况三 如果 N > m 且 m < k + 1 ,则因为 N > m , 所以(1.7.5)式无解;因为 m < k + 1 ,所以矩阵 X 的秩 式无解; 所以 式无解 所以矩阵 不是列满秩的, 于是矩阵 等于 m, , 所以矩阵 X 不是列满秩的, 于是矩阵 X T X 不 可逆, 这时不能 (1.7.6)式计算 不能由 式计算至多 次拟合多项式, 可逆, 这时不能由(1.7.6)式计算至多 k 次拟合多项式, 而且至多 次拟合多项式也不唯一 也不唯一. 而且至多 k 次拟合多项式也不唯一 综上所述,进行多项式拟合的时候, 综上所述,进行多项式拟合的时候,多项式的次 数不是越高越好,应该从一 数不是越高越好,应该从一次、二次等低次多项式开 逐渐实验 通过比较误差平方和 实验, 误差平方和, 始,逐渐实验,通过比较误差平方和,以及根据实际 对象的信息的检验,确定最佳的拟合多项式. 对象的信息的检验,确定最佳的拟合多项式
SSE = ∑ ( yi − b1 xi − b0 )
i =1 n 2
计算得到,并作为衡量拟合效果的重要参考指标 计算得到,并作为衡量拟合效果的重要参考指标.
1.7.3 多项式拟合的原理
设已知的数据为 ( xi , yi ) (i=1,2,…,n),要拟合的函 , 数模型是至多 k 次多项式 y = p ( x) = β k x k + β k −1 x k −1 + ⋅⋅⋅ + β1 x + β 0 其中 β 0 、 β1 、……、 β k 是待定参数 、 是待定参数. (1.7.4)
1.7.1 正比例函数拟合的原理
综上所述, 综上所述,根据已知数据 ( xi , yi ) (i=1,2,…,n),只 , 要 xi 不全等于 0,那么按照最小二乘准则,要拟合的 ,那么按照最小二乘准则, 正比例函数 y=βx 的待定参数 β 由
b = ∑ xi yi
i =1 n
xi2 ∑
i =1
n∑ xi yi − ∑ xi ∑ yi
i =1 i =1 i =1
n
n
n
n∑ x − ∑ xi i =1 i =1 (1.7.3)
n n 2 i
2
1.7.2 一次函数拟合的原理
然后,因为函数 S ( β 0 , β1 ) 的黑塞矩阵为 然后,
n ∂2S ∂2S 2∑ xi 2n 2 ∂β 0 ∂β1 i =1 ∂β 0 H= ≡ n n ∂2S ∂2S 2 2∑ xi 2∑ xi 2 ∂β ∂β ∂β1 i =1 i =1 0 1 不全相等, 都是正定的. 所以只要 xi 不全相等,H 都是正定的 所以 (b0 , b1 ) 是
S ( β ) = ∑ ( yi − β xi )
i =1 n 2
S 是待定参数 β 的函数,S 会随着 β 的改变而变化 的函数, 的改变而变化.
1.7.1 正比例函数拟合的原理
“最小二乘准则”即待定参数 β 的最佳选择就是 最小二乘准则” 达到最小值的那一个( 使得误差平方和 S 达到最小值的那一个(记作 b). ) 首先, 的驻点. 首先,计算函数 S(β)的驻点 由 S ′( β ) = 0 可解得 的驻点 S(β)的唯一驻点 的唯一驻点
相关文档
最新文档