多项式回归多项式对曲线的分段拟合
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
其中 k j, j1,K , k j1, k j0 为待定参数。
j 1,K , p
(5.9)
上海财经大学 统计与管理学院
18
第五章 多项式回归
多项式对曲线的分段拟合
我们在前面讲过可以化为一元线性回归的曲线回归问题。但在有 些实际问题中，用一条曲线去拟合数据，效果往往不太理想，特别在 某些点上实测值会与回归值之间存在较大的偏差，我们先看一个例 子.
序号
x
y
1
37.0
3.40
2
37.5
3.00
3
38.0
3.00
4
38.5
2.27
5
39.0
2.10
6
39.5
1.83
7
40.0
1.53
8
40.5
1.70
9
41.0
1.80
10
41.5
1.90
11
42.0
2.35
12
42.5
2.54
13
43.0
2.90
上海财经大学 统计与管理学院
2
第五章 多项式回归
上海财经大学 统计与管理学院
7
第五章 多项式回归
多项式回归
表 5.2 Northwind Trader 公司的销售额数据
年
月 月销售额 年 月 月销售额
1996
7 27861.89
6
36362.80
8 25485.27
7
51020.86
9 26381.40
8
47287.67
10 37515.72
9
L
p xn
上海财经大学 统计与管理学院
14
第五章 多项式回归
正交多项式回归
从而
n
XX
1 xi 12 xi
L
2 xi 1 xi 2 xi
L
L L
L
p xi
1 xi p
xi
L
2 p
xi
源自文库
上海财经大学 统计与管理学院
15
第五章 多项式回归
正交多项式回归
为使 XX 成为对角阵，只要适当选取1(x),K , p (x) ，使得下列条件满
上海财经大学 统计与管理学院
19
第五章 多项式回归
多项式对曲线的分段拟合
例5.4
在某个试验中测得如下 11 组 x 与 y 的值；
序号
x
y
1
4.9
607
2
9.9
308
3
14.7
378
4
19.8
270
5
24.2
250
6
29.1
236
7
35.0
231
8
40.4
233
9
42.1
上海财经大学 统计与管理学院
(5.6)
13
第五章 多项式回归
正交多项式回归
其中 j x是 x 的 j 次多项式， j 1, 2,K , p ，（5.6）对应的结构矩阵为
1
X
1
1 x1 1 x2
L
2 x1 2 x2
L
L L
1 1 xn 2 xn L
p p
x1 x2
第五章 多项式回归
多项式回归
例 5.1 某种合金中的主要成份为金属 A 与金属 B ，经过试验和分析， 发现这两种金属成份之和 x 与膨胀系数 y 之间有一定的数量关系。为 此收集了如下 13 组数据：见表 5.1
上海财经大学 统计与管理学院
1
第五章 多项式回归
多项式回归
表 5.1 合金中的主要成份之和 x 与膨胀系数 y 数据
上海财经大学 统计与管理学院
8
第五章 多项式回归
多项式回归
上海财经大学 统计与管理学院
9
第五章 多项式回归
多项式回归
y 随 x 的变化可以用一个三次多项式加上误差来描述：
yi 0 1xi 2 xi2 3xi3 i ,
上海财经大学 统计与管理学院
10
第五章 多项式回归
多项式回归
上海财经大学 统计与管理学院
上海财经大学 统计与管理学院
12
第五章 多项式回归
正交多项式回归
设 p 次多项式回归模型为
yi 0 1xi L pxip i ,i 1, 2,K , n
由于此时 XX不是对角阵，故设法改写成下列模型：
yi 0 11(xi ) K p p (xp ) i , i 1, 2,K , n
多项式回归
上海财经大学 统计与管理学院
3
第五章 多项式回归
多项式回归
从散点图可以看出， y 随 x 的变化可以用一个二次多项式加上误差来
描述：
yi 0 1xi 2 xi2 i , i 1,2,K ,13,
(5.1)
其中各 i 独立同分布，均服从 N0, 2 。
上海财经大学 统计与管理学院
4
足：
j xi 0,
j 1,K , p
j xi k xi 0, j k, j, k 1,K , p
(5.7)
我们称满足条件(5.7)的一组多项式 1(x),K ,p (x) 为在 x1, x2 K , xn 点上
的正交多项式。
上海财经大学 统计与管理学院
16
第五章 多项式回归
11
第五章 多项式回归
正交多项式回归
多项式回归本质上并不存在困难，但是它存在缺点。由于 XX 通 常是非对角阵，因而当次数 p 较大时，解正则方程求回归系数的计算 量较大，且精度会降低，此外由于 ˆ 的各分量之间存在相关，因而剔 除任意一项时都需要重新计算。一般情况下，要使 XX成为对角阵比 较困难，然而在有些情况下是容易办到的，下面我们仅就 x1, x2,K , xn 等 间隔取值的情况加以讨论，即仍 xi xi1 h(常数）， i 1, 2,K , n 1。
第五章 多项式回归
多项式回归
y 关于 x 的二次多项式回归方程为：
yˆ 257 .063 12.62 x 0.156 x2.
上海财经大学 统计与管理学院
5
第五章 多项式回归
多项式回归
上海财经大学 统计与管理学院
6
第五章 多项式回归
多项式回归
例 5.2 Northwind Trader 公司的销售额数据见表 5.2，应用上述方法 进行非线性回归分析，并预测 98 年 5 月和 6 月的销售额。
55629.24
11 45600.04
10
66749.23
12 45239.63
11
43533.81
1997
1 61258.07
12
71398.43
2
38483.63 1998 1
94225.31
3 38547.22
2
99415.29
4 53032.95
3 104901.65
5 53781.29
4 123798.68
正交多项式回归
讨论正交多项式的一种形式。
设
xi x0 ih
i 1,K , n
其中 x0 , h 是常数。则
n 1 x x0 2 h
xi x 2k1 0, k 1, 2,K
上海财经大学 统计与管理学院
17
第五章 多项式回归
正交多项式回归
令 x 的 j 次多项式有如下形式：
j (x) x j k j, j1x j1 L k j1x k j0
j 1,K , p
(5.9)
上海财经大学 统计与管理学院
18
第五章 多项式回归
多项式对曲线的分段拟合
我们在前面讲过可以化为一元线性回归的曲线回归问题。但在有 些实际问题中，用一条曲线去拟合数据，效果往往不太理想，特别在 某些点上实测值会与回归值之间存在较大的偏差，我们先看一个例 子.
序号
x
y
1
37.0
3.40
2
37.5
3.00
3
38.0
3.00
4
38.5
2.27
5
39.0
2.10
6
39.5
1.83
7
40.0
1.53
8
40.5
1.70
9
41.0
1.80
10
41.5
1.90
11
42.0
2.35
12
42.5
2.54
13
43.0
2.90
上海财经大学 统计与管理学院
2
第五章 多项式回归
上海财经大学 统计与管理学院
7
第五章 多项式回归
多项式回归
表 5.2 Northwind Trader 公司的销售额数据
年
月 月销售额 年 月 月销售额
1996
7 27861.89
6
36362.80
8 25485.27
7
51020.86
9 26381.40
8
47287.67
10 37515.72
9
L
p xn
上海财经大学 统计与管理学院
14
第五章 多项式回归
正交多项式回归
从而
n
XX
1 xi 12 xi
L
2 xi 1 xi 2 xi
L
L L
L
p xi
1 xi p
xi
L
2 p
xi
源自文库
上海财经大学 统计与管理学院
15
第五章 多项式回归
正交多项式回归
为使 XX 成为对角阵，只要适当选取1(x),K , p (x) ，使得下列条件满
上海财经大学 统计与管理学院
19
第五章 多项式回归
多项式对曲线的分段拟合
例5.4
在某个试验中测得如下 11 组 x 与 y 的值；
序号
x
y
1
4.9
607
2
9.9
308
3
14.7
378
4
19.8
270
5
24.2
250
6
29.1
236
7
35.0
231
8
40.4
233
9
42.1
上海财经大学 统计与管理学院
(5.6)
13
第五章 多项式回归
正交多项式回归
其中 j x是 x 的 j 次多项式， j 1, 2,K , p ，（5.6）对应的结构矩阵为
1
X
1
1 x1 1 x2
L
2 x1 2 x2
L
L L
1 1 xn 2 xn L
p p
x1 x2
第五章 多项式回归
多项式回归
例 5.1 某种合金中的主要成份为金属 A 与金属 B ，经过试验和分析， 发现这两种金属成份之和 x 与膨胀系数 y 之间有一定的数量关系。为 此收集了如下 13 组数据：见表 5.1
上海财经大学 统计与管理学院
1
第五章 多项式回归
多项式回归
表 5.1 合金中的主要成份之和 x 与膨胀系数 y 数据
上海财经大学 统计与管理学院
8
第五章 多项式回归
多项式回归
上海财经大学 统计与管理学院
9
第五章 多项式回归
多项式回归
y 随 x 的变化可以用一个三次多项式加上误差来描述：
yi 0 1xi 2 xi2 3xi3 i ,
上海财经大学 统计与管理学院
10
第五章 多项式回归
多项式回归
上海财经大学 统计与管理学院
上海财经大学 统计与管理学院
12
第五章 多项式回归
正交多项式回归
设 p 次多项式回归模型为
yi 0 1xi L pxip i ,i 1, 2,K , n
由于此时 XX不是对角阵，故设法改写成下列模型：
yi 0 11(xi ) K p p (xp ) i , i 1, 2,K , n
多项式回归
上海财经大学 统计与管理学院
3
第五章 多项式回归
多项式回归
从散点图可以看出， y 随 x 的变化可以用一个二次多项式加上误差来
描述：
yi 0 1xi 2 xi2 i , i 1,2,K ,13,
(5.1)
其中各 i 独立同分布，均服从 N0, 2 。
上海财经大学 统计与管理学院
4
足：
j xi 0,
j 1,K , p
j xi k xi 0, j k, j, k 1,K , p
(5.7)
我们称满足条件(5.7)的一组多项式 1(x),K ,p (x) 为在 x1, x2 K , xn 点上
的正交多项式。
上海财经大学 统计与管理学院
16
第五章 多项式回归
11
第五章 多项式回归
正交多项式回归
多项式回归本质上并不存在困难，但是它存在缺点。由于 XX 通 常是非对角阵，因而当次数 p 较大时，解正则方程求回归系数的计算 量较大，且精度会降低，此外由于 ˆ 的各分量之间存在相关，因而剔 除任意一项时都需要重新计算。一般情况下，要使 XX成为对角阵比 较困难，然而在有些情况下是容易办到的，下面我们仅就 x1, x2,K , xn 等 间隔取值的情况加以讨论，即仍 xi xi1 h(常数）， i 1, 2,K , n 1。
第五章 多项式回归
多项式回归
y 关于 x 的二次多项式回归方程为：
yˆ 257 .063 12.62 x 0.156 x2.
上海财经大学 统计与管理学院
5
第五章 多项式回归
多项式回归
上海财经大学 统计与管理学院
6
第五章 多项式回归
多项式回归
例 5.2 Northwind Trader 公司的销售额数据见表 5.2，应用上述方法 进行非线性回归分析，并预测 98 年 5 月和 6 月的销售额。
55629.24
11 45600.04
10
66749.23
12 45239.63
11
43533.81
1997
1 61258.07
12
71398.43
2
38483.63 1998 1
94225.31
3 38547.22
2
99415.29
4 53032.95
3 104901.65
5 53781.29
4 123798.68
正交多项式回归
讨论正交多项式的一种形式。
设
xi x0 ih
i 1,K , n
其中 x0 , h 是常数。则
n 1 x x0 2 h
xi x 2k1 0, k 1, 2,K
上海财经大学 统计与管理学院
17
第五章 多项式回归
正交多项式回归
令 x 的 j 次多项式有如下形式：
j (x) x j k j, j1x j1 L k j1x k j0