Matlab教程课件-回归分析

身高 143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164
腿长
88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102
以身高x为横坐标，以腿长y为纵坐标将这些数据点（xI，yi） 在平面直角坐标系上标出.
数学建模与数学实验
回归分析
2020/11/11
后勤工程学院数学教研室
1
实验目的
1、直观了解回归分析基本内容。 2、掌握用数学软件求解回归分析问题。
实验内容
1、回归分析的基本理论。 2、用数学软件求解回归分析问题。 3、实验作业。
回归分析
一元线性回归
多元线性回归
* *
* *
数 学 模 型 及 定 义
Q ( ˆ 0
,
ˆ1 )
min
0 ,1
Q(
0
,
1
)
2020/11/11
6
解得
ˆ0 y ˆ1x
ˆ1
xy x2
xy x2
n
xi xyi y
或 ˆ1 i1 n
xi x 2
i 1
n i1
n i1
n i1
n i1
其中 x 1
xi , y 1
yi ， x 21
xi , xy
0 和 1 置信水平为 1-α的置信区间分别为
ˆ
0
t1 2
(n
2)ˆ e
1 n
x2 Lxx
, ˆ0
t1 2
(n
2)ˆ e
1
x2
n Lxx
和
ˆ1
t
1 2
(n
2)ˆ e
/
Lxx
,
ˆ1
t
1
(n
2)ˆ
e
/
2
Lxx
2 的置信水平为 1- 的置信区间为
2 1 2
Qe (n
2)
,
2
2
Qe (n
假设 H 0 : 1 0 被拒绝，则回归显著，认为 y 与 x 存在线性关 系，所求的线性回归方程有意义；否则回归不显著，y 与 x 的关系 不能用一元线性回归模型来描述，所得的回归方程也无意义.
2020/11/11
9
（Ⅰ）F检验法
当 H 0 成立时，
F
U
~F（1，n-2）
Qe /(n 2)
n
模 型 参 数 估 计
2020/11/11
检 验 、 预 测 与 控 制
性可 回线 归性 （化 曲的 线一 回元 归非 ）线
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验 与 预 测
多 元 线 性 回
归
中
的
逐 步 回 归 分 析
3
一、数学模型
例1 测16名成年女子的身高与腿长所得数据如下：
解答
102
100
98
y 0 1x
96
94
92
90
88
86
84
140
145
150
155
160
165
2020/11/11
散点图
4
一般地，称由 y 0 1 x 确定的模型为一元线性回归模型， 记为
y 0 1x E 0, D 2 固定的未知参数0 、 1 称为回归系数，自变量 x 也称为回归变量.
i 1
i 1
2020/11/11
10
（Ⅲ）r检验法
n
(xi x)( yi y)
记
r
i 1
n
n
(xi x)2 ( yi y)2
i 1
i 1
当|r|> r1-α时，拒绝 H0；否则就接受 H0.
其中 r1
1
1 n 2 F1 1, n 2
2020/11/11
11
2、回归系数的置信区间
其中 U yˆi y2 （回归平方和） i 1
故 F> F1 (1, n 2) ，拒绝H 0 ，否则就接受H 0 .
（Ⅱ）t检验法 当 H 0 成立时，T
Lxx ˆ1 ~t（n-2） ˆ e
Hale Waihona Puke 故Tt1(n
2)
，拒绝H
0
，否则就接受H 0
.
2n
n
其中Lxx (xi x)2 xi2 nx 2
2
1
xi yi .
n
n
n
n
（经验）回归方程为:
yˆ ˆ0 ˆ1x y ˆ1(x x)
2020/11/11
7
2、 2 的无偏估计
n
记 Qe Q(ˆ0 , ˆ1 )
yi ˆ0 ˆ1xi
2
n
( yi yˆi )2
i 1
i 1
称 Qe 为残差平方和或剩余平方和.
2 的无偏估计为
和 x ，即 yˆ (x) y, yˆ (x) y .
则x, x 就是所求的 x 的控制区间.
2020/11/11
返回
14
四、可线性化的一元非线性回归 （曲线回归）
例2 出钢时所用的盛钢水的钢包，由于钢水对耐火材料的侵蚀， 容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验，测得的数据列于下表：
2)
2020/11/11
12
3、预测与控制
（1）预测
用 y0 的回归值 yˆ0 ˆ0 ˆ1x0 作为 y0的预测值.
y0 的置信水平为1 的预测区间为
yˆ0 (x0 ), yˆ0 (x0 )
其中 (x0 ) ˆ et1 (n 2) 2
1 1 x0 x2
n
Lxx
特别，当 n 很大且 x0 在x 附近取值时,
有 n 组独立观测值，（x1，y1），（x2，y2），…，（xn，yn）
设
yi 0 x1 i , i 1,2,..., n E i 0, D i 2 且1 2，..., n相互独立
n
n
记
Q Q(0 , 1)
2 i
yi 0 1xi 2
i 1
i 1
最小二乘法就是选择0 和 1 的估计ˆ0 ， ˆ1 使得
y 的置信水平为1 的预测区间近似为
yˆ
ˆ e u1 2
,
yˆ
ˆ
e u1 2
2020/11/11
13
（2）控制
要求： y 0 1x 的值以1 的概率落在指定区间y, y
只要控制 x 满足以下两个不等式
yˆ (x) y, yˆ (x) y
要求 y y 2 (x) .若 yˆ (x) y, yˆ (x) y 分别有解x
Y 0 1x ，称为 y 对 x 的回归直线方程.
一元线性回归分析的主要任务是：
1、用试验值（样本值）对0 、 1 和 作点估计；
2、对回归系数0 、 1 作假设检验；
3、在 x=x0 处对 y 作预测，对 y 作区间估计.
2020/11/11
返回 5
二、模型参数估计
1、回归系数的最小二乘估计
ˆ
2 e
Qe
(n 2)
称ˆ
2 e
为剩余方差（残差的方差），
ˆ
2 e
分别与ˆ0
ˆ e 称为剩余标准差.
、ˆ1 独立 。
2020/11/11
返回
8
三、检验、预测与控制
1、回归方程的显著性检验 对回归方程Y 0 1x 的显著性检验，归结为对假设 H 0 : 1 0; H1 : 1 0
进行检验.