《数学建模回归分析》PPT课件

例1 测16名成年女子的身高与腿长所得数据如下：
身高
143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164
(cm)
腿长
88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102
(cm)
以身高x为横坐标，以腿长y为纵坐标将这些数据点（xi，yi）在平面直角坐标系上 标出.
3．残差分析，作残差图： rcoplot(r,rint)
y 0 1x1 ... p x p
1．确定回归系数的点估计值：
b=regress( Y, X )
b
ˆ0 ˆ1
Y1
Y
Y2
Yn
ˆp
对一元线性回归，取 p=1 即可
1 x11 x12 X 1 x21 x22
x1p
x2
p
1 xn1
xn2
...
xnp
2．求回归系数的点估计和区间估计、并检验回归模型 [b, bint,r,rint,stats]=regress(Y,X,alpha)
一元线性回归分析的主要任务是：
1．用试验值（样本值）对 0 、 1 和 作点估计；
2．对回归系数 0 、 1 作假设检验；
3．在 x= x0 处对 y 作预测，对 y 作区间估计.
返回
二、模型参数估计
1．回归系数的最小二乘估计
有 n 组独立观测值（x1，y1），（x2，y2），…，（xn，yn）
选择 0 ,..., k 使 Q 达到最小．
解得估计值 ˆ X T X 1 X T Y
得到的ˆi 代入回归平面方程得：
y ˆ0 ˆ1x1 ... ˆk xk
注意： ˆ 服从 p+1 维正态分布，
且为 的无偏估计，协方差阵 为 2C .C=L-1=(cij), L=X T X
设
yi 0 x1 i ,i 1, 2,..., n
E
i
0,
D i
2
且1 2 ,..., n相互独立
n
n
记
Q Q(0 , 1)
2 i
yi 0 1xi 2
i 1
i 1
最小二乘法就是选择 0 和 1 的估计 ˆ0 ， ˆ1 使得
Q(ˆ0
,
ˆ1 )
min
0 ,1
Q( 0
,
1 )
数学建模
回归分析
回归分析
统计工具箱中的回归分析命令
一元线性回归
多元线性回归
* *
* *
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验
性可 回线 归性
（化
曲的
线一
回元
归非
）线
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验多 与元 预线 测性
回 归
逐 步 回 归 分 析
中
的
一、数学模型
回 归 系
残 差
置 信 区
数
间
显著性水平 （缺省时为0.05）
的
用于检验回归模型的统计量，
区
有三个数值：相关系数r 2、
间 估
F值、与F 对应的概率p
计
相关系数 r2 越接近 1，说明回归方程越显著；
F > F1-α（k，n-k-1）时拒绝 H0，F 越大，说明回归方程越显著；
与 F 对应的概率 p 时拒绝 H0，回归模型成立.
解得
ˆ0 y ˆ1x
ˆ1
xy x2
xy x2
n
xi x yi y
或 ˆ1 i1 n
xi x2
i 1
其中 x
1 n
n i 1
xi , y
1 n
n i 1
yi
， x2
1 n
n i 1
xi 2 , xy
1 n
n i 1
xi yi
.
（经验）回归方程为:
yˆ ˆ0 ˆ1x y ˆ1(x x)
检验
F 检验
当 H 0 成立时，
F
U
~F（1，n-2）
Qe /(n 2)
n
其中 U yˆi y 2 （回归平方和）(SSR) i 1
n
记 Qe Q(ˆ0 , ˆ1 )
yi ˆ0 ˆ1xi 2 n ( yi yˆi )2
i 1
i 1
称 Qe 为残差平方和或剩余平方和(SSE).
2．回归分析及检验： [b,bint,r,rint,stats]=regress(Y,X)
b,bint,stats
得结果：b =
bint =
To MATLAB(liti11)
-16.0730 0.7194 stats =
0.9282 180.9531
-33.7071 1.5612 0.6047 0.8340
最后得 y 11.6789e x
一、数学模型及定义
一般称
Y X
E(
)
0,
COV(
,
)
2
I
n
为高斯-马尔可夫线性模型(k 元线性回归模型)，并简记为 (Y , X , 2 I n )
y1
1 x11 x12 ... x1k
0
1
Y
y2
，
X
1
x21
x22
...
x2
k
，
1
，
2
2． 2 的无偏估计
n
记 Qe Q(ˆ0 , ˆ1 )
yi ˆ0 ˆ1xi 2 n ( yi yˆi )2
i 1
i 1
称 Qe 为残差平方和或剩余平方和(SSE).
2 的无偏估计为
ˆ
2 e
Qe
(n 2)
称
ˆ
2 e
为剩余方差（残差的方差），
ˆ
2 e
分别与
ˆ0
、
ˆ1
独立.
ˆ e 称为剩余标准差.
称为经验回归平面方程.ˆi 称为经验回归系数.
2. 多项式回归
设变量 x、Y 的回归模型为 Y 0 1x 2 x2 ... p x p
其中 p 是已知的， i (i 1,2,, p) 是未知参数， 服从正态分布 N (0, 2 ) .
Y 0 1x 2 x 2 ... k x k
2)
四、可线性化的一元非线性回归 （曲线回归）
例2 出钢时所用的盛钢水的钢包，由于钢水对耐火材料的侵蚀， 容积不断增大.我们希望知道使用次数与增大的容积之间的关 系.对一钢包作试验，测得的数据列于下表：
使用次数
2 3 4 5 6 7 8 9
增大容积
6.42 8.20 9.58 9.50 9.70 10.00 9.93 9.99
102
100
98
96
94
92
90
88
86
84
140
145
150
155
160
165
解答
y 0 1x (1)
散点图
一般地，称由(1)确定的模型为一元线性回归模型， 记为
y 0 1x E 0, D 2 固定的未知参数 0 、 1 称为回归系数，自变量 x 也称为回归变量.
Y 0 1x ，称为 y 对 x 的回归直线方程.
0 和 1 置信水平为 1-α的置信区间分别为
ˆ
0
t 1 2
(n
2)ˆ e
1 n
x2 Lxx
,
ˆ0
t
1 2
(n
2)ˆ e
1
x2
n Lxx
和
ˆ1
t
1 2
(n
2)ˆ e
/
Lxx
,
ˆ1
t
1
(n
2)ˆ e
/
2
Lxx
2 的置信水平为 1- 的置信区间为
Qe
2 1
(n
2
2)
,
2
2
Qe (n
使用次数
10 11 12 13 14 15 16
增大容积
10.49 10.59 10.60 10.80 10.60 10.90 10.76
解答
11
曲线回归 10.5 10
9.5
9
8.5
散
8
点
图
7.5
7
6.5
6
2
4
6
8
10
12
14
16
此即非线性回归或曲线回归
问题（需要配曲线）
配曲线的一般方法是：
先对两个变量 x 和 y 作 n 次试验观察得 (xi , yi ), i 1,2,..., n 画出散点图，
3．画出残差及其置信区间： rcoplot（r，rint）
例1 解： 1．输入数据：
x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 16
题目
164]';
X=[ones(16,1) x];
Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]';
（4）倒指数曲线 y=a eb / x 其中 a>0，
（5）对数曲线 y=a+blog x,x>0
（6）S
型曲线
y
a
1 bex
解例 2.由散点图我们选配到指数曲线 y=a eb / x 根据线性化方法，算得 bˆ 1.1107 , Aˆ 2.4587
返回
由此 aˆ eAˆ 11.6789