应用统计方法第四章-回归分析88页

n
n
通常取s2 1 Q(ˆ)为2的估计量，且为2无偏估计量
n m1
定理：设rank(C) m1 n,则E(s2) 2
14.04.2020
应用统计方法第四章
10
14.04.2020
应用统计方法第四章
11
14.04.2020
应用统计方法第四章
12
体现 Y的 了观y测 1,y2, 值 yn总的波动 总大 的小 偏差 lyy(TS)S
应用统计方法第四章
i x im 0
7
1 2 n 0 1x11 2x21 nxn1 0
1x1m 2x2m nxnm 0
1
x1 1
x1m
1 x21 x2m
1 1 0
xn1
2
Fra Baidu bibliotek
0
xnmn
0
C0
Y C
CC CY
CY 14.04.2020CC C ˆ 应用统计方法第四章 CC 1CY 8
而且解释变量之间互不相关 • 随机误差项具有零均值和同方差
• 随机误差项在不同样本点之间是相互独立的，不存在 序列相关
co i,v j) (0 ,i j,i,j 1 ,2 , n
14.04.2020
应用统计方法第四章
5
• 随机误差项与解释变量之间不相关 coxvi,(i)0
• 随机误差项服从零均值，同方差的正态分 布
Yy2 , C1 x21 x22 x2m
(1n X)
ynn1
1 xn1
xn2
xn
mn(m1)
b0
b
1
b
m
(
m
1
)1
1
2
n
Y C ,E 0 n ,D ()2 In
14.04.2020
应用统计方法第四章
4
• 一、多元线性回归模型的基本假定 • 解释变量x1,x2,…,xm是确定性变量，不是随机变量，
16
14.04.2020
应用统计方法第四章
17
算出检p值 验， 的对于与给 水定 平 。 显如 著 p果 性 ，
拒绝原假设， 程即 显回 著归 。方 否则 假， 设接受
14.04.2020
应用统计方法第四章
18
14.04.2020
应用统计方法第四章
19
14.04.2020
应用统计方法第四章
20
14.04.2020
应用统计方法第四章
2
第一节 多元线性回归
Yi b0b1xi1b2xi2bmximi,i1,2n E(i)0,Va(ri)2,covi,(j)0(ij) ori ~N(o,2)相 , 互独 i1 立 ,2（ n） .
14.04.2020
应用统计方法第四章
3
y1
1 x11 x12 x1m
eixpi 0
yi yi2 yi yˆi2 yˆi y2
TSSRSSESS
• 例2中，方差分析表为：
TS:S总的偏差R平 S:回 S方归 和平方和 ES： S 残差平方和
ANOVbA
Sum of
Model
Squares
1
Regres8s0io3n.816
df Mean Square F 3 267.939 20.939
Q ˆ
0
Q
bˆ1
2
yi bˆ0 bˆ1xi1 bˆp xip xi1 0
Q
bˆm
2
yi bˆ0 bˆ1xi1 bˆm xim xim 0
2 i 0
i 0
2 i x i1 0
i x i1 0
2 14.04.2020
x 0 i im
def
设Yˆ Cˆ C(CC)1CY HY为Y的预测向量值
其中Hnn C(CC)1C称为“帽子”矩阵
此时残差向量 ˆ 为 YYˆ (In H)Y 且残差平方和 Q(为 ˆ) ˆˆ Y(In H)Y YYYCˆ
其中(In H)2 (In H)
最小二乘估计的统质 计性
1 ˆ是的最小方差线性无计 偏估
• 例如：若某公司管理人员要预测来年该公 司的销售额y时，研究认为影响销售额的因 素不只是广告宣传费x1,还有个人可支配收 入x2,价格x3,研究与发展费用x4,各种投资 x5,销售费用x6.
14.04.2020
应用统计方法第四章
1
• 多元线性回归 • 回归变量的选择与逐步回归。 • 可化为多元线性回归的问题
i ~N(0,2)
14.04.2020
应用统计方法第四章
6
• 二、建立回归方程
•设
Y ˆib ˆ0b ˆ1xi1 b ˆ2xi2 b ˆm xim
iyiy ˆiyib ˆ0b ˆ1xi1 b ˆ2xi2 b ˆm xim
• 令 即 Q
2 i
Q bˆ0
2
yi bˆ0 bˆ1xi1 bˆp xip 0
14.04.2020
应用统计方法第四章
21
14.04.2020
应用统计方法第四章
22
14.04.2020
应用统计方法第四章
23
14.04.2020
应用统计方法第四章
24
14.04.2020
应用统计方法第四章
14.04.2020
应用统计方法第四章
14
yi yi yi yˆiyˆi y
y
yi yi2 yi yˆi2 yˆi y2 2yi yˆiyˆi y
y yˆ
yi yˆiyˆi yeiyˆi y eiyˆi eiy
yˆ y
ei bˆ0 bˆ1x1i bˆpxpi bˆ0
ei bˆ1
eix1i bˆp
2 ˆ ~ Nm1(,2(CC)1)
3 在 ~ Nn(0,2In)的假设下， ˆ还是一切无偏估计中
方差最小的估计
14.04.2020
应用统计方法第四章
9
可以证ˆ也 明是 的最大似然. 估计
2的估计：
2的最大似然估计为 ˆ2
1 n
n i1
[yi
(bˆ0
bˆ1xi1
bˆpxip)]2
1 (Y Cˆ)(Y Cˆ) 1Q(ˆ)
Sig. .000a
Residu2a0l 4.734
16 12.796
Total 1008.550
19
a.Predictors: (Constant), x3, x1, x2
14.04.2020 b.Dependent Varia应ble用:统y计方法第四章
15
14.04.2020
应用统计方法第四章
体现 n个 了 估yˆ1计 ,yˆ2,值 yˆn的波动大小 Y与 ， 自 它 x1变 ,x2是 量 xp由 之间确有线 过 x1性 ,x2关 xp的系 变并 化通 而 回引 归起 平 .U(M 方 S )
n
ˆi2残差平方和Q， (or记 ES为 S)
14.04.2020
i1
应用统计方法第四章
13