第三章多元线性回归模型(计量经济学北京大学,岳昌君).pptx

Yn 1 2 X n2 K X nK un
5
样本形式的矩阵表示
样本形式的矩阵表示：
Y1 1
Y2
1
X 12
X 22
X1K 1 u1
X 2K
2
u2
Yn 1 X n2 X nK K un
或
Yn1 X nK K1 un1
6
二、古典假定 1
A1:
0
X 1
uˆ
0
X1uˆ
0
X k wenku.baidu.com
X kuˆ
1
特别地，由X1uˆ以及X1
得
1n1
uˆ
1 n
n i 1
uˆi
0
19
四、样本回归超平面的特性1
Y Xˆ
性质1：样本回归超平面过均值点。即，Y Xˆ
其中Y
1 n
n
Yi , X
i 1
(X1, X 2, X k )
X
j
1 n
n i 1
14
§2 OLS的估计— 的OLSE
问题：估计K1和 2
二、OLS估计
1、问题的提出：Yi ˆ1 ˆ2 X i2 ˆk X ik uˆi
或Yˆi ˆ1 ˆ2 X i2 ˆk X ik
考虑uˆ1，uˆ2，, uˆn
(1)uˆ1小 | uˆ1 | 小（; 2）| uˆ1 |，,| uˆn | 小
Y 1X1 2 X 2 K X K u
其中：Y是被解释变量； X1， X K是解释变量； X1 1是截距项 X 2， X K是K个解释变量（国内称K 1元）
3
总体形式的说明
Y 1X1 2 X 2 K X K u
其中：
1, 2，，K 存在未知；
1是截距项系数； 2， K 是斜率项系数；
X 2和X 3近似相关的情况： 1.9
2.1
2.05 1.95
9
二、古典假定 3
A3 : un1是随机向量 ui为随机变量
注：不是说u取值为u1，，un
而是说ui (i 1,2,, n)随机，取值为
u (1) i
,
ui(
2)
,
10
二、古典假定 4
A4 : 零期望 E(un1) 0 E(ui ) 0(i 1,2,, n)
2、残差形式：X uˆ 0
证明1：因为X Xˆ X Y 所以X Y X Xˆ 0 X (Y Xˆ) 0 X uˆ 0 证明2：因为Y Xˆ uˆ 所以X Y X Xˆ X uˆ X uˆ X Y X Xˆ 0
18
三、OLS的正规方程的几何意义
3、几何意义
X1
X
k
uˆ
由 uˆuˆ
ˆ
2(Y X
)
2X
Xˆ
0
2X Y 2X Xˆ 0
16
§2 OLS的估计— 的OLSE
二阶导数：
由 2uˆuˆ
ˆ 2
2X
X
由于X X是实对称阵，r（X） k
所以X X为正定阵
因此，ˆ为极小值点。
17
三、OLS的正规方程的表达式
1、求解形式：
X Xˆ X Y ˆ ( X X )1 X Y
X ij ,
j
1,2, k; X1
1
证明：Yi ˆ1 ˆ2 X i2 ˆk X ik uˆi
进行 1 n
n i1
计算得，Y
ˆ1 ˆ2 X 2 ˆk X k uˆ
uˆ 0，Y Xˆ
20
四、样本回归超平面的特性2
性质2：Yˆ Y
证明：Yˆi ˆ1 ˆ2 X i2 ˆk X ik
n
2
n
2
uˆ 2 uˆi Yi Yˆi
i 1
i 1
n
2
Yi ˆ1 ˆ2 X i2 ˆk X ik uˆuˆ
i 1
15
§2 OLS的估计— 的OLSE
2、原理：已知X和Y，求ˆk1 min uˆ 2 min uˆuˆ min(Y Xˆ)(Y Xˆ)
min(Y Y 2Y Xˆ ˆX Xˆ)
例如：收入不同的家庭，其消费波动程度相同
12
二、古典假定 6
A6 : un1 ~ N (0, 2I )
说明： (1)古典假定下 — OLS成立 (2)实际操作，不验证假设，直接用OLS估计 (3)回归结果由检验来看假定是否成立
13
§2 OLS的估计— 的OLSE
问题：估计K1和 2
一、样本回归模型（SRM）
8
二、古典假定 2（续）
例子 : Y 1 2 X 2 3 X 3 u
而X 3 c1 c2 X 2
则Y (1 c13 ) (2 c23 ) X 2 u
1 2 X 2
21
c13 c2 3
1 2
求1，2，3有无穷多解
实际问题中：可能存在多重共线性，X为病态矩阵
2.1 2
11
二、古典假定 5
A5 :同方差，不相关
var(un1 )
2I
cvoavr((uuii
) ,uj
2
)
(i 1,2,, n) 0(i j,无自相关)
var(ui ) 2说明u1, u2 ,, un同方差
var(Yi ) 2说明Y1,Y2 ,,Yn同方差
含义：解释变量取值不同，
但是被解释变量的方差相同。
第三章:多元回归分析
1
本章主要内容
§ 1 K变量线性回归模型 § 2 参数的估计 § 3 随机扰动项的方差的估计 § 4 拟合优度检验 § 5 单参数t显著性检验 § 6 一般线性F假设检验 § 7 置信区间 § 8 预测
（小结）
2
§ 1 K变量线性回归模型
一、K变量线性回归模型的数学形式 1、总体形式
Y对变量：Y X i
i ,与X1，X 2，，X K无关；
Y对参数：Y
i
X i ,与1, 2，，K无关；
u是随机扰动项
4
2、样本形式
样本形式：
Yi 1 2 X i2 K X iK ui (i 1,2,, n)
即
Y1 1 2 X12 K X1K u1 Y2 1 2 X 22 K X 2K u2
1、样本回归模型：Y Xˆ uˆ （比较总体模型：Y X u） 2、样本回归超平面：Yˆ Xˆ
3、残差向量：uˆ Y Yˆ
例如：Yˆ ˆ1 ˆ2 X 样本回归直线 Yˆ ˆ1 ˆ2 X 2 ˆ3 X 3 样本回归平面 Yˆ ˆ1 ˆ2 X 2 ˆ3 X 3 ˆ4 X 4 样本回归超平面
X nK为非随机样本矩阵
X
为固定变量
i
含义 :
cov(X i , u) 0
7
二、古典假定 2
A2 : r( X nk ) k X1,, X k线性无关 无多重共线性
其中X i
X 1i
,
变量的样本向量线性无关。
X ni
含义：r( X X ) k 的估计值唯一；
问题：若r( X X ) k 的估计值不唯一；