第三章 经典单方程计量经济学模型 多元线性回归模型

X X X
ki
X
ki

X 1i
ˆ 0 1 1 ˆ X 11 X 12 1i ki 1 2 ˆ X ki k X k1 X k 2
1 Y1 X 1 n Y 2 X kn Yn
即
ˆ (XX)β XY
由于X’X满秩，故有 ˆ β (XX) 1 XY
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
17
• 将上述过程用矩阵表示如下：
即求解方程组：
ˆ ˆ ( Y Xβ)(Y Xβ) 0 ˆ β
ˆ ˆ ˆ ˆ (Y Y β X Y Y Xβ β X Xβ) 0 ˆ β
1 μ 2 n n 1
用来估计总体回归函数的样本回归函数为：
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
6
ˆ ˆ ˆ ˆ ˆ Yi 0 1 X 1i 2 X 2i ki X ki
也被称为总体回归函数的随机表达形式。它 的 非随机表达式为:
E (Yi | X 1i , X 2i , X ki ) 0 1 X 1i 2 X 2i k X ki
表示：各变量X值固定时Y的平均响应。
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※

可求得： ( X X) 于是：
1
0.0003 0.7226 0.0003 1.35 E 07
103 .172 0.7770
ˆ 1 0.7226 0.0003 15674 ˆ β ˆ 2 0.0003 1.35 E 07 39648400
5
1 1 X 1
0 1 β 2 k
X 11 X 12 X 1n
X 21 X 22 X 2n

X k1 X k2 X kn n ( k 1 )
( k 1 )1
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
14
一、普通最小二乘估计
• 对于随机抽取的n组观测值 (Yi , X ji ), i 1,2,, n, j 0,1,2,k 如果样本函数的参数估计值已经得到，则有：
ˆ ˆ ˆ ˆ ˆ Yi 0 1 X 1i 2 X 2 i ki X Ki
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
21
⃟样本回归函数的离差形式
假设4，向量 有一多维正态分布，即
μ~ N (0, 2 I )
同一元回归一样，多元回归还具有如下两个重 要假设：
假设5，样本容量趋于无穷时，各解释变量的 方差趋于有界常数，即n∞时，
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
11
1 2 1 x ji ( X ji X j ) 2 Q j n n
一、普通最小二乘估计
*二、最大或然估计
*三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
13
说 明
估计方法：
3大类方法：OLS、ML或者MM
– 在经典模型中多应用OLS
–
–
在非经典模型中多应用ML或者MM
在本节中， ML与MM为选学内容
解该（k+1） 个方程组成的线性代数方程组，即
$ ,, 可得到(k+1) 个待估参数的估计值 j , j 012,, k 。
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
16
□正规方程组的矩阵形式
n X 1i X ki
X X

1i 2 1i
i=1,2…,n
其中:k为解释变量的数目，j称为回归参数 （regression coefficient）。
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
3
习惯上：把常数项看成为一虚变量的系数，该虚变量的 样本观测值始终取1。于是：模型中解释变量的数目为 （k+1）
Yi 0 1 X 1i 2 X 2 i k X ki i
一、多元线性回归模型
二、多元线性回归模型的基本假定
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
2
一、多元线性回归模型
多元线性回归模型:表现在线性回归模型中的 解释变量有多个。 一般表现形式：
Yi 0 1 X 1i 2 X 2 i k X ki i
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
10
假设3，E(X’
i E ( i ) X 1i i X 1i E ( i ) )=0，即 E 0 X X E ( ) Ki i Ki i
ˆ ˆ ˆ) (Y Y 2Y Xβ βXXβ 0 ˆ β
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
18
ˆ X Y X Xβ 0
得到： 于是：
ˆ XY XXβ
ˆ (XX) 1 XY β
例3.2.1：在例2.1.1的家庭收入-消费支出例中，
或
1 x x Q n
其中：Q为一非奇异固定矩阵，矩阵x是
由各解释变量的离差为元素组成的nk阶矩阵
x11 x x 1n x k1 x kn
假设6，回归模型的设定是正确的。
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
12
第二节 多元线性回归模型的估计
E( i ) 0
2 i 2
i j i, j 1,2,, n
Var(i ) E( ) Cov( i , j ) E( i j ) 0
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
8
假设3，解释变量与随机项不相关
Cov( X ji , i ) 0
i 1 2 i i 1
n
n
ˆ ˆ ˆ ˆ (Yi ( 0 1 X 1i 2 X 2i k X ki ))
i 1
n
2
※※朱慧明 ※※ 湖南大学工商管理学院※※
• 于是得到关于待估参数估计值的正规方程组：
ˆ ˆ ˆ ˆ ( 0 1 X 1i 2 X 2i k X ki ) Yi ˆ ˆ ˆ ˆ ( 0 1 X 1i 2 X 2 i k X ki ) X 1i Yi X 1i ˆ ˆ ˆ ˆ ( 0 1 X 1i 2 i X 2i k X ki ) X 2i Yi X 2 i ˆ ˆ ˆ ˆ ( 0 1 X 1i 2 X 2i k X ki ) X ki Yi X ki
假设4，随机项满足正态分布
j 1,2, k
i ~ N (0, 2 )
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
9
上述假设的矩阵符号表示 式：
假设1，n(k+1)矩阵X是非随机的，且X的秩 =k+1，即X满秩。
假设2，
1 E (1 ) E (μ) E 0 E ( ) n n
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
20
⃟正规方程组 的另一种写法
对于正规方程组
ˆ XY XXβ
ˆ ˆ X Xβ X e X Xβ
于是
X e 0
(*)
或
e
i
i
0
ji i
X
e 0
(**)
(*)或（**）是多元线性回归模型正规方程组 的另一种写法。
4
j也被称为偏回归系数，表示在其他解释变量保持不变
的情况下，X j每变化1个单位时，Y的均值E(Y)的变化; 或者说j 给出了X j的单位变化对Y均值的“直接” 或“净”（不含其他变量）影响。
其中
Y Xβ μ
总体回归模型n个随机方程的矩阵表达式为:
2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
i=1,2…n
• 根据最 小二乘原 理，参数 估计值应 该是右列 方程组的 解
2013-7-19
ˆ 0 ˆ 1 ˆ 2 ˆ k
Q 0 Q 0 Q 0 Q 0
15
其 中
ˆ Q e (Yi Yi ) 2
ˆ ˆ ˆ ˆ 其随机表示式: Yi 0 1 X 1i 2 X 2i ki X ki ei
ei称为残差或剩余项(residuals)，可看成是 总体回归函数中随机扰动项i的近似替代。
样本回归函数的矩阵表达:
ˆ ˆ Y Xβ
或
e1 e e 2 e n
7
ˆ Y Xβ e
其中：
ˆ 0 ˆ ˆ 1 β ˆ k

2013-7-19
※※朱慧明 ※※ 湖南大学工商管理学院※※
二、多元线性回归模型的基本假定