第5章 多元线性回归模型

计量经济学
第5章 多元线性回归模型
1
引子:
中国汽车的保有量会达到1.4亿辆吗 ?
中国经济的快速发展，使居民收入不断增加，数以百万 计的中国人开始得以实现拥有汽车的梦想，中国也成为世界
上成长最快的汽车市场。
中国交通部副部长在中国交通可持续发展论坛上做出预 测 :“2020年，中国的民用汽车保有量将比2003年的数字 增长６倍，达到1.4亿辆左右”。 是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的，经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境，都会使中国汽车行业面临机遇和挑战。
例如:有两个解释变量的电力消费模型
Yi 0 1 X1 2 X 2 ui
其中: Yi 为各地区电力消费量；
X 1为各地区国内生产总值（GDP）；
X 1为各地区电力价格变动。
模型中参数的意义是什么呢?
6
多元线性回归模型的一般形式
一般形式：对于有 k 个解释变量的线性回归模型
Yi 0 1 X 1i 2 X 2i ... k X ki ui
21
3. 最小方差特性
ˆ 在 βk 所有的线性无偏估计中，OLS估计 βk 具有
最小方差 结论：在古典假定下，多元线性回归的 OLS估计 式是最佳线性无偏估计式（BLUE）
22
三、OLS估计的分布性质
基本思想 ˆ ● βi 是随机变量，必须确定其分布性质才可能 进行区间估计和假设检验 ● u i是服从正态分布的随机变量, 决定了 Yi 也 是服从正态分布的随机变量
Y
n1
X
n k
β
k 1
u
n 1
12
总体回归函数
E(Y) = Xβ
或 Y = Xβ + u
样本回归函数
或 Y = Xβ + e ˆ ˆ ˆ = Xβ Y ˆ 其中：Y,Y,u,e 都是有 n 个元素的列向量
ˆ β, β 是有 k 个元素的列向量
X 是第一列为1的 n k 阶解释变量
数据矩阵 (截距项可视为解释变量 取值为1)
13
三、多元线性回归中的基本假 定
假定1：零均值假定 E(ui ) 0 ( i 1,2,, n) 或
E (u) = 0
假定2和假定3：同方差和无自相关假定
Cov(ui , u j ) E[(ui - Eui )(u j - Eu j )] E(uiu j )
假定4：随机扰动项与解释变量不相关
ˆ ˆ ˆ ˆ ˆ Y i = β 0 + β1 X 1i + β 2 X 2i +...+ β k X ki
这里是 c jj 矩阵( X X )-1 中第 j 行第 j 列的元素
ˆ 故有： β j ~ N ( β j , σ 2c jj ) j 1, 2,..., k
24
四、随机扰动项方差 的估计
2
多元回归中σ 2 的无偏估计为：
ˆ σ
2
ei2 n - k -1
ˆ 或表示为 σ
2
e e
2 i= j
0 (i j )
Cov( X ji , ui ) 0
j 2,3,, k
14
假定5:无多重共线性假定
(多元中)
假定各解释变量之间不存在线性关系，或各个
解释变量观测值之间线性无关。或解释变量观
测值矩阵X 列满秩( k 列)。
Rank ( X ) k
即 X X 可逆 假定6：正态性假定
或:
ˆ ˆ ˆ ˆ P[ β j - tα σ c jj β j β j tα σ c jj ] 1- α
2 2
ˆ ˆ ˆ ˆ β 或表示为: j ( β j - t 2( n-k ) σ c jj , β j t 2( n -k ) σ c jj )
27
第三节 多元线性回归模型的检验（重点）

X


ki i
e 0
注意到 ˆ ˆ ˆ ˆ Yi - ( 0 1 X 1i 2 X 2i ... ki X ki ) ei

18
用矩阵表示
ei 1 X 1i ei X 11 = ... X ki ei X k1 1 X 12 Xk2 1 e0 0 0 X 1n e1 = X e = X kn en 0
P[-tα 2 (n - k -1) t
*
ˆ βj - βj
^
ˆ SE( β j ) ^ ^ ˆ - t SE ( β ) β β t SE ( β )] 1- α ˆ ˆ ˆ P[ β j α j j j α j
2 2
tα 2 (n - k -1)] 1- α
( j 1,..., k )
ˆ ˆ ˆ ˆ -2 X 1i Yi - ( 0 1 X 1i 2 X 2i ... ki X ki ) 0
e 0 X e 0
i 2i i
ˆ ˆ ˆ ˆ -2 X ki Yi - ( 0 1 X 1i 2 X 2i ... ki X ki ) 0
Yi 0 1 X1i 2 X 2i ... k X ki ui
9
多元样本回归函数
Y 的样本条件均值表示为多个解释变量的函数
ˆ ˆ ˆ ˆ ˆ Yi 0 1 X1i 2 X 2i ... k X ki
或
ˆ ˆ ˆ ˆ Yi 0 1 X1i 2 X 2i ... k X ki ei
n - k -1
ˆ 将 βk 作标准化变换：
ˆ ˆ β k - β k β k - βk zk ~ N (0,1) ˆ SE( βk ) σ c jj
25
ˆ ˆ 因 2 是未知的，可用 2代替 2 去估计参数 β 的标
准误差:
ˆ ● 当为大样本时，用估计的参数标准误差对 β 作标 准化变换，所得Z统计量仍可视为服从正态分布 ˆ ●当为小样本时，用估计的参数标准误差对 β 作标


ln Y ln A ln L ln K ln u
8
多元总体回归函数
Y 的总体条件均值表示为多个解释变量的函数
E(Yi X1i , X 2i ,..., X ki ) 0 1 X 1i 2 X 2i ... k X ki
总体回归函数也可表示为:
准化变换，所得的t统计量服从t分布： ˆ βk - βk t ~ t (n - k -1) ^ ˆ SE( βk )
26
五、回归系数的区间估计
由于*
t = ˆ βj - βj ˆ SE( β j )
^
=
ˆ βj - βj ˆ σ c jj
~ t (n - k -1)
给定 ，查t分布表的自由度为 n k -1的临界值t 2 (n - k -1)
本节基本内容:
●多元回归的拟合优度检验 ●回归方程的显著性检验（F检验） ●各回归系数的显著性检验（t检验）
28
一、多元回归的拟合优度检验
多重可决系数：在多元回归模型中，由各个解释变量联合 解释了的 Y 的变差，在 Y 的总变差中占的比重，用 R 2 表 示 ˆ 与简单线性回归中可决系数 R 2 的区别只是 Yi 不同，多元 回归中
2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。 3
二元回归中
ˆ ˆ ˆ 0 Y - β1 X 1 - β2 X 2
ˆ 2
ˆ 2
2 ( yi x1i )( x2i ) - ( yi x2i )( x1i x2i ) 2 ( x12i )( x2i ) - ( x1i x2i ) 2
( yi x2i )( x12i ) - ( yi x1i )( x1i x2i )
2 ( x12i )( x2i ) - ( x1i x2i ) 2
注意：
x
和 y为 X,Y 的离差
20
二、OLS估计式的性质
OLS估计式
ˆ 1.线性特征: β = (X X)-1 X Y ˆ 是 Y 的线性函数，因 ( X X)-1 X 是非随机 β
或取固定值的矩阵
ˆ 2.无偏特性: E( βk ) βk
第5章 多元线性回归模型
本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测
4
第一节 多元线性回归模型及古典假定
本节基本内容:
一、多元线性回归模型的意义 二、多元线性回归模型的矩阵表示 三、多元线性回归中的基本假定
5
一、多元线性回归模型的意义
2 i
ˆ ˆ ˆ ˆ min ei2 [Yi - ( 0 1 X 1i 2 X 2i ... k X ki )]2
求偏导,令其为0:
( ei2 ) 0 ˆ
j
17
即 ˆ ˆ ˆ ˆ -2 Yi - ( 0 1 X 1i 2 X 2i ... ki X ki ) 0