第三章 多元线性回归模型

ˆ ~ N ( β , σ 2c ) 故有： β j j jj j 1, 2,..., k
24
四、随机扰动项方差 的估计
2
多元回归中σ 2 的无偏估计为：
ˆ σ
2 2 e i
n-k
ˆ 或表示为 σ
2
e e
n-k
ˆ 作标准化变换： 将β k
ˆ -β ˆ -β β β zk k k k k ~ N (0,1) ˆ ) σ c SE( β jj k
注意：
x
和 y为 X,Y 的离差
20
二、OLS估计式的性质
OLS估计式
ˆ = (X X)-1 X Y 1.线性特征: β -1 ˆ 是 的线性函数，因 ( X X) X 是非随机 Y β
或取固定值的矩阵
ˆ ) β 2.无偏特性: E( β k k
21
3. 最小方差特性
ˆ 具有 在 βk 所有的线性无偏估计中，OLS估计 β k
Y AL K u
取自然对数


ln Y ln A ln L ln K ln u
8
多元总体回归函数
Y 的总体条件均值表示为多个解释变量的函数
E(Yi X 2i , X 3i ,..., X ki ) 1 2 X 2i 3 X 3i ... k X ki
Y
n 1
X
n k
β
k 1
u
n 1
12
总体回归函数
E (Y) = Xβ
或 Y = Xβ + u
样本回归函数
或 Y = Xβ ˆ+e ˆ ˆ Y = Xβ ˆ 其中：Y,Y,u,e 都是有 n 个元素的列向量
ˆ 是有 k 个元素的列向量 β, β
X 是第一列为1的 n k 阶解释变量
数据矩阵 (截距项可视为解释变量 取值为1)
ˆ ˆ X ˆ X ... ˆ X )]2 min ei2 [Yi - ( 1 2 2i 3 3i k ki
求偏导,令其为0:
( ei2 ) 0 ˆ
j
17
即 ˆ ˆ X ˆ X ... ˆ X ) 0 -2 Y ( ki ki i 1 2 2 i 3 3i
27
第三节 多元线性回归模型的检验
本节基本内容:
●多元回归的拟合优度检验 ●回归方程的显著性检验（F检验） ●各回归系数的显著性检验（t检验）
28
一、多元回归的拟合优度检验
多重决定系数：在多元回归模型中，由各个解释变量联合 解释了的 Y 的变差，在 Y 的总变差中占的比重，用 R 2 表 示 ˆ 不同，多元 与简单线性回归中决定系数 R 2 的区别只是 Y i 回归中
13
三、多元线性回归中的基本假 定
假定1：零均值假定 E(ui ) 0 ( i 1, 2, , n ) 或
E (u) = 0
假定2和假定3：同方差和无自相关假定
Cov(ui , u j ) E[(ui - Eui )(u j - Eu j )] E(ui u j )
假定4：随机扰动项与解释变量不相关
计量经济学
第三章 多元线性回归模型
1
引子:
中国汽车的保有量会达到1.4亿辆吗 ?
中国经济的快速发展，使居民收入不断增加，数以百万 计的中国人开始得以实现拥有汽车的梦想，中国也成为世界
上成长最快的汽车市场。
中国交通部副部长在中国交通可持续发展论坛上做出预 测 :“2020年，中国的民用汽车保有量将比2003年的数字 增长６倍，达到1.4亿辆左右”。 是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的，经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境，都会使中国汽车行业面临机遇和挑战。
最小方差 结论：在古典假定下，多元线性回归的 OLS估计 式是最佳线性无偏估计式（BLUE）
22
三、OLS估计的分布性质
基本思想 ˆ 是随机变量，必须确定其分布性质才可能 ● β i 进行区间估计和假设检验 ● u i是服从正态分布的随机变量 , 决定了 Yi 也 是服从正态分布的随机变量
ˆ 是 Y 的线性函数，决定了 β ˆ 也是服从正态 ● β i i i 分布的随机变量
二元回归中
ˆ X -β ˆX ˆ Y - β 1 2 2 3 3
ˆ 2
ˆ 3
2 ( yi x2i )( x3 i ) - ( yi x3i )( x2 i x3i ) 2 2 2 ( x2 )( x ) ( x x ) 2 i 3i i 3i
2 ( yi x3i )( x2 i ) - ( yi x2 i )( x2 i x3i ) 2 2 2 ( x2 )( x ) ( x x ) 2 i 3i i 3i
ˆ ˆ X ˆ X ... ˆ X ) 0 -2 X 2i Y ( ki ki i 1 2 2i 3 3i
e 0 X e 0
i 2i i
ˆ ˆ X ˆ X ... ˆ X ) 0 -2 X ki Y ( ki ki i 1 2 2 i 3 3i
Yn 1 2 X 2n 3 X 3n ... k X kn un
11
用矩阵表示
Y1 1 X 21 X k 1 β1 u1 Y 1 X β u Y X 22 k2 2 2 2 Yn 1 X 2 n X kn βk un
26
五、回归系数的区间估计
由于
t* = ˆ -β β j j ˆ ) SE( β j
^
=
ˆ -β β j j ˆ c jj σ
~ t (n - k )
给定 ，查t分布表的自由度为 n k的临界值 t 2 (n - k )
ˆ ) SE( β j ^ ^ ˆ - t SE ( β ˆ ) β β ˆ t SE ( β ˆ )] 1- α P[ β j α j j j α j P[-tα 2 (n - k ) t * ˆ -β β j j
2
怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？
（如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。 3
例如:有两个解释变量的电力消费模型
Yi 1 2 X 2 3 X 3 ui
其中: Yi 为各地区电力消费量；
X 2为各地区国内生产总值（GDP）；
X 3为各地区电力价格变动。
模型中参数的意义是什么呢?
6
多元线性回归模型的一般形式
一般形式：对于有 k - 1 个解释变量的线性回归模型
23
ˆ ˆ 的期望 E( β ) β β
(由无偏性)
ˆ 的方差和标准误差： β ˆ 的方差-协方差矩阵为 可以证明β
2 -1 ˆ Var - Cov( β ) σ ( X X ) ˆ ) σ 2c ˆ Var( β SE( β j jj j ) σ c jj
这里是 c jj 矩阵( X X )-1 中第 j 行第 j 列的元素
总体回归函数也可表示为:
Yi 1 2 X 2i 3 X 3i ... k X ki ui
9
多元样本回归函数
Y 的样本条件均值表示为多个解释变量的函数
ˆ ˆ X ˆ X ... ˆX ˆ Y i 1 2 2i 3 3i k ki
或
ˆ ˆ X ˆ X ... ˆ X e Yi 1 2 2i 3 3i k ki i
Yi 1 2 X 2i 3 X 3i ... k X ki ui
模型中参数 j ( j 1, 2,..., k ) 是偏回归系数，样本容量
为
n
偏回归系数：控制其它解释量不变的条件下，第
j 个解释变量的单位变动对应变量平均值的影响。
7
多元线性回归
指对各个回归系数而言是“线性”的，对变量则 可是线性的，也可是非线性的 例如：生产函数
第三章 多元线性回归模型
本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测
4
第一节 多元线性回归模型及古典假定
本节基本内容:
一、多元线性回归模型的意义 二、多元线性回归模型的矩阵表示 三、多元线性回归中的基本假定
5
一、多元线性回归模型的意义
25
ˆ 的标 ˆ 2代替 2 去估计参数 β 因 2 是未知的，可用
准误差:
ˆ 作标 ● 当为大样本时，用估计的参数标准误差对 β 准化变换，所得Z统计量仍可视为服从正态分布 ˆ 作标 ●当为小样本时，用估计的参数标准误差对 β
准化变换，所得的t统计量服从t分布： ˆ -β β t k ^ k ~ t (n - k ) ˆ ) SE( β k

X


ki i
e 0
注意到 ˆ ˆ X ˆ X ... ˆ X ) e Yi - ( 1 2 2i 3 3i ki ki i

18
用矩阵表示
ei 1 X e 2i i = X 21 ... X ki ei X k1 1 X 22 Xk2 1 e1 0 e 0 X 2n 2 = X e = X kn en 0