第三章 多元线性回归模型

1
3、总体回归函数（PRF）：将总体被解释变量Y的条件 、总体回归函数（ ）：将总体被解释变量 均值表现为解释变量X 的某种函数
E (Yi X i ) = β1 + β 2 X i or Yi = β1 + β 2 X i + ui
样本回归函数（ ）：将被解释变量 样本回归函数（SRF）：将被解释变量Y 的样本条件均 值表示为解释变量X 的某种函数
16
多元线性回归模型的一般形式
一般形式： 一般形式：对于有 k -1个解释变量的线性回归模型 个解释变量的线性回归模型
Yi = β1 + β 2 X 2 i + β 3 X 3i + ... + β k X ki + ui
模型中参数 β j ( j = 1,2,..., k) 是偏回归系数，样本容量 是偏回归系数， 为
∑x
2 i
ˆ SE ( β1 ) = σ
N ∑ xi2
OLS估计式是最佳线性无偏估计式。 估计式是最佳线性无偏估计式。 估计式是最佳线性无偏估计式
5
7、 σ 2 的无偏估计
σ2 =
^
ei2 ∑ n−2
8、对回归系数区间估计的思想和方法
ˆ ˆ ˆ ˆ P[ β 2 − tα SE ( β 2 ) ≤ β 2 ≤ β 2 + tα SE ( β 2 )] = 1 − α
取自然对数
α
β
ln Y = ln A + α ln L + β ln K + ln u
19
多元总体回归函数
Y 的总体条件均值表示为多个解释变量的函数
E(Yi X2i , X3i ,..., Xki ) = β1 + β2 X2i + β3 X3i + ... + βk Xki
总体回归函数也可表示为: 总体回归函数也可表示为:
本节基本内容: 本节基本内容:
一、多元线性回归模型的意义 二、多元线性回归模型的矩阵表示 三、多元线性回归中的基本假定
15
一、多元线性回归模型的意义
例如:有两个解释变量的电力消费模型 例如 有两个解释变量的电力消费模型
Yi = β1 + β2 X2 + β3 X3 + ui
其中: 为各地区电力消费量； 其中 Yi 为各地区电力消费量； 为各地区国内生产总值（ ） X 2为各地区国内生产总值（GDP）； 为各地区电力价格变动。 X 3为各地区电力价格变动。 模型中参数的意义是什么呢? 模型中参数的意义是什么呢
E (ui ) = 0
E (Yi ) = β1 + β 2 X i
Var (ui ) = Var (Yi ) = σ 2
无自相关假定: 无自相关假定 Cov(ui , u j ) = E (ui u j ) = 0 随机扰动与解释变量不相关假定: 随机扰动与解释变量不相关假定 Cov(ui , X i ) = 0 正态性假定: 正态性假定
∑x y ∑x
i 2 i
i
ˆ ˆ β1 = Y − β 2 X
4
OLS 估计式的分布性质
期望： 期望 方差： 方差：
ˆ E (βk ) = βk
ˆ )= σ Var ( β 2
2 2 i
∑x
σ
ˆ Var ( β1 ) = σ 2
N ∑ xi2
X i2 ∑
X i2 ∑
标准差： 标准差： SE ( β ) = ˆ 2
2 2
^
^
6
9、拟合优度：样本回归线对样本观测数据拟合 、拟合优度： 的优劣程度， 的优劣程度， 可决系数：在总变差分解基础上确定的， 可决系数：在总变差分解基础上确定的，模 型解释了的变差在总变差中的比重 可决系数的计算方法、特点与作用。 可决系数的计算方法、特点与作用。
1=
∑y ∑y
^ 2 2 i
9
被解释变量个别值区间预测的方法
ˆ m t σ 1+ 1 + ( X F − X ) YF = YF α 2 ˆ n xi2 ∑
2
12、运用 运用EViews软件对简单的线性回归模型进行 运用 软件对简单的线性回归模型进行 估计和检验
今天开始学习第三章. 今天开始学习第三章.
10
先看问题:
中国汽车的保有量会达到1.4亿辆吗 ?
第二章 复 习
1、变量间的关系： 函数关系 、变量间的关系： 函数关系——相关关系 相关关系 相关系数——对变量间线性相关程度的度量 对变量间线性相关程度的度量 相关系数 2、现代意义的回归：一个被解释变量对若干个 、现代意义的回归： 解释变量依存关系的研究 实质： 实质：由固定的解释变量去估计被解释变量的 平均值
ˆ ˆ Yi = β1 + β 2 X i + ei
总体回归函数与样本回归函数的区别与联系 4、随机扰动项：被解释变量实际值与条件均值的偏差， 、随机扰动项：被解释变量实际值与条件均值的偏差， 代表排除在模型以外的所有因素对Y的影响。 的影响。
2
5、简单线性回归的基本假定： 、简单线性回归的基本假定： 对模型和变量的假定 对随机扰动项u的假定 对随机扰动项 的假定 零均值假定: 零均值假定 同方差假定: 同方差假定
是什么因素导致中国汽车数量的增长? 是什么因素导致中国汽车数量的增长
影响中国汽车行业发展的因素并不是单一的，经济增长、 影响中国汽车行业发展的因素并不是单一的，经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境，都会使中国汽车行业面临机遇和挑战。 外环境，都会使中国汽车行业面临机遇和挑战。
i = 1,2, L , n
回归剩余（残差）： 回归剩余（残差）：
ˆ ei = Yi - Yi
21
二、多元线性回归模型的矩阵表示
k 1个解释变量的多元线性回归模型的 n (通常大
于k)个观测 样本， 样本，可表示为
Y1 = β1 + β2 X21 + β3 X31 + ... + βk Xk1 + u1
8
1Leabharlann Baidu、对被解释变量的预测 、 被解释变量平均值预测与个别值预测的关系
ˆ ˆ ˆ Yi = β1 + β 2 X i
被解释变量平均值的点预测和区间预测的方法
( X F − X )2 ˆ ( X F − X )2 1 ˆ −t σ 1 + ˆ + [YF α 2 ˆ , YF + tα 2σ ] 2 2 n n ∑ xi ∑ xi
β 2是X 2 i 对Yi的影响系数 α 2是X 2 i 对Yi的影响系数
并且
X 3i = b31 + b32 X 2 i + u3i
可以证明（见参考书 附录 附录7A.5的证明 的证明) 可以证明（见参考书[1]附录 的证明
ˆ ˆ ˆ α 2 = β 2 + β 3b32 + 误差项 , E (α 2 ) = β 2 + β 3b32
+
∑e
2 i 2 i
∑y
r
2
=
∑ ∑
^ 2
y y
2 i
r
2
∑e = 1− ∑y
2 i 2 i
7
10、对回归系数的假设检验 、 假设检验的基本思想 对回归系数 t 检验的思想与方法
t =
*
ˆ β2 − β2 ˆ SE ( β 2 )
^
=
ˆ β2 ˆ SE ( β 2 )
^
~ t (n − 2)
用 P 值判断参数的显著性
如收入、价格、费用、道路状况、能源、政策环境等） （如收入、价格、费用、道路状况、能源、政策环境等）
各种因素对汽车销量影响的性质怎样？（正、负） 各种因素对汽车销量影响的性质怎样？ 各种因素影响汽车销量的具体数量关系是什么？ 各种因素影响汽车销量的具体数量关系是什么？ 所得到的数量结论是否可靠？ 所得到的数量结论是否可靠？ 中国汽车行业今后的发展前景怎样？ 中国汽车行业今后的发展前景怎样？应当如何制定汽车的 产业政策？ 产业政策？ 很明显，只用一个解释变量已很难分析汽车产业的发展, 很明显，只用一个解释变量已很难分析汽车产业的发展 还需要寻求有更多个解释变量情况的回归分析方法。 还需要寻求有更多个解释变量情况的回归分析方法。下面 多元线性回归模型。 介绍——多元线性回归模型。 介绍
24
三、多元线性回归中的基本假定
假定1 假定1：零均值假定 E(ui ) = 0 ( i =1,2,L, n) 或
E (u) = 0
假定2和假定3 假定2和假定3：同方差和无自相关假定
Cov(ui , u j ) = E[(ui -Eui )(u j -Eu j )] = E(uu j ) = i
ui ~ N (0, σ 2 )
3
6、普通最小二乘法（OLS）估计参数的基本思 、普通最小二乘法（ ） 想及估计式； 想及估计式；
ˆ β1 = X i2 ∑ Yi − ∑ X i ∑ X iYi ∑ N ∑ X − (∑ X i )
2 i 2
ˆ = N ∑ X iYi − ∑ X i ∑ Yi β2 = 2 2 N ∑ X i − (∑ X i )
中国经济的快速发展，使居民收入不断增加， 中国经济的快速发展，使居民收入不断增加，数以百万 计的中国人开始得以实现拥有汽车的梦想， 计的中国人开始得以实现拥有汽车的梦想，中国也成为世界 上成长最快的汽车市场。 上成长最快的汽车市场。 中国交通部副部长在中国交通可持续发展论坛上做出预 测 :“2020年，中国的民用汽车保有量将比 年 中国的民用汽车保有量将比2003年的数字 年的数字 增长６ 亿辆左右” 增长６倍，达到1.4亿辆左右”。 达到 亿辆左右
n
偏回归系数：控制其它解释量不变的条件下， 偏回归系数：控制其它解释量不变的条件下，第
j 个解释变量的单位变动对应变量平均值的影响。 个解释变量的单位变动对应变量平均值的影响。
如何理解偏回归系数? 如何理解偏回归系数?
17
例如
多元线性回归模型 一元线性回归模型 Yi = β1 + β 2 X 2 i + β 3 X 3i + ui ⇐⇒ Yi = α1 + α 2 X 2 i + u1i
假定4：随机扰动项与解释变量不相关 假定4
11
怎样分析多种因素的影响？ 怎样分析多种因素的影响？
分析中国汽车行业未来的趋势,应具体分析这样一些问题： 分析中国汽车行业未来的趋势 应具体分析这样一些问题： 应具体分析这样一些问题 中国汽车市场发展的状况如何？ 用销售量观测） 中国汽车市场发展的状况如何？（用销售量观测） 影响中国汽车销量的主要因素是什么？ 影响中国汽车销量的主要因素是什么？
Yi = β1 +β2X2i +β3X3i +...+βk Xki +ui
20
多元样本回归函数
Y 的样本条件均值表示为多个解释变量的函数
ˆ ˆ ˆ ˆ ˆ Y = β1 + β2 X2i + β3X3i +...+ βk Xki i
或 其中
ˆ ˆ ˆ ˆ Yi = β1 + β2 X2i + β3X3i +... + βk Xki +ei
Y2 = β1 + β2 X22 + β3 X32 + ... + βk Xk 2 + u2
M
Yn = β1 + β2 X2n + β3 X3n + ... + βk Xkn + un
22
用矩阵表示
Y 1 X21 L Xk1 β1 u1 1 Y 1 X L Xk 2 β2 u2 22 2 = + M M M M M M Yn 1 X2n L Xkn βk un
结论:只要 不为0, 结论 只要b32不为 β 2与α 2不同 只要 进一步,u 有区别. 进一步 i与u1i有区别
18
多元线性回归模型的线性性
指对各个回归系数而言是“线性”的，对变量则 指对各个回归系数而言是“线性” 可是线性的， 可是线性的，也可是非线性的 例如： 例如：生产函数
Y = AL K u
12
计量经济学
第三章 多元线性回归模型
13
第三章 多元线性回归模型
本章主要讨论: 本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测 最后， 最后，利用上述理论与方法研究一个实 例——电力消费问题。
14
第一节 多元线性回归模型及古典假定
Y
n×1
X
n×k
β
k ×1
u
n ×1
23
总体回归函数 样本回归函数
E(Y) = Xβ
或 Y = Xβ + u
或 Y = Xβ + e ˆ ˆ ˆ = Xβ Y 其中： ˆ 其中：Y,Y,u,e 都是有 n 个元素的列向量
ˆ β, β 是有 k 个元素的列向量
是第一列为1 X 是第一列为1的 n×k 阶解释变量 数据矩阵 (截距项可视为解释变量 取值为1) 取值为1)