计量经济学多元线性回归模型
计量经济学课程第4章(多元回归分析)
§4.1 多元线性回归模型的两个例子
一、例题1：CD生产函数
Qt AKt 1 Lt 2 et
这是一个非线性函数，但取对数可以转变为一个 对参数线性的模型
ln Qt 0 1 ln Kt 2 ln Lt t
t ~ iid(0, 2 )
注意：“线性”的含义是指方程对参数而言是线 性的
R 2 1 RSS /(N K 1) TSS /(N 1)
调整思想： 对 R2 进行自由度调整。
Page 20
基本统计量TSS、RSS、ESS的自由度：
1.
TSS的自由度为N-1。基于样本容量N，TSS
N i1
(Yi
Y
)2
因为线性约束 Y 1 N
Y N
i1 i
而损失一个自由度。
分布的多个独立统计量平方加总，所得到的新统计量就服从
2 分布。
《计量经济学》，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著
Page 23
双侧检验
概 率 密 度
概率1－
0
2 1 / 2
2 /2
图4.3.1
2
（N-K-1）的双侧临界值
双侧检验：统计值如果落入两尾中的任何一个则拒绝原假设
《计量经济学》，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著
Page 24
单侧检验
概 率 密 度
概率 概率
0
2 1
2
图4.3.2 （2 N-K-1）的单侧临界值
H0：
2
2，
0
HA :
2
2 0
第三章多元线性回归模型(计量经济学,南京审计学院)
Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt
计量经济学-多元线性回归模型
Y=β0+β1X1+β2X2+...+βkXk+ε，其中Y为因变 量，X1, X2,..., Xk为自变量，β0, β1,..., βk为回归 系数，ε为随机误差项。
多元线性回归模型的假设条件
包括线性关系假设、误差项独立同分布假设、无 多重共线性假设等。
研究目的与意义
研究目的
政策与其他因素的交互作用
多元线性回归模型可以引入交互项，分析政策与其他因素（如技 术进步、国际贸易等）的交互作用，更全面地评估政策效应。
实例分析：基于多元线性回归模型的实证分析
实例一
预测某国GDP增长率：收集该国历史数据，包括GDP、投资、消费、出口等变量，建立 多元线性回归模型进行预测，并根据预测结果提出政策建议。
最小二乘法原理
最小二乘法是一种数学优化技术，用 于找到最佳函数匹配数据。
残差是观测值与预测值之间的差，即 e=y−(β0+β1x1+⋯+βkxk)e = y (beta_0 + beta_1 x_1 + cdots + beta_k x_k)e=y−(β0+β1x1+⋯+βkxk)。
在多元线性回归中，最小二乘法的目 标是使残差平方和最小。
t检验
用于检验单个解释变量对被解释变量的影响 是否显著。
F检验
用于检验所有解释变量对被解释变量的联合 影响是否显著。
拟合优度检验
通过计算可决系数（R-squared）等指标， 评估模型对数据的拟合程度。
残差诊断
检查残差是否满足独立同分布等假设，以验 证模型的合理性。
04
多元线性回归模型的检验与 诊断
高级计量经济学 第二章 多元线性回归模型
用方程形式，残差平方和可以表示为
E S S u i 2 Y i Y ˆ i2 Y i ˆ 0 ˆjX ij2
最小二乘法估计
（多元回归模型）
以包括两个解释变量的模型为例，对未知参数求一阶导数 得到：
如y果ˆ使xˆ12 , …x1,或 xk保持ˆ不1变 ，xyˆ1那么有
即每个估计的都反映出当其他因素不变时，该因
素产生的边际影响效果。
多元回归的拟合优度
多元回归方程的拟合优度同样可以用R2表示
R2RSS
TSS
Y Y ˆii Y Y2 21
同样的方法可以用于检验有关多个估计参数之间 关系的联合假设。
用下标R和UR区分有约束和无约束的回归方程R2 ，q为约束条件的个数，相应的F统计值计算公式 为：
对拟合优度的统计检验
检验拟合优度的虚假设是所有解释变量均不是真 正的解释变量，即：
H 0 : 12 .. .k 0
备择假设为至少有一个解释变量的参数不等于零 。相应的统计量为：
F k 1 ,N kE RSS K N S S 1 K 1 R R 22N K K 1
需要注意的是，在计量经济学中，“线性”指的是估计参数可以表达为 样本观察值和误差项的线性函数，并不要求回归方程中变量之间的关 系为线性的。
例：CD函数 Ye0X1 1X2 2eu
对该函数两边取对数得到：LnY=0+1LnX1+2LnX2+u
即比：较：YY *= 0e+0X 1X1 11 *X +2 2 2X 2*u +u
不同数学函数的性质
3.1 多元线性回归模型及古典假定
第一节 多元线性回归模型及古典假设
一、多元线性回归模型及其矩阵表示 二、多元线性回归模型的古典假设
一、多元线性回归模型及其矩阵表示
1、在计量经济学中，将含有两个以上解释变量的回归模 型称为多元回归模型。相应地，在此基础上进行的回归分析 就叫多元回归分析。如果总体回归函数描述了一个应变量与 多个解释变量之间的线性关系，由此而设定的回归模型就称 为多元线性回归模型。例如：在生产理论中，C—D生产函 数描述了产量与投入要素之间的关系，其形式为： Y=AKαLβ (Y为产量，K、L分别为资本和劳动投入，α,β 为参数). 利用对数变换，可将其转化为：㏑Y=㏑A+α㏑K+β㏑L 在进行回归分析时，可设定如下形式的回归模型： (㏑Y)i= α0+α(㏑K)i+β(㏑L)i+μi （3.1.1） 回归模型3.1.1就是一个二元线性回归模型。
这就是多元线性回归模型的一般形式。（Yi,X2i,X3i,…,XKi ）为 第 i 次观测样本，βj(j=1,2, …,k) 为模型参数，μi为随机误差项。
在多元线性回归模型中，所有解释变量会同时对应变量Y的 变动发挥作用，所以，我们考察其中某个解释变量对应变量Y的 影响，必须是其它解释变量保持不变来进行。模型中的回归系 数βj(j=2, …,k) 就表示在其它解释变量不变的条件下，第 j 个解 释变量的单位变动对应变量Y的影响。由式3.1.3，可得Y的条件 期望函数：E(Y|X2i,X3i,…,XKi )= β1i+β2X2i+β3X3i+…+βKXKi
1 X 2n
X 31 X 32 X 3n
X K1
XK2
计量经济学第二章(第二部分)
其中，有k个解释变量；k+1个回归参数
3
计量经济学 第二章B
同 上
（2）矩阵形式： Y XB N Y1 Y2 Y ... Y n 1 1 X ... 1 0 u1 1 u2 , B , N ... ... u n 1 k (k 1) 1 n n 1 X 11 X 12 ... X 1n X 21 X 22 ... X 2n ... ... ... ... X k1 X k2 ... X kn n (k 1)
2
（2）当 R
2
k n -1
时，
R
2
<0 ,此时， 使
2
用 R 将失去意义。因此， R 只适
2
用于Y与解释变量整体相关程度较的
情况。
34
计量经济学 第二章B
四、回归方程的显著性检验
(1) 提出原假设 (2) 构造统计量 H 0 : 1 2 ... k 0 F ESS/k RSS/n (3) 对于给定的显著性水平 （4）判定方程的显著性， 若 F F ， 则拒绝原假设 若 F F ，则接受原假设 H 0，即模型的线性关系 F 检验； - k -1 ~ F(k, n - k - 1) ( 在 H 0 成立时） F
不管其质量的好坏，而所要求的样本容量
的下限。
20
计量经济学 第二章B
同 上
ˆ 由 B ( X X)
-1
ˆ X Y 中看到，要使 B
存在，
必须保证(XˊX)-1存在，因此，必须满
足|XˊX|≠0 ，即XˊX为满秩矩阵，而
计量经济学-3多元线性回归模型
2020/12/8
计量经济学-3多元线性回归模型
•第一节 概念和基本假定
•一、基本概念： • 设某经济变量Y 与P个解释变量：X1，X2，…，XP存在线性依
存关系。 • 1.总体回归模型：
•其中0为常数项， 1 ~ P 为解释变量X1 ~ XP 的系数，u为随机扰动项。 • 总体回归函数PRF给出的是给定解释变量X1 ~ XP 的值时，Y的期 望值：E ( Y | X1，X2，…，XP )。 • 假定有n组观测值，则可写成矩阵形式：
计量经济学-3多元线性回归模型
•2.样本回归模型的SRF
计量经济学-3多元线性回归模型
•二、基本假定： • 1、u零均值。所有的ui均值为0，E（ui）=0。 • 2、u同方差。Var（ui）=δ2，i=1，2，…，n
计量经济学-3多元线性回归模型
•
计量经济学-3多元线性回归模型
•
•第二节 参数的最小二乘估 计
•五、预测
•（一）点预测 •点预测的两种解释：
计量经济学-3多元线性回归模型
•（二）区间预测
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
•例5，在例1中，若X01=10，X02=10，求总体均值E（Y0|X0） 和总体个别值Y0的区间预测。
•
Yi=β0+β1Xi1+β2Xi2+ui
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
计量经济学-3多元线性回归模型
•三、最小二乘估计的性质
计量经济学-3多元线性回归模型
5、计量经济学【多元线性回归模型】
二、多元线性回归模型的参数估计
2、最小二乘估计量的性质 当 ˆ0, ˆ1, ˆ2, , ˆk 为表达式形式时，为随机变量， 这时最小二乘估计量 ˆ0, ˆ1, ˆ2, , ˆk 经过证明同样也 具有线性性、无偏性和最小方差性（有效性）。 也就是说，在模型满足那几条基本假定的前提 下，OLS估计量具有线性性、无偏性和最小方差性 （有效性）这样优良的性质， 即最小二乘估计量
用残差平方和 ei2 最小的准则： i
二、多元线性回归模型的参数估计
1、参数的普通最小二乘估计法（OLS） 即：
min ei2 min (Yi Yˆi )2 min Yi (ˆ0 ˆ1X1i ˆ2 X 2i ˆk X ki )2
同样的道理，根据微积分知识，要使上式最小，只 需求上式分别对 ˆj ( j 0,1, k) 的一阶偏导数，并令 一阶偏导数为 0，就可得到一个包含 k 1 个方程的正 规方程组，这个正规方程组中有 k 1个未知参数 ˆ0, ˆ1, ˆ2, , ˆk ；解这个正规方程组即可得到这 k 1 个参数 ˆ0, ˆ1, ˆ2, , ˆk 的表达式，即得到了参数的最小 二乘估计量；将样本数据代入到这些表达式中，即可 计算出参数的最小二乘估计值。
该样本回归模型与总体回归模型相对应，其中残差 ei Yi Yˆi 可看成是总体回归模型中随机误差项 i 的 估计值。
2、多元线性回归模型的几种形式： 上述几种形式的矩阵表达式： 将多元线性总体回归模型 (3.1) 式表示的 n 个随机方 程写成方程组的形式，有：
Y1 0 1 X11 2 X 21 .Y.2.........0.......1.X...1.2........2.X...2.2. Yn 0 1 X1n 2 X 2n
ˆ0, ˆ1, ˆ2, , ˆk 是总体参数真值的最佳线性无偏估计 量（ BLUE ）；即高斯—马尔可夫定理 (GaussMarkov theorem)。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
多元线性回归模型
一．概述
当今农村农民人均纯收入与多个因素存在着紧密的联系，例如人均工资收入，人均农林牧渔产值人均生产费用支出，人均转移性和财产性收入等。
本次将以安徽1995－2009年农村居民纯收入与人均工资收入，人均生产费用支出，人均转移性和财产性收入等因素的数据，通过建立计量经济模型来分析上述变量之间的关系，强调农村居民生活的重要性，从而促进全国经济的发展。
二、模型构建过程
⒈变量的定义
被解释变量：农民人均纯收入y
解释变量：人均工资收入x1, 人均农林牧渔产值x2
人均生产费用支出x3 人均转移性和财产性收入x4。
建立计量经济模型：解释农民人均纯收入与人均工资收入，人均生产费用支出，人均转移性和财产性收入的关系
⒉模型的数学形式
设定农民人均纯收入与五个解释变量相关关系模型，样本回归模型为：
∧Y i=∧
β
+
∧
β
1
X i1+∧β
2
X i2+∧β
3
X i3+∧β
4
X i4+e i
⒊数据的收集
该模型的构建过程中共有四个变量,分别是中国从1995－2009年人均工资收入，人均农林牧渔产值人均生产费用支出，人均转移性和财产性收入，因此为时间序列数据，最后一个即2009年的数据作为预测对比数据，收集的数据如下所示：
⒋用OLS法估计模型
回归结果,散点图分别如下:
Yˆ=33.632+0.659X1+0.59X2-0.274X3+0.152X4 i
d.f.=10 ,R2=0.997116 ,
Se=(186.261) (0.1815 (0.1245) (0.2037) (0.5699) t=(0.1805) (3.632) (4.741) (-1.347) (2.674)
三、模型的检验及结果的解释、评价
⒉拟合优度检验及统计检验
R 2＝0.997，可以看到模型的拟合优度非常高，说明农民人均纯收入与上述四个解释变量之间总体线性关系显著。
● 模型总体性检验（F 检验）：给定显著水平α＝0.05，查自由度为(4,10)的F
分布表，得F(4,10)=3.48,可见该模型的F 值远大于临界值，因此该回归方程很明显是显著的。
但由于X3系数不显著且符号为负，与经济意义不符，因此我们认为解释变量之间存在多重共线性。
● 变量的显著性检验（t 检验）：给定显著水平α＝0.05，查自由度为10的t 分
布表，得t 2/α10＝1.812，大于该临界值的的显著变量为x1,x2,x4； x3解释变量未通过检验，说明x3与被解释变量之间不存在显著的线性相关关系。
⒊多重共线性的检验 ⑴相关系数检验法
上图是Eviews 输出所有变量的相关系数矩阵，可发现Y 与所有解释变量都是正相关的关系，所以进一步确定了上面的回归存在共线性问题。
另外，我们发现X1和X2的相关系数很高，两变量很可能存在共线性。
⑵多个解释变量的相关性检验
由上面的分析可知，X1和X2有很高的相关性，那么我们这里就用X1做被解释变量，X2和X3做解释变量，可得回归模型如下：
Xˆ1=-757.251+0.477X2+0.2454X3 t=(-4.373) (3.662) (0.744)
R2＝0.9675，
-
R2=0.9621，F=178.78，DW＝1.19。
可以看到，回归模型的拟合优度非常高，F值也远大于临界值。
如果将显著水平扩大到α＝10%的话，X2 系数显著，X3系数不显著。
因此x 1 ,x2 存在共线性。
四、模型的建立
这里我们用逐步回归法得到农民人均纯收入模型。
⒈分别用四个解释变量对Y进行回归，回归结果分别如下：
x拟合优度R2最大，因此将这个方程作为基本方程，然后往里可以看出，Y与
2
加入其他变量。
⒉引入第二个变量
x后，t值引入变量
1
3.17 < 临界值3.18，其系数通不过显著性检验。
x后，t值-0.22444< 临界值3.18，其系数通不过显著性检验。
引入变量
3
x后，t值2.715< 临界值3.18，其系数通不过显著性检验。
引入变量
4
x，其最终输出结果如下：
综上所述，本次模型只引入变量
2
模型的最终结果为
Y∧＝-745.76+1.0692X
（-7.644）（34.22）
R2＝0.989，
-
R2＝0.988，F=1171.031, DW=1.4611
一．异方差检验（怀特检验）
n*R2=1.935<χ205.0(2)=5.991,不存在异方差。
六、自相关检验及修正
LM＝n*R2=0.021< 205.0(1)=3.841,模型不存在一阶自相关。