第五章经典线性回归模型(II)(高级计量经济学清华大学潘文清)
合集下载
stata初级入门5线性回归模型估计
offset(varname)表示约束模型中变量varname的系数 为1。该选项多出现于离散选择模型、计数模型中。
1.2.3exposure
exposure(varname)表示约束模型中变量ln(varname) 的系数为1。该选项多出现于计数模型中。
计量经济学软件应用
12
2020/6/13
计量经济学软件应用
33
2020/6/13
菜单： Statistics > Postestimation > Reports and statistics
引起完全共线性的情况：（1）一个自变量是另一 个自变量的常数倍；（2）一个自变量恰好可以表 达为其它两个或多个自变量的一个线性函数。如果 此情况发生，自变量间就有多重共线性关系。
*自变量的样本有变异：在样本中，自变量不为相 同的常数。
同方差性（亦称有效性）：var(u|x1,x2,x3,….)=σ2。
系数的方法。
method包括：
dw: rho_dw=1 - dw/2, 其中 dw 是Durbin-Watson值 regress:从残差回归方程et=rho_regress*et-1+vt freg:从残差回归方程中et=rho_freg*et+1+vt tscorr: rho=e‘et-1/e’e, 其中e和et-1 是残差和滞后一期残差。 theil: rho=rho_tscorr * (N-k)/N
rconsum
rneti _cons
Coef. Std. Err.
t P>|t|
.6478134 .0387183 482.8383 265.268
16.73 0.000 1.82 0.079
1.2.3exposure
exposure(varname)表示约束模型中变量ln(varname) 的系数为1。该选项多出现于计数模型中。
计量经济学软件应用
12
2020/6/13
计量经济学软件应用
33
2020/6/13
菜单： Statistics > Postestimation > Reports and statistics
引起完全共线性的情况：（1）一个自变量是另一 个自变量的常数倍；（2）一个自变量恰好可以表 达为其它两个或多个自变量的一个线性函数。如果 此情况发生，自变量间就有多重共线性关系。
*自变量的样本有变异：在样本中，自变量不为相 同的常数。
同方差性（亦称有效性）：var(u|x1,x2,x3,….)=σ2。
系数的方法。
method包括：
dw: rho_dw=1 - dw/2, 其中 dw 是Durbin-Watson值 regress:从残差回归方程et=rho_regress*et-1+vt freg:从残差回归方程中et=rho_freg*et+1+vt tscorr: rho=e‘et-1/e’e, 其中e和et-1 是残差和滞后一期残差。 theil: rho=rho_tscorr * (N-k)/N
rconsum
rneti _cons
Coef. Std. Err.
t P>|t|
.6478134 .0387183 482.8383 265.268
16.73 0.000 1.82 0.079
清华大学 五道口金融学院 潘文卿 内生性工具变量与GMM估计
第4章内生性、工具变量与GMM估计•外生性与常见的内生性问题•矩估计(MM)与工具变量法(IV)•线性模型的两阶段最小二乘估计(2SLS)•线性模型的广义矩估计(GMM)§4.1 外生性与常见的内生性问题一、外生性假设与内生性问题二、常见的内生性一、外生性假设与内生性问题线性回归模型中一个重要的假设是“严格外生性”： E(ε|X )=0严格外生性（strictly strictly exogeneity exogeneity exogeneity))的含义是：各期的解释变量X t 独立于所有期的随机扰动项εt 。
在严格外生性与球型假设假设下，OLS 估计量是BLUE 。
这两大假设也称为Y t 或εt 是独立同分布的（iid ）。
对模型 Y t =β0+β1X t1+…+βk X tk +εt或 Y t = X t ’β+ εt 或 Y = X β +ε1、外生性与、外生性与OLS OLS OLS估计量的统计性质估计量的统计性质tΣ§4.2 矩估计与工具变量法一、矩估计二、矩估计中的工具变量法二、矩估计中的工具变量(IV)法假设有如下模型：Y t=X t1’β1+X t2β2+εt其中：X2为单一变量，X1为包括截距项的k维行向量β2、β1为对应的参数变量与参数向量。
如果模型设定正确，则有如下总体矩条件 E(X t1εt )=0, E(X t2εt)=0(1/n)ΣX t1(Y t-X t1’b1-X t2b2)=0(1/n)ΣX t2(Y t-X t1’b1-X t2b2) =0(1/n)ΣX t1(Y t -X t1’b 1-X t2b 2) =0(1/n)ΣX t2(Y t -X t1’b 1-X t2b 2) =0正规方程组如果缺少矩条件，如E(X t2εt )≠0，则上述正规方程组最后一个方程不存在，则无法求解。
这时，工具变量法就是寻找一工具变量Z2，满足E(Z t2εt)=0，E(Z t2X t2)≠0。
第四章--经典线性回归模型(高级计量经济学-清华大学-潘文清)PPT课件
(2)由性质(1)与性质(2)还可得出，OLS估计量b依 均方收敛于，因此依概率收敛于，从而是的一 致估计量。
(3)由性质(1)与性质(2)知：
MSE(b|X)=E(b-)(b-)’|X)
=Var(b|X)+[bias(b|X)]2
0
(n)
.
17
四、估计2及Var(b) Estimation of 2 and Var(b)
或
Y=X+
其中，=(0, 1,…,k)’, =(1,2,…,n)’
注意： 这里的线性性指Y关于参数是线性的。
.
3
假设2（strict Exogeneity）: E(i|X)=E(i|X1,X2,…Xn)=0, (i=1,2,…n)
注意：
(1) 由E(i|X)=0 易推出：E()=0, E(Xji)=0 或有： Cov(Xj, i)=0 (i, j=1,2,…n)
求解min SSR(+)。
有约束的(i)的残差平方和不会小于无约束的(ii)的 残差平方和：e+’e+e’e
.
25
为避免将无解释力的解释变量纳入到X中去，引入 调整的决定系数(adjusted coefficient of determination):
(4)决定系数仅是对样本回归线拟合样本数据的程 度给予描述。而CR模型并不要求R2要有多高，CR 模型关心的是对总体回归参数的估计与检验。
如果X是非随机的，则假设2变成
E(i|X)=E(i)=0
(4)假设2的向量形式：
E(|X)=0
.
5
注意：
(1)本假设排除了解释变量间的多重共线性 (multicollinearity)
(2) 本假设意味着X’X是非奇异的，或者说X必须 满秩于k+1。因此应有k+1≤n。
(3)由性质(1)与性质(2)知：
MSE(b|X)=E(b-)(b-)’|X)
=Var(b|X)+[bias(b|X)]2
0
(n)
.
17
四、估计2及Var(b) Estimation of 2 and Var(b)
或
Y=X+
其中，=(0, 1,…,k)’, =(1,2,…,n)’
注意： 这里的线性性指Y关于参数是线性的。
.
3
假设2（strict Exogeneity）: E(i|X)=E(i|X1,X2,…Xn)=0, (i=1,2,…n)
注意：
(1) 由E(i|X)=0 易推出：E()=0, E(Xji)=0 或有： Cov(Xj, i)=0 (i, j=1,2,…n)
求解min SSR(+)。
有约束的(i)的残差平方和不会小于无约束的(ii)的 残差平方和：e+’e+e’e
.
25
为避免将无解释力的解释变量纳入到X中去，引入 调整的决定系数(adjusted coefficient of determination):
(4)决定系数仅是对样本回归线拟合样本数据的程 度给予描述。而CR模型并不要求R2要有多高，CR 模型关心的是对总体回归参数的估计与检验。
如果X是非随机的，则假设2变成
E(i|X)=E(i)=0
(4)假设2的向量形式：
E(|X)=0
.
5
注意：
(1)本假设排除了解释变量间的多重共线性 (multicollinearity)
(2) 本假设意味着X’X是非奇异的，或者说X必须 满秩于k+1。因此应有k+1≤n。
第二章 回归分析与模型设定(高级计量经济学-清华大学 潘文清)
E (Y | x) E (Y | X x) yfY | X ( y | x)dy
• 条件偏度 (The conditional skewness)
E[(Y E (Y | x)) 3 | x] S (Y | x) [Var(Y | x)]3 / 2
E[(Y E (Y | x)) 4 | x] K (Y | x) [Var(Y | x)]4 / 2
但我们往往只能得到样本数据。因此自然想到用 样本均值来估计总体均值， 并寻找样本回归函数 (SRF): mY|x=f(X) We hope the SRF is a good estimate of the PRF.
Y PRF SRF
X
A simple illustration: how to find the sample mean 表 2.1 是1960年美国1027个家庭关于收入与储蓄率 的联合频率分布. p(xi,yj) =the proportion of the 1027 families who reported the combination (X=xi and Y=yj).
Table 2.1 Joint frequency distribution of X=income and Y=saving rate
X Y 0.50 0.40 0.25 0.15 0.05 0.00 -0.05 -0.18 -0.25 p(x) 0.5 0.001 0.001 0.002 0.002 0.010 0.013 0.001 0.002 0.009 0.041 1.5 0.011 0.002 0.006 0.009 0.023 0.013 0.012 0.008 0.009 0.093 2.5 0.007 0.006 0.004 0.009 0.033 0.000 0.011 0.013 0.010 0.093 3.5 0.006 0.007 0.007 0.012 0.031 0.002 0.005 0.006 0.006 0.082 4.5 0.005 0.010 0.010 0.016 0.041 0.001 0.012 0.009 0.009 0.113 5.5 0.005 0.007 0.011 0.020 0.029 0.000 0.016 0.008 0.007 0.103 6.7 0.008 0.008 0.020 0.042 0.047 0.000 0.017 0.008 0.005 0.155 8.8 0.009 0.009 0.019 0.054 0.039 0.000 0.014 0.008 0.003 0.155 12.5 0.014 0.008 0.013 0.024 0.042 0.000 0.004 0.006 0.002 0.113 17.5 0.004 0.007 0.006 0.020 0.007 0.000 0.003 0.002 0.003 0.052
• 条件偏度 (The conditional skewness)
E[(Y E (Y | x)) 3 | x] S (Y | x) [Var(Y | x)]3 / 2
E[(Y E (Y | x)) 4 | x] K (Y | x) [Var(Y | x)]4 / 2
但我们往往只能得到样本数据。因此自然想到用 样本均值来估计总体均值， 并寻找样本回归函数 (SRF): mY|x=f(X) We hope the SRF is a good estimate of the PRF.
Y PRF SRF
X
A simple illustration: how to find the sample mean 表 2.1 是1960年美国1027个家庭关于收入与储蓄率 的联合频率分布. p(xi,yj) =the proportion of the 1027 families who reported the combination (X=xi and Y=yj).
Table 2.1 Joint frequency distribution of X=income and Y=saving rate
X Y 0.50 0.40 0.25 0.15 0.05 0.00 -0.05 -0.18 -0.25 p(x) 0.5 0.001 0.001 0.002 0.002 0.010 0.013 0.001 0.002 0.009 0.041 1.5 0.011 0.002 0.006 0.009 0.023 0.013 0.012 0.008 0.009 0.093 2.5 0.007 0.006 0.004 0.009 0.033 0.000 0.011 0.013 0.010 0.093 3.5 0.006 0.007 0.007 0.012 0.031 0.002 0.005 0.006 0.006 0.082 4.5 0.005 0.010 0.010 0.016 0.041 0.001 0.012 0.009 0.009 0.113 5.5 0.005 0.007 0.011 0.020 0.029 0.000 0.016 0.008 0.007 0.103 6.7 0.008 0.008 0.020 0.042 0.047 0.000 0.017 0.008 0.005 0.155 8.8 0.009 0.009 0.019 0.054 0.039 0.000 0.014 0.008 0.003 0.155 12.5 0.014 0.008 0.013 0.024 0.042 0.000 0.004 0.006 0.002 0.113 17.5 0.004 0.007 0.006 0.020 0.007 0.000 0.003 0.002 0.003 0.052
第五章 经典线性回归模型(II)(高级计量经济学-清华大学 潘文清)
如何解释j为“当其他变量保持不变，Xj变化一个 单位时Y的平均变化”？
本质上： j=E(Y|X)/Xj 即测度的是“边际效应”(marginal effect)
因此，当一个工资模型为 Y=0+1age+2age2+3education+4gender+ 时，只能测度“年龄”变化的边际效应： E(Y|X)/age=1+22age 解释：“当其他变量不变时，年龄变动1个单位时 工资的平均变化量” 2、弹性： 经济学中时常关心对弹性的测度。
X1’X1b1+X1’X2b2=X1’Y (*) X2’X1b1+X2’X2b2=X2’Y (**) 由(**)得 b2=(X2’X2)-1X2’Y-(X2’X2)-1X2’X1b1 代入(*)且整理得： X1’M2X1b1=X1’M2Y b1=(X1’M2X1)-1X1’M2Y=X1-1M2Y=b* 其中，M2=I-X2(X2’X2)-1X2’ 又 M2Y=M2X1b1+M2X2b2+M2e1 而 M2X2=0， M2e1=e1-X2(X2’X2)-1X2’e1=e1 则 M2Y=M2X1b1+e1 或 e1=M2Y-M2X1b1=e* 或
b1是1的无偏估计。
设正确的受约束模型(5.1.2)的估计结果为br，则有 br= b1+ Q1b2
或 b1=br-Q1b2 无论是否有2=0, 始终有Var(b1)Var(br) 多选无关变量问题：无偏，但方差变大，即是无效 的。变大的方差导致t检验值变小，容易拒绝本该纳 入模型的变量。
§5.2 多重共线性
1、估计量的方差 在离差形式的二元线性样本回归模型中： yi=b1x1i+b2x2i+e
《应用回归分析》第二版
y
x 图1. 2 y 与x 非确定性关系图
1 .2 回归方程与回归名称的由来
英国统计学家F.Galton(1822-1911年)。
F.Galton和他的学生、现代统计学的奠基者之一 K.Pearson(1856—1936年)在研究父母身高与其子女 身高的遗传问题时,观察了1 078对夫妇,
yˆ = 33.73 + 0.516x
yˆ = βˆ0 + βˆ1x
x
2 .2 参数β0、β1的估计
∑
∂Q
∂β0
β0
=
βˆ0
=
n
−2
i =1
( yi
− βˆ0
−
βˆ1xi )
=
0
∑ ∂Q
∂β1
β1
=
βˆ1
=
−2
n i =1
( yi
−
βˆ0
−
βˆ1xi )xi
=
0
经整理后,得正规方程组
∑ ∑ nβˆ0
n
+(
i =1
xi )βˆ1
2 .2 参数β0、β1的估计
一、普通最小二乘估计
(Ordinary Least Square Estimation,简记为OLSE)
最小二乘法就是寻找参数β0、β1的估计值使离差平方和达极小
∑n
Q ( βˆ0 , βˆ1 ) = ( y i − βˆ0 − βˆ1 xi ) 2
i =1
∑n
=
min
二、用统计软件计算 2. 例2.1用SPSS软件计算
Variables Entered/Removedb
2 .3 最小二乘估计的性质
三、βˆ0、βˆ1 的方差
x 图1. 2 y 与x 非确定性关系图
1 .2 回归方程与回归名称的由来
英国统计学家F.Galton(1822-1911年)。
F.Galton和他的学生、现代统计学的奠基者之一 K.Pearson(1856—1936年)在研究父母身高与其子女 身高的遗传问题时,观察了1 078对夫妇,
yˆ = 33.73 + 0.516x
yˆ = βˆ0 + βˆ1x
x
2 .2 参数β0、β1的估计
∑
∂Q
∂β0
β0
=
βˆ0
=
n
−2
i =1
( yi
− βˆ0
−
βˆ1xi )
=
0
∑ ∂Q
∂β1
β1
=
βˆ1
=
−2
n i =1
( yi
−
βˆ0
−
βˆ1xi )xi
=
0
经整理后,得正规方程组
∑ ∑ nβˆ0
n
+(
i =1
xi )βˆ1
2 .2 参数β0、β1的估计
一、普通最小二乘估计
(Ordinary Least Square Estimation,简记为OLSE)
最小二乘法就是寻找参数β0、β1的估计值使离差平方和达极小
∑n
Q ( βˆ0 , βˆ1 ) = ( y i − βˆ0 − βˆ1 xi ) 2
i =1
∑n
=
min
二、用统计软件计算 2. 例2.1用SPSS软件计算
Variables Entered/Removedb
2 .3 最小二乘估计的性质
三、βˆ0、βˆ1 的方差
【精品】清华大学课程《计量经济学》配套习题和答案
清华大学第一章《计量经济学》配套习题和答案第二章绪论（一）基本知识类题型1-1．什么是计量经济学？1-2．简述当代计量经济学发展的动向。
1-3．计量经济学方法与一般经济数学方法有什么区别？1-4．为什么说计量经济学是经济理论、数学和经济统计学的结合？试述三者之关系。
1-5．为什么说计量经济学是一门经济学科？它在经济学科体系中的作用和地位是什么？1-6．计量经济学的研究的对象和内容是什么？计量经济学模型研究的经济关系有哪两个基本特征？1-7．试结合一个具体经济问题说明建立与应用计量经济学模型的主要步骤。
1-8．建立计量经济学模型的基本思想是什么？1-9．计量经济学模型主要有哪些应用领域？各自的原理是什么？1-10．试分别举出五个时间序列数据和横截面数据，并说明时间序列数据和横截面数据有和异同？1-11．试解释单方程模型和联立方程模型的概念，并举例说明两者之间的联系与区别。
1-12．模型的检验包括几个方面？其具体含义是什么？1-13．常用的样本数据有哪些？1-14．计量经济模型中为何要包括随机误差项？简述随机误差项形成的原因。
1-15．估计量和估计值有何区别？哪些类型的关系式不存在估计问题？ 1-16．经济数据在计量经济分析中的作用是什么？1-17．下列假想模型是否属于揭示因果关系的计量经济学模型？为什么？⑴S R t t =+1120012..其中S t 为第t 年农村居民储蓄增加额（亿元）、R t 为第t 年城镇居民可支配收入总额（亿元）。
⑵S R t t -=+144320030..其中S t -1为第（1-t ）年底农村居民储蓄余额（亿元）、R t 为第t 年农村居民纯收入总额（亿元）。
1-18．指出下列假想模型中的错误，并说明理由：（1）RS RI IV t t t =-+83000024112... 其中，RS t 为第t 年社会消费品零售总额（亿元），RI t 为第t 年居民收入总额（亿元）（城镇居民可支配收入总额与农村居民纯收入总额之和），IV t 为第t 年全社会固定资产投资总额（亿元）。
第五章经典线性回归模型(II)(高级计量经济学清华大学潘文清)
X1’X1b1+X1’X2b2=X1’Y (*) X2’X1b1+X2’X2b2=X2’Y (**) 由(**)得 b2=(X2’X2)-1X2’Y-(X2’X2)-1X2’X1b1 代入(*)且整理得： X1’M2X1b1=X1’M2Y b1=(X1’M2X1)-1X1’M2Y=X1-1M2Y=b* 其中，M2=I-X2(X2’X2)-1X2’ 又 M2Y=M2X1b1+M2X2b2+M2e1 而 M2X2=0， M2e1=e1-X2(X2’X2)-1X2’e1=e1 则 M2Y=M2X1b1+e1 或 e1=M2Y-M2X1b1=e* 或
X2=X1Q1+(I-P1)X2 =explained part + residuals
其中，Q1=(X1’X1)-1X1’X2
对
X2=X1Q1+(I-P1)X2 =X1Q1+M1X2
=explained part + residuals
M1X2就是排除了X1的其他因素对X2的“净”影响。
X2对X1的回归称为辅助回归(aon: 如何测度X1对Y的“净”影响？ 部分回归(Partial regression) Step 1: 排除X2的影响。 将Y对X2回归，得“残差”M2Y=[(I-X2(X2’X2)-1X2’]Y 将X1对X2回归，得“残差”M2X1=[(I-X2(X2’X2)1X ’]X 1 M 2Y为排除了 X 的净Y，M X 为排除了X 的净X
2 2 2 1 2
1
Step 2: 估计X1对Y的“净”影响。
将 M2Y对M2X1回归，得X1对Y的“净”影响：
M2Y=M2X1b*+e*
这里，b*=[(M2X1)’(M2X1)]-1(M2X1)’M2Y=X1-1M2Y e*=M2Y-M2X1b*
高级计量经济学系统回归模型
9
系统模型的一般形式
由于造成系统回归模型估计问题的根源不 同，因而相应的处理方法也不同。 现有的计量经济学软件提供了多种解决问 题的办法，从事应用研究的人员需要了解 各种方法所针对的问题，从而有能力选择 适当的技术，并对其做出正确的解释。
10
联立方程组模型的形式
结构形式(Structural form)
16
联立方程组模型产生的问题
在联立方程的结构式中，解释变量不仅包含前定 变量，而且包含内生变量，因而产生下列问题：
用作解释变量的内生变量与方程误差项出现相关；
此时用OLS得到的结构参数估计量是有偏的，并且是不
一致的； 方程间的误差项可能出现相关。
17
联立方程组模型产生的问题
下面用一个简单的联立方程模型来证明上述结论。 考虑由两个方程组成的方程组模型 Y1i 0 1Y2i 2 X i u1i Y2i 0 1Y1i 2 X i u2i
13
结构形式与简化形式的比较
简化形式参数是结构形式参数的函数，简化形式误差项是 结构形式误差项的函数。 简化形式参数考虑了内生变量之间的相互依存性，可以度 量前定变量的变化对内生变量的综合影响，包括直接和间 接影响。结构形式参数只表示单一自变量变化的直接影响。 简化形式本身是模型解的表达式，根据已知的外生变量值 和内生变量滞后值，可以由简化形式直接计算出内生变量 的值。 简化形式可以直接用于做政策分析和预测，但是结果的含 义不同于用结构模型做的预测。
22
模型识别的条件
设：
G=模型中内生变量（方程）的个数 K=模型中前定变量的个数； Gi=第i个方程中内生变量的个数； ki=第i个方程中前定变量的个数；
系统模型的一般形式
由于造成系统回归模型估计问题的根源不 同，因而相应的处理方法也不同。 现有的计量经济学软件提供了多种解决问 题的办法，从事应用研究的人员需要了解 各种方法所针对的问题，从而有能力选择 适当的技术，并对其做出正确的解释。
10
联立方程组模型的形式
结构形式(Structural form)
16
联立方程组模型产生的问题
在联立方程的结构式中，解释变量不仅包含前定 变量，而且包含内生变量，因而产生下列问题：
用作解释变量的内生变量与方程误差项出现相关；
此时用OLS得到的结构参数估计量是有偏的，并且是不
一致的； 方程间的误差项可能出现相关。
17
联立方程组模型产生的问题
下面用一个简单的联立方程模型来证明上述结论。 考虑由两个方程组成的方程组模型 Y1i 0 1Y2i 2 X i u1i Y2i 0 1Y1i 2 X i u2i
13
结构形式与简化形式的比较
简化形式参数是结构形式参数的函数，简化形式误差项是 结构形式误差项的函数。 简化形式参数考虑了内生变量之间的相互依存性，可以度 量前定变量的变化对内生变量的综合影响，包括直接和间 接影响。结构形式参数只表示单一自变量变化的直接影响。 简化形式本身是模型解的表达式，根据已知的外生变量值 和内生变量滞后值，可以由简化形式直接计算出内生变量 的值。 简化形式可以直接用于做政策分析和预测，但是结果的含 义不同于用结构模型做的预测。
22
模型识别的条件
设：
G=模型中内生变量（方程）的个数 K=模型中前定变量的个数； Gi=第i个方程中内生变量的个数； ki=第i个方程中前定变量的个数；
完整的计量经济学 计量经济学第五章 线性回归的PPT课件
被忽略的因素对被解释变量的影响，会从 误差项中表现出来，导致误差不再是纯粹 的随的变量关系为
X 若采用变量关系 E () ( 0 0 ) ( 1 1 )X 1 0 (2 2 )X 2 3 X 3
Y 0 1 X 1 2 X 2
Y Y
或
D 1i
0,当 i是男性时 1,当 i是女性时
38
对于截面数据计量分析的例子
对于截面数据计量分析中，观测对象特征差异导致的规律 性扰动，也可以利用虚拟变量加以处理。
如观测对象的性别是一个影响因素，解决的办法就是在模 型中引进虚拟变量，即
D1，D2，D3和D4，
这个虚拟变量就能解决由于观测对象的性别因素所导 致的误差项均值非0问题。
非线性变量关系的残差序列图
e
i
8
（三）问题的处理和非线性回归
1、模型修正和变换 恢复模型的合理非线性形式 然后再变换成线性模型
9
泰勒级数展开法
2、泰勒级数展开法 假设一个非线性的变量关系为：
Y f X 1 , ,X K ;1 P
在 处对 B 0b 1,0 ,b P 0 β1, ,P 作泰勒级数展开：
第五章 线性回归的定式偏差
1
标题添加
点击此处输入相 关文本内容
标题添加
点击此处输入相 关文本内容
总体概述
点击此处输入 相关文本内容
点击此处输入 相关文本内容
2
线性回归的定式偏差
本章讨论变量关系非线性、存在异常值、 规律性扰动和解释变量缺落等导致的线性 回归模型前两条假设不成立的定式偏差， 包括它们对线性回归分析的影响、判断和 处理的方法等。
1 0 2 0
1 1 X 2 1 X
1 2
X 若采用变量关系 E () ( 0 0 ) ( 1 1 )X 1 0 (2 2 )X 2 3 X 3
Y 0 1 X 1 2 X 2
Y Y
或
D 1i
0,当 i是男性时 1,当 i是女性时
38
对于截面数据计量分析的例子
对于截面数据计量分析中，观测对象特征差异导致的规律 性扰动，也可以利用虚拟变量加以处理。
如观测对象的性别是一个影响因素，解决的办法就是在模 型中引进虚拟变量，即
D1，D2，D3和D4，
这个虚拟变量就能解决由于观测对象的性别因素所导 致的误差项均值非0问题。
非线性变量关系的残差序列图
e
i
8
（三）问题的处理和非线性回归
1、模型修正和变换 恢复模型的合理非线性形式 然后再变换成线性模型
9
泰勒级数展开法
2、泰勒级数展开法 假设一个非线性的变量关系为：
Y f X 1 , ,X K ;1 P
在 处对 B 0b 1,0 ,b P 0 β1, ,P 作泰勒级数展开：
第五章 线性回归的定式偏差
1
标题添加
点击此处输入相 关文本内容
标题添加
点击此处输入相 关文本内容
总体概述
点击此处输入 相关文本内容
点击此处输入 相关文本内容
2
线性回归的定式偏差
本章讨论变量关系非线性、存在异常值、 规律性扰动和解释变量缺落等导致的线性 回归模型前两条假设不成立的定式偏差， 包括它们对线性回归分析的影响、判断和 处理的方法等。
1 0 2 0
1 1 X 2 1 X
1 2
计量经济学 第三版 (潘省初 著) 人民大学出版社 课后答案--第5章_课后答案
这是因为变量有效灌溉面积、施肥量与播种面积间有较强的相关性，所以方程 存在多重共线性。现在我们看看各解释变量间的相关性，相关系数矩阵如下：
案 网
X1
1 0.896 0.880 0.715
X2
0.896 1
X3
0.880
后 答
0.895 1
da
0.883 1
0.895
0.685
我们可以通过对变量 X2 的变换来消除多重共线性。 令 X22＝X2/X3 （公斤/亩） ， 这样就大大降低了施肥量与面积之间的相关性，用变量 X22 代替 X2，对模型重 新回归，结果如下：
解决办法：从模型中去掉解释变量 A，就消除了完全多重共线性问题。 5.7 （1）若采用普通最小二乘法估计销售量对广告宣传费用的回归方程，则系
2
kh
da
课
后 答
w.
案 网
co
m
1.543＜DW´= 1.75 ＜2
数的估计量是无偏的，但不再是有效的，也不是一致的。 （2）应用 GLS 法。设原模型为 y i 0 1 xi u i （1）
行了实验。
（2）结果基本相同。第二个模型三个参数中的两个的标准误差比第一个模型低， 可以认为是改善了第一个模型存在的异方差性问题。 5.11 我们有
用自由度（25，25）查 F 表，5％显著性水平下，临界值为：Fc＝1.97。 因为F＝2.5454>Fc＝1.97，故拒绝原假设原假设H 0 ： 1 3 。
t： (11.45) (74.82)
DW=1.15
DW=1.15，查表（n=19,k=1,α=5%）得d L =1.18。 DW=1.15＜1.18
C t -ρC t-1 = α(1-ρ)+β(Y t -ρY t-1 )+（u t -ρu t -1 ）
经典线性回归模型
β_1x_i))^2] ，其中 β_0 和 β_1 是待估计的参数。
参数估计与求解
参数估计是通过最小二乘法或其他优 化算法，求解出最佳拟合直线的参数 值。
参数求解过程中，需要选择合适的初 始值，并设置合适的迭代终止条件， 以确保求解的稳定性和准确性。
在线性回归模型中，参数估计通常采 用梯度下降法、牛顿法等优化算法进 行求解。
未来研究方向与Байду номын сангаас望
深度学习与线性回归的结合
利用深度学习的非线性拟合能力，结合线性回归的理论优势，有望开发出更强大、灵活的回归模 型。
强化学习与回归模型的结合
利用强化学习对序列数据的处理能力，结合线性回归的预测能力，有望在时间序列预测等领域取 得突破。
在线学习与增量学习
随着大数据的持续生成，如何实现在线学习和增量学习，以便及时更新模型并对新数据进行预测 ，也是未来发展的重要方向。
在经典线性回归模型的基 础上，考虑多个自变量对 因变量的影响，建立多元 线性回归模型。
模型建立
通过最小二乘法或最大似 然估计法，求解出最佳拟 合参数，建立多元线性回 归方程。
模型评估
使用残差分析、决定系数、 调整决定系数等方法对模 型进行评估和诊断。
岭回归与Lasso回归
岭回归
岭回归是一种用于解决共线性问题的线性回归扩展，通过 引入一个正则化项来惩罚回归系数的平方和，以减少过拟 合和异常值的影响。
复杂数据
随着数据维度的增加和数据类型的多 样化，如何处理高维稀疏数据、分类 数据、时序数据等复杂数据类型是未 来的研究重点。
模型选择与特征选择
如何自动选择最优的模型和特征，避 免过拟合和欠拟合，是提高回归模型 性能的关键问题。
未来研究方向与展望
参数估计与求解
参数估计是通过最小二乘法或其他优 化算法，求解出最佳拟合直线的参数 值。
参数求解过程中，需要选择合适的初 始值，并设置合适的迭代终止条件， 以确保求解的稳定性和准确性。
在线性回归模型中，参数估计通常采 用梯度下降法、牛顿法等优化算法进 行求解。
未来研究方向与Байду номын сангаас望
深度学习与线性回归的结合
利用深度学习的非线性拟合能力，结合线性回归的理论优势，有望开发出更强大、灵活的回归模 型。
强化学习与回归模型的结合
利用强化学习对序列数据的处理能力，结合线性回归的预测能力，有望在时间序列预测等领域取 得突破。
在线学习与增量学习
随着大数据的持续生成，如何实现在线学习和增量学习，以便及时更新模型并对新数据进行预测 ，也是未来发展的重要方向。
在经典线性回归模型的基 础上，考虑多个自变量对 因变量的影响，建立多元 线性回归模型。
模型建立
通过最小二乘法或最大似 然估计法，求解出最佳拟 合参数，建立多元线性回 归方程。
模型评估
使用残差分析、决定系数、 调整决定系数等方法对模 型进行评估和诊断。
岭回归与Lasso回归
岭回归
岭回归是一种用于解决共线性问题的线性回归扩展，通过 引入一个正则化项来惩罚回归系数的平方和，以减少过拟 合和异常值的影响。
复杂数据
随着数据维度的增加和数据类型的多 样化，如何处理高维稀疏数据、分类 数据、时序数据等复杂数据类型是未 来的研究重点。
模型选择与特征选择
如何自动选择最优的模型和特征，避 免过拟合和欠拟合，是提高回归模型 性能的关键问题。
未来研究方向与展望
潘省初计量经济学——第五章
ln ( G D Pt ) 0 1t u t
得到一国GDP的年增长率的估计值，这里t为时间趋 势变量。
8
线性-对数模型的形式如下：
Y t 0 1 ln X t u t
与前面类似，我们可用微分得到
因此
1 X
dY dX
dY dX X
dY dX
11 X这表明1Y的 绝 对 变 动 X的相对变动
3. R 2 ： 该变量加进方程中后，R 2 是否增大？
4. 偏倚： 该变量加进方程中后，其它变量的系数 估计值是 否显著变化？
如果对四个问题的回答都是肯定的，则该变量应该包括在 方程中；如果对四个问题的回答都是“否”， 则该变量是 无关变量，可以安全地从方程中删掉它。这是两种容易决 策的情形。
14
ln Y t 0 1 X t u t
对数-线性模型中，斜率的含义是Y的百分比变动， 即解释变量X变动一个单位引起的因变量Y的百分比 变动。这是因为，利用微分可以得出：
1
d ln Y dX
1 Y
dY dX
dY Y
( dX 1)
7
这表明，斜率度量的是解释变量X的单位变动所 引起的因变量Y的相对变动。将此相对变动乘以100， 就得到Y的百分比变动，或者说得到Y的增长率。 由于对数-线性模型中斜率系数的这一含义，因而也 叫增长模型 (growth model)。增长模型通常用于测 度所关心的经济变量（如GDP）的增长率。例如， 我们可以通过估计下面的半对数模型
双曲函数模型的特点是，当X趋向无穷时，Y趋 向 0 ，反映到图上，就是当X趋向无穷时，Y将无 限靠近其渐近线（Y = 0 ）。
双曲函数模型通常用于描述著名的恩格尔曲线和 菲利普斯曲线。
10
3. 多项式回归模型 多项式回归模型通常用于描述生产成本函数，其 一般形式为：
得到一国GDP的年增长率的估计值，这里t为时间趋 势变量。
8
线性-对数模型的形式如下：
Y t 0 1 ln X t u t
与前面类似，我们可用微分得到
因此
1 X
dY dX
dY dX X
dY dX
11 X这表明1Y的 绝 对 变 动 X的相对变动
3. R 2 ： 该变量加进方程中后，R 2 是否增大？
4. 偏倚： 该变量加进方程中后，其它变量的系数 估计值是 否显著变化？
如果对四个问题的回答都是肯定的，则该变量应该包括在 方程中；如果对四个问题的回答都是“否”， 则该变量是 无关变量，可以安全地从方程中删掉它。这是两种容易决 策的情形。
14
ln Y t 0 1 X t u t
对数-线性模型中，斜率的含义是Y的百分比变动， 即解释变量X变动一个单位引起的因变量Y的百分比 变动。这是因为，利用微分可以得出：
1
d ln Y dX
1 Y
dY dX
dY Y
( dX 1)
7
这表明，斜率度量的是解释变量X的单位变动所 引起的因变量Y的相对变动。将此相对变动乘以100， 就得到Y的百分比变动，或者说得到Y的增长率。 由于对数-线性模型中斜率系数的这一含义，因而也 叫增长模型 (growth model)。增长模型通常用于测 度所关心的经济变量（如GDP）的增长率。例如， 我们可以通过估计下面的半对数模型
双曲函数模型的特点是，当X趋向无穷时，Y趋 向 0 ，反映到图上，就是当X趋向无穷时，Y将无 限靠近其渐近线（Y = 0 ）。
双曲函数模型通常用于描述著名的恩格尔曲线和 菲利普斯曲线。
10
3. 多项式回归模型 多项式回归模型通常用于描述生产成本函数，其 一般形式为：
潘省初计量经济学中级教程习题参考答案
潘省初计量经济学中级教程习题参考答案计量经济学中级教程习题参考答案第一章绪论1.1 一般说来，计量经济分析按照以下步骤进行：（1）陈述理论（或假说）（2）建立计量经济模型（3）收集数据（4）估计参数（5）假设检验（6）预测和政策分析1.2 我们在计量经济模型中列出了影响因变量的解释变量，但它（它们）仅是影响因变量的主要因素，还有很多对因变量有影响的因素，它们相对而言不那么重要，因而未被包括在模型中。
为了使模型更现实，我们有必要在模型中引进扰动项u来代表所有影响因变量的其它因素，这些因素包括相对而言不重要因而未被引入模型的变量，以及纯粹的随机因素。
1.3 时间序列数据是按时间周期（即按固定的时间间隔）收集的数据，如年度或季度的国民生产总值、就业、货币供给、财政赤字或某人一生中每年的收入都是时间序列的例子。
横截面数据是在同一时点收集的不同个体（如个人、公司、国家等）的数据。
如人口普查数据、世界各国2000年国民生产总值、全班学生计量经济学成绩等都是横截面数据的例子。
1.4 估计量是指一个公式或方法，它告诉人们怎样用手中样本所提供的信息去估计总体参数。
在一项应用中，依据估计量算出的一个具体的数值，称为估计值。
如Y 就是一个估计量，1n ii Y Y n ==∑。
现有一样本，共4个数，100，104，96，130，则根据这个样本的数据运用均值估计量得出的均值估计值为5.107413096104100=+++。
第二章 经典线性回归模型2.1 判断题（说明对错；如果错误，则予以更正）（1）对（2）对（3）错只要线性回归模型满足假设条件（1）～（4），OLS 估计量就是BLUE 。
（4）错R 2 =ESS/TSS 。
（5）错。
我们可以说的是，手头的数据不允许我们拒绝原假设。
（6）错。
因为∑=22)ˆ(t x Var σβ，只有当∑2t x 保持恒定时，上述说法才正确。
2.2 应采用（1），因为由（2）和（3）的回归结果可知，除X 1外，其余解释变量的系数均不显著。
第05章 非线性回归模型
模型中的偏斜率系数B2、B3又称为偏弹性系数。因此B2度 量了X3不变条件下，Y对X2的弹性，即在X3为常量时，X2每变 动1%，Y变化的百分比。由于X3的影响保持不变，所以称此 弹性为偏弹性。在多元对数线性模型中，每一个偏斜率系数 度量了在其他变量保持不变的条件因变量对某一个解释变量 的偏弹性。
18
3
安徽大学经济学院
计量经济学讲义
5.1 非线性回归模型
线性回归模型的系数解释：
C = a + b *Y
(5.6)
问题：消费与收入之间的线性回归模型C = a + b*Y，其中回归系数b在《西方经济学》的含义是表示边 际消费倾向。在此模型中的斜率仅仅给出了个人收入单 位变动引起的消费的绝对量变化。 如果我们考虑商品需求的价格弹性变化，如何建立 回归模型。即研究这样的问题：价格每变化一个百分点， 商品的需求量将引起多大的变化率？
+ 0 . 7961
x
计算结果表明，在其他条件不变时，能源消耗量每增加一个单 位（十万吨），工业总产值将增加0.7961个单位（亿元）。
6
安徽大学经济学院
计量经济学讲义
5.2 双对数模型：度量弹性
将上述线性模型改变为非线性回归模型:
Y i = AX
变换为下列(5.8)形式：
B2 i
(5.7)
其中Y为工业总产值，X为能源消耗量。两边取对数将(5.7)
logindustrylogindustry0963811420logenergyse006341202553500963811420logenergy11安徽大学经济学院t18009723774381p000000000021r20958f324349900000000计量经济学讲义能耗与工业增加值取对数后的散点图12安徽大学经济学院计量经济学讲义双对数回归模型13安徽大学经济学院计量经济学讲义双对数模型的假设检验logindustry0963811420logenergyse00634120255350t18009723774381p000000000021r20958ff3243499p0000000032434990000000014安徽大学经济学院就假设检验而言线性模型与双对数模型并没有什么不同
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Question: 受约束模型与无约束模型在X1前的参数 估计量相等吗？ 记受约束模型(5.1.2)的OLS解为br=(X1’X1)-1X1’Y
则 Y=X1b1+X2b2+e1
且 X1’e1=0, X2’e1=0
于是 br=(X1’X1)-1X1’Y= (X1’X1)-1X1’[X1b1+X2b2+e1] =b1+ (X1’X1)-1X1’X2b2+ (X1’X1)-1X1’e1 =b1+ [(X1’X1)-1X1’X2]b2=b1+Q1b2 其中，Q1= (X1’X1)-1X1’X2 因此，当b2=0或X1与X2正交时，都有br=b1
第五章 经典线性回归模型(II)
Classical Linear Regression Model (II)
§5.1 回归模型的解释与比较 Interpreting and Comparing Regression Models
一、解释线性模型 interpreting the linear model 1、边际效应 对模型 Yi=0+1X1i+…+kXki+i
Question: 如何不遗漏相关变量,同时也不选择无关变量？
假设有如下两模型： Y=X11+X22+1 (5.1.1)
Y=X11+2
(5.1.2)
其中，(X1)nk1=(1,X1,,Xk1), (X2)n(k-k1)=(Xk1+1,,Xk)
1=(0,1,,k1)’， 2=(k1+1,,k)’
Question: 如何测度X1对Y的“净”影响？ 部分回归(Partial regression) Step 1: 排除X2的影响。 将Y对X2回归，得“残差”M2Y=[(I-X2(X2’X2)-1X2’]Y 将X1对X2回归，得“残差”M2X1=[(I-X2(X2’X2)1X ’]X 1 M 2Y为排除了 X 的净Y，M X 为排除了X 的净X
这时模型常写为: lnYi=0+1lnX1i+…+klnXki+I 在E(i|lnX1i,lnX2i,,lnXki)=0的假设下，弹性为
[E(Y|X)/E(Y|X)]/[Xj/Xj]E(lnY|lnXj)/lnXj=k
当原始模型为
Yi=0+1X1i+…+kXki+i =j[Xj/(0+1X1+…+kXk)]
显然，(5.1.2)为(5.1.1)的受约束模型。
约束条件为：H0： 2=0
1、部分回归(partial regression) Question: 如何解释j为“当其他变量保持不变，Xj 变化一个单位时Y的平均变化”？ 在X1与X2影响Y的同时，可 能存在着X1与X2间的相互影 响。如何测度？ X2 将X2中的每一元素Xj (j=k1+1, , k)对X1回归： Y Xj=X1(X1’X1)-1X1’Xj+[Xj-X1(X1’X1)-1X1’Xj] 或 X2=X1(X1’X1)-1X1’X2+[X2-X1(X1’X1)-1X1’X2] X1
时，弹性为： [E(化而变化。 3、相对变化 如果模型为 则： lnYi=0+1X1i+…+kXki+i j=E(lnY|X)/Xj
解释为：Xj变化1个单位时Y的相对变化量。
二、选择解释变量 Select the Set of Regressors
如何解释j为“当其他变量保持不变，Xj变化一个 单位时Y的平均变化”？
本质上： j=E(Y|X)/Xj 即测度的是“边际效应”(marginal effect)
因此，当一个工资模型为 Y=0+1age+2age2+3education+4gender+ 时，只能测度“年龄”变化的边际效应： E(Y|X)/age=1+22age 解释：“当其他变量不变时，年龄变动1个单位时 工资的平均变化量” 2、弹性： 经济学中时常关心对弹性的测度。
2 2 2 1 2
1
Step 2: 估计X1对Y的“净”影响。
将 M2Y对M2X1回归，得X1对Y的“净”影响：
M2Y=M2X1b*+e*
这里，b*=[(M2X1)’(M2X1)]-1(M2X1)’M2Y=X1-1M2Y e*=M2Y-M2X1b*
Proof: b为原无约束回归模型的OLS解，则有 X’Xb=X’Y
2、遗漏相关变量(omitting variables)
Question: What happen if we omit relevant variable?
将无约束模型代入受约束模型(5.1.2)的OLS解 br=(X1’X1)-1X1’Y ，可得
br=(X1’X1)-1X1’(X11+X22+1)
X1’X1b1+X1’X2b2=X1’Y (*) X2’X1b1+X2’X2b2=X2’Y (**) 由(**)得 b2=(X2’X2)-1X2’Y-(X2’X2)-1X2’X1b1 代入(*)且整理得： X1’M2X1b1=X1’M2Y b1=(X1’M2X1)-1X1’M2Y=X1-1M2Y=b* 其中，M2=I-X2(X2’X2)-1X2’ 又 M2Y=M2X1b1+M2X2b2+M2e1 而 M2X2=0， M2e1=e1-X2(X2’X2)-1X2’e1=e1 则 M2Y=M2X1b1+e1 或 e1=M2Y-M2X1b1=e* 或
=1+(X1’X1)-1X1’X22+ (X1’X1)-1X1’1
于是： E(br|X1)=1+Q12+ (X1’X1)-1X1’E(1|X1) =1+Q12 因此，只有当2=0或X1与X2正交时，才有E(br|X1)=1
X2=X1Q1+(I-P1)X2 =explained part + residuals
其中，Q1=(X1’X1)-1X1’X2
对
X2=X1Q1+(I-P1)X2 =X1Q1+M1X2
=explained part + residuals
M1X2就是排除了X1的其他因素对X2的“净”影响。
X2对X1的回归称为辅助回归(auxiliary regression)