计量复习资料

1到9章2一元回归模型定义、推倒、性质（方差、假设等）3摘要: 一元回归分析中，关键假定SLR.4(所有影响y的因素都和x不相关)不现实，也就是很难得到在“其它条件不变”的情形下进行因果推断。

多元回归模型(Multiple regression analysis)则由于可以控制其它影响y的因素(这些因素之间可以允许一定程度的相关性)而使得“其它条件不变”的要求容易满足。

多个解释因素的引入，改善了对y的解释和预测，也意味着更为一般的函数形式。

4摘要: 如果你需要推断参数表现如何，你就需要知道其分布。

所以，本章在误差项服从正态分布的假设下，进行单个参数、多个参数和多个约束的假设检验问题。

5摘要: 在第4章中，我们讨论了基于分布假设的小样本的精确统计性质，本章将讨论在没有分布假设前提下的大样本的渐近统计性质6摘要: 本章进一步讨论若干多元回归分析问题，对实证分析很有帮助。

7摘要: 本章在回归分析中引入定性变量(特别是二值变量)，自变量和因变量此时可以是定性数据，若因变量为二值变量，该线性模型被称为线性概率模型。

8摘要: 本章讨论MLR.5不成立(扰动项的条件方差不再是常数)时，对统计推断的影响，以及如何处理。

9摘要: 异方差被看成是模型误设的一种，但不是最重要的一种。

更重要的是解释变量和误差u相关(MLR.4不成立)，也就是所谓的内生性问题(endogenous explanatory variable)。

本章讨论造成内生性问题的三种情况，以及补救措施。

第一部：理论体系、逻辑、假设，有假设得出的结果对假设违背：1、假设3违背，多重共线性，什么是，怎么检验2、假设4违背，内生性。

，产生原因，怎么解决（第九章第二节，不考）最重要3、假设5，逆方差。

会改变哪些性质，怎么解决（两种方法）6道问答题第2章 一元回归模型2.1 一元回归的定义简单线性回归模型:y =β0+β1x +u . 总体回归函数(PRF)：E(y|x)=β0+β1xE(u)=0 意味着u 在总体中的平均值为零 E(u)=E(u|x) 意味着u 与x 不相关（均值独立）E(u|x)=0 意味着u 与x 不相关且在任意x 的切面上u 的均值为零（零条件均值假定）2.2 普通最小二乘估计的推导β1̂=∑(x i −x ̅)(y i −y ̅)ni=1∑(x i −x ̅)2n i=1, β0̂=y ̅−β1̂x ̅.样本回归函数（SRF/OLS 回归线）：y =β0̂+β1̂x 2.3 残差的性质、拟合优度残差的代数性质（注意残差的定义是y i -y i ̂）性质1：残差之和以及其样本均值为0——∑u i ̂=0n i=1 性质2：回归元和残差的样本协方差为0——∑x i ui ̂=0n i=1 性质3：样本重心总在OLS 回归线上——点（x ̅，y ̅）总在OLS 回归线上拟合优度：（y 的样本变异中被x 解释的部分）SST 总平方和≡∑(y i −y ̅)2ni=1SSE 解释平方和≡∑(y i ̂−y ̅)2n i=1, SSR 残差平方和≡∑u i ̂2n i=1, SST=SSE+SSR.回归R 2(判定系数)R 2≡SSESST =1−SSR/SST .2.4 度量单位和函数形式对 OLS 统计量的影响结论1：当自变量单位保持不变时，因变量被放大或缩小了c 倍，则OLS 的斜率和截距参数也被放大或缩小了c 倍.结论2：当因变量单位保持不变时，自变量被放大或缩小了c 倍，则OLS 的斜率参数被缩小或放大了c 倍，截距参数一般保持不变.2.5 OLS 估计量的期望、方差、标准差、标准误假设 SLR.1(线性于参数) 假设 SLR.2(随机抽样)假设 SLR.3(解释变量的样本有差异) 假设 SLR.4(条件均值为0)定理2.1 (无偏性)：在假设SLR.1～SLR.4的条件下E(β0̂)=β0和E(β1̂)=β1. 假设 SLR.5(误差同方差性) Var(u|x)=σ2.定理2.2 OLS 估计量的抽样方差:在假设SLR.1～SLR.5下， Var(β1̂)=σ2SST x =σ2∑(x i −x̅)2ni=1,和Var(β0̂)=σ2n −1∑x i2n i=1SST x.定理2.3 σ2的无偏估计：在假设SLR.1～SLR.5下，σ̂2=∑u ̂i 2n i=1n−2为σ2的无偏估计。

sd(β1̂)=√SST ,（σ2—误差方差、σ—误差标准差、σ̂—回归标准误） se(β1)̂=√SST （叫做标准误，实际就是估计值的标准差）2.6 过原点回归如果截距项为0，则斜率系数估计值:β1̂=∑x i y ini=1∑x i 2n i=1, 当β0不为1的时候，用上面这个公式求斜率估计值的话，那么得出的估计值是有偏的第3章 多元回归模型:估计3.1多元回归模型的定义二元回归模型：y =β0+β1x 1+β2x 2+u .多元回归模型：y =β0+β1x 1+β2x 2+⋯+βk x k +u .3.2 普通最小二乘法、残差性质、拟合优度、与一元回归的比较、过原点回归对k+1个参数分别进行求导可得估计值: ∑(y i −β0−β1x i1−β2x i2−⋯−βk x ik )=0n i , ∑x i1(y i −β0−β1x i1−β2x i2−⋯−βk x ik )=0n i , … ∑x ik (y i −β0−β1x i1−β2x i2−⋯−βk x ik )=0n i .∆y ̂=β̂i ∆x i ，即β̂i表示，在其它因素不变(ceteris paribus)的情况下，x i 对y 的偏效应残差的性质(与一元回归相同):性质1：残差之和以及其样本均值为0——∑u i ̂=0n i=1 性质2：回归元和残差的样本协方差为0——∑x i u i ̂=0n i=1 性质3：样本重心总在OLS 回归线上——点（x ̅，y ̅）总在OLS 回归线上拟合优度(与一元回归相同)SST 总平方和≡∑(y i −y ̅)2=0n i=1, SSE 解释平方和≡∑(y i ̂−y ̅)2=0n i=1, SSR 残差平方和≡∑u i ̂2=0n i=1, SST=SSE+SSR. 回归R 2(判定系数)R 2≡SSE SST=1−SSR/SST .过原点回归如果截距不为0，那么过原点回归中的斜率参数是有偏的；反之，使用带截距的回归，斜率估计量不是有效的。

一元回归和多元回归估计值的比较假设一元回归方程记为: y ̃=β0̃+β1̃x 1，二元回归方程:y ̂=β̂0+β̂1x 1+β̂2x 2 那么β1̃=β̂1+β̂2δ̃1,其中δ̃1为x2对x1进行一元回归后的斜率系数。

3.3 与3.4 OLS 估计值的期望值、方差、标准误假设 MLR.1(线性于参数) 假设 MLR.2(随机抽样)假设 MLR.3(解释变量的不完全共线性) 可以得出β估计值假设 MLR.4(条件均值为0)定理3.1 OLS （无偏性）：在假设 MLR.1～MLR.4的条件下， E(β0̂)=β0和E(βj ̂)=βj ,j =1,...,k . 两种特殊情形：回归模型中包含了无关变量：不影响参数估计值的无偏性（因为增加一个无关自变量不违背MLR4）遗漏变量的偏误:1、 若遗漏的自变量与其他自变量完全无关，则不会产生偏误2、 除了上面的情况，会导致参数估计值产生偏误，bias(β1̃)=β2δ̃1 ，若E(β1̃)>β1，则称β1̃有向上的偏误(upward bias)，否则称有向下的偏误(downward bias). 假设 MLR.5(同方差，Var(u|x 1,…,x k )=σ2)定理 3.2 OLS 斜率估计量的抽样方差：在假设MLR.1～MLR.5下，Var(βj ̂)=σ2SST j(1−R j 2)=σ2∑(x i,j −x j ̅)2(1−R j 2)n i=1，R j 2为其xj 对它自变量进行回归后的判决系数.R j 2是自变量间的相互回归，R j 2=1意味着Xj 恰好是回归中某些自变量的线性组合误设（指遗漏自变量）模型中的方差: 1、 包含无关变量不影响 2、 遗漏了变量1) 如果β2≠0，β1̃是有偏的，而β1̂是无偏的，但Var(β1̂)>Var(β1̃); 2) 如果β2=0，β1̃和β1̂都是无偏的，但Var(β1̂)>Var(β1̃). 定理3.3 σ2的无偏估计在高斯-马尔可夫假设下，σ̂2=∑u ̂i 2n i=1n−k−1为σ2的无偏估计。

定理3.4 高斯-马尔可夫定理（有效性）在高斯-马尔可夫假设下，OLS 估计值是最优线性无偏估计（最优的意思是方差最小） se(β1)̂=√SST 1(1−R 1)多重共线性：两个或多个自变量之间高度(但不完全)相关时被称为模型存在多重共线性影响βĵ方差的三个因素:1) σ2(增加解释变量);2) SST j (扩大样本容量);3) R j 2. 两个或多个自变量之间高度(但不完全)相关时被称为模型存在多重共线性(multicollinearity).关于多重共线性的讨论:1)并没有界定清楚(没有违背任何一个假设)；2)统计推断中更看重估计值和其样本标准差的比值；3)小样本同样可能导致大方差(micronumerosity)；4)如果研究中感兴趣的变量和其余变量相关性不强，则其余变量间的共线性不是什么问题！5) 判断共线性的一个有缺陷的指标方差膨胀因子(variance inflation factor,VIF):VIF j = 1(1−R j2)>10?第4章 多元回归分析: 推断4.1 误差项、估计值抽样分布假设 MLR.6(正态性)：误差项u 和自变量x1…xk 相互独立，且误差项服从均值为0，方差为σ2的正态分布,即: u ~N(0,σ2).在CLM 假定下，得到了比高斯-马尔可夫假定下更强的结论，OLS 估计量是最小方差无偏估计量，CLM 的假定形式: y|X~N(β0+β1x 1+β2x 2+⋯+βk x k ,σ2),定理4.1正态抽样分布：在CLM 假定下，β̂i ~N(βi ,Var(β̂i ),因此，β̂i −βi sd(β̂i)~N(0,1),（是前面式子的变形）4.2 检验单个总体变量的假设: t-检验定理4.2 标准化估计量的t 分布（可以将正态分布看成是t 分布的特殊情况） ：在MLR.1～MLR.5下，以自变量的样本值为条件,有: β̂i −βise(β̂i)~t n−k−1,t 统计量/t 比率(t ratio)为:t β̂i ≡ β̂i se(β̂i),。

显著性水平：假设正确却认为其错误的概率t 大于/小于临界值则拒绝假设，也称假设对应的x 是显著的（分为两种情况，系数为正或为负）t 检验的前提是确定一个显著性水平，但是不存在“正确的”显著性水平，因此通常需要检验不同显著性水平下是否拒绝，因此为了简便，设定p 值：在给定t 统计量的前提下，能拒绝虚拟假设的最小显著性水平若p 小于显著性水平，则可拒绝假设，若p 大于显著性水平则无法拒绝（t 值是和临界值比较）4.3 置信区间（βi 可能的取值）在CLM 的假定下，在某显著水平下的临界值为c(双侧检验)，则该水平下的置信区间为：[β̂i −c ∗se(β̂i ),β̂i +c ∗se(β̂i)], 如置信区间为（-1，1），那就不能拒绝β̂i=0的假设4.4 关于检验参数的简单线性组合的假设问题：有工资模型log（工资）=β0+β1大专年数+β2大学年数+β3参加工作的月数+u，问大专的一年是否比得上大学的一年？即检验:H0:β1=β2,其被择假设为：H1:β1<β2.一般的思路，估计检验统计量tβ̂1−β̂2≡β̂1−β̂2se(β̂1−β̂2)，其中因为 Var(β̂1−β̂2)= Var(β̂1)+Var(β̂2)−2cov(β̂1−β̂2)，所以se(β̂1−β̂2)=√se(β̂1)2+se(β̂2)2−2s12, s12为cov(β̂1−β̂2)的估计值。