变量类型与统计分析对应表如下

变量类型与统计分析对应表如下：条件期望与条件方差在正式进入计量经济学的学习之前，需要对条件期望以及条件方差熟练掌握，它们将在以后的学习中经常遇到。

一、条件期望 1、条件均值的定义 条件均值的定义为：[]()()||||yY X yyf y x dyY E Y X yP y x Y ⎧⎪=⎨⎪⎩⎰∑若是连续的若是离散的应当指出的是，条件期望是谁的函数？2、条件期望的性质条件均值有几个简单而有用的性质：（1）迭代期望律 ( Law of Iterated expectations, LIE) 条件期望的期望等于无条件期望：[][]|X E Y E E Y X ⎡⎤=⎣⎦其中，记号[]x E ⋅表示关于 x 值的期望。

Proof: 离散情形： We need to show:()[]()|X xE Y E Y X x P X x ===∑Where []()|||Y X yE Y X x yP y x ==∑.We have[]()()()()()|||X xY X X yxY yE Y Xx P X x y P y x P x yP Y y E Y ======∑∑∑∑连续情形:and()()X xE g gf x dx=⎰()()||yE Y X yf y x dy=⎰()()()()()()()()()()()()|||||,X xx y x yx yx yyE E Y X x E Y X x fx dx yfy x dy f x dxyf y x dy f x dx yf y x f x dxdyyf x y dxdyyf y dyE Y ∴=⎡⎤⎣⎦==⎡⎤⎣⎦⎛⎫= ⎪ ⎪⎝⎭=====⎰⎰⎰⎰⎰⎰⎰⎰⎰⎰迭代期望律的一般表述方式()()()|||E y E E y =x w x其中，()g =x w ，x 是w 的子集，()g ⋅为非随机函数。

特例： ()()()||,|E y E E y =x x z x 另外，()()()|||E y E E y =x x w 也成立。

Smaller σ-field always win!!（2）[][]()()|()()|E g y h x y g y E h x y = （3）[][]{}()()()()|E g y h x E g y E h x y =[][]()[]{}()()()()|()()|E g y h x E E g y h x y E g y E h x y ==（4）[][][]|||E ax by z aE x z bE y z +=+ 更为一般的情形：设，()()()()12,,,G a a a b x x x x 和为x 的标量函数，12,,,G y y y 为随机变量，那么：()()()()()11||G Gj j j j j j E a y b a E y b ==⎛⎫+=+ ⎪⎝⎭∑∑x x x x x x （5）对于任何二元变量的分布，()[]()()()[](),,||x xCov x y Cov x E y x x E x E y x f x dx==-⎰证明：(,)Cov x y Exy ExEy =-[(|)][(|)][(|)]E E xy x ExEy E xE y x ExE E y x =-=- [](),|Cov x E y x ={()[(|)((|))]}E x Ex E y x E E y x =--[()(|)][()][()(|)]E x Ex E y x E x Ex Ey E x Ex E y x =---=-()()[]()|x xx E x E y x f x dx =-⎰从这个公式中，我们需要理解线性回归中的两个古典假设：(|)0(,)0E u x Cov x u =⇒=由此零均值假定（在i x 给定的条件下，i u 的条件均值为零）与随机扰动项与解释变量不相关的假定在某种意义下等价，这将在以后的学习中经常提及。

二、条件方差 1、条件方差的定义 条件方差的定义为：[]()[]()()[]()2222|||||Var y x x E y E y x x E y x E y x σ⎡⎤==-=-⎣⎦它的简化公式为：()()[]()22|||Var y x E y x E y x =-可认为是：分组条件下的集中程度的度量，或者，分组条件下的差异程度的度量。

同理，条件期望为总体分组条件下的分门别类地求期望。

2、条件方差的性质（1） ()()()()()()()2||Var a y b a Var y +=x x x x x（2）一个重要的方差分解定理：[][][]||x x Var y Var E y x E Var y x ⎡⎤⎡⎤=+⎣⎦⎣⎦它表示，在一个二元分布中，y 的方差可分解为条件期望的方差加上条件方差的期望。

将此式变形即可得到：[][][]||x x E Var y x Var y Var E y x ⎡⎤⎡⎤=-⎣⎦⎣⎦它表示从平均意义上看，在条件约束下，条件化减少了变量的方差。

y 的条件方差不大于y 的无条件方差。

现在我们来证明 [][][]||x x Var y Var E y x E Var y x ⎡⎤⎡⎤=+⎣⎦⎣⎦ 证明：()()()()()()()()()()()()()()()()()2222||||2||Var y E y E y E y E y E y E y E y E y E y E y y E y E y E y =-=-⎡⎤-+=-+-+--⎣⎦x x x x x x()()()()()()()()()()()22|| 2||E y E y E E y E y E y E y E y E y ==-+-+--x x x x()()()()()22||E y E y E E y E y =-+-x x()()()()()()()()()()()()()()()2||22|||||E E y E E y Var E y E Var y E E y E y E E y E y =-===-+-x x x x x x x()()()()||E Var y Var E y =+x x（3）(|)[(|)|][(|)|]Var y E Var y Var E y =+x x,z x x,z x 证明：利用性质：[(|)|](|)E E y E y =x,z x x ，22[(|)|](|)E E y E y =x,z x x 则：()22(|)(|)(|)Var y E y E y =-x,z x,z x,z右边第一项为()()()2222[(|)|](|)(|)| (|)(|)|E Var y E E y E y E y E E y ⎡⎤=-⎣⎦=-x,z x x,z x,z x x x,z x右边第二项为()()2222[(|)|]((|)|)((|)|) ((|)|)(|)Var E y E E y E E y E E y E y =-=-x,z x x,z x x,z x x,z x x所以[(|)|][(|)|]E Var y Var E y +x,z x x,z x()()()222222(|)(|)|((|)|)(|)(|)(|)E y E E y E E y E y E y E y =-+-=-x x,z x x,z x x x x小结：1、方差分解定理可以表述为：[][][]||x x Var y Var E y x E Var y x ⎡⎤⎡⎤=+⎣⎦⎣⎦在方差分解定理的公式中，[]Var y 是y 的方差，也就是回归式中的总离差平方和TSS 。

条件期望的方差[]|x Var E y x ⎡⎤⎣⎦是回归式中的回归平方和ESS ；条件方差的期望[]|x E Var y x ⎡⎤⎣⎦是回归的残差平方和RSS 。

2、依据方差分解定理，可以构造R 2统计量：[][]2|x Var E y x ESS R TSS Var y ⎡⎤⎣⎦==3、对方差分解定理进行简单的扩展，得到如下的表达式：(|)[(|,)|][(|,)|]Var y X E Var y X z X Var E y X z X =+ (|)[(|,)|]Var y X E Var y X z X ⇒≥两边取期望，由迭代期望定理得到：[(|)]{[(|,)|]}[(|,)]E Var y X E E Var y X z X E Var y X z ⇒≥=由于回归方程的总离差平方和TSS 是不变的，因此，上式说明，在回归式中增加新的变量会使得可决系数增大。

古典假设与最小二乘一、背景本部分开始我们正式进入计量经济学的学习。

在计量经济学中，我们考察经济变量之间的相互关系，最基本的方法是回归分析。

回归分析是计量经济学的主要工具，也是计量经济学理论和方法的主要内容。

本部分从多元回归模型入手，对古典假设进行学习，然后就最小二乘估计法的算法、双残差回归和模型拟合优度的一些问题进行探讨。

二、知识要点1、回归模型2、古典假设3、最小二乘法4、双残差回归5、方差分解和拟合优度三、要点细纲1、回归模型一般的，我们可以将回归模型写为条件期望和随机扰动项的和，即：(|)=+y y X。

Eε当(|)E y X取不同的形式时，也就构成了不同的模型，包括：线性、非线性和非参数等。

我们这里所学习的是线性模型(一元或多元)：y Xβ。

其中：=+E y X Xβ，则总体回归方程可表示为：ε[|] =12(1)n n y y y ⨯⎛⎫⎪⎪=⎪⎪⎝⎭y ，111112122111()111j k j k n njn k n k x x x x x x x x x ---⨯⎛⎫ ⎪ ⎪= ⎪ ⎪ ⎪⎝⎭X ，011(1)k k βββ-⨯⎛⎫⎪ ⎪= ⎪ ⎪ ⎪⎝⎭β n 表示样本数量，k 表示解释变量个数（包含了常数项），当2k =时就是一元线性回归模型（也称简单线性回归模型）。

而()12(1)Tn n εεεε⨯=表示的是随机扰动项，包含了除了解释变量以外的其他影响因素。

若遗漏变量，则这个变量也将被扰动项所包含。

这里有个回归和投影的概念，简单的说回归是相对总体而言，而投影是相对样本而言，线性投影总是存在的，而且是唯一的。

2、古典假设在初级计量经济学中，我们可以看到对于回归模型的假设条件包括：（1）零均值，即()(|)0,|0i ij i E u Cov x ε=⇒=X X ；（2）同方差与无自相关假定，即随机扰动项的方差2(|)n Var εσ=X I ；（3）随机扰动项与解释变量不相关，即(,|)0ij i Cov x ε=X ； （4）无多重共线性，即各解释变量之间线性无关，()Rank k =X ； （5）正态性假定，即2~(0,)i N εσ。