计量经济学一元线性回归模型总结

第一节 两变量线性回归模型一．模型的建立1．数理模型的基本形式y x αβ=+ （2.1）这里y 称为被解释变量(dependent variable)，x 称为解释变量(independent variable)注意：（1）x 、y 选择的方法：主要是从所研究的问题的经济关系出发，根据已有的经济理论进行合理选择。

（2）变量之间是否是线性关系可先通过散点图来观察。

2．例如果在研究上海消费规律时，已经得到上海城市居民1981-1998年期间的人均可支配收入和人均消费性支出数据（见表1），能否用两变量线性函数进行分析？表1.上海居民收入消费情况年份 可支配收入 消费性支出 年份 可支配收入 消费性支出 1981 636.82 585 1990 2181.65 1936 1982 659.25 576 1991 2485.46 2167 1983 685.92 615 1992 3008.97 2509 1984 834.15 726 1993 4277.38 3530 1985 1075.26 992 1994 5868.48 4669 19861293.24117019957171.91586819871437.09128219968158.746763 19881723.44164819978438.896820 19891975.64181219988773.168662．一些非线性模型向线性模型的转化一些双变量之间虽然不存在线性关系，但通过变量代换可化为线性形式，这些双变量关系包括对数关系、双曲线关系等。

例3-2 如果认为一个国家或地区总产出具有规模报酬不变的特征，那么采用人均产出y与人均资本k的形式，该国家或者说地区的总产出规律可以表示为下列C-D生产函数形式y Akα=（2.2）也就是人均产出是人均资本的函数。

能不能用两变量线性回归模型分析这种总量生产规律？3．计量模型的设定 （1）基本形式：y x αβε=++ （2.3） 这里ε是一个随机变量，它的数学期望为0，即（2.3）中的变量y 、x 之间的关系已经是不确定的了。

之所以写成不确定关系的原因在于现实经济当中影响变量y 的因素除x 外还有许多（但均不是主要因素），这许多的因素就用ε来表示。

（注意数学期望的解释） 二．模型的假设1．对模型提出一些假设（限制）的原因保证模型设定具有较高的合理性，从而可用其进行经济分析并有利于统计分析的进行。

2．基本假定（1） 在x 给定的条件下，ε的数学期望为0； （2） x 与ε不相关；（3） ε的方差是一个常数； （4） ε之间不存在序列相关； （5） 2(0,)N εσ。

注意：第一，所有假定实际均是针对ε的；第二，假定（5）可由假定（4）得出，故不是一个独立的假定。

（解释数学期望、密度函数、方差、相关性和中心极限定理）第二 两变量回归模型的参数估计一．研究目的与方法 1．研究目的如何利用样本数据估计已经设定的两变量模型中的参数。

2．估计方法主要有最小二乘估计、矩估计和极大似然估计。

二．具体方法过程 （一）．最小二乘法 1．问题提出假设有如下的一组观测所得样本点及大致的回归直线，问如何才能得到最佳的回归直线参数估计值？2．问题解决标准关键是提出一个如何是最佳的标准。

直观上来看，我们可以选择这样的回归直线：使所有样本观测点与回归直线的偏离程度最小。

于是问题转化为偏离程度如何度量度量的问题，那么这种偏离程度如何计量呢？3．估计的步骤要求：21min()niii D y x αβ==--∑ （3.2.1）方法：利用微积分中的导数求极值的方法，具体步骤为： 由于（3.2.1）中的未知变量是a 、b ，因此由极值条件可得：0Dα∂=∂和0D β∂=∂ 由上两式可得一联立方程组，解之可得：2()(),()i i iy y x x y x x x βαβ--==--∑∑例3—3获得消费函数的参数估计。

例3-1中消费函数模型的参数估计（上机）。

（二）最大似然估计1．最大似然估计的基本原理为了获得一个随机变量x 的统计规律，进行了一组试验，试验得到了一组观测结果：x 1,x 2,x 3…，极大似然估计的基本思想是：既然在一次观测中出现了这一组观测值，这不应是偶然的，所以这一组观测值出现的概率应是最大的。

即如果设x 的概率密度函数为f(x)，则这一组概率f(x 1) f(x 2) f(x 3) …应当最大。

2．最大似然估计在两变量模型参数估计中的作用（1）前提条件：必须知道随机扰动项ε的分布，根据古典最小二乘法的假设，ε服从正态分布。

（2）计算过程由于ε的密度函数为22()2f εεσ⎧⎫=-⎨⎬⎩⎭，故一组ε序列123,,εεε的似然函数为：()22221222222222222211,,222211(2)exp (2)exp ()22n nn nni i ii i L y x εεεαβσσσσπσπσεπσαβσσ--==⎧⎫⎧⎫⎧⎫=---⎨⎬⎬⎩⎭⎭⎧⎫⎧⎫=-=---⎨⎬⎨⎬⎩⎭⎩⎭∑∑由复合函数的最大化条件可得：图3.2 一组样本点及回归直线图 Y=a+bx yx ** ** *20,0,0L L L αβσ∂∂∂===∂∂∂ （3.2.2） 解（3.2.2）可得：222211()()11,,()()i n n ii i i i i iy y x x y x y x e n n x x βαβσαβ==--==-=--=-∑∑∑∑ 注意：对于,αβ，最大似然估计法与最小二乘法所得结果一致，但最大似然估计还给出了2σ的估计。

（三）矩估计在概率论中有一个特殊的概念：矩。

矩（严格说这里仅指原点矩）通俗的说就是一个随机变量的任意次方的平均值（数学期望），例如随机变量ε的各阶矩：23,,E E E εεε等。

之所以提出矩的概念，是因为这有点类似于微积分中的泰勒展开式，在泰勒展开式中，任何一个多阶可微的函数均可利用一个多项式来近似，而对于随机变量的任意阶的平均值（数学期望）而言，他们同样也可通过一个由各阶矩构成的多项式来表示。

例如：随机变量x 的方差2()E x Ex -即可由Ex 和Ex 2所组成的多项式描述。

矩估计的基本思想是：母体矩=样本矩。

所谓母体矩，指的是由母体所计算的平均值（数学期望），所谓样本矩是指利用观测到的值所计算的平均值。

例如：随机变量x 的母体一阶矩（数学期望）是E(x)，而若现在有一组观测值x 1,x 2,…x n ，则由母体矩=样本矩的原理可得：11ni i Ex x n ==∑。

第三节 最小二乘估计量的性质一．问题提出前面两变量回归模型中参数,αβ的估计量分别是：2()(),()ii iy y x x y x x x βαβ--==--∑∑，对其观察可以知道，在x i 是常数的假设下，这两个估计量均是y i 的函数，也就是说，它们仍是一个随机变量，但是实际的,αβ值应当是一个固定的常数，而非一个随机变量，那么现在我们就面临这样一个问题：如何评价两个随机变量,αβ对两个非随机变量,αβ的近似程度？一般来说，我们可以通过如下方式考察：既然,αβ是一个随机变量，直观上我们可以看出，如果在多次重复观测过程中（观测次数太少说明不了问题，因为这些结果可能是偶然现象），,αβ会越来越接近,αβ，那么应当说,αβ就越是一个好的估计量。

评价这种“越来越近”的方法有三种：无偏性、一致性与最小方差性。

二．无偏性、一致性和最小方差性的解释 1．无偏性无偏性指的是，在大量观测之后，如果对所有的观测值加总后取平均数，那么这个平均数将等于（或近似等于）真实参数的值。

例如：对于随机变量β来说，如果我们对其进行重复观测后得到一组样本值12,ββ，如果取平均后11ni i n ββ=≈∑，则表明随机变量β是真实值β的一个无偏估计。

2．一致性一致性指的是这样一种“越来越近”的情形：在对随机变量β进行大量重复观测后，如果在观测次数足够大以后，观测值偏离真实值β的次数已经非常少了，即绝大部分观测值都非常接近于β了，那么这就表明随机变量β是真实值β的一个一致估计了。

3．有效性在说明有效性以前应说明最小方差的概念，最小方差性指的是，在所有用于近似表示真实值β的所有估计中，如果在多次观测后发现，12,ββ偏离β的总和2()iββ-∑最小，则表明β是β的一个最小方差估计。

有效性则指的是β不仅是β的无偏估计，而且还是β的最小方差估计。

三．最小二乘估计量的精确度问题高斯—马尔科夫定理：最小二乘估计量,αβ是真实值,αβ的一致最小线性无偏估计（blue ，best linear unbiasedness property ）。

这里“线性”指的是它是随机观测值y 1,y 2,y 3…的线性函数。

第四节 回归拟合度评价和决定系数1．前提假设：假设我们要估计的两变量回归模型为：i i i Y X αβε=++，且利用样本观测值所得到的估计结果为：i i Y X αβ=+。

•2。

问题提出•在回归分析当中，很自然的，我们总希望有更多的样本观测点落在回归直线上，这可以看作是判断我们的回归直线“好坏”的一个总的指标，那么我们如何来寻找这样一个用来描述“样本观测点落在回归直线上的比重”的指标呢？直观上来看，好像我们已经解决了这个问题：因为我们的最小二乘法已经保证了使样本观测值尽可能小的偏离回归直线。

但是仔细分析后可以发现，残差平方和22()ii i eY X αβ=--∑∑严重依赖于X i 、Y i 的度量单位，因此我们不能用此指标做为衡量标准。

为了消除度量单位的影响，我们最好寻求一个比例指标。

这个指标就是拟合优度。

2．拟合优度（拟合度）①R 2指标是判断回归模型优劣的一个最基本的指标，但比较笼统，不精细。

②在Eviews 中就是回归结果中的第一个R 2，判断时要注意，其越接近1，说明模型总体拟合效果越好。

③R 2的正式名称是“决定系数”。

1β* 2β12,ββ均是β的无偏估计，其抽样分布的比较。

具体的证明过程：2222()()()()2()()i i i i i i ii i i Y Y Y Y Y Y Y Y Y Y Y Y Y Y -=-+-=-+-+--∑∑∑∑∑由于i i i e Y Y =- 为此，首先要证明的是0ie =∑与0i iX e =∑，由最小二乘法的计算过程可知，我们要估计参数，就要使下式最小化：222min ()()i i i i i Y X Y Y e αβ--=-=∑∑∑，为了使其最小化对其关于α求偏导可得：(*)20i e α∂=-=∂∑∑，即0i e =∑。

同理，对β求偏导并令其为0，可得0i i X e =∑。

在这些条件下，有：Dependent Variable: C1 Method: Least Squares Date: 09/26/04 Time: 06:59 Sample(adjusted): 1982 1999C 5788.553 1446.866 4.000753 0.0010R-squared0.681221 Mean dependent var 12372.40 Adjusted R-squared 0.661297 S.D. dependent var 6624.073 S.E. of regression3855.090 Akaike info criterion19.45662Y Y i ()Y Y X X β-=-Y i 的离差分解Sum squared resid 2.38E+08 Schwarz criterion 19.55555Log likelihood -173.1095 F-statistic 34.19151Durbin-Watson stat 0.270758 Prob(F-statistic) 0.000025下一节上机课内容：估计例3-1中的参数并说明决定系数的含义。