计量经济学 第二章 一元线性回归模型范文

第二章 一元线性回归模型2.1 一元线性回归模型的基本假定2.1.1一元线性回归模型有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。

其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。

上模型可以分为两部分。

（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。

图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。

以收入与支出的关系为例。

假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。

但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。

所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。

“线性”一词在这里有两重含义。

它一方面指被解释变量Y 与解释变量X 之间为线性关系，即1tty x β∂=∂220tt y x β∂=∂另一方面也指被解释变量与参数0β、1β之间的线性关系，即。

1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。

所以在经济问题上“控制其他因素不变”是不可能的。

随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。

回归模型的随机误差项中一般包括如下几项内容： （1）非重要解释变量的省略， （2）数学模型形式欠妥， （3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。

2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。

在对回归函数进行估计之前应该对随机误差项u t 做出如下假定。

1、零均值：随机误差项的的期望为零E(u t ) = 0，y t = β0 + β1 x t + u t 的期望值E(y t ) = β0 + β1 x t 正是由E(u t ) = 0推出的 2、同方差：随机误差项的方差与t 无差。

D(u t ) = E[u t - E(u t ) ]2 = E(u t )2 = σ 2不难推出：[][]()22220101()(()()()t t t t t t t D y E y E y E x u x E u ββββσ=-=++-+==3、无自相关：即不同的误差项相互独立。

Cov(u i , u j ) = E[(u i - E(u i ) ) ( u j - E(u j ) )] = E(u i , u j ) = 0, (i ≠ j )。

含义是不同观测值所对应的随机项相互独立。

称为u i 的非自相关性。

不难推出：[][]cov(,)()()()0t s t t s s t s y y E y E y y E y E u u =--== 4、解释变量与随机误差项不相关Cov(u i , x i ) = E[(u i - E(u i ) ) (x i - E(x i ) )] = E[u i (x i - E(x i ) ] = E[u i x i - u i E(x i ) ] = E(u i x i ) = 0。

u i 与x i 相互独立。

否则，分不清是谁对y t 的贡献。

5、正态假定。

即误差项服从均值为零，方差为σ 2的正态分布。

ut~ N (0,σ2)不难推出，y t~ N (β0 + β1 x t,σ2)。

以上这些对随机误差项的假设是德国数学家高斯最早提出的，也称高斯假设或古典假设。

满足以上古典假设的线性回归模型，也称古典线性回归模型。

回归模型存在两个特点。

（1）建立在某些假定条件不变前提下抽象出来的回归函数不能百分之百地再现所研究的经济过程。

（2）也正是由于这些假定与抽象，才使我们能够透过复杂的经济现象，深刻认识到该经济过程的本质。

2.2一元线性回归模型的参数估计2.2.1最小二乘估计（OLS）对于所研究的经济问题，通常真实的回归直线是观测不到的。

收集样本的目的就是要对这条真实的回归直线做出估计。

怎样估计这条直线呢？显然综合起来看，这条直线处于样本数据的中心位置最合理。

怎样用数学语言描述“处于样本数据的中心位置”？设估计的直线用tyˆ=0ˆβ+1ˆβx t表示。

其中tyˆ称y t的拟合值（fitted value），0ˆβ和1ˆβ分别是β0 和β1的估计量。

观测值到这条直线的纵向距离用tuˆ表示，称为残差。

y t =tyˆ+t uˆ=0ˆβ+1ˆβx t +t uˆ称为估计的模型。

假定样本容量为T。

（1）用“残差和最小”确定直线位置是一个途径。

但很快发现计算“残差和”存在相互抵消的问题。

（2）用“残差绝对值和最小”确定直线位置也是一个途径。

但绝对值的计算比较麻烦。

（3）最小二乘法的原则是以“残差平方和最小”确定直线位置。

用最小二乘法除了计算比较方便外，得到的估计量还具有优良特性。

（这种方法对异常值非常敏感）设残差平方和用Q表示，Q =∑=Ti tu12ˆ=∑=-Ti t t yy 12)ˆ(=∑=--Ti t t x y 1210)ˆˆ(ββ，则通过Q 最小确定这条直线，即确定0ˆβ和1ˆβ的估计值。

以0ˆβ和1ˆβ为变量，把Q 看作是0ˆβ和1ˆβ的函数，这是一个求极值的问题。

求Q 对0ˆβ和1ˆβ的偏导数并令其为零，得正规方程，ˆβ∂∂Q = 2∑=--Ti t t x y 110)ˆˆ(ββ(-1) = 0 (1) 1ˆβ∂∂Q = 2∑=--T i t t x y 110)ˆˆ(ββ(- x t ) = 0 (2) 解这个方程组得：0ˆβ= x y 1ˆβ-、1ˆβ=∑∑---2)())((x x y y x x tt t下面用代数和矩阵两种形式推导计算结果。

首先用代数形式推导。

由（1）、（2）式得，∑=--Ti t t x y 110)ˆˆ(ββ= 0 (3)∑=--Ti t t x y 110)ˆˆ(ββx t = 0 (4)（3）式两侧用T 除，并整理得，0ˆβ= x y 1ˆβ- (5) 把上式代入（4）式并整理，得，])(ˆ)[(11∑=---Ti ttx x y yβx t = 0 (6) ∑∑==---Ti t tTi t tx x xx y y111)(ˆ)(β= 0 (7)1ˆβ= ∑∑--ttt txx x y y x )()( (8)因为∑=-Ti t y y x 1)(= 0，∑=-T i t x x x 1)(= 0，分别在（8）式的分子和分母上减∑=-Ti t y y x 1)(和∑=-Ti t x x x 1)(得，1ˆβ= ∑∑∑∑------)()()()(x xx x x x y yx y y x ttttt t(9)=∑∑---2)())((x x y y x x tt t(10) 下面用矩阵形式推导0ˆβT +1ˆβ (∑=Ti t x 1) = ∑=Ti t y 1ˆβ∑=Ti t x 1+1ˆβ(∑=Ti t x 12) = ∑=Ti t t y x 1⎥⎥⎦⎤⎢⎢⎣⎡∑∑∑2t tt x x x T⎥⎥⎦⎤⎢⎢⎣⎡10ˆˆββ=⎥⎥⎦⎤⎢⎢⎣⎡∑∑t t t y x y ⎥⎥⎦⎤⎢⎢⎣⎡10ˆˆββ=12-⎥⎥⎦⎤⎢⎢⎣⎡∑∑∑t t t x x x T ⎥⎥⎦⎤⎢⎢⎣⎡∑∑t t t y x y =22)(1∑∑-t t x x T ⎥⎥⎦⎤⎢⎢⎣⎡--∑∑∑T x x x t t t 2⎥⎥⎦⎤⎢⎢⎣⎡∑∑t t t y x y这种形式在单位根检验的理论分析中非常有用。

例2.1（P35）略2.2.2最小二乘估计量0ˆβ和1ˆβ的特性 (1) 线性特性这里指0ˆβ和1ˆβ分别是y t 的线性函数。

1ˆβ= ∑∑---2)())((x x y y x x ttt=∑∑∑----2)()()(x x x xy y x x tttt=∑∑--2)()(x x y x x ttt令 k t =∑--2)()(x xx x tt ，代入上式得 1ˆβ= ∑ k t y t 容易证明：0t k =∑; 1t t k x =∑;221()t tk x x =-∑∑ 22()0()()ttt ttx x x nxk x x x x --===--∑∑∑∑∑2222()()()()()1()()()t t t t t t t t t t t x x x x x x x x x k x x x x x x x x x x x -+---==-+==---∑∑∑∑∑∑∑∑2222222()1()()()t tt t tt x x x x k x x x x x x ⎡⎤--===⎢⎥--⎢⎥⎡⎤-⎣⎦⎣⎦∑∑∑∑∑∑ 可见1ˆβ是y t 的线性函数，是β1的线性估计量。

同理β0也具有线性特性：01ˆ()t t xk y n β=-∑ (2) 无偏性 利用上式E(1ˆβ) = E(∑ k t y t ) = E[ ∑ k t (β0 + β1 x t + u t ) ] = E ( β0 ∑ k t + β1 ∑ k t x t + ∑ k t u t ) = β1 + E(∑ k t u t ) = β1+∑ k t E u t = β1 (3) 有效性β0, β1的OLS 估计量的方差比其他估计量的方差小。

为了说明最小方差性，先导出0ˆβ和1ˆβ的方差公式。

[][]()22220101var()()()()t t t t t y E y E y E E ββμββμσ=-=++-+==,且与y 相互独立。

222212var()var()var()()t t t t tt k y k y kx x σβσ====-∑∑∑∑同样，我们可以推出：2202var()()t t x n x x σβ=-∑∑假设*1t t c y β=∑是β1的另一个线性无偏估计值，c t ≠k t ， *11()E ββ=*101011()()()t t t t t t t E c E y c x c c x ββββββ==+=+=∑∑∑∑ 比较两边可得：0t c =∑、1t t c x =∑ 而且有：222()1()()()t t t t t t t t t t x x k c k k c k c x x x x --=-=---∑∑∑∑∑∑ =2211(1)(101)0()()t t t t tc x x c x x x x --=--=--∑∑∑∑*222212222222221var()var()()()2()()var t t t t t t t t t t t t t t t t c y c k c k k c k k c k k c k k βσσσσσσβ===+-⎡⎤=+---⎣⎦=+-≥=∑∑∑∑∑∑∑同理可证：*00var()var ββ≥Gauss-Markov 定理：若u t 满足E(u t ) = 0，D(u t ) = σ 2，那么用OLS 法得到的估计量就具有最佳线性无偏性。