一元线性回归模型

OLS估计结果：Y ˆi1.7 06 60.0 20X 5 i 1（第4版第15页）
3. OLS回归函数的性质
（第4版第13页）
(1) 残差和等于零， uˆt = 0
由正规方程 2 (Yt - ˆ0 - ˆ1 Xt) (-1) = 0
得 (Yt - ˆ0 - ˆ1 Xt) = (Yt - Yˆt ) = ( uˆt ) = 0
（第4版教材第9页）
2.2 最小二乘估计（OLS）
通常真实的回归直线是观测不到的。收集样本的目的就是要对这条真实的回归直线 做出估计。
Yˆt = ˆ 0 + ˆ1 Xt
表示。其中 Yˆt 称 Yt 的拟合值（fitted value）， ˆ0 和 ˆ1 分别是0 和1 的估计量。观
测值到这条直线的纵向距离用 uˆt 表示，称为残差。（课本上用 ei 表示。）
第2章 一元线性回归模型
模型的建立及其假定条件
最小二乘估计（OLS）
OLS回归函数的性质
最小二乘估计量的特性
yt的分布和 ˆ 1 的分布
的估计
拟合优度的测量
回归参数的显著性检验与置信区间
yF 的点预测与区间预测 案例分析
EViews操作
file: li-2-1 file: li-2-3 file: case1 file: 5kepler3 file: food
把上式代入（4）式并整理，得，
T
[(Yt Y ) ˆ1(X t X )] Xt = 0
i1
（第4版第13页）
T
T
(Yt Y )X t ˆ1 (X t X )X t = 0
i1
i1
（课本上用英文小写字母表示离差）
ˆ1=
X t (Yt Y ) = (Xt X)Xt
X t (Yt Y ) (Xt X)Xt
以上四个假定可作如下表达。ut N (0, )。
(5) Cov(ui, uj) = E[(ui - E(ui) ) ( uj - E(uj) )] = E(ui, uj) = 0，(i j )。 含义是不同观测值所对应的随机项相互独立。称为 ui 的非自相关性。
(6) xi 是非随机的。 (7) Cov(ui, xi) = E[(ui - E(ui) ) (xi - E(xi) )] = E[ui (xi - E(xi) ]
X (Yt Y ) = X(Xt X)
( X t X )(Yt Y ) (Xt X)2
谁提出的OLS估计方法？
（C F Gauss, 1777-1855）
C F Gauss 1809年提出OLS估计方法。
例题2.1 人均鲜蛋需求量Y与人均可支配收入X关系
Yt：千克 Xt：元
(file: li-2-1)
第2章 一元线性回归模型
1. 模型的建立及其假定条件
一元线性回归模型
Yt = 0 + 1 Xt + ut
（各部分名称）
（第4版教材第7页）
回归模型的随机误差项中一般包括如下几项内容，（1）非重要解释变量的省略， （2）人的随机行为，（3）数学模型形式欠妥，（4）归并误差（粮食的归并）（5） 测量误差等。
在对回归函数进行估计之前应该对模型解释变量和误差项 ut 做出如下假定。 (1) ut 是一个随机变量，ut 的取值服从概率分布。 (2) E(ut) = 0。
(3) D(ut) = E[ut - E(ut) ]2 = E(ut)2 = 2。称 ui 具有同方差性。
(4) ut 为正态分布（根据中心极限定理）。
(2) 估计的回归直线 Yˆt = ˆ0 + ˆ1 Xt 过（ X , Y ）点。
正规方程 (Yt - ˆ0 - ˆ1 Xt) = 0 两侧同除样本容量 T，得
Y = ˆ 0 + ˆ1 X
证毕。
(3) yt 的拟合值的平均数等于其样本观测值的平均数， Yˆt = Y 。
Yˆt
=
1 T
Yˆt
=
1 T
Q
ˆ 0
T
= 2 (Yt
i1
ˆ0
ˆ1X t ) (-1)
=0
Q
ˆ1
=
2
T
(Yt
i1
ˆ0
ˆ1X t
)
(-
Xt)
=
0
（第4版第11页）
T
(Yt ˆ0 ˆ1X t ) = 0
(3)
i1
T
(Yt ˆ0 ˆ1X t ) Xt = 0
(4)
i1
（3）式两侧用 T 除，并整理得， ˆ0 = Y ˆ1X 。
( ˆ0 + ˆ1
Xt) = ˆ 0 + ˆ1
X =Y
证毕。
3. OLS回归函数的性质
（第4版第13页）
(4) Cov( uˆt , Xt) = 0
只需证明 ( Xt - X ) uˆt = Xt uˆt - X uˆt = Xt uˆt
= Xt ( Yˆt - ˆ0 - ˆ1 Xt) = 0。
回归模型存在两个特点。（1）建立在某些假定条件不变前提下抽象出来的回归 函数不能百分之百地再现所研究的经济过程。（2）也正是由于这些假定与抽象，才 使我们能够透过复杂的经济现象，深刻认识到该经济过程的本质。
通常线性回归函数 E(yt) = 0 + 1 xt 是观察不到的，利用样本得到的只是对 E(yt) = 0 + 1 xt 的估计，即对0 和1 的估计。
（第4版第10页）
估计的模型。 Yt = Yˆt + uˆt = ˆ 0 + ˆ1 Xt + uˆt 最小二乘法的原则是以“残差平方和最小”确定直线位置。
设残差平方和用 Q 表示，
T百度文库
T
T
Q = uˆt 2 = (Yt Yˆt )2 = (Yt ˆ0 ˆ1X t )2
i 1
i1
i1
求 Q 对 ˆ0 和 ˆ1 的偏导数并令其为零，得正规方程
= E[ui xi - ui E(xi) ] = E(ui xi) = 0. ui 与 xi 相互独立。否则，分不清是谁对 yt 的贡献。
(8) 对于多元线性回归模型，解释变量之间不能完全相关或高度 相关（非多重共线性）。
在假定（1），（2），（6）成立条件下有
E(yt) = E(0 + 1 xt + ut ) = 0 + 1 xt 。
上式为正规方程之一。 (5) Cov( uˆt , Yˆt ) = 0
只需证明 ( Yˆt - Y ) uˆt = Yˆt uˆt - Y uˆt = Yˆt uˆt = uˆt ( ˆ0 + ˆ1 Xt) = ˆ0 uˆt + ˆ1 uˆt Xt = 0