4 简单的回归模型OLS

分比
OLS估计量的特征
• 假定1： y 0 1 x u • 假定2：xi,yi为总体模型方程的随机样本，样 本容量n • 假定3： E ( | x) 0
• 1、无偏性:
E (0 ) 0 E ( )
1 1
• 2 OLS估计量的方差 Var (u | x) 2 对于任何 • 假定4：同方差性： x 2
• 给出了不同x水平上y的平均水平之间的关系
y E( y | x) u 0 1x u
系统部分： 0 非系统部分：u
1 x
3、普通最小二乘法估计值的推导： E ( ) 0
cov( x, ) 0 E ( y 0 1 x) 0 E[ x( y 0 1 x)] 0
1
( xi x )( yi y )
i 1
n

i 1
n
( xi x )2
y x 0 1
4、定义y在任意x=xi的一个拟合值：
x yi 0 1 i
残差：yi的实际值与拟合值之差：
ui yi i yi 0 1 xi y
n2
i 1
n2
简单回归模型应了解：
• • • • • 1、计量模型的思路： （1）找到感兴趣的问题 （2）建立函数关系 （3）建立数据库 （4）回归，得到函数关系中的参数，分析 变量间影响 • （5）分析估计量统计特征 • （6）对模型进行检验
• 2 了解术语，及其中含义 • 真值，估计值，观察值，误差项，拟合值， 残差，拟合优度。。。
• 最小化残差平方和：

i 1
n
ui ( yi 0 1 xi )2
2 i 1
n
• 样本回归函数：（总体回归函数的一个样本估计）
x y 0 1
• 描述了x变化如何引起y的变化，解释变量对被解释变量 的影响
1x y
wage 0 1edu
• 3 估计量的统计特征 • 无偏性，方差估计。。。
Var (u)
2
2
• 误差方差
Var ( y | x)
• 同方差性意味被解释变量的条件方差不随解 释变量变化
Var ( 1 )
2
( x x)
i 1 i
n

2
2
SSTx
• • • • •
误差方差的估计： 误差与残差的区别 误差：u, error term 残差： u residual 2 1 n 2 SSR 无偏估计： ui
•

1
描述了教育每增加一个单位 工资所增加的数量
• 总平方和(total sum of squares)（度量了yi总样本 2 n 的波动）：
SST ( yi y)
i 1
• 解释平方和（explained sum of squares）(度量了 y 拟合值 i 的波动） 2 n
双变量回归模型OLS
• • • •
1、用x解释y的模型中，我们要考虑： （1）两个因素是否有确切的关系 （2）两个因素有怎么样一种函数关系 （3）这种关系是否正确
y 0 1 x
• • • • • y 因变量，被解释变量 x自变量， 解释变量 误差项，干扰项 1 斜率参数 截距参数
SSE ( i y) y
i 1
• 残差平方和(residual sum of squares)（度量了残 2 差的波动）： n SSR ui
i 1
SST SSE SSR
• 拟合优度：
R SSE / SST 1 SSR / SST
2
R2
( i y) y
0
• 2、均值独立假定： E ( | x) E ( ) • 零条件均值假定：
E ( | x) 0
• • • • •
四类数据的关系： 1 真值 2 预测值 3 估计值 4 观察值
• 总体回归函数（population regression function PRF）：
E( y | x) 0 1x
i 1 n
n
2
( y y)
i 1 i
2
1
ui
源自文库i 1 n
n
2
( yi y )
i 1
2
• 改变变量单位的影响。
• 在简单回归中加入非线性因素： • 加入自然对数 • 例如：
log(wage) 0 1edu
1 描述了教育每增加一个单位 工资所增加的百 •