计量经济学双变量回归模型估计问题
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第三章
双变量回归分析：
估计问题
基本内容
普通最小二乘法（OLS） 经典线性回归模型：OLS的基本假定 OLS估计的性质 判定系数r2：“拟合优度”的一个度量
2
普通最小二乘法
（Ordinary Least Squares ，OLS）
最小二乘准则
ui2 (Yi Yi )2最小化
3
最小二乘准则
27
r2与r
r2
r
就模型而言
就两个变量而言
说明解释变量对因变量 的解释程度 度量不对称的因果关系
取值：[0,1]
度量两个变量线性依存 程度。
度量不含因果关系的对 称相关关系
取值：[－1,1]
28
运用r2时应注意
● 判定系数只是说明列入模型的所有解释变量对 因变量的联合的影响程度，不说明模型中每个 解释变量的影响程度（在多元中）
X
2 i
(
Xi )2
5
用离差表现的OLS估计式
为表达得更简洁，或者用离差形式OLS估计式：
__
__(Yi
__
Y
)
(Xi X )2
xi yi xi2
^
1
__
Y
ˆ2 X
注意其中： xi X i X
yi Yi Y
6
OLS估计量的良好性质
容易计算（由可观测的样本表达） 是点估计量 容易画出SRF，且SRF： （1）通过样本均值点
● 回归的主要目的如果是经济结构分析，不能只 追求高的判定系数，而是要得到总体回归系数 可信的估计量，判定系数高并不表示每个回归 系数都可信任。
29
Cov(Yi ,Yj ) 0(i j)
13
OLS估计的标准误（精度）
se（2 ）
xi2
2
ui 2
n2
14
OLS估计的性质：
高斯-马尔可夫定理
在给定经典线性回归模型的假定下， OLS估计量在所有线性无偏估计量中具 有最小方差，也就是说，它们是最优线 性无偏估计量（BLUE)。
15
无偏性
23
r2=？
r 2 ESS TSS
r 2 1 RSS TSS
24
r2=？
r2测度了在Y的总变异中由回归模型解释 的那个部分所占的比例或百分比。
25
r2的作用
r2越大，模型拟合优度越好。反之说明模型对样本观 测值的拟合程度越差。
26
r2的特点
0 r2 1
随抽样波动，样本判定系数r2是随抽样 而变动的随机变量
(Yi - Y)2 (Yi -Y )2 (Yi Yi )2
即：
yi 2
2
yi
ui2
22
定义
总离差(TSS):
Y的值与其均值的离差平方和（总平方和）
解释了的离差(ESS):
Y的估计值与其均值的离差平方和（解释平方和）
未解释的离差 (RSS):
Y的值与其估计值的离差平方和（残差平方和）
Var(ui Xi ) E[ui E(ui Xi )]2 2
11
假定3 无自相关假定 Cov（ui，uj|Xi，Xj）=0 Cov（ui，uj）=E[ui-E(ui)][uj-E(uj)] =E(uiuj) =0
12
Yi的分布性质
E(Yi | X i ) 1 2 X i Var(Yi | X i ) 2
如 Yi 1 2 Xi ui
假定解释变量 X是非随机的，或者虽然是随机的，但与扰动
项 u是不相关的
假定解释变量 X 在重复抽样中为固定值
假定变量和模型无设定误差
9
（2）对随机扰动项的假定 假定1，零均值
E(ui|Xi）=0
10
假定2：同方差假定 在给定X的条件下，ui的条件方差为某个常 数
X
19
总离差的分解
Y的观测值围绕其均值的总变异分为两部分：一 部分来自样本回归线，另一部分来自随机扰动项。
Yi - Y (Yi -Y ) (Yi Yi )
20
图示
Y
Yi
•
ei来自残差
^
SRF
(Y i- Y ) 总变差
^
(Y i- Y ) 来自回归
Y
Xi
X
21
将上式平方加总可整理得：
概
率 密
f (ˆ)
度
f (*)
偏倚 E( *)
估计值
16
最小方差性
概
率
密
度
f (ˆ)
f (*)
估计值
17
第三节 拟合优度的度量
本节基本内容: ●什么是拟合优度 ●总离差的分解 ●判定系数
18
拟合优度
定义：
Y
样本回归线对样本观测数据 拟合的优劣程度
拟合优度的度量建立在对 总离差分解的基础上
Yi Yi
i 0
（2）残差与Yi的预测值不相关 （3）残差与Xi不相关
7
经典线性回归模型
OLS的基本假定
线性回归模型 X值是固定的或独立于误差项 干扰项ui的均值为0 干扰项ui的同方差性 各干扰项之间无自相关 观测次数n必须大于待估计的参数个数 X的取值不只一个
8
小结
（1）对模型和变量的假定
ui2 f（1，2）
4
正规方程和估计式
取偏导数为0，得正规方程
Yi nˆ1 ˆ2 Xi XiYi ˆ1 Xi ˆ2 Xi2
用克莱姆法则求解得观测值形式的OLS估计量：
^ n
2
n
X iYi
X
2 i
(
X i Yi Xi )2
^
1
X
2 i
Yi
Xi
X iYi
n
双变量回归分析：
估计问题
基本内容
普通最小二乘法（OLS） 经典线性回归模型：OLS的基本假定 OLS估计的性质 判定系数r2：“拟合优度”的一个度量
2
普通最小二乘法
（Ordinary Least Squares ，OLS）
最小二乘准则
ui2 (Yi Yi )2最小化
3
最小二乘准则
27
r2与r
r2
r
就模型而言
就两个变量而言
说明解释变量对因变量 的解释程度 度量不对称的因果关系
取值：[0,1]
度量两个变量线性依存 程度。
度量不含因果关系的对 称相关关系
取值：[－1,1]
28
运用r2时应注意
● 判定系数只是说明列入模型的所有解释变量对 因变量的联合的影响程度，不说明模型中每个 解释变量的影响程度（在多元中）
X
2 i
(
Xi )2
5
用离差表现的OLS估计式
为表达得更简洁，或者用离差形式OLS估计式：
__
__(Yi
__
Y
)
(Xi X )2
xi yi xi2
^
1
__
Y
ˆ2 X
注意其中： xi X i X
yi Yi Y
6
OLS估计量的良好性质
容易计算（由可观测的样本表达） 是点估计量 容易画出SRF，且SRF： （1）通过样本均值点
● 回归的主要目的如果是经济结构分析，不能只 追求高的判定系数，而是要得到总体回归系数 可信的估计量，判定系数高并不表示每个回归 系数都可信任。
29
Cov(Yi ,Yj ) 0(i j)
13
OLS估计的标准误（精度）
se（2 ）
xi2
2
ui 2
n2
14
OLS估计的性质：
高斯-马尔可夫定理
在给定经典线性回归模型的假定下， OLS估计量在所有线性无偏估计量中具 有最小方差，也就是说，它们是最优线 性无偏估计量（BLUE)。
15
无偏性
23
r2=？
r 2 ESS TSS
r 2 1 RSS TSS
24
r2=？
r2测度了在Y的总变异中由回归模型解释 的那个部分所占的比例或百分比。
25
r2的作用
r2越大，模型拟合优度越好。反之说明模型对样本观 测值的拟合程度越差。
26
r2的特点
0 r2 1
随抽样波动，样本判定系数r2是随抽样 而变动的随机变量
(Yi - Y)2 (Yi -Y )2 (Yi Yi )2
即：
yi 2
2
yi
ui2
22
定义
总离差(TSS):
Y的值与其均值的离差平方和（总平方和）
解释了的离差(ESS):
Y的估计值与其均值的离差平方和（解释平方和）
未解释的离差 (RSS):
Y的值与其估计值的离差平方和（残差平方和）
Var(ui Xi ) E[ui E(ui Xi )]2 2
11
假定3 无自相关假定 Cov（ui，uj|Xi，Xj）=0 Cov（ui，uj）=E[ui-E(ui)][uj-E(uj)] =E(uiuj) =0
12
Yi的分布性质
E(Yi | X i ) 1 2 X i Var(Yi | X i ) 2
如 Yi 1 2 Xi ui
假定解释变量 X是非随机的，或者虽然是随机的，但与扰动
项 u是不相关的
假定解释变量 X 在重复抽样中为固定值
假定变量和模型无设定误差
9
（2）对随机扰动项的假定 假定1，零均值
E(ui|Xi）=0
10
假定2：同方差假定 在给定X的条件下，ui的条件方差为某个常 数
X
19
总离差的分解
Y的观测值围绕其均值的总变异分为两部分：一 部分来自样本回归线，另一部分来自随机扰动项。
Yi - Y (Yi -Y ) (Yi Yi )
20
图示
Y
Yi
•
ei来自残差
^
SRF
(Y i- Y ) 总变差
^
(Y i- Y ) 来自回归
Y
Xi
X
21
将上式平方加总可整理得：
概
率 密
f (ˆ)
度
f (*)
偏倚 E( *)
估计值
16
最小方差性
概
率
密
度
f (ˆ)
f (*)
估计值
17
第三节 拟合优度的度量
本节基本内容: ●什么是拟合优度 ●总离差的分解 ●判定系数
18
拟合优度
定义：
Y
样本回归线对样本观测数据 拟合的优劣程度
拟合优度的度量建立在对 总离差分解的基础上
Yi Yi
i 0
（2）残差与Yi的预测值不相关 （3）残差与Xi不相关
7
经典线性回归模型
OLS的基本假定
线性回归模型 X值是固定的或独立于误差项 干扰项ui的均值为0 干扰项ui的同方差性 各干扰项之间无自相关 观测次数n必须大于待估计的参数个数 X的取值不只一个
8
小结
（1）对模型和变量的假定
ui2 f（1，2）
4
正规方程和估计式
取偏导数为0，得正规方程
Yi nˆ1 ˆ2 Xi XiYi ˆ1 Xi ˆ2 Xi2
用克莱姆法则求解得观测值形式的OLS估计量：
^ n
2
n
X iYi
X
2 i
(
X i Yi Xi )2
^
1
X
2 i
Yi
Xi
X iYi
n