GMM广义矩估计学习资料
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
9
➢ 两步有效估计
给一个初始Wˆ ,通常选取Wˆ Ik 和W ˆ (n1XX)1 然后计算出 ˆ(Wˆ ) ,二步有效估计为
ˆ ( S ˆ 1 ( W ˆ ) ) am r g n g n i(n ) S ˆ 1 ( W ˆ ) g n ()
➢ 迭代有效估计，利用两步有效估计的计算过 程,不断地更新，直到估计的前后两次估计没 有显著变化 ˆ
如果模型被J-统计量拒绝，大的t i 的表示第 i 个 矩条件被错误指定
12
➢ 两步最小二乘 如果模型(1.1)的误差项是条件同方差，那么
Etx x tt2 2x x S
S 的相合估计可以表示为 Sˆ ˆ2Sxx 典型的取
ˆ2 n 1 t n 1 (y t z t ˆ)2 wh ˆ e0 re
有效GMM估计为ˆ(ˆ2Sx 1x)ˆ(Sx 1x) ，和ˆ 2 无关
ˆ(S x 1 ) x (S xS z x 1 S x x) z 1S xS z x 1 S x x y ˆ TSLS
13
S 的估计
要得到有效GMM估计，需要 Savagr)(的相 合估计
➢ 序列不相关的矩: (通常 gt(0) 为遍历平稳的 MDS)，那么
把(1.2)用起样本矩来表示
SxySxz 0
(1.5)
• 如果 K L an S xd 可 z ,ˆ逆 S - xS 1 z xy
• 如果 KL，(1.5) 的解可能不唯一。Wˆ 为正 定的权矩阵，满足 W ˆ pW，那么
ˆ(W ˆ) am rg J( in ,W ˆ) n g n W ˆg n (1.6
S av g ) a E r t([ 0 ()g t( g 0 ) )]
计算可得 ˆ(W ˆ)(S xW zˆS x) z 1S xW zˆS xy (1.7)
7
渐近性质
➢ 在一些正则条件下有
ˆ(W ˆ) p 0 n(ˆ(W ˆ)0) d N (0,ava ˆ(W rˆ)())
其中
av ˆ ( W ˆ ) a ) ( r x W ( z x ) z 1 x W z x ( S z x W z W x ) z 1(1
KL (1.3)
4
➢ 模型(1.1)允许 t 条件异方差和序列相关。 假 定{ g t } 是一平稳的遍历的鞅差序(MDS)满足
Etg gtEtx xt t2S
➢ 其中 S 是 KK 的非奇异矩阵
➢令
gn1 tn 1gt(w t, 0)有 ng1 nt n1xt t d N(0,S)
其中 avagr)(S。符号 avar(g)表示 n g 的极限 协方差矩阵
y t zt 0t t 1 , ,n (1.1)
其中z t 是 L1的解释变量， 0 为未知系数向 量。z t 可能和 t 相关。 ➢ 如果 Eztkt 0我们称z tk 为内生变量 。如果 z t 含有内生变量， 0 的最小二乘是有偏的，并 且不一致的
3
➢ 假定存在K1的工具变量x t ，可能包含部分 或全部的 z t ，满足
➢ 连续更新有效估计( S看做 的函数)
ˆ(S ˆCU 1)arm g inn gn ()S ˆ1()gn()
S ˆ1( )1/n tn11x0txt(yt z t)2
➢ J-统计量(Hansen 1982)
J J (ˆ ( S ˆ 1 )S ˆ ,1 ) n g n (ˆ ( S ˆ 1 )S ˆ ) 1 g n (ˆ ( S ˆ 1 )) (1
5
➢ 假定{gt}{xtt}是一平稳的遍历的随机过程
t 条件异方差和序列相关，那么有
ng
1 n
n t1
xtt
dN(0,S)
其中
S j 0 (j j )
j
j1
j E tg t g j E tx t x j t，t j
6
GMM估计的定义
定义 g n()1 nt n 1g (w t, )1 nt n 1x t(ytzt )
GMM广义矩估计
0
GMM方法的介绍
1
背景
➢GMM方法由 Hansen (1982) 提出，已 经成为计量经济和金融等领域一个重要 的研究方法
➢和极大似然估计(MLE)相比，GMM方 法不需要对模型的分布做任何假定。在 一些情况下，GMM方法也比MLE计算 方便
2
单个方程的线性 GMM
➢ 考虑线性回归模型
其中 ˆ(Sˆ 1) 表示 的有效估计，Sˆ 为 S的相合
估计 • 如果KL，那么 J 0
• 如果 KL，在一些正则条件下 J d2(KL)
➢ J-统计量可以用来检验模型是否被错误识别
11
➢ 标准化的矩
在原假设模型正确识别和正交条件成立的条件 下，标准化的矩满足
n g n ( ˆ ( S ˆ 1 ) d ) N ( 0 ห้องสมุดไป่ตู้S x [ z x S z 1 x ] 1 z x )z
考虑单个t-统计量
ti g n (ˆ ( S ˆ 1 )i/) S ( g n E (ˆ ( S ˆ 1 )i)i ) 1 ,K ,
其中 S ( g n ( E ˆ ( S ˆ 1 ) i ) ) ( S ˆ ˆ x [ ˆ z x S ˆ 1 z ˆ x ] 1 z ˆ x / n z ) i1 / 2 i
E t( w t g ,0 ) E tt x E t( y tx z t 0 ) 0(1. 其中 w t 是一个平稳的遍历随机过程
g t( w t,0 ) x tt x t( y t z t 0 )
➢ 由(1.2) 给出以下关系 xy xz0 其中 xy E ty txan x d z E tz t x ➢ 为了保证模型可识别，一个必要条件为
其一致估计可以由下式给出
(S xW ˆ zS x) z 1 S xW ˆ zS ˆW ˆS x(z S xW ˆ zS x) z 1(1.9)
8
估计的效率
➢ GMM估计效率的定义
ˆ(S ˆ 1)arm gn ig n n S ˆ 1g n
S 的一致估计可以由下式给出
S1 nt n 1xtxtˆt21 nt n 1xtxt(ytztˆ)2
➢ 两步有效估计
给一个初始Wˆ ,通常选取Wˆ Ik 和W ˆ (n1XX)1 然后计算出 ˆ(Wˆ ) ,二步有效估计为
ˆ ( S ˆ 1 ( W ˆ ) ) am r g n g n i(n ) S ˆ 1 ( W ˆ ) g n ()
➢ 迭代有效估计，利用两步有效估计的计算过 程,不断地更新，直到估计的前后两次估计没 有显著变化 ˆ
如果模型被J-统计量拒绝，大的t i 的表示第 i 个 矩条件被错误指定
12
➢ 两步最小二乘 如果模型(1.1)的误差项是条件同方差，那么
Etx x tt2 2x x S
S 的相合估计可以表示为 Sˆ ˆ2Sxx 典型的取
ˆ2 n 1 t n 1 (y t z t ˆ)2 wh ˆ e0 re
有效GMM估计为ˆ(ˆ2Sx 1x)ˆ(Sx 1x) ，和ˆ 2 无关
ˆ(S x 1 ) x (S xS z x 1 S x x) z 1S xS z x 1 S x x y ˆ TSLS
13
S 的估计
要得到有效GMM估计，需要 Savagr)(的相 合估计
➢ 序列不相关的矩: (通常 gt(0) 为遍历平稳的 MDS)，那么
把(1.2)用起样本矩来表示
SxySxz 0
(1.5)
• 如果 K L an S xd 可 z ,ˆ逆 S - xS 1 z xy
• 如果 KL，(1.5) 的解可能不唯一。Wˆ 为正 定的权矩阵，满足 W ˆ pW，那么
ˆ(W ˆ) am rg J( in ,W ˆ) n g n W ˆg n (1.6
S av g ) a E r t([ 0 ()g t( g 0 ) )]
计算可得 ˆ(W ˆ)(S xW zˆS x) z 1S xW zˆS xy (1.7)
7
渐近性质
➢ 在一些正则条件下有
ˆ(W ˆ) p 0 n(ˆ(W ˆ)0) d N (0,ava ˆ(W rˆ)())
其中
av ˆ ( W ˆ ) a ) ( r x W ( z x ) z 1 x W z x ( S z x W z W x ) z 1(1
KL (1.3)
4
➢ 模型(1.1)允许 t 条件异方差和序列相关。 假 定{ g t } 是一平稳的遍历的鞅差序(MDS)满足
Etg gtEtx xt t2S
➢ 其中 S 是 KK 的非奇异矩阵
➢令
gn1 tn 1gt(w t, 0)有 ng1 nt n1xt t d N(0,S)
其中 avagr)(S。符号 avar(g)表示 n g 的极限 协方差矩阵
y t zt 0t t 1 , ,n (1.1)
其中z t 是 L1的解释变量， 0 为未知系数向 量。z t 可能和 t 相关。 ➢ 如果 Eztkt 0我们称z tk 为内生变量 。如果 z t 含有内生变量， 0 的最小二乘是有偏的，并 且不一致的
3
➢ 假定存在K1的工具变量x t ，可能包含部分 或全部的 z t ，满足
➢ 连续更新有效估计( S看做 的函数)
ˆ(S ˆCU 1)arm g inn gn ()S ˆ1()gn()
S ˆ1( )1/n tn11x0txt(yt z t)2
➢ J-统计量(Hansen 1982)
J J (ˆ ( S ˆ 1 )S ˆ ,1 ) n g n (ˆ ( S ˆ 1 )S ˆ ) 1 g n (ˆ ( S ˆ 1 )) (1
5
➢ 假定{gt}{xtt}是一平稳的遍历的随机过程
t 条件异方差和序列相关，那么有
ng
1 n
n t1
xtt
dN(0,S)
其中
S j 0 (j j )
j
j1
j E tg t g j E tx t x j t，t j
6
GMM估计的定义
定义 g n()1 nt n 1g (w t, )1 nt n 1x t(ytzt )
GMM广义矩估计
0
GMM方法的介绍
1
背景
➢GMM方法由 Hansen (1982) 提出，已 经成为计量经济和金融等领域一个重要 的研究方法
➢和极大似然估计(MLE)相比，GMM方 法不需要对模型的分布做任何假定。在 一些情况下，GMM方法也比MLE计算 方便
2
单个方程的线性 GMM
➢ 考虑线性回归模型
其中 ˆ(Sˆ 1) 表示 的有效估计，Sˆ 为 S的相合
估计 • 如果KL，那么 J 0
• 如果 KL，在一些正则条件下 J d2(KL)
➢ J-统计量可以用来检验模型是否被错误识别
11
➢ 标准化的矩
在原假设模型正确识别和正交条件成立的条件 下，标准化的矩满足
n g n ( ˆ ( S ˆ 1 ) d ) N ( 0 ห้องสมุดไป่ตู้S x [ z x S z 1 x ] 1 z x )z
考虑单个t-统计量
ti g n (ˆ ( S ˆ 1 )i/) S ( g n E (ˆ ( S ˆ 1 )i)i ) 1 ,K ,
其中 S ( g n ( E ˆ ( S ˆ 1 ) i ) ) ( S ˆ ˆ x [ ˆ z x S ˆ 1 z ˆ x ] 1 z ˆ x / n z ) i1 / 2 i
E t( w t g ,0 ) E tt x E t( y tx z t 0 ) 0(1. 其中 w t 是一个平稳的遍历随机过程
g t( w t,0 ) x tt x t( y t z t 0 )
➢ 由(1.2) 给出以下关系 xy xz0 其中 xy E ty txan x d z E tz t x ➢ 为了保证模型可识别，一个必要条件为
其一致估计可以由下式给出
(S xW ˆ zS x) z 1 S xW ˆ zS ˆW ˆS x(z S xW ˆ zS x) z 1(1.9)
8
估计的效率
➢ GMM估计效率的定义
ˆ(S ˆ 1)arm gn ig n n S ˆ 1g n
S 的一致估计可以由下式给出
S1 nt n 1xtxtˆt21 nt n 1xtxt(ytztˆ)2