GMM广义矩估计

23
可识别条件
Eg(wt ,0 ) 0 Eg(wt , ) 0 for 0
并且 K p 阶矩阵
g ( wt ,0 ) G E
列满秩
24
估计。令
1 n g n ( ) g ( wt , ) n t 1 J ( ) ngn ( ) g n ( )
S


j
0 (j j)
j 1
其中
j Egt gt j Ext xt j t ， t j
7
GMM估计的定义
1 n 1 n 定义 g n ( ) n g ( wt , ) n xt ( yt zt ) t 1 t 1
16
线性模型的假设检验
17
关于系数推断
检验问题
H0 : k k0
定义 t-统计量
ˆ ) 0 k (W k tk ˆ ( (W ˆ )) SE k
在原假设成立的情况下 t k 渐近的标准正态分布
18
线性假设问题
H0 : R r
Wald-统计量
1 ˆ ˆ ˆ(W ˆ ˆ ˆ ) r) ˆ( (W ))R ( R Wald n( R (W ) r ) Rava r
在上述线性和非线性约束条件下， LRGMM 渐近地 2 服从 (q)
21
非线性的GMM
22
假定有 K 个GMM矩估计条件 g(wt , ) 是模型参 数 q1 的非线性函数，满足 Eg(wt ,0 ) 0 或者，响应变量 yt L 个解释变量 z t K 个工 具变量 x t ，满足 a( yt , zt ;0 ) t 假定 x t 和 t 正交，定义 g(wt ,0 ) xt t 有 Eg(wt ,0 ) Ext t Ext a( yt , zt ;0 ) 0

t 1
t
t
0
2 2 1 1 ˆ( ˆ ˆ 有效GMM估计为 ，和 无关 ˆ S xx ) (S xx )
ˆ( S 1 ) ( S S 1S )1 S S 1S ˆ xx xz xx xz xz xx xy TSLS
14
S 的估计
要得到有效GMM估计，需要 S avar(g ) 的相 合估计
把(1.2)用起样本矩来表示 S xy S xz 0
(1.5)
ˆ S-1 S • 如果 K L and S xz 可逆 , xz xy
ˆ 为正 • 如果 K L ，(1.5) 的解可能不唯一。W p ˆ W ，那么 定的权矩阵，满足 W ˆ(W ˆ ) arg min J ( ,W ˆ ) ng W ˆ g (1.6) n n
序列不相关的矩: (通常 gt (0 ) 为遍历平稳的 MDS)，那么 S avar(g ) E[gt (0 )gt (0 ))] 根据White(1982), S 的一个异方差(HC)估计
ˆ)g ( ˆ) S 1/nt 1 g t ( t
n
15
序列相关时的矩：如果总体的矩条件gt (0 ) 是 遍历平稳，但是序列相关的过程，那么
如果 K p相应的GMM估计定义为
ˆ arg min J ( )

如果 K p，0 过度识别，则定义
ˆ arg min J ( ,W ˆ ) ng ( )W ˆ g ( ) n n

ˆ 1 ˆ S ˆ 正定的权矩阵，有效GMM估计取 W 其中W
p ˆ S S a var(g ) 。和线性的情况类似，非线性
KL (1.3)
5
模型(1.1)允许 t 条件异方差和序列相关。 假 定{gt } 是一平稳的遍历的鞅差序(MDS)满足 Egt gt Ext xt t2 S 其中 S 是 K K 的非奇异矩阵
令 g n
1

n
t 1
g t ( wt , 0 ) 有
n
1 ng n
d x N (0, S ) t t t 1
其中 avar(g ) S 。符号 avar( g ) 表示 n g 的极限 协方差矩阵
6
假定 {gt } {xt t } 是一平稳的遍历的随机过程
t 条件异方差和序列相关，那么有
1 ng n
j d x N (0, S ) t t t 1 n
1
在原假设成立的条件下， Wald-统计量渐近地 服从 2 (q)
20
线性和非线性检验问题还可以使用似然比统 计量(LR)，带有约束条件的GMM估计
ˆ 1 ) arg min J( , S ˆ 1 ) subject t oH R (S 0

~
GMM的 LR-检验统计量
LRGMM ~ ˆ 1 ˆ 1 ˆ(S ˆ 1 ), S ˆ 1 ) J( R (S ), S ) J(


在原假设成立的条件下，Wald-统计量渐j 2 近地服从 (q) ，其中 q rank( R)
19
非线性假设问题
a( 0 ) 其中a(0 ) 0隐含着q 个非线性约束且 rank ( ) q
H 0 : a( 0 ) 0
Wald-统计量
ˆ ˆ a( 0 (W )) a( 0 (W )) ˆ ˆ ˆ ˆ ˆ )) ˆ Wald na( (W )) avar( (W )) a(ˆ(W
ˆ( S ˆ 1 ) arg min ng ( ) S ˆ 1 ( ) g ( ) CU n n

n 1 ˆ S ( ) 1 / nt 1 xt xt ( yt z t ) 2
11
J-统计量(Hansen 1982)
ˆ(S ˆ(S ˆ(S ˆ 1 ), S ˆ 1 ) ng ( ˆ 1 ))S ˆ 1g ( ˆ 1 )) (1.15) J J ( n n ˆ 为 S 的相合 ˆ( S ˆ 1 ) 表示 的有效估计， 其中 S
4
假定存在K 1的工具变量 x t ，可能包含部分 或全部的 z t ，满足
Egt (wt , 0 ) Ext t Ext ( yt zt 0 ) 0 (1.2)
其中 wt 是一个平稳的遍历随机过程 gt (wt , 0 ) xt t xt ( yt zt 0 ) 由(1.2) 给出以下关系 xy xz 0 其中 xy Ext yt and xz Ext zt 为了保证模型可识别，一个必要条件为
ˆ W ˆ )1G ˆ W ˆW ˆ (G ˆ W ˆ )1 ˆG ˆS ˆG ˆG 其相合估计为 (G
1 ˆ ˆ W S 对有效的GMM估计取
ˆ 可 ˆ) 序列是平稳遍历的MDS， S • 如果 gt (wt , n ˆ) g ( w , ˆ) 以取 n 1 t 1 g t ( wt , t t
ˆ(W ˆ ) ,二步有效估计为 然后计算出 ˆ( S ˆ 1 (W ˆ 1 (W ˆ )) arg min ng ( ) S ˆ ) g ( ) n n

迭代有效估计，利用两步有效估计的计算过 程,不断地更新，直到估计的前后两次估计没 有显著变化 ˆ 连续更新有效估计( S 看做 的函数)
八、广义估计方程(GMM)
0
GMM方法介绍
线性模型的假设检验
非线性的GMM
1
GMM方法的介绍
2
背景
GMM方法由 Hansen (1982) 提出，已 经成为计量经济和金融等领域一个重要 的研究方法 和极大似然估计(MLE)相比，GMM方 法不需要对模型的分布做任何假定。在 一些情况下，GMM方法也比MLE计算 方便
考虑单个t-统计量
ˆ(S ˆ(S ˆ 1 )) / SE( g ( ˆ 1 )) ) i 1,, K ti gn ( i n i
1/ 2 1 ˆ ˆ(S ˆ 1 )) ) (S ˆ ˆ 1 ˆ ˆ ˆ [ S ] / n ) 其中 SE( gn ( i xz xz xz xz ii
估计
• 如果K L ，那么 J 0
d • 如果 K L ，在一些正则条件下 J 2 ( K L)
J-统计量可以用来检验模型是否被错误识别
12
标准化的矩 在原假设模型正确识别和正交条件成立的条件 下，标准化的矩满足
d ˆ(S ˆ 1 )) n gn ( N (0, S xz [xz S 1xz ]1xz )
的GMM估计也可以采用类似的算法
25
渐近性质：在一些正则条件下
p ˆ(W ˆ) 0 d ˆ(W ˆ(W ˆ ) ) ˆ ))) n ( N (0, a var( 0
1 1 ˆ(W ˆ avar ( )) ( G WG ) G WSWG ( G WG ) 其中
ˆW ˆ S )1 S W ˆS ˆS (S W ˆ S )1 (1.9) (S W xz xz xz xz xz xz
ˆ(W ˆ )) ( W )1 WSW ( W )1 (1.8 avar( xz xz xz xz xz xz
9
估计的效率
GMM估计效率的定义
如果模型被J-统计量拒绝，大的ti 的表示第 i 个 矩条件被错误指定
13
两步最小二乘 如果模型(1.1)的误差项是条件同方差，那么
Ext xt t2 2 xx S
ˆ S 的相合估计可以表示为 S ˆ 2 S xx 典型的取 n 2 1 ˆ ) 2 where ˆ ˆ n ( y z
ˆ( S ˆ 1 ) arg min ng S ˆ 1 g n n

S 的一致估计可以由下式给出
n 1 n 1 ˆ) 2 ˆt2 xt xt ( yt zt S xt xt n t 1 n t 1
10
两步有效估计
1 ˆ ,通常选取W ˆ (n1 X ˆ I 和W X ) 给一个初始W k


ˆ) 是自相关序列，取法和线性的 • 如果 gt (wt , 类似
26


检验问题
和线性情况类似，我们也可以得到相应的非 线性模型的检验方法
27
Example
28
Stochastic Volatility Models
S avar(g ) 0 (j j)
j 1
其中j E[ gt (0 ) gt j (0 )]，那么 S 的一个异方 差但自相关的估计为
ˆ S HAC 1 bn

j 1
bn
j ,n
ˆ) ˆ)) ˆ ( ˆ ( ( j jHale Waihona Puke Baidu
bn 是一非负 其中 j ,n ( j 1,, bn )为核函数的权， 和样本量有关的窗宽参数 ˆ 为0 的一个相合估 计

ˆ(W ˆ ) (S W ˆ S )1 S W ˆS 计算可得 xz xz xz xy
8
(1.7)
渐近性质
在一些正则条件下有 p ˆ(W ˆ) 0
d ˆ(W ˆ(W ˆ ) ) ˆ ))) n ( N ( 0 , avar( 0
其中
其一致估计可以由下式给出
3
单个方程的线性 GMM
考虑线性回归模型
yt zt 0 t t 1,, n (1.1)
其中 z t 是 L 1 的解释变量， 0 为未知系数向 z t 可能和 t 相关。 量。 如果 Eztk t 0我们称ztk为内生变量 。如果 z t
含有内生变量， 0 的最小二乘是有偏的，并 且不一致的