2.2 计量经济学模型的广义矩估计
广义矩估计
广义矩估计一、背景我们前面学了OLS 估计、工具变量估计方法,前面这几种方法都有重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法应运而生。
矩估计方法的基本思想是利用样本矩的信息组成方程组来求总体矩,以此得到渐进性质下的一致性估计量。
那么在构成方程组求解的过程中涉及识别问题和解决。
本章详细介绍矩估计方法。
矩估计方法实际应用非常广泛,应注意将矩估计与OLS 估计、工具变量估计和极大似然估计方法结合对比进行应用。
二、知识要点1,应用背景2,矩估计存在的问题(识别)3,矩正交方程和矩条件4,矩估计的属性三、要点细纲1、应用背景其基本思想是:在随机抽样中,样本统计量(在一个严格意义上,一个统计量是观察的n 维随机向量即子样1的一个(波雷尔可测)函数,且要求它不包含任何未知参数)将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
即在不知道分布的情况下,利用样本矩构造方程(包含总体的未知参数),利用这些方程求得总体的未知参数。
基本定义统计量 11n m X i n i νν∑=为子样的ν阶矩(ν阶原点矩);统计量 ()11n B X X i n i νν∑-=为子样的ν阶中心矩。
子样矩的均值与方差()()()()2222EX Var X E X E X k k EX E X k k μμμοαμμ=-=--我们用到k k αμ或时假定它是存在的。
基本做法设:母体X 的可能分布族为(){},,F x θθ∈Θ,其中属于参数空间Θ的(),,,12k θθθθ=是待估计的未知参数。
假定母体分布的k 阶矩存在,则母体分布的ν阶矩 ()(),,,,112x dF x k k ναθθθθνν∞=≤≤⎰-∞ 是(),,,12k θθθθ=的函数。
对于子样(),,,12X X X n =X ,其ν阶子样矩是1,11n m X k i n i ννν=≤≤∑= 现在用子样矩作为母体矩的估计,即令:()1,,,1,2,,121n m X k i k n i ναθθθννν===∑= (1)(1)式确定了包含k 个未知参数(),,,12k θθθθ=的k 个方程式。
广义矩估计GMM
广义矩估计(Generalized Method of Moments ,即GMM )一、解释变量内生性检验首先检验解释变量内生性(解释变量内生性的Hausman 检验:使用工具变量法的前提是存在内生解释变量。
Hausman 检验的原假设为:所有解释变量均为外生变量,如果拒绝,则认为存在内生解释变量,要用IV ;反之,如果接受,则认为不存在内生解释变量,应该使用OLS 。
reg ldi lofdiestimates store olsxtivreg ldi (lofdi=l.lofdi ldep lexr)estimates store iv hausman iv ols(在面板数据中使用工具变量,Stata 提供了如下命令来执行2SLS:xtivreg depvar[varlist1] (varlist_2=varlist_iv) (选择项可以为fe ,re 等,表示固定效应、随机效应等。
详见help xtivreg )如果存在内生解释变量,则应该选用工具变量,工具变量个数不少于方程中内生解释变量的个数。
“恰好识别”时用2SLS 。
2SLS 的实质是把内生解释变量分成两部分,即由工具变量所造成的外生的变动部分,以及与扰动项相关的其他部分;然后,把被解释变量对中的这个外生部分进行回归,从而满足OLS 前定变量的要求而得到一致估计量。
t p t q t p 二、异方差与自相关检验在球型扰动项的假定下,2SLS 是最有效的。
但如果扰动项存在异方差或自相关,面板异方差检验:xtgls enc invs exp imp esc mrl,igls panel(het)estimates store heteroxtgls enc invs exp imp esc mrl,iglsestimates store homolocal df = e(N_g) - 1lrtest hetero homo, df(`df')面板自相关:xtserial enc invs exp imp esc mrl则存在一种更有效的方法,即GMM 。
22广义矩估计
• GMM估计包容了许多常用的估计方法,普通最小 二乘法、工具变量法、最大似然法,甚至二阶段 最小二乘法都是它的特例。
• 技术方面的优越性
– 无须要求正规方程组中方程数目与待估参数数目相等。 – 方便地处理违背基本假设的问题,例如异方差和序列
相关。 – 无须进行高阶矩阵的求逆运算。
⒉参数的矩估计(补充)
Wn12 i
Co [Zv ii,Zjj]
j
• 如此构造权矩阵体现了上述设置权矩阵的原则。 • 权矩阵调整的是J个矩条件之间的关系,而不是n
个样本点之间的关系。 • W应是[(1/n)Var(Z’)]-1的一致估计。 • 权矩阵的阶
ˆ am rg m ( i) ( n 1 J )W ( ( J 1 J )m () (J 1 ))
⒊参数的广义矩估计
X (1) M (1) (1, 2 ,, r ) 0 X (2) M (2) (1, 2 ,, r ) 0
X (r) M (r) (1, 2 ,, r ) 0
矩条件数等于待 估参数数目
• 如果选择的矩估计方程个数多于待估参数个数。 使得欧氏距离函数 达到最小:
yix3i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x3i 0
该方程组 是如何得
到的?
如何从矩条 件出发得到 该方程组?
如何求 解该方 程组?
y i 0 1 x 1 i 2 x 2 i 3 x 3 i i i 1 , 2 , ,n
yix3i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x3i 0
4个等于0 的矩条件, 求解4个
参数
为什么将x2 换为z1?
该方程组是如 何得到的?
广义矩方法
广义矩方法(generalized method of moments ,GMM)的一般表述是由汉森(1982)提出的。
它是基于模型实际参数满足的一些矩条件而形成的一种参数估计方法,是普通矩估计方法的一般化。
只要模型设定正确,一般情况下都能找到该模型实际参数满足的若干矩条件而采用广义矩。
GMM 法大大突破了原有矩法的局限性,在大样本性质下效果较好,而且在相当大的范围内具有极大似然估计的优良性。
2.2广义矩概念的引出 2.2.2广义矩估计(GMM)当样本矩条件的个数与待估参数的个数相等时,使用经典的矩估计方法即可解决参数的估计问题,如上述两个例子都是选择两个样本矩来估计总体的两个参数。
若选择的矩方程个数多于估计参数的个数,经典矩方法就不再适用,于是广义矩方法应运而生。
()()()()()21,1,...,,()1,...,,()ˆ()(())i i i ri i i r X i r R M i r Mr Q XMββββββ====-∑设样本个矩为对应总体个矩为为待估总体(向量)的函数,且大于待估参数的个数,则最小二乘法参数估计量实际上是使得欧氏距离函数达到最小的参数估计量。
但是不同的矩起的作用不同,如果希望某些矩的作用大些,这就想到加权最小二乘法、广义最小二乘法,从函数空间距离角度,就是要(1)()(1)()1(,...,),(,...,),()()'()()ˆ()r r X X XM MMQ X M S X M S X M G M M Q ββββ-===---M ahalanobis 应用距离。
写成向量形式,记则马氏距离定义为:其中是关于的协方差矩阵,参数的估计就是使得达到最小的。
2.3广义矩估计法2.3.1广义矩估计的基本原理1111(,)1:()(,){(,)}0,(,,...,)11(,)(,)t ahrt t t t n n n t t w t h a h w r h R R R w h w E h w r Y w w w n nh r m w h w ββββββ-⨯⨯⨯⨯→=⨯⨯假设为一个期观察到的变量向量。
2.2 计量经济学模型的广义矩估计
• 如此构造权矩阵体现了上述设置权矩阵的原则。 • 权矩阵调整的是J个矩条件之间的关系,而不是n
个样本点之间的关系。 • W应是[(1/n)Var(Z’)]-1的一致估计。 • 权矩阵的阶
W1 (JJ
)m(
)
(
J
1)
)
• Hansen’s(1982)提出最佳的权矩阵为:
ols估计以gdp1作为cons1工具变量的iv估计以cgdpgdp1政府消费consg作为工具变量的gmm估计ols估计结果iv估计结果gmm估计结果三ols和ml估计是gmm估计的特例ols是gmm的特例选择解释变量作为工具变量构造矩条件权矩阵为单位阵gmm即为ols
§2.2 计量经济学模型的广义矩估计
of GMM Estimation, Econometrica 50, p1029-1054 • 关于GMM 的总结 A. Pagan and M. Wickens, 1989: A Survey of Some Recent Economertic Methods, Economic Journal 99, p962-1025
Newey and West,1994: Automatic lag selection in covariance matrix estimation, Review of Economic Studies 61, 631-
• 关于权矩阵的选择,是GMM估计方法的一个核心 问题。
ˆ arg min (m( )'W 1m( ))
权矩阵可根据每个样本矩条件估计的精确程度来设 置(用方差来度量)。例如,对估计较精确的矩条 件给予较大的权重,对估计较不精确的矩条件给予 较小的权重。
W
1 n2
广义矩估计GMM
广义矩估计(Generalized Method of Moments ,即GMM )一、解释变量内生性检验首先检验解释变量内生性(解释变量内生性的Hausman 检验:使用工具变量法的前提是存在内生解释变量。
Hausman 检验的原假设为:所有解释变量均为外生变量,如果拒绝,则认为存在内生解释变量,要用IV ;反之,如果接受,则认为不存在内生解释变量,应该使用OLS 。
reg ldi lofdiestimates store olsxtivreg ldi (lofdi=l.lofdi ldep lexr)estimates store iv hausman iv ols(在面板数据中使用工具变量,Stata 提供了如下命令来执行2SLS:xtivreg depvar[varlist1] (varlist_2=varlist_iv) (选择项可以为fe ,re 等,表示固定效应、随机效应等。
详见help xtivreg )如果存在内生解释变量,则应该选用工具变量,工具变量个数不少于方程中内生解释变量的个数。
“恰好识别”时用2SLS 。
2SLS 的实质是把内生解释变量分成两部分,即由工具变量所造成的外生的变动部分,以及与扰动项相关的其他部分;然后,把被解释变量对中的这个外生部分进行回归,从而满足OLS 前定变量的要求而得到一致估计量。
t p t q t p 二、异方差与自相关检验在球型扰动项的假定下,2SLS 是最有效的。
但如果扰动项存在异方差或自相关,面板异方差检验:xtgls enc invs exp imp esc mrl,igls panel(het)estimates store heteroxtgls enc invs exp imp esc mrl,iglsestimates store homolocal df = e(N_g) - 1lrtest hetero homo, df(`df')面板自相关:xtserial enc invs exp imp esc mrl则存在一种更有效的方法,即GMM 。
广义矩估计法在计量经济学中的应用_夏婧
收稿日期:2011-06-20作者简介:夏婧(1979-),女,湖北武汉人,武汉职业技术学院计算机系数学教研室讲师,研究方向:高等数学教学与研究。
0引言由于传统的计量经济模型估计方法,如普通最小二乘法、广义最小二乘法和极大似然法等,都有它们的局限性,其参数估计量必须在模型满足某些假设时才具有良好的性质;而广义矩估计是一个稳健估计量,因为它不要求扰动项的准确分布信息,允许随机误差项存在异方差和序列相关,所得到的参数估计量比其他参数估计方法更合乎实际。
而且可以证明,广义矩估计包容了许多常用的估计方法,普通最小二乘法、广义最小二乘法和极大似然法都是它的特例。
因此,广义矩估计法在计量经济学中得到了广泛的应用。
1广义矩估计的数学定义1.1矩法估计量的定义矩估计是基于实际参数满足一些矩条件而形成的一种参数估计方法,如果随机变量Y t 的期望值是u ,即E (Y t -u )=0(1)则觠满足相应的样本矩条件,即1T t =1Σ(Y t -觠)=0(2)现在,考虑一元古典线性回归模型中的假设条件:E (u t )=0(3)E (x t u t )=0(4)其所对应的样本矩条件分别为1T T T =1Σ觠t =1T T T =1Σ(y t -b 0-b 1x t )=0(5)1T T T =1Σx t 觠t =1T T T =1Σx t (y t -b 0-b 1x t )=0(6)这就是普通最小二乘估计量的正规方程组。
因此,普通最小二乘估计量是一个矩法估计量。
1.2广义矩估计量的定义广义矩估计法在计量经济学中的应用夏婧(武汉职业技术学院计算机系,武汉430074)[理工农学研究]摘要:通过描述广义矩估计法的定义和统计性质,着力于探讨广义矩估计法在计量经济学中的应用,并指出了广义矩估计法在计量经济学中未来的发展方向。
关键词:广义矩估计法;计量经济学;消费函数;理性预期模型中图分类号:O211.67文献标志码:A 文章编号:1671-1084(2011)05-0040-04柳州职业技术学院学报JOURNAL OF LIUZHOU VOCATIONAL &TECHNICAL COLLEGE 第11卷第5期2011年10月Vol.11No.5Oct.2011广义矩估计方法是矩估计方法的一般化。
计量经济模型的参数估计方法-计量经济学论文-经济学论文
计量经济模型的参数估计方法-计量经济学论文-经济学论文——文章均为WORD文档,下载后可直接编辑使用亦可打印——摘要:计量经济模型的参数估计是实证经济分析的关键,其在建模技术中处于核心的地位。
估计模型参数属于统计学中的参数估计内容。
常用的估计方法主要包括最小二剩法、极大似然估计法、矩估计法和贝叶斯估计法等。
而这些方法的应用,取决于计算机及其软件的编程。
利用R 软件可以很容易的实现对模型参数的估计,不论是线性模型,还是非线性模型,主要使用lm、glm 和nls等几个命令函数来实现。
关键词:经济建模;参数估计;经济参数;R的使用。
一位朋友获得到了一笔意想不到的奖金,于是计划着买一件观注已久的名贵消费品。
而同事同样也得到了一笔工资之外的收入,他却将这笔钱用于了投资。
用经济学的术语就是前者的消费倾向很高,而后者的消费倾向较低。
然而一个地区的消费倾向,应该是该地所有居住者的平均消费倾向。
它往往反映着该地区的生活水平和经济发达的程度,是人们比较关心的话题。
这类信息又不可能直接调查获得,因为哪些收入是新增的,以及个人之间的倾向差异较大,抽样的代表性很难保证。
所以此类信息的获得主要是通过模型测算的,即以观测得到的消费为被解释变量,收入为解释变量来构建回归方程,其回归系数就是收入的边际消费倾向。
在经济模型的各构成要件中,参数是用来表述具体经济关系的重要因素,如消费倾向就是收入决定消费模型中最重要的经济参数。
在现实的经济观察中,人们较易观测到收入和消费支出的数据,却很难直接观测到消费倾向的数据,因此我们通过建模来推算。
而这种对模型参数进行推算的过程,常被称为模型的估算。
一、经济参数估计及主要方法。
经济模型是用来描绘经济关系方程式或方程组,在经济模型中的各种变量是我们看得到的经济现实,模型中的每一个方程都表述着各变量之间的经济关联。
而变量之间精确关系的规律性反映,主要是由模型中伴随着变量存在的参数来承担的。
既然是规律性的东西,就是固定不变的。
第4章-10GMM及其与其他估计方法的比较
1 W 2 n
Cov[Z
i i j
i
, Z j j ]
• 如此构造权矩阵体现了上述设置权矩阵的原则。
• 权矩阵调整的是J个矩条件之间的关系,而不是n 个样本点之间的关系。
• W应是[(1/n)Var(Z’)]-1的一致估计。
• 权矩阵的阶
ˆ arg min( m( )1 J ) W( J 1 J )m( )( J 1) ) (
其它选择的含义eviews中gmm方程设定页面选择timeseries在hacoptons的kerneloptions中选择bartlett然后在bandwidthselection中选择fixed如果填写1个具体的数字例如2表示l2eviews中gmm方程设定页面选择timeseries在hacoptons的kerneloptions中选择bartlett然后在bandwidthselection中选择andrews表示采用andrews1991年论文中提出的选择方法
• W矩阵的阶数:J×J
• 因此,恰当的选择权矩阵W就成为GMM技术中的关 键问题。
以多元线性模型为例
yi 0 1 x1i 2 x2i 3 x3i i i 1,2,, n
• 如果满足所有基本假设,OLS的正规方程组为:
ˆ ˆ ˆ ˆ yi ( 0 1 x1i 2 x 2i 3 x3i ) 0 ˆ ˆ ˆ ˆ y i x1i ( 0 1 x1i 2 x 2i 3 x3i ) x1i 0 yi x2i (ˆ0 ˆ1 x1i ˆ2 x2i ˆ3 x3i ) x2i 0 ˆ ˆ ˆ ˆ yi x3i ( 0 1 x1i 2 x 2i 3 x3i ) x3i 0
广义矩估计PPT
j1,2, ,k
n
zj(iyih(X i, ) )0 j1 ,2 , ,k
i 1
• 一组矩条件,工具变量估计的正规方程组。
e (y i,X i; )y i h (X i, )
1
1
m () ni
Z ie (y i,X i;
)Z 'e (y,X ; ) n
1
m
(
)
m1 m2
§2.2 广义矩估计
(GMM, Generalized Method of Moments)
一、广义矩估计的概念 二、广义矩估计及其性质 三、正交性条件和过度识别限制的检验 四、关于2SLS与GMM关系的讨论
关于GMM的主要文献
• 关于GMM最早的系统的描述 L. Hansen, 1982: Large Sample Properties of GMM
• 参数的矩估计就是用样本矩去估计总体矩。
– 用样本的一阶原点矩作为期望的估计量。 – 用样本的二阶中心矩作为方差的估计量。 – 从样本观测值计算样本一阶(原点)矩和二阶(原点)
矩,然后去估计总体一阶矩和总体二阶矩,再进一步计 算总体参数(期望和方差)的估计量。
X(1)
1n ni1yi
X(2) 1 ni n1yi2
yix3i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x3i 0
4个等于0 的矩条件, 求解4个
参数
为什么将x2 换为z1?
该方程组是如 何得到的?
如何求 解该方 程组?
y i 0 1 x 1 i 2 x 2 i 3 x 3 i i i 1 , 2 , , n
• 如果x2为随机变量,z1、z2 为它的工具变量, GMM关于参数估计量的矩条件为:
计量经济学名词解释
计量经济学名词解释计量经济学是研究经济现象和经济理论运用数学和统计学方法进行定量分析的学科。
下面是一些计量经济学常用的名词及其解释。
1. 回归分析(Regression Analysis):回归分析是计量经济学中最常用的一种定量方法,用于研究因变量与一个或多个自变量之间的关系。
通常通过估计回归方程来进行分析,并使用统计方法评估估计结果的可信度。
2. 多元回归(Multiple Regression):多元回归是回归分析的一种扩展形式,用于研究因变量与多个自变量之间的关系。
多元回归可以更准确地解释和预测因变量,但也需要更多的数据和更复杂的统计分析。
3. 面板数据(Panel Data):面板数据是指在一段时间内对多个个体或单位进行多次观测的数据。
计量经济学通过面板数据可以分析个体间的差异和个体内部的动态变化,提供了更丰富的信息。
4. 差分法(Difference-in-Differences):差分法是一种处理定量数据的方法,用于评估某个政策或干预对于因变量的影响。
该方法通过比较干预组与非干预组的变化差异来分析干预的效果。
5. 处理选择偏误(Selection Bias):处理选择偏误是指由于个体自愿参与某个处理或实验,导致样本不代表总体的情况。
计量经济学使用各种方法来解决处理选择偏误,以确保研究结果的准确性。
6. 仪器变量(Instrumental Variables):仪器变量是一种用于解决内生性问题的方法。
在计量经济学中,内生性指的是自变量与误差项存在相关关系。
仪器变量通过引入与自变量相关但与误差项不相关的变量来解决内生性问题,提高估计结果的准确性。
7. 广义矩估计(Generalized Method of Moments,GMM):广义矩估计是一种估计模型参数的方法,它基于矩条件的经济模型,通过最大化矩条件以估计未知参数。
广义矩估计不需要对误差项分布做出强假设,适用于更广泛的经济模型。
8. 时间序列分析(Time Series Analysis):时间序列分析是研究一系列时间上连续排列的观测值的经济统计方法。
广义矩估计
1 广义矩估计1.1 基本知识矩方法是一种古老的估计方法。
其基本思想是:在随机抽样中,样本统计量将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
在严格意义上,一个统计量是观察的n 维随机向量即子样()12,,,n X X X =X 的一个(波雷尔可测)函数,且要求它不包含任何未知参数。
1.2 基本定义:统计量 11n i i m X n νν=∑为子样的ν阶矩(ν阶原点矩);统计量 ()11ni i B X X n νν=-∑为子样的ν阶中心矩。
1.3 子样矩的均值与方差EX μ()()()2222Var X E X E X μμο=-=-kk EX α()kk E X μμ-约定,我们用到k α或k μ时假定它是存在的。
1.4 基本做法:设:母体X 的可能分布族为(){},,F x θθ∈Θ,其中来自参数空间Θ的()12,,,k θθθθ=是待估计的未知参数。
假定母体分布的k 阶矩存在,则母体分布的ν阶矩()()12,,,,1k xdF x k νναθθθθν∞-∞=≤≤⎰是()12,,,k θθθθ=的函数。
对于子样()12,,,n X X X =X ,其ν阶子样矩是11nii m X nνν==∑,1k ν≤≤。
现在用子样矩作为母体矩的估计,即令:()()1211,,,1,2,,1n k ii m X kn ννναθθθν====∑(1)式确定了包含k 个未知参数()12,,,k θθθθ=的k 个方程式。
求解(1)式就可以得到()12,,,k θθθθ=的一组解()12,,,k θθθθ=⋯。
因为m ν是随机变量,故解得的θ也是随机变量。
将12,,,k θθθ⋯分别作为12,,,k θθθ的估计称为矩方法的估计,这种求估计量的方法称为矩方法。
定理 若()F x 存在2ν阶矩,则对子样的ν阶原点矩m ν,有[][]()221Em Var m nνννννααα==-。
广义矩估计原理
广义矩估计原理广义矩估计是数理统计学中一种重要的参数估计方法,广义矩估计法的优势在于可以估计非正态分布或未知分布的参数,对于实际问题的解决具有很高的灵活性和适应性。
广义矩估计法的核心思想是通过使用样本矩来估计总体的矩。
在实际应用中,我们通常很难获取到完整的总体数据,而只能通过抽样得到有限的样本数据,因此需要通过合理的估计方法来推断出总体参数的值。
广义矩估计法的基本步骤如下:首先,我们要确定所需估计的参数个数,通常可以通过问题的数学模型或实际应用的需求来确定。
接着,我们选择一组合适的矩函数作为用于估计参数的函数。
在估计的过程中,我们将样本的矩函数与总体的矩函数进行等式的匹配,通过求解估计方程组得到参数的估计值。
由于总体的矩函数与样本的矩函数之间不一定完全匹配,因此我们需要通过最小化估计方程组的离差来寻找最优的估计值。
广义矩估计法的优势在于它可以适用于各种分布形态,包括正态分布、对数正态分布、伽马分布等等。
因此,在实际应用中,我们不需要对总体分布作出过多的假设,而是能够更好地适应实际数据的特点。
此外,广义矩估计法还可以通过引入更高阶的矩函数来提高估计的精度和稳定性。
根据需要,我们可以选择一阶矩、二阶矩甚至更高阶的矩函数,提高参数估计的准确性。
然而,广义矩估计法在实际操作中也存在一些困难。
首先,由于参数估计是通过样本数据进行的,因此需要保证样本的代表性和随机性。
其次,当参数个数较多时,估计方程组会变得复杂,求解的过程可能会比较繁琐。
在实际应用中,我们可以根据问题的具体特点和数据的分布情况选择合适的估计方法。
如果我们对数据的分布形态有明确的假设,可以选择最大似然估计法或贝叶斯估计法。
如果对数据的分布形态没有明确的假设,可以选择广义矩估计法进行参数估计。
总之,广义矩估计法是一种灵活、适应性强的参数估计方法,可以应用于不同分布形态的数据。
在实际应用中,我们根据问题的特点选择合适的估计方法,并注意保证样本的代表性和随机性,以获得准确可靠的参数估计结果。
广义矩估计法.doc
广义矩估计一、背景我们前面学了OLS 估计、工具变量估计方法,前面这几种方法都有重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法应运而生。
矩估计方法的基本思想是利用样本矩的信息组成方程组来求总体矩,以此得到渐进性质下的一致性估计量。
那么在构成方程组求解的过程中涉及识别问题和解决。
本章详细介绍矩估计方法。
矩估计方法实际应用非常广泛,应注意将矩估计与OLS 估计、工具变量估计和极大似然估计方法结合对比进行应用。
二、知识要点 1,应用背景2,矩估计存在的问题(识别) 3,矩正交方程和矩条件 4,矩估计的属性 三、要点细纲 1、应用背景其基本思想是:在随机抽样中,样本统计量(在一个严格意义上,一个统计量是观察的n 维随机向量即子样(),,,12X X X n =X 的一个(波雷尔可测)函数,且要求它不包含任何未知参数)将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
即在不知道分布的情况下,利用样本矩构造方程(包含总体的未知参数),利用这些方程求得总体的未知参数。
基本定义统计量 11n m X i n i νν∑= 为子样的ν阶矩(ν阶原点矩); 统计量 ()11n B X X i n i νν∑-= 为子样的ν阶中心矩。
子样矩的均值与方差()()()()2222EX Var X E X E X kk EX E X kkμμμοαμμ=-=--我们用到k k αμ或时假定它是存在的。
基本做法设:母体X 的可能分布族为(){},,F x θθ∈Θ,其中属于参数空间Θ的(),,,12k θθθθ= 是待估计的未知参数。
假定母体分布的k 阶矩存在,则母体分布的ν阶矩()(),,,,112x dF x k k ναθθθθνν∞=≤≤⎰-∞是(),,,12k θθθθ= 的函数。
对于子样(),,,12X X X n = X ,其ν阶子样矩是1,11n m X k i n i ννν=≤≤∑=现在用子样矩作为母体矩的估计,即令:()1,,,1,2,,121n m X k ik n i ναθθθννν===∑= (1)(1)式确定了包含k 个未知参数(),,,12k θθθθ= 的k 个方程式。
2.2 广义矩估计-高级应用计量经济学课件
W Asy.Var[m( )]
1 n2
i
Cov[Zi i , Z j j ]
j
1
n2 i
j
ij
Zi
Z
' j
1 n2
Z ' Z
L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 50, p1029-1054
• 参数的矩估计就是用样本矩去估计总体矩。
– 用样本的一阶原点矩作为期望的估计量。 – 用样本的二阶中心矩作为方差的估计量。 – 从样本观测值计算样本一阶(原点)矩和二阶(原点)
矩,然后去估计总体一阶矩和总体二阶矩,再进一步计 算总体参数(期望和方差)的估计量。
X
(1)
1 n
n i 1
yi
X
(2)
min (m( )'m( ))
一阶极值条件的解。
• 如果工具变量J>k,并且对不同的矩条件加权, 考虑随机项存在异方差和序列相关
ˆ arg min (m( )'W 1m( ))
1
m(
)
m1 m2
mJ
( (
(
) )
)
n 1 n
1 n
z1iei
i
z 2i ei
i
i zJiei
总体参数(期 望和方差)的
估计量
⒊参数的广义矩估计
X (1) M (1) (1 , 2 , , r ) 0 X (2) M (2) (1, 2 , , r ) 0
X (r) M (r) (1, 2 , , r ) 0
矩条件数等于待 估参数数目
第四章 极大似然估计和广义矩估计
13
ˆ p lim ˆML是 的一致估计量,即, (1)一致性: ML 0
ˆML 是渐近有效的且达到所有一 (2) 渐近有效性: 致估计量的Cramè r-Rao下界,即在所有一致渐近正 态估计量(consistent asymptotically normal estimators )中具有最小方差。
N1 N1 P( N1次正面) CN p (1 p) N N1
上式中的表达式可看作是未知参数p的函数,被称 为似然函数(Likelihood function)。对p的极大似 然估计意味着我们选择使似然函数达到最大的p值, 从而得到p的极大似然估计量。
5
实际计算中,极大化似然函数的对数往往比较方便, 这给出对数似然函数
ut ~ N (0, 2 )
即随机扰动项具有0均值、同方差、不相关和服从正 态分布的性质。
17
根据以上假设可知:
yt ~ N ( xt , )
2
yt 的概率密度函数为: 因此,
1 f ( yt ) e 2
1 2
2 ( y x ) t t 2
t 1, 2,...,n
V [I( )]
-1
15
四、线性回归模型的极大似然估计
线性回归模型是计量经济学应用最为广泛的模型,因 此讨论线性模型的极大似然估计是非常必要的。 下面我们在随机扰动项服从正态分布的假设下分别讨 论双变量线性回归模型和多元线性回归模型的极大似然 估计。非线性模型的极大似然估计,将在第五章中介绍 。
ˆ) Max L( x , x ,..., x ; ) L( x1 , x2 ,..., xn ; 1 2 n
一般通过微分的方法求得ˆ ,即令 L( ) / 0 得到, 有时候也可通过迭代法来求ˆ ,具体的计算方法根 据随机变量的分布来确定 这样得到的 ˆ 称为参数 的极大似然估计值 ,而相 应的统计量通常记为 ˆML,称为参数 的极大似然估 计量。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
• 如果l=K,这时Z’X为KK方阵且可逆。于是: β=(Z’X)-1W-1(X’Z)-1X’ZWZ’Y =(Z’X)-1Z’Y 可见,βGMM=βIV, 这时W的选择对结果无影响。 • 如果l>K,这时根据W选取的不同,有不同的解 βGMM,但只要W是对称正定矩阵,估计结果都满 足一致性。 • 尽管不同的权矩阵W都可得到的一致估计量,但 估计量的方差矩阵可能是不同的。因此,可以选 择最佳的W,以使估计量更有效(有小的方差)。
Cov[Z
i i j
i
, Z j j ]
• 如此构造权矩阵体现了上述设置权矩阵的原则。
• 权矩阵调整的是J个矩条件之间的关系,而不是n 个样本点之间的关系。
• W应是[(1/n)Var(Z’)]-1的一致估计。
• 权矩阵的阶
ˆ arg min(m( ) W 1 m( ) ) (1 J ) ( J J ) ( J 1)
X (1)
1 n yi n i 1
X ( 2)
1 n 2 yi n i 1
样本的一阶矩 和二阶矩
ˆ M (1) E (Y ) X (1)
1 n yi n i 1
ˆ M
( 2)
E (Y 2 ) X ( 2)
(1)
1 n 2 yi n i 1
(1)
m( ) 0
工具变量估计的 正规方程组。
• 工具变量估计正规方程组的解就是
min (m( )' m( ))
一阶极值条件的解。
• 如果工具变量J>k,并且对不同的矩条件加权, 考虑随机项存在异方差和序列相关
ˆ arg min (m( )'W 1m( ))
1 z1i ei m1 ( ) n i m2 ( ) 1 z 2i ei m( ) n i m ( ) 1 J n z Jiei i
⒊权矩阵的选择
• 关于权矩阵的选择,是GMM估计方法的一个核心 问题。
ˆ arg min (m( )'W 1m( ))
权矩阵可根据每个样本矩条件估计的精确程度来设 置(用方差来度量)。例如,对估计较精确的矩条 件给予较大的权重,对估计较不精确的矩条件给予 较小的权重。
1 W 2 n
• 若随机误差项存在异方差且不存在自相关, White(1980)提出权矩阵的估计量为:
ˆ 1S W 0 n
1 ~ e z z'
n
L=0
White, 1980: A heteroskedasticity-consistent convariance matrix and direct test for heteroskedaticity, Econometrica 48, 817-838 Eviews 中GMM方程设定页面选择“cross section”,即为该情况。
⒈几个重要的性质
• 从技术角度
– 无须要求正规方程组中方程数目与待估参数数目相等。 – 无须进行高阶矩阵的求逆运算。
⒉参数的矩估计
• 参数的矩估计就是用样本矩去估计总体矩。
• 用样本的一阶原点矩作为期望的估计量。 • 用样本的二阶中心矩作为方差的估计量。 • 从样本观测值计算样本一阶(原点)矩和二阶 (原点)矩,然后去估计总体一阶矩和总体二阶 矩,再进一步计算总体参数(期望和方差)的估 计量。
• 等于0的条件矩的数目大于待估计模型参数的数目。
• 求解二次型。
二、计量经济学模型的广义矩估计
⒈ 估计方法的原理
yi h( X i , ) i
i 1, n
x
i 1
n
n
ji i
0
j 1,2,, k
j 1,2,, k
x
i 1
ji
( yi h( X i , )) 0
总体一阶矩和总体 二阶矩的估计量
ˆ ˆ M
E(Y ) X
ˆ ˆ 2 M
( 2)
ˆ (M (1) ) 2 X ( 2) ( X (1) ) 2
总体参数(期 望和方差)的 估计量
⒊参数的广义矩估计
X (1) M (1) ( 1 , 2 , , r ) 0 X ( 2 ) M ( 2 ) ( 1 , 2 , , r ) 0 X ( r ) M ( r ) ( 1 , 2 , , r ) 0
• Hansen’s(1982)提出最佳的权矩阵为:
W Asy.Var[m( )]
Cov[Z i i , Z j j ] n2
i j
1
2 n i j
1
ij Z i Z 'j
1 n
2
Z ' Z
L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 50, p1029-1054
为什么将x2 换为z1?
4个等于0 的矩条件, 求解4个 参数
该方程组是如 何得到的?
如何求 解该方 程组?
yi 0 1 x1i 2 x2i 3 x3i i
i 1,2,, n
• 如果x2为随机变量,z1、z2 为它的工具变量, GMM关于参数估计量的矩条件为:
该方程组 是如何得 到的?
如何从矩条 件出发得到 该方程组?
如何求 解该方 程组?
yi 0 1 x1i 2 x2i 3 x3i i
i 1,2,, n
• 如果x2为随机变量,z1为它的工具变量,IV的正 规方程组为:
ˆ ˆ ˆ ˆ yi ( 0 1 x1i 2 x2i 3 x3i ) 0 ˆ ˆ ˆ ˆ yi x1i ( 0 1 x1i 2 x 2i 3 x3i ) x1i 0 ˆ ˆ ˆ ˆ yi z1i ( 0 1 x1i 2 x 2i 3 x3i ) z1i 0 ˆ ˆ ˆ ˆ yi x3i ( 0 1 x1i 2 x 2i 3 x3i ) x3i 0
§2.2 计量经济学模型的广义矩估计
(GMM, Generalized Method of Moments) 一、广义矩估计的概念 二、计量经济学模型的广义矩估计 三、OLS和ML估计是GMM估计的特例 四、假设检验
关于GMM的主要文献
• 关于GMM最早的系统的描述 L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 50, p1029-1054 • 关于GMM 的总结 A. Pagan and M. Wickens, 1989: A Survey of Some Recent Economertic Methods, Economic Journal 99, p962-1025
e( yi , X i ; ) yi h( X i , )
1 1 m( ) Z i e( y i , X i ; ) Z ' e( y , X ; ) n i n
1 z1i ei m1 ( ) n i m 2 ( ) 1 z 2 i ei m( ) n i m ( ) 1 k n z ki ei i
ˆ ˆ ˆ ˆ yi ( 0 1 x1i 2 x 2i 3 x3i ) 0 ˆ ˆ ˆ ˆ y i x1i ( 0 1 x1i 2 x 2i 3 x3i ) x1i ˆ ˆ ˆ ˆ y i z1i ( 0 1 x1i 2 x 2i 3 x3i ) z1i y z ( x x x ) z i 2i ˆ0 ˆ1 1i ˆ2 2i ˆ3 3i 2i ˆ ˆ ˆ ˆ yi x3i ( 0 1 x1i 2 x 2i 3 x3i ) x3i
• 关于GMM发展的讨论 R. Davidson and J. MacKinnon, 1993: Estimation and Inference in Econometrics, New York Oxford Univ. Press
一、广义矩估计的概念
⒈几个重要的性质
• 从方法论角度
– 变量设定的相对性:直接与间接、内生与外生、随机 与确定。 – 经验信息(样本数据)的充分利用。 – 具有包容性:实际上是已有估计方法的概括和一般化。 – 适用于大样本并显示其优越性。
• Arg , Argument, 自变量、宗数
• W矩阵的阶数:J×J
以多元线性模型为例
yi 0 1 x1i 2 x2i 3 x3i i i 1,2,, n
• 如果满足所有基本假设,OLS的正规方程组为:
ˆ ˆ ˆ ˆ yi ( 0 1 x1i 2 x 2i 3 x3i ) 0 ˆ ˆ ˆ ˆ yi x1i ( 0 1 x1i 2 x 2i 3 x3i ) x1i 0 yi x2i (ˆ0 ˆ1 x1i ˆ2 x2i ˆ3 x3i ) x2i 0 ˆ ˆ ˆ ˆ yi x3i ( 0 1 x1i 2 x 2i 3 x3i ) x3i 0
矩条件数等于待 估参数数目
• 如果选择的矩估计方程个数多于待估参数个数。 使得欧氏距离函数 达到最小:
Q( ) ( X (i ) M (i ) ( ))2
i 1 r
⒋计量经济学模型的广义矩估计