2019精品广义矩估计化学
广义矩估计
广义矩估计一、背景我们前面学了OLS 估计、工具变量估计方法,前面这几种方法都有重要假设就是需要知道分布才能估计,但是往往现实理论我们无法得到关于分布的信息,因此矩估计方法应运而生。
矩估计方法的基本思想是利用样本矩的信息组成方程组来求总体矩,以此得到渐进性质下的一致性估计量。
那么在构成方程组求解的过程中涉及识别问题和解决。
本章详细介绍矩估计方法。
矩估计方法实际应用非常广泛,应注意将矩估计与OLS 估计、工具变量估计和极大似然估计方法结合对比进行应用。
二、知识要点1,应用背景2,矩估计存在的问题(识别)3,矩正交方程和矩条件4,矩估计的属性三、要点细纲1、应用背景其基本思想是:在随机抽样中,样本统计量(在一个严格意义上,一个统计量是观察的n 维随机向量即子样1的一个(波雷尔可测)函数,且要求它不包含任何未知参数)将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
即在不知道分布的情况下,利用样本矩构造方程(包含总体的未知参数),利用这些方程求得总体的未知参数。
基本定义统计量 11n m X i n i νν∑=为子样的ν阶矩(ν阶原点矩);统计量 ()11n B X X i n i νν∑-=为子样的ν阶中心矩。
子样矩的均值与方差()()()()2222EX Var X E X E X k k EX E X k k μμμοαμμ=-=--我们用到k k αμ或时假定它是存在的。
基本做法设:母体X 的可能分布族为(){},,F x θθ∈Θ,其中属于参数空间Θ的(),,,12k θθθθ=是待估计的未知参数。
假定母体分布的k 阶矩存在,则母体分布的ν阶矩 ()(),,,,112x dF x k k ναθθθθνν∞=≤≤⎰-∞ 是(),,,12k θθθθ=的函数。
对于子样(),,,12X X X n =X ,其ν阶子样矩是1,11n m X k i n i ννν=≤≤∑= 现在用子样矩作为母体矩的估计,即令:()1,,,1,2,,121n m X k i k n i ναθθθννν===∑= (1)(1)式确定了包含k 个未知参数(),,,12k θθθθ=的k 个方程式。
广义矩估计讲义
广义矩估计基本知识:矩方法是一种古老的估计方法。
其基本思想是:在随机抽样中,样本统计量将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
在严格意义上,一个统计量是观察的n 维随机向量即子样()12,,,n X X X = X 的一个(波雷尔可测)函数,且要求它不包含任何未知参数。
基本定义:统计量 11n i i m X n νν=∑ 为子样的ν阶矩(ν阶原点矩);统计量 ()11ni i B X X n νν=-∑ 为子样的ν阶中心矩。
子样矩的均值与方差EX μ()()()2222Var X E X E X μμο=-=-k k EX α()kk E X μμ-约定,我们用到k k αμ或时假定它是存在的。
基本做法:设:母体X 的可能分布族为(){},,F x θθ∈Θ,其中来自参数空间Θ的()12,,,k θθθθ= 是待估计的未知参数。
假定母体分布的k 阶矩存在,则母体分布的ν阶矩()()12,,,,1k x dF x k νναθθθθν∞-∞=≤≤⎰是()12,,,k θθθθ= 的函数。
对于子样()12,,,n X X X = X ,其ν阶子样矩是11,1n i i m X k n ννν==≤≤∑现在用子样矩作为母体矩的估计,即令:()()1211,,,1,2,,1n k ii m X kn ννναθθθν====∑(1)式确定了包含k 个未知参数()12,,,k θθθθ= 的k 个方程式。
求解(1)式就可以得到()12,,,k θθθθ= 的一组解()12,,,k θθθθ=⋯。
因为m ν是随机变量,故解得的θ 也是随机变量。
将12,,,k θθθ⋯分别作为12,,,k θθθ 的估计称为矩方法的估计,这种求估计量的方法称为矩方法。
定理 若()F x 存在2ν阶矩,则对子样的ν阶原点矩m ν,有 [][]()221E m V a r m nνννννααα==-。
证明:[]111111n n n i i i i i E m E X E X n n n ννννναα===⎡⎤⎡⎤====⎢⎥⎣⎦⎢⎥⎣⎦∑∑∑ []()22Var m Em Em ννν=-2211ni i E X nννα=⎛⎫=- ⎪ ⎪⎝⎭∑ 2222111n i i j i i j E X X X n n ννννα=≠⎛⎫⎪=+- ⎪⎝⎭∑∑∑ 2222111ni i j i i jE X E X X nn ννννα=≠⎡⎤⎡⎤=+-⎣⎦⎣⎦∑∑∑2222111ni j i i jE X E X nn νννναα=≠⎡⎤⎡⎤=+-⎣⎦⎣⎦∑∑∑ ()2222111n n n nνννααα=+-- 2211n nνναα=-。
广义矩估计61页PPT
yi h(Xi,)i i 1,n
n
xji i 0
i1
j1,2, ,k
n
xji(yih (X i, ) )0 j1 ,2 , ,k
i 1
• 一组矩条件,普通最小二乘估计的正规方程组。
yi h(Xi,)i i 1,n
n
zji i 0
i1
of GMM Estimation, Econometrica 50, p1029-1054 • 关于GMM 的总结 A. Pagan and M. Wickens, 1989: A Survey of Some Recent Economertic Methods, Economic Journal 99, p962-1025
• 关于GMM发展的讨论
R. Davidson and J. MacKinnon, 1993: Estimation and Inference in Econometrics, New York Oxford Univ. Press
一、广义矩估计的概念
⒈几个重要的性质
• 从方法论角度
– 变量设定的相对性:直接与间接、内生与外生、随机 与确定。
• 如果满足所有基本假设,OLS的正规方程组为:
yi (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)0 yix1i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x1i 0 yix2i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x2i 0
• 如果x2为随机变量,z1为它的工具变量,IV的正 规方程组为:
yi (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)0 yix1i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x1i 0 yiz1i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)z1i 0
系统广义矩估计公式
系统广义矩估计公式一、基本概念。
1. 矩估计(Method of Moments)- 矩估计是基于样本矩来估计总体矩的一种方法。
设总体X的分布函数为F(x;θ),其中θ = (θ_1,θ_2,·s,θ_k)是未知参数向量。
总体的r阶矩μ_r = E(X^r),样本的r阶矩为m_r=(1)/(n)∑_i = 1^nX_i^r。
通过令μ_r=m_r(r = 1,2,·s,k)得到关于θ的方程组,解这个方程组就得到θ的矩估计量。
2. 广义矩估计(Generalized Method of Moments,GMM)- 广义矩估计是矩估计的推广。
它是基于一些矩条件来估计模型参数的方法。
假设存在q个矩条件E[g(X_i,θ)] = 0,其中g(X_i,θ)是X_i和参数θ的函数向量,g(X_i,θ)=(g_1(X_i,θ),g_2(X_i,θ),·s,g_q(X_i,θ))'。
- GMM的目标函数是Q(θ)=n[g_n(θ)]'W_n[g_n(θ)],其中g_n(θ)=(1)/(n)∑_i =1^ng(X_i,θ),W_n是一个正定权重矩阵。
通过最小化Q(θ)得到θ的GMM估计量θ̂。
1. 动态面板数据模型中的应用。
- 考虑动态面板数据模型y_it=α y_i,t - 1+x_it'β+μ_i+ε_it,i = 1,·s,N,t = 1,·s,T,其中y_it是被解释变量,x_it是解释变量向量,μ_i是个体固定效应,ε_it是随机误差项。
- 对于这个模型,一阶差分可以消除个体固定效应μ_i,得到Δ y_it=αΔ y_i,t - 1+Δ x_it'β+Δε_it。
- 系统广义矩估计将水平方程y_it=α y_i,t - 1+x_it'β+μ_i+ε_it和差分方程Δy_it=αΔ y_i,t - 1+Δ x_it'β+Δε_it结合起来进行估计。
《广义矩估计》课件
目录
CONTENTS
• 引言 • 广义矩估计的基本理论 • 广义矩估计的算法 • 广义矩估计的实例分析 • 广义矩估计的扩展和改进 • 结论与展望
01 引言
广义矩估计的定义
广义矩估计是一种统计估计方法,它 通过使用样本矩来估计未知参数。这 种方法基于样本矩和总体分布之间的 关系,通过最小化误差函数来求解参 数的估计值。
实例三:时间序列模型的广义矩估计
总结词
时间序列模型是用于描述时间序列数据之间 关系的模型,常见的有ARMA模型、 ARIMA模型等。广义矩估计也可以用于时 间序列模型的参数估计。
详细描述
在实例三中,我们将介绍如何使用广义矩估 计对时间序列模型的参数进行估计。我们将 首先介绍时间序列模型的基本概念和假设, 然后介绍如何利用广义矩估计方法对模型参 数进行估计,并给出具体的计算步骤和实例 分析。
03 广义矩估计的算法
算法的基本步骤
确定模型
根据数据特征和问题背景选择合适的概率模 型。
估计参数
利用样本数据和所选矩,通过优化算法求解 模型参数。
确定矩
根据所选模型,确定需要使用的矩(如一阶 矩、二阶矩等)。
验证估计
使用统计方法验证估计的参数是否符合所选 模型。
算法的实现细节
数据预处理
对原始数据进行清洗、去噪、标准化等处理 ,确保数据质量。
参数矩估计的步骤
首先计算样本数据的矩,然后利用这些矩和已知的总体分布关系来估计未知参 数。
广义矩估计的原理
广义矩估计的定义
广义矩估计是一种基于样本数据的矩来估计未知参数的统计方法,它不仅利用了 样本数据的矩信息,还利用了已知的总体分布信息。
广义矩估计的步骤
第二节矩估计法( 精品)
试估计参数 (用矩法)。
着火的次数 k
0 12 3456
发生k次着火天数nk 75 90 54 22 6 2 1 250
解: 1 EX 令 X ,
A1
1 n
n i 1
Xi
X
则 ˆ x 1 (0 75 1 90 6 1) 1.22
250
A2
1 n
n i 1
X
2 i
即 a b 2A1, b a 12( A2 A12 )
解得:aˆ A1
3( A2 A12 ) X
3 n
n i 1
(Xi
X )2
bˆ A1
3( A2 A12 ) X
3 n
n i 1
(Xi
X )2
例3. 设总体X的均值,方差都存在,且 2 0,
n i 1
(Xi
X )2
例4 设总体X的概率密度为
( 1)x , 0 x 1
f (x) 0,
其它
其中 1
是未知参数,
X1,X2,…,Xn是取自X的样本,求参数 的矩估计.
解:
1
E(X
( 1)
)
1
1
x( 0
x 1dx
1)
x dx 1
由矩法,
0
X 1
2
2
从中解得 ˆ 2X 1, 即为的矩估计.
但, 2未知,又设 X1,, X n是一个样本;
求:, 2的矩估计量。
解: 1 EX , 2 EX 2 DX (EX )2 2 2
令 1 A1, 2 A2 , 即 A1, 2 2 A2 ,
所以 ˆ A1 X ,
ˆ 2
gmm广义矩估计
gmm广义矩估计GMM(广义矩估计)是一种用于参数估计的统计方法。
它是基于矩的概念发展而来的,通过对观测数据的矩估计,来估计未知参数的值。
GMM广义矩估计在统计学和经济学等领域得到了广泛应用。
在GMM中,我们首先定义一个经验矩,即从观测数据中得到的样本矩。
然后,我们根据理论模型中的矩表达式,得到理论矩。
接下来,我们通过最小化经验矩与理论矩之间的差异,来估计未知参数的值。
GMM广义矩估计的步骤如下:1. 确定理论模型:首先,我们需要确定一个理论模型,该模型描述了观测数据的分布特征。
在经济学中,通常使用概率分布函数来描述变量的分布特征。
2. 确定矩条件:接下来,我们需要确定一组矩条件,即理论模型中的矩表达式。
矩条件是基于理论模型中的变量和参数之间的关系得到的。
3. 计算经验矩:然后,我们从观测数据中计算一组经验矩。
经验矩是观测数据中的样本矩,用于估计理论矩的值。
4. 估计未知参数:通过最小化经验矩与理论矩之间的差异,我们可以得到未知参数的估计值。
这个过程可以使用最小二乘法或其他优化算法来实现。
GMM广义矩估计在经济学中得到了广泛应用。
例如,在计量经济学中,GMM广义矩估计被用于估计经济模型中的参数。
在金融学中,GMM广义矩估计被用于估计资产定价模型中的参数。
在其他领域,GMM广义矩估计也被用于估计其他类型的模型。
GMM广义矩估计具有一些优点。
首先,它是一种非参数估计方法,不需要对概率分布函数做出任何假设。
这使得GMM广义矩估计在处理复杂的数据分布时具有灵活性。
其次,GMM广义矩估计可以处理具有多个未知参数的模型,这使得它在估计复杂模型时具有优势。
此外,GMM广义矩估计还可以通过引入工具变量来解决内生性问题。
然而,GMM广义矩估计也存在一些限制。
首先,它对初始参数值敏感,可能会收敛到局部最优解。
因此,在实际应用中,选择合适的初始参数值非常重要。
其次,GMM广义矩估计对观测数据的分布特征要求较高,如果数据不符合理论模型的假设,估计结果可能不准确。
极大似然估计和广义矩估计
05
案例分析
极大似然估计的案例
线性回归模型
在回归分析中,极大似然估计常用于估计线性回归模型的参数。通过最大化似然 函数,可以得到最佳线性无偏估计,使得预测值与实际观测值之间的误差最小。
正态分布参数估计
极大似然估计在正态分布的参数估计中也有广泛应用。例如,假设一组数据来自 正态分布,我们可以通过极大似然估计来估计均值和方差。
极大似然估计和广义矩估 计
• 引言 • 极大似然估计 • 广义矩估计 • 极大似然估计与广义矩估计的比较 • 案例分析 • 总结与展望
01
引言
主题简介
极大似然估计
极大似然估计是一种参数估计方 法,基于观测数据的概率分布模 型,通过最大化似然函数来估计 未知参数。
广义矩估计
广义矩估计是一种非参数估计方 法,通过最小化一系列矩(如一 阶矩、二阶矩等)的离差来估计 未知参数。
唯一性
在某些条件下,极大似然估计具有唯一性,即真实参 数值是极大似然函数的唯一最大值。
极大似然估计的步骤和实现
1 2
定义似然函数
根据数据分布和模型假设,定义似然函数。
求导并求解
对似然函数求导,并使用优化算法求解导数为零 的点,得到参数的极大似然估计值。
3
验证估计值
使用验证数据集验证估计值的准确性和有效性。
3. 优化目标函数
实现
使用优化算法(如牛顿法、拟牛顿法等) 最小化目标函数,以找到最优的模型参数 。
在编程语言(如Python、R等)中,可以 使用相应的统计库(如statsmodels、 EMMA等)来方便地实现广义矩估计。
04
极大似然估计与广义矩估计的比较
相似之处
理论基础
01
广义矩估计PPT
j1,2, ,k
n
zj(iyih(X i, ) )0 j1 ,2 , ,k
i 1
• 一组矩条件,工具变量估计的正规方程组。
e (y i,X i; )y i h (X i, )
1
1
m () ni
Z ie (y i,X i;
)Z 'e (y,X ; ) n
1
m
(
)
m1 m2
§2.2 广义矩估计
(GMM, Generalized Method of Moments)
一、广义矩估计的概念 二、广义矩估计及其性质 三、正交性条件和过度识别限制的检验 四、关于2SLS与GMM关系的讨论
关于GMM的主要文献
• 关于GMM最早的系统的描述 L. Hansen, 1982: Large Sample Properties of GMM
• 参数的矩估计就是用样本矩去估计总体矩。
– 用样本的一阶原点矩作为期望的估计量。 – 用样本的二阶中心矩作为方差的估计量。 – 从样本观测值计算样本一阶(原点)矩和二阶(原点)
矩,然后去估计总体一阶矩和总体二阶矩,再进一步计 算总体参数(期望和方差)的估计量。
X(1)
1n ni1yi
X(2) 1 ni n1yi2
yix3i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x3i 0
4个等于0 的矩条件, 求解4个
参数
为什么将x2 换为z1?
该方程组是如 何得到的?
如何求 解该方 程组?
y i 0 1 x 1 i 2 x 2 i 3 x 3 i i i 1 , 2 , , n
• 如果x2为随机变量,z1、z2 为它的工具变量, GMM关于参数估计量的矩条件为:
广义矩估计
1 广义矩估计1.1 基本知识矩方法是一种古老的估计方法。
其基本思想是:在随机抽样中,样本统计量将依概率收敛于某个常数。
这个常数又是分布中未知参数的一个函数。
在严格意义上,一个统计量是观察的n 维随机向量即子样()12,,,n X X X =X 的一个(波雷尔可测)函数,且要求它不包含任何未知参数。
1.2 基本定义:统计量 11n i i m X n νν=∑为子样的ν阶矩(ν阶原点矩);统计量 ()11ni i B X X n νν=-∑为子样的ν阶中心矩。
1.3 子样矩的均值与方差EX μ()()()2222Var X E X E X μμο=-=-kk EX α()kk E X μμ-约定,我们用到k α或k μ时假定它是存在的。
1.4 基本做法:设:母体X 的可能分布族为(){},,F x θθ∈Θ,其中来自参数空间Θ的()12,,,k θθθθ=是待估计的未知参数。
假定母体分布的k 阶矩存在,则母体分布的ν阶矩()()12,,,,1k xdF x k νναθθθθν∞-∞=≤≤⎰是()12,,,k θθθθ=的函数。
对于子样()12,,,n X X X =X ,其ν阶子样矩是11nii m X nνν==∑,1k ν≤≤。
现在用子样矩作为母体矩的估计,即令:()()1211,,,1,2,,1n k ii m X kn ννναθθθν====∑(1)式确定了包含k 个未知参数()12,,,k θθθθ=的k 个方程式。
求解(1)式就可以得到()12,,,k θθθθ=的一组解()12,,,k θθθθ=⋯。
因为m ν是随机变量,故解得的θ也是随机变量。
将12,,,k θθθ⋯分别作为12,,,k θθθ的估计称为矩方法的估计,这种求估计量的方法称为矩方法。
定理 若()F x 存在2ν阶矩,则对子样的ν阶原点矩m ν,有[][]()221Em Var m nνννννααα==-。
两阶段最小二乘 法和广义矩估计法
文章标题:深度解析两阶段最小二乘法和广义矩估计法近年来,随着数据分析和统计学的发展,两阶段最小二乘法和广义矩估计法逐渐成为了研究中不可或缺的重要工具。
它们在经济学、社会科学和金融领域都得到了广泛的应用。
在本文中,我们将深度探讨这两种方法的原理、应用和优劣势,以帮助读者更好地理解和运用这些工具。
一、两阶段最小二乘法的原理与应用1. 两阶段最小二乘法的概念和基本原理2. 两阶段最小二乘法在实际问题中的应用3. 两阶段最小二乘法的优劣势分析4. 个人观点和理解二、广义矩估计法的原理与应用1. 广义矩估计法的基本概念和原理2. 广义矩估计法在实际问题中的应用3. 广义矩估计法的优劣势对比4. 个人观点和理解总结与回顾在本文中,我们深入探讨了两阶段最小二乘法和广义矩估计法的原理、应用和优劣势。
我们了解到,两种方法都有各自的特点和适用范围,在实际问题中需要根据具体情况来选择合适的方法。
个人认为,在使用这两种方法时,需要对问题有深入的理解,结合实际情况进行灵活的运用才能取得更好的效果。
在本文中,我们对两阶段最小二乘法和广义矩估计法进行了深入的探讨,希望读者能够从中受益,更好地理解和运用这些方法。
也希望本文能够激发更多的讨论和思考,推动统计学和数据分析领域的发展。
以上便是我为您撰写的有关两阶段最小二乘法和广义矩估计法的文章,希望对您有所帮助。
如有任何问题或进一步需求,请随时告诉我。
在经济学、社会科学和金融领域,数据分析和统计学的发展带来了两阶段最小二乘法和广义矩估计法的广泛应用。
这两种方法在处理线性模型和复杂数据时非常有用,它们可以帮助研究人员从数据中提取有用的信息,理解变量之间的关系,并进行有效的预测和决策。
让我们更深入地了解两阶段最小二乘法。
这种方法的基本原理是通过两个阶段的线性回归来估计模型参数。
在第一阶段,利用外生变量对内生变量进行回归,得到内生变量的预测值。
在第二阶段,将内生变量的预测值作为解释变量,与其他外生变量一起进行线性回归,得到最终的参数估计值。
22广义矩估计
• GMM估计包容了许多常用的估计方法,普通最小 二乘法、工具变量法、最大似然法,甚至二阶段 最小二乘法都是它的特例。
• 技术方面的优越性
– 无须要求正规方程组中方程数目与待估参数数目相等。 – 方便地处理违背基本假设的问题,例如异方差和序列
相关。 – 无须进行高阶矩阵的求逆运算。
⒉参数的矩估计(补充)
Wn12 i
Co [Zv ii,Zjj]
j
• 如此构造权矩阵体现了上述设置权矩阵的原则。 • 权矩阵调整的是J个矩条件之间的关系,而不是n
个样本点之间的关系。 • W应是[(1/n)Var(Z’)]-1的一致估计。 • 权矩阵的阶
ˆ am rg m ( i) ( n 1 J )W ( ( J 1 J )m () (J 1 ))
⒊参数的广义矩估计
X (1) M (1) (1, 2 ,, r ) 0 X (2) M (2) (1, 2 ,, r ) 0
X (r) M (r) (1, 2 ,, r ) 0
矩条件数等于待 估参数数目
• 如果选择的矩估计方程个数多于待估参数个数。 使得欧氏距离函数 达到最小:
yix3i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x3i 0
该方程组 是如何得
到的?
如何从矩条 件出发得到 该方程组?
如何求 解该方 程组?
y i 0 1 x 1 i 2 x 2 i 3 x 3 i i i 1 , 2 , ,n
yix3i (ˆ0 ˆ1x1i ˆ2x2i ˆ3x3i)x3i 0
4个等于0 的矩条件, 求解4个
参数
为什么将x2 换为z1?
该方程组是如 何得到的?
广义矩估计PPT文档共62页
1
0
、
倚
南
窗
以
寄
傲
,
审
容
膝
之
易
安
。
6、最大的骄傲于最大的自卑都表示心灵的最软弱无力。——斯宾诺莎 7、自知之明是最难得的知识。——西班牙 8、勇气通往天堂,怯懦通往地狱。——塞内加 9、有时候读书是一种巧妙地避开思考的方法。——赫尔普斯 10、阅读一切好书如同和过去最杰出的人谈话。——笛卡儿
Thank you
文 家 。汉 族 ,东 晋 浔阳 柴桑 人 (今 江西 九江 ) 。曾 做过 几 年小 官, 后辞 官 回家 ,从 此 隐居 ,田 园生 活 是陶 渊明 诗 的主 要题 材, 相 关作 品有 《饮 酒 》 、 《 归 园 田 居 》 、 《 桃花 源 记 》 、 《 五 柳先 生 传 》 、 《 归 去来 兮 辞 》 等 。
广义矩估计
6
、
露
凝Leabharlann 无游氛,
天
高
风
景
澈
。
7、翩翩新 来燕,双双入我庐 ,先巢故尚在,相 将还旧居。
8
、
吁
嗟
身
后
名
,
于
我
若
浮
烟
。
9、 陶渊 明( 约 365年 —427年 ),字 元亮, (又 一说名 潜,字 渊明 )号五 柳先生 ,私 谥“靖 节”, 东晋 末期南 朝宋初 期诗 人、文 学家、 辞赋 家、散
2.2 广义矩估计
4、权矩阵的选择
• 关于权矩阵的选择,是GMM估计方法的一个核心 问题。
ˆ arg min (m( )'W 1 m( ))
权矩阵可根据每个样本矩条件估计的精确程度来设 置(用方差来度量)。例如,对估计较精确的矩条 件给予较大的权重,对估计较不精确的矩条件给予 较小的权重。
1 W 2 n
§2.2 广义矩估计
(GMM, Generalized Method of Moments)
一、广义矩估计的概念
二、广义矩估计及其性质
三、正交性条件和过度识别限制的检验
四、关于2SLS与GMM关系的讨论
关于GMM的主要文献
• 关于GMM最早的系统的描述 L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 50, p1029-1054 • 关于GMM 的总结 A. Pagan and M. Wickens, 1989: A Survey of Some Recent Economertic Methods, Economic Journal 99, p962-1025 • 关于GMM发展的讨论 R. Davidson and J. MacKinnon, 1993: Estimation and Inference in Econometrics, New York Oxford Univ. Press
• 如果l=K,这时Z’X为KK方阵且可逆。于是: β=(Z’X)-1W-1(X’Z)-1X’ZWZ’Y =(Z’X)-1Z’Y 可见,βGMM=βIV, 这时W的选择对结果无影响。 • 如果l>K,这时根据W选取的不同,有不同的解 βGMM,但只要W是对称正定矩阵,估计结果都满 足一致性。 • 尽管不同的权矩阵W都可得到的一致估计量,但 估计量的方差矩阵可能是不同的。因此,可以选 择最佳的W,以使估计量更有效(有小的方差)。
广义矩估计 工具变量
广义矩估计工具变量
广义矩估计
广义矩估计是一种无需知道概率分布假设,直接利用样本数据求解未知参数的方法。
它的优势在于能够简化计算和理论推导,并广泛应用于经济、金融、统计等领域。
广义矩估计的核心思想是通过约束条件来确定参数,这些约束条件是通过观测数据的矩来形成的。
例如,在经济学中,我们经常需要找到一个模型的参数,以最好地再现观测的数据。
然而,某些模型无法满足严格的概率分布假设,这时广义矩估计便能够派上用场。
例如,我们可以通过观测数据的均值与方差来确定模型中的参数,而不需要知道数据的分布形式。
在执行广义矩估计时,我们会定义一个矩方程组,该方程组包含估计参数的未知量和观察数据的矩,将它们应用于广义矩估计模型,最终得到未知参数的估计值。
工具变量
在经济学中,工具变量是一种用于解决回归模型中产生内生性问题的方法。
内生性问题指可能存在某些未观察到或难以观测的变量,它们既是被解释变量的决定因素,又可能与其他解释变量相关联。
因此,
这种变量会引起回归结果的误差,需要通过一些方法进行纠偏以得到
准确的结果。
例如,在医学研究中,我们需要研究身体质量指数(BMI)与心脏病之间的关系,但可能存在一些未观察到的变量会影响到我们的结果。
这时,我们可以引入一个工具变量例如基因型,将其与BMI相关,但并不直接影响心脏病的发病率。
这样,我们便可以消除内生性问题,得到准
确的分析结果。
总之,广义矩估计和工具变量是解决实际问题的强有力工具,相信在
不断的实践和应用中,它们会继续发挥着不可替代的作用。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
n 1 n
1 n
z1iei
i
z 2i ei
i
i zJiei
• Arg , Argument, 自变量、宗数
• W矩阵的阶数:J×J
以多元线性模型为例
yi 0 1x1i 2 x2i 3 x3i i
i 1,2,, n
• 其它选择的含义
Eviews 中GMM方程设定页面选择“time series”, 在HAC optons的Kernel options中选择Bartlett, 然后在Bandwidth selection中选择 Fixed,如果 填写1个具体的数字,例如2,表示L=2。
Eviews 中GMM方程设定页面选择“time series”, 在HAC optons的Kernel options中选择Bartlett, 然后在Bandwidth selection中选择 Andrews, 表示采用Andrews1991年论文中提出的选择方法。
• 如果x2为随机变量,z1为它的工具变量,IV的正 规方程组为:
yi (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i ) 0 yi x1i (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i )x1i 0 yi z1i (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i )z1i 0
yi x3i (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i )x3i 0
该方程组 是如何得
到的?
如何从矩条 件出发得到 该方程组?
如何求 解该方 程组?
yi 0 1x1i 2 x2i 3 x3i i
i 1,2,, n
n
z jii 0
i 1
j 1,2,, k
n
z ji ( yi h( X i , )) 0
i 1
j 1,2,, k
• 一组矩条件,工具变量估计的正规方程组。
e( yi , X i ; ) yi h( X i , )
m( ) 1
n
i
Zi e( yi , X i ; )
Eviews 中GMM方程设定页面选择“time series”,在HAC optons的Kernel options中 选择Bartlett,然后在Bandwidth selection中 选择 Fixed,再填写NW即为该情况。 其中Kernel options选择Bartlett,即是:
w(l) 1 l L 1
ˆ arg min (m( )'W 1m( ))
权矩阵可根据每个样本矩条件估计的精确程度来设 置(用方差来度量)。例如,对估计较精确的矩条 件给予较大的权重,对估计较不精确的矩条件给予 较小的权重。
W
1 n2
i
Cov[Zi i , Z j j ]
j
• 如此构造权矩阵体现了上述设置权矩阵的原则。 • 权矩阵调整的是J个矩条件之间的关系,而不是n
⒈ 估计方法的原理
yi h( X i , ) i i 1,n
n
x ji i 0
i 1
j 1,2,, k
n
x ji ( yi h( X i , )) 0
i 1
j 1,2,, k
• 一组矩条件,普通最小二乘估计的正规方程组。
yi h( X i , ) i i 1,n
(原点)矩,然后去估计总体一阶矩和总体二阶 矩,再进一步计算总体参数(期望和方差)的估 计量。
X
(1)
1 n
n i 1
yi
X (2)
1 n
n i 1
yi2
样本的一阶 矩和二阶矩
Mˆ (1)
E(Y )
X (1)
1 n
n i 1
yi
总体一阶矩和总体
Mˆ
(2)
E(Y 2 )
j
1
n2 i
j
ij
Zi
Z
' j
1 n2
Z ' Z
L. Hansen, 1982: Large Sample Properties of GMM Estimation, Econometrica 50, p1029-1054
• 若随机误差项存在异方差且不存在自相关, White(1980)提出权矩阵的估计量为:
r
Q( ) ( X (i) M (i) ( )) 2 i 1
⒋计量经济学模型的广义矩估计
• 如果模型的设定是正确,则存在一些为0的条件矩。 广义矩估计的基本思想是利用矩条件估计模型参数。
• 等于0的条件矩的数目大于待估计模型参数的数目。 • 求解二次型。
二、计量经济学模型的广义矩估计
of GMM Estimation, Econometrica 50, p1029-1054 • 关于GMM 的总结 A. Pagan and M. Wickens, 1989: A Survey of Some Recent Economertic Methods, Economic Journal 99, p962-1025
– 经验信息(样本数据)的充分利用。 – 具有包容性:实际上是已有估计方法的概括和一般化。 – 适用于大样本并显示其优越性。
⒈几个重要的性质
• 从技术角度
– 无须要求正规方程组中方程数目与待估参数数目相等。 – 无须进行高阶矩阵的求逆运算。
⒉参数的矩估计
• 参数的矩估计就是用样本矩去估计总体矩。 • 用样本的一阶原点矩作为期望的估计量。 • 用样本的二阶中心矩作为方差的估计量。 • 从样本观测值计算样本一阶(原点)矩和二阶
• 如果满足所有基本假设,OLS的正规方程组为:
yi (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i ) 0 yi x1i (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i )x1i 0 yi x2i (ˆ0 ˆ1x1i ˆ2 x2i ˆ3 x3i )x2i 0
• 如果l>K,这时根据W选取的不同,有不同的解 βGMM,但只要W是对称正定矩阵,估计结果都满 足一致性。
• 尽管不同的权矩阵W都可得到的一致估计量,但 估计量的方差矩阵可能是不同的。因此,可以选 择最佳的W,以使估计量更有效(有小的方差)。
⒊权矩阵的选择
• 关于权矩阵的选择,是GMM估计方法的一个核心 问题。
(X’ZWZ’X)KK非奇异,于是有: β=(X’ZWZ’X)-1X’ZWZ’Y
即为原模型Y=X+的一个广义矩估计量。
• 如果l=K,这时Z’X为KK方阵且可逆。于是: β=(Z’X)-1W-1(X’Z)-1X’ZWZ’Y =(Z’X)-1Z’Y
可见,βGMM=βIV, 这时W的选择对结果无影响。
⒉ GMM估计量
• min Q(β)=[(1/n)Z’(Y-Xβ)]’W[(1/n)Z’(Y-Xβ)]的1 阶极值条件(偏导为0):
-2X’ZWZ’Y+2X’ZWZ’Xβ=0
X’ZWZ’Xβ=X’ZWZ’Y 这是一个有K个未知参数,K个方程的线性方程组。 • 当lK时,Z’X是一个列满秩于K的矩阵。从而
yi z2i
(ˆ0 ˆ1 x1i ˆ2 x2i ˆ3 x3i )z2i 0
yi x3i (ˆ0 ˆ1 x1i ˆ2 x2i ˆ3 x3i )x3i 0
该方程组是如何 得到的?
5个等于0的 矩条件,求 解4个参数
如何求 解该方 程组?
Eviews 中GMM方程设定页面选择“cross section”,即为该情况。
• 若随机误差项存在自相关,Newey和West(1987) 提出权矩阵的估计量为:
Wˆ
1 n
S
1 n
(S
0
L
w(l)(Sl
l 1
S
' l
))
w(l) 1 l L 1
Newey and West, 1987: A Simple positive semidefinite, heteroskedasticity and Autocorrelation consisitent covariance matrix, Econometrica 55,703-708
• 关于GMM发展的讨论
R. Davidson and J. MacKinnon, 1993: Estimation and Inference in Econometrics, New York Oxford Univ. Press
一、广义矩估计的概念
⒈几个重要的性质
• 从方法论角度
– 变量设定的相对性:直接与间接、内生与外生、随机 与确定。
Andrews,1991: Heteroskedasticity and autocorrelation consistent covariance matrix estimation, Econometrica 59, 817-858
1 Z 'e( y n
, X;)
1
m(
)
m1 m2
mk
( (
(
) )
)
n 1 n
1 n
z1i ei
i
z2i ei
i
i zkiei