2.1 计量经济学模型的最大似然估计

ui h( yi , ) J ( y i , ) Ji yi yi

雅可比行列式
雅可比行列式×正态分布密度函数
• 因变量样本的对数似然函数为：
n n ln L ln 2 ln 2 ln J ( yi , ) 2 2 i

1 2 2
[h( yi , ) g ( xi , )]2
e

1 2
2

ˆ) ˆ) ( Y Xβ ( Y Xβ
e
Max L* Ln( L) nLn( 2 ) 1 2 ˆ ˆ (Y Xβ ) (Y Xβ ) 2
ˆ ˆ Min (Y Xβ )(Y Xβ )
ˆ ( X X) 1 X Y β
参数估计结果与参数的OLS估计相同
y 11.00728 9.48510 6.444172 13.44912 11.50133 12.35815 12.99527 14.13140 8.881935 5.953811 7.790439 10.50841 10.39946 9.679147 7.571837 12.43048 13.01008 10.55083 9.798799 9.098704
z 5.716792 5.066528 3.141868 2.194553 2.789461 4.212297 5.634752 4.536204 4.324151 3.201167 5.426684 4.563735 3.734707 4.092285 3.708031 3.824409 2.222048 5.540067 4.974421 4.886206
( 0)
lim
0
x 1

ln( x)
• 如果已知被解释变量和解释变量各自进行何种λ的 B-C变换，可以先变换，然后估计线性模型。
• 一般情况下，何种λ未知，作为一组参数引入模型， 对变换后的模型进行非线性模型估计，同时得到λ 和β的估计量。 • 许多应用软件，例如GAUSS、SAS可以实现。 • 这就引出了B-C变换的更重要的价值：如果不知 道被解释变量和解释变量之间存在何种形式的函 数关系，可以通过“B-C变换非线性模型估计” 确定函数关系。
• 本科教学内容—LS • 非经典模型的估计—ML、GMM • 教材3.1、5.5节
一、单方程模型的最大似然估计
⒈经典线性单方程模型的最大似然估计
yi 0 1 x1i 2 x2i k x ki i
2 Yi ~ N (Xiβ , )
i=1,2,…,n
⒉ Box-Cox非线性回归模型的参数估计
u i f ( y i , xi , , ) y i
( 0 )
( 0
( 1 x1i1 )

( k ) k x ki )
~ N (0, 2 I ) u (u1 ,, un )
• 模型中被解释变量样本的对数似然函数为：
• 如果变换的雅可比行列式是1，则不存在因变量 的参数变换；如果变换的雅可比行列式包含θ，则 称为因变量的参数变换模型。
二、因变量的参数变换
⒈ Box-Cox变换
• 一种将变量之间的非线性关系变换为线性关系的 方法。
• Box和Cox（1964）提出的变换关系：
x
( )
来自百度文库
x 1

要求变量x为正值。λ取值可以是整个实数域但多数应用有 意义的取值范围为[-2，2]。 当λ=2，是二次变换；当λ=0.5，是平方根变换；当λ=1， 是线性变换；当λ=-1，是倒数变换；当λ=0，是对数变换。
i
• 很明显若没有雅可比行列式项，参数的非线性最 小二乘估计将是最大似然估计；但是，如果雅可比 行列式包括θ，最小二乘法不是最大似然法。
• 最大化对数似然函数的一阶条件为：
ln L 1 2
g ( xi , ) ui 0 i
ln L 1 J i i J i
n 1 1 n[1 ln(2 ) ln n] ln yi n ln(u u ) 2 2 i 1
u u /[( y1 yn ) 0 / n ]
最大化中心化对数似然函数，就得到参数 和
ˆ ˆ 的最大似然估计 和 。
1 n 2 ˆ ˆ ˆ 2 的最大似然估计为： 2 f ( yi , xi , , ) n i 1
未施加λ相同约束的估计结果
参数 估计值
-8.471 25.846 1.610 0.969 -1.536 0.391 2.876
标准误差
26.127 73.338 5.264 0.089 2.298 2.613 0.910
t 统计量
-0.3242 0.35245 0.30585 10.8876 -0.6684 0.14964 3.16044
• 示例： 假定被解释变量y与解释变量x和z之间的关系为：
y
(1 )
1 2 x
(2 )
3 z
(3 )
v
用模型 y 1* 2 x 3 z u 在 2, 2 3 1, u 是 i.i.d. N (0, ) , 2.25
• 例如：
y 2 0 1 x1 2 x2
y
( 2)
2
y ( 2) 0 1 x1 2 x2
(1)
( 2)
y 1 2
2
x1
(1)
x1 1 1
x2
( 2)
x2 1 2
2
y 0 1 ln x
lim x
0
( )
y
(1)
0 1 x
z 3.336064 5.232138 3.546423 5.590764 2.12414 3.869655 4.078571 3.933097 5.121045 3.521771 2.927539 4.706172 3.639600 4.589414 2.221079 5.657767 3.375917 5.094239 3.493393 2.634803
1
2
3
1
2
3
为什么 结果很 差？

2
三、异方差性的非线性方法
⒈思路
• 将异方差问题看成一类非线性问题，采用NML估 计，比较简单，可以同时得到参数估计量和反映 异方差特征的量。
f ( yi , xi , ) ui
i 1,, n
随机项满足 经典假设
~ N (0, 2 I ) (u1 ,, un )
xi x1i
x2i xki
其中 h () 和 g () 是非线性函数， 和 是参数。
• 以上是一般非线性模型的完整描述。
• 模型参数的一种估计方法是最小二乘法，即最小 化
S ( , ) [h( yi , ) g ( xi , )]
施加λ相同约束的估计结果
参数 估计值
3.380 0.746 0.574 0.779 1.240
标准误差
1.128 0.278 0.278 0.088 0.392
t 统计量
2.99645 2.68345 2.06475 8.85227 3.16327
1
2
3


2
真值：β1=2，β2=1，β3=1， λ=1
n 1 1 ln L( , , 2 | y, x) n[ln(2 ) ln( 2 )] (u u / 2 ) (0 1) ln yi 2 2 i 1
• 中心化对数似然函数：
n 1 1 ln Lc ( , | y, x) n[1 ln(2 ) ln n] n ln(u u) (0 1) ln yi 2 2 i 1
i
2
• 模型参数的另一种估计方法是最大似然法。得 到广泛应用。
最大似然估计
• yi的密度函数
(2 )
2 1 / 2
yi g ( xi , ) ui
yi g ( xi , )]2 exp 2 2
[h( yi , ) g ( xi , )]2 ui 2 1 / 2 (2 ) exp yi 2 2
⒉简单非线性单方程模型的最大似然估计
yi f ( xi , ) i
i=1,2,…,n
2
Yi ~ N ( f (Xi , β ), )
i ~ N (0, 2 )
ˆ , 2 ) P(Y , Y ,, Y ) L(β 1 2 n 1 (2 ) n
n 2

1 2
ˆ (Yi f ( X i , )) 2 2
* 1
2
2
限制下生成一组样本。然后估计 B-C 非线性回归模型。
x 5.381719 3.009112 4.375199 5.472562 4.701641 4.047996 5.855000 4.820906 2.453591 2.453289 2.512200 3.462947 3.816963 2.723284 4.203508 3.493063 4.294265 3.345298 5.096056 3.257751
§2.1 计量经济学模型的最大似然估计
一、单方程模型的最大似然估计
二、因变量的参数变换 三、异方差性的非线性方法 四、序列相关性的非线性方法
五、条件异方差性的非线性方法
说明
• 计量经济学模型的3类估计方法
–LS –ML –MM
参数模型（非参数模型的权函数估计、级数估计等） 基于样本信息（综合样本信息和先验信息的贝叶斯估计） 均值回归模型（分位数回归，Quantile Regression ,QREG）
i ~ N (0, 2 )
ˆ, L (β 2 ) P (Y1 , Y2 , , Yn ) 1 ( 2 ) n 1 ( 2 ) n
n 2 n 2

1 2
ˆ ˆ ˆ ˆ (Yi ( 0 1 X 1i 2 X 2 i k X ki )) 2 2
y 10.80478 11.58843 9.877543 8.04193 13.27586 9.501099 10.30391 14.21714 9.392368 11.79774 13.31844 10.90918 13.38010 8.883878 7.875557 11.76839 9.82212 13.19992 14.95182 10.57826
e
MaxL* Ln( L) nLn( 2 ) 1 2 2 ˆ (Yi f ( X i , )) 2
ˆ Min (Yi f ( X i , ))2
• 面临NLS同样的过程，得到相同的估计结果。
3. 一般非线性模型的ML估计
h( yi , ) g ( xi , ) ui
响应系数和弹性系数为：
yi f x ji x ji
f j 1 0 1 j x ji / yi yi
x ji f j 0 ) ( ) j x ji / yi yi yi
yi x ji f ( yj x ji x ji yi
h( yi , ) 1 0 2 ui i
ln L n 1 2 2 4 2 2
u
i
2 i
0
• 一般是得到中心化对数似然函数，然后最大化
1 u i2 n i
2
n n 1 2 ln Lc ln J ( yi , ) [1 ln(2 )] ln ui 2 2 n i i
x 5.331691 4.800605 3.941124 5.720727 4.536456 3.084652 4.508164 5.632088 4.889667 4.028880 3.825508 5.364851 4.445447 3.971793 5.899375 5.514231 4.328222 2.191853 5.982851 3.787909