第五讲 受限因变量时间序列以及panel模型

2. Logit 估计 —- 最大似然法估计法 我们观察不到 p （拥有住房的概率） ， 而只观察到 Y 的结果 （拥有住房 Y=1， 或不拥有住房 Y=0） ，如何估计参数？ 一般用最大似然法估计法估计参数。因为 Y 服从贝努里分布，我们有 Pr(Yi = 1) = pi Pr(Yi = 0) = 1 - pi 假设我们得到 n 个观测值的随机样本，令 fi(Yi)表示 Yi=1 或 Yi=0 的概率， 于是观测到 n 个 Y 值的联合分布概率（joint probability）为
ln f (Y1 , Y2 ,..., Yn ) = ∑[Yi ln pi + (1 − Yi ) ln(1 − pi )]
i =1 n
n
= ∑[Yi ln pi − Yi ln(1 − pi ) + ln(1 − pi )]
i =1 n
⎡ ⎛ p i ⎞⎤ n = ∑ ⎢Yi ln⎜ ⎟⎥ + ∑ ln(1 − pi ) ⎜1− p ⎟ i =1 ⎣ i =1 i ⎠⎦ ⎝
---------------------| yhat| 0 | 1 | Y 0 18 3 1 3 8
----------+-----------
----------------------
（2）pseudo-R2 最常用的是 McFadden（1974）提出的 pseudo-R2 McFadden pseudo R 1
T
β 2β 3 ~χ 2 5β 3β 0 (2) Nonlinear restrictions: g(β)=0 H :β β g β β β 1 W 0 g β
T
1
∂g β var β ∂βT
∂g β ∂βT
T
g β
74
W
β β
1
T
β
β
var β cov β , β β β 1
cov β , β var β
Under the null hypothesis with q exclusion restrictions,
~
2. Wald test (1) Linear restrictions：Rβ = r W Rβ Rβ Example: H : 1 0 W β 2β 5β 3β β 2 0 β 5 3 β
Y=0, 1,
0<p<1,
所以 lnf < 0，lnL 与 lnL0 均为负。 如果解释变量均无解释能力，那么|lnL| = |lnL0|， 因此 pseudo-R2 = 0 通常情况下，|lnL| < |lnL0|, 因此 pseudo-R2
0 lnL lnL0
<1
73
扩充内容： Three Asymptotically Equivalence Tests (all based on maximum likelihood estimation） 1. Likelihood Ratio (LR) test 1. Likelihood Ratio (LR) test
L L
其中 lnL 表示被估计模型的对数似然函数值 lnL0 表示只有截距项的模型的对数似然函数值
72
为何可以用 pseudo-R 刻划拟合优度？ 因为 ln f (Y1 , Y2 ,..., Yn ) = ∑ [Yi ln p i + (1 − Yi ) ln(1 − p i )]
i =1 n
2
3. Lagrange Multiplier test (omitted)
四、Probit 模型 1. Probit 模型含义 累积分布函数（cumulative distribution function，CDF）为如下标准正态分布 的 CDF 的模型称为 Probit 模型：
p = p(Y = 1 | X) = Φ(β0 + β1x1 + β2 x 2 + ... + βk x k ) = p( t ≤ β0 + β1x1 + β2 x 2 + ... + βk x k ) =∫
第五讲 定性响应回归模型、时间序列模型、 以及 Panel Data 模型
第一节 定性响应回归模型（Qualitative Response Regression Models）
一、定性响应回归模型的性质 因变量 Y 是一个定性变量的模型。比如：一个家庭拥有住房（Y=1）或不拥 有住房（Y = 0） ；成年人劳动参与决定，参与（Y = 1）或不参与（Y = 0） ；夫妻 双方都参加工作（Y = 1）或只一人参加工作（Y = 0） 。 数据格式：是否拥有住房例子 Family 1 2 3 4 5 .. .. 39 40 Y = 1 if owns home, 0 otherwise 0 1 1 0 1 .. .. 0 1 X (income, 1000 dollars) 8 16 18 11 12 .. .. 7 17
Y 1
0
X
三、Logit 模型 1. Cumulative Logistic 分布函数及 Logit 模型
p = E (Y = 1 | X ) =
1 1 + e −( β 0 + β1x )
=
e ( β 0 + β1x ) 1 + e ( β 0 + β1 x )
作一变换，我们得到有意思的结果
1 p e ( β 0 + β1x ) / = = e ( β 0 + β1x ) ( β 0 + β1 x ) ( β 0 + β1 x ) 1− p 1+ e 1+ e
n i =1 n
− ∑ ln(1 + e
i =1Βιβλιοθήκη β 0 + β1 x 1,i + β 2 x 2 ,i + ...+ β k x k ,i
)
最大化以上对数似然函数，使观测到（样本中）Y 的概率尽可能的大，就可 以得到 β 的参数估计。 注意：以上似然函数是非线性的（对参数来说） ，所以需要用非线性估计方 法得到 β 的值以使似然函数最大。
β
β
T
β β
1
β var β STATA code: testnl
2β β cov β , β
β var β
~χ 1
Reference: Allan W. Gregory and Michael R. Veall, 1985. Formulating Wald Tests of Nonlinear Restrictions. Econometrica, Vol. 53, No. 6 (Nov., 1985), pp. 1465-1468.
ˆ ⎞ ⎛ p ⎟ ln⎜ ⎜1− p ⎟ = −13.0214 + 2.8261GPA + 0.0951TUCE + 2.3787PSI ⎝ ˆ⎠
如何解释估计的参数？ 2.8261： 在保持其他条件不变的情况下， GPA 每增加 1 点估计的 logit （log of ； odds ratio， 对数机会比率） 将增加 2.8261； odds ratio 将增加 10.8797 （≈ e2.8261） 给定 GPA，TUCE，和 PSI，我们可以估计期中考试成绩得 A 的概率为
T
r
T
Asy. Var Rβ
T
r Rβ
Rβ r
r
r
RVar β R
3 0 3 0
β 2β 3 3β 0 5β 1 0
var β 2 0 cov β , β 5 3 cov β , β
cov β , β var β cov β , β
cov β , β cov β , β var β
1 0
2 0 5 3
2. 例子：家庭是否拥有住房与收入之间的关系 STATA 运行结果。 y= 结果解释： -0.9457 (0.1228) + 0.1021x (0.0082)
ˆ = −0.9457 表示收入为 0 家庭拥有住房的概率为-0.9457. β 0
ˆ = 0.1021 表示每增加 1 个单位收入（$1000） β ，家庭拥有住房的概率增加 1
f (Y1 , Y2 ,..., Yn ) = ∏ f i (Yi ) =∏ piYi (1 − pi )1− Yi
i =1 i =1
n
n
以上联合分布概率称为似然函数（likelihood function） 。对上式两边取自然 对数，我们有对数似然函数（log likelihood function）为
e −13.0214+ 2.8261GPA + 0.0951TUCE + 2.3787 PSI ˆ= p 1 + e −13.0214+ 2.8261GPA + 0.0951TUCE + 2.3787 PSI
4. 拟合优度的测度 (1) 正确预测的百分比 Phat > 0.5, Yhat = 1 Phat < 0.5, Yhat = 0 与实际情况相比，计算出正确预测的百分比。 . table yhat y, contents(freq)
68
当 y =1 时 当y=0时
1-β0-β1x -β0-β1x
p 1-p
(2) 干扰项 ε 的异方差性，导致估计量的无效率，即 OLS 估计量不具有最小 方差； var(ε) = p(1-p) （由贝努里分布得到） 又因为 p = E(yi|xi) = β0 +β1xi， 所以 ε 的方差最终依赖于 x，即具有异方 差性。 (3) 无法保证 0 ≤ E（yi|xi）≤ 1 条件在任何 x 值情况下都成立。 比如上例中，预测 yhat 情况，有一些小于 0，有一些大于 1。