01：计量经济学理论预备知识总结

离散随机变量的概率分布
通常用一个二维表格直观描述离散随机变量 X 的概率分布 X …
x1
x2
xn
P
p1
n
p2
…
pn
其中 ∑ p i = 1 ， 0 ≤ p i ≤ 1
i =1
累计分布概率 F ( x ) = P{ X 一个重要的离散分布： 伯努尼分布
≤ x}
1
p 1 X = 0 1 − p
连续随机变量的概率分布 用密度函数 f ( x ) 描述， 它满足以下性质：
∫∫
f ( x, y )dxdy = 1 ；
∫ ∫ f ( x, y)dxdy = P[a < x < b, c < y < d ] ；
c a
d
b
f ( x) = X 的边际密度函数定义为 的边际密度函数
∫ f ( x, y)dy ；
f ( y) = Y 的边际密度函数定义为 的边际密度函数
∫ f ( x, y)dx 。
Et +1 V * − Et V * = 0 Et [ Pt +1 − Pt ] = Et
经济意义是：根据给定的信息集 I t ，无法预测价格的变化。 计量中的两个应用： 第一，不妨假设
µ1 ( X , Z ) = E (Y | X , Z )
，
µ 2 ( X ) = E (Y | X )
f ( x, y ) ；同理给出 X 的条件密度函数。 f ( x)
注意：如果是离散变量，则积分变为求和，密度函数变为离散变量的概率分布即可。参见书 1.3.1 节。 条件分布 给定 X，Y 的条件密度函数定义为 f ( y | x ) = 独立性
2
若
f ( x, y ) = f ( x ) f ( y ) ，那么称这两个变量独立 独立。 独立。这等价于 f ( y | x ) = f ( y ) 。
1、概率论的复习 概率论的复习
在现实生活中， 我们常常遇到许多事先不能确定结果的现象， 例如抛硬币， 抛之前无法确定是正面还是负面。 世界的许多方面都存在随机性，所谓“随机性”就是事前无法知道结果，而一旦被揭示就会取定一个实现值，概率 理论提供了有用的数学工具对随机性进行描述和定量分析。 2.1 随机变量与概率分布 样本空间 所有可能结果组成的集合，通常记为 Ω ；在样本空间的每一个可能结果称为基本事件，记为ω。 随机变量 定义在样本空间上的单值函数，即Χ(ω)，通常简化为Χ。 事件 样本空间的一个子集，即一个可能结果或多个可能结果组成的集合就称为随机事件，简称事件。样本空间 Ω 是 其本身的子集，称 Ω 为必然事件；空集∅也是 Ω 的子集，称∅为不可能事件。 通常用随机变量的取值或者取值范围表示随机事件，例如{
6） （迭代期望法则， 迭代期望法则，LIE）
E[ E (Y | X )] = E (Y ) .
证明： E (Y | X ) =
∫ yf ( y | x)dy = ∫ y
f ( y , x)
f ( y, x) dy f ( x)
E ( E (Y | X )) =
∫∫ y f ( x) dy f ( x)dx = ∫ y ∫ f ( y, x)dxdy . = ∫ yf ( y )dy = E (Y )
E X Jt It X − E =0。
假设时刻 t 的证券价格为 Pt ，可以表示为基于时刻 t 的信息集 I t ，关于基础价值 V * 的理性期望，即
* * Pt = E V I t = EtV ，同样在 t+1 期， * * Pt +1 = E V I t +1 = Et +1V ；从而，由于 I t ⊂ I t +1
X ≤ x }。
概率 描述事件发生可能性大小的数量指标。事件 A 的概率记为 P(A)。 概率的性质如下： （1） ∀事件 A, 0 ≤ P ( A) ≤ 1 ； （2）P( Ω )=1；P(∅)=0； （3）对于任意事件 A 和 B，若 A⊂B，则有 P(A)≤P(B)； （4）对于任意事件 A， P ( A ) = 1 − P ( A) ； （5）对于任意事件 A 和 B，P(A+B)=P(A)+P(B)-P(AB)；若 A 和 B 不 相容，则 P(A+B)=P(A)+P(B)。 通常研究的是随机变量各种取值情况的概率。随机变量的全部概率特征称为随机变量的概率分布。
E[(Y1 − µ1 ) 2 ] ... E[(Y1 − µ1 )(Yn − µn )] = ... ... ... 2 E[(Yn − µn )(Y1 − µ1 )] ... E[(Yn − µ n ) ]
'
对于 n 个随机变量的线性组合 α
Y ，有
' '
E (α 1Y1 + ... + α n Yn ) = E (α 'Y ) = α ' µ ； Var (α Y ) = α Σα
概率分布的数字特征 期望 记为 E ( X ) 或
µX
对于离散变量， E ( X ) =
∑x p
i i =1
n
i
；对于连续变量， E ( X ) =
∫ f ( x) xdx 。
方差 记为 Var ( X ) 或 σ X
2
Var( X ) = E (( X − E ( X )) 2 ) = E ( X 2 ) − ( E ( X )) 2
+ b( X ) | X ) = a( X ) E (Y | X ) + b( X ) ；
| X ) = E (Y ) ；
2
| X ) = E (Y ) ，那么 cov( X , Y ) = 0
2
5）若 E (Y ) < ∞ 以及某一函数 g (.) 有 E[ g ( X )
] < ∞ ，那么
E[(Y − µ ( X ))2 | X ] ≤ E[(Y − g ( X ))2 | X ] ； E[(Y − µ ( X ))2 ] ≤ E[(Y − g ( X ))2 ] ； 其中 µ ( X ) = E (Y | X )
4
，那么第三个公式可以表达为
µ 2 ( X ) = E[ µ 1 ( X , Z ) | X ] ，从中看到，可以通过迭代期望法则把 µ 1 ( X , Z ) 和 µ 2 ( X ) 联系起来。
这对于计量应用很重要，通常感兴趣的是含有不可观测变量 Z 的条件期望 µ 1 ( X , Z ) ，如果 Z 不可观测，µ 1 ( X , Z ) 就不能直接被估计出来。例如，从应用中得到一个结构性的条件期望函数为
联合分布的数字特征
σ xy 或 cov( X , Y ) ； 协方差用于度量两个变量的线性 线性相关程度，记为 协方差 线性
cov( X , Y ) = E[(( X − E ( X ))(Y − E (Y ))] = E ( XY ) − E ( X ) E (Y ) .
σ xy > 0 意味着两个变量同方向变动，称之为正相关；
第一讲 计量经济学理论预备知识总结
摘要：本课程要求学生具有微积分、概率论和线性代数的基础。本章只对其中的重要概念进行简单的复习。 阅读材料：Jonhston 的 appendix;Wooldrige 的 Appendix A、B、C&D. Handbook of econometrics, volume 1, Part 1 .
| X ,Z)
E (Y | X ) = E[ E (Y | X ) | X , Z ] ； E (Y | X ) = E[ E (Y | X , Z ) | X ] .
证明：记 µ ( X , Z ) = E (Y 由于 E[ µ ( X , Z ) | X ] = µ ( x, z ) f ( z | x)dz ，
= (Y1 , Y2 ,..., Yn ) ' ，那么，Y 的期望为
E (Y1 ) µ1 µ = E (Y ) = ... = ... E (Yn ) µn
Σ = E[(Y − µ )(Y − µ )' ]
Y 的协方差矩阵为
∫
E[ E (Y | X , Z ) | X ] =
= y
∫∫ y
f ( y , x, z ) f ( x, z ) dy dz f ( x, z ) f ( x)
∫ f ( x) ∫ f ( y, x, z )dzdy . f ( y, x) =∫y dy = E (Y | X ) f ( x)
“小的信息集总是主导”. 描述证券价格随机性的应用： 考虑随机变量的期望，其信息集为 I t , J t ，其中 I t ⊂ J t ，也就是 J t 包含了一些特殊信息。考虑随机变量的条 件期望： E X It =E X It 或E X Jt 。则迭代期望法则为 E X Jt It E 。也可以变为
条件分布的数字特征 条件期望（重点！ ！ ） 条件期望 协方差和相关系数衡量的是两个随机变量之间的线性相关关系， 两个变量在协方差和相关系数的定义公式中是对 称的。在经济学研究中，我们更感兴趣的是用一个变量 X 去解释另一个变量 Y；而且 Y 和 X 的关系很有可能是 非线性的。在前面已经引入了“给定一个变量 X，Y 的条件密度函数”的概念，从条件分布我们可以知道变量 X 的 变动如何影响变量 Y 的分布。然而，研究变量的分布很复杂，一个好的办法就是用一个简单的数字特征——“给 定 X，Y 的条件期望”来总结出这个分布。条件期望在现代计量分析中扮演了一个很重要的角色，本课程的全部 内容都是讲解如何在条件期望上进行系数估计和假设检验。 给定 X， Y 的条件期望定义为 E (Y | X ) = 例如：
运算规则：给定任意常数 c ， Var (c) = 0 ； Var (cX ) 标准差 矩
= c 2Var ( X ) .
sd ( X ) 或 σ X ； sd ( X ) = Var ( X )
E ( X n ) 称为变量 X 的 n 阶矩， n = 1 时就是 X 的期望。
2.2 联合分布、 联合分布、条件分布与独立性 本课程的计量经济学就是以客观经济系统中具有随机性质的经济关系为研究对象， 也就是说我们研究的是带 有随机性的经济变量的关系。那么如何描述随机变量之间的关系呢？ 联合分布 两个随机变量的联合分布的密度函数为 f ( x, y ) ，那么， f ( x, y ) ≥ 0, ∀x, y ；
E ( y | x1 , x 2 , z ) = β 0 + β 1 x1 + β 2 x 2 + β 3 z ，但是 Z 不可观测，根据 LIE，得到 E ( y | x1 , x2 ) = E ( β 0 + β1 x1 + β 2 x2 + β 3 z | x1 , x2 )
= β 0 + β1 x1 + β 2 x2 + β 3 E ( z | x1 , x2 )
这时，需要讨论的是给定 X，不可观测变量 Z 的条件期望。 假设 ，
第二，令 f ( X ) 是某一函数（或函数向量） ， g (⋅) 是某一实值函数，假设 E (Y
∫ yf ( y | x)dy .容易看到，E (Y | X ) 是 X 的函数，可以是线性或非线性。
条件期望的性质：
3Leabharlann Baidu
1）对于任意的函数 g ( X ) ， E ( g ( X ) | X ) = g ( X ) ； 2）对于任意的函数 a ( X ) 和 b( X ) ， E (a( X )Y 3）若 X 和 Y 独立，那么 E (Y 4)若 E (Y
f ( x) ≥ 0, ∀x ； ∫ f ( x)dx = 1 ； ∫ f ( x)dx = F (b) − F (a ) = P[a < x < b]
a
b
累计分布函数 F ( x ) = P{ X ≤ x} = 它满足以下性质：
∫ f ( x)dx ；
−∞
x
P{ X > x} = 1 − F ( x) ； P ( X ≥ x) = P ( X > x ) 。
σ xy < 0 称之为负相关；
σ xy = 0 称之为不相关。
相关系数 ρ =
σ
xy y
σ xσ
； | ρ |< 1 .
如果 X , Y 独立，那么 σ xy = 0, ρ = 0 ， Var ( X 协方差矩阵 假设 Y 是一个由多个随机变量组成的向量，即 Y
± Y ) = Var ( X ) + Var (Y ) .