多元回归分析推断

拒绝规则： | t |>c 给出100a%显著水平的检验 （c为tn-1分布中的第100(1-a/2)百分位数）
计量经Leabharlann Baidu学导论 刘愿
10
经典线性模型假定



给定高斯-马尔科夫假定，OLS是最优线性无 偏估计。 为了做经典的假设检验，我们需要添加额外一 个假定，即MLR.6:u 独立于x1, x2,…, xk ，且u 服从标准正态分布，即u ~ Normal(0,2) MLR.1-MLR.6: 经典线性模型假设（CLM）
在上例中，100个随机样本中究竟有多少人投 候选人A的票才能够足以使A能否作出H0错误 而H1正确的结论？（合理的勿容置疑的证据）
计量经济学导论 刘愿
3

假设检验中会犯的两种错误： 第Ⅰ类错误：拒绝一个其实是真实的虚拟假设 第Ⅱ类错误：未拒绝一个实际上是错误的虚拟 假设 检验的显著性水平：犯第Ⅰ类错误的概率
计量经济学导论 刘愿
2

设立一个假设检验（hypothesis test），令Θ 代表赞成候选人A的总体真实比例，令所报告 的结果为真实的假设，陈述为： H0: Θ=0.42 虚拟假设（null hypothesis） H1: Θ>0.42 对立假设（alternative hypothesis)
计量经济学导论 刘愿
6

检验来自一个 Normal ， 2 总体的关于均值 的假设。
H0： 0
H1： 0 H1： 0 H1： 0
虚拟假设
单侧对立假设
双侧对立假设
计量经济学导论 刘愿
7
H1： 0


0 当样本均值 y “足够”地大于 时，我们便 应拒绝H0而接受H1。如何确定 已大到足以 y 在选定的显著水平上拒绝H0？ 检验统计量t：在虚拟假设下，随机变量t有一 个tn-1分布。
t n y 0 s y 0 se y

临界值c：5%的显著水平
P t>c|H0 =0.05
计量经济学导论 刘愿
8
拒绝规则： t>c （c为tn-1分布中的第100(1-a)百分位数）

计量经济学导论 刘愿
9
双尾检验（two tailed test)
多元回归分析：推断
y = b0 + b1x1 + b2x2 + . . . bkxk + u
计量经济学导论 刘愿
1
关于假设检验

考虑一个选举问题：假定在一次选举中有两个 候选人A和B。据报道，候选人A已得到42%的 选票，候选人B得到58%的选票。姑且把这个 百分比看成选民总体的真正百分比。候选人A 深信更多的民众会投他的票，因此想调查选举 是否有作弊情况，并雇用一个咨询机构随机抽 取100名选举人的样本，所收集的样本中有53 人投了候选人A的票。这一样本估计值53%明 显超过所报告的总体值42%，候选人A应否据 此作出结论说选举存在作弊？
P 拒绝H0 |H0
其含义为：当H0为真实时拒绝H0的概率
计量经济学导论 刘愿
4


经典的假设检验要求设定a值，从而量化我们 对第Ⅰ类错误的容忍度。通常a值有0.10， 0.05，0.01。 一旦选定显著水平，检验的目标是把第Ⅱ类错 误的概率减到最小。即对所有有意义的对立情 况使一个检验的功效最大。一个检验的功效是 1减去第Ⅱ类错误的概率。数学上表示为：
计量经济学导论 刘愿
11
经典线性回归假设（续）



在经典线性回归假设下，OLS 不仅是最优线性无偏的， 而且是方差最小的无偏估计。 经典线性回归总体假设： y|x ~ Normal(b0 + b1x1 +…+ bkxk, 2) 虽然我们假设u服从正态分布，但有时候并非如此： u中的众多因素可能各有极为不同的总体分布； u是不可观测因素的一个复杂函数，而非线性可加； 假定u的正态性，实际上是一个经验性问题。 大样本能够让u近似的满足正态性。


SST j 1 R
2 j 1/ 2
ˆ se b j

ˆ SST j 1 R
2 j 1/ 2
计量经济学导论 刘愿
16
t检验（续）


标准化参数的样本分布使得我们可以进行假设 检验。 从虚拟假设开始，如H0: bj=0；如果接受虚拟 假设，则意味着在控制其他因素不变的情况下， xj 对 y没有效应。
计量经济学导论 刘愿
12
简单回归的同方差正态分布
y
f(y|x)
.
Normal distributions
. E(y|x) = b + b x
0 1
x1
x2
计量经济学导论 刘愿
13
定理4.1 正态抽样分布
在经典线性回归假设下，以自变量样本值为条件，有： ˆ ~ Normal b , Var b ˆ , 则 b j j j ˆ b ˆ ~ Normal 0,1 b sd b j j j ˆ 服从标准正态分布，因为它是误差的线性组合： b
计量经济学导论 刘愿
15
4.2 t检验
定理4.1 (标准化参数估计值的t分布) 在经典线性回归假设下， ˆ b ˆ ~t b se b

j
j

j
n k 1
注意这是t分布（与正态分布相对应）， ˆ 2 估计 2，所以自由度为 n k 1. 因为需要通过 ˆ sd b j
P 拒绝H0 | =1-P 第II类错误|
计量经济学导论 刘愿
5
检验关于正态总体均值的假设



为了相对于一个对立假设而检验一个虚拟假设， 需要挑选一个检验统计量和一个临界值。 给定一个统计量，即可定义一个拒绝规则来决 定什么时候舍弃H0而选取H1.所有拒绝规则都 是拿一个检验统计量的值t来同一个临界值c做 比较作为依据的。 拒绝域：所有导致拒绝虚拟假设的t值的全体。




j
n ˆ ˆ b j b j wij u j rij SSR j i 1
计量经济学导论 刘愿
14

定理4.1推广：
ˆ ,b ˆ , ,b ˆ 的任何线性组合也都是正态分布的； 1. b 0 1 k ˆ 的任何一个子集也都有一个联合正态分布。 2.b j