线性回归模型检验方法拓展~三大检验
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第四章线性回归模型检验方法拓展——三大检验作为统计推断的核心内容,除了估计未知参数以外,对参数的假设检验是实证分析中的一个重要方面。对模型进行各种检验的目的是,改善模型的设定以确保基本假设和估计方法比较适合于数据,同时也是对有关理论有效性的验证。
一、假设检验的基本理论及准则
假设检验的理论依据是“小概率事件原理”,它的一般步骤是
(1)建立两个相对(互相排斥)的假设(零假设和备择假设)。
(2)在零假设条件下,寻求用于检验的统计量及其分布。
(3)得出拒绝或接受零假设的判别规则。
另一方面,对于任何的检验过程,都有可能犯错误,即所谓的第一类错误
P(拒绝H0|H0为真)=α
和第二类错误
P(接受H0|H0不真)=β
在下图,粉红色部分表示P(拒绝H0|H0为真)=α。黄色部分表示P(接受H0|H0不真)=β。
而犯这两类错误的概率是一种此消彼长的情况,于是如何控制这两个概率,使它们尽可能的都小,就成了寻找优良的检验方法的关键。
下面简要介绍假设检验的有关基本理论。
参数显著性检验的思路是,已知总体的分布(,)F X θ,其中θ是未知参数。总体真实分布完全由未知参数θ的取值所决定。对θ提出某种假设001000:(:,)H H θθθθθθθθ=≠><或,从总体中抽取一个容量为n 的样本,确定一个统计量及其分布,决定一个拒绝域W ,使得0()P W θα=,或者对样本观测数
据X ,0()P X W θα∈≤。α是显著性水平,即犯第一类错误的概率。
既然犯两类错误的概率不能同时被控制,所以通常的做法是,限制犯第一类错误的概率,使犯第二类错误的概率尽可能的小,即在
0()P X W θα∈≤ 0θ∈Θ
的条件下,使得
()P X W θ∈,0θ∈Θ-Θ
达到最大,或
1()P X W θ-∈,0θ∈Θ-Θ
达到最小。其中()P X W θ∈表示总体分布为(,)F X θ时,事件W ∈{X }的概率,0
Θ为零假设集合(0Θ只含一个点时成为简单原假设,否则称为复杂原假设)。
0Θ-Θ为备择假设集合,并且0Θ与0Θ-Θ不能相交。由前述可知,当1H 为真时,它被拒绝(亦即H 0不真时,接受H 0)的概率为β,也就是被接受(亦即H 0不真时,拒绝H 0)的概率是1β-(功效),我们把这个接受1H 的概率称为该检验的势。在对未知参数θ作假设检验时,在固定α下,对θ的每一个值,相应地可求得1β-的值,则定义
=1()()P X W θβθ-∈
称1βθ-()
为该检验的势函数。统计检验的势(函数)主要用于比较假设检验的优劣。于是一个好的检验方程是
00max (),..(),s t βθθβθαθ∈Θ-Θ⎧⎨≤∈Θ⎩ 或 00min(1()),..(),s t βθθβθαθ-∈Θ-Θ⎧⎨≤∈Θ⎩
为了理论上的深入研究和表达方便,我们常用函数来表示检验法。定义函数
1,()0,X W X X W ϕ∈⎧=⎨∉⎩
它是拒绝域W 的线性函数,仅取值0或1。反之,如果一个函数中()X ϕ只取0或1,则{|()1}W X X ϕ==可作为一个拒绝域。也就是说,W 和ϕ之间建立了一种对立关系,给出一个ϕ就等价于给出了一个检验法,(我们称ϕ为检验函数)。那么,对于检验法ϕ的势函数为
()()()(,)E X X dF X θβθϕθΦ=Φ=⎰
于是,一个好的检验法又可写为
00max (),..(),s t E X θβθθϕαθΦ∈Θ-Θ⎧⎨≤∈Θ⎩
称满足上式的检验法为最优势检验(MPT)。如果对于复杂原假设和备择假设,则称为一致最优势检验(UMPT )。
奈曼—皮尔逊(Neyman Pearson -)基本引理给出于()X ϕ是MPT 的充要条件。
定理 设1,,n X X 是来自总体分布密度为(,)p X θ的样本,θ为未知参数,对于简单假设检验问题0011:,:H H θθθθ==,检验函数()X ϕ是显著性水平为α的最优势检验(MPT)的充要条件是,存在常数0K ≥,使得()X ϕ满足
0()E X θϕα=
10101,(,)(,)()0,(,)(,)p X Kp X X p X Kp X θθϕθθ>⎧=⎨<⎩
当当 这就是著名的奈曼—皮尔逊基本引理,需要指出的是,上述定理中的检验函数()X ϕ通常称为似然比检验函数,若记
10(,)()(,)
p X X p X θλθ= 称()X λ为似然比统计量。如果()X λ较大,意味着1(,)p X θ较大。所以在0H 为真时观测到样本点X 的可能性比1H 为真时观察到样本点X 的可能性小,因而应拒绝原假设0H ;反之,如果()X λ较小则应接受0H 。此外,利用()X λ,上述定理中的()X ϕ可写为
1,()()0,()X K X X K
λϕλ>⎧=⎨<⎩ 这说明对于简单假设检验问题,似然比检验是最优的,反之最优势检验法也一定
是似然比检验法。而大量的文献都已证明了传统假设检验中的Z 检验、t 检验、
2χ检验和F 检验都是最优势检验。
于是,我们可以放心地回到这部份的主题——计量经济模型的(假设)检验方法。
二、一般线性框架下的假设检验
设多元回归模型为
122k k Y X X u βββ=++++ (2-43)
式(2-43)的统计检验通常包括以下三种情况
1、单个系数的显著性检验。
2、若干个回归系数的联合检验。
3、回归系数线性组合的检验。
从检验的方面看,考虑以下典型假设
01、0:0j H β=。即解释变量j X 对Y 没有影响,这是最常见的参数显著性检验。
02、00:j j H ββ= 。0i β是某一具体值。例如j β表示价格弹性,我们也许希望它是-1。