应用回归分析证明题及答案

应用回归分析证明题及答案

一. 证明残差满足的约束条件：1

0n

i i e ==∑，1

0n

i i i x e ==∑。

证明：由偏导方程即得该结论：

证毕.

二. 证明平方和分解式：SST SSR SSE =+。 证明：

证毕.

三. 证明三种检验的关系：

（1

）；(2) 2212ˆ/1F= == t ˆ/(2)xx L SSR SSE n βσ-

证明：由于

所以

=

==t 证毕.

四．证明：22

2()1()1 ()σ⎡⎤-=--⎢⎥-⎢⎥⎣⎦

∑i i i x x Var e n x x 。 证明：由于 于是

证毕.

五．证明：在一元回归中，201

ˆˆ(,)xx

x Cov L ββσ=-。 证明：

证毕.

六．证明：21

ˆ 1

SSE n p σ

=--是误差项方差2σ的无偏估计。

证明：由于 22

2()1()1 ()σ⎡⎤-=--⎢⎥

-⎢⎥⎣⎦

∑i i i x x D e n x x 而 ()2

2()()()()=+=i i i i E e D e E e D e 所以

证毕.

七．证明：ˆ()E =β

β；21ˆ()()D σ-'=βX X 。 证明：

证毕.

八．证明：在多元线性回归中，假设2(,)n N σ~ε0I ，则随机向量2(,)n N σ~y X βI 。九．证明：当2(,)n N σ~y X βI 时，则：

（1）21ˆ(,())σ-'~N ββX X ；（2）2/(1)σχ2~--SSE n p 。

证明：

（1）因为1ˆ()-''=β

X X X y ，X 是固定的设计矩阵，因此，ˆβ是y 的线性变换。 又当2(,)n N σ~ε0I 时，有随机向量2(,)n N σ~y X βI ，所以ˆβ服从正态分布，且 21ˆˆ(),()()σ-'==E D β

ββX X ，即有21ˆ(,())σ-'~N ββX X 。 （2）：由于

借助于定理：设(,)~n N X 0I ，A 为⨯n n 对称阵，秩为r ，则当A 满足：2=A A ，二次型22χ'r X A X

，只需证明：()1=--rk n p N 即可。

因为N 是幂等阵，所以有()()=rk tr N N ，故

证毕.

十．证明：在多元线性回归中，最小二乘估计ˆβ与残差向量e 不相关，即ˆ(,)0Cov =β

e 。 证明：

证毕.

十一．证明：ˆ2(1)DW ρ

≈-

，其中1ˆn

t t e e

ρ-=∑

证明：由于

如果认为221

2

2

-==≈∑∑n

n

t t t t e e

，则有1

2

22

ˆρ

-==≈∑∑n

t t t n

t

t e e

e

，所以

1222ˆ212(1)ρ-==⎡⎤

⎢⎥

⎢⎥≈-=-⎢⎥⎢⎥⎣⎦

∑∑n

t t t n

t t e e DW e . 证毕.

十二. 试证明：在二元线性回归模型01122βββε=+++i i i i y x x 中，当1x 和2x 相互独立时，对回归系数1β 和2β的OLS 估计值，等于i y 分别对

1x 和2x 做简单线性回归时回归系数的OLS 估计值。