应用回归分析证明题及答案

应用回归分析证明题及答案

一. 证明残差满足的约束条件：1

0n

i i e ==∑，1

0n

i i i x e ==∑。

证明：由偏导方程即得该结论：

11

01ˆ1

001ˆ1

1ˆˆ2()0ˆˆ2()0

ββββββββββ0====∂∣=---=∂∂∣=---=∂∑∑n

i i i n i i i i Q y x Q y x x

证毕.

二. 证明平方和分解式：SST SSR SSE =+。 证明：

2

211221

1

1

ˆˆ()()ˆˆˆˆ()()2()()======-=-+-=-+-+--∑∑∑∑∑n n

i i i i i i n

n

n

i i i i i i i i i SST y y y y

y y y

y y y y y y y

011110111ˆˆˆ22()0ˆˆ2)0上式第三项ββββ=====⎛⎫=-=+- ⎪⎝⎭

⎛⎫=+= ⎪⎝⎭

∑∑∑∑∑n n n

i i i i i

i i i n n

i i i i i e y e y e x e x e

2

21

1

ˆˆ()()即===-+-=+∑∑n

n

i i i i i SST y

y y y SSR SSE

证毕.

三. 证明三种检验的关系：

（1

）；(2) 2212ˆ/1F= == t ˆ/(2)xx L SSR SSE n βσ-

证明：由于

22ˆ SSR ,β⎡=

==

==⎣L r r SST 2

2

ˆ

2

2

σ

-=

=--∑i

e SST SSR

n n

所以

===t 212ˆ/1

.ˆ/(2)βσ

==-xx L SSR F SSE n

证毕.

四．证明：22

2()1()1 ()σ⎡⎤-=--⎢⎥

-⎢⎥⎣

⎦∑i i i x x Var e n x x 。 证明：由于

011

1ˆˆˆ()ˆ()()1()

βββ

==-=-+=----=---∑∑i i i i i

i

i

n i i i i i

i xx

e y y y x y y x x x x y y y x x n L

于是

()121112

()1()()()1()()12,2,()()12,()σ====⎡⎤-=---⎢⎥⎣⎦

⎡⎤-⎛⎫

=++-⎢⎥

⎪⎝⎭⎣⎦

⎡⎤-⎡⎤

---⎢⎥

⎢⎥⎣⎦⎣⎦⎡⎤-+-⎢⎥⎣⎦

=+∑∑∑∑∑∑∑∑n i i i i i i i xx n i i i i i i xx n i i i i i i i xx n i i i i

i xx x x y Var e Var y y x x n L x x y Var y Var y Var x x n L x x y Cov y y Cov y x x n L x x y Cov y x x n L 22222222

()()1122()11σσσσ

σ

--+--⎡⎤-=--⎢⎥⎣⎦i i xx xx

i xx x x x x n L n L x x n

L

证毕.

五．证明：在一元回归中，201

ˆˆ(,)xx

x Cov L ββσ=-。 证明：

01111111()()1ˆˆ(,),()()1,()()1,()(1ββ======⎡⎤⎛⎫--=-⎢⎥ ⎪ ⎪⎢⎥⎝⎭⎣⎦

⎡⎤

⎛⎫--=-⎢⎥ ⎪⎝⎭⎣⎦

⎡⎤⎛⎫--=-⎢⎥ ⎪⎝⎭⎣⎦⎛⎫-=- ⎪

⎝⎭∑∑∑∑∑∑∑∑n i i i i i i xx xx n n i i i i i i xx xx

n n i i i i i i xx xx

n

i i xx x x y x x y Cov Cov y x n L L x x x x Cov x y y n L L x x x x Cov x y y n L L x x x n

L 2

2

)σσ-=-

i xx xx

x x L x L

证毕.

六．证明：21

ˆ 1

SSE n p σ

=--是误差项方差2σ的无偏估计。

证明：由于 22

2()1()1 ()σ⎡⎤-=--⎢⎥-⎢⎥⎣⎦

∑i i i x x D e n x x 而 ()2

2()()()()=+=i i i i E e D e E e D e 所以

2

21

211

2211ˆ() ()1111()(1)111(1)1

σσσσ===⎛⎫== ⎪----⎝⎭==-----=--=--∑

∑∑n

i i n n

i ii i i E E SSE E e n p n p D e h n p n p n p n p 证毕.

七．证明：ˆ()E =β

β；21ˆ()()D σ-'=βX X 。 证明：

()()()1111

ˆ()()()()()----''''==''=+''==E E E E β

X X X y X X X y X X X X βεX X X X ββ