应用多元统计分析课后习题答案高惠璇(第四章部分习题解答

i 1
i 1
14
第四章 回归分析
应用多元统计分析
第四章部分习题解答
第四章 回归分析
4-1
设
y1 y2
a 2a
1,
b
2
,
y3 a 2b 3,
1
2 3
~
N3 (0,
2I3),
(1) 试求参数a,b
解:用矩阵表示以上模型:
则
Y
y1 y2 y3
1 2 1
201
a b
1 2 3
def
X
ˆ
aˆ bˆ
( X X
Y
y1 y2 y3
1
1 3
a0
1 2 3
def
Za0
,且Y
~
N3 (Za0 ,
2I3)
ˆ
2 0
1 3
( y1
aˆ0 )2
( y2
aˆ0 )2
( y3
3aˆ0 )2
7
第四章 回归分析
1 3
(Y
Zaˆ0
)(Y
Zaˆ0
)
1 3
Y
(I3
Z
(Z Z
)1 Z
)Y
1 Y BY
i 1
i 1
(其中yˆ
1 n
n i 1
yˆi ),
试证明：(1) yˆ y;
n
n
(2) R2 ( yˆi y)2
( yi y)2 ;
i 1
i 1
n
（3）残差平方和 Q（ˆ） (1 R2 ) ( yi y)2. i 1 13
第四章 回归分析
证明:(1)估计向量为 Yˆ Cˆ C(CC)1CY HY
L
2
3
2
2
1
2( 2 )2
[( y1
aˆ)2
]
0
可得
ˆ 2
1 3
( y1
aˆ)2
( y2
2aˆ
bˆ)2
( y3
aˆ
2bˆ)2
似然比统计量的分母为
L(aˆ,
bˆ,ˆ
2
)
(2
3
)2
(ˆ
2
)
3 2
exp[
3
].
2
当H0：a=b=a0成立时,样本的似然函数为
L(a0, 2)
1
2
2
3
exp
3
考虑
ˆ
2 0
ˆ
2
1 Y (B 3
A)Y
B A X ( X X )1 X Z (Z Z )1 Z
1 25
330
80 256
4139152
经验证:① B-A是对称幂等阵;
② rank(B-A)=tr(B-A)=2-1=1; 8
第四章 回归分析
③ A(B-A)=O3×3 .由第三章§3.1的结论6知
Y
(
I
3
X
(
X
X
)1
X
)Y
1 Y AY , 且rank( A) tr( A) 3 2 1
3
6
第四章 回归分析
因 Y ~ N3 ( X , 2I3 ), A为对称幂等阵,
Y AY
2
~
2 (1, ),因
1
2
( X )AX
0
Y AY ~ 2 (1) 2
当H0：a=b=a0成立时,回归模型为
~ F(1,1)
3
因 V 2 ,
ˆ 2
V
ˆ
2 0
,
故 V 或V ,
1V
1
否定域为
{ } {V V } { f }
10
第四章 回归分析
4-2 在多元线性回归模型(4.1.3)中(p=1)，试求出参数 向量β和σ2的最大似然估计.
解:模型(4.1.3)为
Y
~
C Nn (0,
2
[(
y1
aˆ0
)2
]
0
可得
ˆ 2
1 3
( y1
aˆ0 )2
( y2
aˆ0 )2
( y3
3aˆ0 )2
drf
ˆ
2 0
似然比统计量的分子为
L(aˆ0
, ˆ 0 2
)
(2
3
)2
(ˆ
2 0
)
3 2
exp[
3 2
].
5
第四章 回归分析
似然比统计量为
L(aˆ0 ,ˆ02 ) L(aˆ,bˆ,ˆ 2 )
)1
X Y
1 0
2 1
21
1 2 1
201
1
1 0
2 1
21
y1 y2 y3
2
第四章 回归分析
6 0
0 5
1
y1 2 y2
y2y1 2 y2 y3 ( y2 2 y3)
)
(2) 试导出检验H0：a=b的似然比统计量，并指出当假 设成立时，这个统计量的分布是什么?
(ˆ
0
2
)
3 2
(ˆ
2
)
3 2
ˆ 2 ˆ 0 2
3
2
V
3 2
以下来讨论与V等价的统计量分布:
ˆ 2
1 3
( y1
aˆ)2
( y2
2aˆ
bˆ)2
( y3
aˆ 2bˆ)2
1 3
( y1
yˆ1 ) 2
( y2
yˆ2 )2
( y3
yˆ3 )2
1 3
(Y
Xˆ )(Y
Xˆ )
1 3
解:样本的似然函数为
L(a,b, 2)
1
2
2
3
exp
1
2 2
[(y1 a)2
( y2
2a b)2
( y3
a 2b)2 ]
L(aˆ,bˆ, 2)
1
2
2
3
exp
1
2
2
[(
y1
aˆ)2
( y2
2aˆ bˆ)2
( y3 aˆ 2bˆ)2 ]
3
第四章 回归分析
令
ln
1
2
2
[(
y1
a0
)2
( y2
a0 )2
( y3 3a0 )2 ]
4
第四章 回归分析
令
L(a0 ,
a0
2)
L(a0 ,
2 )
2
2
2
[( y1
a0 )
(
y2
a0 )
3( y3
3a0
)
0
可得 令
ln
aˆ0
1 11
L(aˆ0 , 2 )
2
( y1
y2 3y3)
3 1
2 2 2( 2 )2
2
2
1
2( 2 )2
(Y
C )(Y
C )
0
可得参数向量β和σ2的最大似然估计为:
ˆ ˆ
(CC)1CY
2 1 (Y Cˆ)(Y
n
Cˆ ).
12
第四章 回归分析
4-6 称观测向量Y和估计向量Y^的相关系数R为
全相关系数.即n
( yi y)(yˆi yˆ)
R
i 1
n
n
( yi y)2 ( yˆi yˆ)2
yˆ
1 n
n i 1
yˆi
1 n
1n
Yˆ
1 n
1n
HY
1 n
(
H1n
)Y
1 n
1n
Y
y.
(因1n C张成的空间,这里有H1n 1n )
(2) 因 n ( yi y)(yˆi yˆ) n ( yi yˆi yˆi y)(yˆi y)
i 1
i 1
n
n
( yi yˆi )(yˆi y) ( yˆi y)2
In
),
样本的似然函数为
L(
,
2)
(2
n
)2
(
)2
n 2
exp
1
2
2
(Y
C
)(Y
C
)
ln
L( ,
2)
ln(2
n
)2
ln(
2
)
n 2
1
2
2
(Y
C )(Y
C
)
ln(2
n
)2
ln(
2
)
n 2
1
2
2
(Y Y
2Y C
CC
)
11
第四章 回归分析
令
ln L
1
2
2
2(Y C)
2CC
0
ln
L
2
n
Y AY与Y (B A)Y相互独立;也就是
ˆ
2 0
ˆ
2与ˆ
2相互独立.
由第三章§3.1的结论4知(H0：a=b成立时)
Y (B A)Y
2
~
2 (1, ),因
1
2
(Za0 )(B
A)Za0
0
3(ˆ
2 0
ˆ
2
)
2
Y (B A)Y
2
~
2 (1)
9
第四章 回归分析
所以
ˆ 2 ˆ02 ˆ 2
YAY Y(B A)Y