应用多元统计分析课后习题答案高惠璇第四章部分习题解答

4
第四章 回归分析
令
L(a0 , 2 ) 2 2 L(a0 , ) 2 [( y1 a0 ) ( y2 a0 ) 3( y3 3a0 ) 0 a0 2
可得
令 ln L(a ˆ0 , 2 ) 3 1 2 ˆ [( y a ) ] 0 1 0 2 2 2 2 2 2( ) drf 可得 ˆ 2 1 2 ˆ0 ) 2 ( y2 a ˆ0 ) 2 ( y3 3a ˆ0 ) 2 ˆ0 ( y1 a
1
经验证:① B-A是对称幂等阵; ② rank(B-A)=tr(B-A)=2-1=1;
25 80 35 1 256 112 330 49
8
第四章 回归分析
③ A(B-A)=O3×3 .由第三章§3.1的结论6知
Y AY与Y ( B A)Y相互独立;也就是 ˆ ˆ 与 ˆ 相互独立.
ˆi y ˆ ) ( yi y )( y i 1
n n n i 1 i 1 2
R
2
2 2 ˆ ˆ ( y y ) ( y y ) i i

2 ˆi y ) ( y i 1
n n n i 1 i 1
2
2 2 ˆ ˆ ( y y ) ( y y ) i i
(因 1n C张成的空间 , 这里有H1n 1n )
n n i 1 i 1
(2) 因 ( yi y )( y ˆi y ˆ ) ( yi y ˆi y ˆ i y )( y ˆi y )
ˆ i )( y ˆi y ) ( y ˆi y )2 ( yi y
可得参数向量β和σ2的最大似然估计为:
ˆ (C C ) 1 C Y . 2 1 ˆ )(Y C ˆ) ˆ ( Y C n
12
பைடு நூலகம்
^ 4-6 称观测向量Y和估计向量Y 的相关系数R为 全相关系数.即n
R ˆ y ˆ) ( y y )( y
应用多元统计分析
第四章部分习题解答
第四章 回归分析
4-1 设
y1 a 1 , 1 2 y2 2a b 2 , 2 ~ N 3 (0, I 3 ), y a 2 b , 3 3 3
(1) 试求参数a,b
其中β＝(C'C)-1C'Y. 证明: Q( ) (Y C )(Y C ) ˆ C ˆ C )(Y C ˆ C ˆ C ) (Y C ˆ )(Y C ˆ ) ( ˆ )C C ( ˆ ) (Y C
解:用矩阵表示以上模型:
y1 1 0 1 def 2 1 a X Y y 2 b 2 1 2 y 3 3
1
则
y1 1 0 ˆ a 1 1 2 1 1 2 1 ˆ ˆ ( X X ) X Y 0 1 2 2 1 0 1 2 y2 y b 1 2 3
,
15
第四章 回归分析 n 2 所以 ˆ ( yi y ) U 2
R
( y y)
i 1 i
i 1 n

2
l yy
.
(3) 残差平方和Q为
ˆ) l U l l R2 Q( yy yy yy (1 R )l yy (1 R ) ( yi y ) .
所以
Y AY 2 ~ F ( 1 , 1 ) 2 ˆ0 ˆ Y ( B A)Y
2
3 2
ˆ
2 ˆ V 因 V , V 2 , 故 或V , ˆ0 1V 1
否定域为
{ } {V V } { f }
i 1 i 1
14
n
n
第四章 回归分析
上式第一项为:
ˆ ˆ ˆ ˆ ( y y )( y y ) ( Y Y ) ( Y y1n ) i i i
i 1 n
ˆ )(C ˆ y1 ) Y C ˆ ˆ C C ˆ y (Y Y ˆ )1 (Y C n n ˆ (C Y )C ˆ 0 0 Y C
2 2 2 i 1
16
n
第四章 回归分析
4-7 在多对多的多元线性回归模型中，给定
Yn×p,Xn×m,且rank(X)=m,C=(1n|X).则
Q( ) (Y C )(Y C ) ˆ )(Y C ˆ ) ( ˆ )C C ( ˆ ) (Y C

2
ˆ ) ] 0 [( y1 a
2

当H0：a=b=a0成立时,样本的似然函数为
L ( a0 , )
2
3 exp[ ]. 2

1 2 2 2 exp [( y1 a0 ) ( y2 a0 ) ( y3 3a0 ) ] 3 2 2 2 2 1


6
第四章 回归分析
因 Y ~ N ( X , 2 I ), A为对称幂等阵, 3 3
Y AY


2
~ (1, ),因
2
1
Y AY

2
( X ) AX 0
2
~ 2 (1)
当H0：a=b=a0成立时,回归模型为 y1 1 1 def 1 a Za , 且Y ~ N ( Za , 2 I ) Y y 0 3 0 3 2 3 0 2 y3 3 1 2 ˆ 0 ( y1 a ˆ 0 ) 2 ( y2 a ˆ0 ) 2 ( y3 3a ˆ0 ) 2 3
2
第四章 回归分析
1 ( y1 2 y2 y3 ) 1 y1 2 y2 y3 6 6 0 0 5 y2 2 y3 1 ( y 2 y ) 2 3 5 (2) 试导出检验H0：a=b的似然比统计量，并指出当假 设成立时，这个统计量的分布是什么?
2 0 2 2
由第三章§3.1的结论4知(H0：a=b成立时)
Y ( B A)Y
2
2 ˆ0 ˆ 2 ) Y ( B A)Y 3( 2 ~ (1) 2 2
2
~ (1, ),因
2
1
( Za0 )( B A) Za0 0
9
第四章 回归分析

3
第四章 回归分析
令 ln L 3 2 2
1 2( )
2 2

2
1 ˆ) 2 ( y a ˆ) 2 可得 ˆ ( y1 a ˆ ) 2 ( y 2 2a ˆ b ˆ 2 b 3 3 似然比统计量的分母为
2 2 ˆ ˆ , b, ˆ ) (2 ) ( ˆ ) L( a 3 2 3 2
3 似然比统计量的分子为
2
1 ˆ0 ( y1 y2 3 y3 ) a 11
ˆ0 , ˆ 0 ) (2 ) ( ˆ0 ) L( a

3 2
3 2 2
3 exp[ ]. 2
5
第四章 回归分析
似然比统计量为
2
ˆ0 , ˆ 0 ) ( L( a ˆ0 ) 2 ˆ, ˆ, b ˆ ) L( a
解:样本的似然函数为
L(a, b, 2 )

1 2 2 2 exp [( y a ) ( y 2 a b ) ( y a 2 b ) ] 1 2 3 3 2 2 2 2 1

ˆ, 2 ) ˆ, b L(a

1 2 ˆ) 2 ( y a ˆ) 2 ] ˆ ˆ ˆ exp [( y a ) ( y 2 a b 2 b 2 3 3 2 2 1 2 2 1
10
第四章 回归分析
4-2 在多元线性回归模型(4.1.3)中(p=1)，试求出参数 向量β和σ2的最大似然估计.
解:模型(4.1.3)为 Y C 样本的似然函数为
~ N (0, 2 I ), n n
n 2
1 L( , ) (2 ) ( ) exp 2 (Y C )(Y C ) 2 n n 1 2 2 2 2 ln L( , ) ln(2 ) ln( ) 2 (Y C )(Y C ) 2 n n 1 2 2 2 ln(2 ) ln( ) 2 (Y Y 2Y C C C ) 2
ˆ ) O, 因C(Y C
故交叉项=O.
17
^
第四章 回归分析


7
第四章 回归分析
1 1 1 ˆ ˆ (Y Za0 ) (Y Za0 ) Y ( I 3 Z ( Z Z ) Z )Y 3 3 1 Y BY 3
2 0 2
1 考虑 ˆ ˆ Y ( B A)Y 3 1
B A X (X X ) X Z (Z Z ) Z
i 1 i i n 2 2 ˆ ˆ ( y y ) ( y y ) i i i 1 i 1 n
第四章 回归分析
1 n ˆ y ˆ i ), (其中y n i 1
ˆ y; (1) y 试证明： ˆi y )2 ( 2) R 2 ( y
i 1 n 2 ( y y ) ; i i 1 n n
3 2 2
ˆ ) (
3 2 2
3 2 ˆ 2 V 2 ˆ0
3 2
以下来讨论与V等价的统计量分布: 1 2 ˆ) 2 ( y a ˆ) 2 ˆ ( y1 a ˆ ) 2 ( y 2 2a ˆ b ˆ 2 b 3
3
ˆ） (1 R 2 ) ( y y ) 2 . （ 3 ）残差平方和Q（ i
i 1
13
第四章 回归分析
ˆ C(CC)1CY HY ˆ C 证明:(1)估计向量为 Y 1 n 1 ˆ 1 1 ˆ y ˆ i 1n Y 1n HY ( H 1n )Y y n i 1 n n n 1 1n Y y. n
2 2
n 2
11
第四章 回归分析
令
1 ln L 2 ( Y C ) 2 C C 0 2 2 ln L n 1 (Y C )(Y C ) 0 2 2 2 2 2 2( )

1 2 2 2 ˆ ˆ ˆ ( y1 y1 ) ( y2 y2 ) ( y3 y3 ) 3 1 1 1 ˆ ˆ (Y X ) (Y X ) Y ( I 3 X ( X X ) X )Y 3 3 1 Y AY , 且rank ( A) tr ( A) 3 2 1 3