应用回归分析-第2章课后习题参考答案

第二章 一元线性回归分析

思考与练习参考答案

2.1 一元线性回归有哪些基本假定?

答： 假设1、解释变量X 是确定性变量，Y 是随机变量；

假设2、随机误差项ε具有零均值、同方差和不序列相关性： E(εi )=0 i=1,2, …,n Var (εi )=σ2 i=1,2, …,n Cov(εi, εj )=0 i≠j i,j= 1,2, …,n 假设3、随机误差项ε与解释变量X 之间不相关： Cov(X i , εi )=0 i=1,2, …,n

假设4、ε服从零均值、同方差、零协方差的正态分布 εi ~N(0, σ2 ) i=1,2, …,n 2.2 考虑过原点的线性回归模型 Y i =β1X i +εi i=1,2, …,n

误差εi （i=1,2, …,n ）仍满足基本假定。求β1的最小二乘估计 解： 得：

2.3 证明（2.27式），∑e i =0 ，∑e i X i =0 。

证明：∑∑+-=-=n

i

i i n

i X Y Y Y Q 1

21021

))ˆˆ(()ˆ(ββ

其中： 即： ∑e i =0 ，∑e i X i =0

2.4回归方程E （Y ）=β0+β1X 的参数β0，β1的最小二乘估计与最大似然估计在什么条件下等价?给

出证明。

答：由于εi ~N(0, σ2 ) i=1,2, …,n

所以Y i =β0 + β1X i + εi ~N （β0+β1X i , σ2 ) 最大似然函数：

使得Ln （L ）最大的0

ˆβ，1ˆβ就是β0，β1的最大似然估计值。 同时发现使得Ln （L ）最大就是使得下式最小，

上式恰好就是最小二乘估计的目标函数相同。值得注意的是：最大似然估计是在εi ~N (0, σ2 )

211

1

2)ˆ()ˆ(i n

i i n

i i

i e X Y Y Y Q β∑∑==-=-=01ˆˆˆˆi i

i i i

Y X e Y Y ββ=+=-0

1

00ˆˆQ

Q

β

β

∂∂==∂∂

的假设下求得，最小二乘估计则不要求分布假设。

所以在εi ~N(0, σ2 ) 的条件下， 参数β0，β1的最小二乘估计与最大似然估计等价。

2.5 证明0

ˆβ是β0的无偏估计。 证明：)1[)ˆ()ˆ(1

110∑∑==--=-=n

i i xx i n

i i Y L X X X Y n E X Y E E ββ

01010)()1

(])1([βεβεβ=--+=--+=∑∑==i xx i n

i i xx i n

i E L X X X n

L X X X n E 2.6 证明

证明：

2.7 证明平方和分解公式：SST=SSE+SSR 证明： 2.8 验证三种检验的关系，即验证：

（1）2

1)2(r r n t --=

；（2）22

2

1

ˆˆ)2/(1/t L n SSE SSR F xx ==-=σ

β 证明：（1）

（2）

2.9 验证（2.63）式：2

211σ)L )x x (n ()e (Var xx i i ---=

证明：

其中：2

22221111))(1()(1))(,()()1,())(ˆ,(),())(ˆ,(σσσββxx

i xx i n

i i xx

i

i i n

i i i i

i i i i L x x n L x x n y L x x y Cov x x y n y Cov x x y Cov y y Cov x x y y Cov -+=-+=--+=-+=-+∑∑==

2.10 用第9题证明2ˆ22

-=

∑n e

i

σ

是σ2的无偏估计量

证明：

2.11 验证决定系数与F 值之间的关系式 证明：

2.14 为了调查某广告对销售收入的影响，某商店记录了5个月的销售收入y （万元）和广告费用x （万元），数据见表2.6，要求用手工计算： 表2.6

())1()1()ˆ(2

2212

20xx n i i

L X n X X X n Var +=-+=∑=σσβ()()

∑∑==-+-=-=n i i

i i n i i Y Y Y Y Y Y SST 1212

]ˆ()ˆ[

（1） 画散点图（略）

（2） X 与Y 是否大致呈线性关系？ 答：从散点图看，X 与Y 大致呈线性关系。 （3） 用最小二乘法估计求出回归方程。

计算表

（4） 求回归标准误差

先求SSR （Q e ）见计算表。 所以

（5） 由于 查表可得 所以 的95%的区间估计为：（7—3.182*1.915，7+3.182*1.915），即（0.906,13.094）。 所以 的95%的区间估计为：（-1-3.182*6.351，-1+3.182*6.351），

即（-21.211, 19.211）。^0β的置信区间包含0，表示^

0β不显著。

（6） 计算x 和y 的决定系数

说明回归方程的拟合优度高。 （7） 对回归方程作方差分析

方差分析表

2

2

ˆˆˆˆ(,)i

i

i i t s t s ααββ

ββ-⨯+⨯182

.3)3()2(025.02/==-t n t α1ˆ

β0ˆ

β