应用回归分析-第2章课后习题参考答案
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
因为Q ( , )=min Q ( , )
而Q ( , ) 非负且在 上可导,当Q取得最小值时，有
即-2∑( - - )=0 -2∑( - - ) =0
又∵ = -( + )= - - ∴∑ =0，∑ =0
（即残差的期望为0，残差以变量x的加权平均值为零）
2.4 解：参数β0，β1的最小二乘估计与最大似然估计在εi~N(0,2 ) i=1,2，……n的条件下等价。
F检验检验是否存在显著的线性关系，相关系数的
显著性检验是判断回归直线与回归模型拟合的优劣，只有二者结合起来，才可以更好的回归结果的好坏。
2.12 如果把自变量观测值都乘以2，回归参数的最小二乘法估计 和 会发生什么变化？如果把自变量观测值都加上2，回归参数的最小二乘估计 和 会发生什么变化？
解:
解法（一）：我们知道当 ， 时，用最小二乘法估计的 和 分别为 当 时
所以有
以上表达式说明r ²与F 等价，但我们要分别引入这两个统计量，而不是只引入其中一个。理由如下：
r ²与F，n都有关，且当n较小时，r较大，尤其当n趋向于2时，|r|趋向于1，说明x与y的相关程度很高；但当n趋向于2或等于2时，可能回归方程并不能通过F的显著性检验，即可能x与y都不存在显著的线性关系。所以，仅凭r较大并不能断定x与y之间有密切的相关关系，只有当样本量n较大时才可以用样本相关系数r判定两变量间的相关程度的强弱。
（2）x与y大致在一条直线上，所以x与y大致呈线性关系。
（3）得到计算表：
X
Y
1
10
4
100
20
6
（-14）2
（-4）2
2
10
1
100
10
13
（-7）2
（3）2
3
20
0
0
0
20
0
0
4
20
1
0
0
27
72
72
5
40
4
400
40Байду номын сангаас
34
142
（-6）2
和15
100
和Lxx=10
Lyy=600
和Lxy=70
和100
解：这一结论不成立。因为相关系数r表示x与 线性关系的密切程度，而它接近1的程度与数据组数有关。n越小，r越接近1。n=2时，|r|=1。因此仅凭相关系数说明x与 有密切关系是不正确的。只有在样本量较大时，用相关系数r判定两变量之间的相关程度才可以信服，这样预测的误差才会较小。
2.14 解：（1）散点图为：
（9）做相关系数r的显著性检验：因为
所以，相关系数
因为查表知，n-2等于3时， %的值为0.959， %的值为0.878 。
所以， %<|r|< %，故x与y有显著的线性关系。
（10）残差表为：
2.1 一元线性回归模型有哪些基本假定？
答：1. 解释变量 是非随机变量，观测值 是常数。
2. 等方差及不相关的假定条件为
这个条件称为高斯-马尔柯夫(Gauss-Markov)条件，简称G-M条件。在此条件下，便可以得到关于回归系数的最小二乘估计及误差项方差 估计的一些重要性质，如回归系数的最小二乘估计是回归系数的最小方差线性无偏估计等。
2.7 证明平方和分解公式：SST=SSE+SSR
证明：
2.8 验证三种检验的关系，即验证：
（1） ；（2）
证明：（1）因为 ，所以
又因为 ，所以
故 得证。
（2）
2.9 验证（2.63）式：
证明：
其中：
注：各个因变量 是独立的随机变量
2.10 用第9题证明 是 的无偏估计量
证明：
注：
2.11验证
证明：
因为 ， 的最小二乘估计为 其中
E( )=E( )=E( )=E[ ]
=E[ ]
=E( )+E( )+E( )
其中
= =
由于 =0，所以 =
= =
= )= =0
又因为一元线性回归模型为
所以E( )=0所以
E( )+E( )+E(
=
=
所以 是 的无偏估计。
2.6 解：因为 ， ，
联立 式，得到 。
因为 ， ，所以
3. 正态分布的假定条件为
在此条件下便可得到关于回归系数的最小二乘估计及 估计的进一步结果，如它们分别是回归系数的最及 的最小方差无偏估计等，并且可以作回归的显著性检验及区间估计。
4. 通常为了便于数学上的处理，还要求 及样本容量的个数要多于解释变量的个数。
在整个回归分析中，线性回归的统计模型最为重要。一方面是因为线性回归的应用最广泛；另一方面是只有在回归模型为线性的假设下，才能的到比较深入和一般的结果；再就是有许多非线性的回归模型可以通过适当的转化变为线性回归问题进行处理。因此，线性回归模型的理论和应用是本书研究的重点。
1. 如何根据样本 求出 及方差 的估计;
2. 对回归方程及回归系数的种种假设进行检验；
3. 如何根据回归方程进行预测和控制，以及如何进行实际问题的结构分析。
2.2 考虑过原点的线性回归模型
误差 仍满足基本假定。求 的最小二乘估计。
答：
令 即
解得 即 的最小二乘估计为
2.3 证明：Q ( ， )= ∑( - - )2
证明：因为
所以
其最大似然函数为
已知使得Ln（L）最大的 ， 就是 ， 的最大似然估计值。
即使得下式最小 ：
因为 恰好就是最小二乘估计的目标函数相同。
所以，在 的条件下， 参数β0，β1的最小二乘估计与最大似然估计等价。
2.5.证明 是 的无偏估计。
证明：若要证明 是 的无偏估计，则只需证明E( )= 。
自由度
均方
F值
SSR
490
1
490
13.364
SSE
110
3
36.667
SST
600
4
查表知，F0.05(1,3)=10.13，F值>F0.05(1,3)，故拒绝原假设，说明回归方程显著。
（8）做回归系数β1的显著性检验
计算t统计量：
查表知，，所以，t>t0.05/2(3)，所以接受原假设，说明x和Y有显著的线性关系。
SSR=490
SSE=110
均3
均20
均20
所以回归方程为：
（4） =
所以，
（5）因为 ， 的置信区间为 ；
同理，因为 ，所以， 的置信区间为 。
查表知，
所以， 的置信区间为（-21.21,19.21）， 的置信区间为（0.91,13.09）。
（6）决定系数
（7）计算得出，方差分析表如下：
方差来源
平方和
有 将 带入 得到
当 时
有
将 带入 得到·
解法（二）：
当 ， 时，有
当 时
当 ， ，
由最小二乘法可知，离差平方和 时，其估计值应当有 。
即回归参数的最小二乘估计 和 在自变量观测值变化时不会变。
2.13 如果回归方程 相应的相关系数r很大，则用它预测时，预测误差一定较小。这一结论能成立吗？对你的回答说明理由。
而Q ( , ) 非负且在 上可导,当Q取得最小值时，有
即-2∑( - - )=0 -2∑( - - ) =0
又∵ = -( + )= - - ∴∑ =0，∑ =0
（即残差的期望为0，残差以变量x的加权平均值为零）
2.4 解：参数β0，β1的最小二乘估计与最大似然估计在εi~N(0,2 ) i=1,2，……n的条件下等价。
F检验检验是否存在显著的线性关系，相关系数的
显著性检验是判断回归直线与回归模型拟合的优劣，只有二者结合起来，才可以更好的回归结果的好坏。
2.12 如果把自变量观测值都乘以2，回归参数的最小二乘法估计 和 会发生什么变化？如果把自变量观测值都加上2，回归参数的最小二乘估计 和 会发生什么变化？
解:
解法（一）：我们知道当 ， 时，用最小二乘法估计的 和 分别为 当 时
所以有
以上表达式说明r ²与F 等价，但我们要分别引入这两个统计量，而不是只引入其中一个。理由如下：
r ²与F，n都有关，且当n较小时，r较大，尤其当n趋向于2时，|r|趋向于1，说明x与y的相关程度很高；但当n趋向于2或等于2时，可能回归方程并不能通过F的显著性检验，即可能x与y都不存在显著的线性关系。所以，仅凭r较大并不能断定x与y之间有密切的相关关系，只有当样本量n较大时才可以用样本相关系数r判定两变量间的相关程度的强弱。
（2）x与y大致在一条直线上，所以x与y大致呈线性关系。
（3）得到计算表：
X
Y
1
10
4
100
20
6
（-14）2
（-4）2
2
10
1
100
10
13
（-7）2
（3）2
3
20
0
0
0
20
0
0
4
20
1
0
0
27
72
72
5
40
4
400
40Байду номын сангаас
34
142
（-6）2
和15
100
和Lxx=10
Lyy=600
和Lxy=70
和100
解：这一结论不成立。因为相关系数r表示x与 线性关系的密切程度，而它接近1的程度与数据组数有关。n越小，r越接近1。n=2时，|r|=1。因此仅凭相关系数说明x与 有密切关系是不正确的。只有在样本量较大时，用相关系数r判定两变量之间的相关程度才可以信服，这样预测的误差才会较小。
2.14 解：（1）散点图为：
（9）做相关系数r的显著性检验：因为
所以，相关系数
因为查表知，n-2等于3时， %的值为0.959， %的值为0.878 。
所以， %<|r|< %，故x与y有显著的线性关系。
（10）残差表为：
2.1 一元线性回归模型有哪些基本假定？
答：1. 解释变量 是非随机变量，观测值 是常数。
2. 等方差及不相关的假定条件为
这个条件称为高斯-马尔柯夫(Gauss-Markov)条件，简称G-M条件。在此条件下，便可以得到关于回归系数的最小二乘估计及误差项方差 估计的一些重要性质，如回归系数的最小二乘估计是回归系数的最小方差线性无偏估计等。
2.7 证明平方和分解公式：SST=SSE+SSR
证明：
2.8 验证三种检验的关系，即验证：
（1） ；（2）
证明：（1）因为 ，所以
又因为 ，所以
故 得证。
（2）
2.9 验证（2.63）式：
证明：
其中：
注：各个因变量 是独立的随机变量
2.10 用第9题证明 是 的无偏估计量
证明：
注：
2.11验证
证明：
因为 ， 的最小二乘估计为 其中
E( )=E( )=E( )=E[ ]
=E[ ]
=E( )+E( )+E( )
其中
= =
由于 =0，所以 =
= =
= )= =0
又因为一元线性回归模型为
所以E( )=0所以
E( )+E( )+E(
=
=
所以 是 的无偏估计。
2.6 解：因为 ， ，
联立 式，得到 。
因为 ， ，所以
3. 正态分布的假定条件为
在此条件下便可得到关于回归系数的最小二乘估计及 估计的进一步结果，如它们分别是回归系数的最及 的最小方差无偏估计等，并且可以作回归的显著性检验及区间估计。
4. 通常为了便于数学上的处理，还要求 及样本容量的个数要多于解释变量的个数。
在整个回归分析中，线性回归的统计模型最为重要。一方面是因为线性回归的应用最广泛；另一方面是只有在回归模型为线性的假设下，才能的到比较深入和一般的结果；再就是有许多非线性的回归模型可以通过适当的转化变为线性回归问题进行处理。因此，线性回归模型的理论和应用是本书研究的重点。
1. 如何根据样本 求出 及方差 的估计;
2. 对回归方程及回归系数的种种假设进行检验；
3. 如何根据回归方程进行预测和控制，以及如何进行实际问题的结构分析。
2.2 考虑过原点的线性回归模型
误差 仍满足基本假定。求 的最小二乘估计。
答：
令 即
解得 即 的最小二乘估计为
2.3 证明：Q ( ， )= ∑( - - )2
证明：因为
所以
其最大似然函数为
已知使得Ln（L）最大的 ， 就是 ， 的最大似然估计值。
即使得下式最小 ：
因为 恰好就是最小二乘估计的目标函数相同。
所以，在 的条件下， 参数β0，β1的最小二乘估计与最大似然估计等价。
2.5.证明 是 的无偏估计。
证明：若要证明 是 的无偏估计，则只需证明E( )= 。
自由度
均方
F值
SSR
490
1
490
13.364
SSE
110
3
36.667
SST
600
4
查表知，F0.05(1,3)=10.13，F值>F0.05(1,3)，故拒绝原假设，说明回归方程显著。
（8）做回归系数β1的显著性检验
计算t统计量：
查表知，，所以，t>t0.05/2(3)，所以接受原假设，说明x和Y有显著的线性关系。
SSR=490
SSE=110
均3
均20
均20
所以回归方程为：
（4） =
所以，
（5）因为 ， 的置信区间为 ；
同理，因为 ，所以， 的置信区间为 。
查表知，
所以， 的置信区间为（-21.21,19.21）， 的置信区间为（0.91,13.09）。
（6）决定系数
（7）计算得出，方差分析表如下：
方差来源
平方和
有 将 带入 得到
当 时
有
将 带入 得到·
解法（二）：
当 ， 时，有
当 时
当 ， ，
由最小二乘法可知，离差平方和 时，其估计值应当有 。
即回归参数的最小二乘估计 和 在自变量观测值变化时不会变。
2.13 如果回归方程 相应的相关系数r很大，则用它预测时，预测误差一定较小。这一结论能成立吗？对你的回答说明理由。