对偏回归系数进行假设检验

合集下载

多元线性回归分析

注意：虽然模型要求因变量是连续数值变量，但对自变量的类型不限。若自变量是分类变量，特别是无序分类变量，要转化为亚变量才能分析。对于自变量是分类变量的情形，需要用广义线性回归模型分析。
二、多元线性回归分析的步骤
（一）估计各项参数，建立多元线性回归方程模型
（二）对整个模型进行假设检验，模型有意义的前提下，再分
SS回归 / m SS剩余 /( n m 1 )
检验统计量为 F ： F
SS回归为回归项的平方和，反映由于方程中 m 个自变量与因变量 Y
的线性关系而使因变量 Y 变异减小的部分；
SS回归 b1l1Y b2l2Y bmlmY bi liy
SS剩余表示剩余平方和，说明除自变量外，其它随机因素
方程组中： lij l ji ( X i X i )(X j X j ) X i X j [(X i )(X j )]/ n
liy ( X i X i )(Y Y ) X iY [(X i )(Y )]/ n
常数项 b0 Y b1 X1 b2 X 2 ... bm X m
自变量保持不变的条件下，自变量 X i 改变一个单位时因变量Y 的平均改变量。为随机误差，又称残差（residual），它表示 Y 的变化中不能由自变量 X i i 1,2,m 解释的部分。
y
ˆ b b X b X Y 0 1 1 2 2

回归系数的假设检验

（一）总体回归系数的估计与假设检验 1、总体回归系数的区间估计 bt/2,sb
sb
sy . x l xx
2 ( y y )
sy . x
n2
(y y )

2
l yy
l
2 xy
l xx
2、回归系数的假设检验
方差分析 t检验
回归系数的假设检验：方差分析法
表2 SAH患者血清和脑脊液IL-6(pg/ml)检测结果
患者号 1 2 3 4 5 6 7 8 9 10
血清IL-6 22.4 51.6 58.1 25.1 65.9 79.7 75.3 32.4 96.4 85.7
脑脊液IL-6 134.0 167.0 132.3 80.2 100.0 139.1 187.2 97.2 192.3 199.4
第十三章
某市1995年104名男童身高（cm）资料如下
117.3 120.6 119.5 116.1 116.0 117.3 118.8 128.0 125.7 113.8 124.9 119.6 121.5 126.1 124.0 125.3 113.6 123.1 116.7 111.2 116.7 123.3 121.9 125.0 126.4 124.6 123.6 127.6 122.7 132.4 124.3 129.9 120.3 125.1 125.9 125.6 118.7 123.6 120.5 126.6 129.3 124.2 128.5 125.7 117.0 123.2 118.9 119.1 126.4 113.6 127.8 121.7 124.7 126.5 115.4 124.7 126.6 122.0 130.4 124.9 121.9 118.0 115.5 119.2 130.2 128.3 125.9 110.5 115.0 120.4 121.7 121.3 122.8 120.1 120.1 127.6 125.8 117.0 114.0 118.2 124.8 122.1 124.1 118.2 123.0 122.8 125.1 120.1 126.1 120.9 114.6 123.9 123.4 126.6 124.7 122.4 115.2 119.4 127.0 135.3 119.9 121.7 122.5 127.7

regression_multi-2013

3、标准偏回归系数
多元线性回归方程中，各自变量的单位不同，其偏回归系数之间是无法直接比较的。需要对偏回归系数标准化，以消除量纲的影响。标准化的偏回归系数称为标准偏回归系数（standard partial regression coefficient）。标准偏回归系数 b j 与偏回归系数之间的关系为： b j = b j
'
'
l jj l yy
=b j
sj sy
Sj，Sy 分别为 Xj和Y 的标准差
标准偏回归系数绝对值的大小，可用以衡量自变量对因变量贡献的大小，即说明各自变量在多元回归方程中的重要性。 b j 越大，Xj 对 Y 的贡献越大
'
REG过程MODEL语句中的常用选择项
STB 打印标准回归系数。 P 打印y的估计值和残差。 COLLIN 给出条件指数及特征值方差分解过程。 TOL 给出参数估计的容忍度。 VIF 给出方差膨胀因子，为容忍度的倒数。 SELECTION= FORWARD（前进法） BACKWARD（后退法） STEPWISE（逐步法）
偏回归系数
偏回归系数标准误
标准偏回归系数
对血糖影响大小的顺序依次为糖化血红蛋白(X4)、胰岛素(X3)、甘油三酯(X2)与总胆固醇 (X1)。胰岛素为负向影响。
多重线性回归
Multivariate linear regression

第04章多元回归分析1

26
安徽大学经济学院
计量经济学讲义
4.8 检验联合假设：B2＝B3＝0或R2＝0
现考虑零假设： H0：B2＝B3＝0 (4.28) 对式(4.28)的假设进行检验的思路：既然B2、B3各自均显著不为0，那么它们也一定联合或集体显著不为0，即拒绝 (4.28)这个零假设。在多元回归模型中，一个或多个解释变量各自对因变量没有影响，但联合却有影响。这表示前面讨论的t检验虽然对于检验单个回归系数的统计检验式有效的，但对于联合整体假设却是无效的。
计量经济学讲义
4.2 多元线性回归模型的若干假定
假定3 给定X，扰动误差项u的数学期望或均值为0，即E（u）＝ 0。 Y
＋u ＋u －u －u －u
＋u
0
X
7
安徽大学经济学院
计量经济学讲义
4.2 多元线性回归模型的若干假定
假定4 误差扰动项u的方差为常数，即Var（u）＝σ2，称之为同方差(homoscedasticity) Y
27
安徽大学经济学院
计量经济学讲义
4.8 检验联合假设：B2＝B3＝0或R2＝0
联合假设检验的方差分析（ANOVA）： TSS = ESS + RSS
∑
y t2 = b2 ∑ y t x 2 t + b3 ∑ y t x3t + ∑ et2

计量经济学题库(判断题简答题计算题)

2Baidu Nhomakorabea
52. 53. 虚拟变量是用来表示数量差异的变量（） 54. 杜宾沃森检验在某些期数据缺失的情况下特别有用。 55. 假设检验可以告诉我们只有那个样本数据与我们的猜想一致或者相容。 56. 杜宾沃森（Durbin-Watson）检验是用来检验一阶自相关的。( ) 57. 改变解释变量或者是被解释变量的单位，对 t 统计量和 R2 没有影响 58. 当存在异方差时，最小二乘估计是有偏的。( ) 59. 最小二乘估计量是确定的数。 60. 在存在自相关时，最小二乘估计是有偏的。( ) 61. 模型的拟合优度不是判断模型质量的唯一标准，为了追求模型的经济意义，可以牺牲一点拟合优度。（） 62. 在 Y 对 X 的标准线性回归中，回归线和 X 的值的水平距离被极小化了。 63. 样本平均值点在拟合回归线上 64. 模型中没有常数项时，对于 m 个类别的定性变量可以引入 m 个虚拟变量。（） 65. 滞后变量的长期效应等于滞后变量的各期滞后值的系数之和。( ) 66.Goldfeld−Quandt 检验在检验自相关时很有用 67. 正自相关在经济时序数据中是不常见的。 68. 如果存在异方差，通常用的 t 检验和 F 检验是无效的（） 69.OLS 法不适用于估计联立方程模型中的结构方程。（） 70. 联立方程中一个方程具有唯一的统计形式，则它是可识别的。( ) 71. 一个结构方程中包含的变量越多，则越有助于它的识别。( ) 72. 如果存在异方差通常用的 t检验和 F检验是无效的。 73. 如果某一辅助回归的 R2 较高，则表明一定存在高度共线性。 74. 异方差性使得模型的最小二乘估计是有偏的。( ) 75. 模型为 Yi = α0 + α1 Xi + α2 Di + ui ，其中 D 在选举年等于 1，否则等于 0。如果 α2 显著地区别于零，那么选举年和其他年份比有显著的差异。 76. 异方差性在使用时间序列数据的模型中最普遍 77. 模型的拟合优度不是判断模型质量的唯一标准，为了追求模型的经济意义，可以牺牲一点拟合优度。 78. 存在异方差时，假设检验是不可靠的 79. 如果给定解释变量值，根据模型就可以得到被解释变量的预测值。 80. 复相关系数 R2 可以取任意非负实数。( ) 81. 最小二乘估计的残差平方和小于任何其他线性估计的残差平方和。( ) 82. 求参数的区间估计就是要找一个未知参数肯定落入的区间。（） 83. 尽管有完全的多重共线性，OLS 估计量仍然是 BLUE。（） ¯ −ˆ ¯ ，其中，上加一杠表示样本平均值。 84. 截距项的估计量是 a ˆ=Y bX

6、回归模型的假设检验(附)

第6章回归模型的假设检验

1，区间估计—基本概念

假设对消费函数回u Y C ++=21ββ归分析之后，得出边际消费倾向2β的估计值为0.509。这是对未知的总体MPC 2β的一个单一的点估计。这个点估计可不可靠？虽然在重复

抽样中估计值的均值可能会等于真值))ˆ((2

2ββ=E ，但由于抽样波动，单一估计值很可能不同于真值。在统计学中，一个点估计量的可靠性有它的标准误差来衡量。因此，我们不能完全依赖一个点估计值，而是围绕点估计量构造一个区间。比方说，在点估计量的两旁各划出宽为2或3个标准误差的一个区间，使得它有95%的概率包含着真实的参数值。这就是取件估计的粗略概念。

假定我们想知道宽竟，比方说，2ˆβ离2β有多“近”。为了这个目的，试求两个正数δ和a ,10<<a ，使得随机区间)ˆ,ˆ(22δβδβ+-包含2

β的概率为a -1。 a -=+≤≤-1)ˆˆPr(2

22δββδβ （1）如果存在这个区间，就称之为置信区间，)1(a -称置信系数或置信度，a 称为显著水平。置信区间的端点称临界值。上限和下限。 0.05，0.01。

比方说05.0=a ，（1）式就可读为：试中的区间包含真实的2β的概率为95%。 2，回归系数的置信区间

一元回归时，在i u 的正态性假定下，OLS 估计量21ˆ,ˆββ本身就是正态分布的，其均值和方差已随之列出。以2

ˆβ为例 2

22ˆβββS Z -=

--（2） 2

ˆβ的方差∑-=2

)

(X X σ

这是一个标准化正态变量。因此，如果知道真实的总体方差2

回归分析检验

回归方程的效果的检验

1.方程显著性检验(F 检验)

F 检验是以方差分析为基础,对回归总体线性关系是否显著的一种假设检验,是解释模型中被解释变量与所有解释变量之间的线性关系在总体上是否显著的方法

利用F 统计量进行总体线性显著性检验的步骤如下:

(1)提出关于P 个总体参数的假设

H0:b0=b1=b2=…=bp=0

(2)构造统计量

(3)检验给定显著性水平α,查F 分布表

若F>F α,拒绝H0,表明回归总体有显著性关系.

若F<F α,接受原假设,表明不存在线性关系

2.参数显著性检验

参数显著性检验,是对每个解释变量进行检验.

如果解释变量对被解释变量的影响不显著,应从模型中删除,如果解释变量对被解释变量的影响显著,应保留在模型中.

利用t 统计量进行参数显著性检验的步骤如下:

(1)对总体参数提出假设:H0:bi=0

(2)构造统计量:

(3)检验对给定α,若︱t ︱>t α /2,说明拒绝原假设；若︱t ︱<t α /2,则接受原假设.

如果一次t 检验后,模型中存在多个不重要变量,一般是将t 值最小的变量删除掉,再重是(X`X)-1主对角线上第i+1个元素

3、复相关系数和偏相关系数

复相关系数R 是由ESS 和TSS 构造的统计量，用来表示回归方程对原有数据拟合程度的好坏，衡量作为一个整体的x1,x2,…,xp 与y 的线性关系的大小。

回归方程的拟合优度检验就是要检验样本数据点聚集在回归直线周围的密集程度，从而评价回归方程对样本数据的代表程度。由判定系数R2来实现。

实际中，随着自变量个数的不断增加，必然会使得R2不断变化，于是出现的问题是，R2变化是由于数学习性决定的，还是确实是由于引入了好的变量进入方程而造成的。因此在作拟合优度检验的判定时，一般采用调整的R2，以消除自变量的个数以及样本量的大小

第五章-回归模型的假设检验

就上述（1）的情形中自由度为（分子，分母）=（k 1，n1 n2 2k 2），（2）的情形中自由度为（n2，n1 k 1）进行F检验。
如果计算出的F值大于F分布表中的判定值，则放弃“前期的回归系数与后
期的回归系数完全相等”的假设，说明出现了结构变化。相反，如果计算
出的F值小于F分布表中的判定值，则不放弃“前期的回归系数与后期的回
s2ˆ
s2
1 n
X
2 1
S22
X
S2
2 11
X1
X
2 S12
S11S22 S122
=0.079735
1 10
+
362
24+42 484
484 24
2 36 572
4
57
0.221744
s2 ˆ1
s2
S22 S11S22 S122
0.079735 24 8367
0.000228712
s2 ˆ2
s2
S11 S11S22
S122
0.079735
484 8367
0.00461237
步骤三：计算回归系数的标准误差
sˆ = s2ˆ = 0.221744 =0.470897
sˆ1 =
s2 ˆ1
=
0.000228712 =0.015123

第15-17章多因素分析(统计学)

结果有显著性表明至少有一个自变量与应变量之间存在线性回归关系。
H0：β1=β2=…=βm= 0 H1：β1、β2、…βm不等于0或不全等于0
.
13
ANOVbA
Model
Sum of SquaresdfMean SquareF Sig.
1
R eg re ssion1 33 .71 1
4 33.428 8.278 .000a
.
3
第十五章多元线性回归
(multiple linear regressoin) P.261
Y，X——直线回归 Y，X1，X2，…Xm——多元回归（多重回归）
例：欲研究血压受年龄、性别、体重、性格、职业（体力劳动或脑力劳动）、饮食、吸烟、血脂水平等因素的影响。
.
4
一、多元回归模型
多元回归方程的一般形式
Sig. .047 .701 .099 .036 .016
Y ˆ 5 .9 0 4 .1X 3 1 4 0 .3 2 X 2 5 0 .2 1 X 3 7 0 .6 1 X 4 38
.
12
2、回归方程的假设检验——F检验
结果无显著性 1）表明所观察的自变量与应变量不存在线性回归关系； 2）也可能由于样本例数过少；
减一个单位对Y 的效应（Y 增减 b 个单位）。
.
6
适用条件：

多重线性回归

H1 ：各总体偏回归系数βj不全为0。
回归方程的方差分析表
变异来源总回归剩余 SS lyy U Q 自由度 n-1 m n-m-1 U/m Q/(n-m-1) MS F
n m 1 U m Q
例1资料方差分析表
变异来源总 SS
5.63362 3.07573 2.55789
自由度
28 2 26
MS
F
P
回归
剩余
1.53787 0.09838
15.63
<0.0001
3.偏回归系数的假设检验与可信区间
偏回归系数的t 检验：
H 0 j 0, H1 j 0

t bj
bj S bj
n-m-1个自由度
标准偏回归系数与自变量的贡献
偏回归系数不能直接比较，即不能根据 b1 和 b2 的大小来判断变量 x1 , x2 对 y 的贡献大小。应将它们标准化，得到没有度量衡单位的标准偏回归系数再进行比较。
yi 的变异分解为两个部分：
ˆi ； (1) 由自变量解释的部分，即 yi 的估计值 y
(2) 不能由自变量解释的部分，即残差 ei
回归方程的各部分也可用矩阵表示为：
y1 y2 Y yn n1
b0 b1 B＝ bm m 11

第15-17章多因素分析(统计学)

2
.773b
Std. Error of the R SquarAedjusted R SquareEstimate
.601
.528
2.0095
.598
.546
1.9721
a.Predictors: (Constant), 糖化血红蛋白 x4, 甘油三脂 b.Predictors: (Constant), 糖化血红蛋白 x4, 甘油三脂
a.Dependent Variable: 血糖y
Sig. .047 .701 .099 .036 .016
将总胆固醇(X1) 剔除。注意：通常每次只剔除关系最弱的一个因素。
对于同一资料，不同自变量的t值可以相互比较，t的绝对
值越大，或P越小，说明该自变量对Y所起的作用越大。
.
15
重新建立不包含提出因素的回归方程
结果有显著性表明至少有一个自变量与应变量之间存在线性回归关系。
H0：β1=β2=…=βm= 0 H1：β1、β2、…βm不等于0或不全等于0
.
13
ANOVbA
Model
Sum of SquaresdfMean SquareF Sig.
1
R eg re ssion1 33 .71 1
4 33.428 8.278 .000a
甘油三脂x2

回归系数的假设检验

式中即的标准误，可按下式计算：
式中SY.X为剩余标准差。当时，，此时，可信区间的范围最窄，预测精度相对较高。
试计算当X0=50岁时，的95%可信区间。
已知， , sy.x=1.175
=2.661+0.141 50 = 9.71
t0.05(18)=2.101
当X0=50时，的95%可信区间为
（2）、t检验
基本思想与样本均数与总体均数比较的t检验类似，而检验统计量t值的计算按下式完成：
df = n-2
本例n =20，SS剩=1.3795 , lxx=3216.95, b=0.141
按df = 18，查t界值表，t0.05(18)=2.101, t0.01(18)=2.878，按=0.05水准，拒绝H0，接受H1，结论同上。
试计算当X0=50时，个体Y值的95%容许区间。
已知 =9.71，t0.05(18)=2.101 ，SY.X=1.175
故当X0=50岁时，个体Y值的95%容许区间为：
（9.71-2.101 1.2230, 9.71+2.101 1.2230）=(7.14, 12.28)
即当年龄为50岁时，总体中有95%的个体Y值波动在(7.14，12.28) 的范围内。
第三段，是应变量Y的均数。
依变量y的总变异由y与x间存在直线关系所引起的变异与偏差两部分构成，即

医学统计学多因素分析

２、R——复相关系数（multiple correlation coefficient）
表示m个自变量共同对应变量线性相关的密切程
度。0≤R≤1。即Y与的Yˆ 相关系数。
19
３、校正确定系数（adjusted R-square，R2a ） P.268
越大越优。 R2a不会随无意义的自变量增加而增大。是衡量方程优劣的常用指标。校正确定系数的计算：
SS回 133.711 133.098 121.748 113.647 105.917
SS残 88.841 89.454 100.804 108.905 116.635
SS回（X1）=133.711－133.098=0.613 SS回（X2）= 133.711 －121.748=11.963 SS回（X3）=133.711－113.647=20.064 SS回（X4）= 133.711 －105.917=27.794
Y 0 1 X1 2 X 2 m X m e
β0为回归方程的常数项（constant)，表示各自变量均为0时y的平均值；
m为自变量的个数； β1、β2、βm为偏回归系数（Partial regression coefficient）
意义：如β1 表示在X2、X3 …… Xm固定条件下，X1 每增减一个单位对Y 的效应（Y 增减β个单位）。 e为去除m个自变量对Y影响后的随机误差，称残差（residual)。

名校计量经济学试题与参考答案

计量经济学试题1

一名词解释（每题5分，共10分） 1. 经典线性回归模型 2. 加权最小二乘法（WLS ）二填空（每空格1分，共10分）

1．经典线性回归模型Y i = B 0 + B 1X i + µi 的最小二乘估计量b 1满足E ( b 1 ) = B 1，这表示估计量b 1具备性。

2．广义差分法适用于估计存在问题的经济计量模型。

3．在区间预测中，在其它条件不变的情况下，预测的置信概率越高，预测的精度越。

4．普通最小二乘法估计回归参数的基本准则是使达到最小。

5．以X 为解释变量，Y 为被解释变量，将X 、Y 的观测值分别取对数，如果这些对数值描成的散点图近似形成为一条直线，则适宜配合模型。

6．当杜宾-瓦尔森统计量 d = 4时，ρ

ˆ＝，说明。

7．对于模型i i i X Y μββ++=10，为了考虑“地区”因素（北方、南方两种状态）引入2个虚拟变量，则会产生现象。

8. 半对数模型LnY i = B 0 + B 1X i + µI 又称为模型。

9.经典线性回归模型Y i = B 0 + B 1X i + µi 的最小二乘估计量b 0、b 1的关系可用数学式子表示为。

三单项选择题（每个1分，共20分） 1

．

截

面

数

据

是

指

--------------------------------------------------------------（）

A ．同一时点上不同统计单位相同统计指标组成的数据。

B ．同一时点上相同统计单位相同统计指标组成的数据。

C ．同一时点上相同统计单位不同统计指标组成的数据。

多元线性回归分析

方程组中： lij l ji ( X i X i )( X j X j ) X i X j [(X i )(X j )] / n
liy ( X i X i )(Y Y ) X iY [(X i )(Y )] / n
常数项 b0 Y b1 X 1 b2 X 2 ... bm X m
3、标准偏回归系数多元线性回归方程中，各自变量的单位不同，其偏回归系数之间是无法直接比较的。需要对偏回归系数标准化，以消除量纲的影响。标准化的偏回归系数称为标准偏回归系数（standard partial regression coefficient）。标准偏回归系数 bi 与
注意
'
偏回归系数之间的关系为： b = bi
t Value t值 2.10 0.39 1.72 -2.23 2.62
Pr > |t| P值 0.0473 0.7006 0.0993 0.0363 0.0155
指定REG过程进行多元线性回归分析，拟合y 与四个自变量间的多元线性回归方程
整个方程有统计学意义
各自变量的参数估计
对偏回归系数的假设检验
(1) Y 与 X 1 , X 2 , X m 之间具有线性关系； (2)各观测值 Y j j 1,2, , n 之间相互独立； (3)残差服从均数为 0、方差为 2 的正态分布，它等价于对于任意一组自变量 X 1 , X 2 , X m ，应变量 Y 均服从正态分布且方差齐。

回归系数的区间估计和假设检验

SE ( ˆ
2
)
2 2 ~ N (0,1)
2
2
x2 i
2未知时，可用 2的无偏估计量ˆ 2代替。即
用SEˆ（ˆ1）代替SE（ˆ1）；用SEˆ（ˆ
2）代替SE（ˆ
）
2
则
t
ˆ
2
2
SEˆ (ˆ )
ˆ 2
2
ˆ 2
~ t(n 2)
2
x2 i
t
ˆ1 1 SEˆ (ˆ1 )
ˆ1 1 ~ t(n 2)
2)
3）对给定的，查 t 分布表确定临界值 t
2
4）根据样本数据计算 t
5）若 t t 2
接受，H认为X 对Y没有显著影响； 0
反之，拒绝 H ，认为X对Y有显著影响。 0
在做结论时，也可以用P值检验法：
当p(| t | t0 ) ，拒绝原假设，否则接受原假设。
（二）关于1的假设检验
ˆ1 Z 2SEˆ (ˆ1)
3、总体服从正态分布（ 2未知）
ˆ1 t 2(n 2)SEˆ (ˆ1)
三、参数的假设检验
（一）关于的假设 2 1、未知， 2检验的步骤如下：
1）提出原（零）假设和备择假设
H : 0
0
2
2）若成立 H0，则
H : 0
1
2
t
ˆ2 SEˆ (ˆ2 )

对偏回归系数进行假设检验

多元线性回归分析

回归系数的假设检验

regression_multi-2013

第04章 多元回归分析1

计量经济学题库(判断题简答题计算题)

6、回归模型的假设检验(附)

回归分析检验

第五章-回归模型的假设检验

第15-17章 多因素分析(统计学)

多重线性回归

第15-17章 多因素分析(统计学)

回归系数的假设检验

医学统计学多因素分析

名校计量经济学试题与参考答案

多元线性回归分析

回归系数的区间估计和假设检验

第04章多元回归分析1

第15-17章多因素分析(统计学)

第15-17章多因素分析(统计学)