应用回归分析第三章课后习题整理

=⎪⎪⎪⎪⎪⎭⎫ ⎝⎛yn y y 21

⎝

⎛111 12111xn x x 22212xn x x ⎪⎪⎪⎪⎪⎭⎫xnp p x p x

21 ⎪⎪⎪⎪⎪⎭⎫ ⎝⎛p βββ 10 +⎪

⎪⎪⎪

⎪⎭⎫ ⎝⎛n εεε 21即y=x β+ε

基本假定

（1）解释变量x1,x2...,xp 是确定性变量，不是随机变量，且要求rank(X)=p+1

（2)随机误差项具有零均值和等方差，即高斯马尔柯夫条件

n

E ,2,1,0)(==τετ

⎩

⎨⎧=0)cov(2,σεεγτγτγ

τ≠=n 2,1,=γτ

（3）对于多元线性回归的正态分布假定条件的矩阵模型为 ε~N （0，n I 2σ） 随即向量y~N(X n I 2,σβ)

当(1

)-X X T

存在时，回归参数的最小二乘估计为Y X X X T T 1)(-∧

=β，

要求出回归参数∧

β，即要求X X T 是一个非奇异矩阵，0≠X X T ，所以可逆矩阵X X T 为p+1阶的满秩矩阵，又根据两个矩阵乘积的秩不大于每一因子的秩rank(X)≥p+1,而X 为n ⨯(p+1)阶矩阵，于是应有n ≥p+1 结论说明，要想用最小二乘法估计多元线性回归模型的未知参数，样本量n 必须大于模型自变量p 的个数。

1

)())1((11)1(11)1(11)(11]))(()([11)(11)(11)11()(21)(1

2221112112

1

12

1

2

22222

+===⨯+-⨯--=---=---=--=+--=--=--=--=++=-=∑∑∑∑∑∑∑∑∑========∧=∧

p h H tr p n p n h p n h p n e D p n e E e D p n e E p n e E p n SSE p n E E en e e y y SSE n

n

n n

n n n

n n

τττττττττττττττττττττσσσσσ注 不能断定这个方程一定很理想，因为样本决定系数与回归方程中自

变量的数目以及样本量n 有关，当样本量个数n 太小，而自变量又较多，使样本量与自变量的个数接近时，2R 易接近1，其中隐藏一些虚假成分。

当接受H 0时，认定在给定的显著性水平α下，自变量x1,x2, xp 对因变量y 无显著影响，于是通过x1,x2, xp 去推断y 也就无多大意义，在这种情况下，一方面可能这个问题本来应该用非线性模型去描述，而误用了线性模型，使得自变量对因变量无显著影响；另一方面可能是在考虑自变量时，把影响因变量y 的自变量漏掉了，可以重新考虑建模问题。

当拒绝H 0时，我们也不能过于相信这个检验，认为这个回归模型已经完美了，当拒绝H 0时，我们只能认为这个模型在一定程度上说明了自变量x1,x2, xp 与自变量y 的线性关系，这时仍不能排除排除我们漏掉了一些重要的自变量。

中心化经验回归方程的常数项为0，回归方程只包含p 个参数估计值

p ∧

∧

∧

βββ ,,21比一般的经验回归方程减少了一个未知参数，在变量较多

时，减少一个未知参数，计算的工作量会减少许多，对手工计算尤为重要。

在用多元线性回归方程描述某种经济现象时，由于自变量所用的单位大都不同，数据的大小差异也往往很大，这就不利于在同一标准上进行比较，为了消除量纲不同和数量级的差异带来的影响，就需要将样本数据标准化处理，然后用最小二乘法估计未知参数，求得标准化回归系数。

对p p x x x y ττττββββ∧

∧

∧

∧

∧

++++= 22110进行中心化处理得

)()()(222111p p p x x x x x x y y -++-+-=-∧

∧

∧

∧

ττττβββ 再将等式除以因变量的样

本标准差yy L 则有

*τ∧

y =

=-++-+-=-∧

∧∧∧)()()(222111p p yy

p

yy yy yy x x L x x L x x L L y y ττττβββ pp

p p yy

pp p yy

yy

L x x L L L x x L L L x x L L )

()

()

(22

2222211

11111-+

+-+

-∧

∧

∧τττβββ =

*

*

*

*

*

*

2211p p x x x τττβββ∧

∧

∧

+++

所以=

∧

*

j βp j L L yy

jj

j ,2,1,=∧

β

（ij ∆为相关阵（ij r )p p ⨯第i 行，第j 列的代数余子式）

22

1112

3;12∆•∆∆-=

r =1

1)1(1

1)1(1

)1(13312

223321

12331212

1r r r r r r r +++-⨯---)

1)(1(2

2132331

2321r r r r r ---=