第十四次习题课(回归分析)

ε1 LLLε n i i dN ( 0 , σ2 )
该模型中：
x1 n X ′X = x i2 X = M i =1 x n 1 故有 β1 = ( X ′X ) X ′y =
∑
X ′y = ∑ x i y i
n
∑x
i =1 n i =1
n
i =1
i
yi
x i2 ∑
8.2、通过原点的二元线性回归模型为
( X ′X ) 为的 ( X ′X ) 伴随矩阵） （其中
n 2 ∑ xi2 i =1 ∑ x i1 x i 2 i =1 ∑ x i1 x i 2 i =1 n 2 ∑ x i1 i =1
n 2
( X ′X ) 1 =
2 2 ∑ x i1 ∑ x i 2 ∑ x i1 x i 2 i i i
L L L L
x1p M ， M x np
β0 β = M β p
y1 y= M y n
β0 则可得 β1 = ′U )1 U ′y β L = (U M β p
σ2 =
( y i i )2 y ∑
i =1
n
n p 1
y 其中 i = β0 +
第十四次习题课（回归分析） 内容提要 线性回归分析主要研究一个未知随机变量，与若干个可 控制的一般变量之间存在线性相关关系的分析，主线 是：提出变量之间线性关系假设——估计线性参数— —检验假设是否成立。 1． 模型: y = β 0 + β 1 x1 + L + β p x p + ε Eε = 0 Dε = σ 2 或ε ~ N (0, σ 2 ) (8.26) 数据结构式： yi = β 0 + β 1 xi1 + L + β p xip + ε i (8.26) ε 1 ,LL, ε n 独立同分布N (0, σ 2 ) 矩阵形式：y = Xβ + ε (8.26) ε ~ N (0, σ 2 I n )
β1 故得 β = = ( X ′X )1 X ′Y = β 2
n 2 n n n ∑ xi 2 ∑ xi1 y i ∑ xi1 xi 2 ∑ xi 2 y i i =1 i =1 i =1 i =1 1 2 n 2 n 2 n n 2 n n n ∑ xi1 ∑ xi 2 ∑ xi1 xi 2 ∑ x ∑ x y ∑ x x ∑ x y i1 i 2 i1 i i =1 i =1 i =1 i =1 i1 i =1 i 2 i i =1 i =1
2. 参数估计 （1） β = (X′X) 1 X′Y
L
称
x y = β 0 + β 1 x1 + L + β p 为回归方程 p
2
Se （2） σ = nq
其中S e =
，
q
＝秩（
X）
∑Βιβλιοθήκη Baidu
i =1
n
( y i y i ) 2 = y ′ I n X(X ′X) 1 X ′ y
[
]
y i = β1 x i 1 + β 2 x i 2 + ε i 2 ε1 ,L , ε n i i dN ( 0 , σ )
x11 x12 该模型的设计矩阵 X = M M x x n2 n1
（2）
x11 L x n1 X′ = x L x n2 12
y1 y= M y n
1
= ( ci j )
βi ci j σ
2
则 H 0 : β i = 0的拒绝域为 t i = 或
ft
1
α
2
(n p 1)
ti p t
α 1 2
( n p 1) 。
8.8 若y与x之间有下述关系
其中 ε ~ N ( 0 , σ 2 ) ，从中获得n组独立观测值(xi , y i )，能否 求出 β 0 , β 1 , L β p的最小二乘估计？试写出最小二乘估计 的公式，能否检验假设 H 0 : β i = 0 ，试给出检验的拒绝域。 解：令
u1 = x , u2 = x 2 ,L , u p = x p , 则y与u1 ,L u p间存在线性关系
y = β 0 + β1 x + β 2 x 2 + L + β p x p + ε
y = β 0 + β1u1 + L + β p u p + ε
令uij = x
j i
i = 1L n j = 1L p
令
1 u11 M M U = M M 1 u n1
L u1 p 1 x1 L M M M = L M M M L u np 1 x n
故 ∑ x i21 X ′X = n i ∑ x i1 x i 2 i =1
用( X ′X )
1
∑ x i1 x i 2 i =1 2 ∑ xi2 i
n
n ∑ x i1 y i = X ′Y = in 1 ∑ xi 2 yi i =1
( X ′X ) = 的办法可求得： X ′X
习题评讲 8.4、 通过原点的一元线性回归模型是怎样的？通过原点 的二元线性回归模型是怎样？分别写出结构矩阵X，正 规方程组的系数矩阵 X ′X ，常数项矩阵X ′Y ，并写出 回归系数的最小二乘估计公式。 解：通过原点的一元线性回归模型为： 1L yi = β1 xi + ε i , i = 1L n （1）
n
β j xij = β0 + ∑ β j uij ∑
j =1 j =1
p
p
再记 l ij = ∑ (uki ui ) ukj u j
k =1 n
(
)
i , j = 1L p
i , j = 1L p
li 0 = ∑ (uki ui )( y kj y j )
k =1
矩阵 L = ( l i j )的逆L