回归模型的参数估计与假设检验

xy x y
n i 1
n
1 1
ˆ
S xy S xx S yy
S xy ( xi x )( yi y )
S yy ( yi y )
i 1 2
S xx ( xi x ) 2
i 1
n
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
n
n
S 残 S回
武汉大学测绘学院 孙海燕
第三章 回归模型的参数估计与假设检验
ˆ )( y ˆ y) v y ˆ v y v y ˆ y v ( y y
i 1 i i i i 1 i i i 1 i i 1 i i i 1 n n n n n i
yn 0 1 xn1 2 xn2 ... m xnm n
多元线性回归方程为 ˆ ˆ x ˆ x ... ˆ x X ˆ ˆ Y 0 1 1 2 2 m m
ˆ Y V X
……………
1 T T ˆ X X A Y
2、相关系数检验
ˆ 的密度函数为 ˆ ) 0 成立时， 在原假设 E(
n 1 n4 2 (1 ˆ2) 2 n2 2
ˆ) f (
对相关系数的假设检验
ˆ ) 0 H1 : 0 H0 : E(
S总 ( yi y ) 2
i 1 n
ˆi ) ( y ˆ i y )]2 [( yi y
i 1
n
n
ˆi )2 ( y ˆ i y ) 2 2 ( yi y ˆ i )( y ˆi y ) ( yi y
i 1 i 1 i 1
V TV min ˆ Y V X
V TV 2V T X 0 ˆ
n n 0
VT X 0
v (ˆ
i 1 i i 1
n
n
n
ˆ y ) n ˆ ˆ xi 1 i 0 1 xi yi
i 1 i 1
ˆ x ˆ y ) n( y x ˆ x ˆ y) 0 n( 0 1 1 1
ˆ
S xy S xx S yy
孙海燕
武汉大学测绘学院
第三章 回归模型的参数估计与假设检验
相关系数假设检验临界值
置信水平 自由度 自由度 置信水平 自由度 置信水平
5%
1 2 3 4 5 6 7 8 9 10 0.997 0.950 0.878 0.811 0.754 0.707 0.666 0.632 0.602 0.576
n
S xy ( xi x )( yi y )
i 1 n
n
xi2 2 x xi nx 2 xi2 nx 2
i 1 i 1 i 1
n
n
xi yi x y
i 1
n (X X ) nx
T
S xx nx 2 nx
ny X Y S x y xy
x i i 1 n 2 x i i 1
n
n y i X T Y ni 1 xy i i i 1
ˆ ( X T X )1 X T Y
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
n XTX n x i i 1
T ˆ T ˆ v y V Y V X 0 i i i 1
102.714 95.154 114.364 120.170 126.630 129.393 135.046 140.373 144.958 141.011 130.308 121.234
-1.96 -1.88 -3.96 -3.31 - 4.94 -5.69 -5.46 -5.69 -3.94 -5.82 -4.18 -2.90
ˆ 是 最优线性无偏估计； 2、
2 3、 ˆ 是 2
的无偏估计。
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
第五节 回归模型和回归系数的显著性检验
一、 相关系数及其检验 一元线性回归方程的前提是变量 y 与 x应存在线性的 统计相关，因此，必须有一个数量性指标来描述两个变 量间线性相关的程度，这一指标通常采用相关系数。 1、相关系数
1%
0.684 0.661 0.641 0.623 0.606 0.590 0.575 0.561 0.549 0.537 25 30 35 40 45 50 60 70 80 90
5%
0.381 0.349 0.325 0.304 0.288 0.273 0.250 0.232 0.217 0.205
武汉大学测绘学院 孙海燕
第三章 回归模型的参数估计与假设检验
二、回归分析方法
是研究相关关系的一种有力的数学工具。它是建立在对 客观事物进行大量实验和观测的基础上，寻找隐藏在不确定 性关系后面的统计性规律的数理统计方法。 回归分析主要研究的问题： 1、如何根据样本，建立回归模型；
2、如何估计回归模型参数；
S xx 2 x 1 Q n ˆˆ S xx x
1 x2 n S x xx x 1 S xx
x S xx 1 S xx
V TV n2
2
2 ˆ ( y y ) i i i 1
ˆ 0 ˆ 1
(i 1,2,, n)
Y X
1 2 n
ˆ Y V X
V TV min
ˆ X TY X T X
n XTX n x i i 1
T
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
1 T 1 (X X ) nSxx n 2 x 2 n 2 x 2 S xx nx 2 nx nx 1 S xx x 2 n n S xx x x 1
ˆ 1 S xx x 2 0 n ˆ 1 S xx x
S xy ny y x y x 1 S xx S x xy S nx y S xy xy 1 S xx S xx
E( y) 0 1 x1 2 x2 m xm
j
j 1,2
xmi
m
yi , x1i , x2i ,
Y X
n ,1 n , m 1 m 1,1
yi 0 x1i 1 x2i 2
n ,1
xmi m i
E( ) 0, D( ) 2 E
x s cos
y s sin
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
2、统计相关----不存在确定的关系 例1：每年春季气温与降雨量； 例2：人的高度与体重之间； 例3：测距结果与仪器中电子线路受固定的干扰信号引 起误差之间； 例4：重力测量结果与气压、温度、地下水等因素之间； 例5：海平面变化与气象、海洋天文因素之间； 例6：断层位移与断层活动趋势、气温、地温、蒸发、 降雨量之间； 统计相关的特点: 它们之间既存在着一定的制约关系，又不能由一个 （或几个）变量数值精确地求出另一个变量的值来。
高等测量平差
孙海燕
武汉大学测绘学院
第三章 回归模型的参数估计与假设检验
第一节 概述
一、变量与变量之间的关系
1. 函数相关----确定性关系
2. 统计相关----不存在确定的关系
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
一、变量与变量之间的关系
1、函数相关----确定性关系 例1：矩形面积 S 与其两边 a , b 之间存在确定性关系 为 S ab ； 例2：一个平面三角形的一个内角 与其它两个内 角 、 的关系为为 1800 ； 两点间的纵坐标增量边长及方位角的关系为：
1%
0.487 0.449 0.418 0.396 0.372 0.354 0.325 0.302 0.283 0.267
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
二、方差分析法
目的：检验回归方程总体显著性 设： Y 的 n个观测值之间的差异，用观测值与其平均值的偏差
平方和来表示，称为总偏差平方和，记为
ˆ Y V Y
T V V ˆ2 n (m 1)
Qˆˆ ( X T X ) 1
ˆ ) 2Q ˆ ˆ D(
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
第四节 线性回归统计的分布和统计性质
ˆ, Y ˆ , V 均为正态变量； 1、 Y ,ຫໍສະໝຸດ Baidu
武汉大学测绘学院 孙海燕
第三章 回归模型的参数估计与假设检验
第三节 回归参数的最小二乘估计
一、一元线性回归的参数估计 yi 0 xi 1 i y 0 1 x
y1 y Y 2 yn
1 x1 1 x 2 X 1 x n
ˆ y x ˆ 5.3094 0 1
ˆ 5.3094 0.0756x y
武汉大学测绘学院 孙海燕
第三章 回归模型的参数估计与假设检验
二、多元线性回归的最小二乘估计
多元线性回归模型为
1 x11 1 x 21 X n m 1 ... ... 1 x n1 x12 x 22 xn 2 ... x1m ... x 2 m ... x nm
n
xi i 1 n 2 x i i 1
n
n yi X T Y ni 1 xy i i i 1
S xx ( xi x ) 2 ( xi2 2 xi x x 2 )
i 1 n i 1
3、如何检验模型参数的显著性； 4、如何利用回归方程进行预报和控制。
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
第二节 线性回归模型 y 0 1 x1 2 x2 m xm 线性回归模型
线性回归理论模型 回归方程的系数 n组观测数据 n个观测方程 矩阵形式 随机模型
n
n2
武汉大学测绘学院
孙海燕
第三章 回归模型的参数估计与假设检验
例：
编号 库水位 X（m） 沉陷量Y（mm）
x 125 .1129
y 4.1442
S xx 2579 .9880
S xy 194 .9442
ˆ 1 S xy S xx 0.0756
1 2 3 4 5 6 7 8 9 10 11 12
1%
1.000 0.990 0.959 0.917 0.874 0.834 0.798 0.765 0.735 0.708 11 12 13 14 15 16 17 18 19 20
5%
0.553 0.532 0.514 0.497 0.485 0.468 0.456 0.444 0.433 0.423
y 0 1x1 2 x2
E 0, D 2
m xm
y1 0 1 x11 2 x12 ... m x1m 1
y2 0 1 x21 2 x22 ... m x2m 2