3.2回归分析

i 1 i 1 i 1 n n n
（3.2.3）
② 根据取极值的必要条件，有
n ˆ ˆ ( yi a bxi ) 0 i 1 n ˆ ˆ ( yi a bxi ) xi 0 i 1
（3.2.4）
③ 解上述正规方程组（3.2.4）式，得到 参数a与b的拟合值：
2 a 1 a 1 n n
由求极值的必要条件得
n Q ˆ b 2 ( y a y a ) 0 a 1 0 n Q ˆ 2 ( y a y a ) x ja 0 b j a 1
（3.2.14）
( j 1,2, , k )
（3.2.15)
方程组（3.2.15）式称为正规方程组。
引入以下向量和矩阵
b0 1 y1 b1 1 y2 b b2 , Y , X 1 yn b 1 k x 11 x21 x31 xn1 x12 x22 x32 xn 2 xn 3 x1k x2 k x3 k xnk
上数据回归模型的建立
① 多元线性回归模型的结构形式：
ya 0 1x1a 2 x2a k xka a
式中：
（3.2.11）
a 为随机变量。
0 , 1 ,, k 为待定参数；
② 回归方程: 如果 b0 , b1 ,, bk 分别为式（3.2.11）中
y1 y2 yi yn
y 受k 个自变量 x1，x2，.，xk 的 影响，其n 组观 测值为（y a， xa1，xa2，.，x ak)，a=1，2，.， n。
影响因素（自变量） x1 x2 x j xk
x11 x12 x1 j x1k x21 x22 x2 j x2 k xi1 xi 2 xij xik xn1 xn 2 xnj xnk
ˆ ˆ ˆ y a bx
（3.2.2）
（3.2.2）式代表x与y之间相关关系的拟合直线，
称为回归直线； 是y的估计值，亦称回归值。 ˆ y
注意：对各变量和公式理解
（一）参数a、b的最小二乘估计
① 参数a与b的最小二乘拟合原则要求yi与 y 的 ˆi 误差ei的平方和达到最小，即
ˆ ˆ ˆ Q ei2 ( yi yi ) 2 ( yi a bxi ) 2 min
A XT X
1 x11 x 21 xk1
1 1 x12 x13 x22 x23 xk 2 xk 3
1 x1n x2n xkn

1 1 1 1
x11 x12 x13 x1n
回归分析与相关分析的区别与联系
联系：研究对象和内容相同，都是
研究处理相关关系的一种数理统计 方法。 区别：相关分析主要研究要素之间 的密切程度，没有严格的自变量和 因变量之分。回归分析有自变量和 因变量之分，能进行预测。
回归分析的主要内容
1．从—组地理数据出发，确定这些要素(变
量)间的定量数学表达式，即回归模型 2．根据一个或几个要素(自变量)的值来预测 或控制另一个要素(自变量)的取值。 3．从影响某一地理过程中的许多要素中， 找出哪些要素(变量)是主要的，哪些要素是次 要的．这些要素之间又有些什么关系。
第三章
第二节 回归分析方法
本节课要求
（理解记忆）地理回归分析的意义与作 用 一元线性回归模型建立及检验（重点）
多元线性回归模型的建立，重点掌握二 元线形回归方程。
非线性回归模型的建立方法
一、
地理回归分析的意义与作用
地理回归分析的意义
地理系统各要素之间的相关关 系，可以通过大量的观测、试 验取得一定的地理数据，为了 寻找出这些隐藏在随机性数据 后的统计规律，需要用到回归 分析。
x21 x22 x23 x2n
xk1 xk 2 xk 3 xkn

n
x
1a
n
x x
a 1 n a 1 n
n
2a
x
a 1 n a 1
a 1 n
x

a 1 n
1a
2 1
x
a 1 n a 1
a 1 n
x x

n
2a

1a 2 a 2 2a
x
1a 2 a
x

x
a 1
ka
x
1a ka
x
x
a 1
n
2 a ka
x

xka a 1 n x1a xka a 1 n x2a xka a 1 n 2 xka a 1
则认为方程效果不明显。
F服从第一自由度f1为1,第二自由度f2＝n-2的分布
一元线性回归例题
试建立下表中地温与气温的回归方程 北京市各月平均气温与5厘米平均地温(℃)
月份 1 2 3 4 5 6 7 8 9 10 11 12
气温 -4.7 -2.3 4.4 13.2 20.2 24.2
26
24.6 19.5 12.5
n
在式（3.2.9）中，Q称为误差平方和，或剩余平方和，
ˆ Q ( yi yi ) 2
i 1
n
而
ˆ U ( yi yi ) (a bxi a bx ) 2
2 i 1 n i 1
n
n
b 2 ( xi x ) 2 b 2 Lxx bLxy
③ 偏回归系数的推导过程: 根据最小二乘法原理， i (i 0,1,2,.k ) 的估计值
应该使 bi i 0,1,2,, k） （
ˆ Q ( y a y a ) [ y a (b0 b1 x1a b2 x2 a bk xka )]2 min （3.2.13）
ˆ ˆ a y bx
ˆ b L xy L xx
（3.2.5）
(x
i 1 n
n
i
x )( y i y )
（3.2.6）
( xi x ) 2
i 1
n 1 n xi y i n ( xi )( y i ) i 1 i 1 i 1 n 1 n 2 xi ( xi ) 2 n i 1 i 1
n
（3.2.9）
ˆ ˆ ( yi yi ) ( yi y ) 2 Q U
i 1 i 1
③ 统计量F
F
U
Q n2
（3.2.10）
④ F越大，模型的效果越佳。统计量F～F（1，n-2）。 在显著水平α下，若F>Fα ，则认为回归方程效果在此 水平下显著。 一般地，当 F<F0.10(1,n-2)时，
代入相应公式计算b值。
第三步：计算
ˆ a
值。
ˆ ˆ y bx a
＝l 2) ＝ 0．83783
第四步，建立回归模型。
第五步： 检验。先建方差分析表，然后查F分布表进行 检验。
方差分析表
三、多元线性回归模型
假设某一因变量
因变量 （ya）
4
-2.8
地温 -3.6 -1.4 5.1 14.5 22.3 26.9 28.2 26.5 21.1 13.4 4.6 -1.9
第一步：列表计算。将原始地理数据列成表下表，然后按 表中项目各项进行计算。
第二步：计算
x , y , x y , x 和n值
2 i i i i
ˆ b
值。将上表中
n
1 x 11 B X T Y x21 xk 1
1 x12 x22 xk 2
1 x13 x23 xk 3

n ya 1 y1 na 1 x1n y 2 x1a y a a 1 x 2 n y3 n x2 a y a a 1 xkn yn n y ka y a a 1
Lij L ji ( xia xi )(x j x j )
Liy ( xia xi )( ya y )
a 1
n
(i 1,2,, k )
正规方程组也可以写成
L11b1 L12b2 L1k bk L1 y L21b1 L22b2 L2 k bk L2 y L b L b L b L kk k ky k1 1 k 2 2 b0 y b1 x1 b2 x2 bk xk
i 1
称为回归平方和。
（二）一元线性回归模型的显著性检验
① 方法：F检验法。 ② 总的离差平方和：在回归分析中，表 示y的n次观测值之间的差异，记为
S 总 L yy ( yi y ) 2
i 1 n
（3.2.8）
可以证明
S 总 L yy
n
( yi y ) 2
i 1 2 n
方程组（3.2.14）式经展开整理后得
n n n n nb0 ( x1a )b1 ( x 2 a )b2 ( x ka )bk y a a 1 a 1 a 1 a 1 n n n n n 2 ( x1a )b0 ( x1 )b1 ( x1a x 2 a )b2 ( x1a x ka )bk x1a y a a 1 a 1 a 1 a 1 a 1 n n n n n 2 ( x 2 a )b0 ( x1a x 2 a )b1 ( x 2 a )b2 ( x 2 a x ka )bk x 2 a y a a 1 a 1 a 1 a 1 a 1 . n n n n n ( x )b ( x x )b ( x x )b .... ( x 2 )b x y 1 ka k 1 ka a ka 0 1a ka 1 2 a ka 2 a 1 a 1 a 1 a a