回归分析1

相关系数 r 1 。当r= +1(x与y正相关)时，此时 全 部 测试点 准 确 地落在 斜 率 为正的 直 线 上（ 图 2.2a）；当r= -1(x与y负 相关)时，全部测试点准 确 地 落在斜 率 为 负的直 线上（图2.2b）。事实上， 在绝大部分情况下0＜ r ＜1。
图2.2 相关系数 r(I)
系几乎均属于这种非确定性的依赖关系。如何找出具有这种
相关关系的变量之间的数学表达式，回归分析为我们提供了 一条可行的途径。
§2.1
§2.1.1
一元回归分析
一元回归方程的求法
若有n个实验点 xi , yi i 1,2,, n , 则y的观测值 yi 可由下式表示：
yi a bxi ei
i 1
n
n
1 n n xi yi xi yi n i 1 i 1 i 1
由此，式（2.6）可表示为：
xx yx
s s
b
(2.7)
由式（2.5）不难看出，回归直线
y a bx
一定通过点
( x, y)
。
如荧光素标准溶液的荧光强度（任意值）测定结果 如下： 浓 度：0.0 2.0 4.0 6.0 8.0 10.0 12.0 荧光强度：2.1 5.0 9.0 12.6 17.3 12.0 24.7 由此得到表2.1。
式（2.10）可分为两个部分，即
ˆ U ( yi y ) 2
i 1 n n
(2.11) (2.12)
ˆ Q ( yi y ) 2
i 1
ˆ y
y
其中，U表示x变化时, y按回归方程线性变化而引起 对 的 偏离平方和, 我们称之为回归平方和。第二部分表示除回归 模型之外的其他因素所引进 的偏离平方和，我们称之为剩余 （或残差）平方和。
表2.1
xi 0.0 2.0 4.0 6.0 8.0 10.0 12.0 42.0
荧光素测定值回归分析计算表
yi
2.1 5.0 9.0 12.6 17.3 21.0 24.7 91.7
xi x
-6 -4 -2 0 2 4 -6
x i x 2
36 16 4 0 4 16 36 112
x 42.0 / 7 6, y 91.7 / 7 13.1
利用式（2.7）和式（2.5）可以分别得到回归直线的斜 率b和截距a： b = 216.2/112 = 1.92 a = 13.1-(1.93x6) = 13.1-11.58 = 1.52
ˆ 即 y 1.52 1.93x
xi
n
2
1 n xi2 xi n i 1 i 1
n
同理，
1 s yy yi y y yi n i 1 i 1 i 1
n 2 n n 2 i 2
s xy xi x yi y
由此可得：
1 n 1 n a yi b. xi y bx n i 1 n i 1
(2.5)
b
1 n n xi yi n xi yi i 1 i 1 i 1
n
1 xi2 xi n i 1 i 1
若仅仅由r值来判断y与x的相关性尚不够。如图 2.3a，因变量y随自变量x的变化显然为一曲线，但用 式（2.8）计算所得r=0.986，已相当高。再如，图 2.3b，由式（2.8）计算所得r=0，它仅只意味着，y 与x对于直线而言是不相关的。 为判断r究竟要多大可能认为变量y与x具有线 性相关关系，我们用显著性检验的方法来解决。 F检验的公式为
i 1 n
[( yi y ) b( xi x )]b( xi x )
i 1 n n b ( y i y )( xi x ) b( ( xi x ) 2 ) i 1 i 1 b( s xy bs xx )
b( s xy s xy / s xx s xx ) 0
n n 2 i
2

x －x y
i 1 i n 2 i 1
n
i
y
(2.8)
xi x . yi y 2
i 1
n
如§2.1.1中荧光素荧光强度的测定，其相关系数为：
r 216.2 112 418.28 216.2 0.9989 216.44
yi y
-11.0 -8.1 -4.1 -0.5 4.2 7.9 11.6 0
( yi y ) 2
121.00 65.61 16.81 0.25 17.64 62.41 134.56 418.28
( xi x )( y i y )
66.0 32.4 8.2 0.0 8.4 31.6 69.6 216.2
本组测定值的回归直线示于图2.1。
需要指出的是，在上述计算中，对 于观测值的误差通常有如下三个假设： (1)误差 ei 是非系统性的，即它 的期望值为零
E (ei ) 0, i 1,2,, n
图2.1荧光素荧光强度 测定回归直线
(2)各次观测值彼此独立，且精度相同，即 ei 间协方差可表示为：
0 当 i j cov (ei , ei ) 2 当 i j
（3）观测误差遵从正态分布。 §2.1.2 相关系数和显著性检验 在上一节介绍了用最小二乘法 求一元线性回归的方法。按照这种 方法。即便是一堆杂乱无章的测试 点（图2.2c）也可求得一回归方程， 显然，这样的回归方程是没有什么 意义的。为了表征变量x与y 的相 关关系，我们引入一数量性指标相 关系数r:
r 2 (n 2) F 1 r 2
(2.9)
图2.3 相关系数r(II)
假设ρ ＝0（r为ρ 的估计值）,在给定显著性水平α 下，将 F的计算值与 F分布表中临界值 Fα （自由度: 1，n-2）相比 较，若F＞Fα ，则拒绝ρ ＝0的假设，说明变量 y与 x间的相 关关系明显。
仍以§2.1.1中荧光素的荧光强度测定为例，
0.99892 (7 2) 0.9978 5 4.9890 F 2254.0 2 1 0.9989 1 0.9978 0.0022
查F分布表知F0.01,（1，5）＝16.3，即F＞F0.01,（1，5）,所以 在此测定中，荧光强度与荧光素浓度相关关系显著。
若将式(2.9)变换一下可得式(2.9’)
n n
n
2
1 n 1 n xi n xi yi n yi i 1 i 1 i 1 2 n 1 n xi n xi i 1 i 1

x x y
i 1 i n i 1 i
n
2 i 1 i 1
n
2
(2.10)
ˆ ˆ 在式（2.10）的推导中， yi yi yi y 0
i 1
n
(y
i 1 n
n
i
ˆ ˆ yi )( yi y )
( yi a bxi )( a bxi a bx )
i 1 n
[ yi ( y bx ) bxi ]b( xi x )
F (2.9’) r F n2 只要给定F的临界值, 则可算出临界的相关系数r.如上例, 临界值r = 0.87.
§2.1.3
一元线性回归的方差分析
本节通过回归方程方差的分析，给出判断回归效果好 坏的标准。 对变量y与它的平均值之间的总偏离平方和进行分解：
s yy ( yi y ) 2
i 1 n n
ˆ ˆ yi yi yi y
i 1 n 2 n
2
ˆ ˆ ˆ ˆ yi yi 2 yi yi yi y ( yi y ) 2
i 1 n i 1 i 1
n
ˆ ˆ y i yi y i y
第二章 回 归 分 析
回归分析是数理统计中最常用的方法之一。 在实际工作中，我们经常遇到的数据间的依 赖关系有两种类型：一种为确定性的依赖关 系，即函数关系；另一种为非确定性的依赖
关系，即相关关系。
在函数关系中，由一个或几个数学量可以精确地求出另 一或另外几个数学量，如由三角形的三边可以求出三角形的 面积。而在相关关系中变量间没有确定的函数关系。溶液的 浓度和吸光度这两个量是相互有联系的。通常，浓度大，吸 光度亦大；反之，亦然。但是，二者之间的关系是不确定的， 即找不到一个确定的函数表达式。即使同一浓度的溶液，由 于测定条件的微小变化，两次测定结果也不会完全一样。事 实上，在科学实验中借助仪器所获得的数据，它们之间的关
(2.1) 即
ˆ 其中ei 为残差。令 yi为yi的估值，
ˆ y i a bxi
则
(2.2)
ˆ ei yi y i
(2.3)
在回归分析中，主要问题是根据一组观测值找出 最佳的 a, b估值，使得 y 与y 达到最接近的程度。 ˆ a, b的估值可由最小二乘法得到，即选取a, b使残 差平方和
平方相关系数可用式（2.8’）表示：
ˆ ( y i yi ) 2
n
r 2 1
( y y)
i 1 i
i 1 n
2
（2.8’）
ˆ 其中，yi 是由回归方程所得的计算值 。式（2.8’ ）与 （2.8）在代数上是等价的。r2表示由x的变化能够解释 的y的方差在总方差中的比例。若r2接近1，则说明y的 方差绝大部分由于回归所引起。而
k2 ˆ (y y )
i 1 n i i i 部分是由x变化不能够解释的y的方差在总方差中的比例. 相 关系数r可正可负, 即有符号，此符号表示相关的方向，亦即 正的相关或负的相关。但是， k 2不能够有符号，因为 k 它的大小是不能够由相关性表征的部分，是没有方向性的。 关于式（2.8）和式(2.8’)，由§2.1.3一元线性回归方差的分 析还可以进一步理解。