概率论与数理统计第8章1--20091122

22 November 2009
第八章 方差分析与回归分析
第20页
四、总平方和分解公式
各yij间总的差异大小可用总偏差平方和
ST =
∑∑
i =1
r
m
j =1
( y ij − y ) 2
表示，其自由度为fT=n−1； 仅由随机误差引起的数据间的差异可以用 组内偏差平方和
Se =
∑ ∑ ( yij − yi. )
22 November 2009
第八章 方差分析与回归分析
第19页
在构成偏差平方和Q的k个偏差y1− y , …, yk− y k 间有一个恒等式 ∑ ( y i − y ) = 0 ，这说明在Q中独 i =1 立的偏差只有k−1个。 在统计学中把平方和中独立偏差个数称为该平 方和的自由度，常记为f，如Q的自由度为 fQ=k−1。自由度是偏差平方和的一个重要参数。
8.1.1 问题的提出
实际工作中我们经常碰到多个正态总体 均值的比较问题，处理这类问题通常采 用所谓的方差分析方法。
22 November 2009
第八章 方差分析与回归分析
第3页
ANOVA 由英国统 计学家R.A.Fisher首 创，为纪念Fisher， 以F命名，故方差分析 又称 F 检验 （F test）。用于推断多 个总体均值有无差异
表8.1.3 单因子方差分析表
来源 平方和 自由度 因子 误差 总和 SA Se ST fA=r−1 均方和 MSA= SA/fA MSe= Se/fe F比 F＝ MSA/ MSe
fe=n−r
fT=n−1
22 November 2009
第八章 方差分析与回归分析
第28页
对给定的α，可作如下判断： 如果 F ≥ F1−α (fA ,fe)，则认为因子A显著； 若F< F1−α (fA ,fe) ，则说明因子A不显著。 该检验的p值也可利用统计软件求出，若 以Y记服从F(fA ,fe)的随机变量，则检验的 p 值为 p=P(Y≥F)。
表示，也称为因子A的偏差平方和，其自 由度为 fA=r−1；
22 November 2009
第八章 方差分析与回归分析
第22页
定理8.1.1 在上述符号下，总平方和ST可以 分解为因子平方和SA与误差平方和Se之和， 其自由度也有相应分解公式，具体为： ST =SA +Se , fT =fA +fe （8.1.16）
所以yij - yi. 仅反映组内数据与组内平均的随机误 差，称为组内偏差；而 yi. − y = ( μi + ε i. ) − ( μ + ε ) = ai + ε i. − ε （8.1.12）
yi. − y 除了反映随机误差外，还反映了第i个水
平的效应，称为组间偏差。
22 November 2009
22 November 2009
第八章 方差分析与回归分析
第11页
在水平Ai下的试验结果yij与该水平下的指标 均值 μi 一般总是有差距的，记 εij = yij−μi，
εij 称为随机误差。于是有 yij = μi +εij
（8.1.2）
（8.1.2）式称为试验结果 yij 的数据结构式。
22 November 2009
22 November 2009
第八章 方差分析与回归分析
第25页
定理8.1.2 在单因子方差分析模型 (8.1.8) 及前述 符号下，有 (1) Se /σ 2 ~ χ 2(n−r) ，从而E(Se ) ＝(n−r) σ 2 (2)
E(SA ) = (r −1)σ + m∑ a
2 i =1
r
2 i
22 November 2009
（8.1.1）
第八章 方差分析与回归分析
第10页
为对假设（8.1.1）进行检验，需要从每一水 平下的总体抽取样本，设从第i个水平下的总 体获得m个试验结果，记 yij 表示第i个总体的 第j次重复试验结果。共得如下n=r×m个试验 结果： yij， i＝1, 2,…, r ， j＝1, 2, …, m, 其中r为水平数，m为重复数，i为水平编号， j 为重复编号。
（8.1.16）式通常称为总平方和分解式。
22 November 2009
第八章 方差分析与回归分析
第23页
注:在偏差平方和分解公式中 (1)SA显著地大于 Se,说明各总体样本均值之间的 差异显著地大于重复试验中随机误差的大小,则拒 绝H0 ,从而认为因素影响是显著的. (2)否则接受H0.认为因素影响是不显著的. 这也是方差分析的由来.
Ti = ∑ yij
j =1 r
yi . =
m
i = 1, 2,
,r
T T = T = ∑ Ti y= r ⋅m n i =1 n = r ⋅ m = 总试验次数
22 November 2009
第八章 方差分析与回归分析
第15页
表8.1.2 单因子方差分析试验数据
因子水平 A1 A2 ┆ Ar 试验数据 y11 y12 … y1m y21 y22 … y2m ┆ yr1 yr2 … yrm 和 T1 T2 ┆ Tr T
第八章 方差分析与回归分析
第1页
第八章 方差分析与回归分析
§8.1 §8.2 §8.3 §8.4 §8.5 方差分析 多重比较 方差齐性分析 一元线性回归 一元非线性回归
22 November 2009
第八章 方差分析与回归分析第 Nhomakorabea页§8.1 方差分析 Analysis of Variance （ANOVA )
记
1 m ε i. = ∑ ε ij , m j =1
22 November 2009
1 r 1 r m ε = ∑ ε i. = ∑∑ ε ij r i =1 n i =1 j =1
第八章 方差分析与回归分析
第17页
由于
yij − yi. = ( μi + ε ij ) − ( μi + ε i ) = ε ij − ε i （8.1.11）
22 November 2009
1 1 r μ = ( μ1 + ... + μr ) = ∑ μi r r i =1
为总均值.
第八章 方差分析与回归分析
第13页
模型（8.1.3）可以改写为
⎧ yij = μ + ai + εij , i = 1,2,..., r, j = 1,2,..., m ⎪r ⎪ (8.1.8) ai = 0 ⎨∑ ⎪ i=1 ⎪ε 相互独立，且都服从N(0,σ 2 ) ⎩ ij
22 November 2009
第八章 方差分析与回归分析
第24页
8.1.4 检验方法
偏差平方和Q的大小与自由度有关，为了便于在 偏差平方和间进行比较，统计上引入了均方和 的概念，它定义为MS=Q/fQ ，其意为平均每个 自由度上有多少平方和，它比较好地度量了一 组数据的离散程度。 如今要对因子平方和 SA 与误差平方和 Se 之间进 行比较，用其均方和 MSA= SA /fA ， MSe= Se /fe 进行比较更为合理，故可用 F = MS A = S A / f A 作 MS e Se / fe 为检验H0的统计量。
i = 1 j =1
r
m
2
表示，
也称为误差偏差平方和，其自由度为 fe=n−r ；
22 November 2009
第八章 方差分析与回归分析
第21页
由于组间差异除了随机误差外，还反映了 效应间的差异，故由效应不同引起的数据 差异可用组间偏差平方和
S A = m ∑ ( yi . − y ) 2
i =1 r
22 November 2009
第八章 方差分析与回归分析
第29页
常用的各偏差平方和的计算公式如下：
T2 2 ST = ∑∑ yij − n i =1 j =1
22 November 2009
平均
y1 y2
┆
yr y
第八章 方差分析与回归分析
第16页
二、组内偏差与组间偏差
数据间是有差异的。数据yij与总平均 y 间 的偏差可用yij − y 表示，它可分解为二个 偏差之和
yij − y = ( yij − yi. ) + ( yi. − y )
（8.1.10）
22 November 2009
第八章 方差分析与回归分析
第9页
我们要比较各水平下的均值是否相同, 即要对如下的一个假设进行检验: H0 ：μ1 =μ2 =…=μr 备择假设为H1 ：μ1, μ2, …, μr 不全相等 在不会引起误解的情况下， H1 通常可省略不写。 如果H0成立，因子A的r个水平均值相同，称因子A 的r个水平间没有显著差异，简称因子A不显著； 反之，当H0不成立时，因子A的r个水平均值不全 相同，这时称因子A的不同水平间有显著差异，简 称因子A显著。
进一步，若H0成立，则有SA/σ 2 ~χ 2(r−1) (3) SA与Se独立。
22 November 2009
第八章 方差分析与回归分析
第26页
由定理8.1.2，若H0成立，则检验统计量F服从自由度为 fA和fe的F分布，因此拒绝域为W={F≥F1−α (fA ,fe)}，通常 将上述计算过程列成一张表格，称为方差分析表。
第八章 方差分析与回归分析
第18页
三、偏差平方和及其自由度
在统计学中，把k个数据y1 , y2 , …, yk分别对其均 值 y =(y1+ …+ yk )/k 的偏差平方和
Q = ( y1 − y ) +
2
+ ( yk − y ) = ∑ ( yi − y )2