第七章 相关与回归分析

y0 y0 p{ t (n 2)} 1 2 1 ( x0 x) 2 s 1 n l xx
其中令：
1 ( x0 x) 2 ( x0 ) s 1 t (n 2) n l xx 2

则预测区间为 ( y ( x), y ( x)) 其中 2

1 ( x x) (x ) s 1 t (n 2) n l xx 2
即夹在两曲线 y ( x), y ( x)之间的部分就是 预测带。 当给定n对数据和置信度，则 (x) 是x的函数， 因此预测精度（即置信区间长度）实际上与x 有关，x越靠近 ，精度越高； 时区间 x xx 最短，精度最高。
rXY
● 样本相关系数
通过X和Y 的样本观测值去估计样本相关系 数变量 X和Y的样本相关系数通常用 rXY 表示
rXY
rXY
( X X )(Y Y ) ( X X ) (Y Y )
i i __ 2 __ i i
__
__
2
特点：样本相关系数是根据从总体中抽取的随 机样本的观测值计算出来的，是对总体相关 系数的估计，它是个随机变量。
有：
Y Y Y Y
推导出：
(Y (Y
Y)
2 2
(Y Y
2

Y Y)

2
Y ) ( Y Y ) (Y Y ) 2

SST = SSR +
SSE
总离差平方和 回归平方和 残差平方和 SST：反映Yi的分散程度。 SSR：反映 Y i 的分散程度。 SSE：扣除了X对Y的线性影响之外的剩余因素对Y的分 散性的作用。
给定显著性水平 ， 查自由度为 n-2 的临界值 t
相关系数的检验方法
2
若 ，表明相关系数 r 在统计上是 显著的，应否定 而接受 0 的假设； 0 反之，若 t t ，应接受 0 的假 2 设。
t t 2
例：假设根据6对样本观测数据计算出 来某公司的股票价格与气温的样本相关 系数为0.50，试问是否可以根据0.05的 显著性水平认为该公司的股票与气温之 间存在一定程度的线性相关关系？
误差项的标准假定
误差项的期望值为0。 误差项的方差为常数。 误差项之间不存在序列相关关系。 自变量与误差项不相关。 误差项服从正态分布。
一元线性回归模型的估计
回归系数的估计
– 采用最小二乘法（OLS）：残差平方和最小 – 残差平方和
2
e (Y Y ) (Y X )
可决系数是就回归模型而言，是判断模 型拟合程度的优劣。 相关系数是就两个变量而言。 当仅有一个自变量和一个因变量，且线 性时，相关系数r的平方等于可决系数。
显著性检验
t检验：对回归系数的显著性检验。 F检验：对回归方程的显著性检验。 学习对回归系数的显著性检验，就是利 用样本估计的结果对总体回归系数的有 关假设进行检验。 2 已知： ~ N ( , 2 ) ， ~ N ( , )
第七章 相关与回归分析
1、相关与回归分析的基本概念 2、相关分析 3、一元线性回归分析
相关与回归分析的基本概念
函数关系与相关关系
函数关系：当自变量取一定值时，因变量
有确定值对应。例如：y=2x 相关关系：当自变量取一定值时，因变量 的值不确定，但是按某种规律变化。 例如：某商品的销售量与居民收入密切相 关；粮食产量与施肥量密切相关。



1 x [ ] 2 n ( x x)
2 2
2

2

1 [ ] 2 ( x x)
2
对
2
检验
方差未知，小样本，采用t检验。 对 检验，因为它表示x对y的影响程度。 样本信息计算出
H 0 : 2 0 H1 : 0
t
相关系数的特性
r的取值范围【－1，1】 r=0，表示x与y没有线性关系，但并不 意味着x与y之间不存在其他类型关系。 r=1，x与y完全正相关。 r=-1，x与y完全负相关。 0 r 1，表示x与y存在线性关系。 r>0,x与y正相关。r<0,x与y负相关。
使用相关系数的注意事项：
可决系数 r 2 SSR 1 SSE L xy
SST SST
2
Lxx Lyy
可决系数特性
可决系数越大，拟合程度越高。 可决系数非负。 可决系数取值范围【0，1】
– 可决系数等于0，表示X,Y完全无关。 – 可决系数等于1，说明观测值都位于回归线 上，残差等于0。
相关系数与可决系数
相关关系的种类
按相关程度分：
完全相关、不完全相关、不相关
按相关方向分：
正相关、负相关
按相关形式分：
线性相关、非线性相关
按变量多少分：
单相关、复相关、偏相关
相关分析与回归分析
相关分析：描述的是两个数值变量间关 系的强度。但不能指出变量间相互关系 的具体形式，也无法从一个变量来推测 另一个变量的变化。 回归分析：依靠相关关系来表明数量变 化的相关程度。只有变量高度相关，回 归才有意义。
样本回归函数
总体回归函数未知，需利用样本来估计。 一元线性回归模型的样本回归线： ，其中： Y X


是样本回归线上与X对应的Y值，为
的估计； Y ) E (Y 为截距系数； 为斜率系数，是对总 体 和 的估计。
样本回归函数
实际观测到的因变量Y的值，并不完全 等于 Y ，则 残差 e Y Y 样本回归函数： Y X e e与总体误差项u相互对应。
二、简单线性相关分析
●总体相关系数
对于所研究的总体，表示两个相互联系变量 相关程度的总体相关系数为：
Cov( X , Y ) Var ( X )Var (Y )
总体相关系数反映总体两个变量X和Y的线性 相关程度。 特点：对于特定的总体来说，X和Y的数值是 既定的总体相关系数是客观存在的特定数值。
第三节 一元线性回归 分析
1、标准的一元线性回归模型 2、模型的估计 3、模型的检验 4、模型的预测
总体回归函数
最简单的模型： Y X u ，其中 和 是回归系数。 u 是随机误差项，反映除X的其他因素对Y
的干扰。
例如：消费函数 Y X ，影响 Y的因素主要有可支配收入，但是诸如 消费习惯、地理等因素都会对Y有影响。 所以公式中的Y应表示为E（Y），即 E (Y ) X
2

2
要使e最小，对 和 求偏导，得
n XY X Y Lxy 2 2 n X ( X ) Lxx


Y X


总体方差的估计
和 估计后，还要对u的方差进行估计。 方差反映模型误差的大小，误差小说明 模型拟合的好。 因为u的方差未知，用样本方差代替 可以证明：
▲X和Y 都是相互对称的随机变量，所以 XY YX ▲相关系数只反映变量间的线性相关程 度，不能说明非线性相关关系。 ▲相关系数不能确定变量的因果关系， 也不能说明相关关系具体接近于哪条直 线。
相关系数的检验
为什么要检验？ 样本相关系数是随抽样而变动的随机变 量,相关系数的统计显著性还有待检验。 检验的依据： 如果X和Y都服从正态分布，在总体相 关系数 0 的假设下，与样本相关系数 r 有关的 t t r n 2 1 r 2 ~ t (n 2) 统计量服从自由度为n-2的 t 分布：
习题：
某零售商店流通费用率对商品销售额依存关系的 资料如下：
按销售额分组X （万元） 10－12 12－14 14－16 16－18 18－20
流通费用率Y（％） 8.0 7.5 6.7 6.0 5.0
要求：计算相关系数。拟合直线方程。计算回归估计 标准误差
总结
掌握一元线性回归方程的拟合。 模型拟合程度的评价。 两个变量相关系数的计算。
样本与总体回归函数的关系
总体回归线未知，但只有一条；样本回 归线多条，每一组样本拟合一条回归线。 总体中 未知，但是常数；而样本 和 回归函数中的 和 是随机变量，因 样本观测值而变动。 u是Y与未知回归线的距离，不可直接 观测；而e是Y与样本回归线的距离，可 根据样本数据拟合出回归线后，计算e。
s2
e
2
推导出

n2

e2 Y 2 Y
XY
一元线性回归模型的检验
拟合程度的评价
– 拟合程度：指样本观测值聚集在样本回归
线周围的紧密程度。 – 评价指标：可决系数（决定系数）
总离差 (Y Y ) 可以分解为

– 回归值与均值的离差 Y Y （解释离差） – 观测值与回归值的离差，即e （未解释离差）

0
s


给定显著性水平，查临界值
t ( n 2 )
2
一元线性回归模型的预测
区间预测：对于给定的x 及置信度水平， 找到 p{ yl ( x0 ) y0 y u ( x0 )} 1 定理：在一元线性回归中，
0

y0 y0 ~ t (n 2) 2 1 ( x0 x) s 1 n l xx 给定1 ，有