统计学(第四版)袁卫 庞皓 贾俊平 杨灿 统计学 第七章课件

STATISTICS
统计学 一、相关分析与回归分析的联系
回归的古典意义： 高尔顿遗传学的回归概念 父母身高与子女身高的关系: 无论高个子或低个子的子女 都有向人的平均身高回归的 趋势
统计学
STATISTICS
回归的现代意义：
一个因变量对若干解释变量依存关系的研究 回归的目的（实质）： 由固定的自变量去估计因变量的平均值
统计学
STATISTICS
样本回归函数（SRF）
概念： ●y的样本观测值的条件均值随自变量x而变动 的轨迹，称为样本回归线。 ●如果把因变量y的样本条件均值表示为自变 量x的某种函数，这个函数称为样本回归函数 （简记为SRF）。 表现形式：线性样本回归函数可表示为 ˆx ˆ ˆi y i 或者
t r n2 1 r 2 ~ t (n 2)
统计学
STATISTICS
相关系数的检验方法
给定显著性水平 ， 查自由度为 n-2 的临界值 t
2
若 t t 2 ，表明相关系数 r 在统计上是显著 的，应否定 0 而接受 0 的假设； 反之，若 t t 2 ，应接受 0 的假设。
学习目标
1、变量间的相关关系与相关系数的计算 2、总体回归函数与样本回归函数 3、线性回归的基本假定 4、一元线性回归参数的估计与检验 5、多元线性回归参数的估计与检验 6、回归预测的方法
统计学
STATISTIHale Waihona Puke BaiduS
7.1 相关与回归的基本概念
一、相关关系的概念 二、相关系数 三、相关
STATISTICS
统计学
STATISTICS
第7章
相关与回归分析
统计学 实例1:
STATISTICS
中国妇女生育水平的决定因素是什么?
妇女生育水平除了受计划生育政策影响以外，还可能 与社会、经济、文化等多种因素有关。 1、影响中国妇女生育率变动的因素有哪些？ 2、各种因素对生育率的作用方向和作用程度如何？ 3、哪些因素是影响妇女生育率主要的决定性因素？ 4、如何评价计划生育政策在生育水平变动中的作用？ 5、计划生育政策与经济因素比较,什么是影响生育率的 决定因素？ 6、如果某些地区的计划生育政策及社会、经济、文化 等因素发生重大变化，预期对这些地区的妇女生育 水平会产生怎样的影响？

假定4：随机扰动
ui
与自变量
xi
不相关。
Cov(ui , xi ) E ui E(ui ) xi E( xi ) 0
假定5：正态性假定
ui ~ N (0, )
2
统计学
STATISTICS
回归系数的最小二乘估计
基本思想：
ˆ i 偏离实际观测值 y 的残差 希望所估计的 y i ei 越小越好。可以取残差平方和 ei2 作为衡量 ˆ i 与 yi 偏离程度的标准——最小二乘准则 y
ˆ) Var (
方差和标准误差为
结论：
(x x ) x ˆ) Var ( N (x x )
2 i
2 i i
rXY
统计学
STATISTICS
● 样本相关系数
通过x和y 的样本观测值去估计样本相关系数变量 x和y的样本相关系数通常用 rxy 表示
rXY
rxy
( x x )( y y ) (x x) ( y y)
i i __ 2 __ i i
__
__
2
特点：样本相关系数是根据从总体中抽取的随机样本 的观测值计算出来的，是对总体相关系数的估 计，它是个随机变量。
问题: 肥胖症和体重超常与死亡人数真有显著 的数量关系吗? 这些类型的问题可以运用相关分析与回归分析的 方法去解决。
统计学
STATISTICS
第7章 相关与回归分析
7.1 7.2 7.3 7.4
相关分析 一元线性回归分析 线性回归的显著性检验与回归预测 多元线性回归分析
统计学
STATISTICS
统计学
STATISTICS
● 从变量相关关系变化的方向看 正相关——变量同方向变化 A 同增同减 (A) 负相关——变量反方向变化 一增一减 (B) B ● 从变量相关的程度看 完全相关 (B) 不完全相关 (A) C 不相关 (C)
25 20 15 10 5 0 0 2 4 6 8 10 12
25 20 15 10 5 0 0 2 4 6 8 10 12
统计学
STATISTICS
相关系数的特点：
相关系数的取值在-1与1之间。 当r=0时，表明x与y没有线性相关关系。 当 0 r 1 时，表明x与y存在一定的线性相
关关系: 若 r 0 表明x与y 为正相关; 若 r 0 表明x与y为负相关。 当 r 1 时，表明x与y 完全线性相关: 若r=1，称x与y 完全正相关； 若r=-1，称x与y 完全负相关。
统计学
STATISTICS
总体回归函数（PRF）
概念：将总体因变量y的条件均值表现为自变 量x的某种函数，这个函数称为总体回归函数 （简记为PRF）。 表现形式： （1）条件均值表现形式
（2）个别值表现形式（随机设定形式）
E( y xi ) xi
yi xi ui
35 30 25 20 15 10 5 0 0 5 10 15
统计学
STATISTICS
二、相关系数
●总体相关系数
对于所研究的总体，表示两个相互联系变量相关程度 的总体相关系数为：
Cov( x, y ) Var ( x)Var ( y )
总体相关系数反映总体两个变量X和Y的线性相关程度。 特点：对于特定的总体来说，X和Y的数值是既定的 总体相关系数是客观存在的特定数值。
总 体
样 本
自变量固定值
统计学
STATISTICS
相关分析与回归分析的联系
●共同的研究对象：都是对变量间相关关系的 分析 ●只有当变量间存在相关关系时，用回归分析 去寻求相关的具体数学形式才有实际意义。 ●相关分析只表明变量间相关关系的性质和程 度，要确定变量间相关的具体数学形式依赖 于回归分析 ● 相关分析中相关系数的确定建立在回归分析 的基础上。
估计式：
ˆ
n xi yi xi y i n x ( xi )
2 i 2
( x x )( y y ) (x x)
i i __ 2 i
__
ˆx ˆ y
统计学 最小二乘估计的概率分布性质 STATISTICS

ˆ 都是服从正态分布的随机变量，其 ˆ 和 ˆ) ˆ) 期望为 E( E(
统计学
STATISTICS
一元线性回归的基本假定
假定1：零均值假定。 E(ui xi ) 0 假定2：同方差假定。

2 2 Var (ui xi ) E u E ( u x ) E ( u ) i i i i 假定3：无自相关假定。 2
Cov(ui , u j ) E ui E (ui ) u j E (u j ) E (ui , u j ) 0
统计学
STATISTICS
实例2: 全球吃死的人比饿死的人多?
据世界卫生组织统计，全球肥胖症患者达3 亿人，其中儿童占2200万人，11亿人体重过重。 肥胖症和体重超常早已不是发达国家的“专利”， 已遍及五大洲。目前，全球因”吃”致病乃至死 亡的人数已高于因饥饿死亡的人数。
(引自《光明日报》刘军/文）
rs 1
n(n2 1)
6 di2
统计学
STATISTICS
Spearman等级相关系数的特性
rs 1 时,说明样本等级完全正相关； rs 1 时, 样本等级完全负相关； rs 0 时,说明样本等级不相关；
0 rs 1
样本等级相关系数的取值范围：1 rs 1
STATISTICS
统计学 二、总体回归函数与样本回归函数 若干基本概念
● y的条件分布: y在x取某固定值条件下的分布。
●对于x的每一个取值，都有y的条件期望与之对应， 在坐标图上y的条件期望的点随x而变化的轨迹所形 成的直线或曲线，称为回归线。 ●如果把y的条件期望 E( y xi ) 表示为x的某种函 数： E( y xi ) f ( xi ) , 这个函数称为回归函数。 ●如果其函数形式是只有一个自变量的线性函数, 如 E( y xi ) xi , 称为一元线性回归函数。
统计学一、相关关系的概念
1.变量间的相互关系
◆确定性的函数关系 Y=f (X) ◆不确定性的统计关系—相关关系 Y= f（X）+ε (ε为随机变量) ◆没有关系
变量间关系的图形描述： 坐标图(散点图)
35 30 25 20 15 10 5 0
Y
0
10 X
20
30
统计学
STATISTICS
2、相关关系的类型
统计学
STATISTICS
三、 Spearman等级相关系数
当变量不满足正态分布要求或不是数量型变量时, 简单 线性相关系数不宜使用,可以用Spearman等级相关系数 作相关性分析。 对于样本容量为n的变量x 和y ，如果取值都可以分为n 个等级，而且样本的n个单位分别不重复地属于x和y的 不同等级，没有两个单位取相同等级的情况，并且用 d i 表示样本单位属于x的等级与 y的等级的级差。 Spearman等级相关系数 为：
统计学
STATISTICS
使用相关系数的注意事项：
▲ x和y 都是相互对称的随机变量，所以
xy yx
▲相关系数只反映变量间的线性相关程度，不 能说明非线性相关关系。 ▲相关系数不能确定变量的因果关系，也不能 说明相关关系具体接近于哪条直线。
统计学
STATISTICS
相关系数的检验
为什么要检验？ 样本相关系数是随抽样而变动的随机变量, 相关系数的统计显著性还有待检验。 检验的依据： 如果x与都服从正态分布，在总体相关系 数 0 的假设下，与样本相关系数 r 有关的 t 统计量服从自由度为n-2的 t 分布：
统计学
STATISTICS
三、回归系数的普通最小二乘估计
回归系数估计的思想：
为什么只能对未知参数作估计?
参数是未知的、不可直接观测的、不能精确计算的
能够得到的只是变量的样本观测值 结论:只能通过变量样本观测值选择适当方法去近似 地估计回归系数。 前提: u是随机变量其分布性质不确定，必须作某些 假定，其估计才有良好性质，其检验才可进行。 原则: 使参数估计值“尽可能地接近”总体参数真实值
ˆx e ˆ yi i i
样本回归函数与总体回归函数的关系 统计学 STATISTICS ——相互联系
● 样本回归函数的函数形式应与设定的总体回 归函数的函数形式一致 。
ˆ ˆ ● 和 是对总体回归函数参数的估计。
ˆ 是对总体条件期望 E( y x ) 的估计 ● Y i i
当 0 rs 1 时, 越接近1，正相关程度越高； 当 1 rs 0 时, 越接近-1，负相关程度越高。 可以证明：Spearman等级相关系数是简单线 性相关系数的特例。
统计学
STATISTICS
7．2 一元线性回归分析
一、相关分析与回归分析的联系 二、总体回归函数与样本回归函数 三、回归系数的普通最小二乘估计 四、拟合优度度量
● 残差 e 在概念上类似总体回归函数中的随机 误差u。
回归分析的目的： 用样本回归函数去估计总体回归函数。
样本回归函数与总体回归函数的关系 统计学 STATISTICS ——相互区别
●总体回归函数虽然未知，但它是确定的；
样本回归线随抽样波动而变化，可以有许多条。 ●样本回归线还不是总体回归线，至多只是未知总体 回归线的近似表现。 ●总体回归函数的参数虽未知，但是确定的常数； 样本回归函数的参数可估计，但是随抽样而变化的随 机变量。 ●总体回归函数中的 u i 是不可直接观测的； 而样本回归函数中的 ei 是只要估计出样本回归的参数 就可以计算的数值。
●
从涉及的变量数量看 简单相关 多重相关（复相关） ● 从变量相关关系的表现形式看 线性相关——散布图接近一条直线(左图) 非线性相关——散布图接近一条曲线(右图)
25 20 15 10 5 0 0 2 4 6 8 10 12
11.2 11 10.8 10.6 10.4 10.2 10 0 2 4 6 8 10