简单线性回归

使用相关系数要注意：
简单线性相关包含了其他变量的影响。
X,Y都是随机变量，相关系数只说明其 线性相关程度，不说明其非线性关系， 也不反映他们之间的因果关系；
样本相关系数是总体相关系数的样本估 计量；
相关系数具有对称性，即 xy yx ；
相关系数取值区间[-1，1]。
1.3 回归分析和相关分析
例2.1：一个假想的社区有100户家庭组成，要研 究该社区每月家庭消费支出Y与每月家庭可支配收 入X的关系。
即如果知道了家庭的月收入，能否预测该社区 家庭的平均月消费支出水平。
为达到此目的，将该100户家庭划分为组内收入差 不多的10组，以分析每一收入组的家庭消费支出。
每 月 家 庭 消 费 支 出 Y （元）
回归函数在坐标系中用图形表示出来就 是回归线。它表示了应变量和解释变量 之间的平均关系。
回归线图示
概率密度函数 f(Yi)
Y
x1 xi Xk
PRF
X
注意：
一般地，在重复抽样中解释变量被假定 为固定的。所以回归分析中，解释变量 一般当作非随机变量处理。
1.4 总体回归函数
由于变量间关系的随机性，回归分析关心的是 根据解释变量的已知或给定值，考察被解释变量的总 体均值，即当解释变量取某个确定值时，与之统计相 关的被解释变量所有可能出现的对应值的平均值。
3500 4000
概念：
在给定解释变量Xi条件下被解释变量Yi的期望 轨迹称为总体回归线（population regression line）， 或更一般地称为总体回归曲线（population regression curve）。
正相关（我国人均消费函数）
Y
1200
1000
800
600
400
200 0
500 1000 1500 2000 2500 X
Y为我国人均消费 X为我国人均国民收入
相关系数：0.98
Y
负相关
80
70
60
50
40
30
20 0
10
20
30
40
X
Y与X的相关系数： -0.92
不相关（不排除存在曲线相关）
E(Y|X=Xi) 该例中：E(Y | X=800)=561
描出散点图发现：随着收入的增加，消费 “平均地说”也在增加，且Y的条件均值均落在 一根正斜率的直线上。这条直线称为总体回归线。
3500
每 月 消 费 支 出
Y （元）
3000 2500 2000 1500 1000
500
0
500
1000
1500 2000 2500 3000 每月可支配收入X（元）
共计
表 2.1.1 某社区家庭每月收入与消费支出统计表 每月家庭可支配收入X（元）
800 1100 1400 1700 2000 2300 2600 2900 3200 3500 561 638 869 1023 1254 1408 1650 1969 2090 2299 594 748 913 1100 1309 1452 1738 1991 2134 2321 627 814 924 1144 1364 1551 1749 2046 2178 2530 638 847 979 1155 1397 1595 1804 2068 2266 2629
何谓简单线性回归模型
只有两个变量的线性回归模型，称为简单 线性回归模型，也叫做双变量模型，或者 一元线性回归模型。
模型形式为：
Y 1 2 X u
或者等价表示为：
Yi 1 2 Xi ui
第一节 回归分析和回归方程
本节主要介绍： 1.1 经济变量之间的关系。 1.2 相关关系：分类、度量。 1.3 回归分析：概念、回归线、回归函数 1.4 总体回归函数 1.5 随机扰动项 1.6 样本回归函数
935 1012 1210 1408 1650 1848 2101 2354 2860 968 1045 1243 1474 1672 1881 2189 2486 2871
1078 1254 1496 1683 1925 2233 2552 1122 1298 1496 1716 1969 2244 2585 1155 1331 1562 1749 2013 2299 2640 1188 1364 1573 1771 2035 2310 1210 1408 1606 1804 2101
消费支出Y的分布是确定的，即以X的给定值为条件
的Y的条件分布（Conditional distribution）是已
知的，
如： P(Y=561|X=800）=1/4。
因此，给定收入X的值Xi，可得消费支出Y的条件 均值（conditional mean）或条件期望（conditional expectation）：
1430 1650 1870 2112 1485 1716 1947 2200
2002 2420 4950 11495 16445 19305 23870 25025 21450 21285 15510
分析：
（1）由于不确定因素的影响，对同一收入水平 X，不同家庭的消费支出不完全相同；
（2）但由于调查的完备性，给定收入水平X的
Y
60 40 20
0 -20 -40 -60
-60 -40 -20 0 20 40 60 X
相关系数为： 4.24E-18
ቤተ መጻሕፍቲ ባይዱ.2.2 线性相关程度的度量 ——线性相关系数
总体相关系数：
XY
Cov(X ,Y ) Var(X )Var(Y )
样本相关系数：
rXY
(Xi X )(Yi Y ) ( Xi X )2 (Yi Y )2
1.1 经济变量之间的关系
确定的函数关系：y＝f（x） 不确定性的统计关系——相关关系
y＝f（x）＋u （u为随机变量） 没有关系
变量间的函数关系和相关关系在一定条件下可 以互相转化。
1.2 相关关系
1.2.1 分类： 只有两个变量：简单相关；
三个及三个以上：多重相关（复相关）；
线性相关、非线性相关； 正相关、负相关、不相关
1.3.1 回归分析 是对一个应变量对若干解释变量依存 关系的研究； 其目的是：由固定的解释变量去估计 和预测应变量的平均值等。
1.3.2 回归函数、回归线
应变量Y的条件期望E(Y/X i )随着解释变量 X的变化而有规律地变化。把这种变化关 系用函数表示出来，就是回归函数：
E(Y/X i ) f(X i )