回归分析方法12 - 副本

或 ˆ 1
x x y y
i 1 i i
n
x x
i 1 i
n
2
其中
1 n 1 n x xi , y y i n i 1 n i 1
1 n 2 1 n x xi , xy xi yi n i 1 n i 1
2
ˆ (i 0,1)称为 的最小二乘 用这种方法求出的估计 i i 估计，简称LS 估计。（经验）回归方程为
1.2.1 数学模型
例1 测16名成年女子的身高与腿长所得数据如下：
身高 腿长
143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164
88
85
88
91
92
93Leabharlann 939596
98
97
96
98
99
100
102
以身高x为横坐标，以腿长y为纵坐标将这些数据点（xi，yi） 在平面直角坐标系上标出.
确定性关系和相关关系的联系
由于存在测量误差等原因,确定性关系在实际 问题中往往通过相关关系表示出来;另一方面,当对 事物内部规律了解得更加深刻时,相关关系也有可 能转化为确定性关系.
回归分析——处理变量之间的相关关系的一 种数学方法,它是最常用的数理统计方法.
回归分析的任务——根据试验数据估计回归 函数;讨论回归函数中参数的点估计、区间估计; 对回归函数中的参数或者回归函数本身进行假设 检验;利用回归函数进行预测与控制等等.
记
Q Q( 0 , 1 ) y i 0 1 x i
i 1 2 i i 1
n
n
2
ˆ 使得 ˆ ， 最小二乘法就是选择 0 和 1 的估计 1 0
ˆ , ˆ ) min Q( , ) Q( 0 1 0 1
0 , 1
（2）
ˆ 可简记为： 这时 1
ˆ 1 Lxy Lxx .
ˆ 注意： 1 N ( 1 ,
2
2 ( x x ) i i 1 n
), 所以它是1的无偏估计，
ˆ 也是 的无偏估计。 同样， 0 0
（2） 2 的无偏估计
记
ˆ , ˆ ) ˆ ˆx Qe Q( yi 0 1 0 1 i
ˆ ˆ x y ˆ (x x) ˆ y 0 1 1
ˆ 是拟合直线的斜率， ˆ 是拟合直线的截距。n 显然， 1 0 个点( xi , yi )(i 1, 2,..., n)的几何重心( x , y )落在拟合直线上。
为了便于记忆，引入下列记号：
n n 2 2 L ( x x ) L ( y y ) yy i xx i i 1 i 1 n L ( x x )( y y ) xy i i i 1
e 0 1 e e
越接近于0，说明线性回归方程（1）越显著。
1.2.3 回归方程的显著性检验
在实际工作中，实现我们并不能断定y与x之间 有线性关系，式(1）只是一种假设。当然这个假设 不是没有根据，我们可以通过专业知识或散点图做 粗略判断。但在求出回归方程之后，还须对这种线 性回归方程同实际观测数据拟合的效果进行检验。
（1）
固定的未知参数 0 、 1 称为回归系数，自变量 x 也称为回归变量.
Y 0 1 x ，称为 y 对 x 的回归直线方程.
一元线性回归分析的主要任务是：
1、用试验值（样本值）对 0 、 1 和 作点估计； 2、对回归系数 0 、 1 作假设检验；
3.对x x0处对y做预测和区间估计
由（1）知，当|1|越大，y与x的变化趋势越明显； 反之，当当|1|越小，y与x的变化趋势越不明显；特 别当1 =0，y与x不存在线性关系。
对回归方程 Y 0 1 x 的显著性检验，归结为对假设
H0 : 1 0; 或 H1 : 1 0
进行检验.
假设 H 0 : 1 0 被拒绝，则回归显著，认为 y 与 x 存 在线性关系，所求的线性回归方程有意义；否则回归 不显著，y 与 x 的关系不能用一元线性回归模型来描 述，所得的回归方程也无意义.此时，可能：
i 1
n

(y
2 n i 1
i
ˆi )2 y
称Qe为残差平方和或剩余平方和. 可以证明：
E(Qe ) (n 2)
于是 的无偏估计为
2
2
2 ˆe Qe (n 2)
ˆ e2为剩余方差（残差的方差），它是 2的无偏估计， 称 ˆ ， ˆ 独立。 ˆ 2分别与 ˆ 也叫剩余标准差。显然， ˆ 且
回归分析方法
一元线性回归 多元线性回归
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验 、 预 测 与 控 制
性可 回线 归性 （化 曲的 线一 回元 归非 ）线
数 学 模 型 及 定 义
模 型 参 数 估 计
检多 验元 与线 预性 测回 归 中 的
逐 步 回 归 分 析
1.2一元线性回归分析
1.2.2 模型参数估计
（1）回归系数的最小二乘估计
有 n 组独立观测值， （x1，y1） ， （x2，y2） ，…， （xn，yn）
yi 0 x i i , i 1, 2,..., n 设 2 E 0 , D 且 1 2， ..., n 相互独立 i i
为此，将上式分别对0，1求偏导，得
n Q 2 ( yi 0 1 xi ) i 1 0 n Q 2 xi ( yi 0 1 xi ) i 1 1
令上两式为0，解得0，1，得
ˆ y ˆx 0 1 ˆ xy x y 1 2 x x2
102 100 98 96 94 92 90 88 86 84 140 145 150 155 160 165
解答
y 0 1 x
散点图
一般地，称由 y 0 1 x 确定的模型为一元线性回归模型， 记为
y 0 1 x 2 E 0 , D