最小二乘估计

在 最 小 二 乘 法 中 ， 如 果用x表 示x1 x2 xn ， 用y表 示 n
y1 y2 yn ,则 可 以 求 得 n
b
ቤተ መጻሕፍቲ ባይዱ
(
x1
x)(
y1 ( x1
y) (x2 x)2
x)( (x2
y2 y) ( xn x)( x)2 (xn x)2
yn
y)
x1 y1 x2 y2 xn yn n x y x12 x22 xn2 n x2
已知记忆力x和判断力y是线性相关的，求线性回归方程.
6＋8＋10＋12
2＋3＋5＋6
解 x＝
4
＝9， y ＝ 4 ＝4，
i∑＝41x2i ＝62＋82＋102＋122＝344，
i∑＝4 1xiyi＝6×2＋8×3＋10×5＋12×6＝158，
b＝135484－－44××98×14＝2104＝0.7，
例如有5个样本点，其坐标分别为（x1，y1），（x2，y2）， （x3，y3），（x4，y4），（x5，y5），与直线y=a+bx的接近程
度：
若有n个样本点：（x1，y1）,… ,（xn，yn），可以用下 面的表达式来刻画这些点与直线y＝a+bx的接近程度:
使上式达到最小值的直线y=a+bx就是所要求的直线， 这种方法称为最小二乘法.
a＝ y －b x ＝4－0.7×9＝－2.3.
气温（xi）／ ℃ 26 18 13 10
4
-1
杯数（yi）／杯 20 24 34 38 50 64
(1)试用最小二乘法求出线性回归方程. (2)如果某天的气温是－3℃，请预测这天可能会卖出热茶多少杯.
跟踪训练1 某研究机构对高三学生的记忆力x和判断力y进行统计分析， 得下表数据：
x 6 8 10 12 y23 5 6
方法一: 点到直线的距离公式
d bxi yi a b2 1
y
A x , y
ii
y a bx
xi ,a bxi
0
x
方法二:纵坐标差量
yi a bxi
方法三:纵坐标差量的平方
[ yi a bxi ]2
y
A xi , yi
y a bx
x ,a bx
i
i
0
x
思考2.怎样刻画多个点与直线的接近程度？
最小二乘估计
新课导入
在上一节的讨论中，人的身高与右手一拃长之间近似存在着 线性关系，这种线性关系可以有多种方法来进行刻画.那么用什么 样的线性关系刻画会更好一些呢？
一个非常直观的想法是：一个好的线性关系要保证这条直线 与所有点都近.如何来刻画这个“近”呢？
思考1.用什么样的方法刻画点与直线的距离会更方便有效？ 设直线方程为y=a+bx，样本点A（xi，yi）.
a ybx
利用最小二乘法估计时，要先作出数据的散点图.如果散点图呈现出线 性关系，可以用最小二乘法估计出线性回归方程；如果散点图呈现出其他的 曲线关系，我们就要利用其他的工具进行拟合.
例1 在上一节练习中，从散点图可以看出，某小卖部6天卖出热茶 的杯数（y）与当天气温（x）之间是线性相关的.数据如下表: