回归系数的最小二乘估计

回归系数的最小二乘估计
一、画散点图 二、最小二乘估计法
设 x 为自变量(普通变量) ，Y 为因变量(随机变
量) ，Y 的取值记为 y . 现给定 x 的 n 个值 x1,…, xn,
观察 Y 得到相应的 n 个值 y1,…,yn, 称(xi ,yi)
i=1,2,…,n 为样本点.
1 n 1 n 记 x xi , y yi , n i 1 n i 1

i 1
i 1
na nxb ny n n 2 nxa ( xi )b xi yi i 1 i 1
(x
i 1 n
n
i
x )( yi y )
i
(x
i 1
x )2
二、最小二乘估计法
2 一般地，记 l xx ( x i x ) ( n 1) S 2 n 2 1 1 n
解 打开Excel，建立数据文件如下 表所示 ：
数据文件
x i(元/斤)
1.00 0.90 0.80 0.70 0.70 0.70 0.70 0.65 0.60 0.60 0.55 0.50
销量 价格
y i (斤)
55 70 90 100 90 105 80 110 125 115 130 130
试求黄瓜销量对价格的经 验回归模型。
调用线性回归分析程序：单击“工具”—“数据分析”—
“回归”—确定，便得到如下图所示的对话框
确定后，便输出结果
可得经验回归方程为：
ˆ yi 2wk.baidu.com0.444 157.778 xi
这就是我们要估计的需求函数．
Y:人均收入
1978
1980
1982
1984
1986
1988
x:年份
二、最小二乘估计法
若散点图呈直线变化趋势, 则可以假设变量Y与x满足
Y=a + bx+ε
(*)
并称(*)为一元线性回归理论模型,ε 是随机误差,通常假定
ε～N(0,σ2). 将(xi , yi)i=1,2,…,n 逐一代入(1)便得到一
1 n 2 S1 ( xi x )2 , n 1 i 1 1 n 2 S2 ( yi y ) 2 n 1 i 1
一、画散点图
以(xi ,yi)为坐标在平面直角坐标系中描点, 所得到的图称 之为散点图.
如下图为北京市城市居民家庭生活抽样调查散点图：
北京市城市居民家庭生活抽样调查表1 14 12 10 8 6 4 2 0 1976
二、最小二乘估计法
下面求 Q(a , b) i [ yi (a bxi )]2的最小值：
2 n n
n Q 2 ( yi (a bxi )) 0 a i 1 n Q 2 [ yi (a bxi )] xi 0 b i 1 ˆ a y bx ˆ n x i y i nx y 解方程得 ˆ b i 1 n ( xi x )2 i 1
l yy ( yi y ) 2 ( n 1) S 2 2 n 2 2
i 1
i 1 n
l xy ( xi x ) ( yi y ) x i yi nxy
i 1
i 1
n
n
ˆ a y bx ˆ 则 ˆ l xy b l xx
1 n 1 n x n xi , y n yi i 1 i 1 n 1 2 ，其中 S1 ( xi x )2 n 1 i 1 1 n 2 S2 ( yi y )2 n 1 i 1
例1 某市场连续12天卖 出黄瓜的价格和数量的调 查数据如下：
元线性回归数据结构模型:
2 记Q(a , b) i [ yi (a bxi )] , 则二元函数 Q(a, b) 2 i 1 i 1
yi a bxi i i.i.d. i N (0, 2 ) n n
ˆ ˆ 的最小值点 ( a , b )称为a,b的最小二乘估计(简记为OLSE ).