一元线性回归模型及参数估计

合集下载

第一课时一元线性回归模型及其参数的最小二乘估计

解析由题意得－x＝3＋4＋4 5＋6＝4.5，－y＝25＋30＋4 40＋45＝35. ∵回归直线方程^y＝b^x＋a^中b^＝7，∴35＝7×4.5＋a^，解得a^＝3.5， ∴^y＝7x＋3.5. ∴当 x＝10 时，^y＝7×10＋3.5＝73.5(万元)．答案 73.5
(2)列出下表，并用科学计算器进行有关计算．
i
1
2
3
4
5
xi
2
4
5
6
8
yi
30
40
60
50
70
xiyi
60
160
300
300
560
x2i
4
16
25
36
64
－x＝5，－y＝50，i＝∑5 1x2i ＝145，i＝∑5 1xiyi＝1 380
5
∑xiyi－5－x
－
y
于是可得，b^＝i＝15
∑xi2－5－x 2
【训练2】某车间为了规定工时定额，需要确定加工零件所花费的时间，为此做了四次实验，得到的数据如下：
零件的个数x(个) 加工的时间y(h)
23 2.5 3
45 4 4.5
(1)已知零件个数与加工时间线性相关，求出y关于x的线性回归方程； (2)试预测加工10个零件需要多少时间？
4
解 (1)由表中数据，得∑xiyi＝2×2.5＋3×3＋4×4＋5×4.5＝52.5， i＝1
【迁移2】 (变条件，变设问)本例中近似方程不变，每小时生产有缺点的零件件数是 7，估计机器的转速．解因为 y＝5710x－67，所以当 y＝7 时，7＝5710x－67，解得 x≈11，即估计机器的转速约为 11 转/秒．

第1课时一元线性回归模型及参数的最小二乘估计

√B.劳动生产率提高1 000元时，工人工资平均提高80元
C.劳动生产率提高1 000元时，工人工资平均提高130元 D.当月工资为250元时，劳动生产率为2 000元
解析因为经验回归直线的斜率为80，所以x每增加1，y平均增加80，即劳动生产率提高1 000元时，工人工资平均提高80元.
1234
x6
8
10
12
y23
5
6
(2)请根据上表提供的数据，用最小二乘法求出 y 关于 x 的经验回归方程y^
＝b^ x＋a^ ；
解 x ＝6＋8＋410＋12＝9， y ＝2＋3＋4 5＋6＝4，
4
x2i ＝62＋82＋102＋122＝344，
i＝1
4
xiyi＝6×2＋8×3＋10×5＋14－10×8×2＝24，
i＝1
则b^ ＝8204＝0.3， a^ ＝ y －b^ x ＝2－0.3×8＝－0.4，故所求经验回归方程为y^ ＝0.3x－0.4.
(2)判断变量x与y之间是正相关还是负相关；解由于变量y的值随x值的增加而增加(b＝0.3＞0)，故x与y之间是正相关.
随堂演练
一、一元线性回归模型与函数模型
知识梳理
一元线性回归模型：我们称
Y＝bx＋a＋e， Ee＝0，De＝σ2
为Y关于x的_一__元__线_性__回__归__
模型，其中，Y称为因变量或响应变量，x称为自变量或解释变量；
a和b为模型的未知参数，a称为截距参数，b称为斜率参数；e是Y与bx＋a
i＝1
b^ ＝15384－4－4×4×9×924＝2104＝0.7，a^ ＝ y －b^ x ＝4－0.7×9＝－2.3，
故经验回归方程为 y^ ＝0.7x－2.3.

§2.2 一元线性回归模型的参数估计

i i 2 i
β 0 = Y β1 X
例2.2.1：在上述家庭可支配收入-消费支出例中，对：在上述家庭可支配收入-消费支出例中，于所抽出的一组样本数，于所抽出的一组样本数，参数估计的计算可通过下面的进行。表2.2.1进行。进行
表 2.2.1 数计计参估的算表
Xi
Yi
xi
1
的样本方差： 2 = σ 2 x 2 / n ( x x )2 ∑ i ∑ i β0 Sβ
0
β1 =
∑x y ∑x
i 2 i
i
5769300 = = 0.777 7425000
β 0 = Y β 0 X = 1567 0.777 × 2150 = 103.172
因此，由该样本估计的回归方程为：
Yi = 103.172 + 0.777 X i
三、最小二乘估计量的性质
（1）线性性，即它是否是另一随机变量的线性）线性性，函数；函数；（2）无偏性，即它的均值或期望值是否等于总）无偏性，体的真实值；体的真实值；（3）有效性，即它是否在所有线性无偏估计量）有效性，中具有最小方差。中具有最小方差。
中，最小二乘估计量 β 0 、 β1 具有最小方差。
（2）证明最小方差性
β 1* 是其他估计方法得到的关于β1 的线性无偏估计量：假设
β 1* = ∑ ci Yi
其中，ci=ki+di，di为不全为零的常数则容易证明
var(β 1* ) ≥ var(β 1 )
同理，可证明β0 的最小二乘估计量 β 0 具有最的小方差
-973 1314090 1822500 947508 640000 352836 -929 975870 1102500 863784 1210000 407044 -445 334050 562500 198381 1960000 1258884 -412 185580 202500 170074 2890000 1334025 -159 23910 22500 25408 4000000 1982464 28 4140 22500 762 5290000 2544025 402 180720 202500 161283 6760000 3876961 511 382950 562500 260712 8410000 4318084 1018 1068480 1102500 1035510 10240000 6682225 963 1299510 1822500 926599 12250000 6400900 5769300 7425000 4590020 53650000 29157448

一元线性回归分析

一元线性回归模型是回归分析中最简单的模型之一。它假设因变量与自变量之间存在线性关系，并通过最小化残差的平方和来确定模型的参数。
模型评估指标
模型评估指标用于衡量回归模型的拟合优度和预测精度。常用的指标包括均方误差、决定系数和标准化残差等，可以帮助我们评估模型的有效性和适用性。
参数估计方法
参数估计是确定回归模型中各个参数的取值的过程。常用的参数估计方法包括最小二乘法、最大似然估计法和贝叶斯估计法等，可以帮助我们找到最优的参数估计结果。
一元线性回归分析
回归分析是一种用于建立变量之间关系的统计方法。本演示将介绍一元线性回归模型的构建、参数估计、模型假设检验以及模型预测和应用。
回归分析的概述
回归分析是一种通过建立变量之间的关系来描述和预测现象的统计方法。它可以帮助我们理解变量之间的因果关系，并从中推断出未知的检验
模型假设检验用于验证回归模型的假设是否成立。常见的假设检验包括检验回归系数的显著性、整体模型的显著性以及模型的线性关系等，可以帮助我们判断模型是否可靠。
回归诊断和残差分析
回归诊断和残差分析通过检查模型的残差来评估模型的拟合优度和假设的满足程度。常用的诊断方法包括残差图、QQ图和离群值分析等，可以帮助我们发现模型的不足和改进方向。
模型预测和应用
回归模型可以用于预测未知观测值，并帮助我们做出决策和制定策略。它在经济学、社会科学、医学等领域具有广泛的应用，可以为决策者提供有力的数据支持。

2.2 一元线性回归模型的参数估计

于是，Y的概率函数为
P(Yi ) = 1
− 1 2σ
2
ˆ ˆ (Yi − β 0 − β1 X i ) 2
σ 2π
e
（i=1,2,…n）
4/29/2012
14
因为Yi是相互独立的，所以的所有样本观测值的联合概率，也即或然函数(likelihood function) 或然函数(likelihood function)为：或然函数
§2.2 一元线性回归模型的参数估计
一、一元线性回归模型的基本假设二、参数的普通最小二乘估计（OLS）参数的普通最小二乘估计（OLS）参数估计的最大或然法(ML) 三、参数估计的最大或然法(ML) * 四、最小二乘估计量的性质五、参数估计量的概率分布及随机干扰项方差的估计
4/29/2012
1
640000 352836 1210000 407044 1960000 1258884 2890000 1334025 4000000 1982464 5290000 2544025 6760000 3876961 8410000 4318084 10240000 6682225 12250000 6400900 53650000 29157448
4/29/2012
-973 1314090 1822500 947508 -929 975870 1102500 863784 -445 334050 562500 198381 -412 185580 202500 170074 -159 23910 22500 25408 28 4140 22500 762 402 180720 202500 161283 511 382950 562500 260712 1018 1068480 1102500 1035510 963 1299510 1822500 926599 5769300 7425000 4590020

一元线性回归分析

一元线性回归分析摘要：一元线性回归分析是一种常用的预测和建模技术，广泛应用于各个领域，如经济学、统计学、金融学等。

本文将详细介绍一元线性回归分析的基本概念、模型建立、参数估计和模型检验等方面内容，并通过一个具体的案例来说明如何应用一元线性回归分析进行数据分析和预测。

1. 引言1.1 背景一元线性回归分析是通过建立一个线性模型，来描述自变量和因变量之间的关系。

通过分析模型的拟合程度和参数估计值，我们可以了解自变量对因变量的影响，并进行预测和决策。

1.2 目的本文的目的是介绍一元线性回归分析的基本原理、建模过程和应用方法，帮助读者了解和应用这一常用的数据分析技术。

2. 一元线性回归模型2.1 模型表达式一元线性回归模型的基本形式为：Y = β0 + β1X + ε其中，Y是因变量，X是自变量，β0和β1是回归系数，ε是误差项。

2.2 模型假设一元线性回归模型的基本假设包括：- 线性关系假设：自变量X与因变量Y之间存在线性关系。

- 独立性假设：每个观测值之间相互独立。

- 正态性假设：误差项ε服从正态分布。

- 同方差性假设：每个自变量取值下的误差项具有相同的方差。

3. 一元线性回归分析步骤3.1 数据收集和整理在进行一元线性回归分析之前，需要收集相关的自变量和因变量数据，并对数据进行整理和清洗，以保证数据的准确性和可用性。

3.2 模型建立通过将数据代入一元线性回归模型的表达式，可以得到回归方程的具体形式。

根据实际需求和数据特点，选择适当的变量和函数形式，建立最优的回归模型。

3.3 参数估计利用最小二乘法或最大似然法等统计方法，估计回归模型中的参数。

通过最小化观测值与回归模型预测值之间的差异，找到最优的参数估计值。

3.4 模型检验通过对回归模型的拟合程度进行检验，评估模型的准确性和可靠性。

常用的检验方法包括：残差分析、显著性检验、回归系数的显著性检验等。

4. 一元线性回归分析实例为了更好地理解一元线性回归分析的应用，我们以房价和房屋面积之间的关系为例进行分析。

计量经济学第二篇一元线性回归模型

第二章一元线性回归模型2.1 一元线性回归模型的基本假定有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。

其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。

上模型可以分为两部分。

（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。

图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。

以收入与支出的关系为例。

假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。

但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。

所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。

“线性”一词在这里有两重含义。

它一方面指被解释变量Y 与解释变量X 之间为线性关系，即另一方面也指被解释变量与参数0β、1β之间的线性关系，即。

1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。

所以在经济问题上“控制其他因素不变”是不可能的。

随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。

回归模型的随机误差项中一般包括如下几项内容：（1）非重要解释变量的省略，（2）数学模型形式欠妥，（3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。

2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。

第一节一元线性回归分析-

回归分
线性回归分析非线性回归分析
一元线性回归分析多元线性回归分析
析
一、一元线性回归的数学模型
问题的分析
设随机变量 Y (因变量 )和普通变量 x ( 自变量 )之
间存在着相关关系
Y
F(y x)表示当x取
确定的值x时,所对应
的Y的分布函数 .
C1
(x2)
求Q的最小值可以利用微分法
n
设 Q (,) (Y i x i)2 ,求偏导可得 i 1 Q ( ,)2i n 1(Y ixi)0
Q(

,

)

2
n i 1
xi (Yi
来自xi)0

n
(

n
[
i1
2 (

xi )2]
2 n[
n
(

i1
i1
n
= i1
(n1(xin(xx)i(x0x)2x))Yi
i1
因而 Y ˆ 0 服从正态分布，其期望值为
E Y 0 E ( ˆ ˆx 0 ) x 0
D(Yˆ0)=i n1(n 1(xin(xx)i(x0x)2x))2DYi
例1 为研究某一化学反应过程中,温度x(oC)对产品得率Y(%)的影响,测得数据如下.
温度x(oC) 100 110 120 130 140 150 160 170 180 190
得率Y(%) 45 51 54 61 66 70 74 78 85 89 用MATLAB画出散点图
x=100:10:190;y=[45,51,54,61,66,70,74,78,85,89]; plot(x,y,'.r')

一元线性回归模型的参数估计

ˆ ˆ ∑ ( β 0 + β1 X i − Yi ) = 0 ˆ ˆ ∑ ( β 0 + β1 X i − Yi ) X i = 0
(2.2.4） (2.2.5)
或
ˆ ˆ ΣYi = nβ 0 + β1ΣX i 2 ˆ ˆ ΣYi X i = β 0 ΣX i + β1ΣX i
但是，随机误差项的方差的估计量是不同的。是不同的
解或然方程
∂ * n 1 ˆ ˆ L =− 2 + Σ(Yi − β 0 − β 1 X i ) 2 = 0 2 4 ∂σ µ 2σ µ 2σ µ
2 σ µ 的最大或然估计量为：即可得到
1 ˆ ˆ ˆ2 σ µ = Σ(Yi − β 0 − β 1 X i ) 2 = n
于是， Yi 的概率函数为
P (Yi ) = 1
− 1 2σ µ
2
ˆ ˆ (Yi − β 0 − β1 X i ) 2
σ 2π
e
i=1,2,…,n
因为 Yi 是相互独立的，所以 Y 的所有样本观测值的联合概率，也即或然函数或然函数(likelihood function)为：或然函数
ˆ ˆ 2 L( β 0 , β1 ,σ µ ) = P(Y1 , Y2 ,⋅ ⋅ ⋅, Yn )
解得模型的参数估计量为：
ˆ ΣX i2 ΣYi − ΣX i ΣYi X i β 0 = nΣX i2 − (ΣX i ) 2 ˆ β 1 = nΣYi X i − ΣYi ΣX i nΣYi 2 − (ΣX i ) 2
可见，在满足一系列基本假设的情况下，可见，在满足一系列基本假设的情况下，模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。

计量经济学第二章一元线性回归模型

计量经济学第二章一元线性回归模型第二章一元线性回归模型第一节一元线性回归模型及其古典假定第二节参数估计第三节最小二乘估计量的统计特性第四节统计显著性检验第五节预测与控制第一节回归模型的一般描述（1）确定性关系或函数关系：变量之间有唯一确定性的函数关系。

其一般表现形式为：一、回归模型的一般形式变量间的关系经济变量之间的关系，大体可分为两类：（2.1)（2）统计关系或相关关系：变量之间为非确定性依赖关系。

其一般表现形式为：(2.2)例如：函数关系：圆面积S =统计依赖关系/统计相关关系：若x和y之间确有因果关系，则称(2.2)为总体回归模型，x(一个或几个）为自变量（或解释变量或外生变量），y为因变量（或被解释变量或内生变量），u为随机项，是没有包含在模型中的自变量和其他一些随机因素对y的总影响。

一般说来，随机项来自以下几个方面：1、变量的省略。

由于人们认识的局限不能穷尽所有的影响因素或由于受时间、费用、数据质量等制约而没有引入模型之中的对被解释变量有一定影响的自变量。

2、统计误差。

数据搜集中由于计量、计算、记录等导致的登记误差；或由样本信息推断总体信息时产生的代表性误差。

3、模型的设定误差。

如在模型构造时，非线性关系用线性模型描述了；复杂关系用简单模型描述了；此非线性关系用彼非线性模型描述了等等。

4、随机误差。

被解释变量还受一些不可控制的众多的、细小的偶然因素的影响。

若相互依赖的变量间没有因果关系，则称其有相关关系。

对变量间统计关系的分析主要是通过相关分析、方差分析或回归分析(regression analysis)来完成的。

他们各有特点、职责和分析范围。

相关分析和方差分析本身虽然可以独立的进行某些方面的数量分析，但在大多数情况下，则是和回归分析结合在一起，进行综合分析，作为回归分析方法的补充。

回归分析(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。

一元线性回归模型的参数估计

散点图
某居民小区家庭收入（X）与消费支出（Y）
Y
1500
的散点图
1300
1100
900
Yˆ = aˆ + bˆX
700
500
X
600
1100
1600
2100
最小二乘准则
Y
.(Xi,Yi)
. Yˆ = aˆ + bˆX (X j ,Yˆj )
ei
. . (Xi,Yˆi)
0
. ej
(Xj,Yj)
X
min
参数估计计算表
Yi
xi
yi
3637 3919 4185 4331 4616 4998 5359 6030
37075
-1517.4 -961.4 -640.4 -375.4 53.6 479.6 1058.6 1902.6 ——
-997.4 -715.4 -449.4 -303.4 -18.4 363.6 724.6 1395.6 ——
X = X i = 46403 = 5800.375
n
8
Y = Yi = 37075 = 4634.375
n
8
根据表 2 合计栏的数据及以上关于 X 和Y 的计
算结果可得：
bˆ1 =
xi yi = 6198658.9 0.7083 xi2 8751239.9
bˆ0 = Y - bˆ1 X 525.8662
2.对回归系数（斜率）进行统计假设检验，信度为 0.05。
3.估计可决系数并进行统计假设检验，信度为 0.05。
4.若下一年度居民货币收入为 25.5 亿元，预测购买消费品
支出的金额及预测区间，信度为 0.05。

计量经济学【一元线性回归模型——参数估计】

ˆ0计量ˆ1 和
可以分别表示为被解释变量观测Y值i
的线
性组合（线性函数）；
ˆ证1 明
如( X下i ： X )(Yi (Xi X )2
Y
)
(Xi X) (Xi X )2
(Yi
Y
)
ki (Yi Y )
其中ki ：
(Xi X) (Xi X )2
ki
对ki于引0 进的 ki (X容i 易X证) 明有k如i X下i 的1 特性k：i2
2
,
,
,
,
,
,
,
,
i
1,
2,
n
假设3：随机误差项在不同样本点之间是独立的，不
存
Cov(i , j ) 0,,,,,,,i j,,,,i, j 1, 2, n
在序列相关，即：
一、一元线性回归模型的基本假设
假设 4：随机误差项与解释变量之间不相关，即：
Cov( Xi , i ) 0,,,,,,,,,,,i 1, 2, n
：待估
E(Y
总样体本回回归归函函数数形形式式：：Yˆi
| Xi)
ˆ0
0 ˆ1X i
1X i
其计
中估
方
ˆ0 , ˆ1 法ˆ0，, ˆ1求
是ˆ00,,ˆ11 出
的估计值，我们需要找到一种参数，并0 ,且1 这种参数估计方法保证了估
计值数
与总体真值
尽可能地接近；这种参
i
根据微小，
积
分中
ˆ0 , ˆ1
求
极
值
的
原
理
，
要
使 i
ei2
待定系数

一元线性回归模型的参数估计及性质

1
2 【注】只需计算 x、y、 xi 、 xi yi
【例】（2013）
ˆ ,b ˆ 2、 (b0 , b1 ) 的最小二乘法估计 (b 0 1 ) 的性质
ˆ ,b ˆ 1） b 0 1 的分布
令 ˆ ( xi x )( yi y ) ( xi x ) yi ( xi x ) y k y b 1 i i 2 2 2 i ( xi x ) ( xi x ) ( xi x )
其中
2
yi b0 b1 xi ei yi nb0 b1 xi ei nb0 b1 xi y b0 b1 x
方差：
ˆ ) E[b ˆ E (b ˆ )]2 E (b ˆ b ) 2 E (b k e b ) 2 Var(b 1 1 1 1 1 1 i i 1 E ( ki ei ) 2 E (ki ei ) 2 ki2 E (ei2 ) 2 ki2 ( xi x ) 2 2 2 ( ( xi x ) 2 ) 2 ( xi x ) 2 lxx
一、一般模型
( xi x ) 0 ( yi y ) 0
yi b0 b1 xi ei
1、 b0 , b1 的点估计——最小二乘法设
(i 1, , n)
e1 , , en独立同分布，E (ei ) 0, Var(ei ) 2
ˆ b ˆx ˆi b y 0 1 i
2
ˆ ) Var( y b ˆ x ) Var( y ) ( x ) 2 Var(b ˆ ) Var( 1 y ) ( x ) 2 Var(b 0 1 1 i n lxx 2 2 1 1 (x) 2 ( x )2 2[ ] n lxx n lxx

一元线性回归模型的参数估计

记 Q ei2 (Yi ˆ0 ˆ1Xi )2
根据微积分中多元函数求极值的方法，求Q关于
ˆ0和ˆ1的一阶偏导并令其等于0得：
Q
ˆ0
2
(Yi ˆ0 ˆ1Xi ) 0
Q
ˆ1
2
(Yi ˆ0 ˆ1Xi )Xi 0
整理得：
即：
(Yi ˆ0 ˆ1Xi ) 0
(Yi ˆ0 ˆ1Xi )Xi 0
5.样本回归函数的离差形式
记
yˆi Yˆi Y
将ˆ0
Y
ˆ1X代入Yˆi
ˆ0
ˆ1
X
可得
i
Yˆi Y ˆ1X ˆ1Xi
整理得 Yˆi Y ˆ1(Xi X )
写成离差形式为：
yˆi ˆ1xi
6.注意几个概念的区别
随机误差项：被解释变量的观测值与它的条件期望的差
残差：被解释变量的观测值与它的拟合值的差，是随机误差项的估计值
第二节一元线性回归模型的参数估计
• 一元线性回归模型的概念 • 一元线性回归模型的基本假定 • 参数的普通最小二乘估计 • 截距为零的一元线性回归模型的估计 • 最小二乘估计量的性质 • 参数估计量的概率分布
一、一元线性回归模型的概念
一元线性回归模型是最简单的计量经济学模型，在模型中只有一个解释变量，其一般形式是：
3.Y的分布性质：由于Yi 0 1Xi ui，ui的分布性质决定了Yi的分布
性质，对于ui的一些假定可以等价地表示为对Yi的一些假定：
假定2：零均值假定。E(Yi ) 0 1Xi 假定3：等方差假定。Var(Yi ) 2
假定4：无自相关假定。Cov(Yi ,Yj ) 0(i j) 假定5：正态性假定。Yi ~ N (0 1Xi , 2 )

第3章一元线性回归模型的估计

3.1普通最小二乘法
图3-4 工作文件对话框
图3-5 工作文件窗口
3.1普通最小二乘法
工作文件窗口是EViews的子窗口，工作文件一建立就包含了两个对象，一个是系数向量C（用来保存估计系数），另一个是残差序列RESID（实际值与拟合值之差）。 3.建立工作对象
在工作文件窗口上选择Objects/New Object，弹出一个对象窗口，选择组（Group）对象并命名，点击“OK”，如图3-6所示。
(Yi ˆ0 ˆ1Xi )Xi ei Xi 0
（3-10）
对式（3-9）、（3-10）进行整理得：
3.1普通最小二乘法
Yi nˆ0 ˆ1 X i （3-11）
Yi Xi ˆ0
X i ˆ1
X
2 i
（3-12）
式（3-11）和（3-12）称为正规方程，其中n是样本容量。由这两个正规方程
式（3-15）和式（3-16）称为最小二乘估计量的离差形式。
对于最小二乘估计量（OLS估计量）ˆ0 、ˆ1 ，我们要做如下一些解释：
第一， OLS估计量 ˆ0 和 ˆ1 是由给定的样本观测值计算得到的。
第二， OLS估计量ˆ0和ˆ1 是总体参数 0 和 1 的点估计值。对于不同的样本
用最小二乘法可以计算得到不同的值，所以 ˆ0和 ˆ1 是统计量，是随机变量。
1 2 3 4 5 6 7 8 9 10 合计平均
4000 4500 5000 5500 6000 6500 7000 7500 8000 8500 62500 6250
2687 3048 3374 3651 3772 4400 4797 4917 5526 5523 41695 4169.5
-2250 -1750 -1250 -750 -250

第2章⑵一元线性回归的参数估计

2 ˆ ˆ Yi ～ N ( 0 1 X i , )
于是， Yi 的概率函数为
P (Y i ) 1
1 2
2 2 ˆ ˆ ( Yi 0 1 X i )

2
e
i= 1 ,2 ,„ ,n
因为Yi是相互独立的，所以Y的所有样本观测值的联合概率，也即似然函数(likelihood function) 为：
• 记
1 X Xi n 1 Y Yi n x Xi X i y i Yi Y
则参数估计量可以写成：
x y ˆ i i 1 2 xi ˆ ˆ 0 Y 1X
注：在计量经济学中，往往以大写字母表示原始数据（观测值），而以小写字母表示对均值的离差（deviation)。
可见，在满足一系列基本假设的情况下，模型结构参数的最大似然估计量与普通最小二乘估计量是
相同的。(见教材P34)
但是，随机误差项的方差的估计量是不同的。 (见教材P39)
解或然方程

2
L
*
n 2
2

1 2
4
2 ˆ ˆ (Y i 0 1 X i ) 0

证明如下：（补充）

ei
2

2 ˆ2 yi 1

2
xi
2
Y
Yi
2 ˆ yi 1 yi xi 2 i 2
nY nY
2

ˆ 1 Y i X
i
i
nY X

Y Y Y

Yi
ˆ 1 Yi X