多元线性回归模型 PPT

4
四、最小二乘估计量的性质
2.3
一元线性回归模型的参数估计
ˆ 的均值（期望）等于总体回归 ˆ 、 2、无偏性 ，即估计量 0 1
参数真值 0 与 1
3 、有效性（最小方差性） ， 即在所有线性无偏估计量
ˆ ˆ 中，最小二乘估计量 0 、 1 具有最小方差。
5
一元线性回归模型的统计检验
12
样本回归函数与样本回归模型
• 从一次抽样中获得的总体回归函数的近似，称为样 本回归函数（sample regression function）。 • 样本回归函数的随机形式，称为样本回归模型 （sample reຫໍສະໝຸດ Baiduression model）。
ˆ ˆ X ˆ X ˆ X ˆ Y i 0 1 1i 2 2i ki ki ˆ ˆ X ˆ X ˆ X e Yi 0 1 1i 2 2i ki ki i
20
• 步骤：
(Yi , X ji ), i 1,2, , n, j 0,1,2, k
已知 假定
ˆ 0 ˆ 1 ˆ 2 ˆ k
ˆ ˆ X ˆ X ˆ X ˆ Y i 0 1 1i 2 2i ki Ki
他解释变量保持不变的情况下， Xj 每变化 1 个单位时， Y 的均值 E(Y)的变化。
或者说 j 给出了 Xj 的单位变化对 Y 均值的“直接”或“净”（不 含其他变量）影响。
11
总体回归模型的矩阵表示
Y X β μ
1 X 11 1 X 21 X 1 X n 1
第三章
经典单方程计量经济学模型： 多元线性回归模型 Multiple Linear Regression Model
1
一元回归分析
一． 总体回归函数
线性总体回归函数：
二． 总体回归模型或总体回归函数的随机设定形式
三． 样本回归函数
四． 样本回归模型或样本回归函数的随机设定形式
ˆ ˆ X e ˆ ˆi Yi Y i 0 1 i i
一、普通最小二乘估计 二、最大似然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例
17
说 明
估计方法： – 三大类方法：OLS、ML或者MM
– 在经典模型中多应用OLS
– 在非经典模型中多应用ML或者MM
18
一、普通最小二乘估计(OLS)
19
1、普通最小二乘估计
• 最小二乘原理：根据被解释变量的所有观测值 与估计值之差的平方和最小的原则求得参数估 计量。
X 12 X 1k X 22 X 2k

X n2
X nk
Y1 Y2 Y Y n n 1
0 1 β 2 k ( k 1)1
1 μ 2 n n 1
10
总体回归函数
• 总体回归函数：描述在给定解释变量Xi条件下 被解释变量Yi的条件均值。
E(Yi | X i1 ,X i2 , X ik ) 0 1X i1 2X i2 k X ik
j也被称为偏回归系数(partial regression coefficients)，表示在其
一、多元线性回归模型 二、多元线性回归模型的基本假设
8
一、多元线性回归模型
9
总体回归模型
• 总体回归模型：
•总体回归模型还可以写成：
（i=1,2…,n）
k为解释变量的数目；
习惯上，把常数项看成为虚变量的系数，该虚变量的样本观测值 始终取1。于是，模型中解释变量的数目为（k+1）。；
j称为回归参数（regression coefficient）。
ˆ X i2 Yi X i Yi X i 0 2 2 nX i (X i ) n Y X Y X i i i i ˆ 1 2 2 n X ( X ) i i
ˆ xi yi 1 2 xi ˆ Y ˆX 1 0
13
样本回归函数的矩阵表示
ˆ Xβ ˆ Y
ˆ 0 ˆ ˆ 1 β ˆ k
ˆ e Y Xβ
e1 e2 e e n
14
二、多元线性回归模型的基本假设
15
1、关于模型关系的假设(与一元回归模型基本相同）
ESS RSS R 1 TSS TSS
2
一、拟合优度检验
二、变量的显著性检验
F检验、t检验、Z检验
三、参数的置信区间
6
多元线性回归模型内容
• 多元线性回归模型概述
• 多元线性回归模型的参数估计
• 多元线性回归模型的统计检验
• 案例
7
3.1 多元线性回归模型概述 (Regression Analysis)
ˆ) Q e (Yi Y i
i 1 2 i i 1
n
n
n
2
Q0 Q0 Q0 Q0
21
ˆ ˆ X ˆ X ˆ X )) (Yi ( 0 1 1i 2 2i k ki
• 假设1. 回归模型设定是正确的。 • 假设2. 解释变量具有变异性
• 假设3. 各自变量之间不存在严格线性相关性（无完全 多重共线性）
• 假设4. 随机干扰项具有条件零均值性
• 假设5. 随机干扰项具有条件同方差及不序列相关性
• 假设6. 随机干扰项满足正态分布
16
3.2 多元线性回归模型的估计
2
回归分析的主要目的：根据样本回归函数SRF， 估计总体回归函数PRF。
ˆ ˆ X e ˆ e Yi Y i i 0 1 i i
Yi E(Y | X i ) i 0 1 X i i
3
2.3
一元线性回归模型的参数估计
一、参数的普通最小二乘估计（OLS） 二、参数估计的最大似然法(ML) 三、参数估计的距估计法