公式推导
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
利用“普通最小二乘法”估计模型参数
1、要使得∑∑--=n
i
i n
i X Y e 1
2211
2
)ˆˆ(ββ最小；
2、式中，i X i Y 为已知量，1ˆβ，2
ˆβ为未知量，对未知量求偏导，并令偏导为0：
对1
ˆβ求偏导，得：∑--⨯-n
i i X Y 121)ˆˆ(2ββ ——①式 对2
ˆβ求偏导，得：∑--⨯-n
i i i X Y X 1
21)ˆˆ(2ββ ——②式 令两个偏导的结果为0，得：
①式=∑--⨯-n
i
i X Y 121)ˆˆ(2ββ=0 即：0ˆˆ)ˆˆ(1
21
11
1
21=--=--∑∑∑∑n
i n n i n i
i X Y X Y ββββ
即：∑∑∑+=n i n n i X Y 1
21
1
1
ˆˆββ=∑+n
i X n 1
21ˆˆββ ——③式 ②式=∑--∙-n
i
i i X Y X 1
21)ˆˆ(2ββ=0
即：∑--∙n
i
i i X Y X 1
21)ˆˆ(ββ= 0ˆˆ)ˆˆ(1
221
11
1
21
1
1
=--=--∙∑∑∑∑∑∑n
i n
i n
i i n
i n
n
i i X X Y X X Y X ββββ
即：∑∑∑+=n i n i
n i i X X Y X 1
221
11
ˆˆββ∑∑+=n
i n i X X 1
221
1ˆˆββ ——④式 注：③式、④式被称为正规方程。
3、联立③式和④式，解方程组，解出1ˆβ和2
ˆβ： 方程组：
∑∑+=n
i
n i
X
n Y 1
2
1
1
ˆˆββ
——③*式
∑∑∑+=n
i n
i n
i i X X Y X 1
221
11
ˆˆββ——④*式
“③*式∑⨯n
i X 1
”与“④*式n ⨯”得：
21
21
11
1
)(ˆˆ∑∑∑∑+=n
i n
i n
i n
i X X n X Y ββ
——③**式
∑∑∑+=n
i n i n i i X n X n Y X n 1
221
11
ˆˆββ——④**式
“④**式减③**式”得：
21
21
221
1
1
)(ˆˆ∑∑∑∑∑-=-n
i
n
i n
i n
i n
i i X X n X Y Y X n ββ ——⑤式
“③*式”变形，将“⑤式”代入得：
n
X
X X n X Y Y X n n
Y
n
X
n
Y
n
X
Y n
i
n
i n i n
i
n i n i i n
i
n
i
n
i
n
i
n i
∑∑∑∑∑∑∑∑∑∑∑∙
---
=
-=
-=1
2
1
1
21
1
1
1
1
2
1
1
2
1
1
)(ˆˆˆβββ
n
X
X X n X Y Y X n X X n n Y X X n n
i
n
i n i n
i
n
i n i i n
i n i n
i
n i n i
∑∑∑∑∑∑∑∑∑∑∑∙
---
--=
1
2
1
1
21
1
1
21
1
21
2
1
1
2
)()
)(())((
——⑥式
4、几种常用的关系式： 平均值：n
X X i ∑
=，n
Y Y i ∑=；
离差：X X x i i -=,Y Y y i i -=
；
估计值的离差：Y Y y i
i -=ˆˆ； 常数求和：常数常数⨯=∑n n
1
随机误差项：i
i i Y Y e ˆ-= 随机误差项的和：0=∑i e
5、⑤式的另一种形式：
⑤式：=
--=∑∑∑∑∑2
1
1
21
1
1
2
)
(ˆn
i n i n
i
n
i n
i i X X n X Y Y X n β ——⑦式 证明：⑦式=∑∑∑∑
+-+--=
---)
2()()()
)((2
22
X X X X Y X Y X Y X Y X X X
Y Y X X i
i
i
i
i
i i
i i ∑
∑∑∑∑∑∑+-+--=
2
2
2)X X X X Y X Y X Y X Y X i
i
i
i
i ，根据n X X i
∑=，n Y Y i
∑=，有： 上式2
2)()(2))(()()(n
X n n
X X X n Y n
X n n
X Y n
Y X Y X i
i
i i
i
i
i
i
i
i
i ∑
∑
∑∑∑∑∑∑
∑∑∑+-+--=
)
()(2
n
X
X X n Y X Y X i
i
i
i
i i ∑
∑∑∑∑∑--=
2
1
1
21
1
1
)(∑∑∑∑∑--=
n
i n i n
i
n
i n
i i X X n X Y Y X n