时间序列分析-第六章 ARMA模型的参数估计PPT课件

相应地，白噪声方差 的2 最小二乘估计
ˆ2 1 s(αˆ) 1 (yTyyTx(xTx)1xTy)
np
np
n1ptnp1(xt ˆ1xt1ˆpxtp)2
式中 ˆ1,ˆ2为,ˆp的p个αˆ 分量。
.
定理1.2 设AR(p)模型中的白噪声 {是 t }独
立同分布的，E t4 ,( ˆ1, ˆ是2 自, ˆ回p)归系数
第六章 ARMA模型的参数估计
第一节 AR(p)模型的参数估计 第二节 MA(q)模型的参数估计 第三节 ARMA(p,q)模型的参数估计 第四节 求和模型及季节模型的参数估计
.
第一节. AR(p)模型的参数估计
目的：为观测数据建立AR(p)模型
X t 1 X t 1 2 X t 2 ( 1.1 ) p X t p t
X t 1 X t 1 2 X t 2 p X t p t ,t p 1 , , n
(1.2)
其中，p为给定的非负整数，1,2,为,未p 知参数，记
α(1,为,系p)数T 参数， 为独{立 t同} 分布序列，且
E t0 ,E t2 2 ，,E 与t4独 t 立，{参xs数,st}
唯一决定，白噪声方差 由2
决定。
p
2 r0 jrj j1
.
AR(p)模型的自回归系数和白噪声方差的矩估计
(ˆ1,,ˆ就p)由T,样ˆ2本Yule-Walker方程
rˆ1 rˆ0
rˆ2
rˆ1
rˆ1 rˆ0
rˆp1
(1.3)rˆp2
ˆ1 ˆ2
rˆp rˆp1 rˆp2 rˆ0 ˆp
p
p
(1) ˆj j,ˆ22
(2) n( ˆ11,依, ˆp 分 布p收)T敛到p维正态分
布 N(0,。2p1)
.
注：用 j表, j 示
的第 2 1 p
元j素 j时，可知
n(ˆj 依分j) 布收敛到 N(，0,于j,是j ) 的 j
95%的渐近置信区间是
[ˆj 1 .96 j,j/n ,ˆj 1 .96 j,j/n ]
sup
n
P(|
n
|
M)
,
就称{n}是依概率有界的，记为 n Op(1).如果
{n / cn} Op(1),就称n Op(cn ).
记ˆ为Yule Wal ker 估计，ˆL为最小二乘估计， 则对AR模型，有
ˆL ˆ Op(1 / n), n .
.
C. AR(P)模型的极大似然估计
假定模型AR(p)中的{ t }为正态分布，则观测向量 xn(x1,x2的, 高,斯xn 似)T 然函数为
在实际问题中，
未知，可用
j, j
的 ˆ
2
ˆ
1 p
元j 素 j
ˆ j ,代j 替 ，j ,得j 到 的近j似置信区间
[ˆj 1 .96 ˆj,j/n ,ˆj 1 .96 ˆj,j/n ]
.
B. AR(p)模型参数的最小二乘估计
如果 ˆ1,ˆ2是,自ˆp回归系数
1,的2估,计,，p白噪声
的估计定 j 义为
.
记
xp1
xp
y
xp2
,xxp1
xn
xn1
xp1 xp xn2
x1
x2
,
xnp
则 s ( α ) α T x T x α α T x T y ， 于y T 是x α 的y 最T y 小二 α
乘估计为
α ˆ(xTx)1xTy
即
s (α ˆ) y T y y T x (x T x ) 1 x T y in s (α ˆ) f α .
ˆ j x j ( ˆ 1 x j 1 ˆ 2 x j 2 ˆ p x j p )p , 1 j n
通常 ˆj, p1为残j 差n。
我们把能使
n
s(α )j p 1 {x t1 x t 12x t( 12 .6 ) px t p}2
达到极小值的 称αˆ 为 的α最小二乘估计。
L ( α , 2 |x 1 ,x 2 , ,x n ) ( 2) n 2 |Γ n | 1 2 e x 1 2 x p T n n 1 x ( n )
α
满足平稳性条件。
.
A. AR(p)模型参数的Yule-Walker估计
对于AR(p)模型，自回归系数 α由AR(p)序列的自协方
差函数 r0,r1,通过,rYpule-Walker方程
r1 r2
r0 r1
r1 r0
rp1 rp2
aa12
rp rp1 rp2 r0 ap
1,2,的,最p 小二乘估计，则当 时n，
n ( ˆ1 1 , ˆ2 2, , ˆp p)
依分布收敛到p维正态分布 N(0,2p1)
注：对于较大的n，最小二乘估计和矩估计 (Yule-Walker)估计的差别不大。
.
定义1.1：设{n}是时间序列{c， n}是非零常数列，如果任对何 0,存在正数M，使得
假定自回归阶数p已知，考虑回归系数 α(1,和零,均p)T值
白噪声 的方{差 t } 的估计。2
数据 x1,x2,的,预xn处理：如果样本均值不为零，需将它们 中心化，即将它们都同时减去其样本均值
n
xn 1/ n xt t1
再对序列按(1.1)式的拟合方法进行拟合。
.
假定数据x1,x2,适,合xn于以下模型
和 决定。
p
ˆ 2 rˆ0 (ˆ1j.r4ˆj) j1
.
令
rˆ0
rˆ1 rˆp1
rˆ1
ˆ1
Γ ˆp rˆ1
rˆ0
rˆ p2,b ˆp rˆ2,α ˆp ˆ2
rˆp1 rˆp2 rˆ0
rˆp
ˆp
则(1.3),(1.4)式可写为
Γˆ pαˆ p bˆ p
.
实际应用中，对于较大的p,为了加快计算速度可采用
递推最后得到矩估计
(ˆ 1 , ,ˆ p ) T ( a ˆ p ,1 ,a ˆ p ,2 , ,a ˆ p ,p ) T ,ˆ2 ˆp 2
.
上式是由求偏相关函数的公式：
1 1
2 k
k11
1
1
k2
k1 ak1
k2ak2
1a kk
导出。
.
定理1.1 如果AR(p)模型中的 { t是} 独立同分布 的W(N 0,2),E ，t则4当 时 n
如下的Levison递推方法
ˆ
2 0
rˆ0
aˆˆ1k12
rˆ1
/
ˆ
2 0
ˆ
2 k 1
(1
aˆ
2 k ,k
)
k
k
ˆ
k
1,
k
1
(rˆk 1
rˆk 1 j aˆkj )( rˆ0
j 1
rˆj aˆkj ) 1
j 1
aˆ
k
1,
j
wk.baidu.com
aˆk , j
aˆk 1,k 1aˆk ,k 1 j
1 j k,k p