自回归

2 k u t k
2


k
2 y
(10.2.7)
y,y
t
t k
) 仅与间隔时期数k有关,而与时
间点t无关，平稳条件3成立。
综上所述，对于一阶自回归过程(10.2.1)，只要系数 φ的绝对值｜φ｜＜1，便是平稳过程。
4.2自回归过程的平稳条件(二)
p阶自回归过程
将(13.2.2)改写成
(1

1源自文库
L
L
2
2
L
L ) y ε
p p t 2 2
t
(13.2.8)
p
引进算符多项式：

p
( L) 1

1
L
L
1 p
L
L
p
(13.2.9)
则(13.2.8)可改写成：

p ( L) y ε
t
1
t
或
y
t
( L) εt
若(13.2.2)是平稳随机过程，则必定收敛，即yt可表示为白噪声的无穷加权和。 可以证明 p (L) ，收敛的充要条件是算符多项式
V
(13.2.4) (13.2.5)
yt

2 u 1 2
只有当|φ|＜1时，平稳条件2才成立。
4.2自回归过程的平稳条件(一)
由(13.2.3)有 COV ( y , y ) E ( y
t t k 2 u
yt k ut k ut k 1 2ut k 2 k ut
p 1 p
M
n2
1 L 2 M M L y n p L
y y
4.4自回归过程的识别与估计
• (一)自回归阶数 p已知的情况 我们可以将(13.2.2)看成因变量为yt，自变量为yt-1, yt-2,…, yt-p的线性回归模 型，并可用OLS法得出参数估计值。对(13.2.2)ˊ应用最小二乘法，得参 1 数估计 ˆ p ( X p X p) X pY p 受的。 • (二)自回归阶数 p未知的情况
预测变量的未来值。存在这种依赖性的简单
例子是自回归过程便是这样一种过程：
yt = φ yt-1+ εt (13.2.1) 其中εt为白噪声
4.1自回归的基本概念
时间序列y1，y2 ，…，yn生成过程通常是未知的，
yt不仅依赖yt-1，而且还依赖于yt-2等。一般地，这
个过程有以下形式：
y t = φ1 yt-1 + φ2 yt-2 ... φpyt-p + εt
p 1


(13.2.22)


简记为 p p 或 p P p p (13.2.23) Pp Φp中最后一个参数φp称为偏自相关系数,序列{φp} (p =1,2，3，…)称为偏
1
自相关函数。
(10.2.20)式表示，当自回归模型的阶为p时，则偏自相关函数φp+1及其后 的φ值皆为零。例如，当自回归模型的阶数为2时，则φ3及其后的φ值皆为
(1 L)
t
y
t k
)
2
k
2
k 2
2
k 4
u
u
(13.2.3)′ L u
2
k
4
(13.2.6)
当|φ|＜1时，(10.2.6)便有
t
COV 2 V ( yt ) 。 ( 其中 y
COV ( y , y ) 1


p
( z ) 1 z
1
2
z z L z
2 3 3 p
p
(L) 的特征方程
p
0
(13.2.11)
的根全部在复平面上单位圆周之外，或所有根的模｜z｜＞1。
4.2自回归过程的平稳条件(二)
若(13.2.2)是平稳随机过程，则必定收敛，即yt可表示为白噪声的无穷加
权和。可以证明
第4章 自回归模型
谢琴
焦玉凤
内 容
4.1 4.2 4.3 4.4
• 自回归的基本概念 • 自回归过程的平稳条件 • 自回归过程的自相关函数 • 自回归过程的识别与估计
4.1自回归的基本概念
如果预测是分析的目的，那么随机过程的元
素对它的过去的依赖性就很重要。这使我们
能够利用已经收集的样本观测值的过去信息
ρ2 =φ1 ρ1 + φ2 +φ3 ρ1 + …+φp ρp-2
ρ3 =φ1 ρ2 + φ2 ρ1+φ3 + …+φp ρp-3 … … … ρp =φ1 ρp-1 + φ2ρp-2+φ3 ρp-3 + …+φp (13.2.21)
4.3自回归过程的自相关函数
其矩阵表达式为：
1 1 2 L p 1
0 t t
r
V ( y ) E( y )
2
E
y
t 1 1
1
y
2
t 1

2
t 2
p
t p
t
2
2
p
p
u
2
0
1
1
u
1
1
0
2
u
0
2
此结果与(10.2.5)相同。
2
1
用 r 0 y 除(10.2.15)式两端，得
k 1 k 1 2 k 2 3

程，记作AR( p )。
(13.2.2)
其中εt为白噪声，称为p阶自回(Autoregressive)过
4.2自回归过程的平稳条件(一)
• 只有时间序列的随机过程是平稳的，用自回归模型进行预 测才有意义。 • 一阶自回归过程 对于一阶自回归过程(13.2.1) yt = φyt-1 +εt = εt +φ(φyt-2 + εt-1) = εt +φ εt-1 +φ2(φyt-3 + εt-2) = εt +φ εt-1 +φ2 εt-2 +φ3 yt-3 … … … = εt +φ εt-1 +φ2 εt-2 +φ3 εt-3 + …


p
( z ) 1 z
1
p
(L) ，收敛的充要条件是算符多项式
2
z
2

3
z
3
L

1 p
( L) 的特征方程
p
z
p
0 (13.2.11)
的根全部在复平面上单位圆周之外，或所有根的模｜z｜＞1。
p阶自回归过程的平稳条件为
z
z
2
1

z
2 2
1
(13.2.12)
应该指出，此时估计量虽然不是无偏的，却是一致估计量，还是可以接
自回归阶数p未知的情况，关键是模型的识别，即如何确定阶数p，一旦p
值确定下来就转化为自回归阶数p已知的情况,问题就解决了。我们这里 只介绍偏自相关系数定阶法。
k 的显著性检验来确定适当阶数p的方法。偏自相关系数中的第k个系数 k
这种方法是在自回归阶数k逐步增加的过程中，通过对偏自相关系数 我们用 kk 表示。
(13.2.3)
4.2自回归过程的平稳条件(一)
可以看到，一阶自回归过程(13.2.1)可以表示成白噪声
序列的线性组合。 由于E(εt ) = 0，所以E(yt) = 0，平稳条件1显然满足。
V(y 对(13.2.3)两端取方差： t) =σμ 2 ( 1+φ2+φ4+φ6+...)
V(yt) =σμ2 ( 1+φ2+φ4+φ6+…） 仅当|φ|＜1时，(13.2.4)才有
y 1 ε p1 p1 y p2 p 2 U ε p2 M Yp M p y εn n
y y y
k 1 t 1 p
t k
)

2
COV ( y
t 2
,y )
t k
t p
,y )
t k

r
1
k 1

r
2
k 2
L
r
p
k p
(k 0)
(10.2.15)
4.3自回归过程的自相关函数
当k = 0时，
y L y u (13.2.16) r r L r r r 对AR(1)便有 (13.2.17) 再由(10.2.15)有 r (13.2.18) r 把(10.2.18)代入(10.2.17)整理得 (13.2.19) r 1
1
其中z1和z2分别为实部和虚部。 当 p = 1时，(13.2.11)写成 ， 1 z 则平稳条件： 1 即｜φ｜＜1与前面的结论相同。 1- φ z = 0解方程得 z
4.2自回归过程的平稳条件(二)
• 为了研究方便，总是假定： • (1)所有自回归过程都是平稳过程。当发现时间序列是非 平稳的，要清除非平稳性，一般采用差分法。只要对原
零。
4.4自回归过程的识别与估计
对于自回归模型(13.2.2)
y y
t 1
t 1

p
2
y
t 2
L
p
p
y
t p
εt
t = p +1 , p +2 , …, n
矩阵形式为 其中
Y X ε
p
(13.2.2)ˊ
y p y p1 Xp M y n1
4.4自回归过程的识别与估计
4.4自回归过程的识别与估计
4.4自回归过程的识别与估计
AR(p)的自相关函数由于
r r
k k k 2 0 y
2 y


k
(13.2.13)
r
k
COV ( y ,
t
y
t k
) COV ( y
t k
,
y)
t
(13.2.14)
将(10.2.2)代入(10.2.14)得
r COV ( y , y L COV ( y
k 3
L
p

k p
(13.2.20)
(10.2.20)便是自回归过程AR(p)自相关函数的表达式(也称递推公式)。
4.3自回归过程的自相关函数
• 在自相关函数表达式(10.2.20)中，令k = 1,2,3,…，p,则得 一组方程式，称之为尤拉-沃克（Yule-Walker）方程： ρ1 =φ1+ φ2 ρ1 +φ3 ρ2 + …+φp ρp-1
始数据进行适当阶数的差分处理，便可消除非平稳性。
• (2)自回归过程中每个元素的期望值都为0，即E(yt)= 0。 如果实际的时间序列的均值ŷ ≠0,则可对它进行中心化 ( yt - ŷ)，中心化后的时间序列必然有零期望值。
4.3自回归过程的自相关函数
一阶自回归过程AR(1)的自相关函数，利用(13.2.7)可直接写出


1
1

L

1
2 1
L L L L L
1


p 2

L
p 3
1 1 p 2 2 2 3 3 p 3 L M M 1 p p