长记忆时间序列模型及应用
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
AIC 3743.20, BIC 3761.46
2
ARMA(1,1)残差的Box-Ljung检验
Stat
Q(10) Q(20) Q(50) Q(100) 31.4554 43.5701 69.4818 138.1016
p-Value
0.0003 0.0017 0.0355 0.0070
2. 长记忆的概念
0 2 j ( q)
j 1
q
j
来自百度文库
修正的R/S统计量的渐近分布
对于短期过程
T 1/ 2 QT V
其中V是定义在[0,1] 上的布朗桥的全距
E(V ) / 2 1.25 Std(V ) ( 3) / 6 0.27
对长记忆性的判断
对于长记忆过程
2010
单位根检验的结果
Range
ADF-t(10) ADF-t(20) PP-t PN-t KPSS -8.5557*** -5.8614*** -30.9954*** -5.4938*** 3.9385***
lnRange
-7.3599*** -5.4457*** -27.875*** -5.0333*** 4.6528***
2 d
, as 0
基于自相关函数和基于谱函数的定义是 等价的。
短程关联和长程关联*
强相合过程（strong mixing）被称为短程 关联（short range dependency）过程 (Rosenblatt 1956); 不满足强相合性的过程称为长程关联 （long range dependency）过程(Lo 1991, Guegan 2005) 长记忆过程属于这里的长程关联过程。
长记忆时间序列模型及应用
王明进 博士 北京大学光华管理学院 商务统计与经济计量系 教授 金融风险管理中心 主任
2010年6月
主要内容
ARMA模型的回顾； 长记忆的概念； 长记忆的检验方法； ARFIMA模型； 一些应用；
1. ARMA模型的回顾
时间序列研究的主要任务
描述时间序列中的动态（Dynamic）关联 性，用于理解其变化的规律或对其进行 预测； 自相关性（autocorrelation）的刻画
d ( 1/ 2,1 / 2);
所以，
f () ~ G
2 d
, as 0
记忆参数d取不同值时
当 0 d 1/ 2 时对应的是二阶平稳的长记忆过 程，谱密度函数在0点奇异； 当 1/ 2 d 0 时对应的过程称为反持续（antipersistent）过程，谱密度函数在0点处等于0； 当 时，对应的是短记忆ARMA过程, 谱密度函数在 0点处为正数； d 0 当 时，对应的过程非平稳，方差无 d 1/ 2 穷大，包含了单位根过程。
* 2 a 2
ARMA模型的估计
条件极大似然估计； 极大似然估计； 最小二乘估计；
单位根过程
如果 (1) 0 ，那么 {y } 称为单位 根过程，此时为非平稳过程。 比如如下的I(1)过程：
t
p 1 ( B)(1 B) yt q ( B)at , p 1 ( z ) 0, for | z | 1
基于自相关函数的定义
如果存在常数 0 d 1/ 2 ，使得
k ~ c k 2d 1,
as k
此时自相关函数不再绝对可和，
lim | j |
n j n n
基于谱函数的定义
如果存在常数 0 d 1/ 2 ，使得
f () ~ G
上证指数日全距序列 （1997.01.03-2010.06.18)
0.12 0.1
0.08
0.06
0.04
0.02
0 1997
1999
2002
2005
2007
2010
取对数之后的全距序列
-2 -2.5 -3 -3.5 -4 -4.5 -5 -5.5 -6 1997
1999
2002
2005
2007
T
1/ 2
QT
p
因此利用该统计量可以对长记忆过程进 行单边的检验。
对数全距序列的修正的R/S分析
V-stat p-Value
q=14
Newey-West (1994) Andrew(1991)
4.2672
6.6049 3.4653
0.0000
0.0000 0.0000
对ARMA(1,1)残差的R/S分析
3. 长记忆的检验
重新标度极差统计量
重新标度极差（rescaled-range）统计量
QT RT / sT
其中
RT max ( yt y T ) min ( yt y T )
1 k T t 1 1 k T t 1
k
k
1 2 sT ( yt y T ) T t 1
其中{a } 是白噪声
t
E (at ) 0, E (at as ) 0,
E (at2 ) 2 , for t s
ARMA模型的平稳性条件
如果 ( z) 0, for | z | 1 ，那么ARMA模型定义 了唯一的二阶平稳解
( B) yt at j at j ( B ) j 0
根据回归方法得到对Hurst指数的估计。
对对数全距序列的R/S分析
7.5 7 6.5 6 5.5 5 4.5 4 3.5 3
对应的斜率估 计为0.8987， 因此d 的估计 为0.3987
4
5
6
7
8
9
R/S分析方法的不足
R/S分析方法其实对时间序列当中的短程 记忆比较敏感，模拟结果显示，即便对 于自回归系数为0.3的AR(1)过程，经R/S 方法得到的Hurst指数也有近乎一半的情 形超过1/2. （Davies & Harte, 1987; Lo 1991）
d
或者 ( B) d (1 B) ( yt ) ut at ( B) 称之为I(d)过程，记为 yt ~ ARFIMA( p, d , q)
分数次差分算子
(1 B)
d
B
j 0 j
j
其中
0 1, j
( d )(1 d ) ( j 1 d ) j! ( j d ) j ~ c j 1d ( d )( j 1) j 1 d j 1 j
Rk cov( yt , yt k ), k 0, 1, 2,
k co rr( yt , yt k ), k 0, 1, 2,
ARMA模型的形式
ARMA(p,q)模型
( B )( yt ) ( B)at ( B ) 1 1B ( B ) 1 1B pB p, q B q ,
T
1/ 2
重新标度极差统计量的性质
对于短期关联过程，
QT Op (T
1/ 2
)
对于长记忆过程，
QT O p (T )
H
其中H d 1/ 2 称为Hurst指数
R/S 分析
在log QT 对 log T 的散点图上，短期记忆 过程的点应分布在斜率1/2的直线附件， 长记忆过程的点对应的直线斜率大于1/2.
k ~ ck
2 d 1
, d 0
显然自相关函数呈双曲（hyperbolic）律 递减（Sowell 1992; Chung 1994)
平稳解谱密度函数的性质
f ( ) 1 e
iw 2 d
f * ( )
[4sin 2 ( / 2)] d f * ( ), ,
如果自协方差函数绝对可加，
1 f ( ) 2
k
Re
k
ik
,
1 f (0) 2
k
R
k
ARMA模型的谱密度函数
( e ) f ( ) , i 2 ( e )
* 2 a i 2
;
于是
(1) f (0) 0 2 (1)
0.1826
AIC 1193.711, BIC 1211.972
对残差的检验
Stat Q(10) Q(20) Q(50) Q(100) q=14 6.1814 17.2265 45.4511 98.9563 1.4252 p-Value 0.7998 0.6382 0.6562 0.5107 0.2452
模拟分数次白噪声的数据
(1 B )0.3 yt at ,
at ~ i.i.d . N (0,1)
ARFIMA模型的估计
条件极大似然估计； 极大似然估计； 非线性最小二乘估计； Baillie (1996)
对对数全距序列的估计
(1 B)
2 0.4403
( yt 4.0173) (1 0.1646 B )at
自相关函数图形
(a) Range
0.6 0.5 0.4 0.3 0.2 0.1 0 -0.1 0 100 200 300 400 500 600 700 800
(b) Log Range
0.6 0.5 0.4 0.3 0.2 0.1 0 -0.1 0 100 200 300 400 500 600 700 800
k ~ c e
k
, as k
因此自相关函数绝对可和，
k
|
k
|
平稳过程的谱函数
谱密度函数是定义在 [ , ] 上的偶函数且 满足 ik
Rk
f ( )e d
f ( ) cos(k )d,
k 0, 1, 2,
估计的谱密度函数
0.2 0.18 0.16 0.14 0.12 0.1 0.08 0.06 0.04 0.02
0
0.5
1
1.5
2
2.5
3
3.5
估计的ARMA模型
经过模型选择阶数得到
(1 0.9623B)( yt 4.0875) (1 0.7248 B) at
0.1849
当
d 1/ 2
时该过程可逆。
平稳解的存在性
当 d 1/ 2 时，该过程存在着平稳解，能够 写成
yt (1 B) ut
d
u
k 0
k t k
其中
( k d ) k ~ c k d 1 (d )(k 1)
平稳解的自相关函数特征
对于平稳的情况，自相关函数满足
单位根的检验
Augmented Dickey-Fuller(ADF)检验(Said & Dickey 1981); Phillips-Perron(PP)检验(Phillips & Perron 1988)； Perron-Ng (PN)检验(Perron & Ng 1996)； Kwitkowski-Phillips-Schmidt-Shin（KPSS）检 验 (Kwitkowski et al. 1992)；
修正的R/S统计量
k k 1 QT ( y j y T ) min ( y j y T ) ; max 1 k T 1 k T T ( q) j 1 j 1
q T 1 T 2 2 ( q) ( yt y T ) j ( q) ( yt y T )( yt j y T ) T t 1 T j 1 t j 1 2 T
V-stat q=14 Newey-West (1994) 2.4786 2.1661 p-Value 0.0002 0.0030
Andrew(1991)
2.2072
0.0022
4. ARFIMA模型
模型的形式
分数次整合ARMA模型
( B)(1 B) ( yt ) ( B)at
ARMA模型的可逆性条件
如果 ( z) 0, for | z | 1 ，那么ARMA模型 能够唯一地表达成如下的无穷阶自回归 模型的形式
( B ) at ( yt ) j ( yt j ) ( B) j 0
ARMA模型的自相关特征
任何一个平稳的ARMA模型的自相关函数 都是呈指数递减的，即
2
ARMA(1,1)残差的Box-Ljung检验
Stat
Q(10) Q(20) Q(50) Q(100) 31.4554 43.5701 69.4818 138.1016
p-Value
0.0003 0.0017 0.0355 0.0070
2. 长记忆的概念
0 2 j ( q)
j 1
q
j
来自百度文库
修正的R/S统计量的渐近分布
对于短期过程
T 1/ 2 QT V
其中V是定义在[0,1] 上的布朗桥的全距
E(V ) / 2 1.25 Std(V ) ( 3) / 6 0.27
对长记忆性的判断
对于长记忆过程
2010
单位根检验的结果
Range
ADF-t(10) ADF-t(20) PP-t PN-t KPSS -8.5557*** -5.8614*** -30.9954*** -5.4938*** 3.9385***
lnRange
-7.3599*** -5.4457*** -27.875*** -5.0333*** 4.6528***
2 d
, as 0
基于自相关函数和基于谱函数的定义是 等价的。
短程关联和长程关联*
强相合过程（strong mixing）被称为短程 关联（short range dependency）过程 (Rosenblatt 1956); 不满足强相合性的过程称为长程关联 （long range dependency）过程(Lo 1991, Guegan 2005) 长记忆过程属于这里的长程关联过程。
长记忆时间序列模型及应用
王明进 博士 北京大学光华管理学院 商务统计与经济计量系 教授 金融风险管理中心 主任
2010年6月
主要内容
ARMA模型的回顾； 长记忆的概念； 长记忆的检验方法； ARFIMA模型； 一些应用；
1. ARMA模型的回顾
时间序列研究的主要任务
描述时间序列中的动态（Dynamic）关联 性，用于理解其变化的规律或对其进行 预测； 自相关性（autocorrelation）的刻画
d ( 1/ 2,1 / 2);
所以，
f () ~ G
2 d
, as 0
记忆参数d取不同值时
当 0 d 1/ 2 时对应的是二阶平稳的长记忆过 程，谱密度函数在0点奇异； 当 1/ 2 d 0 时对应的过程称为反持续（antipersistent）过程，谱密度函数在0点处等于0； 当 时，对应的是短记忆ARMA过程, 谱密度函数在 0点处为正数； d 0 当 时，对应的过程非平稳，方差无 d 1/ 2 穷大，包含了单位根过程。
* 2 a 2
ARMA模型的估计
条件极大似然估计； 极大似然估计； 最小二乘估计；
单位根过程
如果 (1) 0 ，那么 {y } 称为单位 根过程，此时为非平稳过程。 比如如下的I(1)过程：
t
p 1 ( B)(1 B) yt q ( B)at , p 1 ( z ) 0, for | z | 1
基于自相关函数的定义
如果存在常数 0 d 1/ 2 ，使得
k ~ c k 2d 1,
as k
此时自相关函数不再绝对可和，
lim | j |
n j n n
基于谱函数的定义
如果存在常数 0 d 1/ 2 ，使得
f () ~ G
上证指数日全距序列 （1997.01.03-2010.06.18)
0.12 0.1
0.08
0.06
0.04
0.02
0 1997
1999
2002
2005
2007
2010
取对数之后的全距序列
-2 -2.5 -3 -3.5 -4 -4.5 -5 -5.5 -6 1997
1999
2002
2005
2007
T
1/ 2
QT
p
因此利用该统计量可以对长记忆过程进 行单边的检验。
对数全距序列的修正的R/S分析
V-stat p-Value
q=14
Newey-West (1994) Andrew(1991)
4.2672
6.6049 3.4653
0.0000
0.0000 0.0000
对ARMA(1,1)残差的R/S分析
3. 长记忆的检验
重新标度极差统计量
重新标度极差（rescaled-range）统计量
QT RT / sT
其中
RT max ( yt y T ) min ( yt y T )
1 k T t 1 1 k T t 1
k
k
1 2 sT ( yt y T ) T t 1
其中{a } 是白噪声
t
E (at ) 0, E (at as ) 0,
E (at2 ) 2 , for t s
ARMA模型的平稳性条件
如果 ( z) 0, for | z | 1 ，那么ARMA模型定义 了唯一的二阶平稳解
( B) yt at j at j ( B ) j 0
根据回归方法得到对Hurst指数的估计。
对对数全距序列的R/S分析
7.5 7 6.5 6 5.5 5 4.5 4 3.5 3
对应的斜率估 计为0.8987， 因此d 的估计 为0.3987
4
5
6
7
8
9
R/S分析方法的不足
R/S分析方法其实对时间序列当中的短程 记忆比较敏感，模拟结果显示，即便对 于自回归系数为0.3的AR(1)过程，经R/S 方法得到的Hurst指数也有近乎一半的情 形超过1/2. （Davies & Harte, 1987; Lo 1991）
d
或者 ( B) d (1 B) ( yt ) ut at ( B) 称之为I(d)过程，记为 yt ~ ARFIMA( p, d , q)
分数次差分算子
(1 B)
d
B
j 0 j
j
其中
0 1, j
( d )(1 d ) ( j 1 d ) j! ( j d ) j ~ c j 1d ( d )( j 1) j 1 d j 1 j
Rk cov( yt , yt k ), k 0, 1, 2,
k co rr( yt , yt k ), k 0, 1, 2,
ARMA模型的形式
ARMA(p,q)模型
( B )( yt ) ( B)at ( B ) 1 1B ( B ) 1 1B pB p, q B q ,
T
1/ 2
重新标度极差统计量的性质
对于短期关联过程，
QT Op (T
1/ 2
)
对于长记忆过程，
QT O p (T )
H
其中H d 1/ 2 称为Hurst指数
R/S 分析
在log QT 对 log T 的散点图上，短期记忆 过程的点应分布在斜率1/2的直线附件， 长记忆过程的点对应的直线斜率大于1/2.
k ~ ck
2 d 1
, d 0
显然自相关函数呈双曲（hyperbolic）律 递减（Sowell 1992; Chung 1994)
平稳解谱密度函数的性质
f ( ) 1 e
iw 2 d
f * ( )
[4sin 2 ( / 2)] d f * ( ), ,
如果自协方差函数绝对可加，
1 f ( ) 2
k
Re
k
ik
,
1 f (0) 2
k
R
k
ARMA模型的谱密度函数
( e ) f ( ) , i 2 ( e )
* 2 a i 2
;
于是
(1) f (0) 0 2 (1)
0.1826
AIC 1193.711, BIC 1211.972
对残差的检验
Stat Q(10) Q(20) Q(50) Q(100) q=14 6.1814 17.2265 45.4511 98.9563 1.4252 p-Value 0.7998 0.6382 0.6562 0.5107 0.2452
模拟分数次白噪声的数据
(1 B )0.3 yt at ,
at ~ i.i.d . N (0,1)
ARFIMA模型的估计
条件极大似然估计； 极大似然估计； 非线性最小二乘估计； Baillie (1996)
对对数全距序列的估计
(1 B)
2 0.4403
( yt 4.0173) (1 0.1646 B )at
自相关函数图形
(a) Range
0.6 0.5 0.4 0.3 0.2 0.1 0 -0.1 0 100 200 300 400 500 600 700 800
(b) Log Range
0.6 0.5 0.4 0.3 0.2 0.1 0 -0.1 0 100 200 300 400 500 600 700 800
k ~ c e
k
, as k
因此自相关函数绝对可和，
k
|
k
|
平稳过程的谱函数
谱密度函数是定义在 [ , ] 上的偶函数且 满足 ik
Rk
f ( )e d
f ( ) cos(k )d,
k 0, 1, 2,
估计的谱密度函数
0.2 0.18 0.16 0.14 0.12 0.1 0.08 0.06 0.04 0.02
0
0.5
1
1.5
2
2.5
3
3.5
估计的ARMA模型
经过模型选择阶数得到
(1 0.9623B)( yt 4.0875) (1 0.7248 B) at
0.1849
当
d 1/ 2
时该过程可逆。
平稳解的存在性
当 d 1/ 2 时，该过程存在着平稳解，能够 写成
yt (1 B) ut
d
u
k 0
k t k
其中
( k d ) k ~ c k d 1 (d )(k 1)
平稳解的自相关函数特征
对于平稳的情况，自相关函数满足
单位根的检验
Augmented Dickey-Fuller(ADF)检验(Said & Dickey 1981); Phillips-Perron(PP)检验(Phillips & Perron 1988)； Perron-Ng (PN)检验(Perron & Ng 1996)； Kwitkowski-Phillips-Schmidt-Shin（KPSS）检 验 (Kwitkowski et al. 1992)；
修正的R/S统计量
k k 1 QT ( y j y T ) min ( y j y T ) ; max 1 k T 1 k T T ( q) j 1 j 1
q T 1 T 2 2 ( q) ( yt y T ) j ( q) ( yt y T )( yt j y T ) T t 1 T j 1 t j 1 2 T
V-stat q=14 Newey-West (1994) 2.4786 2.1661 p-Value 0.0002 0.0030
Andrew(1991)
2.2072
0.0022
4. ARFIMA模型
模型的形式
分数次整合ARMA模型
( B)(1 B) ( yt ) ( B)at
ARMA模型的可逆性条件
如果 ( z) 0, for | z | 1 ，那么ARMA模型 能够唯一地表达成如下的无穷阶自回归 模型的形式
( B ) at ( yt ) j ( yt j ) ( B) j 0
ARMA模型的自相关特征
任何一个平稳的ARMA模型的自相关函数 都是呈指数递减的，即