时间序列分析讲义(1)

时间序列分析第二章 时间序列分析第二节 时间序列模型一、 线性时间序列模型的分类 1. 自回归（AR ）过程 AR(1)过程tu t X t X +-+=110φφ， ),0(~2σWN t u , Z t ∈。

(i) 当且仅当11<φ时因果，此时有唯一传递形式∑∞=-+-=01110j j t u jt X φφφ。

(ii) 当11>φ时平稳而不因果，有唯一形式∑∞=+---=11110j j t ujt X φφφ。

(iii) 当11=φ时必定不平稳，称为随机游走。

特别当还有00≠φ时，称为带漂移的随机游走。

由于有)0()1100()(φφt X E u t u t u t X E t X E +=++-+++=Λ， 2]2)11[()(σt u t u t u E t X Var =++-+=Λ。

由于方差不为常数，所以序列不平稳。

(iv) 当11-=φ时必定不平稳。

实际上，)0()12221220()2(X E u u t u t u t u X E t X E =-+--+--+=Λ，22]2)1222122[()2(σt u u t u t u t u E t X Var =-+--+--=Λ； )0(0)12221200()12(X E u u t u t u X E t XE -=+-+---+-=-φφΛ， 2)12(]2)122212[()12(σ-=+-+---=-t u u t u t u E t X Var Λ。

不论t 是奇数还是偶数，都有2)(σt tX Var =。

由于方差不为常数，所以序列不平稳。

补充命题 一元p 次方程 011)(=---=Φpx px x φφΛ （其中0≠p φ）的p 个（复）根都在单位圆1||=z 以外的（1） 必要条件是11<∑=pj jφ且1||<p φ。

（2） 一个充分条件是11||<∑=pj j φ。

（3） 特别当0,01,,1>≥-pp φφφΛ时，充分必要条件是11<∑=pj j φ。

二、平稳时间序列的自相关及偏自相关函数 1． 自相关函数(ACF)补充定理* 定义在整数集Z 上的实值偶函数{}Z k k ∈,γ是一个实值平稳序列{}Z t tX ∈,的自协方差函数，即Zk k t XtX k∈-=),,cov(γ（与t 无关），当且仅当它是非负定的，即对任何1≥n ，任何R na a ∈,,1Λ，任何Z nt t ∈,,1Λ有01,≥∑=-nj i j a j t i t i a γ （二次型非负定）。

（5）样本自相关函数（SACF ）与相关图给定时间序列TX X X ,,2,1Λ，我们定义样本自协方差函数（SACVF ）和样本自相关函数（SACF ）。

SACVF:⎪⎩⎪⎨⎧---=--=∑-=-+--=.1,),1(ˆ,1,,1,01))((1ˆΛΛT k k T k kT t X k t X X t X Tk γγ。

以样本方差∑=-=Tt X tX T 12)(10ˆγ作为序列的理论方差)(0t X Var =γ的估计。

它与前面定义的样本（修正）方差∑=--=T t X t X T 12)(112ˆσ稍有不同。

SACF:⎪⎪⎪⎩⎪⎪⎪⎨⎧---=--=∑=-∑-=-+-==.1,),1(ˆ,1,,1,012)(1))((0ˆˆˆΛΛT k k T k T t X tX kT t X k t X X t X k k ργγρ，其中∑==-Tt t X TX 11为样本均值。

相关图：SACF {}1,,1,0,ˆ-=T k kΛρ的作图称为相关图。

补充命题 （1）以上定义的SACVF 和SACF 都是非负定的，即 各阶样本自协方差阵非负定，对T k ,,2,1Λ=0≥⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛------=Γ13ˆ2ˆ1ˆ3ˆ11ˆ2ˆ2ˆ1ˆ11ˆ1ˆ2ˆ1ˆ1ˆΛΛΛΛΛΛΛΛΛk k k k k k k γγγγγγγγγγγγ；各阶样本自相关阵非负定，对T k ,,2,1Λ=0≥⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛------=Γ=13ˆ2ˆ1ˆ3ˆ11ˆ2ˆ2ˆ1ˆ11ˆ1ˆ2ˆ1ˆ1ˆ)0(ˆ1ˆΛΛΛΛΛΛΛΛΛk k k k k k k k R ρρρρρρρρρρρργ。

（2）当样本方差012)(10ˆ>∑=--=Tt X t X T γ时（也就是 T X X X ,,2,1Λ不全相等时），以上各阶样本自协方差阵k Γˆ和样本相关阵kRˆ，T k ,,2,1Λ=，都是对称正定的。

SACF 是对理论ACF 的估计，所以SACF 的行为应该像ACF 的行为。

例如，MA(q)过程的ACF 在q 步后截尾。

因此其SACF 看起来也应有这一特征。

后面将看到这是我们识别MA(q)过程的重要依据。

2．偏自相关函数(PACF)（1） 偏自相关函数的定义设⎭⎬⎫⎩⎨⎧∈Z t tY ,是均值为μ的平稳时间序列，有自协方差函数⎭⎬⎫⎩⎨⎧∈Z k k ,γ。

现在考虑用常数项和k t Y t Y t Y ---,,2,1Λ（1≥k ）对tY 作线性最小均方误差预报，即最小化均方误差()∑=+∑=---∑=--++=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎪⎪⎭⎫ ⎝⎛∑=---=⎥⎦⎤⎢⎣⎡------=kj kjk k j j t Y t Y E kj k k j i jt Y i t Y E kj ki k t Y E k j j t Ykj k t Y E k t Y kk t Y k k t Y E k1021)(2021,)(20)2(2102110φμφφμφφφφφφφφφδΛ。

（*1）根据多元函数的极值理论，解线性正规方程组⎪⎪⎩⎪⎪⎨⎧==+∑=----=∂∂=∑=+-=∂∂kj k ki j t Y t Y E j t Y i t Y E ki kjk k j kj k k k ,,10021)(2)(20122020Λμφφφδφμμφφδ从第一式中得到⎪⎪⎭⎫⎝⎛∑=-=k j kj k 110φμφ （*2）带入第二式中得到k j j t Y t Y E k i j t Y i t Y E ki ,,1,2)(1]2)([Λ=--∑==---μμφ即 （因为ji i t Y j t Y i j -=--=-γγ),cov(） k j j ki i j ki ,,1,1Λ==∑=-γγφ。

两端除以0γ得k j j ki i j ki ,,1,1Λ==∑=-ρρφ或写成矩阵形式⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛⎪⎪⎪⎪⎪⎪⎭⎫⎝⎛------=⎪⎪⎪⎪⎪⎪⎭⎫ ⎝⎛k kk k k k k k k k k k kk k k k k R ρρρρφφφφρρρρρρρρρρρρφφφφM M ΛΛΛΛΛΛΛΛΛM 3213211321311221111211321（*3）这就是Yuler-Walker 方程组，其中的kj i j i k R ≤≤⎪⎭⎫ ⎝⎛-=,1ρ为k 阶相关阵。

补充命题 1 当自协方差函数⎭⎬⎫⎩⎨⎧∈Z k k,γ满足00>γ且0lim ||=∞→kk γ时，相关阵()k j i j i kR≤≤-=,1ρ对任何1≥k 都是对称正定的。

此时关于未知向量T kkk ),,1(φφΛ的Yuler -Walker 方程组有唯一解。

特别地，MA(q)过程、因果的AR(p)过程、因果的ARMA(p,q)过程都满足命题1中ACVF 衰减向零的条件。

偏自相关函数的第一种定义 满足Yuler-Walker 方程组的最后一个系数*=kkk ρφ:称为⎭⎬⎫⎩⎨⎧∈Z t t Y ,在滞后k （1≥k ）处的偏自相关系数。

函数}1,:{≥*=k kkk ρφ称为⎭⎬⎫⎩⎨⎧∈Z t t Y ,的偏自相关函数（PACF ）。

为了给出更体现PACF 的含义的它的第二种定义，我们同样考虑用常数项和k t Y t Y t Y---,,2,1Λ（1≥k ）对1--k t Y作向后的线性最小均方误差“预报”，即最小化均方误差()⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎪⎪⎭⎫ ⎝⎛∑=-+-----=⎥⎦⎤⎢⎣⎡--------=2110121101k j j k t Ykj k k t Y E t Y kk k t Y k k k t Y E kφφφφφδΛ。

（*4）令k j kjk ,,1,0,0Λ==∂∂φδ， 同样可导出（*2）和Yuler-Walker 方程组（*3）式，当然解出相同的 解T kkk k ),,1,0(φφφΛ。

（*5）但是，注意对1--k t Y与对tY 预报的系数正好次序颠倒，在（*1）中kt Y-距tY 时间上最远，在（*4）中1-t Y距1--k t Y时间上最远。

回忆两个随机变量X 和Y 的相关系数定义为)()(),cov(),(Y Var X Var Y X Y X corr =。

偏自相关函数的第二种定义 对于（*2）和（*3）的解系数（*5）式，记用常数项和k t Y t Y t Y---,,2,1Λ（1≥k ）对t Y 和1--k t Y分别作的线性最小均方误差预报分别为∑=-+=k j j t Y kj k t Y 10ˆφφ， ∑=-+-+=--kj j k t Y kj k k t Y 1101ˆφφ。

称相关系数*+=++=------11,1)1ˆ1,ˆ(k k k k t Y k t Y t Y t Y corr ρφ 为⎭⎬⎫⎩⎨⎧∈Z t t Y ,在滞后1+k 处的偏自相关系数。

（注意t Y 与1--k t Y 时间间隔为1+k ）。

如想要在滞后k 处的偏自相关系数，则要用时间上介于中间的1,,2,1+---k t Yt Y t YΛ（2≥k ）以及常数项对t Y 和kt Y -分别作线性最小均方误差预报，记为t Yˆ和k t Y -ˆ，那么 *==----kk k k t Y k t Y t Y t Y corr ρφ,)ˆ,ˆ(。

补充命题 2 以上两种定义中的在滞后k （2≥k ）处的偏自相关系数相等。

而在⎭⎬⎫⎩⎨⎧∈Z t tY ,在滞后1=k 处的偏自相关系数*=11,1ρφ等于在滞后1=k 处的自相关系数1ρ。

补充命题3 设平稳序列⎭⎬⎫⎩⎨⎧∈Z t tY ,的自相关函数为}0,{≥k kρ。

则它的偏自相关函数}1,:{≥*=k kkk ρφ可以通过以下Durbin-Levinson 递推算法计算：111,1ρρφ=*=，且记)(0:0tY Var ==γδ，)211(0:1ργδ-=， ∑-=--∑-=---==*11,1111,1k j j j k k j jk j k k kk k ρφρφρφρ， Λ,4,3,2=k预报的均方误差）()1()ˆ(21211kkk k k k Y Y E φδδ-=-=-++。