自回归 著名通讯公司平均模型

z 自相关函数(ACF)定义为， ρk = γ k γ 0
z 间对系“，于相它每似可个”的以k，度作ρ量为k是。xt过的程一在次相实隔现时与间时为移kk的后一的对同值一的次相实关现关之 z 注=要ρ。意-k。，自ρk相只关是函k的数函在数建，立与自观回测归值移的动时平期均t无模关型，时而非且常，重ρk
Cov(xi , x j ) = σ ij < ∞
Var(x1) = ... = Var(xT ) = Var(xt ) = σ 2 < ∞
z
均与 稳。
时
间
t无
关
，
称
xt
为
二
阶平
稳
过
程
，
弱平
稳
、
协
方
差平
z 如是弱果平时稳间的序。列当xt的然一，阶这矩里、要二求阶xt的矩一具阶有矩时、间二不阶变矩性都，存那在么。，xt z 强平稳意味着过程的分布与时间无关，弱平稳意味着过程的
z 2研与,…究其}时过间间去的序值动{列态xt{-相1x,t}x关的t-2性,目…。的}存如，在果就着用是线线分性性析关模xt系与型。其分过析去，值意{x味t-1着, x3xt-t
滞后算子
z 滞后算子“L”是这样定义的 Lxt = xt−1
z Lxt就是时间序列{xt}在第t-1时刻的值xt-1
z 观其测中序，列T是。样为本了容能量更，好x地i是为实时数间。序通列常构{x模t}是，一需要个 限制联合分布。进一步，为了预测，还要说明过 程分布的一些关键性质，即时间不变性。
6
强平稳
z 在时间序列分析中，时间不变性是十分有用的，最常用 的就是平稳性。
z 如果一个平稳过程的性质不随时间起点的变化而变化，
z 似权重乎而相得当到复的杂，，例但如许，多令应ψ用j =的φ模j，型可可写通成过限定ψj
xt = at + φat−1 + φ 2at−2 + "
z 可得 xt = φxt−1 + at
= at + φ (at−1 + φat−2 + ")
z 这就是一阶自回归过程，记为AR(1)。
z x由过动t 部程”于ε分t”x。。t对地或自者依身说赖过，于去xxt线地t-1性回，回归部归，分到因地x而t依-1称，赖ε之t于是为误““随自差机回项。归扰
z 只注重时间序列的一阶矩、二阶矩。
z 假个Co设方v(x一差i, 个为xj)时V，a间ir≠(x序1j。)列, Va{xrt(，}x1T 2其),…T个, V均ar值(x为T)，E(和x1)T, (ET(-x12))/,2…个, 协E(方xT差)，为T
z 如果 E(x1) = ... = E(xT ) = E(xt ) = μ < ∞
( ) ∑∞
= 1+ψ12 +ψ22...σ 2 = σ 2
ψ
2 j
j =0
z 自协方差函数为
( )( ) γ k = E(xt xt−k ) = E at +ψ 1at−1 + ... +ψ k at−k + ... at−k +ψ 1at−k−1 + ...
( ) ( ) ∑∞
=ψkE
a2 t−k
12
线性时间序列
z 如果要生成一个不独立的序列，我们可以利用白
噪声的线性组合，
∞
∑ xt = at +ψ 1at−1 +ψ 2at−2 + ... = ψ j at− j
j=0
z 其中，ψ0=1，{at}为白噪声序列。
z 平实均际而上生，成上观式测将序白列噪x声t。{a依t}这的种现方行式值生和成过的去过值程的 称为线性过程，实际上是移动平均过程。
AR(1)过程xt+0.8xt-1=at的ACF
0.9
0.8
0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1
0
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
0.6
0.4
0.2
0 -0.2
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20
16
AR(1)过程的一次实现
z AR(1)过程xt-0.8xt-1=εt 的一次实现
4 3 2 1 0 -1 -2 -3 -4
z AR(1)过程xt+0.8xt-1=εt 的一次实现
4 3 2 1 0 -1 -2 -3
17
-4
平稳性
z 引入滞后算子L，AR(1)可表示为 (1− φL)xt = at
z 一个滞后算子的多项式为
p
∑ φ (L) = φ0 − φ1L − "φ p Lp = φ0 − φi Li
i =1
z 其中，φ0=1，p是非负整数，为φ (L)的阶数。将φ (L)应用
于序列xt上，得
p
∑ φ (L)xt = xt − φ1xt−1 − "φ p xt−1 = xt − φi xt−i
z (2)方差是常数，即对于所有的t，
E(at2 ) = σ 2
z (3)协方差为0，即对于t≠s，E(at as ) = 0
z 也就是说，白噪声是均值为0、方差为σ2的不相关序列。
z 白噪声相当于没有“记忆”过程，即过程第t时刻的值与所有 过去直到t-1时刻的值(实际上也包括过程的未来值)都不相
关。
理，沃尔德(Wold, 1938)定理。沃尔德定理指任 何平稳过程yt可分解为两部分，
yt = μt + xt
z 其中，xt是线性过程，μt是确定性过程， z 对于所有的t, s，μs和xt不相关。确定性过程μt可
由过程的过去值完全预测。
15
一阶自回归过程
∞
∑ xt = at +ψ 1at−1 +ψ 2at−2 + ... = ψ j at− j j=0
( ) xt = (1 − φL)−1 at = 1 + φL + φ 2 L2 + " at
= at + φat−1 + φ 2at−2 + " z 只要⏐φ⏐<1，上式是收敛的，xt是平稳过程。 z AR(1) 的 特 征 方 程 为 1 － φ L=0 ， 它 的 根 为 L ＝
1/φ，只要特征方程的根在单位圆外，AR(1)是平
-0.4
-0.6
-0.8
-1
z 关AR系(1数)模。型(εt为零均值单位方差的正态随机过程)的自相
z 当φ=0.8>0时，自相关系数以指数形式衰减；
z 当φ=-0.8<0时，自相关系数以正负相间方式衰减。
z 而且，|φ| 越接近于1，衰减速度越慢。
稳的。
18
自协方差函数
z 可由AR(1)过程的一阶矩、二阶矩来分析其统计特性
( ) ( ) E (xt − φxt−1 )xt−k = E at xt−k
∞
( ) ∑ γ k − φγ k−1 = E at xt−k = φ j at at−k− j j=0
( ) z 由于at是白噪声，对于k+j>0，则 E at at−k− j = 0
z γ k = Cov(xt , xt−k ) 称为{xt}的自协方差函数。
z 对差，于称每k个为k滞，后γk阶是数过。程在相隔时间为k的一对值的协方 z 注于一意个，弱γk只平是稳k过的程函来数说，，与γ观k =测γ-值k，的时期t无关。因而，对
z 证明如下，将t换成t+k，有
γ k = Cov(xt , xt−k ) = Cov(xt−k , xt ) = Cov(xt+k−k , xt+k ) = Cov(xt , xt+k ) = γ −k
z
随机 示。
时过间程序的列一数次据观是测所结要果研称究为变时量间的序观列测，值{x按t, t时∈T间}用先表后
顺序排列的一组数据。如果我们把1997年1月1日至2002
年12月31日间每个交易日收盘时的中信指数按时间先后
排列起来，得到了中信指数时间序列。
z 通常，分析的数据是等时间间隔的，从而是一个离散的 时间序列。
z 因此，当k=0时，则 γ 0 − φγ −1 = σ 2 = γ 0 − φγ 1
z 当k=1时, 则 γ 1 − φγ 0 = 0
过程的方差为
γ0
=
σ2 1−φ 2
z 当k>0时，自协方差函数
γ k − φγ k−1 =z0 ，k=1,2,…
z
19
自相关系数ACF
AR(1)过程xt-0.8xt-1=at的ACF
m阶平稳过程
z 强平稳的要求苛刻，因而引入较弱的条件 z 如果一个平稳过程m阶以下矩(包括m阶矩)的取
值与时间无关，称随机过程为m阶平稳过程。
z 随机过程为m阶平稳过程并不要求 xt1 和xt1+k 的概 率分布相同，仅要求这两个分布的主要特征相 同，只要求相等到m阶矩。
8
二阶平稳(弱平稳、协方差平稳）
矩都不随时间的变化而变化。
{ } { } z 强平稳表明了 xt1 和 xt1+k的概率分布相同，
z
xt1 , xt2 的联合分布和 xt1+k , xt2 +的k 联合分布相同，…，
{ } { } z xt1 , xt2 ," xtn 同。
的联合分布和
xt1 , xt2 ," xtn
的联合分布相
7
也就是说，对于序数集T中的任何时间子集
z 以及任何实数k， (ti + k )∈ T ,i = 1,2,...n
(t1,t2 ,..,tn )
( ) ( ) F xt1 ,...xtn = F xt1+k ,...xtn +k
z 称这个随机过程为强平稳过程。其中，F(•)表示n个随机 变量的联合分布函数，这意味着该平稳过程所有存在的
二阶矩与时间无关。强平稳过程也是弱平稳的。
z 实际应用时，通常假设时间序列的分布是联合正态分布，这 种假设出于统计上的方便性。因为，正态分布性质能为均值 和二阶矩描述。
z 对于服从正态分布的时间序列，弱平稳就是强平稳。 9
白噪声
z 在二阶平稳过程中，白噪声序列{at}，其定义如下，
z (1)均值为0，即对于所有的t， E(at ) = 0
z 白噪声过程滞后k期的自相关系数为0。应该指出的是，白 噪声过程是人为的，在实际中过程的前后往往都存在着“记 忆”。但是，白噪声为构造更复杂的模型提供了基本“元 素”，因此，它在平稳过程理论中起着十分重要的作用。
10
白噪声过程的一次实现
4 3 2 1 0 -1 -2 -3
11
自协方差函数和自相关函数
i =1
z 在时间序列分析中，该方程常用来分析xt与其过去值{xt-1, xt-2,…}间的动态相关性。
4
滞后算子
z 假定c为常数，方程 φ(L)xt = c z 称为p阶差分方程。如果c=0，那么，方程就是一个齐次
方程。如果变量xt满足差分方程(6.4)，称为方程的一个 解。
z 不同的φ(L)将描述xt的不同的动态行为，常用 φ(L)xt = c
2
随机过程
z 由随机变量构成的一个有序序列称为随机过程，通常记
为 {x(s,t), s ∈ S,t ∈T} S是样本空间，T为序数集。
z 对于每个t (t∈T)，x(•, t)是样本空间S中的一个随机变 量；
z 对于每个s(s∈S)，x(s,•)是随机过程在序数集T中的一次实
现。一般将随机过程简称为过程，记为{xt}或xt 。
z 式上的式右xt的边均加值上为常0数。项如μ果即可xt的。均值不为0，只要在
z 如果xt是弱平稳过程，那么其方差必存在，这样
要求
∞
∑ψ
2 i
<
∞
i =1
13
xt的一阶矩、二阶矩和自相关函数
z xt的一阶矩即均值为0，E(xt)=0，
z 方差为
γ 0 = E(xt2) = E(at +ψ1at−1 +...)2
+ψ k+1ψ 1E
a2 t −k −1
+"=σ 2
ψ jψ j+k
k =0Biblioteka z 自相关函数为∞
∑∑ ρ k
= γk γ0
=
ψ jψ j+k
j=0
∞
ψj
j=0
14
沃尔德分解
z 任何线性时间序列模型都可表示为无限阶的移动
平均过程，只不过不同的模型，对ψj权重的限制
不同。 z 下面我们考虑时间序列分析中一个非常重要的定
z 差分方程来分析一个线性时间序列的动态结构。
5
平稳性
z 一个时间序列是随机变量按时间顺序排列的观测 值，在经济和金融的应用中，我们仅能得到的是 时间序列的一次实现，时间序列分析的目标就是 从观测到的一次实现来对过程进行推断，常用的 方法就是选择一个适当的模型来近似描述所研究 的过程。
z 选择一个适当的模型，就涉及到评价样本数据的 联合分布函数 F (x1, x2 ," xT ) = Pr( X1 ≤ x1,", X T ≤ xT )
Ch2 自回归移动平均模型
徐剑刚
1
自回归移动平均模型
z 时间序列分析方法是Box and Jenkins (1970)提出 的，该法不考虑以经济或金融理论为依据的解释 变量的作用，而是依据时间序列本身的变化规 律，利用外推机制来描述时间序列。
z 必须注意的是，建立时间序列模型的前提是：时 间序列是平稳的。