平稳时间序列ARMA预测法PPT演示文稿
合集下载
时间序列分析方法 第3章 平稳ARMA模型
第三章 平稳ARMA 过程一元ARMA 模型是描述时间序列动态性质的基本模型。
通过介绍ARMA 模型，可以了解一些重要的时间序列的基本概念。
§3.1 预期、平稳性和遍历性 3.1.1 预期和随机过程假设可以观察到一个样本容量为T 的随机变量t Y 的样本：},,,{21T y y y这意味着这些随机变量之间的是相互独立且同分布的。
例3.1 假设T 个随机变量的集合为：},,,{21T εεε ，),0(~2σεN i 且相互独立，我们称其为高斯白噪声过程产生的样本。
对于一个随机变量t Y 而言，它是t 时刻的随机变量，因此即使在t 时刻实验，它也可以具有不同的取值，假设进行多次试验，其方式可能是进行多次整个时间序列的试验，获得I 个时间序列：+∞=-∞=t t t y }{)1(，+∞=-∞=t t t y }{)2(，…，+∞=-∞=t t I t y }{)(将其中仅仅是t 时刻的观测值抽取出来，得到序列：},,,{)()2()1(I t t t y y y ，这个序列便是对随机变量t Y 在t 时刻的I 次观测值，也是一种简单随机子样。
定义3.1 假设随机变量t Y 是定义在相同概率空间},,{P Ω上的随机变量，则称随机变量集合},2,1,0,{ ±±=t Y t 为随机过程。
例3.2 假设随机变量t Y 的概率密度函数为： ]21exp[21)(22t t Y y y f t σσπ=此时称此时密度为该过程的无条件密度，此过程也称为高斯过程或者正态过程。
定义3.2 可以利用各阶矩描述随机过程的数值特征： (1) 随机变量t Y 的数学期望定义为(假设积分收敛)：⎰==+∞∞-tt Y t t t dy y f y Y E t )()(μ 此时它是随机样本的概率极限：∑==∞→I i i t I t y I P Y E 1)(1lim )((2) 随机变量t Y 的方差定义为(假设积分收敛):20)(t t t Y E μγ-=例3.3 (1) 假设},,{21 εε是一个高斯白噪声过程，随机过程t Y 为常数加上高斯白噪声过程：t t Y εμ+=，则它的均值和方差分别为：μεμμ=+==)()(t t t E Y E 2220)()(σεμγ==-=t t t t E Y E(2) 随机过程t Y 为时间的线性趋势加上高斯白噪声过程：t t t Y εβ+=，则它的均值和方差分别为：t E t Y E t t t βεβμ=+==)()( 2220)()(σεμγ==-=t t t t E Y E3.1.2 随机过程的自协方差将j 个时间间隔的随机变量构成一个随机向量),,(1'=--j t t t t Y Y Y X ，通过随机试验可以获得该随机向量的简单随机样本。
02平稳时间序列的ARMA模型
一、平稳ARMA模型
1.1 移动平均过程（Moving Average Process） 考察在白噪声过程的基础上生成的随机过程： yt = + t （1.1） yt = + t + t-1 （1.2） yt = + t + 1t-1 + … + qt-q （1.3）
i 0
其中，μ为yt的均值，dt是yt的线性确定性成分，如 周期性成分、时间t的多项式等。εt是白噪声过程， θ0=1，θi满足绝对可加或平方可加条件。 在随后的分析中我们通常都认为yt不含任何确定性 成分的随机过程，如果原序列含有均值或时间趋势 项，首先要进行退势处理。
16
二、ARMA模型的识别
(1 1 L p Lp ) yt t yt (1 1 L p Lp )1 t ( L) t
一个可逆的MA(q)过程可以转换为一个无限阶的 自回归过程
yt (1 1 L q L ) t
q
(1 1 L q Lq )1 yt ( L) 1 yt t
AR(1)的自相关函数
j j j 1, 2,
AR(p)的自相关函数
尤尔—沃克(Yule-Walker)方程
j 1 j 1 2 j 2 p j p
j g11j g22j g ppj
18
二、ARMA模型的识别
2.2 偏自相关函数 在AR(1)中，yt与yt-2之间也相关，它们之间的相关 性源于它们都和yt-1相关，在排除了yt-1的影响后， yt与yt-2之间的相关系数称为偏自相关系数。 偏自相关系数由下式表示 yt = 11yt-1 + ut yt = 21yt-1 + 22yt-2 + ut … yt = k1yt-1 + k2yt-2 + … + kkyt-k + ut 不同模型的自相关图和偏自相关图的特征
《平稳时序模型》PPT课件
6
(2)自相关图检验（判断准则）
平稳序列通常具有短期相关性。该性质用自相关 系数来描述就是随着延迟期数的增加，平稳序列的自 相关系数会很快地衰减向零。 ➢ 若时间序列的自相关函数在k>3时都落入置 信区 间，且逐渐趋于零，则该时间序列具有平稳性； ➢ 若时间序列的自相关函数更多地落在置信区间外 面，则该时间序列就不具有平稳性。
(一).一阶自回归模型，AR(1) 1.设{xt}为零均值的平稳过程，如果关于xt的合适模型为：
xt 1xt1 t
其中：(1) εt是白噪声序列（E εt =0,Var(εt )=σ2, cov(εt, εt+k)=0 ,k≠0）,(2)假定：E(xt, εs)=0 (t<s)， 那么我们就说xt遵循一个一阶自回归或AR(1) 随机过程。
平稳时间序列模型
时间序列的预处理 线性平稳时间序列建模原理 线性平稳时间序列的种类 ARMA模型的平稳性和可逆性
1
时间序列的预处理
平稳性检验 纯随机性检验
2
时间序列的预处理
无规律可循， 分析结束
时间序列
平稳性 检验
平稳性 纯随机 时间序列 性检验
白噪声序列 (纯随机序列)
ARMA 模型
平稳非白噪声序列
xt (B) t
阶移动平均系数多项式
q
(B) 11B 2B2 q Bq
55
系数多项式
引进延迟算子，中心化ARMA模( 型p,又q)可以简记
为
(B)xt (B)t
p阶自回归系数多项式
(B) 11B 2B2 pBp
q 阶移动平均系数多项式
(B) 11B 2B2 q Bq
56
ARMA模型的平稳性和可逆性
(2)自相关图检验（判断准则）
平稳序列通常具有短期相关性。该性质用自相关 系数来描述就是随着延迟期数的增加，平稳序列的自 相关系数会很快地衰减向零。 ➢ 若时间序列的自相关函数在k>3时都落入置 信区 间，且逐渐趋于零，则该时间序列具有平稳性； ➢ 若时间序列的自相关函数更多地落在置信区间外 面，则该时间序列就不具有平稳性。
(一).一阶自回归模型，AR(1) 1.设{xt}为零均值的平稳过程，如果关于xt的合适模型为：
xt 1xt1 t
其中：(1) εt是白噪声序列（E εt =0,Var(εt )=σ2, cov(εt, εt+k)=0 ,k≠0）,(2)假定：E(xt, εs)=0 (t<s)， 那么我们就说xt遵循一个一阶自回归或AR(1) 随机过程。
平稳时间序列模型
时间序列的预处理 线性平稳时间序列建模原理 线性平稳时间序列的种类 ARMA模型的平稳性和可逆性
1
时间序列的预处理
平稳性检验 纯随机性检验
2
时间序列的预处理
无规律可循， 分析结束
时间序列
平稳性 检验
平稳性 纯随机 时间序列 性检验
白噪声序列 (纯随机序列)
ARMA 模型
平稳非白噪声序列
xt (B) t
阶移动平均系数多项式
q
(B) 11B 2B2 q Bq
55
系数多项式
引进延迟算子，中心化ARMA模( 型p,又q)可以简记
为
(B)xt (B)t
p阶自回归系数多项式
(B) 11B 2B2 pBp
q 阶移动平均系数多项式
(B) 11B 2B2 q Bq
56
ARMA模型的平稳性和可逆性
第四章 平稳时间序列模型预测 《应用时间序列分析》PPT课件
❖容易知道，yˆt1 关于t 的条件期望
y t 1|t
E
yt1 | t
是 yt1关于 t 的最小均方误差预测。
❖ 这种预测具有许多优良性质，但其计算比较复杂。
在许多的实际应用问题，我们更感兴趣于在的线
性函数类中寻求的预测。
5
❖例如t yt , yt1,
yˆt1 α'Yt
, ytn1 Yt' 时，可选取：
……………..
17
yˆtq 1yˆtq1 2 yˆtq2 p xtqp qt
………………..
yˆth 1yˆth1 2 yˆth2 p yˆth p ,
hq
❖ 分析上面的公式可知，ARMA(p,q)模型的最佳计
算具有以下特点：
(1)当 h q 时，预测计算公式中包含了 t ,t1,
…, t1q 这 q 个值，与MA模型的预测计算一
28
Sample 1960Q1 1990Q4
Observations 124 24
Mean
62.77419
20
Median
56.60000
16
Maximum
116.2000
Minimum
30.50000
12
Std. Dev.
30.24356
Skewness
0.307981
8
Kurtosis
1.416508
❖ 设随机序列适合一个ARMA模型，即
yt 1yt1 p ytp at 1t1 qtq ❖在已知 t 的条件下，很自然会考虑到 yt , yt1,
的线性函数 yˆth C0 yt C1 yt1 ❖ 这是一种比较容易处理而在使用中最有广泛意义
平稳时间序列预测法PPT课件
二、自回归模型AR（p）
如果时间序列 yt 满足：
yt 1yt1 2 yt2 p ytp t
其中： t 是独立同分布的随机变量序列，并且对于
任意t， E
t
0,Var
t
2
0,
则称时间序列 yt
服从p阶自回归模型，记为AR（p）。 1,2, ,p 称为
自回归系数。
记 Bk 为k步滞后算子，即 Bk yt ytk ，则模型可表示为：
置信区间，则该时间序列具有随机性；
若较多自相关函数落在置信区间之外， 则认为该时间序列不具有随机性。
第27页/共110页
2.时序的平稳性 若时间序列y满足： ①对任意时间t，其均值恒为常数； ②对任意时间t和s，其自相关系数只与时间间隔t-
s有关，而与t和s的起始点无关。 则称这个序列为平稳时间序列。 判断： ①折线图：时间序列各观测值围绕其均值上下波 动，且该均值与时间t无关，振幅变化不大。
第17页/共110页
（1）自相关函数的定义
滞后期为k的自协方差函数为：
rk cov ytk, yt
则自相关函数为：
其中：
k
cov ytk , yt
ytk yt
2 yt
E yt
Eyt 2
第18页/共110页
回总目录 回本章目录
当序列平稳时，自相关函数可写为：
k
rk r0
（2）样本自相关函数
一般的，对移动平均模型： yt B t
若多项式 (B) 11B 1B2 1Bq 0 的根全部在单
位圆外，则称此模型为可逆的移动平均模型。
第12页/共110页
MA（q）模型的逆转形式：
t yt 1j yt j j 1
平稳时间序列模型预测培训课件
2021/7/5
14
§7.3 MA模型的预测
对于MA(q)模型 Xt t 1t1 qtq 我们有X tl tl 1tl1 qtlq
当预测步长 l q ，X tl 可以分解为
X tl tl 1tl1 l1t1 lt qtlq
xˆt l E X tl X t , X t1, lt qtlq
并未利用xt
G02 G12
G2 l 1
2
由当件此前最，样小我本方们差Xt可预和以测历看 值史到。样在其本预预X测测t , 方方Xt差差1, 最只小与已的预知原测条则步件下长下，lxˆ得t有l到关是的，X条tl
而与预测起始点t无关。当预测步长 l 的值越大时，预测 值的方差也越大，因此为了预测精度，ARMA模型的预 测步长 l 不宜过大，也就是说使用ARMA模型进行时间 序列分析只适合做短期预测。
xˆt 1 E Xt1 Xt , Xt1, E 1Xt p Xt1p tl Xt , Xt1,
1xt pxt p1
当 l p，当前时刻为t的 l 步预测
xˆt l E Xtl Xt , Xt1, E 1Xtl1 p Xtlp tl Xt , Xt1,
1xˆt l 1 p xˆt l p
2021/7/5
23
计算预测方差
var e100 1 G02 0.0025
var e100 2 2 G02 G12 0.0026
var e100 3 2 G02 G12 G22 0.002664
计算 xˆ100 l 1.96 var e100 l , xˆ100 l 1.96 var e100 l
16
例7.3
已知某地区每年常住人口数量近似的服从 MA(3)模型（单位：万人）
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(h)
n
1
h
n h (xt x )(xt h x )
t 1
s
s
21
建模流程
• 功率谱估计法 • 第二步，计算功率谱：
S L
BБайду номын сангаас m
((0)
m 1
2
t 1
(h )(h ) cos
h ) m
BL
11 2
(L 0,m ) (L 0,m )
(h)
1 2
1 cos h 2m
22
建模流程
• S L 的最大值即为主要周期。
9
基本概念
③自相关函数和偏自相关函数的联系
*1=1
*2=(2-21) (1 21)
• 2阶以上的偏自相关函数计算公式较为复杂 ，这里不再给出。可自行查阅相关书籍。
10
ARMA模型
• ARMA模型 • 自回归移动平均模型（autoregressive
moving average models,简记为ARMA模型） ，由因变量对它的滞后值以及随机误差项 的现值和滞后值回归得到。 • 包括移动平均过程（MA）、自回归过程（ AR）、自回归移动平均过程（ARMA）。
• 协整：若两个或多个非平稳的变量序列， 其线性组合后的序列呈平稳，则称这些序 列见有协整关系。
26
建模流程
• 先来看一个随机游动过程：
yt yt 1 t
• {t }为白噪声序列 • 可以看出：
E(yt ) E(y 0 1 2 t ) E(y 0 )
• ARIMA模型 • 将ARMA模型推广到非平稳的序列，就是
ARIMA模型。 • 非平稳的序列通过若干次处理，如：取对
数，差分等可化为平稳的序列。 • 经过d阶差分后得到平稳序列的ARMA(p,q)
模型就是原序列的ARIMA(p,d,q)模型
17
建模流程
• ARIMA的建模流程图：
原始序列
周期
带周期成分
11
ARMA模型
• AR（p）模型 • 自回归（AR）模型表示为：
yt 1yt 1 2yt 2 p yt p t
• 其中为 t 为白噪音过程。
12
ARMA模型
• MA（q）模型 • 移动平均（MA）模型表示为：
yt t 1t 1 2t 2 qt q
• 其中为 t 为白噪音过程。
cov(yt ,y y k ) cov(yt m ,yt m k )
4
基本概念
• 如果时间序列式平稳的，我们就可以用具 有确定参数方程将时间序列模型化。并且 利用以往的序列对模型的参数进行估计。
• ARMA模型是一个研究平稳时间序列的模型
5
基本概念
• 白噪声序列： • 序列由独立同分布的随机变量构成。
19
建模流程
• 功率谱分析
• 在时域中, 如果假设标准化时间函数yt 自相
关系数为 (h)则功率谱 s()与自相关系数
• (h)通过傅里叶变换可建立如下关系：
(h )
1
2
s()eint hd
s() (h )e int hdh
20
建模流程
• 功率谱估计法 • 第一步，计算样本自相关系数：
平稳时间序列预测法
——ARMA模型的建立
1
目录
基本概念
ARMA模型
建模流程
2
基本概念
• 平稳时间序列： • 设时间序列来自一个随机过程，如果此随
机过程的随机特征不随时间变化，则我们 称过程是平稳的。 • 实际应用中一般要求平稳性为“宽平稳” 。
3
基本概念
• 宽平稳：
E(yt ) E(yt m )
不带周期成分
差分
平稳
结束
白噪声
ARMA模型
18
建模流程
• 周期性检验：谱分析
• 谱分析方法把时间序列{yt }看成是由多种不
同频率的规则波（正弦波或余弦波）迭加 而成。在频率域上比较不同频率波的方差 大小，从而找出波动的主要周期。对某一
时间序列{yt }的谱分析，有两种方法： 一
是功率谱分析， 二是最大熵谱分析。
• 功率谱在分析时间序列的周期时存在如下 问题：
• (1)功率谱不能兼顾高频和低频段的需要; • (2)某些短周期振动易在一些周期长度为它
们整数倍的长周期中表现出来,又混在长周 期中; • (3)所取样本较短时,不利于谱的分辩, 可能得 出的周期与实际有偏离。
23
建模流程
• SPSS中的功率谱分析： • 观察谱周期图； • 做Fisher峰值检验； • 有效的峰值处就是周期；
MA(q)过程具有可逆性 • 平稳性和可逆性的概念在数学语言上是完
全等价的，所不同的是，前者是对AR过程 而言的，而后者是对MA过程而言的。
15
ARMA模型
• 以上三个模型都要满足一下条件： • 第一，平稳性。序列时平稳的。 • 第二，残差符合白噪声。 • 第三，AR的平稳与MA的可逆
16
ARMA模型
7
基本概念
• 自相关函数与偏自相关函数 ①自相关函数
• 过程Yt的第j阶自相关系数即 j j 0
，自相关函数记为ACF(j) 。
ACF(h) cov(yt ,yt h ) D(yt ) D(yt h )
8
基本概念
②偏自相关函数 • 偏自相关系数*j度量了消除中间滞后项影
响后两滞后变量之间的相关关系。偏自相 关函数记为PACF(j)
13
ARMA模型
• ARMA（p,q）模型 • 将AR模型与MA模型连起来：
yt 1yt 1 2yt 2 p yt p t 1t 1 2t 2 qt q
• 其中为t 为白噪音过程。
14
ARMA模型
• AR、MA模型的相互转化 • 结论一：平稳的AR(p)过程可以转化为一个
MA(∞)过程，可采用递归迭代法完成转化 • 结论二：特征方程根都落在单位圆外的
• 对所有 s t
• 都有
E(ys ) E(yt )
cov(ys ,yt ) 0
6
基本概念
• 白噪声序列式最简单的平稳序列，在不同 点上的协方差为0。该特性称之为“无记忆 性”，意味着人们无法根据其过去的特点 推断其未来的特点，其变化没有规律可循 。
• 在时间序列的分析中，当模型的残差序列 为白噪声序列时，可认为模型达到了较好 的效果，剩余的残差中已没有可提取的信 息。
24
建模流程
• 平稳性检验 • 一般地，以时间序列数据为依据的实证研
究工作都必须假定有关的时间序列时平稳 的，否则回导致谬误回归问题的出现。 • 先给出两种非平稳序列现象：d阶单整和协 整，这两类非平稳序列经过变换可以达到 平稳。
25
建模流程
• d阶单整：是指非平稳序列经过d阶差分后 可以达到平稳。