平稳线性ARMA模型AR模型
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• AR(p)模型偏自相关系数P阶截尾
kk0,kp
61
例3.5续:考察如下AR模型的偏自相关图
(1)xt 0.8xt1 t (2)xt 0.8xt1 t (3)xt xt1 0.5xt2 t (4)xt xt1 0.5xt2 t
62
例3.5— (1)xt 0.8xt1t
差分运算
xt xt xt1
px t p 1 x t p 1 x t 1
k xt xtk
3
滞后算子
• 延迟算子类似于一个时间指针，当前序列 值乘以一个延迟算子，就相当于把当前序 列值的时间向过去拨了一个时刻
• 记B为延迟算子，有 xtpBpxt,p1
4
延迟算子的性质
B0 1
•
B(cxt)cB(xt)cxt1,c为任意常数
Average model）
18
3.2.1一阶自回归过程AR(1)
• 通常地，由于经济系统惯性的作用，经济 时间序列往往存在着前后依存关系。最简 单的一种情形就是变量当前的取值主要与 其前一时期的取值状况有关，用数学模型 来描述这种关系就是下面介绍的一阶自回 归模型。
19
20
在一阶自回归AR(1)模型中，保持其平稳性
• AR(1)模型 k 1k,k0
• AR(2)模型 1,
k 112 1k1 2k2
k 0 k 1
k 2
52
AR模型自相关系数的性质
• 拖尾性
p
(k) ciik c1,c2,,cp不能恒等于
i1
• 呈复指数衰减
p
(k) ciik 0 i1
53
例3.5:考察如下AR模型的自相关图
(1)xt 0.8xt1 t (2)xt 0.8xt1 t (3)xt xt1 0.5xt2 t (4)xt xt1 0.5xt2 t
6
线性差分方程
• 线性差分方程
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t )
• 齐次线性差分方程
z t a 1 z t 1 a 2 z t 2 a p z t p 0
7
齐次线性差分方程的解
• 特征方程
p a 1p 1 a 2p 2 a p 0
59
偏自相关系数的计算
• 滞后k偏自相关系数实际上就等于k阶自回
归模型第个k回归系数的值。
1 k10 k21 kkk1
2
k11 k20 kkk2
k k1k1 k2k2 kk0
k kE[x (E t[x (E tˆxkt )x (E ˆtxkt k)E 2ˆ]xk)t ]
60
偏自相关系数的截尾性
• 自相关系数不规则衰减
58
偏自相关系数
• 定义
对于平稳AR(p)序列，所谓滞后k偏自相关系数就 是指在给定中间k-1个随机变量x t 1 ,x t 2, ,x t k 的1 条 件下，或者说，在剔除了中间k-1个随机变量的 干扰之后，x tk 对 x t 影响的相关度量。用数学语 言描述就是
xt,xt kxt 1, ,xt k 1E [x (tE [E x ˆ(tx tk) x ( E tˆ x kt kE )ˆ2 xt k)]
• 判别原因
• AR模型是常用的平稳序列的拟合模型之一， 但并非所有的AR模型都是平稳的
• 判别方法
• 单位根判别法 • 平稳域判别法
36
例3.1:考察如下四个模型的平稳性
(1)xt 0.8xt 1t (2)xt 1.1xt 1t
(3 )x t x t 1 0 .5 x t 2t
(4 )x t x t 1 0 .5 x t 1t
非 平稳
43
平稳AR模型的统计性质
• 均值 • 方差 • 协方差 • 自相关系数 • 偏自相关系数
44
均值
• 如果AR(p)模型满足平稳性条件，则有 E t E ( x 0 1 x t 1 p x t p t )
• 根据平稳序列均值为常数，且 { t为} 白噪声序列，
有
E t x,E (t) 0, t T
• 推导出
0 11p
45
方差
• 平稳AR模型的传递形式
xt Gjtj j0
• 两边求方差得 Va(xtr) G2 j2,Gj为 Gr函 een 数 j0
46
例3.2:求平稳AR(1)模型的方差
•
平稳AR(1)模型的传递形式为
xt1t1Bi 0(1B )i t
i 0
i 1
t i
•
B (x ty t)x t 1y t 1
•
Bnxt xtn
• •
n
(1B)n (1)nCniBi
， i0 其中
Cni
n! i!(n i)!
5
用延迟算子表示差分运算
• p阶差分
p
pxt (1B )pxt (1)pC ipxti i0
• k步差分 k x t x t k (1 B k)x t
B 其中，G(B)
Gj
Bj
，今后将把
进行运算的算j0子，又可作为
G(的B)看函作数对来讨t
论。
14
在理论研究和实际问题的处理时，通常还需要用
t时刻及t时刻以前的 Xtj(j0,1,)
来表示白噪声 t ，即
15
16
17
3.2 ARMA模型的性质
• AR模型（Auto Regression Model） • MA模型（Moving Average Model） • ARMA模型（Auto Regression Moving
zt ztzt
9
线性平稳时间序列分析
• 在时间序列的统计分析中，平稳序列是一类重要 的随机序列。在这方面已经有了比较成熟的理论 知识，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地 描述动态数据在实际应用中有许多优点，例如它 是线性模型，只要给出少量参数就可完全确定模 型形式；另外，便于分析数据的结构和内在性质， 也便于在最小方差意义下进行最佳预测和控制。 本章将讨论ARMA模型的基本性质和特征，这是 时间序列统计分析中的重要理论基础。
8
非齐次线性差分方程的解
• 非齐次线性差分方程的特解
• 使得非齐次线性差分方程成立的任意一个解z t
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t )
• 非齐次线性差分方程的通解
• 齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
37
例3.1平稳序列时序图
(1)xt 0.8xt 1t
(3 )x t x t 1 0 .5 x t 2t
38
例3.1非平稳序列时序图
(2)xt 1.1xt 1t
(4 )x t x t 1 0 .5 x t 1t
39
AR模型平稳性判别方法
• 特征根判别
• AR(p)模型平稳的充要条件是它的p个特征根都在单位 圆内
• 特征方程的根称为特征根，记作
1,2,,p
• 齐次线性差分方程的通解
• 不相等实数根场合
• 有相等实根场合
z t c 11 t c 2t 2 c ptp
z t ( c 1 c 2 t c d t d 1 ) 1 t c d 1 t d 1 c p t p
• 复根场合 z t r t( c 1 e i t c 2 e i t ) c 3 t 3 c p t p
30
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
32
AR模型的定义
• 具有如下结构的模型称为 p阶自回归模 型，简记为 AR(p)
xt 0 1xt12xt2 pxtp t
p 0
E(t
)0，Va(rt)2,E(ts)0,st
Exst 0,st
• 特别当0 0时，称为中心化AR(p) 模型
• 平稳AR(2)模型的协方差函数递推公式为
0
12 (12)(11 2)(11
2 )2
1
1 0 12
k
1 k1 2 k2，k
2
50
自相关系数
•
自相关系数的定义
k
k 0
• 平稳AR(P)模型的自相关系数递推公式 k 1k 1 2k 2 L pk p
51
常用AR模型自相关系数递推公式
54
例3.5— (1)xt 0.8xt1t
• 自相关系数按复指数单调收敛到零
55
例3.5:—(2)xt 0.8xt 1t
56
例3.5:— (3 )x t x t 1 0 .5 x t 2t
• 自相关系数呈现出“伪周期”性
57
例3.5:— (4 )x t x t 1 0 .5 x t 2t
的条件是对应的特征方程 0 的根的绝对值必须小于1，即满足 1 。
对于平稳的AR(1)模型，经过简单的计算易 得
21
22
3.2.2 二阶自回归过程AR(2)
• 当变量当前的取值主要与其前两时期的取 值状况有关，用数学模型来描述这种关系 就是如下的二阶自回归模型AR(2)：
• 引入延迟算子 B 的表达形式为：
2 1
4 2
2
{ 1,221 ，2且 11 } 42
例3.1平稳性判别
模 型
特征根判别
平稳域判别
结 论
(1)
1 0.8
0.8
平稳
(2)
1 1.1
(3)
1
1 2
i
2
1i 2
(4)
1
1 2
3
2
1 2
3
ห้องสมุดไป่ตู้.1
非 平稳
2 0 .5 ,2 1 0 .5 ,2 1 1 .5 平稳
2 0 .5 ,2 1 1 .5 ,2 1 0 .5
10
11
• 定理3.1 定义（3.1）中的线性过程是平稳
序列，且
G j t j
是均方收敛的。
j
12
3.1.2 线性过程的因果性和可逆性
• 在应用时间序列分析去解决实际问题时， 所使用的线性过程是因果性的，即：
13
• 设 B 为一步延迟算子，
则 BjXt Xtj，j 0 ，(3.4)可表为：
26
• 满足条件(3.16)和(3.17)式给出的区域
1,22 1 1 ,2 1
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
27
28
29
• 例3.2 设AR(2)模型：X t 0 .7 X t 1 0 .1 X t 2t
试判别 X t 的平稳性。
解：根据上述关于平稳条件的讨论，可以 通过两种径进行讨论：
• 根据
E(txtk)0 ,k 1
• 得协方差函数的递推公式
k 1 k 1 2 k 2 p k p
48
例3.3:求平稳AR(1)模型的协方差
• 递推公式
k1k11k0
• 平稳AR(1)模型的方差为
0
2
1 12
• 协方差函数的递k推公1k式1为212 ,k1
49
例3.4:求平稳AR(2)模型的协方差
• Green函数为 Gj 1j,j0,1,
• 平稳AR(1)模型的方 差
2
V(a x t) r G 2 jV(a t) r
2j 1
j 0
j 0
2 1 1 2 47
协方差函数
• 在平稳AR(p)模型两边同乘 xtk ,k ，1再求期望
E ( x t x t k ) 1 E ( x t 1 x t k ) p E ( x t p x t k ) E ( t x t k )
• 根据特征根和自回归系数多项式的根成倒数的性质， 等价判别条件是该模型的自回归系数多项式的根都在 单位圆外
• 平稳域判别
• 平稳域 {1,2,,p单位根都在单}位圆
40
AR(1)模型平稳条件
• 特征根
• 平稳域
〈 1
41
AR(2)模型平稳条件 • 平稳域
• 特征根
1 1
2 1
4 2
2
2 1
33
AR(P)序列中心化变换
• 称 { y t } 为{ xt } 的中心化序列 ，令
0
11p
yt xt
34
自回归系数多项式
• 引进延迟算子，中心化AR(p)模型又可以
简记为
(B)xt t
• 自回归系数多项式
( B ) 1 1 B 2 B 2 p B p
35
AR模型平稳性判别
23
24
• 下面利用特征方程的根与模型参数 1 , 2
的关系，给出AR(2) 模型平稳的
的取值条件（或值域）。
1
,
2
(11)(12)0
25
• (3.16)和(3.17)式是保证AR(2)模型平稳，回 归参数 1 , 2 所应具有的条件。反之，若 (特3.征16方)和程(3的.1根7)式必成落立在，单则位特圆征内方。程2120
本节结构
• 方法性工具 • 线性过程的因果性和可逆性 • AR模型
1
3.1 方法性工具
• 差分运算 • 滞后算子 • 线性差分方程 在正式讨论线性过程之前，我们首先给出相
应的准备工具，介绍延迟算子和求解线性 差分方程，这些工具会使得时间序列模型 表达和分析更为简洁和方便
2
• 一阶差分 • p阶差分 • k步差分
kk0,kp
61
例3.5续:考察如下AR模型的偏自相关图
(1)xt 0.8xt1 t (2)xt 0.8xt1 t (3)xt xt1 0.5xt2 t (4)xt xt1 0.5xt2 t
62
例3.5— (1)xt 0.8xt1t
差分运算
xt xt xt1
px t p 1 x t p 1 x t 1
k xt xtk
3
滞后算子
• 延迟算子类似于一个时间指针，当前序列 值乘以一个延迟算子，就相当于把当前序 列值的时间向过去拨了一个时刻
• 记B为延迟算子，有 xtpBpxt,p1
4
延迟算子的性质
B0 1
•
B(cxt)cB(xt)cxt1,c为任意常数
Average model）
18
3.2.1一阶自回归过程AR(1)
• 通常地，由于经济系统惯性的作用，经济 时间序列往往存在着前后依存关系。最简 单的一种情形就是变量当前的取值主要与 其前一时期的取值状况有关，用数学模型 来描述这种关系就是下面介绍的一阶自回 归模型。
19
20
在一阶自回归AR(1)模型中，保持其平稳性
• AR(1)模型 k 1k,k0
• AR(2)模型 1,
k 112 1k1 2k2
k 0 k 1
k 2
52
AR模型自相关系数的性质
• 拖尾性
p
(k) ciik c1,c2,,cp不能恒等于
i1
• 呈复指数衰减
p
(k) ciik 0 i1
53
例3.5:考察如下AR模型的自相关图
(1)xt 0.8xt1 t (2)xt 0.8xt1 t (3)xt xt1 0.5xt2 t (4)xt xt1 0.5xt2 t
6
线性差分方程
• 线性差分方程
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t )
• 齐次线性差分方程
z t a 1 z t 1 a 2 z t 2 a p z t p 0
7
齐次线性差分方程的解
• 特征方程
p a 1p 1 a 2p 2 a p 0
59
偏自相关系数的计算
• 滞后k偏自相关系数实际上就等于k阶自回
归模型第个k回归系数的值。
1 k10 k21 kkk1
2
k11 k20 kkk2
k k1k1 k2k2 kk0
k kE[x (E t[x (E tˆxkt )x (E ˆtxkt k)E 2ˆ]xk)t ]
60
偏自相关系数的截尾性
• 自相关系数不规则衰减
58
偏自相关系数
• 定义
对于平稳AR(p)序列，所谓滞后k偏自相关系数就 是指在给定中间k-1个随机变量x t 1 ,x t 2, ,x t k 的1 条 件下，或者说，在剔除了中间k-1个随机变量的 干扰之后，x tk 对 x t 影响的相关度量。用数学语 言描述就是
xt,xt kxt 1, ,xt k 1E [x (tE [E x ˆ(tx tk) x ( E tˆ x kt kE )ˆ2 xt k)]
• 判别原因
• AR模型是常用的平稳序列的拟合模型之一， 但并非所有的AR模型都是平稳的
• 判别方法
• 单位根判别法 • 平稳域判别法
36
例3.1:考察如下四个模型的平稳性
(1)xt 0.8xt 1t (2)xt 1.1xt 1t
(3 )x t x t 1 0 .5 x t 2t
(4 )x t x t 1 0 .5 x t 1t
非 平稳
43
平稳AR模型的统计性质
• 均值 • 方差 • 协方差 • 自相关系数 • 偏自相关系数
44
均值
• 如果AR(p)模型满足平稳性条件，则有 E t E ( x 0 1 x t 1 p x t p t )
• 根据平稳序列均值为常数，且 { t为} 白噪声序列，
有
E t x,E (t) 0, t T
• 推导出
0 11p
45
方差
• 平稳AR模型的传递形式
xt Gjtj j0
• 两边求方差得 Va(xtr) G2 j2,Gj为 Gr函 een 数 j0
46
例3.2:求平稳AR(1)模型的方差
•
平稳AR(1)模型的传递形式为
xt1t1Bi 0(1B )i t
i 0
i 1
t i
•
B (x ty t)x t 1y t 1
•
Bnxt xtn
• •
n
(1B)n (1)nCniBi
， i0 其中
Cni
n! i!(n i)!
5
用延迟算子表示差分运算
• p阶差分
p
pxt (1B )pxt (1)pC ipxti i0
• k步差分 k x t x t k (1 B k)x t
B 其中，G(B)
Gj
Bj
，今后将把
进行运算的算j0子，又可作为
G(的B)看函作数对来讨t
论。
14
在理论研究和实际问题的处理时，通常还需要用
t时刻及t时刻以前的 Xtj(j0,1,)
来表示白噪声 t ，即
15
16
17
3.2 ARMA模型的性质
• AR模型（Auto Regression Model） • MA模型（Moving Average Model） • ARMA模型（Auto Regression Moving
zt ztzt
9
线性平稳时间序列分析
• 在时间序列的统计分析中，平稳序列是一类重要 的随机序列。在这方面已经有了比较成熟的理论 知识，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地 描述动态数据在实际应用中有许多优点，例如它 是线性模型，只要给出少量参数就可完全确定模 型形式；另外，便于分析数据的结构和内在性质， 也便于在最小方差意义下进行最佳预测和控制。 本章将讨论ARMA模型的基本性质和特征，这是 时间序列统计分析中的重要理论基础。
8
非齐次线性差分方程的解
• 非齐次线性差分方程的特解
• 使得非齐次线性差分方程成立的任意一个解z t
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t )
• 非齐次线性差分方程的通解
• 齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
37
例3.1平稳序列时序图
(1)xt 0.8xt 1t
(3 )x t x t 1 0 .5 x t 2t
38
例3.1非平稳序列时序图
(2)xt 1.1xt 1t
(4 )x t x t 1 0 .5 x t 1t
39
AR模型平稳性判别方法
• 特征根判别
• AR(p)模型平稳的充要条件是它的p个特征根都在单位 圆内
• 特征方程的根称为特征根，记作
1,2,,p
• 齐次线性差分方程的通解
• 不相等实数根场合
• 有相等实根场合
z t c 11 t c 2t 2 c ptp
z t ( c 1 c 2 t c d t d 1 ) 1 t c d 1 t d 1 c p t p
• 复根场合 z t r t( c 1 e i t c 2 e i t ) c 3 t 3 c p t p
30
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
32
AR模型的定义
• 具有如下结构的模型称为 p阶自回归模 型，简记为 AR(p)
xt 0 1xt12xt2 pxtp t
p 0
E(t
)0，Va(rt)2,E(ts)0,st
Exst 0,st
• 特别当0 0时，称为中心化AR(p) 模型
• 平稳AR(2)模型的协方差函数递推公式为
0
12 (12)(11 2)(11
2 )2
1
1 0 12
k
1 k1 2 k2，k
2
50
自相关系数
•
自相关系数的定义
k
k 0
• 平稳AR(P)模型的自相关系数递推公式 k 1k 1 2k 2 L pk p
51
常用AR模型自相关系数递推公式
54
例3.5— (1)xt 0.8xt1t
• 自相关系数按复指数单调收敛到零
55
例3.5:—(2)xt 0.8xt 1t
56
例3.5:— (3 )x t x t 1 0 .5 x t 2t
• 自相关系数呈现出“伪周期”性
57
例3.5:— (4 )x t x t 1 0 .5 x t 2t
的条件是对应的特征方程 0 的根的绝对值必须小于1，即满足 1 。
对于平稳的AR(1)模型，经过简单的计算易 得
21
22
3.2.2 二阶自回归过程AR(2)
• 当变量当前的取值主要与其前两时期的取 值状况有关，用数学模型来描述这种关系 就是如下的二阶自回归模型AR(2)：
• 引入延迟算子 B 的表达形式为：
2 1
4 2
2
{ 1,221 ，2且 11 } 42
例3.1平稳性判别
模 型
特征根判别
平稳域判别
结 论
(1)
1 0.8
0.8
平稳
(2)
1 1.1
(3)
1
1 2
i
2
1i 2
(4)
1
1 2
3
2
1 2
3
ห้องสมุดไป่ตู้.1
非 平稳
2 0 .5 ,2 1 0 .5 ,2 1 1 .5 平稳
2 0 .5 ,2 1 1 .5 ,2 1 0 .5
10
11
• 定理3.1 定义（3.1）中的线性过程是平稳
序列，且
G j t j
是均方收敛的。
j
12
3.1.2 线性过程的因果性和可逆性
• 在应用时间序列分析去解决实际问题时， 所使用的线性过程是因果性的，即：
13
• 设 B 为一步延迟算子，
则 BjXt Xtj，j 0 ，(3.4)可表为：
26
• 满足条件(3.16)和(3.17)式给出的区域
1,22 1 1 ,2 1
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
27
28
29
• 例3.2 设AR(2)模型：X t 0 .7 X t 1 0 .1 X t 2t
试判别 X t 的平稳性。
解：根据上述关于平稳条件的讨论，可以 通过两种径进行讨论：
• 根据
E(txtk)0 ,k 1
• 得协方差函数的递推公式
k 1 k 1 2 k 2 p k p
48
例3.3:求平稳AR(1)模型的协方差
• 递推公式
k1k11k0
• 平稳AR(1)模型的方差为
0
2
1 12
• 协方差函数的递k推公1k式1为212 ,k1
49
例3.4:求平稳AR(2)模型的协方差
• Green函数为 Gj 1j,j0,1,
• 平稳AR(1)模型的方 差
2
V(a x t) r G 2 jV(a t) r
2j 1
j 0
j 0
2 1 1 2 47
协方差函数
• 在平稳AR(p)模型两边同乘 xtk ,k ，1再求期望
E ( x t x t k ) 1 E ( x t 1 x t k ) p E ( x t p x t k ) E ( t x t k )
• 根据特征根和自回归系数多项式的根成倒数的性质， 等价判别条件是该模型的自回归系数多项式的根都在 单位圆外
• 平稳域判别
• 平稳域 {1,2,,p单位根都在单}位圆
40
AR(1)模型平稳条件
• 特征根
• 平稳域
〈 1
41
AR(2)模型平稳条件 • 平稳域
• 特征根
1 1
2 1
4 2
2
2 1
33
AR(P)序列中心化变换
• 称 { y t } 为{ xt } 的中心化序列 ，令
0
11p
yt xt
34
自回归系数多项式
• 引进延迟算子，中心化AR(p)模型又可以
简记为
(B)xt t
• 自回归系数多项式
( B ) 1 1 B 2 B 2 p B p
35
AR模型平稳性判别
23
24
• 下面利用特征方程的根与模型参数 1 , 2
的关系，给出AR(2) 模型平稳的
的取值条件（或值域）。
1
,
2
(11)(12)0
25
• (3.16)和(3.17)式是保证AR(2)模型平稳，回 归参数 1 , 2 所应具有的条件。反之，若 (特3.征16方)和程(3的.1根7)式必成落立在，单则位特圆征内方。程2120
本节结构
• 方法性工具 • 线性过程的因果性和可逆性 • AR模型
1
3.1 方法性工具
• 差分运算 • 滞后算子 • 线性差分方程 在正式讨论线性过程之前，我们首先给出相
应的准备工具，介绍延迟算子和求解线性 差分方程，这些工具会使得时间序列模型 表达和分析更为简洁和方便
2
• 一阶差分 • p阶差分 • k步差分