第3章 平稳线性ARMA模型(2)--AR模型
第三章 ARMA模型的特性
λ1 〈1，λ2 〈1
（2）用自回归系数表示： ）用自回归系数表示：
ϕ 2 〈1 ϕ 2 ± ϕ 1 〈1
3.ARMA(2,m)的平稳性 的平稳性
ϕ 2 〈1 〈1 ϕ 2 ± ϕ 1 〈1
4.ARMA(p,q)的平稳性 的平稳性 P阶自回归系数多项式的根都在单位圆外 阶自回归系数多项式的根都在单位圆外 平稳性完全由其自回归部分决定
1.MA(1)
θ1 < 1
2.MA(q)模型的可逆条件是： 模型的可逆条件是： 模型的可逆条件是
MA(q)模型的特征根都在单位圆内 模型的特征根都在单位圆内
λi < 1
必要条件： 必要条件：
θ1 + θ 2 + L + θ q < 1
考察如下MA模型的可逆性 例3.6续:考察如下 续 考察如下 模型的可逆性 (1) xt = ε t − 2ε t −1 (2) xt = ε t − 0.5ε t −1 4 16 (3) xt = ε t − ε t −1 + ε t − 2 5 25 5 25 (4) xt = ε t − ε t −1 + ε t − 2 4 16
∑ϕ
j=0
∞
j 1
at− j =
∑G
j=0
∞
j
at− j
3.AR(1)的滞后算子表达式 的滞后算子表达式源自at Xt = 1 − ϕ1B
4.AR(p)的Green函数递推公式 的 函数递推公式
原理 方法
Φ ( B ) xt = at ⇒ Φ ( B )G ( B )at = at xt = G ( B )at
第章 平稳线性ARMA模型AR模型
3.1 方法性工具
• 差分运算 • 滞后算子 • 线性差分方程 在正式讨论线性过程之前，我们首先给出相
应的准备工具，介绍延迟算子和求解线性 差分方程，这些工具会使得时间序列模型 表达和分析更为简洁和方便
2
• 一阶差分
差分运算
• 阶差分
• 步差分
3
滞后算子
51
常用AR模型自相关系数递推公式
• AR(1)模型 • AR(2)模型
52
AR模型自相关系数的性质
• 拖尾性 • 呈复指数衰减
53
例3.5:考察如下AR模型的自相关图
54
例3.5—
• 自相关系数按复指数单调收敛到零
55
例3.5:—
56
例3.5:—
• 自相关系数呈现出“伪周期”性
57
例3.5:—
28
29
• 例3.2 设AR(2)模型： 试判别 的平稳性。
解：根据上述关于平稳条件的讨论，可以 通过两种径进行讨论：
30
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
32
AR模型的定义
• 具有如下结构的模型称为 阶自回归模 型，简记为
• 特别当 时，称为中心化
• 平稳域判别
• 平稳域
40
AR(1)模型平稳条件
• 特征根 • 平稳域
41
AR(2)模型平稳条件 • 平稳域 • 特征根
42
例3.1平稳性判别
模 型
特征根判别
平稳域判别
(1)
(2)
(3)
(4)
结 论
平稳
非 平稳
第3-2章_平稳时间序列分析-ARMA模型
所以，平稳AR(2)模型的协方差函数递推公式为
1 2 2 0 (1 )(1 )(1 ) 2 1 2 1 2 1 0 1 1 2 k 1 k 1 2 k 2，k 2
例3.1:考察如下四个模型的平稳性
(1) xt 0.8xt 1 t
(2) xt 1.1xt 1 t
(3) xt xt 1 0.5xt 2 t
(4) xt xt 1 0.5xt 1 t
例3.1平稳序列时序图
(1) xt 0.8xt 1 t
1 2 p 1
(2)由于
i (i 1,, p) 可正可负，AR(p)模型
1 2 p 1
稳定的充分条件是：
例3.1平稳性判别 模 型
(1)
(2) (3) (4)
1
特征根判别
1 0.8
1 1.1
1 i 2
平稳域判别
结 论
（一）AR模型定义
具有如下结构的模型称为 p 阶自回归模型，简 记为 AR( p)
xt 0 1 xt 1 2 xt 2 p xt p t p 0 2 E ( t ) 0，Var( t ) , E ( t s ) 0, s t Ex 0, s t s t
(3) xt xt 1 0.5xt 2 t
例3.1非平稳序列时序图
(2) xt 1.1xt 1 t
(4) xt xt 1 0.5xt 1 t
从时序图上可以看出，（1）（3）模型平稳， （2）（4）模型非平稳。
（三）AR模型平稳性常用判别方法 特征根判别 AR(p)模型平稳的充要条件是它的p个特征根 都在单位圆内。
时间序列分析方法 第3章 平稳ARMA模型
第三章 平稳ARMA 过程一元ARMA 模型是描述时间序列动态性质的基本模型。
通过介绍ARMA 模型，可以了解一些重要的时间序列的基本概念。
§3.1 预期、平稳性和遍历性 3.1.1 预期和随机过程假设可以观察到一个样本容量为T 的随机变量t Y 的样本：},,,{21T y y y这意味着这些随机变量之间的是相互独立且同分布的。
例3.1 假设T 个随机变量的集合为：},,,{21T εεε ，),0(~2σεN i 且相互独立，我们称其为高斯白噪声过程产生的样本。
对于一个随机变量t Y 而言，它是t 时刻的随机变量，因此即使在t 时刻实验，它也可以具有不同的取值，假设进行多次试验，其方式可能是进行多次整个时间序列的试验，获得I 个时间序列：+∞=-∞=t t t y }{)1(，+∞=-∞=t t t y }{)2(，…，+∞=-∞=t t I t y }{)(将其中仅仅是t 时刻的观测值抽取出来，得到序列：},,,{)()2()1(I t t t y y y ，这个序列便是对随机变量t Y 在t 时刻的I 次观测值，也是一种简单随机子样。
定义3.1 假设随机变量t Y 是定义在相同概率空间},,{P Ω上的随机变量，则称随机变量集合},2,1,0,{ ±±=t Y t 为随机过程。
例3.2 假设随机变量t Y 的概率密度函数为： ]21exp[21)(22t t Y y y f t σσπ=此时称此时密度为该过程的无条件密度，此过程也称为高斯过程或者正态过程。
定义3.2 可以利用各阶矩描述随机过程的数值特征： (1) 随机变量t Y 的数学期望定义为(假设积分收敛)：⎰==+∞∞-tt Y t t t dy y f y Y E t )()(μ 此时它是随机样本的概率极限：∑==∞→I i i t I t y I P Y E 1)(1lim )((2) 随机变量t Y 的方差定义为(假设积分收敛):20)(t t t Y E μγ-=例3.3 (1) 假设},,{21 εε是一个高斯白噪声过程，随机过程t Y 为常数加上高斯白噪声过程：t t Y εμ+=，则它的均值和方差分别为：μεμμ=+==)()(t t t E Y E 2220)()(σεμγ==-=t t t t E Y E(2) 随机过程t Y 为时间的线性趋势加上高斯白噪声过程：t t t Y εβ+=，则它的均值和方差分别为：t E t Y E t t t βεβμ=+==)()( 2220)()(σεμγ==-=t t t t E Y E3.1.2 随机过程的自协方差将j 个时间间隔的随机变量构成一个随机向量),,(1'=--j t t t t Y Y Y X ，通过随机试验可以获得该随机向量的简单随机样本。
平稳AR模型知识点总结
平稳AR模型知识点总结一、AR模型的定义AR模型是一种描述时间序列数据动态特征的模型，它假设当前时刻的观测值可以由之前时刻的观测值线性组合得到。
具体来说，平稳AR(p)模型可以表示为：\[X_t = c + \phi_1 X_{t-1} + \phi_2 X_{t-2} + ... + \phi_p X_{t-p} + \varepsilon_t\]其中，\(X_t\)是当前时刻的观测值，\(c\)是常数项，\(\phi_1, \phi_2, ..., \phi_p\)是模型的参数，\(X_{t-1}, X_{t-2}, ..., X_{t-p}\)是之前时刻的观测值，\(\varepsilon_t\)是一个白噪声误差项。
这里的p代表了模型的阶数，即模型考虑了之前p个时刻的观测值。
二、平稳AR模型的特性平稳AR模型有一些重要的特性，对于理解和分析AR模型非常有帮助。
1. 平稳性：AR模型的平稳性是一个重要的性质，它要求模型的参数要满足一定的条件才能保证模型是平稳的。
平稳性是指时间序列数据的统计特性在不同时间段内是相似的，不随时间变化而发生明显的变化。
对于AR模型来说，要求其参数满足的条件是其特征根要在单位圆内，即\(|\phi_1| < 1, |\phi_2| < 1, ..., |\phi_p| < 1\)。
只有当这个条件满足时，AR 模型才具有平稳性，否则就会出现时间序列数据的不稳定性。
2. 自回归结构：AR模型的自回归结构是模型的核心特性，它描述了当前时刻的观测值与之前时刻的观测值之间的关系。
这种自回归的结构可以帮助我们理解时间序列数据的动态特性，进行预测和分析。
3. 白噪声残差：AR模型的误差项\(\varepsilon_t\)通常假设是服从均值为0、方差为\(\sigma^2\)的白噪声分布。
这意味着模型的残差是独立同分布的，没有自相关性和序列相关性，对于模型的有效性和预测性能至关重要。
第3章 平稳线性ARMA模型(2)--AR模型
的根的绝对值必须小于1，即满足 1 。
对于平稳的AR(1)模型，经过简单的计算易 得
3.2.2 二阶自回归过程AR(2)
• 当变量当前的取值主要与其前两时期的取 值状况有关，用数学模型来描述这种关系 就是如下的二阶自回归模型AR(2)：
• 引入延迟算子 B 的表达形式为：
(B) 11B 2B2 p B p
AR模型平稳性判别
• 判别原因
• AR模型是常用的平稳序列的拟合模型之一， 但并非所有的AR模型都是平稳的
• 判别方法
• 单位根判别法 • 平稳域判别法
例3.1:考察如下四个模型的平稳性
(1)xt 0.8xt1 t (2)xt 1.1xt1 t
(3)xt xt1 0.5xt2 t
• 满足条件(3.16)和(3.17)式给出的区域
1, 2 2 1 1, 2 1
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
• 例3.2 设AR(2)模型：Xt 0.7 Xt1 0.1Xt2 t
试判别 X t 的平稳性。
解：根据上述关于平稳条件的讨论，可以
•
平稳AR(1)模型的方差
Var(xt ) G2jVar(t )
j0
12
j
2
j0
2
1 12
协方差函数
• 在平稳AR(p)模型两边同乘 xtk ,k ，1再求期望
E(xt xtk ) 1E(xt1xtk ) p E(xt p xtk ) E(t xtk )
• 根据
E( t xtk ) 0 ,k 1
本节结构
• 方法性工具 • 线性过程的因果性和可逆性 • AR模型
平稳线性ARMA模型 AR模型
24
• 下面利用特征方程的根与模型参数 1 , 2
的关系，给出AR(2) 模型平稳的
的取值条件（或值域）。
1
,
2
(11)(12)0
25
• (3.16)和(3.17)式是保证AR(2)模型平稳，回 归参数 1 , 2 所应具有的条件。反之，若 (特3.征16方)和程(3的.1根7)式必成落立在，单则位特圆征内方。程2120
• 根据特征根和自回归系数多项式的根成倒数的性质， 等价判别条件是该模型的自回归系数多项式的根都在 单位圆外
• 平稳域判别 • 平稳域 {1,2,,p 单位根都在单}位圆
40
AR(1)模型平稳条件
• 特征根
• 平稳域
〈 1
41
AR(2)模型平稳条件 • 平稳域
• 特征根
1 1
2 1
4 2
2
• 特征方程的根称为特征根，记作
1,2,,p
• 齐次线性差分方程的通解
• 不相等实数根场合
• 有相等实根场合
zt c 11 t c 2t2 c ptp
z t ( c 1 c 2 t c d t d 1 ) 1 t c d 1 t d 1 c p t p
• 复根场合 z t r t( c 1 e i t c 2 e i t ) c 3 t 3 c p t p
8
非齐次线性差分方程的解
• 非齐次线性差分方程的特解
• 使得非齐次线性差分方程成立的任意一个解z t
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t )
• 非齐次线性差分方程的通解
• 齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
第3章 线性平稳时间序列分析
延迟算子
定义：设B为一步延迟算子，如果当前序列乘
以一个延迟算子，就表示把当前序列值的时间
向过去拨一个时刻，即 BXt=Xt-1。
性质： B0 1
B(c
X
t
)
c
B(
X
t
)
c
X
t
1,
c为任意常数
B(
X
t
Yt )
X t1
Yt1
(1
B)n
n
(1)i Cni Bi
B
n
X
t
i0
X t n
线性差分方程
EXt
常数方差：
var Xt var t 1t1
q t q
1 12
2 2
q2
2 a
【注】MA(q)模型一定为平稳模型。
MA(q)模型的可逆性
可逆MA模型定义
若一个MA模型能够表示成无穷阶的自回归模型， 则称该MA模型称为可逆的。
例：（1）X t t 2t1 （2）X t t 0.5t1
非齐次线性差分方程的解
非齐次线性差分方程的特解
使得非齐次线性差分方程成立的任意一个解
zt a1zt1 a2 zt2 a p zt p h(t)
非齐次线性差分方程的通解 zt
齐 方
次 程
线性差
的特z解t
分
方程的 之和
通
解zt
和非齐次线性差分
zt zt zt
一阶差分方程
P33
yt yt1 t
（1）Xt 1 2Bt （2）Xt 1 0.5Bt
（1）t 1/ 1 2B Xt
（2）t 1/ 1 0.5B Xt 0.5Bn Xt 0.5n Xtn
第三章线性平稳时间序列模型
可见,AR(1)模型中，xt在t时刻值依赖于两部分，一部分依 模型中， 时刻值依赖于两部分， 可见 模型中 时刻值依赖于两部分 赖于它的前一期的值x 另一部分是依赖于与x 赖于它的前一期的值 t-1；另一部分是依赖于与 t-1不相关 的部分ε 的部分 t 可将AR(1)模型写成另一种形式： 模型写成另一种形式： 可将 模型写成另一种形式
xt = ϕ1xt −1 + ϕ2 xt −2 +L+ ϕ p xt − p + εt
其中： (1) p ≠ 0 (2) εt是白噪声序列 (3) Exsε t = 0, ∀s < t
E (ε t ) = 0，Var (ε t ) = σ ε2 , E (ε t ε s ) = 0, s ≠ t
那么我们就说xt遵循一个p阶自回归或AR(p)随机过程。
例如： ARIMA(2,1,2)表示先对时间序列进行一阶差分，使之 转化为平稳序列，然后对平稳序列建立ARMA(2,2)模型。 ARIMA(p,0,q)就相当于ARMA(p,q)。 ARIMA(p,0,0)就相当于AR(p)。 ARIMA(0,0,q)就相当于MA(q)。 对于一个ARIMA(p,d,q)也可以用推移算子B表示如下 ϕ (B )(1 − B) d xt = θ ( B)ε t 其中： ϕ (B ) = 1 − ϕ 1 B − ϕ 2 B 2 − L − ϕ p B p
(二).二阶自回归模型，AR(2)
1.设{xt}为零均值的随机序列，如果关于xt的合适模型为： 其中：
xt = ϕ1xt −1 + ϕ2 xt −2 + εt
平稳线性ARMA模型2AR模型
26
• 满足条件(3.16)和(3.17)式给出的区域
1, 2 2 1 1, 2 1
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
27
28
29
• 例3.2 设AR(2)模型：Xt 0.7 Xt1 0.1Xt2 t
试判别 X t 的平稳性。
解：根据上述关于平稳条件的讨论，可以 通过两种径进行讨论：
B 其中，G(B)
GjB
j
，今后将把
进行运算的算j0 子，又可作为
G
(B)看作对 t
的函数来讨
论。
14
在理论研究和实际问题的处理时，通常还需要用
t时刻及t时刻以前的 X t j ( j 0,1, )
来表示白噪声 t ，即
15
16
17
3.2 ARMA模型的性质
• AR模型（Auto Regression Model） • MA模型（Moving Average Model） • ARMA模型（Auto Regression Moving
30
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
第三章ARMA模型的特性
(1) G j是前j个时间单位以前进入系统的扰动at j对系统现在行 为(响应)影响的权数。
(2)
G
客观地刻画了系统动态响应衰减的快慢程度。
j
(3)
G
是系统动态的真实描述。系统的动态性就是蕴含在时间
j
序列中的数据依存关系。
(4) 格林函数所描述的动态性完全取决于系统参数.
17
三、根据格林函数形成系统响应(时间序列)
说明：常系数非齐次线性差分方程的特解的求法与微分方程类 似。
10
x(t 2) x(t 1) 2x(t) 12
例3-3 求下列线性差分方程的通解和特解 。
（1） x(t) 5x(t 1) 4x(t 2) 0
（2） x(t 2) x(t 1) 2x(t) 12，x(0) 0, x(1) 1
解：（1）特征方程：2 5 4 0，特征根： 1 4，2 1，
齐次方程的通解：
x(t) C1 (4)t C2 (1)t
11
x(t 2) x(t 1) 2x(t) 12
（2） x(t 2) x(t 1) 2x(t) 12，x(0) 0, x(1) 1
x(t) 2t 4 C2t
x(t) C1 C2t C3 cos( 2 t) C4 sin( 2 t)
13
二、AR(1)系统的格林函数
格林函数就是描述系统记忆扰动程度的函数。AR(1)模型为
X t 1 X t1 at
由于在动态条件下，
（3.4）
X t1 1 X t2 at1 X t 1 (1 X t2 at1 ) at 12 X t2 1at1 at X t2 1 X t3 at2
第3章 平稳时间序列分析(1)
第3章平稳时间序列分析本章教学内容与要求：了解时间序列分析的方法性工具；理解并掌握ARMA 模型的性质；掌握时间序列建模的方法步骤及预测；能够利用软件进行模型的识别、参数的估计以及序列的建模与预测。
本章教学重点与难点：利用软件进行模型的识别、参数的估计以及序列的建模与预测。
型来息。
t x 为t x 的1阶差分： ▽1t t t x x x --=对1阶差分后的序列再进行一次1阶差分运算称为2阶差分，记▽2tx 为t x 的2阶差分：▽2t x =▽t x -▽1-t x以此类推，对p-1阶差分厚序列再进行一次1阶差分运算称为p 阶差分。
记▽p t x 为t x 的p 阶差分：▽p t x =▽p-1t x -▽p-11-t x （二）k 步差分kt x 为t x 的10,,1t = 10,,2 = 即2阶差分序列▽2t x ：3，22，-63，-54，-6，16，-52，-40，10,,3t = 2步差分：▽29x x x 133=-= ▽234x x x 244=-=……▽2-28x x x 81010=-=即2步差分序列：9，34，-7，-26，12，21，-16，-28 二、延迟算子（滞后算子） （一）定义延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相x因此，15-18+6=343-30+9=222.k 步差分▽k =t k t k t k t t x )B 1(x B x x x -=-=--三、线性差分方程在实践序列的时域分析中，线性差分方程是非常重要的，也是极为有效的工具，事实上，任何一个ARMA模型都是一个现象差分方程。
因此，ARMA模型的性质往往取决于差分方程的性质。
为了更好地讨论ARMA 模型的性质，先简单介绍差分方程的一般性质。
设,，方程两边同除以，得特征方程（这是一个一元p次方程，应该至少有p个非零实根，称这p个实根为特征方程（3）的特征根，不防记作.特征根的取值情况不同，齐次线性差分方程的解会有不同的表达形式。
第三章平稳时间序列分析
欢迎共阅t P p t tt t t x B x x B x Bx x ===---221第3章 平稳时间序列分析一个序列经过预处理被识别为平稳非白噪声序列，那就说明该序列是一个蕴含着相关信息的平稳序列。
3.1 方法性工具 3.1.1 差分运算 一、p 阶差分记t x ∇为t x 的1阶差分：1--=∇t t t x x x记t x 2∇为t x 的2阶差分：21122---+-=∇-∇=∇t t t t t t x x x x x x 以此类推：记t p x ∇为t x 的p 阶差分：111---∇-∇=∇t p t p t p x x x 二、k 步差分记t k x ∇为t x 的k 步差分：k t t t k x x x --=∇3.1.2 延迟算子 一、定义延迟算子相当与一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻。
记B 为延迟算子，有延迟算子的性质：1.10=B2.若c 为任一常数，有1)()(-⋅=⋅=⋅t t t x c x B c x c B3.对任意俩个序列{t x }和{t y }，有11)(--±=±t t t t y x y x B4.n t t n x x B -=5.)!(!!,)1()1(0i n i n C B C B in i i nni i n-=-=-∑=其中二、用延迟算子表示差分运算 1、p 阶差分 2、k 步差分3.2 ARMA 模型的性质 3.2.1 AR 模型定义 具有如下结构的模型称为p 阶自回归模型，简记为AR(p):ts Ex t s E Var E x x x x t s t s t t p tp t p t t t ∀=≠===≠+++++=---,0,0)(,)(,0)(,0222110εεεσεεφεφφφφε(3.4)AR(p)模型有三个限制条件：条件一：0≠p φ。
这个限制条件保证了模型的最高阶数为p 。
时间序列分析--第三章平稳时间序列分析
2019/9/23
课件
25
Green函数递推公式
原理 xt( BG )x(tB )tt (B)G(B)t t
方法
待定系数法
递推公式
2019/9/23
G G0j 1k j1kGjk， j1,2, ,其中 k 0k ,k ,kpp
非齐次线性差分方程的通解
齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
zt ztzt
2019/9/23
课件
10
3.2 ARMA模型的性质
AR模型（Auto Regression Model） MA模型（Moving Average Model） ARMA模型（Auto Regression Moving
2019/9/23
课件
38
例3.5:— (4 )x t x t 1 0 .5 x t 2t
自相关系数不规则衰减
2019/9/23
课件
39
偏自相关系数
定义
对于平稳AR(p)序列，所谓滞后k偏自相关系数就 是指在给定中间k-1个随机变量 的 xt1,xt2, ,xtk1 条件下，或者说，在剔除了中间k-1个随机变 量的干扰之后， x 对 tk x影t 响的相关度量。用数 学语言描述就是
2019/9/23
课件
29
例3.3:求平稳AR(1)模型的协方差
递推公式
k 1k11k0
平稳AR(1)模型的方差为
0
2
1 12
协方差函数的递推公式为
k
1k
2 112
,k1
2019/9/23
课件
第三章平稳时间序列分析-(2)
~
n
n
t
用迭代法，求得使其达最小的参数值。
最小二乘估计的特点
最小二乘估计充分应用了每一个观察值 所提供的信息，因而它的估计精度高； 不需总体分布，便于实现，所以条件最 小二乘估计方法使用率最高。
实际中，为便于计算，很多时候看作服从多元正态分 布
3、最小二乘估计
原理
使残差平方和达到最小的那组参数值即为最 小二乘估计值
n t 1 n
ˆ) 2 Q( t ( xt 1 xt 1 p xt p 1 t 1 q t q )2
c2 4 , c 2 ˆ2 1 12 2 2 , c ˆ1 1 c2 4 ,c 2 2
矩估计
c ˆ ˆ 2 , ˆ 1 1 ˆ 1 c
矩估计的特点：
优点 估计思想简单直观 不需要假设总体分布 计算量小（低阶模型场合） 缺点 信息浪费严重 只依赖p+q个样本自相关系数信息，其他信 息都被忽略 估计精度较差 通常矩估计方法被用作极大似然估计和最小二乘 估计迭代计算的初始值
【例3.7】考察ARMA模型的自相关性
ARMA(1,1): xt 0.5xt 1 t 0.8t 直观地考察该模型自相关系数和偏自相关系 数的性质。
样本自相关图
样本偏自相关图
显然，自相关系数和偏自相关系数拖尾
这也是直观选择拟合模型的 常用方法之一
ARMA模型相关性特征：
模型 自相关系数 偏自相关系数
1, , p ,1, ,q , ,
2
第3章 随机信号的线性模型
q p
(1 z 1 z (1 p 1 z
1 1
)(1 z 2 z
1 1
) (1 z q z
1
) )
)(1 p 2 z
) (1 p p z
1
自相关函数与模型系数之间的关系
q p a k rx ( l k ) b k rw x ( l k ) k 1 k l rx ( l ) p a k rx ( l k ) k 1
0
2
4
6
8
10 12 l Power Spectrum
14
16
18
20
10
Magnitude
5
0
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
/
8
第3章 随机信号的线性模型
3.1.3 AR(p)模型
差分方程
x ( n ) a1 x ( n 1) a p x ( n p ) w ( n )
x ( n ) a x ( n 1) w ( n ), a 0 w (1 a n 1 ) (1 a ) 2 n E [ x ( n )] w (1 a a a ) w ( n 1)
a 1 a 1
当|a|>=1时，{x(n)}不是一阶平稳的；而当|a|<1时，如果n很 大，则 E [ x ( n )] w (1 a )
0lq l q
功率谱密度
1 S x ( ) w
2
第三章 平稳时间序列分析-1
Φ ( B ) xt = ε t
4、AR模型平稳性判别 、 模型 模型平稳性判别 判别原因 AR模型虽是常用的平稳序列的拟合模型之 模型虽是常用的平稳序列的拟合模型之 一，但并非所有的AR模型都是平稳的 但并非所有的AR模型都是平稳的 判别方法，除时序图及自相关图法外， 判别方法，除时序图及自相关图法外，还有 特征根判别法 特征根判别法 平稳域判别法 平稳域判别法
z t + a1 z t −1 + a 2 z t − 2 + L + a p z t − p = h(t )
齐次线性差分方程
z t + a1 z t −1 + a 2 z t − 2 + L + a p z t − p = 0
齐次线性差分方程的解
z t + a1 z t −1 + a 2 z t − 2 + L + a p z t − p = 0
1+ 3 2
1− 3 λ2 = 2
φ2 = 0.5, φ2 + φ1 = 1.5, φ2 − φ1 = −0.5
作业
P98 习题三 3、4 、 实验1理论（sas简介及数据集创建） 简介及数据集创建） 实验 理论（ 理论 简介及数据集创建
延迟算子的性质： 延迟算子的性质：
B0 = 1
B (c ⋅ xt ) = c ⋅ B( xt ) = c ⋅ xt −1 , c为任意常数
B ( xt ± y t ) = xt −1 ± y t −1
B n xt = xt − n
i (1 − B ) = ∑ ( −1) n C n B i， n i =0 n
则变换y 称为中心化变换 则变换 t=xt-µ称为中心化变换。 称为
ARMA模型
截尾性、拖尾性图示
判断ARMA(p,q)的阶
• 通过试验确定ARMA模型的阶数(p,q)：试取一组 (p,q)进行拟合估计(一般取(偏)自相关数明显非零 的延时期数k做p、q)，计算出残差序列，检验残 差是否为白噪声，若非白噪声仍有自相关性,则换 一组(p,q)继续试验。 • 另一种确定ARMA模型的阶数(p,q)的方法是：若 序列非AR(p)、MA(q)情况,则用AR(1)拟合序列{yt }, 再考察其残差序列的样本自相关函数是否截尾， 若q1步截尾,则模型为ARMA(1,q1),否则,再用AR(2) 拟合序列{yt},考察其残差序列的样本自相关函数 是否截尾,若q2步截尾,则模型为ARMA(2,q2);否则, 再继续增大p,重复上述的做法,直至残差序列的样 本自相关函数截尾为止。
ˆ t (k ) , k 1 y ˆ t (k ) 式中：y yt k , k 0
预测的置信区间
• 对于ARMA(p,q)模型，我们可以得到yt+l预测 的95%的置信区间: yt(l)1.96*se(l), 式中se(l)是误差标准差 .
R程序—预测
• • • • • • • • ufore = predict(usol, n.ahead =6) #预测未来6期 U = ufore$pred+1.96*ufore$se #算出95%置信上限 L = ufore$pred-1.96*ufore$se #算出95%置信下限 #下面作时序图,含原序列、拟合值预测值序列、95%置信区间 uuf=ts(c(u-usol$residuals,ufore$pred)) # 合并拟合值与预测值 ts.plot(u,uuf,col=1:2) # 画原序列、拟合值预测值序列时序图 lines(U, col="blue", lty="dashed") #在图中补充95%置信上限 lines(L, col="blue", lty="dashed") #在图中补充95%置信下限
第三章ARMA模型的特性
第三章 ARMA 模型的特性本章为本书重点之一，主要掌握三类模型的格林函数形式、平稳性和可逆性条件、AFC 和PAFC 的形式和特点。
第一节 线性差分方程一、 后移(Backshift)算子:1. 定义：后移算子B 定义为1t t BX X -=，从而m t t m B X X -=。
2. 后移算子的性质：(1) 常数的后移算子为常数：Bc c =(2) 分配律：()m n m n t t t t m t n B B X B X B X X X --+=+=+ (3) 结合律：()m n m n m t t t n t m n B B X B B X B X X ---=== (4) 后移算子B 的逆为前移算子11t t B X X -+=(5) 对于1ϕ<，无限求和得2233(1 (1)t X B B B X Bϕϕϕϕ++++=-前面的MA(m)模型、AR(n)模型和ARMA(n,m)模型可分别表示为：()t t X B a θ=()t t B X a ϕ= ()()t t B X B a ϕθ=其中：212()1n n B B B B ϕϕϕϕ=----212()1m m B B B B θθθθ=----二、 线性差分方程11221122t t t n t nt t t m t mX X X X a a a a ϕϕϕθθθ----------=---- 可将写成()()t t B X B a ϕθ=这里212()1n n B B B B ϕϕϕϕ=----212()1m m B B B B θθθθ=----差分方程通解为：()()t X C t I t =+ 这里，C (t)是齐次方程解，I (t)是特解。
三、 齐次方程解的计算无重根 考虑齐次差分方程 ()0t B X ϕ= 其中12()(1)(1)(1)n B G B G B G B ϕ=---假定G 1，G 2，…，G n 是互不相同，则在时刻t 的通解：1122t t t t n n X A G A G A G =+++ 其中A i 为常数（可由初始条件确定）。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
32
AR模型的定义
• 具有如下结构的模型称为 p阶自回归模 型，简记为 AR(p)
xt 0 1xt1 2xt2 pxtp t
p 0
E(t
)
0，Va(rt
)
2,E(ts)
0,s
t
Exst 0,st
• 特别当0 0时，称为中心化AR(p) 模型
26
• 满足条件(3.16)和(3.17)式给出的区域
1,2211 ,21
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
27
28
29
• 例3.2 设AR(2)模型：X t 0 .7 X t 1 0 .1 X t 2平稳条件的讨论，可以 通过两种径进行讨论：
10
11
• 定理3.1 定义（3.1）中的线性过程是平稳
序列，且
G j t j
是均方收敛的。
j
12
3.1.2 线性过程的因果性和可逆性
• 在应用时间序列分析去解决实际问题时， 所使用的线性过程是因果性的，即：
13
• 设 B 为一步延迟算子，
则 BjXt Xtj，j 0 ，(3.4)可表为：
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t)
• 齐次线性差分方程
z t a 1 z t 1 a 2 z t 2 a p z t p 0
7
齐次线性差分方程的解
• 特征方程
p a 1p 1 a 2p 2 a p 0
• 特征方程的根称为特征根，记作
8
非齐次线性差分方程的解
• 非齐次线性差分方程的特解
• 使得非齐次线性差分方程成立的任意一个解z t
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t)
• 非齐次线性差分方程的通解
• 齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
Average model）
18
3.2.1一阶自回归过程AR(1)
• 通常地，由于经济系统惯性的作用，经济 时间序列往往存在着前后依存关系。最简 单的一种情形就是变量当前的取值主要与 其前一时期的取值状况有关，用数学模型 来描述这种关系就是下面介绍的一阶自回 归模型。
19
20
在一阶自回归AR(1)模型中，保持其平稳性
1,2,,p
• 齐次线性差分方程的通解
• 不相等实数根场合
• 有相等实根场合
zt c11 tc2t2cp
t p
z t ( c 1 c 2 t c d t d 1 )1 t c d 1 t d 1 c pt p
• 复根场合 z t r t( c 1 e i t c 2 e i t) c 3t 3 c ptp
zt ztzt
9
线性平稳时间序列分析
• 在时间序列的统计分析中，平稳序列是一类重要 的随机序列。在这方面已经有了比较成熟的理论 知识，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地 描述动态数据在实际应用中有许多优点，例如它 是线性模型，只要给出少量参数就可完全确定模 型形式；另外，便于分析数据的结构和内在性质， 也便于在最小方差意义下进行最佳预测和控制。 本章将讨论ARMA模型的基本性质和特征，这是 时间序列统计分析中的重要理论基础。
33
AR(P)序列中心化变换
• 称 { y t } 为{ x t } 的中心化序列 ，令
0
11 p
yt xt
34
自回归系数多项式
• 引进延迟算子，中心化AR(p)模型又可以
简记为
(B)xt t
• 自回归系数多项式
本节结构
• 方法性工具 • 线性过程的因果性和可逆性 • AR模型
1
3.1 方法性工具
• 差分运算 • 滞后算子 • 线性差分方程 在正式讨论线性过程之前，我们首先给出相
应的准备工具，介绍延迟算子和求解线性 差分方程，这些工具会使得时间序列模型 表达和分析更为简洁和方便
2
• 一阶差分 • p阶差分 • k步差分
差分运算
xt xt xt1
pxt p 1xt p 1xt 1
k xt xtk
3
滞后算子
• 延迟算子类似于一个时间指针，当前序列 值乘以一个延迟算子，就相当于把当前序 列值的时间向过去拨了一个时刻
• 记B为延迟算子，有 xtpBpxt,p1
4
延迟算子的性质
B0 1
•
B(cxt)cB(xt)cxt1,c为任意常数
•
B (xtyt)xt 1yt 1
•
Bnxt xtn
• •
n
(1B)n (1)nCniBi
， i0 其中
Cni
n! i!(n i)!
5
用延迟算子表示差分运算
• p阶差分
p
pxt (1B)pxt (1)pCipxti i0
• k步差分 kxtxt k(1B k)xt
6
线性差分方程
• 线性差分方程
其中，G(B)
Gj
Bj
，今后将把
进行运算的算j0子，又可作为 B
G(B)看作对 t
的函数来讨
论。
14
在理论研究和实际问题的处理时，通常还需要用
t时刻及t时刻以前的 Xtj(j0,1,)
来表示白噪声 t ，即
15
16
17
3.2 ARMA模型的性质
• AR模型（Auto Regression Model） • MA模型（Moving Average Model） • ARMA模型（Auto Regression Moving
23
24
• 下面利用特征方程的根与模型参数 1 , 2
的关系，给出AR(2) 模型平稳的
的取值条件（或值域）。
1
,
2
(11)(12)0
25
• (3.16)和(3.17)式是保证AR(2)模型平稳，回 归参数 1 , 2 所应具有的条件。反之，若 (特3.征16方)和程(3的.1根7)式必成落立在，单则位特圆征内方。程2120
的条件是对应的特征方程 0
的根的绝对值必须小于1，即满足 1 。
对于平稳的AR(1)模型，经过简单的计算易 得
21
22
3.2.2 二阶自回归过程AR(2)
• 当变量当前的取值主要与其前两时期的取 值状况有关，用数学模型来描述这种关系 就是如下的二阶自回归模型AR(2)：
• 引入延迟算子 B 的表达形式为：