第五章 时间序列模型

第五章 时间序列模型
5.时间序列模型
5.1 时间序列 5.2 自回归(AR)模型 5.3 滑动平均(MA)模型 5.4 自回归滑动平均(ARMA)模型
2/40
5.1 时间序列
数字化技术的应用和发展使得随机序列的分析变得日
益广泛和重要，并由平稳随机过程在时间轴上的 取样引
出平稳离散随机信号或时间序列的概念。对于这类随机序 列，主要采用相关函数和功率谱进行分析。对于平稳离散 时间信号，还常用时间序列描述方法进行研究，由此提出 时间序列模型法。它是采用各种随机差分方程表示时间序
当 z1, 2 1 时，上式右边齐次解随 n 的增大而趋于零，而特 解部分具有有限方差，在均方意义下收敛，随 n 的增大而 渐近收敛于特解公式的平稳结果。 实际上，二阶模型的平稳条件与其系数 a1和 a 2是有关
的，这可通过 a1和 a 2 平面表示。设 z1, 2 1 ，并设z1 z2 a1
1 H ( z) (1 z1 z 1 )(1 z 2 z 1 )(1 z p z 1 )
所以，AR模型的传递函数只有极点，除原点外没有任何 零点，属于全极点模型，对应于全极点滤波器，具有无限 冲激响应(IIR)。因此，模型传递函数的性质完全取决于 p
个极点在 z 平面上的分布情况。可以证明，如果所有 p 个
1 k 1 k 1 k z1 z 2 D (n) z1 z 2 k 0 k z1k 1 z 2 1 (n k ) z1 z 2 k 0


15/40
5.2 自回归(AR)模型
根据模型差分方程，零输入下得齐次方程
x(n) a1 x(n 1) a2 x(n 2) 0
11/40
5.2 自回归(AR)模型
x(n) 的功率谱为
2 z n S x ( z ) H ( z ) H ( z ) ( z a)(1 az) 1 2 n
令 z e j ，有
S x ( )
2 n
1 a 2a cos
2

2 n
1 ae
j 2
5.2 自回归(AR)模型
根据上式分析，得到以下三个条件：
a2 1,
a1 a2 1
以及
a1 a2 1
这就是保证二阶AR模型平稳的条件，可用系数分布图说 明。图中示出了二阶系数欠阻尼、过阻尼和临界阻尼三种 情况的系数区域分布，分别对应于以下三种情况： （1）欠阻尼：出现 z1 和 z2 一对共轭复根。 （2）过阻尼：出现 z1 和 z2 不同的实根。 （3）临界阻尼：出现 z1 和 z 相同的实根。
lim E[ x(n)]
n
1 E[ (n)] 1 a
在此情况下，x(n) 是一阶渐进平稳的。
8/40
5.2 自回归(AR)模型
通常，E[ (n)] 0 ，可得时间序列 x(n) 的自相关函数
（二阶矩）为：
Rx (n, n m) E[ x(n) x(n m)] E{[(n) a(n 1) a n1(1)] [(n m) a(n m 1) a nm1(1)]}
2 n [a m a m 2 a m 2( n1) ]
2 1 a 2n m n 1 a 2 a , 2 n n ,
a 1 a 1
9/40
5.2 自回归(AR)模型
显然，当 a 1 时， (n) 并不满足自相关平稳性，但是， x
过去值。
5/40
5.2 自回归(AR)模型
为使分析方便，首先研究一阶和二阶AR模型，然后
根据 p 阶AR模型的分析，研究AR模型的自相关函数及功
率谱密度。 1. 一阶AR模型 根据随机序列的差分表达式，当 p 1 时，可得一阶 AR模型
x(n) ax(n 1) (n)
式中 a 为不等于零的实常数。上式为一阶随机差分方程。
和 z1 z 2 a2 ，根据 z1 1 ，在其两边同乘 (1 z 2 ) ，有
z1 z2 z1 z2 1 以及 a1 a2 1
其次，根据不ห้องสมุดไป่ตู้式 z1 1 ，两边同乘 (1 z 2 ) ，有
z1 z2 z1 z2 1
或
a1 a2 1
17/40
当 a 1 并且 n 足够大时，有
lim Rx (n, n m) Rx (m)
n 2 n am
1 a2
对于实随机序列，由于 m 对于 R (m) 对称分布，有
R x ( m)
2 na m
1 a2
对于 a 1，不难推得，当 a 为正数时，Rx (m) 恒为正，且 呈指数衰减。当 a 为负数时，Rx (m) 正负相间指数衰减。
13/40
5.2 自回归(AR)模型
定义后移算子 D 为后移一步的运算，即
Dx(n) x(n 1)
于是，二阶AR模型成为：
(1 a1D a2 D2 ) x(n) (n) (1 z1D)(1 z2 D) x(n)
式中 z1 和 z2 为二阶AR模型特征多项式的根，即
其解为：
x(n) A z A z
n 1 1
n 2 2
式中 A1 和 A2 是待定系数，由初始条件确定。 模型特解和上式之和即为模型的解：
k z1k 1 z2 1 n x(n) A1 z1n A2 z2 (n k ) z1 z2 k 0
16/40
5.2 自回归(AR)模型
j 2 2
,
23/40
5.2 自回归(AR)模型
3. p阶AR模型 定义如下随机差分方程为 p 阶AR模型
x(n) a1 x(n 1) a p x(n p) (n)
式中 ak (k 1,2,, p) 为实常数，且 a p 0 。
对上式两边取 z 变换，可得：
6/40
5.2 自回归(AR)模型
若设 x(0) 0 ，可得：
x(n) (n) ax(n 1) (n) a(n 1) a 2 x(n 2)
(n) a(n 1) a n1(1)
容易得到一阶矩
E[ x(n)] (1 a a
对模型方差方程两边同乘 x(n m) 并作集平均，可得：
{[ x(n) a1 x(n 1) a2 x(n 2)][x(n m)
a1 x(n m 1) a2 x(n m 2)]}
E[ (n m) (n)]
考虑到
2 n , m 0 E[ (n m) (n)] 0, m 0
22/40
5.2 自回归(AR)模型
最后，分析AR(2)模型的功率谱密度。容易知道，其
传递函数为：
1 H ( z) 1 a1 z 1 a2 z 2
x 于是， (n) 的功率谱为：
S x ( )
n
1 a1 z 1 a2 z 2
2 n
2
z e j

1 a1e j a2 e
n1
) E[(n)]
1 a n 1 a E[ (n)] a 1 E[ (n)] n a 1
7/40
5.2 自回归(AR)模型
如果 E[ (n)] 0 ，由上式可以看出， x(n) 的均值有可
能不满足平稳性，即可能不满足一阶平稳。然而，如果系
数 a 1 ，当 n 较大时，则有
线性模型都具有连续功率谱形状，在参数谱估计方面显示
出极大的优点。除非特别说明，本章只讨论具有连续谱特 性的平稳时间序列。
4/40
5.2 自回归(AR)模型
2 设 (n) 为具有零均值，方差为 n 的平稳白噪声序列，
随机序列 x(n) 由如下随机差分方程表示：
x ( n ) a k x ( n k ) ( n)
,
12/40
5.2 自回归(AR)模型
2. 二阶AR模型
定义随机序列 x(n) 的二阶AR模型为：
x(n) a1 x(n 1) a2 x(n 2) (n)
式中 a1 和 a 2 均为实常数， 2 0 。 a 上式二阶差分方程的特征多项式为：
z 2 a1 z a2
20/40
5.2 自回归(AR)模型
可得：
2 Rx (0) a1Rx (1) a2 Rx (2) n , m 0
Rx (m) a1 Rx (m 1) a2 Rx (m 2) 0, m 0
以及
Rx (0) a1 Rx (1) a2 Rx (2) Rx (1) a1 Rx (0) a2 Rx (1) 0 Rx (2) a1 Rx (1) a2 Rx (0) 0
2 n
21/40
5.2 自回归(AR)模型
由此解得：
2 (1 a2 ) n Rx (0) (1 a2 )[(1 a2 ) 2 a1 ]
a1 Rx (1) Rx (0) 1 a2
a12 Rx (2) (1 a ) a2 Rx (0) 2
列信号的模型。在许多情况下，一个平稳离散随机信号可
以视为白噪声序列通过某一离散时间线性系统所产生的。
3/40
5.1 时间序列
在时间序列信号模型分析中，自回归(AR)模型、滑动
平均(MA)模型和自回归滑动平均(ARMA)模型是三种最常
见的标准线性模型，它们均由白噪声序列通过离散时间线 性系统而产生。而实际应用中许多平稳时间序列往往可由 这些模型近似表示，使得有关的分析变得更为简单，也为 平稳随机序列的分析和产生提供了有效方法。另外，这些
2
18/40
3
5.2 自回归(AR)模型
a2 a2=0.25*a1*a1
2.5
2
1.5
1 1 0.5 欠阻尼 临界阻尼 0 -2 -0.5 -1 0 过阻尼 1 2 a1
-1 a2=-a1-1 -1.5
-2
-3
-2
-1
0
1
2
3
19/40
5.2 自回归(AR)模型
对于平稳的情况，考察二阶AR模型的自相关函数，
10/40
5.2 自回归(AR)模型
根据 Rx (m) 可得 x(n) 的方差为：
2 x Rx (0) 2 n
1 a2
2 2 说明平稳随机序列 x(n) 的方差 x 比白噪声方差 n 大。
最后讨论AR(1)模型的功率谱。对 Rx (m) 式两边取z变 换，可得其传递函数为：
1 z H ( z) 1 za 1 az
k 1
p
式中 p 为一正整数，ak (k 0,1,, p) 为实常数，不失一般
性，设 a0 1 ，并设 a p 0 。上式表示的信号称为 p 阶 自回归模型。显然，x(n)是它的 p 个过去值和白噪声 (n) 的线性组合。用 AR( p) 表示上式的模型。对于上式，从统 计观点讲，称 x(n) 以随机误差 (n) 线性回归于它的 p 个
z1, 2
1 a1 a12 4a2 2


14/40
5.2 自回归(AR)模型
所以，有特解为：
1 x ( n) (1 z1 D)(1 z 2 D) z1 z 2
( n)
z1 z2 (n) (1 z1 D) (1 z 2 D)
ak X ( z ) z k W ( z ), (a0 1)
k 0 p
于是，以上AP(p)模型的传递函数为：
X ( z) H ( z) W ( z) 1 1 ak z k
k 1 p
24/40
5.2 自回归(AR)模型
根据它的特征多项式可解出 p 个 H (z )的极点 z1 , z 2 ,, z p 。 于是，该模型的传递函数可写为：
极点均满足 zi 1(i 1,2,, p) ，那么，AR模型信号满足渐
近平稳性。
25/40
5.2 自回归(AR)模型
条件 zi 1(i 1,2,, p) 意味着有界输入通过线性系统导 致有界输出，系统 H (z ) 是稳定的，这说明模型传递函数的 稳定性与模型的平稳性是等价的。