应用数学专题讲座

t 0,1,2,
其中{t ,t 0,1,2,}是零均值、方差 2为的白噪声。
我们称
{X t ,t 0,1,2,}
为阶数为q的滑动平均序列 ，简记为 MA(q) 。
常数 (1,2 ,,q )T
q 0
叫做自回归系数向量，且
。
3．ARMA序列模型 一个零均值平稳时间序列满足
X t 1 X t1 2 X t2 p X t p
(1)对任一的t，mX (t) m 为常数；
(2)对任一的t，RX (t,t) m
；
(3)对任一的 t,t T RX (t,t ) R( )与t无关，
则称为弱平稳过程。
例4 设随机过程 Z(t) X sin t Y cost ，其 中 X ,Y 是相互独立的二元随机变量，它们
分别以 2 3,1 3 的概率取值-1,2。
到用户的呼唤次数的问题。如果用
X表(示t) 在时刻t以前
交换台接到用户的呼唤总次数，于是，对于固定资产的时
刻t而言， 是X (一t) 个随机变量。而当长时间观察并记录可
得构成的时{间X (函t1)数, X。(t也2 ),就是}，说它，就描是述一交族换无台穷接多到个用随户机的变呼量唤
次数，需要用一族依赖于时间的随机变量。通常我们把这
t 1 t1 2 t2 q tq
t 0,1,2,
其中{t ,t 0,1,2,}是零均值、方差 2为的白噪声。
我们称
{X t ,t 0,1,2,}
为阶数为p,q的自回归滑动平均序列 ，简记为
ARMA(p,q) 。其中 p 0 q 0
平稳时间序列的线性模型的参数估计 1．AR序列模型的参数估计 我们可以采用多元线性回归模型的参数估计方法。 取t p 1, p 2,, N得到
.
R(q) E(XFra Baidu bibliotekt Xtq ) (q ) 2
相关函数可用其估计式代替。方程组的解就是参数 的估计值。不过它是一个非线性方程组，一般难以 求得它的精确解，通常采用数值解法
3．ARMA序列模型的参数估计 它的参数的求解方法是分两步进行：
首先求 1,2 ,, p 的估计值。可由下式算得
Rˆ(q)
Rˆ (0)
Rˆ (
p
2)
Rˆ( p 1) Rˆ( p 2)
Rˆ (0)
X TY (N p) Rˆ(1) Rˆ(2) Rˆ( p) T
因此有
Rˆ(0)
ˆ
Rˆ (1)
Rˆ(1) Rˆ( p 1) 1 Rˆ (1)
Rˆ (0)
Rˆ( p 2)
Rˆ (2)
Rˆ( p 1) Rˆ( p 2)
一类简单的平稳时间序列，称为平稳白噪声序列， 简称白噪声，如果平稳时间序列
{t ,t 0,1,2,}
的协方差函数（也是相关函数）为
C (k)
R (k)
E t tk
2 ,
0,
k 0 k 0
平稳时间序列的均值函数和协方差函数的估计
如果经检验证实所研究的时间序列是平稳的，那么一个重 要的问题是如何估计它的均值函数和协方差函数。
Yt
(k)
1 2t
t it
Xi
X ik
的均方极限为 RX ( ) ，即
lim
t
E[Yt (k)
RX
(k )]2
0
则称{X t ,t 0,1,2,}具有相关函数遍历性。
平稳时间序列的线性模型
我们常见的平稳时间序列的线性模型有下面三种形 式：
(1)AR序列，即自回归序列； (2)MA序列，即滑动平均序列； (3)ARMA序列，即自回归滑动平均序列。
则 {Zt ,t 0,1,2,}也是零均值平稳时间序列，
且
Z t t 1 t1 2 t2 这是关于平稳时间序列{Zt ,
t0,1q,t2,q}
的的模估型计。值由。此而可{Z求t ,得t 01,,12,,2,,q}, 2 的样本值算式
为
Zt X t ˆ1 X t1 ˆ2 X t2 ˆp X t p
定义2 设随机过程的状态空间为R，对于任意自然
数n以及任意参数 t1, t2 ,, tn T ，n个随机变
量X (t1), X (t2 ),, X (tn )的联合分布函数为
F(t1,t2 ,,tn ; x1, x2 ,, xn ) P{X (t1) x1, X (t2 ) x2 ,, X (tn ) xn}
X p1 1 X p 2 X p1 p X 1 p1
. X p2 1 X p1 2 X p p X 2 p2
X N 1 X N 1 2 X N 2 p X N p N
记 (1,2 ,,p )T
Y (X p1, X p2 ,, X N )T
( p1, p2 ,, N )T
均可以近似地代替它在固定时刻取值的统计平均。
定义6设{X t ,t 0,1,2,是}平稳时间序列,如果随机 变量（称为过程的时间平均）
Yt
1 2t
t it
X
i
的均方极限为m，即
则称{X t t,ltim0E,[1Y,t 2,m}具]2 有 均0 值遍历性。
定义7设{X t ,t 0,1,2,是}平稳时间序列,如果随机 变量
随机过程的有限维分布函数族
研究随机现象，主要是研究它的统计规律性。对于 随机过程，如何刻划它的统计规律性呢？在概率论 中我们已经知道，一个随机变量的统计规律性完全 由它的分布函数所刻划，有限个随机变量的统计规 律性完全被它们的联合分布函数所刻划。既然随机 过程可视为一族随机变量，是否也可以用一个无穷 多维的联合分布函数来刻划它呢？由测度论的理论 可知，使用无穷维分布函数的方法是行不通的。可 行的办法，就是采用有限维分布函数族来刻划随机 过程的统计特性。
(1)求随机过程{Z (t),t T} 的均值函数和相关函
数；
(2)证明 {Z (t),t T} 是弱平稳过程但不是强平
稳过程
对于弱平稳过程，由于均值函数为常数m，将过程 进行平移，可以使得它的均值为零。其统计性质不 会发生改变，下面我们提到弱平稳过程都是零均值 的，并且我们还把弱平稳过程叫做平稳过程。
可以证明，上述三种序列模型均具有遍历性，因此， 可以通过它的一个样本轨道来估计自协方差函数和 相关函数。下面，我们给出零均值平稳时间序列的 线性模型的定义
1．AR序列模型
一个零均值平稳时间序列如果在t时刻的数值可表 示成过去p个时刻上的数值的线性组合再加上t时刻 的白噪声，即
X t 1 X t1 2 X t2 p X t p t t 0,1,2,
Rˆ(q 1) Rˆ(q p 1) 1 Rˆ(q 1)
ˆ
Rˆ(q 1)
Rˆ(q p 1)
Rˆ (q) Rˆ(q p 2)
Rˆ (q
p
2)
Rˆ (q)
Rˆ (q
2)
Rˆ (q
p)
然后再求1,2 ,,q , 2 的估计值,令
Zt X t 1 X t1 2 X t2 p X t p t 0,1,2,
，和二维分布函
数F族(。0.5,1; x1, x2 )
随机过程的数字特征
定义3 设 {X (t);t T} 是一随机过程，对任意固定 的t，随机变量X(t)的数学期望和方差都存在,我们 分别称
mX (t) EX (t)
DX (t) DX (t)
为随机过程的均值函数和方差函数
例2 求例1中的随机过程的均值函数与方差函数
Rˆ (0)
Rˆ (
p)
ˆ 2 Rˆ(0) Rˆ(1) Rˆ(2) Rˆ( p) ˆ
2．MA序列模型的参数估计 这种序列模型的相关函数为
R(0)
E(
X
2 t
)
(1 12
22
q2 )
2
R(1) E(Xt Xt1) (1 12 23 q1 q ) 2
R(2) E(Xt Xt2 ) (2 13 24 q2 q ) 2
首先是均值函数的估计。设 {X t ,t 0,1,2,}是平稳时间 序列，记m E( X t ) 。固定t1，可以这样估计m：取
{X t ,t 0,1,2,} 的许多样本轨道，将这些轨道在
t t1 处的所有的值取平均作为的估计。这种方法不但
非常繁琐，并且在实际中我们观测到的仅是时间序列的一 个样本轨道，因此，在实际中是行不通的。可以这样设想： 因为时间序列是平稳的，很自然地，希望用一个很长时期 观测的样本轨道来估计平稳序列的统计特征。这种性质称 为平稳序列的遍历性。对此可以这样理解：对于具有遍历 性的平稳序列，只要观测的时间比较长，它的每个轨道都 能“遍历”到各种可能的状态，因而一个轨道按时间的平
所有这些分布函数的集合
{F(t1,t2 ,,tn ; x1, x2 ,, xn );t1,t2 ,,tn T, n 1}
称为随机过程的有限维分布函数族。
例1 利用重复抛硬币的试验定义一个随机过程
X
(t)
cost
2t
出现正面 出现反面
设“出现正面”和“出现反面”的概率各为0.5，
试求它的一维分布F函(0数.5; x)
第八章 时间序列分析
• 下图是上证指数走势图
随机过程的概念
在概率论的基本理论中，我们首先建立了概率空间，
进一步定义了随机变量和它的分布函数，用以刻划随机现
象的统计规律性。在那里，我们讨论的是一个或者几个随
机变量。但在实际中，我们还需要讨论一族无穷多个按照
一定关系联系起来的随机变量。例如，考虑电话交换台接
样的一族随机变量称为随机过程。
定义1 设 (, F, P是) 一个概率空间，T是一个参数
集，X t ()(t T , )是 T 上的函数，如果
对于每一个 t T ， {X t () : t T} 都是 (, F, P上)
的随机变量，则称随机变量族 X t ()( ) 为定
义在 (, F, P) 上的随机过程。简记为 {X (t);t T}
Xp
X
X
p1
X p1 Xp
X1
X2
X
N
X N 1
X
N
p
方程可写为
Y X
参数的最小二乘估计为
ˆ ( X T X )1 X T Y
ˆ 2 1 (Y Xˆ)T (Y Xˆ)
Np
并利用相关函数的估计式,有
Rˆ(0)
Rˆ(1) Rˆ( p 1)
X T X (N p) Rˆ(1)
平稳时间序列的线性模型的预报
所谓预报是指已经知道一个时间序列现在和过去的 数值，对将来的数值作估计。设平稳时间序列为
{X t , t 0,1,2,}，若已知观测到的数值 X1, X 2 ,, X k ，要估计 X kl 的数值，称为在k时 刻作l步预报。X kl 的估计值记为 Zˆk (l) 或 Zˆkl ，
定义4 设 {X (t);t T} 是一随机过程，对任意固定 的t1和t2，随机变量 X (t1), X (t2 ) 的二阶原点矩和协方 差都存在 ,我们分别称
RX (t1,t2 ) E[ X (t1 ) X (t2 )]
CX (t1,t2 ) cov(X (t1), X (t2 ))
为随机过程的（自）相关函数和（自）协方差函数
其中{t ,t 0,1,2,} 是零均值、方差 2为的白噪声，
并且它与
X t1, X不t2相,关。我们称
{X t ,t 0,1,2,}
为阶数为p的自回归模型，简记为 AR( p) 。常数
1,2 ,, p
叫做自回归系数，且 p 0 。
2．MA序列模型 一个零均值平稳时间序列满足
X t t 1 t1 2 t2 q tq
例3:求例1中的随机过程的相关函数和协方差函数
平稳随机过程
平稳随机过程是一类应用广泛的随机过程。它在通 讯、生物、自动控制、系统论、信息论、经济领域 等方面有着广泛的应用。从它的有限维分布族和数 字特征来考虑，平稳随机过程又分为强平稳过程和 弱平稳过程。我们只介绍弱平稳过程
定义5 设{X (t),t T} 是一随机过程，如果满足
称为l步预报值。平稳序列的预报有多种方法，在 这时，我们采用最小方差线Xkl 性估计的原则。用
X1, X 2 ,, X k 对 X kl 作估计，取
k
Zˆk (l) c0 c j X j j 1
使
k
E( X kl c0 c j X j )2 min j 1
下面推出的预报公式，是建立在一个基本引理的基 础上。
基本引理：若已经观测到平稳时间序列 X1, X 2 ,, X k 的数值，则
(1)将来第k+l时刻的白噪声估计值 ˆkl 0 ；
(2)现在或过去第时刻平稳序列估计值。
Xˆ j X j ,(1 j k)
这些结论直观上是比较明显的。在这时，我们不给 证明。下面我们分三种模型分别介绍其预报公 式。