第四章时间序列分析

对于AR模型：
n ˆ BIC (n) = ln σ ( n ) + ln N N
2 a
若某一阶数n/0满足
BIC (n ) = min BIC (n)
/ 0 1≤ n ≤ M ( n )
则取n/0为最佳阶数。
• 还可以定义其它类型的准则函数，如
n ˆ BIC1 (n) = ln σ ( n ) + C ln N N
2 2
若Q < χ2α ( K - n - m) ，则接受H0。 若Q > χ2α ( K - n - m) ，则拒绝H0。 • 正态性检验 常用J-B检验
• 异方差检验 White检验 残差平方列自相关检验 ARCH LM检验等
L( N ) k =1
∑[
N ρ k ( N , at )] ~ χ ( L( N ) − p − q)
ˆ (1 + 2∑ ρ ) = 95.5% l =1
m 2 l
• 拖尾：即被负指数控制收敛于零。 • 若序列自相关函数和偏自相关函数无以 上特征，而是出现缓慢衰减或周期性衰 减情况，则说明序列不是平稳的。 • 例：见演示试验。
第二节 模型的定阶
• 自相关函数和偏自相关函数定阶法 自相关函数和偏自相关函数不但可 以用来进行模型的识别，同样也可以用 来进行AR模型和MA模型的定阶。 该方法对ARMA模型定阶较为困难， 同时，用该方法定的阶数也只能作为初 步参考值。
2 a
式中常数C用来在拟合残差与参数个数之间 权衡
第三节 参数估计
一、矩估计
•自回归模型的参数估计：采用YULE-WALKER方程
ρ 1 = φ 1 ρ 0 + φ 2 ρ 1 + L + φ n ρ n −1 ρ = φ ρ +φ ρ +L +φ ρ 2 1 1 2 2 n n−2 M ρ n = φ 1 ρ n −1 + φ 2 ρ n − 2 + L + φ n ρ 0
•AIC定阶
该方法由日本人赤池提出可用于AR模型或ARMA模型定阶 基本思想：建立模型时，根据准则函数取值来判断模型的优 劣，使准则函数达到极小的是最佳模型，该准则是在模型极 大似然估计的基础上建立起来的。 基本理论：最小信息准则AIC函数的一般形式：
AIC = −2ln(模型的极大似然度) + (模型独立参数的个数)
• 显著性检验 常用的有t检验和F检验
•约束性检验 检验常用的分布也是F分布
at
•相关性检验 散点图法 相关系数法 自相关和偏自相关图 F检验法 卡方检验法
当N很大时， N ρ i ~ N (0,1)
(i = 1,2,L, k )
并且这k个量近似为相互独立的正态分布，
于是检验序列的独立性问题转化为检验
• 残差方差定阶法 残差方差定阶法借用了统计学中多 元回归的原理。 假定模型是有限阶的自回归模型， 如果选择的阶数小于真正的阶数，则是 一种不足拟合，因而剩余平方和必然偏 大，残差方差也将偏大；如果选择的阶 数大于真正的阶数，则是一种过度拟合， 残差方差并不因此而显著减小。
• AR、MA、ARMA三种模型的残差方差 估计式分别为：
式中“模型极大似然度”一般用似然函数表示。
设样本长度N充分大时，ARMA模型得到近似极大似然估 计的对数似然函数为：
ˆ N S (β ) N N 2 2 ˆ ˆ ln L ≈ ln σ + = ln σ + 2 ˆ 2 2 2 2σ
于是得到采用ARMA（n,m）模型拟合的AIC准则函数： ARMA n,m AIC
•最小二乘估计（LS） 最小二乘估计（ ） 最小二乘估计 线性最小二乘估计 非线性最小二乘估计：高斯 牛顿法 最速下降法； 牛顿法； 非线性最小二乘估计：高斯-牛顿法；最速下降法； AR模型通常采用线性最小二乘估计，MA模型和 模型通常采用线性最小二乘估计， 模型通常采用线性最小二乘估计 模型和 ARMA模型采用非性最小二乘估计。 模型采用非性最小二乘估计。 模型采用非性最小二乘估计 AR模型的 估计是渐近一致的 ， 若 at 为正态列 ， 模型的LS估计是渐近一致的 为正态列， 模型的 估计是渐近一致的， 其还是渐近有效的。 其还是渐近有效的 。 t, F统计检验为渐近有效检 统计检验为渐近有效检 验。
2 2
ˆ AIC ( n, m) = N ln σ 2 + 2(n + m + 1)
对于AR模型，AIC函数可取：
ˆ AIC (n) = ln σ
2 a
( n ) + 2n / N
对事先给好最高阶数M(n)，若
AIC (n0 ) = min AIC (n)
1≤ n ≤ M ( N )
则取n0为最佳模型阶数。
图
时间序列模型建立流程
• 判定 ρ k 在m步之后截尾的做法是：
m 1 ˆ ρ k ~ N (0, (1 + 2∑ ρ l2 )) N l =1
• 判定ϕ kk在n步之后截尾的做法是： 1 ˆ ϕ kk ~ N ( 0 , ) N
2 ˆ P φ kk ≤ = 95.5% N
2 ˆk ≤ P ρ N
• BIC定阶
理论上AIC准则不能给出模型阶数的相容估计，即 当样本趋于无穷大时，由AIC准则选择的模型阶数不能 收敛到其真值（通常比真值高）。另一个定阶选择是 BIC准则：
ˆ 2 ( K ) + K ln N BIC ( K ) = N ln σ
其中K是模型的自由参数个数，对于 ARMA(n,m)模型，K=n+m+1。
ˆ ˆ ˆ Q (ϕ 1 , ϕ 2 ,..., ϕ n ) AR模型： σ ( n ) = ˆ ( N − n) − n
2 a
MA模型： ARMA模型：
Q(θˆ1 ,θˆ2 ,...,θˆm ) ˆ2 σ a ( n) = N −m
ˆ ˆ ˆ Q(ϕ1 , ϕ 2 ,..., ϕ n ,θˆ1 ,θˆ2 ,...,θˆm ) 2 ˆ σ a ( n) = ( N − n) − n − m
• F检验定阶法
基本思想：首先用ARMA(n,m)对进行过度拟合， 再令φn ,θ m 高阶系数中某些取值为零，用F检验判 定阶数降低之后的模型与ARMA(n,m)之间是否 存在显著性差异。如果有显著性差异，阶数能 够升高；如果没有差异，阶数可以降低。
• 最佳准则函数定阶法
原理：构造一个准则函数，该函数既要 考虑用某一模型对原始数据拟合的接近程度 （残差的大小），同时又要考虑模型中所含 待定参数的个数。建模时，根据函数的取值 确定模型优劣，使准则函数值达到最小的模 型是最佳模型。 此方法中最常用的AIC定阶和BIC定阶。
第四章 平稳时间序列模型的建立
第一节 模型的识别
• 单变量时间序列的Box-Jenkins模型识别 方法主要是根据样本自相关和偏自相关 函数的截尾和拖尾性来判断序列所适合 的模型。
平稳序列的自相关函数和偏自相关函数的统计特性
模型
AR(n)
MA(m)
ARMA(n,m)
自相关函数
拖尾
截尾
拖尾
偏自相关函数
上述方程为非线性方程，通常要用特定的数值计算方 法求解。
•自回归移动平均模型的参数矩估计：
将模型分成两个部分，先对 部分应用 部分应用YULE将模型分成两个部分，先对AR部分应用 WALKER方程，计算得到剩余序列，对剩余序 方程， 方程 计算得到剩余序列， 列应用MA模型的参数估计方法 模型的参数估计方法。 列应用 模型的参数估计方法
截尾
拖尾
拖尾
wenku.baidu.com
检验序列的零均值性和平稳性 否则进行零均值化和平稳化
模型识别 用相关图和偏相关图识别模型的类型
模型定阶 确定ARIMA中的参数d, p, q
参数估计 矩、OLS、ML等 对初步选取的模型进行参数估计 诊断与检验 包括参数的显著性检验和 残差的随机性检验
NO 模型可取吗 YES 模型应用
N ρ k ( N , at ) ~ NID(0,1)
N k = 1,2,L, L( N ) L( N ) = [ ]或[ N ] 10
H 0 : N ρ k ( N , at ) ~ NID(0,1)
在原假设成立的条件下，有
L( N ) k =1
∑[
N ρk ( N, at )] ~ χ (L( N ) − n − m)
σ 可以由σ = γ 0 −ϕ1γ1 −ϕ2γ 2 −... −ϕnγ n得出
2 a 2 a
•移动平均模型的参数估计
γ 0 = (1+θ +L+θ )σ k =0 2 γ k = γ k = (−θk +θk+1θ1 +L+θk+1θm−k )σ 1≤ k ≤ m 0 k >m
2 1 2 m 2
•极大似然估计（ML） 极大似然估计（ 极大似然估计 ）
极大似然估计有条件极大似然估计和完全极大似 然估计之分。 然估计之分。 最小二乘估计是条件极大似然估计。 最小二乘估计是条件极大似然估计。
第四节 模型的检验
• 参数估计值检验 显著性检验 约束性检验 • 残差序列的检验 相关性检验 正态性检验 异方差检验