时间序列分析第四章均值和自协方差函数的估计详解

N ( ) k j k, j1,2, ,N
令 yj xj xN. 记
0
A
0
y1
0
y1
y2
y1
y2
y3
yN 1 yN 0
yN 1 yN
0
yN
0
0
N 1 AAT N
(2.5)
只要yi不全是零则A满秩。
样本自协方差的正定性
事实上，设 y1 yk1 0, yk 0. 则A矩阵
(1.5)
k
定义。其中{ k} 平方可和。如果 {Xt} 的谱密度
f
( )
2 2
| k
k
tk
|, t Z ,
(1.6)
在 0连续，并且 f (0) 0. 则当 N 时，
N ( X N ) d N (0, 2 f (0))
推论
当{ k }绝对可和时，f () 连续。
推论1.3
N ( X n ) / o(1) 不收敛。
N
2 ln ln N
AR(2)的均值计算
令 A(z) (1 ei z)(1 ei z)
考虑AR(2)模型
A(B) X t t
X t 2 cos X t1 2 X t2 t
为模拟方便设 {t}iid N (0, 2 ) 。
X N
1 N
是
o( 2 ln ln N ). N
除了个别情况，这个阶数一般不能再被改进。
收敛速度(2)
定理1.4 设 {t }是独立同分布的 WN (0, 2 )。线
性平稳序列{Xt}由(1.5)定义。谱密度 f (0) 0。
当以下的条件之一成立时： 1 当k , |k| 以负指数阶收敛于0.
2 谱密度 f () 在 0连续。并且 E | t |r
相合性
设统计量
^
N
是
的估计，在统计学中有如下的
定义
1
如果
E
^
N
，则称
^
EN
是
的无偏估计。
^
2 如果当 N , E N . 则称 N 是 的渐
进无偏估计。
3
如果^ N 依概率收敛到
^
，则称 N
是
的相
合估计。
4如果^ N a.s. 收敛到 ，则称^ N 是的强相合
估计。
一般情况下，无偏估计比有偏估计来得好，对
的强相合估计。
第三条结论利用1.5的遍历定理5.1可得。 一般地，任何强相合估计一定是相合估计。 线性平稳列的均值估计是相合估计。 ARMA模型的均值估计是相合估计。
独立同分布样本的中心极限定 理
若 X1, X 2 , , X Nidd (, 2 ) 。则
N ( X N )d N (0, 2 )
N 1
(2.3)
自协方差函数估计公式
估计 k 一般不使用除了 N k 的估计形式：
1 N k
N k
(xj
j 1
xN )(x jk
xN )
(2.4)
因为： 我们不对大的k值计算 k 更重要的是只有除以N的估计式才是正定的。
样本自协方差的正定性
只要观测 x1, x2 ,
正定。
, x 不全相同则 N
可以据此计算 的 95% 置信区间。
[ X N 1.96 / N , X N 1.96 / N ].
其中的1.96也经常用2近似代替。
(1.3)
平稳列的均值估计的中心极限定 理
定理1.2 设{t }是独立同分布的 WN (0, 2 )，线
性平稳序列{Xt} 由
X t ktk , t Z ,
Pr(|
XN
| )
E(X N )2 2
0.(
0)
得到
X
N
依概率收敛到
。于是
X
N
Hale Waihona Puke Baidu
是
的相
合估计。
均值估计的性质
定理1.1 设平稳序列 {Xt} 有均值 和自协方差
函数{ k }。则
1
X
N
是
的无偏估计。
2
如果 k
0, 则
XN
是
的相合估计。
3 如果{X t}还是严平稳遍历序列，则 X N 是
如果
和 成立，则 |
k k
|
k k
0
当N 时
N ( X N ) d N (0, 2 f (0))
并且
2 f (0) 0 2 j .
j 1
(1.7)
收敛速度
相合的估计量渐进性质除了是否服从中心极限 定理外，还包括这个估计量的收敛速度。
收敛速度的描述方法之一是所谓的重对数律。 重对数律成立时，得到的收敛速度的阶数一般
N
Xt, N
t 1
1 N
N
t
t 1
AR(2)的均值计算(2)
估计收敛性的模拟
为了观察 N 时 X 后观察 X N , N n0,n0 1,
N
的收敛可以模拟L个值然 , L的变化。
为了研究固定N情况下 X N 的精度以至于抽样分 布。可以进行M次独立的随机模拟，得到M个X N
的观察值。这种方法对于难以得到估计量的理
时间序列分析第四章均值和自 协方差函数的估计
本章结构
均值的估计 自协方差函数的估计 白噪声检验
§4.1 均值的估计
相合性 中心极限定理 收敛速度 X 的模拟计算
均值、自协方差函数的作用
AR,MA,ARMA模型的参数可以由自协方差函数 唯一确定。
有了样本之后，可以先估计均值和自协方差函 数。
然后由均值和自协方差函数解出模型参数。 均值和自协方差可以用矩估计法求。 还要考虑相合性，渐进分布，收敛速度等问题。
均值估计公式
设 x1, x2 , , xN 是平稳列 {X t}的观测。
EXt 的点估计为
xN
1 N
N
xk
k 1
把观测样本看成随机样本时记作大写的
X1, X 2 , , X N
论分布的情况是很有用的。
§4.2 自协方差函数的估计
自协方差估计公式及正定性
k 的相合性 k 的渐进分布
模拟计算
自协方差函数估计公式
k
1 N
N k
(xj
j 1
xN )(x jk
xN ), 0 k
N
1,
k k
(2.2)
样本自相关系数(ACF)估计为
k
k 0
,| k |
对某个r 2 成立。
则有重对数律
lim sup N ( X N ) 2 f (0), a.s. (1.8)
N
2 ln ln N
lim inf N
N ( X N ) 2 f (0), a.s. (1.9)
2 ln ln N
易见重对数律满足时
( X N ) o(1) 0( ln ln N ),
于由(1.1)定义的
_
XN
。有
E XN
1 N
N
EX k
k 1
1 N
N
k 1
.
所以X
N
是均值
的无偏估计。
均值估计的相合性
好的估计量起码应是相合的。否则，估计量不 收敛到要估计的参数，它无助于实际问题的解 决。
对于平稳序列{Xt} ，如果它的自协方差函数{ k } 收敛到零，则：
利用切比雪夫不等式