数据挖掘 第六章 时间序列和序列模式挖掘

2013年7月11日星期四
13
第六章 时间序列和序列模式挖掘
内容提要

时间序列及其应用


时间序列预测的常用方法
基于ARMA模型的序列匹配方法 基于离散傅立叶变换的时间序列相似性查找


基于规范变换的查找方法
序列挖掘及其基本方法 AprioriAll 算法 AprioriSome 算法 GSP算法
5
2013年7月11日星期四
时间序列预测的常用方法
时间序列分析的一个重要应用是预测，即根据已知时 间序列中数据的变化特征和趋势，预测未来属性值。为了 对时间序列预测方法有一个比较全面的了解，我们首先对 时间序列预测的主要方法加以归纳。

确定性时间序列预测方法
随机时间序列预测方法 其他方法


2013年7月11日星期四
第六章 时间序列和序列模式挖掘
内容提要

时间序列及其应用


时间序列预测的常用方法
基于ARMA模型的序列匹配方法 基于离散傅立叶变换的时间序列相似性查找


基于规范变换的查找方法
序列挖掘及其基本方法 AprioriAll 算法 AprioriSome 算法 GSP算法

2013年7月11日星期四
6
时间序列预测的常用方法(续)

确定性时间序列预测方法
对于平稳变化特征的时间序列来说，假设未来行为与现在的行为有 关，利用属性现在的值预测将来的值是可行的。例如，要预测下周某 种商品的销售额，可以用最近一段时间的实际销售量来建立预测模型。 一种更科学的评价时间序列变动的方法是将变化在多维上加以综合 考虑，把数据的变动看成是长期趋势、季节变动和随机型变动共同作 用的结果。 长期趋势：随时间变化的、按照某种规则稳步增长、下降或保 持在某一水平上的规律。 季节变动：在一定时间内（如一年）的周期性变化规律（如冬 季羽绒服销售增加）。 随机型变动：不可控的偶然因素等。 设Tt表示长期趋势，St 表示季节变动趋势项，Ct 表示循环变动趋势项， Rt表示随机干扰项，yt 是观测目标的观测记录。则常见的确定性时间序 列模型有以下几种类型： 加法模型：yt = Tt + St + Ct + Rt。 乘法模型：yt = Tt·St·Ct·Rt。 混合模型：yt = Tt·St + Rt 或yt = St + Tt·Ct·Rt。
基于ARMA模型的序列匹配方法


ARMA模型（特别是其中的AR模型）是时序方法中最基本 的、实际应用最广的时序模型。早在1927年，G. U. Yule 就提出了AR模型，此后，AR模型逐步发展为ARMA模型、 多维ARMA模型。ARMA通常被广泛用于预测。由于 ARMA模型是一个信息的凝聚器，可将系统的特性与系统 状态的所有信息凝聚在其中，因而它也可以用于时间序列 的匹配。 1．ARMA模型 对于平稳、正态、零均值的时序 X {xt t 0，2，，n 1} ，若X 1 ... ， 在t时刻的取值不仅与其前n步的各个值 xt 1 , xt 2 , ..., xt n 有关， t 1 , t 2 , ..., t m 而且还与前m步的各个干扰 有关（n，m=1， 2，…），则按多元线性回归的思想，可得到最一般的 ARMA（n，m）模型：
2 DE ( X ,Y ) ( X Y )T (， Y ) X
2．残差偏移距离判别 ， 2 D ( X ,Y ) N ( X Y )T rX ( X Y ) 其中 rX是待检序列的协方差矩阵，N表示待检序列的长度。 3．Mahalanobis距离判别
可用于时间序列预测的方法很多，其中比较成功的是 神经网络。由于大量的时间序列是非平稳的，因此特征 参数和数据分布随着时间的推移而变化。假如通过对某 段历史数据的训练，通过数学统计模型估计神经网络的 各层权重参数初值，就可能建立神经网络预测模型，用 于时间序列的预测。

其他方法

2013年7月11日星期四
t 1 t 1 2 t 2 n t n t
t 2 a
n1
n 2
T
[1
。
2
... n ]T
，
N
[ n1 n2 ... N ]T
xn xn 1 . . . x1 x . . . x2 n 1 xn x ... ... x N 1 x N 2 . . . x N n
时间序列及其应用



时间序列（Time Series）挖掘是数据挖掘中的一 个重要研究分支，有着广泛的应用价值 。 近年来，时间序列挖掘在宏观的经济预测、市场 营销、客流量分析、太阳黑子数、月降水量、河 流流量、股票价格变动等众多领域得到应用。事 实上，社会、科学、经济、技术等领域中广泛存 在着大量的时间序列数据有待进一步的分析和处 理。 时间序列数据挖掘通过研究信息的时间特性，深 入洞悉事物进化的机制，是获得知识的有效途径。
8
第六章 时间序列和序列模式挖掘
内容提要

时间序列及其应用


时间序列预测的常用方法
基于ARMA模型的序列匹配方法 基于离散傅立叶变换的时间序列相似性查找


基于规范变换的查找方法
序列挖掘及其基本方法 AprioriAll 算法 AprioriSome 算法 GSP算法
9
2013年7月11日星期四
2013年7月11日星期四
4
第六章 时间序列和序列模式挖掘
内容提要

时间序列及其应用


时间序列预测的常用方法
基于ARMA模型的序列匹配方法 基于离散傅立叶变换的时间序列相似性查找


基于规范变换的查找方法
序列挖掘及其基本方法 AprioriAll 算法 AprioriSome 算法 GSP算法
根据多元线性回归理论，参数矩阵 的最小二乘估计为： ( x T x) 1 x T y。
2013年7月11日星期四

12
构造判别函数
根据上面的模型，我们可以获得待测序列X {xt t 0, 1, 2, ..., n 1} 的参数模 型 X，同样我们也可以得到序列数据库中的其他序列Yi的参数模型 Y i 。 X 和 Y 都是n维向量，故均可视为n维空间上的点，从而序列的相似性 问题就归结为n维空间Rn中的距离问题。因此，我们下面简单介绍几种基 于距离的判别函数。 ， 1．Euclide

xt t j t j
j 1
m
) 其中 ~ NID(0, 。由于模型中没有自回归部分，所以称为m 阶滑动平均（ Moving Average）模型，记为MA（m）。
t 2 a
2013年7月11日星期四
11
建立AR模型
建立AR模型的最常用方法是最小二乘法。具体方法如下： 对于AR（n）模型，有 x x x ... x ，其中 ~ NID(0, )， 即可以用以下线性方程组表示： xn1 1 xn 2 xn1 ... n x1 n1， xn2 1 xn1 2 xn ... n x2 n2， ， ……， ， xN 1 xN 1 2 xN 2 ... n xN n N。 或者写成如下矩阵形式： ， y x ， 其中 y [x x ... x ]

2013年7月11日星期四
7
时间序列预测的常用方法(续)

随机时间序列预测方法

通过建立随机模型，对随机时间序列进行分析，可以 预测未来值。 若时间序列是平稳的，可以用自回归(Auto Regressive， 简称AR)模型、移动回归模型(Moving Average，简称MA) 或自回归移动平均(Auto Regressive Moving Average， 简称ARMA)模型进行分析预测。
xt i xt i j t j t
i 1 j 1 n m
其中
t ~ NID(0, a2 ) 。
10
2013年7月11日星期四
基于ARMA模型的序列匹配方法(续)
2．AR模型 AR（n）模型是ARMA（n，m）模型的一个特例。在上面 ARMA（n，m）模型表达中，当 j 0时，有
14
2013年7月11日星期四
基于离散傅立叶变换的时间序列相似性查找
为了方便讨论，我们首先给出一些符号来表示序列及序列的 相似性： X {xt t 0, 1, 2, ..., n 1} 表示一个序列； Len（X）表示序列X的长度； First（X）表示序列X的第一个元素； Last（X）表示序列X的最后一个元素； 表示X在i时刻的取值， [i] xi ； X [i ] X 序列上元素之间的“<”关系，在序列X上，如果i<j ，那 么X[i]<X[j]； 本文用 X 表示X的子序列，如果序列X有k个子序列，则把 这些子序列分别表示为 X , X , ... , X 。 子序列间的<关系， Si , X Sj 为X的子序列，如果First(X ) First(X ) X Si Sj ，则称 X X 。 子序列重叠（Overlap），假定X S1，XS2为X的两个子序 列，如果 First(XS1 ) First(XS2 ) Last(XS1 ) 或First(X ) First(X ) Last(X ) 成立，则XS1与XS2重叠。
。
2 DMh ( X , Y )
N

其中 rY是参考序列的协方差矩阵。 4．Mann距离判别
2 DMn ( Y , X )
2 Y
( X Y ) T rY ( X Y )