一种新型复杂时间序列实时预测模型研究

2
经验模式分解
因为自然物理过 程大多 数是非线 性和非 平稳的 , 这 就限 制了处理这些数据方 法的可 选择性 . 现有 的数据 处理方 法要 么是针对线性 非平 稳过 程的 处理 方法 , 如 小波 变换 、 Wagner Ville 分布和短时 Fourier 变换 , 要么 是针对 非线性 平稳且 统计 确定过程的处理方法 , 如相 空间表 示法和 时间延 迟嵌入 方法 等 . 小波 和短时 Fourier 变换 等方 法是 基于 Fourier 谱分 析的 , 通过可调时 频窗 函数 来进 行非 平稳 信号 的时 频 分解 , 在 处 理非平稳信号时可以 达到一 定的效果 . 但 使用谐 波来表 示非
j= 1
k ( x t , xt ) ( 4)
= arg min{ a T Kt - 1 a - 2 a T k t - 1( x t ) + k tt } 由式 ( 4 ) 可得 a t =
1 K! t - 1 kt - 1 (
3
增量核空间独立向量组合预测算法
x t ) . 为了 使 ! Kt - 1 不具有 Kt 条件
t- 1
[ 9]
以使用 Dt - 1中独立变量进行 拟合 , 则可得 相应的 最优拟 合系 数 a = ( a1 , a 2,
m t- 1
) T: ( x t) %
m t- 1
Leabharlann Baidu
a = arg min %
a m
i= 1 t- 1
∃ ai
( xi ) -
= arg min
a a
i, j = 1
∃ a iajk ( x i, x j ) - 2 ∃ ajk ( xj , x t) +
收稿日期 : 2006 08 22; 修回日期 : 2006 11 13
2392
电
子
学 可得
报 wt = (
t T - 1 t) T t yt =
2006 年 Kt
1 T ty t
线性信号时会发生能量向高频泄露 , 产生虚假频谱成分 . 相空 间表示法和时间延迟嵌入方法在高噪声情况下将无法重构与 真实物理过程微分同胚的动力系统 . 由于上述这些方法很难 处理现 实世界 中非线性 、 非 平稳 随机信号 , 人们迫 切 需求 一种 新型 处理 方法 . 1998 年 , Norden E.Huang 提出一种适 用于 分析 和处理 非线 性、 非平 稳随 机信 号的 新 方法 HHT 变 换 ( Hilbert Huang Transform, HHT ) [7] . HHT 变换由两个步组成 : 第一步 将任意 信号分 解为若 干本征 模式分量 ( Intrinsic Mode Function, IMF) 和一 个余 项 , 该步 骤称 为经验模式 分 解法 ( Empirical Mode Decomposition, EMD) ; 第二 步对每个本征模式或 余项 进行 希尔伯 谱分 析 ( Hilbert Spectral Analysis, HSA) . 本征模式分量 必须满足下面两个条件 : ( 1) 在整个数据序列中 , 极值点的数目与过零 点的数目必 须相等或至多相差一个 ; ( 2) 数据序列极大值点 确定的 上包络 和极小 值点所 确定 的下包络关于时间轴对称 . 经验模式分解的主要过程如下 : ( 1) 找到待分析信号的全部极大值和极小值点 , 利用三次 样条函数分 别把他们拟合 为该信号 的上下 包络线 , 计 算出两 包络线的均值 , 进而求出待分析信号和均值的 差值 h ; ( 2) 若 h 不满足 IMF 的要 求 , 则 重复上 述过程 若干次 , 使 得新的 h 满足 IMF 的 条件 ; 若 h 满足 IMF 的要 求 , 则令 h 为 原信号的第 1 个 IMF, 并求出原信号与该 IMF 的差值 r ; ( 3) 将 r 作为待 分解信 号 , 重 复以上 过程 , 直 到所剩 余信 号为单调信号为止 . 从上面 叙 述 可以 知 道 EMD 分 解 过 程 的 时 间 复杂 度 为 O ( n) , 其中 n 为时间序列长度 .
第 12A 期 2006 年 12 月
电 子 学 报 ACTA ELECTRONICA SINICA
Vol. 34 No. 12A Dec. 2006
一种新型复杂时间序列实时预测模型研究
王 军, 彭喜元, 彭 宇
( 哈尔滨工业大学自动化测试与控制系 , 黑龙江哈尔滨 150080)
摘 要 : 针对复杂时间序列难以使用单一预 测方法进行有效预测的问题 , 本文提出一种新型多分 辨率增量预测 模型 . 该模型首先使用经验模式分解方法对复杂时 间序列分解 , 然后对各分量分别进行增量核空间独立 向量组合预测 建模 , 最 后对各个 分量预测结 果等权求 和集成为综 合预测结果 . 该预 测模型可 以实现对复 杂时间序 列的快速实 时预 测 , 实验结果显示该模型在复杂时间序列 预测上有良好的性能 . 关键词 : 复杂时间序列 ; 预测 ; 经验模式分解 中图分类号 : TP391 文献标识码 : A 文章编号 : 0372 2112 ( 2006) 12A 2391 04
def
m t- 1
, x t - 1) T , yt = x t , t = l + 1,
} , 其 中 x t 相当于
输入变量 , yt 相当于输出变量 . 预测问题的标准方法可以使用形如 f ( x ) = ! w, ( x )∀ 简 单参数化形式表 示 , 其中 w 为参 数 向量 , 为 映射 函数 , !# , #∀ 表示内积 . 函数 可以为线 性函数 , 也 可以为非 线性函 数 , 函数 将原始数据 空间的 数据 映射 到一 个 Hilbert 空间 或特 征空间 . 当函数 为线 性函 数时 , 预 测问 题等 效于 线性 滤波 器构造问题 , 如 FIR、 RLS 算法等 , 但这些模型不适合于对非线 性时间序列预测 , 所以为 了对非 线性时 间序列 进行有 效预测 应该取函数 为非 线性 映射函 数 [ 8, 9] . 这 样预 测问 题可 以描
( 3)
直接求解上述方程 会带来几个问题 : ( 1 ) 当数据集很大时保 存 Kt 等将占用很大的内存空间 ; ( 2 ) 模型的阶数目 等于时 刻 t 时数 据集中 数据 的个数 容 易造成过适 ; ( 3 ) Kt 条件数过大 , 这使得矩阵求逆不稳定 . 为了克服 上 述 问题 , 通 过 使用 近 似 线 性依 赖 条 件 ( Ap proximate Linear Dependence, ALD) 概 念 , 本 文提 出 一种 增 量 核空间独立 向量 组合 预测 算法 ( Incremental Independent Vector Combination Predicting algorithm in Kernel Space, IIVCPKS) . 该 算 法首先使用一些在核空 间独立的输入变量对后续输入变量进 行拟合 , 然后根据得到的拟 合权值 对独立 变量对 应的输 出变 量进行组合 , 组合结果作为后续输入变量所对应的输出值 , 即 预测值 . 此外 , 如果后续输入变量不能被已 有的独立变量很好 的拟合 , 则将该独立变量作 为一个 独立变 量加入 到独立 变量 集 ( 设独立变量集表示为 Dt ) . 下面详细 介绍 IIVCPKS 算 法的 原理 . 假设在 t 时刻有时 间序 列数据 库 DBt - 1 = { ( xi , yi ) , i = 1, 2 , 2, , t - 1 } 和核空间独 立变量 集合 Dt - 1 = { ( x i , y i ) , i = 1, , m t - 1, ( x i , y i ) & DBt - 1} , 则新 到的一 个输 入向 量 xt 可 , am
假设有时 间序 列 { x t , t = 1, 2, } , 通 过时 间窗 长 度为 l 的时间窗将时间序列分割成为如下形式的数据 { ( xt , yt ) | x t = ( x t - l , xt 1+ 1,
数太大、 占用内存过多 和易造 成过 拟合 等缺点 , 应 该限 制 Dt 的规模 , 在 此 引 入 近 似 线 性 依 赖 ( Approximate Linear Depen dence, ALD) 条件 : ! t
1
引言
时间序列数据在一些新的数据库应用以及数据挖掘等领
域中日趋重要 , 而且这些数据往往是非平稳、 非线性随机时间 序列 , 如气象数据、 太阳黑 子数据、 激光 数据、 股票价 格数 据、 网络流量数据、 电力需求数据等 . 时间序列的复杂行为可以用 内在非线性 动力系统描述 , 但如 何识别 这样的 非线性 动力系 统是个难题 . 目前已经有很多进行时间序列预测的方法 , 其中 最为常用的预测方法为线性模型方法 , 如 AR、 AR MA、 RLS 等 , 其优点是模型简单、 容易识别 , 但应用线性模型预测非线性时 间序列很难取 得良 好的 预测 效果 [ 1, 2] . 非 线性 模型 由于 其本 身非线性特性适用于非线性时间序列建模 , 如神经网络 、 模糊 逻辑模型、 双线 性自 回归 模型、 支 持向 量回 归模 型等 [ 3, 4] . 现 有的预测方法大多采用单一的预测模型进行复杂时间序列建 模 , 但一个变化异常复杂的非线性、 非平稳随机信号难以使用 单一的预测模型进行 [5] . 此外 , 复杂时间序列潜在物理规律是 不断变化的 , 所构造的预测模型应该跟踪这种变化 , 这需要不 断地对预测 模型进行学习 , 而现 有的大 部分非 线性预 测模型 训练的时间 复杂度很高 , 所以非 线性预 测模型 在线算 法成为
Abstract: The task of complex time series predicting is hard to be accomplished with only one single predicting model. In this paper, a novel multi scale incremental predictor is proposed. This predictor decomposes the complex time series into a series of intrinsic mode functions ( IMF) and a residual signal w ith empirical mode decompo sition firstly, and then an Incremental Indepen dent Vector Combination Predicting algorithm in Kernel Space ( IIVCPKS) is constructed for predicting every IMF or residual sig nal. The propo sed predictor is competent for predicting the complex time series in real time. Experimental results showed that the propo sed method performed very well in the task of predicting complex time series. Key words: complex time series; predicting; empirical mode decomposition( EM D) 近年来的一个研究热点 . 本文将多分辨率经 验模式分解与非线性预测模型的在线 算法相结合提出一种 新型预 测模型 , 该模 型首先 使用经 验模 式分解方法对复杂时间 序列进行 n 阶分解 , 然后分 别对 n - 1 个本征模式分量和一个 余项分量进行增量核空间独立向量组 合预测建模 , 并利用各个分 量参数 之间的 关系减 轻正交 验证 求参数的次数 , 最后将这些 分量预 测结果 等权求 和集成 为综 合预测结果 . 通过对 4 个真实 复杂时 间序列 进行预 测的结 果 显示 , 本方法具有良好的预测性能 .
A Novel Real Time Predictor for Complex Time Series
WANG Jun, PENG Xi yuan, PENG Yu
( Department of Automatic Test and Control , H arbin Institute of Technology, Harbin, H eil ongjiang 150080, China)