基于TEI@I方法论框架下外汇汇率与国际原油价格波动预测研究

总的来讲 ，开发一 个BP神经 网络预测 模型包括 以下四个 流程：数 据采样、 预处理、 网络训练 以及网络 推广，如 图所示。
A、ANN不确定问题I：输入变量 (节点)选择问题
A、ANN不确定问题II：网络结构确定问题
阶段I：内推阶段(Intrapolated phase)
在这个阶段，我们用一个内推程序来在训练集范围内检查和测试备选有不 同网络结构模型的鲁棒性。具体来讲，这个阶段又分为三个步骤： 步骤 1 ：利用全部的训练数据，通过不断增加网络的隐层节点数来建立起 不同的神经网络模型。在误差成本函数设定的目标范围内，我们可以获得一 批具有不同结构的初始神经网络模型。这里假设对于某一个实际问题有相同 的输入和输出，那么不同的隐层节点代表了不同的神经网络结构。 步骤 2 ：对于每一个初始模型，通过改变样本内数据(In-sample data)可 以检查 Hellinger 距离的数值。如果这个数值不稳定，波动很大，那么相应 的模型就被移去，仅仅只有波动较小的模型被保留(即中间模型)。这里我们 用Hellinger距离的标准差来作为稳定性度量的基础。 步骤3：如果在一定波动范围内，没有“中间模型”被保留，那么转到步骤1 重新选择更多的“初始模型”，然后继续步骤2。如果从步骤2获得了一批鲁棒 的“中间模型”，那么就转到下一个阶段。
信息系统开发：外汇汇率与国际油价预测系统分析、设计、 信息系统开发 开发、实施与评价
总结展望致谢 全文总结、创新点、参加课题、发表论文、 5 总结展望致谢： 所获奖 励以及致谢
引
言
外汇市场和国际原油市场是两个非常重要而又复杂多变的市 场，外汇汇率和国际原油价格的变化都具有高度波动性的特征。 这些特征使得外汇汇率与国际油价的预测变得十分困难。在过去 的几十年中，许多学者和业界人士提出了各种各样的预测方法来 本文提出一个全新的处理复杂系统的方法论 — TEI@I方法论并 对外汇汇率和国际油价的预测展开系统的研究。 我的毕业论文共分12章，因时间关系，下面我对本论文作一 简要介绍，敬请各位老师批评指正。
这里我们侧重介绍人工神经网络技术、专家系统和粗
集理论，其他相关技术将在后面部分具体的预测模型
与系统中介绍，其中，对神经网络预测中的一些难点
问题提出了合理的解决方案。
A、人工神经网络(ANN)技术 9人工神经网络是模拟生物系统神经结构与功能特征的 一种技术系统。 9在预测领域中应用最广泛的人工神经网络模型是前向 网络模型 ( 即 BP 网络模型 ) ，由输入层、隐蔽层、输出 层组成(如图所示)
1 n 2 * * ( , ξ ) ( ξ ξ MinR w w c = + + ∑ SVM i i ) = 1 i 2 s.t. w ϕ ( x ) + b − d ≤ ε + ξ * i i i i d i − w ϕ ( x i ) − bi ≤ ε + ξ i
*
C、专家系统技术
信息系 统开发
总结与 展望
内容提要
1 2 3 4
总体概况介绍 ：引言、选题意义、文章总体结构
理论框架基础： 理论框架基础 TEI@I方法论理论基础、模型、方法与技术 具体预测模型：三个外汇预测模型和三个国际油价预测模型 具体预测模型
信息系统开发：外汇汇率与国际油价预测系统分析、设计、 信息系统开发 开发、实施与评价
A、ANN不确定问题II：网络结构确定问题
阶段II：外推阶段(Extrapolated phase)
外推阶段的步骤类似于内推阶段，差异在于使用了不同的数据集来检查神经 网络模型的鲁棒性。在这个阶段，样本外数据(Out-of-sample data)被用来检 查神经网络模型的鲁棒性。主要的步骤包括： 步骤1：对于前一阶段获得的“中间模型”，我们利用这些模型去预测这些样本 数据。这样我们可以获得在预测值与实际值之间的误差序列。 步 骤 2 ： 通 过 改 变 样 本 外 数 据 的 个 数 ， 我 们 可 以 得 到 每 个 “ 中间模型 ” 的 Hellinger距离数值。 步骤3：如果获得的Hellinger距离数值波动性较大，那么丢弃这个“中间模型 ”，转向本阶段步骤1测试另外一个“中间模型”。如果获得的Hellinger距离数值 波动性较小，我们就可以保留下来作为“最终模型”，并转向步骤4。 步骤4：在获得的一批“最终模型”中，我们通过观察Hellinger距离的数值波 动情况，通过选择最小的标准差来识别最终用于预测的模型。相应地，有着优 化结构的神经网络模型可以得到。
专家系统是人工智能领域的一个分支，它可以定义为一个能在特定领域
Leabharlann Baidu
内，以人类专家水平去解决该领域内困难问题的计算机程序。其主要特征是
它依靠人类专家经验性的规则来分析和解决问题，是一种将经验性的知识应
用于尚未完全得到理解的领域的方法。目前，几乎在全球的所有领域包括识
别、预测、诊断、计划、控制、维修及目标市场定位等，一些专家系统正在 理机、知识获取工具及人机用户界面，总体结构如下图所示。
文本 挖掘 是数 据挖 掘基 础上 发展 起来 的一 种新 兴的 智能 技术 。基 本结 构如 右：
(1) 基于Web的文本挖掘技术
据调查统计 ，由于大部 分信息是以 文本形式存 在的，因此 文本挖掘技 术被认为是 一个比数据 挖掘更具市 场潜力的技 术。一些大 型公司(如 SAS 和 IBM) 开 始研究出了 一些商业化 的产品，如 SAS 的 Text-
TEI@I方法论理论框架
TEI@I方法论：模型、方法与技术
TEI@I方法论总体思路
在TEI@I方法论的理论框架和主要模块的基础上，这一部分 开始对构成TEI@I方法论的模型、方法和技术进行具体研究。 TEI@I方法论是以集成思想为核心，以人工神经网络技术为 集成工具，将文本挖掘(Text mining)技术，传统的计量经济模 型（ Econometrics）, 人工智能技术 (Intelligence，如神经网 络、专家系统和粗集理论等 ) 综合集成 (Integration) 起来进行 预测。 下面主要介绍一下这些技术的具体内容。
η (t ) =
*
e T ( t )ξ e T ( t )ξ
T
T
(t )e (t )
T
( t )ξ ( t ) e ( t )
T
B、支持向量机(SVM)技术(I)
¾ SVM是90年代中期在统计学习理论(SLT)的基础上发展起来的一种机 器学习方法。在很大程度上解决了传统方法（如神经网络）中存在的 问题，如线性不可分、过度拟合、多维问题、局部极小点问题等。 ¾ 基本思想：首先通过非线性变换将输入空间变换到一个高维空间，使 样本线性可分；然后在线性可分的情况下求取最优分类面，而这种非 线性变换是通过定义适当的内积实现的。 ¾ 最早是用来作分类问题，如下图所示：
总结展望致谢 全文总结、创新点、参加课题、发表论文、 5 总结展望致谢： 所获奖 励以及致谢
TEI@I方法论：理论框架
TEI@I方法论产生背景
外汇市场和国际原油市场是两个复杂的动态市场，外汇汇 率与国际油价都具有高度的波动性与不规则性，而且，各种突 发事件对其也有较大的影响，这些都使得外汇汇率与国际油价 波动预测变得十分困难。然而，传统的预测技术获得的预测效 果不甚理想。这就意味着外汇汇率与国际油价的预测研究需要 重要的理论与方法创新。
基于TEI@I方法论框架下
外汇汇率与国际原油价格波动预测研究
答
辩 人：余乐安 黎建强 教 授
指 导 教 师：汪寿阳 研究员 学科、专业：管理科学与工程 ２ＯＯ5 年 5 月
内容提要
1 2 3 4
总体概况介绍 ：引言、选题依据、文章总体结构
理论框架基础： 理论框架基础 TEI@I方法论理论基础、模型、方法与技术 具体预测模型：三个外汇预测模型和三个国际油价预测模型 具体预测模型
A、ANN不确定问题III：优化学习率确定问题
在神经网络初始化过程中，一个关键的但长期受到忽视的问题就是学习 率 (learning rate) 的确定问题。神经网络学习率就是神经网络在搜索空间 上 的 步 长 。 目 前 人 们 在 神 经 网 络 运 用 时 大 多 使 用 固 定 的 学 习 率 ( Fixed learning rate)。如果学习率过大，网络可能收敛很快，但也可能使得神经 网络变得不稳定或者是神经网络根本不能学习。为了确保神经网络稳定地学 习，学习率应该尽可能小。然而，一个小的学习率可能使得网络学习很稳定 ，但是对于一个学习任务可能需要很长的时间，网络收敛很慢，从而在应用 中变得不切实际。而且，一个小的学习率应该多小也是很难确定的。此外， 对于不同结构的神经网络和不同的应用情况，最佳的学习率也是不同的。为 了克服这些问题，许多改进的BP算法如自适应学习[143-144]被开发，但是 学习率的优化确定问题一直没有得到很好的解决。这里我们利用优化方法求 出了优化的学习率，如下式所示，由于推导过程比较复杂，详细请参见论文
y = f (x) = wϕ (x) + b
ϕ ( x) 其中， 为从输入空间到高维特征空间的非线性映射，系数w和b由最小 化下式来估计： 1 c n 2 RSVM (c ) = w + ∑i =1 Lε [ d i , wϕ ( xi ) + b] 2 n 在上式中，本文采用Vapnik的ε不敏感损失函数。为了寻找系数w和b， 引入松弛变量 ξ i 和 ξ i* ，形成如下这样一个最小化问题：
预测外汇汇率和国际油价，但预测效果不甚理想。在这一背景下，
论文的选题背景
¾ 外汇汇率预测的重要作用：国家、企业、投资者
¾ 国际油价预测的重要作用：国家、企业、投资者
¾ 二者之间的关联：外汇汇率影响国际油价，国际油价
影响经济发展，间接影响国家的外汇汇率
论文的总体结构安排
绪论
TEI@I理论
TEI@I模型、 具体预 方法与技术 测模型
在这样的背景下，以汪寿阳研究员为领导的学术研究小组 在经过多年的研究积累之后，于2004年首次在日本筑波大学复 杂系统研讨会上针对复杂系统提出了TEI@I方法论的全新概念。 之后汪寿阳研究员等领导的研究小组成功地将这一方法论应用 到复杂动态市场价格的波动预测上，特别是国际油价的波动预 测，取得了较好的预测效果。
(2) 经济计量技术 经济理论+数学和统计学---建立和应用经 济计量模型为核心的一门经济学科。 主要计量模型包括：统计回归模型、时间 序列模型
(3) 人工智能技术
人工智能技术是TEI@I方法论的关键技术。
典型的人工智能技术有：人工神经网络(包括支持向
量机)、遗传算法、专家系统和粗集理论等等。
TEI@I方法论基本思想
TEI@I方法论是一种结合传统的统计技术与新兴的人工智能 技术的一个方法论。从这个名称来看，这个方法论是基于“文本 挖掘 (Text mining) + 经济计量 (Econometrics) + 智能技术 (Intelligence) @ 集成技术(Integration)”而形成的。这里用 “@ ”而不用 “+ ” ，主要目的在于强调是一种非叠加性的集成，强 调集成的中心作用。 在这个方法论中，系统地融合了文本挖掘技术、经济计量 模型、人工智能技术及系统集成技术。在复杂系统的分析与研 究中，TEI@I方法论是基于一种“先分解后集成”的思想，首先将 复杂系统分解，利用经济计量模型来分析对复杂系统呈现的主 要趋势，利用人工智能技术来分析复杂系统的非线性与不确定 性，然后利用文本挖掘等技术来分析复杂系统的突现性与不稳 定性，最后基于集成的思想，把以上分解的复杂系统的各个部 分集成起来，形成对复杂系统总体的分析与建模，从而达到分 析复杂系统的目的。
H2
H 升维:低-高
分类间隔Margin
B、支持向量机(SVM)技术(II)
¾ 在本文中还用到了SVM来做预测问题，即SVR。基本思想是是通过一个 非线性映射φ，把输入空间的数据x映射到一个高维特征空间中去，然后 在这一高维空间中做线性回归。给定一数据点集 D = {( xi ,d i )}in=1，其中xi为 输入向量，di为期望值，n为数据点数。SVM采用下式来进行函数估计：