动态朴素贝叶斯网络分类器的特征子集选择

５ ８
计 算机应 用 与软件
２１ ０２皋
Ｄ Ｔ Ｎ １ ， ［ ］ …， 是对应数据集 中的例子数量 。 ［ ］， ［ ］Ｎ ２ ， Ⅳ［
是 Ｄｌ 一１ 中 Ｃ１ ｔ Ｊ Ｊ＝ ［ 一１ （ ≤ ≤ｔ ） Ｃｔ ０ Ｊ 一１ 的情 况 数 量 。
（ ）属性条件 密度估计 ２
Ａｂ ｔ ａ ｔ ｓｒ ｃ Ｃ ａ ｓｆ ａｉｎ ａ ｃ ｒ ｃ Ｓｔ ｅ ｍｏ ｔ ｍｐ ｒａ ｔ ｅｆ ｒ ｎ ｅｉ ｄ ｃ ｔ ｒ ｆｃａ ｓｆ ｒ．Ｆ ａｕ ｅ ｓ ｂ ｅ ｓ ｌｃｉ ｎ ｉ ａ ｆ ｃｉｅ ｍｅ ｈ ｄ ｌ ｓ ｉ ｃ ｔ ｃ ｕ ａ ｙ ｉ ｈ ｓ ｏｔ ｎ ｒｏｍａ ｃ ｎ ｉａｏ ｌ ｓｉ ｅ ｓ ｅ ｔｒ ｕ ｓ ｔ ｅｅ ｔ Ｓ ｎ ｅｆ ｔ ｔ ｏ ｉ ｏ ｉ ｐ ｏ ｉ ｏ ｅ ｖ
酬
ｇ
蓑
［ ） ｚ ｌ
（ ，ｖ ］Ｉ， ］
图 １ Ｄ Ｂ Ｎ Ｎ分 类 器 结 构
１２ Ｄ Ｎ 分类 器表 示形 式 ． Ｉ
基 于贝叶斯 网络理论 和贝 叶斯公式 ， 据图 １中所 体 现 的 依 条件独立性关系可得 ： Ｐ（ ［］Ｉ ［ ］ … ，［ 一１ ，。０ ， ， ［ ］ Ｃ ｔ Ｏ ， Ｃ ｔ ］ ［ ］ … ０ ， ｃ ＤＢ Ｎ Ｎ分类 器分类准确性估计是衡量分 类器分类 准确性 的 个标准 ， 静态分类器 的分 类准确 性评价标 准是 基于例 子之 间 独立 同分 布的假 设 ， 时序例子数据之 间强 调时序依 赖 ， 因此需要
中图分类号
动态朴 素贝叶斯网络
Ｔ １１ Ｐ ８
分 类器
特征子集选择 高斯核 函数
Ａ
文献标识码
Ｆ ＥＡＴＬ Ｅ Ｓ ＢＳ Ｔ Ｅ ＣⅡ ｏＮ 瓜 Ｕ Ｅ Ｓ ＬＥ
Ｉ ＮＡ Ｃ Ｎ Ｍ
Ｅ ＢＡＹ Ｌ 】Ｓ Ｎ］ ｖ） 圈 ＩＲＫ ａ
；Ｉ Ｓ
Ｒ
Ｙ ｎ ｅ・ Ｗａ ｇＳ ｕ ｎ ｃ ｅｇ・ Ｄ ｕ ｉ ｕＭｉ ｉ ｊ ｎ ｈ ａｇｈ ｎ ｕＲ ｉｅ ｊ
态朴素贝叶斯网络 Ｄ Ｂ ８ Ｎ Ｎ＿９分类器 是其 中的一种 较实用 的分 ，
技术是使用计算机对人类分类能力 的模拟 ， 已成 为机器学 习、 模
式识别和数据采掘等领域研究 的核心 内容之一 。这种模拟是通
类器。这种分类器 简单 高效 ， 但分 类预 测 的准确 性有 待提 高 。
本 文首先给出具有连续属性 的动态朴素 贝叶斯 网络分类器和动
态分类准确性评 价标 准 ， 在此基 础上建 立动态朴 素贝 叶斯 网络 分类器的特 征子集选择方法 ， 以提高分类器的分类 准确性 ， 并使 用真实宏观经济时序数据进行 实验 与分 析。
分别 用 ［ ］ ［ ］… ， ［ １ ， ２ ， ］（ １≤ ｉ ／） Ｃ １ ， ≤ ＇ 和 ［］ ｔ
余民杰 ， 王双成 ， 杜瑞杰
（ 上海立信会计学院数学与信息学院 上海 ２ １２ ） ０ ６０ 上海 ２ １２ ） ０６ ０ （ 云南财经大学信息学 院 云南 昆明 ６ ０ ２ ） ５ ２ １ （ 上海立信会计学 院开放经济与贸易研究 中心
摘
要
分 类准确性是分类器最重要 的性能指标 ， 特征子集选择是提高分 类器 分类准确 性的一种有效 方法。现有的特征子 集选
（ ｃｏｌｆＭａｈｍａｉ ｎ ｆｒ ａｉ ， ｈ ｎ ｈ ｉ ｉｉ Ｕ ｉｒｉ ｏ ｅｃ， ｈ ｎｈ ｉ ０６ ０ Ｃ ｉａ Ｓｈｏ ｏ ｔｅ ｔｓ ｄＩ ｏｍ ｔ ｎ Ｓ ａｇ ａ Ｌｘｎ ｎｖ ｓｙｏ Ｃ ｍｍ ｒ Ｓ ａｇ ａ １２ ， ｈｎ ） ｃａ ｎ ｏ ｅ ｔｆ ｅ ２ 。 Ｓｈｏ ｏ Ｉ ｏｍ ｔ ｎ ｕ ｎｎ Ｕ ｉ ｒｔ ｆ ＦｎｌｅａｄＥ ｏｏ ｃ， ｕ ｍｎ ５ ２ １ Ｙ ｎ ａ Ｃ ｉａ （ ｃｏｌ ｎ ｒ ｉ ，Ｙ ｎ ａ ｎｖ ｓｙｏ ｉａ ｎ ｃｎｍｉ Ｋ ｎ ｉｇ６ ０２ ，ｕ ｎｎ，ｈｎ ） ｆ ｆａ ｏ ｅｉ ｓ
ｃ２ ， ， Ｔ ［ ］ … Ｃ［ ］表示 随机 属性 和类 变量序列 ， ［ ］ ［ ］ …， １， ２ ，
练和分类 ， 多领域都 有对 向量时 间序 列分类 预测 的实际需 而许 求 。在 向量时间序列 中的例子之间不再满足独立同分布的假 设
（ 例子之间强调 时序依赖） 动态 贝叶斯 网络分 类器可满足 这一 ，
（ ｐｎＥ ｏｏ ｃａ ｄＴａｅＲ ｓ ｒｈＣ ｎｅ， ｈ ｎｈ ｉ ｉ ｎＵ ｉ ｒｔ ｏ ｍ ｒ ，Ｓａ ｇ ａ ０ ６０，Ｃ ｉａ Ｏ ｅ ｃｎｍｉ ｎ ｒｄ ｅ ａｃ ｅｔ ＇ ａｇ ａ ｘ ｎｖ ｓｙｏ Ｃ ｍ ｃ ｈ ｎ ｈ ｉ １ ２ ｅ ｒＳ Ｌｉ ｅｉ ｆ ｅ ｅ ２ ｈｎ ）
ｒｓ ａｃ ｎ ｄ ｎ ｍｉ ｌ ｓｉ ｅ ｅ ｔｒ ｕ ｓ ｔｓｌ ｃｉｎ ｉ ｒ ｒ ． Ｉ ｈ ｓｐ ｐ ｒ ｈ ｙ ａ ｃ ｎ ｉ ｅ Ｂ ｙ ｓａ ｅｗ ｒ ｌｓ ｉ ｅ ｉ ｏ ｔ ｕ ｕ ｅ ｅ ｒｈ ｏ ｙ ａ ｃ ｃａ ｓｆ ｒｆ ａｕ ｅ ｓ ｂ ｅ ｅｅ ｔ ｓ ａ ｅ ｎ ｔ ｉ ａ ｅ ，ｔｅ ｄ ｎ ｍｉ ａ＇ ａ ｅ ｉｎ ｎ ｔ ｏ ｋ ｃａ ｓｆ ｒｗ ｔ ｃ ｎ ｉ ｏ ｓ ｉ ｏ ｖ ｉ ｈ ｎ ａｔ ｂ ｔ ｓａ ｄ ｔ ｅ ａ ｃ ｒ ｃ ｖ ｌ ａｉｎ ｃ ｉ ｒｏ ｒｄ ｎ ｍｉ ｌ ｓｉ ｃ ｔ ｎ ａｅ ｐ ｅ ｅ ｔｄ ｆ ｓ． Ａ ｓ ｌｃｉｎ ｍｅｈ ｄ ｏ ａｕ ｅ ｓ ｂ ｅ ｆｄ ｎ ｍｉ ｔ ｉ ｕ ｅ ｎ ｈ ｃ ｕ ａ ｙ ｅ ａ ｕ ｔ ｒ ｅ ｎ ｆ ｙ ａ ｃ ｃａ ｓｆ ａ ｉ ｒ ｒｓ ｎｅ ｒ ｔ ｅｅ ｔ ｔ ｏ ｆ ｅ ｔｒ ｕ ｓ ｔ ｙ ａ ｃ ｒ ｏ ｔｉ ｏ ｉ ｏ ｉ ｏ ｆ ｏ
需求 。
［ 和 Ｃ １ ，Ｅ ］… ， Ｔ 是具体 的取值 ； ［ ］Ｄ ２ ， ］ ［ ］ｃ２ ， ｃ ］ ［ Ｄ １ ，［ ］ …， Ｄ ７ 是到 达不 同时 间片 的数据 集 ， ［ ］ｃ Ｄ ２ ［１ ］ Ｄ １ ［］ｃ， ， … ｃ
收稿 日期 ：００—１ ２ 。国家 自然科 学基金（ ０ ７ ０６ 教 育部 ２１ １— ２ ６ ６ ５ ３ ）； 人文社科基金 （９ Ｊ ６０ ９ ）；上海市 教委 重点学 科建 设项 目（５７ ０ Ｙ Ａ ３０ ９ Ｊ１０
—
２ 分 类准确 性估计
了时间特征 功能 ， 可用于多变量 网络时间序列 的因果分析 、 概率
０ 引 言
分类能力是人类经过 学习得到 的重要 而基本 的能力 ， 类 分
推理和预测 等 ， 已在语音识别 、 图像处理 、 信号 过滤 与检测 、 工业 控制 、 因分析 、 基 气象分析 与预测等许多领域得到广泛应用 。用 于预测的动态贝叶斯 网络一般称 为动态 贝叶斯 网络分类器 ， 动
Ｉ］ ｖ，
（） ３
１ １ Ｄ Ｎ 分 类器 结构 ． ＮＢ
Ｄ Ｂ Ｎ Ｎ分类器结构 是建立分类器的基础 ， 在结 构 中， 类变量
其 中 Ｎ（ ［ 一１ ） Ｃ ｔ ］ 是时序数据集 中 ｃ ］＝Ｃ ｔ （ ≤ ≤￡ ） ［ ［］ １ 一１ 的 情 况数量 ，
时间序列构成马尔科夫链 ， 给定类变量时 ， 所属的属性变量之 间 条件独 立 ， 与其 它时 间片 内的变 量也 条件独 立 ， １给 出的是 图 ＤＢ Ｎ Ｎ分类器结构 。
合 ， 有效利用类变量 的动态时 间序列 信息和属 性变 量的静 能够 态依赖信息 ， 网络 时 间序列 预测 的有 力工具 。Ｄ Ｂ 是 Ｎ Ｎ分 类器 由结构和参数两部分构 成 ， 根据结构和例子集 可估计 出参 数。
币 ｓｎｅ ］ｇ ｉ （ｌ ）（ ｇ
［ ｓ １） ｆ ［］
ｆ ｒｉ ｒ ｖｎ ｈ ｌ ｓｉ ｃ ｔ ｎ ａ ｃ ｒ ｃ ｆｃａ ｓｆ ｒ ．Ｅｘｓｉ ｇ ｍｅｈ ｄ ｆｆａｕ ｅ ｓ ｂ ｅ ｅｅ ｔ ｎ ａ ｅ ｍａｎ ｙ ｆｒ ｓ ｔ ｌｓ ｉ ｅ ｓ ｈ ｌ ｈ ｏ ｍｐ ｏ ｉｇ ｔ ｅ ｃ ａ ｓｆ ａ ｉ ｃ ｕ ａ ｙ ｏ ｌ ｓ ｉ ｅ ｓ ｉ ｏ ｉ ｉ ｎ ｔｏ ｓｏ ｔ ｒ ｕ ｓ ｔ ｌｃｉ ｒ ｉｌ ｔ ｉ ｃａ ｓ ｉｒ ，ｗ ｉ ｔｅ ｔ ｅ ｓ ｏ ｏ ａｃ ｆ ｅ
过建立分类器和使用分类器进行分类推理预测来实现。构建 分 类器是一个归纳学习 的过程 ， 需要 依据训 练数据归 纳 出属性 变 量和类变量之间 的函数关 系或规则 ， 而分 类是对 给 出的属性 变 量值 ， 根据函数关系或则 通过推理 确定类变 量值 的过程 。现 已发展 了众多 的分类器 。ｊ它们各有特点 ， ， 在许多 领域 得到了 广泛的应用 。但这些分类器一般使用独立同分布的例子进行训
动 态贝叶斯 网络 是 贝叶斯 网络 的扩展 ， 将时 间片间 的
动 态依赖 与时间片内的静 态依赖 有机结 合在一起 ， 承了贝 在继 叶斯 网络多功能性 、 有效性和开放性等方面优势的同时 ， 又增加
２； ） 上海市教委科研创新 重点项 目（ ９ｚ０ ） ０ ｚ ２ 。余 民杰 ， 士生 ， ２ 硕 主研 领 域： 贝叶斯网络分类 器。
第２ ９卷 第 ２期
２１ ０ ２年 ２ 月
计 算机 应 用与软 件
Ｃｏ ｕ ｅ ｐ ｉａ ｉｎ ｎ ｏｔ ｒ ｍｐ ｔｒＡｐ ｌ ｔ ｓ ａ ｄ Ｓ ｆ ｃ ｏ ｗａ ｅ
Ｖｏ． ９ Ｎｏ ２ １２ ．
Ｆｅ ．２ ２ ｂ ０１
动 态 朴 素 贝 叶 斯 网络分 类器 的特 征 子 集 选 择
ｎ Ｙｅ Ｂａ ｅ ｉｎ ｎ ｔ ｒ ｌｓ ｉ ｅ Ｓ ｄ ｖ ｌｐ ｄ ｂ ｓ ｄ Ｏ ｈ ｓ ｗ ｉ ｈ ｃ ｕ ｌ ｍａ ｒ ｅ ｏ ｏ ｃ ｔ ｅｉ ｓ ｄ ｔ ｒ ｓ ｄ ｔ ａｒ ｕ ｈ ａｖ ｙ ｓａ ｅｗｏｋ ｃａ ｓ ｒ ｉ ｅ ｅｏ ｅ ａ ｅ ｎ ｔ ｉ ． ｈ ｌ ｔ ｅ ａ ｔ ａ ｃｏ ｃ ｎ ｍｉ ｉ ｉ ｆ ｅ ｍｅ ｓ ｒｅ ａａ ａ ｅ ｕ ｅ ｏ ｃ ｒ ｏ ｔ ｔ ｅ ｙ
ｅ ｐ ｒ ｎ ｓ ａ ｄ ａ ａｙ ｅ ． ｘ ｅｉ ｍｅ ｔ ｎ ｎ ｌ ｓ ｓ Ｋｅ ｗｏ ｄ ｙ ｒｓ Ｄｙ ａ ｃ ｎ ＇ ｅ ｂ ｙ ｓａ ｅｗ ｒ Ｃｌｓ ｉ ｅ Ｆ ａｕ ｅ ｓ ｂ ｅ ｓ ｌ ｃｉｎ Ｇ ｕ ｓａ ｅ ｎ ｌｆ ｎ ｔ ｎ ｎ ｍｉ ａｖ ａ ｅ ｉｎ ｎ ｔ ｏ ｋ ｉ ａ ｓ ｉｒ ｆ ｅ ｔ ｒ ｕ ｓ ｔ ｅ ｅ ｔ ａ ｓｉ ｎ ｋ ｒ ｅ ｕ ｃｉ ｏ ｏ
择方 法主要针对静 态分类器 ， 缺少 动态分 类器特征子集选择方面 的研究。首先给 出具 有连续属 性的动态朴 素贝叶斯 网络分 类器和 动态分类准确性评价标准 ， 此基 础上建 立动态朴 素贝 叶斯 网络分类器 的特征子集选择方法， 在 并使用真实宏观经济时序数据进行实
验 与分 析 。
关键词
１ Ｄ Ｎ分类器 ＮＢ
ＤＢ Ｎ Ｎ分类 器是朴 素 贝 叶斯 网络 分 类器 与 时 间序 列 的 结
．
采用高斯核函数估计条件密度 ， 即用 （ ［］ ［］Ｄ［］ ｔ Ｉ ｔ， ｔ， Ｃ
（ ［］Ｉ ［］Ｄ［］Ｓ ｔ ） ｔ ｔ ， ｔ ， ［］ Ｃ
Ｓ ｔ ）估计 ｐ ｘＩ］Ｉｃ ｔ ，ｉ］ ［］ （ ｔ ［］ ｓ ｔ ）。