基于灰色特征加权支持向量机的二维函数拟合

给定训练集 Ｔ一 ｛ｚ ，１ ，ｘ ，２ ， ，ｘ ， ｝ × （ ｙ ） （２ｙ ）… （ｚｙ） ∈（
．
（ ）规 范 性 ： １ ０＜ ｒｘ ， 三 １， （ ０ｚ ）一 １ （ ０ｚ ）三 三 ｒｘ ， ㈢ ０一
Ｔ ｉ。
Ｒ） ，其 中 ： ∈ ｅ ｌ
， Ｍ∈Ｒ ， 一 １… ， ，支持 向量 回归机 ｉ ， ｚ
特 征 选 择 ，然 后 进 行 支 持 向量 回归 机 预 测 ，达 到 了很 好 的
本 的学 习 ，其 最佳的泛 化推 广能 力是通 过 寻求模 型复 杂性
与学 习能力之 间 的最 佳折 衷得 到 的。被 广泛 应用 于模式 识
别 、 函数 拟 合 、 回 归 等 诸 多 领 域 ｃ 。传 统 的 支 持 向 量 回 归 Ｉ ］
Ｒ ＡＯ ａ ｇ Ｌ Ｕ ｏ ｇｓ ｎ Ｇ ｎ ， Ｉ Ｑｉ —ｕ ，ＧＡＯ Ｊ ｎｊ ｎ ｎ －ａ ｕ ｉ
（ ｌ ｇ ｆＭ ａ ｈ ｍａ ｉｓ ａ ｄ Ｓ ａ ｉｔｃ ，Ｃｈ ｎ ｑ ｎ ｉｅ ｓｔ ，Ｃ ｏ ｇ ｉ ｇ ４ １ ３ ，Ｃｈ ｎ ） Ｃｏ ｌ ｅ ｏ ｔ ｅ ｔ ｎ ｔ ｔ ｉｓ ｅ ｃ ｓ ｏ ｇ ｉ ｇ Ｕｎ ｖ ｒ ｉｙ ｈ ｎ ｑｎ ０ ３ １ ｉａ Ａｂ ｔａ ｔ Ｆｉ ｉ ｇ ｆ ｎ ｔｏ ｏ ｍａ ｌ ｒ ｄｃ ｅ ａ ｉ ｎ ｈ ｐ ｂ ｔ ｅ ａ ｉｂ ｅ ｙ ｌ ｔ ｄ ｔａｎ ｎ ａ ｌｓ ｏ ｈ ｒ ｉ ｅ ｕ ｃ ｉ ｎ ｓ ｒ ｃ ： ｔ ｎ ｕ ｃ ｉｎ ｎ ｒ ｌ ｐ ｅ ｉｔａ ｒ ｌ ｔ ｓ ｉ ｅ ｗｅ ｎ ｖ ｒａ ｌｓ ｂ ｉ ｅ ｒ ｉ ｉ ｇ ｓ ｍｐ ｅ ｆｔ ｅ ｔ ａｎ ｄ ｆ ｎ ｔ ． ｔ ｙ ｏ ｍｉ ｏ
０ 引 言
支持向量机是 Ｖａ ｎｋ在统计学习理论 的基础上 提 出并 ｐｉ 发展起来 的 ，它是监 督式 的学 习方 法之一 ，它 的理论基 础 是统计学 习 ＶＣ维 理论与 结构 风 险最小 化 ，通 过有 限 的样
基 提 出 了 基 于 特 征 加权 的 支 持 向 量 回归 机 （ － Ｖ ＷＦ Ｓ Ｒ）ｌ ２ ］，
ｏ一 （ ０ １ ， ２ ２ ， ， ｏ ） Ｉ （ ）３ （） … ｚ （ ） ｚ ２
饶 刚 ，刘 琼 荪 ，ቤተ መጻሕፍቲ ባይዱ君 健
（ 庆 大 学 数 学与统 计 学 院，重庆 ４ １ ３ ） 重 ０ ３ １
摘 要 ：函数拟合通 常是在 有限的训练样本下对 函数 变量之 间的关 系做 出预测 ，由于在 实践 ｑ训 练样本本 身存在 噪音和孤 －
立 点 ，用传 统 的 方 法 进 行 函数 拟 合 的效 果 不 佳 。 考虑 到 不 同特 征 对 于 回 归 问题 相 关 程 度 的 不 同 ，研 究 了 以 灰 色 关联 度 作 为
ｍｅ ｔ ｙ ｕ ｉ ｇ ｔ ａ ｉ ｏ ａ ｍ ｅ ｈ ｄ ．Ｃ ｎ ｉ ｅ ｉ ｇ ｔ ｅｄ ｆｅ ｅ ｃ ｆ ｅ ｔ ｒ ’ Ｓｃ ｒ ｅ ａ ｉｅ ｄ ｇ ｅ ｏ ｔ ｅ ｒ ｇ ｅ ｓｏ ｒ ｂ ｅ ｂ ｃ ｍｅ ｎ ｓ ｂ ｓｎ ｒ ｄ ｔ ｎ ｌ ｔ ｏ ｓ ｏ ｓｄ ｒ ｈ ｉ ｒ ｎ ｅ ｏ ａ ｕ ｅ ｏ ｒ ｌ ｔ ｅ ｒ ｅｔ ｈ ｅ ｒ ｓ ｉ ｎ ｐ ｏ ｌｍ ｅ ｏ ｓ ｉ ｎ ｆ ｆ ｖ
权 重的特征加权 支持 向量回归机 算法 ，并推 广运用 于二维 函数 的回归拟合 。仿真结 果表 明 ，灰 色特征加 权方 法较 传统 支持
向 量 回 归机 ，具 有 更 好 的 回 归拟 合 能 力 。 关 键 词 ：支 持 向 量 回 归机 ；灰 色 关联 度 ；特 征 ；加 权 ；拟 合 中 图 法 分 类 号 ：Ｔ ３ １ ４ 文 献 标 识 号 ： 文 章 编 号 ：１０ —０ ４ （ ０ ２ ０３ ７—４ Ｐ ９ ． Ａ ０ ０７ ２ ２ １ ）１ —９ ５０
３ ７ ・ ９６
计 算机 工程 与设计
２ １ 年 Ｏ２
结果表 明灰色特征加权 的方法 比传 统支持 向量 回归机 有更 小 的误差 ，有着更好 的回归拟合能力 。
ｒ － Ｘ ）一 （ 。， ｉ ｚ
满 足
７ ／ ＂
ｒ Ｘ ０ 志 ， ） （ （ ）ｚ （ ）
ｋ
＝ ｌ
１ 标准 ￡ 一支持 向量 回归机 （一Ｊ ） ８ ｓ Ⅵ
Ｉ ｒ ｃ ｉｅｄ ｅ ｔ ｈ ｒ ｎ ｏ ｓ ｎ ｓ ｌｔ ｎ ｏ ｒ ｉ ｉ ｇ ｓ ｍｐ ｅ ，ｔ ｅ ｒ ｓ ｌｓ ｏ ｉｔ ｇ ｆ ｎ ｔ ｎ ｏ ｔ ｎ ｄ ｏ ｅ ｈ ｅ ｕ ｒ — ｎ ｐ ａ ｔ ｕ ｏ ｉ ｅ ｅ ｔ ｉｅ ａ ｄ ｉｏ ａ ｉ ｆｔ ａｎ ｎ ａ ｌｓ ｈ ｅ ｕ ｔ ｆｆ ｉ ｕ ｃｉ ｆｅ ｏ ｎ ｔｍｅ ｔｔ ｅ ｒ ｑ ｉｅ ｃ ｎ ｎ ｏ ｔｎ ｏ
损失 函数［
（ ） 偶 对 称 性 ：Ｘ ，ｊ∈ Ｘ ，有 ｒｘ ， ）一 ｒｘ ， ３ ｉｘ （ （ｊ
－ ） Ｘ 一 ｛ ｚ ｝。 ｚ ㈢ ｚ ，，
（ ）接 近性 ：ｌ 。是 －， （）ｌ ４ （ ） ７ 是 越小 ， （ｏ是 ， （） 越 ｚ ８ ｒｘ （ ） ）
机算法 中，通 常认为所 有 的特 征都具 有相 同 的重要性 ，然 而实际情况 中，有些 样本 的特 征可 能是 与 回归 问题 根本 不
预测效果口 。胡胜 海 ，何蕾 ，徐 鹏等 以灰 色关联 度作 为特 ］ 征的权重 ，将基于特 征加权 的支持 向量 回归 机模型 应用 于 火炮 的质量评 估 ，取得 了 良好 的应 用效 果 。鉴于 大部 分 ］
ｌｒ ｅ ｈ ｕ ｐ ｒ ｅ ｔ ｒ ｒ ｇ ｅ ｓ ｎ ｍａ ｈ ｎ ｌ ｏ ｉ ｍ ｓ ｒ ｓ ａ ｃ ｅ ， ｗｈｃ ｓ ｓ ｔ ｅ ｇ ｅ ｏ ｒ ｌｔ ｎ ｇ ａ ｅ ａ ｈ ｅ ｔ ｒ ａ ｇ ，ｔ ｅ ｓ ｐ ｏ ｔ ｖ ｃｏ ｅ ｒ ｓ ｉ ｃ ｉ ｅ ａｇ ｒｔ ｏ ｈ ｉ ｅ ｅ ｒｈ ｄ ｉｈ ｕ ｅ ｈ ｒ ｙ ｃ ｒ ｅａ ｉ ｒ ｄ ｓ ｔ ｅ ｆａ ｕ ｅ ｏ
文献很少对二维 函数进行拟合 ，本文将在 文献 １ ］ 的基 础 － ４
上 ，将灰色关联度 确定 特征 的 良好优 势 ，推广 应用 于二维 函数 的拟合 ，并在 文后 进行 了二维 函数 的拟合 仿真 ，实 验
收稿 日期 ：２ １－００ ；修 订 日期 ：２ １ —４１ ０ １１—８ ０ ２０— １ 基 金 项 目 ：重 庆 大 学 “ １ 程 ” 三 期创 新 人 才 培 养计 划 建 设 基 金 项 目 （ ９ １ ） ２ １工 ． １０ ％０
它对 每一个特 征给予一个 权重 系数来 表示该 特征 与 问题 的 关联 程度 。并 在实验 中对一维 函数拟 合 的噪声进 行主观 加 权得 到了很好 的拟合 回归效果 ，但遗憾 的是 他们并 没有 给 出确定不 同特征权 重 的具体方 法 。杨 明，张凤 鸣 ，胡永 峰 用灰色关联分析 方法作 为特 征预处 理器 ，通 过对 特征灰 色 关联度 的判断 ，消 除和预 测特征关 联值 较小 的特征 来进 行
（ ）整体性 ：对于 ｚ ， ∈ Ｘ 一 ｛ ｌ 一 ０ １ ２ …ｍ； ２ － ｚ Ｓ ，，，
ｍ ２ ），有 ｒｘ ， ） ｒ ， ） ｉ （ ≠ （ ， ≠ 。
的 目的就是用训练 集 Ｔ寻找 ～个 实值 函数 ，（ ），以便 用 ｚ ３： ， ｚ 来推断任一输入 Ｘ所对 应的输 出值 Ｙ［ ， （） 引。 支持 向量 回归机 中引入 了一个 ｅ 一不敏感损失 函数作 为
Ｔｗｏ ｄｍ ｅ ｓｏ ｕ ｃ ｉ ｎ ｉｔ ｇ ｂ ｓ ｄ ｏ ｒ ｙ ｆ ａ ｕ ｅ ｗｅｇ ｔ ｄ — ｉ ｎ ｉ ｎ ｆ ｎ ｔｏ ｓ ｆｔｉ ａ ｅ ｎ ｇ ｅ ｅ ｔ ｒ ｉ ｈ ｅ ｎ ｓ ｐ ｏ ｔｖ ｃ ｏ ａ ｈ ｎ ｕ ｐ ｒ ｅ ｔ ｒｍ ｃ ｉ ｅ
： ｊｚ ｚ— Ｉ ），变换 到另一个特征空 间 ，采用 ｅ （ 一不敏感损失 函数 ，在这个 特征空 间 中构造 回归估 计 函数 ，同时通过 最 小化 ｌ ｌ。 Ｉ Ｉ来减少模 型的复杂度 。为 了度量 ｅ 一不敏感带
则 称 ｒｘ ， （ 。ｚ）为 ＿ ｚ 与 ｚ 。的 灰 色 关 联 度 ，ｒｘ （） （ 。是 ， Ｘ（） 志 ）为 五 与 ｚ 在 ｋ点 的灰 色关 联系数 ，并称 条件 （ ） 。 １， （ ） ３ ，（）为灰色关联 四公理 。 ２ ，（） ４ 定 理 １ Ｘ： ｛ 。丑 ， ， ｝ ［设 。 ｚ ， … 为灰关联 因子集 ， 。 ｚ 为 参考序列 ， ｉ 比较序列 Ｘ为
ｗｅｇ ｔ ｉ ｈ ．Ａｎ ｘ ｅ ｄ ｉ ｈ ｐ ｌ ａ ｉｎ ｏ ｈ ｗｏ ｄ ｍｅ ｓ ｎ ｆ ｎ ｔ ｎｓｆ ｔ ｇ Ｔｈ ｘ ｅ ｉ ｎ ｅ ｕ ｔ ｌｐ ｏ ｅ ｈ ｔｔ ｉ ａｇ ｒｔ ｍ ｄ ｅ ｔ ｎ ｔ ｅａ ｐ ｉ ｔ ｆｔ ｅｔ － ｉ ｎ ｉ ｕ ｃ ｉ ｉ ｉ ． ｎ ｃ ｏ ｏ ｏ ｔｎ ｅｅ ｐ ｒｍｅ ｔｒ ｓ ｌａ ｒ ｖ ｓ ｔ ａ ｈ ｓ ｌ ｏ ｉ ｈ ｃ ｎ ｇ ｔｔ ｅ ｂ ｔｅ ｏ ｅ ｅ ｃ ｆｒ ｇ ｅ ｓｏ ｉ ｉ ｇ ｔ ａ ｈ ｒ ｄ ｔ ｎ ｌ ｕ ｐ ｒ ｅ ｔ ｒｍａ ｈ ｎ （ ＶＲ） ａ ｅ ｈ ｅ ｔ ｒｃ ｍｐ ｔ ｎ ｅ ｏ ｅ ｒ ｓ ｉｎ ｆ ｔｎ ｈ ｎ ｔ ｅ ｔ ａ ｉ ｏ ａ ｓ ｐ ｏ ｔｖ ｃ ｏ ｃ ｉ ｅ Ｓ ｔ ｉ ． Ｋｅ ｒ ｓ ｓ ｐ ｏ ｔｖ ｃ ｏ ｅ ｒ ｓ ｉ ｎ ｍ ａ ｈ ｎ ；ｇ ｅ ｏ ｒ ｌ ｔ ｎ ｇ ａ ｅ ｅ ｔ ｒ ；ｗｅｇ ｔ ｇ ｉ ｉ ｇ ｙ ｗｏ ｄ ： ｕ ｐ ｒ ｅ ｔ ｒｒ ｇ ｅ ｓｏ ｃ ｉ ｅ ｒ ｙ ｃ ｒ ｅ ａ ｉ ｒ ｄ ；ｆ ａ ｕ ｅ ｏ ｉ ｈ ｉ ；ｆ ｔ ｎ ｔｎ
作者简 介：饶 刚 （ ９ ５ ） 男 ，湖北襄阳人 ，硕士 ，研究方向为数据分析与统计 决策 ；刘 琼荪 （ ９ ６ ） １８ 一 ， １５ 一 ，女 ，重 庆人 ，教授 ，研究方 向为 智能计算 、数 据挖 掘和应用统计 。Ｅｍａ ： ｎ ｍ￣＠ １３ ｃｒ ｉ ｑａ ｌ ６ ．ｏｎ
・
２１ ０ ２年 １ Ｏ月
计算机 工程 与设计
ＣＯＭ Ｐ ＵＴＥ ＥＮＧＩ Ｒ ＮＥＥＲＩ ＮＧ ＡＮＤ ＤＥＳ ＧＮ Ｉ
Ｏｅ ． ０ ２ ｔ２ １ Ｖｏ． ３ Ｎｏ １ １３ ．０
第３ ３卷
第 １ 期 ｏ
基 于 灰 色特 征 加权 支 持 向量 机 的 二维 函数 拟 合
相关 的特征 ，这使得 冗余 的、与 回归无 关 的、相互 影 响的
以及 被噪声污染 的特 征和其 它 的特征 具有 相 同的地位 ，从 而影 响支持 向量 回归机 的效 果 。为 了改善 支持 向量 机 的回
归 性 能 ，许 多 研 究 人 员 提 出 了 改 进 的 方 法 。金 凌 霄 ，张 国
｛ 一 ， ）Ｉ ｍａ ｛ ，Ｉ 一厂 ｚ 一 ￡ （ 一 ｘ ０ （ ）ｌ ）
（） １
大。
它的含义是 ，当 点的观察值 Ｙ与 回归预测值 － ｚ 厂 ）之 （ 差不超过 ｅ 时，即认为在该点 的预测值 ＿ ｚ 是无损失 的。 厂 ） （ 支持 向量 回归机通 过将输 入样本 空 间采 用非 线性 映射