Relief算法最佳数学降维过程的程序实现
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
泛 的应 用 。 同时 。 ｅ ｅ 算法 在 解决 大量 数据 集 的特征 Ｒｌｆ ｉ 在 计 算得 到 每一 个样 本 点 的距 离 向量 后 ．可 以将 选 择 、 服冗 余 数据 量过 大 等方 面也 具 有一 定 的优势 。 其 应 用到 整个 数据集 中 ．利用 下 面的线 性规 划模 型进 克 但 在 大部 分 的程 序 设计 语 句 中 ． ｅ ｅＦ算 法要 求 读 者 行 计 算 ： Ｒｌｆ ｉ
从 而影 响 最终结 论 的得 出 １ Ｒ ｌ ｆ 法定义 及数 学解 释 、 ｅｉ 算 ｅ
结 合 Ｒ ｌ ｆ 法 的计 算原理 ． 以得 到该算法 的数 ｅｉ 算 ｅ 可 学公 式推 理［ 对 于数 据集 中的每一个 样本 点 ｘ 定义下 ４ １ 。 ； 面 的距离 向量 ：
＝
最 基 础 的 Ｒ ｌ ｆ 法 是 由科 学 家 Ｋ ｒ ｅｅ 算 ｉ ｉ ａ和 Ｒ ｎ ｅ ｅｄｌ 在 １９ ９ ２年 首先 提 出来 的【 该 算法 作 为基 于类 内 、 间 ２ 】 。 类
得 研究 人 员无法 有效 、 观 的获 取第 一 手 的研究 资料 。 点 ｘ异 类 别 样 本 中距 离 样 本 点 Ｘ最 近 的样 本 点 Ｎ 直 Ｍ 因此 ．需 要对数 量 巨大 的原 始 数据 集 进行 特征 信 息量 （ ） ｘ 。在 找 到所 有 的样本 点 的邻域集 合后 ， 每一 维 的 对
他 语 句编 写的 Ｒｅｅ 算 法进行 对 比 。 ｉ ｌｆ 为该 算法 的进 一 步 改进 提供 一 定 的参 考。 【 关键词 】 Ｒｅ ｅ； 阵列 ； 维 ： ｌｆ微 ｉ 降
０、 ｌ 弓 言
计算 样本 的特 征分类 权 重 的过 程 中 。需 要 找 出每 一个
伴 随着 计 算科 学 、 物科 学 的 不 断发 展 ． 学研 究 样 本 Ｘ的 ２个 邻域集 合 ：一个 为样 本点 Ｘ同类 别 样本 生 科 Ｈｘ。 所 涉及 的基 础数 据量 与 Ｅ俱 增 庞 大 的原始 数 据集 使 中距 离 样本 点 Ｘ最 近 的样 本 Ｎ ） 另 一 个 为 与样 本 ｔ
１１ ｅｉｆ 法 的定 义 ． Ｒ １ 算 ｅ
ｓ ２ｌ ＞ ． ｔ ＿ｗ ０ ． ，
Ｒ ｌ ｆ 法 是一 种重 要 的特 征选 择 算 法 ． 为机 器 ｅｉ 算 ｅ 作 我 们 可 以通过 定 义 向量 ｚ 对 上述 线 性 规划 模 型 来 学 习算 法 的重要 组成 部分 ．主要 用 于对 大 量数 据 构成 进行 简化 ： 的集 合 同 时进行 分解 、降低 数据 量 、分类 等方 面 的任 务 。 主要 计算 方法 是针 对训 练样 本 中 的每一个 样 本 。 其
２＝
ｌห้องสมุดไป่ตู้ 一Ｎ ） ）—１ｌ Ｈ ｘ ）， （ Ｍ（ ｌ ） —Ｎ （ １ １ ｃ ， ）
最 终 通 过拉 格 朗 日变换 ．得 到 原始 的数据 集 的权 在该 训 练样 本 中搜 索和 它最 相 似 的 １个 同类别 的 样本 和 １ 异类 别 的样本 。 于 样本 中的特 征属 性 。 其与 重 排序 向量 Ｗ为 ： 个 对 若
自行设 定 阀值 ， 而该 阀值 的 恰 当与 否 。 直接 关 系到 最终 结 论 的准 确性 。 因此 ， 算法 在 实际 的操 作 中存 在 一定 该
的人 为误 差 。
Ｎ
Ｎ
ｒ
，
（ ∑ ＝
一 。 ）－ ｕ－Ｈ （） （ Ｉ ∑ “ Ｎ ｍ Ｉ Ｉ ）
２１ ０ ２年第 １ 期
福
建 电
脑
１１ ４
Ｒ １ ｆ 法最佳数 学降维过程的程序 实现 ｅ ｅ算 ｉ
朱 坤 ，李 金 铭 ，张 敬 华
福 建 福 州 ３００ ５ ０ ２） （福 建农 林 大 学计算机 与信 息学 院
【 摘 要 】 从 Ｒｅｅ 算法 的基 本计 算原理 出发 ，着重研 究 了 Ｒｅｅ 算法在数 学层 面上 的解释 及运 算 公式 。 ： ｉ ｌｆ ｌｆ ｉ 用・ ＸＣ Ｌ中的 Ｖ Ａ宏设 计 语 句 自动 实现 Ｒｅ ｅ 算法 ． 出满足 定 义要 求 的所 有的特 征值 。并 结合 由 ４ Ｅ Ｅ Ｂ ｌｆ ｉ 得 ０ 个 样 本组 成 的 胃癌 的原 始 分 类数 据 。 算 出该数 据 经过 ＶＢ 程序 运 算后 得到 的 完整 的特 征 向量 ， 由其 计 Ａ 与
在 实 际问题 的研 究 中不 断 的被 改进 ．以适应 不 同 的研 征权 重进 行排 序 ”１ ［ ３ 究 领域 。 改 进算法 往往 忽 略 了算 法 本身 最基 础 、 重 １ Ｒ ｌ ｆ 法 的数学解 释 但 最 ． ｅｅ算 ２ ｉ 要 的数 学 释义 。 造成 得到 的 结果 出现 一 定 的信息 丢失 ．
（ 一
（ ） （ 一Ｎ ｌｘ） ）一 ｔ（．）
其中 ：Ｈ （） Ｎ ｘ 表示样本点 ｘ同类别中最近的样本 ｉ ｉ
距 离 进 行 属 性 重 要 性 评 判 的一 种 重 要 的 机 器 学 习方 点 ， Ｍ（ｉ 示 异类 别 中最 近 的样本 点 ，（ 为 距 离计 Ｎ ｘ） 表 ｄ） 法 。 高通 量数 据 的特征 选 择 、 类 等 方面 有着 十分 广 算 函数 。 在 分
的有效 提 取 。使经 过提 取得 到 的少 量 数据 能够 代 表原 特征 的权 重依 据如下 的计算 方 式进行更 新 ： 始 数据 的大部分 信息 内容 。 因而 。 在现代 的模式识 别 、 智 ＝ ＋ Ｎ ） ｌ一 Ｈ（ｌ ｌ一 Ｍ （Ｉ Ｎ ｘ ｘ－ 能计算 等 研究 领域 ．特 征选 择 算法 逐 渐 的发展 起 来『 １ 】 。 其 中 ：ｉ ｘ 表示 样本 点 Ｘ ｉ 的特征 值 ，ｉ 示第 ｉ 第 维 ｘ表 Ｒ ｌ ｆ 法 就是一 种 十分典 型 的特 征选 择算法 ． 算法 维 特 征 的分 类 权 重 ． 最 终利 用 计算 得 到 的 ｗ 来对 特 ｅｉ 算 ｅ 该 “ ｉ
从 而影 响 最终结 论 的得 出 １ Ｒ ｌ ｆ 法定义 及数 学解 释 、 ｅｉ 算 ｅ
结 合 Ｒ ｌ ｆ 法 的计 算原理 ． 以得 到该算法 的数 ｅｉ 算 ｅ 可 学公 式推 理［ 对 于数 据集 中的每一个 样本 点 ｘ 定义下 ４ １ 。 ； 面 的距离 向量 ：
＝
最 基 础 的 Ｒ ｌ ｆ 法 是 由科 学 家 Ｋ ｒ ｅｅ 算 ｉ ｉ ａ和 Ｒ ｎ ｅ ｅｄｌ 在 １９ ９ ２年 首先 提 出来 的【 该 算法 作 为基 于类 内 、 间 ２ 】 。 类
得 研究 人 员无法 有效 、 观 的获 取第 一 手 的研究 资料 。 点 ｘ异 类 别 样 本 中距 离 样 本 点 Ｘ最 近 的样 本 点 Ｎ 直 Ｍ 因此 ．需 要对数 量 巨大 的原 始 数据 集 进行 特征 信 息量 （ ） ｘ 。在 找 到所 有 的样本 点 的邻域集 合后 ， 每一 维 的 对
他 语 句编 写的 Ｒｅｅ 算 法进行 对 比 。 ｉ ｌｆ 为该 算法 的进 一 步 改进 提供 一 定 的参 考。 【 关键词 】 Ｒｅ ｅ； 阵列 ； 维 ： ｌｆ微 ｉ 降
０、 ｌ 弓 言
计算 样本 的特 征分类 权 重 的过 程 中 。需 要 找 出每 一个
伴 随着 计 算科 学 、 物科 学 的 不 断发 展 ． 学研 究 样 本 Ｘ的 ２个 邻域集 合 ：一个 为样 本点 Ｘ同类 别 样本 生 科 Ｈｘ。 所 涉及 的基 础数 据量 与 Ｅ俱 增 庞 大 的原始 数 据集 使 中距 离 样本 点 Ｘ最 近 的样 本 Ｎ ） 另 一 个 为 与样 本 ｔ
１１ ｅｉｆ 法 的定 义 ． Ｒ １ 算 ｅ
ｓ ２ｌ ＞ ． ｔ ＿ｗ ０ ． ，
Ｒ ｌ ｆ 法 是一 种重 要 的特 征选 择 算 法 ． 为机 器 ｅｉ 算 ｅ 作 我 们 可 以通过 定 义 向量 ｚ 对 上述 线 性 规划 模 型 来 学 习算 法 的重要 组成 部分 ．主要 用 于对 大 量数 据 构成 进行 简化 ： 的集 合 同 时进行 分解 、降低 数据 量 、分类 等方 面 的任 务 。 主要 计算 方法 是针 对训 练样 本 中 的每一个 样 本 。 其
２＝
ｌห้องสมุดไป่ตู้ 一Ｎ ） ）—１ｌ Ｈ ｘ ）， （ Ｍ（ ｌ ） —Ｎ （ １ １ ｃ ， ）
最 终 通 过拉 格 朗 日变换 ．得 到 原始 的数据 集 的权 在该 训 练样 本 中搜 索和 它最 相 似 的 １个 同类别 的 样本 和 １ 异类 别 的样本 。 于 样本 中的特 征属 性 。 其与 重 排序 向量 Ｗ为 ： 个 对 若
自行设 定 阀值 ， 而该 阀值 的 恰 当与 否 。 直接 关 系到 最终 结 论 的准 确性 。 因此 ， 算法 在 实际 的操 作 中存 在 一定 该
的人 为误 差 。
Ｎ
Ｎ
ｒ
，
（ ∑ ＝
一 。 ）－ ｕ－Ｈ （） （ Ｉ ∑ “ Ｎ ｍ Ｉ Ｉ ）
２１ ０ ２年第 １ 期
福
建 电
脑
１１ ４
Ｒ １ ｆ 法最佳数 学降维过程的程序 实现 ｅ ｅ算 ｉ
朱 坤 ，李 金 铭 ，张 敬 华
福 建 福 州 ３００ ５ ０ ２） （福 建农 林 大 学计算机 与信 息学 院
【 摘 要 】 从 Ｒｅｅ 算法 的基 本计 算原理 出发 ，着重研 究 了 Ｒｅｅ 算法在数 学层 面上 的解释 及运 算 公式 。 ： ｉ ｌｆ ｌｆ ｉ 用・ ＸＣ Ｌ中的 Ｖ Ａ宏设 计 语 句 自动 实现 Ｒｅ ｅ 算法 ． 出满足 定 义要 求 的所 有的特 征值 。并 结合 由 ４ Ｅ Ｅ Ｂ ｌｆ ｉ 得 ０ 个 样 本组 成 的 胃癌 的原 始 分 类数 据 。 算 出该数 据 经过 ＶＢ 程序 运 算后 得到 的 完整 的特 征 向量 ， 由其 计 Ａ 与
在 实 际问题 的研 究 中不 断 的被 改进 ．以适应 不 同 的研 征权 重进 行排 序 ”１ ［ ３ 究 领域 。 改 进算法 往往 忽 略 了算 法 本身 最基 础 、 重 １ Ｒ ｌ ｆ 法 的数学解 释 但 最 ． ｅｅ算 ２ ｉ 要 的数 学 释义 。 造成 得到 的 结果 出现 一 定 的信息 丢失 ．
（ 一
（ ） （ 一Ｎ ｌｘ） ）一 ｔ（．）
其中 ：Ｈ （） Ｎ ｘ 表示样本点 ｘ同类别中最近的样本 ｉ ｉ
距 离 进 行 属 性 重 要 性 评 判 的一 种 重 要 的 机 器 学 习方 点 ， Ｍ（ｉ 示 异类 别 中最 近 的样本 点 ，（ 为 距 离计 Ｎ ｘ） 表 ｄ） 法 。 高通 量数 据 的特征 选 择 、 类 等 方面 有着 十分 广 算 函数 。 在 分
的有效 提 取 。使经 过提 取得 到 的少 量 数据 能够 代 表原 特征 的权 重依 据如下 的计算 方 式进行更 新 ： 始 数据 的大部分 信息 内容 。 因而 。 在现代 的模式识 别 、 智 ＝ ＋ Ｎ ） ｌ一 Ｈ（ｌ ｌ一 Ｍ （Ｉ Ｎ ｘ ｘ－ 能计算 等 研究 领域 ．特 征选 择 算法 逐 渐 的发展 起 来『 １ 】 。 其 中 ：ｉ ｘ 表示 样本 点 Ｘ ｉ 的特征 值 ，ｉ 示第 ｉ 第 维 ｘ表 Ｒ ｌ ｆ 法 就是一 种 十分典 型 的特 征选 择算法 ． 算法 维 特 征 的分 类 权 重 ． 最 终利 用 计算 得 到 的 ｗ 来对 特 ｅｉ 算 ｅ 该 “ ｉ