基于MPI的主从式并行任务分配的研究与实现
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
曾 艳
（ 中师 范 大 学 计 算 机 科 学 与 技 术 系 华 湖 北 武汉 ４０ ７ ） ３０ ９
摘
要
并行计 算中的任务分配和负载平衡是衡量 程序 性能的两个重 要因素。针对 任务分 配问题 ， 先用求连 通分量 的算法将任
务分 配成若干个任 务组， 再利用 队列的性质 ， 将每 组任 务动态地 分配给空 闲的从进程 ， 从而一定程度上减少 了问题解决 的时间， 同时
第２ ７卷 第 ６期
２１ ０ ０年 ６月
计 算机 应 用与软 件
Ｃｏ ｕ ｅ ｐ ｉａ ｉｎ ｎｄ Ｓ ｆｗａ ｅ ｍｐ ｔ ｒＡｐ ｌｃ ｔｏ ｓ ａ ｏｔ ｒ
Ｖｏ ． ７ Ｎｏ ６ １２ ．
Ｊｎ ００ ｕ ．２ １
基 于 ＭＰ 的 主 从 式 并 行 任 务 分 配 的研 究 与 实 现 Ｉ
达 到 了负 载平 衡 的 目的 。 关 键 词 并行计 算 ＭＰ 连 通 分 量 队列 负 载 平 衡 Ｉ
ｏＮ ＰＩ ＢＡＳＥＤ ＡＳＴＥＲ． Ｍ ． Ｍ ＳＬＡＶＥ ＰＡＲＡＬＬＥＬ ＴＡＳ ＡＬＬＯ ＣＡＴＩ Ｋ ＯＮ ＡＮＤ ＴＳ Ｉ ＰＬＥＭ ＥＮＴＡＴＩ Ｉ Ｍ ｏＮ
Ｚｅ ｇ Ｙａ ｎ ｎ （ ｅａｔｅｔｆＣ ｍ ｕｅ Ｓｉ ｃ ａｄ Ｔｃｎｌｇ ，ｅｔ ｌ ｈｎ ｏ ａ ｎｖｒｔ， ｕ ａ ３ ０ ９ Ｈ ｂｉＣ ｉ ） Ｄｐ ｒ ｎ ｏ ｐ ｔ ｃ ｎｅ ｎ ｅｈ ｏ ｙ Ｃｎｒ ｉａＮ ｍ ｌＵ ｉ ｓＣ ｅｉ ａ
视 。它 在 科 学 研 究 、 程 技 术 以及 军 事 等方 面 的 应 用 ， 经 取 得 工 已
１ 主从 式并行任务 中的 ＭＰ Ｉ
ＭＰ 是 消息 传递并行程序 设计 的标 准之 一 ， 目前 主要 的 Ｉ 是 并行环境 。它适用 于基 于分布内存的并行计算机系统 的消息传 递模型 ， 具有移植性好 、 功能强大 、 率高等多种特点 ， 效 而且有 多 种不 同的免 费 、 高效 、 用的实现 版本 ， 实 几乎所有 的并行计算 机
函数实现通信 。这 些函数包括初 等函数 （ 用来 构造环境 和相关 事宜 ） 基本点对点 消息传递 函数 和集 合 （ 内） 、 组 消息传递 函数
３ 。 类 ＭＰ 程 序 中第 一 个 必 须 被 调 用 的 函 数 是 ＭＰ—ｎｔ ） 且 只 Ｉ ＩＩｉ（ ，
机快的计算速 度 ； 二是解 决传 统计算 机无 法解决 的 问题 。集群
Ｋ ｙ ｒｓ ｅｗｏｄ
Ｐ ａｌ ｏ ｐ ｔ ｉ ＭＰ Ｃ ｎ ｅｔ ｎｃｍｐｎ ｎ Ｑ ｅｅ Ｌ ａ ａ ｎｅ ｒ ｅｃ ａ ｌ ｌ ｍ ｕａ ｏ ｔｎ Ｉ ｏｎｃｉ ｏ ｏｅ ｔ ｕ ｕ ｏｄｂ ａｃ ｏ ｌ
０ 引 言
当前 高性 能并 行 计算 技术 在 国 内外越 来越 受 到高 度 的重
ｆ ｒｔ ｅｐ ｏ ｌ ｍ ｆｔｓ ｓａ ｌｃ ｔ ｎ， ｅ ｔｓ ｓ ａｅ ｄｖ ｄ ｄ ｉｔ ｅ ｆｔｓ ｏ ｐ ｓｎ ｈ ｌｏ ｉ ｍ ｆｃ ｎ ｅ ｔ ｎ ｃ ｍｐ ｎ ｎ ， ｎ ｈ ｎ ｔｅ ｏ ｒ ｂ ｅ ｏ ｋ ｌ ａｉ ｔ ａ ｋ ｒ ｉｉ ｅ ｎ ｏ ａ ｆｗ ｏ ｋ ｇ ｕ ｓ ｕ ｉｇ ｔ ｅ ａｇ ｒ ｈ ｏ ｏ ｎ ｃ ｉ ｏ ｏ ｅ ｔ ａ ｄ ｔ ｅ ｈ ｈ ａ ｏ ｏ ｈ ａ ｒ ｔ ｏ ｔｓ ｓ ｏ ａ ｈ ｇ ｏ ｐ ａ ｅ ｄ ｎ ｍｉａｌ ｓ ｉｎ ｄ ｔ ｄ ｅ ｓａ ｅｐ ｏ ｅ ｓ ｓ ｂ ｓｎ ｈ ｈ ｒ ｃｅ ｉｔ ｆ ｈ ｕ ｕ Ｓ ｈ ｔ ｏ ｓ ｍｅ ｄ ｇ ｅ ｔｒ ｄ ｃ ｓ ａ ｋ ｆ ｃ ｒ ｕ ｒ ｙ ａ ｃ ｌ ａ ｓｇ ｅ ｏ ｉ ｌ ｌ ｖ ｒ ｃ ｓｅ ｙ ｕ ｉ ｇｔ ｅ ｃ ａａ ｔｒｓｉ ｏ ｅ ｑ ｅ ｅ，Ｏ ｔ ａ ｏ ｅ ｒ ｅ ｉ ｅ ｕ ｅ ｅ ｙ ｃ ｔ ｔ ｔ ｅ ｔ ｆｐ ｏ ｌ ｍ ｏｖ ｎ ｎ ｃ ｉ ｖ ｓｔ ｅ ｇ ａ ｆｌａ ａ ａ ｃ ｔ ｈ ａ ｉ ． ｈ ｉ ｏ ｒ ｂ ｅ ｓ ｌｉ ｇ ａ ｄ ａ ｈ ｅ ｅ ｈ ｏ ｌ ｄ ｂ ｌ ｎ ｅ ａ ｅ ｓ ｍｅ ｔ ｍｅ ｏ ｏ ｔ ｍｅ
Ａｂ ｔ ａ ｔ ｓｒ ｃ
Ｔ ｓ ｌ ｃ ｔ ｎ ａ ｄ ｌａ ａａ ｃ ｒ ｗ ｏｔ ｎ ｃ ｏｓ ｉ ａａ ｌｌ ｏ ｕ ａｉ ｎ ｔ ｃ ｒ ｇａ Ｓｐ ｒ ｒ ｎ ｅ Ｉ ｉ ｐ ｐ ｒ ａ ｋ ａｌ ａ ｉ ｎ ｏ ｄ ｂ ｌ ｎ ｅ ａ ｅｔ ｏ ｉ ｏ ｏ ｍｐ ｒ ｔ ａ ｔｒ ｎ ｐ ｒ ｌ ｍｐ ｔ ｔ ｏ ｓ Ｍｅｐ ｏ ｒ ｍ’ ｅｆ ｍａ ｃ ． ｎ ｔ ｓ ａ ｅ ， ａ ｆ ｅｃ ｏ ｏ ｈ
技术是近几年来新兴起 的一 项高性 能计 算技术 ， 是将一 组相 它 互独立 的计算 机通 过高速的通信 网络而组成 的一个 单一的计算 机系统 ， 并以单一系统的模 式进行 管理 … 。集 群系统 逐渐成 为 高性能并行计算 的主要 硬件平台 。由于计算机集群 系统 具有开 放 的结构 ， 支持它的并行编程 环境 需要 开放 的和支持 异构 的系 统。 目前最流行 的基 于集群的并行 编程环境 有两种 ：Ｖ Ｐ ｒ Ｐ Ｍ（ ａ—
巨大 的成就 。并行 计算 是指 同时对 多个 任务或 多条指令 、 或对 多个数据项进 行处理。完成此项处理 的计算 机系统称为并行计 算机 系统 ， 它是将多个处理 器通 过 网络 连接 以一定 的方式 有序 地组织起来 。并行 计算 的主要 目的 ： 是为 了提供 比传统计 算 一
厂商都提供对 它的支持 ， 为了事实上的并行编程标准 。 成 ＭＰ 由一组 库函数组成 ， 行程序 的各 任务 之间通 过这些 Ｉ 并
（ 中师 范 大 学 计 算 机 科 学 与 技 术 系 华 湖 北 武汉 ４０ ７ ） ３０ ９
摘
要
并行计 算中的任务分配和负载平衡是衡量 程序 性能的两个重 要因素。针对 任务分 配问题 ， 先用求连 通分量 的算法将任
务分 配成若干个任 务组， 再利用 队列的性质 ， 将每 组任 务动态地 分配给空 闲的从进程 ， 从而一定程度上减少 了问题解决 的时间， 同时
第２ ７卷 第 ６期
２１ ０ ０年 ６月
计 算机 应 用与软 件
Ｃｏ ｕ ｅ ｐ ｉａ ｉｎ ｎｄ Ｓ ｆｗａ ｅ ｍｐ ｔ ｒＡｐ ｌｃ ｔｏ ｓ ａ ｏｔ ｒ
Ｖｏ ． ７ Ｎｏ ６ １２ ．
Ｊｎ ００ ｕ ．２ １
基 于 ＭＰ 的 主 从 式 并 行 任 务 分 配 的研 究 与 实 现 Ｉ
达 到 了负 载平 衡 的 目的 。 关 键 词 并行计 算 ＭＰ 连 通 分 量 队列 负 载 平 衡 Ｉ
ｏＮ ＰＩ ＢＡＳＥＤ ＡＳＴＥＲ． Ｍ ． Ｍ ＳＬＡＶＥ ＰＡＲＡＬＬＥＬ ＴＡＳ ＡＬＬＯ ＣＡＴＩ Ｋ ＯＮ ＡＮＤ ＴＳ Ｉ ＰＬＥＭ ＥＮＴＡＴＩ Ｉ Ｍ ｏＮ
Ｚｅ ｇ Ｙａ ｎ ｎ （ ｅａｔｅｔｆＣ ｍ ｕｅ Ｓｉ ｃ ａｄ Ｔｃｎｌｇ ，ｅｔ ｌ ｈｎ ｏ ａ ｎｖｒｔ， ｕ ａ ３ ０ ９ Ｈ ｂｉＣ ｉ ） Ｄｐ ｒ ｎ ｏ ｐ ｔ ｃ ｎｅ ｎ ｅｈ ｏ ｙ Ｃｎｒ ｉａＮ ｍ ｌＵ ｉ ｓＣ ｅｉ ａ
视 。它 在 科 学 研 究 、 程 技 术 以及 军 事 等方 面 的 应 用 ， 经 取 得 工 已
１ 主从 式并行任务 中的 ＭＰ Ｉ
ＭＰ 是 消息 传递并行程序 设计 的标 准之 一 ， 目前 主要 的 Ｉ 是 并行环境 。它适用 于基 于分布内存的并行计算机系统 的消息传 递模型 ， 具有移植性好 、 功能强大 、 率高等多种特点 ， 效 而且有 多 种不 同的免 费 、 高效 、 用的实现 版本 ， 实 几乎所有 的并行计算 机
函数实现通信 。这 些函数包括初 等函数 （ 用来 构造环境 和相关 事宜 ） 基本点对点 消息传递 函数 和集 合 （ 内） 、 组 消息传递 函数
３ 。 类 ＭＰ 程 序 中第 一 个 必 须 被 调 用 的 函 数 是 ＭＰ—ｎｔ ） 且 只 Ｉ ＩＩｉ（ ，
机快的计算速 度 ； 二是解 决传 统计算 机无 法解决 的 问题 。集群
Ｋ ｙ ｒｓ ｅｗｏｄ
Ｐ ａｌ ｏ ｐ ｔ ｉ ＭＰ Ｃ ｎ ｅｔ ｎｃｍｐｎ ｎ Ｑ ｅｅ Ｌ ａ ａ ｎｅ ｒ ｅｃ ａ ｌ ｌ ｍ ｕａ ｏ ｔｎ Ｉ ｏｎｃｉ ｏ ｏｅ ｔ ｕ ｕ ｏｄｂ ａｃ ｏ ｌ
０ 引 言
当前 高性 能并 行 计算 技术 在 国 内外越 来越 受 到高 度 的重
ｆ ｒｔ ｅｐ ｏ ｌ ｍ ｆｔｓ ｓａ ｌｃ ｔ ｎ， ｅ ｔｓ ｓ ａｅ ｄｖ ｄ ｄ ｉｔ ｅ ｆｔｓ ｏ ｐ ｓｎ ｈ ｌｏ ｉ ｍ ｆｃ ｎ ｅ ｔ ｎ ｃ ｍｐ ｎ ｎ ， ｎ ｈ ｎ ｔｅ ｏ ｒ ｂ ｅ ｏ ｋ ｌ ａｉ ｔ ａ ｋ ｒ ｉｉ ｅ ｎ ｏ ａ ｆｗ ｏ ｋ ｇ ｕ ｓ ｕ ｉｇ ｔ ｅ ａｇ ｒ ｈ ｏ ｏ ｎ ｃ ｉ ｏ ｏ ｅ ｔ ａ ｄ ｔ ｅ ｈ ｈ ａ ｏ ｏ ｈ ａ ｒ ｔ ｏ ｔｓ ｓ ｏ ａ ｈ ｇ ｏ ｐ ａ ｅ ｄ ｎ ｍｉａｌ ｓ ｉｎ ｄ ｔ ｄ ｅ ｓａ ｅｐ ｏ ｅ ｓ ｓ ｂ ｓｎ ｈ ｈ ｒ ｃｅ ｉｔ ｆ ｈ ｕ ｕ Ｓ ｈ ｔ ｏ ｓ ｍｅ ｄ ｇ ｅ ｔｒ ｄ ｃ ｓ ａ ｋ ｆ ｃ ｒ ｕ ｒ ｙ ａ ｃ ｌ ａ ｓｇ ｅ ｏ ｉ ｌ ｌ ｖ ｒ ｃ ｓｅ ｙ ｕ ｉ ｇｔ ｅ ｃ ａａ ｔｒｓｉ ｏ ｅ ｑ ｅ ｅ，Ｏ ｔ ａ ｏ ｅ ｒ ｅ ｉ ｅ ｕ ｅ ｅ ｙ ｃ ｔ ｔ ｔ ｅ ｔ ｆｐ ｏ ｌ ｍ ｏｖ ｎ ｎ ｃ ｉ ｖ ｓｔ ｅ ｇ ａ ｆｌａ ａ ａ ｃ ｔ ｈ ａ ｉ ． ｈ ｉ ｏ ｒ ｂ ｅ ｓ ｌｉ ｇ ａ ｄ ａ ｈ ｅ ｅ ｈ ｏ ｌ ｄ ｂ ｌ ｎ ｅ ａ ｅ ｓ ｍｅ ｔ ｍｅ ｏ ｏ ｔ ｍｅ
Ａｂ ｔ ａ ｔ ｓｒ ｃ
Ｔ ｓ ｌ ｃ ｔ ｎ ａ ｄ ｌａ ａａ ｃ ｒ ｗ ｏｔ ｎ ｃ ｏｓ ｉ ａａ ｌｌ ｏ ｕ ａｉ ｎ ｔ ｃ ｒ ｇａ Ｓｐ ｒ ｒ ｎ ｅ Ｉ ｉ ｐ ｐ ｒ ａ ｋ ａｌ ａ ｉ ｎ ｏ ｄ ｂ ｌ ｎ ｅ ａ ｅｔ ｏ ｉ ｏ ｏ ｍｐ ｒ ｔ ａ ｔｒ ｎ ｐ ｒ ｌ ｍｐ ｔ ｔ ｏ ｓ Ｍｅｐ ｏ ｒ ｍ’ ｅｆ ｍａ ｃ ． ｎ ｔ ｓ ａ ｅ ， ａ ｆ ｅｃ ｏ ｏ ｈ
技术是近几年来新兴起 的一 项高性 能计 算技术 ， 是将一 组相 它 互独立 的计算 机通 过高速的通信 网络而组成 的一个 单一的计算 机系统 ， 并以单一系统的模 式进行 管理 … 。集 群系统 逐渐成 为 高性能并行计算 的主要 硬件平台 。由于计算机集群 系统 具有开 放 的结构 ， 支持它的并行编程 环境 需要 开放 的和支持 异构 的系 统。 目前最流行 的基 于集群的并行 编程环境 有两种 ：Ｖ Ｐ ｒ Ｐ Ｍ（ ａ—
巨大 的成就 。并行 计算 是指 同时对 多个 任务或 多条指令 、 或对 多个数据项进 行处理。完成此项处理 的计算 机系统称为并行计 算机 系统 ， 它是将多个处理 器通 过 网络 连接 以一定 的方式 有序 地组织起来 。并行 计算 的主要 目的 ： 是为 了提供 比传统计 算 一
厂商都提供对 它的支持 ， 为了事实上的并行编程标准 。 成 ＭＰ 由一组 库函数组成 ， 行程序 的各 任务 之间通 过这些 Ｉ 并