JXTA在粗粒度并行计算中的应用

$ 可靠性和伸缩性的实现
可靠性和伸缩性是分布式计算的一个重要要 求。 前面我们提到调度节点负责工作组内的任务调 度， 如果一个工作组内只有一个调度节点， 而它又刚 好因故中断服务 # 则所有送往该调度节点的运行结 果将丢失。 因此， 有必要配备冗余调度节点以形成调 度组， 提供冗余功能， 如图 $ 所示。 调度节点的数量 不必限制为两个， 可以是三个或更多。 一个新加入工 作组的节点首先向调度组发出请求， 调度组根据一 定的策略决定由组中的某一个调度节点回复进来的 请求， 然后该工作节点与调度节点建立直接的通信 连接。 在该模式下 # 如果一个调度节点不响应一个工 这 作节点# 工作节点可以回退一步重新联系调度组。 次 # 将由另一个不同的调度节点响应他的请求。 调度 组内定时进行消息交换以作为调度节点的心跳。 当 同一组中其他调度节点发现其冗余伙伴丢失的时 候 # 它会邀请一个工作节点成为新的调度节点。 另 外， 当一个调度节点从工作节点收到新的运行结果 时， 它会将该结果发送到其他调度节点以保存一个 副本。 ・!"・ 万方数据
图 $ 工作组内的任务调度
%& ’ 结果取回 如上所述每个作业由多个任务构成， 这些任务 构成该作业的任务库 # 由一个唯一的 () 标识。 当建 立任务库的时候， 相应的 () 发送给作业提交者 # 作 业提交者用该 () 向任务调度节点请求相应的作业 结果。 任务调度节点将请求转发给作业库， 作业库将 相应作业的完成情况返回给作业提交者。
万方数据
・!"・
简清明， 鲜乾坤， 何绍荣： *+,- 在粗粒度并行计算中的应用 度节点， 任务调度节点用任务完成信息更新作业库。 注意这里很重要一点是任务调度程序并不跟踪哪个 任务由哪个工作节点完成， 和工作节点之间也没有 握手的过程， 它只关心最后的结果。 一个工作节点在 执行任务过程中可能变得不可访问 # 但这并不影响 整个作业的完成 # 因为任务调度节点通过完成多余 任务的方式来解决工作节点失效的问题。 图 $ 是一 简单的示意图： 随着新的工作节点不断加入到工作组中， 工作 节点和调度组之间的通信带宽可能成为系统的性能 — 瓶颈。 为防止这种情况 # 我们引入一个新的节点—— 监视节点。 监视节点的主要功能是截取现在还不属 于任何对等组的新节点的请求， 充当新节点和各个 工作组的中间人。 作业提交者和想加入工作组的新 节点都需要首先联系监视节点。 监视节点的引入将 调度节点从和外部世界的直接通信中解脱出来， 专 注于工作组内的任务调度从而大大提高了调度节点 的工作效率。 一个监视节点可以管理几个工作组并且可以根 据负载情况重定向从外面来的节点的请求到其管理 的工作组中。 与调度组类似， 多个监视节点可形成监 视组以提供冗余功能。 作业提交者向监视组发出请 求， 监视组中的监视节点重定向这些请求到一个工 作组中， 随后工作组直接回复作业提交者而不再需 要监视节点的介入。 监视节点的任务不仅重定向新 加入的节点到正确的工作组 # 并且监视工作组 # 决定 哪一个工作组接受作业提交。 监视组通过类似调度 组的心跳方法， 维持组内各节点之间的状态更新以 反映其管理下的各工作组的状态。 当一个监视节点 失效时， 其他监视节点可以请求一个工作节点成为 监视节点。
图 9 缓存组
98 5 工作组内各节点之间的任务调度 每一个工作组内都至少有一个任务调度节点 8 空闲的工作节点定期向任务调度节点广播关于资源 的可用性的信息 E 任务调度节点基于这些信息进行 任务分配 E 工作节点完成任务后将结果返回任务调
收稿日期： 566! > 65 > 55 作者简介： 简清明 ? 9:7: > @ ， 男， 四川理工学院云盘校区计科系工程师， 从事网络相关的教学及科研开发。
摘
要： 介绍一个针对粗粒度并行计算的系统框架， 该框架采用 #ABC 技术， 适合众多的操作平台， 允 许对计算资源进行动态分布式的管理。
关键词 D 粗粒度并行计算 #ABC 点到点 模型 中图分类号： 文献标识码： 文章编号： B0;:; C 966: > ;!:! ? 566! @ 6; > 66!" > 6! 传统上， 当人们提起并行计算E 通常指采用 需要大量内部节点通信的并行技 F0G$& 0<F 协议， 术 8 但最近一段时间以来， 人们对粗粒度并行计算 技术的需求正在不断增加， 比如人们常常将一个大 的计算任务分成若干独立的小任务交给地理上相隔 很远的多个计算机完成， 最后再合成最终结果。 这种 分布的计算模式可以充分利用网络上各计算机的处 理能力， 并具有许多优点， 如灵活性、 健壮性和可伸 缩性等。 构建粗粒度并行计算系统的方法很多， 但不 管采用何种技术 E 都需要解决以下几个问题 D ? 9 @ 在任务的生存期节点可以自由的加入或退出。 ? 5 @ 支持不同的计算平台 E 即平台无关性。 ? ; @ 资源的分组管理。 ? ! @ 冗余能力。 这里我们将介绍如何利用 #ABC 的点对点通信 协议来构建我们的粗粒度并行计算系统模型。 #ABC 项目由 HI= 公司开始于 5669， 开发了一组协议用 于实现对等点之间的通信和合作 8 现在有 #(J( 和 因为 #(J( 具备平台无关的特性， + 两种实现版本。 所以我们采用 #(J( 实现并通过动态的节点发现支 持动态网络E 以对等组的方式来实现高可伸缩性和 冗余能力。 模型中的所有活动E 包括处理对节点的请求， 节点到 对等组的并发配置 E 和模型高层的工作提交处理。 工 作组是完成特定任务计算的对等组 E 调度组将单个 任务分配给工作节点。 缓存组作为程序代码和数据的 缓存。 一个对等点可同时属于几个对等组E 同样地每 个对等组可同时拥有许多实例。 下面我们将讨论各种 各样的工作组之间的通信过程。 98 9 作业提交和代码缓存 作业提交分两部分 D 一是各个工作节点使用的 相同的程序代码 E 二是不同工作节点使用的不同数 据， 包括各个任务的参数和完成计算所需的大量数 据的集合 E 这些数据以分散的方式存储在整个网络 中， 由缓存组统一管理。 对每一个作业 E 都创建一个 树形的任务库 E 其中包括一个终端用户提交的作业 内的所有任务的信息。 系统中的所有作业构成作业 库， 库中的每一个作业含有不同数目的任务。 缓存组 与网络其余部分的交互则是通过任务调度组来完 成。 图 9 是一个简单的示意图：
图 ’ 监视组和其它节点的通信
为避免单一监视组成为系统的瓶颈， 可以建立 一个层次结构的监视组群。 作业提交者或工作节点 与顶层监视组联系。 顶层监视组的一个节点决定将 其交由其下一个子组处理该请求。 如果该子组是一 个监视组 # 则该消息一直往下传递直到到达一个工 作组。 一旦消息到达工作组 # 该组内的调度节点向作 业提交者或工作节点发送一个回复。 回复消息包含 要联系的调度节点的 ()# 调度组的 ()# 以及该消息 经过的其它中间节点。 如果作业提交者与调度节点 的联系失败 # 它会继续联系调度组 # 及调度组的父
ቤተ መጻሕፍቲ ባይዱ
$ 应用例子
下面举例说明如何向基于该模型的系统提交作 业。 我们将计算从 % 到 %&&& 的所有整数的和， 可以 很容易地将该计算任务分成几个小的部分。 这里我 们将其分成 %& 部份。 第一个任务 % 到 %&& 的和 # 第 二个是 %&% 到 ’&& 的和 # 依此类推。 要在多台计算机 上完成该计算任务 # 我们首先需要编写该计算的核 心代码 ())*+,-./01 2343， 如下所示 5 6,78/9 23431 681 :./63;6<3-;.= 7+-;6> >;300 ())*+,-./0 6,7;.,.?90 @+??3-;.# :./63;6<3-;. A 7/6439. 6?9 /.0+;9# B6/09# ;309= 7+-;6> ())*+,-./0 C 6?9 B6/09# 6?9 ;309 D A /.0+;9 E &= 9F601 B6/09 E B6/09= 9F601 ;309 E ;309= G= 7+-;6> 486) /+? C D A B8/ C 6?9 6 E B6/09= 6H E ;309= 6 I I D /.0+;9 I E 6= G= 7+-;6> 6?9 J.9@.0+;9 C D A /.9+/? /.0+;9= G= G= 计算 ())*+,-./0 构造函数用来初始化数据， 的核心是 /+? C D 方法。 由于可能会被远程主机调用 # C D 所 以 /+? 方法 不 能包 含任 何 需要 用户 交 互 的操 作。 一旦 /+? C D 方法完成# ())*+,-./0 对象将包含计 算结果。 现在我们引入远程线程类 @.,89.KF/.3)， 类 似 23431 ;3?J1 KF/.3) 类， 程序员可用来提交并行运行 的应用。 @.,89.KF/.3) 类读取运行一个特定代码所 需的包含字节码的文件并放入 LMN 消息中， 随后该 消息被送往存储字节码的远程节点。 在调用 093/9 C D 方法后 # 我们检查作业库 ())*+,-./0 代码是否已 被提交。 如未提交则上传。 然后# 将任务数组送往作 业库并创建任务库 1 每个任务库有一个唯一的 OP 以便作业提交者将来取回处理结果 1 下面是向分布
9 模型的基本组成和功能
构建一个分布式的计算模型， 首先应该解决的 是可靠性和伸缩性问题 8 这是并行计算的内在要 求 8 利用 #ABC 协议构建分布式计算模型的一个优 点是 #ABC 体系结构对群组概念的内在支持 8 利用 对等组作为模型的基础部件 E 我们可以按功能对资 源进行分组 E 将冗余设计和通信限制在相关对等点 之间。 我们的模型包括四个对等组： 监视组E 工作组 E 任务调度组E 缓存组。 监视组是模型中的最高层， 调整