一个支持机群系统中并行DM算法的数据管理中间件

２ 内存缓冲曹理及数据传递 ． ４
为了很好地支持并行数据挖掘算法的高效运行，中间件尽量地把数据安置在个节点的内存中，在内存 放不下的情况下，可有两种处理方法。一种方法是利用本地硬盘实现虚拟内存管理，另一种方法就是利用 其他节点的内 存，实现个节点 件的内 存共享， 这在高速的 专用 Ｍ ｒｅ 网中 ｙｎ ｉ ｔ 是可行的，并且可以 取得更好 的运行效率。 在数据挖掘领域，工作的重点是对大数据集的操作。能否高效的处理大量数据， 将对整个数据挖掘工 作的效率产生决定性的影响。为使数据挖掘工作可以在集群式计算机上高效地完成，除研究数据挖掘的并 行算法之外，很有必要研究设计一种适合于并行数据挖掘算法的数据存储系统． 网络虚存是以本地结点的主存作为 Ｃ Ｃ Ｅ 以网络上其它结点机的主存作为本地结点机主存的后援 ＡＨ 存储，取代本地结点机的硬盘或其它介质的存储设备。利用网络设备的 １ ／ Ｏ带宽高于磁盘，而延迟较小的 特点，使用网络虚存将使虚存的整体性能大大提高，同时还可以获得一个很大的网络物理存储空间，从而 使串行的数据挖掘算法得以利用并行机的优势，提高自身的工作效率，使一些在单机上由于内存限制而难 以完成的算法能够在并行环境中高效完成。 进一步的解决方法是尽可能并行化数据文件的操作处理。 前， 目 在分布存储的多处理机系统中己经出现了一些并行文件系统。在这些系统中，由于不是在内存中实现，无 法脱离本地磁盘，造成 １ ／ Ｏ时间消耗。另外，每个计算结点通过向１ ／ Ｏ结点发送请求来获得文件数据，势 必造成数据的大量转移，降低整体的效率。在总结目前国内外对网络虚存的有关研究，和基于已经实现的 并行文件系统，设计了并行内存缓冲系统。该系统直接在结点机的内存中构造，并对文件进行分块，分布 到网络的各个结点上，使得应用程序可以在各个结点上并行地进行文件数据的处理操作，数据挖掘得以真
布到个并行节点中共算法读取：而一个 ＳＩ ＬＱ分类算法则要求按属性垂直划分数据分布到不同节点上。并 行数据分布存取管理中间件综合考虑各种并行数据挖掘算法的数据划分和分布要求，设计多种划分方案和 分布策略，并作为并行算法配置文件的可选参数， 在执行算法时根据实际需要选用。 数据分配到各个计算机结点， 每一结点的处理机单独完成一个子任务。 于机群系统数据的非共享性， 由 并行计算过程中结点之间的数据需要相互交换时，必须通过消息传递进行处理机间的通信，相对于处理机 的Ｃ Ｕ速度， Ｐ 数据的发送和接收所需的网络延迟和消息处理开销太大，因此应尽量减少数据交换。 数据的 划分和分配是影响负载平衡和通信量的主要因素，从而也是影响并行计算性能的主要因素。因此，研究数 据划分方法和数据分布策略是至关重要的，而且必须以尽量减少通信开销为目 标。
一个支持机群系统中并行 Ｄ 算法的数据管理中间件 Ｍ
吴 春 吴锋 班 绍 耿 桦
上海大学计算机学院，２０７ ００２
（ｃ ｕ ａ ｓｕ ｄ． ） ｓｗ ＠ｍ ｉ ｈ． ｕ ｎ ． ｌ ｅ ｃ 摘 要： 利用高性能机群系统实现并行数据挖据算法，需要强大的底层数据管理支持，包括数据的存储、
并行数据挖掘算法
并行数据挖掘算法
这里。数据管理中间件所基于的平 台是自强２０ ００高性能机群系统、 数据仓
数据的存储、划分、分布和存取
ｌ ｌ 一
数据预处理
数 库 能＇ Ｊ 群 系 统 据性 机 仓 自 强２０ ００高
库、 数据预处理部件及Ｌｎｘ ｉ 操作系统， ｕ 向上为各种并行数据挖掘算法提供数据 的存储、划分、分布及存取服务。 数据挖掘的任务是从数据中发现模 式。模式按功能可分为两大类：预测型 （ ｅｉｉ ） 模 式 和 描 述 型 Ｐ ｄ ｔｅ ｒ ｃｖ
５１ ｅ ｉ ８ 滋瓦农今 ６ Ｓｓｏ ｓ ｎ
术正处于发展过程之中，因此目前尚不能对它进行精确的定义。比较流行的定义是：中间件是一种独立的 系统软件或服务程序， 分布式应用软件借助这种软件在不同的技术之间共享资源。 中间件位于客户机／ 服务 器的操作系统之上，管理计算资源和网络通讯。 基于此，我们的设计思想是：开发一个支持机群系统中并行数据管理挖掘算法的数据管理中间件，作 为存在于机群系统软件与数据挖掘应用之间的特殊层次。这个中间件从本质上是对机群系统中数据挖掘应 用的抽象， 因而抛开了与应用相关的业务逻辑的细节， 保留了典型的分布交互模式的关键特征。 经过抽象， 将纷繁复杂的机群系统经过提炼和必要的隔离后，以统一的层面形式呈现给数据挖掘应用。数据挖掘应用 在中间件提供的环境中可以更好地集中于业务逻辑上，这不仅使软件开发层次清晰，也增强了数据管理软
数据在机群中的划分和分布策略、数据的读写及传送等。文章从数据挖据算法的特性出 发，论述了一个支 持机群系统中并行数据挖掘算法的数据管理中间 件的设计思想和实 现技术 关键词； 中间件；机群系统；数据挖掘；并行计算；数据分布；自 ００ 强２０
１ 引言
现代信息社会丰富的数据带来了对强有力的数据分析工具的需求，数据与信息之间的鸿沟要求系统地
同时系统配备有符合国际标准的 ＭＰ Ｉ和 Ｐ Ｍ 并行编程环境，并行编译器 Ｈ Ｆ以及通用的编程语言 Ｖ Ｐ，
Ｃ ＋， ｒ ｎ７ 。和 Ｊ ａ 它 供消 传 和分 共享 ／ ＋ ｏｒ ７ ９ Ｃ Ｆｔ ／ ａ ａ ． 还提 息 递型 布式 存储型的 模型； 用 提供友 ｖ 编程 并为 户 好的
使用软件和工具，如：并行计算性能评价工具，Ｉ ｅ ｔ ｎ ｍｅ网络环境远距离查询管理软件和大型关系数据库， ｔ 及国际通用的科学与工程计算软件包 （ Ｌ Ｓ Ｂ Ａ Ｓ Ａ Ｌ Ｓ Ｌ Ｐ Ｃ ， Ｃ Ｌ Ｐ Ｃ 等） Ｂ Ａ ， Ｃ ， Ａ ， Ａ Ｋ Ｌ Ｔ Ａ Ｓ Ａ ＡＡ Ｋ 。基于自 强 ２０ 这样的可扩展高性能机群系统研究开发并行数据挖掘平台， ００ 利用其高速并行计算能力、 强大的分布 存储能力、快速的信息传输能力以及良好的可移植性和可扩展性，正是发挥机群系统优势的最有意义的应 用课题，既能有效地提高数据挖掘算法的执行效率，在大型数据库中进行有效的、可伸缩的数据挖掘，又 能减少平台开发、升级及维护的费用，提高平台的可伸缩性。
基金项 目 作者简介
上海市科委重点基础研究项目 （Ｉ ０２： ＯＪ ２） 上海市教委重点研究项目 〔０１ ） Ｃ４ ２５５ ． ３
昊 （ ６－ ，女， 海大学 机学院， 授， 研究生， 方向 息系统、 人工 绍． １ ５ ） ９ 上 计算 副教 博士 研究 为信 智能、 数
据挖掘与知识发现。吴耿锋 （９３ ．男，上海大学教授，博士生导师，第三世界科学院计算机专业协约 １４－） 会员． 中国计算机学会理事。曾获省部级科技进步二等奖 ２ 三等奖 １ 项， 项。目 前主要兴趣为：智能信息处 理、专家系统以及 ｃ ｃ 等． ｓｗ
件的可重用性。
２ 数据管理中间的设计
数据挖掘的数据源庞大而复杂，可以是不同类型的、异构的数据库，也可以是数据文件甚至各类数据
表格，而数据挖掘算法要求的则是高质量的数据，这样才能挖掘到满意的结果。因此， Ｑ Ｄ 不仅需要 Ｚ ＰＭ 有数据仓库对海量数据进行整理和存储，还需要数据预处理部件来进行数据的清洗、转换和离散化等其他 特殊处理。另一方面，在数据挖掘过程中，并行数据挖掘算法的执行是在机群系统的井行结点上进行的， 每个运算结点上都应准备好相关的数据集。这就是说，为配合并行数据挖掘算法的执行， 必须在算法执行 之前，将所需数据从数据仓库中提取出来，转换成所需格式，然后根据算法的并行执行特性，恰当地将数 据划分并分布安排在各执行结点上。 另外， 在算法运行过程中， 还可能需要传递和交换数据，也可能要临 时存取数据 （ 如中间结果等） ，这些都可以划入平台的分布式数据管理范围。 数据管理中间件的主要任务就是完成平台的分布式数据管理，把算法本身和与算法相关的数据存储、 划分、分布、传递及存取功能分离开来，屏蔽复杂的软件、硬件实现环境，为各种各样的数据挖掘算法提 供一个统一的数据管理接口， 使算法开发者可以专心一致于算法的研究。 这样还方便了平台的设计和维护， 提高了系统的可适应性和可扩展性，使平台具有很强的可配置性和可重构性。 Ｚ Ｐ Ｍ平台体系结构如图１ ＱＤ 所示：
读写接 口 内存缓冲管理及数据传递 数据划分和分布
数据预 处理
数据仓库管理 图２ 数据分布存取中间件层次模型 ２ 数据划分和分布 ． ３
应用程序的数据空间在并行结点中的映射形式严重地影响着程序的执行效率。如何确定应用程序的全 局数据分布与计算分割模型，以取得较好的数据分布性能，是提高应用程序性能的一个关键因素。因此， 中间件必须研究各种并行数据挖掘算法的运行特征和相应的数据分布特性，设计多种适合不同算法的数据 划分方法和数据分布策略．例如，并行聚类算法要求水平地按某一维数据的取值范围划分数据并均匀地分
统。自 ０ － Ｈ Ｃ 是由 海大学开 研制的 值速度为４０ｆｐ （ 秒４０ 亿次 数操作） 强２ ０ Ｓ ＰＳ 上 ０ Ｕ 发 峰 ５ ｌ ｓ 每 ５０ 浮点 Ｇｏ 的高 机群系统， 用国 性能 采 际上具有技术发 展趋势的 Ｓ 节点 Ｐ Ｎ 和级连的 速互联网 （．Ｇｐ 高 络 １８ｂｓ的 ２ Ｍ ｒｅ和１ Ｍ ｐ的Ｅ ｅｅ 。 体系 ｙｎ ｉｔ ０ ｂｓ ｔｍｔ ０ ｈ ） 主 统共６ 个 Ｓ Ｐ 算结点，１ 个ＣＵ 总内 ６ Ｍ 计 ３ ２ Ｐ ． 存容量１ Ｂ 硬 ８ ， Ｇ 盘容量２Ｂ 且可扩展。 Ｐ Ｔ， ＣＵ采用了国际 主流产品奔腾１ ０ Ｚ 、 １ Ｇ ）奔腾Ｍ（ ０ Ｈ ） １ Ｈ ５ Ｍ Ｚ和奔腾Ｉ （０Ｍ Ｚ ． ０ Ｉ ７０ Ｈ ） Ｉ
ｌｕ ｉ ｘ操作系统 ｎ
（ｅｒｔｅ 模 但 际 用中 Ｄｓｉｖ） 式。 在实 应 ， ｃ ｉ ｐ
往往根据模式的实际作用细分为分类模 式、回归模式、时间序列模式、聚类模 式、关联模式、序列模式这六种模式。
图１ Ｐ Ｍ平台体系结构 Ｄ Ｚ Ｑ
Ｚ Ｐ Ｍ 平台的并行算法库中包含上述各种典型模式的并行数据挖搁算法，这些算法包括很多方面的数据 ＱＤ 操作，各种操作所要求的数据源不同、数据形式不同、输出不同、所需参数也不相同，各种算法对数据在 机群中的划分和分布要求也各不相同。 数据管理中间件的最基本任务就是为并行数据挖掘算法提供底层数据的管理和操作服务。其主要功能 包括：从数据仓库中提取算法所要求的数据；按照算法的要求进行数据与处理工作；根据算法的配置参数 进行数据的划分和分配：将数据分布到各个可用的并行结点上，即进行数据的分布传送和安置：进行各节 点的内存缓冲管理及内外存的数据交换；为算法提供读写接口。由此，数据管理中间件形成如图２ 所示的