集群系统中基于MPI的关联规则快速挖掘算法

发送到各个结点．（５）重复（１）～（４）直到没有新的局
部频繁项集产生． ２．２中心主结点的算法描述
输入：从结点ｉ的局部候Hale Waihona Puke Baidu矗项集ＬＬ。（ｉ）ｉ一１，２，…，押．
输出：全局频繁候选女项集ＧＬ。（Ｄ）． 女＝１｝Ｇ（五（Ｄ）一垂；ａｌｌ＝０； ｆｏｒ（ｉ＝１；ｉ＜＝行；ｉ＋＋）
｛Ｇ６Ｉ（Ｄ）＝ｏ包（Ｄ）ＵＬＬ＾（ｉ）； ｉｆ（ＬＬＩ（ｉ）＝一中）ａｌｌ＋＋Ｉ
万方数据
９６
三峡大学学报（自然科学版）
２０１０年２月
１基本概念
１．１关联规则并行挖掘问题描述 设ｆ＝｛ｉ。，ｉ２＇．．·，ｉ。）是项的集合，事务Ｔ是Ｊ的
子集．设事务数据库ＤＢ是由事务组成的集合，数量 为Ｄ．ＤＢ＝｛ＤＢｌ，ＤＢ。，…，ＤＥ），数量分别为Ｄ＝ ｛Ｄ。，Ｄ。，…Ｄ。）．项集ＸｃＪ，Ｘ在第歹个结点的支持 度为Ｘ．ｓｕｐ（）），在局部数据库ＤＢ，中，对于给定的 支持度ｏ≤艿≤１，Ｘ是局部频繁的，如果满足Ｘ．ｓｕｐ
性质２‘６３ 对于ｍ位二进制数ｐ和ｑ，如果Ｐ ｏｒ ｑ＝ｐ，则Ｘ。∈Ｘｐ．
２ 改进算法
２．１ 算法思想 主结点首先把事务数据库ＤＢ利用定义１进行
预处理，把得到的新的事务数据库均匀地分发到从结
点ｉ上Ⅲ，ｉ＝１，２，…，ｎ，每个从结点有自己的事务数
据库ＤＢ；．（１）在结点Ｊ中利用ＧＬ。一－（Ｊ）产生局部候
摘要：集群系统是一种分布存储系统，它主要利用消息传递方式来实现各结点之间的通信．在集群
系统中通过利用ＭＰＩ中的消息传递调用接口，提出了一种基于二进制形式的数据存储和计算的高
效并行挖掘算法，通过对数据对象进行一些“或”、“与”、“异或”等逻辑运算操作，降低了算法的实
现难度，减小了网络通信量，提高了挖掘效率，具有较好的可行性和可扩展性．
（＿ｆ）≥艿Ｄｉ，Ｘ的全局支持度Ｘ．ｓｕｐ＝∑Ｘ．ｓｕｐ（ｊ），如
果Ｘ．ｓｕｐ＞ｉｃｅＤ，则称Ｘ是频繁项集．在第．『个数据库 生成的惫项目候选集用ＣＬ。（Ｊ）表示，在第Ｊ个数据 库生成的是项目频繁项集为局部频繁项目集，用Ｌｋ （歹）表示，在全局数据库Ｄ中生成的是项频繁项集为 全局项集，用ＧＬ。（Ｄ）表示，发送到第Ｊ个结点上的全 局走项集用ＧＬ＾（ｊ）表示．
ｉｆ（ａｌｌ＝＝挖）ｅｘｉｔ（０）ｌ／／没有新的局部频繁项集产生 ｆｏｒ ｅａｃｈ ｐＥＧＧ（Ｄ）／／计算ＧＧｋ（Ｄ）中所有项集Ｐ的全 局支持度
ｆｏｒ ｅａｃｈ ｑ∈ＬＬｋ（Ｄ）
ｉｆ（Ｐ ｘｏｒ ｑ＝＝Ｏ）／／Ｐ与ｑ相同 Ｐ．ｓｕｐ＋一ｑ．ｓｕｐ； ｝
ｆｏｒ ｅａｃｈ ｐＥＧＧｌ（Ｄ）
ｉｆ（ｐ．ｓｕｐ＜艿Ｄ）ＧＧ·（Ｄ）＝ＧＧｌ（Ｄ）一Ｐ，
集 ＬＬ＾（ｉ）一ＬＬ＾（ｉ）ＵＰｑ ｝ ｒｅｔｕｒｎ ＬＬ★（ｉ）； ｝
（２）项集的局部支持度计算方法
输入：局部频繁ｋ项集ＬＬ＾（ｉ） 输Ｈ｛：＾ｊＩ鄂频繁女项集ＬＬ·（ｉ）每一项的支持度 Ｓｕｐｐｏｒｔ—ｃａｃｕｌａｔｅ（） ｛ｆｏｒ ｅａｃｈ ｔＥＤＢ。／／ＤＢ。是局部事务数据库，由主结点分 发 ｆｏｒ ｅａｃｈ Ｐ∈ＬＬＩ（ｉ） ｉｆ（Ｐ ｏｒｔ一一ｆ） Ｐ．ｓｕｐ＋＋ｌ ｝
２．３从结点的局部频繁项目集的生成与支持度计算
（１）局部频繁项目集的生成算法 输入：分发到结点ｉ的正一１项全局频繁项目集Ｇｋ一－
（ｉ）．
输出：局部频繁女项集ＬＬ。（ｉ）
Ａｐｒｉｏｒｉ＿ｇｅｎ（） ｛ＬＬ。（ｉ）＝予；
ｆｏｒ ｅａｃｈ ｐＥＧＬ，一Ｉ（ｉ） ｆｏｒ ｅａｃｈ口∈ＧＬＩ—ｌ（ｉ）／／口≠Ｐ ｛夕ｑ＝Ｐ Ｏｇ ｑ｝／／生成新的七序列
行户口２户口’ ｆｏｒ（ｉ＝１，Ｃｏｕｎｔ
Ｏ；ｉ＜一优＆＆ｎｐｑ！＝Ｏ；ｉ＋＋）／／统
万方数据
第３２卷第１期
安立奎等 集群系统中基于ＭＰＩ的关联规则快速挖掘算法
９７
计ｎｐｑ中１的个数 ｉｆ（ｎｐｑ ａｎｄ ０ｘ０１） ｛ｃｏｕｎｔ＋＋： 订户ｑ＝ｎｐｑ＞＞１｝／／逻辑右移１位 ｝ ｉｆ（ｃｏｕｎｔ＝＝志）／／ｐ，ｑ可以合并生成候选ｋ项集 ｛ｆｏｒ（ｉ＝１，６＝０ｘ０１；ｉ＜＝研；ｉ＋＋） ｎ＝户ｑＸＯｒ ｂ；／／Ｔ／是加的ｋ一１项子集 ｉｆ ｒ／∈ＧＬ．。（ｉ）／／ｎ不是频繁ｋ一１项集 ｂｒｅａｋ； ） ｉｆ（ｉ＝一研）／／Ｐｑ的所有ｋ一１项子集都是频繁ｋ一１项
选ｋ（２≤是≤ｍ）项集ＣＬ★（歹），ＣＬｔ（歹）一Ａｐｒｉｏｒｉ—ｇｅｎ （ＧＬＩ—Ｉ（Ｊ））．（２）在结点．『利用Ａｐｒｉｏｒｉ性质对ＣＬ·
（歹）进行剪枝，得到局部频繁足项集ＬＬ。（Ｊ）．（３）将
ＬＬ。（歹）发往中心主结点．（４）中心主结点计算全局支 持数ＧＬ。（Ｄ），并且将ＧＬ。（Ｄ）重新划分，把ＧＬ。（Ｄｉ）
３算法理论分析
（１）算法的并行性能分析 假设每个结点的ＤＢ，具有Ｄ／．个事务，咒为并 行计算结点的数量，假设需要挖掘的项目集Ｉ的大小 为忌，则最多有２‘个项集，每次对数据库的扫描时间 为ｔ。，则串行时间为２ｋｔ。，串行的时间复杂度Ｔ。＝Ｏ （２‘）．每个分结点的并行运行时间为２＇ｔ。／ｎ，主结点 的运行时间为ｔ。，最坏情况下并行运行的计算时间为 ｔ。＋咒＊２ｋｔ。／ｎ，在阶的意义下并行代价等于最坏情况 下串行的代价，具有代价最佳的并行性． （２）算法的加速比分析 并行运行的时间ｔ。由两部分组成：计算部分￡。。 和通信部分￡一。，ｔ，＝ｔｃ。。＋ｔ。。。． 上述算法中，如果项集Ｘ在结点ｉ是局部频繁 的，则其通信量的复杂度为０（ｎ），￡。。。＝咒（ｔ。。。＋ ｗｔｄａｔ。），ｔ。。。。是消息时延，ｔ‰是发送单位数据的时
ｓ（ｐ）２ｒＲ薪，期中ｆ是不能分解成并发任务 问，Ｗ是数据量的大小．由阿尔达姆定律加速系数
联规则的挖掘算法主要有［１］Ａｇｒａｗａｌ等提出的基于 Ａｐｒｉｏｒｉ算法的频集方法．为了提高关联规则的挖掘 效率，研究人员又提出了并行挖掘算法，主要包 括：［２引Ａｇｒａｗａｌ等人提出的ＣＤ算法，Ｐａｒｋ等人提出 的ＰＤＭ算法，Ｃｈｕｅｎｇ等人提出了ＦＤＭ和ＤＭＡ算 法．这些算法虽然具有速度快、容易实现等优点，但也 存在着可扩性较差、候选项集大、规则合成难度高等 缺点．
第３２卷第１期 ２０１０年２月
三峡大学学报（自然科学版） Ｊ ｏｆ Ｃｈｉｎａ Ｔｈｒｅｅ Ｇｏｒｇｅｓ Ｕｎｉｖ．（Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅｓ）
Ｖ０１．３２ Ｎｏ．１ Ｆｅｂ．２０１０
集群系统中基于ＭＰＩ的关联规则快速挖掘算法
安立奎１ 钱伟懿１ 韩丽艳２
（１．渤海大学数学系，辽宁锦州 １２１００３；２．渤海大学公共计算机教研部，辽宁锦州 １２１００３）
本文参照了文献［６］的算法，给出了一种在集群 系统中用ＭＰＩ实现的基于二进制的关联规则算法， 该算法具有实用性强，并行可扩展性好，实现难度低 和高效率等优点．
收稿日期：２００９—０９—２９ 基金项目：国家自然科学基金资助项目（１０８７１０３３）；辽宁省高等学校科研项目资助计划（２００８００４）；辽宁省教育厅Ａ类项目（２００９Ａ０３４） 通讯作者：安立奎（１９７８一），男。讲师．硕士。软件设计师，主要研究方向为数据挖掘。并行与分布式计算．Ｅ－ｍａｉｌ．．ａｎ＿ｌｉｋｕｉ＠１６３．ｃｏｍ
关键词：集群系统； 并行计算； ＭＰＩ； 关联规则
中图分类号：ＴＰ３９３
文献标识码：Ａ
文章编号：１６７２－９４８Ｘ（２０１０）０１－００９５－０３
Ｒｅｓｅａｃｈ ｏｎ Ｆａｓｔ Ａｌｇｏｒｉｔｈｍ Ｂａｓｅｄ Ｏｉｌ ＭＰＩ ｆｏｒ Ｍｉｎｉｎｇ Ａｓｓｏｃｉａｔｉｏｎ Ｒｕｌｅｓ ｉｎ Ｃｌｕｓｔｅｒ Ａｎ Ｌｉｋｕｉｌ Ｑｉａｎ Ｗｅｉｙｉ Ｈａｎ Ｌｉｙａｎ２
定义Ｉ ｒ６３ 事务（项集）一二进制数关系．给定Ｊ＝ ｛ｉｌ，ｉ２，…，ｉ。），称，：Ｔ×（Ｘ×Ｄ－＊ｂ。ｂ２…ｂ。一ｌｂ。为事 务（项集）一二进制数关系，并称ｂ＝ｂ。ｂｚ…ｂ。一－ｂ。为 事务Ｔ（项目集Ｘ）所对应的二进制数，记为Ｂ，（Ｂ，）， 其中６，∈｛０，１｝，且如果项ｉ，∈Ｔ（ｉ，∈Ｘ），则６ｆ＝ｌ，否 则，６，＝０，＿『＝１，２，…，ｍ．对项目集Ｘ∈Ｊ，Ｂ，中１的 个数成为Ｘ的长度，记为ｌｅｎｇｔｈ（Ｘ）．例如：Ｘ＝｛Ｊｔ， Ｊ‘，Ｊ５），Ｂ，＝１００１１，ｌｅｎｇｔｈ（Ｂ，）＝３．
集群系统（ｃｌｕｓｔｅｒ）也称机群系统指“利用高速通 用网络将一组高性能工作站或高档ＰＣ机，按某种结 构连接起来，在并行程序设计及可视化人机交互集成 开发环境支持下，统一调度，协调处理，实现高效并行 处理的系统”（王鼎兴，董春雷．可扩展并行机群系统． Ｆｒｏｍ ＣＣＷ，１９９７—０４），由于其具有开发周期短，性 能高，投资风险小，可扩展性好等优点，已经成为并行 计算中的热点．ＭＰＩ提供了基于消息传递方式的并 行程序设计，是目前发展较快，使用面广的一个公共 消息传递库．关联规则是数据挖掘的一个重要研究领 域，它能发现不同商品之间的联系，发现顾客购买行 为方式，有利于有效设计商品货架，对用户分类等．关
ＭＰＩ拥有一个上百个函数构成的函数库．用 ＭＰＩ构建一个并行计算环境主要用到六个函数．函 数名分别为：ＭＰＩ—Ｉｎｉｔ，ＭＰＩ—Ｃｏｍｍ—Ｓｉｚｅ，ＭＰＩ－ｃｏｍｍ－ Ｒａｎｋ，ＭＰＩ—Ｓｅｎｄ，ＭＰＩ—Ｒｅｃｖ，ＭＰＩ—Ｆｉｎａｌｉｚｅ．ＭＰＩ—Ｉｎｉｔ 和ＭＰＩ—Ｆｉｎａｌｉｚｅ实现ＭＰＩ环境的初始化和结束； ＭＰＩ—ＣＯＭＭ—ｗｏＲＬＤ通信因子是在ＭＰＩ环境初始 化过程中创建的，ＭＰＩ－Ｃｏｍｍｍ—Ｓｉｚｅ获取缺省组 （Ｇｒｏｕｐ）的大小；ＭＰＩ—Ｃｏｍｍ—Ｒａｎｋ获取本进程在缺 省组中的逻辑号（从０开始）；ＭＰＩ—Ｓｅｎｄ和ＭＰＩ—Ｒｅｃｖ 实现消息的传递＂］．ＭＰＩ主要处理点对点和集合两种 通信．本文的算法采用的是主从式并行Ｉ／０调控策 略．在集群中有一个结点为主结点（通常是０结点）其 他为从结点，它们之间通过高速网络进行连接，各从 结点与主结点交互数据，不用彼此交换数据，减少了 通信量，有较好的扩展性． １．２数据的二进制表示及其性质
性质１ Ｅ６］ 对于Ｘｐ，Ｘ。∈Ｊ，Ｘｐ，Ｘ。有且只有志一 ２个元素相同的充要条件是ｌｅｎｇｔｈ（Ｂｘｐ ｏｒ Ｂｘ。）一忌．
由Ａｐｒｉｏｒｉ算法和性质ｌ有，如果Ｘ，，鼍∈ ＬＬｋ～ｌ（＿ｆ），ｌｅｎｇｔｈ（Ｂｘｐ ｏｒ Ｂｘ。）＝志，则，可以组成结点
Ｊ上的局部候选是项集Ｘ，Ｕ Ｘ。．以下用ｍ位二进制 数Ｐ代表项集Ｘ，，ｍ位二进制数ｑ代表项集Ｘ。．
（１．Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｍａｔｈｅｍａｔｉｃｓ，Ｂｏｈａｉ Ｕｎｉｖ．，Ｊｉｎｚｈｏｕ １２１００３，Ｃｈｉｎａ；２．Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｐｕｂｌｉｃ Ｃｏｍｐｕｔｅｒｓ， Ｂｏｈａｉ Ｕｎｉｖ．，Ｊｉｎｚｈｏｕ １２ １００３，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ Ｃｌｕｓｔｅｒ ｉｓ ａ ｋｉｎｄ ｏｆ ｄｉｓｔｒｉｂｕｔｅｄ ｓｔｏｒａｇｅ ｓｙｓｔｅｍ，ｗｈｉｃｈ ｍｏｓｔｌｙ ａｄｏｐｔｓ ｔｈｅ ｍｅｔｈｏｄ ｏｆ ｍｅｓｓａｇｅ ｐａｓｓｉｎｇ ｔｏ ｒｅａｌｉｚｅ ｔｈｅ ｃｏｍｍｕｎｉｃａｔｉｏｎ ｂｅｔｗｅｅｎ ｅｖｅｒｙ ｎｏｄｅ．Ｔｈｒｏｕｇｈ ｔｈｅ ｉｎｔｅｒｆａｃｅ ｆｏｒ ｍｅｓｓａｇｅ ｐａｓｓｉｎｇ ｏｆ ＭＰＩ，ｐｕｔｓ ｆｏｒｗｏｒｄ ａ ｆａｓｔ ｐａｒａｌｌｅｌ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｍｉｎｉｎｇ ａｓｓｏｃｉａｔｉｏｎ ｒｕｌｅｓ ｂａｓｅｄ ｏｎ ｂｉｎａｒｙ ｄａｔａ ｓｔｏｒａｇｅ ａｎｄ ｅｏｍｐｕｔａｔｉｎｇ， ｗｈｉｃｈ ｎｅｅｄｓ ｏｎｌｙ ｓｏｍｅ ｌｏｇｉｃ ｏｐｅｒａｔｉｏｎｓ ｓｕｃｈ ａｓ‘ａｎｄ’，‘ｏｒ’ａｎｄ‘ｘｏｒ’，ｄｅｃｒｅａｓｅｓ ｔｈｅ ｒｅａｌｉｚｉｎｇ ｄｉｆｆｉｃｕｌｔｙ，ｒｅ— ｄｕｅｅｓ ｔｈｅ ｎｅｔｗｏｒｋ ｔｒａｆｆｉｃ ａｎｄ ｉｎｃｒｅａｓｅｓ ｔｈｅ ｍｉｎｉｎｇ ｅｆｆｉｃｉｅｎｃｙ．Ｉｔ ｉｓ ｐｒｏｖｅｄ ｔｈｅｏｒｅｔｉｃａｌｌｙ ｔｈａｔ ｔｈｅ ａｌｇｏｒｉｔｈｍ ｈａｓ ｔｈｅ ａｄｖａｎｔａｇｅ ｏｆ ｉｍｐｒｏｖｉｎｇ ｔｈｅ ｅｆｆｅｃｔｉｖｅｎｅｓｓ ａｎｄ ｓｃａｌａｂｉｌｉｔｙ ｏｆ ｍｉｎｉｎｇ ａｓｓｏｃｉａｔｉｏｎ ｒｕｌｅｓ． Ｋｅｙｗｏｒｄｓ ｃｌｕｓｔｅｒ；ｐａｒａｌｌｅｌ ｃｏｍｐｕｔａｔｉｏｎ； ＭＰＩ； ａｓｓｏｃｉａｔｉｏｎ ｒｕｌｅｓ