数据挖掘 第7章 关联分析高级概念

给定n个事件的集族: i1, i2, i3, …, in
候选 1-序列: <{i1}>, <{i2}>, <{i3}>, …, <{in}>
候选 2-序列: <{i1, i2}>, <{i1, i3}>, …, <{in-1,in}>, <{i1} {i1}>, <{i1} {i2}>, …, <{in-1} {in}>
候选 3-序列: <{i1, i2 , i3}>, <{i1, i2 , i4}>, …, <{i1, i2} {i1}>, <{i1, i2} {i2}>, …,
<{i1} {i1 , i2}>, <{i1} {i1 , i3}>, …, <{i1} {i1} {i1}>, <{i1} {i1} {i2}>, …
属性离散化的一个关键在于划分每个属性的区间个 数和宽度。然而，确定正确的区间是困难的。
如果支持度阈值=5%，置信度阈值=65%。我们可 以从表中推出年龄和网上聊天隐含强规则：
[16,24) 网上聊天=是（s=8.8%，c=81.5%） [44,60) 网上聊天=否（s=16.8%，c=70%）
设D是包含一个或多个数据序列的数据集:
– 序列s的支持度是包含s的所有数据序列所占的比例。如 果序列s的支持度大于或等于用户指定的阈值minsup， 则称s是一个序列模式（或频繁序列）。
定义7.1 序列模式发现:
– 给定序列数据库D和用户指定的最小支持度阈值minsup ，序列模式发现的任务是找出支持度大于或等于 minsup的所有序列 。
候选序列的个数比候选项集的个数大得多。产生更 多候选的原因有下面两个
– 一个项在项集中最多出现一次，但一个事件可以在序列 中出现多次。给定两个项i1和i2，只能产生一个候选2项集{i1，i2}，但却可以产生许多候选2-序列，如 <{i1,i2}>, <{i1}{i2}>, <{i2,i1}>, <{i1}{i1}> 。
候选产生
一对频繁(k-1)-序列合并，产生候选k-序列。 为了避免重复产生候选，传统的Apriori算法仅当前 k-1项相同时才合并一对频繁k-项集。类似的方法 可以用于序列。 例子
– <{1} {2} {3} {4}>通过合并<{1} {2} {3}>和<{2} {3} {4}>得 到 。由于事件3和事件4属于第二个序列的不同元素， 它们在合并后序列中也属于不同的元素。
将关联分析用于二元化后的数据时，需要考虑如下 问题。
– (2)某些属性值的频率可能比其他属性高很多。如：假 定85%的被调查人都有家庭计算机，如果为每个频繁出 现在数据中的属性值创建一个二元项，我们可能产生许 多冗余模式。 {家庭计算机=是，网上购物=是} {关注隐私=是}
– 解决办法：使用处理具有宽支持度的极差数据集的技术 。
该方法缺点是阈值难确定。
另一种方法是采用min-apriori方法。
S({word1, word2})=min(0.3, 0.6)+min(0.1 , 0.2)+
min(0.4,0.2)+min(0.2, 0) =0.6 Min-apriori中支持度s随着词的规范化频率增加而 增大。随包含该词的文档个数增加而单调递增。
序列模式
将与对象A有关的所有事件按时间增序排列，就得
到A的一个序列（sequence）
Timeline
Sequence Database:
10
15
20
25
30
35
Object A A A B B B B C
Timestamp Events
10
2, 3, 5
20
6, 1
23
1
11
4, 5, 6
17
2
非离散化方法
有一些应用，分析者更感兴趣的是发现连续属性之 间的关系。例如，找出表7-6所示文本文档中词的 关联。
在文本挖掘中，分析者更感兴趣的是发现词 之间的关联（例如：数据和挖掘）。而不是 词频区间（例如,数据：[1,4]，挖掘：[2,3]） 之间的关联。
一种方法是将数据变换成0/1矩阵；其中， 如果规范化词频超过某个阈值t，则值为1， 否则为0。
< {1,2} >
s=60%
< {2,3} >
s=60%
< {2,4}>
s=80%
< {3} {5}>
s=80%
< {1} {2} >
s=80%
< {2} {2} >
s=60%
< {1} {2,3} >
s=60%
< {2} {2,3} >
s=60%
< {1,2} {2,3} >
s=60%
提取序列模式：蛮力方法
Element (Transaction)
Sequence
E1 E1 E2 E3
E2
E2
E3 E4
Event (Item)
序列数据的例子
子序列（ Subsequence）
序列t是另一个序列s的子序列（subsequence）， 如果t中每个有序元素都是s中一个有序元素的子集 。
Data sequence
例子
Object A A A B B C C C D D D E E
Timestamp Events
1
1,2,4
2
2,3
3
5
1
1,2
2
2,3,4
1
1, 2
2
2,3,4
3
2,4,5ຫໍສະໝຸດ 1223, 4
3
4, 5
1
1, 3
2
2, 4, 5
Minsup = 50%
Examples of Frequent
Subsequences:
因特网调查数据可能还包含连续属性，如表7-3所 示。
挖掘连续属性可能揭示数据的内在联系，如“年收 入超过120k的用户属于45-60年龄组”或“拥有超 过3个email帐号并且每周上网超过15小时的用户 通常关注个人隐私”: 包含连续属性的关联规则通常称作量化关联规则（ quantiative association rule）。 对连续数据进行关联分析的方法:
Subsequence
Contain?
< {2,4} {3,5,6} {8} >
< {2} {3,5} >
Yes
< {1,2} {3,4} >
< {1} {2} >
No
< {2,4} {2,4} {2,5} >
< {2} {4} >
Yes
序列模式发现（Sequential Pattern Mining）
21
7, 8, 1, 2
28
1, 6
14
1, 8, 7
Object A:
2 3 5
Object B:
4 5 6
61 1
2
7
1
8
6
1
2
Object C:
1 7 8
一般地，序列是元素（element）的有序列表，可 以记作s=<e1e2e3,…,en>, 其中每个ej是一个或多个 事件的集族，即ej={i1，i2，…，ik}。
– <{1} {5} {3,4} >通过合并<{1} {5} {3}>和<{5} {3,4}>得到 。由于事件3和事件4属于第二个序列的相同元素，4被 合并到第一个序列的最后一个元素中。
候选剪枝
– 一个候选k-序列被剪枝，如果它的(k-1)-序列最少有一 个是非频繁的。
– 例如，假设<{1} {2} {3} {4}>是一个候选4-序列。我们需 要检查<{1} {2} {4}>和<{1} {3} {4}>是否是频繁3-序列。 由于它们都不是频繁的，因此可以删除候选<{1} {2} {3} {4}>。
Rules Discovered:
{Diaper} --> {Beer}
7.1 处理分类属性
许多应用包含对称二元属性和标称属性。表7-1显示的因特网调查 数据包含对称二元属性，如：性别、家庭计算机、网上聊天、网上 购物和关注隐私；还包括标称属性，如文化程度和州。
我们可能发现关于因特网用户特征的有趣信息: {网上购物=是} {关注隐私=是}
– 基于离散化的方法 – 非离散化方法 – 基于统计学的方法
基于离散化的方法
离散化是处理连续属性最常用的方法。这种方法将 连续属性的邻近值分组，形成有限个区间。例如： 年龄属性可以划分为如下区间： [12,16),[16,20),[20,24),…,[56,60) 离散化技术：等宽、等频、聚类 表7-4显示了离散化和二元化后的因特网调查数据 。
处理分类属性
为了提取这样的模式，我们需要将标称属性和对称 二元属性转换成“项”，使得已有的关联规则挖掘 算法可以使用。 这种类型的变化可以通过为每个不同的属性-值对 创建一个新的项来实现。
– 例如: 标称属性文化程度可以用三个二元项取代
文化程度=大学 文化程度=研究生 文化程度=高中
类似的，对称二元属性性别可以转换成一对二元项 ：性别=男、性别=女。
– 次序在序列中是重要的，但在项集中不重要。例如， {1,2}和{2,1}表示同一个项集，而<{i1}{i2}>和<{i2}{i1}> 对应于不同的序列，因此必须分别产生。