不确定性数据聚类挖掘研究综述
不确定数据聚类分类研究
不确定数据聚类分类研究传统聚类分类算法需要待处理的数据是确定的。
然而,现实应用中由于设备测量误差、网络传输干扰、用户隐私保护等原因,获得的数据普遍存在不确定性。
由于不确定性的引入,传统聚类分类算法无法对不确定数据直接进行处理,难以满足现实应用要求。
因此,针对不确定数据设计专门的聚类分类算法显得尤为重要。
本文围绕不确定数据聚类分类问题展开研究,旨在为不确定数据提供有效的聚类分类算法。
主要贡献如下:(1)基于自适应混合距离测度的不确定数据聚类。
针对不确定数据聚类中几何距离测度不能识别位置严重重叠且概率分布不同的不确定数据,概率分布距离测度不能识别不同对完全分离的不确定数据的问题,本文提出一种自适应的混合距离测度。
通过同时考虑几何距离和概率分布距离,并根据数据集的位置重叠信息自适应地调节不同距离测度的重要性,该距离测度可以避免现有距离测度的问题,提升不确定数据的聚类效果。
(2)基于密度及层次密度的不确定数据聚类。
针对基于密度及层次密度的不确定数据聚类中不确定信息丢失,计算复杂度高,固定概率阈值的问题,本文提出新的基于密度及层次密度的不确定数据聚类算法。
通过使用精确的方法计算不确定数据点之间距离小于等于某一阈值的概率,引入概率邻域,支持度,核心对象概率、直接可达概率、模糊核心距离、模糊可达距离等一系列定义,提出的算法可以避免现有基于密度及层次密度的不确定数据聚类的问题,改善不确定数据的聚类效果。
(3)基于可能世界的AdaBoost不确定数据分类。
针对不确定数据分类算法依赖于理想概率分布,传统分类算法不能直接处理不确定数据的问题,本文提出基于可能世界的AdaBoost不确定数据分类算法。
通过在多阶段引入可能世界、增加多数投票和加权投票过程,该算法能够处理任意分布的不确定数据,并且使得传统分类算法可以直接处理不确定数据,从而拓展了不确定数据分类的应用范围,提升了不确定数据的分类效果。
(4)基于一致性学习的不确定数据聚类分类。
数据挖掘中聚类算法研究综述
数据挖掘中聚类算法研究综述随着数据量的不断增加，数据挖掘成为了探索数据背后规律的一种重要方法。
而聚类算法作为数据挖掘中的一种基本技术，其在数据分析、模式识别、生物信息学、社交网络分析等领域都有着广泛的应用。
本文就对数据挖掘中的聚类算法进行了研究和总结，旨在对聚类算法的原理、特点、应用等方面进行探讨。
一、聚类算法的基本原理聚类算法是指将一组对象划分为若干个组或类，使得组内对象之间的相似度尽可能大，组间对象之间的相似度尽可能小，从而达到数据分类和分析的目的。
聚类算法的基本原理包括以下三个方面：1. 相似度度量：聚类算法的基础在于相似度度量，即将每个对象之间的相似度进行计算。
相似度度量可以采用欧几里得距离、曼哈顿距离、余弦相似度等多种方法。
2. 聚类分配：聚类分配是指将每个对象划分到合适的聚类中。
聚类分配可以通过最近邻法、k-means算法等实现。
3. 聚类更新：聚类更新是指对各个聚类进行调整，使得聚类内对象之间的相似度尽可能大，聚类间对象之间的相似度尽可能小。
聚类更新可以采用层次聚类法、DBSCAN算法等。
二、聚类算法的分类根据聚类算法的不同特点和应用场景，可以将聚类算法分为以下几种类型：1. 基于距离的聚类算法：包括最近邻法、k-means算法、k-medoid 算法等。
2. 基于密度的聚类算法：包括DBSCAN算法、OPTICS算法等。
3. 基于层次的聚类算法：包括凝聚层次聚类法、分裂层次聚类法等。
4. 基于模型的聚类算法：包括高斯混合模型聚类、EM算法等。
三、聚类算法的应用聚类算法在各种领域中都有着广泛的应用，包括数据分析、模式识别、社交网络分析、生物信息学等。
下面简单介绍一下聚类算法在这些领域中的应用：1. 数据分析：聚类算法可以对数据进行分类和分组，从而提取出数据中的规律和趋势，帮助人们更好地理解和利用数据。
2. 模式识别：聚类算法可以对图像、声音、文本等数据进行分类和分组，从而实现对数据的自动识别和分类。
数据挖掘中聚类算法研究综述
步骤三 ：根据当前簇 中心 （ 平均值 ） ， 将其 余对 象赋给距离最近的中心点所代表 的簇 ； 步骤 四 ：重新 计算每 个簇的平 均值 ； 步 骤 五 ：直 到 划 分 不 发 生 变 化 。 优点 Ｋ 平均算法 实现 起来比较简单 其计 算复杂度为 （ｋ ）其中ｎ ｎ ｔ， 为对象个 数 ， ｋ为聚类 个数 ， 为循环次数 ，它具有可扩 ｔ
Ｄ Ｓ ＡＮＥ 。 Ｂ Ｃ 等
组就代表一个聚 类 ，其 中 Ｋ≤ Ｎ。而且这
Ｋ 个 分 组 满 足 下 列 条 件 ： （ ）每 一 个 分 组 １
Hale Waihona Puke Ｋ一中心 点算法不采用 簇中对象的平 均 值 作 为 参 照 点 ， 是 选 用 簇 中位 置 最 中 而 心的点 （ 中心点 ）作为聚类的 中心 点。剩 余的对象根据其与代表点的距离分配给最 近 的 一 个 簇 。 然 后 反 复 地 寻 找 更 好 的 质
展性 。
它们更靠近簇的 中心 。它的时 间复杂度在 最坏情 况下为 ｎ ｌ ｇ 。ｏ ｎ。优点是 选择多个 代表 使得该算 法可 以适应非球状 的几何形 状， 簇的收缩或凝 聚可以有助于控制噪声
的影 响 ，同时 该 方 法 采 用 了随 机 抽 样 与 分 割相结合来提高效率 ， 对大型数据库有 良 好的收缩性。
（ ）Ｋ一平 均算法对噪 声和异常数据 ４ 非 常 敏 感 。因 为 这 类 数 据 可 能 会 影 响 到 簇 中对象的均值 。 １． ２ Ｋ－ＭＥ Ｉ Ｓ算法 （ ＤＯ Ｄ Ｋ一中心
点算法 ）
缺点。这种方法 的基本 思想是 ：只要一个 区域中的点的密度大过某 个阈值 ， 就把 它 加 到与之相近 的聚类 中去 。代表算 法有 ：
缺 点：Ｋ一 平均算 法有以下四个缺 点： （ ）Ｋ一平 均 算 法 只适 用 于 簇 中对 象 １
数据挖掘报告
数据挖掘报告一、数据挖掘综述随着信息时代的来临，网络技术的发展和普及，各个行业都有爆炸性的数据增长，这些海量的数据中隐藏着我们需要的信息和财富。
国际数据公司（IDC）报告称， 2011年全球被复制和创建的数据总量就已经大得惊人，在短短几年时间内增长了近9倍，而且预计这些数据每两年就将至少增加一倍。
并且，政府机构也对外宣称了要加快数据研究进度这一重大计划，各行业也在积极讨论数据挖掘研究带来的吸引力。
面对如此庞大的数据，以及这些数据背后的价值和新的机遇，挖掘和研究这些数据就会给我们带来挑战和切实的利益。
早在 1989 年8 月美国底特律召开的第 11 届国际功能会议上就出现了 KDD 这个术语， 1995年学术界和工业界共同成立了 ACM 数据挖掘与知识发现专委，后者发展成为数据挖掘领域的顶级国际会议。
数据挖掘是一门交叉学科，涉及到各个行业和各个领域，同时，随着各行业对大量数据的处理深度和分析上的需求的增加，数据挖掘研究已经成为了学术界研究的热门学科，同时也受到各领域的重视。
经过多年的发展，数据挖掘研究领域成果颇丰，已经有了一套自己的基础理论。
从大体趋势来说，国内和国外的研究方法和方向有差异，尤其是在某些方面还是存在着一定的差距。
总的来说，国外的研究更偏重交叉学科和理论基础的研究，而国内则偏重于实际的应用上，用数据来解决实际的问题。
同时，国内的学者在研究上也处于世界前沿水平，在国际舞台上也有十分突出的成绩，近年来也频频有国内团队登上国际领奖台。
在20世纪90年代中后期，用关联规则来进行挖掘、分类、预测等被逐渐用于时间序列数据挖掘和空间数据挖掘，以发现与时间和空间相关的有价值的模式，这些手段使得数据挖掘研究领域已经有了一些比较成熟的技术。
如今的定位系统、手持移动设备等设备的普及和应用积累了大量的移动对象数据，对这些数据领域的研究使我们受益匪浅。
近年来，数据挖掘研究已经渗透到生物信息、医疗卫生、智能交通、金融证券、社交网络、多媒体数据挖掘、轨迹数据、文本数据等各大领域。
聚类分析的现状与前景研究
聚类分析的现状与前景研究聚类分析是一种常用的数据分析方法，旨在将相似的样本对象划分到同一类别中，同时确保不同类别之间的差异性最大化。
聚类分析在多个领域中得到了广泛应用，例如数据挖掘、生物学、社会网络分析等。
本文将从两个方面来探讨聚类分析的现状和前景研究。
首先，聚类分析的现状研究主要包括算法改进、应用拓展和可解释性提高等方面。
在算法改进方面，研究者们提出了许多新的聚类算法，例如谱聚类、密度聚类和基于密度的聚类等。
这些算法相对于传统的聚类算法具有更高的效率和准确性。
在应用拓展方面，聚类分析已经从传统的数值数据拓展到非数值数据，如文本、图像和网络数据等。
这些非数值数据的聚类分析需要基于特定的相似性度量和特征提取技术。
在可解释性提高方面，研究者们提出了一些辅助分析技术，例如聚类集成、聚类验证和聚类可视化等。
这些技术可以帮助用户更好地理解和解释聚类结果。
其次，聚类分析的前景研究主要包括深度学习、不确定性处理和多源数据融合等方面。
深度学习是近年来兴起的一种机器学习方法，通过自动学习数据表征来完成聚类任务。
深度学习的出现将极大地推动聚类分析的研究和应用。
不确定性处理是一种新的聚类分析思想，旨在处理数据中的不确定性信息。
不确定性处理可以提供更加准确和可信的聚类结果。
多源数据融合是将来聚类分析的一个重要方向，因为在许多实际应用中，数据往往来自于多个数据源，通过将不同数据源的信息进行融合，可以提高聚类分析的准确性和稳定性。
总之，聚类分析作为一种常用的数据分析方法，在现状研究方面已经取得了许多成果，在算法改进、应用拓展和可解释性提高等方面都有了显著进展。
而在未来的前景研究中，深度学习、不确定性处理和多源数据融合等将是主要的研究方向。
这些研究将进一步推动聚类分析在各个领域的应用，并为实际问题的解决提供更加准确和可靠的方法和工具。
数据挖掘中聚类算法研究综述
１ 引言
随着 信息 技术 和计算 机技 术 的迅 猛发 展 。人们面临着越来越 多的文本、图像 、视 频 以及音频数据 ， 为帮助用户从这些大量数 据 中分析 出其问所蕴涵的有价值的知识 ， 数 据挖掘 （ Ｄ ａ ｔ ａ Ｍ ｉ ｎ ｉ ｎ ｇ ， Ｄ Ｍ） 技术应运而生 。 所谓数据挖掘 ， 就是从大量无序 的数据 中发 现 隐含 的、有效的、有价值 的、可理解 的模 式 ，进而发现有用的知识 ， 并得 出时 间的趋 向和关联 ，为用户提供 问题求解层次 的决策 支持能力 。与此同时 ，聚类作为数据挖 掘的 主要方法之一 ，也越来越引起人们 的关注 。 俗话说 ：“ 人 以群分 ，物以类 聚” 。聚类 就 是利用 计算 机技术 来实 现这 一 目的 的一 种技术 。其输入是一组未分类 的记录 ，且事 先不知道如何分类 ， 也可能不知道要分 成几 类。 通过分析数据 ， 合 理划分记录集合 ，确 定每个记 录所属 的类别 ， 把相似性大 的对象 聚集为一个簇 。聚类 的标准是使簇 内相 似度 尽 可能大 、簇 间相似度尽可能小 。
ｃ ｌ ｕ ｓ ｔ ｅ ｒ ｉ ｎ ｇ￣ｇ ｏ ｄ ｔ ｈ ｍｓ ｏ ｆ ｈｅ ｔ ａ ｄ ｖ ａ ｎ ｔ ａ ｇ ｅ ｓ ｎｄ ａ ｄ ｉ ｓ ａ ｄ ｖ ａ ｎ ｔ ａ ｇ ｅ ｓ ． ｉ ｎ ｏｒ ｄ ｅ ｒ ｔ ｏ ｆ ｕ ｒ ｔ ｈ ｅ ｒ ｒ ｃ ｓ ｃ ａ ｒ ｃ ｈ ｏ ｎ ｈｅ ｔ ｃ ｌ ｓｔ ｕ ｅ ｒ ｉ ｎ ｇ￣ｇ ｏｒ ｉｔ ｈ ｍ．
一
个簇 用该 簇 中对 象 的平 均值 来表示 。（ ２ ） ｋ － ｍ ｅ ｄ ｏ ｉ ｄ ｓ算 法 ， 在 该算 法中 ，每个簇用接 近聚类 中心 的一个对象来表示 。这些启发式 聚类 方法 对在 中小规模 的数 据库 中发 现球 状簇很适用 。 为 了对大规模的数据集进行聚 类 ，以及 处理复杂形状 的聚类 ， 基于划分 的 方法需要进一步的扩展。 ２ ． ２层次方法 层次方法 （ ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ ｈ ｉ ｅ ｔ ｈ ｏ ｄ ｓ ） ：层次 的方法对给定数据集合进行层次的分解 。 根 据层次 的分解如何形成 ， 层次的方法可 以被 分为凝聚的或分裂的方法 。 凝 聚的方法 ， 也 称为 自底 向上的方法 ， 一开始将每个对象作 为单独 的一个组 ， 然后继续地合并相近的对 象或组 ，直到所 有的组合并为一个 （ 层次的 最上层 ） ，或者达 到一个终止条件 。分裂的 方法 ，也称为 自顶向下 的方法 ， 一开始将所 有 的对象 置于 一个簇 中 。在 迭代 的每一 步 中，一个 簇被分裂为更小 的簇 ， 直到最终每 个对象在单独 的一个簇 中， 或者达到一个终 止条件 。 层次 的方法 的缺陷在于 ， 一旦一个步骤 （ 合并或分裂 ） 完成 ， 它就不能被撤消 。这 个严格规定是有用 的。由于不用担心组合数 目的不 同选择 ，￣ ｉ － ｇ ｔ 代价会较小 。但是 ，该 技 术的一 个 主要问题 是它不 能更 正错误 的 决 定 。有 两种 方法可 以改进 层次 聚类 的结 果 ：（ １ ） 在每层 划分 中 ， 仔细分析对象间的 联接 ，例如 ｃ ｕ Ｒ Ｅ和 Ｃ ｈ ａ ｍ ｅ ｌ ｅ ｏ ｎ 中的做法。 （ ２） 综合层次凝 聚和迭 代的重定位方 法。 首先用 自 底 向上 的层次算法 ， 然后用迭代的 重定位来改进结果 。例如在 Ｂ Ｉ Ｒ Ｃ Ｈ 中的方
基于粗糙集理论的数据挖掘技术研究
基于粗糙集理论的数据挖掘技术研究随着信息时代的到来，数据量的飞速增长和数据质量要求的不断提高，数据挖掘技术越来越受到重视。
在数据挖掘中，粗糙集理论是一种重要的方法。
粗糙集理论是由波兰数学家Pawlak于1982年提出的一种不确定性的近似推理理论，适用于含有不确定信息的数据处理与分析，被广泛应用在分类、聚类和特征选择等领域。
本文将对基于粗糙集理论的数据挖掘技术进行研究探讨。
一、粗糙集理论简介1.1 基本概念粗糙集理论的核心概念是上近似和下近似。
设U为一个数据集，X和Y分别为U的属性集和决策集，A是X的子集，则A的下近似表示为：$〖POS〗_A=\{x\in〖U｜A｜},∀y∈Y,(x,y)\in 〖IND〗_1(X,Y)→y∈A_Y\}$A的上近似表示为：$NEG_A=\{x∈U|x∈A^C , ∀y∈Y∃x′∈〖POS｜A｜}(x′,y)\in IND_1(X,Y),y∈A_Y\}$其中$〖IND〗_1(X,Y)$是X与Y之间的条件最小化依赖关系，$A^C$表示A的补集。
1.2 粗糙集的属性约简属性约简是粗糙集理论的一个重要应用之一。
约简是指从原始数据中排除无用信息以减少数据的复杂度，并保证信息的完整性和可靠性。
属性约简是指在原始属性集合中，找出能够尽量多地保存与决策集相关依赖关系的最小属性子集。
粗糙集属性约简通过粗糙集下近似、下近似核以及属性重要性的定义和计算，来实现属性约简。
二、基于粗糙集理论的分类方法基于粗糙集理论的分类方法是通过构建决策表来实现的。
决策表是一种可以清晰表达出属性与决策之间联系的数据集表示方式，由属性集和决策集组成。
2.1 基本思路基于粗糙集理论的分类方法基本思路是将数据分成不相交的决策类，而将每个决策类逐步划分成两个子类，最终构成一棵决策树，再利用决策树对新数据进行分类。
2.2 树的生成一棵决策树可以通过粗糙集下近似和基本学习算法的结合生成。
下面给出决策树的生成步骤：1）初始化，将根节点定义为整个数据集U，将所有属性作为候选属性。
不完美数据中的知识发现研究综述
不确定数据在普通数据基础上，再加上概率，从而更客观得描述数据的原貌，从这个角 度来讲，这里的概率实际上是增加了数据的完美性；但是，我们加概率是因为数据原貌是不 确定的，是无法以完全确定的方式加以描述的，从这个角度来讲，不确定数据仍然是一种不 完美数据。
表 1 两种粒度的不确定数据
f1
f2
...
fn
不纯数据通常是指数据错误或偏差，而且这种不纯的成分往往有随机因素。不纯数据中 的随机因素是我们想要去除的，而不确定数据中的随机因素是我们要保留、而且利用的；前 者是数据产生和收集过程中意外产生的、或者是无法避免的，而后者往往是刻意产生的。
数据异常是一个比较模糊的说法，通常是相对于正常数据的一个概念，换言之，先存在 一个正常数据，才会通过比较之后发现异常数据。问题在于，很多时候，数据是否正常是人 们根据主观判断和经验获得，因此这种异常数据一般是指超出人们预期的情况。异常数据可 能、但并不总是错误数据，在某些领域中（如，入侵检测[36]），发现的异常数据需要引起人 们更多的重视、具有更高的价值。
z 参数迁移：发现两个领域中可以共享的参数信息，继而用于迁移[15][16][19]；
z 关系知识迁移：在两个领域中建立关系知识影射，继而用于迁移[17][18]。
对应图 1，实例和特征表示迁移属于中观粒度，参数和关系知识迁移主要是围绕整个数 据集内在的属性，因此应该属于宏观粒度。上述分类基本涵盖了目前的主流研究方向，虽然 在机器学习、数据挖掘、自然语言处理、互联网等相关领域不断涌现出各种新的理论和方法， 但是对于迁移背后的机理、迁移的反效果（也就是负迁移，Negative Transfer）、迁移的关 键应用（Killer Application）等方面的研究尚未完善。
第1章 数据挖综述
2020/6/18
第1章 数据挖掘综述
1.2.4 数据挖掘和数据仓库
➢ 大部分情况下，数据挖掘都要先把数据从数据仓库中拿到数据 挖掘库或数据集市中（见图1-1）。
图1-1 数据挖掘从数据库中得出
如果数据在导入数据仓库时已经清理过，很可能在做数据挖掘时就没必 要再清理一次，而且所有的数据不一致的问题都已经被解决了。
数据进化的阶段
进化阶段
数据搜集
数据访问
表1-1 数据进化的四个阶段
时间段
60年代
技术支持
计算机， 磁带等
生产厂家
IBM, CDC
产品特点
提供静态 历史数据
80年代
关系数据库， 结构化查询 语言SQL
OracleSybase, Informix,IBM, Microsoft
在纪录中动态 历史数据信息
数据仓库 数据挖掘
90年代
联机分析处理， 多维数据库
Pilot, Comshare, Arbor,Cognos, Microstrategy
在各层次提供 回溯的动态的 历史数据
正在流行
高级算法， 多处理系统，海 量算法
Pilot,Lockheed, IBM, SGI, 其他初创公司
可提供预 测性信息
2020/6/18
第1章 数据挖掘综述
人工神经网络
训练过度 的“模型”对训练集会有很高的准 确率，而一旦离开训练集应用到其他数据，很 可能准确度急剧下降。为了防止这种训练过度 的情况，必须知道在什么时候要停止训练。
➢ 图1-5中的曲线可以帮我们理解为什么利用测试集能防止训练过 度的出现。在图1-5中可以看到训练集和测试集的错误率在一开 始都随着训练周期的增加不断降低，而测试集的错误率在达到 一个谷底后反而开始上升，这个开始上升的时刻就是应该停止 训练的时刻。
《基于强化学习的改进模糊C均值聚类算法研究及应用》范文
《基于强化学习的改进模糊C均值聚类算法研究及应用》篇一一、引言在当今大数据时代，聚类算法已成为数据处理与分析的关键工具。
其中，模糊C均值聚类算法（FCM）作为一种经典的聚类方法，广泛应用于图像处理、模式识别、数据挖掘等领域。
然而，FCM算法在处理复杂数据时仍存在一定局限性，如对初始参数敏感、易陷入局部最优等。
为了解决这些问题，本文提出了一种基于强化学习的改进模糊C均值聚类算法，旨在提高聚类的准确性和鲁棒性。
二、相关研究综述2.1 模糊C均值聚类算法概述模糊C均值聚类算法是一种基于划分的聚类方法，通过优化目标函数实现数据点的模糊划分和聚类。
该算法可以处理具有不确定性和模糊性的数据，具有较好的聚类效果。
然而，FCM算法对初始参数敏感，且易受局部最优解的影响。
2.2 强化学习在聚类中的应用强化学习是一种通过试错学习最优策略的方法，适用于解决序列决策问题。
近年来，强化学习在聚类领域得到了一定的应用，如用于优化聚类中心的选择、调整聚类参数等。
将强化学习与FCM算法相结合，可以提高聚类的效果和鲁棒性。
三、改进的模糊C均值聚类算法3.1 算法思路本文提出的改进算法基于强化学习，通过学习过程优化FCM 算法的参数和聚类中心。
首先，利用强化学习框架定义聚类任务为序列决策问题；然后，通过智能体（Agent）与环境（即数据集）的交互，学习最优的聚类策略；最后，根据学习得到的策略优化FCM算法的参数和聚类中心。
3.2 算法实现具体实现过程中，采用深度Q网络（DQN）作为智能体的学习器，通过神经网络拟合Q值函数。
在每个时间步，智能体根据当前状态选择一个动作（即调整参数或聚类中心），然后观察环境的反馈（即聚类效果），并更新Q值函数。
经过多次迭代学习，智能体将学会如何优化FCM算法的参数和聚类中心，从而提高聚类的准确性和鲁棒性。
四、实验与分析4.1 实验数据与评价指标为了验证改进算法的有效性，本文使用UCI机器学习库中的数据集进行实验。
数据挖掘方法综述
收稿日期:2003-09-281 作者简介:郭秀娟(1961～),女,吉林省德惠市人,副教授,在读博士研究生.文章编号:100920185(2004)0120049205数据挖掘方法综述郭 秀 娟(吉林建筑工程学院计算机科学与工程系,长春 130021)摘要:数据挖掘方法结合了数据库技术、机器学习、统计学等领域的知识,从深层次挖掘有效的模式.数据挖掘技术的常见方法,关联规则、决策树、神经网络、粗糙集法、聚类方法、遗传算法和统计分析方法被应用到各个领域,数据挖掘技术具有广泛的应用前景.关键词:数据挖掘;挖掘工具;挖掘方法;挖掘理论中图分类号:N 37 文献标识码:A 数据挖掘(Data Mining )是从大量的、不完全的、有噪声的、模糊的和随机的数据中,提取隐含在其中的、人们事先不知道的,但又是潜在有用的信息和知识的过程[1-2].人们把原始数据看作是形成知识的源泉,就像从矿石中采矿一样,原始数据可以是结构化的,如关系数据库中的数据,也可以是半结构化的,如文本、图形、图像数据,甚至是分布在网络上的异构型数据.发现知识的方法可以是数学的,可以是非数学的,也可以是演绎的或是归纳的.发现了的知识可以被用于信息管理、查询优化、决策支持、过程控制等,还可以用于数据自身的维护.可以说数据挖掘是一门很广义的交叉学科,它汇聚了不同领域的研究者,尤其是数据库、人工智能、数理统计、可视化、并行计算等方面的学者和工程技术人员[2].数据挖掘技术从一开始就是面向应用领域,它不仅是面向特定数据库的简单检索查询调用,而且,要对数据进行微观、中观乃至宏观的统计、分析、综合和推理,以指定实际问题的求解,企图发现事件间的相互关联,甚至利用已有的数据对未来的活动进行预测.1 数据挖掘的方法 研究的对象是大量的隐藏在数据内部的有用信息,如何获取信息是我们所要解决的问题.数据挖掘从一个新的角度把数据库技术、人工智能、统计学等领域结合起来,从更深层次发掘存在于数据内部新颖、有效、具有潜在效用的乃至最终可理解的模式.在数据挖掘中,数据分为训练数据、测试数据和应用数据3部分.数据挖掘的关键是在训练数据中发现事实,以测试数据作为检验和修正理论的依据,把知识应用到数据中.数据挖掘利用了分类、关联规则、序列分析、群体分析、机器学习、知识发现及其他统计方法,能够通过数据的分析,预测未来.数据挖掘有以下几种常用方法:111 关联规则挖掘 1993年,R 1Agrawal 等人首先提出了关联规则挖掘问题,他描述的是数据库中一组数据项之间某种潜在关联关系的规则.一个典型的例子是:在超市中,90%的顾客在购买面包和黄油的同时,也会购买牛奶.直观的意义是:顾客在购买某种商品时有多大的倾向会购买另外一些商品.找出所有类似的关联规则,对于企业确定生产销售、产品分类设计、市场分析等多方面是有价值的.关联规则是数据挖掘研究的主要模式之一,侧重于确定数据中不同领域之间的关系,找出满足给定条件下的多个域间的依赖关系.关联规则挖掘对象一般是大型数据库(Transactional Database ),该规则一般表示式为:A 1∧A 2∧…A m =>B 1∧B 2∧…B m ,其中,A k (k =1,2,…,m ),B j (j =1,2,…,n )是数据库中的数据项.有Support (A =>B )=P (A ∪B ),Confidence (A =>B )=P (A|B )1数据项之间的 第21卷 第1期2004年3月吉 林 建 筑 工 程 学 院 学 报Journal of Jilin Architectural and Civil Engineering Institute Vol.21 No.1Mar 12004 05吉 林 建 筑 工 程 学 院 学 报第21卷关联,即根据一个事务中某些数据项的出现可以导出另一些数据项在同一事务中的出现[3-4].在关联规则挖掘法的研究中,算法的效率是核心问题,如何提高算法的效率是所要解决的关键.最有影响的是Apriori算法,它探查逐级挖掘,Apriori的性质是频繁项集的所有非空子集都必须是频繁的.112 决策树方法 决策树(decision tree)根据不同的特征,以树型结构表示分类或决策集合,产生规则和发现规律.利用信息论中的互信息(信息增益)寻找数据库中具有最大信息量的字段,建立决策树的一个结点,再根据字段的不同取值建立树的分枝.在每个分枝子集中,重复建立树的下层结点和分枝的过程,即可建立决策树.决策树起源于概念学习系统CL S(Concept Learning System)[5],其思路是找出最有分辨能力的属性,把数据库划分为多个子集(对应树的一个分枝),构成一个分枝过程,然后对每一个子集递归调用分枝过程,直到所有子集包含同一类型的数据.最后得到的决策树能对新的例子进行分类.CL S的不足是它处理的学习问题不能太大.为此,Quinlan提出了著名的ID3学习算法[6],通过选择窗口来形成决策树.从示例学习最优化的角度分析,理想的决策树分为3种:①叶子数最少;②叶子结点深度最小;③叶结点数最少且叶子结点深度最小.寻优最优决策树已被证明是N P困难问题.ID3算法借用信息论中的互信息(信息增益),从单一属性分辨能力的度量,试图减少树的平均深度,却忽略了叶子数目的研究.其启发式函数并不是最优的,存在的主要问题有:(1)互信息的计算依赖于属性取值的数目多少,而属性取值较多的属性并不一定最优.(2)ID3是非递增学习算法.(3)ID3决策树是单变量决策树(在分枝结点上只考虑单个属性),许多复杂概念表达困难,属性间的相互关系强调不够,容易导致决策树中子树的重复或有些属性在决策树的某一路径上被检验多次.(4)抗噪声性差,训练例子中,正例和反例的比例较难控制.针对上述问题,出现许多较好的改进算法,刘晓虎等在选择一个新属性时,并不仅仅计算该属性引起的信息增益,而是同时考虑树的两层结点,即选择该属性后继续选择属性带来的信息增益.Schlimmer和Fisher设计了ID4递增式算法,通过修改ID3算法,在每个可能的决策树结点创建一系列表,每个表由未检测属性值及其示例组成,当处理新例时,每个属性值的正例和反例递增计量.在ID4的基础上,Utgoff 提出了ID5算法,它抛弃了旧的检测属性下面的子树,从下面选择属性构造树.此外,还有许多算法使用了多变量决策树的形式,著名的C415系统也是基于决策树的.113 神经网络方法 模拟人脑神经元方法,以MP模型和HEBB学习规则为基础,建立了3大类多种神经网络模型,即前馈式网络、反馈式网络、自组织网络.它是一种通过训练来学习的非线性预测模型,可以完成分类、聚类等多种数据挖掘任务.神经网络(neural network)是由大量的简单神经元,通过极其丰富和完善的连接而构成的自适应非线性动态系统,并具有分布存储、联想记忆、大规模并行处理、自组织、自学习、自适应等功能[7].网络能够模拟人类大脑的结构和功能,采用某种学习算法从训练样本中学习,并将获取的知识存储于网络各单元之间的连接权中,神经网络和基于符号的传统A I技术相比,具有直观性、并行性和抗噪声性.目前,已出现了许多网络模型和学习算法,主要用于分类、优化、模式识别、预测和控制等领域.在数据挖掘领域,主要采用前向神经网络提取分类规则.神经网络模拟人的形象直觉思维,其中,最大的缺点是“黑箱”性,人们难以理解网络的学习和决策过程.因此,有必要建立“白化”机制,用规则解释网络的权值矩阵,为决策支持和数据挖掘提供说明,使从网络中提取知识成为自动获取的手段.通常有两种解决方案:①建立一个基于规则的系统辅助.神经网络运行的同时,将其输入和输出模式给基于规则的系统,然后用反向关联规则完成网络的推理过程.这种方法把网络的运行过程和解释过程用两套系统实现,开销大,不够灵活;②直接从训练好的网络中提取(分类)规则.这是当前数据挖掘使用得比较多的方法.从网络中采掘规则,主要有以下倾向:(1)网络结构分解的规则提取.它以神经网络的隐层结点和输出层结点为研究对象,把整个网络分解为许多单层子网的组合.这样研究较简单的子网,便于从中挖掘知识.Fu 的KT 算法和Towell 的MofM 算法是有代表性的方法.KT 方法的缺点是通用性差,且当网络比较复杂时,要对网络进行结构的剪枝和删除冗余结点等预处理工作.(2)神经网络的非线性映射关系提取规则.这种方法直接从网络输入和输出层数据入手,不考虑网络的隐层结构,避免了基于结构分解的规则提取算法的不足.Sestito 等人的相似权值法,以及CSW 算法(将网络输入扩展到连续取值),是其中的两种典型算法.当然,在数据挖掘领域,神经网络的规则提取还存在许多问题,即如何进一步降低算法的复杂度,提高所提取规则的可理解性及算法的适用性,研究提取规则集的评估标准和在训练中从神经网络动态提取规则,以及及时修正神经网络并提高神经网络性能等,都是进一步研究的方向.114 粗集方法粗集(rough set )理论的特点是不需要预先给定某些特征或属性的数量描述[4,8],如统计学中的概率分布,模糊集理论中的隶属度或隶属函数等,而是直接从给定问题出发,通过不可分辨关系和不可分辨类确定问题的近似域,从而找出该问题中的内在规律.粗集理论同模糊集、神经网络、证据理论等其它理论均成为不确定性计算的一个重要分支.粗集理论是根据目前已有的给定问题的知识,将问题的论域进行划分,然后对划分后的每一个组成部分确定其对某一概念的支持度,即肯定支持此概念或不支持此概念.在粗集理论中,上述情况分别用3个近似集合来表示正域、负域和边界.在数据挖掘中,从实际系统采集到的数据可能包含各种噪声,存在许多不确定的因素和不完全信息有待处理.传统的不确定信息处理方法,如模糊集理论、证据理论和概率统计理论等,因需要数据的附加信息或先验知识(难以得到),有时在处理大量数据的数据库方面无能为力.粗集作为一种软计算方法,可以克服传统不确定处理方法的不足,并且和它们有机结合,可望进一步增强对不确定、不完全信息的处理能力.粗集理论中,知识被定义为对事物的分类能力.这种能力由上近似集、下近似集、等价关系等概念体现.因为粗集处理的对象是类似二维关系表的信息表(决策表).目前,成熟的关系数据库管理系统和新发展起来的数据仓库管理系统,为粗集的数据挖掘奠定了坚实的基础.粗集从决策表挖掘规则,辅助决策,其关键步骤是求值约简或数据浓缩,包括属性约简Wong SK 和Ziarko W 已经证明求最小约简是一个N P hard 问题[9].最小约简的求解需要属性约简和值约简两个过程,决策表约简涉及到核和差别矩阵两个重要概念.一般来讲,决策表的相对约简有许多,最小约简(含有最小属性)是人们期望的.另一方面,决策表的核是唯一的,它定义为所有约简的交集,所以,核可以作为求解最小约简的起点.差别矩阵突出属性的分辨能力,从中可以求出决策表的核,以及约简规则.借助启发式搜索解决,苗夺谦等人从信息论的角度对属性的重要性作了定义,并在此基础上提出了一种新的知识约简算法M IBAR K ,但其对最小约简都是不完备的.此外,上述方法还只局限于完全决策表.Marzena K 应用差别矩阵,推广了等价关系(相似关系)、集合近似等概念,研究了不完全决策表(属性的取值含有空值的情况)的规则的发展问题,从而为粗集的实用化迈出了可喜的一步.Marzena K 还比较了几种不完全系统的分析方法,得出如下结论:①一个规则是确定的,如果此规则在原不完全系统的每个完全拓展中是确定的;②删除从不完全决策表包含空值的对象后,采掘的知识可能成为伪规则.粗集的数学基础是集合论,难以直接处理连续的属性.而现实决策表中连续属性是普遍存在的,因此,连续属性的离散化是制约粗集理论实用化的难点之一,这个问题一直是人工智能界关注的焦点.连续属性的离散化的根本出发点,是在尽量减少决策表信息损失的前提下(保持决策表不同类对象的可分辨关系),得到简化和浓缩的决策表,以便用粗集理论分析,获得决策所需要的知识.最优离散化问题(离散的切点数最少)已被证明是N P -hard 问题,利用一些启发式算法可以得到满意的结果.总体上讲,现有15 第1期郭秀娟:数据挖掘方法综述25吉 林 建 筑 工 程 学 院 学 报第21卷离散化方法主要分为非监督离散化和监督离散化.前者包括等宽度(将连续值属性的值域等份)和等频率离散化(每个离散化区间所含的对象相同).非监督离散化方法简单,它忽略了对象的类别信息,只能用在属性具有特殊分布的情况.针对上述问题,监督离散化方法考虑了分类信息,提高了离散效果.目前,比较有代表性的监督离散化方法有以下几种:①Holte提出了一种贪婪的单规则离散器(one rule dis2 cretizer)方法;②统计检验方法;③信息熵方法等.这些方法各有特点,但都存在一个不足,即每个属性的离散化过程是相互独立的,忽略了属性之间的关联,从而使得离散结果中含有冗余或不合理的分割点.针对这个问题,有人给出了一种连续属性的整体离散化方法,实验表明,不仅能显著减少离散化划分点和归纳规则数,而且提高了分类精度.连续属性离散化目前还存在的问题是缺乏递增的离散化方法,即当新的对象加入决策表时,原有的分割点可能不是最优或最满意的.粗集理论和其它软计算方法的结合,能够提高数据挖掘能力.Mohua Banerjee等利用集理论获得初始规则集,然后,构造对应的模糊多层神经网络(规则的置信度对应网络的连接权)[10],训练后可得到精化的知识.粗集与其它软计算方法的集成是数据挖掘的一种趋势.目前,基于粗集的数据挖掘在以下方面有待深化.(1)粗集和其它软计算方法的进一步结合问题;(2)粗集知识采掘的递增算法;(3)粗集基本运算的并行算法及硬件实现,将大幅度改善数据挖掘的效率.已有的粗集软件适用范围还很有限.决策表中的实例数量和属性数量受限制.面对大量的数据,有必要设计高效的启发式简化算法或研究实时性较好的并行算法;(4)扩大处理属性的类型范围,实际数据库的属性类型是多样的,既有离散属性,也有连续属性;既有字符属性,也有数值属性.粗集理论只能处理离散属性,因此,需要设计连续值的离散算法.115 遗传算法遗传算法(G A:genetic algorithms)是模拟生物进化过程,利用复制(选择)、交叉(重组)和变异(突变)3个基本算子优化求解的技术.遗传算法类似统计学,模型的形式必须预先确定,在算法实施的过程中,首先对求解的问题进行编码,产生初始群体,然后计算个体的适应度,再进行染色体的复制、交换、突变等操作,优胜劣汰,适者生存,直到最佳方案出现为止.遗传算法在执行过程中,每一代都有许多不同的种群个体同时存在,这些染色体中个体的保留与否取决于它们对环境的适应能力,适应性强的有更多的机会保留下来,适应性强弱是由计算适应性函数f (x)的值决定的,这个值称为适应值(fitness).适应函数f(x)的构成与目标函数有密切的关系,这个函数基本上是目标函数的变种.应用遗传算法解决实际问题,存在以下几方面的问题:(1)编码.把问题参数按某种形式进行编码形成个体,一组个体构成一个种群,编码是一项有创造性的工作,也是遗传算法应用的关键.(2)适应值函数.适应值是对种群中每个个体的评价.它涉及到的问题包括:问题的目标函数的确定、目标函数到适应值函数的映射、适应值函数调整等.(3)交叉.以一定概率P c,对两个个体进行交叉.好的交叉策略能够使种群迅速收敛到最优解.(4)变异.以一定概率P c,对个体上的某种基因(对应于位串上的某位)进行改变.变异是使当前种群进化的必不可少的条件.遗传算法的研究方向遗传算法是多学科结合与渗透的产物,它已发展成为一种自组织、自适应的综合技术,广泛应用在计算机科学、工程技术和社会科学等领域[11].它的研究工作主要集中在以下几个方面:(1)基础理论.包括进一步发展遗传算法理论的数学基础,从理论和试验方面研究它们的计算复杂性.怎样阻止过早收敛也是人们正在研究的问题之一.(2)分布并行遗传算法.遗传算法在操作上具有高度的并行性,许多研究人员都在探索在并行机和分布式系统上高效执行遗传算法的策略.(3)分类系统.分类系统是基于遗传算法的机器学习中的一类,它包括一个简单的基于串规则的并行生成子系统、规则评价子系统和遗传算法子系统.分类系统正在被人们越来越多地应用于科学、工程和经济领域中,是目前遗传算法研究领域中一个非常活跃的领域[12].(4)遗传神经网络.它包括联接权、网络结构和学习规则的进化.遗传算法与神经网络相结合,成功地从时间序列分析来进行财政预算.Muhienbein 分析了多层感知机网络的局限性,并预测下一代神经网络将会是遗传神经网络.(5)进化算法.模拟自然进化过程可以产生鲁棒的计算机算法———进化算法.除上述方法外,还有把数据与结果转化和表达成可视化形式的可视化技术、统计分析方法、云模型方法和归纳逻辑程序等方法[13].2 结语 数据挖掘算法是对上述挖掘方法的具体体现.数据挖掘研究具有广泛的应用前景,它既可应用于决策支持,也可应用于数据库管理系统(DBMS )中.数据挖掘作为决策支持和分析的工具,可以用于构造知识库,在DBMS 中,数据挖掘可以用于语义查询优化、完整性约束和不一致检验.参 考 文 献 [1]Han J ,K ambr M.Data Mining :Concepts and Techniques 〔M 〕.Beijing Higher Education Press ,2001. [2] 张 伟,廖晓峰,吴中福1一种基于遗传算法的聚类新方法〔J 〕1计算机科学,2002,29(6):114-1161 [3]Agrawal R ,Mannila H ,Srikant R ,et al.Fast discovery of association rules :Advances in knowledge discovery and data mining 〔M 〕.California :MIT Press ,1996:307-328. [4]Sanjay Soni Unisys ,Zhaohui Tang Microsoft Corporation ,Jim Y ang Microsoft Corporation Performance Study of Microsoft Data Mining Algorithms August ,2001. [5] 唐华松,姚耀文1数据挖掘中决策树算法的探讨〔J 〕1计算机应用研究,2001,(8):18-221 [6] 李德仁,王树良,李德毅,王新洲1论空间数据挖掘和知识发现的理论与方法〔J 〕1武汉大学学报・信息科学版,2002(6):221-2331 [7] 周志华,陈世福1神经网络集成〔J 〕1计算机学报,2002(6):587-5901 [8] 李永敏,朱善君等1基于粗糙理论的数据挖掘模型〔J 〕1清华大学学报(自然科学版),1999,39(1):110-1131 [9]Pawlak Z.Rough Set Theory and its Applications to Data Analysi 〔J 〕.Cybernetics and syst ,1998,29(7):661-688. [10]Tsumoto S.Automated discovery of positive and negative knowledge in clinical database based on rough set model 〔J 〕.IEEE EMB Mag 2azine ,2000,19(4):415-422. [11] 糜元根1数据挖掘方法的评述〔J 〕1南京化工大学学报,2001(9):105-1091 [12] 吉根林,帅 克,孙志辉1数据挖掘技术及其应用〔J 〕1南京师大学报(自然科学版),2000,23(2):25-271 [13] 李德毅,史雪梅,孟海军1隶属云和隶属云发生器〔J 〕1计算机研究与发展,1995,42(8):32-411Summary of Data Mining MethodsGUO Xiu 2juan(Depart ment of Com puter Engineering ,Jilin A rchitectural and Civil Engineering Institute ,Changchun 130021)Abstract :The good methods and technologies of data mining may get excellent knowledge.This paper presents an overview on data mining methods.First ,the concept of data mining is discussed.Then ,this paper de 2scribes the theories and technologies on data mining ,such as relational rules ,decision tree ,neural network ,rough sets ,clustering analysis ,genetic algorithms ,and statistics analysis.Finally ,how to study data mining is forecasted.K eyw ords :data mining ;mining tools ;mining methods ;data mining theories 35 第1期郭秀娟:数据挖掘方法综述。
数据挖掘技术的应用研究综述与启示——在会计舞弊识别研究中的应用
— —
曼 鱼 ￡ 塞 量 匠 曼△ △ 璺 韩学鸿 贾瑞敏 （ 河北经贸大学信息技术 学院石家庄 ；天津财经大学天津）
数据挖掘技 术的应 用研 究综述 与启示
上非常有 效 ，并建议 审计师在 审计初 始阶段 的识别 具有较 高的准确率 ，是一 种具有现 实 使用 该模型。Ｆ ｎ ｉｇ ｏ ｇ ｒ（９ ８ 利用人 可 操作性 的舞 弊识别 方法 。岳殿 民（ ０ ８ 采 ａ ｎ ｎ 和Ｃ ｇ ｅ １ ９ ） ２ ０） 对这些 海量 的，存储 形式各 异的数据 资料 ， 工神经 网络建立 了基于 八个变 量的管 理舞弊 用 关联规则 挖掘方 法深入 挖掘会 计舞弊模 式 数 据 挖 掘 技 术 则 脱 颖 而 出 成 为从 这 些 数 据 中 识 别模型 ，并通 过与其 他判别 分析和逻 辑 回 关联特征 ，用Ａ ｒ ｏ ｉ ｐ ｉｒ Ｐ 两种算法 ｐ ｉｒ 和Ａ ｒ ｏ ｉ Ｔ 发掘有 用信 息的有效 方法。 目前 ，数据 挖掘 归模 型进行 的比较发现该模型更有效 。Ｅ ｓ ｎ 找 出 上 市 公 司 使 用 的 舞 弊 手 段 间 的 强 关 联 规 ｈ ａ 技 术 已不断的应 用于 不同的领域 ，本 文主要 等 （ｏｏ 采用 人工神 经网络方 法检验红 旗标 则 ，并对这些 规则进 行解释 ，给 出舞 弊识别 ２ｏ ） 对 会计舞 弊识别 中运 用该 方 法的相关研 究进 志 的预测 能力 ，研 究表 明人工神 经 网络模 型 方法。 行 了回 顾 与 评 述 ， 并 分 析 了数 据 挖 掘 方 法 在 的识 别 率 为 ８ ％ 而 且 证 明 了财 务 红旗 标 志 和 １， 三 、简单评述与分析 识 别会计舞弊 中的优势和未来的应用前景。 非财务红旗 标志有 很好的预测能力 。 常规 的统计 学方法 大多需要 根据现 有的 关键词 ：数据挖掘；会计舞弊：识别 人 工神经 网络 的应 用除 了一般 自适应 神 经济理 论建立假 设 ，然 后通过大 量 的数 据和 前言 经 网络 结构 （Ａ Ｎ ） Ｇ Ｎ Ａ 和逻辑 网络 （Ｌ ） Ａ Ｎ ，还 包 模 型来检 验其假 设的有效 性 。由于使用 的研 数据挖掘 （ａ ａ Ｍ ｎ ｎ ） Ｄ ｔ ｉ ｉ ｇ 的定义是多种多 括与 人工 神经 网络 集成 的模 糊规 则 。Ｌ ｎ ｉ 等 究假设和 模型均来 源于研 究者对 客观环 境的 样 的，但基本 上可 以将其看 作是从 大量 的、 （０ ３ 证 实集成 的模糊神经 网络 的效果 比先 观 察和分 析， 因此 很难避 免研究 者主观 判断 ２０ ） 不 完 全 的 、有 噪 声 的 、 模 糊 的 、 随 机 的 数 据 前研究所 采用 的人工神 经网络 及大 多数的统 对研 究过程的影 响。 而数据挖 掘方法无 需事 中 ， 提 取 隐 含 在 其 中 的 、 人 们 事 先 不 知 道 计 模 型 更 好 。 先 建立假 设和模型 ，避免 了主观 因素对研 究 的 、但 又是潜在 有用 的、可 以理解 的信 息和 除 了 利 用 某 种 数 据 挖 掘 方 法 进 行 研 的影响 ，弥补 了上述 不足 。另外 ，数 据挖掘 知识 的过程 。简单的说 ，数据挖 掘就 是从大 究 外 ，下 面 的几 篇 文 章则 采 用 几种 挖 掘 方 方法对 数据 的要求不 苛刻 ，避免 了常规统计 量数据 中提取或 发现有 价值 的信 息和 知识 。 法 相 结 合 的方 式 进 行 了不 同 的 研 究 。 Ｓ ｎ 方法使 用 的局 限性 、例如 ，在会计舞 弊识别 ｕ 数 据 库 中 的 知 识 发 现 （ｎ ｗ ｅ ｇ Ｄ ｃ ｖ ｒ 和Ｌ ｅ ２ ０ ） 对公 司为 样 本 ，选取 了 Ｋｏ ｌｄｅ ｉ ｏ ｅｙ ｓ ｅ （ ０ ６ 以１ ５ ３ 中运用较多 的Ｔ 检验 ，线 性回归要求数据符合 ｉ Ｄ ｔ ｂ ｓ ， Ｋ Ｄ 通 常 可 以 和 数 据 挖 掘 互 ３ 个 财 务 指标 ，综 合 利用 面 向属性 的归 纳 正态分 布 。逻 辑回归对 自变量 要求严格 ，自 ｎ ａａ ａｅ Ｄ） ５ 换。 法 、 信息 增 益 法 和 决策 树 模 型来 预 测 财 务 变量越多样本数也要相应增加 ，一般 为１ 一 Ｏ Ｏ ２ 目前 ， 数 据 挖 掘 技 术 已 不 断 的 应 用 于 不 困 境 。研 究 结 果 表 明数 据 挖掘 方 法 是 识 别 倍 ，且 要 求 自变 量 无 共 线性 ，不 存在 自相 同的领域 ，诸如农业 、金融 业 、互 联网及 医 舞 弊财 务 报 告 的切 实 可 行 且有 效 的 方 法 。 关。数据挖掘方法则可 以弥补这些缺 陷。 学等 。 Ｋ ｒ ｏ ， ｐ ｔ ｉ 和 Ｍ ｎ ｌｐ ｕ ｏ （０ ７ 比较 ｉｋｓＳａｈｓ ａ ｏ ｏ ｏ ｌ ｓ２ ０ ） 表 １ 示 了本文 所搜 集整 理 的 国内外 文 列 （ ）数据 挖掘技 术在 农业 中主要用 来 了决策 树、神 经网络和 贝叶斯 网络识 别舞弊 献 使用不同数据挖掘方法 的情况 。从表 １ 一 可以 分析 农产 品市场信息 及预测 农产 品价格变化 财 务报 告的有 效性 ，模 型 的输 入变量 来 自财 看 到，数据 挖掘 方法作为 一种会 计舞弊 识别 趋势。 务报告 中的 比率，结果 表 明贝叶斯 网络模型 方 法在 国内的应用 还 比较 少 ，但是 除 了神经 （ ）数据 挖掘技 术在金 融业 中主要用 的效果 更好 ，数 据挖掘 方法使 审计人 员的工 网络方法外 其他方 法的应 用弥补 了国外 的不 二 于 投 资 预测 及 欺 诈 甄 别 。 作 变 得 更 容 易 。 Ａ ａ Ｓ ｙ ｅ ２ ０ ） 合 应 用 足 。 总 体 而 言 ，神 经 网 络 是 应 用 最 广 泛 的挖 ｔ 和 ｅ ｒ ｋ（０ ９ 综 （ ） 数 据 挖 掘 技 术 在 互 联 网 中主 要 用 决 策树和神 经 网络 模型检 验财 务指标 的预警 掘 方 法 。 除 了 表 中 所 列 的 ５ 挖 掘 方 法 外 ， 三 种 于信 息检 索 及 网络 安 全 管 理 。 能 力，结果 证实 资产负债 率和 资产报酬 率是 粗糙 集 、遗传 算法等 数据挖 掘方法 未得到应 （ ） 数 据 挖 掘 技 术 在 医 学 中 主 要 用 于 制造 业上市 公司舞 弊的重 要征兆 ，其他 的指 用 。因此 ，数 据挖掘 方法在 今后 的研 究 中还 四 ＤＡ 测及疾病诊断。 Ｎ监 标还 有存货 占总 资产 比重 、财务 费用 占营业 有很 大的发展 空 间。尝试使 用新 的方法 ，找 随着会 计研 究方法 的发展 ，数据挖 掘技 成本的 比重以及流动比率等 。 到会 计舞弊识 别 的更 有效方 法可 以作为未来 术 逐 渐 被 运 用 到 了 会 计 领 域 中 。 由 于 上 市 公 国 内学 者 应 用 数 据挖 掘 技 术 识 别 会 计 的一个研 究方向。 ’ 司 的 定 期 财 务 报 告 包 含 了大 量 反 映 公 司 经 营 舞弊相 对 国外来说较 晚一 些。刘 君，王里 平 业 绩 和 财 务 状 况 的 数 据 ，各 方 利 益 相 关 者 希 （０ ６ 以３ 家上市 公司的 １４ ２０ ） ６ ４ 组财务指标 和 参考文献 望 能 从 这 些 数 据 中 获 得 真 实 有 用 的 信 息 。 数 股本结 构指标为样 本， 采用径 向基概率神 经 ［］ Ｂ Ｐ Ｇ Ｅ Ｎ ａ ｄ ． ｎ Ｃ Ｏ ， １ ． ． Ｒ Ｅ ， ｎ Ｊ ． ＨＩ “ ｅｓ ｎ ｔ Ｒｉ ｋ ｏ Ｍａ Ａｓ ｓｉ ｇ ｓ ｈｅ ｆ ｓ ｎａｇ ｍｅｎｔ ｅ 据 挖 掘 技 术 作 为 一 种 发 现 知 识 的工 具 ， 能 够 网络 的方法建 立 了财 务舞 弊识别模 型 。经 过 从 大量的数据 中提取 有用 的信 息 ，因而逐 步 对 样 本 的训练 和 学 习， 现其 预测 精度 比一 Ｆｒ ａｕ ｄ ｔｈ ｒｏｕ ｇｈ Ｎｅ ｕ ｒａ Ｉ Ｎｅ ｔｗ ｏ ｒｋ 发 ｃ ｏ１ ｙ ｕｄ ｔｉ ： ｏ ｒｎ ｆ ｉ 被 会 计 研 究 人 员 关 注 。 本 文 主 要 探 讨 其 在 会 般 的线性 模型更 高。翟剑 虹 （０ ７ 使用聚类 Ｔｅ ｈｎ ｏｇ ” ． Ａ ｉ ｒｇ Ａ Ｊ ｕ ａｌ ｏ ２ ０） ｃｔｉ ｅ ｄ ｏｒ ｏ１ ６， Ｎ ｏ．１ ， 计 舞 弊 识 别研 究 中 的应 用 。 算 法 ， 并 根 据 聚 类 结 果 选 择 分 类 器 的 训 练 样 Ｐｒａ ｃ ａｎ Ｔｈｅ Ｙ， Ｖ ．１ 二 、文 献 回 顾 ７ Ｐ ．１ ９ ８ 本 ，提 高 了 上市 公 司 财 务舞 弊 识 别 的 准确 １ ９ ， Ｐ ４—２ ． 数据挖 掘方 法一般包 括关 联规则 、决策 率 ，训练样本的准确率 为８ ．％，测试样本 的 ［】 Ｅ ｈ ｒ ｄ ｅ ｎ ａ ｄ ｒ ｏ ｓ Ｒ ， ２ ｔ ｅ ｇ ， ． ｎ Ｂ ｏ ｋ ， ． ｉ ５７ “ ｅ ａ１ ｎ ｔ ｒ ｓ ａ ｅ ｔ ｃ ｎ ｏ ｙ ． Ｎ ｕｒ ｅ ｗｏ ｋ ： ｎ ｗ ｅ ｈ ｏ１ ｇ ” 树 、聚 类 、 基 于 样 例 的 学 习 、 贝 叶 斯 学 习 、 准 确 率 为 ７ ． ％ 。 田金 玉 ， 聂 丹 丹 （０ ８ 以 ９６ ２０ ） ｅ Ｐ Ｊｏ ｒ ｕ ｎａ１ ， ６ ， ３ Ｍａｒ ｈ １ ４ ４ ， ｃ ９ ， ９ 粗 糙 集 、 神 经 网 络 和 遗 传 算 法 等 。 从 本 文 搜 ¨ ６ 上 市 公 司 为 研 究 样 本 ， 依 据 主 成 分 分 Ｔｈ
不确定数据的高效聚类算法
２ ｋ ｄ树
ｋ ｄ树是 一种 空 间索 引结构 ， 示空 间 的维数 ，ｄ树 中的每 一个 节 点都 是 ｋ维 的数据 点 。ｋ ｋ表 ｋ ｄ树是 在
第 ２ 期
李云飞等 ： 不确定数据 的高效 聚类算法
很 多应 用 中都会 被用 到 的一种 数据 结构 ， 如关 键 字 的搜索 、 近邻 的查 询等 。 ｄ树 的每一 个结 点通过 检测 最 ｋ
用 在数 据分 析 、 图像 处理 及 市场研 究 等领域 ［ 。随 着对 聚类 研 究的深 入 ， １ ］ 最近 一些 研 究者 又提 出 了不 确 定 数 据 的聚类 ， 是 由于生 活 中不确 定 数据 的存 在及 在实 际应 用 的重 要意 义 ［ ］ 这 ２ 。数 据 的不 确 定性 研 究大 致
Hale Waihona Puke 经典 的点 对象 的聚 类 问题 （ 置 确定 ） 我 们就 能通 过 用对象 ０ 的期 望 中心 作 为输 入 点 ， 其 利用 经 典 的 位 ， 对 Ｋ 均值 算法 进行 聚类 。其 基本算 法 如下 ： ① 计 算每 个对 象的期 望 中心 ｋ
② 给 每个 簇 （ Ｃ） ｃ 到 ｋ 的质心 赋初值
可 以分 为两 类 ： 一类 是基 于值 的不 确 定性 的研 究 。这种 类型 的数 据 项被 建模 成一个 封 闭 的区域 ， 这个 区域
和 一个 概率 密度 函数 共 同限制 了它 的可能值 。这个 模 式可 以用 来量 化不 断变 化 的环 境 中那 些 定位数 据 和 传感 器 数据 的不 精确 性 。另一类 是基 于 存在 不确 定性 的研 究 。 如 ， 系数据 库 中的 一个元 组 可能与 一个 例 关 概率 值 相关 联 ， 而这个 概 率值 就直 接关 系到 这个 元 组 的置信 度 。 这种 “ 概率 数 据库模 式 ” 已经 被 应用于 半 结 构化 数 据和 ＸＭＬ 中 。本 文研 究 的是基 于值 的不 确 定性 。
数据挖掘中的层次聚类算法原理解析
数据挖掘中的层次聚类算法原理解析数据挖掘作为一门研究数据分析和提取有价值信息的学科，在现代社会中扮演着重要的角色。
而在数据挖掘的过程中，聚类算法是一种常用的技术，它能够将相似的数据对象归类到同一个簇中。
层次聚类算法作为聚类算法中的一种，具有独特的优势和特点。
本文将对层次聚类算法的原理进行解析。
层次聚类算法是一种自底向上或自顶向下的聚类方法，它通过计算数据对象之间的相似度或距离，将数据对象逐步合并或分裂，最终形成一个层次化的聚类结果。
在层次聚类算法中，主要有两种常见的方法：凝聚层次聚类和分裂层次聚类。
凝聚层次聚类是一种自底向上的方法，它从每个数据对象作为一个独立的簇开始，然后通过计算相似度或距离，将最相似的簇逐步合并，直到达到预设的聚类数目或满足某个停止准则。
凝聚层次聚类的核心思想是通过合并相似的簇来形成更大的簇，直到所有的数据对象都被合并为一个簇或达到停止准则。
分裂层次聚类则是一种自顶向下的方法，它从所有的数据对象作为一个簇开始，然后通过计算相似度或距离，将最不相似的簇逐步分裂，直到达到预设的聚类数目或满足某个停止准则。
分裂层次聚类的核心思想是通过分裂不相似的簇来形成更小的簇，直到每个数据对象都成为一个独立的簇或达到停止准则。
在层次聚类算法中，相似度或距离的计算是一个关键的步骤。
常用的相似度或距离度量方法有欧氏距离、曼哈顿距离、余弦相似度等。
这些度量方法根据数据对象的特点和应用场景的不同，选择合适的距离度量方法对数据进行相似度或距离的计算。
此外，层次聚类算法还需要选择合适的合并或分裂策略。
常见的合并策略有单链接、完全链接和均值链接等。
单链接合并策略是将两个簇中距离最近的两个数据对象进行合并；完全链接合并策略是将两个簇中距离最远的两个数据对象进行合并；均值链接合并策略是将两个簇中所有数据对象的均值作为新簇的中心点。
同样，分裂层次聚类也需要选择合适的分裂策略，常见的分裂策略有最大方差分裂和最大间隔分裂等。
多元数据融合与数据挖掘技术研究
多元数据融合与数据挖掘技术研究随着信息技术的快速发展，数据产生和应用的规模和复杂度也在不断增加。
在这样的背景下，数据融合和数据挖掘技术成为处理海量数据的重要手段。
多元数据融合和数据挖掘技术是近年来热门的研究方向，本文将从多个角度对这一领域进行介绍和探讨。
一、多元数据融合技术数据融合指的是将不同来源、不同形式、不同精度、不同时空分辨率的数据信息进行整合，以达到全面、准确、可靠的目标。
多元数据融合指的是多种类型、多个时间和空间尺度的数据同时进行融合，形成更加全面、准确的综合结果。
多元数据融合技术包括数据预处理、数据匹配、数据配准、缺失值处理、空间插值、时序插值等。
多元数据融合技术可以应用于生态环境监测、水资源管理、自然灾害预测等方面。
二、数据挖掘技术数据挖掘是从大量的数据中，自动或半自动地提取出有用的、隐含的、以前未知的信息和知识的过程。
数据挖掘技术可以通过聚类分析、分类、关联规则挖掘、异常检测、预测建模等方法，对数据进行分析和挖掘。
数据挖掘技术适用于商业决策、社交网络分析、自然语言处理、医学诊断、金融风险管理等领域。
三、多元数据融合与数据挖掘的结合多元数据融合和数据挖掘技术的综合应用可以使得数据的分析和挖掘更为全面、准确、可靠。
他们使得数据处理过程更加高效，可提高决策的准确性、降低风险。
例如，在自然灾害监测中，利用多元数据融合技术融合卫星遥感、气象、水文等数据，然后通过数据挖掘技术来诊断和预测灾害的发生和影响程度，提高对灾害的预防和应对能力。
四、多元数据融合与数据挖掘技术的挑战多元数据融合与数据挖掘技术的研究，还面临着一些挑战。
首先，数据的异构性、不确定性会影响融合和挖掘的精度；其次，对于大数据的处理，算法的效率和实时性是需要考虑的问题；另外，隐私保护和信息安全也必须得到重视。
面对这些挑战，需要继续改进算法、建立标准规范、加强跨学科协同研究，以解决实际领域应用需要的问题。
五、结语多元数据融合和数据挖掘技术的应用前景广阔，涵盖了多个领域。
基于三角模糊数的不确定性数据聚类算法
第44卷第！期 2016年8月浙江工业大学学报JOURNAL OF ZHEJIANG UNIVERSITY OF TECHNOLOGYVol . 44 No . 4 Aug . 2016基于三角模糊数的不确定性数据聚类算法陆亿红，翁纯佳(浙江工业大学计算机科学与技术学院，浙江杭州310023)摘要：随着对实验精确度要求的不断提高，聚类分析中的不确定性数据聚类也越来越受到关注.然 而经典的不确定数据聚类通常假设其概率密度函数（P D F )等信息是已知的，而现实过程中，这些指 标并没有那么轻易就能获取.考虑到这些情况，可以利用三角模糊数来恰当有效地表示多维不确定 性数据，并采用基于三角模糊数的低计算复杂度的距离计算方法，结合K -m eans 基础聚类方法形 成一种被命名为 U T D K -m eans(U ncertain tria n g u la r fuzzy num ber data K-m eans )的聚类方法，而 它是基于三角模糊数的.实验结果表明：基于三角模糊数的不确定数据聚类是可行的，具有一定的 研究价值.关键词：不确定性数据；三角模糊数；聚类算法中图分类号：T P 3文献标志码：A文章编号= 1006-4303(2016)04-0405-05Research on the clustering algorithm of uncertain databased on triangular fuzzy numberL U Y ih o n g , W E N G Chunjia(College of Computer Science and Technology, Zhejiang University of Technology, Hangzhou 310023, China)A b stra ct : W ith the increase in the requirem ents o f experim ental accuracy , uncertain data clustering m ethod in cluster analysis has more and more a tte n tio n . Classic uncertain data clustering is generally assumed th a t the p ro b a b ility density fu nctio n (P D F ) and other inform a tion is k n o w n , b u t the re a lity of theprocess ,these indicatorsarenot so easily abof th is issue , we use tria n g u la r fuzzy num ber to represent the m ulti-dim ensional uncertain data . and the distance calculation m ethod w ith the low com putational com plexity based on trian gu lar fuzzy num ber is combined w ith K-means m ethod to fo rm a new m ethod called U T D K -means . The experim ental results show th a t the clustering m ethod based on trian gu lar fuzzy num ber is efficient and w o rth y to stu d y .Keyw ords ： uncertain data ； tria n g u la r fuzzy n u m b e r ； clustering a lgorithm近几年来，互联网信息技术不断更新发展，出现 了很多机遇和挑战.而在无线传感器网络[1] (W ire less sensor n e tw o rk , W S N ) 等领域 ，由 于各种缘故引起的不确定性问题，产生出一种新的数据类 型——不确定数据，在实际系统中，随着对结果精确度的要求不断加强，不确定数据也越来越严重地影 响到了系统的可信度和稳定性[2 ].不确定数据的聚 类一般可以划分成两种：一种是存在型的不确定数 据聚类，也就是说关系数据库中的数据元组存在与 否是有一定的概率的，当然不同元组的概率性也是收稿日期=2016-01-11基金项目：水利部公益性行业科研专项（201401044)国家科技支撑计划项目（2012BAD10B01)作者简介：陆亿红（1968—）女，浙江永康人，副教授，硕士，研究方向为数据库应用和数据挖掘，E-mail:lyh®zUt. .•406 •浙江工业大学学报第44卷会相互影响的.另一种是值的不确定性数据聚类，也 就是说元组数目和类型己经确定，但是属性值中存在的有一定的误差，以至于产生不确定信息，一般通 过概率密度函数(也就是P D F)或其他统计量（如协 方差、方差等）进行表示.在不确定数据聚类研究中，一般都是基于P D F建模的不确定性数据（].笔者研 究的是基于值的不确定性但不是基于P D F建模的 不确定性数据.聚类分析属于数据挖掘中的一个热门研究方向，是一种无监督的学习方法（].通过聚类算法可以 将对象集合中相近或者相似的对象聚集到同一个类 中，最后得到几个不同的类划分[5].聚类分析分为基 于划分、基于层次和基于密度等方面，每个领域都有 新突破[6].这几年聚类分析也面临着不确定数据的挑战，因为在研究不确定数据的聚类问题时，传统的 聚类算法已经无法胜任.关于不确定数据聚类，M i-chael C h a u等首先在基于K-m ea ns算法的基础上a(.x)= <u—;^^-----6 # ; #UU—660 其他式中a # (Z，6，u)为三角模糊数；Z和u分别为a的上界和下界；（6—Z)和U—6)分别为a的下限和上 限，6为三角模糊数a的主值，是可能性最大的值.当（u—Z)越大时，三角模糊数a # (Z，6，u)就越模 糊.当Z#6 =u时，a成为了普通意义上的实数.对于任意两个三角模糊数a$# (^肌！，〜），" #，62，u2)，据扩张定理可知，相应的三角模糊数的运算规则[12]为ai (a2 # (? (?，6$ (62，u$ (u2) a$ —a2 # ((i —u2)V 〇，6$ —6"u i —?) a$0a"#(10 ?，6$062，u$0u")a$/ a2 # (Zi/u2,6i/62,u i/Z2)A0a2 #(A0?，A06"，A0u2)A(R且 A>0定理l[i3]设a # (6，u)为一三角模糊数，可将其转化为一个非三角模糊数，即S#Z+"6+u，其中 0#(，6，u).定义2(三角模糊数的距离）对于任意两个三 角模糊数 ai=(Z i，6i,u$) ,a"=(/"，6"，u"),定义,o(a i,a") =[li(rj)—l"(r j) \+\ 61()—62(rj) |+提出了一种不确定聚类算法，即U K-m e a n s算法，S.D.L e e等对U K-m e a n s进行了改进，提出了一个 新的算法，即C K-m e an s算法，之后还有K-medoid 等不确定性聚类改进算法的出现，然而都是采用整 个数据的P D F来表示数据的不确定性（A].事实上，数据完整的P D F是比较难得到的，而很多不确定数 据常常以三角模糊数的形式来表示[i0]，所以笔者专 门研究用三角模糊数来表示的一类不确定数据，并 采用新的三角模糊距离度量，设计出一种复杂度较 低、聚类效果较好的不确定聚类方法:U T D K-means.l相关定义记R+为正实数集，PXR+)为全体正模糊数集，R为实数集，PXR)为全体模糊数集.下面是关于三角模糊数的一些概念.定义l[ii]设a(fX R)，且Z，6，u 为实数，且 0 6#u\6: () —6" 1)\J d i^a:，a")为 a:和 a"之间的 距离[i4].根据定义2，可以计算出两个三角模糊数之间的距离，但是观察可知：计算出来的距离是一个定值，而不是一个新的三角模糊数，在对不确定数据进 行聚类的时候这样的结果很有可能产生较为不精确 的结果，所以有必要定义一种新的三角模糊数距离公式.定义3(三角模糊数的新距离）对于给定的三 角模糊数 a= (6… —;a，6…，6… +3a)，/3= (6" —;3, +3V)，其中6a,,3a,6",（R,在任意 维度J(i#J #心上，这两个三角模糊数之间的距 离有四种可能性，如图i(〜d)所示.在维度j上，当两个数是如图i()所示的相离状态时，可知他们 之间的距离的最大值可表东为\ 6" —6[I+3"+;a \，最小值可表东为\ 6" —6a—3a—;" \;当两个数是 如图K b)所示的相接状态时，可知他们之间的距离 的最大值可表东为\ 6" —6^ +3"+;a \，最小值可 表示为0;当两个数是如图1(c)所示的相交状态时，可知他们之间的距离的最大值可表示为\ 6"—6… +第！期陆亿红，等：基于三角模糊数的不确定性数据聚类算法• 407 •% + |，最小值可表示为0;当两个数是如图1(d )所示的相包含的状态时，可知他们之间的距离的最大值可表示为| — ma ( <4 (为0.综合讨论后可得计算式为，最小值可表示_ 5 I m 4 — m - — — <a | ,m 4 — ；4 > m -(m in # 46〇，m 4 — ；4 # m -(m - ( <4 ( ；a |，| m 4 — m - ( <4 ( | > |■ m 4 — ；4— <a|，| m 4 —m -(<4(| # | H m d # | m — mn |■ ；4 ■ ■ ；4<a <a(1 )(2)(3)式中:H ,.mn 为@维上的三角模糊距离中的下界;H ,.m a x 三角模糊距离中的主值.则两个^维的三角模糊数之< @维上的三角模糊距离中的上界H ,m d < @维上的间的距离H # [Hmn ，Hmd ，0_]可重新定义为H[H ^min ，H ^m id ，H ^m a x ]式（4)为一个新的三角模糊数距离公式，此时计算 出来的三角模糊数之间的距离仍是一个三角模糊 数，相比之前，保留了数据的不确定性.为了将距离度量有效地运用到聚类算法中去， 此时再利用定义3,将H 转换，得到两个三角模糊数 之间的距离，其表达式为_ Hm in I 2 ^D m id I H m ax/ r \D = --------4--------()2 UTDK-means 聚类算法2.1算法描述对N 个^维三角模糊数表示的不确定性数据的 聚类，就是利用新的三角模糊数间的距离定义，基于K -m e a n s 的基本聚类方法，最终找到K 组分别以点4)C @(1<@ # K ，K 为聚类数目）为簇中心的集合 C ,(1# K ).对于聚类结果，一般情况下原则是不同簇成员间的距离则越远越好，C ,集合内各个点 到簇中心q 的距离则是越近越好.U T D K -m eans 算 法就是基于K -m ea ns 算法和新三角模糊数距离公 式结合得到的多维不确定性数据的聚类算法，K 组 簇中心分别表示为ci ，…，Q ，K 个簇分别表示为…，算法描述如下&1) 随机分配初始簇中心，i 至Q 2) Repeat3) For z # 1 to N do 4)计算每一个非中心点到簇中心，的三角糊距离D @，分配距离D 最小的数据点Xz *5) end fo r6) fo r j = 1 to Kdo•408 •浙江工业大学学报第44卷@)重新计算簇C,的中心点<8) end fo r9)簇中心不再改变10) re tu rn C 集正确分类的样本数据点数目与总样本数据点数目之 比，较高的准确率表明聚类结果具有很高准确度.3.2人工数据集系统根据高斯分布生成三类人工数据，平均值2.2 计算复杂度根据上文推导出来的新的三角模糊数距离公式 (5)的组成部分，与经典的不确定数据聚类算法U K-m eans算法进行时间复杂度的比较.UK-m eans 算法的距离公式为'(|| 5—; || ") #[[/(r，*)(Acos* +J0J0Bs'md(C')rdddr(6)式中5 =({，）为簇中心；假设/(r，*)是圆不确定 区域的概率密度函数，（&，〇)为圆心；B#2r(o—g)' A = 2r(h—P)；C =r" ( (h—J) ((o—q).U T D K-m eans和U K-m eans算法虽然采用不同 的距离公式，但是总的来说都是基于K-m eans算法 的，而一般K-m e a n s算法的时间复杂度可表示为o(K〃），〖为算法循环的次数，K为簇的组数，〃为数 据点的个数[14].充分考虑U T D K-m e a n s和U K-m e a n s算法的 各自的距离公式，可以计算出在二维空间它们各自的总 ，表1 .表1两种算法的距离计算量比较Table 1 Comparison about the computing distance of two algori'hms计算步骤UK-means UTDK-means加法89乘法116双重积分10由表1分析可知：在计算两不确定数据点之间的距离时，U T D K-m e a n s所用到的计算量比U K-means用到 的计算 量要小 ，因此整个 算法的 时间复 杂度也是比较小的.运用U T D K-m e a n s算法，不仅 没有对P D F指标的需求，而且有着比较小的时间复 杂度，所以是有较大的研究推广价值的.3实验分析算法由M a tla b实现，运行的硬件环境为In te l (R)C ore(T M)i3-M350 2. 27 G H z C P U，内存为 4G B，硬盘为500 G B，操作系统为W indow s 7.3.1聚类准确度准确率(Accuracy)的定义:对于某个数据集，结果分别为1，2. 5，10,协方差矩阵设为 ，三L0 0. 7」类各有100个数据点，经过不确定化处理后运行U T D K-m eans算法10次，得到的平均准确率为91%.聚类效果图如2所示.~-20 2 4 6 8 10 12 14X图2人工数据集聚类效果Fig. 2 Clustering performance of artificial data set3.3 U C I数据集U C I数据库是一个常用的标准测试数据集，这 个数据库目前共有187个数据集，用其中的某些经 典数据集做实验是比较有说服力的.W in e，I r i s和 G la s s就是属于经典的被广泛使用的U C I数据集，其中I r i s是一种统计数据集，分别对莺尾属植物的 萼片宽度、萼片长度、花瓣宽度和花瓣长度等4种属 性进行统计，总共有150个数据点；W in e数据集统 计了 3种不同意大利葡萄酒的化学分析结果，分为 13种属性，总共有178个数据点；G la s s数据集中通 过10种化学成分的值来描述每一种玻璃，分为10 种属性，总共有214个数据点.表2列出了这3种数 据集的主要特性.表2实验中用到的数据集Table 2 Data set used in the experiment数据集属性数/种数据点/个类别/类Iris41503Wine131783Glass102146对3类U C I数据集进行不确定性处理后分别运行U T D K-m ea ns算法10次，并且将三类数据集分别运行K-m eans算法10次，得到的准确率，并取 其平均数，结果如表3所示.第！期陆亿红，等:基于三角模糊数的不确定性数据聚类算法+409 +表3 UCI数据集聚类效果Table 3 Data set clustering performance %iris glass wine K-m ea ns88 70 69 UTDK-m ea ns90 66 75经过人工生成的数据集和三种经典u c i数据 集对U T D K-m eans算法的反复实验，并由准确率作 为结果指标，可以发现，算法能在较低的时间复杂度 下实现较好的聚类效果.并且S i s和W in e是三维 数据集，G la ss是六维数据集，所以U T D K-m ea ns是 一个基于三角模糊数，支持多维不确定数据集，低时 间复杂度，并且不依赖概率密度函数的聚类算法，有 较大的研究推广价值.4结论基于三角模糊数表示的多维不确定数据，针对 概率密度函数(P D F)等指标信息在很多实际问题中 较难获取的情况，充分利用三角模糊数的不确定性，设计一种新的三角模糊数间的距离，保留其特定的 不确定性，并在此基础之上，提出了U T D K-means-----■种基于三角模糊数的聚类算法.同时分别在经过不确定化的人工数据集和三种不同的U C I数据集上运行U T D K-m eans算法，比较了聚类 结果的准确度的值，得到了比较满意的结果.但由于 算法还是基于划分的聚类方法，所以不能对任意几何形状的数据集进行聚类.所以，可以研究更多不同 形状分布的数据集基础上U T D K-m ea ns算法的运 用情况，看是否能够推广到基于密度的聚类方法等.参考文献：[1]彭字，罗清华，彭喜元.网络化测试体系中不确定性数据处理方法浅析[J].仪器仪表学报，2010,31(1) &29.[]黄美发，景晖.基于拟蒙特卡罗方法的测量不确定性度评定[].仪器仪表学报，2009,30(1) &20-125.[]张亚昕，不确定数据聚类算法研究[].计算技术与自动化.2013,32(2) &0-63.[]曾淦宁，吴国权，徐晓群.多元聚类分析方法在杭州湾水质分析上的应用[J].浙江工业大学学报，2009,37(1): 1419.[]陆亿红.基于聚类的数据流挖掘技术的分析与研究[J].浙江工业大学学报，2007,35 (3): 288-291.[6] RODRIGUEZ A，LAIO A. Clustering by fast search and findof density peaks[J]. Science,2014,344(6191) ； 1492-1496. []任世锦.基于区间数的不确定性数据挖掘及其应用研究[D].杭州：浙江大学，2006:3-29.[]邱志平.不确定参数结构静力响应和特征值问题的区间分析方法[D].长春:吉林工业大学，1994.[9] MICHAEL C, REYNOLD C, BEN K,et al Uncertain datamining：an example in clustering location data[C]//Pacific-a-sia Conference on Advances in Knowledge Discovery j DataMining. Berlin Heidelberg：Springer，2006: 199-204. [10] NGAIWK，KAO B，CHUIC K，et al. Efficient clustering ofuncertain data[C]//Proceedings of the 22nd IEEE International Conference on Data Mining. Hong Kong： IEEE Computer Society, 2006 ： 436-445.[11]李光博，黄德才.基于灰色关联分析的三角模糊多属性决策法[J]. 浙江工业大学学报$2011$39(2):224-227.[12]冉静学.三角模糊数排序方法的研究[J].中央民族大学学报(自然科学版），011，20(4) :37-42.[13]许谦.确定模糊评价综合因素权重的一个方法[J].大学数学，2005,21(1):25- 30.[14] GULLO F，PONTI G，TAGAERLLI A. Clustering uncertain data via K-medoids [C]//International Conference onScalable Uncertainty Management; Berlin Heidelberg：Springer，2008 :229-242.[15]姜艳萍，樊治平.三角模糊数互补判断矩阵排序的一种实用方法[J].系统工程，2002,20(2) 89-92.[16] YUN C H，YANG J. Reducing UK-Means to K-Means[C]//In Proceedings of the 6th IEEE International Conference on Data Mining Omaha：IEEE Computer Science$2007:483-488.(责任编辑：陈石平$)〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0■〇<)〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0■〇<)〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0〇0■〇<)〇0〇0〇0〇0〇0■〇<《浙江工业大学学报》荣获中国科技论文在线优秀期刊一等奖2015年12月《浙江工业大学学报》被教育部科技发展中心评为2014年度“中国科技论文在线优秀期 刊”一等奖.此次共评选出“中国科技论文在线优秀期刊”一等奖111项，二等奖183项.这是我校学报继2013年度获得二等奖之后，首次荣获一等奖，是学报在学术质量提升和数字化建设中 所取得的又一个标志性成果.学术期刊社。
数据挖掘技术综述
2008年第6期牡丹江教育学院学报N o．6，2008 (总第112期)J ouR N A L oF M uD A N J I A N G co L L E G EoF E D ucA T I oN s e“aI N o．112数据挖掘技术综述高翔侯小静(洛阳理工学院，河南洛阳471003)[摘要]在对数据仓库与数据挖掘的概念及数据挖掘的功用与分类进行介绍的基础上．阐述了串行关联规则算法和并行关联算法的目标与内容．详细分析了A pr i or i算法、神经网络、遗传算法等数据挖掘算法。
[关键词]数据挖掘f关联规则I apr i ori算法；神经网络l遗传算法[中图分类号]T P31[文献标识码]A[文章编号]1009—2323(2008)06一0109一02数据挖掘是信息技术自然进化的结果。
自上世纪六十年代以来，信息技术已经从原始的文件处理发展到复杂的、功能强大的数据库系统。
而数据仓库是近年来数据库研究领域中迅速发展起来的新技术。
利用数据仓库技术可以将现实中的海量数据存放在异构的数据库中。
为了从数据中有效地提取和发现知识．需要对数据仓库中存储的数据进行“挖掘”。
数据挖掘是从大量数据中抽取出未知的、有价值的模式或规律等知识的复杂过程。
数据挖掘技术由数据清理、数据集成、数据选择、数据交换、数据挖掘、模式评估六个步骤组成。
通过这六个步骤的提纯与处理向用户提供有价值的信息。
数据挖掘提供的数据模式有概念描述、关联规则、分类与预测、聚类分析、异类分析、演化分析等六类。
1．数据仓库与数据挖掘数据仓库系统在数据分析和决策方面为用户和“知识工人”提供服务。
这种系统与传统的联机事务处理(0L TP)系统不同．它可以用不同的格式组织和提供数据，以满足不同用户的形形色色需求．这种系统称为联机分析处理(oL A P)系统。
数据仓库和oL A P工具均基于多维数据模型．这种模型可以以星形模式、雪花模式或事实星座模式等形式存在。
聚类算法研究综述
２ 聚类算 法基 本原 理概述
俗话说：“人 以群分 ，物 以类 聚”。聚类就是利用计算机技术来实现这 一 目的的一 种技术 。其输入是一组 未分类 的记 录，且事先 不知道 如何分 类 。也可 能不知道要分成几类 ，通过分析数据 ，合理划 分记录集合 ，确定 每个记录所属的类别 ，把 相似性大的对象聚集为一个簇 。聚类 的标 准是 使簇 内相似度尽可能大 、簇 间相似度尽可能小。
３ 聚 类算 法分 类研 究
聚类属 于无监督学习。聚类算 法可以分为划分聚类 、层次 聚类 、密度 型聚类 、网格型聚类和其他聚类等几种 。 ３．１ 划 分 聚类
划分 聚类算法把 数据 点集分 为 ｋ个 划分 ，每个划分作为一个聚类 。 它一般 从一个初始划分开始 ，然 后通过重复 的控 制策 略 ，使某个准则 函 数最优化 ，而每个聚类 由其质心来代表（ 一ｍｅａｎｓ算 法），或者 由该聚类 中 最靠近 中心 的一个 对象来代表（ 一ｍｅｄｏｉｄｓ算法 ）。划分聚类算 法收敛 速 度 快，缺点在于它倾向于识别凸形分布大小相近 、密度相近的聚类 ，不能 发现分布形状 比较复杂 的聚类 ，它要求类别数 目 ｋ可 以合理地估计 ，并 且初始中心的选择和噪声会对聚类结果产生很大影响。主要的划分聚类 算 法 有 ｋ—ｍｅａｎｓ，ＥＭ，ｋ—ｍｅｄｏｉｄｓ，ＣＬＡＲＡ，ＣＬＡＲ Ａ ＮＳ等 。 常 见 的 ｋ— ｍｅｄｏｌｄｓ算法有 ＰＡＭ算法 、ｃＬＡＲＡ算法 、ＣＬ Ａ Ｒ Ａ ＮＳ算法 。 ３．２ 分 层 聚 类
聚类分析及其应用研究
聚类分析及其应用研究聚类分析是数据挖掘领域中的一项非常重要的工具和技术。
聚类分析可以帮助我们将大量的数据进行分类和归类，从而发现一些有趣的结构和关系。
在实际应用中，聚类分析有很多不同的应用场景，比如分析客户群体、研究市场和商品细分、医学研究等等。
本文将介绍聚类分析的基本概念和方法，并结合实际案例探讨其应用。
一、聚类分析的基本概念聚类分析是一种数据挖掘技术，其目标是通过对数据集进行聚类，即将具有相似特征的数据点归到同一个类别中。
聚类分析可以基于不同的特征和距离度量方法，从而产生不同的聚类结果。
聚类分析的基本特征包括以下几个方面：1. 类别的数量不确定：聚类分析不需要我们提前确定聚类的类别数量，而是根据数据本身的特征和距离进行自动聚类。
2. 聚类结果的不稳定性：由于不同的特征和距离度量方法，聚类结果可能会有很大的不同，因此聚类结果具有不稳定性。
3. 聚类结果的解释性差：由于聚类分析是无监督学习方法，聚类结果可能难以解释，需要通过其他的分析方法进行进一步的解释和分析。
二、聚类分析的方法聚类分析的方法主要包括以下几种：1. 层次聚类分析：层次聚类分析主要是基于不同距离度量方法进行分类，从而得到不同的树状图。
通过切割这个树状图，我们可以得到不同的聚类结果。
2. 划分聚类分析：划分聚类分析主要是通过不同的聚类算法和分裂规则进行聚类，从而得到不同的聚类结果。
3. 模糊聚类分析：模糊聚类分析主要是通过给每个数据点赋予一个模糊隶属度，从而得到不同的模糊聚类结果。
相比于其他聚类分析方法，模糊聚类分析更适合处理存在不确定性和模糊性的数据集。
三、聚类分析的应用1. 客户群体分析：聚类分析可以帮助我们对客户数据进行分类和归类，从而了解客户的兴趣和需求。
例如，可以根据客户的购买历史、浏览行为、交易金额等特征，将客户分为高消费群体、低消费群体、VIP群体等。
2. 市场和商品细分：聚类分析可以帮助我们对市场和商品进行细分，从而找到不同的市场和商品定位。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
界 限 的不 确 定 性 ． 概 念 具 有 内 涵 分 明 、 延 不 明 确 的 其 外 特 性 。它 比随 机 性 有 更 基 本 、 稳 定 的不 确 定 性 。这 种 更
模 糊 不 确 定 性 不 能 用 概 率 分 布来 描 述 ．而 是 使 用 隶 属 度 函数 来 描 述 不 确 定 数 据 属 于 模 糊 集 的程 度
关 键 词 ：不确 定 性 数 据 ：聚 类 挖 掘 ；数 据 挖 掘
Ｏ 引
言
而 是 在 实 践 中完 善 和补 充 ．这 样 原 来 的等 价 类 需 要 不
断 地 更 新 、 态 地 改 变 等 价 类 。在 更 新 基 本 表 时 ， 可 动 也 能 会 更 新 等 价 类 因此 在 数 据存 储 和更 新 时 ． 考 虑 到 要
研究领域 。 确定性数据的聚类 方法 主要有 Ｋ Ｍｅｎ 、 － — ａｓＫ
Ｍｅ ｏｄ 、 次 Ｂ ＲＣ Ｃ Ｅ 以及 基 于 密 度 的 ＤＢ Ｃ ｄ ｉｓ 层 Ｉ Ｈ、 ＵＲ Ｓ ＡＮ
确定 性数 据 的存 储 和查 询 ．它 的 属性 值 可 以 划 分 成 若
干个 等 价 类 ． 性 值 是 这些 等价 类 的并 集 然 而 在 构 建 属 数据库时 ． 不能一次性预测属性值的所有取值情况 ． 并
近年 来 ．随 着 技 术 的 进 步 和 人 们 对 数 据 采 集 和 处 理技 术 理解 的 不 断 深 入 ．在许 多 现 实应 用 中 。例 如 经 济 、 事 、 流 、 融 、 信 等 领 域 ， 确 定 性 数 据 普 遍 军 物 金 电 不 存在 ． 扮 演 着 关 键 角 色 。 此 面 向 不 确 定性 数 据 的挖 且 为 掘算 法越 来 越 引起 人 们 的 关 注 ．主要 研 究 内容 包 括 聚 类技术 、 类技术及频繁模式挖掘 。 分 而数 据 的 不 确 定 性
（） １ 定性 数 据 的 聚类 挖 掘
数 据 聚 类 分 析 是 数 据 挖 掘 研 究 领 域 中一 个 非 常 活 跃 的研 究 课 题 聚类 分 析 源 于 包 括 数 据 挖 掘 、 计 学 、 统
以及 机 器 学 习等 诸 多 研 究 领 域 ．是 一 个 富有 挑 战 性 的
则 把数 据 挖 掘 技 术 引 入 不 确定 数据 管 理 中 ． 恰 可 以 恰 解 决 以上 问题
１ 不确 定 性 数 据 管 理 现 状
针 对 不 确 定 性 数 据 的研 究 ＿ 作 已 经 有 几 十 年 历 史 Ｔ
２ 不 确 定 性 数 据挖 掘 算 法分 析
近 年 来 ．不 确 定 性 数 据 挖 掘 研 究 工 作 主 要 集 中 在 数 据 预 处 理 、 确 定 数 据 的挖 掘算 法 、 据 挖 掘 的 建 模 不 数 方 法 、 据 挖 掘 ＿具 等 ， 中不 确 定 性 数据 的挖 掘 算 法 数 丁 其
Ｂ Ｔ ｅｅａ 人 将 Ｒ ｕｈ集 理 论 与 传 统 关 系 数 据 ． ｈｒｓ 等 ｏｇ 库 模 型 相 结 合 ．于 ２０ ０ ６年 提 出 了 粗 关 系 数 据 库 模 型
ｆ ｕ ｈ Ｒ ｌｔ ｎ ｌＤ ｔｂ ｓ ｄ ｌ Ｒ Ｍ）主 要 处 理 不 Ｒｏ ｇ ｅａ ｏ ａ ａａ ａｅ Ｍｏ ｅ。 ＲＤ ， ｉ
★基 金 项 目：江 苏省 科 技 攻 关 项 目（ ． ２ ０ ３ ７ ＮｏＢＥ ０ ６ ５ ） 收稿 日期 ： ０ １ １ ５ ２ １ —０ —１ 修 稿 日期 ： ０ １ １ ２ ２ １ —０ — ３
和 Ｏ ＴＣ Ｐ ＩＳ等算 法 ｉ ３ １ 由于 不 确 定 性 数 据 中 “ 确 性 ” “ 糊 性 ” 存 不 及 模 的 在． 使得 在 聚类 挖 掘 中 ． 不确 定 性 数据 对 象 间 的 距 离 也
不确 定 性 数 据 聚 类挖 掘 研 究 综学 院 计 算 机 Ｔ 程学 院 ， 安 ２ ３ ０ ） 江 淮 ２０ ３
★
摘
要 ： 据 日前 数 据 挖 掘研 究 的 现 状 ， 析 不确 定数 据 的 聚 类挖 掘 算 法 。针 对 不 确 定 数 据 聚 类 挖 根 分 掘 存 在 的 问题 ． 出改 进 传 统 的 数 据 挖 掘 算 法 来适 合 不确 定数 据 的聚 类挖 掘 或 找 出新 的 聚 提 类挖 掘 算 法 。 来解 决不 确 定 数 据 聚 类挖 掘 问题 的新 思 路 。
作 者 简介 ： 春 霞 （ ９ ３ ， ， 西兴 平 人 ， 士 ， 金 １ ７ 一） 女 陕 硕 副教 授 ， 究 方 向 为 计 算机 应 用 、 息 处理 、 据挖 掘 研 信 数
① 现 计 机 ２１． 代 算 ０１２ ０
具 有 不 确 定 性 ．对 象 间 的 距 离 衡 量 方 式 必 须 有 别 于 传 统 聚类 距 离 函 数 。Ｈ．． ｒ ｇｌ 设 计 了一 种 基 于 密 度 Ｐ Ｋｉ ｅ等 ｅ
能够 显 著 影 响 数 据 挖 掘 应 用 的 结果 。
等 价 类 的 存储 和更 新 『 ２ ｌ
传感器 网络 、 卫星遥感 图像 、 医疗信息等应用 产生 的巨量数据 ．仅仅靠数据管理及查询技术无 法发现数
据 间 的 内在 联 系 ．也 无 法 发 现 数 据 模 式 及 潜 在 知识 规
是 焦 点 问 题
了 从 ２ ０世 纪 ８ 年 代 末 开 始 ． 对 概 率 数据 库 的研 究 ０ 针 ＿ 就从 未 间 断过 这 类 研 究 工 作将 不 确 定性 引 人 到 丁作
关 系 数据 模 型 中 去 ． 取得 了 较 大 进 展 。 近 年来 ， 对 不 针 确定 性 数 据 的 研究 工 作 则 在 更 广 的范 围 内取 得 了更 大 的进 展 ．即在 更 丰 富 的数 据类 型 上 处 理 更 多 种 类 的查 询 任 务