粗糙集理论 PPT课件

合集下载

粗糙集理论优质获奖课件

点之
若rij＝1, 且 i≠j, 则rji＝0
对M2中1所在位置,M 中相应位置都是1
假如两假如顶
点之
点xi
间有边, 到xj有边,
一定
xj
13
4、等价关系
等价关系旳定义：设R是非空集合A上旳关系，假如满足 ⑴ R是自反旳; ⑵ R是对称旳; ⑶ R是传递旳; 则称R是A上旳等价关系。
21
内容提要
一、概述二、知识分类三、知识旳约简四、决策表旳约简五、粗糙集旳扩展模型六、粗糙集旳试验系统七、粒度计算简介
22
一、概述
现实生活中有许多模糊现象并不能简朴地用真、假值来表达﹐怎样表达和处理这些现象就成为一种研究领域。早在1923年谓词逻辑旳创始人G.Frege就提出了模糊(Vague)一词，他把它归结到边界线上，也就是说在全域上存在某些个体既不能在其某个子集上分类，也不能在该子集旳补集上分类。
自反性反自反性对称性反对称性传递性
12
关系性质旳三种等价条件
体现式
关系矩阵
关系图
自反性 IAR
主对角线元素全是1
每个顶点都有环
反自反性 R∩IA=
主对角线元素全是 0
每个顶点都没有环
对称性 R=R1
反对称性 R∩R1 IA
传递性 RRR
矩阵是对称矩阵
假如两个顶
定义假如一种集合满足下列条件之一：（1）集合非空, 且它旳元素都是有序对（2）集合是空集则称该集合为一种二元关系, 简称为关系，记作R. 如<x,y>∈R, 可记作 xRy；假如<x,y>R, 则记作xRy
实例：R={<1,2>,<a,b>}, S={<1,2>,a,b}. R是二元关系, 当a, b不是有序对时，S不是二元关系根据上面旳记法，能够写1R2, aRb, aSb等.

粗糙集 (ppt)

一、概述二、知识分类三、知识的约简四、决策表的约简五、粗糙集的扩展模型六、粗糙集的实验系统七、粒度计算简介
2
一、概述
现实生活中有许多含糊现象并不能简单地用真、假值来表示﹐如何表示和处理这些现象就成为一个研究领域。早在1904年谓词逻辑的创始人G.Frege就提出了含糊(Vague) 一词，他把它归结到边界线上，也就是说在全域上存在一些个体既不能在其某个子集上分类，也不能在该子集的补集上分类。
12
Issues in the Decision Table
• The same or indiscernible objects may be represented several times. • Some of the attributes may be superfluous.
13
不可区分性Indiscernibility
二、知识分类
为数学处理方便起见，在下面的定义中用等价关系来代替分类。一个近似空间(approximate space)（或知识库）定义为一个关系系统（或二元组）
K=(U,R)
其中U（为空集）是一个被称为全域或论域(universe) 的所有要讨论的个体的集合，R是U上等价关系的一个族集。
7
二、知识分类
设PR，且P ，P中所有等价关系的交集称为P上的一种不可区分关系(indiscernbility relation) 记作IND(P)，即
[x]IND(p)= ∩[x]R RP 注意，IND(P)也是等价关系且是唯一的。
8
二、知识分类
给定近似空间K=(U, R)，子集XU称为U上的一个概念 (concept)，形式上，空集也视为一个概念；非空子族集 PR所产生的不可区分关系IND(P)的所有等价类关系的集合即U/IND(P)，称为基本知识(basic knowledge)，相应的等价类称为基本概念(basic concept)；特别地，若关系QR，则关系Q就称为初等知识(elementary knowledge)，相应的等价类就称为初等概念(elementary concept)。根据上述定义可知，概念即对象的集合，概念的族集（分类）就是U上的知识，U上分类的族集可以认为是U上的一个知识库，或说知识库即是分类方法的集合。

2粗糙集(上课)

头疼是是是
肌肉疼是是是
体温正常高很高
流感否是是
否
否否
是
否是
正常
高很高
否
否是
头疼
是是
体温
正常高
流感
否是
是
否否否否否
很高
Байду номын сангаас正常高很高高很高
是
否否是是否
必然规则有哪些？可能规则有哪些？
RS理论概论
粗糙集(Rougn Set,RS)理论是由波兰学者 Pawlak Z在1982年提出的。粗糙集(Rougn Set, RS)理论是一种刻划不完整性和不确定性的数学工具，能有效地分析和处理不精确、不一致、不完整等各种不完备信息，并从中发现隐含的知识，揭示潜在的规律。该理论近年日益受到国际学术届的重视，已经在模式识别、机器学习、决策支持、过程控制、预测建模等许多科学与工程领域得到成功的应用。
集合X关于R的上逼近(upper approximation) 定义为：
R*(X)是由所有与X相交非空的等效类［a］R 的并集，是那些可能属于X的对象组成的最小集合.显然，R*(X)+NEG(X)=论域U
集合X的边界区(boundary region)定义为：
BN(X)为集合X的上逼近与下逼近之差. 如果BN(X)是空集，则称X关于R是清晰的(crisp)；反之如果BN(X)不是空集，则称集合X为关于R的粗糙集(rough set).
给定一个有限的非空集合U称为论域，R 为U上的一族等效关系.R将U划分为互不相交的基本等效类，二元对K=(U，R)构成一个近似空间(approximation space). 设X为U的一个子集，a为U中的一个对象，［a］R表示所有与a不可分辨的对象所组成的集合，即由a决定的等效类.当集合X 能表示成基本等效类组成的并集时，则称集合X是可以精确定义的；否则，集合 X只能通过逼近的方式来刻划。

经典粗糙集理论

粗糙集理论能够处理不确定性和模糊性，而神经网络则能够通过学习过程找到数据中的模式。将粗糙集与神经网络结合，可以利用粗糙集对数据的不确定性进行建模，并通过神经网络进行分类或预测。
粗糙集可以用于提取数据中的决策规则，这些规则可以作为神经网络的训练样本。通过训练，神经网络可以学习到决策规则，并用于分类或预测。
边界区域
近似集合中的不确定性区域，即既不属于正域也不属于负域的元素集合。
粗糙集的度量
精确度
描述了集合中元素被近似集合包含的程度，即属于近似集合
的元素比例。
覆盖度
描述了近似集合能够覆盖的元素数量，即近似集合的大小。
粗糙度
描述了集合被近似程度，是精确度和覆盖度的综合反映。
知识的不确定性
描述了知识表达系统中属性值的不确定性程度，与粗糙度相
经典粗糙集理论
目录
• 粗糙集理论概述 • 粗糙集的基本概念 • 粗糙集的运算与性质 • 粗糙集的决策分析 • 粗糙集与其他方法的结合 • 经典粗糙集理论案例研究
01 粗糙集理论概述
定义与特点
定义
粗糙集理论是一种处理不确定性和模糊性的数学工具，通过集合近似的方式描述知识的不完全性和不确定性。
粗糙集理论中的属性约简可以用于简化神经网络的输入特征，降低输入维度，提高分类或预测的准确率。
粗糙集与遗传算法
01
遗传算法是一种全局优化算法，能够通过模拟自然界的进化过程来寻找最优解。将粗糙集与遗传算法结合，可以利用粗糙集对数据的分类能力，结合遗传算法的全局搜索能力，寻找最优的分类规则或决策规则。
02
粗糙集可以用于生成初始的分类规则或决策规则，然后利用遗传算法对这些规则进行优化，通过选择、交叉、变异等操作，寻找最优的规则组合。

粗糙集理论方法及其应用ppt课件

具有相同或相似信息的对象不能被识别。
粗糙集概念示意图
粗糙集理论方法及其应用病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程
2 粗粗糙糙集集理理论论思思想想
粗糙集理论方法及其应用病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程
2.3 粗糙近似
定义给定一个知识表示系统 S (U, A,V, f ) ， P A，X U ，x U ，集合 X 关于 I 的下近似、上近似、负区及边界区分别为
apr (X ) {x U : I(x) X} p
aprP (X ) {x U : I(x) X }
neg p ( X ) {x U : I (x) X }
2.2 不可分辨关系（Indiscribility relation)
❖ 不可分辨关系是一个等价关系(自反的、对称的、传递的）。
❖ 包含对象x的等价类记为I(x)。等价类与知识粒度的表达相对应，它是粗糙集主要概念，如近似、依赖及约简等，定义的基础
粗糙集理论方法及其应用病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程
决策属性(D)
U
a1
a2
a3
d
n1
High
Low
Low
Low
n2
Medium
High
Low
High
n3
High
High
High
High
粗糙集理论方法及其应用病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程

粗糙集理论与算法初步.ppt

PQk
posPQ
U
PX
XUQ
U
第一节
粗糙集理论
3、R0.5理论
粗糙集的近似集R0.5的提出
集合的相似度 A,B是论域U上的两个子集定义从U×U→[0,1]
的映射(A,B)→s(A,B)，称s(A,B)为A，B的相似度，如果满足如下条件： 1）任意U中的集合 A，B，s(A,B)有界； 2）对称性，即s(A,B)=s(B,A)； 3）s(A,A)=1，且s(A,B)=0的充要条件是A∩B为空集。
系族PS，对于任意P中的R，若 IND(P)≠IND(P-{R})成立，称R为P中必要的。独立性
如果对每一个P中R，R都是P中必要的，称P是独立的，否则称P是依赖的。显然，若P独立，则其任何子集G都是独立的。
知识约简
知识的约简知识库K和其上的一族等价关系PS，对
任意的GP，若: 1）G是独立的 2）IND(G)=IND(P) 称G是P的一个约简，记作G∈RED(P)。
注：知识表达系统主要有两种类型，信息系统以及决策系统。
知识表达系统的知识约简
信息系统中知识约简的一般步骤 Step 1：删除表中重复对象 Step 2：删除冗余的条件属性 Step 3：删除每个对象的冗余属性值 Step 4：求出其约减
决策表中知识约简的一般步骤 Step 5：根据约简，求出决策规则
的一组或单个系统参数。U中任意的概念X 以及独立于系统参数R的划分，有
参数R的重要度 sigRXUbU nRX
划分关于系统参数R的重要度 n UbnRXi sigR(U) i1 nU
粗糙集的数值特征
知识的依赖度知识库K=(U,S)，以及任意P,QIND(K)，
定义知识Q依赖于知识P的依赖度：

《粗糙集理论简介》课件

05
粗糙集的应用实例
数据挖掘中的粗糙集应用
分类
利用粗糙集理论对数据进行分类，通过确定数据的属性重要性和类别关系，实现高效准确的分类。
聚类
通过粗糙集理论，可以发现数据中的相似性和差异性，从而将数据分成不同的聚类。
关联规则挖掘
利用粗糙集理论，可以发现数据集中项之间的有趣关系和关联规则。
机器学习中的粗糙集应用
粗糙集的补运算
总结词
粗糙集的补运算是指求一个集合的所有可能补集的运算。
VS
详细描述
补运算在粗糙集理论中用于确定一个集合的所有可能补集。补集是指不属于该集合的所有元素组成的集合。通过补运算，我们可以了解一个集合之外的所有可能性，这在处理不确定性和模糊性时非常重要。
04
粗糙集的扩展理论
决策粗糙集
多维粗糙集
多维粗糙集是粗糙集理论在多维空间下的扩展，它考虑了多个属性或特征对数据分类的影响。多维粗糙集可以更准确地描述多维数据的分类和聚类问题，因此在处理多特征和多属性问题时具有更大的优势。
多维粗糙集的主要概念包括多维下近似、多维上近似、多维边界等，通过这些概念可以度量多维数据的不确定性，从而为多维分类和聚类提供支持。
决策分析
粗糙集理论可以用于决策支持系统，通过建立决策模型来分析不确定性和模糊性条件下的最优决策。
知识获取
粗糙集理论可以用于从数据中提取隐含的知识和规则，尤其在处理不完整和不精确信息时具有显著效果。
02
粗糙集的基本概念
知识的分类
知识表达
通过数据表中的属性值来表达知识，将对象进行分类。
概率粗糙集
概率粗糙集是粗糙集理论在概率框架下的扩展，它引入了概率测度的概念，用于描述数据的不确定性。概率粗糙集可以更准确地描述数据的不确定性和随机性，因此在处理不确定性和随机性问题时具有更大的灵活性。

基于粗糙集理论的数据挖掘方法ppt课件

资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值
粗糙集理论的特点
将知识定义为不可区分关系的一个族集, 使得知识具有了清晰的数学意义，便于用集合运算处理。不需要关于数据的附加信息
资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值
区分矩阵将此问题巧妙地转化成了布尔推理问题.
区分矩阵D是|U|*|U|矩阵, 每一项Dij表示能把对象i, j区分开来的属性集合.在存在类属性时, 同类对象不做区分.
区分函数是区分矩阵每一项的和, 代表了能区分开所有对象的属性组合. 化简后就得到了所有可能的约简.
Diplo Experie 资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值
ma
nce
Fren ch
Reference
Decisio n
x1 MBA Medium Yes Excellent Accept
x2 MSc High
Yes Neutral
Accept
x3 MSc High
Yes Excellent Accept
x4 MBA High
No Good
Accept
x5 MBA Low
资金是运动的价值，资金的价值是随时间变化而变化的，是时间的函数，随时间的推移而增值，其增值的这部分资金就是原有资金的时间价值
快速约简算法的考虑
区分函数的化简仍旧是NP-hard问题启发式算法－属性重要性作为启发信息(X.HU) －条件信息熵作为启发式信息(王国胤) －充分利用区分矩阵的信息作为启发－基于进化计算方法(GA,PSO)的方法

粗糙集理论及其应用ppt课件

12
（3）模糊集合的提出 1965年，美国Zadeh教授首次提出个体x与集合S的关系——x以一定的程度属于S。
13
模糊集虽然解决了边界域元素的“亦此亦彼”的现象，但：未给出计算含糊元素数目的数学公式未给出描述含糊元素隶属度的形式化方法隶属度函数本身不确定
14
粗糙集运用集合论中的“等价关系（不可区分关系）”，将边界线区域定义为“上相似集”与“ 下相似集”的差集在“真”、“假”二值之间的“含糊度”可计算给出了含糊元素数目的计算公式
9
自然界中大部分事物所呈现的信息都是：不完整的、不精确的、模糊的、含糊不清的经典集合论和逻辑方法无法准确的描述和解决这些问题。粗糙集理论的提出，主要是为了描述并处理“含糊”信息
10
（1）经典集合特点：集合的边界没有宽度每个元素要么属于 S ，要么不属于，具有确定性。
11
（2）“含糊”问题的提出 1904年，谓词逻辑创始人G. Frege 首次提出将含糊性归结到“边界线区域” 在论域上存在一些个体，既不能被分到某一子集上，也不能被分到该子集的补集上。
有力地推动了国际粗糙集理论与应用的深入研究。 1992年，在波兰召开了第一届国际粗糙集理论研讨会，有 15篇论文发表在1993年第18卷的《Foundation of computingand decision sciences》上。 1995年，Pawlak等人在《ACM Communications》上发表 “Rough sets”，极大地扩大了该理论的国际影响。
7
随机性不确定性模糊性不完整性不稳定性不一致性
主要的特性
……
8
随机性：由于条件不能决定结果而表现出来的不确定性，反映了因果律的问题。解决随机性问题的典型数学方法是概率论。模糊性：由于概念外延边界的不清晰而表现出的不确定性，反映了排中律的问题。解决模糊性的典型数学方法是模糊集理论。

粗糙集理论第1章

绪论●20世纪80年代，波兰数学家Z.Pawlak提出粗糙集理论概率论(Probabilistic Theory)刻画概念发生的随机性(Stochastic)，模糊集理论(Fuzzy Set Theory)刻画概念的模糊性(Vagueness)，刻画概念的粗糙性(Coarseness)，即分类能力(Classification Ability)。

粗糙集理论简称为粗集理论，粗糙集，或粗集。

●一个概念越粗糙，其分类能力越差，分类得到的对象组的颗粒（granularity）越大（越粗），对象之间的可辨识性（discernibility）越差。

相反地，一个概念越精细（fine），其分类能力越强，分类所得的对象组的颗粒越小，对象之间的可辨识性越好。

●例子图像的分辨率刻画了图像质量的粗糙程度，类似粗糙集刻画了知识或概念的粗糙程度。

图像中的分辨率越高，图像的可辨识性就越好，反之就越差。

像素灰度刻画了图像黑白的不同程度，类似模糊集刻画了概念的模糊性。

而图像上的内容则反映了某个物体出现的随机性。

第一章知识有关知识的理论已有长远和丰富的历史，Pawlak 提议把粗集理论作为讨论知识的理论框架，特别在关注不精确知识的时候。

本章对“知识”这一术语给出形式化的定义，并讨论了它的一些基本特性。

粗集理论对知识的基本看法：知识是人类关于事物之分类能力的深层次刻画。

论域(universe of discourse )：真实世界或抽象世界被称为论域.定义1.1 设论域U 是非空有限集合，U 中元素是论域中感兴趣的对象。

对∀X ⊆ U ，称其为U 的一个概念或范畴（category ）。

称U 的任意概念簇为U 的抽象知识或知识。

为便于形式推理，允许空集 ∅ 作为一个概念。

本书我们的主要兴趣在于形成某论域的一个划分（partition ）或分类（classification ）的概念。

（在本书中有：划分分类，划分与分类是两个等价的概念）定义1.2 U 为论域，若概念簇C = {X i | X i ⊆U ，X i ≠ ∅，i = 1，2，…，n} 满足：⑴ 对于i ，j = 1，2，…，n ，i≠j ，X i ∩X j = ∅⑵ 1 ni i X U == 则称C 为U 的一个划分或分类。

数据仓库与数据挖掘PPT第9章粗糙集理论

如果再考虑是否能去掉大小属性呢？这个时候知识系统就变为：
A/(R-R1-R3)=A/R2={{x1,x2},{x5,x8},{x3,x4,x6,x7}}。同样考虑“稳定”在知识系统A/R2中的上下近似分别为：{x1,x2}和{x1,x2,x5,x8}，已经和原来知识系统中的上下近似不一样了，同样考虑“不稳定”的近似表示也变化了，所以删除属性“大小”是对知识表示有影响的故而不能去掉。
• 目前，粗糙集理论已经广泛的应用于知识发现、数据挖掘、智能决策、电子控制等多个领域。
9.1.2 粗糙集理论的特点
粗糙集理论是一种数据分析工具。粗糙集理论不需要先验知识。粗糙集理论是一种软计算方法。
9.1.3 粗糙集理论在数据挖掘中的应用
在数据预处理过程中，粗糙集理论可以用于对特征更准确的提取在数据准备过程中，利用粗糙集理论的数据约简特性，对数据集进行降维操作。在数据挖掘阶段，可将粗糙集理论用于分类规则的发现。在解释与评估过程中，粗糙集理论可用于对所得到的结果进行统计评估。
假设有8个积木构成了一个集合A： A={x1,x2,x3,x4,x5,x6,x7,x8}，
每个积木块都有颜色属性，按照颜色的不同，我们能够把这堆积木分成 R1={红，黄，兰}三个大类:
红颜色的积木构成集合X1={x1,x2,x6}，黄颜色的积木构成集合X2={x3,x4}，兰颜色的Slowinski主编的《Intelligence decision support： handbook of applications and advances of rough sets theory》的出版，奠定了粗糙集理论的基础，有力地推动了国际粗糙集理论与应用的深入研究。
同样的讨论对于“形状”属性也一样，它是不能去掉的。最后我们得到化简后的知识库R2,R3，从而能得到下面的决策规则:

第五讲：粗糙集(Rough Set)

第三节粗糙集（Rough Set，RS）如果我们将研究对象看成是现象，那么我们可以将这些现象分类。

现象被分为确定现象与不确定现象。

不确定现象有分为随机现象，模糊现象和信息不全的粗糙现象。

如下所示：⎧⎪⎪⎧⎪⎪⎨⎪⎪⎨⎪⎪⎪⎪⎩⎩∈确定现象随机现象，0－1律，多种可能性满足分布规律。

现象不确定现象模糊现象，律属度Î(0，1），不是非此即彼。

粗糙现象，研究那些因为信息不充分而导致的不确定性相对于前两种现象的处理，粗糙现象是基于不完全的信息或知识去处理不分明的现象，因此需要基于观测或者测量到的部分信息对数据进行分类，这就需要与概率统计和模糊数学不同的处理手段，这就是粗糙集理论。

直观地讲，粗糙集是基于一系列既不知道多了还是少了，也不知道有用还是没用的不确定、不完整乃至于部分信息相互矛盾的1数据或者描述来对数据进行分析、推测未知信息。

下面我们对粗糙集的基本特征、以及数学符号进行简述。

1．粗糙集的特点粗糙集的特点是利用不精确、不确定、部分真实的信息来得到易于处理、鲁棒性强、成本低廉的决策方案。

因此更适合于解决某些现实系统，比如，中医诊断，统计报表的综合处理等。

粗糙集的另一个重要特点就是它只依赖于数据本身，不需要样本之外的先验知识或者附加信息，因此挑选出来的决策属性可以避免主观性，有英雄不问出身的意味。

用粗糙集来处理的数据类型包括确定性的、非确定性的、不精确的、不完整的、多变量的、数值的、非数值的。

粗糙集使用上、下近似来刻画不确定性，使得边界有了清晰的数学意义并且降低了算法设计的随意性。

3．粗糙集的基本概念粗糙集要涉及论域U（这与模糊系统相似），还要涉及属性集合R C D=（这被认为是知识，或者知识库）。

当然，也要有属性值域V，以及信息函数f：U R V⨯→的。

因此，一个信息系统S可以表示为一个四元组{}=。

在不混淆的情况下，简记为(,)S U R V f,,,=，S U R23 也称为知识库。

等价关系（通常用来代替分类）是不可或缺的概念，根据等价关系可以划论域中样本为等价类。

粗糙集基本知识PPT课件

数据挖掘过程中数据预处理占总过程的60%的时间，通过对数据降维，去噪，类型转换等处理，改进数据的质量，提高挖掘效率。
基于粗糙集的预处理方法对决策表进行属性约简，最后进行属性值的约简。
16
核
一个属性集可能有多个约简，属性集所有约简的交集定义为核。
核的概念有两方面意义：一是可以作为所有约简的计算基础（核包含于所有约简之中）；二是核在约简中是不可消去的特征集合。
体积小大小小小小大大
5
知识和知识库
U/R1={{x1,x3,x7},{x2,x4},{x5,x6,x8}} 等价类
U/R2={{x1,x5},{x2,x6},{x4,x3,x7,x8}} 等价关系R={R1，R2}
6
决策表
决策表为 T=<U, C∪D>
论域颜色
尺寸手感
u1 u2 u3 u4 u5
u1
acd
ad
u2
acd c abcd
u3
ad
u4
abd
u5
23
感谢您的阅读收藏，谢谢！
2021/4/8
24
13
约简理论
主要思想：保持分类能力不变的条件下，删除冗余的、不必要的属性或属性值，达到知识简化的目的。
14
示例:一种动物是否是鸟类
实例集群居会飞产卵肺哺呼乳吸会游鸟泳类
实例集
群居会飞产卵肺呼吸鸟类
1
N
Y
Y
NY
1,2,7
N
Y
Y
Y
NY Y
2
N
Y
Y
NY
3,4,5,6
Y
Y
Y