数据仓库与数据挖掘期末复习

合集下载

12《数据仓库与数据挖掘》复习题

12《数据仓库与数据挖掘》复习题

《数据仓库与数据挖掘》复习大纲三、简答题(5×6分=30分)四、分析计算题(3×10分=30分)考试范围:第一讲数据挖掘概述考点:1、数据挖掘、知识发现(KDD)基本概念;2、数据挖掘的过程;3、数据挖掘过技术的三个主要部分。

复习参考题:一、填空题(1)数据库中的知识挖掘(KDD)包括以下七个步骤:数据清理、数据集成、数据选择、数据变换、数据挖掘、模式评估和知识表示。

(2)数据挖掘的性能问题主要包括:算法的效率、可扩展性和并行处理。

(3)当前的数据挖掘研究中,最主要的三个研究方向是:统计学、数据库技术和机器学习。

(4)在万维网(WWW)上应用的数据挖掘技术常被称为:WEB挖掘。

(5)孤立点是指:一些与数据的一般行为或模型不一致的孤立数据。

二、单选题(1)数据挖掘应用和一些常见的数据统计分析系统的最主要区别在于:BA、所涉及的算法的复杂性;B、所涉及的数据量;C、计算结果的表现形式;D、是否使用了人工智能技术(2)孤立点挖掘适用于下列哪种场合?DA、目标市场分析B、购物篮分析C、模式识别D、信用卡欺诈检测(3)下列几种数据挖掘功能中,( D )被广泛的应用于股票价格走势分析。

A. 关联分析B.分类和预测C.聚类分析D. 演变分析(4)下面的数据挖掘的任务中,( B )将决定所使用的数据挖掘功能。

A、选择任务相关的数据B、选择要挖掘的知识类型C、模式的兴趣度度量D、模式的可视化表示(5)下列几种数据挖掘功能中,(A )被广泛的用于购物篮分析。

A、关联分析B、分类和预测C、聚类分析D、演变分析(6)根据顾客的收入和职业情况,预测他们在计算机设备上的花费,所使用的相应数据挖掘功能是( B)。

A.关联分析B.分类和预测C. 演变分析D. 概念描述(7)帮助市场分析人员从客户的基本信息库中发现不同的客户群,通常所使用的数据挖掘功能是( C )。

A.关联分析B.分类和预测C.聚类分析D. 孤立点分析E. 演变分析(8)假设现在的数据挖掘任务是解析数据库中关于客户的一般特征的描述,通常所使用的数据挖掘功能是( E )A.关联分析B.分类和预测C. 孤立点分析D. 演变分析E. 概念描述三、简答题1、何谓数据挖掘?它有哪些方面的功能?答:从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程称为数据挖掘。

数据仓库与数据挖掘复习大全

数据仓库与数据挖掘复习大全

数据仓库与数据挖掘复习大全湖北文理学院湖北襄阳王茂林1.某超市研究销售纪录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数据挖掘的哪类问题?(A)A. 关联规则发现B. 聚类C. 分类D. 自然语言处理2. 以下两种描述分别对应哪两种对分类算法的评价标准?(A)(a)警察抓小偷,描述警察抓的人中有多少个是小偷的标准。

(b)描述有多少比例的小偷给警察抓了的标准。

A. Precision, RecallB. Recall, PrecisionC. Precision, ROCD. Recall, ROC分类是一种重要的数据挖掘算法。

分类的目的是构造一个分类函数或分类模型(即分类器),通过分类器将数据对象映射到某一个给定的类别中。

分类器的主要评价指标有准确率(Precision)、召回率(Recall)、F b-score、ROC、AOC等。

准确率(Precision) 和召回率(Recall)是信息检索领域两个最基本的指标。

准确率也称为查准率,召回率也称为查全率。

它们的定义如下:Precision=系统检索到的相关文件数量/系统检索到的文件总数量Recall=系统检索到的相关文件数量/系统所有相关文件数量F b-score是准确率和召回率的调和平均:F b=[(1+b2)*P*R]/(b2*P+R),比较常用的是F1。

在信息检索中,准确率和召回率是互相影响的,虽然两者都高是一种期望的理想情况,然而实际中常常是准确率高、召回率就低,或者召回率低、但准确率高。

所以在实际中常常需要根据具体情况做出取舍,例如对一般搜索的情况是在保证召回率的情况下提升准确率,而如果是疾病监测、反垃圾邮件等,则是在保证准确率的条件下,提升召回率。

但有时候,需要兼顾两者,那么就可以用F-score指标。

在信息检索中,准确率和召回率是互相影响的,虽然两者都高是一种期望的理想情况,然而实际中常常是准确率高、召回率就低,或者召回率低、但准确率高。

数据仓库与数据挖掘复习题

数据仓库与数据挖掘复习题

2014-2015-1《数据仓库与数据挖掘》期末考试题型一、单项选择题(每小题2分,共20分)二、填空题(每空1分,共20分)三、简答题(每题6分,共30分)四、析题与计算题(共30分)请同学们在考试时不要将复习资料带入考场!!!单选题1. 某超市研究销售纪录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数据挖掘的哪类问题?(A)A. 关联规则发现B. 聚类C. 分类D. 自然语言处理2. 以下两种描述分别对应哪两种对分类算法的评价标准? (A)(a)警察抓小偷,描述警察抓的人中有多少个是小偷的标准。

(b)描述有多少比例的小偷给警察抓了的标准。

A. Precision, RecallB. Recall, PrecisionA. Precision, ROC D. Recall, ROC3. 将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务?(C)A. 频繁模式挖掘B. 分类和预测C. 数据预处理D. 数据流挖掘4. 当不知道数据所带标签时,可以使用哪种技术促使带同类标签的数据与带其他标签的数据相分离?(B)A. 分类B. 聚类C. 关联分析D. 隐马尔可夫链5. 什么是KDD? (A)A. 数据挖掘与知识发现B. 领域知识发现C. 文档知识发现D. 动态知识发现6. 使用交互式的和可视化的技术,对数据进行探索属于数据挖掘的哪一类任务?(A)A. 探索性数据分析B. 建模描述C. 预测建模D. 寻找模式和规则7. 为数据的总体分布建模;把多维空间划分成组等问题属于数据挖掘的哪一类任务?(B)A. 探索性数据分析B. 建模描述C. 预测建模D. 寻找模式和规则8. 建立一个模型,通过这个模型根据已知的变量值来预测其他某个变量值属于数据挖掘的哪一类任务?(C)A. 根据内容检索B. 建模描述C. 预测建模D. 寻找模式和规则9. 用户有一种感兴趣的模式并且希望在数据集中找到相似的模式,属于数据挖掘哪一类任务?(A)A. 根据内容检索B. 建模描述C. 预测建模D. 寻找模式和规则11.下面哪种不属于数据预处理的方法? (D)A变量代换 B离散化 C 聚集 D 估计遗漏值12. 假设12个销售价格记录组已经排序如下:5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。

数据仓库和数据挖掘复习

数据仓库和数据挖掘复习

数据仓库和数据挖掘复习第一章数据仓库和数据挖掘概述一、概念题1、数据仓库的定义是什么?答:数据仓库是面向主题的、集成的、稳定的、不同时间的数据集合,用于支持经营管理中央决策制定过程。

2、数据仓库的特点是什么?答:数据仓库的特点是:(1)数据仓库是面向主题的;(2)数据仓库是集成的;(3)数据仓库是稳定的;(4)数据仓库是随时间变化的;(5)数据仓库中的数据量大;(6)数据仓库软硬件要求较高。

3、什么是商业智能?答:商业智能以数据库为基准,通过联机分析处理和数据挖掘技术帮助企业领导者针对市场变化的环境,做出快速、准确的决策。

二、简答题1、数据仓库和数据挖掘的区别和联系。

区别:数据仓库是一种存储技术,它的数据存储量是一般数据库的100倍,它包含大量的历史数据、当前的详细数据以及综合数据。

它能适应于不同用户对不同决策需要提供所需的数据和信息。

数据挖掘是从人工智能机器学习中发展起来的。

它研究各种方法和技术,从大量的数据中挖掘出有用的信息和知识。

联系:数据仓库和数据挖掘都是决策支持新技术。

但他们有着完全不同的辅助决策方式。

数据仓库中存储着大量辅助决策的数据,它为不同的用户随时提供各种辅助决策的随机查询、综合信息或趋势分析信息。

数据挖掘是利用一系列算法挖掘数据中隐含的信息和知识,让用户在进行决策中使用。

第二章 数据仓库原理一、概念题1、数据仓库结构图是什么?2、数据集市的定义是什么?答:数据集市是指具有特定应用的数据仓库,主要针对某个具有战略意义的应用或者具体部门级的应用,支持用户利用已有的数据获得重要的竞争优势或者找到进入新市场的具体解决方案,它包括两种,即独立的数据集市,它的数据直接来源于各生产系统;从属数据集市,它的数据直接来自于中央数据仓库。

3、多维数据模型有哪些?答:对于逻辑数据模型,使用的多维数据模型主要有星型模型、雪花模型、星网模型、第三范式等。

4、ETL 过程是什么?答:数据仓库的数据获取需要经过抽取、转换、装载三个过程,即ETL 过程。

数据仓库与数据挖掘期末综合复习

数据仓库与数据挖掘期末综合复习

数据仓库与数据挖掘期末综合复习第一章1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。

2、元数据是描述数据仓库内数据的结构和建立方法的数据,它为访问数据仓库提供了一个信息目录,根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。

3、数据处理通常分成两大类:联机事务处理和联机分析处理。

4、多维分析是指以维”形式组织起来的数据(多维数据集)采取切片、切块、钻取和旋转等各种分析动作,以求剖析数据,使拥护能从不同角度、不同侧面观察数据仓库中的数据,从而深入理解多维数据集中的信息。

5、ROLAP是基于关系数据库的OLAP实现,而MOLAP是基于多维数据结构组织的OLAP 实现。

OLAP技术的有关概念:OLAP根据其存储数据的方式可分为三类:ROLAP、MOLAP、HOLAP6、数据仓库按照其开发过程,其关键环节包括数据抽取、数据存储与管理和数据表现等。

7、数据仓库系统的体系结构根据应用需求的不同,可以分为以下4种类型:两层架构、独立型数据集合、以来型数据结合和操作型数据存储和逻辑型数据集中和实时数据仓库。

&操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的(但是可挥发”的)、企业级的、详细的数据库,也叫运营数据存储。

9、实时数据仓库”以为着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的速度交换数据和业务规则。

10、从应用的角度看,数据仓库的发展演变可以归纳为5个阶段:以报表为主、以分析为主、以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。

11、什么是数据仓库?数据仓库的特点主要有哪些?数据仓库通常是指一个数据库环境,而不是支一件产品,它是提供用户用于决策支持的当前和历史数据,这些数据在传统的数据库中通常不方便得到。

数据仓库就是一个面向主题的(Subject Oriented )、集成的(Integrate )、相对稳定的(Non-Volatile )、反映历史变化(Time Variant )的数据集合,通常用于辅助决策支持。

数据挖掘与数据仓库复习资料

数据挖掘与数据仓库复习资料

数据挖掘与数据仓库复习资料2010—04—07 16:511数据仓库与数据挖掘的关系大多数数据挖掘工具需要在集成的、一致的、经过清理的数据上进行挖掘.数据挖掘过程中所需要的数据处理与分析工具完全可以在数据仓库的数据处理与数据分析工具中找到,数据仓库中的OLAP完全可以为数据挖掘提供有关的数据操作支持数据挖掘技术在数据仓库中的应用,正好弥补了数据仓库只能提供大量数据,而无法进行深度信息分析的缺陷。

2数据仓库与传统数据库长期共存首先,企业内数据库与数据仓库将长期共存。

其次,数据库是数据仓库的基础。

第三,在技术实现方面,数据库与数据仓库几乎没有差别。

第四,不要脱离企业的实际,盲目地、片面地、甚至是赶时髦地去实施数据仓库.第五,数据仓库在能够为企业带来利益的同时,在支持企业信息决策中也存在一些局限性。

总之,不要过分夸大数据仓库与传统数据库的差异,不要过分夸大数据仓库系统的作用、贬低数据库系统的作用。

数据库与数据仓库将长期共存下去。

3挖掘与信息的关系4弥补传统数据库不足传统数据库的主要任务是进行事务处理,它所关注的是事务处理的及时性、完整性与正确性,而在数据的分析处理方面,则存在着诸多的不足,主要体现在缺乏集成性、主题不明确等几个方面.1.集成性的缺乏首先,业务数据库系统的条块与部门分割,导致数据分布的分散化与无序化.其次,业务数据库缺乏统一的定义与规划,导致数据定义存在歧义。

2.主题不明确3.分析处理效率低5数据仓库的特点和主题特点:数据仓库是面向主题的数据仓库是集成的数据仓库是稳定的数据仓库是随时间变化的数据仓库的数据量很大数据仓库软硬件要求较高6体系结构(三个层次)数据集市结构数据集市结构或称为主题结构的数据仓库是按照主题进行构思所形成的数据仓库,没有一个独立的数据仓库.系统的数据不存储在同一数据仓库中,每个主题有自己的物理存储区。

单一数据仓库结构将所有的主题都集中到一个大型数据库中的体系结构.数据源中数据被按照同一标准抽取到独立的数据仓库中,用户在使用时再根据主题将数据仓库中的数据发布到数据集市中。

数据仓库与数据挖掘期末试题

数据仓库与数据挖掘期末试题

广西财经学院2007——2008学年第一学期《数据仓库与数据挖掘》课程期末考试试卷(A)一、名词解释(每题4分,共20分)1、数据仓库数据仓库(Data Warehouse)是一个面向主题的(Subject Oriented)、集成的(Integrate)、相对稳定的(Non-Volatile)、反映历史变化(Time Variant)的数据集合,用于支持管理决策。

2、数据挖掘数据挖掘(Data Mining),又称为数据库中的知识发现(Knowledge Discovery in Database, KDD),就是从大量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程,简单的说,数据挖掘就是从大量数据中提取或“挖掘”知识。

3、雪花模型雪花模式中某些维表是规范化的,因而把数据进一步分解到附加的表中,模式图形成了类似雪花的形状。

通过最大限度地减少数据存储量以及联合较小的维表来改善查询性能。

雪花模型增加了用户必须处理的表数量,增加了某些查询的复杂性,但同时提高了处理的灵活性,可以回答更多的商业问题,特别适合系统的逐步建设要求。

4、OLAPOLAP是联机分析处理,是使分析人员、管理人员或执行人员能够从多角度对信息进行快速、一致、交互地存取,从而获得对数据的更深入了解的一类软件技术。

它支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。

5、决策树决策树是将训练集函数表示成树结构,通过它来近似离散值的目标函数。

这种树结构是一种有向树,它以训练集的一个属性作节点,这个属性所对应的一个值作边。

决策树一般都是自上而下的来生成的。

二、简答题(每题6分,共30分)1、企业面对海量数据,应如何具体实施数据挖掘,使之转换成可行的结果/模型?首先进行数据的预处理,主要进行数据的清洗,数据清洗,处理空缺值,数据的集成,数据的变换和数据规约。

2、请列举您使用过的各种数据仓库工具软件(包括建模工具,ETL工具,前端展现工具,OLAP Server、数据库、数据挖掘工具)和熟悉程度。

2011121数据仓库与数据挖掘技术复习题纲_显示

2011121数据仓库与数据挖掘技术复习题纲_显示

数据仓库与数据挖掘技术期末复习纲要2011-2012(1)一、掌握以下基本概念:1.数据挖掘:就是从存放在数据库,数据仓库或其他信息库中的大量的数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程。

数据挖掘(Data Mining),又称为数据库中的知识发现(Knowledge Discovery in Database, KDD),就是从大量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程,简单的说,数据挖掘就是从大量数据中提取或“挖掘”知识。

2.数据仓库:英文名称:Data W arehouse,可简写为DW或DWH。

定义:数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。

数据仓库是决策支持系统(DSS)和联机分析应用数据源的结构化数据环境。

数据仓库研究和解决从数据库中获取信息的问题。

数据仓库的四大关键特征:面向主题性、数据集成性、数据的时变性和数据的非易失性。

3.商业智能英文名称:Business Intelligence,简写为BI。

定义:商业智能描述了一系列的概念和方法,通过应用基于事实的支持系统来辅助商业决策的制定。

商业智能系统是一个学习型系统,能自动适应商务不断变化的要求。

4.决策支持系统英文名称:decision support system ,简称DSS定义:是辅助决策者通过数据、模型和知识,以人机交互方式进行半结构化或非结构化决策的计算机应用系统。

DSS主要是基于数据仓库,联机数据分析和数据挖掘技术的应用。

5. 主题: (Subject)主题是一个在较高层次上将数据归类的标准,每一个主题基本对应一个宏观的分析领域。

主题域的特征:独立性,完备性6. 数据集市:小型的,面向部门或工作组级别的数据仓库。

7. 数据仓库的元数据:关于数据的数据,用于构造、维持、管理、和使用数据仓库,在数据仓库中尤为重要。

8. ETL (Extraction-Transformation-Loading):数据抽取(Extract),数据转换(Transform),数据装载(Load)。

数据仓库与数据挖掘_北京理工大学中国大学mooc课后章节答案期末考试题库2023年

数据仓库与数据挖掘_北京理工大学中国大学mooc课后章节答案期末考试题库2023年

数据仓库与数据挖掘_北京理工大学中国大学mooc课后章节答案期末考试题库2023年1.假设属性income的最大最小值分别是12000元和98000元。

利用最大最小规范化的方法将属性的值映射到0至1的范围内。

对属性income的73600元将被转化为:()参考答案:0.7162.数据的可视化是将数据以各种图表的形式展现在用户的面前,使用户能观察数据,并在较高的层次上找出数据间可能的关系。

参考答案:正确3.数据挖掘和可视化都是知识提取的方式。

参考答案:正确4.面向应用场景的可视化交互式数据挖掘方法是以数据挖掘算法和模型为主,并不针对具体应用场景或数据类型参考答案:错误5.将原始数据进行集成、变换、维度规约、数值规约是以下哪个步骤的任务?()参考答案:数据预处理6.数据仓库的数据ETL过程中,ETL软件的主要功能包括()参考答案:数据抽取_数据加载_数据转换7.数据挖掘的主要任务是从数据中发现潜在规则,从而能更好的完成描述数据、预测数据的任务。

参考答案:正确8.传统数据仓库包括数据仓库数据库、数据抽取/转换/加载、元数据、访问工具、数据集市、和信息发布系统七个部分组成。

参考答案:数据仓库管理9.关联规则挖掘过程是发现满足最小支持度的所有项集代表的规则。

参考答案:错误10.假定你现在训练了一个线性SVM并推断出这个模型出现了欠拟合现象。

在下一次训练时,应该采取下列什么措施?()参考答案:增加特征11.下面哪一项关于CART的说法是错误的()参考答案:CART输出变量只能是离散型。

12.以下哪种方法不是常用的数据约减方法()参考答案:关联规则挖掘13.假设12个销售价格记录组已经排序如下:5, 10, 11, 13, 15,35, 50, 55, 72, 92,204, 215 使用如下每种方法将它们划分成四个箱。

等频(等深)划分时,15在第几个箱子内? ()参考答案:第二个14.下表是一个购物篮,假定支持度阈值为40%,其中()是频繁闭项集。

数据仓库和数据挖掘技术复习提纲

数据仓库和数据挖掘技术复习提纲

数据仓库和数据挖掘技术复习提纲一.数据仓库导论1.数据仓库的定义及其基本特征。

2.数据仓库与传统数据库的区别。

.综述建设数据仓库的必要性。

二.数据仓库的体系结构1.数据仓库系统的结构及各部分的主要功能。

2.数据仓库的结构及各部分的主要功能。

3.简述星型模型的结构特征。

.综述元数据的定义及作用。

三.数据仓库设计1.简述数据仓库开发的生命周期。

2.简述数据仓库的技术体系结构及各模块的功能。

3.数据仓库高层建摸与中间层建摸的区别和联系。

4.在数据仓库物理建摸时,如何提高的性能。

5.什么是粒度,进行粒度设计的基本方法是什么。

.综述数据仓库开发的步骤及各步骤之间的联系。

四.数据仓库管理技术1.什么是休眠数据,产生休眠数据的原因是什么。

2.综述邻线存储方案的基本思想及实现方法。

3.简述元数据的管理方法和使用方法。

4.数据仓库增量式更新的主要技术是什么.防止数据仓库中数据急剧增长的主要方法是什么五.联机分析处理1.的定义及主要特征。

2.图示与的关系。

3.举例说明什么是的切片、切块、下钻操作。

4.和的主要区别是什么。

5.和(多维数据库)的区别是什么。

6.分析的基本步骤。

.什么是,它有什么意义。

六.数据挖掘技术1.什么是数据挖掘,它与传统分析方法的主要区别是什么。

2.数据挖掘有那些主要方法。

3.什么是关联规则?举例说明。

4.简述关联规则的支持度,可信度的定义,并举例说明。

5.简述算法的基本思想。

6.设有交易数据库如图所示。

若最小支持度计数阈值为,最小可信度计数阈值为,试按算法求出<> 频繁项集<> 关联规则<> 根据你的理解,说明这些关联规则的意义,并指出使用那一条规则,公司可能赢利。

数据仓库与数据挖掘 复习题

数据仓库与数据挖掘 复习题

数据仓库与数据挖掘教程期末复习题1、数据挖掘来源于机器学习。

2、数据仓库是面向主题的、集成的、稳定的、不同时间的数据集合,用于支持经营管理中决策制定过程。

3、元数据描述了数据仓库的数据和环境,遍及数据仓库的所有方面,是整个数据仓库的核心。

4、Codd将数据分析模型分为四类:绝对模型、解释模型、思考模型和公式化。

5、数据立方体是在所有可能组合的维上进行分组聚集运算的总和。

6、数据质量是数据仓库的成败关键。

7、概括分析是探索者分析过程的第一步。

8、数据仓库的物理模型设计是对逻辑模型设计的数据模型确定物理存储结构和存取方法。

9、自组织网络以ART模型、Kohonen模型为代表,用于聚类。

10、预测是利用历史数据找出变化规律,建立模型,并用此模型来预测未来数据的种类、特征等。

11、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。

12、SQL、SERVER SSAS提供了所有业务数据的同意整合试图,可以作为传统报表和数据挖掘、在线分析处理、关键性能指示器记分卡的基础。

13、数据仓库的概念模型通常采用信息包图法来进行设计。

14、关联规则(关联规则的定义)的经典算法包括()算法。

15、分类器设计阶段包含划分数据集、分类器构造、分类器测试。

16、雪花模型是对星型模式维表的进一步层次化和规范化来消除冗余的数据。

17、数据处理通常分成两大类:联机事务处理和联机分析处理(英文缩写)。

18、数据抽取的两个常见类型是静态抽取和增量抽取。

19、维度表一般由主键、分类层次和描述属性组成。

20、ROLAP是基于关系数据库的OLAP实现,而MOLAP是基于多维数据结构组织的OLAP实现。

21、数据仓库按照其开发过程,其关键环节包括数据抽取、数据存储、数据管理和数据表现等到。

22、KDD是数据集中识别出有效的、新颖的、潜在有用的、以及最终可理解的模式的高级处理过程。

23、遗传算法中的基本要素(P27):问题编码;初始群体的设宴设定;适应值函数的设计;遗传操作设计;控制参数设定;24、数据集市数据集市是指具有特定应用的数据仓库主针对某个具有应用战略意义的应用或者具体部门级的应用,支持用户利用已有的数据获得重要竞争优势或者找到进入市场的具体解决方案。

数据仓库与挖掘期末考试知识点复习

数据仓库与挖掘期末考试知识点复习

数据挖掘知识点(考点)复习第6章的知识点 1.哪些学科和数据挖掘有密切联系?(P68数据挖掘关系图)2.数据挖掘的定义(P69)数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的数据中提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。

第7章的知识点1.数据挖掘步骤(P74)确定目标、数据准备、数据挖掘、结果分析2.数据选择的内容(包括哪两部分)(P75)属性选择和数据抽样3.数据清理的方法(P75) 了解小规模数据、大数据集的清理方法。

小规模数据:人工清理大数据集:自动清理(测定→识别→ 纠正)4.常见的模式有哪些(P78)尤其是分类、回归、聚类模式之间的分析比较。

① 分类模式(用于离散值)② 回归模式(用于连续值)③ 聚类模式④ 关联模式⑤序列模式即将数据间的关联性事件发生的顺序联系起来。

⑥时间序列模式根据数据随时间变化的趋势预测将来的值。

5.模式的精确度(P79)训练和测试模式需将数据分成哪两部分以及各自用途?模式准确性的测试方法及其比较。

训练和测试模式需将数据分成:一是训练数据,主要用于模式训练;另一个是测试数据,主要用于模式测试。

模式准确性的测试方法:封闭测试:测试集即训练模式的训练数据。

可测试模式的稳定性,但无法验证其推广能力。

开放测试:测试模式的数据是模式先前未见的数据。

可以很好地度量模式的准确度。

6.数据预处理的任务有哪些?(P83-89)数据清理、数据集成和转换7.空缺值的处理方法(P83-84)忽略该条记录(不很有效)、手工填补遗漏值(可行性差)、利用缺省值填补遗漏值(不推荐)数据库理论 数据仓库数据统计 机器学习 人工智能 数据挖掘利用均值填补遗漏、利用同类别均值填补遗漏值、利用最可能的值填补遗漏值(较常用)8.分箱技术(P84-86) 分箱之前要做的工作?P84 分箱之前需要对记录按目标属性值的大小进行排序(1)要求能描述出常见的分箱方法和数据平滑方法(简答)。

数据仓库与数据挖掘复习资料

数据仓库与数据挖掘复习资料
• 模式 – 定义:模式是一个用语言L表示的表达式E,它 可用来描述数据集F中的数据的特征,E所描述 的数据是集合F的一个子集FE。
概念
• “清洗”就是将错误的、不一致的数据在进 入数据仓库之前予以更正或删除,以免影 响DSS决策的正确性。
• 元数据:是用来描述数据的数据。它描述 和定位数据组件、它们的起源及它们在数 据仓库进程中的活动;关于数据和操作的 相关描述(输入、计算和输出)。元数据可用 文件存在元数据库中。
Data Warehouse
Selection
Data Cleaning Data Integration
Databases
A5
预处理:对数据列的基本处理
– 对于数据挖掘十分重要的一些特例的分布情况:
• 只有一种值的列
– 缺乏任何信息内容,忽略。
– 例如:1. null,no,0

2. 如建立一个模型预测新泽西州的汽车客户损失率,关
星型结构和雪花型结构
• 星型结构
–通过将事实表和维表进行连接,我们就可以得 到“星型结构”(Star-Scheme)。
雪花型结构
• 实际应用需求并不像标准星型结构描述的那么简 单,当问题涉及的维度很多时,事实表中的条目 数将迅速增长。
• 假定原来的事实表条目数为m,增加一个具有n个 条目的维表,通常,事实表的条目数将变成mn条, 这样事实表所占用的存储空间将迅速增大。
• Cluster analysis 聚类分析
– Class label类标记 is unknown: Group data to form new classes, e.g., cluster houses to find distribution patterns

数据仓库与数据挖掘复习资料

数据仓库与数据挖掘复习资料

数据仓库与数据挖掘简答题资料1.数据库与数据仓库的本质差别?《第一章》答:a.数据库是用于事务处理,数据仓库用于决策分析;b.数据库保持事务处理的当前状态,数据仓库既保存过去的数据又保存当前的数据;c.数据仓库的数据是大量数据库的集成;d.对数据库的操作比较明确,操作数据量少。

对数据仓库操作不明确,操作数据量大。

e.数据库是细节的、在存取时准确的、可更新的、一次操作数据量小、面向应用且支持管理;数据仓库是综合或提炼的、代表过去的数据、不更新、一次操作数据量大、面相分析且支持决策。

2.联机分析处理(OLAP)的简单定义是什么?它体现的特征是什么?《第三章》联机分析处理简单定义:即OLAP是共享多维信息的快速分析。

体现了4个特征:a.快速性:用户对OLAP的快速反应能力有很高的要求。

b.可分析性:OLAP系统应能处理与应用有关的任何逻辑分析和统计分析。

c.多维性:多维性是OLAP的特点,系统必须提供对数据分析的多维视图和分析,包括对层次维和多重层次维的完全支持。

d.信息性:不论数据量有多大,也不管数据存储在何处,OLAP系统都应能及时获得信息,并且管理大容量信息。

3.数据仓库两类用户有什么本质的不同?《第五章》数据仓库的用户有两类:信息使用者和探索者。

信息使用者是使用数据仓库的大量用户,信息使用者以一种可预测、重复性的方式使用数据仓库。

探索者完全不同于信息使用者,他们有一个完全不可预测的、非重复性的数据使用模式。

探索者查看海量详细数据,而概括数据则会妨碍探索者的数据分析。

探索者经常查看历史数据,且查看时间比使用者长的多。

探索者的任务是寻找公司数据内隐含的价值并且根据过去的事件努力预测未来决策的结果。

探索者是典型的数据挖掘者。

4.信息论的基本原理是什么?《第七章》一个传递信息的系统是由发送端(信源)和接收端(信宿)以及连接两者的通道(信道)组成的。

信息论把通信过程看做是在随机干扰的环境中传递信息的过程。

数据仓库与数据挖掘复习.doc

数据仓库与数据挖掘复习.doc

复习资料%1.名词解释1.数据仓J车:数据仓库是为企业所有级别的决策制定过程提供支持的所有类型数据的战略集合。

它是单个数据存储,出于分析性报告和决策支持的目的而创建。

为企业提供需要业务智能来指导业务流程改进和监视时间、成本、质量和控制。

2.螺旋式周期性开发方法:针对未来航空电了系统而临的挑战和航空电了系统设计的特点,提出了基于原型仿真的航空电子系统螺旋式开发方法3 .数据仓库元数据:在数据仓库中,无数据是描述数据仓库数据的结构和建立方法的数据。

4数据才努掘:是数据库知识发现中的一个步骤。

数据挖掘一般是指从大量的数据中通过算法搜索隐藏于其中信息的过程。

数据挖掘通常与计算机科学有关,并通过统计、在线分析处理、情报检索、机器学习、专家系统和模式识别等方法来实现目标。

5.数据集市:一种更小、更集中的数据仓库。

原始数据从数据仓库流入不同的部门以支持这些部门的定制化使用。

这些部门级的数据库就称为数据集市。

迎合了专业用户群体的特殊需求。

二、简答题1.为什么不能依靠传统的业务处理系统进行决策分析?传统业务系统数据量少,不能用来做出正确的预测,是针对口常事务处理而设计的,因此不能支持短时间内大量数据的分析和计算;传统业务系统数据杂乱,可能存在大量的坏数据以及异常数据,会影响决策分析的正确性。

如果在传统业务系统中进行决策分析,那么必然会影响到系统的使用2.数据粒度,数据粒度划分策略数据仓库中数据的细化和综合程度。

划分为:详细数据、轻度总结、高度总结三级。

原则:细化程度越高,粒度越小;细化程度越低,粒度越大。

3 .数据仓库的体系结构数据源、数据存储和管理、OLAP服务器以及前端工具与应用四个部分4. MOLAP和ROLAP在OLAP的数据存储特点MOLAP基本数据和聚合数据存放于多维数据集中,ROLAP基本数据和聚合数据均存放在RDBMS之中5 .请列出常见的现代数据挖掘技术知识发现技术、规则型挖掘技术、神经网络型挖掘技术、遗传算法型挖掘技术、粗糙型挖掘技术、决策树型挖掘技术、三、简述美联规则挖掘算法Apriori的算法思想并说明如何利用Apriori性质生成频繁项集。

数据仓库与数据挖掘期末考试题库

数据仓库与数据挖掘期末考试题库

复习内容填空题(每空1分)第1章1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。

2、根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。

3、数据处理通常分成两大类:联机事务处理(OLTP)和联机分析处理。

4、多维分析是指对以“维”形式组织起来的数据(多维数据集)采取切片、切块、钻取和旋转等各种分析动作,以求剖析数据,使用户能从不同角度、不同侧面观察数据仓库中的数据,从而深入理解多维数据集中的信息。

5、ROLAP是基于关系数据库的OLAP实现,而MOLAP是基于多维数据结构组织的OLAP实现。

6、数据仓库按照其开发过程,其关键环节包括数据抽取、数据存储与管理和数据表现等。

7、数据仓库系统的体系结构根据应用需求的不同,可以分为以下4种类型:两层架构、独立数据集市、依赖型数据集市和操作型数据存储和逻辑型数据集市和实时数据仓库。

8、操作型数据存储(ODS)实际上是一个集成的、面向主题的、可更新的、当前值的(但是可“挥发”的)、企业级的、详细的数据库,也叫运营数据存储。

P159、“实时数据仓库”意味着源数据系统、决策支持服务和数据仓库之间以一个接近实时的速度交换数据和业务规则。

10、从应用的角度看,数据仓库的发展演变可以归纳为5个阶段:以报表为主、以分析为主、以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。

11、数据挖掘的分析方法可以分为直接数据挖掘和间接数据挖掘两类。

第2章1、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。

2、抽取、转换、加载过程的目的是为决策支持应用提供一个单一的、权威数据源。

因此,我们要求ETL 过程产生的数据(即调和数据层)是详细的、历史的、规范的、可理解的、即时的和质量可控制的。

3、数据抽取的两个常见类型是静态抽取和增量抽取。

静态抽取用于最初填充数据仓库,增量抽取用于进行数据仓库的维护。

4、粒度是对数据仓库中数据的综合程度高低的一个衡量。

数据仓库与数据挖掘期末复习【精选文档】

数据仓库与数据挖掘期末复习【精选文档】

1。

数据仓库的概念和特点p11定义:一个面向主题的、集成的、非易失的且随时间变化的数据集合,用来支持管理人员作出决策。

特性:面向主题的、集成的、非易失的、随时间不断变化的。

1、面向主题的:数据仓库以一个奇特或组织机构中固有的业务主题作为处理的主体,是从整体的、全局的角度来衡量这些主题在企业中的作用.2、集成的(最重要):数据仓库必须将不一致的数据进行有效的集成,使之在数据仓库中有一致性的表示形式。

一致性问题只是集成所包含的一部分工作,另外还需要根据主题进行有效的数据组织。

3、非易失性:一旦操作型数据进入数据仓库,只要数据未超过数据仓库的数据存储期限,通常不对数据进行更新操作,而只进行查询操作。

即不进行一般意义上的更新,而且与操作型数据相比,更新频率要低得多,对时间的要求更为宽松.4、随时间不断变化的(数据因时而变的特点)《与操作型数据比较的,书上14页》:(1)数据仓库中的数据的时间期限要远远长于操作型环境中的数据的时间期限。

操作型环境一般60-90天,数据仓库5—10年。

⑵操作型环境中的数据库含有数据的“当前值”,其准确性访问是有效的,其当前值能被更新,数据仓库中的数据只是一系列某一时刻所生成的数据的复杂快照。

⑶操作型环境中的数据键码结构可能含有也可能不含有;数据仓库的键码结构总是包含某时间元素。

2.数据仓库中的关键概念14外部数据源:就是从系统外部获取的同分析主题相关的数据.数据抽取:是数据仓库按分析的主题从业务数据库抽取相关数据的过程。

数据清洗:所谓“清洗”是指在放入数据仓库之前将错误的、不一致的数据予以更正或删除,以免影响DSS决策的正确性。

数据转换:各种数据库产品所提供的数据类型可能不同,需要将不同格式的数据转换成统一的数据格式,称为数据转换。

数据加载:是指把清洗后的数据装入数据仓库的过程.数据加载策略包括数据加载周期和数据追加策略。

数据加载周期要综合考虑经营分析需求和系统加载代价,对不同业务的数据采用不同的加载周期,但必须保持同一时刻业务数据的完整性和一致性。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

1.数据仓库的概念和特点p11定义:一个面向主题的、集成的、非易失的且随时间变化的数据集合,用来支持管理人员作出决策。

特性:面向主题的、集成的、非易失的、随时间不断变化的。

1、面向主题的:数据仓库以一个奇特或组织机构中固有的业务主题作为处理的主体,是从整体的、全局的角度来衡量这些主题在企业中的作用。

2、集成的(最重要):数据仓库必须将不一致的数据进行有效的集成,使之在数据仓库中有一致性的表示形式。

一致性问题只是集成所包含的一部分工作,另外还需要根据主题进行有效的数据组织。

3、非易失性:一旦操作型数据进入数据仓库,只要数据未超过数据仓库的数据存储期限,通常不对数据进行更新操作,而只进行查询操作。

即不进行一般意义上的更新,而且与操作型数据相比,更新频率要低得多,对时间的要求更为宽松。

4、随时间不断变化的(数据因时而变的特点)《与操作型数据比较的,书上14页》:(1)数据仓库中的数据的时间期限要远远长于操作型环境中的数据的时间期限。

操作型环境一般60-90天,数据仓库5-10年。

⑵操作型环境中的数据库含有数据的“当前值”,其准确性访问是有效的,其当前值能被更新,数据仓库中的数据只是一系列某一时刻所生成的数据的复杂快照。

⑶操作型环境中的数据键码结构可能含有也可能不含有;数据仓库的键码结构总是包含某时间元素。

2.数据仓库中的关键概念14外部数据源:就是从系统外部获取的同分析主题相关的数据。

数据抽取:是数据仓库按分析的主题从业务数据库抽取相关数据的过程。

数据清洗:所谓“清洗”是指在放入数据仓库之前将错误的、不一致的数据予以更正或删除,以免影响DSS决策的正确性。

数据转换:各种数据库产品所提供的数据类型可能不同,需要将不同格式的数据转换成统一的数据格式,称为数据转换。

数据加载:是指把清洗后的数据装入数据仓库的过程。

数据加载策略包括数据加载周期和数据追加策略。

数据加载周期要综合考虑经营分析需求和系统加载代价,对不同业务的数据采用不同的加载周期,但必须保持同一时刻业务数据的完整性和一致性。

元数据:元数据是关于数据的数据。

元数据位于数据仓库的上层,而且能够记录数据仓库中对象的位置。

数据集市:面向企业中的某个部门(主题)而在逻辑上或物理上划分出来的数据仓库中的数据子集成为数据集市。

数据粒度:粒度是数据仓库的数据单位中保存数据的细化程度或综合成都的级别。

细化程度越高,粒度级别就越低。

相反,细化程度越低,粒度级别就越高。

数据仓库的数据组织结构:早期细节级(通常用于备用的、批量化的存储)、当前细节级、轻度综合数据级(数据集市)以及高度综合数据级。

一旦数据过期,就由当前细节级进入早期细节级。

经综合后的数据由当前细节级进入轻度综合数据级,然后由轻度综合数据级进入高度综合数据级。

数据粒度的两种形式:第一种形式的粒度是对数据仓库中的数据的综合程度高低的一种度量,另一种形式即样本数据库,是针对数据挖掘的,样本数据库是以一定的采样率(或按数据的重要程度的不同)从细节档案数据或轻度综合数据中抽取的一个子集。

数据分割:分割是指将数据分割到各自的物理单元中以便能分别进行处理,提高数据处理效率,数据分割后形成的数据单元称为分片。

4.数据仓库的数据追加与方法数据追加:数据仓库中的数据初装完成后,再向数据仓库输入数据的过程。

数据仓库的内容仅限于上一次向数据仓库输入数据后在OLTP数据库中发生变化的数据。

捕捉变化数据的常用途径如下:(1)时标方法:如果数据含有时标,对于插入或更新的数据记录,在记录中设置相应的时标,那么只需根据时标判断哪些数据是上次追加后变化的即可。

但并非所有数据库中的数据都含有时标。

(2)DELTA文件1.DELTA文件是由应用生成的,记录应用所改变的所有内容。

2.利用DELTA文件效率很高,它避免扫描整个数据库。

但因应用系统常由不同的软件开发商开发,生成DELTA文件的应用并不普遍,还有更改应用代码的方法,可在生成新数据时将其自动记录下来,但应用数目庞大,修改的代码十分繁琐。

(3)前后映像文件的方法:1.在抽取数据前后对数据库各做一次快照,然后比较两幅快照从而确定新数据。

2.它占用大量资源,对性能影响极大,因此无实际意义。

(4)日志文件(最切实有效)日志是DMBS的固有机制系统日志能把数据库服务器所执行的所有操作详细记录下来,通过分析日志获取数据变化情况。

它还具有DELTA文件的优越性质,提取数据只要局限日志文件即可,不用扫描整个数据库。

固有机制,不影响OLTP性能。

5..数据仓库的数据清理1.数据加入失去原有细节的一个定期综合文件2.数据从高性能介质转移到大容量介质上3.数据从系统中实质性的清除4.数据从体系结构的某一个层次转至另一个层次,必须从操作型层次转至数据仓库层次6.数据集市的类型概念,在企业中很重要的作用数据集市(Data Mart) ,也叫数据市场,是一个从操作的数据和其他的为某个特殊的专业人员团体服务的数据源中收集数据的仓库。

数据仓库在整个组织范围内为各个部门提供管理与决策支持,而数据集市通常处于部门级,只能为某个局部范围内的管理人员提供服务,因此也称为部门级数据仓库。

因此可以说数据集市是针对特定应用的数据仓库,即针对某个具有战略意义的应用或部门级应用,支持用户利用已有的数据做出管理决策。

数据集市(Data Marts)是一种更小、更集中的数据仓库,为公司提供分析商业数据的一条廉价途径。

1.独立型数据集市(独立数据集市)其数据直接来自各个生产系统,许多企业考虑投资问题,最终建成独立数据集市,用来解决个别部门较为迫切的决策问题。

从这种意义上讲,它和企业数据仓库除了在数据量和服务对象上存在差别外,逻辑结构并无多大区别,也许就是把数据集市成为部门级数据仓库的主要原因。

2.从属性数据集市(从属集市):数据直接来自中央数据仓库访问数据仓库频繁的关键业务部门建立从属数据集市,可以提供查询操作的反应速度。

7.数据仓库VS数据集市8.数据仓库的体系结构数据仓库系统的层次结构数据仓库在逻辑上可以分为:数据获取/管理层、数据存储层、数据分析/应用层1. 数据获取/管理层:(1).数据仓库的定义与修改、(2).数据的获取、(3.)数据仓库系统的管理2.数据存储层:是数据仓库的主体,包括(1).从外部数据源抽取数据,经清洗、转换处理,并按主题进行组织和存放称其为业务数据仓库(2).数据仓库的元数据(3.)针对不同的数据挖掘和分析主题而生成的数据集市3.数据分析/应用层:(1)查询/统计功能(2)OLAP服务(3)数据挖掘服务9.数据仓库的构造模式(加上有反馈的~~~六种)1、自顶向下模式2、自底向上模式、3、平行开发模式1.自定向下模式特点:在这种模式下,数据集市是数据仓库的真子集,数据由数据仓库流向数据集市。

数据仓库的设计过程直观,概念清晰,易于只要对外部数据源所支持的决策有较深入的额理解,保证各数据集市都是数据仓库的真子集,就可以完全消除信息之间的“蜘蛛网”现象。

这种模式不足之处在于要求设计者对具体业务有较深入的理解,系统设计规模较大,实施周期过长,项目见效缓慢,尤其是在项目实施初期,成效并不明显构造方向:从左到右决策分析主题<→数据集市←数据仓库←外部数据源2.自底向上模式自底向上模式设计思路是先具体,后综合构造方向:从右到左决策分析主题<→数据仓库←数据集市←外部数据源特点:投资少,见效快,由于数据集市缺少元数据,因而最终构造数据仓库的过程具有一定的难度,并有可能影响数据仓库整体构造的合理性以及系统的运行效率3.平行开发模式(又称企业级数据集市模式)平行模式是在自顶向下模式的基础上,吸收了自底向上的优点发展而成的,是他们的有机结合。

4.改进的开发模式均在上面介绍的基础上经改进发展而来,共同特点是:按照软件工程学的观点,接收用户对所构建的数据仓库系统的反馈信息,加以分析和整理,并以此为依据,对数据仓库进行修改,以不断提高数据系统对决策的支持能力。

12.联机分析处理p40联机分析处理OLAP定义:OLAP是一种软件技术,它使分析人员能够迅速、一致、交互地从各个方面观察信息,以达到深入理解数据的目的。

目标是满足决策支持或多维环境下特定的查询和报表需求,因此OLAP可以说是多维数据分析工具的集合。

OLAP是针对特定问题的联机数据访问和分析处理OLAP功能:数据分析、报表(p67)13.OLAP相关的基本概念p41变量:是数据的实际意义,用来描述数据”是什么”维:是人们观察数据的特定角度维的层次:人们观察数据的某个特定角度还可以存在细节程度不同的多个描述,这就是维的层次维的成员:维的一个取值称为该维的的一个成员多维数组:是维和变量的组合表示数据单元:是多维数据的取值14.OLAP准则(12条,选择题)p441.OLAP模型必须提供多维概念2.透明性3.存取能力准则4.稳定的报表能力5.客户—服务器体系结构6.维的等同性准则7.动态的稀疏矩阵处理准则8.多用户支持能力9.非受限的夸维操作10.直观的数据操作11.灵活的报表的生成12.非受限维语聚集层次简化的5条原则:1.快速性、2.可分析性、3.共享性、4.多维性、5.信息性15.OLAP基本分析动作,每个动作是什么意思p49数据切片:多维数据的子集是多维数据的维i上切片数据切片是一种优化功能,可以帮助将查询指向相应的数据。

数据切片无法为分区指定数据源。

也就是说,数据切片不能用于限制从分区事实数据表中选择的数据和包含在分区中的数据。

数据切片仅适用于使用ROLAP存储模式的对象。

使用分区向导创建分区时,可以指定一个数据切片。

数据切块:是将完整的数据立方体切取一部分数据而得到得心的数据立方体数据钻取:就是从较高的维度层次下降到较低的维度层次上来观察多维数组数据聚合:是钻取得逆向操作,是对数据进行高层次综合的操作数据旋转:16.OLAP数据组织1、多维数据组织MOLAPp57多维数据库基于多维数据库的MOLAP(多维联机分析处理)是以多维数据库(MDDB)为核心的。

简言之,多维数据库是以多维方式来组织和存储数据。

2、关系数据组织ROLAPp60ROLAP(关系联机分析处理)将多维结构进行分解,利用两种表来表达多维信息。

17.星形结构的存储实现p61-62、雪花结构星型模型由事实表和多个维度表组成。

事实表中存放大量关于企业的事实数据,对象个数通常都很大,而且非规范化程度很高。

为度表中存放描述性数据,维度表是围绕事实表建立的较小的表。

事实表是星型模型的核心,数据量大,冗余小维度表是事实表的附属表优点:星形模型是非规范化的,以增加存储空间的代价,提高了多维数据的查询速度。

而规范化的关系数据库设计是使数据的冗余保持在最少,并减少了当数据改变时系统必须执行的动作。

相关文档
最新文档