旅游大数据平台方案

旅游研究院大数据挖掘与分析

科研平台建设方案

二匕旦

—- 冃禺

1.1数据挖掘和大数据分析行业背景和发展趋势

移动互联网、电子商务以及社交媒体的快速发展使得企业需要面临的数据量成指数增长。根据IDC《数字宇宙》(Digital Universe)研究报告显示，2020年全球新建和复制的信息量已经超过40ZB,是2015年的12倍;而中国的数据量则会在2020年超过

8ZB,比2013年增长22倍。数据量的飞速增长带来了大数据技术和服务市场的繁荣发展。IDC亚太区(不含日本)最新关于大数据和分析(BDA)领域的市场研究表明，大数据技术和服务市场规模将会从2012年的5. 48亿美元增加到2017年的23. 8亿美元，未来5年的复合增长率达到34. 1%O该市场涵盖了存储、服务器、网络、软件以及服务市场。数据量的增长是一种非线性的增长速度。

据IDC分析报道，最近一年来，亚太区出现了越来越广泛的大数据和分析领域的应用案例。在中国，从互联网企业，到电信、金融、政府这样的传统行业，都开始釆用各种大数据和分析技术，开始了自己的大数据实践之旅;应用场景也在逐渐拓展，从结构化数据的分析，发展到半结构化、非结构化数据的分析，尤其是社交媒体信息分析受到用户的更多关注。用户们开始评估以Hadoop＞数据库一体机以及内存计算技术为代表的大数据相关新型技术。

最新调研结果显示，提高竞争优势，降低成本以及吸引新的客户是中国用户对大数据项U最期望的三大回报。訂前现有的大数据项U主要集中在业务流程优化以及提高客户满意度方面的应用。IDC发现很多用户希望大数据能够为企业带来业务创新，并且开

始使用高级分析的解决方案以管理复杂的数据环境。过去一年中用户对社交数据的收集

和分析应用的关注度增加明显。未来，地理位置信息分析将会增长迅速，这也会推动用

户对大数据安全和隐私管理的关注。在亚太区，澳大利亚和新加坡的用户对大数据的相

关投资主要在咨询服务方面，更关注如何根据新的最佳实践需求设计和实施方案。中国

和印度在大数据领域的硬件投资则非常明显，更倾向于数据中心相关的基础架构的投

资。

在传统的数据分析与商业数据挖掘中，人们通常遵循二八原则。也就是任务20%的用户提供了80%的价值，因此利用优势资源用户对于少数用户的服务。随着互联网的发展，越来越多的低价值用户进入到商业体系中，这部分用户成为商业企业竞争的LI标。比如电商行业，大量顾客都是传统意义上的低价值客户，数据表明对于这部分用户价值的挖掘可以改变二八原则，甚至可达到价值的儿乎均匀分布。并且由于计算技术的发展，对于大数据的分析也成为了可能。

1-2旅游行业开展大数据分析及应用的意义

旅游行业有行业广、规模大、移动性强的特点，因此更加依赖大数据。当前，旅游业也在“新常态”下迎来了升级的挑战和变革的机遇，新常态对于一般的经济部门是经济速度放慢、人均GDP增速减小，很多传统行业在调整结构，但新常态对旅游行业却是速度加快的。旅游大数据的解决之道，在于整合国内多途径的大数据源，形成旅游大数据生态，为国内旅游业提供大数据解决方案，促进旅游业的转型升级。

1.3数据挖掘与大数据分析科研平台建设的必要性

数据挖掘与大数据分析是以计算机基础为基础，以挖掘算法为核心，紧密面向行业应用的一门综合性学科。其主要技术涉及概率论与数理统计、数据挖掘、算法与数据结构、计算机网络、并行计算等多个专业方向，因此该学科对于科研平台具有较高的专业要求。科研平台不仅要提供基础的编程环境，还要提供大数据的运算环境以及用于科学研究的实战大数据案例。这些素材的准备均需完整的科研平台作为支撑。

LI前，在我国高校的专业设置上与数据挖掘与大数据分析相关的学科专业包括：计算机科学与技术、信息管理与信息系统、统计学、经济、金融、贸易、生物信息、旅游以

及公共卫生等。这些专业的在使用科研平台时的侧重点各不相同，使用人员层次水平也不相同，对算法的使用也不相同，因此，需要建设一个便利、操作简易、算法全面、可视化的大数据科研平台是非常有必要的。

二. 数据挖掘与大数据分析科研平台总体规划

2.1科研平台规划

科研平台建设的基本原则是科硏为主，同时为教学实验提供部分计算资源 及安全资源，系统在授权范用内共享科研系统的计算资源，提高教学实验的真 实性。 项H 的总体架构如图1所示。

人数据科研环境

图1 •总体架构图

系统整体山千兆核心交换机作为核心节点，并以两个千兆接入交换机作为 科研与实验环境的交换节点。科研环境山我司开发的商业Hadoop 集群为基 础，上层集成便于操作的大数据科研应用系统，集成10TB 大数据案例集及可 拖拽的数据算法和可视化算法。

交换机 可视化计算

虚拟化实验 集群 集群

交换机

核心交

2.2科研平台功能规划

本科研平台针对数据挖掘有大数据分析研究内容，兼顾科研与教学的需求，既能满足科研工作中对大数据分析高性能平台要求也具有教学实验平台简单易用的特点。

1) 大数据资源规划

内置商业级数据资源，按常见科研分类规划数据资源，可以直接用于科学研究，具有数据资源授权管控功能。

2) 大数据分析功能规划

建设以商业版Hadoop为核心的大数据分析平台，系统提供MapReduce以及Spark等大数据挖掘功能。系统具有完整的管理调度功能。

3) 硬件资源功能规划

系统具有24个Intel Xeon E5 CPU计算能力,提供超过40TB的存储能力以及1T 以上的内存，可满足1000任务共时计算内能，方便扩充。

三. 数据挖掘与大数据分析科研平台建设方案

3.1大数据科研平台设备架构

图3.设备架构

3.1.1主节点和备份主节点

主节点负责整个分布式大数据平台的运行。主节点始终在内存中保存整个 文件系统的LI 录结构，每个LI 录有哪些文件，每个文件有哪些分块及每个分块 保存在哪个计算上，用于处理读写请求。同时，主节点还负责将作业分解成子 任务，并将这些子任务分配到各个计算节点上。备份主节点在主节点发生故障 时承担主节点的各种任务，使得分布式大数据平台仍然能够正常运行。

3.1.2管理节点

管理节点用于管理整个分布式大数据平台，可进行节点安装、配置、服务 配置等，

提供网页窗口界面提高了系统配置的可见度，而且降低了集群参数设 置的复杂度。

计算节点