大数据时代

23
数据驱动的人生
24
3.要全部数据，不要抽样！
• 模型不再那么重要，让数据说话。
• 在小数据时代，随机采样就是利用最少的数据获 得更多的信息。而且采样分析的精确性随着采样 随机性的增加而大幅度的增加，与样本数量的增 加关系不大。
• 在大数据时代，随着收集数据的便捷性，以及数 据处理速度加快，我们可以分析到更多的数据， 甚至是可以处理和某个特别现象相关的所有数据 ，而不是依赖于随机采样。
4
5
6
“大数据”时代的爆炸增长
• 地球上至今总共的数据量： • 在2006年，个人用户才刚刚迈
进TB时代，全球一共新产生了 约180EB的数据； • 在2011年，这个数字达到了 1.8ZB。 • 而有市场研究机构预测： • 到2020年，整个世界的数据总 量将会增长44倍，达到 35.2ZB（1ZB=10亿TB）！
12
大数据存放在哪？如何分析？
Hadoop是运行在大量通用计算单位上提供海量数据存储与 并行计算的平台框架。 基于X86集群水平可扩展 基于MapReduce的并行计算能力 设计规模：PB级的数据量，数千台计算节点
提纲
13
大数据的概念及技术 大数据时代的思维和变革 大数据在企业中的应用案例 大数据所带来的机遇和挑战
• 通过汇集这些数据，我们可以利用事故发生之 前的姿势 变化情况，分析出坐姿和行驶安全之间的关系。这个系统 同样可以在司机疲劳驾驶的 时候发出警示或者自动刹车。 同时，这个系统不但可以发现车辆被盗，而且可以通过收 集到的 数据识别出盗贼的身份。
19
数据，从最不可能的地方提取
• 苹果在2008年申请的“耳机、耳塞 或耳麦的运动检测系统”专利。
1
2
提纲
大数据的概念及技术 大数据时代的思维和变革 大数据在企业中的应用案例 大数据所带来的机遇和挑战
3
一天之间，互联网上要发生多少事
• 每天有2940亿封电子邮件发生，如果这些是纸质信件， 在美国需要花费两年时间处理。
• 每天有200万篇博客在网上发布，这些文章相当于《时代》 杂志刊发770年的总量。
20
2.决策思维：让数据驱动
21
未来的世界由数据驱动
• 2015年的3月15日，马云在德国的汉诺威IT博览 会上的主题演讲：
• “一家互联网公司要想活得长久，必须找到一个 方式让互联网经济和实体经济相结合，这个方式 就是数据。”
• “未来的世界，我们将不再由石油驱动，而是由 数据驱动。”
22
数据驱动的工业4.0
• 这种包含各种传感器的耳机可以检测 各项生理指标，包括体温、心率和排 汗水平。
• 根据专利文件，健身检测系统被隐藏 在耳机中，用户通常在运动时戴着耳 机听音乐。通过将耳机放在耳朵里或 附近，嵌入的运动传感器可以获得体 温、排汗和心率方面的数据。除了基 于皮肤的检测功能，耳机内部还可以 集成加速度传感器，这样可以收集准 确的运动数据。
• 而雅虎、Google这样的公司，正在 以平均每人、每月2500条信息的速 度，捕获我们的详细数据。
16
数据，从最不可能的地方提取
• 数据是指存储在某种介质上能够识别的物理符号， 是对客观事物性质和状态的描述。
• 先有数据再说应用。
17
数据，从最不可能的地方提取
• 量化坐姿
▫ 日本先进工业技术研究所（Japan’s Advanced Institute of Industrial Technology）的教授越 水重 臣（Shigeomi Koshimizu）所做的研究就 是关于一个人的坐姿。很少有人会认为一个人的坐 姿能 表现什么信息，但是它真的可以。当一个人坐 着的时候，他的身形、姿势和重量分布都可以量 化 和数据化。越水重臣和他的工程师团队通过在汽车 座椅下部安装总共360个压力传感器以测量 人对椅 子施加压力的方式。把人体屁股特征转化成了数据 ，并且用从0~256这个数值范围对其进 行量化， 这样就会产生独属于每个乘坐者的精确数据资料。
ຫໍສະໝຸດ Baidu4
大数据思维
• 量化思维——一切皆可量化 • 决策思维——让数据驱动 • 全样思维——样本=总体 • 关联思维——追求相关关系 • ……
15
1.量化思维：一切皆可量化
• Stephen Beck
• 每一天，我们的身后都拖着一条由个 人信息组成的长长的“尾巴”，这只 是因为我们生活在一个现代化的世界 。我们—— • ◎点击网页 • ◎切换电视频道 • ◎驾车穿过自动收费站 • ◎用信用卡购物 • ◎使用手机
10
“大数据”特征
11
大数据存放在哪？如何分析？
Hadoop是基于Google有关大数据的论文实现的开源项目，最初的框架 由Doug Cutting在2005年提出，目前是由Apache维护的开源项目。从初创 到现在，Hadoop体系在几年中开发完成了一系列重要的子项目，已经形成 了一个涵盖数据存储、管理和分析功能的较为完整的大数据生态系统，成 为大数据存储与处理领域地位最重要、应用最广泛的开源框架。
• 每天有2.5亿张照片上传至社交网站Facebook，如果都 打印出来，摞在一起能有80个埃菲尔铁塔那么高。
• 每天有86.4万小时视频被上传至视频网站Youtube，相 当于不间断播放视频98年。
• 每天有1.87亿个小时的音乐会在流媒体音乐网站 Pandora上播放，如果一台电脑从公元元年就开始播放 这些音乐会，到现在还没完没了地接着放。
想驾驭这庞大的数 据，我们必须了解
大数据的特征。
7
“大数据”的诞生
2008年9月4日《自然》杂志社，推出的名为“大数 据”的专刊，创造出了“大数据”这个概念。
8
“谷歌流感趋势”把大数据推上风口浪尖
美国疾病控制中心要在流感暴 发两周后才知道 谷歌的大数据预测只需要一天
9
什么是“大数据”？
大数据（big data），巨量数据集合 是指无法在一定时间内用传统数据库软件工具 对其内容进行抓取、管理和处理的数据集合。
▫ 在这个实验中，这个系统能根据人体对座位的压力 差异识别出乘坐者的身份，准确率高达98%。
18
数据，从最不可能的地方提取
• 这项技术可以作为汽车防盗系统安装在汽车上。有了这个 系统之后， 汽车就能识别出驾驶者是不是车主；如果不 是，系统就会要求司机输入密码；如果司机无法准 确输 入密码，汽车就会自动熄火。