25第7章 常见的分布式存储
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
目录
Contents
01 HDFS分布式存储 02 实验24：HDFS搭建和使用 03 GlusterFS分布式存储 04 实验25:GlusterFS搭建和使用 05 Lustre分布式存储
06 实验26：Lustre搭建和使用 07 MooseFS分布式存储
08 实验27：MooseFS搭建和使用 09 Ceph分布式存储 10 实验28：Ceph搭建和使用
3
node-3
192.168.1.104/24
4
node-4
192.168.1.105/24
三、实验步骤
角色 MDT MDS OST（sdb 20GB） OST（sdb 20GB） 测试 Client
详细操作步骤见本书提供的操作视频。
07
MooseFS分布式存储
MooseFS架构
MooseFS架构
存储数据，启动DN线程的时候向NN汇报Block信息；通过向NN发送心跳保持与其 联系(3秒1次),如果NN10分钟没有收到DN心跳,则认为其Lost,并Copy其上的Block到其他
HDFS如何读数据
HDFS如何写数据
02
HDFS搭建和使用
【实验24】：HDFS搭建和使用
一、实验目的
了解HDFS架构原理及其组件功能。 通过实验掌握HDFS文件系统的安装、配置和集群管理。 熟练掌握常见的HDFS运行管理命令行的使用。
二、实验内容
实验架构图
【实验24】：HDFS搭建和使用
二、实验内容
如 上 图 所 示 ， 在 node-1 、 node-2 、 node-3 上 部 署 HDFS 文 件 系 统 ， 其 中
NameNode部署在node-1节点上，Secondarynamenode部署在node-2节点上，单节 点DataNode部署在node-3节点上，启动集群，进行集群的维护，进行简单的文件上传 、查看操作。
01
HDFS分布式存储
HDFS简介
HDFS（Hadoop Distributed File System）是Hadoop项目的核心子项目，是 分布式计算中数据存储管理的基础，是基于流数据模式访问和处理超大文件的需求而 开发的，可以运行于廉价的商用服务器上。它所具有的高容错、高可靠性、高可扩展 性、高获得性、高吞吐率等特征为海量数据提供了不怕故障的存储，为超大数据集（ Large Data Set）的应用处理带来了很多便利。
06
Lustre搭建和使用
【实验26】：Lustre搭建和使用
一、实验目的
了解Lustre架构原理及其组件功能。 实验掌握Lustre文件系统的安装、配置和集群管理。 熟练掌握Lustre文件的挂载。
二、实验内容
wenku.baidu.com
【实验26】：Lustre搭建和使用
二、实验内容
在3个节点node-1、node-2、node-3分别留有sdb空白硬盘，大小为20Gb,其中
node-1节点为MDS索引服务器，node-2、node-3为OSD底层提供存储的服务器 ，
node-4为测试客户端，通过安装、配置相关服务，启动集群，在node-4上面挂载实现
Lustre文件系统，各机器名、网络配置、角色分配如下：
节点号 1 2
主机名 node-1 node-2
网络 IP 地址/掩码 192.168.1.102/24 192.168.1.103/24
HDFS优点：高容错性，适合批处理，可构建在廉价机器上。 HDFS缺点：低延迟数据访问，小文件存取。
HDFS 架构
HDFS 架构
HDFS包含3种节点，NameNode(NN)，Secondary NameNode(SNN)， DataNode(DN)。以下分别介绍各个节点的功能: (1) NN节点功能
熟练掌握GlusterFS文件的挂载。
二、实验内容
GlusterFS实验流程图
三、实验步骤
详细操作步骤见本书提供的操作视频。
05
Lustre分布式存储
HDFS 架构
HDFS 架构
Lustre集群组件包含了MDS（元数据服务器）、MDT（元数据存储节点）、OSS（ 对象存储服务器）、OST（对象存储节点）、Client（客户端），以及连接这些组件的高 速网络，如图所示。 （1）MDS（元数据服务器）提供元数据服务。MDS负责管理元数据，提供一个全局的 命名空间，Client可以通过MDS读取到保存于MDT之上的元数据。在Lustre中MDS可以 有2个，采用了Active-Standby的容错机制，当其中一个MDS不能正常工作时，另外一个 后备MDS可以启动服务。 （2）MGS（管理服务器）提供Lustre文件系统的配置信息。 （3）OSS（对象存储服务器）Expose块设备并提供数据。接受并服务来自网络的请求。 （4）MDS/MGS和OSS/OST的集合有时称为Lustre服务前端（Lustreserver Fronts）， 而Fsfilt和Ldiskfs则被称为Lustre服务后端（Luster Server Backends）。
接收客户端的读写请求，NN中保存文件的Metadata数据(元数据是最重要的,元数据 丢失的话，Datenode也就丢失)包括除文件内容外的文件信息。 （2） SNN节点功能
它的主要工作是帮助NN合并Edits Log,减少NN启动时间,另一方面合并会有大量的 IO操作,但是NN最主要的作用是接收用户的读写服务的,所以大量的资源不能用来进行合 并操作。 （3）
MFS整体架构的四种角色： （1）Master（元数据服务器）：这个组件的角色是管理整个MFS文件系统的主服务器， 除 了 分 发 用 户 请 求 外 ， 还 用 来 存 储 整 个 文 件 系 统 中 的 每 个 数 据 文 件 的 Metadata 信 息 ， Metadata（元数据）信息包括文件（也可以是目录、Socket、管道、设备等）的大小、 属性、文件位置路径等，以及文件空间的回收和恢复，控制多Chunk Server节点的数据 拷贝。 （2）Metalogger（元数据日志服务器）：这个组件的作用是备份管理服务器Master的 变化的Metadata信息日志文件，文件类型为Changelog_Ml.*.MFS，以便于在主服务器 出现问题的时候，可以经过简单的操作即可让新主服务器进行工作。 （3）Chunk（数据存储服务器）：这个组件就是真正存放数据文件实体的服务器了，这 个角色可以有多台不同的物理服务器或不同的磁盘及分区来充当，当配置数据的副本多于
三、实验步骤
详细操作步骤见本书提供的操作视频。
03
GlusterFS分布式存储
GlusterFS架构
HDFS 架构
04
GlusterFS搭建和使用
【实验25】：GlusterFS搭建和使用
一、实验目的
了解GlusterFS架构原理及其组件功能。
通过实验掌握GlusterFS文件系统的安装、配置和集群管理。
Contents
01 HDFS分布式存储 02 实验24：HDFS搭建和使用 03 GlusterFS分布式存储 04 实验25:GlusterFS搭建和使用 05 Lustre分布式存储
06 实验26：Lustre搭建和使用 07 MooseFS分布式存储
08 实验27：MooseFS搭建和使用 09 Ceph分布式存储 10 实验28：Ceph搭建和使用
3
node-3
192.168.1.104/24
4
node-4
192.168.1.105/24
三、实验步骤
角色 MDT MDS OST（sdb 20GB） OST（sdb 20GB） 测试 Client
详细操作步骤见本书提供的操作视频。
07
MooseFS分布式存储
MooseFS架构
MooseFS架构
存储数据，启动DN线程的时候向NN汇报Block信息；通过向NN发送心跳保持与其 联系(3秒1次),如果NN10分钟没有收到DN心跳,则认为其Lost,并Copy其上的Block到其他
HDFS如何读数据
HDFS如何写数据
02
HDFS搭建和使用
【实验24】：HDFS搭建和使用
一、实验目的
了解HDFS架构原理及其组件功能。 通过实验掌握HDFS文件系统的安装、配置和集群管理。 熟练掌握常见的HDFS运行管理命令行的使用。
二、实验内容
实验架构图
【实验24】：HDFS搭建和使用
二、实验内容
如 上 图 所 示 ， 在 node-1 、 node-2 、 node-3 上 部 署 HDFS 文 件 系 统 ， 其 中
NameNode部署在node-1节点上，Secondarynamenode部署在node-2节点上，单节 点DataNode部署在node-3节点上，启动集群，进行集群的维护，进行简单的文件上传 、查看操作。
01
HDFS分布式存储
HDFS简介
HDFS（Hadoop Distributed File System）是Hadoop项目的核心子项目，是 分布式计算中数据存储管理的基础，是基于流数据模式访问和处理超大文件的需求而 开发的，可以运行于廉价的商用服务器上。它所具有的高容错、高可靠性、高可扩展 性、高获得性、高吞吐率等特征为海量数据提供了不怕故障的存储，为超大数据集（ Large Data Set）的应用处理带来了很多便利。
06
Lustre搭建和使用
【实验26】：Lustre搭建和使用
一、实验目的
了解Lustre架构原理及其组件功能。 实验掌握Lustre文件系统的安装、配置和集群管理。 熟练掌握Lustre文件的挂载。
二、实验内容
wenku.baidu.com
【实验26】：Lustre搭建和使用
二、实验内容
在3个节点node-1、node-2、node-3分别留有sdb空白硬盘，大小为20Gb,其中
node-1节点为MDS索引服务器，node-2、node-3为OSD底层提供存储的服务器 ，
node-4为测试客户端，通过安装、配置相关服务，启动集群，在node-4上面挂载实现
Lustre文件系统，各机器名、网络配置、角色分配如下：
节点号 1 2
主机名 node-1 node-2
网络 IP 地址/掩码 192.168.1.102/24 192.168.1.103/24
HDFS优点：高容错性，适合批处理，可构建在廉价机器上。 HDFS缺点：低延迟数据访问，小文件存取。
HDFS 架构
HDFS 架构
HDFS包含3种节点，NameNode(NN)，Secondary NameNode(SNN)， DataNode(DN)。以下分别介绍各个节点的功能: (1) NN节点功能
熟练掌握GlusterFS文件的挂载。
二、实验内容
GlusterFS实验流程图
三、实验步骤
详细操作步骤见本书提供的操作视频。
05
Lustre分布式存储
HDFS 架构
HDFS 架构
Lustre集群组件包含了MDS（元数据服务器）、MDT（元数据存储节点）、OSS（ 对象存储服务器）、OST（对象存储节点）、Client（客户端），以及连接这些组件的高 速网络，如图所示。 （1）MDS（元数据服务器）提供元数据服务。MDS负责管理元数据，提供一个全局的 命名空间，Client可以通过MDS读取到保存于MDT之上的元数据。在Lustre中MDS可以 有2个，采用了Active-Standby的容错机制，当其中一个MDS不能正常工作时，另外一个 后备MDS可以启动服务。 （2）MGS（管理服务器）提供Lustre文件系统的配置信息。 （3）OSS（对象存储服务器）Expose块设备并提供数据。接受并服务来自网络的请求。 （4）MDS/MGS和OSS/OST的集合有时称为Lustre服务前端（Lustreserver Fronts）， 而Fsfilt和Ldiskfs则被称为Lustre服务后端（Luster Server Backends）。
接收客户端的读写请求，NN中保存文件的Metadata数据(元数据是最重要的,元数据 丢失的话，Datenode也就丢失)包括除文件内容外的文件信息。 （2） SNN节点功能
它的主要工作是帮助NN合并Edits Log,减少NN启动时间,另一方面合并会有大量的 IO操作,但是NN最主要的作用是接收用户的读写服务的,所以大量的资源不能用来进行合 并操作。 （3）
MFS整体架构的四种角色： （1）Master（元数据服务器）：这个组件的角色是管理整个MFS文件系统的主服务器， 除 了 分 发 用 户 请 求 外 ， 还 用 来 存 储 整 个 文 件 系 统 中 的 每 个 数 据 文 件 的 Metadata 信 息 ， Metadata（元数据）信息包括文件（也可以是目录、Socket、管道、设备等）的大小、 属性、文件位置路径等，以及文件空间的回收和恢复，控制多Chunk Server节点的数据 拷贝。 （2）Metalogger（元数据日志服务器）：这个组件的作用是备份管理服务器Master的 变化的Metadata信息日志文件，文件类型为Changelog_Ml.*.MFS，以便于在主服务器 出现问题的时候，可以经过简单的操作即可让新主服务器进行工作。 （3）Chunk（数据存储服务器）：这个组件就是真正存放数据文件实体的服务器了，这 个角色可以有多台不同的物理服务器或不同的磁盘及分区来充当，当配置数据的副本多于
三、实验步骤
详细操作步骤见本书提供的操作视频。
03
GlusterFS分布式存储
GlusterFS架构
HDFS 架构
04
GlusterFS搭建和使用
【实验25】：GlusterFS搭建和使用
一、实验目的
了解GlusterFS架构原理及其组件功能。
通过实验掌握GlusterFS文件系统的安装、配置和集群管理。