分布式存储对象存储概述 PPT
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
储。
（4）应用层 这一层就是不同场景下对 于Ceph各个应用接口的 各种应用方式，例如基于 librados直接开发的对象 存储应用，基于RADOS GW开发的对象存储应用 ，基于RBD实现的云硬盘 等等。
3.4: 传统 VS ceph
传统：
Ceph:
3.5: Rados组件
-- Monitor: 维护集群的 成员和状态(cluster map) ，提供强一致性的 决策 -- MDS metdata数据服务 器 -- OSD: 每一个disk、SSD 或者RAID group或者其 他一个物理存储设备都 成为一个OSD，主要负 责存储和查找对象，并 且负责向该对象的复制 节点分发和恢复。
sec Cur ops started finished avg MB/s cur MB/s last lat(s) avg lat(s)
8 16 247 231 115.464 108 0.357958 0.53742
9 16 274 258 114.633 108 0.449163 0.539057
缺点： • 平台稳定性需要考
虑。 • 技术支持的问题。
大家有疑问的，可以询问和交流
可以互相讨论下，但要小声点
1.6:分布式存储优势
个人理解分布式存储就是多台横向连接的计算机同时 运行，共同处理完成同一件client的应用工作请求任 务。可灵活的增加，或减少节点，
• 性能优越。 • 扩展性很好。 • 成本低廉。
2.5：传统存储数据存储过程
传统文件储存过程。
2.6：对象存储数据储存过程
对象文件储存过程。
2.7：Inodes vs Objects
2.8：对象存储模式用于海量数据存储的优势：
• 高性能数据存储：访问节点有独立的数据通路和元数据 访问通路，可以对多个OSD 进行并行访问
• 跨平台数据共享：由于在对象存储系统上部署基于对象 的分布式文件系统比较容易，所有能够实现不同平台下 的设备和数据的共享。
Maintaining 16 concurrent writes of 4194304 bytes to objects of size 4194304 for up to 10 seconds or 0 objects
Object prefix: benchmark_data_cephclient_8322
对象存储 Object-Based Storage
2.1 对象存储技术
• 对象存储是综合了NAS和 SAN的优点，同时具备了 SAN直接高速访问和NAS 的数据共享等优势。
• 提供了具有高性能，高 可用性，跨平台，以及 安全的数据共享的存储 体系结构。
2.2 对象存储解释优势
对象存储就是分布式系统，也可理解为依托于分布式存储架 构的一个特性，高级功能
1.3:分布式存储历程.NAS
• 实现不同服务器之间传 统文件系统数据共享。
• 多对1。 • 数据集中。
缺点： • 多台服务器不能同时访
问修改，性能有限 • 横向扩展 性受限。 • 成本高
1.4: NAS.SAN网络存储方式
目前主流的存储方式
1.5:分布式存储历程.分布式存储
• 性能优越。 • 扩展性很好。 • 成本低廉。
1）传统的块存储读写快而不利于共享， 2 ）文件存储读写慢但利于共享 对象存储则集成二者优点，是一个利于共享、读写快的“云 存储”技术。作为一种分布式存储，最重要的一点是能解决 对非结构化数据快速增长带来的问题。
2.3 对象存储结构
2.4 对象存储组件
• 对象(Object) 包含了文件数据以及相关的属性信息，可以进行自我管理
3.6：Ceph 使用场景举例---Rados GW
RadosGW位于Librados 之上，它主要提供 RESTful接口并且兼容S3 、Swfit的接口。
3.7：S3 使用案例
3.8：性能检测
[root@cephclient ~]# rados bench -p cephfs_data 10 write -no-cleanup
3.2: Ceph可提供：
3.3: Ceph架构图
底层Rados -- Ceph实现
分布式存储的根 本，所有存储接 口都是基于 Rados实现的
-- Rados本身 就是一个对象存 储接口，维护了 一个集群状态和 实现了数据分发 的要求
(2)基础库librados -- 对RADOS进行抽象和封
• 可伸缩性：对象存储模式具有分布式结构的特性。由于 OSD 是独立的智能设备，可以通过增加OSD 数量，使存 储系统的聚合I/O 带宽、存储容量和处理能力得到提高， 这种平衡扩展模式使得存储系统能够具有良好的可伸缩 性。
2.9：与传统存储的对比：
CEPH概述
3.1：ceph简介
企业级存储产品的需求
10 16 301 285 113.968 108 0.551572 0.543629
Total time run: 10.595630
分布式存储对象存储Βιβλιοθήκη Baidu述
分布式存储 对象存储 CEPH
分布式存储系统
1.1:分布式存储历程.DAS
用于操作系统和应用程 序的本地存储。
缺点：
• 1对1，单点
• 数据无法再服务器之 间共享。
1.2:分布式存储历程.SAN
• 多对1。 • 数据大集中在SAN存储。
缺点： • 性能好 • 横向扩展 性受限。 • 不能共享。 • 成本高
• OSD（Object-based Storage Device) 一个智能设备，OSD 为存储对象数据的设备， 它是一个智能设备，包
括处理器、RAM 内存、网络接口、存储介质等以及运行在其中的控制软件 • MDS 元数据服务器(Metadata Server)
系统提供元数据、Cache一致性等服务
装，并向上层提供API，以便 直接基于RADOS（而不是整 个Ceph）进行应用开发
(3)高层应用接口 -- 这一层包括了三个部分：RADOS GW（
RADOS Gateway）、 RBD（Reliable Block Device）和Ceph FS（Ceph ），其作用是在 librados库的基础上提供抽象层次更高的上层 接口，分别对应 对象存储、块存储和文件存
（4）应用层 这一层就是不同场景下对 于Ceph各个应用接口的 各种应用方式，例如基于 librados直接开发的对象 存储应用，基于RADOS GW开发的对象存储应用 ，基于RBD实现的云硬盘 等等。
3.4: 传统 VS ceph
传统：
Ceph:
3.5: Rados组件
-- Monitor: 维护集群的 成员和状态(cluster map) ，提供强一致性的 决策 -- MDS metdata数据服务 器 -- OSD: 每一个disk、SSD 或者RAID group或者其 他一个物理存储设备都 成为一个OSD，主要负 责存储和查找对象，并 且负责向该对象的复制 节点分发和恢复。
sec Cur ops started finished avg MB/s cur MB/s last lat(s) avg lat(s)
8 16 247 231 115.464 108 0.357958 0.53742
9 16 274 258 114.633 108 0.449163 0.539057
缺点： • 平台稳定性需要考
虑。 • 技术支持的问题。
大家有疑问的，可以询问和交流
可以互相讨论下，但要小声点
1.6:分布式存储优势
个人理解分布式存储就是多台横向连接的计算机同时 运行，共同处理完成同一件client的应用工作请求任 务。可灵活的增加，或减少节点，
• 性能优越。 • 扩展性很好。 • 成本低廉。
2.5：传统存储数据存储过程
传统文件储存过程。
2.6：对象存储数据储存过程
对象文件储存过程。
2.7：Inodes vs Objects
2.8：对象存储模式用于海量数据存储的优势：
• 高性能数据存储：访问节点有独立的数据通路和元数据 访问通路，可以对多个OSD 进行并行访问
• 跨平台数据共享：由于在对象存储系统上部署基于对象 的分布式文件系统比较容易，所有能够实现不同平台下 的设备和数据的共享。
Maintaining 16 concurrent writes of 4194304 bytes to objects of size 4194304 for up to 10 seconds or 0 objects
Object prefix: benchmark_data_cephclient_8322
对象存储 Object-Based Storage
2.1 对象存储技术
• 对象存储是综合了NAS和 SAN的优点，同时具备了 SAN直接高速访问和NAS 的数据共享等优势。
• 提供了具有高性能，高 可用性，跨平台，以及 安全的数据共享的存储 体系结构。
2.2 对象存储解释优势
对象存储就是分布式系统，也可理解为依托于分布式存储架 构的一个特性，高级功能
1.3:分布式存储历程.NAS
• 实现不同服务器之间传 统文件系统数据共享。
• 多对1。 • 数据集中。
缺点： • 多台服务器不能同时访
问修改，性能有限 • 横向扩展 性受限。 • 成本高
1.4: NAS.SAN网络存储方式
目前主流的存储方式
1.5:分布式存储历程.分布式存储
• 性能优越。 • 扩展性很好。 • 成本低廉。
1）传统的块存储读写快而不利于共享， 2 ）文件存储读写慢但利于共享 对象存储则集成二者优点，是一个利于共享、读写快的“云 存储”技术。作为一种分布式存储，最重要的一点是能解决 对非结构化数据快速增长带来的问题。
2.3 对象存储结构
2.4 对象存储组件
• 对象(Object) 包含了文件数据以及相关的属性信息，可以进行自我管理
3.6：Ceph 使用场景举例---Rados GW
RadosGW位于Librados 之上，它主要提供 RESTful接口并且兼容S3 、Swfit的接口。
3.7：S3 使用案例
3.8：性能检测
[root@cephclient ~]# rados bench -p cephfs_data 10 write -no-cleanup
3.2: Ceph可提供：
3.3: Ceph架构图
底层Rados -- Ceph实现
分布式存储的根 本，所有存储接 口都是基于 Rados实现的
-- Rados本身 就是一个对象存 储接口，维护了 一个集群状态和 实现了数据分发 的要求
(2)基础库librados -- 对RADOS进行抽象和封
• 可伸缩性：对象存储模式具有分布式结构的特性。由于 OSD 是独立的智能设备，可以通过增加OSD 数量，使存 储系统的聚合I/O 带宽、存储容量和处理能力得到提高， 这种平衡扩展模式使得存储系统能够具有良好的可伸缩 性。
2.9：与传统存储的对比：
CEPH概述
3.1：ceph简介
企业级存储产品的需求
10 16 301 285 113.968 108 0.551572 0.543629
Total time run: 10.595630
分布式存储对象存储Βιβλιοθήκη Baidu述
分布式存储 对象存储 CEPH
分布式存储系统
1.1:分布式存储历程.DAS
用于操作系统和应用程 序的本地存储。
缺点：
• 1对1，单点
• 数据无法再服务器之 间共享。
1.2:分布式存储历程.SAN
• 多对1。 • 数据大集中在SAN存储。
缺点： • 性能好 • 横向扩展 性受限。 • 不能共享。 • 成本高
• OSD（Object-based Storage Device) 一个智能设备，OSD 为存储对象数据的设备， 它是一个智能设备，包
括处理器、RAM 内存、网络接口、存储介质等以及运行在其中的控制软件 • MDS 元数据服务器(Metadata Server)
系统提供元数据、Cache一致性等服务
装，并向上层提供API，以便 直接基于RADOS（而不是整 个Ceph）进行应用开发
(3)高层应用接口 -- 这一层包括了三个部分：RADOS GW（
RADOS Gateway）、 RBD（Reliable Block Device）和Ceph FS（Ceph ），其作用是在 librados库的基础上提供抽象层次更高的上层 接口，分别对应 对象存储、块存储和文件存