华为FusionStorage技术建议书分布式存储
招行北京分行FusionStorage分布式存储技术建议书.
![招行北京分行FusionStorage分布式存储技术建议书.](https://img.taocdn.com/s3/m/366efd00ff00bed5b9f31dca.png)
招行北京分行FusionStorage分布式存储技术建议书文档版本01发布日期2014-9-15华为技术有限公司版权所有© 华为技术有限公司2014。
保留一切权利。
非经本公司书面许可,任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部,并不得以任何形式传播。
商标声明和其他华为商标均为华为技术有限公司的商标。
本文档提及的其他所有商标或注册商标,由各自的所有人拥有。
注意您购买的产品、服务或特性等应受华为公司商业合同和条款的约束,本文档中描述的全部或部分产品、服务或特性可能不在您的购买或使用范围之内。
除非合同另有约定,华为公司对本文档内容不做任何明示或默示的声明或保证。
由于产品版本升级或其他原因,本文档内容会不定期进行更新。
除非另有约定,本文档仅作为使用指导,本文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。
华为技术有限公司地址:深圳市龙岗区坂田华为总部办公楼邮编:518129网址:support@客户服务邮箱:4008302118客户服务电话:Table of Contents 目录Table of Contents 目录 (3)1项目概述 (4)1.1项目背景 (4)1.2项目需求 (5)2项目技术方案 (5)2.1方案整体架构 (5)2.1.1软硬件部署图 (5)2.1.2硬件平台 (8)2.1.3FusionStorage分布式存储系统概述 (8)2.1.4FusionStorage分布式存储系统详细描述 (10)2.1.4.1分布式机头 (11)2.1.4.2分布式缓存 (11)2.1.4.3集群元数据管理 (11)2.1.4.4多数据副本 (11)2.1.4.5数据一致性 (12)2.1.4.6快速数据重建 (12)2.1.4.7掉电保护 (13)2.1.5云管理平台 (13)2.1.5.1基于角色访问控制 (14)2.1.5.2物理资源管理 (16)2.1.5.3物理设备接入协议 (16)2.1.5.4虚拟化资源管理 (17)2.1.5.5资源集群管理 (19)2.1.5.6虚拟负载均衡管理 (20)2.1.5.7自动化运维 (20)2.1.5.8监控管理 (22)2.1.5.9计量管理 (23)2.1.5.10安全管理 (24)2.2系统部署方案 (26)2.2.1总体组网方案 (26)2.2.2与客户网络对接 (27)2.2.3一体机2层模式连接用户网络 (28)2.3系统可靠性分析 (29)2.3.1数据持久度分析 (29)2.3.2可靠性场景分析 (29)2.4系统关键数据备份 (30)3系统软硬件配置清单及说明 (31)1项目概述1.1 项目背景招行北京分行准备采用虚拟化与云计算技术来构建IT系统,提升IT系统的资源利用率,但是传统SAN在企业基础设施池化、云化中面临的主要问题:☐存储资源弹性问题:多业务负载、资源的动态需求变化☐存储扩展的问题:共享、扩展面临了诸多的瓶颈和问题(机头、前后端网络、CPU/Cache与HDD不同步问题)☐形态和实施的成本、复杂性问题:独立的存储网络,建设成本高、实施复杂(初始实施、扩减容等)☐容错和可靠性问题:大规模集群中容忍的故障域问题(跨机柜、跨room),硬盘重建的时间问题针对上述问题,建议使用FusionStorage 分布式存储产品解决上述问题,为满足业务平台日益增长的存储需求,为业务平台提供高安全性、高可靠性、高可用性和开放性的存储服务。
ServerSAN解析(四):FusionStorage存储与计算分合灵活部署
![ServerSAN解析(四):FusionStorage存储与计算分合灵活部署](https://img.taocdn.com/s3/m/494271c7fc4ffe473268ab07.png)
ServerSAN解析(四):FusionStorage存储与计算分合灵活部署FusionStorage也是款可以部署在X86服务器上的种分布式块存储软件,利用服务器的本地HDD、SSD等介质组织成一个大规模存储资源池,对上层的应用和虚拟机提供标准的iSCSI块存储接口。
FusionStorage软件支持主流的服务器产品,包括华为的服务器和HP DL380S,DELL、IBM多款服务器等。
FusionStorage架构类似与Nutanix(支持多种虚拟化平台,如FusionSphere、VMware、Xen等),但也有明显不同,如FusionStorage 只能支持SAN不支持NAS、对象,FusionStorage基于DHT技术实现Key-Value存储系统,并没有像Nutanix类似的DFS。
FusionStorage架构FusionStorage最明显的一个特点就是支持存储和计算分开部署,而vSAN、Nutanix等ServerSAN一般只支持计算和存储系统部署在一起。
计算和存储分开部署可以给客户一种基于应用对计算和存储的不同要求来灵活部署。
在VMware虚拟化平台上,计算和存储模块分离部署关系图如下,CVM控制虚拟机提供存储服务,VMs通过iSCSI启动器访问存储资源。
FusionStorage存储和计算融合部署,VBS和OSD部署在一起向本地VMs提供存储服务。
在做VMware计算和存储融合部署的时候,主机RAID卡所带的硬盘,可以通过PCIE直通(Pass-Through)到CVM中被控制虚拟机接管,给VMs提供存储服务。
同时需ESXi虚拟化层和CVM控制虚拟机也需要安装在这些硬盘上。
FusionStorage技术特点FusionStorage集群管理FusionStorage采用集群管理方式,一个节点或者一块硬盘故障,会自动从集群内隔离出来,不影响整个系统业务的使用。
强一致性复制协议当应用程序成功写入一份数据时,后端的几个数据副本必然是一致的,当应用程序再次读时,无论在哪个副本上读取,都是之前写入的数据。
存储方案建议书
![存储方案建议书](https://img.taocdn.com/s3/m/725a73a3afaad1f34693daef5ef7ba0d4a736d87.png)
存储方案建议书
尊敬的领导:
随着信息化时代的到来,企业的数据量不断增加,对数据的存储需求也越来越高。
为了更好地管理和保护企业的数据资产,我们建议对企业的存储方案进行优化和升级。
首先,我们建议采用云存储技术。
云存储具有高可靠性、高安全性、高灵活性和低成本的特点,能够帮助企业降低存储成本,提高数据的可靠性和安全性。
同时,云存储还能够实现数据的远程备份和恢复,确保数据不会因为意外事件而丢失。
其次,我们建议采用分布式存储技术。
分布式存储能够将数据分散存储在多个节点上,提高数据的访问速度和可用性。
同时,分布式存储还能够实现数据的自动备份和恢复,确保数据不会因为硬件故障而丢失。
最后,我们建议对企业的存储设备进行升级。
采用高性能的存储设备能够提高数据的读写速度,加快数据的处理和分析。
同时,高性能的存储设备还能够支持更多的并发访问,满足企业日益增长
的存储需求。
综上所述,我们建议对企业的存储方案进行优化和升级,采用云存储技术、分布式存储技术和高性能的存储设备,以提高数据的可靠性、安全性和访问速度,满足企业日益增长的存储需求。
谢谢!。
FusionStorage配置手册
![FusionStorage配置手册](https://img.taocdn.com/s3/m/04ad21e15a8102d277a22f98.png)
华为FusionStorage配置手册目录1 概述 (1)1.1 目的 (1)1.2 FusionStorage产品简介 (1)2 FusionStorage销售形态 (2)2.1 销售版本 (2)2.2 销售版本升级 (3)2.3 扩容 (3)2.4 SA&S (4)2.5 “软件订阅”配置原则 (4)2.6 发布版本升级 (5)2.7 发布版本差异 (5)2.8 SBOM清单 (6)2.9 扩容升级操作顺序 (7)3 FusionStorage软件配置规格 (8)3.1 FusionStorage逻辑架构 (8)3.2 FusionStorageManager配置规格 (9)3.3 计算和存储节点配置规格 (9)3.4 MDC配置原则 (11)3.5 配置约束条件 (12)3.6 软件编码和License配置原则 (13)3.6.1 永久license+SA&S方式 (13)3.6.2 订阅方式: (16)3.7 附录-成套配置原则 (17)4 FusionStorage硬件配置指导 (18)4.1 服务器硬件部件选型 (18)4.2 FusionStorage ServerSAN (19)4.2.1 自定义配置部署 (19)4.2.2 FusionStorage Node (22)4.3 服务器虚拟化 (24)4.3.1 Fusionsphere + FusionStorage (24)4.3.1.1 融合部署方式: (25)4.3.1.2 分离部署方式: (28)4.3.2 VMware + FusionStorage (32)4.3.2.3 融合部署 (32)4.3.2.4 分离部署 (33)4.4 其它场景 (33)5 配置详细计算过程 (34)5.1 FusionStorage有效容量计算 (34)1 概述1.1 目的本文档用于介绍FusionStorage 产品的组成,配置约束以及系统资源开销,硬件配置指导等,便于指导开发配置报价器以及市场项目的配置报价。
FusionStorage存储方案介绍
![FusionStorage存储方案介绍](https://img.taocdn.com/s3/m/02c0fdcfb14e852458fb572b.png)
报告/通知状态 通知状态变化 通知状态变 获取IO View 化 VBS集群 VBS(Leader) 同步元数据 VBS
OSD
OSD OSD
系统启动时,MDC与ZK互动决定主MDC。主MDC与其它MDC相互监控心跳,主MDC决定某MDC故障后谁接替。其它MDC发现主MDC故障又与ZK互动升任主MDC。 OSD启动时向MDC查询归属MDC,向归属MDC报告状态,归属MDC把状态变化发送给VBS。当归属MDC故障,主MDC指定一个MDC接管,最多两个池归属同一个MDC。 VBS启动时查询主MDC,向主MDC注册(主MDC维护了一个活动VBS的列表,主MDC同步VBS列表到其它MDC,以便MDC能将OSD的状态变化通知到VBS),向MDC确认 自己是否为leader。
Delete VM1
VM on Host1
Migrate VM2
VMFS 集群
VBS In CVM
VMFS 集群
VBS In CVM+VAAI
VMFS 集群
VBS In CVM
VMFS 集群
VBS In CVM+VAAI
dataStore vDisk Atomic Test and Set(ATS)
11
VAAI(VMWare vSphere Storage API - Array Integration )
Clone/vMotionv Clone/vMotionv Zeroing Zeroing
VMFS
VBS In CVM
VMFS
VBS In CVM + VAAI
VMFS
VBS In CVM
6
FusionStorage 基本原理--- 卷映射
FusionSphere云数据中心方案建议书
![FusionSphere云数据中心方案建议书](https://img.taocdn.com/s3/m/71944a9be53a580216fcfea1.png)
华为FusionSphere云数据中心方案建议书目录1概述 (5)1.1项目背景 (5)1.2面临的风险和挑战 (5)1.3项目需求 (7)1.4项目建设目标 (8)2总体解决方案设计 (10)2.1设计原则 (10)2.1.1统一规划和建设 (10)2.1.2统一平台 (10)2.1.3承前与启后相结合 (10)2.1.4技术的先进性和成熟性并重 (10)2.1.5高可靠性 (10)2.1.6安全性 (10)2.1.7灵活性及可扩展性 (10)2.2总体解决方案架构 (10)2.2.1云数据中心总体架构 (11)2.2.2解决方案优势 (12)3云数据中心建设方案详细设计 (12)3.1云数据中心网络方案设计 (12)3.1.1云数据中心网络总体方案 (13)3.1.2云数据中心存储网络方案一(E9000+FusionStorage,可选) (14)3.1.3云数据中心存储网络方案二(可选) (17)3.1.4网络配置 (18)3.2云平台系统设计 (19)3.2.1虚拟化平台设计 (19)3.2.2资源管理和监控 (21)3.2.3关键特性 (24)3.3计算资源方案设计 (25)3.3.1服务器选型规划 (25)3.3.2服务器利旧分析规划 (25)3.3.3服务器数量规划 (26)3.4存储资源方案设计 (28)3.4.1存储需求 (28)3.4.2存储选型 (29)3.4.3存储容量规划 (31)3.5可靠性设计 (32)3.5.1OpenStack HA (32)3.5.2虚拟化可靠性 (32)3.5.3管理可靠性 (33)3.5.4服务器可靠性 (33)3.5.5存储可靠性设计 (33)3.5.6网络可靠性设计 (34)3.6安全方案设计(可选) (34)3.6.1安全框架 (34)3.6.2网络安全 (36)3.6.3虚拟化安全 (39)3.6.4数据安全 (40)3.6.5维护管理安全 (41)3.7备份方案设计(可选) (42)3.7.1eBackup备份方案介绍 (42)3.7.2备份容量设计 (45)3.8异构虚拟化管理(可选) (46)3.9多数据中心管理(可选) (47)4配置清单 (48)XXX云数据中心技术建议书Confidentiality Level机密1概述1.1项目背景[提示]介绍虚拟化数据中心项目背景[样例]过去几十年,信息化经历了大型机时代的终端-主机模式(T-S模式),个人PC时代的客户机-服务器模式(C-S模式),发展到互联网时代的浏览器-服务器模式(B-S模式)。
FusionStorage分布式存储方案建议书
![FusionStorage分布式存储方案建议书](https://img.taocdn.com/s3/m/c4445c3ecbaedd3383c4bb4cf7ec4afe05a1b14e.png)
FusionStorage分布式存储系统基于分布式处理技术、虚拟化技术和集群技术实现,作为云计算资源池存储资源池的一部分,为计算资源池提供高速、可靠、安全的块存储服务。
1.2
XXX单位,对存储性能、可靠性、备份的需求如下,需要根据具体的项目进行修改:
承载的业务类型需求
本次项目要求分布式存储基于通用的X86服务器,将服务器上物理硬盘,通过多副本的技术组成存储资源池。该资源池可以为下面两类计算资源池提供块存储服务
存储块512KB的情况下,IOPS不小于XXXIOPS
CPU利用率:<=60%
内存利用率:<=60%
可靠性需求
副本要求:2/3副本
支持服务器级安全及机柜级安全
网络与硬件设备需求
本项目资源池的设备包含XXX
数据备份恢复需求
提供对分布式存储节点设备内的配置信息、管理信息、日志数据、用户信息、设备管理信息等需要备份的数据备份。
VBS
Virtual Block System
虚拟块存储管理组件,负责卷元数据的管理,提供分布式集群接入点服务,使计算资源能够通过VBS访问分布式存储资源。每个节点上默认部署一个VBS进程,形成VBS集群。节点上也可以通过部署多个VBS来提升IO性能。
FusionStorage分布式存储解决方案介绍
![FusionStorage分布式存储解决方案介绍](https://img.taocdn.com/s3/m/e80670c150e2524de5187e31.png)
...
FusionStorage分布式存储资源池
SSD HDD SSD HDD SSD HDD
典型硬件2: 刀片式服务器 典型硬件1:机架式服务器
8
通用X86服务器硬件要求
组件 物理形态 处理器 内存 存储 规格 机架服务器或刀片服务器,X86架构 Intel Xeon E5-2600/4600 系列处理器,Intel Xeon E7-4800/8800 系列处理器 按照每TB硬盘1GB内存,推荐》64G内存 1、存储节点至少部署3个,配置RAID卡,支持RAID0/1,每台存储节点至少预留2块本地硬盘用于安装OS 2、如果管理节点与存储节点器合部,分布式资源池至少15个2.5/3.5 英寸SAS/SATA/SSD硬盘,其中:至少 12个硬盘用于资源池数据盘,至少3个硬盘用于部署ZK盘 如果管理节点与存储节点器分离部署,分布式资源池至少12个2.5/3.5 英寸SAS/SATA/SSD硬盘,其中:至 少12个硬盘用于资源池数据盘,ZK盘采用分区的方式部署,与本地OS盘共用 每存储服务器用于FusionStorage存储平面带宽不低于4Gb,例如4×1Gb或者2×10Gb 至少有一个SSD卡或SSD盘作为写cache
5
Content
1 2 3
存储领域的技术现状与发展趋势 FusionStorage分布式存储系统 FusionStorage 核心价值
4
FusionStorage应用案例
6
FusionStorage分布式存储解决方案总体架构图
应 用 层
虚 拟 化 层
HANA
支持多种虚拟化平台 (FusionSphere/VMware)
管理平台
配置管理
Hale Waihona Puke SCSI驱动/iSCSI分布式链接克隆 分布式快照 卷管理 QOS管理 备份 容灾
FusionStorage分布式存储系统介绍和架构原理
![FusionStorage分布式存储系统介绍和架构原理](https://img.taocdn.com/s3/m/78fc5249df80d4d8d15abe23482fb4daa58d1da9.png)
传统SAN存储
Server1
Server2
Server3
10GE / FC
Server SAN的原理
定义:Server SAN is defined as a combined compute and pooled storage resource comprising more than one storage device directly attached to separate multiple servers (more than one). -- by wikibonServer SAN是由多个独立的服务器自带的存储组成的一个存储资源池,同时融合了计算和存储资源。
EMC VMAX
HDS VSP G1000
Huawei 18000
*数据来源:Gartner 2013Q4报告
存储技术的发展趋势
每次技术发展,存储的性能 容量 可靠性都得到极大的提升
Network
传统存储在扩展性方面挑战仍非常大
Network
Controller
Controller
APP
APP
中低端存储只能垂直扩展
Page
华为云计算存储发展历程
Content
FusionStorage架构
FusionStorage特点
FusionStorage背景
FusionStorage应用场景
FusionStorage架构原理
以数据块为单元进行数据管理I/O在所有磁盘上负载均衡,无热点,磁盘性能最大化利用故障数据重构迅速,整体性能影响小支持精简配置,无需热备盘
据Wikibon评估,传统的企业存储在2013年虽然还占据95%的份额,但接下来的10年将持续下降,下降幅度是16.7%。而企业Server SAN存储将以40.9%的速度野蛮增长,Server SAN存储的收入将超过传统的存储(包括现在的SAN,NAS,DAS)。
华为FusionStorage架构分析
![华为FusionStorage架构分析](https://img.taocdn.com/s3/m/29fa7c334b73f242336c5fa7.png)
MDC(meta data cluster):集群管理, 负责集群状态的监控,数据分布规则, 数据rebuild的过程控制。(使用 zookeeper) VBS(virtual block system)客户端, 提供分布式块存储集群接入点服务。
OSD:数据服务组件。每个磁盘对应 一个OSD(类似于Ceph)
• 在恢复速度和不影响前端性能之间平衡
关键技术:灾备
• 基于volume的同步复制
• 同城双活 • 基于故障域实现的双活。但是难以实现基于volume的同步复制
• 基于volume的异步复制
• 异地复制 • 基于快照实现的全量和增量备份 • 可基于Volume的实现
其它功能
• 分布式缓存
• 有必要吗? 如果负载均衡 • 针对热点?读热点缓存在cache中,写热点也没法分布式啊?
关键技术:数据分布(数据路由)
• FusionStorage采用DHT算法
• 需要全局保存Partition disk 的映射表
1)(LUN1,LBA)生产key 2)通过key,通过计算hash 值可得到 Partition 3)通过查找全局的 partition 到disk 的路由表,可知具体 的disk的值 优点: 1)保存partition到disk的映射表, 可以实现负载均衡 2)保存的元数 据比较少,可以支持的规模比较大。 缺点: 副本控制和分布的粒度是pool级别, volume级别的数据分布和副本的控 制比较难。
• 支持InifiniBand高速网络 • Data Scrub
• 定时检测存储数据 • 提前预防数据错误
• 硬盘可靠性
• 坏块标记 • 磁盘亚健康检查 • 磁盘错误检查
其它缺失的功能(没有提到的功能)
华为分布式存储故障处理与应急预案、高危操作介绍
![华为分布式存储故障处理与应急预案、高危操作介绍](https://img.taocdn.com/s3/m/a747a7c429ea81c758f5f61fb7360b4c2e3f2a85.png)
目录
1. FusionStorage Block故障简介 2. FusionStorage Block告警机制介绍 3. FusionStorage Block日志机制介绍 4. FusionStorage Block故障处理流程 5. FusionStorage Block备份与恢复方法 6. FusionStorage Block应急预案介绍 7. FusionStorage Block高危操作
目录
1. FusionStorage Block故障简介 2. FusionStorage Block告警机制介绍 3. FusionStorage Block日志机制介绍 4. FusionStorage Block故障处理流程 5. FusionStorage Block备份与恢复方法 6. FusionStorage Block应急预案介绍 7. FusionStorage Block高危操作
目录
1. FusionStorage Block故障简介 2. FusionStorage Block告警机制介绍 3. FusionStorage Block日志机制介绍 4. FusionStorage Block故障处理流程 5. FusionStorage Block备份与恢复方法 6. FusionStorage Block应急预案介绍 7. FusionStorage Block高危操作
目录
1. FusionStorage Block故障简介 2. FusionStorage Block告警机制介绍 3. FusionStorage Block日志机制介绍 4. FusionStorage Block故障处理流程 5. FusionStorage Block备份与恢复方法 6. FusionStorage Block应急预案介绍 7. FusionStorage Block高危操作
FusionStorage智能分布式存储技术白皮书
![FusionStorage智能分布式存储技术白皮书](https://img.taocdn.com/s3/m/200ddcfa284ac850ac024223.png)
以弹性高效满足关键业务数据存储需求FusionStorage 将HDD 、SSD 等存储介质通过分布式技术组织成大规模存储资源池,为上层应用和客户端提供工业界标准接口,消除传统数据中心烟囱式存储系统构建导致的硬件资源利用不均问题,实现存储资源的按需服务能力。
支持初始小规模部署,横向扩展至数千节点的大规模存储集群,提供性能容量的线性增长能力。
FusionStorage 采用独有的FlashLink®性能加速技术,通过智能分条聚合、I/O 优先级智能调度、智能Cache 算法、智能数据识别与处理等系列关键技术,结合NVMe SSD 介质,即使在开启数据缩减功能的情况下,也能提供低至1毫秒的稳定时延,更好地支撑关键业务云化。
无论您的数据中心在未来需要扩展I/O 密集型、时延敏感型或大容量需求业务,FusionStorage 提供的分布式块存储系统都可以应需承载。
丰富的企业级特性,助您构建高可用数据中心FusionStorage 采用端到端数据完整性校验(Data Integrity Field ,简称DIF )、多类型数据冗余保护、全面的系统亚健康检测与自一个数据中心一套存储一个数据中心一套存储存储系统永新,数据免迁移实现数据智能产品特性双活、异步远程复制、快照、华为FusionStorage 新一代智能分布式存储提供数据缩减、Active-Active QoS 等丰富的企业级数据服务特性,助您轻松应对业务快速变化时的数据灵活、可靠存取需求;同时,兼容容器、各类主流虚拟化及云平台,提供基于标准接口协议的开放API ,支持融入OpenStack 云基础架构。
FusionStorag e广泛适用于金融、运营商、政府公共事业等行业云资源池、关键业务数据库等场景。
华为FusionStorage 是一款可大规模横向扩展的智能分布式存储产品,是既具备云基础架构的弹性按需服务能力、又满足企业级关键业务需求的全自研存储系统。
争议这些分布式存储产品谁更胜一筹?FusionStorage、XSKY、Ceph、vSAN。。。
![争议这些分布式存储产品谁更胜一筹?FusionStorage、XSKY、Ceph、vSAN。。。](https://img.taocdn.com/s3/m/ae556e6ff4335a8102d276a20029bd64783e62d2.png)
争议这些分布式存储产品谁更胜⼀筹?FusionStorage、XSKY、Ceph、vSAN。
来⾃twt社区同⾏交流,欢迎更多同⾏参与交流想了解关于FusionStorage、Ceph、vSAN、SmartX等分布式存储产品优劣对⽐,以及未来的技术演进趋势如何?FusionStorage在对象存储这块和C系的XSKY的⽐较?FusionStorage与Ceph、vSAN、SmartX的对⽐,包括块、⽂件、对象详细的对⽐?问题来⾃@csj11341 北明项⽬经理,下⽂来⾃twt社区众多同⾏实践经验分享,欢迎⼤家参与交流,各抒⼰见。
@刘东东软集团 IT技术咨询顾问:FusionStorage可以⽀持基于X86服务器的分布式对象存储,⽽XSKY⽀持对象存储的组件叫做XEOS或者可以使⽤ XEDP统⼀存储组件来做,除了⽀持 X86服务器服务器以外,还⽀持基于POWER芯⽚的服务器,⽀持更⼴泛,⽣态建设的⽐较好。
1、FusionStorage与Ceph对⽐块存储⽅⾯:FusionStorage与Ceph在⽀持块存储⽅⾯都⽐较好,⽽且块存储也是 Ceph的主要⽀持优势, FusionStorage也做了块存储⽀持的加强,毕竟是商业版本,性能优化上⽐较好。
⽽且还通过了Oracle RAC的认证,这个是为数不多的可以⽀持Oracle RAC的分布式块存储,可以⽀持在分布式存储上更好的部署Oracle 群集环境。
⽂件存储⽅⾯:Ceph在⽀持⽂件存储上相对较弱,不直接⽀持 scsi,需要⾃⼰⾃⼰搭建scst或lio服务端来⽀持 scsi接⼝,⽽且没有⾼可⽤。
FusionStorage可以让每个iscsi ⽬标端部署所有的主机节点上,⽀持虚拟IP地址配置,可实现⾼可⽤对接vmware,winserver和数据库等等。
对象存储⽅⾯:对象存储Ceph是最⼤的⼀个优势,因为它的本质上就是⼀个“对象存储”,其块和⽂件服务都是基于对象提供的,因此对象的性能上是最优的> ceph 块> ceph ⽂件。
FusionStorage分布式存储系统介绍
![FusionStorage分布式存储系统介绍](https://img.taocdn.com/s3/m/c0c125b2f18583d04864599f.png)
到SSD中。
Step 1
OSD
Step 2 Step 3 Step 4
Cache
READ
Memory
HDD
READ
cache
WRITE SSD
HDD
HDD
第16页
FusionStorage 分布式Cache
FusionStorage:分布式Cache资源池
主机
主机
主机
主机
APP1
APP2
APP1
APP2
将通用X86服务器的本地HDD、SSD等介质通过分布式技术组织成大规模存储资源池。
对非虚拟化环境的上层应用和虚拟机提供工业界标准的SCSI和iSCSI接口。
开放的API。
计算
存储
PCIe SSD
Controller
存储
PCIe SSD
计算 Controller
PCIe
存储 SSD
Controller 计算
⚫ FusionStorage支持大块直通,按缺省配置大于256KB的块直接落盘不写Cache,这个 配置可以修改。
OSD
Step 1
Cache
READ
Memory
HDD
READ HDD
WRITE SSD
drain
HDD
第15页
FusionStorage Cache读机制
⚫ FusionStorage的读缓存采用分层机制,第一层为内存cache,内存cache采用LRU机制缓存数据。
单口56Gbps带宽,完美配合极速SSD存储吞吐。
第18页
FusionStorage块存储功能 - SCSI/iSCSI块接 口
⚫ FusionStorage通过VBS以SCSI或iSCSI方式提供块接口:
精选-FusionStorage原理及功能特性
![精选-FusionStorage原理及功能特性](https://img.taocdn.com/s3/m/3e73425a50e2524de5187ee8.png)
Server1
App
App
计算网络(10GE)
Server2SeFra bibliotekver3App
App
App
App
FusionStorage分布式一体化存储
Cache SSD
HDD
Cache SSD
HDD
Cache SSD
HDD
Server4
待扩容加 入节点1
Server5
待扩容加 入节点2
FusionStorage快速数据重建
数据存储:在MDC运行过程中,会生成各种控制视图信息,包括目标视图、中间视图、IO视图信息等,这些信 息的保存、更新、查询、删除操作都通过ZK提供的接口实现
数据同步:数据更新到主ZK,由主ZK自动同步到两个备ZK,保证主备ZK数据实时同步。一旦ZK发生主备切换, 业务不受影响
FusionStorage 视图
Disk5 P17 P18’ P19 P20’ P3’ P12’ P15’ P24’
Disk6 P21 P22 P23 P24 P4’ P8’ P16’ P20’
FusionStorage数据路由原理
Partition
Disk
P1
Disk 1
(LUN1,LBA1) Generate Key1=(LUN1,LBA1)
FusionStorage数据路由采取分层处理方式: VBS通过计算确定数据存放在哪个服务器的哪块硬盘上 OSD通过计算确定数据存放在硬盘的具体位置
1. FusionStorage基础概念及关键原理 2. FusionStorage组件功能及相互关系 3. FusionStorage IO流程分析 4. FusionStorage主要功能特性 5. FusionStorage跨服务器、机柜或机房数据可靠性
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
华为FusionStorage分布式存储技术建议书Huawei Technologies Co., Ltd.华为技术有限公司All rights reserved版权所有侵权必究Revision record 修订记录//在提供给客户前需删除本页“修订记录”。
本文档只是供内部参考使用,禁止将本文档原封不动发给客户或代理商。
请结合实际项目需要进行必要增删调整。
Table of Contents 目录Revision record 修订记录....................................... Table of Contents 目录.......................................1 项目概述..................................................1.1 项目背景 ..................................................1.2 项目需求 ..................................................1.3 功能需求 ..................................................2 项目技术方案..............................................2.1 FusionStorage总体架构 .....................................2.2 FusionStorage优点概述 .....................................2.3 FusionStorage应用场景 .....................................2.3.1 FusionStorage与FusionSphere融合场景...............2.3.2 FusionStorage与VMware融合场景.....................2.3.3 FusionStorage与OpenStack融合场景..................3 FusionStorage应用中典型硬件平台...........................3.1 FusionStorage在机架式服务器上使用 .........................3.2 FusionStorage在刀片式服务器上使用 .........................4 FusionStorage应用中网络设计方案...........................4.1 总体组网方案 ..............................................4.2 在机架式服务器上使用组网方案 ..............................4.2.1 单柜10GE组网......................................4.2.2 单柜IB存储组网....................................4.3 在刀片服务器上使用组网方案 ................................4.3.1 虚拟化10GE 刀片服务器组网.........................4.3.2 虚拟化IB+SSD组网..................................5 服务器数量规划............................................5.1 FusionStorage按容量和性能计算服务器数量 ...................6 FusionStorage产品特性介绍.................................6.1 性能卓越 ..................................................6.2 高可靠 ....................................................6.3 弹性扩展 ..................................................6.4 管理简便 ..................................................6.5 兼容性 ....................................................7 FusionStorage典型应用案例.................................7.1 浙江电信选择FusionStorage建设存储资源池 ...................7.2 华为公司计算云-单资源池5K VM ..............................7.3 FusionStorage帮助江苏移动CRM系统建设高性能数据库平台 ......7.4 华为携手沃达丰打造分布式数据中心 ..........................7.5 华为FusionStorage助力深圳海关加速大数据分析 ...............7.6 FusionStorage:汇港资讯高效证券交易数据发布云平台建设 .....7.7 华为FusionStorage助力BME高效交付股票交易系统 ..............8 系统软硬件配置清单及说明..................................8.1 软件配置 ..................................................8.2 硬件配置 ..................................................9 缩略语....................................................1项目概述1.1 项目背景XXX单位准备采用虚拟化与云计算技术来构建IT系统,提升IT系统的资源利用率,但是传统SAN在企业基础设施池化、云化中面临的主要问题:存储资源弹性问题:多业务负载、资源的动态需求变化存储扩展的问题:共享、扩展面临了诸多的瓶颈和问题(机头、前后端网络、CPU/Cache与HDD不同步问题)形态和实施的成本、复杂性问题:独立的存储网络,建设成本高、实施复杂(初始实施、扩减容等)容错和可靠性问题:大规模集群中容忍的故障域问题(跨机柜、跨机房),硬盘重建时间长问题针对上述问题,建议使用FusionStorage 分布式存储产品解决上述问题,为满足业务平台日益增长的存储需求,为业务平台提供高安全性、高可靠性、高可用性和开放性的存储服务。
FusionStorage分布式存储系统基于分布式处理技术、虚拟化技术和集群技术实现,作为云计算资源池存储资源池的一部分,为计算资源池提供高速、可靠、安全的块存储服务。
1.2 项目需求XXX单位,对存储需求如下,需要根据具体的项目进行修改:1.3 功能需求XXX单位,对功能需求如下,需要根据具体的项目进行修改:1、无性能下降智能精简配置2、基于快照的高性能链接克隆3、高性能增量快照技术4、高可靠---多重数据安全保障机制5、高性能、低时延---支持全SSD 存储6、高性能、低时延---支持Infiniband网络互联7、FusionStorage --- 全分布式平滑扩展2项目技术方案2.1 FusionStorage总体架构分布式存储FusionStorage是华为公司设计,完全自主产权的分布式存储架构.作为一种存储与计算高度融合的存储软件,通过突破性的架构和设计,达到高性能、高可靠、高性价比。
它具有一致的、可预测的性能及可扩展性,具有高弹性和自愈能力,具有计算存储高度融合。
FusionStorage采用分布式集群控制技术和分布式Hash数据路由技术,提供分布式存储功能特性。
FusionStorage功能架构图如下所示:FusionStorage功能模块:存储接口层:通过SCSI驱动接口向操作系统、数据库提供卷设备。
存储服务层:提供各种存储高级特性,如快照、链接克隆、精简配置、分布式cache、容灾备份等。
存储引擎层:FusionStorage存储基本功能,包括管理状态控制、分布式数据路由、强一致性复制技术、集群故障自愈与并行数据重建子系统等。
存储管理层:实现FusionStorage软件的安装部署、自动化配置、在线升级、告警、监控和日志等OM功能,同时对用户提供Portal界面。
FusionStorage系统软件架构:FusionStorage通过分布式架构把分散的、低速的SATA/SAS机械硬盘组织成一个高效的虚拟化SAN存储池设备,提供比SAN设备更高的IO能力,把性能发挥到极致。
FusionStorage分布式存储系统包含三个子系统:无状态机头无状态机头对外提供本地SCSI接口或者ISCSI服务接口,可以部署在存储节点,也可以灵活部署在计算节点。
系统启动时,无状态机头会从元数据集群获取最新的数据分布视图。
在IO过程中,无状态机头会将数据均衡的分发到各个存储节点。
无状态机头提供多种接口支持,其中包括本地SCSI,ISCSI。
本地SCSI 支持主流的linux操作系统,其他操作系统可以通过ISCSI接口提供块存储服务。
存储集群在IO读写过程中,存储集群接收到无状态机头分发的IO请求,会根据副本策略,将IO分发到其他服务器或者机柜上的存储节点;同时存储节点会将每台服务器上的缓存设备划分成读写缓冲区,IO直接写到cache中就向主节点返回。
当缓冲区达到一定的水位后,存储节点会自动将缓冲区的数据刷到主存设备(机械硬盘/SSD)上。
分布式机头FusionStorage采用无状态的分布式软件机头,机头部署在各个服务器上,无集中式机头的性能瓶颈。
单个服务器上软件机头只占用较少的CPU 资源,提供比集中式机头更高的IOPS。
分布式缓存FusionStorage实现了计算和存储的融合,缓存和带宽都均匀分布到各个服务器节点上。
FusionStorage支持将服务器SSD卡用作读、写缓存,对于数据的写操作,系统数据首先写到SSD的写缓存中,所有副本(三个副本)写缓存成功后,IO立即返回。
同时IO也会将数据缓存均匀分布到各个节点上,所有服务器的缓存总容量远大于采用外置独立存储的方案。