云计算技术支撑环境建设方案

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
3.2.4Zookeeper运行环境
Zookeeper:针对大型分布式系统的可靠协调系统,提供的功能包括:配置维护、名字服务、分布式同步、组服务等。它可以维护系统配置、群组用户和命名等信息。面向整个云计算中心的分布式系统,采用全局的分布式调度对大数据集群进行调度。
网络资源Байду номын сангаас结合云支撑环境技术环境提供的网络支撑组件,供资源池内多个业务系统共同使用。用以构建应用发布的虚拟网络。如下图:
指挥云由云支撑环境提供对网络资源池的构建与管理。虚拟服务器的网络配置不同于实体服务器,在创建虚拟服务器的过程中可以利用与虚拟化管理层相关控制API的接口,通过计算机服务程序来进行网络参数的配置。这也为网络的自动化配置打下了可操作的基础,可以更为便捷地采用自动化运作模式参与网络的管理。同时也为网络管理提供了体系化和便捷的管理方法。
3.2.1HDFS运行环境
HDFS分布式文件系统:一个分布式文件系统,隐藏下层负载均衡,冗余复制等细节,对上层程序提供一个统一的文件系统API接口。HDFS针对海量数据特点做了特别优化,包括:超大文件的访问,读操作比例远超过写操作,PC机极易发生故障造成节点失效等。HDFS把文件分成若干大小的块(如64Mb),分布在集群的机器上,使用Linux或windows的文件系统存放。同时每块文件至少有3份以上的冗余(可自定义)。中心是一个NameNode节点,根据文件索引,找寻文件块。
计算资源以池化方式可以细粒度划分为以下的几个可与实体硬件对应的应用池:测试、冗余资源池、生产资源池、热备资源池,上述四类资源池主要是用户服务器虚拟化方面,同时为了满足桌面虚拟化平台建设的要求,需划分出部分资源左面作为虚拟桌面所需资源,即桌面虚拟化资源池。
对不同区域的实体硬件部署纳入不同资源池,并可以分列管理,各自横向扩充,形成用于开发、测试、弹性部署、试运行的测试冗余资源池、高安全的生产资源池和为生产资源池内集群或是单机进行热备或老旧系统过渡环境的热备资源池。
1.2生产资源池
高安全的业务系统环境,用户不具备修改权限,虚拟服务器严格按项目进行网络隔离,所有虚拟服务器只能对外提供其应用服务,不可与云外网络进行非授权访问、严格控制软件的上传与下载、管理需进行安全管理以及实时与历史审计。
1.3热备资源池
高安全的业务系统环境,严格按项目生命流程进行控制,用于老旧业务系统的暂时存放区、单机热备节点。生命周期结束后,资源全部回收至热备资源池,严格控制软件的上传与下载、管理需进行安全管理以及实时与历史审计。
2数据库集群技术环境
云支撑环境建立数据库集群技术环境为指挥云内各类应用系统需要建立的关系型数据库提供数据库集群运行环境与数据库访问接口服务组件支撑。数据库集群技术环境支撑各类业务系统所需要的基础业务数据库、公用字典库、应用字典库、应用专题库与实时计算缓冲数据库的基础环境。通过建立数据库集群技术环境统一为应用数据库的建立提供可访问接口,提供建库、建表、SQL语言翻译等接口功能,并为数据库的访问提供统一的安全管理。数据库的访问可在云支撑环境内申请,并授权后使用。
3.2.2Hbase运行环境
Hbase大数据库:一个分布式的、按列存储的、多维表结构的实时分布式数据库。它可以提供大数据量结构化和非结构化数据的高速读写操作,为高速在线数据服务而设计。Hbase集群由主备Hmaster进程和多个RegionServer进程组成。
3.2.3Hive运行环境
Hive数据仓库:基于Hadoop的大数据分布式数据仓库引擎。它可以将数据存放在分布式文件系统或分布式数据库中,并使用SQL语言进行海量数据统计、查询和分析操作。
滚动升级—补丁集、数据库和操作系统
使用备用数据库进行简单数据库滚动升级
联机索引重建
联机索引组织表组织
联机表重定义
双重备份集
用于快速增量备份的块更改跟踪
备份中的未使用块压缩
块级介质恢复
写入丢失保护
自动块修复
并行备份和恢复
表空间时间点恢复
尝试恢复
快速启动故障恢复
闪回表
闪回数据库
特性/选件
闪回事务
闪回事务查询
云计算技术支撑环境建设方案
1虚拟化资源池
1.1计算资源池
计算资源池的构建以主机虚拟化为基础实现。主机虚拟化是指在一台物理主机上虚拟出多个VM(虚拟机),各个VM之间相互隔离,并能同时运行相互独立的操作系统,这些虚拟客户操作系统通过虚拟化层中间件访问实际的物理资源,并进行管理。主机虚拟化的核心是虚拟化软件(Hypervisor),由虚拟化软件提供。多台服务器虚拟化后连接到共享存储,构建成云计算资源池,通过网络按需为用户提供计算资源服务。同一个资源池内的虚拟机可以共享资源池内物理服务器的CPU、内存、存储、网络等资源,并可在资源池内物理服务器上动态漂移,实现资源动态调配。
Oracle Database 12c引入了一种采用Oracle Multitenant的新架构,能够简化将数据库整合到云的过程。它具有将多个数据库作为一个进行管理的所有优点,而且保留了独立数据库的数据隔离和资源优先级。主要参数如下:
特性/选件
多租户
快照和克隆
存储快照优化、高可用性
应用程序连续性
Oracle Fail Safe
未压缩闪回数据存档
联机数据文件迁移
事务防护
跨平台备份和恢复
全局数据服务
可伸缩性
Oracle Real Application Clusters
自动负载管理
服务质量管理
性能
客户端查询缓存
查询结果缓存
PL/SQL函数结果缓存
TimesTen Application-Tier Database缓存
数据库智能闪存缓存
计算节点负责对文件进行分组、分域、分段、分片存储,并对其进行索引,形成元数据。集群元数据的每次变化(例如索引的增加和删除)都会进行持久化保存,集群的每次重启时可以同步读取集群的状态。
3.2大数据计算运行环境
大数据计算运行环境主要以Hadoop大数据技术,应用于对海量数据的分析与查询,其整体运算效能较低,属于对日志型海量工作数据的查询统计技术,更多应用于对历史库进行离线整理、分析、梳理出有价值的信息的一种应用。
编辑
权限分析
透明敏感数据保护
2.2数据库集群环境的部署
数据库集群环境部署于指挥云内的数据库集群服务器上,由云支撑环境进行管理与授权应用。
3大数据计算技术环境
大数据计算服务器集群所面向指挥云内的非结构化与半结构化文本数据通过大数据计算集群与大数据计算运行环境、应用服务与管理软件实现大数据的并行计算任务与分布式计算服务。大数据计算技术环境为面向大数据进行计算服务的开发提供支撑与接口访问组件。
Oracle RAC One Node
Oracle Data Guard—重做应用
Oracle Data Guard—远程同步备用数据库
Oracle Data Guard—SQL应用
Oracle Data Guard—快照备用数据库
Oracle Data Guard—实时级联备用数据库
Oracle Active Data Guard
2.1软件选型
数据库集群技术环境软件采用Oracle Database 12c企业版为基础数据库软件,并搭建RAC集群做为数据库集群以支撑指挥云内的数据库建立与访问。
基本性能如下:
Oracle Database 12c企业版(EE)可在无插槽限制的单一和集群服务器上使用。它为任务关键型事务应用程序、查询密集型数据仓库以及混合负载提供高效、可靠且安全的数据管理。
1.4测试冗余资源池
可配置中等安全环境,严格与其它二个资源池进行网络隔离,硬件主机可以按物理服务器进行分开,资源池内计算资源按项目进行隔离。。用户具备较高的控制权限,主要用于
开发和系统内部集成测试
安装有关的开发工具
通过云平台的标准模块化快速生产开发服务环境
业务上线前的各种测试,并在测试区期提供各种测试工具服务
支持Oracle Exadata存储服务器软件
自适应执行计划
并发执行UNION和UNION ALL分支
安全性
Oracle Advanced Security
Oracle Label Security
Oracle Database Vault
细粒度审计
虚拟专用数据库
企业用户安全性
Real Application Security
生命周期测试阶段的流程
试运行资源区,供业务上线前的各种真实场景的模拟和演练
提供各种事件模拟工具
1.5存储资源池
存储资源池为指挥云内提供虚拟服务器创建镜像的存储空间与数据库集群所需的高性能共享存储。
指挥云存储资源由光纤存储阵列构成,存储资源池的构建采用基于存储网络层的虚拟化技术整合多个光纤存储阵列实现,通过存储虚拟化技术,供多个系统共同使用。方式维护与配置相对较简单,兼容简单异构存储环境,以便指挥云存储的后续平滑扩容。
数据库作为业务系统的核心,具有业务量大、存储数据量大等特点。它承担着业务数据的存储和处理任务,因此关键数据库服务器的选择就显得尤为重要。服务器的可靠性和可用性是首要的需求,其次是数据处理能力和安全性,然后是可扩展性和可管理性。
主流公安核心应用均以Oracle数据库做为标准选型。Oracle是以高级结构化查询语言(SQL)为基础的大型关系数据库,通俗地讲它是用方便逻辑管理的语言操纵大量有规律数据的集合。
采用Hadoop技术、面向海量集合的工作历史数据,提供存储与计算方法,往往耗时长、计算量大。适用于建立对于路网通行实战侦控平台、视频综合应用平台、视频图像侦控作战平台以及其它数据综合后的海量堆积数据,数据变化小,历史积累性强,形成对情报分析的基础源数据集。以便在此源数据集上,通过计算任务与分析形成不同的业务综合库与业务专题与统计库。大数据计算运行环境安装Hadoop软件环境为在大数据计算集群上开发大数据服务提供支撑。
3.1大数据计算集群架构
大数据计算集群每个节点均为一个计算节点,配置不少于2个计算节点作为候选节点,主控节点(主节点)由计算节点中选举产生,以避免单主节点存在,造成集群的当机。主节点管理文件系统的名字空间负责文件元数据的操作以及客户端对文件的访问和计算任务监控。主节点元数据文件分布备份于集群中,在主节点失效后,能在有效候选计算节点中迅速选举新的主节点以维持集群的计算工作。计算节点负责处理文件内容的读写请求。计算任务分布于计算节点上进行并行计算。架构图如下:
存储资源池与传统的存储设备相比不仅仅是一个硬件,而是一个存储设备、存储网网络设备、文件系统和客户端程序等多个部分组成的复杂系统。各部分以存储设备为核心,通过应用软件标准的存储访问接口来对外提供数据存储和业务访问服务。
1.6网络资源池
资源池节点的网络采用扁平化架构设计,分核心层与接入层两个层面。核心层主要由大容量三层交换机组成,主要负责与外部网络的流量交换以及节点内各集群之间的流量转发。资源池配置集中对虚拟网络进行资源综合管理。由交换机提供可编程接口,由云支撑环境按指挥云项目与应用部署的实际情况进行统一配置,并提供网络监控与策略管理。虚拟服务器的网络交换由于服务器虚拟化技术的出现使得计算服务提供不再以主机为基础,而是以虚拟机为单位来提供,同时为了满足同一物理服务器内虚拟机之间的数据交换需求,服务器内部引入了网络功能部件虚拟交换机vSwitch(Virtual Switch),虚拟交换机提供了虚拟机之间、虚拟机与外部网络之间的通讯能力。IEEE的802.1标准中,正式将“虚拟交换机”命名为“Virtual Ethernet Bridge”,简称VEB,或称vSwitch。
对于现业务应用所需的业务综合库、业务专题库、统计分析库、字典库、缓冲库、全文检索库,等关系型数据库用于描述业务系统的业务逻辑、业务流程、字典、业务数据缓冲、统计数据等。
数据库集群环境,采用oracel RAC进行搭建,Oracle RAC数据库采用双机并行,RAC是一种并行模式,并不是传统的主备模式。也就是说,RAC集群的所有成员都可以同时接收客户端的请求。还具有高可用性,RAC是Oracle数据库产品高可用性的解决方案,能够保证在集群中只要有一个节点存活,就能正常对外提供服务。另外还具有易伸缩性,RAC可以非常容易地添加、删除节点,以满足系统自身的调整。低成本是其一大特点,能使用较低廉的服务器来实现高可用性、高吞吐量的集群环境,这要比通过对某台高端服务器增加硬件实现高可用性、高吞吐量花费的成本低很多。
相关文档
最新文档