政务云-大数据平台架构设计

京东弹性集群还可自动 替换不健康实例，自动 进行请求自动分发和资 源调度，实现负载均衡； 并提供丰富的监控、告 警/预警以及事件跟踪功 能。
ELB API RESTful
AS API RESTful
JD Elastic Cluster Service
DNS
Monitor
Elastic LoadBalancer
Canal client
源数据库 2(Master)
拉取信息并创建任务 创建任务队列
目标DB
全量抽取流程
SQLServer
MySQL Oracle
HDFS
Servlet API
Core
Reader Pool
Storage
Writer Pool
MySQL Oracle
Reader Plugin
HDFS
自动化运维云 Automatic IT Operation
服务器群
一 键 部 署
部署平台
实 时 监 控
监控平台
海 量 搜 索
日志平台
• 基础监控、应用监控、n业e务c监es控s）ity • 自动化部署全网服务n器ecessity• 全网数据采集、搜索、分析
• 220亿监控分析数据/天
• 每日部署3000台服务器
器 • 模块化解决方案，部署时可灵活配置 • 支持图形化和命令行两种操作模式
弹性集群 Elastic Cluster
京东弹性集群是一款高性能应用集群服务，使用简单，将开发者从繁琐的部署、配置、安全、运 维中解脱，只需五步即可完成大规模集群创建；自动伸缩，集群支持高并发、高仿问量，且可根据自定 义的规则进行资源的自动扩容或缩容；安全可靠，弹性集群服务通过DNS和外界客户端通信，通过防 火墙和网络层安全控制有效杜绝ARP攻击和MAC欺骗，让应用远离危险和攻击。
自动编译 Automatic Compile
OpenStack
APP
APP
… VM Server
Server VM
AutoScaling Group …
JDS
MySQL Master
MySQL Master
MySQL (Slave)
JSS JBS
JLS JDP
IaaS服务
为京东商家、合作ISV和电商合作伙伴提供的 电商应用托管平台与数据开放服务
• 第二步：历史应用业务系统很可能是运行在物理服务器上（小机、x86服务器），进行P2V的应用迁移 操作，统一迁移到京东IaaS平台虚拟主机上，赋予相关属性特性。
• 第三步：历史应用系统虚拟机如何进入到弹性集群中？
JDS分布式数据库
JDS 提供一键申请、自动备份、故障自动迁移、误删数据可恢复，高可靠的 MySQL、MariaDB、MongoDB云服务。应用场景：需要使用数据库服务的各 种业务。
• 第四步：部署弹性应用集群（重点）；
京东优势： • 基于流程化定义部署策略 • 99.5%的全自动部署 • 能在0.5小时内安装1000台机器的操作系统，从祼机开始 • 能在1.0个小时内部署IAAS系统需要的数据库、消息中间件
等核心模块 • 可以支持异构化的服务器，如IBM、HP和Dell的标准服务
云鼎
保证业务应用的平稳运行 实现基础资源的弹性伸缩，低成本解决资源瓶颈
存储服务
云存储
数据服务 弹性计算服务
云数据库（MySQL、MongoDB、MariaDB） 云监控
数据推送
云安全
云主机 弹性集群 云硬盘
云控制台
第二阶段：历史应用系统及数据迁移
• 第一步：历史应用系统的数据可能分为两部分，数据库中的业务数据和文件数据，数据库很可能是商业 产品的数据库管理软件，建议统一迁移到JDS分布式数据库中或者MySQL集群数据库中进行统一管理和 访问。历史文件统一存放在IaaS平台的文件存储服务中。
政务云 大数据平台架构设计
2014 - 07
政务云架构概要设计
移动服务
开发平台服务
数据服务
大
数
据
PaaS
服 务
IaaS
数 据 存 储 层
云主机层
OSS 运维 平台 服务
大数据平台
引 擎 层
计 算 层
数 据 层
实时
T+1
抽 取 层
数据推送
政务云建设目标
• 政务云的架构统一 • 使用的技术统一 • 运行的平台统一 • 自动化的运行维护管理
SQLSer ver
MySQL Oracle
Writer Plugin
HDFS
SQLSer ver
SQLServer
MySQL Oracle
增量抽取流程
HDFS
第三阶段：构建自动化IT管理平台
• 第一步：首先做到设施和资源的监控，包括物理设施和虚拟主机、apps应用的 自动监控；
• 第二步：自动化部署、管理； • 第三步：结合用户IT管理业务需求，制定IT管理运维流程，建立ITIL流程体系； • 第四步：计费管理；
政务云建设阶段
• 第一阶段：IaaS平台构建 • 第二阶段：历史应用系统及数据迁移 • 第三阶段：构建自动化IT管理平台 • 第四阶段：PaaS平台构建，移动业务 • 第五阶段：大数据平台构建
第一阶段：IaaS平源自文库构建
第一阶段： • 第一步：在一定规模（按照业务运算需求）的
IT基础设施上部署IaaS服务私有云平台，配置 服务器、网络、存储，协作运行；
• 第二步：在IaaS平台上，部署存储服务及分布 式数据库环境，为虚拟机和Image镜像及块存 储配置存储服务，建立云数据库（建立关系型 和非关型数据库环境），建立JDS分布式数据 库环境。
• 第三步：在IaaS上发布的虚拟主机可以在一个 弹性的环境中运行，虚拟主机能够负载均衡和 failover，物理资源可以动态的伸缩；
数据抽取服务JBUS
JBUS抽取业务数据到JDS，支持跨机房数据备份 API
Jbus前端
API
MQ
全量模块
Worker…
JBUS 系统结构
DB 全量模块
增量变化数据
源数据库 1(Master)
状态报告/任务控制接口
Jbus_extractor (增量抽数)
Canal server
Jbus_loader （增量导数）
• 转发、订阅量超过300亿条/天
• 报警粒度：秒级
• 部署1000台用时58秒
• 索引：100亿条/天
自动化运维云
运维成本减少90%以上 实时监控服务器、监控应用、业务数据 海量搜索，快速分析
统一日志 Unified Log
统一日志为各系统提供日志采集、转发、备份，订阅等服务，并提供全网海量日志检索， 预警，分析，极大提高开发效率。