云原生计算技术引领数字未来
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Cloud
Edge
云端统一管控 边缘适度自制
Infrastructure Edge E.g. CDN, ENS
Device
• 机器学习 • AI • 视频处理 • 态势预测
• 直播服务 • 流计算
Device Edge E.g. 工厂、园区、楼宇、机场、设备网关
设备就近接入 支持多种设备接入协议
• 提供从云-边-端统一的应用管理 和运维体验
应用生命周期管理 服务注册发现 服务治理
负载均衡
多发布策略
资源账单
K8s 原生API
Kubernetes
镜像仓库
应用监控 系统监控 弹性伸缩 日志管理
多种微服务 框架
多种部署方式
多种打包格式
丰富的应用 托管及微服
务能力
面向容器 - Serverless Kubernetes
经典Kubernetes集群
ECS
POD POD POD POD
ECS
POD POD POD POD
ECS
POD POD POD POD
ECI
POD POD POD POD POD POD POD POD POD POD POD POD POD POD POD POD
云原生架构演进
1
2
3
新范型
新边界
新应用
云-边-端 一体化协同基础设施
应用负载
服务治理
Istio
基础架构
Leabharlann Baidu
Kubernetes
云原生操作系统
服务治理、云原生应用负载 …
Observable
Service Mesh
Loosely Coupled
Elasticity
Serverless
Immutable Infrastructure
CI/CD
DevOps
Declarative APIs
云原生AI优化 - 深度学习分布式训练
arena submit mpijob --workers=8 --gpus=8 --data=tfdata:/data_dir --image=ali-perseus:gpu-tf-1.6.0
• 优化框架：Perseus-Tensorflow • 性能优化
• MPI代替gRPC通信 • ring-allreduce环形通信 • 计算和通信重叠 • 梯度融合
应用
Application
•应用代码(指定的运行时环境) •Java •Python •NodeJS •… •主要12-factors类型互联网应用
函数
Function
•函数 •NodeJS •Python •Java •… •事件驱动应用
AWS Fargate, 阿里云 ECI/ASK
Heroku, Google GAE Cloud Run, EDASServerless
Cloud Native
Microservices
Container Kubernetes
Hybrid clouds
Manageable Resilient
云原生架构演进
1
2
3
新范型
新边界
新应用
云原生 Serverless Runtime
灵活性
开发效率
容器
Container
•容器镜像 •各种类型应用 •Stateless – 如Web应用 •Stateful – 如数据库、消息队列 •Job – 如视频转码、CI/CD •CronJob – 定时数据同步 •…
• 支持不同系统架构和网络状况下， 应用的分发和生命周期管理
• 支持面向边缘、设备优化的访问 协议、同步机制、安全增强
混合云/多云架构 2.0
“A multicloud strategy will become the common strategy for 70% of enterprises by 2019”- Gartner
Lambda, FunctionCompute
面向函数 - FunctionCompute
按月预付 Monthly prepayment
粗粒度弹性使用资源 Coarse-grained resource usage
90% 典型场景 10%-90% 成本下降 10%-90% cost reduction
场景 算法、框架
CPU 算力
统一流程优化 弹性资源调度
GPU FPGA／ASIC InfiniBand 100GEth Object/CPFS
云原生提升AI工程效能
优化异构资源调度 弹性、高效、细粒度（支持GPU共享）
简化异构资源管理复杂性，提升可观测性和使用效率 可移植、可组装、可重现的AI流程
云原生计算技术引领数字未来
日程
• 云原生的崛起
• 云原生架构演进
• 新范型 • 新边界 • 新应用
• 拥抱云原生生态
云原生计算的崛起
资源云化
虚拟化
应用云化
标准化、自动化、可扩展、高可用
云原生
互联网规模、敏捷、弹性、可移植
容器成为云原生计算基石
应用容器化
应用与运行环境解耦
容器编排
资源编排调度与基础设施解耦
函数计算 Function Compute
面向应用 - EDAS Serverless
使用Spring Cloud的用户
提交代码 < / > 源码管理
自动 构建
CI/CD
使用Dubbo的用户
使用HSF的用户
…
云效
IDE plugin
上传
应用程序打包形式
Jar
部署应用
War
EDAS serverless
按照集群资源付费 需要维护集群节点 需要容量规划
Container Scheduling and Orchestration
系统托管
用户管理
VS
Serverless Kubernetes
按应用消费资源付费 无需维护集群节点 按需弹性伸缩
支持 Spot、GPU
Container Scheduling and Orchestration
• 性能提升
• 128张卡性能提升60%
• 精度提升
• Top-1训练精度为75% • Top-5训练精度为93%
阿里云 云原生产品家族
数据&智能 云原生数据库 POLARDB 机器学习平台 PAI
Serverless
面向容器 Serverless Kubernetes
容器编排
容器服务ACK
App
• 以基础架构为中心 • 提升管理一致性 • 连通底层资源
App
App
Cloud Broker +
Automation
App
App
App
App
Kubernetes
• 以应用为中心 • 云原生应用架构 • 敏捷、弹性、可移植性 • 应用
App
云原生架构演进
1
2
3
新范型
新边界
新应用
新架构催生新价值
Edge
云端统一管控 边缘适度自制
Infrastructure Edge E.g. CDN, ENS
Device
• 机器学习 • AI • 视频处理 • 态势预测
• 直播服务 • 流计算
Device Edge E.g. 工厂、园区、楼宇、机场、设备网关
设备就近接入 支持多种设备接入协议
• 提供从云-边-端统一的应用管理 和运维体验
应用生命周期管理 服务注册发现 服务治理
负载均衡
多发布策略
资源账单
K8s 原生API
Kubernetes
镜像仓库
应用监控 系统监控 弹性伸缩 日志管理
多种微服务 框架
多种部署方式
多种打包格式
丰富的应用 托管及微服
务能力
面向容器 - Serverless Kubernetes
经典Kubernetes集群
ECS
POD POD POD POD
ECS
POD POD POD POD
ECS
POD POD POD POD
ECI
POD POD POD POD POD POD POD POD POD POD POD POD POD POD POD POD
云原生架构演进
1
2
3
新范型
新边界
新应用
云-边-端 一体化协同基础设施
应用负载
服务治理
Istio
基础架构
Leabharlann Baidu
Kubernetes
云原生操作系统
服务治理、云原生应用负载 …
Observable
Service Mesh
Loosely Coupled
Elasticity
Serverless
Immutable Infrastructure
CI/CD
DevOps
Declarative APIs
云原生AI优化 - 深度学习分布式训练
arena submit mpijob --workers=8 --gpus=8 --data=tfdata:/data_dir --image=ali-perseus:gpu-tf-1.6.0
• 优化框架：Perseus-Tensorflow • 性能优化
• MPI代替gRPC通信 • ring-allreduce环形通信 • 计算和通信重叠 • 梯度融合
应用
Application
•应用代码(指定的运行时环境) •Java •Python •NodeJS •… •主要12-factors类型互联网应用
函数
Function
•函数 •NodeJS •Python •Java •… •事件驱动应用
AWS Fargate, 阿里云 ECI/ASK
Heroku, Google GAE Cloud Run, EDASServerless
Cloud Native
Microservices
Container Kubernetes
Hybrid clouds
Manageable Resilient
云原生架构演进
1
2
3
新范型
新边界
新应用
云原生 Serverless Runtime
灵活性
开发效率
容器
Container
•容器镜像 •各种类型应用 •Stateless – 如Web应用 •Stateful – 如数据库、消息队列 •Job – 如视频转码、CI/CD •CronJob – 定时数据同步 •…
• 支持不同系统架构和网络状况下， 应用的分发和生命周期管理
• 支持面向边缘、设备优化的访问 协议、同步机制、安全增强
混合云/多云架构 2.0
“A multicloud strategy will become the common strategy for 70% of enterprises by 2019”- Gartner
Lambda, FunctionCompute
面向函数 - FunctionCompute
按月预付 Monthly prepayment
粗粒度弹性使用资源 Coarse-grained resource usage
90% 典型场景 10%-90% 成本下降 10%-90% cost reduction
场景 算法、框架
CPU 算力
统一流程优化 弹性资源调度
GPU FPGA／ASIC InfiniBand 100GEth Object/CPFS
云原生提升AI工程效能
优化异构资源调度 弹性、高效、细粒度（支持GPU共享）
简化异构资源管理复杂性，提升可观测性和使用效率 可移植、可组装、可重现的AI流程
云原生计算技术引领数字未来
日程
• 云原生的崛起
• 云原生架构演进
• 新范型 • 新边界 • 新应用
• 拥抱云原生生态
云原生计算的崛起
资源云化
虚拟化
应用云化
标准化、自动化、可扩展、高可用
云原生
互联网规模、敏捷、弹性、可移植
容器成为云原生计算基石
应用容器化
应用与运行环境解耦
容器编排
资源编排调度与基础设施解耦
函数计算 Function Compute
面向应用 - EDAS Serverless
使用Spring Cloud的用户
提交代码 < / > 源码管理
自动 构建
CI/CD
使用Dubbo的用户
使用HSF的用户
…
云效
IDE plugin
上传
应用程序打包形式
Jar
部署应用
War
EDAS serverless
按照集群资源付费 需要维护集群节点 需要容量规划
Container Scheduling and Orchestration
系统托管
用户管理
VS
Serverless Kubernetes
按应用消费资源付费 无需维护集群节点 按需弹性伸缩
支持 Spot、GPU
Container Scheduling and Orchestration
• 性能提升
• 128张卡性能提升60%
• 精度提升
• Top-1训练精度为75% • Top-5训练精度为93%
阿里云 云原生产品家族
数据&智能 云原生数据库 POLARDB 机器学习平台 PAI
Serverless
面向容器 Serverless Kubernetes
容器编排
容器服务ACK
App
• 以基础架构为中心 • 提升管理一致性 • 连通底层资源
App
App
Cloud Broker +
Automation
App
App
App
App
Kubernetes
• 以应用为中心 • 云原生应用架构 • 敏捷、弹性、可移植性 • 应用
App
云原生架构演进
1
2
3
新范型
新边界
新应用
新架构催生新价值