652-高性能计算与任务管理
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
✓ 超级计算 (Super Computing)
2020/5/29
高性能计算与任务管理
7/78
为什么要做高性能计算？
2020/5/29
高性能计算与任务管理
8/78
高性能计算的应用领域
信息服务
基因信息
气象预报
汽车制造
生物物理
2020/5/29
石油勘探
数学
高性能计算与任务管理
船舶制造
9/78
高性能计算的应用领域
2020/5/29
高性能计算与任务管理
17/78
并行计算的硬件体系
并行计算机就是由多个处理单元组成的计算机系统，这 些处理单元相互通信和协作以快速、高效求解大型复杂问 题。
处理单元有多少 处理单元的功能有多强 处理单元之间怎样连接 处理单元的数据如何传递 各处理单元如何相互协作 并行程序如何编写
10/78
为什么要做高性能计算
➢ 人类对计算及性能的要求是无止境的
✓ 从系统的角度：集成系统资源，以满足不断增长的对性能和功能 的要求
✓ 从应用的角度：适当分解应用，以实现更大规模或更细致的计算
➢ 问题: 科学和工程问题的数值模拟与仿真
✓ 计算密集 ✓ 数据密集 ✓ 网络密集 ✓ 三种混合
2020/5/29
➢ HPC市场既是一个传统的市场，又是一个新兴的、高速 发展的市场
✓ 高：定位高端用户 ✓ 标杆项目，影响力大 ✓ 平民化趋势 ✓ 快速发展
2020/5/29
高性能计算与任务管理
4/78
高性能计算发展趋势
➢ 硬件厂商的表现
✓ Intel ✓ AMD ✓ InfiniBand
➢ 技术的发展
✓ CPU多核化的趋势 ✓ 多进程、多线程并行化
高性能计算与任务管理
6/78
高性能计算
➢ 高性能计算
✓ HPC：High Performance Compute
➢ 高性能计算---并行计算
✓ 并行计算 (Parallel Computing）
✓ 高端计算 (High-end Parallel Computing)
✓ 高性能计算 (High Performance Computing)
高性能计算与任务管理
12/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
4.高性能集群作业调度
2020/5/29
高性能计算与任务管理
13/78
什么是高性能计算机？
由多个计算单元组成，运算速度快、存储容量大、 可靠性高的计算机系统。
也称为： 巨型计算机、超级计算机
➢ 国家的政策
✓ 自主创新 ✓ 政府扶持
………
➢ 其他
✓ 并行计算机上的广泛应用 ✓ 高端下移
………
高性能计算领域仍然处于蓬勃发展阶段
2020/5/29
高性能计算与任务管理
5/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
4.高性能集群作业调度
2020/5/29
“高效能”（High Productivity）
2020/5/29
高性能计算与任务管理
15/78
并行计算? —分而治之
2020/5/29
wk.baidu.com
资料来源: Tim Mattson Intel Co. Com. Science Lab. Rudolf Eigenmann Purdue Uni. School of Elec. and Comp. Eng.
高性能计算与任务管理
16/78
并行计算的实施
并行的硬件基础：SMP v.s. Cluster
SMP基于单节点 Cluster由多个SMP节点组成
并行的软件基础：OpenMP v.s. MPI
OpenMP基于多线程概念，只能运行在单节点 之内
MPI基于多进程概念，既可在单节点内多CPU 并行，又可实现跨节点并行
4.高性能集群作业调度
2020/5/29
高性能计算与任务管理
3/78
高性能计算市场
➢ IDC对未来三年服务器市场的预测：
✓ IDC统计称，2019年全球服务器销售收入达到483亿美元； ✓ 随着全球经济开始复苏，从2019年至2019年，全球服务器销售
将每年增长5%至6%之间，其中HPC产业需求比较旺盛，预计发 展速度将会超10% ✓ 在中国，HPC市场的发展速度将会超过12%
➢ 计算科学与传统的两种科学，即理论科学和实验科学， 并立被认为是人类认识自然的三大支柱；
➢ 三者相辅相成，共同推动科学发展与社会进步； ➢ 在许多情况下，或者是理论模型复杂甚至理论尚未建立，
或者实验费用昂贵甚至无法进行时，计算就成了求解问 题的唯一或主要的手段。
2020/5/29
高性能计算与任务管理
Challenge, SUN Enterprise, 曙光一号;
2020/5/29
高性能计算与任务管理
19/78
集群系统(Cluster)
2020/5/29
高性能计算与任务管理
18/78
对称多处理机系统(SMP)
• SMP
– 对称式共享存储:任意处理器可 直接访问任意内存地址,且访问 延迟、带宽、机率都是等价的; 系统是对称的；
– 微处理器: 一般少于64个; – 处理器不能太多, 总线和交叉
开关的一旦作成难于扩展； – 例子: IBM R50, SGI Power
高性能计算与任务管理
解决方案中心
2020/5/29
高性能计算与任务管理
1/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
4.高性能集群作业调度
2020/5/29
高性能计算与任务管理
2/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
目前任何高性能计算和超级 计算都离不开使用并行技术， 所以高性能计算机肯定是并 行计算机。
2020/5/29
高性能计算与任务管理
14/78
高效能计算机系统
计算性能 可编程性
高效能
High Productivity
可移植性 可靠性
随着高性能计算向高性能服务转变，超级计算机系统追 求的目标也将从“高性能”（High Performance）走向
高性能计算与任务管理
11/78
如何满足高精度计算的需求？— 并行计算
➢ 从系统的角度：集成系统资源，以满足不断增长的对性能 和功能的要求
➢ 从应用的角度：适当分解应用，以实现更大规模或更细致 的计算
➢ 降低单个问题求解的时间. ➢ 增加问题求解规模. ➢ 提高吞吐率(多机同时执行多个串行程序).
2020/5/29
2020/5/29
高性能计算与任务管理
7/78
为什么要做高性能计算？
2020/5/29
高性能计算与任务管理
8/78
高性能计算的应用领域
信息服务
基因信息
气象预报
汽车制造
生物物理
2020/5/29
石油勘探
数学
高性能计算与任务管理
船舶制造
9/78
高性能计算的应用领域
2020/5/29
高性能计算与任务管理
17/78
并行计算的硬件体系
并行计算机就是由多个处理单元组成的计算机系统，这 些处理单元相互通信和协作以快速、高效求解大型复杂问 题。
处理单元有多少 处理单元的功能有多强 处理单元之间怎样连接 处理单元的数据如何传递 各处理单元如何相互协作 并行程序如何编写
10/78
为什么要做高性能计算
➢ 人类对计算及性能的要求是无止境的
✓ 从系统的角度：集成系统资源，以满足不断增长的对性能和功能 的要求
✓ 从应用的角度：适当分解应用，以实现更大规模或更细致的计算
➢ 问题: 科学和工程问题的数值模拟与仿真
✓ 计算密集 ✓ 数据密集 ✓ 网络密集 ✓ 三种混合
2020/5/29
➢ HPC市场既是一个传统的市场，又是一个新兴的、高速 发展的市场
✓ 高：定位高端用户 ✓ 标杆项目，影响力大 ✓ 平民化趋势 ✓ 快速发展
2020/5/29
高性能计算与任务管理
4/78
高性能计算发展趋势
➢ 硬件厂商的表现
✓ Intel ✓ AMD ✓ InfiniBand
➢ 技术的发展
✓ CPU多核化的趋势 ✓ 多进程、多线程并行化
高性能计算与任务管理
6/78
高性能计算
➢ 高性能计算
✓ HPC：High Performance Compute
➢ 高性能计算---并行计算
✓ 并行计算 (Parallel Computing）
✓ 高端计算 (High-end Parallel Computing)
✓ 高性能计算 (High Performance Computing)
高性能计算与任务管理
12/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
4.高性能集群作业调度
2020/5/29
高性能计算与任务管理
13/78
什么是高性能计算机？
由多个计算单元组成，运算速度快、存储容量大、 可靠性高的计算机系统。
也称为： 巨型计算机、超级计算机
➢ 国家的政策
✓ 自主创新 ✓ 政府扶持
………
➢ 其他
✓ 并行计算机上的广泛应用 ✓ 高端下移
………
高性能计算领域仍然处于蓬勃发展阶段
2020/5/29
高性能计算与任务管理
5/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
4.高性能集群作业调度
2020/5/29
“高效能”（High Productivity）
2020/5/29
高性能计算与任务管理
15/78
并行计算? —分而治之
2020/5/29
wk.baidu.com
资料来源: Tim Mattson Intel Co. Com. Science Lab. Rudolf Eigenmann Purdue Uni. School of Elec. and Comp. Eng.
高性能计算与任务管理
16/78
并行计算的实施
并行的硬件基础：SMP v.s. Cluster
SMP基于单节点 Cluster由多个SMP节点组成
并行的软件基础：OpenMP v.s. MPI
OpenMP基于多线程概念，只能运行在单节点 之内
MPI基于多进程概念，既可在单节点内多CPU 并行，又可实现跨节点并行
4.高性能集群作业调度
2020/5/29
高性能计算与任务管理
3/78
高性能计算市场
➢ IDC对未来三年服务器市场的预测：
✓ IDC统计称，2019年全球服务器销售收入达到483亿美元； ✓ 随着全球经济开始复苏，从2019年至2019年，全球服务器销售
将每年增长5%至6%之间，其中HPC产业需求比较旺盛，预计发 展速度将会超10% ✓ 在中国，HPC市场的发展速度将会超过12%
➢ 计算科学与传统的两种科学，即理论科学和实验科学， 并立被认为是人类认识自然的三大支柱；
➢ 三者相辅相成，共同推动科学发展与社会进步； ➢ 在许多情况下，或者是理论模型复杂甚至理论尚未建立，
或者实验费用昂贵甚至无法进行时，计算就成了求解问 题的唯一或主要的手段。
2020/5/29
高性能计算与任务管理
Challenge, SUN Enterprise, 曙光一号;
2020/5/29
高性能计算与任务管理
19/78
集群系统(Cluster)
2020/5/29
高性能计算与任务管理
18/78
对称多处理机系统(SMP)
• SMP
– 对称式共享存储:任意处理器可 直接访问任意内存地址,且访问 延迟、带宽、机率都是等价的; 系统是对称的；
– 微处理器: 一般少于64个; – 处理器不能太多, 总线和交叉
开关的一旦作成难于扩展； – 例子: IBM R50, SGI Power
高性能计算与任务管理
解决方案中心
2020/5/29
高性能计算与任务管理
1/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
4.高性能集群作业调度
2020/5/29
高性能计算与任务管理
2/78
Contents
1. 高性能计算概述 2. 高性能计算的定义 3.高性能计算的并行体系
目前任何高性能计算和超级 计算都离不开使用并行技术， 所以高性能计算机肯定是并 行计算机。
2020/5/29
高性能计算与任务管理
14/78
高效能计算机系统
计算性能 可编程性
高效能
High Productivity
可移植性 可靠性
随着高性能计算向高性能服务转变，超级计算机系统追 求的目标也将从“高性能”（High Performance）走向
高性能计算与任务管理
11/78
如何满足高精度计算的需求？— 并行计算
➢ 从系统的角度：集成系统资源，以满足不断增长的对性能 和功能的要求
➢ 从应用的角度：适当分解应用，以实现更大规模或更细致 的计算
➢ 降低单个问题求解的时间. ➢ 增加问题求解规模. ➢ 提高吞吐率(多机同时执行多个串行程序).
2020/5/29