并行计算机的分类与发展
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
❖ SMP系统中的处理器一般为商用处理器
❖ 各个处理器的地位完全相等
❖ 单一操作系统映像
ห้องสมุดไป่ตู้
❖ 低通信延迟
❖ 所有处理器共享总线带宽
❖ 总线、存储器、操作系统失效可能导致系 统崩溃
❖ 可扩展性较差
2020/6/1
6
分布存储MIMD型并行机
❖ 80年代中期出现，主要特征是
❖通过互连网络交换信息
❖各个结点有局部存储器
优点：编程容易，比分布存储系统更容易做到 负载平衡
缺点：内存是瓶颈，可扩性差，造价相对高昂
2020/6/1
4
SMP与PVP的图示
…
… …
… … … …
VP
SM
交 VP 叉 SM
开
关
VP
SM
P/C 总 SM
线
P/C 或 SM
交
叉 开
SM
P/C 关 I/O
PVP示意图
2020/6/1
SMP示意
图
5
SMP计算机系统
❖大规模并行处理机MPP、机群系统 (Cluster)
2020/6/1
7
MPP图示
MB
P/C
MB
P/C
LM ……
LM
…
NIC
NIC
定制网络
2020/6/1
8
机群系统(Cluster)图示
MB P/C
MB P/C
M Bridge LD IOB
…… …
M Bridge LD IOB
NIC
NIC
以太网等商品化网络
❖ 单一的系统映像
2020/6/1
11
DSM图示
MB
MB
P/C
P/C
LM ……
LM
DIR …
DIR
NIC
NIC
定制网络
2020/6/1
12
MIMD并行计算机典型体系结构回顾
共享 存储
MIMD
UMA NUMA
2020/6/1
分布 Cluster 存储
MPP
PVP SMP
COMA CC-NUMA NCC-NUMA
2020/6/1
10
分布共享存储多处理机DSM
❖ DSM 的 典 型 代 表 为 SGI 的 Origin2000 和 Origin3000系列并行机
❖ 远端访问延迟一般是本地访问延迟的3倍以 上（NUMA结构）
❖ 单一内存地址空间
❖ 基于Cache的数据一致性（CC-NUMA）
❖ DSM较好地改善了SMP的可扩展性
物理主存分布
13
2020/6/1
9
机群系统(续)
❖ Cluster的每个结点都是一个完整的工作站， 可以是一台PC或SMP
❖ 各个节点一般由商品化的网络互连
❖ 每个节点一般有本地磁盘，一个完整的操 作系统驻留在每个节点上
❖ 曙光1000A、曙光2000、曙光3000、曙 光4000L以及前不久推出的曙光4000A等 都是机群架构的并行计算机
2020/6/1
3
共享存储MIMD型并行机
❖ 共享存储MIMD并行多处理机
通过网络共享内存，通过内存交换信息，内存 空间可以由多个存储器模块组成(UMA结构）
对称多处理机(SMP)
并行向量机PVP(Parallel Vector Processor)
➢ Cray Y-MP、Cray-2与国产YH-2
SISD型计算机
❖ SISD机器只可能是串行计算机。在串行 计算机中，CPU采用的指令系统
➢CISC复杂指令型
➢RISC精简指令型
❖ 提高单CPU性能的主要硬件技术
➢处理器主频的提高
➢单机内的并行化技术
2020/6/1
1
SIMD型并行计算机
❖ 原理：前端机执行指令，其它处理器协 同处理数据。
❖ 阵列机
1972年的ILLIAC IV 同时期的ICL DAP、Goodyear MPP
❖ 以流水线为基础的向量计算机
70年代的Cray-1、Star-100 国产YH-1
2020/6/1
2
MIMD型并行计算机
❖ 当前的并行计算机系统绝大部分为 MIMD系统
❖ 共享存储MIMD型并行机 ❖ 分布存储MIMD型并行机 ❖ 分布共享存储多处理机DSM
❖ 各个处理器的地位完全相等
❖ 单一操作系统映像
ห้องสมุดไป่ตู้
❖ 低通信延迟
❖ 所有处理器共享总线带宽
❖ 总线、存储器、操作系统失效可能导致系 统崩溃
❖ 可扩展性较差
2020/6/1
6
分布存储MIMD型并行机
❖ 80年代中期出现，主要特征是
❖通过互连网络交换信息
❖各个结点有局部存储器
优点：编程容易，比分布存储系统更容易做到 负载平衡
缺点：内存是瓶颈，可扩性差，造价相对高昂
2020/6/1
4
SMP与PVP的图示
…
… …
… … … …
VP
SM
交 VP 叉 SM
开
关
VP
SM
P/C 总 SM
线
P/C 或 SM
交
叉 开
SM
P/C 关 I/O
PVP示意图
2020/6/1
SMP示意
图
5
SMP计算机系统
❖大规模并行处理机MPP、机群系统 (Cluster)
2020/6/1
7
MPP图示
MB
P/C
MB
P/C
LM ……
LM
…
NIC
NIC
定制网络
2020/6/1
8
机群系统(Cluster)图示
MB P/C
MB P/C
M Bridge LD IOB
…… …
M Bridge LD IOB
NIC
NIC
以太网等商品化网络
❖ 单一的系统映像
2020/6/1
11
DSM图示
MB
MB
P/C
P/C
LM ……
LM
DIR …
DIR
NIC
NIC
定制网络
2020/6/1
12
MIMD并行计算机典型体系结构回顾
共享 存储
MIMD
UMA NUMA
2020/6/1
分布 Cluster 存储
MPP
PVP SMP
COMA CC-NUMA NCC-NUMA
2020/6/1
10
分布共享存储多处理机DSM
❖ DSM 的 典 型 代 表 为 SGI 的 Origin2000 和 Origin3000系列并行机
❖ 远端访问延迟一般是本地访问延迟的3倍以 上（NUMA结构）
❖ 单一内存地址空间
❖ 基于Cache的数据一致性（CC-NUMA）
❖ DSM较好地改善了SMP的可扩展性
物理主存分布
13
2020/6/1
9
机群系统(续)
❖ Cluster的每个结点都是一个完整的工作站， 可以是一台PC或SMP
❖ 各个节点一般由商品化的网络互连
❖ 每个节点一般有本地磁盘，一个完整的操 作系统驻留在每个节点上
❖ 曙光1000A、曙光2000、曙光3000、曙 光4000L以及前不久推出的曙光4000A等 都是机群架构的并行计算机
2020/6/1
3
共享存储MIMD型并行机
❖ 共享存储MIMD并行多处理机
通过网络共享内存，通过内存交换信息，内存 空间可以由多个存储器模块组成(UMA结构）
对称多处理机(SMP)
并行向量机PVP(Parallel Vector Processor)
➢ Cray Y-MP、Cray-2与国产YH-2
SISD型计算机
❖ SISD机器只可能是串行计算机。在串行 计算机中，CPU采用的指令系统
➢CISC复杂指令型
➢RISC精简指令型
❖ 提高单CPU性能的主要硬件技术
➢处理器主频的提高
➢单机内的并行化技术
2020/6/1
1
SIMD型并行计算机
❖ 原理：前端机执行指令，其它处理器协 同处理数据。
❖ 阵列机
1972年的ILLIAC IV 同时期的ICL DAP、Goodyear MPP
❖ 以流水线为基础的向量计算机
70年代的Cray-1、Star-100 国产YH-1
2020/6/1
2
MIMD型并行计算机
❖ 当前的并行计算机系统绝大部分为 MIMD系统
❖ 共享存储MIMD型并行机 ❖ 分布存储MIMD型并行机 ❖ 分布共享存储多处理机DSM