第6章__阵列处理机分析

·
PE0 PE1
MM0 MM1
CU ……
SC
PEN-1
ICN互连网络
··
……
MMk-1
I/O-CH
I/O SM 具有集中式共享存储器的阵列处理机构形
各处理单元在访主存时，为避免发生分体冲 突，也要求有合适的算法能将数据合理地分配到 各个存储体中。 互连网络ICN是用于在处理单元与存储器分 体之间进行转接构成数据通路，使各处理单元能 高速灵活地动态与不同的存储体相连，使尽可能 多的PE能无冲突地访问共享的主存模块。 集中式共享存储器的阵列处理机主要特点是 将资源重复和时间重复结合起来开发并行性。 采用这种构形的典型机器有BSP。
5、阵列机的研究必须与并行算法研究密切结
合，以使它的求解算法适应性更强一些，应 用面更广一些(与并行算法结合研究)。
阵列处理机实质上是由专门对付数 组运算的处理单元阵列组成的处理机、 专门从事处理单元阵列的控制及标量处 理的处理机和专门从事系统输入输出及 操作系统管理的处理机组成的一个异构 型多处理机系统。
第6章
6.1 6.2 6.3 6.4 6.5
阵列处理机
阵列处理机原理 阵列处理机的并行算法 SIMD计算机的网络互连 并行存储器的无冲突访问 并行处理机举例
•本章重点：
总的要求是理解阵列处理机的结构和工作原 理。了解与流水处理机的差别。理解在阵列处 理机解题时对并行算法及存储单元分配规则、 互连网络等的特殊要求。熟练掌握基本的单级 网络及其互连函数表示。理解循环互连网络的 实现。熟练掌握多级网络、全排列网络的画法。 理解解决并行存储器无冲突访问的办法。 互连函数和多级互连网络。
PU56 PU63
wk.baidu.com
PU57 2 3 4 5 6
PU 63 PU 8
PU0 PU8 16 24 32 40 48
PU1 PU9 17 25 33 41 49 PU57 PU1
PU7
PU8
10 11 12 13 14 18 26 34 42 50 19 27 35 43 51 20 28 36 44 52 21 29 37 45 53 22 30 38 46 54
6.2 阵列处理机的并行算法
6.2.1 ILLIAC Ⅳ的处理单元阵列结构
ILLIAC IV处理阵列由88＝64个PU组成。 每个PU由处理部件PE和它的局部存储器PEM组 成。 每一个PUi只和它的上、下、左、右四个 近邻直接连接。{PUi+1 mod 64、PUi-1 mod 64、 PUi+8 mod 64、PUi-8 mod 64} 上下方向上同一列的PU连成一个环，左右 方向上构成一个闭合螺线。
1、分布式存储器的阵列处理机构形 各处理单元有局部存储器PEM(Processing Element Memory)存放被分布的数据，只能被 本处理单元直接访问。在控制部件CU上有一 主存可传播给各个处理单元，运算中可通过 互连网络ICN交换数据。 在执行主存中的用户程序时，所有指令都 在控制部件中进行译码，把只适合串行处理 的标量或控制类指令留给控制部件CU自己执 行，而把适合于并行处理的向量类指令“播 送”给各个PE，控制处于“活跃”的那些PE 并行执行。下图是采用分布式存储器的阵列 处理机构形。
如果采用闭合螺旋线，只需要7步： PU0 PU63 PU62 PU61 PU60 PU52 PU44 PU36
普通网格必须8步： PU0 PU1 PU2 PU3 PU4 PU12 PU20 PU28 PU36 或 PU0 PU8 PU16 PU24 PU32 PU33 PU34 PU35 PU36 或 …… 闭合螺旋线只要7步： PU0 PU63 PU62 PU61 PU60 PU52 PU44 PU36 或 PU0 PU63 PU55 PU47 PU39 PU38 PU37 PU36 或 ……
•本章难点：
并行算法和多级互连网络。
6.1 阵列处理机原理
6.1.1 阵列处理机的基本构形
阵列处理机(Array Processor),也称为并 行处理机(Parallel Processor)主要用于对大 量向量、数组要求高速运算的场合。 阵列处理机是重复设置处理单元按一定方 式连成阵列在单一控制部件控制下对各自分配 的数据执行同一指令规定的操作，是操作级并 行的SIMD的计算机。 由于存储器的组成方式不同，阵列处理机 有两种不同的基本构形。
控制
SC I/O 接口 D
控 制
PEM0
PE0
· · · · ·
数据总线
CU CUM
PEM1
…… PEMN-1
PE1
……
PEN-1
控制总线
ICN互连网络
具有分布式存储器的阵列处理机构形
为了有效高速地处理向量数据，这种构形要 求能把数据合理地预分配到各个处理单元的局 部存储器中，使各处理单元PEi主要用自己的局 存PEMi中的数据运算。 采用这种构形的阵列处理机是SIMD的主流。 典型机器有ILLIAC Ⅳ 、MPP、 DAP、CM-2、 MP-1、DAP600系列等。 2、集中式共享存储器的阵列处理机构形 系统存储器由K个存储体集中组成，并经 ICN为全部N个处理单元所共享。 为使各处理单元对长度为N的向量中各个元 素都能同时并行处理，存储体体数K应等于或多 于处理单元数N。
PU15 23 31 39 47 55 PU63 PU 7
PU16
PU55
PU56 PU0
58 59 60 61 62
PU0
• 采用闭合螺线最短距离不超过7步。而普通网格 最短距离不超过8步。这种阵列中，任意两个单 元之间的最短距离不超过 N 1步。 • 例如：从PU0到PU36的距离：采用普通网格必须 8步：PU0 PU1 PU2 PU3 PU4 PU12 PU20 PU28 PU36 或 PU0 PU8 PU16 PU24 PU32 PU33 PU34 PU35 PU36 或 ……（等于8步的很多，大于8步的更多）
6.1.2
阵列处理机的特点
1、利用资源重复而不是时间重叠；利用并行性中的同 时性而不是并发性。 2、资源利用率不如流水线高，但提高速度的潜
力比流水线处理机大。（阵列处理机主要是 靠增大处理单元数提高速度，向量流水处理 机主要靠缩短时钟周期提高速度）。 3、阵列处理机使用简单规整的互连网络来确定处 理单元间的连接，因此，互连网络设计很重要。 4、它是以某类算法为背景的专用计算机，基本上 是专用于向量处理的计算机(某类算法专用机)， 故阵列处理机专用性强。