第六章向量处理机
计算机系统结构-向量处理机
WENKU DESIGN
定义与特点
定义
向量处理机是一种特殊类型的计算 机系统，专门设计用于高效处理大
规模数据集，特别是向量数据。
并行处理
能够同时处理多个数据项，大 大提高了处理速度。
内存优化
具有大容量内存和快速内存访 问，以支持大规模数据处理。
专门化硬件
拥有专门为向量运算设计的硬 件，如向量寄存器、乘法器等
03
工具和技术支持。
并行度更高
01
更高并行度的处理器能够同时处理多个任务，提高计算速度 和效率。
02
并行度的提高需要更高效的线程管理和调度技术，以避免资 源冲突和死锁。
03
并行度的提高也带来了数据一致性和同步的挑战，需要更严 谨的设计和实现。
内存墙问题
内存墙问题是指随着处理器性能的提高，内存带宽和延迟成为系统瓶颈， 限制了处理器性能的发挥。
向量处理机的性能优化
REPORTING
WENKU DESIGN
数据预取技术
预测算法
通过分析历史数据，预测未来数 据访问模式，提前从内存中取出 数据放入缓存中。
智能预取
利用AI技术进行数据预取，根据 程序运行时的行为特征，自动识 别出访问模式，提前预取数据。
指令流预取
根据指令流信息，预测即将访问 的数据，提前从内存中取出数据 放入缓存中。
PART 06
向量处理机的发展趋势与 挑战
REPORTING
WENKU DESIGN
向量化程度更高
01
向量化程度更高的处理器能够执行更复杂的计算任务，提高计 算效率和精度。
02
高向量化程度的处理器需要更高效的编译器和优化技术，以充
分发挥其性能。
第六章 阵列计算机
前端机 CU
PE PE LM PE LM PE … LM SM
前端机 CU PE … 互连网络 SM PE
互连网络
分布式存储器的阵列机
…
SM
共享存储器的阵列机
• 分布式存储器的阵列机
在此类处理机中，每个PE都有自己的局部存储器LM，LM中存放着为本PE 直接访问的数据。运算中，处理单元间可通过互连网络ICN来进行数据交换。 现在出现的SIMD计算机几乎都是基于分布式存储器模型的系统。各种系 统之间的主要差别在于采用了不同的互连网络。
ILLIAC-Ⅳ的处理单元互连图
PU56 PU63 PU07 PU00 PU08 PU57 PU01 PU09 PU58 PU07 PU15
PU08 PU16
PU55
PU56 PU00
PU57 PU01
PU63 PU07
PU00
在这个阵列中，步距不等于±1或±8的任意单元之间可以用软件寻找最 短路径进行通信，其最短距离不超过7步。例如，信息由PU63送PU10 ,可经 PU63→PU7→PU8→PU9→PU104步实现，信息由PU9送PU45可经 PU9→PU1→PU57→PU56→PU48→PU47→PU46→PU457步实现。普遍来讲， N N N 个处理单元组成的阵列中，任意两个处理单元之间的最短距离不超过
(1)直连—i入连i出，j入连j出
(2)交换—i入连j出，j入连i出 (3)上播—i入连i出和j出，j入 (4)下播—j入连i出和j出，i入悬空。 只有前两种功能的称二功能交换单元，有全部四种功能的称四功能交换单元。
• 拓扑结构
流水线技术-向量处理机
向量处理机概述
向量处理机是一种专门用于处理大规模向量运算的计算机系 统。它通过并行处理多个数据元素，能够高效地完成矩阵运 算、信号处理、图像处理等计算密集型任务。
流水线并行处理
01
02
03
数据并行
将数据划分为多个子集， 每个子集在流水线的一个 阶段进行处理，实现数据 并行处理。
任务并行
将任务划分为多个子任务， 每个子任务在流水线的一 个阶段进行处理，实现任 务并行处理。
指令并行
在同一时间内，流水线可 以执行多个指令，实现指 令并行处理。
流水线冲突解决
数据冲突
并行处理单元
增加并行处理单元，如多核处理器、GPU等，进一步提高计算性能。
05
流水线技术-向量处理机的应用场景
科学计算
数值模拟
向量处理机在科学计算中广泛应用于数 值模拟，如流体动力学、气象预报、地 震数据处理等。
VS
统计分析
向量处理机能够高效处理大规模数据集， 适用于统计分析、数据挖掘等领域。
图像处理
图像增强
向量处理机能够并行处理像素数据，适用于 图像增强技术，如锐化、色彩校正等。
图像分析
在图像识别和目标检测等任务中，向量处理 机能够加速特征提取和比对过程。
机器学习
模型训练
向量处理机能够高效处理大规模数据和矩阵运算，适用于机器学习模型的训练和推理。
并行算法
向量处理机支持并行算法，能够加速机器学习算法的实现和优化。
向量处理机通常采用特殊的硬件架构和指令集，以最大化并 行处理能力。它通过将数据存储在特殊的向量寄存器中，并 执行一组长指令来处理这些数据，从而实现高效的向量计算 。
第六章向量处理机
• 具有所有四种功能的交换开关称为四功能开关，用两位控制信号控制。
拓扑结构
• 拓扑结构是各级间出端与入端互连的模式 • 单级互连网络的连接模式可以用来组合成不同的多级互连网络
控制方式
• 对各个交换开关进行控制的方式（以多级立方体的控制方式为例） 1) 级控制：同一级的所有开关只用一个控制信号控制，同时只能处于同 一种状态
000 001
0 1
0 1
000
001
010 011 100 101 110 111
010
011
2
3
2
3
100
101 110 111
4
5 6 7
4
5 6 7
全混交换互连网络
• 单纯的全混互连网络不能实现“全0”和“全1”的处理单元
与其他处理单元的连接，因此还需要增加������������������������0 交换函数
多级立方体网络
• 多级立方体互连网络有STARAN网络、间接二进制n立方体网络等
多级立方体网络
• STARAN网络采用级控制和部分级控制，而间接二进制n立方体网 络使用单元控制，后者的连接灵活性更强
• 第i级交换单元处于交换状态时，实现的是Cubei互连函数
010 110 000 100
Cube1
PM2I单级网络（续）
0 PM2+0 1 2 3 4 5 6 7 PM2-0
PM2+1 0
1
2
3
4
5
6
7
PM2-1
PM2+2 0
1
2
3
4
5
6
7
PM2-2
混洗交换单级网络
第6章阵列处理机
第 6 章 并行处理机和相联处理机
第6章 阵列处理机
6.1 阵列处理机的原理
第 6 章 并行处理机和相联处理机
6.1.2 ILLIACⅣ的处理单元阵列结构 由于阵列处理机上的并行算法的研究是与结构紧密联系 在一起的，因此，下面先介绍一下ILLIACⅣ阵列机上处理单 元的互连结构。ILLIACⅣ是采用如图6-1所示的分布存储器构 形，其处理单元阵列结构如图6-3所示。其中，PUi 为处理部 件，包含64位的算术处理单元PEi、所带的局部存储器PEMi和
用到下面的累加和并行算法。即使如此，就K的并行来说，
速度的提高也不是8倍，而只是8/log28，接近于2.7倍。
第 6 章 并行处理机和相联处理机
3.累加和 这是一个将N个数的顺序相加转为并行相加的问题。为 得到各项累加的部分和与最后的总和，要用到处理单元中的 活跃标志位。只有处于活跃状态的处理单元才能执行相应的 操作。为叙述方便取N=8，即有8个数A(I)顺序累加，其中 0≤I≤7。 在SISD计算机上可以写成下列FORTRAN程序： C=0
PEM内，且在全部64个PEM中，让A、B和C的各分量地址
均对应取相同的地址α、α+1和α+2，如图6-4所示。这样， 实现矩阵加只需用下列三条ILLIACⅣ汇编指令：
第 6 章 并行处理机和相联处理机
LDA ADRN
Hale Waihona Puke ALPHA ;全部(α)由PEMi送PEi的累加器RGAi ALPHA+1 ;全部(α+1)与(RGAi)浮点加，结果送 RGAi
向量处理机学习指南
向量处理机【学习指南】一.首先透切理解以下基本概念：向量、向量处理三种算法、向量处理机两种结构、链接、向量指令处理时间、最大性能R ∞、半性能向量长度1. 把N 个互相独立的数叫做“向量”，对这样一组数的运算叫做“向量处理”。
一条向量指令可以处理N 个或N 对操作数。
2. 向量处理的方式(1)．横向处理方式：向量计算是按行的方式从左至右横向进行。
(2)．纵向处理方式：向量计算是按列的方式自上而下纵向进行。
(3)． 纵横处理方式：横向处理和纵向处理相结合的方式3. 向量处理机一般有如下两种结构：(1)． 利用几个独立的内存模块来支持对相互独立的资料的并发访问，从而达到所要求的内存带宽，即存储器—存储器结构。
在运算流水线的输入端和输出端增加了缓冲器以便消除争用内存的现象。
(2)． 构造一个具有所要求带宽的高速中间内存，并能实现该高速中间内存与主存储器之间的快速资料交换，即寄存器—寄存器结构。
设计这种系统结构的主要思想是使操作数离处理器很近，以保证处理器一直处于忙状态。
中间内存提供给处理器快速存取的资料，而成本又比较低。
4. 提高向量处理机性能的常用技术(1)． 链接技术(2)． 向量循环或分段开采技术5. 向量指令的处理时间其中，T s 为向量流水线的建立时间，它包括向量起始地址的设置、计数器加1、条件转移指令执行等。
T vf 为向量流水线的流过时间，它是一条指令从开始译码到流过流水线得到第一个结果元素的时间。
T c 为流水线“瓶颈”段的执行时间。
一组向量操作的执行时间主要取决于下面三个因素：向量的长度、向量操作之间是否存在流水功能部件的冲突和数据的相关性。
cvf s vp T n T T T )1(-++=9 最大性能R ∞表示当向量长度为无穷大时的向量流水线的最大性能。
常在评价峰值性能时使用，单位为MFLOPS 。
它可表示为：因为分子的值与n 无关，所以6. n 1/2为达到一半R ∞值所需的向量长度。
第6章 向量处理机
主存 储器 8MB 64个 个体
8个向量寄存器 8×64×64
缓冲寄存器 64×64 缓冲寄存器 64×24
标量寄存器 8×64 地址寄存器 8×24
12个 流水 线结 构的 运算 部件
指令缓冲寄存器 256×16 CRAY-1向量处理机结构
6.3 向量处理方式
• 有三种处理方式： 1、横向处理方式，又称为水平处理方式，横 向加工方式等。向量计算是按行的方式从左 至右横向地进行。 2、纵向处理方式，又称为垂直处理方式，纵向 加工方式等。向量计算是按列的方式自上而 下纵向地进行。 3、纵横处理方式，又称为分组处理方式，纵横 向加工方式等。横向处理和纵向处理相结合 的方式。
10000 A0 基地址 10020 A1 10040 A2 位移量 4 10060 A3 10080 A4 起始地址 100A0 A5 100C0 A6 长度 12 100E0 A7 有效长度 8 10100 A8 10120 A9 10140 A10 10160 A11 A 向量：A=10000，L=12，f=4
6.1.2 等间距向量表示法
三个参数表示一个等间距向量： 向量起始地址：A 向量长度：L 向量间距：f
V I， 0 V I， 1 V I， 2 …… VI，L-1 A A+f A+2f …… A+(L-1)f
长 度 L
例如：我国研制的银河向量机，有8个向量寄存 器V0～V7，每个向量寄存器由64个64位的寄 存器组成，存储器字长64位，采用字节编址方 式，则连续向量的间距为 f=8。向量指令采用 三地址形式：
运算过程为： 第１组： T(1, n) = B(1, n) + C(1, n) Y(1, n) = A(1, n)×T(1, n) 第２组： T(n+1, 2n) = B(n+1, 2n)＋C(n+1, 2n) Y(n+1, 2n) = A(n+1, 2n)×T(n+1, 2n) …… 最后第k+1组： T(kn+1, N) = B(kn+1, N) + C(kn+1, N) Y(kn+1, N) = A(kn+1, N) + T(kn+1, N)
全国自考(计算机系统结构)模拟试卷9(题后含答案及解析)
全国自考（计算机系统结构）模拟试卷9(题后含答案及解析)题型有：1. 单项选择题 2. 填空题 3. 简答题 4. 简单应用题 5. 综合应用题单项选择题1．虚拟存储器是因何而提出来的( )A．主存速度满足不了要求B．外存速度满足不了要求C．主存容量满足不了要求D．外存容量满足不了要求正确答案：C解析：虚拟存储器是因主存容量满足不了要求而提出来的。
在主存和辅存之间，增设辅助的软、硬件设备，让它们构成一个整体，所以也称为主存一辅存存储层次。
2．根据存储映像算法的不同，可有多种不同的存储管理方式的虚拟存储器，其中不属于其主要管理方式的是( )A．段式B．页式C．段页式D．页段式正确答案：D解析：根据存储映像算法的不同，可有多种不同存储管理方式的虚拟存储器，其中主要管理方式是段式、页式、段页式。
3．下列哪个算法是选择最早装入内存的页作为被替换的页( )A．FIFOB．LRUC．OPTD．FILO正确答案：A解析：FIFO指的是先进先出算法，是选择最早装入内存的页作为被替换的页。
4．Cache存储器的性能主要取决于命中率的高低，下列与命中率无关的是( )A．主存容量B．替换算法C．块的大小D．采用组相联时组的大小正确答案：A解析：评价Cache存储器的性能主要是看命中率的高低，而命中率与块的大小、块的总数(即Cache的总容量)、采用组相联时组的大小(组内块数)、替换算法和地址流的簇聚性等有关。
5．虚拟存储器中段式管理虚地址不包含的部分是( )A．基号B．段号C．页号D．段内位移正确答案：C解析：虚拟存储器中段式管理虚地址包含的部分是基号、段号、段内位移。
6．下列不属于堆栈型替换算法的是( )A．近期最少使用算法B．先进先出替换算法C．优化替换算法D．近期最久未使用算法正确答案：B解析：先进先出替换算法不属于堆栈型替换算法，而近期最少使用算法和优化替换法是堆栈型替换算法。
7．最易出现块冲突的Cache地址映像方式是( )A．段相联B．直接相联C．全相联D．组相联正确答案：B解析：直接相联是把主存空间按Cache大小等分成区，每区内的各块只能按位置一一对应到Cache的相应块位置上。
计算机系统结构第6章概论
• 在向量处理机上, 可以只用一条指令： C(10:1010)=A(10:1010) + B(15 :1015) 一条向量指令可处理Ｎ个或Ｎ对操作数
• 在标量处理机上用10多条指令，其中有8条 指令要循环1000次。
LOOP: LOAD R4,A(R3) ;读A向量的一个元素
LOAD ADD STORE ADD INC CMP BLE
HALT ST: 10 ED: 1010 L: 4
R5, B(R3) ;读B向量的一个元素
R4, R5 ;加一个元素
R4, C(R3) ;写C向量的一个元素
R3, R2 ;改变向量偏移量
• 采用多寄存器结构的两地址指令编写程序 • 存储器采用字节编址方式，字长为32位
在一般标量处理机中需要如下指令序列来实现 （A、B、C分别是向量a、b、c在内存中的 起始地址）：
START: LOAD R0, ST ;读循环初值10 LOAD R1, ED ;读循环终值1010 LOAD R2, L ;读内存地址增量4 MOVER3, R2 MUL R3, R0 ;计算向量偏移量, ;初始值为40
压缩向量 A A2
元素很少的向量称为
0 A2
压缩
A4 A7
稀疏向量
0
A4
采用压缩方法存储稀疏
0 0
压缩位向量 A
向量可以节省存储空
A7
00101001
间。
压缩向量 B B0
稀疏向量 B B0
可以还原之后进行运算，
计算机系统结构习题答案(李学干)
计算机系统结构习题解答第一章习题一1.2一台经解释实现的计算机，可以按照功能划分成4级。
每一级为了执行一条指令需要下一级的N条指令解释。
若执行第1级的一条指令需K纳秒时间，那么执行第2、3、4级的一条指令个需要多少时间？解：①分析：计算机按功能分级时，最底层的为第1级。
向上一次是第2 、3、4级。
解释执行是在低级机器级上，用它的一串指令或语句来解释执行高一级上的一条指令的功能。
是逐条解释的。
②解答：执行第2、3、4级的一条指令各需KNns,KN2ns,KN3ns的时间。
1.3操作系统机器级的某些指令就用传统机器级的指令，这些指令可以用微程序直接实现，而不由操作系统自己来实现。
根据你对习题1.2的回答，你认为这样做有哪两个好处？答：可以加快操作系统操作命令解释的速度。
同时也节省了存放解释操作命令这部分解释程序所占用的空间。
简化了操作系统机器级的设计。
也有利于减少传统机器级的指令条数。
1.5硬件和软件在什么意义上是等效的？在什么意义上是不等效的？试举例说明。
答：硬件和软件在逻辑意义上是等效的。
在物理意义上是不等效的。
①在原理上，用硬件或固件实现的功能完全可以用软件来完成。
用软件实现的功能也可以用硬件或固件来完成。
功能一样。
②只是反映在速度、价格、实现的难易程度上，这两者是不同的。
性能不同。
③例如，浮点运算在80386以前一直是用软件实现的。
到了80486，将浮点运算器集成到了CPU中，可以直接通过浮点运算指令用硬件实现。
但速度却高的多。
1.9下列哪些对系统程序员是透明的？哪些对应用程序员是透明的？系列机各档不同的数据通路宽度；虚拟存储器；Cache存储器；程序状态字；“启动I/O”指令；“执行”指令；指令缓冲器。
答：①对系统程序员和应用程序员均透明的：是全用硬件实现的计算机组成所包含的方面。
有：数据通路宽度、Cache存储器、指令缓冲器。
②仅对应用程序员透明的：是一些软硬件结合实现的功能。
有：虚拟存储器、程序状态字、“启动I/O”指令。
第二课向量处理机
• 不难看出，只要并行存储体体数M为偶数，对M×M的正方形数组无论怎样存放，都不可能 同时实现行、列、主对角线、次对角线上的所有元素都能无冲突地访问。尽管可以通过对 不同的数组访问模式采用不同的错位方案来满足在该访问模式下不发生冲突，但这将给编 译程序设计者增加很大负担。能满足上述这些要求的一种存储方案是使并行存储器分体数 M大于每次要访问的向量或数组元素的个数N(N在阵列处理机上就是处理单元数)，且等于 质数，同时在多维数组的行、列等方向上采取不同的错开距离。
7.1 多处理机的概念、问题和硬件结构
7.1.1 多处理机的基本概念和要解决的技术问题 • 基本概念：多处理机指有两台以上的处理机，共享I/O子系统，机间经共享主存或高速通
信网络通信，在统一操作系统控制下，协同求解大而复杂问题的计算机系统。 • 使用多处理机的目的： （1）通过多台处理机对多个作业、任务的进行并行执行来提高解题速度，从而提高系统的 整体性能； （2）使用冗余的多个处理机通过重新组织来提高系统的可靠性、适应性和可用性。
(1)结构简单、规整，模块化强，可扩充好，非常适合用超大规模集成电路实现。
(2)PE间数据通信距离短、规则，使数据流和控制流的设计、同步控制等均简单规整。
(3)脉动阵列中所有PE能同时运算，具有极高的计算并行性，可通过流水获得很高的运算效 率和吞吐率。输入数据能被多个处理单元重复使用，大大减轻了阵列与外界的I/O通信量， 降低了对系统主存和I/O系统频宽的要求。
基准网络在多级网络中可作为中间介质，模拟一种网络的拓扑结构和功能。
图6-18 N=8的基准网络
5.多级交叉开关网络
多级交叉开关 (CLOS)网络是一种非阻塞式网络，图6-19给出了一个三级交叉开关网络的结构。 其网络的入、出端口数均为N×R,输入级有R个N×M的交叉开关，中间级有M个R×R的交叉 开关，输出级有R个M×N的交叉开关。当M≥2N-1时，它就成了非阻塞网络。所谓非阻塞网 络，指的是同时实现两对或多对入、出端间的连接，均不会发送传送路径上的冲突(全排列 网络中介绍)，表示成N(M,N,R)。
计算机系统结构-第六章练习-答案培训资料
计算机系统结构-第六章练习-答案第六章向量处理机1．在大型数组的处理中常常包含向量计算，按照数组中各计算相继的次序，我们可以把向量处理方法分为哪三种类型？横向处理方式,纵向处理方式,纵横处理方式横向处理方式：向量计算是按行的方式从左至右横向的进行纵向处理方式：向量计算是按列的方式自上而下纵向的进行纵横处理方式：横向处理和纵向处理相结合的方式2．解释下列与向量处理有关的术语。
（1）向量和标量的平衡点：为了使向量硬件设备和标量设备的利用率相等，一个程序中向量代码所占的百分比（2）用户代码的向量化比值：用户代码可向量化的部分占全部的比重（3）向量化编译器或量化器：将标量运算进行向量化或者将向量运算进行适当的修改使之能够进入向量处理进行向量处理的编译器3．简要叙述提高向量处理机性能的常用技术（1）链接技术（2）向量循环或分段开采技术（3）向量递归技术（4）稀疏矩阵的处理技术4．下述的几个需要解决的问题中，那个是向量处理机所最需要关心的？A.计算机指令的优化技术B.设计满足运算器带宽要求的存储器C.如何提高存储器的利用率，增加存储器系统的容量D.纵横处理方式的划分问题5.假设系统在向量模式下面能够达到9Mflops,在标量模式下能够达到1Mflops速度，而代码的90%是向量运算，10%是标量运算，这样花在两种模式上的计算时间相等。
那么向量平衡点是：A.0.1B.0.9 一个程序中向量代码所占的百分比C.0.5D.以上都不是6.查看下面三条指令：V3←AV2←V0+V1V4←V2*V3假设向量长度小于64,且前后其他的指令均没有相关性，数据进入和流出每个功能部件，包括访问存储器都需要一拍的时间，假设向量的长度为N。
三条指令全部采用串行的方法，那么执行的时间是：A.3N+20B.3N+21C.3N+22D.3N+237．下面一组向量操作能分成几个编队？假设每种流水功能部件只有一个。
LV V1,Rx ;取向量MULTSV V2,F0,V1;向量和标量相乘LV V3,Ry ;取向量YADDV V4,V2,V3;加法SV Ry,V4;存结果可以划分成四个编队：（1）LV （2）MULTSV LV （3）ADDV （4）SV8.在一台向量处理机上实现A=B×s操作，其中A和 B是长度为200的向量，s是一个标量。
向量处理机
6.3 提高向量处理机性能的常用技术
6.3.1 设置多个功能部件
设置多个独立的功能部件。这些部件能并行工作， 并各自按流水方式工作，从而形成了多条并行工 作的运算操作流水线。
例如：CRAY-1向量处理机有4组12个单功能流 水部件：
向量部件：向量加，移位，逻辑运算 浮点部件：浮点加，浮点乘，浮点求倒数 标量部件：标量加，移位，逻辑运算，
第六章 向量处理机
6.1 向量处理的基本概念 6.2 向量处理机的结构 6.3 提高向量处理机性能的方法 6.4 向量处理机实例 6.5 向量处理机的性能评价
向量由一组有序、具有相同类型和位数的元素组 成，特别适合流水处理。
在有些流水线处理机中，为了充分发挥流水线处 理机的效率，实现高性能计算，设置了向量数据 表示和相应的向量指令，称为向量处理机。
计算机科学与技术
yangruioot@
6.2 向量处理机的结构
只要不出现Vi冲突和功能部件冲突，各Vi之间和各功能部 件之间都能并行工作，大大加快了向量指令的处理。
Vi冲突：并行工作的各向量指令的源向量或结果向量使用 了相同的Vi。
例如：源向量相同
V3←V1＋V2 V5←V4×V1 功能部件冲突：并行工作的各向量指令要使用同一个功能 部件。
例如：V3←V1＋V2 V6←V3*V4
计算机科学与技术
yangruioot@
6.3 提高向量处理机性能的常用技术
向量流水线链接：具有先写后读相关的两条指令， 在不出现功能部件冲突和源向量冲突的情况下， 可以把功能部件链接起来进行流水处理，以达到 加快执行的目的。
向量指令的源向量和目的向量都是存放在存储器 中，运算的中间结果需要送回存储器。
流水线运算部件的输入和输出端都直接（或经过 缓冲器）与存储器相联，从而构成存储器-存储 器型操作的运算流水线。
重叠流水和向量处理机
流水线的表示方法有三种：
连接图、时空图和预约表。
图 5.15 流水处理
流水线的主要特点
(1)只有连续提供同类任务才能充分发挥 流水线的效率
对于指令流水线：要尽量减少因条件分 支造成的“断流”。
对于操作部件：主要通过编译技术，尽 量提供连续的同类操作。
(2)在流水线的每一个流水线段中都要设 置一个流水锁存器
主要优点： 指令的执行时间缩短。 功能部件的利用率明显提高。
主要缺点： 需要增加一些硬件。 控制过程稍复杂。
二次重叠执行方式
如果三过程的时间相等，执行n条指 令的时间为：T=(2+n)t
理想情况下同时有三条指令在执行。
处理机的结构要作比较大的改变，必 须采用先行控制方式。
取指k 分析k 执行k 取指k+1 分析k+1 执行k+1 取指k+2 分析k+2 执行k+2
主要优点： 控制简单，节省设备。
主要缺点： 执行指令的速度慢，功能部件的利用率
很低。
图 5.2 指令的顺序解释与重叠解释
图 5.3 一次重叠工作方式
取指k 分析k 执行k 取指k+1分析k+1执行k+1 取指k+2分析k+2 执
一次重叠执行方式
一种最简单的流水线方式。
如果两个过程的时间相等，则执行n 条指令的时间为：T=(1+2n)t
(3) 采用先行控制技术 先行控制技术的关键是缓冲技术和预
处理技术。 缓冲技术是在工作速度不固定的两个
功能部件之间设置缓冲栈，用以平滑它们的 工作。
在采用了缓冲技术和预处理技术之后 ，运算器能够专心于数据的运算，从而大幅 度提高程序的执行速度。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
store b[I] 2*a[I+1]
iБайду номын сангаасcrement I I+1
goto 10
20 Stop
上述程序用向量化指令序列实现为：
a[1:n]=b[1:n]+c[1:n]
temp[1:n]=a[2:n+1]
b[1:n]=2*temp[1:n] 将n个独立的数构成的整体称为向量，对这一组
数的运算称为向量处理。一条向量处理指令可 以处理n个或n对操作数。
第六章 向量处理机
6.1 向量处理的基本概念
什么是向量处理？
例如：一个简单的C语言程序如下： for (i = 1; i <n; i++) { a[i] = b[i] +c[i] ; b[i] =2*a[ i+1] ;
}
在标量处理机上用下述指令实现：
A、B、C分别是向量a、b、c在内存中的起始地址：
主要采用两种方法： 1. 存储器－存储器结构
多个独立的存储器模块并行工作 处理机结构简单，对存储系统的访问速度要求很高
2. 寄存器－寄存器结构
运算通过向量寄存器进行 需要大量高速寄存器，对存储系统访问速度的要求降低
存储器－存储器结构
下图说明一个具有8个存储体的向量处理机：
三条互相独立的数据通路，可并行
向量处理方式
要根据向量运算的特点和向量处理机的类型选择向量的处理 方式。
有三种处理方式： 1．横向处理方式，又称为水平处理方式，横向加工方式 等。向量计算是按行的方式从左至右横向地进行。 2．纵向处理方式，又称为垂直处理方式，纵向加工方式 等。向量计算是按列的方式自上而下纵向地进行。 3．纵横处理方式，又称为分组处理方式，纵横向加工方 式等。横向处理和纵向处理相结合的方式。
存在两个问题： 在计算向量的每个分量时，都发生写读数据相关。流水线 效率低 如果采用多功能流水线，必须频繁进行流水线切换
横向处理方式对向量处理机不适合 即使在标量处理机中，也经常通过编译器进行指令流调度。
纵向处理
也称为垂直处理方式，纵向加工方式等
T[1] = B[1] + C[1] T[2] = B[2] + C[2] …… T[n] = B[n] + C[n] Y[1] = A[1]×T[1] Y[2] = A[2]×T[2] …… Y[N] = A[N] ×T[N]
以一个简单的C语言编写的程序为例，说明向量的三种处理 方式的工作原理。 for (i = 1；i <= n；i++) y[i] = a[i] ×( b[i] + c[i] );
横向处理方式
也称为水平处理方式，横向加工方式等 逐个分量进行处理：假设中间结果为T[I] 计算第1个分量： T[1] ＝B[1]＋C[1] Y[1] ＝A[1]×T[1] 计算第2个分量： T[2] ＝B[2]＋C[2] Y[2] ＝A[2]×T[2] …… 最后一个分量： T[N] ＝B[N]＋C[N] Y[N]＝A[N]×T[N]
M
工作，同一个存储模块同时只能为
M
一个通路服务
M
A
M
B 流水结构加法器
M
M
C=A+B
M
M
向量处理示例1：求C=A+B，设A、B、C的存储形式如图：
模块0 A[0]
B[6]
C[4]
……
模块1 A[1]
B[7]
模块2 A[2] B[0]
模块3 A[3] B[1]
模块4 A[4] B[2]
C[5] ……
采用向量指令只需要2条： VADD B， C， T VMUL A， T， Y
这种处理方式适用于向量处理机，数据相关不影响流 水线连续工作。不同的运算操作只需要切换1次。
纵横处理方式
将长度为n的向量分成若干组，每组长度为m， 组内按纵向方式处理，依次处理各组。
用于寄存器-寄存器结构的向量处理机中 向量寄存器的长度是有限的，例如，每个
向量寄存器有64个寄存器。当向量长度N大于 向量寄存器长度n时，需要分组处理。
分组方法：n＝K·m+r，其中：r为余数，共分 k+1组。 组内采用纵向处理方式，组间采用横向处 理方式。因此，也称为分组处理方式，纵横向 加工方式等。
6.2 向量处理机结构
向量处理机的基本思想是把两个向量的对应分量进行运 算，产生一个结果向量。最关键问题是存储器系统能 够满足运算部件带宽的要求。
1）向量处理机是解决数值计算问题的一种高性能计算机结 构
2）由于向量内各个元素间很少相关，而且对向量中各元素 一般又是执行同一操作，向量处理机一般都采用流水线 结构，有多条流水线并行工作
3）一条向量指令对应一个循环的数组运算，一条向量指令 包含大量的数据运算
4）向量处理机通常属大型或巨型机，也可以用微机加一台 向量协处理器组成
INITIALIZE I=1
10 if (i>N ) GOTO 20
read b[I] read c[I] add b[I]+c[I] store a[I]b[I]+c[I] read a[I+1] multiply 2*a[I+1]
常量2，a，b，c中每 一个元素都称为一个 标量。该指令序列称 为标量指令序列，执 行过程为标量处理过 程，每一条指令只处 理一个或一对数据。
C[6] ……
C[7] ……
C[0]
……
模块5 A[5] B[3]
C[2]
……
模块6 A[6] B[4]
C[3]
模块7 A[7] B[5]
C[4]
A、B、C在主存储器中的存放情况
…… ……
流水段4
01234567
流水段3
01234567
流水段2
01234567
流水段1 M7
01234567 RB5 RB5 RA7 RA7 W3 W3
M6
RB4 RB4 RA6 RA6 W2 W2
M5
RB3 RB3 RA5 RA5 W1 W1
M4
RB2 RB2 RA4 RA4 W0 W0
M3
RB1 RB1 RA3 RA3
M2 RB0 RB0 RA2 RA2
W6
M1
RA1 RA1
RB7 RB7
W5 W5
5）一般向量计算机中包括有一台高性能标量处理机
6）必须把要解决的问题转化为向量运算，向量处理机才能 充分发挥作用
向量处理机与标量处理机比较：
1) 向量操作比一串标量指令操作更快 2) 向量流水处理机还可使访存和有效地址计算流水化 3) 通过设置多个向量运算部件并且允许多个向量操作同时
进行，可开发对不同元素进行多个向量操作的并行性