计算机体系结构第三章-1

3.2 流水线的基本概念
例如：一个浮点加法部件的流水线：
入
求阶差
对阶
尾数加
规格化
出
部件级流水线通常是流水线处理机中的一部分，这时 的处理机由于流水级数较多，又称为超流水线处理机。
3.2 流水线的基本概念
（2）处理机级 又称为指令流水线，就是将一条指令的解释执行过程分 解成若干个子过程，使每个子过程分别在一个部件中完成。

每分析完一条指令，就自动向指 令缓冲站发出取下 一条指令的请求。 指令取出之后就把指令缓冲站中的 该指令作废。 指令缓冲站中存放的指令的条数 是动态变化的。

3.1 重叠执行和先行控制

问题：在复杂的计算机指令系统中，各种指令在分析和执行 阶段所需的时间可能有很大的差别。于是，前面对三个阶段 所需时间t相等的假设就可能不成立，所得到的节约三分之二 时间的结论也被动摇了。下图形象地表示了这种情况所造成 的影响。
存到寄存器中，使指令能快速执行 . 后行写数栈
运算器
3.1 重叠执行和先行控制

先行控制技术中采取了两个根本的措施：指令预处理 技术和缓冲技术。由于指令和数据的缓冲，保证了指 令分析和指令的执行都能全速地运行。
第k+2条指令 分析k+2 分析k+1 分析k 执行k 执行k+1 执行k+2
改 进 前
（2）非线性流水线
是指在各部件除了串行的连接外，还通过反馈线使 某些部件得以重复使用。指令在通过这种流水线时，可 能在反馈部件上重复运行若干次。
3.2 流水线的基本概念
S3
× × × ×
入
S1
S2
S3
出
S2 S1
反馈回路 时间
非线性流水线工作特性示意图
3.2 流水线的基本概念
5.按流入流出顺序分类 （1）顺序流水线 其输出的结果与输入的次序相同，早期的流水线又称 为顺序流水线。 （2）乱序流水线
1 2 3 4 5
输
入
1 2 3 4 5 6 7 8
输
入
1 2 3 4 5 6 7
输
入
求 阶 差 对 阶
求 阶 差 对 阶
相
加
相
加
规格化 相 乘
规格化
6
7 8
相
乘
累 输
加 出
累 输

（ b）浮点连接
（ c）定乘连接
ASC处理机的多功能流水线
3.2 流水线的基本概念
3、 按照工作方式分类 （1）静态流水线
当执行某一规定功能的指令全部流出后，才允许改变部件间 连接的流水线。
（可以是单功能流水线也可以是多功能流水线）
3.2 流水线的基本概念
（2）动态流水线
没有这种时间上的限制，可以在任何时候根据需要改变其连 接。
（只能是多功能流水线）
3.2 流水线的基本概念
4.按连接方式分类
（1）线性流水线 是指在部件上没有反馈连接的流水线。在这种流水 线中，指令依次通过各个部件仅一次，完成指令执行的 全过程。目前所使用的流水线绝大部分都是这类线性流 水线。
后行写数栈
运算器
3.1 重叠执行和先行控制
缓冲站
前置部件
① ② ③
后置部件

缓冲站实际上是一个以先进先出（FIFO）方式工作的 移位寄存器组，上图表示了缓冲栈所处的地位。前置 部件的输出不直接送入后置部件，而是通过缓冲栈暂 存后才输出。
3.1 重叠执行和先行控制
3．先行控制原理
通过现行指令计数器PC取 通过先行指令计数器 出现行指令 PC1预取指令序列 先行指令栈
3.1 重叠执行和先行控制
二.先行控制技术
1．实现重叠执行存在的问题
（1）问题一： 需要独立的取指部件，分析部件，执行部件。 解决方案: 分别设置对应存储控制器，指令控制器和运算控制器。
3.1 重叠执行和先行控制
（2）问题二：
主存访问冲突

取指令，处理机按指令计数器PC的指示访问存储器；


分析指令，可能需要从存储器中获取操作数；

流水线中的每个子过程及其功能部件称为流水线的 级或段，段与段相互连接形成流水线。流水线的段数称 为流水线的深度(Pipeline Depth)。
3.2 流水线的基本概念
2．流水线结构
重叠执行是流水线结构的思想基础，只要在指令分析器 与指令执行部件之后都加上一个锁存器，就成了一个简单的 流水线结构。
第三章 流水线技术 主要内容

3.1 重叠执行和先行控制 3.2 流水线的基本概念
3.3 流水线的性能指标
3.4 流水线的相关与冲突 3.5 流水线的实现
第三章 流水线技术

引入
提高计算机性能（速度）的两个重要方法：
1. 缩短执行每条指令所需的平均周期数CPI。 如：RISC技术 2. 提高处理机在执行指令中的并行度，即同一时刻中 处理机内同时运行多条指令。 如：采用流水线技术
执行指令，可能要求将结果写回到存储器中。 处理机中三个独立的部件可能同时提出对存储器读 写的请求，从而发生存储器访问冲突。
3.1 重叠执行和先行控制
解决方案： 1）分别设置两个独立的存储器：指令存储器和数据存储器， 或一级Cache分为程序Cache和数据Cache ，同时工作解 决同时读指令和读数据引起的冲突。
将原始的输入次序打乱，以最有利于处理机执行的方 式运行，在输出结果时才恢复原次序。
在一些现代处理机中，如Pentium 4在流水线运行过程中采用了 乱序方式。
3.2 流水线的基本概念
除了上述几种分类方法以外，还可以根据各种不同的观点对流水 线进行区分。比如：

按照数据表示方式的不同，可以将流水线分为标量流水 线和向量流水线两种。在标量处理机中使用的当然是标 量流水线。 根据流水线在各级之间流动时的控制方法不同，又可以 分成同步和异步两种流水线。

PC1：用于从主存预取 指令 PC: 用来记录当前正 在分析的指令的地址
现行程序计数器 PC
先行指令传冲站组成和工作原理
先行程序计数器 PC1
主 存 控 制 器
指令缓冲 存 储 区
指令分析部件
指令寄存器 IR 控制逻辑
按队列方式工作。 只要指令缓冲站不满，它 就自动地向主存控制器发取 指令请求，不断地预取指令。
入
取指令 译码 执行 存结果
出
3.2 流水线的基本概念
（3）处理机间级
处理机间流水线通常是多处理机系统中对任务采取的一种处 理策略。
输入
处理机1
M
处理机2
M
处理机n
M
输出
任务1
任务2
任务n
上图是处理机间流水线示意图，图中每个处理机是以任务 为单位进行处理的，而处理机间的任务传递则是由公用存储 器完成的。应当指出，图中给出的是一个处理的“流水”， 并没有涉及更多的硬件结构。实际上这个过程更应该看作是 一种任务的调度策略。
T=3nt
3.1 重叠执行和先行控制
2. 让前后连续的指令在处理机内以重叠的方式执行.

一次重叠执行方式：
取指
取指 分析 执行 分析 执行
第k + 2条指令 第k + 1条指令
第k条指令
取指
分析
执行
如果三个阶段所需时间t相等，n条指令 顺序执行的时间为 ：
优：总执行时间减少近 1/3； 功能部件利用率提高。 缺：需增加硬件； 控制过程更复杂。
如果连续执行多条指令（一段程序），计算机对前后相邻 指令的执行过程可以有两种不同的方式:
1. 顺序执行方式，即等前一条指令执行完毕，紧接着执 行下一条指令。
取指 分析 k 执行 取指 分析 k+ 1
优：控制简单。 缺：速度慢； 功能部件利用率低。
执行
如果取指令、指令分析和指令执行 的时间相等，都是t，则n条指令顺 序执行的时间为 ：
T=(1+2n)t
3.1 重叠执行和先行控制
• 二次重叠执行方式：
取指k+2 分析k+2 取指k+1 分析k+1 执行k+1 执行k+2
第k + 2条指令 第k + 1条指令 第k条指令
取指k
分析k
执行k
如果三个阶段所需时间t相等，n条指令顺 序执行的时间为 ：
T=（2+n)t
优：总执行时间减少近 2/3； 功能部件利用率进 一步提高。 缺：增加硬件； 主存冲突。
排空
… n-1 n
S5
S4
… n-1 n n
S3
1 1 1 2 2
2 3 …
… n-1 n n (n-1)Δ t
S2
S1
… n-1
3
k· Δt
… n-1
时间
通过时间
排空时间
• 横轴表示时间，即各条指令在处理机中经历各个操作时占用的时间段。 • 纵轴表示空间，即流水线的各个子操作过程，通常也称为“功能段”。
3.2 流水线的基本概念 二. 流水线的种类
1.按处理机分类 （1）操作部件级
为最低级别的流水线。是把处理机的算术逻辑运算部 件分段。如果某一部件的处理过程比较复杂，如浮点运算, 需要较长的时间。这时可以将该部件分为若干子部件，分 别完成浮点运算中有关的子操作，这种在部件范围内形成 的流水线称为操作部件级流水线。
第k+2条指令 第k+1条指令 第k条指令 分析k+1 分析k+2 执行k+1 执行k+2
分析k
执行k

这种情况可用先行控制技术来缓解。
3.1 重叠执行和先行控制