第四章 流水线技术
流水线技术概述
流⽔线技术概述本⽂是对流⽔线技术地基本概念、冒险处理、硬件实现的基本概述。
⾸先我们介绍流⽔线的⼯作原理、组成要求、分类和性能指标，接下来讨论流⽔线的冒险处理，最后我们以MIPS为例，介绍流⽔线数据通路和控制器的实现。
⽬录1. 流⽔线概念针对串⾏执⾏过程中的冗余和瓶颈，我们提出，可以将指令执⾏过程划分为多个阶段，各个阶段可以同时处理操作，这样，每条指令按序通过各段，不同指令的执⾏过程重叠，得到的就是流⽔线。
流⽔线由多个功能段按序组成。
例如，在RISC中，通常包括IF,ID,EX,MEM,WB五个功能段，⽽在CISC中，通常包括IF,ID,OF,EX,WB五个功能段。
理想状况下，流⽔线可以对程序执⾏起到显著的加速作⽤。
例如，有n条指令在m段流⽔线上执⾏，串⾏执⾏的时间为mnt，⽽采⽤流⽔线后，其执⾏时间为(m+n-1)t。
流⽔线在组成上，有三个基本要求。
第⼀，各个段的操作要相互独⽴、相互分离。
因此，每个段的源数据必须来⾃时序部件，结果也要存到时序部件。
实现上，我们设置段间寄存器，其中保存本段的所有后续段需要的本段的数据、地址、命令等。
第⼆，各个流⽔段的操作要同步执⾏。
实现上，我们会设置公共拍时钟，使得段间寄存器被同时写⼊。
拍时钟的周期需要取为各个段长的最⼤值。
第三，各个流⽔段的操作必须⽆冲突，以保证结果正确。
具体⽽⾔，就是消除冒险。
实现上，通过增设部件和控制器，来消除各种冒险。
流⽔线可以按其属性进⾏多种分类。
按处理的级别，可以分为操作级流⽔线、指令级流⽔线、处理机级流⽔线。
按功能，可以分为单功能和多功能流⽔线。
多功能流⽔线的各流⽔段可以进⾏不同的连接，从⽽完成不同的功能。
按⼯作⽅式，可以分为静态流⽔线和动态流⽔线。
静态流⽔线在进⾏功能切换时，必须排空。
显然，动态流⽔线⼀定是多功能流⽔线。
按结构，可以分为线性流⽔线和⾮线性流⽔线。
所谓⾮线性流⽔线，就是其中有部件的复⽤。
按流⼊流出的次序，可以分为顺序流⽔线和乱序流⽔线。
流水线
2. 指令取消技术
• 向后转移（如循环）：调整后
LOOP: XXX YYY … COMP R1,R2,LOOP WWW
XXX LOOP: YYY … COMP R1,R2,LOOP XXX WWW
对循环程序而言，仅在循环全部结束的最后一次转移 才不成功。此时才取消指令XXX
2. 指令取消技术
• 向前转移（如分支结构）：
1. 先行控制方式的结构和工作过程 先行控制技术的关键是缓冲技术和预处理 技术 缓冲技术：平滑两个工作速度不固定的 功能部件（一般设4个缓冲栈） 预处理技术：将指令预处理成RR型指令， 与缓冲技术相结合，为进入运算器的指 令准备好全部操作数据
先行控制技术
• • • •
（1）处理机结构 （2）指令执行时序 （3）先行缓冲栈 （4）缓冲深度的设计
5.1 流水线基础
5.1.2 RISC对流水线技术的支持 • RISC具有指令简单、规整，只有存(STORE)、取 (LOAD)指令等少量与存储器打交道，几乎所有指令 都在一个机器周期内完成，并注重编译的优化等特 点，容易做到指令重叠运行时各个功能部件的运行 时间相等，大大减少了重叠中功能部件的相互等待， 为指令流水带来天然的支持。 • 此外，为了更好地发挥其在流水线中的效果，RISC 处理机还采用了延时转移、指令取消、重叠寄存器 窗口、指令流调整、硬件为主固件为辅等多种关键 技术。
5.1 流水线基础 5.1.1 指令的重叠执行
5.1.2 RISC对流水线技术的支持 5.1.3 先行控制技术
5.1.1 指令的重叠执行方式
• 设一条指令的执行过程分为：取指（取指 令）、析指（分析指令）、执指（执行指令） 三个阶段
访存取指令
分析指令，可 能访存取数 执行指令，可 能访存存结果
计算机体系结构——流水线技术（Pipelining）
单功能流水线：流水线只完成一种固定功能 多功能流水线：流水线可以完成多种功能，如 TI公司的ASC机，8段流水线，能够实现：定点加减 法、定点乘法、浮点加法等功能 3.按同一时间内各段之间的连接方式分 静态多功能流水线 ：同一时间内，多功能结构只能按一种功能的连接方式工作。 动态多功能流水线：在同一时间内，可以有多种功能的连接方式同时工作 4.按处理的数据类型 标量流水线 向量流水线 5.按控制方式 同步流水线 异步流水线：当Si功能段要向Si+1段传送数据时，首 先发出就绪信号，Si+1功能段收到信号后，向Si回送 一个回答信号。 6.按任务从输出端的流出顺序 顺序流水方式：指令流出顺序 = 指令流入顺序 乱序流水方式：指令流出顺序 ！= 指令流入顺序 7. 线性流水线——不带反馈回路的流水线
三、流水线的分类（了解）
四、流水线相关及冲突（重点） 1.流水线相关 2.流水线冲突 3.流水线冲突带来问题 4.数据冲突及其解决方案 5.结构冲突及其解决方案 6.控制冲突及其解决方案
五、流水线性能分析(含例题讲解) 1.流水线的基本参数——吞吐率 2.流水线的基本参数——加速比 3.流水线的基本参数——效率 4.结果分析 5.有关流水线性能的若干问题
整体评估、反馈、再改进
3. 指令周期
单周期处理机模型：一个周期完成一个指令（每个周期是等长的），指令长度可能不一样，会造成很大的浪费 多周期处理机模型：将一个指令的完成划分成若干个周期来实现 流水线模型
二、流水线技术 1. 什么是流水线？ 计算机中的流水线是把一个重复的过程分解为若干个子过程，每个子过程与其他子过程并行进行。由于这种工作方式与工厂中的生产 流水线十分相似， 因此称为流水线技术 从本质上讲，流水线技术是一种时间并行技术。
生产运营 生产过程组织的基本形式
第四章生产过程组织的基本形式第一节大量生产过程组织形式一、流水生产( flow production )定义：劳动对象按照规定的工艺规程顺序地通过各个工作地，并按照一定的生产速度（节拍）连续不断地进行加工出产品的一种生产组织形式。
（一）流水线的基本特征1、流水线是按照对象专业化原则而设计的一种生产组织形式。
2、工作地专业化程度很高，每个工作地上完成一道或几道工序，工艺过程是封闭的，设备按工艺过程顺序排列；使用比较多的专用设备或工装。
3、生产节奏性强，按规定的节拍进行加工（这是区分其它形式的主要特点——如生产线）的一种高效率的生产形式，生产过程连续程度高，劳动对象在工序间采用平行或平顺移动方式。
4、各道工序的加工时间相等或成简单的倍数关系。
根据以上，可见组织流水生产可以提高生产过程的连续性、协调性和均衡性，便于采用先进工艺和高效率的技术装备，能提高工人的操作的熟练程度和劳动生产率，缩短生产周期，减少在制品的数量，加速资金周转，降低产品成本等。
（二）流水生产的发展过程流水生产起源于“福特制”，建立传送带式的流水生产线，是福特制的重要内容之一。
它把管理工作从单纯对人的制约（泰罗制的特点），发展到把人和机器联系起来，使工人更加成为机器的附属品。
同时从整体的观点出发协调各项作业、各道工序，大大提高了生产过程的连续性和节奏性，提高了劳动生产率，增加了产量，增加了企业的盈利。
由于流水线生产具有很大的优越性和明显的经济效果，所以在工业中越来越广泛地被采用，并且在内容和形式上不断地创新。
流水线开始出现时，采取单一对象流水线的形式，仅用于零件的机械加工和产品的装配，主要用于大量生产，后来逐步发展成为多对象流水线，扩大应用于成批生产类型的企业，并且在铸造、铸锻、热处理、油漆和包装（啤酒、饮料灌装、食品包装）等方面也得到了广泛应用。
成组技术的发展又为建立成组流水线准备了条件，为多品种小批生产的企业采用流水生产提供了可能性。
流水线技术-标量流水部分(ppt 179页)
访存
写回
s4
s5
22.10.2019
13
流水处理的时空图
22.10.2019
14
流水处理机的基本结构
22.10.2019
15
• 如果每个流水段的延迟时间(通过时间)均为Δts，锁 定时间为Δtl，则每功能段的处理时间Δti为：
• Δti＝ Δts＋Δtl
• 流水处理机的最高工作频率为：
1
ts tl
i2
22.10.2019
7
执行时间不等时的一次重叠工作方式
分析k
执行k 分析k+1
执行k+1 分析k+2 执行k+2
分析k+3
执行k+3
22.10.2019
8
3. 先行控制方式
• 先行控制方式的基本思想: • 通过设置先行读数栈,先行操作栈,后行写数
栈等,使分析部件和执行部件能够分别连续 不断地分析和执行指令。
• 输出端的任务流出与输入端的任务流入顺序不完 全相同。
• 在乱序流动流水线中，当某任务阻塞时，后面的 任务可绕过它继续流动。
22.10.2019
30
6. Pentium的流水技术
• 在Pentium CPU内部有两个ALU，分别对应两条流水线U和V （80486只有一条流水线），U流水线执行整数和浮点数指 令；V流水线执行整数指令，以及交换寄存器的内容。所以， Pentium能在每个时钟周期内执行两条整数运算指令，或在 每个时钟周期内执行一条浮点数运算指令。
• 设各阶段周期均为t0，则执行n条指令共需
• T＝nt0＋2t0＝(n＋2)t0
• 重叠方式缩短了程序的执行时间，提高了功能部件的 利用率，但需增加硬件支持。
计算机系统结构之流水线技术(205页)
入 求阶差
△t
对阶 △t
尾数相加 △t
出 规格化
△t
▲
31/206
1. 时空图 ➢ 时空图从时间和空间两个方面描述了流水线的工作 过程。时空图中，横坐标代表时间，纵坐标代表流 水线的各个段。 ➢ 4段指令流水线的时空图：
空间
存结果
123456
执行 译码
123456
5
123 45 6
取指令 1
2
3
4
k…+…1 k+j
已经由指令分析器预处理完成，存放在先行操作栈中的 RR*型指令，指令所需要的操作数已经读到先行读数栈中
k…+…j+1 k+j+n
已经由指令分析器预处理完成，存放在先行操作栈中，指 令所需要的操作数还没有读到先行读数栈中
k+j+n+1 正在指令分析器中进行分析和预处理的指令
k…+…j+n+2 已经从主存储器中预取到先行指令缓冲栈中的指令 k+j+n+m
1
2
3
…
1
2
3
…n
1
2
3
…
n
2
3
k
ti
i1
…n （n－1）t2
Tk 各段执行时间不相等的流水线及其时空图
n
时间
▲
33/206
2 流水线的基本概念
➢ 流水线每一个功能部件的后面都要有一个缓冲寄 存器（锁存器），称为流水寄存器。
站的某个存储单元（设其地址为j），同时用j替换原来指令
中的目标地址码字段。
✓ 立即数型指令：把指令中的立即数送入读数站（设为第l个 存储单元），同样也用l替换原来指令中的立即数字段。
第4章 标量流水线技术
1.吞吐率Tp
吞吐率是指单位时间内处理机所能处理的任务数或者输出的结果数，可 分为最大吞吐率和实际吞吐率。
（1）最大吞吐率
若以△ti表示通过流水线各功能段所用的时间，那么在流水线稳定后可 获得的最大吞吐率可表示为：
Tpmax=
1 max(△ti) i=1 (4.4)
4.2.2 标量流水线分类
从不同的角度来看，有不同的分类方式，大致有以下几类。 1. 按照处理机分类 按照处理机分类，流水线可以分为操作部件级、指令级和处理机级。 ① 操作部件级流水线是按复杂的算术逻辑运算的过程构成流水线，比如 把浮点加法运算分成求阶差、对阶、尾数相加和结果规格化四个子过程。 ② 指令级流水线是把一条指令的解释执行过程分成若干个子过程，比 如前面所说的取指令、译码、执行、访存和写回五个子过程。 ③ 处理机流水线是一种
n个任务占用时空区面积
E= nm△t = n = m+n-1 = m
Sp
(4.7)
m段流水线总时空区面积
m(m+n-1)△t
图4.9 流水线各段组成与时空图
【例4.1】流水线性能分析。设有A、B两个向量，每个向量有4个元素，要 求在如图4.14所示的静态加、乘双功能流水线上计算 率、加速比和效率。 ，并求吞吐
图4.14 双功能静态流水线
解：在流水线中，由功能段S1、S2、S3、S4、S6构成乘法流水线，S1、 S5、S6构成加法流水线。设经过每一个功能段的时间均为△t，流水线的输 出可直接返回输入端或者暂存到缓冲寄存器中，流水线功能切换时间忽略 不计。为了在最短的时间内完成上述运算，可让流水线先进行两个向量中 4个元素的加法运算，即求(a0+b0)、(a1+b1)、(a2+b2)、(a3+b3)；然后切 换成乘法功能，再按照[(a0+b0)×(a1+b1)]×[(a2+b2)×(a3+b3)]的顺序进 行三次乘法运算。根据分析，可画出流水线的时空图，如图4.15 所示。 从图中可以看出，在17△t时间内输出了7个结果，因此实际吞吐率为： Tp=7/17△t 顺序操作，则需要作4次加法运算和3次乘法运算。一次加法运算需要 3△t，一次乘法运算需要5△t，总共需要To=4×3△t+3×5△t=27△t。 这样加速比为： Sp=To/Tp=27△t/17△t=1.88 流水线的效率可用阴影面积除以全部6个状态段的总时空面积而求得： E=(3×4△t+5×3△t)/(6×17△t)=27/102=26.4%
计算机科学中的流水线技术.
摘要流水线技术是提高系统吞吐率的一项强大的实现技术，并且不需要大量重复设置硬件。
20世界60年代早期的一些高端机器中第一次采用了流水线技术。
第一个采用指令流水线的机器是IBM7030（又称作Stretch计算机）。
后来的CDC 6600同时采用了流水线和多功能部件。
到了20世纪80年代，流水线技术成为RISC处理器设计方法中最基本的技术之一。
RISC设计方法的大部分技术都直接或者间接以提高流水线性能为目标。
从此以后，流水线技术也被有效地应用到CISC处理器的设计中。
Intel i486是IA32体系结构中的第一个流水线实现。
Digital的VAX和Motorola的M68K的流水线版本在商业上也取得了成功。
流水线技术是当前指令集处理器设计中广泛采用的技术。
在这里我们将重点放在（标量）流水线处理器的设计。
流水线处理器设计中的许多方法和技术，例如用于检测和化解相关的流水线互锁机制，都是标量处理器设计的基本方法。
当前的趋势是朝着超深度流水线的方向发展。
流水线的深度已经从不到10发展到超过20.深度流水是获得高速始终频率的必要条件，这是提高处理器性能的一个非常有效的方法。
有迹象表明。
这种趋势还将持续下去。
[关键词] 流水线技术猜测法中断处理吞吐率指令重叠加快短循环程序的处理AbstractPipeline technology is to improve the system throughput of a powerful technology, and does not require repetitive set hardware. The 20 world early 60's some high-end machines used the first pipeline technology. The first use of the instruction pipeline machine is IBM7030(also called Stretch computer ). Later CDC6600at the same time lines and multiple functional components.In the nineteen eighties, pipeline technology to become the RISC processor design method is one of the most basic techniques. The design method of RISC most of the techniques are directly or indirectly to improve performance as the goal line. Since then, assembly line techniques have also been applied effectively to the CISC processor. Intel i486 is IA32 architecture is the first in a pipelined implementation. Digital VAX and Motorola M68K pipelined version also achieved success in business.Pipeline technology is the current instruction set processor is widely used in the design of technology. Here we will focus on the ( scalar ) pipelined processor design. A pipelined processor in the design of many methods and techniques, for example, used to detect and resolve the relevant pipeline interlock mechanism, is a scalar processor design method.The current trend is towards super depth line direction. Pipeline depth has less than10 to the development of more than 20depth of water is always necessary to obtain high speed frequency, which is to improve the performance of a very effective method. There are signs. This trend will continue.Keywords: Pipeline technology forecast method of interrupt processing throughput instruction overlapping accelerate short cycle program processing目录第一章绪论 (5)1.1现代RISC中的流水线技术 (5)1.1.1超流水线技术 (5)1.1.2超标量技术 (4)1.1.3流水技术在Pentium系列微处理器中的实现 (6)第二章流水线基础 (8)2.1流水线概念 (8)2.1.1指令重叠 (9)2.1.2流水线 (10)2.1.3流水线的特点 (10)2.1.4流水线的分类 (11)2.2流水线的主要性能 (12)2.2.1吞吐率 (12)2.2.2加速比和效率 (13)第三章指令流水线设计 (14)3.1流水线理想假设 (14)3.1.1一致的运算分量 (14)3.1.2重复的运算 (15)3.1.3独立的运算 (16)3.2指令流水线 (17)3.2.1指令流水线设计 (17)3.2.2指令集体系结构的影响 (18)3.2.3流水线分级的考虑 (20)3.3流水线处理器设计 (20)3.3.1保持流水段均衡 (20)3.3.2统一指令类型 (21)3.3.3减少流水线停顿 (25)第四章流水线中各种相关及中断处理 (26)4.1流水线中相关 (26)4.2资源相关 (26)4.3数据相关 (27)4.3.1指令相关 (27)4.3.2主存空间操作数相关 (28)4.3.3通用寄存器组相关 (28)4.4控制相关 (31)4.4.1猜测法 (30)4.4.2加快和提前形成条件码 (31)4.4.3采取转移延迟 (31)4.4.4加快短循环程序的处理 (31)第五章中断处理与流水线调度 (32)5.1中断处理 (32)5.2流水线调度 (33)第六章总结与展望 (35)致谢 (41)参考文献 (38)第一章绪论流水线技术是提高系统吞吐率的一项强大的实现技术，并且不需要大量重复设置硬件。
4流水生产线组织课件
r Te T0
NN
• 这里，生产节拍r=450min/360件=1.25min/ 件=75s/件。
例：某轿车厂2008年计划生产轿车40万辆，单班制，每班有效 工作时间7.2小时，一年按250个工作日；求该厂轿车生产的节 拍？
• 确定节拍的依据是计划期的产量和有效工作时 间。
计划期有效工作时间
r = Te / N
计划期的产量
有效工作 计划生产的时间，它可根据制度工作时间和时 时间： 间有效利用系数求得；
计划期制 包括计划产量（包括产品和提供的备件）和预 品产量： 计废品量；
• Te= 计划期有效工作时间； • T0=计划期制度工作时间； • η= 时间利用有效系数；
• 当前道工序的单件作业时间小于或等于后道工序 的单件作业时间时，则前道工序上完工的每一个 零件应立即转移到后道工序去加工，即按平行移 动方式单件运输。
• 当前道工序的单件作业时间大于后道工序的单件 作业时间时，则前道工序上完工的零件，并不立 即转移到后道工序去加工，而是等待到足以保证 后道工序能连续加工的那一刻，才将完工的零件 全部转移到后道工序去，这样可以避免后道工序 出现间断性的设备停歇时间，并把分散的停歇时 间集中起来加以利用。
流水线的组织设计 节拍确定、设备需要量和负荷系数的计算；工人配备；工 序同期化工作；制品传送方式的设计；流水线平面布置； 流水线的工作制度和标准计划图表的制定；“软件”设计；
组织设计是技术设计的根据，技术设计应保证组织设计的 实现；
• 在进行流水线组织设计之前，首先要对产品(部件、 零件)的结构和工艺进行审查，判明是否能够或适 合组织流水线，技术上是否可行，经济上是否合 理。流水线设计得正确与否，对流水线投产后的 正常运行和企业技术经济效果都有很大影响。总 之，流水线的设计，无论是组织设计，还是技术 设计，都应当符合技术上先进，经济上合理的基 本原则要求。
第4章流水生产线的设计
（二） 单一品种流水线设计
1.确定流水线的节拍 节拍指流水线上连续出产两个相同制 品之间的时间间隔。 R=T效/Q
式中: R—节拍 (分/件)
T效—计划期有效工作时间 (分) Q —计划期制品产量(件)
例题
某制品流水线计划年销售量为20000件，另需生产备件 1000件，废品率2%，两班制工作，每班8小时，时间有 效利用系数95%，求流水线的节拍。 [解] T效 = 254× 2 × 8 ×60×95% = 231648 分钟 Q = (20000+1000) / (1－2%) = 21429 件 R = T效 / Q = 231648 / 21429 = 11(分/件）
第4章 流水生产线的设计
一、流水生产线定义
流水生产线简称流水线， 是一种先进的生产组织形 式，指劳动对象按照一定 的工艺路线,顺序的通过各 个工作地，并按照统一的 生产速度（节拍）完成工 艺作业的连续的重复的生 产过程。
二、流水线的形式
分类标志 对象移动方式 对象数目
固定流水线
单一品种流水 线 不变流水线
流水线
移动流水线 多品种流水线
可变流水线
成组流水线
混合流水线
对象变换方式
连续程度 节奏性 机械化程度
连续流水线 间断流水线
强制节拍流水线
自由节拍流水线 机械化流水线
粗略节拍流水线
手工流水线
自动线
1 .按加工对象移动方式
1 2 3
固定流水线
移动流水线
固定流水线：加工对象固定,生产工人携带工具移动. 移动流水线：加工对象移动,工人和设备固定。
找出各产品产量的最大公约数，用最大公 约数去除各产品产量即为各产品生产比,各产品 生产比之和即为生产比产量。
第四章 流水线技术
流水时钟数
1
2
3
4
5
6
7
8
9
指令i
IF
ID
EX
MEM
WB
指令i+1
IF
ID
EX
MEM
WB
指令i+2
IF
ID
EX
MEM
WB
指令i+3
IF
ID
EX
MEM
WB
指令i+4
IF
ID
EX
MEM
WB
图4-7 MIPS R2000的整数流水线
其中：IF──取指ID──译码和取寄存器操作数
EX──执行或有效地址计算MEM──存储器访问
流水线只能减少每条指令的平均执行时间，一条指令的实际执行时间要经过所有流水级，其实际执行时间有可能比未流水时还要长。今后如无特殊说明，在流水线机器上说指令的执行时间，都是指指令的平均执行时间。流水线减少指令平均执行时间可以看作是减少了每条指令的时钟数（CPI），也可以看作是减少了时钟周期时间，这主要取决于我们的着眼点：如果某机器每条指令化费的是一个长时钟的周期，那么流水线减少了时钟的周期时间。
IF
ID
EX
MEM
WB
指令i+2
IF
ID
EX
MEM
WB
指令i+3
IF
ID
EX
MEM
WB
指令i+4
IF
ID
EX
MEM
WB
图4-3流水状态图
这里我们假定处理器分5个流水功能部件。如果用流水状态图表描述流水线指令执行过程引起误解或不能说明问题时，我们采用流水功能部件和流水寄存器来代替指令流水状态图表中的执行状态，如图4-10。
3.3 流水线技术
i4或NOP i5或NOP
R i4的条件执行
D A
A
X
PAB=a5 PB=i5
R i5的条件执行
X
T6：XC指令寻址级，求解XC指令的条件。 T4：对XC指令进行取值； T3：XC指令地址a3加载PAB； 注意：① 决定XC指令判断条件的指令应放在i1指令之前； 如果XC指令的判断条件由指令i1和i2的结果给出，则 在T6周期，i1和i2指令还没执行完毕，执行结果不会 若条件满足，则i4和i5指令进入译码级并执行； 会得出错误的判断。 对XC指令的条件判断产生影响。 ② 在条件执行指令前屏蔽所有可能产生的中断或 若不满足，则不对i4和i5指令译码，执行NOP。 其他改变指令规定条件的运算。
通过PB 通过IR 读取指令 指令译码 预取指P 取指F 译码D
寻址A
读数R 执行/写数 写地址2 数据2 加载EAB 写至EB
8
’C54x存储器操作的各种情况：
⑤ 执行读单操作数和写单操作数指令 例如： ST A，*AR2 ||LD *AR3，B
取指F 译码D ；单周期并行加载存储指令， 读单操作数和写单操作数
利用BD指令编程 LD ;单字单周期 @x,A ;单字单周期 ADD @y,A ;单字单周期 STL A,@s 6周期 LD @s,T ;单字单周期 BD next ;单字单周期 MPY @z,A ;单字单周期 STL 4周期 ;双字四周期 —— A,@r 8字8周期
;单字单周期 ;单字单周期 ;单字单周期 ;单字单周期 ;单字单周期 ;单字单周期
4
’C54x存储器操作的各种情况：
① 执行读单操作数指令
例如：LD
预取指P 加载 PAB
*AR1，A
译码D
计算机组成原理课件 6.6 流水线技术
静态流水线在同一时间内各段只能以一 种功能连接流水。
动态流水线则允许在同一时间内将不同 的功能段连接成不同的功能子集，以完成不 同的功能。
北京理工大学计算机学院
6.6 流水线技术
计算机组成原理
(4)按流水线结构分类
流水线按结构分为线性流水线和非线性 流水线两种。在线性流水线中，从输入到输 出，每个功能段只允许经过一次，不存在反 馈回路。一般的流水线均属这一类。非线性 流水线除有串行连接通路外，还有反馈回路 ，在流水过程中，某些功能段要反复多次使 用。
例如，将一条指令的执行过程分成取指令 、指令译码、取操作数和执行4个子过程，分别 由4个功能部件来完成，每个子过程所需时间为 Δt。
北京理工大学计算机学院
6.6 流水线技术
计算机组成原理
北京理工大学计算机学院
6.6 流水线技术
计算机组成ቤተ መጻሕፍቲ ባይዱ理
2. 流水线分类
(1)按处理级别分类
流水线按处理级别可分为操作部件级、指 令级和处理机级3种。操作部件级流水线是将复 杂的算逻运算组成流水线工作方式。指令级流 水线则是将指令的整个执行过程分成多个子过 程。处理机级流水线又称为宏流水线，这种流 水线由两个或两个以上处理机通过存储器串行 连接起来，每个处理机对同一数据流的不同部 分分别进行处理。
最早出现的重叠是“取指K+1”和“执行 K”在时间上的重叠，称为一次重叠。
如果进一步增加重叠，使“取指K+2”、 “分析K+1”和“执行K”重叠起来，称为二 次重叠。
北京理工大学计算机学院
6.6 流水线技术
计算机组成原理
6.6.2 流水工作原理
流水线是将一个较复杂的处理过程分成m 个复杂程度相当、处理时间大致相等的子过程 ，每个子过程由一个独立的功能部件来完成， 处理对象在各子过程连成的线路上连续流动。 在同一时间，m个部件同时进行不同的操作， 完成对不同对象的处理。
高性能计算中的流水线技术分析(一)
高性能计算中的流水线技术分析随着科技的发展和数据量的不断增长，高性能计算成为当代信息技术领域的重要组成部分。
在高性能计算中，流水线技术起到了至关重要的作用。
本文将从流水线的定义、原理、优势和应用等方面进行深入分析。
一、流水线的定义和原理流水线技术是一种将一个复杂的任务分为多个子任务，通过多个阶段分别处理的技术。
它的运行原理是将输入的任务划分成若干个阶段，每个阶段处理一个任务，并通过将每个任务传递给下一个阶段，实现任务的并行处理。
流水线技术可以提高系统的整体性能和处理效率。
二、流水线技术的优势1. 提高处理效率：流水线技术能够将复杂任务分解成多个简单任务，在每个阶段都能并行处理多个任务，从而提高整体的处理效率。
2. 实现指令重叠：在流水线中，每个阶段都可以同时处理不同的任务，从而实现指令的重叠执行，提高了系统的吞吐量。
3. 减少资源闲置：由于流水线技术可以同时处理多个任务，并且每个阶段都可以开始下一个任务，所以能够减少资源的闲置时间，提高系统的利用率。
三、流水线技术的应用1. CPU设计中的流水线技术：在计算机的CPU设计中，流水线技术广泛应用。
将计算机指令划分为取指令、译码、执行、写回等阶段，并在每个阶段同时处理指令，提高了CPU的计算性能。
2. 图像处理中的流水线技术：在图像处理领域，流水线技术可以将图像处理任务划分为多个阶段，如图像读取、图像滤波、图像增强等，并通过并行处理，快速完成大规模的图像处理任务。
3. 云计算系统中的流水线技术：在云计算系统中，流水线技术可以将用户请求的处理过程划分为多个阶段，如请求接收、请求解析、资源分配等，并将每个阶段分别处理，提高了系统的响应速度和处理能力。
四、流水线技术的挑战和解决方案1. 数据依赖：在流水线中，不同任务之间可能存在依赖关系，导致任务的执行顺序发生变化，从而影响并行处理效果。
解决方案是通过增加冲突检测和处理的机制，在保证数据一致性的前提下实现最大程度的并行处理。
流水线技术
指令调度；
(3) 举例： 例3.6 请为下列表达式生成没有暂停的DLX
指令序列： a＝b＋c ； d＝e－f ；
假设载入延迟为1个时钟周期。
3.3.1 控制相关
（一）分支引起的暂停及减少分支开销的方法
▲ 时空图
▲ 完成 n 个任务所需的时间 T流水＝m△t0＋(n－1)△t0 (说明)
▲ 实际吞吐率
TP ＝ ─T─流n─水＝ ───m─△─t─0＋──(n─n－─１)△t0
＝
─(─1─＋──m1n─－1)─△─t0＝
───── 1 ＋
TPma x m1n－
TP ＜ TPmax
当n >> m 时，TP ≈TPmax
若流水线为 m 段，且各段时间相等，均为
△t0 ，则： T非流水＝n m△t0
T流水＝m△t0＋(n－1)△t0
(解释)
S＝ ─TT─非流─流水水＝ ───m─△─t─0＋─n─(mn─△－t10 )△t0
＝ ─m─＋m──nn－＝ 可以看1出：当n
────1＋mmn－1 >> m 时，S ≈
m
若流水线各段的时间不等，则：
当定向硬件检测到前面某条指令的结果寄存器 就是当前指令的源寄存器时，控制逻辑会开通前 面那条指令的结果目前所在的位置（某个流水寄 存器）到当前指令所需的位置（某个功能单元的 输入端）的通路。
不一定是同一个功能单元，例如： Load指令 ALU指令
3. 数据相关的分类
按照指令对寄存器的读写顺序，可以将数据 相关分为以下三种类型：
(1)流水过程由多个相联系的子过程组成，每个子过程 称为流水线的“级”或“段”。“段”的数目称为流 水线的“深度”。
第4章 流水线计算机设计技术2
4.3.1 吞吐率和加速比 2. 实际吞吐率和加速比 (2)设指令流水线由m段组成，但各段经过的时间Δti不相等，其中
“瓶颈”段时间为Δtj，在不发生任何相关的前提下完成n条指 令的解释。 流水线实际吞吐率：
流水线加速比：
第4章 流水线计算机设计技术
4.3 线性流水线性能分析
该是多少？
i 1
顺序完成7个任务的时间仍为： 4×3Δt+3×4Δt=24Δt
ቤተ መጻሕፍቲ ባይዱ
流水线的实际吞吐率为：TP=7/(14Δt)=1/(2Δt)
效率为：η=24Δt/(5×14Δt)≈34.3%
第4章 流水线计算机设计技术
4.4 线性流水线性能分析举例
若将例4.3中的
A
•
B
4
ai
bi
改为
A
•
B
16
ai
bi
4×3Δt+3×4Δt=24Δt
流水线的实际吞吐率为：
TP=7/(15Δt)
效率为：
η=24Δt/(5×15Δt)=32%
第4章 流水线计算机设计技术
4.4 线性流水线性能分析举例
若上例中静态双功能流水线改为动态双功能流水线，其它条件不变，那么，在
4
计算向量点积 A • B ai bi 时，流水线在此期间的实际吞吐率TP和效率η又
第4章 流水线计算机设计技术
4.3 线性流水线性能分析
4.3.1 吞吐率和加速比
最大吞吐率是指在流水线正常满负荷工作时，单位时间内机器所能处理的最 多指令条数或机器能输出的最多结果数。
由于指令的取指和执行过程中的各个子过程所需的时间不同，为了避免各段 之间经过时间不匹配，也为了保证各段之间数据通路宽度上能匹配，通常 都要在各子过程之间插入一个锁存器，这些锁存器都受同一个时钟脉冲的 控制，从而达到同步。如果指令的解释细分为n个子过程，且各个子过程 所需的时间分别为Δt1、Δt2、Δt3、…、Δtn ，时钟周期应当为max{Δt1、Δt2、 Δt3、…、Δtn}，对应于流水线的最大吞吐率为：
流水线技术 [流水线技术论文]
![流水线技术 [流水线技术论文]](https://img.taocdn.com/s3/m/86ee504a650e52ea54189806.png)
流水线技术[流水线技术论文]各位读友大家好，此文档由网络收集而来，欢迎您下载，谢谢流水线指每一个生产单位只专注处理某一个片段的工作，以提高工作效率及产量;下面是小编精心推荐的一些流水线技术论文，希望你能有所感触!流水线技术论文篇一基于数控流水线技术的开放式数控系统【摘要】传统的开放式数控系统需要依赖特定的软硬件平台，使开放式数控系统的推广应用存在较大的局限性。
为了便于开放式数控系统得到普及应用，基于数控流水线技术应运而生。
数控流水线技术包括了数据主控流水线线程、数控微代码实时执行单元以及驱动程序，数控流水线技术实现了开放的微代码借口与数控指令的规范化，使数控模块能够相互的替换，也能够针对不同的需求重新构建数控流水线。
【关键词】数控流水线技术;开放式;数控系统;数控微代码0.前言开放式数控系统一般是基于计算机操作系统相关软硬件平台，利用自动化技术实现。
目前，依靠完善的计算机操作系统及其相关软硬件平台，使人机交互、网络通信、存储管理等一系列功能得到了很好的应用，但却无法实现开放式数控系统较强的实时功能目标，主要由于计算机操作系统的整体运算性能无法达到该标准，使开放式数控系统的应用存在一定的问题。
虽然利用高性能的CPU处理芯片可以满足数控系统较强的实时功能目标，但是成本的投入与产出效益比值明显不合理，推广应用的可行性不高。
因此，利用数控流水线技术，以较小的成本投入获得开放式数控系统较大的产出，对开放式数控系统的发展有着重要意义。
1.数控流水线技术数控系统的功能数控系统根据功能的强弱，可以分为强实时类功能，包含了5个模块，将其由高到低排列为指令译码、速度规划、插补、专用I/O控制、电机控制;弱实时类功能包括了6个模块，即通用I/O模块、状态显示、轨迹仿真、程序编辑、参数管理、键盘输入。
强实时类功能属于数控系统的核心部分，直接关系到数控机床的加工过程，需要较强的实时性，如果出现了任何的延迟就会导致加工出错，影响产品的质量。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
➢流水线中每个功能段（站）都是由一些执行算术和逻辑功能 的组合逻辑线路组成的，它们可以互相独立地对流过的信息 进行某种操作，相邻两个功能段（站）由高速锁存器（latch） 隔开，信息在各站间的流动靠同时送到各站的时钟信号来控 制。
计算机系统结构
计算机系统结构
Computer Architecture
第四章 流水线技术
加快指令执行过程的两种方法：
➢在设计中，选用高速的器件、更好的算法及提高指令内部的并行程度 等措施，可以加快每条指令的解释过程； ➢可以通过提高指令间的并行性，使控制结构能并发地解释两条、多条 甚至整段程序来加快整个机器语言程序的解释过程。
取指k 分析k 执行k 取指k+1 分析k+1 执行k+1 …
取指令：按指令计数器的内容访主存，取出该指令送到指令寄存器； 分析：对指令的操作码进行译码，按寻址方式和地址字段形成操作数地址， 并用此地址取操作数，还要为取下条指令提前形成其地址；
执行：对操作数进行运算、处理或存储运算结果。
计算机系统结构
Computer Architecture
第四章 流水线技术
取指令
分析
执行
每阶段时间为△t，共n条指令
……
若取指令、分析和执行指令周期都相等，设为△t，则顺序解释n条指令， 需时间T=3×n×△t。
如果每个阶段所需时间不等，各为t取、t分和t执，则顺序执行n条指令所需时 间：
n
T =
(t取 i + t分 i + t执 i)
计算机系统结构
Computer Architecture
第四章 流水线技术
（2） 流水线的分级、分类
1、流水线的分级：（按处理的级别分级）
❖ 操作部件级(arithmetic pipelining)：将复杂的算逻运算 组成流水工作方式；
❖ 指令级(instruction pipelining) ：把一条指令解释过程分 成多个子过程 ；
特点：静态流水线仅当指令都是同一类型时才能连续不断地执 行。当从一种功能方式变为另一种功能方式时，必须先排空流 水线，然后再切换成另一种功能进行流水处理。 静态流水线的功能不能频繁地变换，否则它的效率将很低。
动态流水线可以提高流水线的吞吐率和设备的利用率。
提高处理速度和系统使用效率的三条途径：
➢时间重叠 ➢资源重复 ➢资源共享
计算机系统结构
Computer Architecture
第四章 流水线技术
一、 流水线处理概述
CPU工作方式: ➢ 顺序 ➢ 重叠 ➢ 流水 1.顺序解释方式(Sequence)：各条机器指令之间顺序串行地执行，执行完一 条指令后才取出下条指令来执行，而且每条机器指令内部的各个微操作也是 顺序串行地执行。
计算机系统结构
Computer Architecture
第四章 流水线技术
➢ 按工作方式分类：静态流水线、动态流水线
❖静态流水线(static pipelining)：在同一时间内各功能段只能 按一种运算（功能）的连接方式工作。
❖动态流水线(dynamic pipelining) ：在同一时间内各功能段 允许按多种不同运算（功能）的连接方式工作。
Computer Architecture
第四章 流水线技术
输入 S1
输出
S2
。。。
Sk
L
输入
பைடு நூலகம்
L
L
流水线的基本结构
IF
ID
EX
取指
译码
执行
S1
S2
S3
指令的流水处理
L
MEM 访存
S4
L
WB 写回 S5
输出
计算机系统结构
Computer Architecture
第四章 流水线技术
如果每个子过程经过的时间都是t，则指令的流水线处理过程可用时空图来描 述。
❖ 流水线的时空图是描述流水线工作、分析评价流水线效能的重要工具。
2、流水线特点： 1）流水一定重叠，比重叠更苛刻。 2）一条流水线通常由多个流水段组成。 3）每段有专用功能部件，各部件顺序连接，不断流。 4）流水线有建立时间、满载时间、排空时间， 5）各段时间尽量短、一致，不一致时最慢子过程为瓶颈。 6）给出的最大吞吐率等指标，为满负载最佳指标。
❖ 处理机级或宏流水线级(macro pipelining) ：由两个以上 处理机串行地对同一数据流进行处理，每个处理机完成某一专 门任务，各个处理机所得到的结果需存放在与下一个处理机所 共享的存储器中。
计算机系统结构
Computer Architecture
第四章 流水线技术
2、流水线的分类：
➢ 按功能分类：单功能流水线、多功能流水线
❖ 单功能流水线(unifunction pipelining)：只能实现一种固 定的专门功能的流水线（如CRAY-1）。
❖ 多功能流水线(multifunction pipelining) ：通过各站间的 不同连接方式可以同时或不同时地实现多种功能的流水线（如 TI-ASC）。
多功能流水线从一种功能变为另一种功能时需要重新连接， 虽然它对资源的利用率可以较高，应用时也较灵活，但它的控 制比单功能流水线复杂得多。因此大多数流水计算机主要采用 单功能流水线。
S空间 （段号）
填入
正常
排空
4
1 2 3 4 5 ... ... ... n-1 n
3
1 2 3 4 5 ... ... ... n-1 n
2
1 2 3 4 5 ... ... ... n-1 n
1 1 2 3 4 5 ... ... ... n-1 n △t △t △t △t △t
m △t
(n-1) △t
T时间
流水时空图
计算机系统结构
Computer Architecture
第四章 流水线技术
建立时间：在流水线开始时有一段流水线填入时间，使得流水线填 满。即第1条指令从流入到流出所需的时间。
正常流动时间：流水线正常工作，各功能段源源不断满载工作。
排空时间（释放时间）：流水线最后一条指令流入后到流出的时间。
i=1
优点：控制简单；
缺点：速度慢，机器各部件的利用率很低。
计算机系统结构
Computer Architecture
第四章 流水线技术
二、流水工作方式
（1） 流水线处理概念和特点 1、流水线的基本概念
流水线技术：将一个重复的时序过程分成若干个子过程，每个 子过程都可有效的在其专用功能段上和其它子过程同时执行的 一种技术。