多处理机
计算机体系结构-第7章 多处理机
第7章 多处理机
主 CPU
主存
CIOP
高速系统总线 BIOP NIOP GIOP
ACOP
CIOP----字符处理机 BIOP----数组处理机 NIOP----网络处理机 GIOP----图形处理机 ACOP----向量加速处理机
图7.5 异构非对称式多处理机的一般结构
第7章 多处理机
2. 松耦合(loosely coupled)多处理机 松耦合多处理机是通过消息传递方式来实现处理机间的相互通 信的。 而每台处理机是由一个独立性较强的计算机模块组成，该模 块由处理器、较大容量的本地存储器(在运算时所需的绝大部分的 指 令 和 数 据 均 取 自 本 地 存 储 器 ) 、 I/O 设 备 以 及 与 消 息 传 递 系 统 (Message Transfer System，MTS)相连的接口组成。当不同模块上 运行的进程间需要通信时，可通过网络接口电路及消息传递系统 进行信息交换。由于这种相互间的耦合程度是很松散的，因此称 之为松耦合多处理机。 松耦合多处理机可分为非层次式和层次式两种结构。
第7章 多处理机
(5)合理地进行资源分配和任务调度。 在MIMD多处理机中，由于任务的大小不相同， 各处理机的速度也可能不相同(如异构型多处理机系统)， 互连网络的拓扑结构和通信延迟在不同的多处理机中 也有很大的差别，在执行并发任务时，并不是使用的 处理机个数越多，系统获得的性能就越高。因此需要 采用软件手段，合理地进行资源分配和任务调度，否 则系统性能将受较大影响。而在SIMD并行处理机中， 程序员只需用屏蔽的手段来设置部分处理单元为不活 跃状态，来控制实际参加并行操作的处理单元数目。
因此，Cm*是一个三层总线多处理机，三级的访 存时间分别为：计算机模块内3.5μs，计算机模块群内 9.3μs，而群间则为26μs。
多处理机系统中的调度教案
多处理器调度算法(14)
4）动态调度算法(1)
• 基本思想：由操作系统和应用进程共 同完成调度。
• 操作系统负责在应用进程之间划分处 理器。
• 应用进程在分配给它的处理器上执行 可运行线程的子集，哪一些线程应该 执行，哪一些线程应该挂起完全是应 用进程自己的事。
多处理器调度算法(6)
自调度算法不足
• 就绪线程队列将成为性能的瓶颈。
• 被抢占的线程很难在同一个处理 器上恢复运行，会带来性能下降。
• 线程都被放在公共线程池中，所 有线程获得处理器的机会相同。 如果一个程序的线程希望获得较 高优先级，进程切换将导致性能 的折衷。
多处理器调度算法(7)
2）群组调度算法
多处理器调度算法(4)
自调度算法优点
• 把负载均分到所有可用处理器上，保
证了处理器效率的提高。
• 不需要集中的调度程序，一旦一个处
理器空闲，调度程序就可以运行在该 处理器上以选择下一个运行的线程。
• 运行线程的选择可以采用各种可行的
策略。
多处理器调度算法(5)
自调度算法
(1)先来先服务。 (2)最少线程数优先。 (3)有剥夺的最少线程数优先。
个有4个线程，另一个有1个线程。 若使用统一的时间分配，每个应 用程序可获得50%的CPU时间， 由于后一个线程运行时，有三个 处理器是空闲的，于是浪费的 CPU资源为37.5%。
多处理器调度算法(11)
• 可选择的另种统一时间分配称线 程数加权调度法，具体来说，给 第一个应用程序分4/5CPU时间， 给第二个应用程序分1/5的时间， 则处理器时间浪费可降到15%。
单处理器系统和多处理器系统介绍
单处理器系统和多处理器系统介绍如果一个计算机系统只包括一个运算处理器，则称之为单机系统;如果有多个运算处理器，则称之为多机系统。
早期的计算机系统是基于单个处理器的顺序处理机器。
程序员编写串行执行的代码，让其在CPU上串行执行，甚至每一条指令的执行也是串行的(取指令、取操作数、执行操作、存储结果)。
为提高计算机处理的速度，首先发展起来的是联想存储器系统和流水线系统，ghost win7前者提出了数据驱动的思想，后者解决了指令串行执行的问题，这两者都是最初计算机并行化发展的例子。
随着硬件技术的进步，并行处理技术得到了迅猛的发展，计算机系统不再局限于单处理器和单数据流，各种各样的并行结构得到了应用。
目前计算机系统可以分为以下4类。
(1)单指令流单数据流(SISD)。
一个处理器在一个存储器中的数据上执行单条指令流。
(2)单指令流多数据流(SIMD)。
单条指令流控制多个处理单元同时执行，每个处理单元包括处理器和相关的数据存储，一条指令事实上控制了不同的处理器对不同的数据进行操作。
向量机和阵列机是这类计算机系统的代表。
(3)多指令流肀数据流(MISD)。
一个数据流被传送给一组处理器,通过这一组处理器卜.的不同指令操作最终得到处理结果。
该类计算机系统的研究尚在实验室阶段。
(4)多指令流多数据流(MIMD)。
多个处理器对各自不同的数据集同时执行不同的指令流。
可以把MIMD系统划分为共享内存的紧密耦合MIMD系统和内存分布的松散耦合MIMD系统两大类。
根据处理器分配策略，紧密耦合M1MD系统可以分为主从式系统(Main/Slave Multiprocessor)和对称式系统(Symmetric Multiprocessor,SMP)两类。
主从式系统的基本思想是:在一个特別的处理器上运行操作系统内核，其他处理器上则运行用户程序和操作系统例行程序，内核负责分配和调度各个处理器，并向其他程序提供各种服务(如输人输出)。
多核CPU与多处理机分解
分的受保护的内存空间。
13121507张文杰
流水线
译码级有一些略微的修改。 不同于以往处理器仅仅译码指令指针指向的指令， 现今的处理器（2008-2013 年）每个时钟周期最多 可以译码 4 条指令。 寄存器重命名(register aliasing) 在处理器内部，这些原始的寄存器（如 AX,BX,CX,DX 等）被翻译（或者重命名）成为内部 的寄存器，而这些寄存器对程序员是不可见的。寄存 器和内存地址需要被映射到一个临时的地方用于指令 执行。当前每个始终周期可以翻译 4 条微指令。 重排序缓存(Reorder Buffer, ROB) ROB 可以存储最多 128 条微指令。在支持超线程 的处理器上，ROB 同样可以重排来自两个虚拟处理器 的指令。两个虚拟处理器在 ROB 中将微指令汇集到 一个共享的乱序执行部件中。
13122711胡红青
两者的比较
这就像为什么我们要去公司上班而不是在家里上 班一样。去公司上班（多核CPU）的话，资源共 享（共享缓存），沟通方便（CPU内数据传输速 度远大于总线速度）。 但是如果信息技术（类比总线）上有突破性进展， 否则我们还是每天要挤公车去公司上班。
13122711胡红青
形象的任务目标：你需要搬很多砖，你现在有一百支手。 实际的任务目标： 你有一个很大的计算任务，你有很多cpu。
13121507张文杰
02 简谈进程、线程、多机、内核、流水线
16组
13121507张文杰
专业定义
操作系统中的进程是指特定的代码序列在指 定的数据集合上的一次执行活动，是指并行 程序的一次执行过程，在Windows系统中就 是一个EXE文件。 计算机上运行的可执行文件对特定的输入数 据的一个实例。 进程=PCB（进程控制块）+程序段+数据
计算机体系结构 第八章 多处理机
计算机体系结构第八章多处理机朋友们！今天咱们要来聊聊计算机体系结构里超级有趣的一个部分——多处理机。
想象一下，计算机就像是一个超级工厂，而处理机呢，就是这个工厂里的勤劳小工人。
以前啊，可能就只有一个小工人在那吭哧吭哧地干活，啥活儿都得他一个人包圆儿，效率有时候就不咋高。
但是呢，有了多处理机，那就好比一下子招了好多小工人，大家分工合作，这效率可不就蹭蹭往上涨嘛！多处理机到底是个啥玩意儿呢？简单来说，就是在一台计算机里装了好几个处理机。
这些处理机可不是在那闲着没事儿干，它们都有各自的任务。
有的负责处理复杂的数学计算，就像是工厂里专门负责精密零件加工的工人；有的负责管理数据的存储和读取，这就好比是仓库管理员，得把东西摆放得整整齐齐，需要的时候能迅速找出来。
那它们是怎么协作的呢？这就好比是一个团队合作的游戏。
它们之间得有一套沟通的方法，不然各干各的，那不就乱套了嘛！它们通过一些特殊的线路或者通信协议来交流信息。
比如说，一个处理机发现了一个重要的数据，它就会通过“消息小纸条”把这个消息告诉其他处理机，大家就知道该怎么配合着继续干活儿啦。
多处理机有很多种类型哦。
有一种叫对称多处理机，这种就像是一群实力相当的小工人，大家的能力都差不多，谁都可以干同样的活儿。
比如说，有一个任务来了，哪个小工人这会儿闲着，那他就可以去接这个任务，干完了再接着等下一个。
还有一种是非对称多处理机，这就有点像一个团队里有领导有员工啦。
有的处理机负责管理和协调，就像领导一样，给其他处理机分配任务，而其他处理机就乖乖听话，按照安排去干活儿。
多处理机带来的好处那可真是太多啦！首先就是速度快。
就好比是一群人一起干活，总比一个人干得快吧。
对于那些需要处理大量数据、进行复杂计算的任务，多处理机可以同时从多个角度去处理，大大缩短了处理时间。
比如说天气预报，要分析海量的数据来预测天气变化，有了多处理机，就能更快更准确地给出预报结果啦。
再就是可靠性高。
多处理机系统第二版
P2
P1
P2
P1
P2
x
x
x
x’
x’
x
x
迁移前
x’
写通过
x
写回
产生cache不一致的原因
• 右图为：包含共享变量x的进程原来在P1上运行 ，并对x进行了修改（但采取写回策略，所以暂时 没有修改Memory），由于某种原因迁移到P2， 修改过的x’仍在P1的Cache中，P2运行时从 Memory中得到x，这个x其实是“过时”的，所以 造成了不一致。 • 中间图为：P2中运行的进程对x进行了修改，采 取写通过策略，所以把Memory中的x也修改为x’ ，由于某种原因该进程迁移到P1，但P1的Cache 中仍为x，所以造成不一致。
SIMD和MIMD
SIMD
并行任务派生
MIMD
专用指令表示及控制，显 式并行、效率高 多个CU控制，需采取特殊 措施同步（等待、信号灯 等）。 软件手段（排队器、触发 等）分配及调度 高
向量指令表示及控制 ，隐式并行、效率低
单一CU控制，自然同步
进程同步 资源分配和任务 屏蔽手段，无需调度 调度 效率
Cache一致性问题
5.1 多处理机cache的一致性 5.2 产生cache不一致的原因
5.3 实现一致性的基本方案
一个问题
• 两个人要从北京到昆明，订到了同一个座位的票。
多份相同的数据同时存在于不同的Cache中，如果允许CPU随意更新自己的那 份数据，就产生了不一致的数据
Memory
Cache …… P P P
4.3 多处理机系统调度算法
群组调度算法 • 基本思想：把一组进程在同一时间一次性调度到一组处理 器上运行。 • 优点： 当紧密相关的进程同时执行时，同步造成的等待将减 少，进程切换也相应减少，系统性能得到提高。由于一次 性同时调度一组处理器，调度的代价也将减少 • 方法一：面向应用进程平均分配 • 方法二：面向所有进程平均分配 • 方法三：统一时间匹配线程数加权调度算法 （例子：两个应用程序，一个有4个线程，另一个有1个线程 ，则第一个应用程序分4/5的CPU时间，第二个程序分1/5 的CPU时间）
第七章 多处理机
7.2.2 机间互连形式
多处理机机间互连的形式是决定多处理机性能的一个重要 因素。在满足高通讯速率、低成本的条件下，互连还应灵活多 样，以实现各种复杂的乃至不规则的互连而不发生冲突 1.总线形式 多个处理机、存储器模块和外围设备通过接口和公用总线 相连，采用分时或多路转接技术传送。 为解决多处理机同时访问公用总线冲突，有静态优先级、 固定时间片、动态优先级、先来先服务等多种总线仲裁算法 总线形式适于机数少的多处理机。它结构简单、造价低、 可扩充性好；但总线性能和可靠性受物理因素的影响 2.环形互连形式 构造了一种逻辑总线，让各处理机之间点点相连成环状， 称为环形互连，如图7.6P187所示。在这种多处理机上，信息的 传递过程由发送进程将信息送到环上，经环形网络不断向下一 台处理机传递，直到信息又回到发送者为止
2.松耦合多处理机 松耦合多处理机中，每台处理机都有一个容量较大 的局部存储器，用于存储经常用的指令和数据，以减少 紧耦合系统中存在的访主存冲突。不同处理机间或者通 过通道互连实现通讯，以共享某些外部设备；或者通过 消息传送系统MTS来交换信息，这时各台处理机都带有 自己的外部设备。 一般，松耦合多处理机较适合做粗粒度的并行计算。 处理的作业分割成若干相对独立的任务，在各个处理机 上并行，而任务间的信息流量较小。如果各处理机任务 交互作用较少时。这种耦合度很松的系统是很有效的， 可看作一个分布系统。 图7.4P186给出了典型的经消息传送系统互连的松耦 合非层次型多处理机。
7.4.2 性能模型与分析
假定一个应用程序含T个任务，在N台处理机上运行，每个 任务的执行时间为E，不同处理机间一次通讯开销时间为C。 1.N=2且计算与通讯不能重叠 如果将I个任务分配给一台处理机，余下的T-I给另一台处理 机，则R=Emax{T-I,I}+C(T-I)I 据此，可得到如图7.19P198。由图可见，E/C的大小不影响 总执行时间，只影响总通讯时间。当E/C<=T/2时，所有任务分 配给一台处理机，可使总运行时间R最少；而E/C>T/2时，将任 务分配给两台处理机，可使总运行时间R最少。 2.N>2且计算与通讯不能重叠 若将IK个任务分配给第K台处理机，则 R=Emax{IK}+C/2∑IK (T-IK) 由于∑IK =T，故R=Emax{IK}+C/2(T2-∑IK2)
多处理机new
1. 二维数组的无冲突访问存储器 • 要求：一个n×n的二维数组，按行、列、对 角线和反对角线访问，并且在不同的变址位 移量情况下，都能实现无冲突访问。 • 顺序存储：按行、对角线访问没有冲突，但 按列访问每次冲突
0 号体 体内地址 0 1 2 3
2012年8月15日星期三
1 号体
2 号体
3 号体
16
3. 二维数组的无冲突访问存储方案(之二) • 规则：对于任意一个n×n的数组，如果能够 找到满足n＝22P关系的任意自然数p，则这个 二维数组就能够使用n个并行存储体实现按行、 列、对角线和反对角线的无冲突访问。 • 4×4数组用4个存储体的无访问冲突存储方案
0 号体 体内地址 0 1 2 3
或(SSM,Scalable Shared-Memory)
物理上分离的多个存储器可作为一个逻辑上共享的 存储空间进行编址.
• 通信机制:可利用Load和Store指令中的地址隐 含地进行数据通信. 2.多计算机(multicomputers)
整个地址空间由多个独立的地址空间构成,它们在逻 辑上是独立的,远程的处理器不能对其直接寻址.
2012年8月15日星期三 计算机系统结构 第九章 多处理机 18
7.2.1.2 多处理机的Cache一致性
1. Cache不一致性原因
• 在并行处理机和多处理机系统中，采用局部 Cache会引起Cache与共享存储器之间的一致 性问题。 • 出现不一致性问题的原因有三个： 共享可写的数据、进程迁移、I/O传输
第七章 多处理机
• 多处理机定义： 两个或两个以上处理机(包括PU和CU)，通 过高速互连网络连接起来，在统一的操作 系统管理下，实现指令以上级（任务级、 作业级）并行。 • 按照Flynn分类法，多处理机系统属于 MIMD计算机 • 研究多处理机的目的：提前10年得到性能 高100倍的高性能计算机系统。
第7章多处理机
第7章 多处理机
7.2.2 机间互连形式
1. 总线形式
多个处理机、存贮器模块和外围设备通过接口与公用总线 相连，采用分时或多路转接技术传送。其中，单总线方式结构 简单、成本低， 系统上增减模块方便，但对总线的失效敏感。 而且，处理机数增加会增大访问总线冲突的概率而导致系统效 率急剧下降。虽然可以在处理机中设置局部存贮器和专用外围 设备来减少访问总线的冲突，但这种单总线形式也只适用于处 理机数较少的场合。IBM Stretch和UNIVAC Larg多处理机采用 的就是单总线方式。
第7章 多处理机 图 7.1 紧耦合多处理机的结构
第7章 多处理机 图 7.2 带非对称I/O子系统的多处理机
第7章 多处理机 图 7.3 采用冗余连接的非对称I/O子系统
第7章 多处理机 2. 松耦合多处理机
图 7.4 通过消息传送系统连接的松耦合多处理机结构
第7章 多处理机 图 7.5 Cm*多处理机结构
第7章 多处机
第7章 多处理机
7.1 多处理机的特点及主要技术问题 7.2 多处理机的硬件结构 7.3 程序并行性 7.4 多处理机的性能 7.5 多处理机的操作系统
第7章 多处理机
7.1 多处理机的特点及主要技术问题
1) 2) 程序并行性 3) 4) 进程同步 5) 资源分配和任务调度
第7章 多处理机
第7章 多处理机 图 7.15 多处理机的二维并行存贮器构形
第7章 多处理机
2. 多Cache的一致性问题
为解决多个Cache之间的不一致。主要有两类做法。一类 是以硬件为基础的做法，另一类则主要是以软件为基础的做 法。
以硬件为基础实现Cache一致性的办法有多个。 最普遍采 用的办法叫监视Cache协议(Snoopy Protocal)法，各个处理机中 的Cache控制器随时都在监视着其他Cache的行动。对于采用 总线互连共享主存的多处理机， 可利用总线的播送来实现。
。8核多处理器,每个核最多支持4个
3MB shared
1MB/cor e
1MB/core
二级：1.9MB shared
三级：36MB
34.4GB/
8.6GB/s
4.3GB/s
17.2GB/s
per core
二级Per core/shared 三级（off-chip） 存储器带宽峰值 （DDR2 DRAMS） MIPS峰值 FLOPS
特征 核 每个核每时钟 周期发射的指令 多线程 Cache SUN T1 8 1 AMD Opteron 2 3 Intel Pentium D 2 3 IBM Power 5 2 4
Finegrained 16/8
No 64/64
SMT 12k uops/16
SMT 64/32
一级I/D in KB per core
shared
e
shared
三级：36MB
34.4GB/ s 9600 1200
8.6GB/s
4.3GB/s
17.2GB/s
7200 4800(w. SSE) 2.4
9600 6400(w.SS E) 3.2
7600 7600 1.9
时 钟 频 率 （ GHz ） 1.2
晶体管数量（百 万）
300
233
换到新的线程，而且在调度时可以跳过那些因
流水线延迟或Cache不命中而处于等待状态的线 程。
所有8个核共享一组浮点功能部件。 load和分支指令会导致3个时钟周期的延迟，不
过它们都可以通过执行其他线程而被隐藏。
7.7 多处理机实例——SUN T1
2. T1的结构
并行处理机和多处理机
65536 个 PE 排 成 10 维超立方体 , 每个 Thinking PE 可 有 1M 位 存 储 Machines公 器 , 32 个 PE 共 享 司CM-2 FPU 选 件 , 峰 值 速 度28 Gflops和持续 速度5.6 Gflops 1K 位 /PE 方形网格 Active 互连成 4096PE 的细 Memory 粒 、 位 片 SIMD 阵 Technology 列，正交 4- 邻位链 DAP600 接 ， 20GIPS 和 系列 560Mflops 峰 值 性 能
理速度极高，但标量处理速度只是每秒一百万次，那么对于标量 运算占10％的题目来说，总的有效速度就不过是每秒一千万次。
SIMD基本上是一台向量处理专用计算机。尽管它有一 个功能很强的控制部件实际上起作标量处理机的作用， 但仍然必须和一台高性能单处理机配合工作，使后者 担负系统的全部管理功能。
并行处理机实例
由 VAX, Sun 或 Symbolics 360主机 驱动, PARIS支持的 Lisp 编 译 器 、 Fortran90 、 C* 和 *Lisp 由 主 机 VAX/VMS 或 UNIX Fortranplus 或 DAP 上 APAL 提 供 ， 主 机 的 Fortran77 或 C; 与 Fortran90 标准有 关的Fortran-plus
CU LM0 PE0 LM1 PE1 …… ……
IOP LMn-1 PEn-1
互连网络
2. 共享存储器并行处理机
共享的多体并行存储器 SM 通过互连网络与各处理单 元PE相连。 存储模块的数目等于或略大于处理单元的数目。 同时在存储模块之间合理分配数据，通过灵活、高速 的互连网络，使存储器与处理单元之间的数据传送在 大多数向量运算中都能以存储器的最高频率进行，而 最少受存储冲突的影响。 共享存储器模型的处理单元数目一般不多，几个至几 十个。 Burroughs Scientific Processor (BSP)采用了这种结构。 16个PE通过一个16×17的对准互连网络访问17个共 享存储器模块。 存储器模块数与PE数互质可以实现无冲突并行访问存 储器。
多cpu电脑在家庭中的实际应用
多CPU电脑在家庭中的实际应用随着科技的发展，人们对于电脑的性能要求越来越高。
在家庭中，一台高性能的电脑能够带来许多便利和乐趣。
而多CPU电脑无疑是满足这种需求的最佳选择之一。
本文将探讨多CPU电脑在家庭中的实际应用，以及它们所带来的诸多好处。
一、多CPU电脑的定义多CPU电脑是指配备了两个以上的中央处理器（CPU）的电脑。
与单CPU电脑相比，多CPU电脑能够同时处理更多的任务，提供更高的计算性能。
这使得多CPU电脑在处理大规模数据、进行复杂计算和运行多个应用程序时具有明显的优势。
二、多CPU电脑的实际应用1. 处理大规模数据在家庭中，许多人可能需要处理大规模的数据，比如编辑视瓶、处理照片、进行3D建模等。
这些工作通常需要大量的计算性能和内存资源来完成。
而多CPU电脑能够更快速地处理这些任务，大大提高了工作效率。
2. 运行多个应用程序随着人们对电脑使用的深入，很多时候需要同时运行多个应用程序来完成工作。
比如同时开启多个浏览器标签、进行视瓶通话、编辑文档等。
多CPU电脑可以更好地满足这种需求，确保每个应用程序都能够得到充足的计算资源，不会出现卡顿和响应速度慢的情况。
3. 运行大型游戏和应用程序对于游戏玩家来说，多CPU电脑也带来了明显的优势。
许多现代游戏对于计算性能和内存资源的需求非常高，而多CPU电脑可以更好地满足这种需求，确保游戏的流畅运行和高画质表现。
还能够运行一些需要大量计算性能的应用程序，比如视瓶渲染、音频处理等。
4. 虚拟化技术在家庭中，一些技术爱好者可能会对虚拟化技术感兴趣。
多CPU电脑能够更好地支持虚拟化环境，运行多个虚拟机实例，从而实现多种操作系统和应用程序的同时运行。
这对于一些需要进行开发、测试和研究的人来说是非常有用的。
三、多CPU电脑的好处1. 提高工作效率多CPU电脑能够更快速地处理任务，提供更高的运算性能，从而提高工作效率。
无论是进行编辑、处理大型数据还是进行游戏，多CPU电脑都能够带来更加流畅的体验。
多处理器操作系统管理和协调多个处理器的工作
多处理器操作系统管理和协调多个处理器的工作多处理器操作系统（Multiprocessor Operating System）是指能够有效管理和协调多个处理器（或多核）并发执行任务的操作系统。
随着计算机硬件技术的不断发展，多处理器系统在科学计算、服务器、云计算等领域得到广泛应用。
在多处理器操作系统中，如何实现任务的并发执行、共享资源的合理利用以及任务调度的优化，是一个重要的挑战。
本文将从进程调度、内存管理和同步机制三个方面来介绍多处理器操作系统的管理和协调工作。
一、进程调度在多处理器操作系统中，进程调度的目标是使所有处理器尽可能高效地执行任务，并确保任务的平衡性和负载均衡。
为了实现这一目标，多处理器操作系统采用了不同的调度算法，例如最短作业优先（SJF）、时间片轮转（Round Robin）和多级反馈队列（Multilevel Feedback Queue）等。
这些调度算法根据任务的优先级、执行时间和资源使用情况等因素，决定任务在处理器上的顺序执行。
在多处理器操作系统中，不同的进程可能需要共享同一份数据或资源。
为了确保数据的一致性和正确性，多处理器操作系统引入了同步机制，例如互斥锁、信号量和条件变量等。
这些同步机制能够确保不同进程之间的正确通信和协调，并避免出现资源竞争和死锁等问题。
三、内存管理在多处理器操作系统中，内存管理是一个重要的任务。
多处理器系统通常具有多个存储单元，如缓存、主内存和外存等。
为了高效利用这些存储单元，并防止数据的冲突和不一致，多处理器操作系统需要实现适当的内存管理机制。
多处理器操作系统采用了分布式内存管理和共享内存管理两种方式。
在分布式内存管理中，每个处理器分配和管理自己的内存空间，以提高内存访问速度和并行度。
而在共享内存管理中，多个处理器共享同一块内存区域，以提高数据的共享和通信效率。
多处理器操作系统通过合理地组织内存空间和地址映射机制，来实现对内存的高效管理和利用。
总结多处理器操作系统通过进程调度、内存管理和同步机制等手段来管理和协调多个处理器的工作。
计算机体系结构第七章 多处理机
一、多处理机的特点
1、多处理机的定义 具有两台以上的处理机，在操作系统控制下通过 共享的主存或输入输出子系统或高速通讯网络进 行通讯。实现指令以上级（任务级、作业级）并 行。 按照Flynn分类法，多处理机系统属于MIMD计算 机。 多处理机系统由多个独立的处理机组成，每个处 理机都能够独立执行自己的程序。
K1
若采用平均分配策略：
RETCT2(11) N 2N N
五、多处理机操作系统
主从型(Master-slave Supervisor) 各自独立型(Separate Supervisor) 浮动型(Floating Supervisor)
主从型
管理程序只在主处理机运行 硬件结构管理控制简单，对主处理机要
求高 适用于工作负荷固定，从处理机能力明
显低的紧耦合、异构型、非对称多处理 机系统 实现简单，经济方便，但不够灵活。
各自独立型
每个处理机有独立的管理程序在运行 管理程序可再入，可靠性高，系统表格
少，系统效率高，实现复杂，访存冲突 解决和负载较困难 适合于松耦合多处理机
浮动型
管理程序在多个处理机间浮动 管理程序可再入，实现复杂，负载平衡
当机数由N台增加到N+1台时，总运行 时间的减少量为：
E(T 1 1 )C ETC N N1 N(N1)
令其>=0，有 N ET
临界值
C
3、额外开销与计算工作重叠
假定额外工作被计算工作完全覆盖，则 总运行时间为：
Rma E*x m {IaK)xC 2 ,(K N 1IK(TIK)}
平均分配
RETCT2 CT2 N 2 2N
简单起见，设T是N的整数倍
多处理机操作系统的分类
多处理机操作系统的分类随着计算机技术的发展，计算机的性能越来越强大，同时单一的中央处理器（CPU）已经无法满足用户的需求，因此多处理机（Multiprocessor）系统开始得到广泛应用。
多处理机操作系统是针对多处理器系统进行设计的操作系统，为了更好地管理多个处理器资源，多处理机操作系统一般具有以下几种分类：1.对称多处理（SMP）操作系统对称多处理（SMP）操作系统是最常见的多处理机操作系统，它是一种完全对称的多处理器系统，即每个处理器都完全相同，可以运行相同的操作系统和应用程序，并且可以共享系统资源（例如内存）。
在SMP系统中，所有处理器都具有同等的权限，因此操作系统必须能够管理所有处理器的资源使用情况，以保证系统的稳定性和性能。
例如，一些常见的SMP操作系统包括Windows和Linux等。
2.非对称多处理（ASMP）操作系统非对称多处理（ASMP）操作系统是另一种多处理机操作系统，它是一种非对称的多处理器系统，即系统中的处理器具有不同的权限，并且不一定能够共享所有系统资源。
ASMP操作系统通常由主处理器（master processor）和从处理器（slave processor）组成，主处理器负责系统的整体管理和调度，而从处理器则负责执行具体的计算任务。
ASMP操作系统常用于大型服务器或超级计算机系统中，以实现高性能的计算和并行处理任务。
3.混合多处理（Hybrid MP）操作系统混合多处理（Hybrid MP）操作系统是介于SMP和ASMP之间的一种多处理机操作系统。
它既具有SMP操作系统的对称性和资源共享特性，又具有ASMP操作系统的异构性和任务分配特性。
混合多处理操作系统通常使用多个架构不同的处理器进行设计，以便能够最大限度地发挥各处理器的优点，并且支持灵活的负载均衡和资源分配功能。
例如，一些常见的混合多处理操作系统包括Solaris和AIX等。
总之，多处理机操作系统是一个复杂的技术领域，需要考虑许多方面的因素，包括系统硬件、软件、资源管理、并发控制等。
第八章 多处理机
15 15
8.1 引 言
B.
(1)
(2) 通信是显式的，从而引起编程者和编译程序的注意，着重 处理开销大的通信。
在共享存储器上支持消息传递相对简单 在消息传递的硬件上支持共享存储器就困难得多。
所有对共享存储器的访问均要求操作系统提供地址转换和存 储保护功能，即将存储器访问转换为消息的发送和接收。 load与store操作的数据量小
99.75%
2. 第二个挑战：多处理机中远程访问的延迟较大
在现有的机器中，处理器之间的数据通信大约需要 50～10000个时钟周期。
18
远程访问一个字的延迟时间
机 器 通信机制 共享存储器 共享存储器 共享存储器 共享存储器 共享存储器 消息传递 消息传递 消息传递 互连网络 总线 总线 3维环网 交叉开关＋环 多层次环 胖树 2维网格 多级开关 处理机数量 ≤20 ≤36 32－2048 8－64 32－256 32－1024 32－2048 2－512 典型远程存储 器访问时间 1μ s 1μ s 1μ s 2μ s 2-6μ s 10μ s 10-30μ s 30-100μ s
(2) 存储器的一致性（非正式定义） 如果对某个数据项的任何读操作均可得到其最新写 入的值，则认为这个存储系统是一致的。
存储系统行为的两个不同方面
What: 返回给读操作的是什么值 When: 什么时候才能将已写入的值返回给读操作
① 处理器P对X进行一次写之后又对X进行读， 读和写之间没有其它处理器对X进行写，则
讯。 (共享存储器访问)
多个地址空间的机器 通过处理器间显式地传递消息完成。
(消息传递)
11 11
8.1 引 言
多处理机调度算法
多处理机调度算法一、啥是多处理机调度算法？多处理机调度算法，听着是不是有点高大上？其实说白了，就是让一台计算机同时安排好多个任务，合理分配给不同的处理器去做。
你可以想象一下，家里有好几个兄弟姐妹，大家一起做家务。
假如你家兄弟姐妹有五个，每个人分配任务，你是不是觉得家里活干得飞快？就像跑步比赛，一个人跑再快也赶不上几个人分摊着跑。
计算机里也一样，如果只有一个处理器（就像一个人干所有活），肯定是忙得不可开交，效率低得可怜。
可一旦有多个处理器参与进来，任务就能迅速分配，各司其职，大家忙得有条不紊，工作效率自然就提高了。
所以说，多处理机调度算法就像是高手级的家务分配高手，安排得明明白白。
二、调度算法到底是怎么分配的？先来讲讲这些调度算法是咋个运作的。
假如要给大家分任务，得考虑每个人的情况，不能让一个人承担太多压力。
多处理机调度算法也是这么干的。
它要把任务合理地分配给每一个处理器，让大家都不过于累，也能确保每个任务都尽快完成。
最常见的几种方法包括：最短作业优先（SJF），轮转调度（RR），还有最早到达优先（FCFS）。
每个方法背后都有一套特别的思考方式，就像给不同的任务找不同的工作方式。
最短作业优先就像是你给朋友们发任务，谁的任务简单，谁就先做，确保最轻松的任务最先处理掉。
这不仅能让系统运行得更快，还能减少“任务堵塞”的情况。
轮转调度就像是大家排队轮流做事，一个任务做完了，马上让下一个接着干，公正平等，谁也不会觉得自己被“抛弃”。
至于最早到达优先，简单来说，就是“先来先服务”，谁先到，谁就先干。
这种方式公平无偏，但有时候有点麻烦，尤其是在任务种类复杂时，效率不一定高。
三、为啥多处理机调度这么重要？多处理机调度算法的意义其实可以从我们日常的工作场景中找到答案。
想象一下，如果你是一个大公司的经理，手下有一群员工，工作繁重又复杂。
假如每个人只能做一件事，公司的发展速度肯定是很慢的。
而如果每个人能根据自己的特长和擅长领域去做事，整个公司运转的速度和效率都会提高。
多处理操作系统
多处理器系统多处理器计算机能同时执行多重任务，操作系统按时序安排任务，并且用可获得的处理器来执行多线程程序。
多处理机系统广义上说，使用多台计算机协同工作来完成所要求的任务的计算机系统都是多处理机系统。
传统的狭义多处理机系统的作用是利用系统内的多个CPU来并行执行用户的几个程序，以提高系统的吞吐量或用来进行冗余操作以提高系统的可靠性。
多个处理机(器)在物理位置上处于同一机壳中，有一个单一的系统物理地址空间和每一个处理机均可访问系统内的所有存储器是它的特点。
多处理机操作系统，目前有三种类型：1 主从式(master-slave)主从式操作系统由一台主处理机记录、控制其它从处理机的状态，并分配任务给从处理机。
例如，Cyber-170就是主从式多处理机操作系统，它驻留在一个外围处理机Po上运行，其余所有处理机包括中心处理机都从属于Po。
另一个例子是DEC System 10，有两台处理机，一台为主，另一台为从。
操作系统在主处理机上运行，从处理机的请求通过陷入传送给主处理机，然后主处理机回答并执行相应的服务操作。
主从式操作系统的监控程序及其提供服务的过程不必迁移，因为只有主处理机利用它们。
当不可恢复错误发生时，系统很容易导致崩溃，此时必须重新启动主处理机。
由于主处理机的责任重大，当它来不及处理进程请求时，其它从属处理机的利用率就会随之降低。
主从式的特点：主从式操作系统有如下特点： A.操作系统程序在一台处理机上运行。
如果从处理机需要主处理机提供服务，则向主处理机发出请求，主处理机接受请求并提供服务。
不一定要求把整个管理程序都编写成可重入的程序代码，因为只有一个处理机在使用它，但有些公用例程必须是可重入的才行。
B.由于只有一个处理机访问执行表，所以不存在管理表格存取冲突和访问阻塞问题。
C.当主处理机故障时很容易引起整个系统的崩溃。
如果主处理机不是固定设计的，管理员可从其他处理机中选一个作为新主处理机并重新启动系统。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
多处理机结构特点，程序并行性，并行 任务的派生与汇合。
•本章难点：
并行算法的研究思路，程序中并行任务的 派生与汇合。
7.1 多处理机的特点及主要技术问题
多处理机具有两台以上的处理机，在操作系 统控制下通过共享的主存或输入输出子系统或高 速通讯网络进行通讯。多处理机属MIMD系统。 一、多处理机与并行处理机的差别
二、 多处理机存在的主要技术问题
1、硬件上处理好处理机、I/O通道、存储模块的互连问 题。 2、软件上最大限度开发系统的并行性，以实现多处理 机各级的全面并行。 3、确定任务粒度问题，即如何选择任务和子任务的大 小。 4、进程同步问题。 5、任务分配，资源分配，防止死锁问题。 6、当系统中某个处理机发生故障后的恢复问题。 7、多处理机机数增多后，如何能给编程者提供良好的 编程环境问题。
为了减少各处理机同时访问同一存储器模块的 冲突，存储器模块数m应等于或略大于处理机数 p。 每台处理机自带局部存储器，不仅可以减少 访主存信息量，降低访主存冲突概率，也可以减 少处理机---存储器互连网络的冲突。如果再自带 专用Cache就可以进一步减少这类冲突。 处理机间通过中断信号互连网络，由一台处 理机向另一台处理机发生中断信号来实现处理机 间的进程同步。 多数多处理机采用非对称互连。 紧耦合多处理机常用于并行执行作业中的多 个任务，以提高系统的速度性能。因此各处理机 一般是同构形的。
同构/异构--PE类型相同/不同； 对称/非对称—每个PE与部分/全部的I/O通道连接。 常见结构：同构对称式和异构非对称式多机系统。
互连网络：实现PE←→PEM、PE←→I/O通道、 PE←→中断信号间的连接。 互连网络控制—分布式控制(消息传递机制)。 思考1：为什么每个PE可自带小容量局部存储器？ 思考2：为什么每个PE可自带一个Cache？ 系统规模：PE数量不能很多。为什么？
ቤተ መጻሕፍቲ ባይዱ
结点1 P NI M I/O I/O桥
结点1
…
P NI
M
I/O I/O桥
NI--网络 接口
结点i
P
NI
M
I/O
I/O桥
互连网络 紧耦合多处理机系统
松耦合系统结点结构
互连网络：实现结点(非PE与PSM)间互连。 控制—分布式控制(消息传递机制)。 结点结构：是完整的处理机系统； 当结点为多处理机系统时，构成了层次系统。
2、环形互连形式 构造一种逻辑总线,让各台处理机之间点点 相连成环状,称环形互连。在这种多处理机上， 消息的传递过程是由发送进程将信息送到环上， 经环形网络不断向下一台处理机传递，直到此 信息又回到发送者为止。 发送信息的处理机拥有一个唯一的令牌， 它是普通传送的信息中不会出现的特定标记。 同时只能有一台处理机可持有这个令牌。发送 者在发送信息时，环上其他处理机都处于接收 信息的状态。
7.2.2
机间互连形式
多处理机机间互连的形式是决定多处理机性 能的一个重要因素。在满足高通讯速率、低成本 的条件下，互连还应灵活多样，以实现各种复杂 的乃至不规则的互连而不发生冲突。 1、总线形式（时间分配） 多个处理机、存储器模块和外围设备通过 接口与公用总线相连，采用分时或多路转接技术 传送。 单总线方式结构简单、成本低，系统增减模 块方便，但对总线的失效敏感，处理机机数增加 会增大总线冲突概率，使系统效率急剧下降。
7.2 多处理机的硬件结构
7.2.1 紧耦合和松耦合
多处理机有紧耦合和松耦合两种。 1、紧耦合多处理机 紧耦合多处理机是通过共享主存实现处理机间通 讯的,其通讯速率受限于主存频宽。各处理机与主存 经互连网络连接，处理机数受限于互连网络带宽及各 处理机访主存冲突的概率。 为减少访主存冲突，主存采用模m交叉存取。处 理机还可自带高速缓冲存储器Cache以减少访主存次 数。184页图7.1是紧耦合多处理机的两种构形。它们 的主要差别是处理机是否自带专用Cache。
3、并行任务派生：并行处理机由指令反映数据间能否并 行计算，并启动多个处理单元并行工作；多处理机系 统需专用语句来指明。一个任务在执行时可派生另外 的任务与之并行。 4、进程同步：并行处理机的处理单元在同一控制器控制 下执行同一条指令，工作显然同步。多处理机系统中 处理可能执行不同指令，工作进度不一致，必须用同 步机制来控制。 5、资源分配和调度：并行处理机主要执行向量、数组运 算，处理单元数目是固定的，并行处理机任务调度较 易，用屏蔽手段就可以改变实际参加并行工作的处理 单元数。多处理机系统需用的处理机数不固定，需解 决好资源分配和任务调度，负荷平衡问题。尽可能提 高系统硬件资源的利用率，防止系统死锁。
（1）提高总线形式的系统效率的办法 一是用优质高频同轴电缆来提高总线的传输速率。 二是用多总线方式来减少访总线的冲突概率。 （2）多种总线仲裁算法 • 静态优先级算法为每个连到总线的部件分配一固 定的优先级。 • 固定时间片算法是把总线按固定大小时间片轮流 提供给部件使用。 • 动态优先级算法是总线上各部件优先级可根据情 况按一定规则动态改变。 • 先来先服务算法是按接收到访问总线请求的先后 顺序来响应。
1、结构灵活性：并行处理机结构主要针对向量、数组 处理设计，专用性强，互连形式简单；多处理机系统实 现多作业、多任务并行，结构灵活，互连形式复杂， MIMD机结构上具有更大灵活性和更强的通用性 。 2、程序并行性：并行处理机是操作级并行，并行性存 在于指令内部，识别比较容易；多处理机系统是作业级 并行。存在于指令外部，较难识别。
通信与同步：通过共享存储器地址进行通信； 通过共享地址或PPIN进行同步。
1、松耦合多处理机 松耦合多处理机中，每台处理机都有一个容 量较大的局部存储器，用于存储经常用的指令和 数据，以减少紧耦合系统中存在的访主存冲突。 不同处理机间或者通过通道互连实现通讯， 以共享某些外部设备；或者通过消息传送系统 MTS来交换信息，各台处理机可带有自己的外部 设备。 消息传送系统常采用分时总线或环形、星形、 树形等拓扑结构。松耦合多处理机较适合做粗粒 度的并行计算。