浙江大学多核计算课件
合集下载
浙江大学大学计算机基础课件(9)
并行计算
据2005年11月Top500公布的数据
– 排名第一的Blue Gene /L系统——IBM公司 ——处理速度达到280.6 TFlop/s（每秒万亿 次浮点运算），系统有131,072个处理器
我国曙光公司生产的曙光4000A超级计算机， 在2004年Top500中跻身前十名，标志着我国 高性能计算进入世界先进水平 中国联想集团生产的深腾6800高性能计算机 系统也达到了10TFlop/s级
天河二号
2013.11.20：“天河二号”超级计算机 的每秒33.86千万亿次的浮点计算能力， 是第二名美国泰坦超级计算机接近2倍 遗憾只有1／8的CPU是自主知识产权（超 算CPU非常多） 其余的是购买的进口产品，但是值得关 注的是采用了国产「麒麟」系统
天河二号
IBM公司64枚处理器芯片的计算机主板
集群系统
集群系统——最廉价的高性能计算机系统 主要原因：
（1）微机或工作站的性能越来越强 （2）LAN特别是高速光纤LAN延迟越来越小，网络带宽增加 （3）工作站网络易于集成，和现有的网络更容易整合 （4）相比大型并行系统，微机或工作站的开发工具更成熟， 而且更易于被大批专业人员掌握 （5）工作站和微机系统标准化程度高 （6）集群系统采用的平台便宜而且易于获得，如Unix、 Linux和Windows Server都可以作为集群系统的平台
3.集群计算
集群计算（Cluster Computing）
– 也是基于并行系统和网络的 – 它作为并行计算和网络技术在高性能计算机体系 结构中最为成功的集成和运用，也是目前性价比 最好的系统
在2005年11月的Top500中，集群系统占到了 70％以上
多核程序设计-2
多核体系结构
2008年8月18日
1
浙 江 大 学 嵌 入 式 研 发 中 心
处理器的频率提高遭遇瓶颈
在90年代是处理器性能的唯一标尺 长久以来在摩尔定律指引下保持高速发展
CPU速度每18个月提高一倍 而价格下降为原来的二分之一 频率对于处理器综合性能的影响力开始减弱。 同样可以拥有其标称值(PR)性能
15
浙 江 大 学 嵌 入 式 研 发 中 心
超线程技术的优点（续一）
超线程技术的优点还在于，它通过添加少数的硬件以及软 件支持的“小付出”做到了提高CPU的使用率、提高系统 性能的“大回报” 有数据表明，超线程技术的使用利用5%的硬件投入使系 统性能提高了25%！
16
浙 江 大 学 嵌 入 式 研 发 中 心
超线程技术的优点（续二）
超线程技术在Web服务、SQL数据库等很多服务器领域的 应用中表现优异； 主流的桌面芯片组基本都已可以支持超线程技术，用户无 需额外的花费； Windows XP已经针对超线程技术做出优化，在运行多个 不支持多线程的程序时，性能也可能会获得提高。即便带 来损失，也会显得比较轻微； 在某些支持多线程的软件应用上能够得到30%左右的性 能提升，如3dsmax、Maya、Office、Photoshop等。 Intel甚至在一项测试中取得了90%的提高。
7
浙 江 大 学 嵌 入 式 研 发 中 心
双核处理器的挑战与未来
双核的挑战——功耗 双核处理器面临的最大挑战之一就是处理器能耗的极限！ 性能增强了，能量消耗却不能增加。 双核的未来——多核 多核处理器看来将成为未来的发展方向
2008年8月18日
1
浙 江 大 学 嵌 入 式 研 发 中 心
处理器的频率提高遭遇瓶颈
在90年代是处理器性能的唯一标尺 长久以来在摩尔定律指引下保持高速发展
CPU速度每18个月提高一倍 而价格下降为原来的二分之一 频率对于处理器综合性能的影响力开始减弱。 同样可以拥有其标称值(PR)性能
15
浙 江 大 学 嵌 入 式 研 发 中 心
超线程技术的优点（续一）
超线程技术的优点还在于，它通过添加少数的硬件以及软 件支持的“小付出”做到了提高CPU的使用率、提高系统 性能的“大回报” 有数据表明，超线程技术的使用利用5%的硬件投入使系 统性能提高了25%！
16
浙 江 大 学 嵌 入 式 研 发 中 心
超线程技术的优点（续二）
超线程技术在Web服务、SQL数据库等很多服务器领域的 应用中表现优异； 主流的桌面芯片组基本都已可以支持超线程技术，用户无 需额外的花费； Windows XP已经针对超线程技术做出优化，在运行多个 不支持多线程的程序时，性能也可能会获得提高。即便带 来损失，也会显得比较轻微； 在某些支持多线程的软件应用上能够得到30%左右的性 能提升，如3dsmax、Maya、Office、Photoshop等。 Intel甚至在一项测试中取得了90%的提高。
7
浙 江 大 学 嵌 入 式 研 发 中 心
双核处理器的挑战与未来
双核的挑战——功耗 双核处理器面临的最大挑战之一就是处理器能耗的极限！ 性能增强了，能量消耗却不能增加。 双核的未来——多核 多核处理器看来将成为未来的发展方向
2009多核计算25-26事务内存
硬件事务内存-概念
硬件事务内存
护航（Convoying）
7
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室 /fatlab
现有并行方法的缺陷（3）
优先级反转（Priority Inversion）
当一个低优先级的线程占用了一个锁之后，需要同一个锁的高优先级线 程就只能等待 由于高优先级线程必须等低优先级线程释放这个锁才能继续执行，这样 就临时降低了高优先级线程的优先级别 如果有另一个中等优先级的线程进入，则它能延迟低优先级线程的执行， 从而也导致高优先级线程的延迟执行 在这种情况下，中等优先级线程和高优先级线程的优先级别就反转了 特别对于实时系统，优先级反转会给系统带来很大的麻烦
13
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室 /fatlab
事务内存的基本概念（4）
两个事务
事务1和事务2，事务2嵌套在事务1中 1点位于a=3语句与事务2提交之间，2点位于事务2提交后事务1 提交前
int a = 1; Atomic{ a = 2; Atomic{ a = 3; } }
原子性
一致性
隔离性
12
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室 /fatlab
事务内存的基本概念（3）
嵌套事务有两种类型
紧密嵌套事务/开放嵌套事务，来自于数据库的事务概念 Traiger在1983年首先定义了开放嵌套事务和紧密嵌套事务这两个概念 大 学 软 硬 件 协 同 设 计 实 验 室 /fatlab
事务内存的基本概念（6）
多核芯片简介 微型计算机技术教学PPT课件
• CMP 最早是由美国斯坦福大学提出的，其思想是在 一块芯片内实现SMP（Symmetrical Multi‐
• Processing ，对称多处理）架构，且并行执行不 同的进程。
2020/11/6
AA
5
多核处理器
• 在20世纪末，HP 公司和IBM 公司就已经提出了双核处理器 的可行性设计。
• 2001 年IBM 公司推出了基于双核的POWER4处理器，
• 随后，Sun 公司和HP 公司先后推出了基于双核架构的 UltraSPARC 及PA‐RISC 芯片，但当时双核处理器架构都 是在高端的RISC 领域，
• 2006 年Intel 公司和AMD 公司相继推出自己的双核处理器， 双核才真正进入主流的X86 领域。
• Intel 公司和AMD 公司之所以推出双核处理器，最重要的 原因是原有的普通单核处理器的频率难于提升，性能没有 质的飞跃。
• 1985 年，Intel 公司推出了Intel 80386 芯 片，之后又出现了许多高性能的32 位微处理 器，如Intel 80486 、Intel Pentium（奔腾） 等。
• 从20世纪90年代中期开始，32位微处理器芯片 的发展进入鼎盛时期。1995年11 月Intel 公 司推出了含550万个晶体管的Pentium Pro（高 能奔腾） 。
水，即指令预取、译码、执行、写回结果，浮点流
水又分为八级流水。
2020/11/6
AA
11
CPU 核心架构的发展
• ③ Pentium Pro（高能奔腾）和Pentium Ⅱ （P Ⅱ ，奔腾Ⅱ ）采用P6 架构。
•
P6 架构与Pentium 的P5 架构的最大区别在于，
以前集成在主板上的二级缓存被移植到了
• Processing ，对称多处理）架构，且并行执行不 同的进程。
2020/11/6
AA
5
多核处理器
• 在20世纪末，HP 公司和IBM 公司就已经提出了双核处理器 的可行性设计。
• 2001 年IBM 公司推出了基于双核的POWER4处理器，
• 随后，Sun 公司和HP 公司先后推出了基于双核架构的 UltraSPARC 及PA‐RISC 芯片，但当时双核处理器架构都 是在高端的RISC 领域，
• 2006 年Intel 公司和AMD 公司相继推出自己的双核处理器， 双核才真正进入主流的X86 领域。
• Intel 公司和AMD 公司之所以推出双核处理器，最重要的 原因是原有的普通单核处理器的频率难于提升，性能没有 质的飞跃。
• 1985 年，Intel 公司推出了Intel 80386 芯 片，之后又出现了许多高性能的32 位微处理 器，如Intel 80486 、Intel Pentium（奔腾） 等。
• 从20世纪90年代中期开始，32位微处理器芯片 的发展进入鼎盛时期。1995年11 月Intel 公 司推出了含550万个晶体管的Pentium Pro（高 能奔腾） 。
水，即指令预取、译码、执行、写回结果，浮点流
水又分为八级流水。
2020/11/6
AA
11
CPU 核心架构的发展
• ③ Pentium Pro（高能奔腾）和Pentium Ⅱ （P Ⅱ ，奔腾Ⅱ ）采用P6 架构。
•
P6 架构与Pentium 的P5 架构的最大区别在于，
以前集成在主板上的二级缓存被移植到了
多核程序设计ppt课件
14
▪ 示例
临界区(1)
怎么办？
int Global_Sum;
CRITICAL_SECTION g_cs;
此程序段为包含共享数
DWORD WINAPI threadFunc(LPVOID arg) 据Global_Sum的一段代
{
码，称为临界区。多个
int mySum=bigCompute();
线程同时运行，有可能
➢进程内的多个线程可以对同一 个内存单元进行读和写操作， 所以必须要采取显式同步机制。
➢ 在同一个进程的地址空间下， 线程间的通信消耗更小。
一个进程内的线程示例
可编辑课件PPT
8
线程的状态
▪ 线程的状态
➢ 就绪（ready）：线程等待可用的处理器。 ➢ 运行（running）：线程正在被执行。
➢ 阻塞（blocked）：线程正在等待某个事件的发生（比如I/O 的完成，试图加锁一个被上锁的互斥量）。
程是被调度执行的基本单元。 栈
栈
栈
▪ 线程自己不拥有系统资源，只拥有一点在运行中必不可少的资源， 但它可与同属一个线 进程 程的其它线程共享进程所拥有的全线 程部资源。
▪ 线程是程序中一个单一的顺序控制流程。在单个程序中同时运行 多个线程完成不同的工作，称为多线程。
可编辑课件PPT
6
进程与线程的关系
某个最大值之间的任意数。如果Semaphore的现值为1，表示还 有一个锁定动作可以成功。如果现值为5，就表示还有五个锁定 动作可以成功。 ➢ 信号量状态在其计数>0时有信号，即当前资源的数量>0，信号 量有效。 ➢ 0时无信号，即当前资源的数量是0，信号量无效。 ➢ 系统不允许当前资源的数量为负值，即不能在信号量为负的情况 下执行任务。V操作时也不能超过最大值。 ➢ 核心对象，可以跨进程访问。
多核程序设计概述
环/球/I T| 计算机教育 2007.7 | 39★英特尔多核课程园地★《多核程序设计》概述浙江大学计算机学院 陈天洲 英特尔中国公司大学合作部 曹 捷 王靖淇/文半导体技术的进步使单芯片多处理器成为现实并推动着多核计算技术的不断进步。
浙江大学从2006年开设单独的多核课程，并联合国内五所重点高校设计编写了《多核程序设计》作为该课程的教材，对多核计算技术进行了全面深入的讲解，以期由此完善学生的知识结构。
1 多核计算技术的概述随着新材料的应用和新技术的发展，VLSI 技术取得长足进步，在单个芯片上集成多个处理器核心构成多核处理器已经成为处理器技术的主流。
按计算内核的对等与否，CMP 可分为同构多核和异构多核。
计算内核相同，地位对等的称为同构多核。
然而，一般认为处理器通用核的数目在超过16个后，再增加通用处理核的数目就难以带来更大的性能提升。
于是出现了一些为特别任务专门定制的专用处理核，包括面向科学计算等的“领域专用核”、图形图像处理和数字信号处理(DSP)等“行业专用核”。
这些专用核的体系结构利用特定应用的特征进行定制，从而达到定制应用的高性能和高效率。
从2005年出现的英特尔与AMD 的双核处理器、2006年推出的4核处理器到2007年2月英特尔公司展示的80核处理器，处理器中集成核的数目呈现迅速增多的趋势。
除此之外，具有更多核和不同功能核的处理器也在研发，例如整合了1025个简单处理器的芯片Kilocore ，包括1024个8位处理器和1个Power PC 核。
伴随着多核处理器的发展尤其是处理器核数目的增加与处理器核功能的变化，在体系结构、软件、功耗和安全性设计等方面，巨大的挑战也随之而来。
处理器的发展使得原有面向单核或者多处理器的软件架构不适于在单芯片多处理器的硬件结构上充分利用多计算核心的能力，需要相应的软件层面的共同发展。
为此，软件结构的变化尤其是针对多核硬件体系结构的程序设计成为有效发挥多核计算能力的重要方面。
多核程序设计all
浙 江 大 学 英 特 尔 技 术 中 心
并行计算机访存模型( 并行计算机访存模型(续)
COMA（Cache-Only Memory Access）模型
各处理器节点中没有存储层次结构，全部高速缓存组成了全局地 址空间 利用分布的高速缓存目录D进行远程高速缓存的访问 COMA中的高速缓存容量一般都大于2级高速缓存容量 使用COMA时，数据开始时可以任意分配，因为在运行时它最终 会被迁移到要用到它的地方
全关联映射策略 （full association mapping strategy）
内存块可以被映射到cache中的任意一条cache线。
浙 江 大 学 英 特 尔 技 术 中 心
并行计算机访存模型
UMA（Uniform Memory Access）模型
物理存储器被所有节点共享； 所有节点访问任意存储单元的时间相同； 发生访存竞争时，仲裁策略平等对待每个节点，即每个节点机会均等； 各节点的CPU可带有局部私有高速缓存； 外围I/O设备也可以共享，且每个节点有平等的访问权利。 尔 技 术 中 心
并行计算模型
SIMD同步并行计算模型
共享存储的SIMD模型（PRAM模型） 分布存储的SIMD模型（SIMD互联网络模型）
MIMD异步并行计算模型
异步PRAM模型 BSP模型 LogP模型 C3模型
两个最主要的组成部分
计算节点 节点间的通信与协作机制
浙 江 大 学 英 特 尔 技 术 中 心
并行计算机的弗林分类
Flynn根据指令流和数据流的不同组织方式，把计算机系 统的结构分为以下四类：
单指令流单数据流（Single Instruction stream Single Data stream, SISD） 单指令流多数据流（Single Instruction stream Multiple Data stream, SIMD） 多指令流单数据流（Multiple Instruction stream Single Data stream, MISD） 多指令流多数据流（Multiple Instruction stream Multiple Data stream, MISD）
2009并行计算与多核程序设计03-04并行计算基础
并行性措施及困难
一、并行性措施
时间重叠：时间上错开，轮流重叠使用硬件：如流水线 资源重复：空间重叠，以量取胜 资源共享：多用户按时间顺序轮流使用同一套资源：如分时系统 任务分配非常困难
二、并行性困难
可并行性：任务的并行性划分和分发
算法对并行性的限制
算法不仅与问题有关，还与硬件有关
/fatlab
(a)二叉树
(b)星形连接
(c)二叉胖树
6
网络参数
/fatlab
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
静态互连网络与动态互连网络
静态互连网络
处理单元间有着固定连接的一类网络，在程序执行期 间，这种点到点的链接保持不变；典型的静态网络有 一维线性阵列、二维网孔、树连接、超立方网络、立 方环、洗牌交换网、蝶形网络等 用交换开关构成的，可按应用程序的要求动态地改变 连接组态；典型的动态网络包括总线、交叉开关和多 级互连网络等。
8
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
静态互连网络----二维网孔
N×N二维网孔（2-D Mesh）
/fatlab
每个节点只与其上、下、左、右的近邻相连（边界节点除外）， 节点度为4，网络直径为 2N-1，对剖宽度为N 在垂直方向上带环绕，水平方向呈蛇状，就变成Illiac网孔了，节 点度恒为4，网络直径为N-1，而对剖宽度为2N 垂直和水平方向均带环绕，则变成了2-D环绕（2-D Torus）， 节点度恒为4，网络直径为2[N/2]，对剖宽度为2N
处理机之间的通信开销限制
当通信开销大时并行处理技术得不偿失
多核技术PPT
多核并行处理在景象匹配算法中的应用
对于基准图上的任意一点(i，J)按照式(3)进行相似度计算，当 D(i，J)取得最大值时，其像素点就是最佳匹配点。由于模板匹配算法要 对子图和模板图中每个像素点的灰度值都进行相似度计算，当子图和模 板图的尺寸增大时像素点增多，匹配效率随着计算量的增大而降低。而 各个像素点的计算是相互独立的。在多核计算机上运行时非常适合应用 多核并行处理技术实现计算的并行化，大大提高景象匹配评估平台的运 行效率。
多核并行处理在景象匹配算法中的应用
一、景象匹配算法：
景象匹配是指通过某种匹配算法在两幅或多幅图像之间把一个图像 区域从目标区域中识别出来,找到它们之间的识别同名点的图像分析与处 理技术.该技术在许多领域发挥重要的作用,如军事领域的导弹制导系统, 医药领域的生理病变检测等等。 匹配算法通常基于灰度的特征来进行。匹配算法的基本原理是在基 准图中提取子图并且与匹配模板进行相似度比较的过程，与匹配模板相 似度最高的子图也就是匹配点所在的位置。 有多种测量相似度的计算方式,本实验采用如下方式:
多核并行处理技术简述
OpenMP
Open MP应用程序接口是针对共享内存多处理器体系结构的可移植 并行编程模型，能够支持并行计算时对线程和变量的灵活设置和控制。 对比于操作系统平台上的多线程编程的步骤，应用OpenMP的过程要更 为简便。
TBB
TBB是Intel推广的支持多核处理器的C++线程并行编程模型，它相对 于OpenMP的最大优势就在于其面向对象特性的实现。而且具有支持复 杂的并行模式、可扩展的线程嵌套并行等特点。但TBB应用灵活性的增 加也使得用户应用的难度增大，需要基于TBB提供的并行算法模板类(如 parallel—for等）编写程序，以支持复杂的并行模式。
2009并行计算与多核程序设计00-01-02多核技术导论
内容细节
学时
并行体系与多核体系结构的起源和特点； 典型多核芯片Cell、Intel、AMD双核芯片体系分析； 多核系统软件对并行编程的支持。
并行计算机体系结构； 并行计算模型； 并行环境、编程语言与并行编译器； 几种常用并行算法与算法评估方法。 进程、线程的概念； 用户级线程、内核级线程和多线程的映射模型； 多线程的互斥、同步的基本概念。 Windows平台下的线程库，包括Win32 线程库、MFC线程库以及.Net Framework线程库； 重点介绍如何使用Win32 API来创建线程、管理线程； 如何实现线程间同步，包括MFC和.Net Framework进行多线程同步的方法； 使用调试工具对多线程程序进行调试。 POSIX 线程操作的一系列的相关的函数，包括基本线程创建、撤销、退出函 数； 线程之间的互斥和同步的操作； 使用GDB 调试多线程程序。 对比Linux、windows平台，对比各种线程库，对比各种同步机制，与学生探 讨多线程程序的性能分析与调优方法 结合具体实例，剖析线程工具的使用方法
2
2
2
/fatlab
Windows多 线程编程及 调优
4
2
Linux 多线 程编程 多线程性能 研讨
2
5
浙 化 江 大 学 OpenMP研讨 软 硬 件 MPI编程及性能 协 优化 同 设 计 实 MPI研讨 验 室
OpenMP编程优
OpenMP简介； OpenMP多线程编程方法； 性能分析。 对比OMP与多线程，研究多线程适应于哪些应用环境，OMP适应于哪些环 境，OMP的各种编程方法适应于哪些场合 结合高性能计算实例，剖析OMP对核的利用率 MPI简介； MPI程序特点和多核MPI软件包安装配置； MPI程序框架与标准的点对点通信、群集通信和排错； 性能分析优化。 分析MPP上与CMP上MPI的差异性 对比MPI与多线程、OMP的编程思想的差异性 以曙光5000A为例，分析现有超级计算机上的软件设计方法以及CPU利用率 硬件性能评测工具； 多线程程序的性能评测方法； 评测优化工具使用，包括C++编译器、VTune性能分析器、MKL数学核心函 数库、Thread Checker线程检查器和Thread Profiler线程档案器。 Parallel studio工具。 对比SMT（SUN）、CMP（intel&AMD）、CELL（IBM）的性能调试 谈论硬件级支持的性能监控手段、OS级性能检测方法 分析现有工具的不足 学生设计与实现综合性的并行计算与多核程序设计实验。鼓励与科研项目 想结合，学生将设计过程和结果做汇报
多核计算机系统结构概述精品PPT课件
本科生课 程知识点
多核平台 编译优化
多核多线 程程序的 性能评测
方法
多线程编 程对多核 的支持
多核系统 软件对并 行编程的
支持
研究生课 程知识点
技术
典型多核 芯片
多核操 作系统
多核芯片
多核平台 与传统技
结构与芯 片组支持
技术
术差异 多核下的
多核SOC 芯片技术
各种硬件
嵌入式
并行体系 与多核体
设计技术
Core0 Core1
Front Side Bus
同构和异构多核
• 按计算内核的对等与否，CMP可分为同构多核和 异构多核。
• CPU核心数据共享与同步
– 总线共享Cache结构：每个CPU内核拥有共享的二级 或三级Cache，用于保存比较常用的数据，并通过连 接核心的总线进行通信。
– 基于片上互连的结构：每个CPU核心具有独立的处理 单元和Cache，各个CPU核心通过交叉开关或片上网 络等方式连接在一起。
– 原因 – 风冷芯片技术的最大功耗几乎已达到极限 – 指令级并行很难再有效提高 – 存储器时延难以降低
• 因此，人们转向了多核技术
– 2004年Intel取消了高性能单一处理器的研究计划，宣 称将通过同一芯片上的多处理器而不是更快的单一处 理器来进一步提高计算机性能
– 标志着一个转折的到来
多核意味着什么？
• 为什么要发展多核处理器？
• 从第一台电子计算机问世到70年代的最初25年， 计算机的性能以每年25%的速率提高。
• 70年代末，集成电路技术的进步和微处理器的出 现使得计算机性能以每年35%的速率提高。
– 两个变化
– 实际已经很少使用汇编语言，降低了对目标代码兼容 性的要求
第一章基于多核的计算机系统介绍.ppt
· 调度策略决策模式
• 非抢占式（Non-preemptive）
– 一旦某个进程处在运行状态，这个进程将持续 运行直至该线程因为等待I/O准备好或需要对操 作系统请求其它服务，而不得不中断本身的运 行。
• 抢占式（ Preemptive）
– 操作系统将当前正在运行的进程中断，并将该 进程转到“准备好”状态。
IBM Power
4 and 5 2001
IBM Power Dual Cores Since
6 2001
Dual Cores Since
...
2 H 2004
1H 2005
2 H 2005
1H 2006
2H 2006
快速的多核发展
100%
SINGLE-CORE
75%
50%
25%
MULTI-CORE
· 操作系统是什么
从软件分层、扩充机器的观点―― 操作系统是扩充 裸机的第一层系统软件
The Layers Of A System
Humans
Program Interface
User Programs
O.S. Interface O.S.
Hardware Interface/ Privileged Instructions Disk/Tape/Memory
• 按计算机系统（硬件）操作系统分成
– 微机操作系统
• 常用的微机OS有MS-DOS、 Windows系列、OS/2、 SCO UNIX、 Linux等。
– 网络操作系统
• Unix、Linux、Windows 2000/2003 server
– 分布式操作系统 – 嵌入式操作系统
· 操作系统发展趋势
2009多核计算13-16多核系统软件
SMT线程调度策略
硬件：多线程共享核内资源，如指令队列IQ 共生调度SOS
sample-Optimize-Symbiosis 执行指令流中的指令类型多样，调度间隔之间资源利用率差异不大， 各种资源使用过程中争用情况不严重
/fatlab
线程敏感性的调度
/fatlab
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
多处理器
每个处理器是多核
塔式服务器 机架式服务器（1U-4U） 刀片服务器
blade server 主要结构为：
一大型主体机箱，内部可插上许多 “刀片”，每一块刀片上就是一块系统母板 类似于多个独立的服务器，可以通过本地硬盘启动自己的操作系统 每一块刀片可以运行自己的系统，服务于指定的不同用户群，相互之间没有关联 可以用系统软件将这些主板集合成一个服务器集群，成为集群模式
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
多线程处理器对OS 多线程处理器对OS的分类 OS的分类
按线程划分的颗粒度大小分为
细粒度多线程(Fine-grained Multithreading) 粗粒度多线程(Coarse-grained Multithreading)处理器
/fatlab
所有的刀片可以连接起来提供高速的网络环境，共享资源，为相同的用户群服务 在集群中插入新的刀片，就可以提高整体性能
/fatlab
热插拔
刀片服务器分类
服务器刀片、网络刀片、存储刀片、管理刀片、光纤通道SAN刀片、扩展I/O刀片等等
特点
克服了芯片服务器集群的缺点 实现了机柜优化
多核系统软件=OS的支持+编译技术
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
浙江大学大学计算机基础课件(9)
哥德尔数
程序设计语言的符号能够被分配一个对应的无符号数
符号 0 1 2 3 十六进制数 符号 十六进制数 符号 十六进制数 符号 十六进制数 0 1 2 3 4 5 6 7 4 5 6 7 8 9 incr decr 8 9 A B while { } X C D E F
1．程序转换为哥德尔数 例：incr(X) → incrX → AFH → 175 2．哥德尔数转换为程序 例：3058 → BF2H → decrX2 → decr(X2)
哥德尔数
P.183
1．程序转换为哥德尔数 while x1 { //如果x1不等于0，则执行下面的循环 decr x1 incr x2 } → CF1DBF1AF2EH→14232916700974 2．哥德尔数转换为程序 例：13622270→CFDBFEH while x{ decr x }
// 将变量x置0
4.云计算
分布式计算、网格计 算、普适计算发展而 来——云计算（无处 不在的计算） 云——因特网 效用计算——计费， 像电网的用电付费 云——产业（云软件 、云平台、云设备）
计算机基础科学
18
9.2 人工智能
人工智能作为计算机研究的重要领域，已经成为计 算机科学和技术发展的一个目标。
图灵测试----计算机能够象人一样思考吗 ？ 中国屋思考实验----反驳图灵测试 推理：知识表达 – 语义网络 – 搜索树----深蓝
1.图灵测试:“计算机能够象人一样思考吗？”
图灵测试——黑盒测试
–测试者和被测者之间用幕布隔开，发问者不知道对 面回答问题的人是谁
图灵测试本身也被人提出了疑问
–——中国屋思考试验
2009并行计算与多核程序设计05-06线程的基本概念
户级线程的创建和管理等操 作无须内核参与，操作更快 并行性不高，一个线程被系 统阻塞后，整个进程被阻塞
/fatlab
13
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
2
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
程序设计语言的挑战：结构化语言 程序设计语言的挑战：
结构化语言
C语言、Pascal、Fortran等 以函数、过程为基本单元进行抽象
本质上不支持多核
单入口单出口 不并发
/fatlab
3
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
DSP+ARM 用汇编控制各个器件
在CMP上怎么办
目前OS厂家未能充分利用多核
多核上OS启动，是分为主核与应用核
在工业控制领域需要
/fatlab 裸机+监控程序
SSE汇编
实现了虚数、codec、SSL、XML等功能 却无法实现并发
目前情况
芯片厂家提供了新的编程接口，但是不开放 可以在UEFI平台上做设计，不能针对裸机
目前的做法
1、线程
是目前的主流，是多核编程的门槛
2、共享内存
依赖于处理器的存储结构
3、消息
依赖于核间架构
/fatlab
4、虚拟化
由操作系统与硬件协作，提供虚拟运行环境
5、机器码级分发
目前研究热点
6、编译自动完成
面临巨大困难
6
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
程序设计语言的挑战：高级语言 程序设计语言的挑战：
快速开发语言/工具 可以由虚拟机平台支持多核完成
以java虚拟机为代表 虚拟机本身多核化
/fatlab
/fatlab
13
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
2
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
程序设计语言的挑战：结构化语言 程序设计语言的挑战：
结构化语言
C语言、Pascal、Fortran等 以函数、过程为基本单元进行抽象
本质上不支持多核
单入口单出口 不并发
/fatlab
3
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
DSP+ARM 用汇编控制各个器件
在CMP上怎么办
目前OS厂家未能充分利用多核
多核上OS启动，是分为主核与应用核
在工业控制领域需要
/fatlab 裸机+监控程序
SSE汇编
实现了虚数、codec、SSL、XML等功能 却无法实现并发
目前情况
芯片厂家提供了新的编程接口，但是不开放 可以在UEFI平台上做设计，不能针对裸机
目前的做法
1、线程
是目前的主流，是多核编程的门槛
2、共享内存
依赖于处理器的存储结构
3、消息
依赖于核间架构
/fatlab
4、虚拟化
由操作系统与硬件协作，提供虚拟运行环境
5、机器码级分发
目前研究热点
6、编译自动完成
面临巨大困难
6
浙 江 大 学 软 硬 件 协 同 设 计 实 验 室
程序设计语言的挑战：高级语言 程序设计语言的挑战：
快速开发语言/工具 可以由虚拟机平台支持多核完成
以java虚拟机为代表 虚拟机本身多核化
/fatlab
多核体系结构与并行编程模型计算机科学导论第八讲ppt课件
int retval; retval = curr; 1
– 原因： curr = curr+prev;1
对共享变
量的访问缺
乏约束
prev = retval; 1
curr = curr+prev;1 prev = retval; 1
28 t
共享变量并行编程模型
• 同步
– 同步是对线程执行的顺序进行强行限制的一种机 制，用来控制线程执行的相对顺序，可以有效解 决任何线程之间的冲突，而这些冲突有可能会导 致线程的执行出现异常行为
执行单元 缓存
单核结构
CPU状态 CPU状态 中断逻辑 中断逻辑
执行单元 缓存
超线程结构
多处理器结构
超线程技术充分利用执行
单元中的空闲资源，以便在 相同时间内完成更多工作
执行单元中的资源：内存
访问部件、算术运算部件和
浮点功能部件等
8
基本知识
• 单核结构与多核系统结构
CPU状态 中断逻辑
执行单元 缓存
P1: W(x)1
P2:
W(x)2
P3:
R(x)2 R(x)1
P4:
R(x)2 R(x)1
t 左图符合顺序
t 一致性：
t W(x)2先于W(x)1
发生
t
20
内存一致性模型
• 顺序一致性模型
– 比严格一致性弱的模型
– 在多处理器共享内存情况下，所有处理器的内存 访问操作都按照某个顺序逐个执行，并且每个处 理器执行的单个线程，严格按照程序规定的顺序 逐语句地进行内存访问操作
P1: W(x)1
t 左图不符合顺
P2:
W(x)2
t 序一致性：
LEC02-多核技术介绍
21
Understanding SMT and CMP Make clear Concurrency vs. Parallelism
• Concurrency: two or more threads are in progress at the same time:
Thread 1 Thread 2
Gordon Moore (co-founder of Intel) predicted in 1965 that the transistor density of semiconductor chips would double roughly every 18 months.
12
Moore’s Law Still Holds No Exponential is Forever, But perhaps we can Delay it Forever
many core
SMT
64bit data
Dual core
• Two axes:
• Exploring the parallelism, much of the performance from parallelism • Bit-Level Parallelism • Instruction-Level Parallelism (ILP) • Thread-Level Parallelism (TLP) • Hiding the memory latency
• From 60 MHz to 3,800 MHz in 12 years • Has resulted in expected performance increase
• Execution Optimization
Understanding SMT and CMP Make clear Concurrency vs. Parallelism
• Concurrency: two or more threads are in progress at the same time:
Thread 1 Thread 2
Gordon Moore (co-founder of Intel) predicted in 1965 that the transistor density of semiconductor chips would double roughly every 18 months.
12
Moore’s Law Still Holds No Exponential is Forever, But perhaps we can Delay it Forever
many core
SMT
64bit data
Dual core
• Two axes:
• Exploring the parallelism, much of the performance from parallelism • Bit-Level Parallelism • Instruction-Level Parallelism (ILP) • Thread-Level Parallelism (TLP) • Hiding the memory latency
• From 60 MHz to 3,800 MHz in 12 years • Has resulted in expected performance increase
• Execution Optimization