多核编程

最终目标: 最终目标: 提升用户的体验
• 摩尔定律 —— 不断发展和改进处理器的性能 • 最大限度地利用越来越多的晶体管 – 实现最优的价值 – 缩减处理时间，提高计算能力 缩减处理时间， – 开发平台的新特性和新功能
2010-112010-11-1
7
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
2010-112010-11-1
2
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
8.1.1 并发与并行的区别是什么？ 并发与并行的区别是什么？
并发与并行是两个既相似而又不相同的概念：并发性 ，又称共行性，是指能处理多个同时性活动的能力；并 行是指同时发生的两个并发事件，具有并发的含义，而 并发则不一定并行，也亦是说并发事件之间不一定要同 一时刻发生。 本课程中并发和并行概念基本相同,都包含同时性, 本课程中并发和并行概念基本相同,都包含同时性,同 时并发的概念含义更广泛一些。
Integer
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
Dual core , With HT( Eg. Dual Core Pentium Processor Extreme Edition )Supports HT
Multiple Integer and Floating Point Threads
2 Threads 1 Package
9
State Execution Cache Bus
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
几种不同的技术
• HT – Hyper Threading: 2 threads running on the same processor core –处理器上的某些资源会被共享 –使用相同的缓存和运算器 • DC – Dual Core: 2 execution cores in the same processor package –共享系统总线 –与双处理器的性能相同 • DP/MP – Dual/Multi-Processing: 2 or more Dual/Multiprocessors in the same system –只共享系统总线，独立缓存 –高性能，资源冲突少
2010-112010-11-1
11
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
Single core , With HT ( Eg. Pentium 4 Processor With HT )
Integer and Floating Point Threads
L2L2 Cache andControl Cache and Control
L2 L2 Cache andControl Cache and Control
BTB
Integer
3
3
L1 D-Cache and D-TLB Cache D
Rename/Alloc
Trace Cache
BTB & I-TLB I
uop Queues
Schedulers
Decoder
uCode ROM
Rename/Alloc
Trace Cache
BTB & I-TLB
uop Queues
Schedulers
Decoder
Even 2 floating point threads can be executed at the same time now (per processor) as there are multiple floating point execution units
2-way SMP system 4 Cores >4 Threads
2010-112010-11-1
8
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
多核技术的发展
Pentium 4 with HT Dual Xeon Processors Dual Core
Two independent execution cores in the same processor
4 threads/socket
Core0
Core1
Core0
Core1
Front Side Bus
Front Side Bus
产量 …
2010-112010-11-1
多功能 … 功 效
16
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
AMD与Intel双核架构的对比 AMD与Intel双核架构的对比 双核架构
BTB
Integer
Floating Point
3
3
uCode ROM
2010-112010-11-1
Floating Point
14
L1 D-Cache and D-TLB
Rename/Alloc
Trace Cache
BTB & I-TLB
uop Queues
Schedulers
Decoder
L1 D-Cache and D-TLB
State State Execution Cache Bus
2 Threads 1 Package
State Execution Cache Bus
State Execution Cache Bus
2 Threads 2 Packages
2010-112010-11-1
State Execution Cache Bus
通过并行方式改进处理器的性能
1995 MultiMulti-processing 2001 HyperHyper-Threading 2005+ DualDual- and Multi-core Multi-
2-way SMP system 2 Cores 2 Threads
2-way SMP system 2 Cores 4 Threads
12
Floating Point
L1 D-Cache and D-TLB Cache D
Rename/Alloc
Trace Cache
BTB & I-TLB
uop Queues
Schedulers
Decoder
8.1 什么是多核并发（并行）程序设计 什么是多核并发（并行）程序设计
Single core , With HT( Eg. Pentium 4 Processor with HT )
Two Floating Point Threads
L2L2 Cache andControl Cache and Control
BTB
Integer
3
3
uCode ROM
2 threads CANNOT be executed at the same time (per processor) if they’re competing for the same execution resource (eg. 2 floating point threads in a P4P architecture)
主要并行计算 多进程，内存 多进程，基于 多线程 方式 共享 消息传递
2010-112010-11-1
Core0
Core1
Front Side Bus
2010-112010-11-1
5
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
8.1.4 为什么要采用多核技术？ 为什么要采用多核技术？
2010-112010-11-1
6
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
2010-112010-11-1
13
-TLB Cache D
Rename/Alloc
Trace Cache
BTB & I-TLB
uop Queues
Schedulers
Decoder
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
L2 L2 Cache andControl Cache and Control
BTB
Integer
3
3
uCode ROM
2010-112010-11-1
Floating Point
15
L1 D-Cache and D-TLB
With dual core & HT together, maximum # of threads that can be executed at a time is 4 per processor
2010-112010-11-1
3
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计
8.1.2 什么是并行计算？ 什么是并行计算？
– 并行计算是相对于串行计算来说的，所谓并行计算分 为时间上的并行和空间上的并行。 时间上的并行就是 指流水线技术，而空间上的并行则是指用多个处理器 并发的执行计算。 – 并行计算科学中主要研究的是空间上的并行问题。 空 间上的并行导致了两类并行机的产生，按照Flynn的说 法分为：单指令流多数据流（SIMD）和多指令流多数 据流（MIMD）。我们常用的串行机也叫做单指令流 单数据流（SISD）。
AMD Opteron双核架构示意图 Opteron双核架构示意图
2010-112010-11-1
Intel 奔腾至尊版双核架构示意图
17
什么是多核并发（并行）程序设计 8.1 什么是多核并发（并行）程序设计