浅谈CUDA并行计算体系

等。 而设备程序主要就是完成并行计算的任务。 Ｃ Ｕ Ｄ Ａ 编程模 型分为两个主要部分 ： Ｃ Ｕ Ｄ Ａ 软件架构和Ｃ Ｕ Ｄ Ａ 硬件架构。 其中 ｃ ｕ Ｄ Ａ 软件架构又包括了软件栈、 通用编程模型和存储模 型三 个方面。 下面将从上述 内容对Ｃ Ｕ Ｄ Ａ 的编程模型进行介绍。
由英伟达 （ Ｎ Ｖ Ｉ Ｄ Ｉ Ａ ） 公司推 出的一种基于Ｇ Ｐ Ｕ 通 用计算的编程 块 ， 线程索引（ ｘ ， ｙ ’ ｚ ） 所对应 的线程 Ｉ Ｄ 为ｘ ＋ ｙ ｍ ＋ ｚ ｍ ｎ 。 Ｃ Ｕ Ｄ Ａ 线 模型和计算体系。 该架构不需要借助图像学Ａ Ｐ Ｉ ， 直接使用类 程 的开辟是根据所需解决问题 的数据大小来确定的， 而每个 Ｃ 语言即可完成并行计算， 使得使用Ｇ Ｐ Ｕ 处理图像中的复杂计 线程块 内的线程 数由于其共享一个核心处理器的存储器 资 算 成 为可 能 。 源， 则块内线程 数量是有 限制的， 这个可 以通过Ｎ Ｖ Ｉ Ｄ Ｉ Ａ 给出
摘 要： 近年来， 图形处理器 （ Ｇ ｒ ａ ｐ ｈ ｉ ｃ Ｐ ｒ ｏ ｃ ｅ ｓ ｓ Ｕ ｎ ｉ ｔ ， Ｇ Ｐ Ｕ ） 的快速 发展使得其逐步用于通用计算。 在性能各 异的并行计算
平台中， 英伟达 （ Ｎ Ｖ Ｉ Ｄ Ｉ Ａ ） 公 司推 出的计算统一设备 架构 （ Ｃ ｏ ｍ ｐ ｕ ｔ ｅ Ｕ ｎ ｉ ｆ ｉ ｅ ｄ Ｄ ｅ ｖ ｉ ｃ ｅ Ａ ｒ ｃ ｈ ｉ ｔ ｅ ｃ ｔ ｕ ｒ ｅ ， Ｃ Ｕ Ｄ Ａ ） 因为充分 利用Ｇ Ｐ ｕ （ Ｇ ｒ ａ ｐ ｈ ｉ ｃ Ｐ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ ｕ ｎ ｉ ｔ ） 强大的计算能力实现了通用并行 计算而受到研 究者们的青睐。
１ ． １软件 模 型 根 据Ｎ Ｖ Ｉ Ｄ Ｉ Ａ 的官方 文 档 ， Ｃ Ｕ Ｄ Ａ 的软 件体 系共 分３ 个 方面 ：
的资料查询 。 一般 为了使每个线程块 的调度达到最优值 ， 每 个块 内的线程数一般设为１ ６ 的倍数， 但不能超过限定值 。 ３ 存储器模型 Ｃ Ｕ Ｄ Ａ 内部存储器的结构是由寄存器、 全局存储器 、 共享 内存、 本地寄存器 、 常量 内存和纹理内存组成 。 下面是对这６ 个存储器的介绍： 寄存器位于Ｇ Ｐ Ｕ 晶体片中， 在各种Ｃ Ｕ Ｄ Ａ 存储结构中， 它的访 问速度快， 因为它是线程所私有的， 不允许其他线程访问和使 用。 但 由于Ｇ Ｐ Ｕ 硬件的限制， 寄存器不是无限的， 每个线程块中 的寄存器是事先分配好的。 但如果内核函数中分配的寄存器数
１ Ｃ ＵＤ Ａ 编 程 模 型
Ｃ Ｕ Ｄ Ａ 将Ｃ Ｐ Ｕ 串行处理和Ｇ Ｐ Ｕ 并行处理完美的结合起来。 一
个完 整的Ｃ Ｕ Ｄ Ａ 程序 是由主机 （ Ｃ Ｐ Ｕ ） 程 序和设备 （ Ｇ Ｐ Ｕ ） 程 序 共 同组成， 主机程序主要是为设备程序的运行做前期准备工 作， 主要包括数据初始化 、 数据拷贝、 内核函数间数 据交换
量 超 过了寄存 器的总数 ， 编译器 会 默认 的将 数 据转 入设备端的
Ｃ Ｕ Ｄ Ａ 设备驱动程 序、 Ｃ Ｕ Ｄ Ａ 运行时库和编程接口、 Ｃ Ｕ Ｄ Ａ ￣方函 数库 。 其中， 设备驱动器是直接作用于Ｇ Ｐ Ｕ 上的， 开发者可以 通过Ｃ Ｕ Ｄ Ａ 运行时库和Ｃ Ｕ Ｄ Ａ 函数库中的函数调用来使用设备。 Ｃ Ｕ Ｄ Ａ 编程模型可以根据不同的需求提供不同的Ａ Ｐ Ｉ ， 开发者 可根据对Ｇ Ｐ Ｕ 的控制程度来使用 。 并且为了很 好的利用Ｃ Ｕ Ｄ Ａ 架构， Ｃ Ｕ Ｄ Ａ 还提供了一 系列的辅助开发、 调试的工具 。
本地内存中， 这样就会大大降低程序数据访问的效率。 全局寄存器也称之为线性寄存器 ， 占设备 内存的Ｄ Ｒ Ａ Ｍ 的 大部分空间， 在 内核函数运行时， 所有 的线程都可 以读 写其 中的数据。 正因如此， 它的访 问速度较慢 ， 耗时较多， 线程访 问全局寄存器一般都要花费几百个时间周期 。 全局寄存器一 般在Ｃ Ｐ Ｕ 中完成数据空间的开辟、 数据的拷贝和传输、 数据的 １ ． ２硬件 模 型 释放等操作。 软件程 序的运行是建立在硬件的基础 上的， 而Ｇ Ｐ Ｕ 之所 常量存储器位于显存 中， 空间大小一般为６ ４ Ｋ ， 是一段只 以能够比Ｃ Ｐ Ｕ 处理数据更加有效， 在于Ｇ Ｐ Ｕ 中有更多的晶体结 读的地址空间， 由于其具有缓存并且无访问冲突的优势， 常 构可用于计算。 而在Ｃ Ｕ Ｄ Ａ 的硬件架构中， 流处理器阵列是 由 常 用于常 数 的访 问。 多个线程处理器簇组成 ， 而每个Ｔ Ｐ Ｃ 又是由多个流处理器组 本地存储器是位于编译器分配的全局存储 中， 是归每个 成的。 每个流处理器 拥有一套完整 的逻辑处理单元， 就有一 系列的功能 ， 如取值、 编码、 译码等 。 每个流处理器是由８ 个 流处理单元和２ 组超级函数单元构成。 ２ 线程模型 在Ｃ Ｕ Ｄ Ａ 编程模 型中是 通过大量 的并行线程来实现计算 的， 因此Ｃ Ｕ Ｄ Ａ 架构下最小的执行单元线程 （ ｔ ｈ ｒ ｅ ａ ｄ ） 。 每个 线 程块 中是 由多个可以通信 的线程组 成， 每个 线程和线程块 都有唯一的标示Ｉ Ｄ ， 则可以通过索引确切定位到每个线程 。 线程的索引和线程的Ｉ Ｄ 是与线程块 的维度所确定的， 一维线 线程所私有的数据空间， 与全局存储器相同， 其在程序运行 过程 中不会缓存 ， 所 以其访问速度也较慢。 本地存储器一般 用来存放内核函数所声明的变量。 共享存 储器是可 以被 同一块中的所有线 程访 问的可读 写存储器 ， 它的生存期就是块的生命期。 在没有冲突的情况 下， 访 问共享存储 器几乎与访问寄存器 一样快 ， 是实现线程 间通信 的最 好方法 。 在 同一个 块 内， 所 有 的线 程都能够读 共享存储器 中的数据 ， 相比于Ａ Ｍ Ｄ 的显卡来 说， 共享存储 器
关键词： 图形处理器； Ｃ Ｕ Ｄ Ａ ； 并行处理
０ 引言
程 索引和Ｉ Ｄ 是相 同的， 二维维度 为（ ｍ ， ｎ ） 的线程 块， 线程索
Ｃ Ｕ Ｄ Ａ （ Ｃ ｏ ｍ ｐ ｕ ｔ ｅ Ｕ ｎ ｉ ｆ ｉ ｅ ｄ Ｄ ｅ ｖ ｉ ｃ ｅ Ａ ｒ ｃ ｈ ｉ ｔ ｅ ｃ ｔ ｕ ｒ ｅ ） 模型是 引（ ｘ ， ｙ ） 所对应的线程Ｉ Ｄ 为ｘ ＋ ｙ ｍ ； 三 维维度为 （ ｍ ， ｎ ， ｋ ） 的线程
第６ 期
２ ０ １ ５ 钽３
无线 互联 科技
Ｗｉ ｒｅ ｌ ｅ ｓ ｓ Ｉ ｎ ｔ ｅ ｒｎ ｅ ｔ Ｔ ｅ Ｃ ｈｎ ｏ ｉ ｏ
Ｎｏ． ６ Ｍａｒｃｈ，２０１ ５
浅谈Ｃ Ｕ ห้องสมุดไป่ตู้ Ｄ Ａ 并行计算体系
叶毅 嘉
（ 南昌航 空大学信息工程 学院， 江西 南昌 ３ ３ ０ ０ ６ ３ ）