分布式计算机并行处理技术英文翻译

A MODERN COURSE ON PARALLEL AND DISTRIBUTED PROCESSING

Lubomir Ivanov

Department of Computer Science

Iona College

715 North Avenue New Rochelle NY 10801

tel.: 914-633-2342

email: livanov@

摘要

在发展和并行计算系统的使用LED为训练有素的专业人员提供的硬件和软件方面的并行和分布式计算的飞速发展，知识的需要。本课程旨在帮助学生准备工作要求的给他们的实践经验与并行计算机另外，本课程强调软件基本联系计算机科学与其他学科如生物学生物化学，物理学和天文学，使用并行计算是平凡的。

I 简介

并行计算，多年来被视为一个纯粹的学术努力，逐渐成为现代主流的计算有很多原因的必要性：目前的微处理器技术似乎是最后到达极限的时钟速度，CPU可以操作与合理的冷却经典的并行计算技术，如SIMD已重新在上下文中的通用微处理器的另一方面的迅速发展，生物化学，物理学和天文学的急剧增加，需要更强大的计算平台的建模和模拟复杂的现实世界的现象和过程的新的领域如生物计算浸没在计算机科学与其他学科之间的界限，要求更大的广度和深度的知识和这些技能包括技术从业人员深入了解并行计算从硬件和软件的角度来看D只能通过丰富的实践工作经验的并行系统和项目。

准备这样受过高度训练的专业人士能够设计、实施和运行并行系统的软件和硬件水平的计算机科学课程必须包括一个覆盖面更广的并行计算在他们的课程，传统的课程作为选修课教并行计算是老年人或研究生课程通常包括典型的并行计算的历史概述主要的建筑方法历史意义的机加上一个简短的介绍各种不同的并行编程范式在现代并行体系结构和并行编程需要这样的治疗的主体是不够的同时学习ILLIAC IV和Cray YMP可能是有趣的从研究的角度设计的多样性决定，在这些早期的体系结构没有准备的学生适应现代的并行处理本文对平行轮廓上级本科课程的结构和内容，分布式计算，重点主要集中在并行和线程编程得到充分接触到现代的并行体系结构和理论课围绕基于目前感兴趣的问题，科学界的这些项目都是由使用支持线程的语言学生实施了一些比较大型的项目，现代技术（如Java）和并行编程库，如消息传递接口（MPI）除了开发并行算法的思想和编程技巧的学生学会估计他们的软件的预期的性能，通过分析其算法的运行时间的数目作为一个功能各种类型的过程的物理处理器和互连网络的通信能力，学生熟悉一些关键的现代并行体系结构研究CE某些方面的分布式操作系统的开发和理解映射虚拟流程，以最大限度地提高性能的机器的底层物理硬件的问题。

在本文余下的部分中，我们列出了需要并行和分布式计算的讨论的一个基本分类的并行体系结构和软件考虑一些现代的潮流并行计算和提出我们的并行和分布式计算过程的细节。

II 一个并行与分布式计算课程的必要性

目前的微处理器实现技术水平已达到亚100nm的范围不断增加电路复杂性打包到一个更小的空间总是会导致如量子力学效应和热，在目前的技术水平是很难或不可能克服的公司都在积极研究交替实现技术和材料的问题（例如“量子阱”的基础在InSb [ 1 ]晶体管）目前的微处理器实现技术似乎已达到顶峰的时钟速度，传统的冷却仍然可以采用事实上这正式为什么英特尔最新的pentium-d芯片运行在一个较低的原因（可达3.4GHz）的时钟速度比他们的前辈（Max 3.8GHz）他们会提供双核心技术，如果使用得当的软件将显着提高性能的其它传统的并行处理的概念，发现他们的方式进入现代指令集处理器等MMX和SSE（流SIMD扩展）在英特尔和AMD处理器的指令集的非传统的高度并行的架构，如神经网络和细胞自动机有助于处理问题的算法是很困难或不可能的设计在软件级别的线程将过程分为独立的并行任务–已广泛接受和支持线程已经成为最强大的编程语言如C++和Java大多数现代通用以及嵌入式应用程序是多线程的，有助于他们的效率，另一方面，并行处理库如PVM（并行虚拟机）和MPI（消息传递接口）已成为骨干开发高度复杂的应用处理各种各样的计算要求苛刻的问题从天文物理、化学、生物学和经济学的最新进展在生物DNA分析大气化学大气研究等，主要是由于高性能并行架构的可用性和支持软件

一般传统的微处理器技术面临着根本性的局限性和新颖的计算方法（量子计算等）很大程度上仍在研究的早期阶段的并行处理提供了唯一的机会，继续提高计算系统的性能，计算机行业软件和硬件已经接受了并行处理，它不再被认为是一个纯粹的学术努力具有讽刺意味的是，正是在学术界，并行计算仍然被人怀疑大多数工程类大学提供高级选修课，并行处理，往往不是提供一个广阔的历史概况领域没有强调现代并行处理一些这样的课程，以“硬件”的方法来并行计算和跟踪的演变并行体系结构，从它的起源在1960年代通过最近通过的机器数量较典型的建筑方法疼痛如ILLIAC IV为代表的SIMD机器的Cray YPM作为一个典型的向量处理器架构的Cray T3D作为经典的共享内存MIMD设计等小的代码片段来说明具体问题的编程机器的问题其他并行处理课程忽略并行处理完全相反而要集中在探讨一些不同的编程范式的建筑方面的

在文理学院的课程通常不提供并行处理的并行计算的唯一方面让学生接触到的是流水线和超标量处理器分别简要介绍在大多数计算机组织与结构课程的线程的概念通常是在操作系统课程只提到一些课程为学生提供实践经验的工作线程

III 并行与分布式计算

在本文中，我们将在平行的现状看，分布式计算，勾勒出一个力求平衡理论的硬件和软件方面的现代的并行和分布式计算我们认为不可能在一个单一的课程建筑和软件的方法以及广泛的理论已经发展了过去的几十年里，因此我们牺牲一些学科的宽度为一个更详细的治疗是必要的在今天的并行计算的特定区域的覆盖在众多课程。

1/并行和分布式计算的当前状态之前，我们考虑的内容当然需要我们简要地看一看国家现代的并行和分布式计算的现代并行体系结构，可以大致分为数据并行或并行数据并行结构是指采用相同的操作多个数据流并行数据并行机器的两个主要类别的向量和SIMD（单指令/多数据流）结构的另外一些微处理器，如英特尔奔腾和AMD速龙提供所谓的单指令多数据流扩展（SSE）的红外相应的指令集允许同时操作几个整数或浮点数的计算如神经网络和细胞自动机的一些非传统的模型也属于这一类