计算机集群共享gpu,GPU集群

GPU集群是一个计算机集群，其中每个节点配备有图形处理单元(GPU)。通过图形处理单元(GPGPU)上的通用计算来利用现代GPU的计算能力，可以使用GPU集群执行非常快速的计算。GPU集群可以使用来自两个主要独立硬件供应商的硬件(AMD和NVIDIA)。

中文名

GPU集群

学    科

计算机硬件定    义

一个计算机集群

目    的

执行非常快速的计算

有关术语

图形处理单元

GPU集群简介

编辑

语音

从硬件架构角度，GPU集群只是把作为外设通过高速PCI总线连接到节点内部通过PCI总线连接GPU。并且通过高速以太网或者高速交换网络进行互连。GPU的加入使得集群呈现节点内部计算资源的异构化。GPU集群单个节点内部不仅可以包含单核CPU、多核CPU甚至多CPU计算资源，而且包含了单GPU或者多GPU。由于GPU不仅具有异构于CPU的计算资源，而且具有复杂而程序员可见的存储层次。CPU与GPU之间通过总线连接，虽然GPU作为计算资源，但是GPU仍然为计算节点的外部设备，CPU和GPU之间的数据传输必须在CPU的控制之下显式进行。GPU作为面向多规模数据并行计算的计算资源使得GPU集群在并行计算能力呈现多层次化。GPU集群不仅能够支持常规粒度的单程序多数据和多程序多数据计算能力，并且可以支持更细粒度的面向大规模数据单程序多数据的和单指令多数据计算能力。给集群提供了强大的大规模数据并行处理能力。

GPU集群这种异构计算资源和多层次并行计算能力给并行程序的设计带来了巨大的困难。并行编程环境作为集群系统的必需部件，因此集群系统的设计必须包含能够契合GPU集群体系结构的编程模型和方便可靠的编程环境。主流的GPU集群编程模型是MPI+CUDA，负责进程间的数据传输，CUDA负责GPU