GH200 Grace Hopper Superchip

GH200尺寸对比

72 核的Grace CPU

GH200 Grace Hopper Superchip架构图

每个 Grace CPU 具有72个ARM核心，配备 480GB LPDDR5X，内存带宽可达到500GB/s。

NVIDIA H200 是首款提供 HBM3e 的 GPU，作为一种更快、更大的内存，HBM3e可加速生成式 AI 和大型语言模型，同时能推进 HPC 工作负载的科学计算。借助 HBM3e，NVIDIA H200 能以每秒 4.8 TB 的速度提供 141GB 内存。

GH200 Grace Hopper Superchip NVIDIA Hopper GPU 和 Grace CPU 之间的高带宽 NVLink-C2C 链路可实现 CPU 和 GPU 之间的快速通信，从而有助于提高性能。

NVLink接口允许将各个GH200组件拓扑连接，做为更大计算系统的构建模块。

NVIDIA Grace CPU支持多达 64 个 PCIe Gen 5 通道用于 IO 连接。每个 8 个 PCIe Gen 5 x16 链路均支持高达 128 GB/s 的双向带宽，并且可以分为 2x8 以获得额外连接，并且可以支持各种 PCIe 插槽外形尺寸支持NVIDIA DPU、NVIDIA ConnectX SmartNIC、E1.S 和 M.2 NVMe 设备、模块化 BMC 选项等。  

Supermicro 的1U NVIDIA MGX服务器，配备两个NVIDIA GH200 Grace Hopper Superchip。

声明：文章内容整理自网络公开素材，版权归原作者平台所有，仅用于信息分享，如有侵权请联系删除。