NVLinkSwitch系统通过两级NVLink结构,使得单个DGXGH200系统可连接256个GH200芯片,实现高达144TB内存的容量 原图定位 芯片以外,NVLink 可支持跨节点多 GPU 间的数据访问与高速传输,具备较高的内存容量和较强的扩展性。而 MI300 所用的第四代 Infinity Fabric 方案尚未发布。MI300 配置的显存为 128GB HBM,相比 Grace Hopper 芯片中的 96GB HBM。而英伟达通过其独家的NVLink 连接实现较强扩展性,允许多芯片高速互联,构成高带宽的超级计算系统,解决了因数据处理量增大而 GPU 本地内存容量无法满足存储的痛点。比起传统的替代方案(即通过 PCIe 总线从 CPU 系统内存中提取数据),NVLink 可提供高带宽和低延迟的数据传输, 保持GPU 以最高性能运行。据英伟达在 2023年 5月 29 日上的Computex 2023大会公布,DGX GH200超算通过 NVLink 互连技术及 NVLink Switch系统串联由 32台 8块GH200 超级芯片组成的系统(pod),将总计 256 块 GH200 芯片合并成单一超级计算机。故 NVLink使 DGX GH200 中的每个 GPU 都能以最高 900 GB/s 的速度任意访问其他 GPU 和 CPU 的内存,实现总计高达 144 TB 内存。