NVSwitch升级情况 原图定位 第三代 NVSwitch 芯片(NVSwitch3),可以连接服务器内部各 GPU 卡,同时还可以将 GPU服务器扩展外连来建立一个独立完整的 GPU 高速集群。同时在 NVSwitch 芯片内通过硬件加速器来支持组播报文加速和引入 SHARP(Scalable Hierarchical Aggregation and Reduction Protocol),主要用来加速和优化 All-Reduce 的 AI 计算性能。通过第三代NVSwitch 芯片组成的物理交换机,可以建立一个最多 256 个 H100 GPU 卡的集群,整网提供 57.6TB/s 的 all-to-all 带宽。NVLink4.0 技术规范可以大大优化 GPU 的性能和扩展性。