英伟达A100及H100产品图 原图定位 ◼ 随着ChatGPT这一现象级AI应用的火爆,科技巨头们纷纷行动,引发人工智能投资热潮。2023年12月,谷歌1.2 大模型训练催生算力需求,高性能芯片供不应求庞大的数据吞吐带来硬件方面的新要求:1)快速读取内存中的大量数据,即高带宽存储;2)同时处理简单但数量庞大的并行运算。设计上的先天差异决定GPU相比CPU在训练大语言模型或搭建高算力服务器时更有优势,英伟达设计的AI专用显卡H100等产品成为今年大厂抢购的明显单品,市场供不应求: