图4.CPU、GPU、FPGA、TPU、ASIC的比较 原图定位 AI服务器搭载更高性能计算内核、更大的内存容量,更适合大模型计算需求。从硬件组成细分,AI服务器采用异构形式服务器作为计算来源,主要内容包括 CPU+GPU、CPU+FPGA、CPU+ASIC等异构形式,优点在于其可以根据实际需求调整计算模块结构的灵活性。据 IDC 数据显示,2022年中国 AI市场 GPU占据 89%的市场份额。市场中种类较多的是 CPU+GPU,GPU数量单元丰富和流水线较长,擅长梳理图形渲染,可以有效满足 AI 的大规模并行计算,在 GPU+CPU的运算中,GPU 和 CPU 共享数据效率高,任务以极低的开销被调度到合适的处理器上,不需要内存拷贝和缓存刷新。CPU 多个专为串行处理而优化的串行部份,GPU 有大规模的小核心运行程序的并行部分、是高度算力的基础,二者的结合有利于充分发挥协同效应。AI服务器能够有效满足深度学习、神经网络的计算要求,AI服务器对 AI GPU的应用,有效支持卷积、池化和激活函数等多重矩阵运算,很大程度上提高了深度学习算法的计算效率,助推算力的提高。