2023年全球数据中心芯片市场规模份额预测(按芯片种类) 原图定位 CPU 与 GPU 的优势互见,在广阔的推理端市场里,两者都将有其用武之地。考虑到适合CPU 的是串行运算,而适合 GPU 的是并行运算、多模态数据处理、复杂的浮点运算(如矩阵运算)等,因此,在面对不同模态数据的推理时,例如,在处理语音、语言和文本数据的推理时,AI 模型需逐个识别目标文字,计算有序,或更适合使用擅长串行运算的 CPU进行运算支持;但在处理图像、视频等数据的推理时,需要大规模并行运算,或更适宜由GPU 负责,例如英伟达 L4 GPU 可将 AI 视频性能提高 120 倍。据英伟达测试,L4 与基于CPU 的传统基础设施相比能源效率提高 99%。