CUDA 是英伟达称霸 GPU 领域的关键因素。CUDA 是 NVIDIA 在 2006 年推出的一种并行计算平台和编程模型,包含 CUDA 指令集架构和 GPU 内部的计算引擎,以及编译器、调试器、开发库、运行环境和驱动等全套工具包,是一种完整的 GPU 解决方案,可大幅提升 GPU 的计算性能。自 CUDA 推出以来,英伟达在将 GPU 转化为更通用的计算工具方面持续高额投入,使之全面支持 C 语言等标准编程语言以及 OpenCL 等 API 接口,并且将硬件支持下沉至千元游戏卡 Geforce,以此吸引了大量的开发者和世界领先企业的加入,构筑起依托于 CUDA 软件栈之上的第三方应用与工具链生态壁垒。更为重要的是,英伟达开源了Cub、NCCL、Nvcaffe 等通用场景下的开发库,尤其是深度学习成为主流之后,英伟达有针对性地对软件拓展和芯片架构进行协同设计调优,在通用性和效率上获得了很好的平衡,使得 GPU 和 CUDA 被 AI 从业者视为标配选择。当前绝大部分的深度学习训练和推理框架都把对于英伟达 GPU 的支持和优化作为目标,形成了自我加强的生态正循环。
CUDA 是英伟达称霸 GPU 领域的关键因素。CUDA 是 NVIDIA 在 2006 年推出的一种并行计算平台和编程模型,包含 CUDA 指令集架构和 GPU 内部的计算引擎,以及编译器、调试器、开发库、运行环境和驱动等全套工具包,是一种完整的 GPU 解决方案,可大幅提升 GPU 的计算性能。自 CUDA 推出以来,英伟达在将 GPU 转化为更通用的计算工具方面持续高额投入,使之全面支持 C 语言等标准编程语言以及 OpenCL 等 API 接口,并且将硬件支持下沉至千元游戏卡 Geforce,以此吸引了大量的开发者和世界领先企业的加入,构筑起依托于 CUDA 软件栈之上的第三方应用与工具链生态壁垒。更为重要的是,英伟达开源了Cub、NCCL、Nvcaffe 等通用场景下的开发库,尤其是深度学习成为主流之后,英伟达有针对性地对软件拓展和芯片架构进行协同设计调优,在通用性和效率上获得了很好的平衡,使得 GPU 和 CUDA 被 AI 从业者视为标配选择。当前绝大部分的深度学习训练和推理框架都把对于英伟达 GPU 的支持和优化作为目标,形成了自我加强的生态正循环。