1、2023年2月10日ChatGPT芯片算力：研究框架【AIGC算力时代系列报告】行业评级：看好证券研究报告分析师陈杭研究助理安子超邮箱邮箱证书编号S04算力需求爆发拉动芯片量价齐升量价芯片需求光模块和光芯片AI芯片（加速器）GPUCPUFPGAAI光模块ChatGPT完美运行训练数据模型算法算力模型迭代Transformer技术算力需求增加英伟达GPU A100模型训练成本1200万美元AI训练计算需求预计每3.5个月翻一番1万颗芯片需求快速增加芯片均价大幅提升通过AI服务器实现资料来源：浙商证券研究所2YUlWrUhVtUaXzRyQ9PaOaQmOqQpNpMfQmM

2、sQlOqRtQ6MnMoOuOrRnOxNnOrM添加标题95%摘要3ChatGPT热潮席卷全球。ChatGPT（Chat Generative Pre-trained Transformer）是由OpenAI于2022年12月推出的对话AI模型，一经面世便受到广泛关注，其2023年1月月活跃用户达到1亿，是史上月活用户增长最快的消费者应用。在问答模式的基础上ChatGPT可以进行推理、编写代码、文本创作等等，这样的特殊优势和用户体验使得应用场景流量大幅增加。1、芯片需求=量 x 价，AIGC拉动芯片产业量价齐升1）量：AIGC带来的全新场景+原场景流量大幅提高。技术原理角度：ChatGPT

3、基于Transformer技术，随着模型不断迭代，层数也越来越多，对算力的需求也就越来越大；运行条件角度：ChatGPT完美运行的三个条件：训练数据+模型算法+算力，需要在基础模型上进行大规模预训练，存储知识的能力来源于1750亿参数，需要大量算力。2）价：对高端芯片的需求将拉动芯片均价。采购一片英伟达顶级GPU成本为8万元，GPU服务器成本通常超过40万元。支撑ChatGPT的算力基础设施至少需要上万颗英伟达GPU A100，高端芯片需求的快速增加会进一步拉高芯片均价。2、ChatGPT的“背后英雄”：芯片，看好国内GPU、CPU、FPGA、AI芯片及光模块产业链1）GPU：支撑强大算力需求

4、。由于具备并行计算能力，可兼容训练和推理，目前GPU被广泛应用于加速芯片。看好海光信息、景嘉微；2）CPU：可用于推理/预测。AI服务器利用CPU与加速芯片的组合可以满足高吞吐量互联的需求。看好龙芯中科、中国长城；3）FPGA：可通过深度学习+分布集群数据传输赋能大模型。FPGA具备灵活性高、开发周期短、低延时、并行计算等优势。看好安路科技、复旦微电、紫光国微；4）ASIC：极致性能和功耗表现。AI ASIC芯片通常针对AI应用专门设计了特定架构，在功耗、可靠性和集成度上具有优势。看好寒武纪、澜起科技；5）光模块：容易被忽略的算力瓶颈。伴随数据传输量的增长，光模块作为数据中心内设备互联的载体，

5、需求量随之增长。看好德科立、天孚通信、中际旭创。风险提示41、AI技术发展不及预期2、版权、伦理和监管风险3、半导体下游需求不及预期目录C O N T E N T SChatGPT带动算力芯片量价齐升010203CPU、GPU、FPGA、AI芯片提供底层算力支持光模块支撑数据传输5算力需求爆发拉动芯片量价齐升01PartoneAI计算需要各类芯片支撑算力需求爆发，芯片量价齐升AI服务器为算力载体CPU、GPU、FPGA、ASIC、光模块各司其职6人工智能四层架构，芯片为底层支撑7底层芯片深度学习框架大模型上层应用CPUGPUFPGAASIC百度：PaddlePaddleMeta：PyTorch

6、谷歌：TensorFlow华为：MindSporeOpenAI：GPT3.5华为：盘古大模型AIGCAI音乐：DeepMusicAI绘画：盗梦师AI写作：弈写ChatGPT百度：文心大模型谷歌：PaLM01资料来源：澜舟科技，IDC，量子位，电子发烧友等，浙商证券研究所人工智能不同计算任务需要各类芯片实现01资料来源：Huawei forum，浙商证券研究所CPUGPUFPGAAI用ASIC通用性强，应用方便性能更优，能效更高强大的调度、管理、协调能力；应用范围广开发方便灵活 逻辑判断 任务调度与控制并行架构计算单元多适合大量逻辑确定的重复计算 模型训练成本低能耗低性能强针对AI设定特定架构

7、成熟量产阶段 研发阶段 数据中心 AI推理低延时开发周期短硬件可根据需求调整成本和壁垒高8ChatGPT流量激增，为AI服务器带来重要发展机遇019资料来源：Sensor Tower，World of Engineering，头豹研究院，华经产业研究院，浙商证券研究所原场景流量提升+新应用场景服务器算力要求提升AI服务器需求增加达成1亿月活跃用户耗时2个月9个月30个月54个月60个月78个月史上用户增速最快消费级应用应用原场景流量提升创造新应用场景ChatGPT在问答模式的基础上进行推理、编写代码、文本创作等，用户人数及使用次数均提升。智能客服智能音箱陪伴型机器人游戏NPC内容生产传统CPU

8、服务器通用性较强，专用性较弱数据的质和量发生变化,非结构化数据占比激增算力无法满足AI服务器需求终端用户使用频率提高，数据流量暴涨，对服务器的数据处理能力、可靠性及安全性等要求相应提升CAGR=18.8%122亿美元288亿美元20202025全球AI服务器市场规模ASICAI服务器快速增长，大力拉动芯片需求0110资料来源：IDC，2022-2023中国人工智能计算力发展评估报告，芯八哥，wind，浙商证券研究所整理0%10%20%30%40%50%60%70%80%90%100%20202022420252026训练推理GPU,89.0%NPU,9.6%ASIC,1.

9、0%FPGA,0.4%新华三/HPE,15.6%戴尔,15.4%浪潮,8.9%联想,6.4%华为,1.1%ODM,35.5%其他,17.1%浪潮,30.7%新华三/HPE,17.5%戴尔,7.5%华为,7.4%联想,6.6%ODM,8.5%其他,21.8%中国人工智能服务器工作负载预测2021年全球服务器市场格局2021年中国服务器市场格局中国人工智能芯片市场规模占比AI服务器=？CPU+异构形式GPUFPGA或或AI服务器芯片构成CPU+加速芯片11CPU+加速芯片：通常搭载GPU、FPGA、ASIC等加速芯片，利用CPU与加速芯片的组合可以满足高吞吐量互联的需求自然语言处理计算机视觉训练（

10、算力 30TOPS）推理（算力 30TOPS）计算（530TOPS）芯片种类优点缺点GPU提供了多核并行计算的基础结构，核心数多，可支撑大量数据的并行计算，拥有更高浮点运算能力管理控制能力弱，功耗高FPGA可以无限次编程，延时性较低，拥有流水线并行（GPU只有数据并行），实时性最强，灵活性最高开发难度大，只适合定点运算，价格比较昂贵ASIC与通用集成电路相比体积更小，重量更轻，功耗更低，可靠性提高，性能提高，保密性增强，成本降低灵活性不够，价格高于FPGAAI服务器应用领域应用场景机器学习高度适配资料来源：华经产业研究院，亿欧智库，浙商证券研究所CPU擅长逻辑控制，可用于推理/预测0112资料

11、来源：CSDN，浙商证券研究所整理控制单元存储单元运算单元控制指令数据整个CPU的指挥控制中心，由指令寄存器IR、指令译码器ID和操作控制器OC等组成。暂时存放数据的区域，保存等待处理或已经处理过的数据。执行部件，运算器的核心。可以执行算术运算和逻辑运算。运算单元所进行的全部操作都是由控制单元发出的控制信号来指挥。优势劣势作为计算机系统的运算和控制核心，是信息处理、程序运行的最终执行单元。控制指令CPU有大量的缓存和复杂的逻辑控制单元，擅长逻辑控制、串行的运算。计算量较小，且不擅长复杂算法运算和处理并行重复的操作。在深度学习中可用于推理/预测取指令指令译码执行指令修改指令计数器CPU运行原理服

12、务器CPU向多核心发展，满足处理能力和速度提升需要0113资料来源：芯论语，半导体产业纵横，AMD官网，浙商证券研究所英特尔从单核到多核AMD从双核到96核200520102017奔腾D系列酷睿i7-980X酷睿i92020Lakefield史上第一个双核处理器首款6核处理器18核处理器首款采用混合架构的x86 5核处理器200520072018Athlon 64 X2Phenom9500第二代锐龙Threadripper2020锐龙Threadripper3990X同一块芯片内整合两个K8核心首款原生4核处理器最大核心数量已达到32核拥有64核单核心CPU串行单任务处理“一心一用”分时多任务

13、处理“一心多用”多核心CPU“多心多用”处理的任务更多、处理速度更快分时多任务处理系统性能优劣不能只考虑CPU核心数量，还要考虑操作系统、调度算法、应用和驱动程序等。2023Sapphire Rapids拥有56个核心2023霄龙9004核心数量最多可达96个95%GPU高度适配AI模型构建0114AI模型构建（以英伟达A100为例）资料来源：英伟达官网，镁客网，腾讯网，浙商证券研究所训练过程推理过程多实例 GPU(MIG)技术允许多个网络同时基于单个 A100 运行，从而优化计算资源的利用率。在 A100 其他推理性能增益的基础之上，仅结构稀疏支持一项就能带来高达两倍的性能提升。在 BERT

14、 等先进的对话式AI 模型上，A100可将推理吞吐量提升到高达 CPU 的 249 倍；ChatGPT引发GPU热潮百度：即将推出文心一言（ERNIE Bot）苹果：引入AI加速器设计的M2系列芯片（M2 pro和M2 max）将被搭载于新款电脑OpenAI：随着ChatGPT的使用量激增，OpenAI需要更强的计算能力来响应百万级别的用户需求，因此增加了对英伟达GPU的需求AMD：计划推出与苹果M2系列芯片竞争的台积电4nm工艺Phoenix系列芯片，以及使用Chiplet工艺设计的Alveo V70AI芯片。这两款芯片均计划在今年推向市场，分别面向消费电子市场以及AI推理领域GPU的并行计

15、算高度适配神经网络GPU帮助高速解决问题：2048 个 A100GPU 可在一分钟内成规模地处理 BERT 之类的训练工作负载；0.7X3XV100FP161XA100 40GBFP16A100 80GBFP161X249XCPU Only245XA100 40GBA100 80GBFPGA：可通过深度学习+分布集群数据传输赋能大模型01资料来源：ofweek，摩尔星球，C114，知识产权课堂，亿欧智库，浙商证券研究所FPGA可编程灵活性高：半定制电路，理论上可以实现任意ASIC和DSP的逻辑功能开发周期短：可通过设计软件处理布线、布局及时序等问题。现场可重编功能：可以远程通过软件实现自定义硬

16、件功能。低延时：逻辑门通过硬件线连接，不需要时钟信号方便并行计算：集成了大量基本门电路，一次可执行多个指令算法深度学习通信接口异构计算、并行计算数据高速收发、交换推理Intel，AMD(Xilinx)，亚马逊，微软，百度，阿里，腾讯AMD(Xilinx)训练Intel，AMD(Xilinx)/数据中心边缘端15ASIC可进一步优化性能与功耗，全球巨头纷纷布局0116随着机器学习、边缘计算、自动驾驶的发展，大量数据处理任务的产生，对于芯片计算效率、计算能力和计能耗比的要求也越来越高，ASIC通过与CPU结合的方式被广泛关注，国内外龙头厂商纷纷布局迎战AI时代的到来。国内外ASIC芯片龙头布局国外

17、谷歌：张量处理器TPU国内最新的TPU v4集群被称为Pod，包含4096个v4芯片，可提供超过1 exaflops的浮点性能英伟达：GPU+CUDA阿里巴巴：含光800AI芯片硬件：自研芯片架构；软件：集成达摩院先进算法，可实现大网络模型在一颗NPU上完成计算。百度：昆仑2代AI芯片采用全球领先的7nm 制程，搭载自研的第二代 XPU 架构，相比一代性能提升2-3倍；昆仑芯3代将于2024年初量产。华为：昇腾910业界算力最强的AI处理器，基于自研华为达芬奇架构3D Cube技术；主要面向大型数据密集型 HPC 和 AI 应用；基于 Grace 的系统与 NVIDIA GPU 紧密结合，性能

18、比NVIDIA DGX 系统高出 10 倍；Habana（Intel收购）已推出云端 AI 训练芯片 Gaudi 和云端 AI 推理芯片 Goya；资料来源：机器之心，华为官网，半导体产业纵横，公开资料整理，浙商证券研究所数据传输速率：容易被忽略的算力瓶颈01资料来源：Google Scholar，并行处理中节点间通信对加速比的影响，浙商证券研究所算力需求：超摩尔发展算力供给：芯片提升+并行计算并行瓶颈：数据传输速率模型发布时间算力（FLPOs）深度学习之前深度学习时代大模型时代20个月翻倍（近似摩尔定律）5-6个月翻倍（远超摩尔定律）AI时代模型算力需求以超过摩尔定律增长数据中心通过交换机网

19、络实现设备互联17理论加速比实际加速比通信延时导致加速放缓并行计算节点数加速比数据传输核心器件：光模块01资料来源：中际旭创年报，光纤在线，电子发烧友，华经情报网，浙商证券研究所光模块电信数通数据中心内部数据中心互联骨干城域接入32.6%67.4%数据中心占光模块一半以上市场(2021Q4)发射器件接收器件电信号驱动电路激光器（内含光芯片）探测器（内含光芯片）放大器光纤传输电信号电信号光信号电信号光模块包含发射器件和接收器件，光纤通信时的光电转换光模块向高速传输发展，以顺应数据传输量增长趋势181x9、GBIC-20102010-2020SFP、XFPQSFP、CFP

20、、COBO2020之后QSFP-DD、OSFP-XD10G40G400G800、1.6T硅光技术相干技术光电共封装技术（CPO）技术创新引领本土产业链弯道突围02Partone19国产服务器CPU发展之路通过CHIPLET布局先进制程，服务器芯片广泛应用存算一体打破“存储墙”限制，实现降本增效服务器CPU需求增长，国化产三条发展路线0220资料来源：IDC，wind，浙商证券研究所整理CISCX86架构RISCARM架构MIPS架构MIPS架构IP内核授权指令集架构授权授权+自主研制指令集龙芯中科申威科技上海兆芯海光信息华为鲲鹏天津飞腾自主化程度：低，未来扩充指令集难度较大，但生态迁移成本小、

21、性能高缺点：安全基础不牢靠自主化程度：较高，安全基础相对牢靠，拥有自主发展权缺点：生态构建较为困难自主化程度：极高，申威科技已基本实现完全自主可控缺点：生态构建极其困难中国服务器市场规模国产服务器CPU发展之路020004000600080000222023202420252026中国加速计算服务器市场预测（百万美元）服务器CPU市场格局AMD,9.80%英特尔,90.20%服务器CPU X86架构厂商份额未来算力升级路径：CHIPLET、存算一体0221资料来源：知乎先进存算一体芯片设计（陈巍等），浙商证券研究所近期CHATGPT的兴起推动着人工智能在应用端的蓬勃发展，

22、这也对计算设备的运算能力提出了前所未有的需求。虽然AI芯片、GPU、CPU+FPGA等芯片已经对现有模型构成底层算力支撑，但面对未来潜在的算力指数增长，短期使用CHIPLET异构技术加速各类应用算法落地，长期来看打造存算一体芯片（减少芯片内外的数据搬运），或将成为未来算力升级的潜在方式。2016AlphaGo(DeepMind)2019AlphaStar(DeepMind)2018BERT(Google AI)2020GPT-3(OpenAI)2021AlphaFold2(DeepMind)2022Gato(DeepMind)CPUGPU未来：存算一体？2023ChatGPT(OpenAI)游

23、戏蛋白质结构大模型通用AI大算力未来：Chiplet？CHIPLET是布局先进制程、加速算力升级的关键技术0222资料来源：芯智讯，浙商证券研究所能用能用够用好用13590nm6545nm28nm14nm7nm5nm3/2nm=+=123芯粒芯粒美国芯片法案ChipletChiplet芯粒+=功率模拟数字4G基站服务器L2+CPUGPUFPGAAI演算基带5GAI智能座舱L4+智驾智能电车、无人驾驶智能座舱、VRARMR人工智能、5/6G手机+Chiplet异构技术不仅可以突破先进制程的封锁，并且可以大幅提升大型芯片的良率、降低设计的复杂程度和设计成本、降低芯片制造成本。Chiplet技术加速

24、了算力升级，但需要牺牲一定的体积和功耗，因此将率先在基站、服务器、智能电车等领域广泛使用。CHIPLET已广泛应用于服务器芯片0223资料来源：各公司官网，浙商证券研究所添加标题添加标题Chiplet服务器芯片AMD：EPYC 第1代至第4代英特尔：第14代酷睿 Meteor Lake华为海思：鲲鹏920寒武纪：云端AI芯片思元370 Chiplet服务器芯片的引领者，4代产品采用5nm 基于chiplet 的第一代AMD EPYC 处理器中，装载8 个“Zen”CPU 核，2 个DDR4 内存通道和32 个PCIe 通道，以满足性能目标。2022年AMD正式发布第四代EPYC处理器，拥有高达

25、96颗5nm的Zen 4核心，并使用新一代的Chiplet工艺，结合5nm和6nm工艺来降低成本。首次采用 intel 4工艺，首次引入chiplet小芯片设计，预计将于23年下半年推出 至少性能功耗比的目标要达到 13 代 Raptor Lake 的 1.5 倍水平。基于7nm制程工艺，是寒武纪首款采用chiplet（芯粒）技术的AI芯片 集成了390亿个晶体管，最大算力高达256TOPS(INT8)，是寒武纪第二代产品思元270算力的2倍。内存带宽是上一代产品的3倍，访存能效达GDDR6的1.5倍。采用7nm制造工艺，基于ARM架构授权 由华为公司自主设计完成。典型主频下，SPECint

26、Benchmark评分超过930。龙芯中科：龙芯3D5000（试验）面向服务器市场的 32 核 CPU 产品，通过Chiplet技术把两个 3C5000 硅片封装在一起，集成了32 个 LA464 处理器核和 64MB 片上共享缓存，22年末初样试验成功存算一体：打破“存储墙”限制，技术迭代演进0224资料来源：知乎先进存算一体芯片设计（陈巍等），浙商证券研究所面对计算中心的数据洪流，数据搬运慢、搬运能耗大等问题成为了计算的关键瓶颈。从处理单元外的存储器提取数据，搬运时间往往是运算时间的成百上千倍，整个过程的无用能耗大概在60%-90%之间，能效非常低。算力发展速度存储发展速度存储墙限制“存储

27、墙”成为了数据计算应用的一大障碍存算技术演进路线查存计算（Processing With Memory）近存计算（Computing Near Memory）存内计算（Computing In Memory）存内逻辑（Logic In Memory）GPU对复杂函数的运算最早期技术AMD的Zen系列CPU三星HBM-PIM千芯科技Mythic闪存知存TSMC千芯科技满足大模型计算精度要求存算一体：更大算力、更高能效、降本增效0225资料来源：知乎先进存算一体芯片设计（陈巍等），浙商证券研究所计算单元计算单元计算单元计算单元控制单元缓存片外内存计算控制单元缓存计算计算计算计算控制单元缓存计算计算

28、计算计算控制单元缓存计算计算计算片外内存控制单元存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算存算片外内存存算存算存算存算存算存算存算CPU一般10-100计算核心GPU一般万量级计算核心存算一体一般百万量级等效计算核心存算一体就是存储器中叠加计算能力，以新的高效运算架构进行二维和三维矩阵计算。存算一体的优势包括：（1）具有更大算力（1000TOPS以上）（2）具有更高能效（超过10-100TOPS/W），超越传统ASIC算力芯片（3）降本增效（可超过一个数量级）存算一体存储器中叠加计算能力，以新的高效运

29、算架构进行二维和三维矩阵运算。存算一体的应用领域自动驾驶自然语言处理智慧城市商品推荐工业视觉医药计算个性化推荐多语言精准识别风险提示261、AI技术发展不及预期：当前以ChatGPT为代表的NLP模型以及其他类型人工智能模型发展仍不成熟，存在一定缺陷；2、版权、伦理和监管风险：AIGC生成的内容依赖现有版权素材，另外不当使用或模型自身问题可能导致不良后果；3、半导体下游需求不及预期：全球芯片行业存在周期性，可能因宏观经济波动导致需求低迷。点击此处添加标题添加标题点击此处添加标题点击此处添加标题点击此处添加标题点击此处添加标题点击此处添加标题添加标题点击此处添加标题点击此处添加标题添加标题点击此

30、处添加标题添加标题95%行业评级与免责声明27行业的投资评级以报告日后的6个月内，行业指数相对于沪深300指数的涨跌幅为标准，定义如下：1、看好：行业指数相对于沪深300指数表现10%以上；2、中性：行业指数相对于沪深300指数表现10%10%以上；3、看淡：行业指数相对于沪深300指数表现10%以下。我们在此提醒您，不同证券研究机构采用不同的评级术语及评级标准。我们采用的是相对评级体系，表示投资的相对比重。建议：投资者买入或者卖出证券的决定取决于个人的实际情况，比如当前的持仓结构以及其他需要考虑的因素。投资者不应仅仅依靠投资评级来推断结论行业评级与免责声明28法律声明及风险提示本报告由浙商证

31、券股份有限公司（已具备中国证监会批复的证券投资咨询业务资格，经营许可证编号为：Z39833000）制作。本报告中的信息均来源于我们认为可靠的已公开资料，但浙商证券股份有限公司及其关联机构（以下统称“本公司”）对这些信息的真实性、准确性及完整性不作任何保证，也不保证所包含的信息和建议不发生任何变更。本公司没有将变更的信息和建议向报告所有接收者进行更新的义务。本报告仅供本公司的客户作参考之用。本公司不会因接收人收到本报告而视其为本公司的当然客户。本报告仅反映报告作者的出具日的观点和判断，在任何情况下，本报告中的信息或所表述的意见均不构成对任何人的投资建议，投资者应当对本报告中的信息和意见进行独立评

32、估，并应同时考量各自的投资目的、财务状况和特定需求。对依据或者使用本报告所造成的一切后果，本公司及/或其关联人员均不承担任何法律责任。本公司的交易人员以及其他专业人士可能会依据不同假设和标准、采用不同的分析方法而口头或书面发表与本报告意见及建议不一致的市场评论和/或交易观点。本公司没有将此意见及建议向报告所有接收者进行更新的义务。本公司的资产管理公司、自营部门以及其他投资业务部门可能独立做出与本报告中的意见或建议不一致的投资决策。本报告版权均归本公司所有，未经本公司事先书面授权，任何机构或个人不得以任何形式复制、发布、传播本报告的全部或部分内容。经授权刊载、转发本报告或者摘要的，应当注明本报告发布人和发布日期，并提示使用本报告的风险。未经授权或未按要求刊载、转发本报告的，应当承担相应的法律责任。本公司将保留向其追究法律责任的权利。联系方式29浙商证券研究所上海总部地址：杨高南路729号陆家嘴世纪金融广场1号楼25层北京地址：北京市东城区朝阳门北大街8号富华大厦E座4层深圳地址：广东省深圳市福田区广电金融中心33层邮政编码：200127 电话：(8621)80108518 传真：(8621)80106010 浙商证券研究所：http:/