1、 2023年3月25日华为AI盘古大模型研究框架 华为产业链深度系列研究 行业评级：看好证券研究报告分析师陈杭分析师刘雯蜀研究助理安子超邮箱邮箱邮箱证书编号S04证书编号S02电话盘古大模型金字塔架构，算力为底层支撑盘古大模型金字塔架构，算力为底层支撑201资料来源：浙商证券研究所 混合自动并行 千亿参数超大模型集群调试调优工具图算融合策略模型部署模型训练人工智能框架AI开发平台CV大模型NLP大模型多模态大模型科学计算大模型数据处理模型管理ModelArts 3.0MindSpore 1.2AI算力资源服务器鲲鹏昇腾浙 商 陈

2、 杭盘古大模型8XeZaYdX9W8XfVcWbR9R8OnPrRsQpMlOnNtQiNsQsNbRpPrRxNmNuMMYnRmR添加标题95%摘要摘要 3目前我们将迎来科技的重大转折点：ChatGPT时刻。而在ChatGPT背后，不断迭代的GPT系列使得大模型成为当下科技企业核心竞争力的重要体现，未来，大模型将成为AIGC时代的核心支撑。华为作为国内科技龙头，2021年发布的盘古大模型有望在AIGC时代中引领潮流。我们将从：昇腾/鲲鹏MindSpore AI框架ModelArts盘古大模型四层架构进行分析：1、AI算力资源：“鲲鹏+昇腾”，打造盘古算力底座鲲鹏：华为自主芯片鲲鹏芯片鲲鹏服

3、务器欧拉操作系统高斯数据库行业应用向外扩张，构建鲲鹏生态，提供算力支撑。昇腾：昇腾AI处理器CANN异构计算架构MindSpore AI框架应用使能行业应用，助力打造华为昇腾全栈AI软硬件平台，构筑智能世界基石。2、人工智能框架：MindSpore高效易开发，可实现全场景覆盖CANN：作为华为昇腾AI基础软硬件平台的核心，CANN向上支持多种AI框架，向下服务AI处理器与编程，助力芯片使能。MindSpore：是国内首个支持千亿参数大模型训练AI计算框架，最佳匹配昇腾处理器算力，支持终端、边缘、云全场景灵活部署，开创全新的AI编程范式，降低AI开发门槛。3、AI开发平台：ModelArts强势

4、赋能开发者，精度效率双提升为机器学习与深度学习提供海量数据预处理及交互式智能标注、大规模分布式训练、自动化模型生成，及端-边-云模型按需部署能力，帮助用户快速创建和部署模型，管理全周期AI工作流。4、盘古大模型：AI落地的重要途径由NLP大模型、CV大模型、多模态大模型、科学计算大模型等多个大模型构成，目前已实现等AI场景落地。建议关注标的：神州数码、拓维信息、麒麟信安、软通动力、常山北明、海量数据、润和软件数据来源：华为云官网，浙商证券研究所浙 商 陈 杭风险提示风险提示41、宏观经济下行风险 2、上游晶圆紧缺加剧3、市场发展不及预期4、行业竞争风险目录C O N T E N T SAI算力

5、资源鲲鹏服务器助力满足澎湃算力需求昇腾全栈AI软硬件平台构筑智能世界基石010203人工智能框架CANN-AI异构计算架构芯片使能MindSpore智能适配盘古大模型AI开发平台ModelArts强势赋能开发者落地场景可覆盖完整产业链504盘古大模型NLP大模型 多模态大模型 CV大模型 科学计算大模型算力资源01Partone6 鲲鹏 昇腾7华为鲲鹏生态：华为自主芯片鲲鹏芯片鲲鹏服务器欧拉操作系统高斯数据库行业应用1、鲲鹏芯片：鲲鹏920作为低功耗、高性能的Arm处理器，为鲲鹏服务器主板及整机产品提供芯片支撑，是鲲鹏生态发展壮大的核心所在，在此基础上，华为进一步开启自主研发芯片，为鲲鹏生态发

6、展奠定坚实基础。2、鲲鹏服务器：华为凭借多年积累的硬件工程能力，打造TaiShan服务器，使能整个产业链，进一步构建完整鲲鹏生态。3、欧拉操作系统：作为面向B端的电脑服务器操作系统，华为自主研发的EulerOS，以Linux稳定系统内核为基础，南向支持多样性设备，北向覆盖全场景应用，横向对接鸿蒙，通过能力共享实现生态互通。4、高斯数据库：华为GaussDB是主打政企核心业务负载的金融级分布式数据库，目前已实现助力部分保险及车企数字化转型。5、行业应用：华为以行业聚合应用，通过平台和生态双轮驱动，形成行业应用矩阵，为众多行业客户提供解决方案。并陆续成立五大军团，不断开发全新应用场景。华为昇腾AI

7、产业：昇腾AI处理器CANN异构计算架构MindSpore AI框架应用使能行业应用1、Ascend：昇腾AI处理器作为基础，通过模块、标卡、小站、服务器等丰富的产品形态，打造面向“端、边、云“的全栈解决方案，为整个昇腾AI产业的底层核心支撑。2、CANN：作为华为昇腾AI基础软硬件平台的核心，CANN向上支持多种AI框架，向下服务AI处理器与编程，以极致性能、极简开发、开放生态为目标，助力昇腾构建全场景人工智能平台。3、MindSpore：是国内首个支持千亿参数大模型训练AI计算框架，覆盖包含生物医学在内的多个领域。4、应用使能：以昇腾AI处理器CANN异构计算架构MindSpore AI框

8、架的传导机制，为深度学习、智能边缘以及行业应用解决方案等强势赋能。数据来源：昇思官网，浙商证券研究所01AI算力资源算力资源浙 商 陈 杭算力布局算力布局=鲲鹏鲲鹏+昇腾昇腾8算力布局鲲鹏：最强算力异构计算服务器盘古大模型的底层算力支撑：昇腾芯片自主化鲲鹏920数据库Taishan 100Taishan 200操作系统To B：欧拉To C：鸿蒙服务器中间件Gauss DBDDM行业应用金融电力运营商医疗政府交通AI训练卡AI推理卡训练服务器MindX驱动层芯片使能MindSpore全场景AI框架CANN第三方平台DLModel Arts行业应用金融电信能源制造公共交通Edge SDKAtla

9、s系列数据来源：昇思官网，浙商证券研究所01浙 商 陈 杭添加标题Kunpeng处理器支持鲲鹏计算产业长期演进处理器支持鲲鹏计算产业长期演进019数据来源：鲲鹏计算产业发展白皮书，浙商证券研究所硬件：鲲鹏服务器实现数据中心高效能计算硬件：鲲鹏服务器实现数据中心高效能计算0110鲲鹏服务器TaiShan100包含2280均衡型和5280存储型等产品型号。基于鲲鹏916处理器的数据中心服务器，具有多核高并发、低功耗等计算优势，适合为大数据、分布式存储等应用高效加速。包含2280E边缘型、1280高密型、2280均衡型、2480高性能型、5280存储型和X6000高密型等产品型号。基于华为鲲鹏920

10、处理器，旨在满足数据中心多样性计算需求。TaiShan200TaiShan200 Pro包含2480、2280和1280等三款高端产品型号。基于鲲鹏920 3.0GHz高主频处理器，同时集成三大创新RAS特性，获得权威安全可信认证。高效能计算搭载具有超强算力的鲲鹏处理器多核计算架构高效加速应用安全可靠处理器及服务器芯片全自研17年计算工程能力铸就稳如泰山品质开放生态开放计算平台支持业界主流软件携手合作伙伴，共赢计算新生态数据来源：鲲鹏社区官网，浙商证券研究所浙 商 陈 杭澎湃算力携手合作伙伴，共同拓展鲲鹏计算产业澎湃算力携手合作伙伴，共同拓展鲲鹏计算产业0111数据来源：鲲鹏社区官网，浙商证券

11、研究所整机伙伴大数据平台分布式存储中间件云平台数据库OS基础软件伙伴浙 商 陈 杭昇腾昇腾AI底层支撑系列产品底层支撑系列产品0112数据来源：华为昇腾官网，浙商证券研究所开发者套件AI加速模块推理卡训练卡智能小站边缘服务器推理服务器训练服务器芯片：昇腾310最高算力：22 TOPS芯片：昇腾910最高算力：280 TFLOPS芯片：昇腾310最高算力：88 TOPS芯片：昇腾310最高算力：22 TOPS芯片：鲲鹏920最高算力：352 TOPS芯片：昇腾310最高算力：22 TOPS8*昇腾910+4*鲲鹏920最高算力：2.24 PFLOPS2*鲲鹏920最高算力：704 TOPSAI模

12、块加速卡智能边缘AI服务器64*昇腾910+32*鲲鹏920形态：47U机柜AI集群数千颗昇腾910算力：256P1024P FLOPS AI集群AI集群基础单元浙 商 陈 杭昇腾生态伙伴网络遍及主流厂商昇腾生态伙伴网络遍及主流厂商 数据来源：昇腾社区官网，浙商证券研究所整机硬件伙伴IHV硬件伙伴一体机解决方案伙伴应用软件伙伴辅助运营伙伴13浙 商 陈 杭01人工智能框架02Partone14CANN MindsporeCANN：软硬协同释放澎湃算力：软硬协同释放澎湃算力0215数据来源：华为昇腾官网，浙商证券研究所昇腾计算语言AscendCL算子开发接口TBE计算图开发接口AIR应用开发接口

13、昇腾计算服务层昇腾算子库AOLNN库其他昇腾调优引擎NN库其他NN库其他FrameworkAdapterGraph ComplierTBE昇腾计算编译层昇腾张量编译器ATCRuntimeHCCL昇腾计算执行层昇腾计算执行器ACEGraph ExecutorAIPPDVPP其他OSSVM昇腾计算基础层昇腾基础层ABLVMHDC其他浙 商 陈 杭昇思昇思 MindSpore 总体架构总体架构0216数据来源：华为昇腾官网，浙商证券研究所昇腾计算语言AudioModel Zoo模型库ModelHub开发态友好全场景部署VisionRecNLPExtend强化学习/GNN/深度概率编程Sience科学

14、计算电磁仿真/分子模拟/量子计算Expression 全场景统一APINNOps第三方前端DatasetTrain/InferNumpy函数/OOP编程范式融合AI+数值计算表达融合动静表达统一单机分布式表达统一仓颉Julia运行态高效Complier AI编译器内存优化图算融合流水线执行IR中间表达层硬件相关优化量子自动生成量化/剪枝/蒸馏数据格式数据加载异构加速数据增强Data端-边-云全场景运行时系统Runtime多样性硬件CNN(NPU)CUDA(GPU)Eigen(CPU)oneDNN(CPU)密态AI可信AIArmour性能调优网络调试Insight精度调优AI安全二阶优化自动并行

15、自动微分类型推导浙 商 陈 杭MindSpore 执行流程执行流程0217数据来源：昇腾计算产业发展白皮书，浙商证券研究所端云协同（联邦学习、端云AutoML等）MindSpore 训练和验证ModelZoo模型库MindSpore DevKit开发套件MindSpore Extend高阶扩展库MindSpore Hub预训练模型MindSpore Insight 可视化MindSpore Data数据MindSpore Armour AI安全MindIR端云统一IRMindSpore Servinig 云测推理MindSpore Lite 端侧推理端边增量学习Fine-tuning训练等下载

16、模型模型导出模型导入调试调优安全机制数据处理浙 商 陈 杭AI开发平台03Partone18ModelArts1903华为云AI开发生产线ModelArts在AI云服务方面的竞争优势越发明显。历经多年的技术创新，ModelArts已成功在十多个领域进行商业化落地，持续领跑机器学习公有云市场，为AI开发带来变革。1、简化开发，让AI落地更简单华为云AI开发生产线ModelArts支持全流程MLOps开发，实现行业数据参与AI持续迭代，大幅提升AI应用的二次开发效率。发起AI生态伙伴计划D-Plan，提供“人”“货”“场”服务，和行业ISV一起，加速AI解决方案在行业的落地。基于D-Plan的AI

17、项目实践，华为云已在AI Gallery上沉淀了9大行业场景Usecase，覆盖生产、销售、服务和运营等企业运作全场景。AI Gallery还汇聚了2000多个覆盖零售、医疗、游戏等数十个商业领域的优质模型，助力千行百业智能升级。2、深耕技术，让AI应用更高效ModelArts沉淀了知识计算、盘古大模型和天筹AI求解器三项AI根技术，持续构建大模型训练及推理加速能力、分布式训练能力等，从算力资源调度、AI业务编排、AI资产管理以及AI应用部署，提供数据处理、算法开发、模型训练、模型管理、模型部署等AI应用开发全流程技术能力。3、应用实例互联网领域：华为云ModelArts基于算法优化、语音质检

18、等途径，有效提升了T3出行司乘安全检测模型的准确率和召回率，使危险驾驶事件率下降38.6%，同时大幅降低模型开发和交付周期。自动驾驶领域：针对AI算法训练，华为云ModelArts支撑端到端训练效率提升；分布式多级缓存技术可以将训练时长缩短50%；针对大规模集群训练，拓扑感知调度和动态软路由技术可以提升训练性能30%。数据来源：IDC，华为云公众号，浙商证券研究所AI开发平台开发平台浙 商 陈 杭一站式一站式AI开发平台开发平台ModelArets易用且高效易用且高效 20数据来源：华为官网，浙商证券研究所数据优化数据数据处理模型管理模型训练模型部署云端开发环境AI Gallery数据筛选数据

19、标注版本管理自定义镜像精度跟踪模型转换模型评估模型库模型可视化分布式集群Mindspore异构资源超参搜索在线服务批量服务边缘服务数据集交易模型交易算法交易AI应用1AI应用2模型更新Notebook在线编码自动学习 预置算法主流AI开发框架PC端开发环境多元网络搜索特征工程智能标注团队标注03浙 商 陈 杭ModelArts重大特性重大特性0321训练推理效率指数级增长开发周期一降再降（月级天级）所需样本显著降低（万个几十）小样本下，起步精度提升90%常见算法、工具，AI Gallery直达轻松下载、开发更便利算法上传，资源易共享AI资产，高效沉淀和流通提供各角色无缝协作平台提升业务价值产出

20、向导式完成AI服务运维和更新降低运维、更新门槛实现全流程一键化运行MLOps，AI全流程生命管理AI Gallery,AI资源无限扩展大模型加速AI业务上线数据来源：华为云公众号，浙商证券研究所浙 商 陈 杭ModelArts应用场景实例应用场景实例0322计算框架AI根技术ModelArts OS数据标注数据处理模型训练模型评估应用生成应用评估推理部署服务监测通用场景套件NLP套件OCR套件视觉套件声音套件行业场景实例视觉质检工艺优化生产排程二维切割工装识别出行调度可乘安全游戏对战生产销售销售预测销售访销运营服务MindSporeTensorFlowPytorchRayDeepStreamM

21、ediaPipe知识计算盘古大模型天筹AI求解器声音检测数据来源：华为云公众号，浙商证券研究所浙 商 陈 杭盘古大模型04Partone23NLP 多模态 CV 科学计算“盘古”开天记，AI落地时 数据来源：华为云公众号，浙商证券研究所24天堑：“小作坊式”的AI开发困境登山：盘古大模型背后的人与事翻越：“盘古”究竟强在何处？灯火：大模型的落地进行时思索：AI工业化的虹吸与变革过去开发模式“三高问题”：开发人员专业性要求高、综合成本高、不可控程度高。需要拥有作为底座的“重型机械”预训练大模型：提前将知识、数据、训练成果沉淀到一个模型中，然后将这个基础释放到产业。2020年3月：田奇加入华为云-

22、8月：核心专家加入-9月：推动立项两大门槛：技术门槛+资源门槛盘古大模型核心设计原则：模型大；网络结构强；优秀的泛化能力选择赛道：NLP+机器视觉未来规划：多模态+科学计算大模型一系列挑战：算力资源不足、行业数据磨合、内部团队“超人发挥”物流场景：协助浦发银行构建了“物的银行”浦慧云仓。人员行为、货物检测性能提升5-10%，开发效率提升，成本降低。落地行业：已在100多个行业场景完成验证，包括能源、零售、金融、工业、医疗、环境、物流等等。目前我们处在AI工业化开发模式起步后的快速发展阶段，而大模型是最有希望将AI进行落地的方向。盘古大模型的价值：推动AI的低成本、可复制。多重力量的携手与跨界：

23、产学研的纵向融合，不同行业领域的横向协同，诞生AI工业化的虹吸效应。2021年4月，盘古大模型正式对外发布。盘古NLP大模型：业界首个千亿参数的中文预训练大模型，在CLUE实现了业界领先。盘古CV大模型：业界首次实现模型按需抽取，在ImageNet上小样本学习能力业界第一。优势和能力点：兼顾架构+小样本学习能力、微调能力、集成行业知识的能力更强+以商业价值驱动研发创新的“实干模式”大模型+生态化、协同创新浙 商 陈 杭04NLP模型助力各行提升效率，气象模型全面胜于传统方法 数据来源：华为云官网，浙商证券研究所NLP模型智能舆情智能营销行业效果精准舆情分析企业运营软件分析行业效果取代上升的人力

24、成本取代低端客服与营销盘古气象大模型关键技术3DEST网络结构效果精度超传统方法速度超传统方法千倍预测台风路径降低20%位置误差分层时间聚合算法25浙 商 陈 杭首次使用Encoder-Decoder架构小样本学习超越GPT系通用知识 x 行业经验生成与理解性能领先04盘古大模型：盘古大模型：CV+多模态多模态+语言语言26数据来源：华为云官网，浙商证券研究所04跨模态检索 丨 跨模态生成 丨 看图说话持续推出CV大模型：分类 丨 分割 丨 检测亿级图片数据预训练CV大模型数据处理模型生成模型优化业界最大预训练CV模型：30亿参数，10亿级图像判别与生成联合预训练：底层/高层视觉预训练任务通用

25、100+场景验证：研发成本降低90%小样本学习性能领先：ImageNet10%标签分类精度业界第一智能巡检智慧物流多模态大模型跨模态检索跨模态生成看图说话语言大模型语音识别语音分类任务语音回归任务浙 商 陈 杭应用实例：盘古时尚多模态大模型应用实例：盘古时尚多模态大模型0427亿级自然图像预训练十万级时尚产业数据微调盘古时尚多模态大模型优化策略：模型并行、数据并行、混合精度运算、稀疏训练等天级单位完成训练节点并行调度算法未来1、帮助设计师洞察流行趋势2、支持生成多样化服饰3、帮助批量生成符合要求的服饰图片4、具备分钟级设计推理能力为四川大凉山孩子制作爱心冬衣；依靠AI、云计算等技术支撑，将设计

26、时间从三周缩短为5-7天。技术层面应用实例对十万级时尚产业数据的颜色、版型、图案等元素进行分析后，批量生成与流行趋势接近的服饰，将当下流行元素视觉化并提炼给设计师，洞察用户消费意向，预判行业流行趋势。盘古多模态大模型基于大规模时尚产业数据，向设计师推荐服饰图片。设计师搜集素材的时间占整个制作周期的70%以上。应用盘古大模型，设计师能够在创作前期根据不同的推荐结果快速积累灵感，快速进入二次创作。盘古时尚多模态大模型当前可支撑一站式批量呈现128张推理生成的服饰图片。当前盘古多模态时尚大模型利用Attention Cache等技术加快推理速度，在华为云提供的单卡V100支持上可支撑分钟级推理速度，

27、快速反馈推理结果。浙 商 陈 杭数据来源：华为云公众号，浙商证券研究所应用实例：药物分子大模型 数据来源：华为云公众号，浙商证券研究所28AI+制药降本增效Drug X迎来重大突破科技平台与科研团队联手AI与生物医药双向赋能全流程辅助药物设计AI未来大有可为华为云AI辅助药物设计服务研发周期 数年 成本 高研发周期 一个月 成本 70%过去将来基于盘古药物分子大模型训练独有“图-序列不对称条件自编码器”架构计出化合物的新颖性可以达到99.68%成药性预测的准确性提升20%海量数据训练把药物分子结构转换成可量化的数值，可以更好地在数值空间定量地对药物分子结构与性质进行预测与推荐。学习了17亿个药

28、物分子的化学结构，能够对药物分子的80多种化合物理化性质进行预测，包括水溶性、吸收、代谢活性、排泄速率、毒性等。华为云盘古药物分子大模型”包含多方面的创新，该大模型在药物研发领域推出的预训练大模型，对实现全流程的 AI 辅助药物设计会大有帮助。经典药物研发过程各期临床试验等阶段开创新的药物研究范式靶点验证、化合物筛选、药物优化AI+制药，尤其药物设计环节，是复杂软件工程，涉及到非常大规模的计算。华为云的优势：大数据与AI相结合华为云未来计划：结合硬件，持续打造软硬件能力兼备的药物辅助设计平台。创新药行业同质化靶点扎堆问题严峻，能给新药研发带来颠覆性变化的AI+制药被寄予厚望。浙 商 陈 杭04

29、点击此处添加标题添加标题点击此处添加标题点击此处添加标题点击此处添加标题点击此处添加标题点击此处添加标题添加标题点击此处添加标题点击此处添加标题添加标题点击此处添加标题添加标题95%行业评级与免责声明行业评级与免责声明 29行业的投资评级以报告日后的6个月内，行业指数相对于沪深300指数的涨跌幅为标准，定义如下：1、看好 ：行业指数相对于沪深300指数表现10%以上；2、中性 ：行业指数相对于沪深300指数表现10%10%以上；3、看淡 ：行业指数相对于沪深300指数表现10%以下。我们在此提醒您，不同证券研究机构采用不同的评级术语及评级标准。我们采用的是相对评级体系，表示投资的相对比重。建议

30、：投资者买入或者卖出证券的决定取决于个人的实际情况，比如当前的持仓结构以及其他需要考虑的因素。投资者不应仅仅依靠投资评级来推断结论 行业评级与免责声明行业评级与免责声明30法律声明及风险提示本报告由浙商证券股份有限公司（已具备中国证监会批复的证券投资咨询业务资格，经营许可证编号为：Z39833000）制作。本报告中的信息均来源于我们认为可靠的已公开资料，但浙商证券股份有限公司及其关联机构（以下统称“本公司”）对这些信息的真实性、准确性及完整性不作任何保证，也不保证所包含的信息和建议不发生任何变更。本公司没有将变更的信息和建议向报告所有接收者进行更新的义务。本报告仅供本公司的客户作参考之用。本公

31、司不会因接收人收到本报告而视其为本公司的当然客户。本报告仅反映报告作者的出具日的观点和判断，在任何情况下，本报告中的信息或所表述的意见均不构成对任何人的投资建议，投资者应当对本报告中的信息和意见进行独立评估，并应同时考量各自的投资目的、财务状况和特定需求。对依据或者使用本报告所造成的一切后果，本公司及/或其关联人员均不承担任何法律责任。本公司的交易人员以及其他专业人士可能会依据不同假设和标准、采用不同的分析方法而口头或书面发表与本报告意见及建议不一致的市场评论和/或交易观点。本公司没有将此意见及建议向报告所有接收者进行更新的义务。本公司的资产管理公司、自营部门以及其他投资业务部门可能独立做出与

32、本报告中的意见或建议不一致的投资决策。本报告版权均归本公司所有，未经本公司事先书面授权，任何机构或个人不得以任何形式复制、发布、传播本报告的全部或部分内容。经授权刊载、转发本报告或者摘要的，应当注明本报告发布人和发布日期，并提示使用本报告的风险。未经授权或未按要求刊载、转发本报告的，应当承担相应的法律责任。本公司将保留向其追究法律责任的权利。联系方式联系方式31浙商证券研究所 上海总部地址：杨高南路729号陆家嘴世纪金融广场1号楼25层北京地址：北京市东城区朝阳门北大街8号富华大厦E座4层深圳地址：广东省深圳市福田区广电金融中心33层邮政编码：200127 电话：(8621)80108518 传真：(8621)80106010 浙商证券研究所：http:/