《人工智能行业动态报告:端侧AI变革将至迎接AIPC、Phone时代-231107(31页).pdf》由会员分享,可在线阅读,更多相关《人工智能行业动态报告:端侧AI变革将至迎接AIPC、Phone时代-231107(31页).pdf(31页珍藏版)》请在三个皮匠报告上搜索。
1、端侧端侧AIAI变革将至,迎接变革将至,迎接AI PC/PhoneAI PC/Phone时代时代证券研究报告证券研究报告 行业动态报告行业动态报告发布日期:2023年11月7日本报告由中信建投证券股份有限公司在中华人民共和国(仅为本报告目的,不包括香港、澳门、台湾)提供。在遵守适用的法律法规情况下,本报告亦可能由中信建投(国际)证券有限公司在香港提供。同时请务必阅读正文之后的免责条款和声明。分析师:于芳博分析师:于芳博SAC编号:S01研究助理:辛侠平研究助理:辛侠平分析师:金戈分析师:金戈SAC编号:S01SFC编号:BPD352 核心观点:端侧核
2、心观点:端侧AIAI是是AIAI发展下一阶段发展下一阶段,其具备独立性其具备独立性、低时延等性能低时延等性能,能够完成各种能够完成各种AIAI推理任务推理任务,大模型小型化大模型小型化、端侧端侧AIAI框架开源等为终端硬件承框架开源等为终端硬件承载载AIAI算法提供了可能;端侧算法提供了可能;端侧AIAI芯片性能提升芯片性能提升,存储存储、模组等升级打通了终端硬件运行模组等升级打通了终端硬件运行AIAI算法的道路算法的道路。AIAI PCPC、AIAI PhonePhone作为端侧作为端侧AIAI的核心持续向前发的核心持续向前发展展,近期英特尔近期英特尔、高通高通、联想等国内外厂商持续发布相关
3、产品联想等国内外厂商持续发布相关产品、战略规划战略规划,打造智能终端的同时也完善相关产业生态打造智能终端的同时也完善相关产业生态,我们看好端侧我们看好端侧AIAI产业进展产业进展。端侧端侧AIAI是是AIAI发展下一阶段发展下一阶段,大模型轻量化等技术推进端侧大模型轻量化等技术推进端侧AIAI发展发展。端侧端侧AIAI具备安全性具备安全性、独立性独立性、低时延低时延、高可靠性等特点高可靠性等特点,能很好地完成各种能很好地完成各种AIAI推理任务推理任务。目前目前,多个大模型均已推出多个大模型均已推出“小型化小型化”和和“场景化场景化”版本版本,其轻量化提供了端侧运行基础其轻量化提供了端侧运行基
4、础。此外此外,对于数据精度例如对于数据精度例如INTINT4 4、INTINT8 8的支持优化的支持优化、ExecuTorchExecuTorch等等AIAI框架的开源框架的开源,为端侧为端侧AIAI进展铺平道路进展铺平道路。端侧端侧AIAI核心在于手机和核心在于手机和PCPC,AIAI PhonePhone和和AIAI PCPC将开启新时代将开启新时代。从今年从今年2 2月份举行的世界移动通信大会月份举行的世界移动通信大会,高通展示了其手机端离线运行大模型高通展示了其手机端离线运行大模型,到到5 5月份微软开发者大会高通展示其月份微软开发者大会高通展示其PCPC运行运行AIAI大模型大模型,
5、再到近期英特尔再到近期英特尔、联想等发布联想等发布AIAI PCPC加速计划加速计划、发布首款发布首款AIAI PCPC等等,可以看出可以看出,国内国内外厂商持续发力外厂商持续发力AIAI PhonePhone和和AIAI PCPC,端侧端侧AIAI将走入新的时代将走入新的时代。AIAI PCPC核心升级在于芯片核心升级在于芯片。AIAI PCPC不同于传统不同于传统PCPC的主要之处在于其的主要之处在于其SoCSoC芯片中要有芯片中要有AIAI模块模块,通过通过AIAI芯片中的芯片中的NPUNPU等模块为硬件终端提供算力支等模块为硬件终端提供算力支撑撑,从而运行端侧从而运行端侧AIAI大模型
6、大模型。过去过去PCPC芯片主要是以芯片主要是以IntelIntel为代表的为代表的x x8686架构芯片架构芯片,AIPCAIPC的提出要求了的提出要求了SOCSOC芯片有芯片有AIAI算力算力,在端侧在端侧AIAI推理能力推理能力方面方面,过去手机上就搭载了过去手机上就搭载了NPUNPU,高通经验积累深厚高通经验积累深厚,IntelIntel的笔记本芯片则是的笔记本芯片则是CPU+GPUCPU+GPU。生态上生态上,WindowsWindows也开始全力支持也开始全力支持ARMARM体系体系,自去自去年开始了多轮支持年开始了多轮支持ArmArm架构芯片的操作系统更新架构芯片的操作系统更新,
7、高通大概率会在高通大概率会在PCPC市场上拿到部分份额市场上拿到部分份额。除芯片外除芯片外,DRAMDRAM、计算模组等有望迎来新的升计算模组等有望迎来新的升级与市场机遇级与市场机遇。我们看好端侧我们看好端侧AIAI产业进展产业进展,尤其是尤其是AIAI PhonePhone和和AIAI PCPC领域领域,其已有相关产品落地其已有相关产品落地,将传统将传统PCPC、PhonePhone结合上结合上AIAI能力有望带动整个能力有望带动整个PCPC、PhonePhone产业链复苏;通过将大模型赋能终端硬件产业链复苏;通过将大模型赋能终端硬件,AIAI应用浪潮将有望开启应用浪潮将有望开启。核心观点
8、3UMANAbY9YjZsOsO9P9R7NtRnNpNpMiNoPnMjMpPuMaQmNsRvPrRqPNZnRtQ端侧AI是AI发展下一阶段资料来源:创业邦,中信建投端侧智能化的核心在于数据、底层软硬件、智能力三个方面。端侧设备搭载的传感器、芯片、算法模型赋予其数据采集、计算、端侧智能化的核心在于数据、底层软硬件、智能力三个方面。端侧设备搭载的传感器、芯片、算法模型赋予其数据采集、计算、分析与推理能力,使其能够在端侧完成数据处理闭环,形成感知、计算、推理三个智能力。分析与推理能力,使其能够在端侧完成数据处理闭环,形成感知、计算、推理三个智能力。当前云侧当前云侧AIAI呈现向端侧呈现向端侧
9、AIAI的转型趋势。端侧运行具备四大优势:的转型趋势。端侧运行具备四大优势:(1 1)通过终端独立运行以及云通过终端独立运行以及云-端协同承担计算负载,可大大降端协同承担计算负载,可大大降低云端算力需求及能耗成本;(低云端算力需求及能耗成本;(2 2)解决“弱网”“溢云”等极端场景使用难题,保证低时延、高可靠性;()解决“弱网”“溢云”等极端场景使用难题,保证低时延、高可靠性;(3 3)强隐私保护性和)强隐私保护性和强定制性,可生成专有用户画像;(强定制性,可生成专有用户画像;(4 4)具有自然语言语音交互的天然优势,可以便捷地获取图片、照片、视频、位置等信息,)具有自然语言语音交互的天然优势
10、,可以便捷地获取图片、照片、视频、位置等信息,优化使用体验。优化使用体验。图图表:端侧表:端侧AIAI是必然趋势是必然趋势图图表:端侧智能化要素表:端侧智能化要素 图表:高通在安卓手机上进行图表:高通在安卓手机上进行Stable DiffusionStable Diffusion演示演示图表:高通全栈图表:高通全栈AIAI优化优化端侧AI在于AI Phone与AI PC20232023年年2 2月月,在于巴塞罗那举行的世界移动通信大会在于巴塞罗那举行的世界移动通信大会(MWCMWC)上上,高通展示了全球首个在安卓手机上跑高通展示了全球首个在安卓手机上跑AIAI画图大模型的能力画图大模型的能力。
11、高通高通AIAI ResearchResearch利用高通利用高通AIAI软件栈软件栈(QualcommQualcomm AIAI StackStack)执行全栈执行全栈AIAI优化优化,并且并且首次在首次在AndroidAndroid智能手机上部署智能手机上部署StableStable DiffusionDiffusion。首先首先,为了将模型从为了将模型从FPFP3232压缩至压缩至INTINT8 8,该团队使用了高通该团队使用了高通AIAI模型增效工具包模型增效工具包(AIMET)(AIMET)的训练后量化的训练后量化,使模型在高通专用使模型在高通专用AIAI硬件上高硬件上高效运行效运行
12、,在在提高性能的同时提高性能的同时降低内存带宽消耗降低内存带宽消耗。在编译方面在编译方面,该团队利用高通该团队利用高通AIAI引擎引擎DirectDirect框架将神经网络映射到能够在目标硬框架将神经网络映射到能够在目标硬件上高效运行的程序中件上高效运行的程序中。最后最后,高通高通AIAI引擎引擎DirectDirect框架基于高通框架基于高通HexagonHexagon处理器的硬件架构和内存层级进行序列运算处理器的硬件架构和内存层级进行序列运算,从而提升性从而提升性能并最小化内存溢出能并最小化内存溢出。这一全栈优化最终让这一全栈优化最终让StableStable DiffusionDiffu
13、sion能够在智能手机上运行能够在智能手机上运行,在在1515秒内执行秒内执行2020步推理步推理,生成一张生成一张512512x x512512像素的图像像素的图像。这是在智能手机上最快的推理速度这是在智能手机上最快的推理速度,且用户文本输入完全不受限制且用户文本输入完全不受限制。资料来源:高通,中信建投 端侧AI在于AI Phone与AI PC图表:在搭载高通芯片的图表:在搭载高通芯片的PCPC上运行上运行Stable DiffusionStable Diffusion图表:在搭载高通芯片的图表:在搭载高通芯片的PCPC上加速图像处理上加速图像处理在微软在微软Build2023Build2
14、023开发者大会期间,高通展示了其最新的终端侧开发者大会期间,高通展示了其最新的终端侧AIAI能力,包括骁龙平台上运行生成式能力,包括骁龙平台上运行生成式AIAI以及支持在下一代以及支持在下一代Windows 11 Windows 11 PCPC上开发生成式上开发生成式AIAI的工具。的工具。此次高通发布的重点在其骁龙此次高通发布的重点在其骁龙8cx Gen 38cx Gen 3上。高通展示了集成上。高通展示了集成HexagonHexagon运算单元的骁龙运算单元的骁龙8cx Gen38cx Gen3在本地运行的优秀表现,并且为了进在本地运行的优秀表现,并且为了进一步推动其发展,高通开放了一步
15、推动其发展,高通开放了AIAI引擎引擎Direct SDKDirect SDK,让任何开发者都可以充分利用该硬件进行加速。高通使用集成骁龙,让任何开发者都可以充分利用该硬件进行加速。高通使用集成骁龙8cx Gen 38cx Gen 3的联的联想想ThinkPad X13sThinkPad X13s进行了相关展示。进行了相关展示。1010月月2525日,高通在日,高通在20232023骁龙峰会上正式发布了首款基于自研骁龙峰会上正式发布了首款基于自研CPUCPU架构“架构“OryonOryon”的的PCPC平台方案平台方案骁龙骁龙X EliteX Elite,可运行,可运行包括大语言模包括大语言模
16、型型(LLM)(LLM)在内在内的的1 13 30 0亿参数大模型,进一步优化自研亿参数大模型,进一步优化自研AIAI芯片业态。根据高通公布数据,骁龙芯片业态。根据高通公布数据,骁龙X EliteX Elite单核性能强于苹果单核性能强于苹果M2 MaxM2 Max、英特尔、英特尔i9i9-13980HX13980HX,能耗还更低,分别降低,能耗还更低,分别降低30%30%、65%65%。资料来源:高通,中信建投 AI+PC/Phone能大幅提升手机/电脑性能体验AIAI PhonePhone方面方面,小米小米1414/1414 ProPro搭载相关大模型搭载相关大模型,无需联网无需联网,可本
17、地端实现可本地端实现AIAI画图画图、智能问答智能问答、AIAI写作等功能写作等功能,例如根据语音例如根据语音、文文字指示生成对应文本甚至程序代码字指示生成对应文本甚至程序代码,可细化到可细化到APPAPP定制文案;另外定制文案;另外,也可根据用户浏览记录也可根据用户浏览记录、工作内容生成配套的总结和推送;在工作内容生成配套的总结和推送;在美图方面美图方面,配备了配备了AIAI抠图和修图技术抠图和修图技术,可自动替换背景可自动替换背景、美化人像美化人像,并进行多并进行多APPAPP互动;在用户进行休闲游戏体验时互动;在用户进行休闲游戏体验时,可自动修改可自动修改为性能模式为性能模式,实时配套帧
18、率;最后实时配套帧率;最后,小米小米1414系列手机也是系列手机也是HyperOSHyperOS系统产品系统产品,可实现与小米旗下的家居互联可实现与小米旗下的家居互联,自动调控小米音箱自动调控小米音箱、洗衣机等洗衣机等。AIAI PCPC方面方面,在在20232023 联想联想TechTech WorldWorld创新科技大会中创新科技大会中,进行了端侧大模型与云端大模型的比较进行了端侧大模型与云端大模型的比较。两个模型同时进行斯德哥尔摩音两个模型同时进行斯德哥尔摩音乐节的规划乐节的规划,生成速度差异不大生成速度差异不大。值得注意的是值得注意的是,端侧端侧AIAI的规划内容更加个性化的规划内容
19、更加个性化,可以将家庭地址可以将家庭地址、酒店偏好等考虑进去酒店偏好等考虑进去。图图表:小米表:小米HyperOSHyperOS及及1414系列支持大模型框架应用系列支持大模型框架应用图图表:联想表:联想PCPC大模型与云端大模型并列演示大模型与云端大模型并列演示资料来源:小米,联想,中信建投 AI+Phone/PC&需求回暖有望逆转行业颓势疫情以来疫情以来,由于消费需求疲软和库存调整由于消费需求疲软和库存调整,全球智能手机出货量下滑全球智能手机出货量下滑,20232023年前三季度为年前三季度为8 8.4 4亿部亿部,仅为仅为20222022年同期的年同期的8585%,但可但可以看出以看出,
20、2222年年底以来年年底以来,全球智能手机销量下降幅度开始缩窄全球智能手机销量下降幅度开始缩窄,今年三季度今年三季度,全球智能手机销量重回正增长;另一方面全球智能手机销量重回正增长;另一方面,从微软从微软财报可以看到财报可以看到,其个人电脑业务其个人电脑业务,也在也在2424财年财年1 1季度季度(2323Q Q3 3)实现同比正增长实现同比正增长,这也是从这也是从2323财年财年2 2季度以来微软个人电脑业务重新季度以来微软个人电脑业务重新回归正增长回归正增长。可以看到全球手机与电脑业务有复苏迹象可以看到全球手机与电脑业务有复苏迹象,预计预计AI+PhoneAI+Phone/PC/PC能进一
21、步推动行业颓势逆转的同时也有助于带动其自身起量能进一步推动行业颓势逆转的同时也有助于带动其自身起量。资料来源:Wind,微软,中信建投0.3%-30%-20%-10%0%10%20%30%40%50%050030035040045012%15%11%2%0%-19%-9%-4%3%-30%-20%-10%0%10%20%30%40%0500300生产力及业务流程智能云个人电脑生产力及业务流程YoY智能云YoY个人电脑YoY图图表:全球智能手机销量从表:全球智能手机销量从2121年年Q3Q3以来重回同比正增长以来重回同比正增长图图表:微软个人电脑业务时
22、隔四个季度重回正增长表:微软个人电脑业务时隔四个季度重回正增长 大模型轻量化带动端侧AI发展模型压缩主要包括模型量化模型压缩主要包括模型量化(Model(Model Quantization)Quantization)、知识蒸馏知识蒸馏(knowledge(knowledge distillation)distillation)、模型剪枝模型剪枝(Model(Model Pruning)Pruning)、低秩适应低秩适应(Low(Low-RankRank Adaptation)Adaptation)、权值共享权值共享(weight(weight sharing)sharing)、结构搜索结构搜
23、索(architecture(architecture search)search)等方式等方式。目前目前,多个大模型均已推出多个大模型均已推出“小小型化型化”和和“场景化场景化”版本版本,其轻量化提供了端侧运行基础其轻量化提供了端侧运行基础。例如例如,GoogleGoogle PaLMPaLM2 2中包含中包含4 4个大模型个大模型,按照参数规模按照参数规模,从小到大排列从小到大排列为:独角兽为:独角兽(UnicornUnicorn)、野牛野牛(BisonBison)、水獭水獭(OtterOtter)和壁虎和壁虎(GeckoGecko)。其中其中,最轻量的最轻量的“壁虎壁虎”可实现手机端运行
24、可实现手机端运行,且速度且速度足够快足够快,不联网也能正常工作不联网也能正常工作。另一方面另一方面,“小型化小型化”大模型加速生成式大模型加速生成式AIAI垂直方向发展垂直方向发展,加速大模型商业化场景落地加速大模型商业化场景落地。“小型化小型化”大模型的优势包括:大模型的优势包括:(1 1)可降可降低训练门槛低训练门槛,降低高算力高投入降低高算力高投入,吸引更多公司参与;吸引更多公司参与;(2 2)聚焦专业领域聚焦专业领域,利于提高数据集质量利于提高数据集质量,加速生成式加速生成式AIAI训练品质;训练品质;(3 3)更更容易将大模型与垂直行业需求结合容易将大模型与垂直行业需求结合,发挥出行
25、业应用价值发挥出行业应用价值。资料来源:百度,中信建投图图表:百度文心表:百度文心 ERNIE 3.0 Tiny v2 ERNIE 3.0 Tiny v2 压缩模式及得分比较压缩模式及得分比较图图表:大模型小型化表:大模型小型化模型名字小型化版本PaLM2GeckoLLaMA-7BAlpaca-LORABertAlbertTinyBertHFL/RBT3文心一言文心 ERNIE 3.0 Tiny v2ChatGLMChatGLM-6BBioMedGPTBioMedGPT-1.6B 支持INT4、INT8精度推理,端侧AI能力进一步提升定点表示和浮点表示是计算机中常用的数据格式。其中,定点表示中
26、小数点位置固定不变,常用的定点表示有定点表示和浮点表示是计算机中常用的数据格式。其中,定点表示中小数点位置固定不变,常用的定点表示有INT4INT4和和INT8INT8;浮点表示;浮点表示中包括符号位、阶码部分、尾数部分。符号位决定数值正负,阶码部分决定数值表示范围,尾数部分决定数值表示精中包括符号位、阶码部分、尾数部分。符号位决定数值正负,阶码部分决定数值表示范围,尾数部分决定数值表示精FP64(FP64(双精度双精度)、FP32(FP32(单精度单精度)、FP16(FP16(半精度半精度)的数值表示范围和表示精度依次下降,运算效率依次提升。的数值表示范围和表示精度依次下降,运算效率依次提升
27、。端侧端侧AIAI使用使用INTINT整数精度进行推理,能够有效提升能效和整数精度进行推理,能够有效提升能效和AIAI推理速度。高通产品管理副总裁推理速度。高通产品管理副总裁AsgharAsghar曾表示如果将曾表示如果将3232位浮点模型转化为位浮点模型转化为INT4INT4整数模型,端侧整数模型,端侧AIAI能效将提升能效将提升6464倍。为满足端侧倍。为满足端侧AIAI的计算需求,业内已有产品支持的计算需求,业内已有产品支持AIAI模型以模型以INTINT精度推理,例如高通人工智能引擎精度推理,例如高通人工智能引擎AI EngineAI Engine支持支持INT8INT8的数据格式。的
28、数据格式。图图表:表:不同应用场景的常见数据格式不同应用场景的常见数据格式资料来源:英伟达,量子位,中信建投数值精度逐渐提升数值精度逐渐提升运算效率逐渐提升运算效率逐渐提升数据格式数据格式构成构成用途用途FP641位符号、11位指数、52位尾数常用于对精度要求高的科学计算FP321位符号、8位指数、23位尾数深度学习模型训练的常见格式TF321位符号、8位指数、10位尾数替代FP32数据格式实现深度学习和HPC计算加速FP161位符号、5位指数、10位尾数深度学习越来越偏向使用FP16BF161位符号、8位指数、7位尾数提升AI模型的推理速度和部署灵活性INT88个bit表示一个数字INT8精
29、度相对较低,常用于AI模型的端侧推理图图表:不同数据格式的构成和用途表:不同数据格式的构成和用途科学计算:FP64、FP32AI训练:FP32TF32FP16AI推理:FP16FP8INT8 PyTorch开源ExecuTorch,相关AI框架已支持端侧运行在在20232023年年PyTorchPyTorch大会上大会上,MetaMeta AIAI与与PyTorchPyTorch基金会合作的基金会合作的ExecuTorchExecuTorch模型被宣布可在边缘和移动设备上实现模型被宣布可在边缘和移动设备上实现AIAI推理推理。随着随着ExecuTorchExecuTorch的开源的开源,AIA
30、I应用程序将可实现本地运行应用程序将可实现本地运行,无需连接到服务器或云无需连接到服务器或云。ExecuTorchExecuTorch可被理解成可被理解成PyTorchPyTorch平台平台,提供基础设施提供基础设施来运行来运行PyTorchPyTorch程序程序,实现从实现从AR/VRAR/VR可穿戴设备到标准的可穿戴设备到标准的iOSiOS和和AndroidAndroid设备的移动部署设备的移动部署。ExecuTorchExecuTorch有三大优势有三大优势:(1 1)可移植性可移植性,能够在移动和嵌入式设备上运行;能够在移动和嵌入式设备上运行;(2 2)提高开发人员的工作效率提高开发人
31、员的工作效率。开发人员能够使用相开发人员能够使用相同的工具链和同的工具链和SDKSDK,从而提高生产力;从而提高生产力;(3 3)高性能体验高性能体验。轻量级运行配合充分利用轻量级运行配合充分利用CPUCPU、NPUNPU和和DSPDSP等硬件功能等硬件功能,为最终用户提供了为最终用户提供了无缝和高性能的体验无缝和高性能的体验。目前目前,MetaMeta已将其用于最新一代的雷朋智能眼镜已将其用于最新一代的雷朋智能眼镜,成为成为QuestQuest 3 3 VRVR头显的组成部分头显的组成部分。这一变化也预示将这一变化也预示将PyTorchPyTorch引入了手机和可穿引入了手机和可穿戴设备等边
32、缘计算平台戴设备等边缘计算平台,进一步迈入设备进一步迈入设备AIAI推理新时代推理新时代。资料来源:PyTorch,venturebeat,中信建投图图表:表:ExecuTorchExecuTorch开源开源AIAI推理解决方案推理解决方案图图表:表:MetaMeta将将ExecuTorchExecuTorch模型应用于模型应用于Quest 3Quest 3头显头显 PC芯片关键因素能不能用能不能用好不好用好不好用性能及软件生态性能及软件生态性价比、时延、功耗性价比、时延、功耗AIAI计算能力计算能力摩托罗拉68000架构Power PC1994年Intel X862005年Arm2020年I
33、ntel处理器的能耗显著低于IBM的PowerPC对Intel产品研发进度和质量不满,对芯片低功耗的要求1983年,采用摩托罗拉的Macintosh1990年代,采用Power PC的苹果Mac G52005年,采用Intel的苹果Macbook2020年,采用Apple Silicon的苹果电脑图图表:苹果历史上的三次电脑架构迁移表:苹果历史上的三次电脑架构迁移图图表:表:PCPC芯片关键因素芯片关键因素资料来源:苹果,中信建投ARM全球/中国生态未来展望PCPC端端ArmArm生态构建生态构建、性能满足要求:性能满足要求:1 1)软件生态构建:解决了之前应用程序稀缺的问题软件生态构建:解决
34、了之前应用程序稀缺的问题,最新最新windowswindows1111 ArmArm支持支持6464位版本;位版本;2 2)满足性能要求:苹果笔记本已经证明满足性能要求:苹果笔记本已经证明ArmArm 芯片在芯片在PCPC上的实力;上的实力;3 3)高通与高通与windowswindows ArmArm版本深度合作版本深度合作。ArmArm PCPC优势:更低的功耗优势:更低的功耗、跨终端协同跨终端协同,微软微软ArmArm转型旨在使转型旨在使WindowsWindows可以跨平台;可以跨平台;AI PC/Phone主要在于AI芯片升级AIAI PC/PhonePC/Phone相对于原有相对于
35、原有PC/PhonePC/Phone来说来说,主要是其搭载了相关的主要是其搭载了相关的AIAI芯片芯片。云端在深度学习的训练阶段需要极大的数据量和大运算量云端在深度学习的训练阶段需要极大的数据量和大运算量,为满足运算需求为满足运算需求,云端云端AIAI芯片采用芯片采用“CPU+CPU+加速芯片加速芯片”的异构计算模式的异构计算模式。不同于数据中心不同于数据中心GPUGPU,手机手机/电脑端芯片主要要求其体积小电脑端芯片主要要求其体积小、功耗低等特点功耗低等特点,往往是采用往往是采用ASICASIC技术路线的芯片技术路线的芯片,这种芯片为专用目的设计这种芯片为专用目的设计,面向特定用户需求定制面
36、向特定用户需求定制,在大规模量产的情况下具在大规模量产的情况下具备体积更小备体积更小、功耗更低等优点功耗更低等优点。手机手机AIAI芯片主要由芯片主要由“CPU+GPU+NPUCPU+GPU+NPU”构成构成,通过集成多个模块通过集成多个模块,做到提升芯片性能的同时能支持相关做到提升芯片性能的同时能支持相关AIAI应用算法应用算法。例如例如,以高通以高通AIAI芯片为例芯片为例,硬件方面硬件方面HEXAGONHEXAGON向量处理器可以运行涉及向量数学的应用;向量处理器可以运行涉及向量数学的应用;ADRENOADRENO GPUGPU运行对浮点精度有要求的应用;运行对浮点精度有要求的应用;KR
37、YOKRYO CPUCPU支持支持相对较少向量处理相对较少向量处理、非规则性数据结构和非规则性数据结构和/或复杂流程控制的应用或复杂流程控制的应用。资料来源:高通,量子位,中信建投图图表:表:云端云端AIAI芯片和端侧芯片和端侧AIAI芯片技术路线对比芯片技术路线对比图图表:表:高通高通HexagonHexagon处理器及其功能示意图处理器及其功能示意图定制化程度定制化程度灵活灵活性性成成本本编程语编程语言言/架构架构功功耗耗主要优点主要优点主要缺点主要缺点主要应主要应用场景用场景GPU通用性好高CUDA、OpenCL等大峰值计算能力强,产品成熟效率不高,不可编辑,功耗高云端训练,云端推理AS
38、IC定制化不好低/小平均性能很强,功耗很低,体积小前期投入成本高,不可编辑,研发时间长,技术风险大终端推理 整合NPU的AI PC芯片正持续发布近年来近年来,多家芯片制造商积极整合多家芯片制造商积极整合NPUNPU到其处理器中到其处理器中,以加速以加速AIAI任务的执行任务的执行。最早发力的苹果在其最早发力的苹果在其M M1 1和和M M2 2芯片中成功整合了芯片中成功整合了NPUNPU,其中其中M M2 2 UltraUltra处理器可提供高达处理器可提供高达3131.6 6 TOPSTOPS的算力的算力。同使用同使用OpenAIOpenAI WhisperWhisper语音转录语音转录sm
39、allsmall模型模型,M M2 2 MacBookMacBook可在数分钟内完成工可在数分钟内完成工作作,而搭载而搭载IntelIntel CoreCore i i5 5的的MacBookMacBook则需则需2 2小时小时。在处理生成式在处理生成式AIAI工作负载的性能方面工作负载的性能方面,苹果苹果ArmArm处理器比一般处理器比一般x x8686处理器表现更好处理器表现更好。当前当前AMDAMD和和IntelIntel两大两大x x8686处理器制造商也陆续推出内建处理器制造商也陆续推出内建NPUNPU的处理器的处理器。今年上半年今年上半年AMDAMD发布发布RyzenRyzen 7
40、0407040系列处理器系列处理器,采用采用XDNAXDNA加速器加速器技术技术,整合整合NPUNPU,提供提供1010 TOPSTOPS的的AIAI算力算力,适用于语音辨识和影像处理等适用于语音辨识和影像处理等AIAI任务;今年任务;今年9 9月月,英特尔发布英特尔发布MeteorMeteor LakeLake的移动的移动PCPC处理处理器器CoreCore UltraUltra,具备低功耗和高性能特性具备低功耗和高性能特性,同时是首款内建同时是首款内建NPUNPU可加速可加速AIAI推理的推理的AIAI应用处理器应用处理器,也是英特尔首款专注于也是英特尔首款专注于AIAI PCPC体验体验
41、的处理器产品的处理器产品。资料来源:Intel,苹果,中信建投图图表:苹果表:苹果M3M3系列芯片架构和能效双重提升系列芯片架构和能效双重提升图图表:表:IntelIntel首款集成式首款集成式NPUNPU芯片示意图芯片示意图 DRAM存储也是升级要素之一生成式生成式AIAI模型植入到端侧设备中运行一个很重要指标是平均数据速率模型植入到端侧设备中运行一个很重要指标是平均数据速率,这需要消耗大量内存计算这需要消耗大量内存计算,对于终端设备的对于终端设备的DRAMDRAM等内存硬等内存硬件设备要求较高件设备要求较高。例如例如,7070亿参数规模的亿参数规模的LLaMALLaMA模型模型,其其FPF
42、P1616版本大小为版本大小为1414GBGB,而移动设备仅有不到而移动设备仅有不到1010GBGB内存内存,因此通过训练时间因此通过训练时间优化优化(如稀疏化如稀疏化、量化或权重聚类量化或权重聚类)来压缩相关模型才能使其运行在移动设备中来压缩相关模型才能使其运行在移动设备中,而衡量其性能指标的平均数据速率提升而衡量其性能指标的平均数据速率提升,涉及涉及到到DRAMDRAM到到SRAMSRAM等一系列读取的过程等一系列读取的过程。SnorkelSnorkel与斯坦福大学曾提出与斯坦福大学曾提出FlashAttentionFlashAttention,通过优化通过优化DRAMDRAM等内存使用策
43、略等内存使用策略,相较于传统的相较于传统的PytorchPytorch而言而言,模型效果有明显提升模型效果有明显提升。因此因此,未来若要在手机未来若要在手机、PCPC端运行成百上千亿参数量的大模型端运行成百上千亿参数量的大模型,DRAMDRAM等存储升级必不可少等存储升级必不可少。资料来源:Snorkel,Trendforce,中信建投图图表:手机与表:手机与PCPC合计占合计占DRAM DRAM 终端产品份额近一半终端产品份额近一半图图表:通过对表:通过对DRAM/HBMDRAM/HBM等内存使用策略改进能很好提升模型性能等内存使用策略改进能很好提升模型性能YoY各产品的份额占比2023PC
44、3.7%12.4%Server17.2%37.0%Mobile6.2%36.9%Graphics7.7%5.2%Consumer16.1%8.5%2022PC19.1%13.2%Server22.7%34.9%Mobile15.3%38.5%Graphics18.7%5.3%Consumer18.6%8.1%模组厂商积极与芯片厂商合作推出相关AI模组端侧端侧AIAI的发展本质上是终端设备的的发展本质上是终端设备的AIAI化化,终端智能化水平的同时终端智能化水平的同时,对其相关算力模组要求有更进一步要求对其相关算力模组要求有更进一步要求。国内主流物联网模组国内主流物联网模组厂商均开始大力布局厂商
45、均开始大力布局AIAI、算力模组领域算力模组领域,在安防在安防、机器人机器人、工业质检等领域工业质检等领域,结合高通相应芯片结合高通相应芯片,开发适配智能模组;在笔电领开发适配智能模组;在笔电领域域,中科创达基于骁龙中科创达基于骁龙7 7c+c+GenGen 3 3芯片开发用于笔电的智能模组芯片开发用于笔电的智能模组,目前已被广泛用于笔电目前已被广泛用于笔电、PCPC、工业电脑等领域工业电脑等领域。在未来在未来,预计模组将更多以算力模组的形态呈现预计模组将更多以算力模组的形态呈现。模组将不仅仅是硬件设备的一部分模组将不仅仅是硬件设备的一部分,更是提供强大计算能力的关键组件更是提供强大计算能力的
46、关键组件。算力算力模组将进一步提升模组的价值量模组将进一步提升模组的价值量,使得模组在终端设备中的地位更加重要使得模组在终端设备中的地位更加重要。资料来源:中科创达,广和通,美格智能,移远通信,中信建投图图表:中科创达基于骁龙表:中科创达基于骁龙7c+Gen 37c+Gen 3芯片开发的用于笔电的智能模组芯片开发的用于笔电的智能模组图图表:部分物联网模组厂商布局表:部分物联网模组厂商布局AIAI、算力模组领域、算力模组领域厂商边缘AI布局广和通公司带算力的模组主要产品形态是SoC智能模组,已经推出基于高通QCS8250芯片平台的高算力AI模组SCA825-W,可全面提供高达15TOPS的算力支
47、持;FM160 5G模组与安提国际AI边缘计算平台AN810-XNX成功联调。公司算力模组目前在支付和车载领域应用比较多,在其他的行业拓展包括各类带边缘算力终端设备、机器人、IPC安防、工业检测和控制等行业。美格智能公司在高算力模组领域建立了完善的产品线,可为不同类型边缘计算场景提供相匹配的算力。公司的智能模组和算力模组产品中集成了AI处理器芯片,相关产品对应的AI算力覆盖从1.4TOPS到近30TOPS范围,可为各类智能化场景提供AI算力支撑。移远通信公司在智能模组、AI算力模组等领域均在做持续性投入。5G、AI等领域的智能化方向不可阻挡,未来公司的这些产品线的前期投入都将带来持续性的业绩贡
48、献。AI PC的本质是本地端和云端混合协作AIAI PCPC本质是云端与本地端协作本质是云端与本地端协作,利用云端的大数据处理能力丰富本地端的利用云端的大数据处理能力丰富本地端的PCPC使用场景使用场景,依托云端算力来提升本地性能平衡依托云端算力来提升本地性能平衡。联想联想CEOCEO认为认为AIAI PCPC是能够创建本地知识库是能够创建本地知识库,运行个人大模型运行个人大模型,支持人工智能计算支持人工智能计算,运用自然交互的更强大运用自然交互的更强大、更具备创造能力的智能生更具备创造能力的智能生产力工具产力工具。AIAI PCPC最重要特点使用本地知识库最重要特点使用本地知识库,保护用户隐
49、私的同时满足用户个性化需求保护用户隐私的同时满足用户个性化需求。AIAI PCPC预计在提升预计在提升PCPC性能的同时性能的同时,带动带动PCPC相关销量相关销量。AIAI PCPC将成为终端将成为终端、边缘计算和云技术的颠覆性混合体边缘计算和云技术的颠覆性混合体。资料来源:群智咨询,中信建投图图表:表:AI PCAI PC本质是混合协作本质是混合协作图图表:表:AI PCAI PC演进趋势演进趋势传统传统PC基础基础Smart PC优化优化AI PC智能学习智能学习基础计算基础计算数据处理和计算数据处理和计算低下低下需要多软硬件配合需要多软硬件配合操作复杂操作复杂需一定基础需一定基础基础基
50、础办公办公/数据处理数据处理低低功能优化功能优化特地场景优化特地场景优化中中本地特定场景优化本地特定场景优化特定场景特定场景操作简化,要求较低操作简化,要求较低特定场景特定场景预测分析预测分析高高功能丰富功能丰富NLP/CV等等高高云端协同云端协同简易化操作界面简易化操作界面门槛低门槛低学习式学习式智能分析预测智能分析预测中中功能功能效率效率易用性易用性应用场应用场景景成本成本 2024或成AI PC元年:AI PC将逐步替代传统PC伴随伴随AIAI PCPC逐渐出货且逐渐出货且PCPC换机周期已至换机周期已至,20242024或成或成AIAI PCPC元年元年。预测到预测到20272027年
51、年,AIAI PCPC出货量将达到出货量将达到1 1.5 5亿套亿套,市场渗透率达到市场渗透率达到7979%,并逐步取代传统并逐步取代传统PCPC。当前当前,各大主要各大主要PCPC厂商都对厂商都对AIAI PCPC业态进行展望业态进行展望,AIAI PCPC将成将成PCPC行业拐点成为共识行业拐点成为共识。戴尔将推出带有戴尔将推出带有CopilotCopilot的新版的新版WindowsWindows,联想首批搭载英特尔联想首批搭载英特尔MeteorMeteor LakeLake芯片的芯片的AIAI PCPC也已推出也已推出。业界业界将逐步追加将逐步追加AIAI PCPC领域投资领域投资,重
52、塑重塑PCPC生产力生产力。资料来源:群智咨询,Canalys,中信建投图图表:表:AI PCAI PC出货量及市场渗透率预测出货量及市场渗透率预测图图表:表:AI PCAI PC占占PCPC市场比重预测市场比重预测0%28%56%79%0%20%40%60%80%100%120%140%160%180%200%02040608002023F2024F2025F2026F2027FAI PC出货量(百万套)AI PC市场渗透率品牌AI PC展望戴尔未来AIPC将显著提高生产力。下半年推出带有Copilot的新版Windows,将加速构建支持AI的PC
53、。AIPC需要搭载更强的CPU,更大的内存和更好的显示器等惠普AI 是重塑 PC的巨大机遇,并将成为2024年及以后PC发展的重要驱动力。本地运行AI应用能实现更低的延迟和更强的隐私保护联想联想首批搭载英特尔Meteor Lake芯片的AI PC于2023年秋季推出,AIPC将成为PC行业的拐点。联想 PC端还需解决算力和储存等问题,真正意义上无需联网即可实现推理的AI PC将在2024年推出。未来3年将向AI领域追加约70亿元投资,其中很大一部分将会放在AIPC领域中华硕正与英伟达,AMD和英特尔紧密合作,积极推动AIPC发展。AI PC在硬件层面与传统PC的最大不同是集成了 IPU和VPU
54、等AI加速单元。预计2024年三季度AIPC相关产品将趋于成熟,将给用户带来生产力和娱乐的全新体验图图表:相关厂商表:相关厂商AI PCAI PC展望展望 2024或成AI PC元年:AI PC将逐步替代传统PC1010月月1919日日,英特尔宣布启动英特尔宣布启动AIAI PCPC加速计划加速计划,该加速计划旨在为相关软硬件供应商提供英特尔的资源该加速计划旨在为相关软硬件供应商提供英特尔的资源,共同推动共同推动AIAI PCPC产品产品、方案方案落地落地,具体而言具体而言,通过利用通过利用IntelIntel CoreCore UltraUltra处理器的技术和兼容硬件处理器的技术和兼容硬件
55、,围绕相关资源围绕相关资源,实现实现AIAI和机器学习和机器学习(MLML)应用性能最大应用性能最大化化,进而催生全新的使用案例进而催生全新的使用案例,推动推动AIAI PCPC解决方案连接到更广泛的解决方案连接到更广泛的PCPC产业产业。英特尔预计其将于包括英特尔预计其将于包括AdobeAdobe在内的在内的100100家独立软件供应商进行合作家独立软件供应商进行合作,发展发展300300多项多项AIAI加速功能加速功能,计划将在音频效果计划将在音频效果、内容创建内容创建、游游戏戏、安全安全、直播直播、视频协作等方面继续强化视频协作等方面继续强化PCPC体验体验。据计划目标据计划目标,其将在
56、其将在20252025年前为超过年前为超过100100万台万台PCPC带来人工智能带来人工智能(AIAI)特性特性。资料来源:Intel,中信建投图图表:英特尔发布表:英特尔发布AI PCAI PC加速计划加速计划图图表:英特尔表:英特尔AI PCAI PC启动计划以酷睿启动计划以酷睿UltraUltra为起点为起点 ARM架构PC芯片成为AI PC芯片争夺制高点在在AIAI大模型时代大模型时代,ARMARM架构有望替代架构有望替代X X8686架构芯片成为架构芯片成为PCPC芯片主流芯片主流。AIAI大模型对计算能力的需求不断增长大模型对计算能力的需求不断增长。ARMARM架构架构PCPC芯
57、片以其高效芯片以其高效能能、低功耗的特点低功耗的特点,相对适合相对适合AIAI计算任务计算任务。苹果基于苹果基于ARMARM研发的研发的M M系列系列PCPC芯片芯片,因其出色的性能而广受消费者好评;高通厚积薄发因其出色的性能而广受消费者好评;高通厚积薄发X XEliteElite芯片芯片,有望带来有望带来WindowsWindows ARMARM时代;据报道时代;据报道,英伟达和英伟达和AMDAMD也在研发基于也在研发基于ArmArm架构的架构的PCPC芯片芯片,预计最早将于预计最早将于20252025年发售年发售。以往以往ARMARM PCPC芯片在芯片在windowswindows领域并
58、未引起变革的主要原因在于生态未完善领域并未引起变革的主要原因在于生态未完善,但随着高通发布骁龙但随着高通发布骁龙7 7c c、8 8c c和和8 8cxcx三代三代PCPC芯片芯片,相关生相关生态已逐渐完善态已逐渐完善,高通发布的高通发布的X X EliteElite芯片芯片,直接基于直接基于ARMARM指令集进行设计指令集进行设计,性能取得大幅提升性能取得大幅提升,ARMARM架构架构PCPC芯片有望实现突破芯片有望实现突破。资料来源:Counterpoint,中信建投图图表:全球笔记本电脑芯片出货量市场份额表:全球笔记本电脑芯片出货量市场份额图图表:全球表:全球ArmArm笔记本出货量增速
59、笔记本出货量增速787070686763616019.31917.616.715.515.11614.42.710.712.8151821.423.225.30%10%20%30%40%50%60%70%80%90%100%202020224202520262027英特尔AMDarm2%7%23%24%10%9%0%5%10%15%20%25%30%202220232024202520262027 英特尔、AMD、苹果、高通混战,AI PC芯片市场格局有望重塑AMDAMD继于今年第二季推出继于今年第二季推出PhoenixePhoenixe平台的平台的RyzenRyzen
60、70407040系列处理器后系列处理器后,也预告将于下一代也预告将于下一代80508050系列进一步增强系列进一步增强AIAI功能;英特尔则在将功能;英特尔则在将MovidiusMovidius VPUVPU导入其导入其MeteorMeteor LakeLake平台的处理器平台的处理器,接续推出的接续推出的ArrowArrow LakeLake和和LunarLunar LakeLake平台平台,都宣示了英特尔加大对都宣示了英特尔加大对AIAI处理器投入处理器投入的决心;高通也于的决心;高通也于1010月月2525日的日的20232023骁龙峰会上正式发布了首款基于自研骁龙峰会上正式发布了首款基
61、于自研CPUCPU架构架构“OryonOryon”的的PCPC平台方案平台方案骁龙骁龙X X EliteElite,可运行可运行包括大语言模型包括大语言模型(LLM)(LLM)在内的在内的130130亿参数大模型亿参数大模型,进一步优化自研进一步优化自研AIAI芯片业态芯片业态。苹果也于苹果也于1010月月3030日发布日发布 M M3 3、M M3 3 ProPro 和和 M M3 3 MaxMax 系系列芯片列芯片,为首批采用业界领先为首批采用业界领先 3 3 纳米工艺打造的个人电脑芯片纳米工艺打造的个人电脑芯片,可将更多晶体管封装于更小的芯片空间中可将更多晶体管封装于更小的芯片空间中,实
62、现速度和能效的双实现速度和能效的双重提升重提升。资料来源:高通,微软,Intel,苹果,AMD,中信建投图图表:表:AI PCAI PC芯片处于混战局面芯片处于混战局面图图表:半导体芯片厂商对表:半导体芯片厂商对AI PCAI PC布局布局公司产品发布时间说明英特尔Meteor Lake9月19日轻薄笔电,可执行边缘AI运算高通Snapdragon X Elite10月25日强化AI能力,可总结电子邮件、撰写简易文稿、协助生成图像等苹果M310月30日最高阶系列Ultra设置32核心,具备独立执行小模型运算能力AMDPhoenix 1&2最快Q4面向AI PC 高通发布X Elite,于PC芯
63、片市场意义重大1010月月2525日日,高通在骁龙峰会上发布骁龙高通在骁龙峰会上发布骁龙X X EliteElite,其为其为OryonOryon CPUCPU和和AdrenoAdreno GPUGPU等组成的等组成的4 4nmnm ARMARM架构的架构的PCPC SoCSoC。与其竞争对手相比与其竞争对手相比,该芯片能提供高达两倍的该芯片能提供高达两倍的CPUCPU和和GPUGPU性能性能,且功耗更低且功耗更低,单线程能力强于英特尔的单线程能力强于英特尔的X X8686芯片芯片i i9 9-1398013980HXHX和苹果的和苹果的ARMARM芯片芯片M M2 2 MaxMax,AIAI
64、引擎能提供高达引擎能提供高达7575TOPSTOPS的的AIAI算力算力。骁龙骁龙X X EliteElite专为专为AIAI打造打造。X X EliteElite能够支持在终端运行能够支持在终端运行130130亿参数大模型亿参数大模型,面向面向7070亿参数大语言模型每秒生成亿参数大语言模型每秒生成3030个个tokentoken,能够很好处理邮件总结能够很好处理邮件总结、文本编写文本编写、图像生成图像生成、图像生成等任务图像生成等任务,变革用户与变革用户与PCPC交交互互。OEMOEM厂商预计将于厂商预计将于20242024年中推出搭载骁龙年中推出搭载骁龙X X EliteElite的的P
65、CPC。资料来源:高通,中信建投图图表:高通骁龙表:高通骁龙X EliteX Elite平台详细参数平台详细参数图图表:高通骁龙表:高通骁龙X EliteX Elite性能有明显提升性能有明显提升 高通X Elite芯片自研CPU架构高通大部分芯片直接从高通大部分芯片直接从ARMARM购买购买IPIP,以此为基础进行相应修改以此为基础进行相应修改,例如例如KryoKryo芯片以及骁龙芯片芯片以及骁龙芯片。为了进一步提升芯片性能并抢占市场为了进一步提升芯片性能并抢占市场份额份额,高通开始转向直接基于高通开始转向直接基于ARMARM指令集设计芯片指令集设计芯片,开发定制内核开发定制内核。NUVIA
66、NUVIA核心人员具有丰富的芯片设计经验核心人员具有丰富的芯片设计经验,致力于提供行业领先的高性能致力于提供行业领先的高性能、低功耗低功耗SoCSoC产品产品。NUVIANUVIA创始人创始人GerardGerard WilliamsWilliams IIIIII、ManuManu GulatiGulati、JohnJohn BrunoBruno均在均在AMDAMD和苹果公司从事多年芯片设计工作和苹果公司从事多年芯片设计工作,具有丰富的芯片设计经验具有丰富的芯片设计经验。NUVIANUVIA基于基于ARMARM v v9 9构建的构建的CPUCPUPhoenixPhoenix,相对于其他相对于
67、其他x x8686、ARMARM架构产品具备性能架构产品具备性能、功耗优势功耗优势。在功耗与其他在功耗与其他ARMARM架构功耗相同或为其他架构功耗相同或为其他x x8686架构功耗的架构功耗的1 1/3 3时时,PhoenixPhoenix架构的峰值性能提升在架构的峰值性能提升在5050%至至100100%左右左右。高通收购高通收购NUVIANUVIA后后,将开发基于将开发基于ARMARM指令集的新一代指令集的新一代CPUCPU。下一代下一代CPUCPU最初将适配于最初将适配于WindowsWindows PCPC,之后会拓展至旗舰智能手机之后会拓展至旗舰智能手机、汽车汽车、数据中心数据中心
68、、元宇宙等多个领域元宇宙等多个领域,在高性能和低功耗在高性能和低功耗SoCSoC领域处于领先地位领域处于领先地位。资料来源:高通,中信建投图图表:表:Phoenix Phoenix GeekbenchGeekbench 5 5测试结果测试结果图图表:表:NUVIANUVIA创始人情况创始人情况曾就职于TI、ARM。2010-2019年任苹果首席CPU架构师,主持研发苹果A7-A13处理器及MacM1 Pro、M1 Max。曾 就 职 于 AMD、博 通。2009-2017任苹果首席SoC架构师,指导多款iPhone及iPad SoC设计。2017-2019任谷歌首席SoC架构师。曾就职于ATI
69、、AMD。2012-2017年任苹果系统架构师,打造基于ARM的移动芯片。2017-2019年任谷歌系统架构师。谷歌、小米等厂商持续推出AI手机1010月月4 4日日,谷歌发布谷歌发布PixelPixel 8 8/ProPro系列系列,搭载了搭载了TensorTensor G G3 3和和TitanTitan M M2 2安全芯片安全芯片。TensorTensor G G3 3 AIAI芯片可运行更复杂的机器学习模型芯片可运行更复杂的机器学习模型,强化了强化了PixelPixel 8 8/ProPro系列的系列的AIAI增强功能增强功能,使虚拟助理说话更自然使虚拟助理说话更自然,并有拦截骚扰电
70、话并有拦截骚扰电话、转录语音和紧急服务功能转录语音和紧急服务功能。PixelPixel 8 8 ProPro号称是第一款直接在设备上运行谷歌号称是第一款直接在设备上运行谷歌AIAI模型的手机模型的手机,其计算量是其计算量是PixelPixel 7 7上最大上最大MLML模型的模型的150150倍倍。1010月月2626日日,小米小米1414系列发布系列发布,其首发搭载高通最新一代移动芯片骁龙其首发搭载高通最新一代移动芯片骁龙8 8 GenGen3 3,能效比提升显著能效比提升显著,AIAI性能提升性能提升9898%。通过本地端运行通过本地端运行大模型大模型,提升了隐私性提升了隐私性,并实现并实
71、现AIAI妙画妙画、AIAI搜图搜图、AIAI写真和写真和 AIAI扩图等一系列功能扩图等一系列功能。其中其中,AIAI写真功能可通过对多张照片的学习写真功能可通过对多张照片的学习,创作出全新的照片作品;在创作出全新的照片作品;在1414系列的系列的WPSWPS上上,也支持输入主题一键生成也支持输入主题一键生成PPTPPT演示文稿演示文稿,也能进一步细化调节也能进一步细化调节,例如更改主题风格例如更改主题风格、单页美化单页美化、更改字体更改字体、更改配色更改配色、生成演讲稿等等生成演讲稿等等,解决了用户使用解决了用户使用PPTPPT制作难度大制作难度大、耗时长的办公难题耗时长的办公难题。资料来
72、源:谷歌,小米,中信建投图图表:谷歌表:谷歌Pixel 8 ProPixel 8 Pro图图表:小米表:小米1414系列系列 AI Phone芯片主要由高通主导高通是全球移动设备及其他无线产品基础技术高通是全球移动设备及其他无线产品基础技术、产品开发的领导者产品开发的领导者,20212021年后年后,高通向高通向AIoTAIoT领域布局领域布局,公司将以智能手机中积累公司将以智能手机中积累的连接的连接、终端侧智能和高性能低功耗计算等技术领先优势终端侧智能和高性能低功耗计算等技术领先优势,围绕手机围绕手机、汽车汽车、IoTIoT三大三大“智能网联边缘智能网联边缘”场景持续扩展场景持续扩展“统一的
73、技统一的技术路线图术路线图”,发展混合发展混合AIAI。在手机方面在手机方面,高通公司以近半的市场份额保持高通公司以近半的市场份额保持AIAI智能手机处理器出货量领导地位智能手机处理器出货量领导地位,远超苹果和联发科远超苹果和联发科等其他公司等其他公司。高通骁龙高通骁龙8 8 gengen3 3在手机芯片性能比较方面超越了苹果在手机芯片性能比较方面超越了苹果A A1717 ProPro,其是高通首款专为生成式人工智能而精心设计的移动平台其是高通首款专为生成式人工智能而精心设计的移动平台。该处理该处理器最大的升级在器最大的升级在AIAI引擎引擎,可以在设备上运行生成式可以在设备上运行生成式AIA
74、I模型模型,上市初期即支持上市初期即支持2020多种多种AIAI模型;主打各种模型;主打各种 AIAI 相机功能相机功能,例如从图像例如从图像和视频中删除对象和视频中删除对象、创建假背景创建假背景、增强照片的某些部分增强照片的某些部分、实时拍摄实时拍摄 HDRHDR 照片照片、创建同时使用前摄和后摄拍摄的创建同时使用前摄和后摄拍摄的VloggerVlogger视图模式视图模式。资料来源:高通,IT之家,中信建投图图表:以骁龙表:以骁龙865865为基准的手机为基准的手机/平板性能综合对比平板性能综合对比图图表:高通骁龙表:高通骁龙8 Gen3 8 Gen3 综合参数综合参数0501001502
75、00250300350M2 iPad ProM1 iPad Pro骁龙8 Gen3A17 Pro8 Gen2 领先版骁龙8 Gen2A16 除了AI手机外,手机厂商也在持续发力AI大模型国内国内AIAI厂商也持续发力厂商也持续发力AIAI大模型大模型。小米自研图文大模型预训练语言模型小米自研图文大模型预训练语言模型MiLMMiLM-6 6B B,参数规模为参数规模为6464亿亿,并在并在C C-EvalEval和和CMMLUCMMLU基准评测基准评测中都取得了出色的成绩;中都取得了出色的成绩;vivovivo自研自研vivoLMvivoLM,分成十亿分成十亿(1 1B/B/7 7B B)、百亿
76、百亿(6666B B)和千亿和千亿(130130B/B/175175B B)三个级别三个级别。其中其中,7 7B B的版本的版本是是vivoLMvivoLM 将对外开放的版本将对外开放的版本,目前在目前在C C-EvalEval总榜单位列第一总榜单位列第一,在在SuperCLUESuperCLUE榜单位列国内第一;榜单位列国内第一;OppoOppo大模型大模型AndesGPTAndesGPT位列榜单第位列榜单第四;四;在在8 8月的华为开发者大会上月的华为开发者大会上,华为宣布将盘古大模型引入鸿蒙华为宣布将盘古大模型引入鸿蒙,智慧助手小艺将接入智慧助手小艺将接入AIAI大模型能力大模型能力,为
77、为HarmonyOSHarmonyOS带来更智慧带来更智慧的体验;在的体验;在1010月月2424-2626日的高通骁龙峰会上日的高通骁龙峰会上,荣耀也宣布其荣耀也宣布其 MagicMagic6 6 将搭载全新骁龙将搭载全新骁龙 8 8 GenGen 3 3移动平台移动平台,并应用自研并应用自研7070亿参数端亿参数端侧侧AIAI大模型大模型,未来还将进一步发力未来还将进一步发力。资料来源:C-Eval,SuperCLUE,中信建投#ModelModelCreatorCreatorAccessAccessSubmission Submission DateDateAvgAvgAvg(Hard)
78、Avg(Hard)STEMSTEMSocial Social ScienceScienceHumanitiesHumanitiesOthersOthers0vivoLMvivoPrivate2023/10/3086.165.280.489.790.688.81QwenAlibaba CloudPrivate2023/10/2985.771.981.692.88785.22CW-MLMCloudWalkPrivate2023/10/208358.674.891.585.787.53AndesGPT-7BOPPOPrivate2023/9/2879.959.373.386.77986.94云天书深
79、圳云天算法技术有限公司Private2023/8/3177.155.270.48878.677.95GalaxyZuoyebangPrivate2023/8/2373.760.571.48671.668.86KwaiYii-66B快手Private2023/9/1573.74662.982.779.479.67HZ60小i机器人Private2023/10/2773.256.768.784.97568.88UniGPT2.0(山海)Unisound(云知声)Web2023/10/1372.955.267.682.27175.99YaYi中科闻歌Web2023/9/471.860.370.681
80、.371.565.810AiLMe-100B v3APUSWeb2023/9/471.657.968.572.371.277排名模型机构总分OPEN 多轮开放问题OPT 三大能力客观题使用-GPT4OpenAI87.0888.0785.6API-Claude2Anthropic72.4675.1168.48API-GPT3.5OpenAI71.1273.1268.13APIvivoLMvivo70.7466.7876.67申请Moonshot月之暗面70.4266.0277.03网页文心一言4.0百度69.2661.8180.44APISenseChat 3.0商汤科技69.2563.1678
81、.39API7讯飞星火V3.0科大讯飞63.9959.2671.08API6云雀大模型(豆包)字节跳动64.3959.1172.3网页5ChatGLM2-Pro清华&智谱65.9358.5377.02API8Baichuan2-13B-Chat百川智能62.757.7770.09模型9MiniMax-Abab5.5MiniMax59.5748.1376.72API12讯飞星火V2.0科大讯飞55.2447.9566.18API图图表:表:VivoVivo、OPPOOPPO研发大模型登上研发大模型登上C C-EvalEval总榜单总榜单图图表:表:VivoVivo登上登上SuperCLUESup
82、erCLUE总榜单总榜单 AI Phone互动汽车成为热门趋势手机和车机的生态互联已成为未来发展的重要趋势手机和车机的生态互联已成为未来发展的重要趋势。这一趋势将手机与汽车的功能融合这一趋势将手机与汽车的功能融合,实现智能化实现智能化、网络化的互联互通网络化的互联互通,为人为人们的生活带来极大的便利们的生活带来极大的便利。在这个背景下在这个背景下,多家厂商已经开始发力多家厂商已经开始发力,致力于开发和推广手机与车机的生态互联技术致力于开发和推广手机与车机的生态互联技术。蔚来发布蔚来发布NIONIO手机手机,首创了首创了“车控键车控键”,实现了实现了3030项功能一键直达项功能一键直达,包括:启
83、动车辆包括:启动车辆、车辆召唤车辆召唤、遥控泊车遥控泊车、守卫模式守卫模式、车辆状态车辆状态查询查询、后备箱控制等后备箱控制等,做到与蔚来汽车无缝衔接做到与蔚来汽车无缝衔接。1010月月2626日日,小米小米1414、澎湃澎湃OSOS发布的同时发布的同时,小米集团也将战略升级为人车家全生态小米集团也将战略升级为人车家全生态,全面发力物联网全面发力物联网。此外此外,车企吉利也收购手机车企吉利也收购手机公司魅族近公司魅族近8080%股权股权,华为打通了问界汽车与鸿蒙系统的壁垒华为打通了问界汽车与鸿蒙系统的壁垒。资料来源:蔚来,小米,中信建投图图表:造车企业蔚来发布表:造车企业蔚来发布NIO Pho
84、neNIO Phone手机手机图图表:小米集团战略升级为“人车家全生态”表:小米集团战略升级为“人车家全生态”AI Phone下一阶段-无屏幕化AIAI手机也呈现手机也呈现“去屏幕化去屏幕化”的可穿戴的可穿戴AIAI趋势趋势。HumaneHumane是一家由苹果前员工创立的人工智能公司是一家由苹果前员工创立的人工智能公司,对人工智能优先和后智能手机的对人工智能优先和后智能手机的未来做出了重大畅想未来做出了重大畅想。近期近期,其宣布其宣布HumaneHumane AiAi PinPin产品产品,将搭载与高通合作的将搭载与高通合作的“先进的先进的SnapdragonSnapdragon平台平台”,
85、将于今年年底推出将于今年年底推出。AIAI PinPin是基于服装的可穿戴设备是基于服装的可穿戴设备,没有屏幕没有屏幕,大小与一块饼干差不多大小与一块饼干差不多。该设备还将配备一个摄像头该设备还将配备一个摄像头、一个麦克风和扬声器一个麦克风和扬声器,以及以及各种传感器和激光投影仪各种传感器和激光投影仪,用户可用磁铁将其吸附在衣服上用户可用磁铁将其吸附在衣服上。在智能化方面在智能化方面,该设备内置了该设备内置了“专有软件和专有软件和 OpenAIOpenAI 旗下旗下 ChatGPTChatGPT融合融合”的系统的系统。HumaneHumane AIAI PinPin强调强调“TakeTake
86、AIAI withwith youyou everywhereeverywhere”,在今年在今年4 4月的月的TEDTED演讲上演讲上,联合创始人联合创始人 ImranImran ChaudhriChaudhri 在台上演示了在台上演示了AiAiPinPin的雏形的雏形。AiAi PinPin呈现小型化呈现小型化、智能化的特点智能化的特点。其可用作语音助手:打电话其可用作语音助手:打电话、推送当天的自动总结;也可作为搜索引擎:拍张照推送当天的自动总结;也可作为搜索引擎:拍张照片片,便可获取巧克力棒的营养成分便可获取巧克力棒的营养成分。其信息的推送也具备去屏幕化特征:将蓝绿色的数码管一样的信息
87、投射到手中其信息的推送也具备去屏幕化特征:将蓝绿色的数码管一样的信息投射到手中。资料来源:Humane,TED,中信建投图图表:表:Human Ai PinHuman Ai Pin概念概念图图表:表:AI PinAI Pin拨号、车联接、导航、温度调节演示拨号、车联接、导航、温度调节演示 看好由AI PC与AI Phone带来的产业革新将手机集成将手机集成AIAI,不仅可以实现语音助手不仅可以实现语音助手、智能相机等基本功能智能相机等基本功能,还可以通过还可以通过AIAI算法实现更加智能化的应用算法实现更加智能化的应用,如智能推荐如智能推荐、智能翻智能翻译等译等,可以极大提升用户的体验可以极大
88、提升用户的体验,在智能办公在智能办公、智能教育领域预计将由广泛应用智能教育领域预计将由广泛应用。AIAI PCPC不仅可以进行高效的数据处理和计算不仅可以进行高效的数据处理和计算,还可以通过机器学习和深度学习等技术进行自我学习和优化还可以通过机器学习和深度学习等技术进行自我学习和优化,从而为各种行业提供从而为各种行业提供更加智能化的解决方案更加智能化的解决方案。除此之外除此之外,AIAI PCPC、AIAI PhonePhone通过统一的大模型通过统一的大模型,实现全系统互联实现全系统互联,具有主动智能具有主动智能、全模态感知能力全模态感知能力,在人机交互效果上有明显在人机交互效果上有明显提升
89、提升,将成为人们最直接的将成为人们最直接的AIAI助手助手。资料来源:小米,联想,中信建投图图表:小米表:小米AIAI手机实现类似代理能力手机实现类似代理能力图图表:联想称其表:联想称其PCPC为为AI TwinAI Twin 风险提示人工智能模型技术发展不及预期:人工智能模型属于先进AI算法,若后续算法更新迭代效果不及预期,则会影响人工智能模型演进及拓展,进而会影响其商业化落地等,最终影响AI PC、AI Phone落地进展;硬件研发不及预期:AI PC、AI Phone所涉及到相关芯片、存储、模组等,若相关硬件研发不及预期,则会影响相关产品落地,进而影响产业发展;应用落地不及预期:端侧AI
90、并非仅仅是硬件的升级,相关应用生态也非常重要,若后续应用落地不及预期,则会影响AI PC、AI Phone,甚至端侧AI进一步发展;竞争加剧风险:在端侧AI发展旺盛的背景下,国内外各厂商均发力AI PC与AI Phone,众多参与厂商可能导致整体竞争格局恶化。分析师介绍分析师介绍金金戈:戈:中信建投证券研究发展部计算机行业联席首席分析师,帝国理工学院工科硕士,擅长云计算、金融科技、人工智能等领域。于芳博于芳博:中信建投计算机行业分析师,北京大学空间物理学学士、硕士,2019年7月加入中信建投,主要覆盖方向智能汽车、CPU/GPU/FPGA/ASIC、EDA和工业软件等方向。评级说明评级说明投资
91、评级标准评级说明报告中投资建议涉及的评级标准为报告发布日后6个月内的相对市场表现,也即报告发布日后的6个月内公司股价(或行业指数)相对同期相关证券市场代表性指数的涨跌幅作为基准。A股市场以沪深300指数作为基准;新三板市场以三板成指为基准;香港市场以恒生指数作为基准;美国市场以标普 500 指数为基准。股票评级买入相对涨幅15以上增持相对涨幅5%15中性相对涨幅-5%5之间减持相对跌幅5%15卖出相对跌幅15以上行业评级强于大市相对涨幅10%以上中性相对涨幅-10-10%之间弱于大市相对跌幅10%以上 分析师声明分析师声明本报告署名分析师在此声明:(i)以勤勉的职业态度、专业审慎的研究方法,使
92、用合法合规的信息,独立、客观地出具本报告,结论不受任何第三方的授意或影响。(ii)本人不曾因,不因,也将不会因本报告中的具体推荐意见或观点而直接或间接收到任何形式的补偿。法律主体说明法律主体说明本报告由中信建投证券股份有限公司及/或其附属机构(以下合称“中信建投”)制作,由中信建投证券股份有限公司在中华人民共和国(仅为本报告目的,不包括香港、澳门、台湾)提供。中信建投证券股份有限公司具有中国证监会许可的投资咨询业务资格,本报告署名分析师所持中国证券业协会授予的证券投资咨询执业资格证书编号已披露在报告上海品茶。在遵守适用的法律法规情况下,本报告亦可能由中信建投(国际)证券有限公司在香港提供。本报告作
93、者所持香港证监会牌照的中央编号已披露在报告上海品茶。一般性声明一般性声明本报告由中信建投制作。发送本报告不构成任何合同或承诺的基础,不因接收者收到本报告而视其为中信建投客户。本报告的信息均来源于中信建投认为可靠的公开资料,但中信建投对这些信息的准确性及完整性不作任何保证。本报告所载观点、评估和预测仅反映本报告出具日该分析师的判断,该等观点、评估和预测可能在不发出通知的情况下有所变更,亦有可能因使用不同假设和标准或者采用不同分析方法而与中信建投其他部门、人员口头或书面表达的意见不同或相反。本报告所引证券或其他金融工具的过往业绩不代表其未来表现。报告中所含任何具有预测性质的内容皆基于相应的假设条件,而
94、任何假设条件都可能随时发生变化并影响实际投资收益。中信建投不承诺、不保证本报告所含具有预测性质的内容必然得以实现。本报告内容的全部或部分均不构成投资建议。本报告所包含的观点、建议并未考虑报告接收人在财务状况、投资目的、风险偏好等方面的具体情况,报告接收者应当独立评估本报告所含信息,基于自身投资目标、需求、市场机会、风险及其他因素自主做出决策并自行承担投资风险。中信建投建议所有投资者应就任何潜在投资向其税务、会计或法律顾问咨询。不论报告接收者是否根据本报告做出投资决策,中信建投都不对该等投资决策提供任何形式的担保,亦不以任何形式分享投资收益或者分担投资损失。中信建投不对使用本报告所产生的任何直接
95、或间接损失承担责任。在法律法规及监管规定允许的范围内,中信建投可能持有并交易本报告中所提公司的股份或其他财产权益,也可能在过去12个月、目前或者将来为本报告中所提公司提供或者争取为其提供投资银行、做市交易、财务顾问或其他金融服务。本报告内容真实、准确、完整地反映了署名分析师的观点,分析师的薪酬无论过去、现在或未来都不会直接或间接与其所撰写报告中的具体观点相联系,分析师亦不会因撰写本报告而获取不当利益。本报告为中信建投所有。未经中信建投事先书面许可,任何机构和/或个人不得以任何形式转发、翻版、复制、发布或引用本报告全部或部分内容,亦不得从未经中信建投书面授权的任何机构、个人或其运营的媒体平台接收、翻版、复制或引用本报告全部或部分内容。版权所有,违者必究。中信建投证券研究发展部中信建投证券研究发展部中信建投(国际)中信建投(国际)北京东城区朝内大街2号凯恒中心B座12层电话:(8610)8513-0588联系人:李祉瑶邮箱:上海浦东新区浦东南路528号南塔2103室电话:(8621)6882-1612联系人:翁起帆邮箱:深圳福田区福中三路与鹏程一路交汇处广电金融中心35楼电话:(86755)8252-1369联系人:曹莹邮箱:香港中环交易广场2期18楼电话:(852)3465-5600联系人:刘泓麟邮箱:charleneliucsci.hk31