《CIC灼识咨询:2023大模型与AIGC行业蓝皮书(43页).pdf》由会员分享,可在线阅读,更多相关《CIC灼识咨询:2023大模型与AIGC行业蓝皮书(43页).pdf(43页珍藏版)》请在三个皮匠报告上搜索。
1、1 2023 China Insights Consultancy.All rights reserved.This document contains highly confidential information and is solely for the use of our client.No part of it may be circulated,quoted,copied or otherwise reproduced without the written consent of China Insights Consultancy.CIC灼识咨询灼识咨询大模型与大模型与AIGC
2、蓝皮书蓝皮书2灼识咨询是一家知名咨询公司。其服务包括IPO行业咨询、商业尽职调查、战略咨询、专家网络服务等。其咨询团队长期追踪物流、互联网、消费品、大数据、高科技、能源电力、供应链、人工智能、金融服务、医疗、教育、文娱、环境和楼宇科技、化工、工业、制造业、农业等方面最新的市场趋势,并拥有上述行业最相关且有见地的市场信息。灼识咨询通过运用各种资源进行一手研究和二手研究。一手研究包括访谈行业专家和业内人士。二手研究包括分析各种公开发布的数据资源,数据来源包括中华人民共和国国家统计局、上市公司公告等。灼识咨询使用内部数据分析模型对所收集的信息和数据进行分析,通过对使用各类研究方法收集的数据进行参考比
3、对,以确保分析的准确性。所有统计数据真实可靠,并是基于截至本报告发布日的可用信息。若您希望获取CIC灼识咨询的详细资料、与灼识建立媒体/市场合作,或加入灼识行业交流群,欢迎扫码、致电或致函。3I.大模型如今已展现出卓越的能力,随着其不断演进和完善,大模型如今已展现出卓越的能力,随着其不断演进和完善,必将引领必将引领AI的未来道路,开创智能时代的新纪元的未来道路,开创智能时代的新纪元II.受益于大模型技术的日益成熟,受益于大模型技术的日益成熟,AIGC有望掀起新一轮产业革有望掀起新一轮产业革命,开启人类发展的智能新时代命,开启人类发展的智能新时代III.GPGPU高度并行
4、的计算资源为大型模型的训练和推理提供了高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持,推动了大模型与不可或缺的支持,推动了大模型与AI领域的不断进步和创新领域的不断进步和创新IV.彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率目录目录4行业行业数据及数据及AI基础设施建设基础设施建设中国中国AI应用情况应用情况AI应用的挑战应用的挑战数据量数据质量IT系统成熟度中国AI支出占AI市场比例,2022AI占IT支出比例AI支出CAGR,22-27E20222027E金融金融12.1%11.8%19.8%28.1%不同机构之间的数据孤岛数据系统安全及隐私零售零售5.7%3
5、.7%5.7%26.6%传统零售商获取结构化/高度可用的数据供应链机器学习算法优化制造业制造业8.6%1.8%4.4%43.6%专注单点技术突破,但无法跨场景规模化应用数据整合程度低,管理欠佳AI解决方案供应商分散能源能源2.6%5.1%9.8%41.4%AI应用/转型进度较慢医疗医疗5.6%5.5%8.2%27.6%数据分散在各医院/管理机构数据系统安全及隐私汽车汽车12.3%19.5%25.5%21.0%自动驾驶数据融合难度高政府政府27.1%21.6%28.3%18.7%不同机构之间的数据孤岛数据系统安全及隐私强/主要的弱/次要的全球全球AI市场预计将于市场预计将于2030年达到年达到1
6、万亿美元,并且全球超过万亿美元,并且全球超过15%的的GDP将由将由AI驱动;驱动;AI在各垂直领域的应用渗在各垂直领域的应用渗透率也将继续提升。透率也将继续提升。AI应用现状应用现状AI在垂直领域中的应用在垂直领域中的应用资料来源:灼识咨询5AI可分为ANI(Artificial Narrow Intelligence)、AGI(Artificial General Intelligence)和ASI(Artificial Super Intelligence)。ANI是专注于执行某一领域任务的经过训练的人工智能,是目前大多数的AI形式;AGI是通用人工智能,是指一种具有与人类相当的认知能力
7、的智能系统,能够理解、学习、计划和解决问题;ASI是超级人工智能,指在几乎所有领域都超过最优秀的人类所具备的智能、知识、创造力、智慧和社交能力的智能系统。目前,ANI已经广泛应用,AGI处于研发阶段,而大模型是实现AGI的重要路径。定义定义AI的三种类型比较的三种类型比较擅长领域擅长领域具备能力具备能力发展成熟度发展成熟度某一特定领域具备执行能力已应用广泛大部分领域拥有能够与人类相媲美的智慧处于研发阶段所有领域全知全能尚处早期专用人工智能专用人工智能(ANI)超级人工智能超级人工智能(ASI)大模型是实现大模型是实现AGI的重要路径,其具有诸多特点的重要路径,其具有诸多特点 涌现性涌现性大模型
8、参数超过百亿级时,模型性能会呈现出指数级增长,同时能够对未经专门训练的问题举一反三。工程化工程化大模型对数据、算法、算力要求极高,需要工程化的经营思路。需要严格把控数据清洗,把控用于关键性训练的数据,和构建大规模高质量训练的算力。高投入高投入大模型具有重投入、长周期的特点,如每次测试需要海量的算力资源,训练一次成本高达千万美元。通用性通用性大模型可以快速并大规模地与云计算、互联网等其他技术结合,广泛地应用在经济的各个领域。大模型是基于海量多源数据打造的模型,其是实现通用人工智能(大模型是基于海量多源数据打造的模型,其是实现通用人工智能(AGI)的重要路径。大模型可以整合多种不)的重要路径。大模
9、型可以整合多种不同类型的数据和信息,实现多模态处理和分析,从而更全面地理解和解决复杂问题,其具备通用性、涌现性等同类型的数据和信息,实现多模态处理和分析,从而更全面地理解和解决复杂问题,其具备通用性、涌现性等诸多特点。诸多特点。通用人工智能通用人工智能(AGI)四大特点四大特点资料来源:灼识咨询大模型的定义大模型的定义6大模型产业涵盖了行业应用、产品服务、模型工具和基础设施四个关键层面,广泛应用于各行业与垂直场景,大模型产业涵盖了行业应用、产品服务、模型工具和基础设施四个关键层面,广泛应用于各行业与垂直场景,前景广阔。前景广阔。大模型产业图谱大模型产业图谱资料来源:中国信通院,灼识咨询行行业业
10、应应用用产产品品服服务务模模型型与与工工具具基基础础设设施施金融金融教育教育艺术设计艺术设计游戏游戏医药医药文化娱乐文化娱乐其他其他文本文本图像图像音频音频视频视频虚拟空间虚拟空间代码代码算法模型算法模型工具平台工具平台模型托管模型托管/交易交易数据数据云平台云平台芯片芯片大模型相关产业图谱大模型相关产业图谱7基础大模型基础大模型1精调大模型精调大模型2能力涌现的大模型能力涌现的大模型3模模型型变变化化模型示意图,以模型示意图,以GPT-3模型为例模型为例共共128层层每层每层千个千个节点节点每层每层千个千个节点节点每层每层千个千个节点节点指令精调示意图指令精调示意图能力涌现示意图能力涌现示意
11、图学习输出模板学习输出模板建立评分机制建立评分机制根据结果重复优化过程根据结果重复优化过程人工对大量问题的回答形成模板供模型学习人工对模型的数个输出进行排序,建立奖励模型并为后续结果进行打分模型根据打分结果调整后续输出,并不断重复上述过程以优化模型随着模型参数的指数级增长,大模型能力呈现明显的爆发增长,呈现能力涌现的情况。指令精调在于确保模型输出结果的准确性及安全性,在该阶段需要使用较多的人工标注介入。在此基础上,引入奖励模型,让模型脱落人工指引,实现自优化。GPT-3采用了96层的多头Transformer,参数量达到1,750亿,并使用45TB数据进行训练。模模型型特特征征具备大量知识储备
12、,能理解并生成语言,质量差强人意。能按照人类偏好及普世价值取向,并保证一定安全性的前提下生成高度可用的内容。具备逻辑推理能力及上下文理解能力,更接近人类水平。语境理解多任务自然语言理解真实问答场景映射修辞手法单词解谜国际音标转写取余数运算准确性准确性准确性准确性准确性准确性准确性准确性模型规模模型规模大模型的演变经历大模型的演变经历3个阶段:基础大模型具备大量知识储备,能理解并生成内容,质量差强人意;精调大模型能个阶段:基础大模型具备大量知识储备,能理解并生成内容,质量差强人意;精调大模型能按照人类偏好及普世价值取向、并保证一定安全性的前提下,生成高度可用的内容;而出现能力涌现的大模型按照人类
13、偏好及普世价值取向、并保证一定安全性的前提下,生成高度可用的内容;而出现能力涌现的大模型所生成的内容接近人类水平。所生成的内容接近人类水平。大模型演变概览大模型演变概览资料来源:“Are Emergent Abilities of Large Language Models a Mirage?”,灼识咨询低/弱高/强大模型的演变大模型的演变8C端端B端端企业自用企业自用主要特点主要特点应用案例应用案例主要变现模式主要变现模式大模型的终端用户分类大模型的终端用户分类大模型的终端用户大模型的终端用户主要用于个人娱乐、学习和创作标准化程度高,普适性强强调用户友好性与互动性C端用户订阅针对企业和机构,
14、提供针对性解决方案的大模型通常基于基础大模型,根据不同企业、行业的需求进行一定程度的定制,模型较为异质化、用途多样强调模型在不同领域的专业能力,以及客户的数据隐私和安全B端企业用户订阅或购买非定制化行业模型主要用于内部业务优化个性化定制,解决企业独特的问题和需求数据保密性至关重要,强调内部控制和数据安全无直接变现,主要作用在于降低企业自身运营成本并提升效率大模型的终端用户包括大模型的终端用户包括C端、端、B端和企业自用三类。端和企业自用三类。C端用户一般使用标准化的模型产品,端用户一般使用标准化的模型产品,B端用户更倾向于选择端用户更倾向于选择能满足行业或企业特定需求的个性化解决方案,而企业自
15、用的模型则旨在降低运营成本、提高运营效率、优化能满足行业或企业特定需求的个性化解决方案,而企业自用的模型则旨在降低运营成本、提高运营效率、优化产品的用户体验。产品的用户体验。资料来源:灼识咨询9大模型在多领域表现卓越,在自然语言理解、学习能力、视觉听觉识别等领域可以媲美甚至超越人类。提高大大模型在多领域表现卓越,在自然语言理解、学习能力、视觉听觉识别等领域可以媲美甚至超越人类。提高大模型的创造能力、减少对数据的依赖性、加强隐私保护等将会是大模型迭代的重点。模型的创造能力、减少对数据的依赖性、加强隐私保护等将会是大模型迭代的重点。资料来源:“Computers ace IQ tests but
16、still make dumb mistakes.Can different tests help?”,灼识咨询-1-0.8-0.6-0.4-0.200.2820132018MNIST(handwriting recognition)Switchboard(speech recognition)ImageNet(image recognition)SQuAD 1.1(reading comprehension)SQuAD 2.0(reading comprehension)2GLUE(language understanding)人类表现大模型在不同场景中与人类表现对比大
17、模型在不同场景中与人类表现对比MNIST(手写识别)ImageNet(图像识别)SQuAD 2.0(综合阅读)Switchboard(语音识别)SQuAD 1.1(综合阅读)GLUE(语言理解)大模型尚不具备大模型具备但仍需改进大模型具备且可与人类媲美创造性思维自然语言自然语言理解理解视觉视觉识别识别伦理是非判断直觉抽象思维学习能力学习能力艺术表现情感判断听觉识别听觉识别视觉视觉/听觉识别:听觉识别:基本达到甚至一定程度上超越人类,准确率较高学习能力:学习能力:具备自动学习能力,在特定任务和数据集上可以超越人类自然语言理解:自然语言理解:熟练掌握多种人类语言,基本达到甚至一定程度上超越人类,存
18、在一定语言不够自然(机械化)的问题创造性思维:创造性思维:能够生成创造性内容,但通常是在已知样本的基础上进行创作或是需要人类指导/二次修改抽象思维:抽象思维:相对有限,依赖于数据与模型参数艺术表现:艺术表现:可以生成艺术作品,但通常缺乏情感和创新情感判断:情感判断:能够进行情感分析,但不具备真实情感体验伦理是非判断:伦理是非判断:不具备,可能引发错误或数据隐私等安全问题直觉:直觉:不具备大模型的表现大模型的表现10BLOOM随着大模型的不断演进,它们的参数规模也呈现出指数级增长的趋势;与此同时,它们的复杂性和功能愈发提随着大模型的不断演进,它们的参数规模也呈现出指数级增长的趋势;与此同时,它们
19、的复杂性和功能愈发提升,使得大模型能够在各领域担任更加多样和复杂的任务。升,使得大模型能够在各领域担任更加多样和复杂的任务。资料来源:HAI,灼识咨询参数数量参数数量时间时间Wu Dao 2.0 GPT-3 175B(davinci)Turing NLG T5-11BMegatron-LM(Original,8.3B)T5-3BMeenaGrover-MegaGPT-2Megatron-Turing NLG 530B HyperClovaPanGu-uJurassic-1-JumboGopherPaLM(540B)Minerva(540B)GLM-130BChinchillaGPT-NeoX-
20、20BJurassic-XDALL E 2 Stable Diffusion(LDM-KL-8-G)OPT-175BDALL-ECodexERNIE 3.0 GPT-J-6BCogViewGPT-NeoWu Dao-Wen Yuan ERNIE-GEN(large)3.2e+83.2e+93.2e+103.2e+123.2e+02120222023GPT-4(1.8T)Sparrow(70B)Claude(52B)Ernie Bot(260B)ChatGLM-6B通义千问(7B)日日新(180B)在大模型出现之前,机器学习算法的参数量以平均每5-6年翻一个数量级的速度快速
21、增长,而大模型的出现使模型参数量的增长速度大幅提升。举例而言,大模型及多模态模型的鼻祖之一GPT-2发布于2019年,参数量为15亿;GPT-3发布于2020年,参数量即达到了1,750亿,相比GPT-2增长了100多倍。粗略计算,在大模型兴起的前几年,大模型的参数量每年即可增长1-2个数量级。在目前已公开参数量的大模型中,参数量最多的达到了1.75万亿。分析分析大模型的发展及参数量大模型的发展及参数量大模型的发展现状大模型的发展现状11应用场景应用场景主要用途主要用途相关大模型相关大模型描述描述文本文本营销(内容)销售(邮件)通用写作记笔记GPTGopherOPTBloomCohereAnt
22、hropicAI2Yandex模型比较擅长通用的短/中篇幅写作,通常用于初稿及更新稿撰写模型能够理解上下文,生成更自然的文本,准确性逐渐接近人类水平,广泛应用于智能客服、文本摘要、内容生成等领域编程编程代码生成代码文档化文本到SQL网页应用构建GPTTabnineStability.ai代码生成可能在短期内对开发人员的生产力带来重大影响能降低非开发人员编程的门槛图像图像图像生成消费者/社交应用媒体/广告设计Dall-E 2Stable DiffusionCraiyon在图像识别、分割、风格转换等领域有广泛应用,能够处理复杂的视觉任务不同风格的图像模型以及编辑和修改生成图像技术音频音频语音合成O
23、penAI对声音和语音的理解能力逐渐提高,生成的音频逐渐自然、不机械,且接近人类水平视频视频视频编辑/生成X-CLIPMake-A-Video用于自动剪辑、特效创作、噪音修复、虚拟场景制作等,大大提升了编辑效率3D3D模型/场景搭建DreamFusionGET3DMDM(Motion Diffusion Model)在游戏、电影、虚拟现实、建筑和实体产品设计等大型创意市场极具潜力大模型正在各应用场景崭露头角,其应用场景广泛且多样化。从自然语言处理到图像生成,从音频处理到视频、大模型正在各应用场景崭露头角,其应用场景广泛且多样化。从自然语言处理到图像生成,从音频处理到视频、3D场景创建,大模型能
24、够应对多领域的挑战。未来,大模型有望为更多应用场景带来更多机会和创新。场景创建,大模型能够应对多领域的挑战。未来,大模型有望为更多应用场景带来更多机会和创新。大模型的应用场景大模型的应用场景资料来源:红杉资本,灼识咨询大模型的应用大模型的应用12资料来源:红杉资本,灼识咨询大模型在不同领域的进展大模型在不同领域的进展垃圾邮件检测、翻译、基本问答一行代码自动填写终稿超越人类平均文本到产品(草稿)终稿模型(产品设计、建筑等)终稿超越专业作家文本到产品(超越全职开发者)终稿超越专业设计师、艺术家、摄影师AI Roblox定制游戏与视频完善垂类精调能力(例如科研论文)更多编程语言及领域基本文案及初稿撰
25、写多行代码生成3D及视频文件二稿概念模型(如产品设计、建筑等)3D及视频文件初稿更长文案及二稿撰写更长更准确的代码艺术、logo创作、摄影时间线时间线视频/3D/游戏图像编程文本大模型在多个领域的应用上取得了显著进展,文本生成、编程、图像处理等领域的能力逐渐完善,有望商业化大模型在多个领域的应用上取得了显著进展,文本生成、编程、图像处理等领域的能力逐渐完善,有望商业化落地。然而,落地。然而,3D、视频、游戏等领域发展相对较慢,但潜力巨大,需要更多时间来成熟和商业化。、视频、游戏等领域发展相对较慢,但潜力巨大,需要更多时间来成熟和商业化。发发展展程程度度商业化落地商业化落地基本完善基本完善初试阶
26、段初试阶段已经准备就绪,性性能稳定能稳定,可以投入商业应用性能提升显著,已接近商业应用水平,但仍需微仍需微调和测试调和测试参数较少,性能有限性能有限,需要进一步优化和训练显著增强开发人员工作效率为普通用户提供了编程的可能性不断增长的个性化网络及电子邮件内容需求为大语言模型提供了理想的应用场景有机会为特定的终端市场构建更出色的生成型应用,例如法律合同撰写、剧本创作等允许任何人随意探索不同的艺术主题和风格,这在以前可能需要终身学习并完善已可实现根据草图和prompt进行高清渲染随着 3D 模型的出现,生成式设计流程将延伸到制造生产,即文本到对象大模型的应用大模型的应用13大模型在垂直行业的应用大模
27、型在垂直行业的应用大模型应用情况大模型应用情况典型案例典型案例在金融领域,大模型主要应用包括风险评估、量化交易、柜台业务办理等。以风险评估为例,大模型可用于预测信用风险、欺诈检测和市场趋势分析。第四范式携手中关村银行,以“式说”大模型为基础,联合开展多模态智慧金融平台研发及私有化部署,在行内规章制度及人员信息查询、行业术语通俗化解释、客户经理信贷管理、人工客服问答推荐、理财业务办理、AI应用快速研发等多个环节形成大模型能力。金融金融垂直行业垂直行业代表玩家代表玩家在医疗领域,大模型可应用于疾病诊断、药物发现等场景。以疾病诊断为例,大模型可用于医学图象识别,如X射线、MRI和CT扫描,以帮助医生
28、诊断疾病。科大讯飞利用星火认知大模型打造“诊后康复管理平台”,将“专业的诊后管理和康复知道延伸到院外”,可根据患者健康画像自动分析,为患者生成个性化康复计划,并督促患者按计划进行。医疗医疗在汽车领域,大模型可应用于自动驾驶、虚拟设计和仿真、质量控制、供应链管理、销售和营销、定制设计、新能源汽车性能优化等。百度智能云为长安汽车提供了人工智能基础设施平台和数字人平台,双方正在开发一款基于文心大模型的生成式人工智能产品,以提升用户体验。同时,百度与吉利汽车一起打造汽车行业大模型,构建工厂数字化大脑,降低管理运维成本,提高资源利用效率。汽车汽车在制造业领域,大模型主要应用场景包括工业自动化、供应链优化
29、等。以工业自动化为例,大模型可用于监控生产过程,预测设备故障,提高生产效率。华为云携手赛意信息,基于盘古大模型的自然语言大模型和视觉大模型,共同打造制造业大模型,为制造业客户提供针对工艺工程AI自动化、AI质检、供应链的智能优化等细分场景,提供“开箱即用”的模型服务。制造制造在零售行业,大模型可应用于个性化推荐、价格优化等场景。以个性化推荐为例,大模型可用于分析客户行为,提供个性化产品建议和广告走向。京东发布“言犀”大模型产品,支持语言、语音、视觉、多模态等应用。以AIGC创作内容营销为例,大模型的应用可使每套图的制作成本降低90%,制作周期从7天缩短至半天。零售零售大模型也已开始逐步渗透进金
30、融、医疗、汽车、制造、零售等行业,头部大厂及垂类解决方案服务商相继推出大模型也已开始逐步渗透进金融、医疗、汽车、制造、零售等行业,头部大厂及垂类解决方案服务商相继推出适用于各垂直行业的解决方案,助力行业变革。适用于各垂直行业的解决方案,助力行业变革。资料来源:灼识咨询大模型的应用大模型的应用142011 2015“十二五”规划十二五”规划 推进推进产业智能化改革产业智能化改革 促进基于互联网的人工智能应用促进基于互联网的人工智能应用2016 2020“十三五”规划十三五”规划 强调人工智能为战略前沿领域强调人工智能为战略前沿领域 制定制定人工智能发展目标人工智能发展目标2021 2025“十四
31、五”规划十四五”规划明确人工智能应用的重点领域明确人工智能应用的重点领域规范生成时人工智能服务规范生成时人工智能服务2015年年5月:国务院月:国务院中国制造中国制造 20252015年年7月:国务院月:国务院国务院关于积极推动“互国务院关于积极推动“互联网联网+”行动的指导行动的指导2016年年7月:国务院月:国务院“十三五”国家科技创新规划十三五”国家科技创新规划2017年年7月:国务院月:国务院新一代人工智能发展规划新一代人工智能发展规划2020年年7月:中央网信办等五部门月:中央网信办等五部门国家新一代人国家新一代人工智能标准体系建设指南工智能标准体系建设指南2021年年3月:全国人大
32、月:全国人大中华人民共和国国民经济和社会发展第十四个五中华人民共和国国民经济和社会发展第十四个五年规划和年规划和 2035年远景目标纲要年远景目标纲要2022年年8月:月:科技部科技部关于支持建设新一代人工智关于支持建设新一代人工智能示范应用场景的通知能示范应用场景的通知2023年年4月:国家网信办月:国家网信办生成式人工智能服务管生成式人工智能服务管理办法(征求意见稿)理办法(征求意见稿)大模型相关政策概览大模型相关政策概览提出基于信息物理系统的智能制造技术引领制造方式变革推进生产过程智能化加速人工智能核心技术突破促进人工智能在生活、工作、公共领域的创新应用,如智能家居、智能终端、服务型机器
33、人等加强智能机器人等关键技术研发和应用推广整合优化资源配置,瞄准引领未来发展的战略领域2030年成为世界主要人工智能创新中心深化人工智能在制造、农业、金融、教育、医疗、交通等领域的融合应用加强人工智能领域标准化顶层设计,推动人工智能产业技术研发和标准制定瞄准人工智能等前沿领域,实施一批具有前瞻 性、战略性的国家重大科技项目强调人工智能在重点领域的应用,包括公共安全、智慧城市、医疗健康、重大活动等需求迫切且普惠性强的领域规定了提供生成式人工智能产品或服务应当遵守法律法规的要求利用生成式人工智能生成的内容应当体现社会主义核心价值观随着大模型相关政策的出台,大模型的发展得到了进一步的推进和规范。这些
34、政策不仅为大模型的研发和应用随着大模型相关政策的出台,大模型的发展得到了进一步的推进和规范。这些政策不仅为大模型的研发和应用提供了指导和支持,同时也为大模型的推广和应用提供了更加广阔的空间和机遇。提供了指导和支持,同时也为大模型的推广和应用提供了更加广阔的空间和机遇。资料来源:灼识咨询大模型的相关政策大模型的相关政策15GPT-1GPT-2GPT-3ChatGPT/GPT-3.5GPT-4 API支持的token输入从3.2万个升级到12.8万个,相当于一本标准大小的300页纸质书所包含的文本量理解复杂情景理解复杂情景1新的模型允许开发者指示模型固定以特定形式返回。同时开发者可以通过访问参数和
35、响应字段,来实现“模型对每次请求都给出确定性的输出”。开发者权限提升开发者权限提升2添加多模态处理能力以接受文生图及声音合成。3GPT-4 Turbo的亮点的亮点使用大数据对Transformer模型进行无监督的预训练。在小型监督数据集上进行微调。在测试常识推理和阅读理解的数据集上取得了杰出的成果。解决零次样本学习问题,使模型更具通用性。数据量的指数增长使得可以使用少量样本进行学习,接近人脑学习模式。基于GPT-3模型的微调已有落地于其他领域,包括代码生成、图像生成、数学算术等。优化与现实语料库数据集的连接。支持多轮对话和结果修正,并能够更快速、更有效地进行人机交互。解决更复杂的任务并增强安全
36、性。多模态能力叠加图像识别。参数数量预训练数据集量ChatGPT:建立在:建立在OpenAI引入的深度学习模型引入的深度学习模型GPT基础上,它已经成为迄今为止增长最快的基础上,它已经成为迄今为止增长最快的APP之一。之一。多模态多模态API资料来源:灼识咨询GPT的发展历程的发展历程大模型典型案例(大模型典型案例(1/2)推出GPT store,用户可以共享GPT用法GPT-4 API升级为GPT-4 Turbo并降价发布GPT assistant API,使开发者可以在自己的应用程序中构建Agent开源语音和图像模块GPT-4 Turbo与与GPT Store对于现实世界的理解从2021年
37、9月更新至2023年4月。4知识库更新知识库更新16文心一言文心一言3.5大模型典型案例(大模型典型案例(2/2)百度文心:中国领先大模型之一,且对于中文有更深入的理解。百度文心:中国领先大模型之一,且对于中文有更深入的理解。百度文心一言概览百度文心一言概览文心一言文心一言4.0的亮点的亮点文心一言文心一言4.0VS逻辑能力提升幅度是逻辑能力提升幅度是理解能力提升幅度的理解能力提升幅度的300%文心一言文心一言4.0相比于相比于3.5版本,显著提升了版本,显著提升了理解、生成、逻辑、记忆四大能力理解、生成、逻辑、记忆四大能力记忆能力提升幅度是记忆能力提升幅度是理解能力提升幅度的理解能力提升幅度
38、的200%能够理解乱序、模能够理解乱序、模糊意图、潜台词等糊意图、潜台词等复杂提示词复杂提示词几分钟内生成几分钟内生成海报、营销视频等复海报、营销视频等复杂图像和视频杂图像和视频逻辑能力提升,逻辑能力提升,解答数学难题并解答数学难题并总结知识点总结知识点能够完成完成能够完成完成千字小说千字小说撰写和角色、情节设置撰写和角色、情节设置资料来源:IDC,灼识咨询L1L2L3L4L4L3L2L1L1L2L3生态能力生态能力应用能力应用能力产品能力产品能力百度文心大模型百度文心大模型国内大模型平均分国内大模型平均分注:目前尚未有厂商在产品能力和生态能力方面达到L5,应用能力尚未有厂商达到L4,因此不在
39、本次评估中凸显根据IDC公布的数据,百度文心大模型在产品能力、应用能力、生态能力方面在中国领先。国内市场格局领先国内市场格局领先1百度作为中国搜索引擎龙头,拥有更多的中文语料数据进行模型训练。因此,百度文心大模型对中文有更深入的理解,能够熟练使用成语、写藏头诗等。对中文的深入理解对中文的深入理解217I.大模型如今已展现出卓越的能力,随着其不断演进和完善,大模型如今已展现出卓越的能力,随着其不断演进和完善,必将引领必将引领AI的未来道路,开创智能时代的新纪元的未来道路,开创智能时代的新纪元II.受益于大模型技术的日益成熟,受益于大模型技术的日益成熟,AIGC有望掀起新一轮产业革有望掀起新一轮产
40、业革命,开启人类发展的智能新时代命,开启人类发展的智能新时代III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持,推动了大模型与不可或缺的支持,推动了大模型与AI领域的不断进步和创新领域的不断进步和创新IV.彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率目录目录18AIGC定义定义AIGC是继是继PGC和和UGC之后之后,经由经由AI自动生成内容的新型内容生产方式自动生成内容的新型内容生产方式。作为一种先进的生产力变革作为一种先进的生产力变革,AIGC的的兴起让世界进入了智能创作时代兴起让世界进入了智能创作时
41、代。资料来源:灼识咨询内容生产阶段及比较,内容生产阶段及比较,2000年至今年至今PGC(2000-2010年)年)UGC(2010-2017年)年)AIGC 1.0(2017-2022年)年)AIGC 2.0(2022-未来)未来)官媒时代,由专业的内容创作者或团队进行创作、编辑或发布的内容由普通用户或受众参与创作、编辑和发布的内容,微博微信的诞生为UGC发展提供土壤基于PGC、UGC生成创作框架,下达指令让AI自动生成内容,指导AI完成编码、绘画、建模等复杂任务OpenAI发布,大模型时代开启,创作突破人为限制,提升到自主创作的层次,创造更加丰富多样的内容专业用户一般用户AI基于指令创作大
42、模型逐步实现自主创作为保障质量,一般PGC的内容制作成本较高,需要投入大量的人力、物力和财力用户个性化、自主创作,通常制作成本较低随着生成内容数量增加,边际成本大幅下降知识性、创造性工作的边际成本将降至无限接近0,产生巨大生产效率和经济价值包括主题选定、创意构思、策划、撰写、编辑、排版、发布等多个环节,需要长时间投入通常为个人兴趣爱好、在自媒体平台、社交网络等自发的创作行为,创作流程简单直接通过程序训练生成,流程自动化,仅需进行算法训练与参数调整,效率较高随着技术进步,AIGC将越来越多用于快速生成内容及自动化创作,效率进一步提升内容生产者拥有专业知识、内容相关领域资质和一定权威,因此内容相对
43、专业、权威内容丰富但质量参差不齐,通常需要平台设计规则加以约束或遴选出优质内容发展初期存在使用门槛高、内容生成简单和质量偏低等问题随着AI大模型从大量数据中进一步学习,内容质量进一步提升内容生产者及生产程序专业性强内容经过筛选,从而带来强内容可控性每天有大量用户自由创作,需要依靠机器及人工对内容进行审核,内容可控性弱AI大模型作为辅助人进行内容生产的工具,可根据指令对内容进行编辑及优化,可控性较强通过深度学习技术训练模型,使其能够学习到输入数据的内在规律,并根据规律创作内容,可控性强定义定义内容生产者内容生产者内容生产成本内容生产成本内容生产效率内容生产效率内容生产质量内容生产质量内容可控性内
44、容可控性高/强低/弱内容生产方式内容生产方式专业化的内容生产专业化的内容生产用户生产内容用户生产内容AI辅助内容生产辅助内容生产未来:全未来:全AI生产内容生产内容191950年,艾伦图灵提出“图灵测试”,给出确认机器是否具有智能的方法1966年,成功开发世界第一款可人机对话的机器人“Eliza”2006年,深度学习算法取得重大突破,GPU、TPU等算力设备性能不断提升,AI发展取得显著进步2014年,随着以GAN为代表的深度学习算法提出和迭代,生成内容百花齐放2017年微软“小冰”推出世界首部由AI创作的诗集阳光失了玻璃窗2022年,OpenAI发布ChatGPT,可以完成撰写邮件、视频脚本
45、、文案、翻译、代码、写论文等任务。1957年,第一支由计算机创作的弦乐四重奏依利亚克组曲完成2012年,微软公开展示了全自动同声传译系统,可将英文演讲者的内容自动翻译成中文语音1980年代,IBM创造语音控制打字机“Tangora”2007年,世界第一部完全由AI创作的小说1 The Road问世2021年,OpenAl推出了DALL-E,主要应用于文本与图像交互生成内容实验性向实用性转变,受限于算法瓶颈实验性向实用性转变,受限于算法瓶颈,难以难以直接进行内容生成直接进行内容生成算法不断迭代,算法不断迭代,AI生成内容百花齐放,效果逐渐逼生成内容百花齐放,效果逐渐逼真直至人类难以真直至人类难以
46、分辨分辨61980s20062007200018年,英伟达发布可以自动生成高质量图片的StyleGAN模型2019年,DeepMind发布DVD-GAN模型用以生成连续视频受限于科技水平,受限于科技水平,AIGC仅限于小范围实验仅限于小范围实验2019AIGC发展阶段、发展特点和典型事件发展阶段、发展特点和典型事件早期萌芽阶段早期萌芽阶段1950s 1990s沉淀积累阶段沉淀积累阶段1990s 2010s快速发展阶段快速发展阶段2010s 至今至今AIGC发展历程发展历程结合结合AI的演进历程的演进历程,AIGC的发展大致可分为
47、早期萌芽的发展大致可分为早期萌芽、沉淀积累沉淀积累、快速发展三个阶段快速发展三个阶段。资料来源:灼识咨询20AIGC降低了用户的内容制作门槛,例如没有绘画基础的用户也能借助AIGC工具快速作画,内容创作将迎来爆发期。降低降低内容制作成本内容制作成本:例如游戏行业,美术创作者可以使用AIGC寻找灵感,降低初期成本投入提升提升效率效率:承担信息挖掘、素材调用、复刻编辑等基础性机械劳动,从技术层面实现以低边际成本、高效率的方式满足提升内容创作质量提升内容创作质量3增加内容多样性增加内容多样性生产多模态内容生产多模态内容:有助于企业多元化交付工作成果,例如通过文本形成图片、基于文本生成视频短片,满足海
48、量个性化需求降低内容创作门槛降低内容创作门槛金融金融电商电商娱乐娱乐影视影视工业工业多样内容多样内容医疗医疗教育教育传媒传媒AIGC核心价值核心价值降本增效降本增效有助于企业提升交付工作成果,近年来AI模型在手写、语音和图像识别、阅读理解和语言理解方面的表现逐渐超过了人类的基准水平。质量提升质量提升降本增效降本增效新商业模式新商业模式降低门槛降低门槛全新模式全新模式通过支持AIGC与其他产业的多维互动、融合渗透从而孕育新业态新模式,为各行各业创造新的商业模式,提供价值增长新动能AIGC核心价值核心价值对于企业而言对于企业而言,AIGC在降低内容制作成本在降低内容制作成本、加快内容制作效率的同时
49、提升了内容的多样性及质量加快内容制作效率的同时提升了内容的多样性及质量,AIGC与不与不同产业融合互动亦可孕育出新业态新模式;对个人而言同产业融合互动亦可孕育出新业态新模式;对个人而言,AIGC则显著降低了内容创作门槛则显著降低了内容创作门槛。1245资料来源:灼识咨询21开发架构开发架构ChainerKerasTensorFlowTorchMXNetPyTorchPaddlePaddleONNX高质量输出高质量输出AI生成文本生成文本AI生成代码生成代码AI生成图像生成图像AI生成声音生成声音AI生成视频生成视频AI生成生成3DAI生成其他生成其他GAN生成对抗网络生成对抗网络可以生成清晰真
50、实清晰真实的样本,泛用性强;后由CGAN等改良算法进一步完善Diffusion Model扩散模型扩散模型训练简单训练简单,可以将图像中的噪声部分进行滤除,并保留图像的细节和结构Transformer模型模型降低计算量和计算降低计算量和计算时间时间,提高模型训练速度,输出结果质量高质量高CLIP模型模型能够同时进行同时进行自然语言理解和计算机视觉分析FBMs基于流的生成模型基于流的生成模型可以生成逼真的高高分辨率分辨率图像,支持高效采样,可操纵数据属性VAE变分自动编码变分自动编码可以处理各种类型的数据,但生成输输出结果模糊出结果模糊NeRF神经辐射场神经辐射场信息传递更加直接,优化目标为所见
51、即优化目标为所见即所得所得,但计算开销开销大,较难实现大,较难实现TheanoCaffe持续优化迭代基础生成算法模型不断突破创新基础生成算法模型不断突破创新开发架构提供了对底层算法的封装开发架构提供了对底层算法的封装AIGC 关键底层算法模型数据预处理数据预处理及模型训练及模型训练AIGC的实现逻辑的实现逻辑底层生成算法和开发架构是实现底层生成算法和开发架构是实现AIGC所必不可缺的部分所必不可缺的部分。底层生成算法是实现内容生成的基石底层生成算法是实现内容生成的基石,通常是深度学通常是深度学习模型习模型,而开发架构是支撑底层算法的基础设施而开发架构是支撑底层算法的基础设施,以便开发人员较易集
52、成多种算法组成以便开发人员较易集成多种算法组成。AIGC技术架构概览技术架构概览底层生成算法底层生成算法资料来源:灼识咨询22文本生成文本生成图像与视频生成图像与视频生成音频生成音频生成基础层基础层应用层应用层终端用终端用户层户层数据数据包括业务数据联通、素材数据搜集等算法及模型算法及模型包括神经网络、深度学习、自然语言处理技术、扩散模型、云渲染等开源算发。以及基于算法通过数据训练生成的机器学习模型、深度学习模型及大模型等。算力算力包括服务器、GPU、HPC、云等提供基本计算能力的基础设施各类内容创各类内容创作及分发平作及分发平台台内容终端内容终端生产厂商生产厂商第三方内容服第三方内容服务机构
53、务机构上上游游中中游游下下游游AIGC产业链概览产业链概览AIGC产业仍处于早期发展阶段产业仍处于早期发展阶段,在数据在数据、算法和算力的基础之上算法和算力的基础之上,核心模型以关键企业研究成果为主导核心模型以关键企业研究成果为主导,AIGC以以AI生成文本生成文本、图像图像、视频和音频为主流形式视频和音频为主流形式。AIGC产业链概览产业链概览基于模块分类基于模块分类资料来源:灼识咨询23娱娱乐乐领领域域传传媒媒领领域域影影视视领领域域电电商商领领域域其其他他AIGC应用场景应用场景教育教育工业工业金融金融医疗医疗合成历史人物视频虚拟教授线上课程音视频处理辅助工程设计数字孪生系统构建营销视频
54、合成智能客服VR金融场景构建医学图像处理智能病例录入合成肢体投影商品展示商品展示主播打造主播打造交易场景交易场景智能商品详情商品3D模型生成品牌虚拟主播虚拟商城构建前期创作前期创作信息采集信息采集全民娱乐全民娱乐中期拍摄中期拍摄后期制作后期制作剧本创作场景设计辅助采访助手多语言翻译人脸美妆/融合黑白图像上色图像风格转换数字复活已故演员高难度动作合成演员角色年龄的跨越替换劣迹艺人影视作品修复影视内容2D转3D内容编辑内容编辑内容播报内容播报写稿机器人剪辑视频集锦视频字幕自动生成AI主播智能播报社交互动社交互动偶像养成偶像养成虚拟歌姬虚拟直播用户数字化身AIGC产品形态产品形态3D模型模型文本生成
55、文本生成音频生成音频生成图像生成图像生成视频生成视频生成代码生成代码生成其他其他AIGC+传媒:传媒:人机协同生产,推动媒体融合人机协同生产,推动媒体融合采编环节:采访录音语音转写,提升传媒工作者的工作体验;智能新闻写作,提升新闻资讯的时效;智能视频剪辑,提升视频内容价值传播环节:AIGC应用主要集中在以AI合成主播为核心的新闻播报等领域AIGC+娱乐:娱乐:扩展辐射边界,获得发展动能扩展辐射边界,获得发展动能实现趣味性图像或音视频生成,激发用户参与热情打造虚拟偶像,释放IP价值开发C端用户数字化身,布局消费元宇宙AIGC+影视:影视:拓展创作空间,提升作品质量拓展创作空间,提升作品质量为剧本
56、创作提供新思路扩展角色和场景创作空间赋能影视剪辑,升级后期制作AIGC+电商:电商:推进虚实交融,营造沉浸体验推进虚实交融,营造沉浸体验生成商品3D模型用于商品展示和虚拟试用,提升线上购物体验打造虚拟主播,赋能直播带货赋能线上商城和线下秀场加速演变,为消费者提供全新的购物场景AIGC+其他:其他:推进数实融合,加快产业升级推进数实融合,加快产业升级教育领域:AIGC赋予教育材料新活力金融领域:AIGC主力实现降本增效医疗领域:AIGC赋能诊疗全过程工业领域:AIGC提升产业效率和价值AIGC应应用用场场景景AIGC应用场景应用场景AIGC产品形态多元产品形态多元,如文本生成如文本生成、音频生成
57、音频生成、图象生成图象生成、视频生成视频生成、代码生成代码生成、3D模型等模型等,赋能赋能“数字化程度数字化程度高高+内容需求丰富内容需求丰富”的行业的行业,如娱乐如娱乐、传媒传媒、影视影视、电商等电商等,驱动各行业创新驱动各行业创新。AIGC应用场景应用场景概览概览资料来源:灼识咨询24AIGC算法技术升级步入深化阶段算法技术升级步入深化阶段CNN/RNN 神经网络与神经网络与Transformer对比对比传统机器学习算法传统机器学习算法深度神经网络深度神经网络算法特点:算法特点:不具备强大的学习能力,依赖于预先定义的统计模型或专家系统执行特定的任务,可以完成简单线条、文本和旋律的生成算法缺
58、点:算法缺点:算力挑战:传统机器学习方法的维度诅咒等导致算力挑战缺乏感知:生成内容空洞、刻板、文不对题算法示例:算法示例:通过定义复杂的函数方程组,计算机所绘出的函数曲线具备某种美学图样回归算法:线性、回归树等分类算法:逻辑回归等聚类算法:仿射传播等算算法法学习范式学习范式+网络结构不断网络结构不断迭代迭代卷积神经网络 CNN递归神经网络 RNN损失函数和梯度下降算法可以灵活快速的调整深度神经网络中的参数,从而实现从数据中进行学习的功能生成对抗网络 GAN深度强化学习深度变分自编码器流模型扩散模型深度残差网络Transformer早期神经网络早期神经网络Transformer与与RNN、CNN
59、准确度对比准确度对比Transformer算法具备跨时代意义具备跨时代意义的原因是算法上添加了注意力机制注意力机制。这种机制突破了RNN模型不能并行计算的限制;相比CNN模型,其关联所需的操作次数不随距离增长。Transformer算法在语义特征提取能力、远距离特捕获能力等方面明显增强。CNN/RNN 神经网络神经网络Transformer引入大规模并行处理,模拟人脑分类学习和适应性联想。1234567使用注意力机制进行优化,使语句中的词语有了重点区分。GPT-3、InstructGPT、ChatGPT都是在此模型上迭代、演进的。关键关键分析分析AIGC行业发展驱动因素行业发展驱动因素算法升级
60、算法升级不断迭代升级的算法可以实现不断迭代升级的算法可以实现AI模型的性能稳定模型的性能稳定、功能进阶功能进阶,进而使得进而使得AIGC产品表现愈加出色产品表现愈加出色。AIGC算法不断迭代升级算法不断迭代升级资料来源:“Why Self-Attention?A Targeted Evaluation of Neural Machine Translation Architectures”,灼识咨询84%94%82%84%90%96%70%80%90%100%语义特征提取能力远距离特征捕获能力RNNS2S(RNN模型)ConvS2S(CNN模型)Transformer算法25年均复合增长率年均
61、复合增长率2021-2030E27.6%82.7%34.4%总计总计65.1%全球计算设备算力总规模,以全球计算设备算力总规模,以FP322计,计,2021-2030E2323,30002,00052,00054,00056,00036914202152,5002002030E61556,000基础算力规模(FP32)智能算力规模(换算为FP32)超算算力规模(换算为FP32)注:注:*基础算力规模按照全球近6年服务器算力总量估算;智能算力规模按照全球近6年AI服务器算力总量估算;超算算力规模主要是基于全球超级计算机TOP500数据,并参考超算生产商的相关数据估算*FP32为单精度浮点数算力是
62、打造大模型生态的必备基础算力是打造大模型生态的必备基础算力是指计算设备执行算法、处理数据的能力,包括CPU、GPU等。算力的应用包括数据中心、分布式计算、云计算、边缘计算等。AIGC背景下,大模型是AI发展的必然趋势,而算力是打造大模型生态的必备基础。AIGC拉动算力需求指数级增长拉动算力需求指数级增长大模型训练所需算力每3-4 个月增长1倍,增速远超摩尔定律(18-24 个月/倍)。模型预训练过程是消耗算力的最主要场景,AI训练所需算力呈现指数增长态势。Eflops(1018次)算力芯片算力芯片、AI服务器有望持续放量服务器有望持续放量,数据中心建设提速数据中心建设提速需求拉动算力芯片及AI
63、服务器的技术迭代,预计未来将持续放量;同时,各国纷纷提速数据中心建设,我国“东数西算”工程投资规划逐步清晰。全球算力规模将保持高速稳定增长态势全球算力规模将保持高速稳定增长态势预计2030年人类将迎来YB数据时代,全球算力规模达到56ZFlops(1021次)。预计智能算力2021至2030年年均复合增长率将超65%,以支撑庞大的新增非结构化数据(文本、图片、语音、视频等)。不同模型训练需要的算力不同模型训练需要的算力Pflops/s-day11101001,00010,000BERT-BaseBERT-LargeROBERTa-BaseROBERTa-LargeT5-SmallT5-Base
64、T5-LargeT5-3BT5-11BGPT-3 SmallGPT-3 MediumGPT-3 LargeGPT-3 XLGPT-3 2.7BGPT3 6.7BGPT-3 13BGPT-3 175BBERT模型T5模型GPT模型注:1.Pflops/s-day:以1015次每秒浮点运算次数的速度进行计算,需要消耗的天数;2.单精度浮点数,用8bit 表示指数,23bit 表示小数。AIGC行业发展驱动因素行业发展驱动因素算力扩容算力扩容算力提升是算力提升是AIGC发展的重要驱动力之一发展的重要驱动力之一,愈大的算力规模可以支撑更大规模的模型运转愈大的算力规模可以支撑更大规模的模型运转。算力是打
65、造大模型生态的必备基础,算力是打造大模型生态的必备基础,AIGC拉动算力需求指数级增长拉动算力需求指数级增长算力芯片、算力芯片、AI服务器有望持续放量,数据中心建设提速,全球算力服务器有望持续放量,数据中心建设提速,全球算力总规模将保持高速稳定增长态势总规模将保持高速稳定增长态势资料来源:“Language Models are Few-Shot Learners”,IDC,灼识咨询26OpenAI 变现模式概览变现模式概览产出内容收费2提供软件服务收费3模型训练收费4具体属性收费5作为底层平台收费1作为底层平台接入其他产品对外开放,按照数据请求量和实际计算量计算如GPT-4对外提供API接口
66、,采用的四种模型分别采用不同的按量收费方式按平台和工具产出内容量收费大多数AI图像生成平台大多按照图像张数收费主要服务于C端企业用户,大部分C端AIGC工具则以约80人民币/月的价格对外出售模型训练费用,适用于NPC训练等个性化定制需求较强的领域针对对特殊性质的内容自动生成服务进行专门化收费方式设计潜在变现方式潜在变现方式2C个个人人用用户户端端微软、亚马逊、谷歌的人工智能平台存在按API盈利盈利的模式,用户调用的API次数越多,收费越高。按次收费OpenAI、DALL E、Deep Dream Generator等AI图像生成平台大多按照图像张数收费,收费方式更符合用户预更符合用户预期期按产
67、出收费2B企企业业端端客户根据需求按次收费,通常是根据API调用次数进行收费按次收费客户可以按月会员制付费,得到相应的服务和升级,内容输出根据方案的不同呈现阶梯式阶梯式会员制GPT-4 API接口接口产品简介:产品简介:AI技术驱动的大规模多模态模型,可以接受图像和文本输入,产生文本输出收费标准:收费标准:不超过8K文本长度时,定价为每1K个提示令牌0.03美元,每1K个补全令牌0.06美元ChatGPT Plus产品简介:产品简介:AI技术驱动的自然语言处理工具收费标准:收费标准:每月20美元DALL.E产品简介:产品简介:AI技术驱动的文本生成图像模型收费标准:收费标准:15美元可购买11
68、5个积分,约能生成460张图片,并获得图片的使用权,包括商业用途ChatGPT API 接口接口产品简介:产品简介:AI技术驱动的自然语言处理工具收费标准:收费标准:每1K个提示令牌0.002美元2C个个人人用用户户端端2B企企业业端端InstructGPT API 接口接口产品简介:产品简介:专注于解决指导型对话收费标准:收费标准:每1K个提示令牌0.0004美元-0.02美元DALL.E API 接口接口文本生成图像Whisper API 接口接口自动语音识别微调模型微调模型增加分类器或特征映射微调GPT-3模型嵌入模型嵌入模型将一个内容实体映射为低维向量,从而可以获得内容之间的相似度AI
69、GC行业发展驱动因素行业发展驱动因素多元化变现模式多元化变现模式AIGC通常可同时面向企业和个人变现通常可同时面向企业和个人变现,随着用户方需求持续升级和随着用户方需求持续升级和AIGC产品愈加成熟产品愈加成熟,诸多潜在的变现方式诸多潜在的变现方式也将进一步刺激也将进一步刺激AIGC行业蓬勃发展行业蓬勃发展。AIGC变现模式变现模式概览概览用户可免费享受部分功能,可以通过成为会员获取更优会员获取更优质的内容服务质的内容服务,主要包含定制化、更高质量及多模态的输出内容会员制资料来源:灼识咨询27I.大模型如今已展现出卓越的能力,随着其不断演进和完善,大模型如今已展现出卓越的能力,随着其不断演进和
70、完善,必将引领必将引领AI的未来道路,开创智能时代的新纪元的未来道路,开创智能时代的新纪元II.受益于大模型技术的日益成熟,受益于大模型技术的日益成熟,AIGC有望掀起新一轮产业革有望掀起新一轮产业革命,开启人类发展的智能新时代命,开启人类发展的智能新时代III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持,推动了大模型与不可或缺的支持,推动了大模型与AI领域的不断进步和创新领域的不断进步和创新IV.彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率目录目录28定义定义特征特征应用应用典型产品典型产品GPGPUG
71、PGPU是执行原本由CPU处理完成的通用计算任务的处理器。GPGPU具有GPU高度并行的非专用计算能力,并针对通用计算任务进行了优化,尤其适合大规模数尤其适合大规模数据集的训练和推理。据集的训练和推理。大模型大模型数据中心高性能计算图形图形GPU图形GPU是专门处理图形计算任务的处理器。图形GPU专注于传统的图形处理计算,如渲染图像、视频和游戏视觉效果制作等。非线性编辑视频编解码图形加速可视化3D设计独立独立GPU(商用)(商用)独立GPU是显示芯片及相关器件制作成一个独立于电脑主板的板卡,成为专业的图形处理硬件设施。通过独显插到主板相应接口上,具备高位宽,高频独立显存和更多的处理单元,性能优
72、越,不仅可用于一般性的工作,还具有完善的2D效果和很强的3D水平。常用于高性能台式机和笔记本电脑以及服务器集成集成GPU集成GPU是指一般不带显存,而是使用系统的一部分主内存,可以被整合进主板作为芯片的一部分,也可以和CPU集成。集成在CPU里面的图形处理单元,构成CPU的一部分,其价格低,兼容性较好,但是性能相对较差,功耗低。常用于笔记本电脑GPU分类分类通过集成方通过集成方式分类式分类通过功能通过功能分类分类GPGPU定义定义GPU可根据其功能和集成方法进行分类。可根据其功能和集成方法进行分类。GPGPU出色的处理和并行计算能力被广泛应用于大模型、高性能计算出色的处理和并行计算能力被广泛应
73、用于大模型、高性能计算和其他领域,也是未来和其他领域,也是未来AI发展的重要基础设施。发展的重要基础设施。英伟达 H100英伟达 GeForce 4090英伟达 GeForce 7050AMD X1250英特尔 GMA X4500HD英特尔 Iris Xe DG1AMD MI300英特尔 Ponte VecchioAMD Radeon PRO英特尔 ARC资料来源:灼识咨询29在在GPGPU产业链中,上游供应商主要为中游的芯片设计公司提供服务,在产业链中,上游供应商主要为中游的芯片设计公司提供服务,在GPGPU生产出来后再被转交给下游生产出来后再被转交给下游的终端用户。随着的终端用户。随着GP
74、GPU在更多新兴应用场景中的普及,预计未来终端用户的覆盖范围将进一步扩大。在更多新兴应用场景中的普及,预计未来终端用户的覆盖范围将进一步扩大。GPGPU产业链产业链上上游游中中游游下下游游半导体半导体IP硅片设计硅片设计EDA工具工具晶圆制造晶圆制造封装组配封装组配集成测试集成测试PC云厂商云厂商产业链上游产业链上游:半导体IP供应商提供搭建SoC所需的核心功能模块。硅片设计服务供应商提供各个研发环节部分或全部的研发服务及后续晶圆制造、封装及测试的委外管理EDA工具供应商则主要提供芯片设计所需的自动化软件工具等。产业链中游产业链中游:芯片设计指根据芯片规格要求,通过主系统涉及、逻辑设计、电路设
75、计、物理设计,最终形成设计版图。晶圆制造环节是根据设计版图将电路图形信息蚀刻在硅片上,并形成电路的过程。封装则是将芯片在框架上布局、粘贴、固定及连接,引出接线端子并通过可塑性绝缘介质灌封固定,构成整体立体结构的工艺。封装完成后,再对芯片进行功能和性能测试。产业链下游产业链下游:下游主要为终端厂商,如运营商、云厂商、AI厂商、互联网、行业AI、政府AIDC等。如今,GPGPU已被用于越来越多的新兴领域,推动各行业快速发展。GPGPU产业链产业链 运营商运营商芯片设计芯片设计关键分析关键分析终端用户终端用户资料来源:灼识咨询30GPGPU的软件为开发人员提供了主流的深度学习框架,并允许他们重新编程
76、,从而在芯片计算利用率、数据吞吐量、多芯片互联等方面尽可能优化GPGPU性能。软件升级为GPGPU带来的进一步性能优化已成为 GPGPU公司至关重要的竞争优势。GPGPU的硬件架构以最初的GPU架构为基础,增强了通用计算单元,同时减少了用于渲染功能的硬件加速单元。这种量身定制的硬件架构使GPGPU成为通用智能计算的首选芯片,为AI计算奠定了坚实的硬件基础,推动了AI市场的发展。GPGPU架构架构框架框架GPGPU硬件硬件GPGPU软件软件GPGPU应用应用控制单元控制单元L1缓存缓存L2缓存缓存寄存器寄存器执行线路执行线路数据中心数据中心云服务供应商云服务供应商驱动模块驱动模块编译器编译器算法
77、库算法库工具模块工具模块GPGPU架构架构关键分析关键分析软硬件集成所带来的性能优化已成为软硬件集成所带来的性能优化已成为GPGPU的关键竞争力。目前,持续的微架构创新和制程工艺升级,以及软的关键竞争力。目前,持续的微架构创新和制程工艺升级,以及软件开发人员对生态系统完整性和多样性的提升促进了件开发人员对生态系统完整性和多样性的提升促进了GPGPU的持续发展。的持续发展。GPGPU应用GPGPU软件GPGPU硬件其他硬件资料来源:灼识咨询31TF32,TFLOPSTFLOPS 是指每秒一万亿次浮点运算次数。TF32指TensorFlow-32,指一种单精度浮点格式。BF16指Brain Flo
78、at-16,指一种数据精度低于TF32的浮点数据格式。INT8指8位二进制数据格式。数字越大,每种格式下的芯片计算能力越强。BF16,TFLOPSINT8,TOPSW热设计功耗是指GPGPU的最大功耗。TF32,TFLOPS/W一般将计算能力除以热设计功耗计算得出,反映了在相同功耗下GPGPU可提供的计算能力。BF16,TFLOPS/WINT8,TOPS/Wnm用于制造芯片晶片的核心工艺。数字越小,工艺技术越先进,性能也越强。GB内存是指GPGPU可以临时存储和快速访问的数据大小。内存越大,GPGPU可同时处理的数据就越多,性能也就越强。GB/S内存带宽是指芯片与内存之间的数据传输速度。内存带
79、宽越大,GPGPU 从内存读取数据的速度就越快。GPGPU关键参数关键参数计算能力、热设计功耗、能效比、进程、内存和内存带宽等是计算能力、热设计功耗、能效比、进程、内存和内存带宽等是GPGPU的关键参数。的关键参数。关键参数关键参数描述描述123计算能力计算能力624 TOPS INT8312 TFLOPS BF16156 TFLOPS TF321热设计功耗热设计功耗400W能效比能效比1.6 TOPS/W INT80.8 TFLOPS/W BF160.4 TFLOPS/W TF32234564制程制程7nm5内存内存80GB HBM2E Memory6内存带宽内存带宽1,935 GB/sGP
80、GPU关键参数关键参数GPGPU性能指标示意(以英伟达性能指标示意(以英伟达A100为例)为例)资料来源:灼识咨询32CAGR2018-2022 2022-2027E38.8%39.2%关键分析关键分析尽管GPGPU最初是为了完成图像相关的任务而发明的,但它的架构并非是定制的,这使它们能够广泛应用于各种不同的计算任务,在计算场景不断发展和多样化的当今世界,这是一个至关重要的优势。因此,GPGPU已成为通用计算芯片的主流选择,并将在未来继续保持这一优势。推理的算力需求通常会随着用户使用AI模型次数的增加而增加。受益于AI模型用户的不断增长,推理所需的计算能力未来将持续增长。同时,AI模型的参数越
81、多,完成一次训练所需的计算能力就越高。随着大模型的不断发展,对能够处理此类大规模计算的GPGPU的需求将越来越大。未来,大模型的在各行业应用更加多样化,长期促进训练所需的计算能力的增长,推动GPGPU市场的发展。百万个全球全球GPGPU出货量出货量,2018-2027E全球全球GPGPU市场规模市场规模,2018-2027E十亿美元CAGR2018-2022 2022-2027E45.0%55.5%GPGPU技术在大模型、技术在大模型、AI和其他领域的应用日趋成熟,推动全球和其他领域的应用日趋成熟,推动全球GPGPU市场持续快速发展。市场持续快速发展。GPGPU市场规模市场规模资料来源:灼识咨
82、询0204060801820222027E0246822027E33I.大模型如今已展现出卓越的能力,随着其不断演进和完善,大模型如今已展现出卓越的能力,随着其不断演进和完善,必将引领必将引领AI的未来道路,开创智能时代的新纪元的未来道路,开创智能时代的新纪元II.受益于大模型技术的日益成熟,受益于大模型技术的日益成熟,AIGC有望掀起新一轮产业革有望掀起新一轮产业革命,开启人类发展的智能新时代命,开启人类发展的智能新时代III.GPGPU高度并行的计算资源为大型模型的训练和推理提供了高度并行的计算资源为大型模型的训练和推理提供了不可或缺的支持,推动
83、了大模型与不可或缺的支持,推动了大模型与AI领域的不断进步和创新领域的不断进步和创新IV.彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率目录目录34彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率1文字类(对话、写作等)2图像类3音视频类4编程类5办公类市面上市面上AI工具五花八门,有文字、图像、音视频、编程、办公等众多类型。工具五花八门,有文字、图像、音视频、编程、办公等众多类型。GPT爆火后,各行各业都在开发大爆火后,各行各业都在开发大模型,有些是蹭热度,有些是基于已有产品进行升级,但目前具有颠覆性的仍是我们熟知的模型,有些是蹭热度,有些是基于已有产品进行升级,但
84、目前具有颠覆性的仍是我们熟知的GPT、Midjourney等文字、图像类生成式等文字、图像类生成式AI工具。工具。注:以上截图来自网站-https:/ai- 常用大模型帮助撰写一些分析,如行业驱动因素等,经过简单改写或让常用大模型帮助撰写一些分析,如行业驱动因素等,经过简单改写或让AI基于之前的回复改写后,生成基于之前的回复改写后,生成的内容能够达到及格水平;也会用来翻译中英文、改写并总结文字。以修改英语为例,虽然简单但仍有一定的的内容能够达到及格水平;也会用来翻译中英文、改写并总结文字。以修改英语为例,虽然简单但仍有一定的技巧,合适的技巧,合适的prompt可以更高效地完成工作。可以更高效地
85、完成工作。彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率Prompt 1要求要求:你是一个英语为母语且是一个专业的分析师。你现在要修订报告中的内容,语言是英文。我会把每一段文字复制给你,你需要检查语法、错别字、表达不当,返回给我修订后的版本Prompt 1:In February 2020 we set out our ambition to be a net zero company by 2050 or sooner and to help the world get to net zero.This ambition is supported by 10 aims:five
86、 to help us become a net zero company,and five to help the world meet net zero.Prompt 2:We believe that our net zero ambition and aims,taken together,set out a path for bp that is consistent with the goals of the Paris Agreement.回复Prompt 2要求要求:你是一个英语为母语且是一个专业的分析师。你现在要修订报告中的内容,语言是英文。我会把每一段文字复制给你,你需要检
87、查语法、错别字、表达不当,返回给我一个修订后的版本,再返回给我一个修订后的版本中体现所有修改痕迹,删除的部分加上删除线,更新的部分加粗显示。必须按照我的要求体现所有修改痕迹。Prompt 1:In February 2020 we set out our ambition to be a net zero company by 2050 or sooner and to help the world get to net zero.This ambition is supported by 10 aims:five to help us become a net zero company,an
88、d five to help the world meet net zero.Prompt 2:We believe that our net zero ambition and aims,taken together,set out a path for bp that is consistent with the goals of the Paris Agreement.回复36文字文字 在使用文字生成式在使用文字生成式AI时,时,promot要清晰、目的明确、且与话题相关,主要有帮助翻译、发散思路、和扩要清晰、目的明确、且与话题相关,主要有帮助翻译、发散思路、和扩写想法三种提高效率的方式
89、。写想法三种提高效率的方式。彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率帮助翻译1角色赋予角色赋予给予它一个明确身份帮助它使用你想要的语序和表达习惯2鼓励反馈鼓励反馈鼓励 ChatGPT 提出问题或提供反馈,以保持对话的互动性和吸引力。3针对修改针对修改具体、有针对性的提示来关注语言的具体方面,如语法、词汇或发音“假如你是一个英国人,请帮我翻译“假如你是一个英国人,请帮我翻译”“从母语为英语表达者的习惯来看,这个句子有“从母语为英语表达者的习惯来看,这个句子有什么问题吗?可以帮我修改吗?”什么问题吗?可以帮我修改吗?”“我不喜欢“我不喜欢effective这个词,帮我用一个高这
90、个词,帮我用一个高级一些的词汇替换它”级一些的词汇替换它”发散思路扩写想法1保持正轨保持正轨误解或者跑偏时直白明确地指出错误,它可以很快做出修正,2扩展性提问扩展性提问要求它对其中一条做出解释扩写其中你认为较好的一条3持续补充持续补充可以要求他补充发散一些灵感,这个补充可以是没有目的的,也可以是针对某个方面进行发散“我想要的不是“我想要的不是,而是,而是”“请展开详细解释一下请展开详细解释一下这一条这一条”“我还想听到五个有关如何指导“我还想听到五个有关如何指导chatgpt给出给出我想要的文风的原则”我想要的文风的原则”2提供样例句子提供样例句子你可以要求他进行模仿描写,帮助它更熟悉你想要的
91、文字风格和内容方向3善用总结善用总结一般chatgpt都会给你一段很长的内容,但不需要在一开始就过多的限制她的长度,善用总结“请写一段描述说明“请写一段描述说明,我希望这段描述中包括,我希望这段描述中包括ChatGPT在工作中的应用场景和使用后提高工作效在工作中的应用场景和使用后提高工作效率的原因”率的原因”“请仿照烹调锅具的多元化在满足更多厨房场“请仿照烹调锅具的多元化在满足更多厨房场景需求的同时,也成为了带动全球烹调锅具市场景需求的同时,也成为了带动全球烹调锅具市场发展的重要增量来源之一。帮我写一段话描述发展的重要增量来源之一。帮我写一段话描述”“把这段话缩写到“把这段话缩写到10字以内”
92、字以内”1规定关键词规定关键词明确你希望它在扩写的过程当中提到的关键词或扩写方向你可以明确告诉它一些行业术语从而确保它生成的内容与特定领域相关“再优化一下语言,使得表述简洁明确没有“再优化一下语言,使得表述简洁明确没有重复内容”重复内容”37彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率二手二手 New Bing可以联网,功能强大且可以联网,功能强大且UI更好,但回复较慢;虽然更好,但回复较慢;虽然GPT-4的训练数据还是基于的训练数据还是基于21年,但可以通年,但可以通过插件联网收集二手信息,只是效果一般,可以基于二手信息再用过插件联网收集二手信息,只是效果一般,可以基于二手信
93、息再用GPT-4的其他功能进行处理。的其他功能进行处理。Prompt(GPT-4通过web pilot插件联网)回复Prompt 1:帮我列出下面21家的咨询公司的信息并返回表格,第一列是企业名称,第二列是成立年份,第三列是总部所在地区,第四列是企业简介(企业简介不要超过30字),第五列是企业的官网(如果没有就填写None)。这些公司是:Tata Group,Deloitte,PricewaterhouseCoopers,Accenture,Ernst Young,Cognizant,Infosys Public Services,Boston Consulting Group,McKinse
94、y Company,CGI Group,Booz Allen Hamilton,Bain Company,Gartner,Mercer,Capgemini Invent,KPMG,Oliver Wyman,A.T.Kearney,Roland Berger,Arthur D.Little,China insights consultancyPrompt 2:你需要回复一个表格就可以,你发太多东西了Prompt 3:进入前三个公司的网站,总结他们的成立时间、总部所在地、发展历史、主要产品。返回表格就可以,第一列公司名称,第二列成立时间、第三列总部所在地、第三列发展历史(不要超过30字)、主要产品
95、(不要超过30字)。Prompt(New Bing)Prompt 1:帮我列出下面21家的咨询公司的信息并返回表格,第一列是企业名称,第二列是成立年份,第三列是总部所在地区,第四列是企业简介(企业简介不要超过30字),第五列是企业的官网(如果没有就填写None)。这些公司是:Tata Group,Deloitte,PricewaterhouseCoopers,Accenture,Ernst Young,Cognizant,Infosys Public Services,Boston Consulting Group,McKinsey Company,CGI Group,Booz Allen H
96、amilton,Bain Company,Gartner,Mercer,Capgemini Invent,KPMG,Oliver Wyman,A.T.Kearney,Roland Berger,Arthur D.Little,China insights consultancyPrompt 2:进入前三个公司的网站,总结他们的成立时间、总部所在地、发展历史、主要产品。返回表格就可以,第一列公司名称,第二列成立时间、第三列总部所在地、第三列发展历史(不要超过30字)、主要产品(不要超过30字)。回复231238二手二手 Perplexity是基于大模型的应用,做二手非常强大,而且可以试用。是基于
97、大模型的应用,做二手非常强大,而且可以试用。GPT4Claude2Perplexity彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率39图片图片 日常工作中,常找一些封面页的背景图片,生成式日常工作中,常找一些封面页的背景图片,生成式AI可以生成非常好且合适主题的图片;另外,常常要可以生成非常好且合适主题的图片;另外,常常要找一些找一些icon和插画,生成式和插画,生成式AI可以生成简单的可以生成简单的icon和插画。当然,使用和插画。当然,使用Midjourney需要一定的技巧,目前上手需要一定的技巧,目前上手有一定的难度。有一定的难度。彩蛋:生成式彩蛋:生成式AI如何提升工作
98、效率如何提升工作效率找到合适的Prompt1把Prompt发给Midjourney 2微调并下载3找到合适的Prompt并替换内容1把Prompt发给Midjourney 2微调并下载3Prompt:Generate a clean set of oil production industry icons representing the various segments of the oil production chain.Icons should have a professional look and feel with straight lines,minimalist design
99、 and consistent proportions.The color palette should be neutral and muted,suitable for a consultants output report.Each icon should be easily recognizable and distinguishable,reflecting the essence of the respective segment.Prompt:Generate 4 illustrations of the oil extraction industry,illustrations
100、 should have a professional look and feel with straight lines,minimalist design and consistent proportions.The color palette should be neutral and muted,suitable for a consultants output report.Each illustration should be easily recognizable and distinguishable,reflecting the essence of the respecti
101、ve segment.40行业分析行业分析 MindOs是一个基于大模型的应用,有一个角色是“行业分析师”,告诉它想要分析哪个行业即可生是一个基于大模型的应用,有一个角色是“行业分析师”,告诉它想要分析哪个行业即可生成报告。生成的报告质量不敢恭维且很模板化,但思路很有意思,即先通过网页搜索,找到最合适的信息源,成报告。生成的报告质量不敢恭维且很模板化,但思路很有意思,即先通过网页搜索,找到最合适的信息源,再总结输出为报告。再总结输出为报告。彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率思考过程输出的报告注:以上截图来自网站-https:/ 有个比较难用肉眼识别的图想复现一下,基于
102、有个比较难用肉眼识别的图想复现一下,基于GPT-4的的Advanced Data Analysis可以给图像加上横可以给图像加上横线、竖线,帮助判断具体数字。线、竖线,帮助判断具体数字。彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率“请在我上传的图像上添加50条红色半透明横线和50条红色半透明的竖线,以便于我手动估算图表中的数值。横线应该从图像顶部到底部精确均匀分布,每一条线的间隔必须精确的为100%除以横线的数量,从0%到100%全覆盖。竖线应该从图像坐部到右部均匀分布,每条线的间隔应精确的为100%除以竖线数量,从0%到100%全覆盖。请确保每条横线和竖线的位置是精确计算出来
103、的,以避免任何不等间距的情况。横线的标签应该一半一半分布在图像的左侧和右侧以避免视觉混乱,竖线的标签一半一半分布的分布在上方和下方。处理好的图像直接生成出来让我看见并给我一个附上下载链接。”1245342生成式生成式AI能够提升我们的工作效率,但目前仍有不少问题,如:能够提升我们的工作效率,但目前仍有不少问题,如:1)应用端不成熟;)应用端不成熟;2)无法突破数据、敏感性)无法突破数据、敏感性的限制;的限制;3)使用受限;)使用受限;4)对用户要求较高。)对用户要求较高。彩蛋:生成式彩蛋:生成式AI如何提升工作效率如何提升工作效率应用端还不成熟需要不断摸索方法并总结和标准化才能真正的提升效率,
104、因为很多场景对我们日常工作是低频的,例如画图,想要通过生成式AI生成符合我们要求的图需要不断调试,前期要花费大量的时间。1无法突破数据、敏感性的限制以做二手为例,底层逻辑是通过企查查、天眼查、维基百科等发起请求并给予查询到的内容进行整理,很多信息在搜索引擎上查找起来也是比较费劲的以MindOS为例,它所查询的数据基本是非常公开的数据,而很多我们常用的数据在公开渠道查找比较困难,未来即使有行业大模型,受版权等限制这些数据仍不会是公开数据,或许私有化的垂类大模型能够做到整合私有化的数据并提供输出2使用受限我们虽然都自带“魔法”,但想要使用GPT-4、Midjourney十分困难首先,这2家对“魔法
105、”要求比较高,得有特定的线路和支持全局的“魔法”其次,付款限制严格,GPT-4不支持中国境内发行的卡(包括外币卡)再次,价格高,GPT-4每月$20,Midjourney最基础版本每月$10国内目前也已经推出了不少大模型,在文字输出上尚可,其他方面的能力略有不足。3对用户要求较高除去国内特有的一些限制及价格较高的限制外,目前生成式AI实际对用户的知识边界仍有不低的要求,增效仅局限于已有的知识,想要通过生成式AI达到不懂行业的及格线非常困难(需要不断的扩自己的知识边界才能更全面提升)以GPT-4的Code Interpreter为例,不需要用户会写代码,但想要实现更复杂的工作,还是需要用户对编程
106、有一定的了解且能够大致读懂代码,否则使用起来非常费劲。以Midjourney为例,生成一张比较复杂的图片,需要不断调整,而且还要善于理解特定的prompt。不懂的用户其实根本就没法调整,例如普通用户对各种画风可能一无所知。443 2023 China Insights Consultancy.All rights reserved.This document contains highly confidential information and is solely for the use of our client.No part of it may be circulated,quoted,copied or otherwise reproduced without the written consent of China Insights Consultancy.CIC灼识咨询灼识咨询电话:+86 21 2356 0288地址:上海市静安区普济路88号静安国际中心B座10楼如需更多信息,请访问:敬请致函:扫码关注公众号灼识扫码关注公众号灼识CIC扫码添加扫码添加CIC灼识小助手灼识小助手