1、张张鑫鑫火山引擎副总裁新新时时代代开开发发者者的的自自我我修修养养“面向业务增长、面向AIGC、面向开源协同”字节跳动开源治理运营负责人0 01 1面面向向业业务务“以业务增长为导向”业务价值时间过去当前未来第第二二增增长长曲曲线线理理想想的的企企业业发发展展之之路路 数数字字化化转转型型进进入入马马利利克克曲曲线线的的关关键键决决策策区区 上上云云是是数数字字化化转转型型的的重重要要底底座座与与创创新新引引擎擎Source：马利克创新者的窘境数数字字化化转转型型进进入入马马利利克克曲曲线线的的关关键键决决策策区区技技术术开开发发“三三要要素素”，拉拉动动业业务务增增长长敏敏捷捷迭迭代代1 1

2、2 2 3 3数数据据驱驱动动体体验验创创新新温温 度度聚焦内容与交互创新，持续提升用户体验，更好地传递产品和品牌价值发挥数据资产价值，赋能用户精准洞察，实现业务科学决策打造极致敏捷的数字化新底座，提升传统业务的灵活性和韧性精精 度度速速 度度“三三要要素素”汇集温度、精度和速度帮助企业实现业务价值技技术术开开发发“三三要要素素”在在字字节节跳跳动动的的实实践践体体验验创创新新：为为用用户户触触点点构构建建卓卓越越体体验验10亿级月活用户极致优化的音视频技术基于万亿级特征的实时推荐算法数数据据驱驱动动：为为内内核核驱驱动动提提供供敏敏捷捷运运营营日新增数十PB数据每日创建上千次AB实验6大标签

3、主题，10万+标签类型敏敏捷捷迭迭代代：为为业业务务发发展展推推动动产产品品创创新新日均上线变更20000+线上应用总数超过60000+1000万+线上容器平均触摸时间标准差案案例例：“三三要要素素”的的核核心心是是为为业业务务服服务务创创作作者者-降降低低生生产产门门槛槛用用户户-产产品品差差异异体体验验平平台台-运运营营增增长长策策略略短短视视频频背背景景音音乐乐模模板板同同款款全全屏屏高高清清滤滤镜镜特特效效个个性性化化推推荐荐社社区区供供给给增增长长方方法法拉拉新新留留存存创创意意与与传传播播端端上上A AI I交交互互推推荐荐系系统统工工程程内内容容生生态态运运营营数数据据驱驱动动市

4、市场场投投放放视视频频架架构构0 02 2面面向向A AI IG GC C“以 AIGC 为杠杆”A AI I 助助力力字字节节跳跳动动各各业业务务发发展展今今日日头头条条抖抖音音西西瓜瓜视视频频懂懂车车帝帝 幸幸福福里里飞飞书书 剪剪映映H He el lo o业业务务线线主主端端架架构构研研发发线线中中台台能能力力复复用用 平平台台层层DevOpsAPMTestBuildFlutterLynxAML基基础础组件框架工具标准推推荐荐特特效效风风控控搜搜索索商商业业化化直直播播问问答答支支撑撑复复用用承承载载沉沉淀淀&使使用用模模型型能能力力层层推荐模型Self Attention文本分类模型

5、文本识别模型 搜索（排序精度）图像识别模型问答（相似度匹配）关键词提取自动评分模型考试推荐与搜索模型错别字纠错模型相似文章检测模型虚假内容检测智能广告意图识别模型NLP小说推荐模型历史事实检测模型情绪关怀模型语法纠错模型借借助助A AI IG GC C实实现现爆爆款款特特效效内内容容开开发发提提速速与与降降本本收收集集若若干干原原始始风风格格图图片片训训练练S St ty yl le eG GA AN N大大模模型型生生成成成成对对数数据据人人工工挑挑选选可可用用成成对对数数据据+设设计计师师P P图图优优化化训训练练p p2 2p p小小模模型型传传统统3 3D D风风格格化化研研发发流流程

6、程自自建建十十亿亿级级数数据据集集算算法法合合成成引引入入模模型型优优化化端端侧侧应应用用6 60 00 0%生产效率9 90 0%人力成本7 75 5%机器成本 千千万万级级 数据投入1 10 0+扩展能力0 03 3面面向向开开源源协协同同“以开源协同为助力”软软件件正正在在吞吞噬噬世世界界，开开源源正正在在吞吞噬噬软软件件开开源源改改变变了了软软件件行行业业的的格格局局行行业业应应用用开开源源代代码码比比例例行行业业应应用用的的创创新新站站在在开开源源的的肩肩膀膀之之上上Source:2021 OSSRA Report8 82 2%互联网&移动应用8 81 1%能源&清洁技术5 57 7

7、%通信服务8 82 2%医疗、健康&生命科学8 84 4%制造、工业&机器人6 69 9%金融服务&科技字字节节跳跳动动开开源源理理念念字字节节跳跳动动的的开开源源历历程程：从从使使用用、到到参参与与、再再到到主主动动开开源源使使用用开开源源快速推动业务发展参参与与开开源源结合自身业务优化保持和社区一致经验共享主主动动开开源源回馈社区推动技术进步以以北北极极星星指指标标代代替替短短期期K KP PI I打打造造精精品品项项目目优优于于广广泛泛覆覆盖盖用用户户价价值值优优于于商商业业变变现现安安全全和和合合规规是是底底线线字字节节跳跳动动主主动动开开源源项项目目现现状状WWe eb b,A Au

8、 ud di io o&V Vi id de eo oA AI IBytePSByteIRMatxScriptD Da at ta aI In nf fr ra as st tr ru uc ct tu ur re ePrimusS Se ec cu ur ri it ty yappsharkElkeidByteMDScene2 20 00 00 0+C Co on nt tr ri ib bu ut to or rs sS St ta ar rs s1 10 00 00 00 00 0+官方公众号字字节节跳跳动动开开源源2022年，字节跳动成立了开源项目办公室（OSPO），作为企业层面的协调

9、员，旨在制定战略，助力字节跳动开源的成功。OSPO 将完善开源软件管理体系，推动开源合规治理与开源运营，加速开源社区的活力和成长。从从个个体体驱驱动动到到体体系系化化治治理理制制定定公公司司级级开开源源战战略略明确开源的价值、目标与策略，确保有体系、有目标地开展开源工作明明确确开开源源项项目目评评审审标标准准筛选聚焦出高价值的重点项目，确保重点开源项目的资源支持与效果产出强强化化开开源源管管理理规规范范优化审批流程，确保使用/贡献/自研开源等各类开源实践的合法、合规、合理做做好好内内外外部部开开源源布布道道对内提升开源认知与教育，对外展现开源成果、打造社区影响力S Sp po on ns so

10、 or r梁汝波、杨震原、洪定坤开开源源委委员员会会主主席席洪定坤战战略略评评审审组组组长：王剑成员：各技术领域代表、To B业务代表治治理理运运营营组组组长：张鑫成员：开源法务、市场运营、布道师等字字节节跳跳动动的的A AI I发发展展之之路路2 20 01 12 2年年深度学习在图像识别突破2 20 01 15 5年年人脸识别开始商业落地2 20 01 18 8年年NLP预训练模型突破2 20 02 22 2年年大模型带来质的飞跃字字节节跳跳动动成成立立2 20 01 16 6年年字字节节跳跳动动A AI IL La ab b成成立立2 20 01 18 8年年发发展展多多模模态态渗渗透透

11、到到全全线线产产品品2 20 02 20 0年年A AI I技技术术全全面面自自研研自自用用2 20 02 23 3年年大大模模型型第第一一阶阶段段：A AI I中中台台组组建建第第二二阶阶段段：高高速速发发展展全全面面应应用用第第三三阶阶段段：企企业业服服务务从从1 13 3B B 到到 1 13 30 0B B大大模模型型，需需要要巨巨大大的的努努力力和和坚坚持持1 13 3B B训练显存占用：260GB（A100*8 80GB/台 3.25卡）推理显存占用：26GB（A100*8 80GB/台 单卡）训练显存占用：2600GB（A100*8 80GB/台 多多机机训训练练）推理显存占用：

12、260GB（A100*8 80GB/台 多多卡卡推推理理）新新的的挑挑战战大大模模型型任任务务工工程程稳稳定定性性差差频繁的随机硬件故障算法造成的OOM多机多卡分布式通讯阻塞业务代码问题计计算算&存存储储资资源源需需求求膨膨胀胀：千千卡卡规规模模模型梯度爆炸千卡训练对存储带宽要求更高项项目目成成本本高高昂昂：千千万万级级成成本本千卡A100自建：仅GPU卡需1500万美元云服务：200500万美元/4个月/52台A100（Bloom）业业务务部部署署依依赖赖多多组组件件搭建完整的业务pipeline，除了大模型推理本身，还依赖多种PaaS/SaaS服务；多云之间数据传输造成额外成本和业务延时。1 13 30 0B B