报告预览

范恂毅-百度文心大模型赋能边缘计算与应用转型.pdf

编号：166462

PDF 26页 8.77MB 下载积分：VIP专享

下载报告请您先登录！

范恂毅-百度文心大模型赋能边缘计算与应用转型.pdf

1、百度文心大模型赋能边缘计算与应用转型范恂毅2024.6.222中国基础模型的先行者中国基础模型的先行者来源：The Forrester Wave：AI/ML Platforms In China,Q4 2023在国内14家主流云厂商中，从产品能力、战略规划、市场表现三方面，基于25项细分标准全面评估，百度智能云表现亮眼。9项细分评分第一拿下综合得分第一居于“领导者”地位安全合规可信的云服务安全合规可信的云服务24年年百度安全技术能力积淀，百度安全技术能力积淀，参与制定国内外标准参与制定国内外标准数百项数百项获得信息安全、个人隐私保护等体系认证获得信息安全、个人隐私保护等体系认证70+项项、数据

2、安全、可信安全解决方案等荣誉奖项、数据安全、可信安全解决方案等荣誉奖项25+项项百度智能云充分重视数据安全，在相关领域获得评估认可多项云安全产品获得“安全产品专用许可证”及通过检测数据安全能力成熟度评估（4级）数据管理能力成熟度评估量化管理级（4级）安全专用产品销售许可证大数据产品能力评估认证数据安全治理能力达到优秀级优秀网络可信服务解决方案国内外多项权威认证或评估10+项 ISO 体系认证能力成熟度模型集成评估支付卡行业数据安全认证SOC1 TYPE II、SOC2 TYPE I（隐私性）、SOC2 TYPE II（安全性、可用性及保密性）、SOC3信息安全服务资质-云计算安全类一级CSA

3、STAR云安全国际金牌认证MTCS SS 584:2015多层云端安全中央网信办云计算服务安全评估百度智能云等保3级，金融云等保4级12项可信云认证BS 1002参编 ISO/IEC 27035-1、ISO/IEC 17603、GB/T 41388-2022、GB/T 41391-2011、GB/T 41391-2022 等数百项安全标准专业安全团队 7*24小时应急响应强大的攻击溯源能力产业智能化的领导者产业智能化的领导者深入产业实体，服务深入产业实体，服务500万万+企业客户与开发者企业客户与开发者t文心一言、文心大模型与千帆大模型平台关系文心一言、文心大模型与千帆大模型平台关系百度文心

4、大模型第三方大模型文心千帆大模型平台：一站式大模型开发及应用平台海量数据处理高质量数据标注再训练/微调/强化学习大模型评估及高效压缩自动化Prompt工程快速应用编排大模型托管服务大模型在线推理服务接入客户业务系统,支持丰富应用场景智能问答内容创作产品营销代码编写人员培训其他场景最终用户文心一言大模型To CTo B文心大模型模型矩阵文心大模型模型矩阵模型能力模型能力成本成本x1x10 x100ERNIE 4.0ERNIE LiteERNIE SpeedERNIE 3.5ERNIE Tiny定位定位模型名称模型名称上下文上下文长度长度输入输入元元/千千tokens输出输出元元/千千tokens

5、标准通用复杂场景、高级分析与规划ERNIE 4.08k0.120.12ERNIE 3.58k128k0.0120.012轻量级适用于垂直场景定制训练，如RAG、代码、数学等能力，构建行业模型ERNIE Speed8k128k免费免费ERNIE Lite8k免费免费更快更实惠，可用于特定场景的自然语言指令调用、或需要在边缘设备推理场景ERNIE Tiny8k免费免费垂直场景适合游戏NPC、客服对话、对话角色扮演等ERNIE Character8k0.0040.008适合对话或问答场景中的外部工具使用和业务函数调用ERNIE Functions8k0.0040.008基于大模型底座构建企业级应用基

6、于大模型底座构建企业级应用AI 原生应用原生应用云原生云原生平台异构硬件基础平台AI OStoolkit千帆 AppBuilderShell千帆 ModelBuilderKernel文心 CV 大模型文心 NLP大模型百度百舸 AI异构计算平台模型&数据管理模型安全服务百度智能云千帆百度智能云千帆AppbuilderAppbuilder介绍介绍大模型训推一体工具链基础大模型应用分发（网页、企微、微信公众号、AgentBuilder、API/SDK 集成到业务系统等）开发前端、SDK、API代码态可编程的完整开发套件通过统一的基础组件、高级组件与系统集成零代码态低代码零代码 LGUI 交互三步即

7、可完成应用的创建与开发组件工作流，通过拖拉拽、画布等方式实现确定的任务流程自主规划（Agent 机制）人工编排（WorkFlow 机制）意图识别多轮对话问题拆解槽位识别任务规划澄清/反思API 接入知识库大模型处理组件代码块画布/DAG组件（大模型外挂工具）知识库大模型外挂知识高级组件知识检索增强 RAG生成式数据分析 GBI数据上传总结能力知识注入选表能力数据问答问表能力多任务处理绘图能力代码解释器代码解释数据分析信息提炼科学计算检索增强问答Query 理解答案生成追问生成语义排序混合检索召回百度检索 API大模型融合总结/混合排序百度检索增强RAG知识入库知识解析知识切片知识索引知识增强基

8、础组件大模型组件AI 能力组件第三方 API算法组件基础云组件多轮改写相似问生成自然语言转Pandas标签抽取语义匹配向量计算文档切分会话小结复杂 Query 判定生成问答对挖掘文档解析OCR记忆机制上下文记忆提供丰富的应用示例，快速获得满足需求的常规应用、可视化的应用快速编辑器，可基于自然语言或GUI点选式交互快速完成专属应用搭建提供一站式AI原生应用开发资源，轻松获取大模型驱动的开发组件、语音识别、语音合成、文生图、向量引擎等AI能力组件，以及各类IAAS云资源、支持便捷的二次开发、线上或本地开发环境客户价值客户价值将不同的组件组合串联，使它们可以比较完整地完成一个特定场景的任务将丰富的基

9、础云能力和多模态AI能力进行组件化封装，使每个组件可以完成一个特定的功能千帆ModelBuilder-基于大模型底座构建企业级应用数据管理数据标注数据生成数据处理大模型训练P-tuning/LORASFTRLHF/DPO大模型管理预置大模型多个模型同时评估大模型推理在线测试在线服务模型压缩Prompt工程Prompt模版管理安全机制安全干预大模型应用构建样板间插件上传数据输入Prompt输出用户客户应用内外部业务应用系统千帆ModelBuilder-基于大模型底座构建企业级应用数据管理数据标注数据生成数据处理大模型训练P-tuning/LORASFTRLHF/DPO大模型管理预置大模型多个模型

10、同时评估大模型推理在线测试在线服务模型压缩Prompt工程Prompt模版管理安全机制安全干预大模型应用构建样板间插件上传数据输入Prompt输出用户客户应用内外部业务应用系统边缘百度边缘定义：云边缘（CDN/IDC机房）、移动边缘（5G基站）、端边缘（现场硬件）CDN边缘（BEC）：CDN/IDC城域机房，平均延迟20ms，视频、区域化上云、云游戏等场景移动边缘（IME）：园区街道旁，5G基站，平均延迟10ms，车路协同、远程医疗等端边缘（ECS）：小区/工业现场设备端，平均延迟2ms，智慧工地、营业厅、园区等中心云 BEC IME ECS，距离越近，延迟越低，计算能力更分散，场景更聚焦百度

11、智能云边缘云市场份额-连续3年市场份额Top2厂商A百度智能云13.8%OthersTotal：RMBM 2562.7Source：IDC中国边缘云市场解读，20222021年百度智能云中国边缘公有云市场份额Top22020年百度智能云中国边缘云基础设施服务市场份额第一百度智能云23%OthersTotal：RMBM 1089.9Source：IDC中国边缘云研究，202115.513.870.7Total：RMBM 2562.7Source：IDC中国边缘云市场解读，20222022-H2年百度智能云中国边缘公有云市场份额Top2TOP3云厂商中增速第一边缘计算节点BEC产品介绍将百度云标

12、准计算&存储&GPU服务器下沉到全国各地的CDN机房、运营商IDC机房，通过地理位置和终端业务拉近距离，有效降低延迟借助先进的云原生资源池化和管理技术，将边缘资源进行统一化管理，屏蔽底层异构的特性，降低接入门槛，将云计算的能力下放到边缘在边缘提供尽可能全的基础IAAS环境，并支持客户进行统一管理，可根据客户需求，将计算服务下沉至离客户业务最近的位置并提供持续可靠的服务百度CDN机房边缘计算服务器边缘计算虚拟化技术边缘计算节点BEC边缘计算节点BEC产品特性节点全面覆盖场景丰富超低延时安全可靠全球海外节点持续建设中国内节点覆盖七大区三大运营商支持单线、三线节点支持泛娱乐、直播、安防场景等

13、vCDN场景支持云游戏、AR/VR等场景支持大数据分析和AI等场景把算力下放到距离客户10KM内，提供延迟20ms内的计算服务云上Hosteye、DDOS、域名墙企业级防攻击体系完善的鉴权、认证、防盗链边缘计算节点BEC提供离客户更近的计算、网络、存储等边缘计算资源。具备节点全面覆盖、超低延时、功能完备、弹性伸缩、场景丰富、安全可靠等特性。资源弹性伸缩，灵活按需付费支持服务/应用分发及灰度升级全局算力管控，智能监控通知秒级创建，灵活启停弹性伸缩完善的IAAS能力：容器、裸金属、虚拟机等差异化的PAAS能力：容器引擎、数据库等丰富的网络能力：VPC、云边一张网功能完备边缘计算节点BEC产品

14、功能场景基础设施互联网视频实时音视频云桌面/云游戏/云渲染智能工业智慧交通计算存储网络边缘IAAS边缘节点第三方节点PFS/CFS云磁盘边缘容器实例对象存储云边互通边缘裸金属服务器边缘云服务器边边互通经典网络VPC网络IPv6&IPv4EIP安全组ACLNAT网关边缘PAAS/平台能力边缘容器引擎CCE边缘Serverless K8S边缘数据库RDS、SCS云边一张网主机安全DDoS负载均衡HAVIP安全镜像仓库弹性伸缩冷热迁移资源报警网络监控运维灵活启停边缘AI推理本地盘/独占盘域名墙智能调度边缘大数据并行文件存储边缘数据库 mongo堡垒机KMSWAFCPU/GPU/PC-farmA800/H800/4090RDMA（IBRoCE）海外节点BEC边缘计算场景：四大场景落地实践，16+应用场景解决方案安防监控智慧工地智慧社区智慧校园智慧城市泛视频超高清直播RTCvCDN视频监控家庭娱乐云桌面云游戏云手机AR/VR智能终端本地云智算中心虚商本地云异构算力池百度边缘云案例贵州村超传统体育赛事转播3D 自由视角（任意自由视角）实时驱动数字人形象-赛事孪生实时3D骨骼还原Cooperation Agreements百度边缘云案例贵州村超

友情提示

1、下载报告失败解决办法
2、PDF文件下载后，可能会被浏览器默认打开，此种情况可以点击浏览器菜单，保存网页到桌面，就可以正常下载了。
3、本站不支持迅雷下载，请使用电脑自带的IE浏览器，或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩，下载后原文更清晰。

本文（范恂毅-百度文心大模型赋能边缘计算与应用转型.pdf）为本站（张5G）主动上传，三个皮匠报告文库仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对上载内容本身不做任何修改或编辑。若此文所含内容侵犯了您的版权或隐私，请立即通知三个皮匠报告文库（点击联系客服），我们立即给予删除！

温馨提示：如果因为网速或其他原因下载失败请重新下载，重复下载不扣分。

上海品茶

范恂毅-百度文心大模型赋能边缘计算与应用转型.pdf

范恂毅-百度文心大模型赋能边缘计算与应用转型.pdf