上海品茶

您的当前位置:上海品茶 > 报告分类 > PDF报告下载

次时代分布式协同AI基准测试(17页).PDF

编号:86296 PDF 17页 3.15MB 下载积分:VIP专享
下载报告请您先登录!

次时代分布式协同AI基准测试(17页).PDF

1、空白演示单击输入您的封面副标题郑子木主任工程师,边缘云创新实验室,华为云次时代分布式协同AI基准测试次时代分布式协同AI基准测试次时代分布式协同次时代分布式协同AI基准测试AI基准测试传统公有云传统公有云:超大规模数据中心,光缆高速互联混合云:混合云:企业私有云与公有云专线互联边缘云:边缘云:公有云为中心,边缘节点与中心专线或公网互联全分布式云:全分布式云:去中心化,中心数据中心与边缘数据中心多路径互联State-Of-The-Arts!State-Of-The-Arts!2021业界首发边云协同AI框架Sedna,支持边云协同推理、联邦学习、增量学习、终身学习4大分布式AI范式 2021业界

2、首发边云协同终身学习框架,打破学界终身学习须使用神经网络的约束,典型场景推理精度提升32%以上 2021发布全新边云网络套件EdgeMesh,业界首个轻量化跨边云ServiceMesh组件 截至2021,已完成业界最大规模边云协同高速公路项目、业界首个边云协同卫星、边云协同汽车、边云协同油田关键进展 社区热度:KubeEdge社区5.1k Github Star,1.4k Fork 全球贡献者900+,代码贡献者220+,全球贡献组织70+Sedna 2021年2月开源,已获得340+Star,吸引中国电信等近400厂商、高校和开发者关注 活跃度:触达人数10万,活跃社群3200+人 CNCF

3、未公开调查显示KubeEdge采用率达40%,已突破大规模用户落地 社区生态:4个SIG(IoT、MEC、AI、Robotics)+1个WG(Wireless)逐步形成差异化趋势 openEuler社区成立边缘SIG、发布openEuler边缘预览版;Sedna加入OpenI启智社区,逐步与其他社区形成联合生态分布式协同AI概念将人工智能相关的部分任务部署到边缘设备,基于边缘设备、边缘服务器、云服务器,利用分布式乃至分布式协同方式实现人工智能的技术数据在边缘产生边侧逐步具备AI能力分布式协同AI核心驱动力随着边侧算力逐步强化,边缘AI持续演变至分布式协同AI分布式协同AI vs.公有云AI:个

4、性化适应边缘场景 降低响应时延与带宽 保护数据隐私低时延安全合规个性化分布式协同AI vs.私有云AI:降低边侧建设与维护成本 实现跨边知识融合分布式协同AI软件市场空间$3,093.2m$435.9mTravel,transport,logistics23%Cross-vertical9%retailmedia and entertainment1%public sector and utilities10%energy and material12%advanced industry10%healthcare10%infrastructure6%chemical and agricultu

5、re5%banking and insurance1%Consumer4%业界首个分布式协同AI开源项目Sedna基于KubeEdge提供的边云协同能力,支持现有AI类应用无缝下沉到边缘为分布式协同机器学习服务 降低构建与部署成本 提升模型性能 保护数据隐私SIG成员近年发表边缘AI顶会论文10+SIG成员在AI顶会IJCAI上分享边缘AI论文Sedna斩获中国信通院云边协同应用创新大赛最佳创新奖 数据集管理 模型管理 基础框架 协同推理 增量学习 联邦学习 终身学习训练推理框架 主流AI框架 模块算法 可扩展算法接口 兼容性调研对象职业调研对象技术方向算法开发者TOP1 实际业务数据集及配套

6、算法难以获取TOP2 重复部署整套端边云系统过于沉重服务开发者TOP1 通用方案整体性能不一定满足特定业务需求技术布道者TOP1 缺乏商业成功案例1.研发资源支持少2.方案选型成本高3.价值呈现晦涩理解难分布式协同AI生态挑战公开数据集琳琅满目哪些数据集可以用于实际业务需求呢?算法开发者国家工业信息安全发展研究中心:部分公开数据集整理业务数据集难以获取研发资源支持少啊,我认识一家边缘计算公司在做工业质检,质检靠谱数据有吗?可以先试一试。不知道啊,公开数据集太多。大海捞针,翻到头都秃了。但要么质量不太高,或者要么跟人家镀锌板识别业务不太匹配正在打造边缘AI算法利器,有什么实际业务可以练兵吗?我懂

7、。真实、好用的数据集说起来轻巧,但业务毕竟刚刚萌芽,找起来太累了吧。也不知道找哪家公司合适;自己去买设备采集?需求I:标准数据集和配套脚本管理与下载,快速上手真实业务重复部署端边云系统费时费力算法开发者知乎:分布式协同AI系统架构示例图研发资源支持少分布式协同AI系统架构复杂想聚焦系统上的AI算法而已,真需要写那么多系统代码,把整一套边云协同系统自己搭起来非常不友善很多公司好像老早就有了,重复造轮子感觉憋屈。想在巨人肩膀上实现系统突破,搞大事情。好了,组里花大钱搭起来,系统和算法终于能用了,但眼看着一年过去,马上毕业来不及科研AI系统的构建对于高校团队来说费时过长成本过高,简直大坑。只是想聚焦

8、系统上的分布式调度而已,需要自己把迁移学习、增量学习、联邦学习算法啥的协同机器学习算法学一遍的话很不友善费力气搭系统,也不足以落地应用到工业界工业界有些系统机制,包括模型管理和维护等,能为模型上线护航需求II:工业级分布式协同系统仿真,提升方案研发效率缺乏与先前方案的对比。受众不明白什么是边缘,跟以前有什么区别落地效果有差距。听说这几个算法不错,那几个算法也不赖。调研大半年,尝试很多算法,要能做进客户心窝里还是很困难的。没有界面,缺乏demo,方案不直观,客户看不懂,没有吸引力自研成本高,比如设备贵、人才高薪。业务问题多得很一宿一宿睡不着,天天挨客户骂,现场各种安抚疲于奔命。顶会论文?真的没有

9、时间看。服务开发者通用方案不满足特定需求技术布道者缺乏商业成功案例客户有数据,伙伴有研发,但签了数据使用协议,数据无法出边缘,算法难以现场调整,最佳实践不清晰方案选型成本高价值呈现晦涩理解难需求III:算法/范式测试排行与最佳方案展示数据集及其配套算法难以获取重复部署端边云过于沉重方案选型成本高+价值呈现晦涩免费标准数据集和数据处理脚本共享工业级分布式协同系统仿真算法/范式测试排行与最佳方案展示分布式协同AI解决方案选择业界首个PCB-AOI工业质检数据集在KubeEdge-Ianvs首度公开发布:1、使用目标检测的方法检测PCB板中的坡度与翘脚问题2、数据集扩增图片共2904张,其中原始图片

10、集484张*雅努斯(拉丁语:Ianvs(Inus)jans)是罗马神话中开端、大门、道路的神。罗马士兵出征时,都要从象征雅努斯的拱门下穿过,后来欧洲各国的凯旋门形式都是由此而来,寓意连接过去与未来,为分布式协同AI相关开发者、部署者、布道者开辟初始道路和打开凯旋之门。社区提案:https:/ v0.1 开源架构开源数据集大规模metricp50(ms)p90(ms)p99(ms)SLO(ms)pod_startup75000create_to_schedule001000N/Aschedule_to_run0N/Arun_to_watch108716

11、742265N/Aschedule_to_watch0N/AMaximum TypeMaximum ValueNumber of Nodes100,000Number of Pods1,000,000Number of Pods per node10Number of Namespaces400Number of Pods per Namespace2500k8s masterwork nodework nodeEdgeMarkk8s masterCloudCoreWork nodeHollow podHollow podHollow podHollow podregis

12、ter node测试工具测试结果StatusSLISLOOfficial最近5min的单个Object Mutating API P99 时延除聚合API和CRD外,P99=1sOfficial最近5min的non-streamingread-only P99 API时延除聚合API和CRD外Scope=resource,P99=1sScope=namespace,P99=5sScope=cluster,P99=30sOfficial无状态Pod启动时间(不包含拉取镜像和Init Container),从pod createTimestamp到所有container都上报启动,并被watch观察到的P99时间P99=5s测试结果均符合Kubernetes社区定义的SLOs。因此,Kubernetes+KubeEdge集群能够稳定支持100,000边缘节点同时在线,并且管理超过1,000,000的pod。社区仓库:https:/

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(次时代分布式协同AI基准测试(17页).PDF)为本站 (云闲) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
会员购买
客服

专属顾问

商务合作

机构入驻、侵权投诉、商务合作

服务号

三个皮匠报告官方公众号

回到顶部