1、DeepRec:大规模稀疏模型训练引擎刘童璇阿里云计算平台事业部PAI-高级技术专家Contents目录01DeepRec背景02DeepRec功能介绍03DeepRec开源DeepRec背景01为什么需要稀疏模型训练引擎稀疏功能训练性能部署及Serving提升模型效果提升模型迭代效率具有稀疏模型特点的部署及线上服务什么是DeepRecA Recommendation engine based on TensorFlow分布式训练框架动态弹性特征增量模型导出及加载稀疏功能训练性能部署及Serving特征淘汰及准入基于特征频率的动态弹性维度自适应动态弹性特征Runtime优化算子优化图优化超大稀
2、疏模型分布式Serving多级混合存储及多Backend支持Online Deep LearningDeepRec业务场景A Recommendation engine based on TensorFlow猜你喜欢推荐主搜索搜索直通车、定向广告DeepRec研发团队A Recommendation engine based on TensorFlowAOPPAIXDLAISNvidiaIntelDeepRecDeepRec功能介绍02动态弹性特征基于特征频率的动态弹性维度低频特征使用更低维度高频特征使用更高维度异步训练框架StarServer通信协议优化、用户态零拷贝数据传输Run To C
3、ompletion and Lockless Graph Execution基于图拓扑序的图FusionThousands of WorkersTens of Parameter Servers同步训练框架HybridBackend数据并行于模型并行混合分布式训练面向混合硬件的训练编排针对高维稀疏特征大批量访问优化Runtime优化-PRMalloc图优化-结构化特征降低存储开销降低User网络计算开销模型增量导出及加载Embedding多级混合存储推荐模型库-EasyRecFMDSSMSimple MultiTask多样性特征排序模型召回&多目标模型FMWideAndDeepDeepFMMM
4、oEESMMDeepCrossAutoIntMultiTowerDINBSTMINDRe-rank模型:ListWise其他连续值建模优化:DeepGBM冷启动模型:多臂老虎机离散特征多值特征组合特征查找特征序列特征DBMTL连续值特征DeepRec开源03DeepRec开源A Recommendation engine based on TensorFlow场景合作开放阿里核心搜推广业务锤炼Intel/NV合作支持,引入更多外部合作公司开放的稀疏模型训推引擎开源合作伙伴SOK(HugeCTR)稀疏算子加速BF16混合精度优化EmbeddingVariable on PMEMRuntime优化、图优化、算子优化、新硬件支持GPU Embedding Fusion OpsEmbeddingVariable on GPU分布式框架、图优化、算子优化、新硬件支持THANKS
1、下载报告失败解决办法 2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。 3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。 4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
云原生开源数据湖最佳实践-开源大数据与AI行业实践论坛(16页).pdf
阿里巴巴开源大数据平台演进之路-开源大数据与AI行业实践论坛(22页).pdf
Proxima Bilin Engine-多模态向量检索引擎-开源大数据与AI行业实践论坛(9页).pdf
喜马拉雅语音技术介绍-开源大数据与AI行业实践论坛(42页).pdf
三个皮匠报告专业的行业报告下载站,每日更新,欢迎大家关注!
copyright@2008-2013 长沙景略智创信息技术有限公司版权所有 网站备案/许可证号:湘B2-20190120
专属顾问
机构入驻、侵权投诉、商务合作
三个皮匠报告官方公众号
验证即登录,未注册将自动创建三个皮匠报告账号
使用 微信 扫一扫登陆