1、Flink SQL在云音乐的产品化实践 网易云音乐 蒋文伟 产品功能 Features #2 简介 Introduction #1 性能优化 Performance #3 运维完善 Operations #4 未来规划 Future #5 Flink SQL云音乐产品化简介 Introduction to Flink SQL used in Netease. #1 Flink in Music 支撑音乐每日数千亿数据量的日志输入 对接数百个外部数据源 提供数百名同学进行实时计算开发 运行数千实时计算任务 多种业务场景支撑 应用场景 use scene Content 内容分发 Report 实
2、时报表 Recommend 推荐业务 Index 索引任务 Monitor 实时监控 Example for distribution What is distribution 分发是常见的经典场景 将日志流按业务切分 实时业务的上游 对性能、稳定性有要求 流量控制、持久化等需求 遇到的问题 Problems 开发效率低,业务标准流程难以复用 未能方便的提供标准的组件 定制组件:定时文件清理 学习成本较高:SQL 化开发过程中依然需要详细的配置文档 遇到的问题 Problems 通过SQL方式进行HDFS Sink 的配置 外部环境混乱:数据权限难于管理 血缘、监控、报警等配套不统一 遇到的问
3、题 Problems 血缘关系常常用于数据治理 Example For Snapshot What is snapshot 将特征的历史版本进行存储 Why need snapshot 防止特征穿越 实时模型效果提升的重要一环 Example For Snapshot 大量实时计算的需求 业务复杂 要求高可用,低延迟 遇到的问题 Problems 开发成本高,调试相对复杂 特殊需求无法快速满足 定制需求:不同认证方式的Http Sink 传统调试方式 调优需要对Flink有较为深入的理解 运维成本高,排查问题困难 业务的指标无法监控 每次升级都是一次挑战 遇到的问题 Problems 产品化目标 our goal 降低用户的学习成本、运维成本 提升用户的开发效能 在性能/监控等方面进行赋能 打造云音乐实时计算一站式平台 云音乐的实时计算Notebook服务 Introduction to
1、下载报告失败解决办法 2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。 3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。 4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
阿里云消息队列的 Serverless架构演进.pdf
云原生中间件重磅发布—全面迎接 Serverless 时代.pdf
新一代AIGC图像应用 在零售行业的实践成果.pdf
释放算力潜能加速 AI 应用构建.pdf
青团社云原生架构实践—亿级灵活用工平台的架构实践.pdf
开源混部系统Koordinator助力云原生应用性能提升.pdf
基于ACK One 实现简单的跨云协同 让业务管理更高效.pdf
大模型 On Serverless 助力因果推断.pdf
Serverless 引领云上研发新范式.pdf
AIGC 浪潮之上森马的 Serverless 实践之旅.pdf
最佳实践:物联网场景云网络最佳实践分享.pdf
使用NIS观测云网络.pdf
Session:弹性、高可用、可观测的应用交付网络产品更新.pdf
Deep Dive:应用交付网络架构设计.pdf
通义万相:视觉生成大模型的进化与应用.pdf
Hologres Serverless之路:揭秘弹性计算组.pdf
三个皮匠报告专业的行业报告下载站,每日更新,欢迎大家关注!
copyright@2008-2013 长沙景略智创信息技术有限公司版权所有 网站备案/许可证号:湘B2-20190120
专属顾问
机构入驻、侵权投诉、商务合作
三个皮匠报告官方公众号
验证即登录,未注册将自动创建三个皮匠报告账号
使用 微信 扫一扫登陆