1、RDMA ACCELERATING SPARK DATA PROCESSING Dec, 2020 2 DATA SCIENCE IN PRACTICE More than 70% of Compute is Spent on Data Processing Data Processing Training Inference More time is spent processing data than any other stage Compute required is greater Benefit to developers is high NVIDIA opportunity is
2、 sizable 3 Accelerating the Machine Learning Data Pipeline Accelerated Accelerated Accelerated Accelerated Accelerated 4 RDMA Remote DMA Messages send/receive, remote DMA and remote atomics Hardware transport Kernel and hypervisor bypass Advantages Lower latency 10us 700ns Higher message rate 215M m
3、essages/s Lower CPU utilization 0% InfiniBand and RoCE (RDMA over Converged Ethernet) Application RDMA NIC RDMA Application Kernel TCP/IP Stack Hypervisor NIC TCP 5 RDMA?RDMA?写操作过程写操作过程 Host?A?内存 发送队列 接收队列 完成队列 Host?B?内存 发送队列 接收队列 完成队列 HCAHCA 申请分配接收buffer并传送地址和Key到远端 发送端分配个发送buffer并在HCA注册,放置 个包含远端虚拟地址的发送WQE并“按下铃” HCA?消耗个WQE,? 读取buffer并发送到远端,产发送完成信息 当数据包到达HCA的时,它会检查地址 和内存Key,并直接写内存 6 Enabling Kerne
1、下载报告失败解决办法 2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。 3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。 4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
使用 RAPIDS 加速 APACHE SPARK 3.0.pdf
使用 GPU 加速 XGBOOST 在 SPARK 集群上的分布式训练.pdf
使用 SDN 控制器架构管理 IP + 光网络.pdf
网络计算技术加速 GPU 应用.pdf
网络5.0产业技术创新联盟:网络5.0参考架构v1.0(23页).pdf
1. 华为云应用传送网络ADN技术架构探索(丁凯).pdf
新华三:20225G网络架构技术白皮书(11页).pdf
如何用分布式技术架构参与国家算力网络建设.pdf
网络5.0产业技术创新联盟:网络5.0参考架构白皮书v1.0(16页).pdf
中国移动:6G网络架构技术白皮书(2022)(41页).pdf
三个皮匠报告专业的行业报告下载站,每日更新,欢迎大家关注!
copyright@2008-2013 长沙景略智创信息技术有限公司版权所有 网站备案/许可证号:湘B2-20190120
小程序
专属顾问
机构入驻、侵权投诉、商务合作
三个皮匠报告官方公众号
验证即登录,未注册将自动创建三个皮匠报告账号
使用 微信 扫一扫登陆