报告预览

RDMA 在分布式存储中的应用.pdf

编号：29481

PDF 17页 939.80KB 下载积分：VIP专享

下载报告请您先登录！

RDMA 在分布式存储中的应用.pdf

1、基于RDMA的高性能分布式文件存储BUILD THE BEST HIGH PERFORMANCESTORAGE!上海储迅信息技术有限公司ShanghaiStorSwitt intommmation iechnologyCo.Ltd#page#公司简产品介技术为HPC/AI等领团队域提供专业存储存储领域多项核产品和解决方案心技术核心团队来自于美国专业存储公司STORSWIFT2016年：推出基于TCP/IP网络的分布式存储系统2017年：面向HPC和AI行业，基于RDMA技术全力研发新一代存储产品储迅已交付超过500PB的企业生产数据存储系统！#page#传统分布式文件存储halul前端网络：以

2、太网为主后端网络：以太网为主前端以太网交换机问题：网络成为瓶颈带宽不足：HPC行业需要更高的带宽延时高：无法满足AI行业的需求北后端以太网交换机N#page#网络瓶颈解析：TCP/IP协议用户数据应用程序优点：容错、兼容性福用户数据缺点：层次复杂、性能天生缺陷每一层都有特定的headerTCP首部应用教据TCP段大量的数据拷贝操作县dTCP首部应用数据带宽低、延时高海装游以太同存储网络不同于长距离的公网传输驱动程序PP首部TCP首部应用数据尾部以太网网络问题是提高存储性能的关键问题有以太网铁#page#解决问题的关键：RDMABuffersBuffersRDMA： Remote Direct

3、MemoryAccess减少复杂的协议栈层次避免多次数据烤贝用户态程序直接读取内核的数据ARRooB带宽高InfiniBand（RDMA OveT（InternetWideProtoco1）erged Ethernet）时延低InfiniBand SwitchEthernnet Switch#page#储迅对RDMA的投入RDMA的难题和TCP/IP不同的编程模型高带宽数据流的并发控制更加复杂STORSWIFT自行实现完备的容错机制依赖Infiniband等新型的硬件设备储迅对RDMA的投入2016年全面进入HPC和AI存储行业NVIDIA成立核心研发团队突破RDMA难题与NVIDIAMell

4、anox网络事业部建立战略合作引领开源存储项目的RDMA模块实现#page#技术实力：RDMA核心代码贡Secure|ts/lstrorg/43/rojoctsMeroeoAbandonedChange18943-Merge12b7de0f7aa516b9obb63c6aae3aadd23b243900UG：152265白下生源11G交任AuthorDac6,201712:51PMComDec122017149PMAmar Tur2d63891d9Commit34836d87185c1695b5136cgtParentls）Changld2b7de07aa516b90bb63cB423b243

5、900研发团队具有超过15年的高性能存储系统研发经验GlusterFS等主流分布式存储开源项目RDMA代码的主要贡献者专注于RDMMA高速读读写下的缓存设计、锁控制、元数据优化#page#page#Infiniband支持支持IPoIB和RDMARDMA专项调优改进的代码，稳定可靠CPU占用率低持续高带宽输出参考性能IPoIB模式：单存储节点1.5-3GB/sRDMA模式：单存储节点2.54.5GB/s硬盘总带宽满足前提下，性能可近线性叠加大规模部署案例#page#高速以太网支持支持ROCERDMA专项调优第一家在GlusterFS中引入RoCE的公司乘容性强持续高带宽输出参考性能单节点双口2

6、5Gb卡，分别连外网和内网TCP/IP模式：单存储节点11.5GB/SROCE模式：单存储节点1.52.2GB/口硬盘总带宽满足前提下，性能可近线性叠加高性价比分布式文件存储方案首选#page#产品优势性能更卓越数据更可靠口多种数据读写优化算法全HA支持，无任何单点故障更快更稳定的InfiniBandRDMA文件存储网络数据完整落盘技术，不再有丢数据的困扰25Gb/50Gb/100Gb以及更高速度的以太网支持完整的非结构化数据备份和容灾方案性价比更高代码级支持原厂支持，掌握全部核心代码全对称架构，只有一种服务器节点没有元数据服务器的硬件投入最专业的存储支持团队口单套系统节省15-20万服务器硬

7、件成本GlusterFS等重量级开源项目的代码提供者多粒度数据几余策略减少系统的综合运维成本#page#性能优势普通文件性能超大文件性能（GB/s）（GB/s）6.196.17热4F3.793.33TCP写8.167.7RDMA读9.64.82RDMA写存储系31.8%24.8%RDMA对读的提升44.79153.3%RDMA对写的CPU:E5-2609V22.5G*2提升内存：64GB存储节点网卡：NVIDIAMellanox56Gbps双口InfiniBand网卡数据盘：4TBSATA￥17测试结果CPU：E5-2650V22.6G*2内存：128GB注：每个客户端跑3路并发压力客户端网卡

8、：NIDIAMelanox56Gbps双口Iinigand网NMDIAnoxSx1024交换机#page#合作伙伴InfinibandNVIDIA.EthernetStorSwift和NVIDAMellanox网络事业部在IB/RDMA/Ethernet/RoCE等技术领域深度合作QuantainventecSUPERMICRSeagateSUS#page#典型方案：HPC行业取代ClientLustreLustre并行文件系统架构异常复杂，异构节点并存MGSMDSIMLOSS！个OSS维护工作量巨大无法实现全局HA，存在单点故障StorageJBODJBOD元数据服务器存在性能瓶颈CX-CL

9、OUD分布式存储Client全对称架构，系统只有一种节点管理维护简单，运维成本低全局HA，无单点故障M6不存在元数据瓶颈，性能横向扩展取代Lustre的关键：RDMA高性能+高可靠性+更简单的管理！#page#典型方案：深度学习集群后端存储GPU计算集群小文件读写专项优化主流深度学习框架集成优化支持100GbIB网络默认配置RDMAInfiniBand交换机完美适配NVIDIADGXAI高性能存储#page#典型部署案例某生物信息公司高性能基因计算平台CX-CLOUD-FS分布式文件存储系统现有存储平台存储A：Lustre系统首期部署1PB容量，支持在线扩展存储B：友商存储完美支持Infiniband网络和RDMA模式5个节点聚合带宽超过10GB/s容量基本耗尽性能存在瓶颈所有服务器可并发运行复杂测序任务提供海量基因数据的容灾方案不能同时运行8个测序任务总带宽不足3GB/s集群头结点集群工作站IB网络RDMAIPIB交换机云存储系统存储节点1M城护维社存储节点5拓扑图（包括HPC集群、IB交换机）#page#谢谢大家https:l/#page#

友情提示

1、下载报告失败解决办法
2、PDF文件下载后，可能会被浏览器默认打开，此种情况可以点击浏览器菜单，保存网页到桌面，就可以正常下载了。
3、本站不支持迅雷下载，请使用电脑自带的IE浏览器，或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩，下载后原文更清晰。

本文（RDMA 在分布式存储中的应用.pdf）为本站（X-iao）主动上传，三个皮匠报告文库仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对上载内容本身不做任何修改或编辑。若此文所含内容侵犯了您的版权或隐私，请立即通知三个皮匠报告文库（点击联系客服），我们立即给予删除！

温馨提示：如果因为网速或其他原因下载失败请重新下载，重复下载不扣分。

上海品茶

RDMA 在分布式存储中的应用.pdf

RDMA 在分布式存储中的应用.pdf