《腾讯云网络:打造AI时代下的网络信息高速公路.pdf》由会员分享,可在线阅读,更多相关《腾讯云网络:打造AI时代下的网络信息高速公路.pdf(14页珍藏版)》请在三个皮匠报告上搜索。
1、打造AI时代下的网络高速公路俞圆圆 腾讯云公网产品负责人主讲人:AI时代的网络万卡组网,大规模网络01AI时代的网络新挑战单机Tbps+大规模训练集群:万级GPU以上大规模组网能力:万卡组网大带宽10us级分布式训练场景:网络延时极度敏感算力硬件、存储介质:性能持续升级低延时算力井喷:应用场景爆发靠近用户:边缘覆盖持续下沉广覆盖中心-边缘更优的网络传输,避免拥塞丢包端到端高精度流量控制少抖动0丢包腾讯云网络超大规模网络,为AI加速而生02遍布全球的网络基础设施,承载百万级企业客户 26 个区域、70 个可用区 2800+加速点 200万 服务器 300T 公网出口带宽十亿级用户 百万级 企业客
2、户多伦多弗吉尼亚塔克维拉圣保罗硅谷法兰克福东京曼谷新加坡吉隆坡北京重庆首尔雅加达台北上海香港成都广州孟买微信QQ腾讯会议 腾讯文档 腾讯视频视频号微信支付美团拼多多小红书快手工行农行招行百万级企业客户10亿级腾讯云网络架构云联网CPECPE路由器路由器Internet公网接入负载均衡专线接入VPN接入运营商网络路由器公网300+T1000W+CVM3云接入网络云虚拟网络/云主机网络带宽300+T云接入网络:不同类型客户/网络接入 企业、终端用户接入;专线、无线接入 全球13+亿用户接入、100+万企业客户接入 高可用、高质量、高并发云虚拟网络:租户独享/隔离的云上网络 百万级租户隔离、千万级算
3、力资源虚拟组网和调度 容器、虚拟机、裸金属、数据库灵活混合组网 高性能、高密度、高弹性云互联网络:全网跨地域、高速互联 全球20+地域高速、安全、稳定互联 专线、VPN、VPC等多种网络类型互联 高带宽、高可靠、高安全计算存储VPC3子网1计算存储VPC4子网2云互联网络计算存储VPC1子网1计算存储VPC2子网2专线LTE/5G企业总部分支企业DC个人终端海量用户规模接入、灵活扩展大规模算力组网、超高性能控制系统运维运营系统超大带宽跨地域高速、稳定互联云接入网络:亚洲质量第一,65ms入云全球稳定的公网接入,亚洲覆盖质量第一与全球1300+ISP互联,300T 公网出口带宽服务百万企业客户,
4、13亿+终端用户65ms 时延圈覆盖87%区域、77%互联网用户多种接入场景网络接入运营商专线关(TIX/vTIX)企业专线关云VPN关SDWAN边缘互联关5G IoT接关运营商专线互联网互联网互联网专线终端用户企业IDC/第三方云物联网用户5G用户云互联网络:多平面高质量、强调度差异化的DCI网络场景和痛点新一代腾讯云DCI网络MAN-4MAN-3MAN-2MAN-1DCI-4DCI-3DCI-2DCI-1MAN-4MAN-3MAN-2MAN-1SDN 1SDN 3SDN 2SDN 4SDN 1SDN 3SDN 2SDN 4SDN 1SDN 3SDN 2SDN 4统一运营系统小型盒式设备 (
5、自研交换机&NFV)SDN控制系统网络特点快速扩展的规模用户多变的需求成本&质量的压力故障恢复慢影响范围大迭代效率低服务能力 物理多平面,SET化设计、标准化分域部署,故障域控制在平面内 单芯片盒式设备,降低硬件复杂度 极简设计,标准化自研软件OS,采用基础网络协议,Overlay与Underlay解耦 SDN/NFV/交换机/开放光传输系统全栈自研,具备自动化运营和精细化调度能力 立体监控,秒级诊断告警,分钟级故障自愈 离线变更,优雅隔离,灰度启用 根据用户需求进行网络选路,提供差异化质量/成本网络服务 生态加速,访问腾讯内容不出公网AI 大模型驱动网络演进应用场景网络架构高性能超算网络标准
6、化数据中心网络超大规模数据中心网络QQ,在线人数增长超过1亿服务器规模增长超10万网络时延:10ms100ms丢包率:0.1%2%负载率:30%南北向流量腾讯云快速发展,服务器规模达200万网络时延:500us1ms丢包率:0.1%1%负载率:30%南北向流量东西向流量广告/视频号,AI大模型,10万卡GPU集群网络时延:10us40us丢包率:趋近0负载率:90%High Performance Backend NetworkPolicy Rich&Programmable Network南北向流量超大东西向流量第二代 云服务驱动第三代 大规模算力驱动第一代 互联网服务驱动星脉网络:1.6T
7、/3.2T接入、自研TiTa和TCCL协议为高性能计算业务提供极致集群性能与智能运营的网络基础设施存储服务器计算服务器广告为高性能计算业务提供极致集群性能与智能运营的网络基础设施端到端高网运营系统部署、验收高可用性问题巡检、定位自研白盒交换机+操作系统流量亲和性FatTree组网自研交换机视频号拓扑感知流量调度集合通信性能加速高性能通信库TCCLAIGC对话搜索流量亲和性组网LCLCLALALALAGPU Server GPU Server LALALALAGPU Server GPU Server 自研交换机自研协议栈拥塞控制算法自研白盒交换机端网协同协议TiTa腾讯大模型训练框架端网协同自
8、研协议栈可编程RDMA拥塞控制算法端网协同协议:TiTa拓扑感知流量亲和性调度负载路径优化集合通信加速高性能通信库:TCCL一键式RDMA网络+网卡配置自动部署网络故障快速定界+快速自愈端到端网络运营系统新品发布HAI网络,预存钱包03应用市场极简部署、支持多种镜像模型部署和微调服务即开即调、快速启动丰富场景入口SSH、RDP、WebUI、IDEAI场景专属套餐:为高性能应用服务定制专属带宽+流量包套餐网络专属套餐针对不同业务场景,提供套餐内外网络专属支撑方案:套餐内:月免费流量包(固定带宽)套餐外:小时结算流量加速AI智能数据处理,助力行业数字化模型训练HAI节省计划:新型钱包消费形态、助力健康经营丰富多样的钱包类型灵活价廉的网络数据传输方案全产品包单产品包提供不同套餐种类的钱包类型支持网络带宽单产品抵扣/云资源跨产品抵扣,满足不同用户需求提供不同付费模式的钱包类型支持用户灵活购买/分期支付,使现金流最优化THANKS谢谢观看