中国移动九天人工智能平台 GPU 推理实践.pdf

编号：29456

PDF 30页 2.33MB 下载积分：VIP专享

下载报告请您先登录！

中国移动九天人工智能平台 GPU 推理实践.pdf

1、中国移动九天人工智能平台GPU推理实践中国移动通信研究院尹路 2020年12月 AI推理场景推理效率不高的原因最大化GPUs实时推理性能快速部署、管理多个模型易于扩展到不同架构的GPUs以及多GPU节点与编排系统结合，可以进行metrics监测开源 NVIDIA TRITON 模型并发执行模型并发执行多模型 (或者同一模型的多个实例)可以在GPU上同时运行模型导入模型导入在服务开启时指定的任意搭配的模型，都会被导入存储 CPU模型执行模型执行各框架原生模型，可以在CPU上执行推理请求 Metrics 利用率、总数、延迟定制化后端定制化后端定制化后端允许用户通过使用共

2、享库的方式，更灵活的将TRITON作为执行引擎，提供给他们自己的应用来使用。动态 Batching 推理请求可以被inference server 分批处理 1) 达到模型允许的最大值 2) 达到用户定义的最大等待时间支持多种模型格式 TensorFlow GraphDef/SavedModel TensorFlow and TensorRT GraphDef TensorRT Plans Caffe2 NetDef (ONNX import path) 挂载模型仓库挂载模型仓库模型必须存储在本地可访问的挂载点 NVIDIA TRITON 支持的模型格式 TensorFlowGraph

3、Def/SavedModel TensorFlowand TensorRTGraphDef TensorRT Plans Caffe2 NetDef (ONNX import) 多GPU支持模型并发实行 HTTP REST API/gRPC Python/C+ client librarie NVIDIA TRITON CategoryNameUse CaseGranularityFrequency GPU Utilization Power usage Proxy for load on the GPUPer GPUPer second Power limitMaximum GPU power limitPer GPUPer second GPU utilization GPU utilization rate 0.0 - 1.0) Per GPUPer second GPU Memo

友情提示

1、下载报告失败解决办法
2、PDF文件下载后，可能会被浏览器默认打开，此种情况可以点击浏览器菜单，保存网页到桌面，就可以正常下载了。
3、本站不支持迅雷下载，请使用电脑自带的IE浏览器，或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩，下载后原文更清晰。

本文（中国移动九天人工智能平台 GPU 推理实践.pdf）为本站（X-iao）主动上传，三个皮匠报告文库仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对上载内容本身不做任何修改或编辑。若此文所含内容侵犯了您的版权或隐私，请立即通知三个皮匠报告文库（点击联系客服），我们立即给予删除！

温馨提示：如果因为网速或其他原因下载失败请重新下载，重复下载不扣分。