《人工智能平台PAI的MaaS实践.pdf》由会员分享,可在线阅读,更多相关《人工智能平台PAI的MaaS实践.pdf(30页珍藏版)》请在三个皮匠报告上搜索。
1、PAIMaaSPAI MLOpsContents目录01MaaS02PAIMaaS03MaaS01AIGC/#0123!#$200!+%&2300+%&()*1+,-./0123420+MaaSMaaSMaaSFoundationmodelsMLOpsIaaSPaaSMaaSMaaS=+AzureMLModel catalogSageMakerFoundation modelsJumpstartSageMakerAzureMLPAIMaaS02PAINew Future on Cloud场景化解决方案高速 RDMA 网络(RoCE)异构计算磐久服务器(CPU、GPU)分布式存储 CPFS/NA
2、S/OSS灵骏智算服务&机器学习框架(PaaS)低PUE液冷/风冷,模块化IDC设施AI应用:自动驾驶/科研智算/金融风控/智能推荐/智能设计/智慧城市/智能制造/智慧医疗/智慧法务/第三方MaaS平台模型服务(MaaS)ModelScope 魔搭社区计算资源&基础设施(IaaS)容器服务 ACK弹性计算 ECS机器学习框架(PAI-TensorFlow/PAI-PyTorch/Alink/Spark,EasyRec/EasyPhoto/EasyTransfer/Megatron/DeepSpeed/RLHF)PAI-灵骏计算资源云原生通用计算资源大数据计算资源(MaxCompute/EMR/
3、Flink)工作空间AI资产管理(数据集/模型/镜像/代码/自定义组件/权限管理MLOps云产品依赖优化与加速(DatasetAcc 数据集加速/TorchAcc 训练加速/EPL 并行训练框架/Blade推理加速/AI Master 自动容错训练/EasyCkpt 秒级异步训练快照)PAI-DashScope 模型服务灵积模型在线服务PAI-EAS分布式训练PAI-DLC标注服务PAI-iTAG交互式建模PAI-DSW可视化建模PAI-Designer快速开始:PAI-QuickStart/PAI-智码实验室/PAI-DSW Gallery开发者工具CLI/PaiFlow/OpenAPI特征
4、平台PAI-Feature StoreModel CentricPAIMaaSModelHubPAI SDKPAI!ModelScopePAIMaaSOP/QRModelHubSJKEL-ModelHubModelScope?MNHuggingFacePAIO6PQPAI-DLCPAI-EASPAI-DSW!#$%&(%&)*+,!?!?!?PAI SDKPAI!ModelScopeCase studyPAI AIvideo:Demoqwen03CRM MaaS平台工程优化算法工程优化基础模型=?!1000!loss#$%&10#$7B()*+,-./$%2!Qwen_!ghijMLOps:Efficiency is All YouNeedMLOpsMLOps-LLMOpsDatasetAcceleratorTorchAccPAI-ACC AIAIBlade BladeLLM1.7!3.8?8.7!13.8?BladeLLMW LLMtu*vMEFTHANKS