《左金虎-《大语言模型赋能开启运维新篇章—中国移动IT运维大模型落地实践》.pdf》由会员分享，可在线阅读，更多相关《左金虎-《大语言模型赋能开启运维新篇章—中国移动IT运维大模型落地实践》.pdf（12页珍藏版）》请在三个皮匠报告上搜索。

1、中国信息通信研究院左金虎中国移动信息技术中心/架构师个人介绍：中国移动信息技术中心架构师，中国移动“十百千”高级专家，长期从事运营商领域业务支撑系统架构云化、容器化等技术的演进研究及AIOps建设运营研究工作中国信息通信研究院大语言模型赋能，开启运维新篇章中国移动IT运维大模型落地实践演讲嘉宾：左金虎中国信息通信研究院The Society of Mind“然而当时的计算机语言不足以描述智能体之间的交互”“The Society of Mind”心智社会理论，1986 人工智能是一个由多个agent（智能代理）组成的社会；每个agent有特定的身份，协同运作解决问题；多个agent的合作实现的

2、效果远超出单个agent的效果；“当代人工智能之父”马文 明斯基中国信息通信研究院大模型在智能运维上的探索中国信息通信研究院循环执行2-任务规划3-API选择5-结果观察4-API调用6-生成反馈AGENT，让大模型超越思考，解锁运维操作当前AGENT聚合了大量了的运维工具用于配合运维人员要求完成对应的运维操作，基于运维工作需求，模拟运维人员的工作模式，结合COT技术提出大模型运维应用开发范式，让会”做事”。LLMAPI自主AI AgentAPI 1API 2API 3系统告警API平台(大量的包含Schema的API集合)1.先检查网络情况，确认网络状态；2.再确认分布式服务控制组件状态是否

3、正常3.任务规划服务节点状态异常，建议1.平台拉起薪节点接管流量2.当前节点重启3重启完毕后接入结论输出服务节点的状态检查完毕，可能问题是由于XX进程挂死，报错日志是.重启后服务超时问题不再出现效果达到预期自主思考工具箱健康度检查API组件状态检查API节点重启API节点检查API服务监控APIAGENT开发范式AGENT决策：感知、计划、行动1-任务指令故障发生，服务超时生成反馈任务规划API筛选/分配任务执行结果生成Agent工作流程分为四个阶段：中国信息通信研究院Agent演进规划大语言模型之所以能在运维领域发挥应用价值，关键点在于Agent能自主理解、规划决策、执行复杂任务，可以代替运

4、维专家使用工具完成运维任务，基于大模型范式，规划了AGENT发展的三个阶段，通过持续对Agent能力进行演进，让AGENT成为专业的运维专家。“人类之所以是人类，因为他会使用工具。”小瞳AI告警查询API服务成功率查询API故障定界模板输出API简单任务代理（一阶段）复杂任务代理（二阶段）自主任务代理（远期）简单运维任务 无法自动分析问题细节 模板化回答 有限领域运维场景 辅助专家运维 复杂运维任务 多轮问答明确客户诉求 大模型思考回答 更丰富的运维场景 辅助一线运维 多模态观测数据分析+复杂运维任务执行 流程无须人员介入实操 运维团队更多负责监管与跨组织协同 完整的运维场景覆盖 AI驱动运维

5、小瞳AI“系统有故障吗？”“系统存在12个告警，服务存活率97%.”“检查系统异常”小瞳AI观察与监督“您问的是哪个系统？”能力调用规划并调度执行小瞳AI深瞳运维能力引擎“经过分析，故障诱因为Redis部分实例僵死，建议重启Redis集群，授权操作请回复授权码。”深瞳运维能力引擎自我驱动规划调度执行“故障处理完了吗？”“业务成功率下滑，小瞳已介入排查！”多模态数据观测中国信息通信研究院AGENT能力进阶技术SAASDatabaseK8SRedisHardwareOpenStack目前AGENT仅能代替一个普通的运维人员，但是无法代替运维专家进行复杂运维任务的解决方案规划和思考，我们规划通过强化

6、运维领域AGENT训练构建运维排障树思维，在后续阶段打造运维专家级别AGENT。训练设置任务推导自生成指令AgentLMAgentTuningAgentInstruct普通指令GBase资源登录异常Trajectory 1Thought：我首先要查出GBase资源的所有用户，然后 Action:SHOW USERS;Reward：0.0 XTrajectory 2Thought：我首先查看所有异常的登录日志Action:query_login_resource(system=“GBase”)Reward：1.0 InstructionGeneration故障抢通故障影响范围故障定位及处置建议参

7、考：AgentTuning:Enableing Ceneralized Agent Abilities for LLMs（https:/arxiv.org/abs/2310.12823）中国信息通信研究院智能运维愿景展望中国信息通信研究院The society of OPS（智慧运维社会）中国移动丰富的大型IT运维场景。其自研的大模型智能运维产品已落地多家单位。中国移动与复旦大学合作开展Agent-Tuning模型训练，打造具备运维排障思维树的基座大模型。Agent能力（社会成员）中国移动与复旦大学就运维大模型前瞻技术研究开展深度合作，推进智慧代理社会组织调度理论在运维领域的技术实现，攻关Us

8、er Proxy Agent、Conversational Agent等关键技术。Agent协同机制（社会制度）信通院发挥IT行业引领优势，与中国移动合作搭建联合创新合作平台。协同信通院，与合作伙伴们一同构建规范化标准化的智能体联动生态。Agent共创平台（社会生态）L1(Tool)L2(ChatBot)L3(Copilot)L4(Agent)L5(Intelligence)Cache-Agent：检查到有4%的Redis响应较慢，正在分析各项指标DB-Agent：数据库响应在预期内，无显著波动。已启动巡检，做进一步分析SaaS-Agent：套餐变更(营业厅)、套餐变更（掌厅）等7项业务指标严重下滑，已启动全域Agent自检。Cust-Agent：1分钟前，套餐变更等多项业务，客户已有感知。初步判断为Prod集群实例僵死，已销毁重启。正在进一步分析中K8S-Agent：PROD中心集群ads82d-14dss22a等13个实例响应时长下滑严重，已销毁实例，新实例启动中IaaS-Agent：主机各项指标正常，网络自检中.接手人类工作，AI自主拆解目标，选择并使用工具完成工作并与人类通信。人类监督下完成明确任务，AI实现目标后结束工作。中国信息通信研究院让AI不仅会“作诗”更要会“做事”中国信息通信研究院感 谢 聆 听中国信息通信研究院