1、多云管下的自动化运维架构Bespin 高级研发总监目录 行业趋势分析 多云下运维的挑战 多云平台架构如何设计？困难以及挑战 资源统一管理 监控 账单 未来的展望行业趋势分析2017 年主流公有云故障 2018 年主流公有云故障 2019 年主流公有云故障 1%的机率毁掉一家公司行业趋势分析多云下运维的挑战NginxNginxLVSLVSNginxDBDBNgxNgxLVSLVSNgxDBDBNgxNgxLVSLVSNgxDBDB业务架构不断演变多云下运维的挑战NgxNgxLVSLVSNgxDBDBRegionNgxNgxLVSLVSNgxDBDB机房NgxNgxLVSLVSNgxDBDB海外云

2、故障时，影响不及时 不可控 集中式监控成本高 难统一 排查定位问题成本高 跨度大 业务成本难以核算 账单难处理。多云下运维的挑战Gartner：云管理平台需要具备多云管理、自服务、计量计费、资源弹性及服务编排，能够自动化部署和配置相关资源，可以与企业现有IT管理系统集成的服务化能力云管平台架构设计私有云公有云虚拟化接口适配多云统一编排自助服务多云管理资源优化云管平台架构设计Performance MonitoringITSMResources ManagementCMDBServiceTreeWorkFlowTicketingIntegration ConfigurationIdentity

3、ManagementIntegration MonitoringChina CloudOverseas CloudAWSAliyunTencent cloudHuawei cloudAWSAzureGoogleKsyunFusioncloudVMwareVspherePrivate CloudCloud Managed PlatformCloud foundryetcIntegration PaaS ServicesLDAPZabbixAnsibleCAFalconCAEtcPuppetOtherOrchestration&GovernanceKong Api GatewayELKAPMAut

4、omateStorageOpsnow-S3S3SecurityAnalyticsCots optimizationResources optimizationBig data platformAIOpsAIgorithmsMachine LearningOpen-falconDeployTestingCI buildingSource controlVpnAvJumpserverFirewallForecast future costsEMRTalkingdataGrowingIOSparkNetworkotherLbsBillingotherawsOperation CenterPortal

5、/SSOAsset MgtMonitoring DashboardTicketingAsset ManageDevOpsBillingGlobal TicketingBSP AdminSecurityBigDataService PortalV?MockjsGrafanaKibanaNginXEchartsElement-uiPresentation LayerServices LayerSpring FrameworkSpring BootOAuth2.0JenkinsSonarQubeGitlabInfluxdbMySQLRESTful APIAccess Layer云商接口不统一 SDK

6、 异常 账单 参数字典及转换 异步任务 日志统一挑战：资源统一管理Sprint CloudSprint BootCommon挑战：资源统一管理Rest APIAPI Gateway(Kong)EventBus SerIAMMessage QueueServiceinterceptorControllerCloud ServiceSDKSDKORM(Mybatis)Message busEvent bus clientAsync JobmanagerLog4j2OtherPrivate Cloud Public Cloud MySQL Cluster RedisAuthQueryCacheMes

7、sageJob Scheduler QuartzConfig CenterRegistory Center Eureka 云商返回数据：subnetId:subnet-03ecc249,memory:32GB,instanceId:i-0ab3883e5a58806e7,networkInterfaces:networkInterfaceId:eni-661f745c,privateIpAddresses:association:ipOwnerId:595042110259,publicIp:52.83.187.223,publicDnsName:ec2-52-83-187-northwest

8、- ,privateDnsName:ip-172-31-38-northwest-pute.internal,privateIpAddress:172.31.38.32,primary:true ,资源统一管理：表结构subnet_idxxxxmemoryinstance_idxxxxxxxxxxxxbuketxxxx_nameownerregionxxxxxxxxxxxxIp_address_typexxxbalance_arnbalance_namexxxxxxxxxxxxinstance_classengineengine_vesionxxxxxxxxxxxxSDKCommon服务调用关

9、系图Aliyun ServiceAWS ServiceHuawei ServiceOther ServiceMQQuartzAccount ServiceRedisMySQLAliyunAWSHuaweiOther通用的参数在拦截器获取实现，并注入到log4j的MDC 使用时没有侵入，自动将通用参数写入日志 标准化：统一日志规范和记录日志方式资源统一管理：日志LoginterceptorControllerCloud ServiceInject basic infoHttpRequestLog4j2Get basic infoLog appender1.云商统一入库逻辑，通用字段抽取（cpu,

10、mem,network），详细信息放子表 2.单位不同的数据，通过base_convert 表转换（名字映射，单位转换，格式化）安全组id和名字在阿里和aws都不相同，通过转换后可以统一 统一规则保证入库逻辑 3.Account Service 主表与详情表拆分，统一（key,value），兼容所有云商 4.数据变更采用Redis缓存，数据对比逻辑统一封装，差异化自行判断后入库 每个云商独立封装，Spring Cloud 将服务微服务化，统一封装：异常接口，国际化，日志等；配置中心解决每个云商的差异以及加密。服务调用逻辑&亮点资源统一管理：展示云PaaS延迟 资源监控整合 报警优化 业务监控信

11、息展示挑战：监控挑战：监控架构设计CMAIaaSPaaS挑战：监控架构设计云商云商云商云商云商云商Open-FalconCMM业务业务CMDBServiceTreeAlarm自动收敛 IP 维度网段维度告警类型利用服务树节点继承快速实现报警配置 Agent与云商监控关联至服务树，快速展示数据 通过服务树自动生成业务关系拓扑、报警关系、可视化 将原有的json rpc协议替换成GRPC，充分利用protobuf序列化的高性能 采用 tsl 协议利用证书进行加密核心功能点监控：展示跨云费用统计能力 云费用与组织、业务架构联动的能力 成本优化的能力挑战：账单 账单数据采集处理模块资源数据挑战：账单架

12、构云商采集云商云商提炼聚合账号设置资源关联数据存储（分层）费用预测费用分摊费用汇总账单导出比价优惠新增策略修改策略预算设定费用对比费用通告费用预警业务数据监控数据判定引擎执行引擎费用展示成本优化预算管理告警通知外部接口云商账单多云账单接口差异大、采集方式不同 Aws 8小时更新一次 次日账单 存储桶导出 API 接口 费用类型差异大 资源费用、服务费用、税费 按需付费、包年包月 抵扣、折扣、退款 按小时统计数据量大技术挑战：账单的差异1.架构：Scheduler-Worker 2.采集：1.为不同云商、不同使用模式(如AWS账单系统分DBR(Detailed Billing Reports)和

13、CUR(Cost and Usage Reports)3.存储：1.数据聚合：将按小时记录的原始费用聚合为按天，整体上减少数据量且不影响分析需要 2.分表存储：账单具有周期特性，天然适合将数据按照周期分表存储 3.预先统计、分层存储 4.精度：1.自动校验：在数据的采集、处理各阶段均加入准确性校验 2.人工核对：加入人工核对窗口解决方案1.云费用与组织、业务架构联动的能力：费用数据关联到ServiceTree 2.成本优化分两个方面：1.低利用率报告：通过整合监控系统提供的实例使用率及云商资源价格数据，筛选分析出实例是否可以通过在同系列内降配以节省成本；2.RI购买推荐：通过分析AWS 实例的按需使用和RI的使用情况(使用率、覆盖率)，结合价格数据推荐最佳的RI购买方案：包括购买类型、数量，以及不同购买方式(时长、预付方式)下的费用节省比例成本优化账单：展示K8s的深度集成 CMP 云商的更快速接入 产品多元化的挑战 未来的展望