1、多维分析在云产品计量计费场景中的应用李丛|01云产品计量计费介绍云产品计量计费介绍02多维分析应用多维分析应用03相关问题解决方案相关问题解决方案04后续系统迭代演进后续系统迭代演进目录目录CONTENT|云产品计费计量介绍01|计量计费模型-计费模型#1|打折用户采购数据询价支付发货云产品线上商城发货云产品代金券资源包（用量账户）其他使用权（直播/点播应用类产品）采购线上选购线下录入支付信用账户现金账户代金券账户其他数据流线上订购合同数据计量计费模型-计量模型#2|云产品采集数据衍生用量采集数据时长（颗粒度：秒）次数（颗粒度：单次请求）流量（颗粒度：单个包字节数）其他（原始用量）海量数据有限

2、结构化数据计费用量可计费数据多维分析多维分析衍生用量时长（5分钟）次数（5分钟）流量（5分钟）其他（用量明细）计费用量时长（小时/天/月）次数（小时/天/月）带宽（小时/天/月）其他订单数据交易系统计算（资金）账单数据多维分析多维分析运营报表数据批价打折支付扣券交易多维分析账务级优惠账单（用量账单）数据流多维分析应用02|计量计费模型-计量模型设计#1|原始用量衍生用量计费用量字段userproducteventTimetypedosageTypedosageAttributes（1-128）类型longstringstringstringstringlongstring多维分析实时查询实时扣

3、减固定属性（纬度）原始用量数据模型：自定义属性（纬度）字段userproducteventTimetypedosageTypedosageAttributes（1-128）取值123p_test2022-05-01 00:00:00timeSumvideoTime30room/tinyUser原始用量示例：资源包（用量账户）余量多维分析用户策略定时调整指标预估/结算/分析输入输出函数（公式f(x)）时间颗粒度计算纬度原始用量衍生用量求和1分钟room实时多维分析：不同纬度计算不同时间1次粒度或n次输入输出匹配组合主键捆绑计费标签转换价格属性衍生用量可扣减/计费用量user+属性p_test1/

4、p_test2national/intl用户策略匹配：计量用量转计费商品进行交易支付计量计费模型-计量模型设计#2#旋转|processTime(1分钟粒度)eventTime(1分钟粒度乱序)0-11-22-33-44-5eventTimeend:第4分钟eventTime在2-4分钟窗口内的数据eventTime在2-4分钟窗口外的数据eventTimestart:第2分钟计量原始用量多维分析旋转eventTime(单个窗口两分钟颗粒度)0-22-44-66-88-10processTime计量计费模型-计量模型设计#2#切片|时间（2分钟颗粒度）0-22-44-88-10roomroom

5、1room2room3room4tinyUsertinyUser1tinyUser2tinyUser1tinyUser2计量视频用量多维分析切片eventTime在8-10分钟窗口内的数据eventTime在8-10分钟窗口外的数据计量计费模型-计量模型设计#2#上卷|eventTime(1分钟颗粒度)0-11-22-33-44-5useruser1user2user3user4eventTime(1分钟颗粒度)0-11-22-33-44-5useruser1user2user3user4eventTime 0-5分钟（带宽最大值）useruser1user2user3user4带宽最大值的数

6、据带宽数据值（每个立方体代表一个时间点的带宽值）带宽最大值的数据和最大值对应时间点time0-time1-time2-time3-time4计量带宽用量多维分析上卷计量计费模型-计量模型设计#3#构建实时数仓|ODS数据贴源层（原始数据）DWD数据明细层DIM纬表层DWM数据中间层ADS数据应用层DWS数据服务层原始数据准确性最为重要数据格式校验模块+消息队列实时计算&离线计算API模块多维分析应用-计量系统架构演化#1|用量接收模块Flink模块策略匹配模块DB(资源包,衍生量,结算)Hive库表定时任务调度模块对外API模块捞量、抵扣模块库表对拷(策略、用量、结算)定时任务调度模块资源包衍

7、生量日结/月结/定时预估结算/包异常重放master消息队列消息队列原始用量配置中心用户实时查询用量/修改策略/创建资源包数据流配置流实时计量系统特点：1、实时上报2、多维计算3、实时查询4、实时扣减计费系统系统要求：1、可靠性2、准确性3、高性能插件式扣减ODS数据贴源层（原始数据）DWD&DIM&DWMDWS 数据服务层ADS数据应用层数据格式校验多维分析应用-计量系统架构演化#2|用量接收模块Flink(入湖)策略匹配模块资源包master消息队列原始用量配置中心策略匹配实时计量系统特点：1、实时上报2、多维计算3、实时查询4、实时扣减数据格式数据格式计算引擎（实时）计算引擎（离线）DB

8、(资源包,明细,结算)定时任务调度模块结算/包异常重放计费系统系统要求：1、可靠性2、准确性3、高性能对外API模块捞量、抵扣模块用户实时查询用量/修改策略/创建资源包插件式扣减消息队列hdfs/cos数据流配置流flink/spark多维分析应用-算子编排抽象|UI展示层sourcewindowcountselectsinkJson配置层DAG图sourcesink1sink3sink2多维分析应用-算子编排抽象|用量接收模块算子执行顺序数据流1.sourceflink算子执行序列2.参数校验3.N次计算4.sink任务管理器、配置解析器Source、sink(调试正式)并行度数据合法性校验

9、、转换、过滤、镜像、拆分(音频、视频)通用算子summaxcount热key散列自定义算子算子抽象功能池master管理任务模块策略匹配模块行业解决方案：针对不同行业的一组具有特定执行顺序的抽象功能集合配置流1、配置文件替换2、jar包版本替换3、任务checkpoint配置4、任务启停api1、音频解决方案（audio）2、视频解决方案（video）3、带宽解决方案（bandwidth）1、v1版本音频配置2、v2版本音频配置多维计算算子编排抽象原始用量配置中心消息队列消息队列衍生用量UI展示层Json配置解析层编排DAG图N次旋转/切片/上卷多维分析应用-计量系统用户策略&用量账户演化#1

10、用量接收模块flink策略匹配模块DB(资源包,明细,结算)定时任务调度模块结算/包异常重放消息队列消息队列原始用量计费系统资源包原始用量扣减资源包衍生用量扣减资源包计费用量扣减对外API模块用户购买资源包资源包优先级排序视频普通时长收费视频分辨率时长收费视频带宽收费视频去包头带宽收费计费策略：视频普通时长视频分辨率时长视频带宽视频去包头带宽视频解决方案：视频普通时长包视频分辨率时长包视频带宽包视频去包头带宽包抵扣包策略：（用量账户）多维计算算子&策略&用量账户联动计费策略1、结算周期（日/月）2、结算用量类型（普通时长/分辨率时长）3、结算方式（余量扣费/直接隔离）1、产品纬度（又称默认策略

11、）2、用户纬度（用户基于结算周期可选择）策略维度包扣减策略1、扣减比例2、扣减周期（实时/定时）3、扣减归档基线（类似git版本管理）4、触发重放策略（买/退包触发重抵扣）金额账户可重放？|数据流多维分析应用-计量系统用户策略&用量账户演化#2|用量接收模块flink策略匹配模块DB(资源包,明细,结算)定时任务调度模块结算/包异常重放消息队列消息队列原始用量计费系统用量账户原始用量实时扣减DB用量账户捞量、抵扣模块对外API模块用户实时查询用量/修改策略/创建资源包消息队列资源包排序模块资源包按抵扣优先级等排序创建用量账户用量账户抵扣和资源包购买流程解耦数据流资源包计费用量扣减计量相关问题及

12、解决方案03|bbaaccdc*3d*1Source-KeyBy(user)-Window（5分钟）-Count-Sinkcbbaaccdac*2cbc*1c*3d*1bd*1Source-KeyBy(roomNumber)-Window（5分钟）-Count-KeyBy(user)-Window（5分钟）-sumSinkbbaaccdc*3d*1Source-KeyBy(user)-Window（5分钟）-Count-Sinkcaaccac*2c*3d*1bd*1Source-KeyBy(user)-Window（10-20秒）-Count-Sinkbbdcbc*1Source-KeyBy(

13、user)-Window（5分钟）-sumSinkSource-KeyBy(user)-Window（0-10秒）-Count-Sink多个热点key分步计算大窗口拆分多个小窗口分步计算bbbabaaabbbba*2b*4b*4a*2bbbabaa*1a*1b*2b*2a*2b*4b*4a*2Source-KeyBy-Window（1秒）-Count-Sinka*1b*2a*1b*2Source-KeyBy（localKey）-Window（1秒）-Count-KeyBy（roomNumber）-Window（1秒）-Sum-Sink单个热点key打散akey-roomNumber key值为

14、a的一条消息b每条用量随机标记localkey 值为 XY XYXXYY按localkey均匀打散到不同并行度YXXYkey-roomNumber key值为b的一条消息cdkey-user key值为c的一条消息key-user key值为d的一条消息多维分析应用-解决热点key功能算子抽象souce、sink(调试正式)并行度数据合法性校验、转换、过滤、镜像、拆分(音频、视频)通用算子summaxcount热key散列自定义算子算子抽象功能池|多维分析应用-系统扩缩容平滑升级解决方案#Flink扩缩容|用量接收模块策略匹配模块消息队列消息队列原始用量masterFlink模块升级前任务1，

15、用量 taskId=task2升级后任务2，用量 taskId=task2DB(资源包,明细,结算)配置中心收或拒量策略配置用量eventTime=升级生效时间用量taskId=task1失效用量taskId=task2生效flinkDAG变化or并行度缩容服务平滑升级算子并行度扩容flink任务涉及评估扩容资源1、CPU2、内存3、消息队列producer&consumer对象数（消息队列链接数）4、乱序等待时间（任务恢复Barrier对齐数据eventTime乱序）数据流1、v1版本视频配置(普通时长求和)1、v1版本视频配置(普通时长求和)2、v2版本视频配置(相同分辨率时长求和)原始用

16、量v1原始用量v1多维分析应用-系统版本平滑升级解决方案#后台系统升级|用量接收模块Flink模块策略匹配模块DB(资源包,明细,结算)定时任务调度模块结算/包异常重放消息队列消息队列配置中心数据流配置流（每条量标记版本号）master管理模块api用量接收模块Flink模块策略匹配模块DB(资源包,明细,结算)定时任务调度模块结算/包异常重放消息队列消息队列配置中心（每条量标记版本号）master管理模块api沙箱环境系统v2版本测试集群计量导流部分业务原始用量至计量沙箱环境验证（镜像）系统升级策略1、沙箱导流充分验证存量数据系统兼容性2、存量关键节点结果数据自动对账保证数据准确性（评估标准

17、）3、增量功能自动化测试验证4、线上集群灰度升级升级前v1版本线上集群多维分析应用-业务版本平滑升级解决方案#业务自助升级|用量接收模块Flink模块策略匹配模块DB(资源包,明细,结算)定时任务调度模块结算/包异常重放消息队列消息队列原始用量v1配置中心数据流配置流计费系统（每条量标记版本号）master管理模块用量接收模块Flink模块策略匹配模块DB(资源包,明细,结算)定时任务调度模块结算/包异常重放消息队列消息队列原始用量v2配置中心计费系统（每条量标记版本号）master管理模块升级前v1版本服务并跑升级v2版本服务（新搭建集群or原有集群新建版本）业务自助导流（镜像or分流）业务

18、调用API下发新版本配置1、v1版本视频配置(普通时长求和)2、v2版本视频配置(相同分辨率时长求和)计量系统后续迭代演进04|多维分析应用-计量系统后续迭代演进#1|同一套系统能否解决结算、账务级优惠、运营统计多维分析？云产品采集数据衍生用量采集数据时长（颗粒度：秒）次数（颗粒度：单次请求）流量（颗粒度：单个包字节数）其他（原始用量）海量数据有限结构化数据计费用量可计费数据多维分析多维分析衍生用量时长（5分钟）次数（5分钟）流量（5分钟）其他（用量明细）计费用量时长（小时/天/月）次数（小时/天/月）带宽（小时/天/月）其他订单数据交易系统计算（资金）账单数据多维分析多维分析运营报表数据批价打折支付扣券交易多维分析账务级优惠账单（用量账单）数据流非常感谢您的观看|