上海品茶

您的当前位置:上海品茶 > 报告分类 > PDF报告下载

TDSQL-C for PG主从架构优化(22页).pdf

编号:86231 PDF 22页 2.01MB 下载积分:VIP专享
下载报告请您先登录!

TDSQL-C for PG主从架构优化(22页).pdf

1、TDSQL-CforPG主从架构优化演讲人:邹立贤腾讯云1.TDSQL-CforPG整体架构2.TDSQL-C for PG 主从架构3.TDSQL-C for PG 优化4.展望1.TDSQL-C for PG 整整体体架架构构为什么需要TDSQL-C传统数据库在云上存在问题TDSQL-C解决思路资源利用率低扩展能力不足资源规划难备份难计算存储分离 计算资源弹性调度能力日志下沉以及异步回放 减少网络IO共享分布式存储 资源弹性扩展后台持续日志备份PostgreSQL主实例CynosStoreAgentPostgreSQL读实例CynosStoreAgentStorageNodeStorage

2、NodeStorageNodeCynosStore集群管理服务对象存储写日志读页面读页面日志下沉核心架构设计日志异步回放多版本读(同步)TDSQL-CforPG架构 backend日日志志buffer日日志志发发送送Replica日志异步写入日志并行插入日志写入buffer,再写入存储日日志志链链日日志志合合并并数据原子修改(MTR)MTR(Minimal Transaction Record)CynosStoreAgentCynosStore ClientbackendCynosStore ClientbackendCynosStore ClientPostgreSQL日志下沉、异步回放日日

3、志志CynosStoreVDL(Volume Durable LSN)CPL(Consistency Point LSN)TDSQL-CforPG架构TDSQL-CforPG主机优化不必依赖 CheckPoint 机制不必在存储日志中记录全页(FPW)快速启动系统,无需恢复大量日志批量并行发送日志到存储日志合并压缩,进一步减少日志IOTDSQL-CforPG主机优化批量并行发送日志到存储Storage NodeStorage NodeStorage NodeCynosStore日志Buffer并行发送日志日志包2.TDSQL-C for PG 主主从从架架构构传统主备模式的问题横向扩展读能力提

4、升数据库的可用性多读(Replica)优势创建新备需要拷贝数据:额外存储资源备机切换和启动需要恢复日志:慢PostgreSQLmasterPostgreSQLstandbyXLOG传统PostgreSQL主备模式仍有缺点冲突导致的日志延迟等TDSQL-C for PG 主主从从架架构构TDSQL-C for PG主从架构Journal SenderJournal SenderJournal Sender日日志志bufferJournal Receiver日日志志buffer合合并并的的日日志志接接收收到到的的日日志志运运行行信信息息运运行行时时内内存存:事事务务列列表表,锁锁等等数数据据Buf

5、ferJournal Apply1.nPostgreSQL(RO)DB EngineCynosStore AgentCynosStore AgentDB EnginePostgreSQL(RW)Block-Journal HTAB页面不在内存,跳过日志合并PostgreSQL(RO)PostgreSQL(RO)journal多个读节点、并行日志恢复3.TDSQL-C for PG 优优化化传统PostgreSQL恢复过程Startup进程从XLOG文件中读取日志页面是否在bufferpool中恢复XLOG从数据文件中读取Pagewalreceiver收到XLOG写入XLOGFilejourna

6、lreceiver收到日志写入journalbuffer日志追加线程将日志插入到Block-journalHashTable页面是否在bufferpool中合并日志跳过日志日志Apply线程遍历hash表获取日志TDSQL-C for PGYYNNTDSQL-C for PG从机优化TDSQL-C for PG 从机优化A(11)B(17)C(15)D(9)LSN9数据页面MergeProcVDL:17VDL:19VDLMergeProc并行合并日志1012181619TDSQL-C for PG从机优化PostgreSQL处理DROP表/数据库流程:pXLog逐条在Startup中处理pSt

7、artup进程是CPU瓶颈pg_class1.删除系统表元数据2.遍历shared buffer,失效buffer3.发送失效消息到队列、删除外存文件DROP日志其他日志StartupProcess耗时TDSQL-C for PG从机优化TDSQL-C处理DROP表/数据库优化思路pg_class1.删除系统表元数据1.遍历shared buffer,失效buffer3.发送失效消息到队列、删除外存文件其他日志StartupProcessLogProcessFETCH ALL2.保存DBID或者TableID到队列TDSQL-C for PG 从机优化PostgreSQL 从机删除表在内存中的

8、信息原本是一个单向列表保存表相关信息从列表中顺序遍历找到要关闭的表找到后删除TDSQL-C优化后使用双向列表,加快删除效率TDSQL-C优化后效果,日志堆积从100GB级别基本降低为MB级别TDSQL-C for PG从机优化传统PostgreSQL备机的启动恢复点:LSN=1000100100ReplayXLog数据文件数据Buffer传统备机启动需要恢复到到一致点 才能保证数据正确并提供读服务TDSQL-C for PG 从机启动需要一个 持久化的VDL就可以获取存储的一致状态5050MinRecoveryPoint=50MinRecoveryPoint=1000FlushBuffer快速

9、创建Replica从机,无需复制全量数据TDSQL-C for PG主从优化旧主100新主0101HA Fencing机制数据库启动,获取当前fencing 值Meta服务Atomicfencing:101使用获取的fencing值连接到存储Replica90命令连接(读)读连接101101101避免传统主备模式下,出现双写导致日志“分叉”1提升存储性能,降低延迟AEP&Optane:2提升网络性能,降低延迟40G/100G+RDMA:3多主架构,无服务化,进一步降低计算成本Multi-Master&Serverless:4Oracle兼容易用性:TDSQL-C for PG 更多探索THANKS

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(TDSQL-C for PG主从架构优化(22页).pdf)为本站 (云闲) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
会员购买
客服

专属顾问

商务合作

机构入驻、侵权投诉、商务合作

服务号

三个皮匠报告官方公众号

回到顶部