Postgres-XL 调优
Postgresql-xl 节点介绍
转载: (19条消息) Postgresql-xl 结构_有梦为马 随处可栖-CSDN博客_postgresql xl
GTM
全局事务控制节点,保证集群数据一致性,与coordinator节点和datanode节点不断通信,是整个集群的核心节点,只存在一个,可以存在一个GTM standby节点,对GTM实时备份。GTM一旦故障,整个集群立刻无法访问,此时可以切换到GTM standby节点上。如果部署了GTM standby节点,就应该同时部署GTM proxy,一般和coordinator datanode部署在同一台服务器上。GTM proxy的作用,代理coordinator datanode对GTM的访问,起到减轻GTM负载的作用,另外一个重要的作用是帮助完成GTM的故障切换,当GTM发生故障后,GTM standby成为新的GTM,此时coordinator datanode节点并不需要重新指定GTM地址,只需要GTM Proxy重新连接到新的GTM地址即可。
Coordinator
接收数据访问请求的节点,本质上是由PG后台进程组成。接收的一条查询后,coordinator节点执行查询计划,然后会根据查询数据涉及的数据节点将查询分发给相关的数据节点。写入数据时,也会根据不同的数据分布策略将数据写入相关的节点。可以说coordinator节点上保存着集群的全局数据位置,coordinator节点可以任意扩展,各个节点之间除了访问地址不同以外是完全对等的,通过一个节点更新的数据可以在另一个节点上立刻看到。每个coordinator节点可以配置一个对应的standby节点,避免单点故障。
Datanode
实际存取数据的节点,接收coordinator的请求并执行SQL语句存取数据,节点之间也会互相通信。一般的,一个节点上的数据并不是全局的,数据节点不直接对外提供数据访问。一个表的数据在数据节点上的分布存在两种模式:复制模式和分片模式:复制模式下,一个表的数据在指定节点上存在多个副本;分片模式下,一个表的数据按照一定的规则分布在多个数据节点上,这些节点共同保存一份完整的数据。
Postgresql-xl 调优
1. 排查Coordinator 的上游,是否能发出高traffic,比如,检查上游heplify server 的 goroutione数量等。
2. 排查 Coordinator 的上游 和 pg-xl 的 TCP 跑道是否足够宽
1> 在 cr 上抓包,看是否有存在,TCP window size 为 0 和 TCP retransmission 的情况
2> 根据需要,调整 TCP IPV4 setting 保证 有足够的 receive send buffer 为每一个TCP socket
net.ipv4.tcp_rmem net.ipv4.tcp_wmem net.ipv4.tcp_mem
3. 查看 pg-xl 的瓶颈在哪里?
写速率: 1.6G/Min
1> 查看在创建表时,是否可以删除一些不必要的索引(index)
2> pg-xl 配置参数的调优
process numbers, Memory, IO-WAL, IO-Checkpointer, Two-phase Commit
3> 查看 Lock 等待状态
"select * from pg_stat_activities" 查看是否有些进程被stuck 由于等待锁
解决方案: 更改了 分布式方案 DISTRIBUTE BY ROUNDROBIN => DISTRIBUTE BY MODUBO(tag)
4> 查看IO 性能
现象,使用glusterfs 作为永久存储,发现 cpu 消耗越来越大,怀疑IO是瓶颈。
验证方法, 去掉永久存储,做比较实验,发现性能大大提高。
了解到glusterfs 性能远差于Cinder performance,解决方案,换成Cinder 存储。
总结: 对性能影响的关键因素
1> IO
2> DB Lock
3> Networking
4> DB memory
后来,把透明大页也打开了。
Postgres-XL 调优相关推荐
- mongdb 建立了索引唯一性还能重复插入?_「数据库系列」Postgres性能调优——Index...
在本文中,我们将探讨如何通过使用Explain和Analyze来分析慢查询,以及使用索引来修改和增强查询时间来解决慢查询. Postgres支持在表上使用各种索引,以加快查询速度. 多列索引 多列B树 ...
- 实时数仓入门训练营:Hologres性能调优实践
简介:<实时数仓入门训练营>由阿里云研究员王峰.阿里云高级产品专家刘一鸣等实时计算 Flink 版和 Hologres 的多名技术/产品一线专家齐上阵,合力搭建此次训练营的课程体系,精心打 ...
- PosgreSQL快速参数调优和sysbench压测
关于PostgreSQL的性能调优可以参考<PostgreSQL 9.0 High Performance>,以及朱贤文在2014 PostgreSQL中国用户大会上分享的<高性能P ...
- AI4DB:openGauss人工智能参数调优之X-Tuner
X-Tuner:参数调优与诊断 一.概述 二.使用准备 三.使用示例 四.获取帮助 五.命令参考 六.常见问题处理 一.概述 增量物化视图可以对物化视图增量刷新,需要用户手动执行语句完成对物化视图 ...
- 通过大规模机器学习自动调优数据库参数
目录 1. 引言 2. 挑战 3. 系统概览 3.1 举例 3.2 假设和限制 4. 工作负载识别 4.1 统计收集 4.2 修剪冗余监控指标 5. 识别重要的参数 5.1 使用Lasso进行特征选择 ...
- 压测工具BenchmarkSQL对OceanBase开源版3.1.2性能测试调优
作者:马顺华 从事运维管理工作多年,目前就职于六棱镜(杭州)科技有限公司,熟悉运维自动化.OceanBase部署运维.MySQL 运维以及各种云平台技术和产品.并已获得OceanBase认证OBCA. ...
- 软件测试方法进行调优,软件测试中性能调优的过程解析
0e7i$ME*D-E6~0性能调优无疑是个庞大的话题,也是很多项目中非常重要的一环,性能调优的难做是众所周知的,毕竟性能调优涵盖的面实在是太多了,在这篇文章中我们蜻蜓点水般的来看看性能调优这项庞大的 ...
- 《强化学习周刊》第31期:康奈尔大学推出基于强化学习的数据库调优工具DB-BERT...
No.31 智源社区 强化学习组 强 化 学 习 研究 观点 资源 活动 关于周刊 强化学习作为人工智能领域研究热点之一,其研究进展与成果也引发了众多关注.为帮助研究与工程人员了解该领域的相关进展和 ...
- openGauss数据库性能调优概述及实例分析
目录 调优思路概述 调优流程 确定性能调优范围 性能因素 调优范围确定 硬件瓶颈点分析 CPU 内存 I/O 网络 查询最耗性能的SQL 分析作业是否被阻塞 调优思路概述 openGauss的总体性能 ...
最新文章
- 【转】Itween 贝塞尔曲线(一)
- objective-c如何在linux下进入Modern模式
- java str2date,java date类与string类实例代码分享
- SiftGPU:编译SiftGPU出现问题-无法解析的外部符号 glutInit
- 自定义控件三部曲之动画篇(一)——alpha、scale、translate、rotate、set的xml属性及用法...
- java 课后习题 删除奇数元素下标 然后再删除值为奇数的下标
- mysql国内源码安装,mysql 源码包安装
- iPhone OS平台:丰富的可能性
- mac os+selenium2+chrome驱动+python3
- wordpress之模板汉化(poedit的使用技巧 及 .po .mo 批量生成技术)
- 4条地铁线,乘船到西站!杭州西站枢纽综合交通规划设计方案出炉
- u盘中毒了怎么恢复文件?一分钟了解恢复方法
- 青春使命网页制作html,青春的使命初中作文
- imx6ull 以太网
- Python使用numpy获取列表行数与列数
- linux课程设计 点菜,餐馆点餐系统专业课程设计.doc
- js将数字转换成万、亿、万亿
- cin.tie() 输入加速器
- Eclipse中的Servers误删怎么恢复?
- U2-Net: Going Deeper with Nested U-Structure for Salient Object Detection|环境搭建|人物素描 测试 简记 |
热门文章
- Android聊天室源码开发,悬浮窗的实现及封装思路
- GPIO_InitTypeDef GPIO_InitStructure;这句话什么意思
- BZOJ 2118 墨墨的等式 堆优化Dijkstra
- y2.2隐藏英雄密码_从嗨到2y 10 tmnkr您的密码发生了什么
- Windows 10 Word Excel PPT文件打开速度缓慢解决办法
- VS2022+Qt的环境配置
- 【加快Win8系统关机速度图文教程】
- 校外登录下载校购资源
- 未找到导入的项目“C:\Windows\Microsoft.NET\Framework\v2.0.50727\Borland.Common.Targets”。请确认 <Import> 声明中的路径正确
- 民族证券午评:反弹乏力,注意逢高减磅