Postgresql-xl 节点介绍

转载: (19条消息) Postgresql-xl 结构_有梦为马 随处可栖-CSDN博客_postgresql xl

GTM

全局事务控制节点,保证集群数据一致性,与coordinator节点和datanode节点不断通信,是整个集群的核心节点,只存在一个,可以存在一个GTM standby节点,对GTM实时备份。GTM一旦故障,整个集群立刻无法访问,此时可以切换到GTM standby节点上。如果部署了GTM standby节点,就应该同时部署GTM proxy,一般和coordinator datanode部署在同一台服务器上。GTM proxy的作用,代理coordinator datanode对GTM的访问,起到减轻GTM负载的作用,另外一个重要的作用是帮助完成GTM的故障切换,当GTM发生故障后,GTM standby成为新的GTM,此时coordinator datanode节点并不需要重新指定GTM地址,只需要GTM Proxy重新连接到新的GTM地址即可。

Coordinator

接收数据访问请求的节点,本质上是由PG后台进程组成。接收的一条查询后,coordinator节点执行查询计划,然后会根据查询数据涉及的数据节点将查询分发给相关的数据节点。写入数据时,也会根据不同的数据分布策略将数据写入相关的节点。可以说coordinator节点上保存着集群的全局数据位置,coordinator节点可以任意扩展,各个节点之间除了访问地址不同以外是完全对等的,通过一个节点更新的数据可以在另一个节点上立刻看到。每个coordinator节点可以配置一个对应的standby节点,避免单点故障。

Datanode

实际存取数据的节点,接收coordinator的请求并执行SQL语句存取数据,节点之间也会互相通信。一般的,一个节点上的数据并不是全局的,数据节点不直接对外提供数据访问。一个表的数据在数据节点上的分布存在两种模式:复制模式和分片模式:复制模式下,一个表的数据在指定节点上存在多个副本;分片模式下,一个表的数据按照一定的规则分布在多个数据节点上,这些节点共同保存一份完整的数据。

Postgresql-xl 调优

1. 排查Coordinator 的上游,是否能发出高traffic,比如,检查上游heplify server 的 goroutione数量等。

2. 排查 Coordinator 的上游 和 pg-xl 的 TCP 跑道是否足够宽

1> 在 cr 上抓包,看是否有存在,TCP window size 为 0 和 TCP retransmission 的情况

2> 根据需要,调整 TCP IPV4 setting 保证 有足够的 receive send buffer 为每一个TCP socket

net.ipv4.tcp_rmem net.ipv4.tcp_wmem net.ipv4.tcp_mem

3. 查看 pg-xl 的瓶颈在哪里?

写速率: 1.6G/Min

1> 查看在创建表时,是否可以删除一些不必要的索引(index)

2> pg-xl  配置参数的调优

process numbers, Memory, IO-WAL, IO-Checkpointer, Two-phase Commit

3> 查看 Lock 等待状态

"select * from pg_stat_activities" 查看是否有些进程被stuck 由于等待锁

解决方案: 更改了 分布式方案 DISTRIBUTE BY ROUNDROBIN => DISTRIBUTE BY MODUBO(tag)

4> 查看IO 性能

现象,使用glusterfs 作为永久存储,发现 cpu 消耗越来越大,怀疑IO是瓶颈。

验证方法, 去掉永久存储,做比较实验,发现性能大大提高。

了解到glusterfs 性能远差于Cinder performance,解决方案,换成Cinder 存储。

总结: 对性能影响的关键因素

1> IO

2> DB Lock

3> Networking

4> DB memory

后来,把透明大页也打开了。

Postgres-XL 调优相关推荐

  1. mongdb 建立了索引唯一性还能重复插入?_「数据库系列」Postgres性能调优——Index...

    在本文中,我们将探讨如何通过使用Explain和Analyze来分析慢查询,以及使用索引来修改和增强查询时间来解决慢查询. Postgres支持在表上使用各种索引,以加快查询速度. 多列索引 多列B树 ...

  2. 实时数仓入门训练营:Hologres性能调优实践

    简介:<实时数仓入门训练营>由阿里云研究员王峰.阿里云高级产品专家刘一鸣等实时计算 Flink 版和 Hologres 的多名技术/产品一线专家齐上阵,合力搭建此次训练营的课程体系,精心打 ...

  3. PosgreSQL快速参数调优和sysbench压测

    关于PostgreSQL的性能调优可以参考<PostgreSQL 9.0 High Performance>,以及朱贤文在2014 PostgreSQL中国用户大会上分享的<高性能P ...

  4. AI4DB:openGauss人工智能参数调优之X-Tuner

    X-Tuner:参数调优与诊断 一.概述 二.使用准备  三.使用示例  四.获取帮助 五.命令参考 六.常见问题处理 一.概述 增量物化视图可以对物化视图增量刷新,需要用户手动执行语句完成对物化视图 ...

  5. 通过大规模机器学习自动调优数据库参数

    目录 1. 引言 2. 挑战 3. 系统概览 3.1 举例 3.2 假设和限制 4. 工作负载识别 4.1 统计收集 4.2 修剪冗余监控指标 5. 识别重要的参数 5.1 使用Lasso进行特征选择 ...

  6. 压测工具BenchmarkSQL对OceanBase开源版3.1.2性能测试调优

    作者:马顺华 从事运维管理工作多年,目前就职于六棱镜(杭州)科技有限公司,熟悉运维自动化.OceanBase部署运维.MySQL 运维以及各种云平台技术和产品.并已获得OceanBase认证OBCA. ...

  7. 软件测试方法进行调优,软件测试中性能调优的过程解析

    0e7i$ME*D-E6~0性能调优无疑是个庞大的话题,也是很多项目中非常重要的一环,性能调优的难做是众所周知的,毕竟性能调优涵盖的面实在是太多了,在这篇文章中我们蜻蜓点水般的来看看性能调优这项庞大的 ...

  8. 《强化学习周刊》第31期:康奈尔大学推出基于强化学习的数据库调优工具DB-BERT...

    No.31 智源社区 强化学习组 强 化 学  习 研究 观点 资源 活动 关于周刊 强化学习作为人工智能领域研究热点之一,其研究进展与成果也引发了众多关注.为帮助研究与工程人员了解该领域的相关进展和 ...

  9. openGauss数据库性能调优概述及实例分析

    目录 调优思路概述 调优流程 确定性能调优范围 性能因素 调优范围确定 硬件瓶颈点分析 CPU 内存 I/O 网络 查询最耗性能的SQL 分析作业是否被阻塞 调优思路概述 openGauss的总体性能 ...

最新文章

  1. 【转】Itween 贝塞尔曲线(一)
  2. objective-c如何在linux下进入Modern模式
  3. java str2date,java date类与string类实例代码分享
  4. SiftGPU:编译SiftGPU出现问题-无法解析的外部符号 glutInit
  5. 自定义控件三部曲之动画篇(一)——alpha、scale、translate、rotate、set的xml属性及用法...
  6. java 课后习题 删除奇数元素下标 然后再删除值为奇数的下标
  7. mysql国内源码安装,mysql 源码包安装
  8. iPhone OS平台:丰富的可能性
  9. mac os+selenium2+chrome驱动+python3
  10. wordpress之模板汉化(poedit的使用技巧 及 .po .mo 批量生成技术)
  11. 4条地铁线,乘船到西站!杭州西站枢纽综合交通规划设计方案出炉
  12. u盘中毒了怎么恢复文件?一分钟了解恢复方法
  13. 青春使命网页制作html,青春的使命初中作文
  14. imx6ull 以太网
  15. Python使用numpy获取列表行数与列数
  16. linux课程设计 点菜,餐馆点餐系统专业课程设计.doc
  17. js将数字转换成万、亿、万亿
  18. cin.tie() 输入加速器
  19. Eclipse中的Servers误删怎么恢复?
  20. U2-Net: Going Deeper with Nested U-Structure for Salient Object Detection|环境搭建|人物素描 测试 简记 |

热门文章

  1. Android聊天室源码开发,悬浮窗的实现及封装思路
  2. GPIO_InitTypeDef GPIO_InitStructure;这句话什么意思
  3. BZOJ 2118 墨墨的等式 堆优化Dijkstra
  4. y2.2隐藏英雄密码_从嗨到2y 10 tmnkr您的密码发生了什么
  5. Windows 10 Word Excel PPT文件打开速度缓慢解决办法
  6. VS2022+Qt的环境配置
  7. 【加快Win8系统关机速度图文教程】
  8. 校外登录下载校购资源
  9. 未找到导入的项目“C:\Windows\Microsoft.NET\Framework\v2.0.50727\Borland.Common.Targets”。请确认 <Import> 声明中的路径正确
  10. 民族证券午评:反弹乏力,注意逢高减磅