常规的系统维护是为了我们的Greenplum数据库具有更高的稳定性和更优化的性能体现

  1. 使用 ANALYZE 更新系统的统计信息
  2. 数据库的数据膨胀管理 (需要仔细点延伸下去)
  3. 监控Greenplum的日志文件

Monitoring (监控)

Greenplum 数据库系统提供了非常使用的监控工具。
gp_toolkit 模式包含多种视图,可以通过SQL命令去查询Greenplum数据库系统的 system catalogs , log files 和 对当前操作环境下系统的状态信息。
对于更多的 gpstategpcheckperf 涉及在 《Greenplum Database Utility Guide》中。对于 gp_toolkit 的信息, 可以参考 《Greenplum Database Reference Guide》

gpstate

使用 gpstate 实用程序是用来查看Greenplum 整个系统状态的。 通常,我们执行 gpstate 命令会获得如下信息,这些信息包裹当前有多少个段数据库在运行,多少个段数据挂掉了,如果存在数据库挂掉了,这就需要我们注意解决问题了,因为挂点的点很容易引起计算倾斜等问题。
执行 gpstate -Q 可以获取在 master 节点的 system catalog 中有多少个段数据库 DOWN (宕机了)。
如果想获得更详细的信息需要执行的命令为 gpstate -s

gpcheckperf

gpcheckperf 时用用来检测硬件的性能的,所有的节点。可以用来确定硬件故障,它的性能检查涉及到如下几条:

  1. 磁盘 I/O检测 -- 使用的是 linux 系统命令 dd 读写大的日志文件,来获得磁盘的性能。 他返回结果为 读写 MB/sec
  2. 内存带宽测试 -- 是使用的是 STREAM benchmark 来测试,其单位为 MB/sec

    计算公式为 带宽=内存核心频率×内存总线位数×倍增系数
  3. 网络性能测试 -- 运行的是 gpnetbench 网络测试的 benchmark (可以选择为 netperf) 来测试集群的网络性能。 这个benchmark 运行在三种模式下,分别是 并行对测试 (-r N), 串口对测试 ( -r n), 全矩阵测试 ( -r M)。这里会获得 最小 最大 平均 和 中值 的转换率 单位是 MB/sec

为了使用 gpcheckperf 获得有用的数据, 数据库系统必须 停机 才可以。如果不停机的话,很多获得数据根本不可靠。
使用 gpcheckperf 要求在测试的主机之间建立可靠的主机设置机制。他将会调用 gpsshgpscp 命令, 所以必须确保这些命令完全在你的系统 PATH 中。 可以使用如下命令检查是否可以使用 ( -h host1 -h host2) 等。或者使用 (-f host_file) 这是一个 text 文件。里面的内容就是各个主机名。

通常情况下, gpcheckperf 运行的测试为 I/O 测试, 内存测试, 串口测试 网络测试。 在磁盘 I/O 测试的时候,我们需要的是 使用 -d 参数来选择具体的系统上的文件路径。 如下例子

$gpcheckperf -f subnet_1_hosts   -d  /data1 -d /data2 -r ds  

其中这上面的 -r 参数是用来选择运行在 : 磁盘I/O (d), 内存带宽 (s) , 网络并行对 (N), 网络串行对 (n), 网络全矩阵测试 (M).
这有网络测试模式可以选择执不执行 . 具体参见 ‘《Greenplum Database Reference Guide》

## 监控操作系统
通常使用如下命令来监控操作系统

  1. iostat 允许可以监控每个段节点磁盘的使用情况
  2. top 动态视图的形式显示操作系统的进程情况
  3. vmstate 展示内存使用情况

通常是使用 gpssh 切换到不同的节点上去查看检测信息

最佳实践

  1. 参看 《Greenplum Database Administrator Guide》 完成监控任务的部署和实现。
  2. 在安装Greenplum 数据库之前先执行一次 gpfcheckperf , 保存输出结果,此后不定期的执行测试
  3. 使用你能找到的所有工具来了解在不同负载的情况下,系统的状态
  4. 检查任何异常事件以确保原因
  5. 通过定期运行 explain 命令来获得查询的解释计划, 监控系统上的查询活动, 以确保运行最佳。
  6. 审视执行计划,以确保是否使用了索引,并按照预期完成分区的选择

附加信息

gpcheckperf 参看手册 《Greenplum Database Utility Guide》
维护系统的搭建 参考手册 《Greenplum Database Administrator Guide》
Sustainable Memory Bandwidth in Current High Performance Computers. John D. McCalpin. Oct 12, 1995.http://www.cs.virginia.edu/~mccalpin/papers/bandwidth/bandwidth.html
www.netperf.org to use netperf, netperf must be installed on each host you test. See gpcheckperf reference for more information.

《Greenplum5.0 最佳实践》 系统监控与维护 (五)相关推荐

  1. 《Greenplum5.0 最佳实践》 内存与资源队列 (四)

    避免内存错误和GPDB资源问题 内存管理对GPDB集群具有重要的性能影响.大多数环境推荐使用默认设置.不要去改变默认设置,除非你真的理解了自己系统的需求. 解决内存溢出错误 内存不足错误绘制出遇到内存 ...

  2. cuda10.0最佳实践的翻译(八到十七及两个附录)

    目录 背景 评价标准 计时器 CPU计时器 GPU计时器 带宽 理论带宽计算 有效带宽计算 通过Visual Profiler得到吞吐量报告 内存优化 主机和设备之间的数据传输 钉内存 异步迁移 计算 ...

  3. Prometheus监控的最佳实践——关于监控的3项关键指标

    本文来自Weaveworks的工程师Anita Burhrle在Rancher Labs与Weaveworks联合举办的Online Meetup上的技术分享.在此次分享中,嘉宾们讨论了如何使用Ran ...

  4. 企业中台最佳实践--组织架构调整(五)

    对于建设中台的必要性,每家企业肯定都有自己的想法,诸如现有体系不能满足新产品快速迭代和试错的渴望:产品越来越多时,多分支的维护和开发凸显了人力不足的问题等.如果中台确实是解决企业现有问题的合理方案,那 ...

  5. Greenplum:你不可不知的实施与维护最佳实践

    近两年,国内的大数据市场逐渐成熟,有真实的大数据处理需求的企业数量呈现爆炸性的增长,从传统的数据库产品往MPP数据库转型的增长势头十分迅猛.Greenplum作为MPP产品的领头羊,具有较低的学习成本 ...

  6. DB2 Workload Management 工作负载管理最佳实践

    转自:http://www.ibm.com/developerworks/cn/data/library/techarticles/dm-0912db2workloadm/index.html 概要介 ...

  7. 微服务架构10条最佳实践

    转载自公众号:SpringForAll社区 确保你在分布式系统中,努力实现这些微服务的最佳实践,例如监控和REST成熟度. 使用微服务架构可以解决所有的软件架构的问题,对吗?当然,这是不对的.但是,使 ...

  8. MSSQL-最佳实践-如何监控备份还原进度

    title: MSSQL · 最佳实践 · 如何监控备份还原进度 author: 风移 摘要 本期月报是SQL Server备份还原专题分享系列的第六期,打算分享给大家如何监控SQL Server备份 ...

  9. Web前端优化最佳实践

    一.Web 前端优化最佳实践之内容篇 Yahoo! 的 Exceptional Performance team 在 Web 前端方面作出了卓越的贡献.广为人知的优化规则也由 13 条到 14 条,再 ...

最新文章

  1. Android网络项目课程笔记-----代码复用性
  2. 程序员,你也该为自己想想未来
  3. 第41讲:Scrapy框架的介绍
  4. [css] 你有使用过font-size-adjust属性吗?说说它的作用是什么?
  5. Leetcode--1248. 统计「优美子数组」(java)
  6. 袁亚湘院士谈如何做好研究生:要逼着自己去想问题,最大的浪费是聪明人不思考...
  7. idea lombok 插件安装
  8. 自拍就可以得到你自己的个人贴图 Gboard打造客制化贴图
  9. Codeforces 1105C (DP)
  10. linux之间远程拷贝文件
  11. maven install过程
  12. javascript将页面设为首页代码大全
  13. win7如何启用计算机的无线功能,win7系统如何开启wifi热点|win7系统配置wifi热点的方法...
  14. python request.get
  15. 通过搜狗抓取微信公众号--------破解url
  16. 彩票走势图xcode源码
  17. 使用uni-app组件播放视频
  18. 神舟 mini pc Android,Mini PC的原形就是笔记本,神舟四核Mini PC解析 _手机资讯
  19. RGB取反,渐变色计算
  20. 2021.3.2-3.8 人工智能行业每周技术动态

热门文章

  1. js定义到执行(转)
  2. 高可用集群原理概念详述
  3. 2017-2018-1 20179209《Linux内核原理与分析》第六周作业
  4. nodejs总结之redis模块
  5. php调试工具——XDebug使用
  6. BXP_4.1安装配置及域应用随记一
  7. python点击按钮弹出新窗口_PyQt5点击button如何弹出新窗口?
  8. 在 Android* 平台上设置原生 OpenGL ES*
  9. Android apk反编译工具介绍
  10. System.out和System.err的区别