本文汇总了MySQL DBA日常工作中用到的些工具,方便初学者,也便于自己查阅。

先介绍下基础设施(CPU、IO、网络等)检查的工具:

vmstat、sar(sysstat工具包)、mpstat、oprofile、nicstat、dstat、iotop、tsar、iostat 掌握几个即可,功能大同小异(个人常用的是 dstat、sar)。

CPU:

mpstat -P ALL 1每隔1s显示一次

上图可以看到CPU调度不均衡。因此我们可以尝试将pid为700的进程绑定到第四颗CPU上。taskset -p 03 700

磁盘:

vmstat -S m 1 10

iostat -xkdz 1

iotop

pt-ioprofile --profile-pid=$(pidof mysqld) --cell=sizes --run-time=30

内存:

vmtouch【很cool的工具】参考:http://blog.yufeng.info/archives/1903

作用:

查看一个文件(或者目录)哪些部分在内存中;

把文件调入内存;

把文件清除出内存;

把文件锁住在内存中而不被换出到磁盘上;

1.看看/bin目录有多少内容在内存中

$ vmtouch /bin/Files: 92

Directories: 1

Resident Pages: 348/1307  1M/5M 26.6%

Elapsed: 0.003426 seconds

2.看看某文件(big-dataset.txt)有多少在内存中

How much ofbig-dataset.txt is currently in memory?

$ vmtouch -v big-dataset.txt

big-dataset.txt

[                                                           ] 0/42116Files: 1

Directories: 0

Resident Pages: 0/42116  0/164M 0%

Elapsed: 0.005182 seconds

然后读入部分文件,

$ tail -n 10000big-dataset.txt > /dev/null

然后在用vmtouch查看一下:

$ vmtouch -vbig-dataset.txt

big-dataset.txt

[                                                   oOOOOOOO] 4950/42116Files: 1

Directories: 0Resident Pages: 4950/42116 19M/164M  11.8%Elapsed: 0.006706 seconds

我们可以看出big-datset.txt开始时没有数据在内存中,在用tail命令读入了部分数据后,有19MB的数据进入了内存。

3.把文件(a.txt)清除出内存

$ vmtouch -vea.txt

Evicting a.txtFiles: 1

Directories: 0

Evicted Pages: 42116 (164M)

Elapsed: 0.076824 seconds

vmtouch主要作用是做数据的warm-up,即对于将要用到的数据,通过vmtouch把它们事先读入内存,而不是在需要时再从硬盘上读入,这样可以提高系统效率。

网络:

nicstat -z 1(需要参照网上自己编译安装)

全面的工具:

dstat  -tclmdny 1

oprofile

【这个工具太厉强大,但是需要我们先安装带debug的kernel才行,具体请自行查阅文档】

基础设施没问题后,我们才可以去考虑MySQL的参数调优及性能优化。

常用的性能分析工具有:

mytop、innotop、orzdba、dodba、mysqltuner.pl。(这几个工具都很好用)

此外,常用的带web界面的监控工具有:

zabbix

lepus 天兔

官网:http://www.lepus.cc/page/opensource

专业做mysql监控的软件。

可直观监控主从状态,界面比较炫。支持分析慢查询(基于pt-query-digest实现)

PMM监控的部署(采用docker容器的部署方法很简单,界面也很炫,但是感觉还是不够实用。)

命令行的pt工具包套件:

percona-toolkit家族的系列工具,功能非常多,已经在我博客里面拆分成好几篇基本上都罗列了一遍用法了。

此外, 比较推荐的有如下2个命令行的工具:

innotop 【mytop的加强版】

参考://www.percona.com/blog/2013/10/14/innotop-real-time-advanced-investigation-tool-mysql/

下载地址:git clone https://github.com/innotop/innotop.git【epel源里面也可以直接yum方式安装】

配置方法:

yum install  perl-TermReadKey  perl-Time-HiRes  perl-DBD-MySQL  perl-DBI

./innotop --help可以查看到支持的参数。不过我们不在命令行输入密码,所有这些参数一般都用不到的。

./innotop --write进入交互式界面后,输入@根据提示输入相关的参数,然后退出命令行。会在当前目录下生成一个.innotop/innotop.conf里面记录了数据的密码信息。【我们只要在最后一步,提示是否保存密码到文本中时候,选择n即可只保存配置信息,不记录密码】

输入?,显示所有支持的命令,如下图:

按q键,可以退出inntop的控制台界面。

在当前目录下,自动生成一个.innotop的隐藏文件夹。innotop.conf里面保存了数据库的连接方式。

如果我们不退出刚才的Dashboard界面,直接输入I,可以看到IO相关状态,如下图:

输入Q,可以查看query list

然后按e并输入thread ID显示执行计划或者按f显示完整sql语句,或者按o显示系统优化过的语句(需要MySQL的版本支持EXPLAIN EXTENDED)

innotop是通过information_schema.processlist来获得完整的sql语句,并且根据COMMAND来过滤掉空闲线程的。

输入S,然后选择我们上面的test连接配置,可查看Variables & Status。

输入B,显示Buffer Pool的状态:

输入M,可以查看主从复制的状态。下图是master上的截图:

mytop

比较简单。

mytop  --user root --pass root

mysqltuner

一个pl脚本,mysqltuner 根据提示输入用户名和密码即可分析并给出优化的建议。直接使用yum install mysqltuner也能安装。

orzdba

http://code.taobao.org/p/orzdba/src/trunk/

chmod +x orzdba即可。

我个人常用下面的2个即可,其他的状态使用dstat、sar等命令来获取。

注意:下面的2个参数的调用默认是没有地方输入用户名和密码的,因此建议将密码写到/etc/my.cnf的client段里面。

./orzdba -mysql -C 10 -i 1

./orzdba -innodb -C 10 -i 1

tcpdump抓包捕获瞬间的SQL

step1、

tcpdump -s 65535 -x -nn -q -tttt -i eth0 -c 5000 port 3306 > /root/dump.txt

上面的命令参数含义:

-s     #snaplen,也就是数据包的截取长度

-nn    #将地址、端口显示为数字格式【经常用】

-q     #快速输出。只输出较少的协议信息。【经常用】

-tttt #在每行打印的时间戳之前添加日期的打印【经常用】

-c     #在收到指定的数量的分组后,tcpdump就会停止。

step2、

pt-query-digest --type tcpdump/root/dump.txt即可分析出结果

#!/bin/bash

#实时采集并分析1000个分组的sql包数据

#Date:2017/05/02

#注意部分机器的网卡是eth1或多网卡,脚本里面需要做修改

source/etc/profile

[! -e /usr/sbin/tcpdump ] &&  yum  install  tcpdump -y > /dev/null 2>&1

#如果抓取的数据太少,可以修改-c 5000多抓取些用于分析

tcpdump -s 65535 -x -nn -q -tttt -i eth0 -c 5000 port 3306 > /root/dump.txt && pt-query-digest --type tcpdump /root/dump.txt > /root/pt_result.log

if[ $? -eq 0 ] ; then

echo "统计结果输出到/root/pt_result.log" && rm -f /root/dump.txt

else

echo "程序运行出错"

fi

dodba 【推荐】

doDBA tools是一个基于控制台的远程监控工具,它不需要在本地/远程系统上安装任何软件,它可以实时收集操作系统、MySQL、InnoDB的实时性能状态数据,并可以生成Doing日志文件,来帮助你快速了解/优化系统及MySQL数据库。

远程收集系统信息是通过ssh(用户名密码或建立信任)的方式连接到远程服务器上收集,收集的方法都是通过读取Linux的proc下的等meminfo,diskstats,uptime,net,vmstat,cpuinfo,loadavg等文件,这和pmm,zabbix收集方式一致。

远程收集MySQL信息是通过MySQL tcp连接到MySQL数据库上收集,只需要授予连接用户PROCESS、SELECT权限即可。

系统信息和MySQL信息的收集可以分离,如果只想收集系统信息,只需要提供系统用户名密码即可,如果只收集MySQL可以只提供MySQL连接信息,如果是rds用户,可以使用-rds参数,在使用mytop时会自动忽略系统信息的收集。

http://www.ywnds.com/?p=7499

下载地址:https://github.com/dblucyne/dodba_tools

wget https://raw.githubusercontent.com/dblucyne/dodba_tools/master/doDBA--no-check-certificate

wget https://raw.githubusercontent.com/dblucyne/dodba_tools/master/doDBA.conf--no-check-certificate

chmod +x doDBA

具体如何使用在运维帮的公众号上面有比较全面的介绍,下面是我摘录的部分内容:

./doDBA-help查看帮助

收集Linux性能数据

./doDBA-h=192.168.2.11 -sys  #通过ssh远程连接去获取信息

搜集MySQL性能数据

./doDBA-h=127.0.0.1 -mysql

执行前需要先去修改doDBA.conf配置上mysql的用户名密码和端口:

{

"Host":"",

"Huser":"root",

"Hport":"22",

"Hpwd":  "",

"Muser": "root",

"Mpwd": "Abcd@1234",

"Mport":"3306"

}

###这里需要注意一点就是:搜集远程mysql时候,必须要先在目标MySQL上对本机IP做授权,不然会出现下图类似的报错。

搜集InnoDB性能数据

./doDBA-h=127.0.0.1 -innodb

搜集MySQL及Linux性能数据

./doDBA-h=127.0.0.1 -myall

类似Mytop的功能

./doDBA-h=127.0.0.1 -mytop

搜集到日志文件

./doDBA-h=127.0.0.1 -mytop-log

开启Doing功能

./doDBA -h=127.0.0.1-myall -t=3  #当有超过3个活跃线程时就自动执行show processlist和show engine innodb status\G并把采集到的信息存到dbdba.log

配合shell批量采集

cat ip.txt内容如下:

192.168.2.11

192.168.2.12

cat ip.txt | while read ip;  do  echo $ip;  ./doDBA -h=$ip -mysql -log

重磅推荐:my.cnf 参数计算器(推荐):

不同物理硬件的服务器,my.cnf 的部分参数需要调整,如果参数设置的太大,可能导致OOM。因此有必要用这个计算器算一下。

上文中部分内容参考自网易王洪权的ppt。

mysql工具使用意义_MySQL性能分析、及调优工具使用详解相关推荐

  1. 编写一个能监控到windows进程占用内存大小的脚本_Java性能监控分析及调优工具...

    >>>推荐阅读<<< 1.性能测试学习笔记-场景设计 2.性能测试的重要意义 3.性能分析流程及方法 4.应用系统性能调优之性能分析 Java性能监控分析及调优工具 ...

  2. jinfo java_Java自带的JVM性能监控及调优工具(jps、jinfo、jstat、jmap、javap)使用介...

    JVM介绍 JVM是Java Virtual Machine(Java虚拟机)的缩写,JVM是一种用于计算设备的规范,它是一个虚构出来的计算机,是通过在实际的计算机上仿真模拟各种计算机功能来实现的. ...

  3. 性能测试分析与性能调优诊断--史上最全的服务器性能分析监控调优篇

    来源: https://www.cnblogs.com/laoqing/p/11629941.html 一个系统或者网站在功能开发完成后一般最终都需要部署到服务器上运行,那么服务器的性能监控和分析就显 ...

  4. 【虫师--系列20】性能测试知多少---性能分析与调优的原理

    转自: http://www.cnblogs.com/fnng/archive/2013/03/19/2970315.html   作者:虫师 最近一直纠结性能分析与调优如何下手,先从硬件开始,还是先 ...

  5. mysql性能调优之 max_allowed_packet 详解 解决ERROR 2006 (HY000): MySQL server has gone away

    mysql性能调优之 max_allowed_packet 详解 一.背景 mysql报错如下: SQLSTATE[HY000]: General error: 2006 MySQL server h ...

  6. 软件性能测试分析与调优实践之路-Java应用程序的性能分析与调优-手稿节选

    Java编程语言自从诞生起,就成为了一门非常流行的编程语言,覆盖了互联网.安卓应用.后端应用.大数据等很多技术领域,因此Java应用程序的性能分析和调优也是一门非常重要的课题.Java应用程序的性能直 ...

  7. 【转载】软件性能测试分析与调优实践之路-Web中间件的性能分析与调优总结

    本文主要阐述软件性能测试中的一些调优思想和技术,节选自作者新书<软件性能测试分析与调优实践之路>部分章节归纳. 在国内互联网公司中,Web中间件用的最多的就是Apache和Nginx这两款 ...

  8. JVM学习笔记之-堆,年轻代与老年代,对象分配过程,Minor GC、Major GC、Full GC,堆内存大小与OOM,堆空间分代,内存分配策略,对象分配内存,小结堆空间,逃逸分析,常用调优工具

    堆的核心概述 概述 一个JVM实例只存在一个堆内存,堆也是Java内存管理的核心区域.Java堆区在JVM 启动的时候即被创建,其空间大小也就确定了.是JVM管理的最大一块内存空间. 堆内存的大小是可 ...

  9. JVM性能调优监控工具使用详解

    点击上方"朱小厮的博客",选择"设为星标" 后台回复"加群"加入公众号专属技术群 来源:http://uee.me/czpHk 现实企业级J ...

最新文章

  1. linux 安装了tomcat 但是一直访问不了怎么办
  2. 解决 win10 下载文件时 没有权限保存到某盘
  3. 基于DSP的数字振荡器C语言编程,基于DSP的数字振荡器的设计与实现.pdf
  4. linux内核网络协议栈--网卡报文收发(十六)
  5. ReactiveCocoa初步
  6. Intel DPDK包部署试验
  7. SubSonic框架使用图解
  8. 《spring 2.0技术手册》的技术写作方式值得学习!
  9. Tomcat 5 5-Manager App HOW-TO 翻译了部份 努力中
  10. 将ONNX对象检测模型转换为iOS Core ML(一)
  11. mysql sql中的一些问题,Null与空字符
  12. 深刻理解Tensor的概念及其常见的操作_以Pytorch框架为例
  13. Atitit 开发效率大法 v0 t025.docx Atitit 提升开发效率几大策略 目录 1. 提升效率三原则 3 1.1. 更少的代码量简化 3 1.2. 优化配置减少等待 3 1.3.
  14. 跨平台数据库ODB实战3-Person类的存储、查询、更新和删除
  15. 水星路由器怎么设置虚拟服务器,水星路由器怎么设置图解教程
  16. 发链(FAB)技术有望突破区块链交易瓶颈
  17. unbalanced calls to begin/end appearance transitions for uiviewcontroller的解决方法
  18. 微信公众号申请+新浪SAE申请
  19. Linux系统操作(21):物理cpu数、cpu核数、逻辑cpu数、几路几核几线程、CPU信息详细查询方法
  20. [ app.json 文件内容错误] app.json: window.navigationBarTextStyle 字段需为 black,white【已解决】

热门文章

  1. Android判断软键盘弹出并隐藏的简单完美解决方案
  2. 如何创建文件并用Java写入文件?
  3. SQL优化--inner、left join替换in、not in、except
  4. 11家车企联手高通、大唐,加速V2X在华商用部署
  5. 非授权频谱NB-IoT将引发市场格局突变
  6. python使用localhost链接mysql出错及解决办法
  7. hadoop实战二 单机部署2
  8. ajaxFileUpload plugin上传文件 chrome、Firefox中出现SyntaxError:unexpected token
  9. 谈谈学习AS3的过程
  10. mac mtu测试_一个关于MTU的现象,请兄弟们看看是不是确实是这样。 - 网络管理论坛 - 51CTO技术论坛_中国领先的IT技术社区...