Xtrabackup备份恢复原理备份innodb表时,xtrabackup若干个线程拷贝独立表空间的.ibd文件,并不停监视此过程中redo log的变化,添加到自己的事务日志文件(xtrabackup_logfile)中。在此过程中,发生的物理写操作越多,xtrabackup_logfile越大。在拷贝完成后的第一个prepare阶段,xtrabackup采用类似于innodb崩溃恢复的方法,把数据文件恢复到与日志文件一致的状态,并把未提交的事务回滚。如果同时需要备份myisam表以及innodb表结构等文件,那么就需要用flush tables with lock来获得全局锁,开始拷贝这些不再变化的文件,同时获得binlog位置,拷贝结束后释放锁,也停止对redo log的监视。

很多同学对上面的理解有混淆,以为拷贝.ibd文件就跟操作系统拷贝文件一样。其实这里涉及到fractured page的问题,他应该会重新读取(应该也有重试次数,超过后备份不成功)。

其实这个原理很简单,了解下doublewrite就可以理解了“本段摘录自《MySQL技术内幕:InnoDB存储引擎》”:

如果说插入缓冲带给InnoDB存储引擎的是性能,那么两次写带给InnoDB存储引擎的是数据的可靠性。当数据库宕机时,可能发生数据库正在写一个页面,而这个页只写了一部分(比如16K的页,只写前4K的页)的情况,我们称之为部分写失效(partial page write)。在InnoDB存储引擎未使用double write技术前,曾出现过因为部分写失效而导致数据丢失的情况。

有人也许会想,如果发生写失效,可以通过重做日志进行恢复。这是一个办法。但是必须清楚的是,重做日志中记录的是对页的物理操作,如偏移量800,写“aaaa”记录。如果这个页本身已经损坏,再对其进行重做是没有意义的。这就是说,在应用(apply)重做日志前,我们需要一个页的副本,当写入失效发生时,先通过页的副本来还原该页,再进行重做,这就是doublewrite。

一、下载和安装XtraBackup现在最新版本为2.1.5,官方也提供了2.0的版本可供下载,官方链接地址:http://www.percona.com/software/percona-xtrabackup;可以下载源码编译安装,也可以下载适合的RPM包或使用yum进行安装。由于没有需要特殊定制的,因此建议直接使用RPM安装即可。

安装方法一:

下载RPM安装包:

wget http://www.percona.com/downloads/XtraBackup/LATEST/RPM/rhel6/x86_64/percona-xtrabackup-2.1.5-680.rhel6.x86_64.rpm

安装依赖:

[root@localhost ~]# yum install -y perl-DBD-MySQL perl-DBI perl-Time-HiRes libaio*

安装:

[root@localhost ~]# rpm -ivh percona-xtrabackup-2.1.5-680.rhel6.x86_64.rpm

Preparing... ########################################### [100%]

1:percona-xtrabackup ########################################### [100%]

安装方法二:

安装percona源:

[root@localhost ~]# rpm -Uhv http://www.percona.com/downloads/percona-release/percona-release-0.0-1.x86_64.rpm

使用yum安装percona-xtrabackup:

[root@localhost ~]# yum -y install percona-xtrabackup

查看安装结果:

[root@localhost ~]# rpm -qa |grep xtrabackup

percona-xtrabackup-2.1.5-680.rhel6.x86_64

[root@localhost ~]# rpm -ql percona-xtrabackup-2.1.5-680.rhel6.x86_64

/usr/bin/innobackupex

/usr/bin/innobackupex-1.5.1

/usr/bin/xbcrypt

/usr/bin/xbstream

/usr/bin/xtrabackup

/usr/bin/xtrabackup_55

/usr/bin/xtrabackup_56

/usr/share/doc/percona-xtrabackup-2.1.5

/usr/share/doc/percona-xtrabackup-2.1.5/COPYING

Xtrabackup中主要包含两个工具:

xtrabackup:是用于热备份innodb, xtradb表中数据的工具,不能备份其他类型的表,也不能备份数据表结构;

innobackupex:是将xtrabackup进行封装的perl脚本,提供了备份myisam表的能力。

二、备份脚本

#!/bin/sh

#===================================================================================================

## 备份工具:

## percona-xtrabackup-2.2.6

##

## 备份策略:

## (1)、每天凌晨04:20点进行全量备份一次;

## (2)、每隔1小时增量备份一次;

##

#===================================================================================================

PATH=/sbin:/bin:/usr/sbin:/usr/bin:/usr/local/bin:/usr/local/sbin

## DB备份基路径

BACKUP_BASE_DIR="/data/mysql_backup"

## 增量备份时,用到的基准目录列表文件

## 内容格式:基准目录|本次备份目录|备份类型【full|inc】

INC_BASE_LIST="${BACKUP_BASE_DIR}/incremental_basedir_list.txt"

## 备份工具路径

XTRABACKUP_PATH="/usr/local/xtrabackup/bin/innobackupex"

## MySQL配置路径

MYSQL_CNF_PATH="/etc/my.cnf"

## 线程数

THREAD_CNT=6

#===================================================================================================

function print_help_info()

{

echo "--------------------------------------------------------------"

echo "Usage: $0 full | inc | help"

echo "--------------------------------------------------------------"

echo ""

exit 1

}

[[ $# -lt 1 ]] && print_help_info

[[ -d ${BACKUP_BASE_DIR} ]] || mkdir -p ${BACKUP_BASE_DIR}

## xtrabackup基础套件不存在时,进行自动下载安装

if [[ ! -e ${XTRABACKUP_PATH} ]]; then

cd /usr/local

wget -q -O xtrabackup-2.2.6.tgz http://www.percona.com/redir/downloads/XtraBackup/LATEST/binary/tarball/percona-xtrabackup-2.2.6-5042-Linux-x86_64.tar.gz

tar xvzf xtrabackup-2.2.6.tgz >/dev/null 2>&1 && rm -f xtrabackup-2.2.6.tgz

mv percona-xtrabackup-2.2.6-Linux-x86_64 xtrabackup-2.2.6

rm -rf xtrabackup && ln -s xtrabackup-2.2.6 xtrabackup

for FNAME in `ls -1t /usr/local/xtrabackup/bin`

do

rm -f /usr/bin/${FNAME} && ln -s /usr/local/xtrabackup/bin/${FNAME} /usr/bin/${FNAME}

done

fi

## 只允许一个副本运行,以避免全量备份与增量备份出现交叉,发生数据错乱的可能性

##[[ -n `ps uax | grep innobackupex | grep -v grep` ]] && exit 1

## 目录名默认精确到分钟,为避免意外情况,导致备份任务失败,可以精确到秒

CURRENT_BAK_PATH="${BACKUP_BASE_DIR}/"`date +%F_%H-%M`

[[ -d ${CURRENT_BAK_PATH} ]] && CURRENT_BAK_PATH="${BACKUP_BASE_DIR}/"`date +%F_%H-%M-%S`

#===================================================================================================

## 全量备份

if [[ "$1" == "full" ]]; then

${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}

echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}

## 增量备份

elif [[ "$1" == "inc" ]]; then

## 基准目录列表文件不存在或者为空的情况,需要做一次全量备份

if [[ ! -f ${INC_BASE_LIST} || `sed '/^$/d' ${INC_BASE_LIST} | wc -l` -eq 0 ]]; then

${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}

echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}

## 不存在任何目录的情况,需要做一次全量备份,以避免增量备份失败

elif [[ `find ${BACKUP_BASE_DIR} -maxdepth 1 -type d | wc -l` -eq 1 ]]; then

${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}

echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}

## 在上一次备份的基础上,进行增量备份

else

PREV_BACKUP_DIR=`sed '/^$/d' ${INC_BASE_LIST} | tail -1 | awk -F '|' '{print $2}'`

## 上次的备份目录不存在或者目录为空的情况,以避免人为删除的可能性【针对部分恶意删除的情况,目前还没有较好的检查方法】

if [[ ! -d ${PREV_BACKUP_DIR} || -z `ls ${PREV_BACKUP_DIR}` ]]; then

${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}

echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}

else

${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp --incremental ${CURRENT_BAK_PATH} --incremental-basedir=${PREV_BACKUP_DIR}

echo "${PREV_BACKUP_DIR}|${CURRENT_BAK_PATH}|inc" >> ${INC_BASE_LIST}

fi

fi

elif [[ "$1" == "help" ]]; then

print_help_info

else

print_help_info

fi

## 删除2周前的数据备份

rm -rf ${BACKUP_BASE_DIR}/`date -d '14 days ago' +'%F'`_*

sed -i "/`date -d '14 days ago' +'%F'`/d" ${INC_BASE_LIST}

#===================================================================================================

##The End

####################################################################################################

## 需要添加的crontab信息:

## (1)、全量备份

## 20 04 * * * /data/scripts/mysql_backup.sh full >/dev/null 2>&1

##

## (2)、增量备份

## 00 * * * * /data/scripts/mysql_backup.sh inc >/dev/null 2>&1

##

####################################################################################################

####################################################################################################

## DB数据恢复步骤:

## (1)、应用基准

## innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log --redo-only /data/mysql_backup/full

##

## (2)、应用第一个增量备份

## innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log --redo-only /data/mysql_backup/full --incremental-dir=/data/mysql_backup/inc_one

##

## (3)、应用第二个增量备份

## innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log /data/mysql_backup/full --incremental-dir=/data/mysql_backup/inc_two

##

## (4)、再次应用基准

## innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log /data/mysql_backup/full

##

## (5)、恢复

## innobackupex --user=root --defaults-file=/etc/my.cnf --copy-back /data/mysql_backup/full

####################################################################################################

三、效果展示

mysql xtrabackup_编写脚本令Xtrabackup对MySQL数据进行备份的教程相关推荐

  1. MySQL中使用innobackupex、xtrabackup进行大数据的备份和还原

    大数据量备份与还原,始终是个难点.当MYSQL超10G,用mysqldump来导出就比较慢了.在这里推荐xtrabackup,这个工具比mysqldump要快很多. 本文还参考了:http://blo ...

  2. mysql热备份还原_利用xtrabackup完成mysql的热备份与还原

    环境 $MYSQL_DATADIR = /var/lib/mysql $MYSQL_BACKDIR = /mnt/mysql-backup Part 1,热备份 1. 创建备份数据存放的目录,比如 $ ...

  3. mongodb转mysql思路_脚本 将阿里云 mongodb数据转成mysql

    思路:mongodb是阿里云上,有定时备份,用python脚本去下载备份文件,恢复到我的环境 中,用脚本查出数据转换成sql插入mysql. 我的环境python是2.7.5.注:mysql端要预先建 ...

  4. linux python2.7 链接mysql导出数据库脚本_python备份文件以及mysql数据库的脚本代码...

    代码如下: #!/usr/local/python import os import time import string source=['/var/www/html/xxx1/','/var/ww ...

  5. mysql开机启动脚本_centos简单的mysql开机自启和自动保存脚本

    1.备份 写一个testdbbackup.sh文件 ------------------------ #!/bin/sh DBName=test DBUser=root DBPasswd=root B ...

  6. 【自用】MySQL for Mac创建表、写入读取数据及备份与数据恢复(2)

    实验环境:macOS 11.6.4 一.在新创建的数据库下增删表.写入并显示数据 首先登陆数据库,在mysql数据库提示符下输入以下命令: 1.创建数据库temp create database te ...

  7. python wireshark_用python编写脚本从wireshark导出的数据文件中提取数据

    上篇文章搭建了一个UDP多播程序的基础,所谓基础,就是看着它,我可以写简单的多播程序了,可以在这个基础上面开始工作了. 会多播了,多播的内容从哪里来,播出什么内容呢?呵呵,有个设备,没有通讯协议,用w ...

  8. 为数据访问页中的数据源控件编写脚本

    为数据访问页中的数据源控件编写脚本 Mark Roberts Microsoft Corporation 2001 年 4 月 摘要:要编写用于数据访问页的脚本,您必须了解数据访问页与动态 HTML ...

  9. 使用Python3编写脚本一键备份MySQL数据库

    假设,MySQL的连接信息如下: host: 192.168.1.4 port: 3306 user: root password: mypassword 现在,我们需要对这台服务器上的数据库进行备份 ...

最新文章

  1. 拉曼软件在win8上运行出错问题
  2. Academic English Reading Notes
  3. Java注释Override、Deprecated、SuppressWarnings详解
  4. 宝塔 开启_宝塔面板安装完的一些列操作
  5. android 字母搜索栏,android仿微信通讯录搜索示例(匹配拼音,字母,索引位置)
  6. 今晚去参加了ZTE IP产品线的活动
  7. 用并发队列(ConcurrentQueue)实现多线程任务中随时异步回调进度通知(.Net4.0)
  8. 带接口的webservice方式发布
  9. 二叉树(知道中序遍历和后序遍历得到先序遍历)
  10. 两度转向,做社区团购,生鲜电商留给美团的时间并不多
  11. TopCoder SRM(Arena) 一日游记
  12. graphpad两组t检验_还不会T检验,利用GraphPad Prism实现T检验详解
  13. 华硕主板无盘启动bios设置_华硕主板开机怎么进入bios_华硕主板bios设置U盘启动方法...
  14. 如何旋转PDF页面?两招教你轻松搞定
  15. Mac系统关闭体统提示升级
  16. win10出现打印机无法打印,而其他显示正常,重启没反应
  17. 获取钉钉企业部门用户信息
  18. android报错:TextView.setText(java.lang.CharSequence)on a null object reference
  19. 尝试 Stable Diffusion(通过Google Colab)
  20. 【项目1】家庭记账软件

热门文章

  1. 软件工程研究领域最顶级的两个期刊
  2. linux应用开发大杂烩(你不一定都知道的细枝末节)
  3. 劲爆!电波拉皮有什么危害,电波拉皮效果好吗能维持多久,人见人夸了
  4. AutoCAD2007下载AutoCAD2007安装教程
  5. 【Python数据分析学习笔记Day3】(三)数据分析工具pandas,数据清洗,聚类K-Means
  6. 前端实现在线预览、编辑Office文档(vue版)
  7. 【转载】SPSS数据分析中出现的常见问题总结
  8. OpenStack云平台的管理
  9. 对于手机号和邮箱的格式验证
  10. 10GHz带宽/USB3.1芯片,AW3410S高速切换开关系列方案及产品介绍