mysql数据库重做日志文件_数据库:mysql:重做日志文件(redo log file)
一、重做日志缓冲(redo log buffer)
1. log block
在InnoDB存储引擎中,重做日志都是以512字节进行存储的。这意味着重做日志缓存、重做日志文件都是以块(block)的方式进行保存的,称之为重做日志块(redo log block),每块的大小为512字节。
若一个页中产生的重做日志数量大于512字节,那么需要分割为多个重做日志块进行存储。此外,由于重做日志块的大小和磁盘扇区大小一样,都是512字节,因此重做日志的写入可以保证原子性,不需要doublewrite技术。
2. redo log buffer 结构
3. log block刷新机制
log buffer根据一定的规则将内存中的log block刷新到磁盘。这个规则具体是:
事务提交时
当log buffer中有一半的内存空间已经被使用时
log checkpoint时
二、重做日志文件
1. 重做日志定义
在默认情况下,在InnoDB存储引擎的数据目录下会有两个名为ib_logfile0和ib_logfile1的文件。在MySQL官方手册中将其称为InnoDB存储引擎的日志文件,不过更准确的定义应该是重做日志文件(redo log file)。为什么强调是重做日志文件呢?因为重做日志文件对于InnoDB存储引擎至关重要,它们记录了对于InnoDB存储引擎的事务日志,记录的是关于每个页(Page)的更改的物理情况。
2. 重做日志作用
当实例或介质失败(media failure)时,重做日志文件就能派上用场。例如,数据库由于所在主机掉电导致实例失败,InnoDB存储引擎会使用重做日志恢复到掉电前的时刻,以此来保证数据的完整性。
3. 重做日志(redo log) VS 二进制日志(binlog)
(1) binlog定义
其用来进行POINT-IN-TIME(PIT)的恢复及主从复制(Replication)环境的建立.
(2) 区别
重做日志是在InnoDB存储引擎层产生,而二进制日志是在MySQL数据库的上层产生的,并且二进制日志不仅仅针对于InnoDB存储引擎,MySQL数据库中的任何存储引擎对于数据库的更改都会产生二进制日志。
两种日志记录的内容形式不同。MySQL数据库上层的二进制日志是一种逻辑日志,其记录的是对应的SQL语句。而InnoDB存储引擎层面的重做日志是物理格式日志,其记录的是对于每个页的修改。
两种日志记录写入磁盘的时间点不同,二进制日志只在事务提交完成后进行一次写入。而InnoDB存储引擎的重做日志在事务进行中不断地被写入,这表现为日志并不是随事务提交的顺序进行写入的。
*T1、*T2、*T3表示的是事务提交时的日志.
4. 重做日志文件属性
mysql> SHOW VARIABLES LIKE'innodb%log%';
+----------------------------------+------------+
| Variable_name | Value |
+----------------------------------+------------+
| innodb_log_file_size | 50331648 |
| innodb_log_files_in_group | 2 |
| innodb_log_group_home_dir | ./ |
+----------------------------------+------------+
innodb_log_file_size
指定每个重做日志文件的大小。在InnoDB1.2.x版本之前,重做日志文件总的大小不得大于等于4GB,而1.2.x版本将该限制扩大为了512GB。
innodb_log_files_in_group
指定了日志文件组中重做日志文件的数量,默认为2
innodb_mirrored_log_groups
指定了日志镜像文件组的数量,默认为1,表示只有一个日志文件组,没有镜像。若磁盘本身已经做了高可用的方案,如磁盘阵列,那么可以不开启重做日志镜像的功能
innodb_log_group_home_dir
指定了日志文件组所在路径,默认为./,表示在MySQL数据库的数据目录下
5. 重做日志大小
重做日志文件的大小设置对于InnoDB存储引擎的性能有着非常大的影响。一方面重做日志文件不能设置得太大,如果设置得很大,在恢复时可能需要很长的时间;另一方面又不能设置得太小了,否则可能导致一个事务的日志需要多次切换重做日志文件。此外,重做日志文件太小会导致频繁地发生async checkpoint,导致性能的抖动。
例如,用户可能会在错误日志中看到如下警告信息:
090924 11:39:44 InnoDB:ERROR:the age of the last checkpoint is 9433712,
InnoDB:which exceeds the log group capacity 9433498.
InnoDB:If you are using big BLOB or TEXT rows,you must set the
InnoDB:combined size of log files at least 10 times bigger than the
InnoDB:largest such row.
090924 11:40:00 InnoDB:ERROR:the age of the last checkpoint is 9433823,
InnoDB:which exceeds the log group capacity 9433498.
InnoDB:If you are using big BLOB or TEXT rows,you must set the
InnoDB:combined size of log files at least 10 times bigger than the
InnoDB:largest such row.
090924 11:40:16 InnoDB:ERROR:the age of the last checkpoint is 9433645,
InnoDB:which exceeds the log group capacity 9433498.
InnoDB:If you are using big BLOB or TEXT rows,you must set the
InnoDB:combined size of log files at least 10 times bigger than the
InnoDB:largest such row.
上面错误集中在InnoDB:ERROR:the age of the last checkpoint is 9433645,InnoDB:which exceeds the log group capacity 9433498。这是因为重做日志有一个capacity变量,该值代表了最后的检查点不能超过这个阈值,如果超过则必须将缓冲池(innodb buffer pool)中脏页列表(flush list)中的部分脏数据页写回磁盘,这时会导致用户线程的阻塞。
6. 重做日志格式
7. 重做日志写入
(1) 重做日志写入写入流程
写入重做日志文件的操作不是直接写,而是先写入一个重做日志缓冲(redo log buffer)中,然后按照一定的条件顺序地写入日志文件。从重做日志缓冲往磁盘写入时,是按512个字节,也就是一个扇区的大小进行写入。因为扇区是写入的最小单位,因此可以保证写入必定是成功的。因此在重做日志的写入过程中不需要有doublewrite。
(2)重做日志缓冲写入磁盘上的重做日志文件条件
主线程(master thread)中每秒会将重做日志缓冲写入磁盘的重做日志文件中,不论事务是否已经提交。
由参数innodb_flush_log_at_trx_commit控制,表示在提交(commit)操作时,处理重做日志的方式。
mysql> show variables like 'innodb_flush_log_at_trx_commit';
+--------------------------------+-------+
| Variable_name | Value |
+--------------------------------+-------+
| innodb_flush_log_at_trx_commit | 1 |
+--------------------------------+-------+
参数innodb_flush_log_at_trx_commit的有效值有0、1、2。
0 代表当提交事务时,并不将事务的重做日志写入磁盘上的日志文件,而是等待主线程每秒的刷新。
1 表示在执行commit时将重做日志缓冲同步写到磁盘,即伴有fsync的调用。
2 表示将重做日志异步写到磁盘,即写到文件系统的缓存中。因此不能完全保证在执行commit时肯定会写入重做日志文件,只是有这个动作发生。
因此为了保证事务的ACID中的持久性,必须将innodb_flush_log_at_trx_commit设置为1,也就是每当有事务提交时,就必须确保事务都已经写入重做日志文件。那么当数据库因为意外发生宕机时,可以通过重做日志文件恢复,并保证可以恢复已经提交的事务。而将重做日志文件设置为0或2,都有可能发生恢复时部分事务的丢失。不同之处在于,设置为2时,当MySQL数据库发生宕机而操作系统及服务器并没有发生宕机时,由于此时未写入磁盘的事务日志保存在文件系统缓存中,当恢复时同样能保证数据不丢失。
8. 重做日志组
(1) 定义
log group为重做日志组,其中有多个重做日志文件。
(2) 结构
9. 重做日志恢复机制
InnoDB存储引擎在启动时不管上次数据库运行时是否正常关闭,都会尝试进行恢复操作。因为重做日志记录的是物理日志,因此恢复的速度比逻辑日志,如二进制日志,要快很多。
(1) LSN
定义
LSN是Log Sequence Number的缩写,其代表的是日志序列号,单位是字节。在InnoDB存储引擎中,LSN占用8字节,并且单调递增。LSN表示的含义有:
❑重做日志写入的总量
❑checkpoint的位置
❑页的版本
LSN表示事务写入重做日志的字节的总量。例如当前重做日志的LSN为1 000,有一个事务T1写入了100字节的重做日志,那么LSN就变为了1100,若又有事务T2写入了200字节的重做日志,那么LSN就变为了1 300。可见LSN记录的是重做日志的总量,其单位为字节。
查看
mysql> SHOW ENGINE INNODB STATUS\G;
---
LOG
---
Log sequence number 3553029
Log flushed up to 3553029
Pages flushed up to 3553029
Last checkpoint at 3553020
0 pending log flushes, 0 pending chkp writes
1455 log i/o's done, 0.00 log i/o's/second
----------------------
Log sequence number表示当前的LSN,Log flushed up to表示刷新到重做日志文件的LSN,Last checkpoint at表示刷新到磁盘的LSN。
(1) 重做日志恢复
由于checkpoint表示已经刷新到磁盘页上的LSN,因此在恢复过程中仅需恢复checkpoint开始的日志部分。对于图7-12中的例子,当数据库在checkpoint的LSN为10 000时发生宕机,恢复操作仅恢复LSN 10 000~13 000范围内的日志。
10. 重做日志文件记录的内容
InnoDB存储引擎的重做日志是物理日志,因此其恢复速度较之二进制日志恢复快得多。例如对于INSERT操作,其记录的是每个页上的变化。对于下面的表:
//创建表
CREATE TABLE t(a INT,b INT,PRIMARY KEY(a),KEY(b));
//执行sql语句
INSERT INTO t SELECT 1,2;
由于需要对聚集索引页和辅助索引页进行操作,其记录的重做日志大致为:
page(2,3),offset 32,value 1,2 #聚集索引
page(2,4),offset 64,value 2 #辅助索引
可以看到记录的是页的物理修改操作,若插入涉及B+树的split,可能会有更多的页需要记录日志。
mysql数据库重做日志文件_数据库:mysql:重做日志文件(redo log file)相关推荐
- mysql 事件里定义事物_聊一聊 MySQL 中的事务及其实现原理
说到数据库,那就一定会聊到事务,事务也是面试中常问的问题,我们先来一个面试场景: 面试官:"事务的四大特性是什么?" 我:"ACID,即原子性(Atomicity).隔离 ...
- mysql启组提交 阿里_[图解MySQL]MySQL组提交(group commit)-阿里云开发者社区
前提: 以下讨论的前提 是设置MySQL的crash safe相关参数为双1: sync_binlog=1 innodb_flush_log_at_trx_commit=1 背景说明: WAL机制 ( ...
- 重做日志文件(redo log file)和归档日志文件(archive log file)
日志文件分为重做日志文件(redo log file)和归档日志文件(archive log file). SQL> select group#, status, member from v$l ...
- mysql中一条SQLupdate语句是如何执行的?redo log 与binlog
mysql> create table T(id int primary key,c int); mysql> update T set c=c+1 where id=2; 大体流程与查询 ...
- java dom xml 换行,dom4j解析xml文件_用DOM解析XML文件,怎么才能让解析出来的文本不用换行_dom解析xml文件...
网友求助:dom4j解析xml文件_用DOM解析XML文件,怎么才能让解析出来的文本不用换行_dom解析xml文件 问题importjava.text.SimpleDateFormat; import ...
- mysql 慢查询 不重启_开启mysql慢查询日志,不重启数据库的方法
nagios监控到bbs的数据库,有几千条的慢查询纪录,而且在不断的上涨 Uptime: 2665801 Threads: 9 Questions: 1483924522 Slow queries: ...
- mysql 数据日志分析_基于mysql数据库的日志分析系统
现如今,日志已经成为了我们分析系统及相关服务的一个重要工具.而日志也具有其相对较为固定的格式以便于进行统计查询.其大致格式如下: 日期时间 主机 进程[pi ...
- mysql定期执行备份语句_【mysql】备份篇1:使用系统计划任务+mysqldump 定时备份mysql数据库 不用输入密码自动导出sql文件...
项目部署在服务期上之后,有了新的需求,需要每月定时备份mysql数据库的所有数据! 查找了网上的多篇文章之后,自己又对bat文件中的mysqldump语句进行改进,可以实现了不用输入密码就能自动定时备 ...
- mysql语句导出数据库文件_通过Mysql命令行语句来导入、导出数据库文件
Mysql命令行导出数据库: 1.首先我们通过命令行进入到mysql安装目录的bin目录下,比如我输入的命令行为: cd C:\Program Files\MySQL\MySQL Server 5.5 ...
最新文章
- 扫地机器人评测 毛发_会切毛发的机器人?海尔扫地机P70抢先评测
- fwrite 写不进去_12款猫狗粮对比,吃中低端猫狗粮吃得多不省钱,还更容易得病...
- PowerTip of the Day from powershell.com上周汇总(六)
- 云计算产值将超3000亿美元 亚马逊微软谷歌居三甲
- C++ memset 栈空间出现段错误
- ffmpeg之YUV420P转RGB24
- http协议报文格式原理图
- Ab压力测试Http
- 模电八:集成运算放大器(下)
- scratch编程谷歌小恐龙游戏
- python 实现 n 次方_python实现pow函数(求n次幂,求n次方)
- java net php_atitit. web 在线文件管理器最佳实践(1)--- elFinder 的使用流程解决之道 。打开浏览服务器文件夹java .net php...
- Java超实用工具分享,excel填充、m3u8格式合成MP4...
- This is probably not a problem with npm. There is likely additional logging output above.
- 通过动态NAT实现内网访问外网,通过静态NAT实现外网访问内网的WEB服务器
- MySQL基础~多表查询分类与SQL92和99语法如何实现内连接和外连接
- 2021年初级会计职称《初级会计实务》考试真题资产内容
- 求解答:UKF对路面附着系数估计报错
- 目标检测:SSD改进之DSSD的论文详解
- 详解常用的Batch Norm、Group Norm,Layer norm、Instance Norm
热门文章
- Transform.LookAt解析
- 派克宇航获得AVIC涡轮螺旋桨支线飞机MA700的飞控作动系统合同
- linux gpu 地址空间,显卡内存和进程的虚拟地址空间
- HoloLens2通过Wifi部署应用到HoloLens2设备上
- And The Winner Is --- 百度网盘
- ipad怎样和计算机连接网络,ipad怎样连接电脑itunes
- 安卓音频系统之一音频基础
- dell设置从ssd启动_2. 戴尔电脑如何设置固态硬盘启动?
- 成绩查询系统 mysql_基于PHP和MYSQL的成绩查询系统
- Jetpack-MVVM-高频提问和解答,附带学习经验