前言

Redis支持RDB和AOF两种持久化机制, 持久化功能有效地避免因进程退出造成的数据丢失问题, 当下次重启时利用之前持久化的文件即可实现数据恢复。

RDB介绍

按指定时间间隔把数据生成快照保存到硬盘的过程,触发RDB持久化过程分为手动触发和自动触发。

自动触发

RDB的配置参数在配置文件redis.conf

#时间策略save 900 1save 300 10save 60 10000

这里说一下save的时间策略配置默认是三个,拿其中一个做说明,其他同理:

  • save 900 1 表示900s内至少有一个键更改,就会触发产生一次快照。

如果要关闭RDB快照生成可以直接在时间策略最尾部加上

save ""

为什么要设置这么多条规则,因为考虑到每个时段的读写请求不一定是均衡的,为了平衡性能和数据安全,我们可以自由定制什么情况下触发备份。所以这里就是根据自身Redis写入情况来进行合理配置。

#文件名称dbfilename dump.rdb#文件保存路径dir ./#压缩:默认采用LZF算法对生成的RDB文件做压缩处理,压缩会消耗CPU,但可大幅降低文件体积rdbcompression yes#默认情况下,如果Redis在后台生成快照的时候失败,那么就会停止接收数据,目的是让用户能知道数据没有持久化成功。但是如果你有其他的方式可以监控到Redis及其持久化的状态,那么可以把这个功能禁止掉。stop-writes-on-bgsave-error yes#导入时是否校验rdbchecksum yes

默认Redis会把快照文件存储为当前目录下一个名为dump.rdb的文件

手动触发save和bgsave

  • save命令:阻塞当前Redis服务器,直到RDB过程完成为止,对于内存比较大的实例会造成长时间阻塞,线上环境不建议使用。
  • bgsave命令:Redis进程执行fork操作创建子进程, RDB持久化过程由子进程负责, 完成后自动结束。 阻塞只发生在fork阶段, 一般时间很短。

显然bgsave命令是对save阻塞问题进行的优化,我们要重点看看bgsave的工作流程。

bgsave工作流程

  1. 执行bgsave命令,Redis父进程判断当前是否存在正在执行的子进程,如RDB/AOF子进程,如果存在bgsave命令则直接返回。
  2. 父进程执行fork操作创建子进程,fork操作过程中父进程会阻塞,通过info stats命令查看latestforkusec选项,可以获取最近一个fork操作的耗时,单位为微秒。
  3. 父进程fork完成后, bgsave命令返回“Background saving started”信息并不再阻塞父进程, 可以继续响应其他命令。
  4. 子进程创建RDB文件, 根据父进程内存生成临时快照文件, 完成后对原有文件进行原子替换。 执行lastsave命令可以获取最后一次生成RDB的时间, 对应info统计的rdblastsave_time选项。
  5. 进程发送信号给父进程表示完成, 父进程更新统计信息, 具体见info Persistence下的rdb_*相关选项。

除了执行命令手动触发之外,Redis内部还存在自动触发RDB的持久化 机制,例如以下场景:

  • 使用save相关配置,如“save m n”。表示m秒内数据集存在n次修改 时,自动触发bgsave。
  • 如果从节点执行全量复制操作,主节点自动执行bgsave生成RDB文件并发送给从节点。
  • 执行debug reload命令重新加载Redis时,也会自动触发save操作。
  • 默认情况下执行shutdown命令时,如果没有开启AOF持久化功能则 自动执行bgsave。

优点

  • RDB是一个紧凑压缩的二进制文件,代表Redis在某个时间点上的数据快照。非常适用于备份,全量复制等场景。比如6小时执行bgsave备份。
  • 基于上面所描述的特性,RDB很适合用于灾备。单文件很方便就能传输到远程的服务器上。
  • RDB的性能很好,需要进行持久化时,主进程会fork一个子进程出来,然后把持久化的工作交给子进程,自己不会有相关的I/O操作。
  • Redis加载RDB恢复数据远远快于AOF的方式。

缺点

  • RDB容易造成数据的丢失。假设每5分钟保存一次快照,如果Redis因为某些原因不能正常工作,那么从上次产生快照到Redis出现问题这段时间的数据就会丢失了。
  • ·RDB方式数据没办法做到实时持久化/秒级持久化。因为bgsave每次运 行都要执行fork操作创建子进程,属于重量级操作,频繁执行成本过高。
  • ·RDB文件使用特定二进制格式保存,Redis版本演进过程中有多个格式 的RDB版本,存在老版本Redis服务无法兼容新版RDB格式的问题。

针对RDB不适合实时持久化的问题,Redis提供了AOF持久化方式来解决。

AOF介绍

以独立日志的方式记录每次写命令.重启时再重新执行AOF文件中的命令达到恢复数据的目的。AOF的主要作用是解决了数据持久化的实时性, 目前已经是Redis持久化的主流方式。

AOF文件配置

详看配置文件redis.conf

#是否开启AOF(yes or no)appendonly yes #文件名称appendfilename "appendonly.aof"#文件保存路径,与RDB共用dir ./

默认Redis会把文件存储为当前目录下一个名为appendonly.aof的文件

#同步频率# appendfsync always appendfsync everysec# appendfsync no

特地把AOF的同步频率的配置拿出来讲,redis调用fsync的频率分三个:

  • appendfsync always 每次将新命令附加到AOF,非常慢,非常安全。(这里安全指的就是进程挂掉时候数据丢失的安全性)
  • 每秒fsync一次。速度快(再2.4版本中与快照方式的速度差不多),安全性不错(最多丢失1秒的数据)
  • 从不fsync,交给系统处理。速度非常快,但安全性一般,通常,Linux使用此配置30秒刷新一次数据。

默认采取的策略是fsync每秒执行一次,即快速又安全。

工作流程

AOF的工作流程操作: 命令写入(append)、文件同步(sync) 、 文件重写(rewrite)、重启加载 (load)

流程如下:

  1. 所有的写入命令会追加到aof_buf(缓冲区)中。
  2. AOF缓存区根据对应的策略向磁盘做同步操作。
  3. 随着AOF文件越来越大,需要定期对AOF文件进行重写,达到压缩的目的。
  4. 当Redis服务器重启时,可以加载AOF文件进行数据恢复。

优点

  • 比RDB可靠。你可以制定不同的fsync策略:不进行fsync、每秒fsync一次和每次查询进行fsync。默认是每秒fsync一次。这意味着你最多丢失一秒钟的数据。
  • AOF日志文件是一个纯追加的文件。就算是遇到突然停电的情况,也不会出现日志的定位或者损坏问题。甚至如果因为某些原因(例如磁盘满了)命令只写了一半到日志文件里,我们也可以用redis-check-aof这个工具很简单的进行修复。
  • 当AOF文件太大时,Redis会自动在后台进行重写。重写很安全,因为重写是在一个新的文件上进行,同时Redis会继续往旧的文件追加数据。新文件上会写入能重建当前数据集的最小操作命令的集合。当新文件重写完,Redis会把新旧文件进行切换,然后开始把数据写到新文件上。
  • AOF把操作命令以简单易懂的格式一条接一条的保存在文件里,很容易导出来用于恢复数据。例如我们不小心用FLUSHALL命令把所有数据刷掉了,只要文件没有被重写,我们可以把服务停掉,把最后那条命令删掉,然后重启服务,这样就能把被刷掉的数据恢复回来。

缺点

  • 在相同的数据集下,AOF文件的大小一般会比RDB文件大。
  • 在某些fsync策略下,AOF的速度会比RDB慢。通常fsync设置为每秒一次就能获得比较高的性能,而在禁止fsync的情况下速度可以达到RDB的水平。
  • 在过去曾经发现一些很罕见的BUG导致使用AOF重建的数据跟原数据不一致的问题。

重写机制

随着命令不断写入AOF, 文件会越来越大, 为了解决这个问题, Redis引入AOF重写机制压缩文件体积。 重写后的AOF文件会变小,原因如下:

  • 进程内已经超时的数据不再写入文件。
  • 旧的AOF文件含有无效命令, 如del key1、 hdel key2、 srem keys、 set a111、 set a222等。 重写使用进程内数据直接生成, 这样新的AOF文件只保留最终数据的写入命令。
  • 多条写命令可以合并为一个, 如: lpush list a、 lpush list b、 lpush list c可以转化为: lpush list a b c。 为了防止单条命令过大造成客户端缓冲区溢出, 对于list、 set、 hash、 zset等类型操作, 以64个元素为界拆分为多条。

AOF重写降低了文件占用空间, 除此之外, 另一个目的是: 更小的AOF文件可以更快地被Redis加载。

AOF重写过程可以手动触发和自动触发: 自动触发

auto-aof-rewrite-min-size 64mb

表示运行AOF重写时文件最小体积, 默认为64MB。

auto-aof-rewrite-percentage 100

代表当前AOF文件空间( aofcurrentsize) 和上一次重写后AOF文件空间( aofbasesize) 的比 值。

自动触发时机=aofcurrentsize>auto-aof-rewrite-minsize&&( aofcurrentsize-aofbasesize) /aofbasesize>=auto-aof-rewritepercentage

表示触发重写的条件是文件大小最小为64mb,并且aof文件大小超过上一次重写文件的百分之百时会触发重写。

手动触发 手动触发直接调用bgrewriteaof命令。

bgrewriteaof工作流程

  1. 执行AOF重写请求。如果当前进程正在执行AOF重写, 请求不执行并返回。如果当前进程正在执行bgsave操作, 重写命令延迟到bgsave完成之后再执行。
  2. 父进程执行fork创建子进程, 开销等同于bgsave过程。
  3. 主进程fork操作完成后, 继续响应其他命令。 所有修改命令依然写入AOF缓冲区并根据appendfsync策略同步到硬盘, 保证原有AOF机制正确性。
  4. 由于fork操作运用写时复制技术, 子进程只能共享fork操作时的内存数据。 由于父进程依然响应命令, Redis使用“AOF重写缓冲区”保存这部分新数据, 防止新AOF文件生成期间丢失这部分数据。
  5. 子进程根据内存快照, 按照命令合并规则写入到新的AOF文件。 每次批量写入硬盘数据量由配置aof-rewrite-incremental-fsync控制, 默认为32MB, 防止单次刷盘数据过多造成硬盘阻塞。
  6. 新AOF文件写入完成后, 子进程发送信号给父进程, 父进程更新统计信息, 具体见info persistence下的aof_*相关统计。
  7. 父进程把AOF重写缓冲区的数据写入到新的AOF文件。
  8. 使用新AOF文件替换老文件, 完成AOF重写。

重启加载

AOF和RDB文件都可以用于服务器重启时的数据恢复。 加载流程

  1. AOF持久化开启且存在AOF文件时, 优先加载AOF文件。
  2. AOF关闭或者AOF文件不存在时, 加载RDB文件。
  3. 加载AOF/RDB文件成功后, Redis启动成功。
  4. AOF/RDB文件存在错误时, Redis启动失败并打印错误信息。

redis重启命令_请收下这份redis持久化详解相关推荐

  1. KeyError: [] not found in axis_最IN黄浦 | 万圣狂欢倒计时!露台派对、变装游、沉浸式密室...请收下这份黄浦活动指南~_电竞...

    原标题:最IN黄浦 | 万圣狂欢倒计时!露台派对.变装游.沉浸式密室...请收下这份黄浦活动指南~ Ttick or Treat 一年一度的万圣节就要来了, 黄浦不少商圈都策划了多场精彩活动: BFC ...

  2. 凌恩生物资讯|细菌完成图,坑多专家少——请收下这份避坑指南

    尝试做细菌完成图的你是不是有很多疑问 这份避坑指南请收好! 小坑1."1 +X Contig,0 Gap"代表什么? 答:"1 Contig,0 Gap"的承诺 ...

  3. redis重启命令_这可能是你见过最全面的Redis主从复制原理

    全是干货的技术号: 本文已收录在github,欢迎 star/fork: https://github.com/Wasabi1234/Java-Interview-Tutorial 在Redis复制的 ...

  4. gcms基峰有什么用_请收下!来自前辈的“气质联用”经验分享

    GC-MS可同时完成待测组分的分离.鉴定和定量,因此被广泛应用于复杂组分的分离与鉴定.并且也简化了样品的前处理过程,使得样品分析更简便.相比起色谱,实验员们在面对GC-MS时总是会觉得有点力不从心,今 ...

  5. std::string 收缩到合适大小_你的网球拍柄粗细合适吗?请收下这份测量手册

    用食指进行测试 翻转球拍的侧面.对于食指测试,你可以拿着球拍来估计握力.球拍的放置方式与你在玩球时的握持方式相似.将框架的侧面朝向您,并保持侧面的弦线. 将手掌放在球拍手柄上.将你的手缠绕在手柄的底端 ...

  6. 软件使用说明书模板_想要快速定制表单模板?请收下这份浩辰3D设计攻略

    3D设计是什么?3D设计不仅仅是可视化的设计展现,更是参数化的数据聚合,是数字化的工艺生产对接,是智能化的全流程数据驱动.而表单则是其中重要一环,用数据来驱动创意设计,衔接设计与工艺制造.除了智能化绘 ...

  7. 怎么写脚本_直播脚本怎么写|请收下这份攻略

    "口红一哥"李佳琦为何那么牛,有人说是因为站在了风口上,有人说是因为他标志性的吆喝声.事实上,更大的因素在于他对每场直播的精心准备.比如,李佳琦推荐每款产品时,往往都会提炼出一个. ...

  8. pc端编码表必须为gbk才能正常启动软件_【干货】请收下这份非常完整的PCIE4.0 发送端测试SOP...

    编者注:本文作者为 是德科技(中国)有限公司的马卓凡.黄腾.刘宗祺.PCIE4.0的电气特性分为了发送端测试和接收端测试,本文主要介绍的是发送端测试. 一.前言 进入2019年,随着5G商用的坚实推进 ...

  9. 程序员的职业规划_从菜鸡到大佬——程序员们,请收下这份职业规划全攻略!...

    作者:阿诺,有删改 引言 John Z. Sonmez是一位来自硅谷的杰出程序员,2016年他出版了<软技能:代码之外的生存指南>一书.这本书在中国翻译出版之后,引起了国内广大程序员的热烈 ...

最新文章

  1. 在线作图|微生物多样性分析——稀释曲线
  2. 韦东奕陈杲同获达摩院青橙奖,90后数学新星光彩夺目,却说「没有黄金一代」...
  3. attribute 'downsample' of type 'NoneType' is not usable in a script method
  4. clob和blob是不是可以进行模糊查询_为省几十元买假内存条?金士顿内存条真伪查询与辨别方法...
  5. 【vue】webpack插件svg-sprite-loader---实现自己的icon组件
  6. python之sys.argv获取命令行的参数
  7. Android插件化开发之运行未安装apk的activity
  8. 十一、飞机大战(IVX 快速开发教程)
  9. Taro+react开发(28)本地用require线上不必
  10. SpringBoot2 整合JTA组件,多数据源事务管理
  11. 鲲鹏服务器项目背景_华为鲲鹏产业生态加速算力升级,企业数字化转型在山西吹响号角...
  12. 关于协程和 ES6 中的 Generator
  13. [转载]drop、truncate和delete的区别
  14. 修改linq结果集_linq 查询的结果会开辟新的内存吗?
  15. 经典检索算法:BM25算法
  16. Outlook设置签名/设置邮件模板
  17. (33)STM32——485实验笔记
  18. 手机h5像素_h5移动端设备像素比dpr介绍
  19. 跟同事聊工作,不要用哦,可以用收到、明白、好、知道等词代替
  20. 华为服务器不显示u盘启动项,服务器不读u盘启动

热门文章

  1. 判断三个数是否能构成三角形_三角形的面积
  2. 云优后台提交显示parsererror_微信现场大屏实时显示结果现场投票活动制作方法...
  3. 把 charles,Fiddler 证书安装到安卓根目录,解决安卓微信 7.0 版本以后安装证书也无法抓包问题,需要 root
  4. Dom4j完整教程~XML文档简单操作
  5. 自动分页,返回时跳回指定页
  6. C++学习之路 | PTA(天梯赛)—— L3-003 社交集群 (30分) (带注释) (并查集) (精简)
  7. Cocos Creator -构建打包 所有版本测试
  8. php 商品显示,php – WooCommerce仅显示购买的商品
  9. 改进初学者的PID-测量的比例介绍
  10. mysql heartbeat lvs_CentOS 6.3 Mysql+heartbeat+drbd+LVS 的安装和配置(2)