Mysql 宕机引发索引丢失很可怕,文件 IO 中如何保证掉电不丢失数据?
欢迎关注方志朋的博客,回复”666“获面试宝典
众所周知,存储设计离不开文件 IO,将数据存储到文件中进行持久化,是大多数消息队列、数据库系统的常规操作。为了更贴近实际的生产场景,往往也会引入正确性检测阶段,以避免让选手设计一些仅仅支持内存行为的代码逻辑。试想一下,RocketMQ 或者 Mysql 在宕机之后因为索引丢失,而导致数据无法查询,这该是多么可怕的一件事!
正确性检测要求我们写入的数据能够被查询出来,没有丢失,按照我个人的参赛经验,通常分为三种级别
进程正常退出或者进程被 kill -15 中断
进程被 kill -9 中断
系统掉电
第一个级别,进程正常退出或者进程被 kill -15 中断,该场景没有什么好讲的,一般评测程序会留出 destroy
、close
等回调接口,用于显式关闭,或者在 Java 中使用 JVM 提供的 ShutdownHook
监听 -15
信号,这是最简单的一种场景,一般不需要考虑数据一致性的问题。在实际生产中,对应我们优雅退出、手动关机的流程。
第二个级别,进程被 kill -9 中断。这意味着,我们使用内存去聚合一些数据可能是受限的,但我们仍然可以利用操作系统的一些特性,例如 PageCache 去做缓存。毕竟进程挂了,机器可没挂。在实际生产中,对应我们遇到一些内存溢出、FullGC 重启进程等暴力退出程序的场景。
第三个级别,系统掉电。这也是我这篇文章的主角,同时也是数据一致性要求最高的级别。系统掉电意味着我们甚至连 PageCache 都不能直接利用,必须严格保证数据落到磁盘当中。在实际生产中,对应主机宕机,机房断电等场景。
可以发现,任何一个级别,都有他们实际应用的场景,越是一致性要求高的级别,通常性能就越差,能够利用的手段也越少,系统也就越难设计。
而这次比赛的正确性描述
写入若干条数据。
重启机器
再读出来,必须严格等于之前写入的数据
其中的重启机器环节,恰恰是模拟的掉电。
如何理解数据不丢失
在介绍 Java 文件 IO 中保证掉电不丢失的手段之前,我还需要做一个概念的介绍,这样方便我们更好的理解文章后续的观点。
很多同学可能有疑惑,如果一个数据写到一半,发生了掉电,那评测程序怎么知道这条数据落盘了没有呢?评测程序会不会读取这条数据呢?其实,对于”执行到一半“这种逻辑,谁都没有办法保证,正如系统真正掉电时,他可不会跟你商量。所以,在一般的评测中,去验证选手的数据一致性时,通常采取的做法是:当一个方法同步返回时,就应该认为这个数据落盘了,即使返回后立刻断电,也应该可以在重启之后,查询到这条数据。
这符合我们在实际开发/生产场景的认知:
对于同步方法,其实隐含了 ack 的契约,即拿到返回值的那一瞬间,认为对方处理完毕了。
对于异步方法,我们才需要增加回调或者轮询 ack 的机制。
Java 文件 IO 保障掉电不丢数据
在《文件 IO 操作的一些最佳实践》一文中,我其实已经介绍了,Java 中无非就一个 FileChannel
是最常用的文件操作类。FileChannel
的 write
方法看似是一个同步方法,将内存数据写入了磁盘,但其实它和磁盘之间还隔着一层 PageCache。
尽管操作系统可能很快就将 PageCache 刷入到了磁盘,但这个过程仍然是一个异步的过程。就以这次比赛而言,如果你仅仅数据写入到 PageCache 就不管不问了,肯定是无法通过正确性检测的。
解决方法也很简单,调用 FileChannel#force(boolean meta)
方法即可,该方法会强制操作系统将 PageCache 刷盘。
force 的入参是一个 boolean 值,代表是否将元数据也刷盘,这块网上资料比较少,我也没有详细的依据。按照我个人的理解,元数据包含了大小和时间戳信息,可能会影响文件的实际长度,所以 force(true) 可能更稳妥一些。
结合第二节中介绍的内容,我们只需要保证在每次写入操作返回之前,调用 force
,即可实现掉电数据不丢失的效果。
那么,代价是什么呢?意味着我们完全丧失了操作系统给文件 IO 设置的一道缓存。在没有缓存又没有 4kb 对齐的情况下,写入放大问题将会非常明显。
这里用一份数据说话,根据官方给出的数据,这次评测使用的 SSD 吞吐可达到 320MiB/s,而我实测在不经过优化的场景下使用 force,仅仅能达到 50 Mib/s,直接会导致评测超时。
force
是掉电的拯救者,也可能是性能的毁灭者。
force 下可能的优化方案
在实际场景中,消息的生产者可能会同步地连续地发送多条消息,也有可能会有多个生产者一起在发送消息,尽管消息的投递是同步的,但我们仍然可以在多个不同生产者的消息之间做一些文章,在保证 force 的同时,减少写入放大的问题。
鉴于比赛还在进行中,我就不过多聊详细设计了,懂的应该看到上面这段话都懂了,还算是比较基础的优化。我在优化过后,可以保证在 force 的前提下,将吞吐量从 50 Mib/s 提升到 275 Mib/s,尽管离理论值还是有所差距,但已经足够出一个 baseline 了。
RocketMQ 中的实际应用
以 RocketMQ 为例,聊聊其是如何保障数据不丢失的。RocketMQ 在 Broker 侧保障数据不丢失主要有两种机制:
RocketMQ 支持配置同步双写,保障消息在主节点之外,还在一个从节点有备份
RocketMQ 支持同步刷盘策略,即本文介绍的
FileChannel#force(boolean meta)
方案
热门内容:
顶配版阿里大佬面试笔记+300道硬核面试题,跪着啃完了。。。。
阿里二面:GET 请求能传图片吗?
别再用 BeanUtils 了,这款 PO VO DTO 转换神器不香么?
抗住双11超高并发,今年排第一的调优方案,没有之一!
最近面试BAT,整理一份面试资料《Java面试BAT通关手册》,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。
获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。
明天见(。・ω・。)ノ♡
Mysql 宕机引发索引丢失很可怕,文件 IO 中如何保证掉电不丢失数据?相关推荐
- 文件 IO 中如何保证掉电不丢失数据?
前言 好久没有分享文件 IO 的小技巧了,依稀记得上次分享还是在上次. 第二届云原生编程挑战赛正在火热进行中,Kirito 也在做<针对冷热读写场景的RocketMQ存储系统设计>这个题目 ...
- mysql宕机日志查询_mysql宕机分析(事务日志损坏)
mysql宕机分析(事务日志损坏) 一.情景概述. 1.服务器配置 a) 1CPU 8核 b) 16G内存 c) 2T 硬盘 2. Mysql 在一个普通硬盘中长时间处于大量写的状态(长时间大概 ...
- mysql in 宕机_一条SQL引起的mysql宕机
背 景 MySQL引入了Materialization(物化)这一关键特性用于子查询(比如在IN/NOTIN子查询以及 FROM子查询)优化,其关键点在于对子查询只需要执行一次.具体实现方式为: 在 ...
- mysql宕机恢复_mysql突然宕机后事务如何处理?
针对突然宕机的问题 不会自动继续执行,不会自动直接回滚,但是可以人工手动选择继续执行或者直接回滚,依据是事务日志. 事务开启时,事务中的操作,都会先写入存储引擎的日志缓冲中,在事务提交之前,这些缓冲的 ...
- Mysql从库主键卡住_从库宕机引发的主键冲突
刚刚接到报警短信,从库宕机,马上通知机房重启,在检查MySQL时,发现同步挂了,报主键冲突,询问开发是不是有往里面写数据,回答没有.这就奇怪了,怎么会无缘 刚刚接到报警短信,从库宕机,马上通知机房重启 ...
- 记一次 Redis Cluster 宕机引发的事故
关注我们,获得更多资源 导读: Redis官方号称支持并发11万读操作,并发8万写操作.由于优异的性能和方便的操作,相信很多人都在项目中都使用了Redis,为了不让应用过分的依赖 Redis服务,Re ...
- Redis Cluster 宕机引发的事故
导读: Redis官方号称支持并发11万读操作,并发8万写操作.由于优异的性能和方便的操作,相信很多人都在项目中都使用了Redis,为了不让应用过分的依赖 Redis服务,Redis的作用只作为提升应 ...
- mysql宕机日志查询_Mysql容器异常宕机
腾讯云,配置1核2G,MySql服务在使用时没有任何征兆突然无响应,通过查询docker容器状态,发现mysql容器宕机了... 问题定位: 进入容器内,查询mysql的日志,没有发现异常问题(有些错 ...
- MySQL宕机?大数据驱动下的新零售,如何寻求存储计算的最优解?
小 T 导读:在TDengine还没推出之前,「每人店」一直使用MySQL来存储平台各种硬件采集的数据.为了提高数据展示效果,后台再将采集到的愿数据进行各个维度的计算,这样的计算导致MySQL频繁读写 ...
最新文章
- java中的内部接口
- 数字图像处理中常用的插值方法
- 现代谱估计:多窗口谱相关性
- 【机器学习】漫谈特征缩放
- 9.Excel数据透视表
- linux ps 详解 博客,Linux PS 命令 详解(转)
- JavaCC报错:ERROR: Second call to constructor of static parser
- FD.io VPP startup.conf配置文件示例:安装后第一次配置
- Windows下动态库的制作与使用
- Struts结合梅花雪实现动态生成树
- 新版 OPPO Enco Free 2 固件工具 (仅供交流学习使用)
- 从苏炳添的学术论文中,看看如何写论文
- 上网代理设置会被自动清空_关于代理被自动设置问题的排查
- HDU 1870 愚人节的礼物
- Transfer learning for deep neural network-based partial differential equations solving论文笔记
- C++ 11 内容总结
- 【前端笔记】Ant Design Form组件 resetFields() 与 setFieldsValue() 之比较
- 本科毕业论文参考文献可以随便写吗?
- 怎么调出全局搜索_华为手机怎么设置全局搜索,怎么开启以及怎么关闭
- Nginx --sendfile配置