F2FS文件系统论文解读

  • F2FS
    • F2FS 轮廓
    • Design and Implementation of F2FS
      • Block、Segment、Section and Zone
        • 整体布局
        • 文件结构（file inode structure）
        • 目录结构（Directory Structure）
        • 多级头部日志（Multi-Head Logging）
        • Cleaning
        • Adaptive Logging
        • Checkpoint And Recovery

最近在做文件系统方面的工作，就把这几天的工作贴上来吧。
参考文献：
1. F2FS origin paper
2. F2FS slides
3. F2FS presentation
4. F2FS versus JFFS
5. UBIFS
6. UBIFS DOC

F2FS

F2FS 轮廓

首先需要明白F2FS与JFFS之间的区别。事实上，二者没有可比性。因为F2FS把Flash设备看作块设备，利用FTL（Flash Translation Layer）技术；而JFFS是直接由Flash的特点设计而来。

这里有一个很有趣的问题。

在JFFS2的presentation中，作者认为利用FTL是一个很烂的选择。

这里值得一提的是，F2FS的诞生在2012年左右，而JFFS2在2001年左右就已经诞生。

下面是F2FS versus JFFS中的两条回复：

  1. It is designed for flash devices that expose themselves as block devices (like SSDs) and not for raw flash devices as jffs2 … so they aren’t really comparable.

  2. And JFFS2 works really badly on file systems which sizes are in GBs as it AFAIK keeps the whole fs structure in RAM. From scalability point of view, UBIFS would be more reasonable comparison.

也许在进一步深入F2FS之前还应该去阅读UBIFS。

The big difference between JFFS2 and UBIFS is that UBIFS stores the index on flash whereas JFFS2 stores the index only in main memory, rebuilding it when the file system is mounted.

点到为止，还有更多的工作需要完成，翻译工作将在后续进行。

从Presentation来看，F2FS主要特点是：

  1. Multi-Head Log，基于特殊FTL，该FTL能够根据规则翻译物理地址（zone 2 zone mapping）。根据后面的QA环节可以直到，这种FTL是由三星自研的。

  2. 冷热数据分区。其规则是：Node比Data热，在Node中，目录文件下的Direct Node为Hot、File文件下的Direct Node为Warm、Indirect Node为Cold；Data中，Dirent为Hot、普通Data Block为Warm、被回收的、用户指定的、多媒体数据文件等为Cold。

  3. NAT。减少更新传播（update propagation），所有Node通过NAT（Node Address Table） 翻译

  4. 适应性追加Log机制（Adaptive Logging）。

    (1).Append Logging 。在垃圾清理（cleaning）的时候，随机读顺序写；

    (2).Threaded Logging。不需要垃圾清理，覆写dirty Segments中的不可用Block，这导致随机写;

  5. Rollback机制，在Presentation中没有搞懂，还需阅读论文。

Design and Implementation of F2FS

关于性能评估部分不需要做很深的研究，我们只需要知道它好就行了。不过F2FS适用于Nand Flash，但是也许我们同样可从它的设计中取出一些精华。

Block、Segment、Section and Zone

F2FS把整个卷分成固定大小的Segment，Segment是F2FS进行管理的基本单位。

其中，若干Block构成Segment；若干Segment构成Section；若干Section构成Zone；

在Presentation中，我们可以看到：

  1. Block大小一般为4KB；
  2. Segment大小一般为2MB，也就是512个Block；
  3. Section大小是n个Segment；
  4. Zone大小是m个Section；

整体布局

  • SuperBlock（SB）： SB具有F2FS文件系统的基本分区信息和一些默认参数，这些是在文件系统格式化的时候给出的，是不可更改的。

  • Checkpoint（CP）：CP维护了文件系统的状态、有效NAT/SIT集合的位图、孤儿节点（Orphan inode）列表以及当前被激活的Segments的入口（Entries）。一个有效的”检查点包“应该保存给定时间（given point of time）的F2FS状态——用于掉电恢复。CP区域用两个Segment保存了两个检查点包（#0和#1）：一个用于保存最近稳定的版本，另一个用于保存一个中间（过时的）版本；

  • Segment Information Table（SIT）：SIT包含了每一个Segment的信息，例如：Segment中有效的Block数量以及在Main Area中的Block的位图。另外，在垃圾清理阶段（Cleaning），SIT中的信息还被用于选择受害Segment（Victim Segment） 并识别其中的有效块。

  • Node Address Table（NAT）：NAT是一个Block地址映射表，用于定位所有在Main Area中的”Node Blocks“；

  • Segment Summary Area（SSA）：SSA保存了“Summary Entries”，该Summary Entries 记录了Main Area中所有Block的归属信息，例如：父Inode号以及它在其中的偏移 node/data offsets。在垃圾清理过程中，在迁移有效块之前，这些“Entries”将被用于识别父node节点；

  • Main Area（MA）：MA被大小为4KB的Block填充。每一个Block有两种大的类型：node类型或data类型。一个Node Block包含了inode或Data Blocks索引，而一个Data Block包含了dirent或用户数据。注意，一个Section并不同时存储Node Blocks和Data Blocks

下面举一个例子。

假设我们要查询文件“/dir/file”

F2FS的查找步骤如下：

  1. 发现路径开始为“/”，则从NAT中寻找Root inode对应的地址，然后读取地址对应的Node Block，获得Root inode；
  2. 在Root inode下，F2FS在它的Data Block中寻找名字为dir的dirent，通过dirent可以获取对应的inode num；
  3. 接着，F2FS通过NAT将inode num转化为物理地址，并通过读取该物理地址对应的Node Block，获取名字为dir的inode；
  4. 在dir inode中，与步骤2一样，找到file对应的dirent，然后获取其inode num，然后重复步骤3，最终获得file inode；
  5. 真实的文件数据可在Main Area中获取，接下来要说明文件的结构。

文件结构（file inode structure）

传统的LFS利用inode map 将inode num翻译为物理地址。相比而言，F2F2利用node结构，将inode map拓展到可以翻译更多的索引块上。每一个Node Block都有一个唯一标识符Node ID。通过这个Node ID，NAT可以为所有的Node Block提供它们相应的物理地址。一个Node Block有三种类型：inode、direct和indirect node。inode block包括了文件的元数据，例如文件名、inode num、文件大小、访问时间、修改时间等；direct node block包含了Data Block的地址，而indirect node block则包含的是可以定位其他Node Block的Node ID。

也就是说，F2FS的indirect node的内容并不直接是另一个direct或者indirect node的物理地址，而是它们的逻辑ID。通过NAT表，我们可以将这个ID翻译为它们对应的物理地址，这样的好处是解决了Wandering Tree的问题。

在传统的LFS中，如果一个位于叶子的Data Block被更新了，由于LFS的追加写机制，那么它的direct和indirect指针Block都会被递归地更新，然后是指向direct或者indirect的inode也会被更新，接着是相应的inode map会被更新，最后是CP区域会被更新，见下图。

但是F2FS仅仅更新一个direct node block和它对应的NAT入口，这有效解决了Wandering Tree的问题。

可以预见，Single-indirect、Double-indirect以及Triple-indirect 部分也都保存的Node ID。

目录结构（Directory Structure）

在F2FS中，一个4KB大小的dentry block由几个部分组成：bitmap以及两个成对的slot和name数组。其中，slot包含了一个文件名的hash值，inode num，文件名长度以及文件类型（例如：普通文件、目录文件以及符号链接）。一个目录文件构建了一个多级哈希表来更有效地管理dentries。具体操作见wiki百科。

个人理解是：相当于每一个dentry block中的name的hash值都相同，可将多个block看作一个hash桶。因为在wiki百科中提到：

In the case of file creation, F2FS finds empty consecutive slots that cover the file name. F2FS searches the empty slots in the hash tables of whole levels from 1 to N in the same way as the lookup operation.

也就是说，在创建文件的时候，先会根据寻找算法 一样的算法去插入一条dentry。

多级头部日志（Multi-Head Logging）

不像LFS只有一个大的log区域，F2FS维护了六个主要的log区域来最大化冷热数据分区效应。F2FS静态地为Node Block和Data Block定义了3个数据温度级别——hot、warm以及cold，如下表所示。

因为Direct Node Block更新更加频繁，因此，它比Indirect Node Block更热，反观Indirect Node Block，它包含Node ID，并且仅仅只在一个Node Block被添加或者删除时才会去追加写更新。Direct Node Block和存储Dentries的Data Block都被视为热Block。其中，具有以下特点的Data Block被认为是冷Block：

  • 被Cleaning过程移动的Data Block： 既然它们已经在Cleaning里被保留下来了，那么他们在不远的将来也同样不会被修改；
  • 被用户定义的Cold Data Block： F2FS允许用户添加这个参数；
  • 多媒体文件： 多媒体文件大都表现为”写一次，只读“模式。F2FS通过文件后缀名来识别这些文件。

F2FS默认开启6个Log区域。同样也支持2、4个Log区域。当6个区域都被激活时，6个区域对应上表的6种温度级别的Block；当4个区域被激活时，F2FS将Cold和Warm Log区域合并在一起。如果只有2个Log区域，那么F2FS将一个区域分配给Node Block，一个区域分配给Data Block。

F2FS提供了一种Zone可定制FTL兼容方法，能够间接减轻GC开销。具体原理不太清楚，大概类似下图的Zone-aware Allocation：

F2FS maps active logs to different zones to separate them in the FTL.

冷热数据分离的原因？

是让性能更好？对WL应该没有什么帮助！

参考这篇文章On the Necessity of Hot and Cold Data Identification to Reduce the Write Amplification in Flash-based SSDs的结论：

In this paper we compare the performance of such a write approach with write approaches that do rely on data identification using both mean field models and simulation experiments. The main finding is that the added gain of identifying hot and cold data is quite limited, especially as the hot data gets hotter. Moreover, the write approaches relying on hot and cold data identification may even become inferior if either the fraction of data labeled hot is not ideally chosen or if the probability of having false positives or negatives when identifying data is substantial (e.g. 5%).

是了，这符合我的想法。
但是，导师告诉我
冷热分离，一方面是性能，另外对磨损均衡还是有作用的，热数据可以挪一挪，这很重要

Cleaning

在F2FS种，Cleaning是以Section为单位完成的。F2FS的Cleaning发生在Foreground 和Background 。Foreground Cleaning只在没有足够多的空闲Section时才发生，而Background Cleaning是由内核线程阶段性的唤醒来完成。一个Cleaning包含3个步骤：

  1. Victim Selection：主要有两种方式，其一为Greedy——选择具有最少有效块的Section作为Victim Section，F2FS将Greedy方式作为Foreground Cleaning以最小化前端应用的延迟。另外，F2FS保留了5%的存储空间，这足以够Cleaning进程进来移动Block；第二种方式是cost-benefit，F2FS将其作为Background Cleaning方法，这种方法不仅仅根据Section的使用情况，还根据它的年龄来选择Victim Section。F2FS利用SIT里记录的信息来推测Section的年龄，一般是计算Section中所有Segment的平均年龄（F2FS infers the age of a section by averaging the age of segments in the section）。有了cost-benefit方法，F2FS就有了分别冷热数据的另一种方法。

  2. Valid block identification and migration：在进行完Victim Selection之后，F2FS必须验证Section中Block的有效性。F2FS在SIT中为每一个Segment都维护了一个有效位图（validity bitmap），一旦通过Section中的所有bitmap找到了该Section中所有Segment中所有的有效Block，F2FS就能够从SSA中获取这些Block的父Node Block。接着，F2FS就能够将有效的Block全部迁移（migrate） 到log的其他空闲区域中。

    这里有一个问题，到底移到哪一个log区域中呢？有整整6个Log区域呀，这该怎么权衡呢？

    呵呵，应该只在Log Area也就是单一Zone里面移动吧……

    是吗？好像不是？

    对于Background Cleaning，F2FS并不会引起移动有效块的I/O。相反，F2FS将有效块装载到Page Cache中，然后将它们标记为Dirty。接下来，F2FS就将他们留在Page Cache中，等待内核工作进程将他们Flush到存储器中。这种模式被称为Lazy Migration，它不止减轻了对前台应用I/O的影响，同时允许小的写入（Small Write） 被合并起来。Background Cleaning在常规I/O或者Foreground Cleaning时不会工作。

  3. Post-cleaning process：当所有有效块都被迁移后，那个Victiom Section就会被标记为Pre-Free。当Checkpoint生成后，这个Section才变成一个Free Section，等待被重新分配。这个机制的原因是：如果一个Pre-Free Section在Checkpoint生成前就被当作空闲块使用，那么当掉电时，文件系统可能会丢失在上一个Checkpoint时的数据。（因为Pre-Free Section已经被覆写了。Brilliant！）

Adaptive Logging

The original LFS introduced two logging policies, normal logging and threaded logging. In the normal logging, blocks are written to clean segments, yielding strictly sequential writes. Even if users submit many random write requests, this process transforms them to sequential writes as long as there exists enough free logging space. As the free space shrinks to nil, however, this policy starts to suffer high cleaning overheads, resulting in a serious performance drop (quantified to be over 90% under harsh conditions, see Section 3.2.5). On the other hand, threaded logging writes blocks to holes (invalidated, obsolete space) in existing dirty segments. This policy requires no cleaning operations, but triggers random writes and may degrade performance as a result.

F2FS implements both policies and switches between them dynamically according to the file system status. Specifically, if there are more than k clean sections, where k is a pre-defined threshold, normal logging is initiated. Otherwise, threaded logging is activated. k is set to 5% of total sections by default and can be configured.

简单来说，设定一个阈值，当空闲块大于这个阈值时，F2FS启用基于Append Logging的Cleaning回收机制，当空闲块小于这个阈值时，如果再调用Cleaning，那么写入效率会变得非常低下，于是直接采用Threaded Logging——直接写到脏Segment的空闲Block中，就不采用Cleaning操作了。

Checkpoint And Recovery

无论何时，F2FS需要维护一个持续状态事件：例如sync、umount以及Foreground Cleaning时，F2FS都会触发一个检查点，具体流程如下：

  1. 所有在Page Cache中的Dirty Node和Dentry Block被Flush；
  2. F2FS暂停基本写系统调用，例如：create、unlink以及mkdir；
  3. 文件系统的元数据、NAT、SIT以及SSA被写入Flash特定区域；
  4. F2FS向CP Area写入Checkpoint包，包括了以下信息：
    • Header and Footer： 分别被写入包的开头和结尾。F2FS在Header和Footer中维护版本号，该版本号在创建检查点时递增。在文件系统装载时，版本号可以从两个Checkpoint包中曲分最新的稳定包；
    • NAT and SIT bitmaps：NAT和SIT bitmaps指明构成当前包的NAT和SIT的Block的集合；
    • NAT and SIT journals： 包含了一小部分最近修改的NAT与SIT Entries，用于避免经常性的NAT和SIT更新；
    • Summary blocks of active segments： 由内存中的SSA Block组成，这些内存中的SSA Block将来会被Flush到Flash的SSA Area中；
    • Orphan Blocks： 保存孤儿节点信息。如果一个inode在它被关闭之前删除了，例如：当两个进程同时打开一个文件，然后其中一个进程删除了这个文件，那么此时这个文件就被标记为孤儿节点，在突然断电后，F2FS就可以成功恢复它；

回滚恢复（Roll-Back Recovery）

在突然掉电后，F2FS回滚到最近Checkpoint上。F2FS维护了两个Checkpoint包，如果一个Checkpoint包的Header和Footer和另一个相同，则F2FS认为该Checkpoint包是有效的，否则，它会被丢弃。

同样，F2FS同样管理了两组NAT和SIT的块集合，由每个Checkpoint包的NAT和SIT bitmaps区分。当在更新检查点时写NAT或者SIT block时，F2FS将交替写这两组集合，然后将bitmap指向被最新的集合。

如果只有很少的NAT或者SIT Entries被经常更新，则F2FS将多次写入4KB大小的NAT或者SIT Block。为了减轻负担，F2FS在Checkpoint包中实现了NAT and SIT journal，这项技术减少了I/O的数量，以及更新检查点的延迟。

在文件系统挂载恢复阶段，F2FS通过Header和Footer搜索有效的Checkpoint 包。如果所有Checkpoint 包都有效，F2FS就选择最新的一个包。一旦选择了最近有效的包，F2FS将检查是否存在孤儿节点。如果存在，F2FS将剪除这些孤儿节点指向的所有Data Block，然后将这些孤儿节点Free掉。接下来，F2FS在Roll-Forward Recovery成功完成后，通过指向NAT和SIT Blocks的bitmaps来开启文件系统服务。

前滚恢复（Roll-Forward Recovery，类似强制刷新吧，不是很懂。。。感觉是针对数据库的？？？Mayday Mayday /(ㄒoㄒ)/~~）

类似数据库的应用时常向文件写入小型数据并执行fsync来保证数据的持续性。一个支持fsync的简单的方法可能是：触发更新检查点然后通过Roll-Back模型来恢复数据。然而，这个方法的性能十分低下，因为更新检查点将导致所有无关的Node、Dentry Block都被写入数据库文件。

F2FS实现了一个高效的前滚恢复机制来提升fsync性能。关键思想是只写Data Block以及这些Data Block的Direct Node Block，而不写其他Node 或者F2FS元数据Block。为了在回滚到稳定的Checkpoint时选择性地找到Data Block，F2FS在Direct Node Block中保留了一些特殊的标志位。

F2FS文件系统论文解读相关推荐

  1. Windows Azure Storage论文解读

    Windows Azure Storage论文解读 整体架构 文件流层 stream layer 存储引擎 存储优化 分区层 Partition Layer 存储引擎 WAS总结 WAS是微软开发的云 ...

  2. AutoDL论文解读（二）：基于遗传算法的典型工作

    自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一.其中的神经网络结构搜索(NAS)是其中重要的技术之一.人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜 ...

  3. 自监督学习(Self-Supervised Learning)多篇论文解读（下）

    自监督学习(Self-Supervised Learning)多篇论文解读(下) 之前的研究思路主要是设计各种各样的pretext任务,比如patch相对位置预测.旋转预测.灰度图片上色.视频帧排序等 ...

  4. 自监督学习(Self-Supervised Learning)多篇论文解读（上）

    自监督学习(Self-Supervised Learning)多篇论文解读(上) 前言 Supervised deep learning由于需要大量标注信息,同时之前大量的研究已经解决了许多问题.所以 ...

  5. 可视化反投射：坍塌尺寸的概率恢复：ICCV9论文解读

    可视化反投射:坍塌尺寸的概率恢复:ICCV9论文解读 Visual Deprojection: Probabilistic Recovery of Collapsed Dimensions 论文链接: ...

  6. 从单一图像中提取文档图像：ICCV2019论文解读

    从单一图像中提取文档图像:ICCV2019论文解读 DewarpNet: Single-Image Document Unwarping With Stacked 3D and 2D Regressi ...

  7. 点云配准的端到端深度神经网络：ICCV2019论文解读

    点云配准的端到端深度神经网络:ICCV2019论文解读 DeepVCP: An End-to-End Deep Neural Network for Point Cloud Registration ...

  8. 图像分类：CVPR2020论文解读

    图像分类:CVPR2020论文解读 Towards Robust Image Classification Using Sequential Attention Models 论文链接:https:// ...

  9. CVPR2020论文解读：手绘草图卷积网络语义分割

    CVPR2020论文解读:手绘草图卷积网络语义分割 Sketch GCN: Semantic Sketch Segmentation with Graph Convolutional Networks ...

  10. CVPR2020论文解读：3D Object Detection三维目标检测

    CVPR2020论文解读:3D Object Detection三维目标检测 PV-RCNN:Point-Voxel Feature Se tAbstraction for 3D Object Det ...

最新文章

  1. android多媒体图文混排,干货！！！Android富文本实现图文混排
  2. mysql 中文的数据类型_mysql数据类型整理
  3. c++ 读文件_Linux文件（文件夹）详解
  4. 【已解决】Jsp实现文件上传功能
  5. 大数据WEB阶段（十二）会话技术、Cookie、Session及两者的区别
  6. 关于spring MVC中加载多个validator的方法。
  7. Spring集成–使用RMI通道适配器
  8. 可执行程序加载到内存的过程
  9. 写给偷偷老去的80后
  10. BGP 同步 黑洞 peergroup rr 联邦 full-mesh
  11. java 线程死锁简单例子_java 多线程死锁详解及简单实例
  12. Cron 触发器及相关内容 (第二部分)
  13. 庆熙大学计算机工程系,庆熙大学
  14. webstorm下载微信小程序插件_微信电脑版可以打开小程序喽 前提你得下载测试版...
  15. blocks bytes extents比较
  16. Atitit. Java script 多重多重catch语句的实现and Javascript js 异常机制
  17. 最新Activity与Fragment完全理解
  18. Apache Shiro官方构架文档中文翻译
  19. 手机浏览器的扫一扫功能在哪里，有什么作用
  20. 模拟信号和数字信号的区别和特点

热门文章

  1. Servlet的面试题
  2. sql 插入日期格式
  3. 5行代码识别各种验证码
  4. Html - Json转excel文件
  5. 一键获取阿里巴巴主图视频细节图评论图的步骤
  6. linux常用快捷键大全
  7. kindle刷机ttl_#原创新人#艰难的TTL刷机路--新固件斐讯 K1 无线路由刷机教程
  8. VoIP服务器曝重大漏洞，黑客可以绕过管理员身份
  9. 人工智能导论（专家系统）
  10. 十分钟掌握Nodejs下载和安装