文章目录

9.NameNode和SecondaryNameNode
- 9.1NN和2NN工作机制
- - 9.1.1第一阶段：NameNode启动
  - 9.1.2第二阶段：Secondary NameNode工作
- 9.2Fsimage和Edits解析
- - 9.2.1oiv查看Fsimage文件
  - - 9.2.1.1查看oiv和oev命令
    - 9.2.1.2基本语法
    - 9.2.1.3例子
    - - 9.2.1.3.1sz命令，从虚拟机上下载到windows上
  - 9.2.2oev查看Edits文件
  - - 9.2.2.1基本语法
    - 9.2.2.2例子
    - 9.2.2.32nn和nn的区别
- 9.3CheckPoint时间设置
- - 9.3.1通常情况下，SecondaryNameNode每隔一小时执行一次
  - 7.3.2一分钟检查一次操作次数，当操作次数达到1百万时，SecondaryNameNode执行一次

9.NameNode和SecondaryNameNode

9.1NN和2NN工作机制

思考：NameNode中的元数据是存储在哪里的？
首先，我们做个假设，如果存储在NameNode节点的磁盘中，因为经常需要进行随机访问，还有响应客户请求，必然是效率过低。因此，元数据需要存放在内存中。但如果只存在内存中，一旦断电，元数据丢失，整个集群就无法工作了。因此产生在磁盘中备份元数据的FsImage。
这样又会带来新的问题，当在内存中的元数据更新时，如果同时更新FsImage，就会导致效率过低，但如果不更新，就会发生一致性问题，一旦NameNode节点断电，就会产生数据丢失。因此，引入Edits文件（只进行追加操作，效率很高）。每当元数据有更新或者添加元数据时，修改内存中的元数据并追加到Edits中。这样，一旦NameNode节点断电，可以通过FsImage和Edits的合并，合成元数据。
但是，如果长时间添加数据到Edits中，会导致该文件数据过大，效率降低，而且一旦断电，恢复元数据需要的时间过长。因此，需要定期进行FsImage和Edits的合并，如果这个操作由NameNode节点完成，又会效率过低。因此，引入一个新的节点SecondaryNamenode，专门用于FsImage和Edits的合并。

9.1.1第一阶段：NameNode启动

（1）第一次启动NameNode格式化后，创建Fsimage和Edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。
（2）客户端对元数据进行增删改的请求。
（3）NameNode记录操作日志，更新滚动日志。
（4）NameNode在内存中对元数据进行增删改。

9.1.2第二阶段：Secondary NameNode工作

（1）Secondary NameNode询问NameNode是否需要CheckPoint。直接带回NameNode是否检查结果。
（2）Secondary NameNode请求执行CheckPoint。
（3）NameNode滚动正在写的Edits日志。
（4）将滚动前的编辑日志和镜像文件拷贝到Secondary NameNode。
（5）Secondary NameNode加载编辑日志和镜像文件到内存，并合并。
（6）生成新的镜像文件fsimage.chkpoint。
（7）拷贝fsimage.chkpoint到NameNode。
（8）NameNode将fsimage.chkpoint重新命名成fsimage。

9.2Fsimage和Edits解析

9.2.1oiv查看Fsimage文件

9.2.1.1查看oiv和oev命令

[summer@hadoop102 current]$ hdfs
oiv apply the offline fsimage viewer to an fsimage
oev apply the offline edits viewer to an edits file

9.2.1.2基本语法

hdfs oiv -p 文件类型 -i镜像文件 -o 转换后文件输出路径

9.2.1.3例子

[summer@hadoop102 current]$ pwd
/opt/module/hadoop-3.1.3/data/dfs/name/current
[summer@hadoop102 current]$ hdfs oiv -p XML -i fsimage_0000000000000000605 -o /opt/module/hadoop-3.1.3/fsimage.xml

[summer@hadoop102 current]$ cat /opt/software/fsimage.xml

9.2.1.3.1sz命令，从虚拟机上下载到windows上

[summer@hadoop102 software]$ sz fsimage.xml

为child时他下面没有节点了，为parent时下面还有节点。
hdfs存储数据是按照树状结构存储

思考：可以看出，Fsimage中没有记录块所对应DataNode，为什么？
在集群启动后，要求DataNode上报数据块信息，并间隔一段时间后再次上报。

9.2.2oev查看Edits文件

9.2.2.1基本语法

hdfs oev -p 文件类型 -i编辑日志 -o 转换后文件输出路径

9.2.2.2例子

[summer@hadoop102 current]$ hdfs oev -p XML -i edits_inprogress_0000000000000000610 -o /opt/software/edits.xml

这个是我还没有进行增删改查操作，所以里面没有东西。

上传了两个文件这里面的内容就多了

思考：NameNode如何确定下次开机启动的时候合并哪些Edits？

fsimage与大于609的edits合并

9.2.2.32nn和nn的区别

2nn没有inprogress这个文件夹，没有最新的edits，而nn有

9.3CheckPoint时间设置

9.3.1通常情况下，SecondaryNameNode每隔一小时执行一次

<property><name>dfs.namenode.checkpoint.period</name><value>3600s</value><description>The number of seconds between two periodic checkpoints.Support multiple time unit suffix(case insensitive), as describedin dfs.heartbeat.interval.</description>
</property>

7.3.2一分钟检查一次操作次数，当操作次数达到1百万时，SecondaryNameNode执行一次

<property><name>dfs.namenode.checkpoint.txns</name><value>1000000</value><description>The Secondary NameNode or CheckpointNode will create a checkpointof the namespace every 'dfs.namenode.checkpoint.txns' transactions, regardlessof whether 'dfs.namenode.checkpoint.period' has expired.</description>
</property><property><name>dfs.namenode.checkpoint.check.period</name><value>60s</value><description>The SecondaryNameNode and CheckpointNode will poll the NameNodeevery 'dfs.namenode.checkpoint.check.period' seconds to query the numberof uncheckpointed transactions. Support multiple time unit suffix(case insensitive),as described in dfs.heartbeat.interval.</description>
</property>

Hadoop中NameNode和SecondaryNameNode、NN和2NN工作机制、Fsimage和Edits解析、oiv查看Fsimage、oev查看Edits、CheckPoint时间设置相关推荐

Hadoop之NameNode和SecondaryNameNode工作机制详解
Hadoop之NameNode和SecondaryNameNode工作机制详解 NN和2NN工作机制 NN和2NN工作机制详解 Fsimage和Edits解析 checkpoint时间设置 1. NN ...
Hadoop中Namenode单点故障的解决方案
Hadoop中Namenode单点故障的解决方案需求: 实现namenode元数据的备份,解决namenode单点宕机导致集群不可用的问题. 方案描述: 当namenode所在服务器宕机的时候,我们 ...
Hadoop集群安全性：Hadoop中Namenode单点故障的解决方案及详介AvatarNode
2019独角兽企业重金招聘Python工程师标准>>> 正如大家所知,NameNode在Hadoop系统中存在单点故障问题,这个对于标榜高可用性的Hadoop来说一直是个软肋.本文讨 ...
Hadoop中Namenode单点故障的解决方案及详细介绍
正如大家所知,NameNode在Hadoop系统中存在单点故障问题,这个对于标榜高可用性的Hadoop来说一直是个软肋.本文讨论一下为了解决这个问题而存在的几个solution. 1. Seconda ...
Hadoop的NameNode与SecondaryNameNode,DataNode
NameNode: 主要任务是接收客户端的读写服务, 主要功能: 1,文件ownship和permission 2,文件包含哪些块 3,Block保存在哪个DataNode中(由DataNode每次启 ...
hadoop中namenode退出安全模式
为什么NameNode会处于安全模式? 1.NameNode发现集群中DataNode丢失达到一定比例(0.01%)时会进入安全模式,此时只允许查看数据不允许对数据进行任何操作. 2.HDFS集群即使 ...
Hadoop生态圈（十三）- Namenode元数据管理及各组件工作机制
目录前言 1. Namenode元数据管理 1.1 元数据是什么 1.2 元数据管理概述 1.2.1 内存元数据 1.2.2 磁盘元数据 1.2.2.1 fsimage内存镜像文件 1.2.2.2 ...
hadoop中NameNode、DataNode和Client三者之间协作关系及通信方式介绍
<ignore_js_op> 1)NameNode.DataNode和Client NameNode可以看作是分布式文件系统中的管理者,主要负责管理文件系统的命名空间.集 ...
大数据之-Hadoop之HDFS_合并FsImage和Edits文件_之CheckPoint时间设置---大数据之hadoop工作笔记0072
我们说,secondarynamenode会定时的,或者说等edits文件满了以后就会把, namenode节点的fsimage文件以及edits文件滚动出来一版,然后copy到secondaryna ...

Hadoop中NameNode和SecondaryNameNode、NN和2NN工作机制、Fsimage和Edits解析、oiv查看Fsimage、oev查看Edits、CheckPoint时间设置