第三章-分布式文件系统HDFS

文章目录

第三章-分布式文件系统HDFS
- HDFS简介
- HDFS相关概念
- - HDFS块与组件
  - 名称节点
  - 第二名称节点
  - 数据节点
- HDFS体系结构
- HDFS存储原理
- - 冗余数据保存
  - 数据存取策略
  - 数据错误与恢复
- HDFS数据读写过程
- - 读过程
  - 写过程

HDFS简介

分布式文件系统把文件分布存储到多个计算机节点上，成千上万的计算机节点构成计算机集群。

分布式文件系统在物理结构上是由计算机集群中的多个节点构成的，这些节点分为两类，一类叫“主节点”(Master Node)或者也被称为“名称结点”(NameNode)；另一类叫“从节点”（Slave Node）或者也被称为“数据节点”(DataNode)

总体而言，HDFS要实现以下目标：

兼容廉价的硬件设备
流数据读写
大数据集
简单的文件模型
强大的跨平台兼容性

HDFS特殊的设计，在实现上述优良特性的同时，也使得自身具有一些应用局限性，主要包括以下几个方面：

不适合低延迟数据访问
无法高效存储大量小文件
不支持多用户写入及任意修改文件

HDFS相关概念

HDFS块与组件

HDFS默认一个数据块 Data Block 64MB/128M，一个文件被分成多个块，以块作为存储单位。块的大小远远大于普通文件系统，以降低分布式寻址开销，但也不宜过大。

HDFS采用抽象的块概念可以带来的明显的好处：

支持大规模文件存储：一个大规模文件可以被分拆成若干个文件块，不同的文件块可以被分发到不同的节点上，不会受到单个节点的存储容量的限制
简化系统设计：文件块大小是固定的，很容易计算出一个节点可以存储的文件块数以及一个文件的存储需求，方便元数据管理
适合数据备份：每个文件块都可以冗余存储到多个节点上，大大提高了系统的容错性和可用性

HDFS主要组件的功能：

NameNode	DataNode
存储元数据	存储文本内容
元数据保存在内存中	文件内容保存在磁盘
保存文件，block，datanode之间的映射关系	维护了block id到datanode本地文件的映射关系

名称节点

在HDFS中，名称节点（NameNode）保存了两个核心的数据结构，即 FsImage 和 EditLog

FsImage维护文件树以及文件树中所有的文件和文件夹的元数据
EditLog中记录了所有针对文件的创建、删除、重命名等操作

FsImage文件：包含文件系统中所有目录和文件的元数据信息，如修改和访问时间、访问权限、分块情况等。FsImage文件没有记录文件包含的每个块存储在哪个数据节点，文件块位置信息只存储在内存中。

当数据节点加入HDFS集群时，数据节点会把自己所包含的块列表告知给名称节点，此后会定期执行这种告知操作，以确保名称节点的块映射是最新的。

在名称节点启动的时候，它会将FsImage文件中的内容加载到内存中，之后再执行EditLog文件中的各项操作，使得内存中的元数据和实际的同步。一旦在内存中成功建立文件系统元数据的映射，则创建一个新的FsImage文件和一个空的EditLog 文件。

名称节点在启动的过程中处于“安全模式”，只提供读操作，不提供写操作。启动过程结束后，系统就会退出安全模式，进入正常运行状态，对外提供读写操作。

名称节点启动成功并进入到正常运行状态以后，HDFS中的更新操作会重新写到EditLog文件中，而不是FsImage。

因为FsImage文件一般都很大（GB级别的很常见），如果所有的更新操作都往FsImage文件中添加，这样会导致系统运行的十分缓慢，相对而言，EditLog 要小很多，写入EditLog是更加高效的
每次执行写操作之后，且在向客户端发送成功代码之前， EditLog文件都需要同步更新

在名称节点运行期间，HDFS的所有更新操作都是直接写到EditLog中，久而久之， EditLog文件将会变得很大。

在名称节点重启的时候，名称节点需要先将 FsImage 里面的所有内容映像到内存中，然后再一条一条地执行 EditLog中的记录，当EditLog文件非常大的时候，会导致名称节点启动操作非常慢，而在这段时间内HDFS系统处于安全模式，一直无法对外提供写操作，影响了用户的使用。因此，Hadoop官方提出了第二名称节点（SecondaryNameNode）的概念。

第二名称节点

第二名称节点用途主要是防止日志文件 EditLog过大，导致名称节点失败恢复时消耗过多时间。第二名称节点不是热备份，只是附带起到冷备份的功能。

SecondaryNameNode的工作情况：

SecondaryNameNode会定期和 NameNode通信，请求其停止使用 EditLog文件，暂时将新的写操作写到一个新的文件 edit.new上
SecondaryNameNode通过 HTTP GET方式从 NameNode上获取到 FsImage和 EditLog文件，并下载到本地的相应目录下
SecondaryNameNode将下载下来的 FsImage载入到内存，然后一条一条地执行 EditLog文件中的各项更新操作，使得内存中的 FsImage保持最新，这个过程就是 EditLog和 FsImage文件合并
SecondaryNameNode执行完步骤 3 操作之后，会通过post方式将新的 FsImage文件发送到 NameNode节点上
NameNode将从 SecondaryNameNode接收到的新的 FsImage替换旧的 FsImage文件，同时将 edit.new替换 EditLog文件，通过这个过程 EditLog就变小了

数据节点

数据节点是分布式文件系统HDFS的工作节点，负责数据的存储和读取，会根据客户端或者是名称节点的调度来进行数据的存储和检索，并且向名称节点定期发送自己所存储的块的列表。

每个数据节点中的数据会被保存在各自节点的本地 Linux文件系统中。

HDFS体系结构

HDFS采用了主从（Master/Slave）结构模型，一个 HDFS集群包括一个名称节点（NameNode）和若干个数据节点（DataNode）。

名称节点作为中心服务器，负责管理文件系统的命名空间及客户端对文件的访问。

集群中的数据节点一般是一个节点运行一个数据节点进程，负责处理文件系统客户端的读/写请求，在名称节点的统一调度下进行数据块的创建、删除和复制等操作。每个数据节点会周期性的向名称节点报告自己的状态，没有按时报告的数据节点会被标记为“宕机”，不再给它分配I/O请求。

HDFS使用的是传统的分级文件体系，因此，用户可以像使用普通文件系统一样，创建、删除目录和文件，在目录间转移文件，重命名文件等。

HDFS存储原理

机架感知（Rack Awareness）

机架内的机器之间的网络速度通常都会高于跨机架机器之间的网络速度，并且机架之间机器的网络通信通常受到上层交换机间网络带宽的限制
希望不同节点之间的通信能够尽量发生在同一个机架之内，而不是跨机架
为了提高容错能力，名称节点会尽可能把数据块的副本放到多个机架上

冗余数据保存

作为一个分布式文件系统，为了保证系统的容错性和可用性，HDFS采用了多副本方式对数据进行冗余存储，通常一个数据块的多个副本会被分布到不同的数据节点上

加快数据传输速度
容易检查数据错误
保证数据可靠性

数据存取策略

数据存放：

第一个副本：如果是集群内发起写操作请求，放置在发起请求的数据节点上；如果来自集群外，随机挑选一台磁盘不太满、CPU不太忙的节点
第二个副本：放置在与第一个副本不同的机架的节点上
第三个副本：与第二个副本相同机架的其他节点上
更多副本：随机节点

数据读取：就近原则

当客户端读取数据时，从名称节点获得数据块不同副本的存放位置列表，列表中包含了副本所在的数据节点，开启机架感知后可以确定客户端和这些数据节点所属的机架ID
当发现某个数据块副本对应的机架ID和客户端对应的机架ID相同时，就优先选择该副本读取数据，如果没有发现，就随机选择一个副本读取数据

数据错误与恢复

HDFS部署在大规模的集群上，并且可以兼容廉价的硬件，它把硬件出错看作一种常态，而不是异常，并设计了相应的机制检测数据错误和进行自动恢复，主要包括以下几种情形：名称节点出错、数据节点出错和数据出错。

名称节点出错
- 名称节点保存了所有的元数据信息，其中，最核心的两大数据结构是 FsImage和 Editlog，如果这两个文件发生损坏，那么整个HDFS实例将失效。
- HDFS设置了备份机制，把这些核心文件备份到第二名称节点 SecondaryNameNode上。当名称节点出错时，就可以根据备份服务器中的 FsImage和 Editlog数据进行恢复，但需要暂停服务一段时间
数据节点出错
- 每个数据节点会定期向名称节点发送“心跳”信息，向名称节点报告自己的状态
- 当数据节点发生故障，或者网络发生断网时，名称节点就无法收到来自一些数据节点的心跳信息，这时，这些数据节点就会被标记为“宕机”，节点上面的所有数据都会被标记为“不可读”，名称节点不会再给它们发送任何I/O请求
- 这时，有可能出现一种情形，即由于一些数据节点的不可用，会导致一些数据块的副本数量小于冗余因子。名称节点会定期检查这种情况，一旦发现某个数据块的副本数量小于冗余因子，就会启动数据冗余复制，为它生成新的副本
- HDFS和其它分布式文件系统的最大区别就是可以调整冗余数据的位置（负载严重不均衡时也可做调整）
数据出错
- 网络传输和磁盘错误等因素，都会造成数据错误
- 客户端在读取到数据后，会对数据块进行校验，以确定读取到正确的数据
- 在文件被创建时，客户端就会对每一个文件块进行信息摘录，并把这些信息写入到同一个路径的隐藏文件里面
- 当客户端读取文件的时候，会先读取该信息文件。然后，利用该信息文件对每个读取的数据块进行校验，如果校验出错，客户端就会请求到另外一个数据节点读取该文件块，并且向名称节点报告这个文件块有错误，名称节点会定期检查并且重新复制这个文件块

HDFS数据读写过程

FileSystem是一个通用文件系统的抽象基类，可以被分布式文件系统继承，所有可能使用 Hadoop文件系统的代码，都要使用这个类。Hadoop为 FileSystem这个抽象类提供了多种具体实现，DistributedFileSystem就是 FileSystem在 HDFS文件系统中的具体实现。

FileSystem的 open( )方法返回的是一个输入流 FSDataInputStream对象，在HDFS文件系统中，具体的输入流就是DFSInputStream。FileSystem中的 create( )方法返回的是一个输出流 FSDataOutputStream对象，在 HDFS文件系统中，具体的输出流就是 DFSOutputStream。

事实上，这些具体的输入输出流都已经被封装在了 FSDataInputStream/FSDataOutputStream对象中了，直接使用这两个对象即可。

读过程

读数据的流程：

1.打开文件
- Configuration conf = new Configuration( );
- FileSystem fs = FileSystem.get(conf);
- FSDataInputStream in = fs.open(new Path(uri));
2.获取数据块信息
- 通过ClientProtocal.getBlockLocations( ) 远程调用名称节点，获得文件开始部分数据块的位置。对于该数据块，名称节点返回保存该数据块的所有数据节点的地址，并根据距离客户端远近进行排序
3.读取请求
- 客户端获得输入流 FSDataInputStream以后，调用read( )函数开始读取数据。输入流根据前面的排序结果，选择距离客户端最近的数据节点，建立连接并读取数据
4.读取数据
- 数据从数据节点读到客户端，当该数据块读取完毕时，FSDataInputStream关闭和该数据节点的连接。
- 如果系统中还有数据需要读取，则转至第3步继续查找下一个数据块，接着读入数据，直到所有数据块都读取完毕。
5.关闭文件

读数据实例：

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;import java.io.BufferedReader;
import java.io.InputStreamReader;public class HDFSReadFile {    public static void main(String[] args) {        try{            Configuration conf = new Configuration();conf.set("fs.defaultFS", "hdfs://localhost:9000");FileSystem fs = FileSystem.get(conf);Path filename = new Path("input/localfile.txt");//Path filename = new Path("hdfs://localhost:9000/user/bigdata/input/localfile.txt");FSDataInputStream is = fs.open(filename);BufferedReader d = new BufferedReader(new InputStreamReader(is));String content = d.readLine();System.out.println(content);d.close();s.close();        }catch (Exception e){e.printStackTrace();        }    }
}

写过程

写数据的流程：

1.创建文件请求
- Configuration conf = new Configuration( );
- FileSystem fs = FileSystem.get(conf);
- FSDataOutputStream out = fs.create(new Path(uri));
2.创建文件元数据
- RPC远程调用名称节点，在文件系统的命名空间中新建一个文件，名称节点会执行一些检查（文件是否存在，客户端权限）
3.写入数据
- 数据被分成一个个分包，分包被放入 DFSOutputStream对象的内部队列。DFSOutputStream向名称节点申请保存数据块的若干数据节点
4.写入数据包
- 这些数据节点形成一个数据流管道，队列中的分包最后被打包成数据包，发往数据流管道中的第一个数据节点。第一个数据节点将数据包发送到第二个节点，依此类推，形成“流水线复制”
5.接受确认包
- 为了保证节点数据准确，接收到数据的数据节点要向发送者发送“确认包”。确认包沿着数据流管道逆流而上，经过各个节点最终到达客户端。客户端收到应答时，它将对应的分包从内部队列移除
- 不断执行步骤3-5，直到数据全部写完
6.关闭文件
- DFSOutputStream调用 ClientProtocal.Complete( )方法通知名称节点关闭文件

写数据实例：

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;public class HDFSWriteFile {    public static void main(String[] args) {        try{            Configuration conf = new Configuration();conf.set("fs.defaultFS", "hdfs://localhost:9000");FileSystem fs = FileSystem.get(conf);            String filename = "newfile.txt";            FSDataOutputStream os = fs.create(new Path(filename));os.writeChars("This is a new file.");            System.out.println("Create File:" + filename);os.close();            fs.close();        }        catch (Exception e){e.printStackTrace();        }    }
}