hadoop 查看节点主备装填_基于ZooKeeper搭建Hadoop高可用集群
作者博客:https://blog.csdn.net/m0_37809146/
一、高可用简介
Hadoop 高可用 (High Availability) 分为 HDFS 高可用和 YARN 高可用,两者的实现基本类似,但 HDFS NameNode 对数据存储及其一致性的要求比 YARN ResourceManger 高得多,所以它的实现也更加复杂,故下面先进行讲解:
1.1 高可用整体架构
HDFS 高可用架构如下:
图片引用自:https://www.edureka.co/blog/how-to-set-up-hadoop-cluster-with-hdfs-high-availability/
HDFS 高可用架构主要由以下组件所构成:
Active NameNode 和 Standby NameNode:两台 NameNode 形成互备,一台处于 Active 状态,为主 NameNode,另外一台处于 Standby 状态,为备 NameNode,只有主 NameNode 才能对外提供读写服务。
主备切换控制器 ZKFailoverController:ZKFailoverController 作为独立的进程运行,对 NameNode 的主备切换进行总体控制。ZKFailoverController 能及时检测到 NameNode 的健康状况,在主 NameNode 故障时借助 Zookeeper 实现自动的主备选举和切换,当然 NameNode 目前也支持不依赖于 Zookeeper 的手动主备切换。
Zookeeper 集群:为主备切换控制器提供主备选举支持。
共享存储系统:共享存储系统是实现 NameNode 的高可用最为关键的部分,共享存储系统保存了 NameNode 在运行过程中所产生的 HDFS 的元数据。主 NameNode 和 NameNode 通过共享存储系统实现元数据同步。在进行主备切换的时候,新的主 NameNode 在确认元数据完全同步之后才能继续对外提供服务。
DataNode 节点:除了通过共享存储系统共享 HDFS 的元数据信息之外,主 NameNode 和备 NameNode 还需要共享 HDFS 的数据块和 DataNode 之间的映射关系。DataNode 会同时向主 NameNode 和备 NameNode 上报数据块的位置信息。
1.2 基于 QJM 的共享存储系统的数据同步机制分析
目前 Hadoop 支持使用 Quorum Journal Manager (QJM) 或 Network File System (NFS) 作为共享的存储系统,这里以 QJM 集群为例进行说明:Active NameNode 首先把 EditLog 提交到 JournalNode 集群,然后 Standby NameNode 再从 JournalNode 集群定时同步 EditLog,当 Active NameNode 宕机后, Standby NameNode 在确认元数据完全同步之后就可以对外提供服务。
需要说明的是向 JournalNode 集群写入 EditLog 是遵循 “过半写入则成功” 的策略,所以你至少要有 3 个 JournalNode 节点,当然你也可以继续增加节点数量,但是应该保证节点总数是奇数。同时如果有 2N+1 台 JournalNode,那么根据过半写的原则,最多可以容忍有 N 台 JournalNode 节点挂掉。
1.3 NameNode 主备切换
NameNode 实现主备切换的流程下图所示:
HealthMonitor 初始化完成之后会启动内部的线程来定时调用对应 NameNode 的 HAServiceProtocol RPC 接口的方法,对 NameNode 的健康状态进行检测。
HealthMonitor 如果检测到 NameNode 的健康状态发生变化,会回调 ZKFailoverController 注册的相应方法进行处理。
如果 ZKFailoverController 判断需要进行主备切换,会首先使用 ActiveStandbyElector 来进行自动的主备选举。
ActiveStandbyElector 与 Zookeeper 进行交互完成自动的主备选举。
ActiveStandbyElector 在主备选举完成后,会回调 ZKFailoverController 的相应方法来通知当前的 NameNode 成为主 NameNode 或备 NameNode。
ZKFailoverController 调用对应 NameNode 的 HAServiceProtocol RPC 接口的方法将 NameNode 转换为 Active 状态或 Standby 状态。
1.4 YARN高可用
YARN ResourceManager 的高可用与 HDFS NameNode 的高可用类似,但是 ResourceManager 不像 NameNode ,没有那么多的元数据信息需要维护,所以它的状态信息可以直接写到 Zookeeper 上,并依赖 Zookeeper 来进行主备选举。
二、集群规划
按照高可用的设计目标:需要保证至少有两个 NameNode (一主一备) 和 两个 ResourceManager (一主一备) ,同时为满足“过半写入则成功”的原则,需要至少要有 3 个 JournalNode 节点。这里使用三台主机进行搭建,集群规划如下:
三、前置条件
所有服务器都安装有 JDK,安装步骤可以参见:Linux 下 JDK 的安装;
搭建好 ZooKeeper 集群,搭建步骤可以参见:Zookeeper 单机环境和集群环境搭建
所有服务器之间都配置好 SSH 免密登录。
四、集群配置
4.1 下载并解压
下载 Hadoop。这里我下载的是 CDH 版本 Hadoop,下载地址为:http://archive.cloudera.com/cdh5/cdh/5/
# tar -zvxf hadoop-2.6.0-cdh5.15.2.tar.gz
4.2 配置环境变量
编辑 profile
文件:
# vim /etc/profile
增加如下配置:
export HADOOP_HOME=/usr/app/hadoop-2.6.0-cdh5.15.2export PATH=${HADOOP_HOME}/bin:$PATH
执行 source
命令,使得配置立即生效:
# source /etc/profile
4.3 修改配置
进入 ${HADOOP_HOME}/etc/hadoop
目录下,修改配置文件。各个配置文件内容如下:
1. hadoop-env.sh
# 指定JDK的安装位置export JAVA_HOME=/usr/java/jdk1.8.0_201/
2. core-site.xml
<configuration> <property> <name>fs.defaultFSname> <value>hdfs://hadoop001:8020value> property> <property> <name>hadoop.tmp.dirname> <value>/home/hadoop/tmpvalue> property> <property> <name>ha.zookeeper.quorumname> <value>hadoop001:2181,hadoop002:2181,hadoop003:2181value> property> <property> <name>ha.zookeeper.session-timeout.msname> <value>10000value> property>configuration>
3. hdfs-site.xml
<configuration> <property> <name>dfs.replicationname> <value>3value> property> <property> <name>dfs.namenode.name.dirname> <value>/home/hadoop/namenode/datavalue> property> <property> <name>dfs.datanode.data.dirname> <value>/home/hadoop/datanode/datavalue> property> <property> <name>dfs.nameservicesname> <value>myclustervalue> property> <property> <name>dfs.ha.namenodes.myclustername> <value>nn1,nn2value> property> <property> <name>dfs.namenode.rpc-address.mycluster.nn1name> <value>hadoop001:8020value> property> <property> <name>dfs.namenode.rpc-address.mycluster.nn2name> <value>hadoop002:8020value> property> <property> <name>dfs.namenode.http-address.mycluster.nn1name> <value>hadoop001:50070value> property> <property> <name>dfs.namenode.http-address.mycluster.nn2name> <value>hadoop002:50070value> property> <property> <name>dfs.namenode.shared.edits.dirname> <value>qjournal://hadoop001:8485;hadoop002:8485;hadoop003:8485/myclustervalue> property> <property> <name>dfs.journalnode.edits.dirname> <value>/home/hadoop/journalnode/datavalue> property> <property> <name>dfs.ha.fencing.methodsname> <value>sshfencevalue> property> <property> <name>dfs.ha.fencing.ssh.private-key-filesname> <value>/root/.ssh/id_rsavalue> property> <property> <name>dfs.ha.fencing.ssh.connect-timeoutname> <value>30000value> property> <property> <name>dfs.client.failover.proxy.provider.myclustername> <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvidervalue> property> <property> <name>dfs.ha.automatic-failover.enabledname> <value>truevalue> property>configuration>
4. yarn-site.xml
<configuration> <property> <name>yarn.nodemanager.aux-servicesname> <value>mapreduce_shufflevalue> property> <property> <name>yarn.log-aggregation-enablename> <value>truevalue> property> <property> <name>yarn.log-aggregation.retain-secondsname> <value>86400value> property> <property> <name>yarn.resourcemanager.ha.enabledname> <value>truevalue> property> <property> <name>yarn.resourcemanager.cluster-idname> <value>my-yarn-clustervalue> property> <property> <name>yarn.resourcemanager.ha.rm-idsname> <value>rm1,rm2value> property> <property> <name>yarn.resourcemanager.hostname.rm1name> <value>hadoop002value> property> <property> <name>yarn.resourcemanager.hostname.rm2name> <value>hadoop003value> property> <property> <name>yarn.resourcemanager.webapp.address.rm1name> <value>hadoop002:8088value> property> <property> <name>yarn.resourcemanager.webapp.address.rm2name> <value>hadoop003:8088value> property> <property> <name>yarn.resourcemanager.zk-addressname> <value>hadoop001:2181,hadoop002:2181,hadoop003:2181value> property> <property> <name>yarn.resourcemanager.recovery.enabledname> <value>truevalue> property> <property> <name>yarn.resourcemanager.store.classname> <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStorevalue> property>configuration>
5. mapred-site.xml
<configuration> <property> <name>mapreduce.framework.namename> <value>yarnvalue> property>configuration>
5. slaves
配置所有从属节点的主机名或 IP 地址,每行一个。所有从属节点上的 DataNode
服务和 NodeManager
服务都会被启动。
hadoop001hadoop002hadoop003
4.4 分发程序
将 Hadoop 安装包分发到其他两台服务器,分发后建议在这两台服务器上也配置一下 Hadoop 的环境变量。
# 将安装包分发到hadoop002scp -r /usr/app/hadoop-2.6.0-cdh5.15.2/ hadoop002:/usr/app/# 将安装包分发到hadoop003scp -r /usr/app/hadoop-2.6.0-cdh5.15.2/ hadoop003:/usr/app/
五、启动集群
5.1 启动ZooKeeper
分别到三台服务器上启动 ZooKeeper 服务:
zkServer.sh start
5.2 启动Journalnode
分别到三台服务器的的 ${HADOOP_HOME}/sbin
目录下,启动 journalnode
进程:
hadoop-daemon.sh start journalnode
5.3 初始化NameNode
在 hadop001
上执行 NameNode
初始化命令:
hdfs namenode -format
执行初始化命令后,需要将 NameNode
元数据目录的内容,复制到其他未格式化的 NameNode
上。元数据存储目录就是我们在 hdfs-site.xml
中使用 dfs.namenode.name.dir
属性指定的目录。这里我们需要将其复制到 hadoop002
上:
scp -r /home/hadoop/namenode/data hadoop002:/home/hadoop/namenode/
5.4 初始化HA状态
在任意一台 NameNode
上使用以下命令来初始化 ZooKeeper 中的 HA 状态:
hdfs zkfc -formatZK
5.5 启动HDFS
进入到 hadoop001
的 ${HADOOP_HOME}/sbin
目录下,启动 HDFS。此时 hadoop001
和 hadoop002
上的 NameNode
服务,和三台服务器上的 DataNode
服务都会被启动:
start-dfs.sh
5.6 启动YARN
进入到 hadoop002
的 ${HADOOP_HOME}/sbin
目录下,启动 YARN。此时 hadoop002
上的 ResourceManager
服务,和三台服务器上的 NodeManager
服务都会被启动:
start-yarn.sh
需要注意的是,这个时候 hadoop003
上的 ResourceManager
服务通常是没有启动的,需要手动启动:
yarn-daemon.sh start resourcemanager
六、查看集群
6.1 查看进程
成功启动后,每台服务器上的进程应该如下:
[root@hadoop001 sbin]# jps4512 DFSZKFailoverController3714 JournalNode4114 NameNode3668 QuorumPeerMain5012 DataNode4639 NodeManager[root@hadoop002 sbin]# jps4499 ResourceManager4595 NodeManager3465 QuorumPeerMain3705 NameNode3915 DFSZKFailoverController5211 DataNode3533 JournalNode[root@hadoop003 sbin]# jps3491 JournalNode3942 NodeManager4102 ResourceManager4201 DataNode3435 QuorumPeerMain
6.2 查看Web UI
HDFS 和 YARN 的端口号分别为 50070
和 8080
,界面应该如下:
此时 hadoop001 上的 NameNode
处于可用状态:
而 hadoop002 上的 NameNode
则处于备用状态:
hadoop002 上的 ResourceManager
处于可用状态:
hadoop003 上的 ResourceManager
则处于备用状态:
同时界面上也有 Journal Manager
的相关信息:
七、集群的二次启动
上面的集群初次启动涉及到一些必要初始化操作,所以过程略显繁琐。但是集群一旦搭建好后,想要再次启用它是比较方便的,步骤如下(首选需要确保 ZooKeeper 集群已经启动):
在 hadoop001
启动 HDFS,此时会启动所有与 HDFS 高可用相关的服务,包括 NameNode,DataNode 和 JournalNode:
start-dfs.sh
在 hadoop002
启动 YARN:
start-yarn.sh
这个时候 hadoop003
上的 ResourceManager
服务通常还是没有启动的,需要手动启动:
yarn-daemon.sh start resourcemanager
参考资料
以上搭建步骤主要参考自官方文档:
HDFS High Availability Using the Quorum Journal Manager
ResourceManager High Availability
关于 Hadoop 高可用原理的详细分析,推荐阅读:
Hadoop NameNode 高可用 (High Availability) 实现解析
hadoop 查看节点主备装填_基于ZooKeeper搭建Hadoop高可用集群相关推荐
- 基于keepalived搭建MySQL高可用集群
MySQL的高可用方案一般有如下几种: keepalived+双主,MHA,MMM,Heartbeat+DRBD,PXC,Galera Cluster 比较常用的是keepalived+双主,MHA和 ...
- 基于Docker-compose搭建Redis高可用集群-哨兵模式(Redis-Sentinel)
我们知道,Redis的集群方案大致有三种:1)redis cluster集群方案:2)master/slave主从方案:3)哨兵模式来进行主从替换以及故障恢复. sentinel系统可以监视一个或者多 ...
- linux集群管理平台,基于Linux平台的高可用集群管理系统的研究与实现
摘要: 集群管理系统的高可用性是指其能够连续地对外提供服务,本文针对集群系统的高可用性,以开源的集群搭建和管理软件KUSU为基础,以集群管理节点的双机热备份技术理论为支撑,以实现集群系统的帮障检测与业 ...
- 搭建Nginx高可用集群(keepalived+双机热备)
一.Nginx高可用 首先了解一下什么是高可用,高可用是分布式系统架构中必须考虑的因素. 我们都知道,使用nginx的反向代理和负载均衡可以解决tomcat等web容器的单点故障以及高并发等问题. 反 ...
- Nginx配置——搭建 Nginx 高可用集群(双机热备)
Nginx配置--搭建 Nginx 高可用集群(双机热备) https://blog.csdn.net/zxd1435513775/article/details/102508573?utm_medi ...
- mycat mysql好可用架构_想要学会MyCat高可用集群搭建,但是这些知识点却还玩不明白?...
一.集群架构 1.MyCat实现读写分离架构 在我前面的文章, 我已经讲解过了通过MyCat来实现MySQL的读写分离, 从而完成MySQL集群的负载均衡 , 如下面的结构图: 但是以上架构存在问题 ...
- nfs mysql_heatbeat-gui实现基于nfs的mysql高可用集群
一.简述HA高可用集群 高可用集群就是当集群中的一个节点发生各种软硬件及人为故障时,集群中的其他节点能够自动接管故障节点的资源并向外提供服务.以实现减少业务中断时间,为用户提供更可靠,更高效的服务. ...
- Mycat高可用架构原理_Mycat集群搭建_HA高可用集群_高可用_单表存储千万级_海量存储_分表扩展---MyCat分布式数据库集群架构工作笔记0027
技术交流QQ群[JAVA,C++,Python,.NET,BigData,AI]:170933152 前面我们已经讲了,对于数据库来说,mycat可以,我们通过搭建一主一从,双主双从,来实现数据库集群 ...
- mysql+mycat搭建稳定高可用集群,负载均衡,主备复制,读写分离
数据库性能优化普遍采用集群方式,oracle集群软硬件投入昂贵,今天花了一天时间搭建基于mysql的集群环境. 主要思路 简单说,实现mysql主备复制-->利用mycat实现负载均衡. 比较了 ...
最新文章
- 《python 与数据挖掘 》一1.3 Python开发环境的搭建
- 如何理解Library List
- TCP/IP协议与UDP协议的区别
- python3.0程序实例_Python3 编程第一步
- 电脑仙人掌机器人作文_满分作文精选细评:致敬奋斗的时光
- [C++] - lambda capture的成员函数 异步调用
- 关于 pip安装的可能错误的排除
- 56. mysqli 扩展库(3)
- 关于boostrap的modal隐藏问题(前端框架)
- 栅栏密码加密/解密【W型】在线工具
- 真-vue使用jsonp跨域
- 互联网黑暗森林法则:想活?别喘气儿!
- Unity3D制作3维立体小游戏
- Node-RED使用指南:5:设置管理员的登录密码
- 大话神仙仙旅奇缘答案大全
- Problem E: 求方程ax^2+bx+c=0的实数根
- windows录屏html文件,windows录屏怎么录?还有其他方法吗?
- win2003下php环境搭建,win2003下搭建PHP环境教程(上) | 网络菜鸟学习园地
- 选下拉框的的值对应上传相应的图片_如何在excel中实现,选择下拉菜单某一项,该表格中就出现选项对应的数据?(excel表格制作选择数据)...
- fcpx如何用光流法_熟悉这些fcpx剪辑技巧 快速提高你的剪辑效率