Hadoop集群搭建安装教程（续集）高可用（HA）
针对Hadoop集群的高可用环境，研究搭建方式，根据相关资料和教程以及自己实际操作，整理步骤如下。
集群规划
| 节点 | 运行角色 |
| node1 | namenode、zkfc、zookeeper、journal node |
| node2 | namenode、zkfc、zookeeper、journal node |
| node3 | zookeeper、journal node |
1 zookeeper集群搭建
下载：地址Apache ZooKeeper
解压
tar -zxvf apache-zookeeper-3.7.1-bin.tar.gz 修改配置
# 配置文件目录
cd apache-zookeeper-3.7.1-bin/conf/
# 拷贝模板
cp zoo_sample.cfg zoo.cfg
#打开文件
vim zoo.cfg修改内容
# 修改
dataDir=/export/data/zkdata
#添加server.1=node1:2888:3888
server.2=node2:2888:3888
server.3=node3:2888:3888
创建配置文件中的文件夹
mkdir /export/data/zkdata
#写入id
echo 1 > /export/data/zkdata/myid将配置好的zookeeper拷贝到其他节点
重命名
mv apache-zookeeper-3.7.1-bin zookeeper-3.7.1拷贝
scp -r zookeeper-3.7.1 root@node2:$PWDscp -r zookeeper-3.7.1 root@node3:$PWD编辑node2、node3
创建对应的文件夹和myid
对应/export/data/zkdata/myid内容
node2：
mkdir /export/data/zkdata
echo 2 > /export/data/zkdata/myidnode3：
mkdir /export/data/zkdata
echo 3 > /export/data/zkdata/myid2 Hadoop集群配置
第一步：原有Hadoop保存
移动之前需要停止集群服务
# 查看当前是否启动了hadoop集群服务
jps# 如果已经启动 停止
# 停止hdfs
stop-dfs.sh
# 停止yarn
stop-yarn.sh保存原Hadoop环境
mv /export/servers/hadoop-3.1.4 /export/servers/hadoop-3.1.4-bak第二步：全新Hadoop包上传，解压
tar -zxvf hadoop-3.1.4.tar.gz -C /export/servers/前面环境变量已经配置，在此可以查看一下
vim /etc/profile
第三步：配置文件
配置hadoop-env.sh
vim hadoop-env.sh
添加java配置
export JAVA_HOME=/export/servers/jdk1.8.0_65
添加各个角色运行的用户
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_JOURNALNODE_USER=root
export HDFS_ZKFC_USER=root
修改core-site.xml
vim core-site.xml配置内容
<!-- HA集群名称，该值要和hdfs-site.xml中的配置保持一致 --><property><name>fs.defaultFS</name><value>hdfs://mycluster</value></property><!-- hadoop本地磁盘存放数据的公共目录 --><property><name>hadoop.tmp.dir</name><value>/export/data/ha-hadoop</value></property><!-- ZooKeeper集群的地址和端口--><property><name>ha.zookeeper.quorum</name><value>node1.itcast.cn:2181,node2.itcast.cn:2181,node3.itcast.cn:2181</value></property>
修改hdfs-site.xml
进入hdfs-site.xml文件
vim hdfs-site.xml配置内容
<!--指定hdfs的nameservice为mycluster，需要和core-site.xml中的保持一致 --><property><name>dfs.nameservices</name><value>mycluster</value></property><!-- mycluster下面有两个NameNode，分别是nn1，nn2 --><property><name>dfs.ha.namenodes.mycluster</name><value>nn1,nn2</value></property><!-- nn1的RPC通信地址 --><property><name>dfs.namenode.rpc-address.mycluster.nn1</name><value>node1.btks.cn:8020</value></property><!-- nn1的http通信地址 --><property><name>dfs.namenode.http-address.mycluster.nn1</name><value>node1.btks.cn:9870</value></property><!-- nn2的RPC通信地址 --><property><name>dfs.namenode.rpc-address.mycluster.nn2</name><value>node2.btks.cn:8020</value></property><!-- nn2的http通信地址 --><property><name>dfs.namenode.http-address.mycluster.nn2</name><value>node2.btks.cn:9870</value></property><!-- 指定NameNode的edits元数据在JournalNode上的存放位置 --><property><name>dfs.namenode.shared.edits.dir</name><value>qjournal://node1.btks.cn:8485;node2.btks.cn:8485;node3.btks.cn:8485/mycluster</value></property><!-- 指定JournalNode在本地磁盘存放数据的位置 --><property><name>dfs.journalnode.edits.dir</name><value>/export/data/journaldata</value></property><!-- 开启NameNode失败自动切换 --><property><name>dfs.ha.automatic-failover.enabled</name><value>true</value></property><!-- 指定该集群出故障时，哪个实现类负责执行故障切换 --><property><name>dfs.client.failover.proxy.provider.mycluster</name><value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value></property><!-- 配置隔离机制方法 ，shell(/bin/true)是后加的--><property><name>dfs.ha.fencing.methods</name><value>sshfenceshell(/bin/true)</value></property><!-- 使用sshfence隔离机制时需要ssh免登陆 --><property><name>dfs.ha.fencing.ssh.private-key-files</name><value>/root/.ssh/id_rsa</value></property><!-- 配置sshfence隔离机制超时时间 --><property><name>dfs.ha.fencing.ssh.connect-timeout</name><value>30000</value></property>填坑： 关于dfs.ha.fencing.methods属性值的配置，原来配置的是sshfence，后来在实验中，kill -9 namenode进程号，之后standby并不自动切换，而是一直尝试重连，参考以下连接之后做的修改。下面是一个解决方式。解决启动HA后kill掉Namenode进程但另一节点仍然是Standby状态_ZhouQiYoung的博客-CSDN博客继续踩坑先说一段题外话：配置高可用HDFS的时候 针对zookeeper配置hadoop的core-site文件的时候，一些资料是使用的是<property><name>ha.ZooKeeper.quorum</name><value>master:2181,slave:2181,slave2:2181</value></property>配置完成之后死活zookeeper启动不了，查看日志说找不到“ha.zook
另一种方案：
使用 kill -9 模拟 JVM 崩溃。或者重新启动计算机电源或拔出其网络接口以模拟另一种故障。另一个 NameNode 应在几秒钟内自动变为活动状态。检测故障并触发故障转移所需的时间取决于 ha.zookeeper.session-timeout.ms 的配置，但默认值为 5 秒。如果测试不成功，检查 zkfc 守护程序以及 NameNode 守护程序的日志 ，以便进一步诊断问题。如果错误信息如下 ：提示未找到 fuser 程序，导致无法 进行 隔离 ， 所以可以通过如下命令来安装， Psmisc 软件包中包含了 fuser 程序（两个 NN 机器上都需要进行安装）yum install psmisc -y
修改mapred-site.xml
vim mapred-site.xml<!-- 指定mr框架为yarn方式 -->
<property><name>mapreduce.framework.name</name><value>yarn</value>
</property>修改yarn-site.xml
vim yarn-site.xml<!-- 开启RM高可用 -->
<property><name>yarn.resourcemanager.ha.enabled</name><value>true</value>
</property>
<!-- 指定RM的cluster id -->
<property><name>yarn.resourcemanager.cluster-id</name><value>yrc</value>
</property>
<!-- 指定RM的名字 -->
<property><name>yarn.resourcemanager.ha.rm-ids</name><value>rm1,rm2</value>
</property>
<!-- 分别指定RM的地址 -->
<property><name>yarn.resourcemanager.hostname.rm1</name><value>node1</value>
</property>
<property><name>yarn.resourcemanager.hostname.rm2</name><value>node2</value>
</property>
<!-- 指定zk集群地址 -->
<property><name>yarn.resourcemanager.zk-address</name><value>node1:2181,node2:2181,node3:2181</value>
</property>
<property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value>
</property>修改workers
vim workersnode1.btks.cn
node2.btks.cn
node3.btks.cn
安装包拷贝
scp -r hadoop-3.1.4 root@node2:$PWD
scp -r hadoop-3.1.4 root@node3:$PWD3 HA集群启动
启动zookeeper集群（分别在node1、node2、node3上启动zk）
# zookeeper集群启动
bin/zkServer.sh start
# 查看状态
bin/zkServer.sh status
手动启动journalnode（分别在在node1、node2、node3上执行）
hdfs --daemon start journalnode
namenode初始化
hdfs namenode -format
启动namenode进程
hdfs --daemon start namenode
第二台机子上元数据同步
hdfs namenode -bootstrapStandby
hdfs zkfc -formatZK
启动hdfs集群
start-dfs.sh查看启动结果
4、高可用集群查看
Hadoop集群搭建安装教程（续集）高可用（HA）相关推荐
- Spark集群搭建+基于zookeeper实现高可用HA
vi spark-env.sh(三台都要) export JAVA_HOME=/usr/java/jdk1.8.0_20/export SCALA_HOME=/home/iespark/hadoop_ ...
- Hadoop集群搭建配置教程
Hadoop3.1.3集群搭建 前言 集群规划 集群搭建具体步骤 1.下载`hadoop-3.1.3.tar.gz` 2.上传并解压 3.配置`path`变量 4.修改配置文件 4.1 修改文件`ha ...
- Linux centos 6配置hadoop 集群搭建笔记教程
一.安装JDK 1.上传jdk-8u121-linux-x64.tar.gz文件到/opt目录 2.解压jdk文件 tar -zxvf jdk-8u121-linux-x64.tar.gz -C /u ...
- hadoop集群搭建完整教程，java电商项目面试技巧
前言 本系列的目的是明明白白.彻彻底底的搞定日期/时间处理的几乎所有case.上篇文章铺设所有涉及到的概念解释,例如GMT.UTC.夏令时.时间戳等等,若你还没看过,不仅强烈建议而是强制建议你前往用花 ...
- 不看就亏系列！这里有完整的 Hadoop 集群搭建教程，和最易懂的 Hadoop 概念！| 附代码...
作者 | chen_01_c 责编 | Carol 来源 | CSDN 博客 封图 | CSDN付费下载于视觉中国 hadoop介绍 Hadoop 是 Lucene 创始人 Doug Cutting, ...
- Hadoop集群搭建（六：HBase的安装配置）
实验 目的 要求 目的: 1.HBase的高可用完全分布模式的安装和验证 要求: 完成HBase的高可用完全分布模式的安装: HBase的相关服务进程能够正常的启动: HBase控制台能够正常使用: ...
- Hadoop-2.8.0集群搭建、hadoop源码编译和安装、host配置、ssh免密登录、hadoop配置文件中的参数配置参数总结、hadoop集群测试,安装过程中的常见错误
25. 集群搭建 25.1 HADOOP集群搭建 25.1.1集群简介 HADOOP集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起 HDFS集群: 负责海量数据 ...
- 教程 | Hadoop集群搭建和简单应用
这是小小本周的第一篇,我是小小,开更本周的第一篇,本篇将会介绍Hadoop集群的简单搭建和简单应用. 概念了解 主从结构:在一个集群众,会有部分节点充当主节点的角色,其他服务器都是从节点的角色,当前这 ...
- Hadoop集群搭建教程（详细）
需要的安装包: 1.jdk压缩包 2.hadoop压缩包 请前往百度云上上下载相关安装包(密码:8op1) 开始搭建hadoop集群 一.使用VMvare创建两个虚拟机,我使用的是ubuntu16.0 ...
最新文章
- 从svn下载项目后build path为灰色
- linux shell 中 printf 与 echo的区别
- Boost:宏BOOST_TEST_EQ的测试
- 享元模式 Composite
- 2013江苏计算机二级vfp试题,2013年计算机二级VFP上机试题及答案解析51
- 读取sd卡下图片，由图片路径转换为bitmap
- 学习python-day1
- delphi xe 服务器发消息,Delphi XE IdTCPClient和IdTCPServer 发送和接收文件
- 利用ACIS、HOOPS开发三维软件
- 计算机的照相机功能,让我来告诉你单反相机那10项不可思议的功能！
- 广域网宽带接入技术一
- mis服务器系统,MIS系统中服务器推技术的实现
- python推箱子小游戏_python实现推箱子游戏
- 动力总成悬置系统刚度及模态有效质量计算公式推导
- C# 插入或删除word分页符
- 不断尝试，做更好的自己｜Fabia，很高兴再认识你
- 武职计算机网络技术专业,武汉职业技术学院计算机系
- [BUGKU] [PWN] PWN5
- 浅谈getch(),getche(),getchar(),gets(),scanf()的区别
- Java中判断两个日期是否在同一个月