hadoop namenode启动不了_hadoop全分布式是个什么鬼?!动手搭建Hadoop(4)
01 ssh免密安装
02 jdk安装
03 hadoop伪分布式安装
前面把伪分布式安装已经做了,今天来讲全分布式的安装。之前是把所有的namenode节点和datanode节点都放到了一台服务器上。今天我们需要把每个节点分开放置。
准备
node01(192.168.146.101):主namenode节点
node02(192.168.146.102):从namenode节点,数据节点
node03(192.168.146.103):数据节点
node04(192.168.146.104):数据节点
hadoop配置文件
指定进程对应的角色,这个和伪分布式安装一致。
cd /usr/hadoop-3.1.2/etc/hadoop
vi hadoop-env.sh
export JAVA_HOME=/usr/java/jdk-12.0.1
export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
core-site.xml 文件修改,这个是主节点的配置,需要指定主namenode节点的访问端口和临时文件的位置。在做hdfs初始化的时候会格式化这个文件。
vi core-site.xml
fs.defaultFS
hdfs://node01:9820
hadoop.tmp.dir
/var/hadoop/full
hdfs-site.xml文件修改,把数据节点的个数定义为2.把secondarynamenode节点定义到node02上面。
vi hdfs-site.xml
dfs.replication
2
dfs.namenode.secondary.http-address
node02:9868
copy hadoop文件到每个服务器上面,我安装的hadoop文件放在 /usr/hadoop-3.1.2 下面。各位根据自己的目录调整。
cd /usr/hadoop-3.1.2
scp -r hadoop-3.1.2/ node01:/usr/hadoop-3.1.2/
scp -r hadoop-3.1.2/ node02:/usr/hadoop-3.1.2/
scp -r hadoop-3.1.2/ node03:/usr/hadoop-3.1.2/
scp -r hadoop-3.1.2/ node04:/usr/hadoop-3.1.2/
启动hadoop
由于启动命令需要到hadoop目录下的bin和sbin目录中执行。为了方便我们在环境变量中添加这两个目录。
vi /etc/profile
export JAVA_HOME=/usr/java/jdk-12.0.1
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/jre/lib/ext:/$JAVA_HOME/lib/tools.jar
export HADOOP_HOME=/usr/hadoop-3.1.2
PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
分发到其他三台服务器上
scp /etc/profile node02:/etc/
scp /etc/profile node03:/etc/
scp /etc/profile node04:/etc/
在每个服务器重读一下这些文件
source /etc/profile
在四个服务器上进行格式化namenode,并且启动hadoop服务。
hdfs namenode -format
start-dfs.sh
输入http://192.168.146.101:9870,进入控制台
可以看到有三个数据节点
具体看看是哪三个节点?
分别是我们定义的node02,node03,node04
再来看看每个服务器上面运行的情况
jps
到此全分布式就配置完成了。
hadoop namenode启动不了_hadoop全分布式是个什么鬼?!动手搭建Hadoop(4)相关推荐
- hadoop namenode启动不了_Hadoop框架:HDFS高可用环境配置
一.HDFS高可用 1.基础描述 在单点或者少数节点故障的情况下,集群还可以正常的提供服务,HDFS高可用机制可以通过配置Active/Standby两个NameNodes节点实现在集群中对NameN ...
- Hadoop namenode启动瓶颈分析
转载:http://blog.csdn.net/AE86_FC/archive/2010/08/26/5842020.aspx NameNode启动过程详细剖析 NameNode中几个关键的数据结构 ...
- hadoop namenode启动不了_集群版hadoop安装,写给大忙人看的
导语 如果之前的单机版hadoop环境安装满足不了你,集群版hadoop一定合你胃口,轻松入手. 目录 集群规划 前置条件 配置免密登录 3.1 生成密匙 3.2 免密登录 3.3 验证免密登录 集群 ...
- 记一次hadoop namenode 启动失败问题及解决过程(启动几秒钟后又挂了)
这是个小问题,但如果新手接触的话可能会花费一番时间才能解决,甚至会不知所措.在此重点记录的还是解决问题的方式. 问题描述 在自己虚拟机上新安装了hadoop.在做单节点启动测试时发现namenode启 ...
- greenplum配置高可用_高可用hadoop集群配置就收藏这一篇,动手搭建Hadoop(5)
01 ssh免密安装 02 jdk安装 03 hadoop伪分布式安装 04 hadoop全分布式 完成了前面四步,现在做hadoop的高可用.其实和之前的lvs的高可用差不多的.如果我们有两个nam ...
- eclipse远程连接hadoop_1个文件,3个类,mapreduce就是这么简单,动手搭建Hadoop(8)...
01 ssh免密安装 02 jdk安装 03 hadoop伪分布式安装 04 hadoop全分布式 05 hadoop高可用 06 用hadoop的sdk进行开发 07 搭建yarn 上次在hdfs上 ...
- Hadoop DataNode启动之heartbeat
heartbeat是DN与NN之间的一种通信机制,DN会通过它向NN汇报自身是否存活,当然还有其他信息,当一个DN超过一段时间没发送心跳信号,则NN认为该节点已失效,会对该节点上的数据进行修复,节点退 ...
- 云服务器大数据高可用集群搭建-----hadoop篇
目录 一.集群配置 二.集群规划 三.Hadoop.Zookeeper.Java.Centos版本 四.Linux配置 4.1 主机名配置 4.1.1 修改Linux主机名 4.1.2 修改linux ...
- 第六天 - 安装第二、三台CentOS - SSH免密登陆 - hadoop全分布式安装、配置、集群启动
第六天 - 安装第二.三台CentOS - SSH免密登陆 - hadoop全分布式安装.配置.集群启动 第六天 - 安装第二.三台CentOS - SSH免密登陆 - hadoop全分布式安装.配置 ...
- Linux下配置Hadoop全分布式环境
1. 前提 部署全分布式环境,我们肯定不能在一台服务器上了,这里我用了7台服务器,在VMware上开了7个虚拟机,如下图所示: 我基本配置了一晚上才搞定,第一次配置一般都有错,这时候不妨去到hadoo ...
最新文章
- 正确理解ThreadLocal
- 也许你所知道的学习方法都是错的
- opengl开启垂直同步_东风悦达起亚ALL NEW K5正式定名凯酷,预售同步开启
- ELF Format 笔记(十三)—— 段权限
- Android键盘面板冲突 布局闪动处理方案
- 在开发游戏过程中遇到的一些错误(很基础的错误)
- SLG手游Java服务器数据管理方案
- 【Linux就该这么学 20期培训笔记 01】部署虚拟环境安装linux系统
- php 有子目录,php列出目录中所有子目录的实现代码
- Hive的hiveserver2后台开启和关闭
- NoiseAsh Rule Tec All Collection for Mac - 无源均衡器
- 华为手机投屏电脑_手机投屏干货分享:华为如何投屏到电视机?
- SoapUI使用教程
- 【Matlab】在Simulink中仿真Park变换
- 使用google doc制作在线问卷调查表
- 2016年终总结与来年计划
- SEO的道与术,因果关系的选择
- javax.net.ssl.SSLHandshakeException: No appropriate protocol (protocol is disabled or cipher su 解决办法
- git 版本回退 git reset --hard HEAD
- 初中数学与计算机论文,初中数学论文范文
热门文章
- 浅析StackTrace
- protocol buffer安装及使用(非常详细)
- oracle 获取当前用户下的所有表名与字段信息
- HUT-XXXX The window of the dazzling 模拟
- .NET: 如何在宿主中动态加载所有的服务
- 三-(七) 视图(2020-4-3 )
- testufo测试刷新率测试_【中立观点】黑鲨3测试体验报告
- python中换行的转义字符_Python语言中表示换行的转义字符是____________。(2.5分)_学小易找答案...
- arcgis中editor在哪_leetcode 刷题工具 leetcode-editor 本地调试篇
- python word转pdf图片格式_Python将word转换为PDF格式文件(包括批处理转换),Word,Pdf,包含,批量...