01 ssh免密安装

02 jdk安装

03 hadoop伪分布式安装

前面把伪分布式安装已经做了,今天来讲全分布式的安装。之前是把所有的namenode节点和datanode节点都放到了一台服务器上。今天我们需要把每个节点分开放置。

准备

node01(192.168.146.101):主namenode节点

node02(192.168.146.102):从namenode节点,数据节点

node03(192.168.146.103):数据节点

node04(192.168.146.104):数据节点

hadoop配置文件

指定进程对应的角色,这个和伪分布式安装一致。

cd /usr/hadoop-3.1.2/etc/hadoop

vi hadoop-env.sh

export JAVA_HOME=/usr/java/jdk-12.0.1

export HDFS_NAMENODE_USER=root

export HDFS_DATANODE_USER=root

export HDFS_SECONDARYNAMENODE_USER=root

core-site.xml 文件修改,这个是主节点的配置,需要指定主namenode节点的访问端口和临时文件的位置。在做hdfs初始化的时候会格式化这个文件。

vi core-site.xml

fs.defaultFS

hdfs://node01:9820

hadoop.tmp.dir

/var/hadoop/full

hdfs-site.xml文件修改,把数据节点的个数定义为2.把secondarynamenode节点定义到node02上面。

vi hdfs-site.xml

dfs.replication

2

dfs.namenode.secondary.http-address

node02:9868

copy hadoop文件到每个服务器上面,我安装的hadoop文件放在 /usr/hadoop-3.1.2 下面。各位根据自己的目录调整。

cd /usr/hadoop-3.1.2

scp -r hadoop-3.1.2/ node01:/usr/hadoop-3.1.2/

scp -r hadoop-3.1.2/ node02:/usr/hadoop-3.1.2/

scp -r hadoop-3.1.2/ node03:/usr/hadoop-3.1.2/

scp -r hadoop-3.1.2/ node04:/usr/hadoop-3.1.2/

启动hadoop

由于启动命令需要到hadoop目录下的bin和sbin目录中执行。为了方便我们在环境变量中添加这两个目录。

vi /etc/profile

export JAVA_HOME=/usr/java/jdk-12.0.1

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/jre/lib/ext:/$JAVA_HOME/lib/tools.jar

export HADOOP_HOME=/usr/hadoop-3.1.2

PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

分发到其他三台服务器上

scp /etc/profile node02:/etc/

scp /etc/profile node03:/etc/

scp /etc/profile node04:/etc/

在每个服务器重读一下这些文件

source /etc/profile

在四个服务器上进行格式化namenode,并且启动hadoop服务。

hdfs namenode -format

start-dfs.sh

输入http://192.168.146.101:9870,进入控制台

可以看到有三个数据节点

具体看看是哪三个节点?

分别是我们定义的node02,node03,node04

再来看看每个服务器上面运行的情况

jps

到此全分布式就配置完成了。

hadoop namenode启动不了_hadoop全分布式是个什么鬼?!动手搭建Hadoop(4)相关推荐

  1. hadoop namenode启动不了_Hadoop框架:HDFS高可用环境配置

    一.HDFS高可用 1.基础描述 在单点或者少数节点故障的情况下,集群还可以正常的提供服务,HDFS高可用机制可以通过配置Active/Standby两个NameNodes节点实现在集群中对NameN ...

  2. Hadoop namenode启动瓶颈分析

    转载:http://blog.csdn.net/AE86_FC/archive/2010/08/26/5842020.aspx NameNode启动过程详细剖析 NameNode中几个关键的数据结构 ...

  3. hadoop namenode启动不了_集群版hadoop安装,写给大忙人看的

    导语 如果之前的单机版hadoop环境安装满足不了你,集群版hadoop一定合你胃口,轻松入手. 目录 集群规划 前置条件 配置免密登录 3.1 生成密匙 3.2 免密登录 3.3 验证免密登录 集群 ...

  4. 记一次hadoop namenode 启动失败问题及解决过程(启动几秒钟后又挂了)

    这是个小问题,但如果新手接触的话可能会花费一番时间才能解决,甚至会不知所措.在此重点记录的还是解决问题的方式. 问题描述 在自己虚拟机上新安装了hadoop.在做单节点启动测试时发现namenode启 ...

  5. greenplum配置高可用_高可用hadoop集群配置就收藏这一篇,动手搭建Hadoop(5)

    01 ssh免密安装 02 jdk安装 03 hadoop伪分布式安装 04 hadoop全分布式 完成了前面四步,现在做hadoop的高可用.其实和之前的lvs的高可用差不多的.如果我们有两个nam ...

  6. eclipse远程连接hadoop_1个文件,3个类,mapreduce就是这么简单,动手搭建Hadoop(8)...

    01 ssh免密安装 02 jdk安装 03 hadoop伪分布式安装 04 hadoop全分布式 05 hadoop高可用 06 用hadoop的sdk进行开发 07 搭建yarn 上次在hdfs上 ...

  7. Hadoop DataNode启动之heartbeat

    heartbeat是DN与NN之间的一种通信机制,DN会通过它向NN汇报自身是否存活,当然还有其他信息,当一个DN超过一段时间没发送心跳信号,则NN认为该节点已失效,会对该节点上的数据进行修复,节点退 ...

  8. 云服务器大数据高可用集群搭建-----hadoop篇

    目录 一.集群配置 二.集群规划 三.Hadoop.Zookeeper.Java.Centos版本 四.Linux配置 4.1 主机名配置 4.1.1 修改Linux主机名 4.1.2 修改linux ...

  9. 第六天 - 安装第二、三台CentOS - SSH免密登陆 - hadoop全分布式安装、配置、集群启动

    第六天 - 安装第二.三台CentOS - SSH免密登陆 - hadoop全分布式安装.配置.集群启动 第六天 - 安装第二.三台CentOS - SSH免密登陆 - hadoop全分布式安装.配置 ...

  10. Linux下配置Hadoop全分布式环境

    1. 前提 部署全分布式环境,我们肯定不能在一台服务器上了,这里我用了7台服务器,在VMware上开了7个虚拟机,如下图所示: 我基本配置了一晚上才搞定,第一次配置一般都有错,这时候不妨去到hadoo ...

最新文章

  1. 正确理解ThreadLocal
  2. 也许你所知道的学习方法都是错的
  3. opengl开启垂直同步_东风悦达起亚ALL NEW K5正式定名凯酷,预售同步开启
  4. ELF Format 笔记(十三)—— 段权限
  5. Android键盘面板冲突 布局闪动处理方案
  6. 在开发游戏过程中遇到的一些错误(很基础的错误)
  7. SLG手游Java服务器数据管理方案
  8. 【Linux就该这么学 20期培训笔记 01】部署虚拟环境安装linux系统
  9. php 有子目录,php列出目录中所有子目录的实现代码
  10. Hive的hiveserver2后台开启和关闭
  11. NoiseAsh Rule Tec All Collection for Mac - 无源均衡器
  12. 华为手机投屏电脑_手机投屏干货分享:华为如何投屏到电视机?
  13. SoapUI使用教程
  14. 【Matlab】在Simulink中仿真Park变换
  15. 使用google doc制作在线问卷调查表
  16. 2016年终总结与来年计划
  17. SEO的道与术,因果关系的选择
  18. javax.net.ssl.SSLHandshakeException: No appropriate protocol (protocol is disabled or cipher su 解决办法
  19. git 版本回退 git reset --hard HEAD
  20. 初中数学与计算机论文,初中数学论文范文

热门文章

  1. 浅析StackTrace
  2. protocol buffer安装及使用(非常详细)
  3. oracle 获取当前用户下的所有表名与字段信息
  4. HUT-XXXX The window of the dazzling 模拟
  5. .NET: 如何在宿主中动态加载所有的服务
  6. 三-(七) 视图(2020-4-3 )
  7. testufo测试刷新率测试_【中立观点】黑鲨3测试体验报告
  8. python中换行的转义字符_Python语言中表示换行的转义字符是____________。(2.5分)_学小易找答案...
  9. arcgis中editor在哪_leetcode 刷题工具 leetcode-editor 本地调试篇
  10. python word转pdf图片格式_Python将word转换为PDF格式文件(包括批处理转换),Word,Pdf,包含,批量...