hadoop集群搭建前的准备(一定要读):https://blog.51cto.com/14048416/2341450

hadoop分布式集群搭建:

1. 集群规划:

2.具体步骤:

(1)上传安装包,并解压到相关目录:

[hadoop@hadoop01 home]$ put c:/hadoop-2.6.5-centos-6.7.tar.gz
[hadoop@hadoop01 home]$tar -zxvf hadoop-2.6.5-centos-6.7.tar.gz -C /home/hadoop/apps

(2)修改配置文件:

[hadoop@hadoop01 home]$ cd /home/hadoop/apps/hadoop-2.6.5/hadoop/etc
这里需要修改6个配置文件:
hadoop-env.sh
加入:export JAVA_HOME=/usr/java/jdk1.8.0_73


core-site.xml

<property><name>fs.defaultFS</name><value>hdfs://hadoop01:9000</value>
</property>
<property><name>hadoop.tmp.dir</name><value>/home/hadoop/hadoopdata</value>
</property>

hdfs-site.xml

<property><name>dfs.namenode.name.dir</name><value>/home/hadoop/hadoopdata/name</value>
<description>为了保证元数据的安全一般配置多个不同目录</description>
</property>
<property><name>dfs.datanode.data.dir</name><value>/home/hadoop/hadoopdata/data</value>
<description>datanode 的数据存储目录</description>
</property>
<property>
<name>dfs.replication</name><value>2</value>
<description>HDFS 的数据块的副本存储个数</description>
</property>
<property><name>dfs.secondary.http.address</name><value>hadoop02:50090</value>
<description>secondarynamenode 运行节点的信息,和 namenode 不同节点</description>
</property>

mapred-site.xml

<property><name>mapreduce.framework.name</name><value>yarn</value>
</property>

yarn-site.xml

<property><name>yarn.resourcemanager.hostname</name><value>hadoop03</value>
</property>
<property><name>yarn.nodemanager.aux-services</name><value>mapreduce_shuffle</value>
<description>YARN 集群为 MapReduce 程序提供的 shuffle 服务</description>
</property>

slaves

 hadoop01hadoop02hadoop03

(3)分发安装包到各个节点,Hadoop 集群的每个节点都需要安装 Hadoop 安装包:

[hadoop@hadoop01 etc]$scp -r hadoop-2.6.5 hadoop02:$PWD
[hadoop@hadoop01 etc]$scp -r hadoop-2.6.5 hadoop03:$PWD

(4)配置hadoop的环境变量

[hadoop@hadoop01 etc]$sudo vim /etc/profile:
加入:
export HADOOP_HOME=/home/hadoop/apps/hadoop-2.6.5/
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
[hadoop@hadoop01 etc]$source /etc/profile

(5)在 HDFS 主节点上执行命令进行初始化 namenode

[hadoop@hadoop01 etc]$hadoop namenode -format

(6)在 HDFS 上的主节点启动 HDFS

[hadoop@hadoop01 etc]$start-dfs.sh

(7)在 HDFS 上的主节点启动 YARN

[hadoop@hadoop01 etc]$sbin/start-yarn.sh

补充
hdfs的web界面是: http://hadoop01:50070
yarn的web界面是: http://hadoop03:8088
查看集群的状态:hdfs dfsadmin -report
1、启动 namenode 或者 datenode
sbin/hadoop-daemon.sh start datanode
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start secondarynamenode
2、启动 yarn nodemanager
sbin/yarn-daemon.sh start nodemanager
sbin/yarn-daemon.sh start resourcemanager

转载于:https://blog.51cto.com/14048416/2341491

hadoop分布式集群搭建相关推荐

  1. Hadoop分布式集群搭建以及案例运行-fs操作

    Hadoop分布式集群搭建案例步骤(也可以叫分布式文件系统) 一:创建分布式集群环境 二:设置静态ip以及主机名与映射关系 三:创建用户.配置SSH无密登录 四:子机dn操作 五:配置主机jdk.ha ...

  2. 【转】Hadoop分布式集群搭建hadoop2.6+Ubuntu16.04

    https://www.cnblogs.com/caiyisen/p/7373512.html 前段时间搭建Hadoop分布式集群,踩了不少坑,网上很多资料都写得不够详细,对于新手来说搭建起来会遇到很 ...

  3. Hadoop分布式集群搭建hadoop2.6+Ubuntu16.04

    前段时间搭建Hadoop分布式集群,踩了不少坑,网上很多资料都写得不够详细,对于新手来说搭建起来会遇到很多问题.以下是自己根据搭建Hadoop分布式集群的经验希望给新手一些帮助.当然,建议先把HDFS ...

  4. Hadoop分布式集群搭建完全详细教程

    Hadoop分布式集群环境搭建步骤如下 实验环境: 系统:win7 内存:8G(因要开虚拟机,内存建议不低于8G) 硬盘:建议固态 虚拟机:VMware 12 Linux:Centos 7 jdk1. ...

  5. Hadoop分布式集群搭建完全教程

    Hadoop分布式集群环境搭建步骤如下 实验环境: 系统:win7 内存:8G(因要开虚拟机,内存建议不低于8G) 硬盘:建议固态 虚拟机:VMware 12 Linux:Centos 7 jdk1. ...

  6. Hadoop分布式集群搭建详细过程

    1. 首先用五台机器搭建分布式,一个为master,剩下四个分别为slave01.slave02.slave03, slave04. 2. 修改机器名 五台机器分别都执行sudo vim /etc/h ...

  7. hadoop分布式集群搭建,包含网络配置-hadoop3环境

    先准备三台或者五台虚拟机(我这里写三台,实际我用的五台) 在安装centos时可以在选择(最小安装还是图形化界面处)有配置网络的,把网络先配置好,这样就不需要在重新配置了 先配置一台主机,后两台克隆即 ...

  8. Hadoop分布式集群搭建(完整版)

    一.前期准备工作 VMware和Centos7下载安装教程: https://blog.csdn.net/m0_59209350/article/details/117793482 XShell和Xf ...

  9. Hadoop 分布式集群搭建步骤

    实现各个节点间的免密登录 将hadoop安装包拷贝到其他节点 删除00节点hadoop的运行数据(若有运行) 在00节点的slaves文件中配置其他节点信息 此时在00节点启动hdfs 会在各个节点中 ...

最新文章

  1. wxWidgets:wxColour类用法
  2. php网站调试出现的简单问题,调试php时网站出现502的解决方法
  3. minecraft1.16java_MINECRAFT JAVA 1.16.1发布
  4. 二,表格table的使用细节
  5. Windows系统克隆***与防范
  6. 无罪的罪人_探索敏捷和无罪的文化
  7. 云小课 | 华为云KYON:网段零修改上云,简单又好用
  8. 【MySQL】MySQL Shell 简介与使用
  9. Egret入门学习日记 --- 第十八篇(书中 8.5~8.7 节 内容)
  10. 我对javascript面向对象编程的理解---------继承
  11. Jenkins 页面不刷新最新修改配置,需要强制刷新才可以,Request Status Code:200 OK (from disk cache)
  12. session fixation漏洞简述
  13. python中rect用法_【opencv基础】Rect类的神奇用法
  14. 笔记本电脑更换固态硬盘
  15. A1333:具有安全关键应用集成诊断功能的精密、高速、霍尔效应角度传感器 IC
  16. 外国男子在北京抢车后连撞4车和1名行人-砍伤-外国男子-菜刀
  17. 2w多字总结的VUE学习文档
  18. kebernetes dashboard使用config和Token
  19. 【转载】显卡PM手记-----4850显卡的诞生
  20. Z-Libary最新地址.Z-Libary无法登录解决方案

热门文章

  1. pytorch中的torch.tensor.repeat以及torch.tensor.expand用法
  2. 机器视觉中彩色成像必须考虑的十个问题
  3. 读书人:人机融合中的深度态势感知
  4. 中国芯片将靠此超车!RISC-V架构神在哪全解构
  5. 影响国家安全的四项新兴技术
  6. 50 年人类登月史:那些不为人知的故事
  7. 一文看懂人脸识别技术发展脉络
  8. IDC预测2022年全球智能家居连接设备市场规模将达10亿台!
  9. 人造神经元计算速度超过人脑
  10. 你所未知的人工智能应用领域