Linux搭建hadoop环境

1.查看Linux系统上是否装有Java环境

java -version 查看版本信息以及 echo $JAVA_HOME 命令查看Java的路径

2.下载hadoop安装包

http://hadoop.apache.org/

1)图一:点击download

2)图二:选择对应版本点击source

3)图三:点击链接进行下载

3.将下载的包上传到Linux系统,解压到指定的目录

 tar -zxvf aaa.tar.gz -C /tmp/

4.修改配置文件

注意
配置文件所在位置:/root/hadoop-2.10.1/etc/hadoop(具体位置根据你解压的位置去找,我的是在根目录下直接解压的)

1)hadoop-env.sh配置

找到export JAVA_HOME,将自己的jdk路径粘贴进去

2)core-site.xml配置

<configuration><property><name>hadoop.tmp.dir</name><value>file:/root/hadoop-2.10.1/tmp</value><description>路径根据自己的实际位置去修改</description></property><property><name>fs.defaultFS</name><value>hdfs://0.0.0.0:9000</value></property><property><name>hadoop.logfile.size</name><value>10000000</value><description>每个日志文件的最大值,单位:bytes </description></property><property><name>hadoop.logfile.count</name><value>10</value><description>日志文件的最大数量</description></property>
</configuration>

3)hdfs-site.xml配置

<configuration><property><name>dfs.replication</name><value>1</value></property><property><name>dfs.namenode.name.dir</name><value>file:/root/hadoop-2.10.1/tmp/dfs/name</value></property><property><name>dfs.datanode.data.dir</name><value>file:/root/hadoop-2.10.1/tmp/dfs/data</value></property>
</configuration>

4)profile配置(路径:/etc)

HADOOP_HOME=/root/hadoop-2.10.1
PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

修改完profile文件后,使用hadoop version命令出现该截图,则配置成功

4.格式化HDFS以及启动HADOOP

格式化hdfs:

hdfs namenode -format

启动HADOOP:// 这里可能需要输入三次linux系统密码

./sbin/start.all.sh

5.查看

jps命令查看是否启动成功,成功截图如下,这三个缺一不可
如果使用jps命令,出现上面的截图,那么已经成功搭建了hadoop环境

【hadoop环境搭建】相关推荐

  1. Hadoop环境搭建教学(二)完全分布式集群搭建;

    Hadoop环境搭建教学(一)运行环境,集群规划介绍: 文章目录 安装三台 CentOS 7系统 一.X-Shell的准备工作 二.基本工具安装 三.关闭防火墙 四.修改Host文件 五.3.4.4 ...

  2. Hadoop环境搭建教学(一)运行环境,集群规划介绍;

    文章目录 前言 一.Hadoop的三种运行环境 二.集群规划 三.需要的基本软件安装 下期见 前言 Hadoop的运行环境可以是在Windows上,也可以在linux上,但在Windows上运行效率很 ...

  3. Hadoop环境搭建(二)CentOS7的下载与安装

    Hadoop环境搭建(一) VMware Workstation安装 与 网络配置 1. CentOS7的下载 https://wiki.centos.org/Download 2. CentOS7安 ...

  4. GitChat·大数据 | 史上最详细的Hadoop环境搭建

    GitChat 作者:鸣宇淳 原文: 史上最详细的Hadoop环境搭建 关注公众号:GitChat 技术杂谈,一本正经的讲技术 [不要错过文末彩蛋] 前言 Hadoop在大数据技术体系中的地位至关重要 ...

  5. 【菜鸟窝】Hadoop生态系统、Hadoop虚拟机环境准备、Hadoop环境搭建(含安装包和教程)

    hadoop环境搭建视频:https://www.cniao5.com/course/lessons/10244 1.1Hadoop简介 1.1.1Hadoop的诞生 Hadoop是由Apache L ...

  6. hadoop环境搭建(详解)

    hadoop 环境搭建 引言: 随着人工智能和大数据的热潮的到来,大数据变得越来越火了,坏蛋哥的信念就是致力于大数据的发展和进步,希望能为大数据的发展和推广尽一份绵薄之力.如果要做大数据,那么大数据相 ...

  7. Spark Hadoop 环境搭建http://www.jianshu.com/p/5b1eafdf34a9

    Spark Hadoop 环境搭建 链接地址:http://www.jianshu.com/p/5b1eafdf34a9 来源:简书 博文内容与结构: 1.介绍了搭建大数据框架的文件和步骤; 2.包括 ...

  8. Hadoop环境搭建之zookeeper安装

    Hadoop环境搭建 一.预备知识 1.大数据导论 1.1 大数据概念 大数据(big data),指无法在一定时间范围内用常规软件工具进行捕捉.管理和处理的数据集合,是需要新处理模式才能具有更强的决 ...

  9. Hadoop+hive+flask+echarts大数据可视化项目之系统数据整合和hadoop环境搭建

    Hadoop+hive+flask+echarts大数据可视化项目(二) --------------系统数据整合和hadoop环境搭建---------------- 关注Hadoop+Hive+F ...

  10. Hadoop环境搭建及常见问题解决(保姆级教程)

    Hadoop环境搭建及常见问题解决 零.资源准备 一.环境准备 1. 安装虚拟机 2. 环境准备 1) 创建新用户xiaobai 2) 安装ssh-server 3) 上传相关资源 [4)] 使用pu ...

最新文章

  1. Shell脚本头定义
  2. struts+hibernate+oracle+easyui实现lazyout组件的简单案例——hibernate的config文件(hibernate.cfg.xml)...
  3. wince 德赛西威2413_【图】GPS导航/Wince6.0系统 德赛西威迈腾车载导航改装评测_汽配中国网...
  4. 如何让插件加载到Qt Designer
  5. d3.js 教程 模仿echarts legend功能
  6. 单片机涡轮流量传感器_关于涡轮流量计传感器的维护保养
  7. java计算集合对称差
  8. python函数模块关键代码_从零开始学Python(六):函数,模块和类的使用
  9. xmind怎样画流程图_老师是怎样上网课的?
  10. Node.js+Express商业开发中的安全性考虑
  11. 探寻京东云核心竞争力的源泉
  12. Ubuntu中Error: Can‘t find Python executable “python“, you can set the PYTHON env variable.
  13. ubuntu 18.04桌面版启动错误: Unable to mount root fs on unknown-block(0,0)
  14. 潘正磊: 做最好、最美的你
  15. Pycharm装不上torch的解决办法!!!
  16. 怎么把电脑计算机桌面调出来,手把手教你电脑怎么设置屏保
  17. 什么是小托福考试?适合什么学生报考?
  18. 用jQuery制作对联广告
  19. 人工智能的“虚假式繁荣”
  20. 微信小程序申请+开发+发布流程

热门文章

  1. 大学物理第七章“机械波”复习笔记
  2. mfcc概念 参数介绍
  3. 台达DVP ES系列plc与3台台达MS300变频器通讯程序 实现频率设定,启停控制,实际频率读取等
  4. 智能图像识别产品开发流程 OCR 图像识别
  5. JAVA代码审计之WebGoat靶场SQL注入
  6. Xv6操作系统导论(第三章)
  7. 转载:Joel Spolsky: 创业公司如何公平分配股权?
  8. Windows 无法连接到SENS服务
  9. FL Studio2023终身免费升级适合电音舞曲DJ使用
  10. 如何检测支付宝名字性别