hadoop安装-redhat
1.基本准备
操作系统:redhat 5.2
jdk: jdk-6u21-linux-i586-rpm.bin(安装1.6或以上版本,安装步骤请参考其他文)
hadoop:hadoop-0.21.0.tar.gz
硬件:三台机器,IP配置如下:
node1:192.168.14.77
node2:192.168.14.155
node3:192.168.14.99
2.系统配置
(1)以root身份打开/etc/hosts文件
192.168.14.77 node1
192.168.14.155 node2
192.168.14.99 node3
注:node2,node3也需要同样设置
(2)每个节点都有相同的用户,例如:hadoop(账号默认的主目录为:/home/hadoop)
用有root权限的用户登录系统,执行:
[root@node1:~]$sudo visudo –f /etc/sudoers
在打开的文件中加入:
hadoop ALL=(ALL) ALL
注:方便hadoop用户访问和修改系统文件与配置
3.配置ssh(redhat本身默认安装)
(1)生成密钥:
[hadoop@node1:~]$ssh-keygen –t dsa
一路回车,会在/home/hadoop/.ssh文件中添加两个文件(id_dsa和id_dsa.pub)成对出现。
(2)复制:
[hadoop@node1 .ssh]$cp id_dsa.pub authorized_keys
(3)复制密钥到各节点,并赋权限:
以hadoop登录到其他DataNode上,并在各DataNode上建立文件.ssh:
[hadoop@node2:~]$mkdir /home/hadoop/.ssh
[hadoop@node3:~]$mkdir /home/hadoop/.ssh
以hadoop登录到NameNode:
权限配置完全如图。
把authorized_keys文件拷贝到各NameNode节点上,例如:
[hadoop@node1.ssh]$
scp authorized_keys hadoop@192.168.14.155:/home/hadoop/.ssh/
并在各节点设置权限,例如:
[hadoop@node2.ssh]$ chmod 644 authorized_keys
(4)对ssh服务进行配置,去除密码验证,在每个节点上对/etc/ssh/sshd_config文件进行修改,例如:
[hadoop@node2:~]$sudo vi /etc/ssh/sshd_config
在文件中进行如下修改:
去除#
PasswordAuthentication no
AuthorizedKeysFile .ssh/authorized_keys
重启sshd服务:
sudo /etc/init.d/ssh restart
测试ssh连接:
[hadoop@node1~]$ssh node2
4.jdk安装及配置
安装jdk
(1)查看本机jdk安装
$rpm –qa|grep gcj
本版不足1.6,卸载后重现安装
(2)卸载jdk
$rpm –qa|grep gcj
从下向上卸载:
[root@localhost ~]# rpm libgcj-4.1.2-42.el5
[root@localhost ~]# rpm java-1.4.2-gcj-compat-1.4.2.0-40jpp.115
(3)安装jdk
$chmod 755 jdk-6u21-linux-i586-rpm.bin
$./jdk-6u21-linux-i586-rpm.bin
$rpm –ivh jdk-6u21-linux-i586-rpm.bin
配置
(1)在/etc/profile中
(2)在hadoop-env.sh
注:具体在hadoop安装及配置中,每个节点的jdk安装路径最好一致。
5.hadoop安装及配置(以hadoop身份进行如下操作)
(1)安装:
mkdir /home/hadoop/hadoopinstall
cd /home/hadoop/hadoopinstall
[hadoop@node1 hadoopinstall]$ tar -zvxf hadoop-0.21.0.tar.gz
(2)配置:
环境变量:
/etc/profile文件下配置环境变量:
JAVA_HOME
HADOOP_HOME
CLASSPATH
PATH
/home/hadoop/hadoopinstall/hadoop-0.21.0/conf/hadoop-env.sh文件下配置环境变量:
JAVA_HOME
HADOOP_HOME
Hadoop配置文件修改
需修改/home/hadoop/hadoopinstall/hadoop-0.21.0/conf下的几个文件:
core-site.xml
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://192.168.14.77:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/hadoop/tmp</value>
</property>
</configuration>
hdfs-site.xml
<configuration>
<property>
<name>dfs.name.dir</name>
<value>/home/hadoop/hdfs/name</value>
<final>true</final>
</property>
<property>
<name>dfs.data.dir</name>
<value>/home/hadoop/hdfs/data</value>
<final>true</final>
</property>
<property>
<name>fs.checkpoint.dir</name>
<value>/home/hadoop/hdfs/namesecondary</value>
<final>true</final>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
mapred-site.xml
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://192.168.14.77:9000</value>
<final>true</final>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>mapred.job.tracker</name>
<value>192.168.14.77:9001</value>
</property>
<property>
<name>mapred.local.dir</name>
<value>/home/hadoop/mapred/local</value>
<final>true</final>
</property>
<property>
<name>mapred.system.dir</name>
<value>/tmp/hadoop/mapred/system</value>
<final>true</final>
</property>
<property>
<name>mapred.tasktracker.map.tasks.maximum</name>
<value>2</value>
<final>true</final>
</property>
<property>
<name>mapred.tasktracker.reduce.tasks.maximum</name>
<value>2</value>
<final>true</final>
</property>
<property>
<name>mapred.child.java.opts</name>
<value>-Xmx400m</value>
</property>
</configuration>
masters
192.168.14.77
slaves
192.168.14.155
192.168.14.99
注:以上为NameNode的配置,有关DateNode把NameNode的hadoopinstall整个文件复制到各节点的/home/hadoop下即可,以hadoop身份
6.基本操作
(1)主节点NameNode文件系统格式化为HDFS
[hadoop@node1 bin]$ cd /home/hadoop/hadoopinstall/hadoop-0.21.0/bin
[hadoop@node1 bin]$ hadoop namenode –format
(2)启动
[hadoop@node1 bin]$ start-all.sh
(3)停止
[hadoop@node1 bin]$ stop-all.sh
(4)创建一个目录
[hadoop@node1 bin]$ hadoop dfs –mkdir mytest
(5)查看根目录下有哪些文件和子目录
[hadoop@node1 bin]$ hadoop dfs -ls
hadoop安装-redhat相关推荐
- Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04
给力星 追逐内心的平和 首页 笔记 搜藏 代码 音乐 关于 Hadoop安装教程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.04 2014-08-09 (updated: 2016 ...
- Hadoop安装教4程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.0
Hadoop安装教4程_单机/伪分布式配置_Hadoop2.6.0/Ubuntu14.0 当开始着手实践 Hadoop 时,安装 Hadoop 往往会成为新手的一道门槛.尽管安装其实很简单,书上有写到 ...
- Hadoop安装及遇到问题解决——1.安装
本人的安装时完全参考林子雨老师的教程,转载自厦门大学数据库实验室 / 给力星 一.软件选择 Hadoop是基于Java语言开发的,具有很好跨平台的特性.Hadoop的所要求系统环境适用于Windows ...
- linux 学习笔记 (1) —— 安装 Redhat enterprise 5
2019独角兽企业重金招聘Python工程师标准>>> 1.安装Redhat enterprise 5 参见ARM教程 2.安装RT8168网卡驱动 2.1查看网卡的芯片 # lsp ...
- linux红帽网页中文乱码解决,【linux学习笔记】安装redhat时中文显示乱码(小方框)解决方法...
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼 ------------------------------------- 防抽------------------------------------- ...
- Hadoop安装及eclipse配置
Hadoop安装 彻底关闭防火墙 chkconfig iptables off 查看主机名 hostname 修改主机名 vim /etc/sysconfig/network 修改之后不会立即执行需要 ...
- Hadoop安装与配置问题说明
说明:本博客对Hadoop安装与配置过程中可能存在的问题做简单记录 启动Hadoop hadoop@ubuntu16:/usr/local/java/hadoop/hadoop-2.7.1$ ./sb ...
- Hadoop 安装详解--新手必备
准备: 这次学习,我使用的是虚拟机vmware,安装了3台虚拟机,系统为centos 5(其它版本亦可),主机名依次命名为hdfs1.hdfs2.hdfs3,ip地址一次为:172.16.16.1.1 ...
- 思科UCS服务器怎么安装系统,安装Redhat/CentOS操作系统在UCS M系列服务器
简介 本文描述如何安装Redhat企业Linux (RHEL)或在思科统一计算系统(UCS)使用局部存储器, M系列服务器的CentOS Linux. Cisco 建议您了解以下主题: Cisco U ...
最新文章
- matlab 分段式规范作图
- oracle所有的乱码解决方案
- BZOJ1801: [Ahoi2009]chess 中国象棋
- 用excel打造报表查询系统
- 深入浅出学习Hibernate框架(一):从实例入手初识Hibernate框架
- POJ 2010 Moo University - Financial Aid【堆的应用】
- 五步法建设你的数据中台
- C语言库函数源码在线,C语言库函数(包括所有函数)
- 几何画板椭圆九种画法_几何画板怎么制作椭圆定义演示动画?
- 有哪些毕设免费查重和降重的网站
- 萤石云摄像头方向操控前端代码
- 戴尔R230安装esxi
- advised by org.springframework.transaction.interceptor.TransactionInterceptor.invoke(org.aopallian
- 阿里巴巴投资1亿美元在成都建立西部基地,成都的人才快点抓紧啊
- Linux基本的键盘输入快捷键和一些常用命令
- Arp中间人攻击原理
- 苹果cmsv10+2022新版海螺影视主题模板“带后台“M3.1全解密版本+萌芽采集插件
- 一步步实现windows版ijkplayer系列文章之三——Ijkplayer播放器源码分析之音视频输出——音频篇
- 蓝懿ios技术交流和心得分享16.1.18
- 今日闲谈:为何国产动画能在抖音异军突起?
热门文章
- Spring的完整介绍
- Linux下vim的复制、粘贴操作
- mysql配置时区 serverTimeZone
- x86-64汇编入门
- 汇编语言快速回顾(以x86_64为例)
- rk3328 Android8.1 usb otg host和device切换
- python中重采样的时间间隔与等距,resample,periods
- C#使用OleDB操作ACCESS插入数据时提示:参数 @p_Contract 没有默认值
- 【博弈论】第二讲:纳什均衡的混合战略(有限数量战略)
- js判断数组,对象,是否为空,是否含有某个值,判断数组中对象是否有某个值