141.3. 单机安装 CentOS 5 + hadoop-0.20.0
这种安装方式仅仅适用于做实验,快速搭建Hadoop环境,不适合生产环境。
Ubuntu 环境
$ sudo apt-get install openjdk-7-jre
过程 141.1. Master configure
Download and Installing Software
$ cd /usr/local/src/ $ wget http://apache.etoak.com/hadoop/core/hadoop-0.20.0/hadoop-0.20.0.tar.gz $ tar zxvf hadoop-0.20.0.tar.gz $ sudo cp -r hadoop-0.20.0 .. $ sudo ln -s hadoop-0.20.0 hadoop $ cd hadoop
Configuration
hadoop-env.sh
$ vim conf/hadoop-env.sh export JAVA_HOME=/usr
conf/core-site.xml
$ vim conf/core-site.xml<configuration><property><name>fs.default.name</name><value>hdfs://localhost:9000</value></property> </configuration>
conf/hdfs-site.xml
$ vim conf/hdfs-site.xml<configuration><property><name>dfs.replication</name><value>1</value></property> </configuration>
conf/mapred-site.xml
$ vim conf/mapred-site.xml<configuration><property><name>mapred.job.tracker</name><value>localhost:9001</value></property> </configuration>
Setup passphraseless ssh
Now check that you can ssh to the localhost without a passphrase: $ ssh localhostIf you cannot ssh to localhost without a passphrase, execute the following commands: $ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa $ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
Execution
Format a new distributed-filesystem: $ bin/hadoop namenode -formatStart the hadoop daemons: $ bin/start-all.shWhen you're done, stop the daemons with: $ bin/stop-all.sh
Monitor
Browse the web interface for the NameNode and the JobTracker; by default they are available at:
NameNode - http://localhost:50070/
JobTracker - http://localhost:50030/
Test
$ bin/hadoop dfs -mkdir test $ echo helloworld > testfile $ bin/hadoop dfs -copyFromLocal testfile test/ $ bin/hadoop dfs -ls Found 1 items drwxr-xr-x - neo supergroup 0 2009-07-10 14:18 /user/neo/test$ bin/hadoop dfs -ls test$ bin/hadoop dfs –cat test/file
过程 141.2. slave config
SSH
$ scp neo@master:~/.ssh/id_dsa.pub .ssh/master.pub $ cat .ssh/master.pub >> .ssh/authorized_keys
Hadoop
$ scp neo@master:/usr/local/hadoop /usr/local/hadoop
原文出处:Netkiller 系列 手札
本文作者:陈景峯
转载请与作者联系,同时请务必标明文章原始出处和作者信息及本声明。
141.3. 单机安装 CentOS 5 + hadoop-0.20.0相关推荐
- linux下安装虚拟天文馆,如何在Ubuntu 20.04、18.04中安装Stellarium 0.20.0虚拟天文馆
如何在Ubuntu 20.04.18.04中安装Stellarium 0.20.0虚拟天文馆 几天前发布了Stellarium 0.20.0,它时一个免费开源的桌面虚拟天文馆软件.以下是在Ubuntu ...
- 安装数据库MySQL 8.0.20.0 详细过程 小白安装
安装数据库MySQL 8.0.20.0 详细过程 小白安装 耐心等待 复制完回到这里来 我们输入 net start 我们输入 net start 当然 我们也可以关闭数据库 命令如下 net sto ...
- 假设用于通信的电文由字符集{a,b,c,d,e,f,g}中的字母构成。 它们在电文中出现的频度分别为{0.31,0.16,0.10,0.08,0.11,0.20,0.04}。【MOOC答案】
目 录 1.题目 2.答案and详细题解过程 1)为这7个字母设计哈夫曼编码: 1.1.答案 1.2.详细题解过程 2)为这7个字母设计等长编码,至少需要几位二进制数?[3位] 2.1.答案 2. ...
- SIP.js 0.20.0版本简单Demo
SIP.js的0.20.0版本是使用typescript开源的JavaScript库 首先从npm上加载SIP.js npm install sip.js 可以根据习惯使用ts或js来开发 <s ...
- 141.4. 分布式安装(CentOS 6 + hadoop-1.1.2)
HDFS: NameNode :管理节点 DataNode :数据节点 SecondaryNamenode : 数据源信息备份整理节点 MapReduce ...
- kafka单机安装(版本kafka_2.11-2.2.0.tgz)
broker.id listeners log.dirs log.retention.hours zookeeper.connect 启动kafka 查看数据存储目录 关闭kafka 创建topic测 ...
- 【以太坊】web3.js的1.0版本和0.2.0版本的安装及区别
一.前言 博主在安装web3.js的时候,偶然间安装了不同版本的web3.js,API操作也不相同,虽然都能达到目标,但是到底区别在哪呢?网上查找半天并没有人专门总结一下这块,所以今天斗胆总结一下,也 ...
- 怎么安装mysql8.0.20_Mysql 8.0.20安装教程
MySQL最新版本8.0.20正式发布.与之前8.0的系列版本一样,这次的发行版除了包含缺陷修复,也同样包括新功能:关键字:hash join.InnoDB双写缓冲.二进制日志事务压缩等. 安装教程( ...
- Adobe Photoshop CC 2019 20.0.6软件免费下载及安装教程
Adobe Photoshop CC 2019 20.0.6免费下载最新版本的Windows.在上传之前,程序和所有文件都会被手动检查和安装,程序运行正常,没有任何问题.它是完全脱机安装程序独立设置的 ...
- ValueError: With n_samples=0, test_size=0.2 and train_size=None, the resulting train set will be emp
今天写代码labelmetovoc,即将labelme标注的转化为voc标准格式参考的这篇文章时遇到了如下问题: ValueError: With n_samples=0, test_size=0.2 ...
最新文章
- 入行AI,你需要一本Python机器学习入门
- HDFS_API基本应用
- 备考12月份电子学会青少年编程能力等级测试(图形化)的公益训练营即将开营
- 【错误记录】NDK 报错 java.lang.UnsatisfiedLinkError 的一种处理方案 ( 主应用与依赖库 Module 的 CPU 架构配置不匹配导致 )
- 迭代器和反向迭代器,常量迭代器和非常量迭代器
- 【网络编程】之十三、ping程序实现
- 前端学习(2473):创建页面组件
- 单选 textarea 赋初值
- c语言 char转int_第三章、C语言中的数据类型
- Java Properties 与 ResourceBundle、ClassLoader 类加载器
- Linux内核多线程(四)
- C++的iostream标准库介绍+使用详解
- 最全的芯片封装技术详细介绍(珍藏版)
- LTE无线网络规划的四大要点
- SEDA: An Architecture for Well-Conditioned, Scalable Internet Services
- 英文论文评审意见_小弟第一篇英文论文审稿意见求助 - 论文投稿 - 小木虫 - 学术 科研 互动社区...
- 为什么有斯坦福计算机科学博士学位的你找不到工作?
- 目测优衣库董事长只能听到赞扬的声音:3星|《经营者养成笔记》
- 自兴动脑人工智能课程学习笔记一:机器学习
- 人生把我当成了戏子,我只好把你们当成婊子
热门文章
- Atitit 理财之道 attilax著 1. 融资	3 1.1. 融资账户余渠道	3 2. 风控	3 3. 	3 4. 投资	3 5. 线上财富与资源	3 5.1. Jd流量 飞猪流量	3 5.
- atitit tag标签标示规范 attilax总结 v2 r922.docx
- atitit.为什么笔记本跟个手机不能组装而pc可以
- 项目开发中XML 读取错误总结
- bbs与BLOG与SNS在区别
- API网关的几点思考
- (转)新金融的魔幻IPO:都在讲科技,但最终还是靠现金贷上岸
- ZStack CMP多云管理平台有何不同?
- 听说3月15日深圳有场存储盛宴,约吗?
- 【语音处理】基于matlab GUI语音信号处理与滤波【含Matlab源码 1663期】