超图大数据环境搭建之单机版hadoop搭建
1 准备
1.1 软件版本
hadoop2.7.3
1.2 绑定 IP 和修改计算机名
1.2.1 修改/etc/hosts,添加 IP 绑定
1.2.2 修改/etc/hostname,为绑定计算机名。(计算机名和上面 hosts 绑定名必须一致)
1.3 JDK 安装
下载jdk1.8软件包,放到/opt 下解压
1.3.1 将 JDK 环境变量配置到/etc/profile 中
export JAVA_HOME=/opt/jdk
export JRE_HOME=/opt/jdk/jre
export CLASSPATH=$ JAVA_HOME/lib:$ JRE_HOME/lib
export PATH=$ JAVA_HOME/bin:$ PATH
1.3.2 检查 JDK 是否配置好
source /etc/profile
java -version
2 Hadoop 部署
2.1 Hadoop 安装
解压 hadoop2.7.3软件包 ,并在主目录下创建 tmp、dfs、dfs/name、dfs/node、dfs/data
2.2 Hadoop 配置
以下操作都在 hadoop-2.7.3/etc/hadoop 下进行
2.2.1 编辑 hadoop-env.sh 文件,修改 JAVA_HOME 配置项为 JDK 安装目录
export JAVA_HOME=/opt/jdk
2.2.2 编辑 core-site.xml 文件,添加以下内容,其中 master 为计算机名,/opt/hadoop-2.7.3/tmp 为手动创建的目录
2.2.3 编辑hdfs-site.xml文件,添加以下内容 其中master为计算机名,file:/opt/hadoop-2.7.3/dfs/name和file:/opt/hadoop2.7.3/dfs/data 为手动创建目录
2.2.4 将mapred-site.xml.template重命名为mapred-site.xml,编辑mapred-site.xml文件,添加以下内容其中master为计算机名
2.2.5 编辑yarn-site.xml文件,添加以下内容其中master为计算机名
2.2.6 修改slaves文件
2.3 Hadoop启动
2.3.1. 格式化一个新的文件系统,进入到hadoop-2.7.3/bin下执行:
./hadoop namenode -format
2.3.2. 启动hadoop,进入到hadoop-2.7.3/sbin下执行:
./start-all.sh
2.3.3. 打开浏览器输入ip:50070能访问则搭建成功
超图大数据环境搭建之单机版hadoop搭建相关推荐
- Hbase集群搭建二(Hadoop搭建)
服务器准备:下述内容绑定 /etc/hosts 10.110.110.10 master 10.110.110.11 slave1 10.110.110.12 slave2 操作用户准备:hbase ...
- [转]大数据环境搭建步骤详解(Hadoop,Hive,Zookeeper,Kafka,Flume,Hbase,Spark等安装与配置)
大数据环境安装和配置(Hadoop2.7.7,Hive2.3.4,Zookeeper3.4.10,Kafka2.1.0,Flume1.8.0,Hbase2.1.1,Spark2.4.0等) 系统说明 ...
- 好程序员大数据笔记之:Hadoop集群搭建
好程序员大数据笔记之:Hadoop集群搭建在学习大数据的过程中,我们接触了很多关于Hadoop的理论和操作性的知识点,尤其在近期学习的Hadoop集群的搭建问题上,小细节,小难点拼频频出现,所以,今天 ...
- 从搭建大数据环境说起,到执行WordCount所遇到的坑
从搭建大数据环境说起,到执行WordCount所遇到的坑 文章目录 从搭建大数据环境说起,到执行WordCount所遇到的坑 背景说明 基于`docker compose`的大数据环境搭建 docke ...
- 【阿尼亚喜欢BigData】“红亚杯”大数据环境搭建与数据采集技能线上专题赛——满分解析⑤
大家好,喜欢Bigdata的阿尼亚来了!希望大家会喜欢阿尼亚的文章!!哇酷哇酷!!! 本次为师傅们带来的是"红亚杯"大数据环境搭建与数据采集技能线上专题赛--满分解析系列的第⑤期, ...
- 【阿尼亚喜欢BigData】“红亚杯”大数据环境搭建与数据采集技能线上专题赛——满分解析③
大家好,喜欢Bigdata的阿尼亚来了!希望大家会喜欢阿尼亚的文章!!哇酷哇酷!!! 本次为师傅们带来的是"红亚杯"大数据环境搭建与数据采集技能线上专题赛--满分解析系列的第③期, ...
- 【阿尼亚喜欢BigData】“红亚杯”大数据环境搭建与数据采集技能线上专题赛——满分解析②
大家好,喜欢Bigdata的阿尼亚来了!希望大家会喜欢阿尼亚的文章!!哇酷哇酷!!! 本次为师傅们带来的是"红亚杯"大数据环境搭建与数据采集技能线上专题赛--满分解析系列的第②期, ...
- Docker 搭建的大数据环境
Docker 搭建的大数据环境,一键启停 代码未动,环境先行 我是一个Docker爱好者.我在学习大数据相关技术的时候,想到了一个点子: 用docker搭建一个大数据开发环境! 这么做有什么好处呢 ? ...
- 大数据学习系列之八----- Hadoop、Spark、HBase、Hive搭建环境遇到的错误以及解决方法
大数据学习系列之八----- Hadoop.Spark.HBase.Hive搭建环境遇到的错误以及解决方法 参考文章: (1)大数据学习系列之八----- Hadoop.Spark.HBase.Hiv ...
最新文章
- 悟透 JavaScript
- Windows server 2003 R2之三:通过域对统一部署客户端软件
- docker安装和配置Grafana
- jsoncpp在linux和windows下的编译及使用详解
- 青蛙跳台阶的问题——Fibonacci
- hive实例,GPRS流量统计
- 《Java从入门到放弃》JavaSE入门篇:变量
- 阿里云轻量应用型服务器防火墙端口开放了还是无法访问问题@林
- 【有料】Java线程池实现原理及其在美团业务中的实践
- 英语六级高频词汇速记 + 2019-12-1听力 Day07
- 计算字符串的距离(编辑距离)
- 【华为云技术分享】华为云弹性云服务器ECS搭建FTP服务实践
- 2022年乡村医生考试复习题及答案
- VHDL 计数器实验看VHDL语言
- 微鱼 php,微鱼微信管理系统
- 有甲乙二人乙对甲盯梢matlab,数学建模习题2
- python 模拟飞机订票系统
- 2022制冷与空调设备运行操作上岗证题库及答案
- 论文笔记:Jointly Multiple Events Extraction via Attention-based GraphInformation Aggregation
- 2018年IT名企校招日程表汇总