环境搭建-CentOS集群搭建

写在前面
最近有许多小伙伴问我,大数据的hadoop分布式集群该如何去搭建。所以,想着,就写一篇博客,帮助到更多刚入门大数据的人。本博客会一步一步带你实现一个Hadoop的搭建。跟着博客上面的步骤,很详细的。你很快就会有一个自己的hadoop集群啦。

我是在自己的windows机器上使用virtualBox来虚拟三台机器,作为实验的环境。

实验环境
Windows 宿主机:Windows 10 (其余也是可以的)
VirtualBox 版本:VirtualBox 5.1.22
CentOS 版本:CentOS 6.9
Xshell 版本:Xshell 5

可能许多的小伙伴,会因为找软件比较麻烦。我这里直接分享在了我的百度云的链接,方便大家下载:
链接:http://pan.baidu.com/s/1c24gbUK 密码:8h1r

接下来,我们就开始创建虚拟机

使用VirtualBox创建虚拟机

使用VirtualBox创建三台CentOS作为项目实验集群。

跟着下面的步骤就好:

打开virtualBox软件,我们new一个:

接下来,我们点击设置按钮

设置我们的存储,把我们的镜像添加进去

设置我们的网络连接(很重要)

上面的设置完成之后,我们就可以开启,开始安装centos了

接下来的两项默认就好,这里需要注意一下

设置时区为亚洲,上海

设置密码,我这里为了方便,直接设置为123456

由于密码安全太低,这里选择不管如何都使用就好

磁盘分区,默认就好

等待它自己安装,这个时候,你也可以按照这个步骤再去新建两台机器

会出现reboot的按钮,重启就好

重启之后,我们输入账号密码,进入:

一开始是没有ip的,是需要我们设置的,

设置IP

设置 网卡onboot=yes即可,自动获取

[root@localhost ~]# cd /etc/sysconfig/network-scripts/
[root@localhost network-scripts]#
[root@localhost network-scripts]# vi ifcfg-eth0
DEVICE=eth0
HWADDR=08:00:27:72:EC:EE
TYPE=Ethernet
UUID=6b262313-ddd5-4a97-bb75-771ea5621f91
ONBOOT=yes
NM_CONTROLLED=yes
BOOTPROTO=dhcp
#:wq 保存退出

重新启动网络

[root@localhost network-scripts]# service network restart

测试,去ping百度:

到这里我们的centos就安装好了,说明一下,网络一定要连通,不然,后面,会比较麻烦。
依据,这个操作,我们再重新新建两台机器。

使用Xshell连接我们的服务器

xshell这个软件还是很好用得,

新建连接

接下来,就是输入用户和密码,输入就好。
这里把下面的框选上,这样以后就不用输账号密码了

上面就表示登录成功了

安装常用软件

下面安装lrzsz这个软件,是用来传输文件的,比较实用的一个软件,当然,你也可以选择自己的方式

[root@localhost ~]# yum -y install lrzsz
....Installed:lrzsz.x86_64 0:0.12.20-27.1.el6                                                       Complete!

好啦,到这里我们就安装好了

安装JDK环境

在开始安装之前,
我们先新建一个目录,这样比较规范,这个看个人习惯就好

[root@localhost ~]#
[root@localhost ~]# mkdir app
[root@localhost ~]# mkdir softwares
[root@localhost ~]#
[root@localhost ~]# mkdir lib
[root@localhost ~]#
[root@localhost ~]# mkdir data
[root@localhost ~]#
#app软件安装的目录
#softwares软件的存放目录
#lib架包的存放目录
#data测试的数据存放目录

接下来,我们把jdk文件上传到我们的服务器,
使用rz命令

上传完毕之后,就开始解压到app目录下

[root@localhost softwares]# tar -zxvf jdk-8u144-linux-x64.tar.gz -C ../app/

解压完毕之后,就可以配置环境变量

[root@localhost ~]# vim ~/.bash_profile
# .bash_profile# Get the aliases and functions
if [ -f ~/.bashrc ]; then. ~/.bashrc
fiexport JAVA_HOME=/root/app/jdk1.8.0_144
export PATH=$JAVA_HOME/bin:$PATH

再source一下,使得我我们的环境变量生效,

[root@localhost ~]# source ~/.bash_profile
[root@localhost ~]#
[root@localhost ~]# java -version
java version "1.8.0_144"
Java(TM) SE Runtime Environment (build 1.8.0_144-b01)
Java HotSpot(TM) 64-Bit Server VM (build 25.144-b01, mixed mode)
[root@localhost ~]#

到这里,我们就安装好了我们的JDK环境

至于,另外的两台,我们可以先不用配置,后面,我们可以直接scp过去。
补充说明一下,有的小伙伴可能会发现,我创建过程中的名称为hadoop004,这是因为,我之前做hadoop000的时候,做好了,忘记保存了,就丢失了,这是我补充的。码字不易,不洗勿喷。

到这里,我最终配置好的centos集群是:
hadoop000 192.168.1.61
hadoop001 192.168.1.62
hadoop002 192.168.1.63
,接下来,就可以开始Hadoop集群的搭建了,后面的地址是:
http://blog.csdn.net/liuge36/article/details/78613910

转载于:https://www.cnblogs.com/liuge36/p/9882998.html

环境搭建-CentOS集群搭建相关推荐

  1. Zookeeper的Centos集群搭建

    一.Centos 集群搭建 服务器 端口 10.30.1.16 2181 2881 3881 10.30.1.37 2181 2881 3881 10.30.1.38 2181 2881 3881 1 ...

  2. 环境搭建-Hadoop集群搭建

    环境搭建-Hadoop集群搭建 写在前面,前面我们快速搭建好了centos的集群环境,接下来,我们就来开始hadoop的集群的搭建工作 实验环境 Hadoop版本:CDH 5.7.0 这里,我想说一下 ...

  3. Hadoop详解(五)——ZooKeeper详解,ZooKeeper伪分布搭建和集群搭建,Hadoop集群搭建,sqoop工具的使用

    ZooKeeper简介 什么是ZooKeeper? ZooKeeper是Google的Chubby一个开源的实现,是Hadoop分布式协调服务. 它包含了一个简单的原语集,分布式应用程序可以基于它实现 ...

  4. 电商详情页缓存架构(二)环境搭建(搭建CentOS 集群、安装redis及启动方案)

    在虚拟机中安装 CentOS 安装 JDK 和 Perl 安装 CentOS 集群 配置 4 台 CentOS 为 ssh 免密码互相通信 安装单机版 redis redis 的生产环境启动方案 re ...

  5. Linux环境下Spark集群搭建

    Spark是通用的基于内存计算的大数据框架,可以和hadoop生态系统很好的兼容,以下来部署Spark集群 集群环境:3节点 Master:bigdata1 Slaves:bigdata2,bigda ...

  6. 【超详细】手把手教你搭建MongoDB集群搭建

    MongoDB集群搭建 MongoDB集群简介 mongodb 集群搭建的方式有三种: 主从备份(Master - Slave)模式,或者叫主从复制模式. 副本集(Replica Set)模式 分片( ...

  7. linux hadoop集群搭建,hadoop集群搭建

    hadoop集群搭建步骤 实验介绍 下面将要在三台linux虚拟机上搭建hadoop集群. 知识点 linux基本命令 集群安装 完成实验需要以下相关知识 解压命令 tar -zxvf XX.tar. ...

  8. 六,搭建elasticsearch集群搭建

    @Author : By Runsen @Date : 2020/6/12 作者介绍:Runsen目前大三下学期,专业化学工程与工艺,大学沉迷日语,Python, Java和一系列数据分析软件.导致翘 ...

  9. DCOS搭建zookeeper集群搭建

    dcos上zookeeper集群搭建 参考地址:https://my.oschina.net/dslcode/blog/1944775 1.在docs上构建zookeeper服务的json脚本 {&q ...

最新文章

  1. 使用ONVIF协议控制海康威视球机
  2. 《人潮汹涌》的观后感
  3. 「OS」Centos7安装Nvidia驱动
  4. jsr133-第一二章
  5. python变量无需创建赋值_Python 第 2 章 变量及赋值运算符
  6. google bigtable论文原文_CTR论文笔记[1]:Wideamp;Deep
  7. 为什么CRM Opportunity的删除会触发一个通向BW系统的RFC
  8. ThoughtWorks技术雷达专区
  9. 【渝粤教育】国家开放大学2018年春季 0275-22T内科护理学 参考试题
  10. Python与数据库(2)Oracle
  11. mongodb笔记2
  12. linux opencv install
  13. Python糗百爬虫(精简版)
  14. 卡尔曼滤波算法详细推导
  15. java实现萤石云截图保存上传到ftp功能
  16. 网上赚钱最快的方法 干什么能挣钱快
  17. 计算机基础及photoshop应用好考吗,计算机基础及Photoshop应用考试技巧
  18. 江苏省考计算机类包括哪些专业,2019年江苏省公务员考试计算机类包括哪些专业..._公务员考试_帮考网...
  19. 三大面试技巧,平常就能练起来!
  20. HEU The message

热门文章

  1. JZOJ 1667【AHOI2009】中国象棋——dp
  2. 团队冲刺第二阶段04
  3. 【Data guard】SWITCHOVER_STATUS为FAILED DESTINATION解决办法
  4. linux之lsof使用技巧
  5. logstash增量读取mysql中的数据到es中
  6. C#版 - Leetcode 201. 数字范围按位与(bitwise AND) - 题解
  7. Mysql Can't connect to MySQL server
  8. 笨方法使用Kubernetes实现持续交付
  9. Oracle 11gR2学习之二(创建数据库及OEM管理篇)
  10. C#正则表达式提取HTML中IMG标签中的SRC地址