【集群规划】

虚拟机1

虚拟机2

虚拟机3

内 存 5GB 5GB 5GB
磁 盘 115GB 115GB 115GB
host名 vm01 vm02 vm03
ip地址 192.168.1.100 192.168.1.102 192.168.1.104
ssh信息 root/polyv123 root/polyv123 root/polyv123
ambari-server
ambari-agent
NameNode
DataNode
Kafka-Broker
ZooKeeper
ResourceManager
NodeManager
HMaster
HRegionServer

应用

ip

版本

账号

密码

备注

mysql 192.168.1.100 5.7.34 root polyv123
redis 192.168.1.100 6.0.8 绑定了127.0.0.1

【需要的资源包】

可在192.168.1.100/root/downloads目录下获得

  • ambari-2.7.5.0-centos7.tar.gz
  • HDP-3.1.5.0-centos7-rpm.tar.gz
  • HDP-GPL-3.1.5.0-centos7-gpl.tar.gz
  • HDP-UTILS-1.1.0.22-centos7.tar.gz
  • jdk8_291_linux64.tar.gz

1.下载虚拟机Virtualbox,载入centos7的镜像。

分配内存5GB和磁盘115GB。首先完成1个虚拟机节点的安装,在安装过程中设置用户密码root/polyv123。

具体过程可参考https://blog.csdn.net/sinat_38798245/article/details/88103291

2. 完成vm01的基本配置。

  • 设置hostname
    hostnamectl set-hostname vm01
  • 设置最大打开文件限制
    ulimit -n 10000
  • 设置静态IP地址
    进入/etc/sysconfig/network-scripts/目录,编辑ifcfg-enp0s3文件。
  • 修改文件后执行命令service network restart,重启网卡服务。

    执行ip addr,验证结果:

  • ping www.baidu.com测试:

  • 配置Hosts
    修改/etc/hosts文件,添加:
    192.168.1.100 vm01
    192.168.1.104 vm03
    192.168.1.102 vm02

  • 配置宿主机的Host文件。/windows/drivers/etc/hosts

  • 开启SSH服务

    yum -y install openssh-serve

    vi /etc/ssh/sshd_config

    将文件中,关于监听端口、监听地址前的 # 号去除:

然后开启允许远程登录:

最后,开启使用用户名密码来作为连接验证:

保存文件退出并开启  sshd  服务,systemctl start sshd.service

设置开机自启动,systemctl enable sshd.service

  • 关闭防火墙

systemctl disable firewalld.service
          systemctl stop firewalld.service

  • 关闭selinux

    vi /etc/sysconfig/selinux
    修改 SELINUX = enforcing 为 SELINUX = disabled

  • 配置时钟同步

    yum install -y ntp
    systemctl enable ntpd

  • 至此,重启系统  reboot
  • 安装wget、vim命令

    yum -y install wget
    yum -y install vim

  • 创建/root/downloads目录,并将jdk8包(可从192.168.1.100/root/downloads目录下获得)下载到该目录下

  • 然后解压到指定目录:

    cd /usr/local

    mkdir jdk8

    cd jdk8

    tar -zxvf /root/downloads/jdk8_291_linux64.tar.gz

    接着配置环境变量:

    vi /etc/profile

    添加如下内容:

    export JAVA_HOME=/usr/local/jdk8/jdk1.8.0_291
    export JRE_HOME=$JAVA_HOME/jre
    export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib
    export PATH=$PATH:$JAVA_HOME/bin

  • 生效  source /etc/profile

    检查  java -version

3. 至此单机节点配置完成,开始克隆vm02,vm03,并做如下配置:

  • 分别修改主机名:

hostnamectl set-hostname vm02

hostnamectl set-hostname vm03

  • 分别修改IP:

vi /etc/sysconfig/network-scripts/ifcfg-enp0s3

IPADDR=192.168.1.102

----------------------------

IPADDR=192.168.1.104

  • 分别重启:

reboot

  • 免密登录

    (注:分别在vm01、vm02、vm03主机下执行以下的所有步骤)

    生成密钥文件:ssh-keygen -t rsa                              

4. 在vm01中部署ambari-server

  • 搭建文件服务器:

yum -y install httpd

cd /etc/httpd/conf.d/

mv welcome.conf welcome.conf.bak

service httpd start

systemctl enable httpd

资源包准备(以下资源包可从192.168.1.100/root/downloads目录下获得)

上传资料包到vm01服务器的/root/download下,并解压到/var/www/html/目录下:

tar -zxvf /root/downloads/ambari-2.7.5.0-centos7.tar.gz -C /var/www/html/

tar -zxvf /root/downloads/HDP-3.1.5.0-centos7-rpm.tar.gz -C /var/www/html/

tar -zxvf /root/downloads/HDP-GPL-3.1.5.0-centos7-gpl.tar.gz -C /var/www/html/

tar -zxvf /root/downloads/HDP-UTILS-1.1.0.22-centos7.tar.gz -C /var/www/html/

配置本地yum源(在vm01上)

  • l 首先执行以下命令,安装yum插件:

    yum -y install yum-plugin-priorities

    l 拷贝repo文件:

    cd /var/www/html

    cp ambari/centos7/2.7.5.0-72/ambari.repo /etc/yum.repos.d/

    cp HDP/centos7/3.1.5.0-152/ssl_hdp.repo /etc/yum.repos.d/hdp.repo

    cp HDP-GPL/centos7/3.1.5.0-152/hdp.gpl.repo /etc/yum.repos.d/

    l 修改ambari的yum源配置:

    vim /etc/yum.repos.d/ambari.repo

    修改两处URL的地址,使仓库指向本地文件服务器,如下图所示。

  • l 修改HDP的yum源设置:

    vim /etc/yum.repos.d/hdp.repo

    修改四处URL的地址,使仓库指向本地文件服务器,如下图所示。

  • l 修改hdp.gpl的yum源配置:

    vim /etc/yum.repos.d/hdp.gpl.repo

    修改两处URL的地址,使仓库指向本地文件服务器,如下图所示。

  • 准备MySQL环境

    l 进入/root/downloads目录:

    wget https://dev.mysql.com/get/mysql57-community-release-el7-9.noarch.rpm

    rpm -ivh mysql57-community-release-el7-9.noarch.rpm

    l 进入 /etc/yum.repos.d/目录:

    yum -y install mysql-server

    l 启动MySQL:

    systemctl start mysqld

    l 获取安装时的临时密码:

    grep 'temporary password' /var/log/mysqld.log

l 登录(使用临时密码):

mysql -u root -p

l 修改密码:

set global validate_password_policy=0;

set global validate_password_length=1;

ALTER USER 'root'@'localhost' IDENTIFIED BY 'polyv123';

l 设置开机自启动:

systemctl enable mysqld

l 重启服务systemctl restart mysqld:

l 安装MySQL的驱动包:

yum install -y mysql-connector-java (生成/usr/share/java/mysql-connector-java.jar 文件)

  • 安装ambari-server(在vm01上)

    yum -y install ambari-server

  • 部署ambari

    执行ambari-server setup,进入部署界面:

    ambari管理平台默认用户名 root

    数据库默认库ambari,

    JDK选择Custom自定义环境,并且输入环境配置中的JAVA_HOME路径。/usr/local/jdk8/jdk1.8.0数据库选择更高级自定义配置,

选择MySQL,然后用户名和密码修改默认值,设置为root/polyv123

配置Enter full path to custom jdbc driver:  /usr/share/java/mysql-connector-java.jar(如果 默认匹配则输入y确认)

初始化ambari数据库

  • 将ambari-server的DDL-CREATE.sql文件导入到MySQL的ambari库中

    l 执行mysql -uroot -ppolyv123,进入操作界面

    l 创建ambari库和用户名/密码:

    mysql>  create database ambari character set utf8;

    l 初始化ambari-sever数据:

    mysql>  use ambari;

    mysql>  source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql;

5. 在vm01、vm02、vm03部署ambari-agent

  • 将vm01的/etc/yum.repos.d/ambari.repo分别拷贝到vm02和vm03上:

cd /etc/yum.repos.d/

scp ambari.repo root@vm02:/etc/yum.repos.d/

scp ambari.repo root@vm03:/etc/yum.repos.d/

  • 然后在vm01、vm02、vm03三个节点都执行以下步骤:

yum -y install ambari-agent

vi /etc/ambari-agent/conf/ambari.ini (添加如下两行,确保[server]指向ambari-server所在主机)

            [server]

           hostname=vm01

  • 分别启动agent,执行命令ambari-agent start

6.  启动ambari集群

  • 在vm01上执行ambari-server start,启动ambari-server。

如果启动不成功,可以查看启动报错日志,然后在 /etc/ambari-server/conf/ambari.properties文件中适配属性。

  • 操作如下:

vim /etc/ambari-server/conf/ambari.properties

将vm01修改为localhost,wq退出保存。

  • 再次执行ambari-server start,启动成功。

下一篇: HDP集群搭建_LSur_king的博客

Ambari集群搭建相关推荐

  1. 全网最详细的ambari集群搭建详细步骤

    目录 1.服务器环境说明 2.防火墙设置 3.禁用selinux 4.配置jdk和mysql驱动 5.安装Mysql 6.mysql密码操作 7.安装httpd服务 8.安装ntp 9.ntp配置 1 ...

  2. ambari集群安装hdp

    接上篇<ambari集群搭建详细步骤> 说明:ambari2.6.5和ambari2.7.5的页面不一样 集成安装向导 Get Started 开始 Select Version 选择版本 ...

  3. 基于大数据平台的毕业设计01:基于Docker的HDP集群搭建

    前言 好多人问我,这种基于大数据平台的xxxx的毕业设计要怎么做.这个可以参考之前写得关于我大数据毕业设计的文章基于大数据平台的毕业设计.这篇文章是将对之前的毕设进行优化. 个人觉得可以分为两个部分. ...

  4. 最新版Ambari2.75安装及HDP3.1.5集群搭建

    最近打算使用ambari搭建集群,却突然发现Cloudera相关软件包括HDP.CDH都收费了,都需要有效的订阅,并且只能通过付费墙进行访问(官宣地址:关于Cloudera软件的访问获取).还好笔者千 ...

  5. 大数据调度平台Airflow(八):Airflow分布式集群搭建及测试

    目录 Airflow分布式集群搭建及测试 一.节点规划 二.airflow集群搭建步骤 1.在所有节点安装python3.7 2.在所有节点上安装airflow 三.初始化Airflow 1.每台节点 ...

  6. 2021年大数据Kafka(三):❤️Kafka的集群搭建以及shell启动命令脚本编写❤️

    全网最详细的大数据Kafka文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 Kafka的集群搭建以及shell启动命令脚本编写 一.搭建 ...

  7. 2021年大数据ZooKeeper(二):ZooKeeper集群搭建

    目录 ZooKeeper集群搭建 第一步:下载zookeeeper的压缩包,下载网址如下 第二步:解压 第三步:修改配置文件 第四步:添加myid配置 ​​​​​​​第五步:安装包分发并修改myid的 ...

  8. 基于zookeeper的solrCloud集群搭建

    转自:https://blog.csdn.net/yougoule/article/details/78445759  基于原文对实践遇到的问题稍作补充 1.安装及搭建相关环境 1.1环境准备 cen ...

  9. Hbase基础(特点、架构、应用场景、集群搭建、HA设计)这一篇就够了

    Hbase基础(特点.架构.应用场景.集群搭建.HA设计)这一篇就够了 1. Hbase特点 2. Hbase VS RDBMS 3. Hbase架构及版本选择 4. Hbase应用场景 5. Ntp ...

最新文章

  1. 终极方案!解决正确设置LaunchImage后仍然不显示的问题
  2. 把.sql文件上传到服务器上
  3. 机器学习数据预处理之缺失值:前向填充
  4. 【ASP.NET】 【防止连续多次点击提交按钮 导致页面重复提交】
  5. apk修改strings.xml后重新打包出错
  6. php 从字符中随机挑一个数,php 对中文字符串的处理- 随机取出指定个数的汉字...
  7. 是否应该饮用酵素和自制的葡萄酒
  8. 如何在使用Retry之后,Jenkins能够准确发送邮件的脚本
  9. BGP——同步功能【Synchronization】【路由黑洞】
  10. android 测试人员测试时使用release版本还是debug版本_为什么做软件测试
  11. 如何利用Webp和http缓存节省30%的网络流量
  12. 水下等离子切割机行业调研报告 - 市场现状分析与发展前景预测
  13. 复变函数:傅里叶变换
  14. python数据处理:数据合并和Reshaping
  15. iperf详细使用方法
  16. 易语言窗口c_句柄取进程名,易语言进程id取窗口句柄
  17. ragel学习资源整合
  18. hp服务器修改bios设置,HP 服务器进入BIOS 按键总结
  19. 倒计时器 (WPF)
  20. 关于Alipay支付宝接口(Java版)

热门文章

  1. dct余弦离散c语言,离散余弦变换C语言实现(DCT)
  2. SPSS数据分析网络游戏行业应用范例
  3. 关于app提示专为旧版Android打造的有关测试
  4. 【AUTOSAR】【信息安全】CSM
  5. 计算机最好的60所大学排名,电子类专业最好的60所大学排名,考上前10所就到赚了...
  6. Python爬虫Request轮子工具
  7. 【ppt】企业常用汇报模版
  8. iOS定位服务系列之一:获取当前位置信息
  9. 踩坑系列之使用jQuery移除元素
  10. 百度网盘不是会员如何提速