Ambari集群搭建
【集群规划】
虚拟机1 |
虚拟机2 |
虚拟机3 |
|
---|---|---|---|
内 存 | 5GB | 5GB | 5GB |
磁 盘 | 115GB | 115GB | 115GB |
host名 | vm01 | vm02 | vm03 |
ip地址 | 192.168.1.100 | 192.168.1.102 | 192.168.1.104 |
ssh信息 | root/polyv123 | root/polyv123 | root/polyv123 |
ambari-server | 是 | 否 | 否 |
ambari-agent | 是 | 是 | 是 |
NameNode | 是 | 是 | 否 |
DataNode | 是 | 是 | 是 |
Kafka-Broker | 是 | 是 | 是 |
ZooKeeper | 是 | 是 | 是 |
ResourceManager | 否 | 是 | 是 |
NodeManager | 是 | 是 | 是 |
HMaster | 是 | 是 | 否 |
HRegionServer | 是 | 是 | 是 |
应用 |
ip |
版本 |
账号 |
密码 |
备注 |
---|---|---|---|---|---|
mysql | 192.168.1.100 | 5.7.34 | root | polyv123 | |
redis | 192.168.1.100 | 6.0.8 | 绑定了127.0.0.1 |
【需要的资源包】
可在192.168.1.100/root/downloads目录下获得
- ambari-2.7.5.0-centos7.tar.gz
- HDP-3.1.5.0-centos7-rpm.tar.gz
- HDP-GPL-3.1.5.0-centos7-gpl.tar.gz
- HDP-UTILS-1.1.0.22-centos7.tar.gz
- jdk8_291_linux64.tar.gz
1.下载虚拟机Virtualbox,载入centos7的镜像。
分配内存5GB和磁盘115GB。首先完成1个虚拟机节点的安装,在安装过程中设置用户密码root/polyv123。
具体过程可参考https://blog.csdn.net/sinat_38798245/article/details/88103291
2. 完成vm01的基本配置。
- 设置hostname
hostnamectl set-hostname vm01
- 设置最大打开文件限制
ulimit -n 10000
- 设置静态IP地址
进入/etc/sysconfig/network-scripts/目录,编辑ifcfg-enp0s3文件。
修改文件后执行命令service network restart,重启网卡服务。
执行ip addr,验证结果:
ping www.baidu.com测试:
配置Hosts
修改/etc/hosts文件,添加:
192.168.1.100 vm01
192.168.1.104 vm03
192.168.1.102 vm02配置宿主机的Host文件。/windows/drivers/etc/hosts
开启SSH服务
yum -y install openssh-serve
vi /etc/ssh/sshd_config
将文件中,关于监听端口、监听地址前的 # 号去除:
然后开启允许远程登录:
最后,开启使用用户名密码来作为连接验证:
保存文件退出并开启 sshd 服务,systemctl start sshd.service
设置开机自启动,systemctl enable sshd.service
- 关闭防火墙
systemctl disable firewalld.service
systemctl stop firewalld.service
- 关闭selinux
vi /etc/sysconfig/selinux
修改 SELINUX = enforcing 为 SELINUX = disabled 配置时钟同步
yum install -y ntp
systemctl enable ntpd- 至此,重启系统 reboot
- 安装wget、vim命令
yum -y install wget
yum -y install vim 创建/root/downloads目录,并将jdk8包(可从192.168.1.100/root/downloads目录下获得)下载到该目录下
然后解压到指定目录:
cd /usr/local
mkdir jdk8
cd jdk8
tar -zxvf /root/downloads/jdk8_291_linux64.tar.gz
接着配置环境变量:
vi /etc/profile
添加如下内容:
export JAVA_HOME=/usr/local/jdk8/jdk1.8.0_291
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$PATH:$JAVA_HOME/bin生效 source /etc/profile
检查 java -version
3. 至此单机节点配置完成,开始克隆vm02,vm03,并做如下配置:
- 分别修改主机名:
hostnamectl set-hostname vm02
hostnamectl set-hostname vm03
- 分别修改IP:
vi /etc/sysconfig/network-scripts/ifcfg-enp0s3
IPADDR=192.168.1.102
----------------------------
IPADDR=192.168.1.104
- 分别重启:
reboot
免密登录
(注:分别在vm01、vm02、vm03主机下执行以下的所有步骤)
生成密钥文件:ssh-keygen -t rsa
4. 在vm01中部署ambari-server
- 搭建文件服务器:
yum -y install httpd
cd /etc/httpd/conf.d/
mv welcome.conf welcome.conf.bak
service httpd start
systemctl enable httpd
资源包准备(以下资源包可从192.168.1.100/root/downloads目录下获得)
上传资料包到vm01服务器的/root/download下,并解压到/var/www/html/目录下:
tar -zxvf /root/downloads/ambari-2.7.5.0-centos7.tar.gz -C /var/www/html/
tar -zxvf /root/downloads/HDP-3.1.5.0-centos7-rpm.tar.gz -C /var/www/html/
tar -zxvf /root/downloads/HDP-GPL-3.1.5.0-centos7-gpl.tar.gz -C /var/www/html/
tar -zxvf /root/downloads/HDP-UTILS-1.1.0.22-centos7.tar.gz -C /var/www/html/
配置本地yum源(在vm01上)
l 首先执行以下命令,安装yum插件:
yum -y install yum-plugin-priorities
l 拷贝repo文件:
cd /var/www/html
cp ambari/centos7/2.7.5.0-72/ambari.repo /etc/yum.repos.d/
cp HDP/centos7/3.1.5.0-152/ssl_hdp.repo /etc/yum.repos.d/hdp.repo
cp HDP-GPL/centos7/3.1.5.0-152/hdp.gpl.repo /etc/yum.repos.d/
l 修改ambari的yum源配置:
vim /etc/yum.repos.d/ambari.repo
修改两处URL的地址,使仓库指向本地文件服务器,如下图所示。
l 修改HDP的yum源设置:
vim /etc/yum.repos.d/hdp.repo
修改四处URL的地址,使仓库指向本地文件服务器,如下图所示。
l 修改hdp.gpl的yum源配置:
vim /etc/yum.repos.d/hdp.gpl.repo
修改两处URL的地址,使仓库指向本地文件服务器,如下图所示。
准备MySQL环境
l 进入/root/downloads目录:
wget https://dev.mysql.com/get/mysql57-community-release-el7-9.noarch.rpm
rpm -ivh mysql57-community-release-el7-9.noarch.rpm
l 进入 /etc/yum.repos.d/目录:
yum -y install mysql-server
l 启动MySQL:
systemctl start mysqld
l 获取安装时的临时密码:
grep 'temporary password' /var/log/mysqld.log
l 登录(使用临时密码):
mysql -u root -p
l 修改密码:
set global validate_password_policy=0;
set global validate_password_length=1;
ALTER USER 'root'@'localhost' IDENTIFIED BY 'polyv123';
l 设置开机自启动:
systemctl enable mysqld
l 重启服务systemctl restart mysqld:
l 安装MySQL的驱动包:
yum install -y mysql-connector-java (生成/usr/share/java/mysql-connector-java.jar 文件)
安装ambari-server(在vm01上)
yum -y install ambari-server
部署ambari
执行ambari-server setup,进入部署界面:
ambari管理平台默认用户名 root
数据库默认库ambari,
JDK选择Custom自定义环境,并且输入环境配置中的JAVA_HOME路径。/usr/local/jdk8/jdk1.8.0数据库选择更高级自定义配置,
选择MySQL,然后用户名和密码修改默认值,设置为root/polyv123
配置Enter full path to custom jdbc driver: /usr/share/java/mysql-connector-java.jar(如果 默认匹配则输入y确认)
初始化ambari数据库
将ambari-server的DDL-CREATE.sql文件导入到MySQL的ambari库中
l 执行mysql -uroot -ppolyv123,进入操作界面
l 创建ambari库和用户名/密码:
mysql> create database ambari character set utf8;
l 初始化ambari-sever数据:
mysql> use ambari;
mysql> source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql;
5. 在vm01、vm02、vm03部署ambari-agent
- 将vm01的/etc/yum.repos.d/ambari.repo分别拷贝到vm02和vm03上:
cd /etc/yum.repos.d/
scp ambari.repo root@vm02:/etc/yum.repos.d/
scp ambari.repo root@vm03:/etc/yum.repos.d/
- 然后在vm01、vm02、vm03三个节点都执行以下步骤:
yum -y install ambari-agent
vi /etc/ambari-agent/conf/ambari.ini (添加如下两行,确保[server]指向ambari-server所在主机)
[server]
hostname=vm01
- 分别启动agent,执行命令ambari-agent start
6. 启动ambari集群
- 在vm01上执行ambari-server start,启动ambari-server。
如果启动不成功,可以查看启动报错日志,然后在 /etc/ambari-server/conf/ambari.properties文件中适配属性。
- 操作如下:
vim /etc/ambari-server/conf/ambari.properties
将vm01修改为localhost,wq退出保存。
- 再次执行ambari-server start,启动成功。
下一篇: HDP集群搭建_LSur_king的博客
Ambari集群搭建相关推荐
- 全网最详细的ambari集群搭建详细步骤
目录 1.服务器环境说明 2.防火墙设置 3.禁用selinux 4.配置jdk和mysql驱动 5.安装Mysql 6.mysql密码操作 7.安装httpd服务 8.安装ntp 9.ntp配置 1 ...
- ambari集群安装hdp
接上篇<ambari集群搭建详细步骤> 说明:ambari2.6.5和ambari2.7.5的页面不一样 集成安装向导 Get Started 开始 Select Version 选择版本 ...
- 基于大数据平台的毕业设计01:基于Docker的HDP集群搭建
前言 好多人问我,这种基于大数据平台的xxxx的毕业设计要怎么做.这个可以参考之前写得关于我大数据毕业设计的文章基于大数据平台的毕业设计.这篇文章是将对之前的毕设进行优化. 个人觉得可以分为两个部分. ...
- 最新版Ambari2.75安装及HDP3.1.5集群搭建
最近打算使用ambari搭建集群,却突然发现Cloudera相关软件包括HDP.CDH都收费了,都需要有效的订阅,并且只能通过付费墙进行访问(官宣地址:关于Cloudera软件的访问获取).还好笔者千 ...
- 大数据调度平台Airflow(八):Airflow分布式集群搭建及测试
目录 Airflow分布式集群搭建及测试 一.节点规划 二.airflow集群搭建步骤 1.在所有节点安装python3.7 2.在所有节点上安装airflow 三.初始化Airflow 1.每台节点 ...
- 2021年大数据Kafka(三):❤️Kafka的集群搭建以及shell启动命令脚本编写❤️
全网最详细的大数据Kafka文章系列,强烈建议收藏加关注! 新文章都已经列出历史文章目录,帮助大家回顾前面的知识重点. 目录 系列历史文章 Kafka的集群搭建以及shell启动命令脚本编写 一.搭建 ...
- 2021年大数据ZooKeeper(二):ZooKeeper集群搭建
目录 ZooKeeper集群搭建 第一步:下载zookeeeper的压缩包,下载网址如下 第二步:解压 第三步:修改配置文件 第四步:添加myid配置 第五步:安装包分发并修改myid的 ...
- 基于zookeeper的solrCloud集群搭建
转自:https://blog.csdn.net/yougoule/article/details/78445759 基于原文对实践遇到的问题稍作补充 1.安装及搭建相关环境 1.1环境准备 cen ...
- Hbase基础(特点、架构、应用场景、集群搭建、HA设计)这一篇就够了
Hbase基础(特点.架构.应用场景.集群搭建.HA设计)这一篇就够了 1. Hbase特点 2. Hbase VS RDBMS 3. Hbase架构及版本选择 4. Hbase应用场景 5. Ntp ...
最新文章
- 终极方案!解决正确设置LaunchImage后仍然不显示的问题
- 把.sql文件上传到服务器上
- 机器学习数据预处理之缺失值:前向填充
- 【ASP.NET】 【防止连续多次点击提交按钮 导致页面重复提交】
- apk修改strings.xml后重新打包出错
- php 从字符中随机挑一个数,php 对中文字符串的处理- 随机取出指定个数的汉字...
- 是否应该饮用酵素和自制的葡萄酒
- 如何在使用Retry之后,Jenkins能够准确发送邮件的脚本
- BGP——同步功能【Synchronization】【路由黑洞】
- android 测试人员测试时使用release版本还是debug版本_为什么做软件测试
- 如何利用Webp和http缓存节省30%的网络流量
- 水下等离子切割机行业调研报告 - 市场现状分析与发展前景预测
- 复变函数:傅里叶变换
- python数据处理:数据合并和Reshaping
- iperf详细使用方法
- 易语言窗口c_句柄取进程名,易语言进程id取窗口句柄
- ragel学习资源整合
- hp服务器修改bios设置,HP 服务器进入BIOS 按键总结
- 倒计时器 (WPF)
- 关于Alipay支付宝接口(Java版)