2019独角兽企业重金招聘Python工程师标准>>> hot3.png

转载请务必注明原创地址为:http://dongkelun.com/2018/04/25/ambariConf/

前言

本文是讲如何在centos7(64位) 安装ambari+hdp,如果在装有原生hadoop等集群的机器上安装,需要先将集群服务停掉,然后将不需要的环境变量注释掉即可,如果不注释掉,后面虽然可以安装成功,但是在启动某些服务的时候可能会有异常,比如最后提到的hive启动异常。本文适合系统: RedHat7、CentOS7、Oracle Linux7(都是64位)

注意:centos7中文系统有bug(python脚本中文识别问题),需要使用英文系统。

本文仅作参考(基本每个配置博客都有局限性和坑~),推荐先参考官方文档:

https://docs.hortonworks.com/HDPDocuments/Ambari-2.6.1.5/bk_ambari-installation/content/ch_Getting_Ready.html

以下均在root用户下执行。

1、满足最低系统要求

1.1 浏览器

建议您将浏览器(自己使用的windows既可)更新至最新的稳定版本

1.2 软件要求(在每台主机上)

1.2.1 yum和rpm
1.2.2 scp, curl, unzip, tar、 wget
1.2.3 OpenSSL(v1.01,build 16或更高版本)
1.2.4 python:2.7(注意如果有使用python3.x的需求,不要改变python环境变量,否则3.x会报错)
1.2.5 jdk:1.8
1.2.6 mysql:5.6(官网上写的5.6,不确定更高版本有没有问题,也可以使用其他数据库,根据自己习惯)
1.2.7 内存要求:Ambari主机应该至少有1 GB RAM,500 MB空闲,(但如果使用的话,建议内存8g以上,我自己的虚拟机内存4g搭好后跑起来会很卡,配置低的话警告也会很多)
1.2.8 检查最大打开文件描述符,推荐的最大打开文件描述符数为10000或更多
1.2.9 mysql-connector-java

以上软件大部分系统自带,其余可参考:CentOS 初始环境配置

2、环境准备(在每台主机上)

2.1 ssh 免密

只需master 免密到其他节点(包含自身),不需要互通,参考:linux ssh 免密登录

2.2 启用NTP

yum install -y ntp
systemctl enable ntpd

2.3 编辑主机文件

vim /etc/hosts

本文只是在个人虚拟机上进行安装测试,所以只选择两个节点,在公司真实环境下多个节点安装是一样的,ambari对内存要求较高,如果个人电脑配置不高的话,建议学习一下即可。

192.168.44.138 ambari.master.com
192.168.44.139 ambari.slave1.com

其中后面的如ambari.master.com为完全限定域名(FQDN)(通过符号“.”),不能简单的设为master等,如果该文件里有其他映射,如上面的配置必须要在最前面(自带的localhost下面一行),否则后面安装会报错。

2.4 设置主机名

以ambari.master.com为例

2.4.1

hostname ambari.master.com

2.4.2

vim /etc/hostname
ambari.master.com

两步缺一不可,通过命令验证

hostname
hostname -f

两个必须都为ambari.master.com才行

2.5 编辑网络配置文件

vim /etc/sysconfig/network

修改HOSTNAME属性为FQDN

NETWORKING=yes
HOSTNAME=ambari.master.com

2.6 禁用iptables

systemctl disable firewalld
service firewalld stop

2.7 禁用SELinux

2.7.1 临时禁用

setenforce 0

2.7.2 永久禁用(重启机器)

vim /etc/sysconfig/selinux

将SELINUX改为disabled

SELINUX=disabled

这样服务器或虚拟机重启也没有问题。

3、制作本地源(仅在master)

因为ambari 和 hdp 安装文件比较大,如果在线安装的话会很慢,所以最好选择本地源。

(可以在集群可以访问的任何机器上制作本地源)

3.1 安装制作本地源工具

yum install yum-utils createrepo

3.2 创建一个HTTP服务器

yum install httpd -y
systemctl enable httpd && systemctl start httpd

3.3 为Web服务器创建目录

mkdir -p /var/www/html/hdp/HDP-UTILS

3.4 下载系统对应的最新版相关安装包

其中包括Ambari、HDP、HDP-UTILS,由于HDP-GPL较小只有几百k,所以没有配置为本地源。

3.4.1 下载

wget http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.6.1.5/ambari-2.6.1.5-centos7.tar.gz
wget http://public-repo-1.hortonworks.com/HDP/centos7/2.x/updates/2.6.4.0/HDP-2.6.4.0-centos7-rpm.tar.gz
wget http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.22/repos/centos7/HDP-UTILS-1.1.0.22-centos7.tar.gz

下载地址见官方文档:https://docs.hortonworks.com/HDPDocuments/Ambari-2.6.1.5/bk_ambari-installation/content/ch_obtaining-public-repos.html

3.4.2 解压

tar -zxvf ambari-2.6.1.5-centos7.tar.gz -C /var/www/html
tar -zxvf HDP-2.6.4.0-centos7-rpm.tar.gz -C /var/www/html/hdp/
tar -zxvf HDP-UTILS-1.1.0.22-centos7.tar.gz  -C /var/www/html/hdp/HDP-UTILS/

3.4.3 解决在浏览器访问http://ambari.master.com/hdp/HDP/centos7/2.6.4.0-91 为空白

原因:该目录下index.xml使用了 https://ajax.googleapis.com/ajax/libs/jquery/3.1.1/jquery.min.js 国内访问不了谷歌,将index.xml注释掉即可

cd /var/www/html/hdp/HDP/centos7/2.6.4.0-91
mv index.xml index.xml.bak

此时应该可以在浏览器访问下面的地址了,可以验证一下

http://ambari.master.com/ambari/centos7/2.6.1.5-3/
http://ambari.master.com/hdp/HDP/centos7/2.6.4.0-91
http://ambari.master.com/hdp/HDP-UTILS

3.5 配置ambari、HDP、HDP-UTILS的本地源

cp /var/www/html/ambari/centos7/2.6.1.5-3/ambari.repo /etc/yum.repos.d/
cp /var/www/html/hdp/HDP/centos7/2.6.4.0-91/hdp.repo /etc/yum.repos.d/

将每个repo里的baseurl和gpgkey的地址修改为本地的

vim /etc/yum.repos.d/ambari.repo
#VERSION_NUMBER=2.6.1.5-3
[ambari-2.6.1.5]
name=ambari Version - ambari-2.6.1.5
baseurl=http://ambari.master.com/ambari/centos7/2.6.1.5-3
gpgcheck=1
gpgkey=http://ambari.master.com/ambari/centos7/2.6.1.5-3/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1
vim /etc/yum.repos.d/hdp.repo
#VERSION_NUMBER=2.6.4.0-91
[HDP-2.6.4.0]
name=HDP Version - HDP-2.6.4.0
baseurl=http://ambari.master.com/hdp/HDP/centos7/2.6.4.0-91
gpgcheck=1
gpgkey=http://ambari.master.com/hdp/HDP/centos7/2.6.4.0-91/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1[HDP-UTILS-1.1.0.22]
name=HDP-UTILS Version - HDP-UTILS-1.1.0.22
baseurl=http://ambari.master.com/hdp/HDP-UTILS
gpgcheck=1
gpgkey=http://ambari.master.com/hdp/HDP/centos7/2.6.4.0-91/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1
yum clean all
yum list update
yum makecache
yum repolist

3.6 (可选)如果您的环境中配置了多个存储库,请在集群中的所有节点上部署以下插件

yum install yum-plugin-priorities -y
vim /etc/yum/pluginconf.d/priorities.conf
[main]
enabled = 1
gpgcheck=0

4、安装ambari(仅在master)

4.1安装ambari-server

yum install ambari-server -y

4.2 设置mysql连接器

ambari-server setup --jdbc-db=mysql --jdbc-driver=/usr/share/java/mysql-connector-java.jar

(如果使用mysql作为hive的元数据库)

4.3 创建相关的mysql数据库

创建ambari数据库及用户,登录root用户执行下面语句:

mysql -uroot -pRoot-123
create database ambari character set utf8 ;
CREATE USER 'ambari'@'%'IDENTIFIED BY 'Ambari-123';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';
FLUSH PRIVILEGES;

如果要安装Hive,再创建Hive数据库和用户,再执行下面的语句:

create database hive character set utf8 ;
CREATE USER 'hive'@'%'IDENTIFIED BY 'Hive-123';
GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%';
FLUSH PRIVILEGES;

hive用户可以不用指定全部库的权限。

4.4 配置ambari-server

4.4.1 setup

ambari-server setup

4.4.2 配置流程

以下为全部的配置过程,其中主要是自定义jdk,输入JAVA_HOME路径,自定义数据库选mysql,输入数据库用户名,密码等

ambari-server setup
Using python  /usr/bin/python2
Setup ambari-server
Checking SELinux...
SELinux status is 'enabled'
SELinux mode is 'permissive'
WARNING: SELinux is set to 'permissive' mode and temporarily disabled.
OK to continue [y/n] (y)? y
Customize user account for ambari-server daemon [y/n] (n)? y
Enter user account for ambari-server daemon (root):ambari
Adjusting ambari-server permissions and ownership...
Checking firewall status...
Checking JDK...
[1] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8
[2] Oracle JDK 1.7 + Java Cryptography Extension (JCE) Policy Files 7
[3] Custom JDK
==============================================================================
Enter choice (1): 3
WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts.
WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please make sure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts.
Path to JAVA_HOME: /opt/jdk1.8.0_151
Validating JDK on Ambari Server...done.
Checking GPL software agreement...
GPL License for LZO: https://www.gnu.org/licenses/old-licenses/gpl-2.0.en.html
Enable Ambari Server to download and install GPL Licensed LZO packages [y/n] (n)? y
Completing setup...
Configuring database...
Enter advanced database configuration [y/n] (n)? y
Configuring database...
==============================================================================
Choose one of the following options:
[1] - PostgreSQL (Embedded)
[2] - Oracle
[3] - MySQL / MariaDB
[4] - PostgreSQL
[5] - Microsoft SQL Server (Tech Preview)
[6] - SQL Anywhere
[7] - BDB
==============================================================================
Enter choice (1): 3
Hostname (localhost):
Port (3306):
Database name (ambari):
Username (ambari):
Enter Database Password (bigdata):
Re-enter password:
Configuring ambari database...
Configuring remote database connection properties...
WARNING: Before starting Ambari Server, you must run the following DDL against the database to create the schema: /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
Proceed with configuring remote database connection properties [y/n] (y)? y
Extracting system views...
ambari-admin-2.6.1.5.3.jar
...........
Adjusting ambari-server permissions and ownership...
Ambari Server 'setup' completed successfully.

4.4.3将Ambari数据库脚本导入到数据库

mysql -uambari -pAmbari-123
use ambari;
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql

4.4.4 启动ambari

ambari-server start

4.4.5 启动成功,可以通过如下地址访问:

http://ambari.master.com:8080

用户名,密码为admin admin

5、使用ambari浏览器界面安装hadoop,hive等组件

5.1 登录到ambari管理界面

http://ambari.master.com:8080

1620

5.2 安装hdp集群,点击Launch Install Wizard

1620

5.3,设置集群名称

1620

5.4 配置本地源

其中HDP-GPL较小,用默认的即可

1620

5.5 设置host

其中下面的为master上ssh的私钥(~/.ssh/id_rsa)

1620

5.6 Host确认

如果失败或者卡住不动可根据日志解决,如果warn根据提示信息解决,知道全部为Success才可以进行下一步。

1620

1620

5.7 选择要安装的服务

1620

1620

如果有依赖其他组件选择ok即可,如安装hive依赖tez,pig等

1620

5.8 设置各个服务Master

1620

5.9 设置Slaves 和 Clients

1620

5.10 自定义配置

其中红色的必须要改,大致是设置路径,密码等,如hive要设置hive元数据的数据库信息,我用的master上的mysql

1620

测试一下连接

1620

没有了红色的即可进行下一步,如遇到warn,可根据提示信息进行修改配置,也可以忽略警告,等装完以后再改。

5.11 review前面的配置

1620

5.12 安装、启动、测试

这里因为个人电脑配置较低,浏览器有点卡,进度条没有显示出来。

1620

5.13 安装完成

若最后出现警告,可以装完重启所有服务,再检查看看有没有问题,如有警告或启动失败,可根据日志排查原因,一开始安装的的组件较多的话,出现警告的可能性会大一些,所以可以先装几个必要的组件,之后一个一个组件装。

1620

5.14 概要

1620

5.15 hive启动异常

这次安装重启之后发现hive等服务启动不成功,我就把hive等卸载然后重装,本来以为是开始是hive没安装成功,但是重装后hive还是启动不成功,看了一下日志,发现是之前手动安装的原生的hive的环境变量没有注释掉,注释掉,重启ambari之后,再启动所有服务,就成功了(再在hive shell 里建表、插入数据、查询验证一下),所以如果在已经安装好的大数据集群上安装ambari,最好先把之前配的环境变量注释掉。

5.16 启动成功

1620

1620

转载于:https://my.oschina.net/hblt147/blog/3038795

centos7 ambari2.6.1.5+hdp2.6.4.0 大数据集群安装部署相关推荐

  1. 记一次 Centos7.x Hadoop3.x集群安装部署 Pig 0.17.0

    基本信息 官网 http://pig.apache.org/ 下载地址 http://www.apache.org/dyn/closer.cgi/pig https://mirror.bit.edu. ...

  2. centos7 下google Kubernetes(k8s)集群安装部署

    centos7 下google Kubernetes(k8s)集群安装部署 简介 安装环境 安装前准备 ECTD集群配置 命令含义: master节点配置 1.安装kubernetes和etcd 2. ...

  3. 在Centos7上进行Trino 377的集群安装部署

    目录 1. 集群规划 2. 安装依赖 3. 下载解压 4. 配置文件 4.1 服务器配置etc/config.properties 4.2 节点配置etc/node.properties 4.3 JV ...

  4. Linux(CentOS7)治理组件nacos(2.0.3版本)单机/集群安装部署详细图解

    一.演示环境说明 三台Linux服务器, IP1:192.168.65.200:IP2:192.168.65.201:IP3:192.168.65.202, MySql_V5.7.24:192.168 ...

  5. 基于CenOS7.9安装Ambari2.7.4.0+HDP3.1.4.0大数据平台

    1集群规划.配置说明 1.1系统说明 表1.1 集群系统说明表 操作系统 主机名 IP地址 CentOS-7-x86_64-DVD-2009  master 192.168.185.150 CentO ...

  6. Centos7 ceph集群安装 cephfs客户端挂载 java代码调用

    Centos7 ceph集群安装 cephfs客户端挂载 java代码调用 ceph简介(http://docs.ceph.org.cn/ 官方文档) ceph分为ceph monitor,ceph ...

  7. 原创:centos7.1下 ZooKeeper 集群安装配置+Python实战范例

    centos7.1下 ZooKeeper 集群安装配置+Python实战范例 下载:http://apache.fayea.com/zookeeper/zookeeper-3.4.9/zookeepe ...

  8. centos7 如何安装部署k8s_架构运维篇(五):Centos7/Linux中安装部署RocketMQ

    上一篇 架构运维篇(四):Centos7/Linux中Tomcat安装SSL证书实践 这一篇讲一下在Centos7/Linux安装RocketMQ,MQ的具体应用场景和使用就不再啰嗦了.我在没有使用过 ...

  9. centos7安装rabbitmq_rabbitmq v3.7.16安装部署文档

    RabbitMQ v3.7.16安装部署文档 部署安装过程严格按照官方文档的流程. 前言 软件版本 os centos7(ubuntu也适用,需要替换部分命令) rabbitmq v3.7.16 (r ...

最新文章

  1. CVPR 2020 Oral | 旷视提出Circle Loss,革新深度特征学习范式
  2. 如何在TEASOFT中加入直线与曲线?
  3. Javascript标准DOM Range操作
  4. java8的表达式_java8中的Lambda表达式
  5. ONTAK2010 Peaks加强版(离线在线)
  6. 给指定服务器加路由,无线路由器如何给终端分配指定的IP地址?
  7. Java并发程序设计(八)设计模式与并发之单例模式
  8. java 超时集合_确定性监视器脉冲/等待并在 生产环境 者 - 消费者集合中实现超时...
  9. ThinkSNS 仿蘑菇街 社区购物分享系统
  10. 简述linux中动态库和静态库的制作调用流程
  11. commons-fileupload实现文件上传下载
  12. jmeter安装包双击没反应_windows环境下Jmeter5.2的安装使用
  13. adb-常用命令记录
  14. 1.请求安全-- MD5的必要性以及实际应用场景
  15. Hibernate二级缓存 --Hibernate框架
  16. 【BAPC 2017】Hoarse Horses【欧拉平面图公式】
  17. CCF计算机软件能力认证试题练习:201903-2 二十四点
  18. 黑鲨重装计算机安装无法继续,图解黑鲨装机大师装机失败无法开机怎么办?
  19. mac安装虚拟机 centos7
  20. 论AI在叮咚智能音箱中的演进和应用

热门文章

  1. ecs服务器配置git_基于ECS和NAS搭建个人网盘
  2. android 视频默认图片格式,Android获取视频文件某一帧并设置图片
  3. pca主成分分析结果解释_SKLEARN中的PCA(Principal Component Analysis)主成分分析法
  4. [unreal4入门系列之六] 常用的按键和快捷键
  5. JAVA实现数值的整数次方(《剑指offern》)
  6. 这块DIY墨水屏手表火了!外观可盐可甜,无线蓝牙计步闹钟一应俱全 | 开源
  7. 波士顿动力机器狗新技能!跳绳园艺做家务,还有书法神技
  8. Nature:万物皆可“编程”,结构材料也能实现数据存储,华人科学家一作
  9. 国际顶级学术会议CIKM2019北京开幕在即,重量级嘉宾带你窥探人工智能前沿
  10. 清华姚班2019级新生来了:高考状元、奥赛金牌,也是一批被AI感召的00后