CDH-5.7.1离线安装
参考自：http://blog.csdn.net/jdplus/article/details/45920733
1、文件下载
CDH (Cloudera’s Distribution, including Apache Hadoop)，是Hadoop众多分支中的一种，由Cloudera维护，基于稳定版本的Apache Hadoop构建，并集成了很多补丁，可直接用于生产环境。 
Cloudera Manager则是为了便于在集群中进行Hadoop等大数据处理相关的服务安装和监控管理的组件，对集群中主机、Hadoop、Hive、Spark等服务的安装配置管理做了极大简化。 
相关包的下载地址： 
Cloudera Manager地址：http://archive.cloudera.com/cm5/cm/5/ 
下载对应的文件，我下载的是：cloudera-manager-el6-cm5.9.2_x86_64.tar.gz
CDH安装包地址：http://archive.cloudera.com/cdh5/parcels
由于我们的操作系统为CentOS6.8，需要下载以下文件,找到对应的版本： 
CDH-5.7.1-1.cdh5.9.2.p0.3-el6.parcel 
CDH-5.7.1-1.cdh5.9.2.p0.3-el6.parcel.sha1
manifest.json 
准备JDBC，等下连接MySQL会用到：http://download.softagency.net/MySQL/Downloads/Connector-J/
算上jdbc一共是5个文件
强烈建议：有条件的话，以下所有操作都在root下完成，不要问我为什么知道的。
否侧，出现错误，10个有9个都是目录权限问题，根据log查错即可。

2、准备工作：系统环境搭建

如果使用虚拟机安装的话，每个节点至少保证硬盘空间20G，推荐30G以上。
内存，master至少6G，推荐8G以上，slave至少4G
以下操作均需要(root)管理员权限 
2.1、网络配置(所有节点) 
 临时修改 hostname 主机名
修改主机名：vim /etc/sysconfig/network

　　NETWORKING=yes

HOSTNAME=主机名
GATEWAY=192.168.3.253

修改ip与主机名的对应关系：vim /etc/hosts

192.168.3.201   node1

192.168.3.202   node2

192.168.3.203   node3

192.168.3.204   node4

修改网络配置
vim /etc/sysconfig/network-scripts/ifcfg-eth0
  1. DEVICE="eth0"
  2. BOOTPROTO=none
  3. IPV6INIT="yes"
  4. NM_CONTROLLED="yes"
  5. ONBOOT="yes"
  6. TYPE="Ethernet"
  7. UUID="038b2dab-5902-46d7-9d4c-2c0fb42599b9"
  8. HWADDR=00:0C:29:50:84:9A
  9. IPADDR=192.168.3.201
  10. PREFIX=24
  11. GATEWAY=192.168.3.253
  12. DNS1=192.168.1.242
  13. DEFROUTE=yes
  14. IPV4_FAILURE_FATAL=yes
  15. IPV6_AUTOCONF=yes
  16. IPV6_DEFROUTE=yes
  17. IPV6_PEERDNS=yes
  18. IPV6_PEERROUTES=yes
  19. IPV6_FAILURE_FATAL=no
  20. NAME="System eth0"
  21. LAST_CONNECT=1468601480
2.2、打通SSH，设置ssh无密码登陆（所有节点） 
执行ssh-keygen -t rsa，一路回车，生成无密码的密钥对。 
将公钥添加到认证文件中：cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys，并设置authorized_keys的访问权限：chmod 600 ~/.ssh/authorized_keys。 
通过scp命令将各节点的认证文件拷贝到所有其他节点使得各节点能够相互访问。
 
2.3、安装Oracle的Java（所有节点）
（JAVA安装路径：最好选择以下） 
'/usr/java/jdk1.8' 、'/usr/java/jre1.8' 、'/usr/lib/jvm/j2sdk1.8-oracle'、 '/usr/lib/jvm/j2sdk1.8-oracle/jre' 、'/usr/lib/jvm/java-8-oracle'
'/usr/lib/jvm/java-1.8.0-openjdk' 、'/usr/lib/jvm/java-8-openjdk'
'/Library/Java/Home' 、'/usr/java/default'、 '/usr/lib/jvm/default-java'、 '/usr/lib/jvm/java-openjdk' 、'/usr/lib/jvm/jre-openjdk'
CDH默认会到这些目录下找JAVA
CentOS自带OpenJdk，不过运行CDH5需要使用Oracle的JDK，需要Java 7的支持。 
卸载自带的OpenJdk，使用rpm -qa | grep java查询java相关的包，使用rpm -e --nodeps 包名卸载之。 
去Oracle的官网下载jdk的rpm安装包，并使用rpm -ivh 包名安装，最后配置环境变量。 
在 etc/profile中，
vi /etc/profile
添加如下(使用rpm安装的java在/usr/java/jdk1.8XXXX)：
  1. export JAVA_HOME=/usr/java/jdk1.8.0_91
  2. export PATH=$JAVA_HOME/bin:$PATH
  3. export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
然后使环境变量生效：
source /etc/profile
2.4、安装配置MySql（主节点） 
# mysql          客户端程序
# mysql-server    服务端程序
# mysql-devel    开发设计的库
[root@localhost ~]# yum -y install mysql mysql-server mysql-devel
 
# 开机启动
[root@localhost ~]# chkconfig mysqld on
# 启动mysqld服务
[root@localhost ~]# service mysqld start
# 进行一些安全性配置
[root@localhost ~]# /usr/bin/mysql_secure_installation
注意：这里远程连接mysql可能会出现权限报错，需要修改user表，具体方法请自行搜索
root的初试密码：mysqladmin -u root password 'xxxx'
mysql -u root -p
xxxxxx
进入mysql命令行，创建以下数据库：
  1. #hive
  2. create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;、
  3. #activity monitor
  4. create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
  5. #activity oozie 如果需要的话
  6. create database oozie DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
设置root授权访问以上所有的数据库：
#授权root用户在主节点拥有所有数据库的访问权限
  1. grant all privileges on *.* to 'root'@'主机名' identified by '密码' with grant option;
  2. flush privileges;
5.关闭防火墙和SELinux 
注意： 需要在所有的节点上执行，因为涉及到的端口太多了，临时关闭防火墙是为了安装起来更方便，安装完毕后可以根据需要设置防火墙策略，保证集群安全。 
关闭防火墙：
  1. service iptables stop （临时关闭）
  2. chkconfig iptables off （重启后生效）
关闭SELINUX（实际安装过程中发现没有关闭也是可以的，不知道会不会有问题，还需进一步进行验证）:
set enforce 0 （临时生效）  
修改 vi /etc/selinux/config 下的 
SELINUX=disabled （重启后永久生效）
  1. # This file controls the state of SELinux on the system.
  2. # SELINUX= can take one of these three values:
  3. #     enforcing - SELinux security policy is enforced.
  4. #     permissive - SELinux prints warnings instead of enforcing.
  5. #     disabled - No SELinux policy is loaded.
  6. SELINUX=disabled
  7. # SELINUXTYPE= can take one of these two values:
  8. #     targeted - Targeted processes are protected,
  9. #     mls - Multi Level Security protection.
  10. SELINUXTYPE=targeted
6.所有节点配置NTP服务 （这一步暂时可以跳过，但是在集群启动以后，会提示时间不同步）
集群中所有主机必须保持时间同步，如果时间相差较大会引起各种问题。 具体思路如下： 
master节点作为ntp服务器与外界对时中心同步时间，随后对所有datanode节点提供时间同步服务。 
所有datanode节点以master节点为基础同步时间。 
所有节点安装相关组件：yum install ntp。
启动 ntp：
$ service ntpd start
设置开机启动:
$ chkconfig ntpd on
检查是否设置成功：chkconfig --list ntpd其中2-5为on状态就代表成功。 
可以通过以下命令先进行时间同步：
ntpdate us.pool.ntp.org
主节点配置（master节点）
vi /etc/ntp.conf 
ntp服务只有一个配置文件，配置好了就OK。 这里只给出有用的配置，不需要的配置都用#注掉，这里就不在给出（大部分把#去掉即可，不需要添加）：
  1. driftfile /var/lib/ntp/drift
  2. # Permit time synchronization with our time source, but do not
  3. # permit the source to query or modify the service on this system.
  4. restrict default kod nomodify notrap nopeer noquery
  5. restrict -6 default kod nomodify notrap nopeer noquery
  6. # Permit all access over the loopback interface.  This could
  7. # be tightened as well, but to do so would effect some of
  8. # the administrative functions.
  9. restrict 127.0.0.1
  10. restrict -6 ::1
  11. # Hosts on local network are less restricted.
  12. restrict 192.168.3.0 mask 255.255.255.0 nomodify notrap
  13. # Use public servers from the pool.ntp.org project.
  14. # Please consider joining the pool (http://www.pool.ntp.org/join.html).
  15. server 0.centos.pool.ntp.org iburst
  16. server 1.centos.pool.ntp.org iburst
  17. server 2.centos.pool.ntp.org iburst
  18. server 3.centos.pool.ntp.org iburst
配置文件完成，保存退出，启动服务，执行如下命令：service ntpd start 
检查是否成功，用ntpstat命令查看同步状态，出现以下状态代表启动成功：
synchronisedto NTP server () at stratum 2time correct towithin74 mspolling server every 128 s
如果出现异常请等待几分钟，一般等待5-10分钟才能同步。 
在其他节点，直接运行
ntpdate -u node1 
(主节点ntp服务器) 即可，和node1同步
这里可能出现同步失败的情况，请不要着急，一般是本地的ntp服务器还没有正常启动，一般需要等待5-10分钟才可以正常同步。启动服务：service ntpd start 
因为是连接内网，这次启动等待的时间会比master节点快一些，但是也需要耐心等待一会儿。

3、开始安装Cloudera Manager

安装Cloudera Manager Server 和Agent 
3.1、主节点解压安装 
cloudera manager的目录默认位置在/opt下，解压：tar xzvf cloudera-manager*.tar.gz将解压后的cm-5.7.1和cloudera目录放到/opt目录下。 
为Cloudera Manager 5建立数据库 
首先需要去MySql的官网下载JDBC驱动，http://dev.mysql.com/downloads/connector/j/，解压后，找到mysql-connector-java-5.1.35-bin.jar，放到/opt/cm-5.7.1/share/cmf/lib/中。 
在主节点初始化CM5的数据库：
/opt/cm-5.9.2/share/cmf/schema/scm_prepare_database.sh mysql cm -h master -u root -p 890610 --scm-host master scm scm scm  
在这里后面的参数分别是：数据库类型 数据库名称 数据库主机名 数据库用户名 密码 --scm-host cmserver主机名 scm scm scm
3.2、Agent配置 
修改/opt/cm-5.9.2/etc/cloudera-scm-agent/config.ini中的server_host为主节点的主机名。 
同步Agent到其他所有节点：
scp -r /opt/cm-5.9.2 root@slave2:/opt/  
在所有节点创建cloudera-scm用户
useradd --system --home=/opt/cm-5.9.2/run/cloudera-scm-server/ --no-create-home --shell=/bin/false --comment "Cloudera SCM User" cloudera-scm  
准备Parcels，用以安装CDH5 
将CHD5相关的Parcel包放到主节点的/opt/cloudera/parcel-repo/目录中（parcel-repo需要手动创建）。 
相关的文件如下：
CDH-5.7.1-1.cdh5.9.2.p0.5-el6.parcel
CDH-5.7.1-1.cdh5.9.2.p0.5-el6.parcel.sha1
manifest.json
最后将CDH-5.9.2-1.cdh5.9.2.p0.3-el6.parcel.sha1，重命名为CDH-5.9.2-1.cdh5.9.2.p0.3-el6.parcel.sha
这点必须注意，否则，系统会重新下载CDH-5.9.2-1.cdh5.9.2.p0.3-el6.parcel.sha1文件。 
相关启动脚本 
通过/opt/cm-5.9.2/etc/init.d/cloudera-scm-server start启动服务端。 
通过/opt/cm-5.9.2/etc/init.d/cloudera-scm-agent start启动Agent服务。 （所有节点都要启动Agent服务，包括服务端）
我们启动的其实是个service脚本，需要停止服务将以上的start参数改为stop就可以了，重启是restart。
安装到此处，可以考虑备份节点，为将来的节点拓展做准备。 
CDH5的安装配和集群配置
Cloudera Manager Server和Agent都启动以后，就可以进行CDH5的安装配置了。 
这时可以通过浏览器访问主节点的7180端口测试一下了（由于CM Server的启动需要花点时间，这里可能要等待一会才能访问成果，可能需要3-5分钟），默认的用户名和密码均为admin：
 
 
各个Agent节点正常启动后，可以在当前管理的主机列表中看到对应的节点。选择要安装的节点，点继续。
接下来，出现以下包名，说明本地Parcel包配置无误，直接点继续就可以了。
如果此处发现不到parcel包，就重启所有节点的agent服务，和master的server服务。
点击，继续，如果配置本地Parcel包无误，那么下图中的已下载，应该是瞬间就完成了，然后就是耐心等待分配过程就行了，这个过程的速度就取决于节点之间的传输速度。
等待一下，连接访问master:7180即可
所有节点部署完成
接下来是主机检查，可能会遇到以下问题： 
Cloudera 建议将 /proc/sys/vm/swappiness 设置为 0。当前设置为 60。使用 sysctl 命令在运行时更改该设置并编辑 /etc/sysctl.conf 以在重启后保存该设置。您可以继续进行安装，但可能会遇到问题，Cloudera Manager 报告您的主机由于交换运行状况不佳。以下主机受到影响： 
通过echo 10 > /proc/sys/vm/swappiness即可解决。（注意切换到root）
已启用透明大页面压缩，可能会导致重大性能问题。请运行“echo never > /sys/kernel/mm/transparent_hugepage/defrag”和“echo never > /sys/kernel/mm/transparent_hugepage/enabled”以禁用此设置，然后将同一命令添加到echo never > /etc/rc.local 等初始化脚本中，以便在系统重启时予以设置。以下主机将受到影响:
接下来是选择安装服务：
服务配置，一般情况下保持默认就可以了（Cloudera Manager会根据机器的配置自动进行配置，如果需要特殊调整，自行进行设置就可以了）：
接下来是数据库的设置，检查通过后就可以进行下一步的操作了：
此处可能需要新建oozie的数据库
下面是集群设置的审查页面，全部保持默认配置即可：
这里地方可以考虑修改hdfs的存储文件夹，另外如果需要自己设定文件夹，一定要先mkdir文件夹，否侧hdfs会无法启动，并且报错文件夹不存在，并确保访问权限。
终于到安装各个服务的地方了，注意，这里安装Hive，或oozie的时候可能会报错，因为我们使用了MySql作为hive的元数据存储，hive默认没有带mysql的驱动，通过以下命令拷贝一个就行了：
  1. cp /opt/cm-5.7.1/share/cmf/lib/mysql-connector-java-*-bin.jar /opt/cloudera/parcels/CDH-5.7.1-1.cdh5.7.1.p0.11/lib/hive/lib/
  2. cp /opt/cm-5.7.1/share/cmf/lib/mysql-connector-java-*-bin.jar /opt/cloudera/parcels/CDH-5.7.1-1.cdh5.7.1.p0.11/lib/oozie/lib/
  3. cp /opt/cm-5.7.1/share/cmf/lib/mysql-connector-java-*-bin.jar /var/lib/oozie/
接下静静地等待即可。
安装完成后，就可以进入集群界面看一下集群的当前状况了。 
这里可能会出现无法发出查询：对 Service Monitor 的请求超时的错误提示，如果各个组件安装没有问题，一般是因为服务器比较卡导致的，过一会刷新一下页面就好了,根据实际情况调整配置即可：
另外如果想添加新的主机，必须要先启动新主机上的agent服务，否则新主机不能被发现，要重新下载cm-agent，很麻烦。安装新的节点以后，记得运行"部署客户端"命令。
Q&A:
1.在我部署完成以后，会出现大量问题，其中有大量警告，是由于var/log/*的权限问题造成的。
在master上，运行chmod -R 777对应的文件夹修改权限即可。
2.出现oozie和hive不能成功启动
一般是因为缺少jdbc，复制到相应位置即可，参照原文。或者是由于mysql数据库中的表造成的，可能是表已经存在了。
3.service monitor和host monitor都无法启动
一般也是由于var/log/*的权限问题造成的。
4.service monitor和host monitor正常启动，但是无法获取到图表数据
注销admin重新进入，或者等一下
5.hdfs不能正常启动
可能是因为/dfs的权限原因，提高/目录的权限
6.hdfs和yarn的端口不再是9000和10020，默认的是8020和8021
7.如果使用Windows远程调试，请保证host文件（C:/Windows/System32/drivers/hosts）和集群上的host文件内容一致。
8.主机崩溃怎么办。一般来说崩溃了，直接重启就好。不过一定记得要再次启动cm的agent和server服务
调整相关阈值后，基本正常运行。
出现问题重装教程：
当前受管
假如在安装的时候出现问题，如网络连接中断，机器死机，继续安装的时候可能会出现查询不到机器，并且根据ip搜索机器的时候，出现“当前受管”
的状态为“是”，安装失败的机器不能再选择了。
先停止所有服务。清除数据库。
1> 删除Agent节点的UUID 
      # rm -rf /opt/cm-5.9.2/lib/cloudera-scm-agent/*
2>  清空主节点CM数据库
      进入主节点的Mysql数据库，然后drop database cm;
3> 在主节点上重新初始化CM数据库
     # /opt/cm-5.9.2/share/cmf/schema/scm_prepare_database.sh mysql cm -hlocalhost -uroot -p890610 --scm-host localhost scm scm scm

转载于:https://www.cnblogs.com/irich/p/6883839.html

CDH-5.7.1离线安装相关推荐

  1. CDH 5.15.2 离线安装

    一.前置准备 1. 基础信息 1.1 机器 机器名 服务 hadoop1 主节点 hadoop2 data.task hadoop3 data.task 1.2 服务版本 服务 版本 cdh 5.15 ...

  2. CDH 6.3.2 离线安装部署详细教程 （亲妈级别教学，有手就行）

    CDH6.3.2安装手册 更新文档见 https://gitee.com/baomili/bigdata-notes 最新最全 文章目录 @[toc] 参考博客 官网地址 1 下载CM和CDH 2 C ...

  3. datagrip jdbc驱动_datagrip离线安装驱动jar

    问题描述: datagrip离线安装驱动,在线的安装驱动一般默认安装在当前用户下.DataGrip xxxx 问题解决: 在线在线下载驱动jar,复制jar到内网离线环境 01.外网已经存在的jar提 ...

  4. CDH Parcels 离线安装

    Installation Path A - Automated Installation by ClouderaManager 要求所有机器都能连网,而且外国网站不太稳定.一旦失败,重装非常痛苦. I ...

  5. Cloudera Manager和CDH5.8离线安装

    https://blog.csdn.net/zzq900503/article/details/52982828 简介 我们在上篇文章中已经了解了CDH,为了后续的学习,我们本章就来安装CDH5.8. ...

  6. cdh6.2离线安装（傻瓜式安装教程）

    CDH6.2离线安装流程 1 安装准备 1.1 cdh6.2 下载方式一: 官网下载 https://archive.cloudera.com/cm6/6.2.0/redhat7/yum/RPMS/x ...

  7. [转]Cloudera Manager和CDH5.8离线安装

    https://blog.csdn.net/zzq900503/article/details/52982828 https://www.cnblogs.com/felixzh/p/9082344.h ...

  8. hadoop基础----hadoop实战(七)-----hadoop管理工具---使用Cloudera Manager安装Hadoop---Cloudera Manager和CDH5.8离线安装

    hadoop基础----hadoop实战(六)-----hadoop管理工具---Cloudera Manager---CDH介绍 简介 我们在上篇文章中已经了解了CDH,为了后续的学习,我们本章就来 ...

  9. CDH6.3.2离线安装教程——超级详细版-附带安装包地址

    CDH6.3.2离线安装教程 CDH6.3.2离线安装教程 1 首先上传离线安装包到主服务器上 1.1相关文件百度云下载地址 2 配置基础环境 2.1 服务器配置 2.2 每台机器安装常用的工具 2. ...

最新文章

  1. Nginx 反向代理 负载均衡 虚拟主机
  2. linux shell写服务,Linux shell编写系统服务脚本
  3. 第二次作业#include stdio.h int main() { int a,b,c,d,e; printf(请输入一个不多于五位的整数：\n); scanf(%...
  4. BaseAction
  5. 计算机e盘拒绝访问,电脑中的D盘与E盘拒绝访问是为什么?
  6. 初学者设计数据库_面向初学者的完整数据库设计课程
  7. 干掉 BeanUtils！试试这款 Bean 自动映射工具，真心强大！
  8. 学会这几招，晋升不慌了！
  9. 最低通行费（信息学奥赛一本通-T1287）
  10. 济宁医学院计算机科学与技术专业怎么样,济宁医学院专业排名及介绍 哪些专业最好...
  11. ASP.NET深入浅出系列3- Page类
  12. Android项目实战（三十一）：异步下载apk文件并安装(非静默安装)
  13. VGS--网络三维互动软件技术
  14. java web web.xml配置_web.xml配置详解
  15. linux pulseaudio卸载,解决Ubuntu 9.04 下 PulseAudio声音故障
  16. Ubuntu获取最高权限（su）的方式
  17. Cygwin安装教程【超详细】
  18. 凸优化学习（一）凸集与凸函数、凸优化问题
  19. VM虚拟机分区硬盘/安装win10系统
  20. html 调用es2015模块,给大家分别介绍一下CommonJS和ES2015的import

热门文章

  1. 《算法竞赛入门经典》 习题4-1（象棋 Xiangqi ACM ICPC Fuzhou 2011，UVa1589）——仅提供大体方法
  2. 【Qt】QModbusServer类
  3. 【Tools】XMind8安装教程详解
  4. 【Linux】一步一步学Linux——apt-get命令(278)
  5. 世界是一台超级计算机,这个世界其实是一个超级计算机
  6. html div p 区别,html中div br p三者有什么区别？
  7. hadoop（3）——yarn查看方式
  8. hibernate更新部分字段的几种方法
  9. DEBUG各命令详细说明(很详细)
  10. 【Linux】虚拟地址空间