Hadoop自动安装脚本
Hadoop自动安装脚本
文章目录
- Hadoop自动安装脚本
- 前言
- 脚本说明
- 脚本截图
- 后记
前言
最近在学习大数据的相关知识,对于 Hadoop的安装这一块,身边不少同学安装都存在许多问题,不行安装 SSH啦、不会配置环境变量啦之类的,网上的教程五花八门,大家配置的过程总是出现问题。
我也耐心地一个一个地帮忙,但是 Hadoop的配置过程本就繁琐,一个同学的配置往往要花掉几个小时才能弄好,三四个同学一帮,我一天的时间就没了。
我觉得这样做不是办法,于是萌生了用自动化工具的想法,去开发一个 Shell脚本。只要同学们去镜像站下载好 Hadoop,直接运行脚本文件,就可以实现一键配置,我只需要教大家脚本的使用技巧就行了,这大大节省了时间。
说干就干,在网上查阅 Linux Shell脚本的编写方法,翻阅了很多资料,历经千辛万苦,de了无数的 bug,花了整整一天时间,终于将脚本编写完毕。
脚本说明
因为我自己使用的是 Ubuntu系统,所以就针对 Ubuntu系统编写了这个脚本,目前还没有对其他系统做适配。脚本的地址在我的码云仓库里 Hadoop自动安装脚本
当前,这个脚本的运行也是需要前提条件的,这些我都在网站上做了说明,脚本运行时也会进行提示:
- 本脚本仅适用于 Ubuntu 系统,目前尚未对其他系统做适配
- 当前用户必须有足够的权限,例如管理员权限
- 系统已经安装了JDK,并配置了环境变量
- Hadoop安装文件与脚本必须都在 home 目录下
- 保证系统处于联网状态
目前运行脚本时需要注意的就是有两次 ssh登录,所以需要有两次 exit退出(这些都在脚本里写有提示)。脚本运行完毕后,配置就完成了,自己手动初始化 HDFS,就可以开始使用 Hadoop了。
关于脚本运行之前可能会出的几个问题,我都在 ReadMe中进行了说明,仓库里还有一个脚本使用说明的 pdf文件,两者大同小异,都是解决脚本在正常运行之前可能遇到的问题。
关于默认设置,脚本运行的默认路径是用户的 home目录下,解压安装出的 Hadoop文件也是在 home目录下。脚本配置的是 Hadoop伪分布式模式,默认是 localhost。
脚本截图
两天时间,hadoop 的脚本我已经更新了六次了。基本上已经解决了同学们安装过程中反馈出的一些问题。目前脚本在 Ubuntu系统上已经可以很好地运行起来,没有什么问题了。
之后又如法炮制,编写了安装 HBase的脚本,同理也是默认 home目录,配置的伪分布式模式,localhost登录。
Hadoop脚本的运行截图
HBase脚本的运行截图
后记
强调一下,脚本配置虽然方便,但是为了方便你可能就什么也不懂了。虽然脚本好用,我还是建议大家要亲自去配置一遍 Hadoop,熟悉整个配置流程,遇到问题积极解决,这样才能锻炼你的能力。
掌握了 Hadoop的配置流程之后,那就可以优先使用脚本去配置了,毕竟原理都掌握了,使用脚本真的可以节约时间。
当然,这个脚本也还有很多可以被优化的地方,关于异常的处理还做得不够好。如果你能深入研究并对这个脚本进行优化,那就更好了。这样你不仅可以对 Hadoop的配置流程非常熟悉,还可以学到了编写 shell 脚本的一些经验。
Hadoop自动安装脚本相关推荐
- Hadoop自动化安装脚本
参考资料和说明 参考资料: hadoop-2.3.0详细安装过程 码云GIT: hadoop-2.4.0家族自动化安装脚本 >>> 获取邀请码 版本信息: hadoop-2.4.0- ...
- Puppet客户端自动安装脚本
运维自动化发展已经是势不可挡,传统的靠大量人力运维的方式渐不能满足企业IT发展的需求,其中Puppet自动化更是受到IT人士的青睐,那今天我们一起来研究一下puppet客户端的自动安装脚本.脚本不足之 ...
- Linux从入门到精通——自动安装脚本
###kickstart 自动安装脚本的制作### KickStart是什么,有什么作用? KickStart是一种无人职守安装方式.KickStart的工作原理是通过记录典型的安装过程中所需人 ...
- Nginx自动安装脚本
如下脚本为Nginx自动安装脚本,仅供参考,可以根据实际情况修改,这里使用case方式,真实环境安装可以去掉case这种模式,全自动安装. #!/bin/sh ###nginx install she ...
- httpd-2.2.21 + php-5.3.8 自动安装脚本
httpd-2.2.21 + php-5.3.8 自动安装脚本 http://netkiller.github.com/#!/bin/bash #=========================== ...
- 第三方库自动安装脚本(复习)
第三方库自动安装脚本 一."第三方库自动安装脚本"问题分析 1.1 问题分析第三方库自动安装脚本需求:批量安装第三方库需要人工干预,能否自动安装?自动执行pip逐一根据安装需求安装 ...
- mysql自动安装脚本
为适应自己工作习惯和需要,花一点时间写了一个mysql自动安装脚本,供大家参考学习. 注意: 1.需要先安装cmake 2.数据库版本需要在第二步安装mysql时修改 3.该脚本是以root用户安装并 ...
- 自动安装第三方库python,python第三方库自动安装脚本
#python第三方库自动安装脚本,需要在cmd中运行此脚本 #BatchInstall.py import os libs = {"numpy","matplotlib ...
- centos7的freeswitch1.10.3自动安装脚本
大多数freeswitch安装说明都以debian为主,不过CentOS使用方便用户众多,因此整理了CentOS7的freeswitch1.10.3的自动安装脚本,方便以后使用. 脚本包含两个文件:i ...
最新文章
- eclipse中maven打包
- Amazon Corretto技术细节探秘
- 结对作业——四则运算
- ajax会占用服务器端内存吗,javascript - 为什么不允许在jquery datatable服务器端处理ajax成功使用? - 堆栈内存溢出...
- 如何实现大数据可视化系统
- 刷题记录 kuangbin带你飞专题九:连通图
- java 读写acr122u_使用ACR122U NFC读卡器对M1卡进行读写操作(可以读写中文)
- COMSOL(1)寻找最小曲面
- 如何修改手游版本服务器,原神怎么只下一次客户端 b服官服渠道服手机自由切换方法...
- mysql 关闭防火墙 命令_CentOS7关闭防火墙命令
- 计算机入门模拟试卷c卷,《计算机入门》模拟卷C答案-华东师范大学.doc
- Android哪个系统占用内存小,哪个安卓模拟器占用的内存小,使用起来又不卡
- 求1+2!+3!+...+n!的和。
- linux系统日志文件介绍
- 小型便携式AIS接收机dAI01
- Bluetooth SIG定义的标准Characteristics UUID
- 微时代的微营销利器有哪些
- 陀曼智能IPO被终止:年营收2.7亿曾拟募资3.8亿 俞朝杰是实控人
- 里程碑式突破!你好,元境的2022
- java ognl表达式_Arthas的高级操作-Ognl表达式
热门文章
- AutoBench+Httperf的安装、测试
- Java集合:Hashtable源码分析
- 湖南师范大学c语言作业答案,2017年湖南师范大学物理与信息科学学院845C语言程序设计考研题库...
- 华为手机截屏怎么截长图_华为手机竟然有6种截屏方法,你用过几种?3种以上的手机没白买...
- 怎样用springboot开发cs_springboot开发之配置自定义的错误界面和错误信息
- android出现adpt2的问题,android - 尝试在空对象引用上调用接口方法'int android.database.Cursor.getCount()'[重复] - 堆栈内存溢出...
- 新基建数据中心如何建?附建设导则
- 又一个高等级数据中心着火了!
- python idle撤回上一条命令_找回Python IDLE Shell里的历史命令(用上下键翻历史命令怎么不好用了呢?)...
- python pil保存图片_python爬取百度图片并保存到本地