Hadoop自动安装脚本

文章目录

  • Hadoop自动安装脚本
    • 前言
    • 脚本说明
    • 脚本截图
    • 后记

前言

最近在学习大数据的相关知识,对于 Hadoop的安装这一块,身边不少同学安装都存在许多问题,不行安装 SSH啦、不会配置环境变量啦之类的,网上的教程五花八门,大家配置的过程总是出现问题。

我也耐心地一个一个地帮忙,但是 Hadoop的配置过程本就繁琐,一个同学的配置往往要花掉几个小时才能弄好,三四个同学一帮,我一天的时间就没了。

我觉得这样做不是办法,于是萌生了用自动化工具的想法,去开发一个 Shell脚本。只要同学们去镜像站下载好 Hadoop,直接运行脚本文件,就可以实现一键配置,我只需要教大家脚本的使用技巧就行了,这大大节省了时间。

说干就干,在网上查阅 Linux Shell脚本的编写方法,翻阅了很多资料,历经千辛万苦,de了无数的 bug,花了整整一天时间,终于将脚本编写完毕。

脚本说明

因为我自己使用的是 Ubuntu系统,所以就针对 Ubuntu系统编写了这个脚本,目前还没有对其他系统做适配。脚本的地址在我的码云仓库里 Hadoop自动安装脚本

当前,这个脚本的运行也是需要前提条件的,这些我都在网站上做了说明,脚本运行时也会进行提示:

  • 本脚本仅适用于 Ubuntu 系统,目前尚未对其他系统做适配
  • 当前用户必须有足够的权限,例如管理员权限
  • 系统已经安装了JDK,并配置了环境变量
  • Hadoop安装文件与脚本必须都在 home 目录下
  • 保证系统处于联网状态

目前运行脚本时需要注意的就是有两次 ssh登录,所以需要有两次 exit退出(这些都在脚本里写有提示)。脚本运行完毕后,配置就完成了,自己手动初始化 HDFS,就可以开始使用 Hadoop了。

关于脚本运行之前可能会出的几个问题,我都在 ReadMe中进行了说明,仓库里还有一个脚本使用说明的 pdf文件,两者大同小异,都是解决脚本在正常运行之前可能遇到的问题。

关于默认设置,脚本运行的默认路径是用户的 home目录下,解压安装出的 Hadoop文件也是在 home目录下。脚本配置的是 Hadoop伪分布式模式,默认是 localhost。

脚本截图

两天时间,hadoop 的脚本我已经更新了六次了。基本上已经解决了同学们安装过程中反馈出的一些问题。目前脚本在 Ubuntu系统上已经可以很好地运行起来,没有什么问题了。

之后又如法炮制,编写了安装 HBase的脚本,同理也是默认 home目录,配置的伪分布式模式,localhost登录。

Hadoop脚本的运行截图

HBase脚本的运行截图

后记

强调一下,脚本配置虽然方便,但是为了方便你可能就什么也不懂了。虽然脚本好用,我还是建议大家要亲自去配置一遍 Hadoop,熟悉整个配置流程,遇到问题积极解决,这样才能锻炼你的能力。

掌握了 Hadoop的配置流程之后,那就可以优先使用脚本去配置了,毕竟原理都掌握了,使用脚本真的可以节约时间。

当然,这个脚本也还有很多可以被优化的地方,关于异常的处理还做得不够好。如果你能深入研究并对这个脚本进行优化,那就更好了。这样你不仅可以对 Hadoop的配置流程非常熟悉,还可以学到了编写 shell 脚本的一些经验。

Hadoop自动安装脚本相关推荐

  1. Hadoop自动化安装脚本

    参考资料和说明 参考资料: hadoop-2.3.0详细安装过程 码云GIT: hadoop-2.4.0家族自动化安装脚本 >>> 获取邀请码 版本信息: hadoop-2.4.0- ...

  2. Puppet客户端自动安装脚本

    运维自动化发展已经是势不可挡,传统的靠大量人力运维的方式渐不能满足企业IT发展的需求,其中Puppet自动化更是受到IT人士的青睐,那今天我们一起来研究一下puppet客户端的自动安装脚本.脚本不足之 ...

  3. Linux从入门到精通——自动安装脚本

    ###kickstart 自动安装脚本的制作### KickStart是什么,有什么作用?    KickStart是一种无人职守安装方式.KickStart的工作原理是通过记录典型的安装过程中所需人 ...

  4. Nginx自动安装脚本

    如下脚本为Nginx自动安装脚本,仅供参考,可以根据实际情况修改,这里使用case方式,真实环境安装可以去掉case这种模式,全自动安装. #!/bin/sh ###nginx install she ...

  5. httpd-2.2.21 + php-5.3.8 自动安装脚本

    httpd-2.2.21 + php-5.3.8 自动安装脚本 http://netkiller.github.com/#!/bin/bash #=========================== ...

  6. 第三方库自动安装脚本(复习)

    第三方库自动安装脚本 一."第三方库自动安装脚本"问题分析 1.1 问题分析第三方库自动安装脚本需求:批量安装第三方库需要人工干预,能否自动安装?自动执行pip逐一根据安装需求安装 ...

  7. mysql自动安装脚本

    为适应自己工作习惯和需要,花一点时间写了一个mysql自动安装脚本,供大家参考学习. 注意: 1.需要先安装cmake 2.数据库版本需要在第二步安装mysql时修改 3.该脚本是以root用户安装并 ...

  8. 自动安装第三方库python,python第三方库自动安装脚本

    #python第三方库自动安装脚本,需要在cmd中运行此脚本 #BatchInstall.py import os libs = {"numpy","matplotlib ...

  9. centos7的freeswitch1.10.3自动安装脚本

    大多数freeswitch安装说明都以debian为主,不过CentOS使用方便用户众多,因此整理了CentOS7的freeswitch1.10.3的自动安装脚本,方便以后使用. 脚本包含两个文件:i ...

最新文章

  1. eclipse中maven打包
  2. Amazon Corretto技术细节探秘
  3. 结对作业——四则运算
  4. ajax会占用服务器端内存吗,javascript - 为什么不允许在jquery datatable服务器端处理ajax成功使用? - 堆栈内存溢出...
  5. 如何实现大数据可视化系统
  6. 刷题记录 kuangbin带你飞专题九:连通图
  7. java 读写acr122u_使用ACR122U NFC读卡器对M1卡进行读写操作(可以读写中文)
  8. COMSOL(1)寻找最小曲面
  9. 如何修改手游版本服务器,原神怎么只下一次客户端 b服官服渠道服手机自由切换方法...
  10. mysql 关闭防火墙 命令_CentOS7关闭防火墙命令
  11. 计算机入门模拟试卷c卷,《计算机入门》模拟卷C答案-华东师范大学.doc
  12. Android哪个系统占用内存小,哪个安卓模拟器占用的内存小,使用起来又不卡
  13. 求1+2!+3!+...+n!的和。
  14. linux系统日志文件介绍
  15. 小型便携式AIS接收机dAI01
  16. Bluetooth SIG定义的标准Characteristics UUID
  17. 微时代的微营销利器有哪些
  18. 陀曼智能IPO被终止:年营收2.7亿曾拟募资3.8亿 俞朝杰是实控人
  19. 里程碑式突破!你好,元境的2022
  20. java ognl表达式_Arthas的高级操作-Ognl表达式

热门文章

  1. AutoBench+Httperf的安装、测试
  2. Java集合:Hashtable源码分析
  3. 湖南师范大学c语言作业答案,2017年湖南师范大学物理与信息科学学院845C语言程序设计考研题库...
  4. 华为手机截屏怎么截长图_华为手机竟然有6种截屏方法,你用过几种?3种以上的手机没白买...
  5. 怎样用springboot开发cs_springboot开发之配置自定义的错误界面和错误信息
  6. android出现adpt2的问题,android - 尝试在空对象引用上调用接口方法'int android.database.Cursor.getCount()'[重复] - 堆栈内存溢出...
  7. 新基建数据中心如何建?附建设导则
  8. 又一个高等级数据中心着火了!
  9. python idle撤回上一条命令_找回Python IDLE Shell里的历史命令(用上下键翻历史命令怎么不好用了呢?)...
  10. python pil保存图片_python爬取百度图片并保存到本地