Storm 安装部署

部署Storm集群需要依次完成的安装步骤:
        1.安装jdk6及以上版本;
  2. 搭建Zookeeper集群;
  3. 安装Storm依赖库;
  4. 下载并解压Storm发布版本;
  5. 修改storm.yaml配置文件;
  6. 启动Storm各个后台进程。

——————————————————————————————————————

Storm包的安装配置

需要在Nimbus和Supervisor机器上安装Storm发行版本。
1. 下载Storm发行版本:
wget https://github.com/downloads/nathanmarz/storm/storm-0.9.2.zip 
2. 解压到安装目录下:
unzip storm-0.9.2.zip 
修改storm.yaml配置文件conf/storm.yaml
conf/storm.yaml中的配置选项将覆盖defaults.yaml中的默认配置。

1) storm.zookeeper.servers: Storm集群使用的Zookeeper集群地址,其格式如下:
storm.zookeeper.servers: 
- “111.222.333.444″ 
- “555.666.777.888″ 
如果Zookeeper集群使用的不是默认端口,那么还需要storm.zookeeper.port选项。
2) storm.local.dir: Nimbus和Supervisor进程用于存储少量状态,如jars、confs等的本地磁盘目录,需要提前创建该目录并给以足够的访问权限。然后在storm.yaml中配置该目录,如:
storm.local.dir: "/home/admin/storm/workdir"

注意事项:
启动Storm后台进程时,需要对conf/storm.yaml配置文件中设置的storm.local.dir目录具有写权限。
storm后台进程被启动后,将在Storm安装部署目录下的logs/子目录下生成各个进程的日志文件。
经测试,Storm UI必须和Storm Nimbus部署在同一台机器上,否则UI无法正常工作,因为UI进程会检查本机是否存在Nimbus链接。
为了方便使用,可以将bin/storm加入到系统环境变量中。
至此,Storm集群已经部署、配置完毕,可以向集群提交拓扑运行了。

——————————————————————————————————————

Storm 相关配置项

storm.zookeeper.root
Storm在zookeeper集群中的根目录,默认是“/”

topology.workers
每个Topology运行时的worker的默认数目,若在代码中设置,则此选项值被覆盖

storm.zookeeper.servers
zookeeper集群的节点列表

storm.local.dir
Storm用于存储jar包和临时文件的本地存储目录

ui.port   
Storm集群的UI地址端口号,默认是8080

nimbus.host:
Nimbus节点的host

supervisor.slots.ports
Supervisor节点的worker占位槽,集群中的所有Topology公用这些槽位数,即使提交时设置了较大数值的槽位数,系统也会按照当前集群中实际剩余的槽位数来进行分配,当所有的槽位数都分配完时,新提交的Topology只能等待,系统会一直监测是否有空余的槽位空出来,如果有,就再次给新提交的Topology分配。

——————————————————————————————————————

Storm 常用命令

1、启动nimbus后台程序 命令格式:storm nimbus

2、启动supervisor后台程序 命令格式:storm supervisor

3、启动ui服务 命令格式:storm ui

4、提交Topologies

命令格式:storm jar 【jar路径】 【拓扑包名.拓扑类名】【stormIP地址】【storm端口】【拓扑名称】【参数】

eg: storm jar /home/storm/storm-starter.jar storm.starter.WordCountTopology wordcountTop;

#提交storm-starter.jar到远程集群,并启动wordcountTop拓扑。

5、停止Topologies

查看当前运行的topo: storm list

命令格式:storm kill 【拓扑名称】

样例:storm kill wordcountTop #杀掉wordcountTop拓扑。

Storm教程2安装部署相关推荐

  1. Storm介绍及安装部署

    本节内容: Apache Storm是什么 Apache Storm核心概念 Storm原理架构 Storm集群安装部署 启动storm ui.Nimbus和Supervisor 一.Apache S ...

  2. Storm集群安装部署步骤【详细版】

    作者: 大圆那些事 | 文章可以转载,请以超链接形式标明文章原始出处和作者信息 网址: http://www.cnblogs.com/panfeng412/archive/2012/11/30/how ...

  3. SolidEdge C#.NET 二次开发系列教程(一) 安装部署插件

    SE二次开发国内的教程简直太少了,为了学习这块,废了不少功夫,走了不少弯路. 特此开贴写教程以示后人. se插件开发完成后就是如何部署,安装和部署和其他的.net插件类似. 1.走到这步你基本离成功很 ...

  4. saiku docker配置部署_【安装教程】01 Gitea Docker 安装部署 - 【SkywenCode】技术团队基...

    在2016年-2019年,SkywenCode技术团队使用码云Gitee 作为线上代码库管理,基于敏捷开发和持续构建的思路,我们整体基础建设以Drone / Jenkins + Docker 的方式构 ...

  5. Geoserver Windows 安装部署教程

    Geoserver Windows 安装部署教程 JRE 安装部署 不论是基于tomcat部署geoserver,还是直接安装geoserver的二进制文件,都需要Java环境,geoserver可以 ...

  6. Storm入门教程 Storm安装部署步骤

    本文以Twitter Storm官方Wiki为基础,详细描述如何快速搭建一个Storm集群,其中,项目实践中遇到的问题及经验总结,在相应章节以"注意事项"的形式给出. 3.1 St ...

  7. kafka不使用自带zk_kafka 安装部署教程

    kafka 安装部署教程 1. 下载 官网链接 http://kafka.apache.org/downloads 浙大源 http://mirrors.tuna.tsinghua.edu.cn/ap ...

  8. 五丶阿东安装部署教程+青龙对接阿东及傻妞实现自动登录

    阿东安装部署教程+青龙对接阿东及傻妞实现自动登录 没有服务器的先自行购买,这里推荐腾讯云2H4G8M首年70–点击购买 青龙面板安装 傻妞安装教程--+命令 QQ交流:1014549449 ----- ...

  9. 一丶宝塔+青龙面板安装部署教程及命令-依赖库

    一丶宝塔+青龙面板安装部署教程及命令-依赖库 QQ交流群:1014549449 直达 - 没有服务器的先自行购买,这里推荐腾讯云2H4G首年70 点击购买 建议装centos7.6安装宝塔,后期调试及 ...

最新文章

  1. CCNA学习笔记--路由器的基本配置
  2. 大道至简,SQL也可以实现神经网络
  3. C#中的thread和task之Task
  4. 通宵爆肝:C语言下的平衡二叉树(Avl)原来如此简单!
  5. Linux 系统应用编程——标准I/O
  6. wordpress ?php the_time() ?,WordPress时间函数the_time与get_the_time解析
  7. 为了面试阿里大数据岗位,我花了半年总结了这些干货内容
  8. 名字打架 源码 php,无聊发天蝎与各星座名字打架结果
  9. 基于环信的开源即时通讯项目
  10. 凌小宁教授给软件新人的演讲——选择的力量
  11. easyExcel导出excel文件并打包成zip压缩包下载
  12. 还不了解,日志框架吗?
  13. 使用vs2019用c++创建dll库
  14. Maven命令行 打包
  15. 车载5G+4G多网聚合通信解决方案
  16. vscode 新建cpp文件_vscode怎样新建项目和文件 值得收藏
  17. 主方法外单独的两个类,不能直接互相调用
  18. nas服务器硬盘,明明白白了解NAS:网络存储服务器浅析(转载)
  19. Vue环境配置时报npm WARN deprecated bfj-node4@5.3.1: Switch to the `bfj` package for fixes and new features
  20. Optical Flow:Horn-Schunck算法与Lucas-Kanade(LK)算法

热门文章

  1. json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)
  2. cwc云莱特链_CWC的完整形式是什么?
  3. 栈-线性表(代码、分析、汇编)
  4. LA 3458——Bridge
  5. 文件I0通用的IO模型
  6. 网络基础2-2(传输层,端口,详谈UDP)
  7. JFFS2文件系统挂载过程优化的分析报告
  8. Linux C++线程池实例
  9. 【汇编语言】理解8086CPU中,不同类型的寄存器和汇编指令规则的联系(会继续更新)
  10. C库函数-fgets()