Storm教程2安装部署
Storm 安装部署
部署Storm集群需要依次完成的安装步骤:
1.安装jdk6及以上版本;
2. 搭建Zookeeper集群;
3. 安装Storm依赖库;
4. 下载并解压Storm发布版本;
5. 修改storm.yaml配置文件;
6. 启动Storm各个后台进程。
——————————————————————————————————————
Storm包的安装配置
需要在Nimbus和Supervisor机器上安装Storm发行版本。
1. 下载Storm发行版本:
wget https://github.com/downloads/nathanmarz/storm/storm-0.9.2.zip
2. 解压到安装目录下:
unzip storm-0.9.2.zip
修改storm.yaml配置文件conf/storm.yaml
conf/storm.yaml中的配置选项将覆盖defaults.yaml中的默认配置。
1) storm.zookeeper.servers: Storm集群使用的Zookeeper集群地址,其格式如下:
storm.zookeeper.servers:
- “111.222.333.444″
- “555.666.777.888″
如果Zookeeper集群使用的不是默认端口,那么还需要storm.zookeeper.port选项。
2) storm.local.dir: Nimbus和Supervisor进程用于存储少量状态,如jars、confs等的本地磁盘目录,需要提前创建该目录并给以足够的访问权限。然后在storm.yaml中配置该目录,如:
storm.local.dir: "/home/admin/storm/workdir"
注意事项:
启动Storm后台进程时,需要对conf/storm.yaml配置文件中设置的storm.local.dir目录具有写权限。
storm后台进程被启动后,将在Storm安装部署目录下的logs/子目录下生成各个进程的日志文件。
经测试,Storm UI必须和Storm Nimbus部署在同一台机器上,否则UI无法正常工作,因为UI进程会检查本机是否存在Nimbus链接。
为了方便使用,可以将bin/storm加入到系统环境变量中。
至此,Storm集群已经部署、配置完毕,可以向集群提交拓扑运行了。
——————————————————————————————————————
Storm 相关配置项
storm.zookeeper.root
Storm在zookeeper集群中的根目录,默认是“/”
topology.workers
每个Topology运行时的worker的默认数目,若在代码中设置,则此选项值被覆盖
storm.zookeeper.servers
zookeeper集群的节点列表
storm.local.dir
Storm用于存储jar包和临时文件的本地存储目录
ui.port
Storm集群的UI地址端口号,默认是8080
nimbus.host:
Nimbus节点的host
supervisor.slots.ports
Supervisor节点的worker占位槽,集群中的所有Topology公用这些槽位数,即使提交时设置了较大数值的槽位数,系统也会按照当前集群中实际剩余的槽位数来进行分配,当所有的槽位数都分配完时,新提交的Topology只能等待,系统会一直监测是否有空余的槽位空出来,如果有,就再次给新提交的Topology分配。
——————————————————————————————————————
Storm 常用命令
1、启动nimbus后台程序 命令格式:storm nimbus
2、启动supervisor后台程序 命令格式:storm supervisor
3、启动ui服务 命令格式:storm ui
4、提交Topologies
命令格式:storm jar 【jar路径】 【拓扑包名.拓扑类名】【stormIP地址】【storm端口】【拓扑名称】【参数】
eg: storm jar /home/storm/storm-starter.jar storm.starter.WordCountTopology wordcountTop;
#提交storm-starter.jar到远程集群,并启动wordcountTop拓扑。
5、停止Topologies
查看当前运行的topo: storm list
命令格式:storm kill 【拓扑名称】
样例:storm kill wordcountTop #杀掉wordcountTop拓扑。
Storm教程2安装部署相关推荐
- Storm介绍及安装部署
本节内容: Apache Storm是什么 Apache Storm核心概念 Storm原理架构 Storm集群安装部署 启动storm ui.Nimbus和Supervisor 一.Apache S ...
- Storm集群安装部署步骤【详细版】
作者: 大圆那些事 | 文章可以转载,请以超链接形式标明文章原始出处和作者信息 网址: http://www.cnblogs.com/panfeng412/archive/2012/11/30/how ...
- SolidEdge C#.NET 二次开发系列教程(一) 安装部署插件
SE二次开发国内的教程简直太少了,为了学习这块,废了不少功夫,走了不少弯路. 特此开贴写教程以示后人. se插件开发完成后就是如何部署,安装和部署和其他的.net插件类似. 1.走到这步你基本离成功很 ...
- saiku docker配置部署_【安装教程】01 Gitea Docker 安装部署 - 【SkywenCode】技术团队基...
在2016年-2019年,SkywenCode技术团队使用码云Gitee 作为线上代码库管理,基于敏捷开发和持续构建的思路,我们整体基础建设以Drone / Jenkins + Docker 的方式构 ...
- Geoserver Windows 安装部署教程
Geoserver Windows 安装部署教程 JRE 安装部署 不论是基于tomcat部署geoserver,还是直接安装geoserver的二进制文件,都需要Java环境,geoserver可以 ...
- Storm入门教程 Storm安装部署步骤
本文以Twitter Storm官方Wiki为基础,详细描述如何快速搭建一个Storm集群,其中,项目实践中遇到的问题及经验总结,在相应章节以"注意事项"的形式给出. 3.1 St ...
- kafka不使用自带zk_kafka 安装部署教程
kafka 安装部署教程 1. 下载 官网链接 http://kafka.apache.org/downloads 浙大源 http://mirrors.tuna.tsinghua.edu.cn/ap ...
- 五丶阿东安装部署教程+青龙对接阿东及傻妞实现自动登录
阿东安装部署教程+青龙对接阿东及傻妞实现自动登录 没有服务器的先自行购买,这里推荐腾讯云2H4G8M首年70–点击购买 青龙面板安装 傻妞安装教程--+命令 QQ交流:1014549449 ----- ...
- 一丶宝塔+青龙面板安装部署教程及命令-依赖库
一丶宝塔+青龙面板安装部署教程及命令-依赖库 QQ交流群:1014549449 直达 - 没有服务器的先自行购买,这里推荐腾讯云2H4G首年70 点击购买 建议装centos7.6安装宝塔,后期调试及 ...
最新文章
- CCNA学习笔记--路由器的基本配置
- 大道至简,SQL也可以实现神经网络
- C#中的thread和task之Task
- 通宵爆肝:C语言下的平衡二叉树(Avl)原来如此简单!
- Linux 系统应用编程——标准I/O
- wordpress ?php the_time() ?,WordPress时间函数the_time与get_the_time解析
- 为了面试阿里大数据岗位,我花了半年总结了这些干货内容
- 名字打架 源码 php,无聊发天蝎与各星座名字打架结果
- 基于环信的开源即时通讯项目
- 凌小宁教授给软件新人的演讲——选择的力量
- easyExcel导出excel文件并打包成zip压缩包下载
- 还不了解,日志框架吗?
- 使用vs2019用c++创建dll库
- Maven命令行 打包
- 车载5G+4G多网聚合通信解决方案
- vscode 新建cpp文件_vscode怎样新建项目和文件 值得收藏
- 主方法外单独的两个类,不能直接互相调用
- nas服务器硬盘,明明白白了解NAS:网络存储服务器浅析(转载)
- Vue环境配置时报npm WARN deprecated bfj-node4@5.3.1: Switch to the `bfj` package for fixes and new features
- Optical Flow:Horn-Schunck算法与Lucas-Kanade(LK)算法
热门文章
- json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)
- cwc云莱特链_CWC的完整形式是什么?
- 栈-线性表(代码、分析、汇编)
- LA 3458——Bridge
- 文件I0通用的IO模型
- 网络基础2-2(传输层,端口,详谈UDP)
- JFFS2文件系统挂载过程优化的分析报告
- Linux C++线程池实例
- 【汇编语言】理解8086CPU中,不同类型的寄存器和汇编指令规则的联系(会继续更新)
- C库函数-fgets()