storm目录结构及在zk中的目录结构
storm目录结构及在zk中的目录结构
@(STORM)[storm]
- storm目录结构及在zk中的目录结构
- 一storm在磁盘中的内容
- 一nimbus中的目录结构
- 1inbox目录
- 2stormdist目录
- 二supervisor中的目录结构
- 1supervisor目录
- 2worker-users目录
- 3worker目录
- 一nimbus中的目录结构
- 二storm在zookeeper中的信息
- 1assignment
- 2storms
- 3supervisor
- 4workerbeats
- 5errors
- 6credentials
一、storm在磁盘中的内容
(一)nimbus中的目录结构
/home/data/storm/nimbus目录有2个子目录
inbox stormdist
1、inbox目录
2个jar包
ls inbox/
stormjar-32a7ece3-30f6-46b0-a85a-f8a6d7bedd4b.jar stormjar-9d203ae1-55e3-46aa-a503-e0f64dc77850.jar
2、stormdist目录
与supervisro相同,见下面。
(二)supervisor中的目录结构
/home/data/storm目录下有3个目录
supervisor workers workers-users
1、supervisor目录
就是supervisor的一些信息,包括拓扑的jar包等
$ tree
.
|-- isupervisor
| |-- 1448866045210
| `-- 1448866045210.version
|-- localstate
| |-- 1448867673421
| |-- 1448867673421.version
| |-- 1448867676421
| |-- 1448867676421.version
| |-- 1448867677289
| |-- 1448867677289.version
| |-- 1448867677292
| `-- 1448867677292.version
|-- stormdist
| |-- ma321-13-1448866092
| | |-- stormcode.ser
| | |-- stormconf.ser
| | `-- stormjar.jar
| `-- test-9-1448861412
| |-- stormcode.ser
| |-- stormconf.ser
| `-- stormjar.jar
`-- tmp
stormdist目录是nimbus分发过来的代码、配置及jar包。
nimbus的stormdist目录下也有相同的目录,内容也一样。不同之处是nimbus有全部拓扑的内容,而supervisor只有分配到的拓扑的内容。
stormjar.jar是topo的代码jar包。
stormcode.ser是拓扑的序列化文件,包括拓扑的各个组件的详细信息与它们之间的关系。
stormconf.ser是topo的配置信息
2、worker-users目录
worker-users里面有一些空文件,这些文件的名字就是worker的id,如
ls -l workers-users/
total 0
-rw-r--r-- 1 hadoop hadoop 0 11月 30 14:48 917efffc-2ee6-4392-b365-06bc3a846a4c
-rw-r--r-- 1 hadoop hadoop 0 11月 30 14:50 fee027e3-a737-4f49-9c85-da5bb4acc43c
3、worker目录
workers里面则是每个worker的一些信息,如心跳与pid的记录
total 8
drwxr-xr-x 4 hadoop hadoop 4096 11月 30 14:48 917efffc-2ee6-4392-b365-06bc3a846a4c
drwxr-xr-x 4 hadoop hadoop 4096 11月 30 14:50 fee027e3-a737-4f49-9c85-da5bb4acc43c
注意这些是目录,这些目录下的内容如下:
ls 917efffc-2ee6-4392-b365-06bc3a846a4c/
heartbeats pids
因此,当在worker目录定位到一个worker,但想要启动这个worker,却在supervisor目录中找不到对应的内容,因此启动失败。
二、storm在zookeeper中的信息
有一些解释,但版本较老:http://xumingming.sinaapp.com/466/twitter-storm-code-analysis-zookeeper-dirs/
storm在zookeeper中有以下6个目录(默认在/storm下)
/assignments -> 任务分配信息
/storms -> 正在运行的topology的ID
/supervisors -> 所有的Supervisors的心跳信息
/workerbeats -> 所有的Worker的心跳
/errors -> 产生的出错信息
/credentials ->认证信息
1、assignment
任务的分配信息,supervisor会不断的读取这里的信息,看有没有被分配的任务需要处理。
2、storms
正在运行的拓扑id
3、supervisor
所有的Supervisors的心跳信息
4、workerbeats
每个worker的心跳信息
5、errors
错误信息, UI即通过在这里读取信息来显示
6、credentials
认证信息
storm目录结构及在zk中的目录结构相关推荐
- linux按目录名查找目录_如何在Linux中查找目录?
linux按目录名查找目录 Linux provides different ways to find directories. Here we will look at how to find di ...
- linux nginx root目录,详解nginx.conf 中 root 目录设置问题
在配置 nginx.conf 总会遇到一些问题,下面列举一些常见的问题并说明如何解决 1.相对路径的问题 例如配置文件中 location 设置 location ~ .php${ root html ...
- python解压到指定文件夹_Python:将文件解压缩到当前工作目录,但不保存zip中的目录结构...
我有一个像这样的zip文件: myArchive.zip | -folder1 | --folder2 | ---myimage.jpg 当我尝试提取myimage.jpg时: with zipfil ...
- kafka在zk中的目录
除了zookeeper外都是kafka的目录
- python遍历目录树_在Python中遍历目录树的速度要快得多?
假设给定目录树的大小是合理的:比如Twisted或Python这样的开源项目,遍历和迭代该目录中所有文件/目录的绝对路径的最快方式是什么? 我想在Python中完成这项工作.os.path.walk很 ...
- 结构体 — C 语言中不定长结构体的使用
1.结构体的定长表示 C语言中结构体的使用基本上都是定长的,就如以下这种: typedef struct {int a;int b;char c[100];double d; }STRU; 2.结构体 ...
- java单根结构_Java语言程序设计中的单根结构
在面向对象的程序设计中,由于C++的引入而显得尤为突出的一个问题是:所有类最终是否都应从单独一个基础类继承.在java中(与其他几乎所有OOP语言一样),对这个问题的答案都是肯定的,而且这个终级基础类 ...
- linux查看用户家目录下的隐藏文件,linux中查看目录下隐藏文件方式?
Linux系统中,除了储存了大量可见的文件和文件夹,还附带了很多隐藏的文件和文件夹,那么该如何进行查看?这些隐藏文件又有什么用呢? 查看Linux主目录隐藏文件可以通过运行ls–a来实现,对于隐藏文件 ...
- java中选择结构有哪些_Java中的选择结构
1.if选择结构 if选择结构是根据条件判断之后再做处理的一种语法结构 语法: if(条件){ 代码块//条件成立之后要执行的代码,可以是一条语句,也可以是一组语句 } if后小括号里的条件是一个表达 ...
最新文章
- Python 调用Java
- css3 javascript 实现菜单按钮特效
- 首届“腾讯云+社区开发者大会”正在直播!
- Docker相关概念与安装(Docker-CE)
- 如何修正导入模型的旋转? How do I fix the rotation of an imported model?
- C语言之如何输出uint32_t和uint64_t和16进制
- JavaFX图表(九)之堆积面积图
- mysql安装条款_mysql 安装注意
- Django:学习笔记(2)——创建第一个应用
- python --动态类型
- visual assist x_可能是最美溜背,大众探岳X能否重新定义轿跑SUV?
- vue学习项目之去哪儿网笔记
- 2019年初,我收到人生中的第一笔稿费
- Java中 Tomcat 是干什么的?
- 常用的红色的RGB值
- 如何自制daplink_DAPLink高速版
- 把一个人的特点写具体作文_把一个人的特点写具体作文800字
- 第七课,OpenGL之LookAt函数
- 重拾java之线程1
- 几款有意思的html游戏推荐(在线云玩+源码)
热门文章
- 计算机linux入门教程,Turbolinux入门教程1
- java队列课程_Java 实例 – 队列(Queue)用法
- jupter中没有显示conda中的环境
- 使用selenium爬取某东的手机商品信息
- /etc/rc.local——开机自启配置文件
- dfs时间复杂度_一文吃透时间复杂度和空间复杂度
- java与c/c++进行socket通信的一些问题
- 安宁计算机学院,合肥工业大学计算机与信息学院导师介绍:安宁
- callback用法 js vue_Vue.js 实例方法
- tensorflow gpu利用率低_「动手学习Tensorflow」- Tensorflow综述I