storm目录结构及在zk中的目录结构

@(STORM)[storm]

  • storm目录结构及在zk中的目录结构
  • 一storm在磁盘中的内容
    • 一nimbus中的目录结构

      • 1inbox目录
      • 2stormdist目录
    • 二supervisor中的目录结构
      • 1supervisor目录
      • 2worker-users目录
      • 3worker目录
  • 二storm在zookeeper中的信息
    • 1assignment
    • 2storms
    • 3supervisor
    • 4workerbeats
    • 5errors
    • 6credentials

一、storm在磁盘中的内容

(一)nimbus中的目录结构

/home/data/storm/nimbus目录有2个子目录
inbox stormdist

1、inbox目录

2个jar包

ls inbox/
stormjar-32a7ece3-30f6-46b0-a85a-f8a6d7bedd4b.jar  stormjar-9d203ae1-55e3-46aa-a503-e0f64dc77850.jar

2、stormdist目录

与supervisro相同,见下面。

(二)supervisor中的目录结构

/home/data/storm目录下有3个目录

supervisor  workers  workers-users

1、supervisor目录

就是supervisor的一些信息,包括拓扑的jar包等

$ tree
.
|-- isupervisor
|   |-- 1448866045210
|   `-- 1448866045210.version
|-- localstate
|   |-- 1448867673421
|   |-- 1448867673421.version
|   |-- 1448867676421
|   |-- 1448867676421.version
|   |-- 1448867677289
|   |-- 1448867677289.version
|   |-- 1448867677292
|   `-- 1448867677292.version
|-- stormdist
|   |-- ma321-13-1448866092
|   |   |-- stormcode.ser
|   |   |-- stormconf.ser
|   |   `-- stormjar.jar
|   `-- test-9-1448861412
|       |-- stormcode.ser
|       |-- stormconf.ser
|       `-- stormjar.jar
`-- tmp

stormdist目录是nimbus分发过来的代码、配置及jar包。
nimbus的stormdist目录下也有相同的目录,内容也一样。不同之处是nimbus有全部拓扑的内容,而supervisor只有分配到的拓扑的内容。

stormjar.jar是topo的代码jar包。
stormcode.ser是拓扑的序列化文件,包括拓扑的各个组件的详细信息与它们之间的关系。
stormconf.ser是topo的配置信息

2、worker-users目录

worker-users里面有一些空文件,这些文件的名字就是worker的id,如

ls -l workers-users/
total 0
-rw-r--r-- 1 hadoop hadoop 0 11月 30 14:48 917efffc-2ee6-4392-b365-06bc3a846a4c
-rw-r--r-- 1 hadoop hadoop 0 11月 30 14:50 fee027e3-a737-4f49-9c85-da5bb4acc43c

3、worker目录

workers里面则是每个worker的一些信息,如心跳与pid的记录

total 8
drwxr-xr-x 4 hadoop hadoop 4096 11月 30 14:48 917efffc-2ee6-4392-b365-06bc3a846a4c
drwxr-xr-x 4 hadoop hadoop 4096 11月 30 14:50 fee027e3-a737-4f49-9c85-da5bb4acc43c

注意这些是目录,这些目录下的内容如下:

ls 917efffc-2ee6-4392-b365-06bc3a846a4c/
heartbeats  pids

因此,当在worker目录定位到一个worker,但想要启动这个worker,却在supervisor目录中找不到对应的内容,因此启动失败。

二、storm在zookeeper中的信息

有一些解释,但版本较老:http://xumingming.sinaapp.com/466/twitter-storm-code-analysis-zookeeper-dirs/

storm在zookeeper中有以下6个目录(默认在/storm下)

/assignments -> 任务分配信息
/storms -> 正在运行的topology的ID
/supervisors -> 所有的Supervisors的心跳信息
/workerbeats -> 所有的Worker的心跳
/errors -> 产生的出错信息
/credentials ->认证信息

1、assignment

任务的分配信息,supervisor会不断的读取这里的信息,看有没有被分配的任务需要处理。

2、storms

正在运行的拓扑id

3、supervisor

所有的Supervisors的心跳信息

4、workerbeats

每个worker的心跳信息

5、errors

错误信息, UI即通过在这里读取信息来显示

6、credentials

认证信息

storm目录结构及在zk中的目录结构相关推荐

  1. linux按目录名查找目录_如何在Linux中查找目录?

    linux按目录名查找目录 Linux provides different ways to find directories. Here we will look at how to find di ...

  2. linux nginx root目录,详解nginx.conf 中 root 目录设置问题

    在配置 nginx.conf 总会遇到一些问题,下面列举一些常见的问题并说明如何解决 1.相对路径的问题 例如配置文件中 location 设置 location ~ .php${ root html ...

  3. python解压到指定文件夹_Python:将文件解压缩到当前工作目录,但不保存zip中的目录结构...

    我有一个像这样的zip文件: myArchive.zip | -folder1 | --folder2 | ---myimage.jpg 当我尝试提取myimage.jpg时: with zipfil ...

  4. kafka在zk中的目录

    除了zookeeper外都是kafka的目录

  5. python遍历目录树_在Python中遍历目录树的速度要快得多?

    假设给定目录树的大小是合理的:比如Twisted或Python这样的开源项目,遍历和迭代该目录中所有文件/目录的绝对路径的最快方式是什么? 我想在Python中完成这项工作.os.path.walk很 ...

  6. 结构体 — C 语言中不定长结构体的使用

    1.结构体的定长表示 C语言中结构体的使用基本上都是定长的,就如以下这种: typedef struct {int a;int b;char c[100];double d; }STRU; 2.结构体 ...

  7. java单根结构_Java语言程序设计中的单根结构

    在面向对象的程序设计中,由于C++的引入而显得尤为突出的一个问题是:所有类最终是否都应从单独一个基础类继承.在java中(与其他几乎所有OOP语言一样),对这个问题的答案都是肯定的,而且这个终级基础类 ...

  8. linux查看用户家目录下的隐藏文件,linux中查看目录下隐藏文件方式?

    Linux系统中,除了储存了大量可见的文件和文件夹,还附带了很多隐藏的文件和文件夹,那么该如何进行查看?这些隐藏文件又有什么用呢? 查看Linux主目录隐藏文件可以通过运行ls–a来实现,对于隐藏文件 ...

  9. java中选择结构有哪些_Java中的选择结构

    1.if选择结构 if选择结构是根据条件判断之后再做处理的一种语法结构 语法: if(条件){ 代码块//条件成立之后要执行的代码,可以是一条语句,也可以是一组语句 } if后小括号里的条件是一个表达 ...

最新文章

  1. Python 调用Java
  2. css3 javascript 实现菜单按钮特效
  3. 首届“腾讯云+社区开发者大会”正在直播!
  4. Docker相关概念与安装(Docker-CE)
  5. 如何修正导入模型的旋转? How do I fix the rotation of an imported model?
  6. C语言之如何输出uint32_t和uint64_t和16进制
  7. JavaFX图表(九)之堆积面积图
  8. mysql安装条款_mysql 安装注意
  9. Django:学习笔记(2)——创建第一个应用
  10. python --动态类型
  11. visual assist x_可能是最美溜背,大众探岳X能否重新定义轿跑SUV?
  12. vue学习项目之去哪儿网笔记
  13. 2019年初,我收到人生中的第一笔稿费
  14. Java中 Tomcat 是干什么的?
  15. 常用的红色的RGB值
  16. 如何自制daplink_DAPLink高速版
  17. 把一个人的特点写具体作文_把一个人的特点写具体作文800字
  18. 第七课,OpenGL之LookAt函数
  19. 重拾java之线程1
  20. 几款有意思的html游戏推荐(在线云玩+源码)

热门文章

  1. 计算机linux入门教程,Turbolinux入门教程1
  2. java队列课程_Java 实例 – 队列(Queue)用法
  3. jupter中没有显示conda中的环境
  4. 使用selenium爬取某东的手机商品信息
  5. /etc/rc.local——开机自启配置文件
  6. dfs时间复杂度_一文吃透时间复杂度和空间复杂度
  7. java与c/c++进行socket通信的一些问题
  8. 安宁计算机学院,合肥工业大学计算机与信息学院导师介绍:安宁
  9. callback用法 js vue_Vue.js 实例方法
  10. tensorflow gpu利用率低_「动手学习Tensorflow」- Tensorflow综述I