• 目录

    • 前言:
    • 1、Storm 任务提交的过程
    • 2、Storm相关的目录树
    • 总结:

目录

前言:

对于任何一个组件来说,了解它相关的任务提交的过程是非常有必要的(毕竟生产中遇到一些Bug时,你如果知道内部执行的过程,那么会对问题的解决会有很大的帮助)。除此之外还会对Storm相关的目录树进行一个简单的介绍,主要是为了了解下在任务提交过程中一些数据的存储过程。博主也是小菜鸟一枚,如有错误或不足,请各位及时指出,必当及时修正。

1、Storm 任务提交的过程

任务提交详细过程如下图所示:

过程总结:
1、客户端提交topology到nimbus(提交的jar包被上传到nimbus下的inbox目录)。
2、jar包中的submitTopology方法会对topology进行一些检查处理(如bolt/spout的id是否违法,storm是否是active等),然后在nimbus服务器上建立topology本地目录进行存储(包含topology的jar包以及topology的序列化对象)
3、之后nimbus进行任务分配(根据topology定义的一些参数来对bolt/spot设定task的数量并分配对应的task-Id),将分配好的task信息发送到zookeeper(task信息包括task的心跳信息,topology的描述信息等发送到zookeeper对应的目录下);
4、supervisor定期到zookeeper相应目录下查看是否有新的任务,有的话下载下来,根据任务的描述信息启动相应的worker进行工作;
5、worker根据任务的描述信息来创建响应的网络连接来发消息。

2、Storm相关的目录树

Storm任务提交的过程(根据图中的目录信息去理解Storm相关的目录树的目录信息)

Storm组件本地目录树

Storm zookeeper目录树

总结:

以上的内容主要还是以理解为主,特别是Storm任务提交的过程,需要重点关注!

Storm任务提交过程及目录树介绍相关推荐

  1. Storm中Numbus,zookeeper,Supervisor,worker作用,Storm任务提交过程,Storm组件本地目录树,Storm zookeeper目录树

    1.Storm 任务提交的过程 2.Storm组件本地目录树 3.Storm zookeeper目录树

  2. Vue项目目录结构介绍(三)

    前言 本章我们会对一个 Vue 项目的目录结构进行讲解,解释各子目录以及文件的作用,前端的模块化,Vue 单文件组件规范等. 1.基础目录和文件介绍 在上一章,我们通过 vue-cli 创建了一个新的 ...

  3. Storm目录树和任务提交过程

    Storm组件本地目录树 Storm zookeeper目录树 Storm任务提交的过程 转载于:https://www.cnblogs.com/ahu-lichang/p/6898409.html

  4. 树莓派内核开发准备(内核源码获取、启动过程、源码目录树)

    目录 1.交叉编译工具的安装 2.内核源码获取 3.嵌入式设备带操作系统的启动过程扫盲 4.Linux内核源码树扫盲 1.内核源码简介 2.Linux内核源代码目录树结构 tree指令查看 内核源码目 ...

  5. go-ethereum环境搭建及目录结构介绍

    go-ethereum代码阅读环境搭建 Ubuntu 16.04 64bit/Mac 安装GO 配置环境变量(GOROOT, GOPATH, GOBIN) 下载源码: $ cd $GOPATH; $ ...

  6. 第十九节: 结合【表达式目录树】来封装EF的BaseDal层的方法

    一. 简介 该章节,可以说是一个简单轻松的章节,只要你对Expression表达式树.EF的基本使用.泛型有所了解,那么本章节实质上就是一个非常简单的封装章节,便于我们快捷开发. PS:在该章节对于E ...

  7. 第十五节:Expression表达式目录树(与委托的区别、自行拼接、总结几类实例间的拷贝)

    一. 基本介绍 回忆: 最早接触到表达式目录树(Expression)可能要追溯到几年前使用EF早期的时候,发现where方法里的参数是Expression<Func<T,bool> ...

  8. 《Linux C编程环境》 课程大实验 及近期练习题:计算器,复写机,目录树创建,批处理执行器,扫雷

    <Linux C编程环境> 课程大实验 及近期练习题:计算器,复写机,目录树创建,批处理执行器,扫雷 ​ 之前作业的题了,征求了老师的意见,同意我把个人解析放开公布,再提交作业已经无效了. ...

  9. mysql 提交事务_MySQL事务提交过程

    一.MySQL事务提交过程(一) MySQL作为一种关系型数据库,已被广泛应用到互联网中的诸多项目中.今天我们来讨论下事务的提交过程. 由于mysql插件式存储架构,导致开启binlog后,事务提交实 ...

最新文章

  1. WMI技术介绍和应用——VC开发WMI应用的基本步骤
  2. 10个具体项目生动精彩讲述JavaScript;超级Web应用,构建不再困难
  3. 百度前端技术学院task13源代码
  4. 公司SAP ERP 项目开始上线切换和最终用户培训了!
  5. 《树莓派Python编程入门与实战》——1.2 获取树莓派
  6. 判别式模型 vs. 生成式模型
  7. 区块链Hyperledger Fabric背书过程中链码是并行还是串行?
  8. ubuntu gnome vnc
  9. 太实用了!Schedule模块, Python 周期任务神器!
  10. 卫星星座 - 2021 年行业调查和趋势 Satellite Constellations - 2021 Industry Survey and Trends阅读报告
  11. date类型在日期增加或者减少几天
  12. java并发三大特性--有序性、可见性、原子性
  13. 笔记本无法连接WiFi
  14. speedoffice(Excel)怎么做扇形图
  15. Map.of、List.of、Set.of是什么意思
  16. Win8安装程序出现2502、2503错误解决方法
  17. vscode的下载速度会特别慢问题处理
  18. 关于今天烧坏树莓派板子一事的所思所想
  19. 完全小白篇-使用Python爬取网络小说
  20. Linux ubuntu 基本美化 还有常用应用安装

热门文章

  1. Jquery Datatable的使用样例(ssm+bootstrsp框架下)服务器端分页
  2. error: failed to push some refs to 'https://gitee.com/xxx/xxx'
  3. ABAP WRITE
  4. eclipse弃坑记第一篇之在idea上配置Tomcat环境并创建Javaweb项目的详细步骤原创
  5. Asp.NetWebForm的控件属性
  6. FPGA开发全攻略—— 调试
  7. ITTC数据挖掘平台介绍(综述)——平台简介
  8. mysql“Access denied for user 'root'@'localhost'”问题的解决
  9. 刷脸考勤,重新定位校园管理
  10. Slog55_lua面向对象之lua类