1.azkaban是什么

是一个简单的任务调度器，批量工作流任务调取器，
java开发，
包含三个部分，webserver,dbserver,executorserver,linkin的开源项目
使用一种kv格式的文件来建立任务之间的相互关系，
提供了web界面用于跟踪和维护工作流

2.使用场景

多个任务存在相互依赖的关系，比如ABCD四个任务，AB任务没有任何关系，C任务需要使用AB任务的数据，D任务需要使用C任务的数据，这样的话使用shell脚本加crontab就不太容易实现，这个时候就可以使用azkaban来调度这种类型的任务(类似一个有向无环图)

3.有向无环图（DAG）

有向无环图指的是一个无回路的有向图
类似下图：

4.简单使用

步骤如下：
1.创建一个文件夹test（你的项目）
2.初始化项目（创建一个文件）
az.project

azkaban-flow-version: 2.0

3.创建任务流文件（主要是通过该文件进行任务调度）
test.flow

nodes:
- name: JobAtype: commandconfig:command: echo "hello"

4.在页面端创建一个空的项目

5.将test文件夹压缩成zip文件
6.上传任务

7.点击执行任务

大数据任务调度工具azkaban初步使用相关推荐

大数据任务调度工具azkaban深入使用
前言我们使用的是最新版本的azkaban,所编写的调度文件是.flow文件,非常方便,之前使用的job文件一个文件只能写一个任务,但是有了flow文件后可以直接将所有的调度任务写在里面,对于工程级别 ...
大数据任务调度工具 Apache DolphinScheduler
文章目录大数据任务调度工具 Apache DolphinScheduler 项目亮点 DolphinScheduler 简介调度系统选型为什么大数据要选择 DolphinScheduler Do ...
Apache DolphinScheduler征稿 — 小Demo轻松入门DolphinSchedule大数据调度工具
文章目录官方文档 | [GitHub源码](https://github.com/apache/dolphinscheduler) 一.从实际需求入手,我们为何要选择使用DolphinSchched ...
主流大数据调度工具对比(DolphinScheduler特点)
大数据环境下,调度工具比不可少,离线批任务和准实时任务都需要调度去驱动.下文介绍主流大数据调度工具对比DolphinScheduler .Azkaban.Airflow.Oozie.Xxl-job A ...
主流大数据调度工具对比
大数据环境下,调度工具比不可少,离线批任务和准实时任务都需要调度去驱动.下文介绍主流大数据调度工具对比DolphinScheduler .Azkaban.Airflow.Oozie.Xxl-job 非 ...
什么是Oozie——大数据任务调度框架
Oozie简介 Oozie是大数据四大协作框架之一--任务调度框架,另外三个分别为数据转换工具Sqoop,文件收集库框架Flume,大数据WEB工具Hue. 它能够提供对Hadoop MapReduc ...
大数据任务调度和数据同步组件初探
本文个人博客地址本文公众号地址背景数据从最原始的状态,可能是一个 excel,一个文本,或者是来自业务数据库的数据,格式各种各样,落地到数据仓库.数据湖中,数据的同步过程是必不可少的图片来源 ...
大数据必须框架-Azkaban
大数据必须框架-Azkaban 一.Azkaban 概论 1.为什么需要工作流调度系统 1)一个完整的数据分析系统通常都是由大量任务单元组成: Shell 脚本程序,Java 程序,MapReduce ...
bboss hadoop hdfs大数据抽取工具
bboss大数据抽取工具功能特点如下: 实现db到hadoop hdfs数据导入功能,提供高效的分布式并行处理能力,可以采用数据库分区.按字段分区.分页方式并行批处理抽取db数据到hdfs文件系统中: ...

大数据任务调度工具azkaban初步使用

1.azkaban是什么

2.使用场景

3.有向无环图（DAG）

4.简单使用

大数据任务调度工具azkaban初步使用相关推荐

最新文章

热门文章