产品咨询:维信搜素 "kitleer" 备注 "咨询"

taskctl是什么

批量调度自动化技术是大数据时代数据整合后台不可缺少的重要技术。数据是黄金,数据是整个社会乃各企业团体的重要资产,管好数据、用好数据是整个社会的重要命题。想要用好数据,首先就应该管好数据。而批量调度自动化技术,正是管好数据的重要保证。在众多大大小小数据仓库、数据集市以及各种各样的数据池子中,是批量调度自动化技术让大量数据的进出、存放、清洗、过滤、粗加工、细加工等各种各样的工作有序、高效的展开。没有批量调度自动化的数据管理、数据整合等ETL工作,就像一家大公司没有领导,所有工作必将变得紊乱、低效、失控。

没错,批量调度自动化技术对数据整合、对各种各样的ETL,就像领导对公司的意义。同时,批量调度自动化技术又像优秀的职业经理人,没有行业的限制,它是一种与业务无关的纯技术体系。因此,将该技术独立化、系统化、专业化、工具化、产品化,必将给整个ETL技术领域、数据整合领域带来很大的帮助,让整个数据整合技术世界变得更美好。

TASKCTL就是这样一款批量调度自动化技术专业产品。该产品概念新颖,体系完整、功能全面、使用简单、操作流畅,超前的设计使产品在业界独树一帜,它不仅有完整的调度核心、灵活的扩展,同时具备完整的应用体系。该产品特别在流程设计,流程图展示方面与业界同类产品方案相比,不仅取得突破性的进展,而且在图形直观性、操作简便性、灵活性方面有质的飞跃。

产品结构

TASKCTL自动化技术标准产品采用典型的C/S模式,应用层为客户端,控制层为服务端。同时,服务端完成对目标层的调度控制。

应用层

应用层从功能的角度,主要分admin、designer和monitor。从应用渠道的角度,又分桌面客户端渠道与后台字符界面客户端渠道。同时,为了进一步方便用户,系统服务端还提供了丰富的控制操作行命令。

控制层

控制层是多级金字塔架构,顶层为服务控制节点,完成各种调度服务控制以及为客户端提供各种操作应用服务。而代理层完成与目标服务器(ETL等)的控制交互。另,代理层通过主从代理级联方式,可实现对集群部署的服务器进行调度控制,实现负载均衡等。

目标层

目标层,是整个产品所控制的目标,比如我们的ETL服务器,作业工作站等。

核心组件逻辑架构

产品核心是在自主创新核心技术:无数据库存储访问、全事件组件间通信触发(消息队列)、动态数据全内存访问的基础上构建的。 在整个逻辑架构中,每一个组件对应一个系统进程,整个核心功能就是由不同功能的进程有序协同完成。

功能体系

技术咨询:添加微信—"Kitleer"备注"咨询"

十大特征功能

十万级作业规模调度支持

TASKCTL从2.0开始,就定位为企业级调度基础软件,能实现10万级任务调度控制,能满足各大企业的调度规模需求。

支持各种技术平台的集成,能实现各种作业类型的调度

TASKCTL是一个开放的调度平台,为了适应诸如Datastage、Informatic、kettle、一体机、大数据、存储过程、java以及各种脚本任务程序的支持与扩展,同时保证不同任务类型的应用统一,TASKCTL对作业的控制采用插件驱动机制,从而实现不同技术平台、不同作业类型调度控制。

多级高可用(HA)、分布式、负载均衡企业级特征

为了保证系统的高可用性、高扩展性,整个产品核心设计采用层级架构。通过"Server(调度控制中心)" + "Agent(代理)"协调工作,完成各种复杂的调度控制,同时,通过Server主备,Server和Agent分布式集群部署,实现高可用性与负载均衡的企业级系统特性。

丰富的应用渠道、完整的应用体系

TASKCTL不仅将系统应用功能按应用类型通过Admin、Designer、Monitor三个软件来组织与应用,同时又按不同应用渠道分C/S模式桌面客户端、C/S模式字符界面客户端以及B/S模式监控应用端。它们分别构成完整的应用系统,用户可以根据自己的操作习惯与具体应用环境,选择合适的客户端渠道进行应用操作。

灵活用户权限管理

为了实现用户对各个作业流程资源的操作控制,TASKCTL采用操作系统的用户管理机制,TASKCTL将设计流程对象化、文件化,每个流程可以对拥有者、同组、其它用户分别授予读、写、操作权限,这种机制可以让用户对不同项目的的不同流程灵活授予读写操作权限。

流程作业的多级组织架构

流程作业信息是调度的核心信息,为了有效管理与控制这些信息,TASKCTL通过主题应用、流程(子流程)、模块等多级体系来组织作业信息,使整个平台的作业信息结构更清晰、更易管理、更易控制。

强大的核心调度功能

①灵活的流程驱动

一个作业流程的开始,可以通过文件到达触发、自定义周期定时触发(n分钟、n小时、n天等)以及自定义事件触发等。

②完整的调度控制策略

关系策略:可以实现作业、作业流之间的并行、互斥以及任意依赖控制。特别是依赖控制,系统通过串行、单点依赖、事件依赖以及自定义条件等机制,可以实现作业流内、不同作业流、不同ETL作业服务器以及不同业务日期、不同批次间任意作业的依赖控制。

排程计划策略:实现任意自然日历、逻辑日期排程计划;一个流程内可实现自然日历与多个逻辑日期的混合排程计划。

容错策略:可以实现作业错误后自动重跑,并可指定重跑次数,还可以实现错误重试次数满后,自动决定任务是否通过或失败。

强大的自定义策略:一个任务是否运行、忽略以及等待,用户可以通过自定义条件来确定。一方面,可以采用系统提供的内置函数用于条件判断;还可以通过自定义脚本程序来实现条件判断。

灵活的参数传递:用户可以通过定义全局变量、流程私有变量来实现定义各种信息的宏替换、作业参数传递、流程间变量信息传递等。另外,TASKCTL还可实现一个任务的返回值当作另外一个任务的入口参数来传递。

全方位实时监控作业运行

为了用户实时了解作业的运行状况,TASKCTL整体采用实时刷新、图形、多角度多口径统计以及短信等方式对整个平台作业进行全方位监控,以便用户及时掌握哪些作业正在运行、错误原因、失败、警告等信息

灵活的人工干预维护

人工干预是自动调度系统必不可少的功能。用户可以通过人工操作实现流程的暂停、重置、断点设置与作业的重跑、强制成功以及忽略通过;用户可以通过流程自由模式启动来实现任意作业以及任意作业分支的人工运行等。

专业的图形用户界面

TASKCTL的图形用户界面能够完成上述的所有功能。它将众多功能集成于一个直观的图形界面中,使得用户不用熟悉各种命令、作业定义语言等,就可迅速掌握与使用,进一步方便了用户

产品咨询:维信搜素 "kitleer" 备注 "咨询"

深入浅出的etl作业调度工具taskctl相关推荐

  1. 【开源免费】国产10万级etl作业调度软件 taskctl 6.0 永久授权

    TASKCTL是成都塔斯克信息技术有限公司专为批量作业调度自动化打造的一款敏捷调度工具.可为批量作业自动化调度者提供简单的方法来管理各类复杂作业的调度和监控管理.TASKCTL通过将企业内部复杂的作业 ...

  2. ETL开源工具 taskctl 6.0 免费授权

    功能完整是基本,简单易用才是王道,这就是TASKCTL对敏捷的朴素定义.功能少,怎么复杂也会简单:而功能体系完整,怎么简单也会复杂.因此,简单与复杂是相对的,而TASKCTL正是追求那种在功能完整不可 ...

  3. ETL作业调度软件TASKCTL自定义扩展作业类型插件安装

    TASKCTL批量自动化调度作业类型扩展插件的安装方法如下几种: 1. 直接覆盖法 直接覆盖法的意思就是将自定义扩展好的插件,通常是一个shell脚本,上传至后台调度核心服务上,然后修改后台任务类型的 ...

  4. Amazon Glue ETL 作业调度工具选型初探

    Amazon Glue 是一项完全托管,无服务器架构的ETL服务.客户无需预置基础设置,仅需由 Glue 负责预置.扩展 Spark 运行环境,客户只需要专注开发 ETL 代码,并且使用 Amazon ...

  5. 批量处理作业调度工具Taskctl的Kettle转换作业类型的使用(soap服务驱动)

    工具下载:去公众号[taskctl]回复内容 "软件" 即可 TASKCTL默认采用pan命令方式调度kettle转换作业.除此之外,我们还提供了taskctl-plugin-ke ...

  6. 批量作业调度工具 Taskctl 定时器及模块之间的区别

    软件获取:去公众号 "taskctl" 回复内容 "领取" 或 "软件" 即可 主流程.子流程.定时器都属于控制容器:而每个控制容器,包含一 ...

  7. 免费etl调度工具Taskctl-Web应用版功能框架及特性

    目录 初识Taskctl-Web版 功能框架 系统特性 登录界面 下载方式 安装环境准备 如何0元获取永久使用授权 初识Taskctl-Web版 Taskctl Free应用版原型是在原有商用版Tas ...

  8. 《Kettle构建Hadoop ETL系统实践》大数据ETL开发工具选择Kettle的理由

    ETL一词是Extract.Transform.Load三个英文单词的首字母缩写,中文意为抽取.转换.装载.ETL是建立数据仓库最重要的处理过程,也是最能体现工作量的环节,一般会占到整个数据仓库项目工 ...

  9. 免费ETL调度管理平台,自动化运维工具 TASKCTL 8.0作业设计功能使用

    TASKCTL 8.0 8.0是一款基于B/S架构[轻量企业级免费ETL任务批量处理工具]它支持各类脚本任务程序和扩展:具备可视化图形拖拽设计界面,以及可视化任务作业管理.计划调度.实时监控.消息提醒 ...

  10. ETL调度工具中美PK ( TASKCTL VS Control-M)

    美方:Control-M  ( www.bmc.com) 中方:TASKCTL  ( www.taskctl.com ) 毫无疑问,Control-M作为美方代表当之无愧, 因为该软件不仅是美国国内最 ...

最新文章

  1. 监控摄像头服务器维护要多久,监控摄像机如何维护 这几点要牢记
  2. IAR实际使用过程中遇到的问题
  3. coredump调试的使用
  4. 解决Ubuntu,su: 认证失败
  5. ERROR: No query specified
  6. 牛客题霸 [连续子数组的最大和] C++题解/答案
  7. linux下后台启动springboot项目
  8. 我摸鱼写的Java片段意外称霸Stack Overflow十年、征服6000多GitHub开源项目: 有bug!...
  9. IS-IS详解(十六)——IS-IS 分片扩展
  10. android开发学习 ------- android studio 同时用svn和git 进行代码管理 出现的问题
  11. C++ queue(STL queue)
  12. Android数据持久化存储(一)
  13. ICP经营许可证需要多久能够下证
  14. qt 处理ORACLE的AMERICAN_AMERICA.US7ASCII编码
  15. [附源码]JAVA+ssm计算机毕业设计高铁乘坐舒适性在线调查及评价系统(程序+Lw)
  16. 电话交换机--程控交换机
  17. 左耳朵耗子:我看ChatGPT,为啥谷歌掉了千亿美金
  18. JS判断当前页面是否在微信内打开
  19. 求子集PHP,JavaScript求非空子集数目的实现方法
  20. stm8s001 - SWIM复用为ADC输入 ADC电压值不准确?

热门文章

  1. jdk1.8的安装与环境变量配置
  2. Python批量压缩图片(TinyPNG)
  3. 一款DYI动态桌面壁纸程序
  4. mac 终端 常用命令
  5. cf Educational Codeforces Round 77 D. A Game with Traps
  6. html中怎么给文字设置动画效果,文字效果怎么设置?
  7. 【神科普】诺基亚:你以为它死了,其实它已重回世界第二
  8. cboard企业版源码_Cboard 搭建和初步试用文档
  9. GPGGA \ GPRMC 格式解析
  10. imx6ull uboot移植