探寻繁杂定时任务的解决方案:分布式任务调度系统
导语:本文我们从架构和技术实现上来为大家讲解腾讯云分布式任务调度系统TCT(Tencent Cloud Task)如何实现任务调度的精准实时、稳定高效,以及任务的切分和编排。(编辑:中间件小Q妹)
01 背景介绍
缘起缘灭,自有因果
首先, 我们来思考一些几个业务场景:
XX信用卡中心,每月28日凌晨1:00到3:00需要完成全网用户当月的费用清单的生成。
XX服饰,需要每天上午9:00开始向会员推送送生日祝福短信。
XX游戏平台,新用户注册后,需要为当前用户生成定时任务, 在月底清算虚拟货币兑换的佣金额度。
XX公司,需要定时执行Python脚本,清理掉某文件服务系统中无效的tmp文件。
XX保险公司,需要每天凌晨2:00统计前一天新增保单数量,并触发报表生成任务,完成后抄送邮件。
类似上述批量处理海量定时任务的业务场景,企业从单体架构向微服务架构、云化服务架构演进过程中已经屡见不鲜,基于Quartz的常规调度框架已无法应对这种分布式场景下的需求,既无法实现任务调度的精准实时、稳定高效,也无法实现任务的切分、编排、失败补充。因此企业迫切需要一款一站式分布式调度任务解决方案,帮助企业统一管理繁杂纷乱的定时任务,增强企业微服平台服务化能力,支撑企业云化服务转型。
02 现有的开源方案
它山之石可以攻玉 ...
在过往的发展中, 前人留下了不少优秀的方案, 各有利弊。常见开源产品: Quartz、XXL-Job、ElasticJob、Antares、SIA-TASK 等。
Quartz:该框架应用最为广泛,其完全基于Java实现,Quartz 对单个任务的控制基本做到了极致,以其强大功能和应用灵活性,成为开源任务调度领域的权威及同类开源产品如Antares的基石;
XXL-JOB:一个轻量级分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。XXL-JOB 支持分片,支持简单任务依赖,支持子任务依赖,不支持跨平台的。
Elastic-Job:支持任务分片(作业分片一致性),没有任务编排,不支持跨平台;
SIA-TASK:具有跨平台、可编排、高可用、无侵入、一致性、异步并行、动态扩展、实时监控等特点。
从开源方案的逻辑架构和技术实现上,我们也能直观的看出开源方案的不足:
架构方面:调度器职责划分不清晰、系统扩展性不足。面对大规模虚拟化&复杂的网络环境,简单的远程调用并不能完成胜任。
性能方面:ZooKeeper集群伴随任务量和高频事件的增多,成为系统性能瓶颈。简的远程调用或者任务拉取等方案, 满足不了量大频高的业务诉求。
功能方面:缺乏完整认证鉴权方面的系统设计,安全性无法保障。任务干预、监控告警等系统运维方面能力较弱。
03 TCT简介
为了解决上述问题,我们进行了深入的探索,并设计出了一套企业级的分布式任务调度系统TCT(Tencent Cloud Task)。TCT提供一站式分布式调度任务解决方案,支持随机、广播多种任务类型,具备任务分片、任务编排能力,提供完善的监控告警体系。我们结合了用户实际的业务场景,吸取了历史经验,主要解决了面几个核心问题:
以上核心要素,对系统的要求各不相同,可提供如下总结进行参考:
04 技术架构
下面我们解释下架构图中的各个功能模块:
05 功能架构
这样设计分布式任务调度系统,有以下几个优点:
优点一:模块化微服务架构设计, 职责清晰
触发器
只需根据任务执行规则,计算解析出不同时点的任务触发事件。通过MQ的实现可靠性投递(后续文章会逐步讲解如何实现可靠性投递),起到削峰填谷,避免高峰IO等问题, 提高吞吐量。
通过合理的分片策略和容灾策略,解决传统多节点锁竞争轮训的解析加载策略,降低对存储的压力。
冷热数据隔离加载机制,进一步降低对存储压力和系统开销。
根据高频的任务执行策略,采取预加载策略和动态调整预加载算法,解决高频触发导致系统负载高的问题。
调度器
整个任务调度系统中控制逻辑最为复杂的组件,IO密集型组件。
通过订阅MQ消息事件,与触发器解耦,有效提升系统的吞吐。
专注于任务调度的逻辑控制,如任务执行调度、负载均衡、容错、限流、计费等。
接入网关
独立承担客户端的接入认证和鉴权,提供有效的权限校验策略。
负责上下行信道的回话管理,与复杂的业务逻辑完成解耦。
客户端节点及服务节点上下线自动探测感知机制,有效实现会话管理。
数据透传及路由,实现组件内闭环。
配合SDK/Agent侧设计,有效避免了单节点连接数瓶颈以及服务节点冷起场景下的高并发tcp建立连接问题。
优点二:无状态化设计,简便水平扩展
触发器
通过有效的分片策略,在实现避免触发压力集中化的情况下,可快捷的完成服务的弹性扩缩容,实现近似无状态的水平扩展。
调度器
完全无状态的设计方案,无需考虑任务的回源问题,实现无状态的水平扩容。
接入网关
完全无状态的设计方案,可实现无状态的水平扩容,实现理论上TCP连接数无上限。
优点三:功能完备
灵活的触发规则
支持Cron表达式,例如 * 0/5 * * * ? 等。
特定周期频率的触发规则,例如 间隔36分钟等。
便捷的管理能力,提供暂停、恢复、停止、重试等多种多样的管控能力。
支持三种执行方式
随机节点执行:选择集群中一个可用的执行节点执行调度任务。适用场景:定时对账。
广播执行:在集群中所有的执行节点分发调度任务并执行。适用场景:批量运维。
分片执行:按照用户自定义分片逻辑进行拆分,分发到集群中不同节点并行执行,提升资源利用效率。适用场景:海量日志统计。
支持三种触发方式
手动触发:用户在任务管理列表选择特定任务手动执行一次,调度器立即进行任务分发,并产生一个执行批次。适用场景:周期执行任务补充。
周期触发:通过设置任务触发的间隔时间来设置任务的执行时间;可支持 cron 表达式所不支持的周期设置。适用场景:定时备份。
工作流触发:工作流是一组任务集合,可以编排任务的上下游逻辑依赖,进行任务触发。适用场景:海量数据处理,如数据采集,数据过滤,数据清洗,数据聚合的流程编排。
日志溯源能力
通过日志服务, 方便用户查询任务执行日志。用户可以通过执行记录所有任务的执行批次详情,能够对当前状态为执行中的批次进行停止执行操作,能够对当前已经终止的批次触发重新执行操作;点击批次ID进入该批次的执行详情,点击任务ID进入该任务的执行批次列表,点击执行部署组进入资源详情列表。
支持复杂的任务编排能力
可以实现多种场景的任务工作流。通过构建调度任务的上下游依赖关系完成复杂的任务调度逻辑。适用于大数据流程处理、任务执行工单、批量运维流程编排等应用场景。
06 总结
一个平台性的系统,从产品功能到技术架构都存在着方方面面的挑战,需要层层抽象和逐步优化才能完成一个成熟产品落地。在大数据时代,面对海量的数据和用户规模,任何一种架构设计,都面临着网络响应、 容错、幂等、数据可靠性/一致性等诸多问题。
对于平台而言,任务的可靠性是第一优先级需要考虑的,次之任务执行的时效性。合理地进行功能模块化拆分,针对不同场景,设计不同的扩展方案,保证SLA的前提下提升系统整体吞吐,实现可靠有效触达,应对频高量大的业务场景。
对于用户而言,多样化的管理手段、多维度的运行指标查询, 全方位的链路监控则是用户追求的,只有让用户从复杂混乱的定时任务场景中抽离出来,才能更加专注在业务研发。
探寻繁杂定时任务的解决方案:分布式任务调度系统相关推荐
- 分布式任务调度系统-定时任务的解决方案
导语:在前面我们讲过了阿里云分布式任务调度平台,今天我们从架构和技术实现上来为大家讲解腾讯云分布式任务调度系统TCT(Tencent Cloud Task)如何实现任务调度的精准实时.稳定高效,以及任 ...
- 这些优秀的国产分布式任务调度系统,你用过几个?
2019独角兽企业重金招聘Python工程师标准>>> 分布式调度在互联网企业中占据着十分重要的作用,尤其是电子商务领域,由于存在数据量大.高并发的特点,对数据处理的要求较高,既要保 ...
- 一款你不得不了解的轻量级分布式任务调度系统
CronMan 分布式任务调度/定时任务系统 github地址:CronMan, 欢迎star 欢迎朋友们站内私信交流~ 简介 CronMan是一款轻量级的分布式任务调度系统.随着微服务化架构的逐步演 ...
- 分布式任务调度系统V1
分布式任务调度系统V1目标 初步目标实现,实现任务的下发分配,分布式任务执行,支持任务分片(在代码上支持),任务执行记录. 任务调度系统构思 基于C/S架构实现,基于长连接来管理实现,当前版本的逻辑架 ...
- 赫拉(hera)分布式任务调度系统
相关介绍 赫拉(hera)分布式任务调度系统之架构,基本功能(一) 赫拉(hera)分布式任务调度系统之项目启动(二) 赫拉(hera)分布式任务调度系统之开发中心(三) 赫拉(hera)分布式任务调 ...
- 【Python】轻量级分布式任务调度系统-RQ
一 前言 Redis Queue 一款轻量级的P分布式异步任务队列,基于Redis作为broker,将任务存到redis里面,然后在后台执行指定的Job.就目前而言有三套成熟的工具cele ...
- 赫拉(hera)分布式任务调度系统之项目启动(二)
文章目录 赫拉 创建表 打包部署 测试 TIPS 加入群聊 赫拉 大数据平台,随着业务发展,每天承载着成千上万的ETL任务调度,这些任务集中在hive,shell脚本调度.怎么样让大量的ETL任务准确 ...
- 开源分布式任务调度系统就选它!
分布式任务调度这个话题是每个后端开发和大数据开发都会接触的话题.因为应用场景的广泛,所以有很多开源项目专注于解决这类问题,比如我们熟知的xxl-job. 那么今天要给大家推荐的则是另一个更为强大的开源 ...
- 赫拉(hera)分布式任务调度系统之开发中心(三)
文章目录 赫拉 简介 目录介绍 创建一个脚本 执行选中的代码 上传资源 同步任务 脚本自动保存 加入群聊 赫拉 大数据平台,随着业务发展,每天承载着成千上万的ETL任务调度,这些任务集中在hive,s ...
最新文章
- Perl 模块安装遇到的问题解决办法
- ubuntu 14.04:Error found when loading /root/.profile
- createQuery与createSQLQuery
- MagicRecord For IOS 简介
- 绿盟科技鸿蒙系统,华为 X 绿盟科技,打造“云原生安全新生态”
- ENVI二次开发时的注意事项
- 基于51单片机电子时钟
- 数论及Python实践
- 计算机视觉是否已经进入瓶颈期?
- python中ipo是什么意思呢_ipo是什么意思呢?ipo是不是就是上市呢?
- OpenCV-python 自制图片画框脚本
- 【手游】手游行业专业相关知识储备
- Python将.nii格式文件转换为.png格式
- un4 unreal4 创建路径 曲线 管道 Spline组件 使用方法
- dubbo 2标签解析 ServiceBeanT 生产者服务暴漏过程
- YY创始人携手极客公园调坎QQ企鹅
- linux第一块ide硬盘命名为,linux下硬盘分区
- autocad.net通过支持文件搜索路径查找文件
- C语言>>8 0xFF; 0xFF;作用
- Python分析【标题党】文章