欢迎关注方志朋的博客,回复”666“获面试宝典

来源:blog.csdn.net/hjm4702192/

article/details/80519010

引言

在开发中,往往会遇到一些关于延时任务的需求。例如

  • 生成订单30分钟未支付,则自动取消

  • 生成订单60秒后,给用户发短信

对上述的任务,我们给一个专业的名字来形容,那就是延时任务。那么这里就会产生一个问题,这个延时任务和定时任务的区别究竟在哪里呢?一共有如下几点区别

  • 定时任务有明确的触发时间,延时任务没有

  • 定时任务有执行周期,而延时任务在某事件触发后一段时间内执行,没有执行周期

  • 定时任务一般执行的是批处理操作是多个任务,而延时任务一般是单个任务

下面,我们以判断订单是否超时为例,进行方案分析

方案分析

(1)数据库轮询

思路

该方案通常是在小型项目中使用,即通过一个线程定时的去扫描数据库,通过订单时间来判断是否有超时的订单,然后进行update或delete等操作

实现

博主当年早期是用quartz来实现的(实习那会的事),简单介绍一下

maven项目引入一个依赖如下所示

<dependency><groupId>org.quartz-scheduler</groupId><artifactId>quartz</artifactId><version>2.2.2</version>
</dependency>

调用Demo类MyJob如下所示

package com.rjzheng.delay1;import org.quartz.Job;
import org.quartz.JobBuilder;
import org.quartz.JobDetail;
import org.quartz.JobExecutionContext;
import org.quartz.JobExecutionException;
import org.quartz.Scheduler;
import org.quartz.SchedulerException;
import org.quartz.SchedulerFactory;
import org.quartz.SimpleScheduleBuilder;
import org.quartz.Trigger;
import org.quartz.TriggerBuilder;import org.quartz.impl.StdSchedulerFactory;public class MyJob implements Job {public void execute(JobExecutionContext context)throws JobExecutionException {System.out.println("要去数据库扫描啦。。。");}public static void main(String[] args) throws Exception {// 创建任务JobDetail jobDetail = JobBuilder.newJob(MyJob.class).withIdentity("job1", "group1").build();// 创建触发器 每3秒钟执行一次Trigger trigger = TriggerBuilder.newTrigger().withIdentity("trigger1", "group3").withSchedule(SimpleScheduleBuilder.simpleSchedule().withIntervalInSeconds(3).repeatForever()).build();Scheduler scheduler = new StdSchedulerFactory().getScheduler();// 将任务及其触发器放入调度器scheduler.scheduleJob(jobDetail, trigger);// 调度器开始调度任务scheduler.start();}
}

运行代码,可发现每隔3秒,输出如下

要去数据库扫描啦。。。

优缺点

优点:

  • 简单易行,支持集群操作

缺点:

  • 对服务器内存消耗大

  • 存在延迟,比如你每隔3分钟扫描一次,那最坏的延迟时间就是3分钟

  • 假设你的订单有几千万条,每隔几分钟这样扫描一次,数据库损耗极大

(2)JDK的延迟队列

思路

该方案是利用JDK自带的DelayQueue来实现,这是一个无界阻塞队列,该队列只有在延迟期满的时候才能从中获取元素,放入DelayQueue中的对象,是必须实现Delayed接口的。

DelayedQueue实现工作流程如下图所示

其中

  • Poll():获取并移除队列的超时元素,没有则返回空

  • take():获取并移除队列的超时元素,如果没有则wait当前线程,直到有元素满足超时条件,返回结果。

实现

定义一个类OrderDelay实现Delayed,代码如下

package com.rjzheng.delay2;import java.util.concurrent.Delayed;
import java.util.concurrent.TimeUnit;public class OrderDelay implements Delayed {private String orderId;private long timeout;OrderDelay(String orderId, long timeout) {this.orderId = orderId;this.timeout = timeout + System.nanoTime();}public int compareTo(Delayed other) {if (other == this) {return 0;}OrderDelay t = (OrderDelay) other;long d = (getDelay(TimeUnit.NANOSECONDS) -t.getDelay(TimeUnit.NANOSECONDS));return (d == 0) ? 0 : ((d < 0) ? (-1) : 1);}// 返回距离你自定义的超时时间还有多少public long getDelay(TimeUnit unit) {return unit.convert(timeout - System.nanoTime(), TimeUnit.NANOSECONDS);}void print() {System.out.println(orderId + "编号的订单要删除啦。。。。");}
}

运行的测试Demo为,我们设定延迟时间为3秒

package com.rjzheng.delay2;
import java.util.ArrayList;
import java.util.List;
import java.util.concurrent.DelayQueue;
import java.util.concurrent.TimeUnit;
public class DelayQueueDemo
{public static void main(String[] args){// TODO Auto-generated method stub  List < String > list = new ArrayList < String > ();list.add("00000001");list.add("00000002");list.add("00000003");list.add("00000004");list.add("00000005");DelayQueue < OrderDelay > queue = newDelayQueue < OrderDelay > ();long start = System.currentTimeMillis();for(int i = 0; i < 5; i++){//延迟三秒取出queue.put(new OrderDelay(list.get(i), TimeUnit.NANOSECONDS.convert(3, TimeUnit.SECONDS)));try{queue.take().print();System.out.println("After " + (System.currentTimeMillis() - start) + " MilliSeconds");}catch(InterruptedException e){// TODO Auto-generated catch block  e.printStackTrace();}}}
}

输出如下

00000001编号的订单要删除啦。。。。After 3003 MilliSeconds00000002编号的订单要删除啦。。。。After 6006 MilliSeconds00000003编号的订单要删除啦。。。。After 9006 MilliSeconds00000004编号的订单要删除啦。。。。After 12008 MilliSeconds00000005编号的订单要删除啦。。。。After 15009 MilliSeconds

可以看到都是延迟3秒,订单被删除

优缺点

优点:

  • 效率高,任务触发时间延迟低。

缺点:

  • 服务器重启后,数据全部消失,怕宕机

  • 集群扩展相当麻烦

  • 因为内存条件限制的原因,比如下单未付款的订单数太多,那么很容易就出现OOM异常

  • 代码复杂度较高

(3)时间轮算法

思路

先上一张时间轮的图(这图到处都是啦)

时间轮算法可以类比于时钟,如上图箭头(指针)按某一个方向按固定频率轮动,每一次跳动称为一个 tick。这样可以看出定时轮由个3个重要的属性参数,ticksPerWheel(一轮的tick数),tickDuration(一个tick的持续时间)以及 timeUnit(时间单位),例如当ticksPerWheel=60,tickDuration=1,timeUnit=秒,这就和现实中的始终的秒针走动完全类似了。

如果当前指针指在1上面,我有一个任务需要4秒以后执行,那么这个执行的线程回调或者消息将会被放在5上。那如果需要在20秒之后执行怎么办,由于这个环形结构槽数只到8,如果要20秒,指针需要多转2圈。位置是在2圈之后的5上面(20 % 8 + 1)

实现

我们用Netty的HashedWheelTimer来实现

给Pom加上下面的依赖

<dependency><groupId>io.netty</groupId><artifactId>netty-all</artifactId><version>4.1.24.Final</version>
</dependency>

测试代码HashedWheelTimerTest如下所示

package com.rjzheng.delay3;
import io.netty.util.HashedWheelTimer;
import io.netty.util.Timeout;
import io.netty.util.Timer;
import io.netty.util.TimerTask;
import java.util.concurrent.TimeUnit;
public class HashedWheelTimerTest
{static class MyTimerTask implements TimerTask{boolean flag;public MyTimerTask(boolean flag){this.flag = flag;}public void run(Timeout timeout) throws Exception{// TODO Auto-generated method stubSystem.out.println("要去数据库删除订单了。。。。");this.flag = false;}}public static void main(String[] argv){MyTimerTask timerTask = new MyTimerTask(true);Timer timer = new HashedWheelTimer();timer.newTimeout(timerTask, 5, TimeUnit.SECONDS);int i = 1;while(timerTask.flag){try{Thread.sleep(1000);}catch(InterruptedException e){// TODO Auto-generated catch blocke.printStackTrace();}System.out.println(i + "秒过去了");i++;}}
}

输出如下

1秒过去了2秒过去了3秒过去了4秒过去了5秒过去了要去数据库删除订单了。。。。6秒过去了

优缺点

优点:

  • 效率高,任务触发时间延迟时间比delayQueue低,代码复杂度比delayQueue低。

缺点:

  • 服务器重启后,数据全部消失,怕宕机

  • 集群扩展相当麻烦

  • 因为内存条件限制的原因,比如下单未付款的订单数太多,那么很容易就出现OOM异常

(4)redis缓存

思路

利用redis的zset,zset是一个有序集合,每一个元素(member)都关联了一个score,通过score排序来取集合中的值

  • 添加元素:ZADD key score member [[score member] [score member] …]

  • 按顺序查询元素:ZRANGE key start stop [WITHSCORES]

  • 查询元素:score:ZSCORE key member

  • 移除元素:ZREM key member [member …]

测试如下

# 添加单个元素
redis> ZADD page_rank 10 google.com(integer) 1# 添加多个元素
redis> ZADD page_rank 9 baidu.com 8 bing.com(integer) 2redis> ZRANGE page_rank 0 -1 WITHSCORES1) "bing.com"
2) "8"
3) "baidu.com"
4) "9"
5) "google.com"
6) "10"# 查询元素的score值redis> ZSCORE page_rank bing.com
"8"# 移除单个元素redis> ZREM page_rank google.com(integer) 1redis> ZRANGE page_rank 0 -1 WITHSCORES1) "bing.com"
2) "8"
3) "baidu.com"
4) "9"

那么如何实现呢?我们将订单超时时间戳与订单号分别设置为score和member,系统扫描第一个元素判断是否超时,具体如下图所示

实现一

package com.rjzheng.delay4;
import java.util.Calendar;
import java.util.Set;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.Tuple;
public class AppTest
{private static final String ADDR = "127.0.0.1";private static final int PORT = 6379;private static JedisPool jedisPool = new JedisPool(ADDR, PORT);public static Jedis getJedis(){return jedisPool.getResource();}//生产者,生成5个订单放进去public void productionDelayMessage(){for(int i = 0; i < 5; i++){//延迟3秒Calendar cal1 = Calendar.getInstance();cal1.add(Calendar.SECOND, 3);int second3later = (int)(cal1.getTimeInMillis() / 1000);AppTest.getJedis().zadd("OrderId", second3later, "OID0000001" + i);System.out.println(System.currentTimeMillis() + "ms:redis生成了一个订单任务:订单ID为" + "OID0000001" + i);}}//消费者,取订单public void consumerDelayMessage(){Jedis jedis = AppTest.getJedis();while(true){Set < Tuple > items = jedis.zrangeWithScores("OrderId", 0, 1);if(items == null || items.isEmpty()){System.out.println("当前没有等待的任务");try{Thread.sleep(500);}catch(InterruptedException e){// TODO Auto-generated catch blocke.printStackTrace();}continue;}int score = (int)((Tuple) items.toArray()[0]).getScore();Calendar cal = Calendar.getInstance();int nowSecond = (int)(cal.getTimeInMillis() / 1000);if(nowSecond >= score){String orderId = ((Tuple) items.toArray()[0]).getElement();jedis.zrem("OrderId", orderId);System.out.println(System.currentTimeMillis() + "ms:redis消费了一个任务:消费的订单OrderId为" + orderId);}}}public static void main(String[] args){AppTest appTest = new AppTest();appTest.productionDelayMessage();appTest.consumerDelayMessage();}
}

此时对应输出如下

可以看到,几乎都是3秒之后,消费订单。

然而,这一版存在一个致命的硬伤,在高并发条件下,多消费者会取到同一个订单号,我们上测试代码ThreadTest

package com.rjzheng.delay4;
import java.util.concurrent.CountDownLatch;
public class ThreadTest
{private static final int threadNum = 10;private static CountDownLatch cdl = newCountDownLatch(threadNum);static class DelayMessage implements Runnable{public void run(){try{cdl.await();}catch(InterruptedException e){// TODO Auto-generated catch blocke.printStackTrace();}AppTest appTest = new AppTest();appTest.consumerDelayMessage();}}public static void main(String[] args){AppTest appTest = new AppTest();appTest.productionDelayMessage();for(int i = 0; i < threadNum; i++){new Thread(new DelayMessage()).start();cdl.countDown();}}
}

输出如下所示

显然,出现了多个线程消费同一个资源的情况。

解决方案

(1)用分布式锁,但是用分布式锁,性能下降了,该方案不细说。

(2)对ZREM的返回值进行判断,只有大于0的时候,才消费数据,于是将consumerDelayMessage()方法里的

if(nowSecond >= score)
{String orderId = ((Tuple) items.toArray()[0]).getElement();jedis.zrem("OrderId", orderId);System.out.println(System.currentTimeMillis() + "ms:redis消费了一个任务:消费的订单OrderId为" + orderId);
}

修改为

if(nowSecond >= score)
{String orderId = ((Tuple) items.toArray()[0]).getElement();Long num = jedis.zrem("OrderId", orderId);if(num != null && num > 0){System.out.println(System.currentTimeMillis() + "ms:redis消费了一个任务:消费的订单OrderId为" + orderId);}
}

在这种修改后,重新运行ThreadTest类,发现输出正常了

思路二

该方案使用redis的Keyspace Notifications,中文翻译就是键空间机制,就是利用该机制可以在key失效之后,提供一个回调,实际上是redis会给客户端发送一个消息。是需要redis版本2.8以上。

实现二

在redis.conf中,加入一条配置

notify-keyspace-events Ex

运行代码如下

package com.rjzheng.delay5;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import redis.clients.jedis.JedisPubSub;
public class RedisTest
{private static final String ADDR = "127.0.0.1";private static final int PORT = 6379;private static JedisPool jedis = new JedisPool(ADDR, PORT);private static RedisSub sub = new RedisSub();public static void init(){new Thread(new Runnable(){public void run(){jedis.getResource().subscribe(sub, "__keyevent@0__:expired");}}).start();}public static void main(String[] args) throws InterruptedException{init();for(int i = 0; i < 10; i++){String orderId = "OID000000" + i;jedis.getResource().setex(orderId, 3, orderId);System.out.println(System.currentTimeMillis() + "ms:" + orderId + "订单生成");}}static class RedisSub extends JedisPubSub{ < ahref = 'http://www.jobbole.com/members/wx610506454' > @Override < /a>public void onMessage(String channel, String message){System.out.println(System.currentTimeMillis() + "ms:" + message + "订单取消");}}
}

输出如下

可以明显看到3秒过后,订单取消了

ps:redis的pub/sub机制存在一个硬伤,官网内容如下

原:

Because Redis Pub/Sub is fire and forget currently there is no way to use this feature if your application demands reliable notification of events, that is, if your Pub/Sub client disconnects, and reconnects later, all the events delivered during the time the client was disconnected are lost.

翻:

Redis的发布/订阅目前是即发即弃(fire and forget)模式的,因此无法实现事件的可靠通知。也就是说,如果发布/订阅的客户端断链之后又重连,则在客户端断链期间的所有事件都丢失了。

因此,方案二不是太推荐。当然,如果你对可靠性要求不高,可以使用。

优缺点

优点:

  • 由于使用Redis作为消息通道,消息都存储在Redis中。如果发送程序或者任务处理程序挂了,重启之后,还有重新处理数据的可能性。

  • 做集群扩展相当方便

  • 时间准确度高

缺点:

  • 需要额外进行redis维护

(5)使用消息队列

我们可以采用rabbitMQ的延时队列。RabbitMQ具有以下两个特性,可以实现延迟队列

RabbitMQ可以针对Queue和Message设置 x-message-tt,来控制消息的生存时间,如果超时,则消息变为dead letter

lRabbitMQ的Queue可以配置x-dead-letter-exchange 和x-dead-letter-routing-key(可选)两个参数,用来控制队列内出现了deadletter,则按照这两个参数重新路由。

结合以上两个特性,就可以模拟出延迟消息的功能,具体的,我改天再写一篇文章,这里再讲下去,篇幅太长。

优缺点

优点:

  • 高效,可以利用rabbitmq的分布式特性轻易的进行横向扩展,消息支持持久化增加了可靠性。

缺点:

  • 本身的易用度要依赖于rabbitMq的运维.因为要引用rabbitMq,所以复杂度和成本变高

热门内容:干掉SQL中的like,我用es后运营小姐姐们都说好快!假如 IDEA 也加入防沉迷功能...当 Docker 遇到 Intellij IDEA,再次解放了生产力~你真的会写for循环吗?来看看这些常见的for循环优化方式最近面试BAT,整理一份面试资料《Java面试BAT通关手册》,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

明天见(。・ω・。)ノ♡

Redis 延时任务(高手养成篇)相关推荐

  1. redis 延时任务 看一篇成高手系列 二

    引言 在开发中,往往会遇到一些关于延时任务的需求.例如 生成订单30分钟未支付,则自动取消 生成订单60秒后,给用户发短信 对上述的任务,我们给一个专业的名字来形容,那就是延时任务.那么这里就会产生一 ...

  2. 百家号 python高手养成_python高手养成记04:python的所有数据类型,一篇足矣

    上一篇:python高手养成记03:面向对象是什么?网友:能3天掌握一门语言 题序: 在上一篇中,我们理解了面向对象的思想,只需要大致理解即可,因为后面我们会专门做这一块的培训.在本篇中,小编来讲解p ...

  3. python两行数据相加_python高手养成记08:教你快速写出自己的python程序

    上一篇:python高手养成记07:操作excel的4种神器 题序 前面的文章,很重要,很重要,很重要,重要的事说三遍,看完前面的文章,这个时候我们就可以开始学习,怎么样去写出自己的一个python程 ...

  4. python高手养成_Python用PyQt5制作颜色对话框,PyQt图形界面编程之QColorDialog

    前几篇内容我们介绍了PyQt5中3种常见的标准弹出对话框. 弹出对话框更加方便人机交流 Qt图形界面编程之QFileDialog类,Python用PyQt5制作文件对话框 如何通过Qt界面设置字体属性 ...

  5. 7年python程序员总结 - Python学习方法和高手养成

    学习python不仅要掌握学习方法,更要摆正学习的心态,这篇文章虽然叫做python学习 方法和高手养成,但是说到高手养成方法,我还是想从心态的角度来给大家详细理一下思路.下面我们先从学习方法来说一下 ...

  6. open函数返回-1_python高手养成记05:最详细的python函数教程

    上一篇:python高手养成记04:python的所有数据类型,一篇足矣 题序 上一篇文章中,小编介绍了python最经常用到的6种基础类型,只要掌握了这6种基础类型,基本上就算打下了一个很好的基础了 ...

  7. python高手养成百家号_使用Python制作一个GUI界面,将随机生成的姓名存入到Excel文件中...

    前面内容,我们详细介绍了如何使用Python生成一定数量的随机姓名. 如何用Python生成若干个随机姓名?男女取名有方法,不能千篇一律 之前,也提到过,我们在一些项目中,需要若干个随机姓名,为了节省 ...

  8. python高手养成_不要总抱怨它慢了 突破性能瓶颈 找到Python序列筛选数据的最优解...

    在使用Python的过程中,我们经常会碰到这样的需求:得到了大量的序列数据(如元组.列表.字典.集合).但是,我们需要的数据是在序列中符合某一条件的数据,比如:我们从一大堆字符串中找到固定字符数的元素 ...

  9. Redis学习笔记1-理论篇

    目录 1,Redis 数据类型的底层结构 1.1,Redis 中的数据类型 1.2,全局哈希表 1.3,数据类型的底层结构 1.4,哈希冲突 1.5,rehash 操作 2,Redis 的 IO 模型 ...

最新文章

  1. 【转】Jmeter常见问题
  2. oracle中create table with as和insert into with as语句
  3. TypeScript 素描 - 函数
  4. java日志服务器_java服务器搭建(一)日志系统
  5. html打开显示脚本错误,IE浏览器显示脚本错误怎么解决?IE浏览器脚本错误解决方法图文教程介绍...
  6. 排行榜上用C++写局域网聊天程序
  7. git 的 merge 默认有commit操作
  8. 网易云深度学习第一课第一周编程作业
  9. python 状态机第三方库_Python 状态机 - osc_8g11urw7的个人空间 - OSCHINA - 中文开源技术交流社区...
  10. RedHat中squid简易配置
  11. c语言 freopen txt_C语言的文件操作 freopen
  12. Android集成百度地图
  13. 史上最全面的深度学习硬件指南
  14. Android studio3.5读取项目资源文件的图片
  15. AC9560网卡linux驱动安装
  16. 用springMVC拦截器实现操作日志管理功能
  17. 张宇八套卷(二)复盘
  18. 音乐播放器 - iOS开发
  19. 不同型号的二极管模块并联_原来我不懂二极管…
  20. 2022届互联网校招薪资开奖,拼多多最高年薪 75 万!

热门文章

  1. Docker 数据卷之进阶篇
  2. Nmap帮助文档解释
  3. Atitit 为什么网络会有延时 电路交换与分组交换的区别
  4. 安装wdcp的方法和bug
  5. ie6下常见的bug 调整页面兼容性
  6. Matlab与线性代数 -- 矩阵的加法与减法
  7. 【CTF】实验吧 疑惑的汉字
  8. 小冰数字孪生主播正式上线 全球首创全流程无人化AI直播
  9. Imagination推出全新多核GPU IP系列:提供33种不同配置,AI算力达24 TOPS
  10. DeeCamp 2020 赛题大公开!快来看你想选哪个