应用 2：缓兵之计 —

1.redis做消息队列

使用list(列表) 数据结构常用来作为异步消息队列使用，使用rpush/lpush操作入队列，

使用 lpop 和 rpop来出队列

2.队列空了怎么办

客户端是通过队列的 pop 操作来获取消息，然后进行处理。处理完了再接着获取消息，

再进行处理。

可是如果队列空了，客户端就会陷入 pop 的死循环，不停地 pop，没有数据，接着再 pop，又没有数据。这就是浪费生命的空轮询。空轮询不但拉高了客户端的 CPU，redis 的 QPS 也

会被拉高，如果这样空轮询的客户端有几十来个，Redis 的慢查询可能会显著增多。

使用sleep解决这个问题，休眠一秒钟即可

time.sleep(1) # python 睡 1s

睡眠是可以解决问题。但睡眠会导致消息的延迟增大。如果只有 1 个消费者，那么这个延迟就是 1s。如果有多个消费者，这个延迟会有所增加，因为每个消费者的睡觉时间是岔开来的

3.降低延迟

blpop/brpop，这两个指令的前缀字符 b代表的是 blocking，也就是阻塞读。

阻塞读在队列没有数据的时候，会立即进入休眠状态，一旦数据到来，则立刻醒过来。消息的延迟几乎为零。用 blpop/brpop替代前面的 lpop/rpop，就完美解决了上面的问题。

4.空闲连接自动断开

上面的方案还有问题：空闲连接的问题

如果线程一直阻塞在哪里，Redis 的客户端连接就成了闲置连接，闲置过久，服务器一般会主动断开连接，减少闲置资源占用。这个时候 blpop/brpop会抛出异常来。所以编写客户端消费者的时候注意捕获异常，还要重试。

5.锁冲突处理

客户端在处理请求时加锁没加成功怎么办？

（1）直接抛出异常，通知用户稍后重试；

（2）sleep一会再重试；

sleep 会阻塞当前的消息处理线程，会导致队列的后续消息处理出现延迟。如果碰撞的比较频繁或者队列里消息比较多，sleep 可能并不合适。如果因为个别死锁的 key 导致加锁不成功，线程会彻底堵死，导致后续消息永远得不到及时处理。

（3）将请求转移至延时队列，过一会再试；

6.延时队列的实现

延时队列可以通过 Redis 的 zset(有序列表) 来实现。我们将消息序列化成一个字符串作为 zset 的 value，这个消息的到期处理时间作为 score，然后用多个线程轮询 zset 获取到期的任务进行处理，多个线程是为了保障可用性，万一挂了一个线程还有其它线程可以继续处理。因为有多个线程，所以需要考虑并发争抢任务，确保任务不能被多次执行。

def delay(msg):msg.id = str(uuid.uuid4()) # 保证 value 值唯一value = json.dumps(msg)retry_ts = time.time() + 5 # 5 秒后重试redis.zadd("delay-queue", retry_ts, value)def loop():while True:# 最多取 1 条values = redis.zrangebyscore("delay-queue", 0, time.time(), start=0, num=1)if not values:time.sleep(1) # 延时队列空的，休息 1scontinuevalue = values[0] # 拿第一条，也只有一条success = redis.zrem("delay-queue", value) # 从消息队列中移除该消息if success: # 因为有多进程并发的可能，最终只会有一个进程可以抢到消息msg = json.loads(value)handle_msg(msg)

Redis 的 zrem 方法是多线程多进程争抢任务的关键，它的返回值决定了当前实例有没有抢到任务，因为 loop 方法可能会被多个线程、多个进程调用，同一个任务可能会被多个进程线程抢到，通过 zrem来决定唯一的属主。

同时，我们要注意一定要对 handle_msg 进行异常捕获，避免因为个别任务处理问题导致循环异常退出。

7.进一步优化

上面的算法中同一个任务可能会被多个进程取到之后再使用 zrem进行争抢，那些没抢到的进程都是白取了一次任务，这是浪费。可以考虑使用 lua scripting来优化一下这个逻辑，将zrangebyscore和 zrem一同挪到服务器端进行原子化操作，这样多个进程之间争抢任务时就不会出现这种浪费了。

Lua 脚本, 如果有超时的消息, 就删除, 并返回这条消息, 否则返回空字符串:

String luaScript = "local resultArray = redis.call('zrangebyscore', KEYS[1], 0, ARGV[1], 'limit' , 0, 1)\n" +"if #resultArray > 0 then\n" +" if redis.call('zrem', KEYS[1], resultArray[1]) > 0 then\n" +" return resultArray[1]\n" +" else\n" +" return ''\n" +" end\n" +"else\n" +" return ''\n" +"end";jedis.eval(luaScript, ScriptOutputType.VALUE, new String[]{key}, String.valueOf(System.currentTimeMillis()));

问题：Redis作为消息队列为什么不能保证100%的可靠性？

Redis通过key失效监听的方式实现延时队列，用到了PubSub机制。

在Redis5之前版本存在如下两个关键问题：

（1）Redis的消息队列没有太多高级特性，没有ack保证，可靠性不高。

（2）消费者拉取到消息后，如果发生异常宕机，那这条消息就丢失了

这样如果消费者没有ack就挂掉，重启后无法再处理这个消息，导致消息丢失。

以上为学习《Redis深度历险核心原理和应用实践》笔记

应用 2：缓兵之计 ——延时队列相关推荐

【Redis核心原理和应用实践】应用 2：缓兵之计 —— 延时队列
我们平时习惯于使用 Rabbitmq 和 Kafka 作为消息队列中间件,来给应用程序之间增加异步消息传递功能.这两个中间件都是专业的消息队列中间件,特性之多超出了大多数人的理解能力. 使用过 Ra ...
SpringBoot 整合：Redis延时队列的简单实现(基于有赞的设计)
点击关注公众号,Java干货及时送达来源:blog.csdn.net/qq330983778/article/details/99341671 设计之前学习Redis的时候发现有赞团队之前分享过一 ...
怎么设计一个合适的延时队列？
[文章来源]https://sourl.cn/pcgvTp 延时队列技术调研项目背景延迟队列,它是一种带有延迟功能的消息队列,目前工作中有几处需延时处理的应用场景. 可选技术参考 kafka 考虑 ...
一口气说出 6种延时队列的实现方案，大厂offer稳稳的
下边会介绍多种实现延时队列的思路,文末提供有几种实现方式的 github地址.其实哪种方式都没有绝对的好与坏,只是看把它用在什么业务场景中,技术这东西没有最好的只有最合适的. 一.延时队列的应用什么 ...
RabbitMQ自学之路（九）——RabbitMQ实现延时队列的两种方式
一.什么是延时队列延时队列顾名思义,即放置在该队列里面的消息是不需要立即消费的,而是等待一段时间之后取出消费. 二.延时队列应用于什么场景场景一:在订单系统中,一个用户下单之后通常有30分钟的时间 ...
RabbitMQ延时队列原理讲解
RabbitMQ延时消息队列延时队列介绍延时队列即放置在该队列里面的消息是不需要立即消费的,而是等待一段时间之后取出消费. 那么,为什么需要延迟消费呢?我们来看以下的场景网上商城下订单后30分钟 ...
延时队列实现的几种姿势
点击上方"朱小厮的博客",选择"设为星标" 后台回复"书",获取来源:r6d.cn/qE5f 在开发中,往往会遇到一些关于延时任务的需求. ...
activemq 延时队列以及不生效问题
最近在做的项目中有一个业务涉及到了订单的有效期的问题(即订单达到一定的时间未支付完成就让该订单失效),于是就想到了延时队列的方式,由于项目采用的是activemq,所以就写了个activemq延时队列 ...
RabbitMQ 的延时队列和镜像队列原理与实战
在阿里云栖开发者沙龙PHP技术专场上,掌阅资深后端工程师.掘金小测<Redis深度历险>作者钱文品为大家介绍了RabbitMQ的延时队列和镜像队列的原理与实践,重点比较了RabbitMQ提 ...

应用 2：缓兵之计 ——延时队列

应用 2：缓兵之计 ——延时队列相关推荐

最新文章

热门文章