Redis面试常问4-- 如何实现异步队列 Blpop key timeout

感谢老王的思路
作者：老王的博客
来源：CSDN
原文：https://blog.csdn.net/wzbwzh/article/details/82876299
版权声明：本文为博主原创文章，转载请附上博文链接！

异步消息队列

Redis 的 list(列表) 数据结构常用来作为异步消息队列使用，
使用rpush/lpush操作入队列，使用lpop 和 rpop来出队列。
rpush 和 lpop 结合或者lpush 和rpop 结合；

客户端是通过队列的 pop 操作来获取消息，然后进行处理。处理完了再接着获取消息，再进行处理。
如此循环往复，这便是作为队列消费者的客户端的生命周期。

问题1—rpush 和 lpop 带来的空轮询

可是如果队列空了，客户端就会陷入 pop 的死循环，不停地 pop，没有数据，接着再 pop，又没有数据。
这就是浪费生命的空轮询。
空轮询不但拉高了客户端的 CPU，redis 的 QPS 也会被拉高，如果这样空轮询的客户端有几十来个，Redis 的慢查询可能会显著增多。
通常我们使用 sleep 来解决这个问题，让线程睡一会，睡个 1s 钟就可以了。不但客户端的 CPU 能降下来，Redis 的 QPS 也降下来了。

1 解决空轮询，加入Sleep弥补机制。

------------------------------但是加入 Sleep机制重试也是有问题----------：

2 加入Sleep弥补机制，还是会有个小问题：延迟时间

用上面睡眠的办法可以解决问题。但是有个小问题，那就是睡眠会导致消息的延迟增大。如果只有 1 个消费者，那么这个延迟就是 1s。如果有多个消费者，这个延迟会有所下降，因为每个消费者的睡觉时间是岔开来的。

有没有什么办法能显著降低延迟呢？你当然可以很快想到：那就把睡觉的时间缩短点。这种方式当然可以，不过有没有更好的解决方案呢？当然也有，那就是 blpop/brpop。这两个指令的前缀字符b代表的是blocking，也就是阻塞读。阻塞读在队列没有数据的时候，会立即进入休眠状态，一旦数据到来，则立刻醒过来。消息的延迟几乎为零。用blpop/brpop替代前面的lpop/rpop，就完美解决了上面的问题

2 解决延迟问题，用 blpop/brpop 阻塞读的方法

实验如下：左边 blpop testlist 30 等待30秒看看队列有没有数据，没有则返回nil

3 新的问题：阻塞带来的空闲连接的问题

空闲连接自动断开你以为上面的方案真的很完美么？先别急着开心，其实他还有个问题需要解决。什么问题？—— 空闲连接的问题。如果线程一直阻塞在哪里，Redis 的客户端连接就成了闲置连接，闲置过久，服务器一般会主动断开连接，减少闲置资源占用。这个时候blpop/brpop会抛出异常来。

所以编写客户端消费者的时候要小心，注意捕获异常，还要重试

附加的问题1：只能供一个消费者消费 – 发布订阅解决

附加的问题2：无法保证消息可达：

消息可达问题的话：需要用专门的消息中间件：如 Kafka

总结：生产消息时用 blpop，消费者消费消息时，try catch 一下，但是这种情况只能供一个消息者消费。用pub/sub来解决即可生产消息时用 blpop，消费者消费消息时，try catch 异常。但是这种情况只能供一个消息者消费。用pub/sub来解决，但是也是会有消息可达性无法保证的问题，这时要用Kafka.

Redis面试常问4-- 如何实现异步队列 Blpop key timeout相关推荐

Redis面试常问3 如何实现分布式锁记住Redis的原子性
Redis面试常问3 如何实现分布式锁上面的伪代码有问题从 Redis 2.6.12 版本开始, SET 命令的行为可以通过一系列参数来修改: http://redisdoc.com/string ...
Redis面试常问2-- 从海量数据里查询某一固定前缀的key? SCAN cursor
从海量数据里查询某一固定前缀的key? 问题背景: 面试官问,如何从10亿个数据中,找到某一个固定前缀的10万个key? 注意:面试官问的细节多点问面试官一些细节相关的问题,摸清楚数据规模问清楚面 ...
Redis面试常问-- Redis常用数据类型
Redis常用数据类型 http://www.redis.cn/
MySQL面试常问大全
MySQL面试常问大全 1.关系型数据库和非关系型数据库的区别? 其实很好理解,先说一下最直白的的区别,关系型数据库中的数据有关系,非关系型数据库的数据无关系: 关系型数据库(Mysql和Oracle ...
手撸架构，Redis面试41问
技术栈传送门 JAVA 基础手撸架构,Java基础面试100问_vincent-CSDN博客 JAVA 集合手撸架构,JAVA集合面试60问_vincent-CSDN博客 JVM 虚拟机手撸架 ...
Java基础（以及面试常问问题）
1.Vector,ArrayList, LinkedList的区别(面试常问到的) 三者都是实现集合框架中的List,也就是所谓有序集合,因此具体功能比较近似,比如都提供按照位置进行定位.添加或删除的 ...
计算机考研复试面试常问问题计算机网络篇(上)
计算机考研复试面试常问问题计算机网络篇(上) 在复习过程中,我用心查阅并整理了在考研复试面试中可能问到的大部分问题,并分点整理了答案,可以直接理解背诵并加上自己的语言润色!极力推荐打印下来看,效率更 ...
Linux C工程师面试常问技术要点
前言最近在考虑跳槽,整理一下面试常问的东西,在给自己复习的同时也希望给需要面试的朋友有帮助~ 系统编程常问技术点物理内存+虚拟内存内存分区(栈+堆) 进程+线程锁分片中断+系统调用同步+ ...
操作系统面试常问——for考研复试面试
关于操作系统的一些面试常问问题前言: 本人22考研党已上岸,发一些复试准备整理的资料作为对考研准备的一个收尾.由于近几年基本都是线上复试,线上的话会更加注重概念的考察,本人在复试准备期间搜集了面试题 ...

Redis面试常问4-- 如何实现异步队列 Blpop key timeout

问题1—rpush 和 lpop 带来的空轮询

1 解决空轮询，加入Sleep弥补机制。

------------------------------但是加入 Sleep机制重试也是有问题----------：

2 加入Sleep弥补机制，还是会有个小问题：延迟时间

2 解决延迟问题，用 blpop/brpop 阻塞读的方法

实验如下：左边 blpop testlist 30 等待30秒看看队列有没有数据，没有则返回nil

3 新的问题：阻塞带来的空闲连接的问题

所以编写客户端消费者的时候要小心，注意捕获异常，还要重试

附加的问题1：只能供一个消费者消费 – 发布订阅解决

附加的问题2：无法保证消息可达：

消息可达问题的话：需要用专门的消息中间件：如 Kafka

Redis面试常问4-- 如何实现异步队列 Blpop key timeout相关推荐

最新文章

热门文章

Redis面试常问4-- 如何实现异步队列 Blpop key timeout

问题1—rpush 和 lpop 带来的 空轮询

1 解决空轮询，加入Sleep弥补机制。

------------------------------但是加入 Sleep机制重试也是有问题----------：

2 加入Sleep弥补机制，还是会有个小问题：延迟时间

2 解决延迟问题，用 blpop/brpop 阻塞读 的方法

实验如下：左边 blpop testlist 30 等待30秒看看队列有没有数据，没有则返回nil

3 新的问题：阻塞带来的空闲连接的问题

所以编写客户端消费者的时候要小心，注意捕获异常，还要重试

附加的问题1：只能供一个消费者消费 – 发布订阅解决

附加的问题2：无法保证消息可达：

消息可达问题的话：需要用专门的消息中间件：如 Kafka

Redis面试常问4-- 如何实现异步队列 Blpop key timeout相关推荐

最新文章

热门文章

问题1—rpush 和 lpop 带来的空轮询

2 解决延迟问题，用 blpop/brpop 阻塞读的方法