今天就来分享下,面试中几个具象问题解答,如何解决消息队列的延时以及过期失效问题?消息队列满了以后该怎么处理?有几百万消息持续积压几小时,怎么解决?

首先,我们分析下面试官这问法。其实本质针对的场景,都是说,可能你的消费端出了问题,不消费了,或者消费的极其极其慢。

接着就坑爹了,可能你的消息队列集群的磁盘都快写满了,都没人消费,这个时候怎么办?或者是整个这就积压了几个小时,你这个时候怎么办?或者是你积压的时间太长了,导致比如rabbitmq设置了消息过期时间后就没了怎么办?

所以就这事儿,其实线上挺常见的,一般不出事,一出就是大case。一般常见于,消费端每次消费之后要写mysql,结果mysql挂了,消费端hang那儿了,不动了。或者是消费端出了个什么叉子,导致消费速度极其慢。

一个一个来梳理下,先假设一个场景,消费端出故障了,大量消息在mq里积压,出现事故,慌张中。。。

1、大量消息在mq里积压了几个小时了还没解决

几千万条数据在MQ里积压了七八个小时,从下午4点多,积压到了晚上很晚,10点多,11点多。

这个是我们真实遇到过的一个场景,确实是线上故障了,这个时候要不然就是修复consumer的问题,让他恢复消费速度,然后傻傻的等待几个小时消费完毕。这个肯定不能在面试的时候说吧。

一个消费者一秒是1000条,一秒3个消费者是3000条,一分钟是18万条,1000多万条。

所以如果你积压了几百万到上千万的数据,即使消费者恢复了,也需要大概1小时的时间才能恢复过来。

一般这个时候,只能操作临时紧急扩容了,具体操作步骤和思路如下:

1)先修复consumer的问题,确保其恢复消费速度,然后将现有cnosumer都停掉;

2)新建一个topic,partition是原来的10倍,临时建立好原先10倍或者20倍的queue数量;

3)然后写一个临时的分发数据的consumer程序,这个程序部署上去消费积压的数据,消费之后不做耗时的处理,直接均匀轮询写入临时建立好的10倍数量的queue;

4)接着临时征用10倍的机器来部署consumer,每一批consumer消费一个临时queue的数据;

5)这种做法相当于是临时将queue资源和consumer资源扩大10倍,以正常的10倍速度来消费数据;

6)等快速消费完积压数据之后,得恢复原先部署架构,重新用原先的consumer机器来消费消息;

2、假设再来第二个坑

假设你用的是rabbitmq,rabbitmq是可以设置过期时间的,就是TTL,如果消息在queue中积压超过一定的时间就会被rabbitmq给清理掉,这个数据就没了。那这就是第二个坑了。这就不是说数据会大量积压在mq里,而是大量的数据会直接搞丢。

这个情况下,就不是说要增加consumer消费积压的消息,因为实际上没啥积压,而是丢了大量的消息。我们可以采取一个方案,就是批量重导,这个我们之前线上也有类似的场景干过。就是大量积压的时候,我们当时就直接丢弃数据了,然后等过了高峰期以后,比如大家一起喝咖啡熬夜到晚上12点以后,用户都睡觉了。

这个时候我们就开始写程序,将丢失的那批数据,写个临时程序,一点一点的查出来,然后重新灌入mq里面去,把白天丢的数据给他补回来。也只能是这样了。

假设1万个订单积压在mq里面,没有处理,其中1000个订单都丢了,你只能手动写程序把那1000个订单给查出来,手动发到mq里去再补一次。

3、再来假设第三个坑

如果走的方式是消息积压在mq里,那么如果你很长时间都没处理掉,此时导致mq都快写满了,咋办?这个还有别的办法吗?没有,谁让你第一个方案执行的太慢了,你临时写程序,接入数据来消费,消费一个丢弃一个,都不要了,快速消费掉所有的消息。

来源:https://github.com/doocs/advanced-java/blob/master/docs/high-concurrency/mq-time-delay-and-expired-failure.md

几百万消息在消息队列里积压了几个小时!完了。。。相关推荐

  1. 完了!生产事故!几百万消息在消息队列里积压了几个小时!

    分享一个大神的人工智能教程.零基础!通俗易懂!风趣幽默!还带黄段子!希望你也加入到人工智能的队伍中来!点击浏览教程 一.面试题 如何解决消息队列的延时以及过期失效问题?消息队列满了以后该怎么处理?有几 ...

  2. 消息积压在消息队列里怎么办

    作者:一条路上的咸鱼 链接:https://www.jianshu.com/p/07b2169bef49 1.大量消息在mq里积压了几个小时了还没解决 场景:几千万条数据在MQ里积压了七八个小时,从下 ...

  3. 操作系统-消息,消息队列

    消息,消息队列 1. 消息 在windows 程序中,消息是由MSG 结构体来表示的.MSG 结构体的定义如下: typedef struct tagMSG {HWND hwnd;UINT messa ...

  4. windows消息和消息队列详解

     windows消息和消息队列 与基于MS - DOS的应用程序不同,Windows的应用程序是事件(消息)驱动的.它们不会显式地调用函数(如C运行时库调用)来获取输入,而是等待windows向它们传 ...

  5. 消息队列中:消息可靠性、重复消息、消息积压、利用消息实现分布式事务

    点击下方"Java编程鸭"关注并标星 更多精彩 第一时间直达 一.如何确保消息不丢失? 1.检测消息丢失的方法 可以利用消息队列的有序性来验证是否有消息丢失.在Producer端给 ...

  6. RTX5 | 消息队列03 - 获取消息队列里消息的数量,并一次性提取出来

    文章目录 一.前言 二.实验目的 三.API 3.1.osMessageQueueGetCount 四.代码 4.1.main.h 4.2.main.c 五.Event Recorder调试 5.1. ...

  7. 如何保证消息队列里的数据顺序执行?

    使用MQ的时候,经常会有按顺序消费的需求,比如大数据团队为了做数据分析,会把数据库里数据同步到其他系统做一些数据统计分析.同步MySQL的时候,为了保证数据同步的实时性,会在中间加一个MQ,多个线程来 ...

  8. java如何保证mq一定被消费,RabbitMQ如何保证队列里的消息99.99%被消费?

    1. 本篇概要 其实,还有1种场景需要考虑:当消费者接收到消息后,还没处理完业务逻辑,消费者挂掉了,那消息也算丢失了?,比如用户下单,订单中心发送了1个消息到RabbitMQ里的队列,积分中心收到这个 ...

  9. linux查看数据积压,查看kafka消息队列的积压情况

    创建topic kafka-topics --create --zookeeper master:2181/kafka2 --replication-factor 2 --partitions 3 - ...

  10. kafka 统计消息总数_查看kafka消息队列的积压情况

    创建topic kafka-topics --create --zookeeper master:2181/kafka2 --replication-factor 2 --partitions 3 - ...

最新文章

  1. 模板引擎:VelocityFreeMarker(转)
  2. no python interpreter configured
  3. 从索引 0 处开始,初始化字符串的格式不符合规范。
  4. linux组群账户存放在,linux用户和群组
  5. ./ffmpeg: error while loading shared libraries: libx264.so.138: cannot open shared object file: No s
  6. xuggler实现视频压缩_Xuggler视频处理简介
  7. TortoiseGit 将工作区变动文件提交本地仓库_入门试炼_04
  8. 登录令牌过期,重新登录后返回当前页面
  9. 好用的 windows10 软件推荐
  10. kpw3刷安卓教程2019_买kindle paperwhite4的别急,或许3更好用,因为3可以刷安卓!...
  11. 远程桌面管理工具Remote Desktop Connection Manager
  12. 易语言制作的QQ聊天中常用的GIF图片【带源码下载】
  13. C语言中file文件指针概念及其操作 (转载)
  14. 利用audacity分析浊音、清音与爆破音的信号特性
  15. Opencv基础------RGB颜色通道的分量显示和调整
  16. 程序猿生存指南-25 逃离帝都
  17. “她时代”展示“她力量”:2022年她力量女性论坛女性消费力即战力
  18. 【课后习题】高等数学第七版上第三章 微分中值定理与导数的应用 第二节 洛必达法则
  19. html化学方程式显示,化学方程式格式化(宏)
  20. VM16虚拟机去虚拟化心得3(干货来了)

热门文章

  1. vue2.0实现银行卡类型种类的选择
  2. 联系人字段中增加生日字段
  3. LSI加入多核联盟参与编程与应用标准制定
  4. Python 学习笔记【12】字典
  5. 11. SpringMVC拦截器(资源和权限管理)
  6. 我的Java开发学习之旅------gt;在Dos环境下Java内部类的编译和运行
  7. XMind思维导图文件损坏,无法打开怎么办?
  8. Pr 入门教程,如何隔离颜色?
  9. 如何修改PDF文档,怎么编辑PDF背景
  10. 前端后台的爱恨情仇——接口调试