首先,说明一下情况,开发环境可以正常消费消息的,到了测试环境,刚开始一两天还能正常消费消息,但是某一天突然,消费不到消息,日志再没打印收到消息的情况。

一.下载OffsetExplorer2工具

官网下载地址:https://www.kafkatool.com/download.html

1.配置kafak连接地址

在consumer下找到自己的消费者组:

说明:目前已经修复该问题,lag为0,在未修复的时候消息的堆积量是大于0的;正常情况下offset+lag=end;

从以上可以排查到消息,投递成功,但是迟迟未消费。

二.服务器命令消费

./kafka-console-consumer.sh --bootstrap-server ip --topic topic名 --group group名

通过在服务器上运行上面的命令发现可以正常消费消息,此时在怀疑是不是客户端版本原因,经过查看,kafak服务端版本2.0.0低于客户端版本,客户端版本是2.5.3;

三.新建消费者demo

这里相关配置就不贴了,主要看降低版本后消费者是否能消费消息

package com.lgh.redis;import lombok.extern.slf4j.Slf4j;
import org.springframework.kafka.annotation.KafkaListener;
import org.springframework.stereotype.Component;import java.util.List;/*** 描述** @author LGH* createTime 2022-07-04 11:48:30* lastModify LGH* lastModifyTime 2022-07-04 11:48:30* group 开发小组*/
@Slf4j
@Component
public class DemoKafkaListener {@KafkaListener(topics = "TOPIC", groupId = "GROUP_TOPIC")public void receiveMessage(List<String> messages) {for (String message : messages) {log.info("kafka接收到消息:{}", message);}}
}

启动发现真能收到消息,至此怀疑是客户端版本原因,虽然理由有点牵强,因为在同样的客户端下有其它topic收到了消息。感觉还是没啥头绪,知道昨天晚上,我去看日志,发现有大约一分钟的时间,这个消费者收到了消息,但是在那段时间日志打出了这么一段日志:

Attempt to heartbeat failed since group is rebalancing

这是kafka重平衡机制,这里不做过多赘述,主要是说明问题排查的过程,相当于是有新的消费者加入了,但是查看nacos注册中心,又只有这一台服务器呀。

四.服务器查看客户端的ip地址

./kafka-consumer-groups.sh --bootstrap-server ip:端口 --group 消费者组名 --describe

经过上面的命令查看,发现客户端ip并非我nacos那台服务器的ip,然后到这个客户端ip的服务器上查看日志,发现程序一直在报错,并且kafka一直在重复推消息,都没有注册进到nacos里。接下来的操作就是重启正确注册进nacos即可,此时消费者终于能正常消费消息了,说到底还是队友惹的祸,不过也感谢队友,通过这一次让我对kafka有了更深的认识。

一次关于Kafka消息不消费的记录相关推荐

  1. 【Kafka】二.Kafka消息发布/消费流程

    Kafka 通过对消费方进行分组管理来支持消息一写多读. 我画的图:工具(processon在线画图) 这个 Topic 分为 4 个 Partition,就是图中的 P1到 P4,上部的生产方根据规 ...

  2. kafka消息消费有延迟_简易实现kafka延迟消息

    背景 当前业务存在以下场景:在一个事务内的最后一步是发送kafka消息,消费端收到通知后读取数据并做处理.但是由于kafka几乎是即时收到消息,导致偶尔出现"在发完kafka和提交事务的间隙 ...

  3. 解决kafka 消息堆积问题的排查及调优

    一.背景说明 深夜接到客户紧急电话,反馈腾讯云 kafka 中有大量消息堆积未及时消费.每分钟堆积近 100w 条数据.但是查看 ES 监控,各项指标都远还没到性能瓶颈.后天公司就要搞电商促销活动,到 ...

  4. kafka消息的分发与消费(一)

    关于 Topic 和 Partition: Topic: 在 kafka 中,topic 是一个存储消息的逻辑概念,可以认为是一个消息集合.每条消息发送到 kafka 集群的消息都有一个类别.物理上来 ...

  5. kafka消息反复从头开始消费问题排查

    问题描述   最近线上的一个数据服务(服务B)出现了一个比较诡异的问题 ,该服务消费上游服务(服务A)产生的kafka消息数据,上线后一直运行平稳,最近一周在两次上线的时候出现了大量数据更新的情况,查 ...

  6. kafka消息消费有延迟_消息中间件选型分析---从Kafka与RabbitMQ的对比来看全局

    有很多网友留言:公司要做消息中间件选型,该如何选?你觉得哪个比较好?消息选型的确是一个大论题,实则说来话长的事情又如何长话短说.对此笔者专门撰稿一篇内功心法:如何看待消息中间件的选型,不过这篇只表其意 ...

  7. kafka 脚本发送_Kafka笔记归纳(第五部分:一致性保证,消息重复消费场景及解决方式)...

    写在开头: 本章是Kafka学习归纳第五部分,着重于强调Kafka的事一致性保证,消息重复消费场景及解决方式,记录偏移量的主题,延时队列的知识点. 文章内容输出来源:拉勾教育大数据高薪训练营. 一致性 ...

  8. Kafka学习(十)--Kafka消费者Consumer消费消息配置实战

    一. Kafka消费者Consumer消费消息配置实战 配置: public static Properties getProperties() {Properties props = new Pro ...

  9. kafka发送及消费消息示例

    发送消息: 消费消息:

最新文章

  1. 2021广东省高考成绩查询时间,广东省高考成绩查询时间及方式公布
  2. 数组中两个字符串的最小距离
  3. SSM-网站后台管理系统制作(2)---SSM基本工作原理
  4. AXD+H-JTAG环境搭建总结
  5. Opengl 好的文章和博客地址
  6. 在VMware Workstation 9中安装Mac OS X 10.8 Mountain Lion
  7. 使用slf4j和log4j记录日志
  8. Scrapy框架结合Spynner采集需进行js,ajax动态加载的网页并提取网页信息(以采集微信公众号文章列表为例)
  9. 最新基于高德地图的android进阶开发(1)获取 Map API Key
  10. 成考java_成考本科课程:《Java程序设计》
  11. Oracle正确迁移数据文件,Oracle数据文件迁移知多少?
  12. 目前web渗透的思路
  13. 实数系的基本定理_11、实数的连续性(1)
  14. 记录Windows11系统出现的一次蓝屏收集错误信息重启的问题
  15. 淘宝补单可以补金币数据吗?大神导航,一个神奇的网站,从此开启大神之路!
  16. MySQL数据库:pg和mysql语法区别
  17. JAVA 的命令行运行
  18. linux输入命令直接跳转到指定目录
  19. 手绘知识点——指针入门
  20. python写入文件后读取空白,写入文件无法读取解决方案

热门文章

  1. Fluent UDF【1】:简介
  2. 计算机毕业设计ssm在线辅导答疑系统
  3. windows安全机制之登陆
  4. java匹配url网址正则表达式
  5. 3-AT命令交互之-PIN码
  6. 编程笑话_6个编程笑话将使您大声笑
  7. 【MySQL】MySQL中如何实现分页操作
  8. 解决rosdep update一直timeout的问题
  9. 大中型国有企业数字化转型方法论 附下载
  10. 爬虫豆瓣三部曲之音乐排行榜