依据Partition和Consumer的Rebalance策略,找到Kafka.Client Rebalance代码块,还原本地环境,跟踪调试,发现自定义Consumer Group 的Consumer并没有分配到PartionID,如下图、

frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">

据此,基本就可以定位到不同组Consumer无法覆盖Partition的问题根源了。

仔细阅读Rebalance代码,发现Kafka.Client 在获取consumer时,并没有根据Group做筛选,获取到的是所有组的Consumer,如下图

(此处只有两个不同组的Consumer类型,每个Consumer会生成五个ConsumerThreadID,用于覆盖partition)

frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">

定位curConsumer变量,从consumerPerTopicMap中获取,找到consumerPerTopicMap的实现

此处确实没有过滤

frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">

增加group过滤代码。问题解决。

frameborder="0" scrolling="no" style="border-width: medium; width: 1px; height: 1px;">

相关文章:

  • 消息队列 Kafka 的基本知识及 .NET Core 客户端

  • .net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结(一)

原文地址:http://www.cnblogs.com/vveiliang/p/6844375.html


.NET社区新闻,深度好文,微信中搜索dotNET跨平台或扫描二维码关注

.net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结(二)相关推荐

  1. .net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结(一)

    我们知道Kafka支持Consumer Group的功能,但是最近在应用Consumer Group时发现了一个Topic 的Partition不能100%覆盖的问题. 程序部署后,发现Kafka在p ...

  2. 【kafka】Kafka 1.1.0 consumer group位移重设

    1.概述 转载: https://www.cnblogs.com/huxi2b/p/7284767.html 本文阐述如何使用Kafka自带的kafka-consumer-groups.sh脚本随意设 ...

  3. 【Kafka】消费者组 Consumer Group(三)

    文章目录 一.概念 二.创建Topic 三.开启3个Consumer的消费者组Group (分区数量1 < 消费者数量3) 3.1 结论一:一个分区Partition只能被一个消费者抢占.(组内 ...

  4. Kafka(Go)教程(十一)---Consumer Group Rebalance

    来自:指月 https://www.lixueduan.com 原文:https://www.lixueduan.com/post/kafka/11-consumer-group-rebalance/ ...

  5. Kafka Consumer Group和Consumer Rebalance机制

    参考文章: Kafka Consumer Group和Consumer Rebalance机制 Kafka Consumer Group和Consumer Rebalance机制 - 简书 在新建一个 ...

  6. Windbg调优Kafka.Client内存泄露

    从来没写过Blog,想想也是,工作十多年了,搞过N多的架构.技术,不与大家分享实在是可惜了.另外,从传统地ERP行业转到互联网,也遇到了很所前所未有的问题,原来知道有一些坑,但是不知道坑太多太深.借着 ...

  7. Consumer group理解深入

    每一个consumer实例都属于一个consumer group,每一条消息只会被同一个consumer group里的一个consumer实例消费.(不同consumer group可以同时消费同一 ...

  8. 消费者组 Consumer Group 和 重平衡 Rebalance

    kafka设计了consumer group: 具有可扩展性和容错性的consumer机制,consumer group有3个特性: 1. Consumer Group 下可以有一个或多个 Consu ...

  9. kafka原理_P8架构师带你参透Kafka:设计原理、消息存储、消息消费原理等等

    本文转载自: linkedkeeper.com,作者:张松然 推荐阅读: 一个月面试了3家大厂Java岗,我发现这几个突破点 目录 Kafka的基本介绍 Kafka的设计原理分析 Kafka数据传输的 ...

最新文章

  1. java 响应事件,用java响应颜色事件
  2. 钉钉 php 推送,微信模板推送,钉钉信息推送
  3. 【转载】linux环境下tcpdump源代码分析
  4. php多级控制,thinkphp5多级控制器是什么?怎么使用?
  5. stats | 线性回归(一)——模型表达式和输出结果
  6. typora代码块语言linux命令,typora工具的使用以及MarkDown语法
  7. 运营前线2:一线运营专家的运营方法、技巧与实践03 3步策略做好内容管理
  8. 测测你写了多少行代码【转】
  9. PHP计算字符串长度
  10. 润乾打印控制解决方案
  11. 侯宁彬出席“春风拂槛”唐文化论坛并发表主题演讲
  12. Python 高效编程技巧
  13. E Enigmatic Partition 2020牛客暑期多校训练营(第八场)
  14. 测试RADIUS服务器
  15. i.php,iPHP简介_开始使用_iPHP框架文档iCMS_给我一套程序,我能搅动互联网
  16. 2016年国内云主机十大优势总结
  17. 深入浅出CChart 每日一课——快乐高四第四十一课 投石问路,SoUI探险第一关之弹出窗口
  18. 电影院订票选座APP系统(基于uni-app框架)毕设源码毕业设计毕业论文开题报告参考(2)app功能
  19. ASM学习笔记2 - 类的创建和修改 —— ClassWriter的综合应用
  20. win10 64位运行chkdsk命令无反应

热门文章

  1. Angularjs调用公共方法与共享数据
  2. Resin的安全性ip限制
  3. Win XP2实用的修复工具
  4. 开发者说PaddleOCR的.NET封装与应用部署
  5. ASP.NET Core使用功能开关控制路由访问
  6. Dapr + .NET 实战(四)发布和订阅
  7. Wtm Blazor来了!
  8. MySql 数据库基本设计规范
  9. 联想继续为其硬件产品完善Linux支持
  10. 2021技术人新展望