1.概述

转载:https://www.cnblogs.com/foolaround/articles/14676070.html

有时,当我们使用 Kafka 时,可能会发现自己需要手动检查主题的底层日志。无论你只是好奇 Kafka 内部还是你需要调试一个问题并验证内容,kafka-dump-log 命令都是你的朋友。下面介绍如何使用这个命令,该示例的主题名为 example:

Copy

kafka-dump-log \
--print-data-log \
--files  ./iteblog/kafka/data/example-0/00000000000000000000.log •--print-data-log 标记指定打印 log 里面的数据;
•--files 标记是必选项,可以是逗号分隔的文件列表。

如果想查看 kafka-dump-log 命令的所有支持的选项,可以使用 --help。运行上面的命令可以得到以下的输出:

Dumping ./var/lib/kafka/data/example-0/00000000000000000000.log
Starting offset: 0
baseOffset: 0 lastOffset: 0 count: 1 baseSequence: -1 lastSequence: -1 producerId: -1 producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 0 CreateTime: 1599775774460 size: 81 magic: 2 compresscodec: NONE crc: 3162584294 isvalid: true
| offset: 0 CreateTime: 1599775774460 keysize: 3 valuesize: 10 sequence: -1 headerKeys: [] key: 887 payload: -2.1510235
baseOffset: 1 lastOffset: 9 count: 9 baseSequence: -1 lastSequence: -1 producerId: -1 producerEpoch: -1 partitionLeaderEpoch: 0 isTransactional: false isControl: false position: 81 CreateTime: 1599775774468 size: 252 magic: 2 compresscodec: NONE crc: 2796351311 isvalid: true
| offset: 1 CreateTime: 1599775774463 keysize: 1 valuesize: 9 sequence: -1 headerKeys: [] key: 5 payload: 33.440664
| offset: 2 CreateTime: 1599775774463 keysize: 8 valuesize: 9 sequence: -1 headerKeys: [] key: 60024247 payload: 9.1408728
| offset: 3 CreateTime: 1599775774463 keysize: 1 valuesize: 9 sequence: -1 headerKeys: [] key: 1 payload: 45.348946
| offset: 4 CreateTime: 1599775774464 keysize: 6 valuesize: 10 sequence: -1 headerKeys: [] key: 241795 payload: -63.786373
| offset: 5 CreateTime: 1599775774465 keysize: 8 valuesize: 9 sequence: -1 headerKeys: [] key: 53596698 payload: 69.431393
| offset: 6 CreateTime: 1599775774465 keysize: 8 valuesize: 9 sequence: -1 headerKeys: [] key: 33219463 payload: 88.307875
| offset: 7 CreateTime: 1599775774466 keysize: 1 valuesize: 9 sequence: -1 headerKeys: [] key: 0 payload: 39.940350
| offset: 8 CreateTime: 1599775774467 keysize: 5 valuesize: 9 sequence: -1 headerKeys: [] key: 78496 payload: 74.180098
| offset: 9 CreateTime: 1599775774468 keysize: 8 valuesize: 9 sequence: -1 headerKeys: [] key: 89866187 payload: 79.459314

dump-log 命令提供了大量信息。您可以清楚地看到每个记录的键、payload (值)、偏移量和时间戳

需要注意的是,上面输出的数据来自仅包含10条消息的演示主题,因此对于真实主题,将有更多的数据。

另外,在本例中,主题的键和值都是字符串。如果要使用非字符串的键或值类型,可以在运行 kafka-dump-log 命令的时候加上 --key-decoder-class 或 --value-decoder-class 标记即可。

【kafka】kafka topic Dump log相关推荐

  1. 【kafka】kafka 2.3 版本的kafka topic 分区扩容

    文章目录 1.概述 2 .AdminZkClient扩容 1.概述 首先参考文章:[kafka]kafka 0.10以及1.x版本的kafka topic 分区扩容 因为需要所以需要一个程序对kafk ...

  2. 【kafka】kafka log 存储时间 小于 offset 存储时间 offset存在但是消费不到

    文章目录 1.概述 1.概述 在文章 [kafka]kafka 消费速度 小于 日志清理速度 (kafka数据被清理了)会发生什么 auto.offset.reset 参数 中我们知道了,数据消费慢于 ...

  3. 【kafka】Kafka Fetch Session 剖析

    1.概述 转载:https://www.cnblogs.com/smartloli/p/14352489.html 1.概述 最近有同学留言在使用Kafka的过程中遇到一些问题,比如在拉取的Topic ...

  4. 【Kafka】Kafka 如果 动态 不停止的情况下 修改 消费组 offset

    文章目录 1.概述 2.方案1 3.方案2 1.概述 测试点:有人遇到这样的情况,他一个消费者正在消费一个环境的topic,然后他想启动另外一个消费组,但是是使用了同一个消费组,这个去更改 消费组of ...

  5. 【kafka】kafka 查看 GroupCoordinator

    文章目录 1.概述 2.GroupCoordinatorRequest 3.AdminClient 本文为博主九师兄(QQ:541711153 欢迎来探讨技术)原创文章,未经允许博主不允许转载. 1. ...

  6. 【kafka】kafka duplicate brokers in replica assignment

    1.概述 kafka报错 duplicate brokers in replica assignment 请参考:[kafka]kafka 0.10以及1.x版本的kafka topic 分区扩容

  7. 【kafka】kafka 消费速度 小于 日志清理速度 (kafka数据被清理了)会发生什么 auto.offset.reset 参数

    文章目录 1.概述 2.segment 本文为博主九师兄(QQ:541711153 欢迎来探讨技术)原创文章,未经允许博主不允许转载. 1.概述 因为遇到了这个问题[Kafka]Kafka Recor ...

  8. 【kafka】kafka record is corrupt(记录损坏)

    1.概述 转载:kafka消费者无法消费异常 我忘记我为啥遇到这个问题了,转载一下 今天被一个kafka消费异常折磨了一天,头差点炸了,还好最后解决了它 异常:服务器:record is corrup ...

  9. 【kafka】Kafka Producer Sticky Partitioner kafka 生产者 粘性 分区器

    1.概述 转载:[译]Kafka Producer Sticky Partitioner 最近事情多有点犯懒,依然带来一篇译文:Apache Kafka Producer Improvements w ...

  10. 【kafka】Kafka扩容

    1.概述 参考:[Kafka]Kafka集群扩展以及重新分布分区 1.1 topic修改(replicats-factor)副本个数 假如初始时chatmessage为一个副本,为了提高可用性,需要改 ...

最新文章

  1. 从配置说tomcat和nginx调优
  2. 电路的静态与动态特性
  3. 大规模中文概念图谱CN-Probase正式发布
  4. re:Invent 大会第一天,看看AWS有哪些最新进展?\n
  5. Excel抽奖小程序
  6. PC端动态视频背景引导页(非自适应)
  7. CDS ORF 5‘UTR 3'UTR
  8. Computer Vision阅读文章总结纪要
  9. 自学-Linux-老男孩Linux77期-day3
  10. 半车模型悬架系统的simulink仿真
  11. addr2line来定位问题
  12. 贪心算法题目 推销员
  13. 浅谈如何做好项目管理
  14. Google新的搜索页面
  15. Unity3D项目升级URP
  16. 自控力读书笔记 第四章 容忍罪恶: 为何善行之后会有恶行
  17. 嵌入式:交换指令之SWP,MRS,MSR
  18. 市值暴跌7成,马斯克急了:特斯拉是最有价值的公司!
  19. css常见的几种布局
  20. 浙江大学 PTA 递归实现顺序输出整数

热门文章

  1. 9999元起!荣耀首部折叠屏手机Magic V正式发布
  2. 小米12系列旗舰最新爆料:内藏5000mAh电池但机身更薄
  3. iPhone 13 Pro“终极”渲染图曝光:后置镜头模组将有大幅升级
  4. 金山办公:因个人原因 葛珂辞去公司董事长职务
  5. 泡泡玛特通过港交所聆讯 上半年总收益8.18亿元
  6. 三星Galaxy S21 Ultra相机再升级:1.08亿主摄+全新传感器夜景更强
  7. 华为Mate 40工程机曝光:并未采用屏下摄像头
  8. 张一鸣向盖茨基金会捐赠1000万美元 此前国内捐款1亿元用于抗疫
  9. 三星年度旗舰S20要来了:潜望式长焦加一亿像素!
  10. 贝壳“进社区”,让商业向文明靠拢