kafka一些常用命令,以及如何查看消息被谁消费了
环境说明:
我们的kafka版本是:查看kafka版本,进入kafka容器:find / -name \*kafka_\* | head -1 | grep -o '\kafka[^\n]*'
kafka_2.11-2.2.1
前面为scala版本,后面为kafka版本。
样例说明:2.11为scala版本,2.2.1为kafka版本。
我的kafka容器名是 kafka;
注意:
不同kafka版本的命令有些不一样,有的还用zookeeper的那种命令,注意下就可以了;
命令整理:
进入kafka容器
docker exec -it kafka /bin/bash也可以这样docker exec -it kafka bash
进入kafka默认目录
cd /opt/kafka
我们的目录是在这里:
一般常用的操作就是这些bin目录下的命令了;
问题整理:
问题一:
在项目开发过程中,测试环境的kafka是可以被其他人消费的,包括我本地启动服务也是可以消费的。
这样在测试过程中,就不能保证消息被测试环境的服务消费了,
若是其他人的分支和测试环境分支代码不一致,他们消费后就会导致功能最后的结果不是我们想要的,
所以就需要找到是谁消费了这个消息【具体是哪个同学的ip】;
因此需要用到kafka中bin目录下的一些命令:
我的查找过程:因为我们是运行在docker中的,因此同一个命令有两种查询方式
【查看group列表】
docker exec -it kafka kafka-consumer-groups.sh --bootstrap-server XXXXXX:9092 --list或者进去kafka的bin目录,直接用命令操作docker exec -it kafka bash
cd /opt/bitnami/kafka/bin/
./kafka-consumer-groups.sh --bootstrap-server XXXXXX:9092 --list
结果就是会列出所有的组,这里要看你们代码中用到哪个组,
yml文件中:kafka:consumer:group-id:组名字
【查看group消费情况】
docker exec -it kafka kafka-consumer-groups.sh --bootstrap-server XXXXX:9092 --group group名字 --describe或者进去kafka的bin目录,直接用命令操作docker exec -it kafka bash
cd /opt/bitnami/kafka/bin/
./kafka-consumer-groups.sh --bootstrap-server XXXXXX:9092 --group group名字 --describe最后结果
GROUP TOPIC PARTITION CURRENT-OFFSET LOG-END-OFFSET LAG CONSUMER-ID HOST CLIENT-ID当前已消费的条数 总条数 未消费的条数
4 kzy-record-group wecom-chat-message-1 1 61 61 0 BATCH_CLIENT_1-82ec8469-0486-4aab-bf26-9c2a7dc10127 /xxx.xxx.xxx.x BATCH_CLIENT_1
5 kzy-record-group wecom-chat-message-1 3 115 115 0 BATCH_CLIENT_3-2952df8e-7dbe-4aa8-9133-d60963cd8707 /xxx.xxx.xxx.x BATCH_CLIENT_3
6 kzy-record-group wecom-chat-message-1 0 123 123 0 BATCH_CLIENT_0-f4f72233-dc0f-4e6c-80db-701fab3254e1 /xxx.xxx.xxx.x BATCH_CLIENT_0
7 kzy-record-group wecom-chat-message-1 2 148 148 0 BATCH_CLIENT_2-cb93e139-c3c3-4727-8156-dff1b95d0f56 /xxx.xxx.xxx.x BATCH_CLIENT_2
最后出来host列就会指向当前消费者的ip(当前消费的group成员id),我们的目的就达到了;
组的这两个命令其实也就是--list 和--describe这两个参数的运用;
当然还有其他命令,个人觉得这些没必要记,用的时候再百度,或者收藏我的文章(会不定期更新)上来看看就行了。
kafka一些常用命令,以及如何查看消息被谁消费了相关推荐
- kafka的常用命令
今天主要来介绍一些kafka的常用命令,记录一下,便于平时使用: 1.kafka启动: ./kafka-server-start.sh ../config/server.properties & ...
- Linux 常用命令:文本查看篇
前言 Linux常用命令中,除了cat还有很多其他用于文本查看的命令.本文将简单介绍一下这些文本查看的命令. 全文本显示--cat cat可能是常用的一个文本查看命令了,使用方法也很简单: cat f ...
- Kafka:常用命令
启动Kafka:kafka-server-start.sh -daemon $KAFKA_HOME/config/server.properties 创建一个叫test的话题,有两个分区,每个分区3个 ...
- docker 常用命令 -----(批量查看镜像/容器,重命名,运行,进入容器,私有仓库)
印象笔记链接: https://app.yinxiang.com/fx/816a7b17-37a1-49c6-a7c5-210282b18d4a 一:镜像操作 注意: -f 参数为强制删除 1.1 查 ...
- kafka常用命令 topic创建 删除 设置保存时间 消费情况 zookeeper 启动停止
启动kafka sh kafka-server-start.sh -daemon ../config/server.properties 停止kafka sh kafka-server-stop.sh ...
- kafka topic常用命令
创建topic [root@node01 bin]# ./kafka-topics.sh --zookeeper localhost:2181 --create --replication-facto ...
- linux查看nbu数据库命令,NBU基本常用命令
Veritas常用命令: 1. 查看当有运行的任务 bpdbjobs –report | grep Active 2. 停止任务 bpdbjobs –cancel PID (包括主任务和子任务) 3. ...
- 【Linux系列】Linux查看日志常用命令大全,再也不怕不会看日志啦
热门系列: [Linux系列]Linux脚本:定时任务批量移动指定文件至另一目录!想学吗?我教你啊 [Linux系列]Linux实践(一):linux常用命令 [Linux系列]Linux实践(二): ...
- Windows 和 Linux 查看和关闭端口常用命令解析
1. Windows 常用命令 查看系统当前所有的端口使用情况 netstat -ano 查看端口被哪个应用占用 netstat -ano|findstr "端口号" 查看端口信息 ...
最新文章
- python之markdown转html
- linux定时脚本任务
- python连接spark_python如何通过pyspark的API操作spark
- [转】:VS 2010 : 如何开发和部署Outlook 2010插件(Add-in)
- 比较字符串a和b的大小
- 测试数据构建器和对象母亲:另一种眼神
- Go将数字转换为字符串的正确姿势
- FPGA _Verilog HDL_计数器实现数字钟60秒计数设计实验
- Ubuntu18.10与windows7文件夹共享
- ldd查看程序依赖库(转载)
- ubuntu截图工具KSnapshot(静态图),peek(动态图)
- 【Python】第七篇:模块化编程及第三方模块的安装
- 企业为什么会遭到DDoS攻击?被DDoS攻击该怎么办?
- 如何避免PayPal、Fb、谷歌账户被封,又如何解封?
- [游戏技术] Hunter Mode 猎人模式v1.8(重制版)
- 茶 与 茶道 之 人生如茶
- Python 自学笔记(教程)(七)
- cogs 290. [CTSC2000] 丘比特的烦恼
- 2019CCPC秦皇岛打铁(游)记
- MTK项目case解决方法(经验)
热门文章
- Linkage Mapper 专栏内容介绍
- Liferay中的workflow
- (附源码)ssm基于jsp高校选课系统 毕业设计 291627
- 详解操作系统之进程间通信 IPC (InterProcess Communication)
- ERTEC200P-2 PROFINET设备完全开发手册(8-1)
- Android电话拦截及拦截提示音的实现
- 【深进1.例1】求区间和
- 什么叫做专用的IP地址?
- 计算机存储—大话存储II读书
- python中导入pillow时显示没有名为“pillow”的模块(import pillow: No module named 'pillow')