Kafka可视化管理工具kafka-manager部署安装和使用-已更名为CMAK
一、kafka-manager 简介
为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。
这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不均匀的的情况。
它支持管理多个集群、选择副本、副本重新分配以及创建Topic。同时,这个管理工具也是一个非常好的可以快速浏览这个集群的工具,有如下功能:
1.管理多个kafka集群
2.便捷的检查kafka集群状态(topics,brokers,备份分布情况,分区分布情况)
3.选择你要运行的副本
4.基于当前分区状况进行
5.可以选择topic配置并创建topic(0.8.1.1和0.8.2的配置不同)
6.删除topic(只支持0.8.2以上的版本并且要在broker配置中设置delete.topic.enable=true)
7.Topic list会指明哪些topic被删除(在0.8.2以上版本适用)
8.为已存在的topic增加分区
9.为已存在的topic更新配置
10.在多个topic上批量重分区
11.在多个topic上批量重分区(可选partition broker位置)
kafka-manager 项目地址:https://github.com/yahoo/kafka-manager
二、安装
1. 环境要求
1、jdk
openjdk version "1.8.0_302"2、kafka集群信息
服务器:
192.168.131.171:9092
192.168.131.171:9093
192.168.131.171:9094
软件:
kafka_2.12-2.6.2
apache-zookeeper-3.5.9
2. 下载安装 kafka-manager
2.1 下载kafka-manager
想要查看和管理Kafka,完全使用命令并不方便,我们可以使用雅虎开源的Kafka-manager,GitHub地址如下:
https://github.com/yahoo/kafka-manager
我们可以使用Git或者直接从Releaseshttps://github.com/yahoo/CMAK/releases中下载,此处从下面的地址下载 3.0.0.5 版本
我们选择第一个zip包进行下载。下载完成后上传到Linux服务器上。
2.2 编译
进入到源码目录,执行./sbt clean dist 进行编译
编译完成后会生成一个kafka-manager-1.3.3.23.zip文件,这个文件就是编译后的文件
这个编译过程太漫长了… 没等到… 建议大家用下面编译好的。
注意:上面下载的是源码,下载后需要按照后面步骤进行编译。如果觉得麻烦,可以直接从下面地址下载编译好的 kafka-manager-1.3.3.7.zip。
链接:https://pan.baidu.com/s/1qYifoa4
密码:el4o
我这里使用的是百度网盘中编译好的kafka-manager-1.3.3.7.zip。
2.3 解压
我们创建一个kafka-manager的文件夹,然后进行解压:
unzip kafka-manager-1.3.3.7.zip
2.4 修改配置 conf/application.conf
将kafka-manager.zkhosts="kafka-manager-zookeeper:2181"中的zookeeper地址换成自己安装的。
# kafka-manager.zkhosts="localhost:2181"
kafka-manager.zkhosts="192.168.131.171:2181"
# 如果是集群,参考如下
# kafka-manager.zkhosts="10.0.0.50:12181,10.0.0.60:12181,10.0.0.70:12181"
2.5 启动
确保自己本地的ZK已经启动了之后,我们来启动Kafka-manager。
kafka-manager 默认的端口是9000。
可通过 -Dhttp.port,指定端口; -Dconfig.file=conf/application.conf指定配置文件:
我们使用默认端口号启动吧:
nohup bin/kafka-manager -Dconfig.file=conf/application.conf &// 或者
bin/kafka-manager
我们使用bin/kafka-manager这个命令来启动,会使用默认配置文件和端口号9000.
启动完毕后可以查看端口是否启动,由于启动过程需要一段时间,端口起来的时间可能会延后。
使用ip地址:端口访问测试
可以看到,此时已经启动成功了。
三、测试 kafka-mamager
1 新建 Cluster
点击【Cluster】>【Add Cluster】打开如下添加集群的配置界面:
输入集群的名字(如Kafka-Cluster-1)和 Zookeeper 服务器地址(如localhost:2181),选择最接近的Kafka版本(如0.8.1.1)
注意:如果没有在 Kafka 中配置过 JMX_PORT,千万不要选择第一个复选框。
Enable JMX Polling
如果选择了该复选框,Kafka-manager 可能会无法启动。
其他broker的配置可以根据自己需要进行配置,默认情况下,点击【保存】时,会提示几个默认值为1的配置错误,需要配置为>=2的值。提示如下。
新建完成后,运行界面如下:
TOPIC list
2 Broker
四、管理 kafka-manager
4.1 新建主题
点击【Topic】>【Create】可以方便的创建并配置主题。如下显示:
接下来我们根据一张图理解上面的设置:
在上图一个Kafka集群中,有两个服务器,每个服务器上都有2个分区。P0,P3可能属于同一个主题,也可能是两个不同的主题。
如果设置的Partitons和Replication Factor都是2,这种情况下该主题的分布就和上图中Kafka集群显示的相同,此时P0,P3是同一个主题的两个分区。P1,P2也是同一个主题的两个分区,Server1和Server2其中一个会作为Leader进行读写操作,另一个通过复制进行同步。
如果设置的Partitons和Replication Factor都是1,这时只会根据算法在某个Server上创建一个分区,可以是P0~4中的某一个(分区都是新建的,不是先存在4个然后从中取1个)。
这里我们都设置为2,点击【Create】然后进入创建的这个主题,显示如下。
4.2 查看主题
点击【topic】下面的主题名称,即可查看主题
原文地址:https://www.cnblogs.com/dadonggg/p/8205302.html
原文作者:芹溪
Kafka可视化管理工具kafka-manager部署安装和使用-已更名为CMAK相关推荐
- 【Centos】EFAK(kafka-eagle)对ZK、Kafka可视化管理工具容器化安装与配置
[Centos]EFAK(kafka-eagle)对ZK.Kafka可视化管理工具容器化安装与配置 前言 构建 Dockerfile system-config.properties works re ...
- Kafka可视化管理工具-CMAK(kafka-manager)
一.简介 为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager(已改名为 cmak). 这个管理工具可以很容易 ...
- EFAK - Kafka可视化管理工具
前言 什么是EFAK EFAK(Eagle For Apache Kafka,以前称为 Kafka Eagle)EFAK是开源可视化和管理软件.可以查询.可视化.监控kafka集群,是将 kafka ...
- kafka可视化客户端工具(Kafka Tool)的使用
本文来说下kafka可视化客户端工具(Kafka Tool)的使用 文章目录 概述 下载地址 如何使用 本文小结 概述 Kafka Tool是一个用于管理和使用Apache Kafka集群的GUI应用 ...
- k8s可视化管理工具Rancher安装和使用
k8s系列入门级教程-k8s可视化管理工具Rancher安装和使用 <超低成本的k8s集群搭建教程> 使用rke安装企业级k8s集群-待填坑 prometheus+grafana监控搭建教 ...
- 两款非常好的Redis 可视化管理工具:Another Redis Desktop Manager、QuickRedis
今天来推荐一款我平常一直在使用的 Redis 可视化管理工具,真的非常不错,好用!我会通过和另外一款类似的工具 QuickRedis 作对比的方式来介绍. QuickRedis 是一位好朋友给我推荐 ...
- 我最爱用的一款 Redis 可视化管理工具——Another Redis Desktop Manager
今天来推荐一款我平常一直在使用的 Redis 可视化管理工具,真的非常不错,好用!我会通过和另外一款类似的工具 QuickRedis 作对比的方式来介绍. QuickRedis 是一位好朋友给我推荐的 ...
- Redis Desktop Manager – Redis可视化管理工具、redis图形化管理工具、redis可视化客户端、redis集群管理
Redis Desktop Manager – 个人认为是目前最好用的Redis可视化管理工具. redis可视化工具.Redis可视化管理工具.redis图形化管理工具.redis可视化客户端.re ...
- Redis Desktop Manager – Redis可视化管理工具、redis图形化管理工具、redis可视化客户端、redis集群管理工具
Redis Desktop Manager – 个人认为是目前最好用的Redis可视化管理工具. redis可视化工具.Redis可视化管理工具.redis图形化管理工具.redis可视化客户端.re ...
最新文章
- 树莓派安装docker
- windows 防火墙导致开发板tftpboot不能正常下载
- 洛谷1197星球大战
- 【渝粤教育】电大中专电大中专职业健康与安全考试考核试题作业 题库
- 手机电脑的芯片主要是由_全体起立!苹果自研电脑芯片登场,iOS迎大更新…WWDC20精彩远不止这些...
- wp8数据存储--独立存储文件 【转】
- 使用属性升级MyBank >> 掌握自定义方法的定义及调用 1214
- 悬赏百万美金,检测Deepfake假视频,数据集有470G:很久不见这么壕的比赛
- IplImage 封装释放
- 取得人生成功的40条定律
- 系统设计的原则、特点与任务
- 计算机主机与显示器的接口类型,电脑显示器接口类型哪个好?VGA、DVI、HDMI、DP接口区别对比科普...
- 全面了解IDC数据中心
- 色织物数据集YDFID-1
- R语言forestplot 根据分组设置不同颜色
- 【Office插入eps】Word插入eps出错
- C语言:srand函数与rand函数的使用(纯干货)【易懂】
- zk和quartz实现分布式定时调度
- 5.4.7 延迟的心跳
- springCloud运行主类,错误: 找不到或无法加载主类 com.kuang.springcloud.DeptConsumer_80