前言

分布式消息队列是大型分布式系统不可缺少的中间件,主要解决应用耦合、异步消息、流量削锋等问题。实现高性能、高可用、可伸缩和最终一致性架构。

今天跟大家讲解下如何部署单机Kafka集群,希望大家喜欢。

Kafka是什么?

Kafka 是由 LinkedIn 开发的一个分布式的消息系统,使用 Scala 编写,它以可水平扩展和高吞吐率而被广泛使用。

它的特点:

它同时为发布和订阅提供高吞吐量;它支持多订阅者,当失败时能自动平衡消费者;它将消息持久化到磁盘,因此可用于批量消费。

Kafka概念

说到Kafka,自然离不开三个专业术语:生产者(Producer)、消费者(Consumer)、主题(Topic)。

专业术语

我们再来看这个图,大致会有一定的了解了。

了解了一些基本知识,下面开始讲解下如何部署。

部署环境

本次是以CentOS6 环境为例子,介绍下如何快速搭建。

官网下载地址

https://archive.apache.org/dist/kafka/

这里我以2.1.0版本为例

https://archive.apache.org/dist/kafka/2.1.0/kafka_2.12-2.1.0.tgz

部署zookeeper

这里不展开描述,有兴趣的可以参考我之前写的文章:中间件-简单部署zookeeper

部署kafka

  • 新建独立目录
$ pwd/opt/testerzhang/3rd/kafka2.1
  • 解压包,并重命名文件夹名
$ tar zxf kafka_2.12-2.1.0.tgz$ mv kafka_2.12-2.1.0 kafka1
  • 每个节点配置文件配置节点1
$ vi  kafka1/config/server.properties# 每个节点值不一样broker.id=10# 端口地址port=9110#配置当前主机hostname,也可以IPhost.name=10.10.10.10#配置对应的zookeepr地址zookeeper.connect=10.10.10.10:15001,10.10.10.10:15002,10.10.10.10:15003#在配置集群的时候,必须设置listeners = PLAINTEXT://10.10.10.10:9110#存放log目录log.dirs=/opt/testerzhang/3rd/kafka2.1/data/kafka1-log
  • 节点2
$ cp -rf kafka1 kafka2$ vi  kafka2/config/server.properties# 每个节点值不一样broker.id=11# 端口地址port=9111#配置当前主机hostname,也可以IPhost.name=10.10.10.10#配置对应的zookeepr地址zookeeper.connect=10.10.10.10:15001,10.10.10.10:15002,10.10.10.10:15003#在配置集群的时候,必须设置listeners = PLAINTEXT://10.10.10.10:9111#存放log目录log.dirs=/opt/testerzhang/3rd/kafka2.1/data/kafka2-log
  • 节点3
$ cp -rf kafka1 kafka3$ vi  kafka3/config/server.properties# 每个节点值不一样broker.id=12# 端口地址port=9112#配置当前主机hostname,也可以IPhost.name=10.10.10.10#配置对应的zookeepr地址zookeeper.connect=10.10.10.10:15001,10.10.10.10:15002,10.10.10.10:15003#在配置集群的时候,必须设置listeners = PLAINTEXT://10.10.10.10:9112#存放log目录log.dirs=/opt/testerzhang/3rd/kafka2.1/data/kafka3-log
  • 启动方法
$ cd /opt/testerzhang/3rd/kafka2.1/kafka1/bin$ nohup sh ./kafka-server-start.sh ../config/server.properties &

这样,单机版Kafka集群搭建完毕,开始玩起来吧。

下次跟大家分享下如何可视化操作Kafka,敬请期待。


我是testerzhang,喜欢本文的童鞋,可以关注我+收藏,不明白的地方也可以评论留言。

kafka 集群_单机版kafka集群部署相关推荐

  1. python集群_使用Python集群文档

    python集群 Natural Language Processing has made huge advancements in the last years. Currently, variou ...

  2. 树莓派 mysql集群_多树莓派集群服务器

    树莓派使用实例之:2 Pi R 第二篇:Web服务器 在我的上一篇文章中讲过如何做一个高可用系统:两个树莓派布署上 GlusterFS 集群文件系统,就变成一个容错文件服务器了.在这篇文章中我们会基于 ...

  3. hadoop小型集群_小型Hadoop集群的Ganglia配置和一些故障排除

    hadoop小型集群 Ganglia是一个针对大型集群的开源,可扩展且分布式的监视系统. 它收集,汇总并提供数十种与计算机相关的指标(例如CPU,内存,存储,网络使用情况)的时序视图. 您可以在UC ...

  4. node redis集群_如何使用集群扩展Node.js服务器

    node redis集群 by Michele Riva 由Michele Riva 如何使用集群扩展Node.js服务器 (How to scale your Node.js server usin ...

  5. 二进制安装mysql集群_实战mysql集群搭建(一)--centos7下二进制安装mysql-5.6

    在超哥的帮助下,完成了基于InnoDb数据引擎的mysql数据库集群搭建,实现了主从复制的功能,本篇博文介绍如何使用二进制安装mysql的方法,具体实现步骤如下: 软件使用说明: Liunx系统:ce ...

  6. php配置mysql集群_【mysql集群】mysql集群配置

    http://topic.csdn.net/u/20100621/16/c9436c17-374c-4c3a-b075-a18670143fd1.html MySql-Cluster安装 系统 cen ...

  7. kafka 发布订阅_在Kafka中发布订阅模型

    kafka 发布订阅 这是第四个柱中的一系列关于同步客户端集成与异步系统( 1, 2, 3 ). 在这里,我们将尝试了解Kafka的工作方式,以便正确利用其发布-订阅实现. 卡夫卡概念 根据官方文件 ...

  8. kafka内存不断增加_为什么 Kafka 能这么快的 6 个原因

    无论 kafka 作为 MQ 也好,作为存储层也罢,无非就是两个功能(好简单的样子),一是 Producer 生产的数据存到 broker,二是 Consumer 从 broker 读取数据.那 Ka ...

  9. auot lisp 选择集处理_第64集 python机器学习:用预处理进行参数选择

    在机器学习过程中,大多数机器学习应用不仅需要应该用单个算法,而且还需要将许多不同的处理步骤和机器学习模型链接在一起. 接下来我们将引入本章学习的内容--Pipeline类:该类可以简化构造变换和模型链 ...

最新文章

  1. 调用父级方法_通信:找到任意组件实例的findComponents系列方法,5个终极方案
  2. android 视频 截图,java – android获取当前视频的截图
  3. 窗口位置按钮取消_梦幻西游:五开玩家都是怎样摆放窗口的
  4. IDEA不能导入List包
  5. [windows]windows 10 锁屏壁纸保存方法
  6. android 单元测试 多线程,多线程之单元测试(Junit)
  7. ubuntu阿里云快速下载
  8. zabbix自定义SNMP监控项
  9. 一步步教你轻松学主成分分析PCA降维算法
  10. 回忆我的大学——大学图书馆借书记录
  11. 小丁在加班之JVM优化-内存结构
  12. 如何使用python批量压缩图片_使用python脚本批量压缩图片大小
  13. 一般将来时语法课教案_【语法视频课】第1~50节资料汇总
  14. 上帝视角看高清村庄卫星地图,附下载高清卫星地图最新方法
  15. AWGN信道下卷积编码、viterbe译码、分别采用软硬判决,进行误码率分析
  16. Datagridview 相关
  17. mysql锁表查询和解锁操作
  18. 【HTML】表单隐藏域hidden
  19. AirDisk存宝 【S3和S6后面的USB口是用来干嘛的?有什么作用?】
  20. AIoT时代存储如何升级?长江存储发布高速闪存芯片UFS 3.1

热门文章

  1. python中list是什么类型_Python 入门系列 —— 13. List 类型简介
  2. ZOJ 1048|POJ 1004|HDU1064 Financial Management
  3. Vitaly and Night
  4. android 设置 媒体服务器,第三讲:如何掌握媒体服务器的运行情况
  5. 蚂蚁从飞机上掉下来的数学建模分析
  6. 一元多项式计算器 :加、减、乘运算【完整代码+运行截图+实验说明】
  7. ButterKnife 8.4.0 @BindView 失败,nullpointerexception
  8. oauth2.0 原理
  9. Android StateFlow详解
  10. Android NDK