官网:http://kafka.apache.org/quickstart

Kafka强依赖ZK,如果想要使用Kafka,就必须安装ZK,Kafka中的消费偏置信息、kafka集群、topic信息会被存储在ZK中。有人可能会说我在使用Kafka的时候就没有安装ZK,那是因为Kafka内置了一个ZK,一般我们不使用它。

kafka 在CDH当中kafka是独立分支(跟zookeeper的版本可以不一样)

一:准备工作

1.zookeeper部署

[root@yws85 zookeeper-3.4.6]# bin/zkServer.sh status
JMX enabled by default
Using config: /opt/software/zookeeper-3.4.6/bin/../conf/zoo.cfg
Mode: follower
[root@yws85 zookeeper-3.4.6]#
[root@yws86 zookeeper-3.4.6]#  bin/zkServer.sh status
JMX enabled by default
Using config: /opt/software/zookeeper-3.4.6/bin/../conf/zoo.cfg
Mode: leader
[root@yws86 zookeeper-3.4.6]#
[root@yws87 zookeeper-3.4.6]#  bin/zkServer.sh status
JMX enabled by default
Using config: /opt/software/zookeeper-3.4.6/bin/../conf/zoo.cfg
Mode: follower
[root@yws87 zookeeper-3.4.6]#

如何看kafka_2.11 - 0.10.0.1.tgz
scala 是 2.11 版本
kafak是 0.10.0.1 kafka版本(生产上用0.10版本足以,没有必要使用官网提供的更高版本,生产求稳,)
问题:那为什么非得选择0.10.这个版本呢

kafka 后面对接Spark Streaming

网址连接:http://spark.apache.org/docs/latest/streaming-kafka-integration.html

2.JDK部署

3. scala部署

scala-2.11.8.tgz
tar -xzvf scala-2.11.8.tgz(解压)
chown -R scala-2.11.8(修改权限)
ln -s scala-2.11.8 scala(设置软连接)
(配置环境变量)
export SCALA_HOME=/opt/software/scala-2.11.8
export PATH=$SCALA_HOME/bin:$JAVA_HOME/bin:$HADOOP_HOME/bin:$FLINK_HOME/bin:$PATH

4.事先有的zk,不确定zk是否有kafka残留信息

cd zookeeper/bin
./zkCli.sh
ls / (根目录看一下有没有)
help
rmr /kafka

[zk: localhost:2181(CONNECTED) 2] ls /kafka
[controller_epoch, brokers, admin, isr_change_notification, consumers, config]
[zk: localhost:2181(CONNECTED) 3] rmr /kafka

生产上很常见,一旦kafka出现问题,需要重新部署的时候,一定要清理干净在部署

二:下载

kafka下载网址:http://mirrors.hust.edu.cn/apache/kafka/0.10.2.2/

[root@yws87 kafka]# mkdir logs  (创建存储目录)[root@yws87 config]# vi server.properties (相当于broker配置服务端)
# The id of the broker. This must be set to a unique integer for each broker.
broker.id=3
port=9092
host.name=192.168.0.87
日志
# A comma seperated list of directories under which to store log files
log.dirs=/opt/software/kafka/logs
(这里之前使用了软连接,操作方便,如果版本多更容易乱)
zookeeper关联(本身带zookeeper,这里会有默认配置,我们是集群这里要进行如下配置)
zookeeper.connect=192.168.0.85:2181,192.168.0.86:2181,192.168.0.87:2181/kafka
注意:/kafka我们在这里加了一个这个,,
原因:是因为kafka文件下有很多文件夹。这样操作更方便管理,和日后删除然后scp复制到另外2台机器,在配置文件中更改

三:启动

[root@yws87 kafka]# nohup bin/kafka-server-start.sh config/server.properties  &
[1] 19455
[root@yws87 kafka]# nohup: ignoring input and appending output to ‘nohup.out’[root@yws87 kafka]#
[root@yws87 kafka]# tail -F nohup.out
[root@yws87 config]# jps
21234 Jps
10590 QuorumPeerMain
19455 Kafka

Kafka的安装部署(分布式部署安装)相关推荐

  1. 从安装docker到部署es集群管理的艰辛之旅

    前言 好久没有更新博客了 , 最近也是一直在忙 , 上班搬砖 , 下班深造自己 ; 偶尔打打王者 , 哈哈 , (留言带你们飞 , 哈哈) 最近呢 , 因为加了台新的服务器 , 需要把现有的es集群全 ...

  2. 加速深度学习在线部署,TensorRT安装及使用教程

    向AI转型的程序员都关注了这个号???????????? 机器学习AI算法工程   公众号:datayx 1 什么是TensorRT 一般的深度学习项目,训练时为了加快速度,会使用多GPU分布式训练. ...

  3. 项目四 CentOS使用kubeadm部署工具部署测试环境的K8s集群---Kubectl命令使用以及安装dashboard界面

    大家好,我是SuieKa.在之前呢有幸学习了马哥教育提供的K8s入门指南以及视频.初来乍到,写一篇关于K8s的介绍以及部署测试环境使用的K8s集群. 树 @·K8s入门简单介绍 一.K8s(Kuber ...

  4. 基于Docker安装Jenkin并部署项目

    基于Docker安装Jenkin并部署项目 一.安装 1.1 安装Docker 点击查看笔记:Docker安装 1.2 安装Docker Compose # 1.下载文件,使用的是国内镜像 curl ...

  5. Docker安装 下载镜像 部署容器 备份 创建私服

    Docker 学习目标: 掌握Docker基础知识,能够理解Docker镜像与容器的概念 完成Docker安装与启动 掌握Docker镜像与容器相关命令 掌握Tomcat Nginx 等软件的常用应用 ...

  6. Dubbo:Zookeeper安装+Dubbo管理控制台部署

    Zookeeper安装+Dubbo管理控制台部署 Dubbo:一个分布式的RPC框架 ​ RPC: 远程过程调用 ​ RPC:Registry Provider Consumer Dubbo官方建议使 ...

  7. Openstack(T版)私有云平台<环境部署>及安装<keystone组件>

    文章目录 一.基础环境配置 1. 下载基础工具包 2. 下载open stack t版 客户端 3. 配置hosts主机映射 4. 三台主机做免交互 5. 配置时间同步 二.系统环境配置 1. 配置M ...

  8. SharePoint Server 2016 部署安装(三)—— 安装SharePoint Server

    上一篇文章我们说到了安装SharePoint Server 2016 之前所需要做的准备工作.那么今天就来直接讲讲SharePoint Server的部署安装了. 由于我们的测试环境是单台的 Sing ...

  9. 项目部署mysql安装_Tomcat7+jdk+mysql安装及项目部署

    Tomcat7+jdk+mysql安装及项目部署 1. 下载tomcat7.jdk.mysql apache-tomcat-7.0.42.tar.gz jdk-7u25-linux-i586.gz m ...

  10. centos losf 安装_Linux Centos7部署环境安装-CentOS

    Linux Centos7部署环境安装-CentOS Centos7部署环境安装及Linux常用命令 centos系统下各文件夹的作用 centos7修改系统默认语言 centos7安装rz/sz命令 ...

最新文章

  1. 医院管理系统的新机遇
  2. cx oracle6 oracle10,python安装cx_Oracle
  3. BurpSuite插件开发指南之 Java 篇
  4. 【小松教你手游开发】【面试必读(编程基础)】堆和栈的区别(转过无数次的文章)...
  5. arm优化编译参数选项解释
  6. 五、RabbitMQ的消息属性(读书笔记)
  7. Java 8函数式编程:延迟实例化
  8. WinPcap笔记(8):分析数据包(2)
  9. DataTable增加行
  10. 在Spring项目下集成CXF
  11. Windows下配置安装Git(一)
  12. redis命令行查询某个key值
  13. Word - 修改界面语言和校对语言
  14. linux命令join的用法,linux join命令
  15. 关于CSDN原力计划活动说明
  16. 职场菜鸟捕食指北【初入职场篇】
  17. git 使用过程遇到的问题
  18. 2022危险化学品经营单位主要负责人考试试题及在线模拟考试
  19. 开放Centos7端口
  20. 机器学习之使用keras实现MLP

热门文章

  1. NodeJS + Sequelize + Mysql + Vue + Bootstrap
  2. Oracle推断值为非数字
  3. 二分法查找是基于有序_【二分查找】May1th “First Bad Version (Python3)”
  4. 我是如何高效录制出那么多高质量 gif 动图的呢?
  5. 对自注意力(self-attention)的理解以及基于pytorch的简易示例
  6. fpga数电基础之--------触发器
  7. 【UVa】Wavio Sequence(dp)
  8. ubuntu下安装PCL并测试(含视频安装过程记录)
  9. 三维点云学习(3)3-Gaussian Mixture Model (GMM)
  10. 认识 Express 的 res.send() 和 res.end()