------------------------------------------- 系统 相关 -------------------------------------------

## 每一个broker在集群中的唯一标示,要求是正数。在改变IP地址,不改变broker.id的话不会影响consumers

broker.id =1

## kafka数据的存放地址,多个地址的话用逗号分割 /tmp/kafka-logs-1,/tmp/kafka-logs-2。

## 每当创建新partition时,都会选择在包含最少 partitions的路径下进行。注:这个目录下不能有其他非kafka的目录,不然会导致kafka集群无法启动

log.dirs = /tmp/kafka-logs

## 提供给客户端响应的端口

port =9092

## 消息体的最大大小,单位是字节

message.max.bytes =1000000

## broker 处理消息的最大线程数,一般情况下不需要去修改

num.network.threads =3

## broker处理磁盘IO 的线程数 ,数值应该大于你的硬盘数

num.io.threads =8

## 一些后台任务处理的线程数,例如过期消息文件的删除等,一般情况下不需要去做修改

background.threads =4

## 等待IO线程处理的请求队列最大数,若是等待IO的请求超过这个数值,那么会停止接受外部消息,算是一种自我保护机制

queued.max.requests =500

##broker的主机地址,若是设置了,那么会绑定到这个地址上,若是没有,会绑定到所有的接口上,并将其中之一发送到ZK,一般不设置

host.name

## 打广告的地址,若是设置的话,会提供给producers, consumers,其他broker连接,具体如何使用还未深究

advertised.host.name

## 广告地址端口,必须不同于port中的设置

advertised.port

## socket的发送缓冲区,socket的调优参数SO_SNDBUFF

socket.send.buffer.bytes =100*1024

## socket的接受缓冲区,socket的调优参数SO_RCVBUFF

socket.receive.buffer.bytes =100*1024

## socket请求的最大数值,防止serverOOM,message.max.bytes必然要小于socket.request.max.bytes,会被topic创建时的指定参数覆盖

socket.request.max.bytes =100*1024*1024

------------------------------------------- LOG 相关 -------------------------------------------

## topic的分区是以一堆segment文件存储的,这个控制每个segment的大小,文件超过指定大小会重新创建一个文件,会被topic创建时的指定参数覆盖

log.segment.bytes =1024*1024*1024

## 这个参数会在日志segment没有达到log.segment.bytes设置的大小,也会强制新建一个segment,会被topic创建时的指定参数覆盖

log.roll.hours =24*7

## 日志清理策略 选择有:delete和compact 主要针对过期数据的处理,或是日志文件达到限制的额度,会被 topic创建时的指定参数覆盖

log.cleanup.policy = delete

## 数据存储的最大时间 超过这个时间 会根据log.cleanup.policy设置的策略处理数据,也就是消费端能够多久去消费数据

## log.retention.bytes和log.retention.minutes任意一个达到要求,都会执行删除,会被topic创建时的指定参数覆盖

log.retention.minutes=7days

## 指定日志每隔多久检查看是否可以被删除,默认1分钟

log.cleanup.interval.mins=1

## topic每个分区的最大文件大小,一个topic的大小限制 = 分区数*log.retention.bytes 。-1没有大小限制

## log.retention.bytes和log.retention.minutes任意一个达到要求,都会执行删除,会被topic创建时的指定参数覆盖

log.retention.bytes=-1

## 日志清除程序检查日志是否满足被删除的频率(以毫秒为单位) log.cleanup.policy中设置的策略

log.retention.check.interval.ms=5minutes

## 是否开启日志压缩

log.cleaner.enable=false

## 日志压缩运行的线程数

log.cleaner.threads =1

## 日志压缩时候处理的最大大小

log.cleaner.io.max.bytes.per.second=None

## 日志压缩去重时候的缓存空间 ,在空间允许的情况下,越大越好

log.cleaner.dedupe.buffer.size=500*1024*1024

## 日志清理时候用到的IO块大小 一般不需要修改

log.cleaner.io.buffer.size=512*1024

## 日志清理中hash表的扩大因子 一般不需要修改

log.cleaner.io.buffer.load.factor =0.9

## 当没有日志要清理时,休眠的时间

log.cleaner.backoff.ms =15000

## 日志清理的频率控制,越大意味着更高效的清理,同时会存在一些空间上的浪费,会被topic创建时的指定参数覆盖

log.cleaner.min.cleanable.ratio=0.5

## 对于压缩的日志保留的最长时间,也是客户端消费消息的最长时间,同log.retention.minutes的区别在于一个控制未压缩数据,一个控制压缩后的数据。会被topic创建时的指定参数覆盖

log.cleaner.delete.retention.ms =1day

## 对于segment日志的索引文件大小限制,会被topic创建时的指定参数覆盖

log.index.size.max.bytes =10*1024*1024

## 当执行一个fetch操作后,需要一定的空间来扫描最近的offset大小,设置越大,代表扫描速度越快,但是也更好内存,一般情况下不需要搭理这个参数

log.index.interval.bytes =4096

## log文件"sync"到磁盘之前累积的消息条数

## 因为磁盘IO操作是一个慢操作,但又是一个"数据可靠性"的必要手段,所以此参数的设置,需要在"数据可靠性"与"性能"之间做必要的权衡.

## 如果此值过大,将会导致每次"fsync"的时间较长(IO阻塞);如果此值过小,将会导致"fsync"的次数较多,这也意味着整体的client请求有一定的延迟.

## 物理server故障,将会导致没有fsync的消息丢失.

log.flush.interval.messages=None

## 检查是否需要固化到硬盘的时间间隔

log.flush.scheduler.interval.ms =3000

## 仅仅通过interval来控制消息的磁盘写入时机,是不足的.

## 此参数用于控制"fsync"的时间间隔,如果消息量始终没有达到阀值,但是离上一次磁盘同步的时间间隔达到阀值,也将触发.

log.flush.interval.ms = None

## 文件在索引中清除后保留的时间 一般不需要去修改

log.delete.delay.ms =60000

## 控制上次固化硬盘的时间点,以便于数据恢复 一般不需要去修改

log.flush.offset.checkpoint.interval.ms =60000

------------------------------------------- TOPIC 相关 -------------------------------------------

## 是否允许自动创建topic ,若是false,就需要通过命令创建topic

auto.create.topics.enable =true

## 一个topic ,默认分区的replication个数 ,不得大于集群中broker的个数

default.replication.factor =1

## 每个topic的分区个数,若是在topic创建时候没有指定的话 会被topic创建时的指定参数覆盖

num.partitions =1

kafka配置文件 中文乱码_Kafka学习之配置文件详解相关推荐

  1. Python2写csv文件中文乱码问题及解决方法详解

    导读 python2最大的坑在于中文编码问题,遇到中文报错首先加u,再各种encode.decode,这篇文章给大家介绍Python2写csv文件中文乱码问题及解决方法,感兴趣的朋友跟随小编一起看看吧 ...

  2. IDEA 解决配置文件中文乱码

    IDEA 解决配置文件中文乱码 一.前言 开发中使用设计模式.JDBC操作数据库.Spring等都会接触到配置文件,那么配置文件中存储中文会遇到乱码情况,该如何解决那? 二.解决乱码 配置文件乱码展示 ...

  3. 解决Spring项目读取配置文件中文乱码问题

    解决Spring项目读取配置文件中文乱码问题 properties配置文件读取时中文乱码,错误如下: 解决方法如下: **1.**打开IDEA的设置项,进入Editor->File encodi ...

  4. Idea 设置编码UTF-8 Idea中 .properties 配置文件中文乱码

    Idea 设置编码UTF-8 Idea中 .properties 配置文件中文乱码 一.设置编码 1.步骤: File -> Setting -> Editor -> File en ...

  5. Spring中,applicationContext.xml 配置文件在web.xml中的配置详解

    Spring中,applicationContext.xml 配置文件在web.xml中的配置详解 2016年10月04日 15:22:26 阅读数:7936 转自http://www.cnblogs ...

  6. python流程控制语句-python学习 流程控制语句详解

    ###################### 分支语句 python3.5 ################ #代码的缩进格式很重要 建议4个空格来控制 #根据逻辑值(True,Flase)判断程序的 ...

  7. 深度学习开发环境调查结果公布,你的配置是这样吗?(附新环境配置) By 李泽南2017年6月26日 15:57 本周一(6 月 19 日)机器之心发表文章《我的深度学习开发环境详解:Te

    深度学习开发环境调查结果公布,你的配置是这样吗?(附新环境配置) 机器之心 2017-06-25 12:27 阅读:108 摘要:参与:李泽南.李亚洲本周一(6月19日)机器之心发表文章<我的深 ...

  8. IOS学习之UINavigationController详解与使用(一)添加UIBarButtonItem

    转:http://blog.csdn.net/totogo2010/article/details/7681879 1.UINavigationController导航控制器如何使用 UINaviga ...

  9. IOS开发学习笔记-----UILabel 详解

    IOS开发学习笔记-----UILabel 详解 01 //创建uilabel 02 UILabel *label1 = [[UILabel alloc] initWithFrame:CGRectMa ...

最新文章

  1. 四十一、文件的物理结构(上)
  2. docker部署Redmine项目管理平台
  3. 什么是rip协议其优缺点_南京课工场IT培训:常见动态路由协议之———RIP动态路由实验...
  4. id、构造方法、Category 分类、类的本质、description方法、SEL
  5. python 魔法方法常用_Python魔法方法指南
  6. lucene的数据类型
  7. java查看weblogic服务器_java判断服务器是那种,例如区分tomcat和weblogic | 学步园
  8. AMD推出7nm高端显卡Radeon VII,直指英伟达RTX 2080
  9. 武器级工具包 Immunity Canvas 7.26 泄露(个人百度网盘)
  10. 2022超级好看动态视频官网HTML源码
  11. 华为手机usb连接计算机,华为手机USB为什么连接不上电脑(3个方法彻底解决)...
  12. 网络诈骗有哪些防范措施
  13. CVPR2014 tracking
  14. 学神乔明达和他堪称神迹的学习履历
  15. 项目1:基于Java API文档制作的搜索引擎
  16. Docker 制作带有中文字体的镜像
  17. 树莓派安装smbus_如何配置树莓派并安装有用的库
  18. 未来人工智能技术的应用领域有哪些?
  19. python如何求阶乘_python如何求阶乘
  20. Pycharm安装另外版本的python

热门文章

  1. activity 点击后传递数据给fragment_Fragment 的过去、现在和将来
  2. 7-1 最大子列和问题 (20 分)
  3. C语言程序练习-L1-032 Left-pad (20分)
  4. 算法设计棋盘覆盖问题c语言,棋盘覆盖问题(用分治法求解)
  5. Oracle数据库备份报错12514,Oracle数据库备份导出时,出错:ORA-12514
  6. python处理字符串效率_Python字符串搜索效率
  7. polymer 绑定html元素,使用Polymer扩展本机HTML元素
  8. 示波器测ab相_独有功能,剑走偏锋,示波器鲜为人知的10大特异功能|测试能力篇...
  9. maven选包算法(两个相同的包)
  10. 转帖Jmeter中的几个重要测试指标释义