Kafka 某个节点挂掉,导致整个服务异常,为了保证服务容灾,可对下面几个参数进行调整

unclean.leader.election.enable=true
min.insync.replicas=1
offsets.topic.replication.factor=3

这三个配置什么意思呢? 依次来看一下:

  • unclean.leader.election.enable

官方描述:
Indicates whether to enable replicas not in the ISR set to be selected as leader as a last resort, even though doing so may result in data loss。

解释:该字段默认值为False。默认情况下leader不能从非ISR的副本列表里选择;因为在非ISR副本列表里选择leader,很有可能会导致部分数据丢失。既然这样,那为什么还要打开这个字段呢?因为在很异常情况下,比如ISR内的副本都不可用了,此时如果该字段设置为False,服务会直接挂掉;如果该字段设为True,即允许从非ISR列表中选择leader,那么服务尽管有可能丢失数据,却依然可以继续使用。所以这个参数必须参考业务特性来决定是否打开。

  • min.insync.replicas

官方描述:
When a producer sets acks to "all" (or "-1"), min.insync.replicas specifies the minimum number of replicas that must acknowledge a write for the write to be considered successful。

解释:该字段默认值为1。上述英文翻译为:表示当在acks=-1时,最少有一个Replica进行确认回执,才确认数据写入成功。这个参数在集群搭建时,为了保证数据的完整性,经常会被改为2。这里改为1的原因是:在只有一个副本在工作 、其他都挂掉的极端情况下,保证客户端能够正常提供服务。如果设置为2,当只有一个副本在工作的时候,就会出现生产端一直生产失败的情况,会影响业务。

  • offsets.topic.replication.factor

官网描述:
The replication factor for the offsets topic (set higher to ensure availability). Internal topic creation will fail until the cluster size meets this replication factor requirement.

解释:该值默认为1。表示kafka的内部topic consumer_offsets副本数。当该副本所在的broker宕机,consumer_offsets只有一份副本,该分区宕机。使用该分区存储消费分组offset位置的消费者均会收到影响,offset无法提交,从而导致生产者可以发送消息但消费者不可用。所以需要设置该字段的值大于1。

查阅相关资料:

https://blog.csdn.net/u013256816/article/details/80790185

腾讯云中间件 公众号

Kafka 优化参数 unclean.leader.election.enable相关推荐

  1. Kafka中的配置项参数unclean.leader.election.enable

    Kafka 某个节点挂掉,导致整个服务异常,为了保证服务容灾,可对unclean.leader.election.enable参数进行调整,该字段的官方解释为: Indicates whether t ...

  2. Kafka参数图鉴——unclean.leader.election.enable

    欢迎支持笔者新作:<深入理解Kafka:核心设计与实践原理>和<RabbitMQ实战指南>,同时欢迎关注笔者的微信公众号:朱小厮的博客. 欢迎跳转到本文的原文链接:https: ...

  3. Kafka Leader Election

    Zookeeper 节点类型 节点有两个维度,一个是永久的还是临时的,另一个是否有序.组合成的四种类型如下: 1:PERSISTENT                                / ...

  4. MIT 6.824 Lab2A (raft) -- Leader Election

    文章目录 实验要求 Leader Election流程 及详细实现介绍 基本角色 关键超时变量 关键的两个RPC实现 RequestVote RPC AppendEntries RPC Go并发编程实 ...

  5. Apache Kafka: 优化部署的10个最佳实践

    原文作者:Ben Bromhead      译者:江玮 原文地址:https://www.infoq.com/articles/apache-kafka-best-practices-to-opti ...

  6. Kafka关键参数设置

    生产环境中使用Kafka,参数调优非常重要,而Kafka参数众多,我们的java的Configuration代码中,经常设置的参数如下: Properties props = new Properti ...

  7. Kafka(三)-- Kafka主要参数

    原文地址:http://debugo.com/kafka-params/ 1 ############################# System ######################## ...

  8. mysql属性配置提高查询_MYSQL性能优化-安装时优化参数配置提高服务性能

    MYSQL性能优化一直是个头痛的问题,目前大多都是直接把页面html静态页面或直接使用了缓存技术,下面我就mysql本身的性能优化来分享一下. 安装时优化参数配置提高服务性能 在Linux下安装Mys ...

  9. R语言使用caret包对GBM模型自定义参数调优:自定义优化参数网格、可视化核心参数与评估指标关系、Accuracy与树的深度、个数的关系、Kappa与树的深度、个数的关系

    R语言使用caret包对GBM模型自定义参数调优:自定义优化参数网格.可视化核心参数与评估指标关系.Accuracy与树的深度.个数的关系.Kappa与树的深度.个数的关系 目录 R语言使用caret ...

最新文章

  1. RabbitMQ消息超时时间、队列消息超时时间、队列超时时间
  2. ubuntu 下root用户无法访问声音设备的解决方案
  3. X86-64寄存器和栈帧--牛掰降解汇编函数寄存器相关操作
  4. 在学习Python中,这个知识我们一定要看一遍,记不住没关系单一定要知道,字符串常用函数用法
  5. 微信小程序_基础组件学习02
  6. NO--15 微信小程序,scroll-view选项卡和跳转
  7. C++接口工程实践:有哪些实现方法?
  8. angular做语言切换_angular多语言配置详解
  9. flutter怎么添加ios网络权限_视频号直播间怎么添加购物车商品;超详细流程步骤。丨国仁网络资讯...
  10. 深度学习的实用层面 —— 1.6 Dropout正则化
  11. 浅谈Java设计模式
  12. WinXP——如何重装XP系统
  13. Java之品优购部署_day01(10)
  14. 《流畅的Python》读书笔记——Python一等函数
  15. 如何使用Ghost备份与还原操作系统
  16. ADI官方提供的源码AD9361+ZC706 利用TCL构建Vivado工程,利用no-OS-master搭建SDK工程
  17. 二阶系统响应指标图_二阶系统单位阶跃响应.ppt
  18. Laravel文档梳理1、安装与初步配置
  19. SCI收录中国期刊国家一级期刊名录一览表
  20. 手机sim卡插到电脑上网_笔记本电脑怎么装手机sim卡上网

热门文章

  1. idea代码可以编译但是爆红_推荐一款 IDEA 生成代码神器,写代码再也不用加班了...
  2. python怎么写入到文件中_Python学习笔记之将数据写入到文件中
  3. cad与连接mySQL数据库_跨服务器操作数据库?其实很简单!(下)
  4. 透明大页相关内核参数_透明大内存页Hugepage支持
  5. msp430中如何连续对位进行取反_四元数数控:如何保养视觉对位平台?
  6. code blocks c语言,Code Blocks安装与使用图文教程(使用Code::Blocks编写C语言程序)...
  7. linux关机_Linux中shutdown,halt,poweroff,init 0区别
  8. cnn生成图像显著图_基于CNN与图像前背景分离的显著目标检测
  9. python实现目标识别_Python10行代码实现目标检测
  10. exfat最佳单元大小_双动圈四喇叭单元的头戴式耳机,DACOM HF002上手体验