Kafka系列之:深入理解Kafka 主题、分区、副本、LEO、ISR、HW、Kafka的主写主读和分区leader选举
Kafka系列之:深入理解Kafka 主题、分区、副本、LEO、ISR、HW、Kafka的主写主读和分区leader选举
- 一、Kafka重要知识点提炼
- 二、详细介绍Kafka 主题、分区、副本、LEO、ISR和HW
- 三、失效副本
- 四、ISR的伸缩
- 五、详细介绍LEO和HW的工作原理
- 六、检查点文件
- 七、分区leader的选举
- 八、Kafka主写主读的优点
一、Kafka重要知识点提炼
- 副本指的是分布式系统对数据和服务提供的一种冗余方式。
- 数据副本是指在不同的节点上持久化同一份数据,当某一个节点上存储的数据丢失时,可以从副本上读取该数据,这是解决分布式系统数据丢失问题最有效的手段。
- 服务副本上指多个节点提供同样的服务,每个节点都有能力接收来自外部的请求并进行相应的处理。
介绍与副本相关的AR、ISR、HW和LEO的概念:
- 副本是相对分区而言的,即副本是特定分区的副本
- 一个分区位于不同的broker节点中,只有leader副本对外提供服务,follower副本只负责数据同步。
- 分区中的所有副本统称为AR,而ISR是指与leader副本保持同步状态的副本集合,当然leader副本本身也是这个集合中的一
Kafka系列之:深入理解Kafka 主题、分区、副本、LEO、ISR、HW、Kafka的主写主读和分区leader选举相关推荐
- kafka数据 落盘_Kafka数据可靠性保证三板斧-ACK/ISR/HW
点击上方蓝色字体,选择"设为星标" 回复"资源"获取更多资源 点击右侧关注,大数据开发领域最强公众号! 点击右侧关注,暴走大数据! 为保证producer发送的 ...
- Kafka之分区副本与ISR
概念 什么是副本 Kafka的Topic分区本质是一个用于存储Topic下的消息的日志,但是只存一份日志会因为机器损坏或其他原因导致消息丢失不可恢复, 因此需要多个相同的日志作为备份,提高系统可用性, ...
- 副本与ISR设计--Kafka从入门到精通(十四)
上篇文章说了,broker的消息设计,采用紧凑的byteBuffer,存储设计主要包含attribute后三个表示压缩类型,还有crc效验,以及key和value,后面新增了时间戳. Broker消息 ...
- kafka分区副本机制
Kafka为分区引入了多副本(Replica)机制,通过增加副本数量可以提升容灾能力.同一分区的不同副本中保存的是相同消息(在同一时刻,副本之前并非完全一样),副本之间是"一主多从" ...
- kafka:topic为什么要进行分区?副本机制是如何做的?
kafka为什么要在topic里加入分区的概念?如果没有分区,topic中的segment消息写满后,直接给订阅者不是也可以吗? Kafka可以将主题划分为多个分区(Partition),会根据分区规 ...
- Kafka分区副本重分配源码分析
Kafka分区副本重分配 文章目录 Kafka分区副本重分配 1.前言 2.分区副本重分配流程图 3.分区副本重分配详细分析 3.1 客户端行为 3.1.1 执行副本重分配脚本 3.1.2 解析并验证 ...
- Kafka分区副本分配规则
Kafka分区副本分配规则 文章目录 Kafka分区副本分配规则 1.前言 2.自动分配 a. 无机架方式分配 b. 有机架方式分配 (1)机架介绍 (2)有机架方式分配的目的 (3)分配规则 c. ...
- Kafka数据高可靠ACK/ISR/HW你都会了吗?
为保证producer发送的数据,能可靠的发送到指定的topic,topic的每个partition收到producer发送的数据后,都需要向producer发送ack(acknowledgement ...
- Kafka系列4-基本概念及消费者组(Consumer Group)的理解
几个基本概念: Kafka是一个分布式流数据系统,使用Zookeeper进行集群的管理.与其他消息系统类似,整个系统由生产者.Broker Server和消费者三部分组成,生产者和消费者由开发人员编写 ...
最新文章
- 分享一个电视节目API接口PHP调用代码
- Exception in thread http-bio-80exec-1 java.lang.OutOfMemoryError: PermGen s解决方案
- java io系列10之 FilterInputStream
- pom.xml配置文件中所有标签及作用简单描述
- 热门的模型跨界,Transformer、GPT做CV任务一文大盘点
- 操作系统中的进程与线程和java中的线程
- 《实战突击.php项目开发案例整合》.(明日科技).[PDF]ckook
- 批量提取文件创建时间_批量采集新浪微博用户内容
- 与时间相关的java源码_Java 基于当前时间获取和计算时间
- 容器编排技术 -- Kubernetes 联邦 Deployment
- linux强制移除pdf密码,分享|如何在 Linux 中从一个 PDF 文件中移除密码
- java菜单如何点解_解读java菜单
- php5配置与IIS中isapi筛选器不能加载PHP的解决办法
- 使用cookie,点击关闭一天后显示的弹窗
- 通过JavaScript脚本实现60秒倒计时
- python 性能问题_Python 性能问题一直饱受诟病,这篇我们讨论下提升 Python 应用性能的常见方法。...
- linux 连接打印机
- 网站建设:网站安全检测工具
- LA4670 Dominating Patterns(AC自动机)
- 高级中学计算机配置标准,江苏省高级中学艺术装备标准