Kafka 过期数据清理详解

Kafka 将数据持久化到了硬盘上，允许你配置一定的策略对数据清理，清理的策略有两个，删除和压缩。

1> 删除 :

# 启用删除策略
log.cleanup.policy=delete

直接删除，删除后的消息不可恢复。可配置以下两个策略 :

# 清理超过指定时间清理
log.retention.hours=16
# 超过指定大小后，删除旧的消息
log.retention.bytes=1073741824

为了避免在删除时阻塞读操作，采用 copy-on-write 形式的实现，删除操作进行时，读取操作的二分查找功能实际是在一个静态的快照副本上进行的，这类似于Java的CopyOnWriteArrayList。

2> 压缩 :
将数据压缩，只保留每个key最后一个版本的数据。
首先在 broker 的配置中设置 log.cleaner.enable=true 启用cleaner，这个默认是关闭的。
在 topic 的配置中设置 log.cleanup.policy=compact 启用压缩策略。

压缩策略的细节 :

如上图，在整个数据流中，每个Key都有可能出现多次，压缩时将根据Key将消息聚合，只保留最后一次出现时的数据。这样，无论什么时候消费消息，都能拿到每个Key的最新版本的数据。
压缩后的offset可能是不连续的，比如上图中没有5和7，因为这些offset的消息被merge了，当从这些offset消费消息时，将会拿到比这个offset大的offset对应的消息，比如，当试图获取offset为5的消息时，实际上会拿到offset为6的消息，并从这个位置开始消费。
这种策略只适合特俗场景，比如消息的key是用户ID，消息体是用户的资料，通过这种压缩策略，整个消息集里就保存了所有用户最新的资料。
压缩策略支持删除，当某个Key的最新版本的消息没有内容时，这个Key将被删除，这也符合以上逻辑。

Kafka 过期数据清理详解相关推荐

kafka安装部署详解
kafka安装部署详解 1. zookeeper安装部署 1.1 zookeeper下载 1.2 zookeeper配置启动 1.3 zookeeper验证 2. kafka安装部署 2.1 kafk ...
Kafka事务特性详解
Kafka在0.11版本中除了引入了Exactly Once语义,还引入了事务特性.Kafka事务特性是指一系列的生产者生产消息和消费者提交偏移量的操作在一个事务中,或者说是一个原子操作,生产消息和提 ...
kafka 同步提交异步_详解Kafka设计架构核心——Kafka副本机制详解
所谓的副本机制(Replication),也可以称之为备份机制,通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝.副本机制有什么好处呢? 1. 提供数据冗余.即使系统部分组件失效,系统依然 ...
Kafka参数brokerid详解
原 Kafka参数broker.id详解https://blog.csdn.net/u013256816/article/details/80546337版权声明:本文为博主原创文章,未经博主朱小厮允 ...
Kafka数据存储详解
1.存储格式概述每一个partion(文件夹)相当于一个巨型文件被平均分配到多个大小相等segment(段)数据文件里.但每一个段segment file消息数量不一定相等,这样的特性方便old s ...
流式计算新贵Kafka Stream设计详解--转
原文地址:https://mp.weixin.qq.com/s?__biz=MzA5NzkxMzg1Nw==&mid=2653162822&idx=1&sn=8c4611436 ...
Flume与Kafka整合案例详解
环境配置名称版本下载地址 Centos 7.0 64x 百度 Zookeeper 3.4.5 Flume 1.6.0 Kafka 2.1.0 flume笔记直接贴配置文件 [roo ...
kafka分区机制详解
本文来说下SpringBoot整合kafka之kafka分区实战文章目录 kafka分区机制分区个数选择分区写入策略轮询策略随机策略按键保存策略本文小结 kafka分区机制分区机制是k ...
kafka sink mysql,kafka之七 sinkTask详解
使用kafka connector 功能实现一个数据从kafka到MySQL的sinkTask 一:实现JdbcSinkConnector类 public class JdbcSinkConnecto ...
Kafka offset 偏移量详解
1 背景 Kafka是Consumer去拉Broker 中的数据,但是数据从何处开始拉是一个技术问题为了解决这个问题场景,所以Kafka推出了偏移量的概念 2 offset 偏移量是什么 2.1 基 ...

Kafka 过期数据清理详解

Kafka 过期数据清理详解相关推荐

最新文章

热门文章

Kafka 过期数据清理 详解

Kafka 过期数据清理 详解相关推荐

最新文章

热门文章

Kafka 过期数据清理详解

Kafka 过期数据清理详解相关推荐