前传(1):Kafka 的前生今世
不错的文章,转发下
Kafka只是消息引擎系统吗?
要搞清楚这个问题,我们不可避免地要了解一下 Apache Kafka 的发展历程。有的时候我们会觉得说了解一个系统或框架的前世今生似乎没什么必要,直接开始学具体的技术不是更快更好吗?
其实,不论是学习哪种技术,直接扎到具体的细节中,亦或是从一个很小的点开始学习,你很快就会感到厌烦。为什么呢?因为你虽然快速地搞定了某个技术细节,但无法建立全局的认知观,这会导致你只是在单个的点上有所进展,却没法将其串联成一条线进而扩展成一个面,从而实现系统地学习。
我这么说是有依据的,因为这就是我当初学习 Kafka 的方式。你可能不会相信,我阅读Kafka 源码就是从 utils 包开始的。显然,我们不用看源码也知道这玩意是干什么用的,对吧?就是个工具类包嘛,而且这种阅读源码的方式是极其低效的。就像我说的,我是在一个点一个点地学习,但全部学完之后压根没有任何感觉,依然不了解 Kafka,因为不知道这些包中的代码组合在一起能达成什么效果。所以我说它是很低效的学习方法。后来我修改了学习的方法,转而从自上而下的角度去理解 Kafka,竟然发现了很多之前学习过程中忽略掉的东西。更特别地是,我发现这种学习方法能够帮助我维持较长时间的学习兴趣,不会阶段性地产生厌烦情绪。特别是在了解 Apache Kafka 整个发展历史的过程中我愉快地学到了很多运营大型开源软件社区的知识和经验,可谓是技术之外的一大收获.
纵观 Kafka 的发展脉络,它的确是从消息引擎起家的,但正如文章标题所问,Apache Kafka 真的只是消息引擎吗?
通常,在回答这个问题之前很多文章可能就要这样展开了:
那我们先来讨论下什么是消息引擎以及消息引擎能做什么事情。算了,我还是直给吧,就不从“唐尧虞舜”说起了。
这个问题的答案是,Apache Kafka 是消息引擎系统,也是一个分布式流处理平台(Distributed Streaming Platform)
。如果你通读全篇文字但只能记住一句话,我希望你记住的就是这句。再强调一遍,Kafka 是消息引擎系统,也是分布式流处理平台。
众所周知,Kafka 是 LinkedIn 公司内部孵化的项目。根据我和 Kafka 创始团队成员的交流以及查阅到的公开信息显示,LinkedIn 最开始有强烈的数据强实时处理方面的需求,其内部的诸多子系统要执行多种类型的数据处理与分析,主要包括业务系统和应用程序性能监控,以及用户行为数据处理等。
当时他们碰到的主要问题包括:
- 数据正确性不足。因为数据的收集主要采用轮询(Polling)的方式,如何确定轮询的间隔时间就变成了一个高度经验化的事情。虽然可以采用一些类似于启发式算法(Heuristic)来帮助评估间隔时间值,但一旦指定不当,必然会造成较大的数据偏差。
- 系统高度定制化,维护成本高。各个业务子系统都需要对接数据收集模块,引入了大量的定制开销和人工成本。
为了解决这些问题,LinkedIn 工程师尝试过使用 ActiveMQ 来解决这些问题,但效果并不理想。显然需要有一个“大一统”的系统来取代现有的工作方式,而这个系统就是 Kafka。Kafka 自诞生伊始是以消息引擎系统的面目出现在大众视野中的。如果翻看 0.10.0.0 之前的官网说明,你会发现 Kafka 社区将其清晰地定位为一个分布式、分区化且带备份功能的提交日志(Commit Log)服务
。
这里引出一个题外话,你可能好奇 Kafka 这个名字的由来,实际上 Kafka 作者之一 JayKreps 曾经谈及过命名的原因。
因为 Kafka 系统的写性能很强,所以找了个作家的名字来命名似乎是一个好主意。大学期间我上了很多文学课,非常喜欢 Franz Kafka 这个作家,另外为开源软件起这个名字听上去很酷。
言归正传,Kafka 在设计之初就旨在提供三个方面的特性:
- 提供一套 API 实现生产者和消费者;
- 降低网络传输和磁盘存储开销;
- 实现高伸缩性架构。
我们将陆续探讨 Kafka 是如何做到以上三点的。总之随着 Kafka 的不断完善,Jay 等大神们终于意识到将其开源惠及更多的人是一个非常棒的主意,因此在2011 年 Kafka 正式进入到 Apache 基金会孵化并于次年 10 月顺利毕业成为 Apache 顶级项目。
开源之后的 Kafka 被越来越多的公司应用到它们企业内部的数据管道中,特别是在大数据工程领域,Kafka 在承接上下游、串联数据流管道方面发挥了重要的作用:所有的数据几乎都要从一个系统流入 Kafka 然后再流向下游的另一个系统中。这样的使用方式屡见不鲜以至于引发了 Kafka 社区的思考:
与其我把数据从一个系统传递到下一个系统中做处理,我为何不自己实现一套流处理框架呢?
基于这个考量,Kafka 社区于 0.10.0.0 版本正式推出了流处理组件 Kafka Streams,也正是从这个版本开始,Kafka 正式“变身”为分布式的流处理平台,而不仅仅是消息引擎系统了。今天 Apache Kafka 是和 Apache Storm、 Apache Spark 和 Apache Flink 同等级的实时流处理平台
。
诚然,目前国内对 Kafka 是流处理平台的认知还尚不普及,其核心的流处理组件 Kafka Streams 更是少有大厂在使用。但我们也欣喜地看到,随着在 Kafka 峰会上各路大神们的鼎力宣传,如今利用 Kafka 构建流处理平台的案例层出不穷,而了解并有意愿使用 Kafka Streams 的厂商也是越来越多,因此我个人对于 Kafka 流处理平台的前景也是非常乐观的。
你可能会有这样的疑问:作为流处理平台,Kafka 与其他主流大数据流式计算框架相比,优势在哪里呢?我能想到的有两点。
第一点是更容易实现端到端的正确性(Correctness)。Google 大神 Tyler 曾经说过,流处理要最终替代它的“兄弟”批处理需要具备两点核心优势:要实现正确性和提供能够推导时间的工具。实现正确性是流处理能够匹敌批处理的基石。正确性一直是批处理的强项,而实现正确性的基石则是要求框架能提供精确一次处理语义,即处理一条消息有且只有一次机会能够影响系统状态。目前主流的大数据流处理框架都宣称实现了精确一次处理语义,但这是有限定条件的,即它们只能实现框架内的精确一次处理语义,无法实现端到端的。这是为什么呢?因为当这些框架与外部消息引擎系统结合使用时,它们无法影响到外部系统的处理语义,所以如果你搭建了一套环境使得 Spark 或 Flink 从 Kafka 读取消息之后进行有状态的数据计算,最后再写回 Kafka,那么你只能保证在 Spark 或 Flink 内部,这条消
息对于状态的影响只有一次。但是计算结果有可能多次写入到 Kafka,因为它们不能控制 Kafka 的语义处理。相反地,Kafka 则不是这样,因为所有的数据流转和计算都在 Kafka 内部完成,故 Kafka 可以实现端到端的精确一次处理语义。
可能助力 Kafka 胜出的第二点是它自己对于流式计算的定位。官网上明确标识 Kafka Streams 是一个用于搭建实时流处理的客户端库而非是一个完整的功能系统。这就是说,你不能期望着 Kafka 提供类似于集群调度、弹性部署等开箱即用的运维特性,你需要自己选择适合的工具或系统来帮助 Kafka 流处理应用实现这些功能。读到这你可能会说这怎么算是优点呢?坦率来说,这的确是一个“双刃剑”的设计,也是Kafka 社区“剑走偏锋”不正面 PK 其他流计算框架的特意考量。大型公司的流处理平台一定是大规模部署的,因此具备集群调度功能以及灵活的部署方案是不可或缺的要素。但毕竟这世界上还存在着很多中小企业,它们的流处理数据量并不巨大,逻辑也并不复杂,部署几台或十几台机器足以应付。在这样的需求之下,搭建重量级的完整性平台实在是“杀鸡焉用牛刀”,而这正是 Kafka 流处理组件的用武之地。因此从这个角度来说,未来在流处理框架中,Kafka 应该是有一席之地的。除了消息引擎和流处理平台,Kafka 还有别的用途吗?当然有!你能想象吗,Kafka 能够被用作分布式存储系统。Kafka 作者之一 Jay Kreps 曾经专门写过一篇文章阐述为什么能把 Kafka 用作分布式存储。不过我觉得你姑且了解下就好了,我从没有见过在实际生产环境中,有人把 Kafka 当作持久化存储来用 。
说了这么多,我只想阐述这样的一个观点:Apache Kafka 从一个优秀的消息引擎系统起家,逐渐演变成现在分布式的流处理平台
。你不仅要熟练掌握它作为消息引擎系统的非凡特性及使用技巧,最好还要多了解下其流处理组件的设计与案例应用。
前传(1):Kafka 的前生今世相关推荐
- Java游戏西游前传,《西游前传》西游记之前发生的故事
西游记,是吴承恩倾尽毕生心血创作的一部作品,其故事精彩跌宕起伏,文笔优美,诙谐.位列四大名著之一. 稍加留意,会发现,其实,西游记之前发生的故事也很精彩,如来佛怎么来的,牛魔王怎么娶的铁扇公主,白骨精 ...
- 5G 承载网 — 前传、中传、回传
目录 文章目录 目录 前传(AAU <=> DU) 中传(DU <=> CU)和回传(CU <=> 5GC) 5G 承载协议架构图 承载基础协议 新技术特性 5G ...
- 高并发网站架构与正态分布的前生今世
高并发网站架构 什么是服务器? 不就是提供"付费"."免费"服务的高档电脑嘛! 你提到服务? 存储一个图片,读取一篇文字,观看一个动作片,计算一个账户存款,- ...
- java的前生今世_HBaseGC的前生今世-身世篇
网易视频云是网易倾力打造的一款基于云计算的分布式多媒体处理集群和专业音视频技术,提供稳定流畅.低时延.高并发的视频直播.录制.存储.转码及点播等音视频的PAAS服务,在线教育.远程医疗.娱乐秀 网易视 ...
- nio java是什么_Java NIO 的前生今世 之一 简介
简介 Java NIO 是由 Java 1.4 引进的异步 IO. Java NIO 由以下几个核心部分组成: Channel Buffer Selector NIO 和 IO 的对比 IO 和 NI ...
- DevOps Master课程总结:知否知否,应是DevOps肥ITIL瘦(送ITIL4前生今世)
作者:北京老李:DevOps布道师.IT管理咨询师.EXIN授权EXIN DevOps Master(大师级)讲师(首批全国十名).首批ITIL Expert讲师.EXIN授权EXIN Agile / ...
- 立委科普:问答系统的前生今世
立委科普:问答系统的前生今世 以下全文转载自李维老师的博文:立委科普:问答系统的前生今世. 上周信笔涂鸦写了个不伦不类的科普([立委科普:从产业角度说说NLP这个行当]),写完自我感觉尚可,于是毛遂自 ...
- 国产手风琴的前生今世
国产手风琴的前生今世 国产手风琴品牌的前世今生 "鹦鹉"商标纠纷案 上海百乐和天津鹦鹉的恩怨情仇 国产手风琴的境遇 前些日子朋友建议我学习手风琴,网上查了一下资料,了解了一些国产手 ...
- Win Server 08 R2前生今世
在刚刚结束的微软TechEd 2009大会上,微软面向企业级市场推出了七种武器:Windows 7.Windows Server 2008 R2.Exchange Server 2010.Forefr ...
最新文章
- spring bean 基于xml的4中初始化方法
- 笔记:git常用操作,git使用,git命令行
- kafka消息存储格式
- base64是啥原理
- pivot sqlserver 条件_SqlServer行转列(PIVOT),列转行(UNPIVOT)总结
- (9)Redis-Cluster集群理论及实践【下】
- PubMed插件神器之PubMedy和Scholarscope(末尾附赠Google截屏神器)
- 傲腾内存不支持linux吗,内存英特尔® 傲腾™常见问题
- cAdvisor,prometheus
- 技术面试(一)认识技术面试
- Windows 系统debug级 进程调试工具 ntsd 详解
- 读后感—肿瘤基因检测行业会好吗
- kali 将系统文件夹名称设置为英文
- 【实习日记】Linux-VM15-Ubuntu18.04 + 运行selenium实现文件下载
- Mac OS 10.15 修改登录壁纸
- 概率算法-均匀分布产生正态分布
- x264源码解析:码率控制之能量函数
- PDF文件制作方法与指南
- 万卷书 - 欧洲的门户[The Gates of Europe]
- 记录一次抢票成功的经历。
热门文章
- DirectX11:着色器
- ps4变更账号服务器,ps4怎么变更账户邮箱-ps4更改账户邮箱的方法
- 一份最全的excel下拉列表攻略
- 前后期绑定Excel/Word对象的应用
- 不要迷恋我,虽然我利用Python来耍植物大战僵尸
- python 采用to_csv保存数据不覆盖原有数据到文件中
- 技术实力雄厚的新公链Aergo带你看应用落地
- 《大象--Thinking in UML 第二版》已于近日在当当首发,同时邀请各位加入新浪微博[大象-thinkinginUml群]:http://q.weibo.com/1483929
- java 计算机概述看这一篇文章就够了
- 如何安装 Ubuntu 22.04 LTS 桌面版 ?