Flink 靠什么征服饿了么工程师？
阿里妹导读：本文将为大家展示饿了么大数据平台在实时计算方面所做的工作，以及计算引擎的演变之路，你可以借此了解Strom、Spark、Flink的优缺点。如何选择一个合适的实时计算引擎？Flink凭借何种优势成为饿了么首选？本文将带你一一解开谜题。
本文作者：易伟平
整理：姬平&郑宁
平台现状
下面是目前饿了么平台现状架构图：
来源于多个数据源的数据写到kafka里，计算引擎主要是Storm,Spark和Flink，计算引擎出来的结果数据再落地到各种存储上。
目前Storm任务大概有100多个，Spark任务有50个左右，Flink暂时还比较少。
目前我们集群规模每天数据量有60TB，计算次数有1000000000，节点有400个。这里要提一下，Spark和Flink都是on yarn的，其中Flink onyarn主要是用作任务间jobmanager隔离， Storm是standalone模式。
应用场景
1.一致性语义
在讲述我们应用场景之前，先强调实时计算一个重要概念， 一致性语义：
1) at-most-once：即fire and forget，我们通常写一个java的应用，不去考虑源头的offset管理，也不去考虑下游的幂等性的话，就是简单的at-most-once，数据来了，不管中间状态怎样，写数据的状态怎样，也没有ack机制。
2) at-least-once： 重发机制，重发数据保证每条数据至少处理一次。
3) exactly-once： 使用粗Checkpoint粒度控制来实现exactly-once，我们讲的exactly-once大多数指计算引擎内的exactly-once，即每一步的operator内部的状态是否可以重放；上一次的job如果挂了，能否从上一次的状态顺利恢复，没有涉及到输出到sink的幂等性概念。
4) at-least-one + idempotent = exactly-one：如果我们能保证说下游有幂等性的操作，比如基于mysql实现 update on duplicate key；或者你用es, cassandra之类的话，可以通过主键key去实现upset的语义, 保证at-least-once的同时，再加上幂等性就是exactly-once。
2. Storm
饿了么早期都是使用Storm，16年之前还是Storm，17年才开始有Sparkstreaming， Structed-streaming。Storm用的比较早，主要有下面几个概念：
1) 数据是tuple-based
2) 毫秒级延迟
3) 主要支持java， 现在利用apache beam也支持python和go。
4) Sql的功能还不完备，我们自己内部封装了typhon，用户只需要扩展我们的一些接口，就可以使用很多主要的功能；flux是Storm的一个比较好的工具，只需要写一个yaml文件，就可以描述一个Storm任务，某种程度上说满足了一些需求，但还是要求用户是会写java的工程师，数据分析师就使用不了。
★ 2.1 总结
1) 易用性：因为使用门槛高，从而限制了它的推广。
2)StateBackend：更多的需要外部存储，比如redis之类的kv存储。
3) 资源分配方面：用worker和slot提前设定的方式，另外由于优化点做的较少，引擎吞吐量相对比较低一点。
3. Sparkstreaming
有一天有个业务方过来提需求说 我们能不能写个sql，几分钟内就可以发布一个实时计算任务。 于是我们开始做Sparkstreaming。它的主要概念如下：
1) Micro-batch：需要提前设定一个窗口，然后在窗口内处理数据。
2) 延迟是秒级级别，比较好的情况是500ms左右。
3) 开发语言是java和scala。
4)streaming SQL，主要是我们的工作，我们希望提供streaming SQL的平台。
特点：
1) Spark生态和SparkSQL: 这是Spark比较好的地方，技术栈是统一的，SQL，图计算，machine learning的包都是可以互调的。因为它先做的是批处理，和Flink不一样，所以它天然的实时和离线的api是统一的。
2) Checkpointon hdfs。
3) onyarn：Spark是属于hadoop生态体系，和yarn集成度高。
4) 高吞吐： 因为它是Micro-batch的方式，吞吐也是比较高的。
下面给大家大致展示一下我们平台用户快速发布一个实时任务的操作页面，它需要哪些步骤。我们这里不是写DDL和DML语句，而是ui展示页面的方式。
页面里面会让用户选一些必要的参数， 首先会选哪一个kafka集群，每个分区消费多少，反压也是默认开启的。消费位置需要让用户每次去指定，有可能用户下一次重写实时任务的时候，可以根据业务需求去选择offset消费点。
中间就是让用户描述pipeline。 SQL就是kafka的多个topic，输出选择一个输出表，SQL把上面消费的kafka DStream注册成表，然后写一串pipeline，最后我们帮用户封装了一些对外sink(刚刚提到的各种存储都支持，如果存储能实现upsert语义的话，我们都是支持了的)。
★ 3.1 MultiStream-Join
虽然刚刚满足一般无状态批次内的计算要求，但就有用户想说， 我想做流的join怎么办， 早期的Spark1.5可以参考Spark-streamingsql这个开源项目把 DStream注册为一个表，然后对这个表做join的操作，但这只支持1.5之前的版本，Spark2.0推出structured streaming之后项目就废弃了。我们有一个tricky的方式：
让Sparkstreaming去消费多个topic，但是我根据一些条件把消费的DStream里面的每个批次RDD转化为DataFrame，这样就可以注册为一张表，根据特定的条件，切分为两张表，就可以简单的做个join，这个join的问题完全依赖于本次消费的数据，它们join的条件是不可控的，是比较tricky的方式。比如说下面这个例子，消费两个topic，然后简单通过filer条件，拆成两个表，然后就可以做个两张表的join，但它本质是一个流。
★ 3.2 Exactly-once
exactly-once需要特别注意一个点：
我们必须要求数据sink到外部存储后，offset才能commit，不管是到zk，还是mysql里面，你最好保证它在一个transaction里面，而且必须在输出到外部存储（这里最好保证一个upsert语义，根据unique key来实现upset语义）之后，然后这边源头driver再根据存储的offeset去产生kafka RDD，executor再根据kafka每个分区的offset去消费数据。如果满足这些条件，就可以实现端到端的exactly-once. 这是一个大前提。
★ 3.3 总结
1) Stateful Processing SQL ( <2.x mapWithState、updateStateByKey)：我们要实现跨批次带状态的计算的话，在1.X版本，我们通过这两个接口去做，但还是需要把这个状态存到hdfs或者外部去，实现起来比较麻烦一点。
2) Real Multi-Stream Join：没办法实现真正的多个流join的语义。
3)End-To-End Exactly-Once Semantics：它的端到端的exactly-once语义实现起来比较麻烦，需要sink到外部存储后还需要手动的在事务里面提交offset。
4. STRUCTUREDSTREAMING
我们调研然后并去使用了Spark2.X之后带状态的增量计算。下面这个图是官方网站的：
所有的流计算都参照了Google的 data flow，里面有个重要的概念：数据的processing time和event time，即数据的处理时间和真正的发生时间有个gap。于是流计算领域还有个watermark，当前进来的事件水位需要watermark来维持，watermark可以指定时间delay的范围，在延迟窗口之外的数据是可以丢弃的，在业务上晚到的数据也是没有意义的。
下面是structuredstreaming的架构图：
这里面就是把刚才Sparkstreaming讲exactly-once的步骤1，2，3都实现了，它本质上还是分批的batch方式，offset自己维护，状态存储用的hdfs，对外的sink没有做类似的幂等操作，也没有写完之后再去commit offset，它只是再保证容错的同时去实现内部引擎的exactly-once。
★ 4.1 特点
1) Stateful Processing SQL&DSL：可以满足带状态的流计算
2) Real Multi-Stream Join：可以通过Spark2.3实现多个流的join，多个流的join做法和Flink类似，你需要先定义两个流的条件(主要是时间作为一个条件)，比如说有两个topic的流进来，然后你希望通过某一个具体的schema中某个字段（通常是event time）来限定需要buffer的数据，这样可以实现真正意义上的流的join。
3）比较容易实现端到端的exactly-once的语义，只需要扩展sink的接口支持幂等操作是可以实现exactly-once的。
特别说一下，Structuredstreaming和原生的streaming的api有一点区别，它create表的Dataframe的时候，是需要指定表的schema的，意味着你需要提前指定schema。另外它的watermark是不支持SQL的，于是我们加了一个扩展，实现完全写sql，可以从左边到右边的转换（下图），我们希望用户不止是程序员，也希望不会写程序的数据分析师等同学也能用到。
★ 4.2 总结
1) Trigger(Processing Time、 Continuous )：2.3之前主要基于processing Time，每个批次的数据处理完了立马触发下一批次的计算。2.3推出了record by record的持续处理的trigger。
2)Continuous Processing (Only Map-Like Operations)：目前它只支持map like的操作，同时sql的支持度也有些限制。
3) LowEnd-To-End Latency With Exactly-Once Guarantees：端到端的exactly-once的保证需要自己做一些额外的扩展， 我们发现kafka0.11版本提供了事务的功能，是可以从基于这方面考虑从而去实现从source到引擎再到sink，真正意义上的端到端的exactly-once。
4) CEP(Drools)：我们发现有业务方需要提供cep 这样复杂事件处理的功能，目前我们的语法无法直接支持，我们让用户使用规则引擎Drools，然后跑在每个executor上面，依靠规则引擎功能去实现cep。
于是基于以上几个Spark structuredstreaming的特点和缺点，我们考虑使用Flink来做这些事情。
5.Flink
Flink目标是对标Spark，流这块是领先比较多，它野心也比较大，图计算，机器学习等它都有，底层也是支持yarn，tez等。对于社区用的比较多的存储，Flink社区官方都支持比较好，相对来说。
Flink的框架图：
Flink中的JobManager，相当于Spark的driver角色，taskManger相当于executor，里面的task也有点类似Spark的那些task。 不过Flink用的rpc是akka，同时Flink core自定义了内存序列化框架，另外task无需像Spark每个stage的task必须相互等待而是处理完后即往下游发送数据。
Flink binary data处理operator：
Spark的序列化用户一般会使用kryo或者java默认的序列化，同时也有Tungsten项目对Spark程序做一jvm层面以及代码生成方面的优化。相对于Spark，Flink自己实现了基于内存的序列化框架，里面维护着key和pointer的概念，它的key是连续存储，在cpu层面会做一些优化，cache miss概率极低。比较和排序的时候不需要比较真正的数据，先通过这个key比较，只有当它相等的时候，才会从内存中把这个数据反序列化出来，再去对比具体的数据，这是个不错的性能优化点。
Flink task chain：
Task中operatorchain，是比较好的概念。如果上下游数据分布不需要重新shuffle的话，比如图中source是kafka source，后面跟的map只是一个简单的数据filter，我们把它放在一个线程里面，就可以减少线程上下文切换的代价。
并行度概念
比如说这里面会有5个task，就会有几个并发线程去跑，chain起来的话放在一个线程去跑就可以提升数据传输性能。Spark是黑盒的，每个operator无法设并发度，而Flink可以对每个operator设并发度，这样可以更灵活一点，作业运行起来对资源利用率也更高一点。
Spark 一般通过Spark.default.parallelism来调整并行度，有shuffle操作的话，并行度一般是通Spark.sql.shuffle.partitions参数来调整，实时计算的话其实应该调小一点，比如我们生产中和kafka的partition数调的差不多，batch在生产上会调得大一点，我们设为1000，左边的图我们设并发度为2，最大是10，这样首先分2个并发去跑，另外根据key做一个分组的概念，最大分为10组，就可以做到把数据尽量的打散。
State & Checkpoint
因为Flink的数据是一条条过来处理，所以Flink中的每条数据处理完了立马发给下游，而不像spark，需要等该operator所在的stage所有的task都完成了再往下发。
Flink有粗粒度的checkpoint机制，以非常小的代价为每个元素赋予一个snapshot概念，只有当属于本次snapshot的所有数据都进来后才会触发计算，计算完后，才把buffer数据往下发，目前Flink sql没有提供控制buffer timeout的接口，即我的数据要buffer多久才往下发。可以在构建Flink context时，指定buffer timeout为0，处理完的数据才会立马发下去，不需要等达到一定阈值后再往下发。
Backend默认是维护在jobmanager内存，我们更多使用的的是写到hdfs上，每个operator的状态写到rocksdb上，然后异步周期增量同步到外部存储。
容错
图中左半部分的红色节点发生了failover，如果是at-least-once，则其最上游把数据重发一次就好；但如果是exactly-once，则需要每个计算节点从上一次失败的时机重放。
Exactly Once Two-Phase Commit
Flink1.4之后有两阶段提交来支持exactly-once.它的概念是从上游kafka消费数据后，每一步都会发起一次投票，来记录状态，通过checkpoint的屏障来处理标记，只有最后再写到kafka(0.11之后的版本)，只有最后完成之后，才会把每一步的状态让jobmanager中的cordinator去通知可以固化下来，这样实现exactly-once。
Savepoints
还有一点Flink比较好的就是，基于它的checkpoint来实现savepoint功能。业务方需要每个应用恢复节点不一样，希望恢复到的版本也是可以指定的，这是比较好的。这个savepoint不只是数据的恢复，也有计算状态的恢复。
特点：
1) Trigger (Processing Time、 Event Time、IngestionTime)：对比下，Flink支持的流式语义更丰富，不仅支持Processing Time， 也支持Event time和Ingestion Time。
2）Continuous Processing & Window：支持纯意义上的持续处理，recordby record的，window也比Spark处理的好。
3) Low End-To-End Latency With Exactly-Once Guarantees：因为有两阶段提交，用户是可以选择在牺牲一定吞吐量的情况下，根据业务需求情况来调整来保证端到端的exactly-once。
4) CEP：支持得好。
5) Savepoints：可以根据业务的需求做一些版本控制。
也有做的还不好的：
1）SQL (Syntax Function、Parallelism)：SQL功能还不是很完备，大部分用户是从hive迁移过来，Spark支持hive覆盖率达到99%以上。 SQL函数不支持，目前还无法对单个operator做并行度的设置。
2) ML、Graph等：机器学习，图计算等其他领域比Spark要弱一点，但社区也在着力持续改进这个问题。
我们期待和你一起，把Flink建设得更好，帮助更多开发者。
大数据计算引擎，你pick哪个？
访问：http://cn.mikecrm.com/d0nUFOK?from=singlemessage&isappinstalled=0
参与问卷调研，约需15分钟，认真答题的小伙伴还有机会获得定制礼品。
每天一篇技术文章，
看不过瘾？
关注“阿里巴巴机器智能”微信公众号
发现更多AI干货。
Flink 靠什么征服饿了么工程师？相关推荐
- 8月13日云栖精选夜读 | 阿里云首次发布数字化转型方法论，推动各行各业数字化转型...
数字经济大潮来临 如何利用数字技术支持智能化转型? 曾经 阿里巴巴也经历过 数据信息孤立 资源浪费创新复用率低 传统IT架构无法满足高并发的互联网诉求 为了应对挑战,阿里巴巴也进行了诸多创新.其中就包 ...
- flink集成springboot案例_Flink从流处理到流批一体的19个最佳实践
近年来,随着实时化需求的场景日益增多,企业已不满足于简单使用流计算或批计算进行数据处理,采用一套引擎即可实现低延迟.高吞吐.高稳定的强大性能逐渐成为更多企业的追求.Apache Flink 作为领先的 ...
- Flink SQL 在字节跳动的优化与实践
简介:Flink 在字节的应用实战 整理 | Aven (Flink 社区志愿者) 摘要:本文由 Apache Flink Committer,字节跳动架构研发工程师李本超分享,以四个章节来介绍 Fl ...
- Flink 1.10 细粒度资源管理解析
相信不少读者在开发 Flink 应用时或多或少会遇到在内存调优方面的问题,比如在我们生产环境中遇到最多的 TaskManager 在容器化环境下占用超出容器限制的内存而被 YARN/Mesos kil ...
- 大数据“重磅炸弹”：实时计算框架 Flink
你是不是经常体验或看到以下这些场景? 小田,你看能不能做个监控大屏实时查看促销活动销售额(GMV)? 小朱,搞促销活动的时候能不能实时统计下网站的 PV/UV 啊? 小鹏,我们现在搞促销活动能不能实时 ...
- Flink实战之实时风控规则引擎
问题导读: 1.怎样构建一个风控业务架构? 2.风控规则模型有哪些? 3.怎样实现Flink CEP 动态更新? 一.项目背景 目前钱大妈基于云原生大数据组件(DataWorks.MaxCompute ...
- 钱大妈基于 Flink 的实时风控实践
摘要:本文作者彭明德,介绍了钱大妈与阿里云 Flink 实时计算团队共建实时风控规则引擎,精确识别羊毛党以防营销预算流失.主要内容包括: 项目背景 业务架构 未规则模型 难点攻坚 回顾展望 点击进入 ...
- 激进的中国技术选型，给世界技术的发展带来了什么？
作者 | Kevin Xu 译者 | 无明 中国科技公司是典型的早期采用者--不是因为赶时髦,而是确实有必要这么做."中国式规模"让中国的互联网经济成为了高质量软件(特别是基础设施 ...
- 作者面对面 | 95 后工程师 zhisheng 的 Flink 之路
Hi,先给大家做个简单的自我介绍吧 hello,大家好,我是 zhisheng.有的童鞋可能会好奇为啥是叫这个,其实就是我名字的拼音,没啥别的典故 ????.我毕业一年半了,现在在某家大型互联网公司工 ...
最新文章
- 同时打开两个excel工作窗口
- mybatis源码刨析总结
- 动态库与静态库优缺点比较（转 侵删）
- referer参数和addslashes()函数的骚路子
- 解决Fail to create the java Virtual Machine
- Android 利用缓存机制实现文件下载
- 2.TCP/IP 详解卷1 --- 链路层
- MATLAB生成正弦码表
- HP台式机安装WIN10
- Rockchip CAN 总线
- 安装系统跳过创建用户，直接以超级管理员身份进入系统
- JSHOP2学习2：十分钟建立一个舒适的编译环境
- java面向对象小知识
- 史上最全电脑硬盘修复方法
- 【面试题目】你有12个硬币，其中有一个的重量与其他的不一样，有三次使用测量平衡的机会来找出重量不同的那个。该怎么做呢？
- R语言—自动做统计学表格
- 首批实现QQ在RTOS端应用部署 展锐持续深耕穿戴生态
- uview——switch开关 列表修改状态
- Android进阶七:RecyclerView拖动滑动之ItemTouchHelper
- 前端工程师：交互设计师应具备的基本知识架构