随着大数据技术在各行各业的广泛应用,要求能对海量数据进行实时处理的需求越来越多,同时数据处理的业务逻辑也越来越复杂,传统的批处理方式和早期的流式处理框架也越来越难以在延迟性、吞吐量、容错能力以及使用便捷性等方面满足业务日益苛刻的要求。

在这种形势下,新型流式处理框架Flink通过创造性地把现代大规模并行处理技术应用到流式处理中来,极大地改善了以前的流式处理框架所存在的问题。

一句话:flink是etl的工具。

flink的层次结构:

其中,

windows下flink示例程序的执行 简单介绍了一下flink在windows下如何通过flink-webui运行已经打包完成的示例程序(jar)

从flink-example分析flink组件(1)WordCount batch实战及源码分析讲到DataSet的转换

从flink-example分析flink组件(2)WordCount batch实战及源码分析----flink如何在本地执行的?flink batch批处理如何在本地执行的

从flink-example分析flink组件(3)WordCount 流式实战及源码分析 flink stream流式处理如何在本地执行的?

使用flink Table &Sql api来构建批量和流式应用(1)Table的基本概念介绍了Table的基本概念及使用方法

使用flink Table &Sql api来构建批量和流式应用(2)Table API概述介绍了如何使用Table

使用flink Table &Sql api来构建批量和流式应用(3)Flink Sql 使用 介绍了如何使用sql

flink dataset api使用及原理 介绍了DataSet Api

flink DataStream API使用及原理介绍了DataStream Api

flink中的时间戳如何使用?---Watermark使用及原理 介绍了底层实现的基础Watermark

flink window实例分析 介绍了window的概念及使用原理

Flink中的状态与容错 介绍了State的概念及checkpoint,savepoint的容错机制

flink的特征

最后,给出官网给出的特征作为结束:

1、一切皆为流(All streaming use cases )

  • 事件驱动应用(Event-driven Applications)

  

  • 流式 & 批量分析(Stream & Batch Analytics)

    

  

  • 数据管道&ETL(Data Pipelines & ETL)

    

2、正确性保证(Guaranteed correctness)

  • 唯一状态一致性(Exactly-once state consistency)
  • 事件-事件处理(Event-time processing)
  • 高超的最近数据处理(Sophisticated late data handling)

3、多层api(Layered APIs)

  • 基于流式和批量数据处理的SQL(SQL on Stream & Batch Data)
  • 流水数据API & 数据集API(DataStream API & DataSet API)
  • 处理函数 (时间 & 状态)(ProcessFunction (Time & State))

4、易用性

  • 部署灵活(Flexible deployment)
  • 高可用安装(High-availability setup)
  • 保存点(Savepoints)

5、可扩展性

  • 可扩展架构(Scale-out architecture)
  • 大量状态的支持(Support for very large state)
  • 增量检查点(Incremental checkpointing)

6、高性能

  • 低延迟(Low latency)
  • 高吞吐量(High throughput)
  • 内存计算(In-Memory computing)

flink架构 

1、层级结构

2.工作架构图

 

转载于:https://www.cnblogs.com/davidwang456/p/11256748.html

flink入门实战总结相关推荐

  1. Flink 入门实战之一HelloWord

    flink1.11.2版本Scala源码 package com.dayimport org.apache.flink.streaming.api.scala._ object HelloWord { ...

  2. 新一代分布式实时流处理引擎Flink入门实战之先导理论篇-上

    文章目录 概述 定义 为什么使用Flink 应用行业和场景 应用行业 应用场景 实时数仓演变 Flink VS Spark 架构 系统架构 术语 无界和有界数据 流式分析基础 分层API 运行模式 作 ...

  3. Spring Boot 高效入门实战

    凭借开箱即用,远离繁琐的配置等特性,Spring Boot 已经成为 Java 开发者人人必学必会的开源项目.那么开发者该如何快速上手Spring Boot 呢? 进入Spring Boot世界 Ja ...

  4. 2021年大数据Flink(八):Flink入门案例

    目录 Flink入门案例 前置说明 API 编程模型 准备工程 pom文件 log4j.properties Flink初体验 需求 编码步骤 代码实现 Flink入门案例 前置说明 API API ...

  5. Fastlane 入门实战教程从打包到上传iTunes connect

    有关神器 Fastlane 持续集成\部署的文章网上挺多,本文定位是入门教程,针对 iOS 应用的持续部署,只需一条命令就可实现从 Xcode 项目到 编译\打包\构建\提交审核 文章稍微有点长,涵盖 ...

  6. Spark入门实战系列--6.SparkSQL(中)--深入了解SparkSQL运行计划及调优

    [注]该系列文章以及使用到安装包/测试数据 可以在<倾情大奉送--Spark入门实战系列>获取 1.1  运行环境说明 1.1.1 硬软件环境 l  主机操作系统:Windows 64位, ...

  7. Gerrit代码Review入门实战

    代码审核(Code Review)是软件研发质量保障机制中非常重要的一环,但在实际项目执行过程中,却因为种种原因被Delay甚至是忽略.在实践中,给大家推荐一款免费.开放源代码的代码审查软件Gerri ...

  8. Spark入门实战系列--5.Hive(下)--Hive实战

    [注]该系列文章以及使用到安装包/测试数据 可以在<倾情大奉送--Spark入门实战系列>获取 1.Hive操作演示 1.1 内部表 1.1.1 创建表并加载数据 第一步   启动HDFS ...

  9. python入门新手项目-Python入门实战项目有哪些适合新手?

    Python入门实战项目有哪些适合新手?目前市面上有很多适合新手的Python入门练手项目,Python入门需要理论与实践相结合,前面夯实基础知识,后面通过实战项目帮助你更好的运用这些Python知识 ...

最新文章

  1. STM32外设之GPIO的推挽输出和开漏输出模式详解
  2. ABAP简介以及OpenSQL与NativeSQL的区别
  3. 限量席位!网易 MCtalk 泛娱乐社交产品专场沙龙报名倒计时
  4. php同时上传多个数据,怎样一次上传多个数据流
  5. mybatis 注解传入 list 集合​​​​​​​
  6. 待支付取件费用是什么意思_SEDEX验厂是什么意思,sedex验厂审核费用是多少?...
  7. 重磅发布 | 蚂蚁金服与电子标准院达成战略合作 共同推进数据安全行业的标准化...
  8. java split 坑_Java坑锦集一 - split函数
  9. Windows核心编程_inlineHook
  10. 【C++教程】04.求1加到100
  11. mysql 存储百分数_mysql中如何存储百分数
  12. 基于UEBA的用户上网异常行为分析
  13. A40i使用笔记:时区设置
  14. 气传导蓝牙耳机哪个牌子好?口碑好的气传导耳机分享
  15. 和平之翼代码生成器 SHCEU 版 4.0.0 Beta2 版 千年隼公布
  16. p2p技术分类与发展方向
  17. 一次ORA-03113错误解决
  18. 大数加法(ascll转换),利息计算(数组,sizeof与循环运用)
  19. vue中轻量级模糊查询fuse.js使用
  20. 7日杀服务器抽奖系统,七日杀钱代码 | 手游网游页游攻略大全

热门文章

  1. linux 变量获取问题,有关read命令从管道输出读取变量参数的问题
  2. 自考计算机及应用笔记,自考“计算机及应用”专业论文参考范文
  3. go int 最大值_Dig101 - Go之灵活的slice
  4. php wap页下拉刷新代码,js实现的移动端下拉刷新功能代码实例
  5. php如何发起远程请求,PHP请求远程地址如何设置超时时间
  6. 一个空的C++类中有什么
  7. java request 原理_JavaWeb-seession原理
  8. div超出不换行_DIV元素不换行
  9. Third Week :Linux下的C语言
  10. const指针 常指针