前言

如何基于 Flink 搭建大规模准实时数据分析平台?在 Flink Forward Asia 2019 上,来自 Lyft 公司实时数据平台的徐赢博士和计算数据平台的高立博士分享了 Lyft 基于 Apache Flink 的大规模准实时数据分析平台的建设实践。

本次分享主要分为四个方面:

Lyft 的流数据与场景

准实时数据分析平台和架构

平台性能及容错深入分析

总结与未来展望

一、Lyft 的流数据与场景

Flink从入门到精通100篇(十九)-基于 Flink 的大规模准实时数据分析平台的建设实践相关推荐

  1. Flink从入门到精通100篇(五)-flink变种Alink,对阿里巴巴算法平台Alink简介

    前言 近日,阿里云计算部门已在 GitHub 上发布了其 Alink 平台的"核心代码",并上传了一系列算法库,它们支持批处理和流处理,这对支持机器学习任务至关重要. Alink ...

  2. Flink从入门到精通100篇(六)-Flink 应用之 对Release 文档进行深度解读

    集群和部署 支持 Hadoop 3.0 及更高的版本:Flink 不再提供任何 flink-shaded-hadoop- 依赖.用户可以通过配置 HADOOP_CLASSPATH 环境变量(推荐)或在 ...

  3. Flink从入门到精通100篇(十三)-Flink的入门教学

    前言 Flink 是一种流式计算框架,为什么我会接触到 Flink 呢?因为我目前在负责的是监控平台的告警部分,负责采集到的监控数据会直接往 kafka 里塞,然后告警这边需要从 kafka topi ...

  4. Flink从入门到精通100篇(九)-滴滴是如何在 Flink平台建立 实时数仓的?

    前言 随着滴滴业务的高速发展,业务对于数据时效性的需求越来越高,而伴随着实时技术的不断发展和成熟,滴滴也对实时建设做了大量的尝试和实践.本文主要以顺风车这个业务为引子,从引擎侧.平台侧和业务侧各个不同 ...

  5. Flink从入门到精通100篇(二十四)-对Flink SQL Client 源码做深度解析

    前言 本文基于 Flink 1.12-SNAPSHOT,使用sql client命令行提交insert语句进行整个流程的分析. sql-client.sh embedded --update &quo ...

  6. Flink从入门到精通100篇(二十二)- Flink应用实战案例:如何实现网络流控与反压机制

    目录 Flink 流处理为什么需要网络流控? Flink V1.5 版之前网络流控介绍 Flink V1.5 版之前的反压策略存在的问题 Credit的反压策略实现原理,Credit是如何解决 Fli ...

  7. Flink从入门到精通100篇(二十)-跨境电商 Shopee 的实时数仓之路

    前言 本文讲述 Flink 在 Shopee 新加坡数据组 ( Shopee Singapore Data Team ) 的应用实践,主要内容包括: 实时数仓建设背景 Flink 在实时数据数仓建设中 ...

  8. Flink从入门到精通100篇(二十)-Zeppelin SDK在Flink 中的应用(附测试代码)

    前言 用过 Zeppelin 的人应该比较熟悉 Zeppelin 的 UI,因为 Zeppelin 的主要使用场景都是交互式,用户需要手动来操作.那除了这种手动的方式,还有其他的方式吗?如果你不想用 ...

  9. Flink从入门到精通100篇(十八)-CentOS环境中搭建Flink分布式集群

    一. Flink的下载 安装包下载地址:http://flink.apache.org/downloads.html  ,选择对应Hadoop的Flink版本下载 [admin@node21 soft ...

最新文章

  1. 通过评估假设行为来学习人类目标
  2. 行为型模式之十一:备忘录模式
  3. RESTClient 用法
  4. 开放域知识库问答研究回顾
  5. 目录和文件管理(一)
  6. mysql5.7.11 创建用户_修改更新查找MySQL5.7.x的root用户的默认密码
  7. 设计灵感|浓浓人文感!中文活动海报设计学习案例
  8. (转载)--SG函数和SG定理【详解】
  9. PubMedQA生物医学研究问题解答数据集(2019)下载
  10. showModalDialog模态对话框的使用详解以及浏览器兼容
  11. 字符串替换(NYOJ)
  12. 数学建模中的常见模型
  13. Fiddler大解析!抱歉,抓包抓得好真的可以为所欲为
  14. 正点原子stm32F407 lcd.c 增加 画实心圆 函数
  15. 全球及中国再生纸包装行业研究及十四五规划分析报告
  16. 【Git\GitHub\GitLab学习笔记】版本控制 Git 视频教程全集(62P)| 6 小时从入门到精通(P27-P41)
  17. 查看连接网络的WiFi密码
  18. C语言提高代码效率的几种方法,7个提升嵌入式C代码效率的方法-嵌入式系统-与非网...
  19. fiddler下载及安装
  20. java 重写equals方法的种种“坑”

热门文章

  1. SQL Server 中常见的十张系统表
  2. Facebook提升性能的一大法宝:HipHop
  3. 公安网三合一EWSD交换机数据制作
  4. Linux SKB结构体中各个长度字段的含义(len, data_len, headlen, pagelen)
  5. php用户登录后跳转到主页,phpmyadmin登录后跳到首页的问题
  6. 对没有标记为安全的activex控件进行初始化和脚本运行_新的C++安全编码规则出炉...
  7. java search 不能使用方法_elasticsearch(七)java 搜索功能Search Request的介绍与使用...
  8. Linux运行项目部分空指针,技术文章—Linux编程时遇到Oops提示该如何排查?
  9. java 常量折叠_V8 使用“常量折叠”优化技巧,导致幂(**)运算有时候不等于 Math.pow()...
  10. 构造全自动计算的CPU