概述

本文用来详解[1]

SQL结构

[1]中的整个md文件中的sql其实是想表达上图的这个逻辑

这里的SQL写的时候需要注意一个细节:

  connector设置
维度表 'connector' = 'upsert-kafka'
事实表 'connector' = 'kafka'   

所谓的N way Join就是在SQL里面一个fact table和多个维度表进行join,如下:

SELECT t.actual_departure_date, p.first_name,p.last_name,b.channel, os.city AS origin_station,ds.city AS destination_station
FROM train_activities t
LEFT JOIN booking_channels FOR SYSTEM_TIME AS OF t.actual_departure_date AS b
ON t.booking_channel_key = b.booking_channel_key
LEFT JOIN passengers FOR SYSTEM_TIME AS OF t.actual_departure_date AS p
ON t.passenger_key = p.passenger_key
LEFT JOIN stations FOR SYSTEM_TIME AS OF t.actual_departure_date AS os
ON t.origin_station_key = os.station_key
LEFT JOIN stations FOR SYSTEM_TIME AS OF t.actual_departure_date AS ds
ON t.destination_station_key = ds.station_key;

这个实验对硬件资源有些要求,

如果资源不够的话,提交一段时间后,web UI会显示任务会超时

Reference:

[1]https://github.com/ververica/flink-sql-cookbook/blob/master/joins/05/05_star_schema.md

Flink SQL的N way join相关推荐

  1. Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化

    2019独角兽企业重金招聘Python工程师标准>>> 引子 流计算中一个常见的需求就是为数据流补齐字段.因为数据采集端采集到的数据往往比较有限,在做数据分析之前,就要先将所需的维度 ...

  2. Flink SQL CDC 上线!我们总结了 13 条生产实践经验

    #2020云栖大会#阿里云海量offer来啦!投简历.赢阿里云限量礼品及阿里云ACA认证免费考试资格!>>> 摘要: 7月,Flink 1.11 新版发布,在生态及易用性上有大幅提升 ...

  3. Flink SQL CDC 13 条生产实践经验

    摘要:7月,Flink 1.11 新版发布,在生态及易用性上有大幅提升,其中 Table & SQL 开始支持 Change Data Capture(CDC).CDC 被广泛使用在复制数据. ...

  4. Flink sql:Table sink doesn‘t support consuming update and delete changes which is produced by node

    一.问题描述 Flink sql将kafka作为join的输出,报错: Exception in thread "main" org.apache.flink.table.api. ...

  5. Flink SQL Client进行Kafka事实表与Hbase维度表Join(纯DDL/SQL方式)

    概述: 對參考鏈接[1]進行DDL上的復現. 一些基本的業務常识   來源載體 數據特點 維表 Mysql/Csv/Hbase 很少變化 事實表 Kafka 不停變化 开发环境与准备工作 组件 版本 ...

  6. flink sql 知其所以然(十三):流 join 很难嘛?(下)

    看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗? 大数据羊说__的文章会让你明白 大数据羊说 用数据提升美好事物发生的概率~ 43篇原创内容 公众号 博主会阐明博主期望本文能给小伙伴们带 ...

  7. flink sql 知其所以然(十四):维表 join 的性能优化之路(上)附源码

    看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗? 大数据羊说__的文章会让你明白 大数据羊说 用数据提升美好事物发生的概率~ 43篇原创内容 公众号 博主会阐明博主期望本文能给小伙伴们带 ...

  8. flink sql 知其所以然(十五):改了改源码,实现了个 batch lookup join(附源码)

    看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗? 大数据羊说__的文章会让你明白 大数据羊说 用数据提升美好事物发生的概率~ 44篇原创内容 公众号 博主会阐明博主期望本文能给小伙伴们带 ...

  9. Flink SQL 如何实现数据流的 Join?

    无论在 OLAP 还是 OLTP 领域,Join 都是业务常会涉及到且优化规则比较复杂的 SQL 语句.对于离线计算而言,经过数据库领域多年的积累,Join 语义以及实现已经十分成熟,然而对于近年来刚 ...

最新文章

  1. DCN-2655同异步端口
  2. F5负载均衡的初识和基本配置
  3. 网站SEO优化值得收藏的技巧介绍
  4. SQL Server里的INTERSECT
  5. 管道无损检测python_武汉哪里有便携式X射线探伤机使用方法欢迎咨询
  6. 如何导入ShareSDK的sample
  7. sapi cli php mac,make: *** [sapi/cli/php] Error 1 解决办法
  8. 百度初级认证有用吗_知乎“打败”了百度知道吗?
  9. Oracle基础(六) 数据类型
  10. laydate 周_宝来屋:5天168万!海盐周大生新店如何赢过竞品实现可持续化客流-广告随意贴...
  11. linux系统yum提示注册,Linux:redhat6.5使用yum时提示需要注册问题解决方案
  12. 120个常用货源网站,赶紧收藏!
  13. matlab 双音多频 接收端检测到的号码,实验一数字信号处理在双音多频拨号系统中的应用.doc...
  14. 19春招多益网络前端笔试题
  15. Transform.LookAt解析
  16. maya(学习笔记)之Arnold渲染器二
  17. 分享111个ASP源码,总有一款适合您
  18. 数据采集—数据采集技术
  19. 大众点评支付渠道网关系统的实践之路
  20. 关于直播,所有的技术细节

热门文章

  1. 详解Django-auth-ldap 配置方法
  2. HDU 1180 诡异的楼梯(超级经典的bfs之一,需多回顾)
  3. HTML5实现文件断点续传
  4. 《jQuery知识点总结》(一)
  5. chm帮助文档出现乱码
  6. 梅林安装opkg后安装iperf3_MacBook安装双系统后手势触控问题
  7. WEB前端 前端开发者 如何突破技术瓶颈
  8. (十一)开发环境【不会这些,你就会被认定是菜鸟小白,没做过项目】
  9. 漂流瓶 php,PHP实现的迷你漂流瓶
  10. 微信小程序_指南部分