Flink SQL的N way join
概述
本文用来详解[1]
SQL结构
[1]中的整个md文件中的sql其实是想表达上图的这个逻辑
这里的SQL写的时候需要注意一个细节:
connector设置 | |
维度表 | 'connector' = 'upsert-kafka' |
事实表 | 'connector' = 'kafka' |
所谓的N way Join就是在SQL里面一个fact table和多个维度表进行join,如下:
SELECT t.actual_departure_date, p.first_name,p.last_name,b.channel, os.city AS origin_station,ds.city AS destination_station
FROM train_activities t
LEFT JOIN booking_channels FOR SYSTEM_TIME AS OF t.actual_departure_date AS b
ON t.booking_channel_key = b.booking_channel_key
LEFT JOIN passengers FOR SYSTEM_TIME AS OF t.actual_departure_date AS p
ON t.passenger_key = p.passenger_key
LEFT JOIN stations FOR SYSTEM_TIME AS OF t.actual_departure_date AS os
ON t.origin_station_key = os.station_key
LEFT JOIN stations FOR SYSTEM_TIME AS OF t.actual_departure_date AS ds
ON t.destination_station_key = ds.station_key;
这个实验对硬件资源有些要求,
如果资源不够的话,提交一段时间后,web UI会显示任务会超时
Reference:
[1]https://github.com/ververica/flink-sql-cookbook/blob/master/joins/05/05_star_schema.md
Flink SQL的N way join相关推荐
- Flink SQL 功能解密系列 —— 维表 JOIN 与异步优化
2019独角兽企业重金招聘Python工程师标准>>> 引子 流计算中一个常见的需求就是为数据流补齐字段.因为数据采集端采集到的数据往往比较有限,在做数据分析之前,就要先将所需的维度 ...
- Flink SQL CDC 上线!我们总结了 13 条生产实践经验
#2020云栖大会#阿里云海量offer来啦!投简历.赢阿里云限量礼品及阿里云ACA认证免费考试资格!>>> 摘要: 7月,Flink 1.11 新版发布,在生态及易用性上有大幅提升 ...
- Flink SQL CDC 13 条生产实践经验
摘要:7月,Flink 1.11 新版发布,在生态及易用性上有大幅提升,其中 Table & SQL 开始支持 Change Data Capture(CDC).CDC 被广泛使用在复制数据. ...
- Flink sql:Table sink doesn‘t support consuming update and delete changes which is produced by node
一.问题描述 Flink sql将kafka作为join的输出,报错: Exception in thread "main" org.apache.flink.table.api. ...
- Flink SQL Client进行Kafka事实表与Hbase维度表Join(纯DDL/SQL方式)
概述: 對參考鏈接[1]進行DDL上的復現. 一些基本的業務常识 來源載體 數據特點 維表 Mysql/Csv/Hbase 很少變化 事實表 Kafka 不停變化 开发环境与准备工作 组件 版本 ...
- flink sql 知其所以然(十三):流 join 很难嘛?(下)
看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗? 大数据羊说__的文章会让你明白 大数据羊说 用数据提升美好事物发生的概率~ 43篇原创内容 公众号 博主会阐明博主期望本文能给小伙伴们带 ...
- flink sql 知其所以然(十四):维表 join 的性能优化之路(上)附源码
看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗? 大数据羊说__的文章会让你明白 大数据羊说 用数据提升美好事物发生的概率~ 43篇原创内容 公众号 博主会阐明博主期望本文能给小伙伴们带 ...
- flink sql 知其所以然(十五):改了改源码,实现了个 batch lookup join(附源码)
看了那么多的技术文,你能明白作者想让你在读完文章后学到什么吗? 大数据羊说__的文章会让你明白 大数据羊说 用数据提升美好事物发生的概率~ 44篇原创内容 公众号 博主会阐明博主期望本文能给小伙伴们带 ...
- Flink SQL 如何实现数据流的 Join?
无论在 OLAP 还是 OLTP 领域,Join 都是业务常会涉及到且优化规则比较复杂的 SQL 语句.对于离线计算而言,经过数据库领域多年的积累,Join 语义以及实现已经十分成熟,然而对于近年来刚 ...
最新文章
- DCN-2655同异步端口
- F5负载均衡的初识和基本配置
- 网站SEO优化值得收藏的技巧介绍
- SQL Server里的INTERSECT
- 管道无损检测python_武汉哪里有便携式X射线探伤机使用方法欢迎咨询
- 如何导入ShareSDK的sample
- sapi cli php mac,make: *** [sapi/cli/php] Error 1 解决办法
- 百度初级认证有用吗_知乎“打败”了百度知道吗?
- Oracle基础(六) 数据类型
- laydate 周_宝来屋:5天168万!海盐周大生新店如何赢过竞品实现可持续化客流-广告随意贴...
- linux系统yum提示注册,Linux:redhat6.5使用yum时提示需要注册问题解决方案
- 120个常用货源网站,赶紧收藏!
- matlab 双音多频 接收端检测到的号码,实验一数字信号处理在双音多频拨号系统中的应用.doc...
- 19春招多益网络前端笔试题
- Transform.LookAt解析
- maya(学习笔记)之Arnold渲染器二
- 分享111个ASP源码,总有一款适合您
- 数据采集—数据采集技术
- 大众点评支付渠道网关系统的实践之路
- 关于直播,所有的技术细节