FlinkSQL来构建实时数仓,其思路大概如下:Flink的Table API提供了对kafka/jdbc/hbase等实时开发涉及到的组件的支持,以kafka为例,将kafka topic抽象成Flink Table,如下:

FlinkSQL读数据建表语句

CREATE TABLE flink_rtdw.demo.kafka_source_table (topic STRING,bidWord STRING,planID STRING,eventTime INTEGER,procTime AS PROCTIME(),ets AS TO_TIMESTAMP(FROM_UNIXTIME(eventTime)),WATERMARK FOR ets AS ets - INTERVAL '1' MINUTE
) WITH ('connector' = 'kafka','topic' = 'ba.join.shbt2.search-ocpc-click','properties.bootstrap.servers' = ‘Kafka-broker','properties.group.id' = 'testGroup','scan.startup.mode' = 'latest-offset','format' = 'json'
);

FlinkSQL写数据建表语句

CREATE TABLE flink_rtdw.demo.kafka_sink_table (window_time BIGINT,topic STRING,bid_word_count BIGINT
) WITH ('connector' = 'kafka','topic' = 'ultron.demo.shbt2.into.shbt2.tumlewindow.dev','properties.bootstrap.servers' = ‘kafka-broker','format' = 'json'
);

读取kafka_source_table中数据根据指标统计写如kafka_source_table
统计一秒滚动窗口出现次数

INSERT INTOflink_rtdw.demo.kafka_sink_table
SELECTUNIX_TIMESTAMP(DATE_FORMAT(TUMBLE_START(procTime, INTERVAL '1' MINUTE),'yyyy-MM-dd HH:mm:ss')) * 1000 as window_time,topic,COUNT(bidWord)
FROMflink_rtdw.demo.kafka_source_table
GROUP BYTUMBLE(procTime, INTERVAL '1' MINUTE),topic;

FlinkSQL建表语句与插入语句相关推荐

  1. SQL语句:建表语句、插入语句、查询语句、增加列、删除列、查询语句like、修改语句

    1.建表 create table student (   id number(10,0) not null,   uname varchar2(255 char),   pword varchar2 ...

  2. 数据库mysql自建模拟购物系统(建表语句、检索语句)

    题目:购物系统数据库设计 一.场景描述 随着互联网的普及,越来越多的人选择网上购物.购物系统已经成为了必然趋势,购物系统的主要资源是商品.商品由用户从网上查看价格.品质.评论等选择商品,用户下单付款后 ...

  3. mysql 建表语句示例_MySQL Create Table语句和示例

    mysql 建表语句示例 In this article, I am going to explain the MySQL CREATE TABLE statement with examples. ...

  4. mysql分片建表语句_Mysql元数据如何生成Hive建表语句注释脚本详解

    前言 本文主要给大家介绍了关于Mysql元数据生成Hive建表语句注释脚本的相关内容,分享出来供大家参考学习,下面话不多说了,来一起看看详细的介绍: 最近在将数据从Mysql 等其他关系型数据库 抽取 ...

  5. 使用java代码编写脚本,把oracle建表语句变成hive建表语句

    使用java代码编写脚本,把oracle建表语句变成hive建表语句 java代码 测试oracle.sql 生成hive创表语句 java代码 import java.io.File; import ...

  6. mysql hive 建表语句_Mysql元数据如何生成Hive建表语句注释脚本详解

    前言 本文主要给大家介绍了关于Mysql元数据生成Hive建表语句注释脚本的相关内容,分享出来供大家参考学习,下面话不多说了,来一起看看详细的介绍: 最近在将数据从Mysql 等其他关系型数据库 抽取 ...

  7. PowerDesigner,如何将Oracle数据库建表语句转化成Mysql数据库建表语句。

    在实际工作中,一张表,我们可能需要在Mysql数据库中建表,又要在Oracle数据库中建表.表中每个字段的数据类型.中文注释.是否可为NULL 问题,非常影响我们建表的效率.本篇文章,以Oracle数 ...

  8. oracle建表唯一约束语句,Oracle建表语句是什么

    Oracle建表语句是什么 oracle数据库的建表语句,具体语法如下:CREATE TABLE tablename( column_name datatype [null,not null], co ...

  9. PowerDesigner,如何将Mysql数据库建表语句转化成Oracle数据库建表语句。

    在实际工作中,一张表,我们可能需要在Mysql数据库中建表,又要在Oracle数据库中建表.表中每个字段的数据类型.中文注释.是否可为NULL 问题,非常影响我们建表的效率.本篇文章,以Mysql数据 ...

  10. mysql建表语句主键自增_MYSQL索引-上

    前言 今天同事做数据清理的时候发现我这边有一张表没有主键,这个表有两个字段,ID和Name,ID作者唯一索引,在我印象里,一个数据表如果没有主键索引,它会内部创建主键索引,创建的标准就是唯一性,我觉得 ...

最新文章

  1. 【数字信号处理】傅里叶变换性质 ( 序列傅里叶变换共轭对称性质示例 | 证明 共轭对称序列 x_e(n) 的 傅里叶变换 是 原序列傅里叶变换 的实部 )
  2. 「 每日一练,快乐水题 」693. 交替位二进制数
  3. phpfind mysql怎么用_MySQL 的 find_in_set 函数使用方法
  4. linux unix shell programming,UnixampLinux Shell Programming I.ppt
  5. python开发之路目录
  6. python十大必备知识_学Python必备的基础知识
  7. Python 数据结构与算法——图(Graph)
  8. 2017 十款最佳iPhone渗透APP及工具
  9. python下载慢怎么办
  10. java基础回顾之Map中 TreeMap排序原理-二叉树
  11. 【机械制造基础部分(京玉海第二版)部分思考题】
  12. idea、webStrom 集成 svn 报错 Error: Node remains in conflict
  13. 小老弟研发之路面筋大汇总——关于C/C++(三)
  14. 第十七章 再论没有银弹
  15. html 多行文本显示,html多行文本显示 html中文本怎么显示省略号和多行
  16. 酷睿i7 12700k和i7 12700kf的区别 i712700k和i712700kf差多少
  17. anthony1314的小笔记
  18. Linux pwm_fan 风扇驱动
  19. 在查询分析器里执行数据库的备份和还原操作
  20. git时出现! [rejected] master -> master (non-fast-forward)解决方法

热门文章

  1. 服务器基础设置:服务器设置PXE启动,
  2. powerbi嵌入到HTML5,如何把Power BI嵌入到Web应用中
  3. 【游戏理论】游戏与游戏开发
  4. use mysql命令_mysql命令-use
  5. 【期末复习】计算机算法设计与分析
  6. 改手机为自动开机的车载导航仪
  7. 微信 表情 android,android - 微信自定义表情在哪个文件夹?
  8. 《App后台开发运维和架构实践》资源汇总
  9. 微信整人假红包图片_整人的微信红包玩法!微信红包图片整人!
  10. vue2+vant2搭建H5框架