一:为什么出现累计窗口(CUMULATE)

在flink中有滑动窗口,滚动窗口,会话窗口。前俩者是公司常用的,他们统计的是某个时间段内的数据。但是我们有些时候,有需求,求每一天,从当天0:00开始,进行计算,例如:双十一,统计当天的销售额度。遇到这种需求,前俩者解决此类问题会比较麻烦。所以在新版本的flink当中,开源了CUMULATE窗口。

二:CUMULATE是什么窗口。

可以将CUMULATE窗口看作是升级版本的滚动窗口。将某一时间段内滚动窗口求出的值进行累加。

三:怎么使用?

SELECT cast(PROCTIME() as timestamp_ltz) as window_end_time,manufacturer_name,event_id,case when state is null then -1 else state end ,cast(sum(agg)as string ) as agg
FROM TABLE(CUMULATE(TABLE dm_cumulate, DESCRIPTOR(ts1), INTERVAL '5' MINUTES, INTERVAL '1' DAY(9)))
GROUP BYwindow_end,window_start,manufacturer_name,event_id,case when state is null then -1 else state end

1 . 注意点一

CUMULATE 共有四个参数。
第一个 table 表名。
第二个 时间字段。
第三个 累计的步长。
第四个 累计的时间。
注:第四个参数,如果写1 day,那么就是从今天的0:00到今晚24:00 进行统计,明天开始,又会从新的0:00开始统计。
如果写2,或者更多,意味着从前俩天开始一直统计。在0:00的时候,会继续进行累加。

iceberg-flink 八:累积窗口使用。(CUMULATE)相关推荐

  1. 东八区转为0时区_踩坑记 | Flink 天级别窗口中存在的时区问题

    ❝ 本系列每篇文章都是从一些实际的 case 出发,分析一些生产环境中经常会遇到的问题,抛砖引玉,以帮助小伙伴们解决一些实际问题.本文介绍 Flink 时间以及时区问题,分析了在天级别的窗口时会遇到的 ...

  2. Flink应如何处理窗口中迟到的数据?

    一.如何处理迟到的数据 三个步骤: .1 设置水位线延迟时间 因为水位线的延迟主要是用来对付分布式网络传输导致的数据乱序,而网络传输的乱序程度一般并不会很大,大多集中在几毫秒至几百毫秒.所以实际应用中 ...

  3. Flink中window 窗口和时间以及watermark水印

    我们都知道,Flink的核心是流式处理,但同时也支持批处理,Flink底层是一个流式引擎,在这个上面实现了流处理和批处理,而窗口则是批处理的实现. 在Flink中window从大的分类上主要有三种:T ...

  4. 大数据——Flink Window(窗口)机制

    Flink窗口机制 Window(窗口) Tumbling Window(翻滚窗口) Sliding Window(滑动窗口) Sliding Window(滑动窗口)设置Watermark时间 Wi ...

  5. iceberg Flink操作

    Flink操作 1.配置参数和jar包 1) Flink1.11 开始就不在提供 flink-shaded-hadoop-2-uber 的支持,所以如果需要 flink 支持hadoop 得配置环境变 ...

  6. 【Flink】Flink中的窗口API、窗口函数以及迟到数据处理问题

    目录 一.窗口 1.窗口的概念 2.窗口的分类 (1)按照驱动类型分类--时间窗口和计数窗口 (2)按照窗口分配数据的规则分类 3.窗口 API (1)按键分区窗口(Keyed Windows) (2 ...

  7. 【Flink】各种窗口的使用(处理时间窗口、事件时间窗口、窗口聚合窗口)

    文章目录 一 Flink 中的 Window 1 Window (1)Window概述 (2) Window类型 a 滚动窗口(Tumbling Windows) b 滑动窗口(Sliding Win ...

  8. FLink时间与窗口详解

    大家好,我是小寒~ 从今天开始,我们开始分享 FLink 系列相关的文章.如果喜欢,记得关注一波. 在Flink中有四大基石,分别是 Time.Window.CheckPoint 和 State,今天 ...

  9. java Flink滚动时间窗口聚合TumblingProcessingTimeWindows运算例子

    整个的思路是: 构造数据源 窗口聚合代码 1. 构造数据源 首先构造数据,新建一个MyData2.java的文件,写入这个MyData2的类 package create_data;import ja ...

最新文章

  1. 白话Elasticsearch22- 深度探秘搜索技术之match_phrase_prefix实现search-time搜索推荐
  2. python 飞机大战小游戏
  3. leetcode977. 有序数组的平方(暴力+双指针)
  4. redis——客户端
  5. H5 中 bordercolorlight 属性的用法及作用
  6. github get 请求指定页面的代码
  7. 操作技巧:在Python Shell里如何清屏
  8. Android xmlns 的作用及其自定义
  9. 2017-11-28
  10. (附源码)flutter+React Native+Springboot Api
  11. 汽车金融信用评分卡模型-论文_毕业设计_企业项目复现
  12. html和css实现 字体变色 旋转 图标渐变
  13. Google SRE: SLI、SLO、SLA 、Error Budget 详解
  14. 如何将Ant Design Icon本地化
  15. Codeforces-1682 C: LIS or Reverse LIS? 【构造】
  16. 春节期间,“熊小孩”闯祸要赔偿怎么办?
  17. ASIC芯片设计生产流程
  18. 磁力链接方式下载完全攻略
  19. OSI七层网络结构详解
  20. 关于IDEA在模块scr鼠标右键没有Servlet的解决方法(多种步骤帮你解决)

热门文章

  1. CodeForces - 1324D Pair of Topics (分治+排序)
  2. 英伟达发布528.02 WHQL 新驱动,支持4070 Ti
  3. 前端知识-JavaScript事件驱动特性
  4. Python的10大集成开发环境和代码编辑器(指南)
  5. 进度和质量哪个重要?这个梗工作中反反复复!
  6. git提交失败running pre-commit hook: lint-staged [33m‼ Some of your tasks use `git add` command
  7. SLAM中的李群和李代数
  8. word在英文输入法的状态下,打出来的引号还是中文字符
  9. django和mezzanine搭建博客小站1
  10. 命令与征服2完全版+烈火风暴资料片