【Flink】Flink 自定义 trigger并且进行分析
1.概述
对于flink的窗口操作,尤其是基于事件时间的窗口操作,大家还要掌三个重要的知识点:
- 窗口分配器:就是决定着流入flink的数据,该属于哪个窗口。
- 时间戳抽取器/watermark生成器:抽取时间戳并驱动着程序正常执行。
- trigger:
决定着数据啥时候落地
。
flink有很多内置的触发器,对于基于事件时间的窗口触发器叫做EventTimeTrigger
。其实,我们要实现基于事件时间的窗口随意输出,比如1000个元素触发一次输出,那么我们就可以通过修改这个触发器来实现。
那么可能你没留意前面说的,为啥需要trigger,因为没有trigger的话,存在允许事件滞后的时候,输出时间延迟比较大,而我们需要尽早看到数据,那么这个时候就可以自己定义窗口触发。
2.自定义触发器
修改自基于处理时间的触发器,源码如下:
package org.
【Flink】Flink 自定义 trigger并且进行分析相关推荐
- flink自定义trigger详解
适用的场景解释: [1]中有句话是这样的: "其实,我们要实现基于事件时间的窗口随意输出,比如1000个元素触发一次输出,那么我们就可以通过修改这个触发器来实现." 这句话的意思是 ...
- Flink SQL 自定义 redis connector
一般情况下,我们不需要创建新的 connector,因为 Flink SQL 已经内置了丰富的 connector 供我们使用,但是在实际生产环境中我们的存储是多种多样的,所以原生的 connecto ...
- 【Flink】Flink SQL 自定义 Source format
1.概述 转载:Flink SQL 自定义 Source format 1.背景 由于 kafka 中的 json 属于嵌套,又不想二次序列化再把它展开,故自定义 format. 2.步骤 1.自定义 ...
- Flink FileSink 自定义输出路径——BucketingSink
今天看到有小伙伴在问,就想着自己实现一下. 问题: Flink FileSink根据输入数据指定输出位置,比如讲对应日期的数据输出到对应目录 输入数据: 20190716 输出到路径 20190716 ...
- Flink SQL 自定义 Sink
1. 背景 2. 步骤 3.自定义 sink 代码 4. 使用 Redis Sink 5.详细解释 6.原理 7.参考 1.背景 内部要做 Flink SQL 平台,本文以自定义 Redis Sink ...
- 95-190-454-源码-window-Trigger-Flink 自定义trigger
1.美图 2.概述 自定义trigger的主要目的是为了等待数据到齐: 代码如下; flink版本1.6 public class WatermarkTest {public static void ...
- 大数据计算引擎之Flink Flink CEP复杂事件编程
原文地址:大数据计算引擎之Flink Flink CEP复杂事件编程 复杂事件编程(CEP)是一种基于流处理的技术,将系统数据看作不同类型的事件,通过分析事件之间的关系,建立不同的时事件系序列库,并利 ...
- 凌波微步Flink——Flink的技术逻辑与编程步骤剖析
转载请注明出处:http://blog.csdn.net/dongdong9223/article/details/95459606 本文出自[我是干勾鱼的博客] Ingredients: Java: ...
- Android自定义权限CVE漏洞分析 (IEEE论文)
文章目录 前言 自定义权限早期漏洞 1.1 Android权限机制 1.2 自定义权限升级漏洞 1.3 confused deputy attack 自定义权限近期漏洞 2.1 黑盒Fuzz工具原理 ...
最新文章
- Keras中几个重要函数用法
- 语言中拟合函数 计算aic_Go语言函数深度解析(中)
- dojo Quick Start/dojo入门手册--面向对象,定义Class
- List类系列(一):list中各元素出现的次数
- 《统计学》学习笔记之数据的收集
- 一个包含嵌套递归数据结构的对象的排序实现
- 第 11 章 使用 ViewPager
- 地图中添加沿线文字标注
- python将图片原比例缩小_Python实现图片长宽比例缩放和填充
- subversion使用_使用Subversion在SQL数据库中对象更改的修订历史记录
- F-Spot 0.3.2
- GDI+ Graphics类
- 修改FCKEditor实现将图片、文件等保存到数据库
- webpack 介绍 安装 常用命令
- S5P4418iNand清空方法
- 推荐5款实用的PC端软件!!!
- 【python爬虫】《中华诗词大会》诗词接龙代码实现
- DameWare IT专用内网远程控制软件
- 手把手教你基于PaddlePaddle的情绪识别
- update select 语句和merge into语句
热门文章
- 特斯拉电动巴士将登场?马斯克发推文暗示后火速删除
- 神武咪咕汇点燃大湾区 多益网络深化新文创实践
- 自如回应南京租客事件:未对该房源进行过装修 配置的家具符合规定
- 东山再起?这将是锤子新手机?或搭配全键盘...
- 华为Mate系列新机海外亮相 或将于MWC2019发布
- OAuth 授权的工作原理是怎样的?
- python所有的父类_python获取父类的子类(遍历,递归),并循环执行所有子类的某一方法...
- 同r做一个窗口_目标检测(Object Detection):R-CNN/SPPnet/R-FCN/Yolo/SSD
- threejs基础示例
- Golang实践录:测试框架