Flink中的Time与Window
一、Time
在Flink的流式处理中,会涉及到时间的不同概念
Event Time:是事件创建的时间。它通常由事件中的时间戳描述,例如采集的日志数据中,每一条日志都会记录自己的生成时间,Flink通过时间戳分配器访问事件时间戳
Ingestion Time:是数据进入Flink的时间
Processing Time:是每一个执行基于时间操作的算子的本地系统时间,与机器相关,默认的时间属性就是Processing Time。
例如一条日志进入Flink的时间为2017-11-12 10:00:00.123 到达window的系统时间为 2017-11-12 10:00:01.234,日志内容如下:
2017-11-02 18:37:15.624 INFO Fair over to rm2
对于业务来说,要统计1min内的故障日志个数,哪个时间是最有意义的?----- eventTime,因为我们要根据日志的生成时间进行统计。
如果要想聚合,不可能对无解数据流进行聚合。
二、Window
1、streaming流式计算是一种被设计用于处理处理无限数据集的数据处理引擎,而无限数据集是指一种不断增长的本质上无限的数据集,而window是一种切割无限数据为有限块进行处理的手段。
Window是无限数据流处理的核心,Window将一个无限的stream拆分成有限大小的"buckets"桶,我们可以在这些桶上做计算操作。
共有两类,五种时间窗口。
2、Window类型(两类)
2.1、CountWindow:按照指定的数据条数生成一个window,与时间无关
2.2、TimeWindow:按照时间生成window。(按照Processing Time来划分Window)
对于TimeWindow和CountWindow,可以根据窗口实现原理的不同分成三类:滚动窗口(Tumbling Window)、滑动窗口(Sliding Window)和会话窗口(Session Window)。
(1)滚动窗口(Tumbling Windows)
将数据依据固定的窗口长度对数据进行切分。
特点:时间对齐,窗口长度固定,没有重叠。
滚动窗口分配器将每个元素分配到一个指定窗口大小的窗口中,滚动窗口有一个固定的大小,并且不会出现重叠。
(2)滑动窗口(Sliding Windows)
滑动窗口是固定窗口的更广义的一种形式,滑动窗口由固定的窗口长度和滑动间隔组成。
特点:时间对齐,窗口长度固定,有重叠。
滑动窗口分配器将元素分配到固定长度的窗口中,与滚动窗口类似,窗口的大小由窗口大小参数来配置,另一个窗口滑动参数控制滑动窗口开始的频率。
因此,滑动窗口如果滑动参数小于窗口大小的话,窗口是可以重叠的,在这种情况下元素会被分配到多个窗口中。
使用场景:对最近一个时间段内的统计(求某接口最近5min的失败率来决定是否要报警。)
(3)会话窗口(Session Windows)
由一系列事件组合一个指定时间长度的timeout间隙组成。类似于web应用的session,也就是一段时间没有接收到新数据就会生成新的窗口。
特点:时间无对齐。
session 窗口分配器通过session活动来对元素进行分组,session窗口跟滚动窗口和滑动窗口相比,不会有重叠和固定的开始时间和结束时间的情况,相反,当它在一个固定的
时间周期内不再收到元素,即非活动间隔产生,那这个窗口就会关闭。一个Session窗口通过一个session间隔来配置,这个session间隔定义了非活跃周期的长度,当这个非活跃
周期产生,那么当前的session将关闭并且后续的元素将被分配到新的session窗口中去。
三、Window API
3.1、CountWindow
CountWindow根据窗口中相同key元素的数量来触发执行,执行时只计算元素数量达到窗口大小的key对应的结果。
注意:CountWindow的window_size 指的是相同key的元素的个数,不是输入的所有元素的总数。
import org.apache.flink.api.java.tuple.Tuple import org.apache.flink.streaming.api.scala.{DataStream, KeyedStream, StreamExecutionEnvironment}/*** CountWindow 中的滚动窗口(Tumbling Windows)* 将数据依据固定的窗口长度对数据进行切分。*/ object TimeAndWindow {def main(args: Array[String]): Unit = {val env = StreamExecutionEnvironment.getExecutionEnvironmentval stream: DataStream[String] = env.socketTextStream("localhost",11111)val streamKeyBy: KeyedStream[(String, Long), Tuple] = stream.map(item => (item,1L)).keyBy(0)//注意:CountWindow的window_size 指的是相同key的元素的个数,不是输入的所有元素的总数。val streamWindow: DataStream[(String, Long)] = streamKeyBy.countWindow(5).reduce((item1, item2)=>(item1._1,item1._2+item2._2))streamWindow.print()env.execute("TimeAndWindow")} }
3.2
import org.apache.flink.api.java.tuple.Tuple import org.apache.flink.streaming.api.scala.{DataStream, KeyedStream, StreamExecutionEnvironment}/*** CountWindow 中的滑动窗口(Sliding Windows)* 将数据依据固定的窗口长度对数据进行切分。*/ object TimeAndWindow {def main(args: Array[String]): Unit = {val env = StreamExecutionEnvironment.getExecutionEnvironmentval stream: DataStream[String] = env.socketTextStream("localhost",11111)val streamKeyBy: KeyedStream[(String, Long), Tuple] = stream.map(item => (item,1L)).keyBy(0)//注意:CountWindow的window_size 指的是相同key的元素的个数,不是输入的所有元素的总数。//满足步长,就执行一次,按第一个参数的长度val streamWindow: DataStream[(String, Long)] = streamKeyBy.countWindow(5,2).reduce((item1, item2)=>(item1._1,item1._2+item2._2))streamWindow.print()env.execute("TimeAndWindow")} }
四、EventTime与Window
1、EventTime的引入
在Flink的流式处理中,绝大部分的业务都会使用eventTime,一般只在eventTime无法使用时,才会被迫使用ProcessingTime或者IngestionTime。
如果要使用EventTime,那么需要引入EventTime的时间戳,引入方式如下所示:
2、Watermark
概念:我们知道,流处理从事件产生,到流经source,再到operator,中间是有一个过程和时间的,虽然大部分情况下,流到operator的数据都是按照事件产生的
事件戳顺序来的,但是也不排除由于网络、背压等原因,导致乱序的产生,所谓乱序,就是指Flink接收到的事件的先后顺序不是严格按照事件的EventTime顺序排列的。
Watermark是一种衡量Event Time进展的机制,它是数据本身的一个隐藏属性,数据本身携带着对应的Watermark。
Watermark是用于处理乱序事件的,而正确的处理乱序事件,通常用Watermark机制结合window来实现。
数据流中的Watermark用于表示eventTime小于Watermark的数量,都已经到达了,因此,window的执行也是由Watermark触发的。
Watermark可以理解成一个延迟触发机制。我们可以设置Watermark的延时时长t,每次系统会校验已经到达的数据中最大的maxEventTime,然后认定eventTime 小于
maxEventTime-t 的所有数据都已经到达。如果有窗口的停止时间等于maxEventTime-t,那么这个窗口被触发执行。
滚动窗口/滑动窗口/会话窗口
import org.apache.flink.api.java.tuple.Tupleimport org.apache.flink.streaming.api.TimeCharacteristicimport org.apache.flink.streaming.api.functions.timestamps.BoundedOutOfOrdernessTimestampExtractorimport org.apache.flink.streaming.api.scala._import org.apache.flink.streaming.api.windowing.assigners.{EventTimeSessionWindows, SlidingEventTimeWindows, TumblingEventTimeWindows}import org.apache.flink.streaming.api.windowing.time.Timeimport org.apache.flink.streaming.api.windowing.windows.TimeWindow /** * TimeWindow */object EventTimeAndWindow { def main(args: Array[String]): Unit = { val env = StreamExecutionEnvironment.getExecutionEnvironment //开启watermark //从调用时刻开始给env创建的每一个stream追加时间特征。 env.setStreamTimeCharacteristic(TimeCharacteristic.EventTime) val stream: KeyedStream[(String, Long), Tuple] = env.socketTextStream("192.168.218.130", 1111).assignTimestampsAndWatermarks( new BoundedOutOfOrdernessTimestampExtractor[String](Time.milliseconds(3000)) { override def extractTimestamp(element: String): Long = { // event word eventTime是日志生成时间,我们从日志中解析EventTime val eventTime = element.split(" ")(0).toLong println(eventTime) eventTime } } ).map(item => (item.split(" ")(1),1L)).keyBy(0) //加上滚动窗口,窗口大小是5s,调用window的api// val streamWindow: WindowedStream[(String, Long), Tuple, TimeWindow] = stream.window(TumblingEventTimeWindows.of(Time.seconds(5))) //滑动窗口// val streamWindow: WindowedStream[(String, Long), Tuple, TimeWindow] = stream.window(SlidingEventTimeWindows.of(Time.seconds(10),Time.seconds(5))) //会话窗口 val streamWindow: WindowedStream[(String, Long), Tuple, TimeWindow] = stream.window(EventTimeSessionWindows.withGap(Time.seconds(5))) val streamReduce = streamWindow.reduce((item1,item2)=>(item1._1,item1._2+item2._2)) streamReduce.print() env.execute("EventTimeAndWindow") }}
转载于:https://www.cnblogs.com/ssqq5200936/p/11014296.html
Flink中的Time与Window相关推荐
- 【大数据】带你理解并使用flink中的Time、Window(窗口)、Windows Function(窗口函数)
提醒:本文的示例代码基于flink1.13,在讲window的使用时也会说明flink版本一些api的弃用情况. 文章目录 一.Time的简介 二.Window的概念 三.Window的类型 1.分类 ...
- 60-300-022-使用-延迟数据-Flink中allowedLateness详细介绍
1.视界 2.概述 当指定一个允许延迟大于0时,window以及window中的内容将会继续保持即使水印已经达到了window的最后时间.在这种情况下,当一个延迟事件到来而未丢弃时,它可能会触发w ...
- Flink中window 窗口和时间以及watermark水印
我们都知道,Flink的核心是流式处理,但同时也支持批处理,Flink底层是一个流式引擎,在这个上面实现了流处理和批处理,而窗口则是批处理的实现. 在Flink中window从大的分类上主要有三种:T ...
- 《从0到1学习Flink》—— 介绍Flink中的Stream Windows
前言 目前有许多数据分析的场景从批处理到流处理的演变, 虽然可以将批处理作为流处理的特殊情况来处理,但是分析无穷集的流数据通常需要思维方式的转变并且具有其自己的术语(例如,"windowin ...
- Flink中MapFunction以及其他各种xxxFunction在intellij中的用法和规律
我们以MapFunction为例,来分析下这些xxxFunction的规律 可以看到new MapFunction后面的 另外注意,这里在这里敲入new MapFunction的时候,必须在等号左侧已 ...
- flink中的WaterMark调研和具体实例
一些基本概念介绍: Event Time 事件时间是每个事件在其生产设备上发生的时间 Ingestion Time 摄取时间是数据进入Flink的时间 Processing Time 处理时间是是指正 ...
- 如何在 Apache Flink 中使用 Python API?
本文根据 Apache Flink 系列直播课程整理而成,由 Apache Flink PMC,阿里巴巴高级技术专家 孙金城 分享.重点为大家介绍 Flink Python API 的现状及未来规划, ...
- 【Flink】Flink中流动的四种元素
1.概述 转载:Flink中流动的四种元素 在Flink DataStream中流动着不同的元素,统称为StreamElement,StreamElement可以是StreamRecord.Water ...
- Flink-org.apache.flink.streaming.api.windowing.windows.Window
注意:触发窗口的条件不仅和维度有关,而且还与事件有关,比如我事件类型设置了eventTime env.setStreamTimeCharacteristic(TimeCharacteristic.Ev ...
最新文章
- Drill storage plugin实现原理分析
- 牛逼了!一周内咸鱼疯转 3.6w 次,最终被所有大厂封杀!
- Oracle中的单值函数
- 给定一个排序好的数组,插入一个数,使其仍然有规律不使用排序算法
- 电影点评系统论文java_毕业设计(论文)-基于web的电影点评系统分析与设计.docx...
- 运维常说的 5个9、4个9、3个9 的可靠性,到底是什么???
- 了解LSTM和GRU
- php数组转为js json,javascript-将数组php转换为JSON时出错
- Qt文档阅读笔记-QFuture官方解析及实例
- Ubuntu解压文件的方法
- uva11549Calculator Conundrum
- Java map转JSON
- 数据字典中的数据类型与ABAP中的中数据类型对应关系
- C++获取Unix时间戳(分别以秒和毫秒为单位)的几种方法
- 虚拟机找不到文件路径
- Maya-Mixamo导出几何缓存错误
- 2021年「博客之星」参赛博主:南浔Pyer
- 【离线语音专题②】安信可语音开放平台的使用——VC系列SDK的获取
- 阅读源码的三种境界 (转 码农翻身 微信公众号)
- [历史档案]月光如水静静泻