Flink CusWaterMark

自定义生成水位线

package com.claroja;import org.apache.flink.api.common.eventtime.SerializableTimestampAssigner;
import org.apache.flink.api.common.eventtime.WatermarkStrategy;
import org.apache.flink.api.common.functions.MapFunction;
import org.apache.flink.api.java.tuple.Tuple2;
import org.apache.flink.streaming.api.TimeCharacteristic;
import org.apache.flink.streaming.api.datastream.DataStreamSource;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.functions.AssignerWithPeriodicWatermarks;
import org.apache.flink.streaming.api.functions.windowing.ProcessWindowFunction;
import org.apache.flink.streaming.api.watermark.Watermark;
import org.apache.flink.streaming.api.windowing.time.Time;
import org.apache.flink.streaming.api.windowing.windows.TimeWindow;
import org.apache.flink.util.Collector;import java.time.Duration;public class CusWaterMark {public static void main(String[] args) throws Exception {StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();env.setStreamTimeCharacteristic(TimeCharacteristic.EventTime);env.setParallelism(1);
//        env.getConfig().setAutoWatermarkInterval(60 * 1000L); //默认200ms更新水位线,每进来一个event都记录最新的时间,但200ms才会更新DataStreamSource<String> stream = env.socketTextStream("localhost", 9999);stream.map(new MapFunction<String, Tuple2<String, Long>>() {// Tuple2<key, timestamp>，事件事件必须是毫秒时间戳@Overridepublic Tuple2<String, Long> map(String s) throws Exception {String[] arr = s.split(" ");return Tuple2.of(arr[0], Long.parseLong(arr[1]) * 1000L);}}).assignTimestampsAndWatermarks(// 水位线必须在keyby之前new AssignerWithPeriodicWatermarks<Tuple2<String, Long>>() {//设置最大延迟时间final long bound = 5 * 1000L;//系统观察到的元素包含的最大时间戳long maxTs = Long.MIN_VALUE + bound + 1;// 每来一条数据执行一次@Overridepublic long extractTimestamp(Tuple2<String, Long> stringLongTuple2, long l) {maxTs = Math.max(maxTs, stringLongTuple2.f1); // 更新观察到的最大的事件时间return stringLongTuple2.f1; // 告诉系统哪一个字段是事件时间}// 系统在流中插入水位线时执行，默认200ms执行一次@Overridepublic Watermark getCurrentWatermark() {return new Watermark(maxTs - bound - 1);}}).keyBy(r -> r.f0).timeWindow(Time.seconds(5)).process(new ProcessWindowFunction<Tuple2<String, Long>, String, String, TimeWindow>() {@Overridepublic void process(String s, Context context, Iterable<Tuple2<String, Long>> iterable, Collector<String> collector) throws Exception {long count = 0L;for (Tuple2<String, Long> i : iterable) {count += 1;}collector.collect("窗口中共有 " + count + " 条元素");}}).print();env.execute();}
}

Flink CusWaterMark相关推荐

hadoop,spark,scala,flink 大数据分布式系统汇总
20220314 https://shimo.im/docs/YcPW8YY3T6dT86dV/read 尚硅谷大数据文档资料 iceberg相当于对hive的读写,starrocks相当于对mysq ...
2021年大数据Flink（四十八）：扩展阅读 Streaming File Sink
目录扩展阅读 Streaming File Sink 介绍场景描述 Bucket和SubTask.PartFile 案例演示扩展阅读配置详解 PartFile PartFile序列化编码 ...
2021年大数据Flink（四十六）：扩展阅读异步IO
目录扩展阅读异步IO 介绍异步IO操作的需求使用Aysnc I/O的前提条件 Async I/O API 案例演示扩展阅读原理深入 AsyncDataStream 消息的顺序性扩展阅读 ...
2021年大数据Flink（四十五）：扩展阅读双流Join
目录扩展阅读双流Join 介绍 Window Join Interval Join 代码演示1 代码演示2 重点注意扩展阅读双流Join 介绍 https:// ...
2021年大数据Flink（四十四）：扩展阅读 End-to-End Exactly-Once
目录扩展阅读 End-to-End Exactly-Once 流处理的数据处理语义 At-most-once-最多一次 At-least-once-至少一次 Exactly-once-精确一次 En ...
2021年大数据Flink（四十二）：BroadcastState
目录 BroadcastState BroadcastState介绍需求-实现配置动态更新编码步骤 1.env 2.source 3.transformation 4.sink 5.e ...
2021年大数据Flink（四十一）：Flink实现订单自动好评
目录 Flink实现订单自动好评需求数据编码步骤 1.env 2.source 3.transformation 4.sink 5.execute 参考代码参考效果实现代码: Flink实现 ...
2021年大数据Flink（四十）：Flink模拟双十一实时大屏统计
目录 Flink模拟双十一实时大屏统计需求数据编码步骤: 1.env 2.source 3.transformation 4.使用上面聚合的结果,实现业务需求: 5.execute 参考代码实 ...
2021年大数据Flink（三十九）：Table与SQL 总结 Flink-SQL常用算子
目录总结 Flink-SQL常用算子 SELECT WHERE DISTINCT GROUP BY UNION 和 UNION ALL JOI ...

Flink CusWaterMark

Flink CusWaterMark相关推荐

最新文章

热门文章