flink基础之window

  flink会把数据分成不同的窗口,然后进行汇总和统计。

  flink的窗口分为timeWindow, countWindow, sessionWindow, gapWindow。

  timeWindow分为基于时间的滚动窗口和滑动窗口。

  举个例子,统计每60秒的访问量需要的就是滚动窗口;每5分钟统计一次一个小时内的访问量或者获取访问前几的top值,这个时候就需要用到滑动窗口了。

  如果还不明白,看下面的图,图片来源flink官网的blog里。有一个传感器一直录入值,然后需要统计每个窗口里边的汇总值,效果就是这个样子。

flink基础之window

 

  再来看一下滑动窗口的图,假如sensor给到的是15秒钟汽车穿过马路的数量,现在需要每30秒统计1分钟的穿过马路的数量。第一次 9+6+8+4 = 22, 然后往右边滑两个数,8+4+7+3=22, 然后再往右边滑两个数,依此类推。

flink基础之window

 

   这里边需要注意的是,窗口的大小和滑动大小。分为三种情况:

  1. 窗口的大小=滑动的大小,那么效果和滚动窗口是一样的。

  2. 窗口的大小>滑动的大小,数据就会被重复计算,上边举的这样例子就是这样的。

  3. 窗口的大小<滑动的大小,那么统计的时候会出现丢数据。

  countWindow也分为滑动计数窗口,滚动计数窗口,也就是这个窗口达到了指定个数后即触发统计计算,滑动窗口比如countWindow(5,2),说明只要有2个数据到达后就可以往后统计5个数据的值。

  sessionWindow就是多久的session为一个窗口,假如设置的sessionWindow位5秒,那么5秒钟时间内只要有数据这个窗口就会一直存在,5秒钟之内没有任何数据,那么这个就触发一个窗口进行统计汇总。

  好了,咱们来用代码看一下,我把所有代码放到一个代码中。如下:

package flink;import org.apache.flink.api.common.functions.FlatMapFunction;import org.apache.flink.api.java.tuple.Tuple2;import org.apache.flink.streaming.api.datastream.DataStream;import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;import org.apache.flink.streaming.api.windowing.assigners.ProcessingTimeSessionWindows;import org.apache.flink.streaming.api.windowing.assigners.TumblingProcessingTimeWindows;import org.apache.flink.streaming.api.windowing.time.Time;import org.apache.flink.util.Collector;public class SocketWindowCount {public static void main(String[] args) throws Exception{//创建envStreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();        //监听本地的9000端口DataStream<String> text = env.socketTextStream("localhost", 9000, "\n");//将输入的单词进行解析和收集DataStream<WordCount> wordCountStream = text.flatMap(new FlatMapFunction<String, WordCount>() {
            @Overridepublic void flatMap(String value, Collector<WordCount> out) throws Exception {for(String word : value.split("\\s")) {
                    out.collect(WordCount.of(word, 1L));
                }
            }
        });//timeWindow 滚动窗口 将收集的单词进行分组和计数DataStream<WordCount> windowsCounts = wordCountStream.
                keyBy("word").
                timeWindow(Time.seconds(5)).
                sum("count");//timeWindow 滑动窗口 将收集的单词进行分组和计数//        DataStream<WordCount> windowsCounts = wordCountStream.//                keyBy("word").//                timeWindow(Time.seconds(10), Time.seconds(2)).//                sum("count");//countWindow 滚动窗口//        DataStream<WordCount> windowsCounts = wordCountStream.//                keyBy("word").//                countWindow(2).//                sum("count");//countWindow 滚动窗口//        DataStream<WordCount> windowsCounts = wordCountStream.//        keyBy("word").//        countWindow(5L, 2L).//        sum("count");//sessionWindow 窗口//        DataStream<WordCount> windowsCounts = wordCountStream.//                keyBy("word").//                window(ProcessingTimeSessionWindows.withGap(Time.seconds(5))).//                sum("count");//打印时采用单线程打印windowsCounts.print().setParallelism(1);//提交所设置的执行env.execute("Socket Window WordCount");

    }public static class WordCount {public String word;public Long count;public static WordCount of(String word, Long count) {
            WordCount wordCount = new WordCount();
            wordCount.word = word;
            wordCount.count = count;return wordCount;
        }

        @Overridepublic String toString() {return "word:" + word + " count:" + count;
        }
    }

}

  里边几种场景都涉及到了,下面只运行第一种情况。在电脑里边输入命令:nc -lk 9000,这个工具就是创建9000的socket服务,并且可以往里边输入数据。

  运行本地程序,第一个例子用timeWindow进行滚动窗口统计每五秒的单词数量。

  前五秒的时候输入  hello world hello, 然后又输入了 hello this, 如下图:

flink基础之window

 

   输出的结果如下:

flink基础之window

 

   这样就统计出来了,你是否get到了?有问题欢迎指正。


上一篇:Flink Application Development DataStream API Operators Overview-- Flink应用程序开发DataStream API操作符概览


下一篇:Yarn提交Flink任务参数介绍