Flink Transformation 操作

Posted -早起的码农

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink Transformation 操作相关的知识,希望对你有一定的参考价值。

    前面我们介绍了Flink DataStream数据处理流程中的source和sink,这篇文章我们介绍一下 Flink的Transformation 的操作,一般常用的算子有下面几种,我们分别用代码来演示下他基本用法:

Map操作

val stream = env.generateSequence(1, 5)
//简单的map操作
//val streamMap = stream.map(item =>  item * 3)
//复杂的map操作
val streamMap = stream.map(item => 
    val x = item * 3
    x + 1
 )
streamMap.print()

 

FlatMap操作

FlatMap为一行转多行操作,数据返回array类型

val streamFile = env.readTextFile("word.txt")
val streamFlat = streamFile.flatMap(item => item.split(" "))
streamFlat.print()

 

Filter操作

 

val streamFilter = stream.filter(item => item != 1)
streamFilter.print()

 

Connect操作

connect是对两个Stream的连接操作,通

以上是关于Flink Transformation 操作的主要内容,如果未能解决你的问题,请参考以下文章

入门大数据---Flink_Data_Transformation

8.FLINK Transformation基本操作合并和连接拆分和选择rebalance重平衡分区其他分区操作API

8.FLINK Transformation基本操作合并和连接拆分和选择rebalance重平衡分区其他分区操作API

Flink04: Flink核心API之DataSet

Flink DataStream API

Flink-transformation