spark算子

Posted 乡村骑士2

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark算子相关的知识,希望对你有一定的参考价值。

 

transformation算子

1、map()

2、flatmap()

3、mapPartitions()

4、union()

5、groupByKey()

6、filter()

7、distinc()去重

8、subtract()集合的差操作

9、cache()从磁盘缓存到内存

10、persist()缓存操作

11、combineByKey()类似于MR中的combiner

12、reduceByKey()

13、partitionBy()分区操作

action算子

1、foreach(x=>println())

2、saveAsTextFile()

3、collect()

4、count()

5、top()

6、reduce()

以上是关于spark算子的主要内容,如果未能解决你的问题,请参考以下文章

spark算子介绍

Spark-core算子

Spark算子总结(带案例)

Spark算子系列第0篇:spark常用算子详解

Spark算子系列第0篇:spark常用算子详解

Spark篇---Spark中Transformations转换算子