Spark算子

Posted 心随风飞930

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark算子相关的知识,希望对你有一定的参考价值。

Spark算子:RDD基本转换操作(1)–map、flagMap、distinct

Spark算子:RDD创建操作

Spark算子:RDD基本转换操作(2)–coalesce、repartition

Spark算子:RDD基本转换操作(3)–randomSplit、glom

Spark算子:RDD基本转换操作(4)–union、intersection、subtract

Spark算子:RDD基本转换操作(5)–mapPartitions、mapPartitionsWithIndex

Spark算子:RDD基本转换操作(6)–zip、zipPartitions

Spark算子:RDD基本转换操作(7)–zipWithIndex、zipWithUniqueId

 

Spark算子:统计RDD分区中的元素及数量 

 

Spark算子:RDD键值转换操作(1)–partitionBy、mapValues、flatMapValues

Spark算子:RDD键值转换操作(2)–combineByKey、foldByKey 

Spark算子:RDD键值转换操作(3)–groupByKey、reduceByKey、reduceByKeyLocally

Spark算子:RDD键值转换操作(4)–cogroup、join

Spark算子:RDD键值转换操作(5)–leftOuterJoin、rightOuterJoin、subtractByKey

 

Spark算子:RDD行动Action操作(1)–first、count、reduce、collect

Spark算子:RDD行动Action操作(2)–take、top、takeOrdered

Spark算子:RDD行动Action操作(3)–aggregate、fold、lookup

Spark算子:RDD行动Action操作(4)–countByKey、foreach、foreachPartition、sortBy

Spark算子:RDD行动Action操作(5)–saveAsTextFile、saveAsSequenceFile、saveAsObjectFile

Spark算子:RDD行动Action操作(6)–saveAsHadoopFile、saveAsHadoopDataset

Spark算子:RDD行动Action操作(7)–saveAsNewAPIHadoopFile、saveAsNewAPIHadoopDataset

 

转载:http://lxw1234.com/archives/2015/07/363.htm

以上是关于Spark算子的主要内容,如果未能解决你的问题,请参考以下文章

spark算子介绍

Spark-core算子

Spark算子总结(带案例)

Spark算子系列第0篇:spark常用算子详解

Spark算子系列第0篇:spark常用算子详解

Spark篇---Spark中Transformations转换算子