Spark foreachpartiton和mappartition的异同

Posted alcesttt

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark foreachpartiton和mappartition的异同相关的知识,希望对你有一定的参考价值。

相同

都是对分区进行操作

不同

1、foreachpartitionAction操作,mappartitionTransformation操作

2、foreachpartition无返回值,mappartition有返回值

3、foreachpartition一般都是在程序末尾比如说要落地数据到存储系统中如mysqles,或者hbase中,可以用它。当然在Transformation中也可以落地数据,但是它必须依赖action操作来触发它

以上是关于Spark foreachpartiton和mappartition的异同的主要内容,如果未能解决你的问题,请参考以下文章

Spark:在 SparkSql 中使用 map 和 reduce

SPARK之map()和mapPartition()的区别

大数据之Spark:Spark调优之Shuffle调优

spark中map和mapPartitions算子的区别

Spark 算子之map使用

spark dataframe 和 scala Map互相转换