reducebykey和groupbykey的区别

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了reducebykey和groupbykey的区别相关的知识,希望对你有一定的参考价值。

参考技术A reduceByKey用于对每个key对应的多个value进行merge操作,最重要的是它能够在本地先进行merge操作,并且merge操作可以通过函数自定义。
groupByKey也是对每个key进行操作,但只生成一个sequence。需要特别注意“Note”中的话,它告诉我们:如果需要对sequence进行aggregation操作(注意,groupByKey本身不能自定义操作函数),那么,选择reduceByKey 比 aggregateByKey更好。这是因为groupByKey不能自定义函数,我们需要先用groupByKey生成RDD,然后才能对此RDD通过map进行自定义函数操作。

以上是关于reducebykey和groupbykey的区别的主要内容,如果未能解决你的问题,请参考以下文章

reducebykey和groupbykey的区别

Spark中reduceByKey()和groupByKey()的区别

在Spark中关于groupByKey与reduceByKey的区别

Spark 中 RDD 算子 ReduceByKey 和 GroupByKey 使用方法和区别

Spark中groupBy groupByKey reduceByKey的区别

reduceByKey 与 groupByKey 与 aggregateByKey 与 combineByKey 之间的火花差异