spark和mapreduce的shuffle

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark和mapreduce的shuffle相关的知识,希望对你有一定的参考价值。

既然spark和mapreduce的shuffle过程都落地到磁盘,那为什么spark比mapreduce要快啊?

参考技术A Apache Spark 的 Shuffle 过程与 Apache Hadoop 的 Shuffle 过程有着诸多类似,一些概念可直接套用,例如,Shuffle 过程中,提供数据的一端,被称作 Map 端,Map 端每个生成数据的任务称为 Mapper,对应的,接收数据的一端,被称作 Reduce 端,Reduce 端每个拉取数据的任务称为 Reducer,Shuffle 过程本质上都是将 Map 端获得的数据使用分区器进行划分,并将数据发送给对应的 Reducer 的过程。

以上是关于spark和mapreduce的shuffle的主要内容,如果未能解决你的问题,请参考以下文章

为啥Spark比MapReduce快?

spark和 mapreduce的比较

MapReduce和spark的shuffle过程详解

走进大数据 | MapReduce与Spark到底谁快?

MapReduce和Spark写入Hbase多表总结

不同的瑞士军刀:对比 Spark 和 MapReduce