spark和mapreduce的shuffle
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark和mapreduce的shuffle相关的知识,希望对你有一定的参考价值。
既然spark和mapreduce的shuffle过程都落地到磁盘,那为什么spark比mapreduce要快啊?
参考技术A Apache Spark 的 Shuffle 过程与 Apache Hadoop 的 Shuffle 过程有着诸多类似,一些概念可直接套用,例如,Shuffle 过程中,提供数据的一端,被称作 Map 端,Map 端每个生成数据的任务称为 Mapper,对应的,接收数据的一端,被称作 Reduce 端,Reduce 端每个拉取数据的任务称为 Reducer,Shuffle 过程本质上都是将 Map 端获得的数据使用分区器进行划分,并将数据发送给对应的 Reducer 的过程。以上是关于spark和mapreduce的shuffle的主要内容,如果未能解决你的问题,请参考以下文章