MapReduce不同进度的Reduce都在干什么?

Posted Alex Hub

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MapReduce不同进度的Reduce都在干什么?相关的知识,希望对你有一定的参考价值。

  1. reduce: 0-33% 是shuffle阶段。这个阶段将mappers中的数据转移到reducers中。
  2. reduce: 33%-67% 是sort阶段。这个阶段必须在mappers完成之后。
  3. reduce: 67%-100% 是实际运行 reduce 代码的阶段。每次reduce任务完成时,该百分比都会上升。

以上是关于MapReduce不同进度的Reduce都在干什么?的主要内容,如果未能解决你的问题,请参考以下文章

如何查看hadoop mapreduce 性能

mapreduce 中的map和reduce分别啥意思

大数据之Hadoop(MapReduce):Join之Reduce Join应用

hadoop mapreduce 进程都有哪些

为啥这个 MapReduce 中最后的 reduce 步骤非常慢? (HiveQL、HDFS MapReduce)

mapreduce 分区和分组的区别