MapReduce不同进度的Reduce都在干什么?
Posted Alex Hub
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MapReduce不同进度的Reduce都在干什么?相关的知识,希望对你有一定的参考价值。
- reduce: 0-33% 是shuffle阶段。这个阶段将mappers中的数据转移到reducers中。
- reduce: 33%-67% 是sort阶段。这个阶段必须在mappers完成之后。
- reduce: 67%-100% 是实际运行 reduce 代码的阶段。每次reduce任务完成时,该百分比都会上升。
以上是关于MapReduce不同进度的Reduce都在干什么?的主要内容,如果未能解决你的问题,请参考以下文章
大数据之Hadoop(MapReduce):Join之Reduce Join应用