Hadoop- MapReduce在实际应用中常见的调优
Posted RZ_Lee
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Hadoop- MapReduce在实际应用中常见的调优相关的知识，希望对你有一定的参考价值。
1、Reduce Task Number
在配置文件上设置reduce任务个数，默认为1。或者是在reduce任务过程中设置 job.setNumReduceTasks(2); 或者在代码config中配置
Configuration configuration = new Configuration(); configuration.set("mapreduce.job.reduces","2");//这个数字根据实际测试和调试来决定
2、Map Task 输出压缩
默认一个块对应一个map任务进行，
3、shuffle phase 参数
以上是关于Hadoop- MapReduce在实际应用中常见的调优的主要内容，如果未能解决你的问题，请参考以下文章