hadoop 多文件夹输入,map到reduce怎样排序

Posted liguangsunls

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hadoop 多文件夹输入,map到reduce怎样排序相关的知识,希望对你有一定的参考价值。

使用MultipleInputs.addInputPath 对多个路径输入
如今如果有三个文件夹,并使用了三个mapper去处理,
经过map处理后,输出的结果会依据key 进行join,
假设使用TextPair,会依据第一个字段jion。第二个字段排序
然后在作为reduce的输入,进行计算





以上是关于hadoop 多文件夹输入,map到reduce怎样排序的主要内容,如果未能解决你的问题,请参考以下文章

Hadoop Map/Reduce

Hadoop优化

无法通过map reduce java程序访问Hadoop hdfs文件系统

hadoop mapreduce 进程都有哪些

python的map和reduce和Hadoop的MapReduce有啥关系

Hadoop Map Reduce - Iterable上的嵌套循环 reduce中的值忽略将文本写入上下文时的文本结果