hadoop 多文件夹输入,map到reduce怎样排序
Posted liguangsunls
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hadoop 多文件夹输入,map到reduce怎样排序相关的知识,希望对你有一定的参考价值。
使用MultipleInputs.addInputPath 对多个路径输入
如今如果有三个文件夹,并使用了三个mapper去处理,
经过map处理后,输出的结果会依据key 进行join,
假设使用TextPair,会依据第一个字段jion。第二个字段排序
然后在作为reduce的输入,进行计算
以上是关于hadoop 多文件夹输入,map到reduce怎样排序的主要内容,如果未能解决你的问题,请参考以下文章
无法通过map reduce java程序访问Hadoop hdfs文件系统
python的map和reduce和Hadoop的MapReduce有啥关系
Hadoop Map Reduce - Iterable上的嵌套循环 reduce中的值忽略将文本写入上下文时的文本结果