Map-Reduce基础

Posted futurehau

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Map-Reduce基础相关的知识,希望对你有一定的参考价值。

1.设置文件读入分隔符

默认按行读入;

句子读入 : conf1.set("textinputformat.record.delimiter", ".");

2.set up 方法

此方法被MapReduce框架仅且执行一次,在执行Map任务前,进行相关变量或者资源的集中初始化工作。

若是将资源初始化工作放在方法map()中,导致Mapper任务在解析每一行输入时都会进行资源初始化工作,导致重复,程序运行效率不高!

 

以上是关于Map-Reduce基础的主要内容,如果未能解决你的问题,请参考以下文章

MongoDB下Map-Reduce使用简单翻译及示例

map-reduce入门

hadoop-初学者写map-reduce程序中容易出现的问题 3

hadoop——配置eclipse下的map-reduce运行环境 1

什么是Map-Reduce

map-reduce 中不同组件/动作的执行顺序