Map-Reduce基础
Posted futurehau
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Map-Reduce基础相关的知识,希望对你有一定的参考价值。
1.设置文件读入分隔符
默认按行读入;
按句子读入 : conf1.set("textinputformat.record.delimiter", ".");
2.set up 方法
此方法被MapReduce框架仅且执行一次,在执行Map任务前,进行相关变量或者资源的集中初始化工作。
若是将资源初始化工作放在方法map()中,导致Mapper任务在解析每一行输入时都会进行资源初始化工作,导致重复,程序运行效率不高!
以上是关于Map-Reduce基础的主要内容,如果未能解决你的问题,请参考以下文章
hadoop-初学者写map-reduce程序中容易出现的问题 3