MapReduce原理

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MapReduce原理相关的知识,希望对你有一定的参考价值。

MappeReduce的一般程序流程由三个类组成——Mapper类,Reduce类,Driver类。

Mapper类:

技术分享

敲黑板!重点:第十二行,IntWritable v = new IntWritable();

重点二:当我们在第十行写完的时候,关于第十四十五十六行的内容可以由自动生成的方式生成。输入“map”,就会出现自动提示内容了;如果未设置自动提示,按“alt”+"/"也能出现自动提示。

Reducer类:

技术分享

敲黑板!重点:stringBuffer和string都可以代表字符串,但是当需要对字符串进行多次修改时,使用stringBuffer。stringBuffer使用构造方法来初始化,如上第13行所示。

重点二:第20行的第二个参数,固定格式要写:NullWritable.get().

 

 

 

Driver类:

技术分享

 来听解释啦!

23到30行后面的“.class”的意思不是类哦,而是java编译的 .class 文件。

 

运行结果:

技术分享

老师使用这个程序给我们讲MapReduce的原理。

以上是关于MapReduce原理的主要内容,如果未能解决你的问题,请参考以下文章

大数据基础总结---MapReduce和YARN技术原理

Hadoop 4Hadoop MapReduce的工作原理

MapReduce的原理及执行过程

MapReduce运行原理

大数据之Hadoop(MapReduce): MapReduce框架原理

深入理解MapReduce的架构及原理