Hadoop大实验——MapReduce的操作

Posted 2020-12-01 初等变换不改变矩阵的秩

日期：2019.10.30

博客期：114

星期三

　　

　　

实验6：Mapreduce实例——WordCount

 

实验说明：

1、          本次实验是第六次上机，属于验证性实验。实验报告上交截止日期为2018年11月16日上午12点之前。

2、          实验报告命名为：信1605-1班学号姓名实验六.doc。

 

实验目的

1.准确理解Mapreduce的设计原理

2.熟练掌握WordCount程序代码编写

3.学会自己编写WordCount程序进行词频统计

实验原理

MapReduce采用的是“分而治之”的思想，把对大规模数据集的操作，分发给一个主节点管理下的各个从节点共同完成，然后通过整合各个节点的中间结果，得到最终结果。简单来说，MapReduce就是”任务的分解与结果的汇总“。

1.MapReduce的工作原理

在分布式计算中，MapReduce框架负责处理了并行编程里分布式存储、工作调度，负载均衡、容错处理以及网络通信等复杂问题，现在我们把处理过程高度抽象为Map与Reduce两个部分来进行阐述，其中Map部分负责把任务分解成多个子任务，Reduce部分负责把分解后多个子任务的处理结果汇总起来，具体设计思路如下。

（1）Map过程需要继承org.apache.hadoop.mapreduce包中Mapper类，并重写其map方法。通过在map方法中添加两句把key值和value值输出到控制台的代码，可以发现map方法中输入的value值存储的是文本文件中的一行（以回车符为行结束标记），而输入的key值存储的是该行的首字母相对于文本文件的首地址的偏移量。然后用StringTokenizer类将每一行拆分成为一个个的字段，把截取出需要的字段（本实验为买家id字段）设置为key，并将其作为map方法的结果输出。

（2）Reduce过程需要继承org.apache.hadoop.mapreduce包中Reducer类，并重写其reduce方法。Map过程输出的<key,value>键值对先经过shuffle过程把key值相同的所有value值聚集起来形成values，此时values是对应key字段的计数值所组成的列表，然后将<key,values>输入到reduce方法中，reduce方法只要遍历values并求和，即可得到某个单词的总次数。

在main()主函数中新建一个Job对象，由Job对象负责管理和运行MapReduce的一个计算任务，并通过Job的一些方法对任务的参数进行相关的设置。本实验是设置使用将继承Mapper的doMapper类完成Map过程中的处理和使用doReducer类完成Reduce过程中的处理。还设置了Map过程和Reduce过程的输出类型：key的类型为Text，value的类型为IntWritable。任务的输出和输入路径则由字符串指定，并由FileInputFormat和FileOutputFormat分别设定。完成相应任务的参数设定后，即可调用job.waitForCompletion()方法执行任务，其余的工作都交由MapReduce框架处理。

2.MapReduce框架的作业运行流程

 

（1）ResourceManager：是YARN资源控制框架的中心模块，负责集群中所有资源的统一管理和分配。它接收来自NM(NodeManager)的汇报，建立AM，并将资源派送给AM(ApplicationMaster)。

（2）NodeManager：简称NM，NodeManager是ResourceManager在每台机器上的代理，负责容器管理，并监控他们的资源使用情况（cpu、内存、磁盘及网络等），以及向ResourceManager提供这些资源使用报告。

（3）ApplicationMaster：以下简称AM。YARN中每个应用都会启动一个AM，负责向RM申请资源，请求NM启动Container，并告诉Container做什么事情。

（4）Container：资源容器。YARN中所有的应用都是在Container之上运行的。AM也是在Container上运行的，不过AM的Container是RM申请的。Container是YARN中资源的抽象，它封装了某个节点上一定量的资源（CPU和内存两类资源）。Container由ApplicationMaster向ResourceManager申请的，由ResouceManager中的资源调度器异步分配给ApplicationMaster。Container的运行是由ApplicationMaster向资源所在的NodeManager发起的，Container运行时需提供内部执行的任务命令（可以是任何命令，比如java、Python、C++进程启动命令均可）以及该命令执行所需的环境变量和外部资源（比如词典文件、可执行文件、jar包等）。

另外，一个应用程序所需的Container分为两大类，如下：

①运行ApplicationMaster的Container：这是由ResourceManager（向内部的资源调度器）申请和启动的，用户提交应用程序时，可指定唯一的ApplicationMaster所需的资源。

②运行各类任务的Container：这是由ApplicationMaster向ResourceManager申请的，并为了ApplicationMaster与NodeManager通信以启动的。

以上两类Container可能在任意节点上，它们的位置通常而言是随机的，即ApplicationMaster可能与它管理的任务运行在一个节点上。

实验环境

Linux Ubuntu 14.0

jdk-7u75-linux-x64

hadoop-2.6.0-cdh5.4.5

hadoop-2.6.0-eclipse-cdh5.4.5.jar

eclipse-java-juno-SR2-linux-gtk-x86_64

实验内容

现有某电商网站用户对商品的收藏数据，记录了用户收藏的商品id以及收藏日期，名为buyer_favorite1。

buyer_favorite1包含：买家id，商品id，收藏日期这三个字段，数据以“\\t”分割，样本数据及格式如下：

 

1. 买家id   商品id    收藏日期  
2. 10181   1000481   2010-04-04 16:54:31  
3. 20001   1001597   2010-04-07 15:07:52  
4. 20001   1001560   2010-04-07 15:08:27  
5. 20042   1001368   2010-04-08 08:20:30  
6. 20067   1002061   2010-04-08 16:45:33  
7. 20056   1003289   2010-04-12 10:50:55  
8. 20056   1003290   2010-04-12 11:57:35  
9. 20056   1003292   2010-04-12 12:05:29  
10. 20054   1002420   2010-04-14 15:24:12  
11. 20055   1001679   2010-04-14 19:46:04  
12. 20054   1010675   2010-04-14 15:23:53  
13. 20054   1002429   2010-04-14 17:52:45  
14. 20076   1002427   2010-04-14 19:35:39  
15. 20054   1003326   2010-04-20 12:54:44  
16. 20056   1002420   2010-04-15 11:24:49  
17. 20064   1002422   2010-04-15 11:35:54  
18. 20056   1003066   2010-04-15 11:43:01  
19. 20056   1003055   2010-04-15 11:43:06  
20. 20056   1010183   2010-04-15 11:45:24  
21. 20056   1002422   2010-04-15 11:45:49  
22. 20056   1003100   2010-04-15 11:45:54  
23. 20056   1003094   2010-04-15 11:45:57  
24. 20056   1003064   2010-04-15 11:46:04  
25. 20056   1010178   2010-04-15 16:15:20  
26. 20076   1003101   2010-04-15 16:37:27  
27. 20076   1003103   2010-04-15 16:37:05  
28. 20076   1003100   2010-04-15 16:37:18  
29. 20076   1003066   2010-04-15 16:37:31  
30. 20054   1003103   2010-04-15 16:40:14  
31. 20054   1003100   2010-04-15 16:40:16  

要求编写MapReduce程序，统计每个买家收藏商品数量。

统计结果数据如下：

1. 买家id 商品数量  
2. 10181   1  
3. 20001   2  
4. 20042   1  
5. 20054   6  
6. 20055   1  
7. 20056   12  
8. 20064   1  
9. 20067   1  
10. 20076   5  

实验步骤

1.切换目录到/apps/hadoop/sbin下，启动hadoop。

1. cd /apps/hadoop/sbin  
2. ./start-all.sh  

2.在linux上，创建一个目录/data/mapreduce1。

1. mkdir -p /data/mapreduce1  

3.切换到/data/mapreduce1目录下，自行建立文本文件buyer_favorite1。

依然在/data/mapreduce1目录下，使用wget命令，从

网络下载hadoop2lib.tar.gz，下载项目用到的依赖包。

将hadoop2lib.tar.gz解压到当前目录下。

1. tar -xzvf hadoop2lib.tar.gz  

4.将linux本地/data/mapreduce1/buyer_favorite1，上传到HDFS上的/mymapreduce1/in目录下。若HDFS目录不存在，需提前创建。

1. hadoop fs -mkdir -p /mymapreduce1/in  
2. hadoop fs -put /data/mapreduce1/buyer_favorite1 /mymapreduce1/in  

5.打开Eclipse，新建Java Project项目。

 

并将项目名设置为mapreduce1。

 

6.在项目名mapreduce1下，新建package包。

 

并将包命名为mapreduce 。

 

 

 

7.在创建的包mapreduce下，新建类。

 

并将类命名为WordCount。

 

8.添加项目所需依赖的jar包，右键单击项目名，新建一个目录hadoop2lib，用于存放项目所需的jar包。

 

 

将linux上/data/mapreduce1目录下，hadoop2lib目录中的jar包，全部拷贝到eclipse中，mapreduce1项目的hadoop2lib目录下。

 

选中hadoop2lib目录下所有的jar包，单击右键，选择Build Path=>Add to Build Path

 

9.编写Java代码，并描述其设计思路。

下图描述了该mapreduce的执行过程

 

大致思路是将hdfs上的文本作为输入，MapReduce通过InputFormat会将文本进行切片处理，并将每行的首字母相对于文本文件的首地址的偏移量作为输入键值对的key，文本内容作为输入键值对的value，经过在map函数处理，输出中间结果<word,1>的形式，并在reduce函数中完成对每个单词的词频统计。整个程序代码主要包括两部分：Mapper部分和Reducer部分。

Mapper代码

1. public static class doMapper extends Mapper<Object, Text, Text, IntWritable>{  
2. //第一个Object表示输入key的类型；第二个Text表示输入value的类型；第三个Text表示表示输出键的类型；第四个IntWritable表示输出值的类型  
3. public static final IntWritable one = new IntWritable(1);  
4.         public static Text word = new Text();  
5.         @Override  
6.         protected void map(Object key, Text value, Context context)  
7.                     throws IOException, InterruptedException  
8.                        //抛出异常  
9. {  
10.             StringTokenizer tokenizer = new StringTokenizer(value.toString(),"\\t");  
11.           //StringTokenizer是Java工具包中的一个类，用于将字符串进行拆分  
12.   
13.                 word.set(tokenizer.nextToken());  
14.                  //返回当前位置到下一个分隔符之间的字符串  
15.                 context.write(word, one);  
16.                  //将word存到容器中，记一个数  
17.         }  

在map函数里有三个参数，前面两个Object key,Text value就是输入的key和value，第三个参数Context context是可以记录输入的key和value。例如context.write(word,one)；此外context还会记录map运算的状态。map阶段采用Hadoop的默认的作业输入方式，把输入的value用StringTokenizer()方法截取出的买家id字段设置为key，设置value为1，然后直接输出<key,value>。

Reducer代码

1. public static class doReducer extends Reducer<Text, IntWritable, Text, IntWritable>{  
2. //参数同Map一样，依次表示是输入键类型，输入值类型，输出键类型，输出值类型  
3. private IntWritable result = new IntWritable();  
4.         @Override  
5.         protected void reduce(Text key, Iterable<IntWritable> values, Context context)  
6.     throws IOException, InterruptedException {  
7.     int sum = 0;  
8.     for (IntWritable value : values) {  
9.     sum += value.get();  
10.     }  
11.     //for循环遍历，将得到的values值累加  
12.     result.set(sum);  
13.     context.write(key, result);  
14.     }  
15.     }  

map输出的<key,value>先要经过shuffle过程把相同key值的所有value聚集起来形成<key,values>后交给reduce端。reduce端接收到<key,values>之后，将输入的key直接复制给输出的key,用for循环遍历values并求和，求和结果就是key值代表的单词出现的总次，将其设置为value，直接输出<key,value>。

完整代码

 1 package mapreduce;  
 2 import java.io.IOException;  
 3 import java.util.StringTokenizer;  
 4 import org.apache.hadoop.fs.Path;  
 5 import org.apache.hadoop.io.IntWritable;  
 6 import org.apache.hadoop.io.Text;  
 7 import org.apache.hadoop.mapreduce.Job;  
 8 import org.apache.hadoop.mapreduce.Mapper;  
 9 import org.apache.hadoop.mapreduce.Reducer;  
10 import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;  
11 import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;  
12 public class WordCount {  
13     public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {  
14         Job job = Job.getInstance();  
15         job.setJobName("WordCount");  
16         job.setJarByClass(WordCount.class);  
17         job.setMapperClass(doMapper.class);  
18         job.setReducerClass(doReducer.class);  
19         job.setOutputKeyClass(Text.class);  
20         job.setOutputValueClass(IntWritable.class);  
21         Path in = new Path("hdfs://localhost:9000/mymapreduce1/in/buyer_favorite1");  
22         Path out = new Path("hdfs://localhost:9000/mymapreduce1/out");  
23         FileInputFormat.addInputPath(job, in);  
24         FileOutputFormat.setOutputPath(job, out);  
25         System.exit(job.waitForCompletion(true) ? 0 : 1);  
26     }  
27     public static class doMapper extends Mapper<Object, Text, Text, IntWritable>{  
28         public static final IntWritable one = new IntWritable(1);  
29         public static Text word = new Text();  
30         @Override  
31         protected void map(Object key, Text value, Context context)  
32                     throws IOException, InterruptedException {  
33             StringTokenizer tokenizer = new StringTokenizer(value.toString(), "\\t");  
34                 word.set(tokenizer.nextToken());  
35                 context.write(word, one);  
36         }  
37     }  
38     public static class doReducer extends Reducer<Text, IntWritable, Text, IntWritable>{  
39         private IntWritable result = new IntWritable();  
40         @Override  
41         protected void reduce(Text key, Iterable<IntWritable> values, Context context)  
42         throws IOException, InterruptedException {  
43         int sum = 0;  
44         for (IntWritable value : values) {  
45         sum += value.get();  
46         }  
47         result.set(sum);  
48         context.write(key, result);  
49         }  
50     }  
51 }  

WordCount

 

10.在WordCount类文件中，单击右键=>Run As=>Run on Hadoop选项，将MapReduce任务提交到Hadoop中。

 

11.待执行完毕后，打开终端或使用hadoop eclipse插件，查看hdfs上，程序输出的实验结果。

1. hadoop fs -ls /mymapreduce1/out  
2. hadoop fs -cat /mymapreduce1/out/part-r-00000  

 

　　实验注意：

　　　　导入的jar包一定要全（common、mapreduce、yarn、hdfs相关的都要有）！

　　　　实验中的测试数据之间的分隔符是"\\t"，要注意不是空格【space】

 

　　运行结果如下: