hadoop14hadoop2.5的mapreduce的 配置

Posted phlsheji

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hadoop14hadoop2.5的mapreduce的 配置相关的知识,希望对你有一定的参考价值。

配置mapreduce

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?

> <!-- Licensed under the Apache License, Version 2.0 (the "License"); you may not use this file except in compliance with the License. You may obtain a copy of the License at http://www.apache.org/licenses/LICENSE-2.0 Unless required by applicable law or agreed to in writing, software distributed under the License is distributed on an "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. See the License for the specific language governing permissions and limitations under the License. See accompanying LICENSE file. --> <!-- Put site-specific property overrides in this file. --> <configuration> </configuration> 加上这个 <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration>

技术分享

技术分享
然后在yarn-site.xml里面进行配置

技术分享

<configuration>

<!-- Site specific YARN configuration properties -->
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <!-- 在哪里执行对应的程序 -->
        <value>hadoop1</value>
    </property>

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property> 

</configuration>

启动

前面启动了hdfs之后
在启动yarn

sbin/start-yarn.sh

Hadoop1上
技术分享

Node1
技术分享

Node2

技术分享

Node3

技术分享

项目
開始我们的eclipse中的mapreduce的项目执行

首先建立一个java项目

然后导入对应的包
Common以下的

技术分享

技术分享

Mapreduce下的
技术分享

Yarn以下的额

技术分享

Hdfs以下的
技术分享

我们的需求文档

1949-10-01 14:21:02 34℃
1949-10-02 14:01:02 36℃
1950-01-01 11:21:02 32℃
1950-10-01 12:21:02 37℃
1951-12-01 12:21:02 23℃
1950-10-02 12:21:02 41℃
1950-10-03 12:21:02 27℃
1951-07-01 12:21:02 45℃
1951-07-02 12:21:02 46℃
?
1949-10-01 14:21:02 34℃
1949-10-01 14:21:02 34℃
1949-10-01 14:21:02 34℃
?
1949-10-01 14:21:02 34℃
?
























以上是关于hadoop14hadoop2.5的mapreduce的 配置的主要内容,如果未能解决你的问题,请参考以下文章

在eclipse上开发hadoop2.5.2程序的快捷方法

安装配置hadoop2.5.1安装包

hadoop2.5.0 HA高可用配置

搭建Hadoop2.5.2+Eclipse开发调试环境

hadoop学习笔记——WIN7+eclipse+hadoop2.5.2部署

Hadoop2.5.2集群部署(完全分布式)