仅使用 Hadoop 2.6.0 在 4 节点集群上工作的主节点

Posted

技术标签:

【中文标题】仅使用 Hadoop 2.6.0 在 4 节点集群上工作的主节点【英文标题】:Only master node working on 4-node cluster using Hadoop 2.6.0 【发布时间】:2015-03-26 17:28:23 【问题描述】:

我正在尝试设置和使用 4 节点 Hadoop 集群。 设置似乎很顺利,因为一切都在主节点和从节点中运行。

Master:DataNode、ResourceManager、SecondaryNameNode、NameNode、NodeManager

从站:NodeManager、DataNode

此外,日志显示没有错误。然而,当我尝试运行我的代码时,它所花费的时间与我在单个节点上运行它所花费的时间大致相同。此外,任何从属节点上的 CPU 活动都不会增加。

slave 可以 ssh 到主节点,主节点正在监听正确的端口,...

对我如何追查问题有任何帮助吗?

谢谢!

操作系统:Ubuntu 14.04.2 Hadoop版本:2.6.0

我看过相关的问题,但对我没有帮助:

hadoop cluster is using only master node or all nodes

Hadoop use only master node for processing data

【问题讨论】:

您是否使用 Ambari 安装了 Hadoop 集群? 不,我没有。根据ambari.apache.org,他们不支持 64 位 Ubuntu 14。我无法更改操作系统。 【参考方案1】:

基本上你只有一个数据节点和两个节点管理器。与单节点集群相比,它的配置并不多。要检查发生了什么,您可以转到资源管理器 UI。默认情况下,它在端口 8088 上。

【讨论】:

以上是关于仅使用 Hadoop 2.6.0 在 4 节点集群上工作的主节点的主要内容,如果未能解决你的问题,请参考以下文章

Hadoop 集群安装(主节点安装)

Hadoop 2.6.0 HA高可用集群配置详解

VMware 虚拟机安装 hadoop 2.6.0 完全分布式集群

Hadoop概念学习系列之Hadoop集群动态增加新节点或删除已有某节点及复制策略导向

hadoop2.6集群下Zookeeper与Hbase的安装与配置

hadoop生态搭建(3节点)-17.sqoop配置_单节点